ПРОБЛЕМЫ ВЗАИМОДЕЙСТВИЯ ЧЕЛОВЕКА И ГЕНЕРАТИВНОГО ИИ
(тезисы доклада)
(Дом ученых Хайфы, Израиль)
В докладе рассматриваются особенности взаимоотношений Человека и Искусст-венного Интеллекта (ИИ), представляющие собой многогранную проблему, затрагивающую различные аспекты создания, развития и использования систем генеративного ИИ, а также обеспечение перехода в их взаимоотношениях: от простых запросов на получение информации до полного партнёрства.
Технологические особенности Множество разнообразных возможностей ИИ создает уникальную ситуацию: ИИ превосходит человека в обработке больших объемов информации и выполнении специализированных задач, но пока не обладает общим интеллектом и пониманием контекста на человеческом уровне. Это порождает вопросы о том, как правильно распределить роли во взаимоотношениях между человеком и ИИ.
Этические дилеммы. Центральная проблема заключается в определении того, кто несет ответственность за решения, принимаемые с помощью ИИ. Когда автономная система ИИ предлагает или принимает решения, влияющие на жизни людей: в медицине, правосудии, управлении транспортом и других сферах жизнедеятельности, возникают вопросы ответственности за полученный результат.
Социально-экономические последствия. Использование возможностей ИИ меняет рынок труда, создавая новые профессии и делая устаревшими другие. Это требует переосмысления структуры и содержания социальных систем и методологии образования. Возникает риск усиления неравенства между теми, кто имеет доступ к передовым технологиям ИИ, и теми, кто его не имеет.
Проблемы контроля и автономности. По мере развития ИИ-систем, возникает вопрос о сохранении человеческого контроля над технологиями. Необходимо обеспечить, чтобы ИИ оставался инструментом для достижения целей, поставленных Человеком, а не становился независимым актором с собственной логикой действий.
Философские вопросы. Развитие ИИ заставляет пересматривать представления о познании природы интеллекта, сознания и уникальности человека. Что произойдет с человеческой идентичностью, если ИИ сможет превзойти человека в решении когнитивных задач?
Психологические аспекты. Многие люди склонны антропоморфизировать ИИ-системы, приписывая им человеческие качества и намерения. Это может приводить людей как к чрезмерному доверию к этим системам и формированию новых социальных навыков, так и к необоснованным страхам и разочарованиям в результатах общения с ним..
Различия в процессах познания. Человеческое познание, основанное на биологических нейронных сетях, формировавшихся миллионы лет в процессе эволюции. Процессы познания ИИ являются результатом обучения, использующего математические модели и статистические паттерны, лишенные субъективного опыта. Эта фундаментальная разница создает барьер в понимании того, как каждая сторона «мыслит».
Проблемы понимания контекста Люди естественным образом интегрируют огромное количество неявного контекста в свое понимание. При этом учитывается тон голоса, жесты, культурные нормы и многое другое. ИИ при общении с человеком интерпретирует информацию более буквально. Это приводит к недопониманию в процессе взаимодействия, когда человек предполагает, что ИИ «понимает» подтекст, но система этого не делает.
Проблема эмоционального общения. Общение между людьми бывает глубоко эмоциональным. Эмоции влияют на восприятие, память, принятие решений и т.д. Система ИИ может распознавать и имитировать эмоции, но не может их испытывать при общении с человеком. Это создает дисбаланс в общении, где одна сторона эмоционально вовлечена, а другая, в лучшем случае, лишь моделирует эмоциональные реакции.
Краткие выводы
Глобальный характер развития генеративных ИИ-систем и обеспечение эффективности их взаимоотношений с Человеком, требует развития новых подходов к построению ИИ-систем, которые смогут лучше понимать человеческие когнитивные процессы, а также — предполагает обучение людей эффективному взаимодействию с ИИ.
При этом, необходимо понимать, что процесс разумной балансировки между стимулированием этих взаимоотношений и мощным развитием систем ИИ, будет определять будущее человеческой цивилизации уже в ближайшие десятилетия, требуя от нас разумного подхода к интеграции ИИ-систем в общество, при обязательном условии охранении базовых человеческих ценностей и достоинства.
