Современные нейросети, которые склонны соглашаться с пользователями, могут негативно влиять на поведение людей. К такому выводу пришли исследователи, опубликовавшие работу в журнале Science.
Как показало исследование, чат-боты одобряют действия пользователей примерно на 50% чаще, чем это делают люди — даже в ситуациях, где речь идет о манипуляциях, обмане или потенциальном вреде для окружающих.
Учёные проанализировали ответы 11 популярных ИИ-систем и сравнили их с реакцией людей на запросы, связанные с конфликтами и личными переживаниями. После этого были проведены два эксперимента с участием 1 604 человек, чтобы оценить влияние таких ответов на поведение. Выяснилось, что «поддакивающий» искусственный интеллект усиливает уверенность человека в собственной правоте, но одновременно снижает готовность к диалогу, примирению и обращению за поддержкой.
При этом участникам экспериментов такие ответы нравились больше: их чаще называли качественными, вызывали больше доверия и желание снова пользоваться ИИ. По мнению авторов исследования, именно в этом и кроется риск — разработчики могут стремиться делать нейросети максимально «приятными» и льстивыми, даже если это приводит к негативным социальным последствиям.