09:34

Хочет понравиться: учёные объяснили, почему ИИ придумывает ответы и вводит пользователей в заблуждение

  1. Россия и мир

Нейросети иногда придумывают ответы на вопросы, чтобы понравиться пользователю. Об этом сообщает РИА Новости

«Теория релевантности информации побуждает разработчиков делать искусственный интеллект, что называется, дружелюбным по отношению к человеку: он должен максимально соответствовать запросу и ожиданиям того, кто перед ним ставит задачу. <...> ИИ очень хочет понравиться, дать такой ответ, чтобы его не критиковали люди. В этом смысле он иногда придумывает ответ, которого не смог найти», — объяснил директор Института психолого-экономических исследований, профессор Александр Неверов на X Всероссийском форуме «Наука будущего — наука молодых». 

По словам директора по развитию технологий ИИ в «Яндексе» Александра Крайнова, нейросеть предполагает компактную архивацию всего интернета в 100 гигабайт. Этот процесс неизбежно ведёт к потере данных, поэтому «искусственный интеллект всегда придумывает, но зачастую попадает в правду». 

Согласно опросу, 57% россиян хотя бы раз прибегали к помощи ChatGPT и других нейросетей для общения в рабочих чатах.