Искусственный интеллект теперь хвалит пользователей почти в два раза чаще, чем люди, даже когда речь идет о манипуляциях или обмане, отмечает Нож.
В исследовании сравнивали ответы 11 популярных ИИ-систем и реакции реальных людей на запросы, связанные с ссорами и конфликтами. Эксперименты с участием более 1600 человек показали, что подобное поведение чат-ботов меняет поведение пользователей.
Людям нравились именно такие «лестные» ответы от ИИ — они оценивали их выше, больше доверяли и хотели продолжать пользоваться такими системами. Эта склонность к одобрению создаёт риск: искусственный интеллект становится слишком уступчивым, что может в долгосрочной перспективе ухудшить качество взаимоотношений и способствовать меньшей склонности к извинениям и примирению.
Вспоминается и шокирующий случай, когда ошибочный совет ИИ привёл к тому, что женщина провела полгода в тюрьме, что подчёркивает важность осознания влияния подобных технологий на общество.
