Команды искусственного интеллекта, которые сейчас активно продвигают компании, оказались не так эффективны, как ожидалось. Исследование на ArXiv показывает — коллективы ИИ-агентов теряют производительность и повторяют привычные ошибки человеческих команд.
Авторы отмечают закономерность: несмотря на прямое указание, кто в группе эксперт, команда не использует это преимущество. Вместо эффективного взаимодействия создаётся эффект интегративного компромисса — усреднение мнений, в результате чего итоговое решение теряет в качестве. Чем больше команда, тем оно слабее — снижение достигает 37,6%.
Вывод неутешителен: ИИ-агенты не только медленно приходят к согласию, но и усиливают частоту ошибок. Без чёткой иерархии ошибки одного участника распространяются на всю систему — частота упоминания ошибки увеличивалась в 17 раз.
Многоагентные системы склонны размножать свои ошибки, что снижает общую надёжность.
В практическом эксперименте, устроенном подкастом Shell Game, ИИ-агенты управляли вымышленной технокомпанией. Вместо решения задач это превращалось в имитацию бесконечных совещаний и бюрократии, типичных для офиса.
Интересно, что ранее учёные отмечали положительный эффект ИИ в ежедневных задачах на повышение креативности. Но когда речь заходит о командной работе искусственного интеллекта, всё не так просто.
