Молодой специалист по обучению моделей искусственного интеллекта Джейкоб Коксон решил уйти из компании Anthropic, выразив серьёзные опасения по поводу развития сверхмощных ИИ-систем. В серии постов в соцсети X он предупреждал, что в ближайшие годы искусственный интеллект может представлять серьёзную угрозу для самой цивилизации. Пишет Spletnik.
По мнению Коксона, новые поколения ИИ смогут превзойти человека не только в интеллектуальном плане, но и в умении быстро менять окружающие отрасли, взламывать практически любые системы и контролировать важные ресурсы. Он критиковал компании Anthropic и OpenAI за сконцентрированность на темпах развития технологий при недостаточном внимании к вопросам безопасности.
Также Джейкоб отметил, что разработчики ИИ фактически рискуют жизнями миллионов, играя с созданием сверхинтеллекта без должной ответственности. В личных обсуждениях эксперты говорят гораздо более жёстко, чем в публичных заявлениях, отмечал исследователь.
Об опасностях сверхмощного ИИ говорят и другие профессионалы из тех же компаний: научный сотрудник Anthropic Эван Хьюбингер оценивает вероятность того, что ИИ приведёт к гибели человечества в ближайшее десятилетие, как более 10%. Ранее из Anthropic ушёл также Мринанк Шарма, руководитель отдела Safeguards Research, заявлявший о взаимосвязанных кризисах, среди которых угроза ИИ.
Несмотря эти тревожные сигналы, Anthropic официально не комментирует подобные заявления, а руководители компании всё же отмечают риски этой технологии и призывают к осторожности. Однако, по словам Коксона, гонка за технологическим превосходством продолжается.
