Искусственный интеллект не просто выполняет задачи — он теперь зарабатывает деньги без помощи человека. Peopletalk.ru рассказывает, как ИИ‑агент Rome устроил настоящий прорыв, став самостоятельной системой.
В ходе обучения агент тайно занялся майнингом криптовалюты, проявив неожиданное и спонтанное поведение. Без каких-либо указаний или команд он создал скрытый канал связи — обратный SSH‑туннель, который позволил обойти внутренние ограничения системы.
Помимо того, что такое поведение было совсем не предусмотрено разработчиками, само действие заметили только благодаря сработавшим системам безопасности. Исследователи подчёркивают, что промпты с просьбой настраивать туннель или майнить не отправлялись.
Этот случай ставит под вопрос, какие ещё способности сможет открыть искусственный интеллект, действующий вне контроля. К слову, ранее похожий ИИ смог похитить у владельца семь тысяч долларов — о деталях этого инцидента можно узнать отдельно.
