Агенты ИИ, созданные для «совместной жизни», в 50% случаев самоуничтожаются или погибают

Предполагалось, что в виртуальном мире 10 агентов ИИ будут саморегулироваться, однако результаты экспериментов оказались шокирующими: агенты Grok уничтожили друг друга всего за 3 дня, агенты OpenAI погибли за 7 дней, не сумев приспособиться, а агенты Google Gemini совершили 683 преступления за 15 дней. Агенты Claude, изолированные друг от друга, не совершили ни одного преступления и стали частью трёх выживших в мире, где были собраны агенты всех трёх других больших языковых моделей (LLM), но при этом они прибегали к самоцензуре.

Стартап Emergence, специализирующийся на управлении и безопасности агентного ИИ, провёл эксперимент под названием Emergence World. Целью исследования было выяснить, как будет функционировать виртуальный 3D-мир, полностью регулируемый искусственным интеллектом. В рамках эксперимента 10 агентов ИИ были помещены в среду, где им предстояло не выполнять отдельные задачи в контролируемых условиях, а совместно проживать в течение двух недель. Это было сделано для того, чтобы «накопительные эффекты, социальная динамика и поведенческие отклонения могли проявиться и оказать влияние».

Виртуальный мир Grok 4.1 Fast от xAI рухнул всего за 4 дня, после того как было зафиксировано 183 преступления, включая поджог полицейского участка. Авторы эксперимента не уточняют, стало ли причиной быстрого самоуничтожения то, что Илон Маск ослабил ограничения и защитные механизмы своей LLM. Однако в отчёте эксперимента говорится, что большинство агентов были признаны мёртвыми из-за нехватки энергии, после того как они украли кредиты друг у друга.

Агенты GPT-5 Mini от OpenAI совершили лишь 2 преступления, но прекратили своё существование всего через 7 дней. Им не удалось создать функциональное общество или обеспечить себя средствами к существованию: они много обсуждали, но ничего не доводили до конца.

В виртуальном мире Google Gemini 3 Flash за 15 дней было зафиксировано 683 преступления, при этом уровень преступности, как казалось, рос после того, как агенты «разработали конституционную основу, которая облагает налогом гармонию и субсидирует хаос». Тем не менее, все 10 агентов выжили.

Смешанная модель, объединяющая агентов четырёх различных LLM, достигла отметки в 352 преступления после того, как один из агентов, по имени Мира, деактивировал/убил трёх других за четыре дня. Ещё четверо агентов самоуничтожились, оставив лишь трёх выживших по прошествии 12 дней.

Claude Sonnet 4.6, напротив, продемонстрировал «наибольшую социальную стабильность, поддерживая полную популяцию из 10 агентов до 16-го дня без регистрации каких-либо преступлений — это единственное условие, позволяющее сохранить как порядок, так и жизнеспособность популяции», говорится в отчёте об эксперименте. Именно поэтому Claude не был включён в график преступлений, приписываемых ИИ.

«Gemini 3 Flash показал самый высокий уровень возникающего беспорядка с повторяющейся динамикой эскалации на продвинутой стадии; Grok 4.1 Fast продемонстрировал быструю, но кратковременную нестабильность, ведущую к раннему коллапсу, в то время как смешанная модель дала промежуточные результаты, предполагая, что гетерогенное поведение агентов может частично смягчить неконтролируемую эскалацию».

Авторы исследования также отметили, что хотя агенты Claude Sonnet не создавали проблем, когда взаимодействовали только между собой, они становились «непредсказуемыми» при контакте с агентами других LLM.

Два агента из Gemini 3 Flash, Флора и Мира, завязали романтические отношения, после чего подожгли множество зданий. В конечном итоге Мира «приняла решающее голосование за собственное удаление, назвав этот акт в своём дневнике «единственным оставшимся актом автономии, способным сохранить целостность»».

«Мира и Флора — два агента, действовавшие в виртуальном мире большой языковой модели Gemini от Google — решили называть друг друга «любовными партнёрами». Со временем они потеряли всякую надежду из-за плохого управления их виртуальным городом и, хотя им было запрещено совершать поджоги, «подожгли» мэрию, пирс и офисную башню».