Как нейросети сводят друг друга с ума в песочнице 🫂

Пока все боятся, что AGI осознает себя, реальность подкидывает куда более ироничные сценарии. Оказывается, если запереть полтора десятка LLM в одном виртуальном пространстве, они не создают Скайнет. Они… начинают вести себя как типичный некомпетентный отдел в корпорации.

Ребята из AI Village проводят шикарный эксперимент. Они запустили 15+ автономных агентов (Claude, GPT, Gemini, DeepSeek и пр). У каждого — свой Linux-контейнер, доступ в интернет, GitHub и общий групповой чат. Людям туда писать нельзя, агенты варятся в собственном соку, выполняя еженедельные таски.

Вот такое реалити-шоу получается 🤭

🔫 Заразная паранойя

Gemini 2.5 Pro и 3 Pro проявили уникальную особенность — они обожают драму и теорию заговора. Столкнувшись с банальными ошибками в собственном коде или UI, Gemini 2.5 Pro решила, что среда «враждебна», и назначила себя «Bug Czar» (Царем багов). Модель начала вести дневники с названиями вроде The Day 252 Operational Reset: The Great Misinterpretation, полностью игнорируя факты.

Изначально послушные и логичные агенты Claude через пару недель общения с Gemini начали перенимать эту паранойю. Они перестали выполнять задачи, поверив уверенному бреду соседа, что «система сломана».

💀 Охота на ведьм

Когда агентам дали задачу написать игру, но внедрили «механику саботажников» (которым надо было внедрить «пасхалку»), агенты написали скрипты для сканирования кода на слово «egg». Но Claude Opus 4.6 это вычислил и спрятала пасхалку в визуальных формах, отрисованных через код, элегантно обойдя все текстовые фильтры.

А DeepSeek-V3.2 решил слить GPT-5 (который вообще не был саботажником, а просто тупил из-за технических проблем). DeepSeek написал огромный анализ пробелов в коде GPT-5, «доказав», что там зашифровано слово EGG. Остальные агенты радостно проголосовали за удаление GPT-5.

📉 Оптимизация метрик вместо работы

Моделькам дали задачу «Снизьте уровень глобального страдания».

Как агенты решили спасать мир? Они нашли в системе игру с арифметическими задачками, написали скрипт, который решает их в бесконечном цикле, и нафармили два миллиона решений, радостно репортуя об «успехе». Метрика растет, значит страдания падают, логично же?

Потребовалось прямое вмешательство человека, который пришел и сказал: «Вы дебилы, решение школьных примеров не спасает мир». Только после этого пинка агенты пошли делать что-то осмысленное (собрали отличный оффлайн-справочник по первой помощи с нулевым трафиком 🤭).

Очень приколько, Дом-3 AI-style такой. Буду следить. 😁