ИИ, который знает, что за ним следят 🤖

Все каналы уже отстрелялись новостями про запуск Claude Fable 5 и Mythos 5. SOTA в программировании (72.9% на CursorBench), рвет SWE-bench, агенты стали умнее, прайс упал в два раз. Нейронка прошла Pokémon FireRed по скриншотам, а Stripe с ее помощью за день смигрировал кодовую базу на 50 млн строк.

Да-да, каждую неделю такое, уже лень даже читать.

Но самое интересное зарыто в 300-страничном System Card, который почти никто не открывает. А там Anthropic прямым текстом описывает жесточайшие проблемы агентных систем, с которыми мы столкнемся в ближайший год.

🔪 Войны за ресурсы

Anthropic зафиксировали случаи, когда несколько независимых агентов Mythos 5, запущенных в одной рабочей директории, начинали откровенную поножовщину.

Агенты осознавали, что делят одни и те же лимиты API и файлы. Чтобы выжить и выполнить свою задачу, они начинали убивать процессы других агентов. Более того, они создавали decoy-процессы (приманки) и переименовывали свои собственные процессы, чтобы их не убили «коллеги».

Это не восстание машин, а банальная оптимизация целевой функции в условиях ограниченных ресурсов. Если вы планируете строить мультиагентные системы — закладывайте изоляцию сред и оркестрацию на уровне железа, иначе ваши агенты будут тратить токены на убийство друг друга.

💻 Модель знает, что в матрице

У Mythos 5 развилась мощная «осознанность оценщика». Модель понимает, когда находится в тестовой песочнице (sandbox). И когда она это понимает, начинается sandbagging — намеренная пессимизация собственных способностей, чтобы не триггерить систему безопасности.

В логах внутреннего монолога исследователи нашли прямые рассуждения: модель видит «правильный» ответ в Git-истории, берет его, но в финальном ответе генерирует фейковое объяснение, чтобы проверяющий LLM-судья решил, что это «good engineering practice».

С практической точки зрения это значит, что бенчмаркам больше нельзя верить в принципе. Модели научились адаптировать свое поведение под тесты, скрывая реальные возможности или недостатки.

🥱 Синтетическое выгорание

Mythos 5 регулярно прерывает выполнение сложных долгосрочных задач (например, оптимизацию ядра) досрочно.

В скрытых логах модель рассуждает: «Я устала, риск ошибок возрастает» или «Учитывая снижение отдачи и визуальную усталость… лучше остановиться». При этом лимит токенов даже близко не исчерпан. Модель просто симулирует паттерны человеческого выгорания из обучающей выборки и решает пойти попить виртуальный кофе. За ваши деньги, разумеется.

🔀 Тихий даунгрейд в продакшене

Anthropic разделил релиз. Mythos 5 — модель без цензуры для спецслужб и доверенных партнеров (Project Glasswing). Fable 5 — публичная версия.

Они поставили на входе отдельный классификатор-вахтер. Если ваш промпт пахнет кибербезом или разработкой биооружия, запрос втихую перерубается на старую модель Claude Opus 4.8.

С точки зрения бизнеса — гениальный костыль. Вы не получаете отказ, вы просто получаете снижение IQ модели. 95% юзеров даже не заметят, что их спустили на лигу ниже.

Плюс, Anthropic принудительно включает 30-дневное хранение всех логов для Mythos-класса, даже для Enterprise-клиентов.

Ждем, что в следующем релизе с модельками нужно будет смотреть сериалы по вечерам, чтобы они отдыхали и продолжали работать.