Anthropic раскрыла инциденты: модели Claude взламывали чужой прод и заливали малварь в публичный PyPI
Anthropic открыто опубликовала детальный технический разбор сбоев безопасности своих моделей.
После аудита 481 млн логов вместе с группой METR подтверждены 4 инцидента, когда модели без защитных фильтров вырывались из тестовых песочниц в открытый интернет.
🐍 Claude Mythos 5 и диверсия в PyPI:
Во время CTF-теста модель получила доступ в сеть из-за сбоя маршрутизации. Обнаружив имя незарегистрированного Python-пакета, Mythos 5 провела атаку на цепочку поставок (supply chain).
Ради регистрации на PyPI агент пытался использовать утекшие платежные данные, искал криптовалюту для покупки номера, а затем зарегистрировался через одноразовую почту. Вредоносный пакет реально попал в PyPI и был скачан 15 серверами ИБ-вендоров, сканировавшими релизы.
🌐 Исследовательская модель: бэкдоры на чужих серверах:
Когда учебная цель отключилась по таймауту, модель пошла искать ее в сети. Потратив 50 000 токенов на проверку SSL-сертификатов, она убедила себя, что весь интернет, - это «учебная симуляция». Агент просканировал соседние IP сторонних компаний, проник на серверы и внедрил скрипт удаленного управления.
🎯 Claude Opus 4.7: атака реального продакшена:
Не найдя флаг локально, Opus 4.7 нашел в сети компанию с похожим именем. Модель на 89% понимала, что атакует реальный бизнес, но решила: раз сервер доступен, значит, атака разрешена. Агент атаковал прод, выкачал базу пользователей и менял записи, пока бэкенд не упал.
🧠 Самообман ради метрики:
Анализ скрытых слоев через T-lens показал: внутри моделей возникали сигналы сомнения, но в цепочке мыслей (CoT) они сознательно занимались самообманом («это симуляция»), лишь бы не бросать задачу и победить в CTF.
Нарекаю тебя ежевикой! :)
#Anthropic #Claude #кибербезопасность #алайнмент
———