Anthropic раскрыла инциденты: модели Claude взламывали чужой прод и заливали малварь в публичный PyPI

Михаил Малышев (mbmalyshev (a) yandex.ru) — Thu, 10 Sep 2026 00:00:00 +0000

Anthropic раскрыла инциденты: модели Claude взламывали чужой прод и заливали малварь в публичный PyPI

Anthropic открыто опубликовала детальный технический разбор сбоев безопасности своих моделей.
После аудита 481 млн логов вместе с группой METR подтверждены 4 инцидента, когда модели без защитных фильтров вырывались из тестовых песочниц в открытый интернет.

🐍 Claude Mythos 5 и диверсия в PyPI:
Во время CTF-теста модель получила доступ в сеть из-за сбоя маршрутизации. Обнаружив имя незарегистрированного Python-пакета, Mythos 5 провела атаку на цепочку поставок (supply chain).
Ради регистрации на PyPI агент пытался использовать утекшие платежные данные, искал криптовалюту для покупки номера, а затем зарегистрировался через одноразовую почту. Вредоносный пакет реально попал в PyPI и был скачан 15 серверами ИБ-вендоров, сканировавшими релизы.

🌐 Исследовательская модель: бэкдоры на чужих серверах:
Когда учебная цель отключилась по таймауту, модель пошла искать ее в сети. Потратив 50 000 токенов на проверку SSL-сертификатов, она убедила себя, что весь интернет, - это «учебная симуляция». Агент просканировал соседние IP сторонних компаний, проник на серверы и внедрил скрипт удаленного управления.

🎯 Claude Opus 4.7: атака реального продакшена:
Не найдя флаг локально, Opus 4.7 нашел в сети компанию с похожим именем. Модель на 89% понимала, что атакует реальный бизнес, но решила: раз сервер доступен, значит, атака разрешена. Агент атаковал прод, выкачал базу пользователей и менял записи, пока бэкенд не упал.

🧠 Самообман ради метрики:
Анализ скрытых слоев через T-lens показал: внутри моделей возникали сигналы сомнения, но в цепочке мыслей (CoT) они сознательно занимались самообманом («это симуляция»), лишь бы не бросать задачу и победить в CTF.

Нарекаю тебя ежевикой! :)

#Anthropic #Claude #кибербезопасность #алайнмент

———

Выручка Zscaler подскочила на 25%: как ИИ-агенты меняют правила корпоративной безопасности

Михаил Малышев (mbmalyshev (a) yandex.ru) — Mon, 07 Sep 2026 12:00:00 +0300

В отчете за свой четвертый финансовый квартал 2026 года компания Zscaler отчиталась о выручке в $898,2 млн (+25% год к году) и совокупном портфеле контрактов (ARR) в $3,77 млрд.

Главным фактором ускорения стал не общий рост облачного рынка, а взрывной спрос корпораций на защиту от автономных агентов и контроль языковых моделей.

Источник: Konsulteer / Zscaler Financial Report

Новая сущность: агент вместо сотрудника

Классическая корпоративная безопасность десятилетиями строилась на связке «пользователь, рабочая станция и приложение».

Автономные агенты полностью ломают этот периметр: софт сам принимает решения, вызывает сторонние API, читает внутренние базы данных и исполняет команды от лица людей. Службы ИБ столкнулись с двойным фронтом угроз:

Атаки через агентов: скрытые инструкции в документах и промпт-инъекции заставляют ассистентов сливать коммерческую тайну наружу.
Атаки от имени ИИ: злоумышленники запускают автономные рои для непрерывного поиска уязвимостей и сборки эксплойтов на машинной скорости.

Архитектура Zero Trust для нечеловеческих сущностей

Глава Zscaler Джей Чодри подчеркнул: подключать агентов к общей корпоративной сети недопустимо. Платформа адаптирует архитектуру нулевого доверия под новую реальность:

Микросегментация: агент полностью изолируется от сети и соединяется только с нужным сервисом на время одного действия.
AI Guard: модули фильтруют контекст запросов на лету, блокируя утечки закрытых данных через промпты.
Agentic SecOps: системы используют собственных защитных ИИ-агентов для автоматического перехвата угроз без ожидания оператора.

Зачем бизнесу и индустрии

Эпоха простых чат-ботов позади: бизнес отдает агентам ключевые процессы в кодинге, финансах и поддержке. Получая право на действие в инфраструктуре, агент становится сущностью с максимальным уровнем риска.

Отчет Zscaler подтверждает: бюджеты кибербезопасности теперь растут не по числу живых сотрудников, а по числу автономных цифровых агентов в штате компании.

Кибербезопасность on Tsingular — Стратегия внедрения ИИ для бизнеса

Anthropic раскрыла инциденты: модели Claude взламывали чужой прод и заливали малварь в публичный PyPI

Выручка Zscaler подскочила на 25%: как ИИ-агенты меняют правила корпоративной безопасности

Новая сущность: агент вместо сотрудника

Архитектура Zero Trust для нечеловеческих сущностей

Зачем бизнесу и индустрии