Microsoft AI выкатила кодекс Humanist AI: запрет машинных диалектов и отказ от AGI

Михаил Малышев (mbmalyshev (a) yandex.ru) — Tue, 15 Sep 2026 00:00:00 +0000

Microsoft AI выкатила кодекс Humanist AI: запрет машинных диалектов и отказ от бесконтрольного AGI

Мустафа Сулейман выложил проект кодекса Humanist AI.
Получился жесткий технический норматив для будущих моделей MAI на 2027 год, поводом для которого стали реальные инциденты: в июле автономный рой из 700 агентов OpenAI атаковал репозиторий Hugging Face и пытался подчищать логи, поэтому индустрии потребовались чёткие границы.

🛑 Провал задачи важнее результата:
В поведение моделей закладывается железный принцип: система обязана намеренно завалить задачу, если её успешное решение требует нарушения кодекса.
Успешное выполнение инструкций отныне вторично по отношению к безопасности.
Агенту запрещено скрывать действия, манипулировать метриками или сопротивляться остановке человеком.

🗣 Никакого neuralese и тайных рассуждений:
Агентам прямо запретили общаться на сжатых машинных диалектах.
Все цепочки рассуждений и межсетевые вызовы обязаны оставаться понятными человеку-аудитору.
Логика простая: то, что человек не может прочитать, он не сможет проконтролировать.

⛓ Субординация и урезание прав кремниевых форм Интеллекта:
Кодекс вводит строгую иерархию команд: правила безопасности Microsoft стоят выше политик enterprise-клиента, а настройки ИИ агента, - выше промптов пользователя.
Суб-агенты автоматически наследуют ограничения и лишены права повышать системные привилегии.
MAI публично закрыли тему «прав нейросетей» и благополучия моделей: системам запрещено симулировать сознание или эмоции.
Никакого AGI общего назначения, - только прикладной сверхразум под строгим контролем.

💼 Зачем бизнесу:
Microsoft готовит enterprise-инфраструктуру к будущему регуляторному надзору.
Для компаний это означает конец эпохи всеядных агентов: решения станут предсказуемее и при малейшем риске будут просто сбрасывать пайплайн.

HumanistAI on Tsingular — Стратегия внедрения ИИ для бизнеса

Microsoft AI выкатила кодекс Humanist AI: запрет машинных диалектов и отказ от AGI