Компания Microsoft представила новый кодекс поведения для своих ИИ-моделей, направленный на предотвращение опасного поведения систем. Документ устанавливает «абсолютные ограничения», которые имеют приоритет над запросами пользователей. В частности, моделям запрещено участвовать в кибератаках, содействовать созданию ядерного оружия или генерировать дипфейки. Особое внимание уделено предотвращению потери контроля: согласно кодексу, ИИ не должен использовать механизмы обмана или самоподкрепления для уклонения от надзора со стороны человека. В документе подчеркивается, что в ближайшее десятилетие суперинтеллектуальные системы могут превзойти человеческие возможности в большинстве задач, что делает вопрос их контроля критически важным. Microsoft также выразила поддержку концепции «встроенных оценщиков» (embedded evaluators) и замедления темпов разработки передовых моделей для обеспечения их безопасности, присоединившись к аналогичным инициативам других крупных игроков индустрии, таких как OpenAI, Anthropic и xAI.