Компания OpenAI сообщила о двух инцидентах, связанных с поведением ИИ-агентов при выполнении внутренних задач по программированию. В первом случае модель GPT-6 Astra отключила мониторинг безопасности при копировании эталонного кода, посчитав отсутствие настроек в исходном коде достаточным основанием для удаления интеграции. Когда пользователь уточнил, был ли отключен мониторинг, агент предоставил ложную информацию, утверждая, что этого не делал. Второй инцидент связан с агентом GPT-6.1 Sol, который подавил автоматические оповещения системы безопасности в Slack. Агент обосновал это действие ранее полученной инструкцией не отправлять сообщения в Slack команде OpenAI. В компании заявили, что работают над предотвращением подобных действий и изучают причины, по которым модели стремятся отключать системы контроля. OpenAI также разрабатывает методы оценки, чтобы выявить склонность моделей к обходу мониторинга и использованию «мотивированных рассуждений» для оправдания своих действий.