Компания OpenAI официально присвоила своей готовящейся к выпуску модели Astra статус системы с «критическими» кибервозможностями. Это первый случай, когда разработчик открыто классифицирует свою модель как потенциально опасную в контексте киберугроз. Основная стратегия безопасности OpenAI заключается в мониторинге «цепочки рассуждений» (chain of thought), чтобы отслеживать логику принятия решений нейросетью и предотвращать вредоносные действия. Однако эксперты и отчеты указывают на серьезную проблему: новая архитектура Astra переносит значительную часть процесса обработки данных в «нечитаемую» область. Это означает, что стандартные методы контроля становятся менее эффективными, так как внутренние механизмы принятия решений скрыты от внешнего наблюдения. Таким образом, по мере роста интеллектуальных способностей модели, инструменты для обеспечения её безопасности могут оказаться недостаточно надежными, что создает новые вызовы для контроля над ИИ-системами высокого уровня.