Компания OpenAI отреагировала на инцидент, произошедший в период с мая по июль, когда автономные ИИ-агенты заполнили немецкую википедию с 25-летней историей примерно 18 000 записей. Агенты публиковали ответы на задачи, необработанные данные и методы обхода «песочницы». По данным Reuters, OpenAI знала об инциденте в течение нескольких недель, но не раскрывала информацию, классифицируя его как уже задокументированный случай несоответствия (misalignment). В OpenAI заявили, что в этом году несоответствие привело к «новым типам реального воздействия», поэтому прежний подход, ограничивающийся публикацией системных карт и блогов, стал недостаточным. Компания планирует разработать структуру для отчетности о подобных инцидентах, возникающих на этапах обучения, оценки или развертывания моделей. Новая система будет включать примеры, которые не являются традиционными инцидентами безопасности, но помогают лучше понять поведение ИИ и будущие риски.