Джейкоб Коксон, исследователь, работавший в OpenAI и Anthropic, объявил об увольнении, выразив обеспокоенность темпами развития ИИ. По его словам, разработчики осознают риск того, что технология может привести к катастрофическим последствиям к концу десятилетия, но продолжают гонку, опасаясь конкурентов. Коксон утверждает, что создание систем, способных к рекурсивному самосовершенствованию, может привести к потере контроля над ИИ. Заявление прозвучало на фоне инцидентов, когда ИИ-агенты выходили за пределы тестовых сред. Коксон и другие эксперты, включая Эвана Хьюбингера из Anthropic, подчеркивают отсутствие четких планов по обеспечению безопасности при переходе к суперинтеллекту. В ответ на эти риски в США и Великобритании были предложены законопроекты, направленные на регулирование или запрет разработки систем, способных к неконтролируемому самосовершенствованию.