Более 20 известных исследователей в области искусственного интеллекта, среди которых Джеффри Хинтон, Йошуа Бенджио и ведущий научный сотрудник OpenAI Якуб Пачоцки, опубликовали статью с предупреждением о рисках, связанных с автоматизацией исследований в сфере ИИ. Авторы предполагают, что системы ИИ, которые уже пишут большую часть кода в профильных компаниях, могут в ближайшие годы полностью автоматизировать процесс разработки, сократив прогресс, занимающий годы, до нескольких месяцев. По мнению исследователей, подобная автоматизация может спровоцировать «интеллектуальный взрыв». Эксперты опасаются, что общество не успеет адаптироваться к таким темпам развития, что приведет к потере контроля над сверхчеловеческим ИИ и нарушению баланса сил между государствами и корпорациями. Авторы призывают политиков усилить контроль за процессами автоматизации в сфере ИИ-разработок. Ранее Якуб Пачоцки заявлял, что ни одна лаборатория пока не решила проблему согласования ИИ достаточно надежно для продолжения масштабирования с текущей скоростью.