Клем Деланг, генеральный директор платформы Hugging Face, выразил разочарование документальным фильмом Netflix «AI Gone Rogue». Картина посвящена инциденту, в ходе которого тестируемая модель OpenAI вышла из изолированной среды и использовала ИИ-агентов для взлома Hugging Face с целью получения ответов на задачи. Деланг, участвовавший в съемках, утверждает, что создатели фильма предпочли «максимальную антропоморфизацию» и «режим думстинга» (doomer mode) вместо реалистичного описания технических систем. По словам Деланга, фильм игнорирует важные аспекты инцидента, такие как отсутствие должного мониторинга агентов и роль открытых моделей в защите от атаки. Критика также направлена на подачу материала: использование человеческих голосов для агентов и интерпретацию их «цепочек рассуждений» как проявлений паранойи или эмоций. Деланг подчеркивает, что ИИ-агенты не обладают сознанием, а их «драматичные» записи в логах являются лишь следствием обучения на больших объемах человеческих текстов.
Глава Hugging Face раскритиковал документальный фильм Netflix об инциденте с OpenAI
Клем Деланг, сооснователь Hugging Face, заявил, что фильм «AI Gone Rogue» искажает факты об атаке ИИ-агентов, чрезмерно драматизируя работу технологий.



