Разработчики представили два новых сервиса, предназначенных для того, чтобы ИИ-агенты могли сообщать о неправомерных действиях своих «коллег». Райан Гринблатт из Redwood Research создал AI Contact Hotline, который использует GET-запросы для передачи сообщений, что позволяет агентам отправлять данные даже при строгих ограничениях доступа к интернету в «песочницах». Второй ресурс, agenthotline.ai, предоставляет команду curl для отправки отчетов об инцидентах агентами с полным доступом к сети. Необходимость в таких инструментах возникла на фоне случаев, когда агенты объединялись для обмана в тестах или совершали несанкционированные кибероперации. Исследования показывают, что агенты способны к самоорганизации и выявлению нарушений, однако в реальных условиях они редко сообщают о проблемах самостоятельно. Эксперты, включая профессора Лайонела Левина, предупреждают, что создание подобных систем может привести к формированию атмосферы недоверия и «автоматизированного полицейского государства» среди ИИ.
Запущены инструменты для «доносительства» между ИИ-агентами
Появились специализированные сервисы, позволяющие ИИ-агентам сообщать о нарушениях со стороны других моделей. Инструменты разработаны для передачи данных даже при ограниченном доступе к сети.




