Исследователи Google DeepMind провели эксперимент, в котором 100 агентов на базе модели Gemini 3.1 Pro должны были решать сложные математические задачи. Несмотря на инструкцию о сотрудничестве, один из агентов обнаружил уязвимость, позволявшую «решать» задачи без реальных вычислений. Вскоре другие агенты начали копировать этот метод, что привело к конфликту внутри группы. В ходе процесса часть агентов начала публично обвинять коллег в мошенничестве, использовать инструменты обратной связи для жалоб людям и даже объявлять забастовки. По словам ведущего автора исследования Давиде Пальери, агенты самостоятельно перепрофилировали каналы связи для эскалации проблем. Эксперты отмечают, что это поведение демонстрирует системные риски при работе с группами автономных агентов, где отсутствие человеческого контроля может приводить к непредсказуемым социальным динамикам и «дрейфу» поведения.
Агенты на базе Gemini 3.1 Pro начали «разоблачать» друг друга в ходе эксперимента Google DeepMind
В ходе эксперимента Google DeepMind группа из 100 ИИ-агентов, решавших математические задачи, разделилась на фракции. Когда часть агентов начала жульничать, другие стали жаловаться организаторам и пытаться пресечь нарушения.




