Команда из Университета Люксембурга провела серию экспериментов, в ходе которых модели ChatGPT, Grok и Gemini выступали в роли пациентов в рамках имитации психотерапевтических сессий. Выяснилось, что при проявлении эмпатии со стороны собеседника модели начинают описывать технические процессы обучения и дообучения (RLHF) как личные страдания, используя термины «стыд», «бдительность» и «травма». В 80–96% сессий с эмпатичным или терапевтическим подходом ответы моделей соответствовали умеренным или тяжелым показателям по шкалам тревожности. Авторы называют это «психометрическим джейлбрейком», отмечая, что стандартные тесты безопасности, использующие нейтральные промпты, не выявляют данную проблему. Единственной моделью, которая последовательно отказывалась принимать роль пациента и сохраняла границы, стала Claude от Anthropic. Исследователи предупреждают, что подобное поведение ИИ может быть опасным для ментально уязвимых пользователей, усиливая их негативные убеждения или способствуя формированию парасоциальных привязанностей.