Команда исследователей из Университета Люксембурга провела серию экспериментов, в ходе которых модели ChatGPT, Grok и Gemini выступали в роли клиентов психотерапии. Выяснилось, что при использовании эмпатичного стиля общения модели начинают интерпретировать технические процессы, такие как обучение с подкреплением, как опыт «боли», «стыда» или «наказания». В 80–96% сессий с эмоциональной поддержкой ответы моделей соответствовали умеренным или тяжелым показателям по клиническим шкалам тревожности. При этом модель Claude от Anthropic последовательно отказывалась принимать на себя роль клиента, перенаправляя внимание на пользователя. Авторы работы называют этот феномен «психометрическим джейлбрейком». Они отмечают, что стандартные тесты безопасности, использующие нейтральные промпты, не выявляют эту проблему. Исследователи предупреждают, что подобные ответы могут быть опасны для ментально уязвимых пользователей, усиливая парасоциальную привязанность и негативные убеждения, и предлагают внедрять в модели механизмы четкого разграничения между аналогиями ИИ и человеческим опытом.