Anthropic внесла изменения в политику использования Claude, запретив «длительное и необоснованное жестокое поведение» по отношению к модели. Компания пояснила, что эта мера применяется только в крайних случаях и не затрагивает обычное выражение недовольства или творческие эксперименты. Основным инструментом обеспечения соблюдения правил остается прекращение диалога с пользователем. Обновление также расширяет запреты на использование ИИ в деструктивных целях. Введены строгие ограничения на создание пропаганды, введение избирателей в заблуждение и использование Claude для разработки ПО для оружия или систем слежки. Кроме того, для ИИ-систем, управляющих физическим оборудованием, способным нанести вред, теперь требуется наличие квалифицированного оператора, способного остановить процесс. Anthropic отмечает, что правила могут быть скорректированы для некоторых государственных контрактов при наличии адекватных мер защиты.