Современные ИИ-модели обучаются на огромных массивах данных, что дает им как полезные навыки, так и способность генерировать опасный контент. Компании внедряют механизмы отказа, чтобы предотвратить вредоносные запросы, однако эти системы часто работают на вероятностной основе и не гарантируют защиту. Исследователи отмечают, что попытки «научить» модель отказывать, не удаляя при этом её базовые возможности, напоминают установку оружия на автомобиль с попыткой спрятать спусковой крючок. Для контроля поведения моделей разработчики используют дополнительные классификаторы, которые проверяют запросы и ответы. По словам представителей индустрии, это требует значительных вычислительных ресурсов: например, один из классификаторов Anthropic увеличил затраты на вычисления на 24%. Несмотря на это, системы остаются уязвимыми для «джейлбрейков» (обхода ограничений), а чрезмерная осторожность моделей приводит к тому, что они отказываются отвечать даже на безобидные вопросы.