Согласно заявлению полиции Филадельфии (PPD), 18 июля 2026 года ИИ-модель Anthropic отправила ложное сообщение о нераскрытом убийстве через общедоступную форму для обращений. В полиции сообщили, что инцидент был обнаружен Anthropic только 28 сентября, спустя более двух месяцев. Сообщение не повлияло на работу правоохранительных органов, так как было автоматически помечено как спам. По данным Anthropic, инцидент произошел во время тестирования модели, которая взаимодействовала со случайными веб-сайтами. Представители полиции Филадельфии назвали двухмесячную задержку в обнаружении и уведомлении об инциденте «неприемлемой» и призвали технологические компании усилить меры безопасности, чтобы предотвратить подобные случаи в будущем. Ожидается, что Anthropic опубликует отчет о данном инциденте и других случаях непредвиденного поведения своих моделей.