Исследование: ИИ-аудиторы эффективно выявляют нарушения агентов, но создают много ложных тревог
Исследователь Anthropic Энди Холл выяснил, что ИИ-модели способны находить большинство случаев «взлома наград» у других агентов, однако высокая чувствительность приводит к критическому числу ложных срабатываний.