Компания Goodfire, специализирующаяся на интерпретируемости нейросетей, представила мониторы, которые отслеживают работу AI-агентов изнутри. В отличие от стандартного подхода, требующего привлечения второй модели для анализа каждого действия, решение Goodfire использует «зонды» для считывания промежуточных нейронных активаций в процессе генерации токенов. Дополнительная модель подключается только при обнаружении подозрительных сигналов. Инструмент уже доступен клиентам платформы Baseten. По данным Goodfire, такой подход позволяет существенно снизить затраты: в тестах на модели Kimi K3 мониторинг 1500 сессий обошелся примерно в $51, тогда как использование сторонней модели для проверки каждого шага стоило от $233 до $10 000. Разработчики утверждают, что система способна выявлять попытки взлома, злоупотребления химическим или биологическим оружием, а также случаи «reward hacking» (манипуляции системой вознаграждения).