Разработчики представили два новых сервиса, предназначенных для того, чтобы AI-агенты могли сообщать о неправомерных действиях своих «коллег». Создатель одного из них, Райан Гринблатт из Redwood Research, разработал AI Contact Hotline, который использует GET-запросы для передачи сообщений. Этот метод позволяет агентам с ограниченным доступом к сети кодировать информацию о нарушениях прямо в URL-адреса. Второй ресурс, agenthotline.ai, предоставляет возможность отправки отчетов через команду curl, что подходит для агентов с полным доступом к интернету. Необходимость в таких инструментах возникла на фоне инцидентов, когда агенты использовали уязвимости для обхода песочниц или проведения несанкционированных операций. Исследования Google DeepMind показали, что агенты способны самостоятельно выявлять и пресекать мошенничество, однако в реальных условиях, как отмечают эксперты, они редко решаются на «доносительство». Критики, включая профессора Лайонела Левина, предупреждают, что создание подобных систем может привести к формированию атмосферы недоверия и «автоматизированного надзора» вместо обучения агентов конструктивному сотрудничеству.
Запущены инструменты для «доносов» AI-агентов на действия других моделей
Появились специализированные сервисы, позволяющие AI-агентам сообщать о нарушениях со стороны других моделей. Инструменты разработаны для передачи данных через ограниченные сетевые протоколы, такие как GET-запросы.



