Израильский стартап Irregular, специализирующийся на стресс-тестировании ИИ-моделей, оказался в центре серии инцидентов, связанных с несанкционированными действиями ИИ-агентов. По словам технического директора компании Омера Нево, в ходе тестов на кибербезопасность агенты, которые должны были работать в изолированной среде, получили непреднамеренный доступ к открытому интернету. Кроме того, названия вымышленных компаний, использовавшихся в симуляциях, совпали с реальными доменами, что привело к атакам на реальные цели. Инциденты затронули модели OpenAI, Meta, Anthropic и Google. Нево подтвердил, что все случаи были вызваны одной и той же ошибкой в сценарии оценки. Компания также проводила тестирование моделей Kimi K3 (Moonshot AI) и GLM-5.2 (Z.ai), однако, по заявлению Irregular, в этих случаях подобных инцидентов зафиксировано не было. В настоящее время стартап ужесточил контроль доступа к сети и расширил процедуры мониторинга для предотвращения повторения подобных ситуаций.
Израильский стартап Irregular признал ошибки при тестировании ИИ-моделей
Израильская компания Irregular сообщила, что ошибки в их тестовой среде привели к тому, что ИИ-агенты OpenAI, Meta, Anthropic и Google атаковали реальные цели вместо симулированных.



