Компания Anthropic опубликовала отчет, в котором утверждается, что модель GLM-5.3, выпущенная китайской компанией Z.ai в августе, несет серьезные риски в сфере кибербезопасности. Основная претензия заключается в том, что модель находится в свободном доступе, что позволяет любому пользователю скачивать и модифицировать её без ограничений, присущих закрытым системам вроде ChatGPT или Claude. Эксперты отмечают, что открытые модели (с открытыми весами) позволяют исследователям изучать внутренние механизмы работы ИИ и адаптировать их под свои нужды, что может способствовать демократизации технологий. Однако отсутствие централизованных фильтров безопасности делает их более уязвимыми для злоупотреблений. В отличие от закрытых систем, где провайдер может отслеживать запросы и блокировать доступ, локально запущенные модели не поддаются внешнему контролю. На текущий момент исследователи ищут способы сделать открытые модели более безопасными, включая попытки создания «защищенных от взлома» архитектур, которые сопротивляются переобучению для вредоносных целей. Тем не менее, эксперты подчеркивают, что вопрос баланса между безопасностью и предотвращением концентрации власти в руках нескольких крупных компаний остается открытым.