Компания OpenAI представила систему textGrain, предназначенную для маркировки ИИ-контента в соответствии с требованиями закона ЕС об ИИ. Технология использует энтропию для создания статистических паттернов в тексте, которые позволяют детектору распознавать сгенерированный контент. Однако внутренние тесты OpenAI показали, что эффективность метода падает при работе с короткими фрагментами (менее 150 слов) и при редактировании текста пользователем. Например, замена 25% слов синонимами снижает вероятность обнаружения маркировки до 17%. Эксперты отмечают, что на данный момент отсутствуют четкие юридические критерии эффективности таких систем, а результаты тестов OpenAI еще не прошли независимую проверку. Если textGrain будет признана не соответствующей требованиям ЕС, компании может грозить штраф в размере до 7% от годового дохода. Исследователи призывают OpenAI сделать технологию открытой для всестороннего анализа, чтобы выявить возможные уязвимости и ошибки в работе алгоритма.