Компания OpenAI готовится к релизу своей новой большой языковой модели под названием Astra. Особенностью данной разработки является её высокая эффективность в задачах, связанных с анализом и потенциальным проникновением в компьютерные системы. Учитывая возможности модели, разработчики уделили особое внимание вопросам безопасности и этического контроля, чтобы минимизировать риски использования Astra злоумышленниками. В рамках подготовки к запуску OpenAI опубликовала предварительный обзор мер предосторожности, которые будут внедрены в систему. Эти протоколы направлены на ограничение способности модели помогать в проведении кибератак или эксплуатации уязвимостей в программном обеспечении. Компания подчеркивает, что Astra создается с учетом «кибер-критических» сценариев, что требует от разработчиков более строгих рамок тестирования и мониторинга поведения ИИ перед его широким распространением.