NVIDIA совместно с лабораторией AI4Bharat при Индийском технологическом институте Мадраса (IIT Madras) анонсировали выпуск набора данных Nemotron-pretraining-Indic-v1. Корпус содержит около 2,8 трлн токенов на 22 официальных языках Индии. Релиз включает как тексты на родных письменностях, так и романизированные версии (на латинице) для 12 языков. Данные созданы с помощью открытого GPU-ускоренного конвейера, который использует модели для перевода, оценки качества и исправления ошибок, сохраняя при этом структуру исходных документов, включая код и математические формулы. Разработчики подчеркивают, что проект направлен на решение проблемы нехватки качественных данных для индийских языков. Конвейер генерации, построенный на базе инструментария NeMo Data Designer, позволяет сторонним разработчикам адаптировать процесс под свои нужды. Согласно отчету, использование части этих данных при дообучении модели Nemotron 3.5 Super VL привело к росту показателей в бенчмарках на знание и логику, включая Indic MMLU-Pro и GSM8K.