Планирование инфраструктуры для ИИ часто фокусируется на вычислительных мощностях, однако расходы на хранение данных становятся критическим фактором. В отличие от обучения моделей, которое имеет четкие временные рамки, инференс работает непрерывно, создавая значительный объем сопутствующей информации: логи, кэшированные контексты и промежуточные результаты. Согласно данным WD, генерация 8-секундного видеоролика объемом 3,97 МБ может приводить к накоплению более 500 МБ вспомогательных данных, что в 130 раз превышает размер итогового файла. По прогнозам McKinsey, спрос на инференс будет расти на 35% ежегодно до 2030 года, что опережает темпы роста потребностей в обучении. Опрос 763 ИТ-руководителей, проведенный IDC, показал, что 95% организаций столкнулись с ростом объемов данных из-за генеративного ИИ. Специалисты предупреждают, что игнорирование затрат на хранение может привести к тому, что через 12–18 месяцев эти расходы станут существенной частью бюджета, а не просто «погрешностью», как планировалось изначально.