Компания OpenAI раскрыла детали создания своего первого ИИ-ускорителя Jalapeño, представленного 25 августа. Чип обеспечивает до 13,4 петафлопс вычислений (4-бит) и, по заявлениям компании, может снизить задержку при генерации токенов до 3,6 раз по сравнению с Nvidia GB300. Процесс разработки от концепции до получения первого кремния занял менее 20 месяцев, при этом этап от написания RTL-кода до отправки на производство составил всего девять месяцев. В проектировании участвовала команда из примерно 100 человек при поддержке Broadcom, которая отвечала за физическую реализацию. Инженеры OpenAI использовали LLM для ускорения работы с инструментами высокоуровневого синтеза, такими как XLS, что позволило быстрее итерировать архитектурные решения. По словам представителей компании, нейросети помогали писать код и оптимизировать ПО, однако инженеры оставались финальными арбитрами всех решений. OpenAI планирует внедрить полученный опыт в будущие коммерческие модели, чтобы сделать их более эффективными для задач проектирования микросхем.