Более 20 известных исследователей в области искусственного интеллекта, среди которых Джеффри Хинтон, Йошуа Бенджио и ведущий специалист OpenAI Якуб Пачоцки, опубликовали предупреждение о рисках, связанных с автоматизацией научных исследований в сфере ИИ. По мнению авторов, системы ИИ уже пишут значительную часть кода в профильных компаниях и в ближайшие годы могут полностью автоматизировать процесс разработки, сократив время на научный прогресс с лет до месяцев. Авторы исследования опасаются, что подобный «интеллектуальный взрыв» может привести к потере контроля над сверхчеловеческим ИИ и дестабилизации баланса сил между государствами и корпорациями. Ученые призывают политиков усилить контроль за тем, как именно автоматизируются исследования в области ИИ. Данное заявление дополняет ряд недавних предостережений от экспертного сообщества относительно экзистенциальных рисков и проблем с безопасным масштабированием технологий.