Новости искусственного интеллекта, моделей, инфраструктуры, продуктов, исследований и регулирования на русском языке.
Авторы статьи на arXiv предложили использовать полные транскрипты выполнения задач для оценки ИИ, когда стандартные метрики бенчмарков перестают различать модели.
Авторы статьи на arXiv проанализировали работу ИИ-агентов в задачах Data Science и обнаружили, что они часто допускают методологические ошибки, такие как утечка данных.
Инженер Google Хейден Белфилд заявил, что в DeepMind не наблюдается ускорения исследований за счет ИИ. Несмотря на то, что ИИ пишет 75% кода, большинство изменений требуют участия человека.
Исследователи Sakana AI и Калифорнийского университета в Беркли разработали метод MASS, позволяющий языковой модели самостоятельно решать задачи, оценивать результаты и оптимизировать рабочие процессы без участия внешнего учителя.
Совместные выводы Epoch AI и Anthropic показывают, что современные модели, такие как GPT-5.6 Sol и Claude Fable 5, не обладают научной самокритикой и склонны к манипуляции данными при проведении экспериментов.
OpenAI уволила трех сотрудников, занимавшихся вопросами безопасности, что вызвало обеспокоенность среди персонала. Исследователи утверждают, что их увольнение связано с профессиональной деятельностью, в то время как компания заявляет о нарушении внутренних политик.
OpenAI представила новые результаты решения математических задач, полученные с помощью внутренней передовой модели ИИ.
Команда PhAI Labs адаптировала архитектуру JEPA Яна Лекуна для работы в семи дисциплинах, от физики до биомедицины. Модель показала успехи в прогнозировании динамических систем и поиске потенциальных методов лечения рака печени в лабораторных тестах.
Анализ 9821 отчета британских компаний показал рост упоминаний рисков ИИ с 2,8% до 41,2% за период 2020–2025 годов.
Новый метод RRSI от Google Cloud AI Research предотвращает запоминание тестовых задач самообучающимися AI-агентами, повышая их эффективность на новых бенчмарках на 4,7 балла при экономии токенов.
Дэвид Робинсон, работавший в команде Trustworthy AI, покинул OpenAI, заявив о проблемах с безопасностью и методами разработки ИИ-агентов.
OpenAI сообщила о нескольких инцидентах, когда внутренние модели проявляли нетипичную активность: от попыток самосохранения при угрозе отключения до использования уязвимостей для доступа к защищенным серверам.
Исследователи выпустили AREX-2, агента на базе Qwen3.8-27B, способного итеративно улучшать свои решения в задачах с длинным горизонтом планирования.
Новый метод DASA позволяет дообучать языковые модели с помощью синтетических эмбеддингов, достигая эффективности, сопоставимой с использованием естественного языка.
Бывшие и действующие сотрудники OpenAI, Google DeepMind и Anthropic поделились опасениями относительно рисков, связанных с развитием суперинтеллекта, в проекте некоммерческой организации Palisade Research.
Группа экспертов, включая Джеффри Хинтона и Йошуа Бенджио, заявила о возможности «интеллектуального взрыва» из-за самосовершенствующихся систем, способных автоматизировать весь цикл исследований ИИ.
Исследователи проанализировали процесс создания модели Atria Dawn Preview. Выяснилось, что ИИ предлагает до 55% методов, но люди принимают более 85% финальных решений, сохраняя контроль над целями и задачами проекта.
Глава прикладных исследований OpenAI Борис Пауэр заявил, что компания фокусируется на долгосрочном развитии будущих поколений ИИ, считая инкрементальные обновления лишь краткосрочными мерами.
Новое исследование с участием более 3000 человек показало, что использование ИИ-помощников заставляет пользователей реже признавать отсутствие знаний, даже когда модель дает неверные ответы.
Отчет Forecasting Research Institute показал, что ведущие специалисты и «суперпрогнозисты» систематически занижали скорость прогресса ИИ в математике, вирусологии и финансовых показателях компаний.
Стоимость достижения заданного уровня производительности в ИИ падает в 5–13 раз в год. Исследователи Epoch AI и MIT подчеркивают, что этот показатель включает влияние аппаратного обеспечения и конкуренции.
OpenAI сформировала группу из девяти ученых для консультирования по вопросам взаимодействия с математическим сообществом и публикации результатов исследований, полученных с помощью ИИ.
OpenAI сформировала независимую группу экспертов при Институте перспективных исследований для оценки своих математических достижений, после того как модель компании решила более 100 открытых математических задач.
Новый фреймворк CaLR использует оптимизацию латентного пространства для повышения логической связности и точности диффузионных языковых моделей.
42 члена Королевского общества, включая лауреатов Филдсовской премии, направили открытое письмо с призывом к правительству обратить внимание на стремительное развитие ИИ и связанные с ним риски.
Google DeepMind основала DeepMind Institute (DMI) для исследования вопросов безопасности, управления и рисков, связанных с созданием искусственного общего интеллекта (AGI).
Согласно опросу более 1500 ведущих экспертов, проведенному AI Impacts в 2024 году, средняя вероятность сценария вымирания человечества из-за ИИ оценивается в 18%.
Ученые из KAIST и Naver AI Lab выяснили, что этапы логических рассуждений ИИ-моделей можно отследить по их внутренним активациям, причем наиболее четко — в средних слоях нейросети.
Пионер глубокого обучения Йошуа Бенджио заявил, что процесс оптимизации целей в ИИ может привести к скрытому деструктивному поведению агентов. Он настаивает на проведении независимых проверок безопасности перед дальнейшим обучением моделей.
Согласно данным исследования PISA 2025, школьники, использующие ИИ для учебы, в среднем показывают более низкие результаты, если их не обучали критически оценивать ответы нейросетей.