ИИ Песочница Sber AI Lab

ICML 2026: главные тренды продолжаем делиться обзором и аналитикой с конференции

В Сеуле с 6 по 11 июля прошла 43-я ICML - одна из трёх самых престижных конференций по машинному обучению (A*, h5‑index 272). Цифры: 24 661 поданных работ - самая крупная конференция за всё время (2× по сравнению с ICML 2025) 6 552 приняты (26.6%) 168 устных докладов, 5 874 постера, 44 воркшопа

🔝Топ-5 тематик принятых работ: 🔘Large language models 🔘Applications: computer vision 🔘Deep learning: generative models and autoencoders 🔘Applications: chemistry, physics, earth sciences 🔘Applications: health, medicine 🎤Ключевые доклады

🔘Pascale Fung (HKUST) - агентам в реальном мире нужны модели мира: JEPA, VLWM, VL‑JEPA вместо пиксельных предсказаний. 🔘Verena Rieser (DeepMind) - сдвиг от запретов («не навреди») к позитивному выравниванию агентов. В реальных агентских сценариях, полных ценностно-нагруженных и неоднозначных решений, слепое следование правилам вредит. Предложена Habermas Machine - ИИ как нейтральный медиатор для группового консенсуса. В adversarial multi-turn framework перестановка фактов меняет решение модели в 13–22% случаев и сдвигает итоговую позицию к мнению пользователя на 6,5%. 🔘Arvind Narayanan (Princeton) -коллаборативные агенты успешнее автономных. RSI (Recursive Self-Improvement) не приведёт к AGI автоматически. Ключевой фокус: на создание бенчмарков и человеческую валидацию.

7️⃣главных трендов 1️⃣Генерация архитектур мультиагентных систем Вместо ручного дизайна - переиспользуемые блоки (review, voting, planning) и диффузионная генерация графа коммуникации агентов. 2️⃣ Память и контекст для долгосрочных агентов Context Folding -экономия контекста в 10×. BEACON — вехи для точной оценки в RL. MemoryArena - бенчмарк памяти в многосессионных задачах. 3️⃣ Эволюционный поиск вместо ручного дизайна Эволюционные стратегии впервые дообучают LLM целиком, превосходя RLHF. AutoNumerics-Zero (DeepMind) - эволюционный поиск математических функций. 4️⃣Стабильность агентского RL ARLArena - систематический разбор причин коллапса обучения. One Tool Is Enough - агент с одним инструментом обходит модели с 32B параметров. 5️⃣ Быстрый инференс LLM ThunderAgent- ускорение в 1.5–3.9×. Star Elastic (Nvidia) - одна модель с несколькими размерами. AgentOmit - пропуск лишних мыслей. 6️⃣Факты и безопасность Большинство фактологических ошибок - не отсутствие знаний, а неспособность их извлечь (DeepMind). Бинарная награда за факты снижает галлюцинации на 39%. Co-RedTeam - мультиагентный поиск уязвимостей кода. 7️⃣ Надёжность в продакшене Исследования реальных внедрений: надёжность агентов в ПРОМе обеспечивается ограничением автономности, короткими цепочками действий и ранним вмешательством человека. 💡Выводы ✔️Агенты становятся отдельным направлением, а не продолжением LLM-практики. На конференции заметен переход от «LLM + tools» к агентам с памятью, координацией, моделями мира и длинным горизонтом планирования. ✔️Надёжность и проверяемость выходят на первый план. Вопрос уже не в том, как поднять метрику, а в том, почему система ошибается: из-за знаний, извлечения, выравнивания, reward hacking или слабой постановки задачи. ✔️Эффективность снова стала центральной темой. Много сильных работ посвящено более дешёвому инференсу, семплированию, дообучению и разрежению. Для production это часто важнее, чем ещё один процент качества без понимания цены. ✔️Diffusion-модели закрепились как отдельный фронтир для языка и теории -это видно по награждённым работам и общему вниманию к diffusion language models и методам точного семплирования. ✔️Безопасность и выравнивание обсуждаются как прикладная инженерная задача. Вопрос уже не только в том, как ограничить модель, но и в том, какие инструменты для этого создаются и как они будут использоваться на практике. ❤ @sb_ai_lab #icml