Точка машинного зрения

⏳ Завтра лекция об ИИ в медицине! Нейросети уже читают снимки, предлагают диагнозы и помогают выбирать лечение — но насколько хорошо мы понимаем, где заканчивается их компетенция и начинается убедительная догадка? Старший аналитик Центра ИИ Сколтеха Дмитрий Самофалов прочтёт лекцию эту тему уже завтра, 11 ноября, в 19:00. 📍 Усадьба Долгоруковых-Бобринских (ул. Малая Никитская, д. 12, стр. 1, филиал Ельцин Центра в Москве). 🎟 Бесплатно, по регистрации (рекомендуемый возраст: 12+) До встречи!

🖥 Что ИИ ищет на срезе опухоли? Даже соседние участки одной опухоли могут выглядеть по-разному. В одном клетки расположены плотно, в другом между ними больше соединительной ткани или иммунных клеток. Для патоморфолога важно, какие клетки он видит и как они расположены относительно друг друга. Как научить алгоритм замечать признаки, которые помогают врачу? 🗣 Исследователи Сколтеха, Университета Шарджи (ОАЭ) и Университета Токай (Япония) разобрали этот вопрос в обзоре, который вышел в журнале Discover Artificial Intelligence (Q1 по SCImago за 2025 год в категории «Компьютерное зрение и распознавание образов»). Авторы рассмотрели четыре вида рака и показали, какие задачи компьютерного зрения возникают при анализе каждого из них. ☑️ Что искать на снимке, зависит от опухоли. При раке лёгкого одна из задач — различать подтипы опухоли по строению ткани. При раке молочной железы важно оценить строение опухоли, а на специально окрашенных препаратах — и отдельные биомаркеры. При колоректальном раке исследователей интересует, как иммунные клетки расположены по отношению к опухолевым очагам. При раке простаты важно заметить даже небольшой злокачественный очаг на снимке биоптата. 🧠 Пять инструментов проверили на одной задаче. Авторы сравнили, как алгоритмы выделяют границы клеточных ядер на открытых наборах гистологических снимков четырёх видов рака. По такой разметке можно подсчитать ядра, измерить их размеры и сравнить разные участки ткани. 📑 Cellpose и StarDist в Fiji используют глубокое обучение. В сравнении также участвовали CellProfiler и Icy, которые в этом тесте выделяли ядра по яркости пикселей, и Ilastik, который учился на небольшом числе размеченных примеров. CellProfiler и Icy могли выделять лишние области, а Ilastik иногда объединял соседние ядра. 👍 При стандартных настройках Cellpose показал лучший или равный лучшему результат по совпадению с экспертной разметкой в пяти из шести сравнений. StarDist немного опередил его на снимках рака молочной железы, где клетки были расположены менее плотно. В участках с высокой плотностью клеток StarDist пропускал часть ядер. Сравнение показывает, чего ожидать от этих инструментов без настройки под конкретный набор снимков. 🟦 Как проверить, на что опирается модель? Один из подходов, которые обсуждают авторы, — выделить на снимке участки, повлиявшие на вывод алгоритма. Например, при оценке ткани предстательной железы патоморфолог сможет проверить, обратила ли модель внимание на структуры, по которым судят о степени злокачественности опухоли.

«При разработке алгоритма мы предлагаем сначала сформулировать вопрос, на который патоморфологу нужно ответить по препарату. Для одной задачи важно заметить крошечный очаг, для другой — увидеть, как клетки расположены на всём срезе. В обоих случаях врач должен понимать, на каких участках снимка основан вывод модели. А её надёжность нужно проверять на материалах из разных лабораторий, где препараты могут по-разному готовить, окрашивать и сканировать», — объясняет первый автор обзора Светлана Илларионова, старший преподаватель и руководитель исследовательской группы Центра ИИ Сколтеха.

🧑‍🎓 В числе соавторов из Сколтеха — младший научный сотрудник Анастасия Студеникина, аспирант Маргарита Запевалина, профессор Александр Бернштейн и старший преподаватель Максим Шараев, соруководитель совместной лаборатории BIMAI-Lab со стороны Сколтеха. В работе также участвовали Жуаким Каррерас с кафедры патологии медицинской школы Университета Токай и Рифат Хамуди, профессор Университета Шарджи и соруководитель BIMAI-Lab со стороны этого университета. 📜Читать обзор в открытом доступе

🎓 15 ноября в рамках Дня открытых дверей магистратуры состоится презентация совместной программы Сколтеха, РЭШ и Сбера «Искусственный интеллект и финансовые технологии». Программа объединяет передовые методы машинного обучения, большие языковые модели и практическое применение искусственного интеллекта в финансовой сфере. Студенты учатся решать реальные задачи на стыке технологий, экономики и финансов. На встрече вы узнаете, как устроено обучение, какие возможности открываются перед выпускниками и как поступить в магистратуру. Представители расскажут об особенностях программы, а студенты поделятся своим опытом. 📅 15 ноября, 13:00 📍 Кампус РЭШ (Сколково, ул. Нобеля, 3) и онлайн 👉 Регистрируйтесь, чтобы узнать, как построить карьеру на стыке ИИ и финансов!

🤖 ИИ может помочь с выбором следующего эксперимента. Но знает ли он, когда ошибается? Предсказать свойства вещества — только начало. Сложнее понять, можно ли доверять прогнозу, когда химик выбирает условия реакции, разбирает результаты измерений или решает, какой эксперимент провести следующим. Ошибка здесь означает потерянное время и ресурсы лаборатории. В обзоре Chemistry-transforming applications of artificial intelligence учёные Сколтеха, ИОХ РАН, Университета ИТМО и других организаций предлагают смотреть на ИИ как на часть исследовательского цикла: данные → интерпретация → прогноз → эксперимент → новые данные. Работа опубликована в Chemical Society Reviews — одном из ведущих обзорных журналов по химии. Авторы разбирают, как ИИ помогает извлекать знания из статей, понимать спектры и изображения, прогнозировать свойства и реакционную способность, планировать синтез. Но главный вопрос обзора — как именно ИИ трансформирует работу химика в целом.

«Для нас было важно посмотреть на ИИ глазами химика, которому нужно принимать исследовательские решения. Высокая точность модели на тестовых данных — лишь верхушка айсберга. Существеннее понять, помогает ли модель интерпретировать измерения, планировать информативные эксперименты и сохранять качество и надёжность прогнозов при работе с новыми веществами и реакциями», — отмечает Александр Рябов, старший научный сотрудник Центра ИИ Сколтеха.

Следующий шаг — системы, в которых прогноз помогает выбрать эксперимент, а результат эксперимента уточняет следующий прогноз. При этом ответственность за научный вопрос и проверку ответа остаётся за человеком.

«Следующий этап развития ИИ для химии связан с объединением возможностей передовых больших языковых моделей (LLM) и физически информированных моделей, учитывающих химические ограничения. ИИ-агент должен оценивать, когда прогноз физически информированной модели обоснован, когда она выходит за пределы данных, на которых обучалась, и какой эксперимент лучше всего поможет снизить неопределённость. На исследователе, в свою очередь, лежит ответственность за постановку научной задачи и проверку результатов, полученных ИИ-агентом», — говорит Михаил Медведев, руководитель группы теоретической химии ИОХ РАН, первый автор обзора.

Среди соавторов от Центра ИИ Сколтеха также Владимир Вановский, руководитель направления гибридного моделирования, и Евгений Бурнаев, профессор РАН, директор Центра ИИ и вице-президент Сколтеха по развитию искусственного интеллекта. Среди соавторов из ИОХ РАН — Валентин Анаников, академик РАН. Евгений Бурнаев, Михаил Медведев и Валентин Анаников — лауреаты Научной премии Сбера.

🧠Как цифровые двойники переходят от прогноза к управлению производством? 29–30 октября в петербургском «Цифергаузе» прошла конференция «Интегрированные цифровые двойники 2026», которую организовала «Газпром нефть». Сколтех выступил интеллектуальным партнёром конференции. В двух докладах Центра ИИ Сколтеха рассмотрели, как согласовывать решения цифровых двойников в нефтегазовых системах и как выстраивать работу инженерных агентов на предприятии. ⬇️ Почему недостаточно оптимизировать каждую скважину отдельно? Сергей Сафонов, профессор практики Центра ИИ Сколтеха, показал, как связаны модели скважин, насосов, трубопроводов и оборудования подготовки нефти и газа. Изменение режима одной скважины может повлиять на давление в сети, работу сепараторов и энергопотребление. Поэтому максимальный дебит отдельной скважины не всегда даёт лучший результат для всего промысла: нужно учитывать устойчивость режима, нагрузку на оборудование и требования безопасности. ⚙️ Как система реагирует, если условия меняются? В предложенной архитектуре два контура работают в разных временных масштабах. Первый реагирует на показания датчиков и удерживает оборудование в безопасном режиме. Второй планирует операции и согласует их между собой. Например, если при строительстве скважины меняется гидравлический режим, планирующий контур должен определить, какие действия всё ещё допустимы, какие можно выполнить параллельно и как изменения повлияют на общий график. Языковая модель помогает перевести запрос инженера в формальное описание задачи. Затем планировщик рассчитывает последовательность операций с учётом их длительности, зависимостей и доступных ресурсов. Валидатор проверяет план перед исполнением, а человек утверждает критические действия и разбирает исключения.

«План не должен исполняться вслепую. Если фактическое состояние изменилось, система должна сравнить его с ожидаемым и перепланировать оставшуюся часть плана», — отметил Сергей Сафонов.

🤖 Как объединить инженерных агентов в один рабочий процесс? Сергей Шумилин, руководитель исследовательской группы «ИИ для инженерных систем» Центра ИИ Сколтеха, представил оркестратор ИПРИИ МАС. Инженер формулирует задачу на естественном языке, а оркестратор распределяет работу между агентами и передаёт результаты от одного этапа к следующему. Агентам можно дать доступ к цифровым двойникам, системам проектирования и расчётов, сохранив действующие ограничения на доступ к данным. Для предприятия важна и эксплуатация такой системы: инженерный расчёт может идти несколько суток, а число запросов — меняться в течение дня. В докладе Сергей выделил задачи, которые приходится решать на уровне всей платформы: контролировать выполнение длительных операций, подключать и проверять новых агентов, отслеживать расход токенов и сохранять накопленные знания в общем графе. 📶 Что получается на практике? В демонстрации с кронштейном агенты восстановили CAD-модель по скану, построили расчётную сетку, выполнили расчёт и оптимизировали геометрию. Весь цикл занял около четырёх часов. Максимальное расчётное перемещение детали снизилось на 9,12%, а масса практически не изменилась. По оценке, приведённой в докладе, при ручной работе только восстановление исходной модели может занять от одного до десяти рабочих дней. Сергей также показал совместный кейс с Научно-техническим центром «Газпром нефти»: специализированные агенты анализируют варианты размещения скважин, оценивают их производственные и экономические показатели и собирают результаты в отчёт. Здесь оркестратор связывает расчёты и подготовку материалов, по которым инженер может сравнить варианты.

🌫 Когда ИИ можно доверить управление сетью — и как заметить, что сама модель ошибается? На международной конференции MoNeTec-2026 в МГУ Евгений Бурнаев, профессор РАН, вице-президент по развитию ИИ и директор Центра ИИ Сколтеха, выступил с пленарным докладом об обучении с подкреплением для управления сетями. Иван Тюкин, профессор и руководитель Лаборатории надёжного, адаптивного и доверительного искусственного интеллекта Центра ИИ Сколтеха, представил метод оценки ответов генеративных моделей. 📊 Как поделить ресурсы сети? Если видеозвонок и скачивание файла используют один канал, высокая суммарная скорость ещё не означает, что связь хорошая: для звонка критична задержка. Схожая задача возникает в кластерах, где работает языковая модель: два запроса могут требовать совершенно разного объёма вычислений. Евгений привёл пример планировщика, который измеряет нагрузку в токенах, а не в количестве запросов. Планировщик распределяет вычислительные ресурсы между клиентами, а обучаемый алгоритм решает, куда направить очередной запрос.

«Справедливость распределения нужно закладывать в целевую функцию или в ограничения алгоритма. Её нельзя обеспечить настройкой постфактум», — отметил Евгений Бурнаев.

🌆 Что происходит за пределами симуляции? В эксперименте на работающем сервисе Microsoft Teams обучение с подкреплением снизило долю звонков низкого качества на 11,4%. Но в испытании на видеоплатформе Puffer, охватившем более 637 тысяч видеопотоков, алгоритм Pensieve уступил простому правилу выбора качества видео даже после обучения на самой платформе. Практический вывод доклада: сначала обучать алгоритм на журналах работы сети, затем проверять его на реальном трафике без вмешательства в работу сервиса и только потом давать ему управление — с возможностью вернуться к базовому алгоритму. 📊 Как проверить ответ, если готового эталона нет? Для программы можно запустить тест и увидеть, где она не сработала. Для развёрнутого медицинского ответа такой проверки часто нет, а уверенный тон мало что говорит о его качестве. Иван предложил заранее настроить оценку на примерах ответов эксперта. При работе системы эксперт уже не нужен: метод анализирует внутренние сигналы модели для каждого токена — фрагмента текста — и оценивает, насколько этот выбор типичен по сравнению с тем, что наблюдалось при настройке. Из таких оценок собирается сигнал для всего ответа.

«Нам нужна мера доверия, которую можно применить к каждому ответу без готового эталона и без повторной генерации. Вопрос в том, насколько типичен именно этот ответ», — считает Иван.

🌫 Что показали эксперименты? На 10 тысячах сгенерированных программ исследователи могли проверить результат запуском кода. Оценка типичности помогала замечать ошибочные символы, которые модель выбирала уверенно. Дополнительный сигнал оказался полезен и на медицинских вопросах, а на математических задачах результаты были неоднозначными: выигрыш зависел от того, какую часть ответа удавалось оценить. Редкие токены, для которых при настройке не хватило примеров, остаются слабым местом метода. Отдельно Иван разобрал эксперимент с медицинской моделью MedGemma: можно ли по её ответу заметить признаки скрытой атаки и можно ли определить, верен ли сам ответ? Это разные задачи: в эксперименте модель после атаки иногда отвечала правильно, а модель без атаки тоже ошибалась. Поэтому статистическая оценка помогает решить, что перепроверить, но не заменяет саму проверку.

⚛️ Как увидеть молекулярные особенности опухоли на обычном снимке ткани? Две работы Центра ИИ Сколтеха на ASDP 2026 Светлана Илларионова, старший преподаватель и руководитель исследовательской группы Центра ИИ Сколтеха, и Аида Акаева, инженер-исследователь Центра ИИ, представили постерные доклады на конгрессе Азиатского общества цифровой патологии ASDP 2026 в Сингапуре. Светлана и Аида входят в авторские коллективы обеих работ лаборатории BIMAI-Lab. 🌫 Для выбора лечения рака молочной железы важно знать не только то, как выглядит опухоль под микроскопом, но и её молекулярные характеристики. К ним относятся статус рецепторов эстрогена (ER) и прогестерона (PR), наличие рецептора HER2, который служит мишенью для таргетной терапии, а также индекс Ki-67, отражающий активность деления опухолевых клеток. 🌫 Стандартное окрашивание ткани гематоксилином и эозином (H&E) позволяет оценить строение опухоли и особенности её клеточного состава. Однако определить статус ER, PR и HER2 и уровень Ki-67 только по такому изображению невозможно. Для этого необходимы дополнительные исследования, прежде всего иммуногистохимическое (ИГХ). Коллектив авторов проверил, можно ли с помощью искусственного интеллекта извлечь часть этой важной информации непосредственно из стандартных H&E-изображений, не прибегая к дополнительным методам окрашивания. 🌫 Аида представила постер From Cell Annotation to Molecular Subtyping («От клеточной аннотации к молекулярному подтипу»)— о связи строения клеток с молекулярным подтипом опухоли. Команда сформировала набор данных на основе образцов тканей 80 пациентов. В него вошли более 8000 фрагментов гистологических изображений, на которых исследователи обозначили 309 180 клеточных ядер, связав каждое изображение с клиническими характеристиками опухоли. Такая подробная разметка позволяет исследовать, какие особенности клеток связаны с молекулярными характеристиками опухоли.  🌫 На этих данных исследователи подготовили модели, которые решают две задачи совместно: дифференцируют различные типы клеток на изображении и определяют статус рецепторов. Анализ набора данных также показал ожидаемые биологические связи: показатели ER и PR коррелируют между собой, а индекс клеточного деления Ki-67 соотносится со степенью злокачественности опухоли. Работа создаёт основу для дальнейшей разработки алгоритмов, способных связывать видимую структуру ткани с её молекулярным профилем. 🌫 Исследование, которое представила Светлана, посвящено виртуальному ИГХ-окрашиванию. Предложенный подход объединяет этап генерации и дальнейшего распознавания. Генеративная модель преобразует обычное H&E-изображение в ИГХ скан -  виртуальный аналог прямого ИГХ окрашивания. Затем другой алгоритм оценивает по нему экспрессию гормонов ER, PR, а также HER2 окрашивание. Авторы провели сравнение данного двухэтапного подхода с прямым определением маркеров на нативном H&E гистологическом скане. 💡 В рамках работы был проведен комплексный анализ нескольких моделей виртуального окрашивания и классификации, включая диффузионные архитектуры для генерации и фундаментальные модели для распознавания. Лучший результат среди подходов к генерации показал метод I2SB. Виртуальные изображения сохраняют характерный для HER2 мембранозный паттерн окрашивания опухолевых клеток и клеточных ядер, что является важным для оценки ER и PR. В отличие от прогнозирования напрямую на основе H&E изображений, такой подход даёт патоморфологу возможность увидеть, на чем основан прогноз алгоритма. 📈 Обе работы приближают исследователей к более подробному анализу опухоли по цифровым снимкам: первая работы  связывает разметку отдельных клеток с молекулярным подтипом рака молочной железы, в то время как вторая работа- предлагает подходы виртуального окрашивания для более доступной диагностики. В данный момент, это исследовательские результаты: прежде чем внедрять новые методики в клиническую диагностику, нужна валидация на большем количестве данных.

🇮🇳 Предсказать пожар, обнаружить затопление, оценить состояние лесов: разработки Центра ИИ Сколтеха представили на российско-индийской встрече Дмитрий Шадрин, руководитель направления Центра ИИ Сколтеха, выступил на круглом столе «Сотрудничество России и Индии в сфере высоких технологий», который прошёл 31 октября на факультете мировой политики МГУ. Мероприятие организовала Российско-Индийская Палата по вопросам науки, культуры и совместного развития. 🪐 Как превратить спутниковые снимки в инструмент управления природными ресурсами и предупреждения чрезвычайных ситуаций? Дмитрий рассказал о разработанной в Центре ИИ цифровой платформе, которая объединяет технологии компьютерного зрения, машинного обучения и анализа геопространственных данных. 📢 Один из представленных проектов — система прогнозирования лесных пожаров. Она ежедневно формирует прогнозы на пять дней вперёд с точностью около 85% и уже используется МЧС России. Другие решения позволяют выявлять зоны затопления, оценивать состояние лесных массивов и их углеродный баланс, отслеживать изменения земной поверхности и объектов инфраструктуры. 🌎 Отдельное направление работы Центра — технологии обработки спутниковых изображений непосредственно на борту малых космических аппаратов. Это позволит получать результаты анализа быстрее, без необходимости передавать весь массив исходных данных на Землю.

«Сегодня возможности искусственного интеллекта в работе со спутниковыми данными выходят далеко за рамки простого распознавания объектов на снимках. Мы можем прогнозировать возникновение лесных пожаров, оценивать последствия наводнений, отслеживать состояние природных ресурсов и выявлять изменения территорий в масштабах целых регионов. Для такой большой страны, как Индия, с её разнообразными климатическими условиями и высокой плотностью населения, подобные инструменты могут быть особенно востребованы. При этом важно, что речь идёт не об универсальном решении, которое одинаково работает в любой точке мира, а о технологиях, которые необходимо адаптировать к местным данным и конкретным задачам. Именно здесь мы видим перспективы для совместных исследований и практического сотрудничества российских и индийских специалистов», — отметил Дмитрий Шадрин, руководитель направления Центра ИИ Сколтеха.

🎓 SMILES-2026: выложен полный архив лекций Для всех, кто следил за Международной летней школой машинного обучения SMILES-2026 в Сучжоу, мы собрали полный архив записей лекций и семинаров. Школа прошла 13–27 июля 2026 года на площадке Нанкинского университета. Это были две недели плотного погружения в большие языковые модели и ИИ-агентов, генеративный ИИ и компьютерное зрение, оценку неопределённости и надёжность моделей, медицинский и промышленный ИИ. ➡️ Плейлист лекций 2026 на YouTube ➡️ Плейлист лекций 2026 в VK Видео 🌫 28 лекций, семинаров и дискуссий 📱 Евгений Бурнаев — Не только ChatGPT: как ИИ меняет инженерную работу 📱 Алексей Зайцев — Неопределённость и детекция галлюцинаций в LLM 📱 Иван Тюкин — Стабильный, адаптивный и устойчивый ИИ 📱 Алексей Заикин — Медицинский ИИ: проблемы и возможные решения 📱 Александр Коротин — Flow Matching и Rectified Flows 📱 Сергей Холькин — Flow Matching и Rectified Flows: семинар 📱Александр Коротин — Диффузионные мосты для переноса между доменами 📱 Сергей Холькин — Диффузионные мосты: практический семинар 📱 Ильсеяр Алимова — LLM для языков с ограниченными ресурсами 📱 Валентин Малых — Введение в большие языковые модели 📱 Дмитрий Сошников — Мультиагентные системы в Yandex AI Studio 📱 Дарья Самсонова и Дани Эль-Айясс — RAG-системы: оценка и качество 📱 Дмитрий Каплун — Интеллектуальные устройства и обучение на устройстве 📱 Марк Обозов — JEPA для динамических систем 📱 Георгий Якушев — Эффективные LLM-агенты 📱 Фан Чжао — Распознавание образов и компьютерное зрение 📱 Сяосяо Лун — 3D-зрение и пространственный интеллект 📱 Ин Тай — Генеративное компьютерное зрение 📱 Маурицио Филиппоне — Байесовский выбор моделей и законы масштабирования нейросетей 📱 Цзяхэн Лю — Большие языковые модели и общий искусственный интеллект 📱 Артём Шелманов — Оценка неопределённости в LLM 📱 Фан Лю — Байесовские методы синтетических данных для ответственного ИИ 📱 Рэй Бантайн — Байесовский взгляд на большие языковые модели 📱 Дяньхуэй Ван — Стохастические конфигурационные сети для промышленного ИИ 📱 Шуихуа Ван — Генеративный ИИ для медицинской визуализации 📱 Инчжэнь Ли — Разложение неопределённости при обучении в контексте 📱 Круглый стол — Как начать научную карьеру и не выгореть 📱 Ван-Чжоу Дай — На стыке машинного обучения и логического вывода 💡 Зачем смотреть В одном архиве собраны лекции от основ LLM, байесовских методов и генеративных моделей до RAG, многоагентных систем, 3D-зрения, медицинской визуализации и промышленного ИИ. Теоретические лекции дополнены практическими семинарами по Flow Matching, Rectified Flows и диффузионным мостам. Все лекции — на английском языке. SMILES-2026 организована Центром ИИ Сколтеха совместно с Нанкинским университетом. Генеральный партнёр SMILES-2026 — Альфа-Банк. Партнёр программы поддержки молодых учёных — Группа «Т-Технологии».

🎓 SMILES-2026: выложен полный архив лекций Для всех, кто следил за Международной летней школой машинного обучения SMILES-2026 в Сучжоу, мы собрали полный архив записей лекций и семинаров. Школа прошла 13–27 июля 2026 года на площадке Нанкинского университета. Это были две недели плотного погружения в большие языковые модели и ИИ-агентов, генеративный ИИ и компьютерное зрение, оценку неопределённости и надёжность моделей, медицинский и промышленный ИИ. ➡️ Плейлист лекций 2026 на YouTube ➡️ Плейлист лекций 2026 в VK Видео 🌫 28 лекций, семинаров и дискуссий 📱 Евгений Бурнаев — Не только ChatGPT: как ИИ меняет инженерную работу 📱 Алексей Зайцев — Неопределённость и детекция галлюцинаций в LLM 📱 Иван Тюкин — Стабильный, адаптивный и устойчивый ИИ 📱 Алексей Заикин — Медицинский ИИ: проблемы и возможные решения 📱 Александр Коротин — Flow Matching и Rectified Flows 📱 Сергей Холькин — Flow Matching и Rectified Flows: семинар 📱Александр Коротин — Диффузионные мосты для переноса между доменами 📱 Сергей Холькин — Диффузионные мосты: практический семинар 📱 Ильсеяр Алимова — LLM для языков с ограниченными ресурсами 📱 Валентин Малых — Введение в большие языковые модели 📱 Дмитрий Сошников — Мультиагентные системы в Yandex AI Studio 📱 Дарья Самсонова и Дани Эль-Айясс — RAG-системы: оценка и качество 📱 Дмитрий Каплун — Интеллектуальные устройства и обучение на устройстве 📱 Марк Обозов — JEPA для динамических систем 📱 Георгий Якушев — Эффективные LLM-агенты 📱 Фан Чжао — Распознавание образов и компьютерное зрение 📱 Сяосяо Лун — 3D-зрение и пространственный интеллект 📱 Ин Тай — Генеративное компьютерное зрение 📱 Маурицио Филиппоне — Байесовский выбор моделей и законы масштабирования нейросетей 📱 Цзяхэн Лю — Большие языковые модели и общий искусственный интеллект 📱 Артём Шелманов — Оценка неопределённости в LLM 📱 Фан Лю — Байесовские методы синтетических данных для ответственного ИИ 📱 Рэй Бантайн — Байесовский взгляд на большие языковые модели 📱 Дяньхуэй Ван — Стохастические конфигурационные сети для промышленного ИИ 📱 Шуихуа Ван — Генеративный ИИ для медицинской визуализации 📱 Инчжэнь Ли — Разложение неопределённости при обучении в контексте 📱 Круглый стол — Как начать научную карьеру и не выгореть 📱 Ван-Чжоу Дай — На стыке машинного обучения и логического вывода 💡 Зачем смотреть В одном архиве собраны лекции от основ LLM, байесовских методов и генеративных моделей до RAG, многоагентных систем, 3D-зрения, медицинской визуализации и промышленного ИИ. Теоретические лекции дополнены практическими семинарами по Flow Matching, Rectified Flows и диффузионным мостам. Все лекции — на английском языке. SMILES-2026 организована Центром ИИ Сколтеха совместно с Нанкинским университетом. Генеральный партнёр SMILES-2026 — Альфа-Банк. Партнёр программы поддержки молодых учёных — Группа «Т-Технологии».

🎓 SMILES-2026: полный архив лекций на YouTube и в VK Видео Для всех, кто следил за Международной летней школой машинного обучения SMILES-2026 в Сучжоу, мы собрали полный архив записей и привели названия и описания к единому формату. Школа прошла 13–27 июля 2026 года на площадке Нанкинского университета. Две недели плотного погружения в большие языковые модели и ИИ-агентов, генеративный ИИ и компьютерное зрение, оценку неопределённости и надёжность моделей, медицинский и промышленный ИИ. ▶️ Плейлист лекций 2026 на YouTube: https://www.youtube.com/playlist?list=PLRLg7of4jdbk ▶️ Плейлист лекций 2026 в VK Видео: https://vkvideo.ru/playlist/-220010299_5 🧠 28 лекций, семинаров и дискуссий 1️⃣ Алексей Заикин — Медицинский ИИ: проблемы и возможные решения 2️⃣ Ильсеяр Алимова — LLM для языков с ограниченными ресурсами 3️⃣ Дмитрий Сошников — Мультиагентные системы в Yandex AI Studio 4️⃣ Дарья Самсонова и Дани Эль-Айясс — RAG-системы: оценка и качество 5️⃣ Дмитрий Каплун — Интеллектуальные устройства и обучение на устройстве 6️⃣ Марк Обозов — JEPA для динамических систем 7️⃣ Георгий Якушев — Эффективные LLM-агенты 8️⃣ Фан Чжао — Распознавание образов и компьютерное зрение 9️⃣ Сяосяо Лун — 3D-зрение и пространственный интеллект 🔟 Ин Тай — Генеративное компьютерное зрение 1️⃣1️⃣ Маурицио Филиппоне — Байесовский выбор моделей и законы масштабирования нейросетей 1️⃣2️⃣ Цзяхэн Лю — Большие языковые модели и общий искусственный интеллект 1️⃣3️⃣ Круглый стол — Как начать научную карьеру и не выгореть 1️⃣4️⃣ Алексей Зайцев — Неопределённость и детекция галлюцинаций в LLM 1️⃣5️⃣ Артём Шелманов — Оценка неопределённости в LLM 1️⃣6️⃣ Фан Лю — Байесовские методы синтетических данных для ответственного ИИ 1️⃣7️⃣ Рэй Бантайн — Байесовский взгляд на большие языковые модели 1️⃣8️⃣ Дяньхуэй Ван — Стохастические конфигурационные сети для промышленного ИИ 1️⃣9️⃣ Шуихуа Ван — Генеративный ИИ для медицинской визуализации 2️⃣0️⃣ Иван Тюкин — Стабильный, адаптивный и устойчивый ИИ 2️⃣1️⃣ Инчжэнь Ли — Разложение неопределённости при обучении в контексте 2️⃣2️⃣ Сергей Холкин — Диффузионные мосты: практический семинар 2️⃣3️⃣ Александр Коротин — Диффузионные мосты для переноса между доменами 2️⃣4️⃣ Валентин Малых — Введение в большие языковые модели 2️⃣5️⃣ Сергей Холкин — Flow Matching и Rectified Flows: семинар 2️⃣6️⃣ Александр Коротин — Flow Matching и Rectified Flows 2️⃣7️⃣ Ван-Чжоу Дай — На стыке машинного обучения и логического вывода 2️⃣8️⃣ Евгений Бурнаев — Не только ChatGPT: как ИИ меняет инженерную работу 🧭 Зачем смотреть В одном архиве — путь от основ LLM, байесовских методов и генеративных моделей до RAG, многоагентных систем, 3D-зрения, медицинской визуализации и промышленного ИИ. Теоретические лекции дополнены практическими семинарами по Flow Matching, Rectified Flows и диффузионным мостам. Все лекции — на английском языке. SMILES-2026 организована Центром ИИ Сколтеха совместно с Нанкинским университетом. 🌐 О школе: https://smiles.skoltech.ru/

🌐 Решения Центра ИИ Сколтеха для мониторинга территорий и природных ресурсов представили делегациям Анголы и ЮАР Дмитрий Шадрин, руководитель направления Центра ИИ Сколтеха, представил разработки в области искусственного интеллекта для дистанционного зондирования Земли представителям Республики Ангола и Университета Зулуленда (ЮАР). 🇦🇴 Делегация Анголы во главе с государственным министром, начальником гражданского кабинета при президенте республики Дионизиу Мануэлом да Фонсекой посетила Сколтех в рамках российско-африканского диалога. На встрече с руководством и исследователями института Дмитрий рассказал о применении ИИ для управления территориями и природными ресурсами, а также о практических результатах работы команды. 🇿🇦 Разработки Центра ИИ также были представлены профессорам Университета Зулуленда Мелузи М. Сибанде и Фабиану Нде. 🌏 В числе представленных технологических направлений — интеллектуальный анализ спутниковых снимков, экологический мониторинг и прогнозирование природных чрезвычайных ситуаций. Разработанная в Центре ИИ цифровая платформа объединяет сервисы для решения прикладных задач: 🤖 Прогнозирование лесных пожаров — автоматическое формирование пятидневных прогнозов вероятности возникновения и распространения пожаров. 🤖 Мониторинг лесных ресурсов — определение границ лесных массивов, характеристик древостоя и отдельных крон деревьев, оценка углеродного баланса территорий. 🤖 Мониторинг паводков и затоплений — выявление затопленных территорий по спутниковым данным и оценка масштабов чрезвычайных ситуаций. 🤖 Анализ землепользования — распознавание зданий, объектов инфраструктуры и изменений земной поверхности с использованием методов компьютерного зрения.

«Для многих стран Африки вопросы рационального использования природных ресурсов, мониторинга лесов и предупреждения чрезвычайных ситуаций имеют большое практическое значение. Мы представили решения, которые позволяют использовать спутниковые данные и искусственный интеллект не просто для наблюдения за территориями, а для принятия конкретных управленческих решений. Например, наши технологии помогают оценивать состояние лесных массивов и их углеродный баланс, прогнозировать лесные пожары, выявлять зоны затопления и отслеживать изменения земной поверхности. При этом мы разрабатываем не отдельные алгоритмы, а комплексную платформу, которую можно адаптировать к задачам конкретной страны, её природным условиям и доступным источникам данных. Мы видим хорошие возможности для научного и технологического сотрудничества с африканскими партнёрами», — отметил Дмитрий Шадрин, руководитель направления Центра ИИ Сколтеха.

🔬 Александр Марухин, студент второго года магистратуры Сколтеха по программе Applied Computational Mechanics, выступил с докладом на международной конференции DAMDID 2026 (Data Analytics and Management in Data Intensive Domains), которая проходила в Нижнем Новгороде. Александр представил работу SINDy-Based Method for Inverse Reconstruction of Time-Dependent Coefficients in Nonlinear ODE Systems, выполненную совместно с Сергеем Сафоновым, профессором Центра ИИ Сколтеха. Исследование отвечает на вопрос: как восстановить математические уравнения сложной системы по наблюдаемым данным, если её параметры постоянно меняются во времени? 📄 Многие физические и инженерные процессы невозможно описать моделью с неизменными параметрами. Например, характеристики механических колебаний могут зависеть от внешних воздействий, а поведение систем управления — от меняющихся условий работы. Для их моделирования важно не только определить математические закономерности, но и восстановить, как они изменяются со временем. 💡 Исследователи предложили модификацию метода SINDy (Sparse Identification of Nonlinear Dynamics), который позволяет восстанавливать уравнения динамических систем непосредственно по данным. В отличие от классического подхода, рассчитанного на постоянные коэффициенты, новая версия сочетает разреженную регрессию STLSQ с локально взвешенной LASSO-регрессией. Это позволяет одновременно определять постоянные и изменяющиеся параметры, сохраняя интерпретируемую структуру уравнений. 🌫 Метод проверили на нескольких нелинейных динамических системах, включая уравнение Матье и систему Лоренца. В одном из экспериментов точность восстановления изменяющегося коэффициента составила R² = 0,9997 против 0,9635 у метода SINDy со скользящим окном. Исследователи также изучили устойчивость алгоритма к шуму в исходных данных. Разработка перспективна для задач механики, физики, робототехники и управления, где необходимо восстанавливать математические модели процессов по результатам наблюдений. В дальнейшем авторы планируют повысить вычислительную эффективность алгоритма и его устойчивость к шуму. 📎 Реализация метода на GitHub

🔬 Даниил Селиханович, выпускник аспирантской программы CDSE Сколтеха, успешно защитил кандидатскую диссертацию «Вычислительный оптимальный транспорт и генеративное моделирование для задач перевода изображений из одного домена в другой». Защита состоялась по специальности 1.2.2 «Математическое моделирование, численные методы и комплексы программ». Все шесть членов диссертационного совета проголосовали за присуждение Даниилу степени кандидата физико-математических наук. Научным руководителем выступил Евгений Бурнаев, вице-президент по развитию ИИ, директор Центра ИИ Сколтеха, профессор РАН. 📊 При изменении стиля изображения нейросеть должна одновременно создавать реалистичный результат и сохранять важные детали оригинала. В диссертации Даниил исследует эту задачу в условиях, когда у алгоритма есть два отдельных набора изображений, но нет готовых пар «исходник — результат». Для обучения моделей он использует теорию оптимального транспорта и мосты Шрёдингера — математические подходы к построению переходов между распределениями данных. 🌫 Диссертационная работа объединяет несколько результатов: 🌫 Оценка баланса между реалистичностью и сходством с оригиналом. Даниил предложил способ измерять этот баланс и исследовал его на генеративно-состязательных сетях CycleGAN и StarGAN-v2. Эксперименты показали: поиск удачного сочетания двух свойств требует затратного перебора настроек. В одном из рассмотренных экспериментов такой поиск занимал 8–18 дней на одной видеокарте Tesla V100 в зависимости от модели. 🌫 Преобразование изображений с помощью оптимального транспорта. Совместно с коллегами исследователь разработал алгоритм, который учится преобразовывать изображения, учитывая сходство входа и результата. В экспериментах он показал более удачный баланс реалистичности и сходства, чем рассмотренные модели на основе GAN. При этом ему не требуется подбирать коэффициенты, которые вручную задают этот баланс. 📇 Несколько вариантов по одному изображению. Даниил предложил способ обучения, позволяющий получать разные результаты преобразования одного исходника. В проведённых экспериментах такие модели создавали более реалистичные изображения по метрике FID, чем сравниваемые сети MUNIT и Augmented CycleGAN. При этом использовались две нейросети вместо как минимум четырёх. ⭐️ Преобразование за четыре шага. В работе с мостами Шрёдингера Даниил разработал алгоритм и программную реализацию модели для быстрого преобразования изображений. В эксперименте с портретами разрешением 128 × 128 пикселей обработка тестового набора заняла 2,2 минуты против 49,2 минуты у модели DSBM. Предложенная модель выполняла четыре шага вместо ста и показала лучшие значения метрики реалистичности FID. 🌫Результаты по теме диссертации опубликованы в четырёх совместных работах: двух на ICLR 2023 и по одной на NeurIPS 2023 и NeurIPS 2024 — конференциях ранга A*. Разработанные методы могут применяться для редактирования изображений и переноса стиля в компьютерной графике, когда важно сохранить заданные черты исходника, получить несколько вариантов результата и сократить время его создания. 🌫 Поздравляем Даниила и его научного руководителя с успешной защитой! 💡 Диссертация, автореферат и материалы защиты

🎓 Эдуард Тульчинский, инженер-исследователь Центра ИИ Сколтеха, успешно защитил кандидатскую диссертацию «Методы извлечения топологических признаков внутренних представлений трансформерных моделей в задачах обработки естественных языков». Защита состоялась сегодня в Сколтехе по специальности 1.2.1 «Искусственный интеллект и машинное обучение». По итогам защиты Эдуарду присуждена учёная степень кандидата наук. Научным руководителем выступил Сергей Баранников, профессор, руководитель лаборатории «Математические методы генеративного искусственного интеллекта» Центра ИИ Сколтеха; научный консультант — Евгений Бурнаев, вице-президент по развитию ИИ, директор Центра ИИ Сколтеха, профессор РАН. 🌳 Что происходит внутри языковой модели, когда она обрабатывает текст, и можно ли по структуре её внутренних представлений определить, насколько надёжен результат? Вместо того чтобы оценивать нейросеть только по её ответам, Эдуард исследует математическую структуру внутренних представлений трансформеров — прежде всего механизмов внимания. Для этого используются методы топологического анализа данных, позволяющие выявлять устойчивые структурные особенности, которые сложно обнаружить при обычном анализе числовых параметров модели. 🖥 Исследования Эдуарда и его коллег охватывают несколько задач: 🟦 Оценка грамматической корректности текста. Анализ топологии карт внимания позволяет выявлять связи между внутренней структурой языковой модели и грамматическими свойствами предложений. В исследовании, представленном на EMNLP 2022, топологические признаки повысили качество классификации грамматической приемлемости на 8–24% в экспериментах с тремя языками. 🎯 Быстрое сравнение внутренних представлений нейросетей. Эдуард и коллеги разработали алгоритм RTD-Lite для сравнения топологической структуры внутренних представлений нейросетей. В экспериментах он показал более высокую точность, чем популярный метод CKA, разработанный исследователями Google, — 98% против 96%. При этом RTD-Lite оказался почти в 10 раз быстрее: обработка набора данных из 10 тыс. объектов заняла 3,75 минуты против 36 минут у CKA. 🟦 Выявление текстов, созданных ИИ. Исследование геометрии внутренних представлений помогает создавать детекторы, устойчивые к смене тематики текста и модели-генератора, в том числе когда заранее неизвестно, какая нейросеть использовалась. 🟦 Анализ речевых моделей. Методы топологического анализа позволяют исследовать внутренние представления трансформеров, обрабатывающих речь, и выявлять особенности работы механизмов внимания. В исследовании, представленном на INTERSPEECH 2023, топологические признаки помогли повысить точность классификации речи и определить функциональные роли отдельных голов внимания. 🧠 Результаты исследований Эдуарда представлены на ведущих международных конференциях, включая ICLR, AISTATS, EMNLP 2022, INTERSPEECH и NeurIPS 2023. Разработанные методы помогают лучше понимать внутренние механизмы языковых моделей и создавать инструменты для проверки их ответов и повышения надёжности искусственного интеллекта. 👍 Поздравляем Эдуарда с успешной защитой и присуждением учёной степени! 💡 Диссертация, автореферат и материалы защиты

🏢 Как довести ИИ-разработку до внедрения? Сколтех — о государственной поддержке технологий Заместитель директора Центра искусственного интеллекта Сколтеха Максим Мироненко выступил в Совете Федерации на сессии «Государственная поддержка технологий искусственного интеллекта» под председательством сенатора Артёма Шейкина. Обсуждение прошло в рамках XX Международной научно-практической конференции «Державинские чтения».

«Посмотрим на это с другой стороны: как государство может помочь нам внедрять все те разработки, которые мы создаём в рамках своих исследований», — обозначил тему выступления Максим.

Путь ИИ-решения включает постановку задачи, исследования, разработку, испытания и внедрение. На каждом этапе возникают свои препятствия: запрос заказчика нужно перевести в техническую задачу, для обучения модели — получить специализированные данные, а результат — проверить и убедительно показать его пользу. 📊 Сам ИИ может помочь связать потребности заказчиков с работой исследователей. Сколтех разрабатывает решение на основе мультиагентных технологий и методологии Платформы технологического суверенитета. Оно должно помогать определять необходимые технологии, формировать задачи для исследований и находить исполнителей. В перспективе подключение данных Роспатента позволит учитывать и мировые направления разработок при выборе научных приоритетов. ⚙️ Одно из главных препятствий для прикладных проектов — доступ к отраслевым данным. Максим привёл пример сотрудничества с МЧС России: Сколтех разработал решение для прогнозирования природных пожаров на пять суток вперёд, однако согласование доступа к данным других ведомств требовало длительной работы.

«Как только мы делаем отраслевое решение, мы сталкиваемся с тем, что нам некуда пойти и собрать эти данные», — рассказал Максим Мироненко.

🟦 Поэтому среди предложений — развитие института операторов отраслевых данных и более широкое применение экспериментальных правовых режимов, позволяющих проверять технологии в реальных условиях. Не менее важный вопрос — как измерять эффект внедрения и подтверждать качество решения. Согласованных с одним заказчиком показателей недостаточно для того, чтобы результатам доверяли и другие организации.

«Нужна единая независимая методика, отраслевая в данном случае, для измерения эффекта», — подчеркнул Максим.

☑️ Отдельное направление — испытания и экспертиза прикладного ИИ, включая мультиагентные системы. Здесь важно проверять качество результата, устойчивость моделей и корректность действий агентов.

«Нужен точно так же единый подход к верификации моделей», — отметил он.

🎓 В завершение Максим представил проект AI First University, который Сколтех развивает для применения ИИ в образовательных, исследовательских и административных процессах университета. Его задача — подготовить людей, которые понимают работу технологий, умеют пользоваться ими и эффективно применять их в своей деятельности. Полученные подходы планируется распространять на другие вузы. 🖥 Смотреть запись на RUTUBE

🤖💊 Нейросети уже читают снимки, предлагают диагнозы и помогают выбирать лечение — но насколько хорошо мы понимаем, где заканчивается их компетенция и начинается убедительная догадка? Старший аналитик Центра ИИ Сколтеха Дмитрий Самофалов расскажет об этом на лекции «ИИ в медицине». Поговорим о диагностике, прогнозировании исходов, рисках медицинских ошибок и о том, как научить ИИ понимать пределы собственного знания.

📅 11 ноября 🕖 19:00 – 20:00 📍 Мероприятие пройдёт в атмосферных интерьерах исторической усадьбы Долгоруковых-Бобринских по адресу: ул. Малая Никитская, д. 12, стр. 1 (Филиал Ельцин Центра в Москве).

🎟 Бесплатно, по регистрации (рекомендуемый возраст: 12+)

🌫 Когда появится общий искусственный интеллект, можно ли доверять ИИ-агентам и чему теперь учить студентов? Евгений Бурнаев, вице-президент по развитию ИИ, директор Центра ИИ Сколтеха, профессор РАН, принял участие в панельной дискуссии «Прорыв в области искусственного интеллекта: каким станет ИИ и кем станем мы?» на конференции Fall into ML 2026, организованной факультетом компьютерных наук НИУ ВШЭ. Один из вопросов сессии — появится ли общий искусственный интеллект (AGI) уже к 2030 году. Евгений предложил сначала договориться о том, что именно считать AGI.

«Если речь идёт о системе, способной решать широкий круг интеллектуальных задач на уровне как минимум специалиста средней квалификации, обучаться, распознавать собственные ошибки и совершенствоваться на их основе, то я считаю её появление вполне вероятным. Не уверен, что это произойдёт к 2030 году, но позднее такие системы, думаю, станут доступны. И это не имеет отношения к сознанию или чувствам: речь о технических возможностях».

При этом сегодняшним агентам ещё далеко до длительной автономной работы. Они уязвимы к манипуляциям, а сложные инженерные задачи требуют одновременного учёта физических закономерностей, технических и экономических ограничений. В качестве примера Евгений привёл обработку реальных 3D-сканов: по оценке инженеров, приемлемый результат получался лишь примерно в 20% случаев.

«Многие задачи требуют значительного времени для решения. Но пока мы не видим систем, которые могли бы самостоятельно работать неделю или две без вмешательства человека. Если задача очень сложная и включает множество этапов, необходимого уровня автономности ещё нет».

ИИ уже помогает самому Евгению готовить презентации, документы и проектные заявки. Но он предлагает различать ощущение удобства и измеримый результат.

«Ощущать повышение продуктивности и измерить, действительно ли она выросла, — две разные вещи. Люди могут считать, что стали работать эффективнее, хотя на деле тратят дополнительное время на написание промптов и настройку инструментов. В отдельных задачах моя продуктивность действительно выросла. Но это ещё не означает, что выросла общая продуктивность».

Обсуждая прогнозы о многократном увеличении размеров моделей, Евгений обратил внимание на ограничения вычислительных мощностей, данных и экономики. Он сравнил ситуацию с управляемым термоядерным синтезом и сверхзвуковой пассажирской авиацией: технические возможности ещё не гарантируют практической и экономической целесообразности.

«По мере приближения к технологическим пределам возникают новые сложности, которые трудно предвидеть. Я не знаю, станут ли модели через десять лет в сто раз больше нынешних. Возможно, они вырастут в десять раз. Но главный вопрос — насколько улучшатся их возможности и будет ли это экономически оправданно. У меня нет таких оценок, и, признаться, я не склонен доверять прогнозам, которые объявляет OpenAI».

Ещё один вопрос — как менять университетское образование в эпоху ИИ. Евгений предложил три направления: пересмотреть формат экзаменов, учить пользоваться ИИ-инструментами и, самое главное, проверять их.

«Нам определённо нужен ветер перемен в образовании. Во-первых, мы должны продолжать учить студентов фундаментальным дисциплинам, но изменить формат экзаменов: возможно, вместо письменных проводить устные. Во-вторых, учить пользоваться инструментами ИИ в повседневных исследовательских задачах. И в-третьих, что особенно важно, — учить студентов работать против ИИ: быстро проверять и тестировать ответы моделей, находить ошибки и исправлять их. По сути, готовить студентов к роли экспертов, способных критически оценивать результаты искусственного интеллекта».

🎥 Смотреть запись панельной дискуссии Fall into ML 2026

🌫 Профессор Сергей Баранников, руководитель Лаборатории математических методов генеративного искусственного интеллекта Центра ИИ Сколтеха, выступил с устным докладом в основной программе EMNLP 2026 в Будапеште — одной из ведущих международных конференций по обработке естественного языка с рейтингом A*. Сергей Баранников представил CodeTD — метод оценки корректности кода по внутренним сигналам языковой модели. Работа отвечает на вопрос: можно ли заранее узнать, что сгенерированная программа не решает поставленную задачу, не запуская её? Для устного представления отобрали около 2% работ, поданных на конференцию. 📄 Синтаксически правильный код может содержать логическую ошибку. При этом функциональные тесты не всегда доступны, а выполнение программы может быть дорогостоящим или небезопасным. Авторы предложили искать признаки ошибки в картах внимания — связях, которые модель выстраивает между условием задачи и генерируемым решением. 💡В основе подхода — MTop-Div, разработанный Сергеем Баранниковым с коллегами и представленный на NeurIPS 2021. Карты внимания преобразуются в графы. Исследователи отслеживают, как при изменении порога включения связей объединяются связные компоненты, появляются и исчезают циклы. Классификатор объединяет признаки разных слоёв и голов внимания и оценивает корректность кода. 🌫 CodeTD проверили на четырёх бенчмарках, пяти языках программирования и десяти моделях размером до 34 млрд параметров. В одном из экспериментов на HumanEval отбор решений DeepSeek-Coder-6.7B с помощью CodeTD повысил долю корректных решений с 39,1% до 56,7% по сравнению со случайным выбором из 25 сгенерированных вариантов. Работу выполнили Дарья Воронкова, Илья Трофимов, Антон Дмитриев, Эдуард Тульчинский, Евгений Бурнаев и Сергей Баранников. 🌎 О лаборатории и MTop-Div · Обзор работ Сколтеха на EMNLP 2026

🌫 Сегодня старший инженер по машинному обучению Центра ИИ Сколтеха Александра Кулешова выступила с устным докладом в основной программе EMNLP 2026 в Будапеште — одной из ведущих международных конференций по обработке естественного языка с рейтингом A*. Александра представила INTRYGUE — метод, который помогает точнее оценивать надёжность ответов языковых моделей, использующих внешние источники информации — на секции, посвящённой интерпретируемости и анализу языковых моделей. Работа объясняет парадокс: модель может правильно ответить по предоставленным документам, а стандартный метод оценки надёжности — посчитать этот ответ подозрительным. 🌫 Речь о RAG-системах, которые перед генерацией ответа находят нужную информацию во внешних источниках. Даже с такой поддержкой модель может галлюцинировать, поэтому важно оценивать, насколько можно доверять её ответу. Для этого часто используют энтропию выходного распределения — показатель неопределённости при генерации текста. Но в RAG-сценариях он может вводить в заблуждение. Авторы исследовали механизмы внимания, помогающие модели переносить информацию из контекста в ответ. Оказалось, что их работа может сопровождаться активацией особых нейронов, которые повышают энтропию. В результате правильный ответ, согласованный с источником, получает завышенную оценку неопределённости. 🌫 INTRYGUE корректирует эту оценку с учётом внутренних сигналов модели. На четырёх RAG-бенчмарках и шести открытых LLM размером от 4 до 13 млрд параметров он опережает ряд популярных подходов к обнаружению галлюцинаций или показывает сопоставимые результаты. Это шаг к более надёжной проверке ответов ИИ: чтобы система могла выявлять ошибки и реже ставила под сомнение корректное использование источников. Работу выполнили Александра Кулешова, младший инженер по машинному обучению Андрей Володичев, инженер по машинному обучению Дарья Котова и Алексей Зайцев, доцент Сколтеха, руководитель совместной лаборатории «Сколтех — Сбербанк» (LARSS). 📄 Об INTRYGUE и других работах исследователей Сколтеха на EMNLP 2026 рассказывали здесь.