Точка машинного зрения

🛡 Доверять или проверять: как не потерять контроль над ИИ? Иван Тюкин, профессор Центра ИИ Сколтеха и руководитель Лаборатории надёжного, адаптивного и доверительного искусственного интеллекта, в интервью для «МИР 24» рассказал о том, почему современные ИИ-системы всё сложнее проверять, какие риски возникают при использовании готовых моделей и где должны проходить границы самостоятельности таких систем. 🧮 Современные ИИ-системы всё сложнее проверять на безопасность. При этом новые версии появляются быстрее, чем специалисты успевают проверить предыдущие.

«Когда машина становится сложнее и сложнее, мы доходим до точки, когда нам очень тяжело верифицировать её работу. Сейчас ИИ достиг таких успехов, что решает задачи математических олимпиад на уровне золотых медалистов, решает крупные научные проблемы. При этом для проверки такой системы на отсутствие утечек и уязвимостей требуются огромные усилия. Пока мы сертифицируем одну версию, уже выходит следующая, и человечество просто не успевает за скоростью развития этих систем», - объясняет профессор.

🌫 Иван также рассказал о моделях с открытыми параметрами. Изменение нескольких значений может повлиять на их поведение и привести к появлению скрытых уязвимостей.

«Если злоумышленник имеет доступ к параметрам модели, ему необязательно переобучать её, чтобы заложить туда злонамеренное поведение: достаточно изменить несколько параметров. При этом мы не можем полностью проверить такую модель и не можем самостоятельно обучить её с нуля. Поэтому в определённой степени нам приходится доверять тому, что опубликовал разработчик. А обнаружить скрытое поведение довольно сложно», - рассказывает Иван.

🌫 Предусмотреть все сценарии работы сложной модели заранее нельзя. Важно уметь быстро исправлять проблемы, которые обнаруживаются уже в процессе.

«Априорные гарантии в сложной ситуации предоставить очень сложно, потому что мы живём в открытом мире и заранее не знаем всех задач, которые будет решать универсальная машина. Возникает другой вопрос: если что-то уже произошло, можем ли мы быстро и дёшево изменить машину так, чтобы она перестала делать именно то, что нам не нравится, но при этом сохранила все остальные свойства, которые мы от неё ожидали», - говорит профессор.

🌫 ИИ не должен становиться заменой собственному мышлению. Его можно использовать для поиска информации и дополнительных аргументов, но окончательное решение человек принимает сам.

«Безопасное использование, на мой взгляд, содержится в рефлексивном общении с ИИ. Не нужно воспринимать его как конечный инструмент решения конкретных задач. Лучше относиться к нему как к подручному средству, которое может помочь фактами, дополнительными доказательствами, сопоставлением информации. Но необходимо пропускать всё это через собственный фильтр критического мышления», - объясняет профессор.

📊 При этом последствия использования ИИ могут быть серьёзнее обычных ошибок модели. Профессор обращает внимание, что человек постепенно передаёт системе всё больше собственных когнитивных функций.

«Основная опасность всё-таки не в том, что машина сама выйдет из-под контроля, а в том, что она будет использована способами, которые мы с вами не предусмотрели. И второе — за счет того, что эта машина используется широким кругом людей, в частности детьми и подрастающим поколением, вот здесь может произойти непоправимое, и возникнет такой феномен, как «когнитивная лень», когда мы отказываемся сами, сознательно делегируем часть когнитивной функции машине и, вообще говоря, встаем на путь такой вот деградации».

⚠️ Поэтому, считает профессор, вместе с развитием ИИ должны появляться и понятные правила его использования, а также наличие технической возможности его остановить.

«Лучше всё-таки не запрещать, не сдерживать, а устанавливать рамки использования — начиная со школ, с университетов, на работе. Это, скажем так, гигиена общения с ИИ. Важно, чтобы в любой момент систему можно было физически выключить. Это непросто, поскольку ИИ работает на серверах, но возможность его деактивации в экстренной ситуации должна быть предусмотрена».

🪐 ИИ в космосе: какие решения можно доверить алгоритмам? Искусственный интеллект уже способен анализировать большие потоки данных, прогнозировать отказы оборудования и помогать принимать решения. Это особенно важно в космосе, где одновременно приходится учитывать огромное количество параметров. Но что можно полностью передать алгоритму, а где по-прежнему необходим контроль человека? 📐 Границы автономности ИИ обсудили на лектории «Искусственный интеллект и его роль в освоении космического пространства» в Национальном центре «Россия». В дискуссии приняли участие вице-президент по развитию искусственного интеллекта, директор Центра ИИ Сколтеха, профессор РАН Евгений Бурнаев, летчик-космонавт, Герой России Алексей Зубрицкий и эксперт по международному космическому праву Ирина Черных. ◾️ Евгений Бурнаев отметил, что ИИ способен быстрее человека анализировать большие потоки данных от космических аппаратов и наземных станций, прогнозировать отказы оборудования: алгоритм может направить камеру спутника на нужный участок Земли, обнаружить пожар и передать данные в центр. Однако степень автономности систем должна определяться в том числе их обратимостью и трассируемостью: можно ли отменить решение и понять, почему оно было принято.

«Если решение можно быстро отменить, понятно, кто за него отвечает, а задача и контекст четко заданы, ИИ можно использовать автономно. Но если хотя бы одно из этих условий не выполнено, необходимы участие и ответственность человека. При этом в задачах, где речь не идет о жизни и смерти, а ограничения четко установлены, ИИ способен оптимизировать процессы гораздо быстрее человека».

🌫 Важна правильная постановка задачи. Например, система может снизить потребление кислорода на станции до заданного уровня, но если при постановке задачи не учитывать работоспособность и комфорт экипажа, формально верное решение окажется неприемлемым для человека. Еще сложнее задать правила на случай нештатной ситуации, которую невозможно полностью предусмотреть.

«Современный ИИ в этом смысле достаточно консервативен: он следует паттернам, которым его обучили, и правилам, которые в него заложили. Но в жизни иногда эти правила необходимо нарушать с учетом того, что происходит. В аварийной ситуации может возникнуть сценарий, для которого заложенный алгоритм уже просто не работает», — отметил профессор.

🌫 При пожаре на станции ИИ может обнаружить угрозу и отключить часть энергосистем, не дав огню распространиться, но вместе с этим — сорвать многолетний научный эксперимент. Жизнь и безопасность людей в такой ситуации остаются приоритетом. При этом систему можно настроить точнее — например, отключать энергию только в отсеке с пожаром или предусмотреть автономное питание критически важных систем. Если ограничения четко заданы, ИИ, напротив, может работать гораздо эффективнее.

«Если рамки можно задать достаточно жестко, то в процессах, где речь не идет о жизни и смерти, ИИ способен оптимизировать решения гораздо лучше и быстрее человека. Важно заранее определить эти рамки и понимать, в каких ситуациях решение должно оставаться за человеком», — отметил профессор.

🌆 По словам Евгения, ИИ можно внедрять практически во все процессы — в энергетику, техническое обслуживание и другие системы, определяя для каждой задачи допустимую степень автономности. Однако важно разделять ответственность за действия системы.

«Разработчик отвечает за то, чтобы система вела себя так, как предусмотрено техническим заданием. Но есть еще своего рода конституция поведения автономной системы — правила, определяющие, как она должна действовать в разных классах задач. Если эти рамки недостаточно качественно проработаны, ответственность должна лежать на организации, которая их сформулировала», — пояснил Евгений.

🛡 Границы автономности ИИ зависят от того, насколько точно поставлена задача, можно ли проверить логику и последствия решения, при необходимости отменить его и заранее определить, кто несет ответственность. При соблюдении этих условий ИИ может постепенно переходить от роли советника к полноценному участнику управления космическими системами.

🌫 Не всякой задаче нужен LLM: Иван Тюкин — о надёжном ИИ в финансах Иван Тюкин, профессор, руководитель Лаборатории надёжного, адаптивного и доверительного искусственного интеллекта Центра ИИ Сколтеха, принял участие в Scoring Day 2026 — отраслевом форуме по скорингу, антифроду и применению искусственного интеллекта в финансах. ⚠️Иван выступил в панельной дискуссии «Передовые алгоритмы и ИИ-фреймворки для скоринга и антифрода». Участники обсуждали, как выбирать архитектуру под конкретную задачу: когда достаточно классического машинного обучения, а когда применение языковых моделей или агентных систем действительно даёт преимущество. Одна из ключевых тем — границы применимости разных подходов. При выборе модели важно учитывать природу задачи и данных: работа с табличными признаками и относительно стабильным распределением требует одного подхода, с неструктурированным текстом и слабо формализованной логикой — другого. 📈 Отдельный вопрос — где генеративные модели дают принципиальный выигрыш, а где усложнение архитектуры не улучшает решение и лишь увеличивает стоимость и риски эксплуатации.

«Выбор между классическим машинным обучением, языковой моделью и агентной архитектурой должен начинаться не с вопроса, какая технология новее, а с природы самой задачи, - отметил Иван Тюкин. - Для хорошо структурированных данных со стабильными закономерностями классические методы во многих случаях остаются оптимальным решением. LLM и агентные системы имеют смысл там, где они действительно расширяют возможности системы — например, позволяют работать с неструктурированными данными или со слабо формализованной логикой. Но чем сложнее система, тем важнее вопрос её надёжности. Недостаточно показать высокое качество на тестовой выборке: нужно понимать, что произойдёт при изменении распределения данных, как будет вести себя модель после переобучения и не возникнет ли ситуация, когда её собственные решения начнут формировать данные для следующего цикла обучения. Поэтому для промышленного ИИ принципиально важно разделять свойства, для которых мы можем получить формальные гарантии, и те, где пока приходится опираться на инженерные механизмы контроля», - объяснил профессор.

🌫 Отдельная часть дискуссии была посвящена работе ИИ в динамической среде: устойчивости моделей при изменении распределения данных, безопасному автоматическому переобучению и риску самоподтверждающихся петель обучения. Один из принципиальных вопросов здесь — какие свойства ИИ-системы можно гарантировать формально, а где надёжность остаётся результатом инженерного компромисса.

📊 Почему инженеру мало одного ChatGPT? Евгений Бурнаев, профессор РАН, вице-президент по развитию искусственного интеллекта, директор Центра ИИ Сколтеха, — ключевой спикер международного симпозиума «Нейронные сети и нелинейность в Нижнем Новгороде» (Neural Networks and Nonlinearity in Nizhny Novgorod), который проходит в НИУ ВШЭ — Нижний Новгород. Симпозиум объединяет три конференции на стыке машинного обучения, нелинейной динамики, моделирования сложных систем и исследований языка и мозга. 🌆 Выступление Евгения посвящено вопросу, который становится всё важнее по мере развития генеративного ИИ: как перейти от моделей, способных создавать правдоподобный контент, к системам, которым можно доверить сложную инженерную задачу? Для инженерии недостаточно просто получить убедительный ответ. Нужно учитывать физические зависимости, технические требования и ограничения, работать одновременно с текстом, расчётами, чертежами, 3D-моделями и другими данными — и уметь проверить полученный результат. 📊 Поэтому инженерный ИИ строится уже не вокруг одной большой модели. В единую систему объединяются специализированные ИИ-агенты, математические и физические модели, графовая память, причинно-следственный анализ и инструменты объяснимого ИИ. Оркестратор распределяет задачи между ними и связывает отдельные действия в общий процесс. 🔘 Следующий этап — переход от отдельных моделей к целостным инженерным системам, подчеркнул Евгений Бурнаев:

«Сегодня задача состоит уже не в том, чтобы доказать, что искусственный интеллект способен решать отдельные инженерные задачи. Следующий шаг — научиться объединять модели и ИИ-агентов в надежные системы, которые понимают контекст, используют накопленный опыт, объясняют свои решения и работают вместе с человеком. Именно такой инженерный подход позволит масштабировать ИИ от пилотных проектов до реального производства».

🌫 Такой подход позволяет переходить от отдельных AI-функций к работе с полным инженерным циклом: извлекать требования из технической документации, проверять чертежи и цифровые модели, искать оптимальные инженерные решения, работать с CAD, восстанавливать 3D-модели и решать задачи обратного инжиниринга. Речь уже не о том, насколько хорошо отдельная модель отвечает на запрос, а о том, насколько надежно ИИ способен работать внутри сложного инженерного процесса — с реальными данными, ограничениями и ответственностью за результат.

📊 Можно ли доверять ИИ? Разбираемся в надёжности нейросетей Начался цикл лекций экспертов Центра ИИ Сколтеха «ИИ в усадьбе». Первую встречу провёл Алексей Зайцев, доцент Центра ИИ Сколтеха, заведующий лабораторией прикладных исследований «Сколтех–Сбербанк». 🌫 Почему большая языковая модель может уверенно сообщить несуществующий факт, придумать судебное дело или исказить информацию из документа? На лекции Алексей Зайцев разобрал, как LLM формируют ответы и почему возникают галлюцинации. Модель не «знает» факты в человеческом смысле: она продолжает текст, выбирая следующие слова на основе вероятностей и контекста. Поэтому может сформировать правдоподобный, но фактически неверный ответ. 🔘 Алексей рассказал, как обнаруживать галлюцинации по внутренним состояниям модели. В частности, он представил метод TOHA, разработанный исследователями Сколтеха и Сбера. Метод показывает, насколько ответ модели связан с информацией из запроса: чем слабее эта связь, тем выше вероятность галлюцинации. ➡️ Повысить надёжность ИИ можно и за счёт внешней информации. Например, RAG находит релевантные документы, добавляет их к запросу и позволяет модели сформировать ответ на их основе. Для дополнительной проверки можно требовать источник для каждого факта или разрешить модели не отвечать, если нужной информации нет в предоставленных документах. Ещё один способ обнаружить ошибку — несколько раз получить ответ на один и тот же вопрос и сравнить результаты. Если формулировки и содержание заметно отличаются, это может быть признаком галлюцинации. Такой подход не требует вмешательства во внутреннее устройство модели, но увеличивает количество генераций и стоимость проверки. ✔️ На лекции также обсудили неопределённость моделей, она возникает при неполной информации, а также при работе со сложными, шумными или неизвестными ранее данными. Алексей разобрал два типа неопределённости — связанную с данными и с самой моделью. В медицинской диагностике оценка неопределённости помогает понять, нужны ли дополнительные данные, а при активном обучении — выбрать примеры, которые модель хуже всего обрабатывает. 🛡 ИИ-модель можно не только случайно привести к ошибке — её можно намеренно заставить ошибиться. Для этого используют специально подобранные входные данные или промпты, которые незаметно меняют результат работы системы. Такие атаки могут быть направлены не только на получение ошибочного ответа, но и на обход ограничений модели или раскрытие информации. Поэтому при разработке ИИ-систем важно учитывать, насколько они устойчивы к подобным воздействиям и какие меры защиты можно использовать. Абсолютно безошибочных моделей не бывает, потому задача надёжного ИИ — не добиться невозможного, а научиться обнаруживать ошибки и учитывать их при использовании модели. 🌫 Приглашаем вас присоединиться к циклу лекций экспертов Центра ИИ Сколтеха: 7 октября — «Генеративный ИИ: за пределами ChatGPT», Александр Коротин 21 октября — «Без вреда: правила пользования ИИ», Евгений Миркес 11 ноября — «ИИ в медицине», Дмитрий Самофалов 📍 Москва, ул. Малая Никитская, 12, стр. 1 — Усадьба Долгоруковых-Бобринских, филиал Ельцин Центра. ➡️ Вход свободный по регистрации

Игорь Шувалов: закон об ИИ крайне важен, авторы-творцы чувствуют себя уязвлёнными 2️⃣ Об этом председатель ВЭБа заявил на пленарной сессии КМЮФ’26.

Творцы — это не только те, кто создаёт художественные произведения. Их очень много и в сфере услуг, и в промышленности. Там, где патентное право. Существует большой запрос на федеральном уровне, как защитить автора-творца. Притом без инструментов ИИ мы уже не можем. Мы со стороны Сколково и Сколтеха эту работу будем поддерживать.

▶ Подключайтесь к трансляции! 🟣 ВЭБ.РФ в MAX

🛡 Доверять или проверять: как не потерять контроль над ИИ? Иван Тюкин, профессор Центра ИИ Сколтеха и руководитель Лаборатории надёжного, адаптивного и доверительного искусственного интеллекта, в сюжете «МИР 24» рассказал о том, почему современные ИИ-системы всё сложнее проверять, какие риски возникают при использовании готовых моделей и где должны проходить границы самостоятельности таких систем. 🧮 Современные ИИ-системы всё сложнее проверять на безопасность. При этом новые версии появляются быстрее, чем специалисты успевают проверить предыдущие.

«Когда машина становится сложнее и сложнее, мы доходим до точки, когда нам очень тяжело верифицировать её работу. Сейчас ИИ достиг таких успехов, что решает задачи математических олимпиад на уровне золотых медалистов, решает крупные научные проблемы. При этом для проверки такой системы на отсутствие утечек и уязвимостей требуются огромные усилия. Пока мы сертифицируем одну версию, уже выходит следующая, и человечество просто не успевает за скоростью развития этих систем», - объясняет профессор.

🌫 Иван также рассказал о моделях с открытыми параметрами. Изменение нескольких значений может повлиять на их поведение и привести к появлению скрытых уязвимостей.

«Если злоумышленник имеет доступ к параметрам модели, ему необязательно переобучать её, чтобы заложить туда злонамеренное поведение: достаточно изменить несколько параметров. При этом мы не можем полностью проверить такую модель и не можем самостоятельно обучить её с нуля. Поэтому в определённой степени нам приходится доверять тому, что опубликовал разработчик. А обнаружить скрытое поведение довольно сложно», - рассказывает Иван.

🌫 Предусмотреть все сценарии работы сложной модели заранее нельзя. Важно уметь быстро исправлять проблемы, которые обнаруживаются уже в процессе.

«Априорные гарантии в сложной ситуации предоставить очень сложно, потому что мы живём в открытом мире и заранее не знаем всех задач, которые будет решать универсальная машина. Возникает другой вопрос: если что-то уже произошло, можем ли мы быстро и дёшево изменить машину так, чтобы она перестала делать именно то, что нам не нравится, но при этом сохранила все остальные свойства, которые мы от неё ожидали», - говорит профессор.

🌫 ИИ не должен становиться заменой собственному мышлению. Его можно использовать для поиска информации и дополнительных аргументов, но окончательное решение человек принимает сам.

«Безопасное использование, на мой взгляд, содержится в рефлексивном общении с ИИ. Не нужно воспринимать его как конечный инструмент решения конкретных задач. Лучше относиться к нему как к подручному средству, которое может помочь фактами, дополнительными доказательствами, сопоставлением информации. Но необходимо пропускать всё это через собственный фильтр критического мышления», - объясняет профессор.

📊 При этом последствия использования ИИ могут быть серьёзнее обычных ошибок модели. Профессор обращает внимание, что человек постепенно передаёт системе всё больше собственных когнитивных функций.

«Основная опасность всё-таки не в том, что машина сама выйдет из-под контроля, а в том, что она будет использована способами, которые мы с вами не предусмотрели. И второе — за счёт того, что машина используется широким кругом людей, в частности подрастающим поколением, здесь может произойти необратимое и возникнет такой феномен, как когнитивная лень, когда мы сознательно делегируем часть когнитивных функций машине и, вообще говоря, становимся на путь такой деградации».

⚠️ Поэтому, считает профессор, вместе с развитием ИИ должны появляться и понятные правила его использования, а также наличие технической возможности его остановить.

«Лучше всё-таки не запрещать, не сдерживать, а устанавливать рамки использования — начиная со школ, с университетов, на работе. Это, скажем так, гигиена общения с ИИ. Важно, чтобы в любой момент систему можно было физически выключить. Это непросто, поскольку ИИ работает на серверах, но возможность его деактивации в экстренной ситуации должна быть предусмотрена».

🪐 Искусственный интеллект готовится к выходу в космос 27 сентября в Национальном центре «Россия» пройдёт интерактивный лекторий «ИИ и его роль в освоении космического пространства». Искусственный интеллект уже используется для решения самых разных задач на Земле, а в будущем может стать частью космической инфраструктуры. На лунной базе ИИ потенциально сможет участвовать в управлении энергией, кислородом, шлюзами и другими системами, а также помогать с медицинской поддержкой экипажа. Но можно ли доверить ИИ самостоятельное управление там, где от его решений зависит безопасность людей? 🌫 В обсуждении участие примут Евгений Бурнаев, профессор РАН, вице-президент Сколтеха по развитию искусственного интеллекта и директор Центра ИИ Сколтеха; член Международного института космического права Ирина Черных и лётчик-космонавт, Герой России Алексей Зубрицкий. Модерировать встречу будет продюсер и популяризатор космонавтики Павел Бугров. 🌫 Регистрация на лекторий (russia.ru)

📊 Есть исследование в сфере ИИ? Давайте доведём его до уровня A* Для студентов и молодых учёных САПФИР при поддержке Минэкономразвития России проводит конкурс, посвящённый подготовке публикаций уровня A*. В его программе — три очных мероприятия с лекциями и практикой. Первое пройдёт 8 октября в Иннополисе в рамках Digital Innopolis Days. На практическом занятии "AI-спринт: как писать A" участники азберут, как довести исследование до публикации уровня A*, а затем попробуют применить полученные знания в групповой работе над исследовательским кейсом. ⚠️ Самые активные участники смогут посетить международную научную конференцию ICOMP 2026 в Касабланке, конференцию «Путешествие в мир искусственного интеллекта», получить менторство ведущих учёных или пройти стажировку в исследовательском центре в сфере ИИ. 🌫 Для участия в конкурсе необходимо подать заявку и очно присутствовать на AI-спринте. 🔘 8 октября, Университет Иннополис 🔘 Заявки — до 1 октября → Подать заявку Конкурс проводит САПФИР при поддержке Минэкономразвития России.

🌫 Искусственный интеллект для инженерии, физики и наук о Земле Евгений Бурнаев, профессор РАН, вице-президент Сколтеха по развитию искусственного интеллекта и директор Центра ИИ Сколтеха, выступил на II Молодёжной научно-технической школе AI:ID «Искусственный интеллект: индустриальные решения» в Волгограде. Школа объединила молодых исследователей, студентов, ведущих российских учёных и представителей индустрии для обсуждения практического применения ИИ в промышленности и экономике. 📊 За последние 14 лет искусственный интеллект прошёл путь от систем, которые хорошо решали отдельные задачи, до больших моделей, способных работать с текстом, изображениями, видео и речью, генерировать контент и выполнять сложные цепочки действий. Профессор показал, как развивались нейросетевые технологии — от AlexNet и AlphaGo до трансформеров, GPT и современных генеративных моделей. 💡 При этом LLM сама по себе ещё не становится полноценной интеллектуальной системой. Для работы со сложными инженерными задачами необходимо учитывать ограничения, объединять разные источники данных, удерживать контекст, помогать в принятии решений. Евгений рассматривает инженерный ИИ как следующий этап развития искусственного интеллекта — переход от решения отдельных специализированных задач к работе со сложными процессами. Такие системы могут не только распознавать и прогнозировать, но и моделировать, планировать, проверять результаты и выполнять последовательность операций. 🌫 Такой подход уже используется в проектах Центра ИИ Сколтеха. Среди задач — создание и адаптация моделей нефтегазовых месторождений, объединение геологических и промысловых данных, генеративное проектирование инженерных систем, автоматическая проверка проектной документации по нормативным требованиям, моделирование распространения загрязнений, прогнозирование лесных пожаров и ледовой обстановки. В одном из нефтегазовых сценариев применение ИИ позволило более чем в 10 раз ускорить создание модели пласта и на 70% сократить трудозатраты. 📊 Чем сложнее AI-агенты, тем важнее их способность работать с контекстом. Обычная история диалога быстро становится слишком большой, суммаризация теряет часть информации, а RAG может не найти нужные сведения. В Центре ИИ для решения этой проблемы используют AriGraph — архитектуру, в которой память агента представлена в виде графа знаний и разделена на эпизодическую и семантическую. 🌫 Уже сейчас генеративные модели, мультиагентные системы и научные вычисления можно объединять с данными предметной области, чтобы решать сложные инженерные задачи и автоматизировать последовательности операций. В проектах Центра ИИ Сколтеха такой подход применяют, например, к моделированию нефтегазовых месторождений, генеративному проектированию, физическому моделированию и задачам наук о Земле. 🌫 Читайте подробнее в материале «Российской газеты» — «Как ИИ меняет экономику».

🔊 Что ИИ уже умеет делать за человека — и в чём пока не может его заменить? На телеканале ОТР вышел выпуск программы «Очевидно. Вероятно» с Евгением Бурнаевым, профессором РАН, вице-президентом Сколтеха по развитию искусственного интеллекта и директором Центра ИИ Сколтеха. В интервью говорили о том, как ИИ меняет кино, компьютерные игры и литературу, где проходит граница между возможностями технологии и человеческим опытом и что меняется, когда создавать контент становится всё проще. 🌫 В играх ИИ позволяет отходить от заранее заданных сценариев. Поведение персонажей может подстраиваться под действия игрока, а сам сюжет — меняться в зависимости от его решений. В кино ИИ уже используют для повышения качества изображения, для дубляжа и перевода, синхронизации мимики с иностранной речью, создания визуальных эффектов и предварительных вариантов сцен. Евгений Бурнаев отмечает и ещё один эффект этих изменений: создавать качественный контент становится проще.

«Положительная сторона процесса вовлечения искусственного интеллекта в эту индустрию — это, на самом деле, демократизация. Почему? Потому что сейчас для создания контента, причём зачастую качественного, требуется гораздо меньше усилий», - говорит профессор.

🌫 Но технические возможности не отменяют человеческого участия. Обсуждая фильмы, созданные с помощью генеративных моделей, Евгений говорил о том, чего пока нет у машины, — личного опыта и эмоций, которые человек приносит в произведение.

«По крайней мере сейчас эти системы ИИ не могут пережить те эмоции, которые человек переживает за свою жизнь. Когда актёр играет сцену, он часто примеряет её на себя, опираясь на свой жизненный опыт, то, что он видел, и личные переживания. Это очень ценно», - объясняет Евгений Бурнаев.

💡 ИИ здесь скорее инструмент, который помогает человеку быстрее проверить идею, сделать раскадровку или попробовать разные варианты сцены и сюжета. А наполнить их собственным опытом и контекстом по-прежнему может только человек. То же касается литературы. В студии обсудили эксперименты, когда книги создаются полностью или частично с помощью ИИ. Для профессора важнее не способ создания текста, а то, что получает читатель:

«Вопрос же не в том, как книга сделана. Вопрос в том, получил ли я после её прочтения нужную для меня информацию, зацепила ли она меня, откликнулась ли в душе. И если удастся этого достичь быстрее за счёт симбиоза писателей и искусственного интеллекта — хорошо», - рассказал Евгений Бурнаев.

🌫 Говорили и о том, как отличать тексты, созданные человеком, от сгенерированных. Профессор рассказал о работе Центра ИИ по выявлению таких материалов. Один из признаков — внутренняя размерность текста: у текстов, созданных языковыми моделями, она ниже, чем у написанных человеком. Но и здесь идёт постоянное соревнование между методами генерации и способами их обнаружения. 🌫 Отдельно речь шла о разработке. По словам Евгения, современные модели позволяют быстрее создавать программное обеспечение и прототипы. Человеку с идеей уже не обязательно собирать большую команду разработчиков, чтобы проверить её на практике: часть работы можно сделать с помощью ИИ за несколько вечеров. 🌫 В программе также обсудили, сколько энергии потребуется искусственному интеллекту в будущем. Профессор отметил, что такие прогнозы сложно делать, опираясь лишь на современные технологии: подходы к созданию ИИ-моделей меняются, а вместе с ними меняется и то, сколько ресурсов требуют системы.

«Мы видели за последние пять лет, что парадигма построения моделей искусственного интеллекта менялась несколько раз. Проходит год-два — появляется что-то новое: обучение с подкреплением, новые модификации трансформеров или какие-то другие подходы, которые существенно меняют то, как всё это работает», - объясняет профессор.

🌫 Смотрите сюжет программы «Очевидно. Вероятно» на телеканале ОТР

🤖 «ИИ в усадьбе»: новый цикл лекций экспертов Сколтеха в центре Москвы 23 сентября в 19:00 на ул. Малая Никитская, 12 начнётся цикл открытых лекций «ИИ в усадьбе», который проведут эксперты Центра искусственного интеллекта Сколтеха. Первую лекцию — «Можно ли доверять ИИ?» — проведёт Алексей Зайцев, доцент Центра ИИ Сколтеха, заведующий лабораторией прикладных исследований «Сколтех–Сбербанк», лауреат премии Правительства Москвы молодым учёным. 💬 Нейросеть может уверенно ответить на вопрос, написать текст или предложить решение — и при этом ошибиться. Как распознать такую ошибку и понять, насколько вообще можно полагаться на ответ модели? На лекции Алексей Зайцев разберёт, почему ИИ выдаёт недостоверные ответы и что происходит с надёжностью моделей, когда мы начинаем использовать их не для эксперимента, а в реальных задачах. 📍 Место проведения — ул. Малая Никитская, 12, филиал Ельцин Центра в Москве, Усадьба Долгоруковых-Бобринских. ℹ️ 23 сентября, 19:00

В рамках цикла также пройдут: 7 октября — «Генеративный ИИ: за пределами ChatGPT», Александр Коротин 21 октября — «Без вреда: правила пользования ИИ», Евгений Миркес 11 ноября — «ИИ в медицине», Дмитрий Самофалов

🔖 Вход свободный по регистрации. Регистрация на первую лекцию.

🌐 От лекций — к статье: подводим итоги онлайн-трека SMILES-2026 Для онлайн-участников SMILES-2026 финальная точка наступила позже, чем для тех, кто был с нами в Сучжоу. В этом году обязательной частью онлайн-трека стала полноценная проектная работа с подготовкой научной статьи. 💡 Мы специально выстроили этот этап по логике ведущих конференций по машинному обучению: участникам нужно было не просто выполнить проект, а оформить полученные результаты в виде статьи и пройти рецензирование. Работы оценивались после завершения основной программы школы — и теперь этот процесс завершён, а значит, можно подвести окончательные итоги онлайн-трека. 📊 Онлайн-трек SMILES-2026 в цифрах: 🔹 около 300 участников присоединились к школе онлайн; 🔹 112 участников выполнили итоговые требования программы и получают сертификаты; 🔹 9 участников отмечены наградой Best Project. Чтобы завершить онлайн-трек, участникам было необходимо пройти итоговый тест по лекционной программе и выполнить проектную работу, результатом которой стала подготовка статьи. Таким образом, сертификат SMILES-2026 получили чуть больше трети тех, кто первоначально присоединился к онлайн-программе. 🏆 Лучшими проектами онлайн-трека SMILES-2026 стали:

🥇 1-е место — «Синолитический граф как регуляризатор: переоценка обнаружения ошибок с помощью ансамблевых графов в трансформерах и данных о мозге» (The Synolitic Graph as a Regulariser: A Reappraisal of Ensemble-Graph Error Detection in Transformers and Brain Data) Александр Наумов, Дмитрий Карцев, Регина Стреминская, Тумен Салчак Ментор — Алексей Заикин 🥈 2-е место — «От механизмов приватности к поведению модели при адаптации языковых моделей» (From Privacy Mechanisms to Model Behavior in Language-Model Adaptation) Дмитрий Щербаков Ментор — Фан Лю 🥉 3-е место — «MemToC: бенчмарк для разрешения конфликтов между памятью и инструментами в больших языковых моделях» (MemToC: Benchmarking Memory–Tool Conflict Resolution in Large Language Models) Арсений Варламов, Ришат Зиннатуллин, Анфиса Алексеева, Арофенитра Раривонжи Менторы — Ильсеяр Алимова и Александр Панченко

🎖 Команда, занявшая 1-е место, автоматически получает приглашение на очную программу следующей школы SMILES. 🌫 Онлайн-формат SMILES в этом году был не просто доступом к трансляциям лекций и участию в проектах. «Участники проходили весь исследовательский цикл: изучали материал, выбирали проектную задачу, работали с наставниками, оформляли результаты в виде научной статьи и получали экспертную оценку своей работы. Спасибо всем, кто дошёл до финала, а также наставникам и экспертам, которые сопровождали проекты и участвовали в рецензировании», — отметил директор SMILES-2026, доцент Сколтеха, руководитель Лаборатории прикладных исследований «Сколтех–Сбербанк» Центра ИИ Сколтеха Алексей Зайцев. ⚠️Поздравляем выпускников онлайн-трека SMILES-2026 и авторов лучших проектов! Генеральный партнёр SMILES-2026 — Альфа-Банк. Партнёр программы поддержки молодых учёных — Группа «Т-Технологии».

🌆 Промышленный ИИ: от экспериментов к производственным системам Иван Тюкин, профессор Центра ИИ Сколтеха, руководитель Лаборатории надёжного, адаптивного и доверительного искусственного интеллекта, выступил на Форуме цифровой экономики ШОС в Урумчи с докладом «Проблемы, возникающие в процессе применения промышленного искусственного интеллекта». 🌫 Форум объединил представителей государственных структур, технологических компаний, промышленных предприятий, университетов и экспертного сообщества стран ШОС. На площадке обсуждали развитие цифровой экономики, применение новых технологий в промышленности и логистике, а также возможности международного сотрудничества в сфере искусственного интеллекта. 📈 В своём выступлении Иван рассказал о том, почему внедрение ИИ в промышленности требует другого подхода по сравнению с потребительскими сервисами. В производственных системах недостаточно создать модель с высокой точностью — она должна быть надёжной, объяснимой, адаптивной к изменениям.

«В промышленном ИИ данные перестают быть вспомогательными и становятся условием работоспособности. Производственные системы и оборудование разных производителей используют различные стандарты, поэтому данные часто оказываются разрозненными и изолированными. При этом предприятия не могут свободно обмениваться такой информацией: она связана с коммерческой тайной и интеллектуальной собственностью. Возникает дилемма: без качественных совместно используемых данных модели невозможно обучать и оптимизировать,однако раскрытие данных создаёт риски для бизнеса», — отметил профессор.

📊 Отдельное внимание в докладе было уделено вопросу доверия к ИИ-системам. Для промышленного применения недостаточно подтвердить качество модели на стандартных тестах: необходимо понимать, как она будет вести себя при изменении условий эксплуатации и насколько её решения можно проверить и объяснить. По словам Ивана, промышленный ИИ невозможно масштабировать только за счёт развития алгоритмов — необходима целая экосистема вокруг технологии: от инфраструктуры работы с данными до механизмов проверки и безопасного внедрения решений.

«Промышленный искусственный интеллект — это особый вид ИИ. В отличие от пользовательских сервисов, где допустима определённая погрешность, промышленные системы должны обеспечивать надёжную работу на заводах, фабриках, предприятиях малого и среднего бизнеса. Поэтому для его развития недостаточно создавать новые алгоритмы. Нам нужны качественные промышленные данные, единые подходы к их использованию, технологий безопасной работы с данными, включая конфиденциальные вычисления, а также совместная работа исследователей, инженеров и представителей индустрии. Только так можно перейти от отдельных демонстрационных проектов к масштабному применению ИИ в реальных производственных процессах», - объяснил профессор.

🌫 Сегодня, 17 сентября, в 17:00, на научном семинаре Sber AI Lab на тему «Вычислительный оптимальный транспорт и генеративное моделирование для задач перевода изображений из одного домена в другой» выступит Даниил Селиханович, выпускник аспирантской программы Computational and Data Science and Engineering (CDSE) Центра ИИ Сколтеха. 🌫 В докладе будет рассмотрена задача перевода изображений из одного домена в другой (image-to-image translation). По заданным наборам изображений из двух доменов необходимо построить отображение между ними, которое будет обобщаться на новые данные. Даниил расскажет о новых методах решения этой задачи в непарной постановке на основе нейронных сетей, теории оптимального транспорта и мостов Шрёдингера. Подходы позволяют исследовать баланс между реалистичностью получаемых изображений и сохранением содержания исходного изображения по сравнению с существующими методами на основе GAN. 🌫 Семинар пройдёт онлайн в SberJazz

🏛🤖 Искусственный интеллект перестал быть просто рабочим инструментом — сегодня это цифровой двойник нашей цивилизации со всеми её достижениями, особенностями и пробелами. Как устроен этот мир глазами машин, где проходят границы разумного использования технологий и как они меняют медицину и творчество? Всё это обсудим на новом цикле лекций от экспертов Центра искусственного интеллекта Сколтеха «ИИ в усадьбе»! Уже 23 сентября в 19:00, состоится первая встреча цикла: «Можно ли доверять ИИ?». Мы всё чаще доверяем нейросетям поиск информации и принятие решений. Но как понять, когда модель действительно знает ответ, а когда лишь убедительно его придумывает? Расскажет Алексей Зайцев, доцент Центра искусственного интеллекта Сколтеха, заведующий лабораторией прикладных исследований «Сколтех–Сбербанк», лауреат премии Правительства Москвы молодым учёным. Встречи пройдут на невероятно атмосферной площадке — в филиале Ельцин Центра в Москве в Усадьбе Долгоруковых-Бобринских, так что будет не только познавательно, но и очень красиво!

Следующие лекции курса: 7 октября — «Генеративный ИИ: за пределами ChatGPT» с Александром Коротиным. 21 октября — «Без вреда: правила пользования ИИ» с Евгением Миркесом. 11 ноября — «ИИ в медицине» с Дмитрием Самофаловым.

👉 Вход свободный, но необходима регистрация — ждём вас!

⚛️ От петаваттных лазеров до термоядерной энергетики: исследователи Сколтеха — на школе SIOM в Шанхае Сколтех представлен на Китайско-российском форуме молодых учёных по лазерной науке — летней школе SIOM, которая проходит 7–18 сентября в Шанхайском институте оптики и точной механики Китайской академии наук (SIOM). Организатор школы — SIOM при Китайско-российской совместной лаборатории лазерной науки «Один пояс — один путь». В программе участвуют 28 молодых исследователей. 🌫 В делегацию Сколтеха от Центра ИИ вошли Игорь Дубинкин, студент магистерской программы «Современные вычислительные методы», а также Максим Малахов, младший инженер-исследователь, и Бари Хайруллин, аспирант и стажёр-исследователь Лаборатории суперкомпьютеров в искусственном интеллекте. На церемонии открытия Бари выступил с приветственным словом от делегации Сколтеха. От Центра фотоники и фотонных технологий Сколтеха в школе участвуют аспирантка Дария Мусаева и студенты магистратуры Виктор Шилов и Егор Рубцов, представляющие Проектный центр прикладной фотоники. 🌫 Программа школы посвящена современным направлениям лазерной физики и технологий. Участники слушают лекции о петаваттных лазерах, лазерно-плазменном ускорении, инерциальном термоядерном синтезе, прецизионной оптике, специальных волокнах и фотонных вычислениях, а также посещают действующие научные установки и лаборатории SIOM. 🌫 Одна из самых интересных частей программы — визит в Государственную ключевую лабораторию сверхмощной лазерной науки и техники и совместную лабораторию физики мощных лазеров. Здесь участникам показали экспериментальную установку «Шэньгуан-II» (SG-II) — лазерную установку для экспериментов по инерциальному термоядерному синтезу. Через смотровое окно исследователи увидели камеру взаимодействия, а также схемы установки и макет перспективной электростанции на основе лазерного термоядерного синтеза. Фотографировать саму установку было нельзя. 🌫 Участники также посетили Центр прецизионного оптического производства и контроля и лабораторию тонкоплёночной оптики. Им показали производственные цеха, заготовки кварцевого стекла для твердотельных лазеров и действующие лазерные системы. 🌫 Отдельная часть программы была посвящена совместной лаборатории Сколтеха и SIOM. Здесь работает выпускник Сколтеха Даниил Соболев, который занимается разработкой масс-спектрометра высокого разрешения на базе электростатической ловушки Кингдона с фемтосекундным лазером в качестве источника ионизации. Участникам продемонстрировали установку в действии. 💡 Школа продолжается до 18 сентября. В дальнейшей программе — лекции по фотонным вычислениям, оптическим волокнам и управлению светом с помощью наноматериалов, а также экскурсии в лабораторию Чжанцзян в Пудуне, где находятся установка сверхмощных сверхбыстрых лазеров SULF («Сихэ») и входной каскад Шанхайского источника синхротронного излучения.

🤚 Как очные участники оценили SMILES-2026? Подвели итоги опроса очных участников школы — и результатам действительно рады. Ребята оценили свой опыт в среднем на 9 из 10, а индекс готовности рекомендовать школу (NPS) составил +86. Но ещё интереснее — что же дали участникам эти две недели в Сучжоу. 📊 Несколько цифр: 🔹 91% опрошенных считают, что повысили навык самостоятельной исследовательской работы; 🔹 91% нашли людей, с которыми рассчитывают продолжать профессиональное общение или сотрудничество; 🔹 62% планируют продолжить работу над выбранным проектом SMILES; 🔹 57% собираются применять изученные методы в учёбе или работе; 🔹 для 95% SMILES стала первой международной школой по машинному обучению. Среди сильных сторон программы участники особенно высоко оценили темы проектов, постерную сессию, уровень преподавателей и докладчиков, итоговую защиту, а также организацию школы. Отдельно в отзывах много говорили о новых знакомствах, международном общении и возможности работать над настоящей исследовательской задачей. Конечно, была и критика — и она для нас не менее важна. Участники предложили сделать общение с наставниками более регулярным, чётче организовать работу внутри проектных команд и лучше распределять нагрузку между их участниками. 💬 А вот несколько реальных отзывов участников — в переводе:

«Я убедилась, что хочу заниматься исследованиями, что именно это увлекает меня больше всего и что меня не пугают трудности, которые могут возникнуть».

«Для меня школа была особенно ценна возможностью познакомиться с новыми единомышленниками. Это не только контакты на будущее, но и новый взгляд на задачи, которыми ты занимаешься сейчас».

«После SMILES я решила использовать flow matching в своей работе, и это позволило значительно улучшить результаты по моей задаче».

«Опыт подготовки презентации на английском языке и выступления помог мне почувствовать себя увереннее».

🧑 Спасибо всем участникам за доверие, энергию и честную обратную связь. Впереди — новые SMILES. Будем беречь то, за что вы любите нашу школу, и дорабатывать то, что можно улучшить. Следите за анонсами: как только откроется набор на следующую школу, обязательно подавайте заявку. Будем рады встретиться снова — и познакомиться с теми, кто присоединится впервые.