ИСП РАН

🔵Кибербезопасность и ИИ: новые вызовы и инструменты защиты 9 октября 2026 года на площадке Глобального цифрового форума в Москве состоялся круглый стол «Кибербезопасность и ИИ: новые вызовы и новые инструменты защиты». В дискуссии принял участие директор ИСП РАН, академик РАН Арутюн Аветисян. Модератором выступил Дмитрий Миклухо, старший вице-президент — руководитель блока информационной безопасности ПАО «Банк ПСБ». Ключевые темы дискуссии: 🔵Как искусственный интеллект меняет ландшафт киберугроз; 🔵Требования к безопасности, которые необходимо учитывать при разработке и внедрении ИИ-систем; 🔵Возможности ИИ для обнаружения и предотвращения атак. Участники также обсудили подходы к созданию доверенного искусственного интеллекта, развитие стандартов и методик безопасности ИИ, мониторинг инцидентов и роль международного сотрудничества в противодействии трансграничным угрозам. ✔️В дискуссии приняли участие эксперты в области информационной безопасности, государственного регулирования и технологий киберзащиты из России, Республики Конго, Гамбии, Нигерии и других стран. 📸Фото предоставлены организаторами Глобального цифрового форума 💬ИСП РАН в Telegram 💬ИСП РАН в МАКС

⏺Итоги дискуссии об открытых моделях ИИ Панельная дискуссия «Open-source модели: как сбалансировать возможности и уязвимости» завершилась живым и содержательным разговором. В ходе сессии удалось вновь убедиться: для внедрения ИИ и развития технологий необходимы международное сотрудничество, обмен экспертизой и формирование профессиональных сообществ. Именно такой диалог помогает вырабатывать общие подходы к безопасному и ответственному применению ИИ. ✔️ИСП РАН готов к сотрудничеству с российскими и зарубежными партнёрами в области доверенного и безопасного искусственного интеллекта. 🔵Фото предоставлены организаторами Глобального цифрового форума 💬ИСП РАН в Telegram 💬ИСП РАН в МАКС

⏺Содержательная дискуссия продолжается — переходим к вопросам аудитории

🗣Мостафа Ахмед Эль-Демери, инженер по аналитике и машинному обучению Telecom Egypt — о том, как нужно контролировать ИИ и формировать требования к его безопасному использованию

💙Запись дискуссии будет доступна в группе в ВК

🗣Андрей Незнамов, управляющий директор Центра человекоцентричного ИИ ПАО «Сбербанк», член независимой международной научной группы по ИИ ООН

🔷Смотреть трансляцию сессии

🗣ИСП РАН — партнёр дискуссии об открытых ИИ-моделях на Глобальном цифровом форуме Сегодня, 10 октября 2026 года, на площадке Глобального цифрового форума в Москве состоится панельная дискуссия «Open-source модели: как сбалансировать возможности и уязвимости». 🔎ИСП РАН выступает партнёром сессии. Модератор дискуссии — академик РАН, директор ИСП РАН Арутюн Аветисян. Участники обсудят, в каких случаях эффективнее адаптировать открытую модель под локальные задачи, а когда необходима собственная разработка; как оценивать происхождение, качество и риски моделей перед внедрением в государственном секторе и критически важных отраслях. Отдельное внимание будет уделено региональному сотрудничеству в области данных, языковых моделей и ИИ-инфраструктуры. 👨‍👩‍👧В дискуссии примут участие: — Дмитрий Марков, генеральный директор VisionLabs; — Андрей Незнамов, управляющий директор Центра человекоцентричного ИИ ПАО «Сбербанк», член независимой международной научной группы по ИИ ООН; — Мохамед Бен Амор, генеральный директор Арабской организации информационно-коммуникационных технологий (AICTO); — Монис Али Зайн уль-Абидин Эдин, инженер по серверной разработке ИИ Facehawk Limited; — Мостафа Ахмед Эль-Демери, инженер по аналитике и машинному обучению Telecom Egypt; — Тревор Такудзва Мудондо, менеджер по продукту Econet AI Zimbabwe; — Франческо Стабилито, специалист по цифровым технологиям и международному развитию Управления ООН по цифровым и новым технологиям (ODET). 🔵Начало сессии — 10:00 🔷Смотреть прямую трансляцию (Для просмотра на сайте необходимо выбрать дату, зал 3 «Лебедев» и название сессии) 💬ИСП РАН в Telegram 💬ИСП РАН в МАКС

Цифровые решения: сессия «Безопасность ИИ‑моделей: угрозы, методы защиты и подходы к регулированию»   Андрей Белеванцев, ведущий научный сотрудник ИСП РАН, член-корреспондент РАН, рассказал, как разрабатывался новый ГОСТ по безопасности систем искусственного интеллекта, и объяснил, чем он отличается от классических стандартов по кибербезопасности.   По его словам, авторы искали золотую середину между американским подходом, где разрешено почти все, и европейским, где правила настолько жесткие, что бизнес и потребители почти ничего не могут сделать. Поэтому в стандарт включили только то, что можно обосновать технологически.   Главная идея в том, что защищать одну лишь модель бессмысленно: веса сами по себе мало что значат, а угрозы чаще приходят через сопутствующее ПО, агентов, фреймворки и привычную инфраструктуру, так что защита должна охватывать все окружение и весь жизненный цикл системы.   Кроме того, ГОСТ не требует конкретных методов, а лишь задает минимальную планку, чтобы разработчик сам выбирал подходящий способ, например более безопасную архитектуру модели или защищенные методы обучения.   Для практической работы по стандарту, добавил спикер, создается консорциум с каталогом инструментов и готовых решений, потому что в одиночку такую задачу не решить.   🙂 Telegram | ВК | «Макс»

🤝ИСП РАН и Синодальный отдел по делам молодежи РПЦ подписали соглашение о сотрудничестве 2 октября 2026 года Институт системного программирования им. В. П. Иванникова РАН и Синодальный отдел по делам молодежи Русской Православной Церкви Московского Патриархата подписали соглашение о сотрудничестве и информационном партнерстве. Соглашение направлено на развитие совместных образовательных, просветительских, творческих и научных проектов для молодежи. В числе направлений сотрудничества — проведение научно-просветительских мероприятий, приуроченных к значимым датам в истории России и Русской Православной Церкви, подготовка педагогов к духовно-нравственному просвещению и патриотическому воспитанию молодежи, а также реализация совместных исследовательских и грантовых проектов. ✔️Сотрудничество ИСП РАН и Синодального отдела по делам молодежи РПЦ Московского Патриархата позволит объединить научное просвещение, культурный диалог и работу с молодежью. Его главная задача — научить молодых людей осмысленному отношению к технологиям и пониманию ответственности за их применение, ведь это — необходимое условие для того, чтобы современные технологии становились инструментом развития общества и страны. 💬ИСП РАН в Telegram 💬ИСП РАН в МАКС

Утверждена Концепция развития математических наук до 2030 года с горизонтом до 2036 года Концепция представляет собой систему взглядов на роль математики в современном мире и отражает основные принципы, цели, задачи и инструменты развития математических наук в Российской Федерации. С инициативой создания этого документа в 2024 году выступило Отделение математических наук РАН. Подробнее на сайте. ✦ Российская академия наук в MAX

🎓Как должна измениться школьная информатика в эпоху искусственного интеллекта? Старший научный сотрудник ИСП РАН, кандидат физико-математических наук Александр Гетьман принял участие в «Научной среде ИСМО», посвящённой теме «Трансформация школьной информатики: как сблизить технологии ИИ, качество учебников и подготовку учителей». 💬Мероприятие прошло 23 сентября на площадке Института содержания и методов обучения им. В.С. Леднева. Эксперты обсудили актуальные вопросы преподавания информатики в школе, развитие технологий искусственного интеллекта, требования к современным учебникам и подготовку педагогов. Одной из ключевых тем дискуссии стало обновление содержания школьной информатики с учётом стремительного развития ИИ-технологий. Особое значение приобретает не только знакомство школьников с современными цифровыми инструментами, но и формирование фундаментальных знаний, которые позволят понимать принципы работы новых технологий и осознанно ими пользоваться. Александр Гетьман отметил:

В наше время технологии ИИ развиваются стремительно. 5 лет назад о них знали только профильные специалисты, 3 года назад появились первые БЯМ, которые произвели фурор, а сегодня это уже практически часть повседневной жизни огромного числа людей. При этом модели, интерфейсы взаимодействия с ними, форма входных и выходных данных, а также возможности моделей постоянно меняются — появились мультимодальные и рассуждающие модели, ИИ-агенты, способные не просто отвечать на запросы, но и взаимодействовать с окружающим миром, решая задачи пользователя. В этих условиях учить прикладной части ИИ в школе, например промптингу, достаточно странно, ведь скорее всего эти знания устареют ещё до момента окончания учёбы сегодняшними школьниками. Но тогда чему учить? Тут наверное стоит вспомнить о том, что в России, с одной стороны, исторически сильная математическая школа (а ИИ — это прежде всего математика), а с другой — сильный акцент на фундаментальные знания. Именно они, с моей точки зрения, являются ответом на вопрос "чему учить". Это знания, которые достаточно постоянны во времени и точно не потеряют ценности в среднесрочной перспективе. Применительно к ИИ это набор "ингредиентов", из которых он состоит, и рецепты того, как эти ингредиенты смешиваются для получения прикладных результатов — обученных моделей, способных решать задачи. Из наиболее явных компонент можно указать: данные, их подготовка, процесс обучения моделей, ошибки и метрики качества модели, эффекты недообучения и переобучения, постановки задач, которые на самом деле решает ИИ, галлюцинации и т.д. При этом важно не забывать о необходимой составляющей обучения — практике. Не основанные на опыте знания улетучиваются очень быстро. Можно привести в пример иностранный язык: если им не пользоваться, то забывается он гораздо быстрее, чем изучается. Отмечу, что участие в Научной среде ИСМО произвело на меня огромное впечатление. Возможность пообщаться со специалистами, с разных точек зрения оценивающих взаимодействие ИИ и образования, — очень ценна. Благодаря таким встречам мы можем получить не фрагментарную, а максимально объёмную картину этого масштабного явления.

〰️«Научная среда ИСМО» проводится в рамках поручения Минпросвещения России. ➡️Источник фото 💬ИСП РАН в Telegram 💬ИСП РАН в МАКС

💬Искусственный интеллект в современном обществе: возможности и проблемы Сегодня, 29 сентября 2026 года, директор ИСП РАН, академик РАН Арутюн Аветисян выступил модератором круглого стола «Искусственный интеллект в современном обществе: возможности и проблемы», который состоялся в рамках Дней ОИЯИ в Армении. ⏺В центре дискуссии — стремительное развитие технологий искусственного интеллекта и их влияние на общество, науку и образование. Участники обсудили возможности и риски, возникающие по мере все более широкого применения ИИ, вопросы доверия к новым технологиям и роль научного сообщества в формировании подходов к их ответственному развитию. ✔️В круглом столе приняли участие директор ОИЯИ, академик РАН Григорий Трубников; научный руководитель Лаборатории ядерных реакций им. Г. Н. Флерова ОИЯИ, академик РАН Юрий Оганесян; ректор университета СколТех, академик РАН Юлия Горбунова; ректор Российско-Армянского университета Эдвард Сандоян; ректор Ереванского государственного университета Оганнес Оганнисян; президент НАН РА Ашот Сагян, а также другие представители научного и образовательного сообщества России и Армении. ➡️Дни ОИЯИ в Армении проходят с 28 сентября по 2 октября и посвящены 70-летию Объединенного института ядерных исследований. 💬ИСП РАН в Telegram 💬ИСП РАН в МАКС

🔎Как работать по новой Методике ФСТЭК: цикл статей о ключевых изменениях и практике В журнале «Информационная безопасность» вышел цикл статей, посвященный новой Методике ФСТЭК России по выявлению уязвимостей и недекларированных возможностей в программном обеспечении. 〰️Открывает цикл статья «Методика 3.0. История создания и ключевые тезисы» Дмитрия Пономарева — заместителя генерального директора «НТЦ Фобос-НТ», сотрудника ИСП РАН, старшего преподавателя МГТУ им. Н. Э. Баумана. В ней автор рассказывает об истории создания Методики и разбирает ее основные положения. Продолжают тему три материала: 〰️«Разработчик и лаборатория: что меняется?» — Андрей Кузнецов, директор департамента внедрения и развития практик НТЦ «Фобос-НТ», сотрудник ИСП РАН. О новых требованиях к разработчикам и изменениях во взаимодействии с испытательными лабораториями. 〰️— «Роль Центра исследований безопасности системного ПО при реализации положений Методики» — Алексей Хорошилов, в. н. с., руководитель Центра исследований безопасности системного программного обеспечения ИСП РАН. О практическом опыте Центра и инструментах, которые могут использоваться при исследованиях безопасности ПО. 〰️«Как опираться на Методику ВУ и НДВ при работе по ГОСТ Р 56939–2024» — Елена Пономарева, руководитель отдела аудитконсалтинга процессов РБПО ООО НТЦ «Фобос-НТ». Материал подробно показывает взаимосвязь положений Методики с требованиями стандарта безопасной разработки. ✔️Вместе публикации дают комплексное представление о том, как новые требования будут работать на практике. 📖Читать цикл статей 💬ИСП РАН в Telegram 💬ИСП РАН в МАКС