AI Global Agenda

Выпущено международное руководство по безопасному развертыванию ИИ Центр безопасности искусственного интеллекта Агентства национальной безопасности США в сотрудничестве с Агентством кибербезопасности и безопасности инфраструктуры, Федеральным бюро расследований, Австралийским центром кибербезопасности, Канадским центром кибербезопасности, Национальным центром кибербезопасности Новой Зеландии и Национальным центром кибербезопасности Великобритании выпустили совместное руководство по безопасному развертыванию систем искусственного интеллекта. В этом руководстве изложены лучшие практики развертывания и использования систем ИИ от внешних разработчиков. Целью руководства является: ✅ повысить конфиденциальность, целостность и доступность систем искусственного интеллекта; ✅ обеспечить надлежащее устранение известных уязвимостей в системах ИИ; ✅ обеспечить методологии и средства контроля для защиты, обнаружения и реагирования на злонамеренные действия в отношении систем ИИ и связанных с ними данных и сервисов. Документ охватывает широкий спектр тем: от защиты среды развертывания до защиты операционной системы ИИ и обеспечения безопасности операций и обслуживания ИИ. В руководстве изложены три основных метода обеспечения безопасности: ✅ защита среды развертывания, ✅ защита системы ИИ, и ✅ обеспечение безопасности эксплуатации и обслуживания ИИ. Понимание и выполнение рекомендаций, изложенных в руководстве, поможет организациям снизить риски ИИ и укрепить доверие к этой быстроразвивающейся технологии. #AI #Безопасность #Кибербезопасность #CISA #NSA

📩 Эксперты Центра ИИ МГИМО изучили доклад Стэнфордского университета «Индекс ИИ» («The AI Index Report 2024») и выделяют следующие акценты в контексте развития регулирования в сфере ИИ: ❕️К сожалению, исследователи из Стэнфорда обошли вниманием многосторонние международные регуляторные процессы. Надеемся, этот сюжет будет подсвечен в следующем году. 📌 А пока эксперты Центра ИИ МГИМО отметили, что: 🔸️Нормотворчество в сфере ИИ остается западноцентричным, однако популярность ИИ как объекта нормотворчества растет и во всем мире (в 2023 г. в своих законодательных актах упоминали 49 государств, число упоминаний возросло почти в 2 раза). 🔸️Вопреки мнению, что США выступают за дерегулирование ИИ, Америка – лидер по нормотворчеству в этой сфере (в 2023 г. выдвинут 181 законопроект: с 2016 по 2023 гг. в США принято 23 законодательных нормативных акта по ИИ). 🔸️Законодатели большинства стран мира заинтересованы в поощрении развития ИИ (из 21 принятого закона по ИИ в 2023 г. 13 носят поощрительный характер и 8 – ограничительный). 🔸️Много говорят про беспилотные автомобили? Эта отрасль остается одной из самых неурегулированных. Большое энергопотребления ИИ тоже на повестке? Еще одна неурегулированная отрасль. Среди других сфер, которые обошло стороной регулирование - ИИ в торговле ценных бумаг. 🔸️Согласно представленным данным, к направлениям с высоким уровнем регулирования относятся бюджетные отношения, национальная безопасность, рынок труда и наука. 📑 Сам анализ Стэнфордского университета не смог избавиться от западноцентричности. Эксперты проанализировали отражение позиций России - авторы доклада обошли их стороной. КНР, Индия, Бразилия, ЮАР – terra incognita.

📩 Эксперты Центра ИИ МГИМО изучили доклад Стэнфордского университета «Индекс ИИ» («The AI Index Report 2024») и выделяют следующие акценты в контексте развития бизнеса: 🔸️Бизнес является основным драйвером развития ИИ. В 2023 бизнес произвел 51 заметную модель машинного обучения, в то время как научное сообщество только 15, и 21 модель явилась результатом коллабораций между бизнесом и наукой. В то же время, стоимость создания и обучения современных моделей ИИ значительно выросла. Главными лидерами в области разработки ИИ являются США, Индия, ЕС и Великобритания, что определяет основные векторы потенциального международного делового сотрудничества. 🔸️Инвестиции в генеративный ИИ показали взрывной рост, несмотря на то, что объем общих частных инвестиций за 2023 год снизился. Увеличение количества ИИ open source проектов на GitHub может служить подтверждением повышенного интереса к данному направлению, и в перспективе сформировать новые возможности для инноваций в бизнесе. 🔸️Для бизнеса представляется критичным отслеживать прогресс в области ИИ, в частности, в рамках появления новых языковых моделей и инструментов для обработки изображений, чтобы своевременно вводить новые технологии в свои бизнес-стратегии. Для бизнеса важно направить фокус на контроль генерируемой ИИ информации, чтобы обеспечить качество и достоверность данных, все более активно используемых в бизнес-процессах.

📩 Исследовательский институт Hurun опубликовал результаты нового исследования - Hurun Global Unicorn Index за 2024 год. 📍Согласно индексу, в мире сейчас 1453 компании-единорога (стартапы с капитализацией более 1 млрд. долларов США) в 291 городах из 53 стран. Лидируют в списке США с 703 единорогами, за ними следует Китай с 340 организациями. Впервые в рейтинг попали Россия и ЮАР. 🌎 В США расположена половина всех единорогов, в-основном, работающих в сферах SaaS (ПО как услуга), финтеха и ИИ. В Китае – четверть таких компаний, главным образом представляющих сектора ИИ, полупроводников и новой энергетики. Оставшаяся четверть проектов из других стран относятся, в основном, к финтеху и электронной коммерции. 📈 Финтех, SaaS и ИИ - три основных сектора, в которых представлены единороги. ИИ превзошел электронную коммерцию и вошел в «большую тройку». ☑️ Среди компаний, которые стоит упомянуть в связи с их взлетом в 2023 году, в США - это OpenAI, чья капитализация выросла в разы. В Китае ведущие позиции занимают Moonshot AI (Пекин) и MiniMax (Шанхай), существующая около двух лет. В числе других компаний - OneTrust (Атланта, США), использующая ИИ для обеспечения безопасности данных, Graphcore (Великобритания), создающая ускорители для ИИ и машинного обучения, а также Glance (Индия), дочерняя компания InMobi. 📌 Комментарий экспертов Центра исследований ИИ МГИМО: Результаты Hurun Global Unicorn Index позволяют отследить несколько важных тенденций в мировой экосистеме стартапов. Так, растет географическое разнообразие, и, несмотря на доминирование США и Китая, появляется все больше новых игроков. То, что ИИ стал одним из трех основных секторов для копаний-единорогов, подчеркивает потенциал технологии в преобразовании мировой экономики. Рост капитализации таких компаний, как OpenAI, свидетельствует о растущем интересе инвесторов к генеративному ИИ. В целом, индекс подчеркивает динамику и разнообразие глобальной экосистемы стартапов и подтверждает тенденцию стремительного развития ИИ-технологий.

✔️ RIGF традиционно начинается с молодежной части, которая стартует на пару рабочих дней раньше. В этом году Youth RIGF прошёл 5 апреля в фиджитал-пространстве «Кибердом» с весьма насыщенной программой. 📎 В рамках мероприятия Анна Абрамова провела дискуссию с молодыми кадрами. Помимо прочего, обсуждалось, какие качества и навыки соискателей сегодня ценят работодатели ИТ-сектора. ✅ В обсуждении участвовали представители компаний Positive technologies, МТС и Ростелеком.

📍9-10 апреля проходит Российский форум по управлению интернетом (RIGF). Предлагаем посмотреть дискуссию в рамках Секции 2. "Формирование стратегий развития искусственного интеллекта", в ходе которой руководитель Центра ИИ МГИМО Анна Абрамова рассказала о поиске баланса в международном регулировании ИИ. 📎 Запись сессии доступна по ссылке, таймкод 2:32:15 - 3:56:40.

🗓 9 апреля Анна Абрамова прокомментирует вопросы глобального регулирования ИИ в RIGF 2024 (программа). 📍Секция "Формирование стратегий развития ИИ",  12.15-13.45.

📌 5 апреля в ООН был представлен "нулевой" проект Глобального цифрового договора (ГЦД). По итогам презентации состоялся публичный обмен мнениями между государствами-участниками ООН, в ходе которого были высказаны следующие идеи по тематике управления ИИ: 🔹️ передача технологий и знаний развивающимся странам должны идти "красной нитью" через проект документа; 🔹️ ООН должна играть лидирующую роль в международном управлении ИИ; 🔹️ управление ИКТ должно руководствоваться принципом национального суверенитета (Группа 77 + Китай, что охватывает большинство стран "Глобального юга"). 🔹️формирование предложенных Секретариатом ООН новых органов в сфере ИИ должно быть надлежащим образом обосновано и не дублировать мандаты существующих институтов (Группа 77, КНР, США, Япония, ЕС, Великобритания). ❕️ЕС выступил за то, чтобы свою роль в глабальном управлении ИИ играли и форматы вне ООН, как, например, Глобальное партнерство по ИИ. 📍По мнению Пекина, роль развивающихся стран в глобальном управлении ИКТ должна быть выше. Этот же тезис продвигается и в двусторонних контактах КНР-Африка, например, в недавно принятом заявлении председателя Китайско-африканского форума по управлению Интернетом и его развитию. Китай также заявляет, что процесс выработки системы управления ИИ необходимо основывать на консенсусе. ✔️ Пока не все страны определились с официальной позицией в отношении инициатив в ООН по глобальному управлению ИИ. Среди них - Мексика и Индия. ✅️ Сингапур от имени Группы малых островных развивающихся государств (55 стран), а также Евросоюз заявили, что в ГЦД необходимо учесть наработки  Консультативного органа высокого уровня ООН по ИИ (в том числе, будущие). Ожидают результатов работы также Консультативного органа Китай и ЕС. 📝 Необходимо также отметить сравнительно комплементарные позиции США, КНР и Великобритании к инициативам, изложенным в ГЦД.

В Нью-Йорке началась презентация "нулевого" варианта текста Глобального цифрового договора. Трансляция доступна по ссылке https://webtv.un.org/en/asset/k1g/k1ge77ptzl

📩 США и Великобритания объявили о партнерстве в области безопасности и тестирования ИИ: 🤝🏼 Министр торговли США Джина Раймондо и Министр науки, инноваций и технологии Великобритании Мишель Доунлан подписали в Вашингтоне меморандум о взаимопонимании о совместной разработке передовых испытаний моделей ИИ в соответствии с обязательствами, объявленными на саммите по безопасности ИИ в Блетчли-парке в ноябре 2023 года. ✅️ В рамках официального партнерства Великобритания и США планируют провести как минимум одно совместное тестирование общедоступной модели ИИ и рассматривают возможности кадрового обмена. Страны работают над развитием аналогичных партнерских отношений с другими странами для обеспечения безопасности в области ИИ.

📌 Секретариат ООН разместил у себя на сайте "нулевой" проект Глобального цифрового договора: https://www.un.org/techenvoy/sites/www.un.org.techenvoy/files/Global_Digital_Compact_Zero_Draft.pdf 📎 Официальная презентация состоится 5 апреля в 10.00 (время по Нью-Йорку) в штаб-квартире ООН и будет транслироваться онлайн.

📩 Форум Всемирной интернет-конференции по развитию цифрового Шелкового пути пройдет в Сиане, провинция Шэньси, 16 апреля, сообщил генеральный секретарь организации Жэнь Сяньлян. ❕️Форум по развитию цифрового Шелкового пути, организуемый Государственной канцелярией интернет-информации КНР, в этом году будет посвящен теме «Связность и общее процветание» и сосредоточится на 3 темах: - «Цифровая связь и сотрудничество в строительстве Шелкового пути», - «Международное сотрудничество в области электронной коммерции Шелкового пути», - «Цифровые Деревни и устойчивое развитие». ✅️ В рамках форума будет официально запущена программа «Цифровая академия Всемирной интернет-конференции». Она будет направлена ​​на подготовку кадров, повышение цифровой грамотности, содействие совместному строительству и обмену, создание новых платформ и предоставление новых возможностей. 🤝🏼 Участие в форуме уже подтвердили ряд организаций, включая GSMA, Micron, Qualcomm, Intel, Alibaba, ZTE и другие компании из более чем 30 стран и регионов. ☑️ В последние годы провинция Шэньси сосредоточила внимание на развитии цифровой экономики, стремясь создать новые преимущества в цифровой инфраструктуре. Ожидается, что к 2023 году масштабы цифровой экономики в провинции достигнут 1,4 трлн юаней, что составит более 40 процентов ее ВВП.

Итальянский регулятор проверяет видеосервис Sora от OpenAI Итальянское агентство по защите данных Garante проводит расследование в отношении инструмента генерации видео Sora от OpenAI по поводу использования данных и соответствия нормам ЕС. Garante требует разъяснений по поводу практики использования данных, ставя под сомнение соответствие OpenAI нормам ЕС и прозрачность работы с данными пользователей. Эта проверка со стороны Garante последовала за временным запретом ChatGPT за предполагаемые нарушения конфиденциальности в ЕС. Несмотря на отсутствие конкретных обвинений, Garante изучает потенциальное влияние Sora на персональные данные в ЕС и Италии. В рамках расследования Garante запрашивает подробную информацию об алгоритме обучения Sora, практике сбора данных и доступности в ЕС и Италии. Расследование подчеркивает важность прозрачности ИИ и соблюдения нормативных требований для защиты персональных данных. #OpenAI #Sora #DataPrivacy #GaranteInvestigation

📣 28 марта в 16:00 в МГИМО состоится День открытых дверей магистратуры МГИМО «Искусственный интеллект», созданной совместно с МФТИ при поддержке группы компаний АДВ. 📆 28 марта ⏳ 16:00 📍 МГИМО, пр-т Вернадского, 76, аудитория 315 (для студентов МГИМО) 📱 Гибридный формат ✅ День открытых дверей - это отличная возможность познакомиться с университетом и узнать о возможностях получения востребованных компетенций в области ИИ. 💬 В ходе встречи руководитель магистерской программы А.В.Абрамова расскажет об образовательном процессе и особенностях поступления в 2024 году. Преподаватели, эксперты и выпускники ответят на все интересующие Вас вопросы. 🔗 Будет доступна онлайн-трансляция в Zoom. 🔗 Зарегистрироваться на мероприятие можно в Timepad. ❕️ Получить дополнительную информацию о программе и поступлении можно на сайте ai.mgimo.ru и по телефону +7 903 623-95-15. 👋 До встречи! #МГИМО #МФТИ #Искусственныйинтеллект

📣 28 марта в 16:00 в МГИМО состоится День открытых дверей магистратуры МГИМО «Искусственный интеллект», созданной совместно с МФТИ при поддержке группы компаний АДВ. 📆 28 марта ⏳ 16:00 📍 МГИМО, пр-т Вернадского, 76, аудитория 315 (для студентов МГИМО) 📱 Гибридный формат ✅ День открытых дверей - это отличная возможность познакомиться с университетом и узнать о возможностях получения востребованных компетенций в области ИИ. 💬 В ходе встречи руководитель магистерской программы А.В.Абрамова расскажет об образовательном процессе и особенностях поступления в 2024 году. Преподаватели, эксперты и выпускники ответят на все интересующие Вас вопросы. 🔗 Будет доступна онлайн-трансляция в Zoom. 🔗 Зарегистрироваться на мероприятие можно в Timepad. ❕️ Получить дополнительную информацию о программе и поступлении можно на сайте ai.mgimo.ru и по телефону +7 903 623-95-15. 👋 До встречи! #МГИМО #МФТИ #Искусственныйинтеллект

📩 ГА ООН приняла резолюцию по ИИ - «Использование возможностей безопасных, защищенных и надежных систем искусственного интеллекта для устойчивого развития». Это первый документ ГА ООН, посвященный исключительно тематике ИИ. 📍Эксперты Центра ИИ МГИМО отмечают при анализе текста документа следующее: 🔸️ГА ООН продемонстрировала взвешенный подход к теме. Резолюция основывается на широком спектре наработок, сделанных как организациями системы ООН, так и региональными структурами. Документ содержит призыв к дальнейшей разработке международного регулирования данной сферы. 🔸️Постулируется необходимость международного сотрудничества в сфере ИИ. Крайне актуально в условиях формирования регуляторных блоков и введения отдельными странами экспортных ограничений на продукцию, связанную с ИИ. 🔸️Цифровой разрыв, который по мере развития ИКТ только нарастает, признается серьезной проблемой. 🔸️ИИ рассатривается как инструмент достижения ЦУР. 🔸️Резолюция предлагает целый набор мер для поддержки развития ИИ в развивающихся странах. 🔸️Документ содержит призыв к частному сектору соблюдать национальное законодательство, что крайне актуально в условиях трансграничной эксплуатации систем с ИИ. 🔸️Резолюция рассматривает качество данных как одного из ключевых фактров развития систем с ИИ и содержит призыв к сотрудничеству в данной сфере. 🔸️В резолюции содержится список мер по купированию рисков, связанных с эксплуатацией систем с ИИ, которые призваны обеспечить безопасность его применения, обеспечить сохранение языкового и культурного разнообразия мира; по развитию цифровой грамотности, защите персональных данеых, прозрачности функционирования систем с ИИ.

📩 Министерство внутренней безопасности США представило дорожную карту ИИ и объявило о запуске пилотных проетов: ✔️ Министр внутренней безопасности США Алехандро Н. Майоркас объявил о выходе первой «дорожной карты» Министерства внутренней безопасности США, в которой подробно описаны планы по использованию технологий ИИ в 2024 году. ✅️ Министерство также сообщило о трех инновационных пилотных проектах в области ИИ. Так, применять технологии ИИ своей работе будут: - Федеральное агентство по чрезвычайным ситуациям (FEMA); - Служба гражданства и иммиграции США (USCIS); - Отдел расследований национальной безопасности (HSI), специализированное подразделение Иммиграционной и таможенной службы США.

🎂 200 подписчиков это важный юбилей для Телеграм-канала! Дорогие друзья, спасибо вам! Пользуясь случаем, хотел бы поделиться интересными каналами, которые читаю сам. Рекомендую! 🔹 МГИМО. Официально 🔹 Цифровой МГИМО 🔹 Цифровые международные отношения 🔹 Факультет МЭО МГИМО 🔹 КриптоЛина 🔹 Маркетинг с душой 🔹 Пост-Америка 🔹 Lawкик 🔹 Италия с Еленой Масловой 🔹 ТС!!! 🔹 Центр ИИ МГИМО 🔹 Научный журнал «Цифровое право» 🔹 Колаборатория AIIR 🔹 Научно-исследовательский центр: технологии искусственного интеллекта в международных отношениях 🔹 Лаборатория по интеллектуальному анализу данных ИМИ МГИМО Это далеко не полный список! К следующим круглым цифрам обязательно подготовлю более развёрнутый. Видео сгенерировано с помощью нейросети Кандинский на платформе Fusion Brain, разработанной Институтом искусственного интеллекта AIRI. Промпт: «Человек рад, что на его канал в мессенджере теперь подписано много друзей»😉 💬 Александр Уланов – подписаться