AI Global Agenda

Выпущено международное руководство по безопасному развертыванию ИИ Центр безопасности искусственного интеллекта Агентства национальной безопасности США в сотрудничестве с Агентством кибербезопасности и безопасности инфраструктуры, Федеральным бюро расследований, Австралийским центром кибербезопасности, Канадским центром кибербезопасности, Национальным центром кибербезопасности Новой Зеландии и Национальным центром кибербезопасности Великобритании выпустили совместное руководство по безопасному развертыванию систем искусственного интеллекта. В этом руководстве изложены лучшие практики развертывания и использования систем ИИ от внешних разработчиков. Целью руководства является: ✅ повысить конфиденциальность, целостность и доступность систем искусственного интеллекта; ✅ обеспечить надлежащее устранение известных уязвимостей в системах ИИ; ✅ обеспечить методологии и средства контроля для защиты, обнаружения и реагирования на злонамеренные действия в отношении систем ИИ и связанных с ними данных и сервисов. Документ охватывает широкий спектр тем: от защиты среды развертывания до защиты операционной системы ИИ и обеспечения безопасности операций и обслуживания ИИ. В руководстве изложены три основных метода обеспечения безопасности: ✅ защита среды развертывания, ✅ защита системы ИИ, и ✅ обеспечение безопасности эксплуатации и обслуживания ИИ. Понимание и выполнение рекомендаций, изложенных в руководстве, поможет организациям снизить риски ИИ и укрепить доверие к этой быстроразвивающейся технологии. #AI #Безопасность #Кибербезопасность #CISA #NSA

📩 Эксперты Центра ИИ МГИМО изучили доклад Стэнфордского университета «Индекс ИИ» («The AI Index Report 2024») и выделяют следующие акценты в контексте развития регулирования в сфере ИИ: ❕️К сожалению, исследователи из Стэнфорда обошли вниманием многосторонние международные регуляторные процессы. Надеемся, этот сюжет будет подсвечен в следующем году. 📌 А пока эксперты Центра ИИ МГИМО отметили, что: 🔸️Нормотворчество в сфере ИИ остается западноцентричным, однако популярность ИИ как объекта нормотворчества растет и во всем мире (в 2023 г. в своих законодательных актах упоминали 49 государств, число упоминаний возросло почти в 2 раза). 🔸️Вопреки мнению, что США выступают за дерегулирование ИИ, Америка – лидер по нормотворчеству в этой сфере (в 2023 г. выдвинут 181 законопроект: с 2016 по 2023 гг. в США принято 23 законодательных нормативных акта по ИИ). 🔸️Законодатели большинства стран мира заинтересованы в поощрении развития ИИ (из 21 принятого закона по ИИ в 2023 г. 13 носят поощрительный характер и 8 – ограничительный). 🔸️Много говорят про беспилотные автомобили? Эта отрасль остается одной из самых неурегулированных. Большое энергопотребления ИИ тоже на повестке? Еще одна неурегулированная отрасль. Среди других сфер, которые обошло стороной регулирование - ИИ в торговле ценных бумаг. 🔸️Согласно представленным данным, к направлениям с высоким уровнем регулирования относятся бюджетные отношения, национальная безопасность, рынок труда и наука. 📑 Сам анализ Стэнфордского университета не смог избавиться от западноцентричности. Эксперты проанализировали отражение позиций России - авторы доклада обошли их стороной. КНР, Индия, Бразилия, ЮАР – terra incognita.

📩 Эксперты Центра ИИ МГИМО изучили доклад Стэнфордского университета «Индекс ИИ» («The AI Index Report 2024») и выделяют следующие акценты в контексте развития бизнеса: 🔸️Бизнес является основным драйвером развития ИИ. В 2023 бизнес произвел 51 заметную модель машинного обучения, в то время как научное сообщество только 15, и 21 модель явилась результатом коллабораций между бизнесом и наукой. В то же время, стоимость создания и обучения современных моделей ИИ значительно выросла. Главными лидерами в области разработки ИИ являются США, Индия, ЕС и Великобритания, что определяет основные векторы потенциального международного делового сотрудничества. 🔸️Инвестиции в генеративный ИИ показали взрывной рост, несмотря на то, что объем общих частных инвестиций за 2023 год снизился. Увеличение количества ИИ open source проектов на GitHub может служить подтверждением повышенного интереса к данному направлению, и в перспективе сформировать новые возможности для инноваций в бизнесе. 🔸️Для бизнеса представляется критичным отслеживать прогресс в области ИИ, в частности, в рамках появления новых языковых моделей и инструментов для обработки изображений, чтобы своевременно вводить новые технологии в свои бизнес-стратегии. Для бизнеса важно направить фокус на контроль генерируемой ИИ информации, чтобы обеспечить качество и достоверность данных, все более активно используемых в бизнес-процессах.

📩 Исследовательский институт Hurun опубликовал результаты нового исследования - Hurun Global Unicorn Index за 2024 год. 📍Согласно индексу, в мире сейчас 1453 компании-единорога (стартапы с капитализацией более 1 млрд. долларов США) в 291 городах из 53 стран. Лидируют в списке США с 703 единорогами, за ними следует Китай с 340 организациями. Впервые в рейтинг попали Россия и ЮАР. 🌎 В США расположена половина всех единорогов, в-основном, работающих в сферах SaaS (ПО как услуга), финтеха и ИИ. В Китае – четверть таких компаний, главным образом представляющих сектора ИИ, полупроводников и новой энергетики. Оставшаяся четверть проектов из других стран относятся, в основном, к финтеху и электронной коммерции. 📈 Финтех, SaaS и ИИ - три основных сектора, в которых представлены единороги. ИИ превзошел электронную коммерцию и вошел в «большую тройку». ☑️ Среди компаний, которые стоит упомянуть в связи с их взлетом в 2023 году, в США - это OpenAI, чья капитализация выросла в разы. В Китае ведущие позиции занимают Moonshot AI (Пекин) и MiniMax (Шанхай), существующая около двух лет. В числе других компаний - OneTrust (Атланта, США), использующая ИИ для обеспечения безопасности данных, Graphcore (Великобритания), создающая ускорители для ИИ и машинного обучения, а также Glance (Индия), дочерняя компания InMobi. 📌 Комментарий экспертов Центра исследований ИИ МГИМО: Результаты Hurun Global Unicorn Index позволяют отследить несколько важных тенденций в мировой экосистеме стартапов. Так, растет географическое разнообразие, и, несмотря на доминирование США и Китая, появляется все больше новых игроков. То, что ИИ стал одним из трех основных секторов для копаний-единорогов, подчеркивает потенциал технологии в преобразовании мировой экономики. Рост капитализации таких компаний, как OpenAI, свидетельствует о растущем интересе инвесторов к генеративному ИИ. В целом, индекс подчеркивает динамику и разнообразие глобальной экосистемы стартапов и подтверждает тенденцию стремительного развития ИИ-технологий.

✔️ RIGF традиционно начинается с молодежной части, которая стартует на пару рабочих дней раньше. В этом году Youth RIGF прошёл 5 апреля в фиджитал-пространстве «Кибердом» с весьма насыщенной программой. 📎 В рамках мероприятия Анна Абрамова провела дискуссию с молодыми кадрами. Помимо прочего, обсуждалось, какие качества и навыки соискателей сегодня ценят работодатели ИТ-сектора. ✅ В обсуждении участвовали представители компаний Positive technologies, МТС и Ростелеком.

📍9-10 апреля проходит Российский форум по управлению интернетом (RIGF). Предлагаем посмотреть дискуссию в рамках Секции 2. "Формирование стратегий развития искусственного интеллекта", в ходе которой руководитель Центра ИИ МГИМО Анна Абрамова рассказала о поиске баланса в международном регулировании ИИ. 📎 Запись сессии доступна по ссылке, таймкод 2:32:15 - 3:56:40.

🗓 9 апреля Анна Абрамова прокомментирует вопросы глобального регулирования ИИ в RIGF 2024 (программа). 📍Секция "Формирование стратегий развития ИИ",  12.15-13.45.

📌 5 апреля в ООН был представлен "нулевой" проект Глобального цифрового договора (ГЦД). По итогам презентации состоялся публичный обмен мнениями между государствами-участниками ООН, в ходе которого были высказаны следующие идеи по тематике управления ИИ: 🔹️ передача технологий и знаний развивающимся странам должны идти "красной нитью" через проект документа; 🔹️ ООН должна играть лидирующую роль в международном управлении ИИ; 🔹️ управление ИКТ должно руководствоваться принципом национального суверенитета (Группа 77 + Китай, что охватывает большинство стран "Глобального юга"). 🔹️формирование предложенных Секретариатом ООН новых органов в сфере ИИ должно быть надлежащим образом обосновано и не дублировать мандаты существующих институтов (Группа 77, КНР, США, Япония, ЕС, Великобритания). ❕️ЕС выступил за то, чтобы свою роль в глабальном управлении ИИ играли и форматы вне ООН, как, например, Глобальное партнерство по ИИ. 📍По мнению Пекина, роль развивающихся стран в глобальном управлении ИКТ должна быть выше. Этот же тезис продвигается и в двусторонних контактах КНР-Африка, например, в недавно принятом заявлении председателя Китайско-африканского форума по управлению Интернетом и его развитию. Китай также заявляет, что процесс выработки системы управления ИИ необходимо основывать на консенсусе. ✔️ Пока не все страны определились с официальной позицией в отношении инициатив в ООН по глобальному управлению ИИ. Среди них - Мексика и Индия. ✅️ Сингапур от имени Группы малых островных развивающихся государств (55 стран), а также Евросоюз заявили, что в ГЦД необходимо учесть наработки  Консультативного органа высокого уровня ООН по ИИ (в том числе, будущие). Ожидают результатов работы также Консультативного органа Китай и ЕС. 📝 Необходимо также отметить сравнительно комплементарные позиции США, КНР и Великобритании к инициативам, изложенным в ГЦД.

В Нью-Йорке началась презентация "нулевого" варианта текста Глобального цифрового договора. Трансляция доступна по ссылке https://webtv.un.org/en/asset/k1g/k1ge77ptzl