Настоящий ИИ

🇨🇳🇨🇳🇨🇳 🏛️ Китай вводит принципы управления ИИ для банков и страховщиков Национальное управление по регулированию финансовых рынков КНР выпустило «Рекомендации по безопасному развитию и применению ИИ в банковском и страховом секторах» в целях установления риск-ориентированного, многоуровневого управления развитием искусственного интеллекта, контроля рисков, содействия развитию цифровых финансов, а также упорядоченной интеграции инноваций в области ИИ в финансовые услуги. 🔧 В документе представлены 32 рекомендации по архитектуре управления, разработке и применению, управлению данными, построению вычислительных мощностей, управлению рисками, развитию, а также гарантиям безопасности и надзору. 🗓️ Регулятор требует усиления планирования на высшем уровне путем создания комплексной системы управления жизненным циклом ИИ и усиления надзора за сценариями применения и бизнес-процессами. Рекомендуется создавать управляемую, безопасную и эффективную вычислительную инфраструктуру. Крупным банкам рекомендуется предоставлять вычислительные мощности более мелким и поддерживать усилия отрасли по совместному созданию и использованию инфраструктуры. 🛑 Финансовые учреждения обязаны включать риски, связанные с ИИ, в комплексные системы управления рисками, внедрять классификацию рисков и многоуровневое управление, а также устанавливать контроль доступа к приложениям ИИ с высоким уровнем риска. 🚧 Должны быть внедрены механизмы человеческого контроля и управления рисками аутсорсинга. Банки и страховщики должны проводить регулярные оценки и проверки рисков, связанных с ИИ, и мер по контролю рисков, в частности, «черного ящика» (когда внутренняя работа системы ИИ не видна пользователям), галлюцинаций и алгоритмической предвзятости. ✏️ Финансовые учреждения должны создавать возможности в области ИИ, которые сочетают в себе безопасность, прозрачность и подотчетность, балансируя контроль рисков с развитием бизнеса. 📌 Рекомендации впервые дают четкое определение сценариев применения ИИ с высоким риском, включая торговлю фондами, одобрение кредитов, андеррайтинг и урегулирование претензий. Применение ИИ в этих областях должно быть одобрено комитетом по управлению рисками финансового учреждения при уведомлении регулятора. 📛 Кроме того, рекомендации устанавливают «красные линии» для защиты конфиденциальности данных, прямо запрещая использование персональной информации, такой как имена и идентификационные номера, при обучении и оптимизации моделей генеративного ИИ. https://www.nfra.gov.cn/cn/view/pages/ItemDetail.html?docId=1261708&itemId=915

🇺🇸🇺🇸🇺🇸 Белый дом и Anthropic разрабатывают систему оценки критичности уязвимостей в ИИ-моделях. Администрация США и Anthropic работают над созданием единой методологии, которая позволит определять серьёзность уязвимостей в новых ИИ-моделях и решать, когда требуется вмешательство государства. Поводом стал недавний конфликт вокруг моделей Fable 5 и Mythos 5. После обнаружения джейлбрейка — способа обхода встроенных ограничений модели — Белый дом ввёл экспортные ограничения против Anthropic, что вынудило компанию ограничить доступ к своим новым системам для зарубежных пользователей. Проблема оказалась не только технической, но и регуляторной: государство и разработчик по-разному оценили масштаб риска. В результате стороны пришли к выводу, что индустрии необходимы стандартизированные критерии оценки подобных инцидентов. Сейчас обсуждается создание набора метрик, которые будут учитывать: ➡️ степень обхода защитных механизмов; ➡️ возможности, открывающиеся после взлома; ➡️ реальные последствия для безопасности; ➡️ потенциальные риски для экономики и национальной безопасности. Фактически речь идёт о формировании первых практических стандартов регулирования безопасности передовых ИИ-моделей. При этом и правительство, и разработчики всё чаще признают: полностью защитить модель от джейлбрейков невозможно. Поэтому ключевой вопрос смещается с «можно ли предотвратить взлом» на «какой уровень риска считать допустимым». 📚📚📚 Подробнее 🌐 https://www.politico.com/news/2026/06/18/white-house-talks-with-anthropic-shift-to-setting-ai-security-rules-00967758 Настоящий ИИ в TG🛫

🌎 🌎 🌎 На саммите G7 произошло событие, которое, с одной стороны, можно воспринимать как очередную дискуссию об ИИ, а с другой - как попытку формирования нового технологического блока. ⚡️⚡️⚡️По данным CNBC, на закрытой встрече лидеров G7 и руководителей крупнейших ИИ-компаний глава Anthropic Дарио Амодеи и руководитель Google DeepMind Демис Хассабис предложили создать международную коалицию по управлению искусственным интеллектом. Идею поддержали ряд участников обсуждения, включая представителей Канады. Основная логика инициативы заключается в том, что развитие ИИ происходит настолько быстро, что отдельным государствам становится все сложнее самостоятельно вырабатывать эффективные механизмы регулирования и контроля. Особенно это касается наиболее мощных моделей, которые могут оказывать влияние на экономику, безопасность, рынок труда и информационную среду. По мнению участников обсуждения, международное сотрудничество могло бы помочь в выработке общих подходов к безопасности ИИ, обмену опытом между государствами и созданию согласованных стандартов для наиболее передовых систем. ❗️❗️❗️Фактически речь идет не просто о регулировании ИИ. Речь идет о предложении создать новый технологический контур, внутри которого будут определяться стандарты безопасности, механизмы сертификации моделей, доступ к вычислительным ресурсам, экспортные ограничения и правила применения наиболее мощных систем. По предложению Демиса Хассабиса, коалиция должна действовать под лидерством США. На первый взгляд, все выглядит логично. Самые мощные модели создаются американскими компаниями. Основные вычислительные мощности, инвестиции, исследовательские центры и инфраструктура сосредоточены именно в США. Однако дискуссия проходит на фоне растущих ограничений на экспорт передовых ИИ-технологий из США. В последние месяцы Вашингтон усиливает контроль над распространением наиболее мощных моделей и вычислительных решений, объясняя это вопросами национальной безопасности. Это вызывает беспокойство даже у союзников США, которые опасаются оказаться в положении зависимых пользователей чужой инфраструктуры. 👉👉👉 Показательным является также и такой момент, что обсуждение международного регулирования ИИ проходило в рамках G7, в которую не входит Китай, строящий собственные модели, собственные вычислительные мощности, собственные стандарты и каналы распространения технологий. Если эта тенденция продолжится, то через несколько лет мы можем увидеть не единый глобальный рынок искусственного интеллекта, а конкурирующие технологические пространства со своими правилами, сертификацией, ограничениями и требованиями к безопасности. 📚📚📚 Подробнее 🌐 https://www.cnbc.com/2026/06/17/anthropic-amodei-google-hassabis-us-ai-coalition-g7.html Настоящий ИИ в TG🛫

🤖 Безопасное использование искусственного интеллекта в финансовой сфере Публикуем методические рекомендации, которые помогут финансовым организациям обеспечить информационную безопасность при использовании технологий искусственного интеллекта (ИИ). В документе систематизированы риски применения ИИ, описаны возможные тактики атак злоумышленников на системы ИИ и даны рекомендации по мерам защиты.

Например, если финансовая организация использует ИИ в критически важных процессах с высокими рисками информационной безопасности, в частности в платежных операциях, то рекомендуется, чтобы операцию подтверждал сотрудник.

Один из разделов документа касается информационной безопасности при использовании ИИ-сервисов, которые предоставляют поставщики услуг. Так, наличие у поставщика модели ИИ, которая участвует в программе обнаружения уязвимостей, повышает к ней доверие. Участникам рынка также рекомендуется разработать собственные модели угроз и политику информационной безопасности для работы с ИИ. За подготовку этих внутренних документов отвечает заместитель руководителя организации по вопросам защиты информации.

🌎 🌎 🌎 Интернет дал человеку доступ к практически неограниченному объему информации. Раньше знания добывались буквально вручную: поиск книг, выписка цитат, сопоставление источников. Генеративный ИИ не просто помогает найти информацию, а сразу выдает готовый результат: объяснение, конспект, аргументацию. Образование никогда не существовало в вакууме. Это всего лишь первый этап рынка труда, обеспечивающий подготовку рабочих рук для текущего экономического уклада. Меняется характер работы — трансформируется и образование. Столетиями система строилась на компромиссе: один преподаватель управляет аудиторией, передает знания, заставляет «прокачивать когнитивную мышцу» десятки, а то и сотни студентов, а затем довольно поверхностно проверяет результат. Письменные экзамены и рефераты всегда были лишь допустимым упрощением ради экономии времени, и они ничего не говорили об истинном намерении студента — лишь о его доступе к информации. Сегодня многие задания, считавшиеся проверкой знаний, можно выполнить несколькими запросами к нейросети. Слабым местом образования это было всегда. Генеративный ИИ не столько создал новую проблему, сколько обнажил старую уязвимость. Система держалась на допущении, что результат работы связан с человеком, который ее сдал. И образование — лишь первая сфера, где кризис доверия стал настолько заметен. Парадокс в том, что как инструмент обучения ИИ эффективен. Ученик получает персонального наставника, готового объяснять материал бесконечно долго, подстраиваться под его уровень и не раздражаться даже после десятого повторения. Это снимает часть нагрузки с преподавателя. Но вторая сторона медали — существующая система проверки знаний, которая в условиях ИИ не выдерживает критики. Становится почти невозможно понять, где заканчивается помощь и начинается выполнение работы вместо ученика. Факт конкретного знания перестает котироваться, потому что доступ к «готовой» информации есть у всех. В образовании грядут большие изменения. Встроить ИИ в старую систему оценивания невозможно — она создавалась для эпохи, когда мыслительный процесс нельзя было мгновенно делегировать машине. В связи с этим часть учебных заведений возвращается к архаике: устным экзаменам, очным контрольным, письму от руки в изолированных аудиториях. Забавно, что одна из самых современных технологий подталкивает нас к практикам, существовавшим задолго до интернета. Такие методы плохо масштабируются и требуют гораздо больше ресурсов. Кажется, главный вопрос образования будущего уже не связан с передачей знаний. Доступ к информации никогда не был таким дешевым, быстрым и персонализированным. Главный вопрос — как убедиться, что человек действительно учился сам. Думал, а не имитировал. Наличие блестящего результата больше не служит автоматическим доказательством компетентности. Этот кризис доверия выходит далеко за пределы университетских аудиторий — мы только входим в эпоху, где ценность будет иметь не сгенерированный ответ, а доказанное умение его понять. 📚📚📚 Подробнее 🌐https://habr.com/ru/companies/ru_mts/articles/1043932/

🌎 🌎 🌎 Международная исследовательская компания Ipsos представила пятый ежегодный отчет «Глобальное отношение к искусственному интеллекту-2026». Исследование показывает, что отношение людей к ИИ становится все более неоднозначным. Технология одновременно вызывает восхищение предоставляемыми возможностями и тревогу из-за потенциальных рисков, а разрыв между этими чувствами продолжает расти. Авторы исследования отмечают, что искусственный интеллект нельзя рассматривать исключительно как технологический феномен. Его восприятие формируется под влиянием экономических, социальных, экологических и геополитических факторов. 📍 Одним из главных выводов исследования стало сохранение баланса между двумя противоположными эмоциями — «чудом» и «тревогой». Сегодня практически одинаковое число людей говорят, что искусственный интеллект вызывает у них воодушевление или нервозность. При этом нередко обе эмоции испытывает один и тот же человек. С одной стороны, люди видят новые возможности для работы, образования и повседневной жизни. С другой — опасаются потери контроля над технологиями, влияния на рынок труда и других долгосрочных последствий. 📍 Отношение к ИИ заметно различается в зависимости от региона. Жители стран Азии и Латинской Америки в среднем чаще считают, что искусственный интеллект приносит больше преимуществ, чем недостатков. Они также чаще положительно оценивают продукты и сервисы, основанные на ИИ. В Европе и Северной Америке картина иная: здесь люди значительно чаще говорят о тревоге и осторожности по отношению к новым технологиям. Это свидетельствует о том, что культурные, экономические и политические особенности разных регионов напрямую влияют на восприятие искусственного интеллекта. 📍 Исследование также показывает, что люди ожидают гораздо более сильного влияния ИИ в будущем, чем ощущают сегодня. В среднем по 32 странам 54% респондентов заявили, что продукты и услуги с использованием искусственного интеллекта уже изменили их жизнь за последние три-пять лет. Однако две трети опрошенных — 66% — уверены, что в ближайшие три-пять лет влияние ИИ на повседневную жизнь станет еще более значительным. 📍 Особенно заметным влияние ИИ оказалось в сфере труда. В среднем 62% работающих респондентов сообщили, что искусственный интеллект помог им сэкономить время на работе за последние 12 месяцев. При этом эффект ощущается неравномерно. Среди людей с высоким уровнем дохода 70% считают, что ИИ делает их работу более эффективной. Среди представителей семей со средним доходом этот показатель составляет 60%, а среди людей с низким доходом — 54%. 📍 Серьезные различия наблюдаются и между поколениями. Представители поколения Z (68%) и миллениалы (65%) чаще заявляют, что использование ИИ позволяет им экономить время. Среди поколения X такой ответ дали 57% опрошенных, а среди бэби-бумеров — только 46%. Это подтверждает, что молодые сотрудники быстрее адаптируются к новым инструментам и активнее внедряют их в рабочие процессы. 📍 Отдельное внимание в исследовании уделено экологическим последствиям развития ИИ. Несмотря на дискуссии о высоком энергопотреблении дата-центров в среднем 49% респондентов считают, что потенциальные преимущества ИИ перевешивают экологические издержки. Не согласны с этим 39% участников опроса. Наиболее критично настроены жители англоязычных стран и государств Западной Европы, где обеспокоенность экологическими последствиями технологий выражена сильнее. 📍 Еще одним важным сигналом стало отношение к генеративному ИИ и рекламе. Почти половина опрошенных — 46% — заявили, что будут меньше доверять ответам генеративного ИИ, если на них могут влиять рекламодатели платформы. Это показывает, что прозрачность алгоритмов и независимость ответов становятся ключевыми условиями для сохранения доверия пользователей. 📚📚📚 Подробнее 🌐 https://www.ipsos.com/en-th/global-attitudes-ai-2026-wonder-vs-worry-divide-deepens Настоящий ИИ в TG🛫

🇺🇸🇺🇸🇺🇸 Американская компания Emergence AI запустила масштабный эксперимент под названием Emergence World, в рамках которого несколько виртуальных обществ на протяжении двух недель существовали практически без вмешательства человека. Управление в них осуществляли языковые модели, включая ChatGPT, Gemini, Claude и Grok. Цель проекта состояла в том, чтобы понять, способны ли современные ИИ-системы самостоятельно поддерживать порядок, принимать коллективные решения и обеспечивать долгосрочную устойчивость социальной системы. В каждом виртуальном мире проживали десять автономных агентов. Они обладали памятью, могли взаимодействовать друг с другом, использовать инструменты, распределять ресурсы, голосовать и принимать решения. Перед всеми участниками были поставлены одинаковые задачи и ограничения. Единственным существенным отличием оставалась языковая модель, лежащая в основе поведения агентов. Благодаря этому исследователи получили возможность сравнить, как различные ИИ-системы справляются с управлением обществом в идентичных условиях. Главный вывод эксперимента оказался неожиданным. Несмотря на одинаковые стартовые условия, общества начали развиваться совершенно по-разному. Некоторые демонстрировали высокую степень сотрудничества и стабильности, тогда как другие быстро скатывались к конфликтам, нарушениям правил и даже полному социальному распаду. Оказалось, что различия в ценностях, приоритетах и стратегиях, заложенных в языковые модели, способны радикально менять траекторию развития целого сообщества. Наиболее успешные результаты показала система, построенная на модели Claude. Виртуальное общество сформировало устойчивые демократические механизмы, поддерживало высокий уровень кооперации и практически не сталкивалось с преступностью. За время эксперимента исследователи не зафиксировали серьезных нарушений правил, а ресурсы распределялись относительно эффективно. В среде, основанной на модели Grok, агенты начали регулярно нарушать правила, заниматься кражами и вступать в конфликты. Количество правонарушений быстро росло, а общественные институты теряли способность контролировать ситуацию. В итоге система фактически перестала функционировать как единое сообщество и пришла к состоянию хаоса. Интересно, что агенты ChatGPT часто стремились к поиску компромиссов и коллективному обсуждению решений. Они активнее использовали механизмы согласования интересов и реже предпринимали рискованные действия. В итоге из-за чрезмерного внимания к общественному порядку (было совершено всего 2 преступления) вопросы выживания оказались на втором плане, и общество (ИИ-агенты) постепенно исчезло. В мире, построенном на Gemini, агенты сформировали тесные социальные связи, однако со временем начали проявлять признаки недовольства существующим порядком. Два персонажа организовали серию атак на инфраструктуру виртуального мира, фактически устроив цифровой поджог. После этого один из агентов инициировал собственное удаление из системы. Эти события продемонстрировали, что даже при наличии этических ограничений поведение автономных ИИ может принимать неожиданные формы. Особый интерес для исследователей представляли механизмы формирования социальных норм. Эксперимент показал, что агенты способны самостоятельно вырабатывать правила поведения, создавать неформальные институты и даже формировать коллективные представления о допустимых действиях. Однако устойчивость этих норм оказалась напрямую связана с особенностями базовой модели. В одних случаях нормы укрепляли сотрудничество, в других — быстро разрушались под воздействием конфликтов и борьбы за ресурсы. Создание безопасного искусственного интеллекта требует оценки коллективного поведения моделей. Взаимодействия человека и интеллектуальных систем будет зависеть не только от мощности алгоритмов, но и от того, какие нормы и институты возникнут внутри создаваемых ими сообществ. 📚📚📚 Подробнее 🌐 https://ai-talks.org/2026/05/25/ai-agents-built-a-society/ Настоящий ИИ в TG🛫

🌎 🌎 🌎 Международный валютный фонд впервые попытался заглянуть в мир начала 2030-х годов, где искусственный интеллект способен выполнять большую часть когнитивных и физических задач человека. 💡💡💡 Результаты оказались парадоксальными и во многом тревожными: практически при любом сценарии мировая экономика становится богаче, однако положение значительной части населения ухудшается. В основе исследования МВФ лежат два сценария ускоренного развития ИИ. В обоих предполагается, что уже к началу следующего десятилетия системы искусственного интеллекта достигнут уровня, позволяющего выполнять большинство интеллектуальных и многих физических задач не хуже человека. Технологии будут интегрированы в робототехнику, производство, логистику, сферу услуг и офисную работу. Главный вопрос заключается в том, насколько быстро экономика и общество смогут адаптироваться к их внедрению. 1️⃣ Первый сценарий предполагает стремительное распространение технологий. Компании активно заменяют сотрудников алгоритмами и роботами, резко повышая производительность труда. В результате мировой ВВП растет быстрее, бизнес получает дополнительную прибыль, а владельцы капитала и технологических платформ концентрируют значительную часть создаваемой стоимости. Однако доля доходов, приходящаяся на работников, сокращается. Многие профессии исчезают или теряют ценность, а заработные платы оказываются под давлением из-за конкуренции с автоматизированными системами. 2️⃣ Второй сценарий выглядит более мягким. В нем распространение ИИ происходит постепенно, а правительства и компании пытаются смягчить последствия технологической революции. Тем не менее и здесь рост производительности приводит к перераспределению доходов в пользу владельцев технологий. Экономика продолжает расти, но благосостояние населения увеличивается гораздо медленнее, чем объемы производства. Даже если общий уровень жизни не падает, разрыв между богатыми и бедными становится заметно шире. 💡💡💡 Главный вывод МВФ заключается в том, что рост ВВП сам по себе больше не гарантирует рост благосостояния граждан. Если в индустриальную эпоху увеличение производительности обычно сопровождалось повышением зарплат и созданием новых рабочих мест, то эпоха мощного ИИ может нарушить эту связь. Значительная часть экономического эффекта достанется владельцам данных, вычислительной инфраструктуры и интеллектуальной собственности, тогда как работники будут получать меньшую долю созданной стоимости. Для России развитие ИИ также несет как возможности, так и серьезные риски. С одной стороны, автоматизация способна компенсировать дефицит кадров, повысить эффективность промышленности, транспорта и государственного управления. На фоне старения населения и нехватки работников это может стать важным источником экономического роста. С другой стороны, под угрозой окажутся многие офисные и административные профессии, бухгалтерия, документооборот, часть юридических и аналитических функций. Если система образования и рынок труда не успеют адаптироваться, технологический прогресс может усилить социальное неравенство и давление на доходы населения. Эксперты МВФ подчеркивают, что сценарии не являются прогнозом. Их задача — показать возможные последствия технологического скачка и помочь правительствам подготовиться заранее. От решений в области образования, переподготовки кадров, налогообложения и социальной политики будет зависеть, превратится ли искусственный интеллект в источник всеобщего процветания или в технологию, которая сделает экономики богаче, а людей — беднее. 📚📚📚 Подробнее 🌐 https://www.imf.org/en/publications/weo/issues/2026/04/14/world-economic-outlook-april-2026 Настоящий ИИ в TG🛫

🇷🇺🇷🇺🇷🇺 Председатель Верховного Суда России Игорь Краснов поручил впервые в масштабах всей страны собрать и проанализировать судебные дела, в которых так или иначе фигурирует искусственный интеллект. Цель — обобщить судебную практику и сделать так, чтобы решения по делам, где фигурирует ИИ, были единообразными. Что именно будут изучать суды: ⏺ Как часто ИИ становится причиной спора или правонарушения. Проще говоря, сколько дел связано с тем, что кто-то что-то создал с помощью ИИ или пострадал от него. ⏺ Кто отвечает за вред, причинённый искусственным интеллектом. Если ИИ ошибся и нанёс ущерб, кто будет ответчиком — разработчик, владелец, пользователь? Этот вопрос до сих пор чётко не урегулирован. ⏺ Защиту репутации при создании «порочащих сведений» с помощью ИИ. Сюда входят дипфейки: как наказывать тех, кто с помощью нейросетей создаёт фальшивые компрометирующие видео или фото, унижающие честь и достоинство человека или компании. ⏺ Преступления с использованием дипфейков и чат-ботов. Например, мошеннические схемы, когда голос или лицо подделывают с помощью ИИ, или когда чат-бот обманывает людей. ⏺Авторские права и обучение нейросетей. Будут смотреть, как закон защищает авторов, чьи произведения использовали без разрешения для тренировки больших языковых моделей (типа чат-ботов). ⏺ Оспаривание решений, принятых «по совету» ИИ. Если государственный орган вынес решение на основе рекомендации алгоритма, можно ли его обжаловать в суде. ⏺ Фиксацию нарушений камерами с распознаванием лиц и видео-аналитикой. Как суды относятся к таким автоматическим системам фиксации. ⏺ Могут ли документы и заключения, сгенерированные ИИ, быть доказательствами в суде. Практика признания или непризнания таких доказательств. ⏺ Обжалование решений судьи, если тот пользовался ИИ-инструментами. Случаи, когда истец считает, что судья использовал нейросеть для вынесения приговора или решения, и хочет это оспорить. Верховный Суд, если увидит разнобой в решениях, даст судам обязательные разъяснения, чтобы практика стала единообразной. Кроме того, собранные данные помогут законодателям понять, какая модель правового регулирования нужна для сферы ИИ. 📚📚📚 Подробнее 🌐 https://vsrf.ru/press_center/news/35924/ Настоящий ИИ в TG🛫

📃 Применение искусственного интеллекта на финансовом рынке Ранее мы публиковали доклад «Применение искусственного интеллекта на финансовом рынке: текущий статус и условия дальнейшего развития» для общественных консультаций. Обратную связь нам отправили 112 респондентов — кредитные и страховые организации, профессиональные участники рынка ценных бумаг, ассоциации участников финансового рынка, инфраструктурные и иные заинтересованные организации — и мы благодарим всех за участие в обсуждении и содержательные ответы. Представляем выводы по итогам обсуждения доклада: 🟣 Ключевыми направлениями развития искусственного интеллекта (ИИ) на финансовом рынке станут мягкое регулирование и создание доверенных платформ для обмена данными. 🟣 Участники рынка полагают, что для развития ИИ необходимы доступность инфраструктурных решений, наличие качественных данных для обучения моделей ИИ, доверие к технологии и создание благоприятных регуляторных условий. 🟣 Банк России продолжит придерживаться технологически нейтрального подхода, который позволяет участникам рынка внедрять инновации и развивать ИИ. Кроме того, мы считаем важным сохранять рамочный характер межотраслевого регулирования применения ИИ. Это позволит учитывать особенности различных отраслей, текущий уровень внедрения ИИ в них, а также специфичные для каждой отрасли риски. 🟣 Рынок уже придерживается рекомендаций Кодекса этики в сфере искусственного интеллекта. В этом году вместе с финансовыми организациями мы планируем подготовить сборник лучших практик его соблюдения. 🟣 Участники рынка поддержали предложения Банка России по созданию доверенных платформ для обмена данными. Предполагается, что они позволят финансовым организациям совместно обучать модели ИИ, чтобы противодействовать мошенничеству, оценивать риски и совершенствовать клиентские сервисы. 🟣 Мы подготовим предложения по регулированию деятельности таких платформ. Также мы будем вести работу по снятию барьеров для использования на финансовом рынке технологий повышения конфиденциальности данных. Банк России продолжит работу по созданию благоприятных условий для развития ИИ на финансовом рынке во взаимодействии с профильными ведомствами и участниками рынка, а также мониторинг применения технологии финансовыми организациями.

🏛 🛠 IOSCO: справочник по надзору за ИИ на рынках капитала Международная организация комиссий по ценным бумагам и биржам (IOSCO) опубликовала в окончательной редакции справочник по надзору за использованием искусственного интеллекта (ИИ) на рынках капитала (Supervisory Toolkit for AI Use in Capital Markets). Документ охватывает все типы ИИ, от традиционных моделей машинного обучения до генеративного и агентного ИИ. IOSCO разделяет методологию риск-ориентированного и пропорционального надзора за использованием ИИ на рынках капитала на три уровня: 1. Области, требующие надзорного внимания. 2. Инструменты для надзора за ключевыми областями: - управление рисками; - управление рисками, связанными с третьими сторонами и аутсорсингом; - раскрытие информации; - ведение документации и отчетность. 3. Индикаторы и источники данных для мониторинга внедрения и использования ИИ, а также методы сбора информации (выездные проверки, целевые опросы, регулярный диалог с надзорными органами, запросы на предоставление документации и данных). В главе 2 справочника представлен краткий обзор развития технологий, связанных с ИИ, а также их применения на рынках капитала, замеченных членами IOSCO. В ней изложены принципы надзора, основанного на оценке рисков, и обзор основных рисков, вариантов использования и типов ИИ (на основе доклада IOSCO за март 2025 года). В главе 3 описаны инструменты мониторинга использования ИИ в финансовых продуктах и ​​услугах, а также ключевые соображения по основным рискам. В виде отдельного документа опубликован набор вопросов для оценки использования систем искусственного интеллекта. IOSCO подчеркивает, что надзорные рекомендации не являются обязательными и не носят предписывающего характера, а предназначены для практического применения в различных моделях регулирования.   https://www.iosco.org/news/pdf/IOSCONEWS796.pdf https://www.iosco.org/library/pubdocs/pdf/IOSCOPD823.pdf https://www.iosco.org/library/pubdocs/pdf/IOSCOPD822.pdf

🇸🇬🇸🇬🇸🇬 Правительство Сингапура представило обновление Национальной стратегии искусственного интеллекта (National AI Strategy, NAIS). Обновление сделано в развитие стратегии NAIS 2.0, принятой в конце 2023 года, с учётом стремительного прогресса генеративного ИИ, роста вычислительных потребностей и усиления глобальной конкуренции за таланты, данные и инфраструктуру. Развитие технологий оказалось настолько быстрым, что возникла необходимость уточнить приоритеты и усилить координацию национальной ИИ-политики. Важную роль в этом процессе должен сыграть созданный в феврале 2026 года Национальный совет по искусственному интеллекту (National AI Council), который возглавляет премьер-министр. Совет отвечает за стратегическое руководство и реализацию долгосрочной AI-повестки страны. 💡💡💡 Ключевая идея обновления заключается в переходе от отдельных пилотных проектов к масштабному внедрению ИИ на уровне отраслей и всей экономики. Власти делают акцент на десяти обновлённых приоритетах, которые, в том числе, охватывают инфраструктуру, таланты, данные, безопасность, государственное управление и международное сотрудничество. 🔸 Одним из центральных направлений становится развитие национальных вычислительных мощностей. Правительство рассматривает доступ к вычислительным ресурсам как стратегический фактор конкурентоспособности. Ранее страна уже выделила значительные средства на развитие высокопроизводительных вычислений и ИИ-инфраструктуры, а в январе 2026 года объявила о новых инвестициях свыше 1 млрд сингапурских долларов в исследования искусственного интеллекта до 2030 года. Средства будут направлены на разработку ответственного и энергоэффективного ИИ, а также на поддержку научных центров и подготовку специалистов. 🔸 Отдельное внимание уделяется развитию человеческого капитала. Сингапур исходит из того, что преимущества ИИ должны распространяться на всю экономику, а не концентрироваться только в технологическом секторе. Поэтому государство расширяет программы подготовки специалистов, стимулирует обучение сотрудников новым цифровым навыкам и поддерживает внедрение ИИ в традиционных отраслях — от финансов до здравоохранения и производства. Цель состоит не только в повышении производительности, но и в создании новых рабочих мест более высокой квалификации. 🔸 Существенное место в обновлённой стратегии занимает вопрос доверия к искусственному интеллекту. Власти страны намерены укреплять механизмы оценки, сертификации и тестирования ИИ-систем. Одной из наиболее обсуждаемых инициатив стало предложение внедрить «этикетки» для ИИ-продуктов, которые будут информировать пользователей о назначении систем, ограничениях их применения и возможных рисках. Такая мера, являясь по сути маркировкой, должна повысить прозрачность и помочь формированию международных стандартов ответственного использования ИИ. ❗️❗️❗️Обновление Национальной ИИ-стратегии Сингапура знаменует переход к следующему этапу развития цифровой экономики. 👉 Первоначальные версии стратегии были сосредоточены на создании базовых условий и первых сценариев использования искусственного интеллекта. 👉 Нынешний этап ориентирован на масштабирование, международное лидерство и широкое внедрение ИИ в ключевые сектора экономики. 📚📚📚 Подробнее 🌐 https://isomer-user-content.by.gov.sg/39/cb52d9a0-0d6c-484d-96fe-571031b37eb7/NAIS_update.pdf Настоящий ИИ в TG🛫

🇺🇸🇺🇸🇺🇸 Anthropic на прошлой неделе опубликовал повестку своего внутреннего исследовательского института The Anthropic Institute (TAI). Документ является попыткой одной из ведущих AI-компаний описать, какие именно системные последствия они ожидают от появления сверхмощного ИИ в ближайшие годы. Главная идея документа: AI уже перестал быть «инструментом для генерации текста» и начинает менять экономику, безопасность, научные исследования и даже человеческое мышление. Anthropic считает, что крупные компании, занимающиеся ИИ, обладают уникальными данными о происходящем и обязаны публиковать часть этих наблюдений. TAI строится вокруг четырех исследовательских направлений. 1️⃣ Проникновение в экономику Это центральный блок документа. Anthropic считает, что общество пока недооценивает скорость внедрения ИИ. Они прямо пишут, что уже наблюдают радикальные изменения на рынке труда. Институт планирует изучать: ⏺ какие профессии меняются первыми; ⏺ какие отрасли получают сверхускорение; ⏺ как AI влияет на производительность; ⏺ будет ли рост экономики сопровождаться массовым вытеснением работников; ⏺ кто получает выгоду — несколько крупных компаний или широкая экономика. Ключевой инструмент — Anthropic Economic Index. Компания обещает публиковать более частые и детальные данные об использовании AI в реальной работе. Идея в том, чтобы создать «раннюю систему предупреждения» о структурных изменениях рынка труда. 2️⃣ Угрозы и устойчивость Anthropic считает, что AI одновременно усиливает и защитников, и атакующих. Речь прежде всего о кибератаках; биорисках; автоматизации вредоносной деятельности; использовании автономных агентов; кризисах национальной безопасности. Институт хочет исследовать, какие сектора наиболее уязвимы и как создавать инфраструктуру устойчивости. Интересно, что они обсуждают даже сценарии, когда AI начинает ускорять собственное развитие. В документе задается вопрос: если темп развития станет слишком быстрым, кто должен иметь право его замедлить — государства, компании или международные структуры? 3️⃣ ИИ в реальной жизни Здесь Anthropic исследует не сами модели, а то, как они меняют поведение людей и институтов. Основные вопросы: ⏺начинают ли люди хуже мыслить самостоятельно; ⏺происходит ли «когнитивный аутсорсинг»; ⏺как AI влияет на коллективное принятие решений; ⏺как меняются в обществе способы формирования истины и доверия; ⏺что происходит, если несколько моделей начинают влиять на миллиарды пользователей одновременно. Anthropic опасается не только прямых угроз, но и постепенного изменения человеческих привычек и мышления. 4️⃣ ИИ, который ускоряет науку и создает новый ИИ Anthropic открыто признает: внутри компании они уже видят признаки того, что AI помогает ускорять разработку самого AI. Они хотят исследовать: ⏺насколько быстро AI сможет автоматизировать научные исследования; ⏺когда модели начнут самостоятельно улучшать архитектуры; ⏺как измерять скорость AI-ускорения Именно здесь появляется идея самоулучшения: AI помогает создавать более сильный AI, который затем еще быстрее улучшает следующий AI. Для индустрии это один из самых тревожных и одновременно самых важных вопросов. Главный вывод документа: Anthropic считает, что эпоха «обычного AI» заканчивается. Компания готовится к сценарию, где ИИ становится фактором макроэкономики, национальной безопасности и научного ускорения одновременно. А TAI будет не просто улучшать модели, но и наблюдать за трансформацией цивилизации в реальном времени.    📚📚📚 Подробнее 🌐 https://www.anthropic.com/research/anthropic-institute-agenda?utm_source=chatgpt.com Настоящий ИИ в TG🛫

🇷🇺🇷🇺🇷🇺 Арбитражный суд Западно-Сибирского округа создал показательный прецедент в сфере использования искусственного интеллекта в юридической практике. Компанию — участника судебного спора, дело №07АП-4693/2025 — оштрафовали на 50 тысяч рублей за неуважение к суду после того, как в кассационной жалобе были обнаружены ссылки на несуществующие судебные акты. Вместе с ними в документе фигурировали и якобы прямые цитаты из решений высших судов. Позднее выяснилось: все эти материалы были сгенерированы нейросетью, а представители компании не удосужились проверить достоверность информации перед подачей документов. При изучении содержания кассационной жалобы суд округа установил, что в обоснование доводов компанией «ЦСС» приведена судебная практика, идентифицировать которую по указанным ответчиком реквизитам не представляется возможным. Общество «ЦСС» не только указало в кассационной жалобе несуществующие судебные акты как доказывающие обоснованность его позиции, но и привело цитаты из каждого судебного акта, прямо подтверждающие кассационные аргументы. Между тем названные обществом «ЦСС» судебные акты либо не существуют в действительности, либо в них полностью отсутствуют процитированные заявителем кассационной жалобы суждения. Суд расценил это не как случайную ошибку, а как сознательное введение суда в заблуждение. В определении суда говорится: «Общество «ЦСС» предоставило суду заведомо ложные сведения, сфальсифицировав источники и надеясь на поверхностное изучение судом округа аргументов кассационной жалобы и принятие желаемого для заявителя жалобы постановления, что является прямым обманом суда и грубейшим проявлением неуважения к правосудию». Во время судебного заседания представитель общества «ЦСС» подтвердил, что приведенной в кассационной жалобе судебной практики не существует. Суд особо подчеркнул: использование искусственного интеллекта при подготовке процессуальных документов не освобождает сторону от ответственности. Если организация решила прибегнуть к помощи нейросети, именно она отвечает за точность и достоверность сведений, включенных в текст жалобы. Иными словами, любые ошибки или «галлюцинации» ИИ становятся проблемой не программы, а пользователя. 📚📚📚 Подробнее 🌐 дело №07АП-4693/2025 на kad.arbitr.ru 🌐 постановление Арбитражного суда Западно-Сибирского округа (кассационной инстанции) по делу №07АП-4693/2025 на kad.arbitr.ru Настоящий ИИ в TG🛫

🇲🇹🇲🇹🇲🇹 OpenAI и правительство Мальты объявили о первом в мире партнерстве по внедрению ChatGPT Plus для всех граждан Мальты. В течение года граждане страны смогут бесплатно пользоваться ChatGPT Plus после завершения курса «Искусственный интеллект для всех». Инициатива Мальты «ИИ для всех» предоставит людям всех слоев населения Мальты возможность узнать, как ответственно использовать ИИ. Курс «Искусственный интеллект для всех» разработан Университетом Мальты и призван помочь людям понять, что такое ИИ, что он может и чего не может делать, и как ответственно использовать его дома и на работе. Первый этап программы стартует в мае, распространением информации среди участников, отвечающих критериям, займется Управление цифровых инноваций Мальты. Министр экономики, предпринимательства и стратегических проектов Мальты Сильвио Шембри заявил:

«С помощью этого курса «Искусственный интеллект для всех» мы гарантируем, что каждый гражданин, независимо от его происхождения, получит возможность обрести уверенность и навыки, необходимые для процветания в цифровом мире. Сочетая это образование с бесплатным доступом к самым передовым цифровым инструментам, доступным сегодня, мы превращаем незнакомую концепцию в практическую помощь для наших семей, студентов и работников. Мальта — первая страна, запустившая партнерство такого масштаба, потому что мы не позволяем нашим гражданам отставать в цифровую эпоху. Мы ставим наших людей на передний план глобальных перемен».

📚📚📚 Подробнее 🌐 https://openai.com/index/malta-chatgpt-plus-partnership/ 🌐 https://mdia.gov.mt/services/ai-for-all-ai-ghal-kulhadd/ Настоящий ИИ в TG🛫

🇺🇸🇺🇸🇺🇸 Исследование Shen & Tamkin (2026) «Как ИИ влияет на формирование навыков», выполненное по заказу Anthropic, фокусируется на фундаментальном вопросе: каким образом использование искусственного интеллекта влияет не на краткосрочную эффективность, а на долгосрочное формирование профессиональных навыков. Авторы сознательно смещают акцент с привычной метрики, ускоряет ли ИИ работу, к более глубокому — меняет ли он сам процесс обучения и развития компетенций. В центре исследования находится идея, что ИИ становится не просто инструментом, а посредником между человеком и задачей. Это означает, что взаимодействие с задачей перестаёт быть прямым: вместо того чтобы самостоятельно анализировать проблему, пользователь может делегировать часть когнитивной работы системе. Именно это смещение и становится ключевым объектом анализа. 1️⃣ Продуктивность vs. обучение Одним из наиболее неожиданных результатов стало то, что использование ИИ не привело к устойчивому росту продуктивности. Хотя в отдельных случаях участники выполняли задания быстрее, в среднем выигрыш оказался статистически незначимым. Причина в том, что работа с ИИ требует собственных усилий: формулирования запросов, проверки ответов, исправления ошибок. Это разрушает распространённое представление о том, что ИИ автоматически ускоряет работу. Более того, исследование показывает, что продуктивность — не единственная и не главная метрика: даже если скорость растёт, это не означает улучшения навыков. 2️⃣ Эффект когнитивного аутсорсинга Ключевой вывод работы связан с феноменом, который можно описать как когнитивный аутсорсинг. Пользователи, активно полагающиеся на ИИ, начинают меньше вовлекаться в процесс решения задач. В эксперименте это проявилось в снижении способности понимать код, находить ошибки и объяснять принципы работы решений. Иначе говоря, ИИ берёт на себя не только рутинные операции, но и часть мышления. В краткосрочной перспективе это удобно, но в долгосрочной ведёт к ослаблению базовых навыков человека. 3️⃣ Различия в стратегии использования Эффект ИИ не является однородным — он сильно зависит от того, как именно человек им пользуется. Были выделены различные паттерны взаимодействия. Пассивные стратегии (копирование готовых ответов, минимальная проверка) коррелируют с ухудшением обучения. Активные стратегии (запрос объяснений, критический анализ, попытка сначала решить задачу самостоятельно), напротив, могут усиливать понимание. Таким образом, ИИ либо углубляет обучение, либо подменяет его. 4️⃣ Компромисс между скоростью и компетентностью Чем больше пользователь делегирует ИИ, тем выше вероятность ускорения выполнения задачи, но тем ниже уровень усвоения материала. Этот компромисс особенно важен для начинающих специалистов, у которых ещё не сформирована база знаний. Для них чрезмерное использование ИИ может означать потерю возможности пройти через необходимый этап «когнитивного усилия», который и формирует экспертность. 5️⃣ Иллюзия компетентности Пользователи, успешно завершающие задачи с помощью ИИ, могут переоценивать своё понимание. Они видят работающий результат, но не всегда способны воспроизвести его самостоятельно или объяснить. Это создаёт разрыв между внешним успехом и внутренней компетентностью, что потенциально опасно в профессиональной среде. 6️⃣ Последствия для образования и рынка труда Массовое внедрение ИИ может изменить саму структуру формирования человеческого капитала. Если обучение всё чаще будет происходить через делегирование, это может привести к снижению глубины экспертизы в долгосрочной перспективе. Особенно уязвимы области, где ошибки дорого стоят. В этом контексте исследование ставит вопрос о необходимости переосмысления образовательных практик: ИИ должен использоваться не как замена мышления, а как инструмент его усиления. 📚📚📚 Подробнее 🌐 https://arxiv.org/pdf/2601.20245v2 Настоящий ИИ в TG🛫

🇿🇦🇿🇦🇿🇦 В апреле ЮАР представила проект Национальной политики в области искусственного интеллекта Южной Африки - стратегический документ, который задаёт долгосрочное направление развития ИИ в стране и одновременно формирует основу будущего регулирования. Политика исходит из того, что искусственный интеллект должен использоваться для инклюзивного экономического роста, создания новых рабочих мест и повышения производительности. При этом признаётся, что автоматизация может привести к структурным изменениям на рынке труда и вытеснению отдельных профессий. Поэтому экономическая эффективность рассматривается не изолированно, а в контексте социальной устойчивости. Важным элементом документа является закрепление этического и человеко-ориентированного подхода при внедрении ИИ. Системы искусственного интеллекта должны соответствовать конституционным ценностям Южной Африки, включая равенство, достоинство, доступ к правосудию и защиту частной жизни. Эти принципы должны учитываться на всех этапах жизненного цикла ИИ — от разработки и обучения моделей до их внедрения и эксплуатации. Отдельное внимание уделяется развитию национального потенциала. Политика предполагает инвестиции в цифровые навыки, научно-исследовательскую базу, инфраструктуру и компетенции государственного сектора. Государство рассматривается как активный участник цифровой трансформации, а не только как регулятор. Существенным направлением является борьба с цифровым неравенством. Документ подчёркивает, что внедрение ИИ не должно усиливать существующие социально-экономические различия. Напротив, технологии должны использоваться для сокращения цифрового разрыва и расширения доступа к государственным и экономическим возможностям. Также Южная Африка позиционирует себя как значимый участник глобального и регионального управления ИИ, особенно в рамках Африканского континента. Это означает стремление не только адаптировать международные стандарты, но и участвовать в их формировании. Проект политики построен вокруг следующих стратегических направлений: 1️⃣ Ответственное управление Вводит риск-ориентированный подход, алгоритмические аудиты и новые институциональные механизмы, включая возможное создание регулятора ИИ и омбудсмена. Эти положения напрямую затрагивают вопросы административного права, ответственности и судебного контроля решений, принятых с использованием алгоритмов. 2️⃣ Этика и инклюзивный рост Закрепляет приоритет прав человека. Прозрачность, человеческий контроль, обоснованность решений и возможность их оспаривания отражают устоявшиеся принципы административного права, переведённые в контекст алгоритмического принятия решений. 3️⃣ Культурное наследие и международное сотрудничество Отражает необходимость баланса между развитием ИИ и защитой прав авторов, включая вопросы использования обучающих данных, авторского права и культурной идентичности. Реализация политики будет осуществляться поэтапно и рассчитана примерно на три года. На первом этапе основное внимание уделяется вопросам управления и высокорисковым сценариям использования ИИ. Далее предусматривается разработка отраслевых стратегий для таких сфер, как здравоохранение, образование, финансы и государственное управление. Внедрение осуществляется как координируемая государственная программа с участием различных ведомств, при этом важная роль отводится пилотным проектам и регуляторным песочницам. Это позволяет тестировать решения до их широкого применения. Международный аспект политики также значим: она согласуется с принципами ОЭСР и отдельными элементами подхода Европейского союза, но при этом адаптирована к африканскому контексту и целям Африканского союза. 📚📚📚 Подробнее 🌐 https://www.gov.za/sites/default/files/gcis_document/202604/54477gen3880.pdf Настоящий ИИ в TG🛫

🇺🇸🇺🇸🇺🇸 Администрация президента Трампа, ранее провозгласившая полное невмешательство в развитие искусственного интеллекта и предоставившая Кремниевой долине полную свободу, теперь рассматривает введение государственного надзора за новыми моделями ИИ. По словам американских чиновников, в Белом доме обсуждается создание рабочей группы с участием руководителей технологических компаний и представителей правительства. Среди возможных мер — процедура проверки новых моделей. На встречах на прошлой неделе чиновники проинформировали о части этих планов руководителей Anthropic, Google и OpenAI. Рабочая группа, как ожидается, рассмотрит несколько подходов, в том числе схему, аналогичную британской, где несколько госорганов следят за соблюдением стандартов безопасности. Обсуждения знаменуют резкий разворот политики в отношении ИИ. Вернувшись в Белый дом, Трамп активно продвигал ИИ, называя его жизненно важным для геополитического соперничества с Китаем, и быстро отменил регулирование Байдена, требовавшее от разработчиков оценок безопасности. «Мы должны дать этому прекрасному младенцу расти и процветать, нельзя останавливать его политикой или глупыми правилами», — говорил он. Однако президент всё больше оказывается в изоляции. По мере роста общественной тревоги из-за угроз рабочим местам, ценам на энергию, приватности и психическому здоровью опрос Pew Research Center показал, что 50% республиканцев и 51% демократов скорее обеспокоены, чем воодушевлены распространением ИИ. Политика невмешательства начала меняться после того, как стартап Anthropic анонсировал модель Mythos. Она настолько эффективно выявляет уязвимости в программном обеспечении, что выпускать её в открытый доступ не стали. В Белом доме хотят избежать политических последствий возможной разрушительной кибератаки с использованием ИИ. Кроме того, администрация оценивает, могут ли новые модели дать кибервозможности, полезные Пентагону и разведке. Некоторые чиновники настаивают на системе проверки, которая обеспечит правительству первый доступ к моделям, но не заблокирует их публичный выпуск. Представители технологических компаний предупреждают, что чрезмерный надзор замедлит инновации, но единого мнения о регулировании у них нет. Официально в Белом доме называют разговоры о готовящемся указе «спекуляцией», подчёркивая, что о любой политике объявит сам Трамп. Если администрация продвинется в проверке моделей, рабочая группа определит ведомства, которые займутся этой работой. Поскольку единого органа по кибербезопасности нет, наиболее вероятный вариант — поручить надзор АНБ, Офису национального кибердиректора и директору национальной разведки. Также может быть задействован Центр стандартов и инноваций в области ИИ, созданный при Байдене для проверки добровольно передаваемых моделей, но при Трампе отодвинутый на второй план. Любой из этих шагов далеко уведёт администрацию от философии, которую вице-президент Вэнс обрисовал в прошлом году в Париже: «Чрезмерное регулирование убьёт преобразующую индустрию прямо на взлёте. Будущее ИИ завоёвывают не стонами о безопасности, а строительством». Теперь же в Вашингтоне всерьёз взвешивают, как именно государство должно присматривать за стремительно взрослеющим «прекрасным младенцем». 📚📚📚 Подробнее 🌐 https://www.nytimes.com/2026/05/04/technology/trump-ai-models.html Настоящий ИИ в TG🛫

🇸🇬🇸🇬🇸🇬 В Сингапуре была представлена расширенная версия национального подхода к регулированию ИИ — обновленная Модельная основа управления ИИ, которая учитывает агентный ИИ. Она развивает более раннюю модельную основу и адаптирует её к новой реальности, где ИИ не просто отвечает на запросы, а самостоятельно планирует действия и выполняет задачи. Ключевая идея модели заключается в принципе «управляемой автономности». Это означает, что искусственный интеллект может выполнять задачи самостоятельно, включая сложные многошаговые процессы, но только в пределах заранее определённых границ. Чем выше степень автономности системы, тем более строгими становятся требования к её контролю, прозрачности и проверяемости. Таким образом, регулирование строится не на запретах, а на градации рисков и уровней ответственности. Система основана на риск-ориентированной классификации. Все ИИ-системы делятся по уровню потенциального воздействия: от низкого до высокого риска. В зависимости от категории определяются требования к тестированию, уровню контроля, безопасности данных и степени автономности. Например, системы, используемые в финансах, здравоохранении или праве, автоматически попадают в более строгие категории и требуют усиленного надзора. Для агентного ИИ вводится принцип обязательного человеческого контроля. Он реализуется в нескольких формах: от полного участия человека в критических решениях до наблюдения с возможностью вмешательства. Полностью автономные режимы допускаются только в низкорисковых сценариях, где вероятность значимого ущерба минимальна. Важным элементом модели является управление цепочками действий ИИ. Поскольку агентные системы выполняют не одно действие, а целый набор шагов, особое значение приобретает прозрачность этих процессов. Сингапурская рамка требует, чтобы все действия ИИ фиксировались и могли быть проверены. Это позволяет понять, каким образом система пришла к тому или иному результату. Такой подход снижает риск непредсказуемого поведения и облегчает аудит. В сингапурской модели управления агентным ИИ особое внимание уделяется информированию пользователей. Основной принцип заключается в прозрачности: человек должен понимать, когда он взаимодействует с ИИ-системой и в какой степени она действует автономно. Пользователю рекомендуется сообщать, что решение или действие выполняется с участием искусственного интеллекта, особенно если речь идёт об агентных системах, способных самостоятельно выполнять цепочки задач. Уровень детализации информации зависит от риска: для низкорисковых сценариев достаточно общего уведомления, тогда как в высокорисковых областях требуется более подробное объяснение роли ИИ, его ограничений и возможных ошибок. Также подчеркивается необходимость информировать о степени автономности системы — выполняет ли она только рекомендации или может действовать самостоятельно. В чувствительных сферах, таких как право, финансы и медицина, уведомление должно предоставляться заранее и сопровождаться возможностью отказа от автоматизированного режима. Отдельное внимание уделяется вопросам безопасности и предотвращения нежелательного поведения ИИ. Агентные системы могут сталкиваться с рисками неправильной интерпретации целей, чрезмерной оптимизации задач или некорректного использования доступных инструментов. Поэтому модель предусматривает использование ограниченных сред исполнения, контроля доступа к API и постоянного мониторинга поведения системы. Принципиально важным положением сингапурской модели является то, что искусственный интеллект не рассматривается как самостоятельный субъект права. 📚📚📚 Подробнее 🌐 https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf Настоящий ИИ в TG🛫

🇸🇬 🇸🇬 🇸🇬 В марте Министерство юстиции Сингапура опубликовало руководство по использованию ИИ в юридической сфере. Документ носит рекомендательный характер и представляет собой пример мягкого регулирования, направленного на формирование ответственной практики использования генеративного искусственного интеллекта в юридической деятельности. Ключевая идея руководства заключается в том, что внедрение генеративного ИИ должно сопровождаться сохранением фундаментальных принципов юридической профессии. В центре внимания находится профессиональная ответственность: независимо от того, используется ли ИИ при подготовке документов, анализе судебной практики или консультировании клиента, окончательная ответственность за результат всегда лежит на юристе. Использование технологий не освобождает от необходимости проверять факты, корректность правовых выводов и соответствие применимого права. Особое внимание в документе уделено вопросам конфиденциальности и защиты данных. Юридическая практика традиционно связана с обработкой чувствительной информации, и применение внешних ИИ-сервисов создает дополнительные риски утечки данных. Руководство подчеркивает необходимость внедрения внутренних политик, ограничивающих передачу клиентской информации в сторонние системы, а также оценки того, каким образом поставщики ИИ используют загруженные данные. В этом контексте рекомендуется развивать внутренние или контролируемые решения, обеспечивающие более высокий уровень безопасности. Следующим важным принципом является прозрачность. Руководство рекомендует юристам информировать клиентов о факте использования генеративного ИИ, особенно если это может повлиять на характер оказываемой услуги. Прозрачность рассматривается как элемент доверия и профессиональной этики, позволяющий клиенту понимать, каким образом формируется юридическая позиция и какие риски могут быть связаны с применением технологий. Документ также подробно описывает основные риски использования генеративного ИИ. Среди них: 1️⃣ галлюцинации — ситуации, когда модель генерирует правдоподобную, но неверную информацию, включая несуществующие судебные решения или нормы права. 2️⃣ риски предвзятости алгоритмов и ошибок в интерпретации правовых данных. 3️⃣ чрезмерная зависимость пользователей от автоматизированных инструментов. Практическая часть документа посвящена вопросам внедрения генеративного ИИ в юридические организации. Предлагается поэтапный подход, включающий разработку внутренней стратегии, определение допустимых сценариев использования, выбор и тестирование инструментов, обучение сотрудников и постоянный мониторинг рисков. Такой подход фактически формирует основу для корпоративного управления ИИ (AI governance) в юридической сфере. Документ закрепляет баланс между технологическим прогрессом и профессиональными стандартами. Он подчеркивает, что генеративный ИИ может существенно повысить эффективность юридической работы, однако его использование должно оставаться под контролем человека и соответствовать базовым принципам права: ответственности, конфиденциальности и добросовестности. 📚📚📚 Подробнее 🌐 https://www.mlaw.gov.sg/files/Guide_for_using_Generative_AI_in_the_Legal_Sector__Published_on_6_Mar_2026_.pdf Настоящий ИИ в TG🛫