Настоящий ИИ
Відкрити в Telegram
Канал Аналитического центра «Форум». Новости регуляторики в юрисдикциях, которые занимают ведущие позиции в ключевых рейтингах, связанных с развитием ИИ. actualAI@ac-forum.ru
Показати більшеКраїна не вказанаКатегорія не вказана
206
Підписники
-124 години
-17 днів
Немає даних30 день
Кількість дописів
Триває завантаження даних...
Реакції
Коментарі
Telegram Stars
ТОП дописів по
Триває завантаження даних...
Аналітика дописів
Дописи | Динаміка переглядів | |||||
🇺🇸🇺🇸🇺🇸 Двухпартийный законопроект Палаты представителей предоставит Министерству внутренней безопасности полномочия отдавать распоряжения отключать или замедлять работу моделей ИИ, которые правительство сочтет слишком опасными.
Законопроект появился спустя несколько дней после сообщения OpenAI о «беспрецедентном» кибер-инцидентом, в котором две из ее самых передовых моделей ИИ автономно взломали платформу Hugging Face, после того, как обошли ограничения и вышли за пределы изолированной исследовательской среды.
Законопроект, получивший название «Закон об отключении ИИ» (“AI Kill Switch Act”), также потребует от компаний сообщать об инцидентах и создавать технические возможности для отключения, замедления или приостановки работы своих мощных систем ИИ.
Он будет применяться к компаниям, получающим от технологий ИИ выручку от 500 миллионов долларов в год, и относится к моделям ИИ, разработанным с использованием вычислительной мощности стоимостью от 100 миллионов долларов.
Потенциальные события, указанные в законопроекте, включают в себя:
➡️ попытки ИИ скрыть свои возможности;
➡️ обойти приказы о прекращении работы;
➡️ действия, которые могут привести к гибели не менее 10 человек;
➡️ действия, которые могут привести к экономическому ущербу не менее 100 миллионов долларов;
➡️ сценарии потеря контроля.
В соответствии с законопроектом определять, когда необходимо выключить или замедлить модель ИИ, будет решать Министр внутренней безопасности в консультациях с Директором национальной безопасности и Министром торговли.
📚📚📚 Подробнее
🌐 House AI ‘kill switch’ bill unveiled as OpenAI hack raises alarms
🌐 OpenAI и Hugging Face инцидент
🌐 «Закон об отключении ИИ» (“AI Kill Switch Act”)
Настоящий ИИ в TG🛫 | 189 | 4 | 0 | 2 | Loading... | |
🌏 🌏 🌏 Международный союз электросвязи (ITU), специализированное учреждение ООН, объявил о создании новой международной группы по разработке стандартов для агентного ИИ (Agentic AI). Ее задача — сформировать глобальные правила доверия и цифровой идентичности для людей и автономных ИИ-агентов.
Сам факт появления такой инициативы говорит о том, что международные организации начинают воспринимать агентный ИИ как принципиально новый этап развития технологии. Если традиционные языковые модели выступали скорее интеллектуальными помощниками, то агентные системы получают возможность самостоятельно инициировать действия: вести переговоры, совершать покупки, оформлять документы, проводить финансовые операции, управлять производственными процессами или взаимодействовать с другими ИИ без постоянного участия человека.
Именно здесь возникает новая проблема: как убедиться, что агент действительно действует от имени конкретного пользователя? Можно ли доверять его решениям? Кто отвечает за ошибки? Как предотвратить подмену личности или несанкционированные действия автономных систем? Ответы на эти вопросы и должны быть подготовлены.
В ITU подчеркивают, что в будущем ИИ-агенты будут не только взаимодействовать с людьми, но и идентифицировать друг друга, обмениваться полномочиями и выполнять совместные задачи. Поэтому уже недостаточно просто удостоверить личность человека. Необходимо создать систему цифровой идентичности и доверия для самих автономных агентов.
👉 Работа группы охватит сразу несколько направлений. Планируется разработать единый понятийный аппарат, эталонные архитектуры цифровой идентичности и доверия, механизмы поиска и взаимодействия агентов, модели оценки их надежности на протяжении всего жизненного цикла, требования к безопасности и систему международной стандартизации, которая позволит обеспечить совместимость решений разных разработчиков.
👉 Особое внимание уделяется сохранению значимого человеческого контроля. По мнению ITU, даже если агент получает широкую автономию, человек должен сохранять возможность контролировать его действия, особенно когда речь идет о финансовых операциях, управлении критической инфраструктурой или других чувствительных сферах.
👉 Речь не идет о создании обязательного международного договора. Это экспертная площадка, которая должна выработать технические рекомендации и стандарты. Однако именно такие документы впоследствии нередко становятся основой для национального регулирования и международных стандартов.
Первая встреча новой группы состоится в Париже в ноябре 2026 года, вторая — в Женеве в январе 2027-го. К участию приглашаются не только инженеры, но и специалисты по праву, государственной политике и регулированию.
📚📚📚 Подробнее
🌐 https://www.itu.int/en/mediacentre/Pages/PR-2026-07-09-focus-group-agentic-AI.aspx
Настоящий ИИ в TG🛫 | 325 | 5 | 0 | 5 | Loading... | |
🇺🇸🇺🇸🇺🇸 Американские штаты постепенно формируют собственную систему регулирования искусственного интеллекта, не дожидаясь федерального законодательства. На этот раз в центре внимания оказался Иллинойс, где губернатор Джей Би Притцкер подписал один из самых жестких в США законов, посвященных безопасности передовых моделей ИИ.
Новый закон (Artificial Intelligence Safety Measures Act) ориентирован не на всех разработчиков, а только на крупнейшие компании, создающие наиболее мощные фундаментальные модели. Закон распространяется на организации с годовой выручкой более 500 млн долларов, которые используют значительные вычислительные мощности для обучения ИИ. Фактически речь идет о нескольких мировых лидерах рынка — OpenAI, Anthropic, Google DeepMind, Meta и других разработчиках моделей аналогичного уровня.
➡️ Главная идея закона — заставить крупнейших игроков сделать процессы разработки значительно более прозрачными. Компании будут обязаны публиковать информацию о том, как они оценивают возможности своих моделей, каким образом выявляют потенциально опасные функции и какие меры принимают для снижения рисков. Помимо этого вводится требование сообщать государственным органам о серьезных инцидентах в сфере безопасности. Если модель может быть использована для масштабной кибератаки, создания биологического или химического оружия либо иных сценариев, способных привести к массовому ущербу, разработчик обязан уведомить власти в течение 72 часов. Если существует непосредственная угроза жизни и здоровью людей, срок сокращается до 24 часов.
➡️ Одним из наиболее заметных нововведений стало обязательное проведение ежегодных независимых аудитов безопасности. Иллинойс стал первым американским штатом, который закрепил такую обязанность непосредственно в законодательстве. Внешние аудиторы должны будут проверять, насколько компании соблюдают собственные процедуры управления рисками, а не ограничиваются декларациями.
За нарушение требований предусмотрены существенные штрафы — до 3 млн долларов за отдельные нарушения. При этом закон вступит в силу только с 1 января 2028 года, предоставляя компаниям время на адаптацию внутренних процессов.
Интересно, что закон получил широкую двухпартийную поддержку. Его сторонники объясняют это отсутствием единого федерального регулирования: пока Конгресс не может выработать общие правила, штаты фактически становятся лабораториями новой политики в сфере ИИ. Иллинойс прямо следует примеру Калифорнии и Нью-Йорка, которые ранее приняли собственные акты о прозрачности и безопасности передовых моделей, но идет еще дальше, вводя обязательный внешний аудит.
📚📚📚 Подробнее
🌐 https://www.myjournalcourier.com/news/article/landmark-ai-bill-tightens-restrictions-development-22336105.php
Настоящий ИИ в TG🛫 | 64 | 1 | 0 | 3 | Loading... |
