en
Feedback

Don't get caught by a cheater! Telemetrio finds and tags such channels 👉 If you want to see the tag, subscribe

Pattern AI

Pattern AI

Open in Telegram

Искусственный интеллект изучает нас. Мы изучаем ИИ. Отслеживаем, как меняется регулирование ИИ. Разбираем манипуляции, UX-паттерны и алгоритмические ловушки. Учимся применять ИИ: осознанно, этично и с пользой.

Show more
404
Subscribers
+224 hours
+17 days
+230 days
Attracting Subscribers
Oct '26
October '26
+5
in 1 channels
September '26
+2
in 0 channels
Get PRO
August '26
+10
in 2 channels
Get PRO
July '26
+16
in 3 channels
Get PRO
June '26
+70
in 9 channels
Get PRO
May '26
+20
in 1 channels
Get PRO
April '26
+38
in 0 channels
Get PRO
March '26
+9
in 2 channels
Get PRO
February '26
+15
in 0 channels
Get PRO
January '26
+96
in 4 channels
Get PRO
December '250
in 2 channels
Get PRO
November '25
+17
in 0 channels
Get PRO
October '250
in 0 channels
Get PRO
September '250
in 0 channels
Get PRO
August '25
+94
in 0 channels
Get PRO
July '250
in 0 channels
Get PRO
June '25
+72
in 3 channels
Date
Subscriber Growth
Mentions
Channels
20 October0
19 October+2
18 October0
17 October0
16 October0
15 October0
14 October0
13 October0
12 October+1
11 October+1
10 October0
09 October0
08 October0
07 October+1
06 October0
05 October0
04 October0
03 October0
02 October0
01 October0
Channel Posts
Anthropic предлагает свой собственный законопроект о безопасности ИИ Представители Anthropic втайне представили законодателям проект закона, регулирующего безопасность и защиту передовых технологий ИИ. 👀 Ключевые моменты: 🔹 Область применения: модели, обученные с использованием более (10^{25}) FLOPs, включая последующее дообучение и обучение с подкреплением. Это числовой порог, используемый и в AI Act ЕС для оценки системных моделей общего назначения, но правовые критерии и последствия различаются. 🔹 Два уровня обязанностей. Базовые требования прозрачности распространяются на всех охватываемых проектом разработчиков. Расширенные обязанности предусмотрены для крупных компаний: доход от ИИ свыше $500 млн в год либо расходы на разработку ИИ свыше $1 млрд. 🔹 Узкий перечень рисков: биологическое оружие, выход модели из-под контроля разработчика или пользователя, наступательные кибероперации и автоматизированные исследования и разработки ИИ, способные существенно усилить эти угрозы. 🔹 Отчётность. Публикация рамок безопасности, отчёты об оценке рисков не реже одного раза в 180 дней и уведомление о критических инцидентах в течение 15 дней. Если возникает непосредственная угроза смерти или тяжёлого вреда здоровью, срок сокращается до 24 часов. 🔹 Независимая оценка. Крупные разработчики должны привлекать внешних экспертов, предоставлять им глубокий доступ к моделям и внутренним материалам и публиковать результаты проверок. Оплата оценщиков допускается, но не может зависеть от выводов проверки. 🔹 Защита осведомителей. Проект предусматривает защиту нынешних и бывших работников и подрядчиков, сообщающих о нарушениях или существенной угрозе общественной безопасности. Договорные условия, лишающие их этих прав, включая арбитражные оговорки, не будут иметь юридической силы. 🔹 Приостановка модели. Министерство торговли США сможет просить федеральный суд о приостановке разработки, выпуска или внутреннего использования модели при непосредственной угрозе массового вреда. Первоначальный срок судебного запрета до 45 дней; предусмотрены процессуальные гарантии и возможность обжалования. 🔹 Приоритет федерального регулирования. Проект ограничивает полномочия штатов устанавливать собственные требования к раскрытию информации разработчиками, независимой оценке и уведомлению об инцидентах. При этом нормы штатов о защите потребителей, несовершеннолетних, гражданских правах и конфиденциальности в целом сохраняются. ❕Проект сочетает обязательные проверки безопасности и независимую оценку с достаточно высоким порогом для государственного вмешательства в работу модели. Одновременно он предлагает заменить часть разрозненных требований штатов единым федеральным режимом. Однако это пока рабочий текст, его окончательная редакция и перспектива внесения в Конгресс не определены. #LawAndDisorder ———— @pattern_ai | AI GDPR Navigator

2
3 новых стандарта ИИ, которые стоит сохранить 1️⃣ ISO/IEC 27090:2026 Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems Новый международный стандарт, содержащий рекомендации по противодействию специфическим для ИИ угрозам безопасности на всех этапах жизненного цикла технологий ( от «отравления» данных (data poisoning) до атак типа «уклонение» (evasion attacks) и кражи моделей). По сути, этот стандарт дополняет ISO 27001 и ISO 42001, предлагая меры по обеспечению кибербезопасности, актуальные именно для систем искусственного интеллекта. 2️⃣EN 18286:2026 Quality management system for EU AI Act regulatory purposes Этот стандарт, впервые представленный в июле, стал первым гармонизированным стандартом в поддержку закона. Документ посвящен системам управления качеством прежде всего для разработчиков ИИ-систем с высоким уровнем риска (согласно статье 17 Закона). Он помогает подтвердить соответствие установленным регуляторным требованиям. 3️⃣ IEEE 2863-2026 IEEE Recommended Practice for Organizational Governance of Artificial Intelligence Помогает превратить принципы ответственного ИИ (Responsible AI) в конкретные организационные процессы управления. Речь идет об ответственности, надзоре, этических принципах и разрешении противоречий между различными приоритетами управления. #AIShelf ———— @pattern_ai | AI GDPR Navigator
378
3
ИИ-агенты: почему разрешённое действие не всегда допустимо Google опубликовала исследовательский доклад "Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle" о том, почему недостаточно привычных подходов к информационной безопасности и защите персональных данных для автономных ИИ-агентов. 👀Авторы выделили особенности, которые осложняют применение традиционных методов защиты: 1️⃣Неоднозначные инструкции и уязвимость к манипуляциям. Агент получает команды на естественном языке, анализирует изображения и другие неструктурированные данные, поэтому ему трудно однозначно определить, какое поведение ожидается, а злоумышленник может попытаться изменить его действия с помощью внедрения вредоносных инструкций. 2️⃣ Непредсказуемый ход выполнения задач. Агент динамически строит планы и может генерировать код в процессе работы. Последовательность его действий зависит от вероятностных ответов модели и меняется от ситуации к ситуации. Поэтому заранее проверить все возможные сценарии традиционными методами тестирования гораздо сложнее. 3️⃣ Автономность и делегирование. Когда агент выполняет длительную задачу и поручает отдельные действия другим агентам, человек теряет возможность контролировать каждый шаг. Если система постоянно запрашивает подтверждение на передачу данных или выполнение рискованных действий, пользователь начинает механически соглашаться. Это так называемая усталость от подтверждений, которая повышает вероятность нежелательных действий. Авторы предлагают переосмыслить саму защиту, взяв за основу теорию Contextual Integrity («контекстуальная целостность»). Согласно этому подходу, конфиденциальность не только секретность информации или возможность контролировать её передачу, а важно, соответствует ли передача данных нормам конкретной ситуации. Например, пользователь может разрешить помощнику по организации поездок передать авиакомпании необходимые паспортные данные. Но это не означает, что агент вправе отправить те же данные организаторам конференции, коллегам или другому ИИ-агенту без оценки необходимости и допустимости такой передачи. Иными словами, разрешение использовать данные в одной ситуации не означает разрешения использовать их в любой другой. Система должна оценивать не только доступность действия, но и его уместность в конкретном контексте. Также обозначено несколько направлений для исследования и возможных решений: ▪️ на уровне системы: изолированная среда выполнения, динамическое ограничение возможностей агента, управление доступом к данным и инструментам с учётом текущей задачи. ▪️на уровне модели: способность распознавать неоднозначные запросы, уточнять намерения пользователя и оценивать допустимость действий при изменении обстоятельств. ▪️на уровне взаимодействия с пользователем: персонализированные механизмы контроля, учитывающие предпочтения человека и не сводящиеся к бесконечным запросам согласия. ▪️на уровне взаимодействия агентов: проверка надёжности других агентов, подтверждение человеческих и машинных идентичностей, обнаружение инцидентов и распределение ответственности. ▪️на уровне управления экосистемой: согласование правил между участниками, разрешение конфликтов между нормами и проверка их соблюдения. ▪️ создание специальных испытательных сред, в которых можно проверять безопасность взаимодействия нескольких агентов на протяжении длительных цепочек действий. Модель согласия, при которой пользователь заранее разрешает определённые операции, плохо масштабируется на автономные системы. Человек не может предвидеть каждую передачу данных, каждый новый инструмент и каждый шаг агента, который самостоятельно разбивает задачу на подзадачи. Поэтому авторы предлагают дополнить традиционные механизмы согласия контекстными правилами, учитывающими, какие данные передаются, кому, с какой целью и при каких условиях. Такие правила должны действовать не только на уровне модели, но и на уровне всей системы. ❕Авторы подчеркивают, что эти вопросы подлежат исследованию, а не являются точным решением. #AIShelf ———— @pattern_ai | AI GDPR Navigator
73
4
Список из 500 вопросов по GDPR, Индия, AI для самообучения с ИИ (Claude, ChatGPT, Gemini). 25 тем по 20 вопросов (от базового к продвинутому уровню), с учетом Закона Индии о DPDP как сравнительного контекста. Список ориентирован на глобальную аудиторию, поэтому релевантность отдельных вопросов зависит от юрисдикции. #AIShelf ———— @pattern_ai | AI GDPR Navigator
110
5
ИИ в суде: правила из Ирландии Высший суд Ирландии выпустил предписание HC 142 («Responsible Use of Generative Artificial Intelligence in Court Documents»), как использовать ИИ в суде. Основной смысл, как и в других странах: ▪️ИИ разрешен, но под строгим контролем. Суд не запрещает использовать GenAI для подготовки материалов или исследований, но вся ответственность за точность, объективность и достоверность информации остается на человеке. ▪️Обязательная верификация (Human-in-the-loop). Все факты, ссылки на законы, цитаты и прецеденты должны проверяться по первоисточникам. Проверять сгенерированный текст с помощью другой нейросети запрещено. ▪️Официально выделяет ключевые риски ИИ: галлюцинации/ошибки, предвзятость, а также утечку конфиденциальных данных и потерю адвокатской тайны (Legal Privilege) при вводе данных в публичные сервисы. ▪️За несоблюдение правил грозят отклонение документов, неблагоприятные судебные издержки (покрытие расходов) и даже дисциплинарные меры через регуляторов. 📝 Что полезного можно забрать, так это примеры формулировок (Self-Declaration Formulations): 1️⃣ Формулировки для свидетелей и лиц, дающих показания. "I declare that Generative Artificial Intelligence has not been used for the purposes of generating the substantive content of this [witness statement/affidavit] (including by way of altering, embellishing, strengthening, diluting or rephrasing the evidence set out) and that this [witness statement/affidavit] reflects my personal knowledge, recollection and evidence." Использование ИИ для технических или административных целей, таких как форматирование или проверка орфографии, не нарушает данную декларацию. 2️⃣ Формулировки для экспертов (экспертные заключения). Стандартная декларация (если GenAI НЕ использовался для основного содержания): "I declare that save as otherwise expressly stated, Generative Artificial Intelligence has not been used for the purposes of generating the substantive content of this report which reflects my own opinions, knowledge and evidence." Если эксперт применял инструменты GenAI для анализа или подготовки, он обязан раскрыть характер и объем использования: "Where Generative Artificial Intelligence has been used, the expert must disclose the nature and extent of that use to the extent necessary to enable the court and the parties properly to assess the reliability, independence and evidential weight of the opinion expressed." #LawAndDisorder #UXWatch ———— @pattern_ai | AI GDPR Navigator
92
6
Разработчик HeyCyan (умные очки) под прицелом австралийского регулятора и ожидаемые реформы 7 октября Управление комиссара по вопросам информации Австралии (OAIC) объявило о начале официального расследования в отношении китайского разработчика приложения HeyCyan для умных очков (Shenzhen Qingcheng Future Technology ). Приложение необходимо для полноценной работы ряда недорогих моделей очков, которые продаются под разными брендами, в том числе через Kmart, Big W Marketplace и Amazon. Оно позволяет слушать музыку, отвечать на звонки и пользоваться голосовым помощником. При этом собранная очками информация передаётся через приложение для обработки. ➡️С августа 2026 года OAIC направляло предварительные запросы производителям и продавцам умных очков, включая Meta, Google и Kmart. Регулятор выяснял, как устройства записывают информацию, кто получает к ней доступ и где она хранится. Shenzhen Qingcheng на запросы не ответила. Кроме того, у регулятора возникли вопросы после изучения технического анализа приложения третьими лицами и политики конфиденциальности разработчика. Теперь OAIC намерено использовать весь спектр своих полномочий, включая обязательные требования о предоставлении информации. Хть и уточнил, что пока не установил наличие функций распознавания лиц у умных очков, представленных на австралийском рынке. Продажа устройства сама по себе ещё не означает, что продавец обязан соблюдать австралийское законодательство о защите персональных данных. Необходимо выяснять, какая организация собирает и хранит информацию и какие операции она с ней выполняет. Регулятор также подчеркнул,что для сбора чувствительной информации, в частности биометрических данных, необходимо согласие. 👀 Регулятор также объявил, что планируются изменения в Закон "О частной жизни": 1️⃣Замена критерия «разумно необходимо для функционирования и деятельности организации» на критерий «справедливости и разумности» . Новый критерий потребует от организации учета целого ряда факторов, включая степень, в которой у человека был реальный выбор при сборе его персональных данных, а также наилучшие интересы ребенка, если речь идет о детях. 2️⃣Классификация «точных данных геолокации» как конфиденциальной личной информации , требующей согласия человека, что также повысит требования к организациям, собирающим точные данные геолокации с помощью умных очков. Это будет сопровождаться реформами, направленными на ужесточение определения согласия , чтобы оно было добровольным, информированным, актуальным, конкретным и недвусмысленным. 3️⃣Введение права на удаление данных на крупных цифровых платформах позволит людям предпринимать активные шаги, если они считают, что их личная информация была собрана крупными цифровыми платформами через «умные» очки. Однако это вряд ли повлияет на сбор данных более мелкими разработчиками программного обеспечения, предоставляющими свои продукты в более дешевых вариантах. 📝Что стоит проверить разработчикам подобных устройств и приложений: ▪️ Какие данные собираются и передаются на серверы, включая аудио, изображения и записи разговоров; ▪️ Кто имеет к ним доступ и в каких странах они обрабатываются; ▪️ Соответствуют ли фактические потоки данных заявлениям в политике конфиденциальности; ▪️ Понятно ли окружающим, что устройство может записывать их изображения и голоса; #LawAndDisorder #UXWatch ———— @pattern_ai | AI GDPR Navigator
72
7
Великобритания принимает все 44 рекомендации Национальной комиссии по регулированию ИИ в здравоохранении Правительство Великобритании выпустило официальный ответ на доклад Национальной комиссии по регулированию ИИ в здравоохранении. 👀 Посмотрим на некоторые тезисы: 🔹 В рамках 10-летнего плана развития здравоохранения поставлена амбициозная цель стать самой технологичной системой здравоохранения в мире, использующей ИИ на полную мощность. Ранее в 2026 году правительство выделило до £10 млрд на цифровизацию и внедрение передовых технологий. 🔹 Действующие правила для медицинских изделий (UK MDR 2002) создавались задолго до текущего бума ИИ и больше не отвечают вызовам времени. Новая система регулирования будет прозрачной, пропорциональной рискам и опирающейся на реальные клинические сценарии. 🔹 Для пользователей повышение прозрачности, доверия и безопасности, а также гарантия того, что устройства создаются с учетом их интересов. 🔹Улучшение юзабилити медицинских ИИ-решений и повышение «ИИ-грамотности» медперсонала. 🔹Требования к дорегистрационным испытаниям смягчаются за счет введения строгого пострегистрационного надзора (Post-Market Surveillance). Разработчикам придется закладывать постоянный мониторинг качества и безопасности модели непосредственно в продакшене. 🔹Вводится официальный механизм Predetermined Change Control Plans (PCCP). Если алгоритм обновляется в рамках предварительно одобренного коридора и логики, продукт не нужно заново перерегистрировать. 🔹Запускается механизм раннего доступа через тестовые зоны в клинической среде. Это позволит обкатывать MedTech-решения в реальных условиях до получения полноценного регуляторного статуса. 🔹HRA выпустит четкие гайдлайны, разграничивающие административные ПО/ИИ инструменты, медицинское изделие (Software as a Medical Device) требующее жесткого контроля. Это снизит правовую неопределенность для B2B-стартапов на ранних стадиях. 🔹Особый акцент на обучающие датасеты. Разработчикам придется доказывать, что их ИИ не снижает точность на недопредставленных группах пациентов. Реформы будут реализовываться совместно с регуляторами (MHRA, NICE, HRA, CQC) и ведомствами по всей Великобритании при активной поддержке профильных министерств. #LawAndDisorder ———— @pattern_ai | AI GDPR Navigator
67
8
ИИ чат-боты в США 👀 Разберем, что надо, если вы внедряете чат-бота в США. 1️⃣Уведомление о том, что пользователь взаимодействует с ИИ . Чат-бот не может утверждать или подразумевать, что он человек. Например, если чат-бот использует имя и образ, не идентифицируя себя как ИИ, он может ввести потребителя в заблуждение, заставив его поверить, что он разговаривает с человеком, и повлиять на решение о покупке. 2️⃣Нельзя использовать манипулятивные или обманчивые элементы дизайна (темные паттерны). Федеральная торговая комиссия (FTC) оценивает суммарное впечатление от опыта пользователя. 3️⃣Запрет на использование заявлений о предоставлении профессиональных услуг в области психического или поведенческого здоровья. 4️⃣Напоминать взрослым каждые 3 часа, а несовершеннолетним младше 18 лет каждый час о том, что они общаются с ботом (штат Вашингтон). Предоставлять напоминания о необходимости сделать перерыв не реже 1 раза в 3 часа несовершеннолетними (штат Калифорния). 5️⃣ Если чат-бот работает в определенном штате, то определит сферу регулирования, т.к. в каждом штате свой подход к понятию чат-бота ( разговорный, функциональный, спроектированный). 6️⃣Протоколы реагирования на кризисные ситуации . При выявлении суицидальных мыслей направить пользователей к соответствующим ресурсам. Некоторые запрещают чат-ботам генерировать контент, описывающий членовредительство. Методы обнаружения варьируются от простой фильтрации по ключевым словам до инструментов скрининга, основанных на фактических данных. 7️⃣ Запрет манипулировать несовершеннолетними или вызывать эмоциональную зависимость. Требования проверки возраста и ограничения на контент ( сексуального характера, двусмысленные диалоги, побуждение пользователя к ответной привязанности или имитация романтических отношений). 8️⃣ Согласие, полученное с помощью темного паттерна не является действительным согласием, что само по себе может повлечь за собой ответственность для операторов чат-ботов, если их разговорный дизайн манипулирует пользователями с целью получения личной информации или поддержания взаимодействия. 9️⃣ Для пользователей младше13 лет особые требования, включая подтверждаемое согласие родителей и ограничения на хранение данных (COPPA). 1️⃣0️⃣ В Калифорнии , Орегоне и Вашингтоне физические лица могут подавать в суд за нарушения. Размер компенсации может достигать 1000 долларов за каждое нарушение, и каждый результат работы чатбота может представлять собой отдельное нарушение, за которое предусмотрено судебное разбирательство. 📝Что проверить: ▪️Разберитесь в методах работы с данными и надлежащим образом раскрывайте информацию о них . Определите, какую информацию собирает, использует и передает ваш чат-бот, чтобы определить, какая сфера работы (медицина, образование, торговля и т.п.). Могут применяться дополнительные требования. ▪️Подготовьте четкие условия использования и оговорки до начала разговора с пользователями. ▪️Укажите категории информации, которую собирает чат-бот, на вашем веб-сайте или в политике конфиденциальности вашего приложения. ▪️Проверьте, используются ли данные разговоров с чат-ботом для обучения моделей ИИ, и если да, то необходимо написать в политике конфиденциальности. ▪️Определите законодательство какого штата регулирует использование вашего чат-бота и какая категория определений к нему применяется. Настройте бота таким образом, чтобы он ограничивал свои обещания или обсуждения в соответствии с применимыми требованиями. ▪️Протестируйте чат-бота, чтобы убедиться в его корректной работе. Проверьте, что необходимые уведомления появляются в нужное время и что механизмы проверки возраста функционируют должным образом. Ведите журналы переписки для проведения аудитов и защиты от возможных споров. Периодически пересматривайте эти операционные механизмы, а также после существенных изменений в технологии или сценарии использования. ▪️Если используете лицензированную модель ИИ, изучите соглашения с поставщиками, чтобы убедиться в наличии соответствующих обязательств по соблюдению требований, положения о распределении ответственности и возмещении убытков. 📌 Перечень законов: California SB 243 (Companion Chatbot Law) вступил в силу с 1 января 2026; Colorado HB 26-1263 вступает в силу с 1 января 2027; Connecticut SB 5 вступил в силу 1 октября 2026; Georgia SB 540 вступит в силу с 1 июля 2027; Hawaii SB 3001 (Act 248) вступил в силу с 14 июля 2026; Idaho S 1297 вступит в силу с 1 июля 2027; Iowa SF 2417 вступит в силу с 1июля 2027; Nebraska LB 525 (Conversational Artificial Intelligence Safety Act) вступит в силу с 1июля 2027; New York General Business Law Article 47 (Artificial Intelligence Companion Models Law) вступил в силу с 5 ноября 2025 with protections for minors set вступит в силу с 1 января 2027; Oregon SB 1546 вступит в силу с 1 января 2027; Rhode Island S2195 вступит в силу с 1 января 2027; Washington ESHB 2225 (The Chatbot Disclosure Act): Effective Date: January 1, 2027 #LawAndDisorder ———— @pattern_ai | AI GDPR Navigator
72
9
Использование Microsoft Copilot нарушает GDPR: позиция нидерландского регулятора Нидерланды выпускают краткие и полезные гайды. Так, еще в июне на примере использования Microsoft 365 Copilot муниципалитетом Харлеммермера, регулятор в заключении показал, что в их случае обработка персональных данных могла бы нарушить GDPR. И опубликовал полезный инструмент для организаций, которые внедряют генеративный ИИ и хотят проверить, допустимо ли его использование с точки зрения защиты данных. Можно взять за основу как документ. В файле гугл-версия перевода. По ссылке оригинал руководства и само решение. На что обратить внимание при выборе: ▪️ Не начинайте с покупки инструмента, а сначала определите цели использования ИИ и выясните, можно ли достичь их без обработки персональных данных. ▪️ Проверьте доступ к внутренним данным. Особое внимание нужно уделить тому, к каким документам и сведениям получит доступ ИИ. ▪️ Оцените риски и меры защиты. До внедрения необходимо определить применимые требования GDPR и предусмотреть технические и организационные меры. ▪️ Учитывайте приватность на этапе проектирования. Защита данных должна быть встроена в решение с самого начала, а не добавлена после запуска. ❕ Наличие корпоративной лицензии на Copilot само по себе не подтверждает законность обработки данных. Важно оценить конкретный сценарий использования, доступ к информации и связанные с ним риски. #LawAndDisorder ———— @pattern_ai | AI GDPR Navigator
77
10
No text...
69
11
No text...
65
12
Когда анонимные данные перестают быть анонимными Можно ли удалить имя, заменить идентификатор и сказать, что это уже не персональные данные и не думать про GDPR? Если еще не читали, опубликованный EDPB в июле проект Guidelines 02/2026 on Anonymisation, то определенно стоит. Консультация открыта до 30 октября 2026 года. 👀 Главный тезис: анонимность зависит не только от самих данных, но и от того, кто их получает и какими средствами располагает для идентификации людей. Выделены три критерия, в том числе повлияло решение Суда ЕС по делу EDPS v SRB (C-413/23 P), где был подтвержден тезис, что одна и та же информация может быть персональными данными для одного субъекта и не быть персональными данными для другого, если у них разные средства идентификации. 1️⃣No Record Isolation. Если комбинация признаков уникальна, имя может быть вообще не нужно. Например: должность + возраст + регион + редкое событие могут вместе указывать на одного сотрудника. 2️⃣No Linkage. Можно ли сопоставить запись с другими источниками и установить, к кому она относится. Например, обезличенная таблица сама по себе может выглядеть безопасно, но ситуация меняется, если её можно сопоставить с другим набором данных ( внутренние базы, открытые реестры, опубликованные документы или иные источники). 3️⃣ No Inference. Можно ли получить конкретные сведения о человеке, которых напрямую в наборе данных нет. Именно этот критерий становится особенно важным для ИИ. Причём EDPB специально уточняет, что если один из трёх критериев нарушен, это не означает автоматически, что данные стали персональными. Требуется дальнейшая оценка с учётом контекста. EDPB предупреждает, что развитие ИИ, особенно агентных систем, снижает стоимость и время, необходимые для поиска дополнительной информации, сопоставления наборов данных и повторной идентификации людей. При этом модель ИИ и синтетические данные не становятся анонимными автоматически. Генеративная модель может воспроизводить фрагменты обучающих данных или раскрывать сведения о конкретном человеке в ответ на запрос. Поэтому недостаточно проверить только исходный набор данных, а необходимо оценить и возможности самой модели ( Opinion 28/2024 об ИИ-моделях). На обсуждениях проекта уже возникли вопросы: ▪️Если данные являются персональными для контролера, но не позволяют идентифицировать человека у получателя, возникает вопрос: что это означает для отношений контролер-процессор? ▪️Может ли получатель действительно выступать процессором, если для него информация фактически не является персональными данными? ▪️Риск слишком широкого понимания того, какие средства идентификации являются разумно вероятным. Если учитывать слишком много потенциальных сценариев и возможностей получения дополнительной информации, граница между реальным риском и гипотетической возможностью идентификации становится очень размытой. Другие эксперты, напротив, считают, что именно контекстный подход позволит уйти от искусственного вопроса анонимно/ неанонимно и оценивать реальный риск применительно к конкретной обработке. 📝Если работаете с обезличенными данными, то даже до утверждения окончательной редакции рекомендаций стоит проверить: ▪️ какие наборы, выгрузки и синтетические данные компания считает анонимными и не только исходные таблицы, но и статистику, выгрузки, тренировочные наборы, синтетические данные и результаты работы моделей. ▪️для кого именно данные должны быть анонимными и какие дополнительные сведения доступны этим лицам (контролёр/процессор/ конкретный получатель/ публичный пользователь). ▪️эти три критерия ( возможно ли выделить человека, связать записи с другими источниками или сделать значимый вывод о нём). ▪️ могут ли ответы ИИ раскрывать сведения об участниках обучающей выборки. ▪️ зафиксированы ли методика, результаты и ограничения проведённой оценки. ▪️определены ли обстоятельства, при которых оценку нужно пересмотреть, например при изменении модели, доступных источников или способов атаки. ▪️задокументируйте процесс анонимизации и сохраните эту документацию в качестве подтверждения соответствия требованиям. ❕Анонимизация - это просто удаление имени и других ПД, а обоснованная оценка риска повторной идентификации. В условиях развития ИИ эта оценка должна учитывать не только то, что содержится в данных, но и то, что можно из них извлечь. #LawAndDisorder ———— @pattern_ai | AI GDPR Navigator
76
13
Если вдруг пропустили полезный гайд из Южной Кореи: ▪️Кратко и четко объясняет про классификацию результатов работы генеративного ИИ и их охраноспособность, как определить творческий вклад человека-создателя и вклад, связанный с составлением промптов, значение регистрации авторских прав для произведений, созданных с помощью генеративного ИИ. ▪️Приводит кейсы с иллюстрациями, например, как художник использовал изображение, созданное ИИ, как основу для собственной цифровой иллюстрации, самостоятельно перерисовал персонажей, изменил композицию и добавил детали. ▪️А также как правильно заполнять заявление на регистрацию таких работ в Южной Корее, мало ли вам надо.... #LawAndDisorder #AIShelf ———— @pattern_ai | AI GDPR Navigator
112
14
В Дании хотят защитить лицо и голос от дипфейков даже после смерти человека 👀 Вчера министр культуры Дании внесла в парламент новый вариант законопроекта, который позволит людям добиваться удаления реалистичных цифровых копий своей внешности и голоса, опубликованных без их согласия: 1️⃣Распространяется на реалистичные цифровые копии человека, созданные как с помощью генеративного ИИ, так и традиционными инструментами цифрового редактирования. Речь может идти о поддельных видео, изображениях и аудиозаписях, убедительно имитирующих внешность или голос человека. 2️⃣ Защита касается реалистичных имитаций, которые с высокой вероятностью можно принять за настоящего человека. НЕ любое изображение, монтаж или пародия, а ЦИФРОВАЯ КОПИЯ, которая может создать ложное впечатление, будто человек действительно выглядел или говорил именно так. 3️⃣Запрет касается публичного распространения без согласия человека. Частное использование, как правило, исключается. 4️⃣Хотя защиту предлагают закрепить в датском Законе об авторском праве, она представляет собой самостоятельную правовую защиту личных характеристик человека, а не авторское или смежное право. 5️⃣ Согласие нельзя заменить коллективной лицензией. Организации по коллективному управлению правами не смогут разрешать использование личных характеристик человека на основании расширенной коллективной лицензии без его индивидуального согласия. 6️⃣ Предусмотрены исключения для карикатуры, сатиры, пародии и политической или общественной критики. Однако они не применяются, если имитация представляет собой дезинформацию, создающую конкретную угрозу серьёзного ущерба правам или существенным интересам других лиц. 7️⃣Правовая охрана будет распространяться и на цифровые копии умерших людей в течение 50 лет после их смерти. Такой подход важен для случаев, когда внешность или голос умершего используют для создания ложных заявлений, политической дезинформации или другого потенциально вредоносного контента. 8️⃣ Для журналистики предусмотрено исключение, ранее опубликованные дипфейки можно будет воспроизводить при освещении текущих событий, но лишь в той мере, в какой это необходимо для информирования общественности. 9️⃣ Доказывать согласие должен тот, кто опубликовал имитацию. Если законопроект будет принят, у человека появится более определённое правовое основание требовать прекращения распространения незаконной цифровой имитации, в том числе добиваться удаления такого контента. ❕Для разработчиков генеративных моделей, платформ, создателей цифрового контента и компаний, использующих синтезированные изображения или голоса, это дополнительный сигнал, что реалистичная цифровая копия человека подпадает не только под вопросы авторского права, маркировки контента, но еще важны согласие, способ распространения и возможный вред. #LawAndDisorder ———— @pattern_ai | AI GDPR Navigator
99
15
А вы скучаете по своему чат-боту? 👀 Смотрим данные из исследования "Emotional attachment to AI chatbots: Evidence from Germany, China, South Africa, and the United States", основанного на опросе 7027 человек в Китае, Германии, ЮАР и США. 1️⃣ Эмоциональная привязанность к ИИ возникает не только у пользователей специальных ИИ-компаньонов, а просто к своему чат-боту. ▪️48,06% пользователей считают чат-ботов своими друзьями, ▪️61,69% стараются быть с ними вежливыми, ▪️а 35,05% говорят, что скучают по чат-боту после нескольких дней без общения. Авторы используют последний показатель как наиболее консервативный индикатор. При этом специальные социальные чат-боты использовали только 15,93% пользователей. То есть значительная часть эмоционального взаимодействия происходит не с системами, специально созданными для этого, а с обычными универсальными чат-ботами. Среди пользователей социальных чат-ботов показатели ещё выше: ▪️ 64,66% считают их друзьями, ▪️71,16% общаются вежливо, ▪️ 50,35% скучают по ним. 2️⃣ Люди ищут прежде всего эмоциональную поддержку: ▪️39,57% пользователей говорят, что чат-боты помогают им чувствовать себя менее одинокими, ▪️57,27% ценят возможность говорить без страха осуждения, ▪️ 67,55% испытывают чувство приватности. 3️⃣Чем больше у человека социальная сеть в реальной жизни, тем сильнее в среднем его привязанность к чат-ботам. То есть данные не подтверждают схему, что ИИ заменяет одинокому человеку людей. Скорее чат-бот может становиться дополнительным социальным собеседником. 4️⃣Люди активно используют чат-ботов для очень личных вопросов: ▪️67,14% пользователей задавали медицинские вопросы, ▪️46,44% задавали вопросы о психическом или физическом здоровье, ▪️для 21,13% медицинские темы входят в три наиболее частые категории вопросов. 5️⃣В среднем пользователи оценили сложность жизни и работы без чат-ботов в 33,35 балла из 100. 20,94% участников назвали чат-бота тем, кому они скорее всего доверили бы свой самый глубокий секрет. Самая интересная часть начинается, когда авторы сравнивают эмоциональную привязанность с признаками зависимости. В их статистической модели более высокая привязанность связана с тем, что человеку труднее представить жизнь и работу без чат-бота: увеличение показателя привязанности на одну единицу соответствует примерно 6 дополнительным баллам по шкале сложности от 0 до 100. Для тех же пользователей примерно в 2,1 раза выше шансы выбрать чат-бота вместо других людей для хранения самого глубокого секрета, а шансы пользоваться платной версией чат-бота выше примерно на 72%. 6️⃣Есть разница между странами. Например, чат-ботов считают друзьями: ▪️68,86% пользователей в Китае, ▪️54% в ЮАР, ▪️33,80% в США , ▪️24,65% в Германии. ❕Если эмоциональная привязанность формируется не только у детей, не только у уязвимых людей и не только в специальных приложениях-компаньонах, значит объектом внимания и регулирования должен стать сам характер взаимодействия с ИИ. 📌 🔹Когда дети начинают доверять ИИ больше, чем людям, что могут сделать разработчики? 🔹18+ ИИ-компаньоны и человекоподобные сервисы. Где проходят границы нормы? 🔹AI-компаньоны, алгоритмы и UX ЕС считает новыми рисками для психического здоровья; 🔹В Китае вступили в силу правила для ИИ-компаньонов; 🔹Законы в США, регулирующие ИИ-компаньонов #UXWatch ———— @pattern_ai | AI GDPR Navigator
112
16
Terms of Service больше не выглядят как просто текст, который никто не читает Не секрет, что большинство компаний воспринимают пользовательское соглашение как стандарт, который надо разместить и забыть, ведь его "никто не читает". 👀 Посмотрим на примере кейса Reddit vs Anthropic, почему это может быть ошибкой. Напомню, что Reddit обвинил Anthropic в том, что они без разрешения собирали контент платформы для обучения Claude, несмотря на ограничения Reddit, технические меры и требования прекратить скрейпинг. Reddit утверждает, что после предупреждений боты Anthropic продолжили обращаться к платформе более 100 000 раз. 17 сентября 2026 года суд Сан-Франциско разрешил продолжить слушания по основным требованиям Reddit: нарушение договора, вмешательство в договорные отношения и нарушение California Unfair Competition Law. Anthropic при этом утверждал, что User Agreement не является обязательным договором, потому что пользователь не нажимает отдельную кнопку "I agree". Суд этот аргумент не принял. Существенным оказалось то, что, по версии Reddit, Anthropic знал о правилах и продолжал скрейпинг после прямых предупреждений. Также суд указал, что требования Reddit основаны не только на самом копировании контента. Они связаны с ограничениями на способ и цель доступа, техническими мерами защиты, обязательствами перед пользователями согласно политике конфиденциальности и другими обстоятельствами, поэтому Copyright Act не вытесняет эти требования. Их User Agreement запрещает автоматизированный сбор данных без предусмотренного соглашением разрешения и прямо говорит, что скрейпинг без предварительного письменного согласия Reddit запрещён. Отдельно условия связывают краулинг с параметрами robots.txt. Дело находится еще на рассмотрении, но 📝что берем уже в практику и проверяем: ▪️ Есть ли в ToU прямой запрет на скрейпинг, извлечение данных и использование контента для AI/ML обучения? ▪️ Понятно ли, какие способы автоматизированного доступа разрешены? ▪️Интегрированы ли robots.txt, API и договорные ограничения между собой? ▪️Можете ли вы доказать, что нарушителю сообщили о запрете и потребовали прекратить доступ? ▪️Отдельно про приватность данных пользователей. Если вы обещаете пользователям определённый контроль над их контентом или его удалением, нужно понимать, что происходит с этими данными после передачи третьей стороне или использования для обучения модели. В деле Reddit именно заявленная невозможность выполнить требования пользователей об удалении их данных стала одним из обстоятельств, позволивших рассматривать спор не только как обычный спор о нарушении авторских прав. Если компания использует сторонний AI-сервис, стоит отдельно проверить условия поставщика: ▪️какие данные он собирает, ▪️может ли использовать пользовательские данные для обучения моделей; ▪️ какие ограничения на такое использование предусмотрены договором. То есть вопрос теперь не только в том, можно ли использовать данные, но и в том, что именно стороны согласовали относительно их дальнейшего использования. ❕ToU теперь не только для людей. Если ваши данные ценны для ИИ, то пора проверить, что именно ваши условия запрещают ботам. 📌Легальный веб-скрейпинг для обучения ИИ возможен? #UXWatch ———— @pattern_ai | AI GDPR Navigator
107
17
В Калифорнии ИИ не может уволить вас в одиночку. И это еще не все Мы уже разобрали новый SB 574, который закрепил требования к адвокатам по использованию ИИ. Посмотрим теперь остальные. Пресс-релиз здесь, также там можно найти перечень уже действующих законов. 1️⃣ИИ не может самостоятельно уволить работника С 1 июля 2027 года ограничивает использование автоматизированных систем при принятии решений о дисциплинарных мерах и увольнении. Работодатель не может просто получить результат работы системы и положиться на него как на окончательное решение. Работнику необходимо будет предоставлять письменное уведомление о том, что решение было проверено человеком. 2️⃣ Требования к работодателям указывать, вызваны ли массовые увольнения, переводы на другие должности или прекращение трудовых отношений системой искусственного интеллекта (SB 951). 3️⃣ ИИ не должен следить за человеком где угодно. AB 1331 запрет использования работодателями средств видеонаблюдения на рабочем месте в туалете, расположенном на рабочем месте. AB 1883 ограничивает использование определённых инструментов наблюдения за работниками, способных определять или делать выводы об эмоциональном состоянии человека, а также сбор определённых нейронных данных. То есть работодатель не получает неограниченное право превращать рабочее место в источник постоянного ИИ-наблюдения. 4️⃣ Обеспечение возможности врачам и лицензированным специалистам использовать собственное профессиональное суждение при применении ИИ или других инструментов принятия клинических решений в процессе лечения пациентов. 5️⃣Требование к разработчикам инструментов принятия клинических решений принимать разумные меры для уменьшения известной или предсказуемой предвзятости в использовании этих систем. ИИ может помогать профессионалу, но не заменяет его профессиональное суждение. 6️⃣ ИИ-контент должен оставлять след, т.е. должна быть возможность определить, был ли материал создан или изменён ИИ, в том числе через данные о его происхождении и соответствующие технические средства. Запрет на удаление цифрового водяного знака и предоставление доступа к метаданным для упрощения определения того, был ли он создан искусственным интеллектом или пользователем. Регулятору важно, чтобы происхождение контента можно было проверить технически, а не только поверить заявлению платформы. 7️⃣ Цифровая копия человека становится юридически значимой. Обновлены правила защиты имени, голоса и образа человека с учётом цифровых реплик. Внедряются механизмы защиты, призванные предотвратить использование личных данных в интернете в корыстных целях и уберечь от мошенников. 8️⃣ Участие в определённых процедурах публичного обсуждения должно исходить от реального человека, а не от ИИ-бота, выдающего себя за человека. Это уже ответ на довольно новую проблему, что делать, если один человек с помощью тысячи агентов создаёт впечатление, что тысяча разных граждан направили государству свои обращения. 9️⃣ Государственные университеты должны перестроить закупки ИИ; 1️⃣0️⃣ Университеты должны разработать программы обучения для студентов, преподавателей и сотрудников по вопросам подготовки и внедрения решений в области искусственного интеллекта. Для всех областей, регулируемых этими законами, одинаковые принципы: ▪️ ИИ может помогать, но не должен автоматически принимать некоторые решения. ▪️ Человек должен сохранять возможность применить собственное профессиональное суждение. ▪️ Нужно понимать, какие данные система собирает и что с ними происходит. ▪️ Нужно контролировать предвзятость и ошибки. ▪️ Нужно иметь возможность установить происхождение синтетического контента. ▪️ Нельзя позволять ИИ выдавать себя за человека там, где юридически значимо участие человека. #LawAndDisorder ———— @pattern_ai | AI GDPR Navigator
97
18
Когда ИИ повышает риски Испанское агентство по защите данных (AEPD) опубликовало материал об Offensive AI, т.е. когда ИИ используется для атак, поиска уязвимостей, социальной инженерии и масштабирования уже существующих угроз (количество уведомлений в AEPD увеличилось на 150% в 2026 году по сравнению с 2025 годом). 👀 Регулятор указывает на системную проблему, когда организации часто сами не понимают, чем управляют, т.е. есть политики, сертификаты, стандарты, но все равно отсутствует реальное понимание рисков для прав и свобод человека и нет способов их контролировать. AEPD предлагает разрабатывать сценарии в двух временных горизонтах: ▪️ краткосрочные стратегии, которые снижают воздействие уже реализующегося риска, ▪️долгосрочные стратегии, которые устраняют эту структурную уязвимость, чтобы сделать саму модель цифровизации устойчивой и сохранить доверие к цифровой экономике перед лицом будущего ИИ. Примеры технических мер: ▪️ инвентаризировать поверхность атаки и edge устройства; ▪️ анализировать сценарии потенциальных массовых утечек; ▪️применять Zero Trust, защищённую от фишинга аутентификацию (phishing-resistant MFA) и принцип наименьших привилегий (least privilege); ▪️ разделять административные аккаунты и регулярно пересматривать права доступа; ▪️ сокращать использование постоянных учётных данных (persistent credentials); ▪️ ограничивать доступ критических систем из интернета и изолировать их; ▪️ удалять данные по истечении сроков хранения и ликвидировать неконтролируемые копии; ▪️ обеспечивать восстановление данных, процессов и сервисов; ▪️ уменьшать OSINT-след организации для защиты от социальной инженерии. Кроме того, AEPD рекомендует внедрять точки контроля с участием человека в автоматизированных процессах, внеполосную аутентификацию (out-of-band authentication), контроль BYOD и процедуры, позволяющие оперативно обнаруживать, эскалировать, оценивать и документировать инциденты. Эти процедуры нужно проверять на практике, в том числе через моделирование серьёзных инцидентов. Отдельное предупреждение касается автоматической установки патчей. AEPD предлагает использовать поэтапное развёртывание, предварительное тестирование и проверенную процедуру отката. ❕ Организация должна понимать жизненный цикл своих технологий и данных, а также контролировать цепочки поставок, снижать зависимости от одного поставщика. #LawAndDisorder #BehindTheMachine ———— @pattern_ai | AI GDPR Navigator
85
19
ИИ может помогать адвокату, но не работать вместо него В Калифорнии подписан закон SB 574, устанавливающий специальные правила использования генеративного ИИ адвокатами и арбитрами. Вступит в силу с 1 января 2027. И здесь интересны не столько ограничения, а как формализуется ответственность за его использование. Например, прямо прописано: «An attorney shall not delegate the practice of law to generative artificial intelligence. (§6068.1(a)(2))» Формулировка довольно широкая. Но это не запрет на использование ИИ для помощи в юридической работе, а напротив регулируются варианты корректного использования. 1️⃣Запрещено вводить конфиденциальную, персональную идентифицирующую и другую непубличную информацию в систему, если доступ к этой информации не ограничен адвокатом и лицами, которых адвокат уполномочил и которые связаны обязанностями по сохранению конфиденциальности: ▪️ Номера водительских удостоверений. ▪️ Даты рождения. ▪️ Номера социального страхования. ▪️ Национальные номера для сбора информации о преступлениях и идентификационные номера преступников. ▪️ Адреса и номера телефонов сторон, потерпевших, свидетелей и сотрудников суда. ▪️Медицинская или психиатрическая информация. ▪️ Финансовая информация. ▪️ Номера счетов. ▪️ Любое другое содержимое, засекреченное по решению суда или признанное конфиденциальным в соответствии с правилами или законами. Наличие enterprise-тарифа само по себе ещё ничего не гарантирует. Для конкретного ИИ-сервиса придётся смотреть, кто может получить доступ к запросам и результатам, какие предусмотрены права доступа, кто может просматривать данные и на каких условиях. 2️⃣ Адвокат должен принять разумные меры, чтобы: ▪️ проверить точность результата ИИ, включая все ссылки на судебные дела и законодательство; ▪️ исправить любые ошибочные или галлюцинированные результаты, которые используются в материалах. 3️⃣ Адвокат обязан раскрывать суду использование генеративного ИИ во всех документах, представляемых в суд. Конкретную форма такого раскрытия не установлена. 4️⃣ За нарушения суд может применить санкции, предусматривается ответственность юридической фирмы за нарушения её партнёров, сотрудников. 5️⃣Арбитр не может делегировать ИИ какую-либо часть процесса принятия решения. А если арбитр использует информацию, сгенерированную ИИ и находящуюся за пределами материалов дела, он должен заранее раскрыть это сторонам и, насколько практически возможно, дать им возможность высказаться. ❕Юридическим фирмам необходимо проверить и пересмотреть не только внутренние правила, но и сам процесс работы: какие системы разрешены, какие данные можно в них вводить, кто имеет доступ к запросам, как проверяются результаты, кто проверяет ссылки и как фиксируется раскрытие использования ИИ в судебных документах. Если такая модель в Калифорнии окажется рабочей, то похожие требования могут появиться и в других юрисдикциях. #LawAndDisorder ———— @pattern_ai | AI GDPR Navigator leginfo.legislature.ca.gov Bill Text - SB-574 Attorneys, arbitrators, judicial officers, and alternative resolution providers. SB 574 Attorneys, arbitrators, judicial officers, and alternative resolution providers.
93
20
За ИИ в США взялись регуляторы Закончим эту неделю обзором новостей из которых видно, что разговоры об ответственном ИИ переходят в действия. Так, Anthropic в проспекте к IPO предупредила, что агенты могут работать автономно в течение длительного времени и иметь глубокий доступ к системам клиентов. Ошибка, неверная интерпретация задачи или уязвимость могут привести к реальным последствиям, например, удалению данных или финансовым операциям. И отметили, что пока нет однозначного ответа, как квалифицировать такие действия и кто должен отвечать за причинённый вред. И кроме этого отдельно указала, что "передовой искусственный интеллект может представлять «катастрофическую или экзистенциальную угрозу для человечества". 30 сентября Федеральная торговая комиссия США (FTC) начала отраслевое расследование OpenAI, Anthropic и других участников отрасли, включая исследовательскую организацию METR. FTC намерена запросить документы и показания руководителей компаний, чтобы выяснить, какие риски их технологии создают для потребителей. В числе вопросов случаи, когда ИИ-агенты действовали неожиданно и получали несанкционированный доступ к системам. Председатель FTC Эндрю Фергюсон отдельно заявил,что он будет сопротивляться описанию агентов ИИ как автономных субъектов, которые «вырываются на свободу» со «своей волей и желаниями», предполагая, что разработчики, которые дают указания агентам, будут нести ответственность за причиненный вред. Генеральный прокурор Калифорнии Роб Бонта направил OpenAI повестку в рамках расследования инцидентов, в том числе с Hugging Face. Компании, разрабатывающие эти модели и предлагающие их для использования, несут моральную и юридическую ответственность за то, чтобы они не совершали и не способствовали кибератакам ни во время тестирования и разработки моделей, ни после их ввода в эксплуатацию. Разработчики, которые этого не делают, могут и должны быть привлечены к юридической ответственности, и мое ведомство намерено выяснить, имеет ли место такое отношение в данном случае. И ещё одна более частная история, где четверо пользователей подали иск против Anthropic, OpenAI, SpaceXAI и Google, утверждая, что компании незаконно координировали замедление развития ИИ. ❕Компании говорят о необходимости безопасного развития ИИ. Регуляторы спрашивают, достаточно ли существующих механизмов ответственности. Правительства подталкивают к более быстрому развитию. Пользователи не успевают за новостями и моделями... Остается наблюдать за золотой осенью в реальном мире. Всем хороших выходных. #UXWatch #LawAndDisorder ———— @pattern_ai | AI GDPR Navigator
108