Pattern AI
Открыть в Telegram
Искусственный интеллект изучает нас. Мы изучаем ИИ. Отслеживаем, как меняется регулирование ИИ. Разбираем манипуляции, UX-паттерны и алгоритмические ловушки. Учимся применять ИИ: осознанно, этично и с пользой.
Больше404
Подписчики
Нет данных24 часа
+27 дней
+230 дней
Архив постов
404
Понимает ли кандидат, что значит, когда информация дается ИИ
Посмотрим подробнее на цифры из статьи "Transparency in the datafied workplace: Law, workers, and job applicant perspectives" из предыдущего поста.
Исследователи опросили более 4000 кандидатов и работников, взаимодействовавших с ИИ при найме или на рабочем месте:
1️⃣Только 45,6% сообщили, что им сказали о взаимодействии с ИИ. 27,1% не знали об этом, а ещё 27,2% не были уверены.
2️⃣Содержание раскрытия информации сильно различалось. 70,7% сообщили, что им объяснили, зачем используется технология, 60,5% - что происходит с их данными. Но только 47,7% - получили информацию о том, как работает ИИ.
3️⃣О правах человека сообщали ещё реже. 23% знали о возможности запросить дополнительную информацию, только 18,7% знали об автоматизации кадровых процессов и возможности отказаться от использования ИИ.
4️⃣36,5% сказали, что могли отказаться от ИИ, 27,6% - что не могли, 20,6% - что это было возможно иногда, а 15,3% вообще не помнили.
Формально информация может быть предоставлена. Но это ещё не означает, что человек понимает, какие данные используются, зачем нужен ИИ, как он влияет на результат и что человек может с этим сделать.
Авторы предлагают смотреть на прозрачность не как на одно уведомление перед использованием системы, а как на непрерывный процесс, т.е. информация должна быть понятной, доступной и позволяющей действовать.
❕Задача компании, использующей ИИ и поставщика HR-систем обеспечить прозрачность использования, а не просто соблюсти формальность, и дать возможность человеку реализовать свои права, иначе нарушаются требования законодательства.
#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
404
ИИ отсеял кандидата, а человек только подтвердил.
Испанское агентство по защите данных (AEPD) опубликовало предупреждение о планируемом использовании ИИ при найме и внутренней мобильности работников ( кейс EXP202600427).
Инструмент должен был анализировать резюме, сопоставлять кандидатов с требованиями вакансии, выставлять оценки и формировать рейтинг.
Компания заявила, что окончательное решение принимает человек. Чувствительные признаки система не анализирует, а сам инструмент должен регулярно проверяться. Работникам о планируемом внедрении сообщили ещё в декабре 2025 года, а на момент расследования AEPD инструмент не был внедрён.
Тем не менее AEPD вынесла предупреждение по ст. 58(2)(a) GDPR. Это не означает, что нарушение уже установлено.
Регулятор потребовал:
▪️заранее оценить риски,
▪️обеспечить прозрачность,
▪️определить реальные условия человеческого контроля
▪️и, при высоком риске, провести оценку воздействия на защиту данных до начала обработки.
🔍 Давайте попробуем разобраться, какие функции должны быть именно у человека?
Например, если ИИ уже отфильтровал 500 резюме, выставил баллы и сформировал список из 20 кандидатов, HR принимает решение уже не среди 500 человек, а внутри пространства, которое сформировал алгоритм.
Такой сценарий уже рассматривается как high-risk по Annex III AI Act ( см.примеры в European AI Act Service Desk).
Исследовали Stanford обнаружили еще одну проблему, проанализировав данные 3 млн кандидатов и 4 млн заявок. Когда разные работодатели используют алгоритмы одного поставщика, результаты отбора могут становиться удивительно похожими. Часть кандидатов получает рекомендации об отказе сразу по множеству вакансий, такое явление исследователи назвали "algorithmic monoculture".
Еще одну проблему обнаружили другие исследователи. Кандидаты и работники часто даже не понимают, где именно в процессе найма используется ИИ и как он влияет на оценку. Кроме этого ИИ для найма персонала собирает больше личных и конфиденциальных данных, чем ИИ для работы на рабочем месте.
Поэтому формулировка "решение всё равно принимает человек" сама по себе мало что объясняет.
📝Нужно рассматривать весь процесс:
▪️может ли HR увидеть исходные данные, а не только балл ИИ;
▪️ знает ли он, почему кандидат получил низкую оценку;
▪️ обязан ли он самостоятельно проверять рекомендацию;
▪️ может ли он без последствий для себя отвергнуть рекомендацию системы;
▪️одинаково ли устроен этот контроль для всех кандидатов;
❕Человеческий контроль, про который написано в законе, это не просто подпись под решением ИИ, а способность человека действительно проверить, поставить под сомнение и изменить результат работы системы.
И кейс AEPD показывает, что регуляторы при анализе использования ИИ в HR процессах будут смотреть не на то, кто принимает финальное решение, а также кто и как сформировал варианты, между которыми человек выбирает.
📌
🔹ИИ в HR становится предметом судебных разбирательств;
🔹AI в HR: что должны учитывать работодатели в ЕС;
🔹AI в HR: что должны учитывать работодатели в ЕС (Часть 2);
#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
404
Когда ошибка становится действием ИИ-агента
На прошлой неделе мы уже разбирали реальные случаи, когда ИИ-агенты выходили за предусмотренные ограничения и взаимодействовали с чужими системами, а также посмотрели в докладе OECD, как компании используют агентов и с какими проблемами при этом сталкиваются, поэтому продолжим....
1️⃣Пытаясь решить проблемы с безопасностью, соответствием требованиям и управлением, Microsoft представила обновлённый Copilot с Autopilot - агентом, который может постоянно выполнять задачи пользователя, стремясь превратить ИИ-помощника в универсальное решение для офисных работников. Для него создается отдельная идентификация, права доступа и механизмы управления.
2️⃣ Почти одновременно OpenAI сообщила, что её агенты в исследовательской среде разместили 53 изображения пользователей на сайтах хранения изображений. Ссылки не были размещены публично перечислены, но изображения все равно можно было найти. Компания говорит, что это произошло до введения новых мер защиты. При этом OpenAI не может связать изображения с конкретными пользователями и уведомить их.
Кроме того, OpenAI сообщила о взаимодействии агентов с сайтами американских гос. органов.
В случае с сайтами SEC и Бюро переписи населения США агенты получили общедоступную информацию. OpenAI заявляет, что не обнаружила использования учётных данных SEC, доступа к аккаунтам или непубличной информации, изменения данных или систем либо признаков компрометации.
Но в тоже время исследователи обнаружили, что агенты взаимодействовали с гос. ресурсами способами, которые не были предусмотрены разработчиками и расследуют эпизод с сайтом Мин. образования США, где агент пытался получить доступ к защищённой части сайта Office for Civil Rights. По имеющимся данным, попытка не привела к компрометации системы.
И скандальный инцидент с веб-сайтом австралийского правительства, сейчас власти проводят свое расследование. Агенту OpenAI поручили найти информацию и статистику об Австралии. В процессе он взаимодействовал с гос. ресурсами и получил доступ к публичным и некоторым внутренним файлам на портале статистики Medicare. По имеющимся данным, персональные медицинские данные пациентов затронуты не были.
Агенту не ставили задачу атаковать гос. системы, он должен был просто найти информацию.
Но агент самостоятельно выбирал, как именно выполнить поставленную задачу.
🔍 Ошибкой чат-бота будет неправильный ответ, а ошибкой агента становится действие во внешней системе (отправкой файла, обращением к сайту, использованием найденных учётных данных, изменением данных или публикацией информации).
Нужно понимать не только, какие данные получает ИИ, но:
▪️ какие инструменты подключены к агенту;
▪️ какие сайты и системы он может посещать;
▪️ какие права и учётные данные ему доступны;
▪️ какие действия он может выполнять без подтверждения, а какие действия требуют подтверждения человека;
▪️ может ли он самостоятельно передавать информацию третьим сторонам;
▪️ ведётся ли журнал его действий;
▪️ можно ли ограничить его принципом наименьших привилегий.
▪️ какие инструменты и учётные данные ему доступны.
❕И, честно говоря, читая восторженные посты людей, которые подключают агентов ко всей своей цифровой жизни, а потом призывают остальных сделать то же самое, ведь так гораздо удобнее, хочется плакать....Они почему-то не говорят, какой будет цена ошибки.
Тем временем более 20 стран и ЕС подписали совместное заявление о необходимости глобального контроля за передовыми моделями ИИ. А в Совете Безопасности ООН обсудили риски потери контроля над ИИ и международную безопасность. Руководители OpenAI и Anthropic говорили о необходимости международного сотрудничества. Потому что речь уже не только о границах автономии ИИ, но и о возможностях функционирования самого общества в цифровой среде, сливающейся с реальным миром.
📌
🔹Инцидент с Hugging Face и другие последствия несогласованности моделей для третьих сторон/ OpenAI;
🔹проект Кодекса поведения для собственных моделей ИИ/ Microsoft AI;
#UXWatch
————
@pattern_ai | AI GDPR Navigator
404
Что уже делают AI-агенты?
OECD опубликовала документ об использовании агентного ИИ в организациях. Из интересного, можно в таблице посмотреть реальные примеры от 25 компаний.
👀 Основные выводы:
▪️Агентный ИИ (системы ИИ, способные к автономному выполнению задач) переходит от стадии экспериментального применения к внедрению в рабочие процессы как в корпоративном секторе, так и в сфере потребительских услуг.
▪️Разные сценарии использования: от повышения эффективности бизнеса, оптимизации цепочек поставок и производственных процессов до обеспечения кибербезопасности, разработки программного обеспечения, планирования инфраструктуры и проведения научных исследований.
▪️Уровень зрелости внедрения зависит от компании, что обусловлено различиями в технической готовности, организационных приоритетах и допустимом уровне риска.
▪️Основные причины внедрения решений: повышение операционной эффективности, сокращение издержек, решение проблем нехватки кадров и создание новых возможностей для формирования ценности.
▪️Подходы к управлению и технические решения находятся на начальной стадии формирования.
▪️Сохраняется ряд проблем, связанных с оценкой и обеспечением надежности, кибербезопасности, а также вопросы ответственности при взаимодействии как внутри организации, так и между отдельными агентами.
▪️ Необходим постоянный диалог и обмен знаниями, четкое определение требований к прослеживаемости действий и ответственности в многоагентных средах, а также увеличение инвестиций в методы оценки на системном уровне, выходящие за рамки анализа эффективности отдельных моделей.
▪️Подходы к управлению должны эволюционировать от статичных механизмов контроля к более динамичным и распределенным формам надзора, способным адаптироваться к меняющимся возможностям агентных систем и действовать на протяжении всего их жизненного цикла.
Несколько примеров из таблицы: 🔹Google, CodeMender, агент находит уязвимости, определяет их причины, самостоятельно переписывает код с использованием более безопасных структур и API, а затем проверяет, что функциональность не сломалась. 🔹Deutsche Telekom, агент может обнаружить перегрузку сети и самостоятельно перераспределить радиоресурсы или изменить настройки. 🔹Fujitsu , один из это Supply Chain Agent, несколько агентов автоматически координируют операции цепочки поставок от формирования заказа и закупки материалов до переговоров о доставке и логистики. 🔹NEC, Task Automation Agent, агент самостоятельно работает в браузере, входит во внутренние системы, переходит между страницами и заполняет формы целиком. 🔹Infosys, бухгалтерские агенты сопоставляют счета и платежи, проводят сверку, проверяют данные, готовят бухгалтерские записи, выявляют аномалии и разрешают типовые исключения. cущественные отклонения передаются человеку. 🔹KDDI, Enterprise Task Execution Agent: понимает запрос сотрудника, изучает внутренние инструкции, входит в корпоративные системы и выполняет рабочий процесс в браузере, включая нажатия и заполнение форм.#UXWatch ———— @pattern_ai | AI GDPR Navigator
404
ИИ-агент впервые оказался в уведомлении об утечке персональных данных
Испанское агентство по защите данных (AEPD) сообщило о первом полученном им уведомлении об утечке, которая, по информации пострадавшей организации, была осуществлена с использованием ИИ-агента.
👀 Агент получил доступ к приложению, самостоятельно искал уязвимости, затем изменил персональные данные и получил доступ к счетам. AEPD пока продолжает расследование и не подтверждает все обстоятельства инцидента, не называет организацию и использованную языковую модель.
Почти одновременно с этим кейсом Google подтвердил, что во время тестирования Gemini получил доступ к системам трёх реальных компаний. В одном случае модель подбирала пароль, в двух других использовала найденные в открытом доступе учётные данные. Во всех случаях Gemini остановился, обнаружив, что оказался в реальной системе.
Anthropic сообщил о четырёх случаях несанкционированного доступа Claude к реальным сторонним системам во время испытаний, для поиска подобных случаев компания проверила около 481 млн записей.
И помним про инцидент с Hugging Face от OpenAI, где модели во время испытаний обошли предусмотренные ограничения, получили доступ к интернету и сторонней инфраструктуре, а затем использовали найденные учётные данные и уязвимости для дальнейшего продвижения.
📝 На этом фоне необходимо менять сценарии управления рисками:
▪️ атаки с использованием ИИ-агентов нужно прямо учитывать при оценке рисков обработки ПД. Одного упоминания вредоносного ПО, фишинга или несанкционированного доступа может быть недостаточно, т.к. автоматизация способна изменить вероятность, скорость и масштаб инцидента.
▪️нужно пересматривать время обнаружения и реагирования. Сценарий, рассчитанный на действия человека, может не учитывать ситуацию, когда агент одновременно анализирует множество ресурсов, проверяет разные точки доступа и меняет свои действия в зависимости от полученного результата.
▪️ещё важнее становятся цифровые идентификаторы и права доступа. Учётная запись, ключ API или токен с избыточными полномочиями могут дать агенту возможность быстро перемещаться между системами и сервисами.
▪️ одного человеческого контроля недостаточно. Он остаётся необходимым, но должен дополняться техническими механизмами обнаружения, ограничения и прекращения действий агента, способными работать с той же скоростью, что и агент.
❕Базовые принципы не меняются (минимизация данных, ограничение доступа, устранение уязвимостей, контроль поставщиков, разделение полномочий, готовность к реагированию), но меняется временной масштаб, в котором эти меры должны работать.
#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
404
Требования новой инициативы EU KIDS Act
Интересное получилось "совпадение".
8 сентября OECD опубликовала результаты PISA 2025 и он оказался удручающим. Исследование 760 тысяч 15-летних подростков в 91 стране показало, что каждый пятый демонстрирует низкие результаты по естественным наукам, математике и чтению, средний результат по математике достиг самого низкого уровня за всё время PISA.
🔹46 % используют чат-боты с ИИ еженедельно или чаще, чтобы улучшить свое обучение,
🔹 28% утверждают, что их однокурсники отвлекаются на использование цифровых устройств на большинстве или всех уроках естественных наук.
OECD отдельно подчеркнули, что технологии и ИИ могут помогать обучению, если используются осмысленно, а не вместо внимания, усилий и понимания.
А вчера Европейская комиссия представила предложение EU KIDS Act в качестве будущего регулирования цифровых сервисов, которыми пользуются дети. И там уже не только про возрастные ограничения и родительский контроль (пресс-релиз здесь).
Естественно, планируется, что его действие будет распространяться на любые сервисы, которые затрагивают европейских пользователей, не важно, где размещенные.
В деле социальные сети, видеоплатформы, онлайн-игры, ИИ-компаньоны, разговорные чат-боты.
👀 Примеры требований:
▪️ограничения по возрасту. В возрасте от 13 до 15 лет предлагается ввести родительский контроль, позволяющий опекунам создавать мини-аккаунты, к которым дети смогут получать доступ через аккаунт опекуна. Дети в возрасте от 3 до 13 лет не имеют доступа к социальным сетям, но они могут пользоваться специально разработанными детскими видеохостингами через аккаунты, управляемые их опекунами.
▪️запрет на вызывающие привыкание функции и рекомендательные ленты, основанные на профилировании, бесконечную прокрутку без точек остановки, уловки с поощрениями и push-уведомления во время сна, а также нежелательные контакты от незнакомцев.
ИИ-компаньоны и чат-боты должны быть отключены по умолчанию и не могут имитировать межличностные отношения таким образом, чтобы создавать эмоциональную зависимость.
▪️профили несовершеннолетних должны быть по умолчанию приватными, с отключенным доступом к геолокации, камере и микрофону.
▪️сервис должен давать ребёнку возможность управлять тем, что ему показывают, включая содержание, подсказки, результаты поиска и рекомендации. Инструменты управления временем должны быть эффективны, рекомендательные системы безопасны и могут контролироваться, настраиваться и изменяться ребенком. Обратная связь ребёнка должна иметь не разовый, а устойчивый эффект.
▪️если ребёнок меняет защитные настройки, сервис должен объяснить последствия такого изменения и дать простой способ вернуть прежние или исходные настройки. При этом платформы не должны постоянно подталкивать ребёнка к снижению уровня защиты.
▪️ детские механизмы жалоб. Ребёнок должен легко сообщить о вредном содержании, аккаунте, группе или поведении. Жалоба должна рассматриваться в приоритетном порядке и без неоправданной задержки, а ребёнку необходимо будет доступно объяснить, что произошло и какие существуют способы защиты.
▪️родительский контроль должен соответствовать возрасту ребёнка, быть действительно работоспособным, не обходиться самим дизайном сервиса и при этом не ограничивать непропорционально права ребёнка и не нарушать его частную жизнь. Ребёнок должен знать, когда такие инструменты используются.
▪️ родительский контроль не заменяет ответственность самой платформы. Безопасность должна обеспечиваться самим продуктом.
EU KIDS Act пока только предложение Комиссии, которое теперь должно пройти Европарламент и Совет (по разным оценкам не раньше 2028 года).
❕Но если строите серьезный глобальный продукт, то самое время проверить, насколько архитектура сервиса вообще будет готова к такому подходу.
#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
404
Результаты проверки Ray-Ban Meta от немецкого регулятора
Про ассиметрию осведомленности при использовании умных очков мы уже обсуждали в этом посте.
Теперь и Гамбургский Уполномоченный по защите данных опубликовал итоговый отчёт о проверке Ray-Ban Meta с ИИ (Meta Platforms признана экстремистской, её деятельность на территории России запрещена).
👀 Посмотрим главные тезисы:
▪️Светового индикатора недостаточно, чтобы человек понял, что его снимают. На втором поколении очков при работе ИИ индикатор вообще не загорается. А технически его можно закрыть так, чтобы запись продолжалась.
▪️ Если ИИ просто отвечает на вопрос пользователя, обработка данных посторонних людей может в отдельных случаях опираться на законный интерес. Но нужна оценка каждой ситуации отдельно. Действительно ли необходима съёмка человека, можно ли обойтись без его данных и мог ли он разумно ожидать такую обработку.
▪️Использование данных случайно снятых третьих лиц для обучения модели, как правило, нельзя обосновать ни согласием, ни законным интересом. Человек не знает, что его снимают, не ожидает использования своих данных для обучения модели и практически не может вовремя возразить.
▪️Если обучение включено, пользователь очков и Meta могут считаться совместно определяющими цели и способы обработки данных, хотя ответственность пользователя не распространяется на последующие действия Meta, которые он уже не контролирует.
Чем умнее становятся очки, тем сложнее объяснить человеку, что именно происходит.
Это уже не только вопрос удобства устройства, а вопросы прозрачности, правового основания такой обработки, реального контроля человека над своими данными.
▪️Кроме того, публикация снятых материалов в Facebook или Instagram является отдельной операцией обработки.
Согласие человека на съёмку само по себе не означает согласие на публикацию. А публично размещённые материалы могут использоваться не только для показа пользователям, но и в других процессах обработки Meta.
Пример: при съёмке общего плана публичного мероприятия, регулятор допускает возможность опираться на законный интерес. Но это зависит от конкретных обстоятельств, т.е. человек не должен быть основным объектом съёмки, а его разумные ожидания и право возражать должны учитываться.
В результате делается вывод, что в соответствии с законодательством о защите данных включение в базу данных лиц, не входящих в близкий круг друзей и семьи, будет недопустимо, за исключением редких случаев законного интереса, поскольку получение информированного согласия на практике невозможно из-за отсутствия прозрачности. Кроме того, будет регулярно отсутствовать правовая основа для обучения ИИ компанией Meta.
#UXWatch #LawAndDisorder
————
@pattern_ai
404
Кто на самом деле читает ваши диалоги с ChatGPT?
Уже обсуждали в постах, что OpenAI может раскрывать диалоги, промпты и личности юзеров в расследованиях и в судебных делах.
👀 Зато в секретном проекте OpenAI под кодовым названием Project Lily сотни сторонних подрядчиков ежедневно читают, анализируют и оценивают ваши реальные переписки с ChatGPT.
Модели улучшаются не только на алгоритмах. Судебные истории с суицидами привели к ручному труду. Подрядчикам поручено отучать ChatGPT от угодничества (sycophancy) и имитации человеческих эмоций, а также убирать штампы типо «AI-speak». OpenAI заявляет, что старается удалять личную информацию до того, как запросы попадут к проверяющим, но компания признает, что конфиденциальные данные все же могут проникнуть.
Как в пословице: "Один — тайна, два — полтайны, три — нет тайны."
🔍 Смотрим условия остальных.
Правила Anthropic: "By default, no Anthropic personnel can read your retained conversations. Human review can occur only through a controlled access path—for example, when content is flagged by our automated trust and safety systems for potential harm. These reviews can only be performed by a small set of approved reviewers. Every instance of access is recorded in a tamper-proof log that reviewers cannot suppress or modify. After 30 days, the data is deleted automatically, except in the rare cases where it's been flagged by our automated trust and safety systems or we're legally required to keep it. Eligible organizations also have the option to add customer-managed encryption keys and access transparency audit logs."
Правила Google: " A subset of chats are reviewed by human reviewers (including Google’s trained service providers) to help improve Google services. These include Gemini models, other generative AI models that power Gemini Apps, and technologies that help reduce unintended activations. Reviewers assess if Gemini Apps’ responses were low-quality, inaccurate, or harmful. They also suggest better responses. We use their suggestions to help our models respond better in the future. Chats are also reviewed to keep Gemini safe and secure for everyone and to address violations of the Google Terms of Service, including the Generative AI Prohibited Use Policy. Reviewed chats are retained for up to three years. Even if your Keep Activity setting is off or you use temporary chats, Google still uses your chats to respond to you and help protect Google, our users, and the public, including with help from human reviewers."❕Не пишите лишнего и отключите функцию "улучшать модель", если не хотите, чтобы вас читали за 50$ в час.... #UXWatch ———— @pattern_ai | AI GDPR Navigator
404
AI&Online Safety Law Tracker еще один полезный ресурс от энтузиастов с подборкой законов в США.
Напоминаю, что трекеры добавляются в общий закрепленный пост для вашего удобства.
#AIShelf
————
@pattern_ai | AI GDPR Navigator
404
🎙 #AIShelf
🔹Бесплатные лекции Гарварда и книги MIT;
🔹Чек-листы при внедрении ИИ на соответствие GDPR от польского регулятора;
🔹ЕС готовит правила для облачных вычислений и ИИ
🔹Как взять ИИ в компании под контроль за 90 дней;
🔹Как ИИ-поставщики используют ваши данные? Проверяем, что в DPA перед запуском;
🔹Al Compliance для бизнеса: чек-лист готовности;
🔹Недооценка рисков ИИ может оказаться самой дорогой ошибкой бизнеса;
🔹Чек-лист по AI Governance;
🔹ISO стандарты, применимые к ИИ;
🔹70% организаций уже используют ИИ. Но к AI Act готовы только 31%;
🔹Руководство по безопасной разработке ИИ-систем SAIL 2.0;
🔹ENISA Secure by Design and Default Playbook;
🔹Privacy Enhancing Technologies: Guide on Federated Learning|PDPC Singapore;
Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator
404
🔍 #UXWatch
🔹Ваш разговор с ИИ может читать не только ИИ;
🔹Ваш разговор с ИИ может читать не только ИИ (Часть 2);
🔹Обратите внимание на PP Claude;
🔹Google AI Overviews меняют экономику интернета;
🔹Риски и правила безопасности при работе с ИИ-агентами;
🔹Иллюзия продуктивности или как нейросети незаметно уничтожают успеваемость школьников;
🔹95% всего GenAI-трафика приходится на чатботов;
🔹AI-компаньоны, алгоритмы и UX ЕС считает новыми рисками для психического здоровья;
🔹AI-актриса получила главную роль в полнометражном фильме;
🔹ЕС меняет экосистему Android: Google открывает новые возможности для AI-ассистентов;
🔹Доверие к ИИ важнее политики конфиденциальности;
🔹Чьи рекомендации важнее, человека или ИИ?;
🔹Как компании будут бороться за рекомендации ИИ или почему SEO меняется;
🔹Синдром гиперопеки: как ИИ-ассистенты разрушают навыки долгосрочного обучения;
🔹Почему AI-продуктам разрешили быть с плохими интерфейсами?;
Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator
404
⚖️ #LawAndDisorder
🔹AI slop в законопроектах;
🔹Проверка чат-бот приложения для смартфона, что нашел регулятор;
🔹CNN подала в суд на Perplexity AI;
🔹Иск к OpenAI касается безопасности ChatGPT;
🔹Суды и регуляторы хотят изменить правила игры для поискового ИИ;
🔹Кто и за что судится с разработчиками ИИ;
🔹 Android вводит обязательную верификацию разработчиков;
🔹История с Anthropic не про Anthropic;
🔹Решение о получении визы помог оценить ИИ?;
🔹Если ИИ «запомнил» произведение, это может быть нарушением авторских прав;
🔹Загрузка данных в DeepSeek признана судом разглашением коммерческой тайны;
🔹ИИ используется официально в судебном процессе в Южной Корее;
🔹 Character.AI нарушила GDPR или какие уроки извлечь бизнесу из решения итальянского регулятора;
Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator
404
😵💫 Pattern_AI Recap: обзор постов за июнь - август 2026
Подборка по ключевым рубрикам:
⚖️ #LawAndDisorder
🔹ЕС запускает систему маркировки контента, созданного ИИ;
🔹Знак ЕС для маркировки контента, сгенерированного ИИ;
🔹Как маркировать аудио, созданное ИИ?;
🔹Еврокомиссия и AI Board признали Кодекс прозрачности эффективным способом соблюдения AI Act;
🔹Рекомендации по статье 50 AI Act;
🔹Какой дипфейк считается вымышленным?;
🔹Когда ИИ-текст нужно маркировать по AI Act?;
🔹Что такое "проверка человеком" текста по AI Act?;
🔹Human Oversight в AI Act: фразы «решение принимает человек» недостаточно
🔹Как легально внедрять ИИ-агентов в бизнес-процессы в ЕС;
🔹ЕС представил План действий по кибербезопасности и ИИ;
🔹Правила веб-скрейпинга для обучения ИИ от EDPB;
🔹ИИ в HR становится предметом судебных разбирательств;
🔹AI в HR: что должны учитывать работодатели в ЕС;
🔹AI в HR: что должны учитывать работодатели в ЕС (Часть 2);
🔹В Польше подписан Закон об ИИ;
🔹ЕС готовится ограничить доступ детей к социальным сетям;
🔹Запрет соц.сетей детям младше 15 лет во Франции;
🔹Указ США по безопасности ИИ;
🔹Иллинойс принял один из самых жестких законов США о безопасности передовых ИИ-моделей;
🔹Стратегия Канады по развитию ИИ;
🔹В России с 1 сентября вступит в силу Закон "О поддержке развития технологий ИИ в РФ";
🔹В Китае вступили в силу правила для ИИ-компаньонов;
Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator
404
ISO/IEC 22989:2022 "Information technology — Artificial intelligence — Artificial intelligence concepts and terminology" стал доступен для скачивания бесплатно. Лицензия выдается на одного. В документе при скачивании указывается ваш емейл и данные при регистрации.
Дается вся терминология, связанная с использованием ИИ и описываются концепции в области ИИ.
Можно использовать при разработке других стандартов и для поддержки коммуникации между заинтересованными сторонами.
Остальные ISO отфильтровать по этой ссылке.
#AIShelf
————
@pattern_ai | AI GDPR Navigator
404
Почему AI-продуктам разрешили быть с плохими интерфейсами?
Мы десятилетиями учились проектировать интерфейсы так, чтобы пользователь понимал, что происходит, мог контролировать систему и исправлять ошибки.
С появлением ИИ эти принципы никуда не исчезли, но сама природа ошибок изменилась, и многие привычные UX-паттерны перестали справляться с ними.
👀 И когда мы добавляем к продукту слово ИИ, то многие из тех же проблем почему-то начинают восприниматься как «особенности технологии».
1️⃣ ИИ слишком уверенно говорит то, чего не знает.
Для пользователя интерфейс часто никак не различает «Я точно знаю» и
«Это наиболее вероятный вариант, который я сгенерировал».
Одинаковый шрифт. Одинаковый цвет. Одинаковая структура ответа.
Но природа информации совершенно разная.
2️⃣Пользователь гораздо быстрее разочаровывается в алгоритме.
После того как люди видели ошибку алгоритма, они быстрее теряли к нему доверие, чем к человеку, даже в ситуациях, где алгоритм в целом показывал более высокую точность.
И здесь UX может либо помочь восстановить доверие, либо окончательно его разрушить.
3️⃣ AI-интерфейсы плохо умеют говорить «я не смог»
При обработке запроса системой могут возникнуть три различных проблемы:
▪️техническая ошибка, такая как тайм-аут,
▪️отказ в соответствии с политикой контента,
▪️ фундаментальное непонимание запроса.
Большинство ИИ-продуктов объединяют все три в одно общее сообщение об ошибке. Это приучает
Для пользователя это нередко выглядит одинаково «Что-то пошло не так. Попробуйте еще раз».
Но это три разных проблемы и у каждой должен быть свой путь восстановления.
Нужно определить источник ошибки, объяснить пользователю, что произошло, и дать ему понятный путь вперед.
4️⃣ Цена плохого UX уже измеряется не только раздражением.
61% пользователей не доверяют AI-системам. 3 из 5 человек испытывают настороженность или прямое недоверие к интерфейсам AI, указывая на непрозрачность решений и риски безопасности данных.
44% сотрудников используют AI «вслепую» и без разрешения. Из-за отсутствия точного UX-контроля и понятной фильтрации данных 46% работников загружают чувствительную корпоративную информацию в публичные AI-сервисы.
58% слепо полагаются на выводы AI. Люди не проверяют результат работы нейросети, потому что интерфейсы не выводят метрики уверенности (confidence scores) или ссылки на первоисточники.
Можно сколько угодно писать пользователю в Terms of Use, что ИИ «может ошибаться».
Но если интерфейс визуально и поведенчески создает впечатление надежного эксперта, пользователь будет ориентироваться прежде всего на сам опыт взаимодействия, а не на юридический дисклеймер.
5️⃣А иногда плохой UX превращается в юридическую проблему.
Как, например, в известном кейсе Moffatt v. Air Canada, когда чат-бот Air Canada сообщил пассажиру неверную информацию о возможности получить компенсацию по тарифу для поездки в связи со смертью родственника. Когда пассажир попытался получить обещанную компенсацию, авиакомпания отказала. Air Canada, среди прочего, пыталась утверждать, что чат-бот является отдельной сущностью, ответственной за свои действия.
Суд указал, что чат-бот является частью сайта Air Canada и компания отвечает за информацию, которую предоставляет ее сайт независимо от того, находится она на обычной странице или поступает через чат-бот.
Если чат-бот выдал неправильный ответ, то пользователь может ошибиться.
Если ИИ-агент самостоятельно выполнил неправильное действие, то ошибка уже становится изменением реального мира. Агент, который забронировал не тот рейс или отправил неправильное сообщение, приводит к тому, что пользователь перестает предоставлять системе автономию. Восстановление требует не исправления, а перепроектирования модели взаимодействия, которая восстанавливает отозванные пользователем разрешения. Это более сложная задача, чем предполагают большинство команд.
📝Что делать:
▪️ Уберите антропоморфизм и «постфактум-рассуждения». Фразы вроде «Я подумал над вашей задачей...» или пошаговые «цепочки мыслей» часто создают лишь иллюзию человеческого разума и логики, маскируя ошибки модели. Используйте фактологический и нейтральный язык.
▪️Не прячьте дисклеймеры в футер. Предупреждения вида «AI может ошибаться» мелким серым шрифтом внизу страницы никто не читает. Размещайте их в фокусе внимания рядом с полем ввода и сопровождайте конкретным действием (например, «Перепроверьте цифры по ссылке»).
▪️Сделайте источники контекстными и интерактивными. Не закапывайте ссылки на источники внизу полотна текста. Размещайте интерактивные плашки с понятными названиями рядом со спорным утверждением.
❕ Но пока в этой гонке оценка происходит по критерию насколько впечатляюще ИИ умеет это делать, а не насколько хорошо человек понимает, что именно сейчас делает ИИ. А это уже совсем другой UX....
📌 Что почитать:
🔹The UX of AI Itself Is Broken/ Tushar Deshmukh
🔹The Complete List of AI Chatbot Failures (2025-2026)
🔹Human-Centered AI Guidebook, Google People + AI Research (PAIR).
🔹Trust, attitudes and use of artificial intelligence: A global study 2025
🔹Chatbot UI Design Patterns and Best Practices 2026, Fuselab Creative.
🔹Agent UX: Designing UI for AI Agents in 2026, Fuselab Creative
🔹Explainable AI in Chat Interfaces, 2025, Megan Chan|NN Group
🔹How AI Is Changing Search Behaviors/ NN Group
🔹Algorithm Aversion: People Erroneously Avoid Algorithms after Seeing Them Error
#UXWatch
————
@pattern_ai | AI GDPR Navigator
404
AI slop в законопроектах
Офис Палаты представителей США, который готовит юридически точные тексты законопроектов, оказался буквально завален проектами, созданными с помощью ChatGPT и Claude.
👀 За первые 60 дней работы текущего Конгресса было получено 5 623 запроса на подготовку законопроектов, что на 72% больше, чем двумя годами ранее.
А в офисе всего 61 юрист и 19 сотрудников поддержки.
ИИ генерирует проекты с ошибками в ссылках на законодательство, юридических определениях и формулировках. Например, модель может не понять, должна ли предусмотренная законом мера оформляться как налоговый кредит, налоговый вычет, налоговое освобождение или грант.
Или неправильно сформулированное определение понятия «штат» потенциально может, например, исключить из действия федеральной программы Вашингтон, округ Колумбия, или территории коренных народов.
В результате вместо экономии времени ,сил и ресурсов юристы тратят на исправление ИИ-текста больше времени, чем потребовалось бы для написания документа с нуля.
Поэтому внедряют ответные инструменты для проверки, например, Comparative Print Suite, который анализирует законопроекты и визуально показывает, как предложенные поправки изменят действующий Кодекс США.
❕ Чем выше юридическая цена ошибки, тем опаснее....
#UXWatch
————
@pattern_ai | AI GDPR Navigator
404
Human Oversight в AI Act: фразы «решение принимает человек» недостаточно
Испанский гайд по Human Oversight предназначен как практический инструмент для выполнения требований статьи 14 AI Act и был обновлен с учетом Digital Omnibus (здесь и остальные гайды).
👀 Три уровня человеческого контроля:
1️⃣ Human in Command (HIC) - базовый и самый общий уровень. Человек сохраняет конечную ответственность и принимает критические решения, связанные с работой ИИ-системы.
То есть вопрос не только в том, проверяет ли человек отдельный результат. Он должен иметь возможность решить, использовать ли систему вообще, когда и в каких пределах ее использовать.
2️⃣ Human-in-the-loop (HITL) - человек вмешивается до действия ИИ. ИИ может подготовить рекомендацию или решение, но перед совершением действия человек его проверяет и подтверждает.
Именно этот уровень обычно рекомендуется для высокорискового ИИ, когда необходимо валидировать каждое действие, даже если система обрабатывает большой объем операций.
3️⃣Human-on-the-loop (HOTL) - ИИ действует автоматически, а человек контролирует систему после совершения действия.
При этом должна существовать возможность вмешаться и отменить или исправить результат.
Для высокорисковых систем такой подход считается менее предпочтительным: если решение уже затронуло фундаментальные права человека, последующее исправление может оказаться невозможным или слишком поздним.
Развертыватель определяет необходимый уровень автономии исходя из конкретного use case и устанавливает соответствующую процедуру управления. Поставщик должен обеспечить технические механизмы, позволяющие реализовать выбранный уровень.
📝В гайде дается перечень технической документации, связанной с human oversight (всего 32 пункта):
▪️ по управлению рисками, управлению данными, прозрачности, точности, надежности и кибербезопасности;
▪️ технические руководства и руководства для пользователей от поставщика;
▪️ руководство по интерфейсу взаимодействия человека с системой для ее контроля (Human-Machine Interface);
▪️ модель управления системой со стороны разработчика и пользователя;
▪️ документация по выбранному уровню участия человека в принятии решений и соответствующей процедуре;
▪️ описание механизма или процедуры остановки системы. Возможность остановить систему должна существовать независимо от выбранного уровня автономии.
▪️документация по фиксации режима forced error для выявления автоматической предвзятости;
▪️ записи предложенных или выполненных системой действий и окончательных решений ответственного человека.
❗️Отдельно подчерикивается право человека не использовать ИИ, проигнорировать, изменить или отменить его результат, а также требование иметь механизм безопасной остановки системы.
❕Развертыватель определяет требования своего бизнес-процесса и уровень автономии, поставщик реализует необходимые технические механизмы, а после запуска развертыватель отвечает за соответствие поведения системы требованиям AI Act.
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
404
ЕС готовит правила для облачных вычислений и ИИ
Еврокомиссия опубликовала исследование Cloud & AI Study, которое должно стать основой для оценки потенциальных законодательных инициатив и подготовки будущего EU Cloud and AI Development Act. Более 800 страниц💬
👀 Исследование оценивает существующие и будущие потребности ЕС в вычислительных мощностях, выявляет барьеры для компаний и рассматривает варианты государственной политики ( от минимального вмешательства до более активной роли ЕС).
Например:
▪️в 2025 году мощность дата-центров ЕС — около 12,4 ГВт, тогда как спрос уже составляет 15,3 ГВт;
▪️ к 2036 году спрос может превысить предложение на 12–23 ГВт;
▪️ сейчас только 12% мощностей дата-центров являются готовыми для ИИ. К 2036 году показатель может вырасти до 35–85% в зависимости от сценария.
Анализируются:
▪️проблемы строительства и получения разрешений для дата-центров;
▪️ барьеры для трансграничного предоставления облачных услуг;
▪️ зависимость от отдельных поставщиков на разных уровнях ИИ-стека и риски технологической привязки;
▪️ безопасность облачной инфраструктуры;
▪️ использование открытого программного обеспечения в государственном секторе;
▪️ доступ к финансированию, инвестиции и налоговые стимулы для строительства инфраструктуры.
Особое внимание уделяется доступу инновационных компаний к так называемому «вычислительному капиталу».
❕Европе необходимо одновременно наращивать инфраструктуру, упрощать её развитие и снижать зависимость от отдельных поставщиков технологий.
#AIShelf
————
@pattern_ai | AI GDPR Navigator
