Robocounsel

Like Company v. Google: на пути к возможному признанию в ЕС законности обучения ИИ-моделей на охраняемых произведениях Андрес наш Гуадамуз поделился первыми своими впечатлениями по прочтении позиции Генерального адвоката Суда ЕС Шпунара по делу Like Company v. Google. Подробнее здесь. Основные элементы позиции Шпунара: 1) как уже сложилось, нужно отдельно оценивать возможное использование охраняемого произведения разработчиком ИИ-системы (а) при обучении ИИ-модели и (б) при выдаче ИИ-системой результата по запросам пользователей, 2) обучение большой языковой модели на охраняемых произведениях в принципе охватывается умыслом законодателя, предоставившего исключение в Директиве CDSM в части текстового и дата-майнинга (TDM exception), 3) обучение ИИ-модели обычно не приводит к воспроизведению произведения в самой ИИ-модели (её весах), модель как правило не может рассматриваться в качестве базы данных и обычно не содержит экземпляров охраняемых произведений, а представляет собой результат статистического преобразования и обобщения закономерностей, выведенных из структуры и содержания произведений, 4) разработчики при обучении ИИ-моделей как правило стремятся технически исключить дословное запоминание ( memorisation) произведений; для применения TDM exception им необходимо доказать, что они приняли такие технические меры, и они эффективны, 5) обучение ИИ-моделей само по себе в принципе не охватывается смежным правом публикатора в ЕС, 6) право ЕС может быть применимо к действиям, предшествующим обучению и необходимым для него – к веб-скрейпингу произведений, если те были размещены в ЕС, независимо от места нахождения разработчика ИИ-системы, осуществившего веб-скрейпинг (в данном случае в США), и правообладатель вправе возражать против такого веб-скрейпинга как способа воспроизведения охраняемых произведений, 7) основной проблемой остаётся возможное нарушение прав правообладателей в результате воспроизведения охраняемого произведения в результатах, создаваемых ИИ-системой по запросам пользователей. Но: - как было упомянуто выше, вопрос возможного противоправного воспроизведения произведений на стадии эксплуатации разработанной ИИ-системы, следует отделять от вопроса обучения ИИ-модели, - имеет ли место такое воспроизведение, и является ли оно противоправным, необходимо устанавливать отдельно в каждом конкретном случае.

Agentic Transformation Summit Сегодня на саммите в Амстердаме выступаю в панели с коллегами: Будущее регулирования и технических стандартов в мире ИИ-агентов

Умер Сергей Васильевич Сарбаш. Он долго болел и, к сожалению, в этом бою ему победить не удалось. Это огромная потеря прежде всего для близких. Но тысячи российских юристов, которые учились на его книгах, слушали его лекции и заряжались любовью к частному праву, потеряли учителя. Сергей Васильевич был абсолютно порядочным и принципиальным человеком, судьей, ученым, преподавателем, а по духу - настоящим идеалистом. Я всегда считал его своим учителем и другом, и тем больнее случившееся. Но СВ всегда верил в человечество. И мы тоже будем верить, вопреки всему. Покойся с миром, друг. А. Карапетов

Наш стандарт СМК EN 18286 процитирован в Официальном вестнике ЕС Большой праздник для всех регуляторных нердов — это первый из серии технических стандартов, призванных расшифровать, как на практике выполнить требования Регламента ЕС по ИИ для поставщиков ИИ-систем повышенной опасности. Если вы поняли — то вы поняли :) Если не поняли — читайте тут и приходите на курс :) P.S. Чуть не проспал сегодня это объявление, хорошо, что коллега из Еврокомиссии тэгнула всех ключевых экспертов-соразработчиков стандарта, включая вашего (не всегда) покорного слугу.

Слишком персональные данные Пользователи Амазона из США делятся в соцсетях открытием: если зайти в профиль и найти раздел Shopping preferences, можно найти много расчётных данных о себе (inferred data, персональные данные, представляющие гипотезы, выведенные методом автоматического анализа ваших действий на платформе). Точность и интимность расчётных данных варьируется. Пользователи в ЕС, отвечают, что у них эти расчётные данные в профиле отсутствуют. Скучно: нет данных ни о вкусах вашего партнёра, ни о вашей нелюбви к миллиардерам. То ли работает Общий регламент ЕС по защите данных, то ли Амазон просто не показывает, что он знает о европейцах.

Проект ФЗ "О безопасном использовании ИИ" Виктор Борисович поделился законопроектом, разработанным с его участием, а я делюсь с вами. Уже принятый 243-ФЗ в основном регулирует иной – первый – уровень фундаментальные ИИ-модели (некоторые из них), как ключевой компонент современных ИИ-систем. Этот же новый законопроект выстраивает возможное регулирование уже на втором уровне: в части разработки и применения в РФ ИИ-систем. При этом выделяется отдельный правовой режим для так называемых доверенных ИИ-систем. В случае принятия законопроекта получается двухуровневый комплекс норм по аналогии с европейским, с той разницей, что в Регламенте ЕС по ИИ два этих уровня (модели и системы) урегулированы разными частями одного нормативного акта. В части содержания, конечно, много нюансов и российской специфики, в том числе культурной и политической, хотя местами проглядывают знакомые европейские концепты. Есть ли у законопроекта влиятельные спонсоры и каковы шансы на реальное рассмотрение – мне не известно. Авторы законопроекта: В.И. Кожин, И.С. Ашманов, А.Л. Калинин, Н.И. Касперская, В.Б. Наумов.

Оупен-Эй-Ай и Майкрософт признали, что их генеративный ИИ каннибализирует чужой труд и гробит бизнес-модель издательств Запасайтесь попкорном и читайте статью 404 Медиа или прямо процессуальный первоисточник. В многократно освещённом здесь ранее процессе Нью-Йорк Таймс против Оупен-Эй-Ай юристы издательства представили потрясающей откровенности служебную переписку оппонентов. В ней те признают, что рубят сук, на котором сидят: их стратегия монетизации генеративного ИИ приводит к ухудшению производительности их же собственных ИИ-моделей и подрывает экономические стимулы для создателей и издателей оригинального контента – переход по ссылкам упал на 90%, как признал гендиректор Майкрософта Сатья Наделла. По первому аспекту: обучение новых моделей на сгенерированном контенте, которым заполняется Интернет, прогрессивно ухудшает качество генерации. Про феномен писал ранее. По второму аспекту: по совокупности подобных заявлений и признаний, а их в служебных документах много, кажется, становится бесспорным, что действия разработчиков генеративного ИИ приводят к вытеснению на рынке контента предложений создателей и издателей оригинального контента предложениями компаний, создающих и эксплуатирующих системы генеративного ИИ. А избежание такого деструктивного влияния на рынок оригинальных работ это один (четвёртый) из четырёх критериев "справедливого использования" (fair use), доктрины, допускающей в США действия, в ином случае считающиеся нарушением исключительного права. Конечно, ответчики будут по-прежнему настаивать на наличии первого критерия (трансформативный характер использования). Что из этого выйдет, покажет время, но я думаю мировое будет, и на большую сумму, и я не уверен, что Оупен-Эй-Ай продолжит существовать через 5 лет. С их-то уже существующими проблемами монетизации.

Верховный суд мотивирует судей меньше думать? Коллеги бурно обсуждают "пасхалку" в новой концепции внедрения ИИ в судопроизводство: судья, не согласный с рекомендацией ИИ, обязан обосновать своё несогласие. Я подумал, что это шутка, так как во всём мире это считается предельным злом, которого необходимо избегать (в академической литературе automation bias, а в поп-культуре - известные британские скетчи "Computer says no". Но нет, это реально предлагаемая норма, причём позиционирующаяся как мера защиты независимости и инициативности судей. Но ведь эффект противоположный: правило "обоснуй, если не согласен с ИИ" создаёт асимметрию издержек: - судья, принимающий рекомендацию ИИ, не совершает дополнительных действий; - судья, отклоняющий рекомендацию, обязан составить мотивировку. При такой асимметрии судье намного легче принять рекомендацию, чем её отклонить. Азы поведенческой психологии. И прямо противоречит остальным принципам и идеям концепции, которые вполне разумны. Не говоря о том, что сегодняшний генеративный ИИ, который нынче пытаются повсюду внедрять, не умеет размышлять, это лишь инструмент статистического предсказания текста. Только человек-эксперт, как мыслящий субъект, может судить, годен ли сгенерированный ИИ текст для чего-либо, требует доработки или является полной околесицей. Мыслящий субъект не должен оправдываться перед немыслящим объектом. Тот, кто записал подобное в концепцию ВС РФ, плохо подумал. Подумайте ещё раз, пожалуйста, и вычеркните эту глупость. Настаиваю: требовать согласовывать отклонение от ИИ-рекомендации с зампредом — всё равно что требовать от хозяина собаки мотивировать участковому, почему собаке нужно к ветеринару, даже когда собака этого не хочет. Спасибо за внимание. P.S. если у вас есть контакты в ВС РФ — перешлите им, пожалуйста.

Анти-ИИ настроения: временный тренд или что-то устойчивое? Проф. Гуадамуз с короткой заметкой на эту тему. Обязательно читайте до конца + первый анонимный комментарий к заметке – рассматривающий проблематику под другим углом.

В этой шутке лишь доля шутки. Типичные технобро — все в левом круге и не пересекаются с правым. Им всегда мешает законодательство, даже когда оно вообще не мешает. Британское законодательство заменить законодательством иной любой страны по вкусу.

Поделюсь свежим опытом с реальных проектов по имплементации AI Governance этим летом. Вход только для моих платных подписчиков. Подписаться и зарегистрироваться можно здесь.

Регулирование ИИ в ЕС: интерес растёт Тот момент, когда данные члена совета директоров на моём тренинге по AI Governance у клиента кажутся смутно знакомыми, ты уже после сессии проверяешь, понимаешь, что у него имя и фамилия бывшего премьера одной из стран СНГ, проверяешь на Линкдине, а это он и есть... Значит — всё правильно делаю. Присоединяйтесь к следующему потоку открытого курса в сентябре: свежие обобщённые инсайты из моих клиентских проектов гарантированы, времени для записи на курс осталось не много. Коротко о курсе здесь, детали и регистрация здесь. Для регистрирующихся сегодня сделаю скидку по промокоду — если интересно, пишите в комментариях (скидка превращается в тыкву в полночь).

Добил французскую иммиграционную бюрократию Это было непросто. Кто-то из вас помнит, как всё начиналось: в 2021 году я приехал на секондмент в Совет Европы как эксперт от Российской Федерации, работать в секретариате, помогать Совету по цифровой повестке, и в особенности в связи с запланированной разработкой Ковенции по ИИ. После того, как в 2022 году всех россиян в связи с известными событиями попросили из Совета Европы, я принял решение тем не менее остаться в Страсбурге, так как к этому времени уже многие годы специализировался именно на цифровом праве ЕС. Поэтому с карьерной точки зрения наиболее логично было бы оставаться либо в Страсбурге, либо в Брюсселе. Но въезжал я на территорию Франции как сотрудник международной организации, это специфический статус, и курирует таких мигрантов МИД Франции. Мигрантов же классических курирует МВД, а внутри него — префектуры регионов. Нужно было переходить из одной системы в другую, и это оказалось сложно. Сначала моё заявление в префектуре вообще толком не рассмотрели и потребовали самовыдвориться. Я не согласился, и через административный трибунал доказал, что префектура допустила явную ошибку, не изучив моё досье. Трибунал постановил отменить незаконное решение префектуры и оставить меня во Франции, но не указал, в каком статусе. Префектура решила, что это будет самый экономически бесправный статус – визитёр. Я собрал новое досье с доказательствами своей бизнес-компетентности и бизнес-планом, одобренным профильным региональным госорганом. Обычно рассмотрение подобных досье по опыту других знакомых мне россиян, оставшихся тут и сформулировавших бизнес-план, занимает полгода, в моём случае оно длилось полтора года, и вот после очередных стимулирующих писем моего адвоката в адрес префектуры они разродились наконец положительным решением о перемене иммиграционного статуса с ущербного на полноценный для самозанятых. Очень рад, что это всё наконец закончилось.

Завершается регистрация на 9-й поток курса по ИИ Акту ЕС Последний в этом академическом году. Если вы присоединились к каналу недавно и не знаете, насколько у нас всё круто, напомню. От двух-трёх слушателей потоков этого года скоро, возможно, увидите статьи про различные аспекты проблематики, которую мы разбираем на курсе. Как мощны мои лапищи Серьёзно, мощный продукт получился. Конкурентов в моей нише по качеству материала и уровню слушателей, пожалуй, просто нет. Регистрация: aia.tiulkanov.info

Поправки в ИИ Акт ЕС: на чём остановились? Подведём итоги на вебинаре в эту пятницу 29 мая, в 17:00 по Парижу / 18:00 по Москве. Регистрация обязательна.

Почему технобро не любят GDPR На прошлой неделе мы отметили десятилетие GDPR. Наиболее бесцеремонные из технобратии постоянно жалуются на этот Регламент и законодательство о персональных данных в целом: это всё только мешает. Поправка: мешает лично им, набивать карманы без каких-то либо ограничений. Нам, обществу — только помогает. Помогает не скатиться в тот анархо-капиталистический ад, о котором так мечтают Ларри Эллисоны, Илоны Маски и прочая безбашенная часть технобратии. Предприниматели – очень важная часть общества. Без них в современном обществе невозможно. Я сам предприниматель. Но одно дело быть предпринимателем и делать свой посильный вклад в построение капитализма с человеческим лицом. И другое – нести тот бред, который нёс Ларри (видео 2024 года, когда он обсуждал ИИ-стратегию Oracle). Общий регламент ЕС по защите данных не идеален, но это лучшее, что есть в этой области. Спасибо Ларри, что напомнил нам, зачем нам нужно законодательство с крупными оборотными штрафами, сильные органы по защите данных и справедливый независимый суд.

Избегайте публикации фото, по которым можно считать отпечатки Исследователи из Танзании проанализировали практики пользователей социальных сетей и выявили три наиболее типичных жеста, в том числе на селфи, которые позволят злоумышленникам извлечь ваши биометрические данные и потенциально получить доступ к ресурсам и устройствам, которые верифицируют вас по отпечаткам пальцев. Чем больше пальцев на фото — тем выше риск. Предупредите близких. P.S. Девушка ненастоящая, в отличие от рисков

ФАС ЗСО: ИИ – ваш инструмент, конечный результат – ваша ответственность Настя тут правильно обращает внимание на штраф за очередные галлюцинации в поданном в суд документе. Сразу вспоминаются некоторые коллеги в уже далёких поздних 2010-х спорившие со мной по поводу "кто же будет отвечать за ошибки искусственного интеллекта, это же очень сложный и неоднозначный правовой вопрос". Говорил уже тогда: вопрос несложный, вопрос тривиальный. Несерьёзный, если хотите. Каждый, каждый юрист должен это знать. А если вы судья, делайте как коллеги из ФАС ЗСО. Ссылаются представители, что их подвёл ИИ, забыли о своей деонтологической обязанности и личной ответственности за конечный результат — документ, представляемый суду? Штраф за неуважение. Все здоровее будем.