Адвокат Игорь Баранов

Вопросы регулирования ИИ выходят на межгосударственный уровень Совет Европы одобрил первый международный юридически обязательный договор, открытый для всех государств мира, целью которого выступает обеспечение соблюдения прав человека, верховенства закона и правовых стандартов демократии при использовании систем искусственного интеллекта. Текст конвенции в течение двух лет разрабатывался межправительственным органом, Комитетом по искусственному интеллекту (Committee on Artificial Intelligence), членами которого выступают 46 государств-членов Совета Европы, Европейский Союз и 11 государств, не являющихся его членами. Договор устанавливает правовую основу, на которой будет проходить весь жизненный цикл систем ИИ и которая позволяет устранить риски их использования, не создавая при этом барьеров для продвижения инноваций в данной сфере, а также определяет основанный на оценке соответствующих рисков подход к проектированию, разработке, использованию и выводу из эксплуатации систем ИИ, предполагающий необходимость внимательного рассмотрения любых потенциальных негативных последствий использования таких систем. Соглашение охватывает использование систем ИИ как в государственном, так и в частном секторе. При этом предлагается два способа соблюдения указанных в документе принципов и обязательств при регулировании частного сектора: стороны могут предпочесть принять на себя прямые обязательства по соответствующим положениям конвенции или, в качестве альтернативы, принять другие меры для соблюдения положений договора, полностью придерживаясь при этом национальных и международных обязательств в отношении прав человека, демократии и верховенства закона. Отмечу, что наша страна занимает 14-е место в топ-20 стран по развитию цифровых технологий, говорится в презентации исследования "Ростелекома" по глобальным трендам цифровизации. Также Россия входит в топ-10 государств по научной и изобретательской активности в робототехнике, квантовым технологиям и искусственному интеллекту. При этом, уровень нормативного регулирования новых технологий в нашей стране значительно отстаёт от других государств, активно внедряющих правовые методы управления развитием ИИ (США, Китай). В нашей стране назрела актуальная и своевременная необходимость отечественной разработки и скорейшего принятие Цифрового кодекса, а также законов, устанавливающих основы развития и использования ИИ, без которых невозможно устойчивое развитие IT-отрасли и новых информационных технологий.

Правовое регулирование деятельности ИИ в России Искусственный интеллект все чаще выступает в качестве инструмента оптимизации бизнес-процессов в различных сферах деятельности. Общемировой опыт (Китай, ОАЭ, США) показывает значительный рост внедрения и использования новых информационных технологий. В нашей стране использование ИИ пока происходит в основном в узких сферах деятельности, хотя новые технологии постепенно проникают в различные сферы предпринимательской активности. Правовое регулирование использования ИИ в нашей стране находится лишь на этапе разработки, что препятствует его более активному внедрению и использованию. Так, возникают острые вопросы о допустимости использования новых информационных технологий, безопасности их применения, ответственности людей при использовании ИИ. Ответов на эти вопросы в законе пока нет. В настоящее время при разработке мер правового регулирования использования ИИ отдельные министерства и ведомства предлагают проекты законов, регулирующих лишь частные вопросы использования ИИ в той или иной сфере деятельности. Такой подход, на мой взгляд, является недостаточным для использования новых технологий в рамках закона. Считаю, что при разработке норм права, регулирующих деятельность ИИ, законодателю стоит придерживаться основного метода кодификации, используемого в российском праве: регулирование от общего к частному. То есть, необходима разработка Базового закона об использовании ИИ, как основы правового регулирования новых информационных технологий. На основе Базового закона могут быть разработаны Отраслевые законы об использовании ИИ, с учётом специфики сферы деятельности и применяемых информационных и технических решений (робототехника, компьютерные программы, базы данных и т.п.). Такой подход позволит создать основу правового регулирования ИИ в нашей стране - Базовый закон, который будет включать основные понятия, цели, методы, задачи, основы регулирования и т.п., а уточнить использование ИИ в различных сферах деятельности будет возможно в Отраслевых законах, с учётом особенностей и потребностей регулируемой сферы деятельности (банки, связь, строительство, суды, охрана порядка и т.д.). Рассчитываю, что законодатель прислушается к мнению экспертного сообщества и использование новых информационных технологий будет урегулировано законом.

Дорожные конфликты: как не допустить нарушения своих прав и закона? Очередной конфликт двух водителей произошел на одной из парковок. Причиной ситуации стало небольшое ДТП, виновником которого, по всей видимости, был владелец китайского авто. К сожалению, в результате конфликта оба водителя, по моему мнению, нарушили закон, один из них получил травмы. По этому поводу я записал видео, где изложил мнение о действиях участников конфликта. Полагаю, что указанная ситуация является примером, как не стоит вести себя людям при возникновении любой конфликтной ситуации. С точки зрения не только права, но и здравого смысла, считаю, что лезть на вооруженного человека является нерациональным поведением. Гражданин в красной футболке не проявил должной осторожности для своей защиты. Взаимные оскорбления также не ведут к диалогу и разрешению конфликта. Водитель китайского авто не прав в том, что начал сразу угрожать и применил оружие в ситуации, когда реальная опасность для его жизни и здоровья отсутствовала. Надеюсь, что рассмотренная ситуация поможет сделать выводы, что не имеет смысла лезть на вооруженного человека, даже если тот не прав, и в целях сохранения жизни и здоровья в такой ситуации лучше и правильно обратиться в правоохранительные органы, поступить по закону.

Первое публичное заявление нового руководителя Счетной палаты Б.Ковальчука о необходимости проверки обоснованности бюджетных трат (ценообразование) в сфере IT-контрактов показывает знание глубинных проблем и наибольших злоупотреблений в системе государственных закупок. Уже около 10-ти лет мы определяем государственную деятельность (соотвественно, и бюджетные траты) в сфере IT как наиболее подверженную серьезным коррупционным рискам и рискам злоупотреблений. О чем мы неоднократно информировали ответственные государственные органы. "Откаты" в цифровом секторе могут достигать 70%, а немалая часть многомиллиардных проектов в этой сфере не несет какой-либо ощутимой пользы ни для государства, ни для общества и является лишь источником обогащения конкретных групп лиц. Воровать деньги на IT стало очень популярно и прибыльно на самых разных уровнях и сферах государственного и муниципального управления. Понятия "цифровизация, внедрение ИИ", к сожалению, стали ассоциироваться у многих специалистов с крупными, откровенно мошенническими "проектами". Крайне интересно, что новый руководитель главного контрольного органа нашей страны свой самый первый шаг в работе публично сделал именно в этом направлении. Думаю, что такое решение возникло неспроста и даже, вероятно, согласовано с Главой государства. Возможно, после такого заявления кто-то уже сильно занервничал и в Белом доме. Будем внимательно следить за развитием событий, а если попросят, то можем и помочь.

В Госдуме предложили разрешить предъявлять полиции цифровые паспорта С инициативой разрешить гражданам предъявлять полиции электронную версию паспорта из мобильного приложения портала "Госуслуги" выступили депутаты Государственной Думы. Автором предложения является Владислав Даванков. Парламентарии предлагают разрешить гражданам предъявлять паспорт с Госуслуг в трех дополнительных случаях: - при требовании сотрудников правоохранительных органов; - при пересечении государственной границы (при прохождении паспортного контроля в аэропортах на внутренних рейсах); - при проверке водительских удостоверений сотрудниками ГИБДД. Депутаты напомнили, что в октябре прошлого года был разработан проект постановления Правительства РФ, согласно которому вместо бумажного паспорта граждане будут иметь право предъявлять его цифровую версию в ряде случаев. Однако среди них указанных выше вариантов нет. Соответствующие предложения уже направлены в Минцифры для их включения в проект постановления кабмина. Следует отметить, что предоставление права гражданам подтверждать свою личность с помощью электронной версии паспорта позволит избежать множества ситуаций, когда человек не имеет при себе бумажной версии паспорта. Такой вариант подтверждения личности является удобным, особенно в летнее время, когда бумажные документы носить с собой просто неудобно. В условиях тотальной цифровизации всех сфер деятельности, использование электронных версий документов, например выписки из ЕГРЮЛ, давно вошло в гражданский оборот. Поэтому использование цифровой версии паспорта гражданина РФ является современным и удобным способом подтверждения личности, отвечает потребностям большей части общества. Поддерживаю инициативу и рассчитываю, что Минцифры и Правительство РФ одобрят предложение депутатов и гражданам разрешат использовать электронные версии документов, удостоверяющие личность.

Финразведка и кредитные организации обсудят упрощение открытия счетов без визита в банк Росфинмониторинг концептуально поддерживает предложение банков открывать счета клиентам без посещения офиса кредитного учреждения, если ранее они уже прошли личную проверку в другом банке. Механизм по мнению ведомства может стать альтернативой биометрии. Банки просят внести изменения в «антиотмывочный» 115-ФЗ, которые позволят им принимать на обслуживание новых клиентов и открывать им счета без их личного присутствия в случае, если такие клиенты ранее прошли проверку при личном присутствии в другом банке. Они указывают, что такой механизм уже работает на финансовых маркетплейсах: те кредитные организации, которые предоставляют услуги через них, могут принимать на обслуживание новых клиентов удаленно. Сейчас такое право не распространяется на случаи, когда идентификация была поручена другой кредитной организации. Росфинмониторинг «полагает возможным концептуально поддержать» это предложение банков, но считает необходимым дополнительно изучить детали, в том числе условия функционирования предлагаемого механизма. Кроме того, ведомство считает целесообразным оценить востребованность нового сервиса на финансовом рынке в части готовности кредитных организаций осуществлять обмен клиентскими базами, а также при получении одобрения инициативы со стороны Банка России. И снова при решении вопроса, касающегося персональных данных граждан, коммерческими организациями и гос.учреждениями выстраивается модель принятия решений, которая основана на интересах коммерческих организаций во главе с ЦБ РФ, а мнение граждан - клиентов банков по такому важному вопросу фактически не учитывается. Такой подход к внедрению сервисов, касающихся персональных данных, не должен применяться в нашей стране, так как нарушает права субъектов персональных данных (граждан). Передача полномочий по идентификации клиентов всегда несет риски, так как у всех кредитных организаций разные подходы к организации внутреннего контроля в целях противодействия отмыванию средств, контроля рисков мошеннических действий, утечек данных. Считаю, что любое обсуждение использования сервисов на основе персональных данных граждан, особенно биометрии, должно проводиться с участием общественности и независимых экспертов. В противном случае, обсуждаемые "благие инициативы" коммерческих банков грозят новыми убытками для граждан, поскольку открывать счета дистанционно и брать кредиты мошенникам может стать значительно проще.

Новый глава Счетной палаты анонсировал проверки цен у IТ-компаний Руководитель Счетной палаты анонсировал проверки цен в сфере цифровизации. Он напомнил об отмене моратория на антимонопольные проверки IT-компаний и отметил, что знает "не понаслышке, как идет цена продукта от вендора заказчику". Зачастую, по его словам, заказчик даже не определяет, кто у него победил, а цена определяется путем договоренности между вендорами и интегратором. Такие случаи подлежат выявлению, проверке и реакции государства. Ранее ФАС сообщала о "большом количестве жалоб" бизнеса и потребителей на доминирующие компании, проверки которых невозможны из-за запрета. Примером выступает ситуация с сервисом "Яндекс.GO", которая занимает 80% рынка. Жалобы в ФАС связаны как со стоимостью поездок, так и с блокировками водителей и пассажиров на платформе фактически без объяснения причин, что является злоупотреблением доминирующим положением. Аналогичная ситуация с нарушениями происходит с сервисом объявлений "Авито", о чем я сообщал ранее в своих постах. Отмечу, что снятие моратория на проверки позволит эффективно бороться со злоупотреблениями доминирующих цифровых сервисов и платформ, защитить права и интересы малого и среднего бизнеса, не допустить создания картелей и монополий в сфере информационных технологий, Такие меры кране необходимы для развития добросовестной конкуренции на рынке IT-технологий, а также пресечения нарушения прав граждан доминирующими на рынке компаниями.

В Госдуме предложили маркировать контент нейросетей Депутаты ведут разработку концепции закона о маркировке контента, созданного при помощи нейросетей. В частности, изучается законодательный опыт других стран, идут консультации с экспертами, работа над формулировками базовых дефиниций, сообщили парламентарии. Авторы концепции отмечают, что Интернет уже переполнен контентом, который создают боты, алгоритмы и отличить реальное от нереального становится действительно очень сложно. Развитие ИИ-сервисов без необходимого контроля несет опасность появления огромных массивов не только никем не проверенных текстов, но и даже полностью выдуманных фактов, цифр и данных. Человеку важно иметь представление о том, с чем он имеет дело, отличать реальное от нереального, как и в случае с рекламой, - пользователя очень легко обмануть и завлечь куда-то, а задача государства не позволить это сделать. Предполагается, что маркировка будет осуществляться при помощи графических или водяных знаков, четкой и заметной для любого пользователя, чтобы он понимал, какой контент перед ним и мог более тщательно его анализировать. В силу того, что пока не ясно, какая экспертиза позволит распознавать степень участия машины и человека в одном и том же тексте, планируется, что российские ИИ-сервисы должны будут автоматически маркировать любые сгенерированные тексты. В первую очередь это коснётся российских компаний, развивающих компетенции в области генеративных нейросетей - "Сбер" и "Яндекс". Учитывая, что часть контента, созданного с использованием искусственного интеллекта, создаются злоумышленниками, ждать его маркировки от создателей не приходится. Поэтому депутаты считают, что логично наделить РКН новыми полномочиями, специалисты которого могли бы проводить экспертизу для выявления такого контента и принудительно его маркировать или блокировать, если материалы распространяются в противоправных целях. Отмечу, что в текущем году сфера ИИ все чаще обсуждается органами власти. Так, совсем недавно обсуждался вопрос маркировки дипфейков. Очевидно, что новые технологии действительно развиваются стремительно, а ИИ проникает во все новые новые сферы деятельности человека. Маркировка искусственно созданного контента является разумным шагом для информирования граждан о происхождении материалов, что позволит отделить достоверные данные от вымысла и оперировать проверенными сведениями, получаемыми гражданами в сети Интернет.

Ущерб от кибер преступлений в 2023 году вырос По информации, озвученной главой МВД России В.Колокольцевым, в прошедшем году ущерб от IT-преступлений (краж и мошенничеств в цифровом пространстве) достиг 156 млрд рублей. Это новый "рекорд" причиненного ущерба, который стал возможен в первую очередь из-за массовых утечек персональных данных граждан. Не лучше обстоят дела в Китае, на опыт которого ссылаются некоторые эксперты, приводя в пример методы борьбы с утечками данных в этой стране. Как стало известно, в Интернете обнаружен колоссальный набор данных, содержащий личную информацию исключительно граждан Китая. Первая запись была добавлена 29 апреля 2024 года, а всего за неделю количество слитых персональных данных граждан увеличилось до 1 230 703 487 записей, то есть сведения о 1.2 млрд. китайцев. Слитые сведения включают в себя: имена, номера телефонов, адреса электронной почты, домашние адреса, заказанные услуги, номера банковских карт, выплаченные суммы по страховке, номера учётных записей QQ, учётные данные соцсетей, паспортные данные и т.д. Мошенники могут использовать эту информацию для проведения масштабных мошеннических операций, включая спам и фишинг. Телефонные номера, в частности, могут быть использованы для аутентификации или восстановления доступа к аккаунтам, что увеличивает риск кражи личной информации или несанкционированного доступа. Такой масштабный слив данных свидетельствует о провальной политике обеспечения инфобезопасности в Китае, который ставят в пример отечественные эксперты. Полагаю, после таких объемов утечки персональных данных в Китае могут ввести самые суровые меры ответственности за кибер-преступления и утечки данных. Анализируя общемировые масштабы кибер-преступности и ее последствия (ущерб 100+ млрд. долларов в год), очевидно, что принимаемые в нашей стране меры (уголовная ответственность, оборотные штрафы) являются обоснованными и будут способствовать реальному снижению количества утечек чувствительной информации. Предлагаемые экспертами и АБД "отраслевые стандарты" являются декларацией, которая вряд-ли остановит рост неправомерного распространения конфиденциальных сведений граждан.

Тема обеспечения инфобезопасности продолжает активно обсуждаться Пока в Госдуме находятся на рассмотрении законы о введении уголовной ответственности за утечки данных и оборотные штрафы для компаний-нарушителей, экспертное сообщество совместно с бизнесом приводят все новые доводы о вредности суровых мер ответственности за утечки данных. Так, эксперты ссылаются на опыт зарубежных стран, приводят в пример Китай и США, в которых приняты единые стандарты защиты данных и компании могут оштрафовать за их нарушение, а не за сам факт утечки данных. Такой пример, на мой взгляд, не является разумным, поскольку принимаемые меры в нашей стране направлены именно на предотвращение информационных инцидентов, а не только для соблюдения тех же рекомендаций РКН. Далее эксперты говорят о плотной совместной работе и взаимодействии зарубежных IT компаний с государством, чего не наблюдается в нашей стране, что в России вводятся только лишь карательные меры. Такая ситуация, по мнению экспертов, отбивает желание бизнеса инвестировать в кибер безопасность, что увеличивает риски утечек данных. Не могу согласиться с такими выводами, поскольку утечки данных происходят в нашей стране не первый год, бизнес имел достаточно времени, чтобы исправить ситуацию в сфере собственной инфобезопасности, но вместо этого мы увидели новые случаи массовых утечек данных и небывалый рост кибер-преступности. Разработка АБД отраслевого стандарта защиты данных по сути является декларацией, не решает ситуацию и направлена на уход или смягчение ответственности за утечки данных. Поэтому следует констатировать, что вместо инвестиций в инфобезопасность, предотвращения фактов утечек данных, компании принимают шаги, направленные в основном на обход вводимой государством ответственности, что выражается в перекладывании обязанностей по обработке персональных данных клиентов на другие мелкие компании, которые и будут нести ответственность за утечки. Опыт зарубежных стран в настоящее время не применим в нашей стране, поскольку в Китае и США совсем другое отношение к персональным данным клиентов - компании не считают их своей собственностью и проявляют максимальную осторожность при их обработке. В нашей же стране компании, собирая данные клиентов, в большинстве случаев считают полученную информацию своей собственностью, которой они могут распоряжаться как захотят. Будем надеяться, что принимаемые законы об ответственности за утечки данных существенно изменят отношение бизнеса к данным граждан.