Этика и цифра

Чуть более месяца назад Amazon отказался от приобретения компании iRobot — производителя роботов-пылесосов с алгоритмами ИИ. Сделку, которая оценивалась в $1,4 млрд, сорвали регулирующие органы ЕС. Причина — стандартная. По мнению еврочиновников, сделка могла ограничить конкуренцию на европейском рынке роботов-пылесосов. Однако, оказывается, были и другие мотивы, куда более забавные. В аналитической компании CB Insights не поленились и изучили 43 000 страниц документов, подготовленных регулирующими органами и другими причастными ведомствами ЕС. И вот там обнаружились любопытные опасения: ▪️ использование европейцами пылесосов iRobot может привести к сокращению рабочих мест для людей, занятых на уборке частных домов. ▪️ Amazon будет использовать встроенную в пылесосы технологию машинного зрения для анализа содержимого их мусоросборников и в особенности — пищевых крошек. С помощью полученных данных технологический гигант сможет лучше таргетировать рекламу и предлагать специальные цены на продукты, остатки которых валялись на полу. ▪️ и вообще — данные о пищевых предпочтениях европейских граждан, по мнению чиновников, должны оставаться конфиденциальными. В общем, коварный замысел раскрыт и злодеи повержены. А если кроме шуток, задумался — действительно, как много всего можно при желании узнать о хозяевах пылесоса. Вот содержимое вашего пылесоса что о вас могло бы рассказать?

Департамент юстиции США запускает программу Justice AI для борьбы с преступностью с помощью этичного ИИ Привет всем! Департамент юстиции США объявил о запуске проекта Justice AI - амбициозной инициативы, направленной на модернизацию борьбы с преступностью при помощи этичного ИИ. Возглавляемая заместителем генерального прокурора Лизой Монако, инициатива Justice AI предполагает сбор информации от экспертов из различных отраслей для изучения влияния искусственного интеллекта на правоохранительную деятельность. В течение следующих шести месяцев эксперты будут сотрудничать и представлять точки зрения, которые лягут в основу доклада для президента Джо Байдена о роли ИИ в системе уголовного правосудия. В рамках более широкой стратегии развития ИИ Минюст США назначил Джонатана Майера своим первым руководителем по ИИ. Майер, уважаемый ученый с опытом работы в области информатики и права, будет консультировать по вопросам ИИ и кибербезопасности. #DOJ #JusticeAI #EthicalAI

Исследователи Group-IB забили тревогу: обнаружен первый троян для iOS, который умеет похищать биометрические данные пользователей и использовать Face ID для авторизации в разных банковских сервисах. При этом люди сами передают ему сканы своих лиц, не подозревая о последствиях.

Вводятся беспрецедентные нормы слежки за россиянами-путешественниками. Гигабайты персональных данных будут храниться семь лет, доступ дадут силовикам https://safe.cnews.ru/news/top/2024-02-22_v_rossii_vvodyatsya_bespretsedentnye

С начала 2024 г. в сеть попали более 510 млн записей россиян, сообщили в пресс-службе Роскомнадзора. РКН выявил 19 фактов утечек персональных данных.

😰 Хакеры воруют личность человека с помощью слитых персональных данных В прошлом году 57% успешных кибератак закончились утечкой конфиденциальной информации. Роскомнадзор зафиксировал 168 утечек, в результате которых в открытый доступ попало более 300 млн записей. И главная опасность тут — фальсификация личности с целью хищения денег. Проблема эта не только российская. В конце января специалисты Security Discovery и Cybernews нашли в даркнете базу данных размером более 12 Тб. Содержала она 26 млрд записей о профилях пользователей Telegram, VK, Dropbox, Canva, Weibo, Adobe, LinkedIn и с других площадок со всего мира. Это одна из крупнейших утечек за всю историю, из-за чего ее прозвали Mother Of All Breaches (Мать всех утечек). Для чего мошенники используют слитую информацию👇 1⃣ Чтобы втереться в доверии. Отсюда вечные звонки из служб безопасности банка, полиции и других важных «организаций». 2⃣ Чтобы украсть вашу личность. Так открываются банковские счета, выдаются «левые» кредиты и даже совершаются преступления от имени пользователя. Причем с последним активно помогает искусственный интеллект. Уже даже придумали новую технологию для фальсификации биометрии — морфинг. С помощью данных из соцсетей и ИИ мошенники создают фотографию лица, одновременно похожую на вас и на мошенника. После этого берутся утекшие персональные данные, создается подделка паспорта и вклеивается фотография. Самое интересное, что если посмотреть на фотографию и лицо человека, они будут похожи. Если посмотреть на эту же фотографию и лицо мошенника, то они тоже будут похожи. По словам доктора технических наук, генерального директора Smart Engines Владимира Арлазарова, существует уже несколько реально работающих схем хищения денежных средств с использованием морфинга.

😧 Жителя Техаса арестовали из-за ошибки системы распознавания лиц В январе 2022 года двое мужчин вошли в магазин Sunglass Hut в Хьюстоне и, угрожая персоналу пистолетом, забрали наличные деньги и товары с полок, после чего скрылись с места преступления. Чтобы найти преступников, компания использовала технологию распознавания лиц. К их радости, совпадения обнаружились, и в вооруженном ограблении обвинили жителя Техаса Харви Мерфи-младшего. Бедолагу посадили в тюрьму строгого режима, где его избили и сделали другие ужасные вещи. Только спустя две недели прокуроры убедились, что в момент ограбления Мерфи физически не находился в штате. После освобождения пострадавший подал в суд на американскую сеть универмагов Macy's и материнскую компанию Sunglass Hut и требует от компаний $10 млн за неправомерный арест из-за ошибки программного обеспечения для распознавания лиц.

В Сети оказались 26 млрд записей персональных данных со всего мира. Это крупнейшая утечка из всех известных была обнаружена в результате совместного исследования онлайн-издания Cybernews и компании SecurityDiscovery.com. Информация слита из аккаунтов в LinkedIn, Telegram, X (Twitter), Weibo, Tencent. Утечка сама крупная из всех известных и специалисты назвали такое скопление информации «матерью всех взломов», или MOAB.

Канадская правовая система впервые столкнулась с генерированными ИИ фальшивыми прецедентами Привет всем! Канада столкнулась с первым случаем, когда искусственный интеллект фабрикует фиктивные судебные дела. Адвокаты Лорн и Фрейзер Маклин обнаружили поддельное прецедентное право в гражданском процессе, что стало потенциально разрушительным эпизодом для юридического сообщества. Утверждается, что адвокат Чонг Ке использовала ChatGPT для подготовки правовой позиции, невольно представив в суд несуществующие дела. Этот инцидент подчеркивает опасность бесконтрольного использования материалов ИИ в судопроизводстве. Последствия могут включать в себя финансовые затраты и ошибочные судебные решения. Этот случай в очередной раз заставляет задуматься о надежности использования инструментов ИИ в юридической практике. #AIGeneratedCases #LegalAI #CanadaLaw #ChatGPT #LegalTech

Своей главной задачей 93% специалистов по защите персональных данных (Data Protection Officer, DPO) из стран ЕС и Великобритании назвали предоставление рекомендаций по приватности внутри своих организаций. На втором месте — создание и обновлении уведомлений о конфиденциальности, далее идет обучение сотрудников (88%). Пресловутые согласия на обработку ПД в конце списка приоритетов — 64%.