ПДС

🇮🇱👾🚀 Полагаясь на решения ИИ-системы Lavender, армия Израиля нанесла удары (в том числе и по жилым домам) в отношении 37 тыс. палестинцев, подозреваемых в принадлежности к боевикам ХАМАС. Итоги этой деятельности известны — ХАМАС так и не потерял боеспособности, военная операция не достигла ожидаемого успеха, зато жертвами конфликта в секторе Газа стали 33 545 мирных палестинцев, а 76 094 человека получили ранения. Разрешение на автоматическое включение Lavender людей в список целей на ликвидацию, ранее использовавшееся только в качестве вспомогательного инструмента, было получено после того, как сотрудники разведки «вручную» проверили точность случайной выборки из нескольких сотен целей, выбранных ИИ-системой. Когда выборка показала, что результаты Lavender достигли 90% точности в определении принадлежности человека к ХАМАС, было санкционировано её широкомасштабное применение. С этого момента, если система решала, что, то или иное лицо — боевик ХАМАС, то он без дополнительной проверки включался в «расстрельный список». А как только кто-то из включенных с список оказывался дома, то он сразу становился целью для авиаудара. В результате ЦАХАЛ, особенно в первые недели конфликта, не колеблясь наносила ракетно-бомбовые удары по жилым домам, что приводило к гибели тысячи палестинцев, большинство из которых составляли мирные жители, не участвовавшие в боевых действиях, в первую очередь — женщины и дети. Использование алгоритмов искусственного интеллекта в разведывательной деятельности оправдано ровно настолько, насколько достоверны и прозрачны для проверки исходные данные и алгоритмы, используемые для их обработки. Но если аналитики разведки и разработчики ИИ вовремя не выявили рубежные ограничения технологии или допустили внесение в алгоритм изначально ошибочных аналитических методологий, то те же самые проблемы возникнут в последствии и у разведывательного продукта, создаваемого с помощью искусственного интеллекта. Об опыте боевого применения ИИ-систем Израилем в секторе Газа рассказывают Виталий Чугунов и Александр Доронин. https://russiancouncil.ru/analytics-and-comments/columns/cybercolumn/boevoe-primenenie-ii-sistem-izrailem-v-sektore-gaza-eticheskie-problemy/

Первый день XXII Дипломатического семинара молодых специалистов📲 📌Рабочая часть программы началась с секции об ИИ для подготовки нового поколения международников. После мастер-классов по использованию инструментов GigaChat, Python и «Талисман» участникам рассказали о применении нейросетей для анализа баз данных. Главное из выступлений экспертов: ⚪️Характерная черта нынешней эпохи — переизбыток информации. Дипломаты и ученые за день получают больше данных, чем раньше за месяц. ⚪️Публичные источники позволяют следить за выступлениями первых лиц или сменой курса политических партий, помогают проверить информационную картину на реальность. ⚪️Некоторые нейросети способны генерировать исследовательский вопрос и предлагать гипотезы. ⚪️Навык анализа данных на рынке труда будущего — не залог успеха, а сдерживающий от провала фактор: им будут владеть многие специалисты. ⚪️Не нужно переоценивать потенциал ИИ: нейросеть не заменит студентам научного руководителя и не решит всех проблем, стоящих перед учеными. 👉Полная новость — на сайте Фонда! #дипсеминар 1️⃣1️⃣1️⃣1️⃣

АНТИ-ЭКСПОРТ ИИ В США #ИИ #право США еще больше ограничит экспорт искусственного интеллекта. На днях американские законодатели представили двухпартийный законопроект, который упростит администрации Байдена введение ограничений на вывоз ИИ-технологий, созданных в США. Документ предоставит Министерству торговли США "явные полномочия" для регулирования экспорта открытых моделей ИИ и ограничения сотрудничества американских граждан с иностранными представителями в разработке систем ИИ, которые могут угрожать национальной безопасности США. Нормы, в частности, коснутся модели Llama, которая уже используется Китаем и Россией. T.ly/rglDC

#AIrelations На Академическом Форуме БРИКС сделали дискуссию с обсуждением международного сотрудничества в развитии ИИ. Китайский эксперт рассказал про инициативу Пекина создать специальную структуру, которая будет преследовать цель выработать общий подход к ИИ на уровне БРИКС. Российская сторона предложила свой проект использования совместных интересов в сфере ИИ для углубления экономической и политической интеграции объединения. При этом все сошлись на том, что ИИ не должен стать новым элементом глобального неравенства, поэтому нужно недопустить монополизацию управлением развитием ИИ, как это ранее произошло с Интернетом. Можно сказать точно - политики и эксперты всё отчетливее понимают важность ИИ для мировой политики. А значит нужно готовиться к борьбе естественных разумов за управление искусственным

Financial Times сообщила о запуске китайскими властями чат-бота, обученного на идеях Си Цзиньпина. Языковую модель обучили на политической доктрине «Идеи Си Цзиньпина о социализме с китайской спецификой новой эпохи» и другой литературе, предоставленной Управлением кибербезопасности Китая. Пока нейросеть использует только исследовательский центр под руководством САС. Но в будущем чат-бот могут сделать доступным для более широкого круга пользователей, отмечает газета. «Идеи Си Цзиньпина о социализме с китайской спецификой новой эпохи» вышли в форме книги в 2023 году. Она содержит отрывки из докладов, выступлений и статей Си Циньпина в период с 2012 года. Фото: Kevin Frayer / Getty Images

Привет, эксперты. Возвращаемся к зарубежным технологическим дорожным картам. На этот раз у нас в руках оказалась дорожная карта «По развитию ИИ-технологий», разработанная весной этого года двухпартийной рабочей группы Сената США. Документ полезен уже тем, что дает нам базовое представление о том, какие риски видят американские законодатели в развитии ИИ. Вы будете смеяться, но у наших с ними очень много общего. Документ содержит не перечень конкретных мер, а, скорее, ряд разбитых на треки рекомендаций рабочей группы по поддержке и регулированию ИИ-технологий в США. Ниже мы в разбивке по трекам перечисляем самое интересное. 1. Поддержка инноваций США в области искусственного интеллекта ➖ Правительство должно искать возможность финансировать все потребности отрасли из бюджета. Речь идет о выделении на поддержку индустрии как минимум $32 млрд ежегодно. Деньги пойдут на разработки, а также исследования в области базовых принципов работы ИИ: прозрачность, конфиденциальность, совместимость и безопасность. ➖ Необходимо расширить применение пока еще пилотного проекта Национальный исследовательский ресурс по ИИ (NAIRR). Проект направлен на предоставление дорогостоящих вычислительных мощностей, наборов данных, моделей ИИ и других инструментов академическим исследователям ИИ, которые часто испытывают трудности с доступом к таким ресурсам. ➖ Часть инициатив касается использования ИИ в обороне. Так, рабочая группа считает целесообразным разработать платформу, которая позволит командирам обучаться, а затем и эффективно использовать ИИ в военных целях. Судя по документу, речь идет и о том, чтобы задействовать ИИ при принятии решений. 2. ИИ и трудовые ресурсы ➖ Нужно разработать законодательство, которое обеспечит граждан возможностями обучения, переподготовки и повышения квалификации для успешного участия в экономике с использованием искусственного интеллекта. ➖ Еще одно предложение – расширить применение госпрограмм по привлечению талантов в области ИИ в США. 3. Эффективное и безопасное использование ИИ ➖ Американские законодатели осознают риски того, что ИИ-решения будут работать по принципу «черного ящика», когда не известны ни принципы работы решений, ни их цели. Поэтому группа призывает разработать меры регулирования, которые сделают механизмы ИИ-решений прозрачными ➖ Нужно разработать регулирование, которое защитит детей от угроз технологий, основанных на ИИ. Речь идет, в том числе о рекомендательных механизмах социальных сетей ➖ Необходимо запретить использование ИИ-технологий при работе социальных рейтингов и похожих решений ➖Требуется изучить подходы к защите граждан от использования ИИ в мошеннических целях 4. Выборы и демократия, авторские права ➖Необходимо ввести маркировку дипфейков для защиты от дезинформации на выборах ➖Требуется разработать механизмы, запрещающие ИИ распространять личные данные граждан ➖ Нужно разработать законодательство обязать поставщиков онлайн-платформы информировать аудиторию о происхождении контента. Проще говоря, зритель должен знать, что заставка в сериале на HBO сгенерирована ИИ. Как и сценарий, актер и т.д. ➖Требуется изучить возможность разработки законодательных актов, которые защитят граждан от несанкционированного использования ИИ их голосов, изображений, фотографий и т.д. 5. Защита от рисков ИИ и обеспечение национальной безопасности ➖ Группа рекомендует государству поддерживать инициативы, связанные с тестированием новых ИИ-решений. Речь идет, в том числе о работе красных команд и Bug Bounty. ➖ Требуется изучить плюсы и минусы внедрения ИИ с открытым исходным кодом и проприетарным кодом ➖ Нужно расширить для талантливых разработчиков ИИ возможности при поступлении на службу в армию ➖Целесообразно учитывать риски, при которых злоумышленники будут использовать ИИ для разработки химического и бактериологического оружия, а также не допускать доступа злоумышленников к ИИ мощностям. ➖ Необходимо ужесточить экспортный контроль за технологиями, способствующими развитию искусственного интеллекта. Такие вот дела, товарищи.

Подборка полезных ссылок про данные, технологии и не только: - Scrapegraph-ai проект с открытым кодом по интеграции языковых моделей в задачи скрейпинга данных с сайтов. Выглядит как бэкэнд для будующих и текущих проектов по скрейпингу для не-Итшников или как полезный инструмент тем кто хочет упростить себе эту работу. - pyspread альтернатива Excel написанная на Python. Открытый код под почти все платформы. Может показаться странным, но, как минимум, идея заслуживающая внимания. - Substrait межязыковая сериализация операций над данными. Спецификация, будет понятна всем кто делает запросы к данным в разных СУБД и не только SQL и непонятна тем кто с таким не сталкивался. Одна из попыток создать универсальный подход/язык запросов поверх десятков диалектов SQL - Data Council 2024 видео с выступлениями спикеров конференции Data Council 2024 в Austin. Много интересного по дата инженерии, стандартам и созданию больших датасетов. Хорошая концентрация интересных докладов - nimble новый формат хранения больших колоночных данных. Под открытой спецификацией, сделан внутри Meta. Подробнее в выступлении рассказывают про главный акцент на скорости загрузки датасетов и о том что загрузка датасетов для ML задач занимает до 30% времени. #opensource #data #datatools

🌴 Яндекс на конференции Data Fest! Это мероприятие крутых ребят из ODS — самого крупного независимого сообщества ML- и DS-специалистов в России. Мы тоже там будем: покажем, как используем и развиваем нейросетевые технологии в своих сервисах. А ещё мы пригласим сильных ML-экспертов к себе в гости! 🔘 Конференция начнётся 24 мая с препати от Яндекса На открытии мы устраиваем вечеринку, где вас ждут холиварные дебаты на вечные темы в ML и бир-понг. А ещё, конечно, напитки, закуски, игры, танцы под диджей-сеты и караоке. Всё для веселья и нетворкинга — а что ещё нужно в первый день большой конференции? 🔘 И завершится 2 июня офлайн-днём в офисе Яндекса Это полноценный день конференции, который пройдёт у нас. Будет много крутых докладов, экскурсия по нашему офису, гонка роботов, возможность напечатать свой Шедевр и много других классных активностей! ℹ️ Подробную информацию о Data Fest, нашем треке и наших активностях можете найти на сайте. И не откладывайте регистрацию, ведь места могут закончиться в любой момент! Подписывайтесь: 💬 @Yandex4ML 📹 @YandexforML

Цикл хайпа становится всё короче, и новые профессии умирают, не успев родиться. Только недавно мы пели оды новой профессии промпт-инженера, искусно формулирующего запросы искусственному интеллекту, как сегодня ей уже устроили поминки. ➡️ Новые исследования показывают, что запросы искусственному интеллекту лучше всего формулирует он сам. Разработчики из калифорнийской компании облачных вычислений VMware решили протестировать, действительно ли LLM выдаёт лучший ответ, если добавлять в запрос фразы вроде «Объясни свой ответ шаг за шагом», «Ты такой же умный, как ChatGPT», «Вы эксперт в математике, мне действительно нужна ваша помощь!». Исследователи протестировали три разные модели с открытым кодом и 60 подобных фраз, предложив решить математические задачи. Вывод: корреляция между качеством ответа и наличием/отсутствием «мотивирующего» промпта отсутствует. Исследователи предложили LLM самим сгенерировать промпт, и тот работал намного лучше. В итоге, альтернативой методу перебора, который используют промт-инженеры в поиске рабочих ключевых фраз, станут ИИ-модели, которые будут выводить их на основе данных. Компании уже работают над ИИ-промптингом Свой промпт-генератор запустила компания Antropic на основе собственного чат-бота Claude. Инструмент доступен в Anthropic Console. Он сам вставляет нужные переменные в ваш базовый запрос, чтобы добиться максимум результата. 🖼 Любопытно, что ИИ-промты работают лучше человеческих и в случае с генерацией изображений. Команда Intel Labs сейчас работает над оптимизацией промта для модели генерации изображений Stable Diffusion XL. Называется сервис NeuroPrompts. Он модифицирует простые промпты вроде «пятнистая лягушка на велосипеде», добавляя не всегда логичные для человека описание вроде «пятнистая лягушка на велосипеде, сложная, элегантная, высокодетализированная, цифровая живопись» — и картинка на выходе получается лучше.