Sachok AI

На прошлой неделе опубликовалась научная статья про проблемы бенчмаркинга возможностей моделей в кибербезопасности. Исследование было произведено на базе 10 моделей и 8 бенчмарков (все построены на базе вопросов, а не заданий). Выявили типовые ошибки при оценке моделей. Будет полезно в первую очередь тем, кто сам проектирует свой бенчмарк или оценивает доверие к внешнему бенчмарку. Как оценка возможностей текущих моделей не подойдет - исследуются не самые актуальные модели. Общий вывод - ошибки при бенчмаркинге могут приводить к изменению результата больше чем на 80 процентов итогового результата.

В ближайшее время в Агентстве национальной безопасности США начнется самая масштабная реорганизация за последнее десятилетие. Изменения предполагают создание пяти директоратов по профильным направлениям: ИИ, Китай, кибербезопасность, боевая поддержка и глобальная разведка. Также будет воссоздано элитное хакерское подразделение Tailored Access Operations, де-факто ликвидированное в 2016 году. График реорганизации АНБ весьма жесткий: запуск проекта ожидается в середине октября, а достижение «полной операционной готовности» запланировано на середину января 2027 года. 👉 Подробности — в материале «Ъ». ▪️ Подписывайтесь на «Ъ» в MAX | в Telegram

Посвящается тем кому 30+ в ИТ #meme

Anthropic обвинила связанные с Китаем группы в военном применении Claude Claude использовали при подготовке противоторпедной системы и около 16 модулей для подавления ПВО, утверждает Anthropic. Один из сценариев включал 12 целей на Тайване — от комплексов Patriot до командного бункера. Другой масштаб — обучение китайских ИИ. По данным компании, связанные с Alibaba операторы провели более 151 млн диалогов с Claude за три месяца, чтобы перенести его навыки рассуждения и программирования в Qwen 3.x. 🔗 Читать: https://mltimes.ai/anthropic-obvinila-svyazannye-s-kitaem-gruppy-v-voennom-prim/

«Слоп-джихад»: террористы начали использовать ИИ для создания мемов и роликов в соцсетях, чтобы радикализировать и вербовать молодых людей. Пугающая тенденция получила название «слоп-джихад». Вместо реальных жестоких кадров ИИ генерирует контент, используя персонажей поп-культуры, мемы, а также подачу фанатских эдитов. Например, герои мультфильма «Губка Боб» могут в игровом ключе воссоздавать казни, которые происходили в реальной жизни. Цель такого контента — привлечь внимание молодежи через развлекательный формат и геймификацию, чтобы затем затянуть их в закрытые каналы с более жесткой экстремистской пропагандой. В отчете Института стратегического диалога зафиксировано уже 150 подобных видео на 71 аккаунте в TikTok, и эти ролики суммарно набрали более 5,4 млн просмотров. Этот сдвиг говорит о фундаментальной трансформации эстетики джихадистской пропаганды в сети.

Нечеткая логика в ИБ: сокращаю очередь уязвимостей в 7,5 раз, сравниваю с CVSS, EPSS и методикой ФСТЭК На Хабре разобрали приоритизацию уязвимостей через нечёткую логику. Автор собрал два контура: первый оценивает техническую срочность по CVSS, EPSS и возрасту CVE; второй учитывает доступность компонента, критичность актива и компенсирующие меры. Всего 38 правил с плавными переходами между уровнями срочности. В эксперименте на 193 120 CVE порог CVSS ≥ 9.0 сформировал очередь из 27 480 записей и охватил 24 уязвимости, позднее добавленные в CISA KEV. Корзина «немедленно» у нечёткой модели — 3 654 записи и 25 таких уязвимостей. Отсюда и сокращение в 7,5 раза: речь о размере выбранной очереди, а не об измеренных трудозатратах команды. Самая содержательная деталь — проверка без возраста CVE. AUC упал с 0,861 до 0,742: результат заметно зависит от учёта свежести уязвимости. При этом для охвата половины положительных примеров простая взвешенная сумма почти сравнялась с нечёткой моделью: 9 584 против 9 550 задач. Оговорки существенные: всего 68 положительных примеров; добавление в KEV не устанавливает дату начала эксплуатации. Сравнение с методикой ФСТЭК выполнено с допущениями вместо реального контекста организации. Кейс полезен как повод проверить собственные правила приоритизации: какой сигнал улучшает очередь и сохраняется ли выигрыш при сравнении с простым методом. Статья на Хабре 🌚 @poxek | 🌚 @poxek_ai | 📲MAX

Обновился бенч по преступлениям ИИ моделей. Если вынести за скобку юмористическую часть, то его нужно учитывать при оценке риска блокировки платформы. Если компания потребляет услугу доступа к ИИ платформе, которая последовательно совершает преступления и публично это признает, как минимум соучастие, нельзя считать риск заметного ограничения действий такой компании ненулевым. После сентябрьского отчета, где явно указано использование сервисов Anthropic для содействия созданию: 1. Биологического оружия. 2. Кибероружия. 3. "Обычного" вооружения. 4. Нарушения тайны связи и оборота персональных данных. Если по итогам этого отчета будет инициировано расследование, а по составу потенциальных нарушений нельзя даже исключать формат международного трибунала, возможность Anthropic предоставлять сервисы на прежних условиях станет непросто спрогнозировать. Anthropic отчетом фактически признается в своей неспособности реализовать соблюдение сразу нескольких ключевых норм (экспортный контроль, биологическое оружие).

ИИ по талону: государство оплатит малому бизнесу первый год подписки целиком ▶️ Профильные ведомства - Минцифры, Минэкономразвития и Минфин - предварительно одобрили две меры финансового стимулирования отечественных разработчиков искусственного интеллекта. Речь идёт о субсидии и инвестиционном налоговом вычете. Что предлагают: ⏺️ субсидии предлагается выплачивать разработчикам как компенсацию скидок, которые они предоставляют МСП на ИИ-решения. Размер выплаты будет соответствовать размеру скидки. ⏺️ мера должна распространяться на российское реестровое ПО и ПАК с ИИ-функциональностью, прежде всего на тиражные продукты и облачные сервисы. ⏺️ предполагается, что в первый год государство сможет компенсировать до 100% стоимости продукта или годовой подписки, во второй - до 50%, в третий - до 25%. ⏺️ предельная сумма поддержки составит 200 тыс. рублей в год. Для одного клиента поддержка рассчитана на три года, при этом продлить субсидию на тот же продукт будет нельзя. ⏺️ администратором программы предлагают назначить РФРИТ или другой институт развития, который уже работает по модели субсидирования российских цифровых решений. Региональный инвестиционный налоговый вычет планируется распространить на расходы по созданию ИИ-моделей и приобретению оборудования. Его максимальный объём может достигнуть 20 млрд рублей на одну организацию до 2030 года, но при условии, что собственные вложения компании будут в пять раз больше. ™ МашТех в Telegram | в MAX

Представитель клана русских вампиров Андрей Колесников про ИИ: https://t.me/KolesoRP/12892

Цитата дня: Чтобы не сокращать сотрудников и бизнес, нужно делать свои продукты и решения так, чтобы ни одна нейросеть не могла их скопировать и понять. Чем запутаннее, тем лучше. Должны быть такие человеческие паттерны, что их нельзя повторить машине.

Предустановку на смартфонах ИИ-ассистента «Алиса AI» от «Яндекса» могут закрепить в законе, пишет «Коммерсантъ», ознакомившись с проектом постановления правительства. Предлагается сделать приложение «Алиса AI» неудаляемым. Минцифры дорабатывает документ совместно с участниками рынка. В министерстве заявили, что меры обеспечат равные и конкурентные условия для российских и иностранных решений. Участники рынка настаивают на публичном обсуждении

Затраты на поддержку кода, созданного искусственным интеллектом, выросли в 4 раза за последние полтора года. По данным компании Checkmarx, ИИ всё чаще просто копирует одни и те же куски программы – количество дублей выросло на 48%, а переписывать и улучшать написанный код стал на 60% реже. В итоге компании, которые надеялись ускорить разработку с помощью нейросетей, теперь рискуют столкнуться с огромными скрытыми убытками. Им придётся тратить намного больше денег и времени на исправление ошибок. @banksta

Злоумышленники в Китае и России уже используют ИИ компании Anthropic в качестве оружия — Politico. Иностранные учёные, хакеры и спецслужбы обошли ограничения, чтобы использовать Claude для опасных целей, включая исследования в области биологического оружия.

Беспилотники-убийцы. Массовое наблюдение. Биологическое оружие.

По данным ведущей компании в области ИИ Anthropic, угрозы, связанные с искусственным интеллектом, которые еще год назад могли казаться кошмарами из научной фантастики, сегодня гораздо ближе к реальности. А некоторые из них, возможно, уже здесь.

В новом обширном отчете, компания Anthropic заявила, что преступные хакерские группировки, китайские службы безопасности, связанные с Россией шпионы и йеменские производители оружия, среди прочих, использовали сеть мошеннических учетных записей и онлайн-сервисов для доступа к некоторым из передовых ИИ-помощников компании, известных как Claude.

И они используют эти инструменты для попыток нападений или разработки оружия, которое ранее было им недоступно.

По данным Anthropic, только за последние 8 месяцев люди в странах, где использование системы Claude должно быть ограничено, обходили эти ограничения, чтобы автоматизировать кибератаки, пытаться разрабатывать передовое военное оборудование, распространять пропаганду в больших масштабах и проводить масштабные кампании цифровой слежки.

Хотя модели Claude широко доступны на коммерческой основе, Anthropic пытается ограничить доступ к ним в странах-соперниках США, включая Россию, Китай и Иран.

Компания в этом году обнаружила 5 случаев, когда ученые из неуказанных зарубежных стран использовали ее модели для исследования опасных патогенов, работа, которая, возможно, проводилась в рамках программы создания биологического оружия.

По данным компании, злоумышленники смогли получить доступ к моделям, используя виртуальные частные сети и мошеннические или украденные учетные записи.

В одном из случаев, ученый привлек Claude к написанию заявки на грант, касающейся исследований по усилению функций смертельно опасного вируса, передаваемого комарами. Грант должен был быть получен в военном НИИ. В другом случае учёный, работавший в рамках государственной программы, использовал к Claude для исследования соединений, которые «могут одновременно быть разработаны в качестве новых терапевтических средств или токсичных агентов». В третьем случае исследователь за пределами США «несколько недель» использовал Claude для проведения экспериментов, связанных с адаптацией высокопатогенного птичьего гриппа.

В докладе также задокументированы некоторые из первых известных случаев использования ИИ для разработки передовой военной техники и проведения масштабных операций по цифровому наблюдению.

В отчете, в частности, говорится, что была выявлена действующая из России «независимая» угроза, которая пыталась использовать Claude для создания дронов, способных совершать автономные атаки типа «камикадзе».

В докладе подробно описывается ряд случаев неправомерного использования Claude в преступных и государственных хакерских операциях, в том числе группами, связанными с Россией.

Anthropic также выявила 9 операций по оказанию влияния, инициированных в таких странах, как Россия, Турция и Иран, которые, предположительно, были проведены как частными, так и государственными структурами. 

Подобные кампании были приурочены к национальным выборам, в том числе в Молдове. Подписаться

Месяц назад я написал скрипты для массовой регистрации разных аккаунтов. И разместил для теста на маркетплейсе аккаунтов. Вот уже что то продалось немного.

️Российские организации вошли в топ рейтинга цитируемости работ по машинному обучению среди стран БРИКС — исследование НИУ ВШЭ Наукометрический центр проанализировал более 104 тыс. работ с ведущих научных конференций за 2020–2025 годы. За последние три года верхние строчки рейтинга по публикациям и цитируемости заняли российские организации. В их числе НИУ ВШЭ, Сколтех и AIRI, включённые в топ-100 организаций БРИКС, а также Яндекс, вошедший в топ-20 корпоративных организаций.

Россиянина Сергея Филимонова экстрадировали из Грузии в США по обвинению в участии в транснациональной схеме кибермошенничества и хищении «миллионов долларов» с банковских счетов. Об этом сообщило Министерство юстиции США. #законодательство #мошенничество #кибербезопасность

Появилось официальное подтверждение со стороны OpenAI "While unlikely, we cannot rule out that de-identified data derived from their usage of our products helped improve our models⁠.". Тристан Бакмастер и Левент Альпёге утверждают, что они отключали опцию использования их данных для обучения модели. Это означает, что если в вашей компании используются внешние сервисы ИИ, необходимо переоценить риск утечки всех идей и планов в части резкого повышения такой вероятности и повторной переоценки способов обработки данного риска.

Эксклюзив с IT Elements: 30% российских компаний имеют выделенный сегмент для ИИ кластера. У 15% компаний это в планах.

Palantir выбрала Nebius Воложа партнером по «суверенной ИИ-инфраструктуре», об этом говорится в совместном заявлении компаний. В рамках их стратегического партнерства клиенты Palantir получат доступ к ИИ-ориентированной вычислительной инфраструктуре Nebius, а также ее облачной платформе для обучения и запуска собственных моделей искусственного интеллекта, это позволит организациям создавать ИИ-решения, которые в конкретных сценариях могут превосходить универсальные закрытые модели, указано в релизе

Вышел первый тизер-трейлер фильма «Искусственный» — про становление OpenAI и попытку свергнуть Сэма Альтмана. Главу компании сыграл Эндрю Гарфилд, у которого за плечами «Социальная сеть». Илью Суцкевера — Юра Борисов vc.ru/media/3127594