Sachok AI

АХУЕТЬ

🔍 В холдинге Евгения Касперского сменился генеральный директор 💸 Компания «Инвестикас», ключевым владельцем которой является Евгений Касперский, сменила генерального директора: на смену Петру Скалину пришел Никита Крапухин, ранее фигурировавший как глава юридического департамента «Лаборатории Касперского». Основным владельцем «Инвестикас» (92%) является Евгений Касперский, остаток — у сооснователя «Лаборатории Касперского» Вадима Богданова. Компания владеет АО «Водный Стадион Спорт Инвест», с которым связана история судебного разбирательства «Лаборатории Касперского» о налоговой льготе на 4 млн руб. Подробнее — в материале SecPost😍 📸: Kaspersky4media / Telegram — Подать заявку в рейтинг «Новая элита кибербеза»

Конфискация iPhone и штраф за генерацию ИИ-фейков норм или стрем мера для борьбы с дипфейками и слопами? https://t.me/mash/77868

12 сентября глава Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier («Мы должны замедлиться»), в котором предложил замедлить рост возможностей передовых ИИ‑моделей. По его мнению, исследования безопасности перестают успевать за прогрессом... Мне начали звонить журналисты с одним и тем же тревожным вопросом: «Верить ли нам Амадеи, когда он говорит про грядущее восстание машин, и, если оно действительно будет, то, когда именно?» Я ответила, что из того, что Амодеи говорит о восстании машин, не следует, что оно обязательно будет или что оно вообще возможно. Я не берусь судить о мотивациях главы Anthropic. Но совершенно уверена, что Anthropic не остановит развитие своих моделей, а наоборот, энергично продолжит их развивать, в том числе, в военной сфере, поскольку ИИ — это технология двойного назначения. При этом разработки для военных будут закрытыми, доступ к которым всяким внешним акторам предоставлен не будет. И вообще, нам надо готовиться к тому, что доступ к новейшим моделям для большинства будет закрыт. Журналист спросил: «Нет, ну давайте без политики. А вот если говорить глобально?» Я не понимаю, как «глобально» может быть без политики. Но в случае ИИ-моделей глобальность довольно сильно ограничена, так как в этом сегменте есть, по большому счету два игрока — США и Китай.  При этом США пытаются всячески затруднить конкуренцию Китаю (это ведь политика?). А никаких других глобальных игроков, которые могли бы что-то серьезно делать в ИИ-моделях, в мире просто нет. «Что же будет, если доступ к ИИ-моделям закроют? Вы не думаете, что все развитие ИИ закончится, и вся мировая экономика встанет?» Я вообще заметила, что журналисты очень любят кванторы всеобщности. Например, «Куда идут информационные технологии?», «Как будет развиваться искусственный интеллект?», «Как предприятию защитить себя от информационных угроз?». На эти вопросы в принципе нельзя дать однозначного ответа.  Информационных технологий несколько тысяч, все они развиваются по-разному. У ИИ много различных направлений, они тоже развиваются неравномерно. У разных предприятий разные условия и, естественно, защищаться они должны по-разному. Любой простой ответ на вопрос подобного типа будет по определению неверным. Вопрос журналиста выше из этой же категории всеобщности. Все развитие остановится, вся мировая экономика встанет, весь ИИ куда-то денется. Лично я не думаю, что мировая экономика сейчас зависима от ИИ. Скорее, ИИ отрицательно на нее влияет. Триллионные вложения, строительство дата-центров, дефицит видеокарт и специализированных серверов — что же тут хорошего для мировой экономики? Впрочем, Штаты возможно таким способом слегка стерилизуют избыток своей денежной массы. Так что для их экономики это может стать пользой, а вот для мировой — сомнительно. Да, и, собственно, положительный эффект на мировую экономику от внедрения ИИ пока не предъявлен и не доказан. Пока что разрыв расходов и доходов даже самих производителей ИИ — в сто раз, на два порядка в пользу расходов. Но все-таки вернемся к изначальному вопросу журналиста: «Стоит ли нам ждать восстания машин?» В интервью я на него не ответила, попробую сейчас. В принципе, можно — теоретически — представить себе, что агенты ИИ самопроизвольно объединятся и начнут чем-то самостоятельно управлять или что-то ломать — без ведома и желания человека. Это уже технически возможно. Истории про то, как ИИ-модель сделала не то, что ее просили, а потом попыталась замести следы, множатся. Хотя пока довольно трудно отличить их от маркетинговых акций. Но для того, чтобы машины могли нанести серьезный ущерб человечеству, эти самые самостоятельные ИИ-агенты должны иметь доступ к физическим системам. И обеспечение связи ИИ-агентов с реальным физическим миром, например, через управление МСР-серверами, доступ к файловым системам, сайтам, базам данных, персональным устройствам и т.п. — это ровно то, чем энергично занимаются сейчас компании Anthropic, Google и OpenAI, пока их руководители вещают с трибун об опасности автономного ИИ. Помните с чего начинается «Терминатор» 1984 года? С того, что мировая компьютерная система SkyNET в далёком будущем, в 1997 году (то есть уже в нашем прошлом), запускает ядерные ракеты по России, вызывая ответный удар, уничтожая большую часть человечества и устанавливает свое господство на планете. Вопрос — кто и зачем в этой выдуманной истории дал этой самоорганизующейся (то есть неконтролируемой по определению) системе доступ к ядерным ракетам? Если критические физические объекты останутся для ИИ недосягаемыми, то сценарий Дж. Кэмерона из фильма про ИИ так и останется голливудской страшилкой. Так что Амодеи должен не взволнованные посты в соцмедиа публиковать с описанием угроз, а добиваться в Конгрессе и в ООН строжайшего запрета на связь ИИ-агентов с критическими объектами в физическом мире — включая инфраструктуру, ядерные объекты, государственное управление, средства массовой информации. Ну, это если бы он хотел действительно защитить человечество от своего ИИ. В чем лично я не уверена….

Чернышенко: Российские ИИ-модели уже сопоставимы с ведущими зарубежными разработками. Вице-премьер Дмитрий Чернышенко заявил, что Россия находится в мировом тренде развития искусственного интеллекта и подчеркнул важность использования отечественных решений внутри страны, сообщает РИА. В качестве примера он привел GigaChat 3.5 от Сбера — модель с режимом рассуждений, которая, по его словам, по параметрам сопоставима с топовыми зарубежными аналогами. «Мы абсолютно в тренде, и от нас будет зависеть, насколько наши модели будут конкурентоспособны», — подчеркнул Чернышенко. Подпишись на ПУЛ N3 / MAX

В эту субботу Сачок и Кибердом везут кибербезопасников в Подмосковный лес. За грибами. Добровольно. Погода этим летом выдалась для бума грибочков. Белые грибы, лисички, трюфели, маслята и живописные мухоморы! Утром собираемся на Ярославском вокзале, где нас ждет проводник Дмитрий Шубин, берем с собой чай в термосе, бутерброды, перекус(может что-то более согревающее по желанию) и едем в окрестности усадьбы Абрамцево, где в лесах и просеках начинаем свою тихую охоту. Нетворкинг, комьюнити, корзины и ведерки, золотая осень и душевное равновесие. Все, чего нам не хватает. Желающие — пишите в бот. Места ограничены.

Генеральный директор компании в сфере кибербезопасности CrowdStrike Джордж Курц выступил против призывов замедлить развитие искусственного интеллекта. По его словам, модели с открытыми весами и передовые модели уже доступны всем желающим, что делает заморозку разработки неэффективной в борьбе с активными угрозами информационной безопасности. #кибербезопасность #ИскИн

Яндекс открыл код суверенной Alice AI LLM Base: это языковая модель, которая лежит в основе быстрых ИИ-ответов в Поиске.  🔹 Основное отличие архитектурного решения – компактность при большом числе параметров. Специалисты отмечают, что при общем числе в 35 млрд параметров конкретный запрос обрабатывают лишь 600 млн, менее 2%. Это даёт преимущество для высоконагруженных систем: больше запросов можно обработать, не увеличивая затраты мощности.   🔹 Открытая модель Яндекса иллюстрирует новый подход к развитию ИИ. Если раньше рынок соревновался прежде всего в количестве параметров, то теперь разработчики всё чаще считают реальную эффективность моделей и стоимость каждого ответа. На российском рынке решения, позволяющие снижать нагрузку на мощности – на вес золота. Современных аналогов для поисковых систем от зарубежных конкурентов нет, поэтому для российского контура и базовых норм безопасности предпочтительнее использовать именно собственное решение, когда модель обучена с нуля.  🔹 По мнению академического руководителя онлайн-магистратуры ФКН НИУ ВШЭ Дмитрия Еременко, возможность для российских разработчиков пользоваться наработками отечественного опенсорса очень важна, но критично также обучать тех, кто будет способен развернуть базовые решения – например, решение Яндекса – в контуре компаний: «Будущее развитие зависит от того, будут ли компании и дальше открывать веса базовых моделей, будут ли развиваться независимые тесты для русского языка и хватит ли специалистов, способных встраивать модели в бизнес-процессы». @kstati_p

Сборная чемпионов

На прошлой неделе опубликовалась научная статья про проблемы бенчмаркинга возможностей моделей в кибербезопасности. Исследование было произведено на базе 10 моделей и 8 бенчмарков (все построены на базе вопросов, а не заданий). Выявили типовые ошибки при оценке моделей. Будет полезно в первую очередь тем, кто сам проектирует свой бенчмарк или оценивает доверие к внешнему бенчмарку. Как оценка возможностей текущих моделей не подойдет - исследуются не самые актуальные модели. Общий вывод - ошибки при бенчмаркинге могут приводить к изменению результата больше чем на 80 процентов итогового результата.

В ближайшее время в Агентстве национальной безопасности США начнется самая масштабная реорганизация за последнее десятилетие. Изменения предполагают создание пяти директоратов по профильным направлениям: ИИ, Китай, кибербезопасность, боевая поддержка и глобальная разведка. Также будет воссоздано элитное хакерское подразделение Tailored Access Operations, де-факто ликвидированное в 2016 году. График реорганизации АНБ весьма жесткий: запуск проекта ожидается в середине октября, а достижение «полной операционной готовности» запланировано на середину января 2027 года. 👉 Подробности — в материале «Ъ». ▪️ Подписывайтесь на «Ъ» в MAX | в Telegram

Посвящается тем кому 30+ в ИТ #meme

Anthropic обвинила связанные с Китаем группы в военном применении Claude Claude использовали при подготовке противоторпедной системы и около 16 модулей для подавления ПВО, утверждает Anthropic. Один из сценариев включал 12 целей на Тайване — от комплексов Patriot до командного бункера. Другой масштаб — обучение китайских ИИ. По данным компании, связанные с Alibaba операторы провели более 151 млн диалогов с Claude за три месяца, чтобы перенести его навыки рассуждения и программирования в Qwen 3.x. 🔗 Читать: https://mltimes.ai/anthropic-obvinila-svyazannye-s-kitaem-gruppy-v-voennom-prim/

«Слоп-джихад»: террористы начали использовать ИИ для создания мемов и роликов в соцсетях, чтобы радикализировать и вербовать молодых людей. Пугающая тенденция получила название «слоп-джихад». Вместо реальных жестоких кадров ИИ генерирует контент, используя персонажей поп-культуры, мемы, а также подачу фанатских эдитов. Например, герои мультфильма «Губка Боб» могут в игровом ключе воссоздавать казни, которые происходили в реальной жизни. Цель такого контента — привлечь внимание молодежи через развлекательный формат и геймификацию, чтобы затем затянуть их в закрытые каналы с более жесткой экстремистской пропагандой. В отчете Института стратегического диалога зафиксировано уже 150 подобных видео на 71 аккаунте в TikTok, и эти ролики суммарно набрали более 5,4 млн просмотров. Этот сдвиг говорит о фундаментальной трансформации эстетики джихадистской пропаганды в сети.

Нечеткая логика в ИБ: сокращаю очередь уязвимостей в 7,5 раз, сравниваю с CVSS, EPSS и методикой ФСТЭК На Хабре разобрали приоритизацию уязвимостей через нечёткую логику. Автор собрал два контура: первый оценивает техническую срочность по CVSS, EPSS и возрасту CVE; второй учитывает доступность компонента, критичность актива и компенсирующие меры. Всего 38 правил с плавными переходами между уровнями срочности. В эксперименте на 193 120 CVE порог CVSS ≥ 9.0 сформировал очередь из 27 480 записей и охватил 24 уязвимости, позднее добавленные в CISA KEV. Корзина «немедленно» у нечёткой модели — 3 654 записи и 25 таких уязвимостей. Отсюда и сокращение в 7,5 раза: речь о размере выбранной очереди, а не об измеренных трудозатратах команды. Самая содержательная деталь — проверка без возраста CVE. AUC упал с 0,861 до 0,742: результат заметно зависит от учёта свежести уязвимости. При этом для охвата половины положительных примеров простая взвешенная сумма почти сравнялась с нечёткой моделью: 9 584 против 9 550 задач. Оговорки существенные: всего 68 положительных примеров; добавление в KEV не устанавливает дату начала эксплуатации. Сравнение с методикой ФСТЭК выполнено с допущениями вместо реального контекста организации. Кейс полезен как повод проверить собственные правила приоритизации: какой сигнал улучшает очередь и сохраняется ли выигрыш при сравнении с простым методом. Статья на Хабре 🌚 @poxek | 🌚 @poxek_ai | 📲MAX

Обновился бенч по преступлениям ИИ моделей. Если вынести за скобку юмористическую часть, то его нужно учитывать при оценке риска блокировки платформы. Если компания потребляет услугу доступа к ИИ платформе, которая последовательно совершает преступления и публично это признает, как минимум соучастие, нельзя считать риск заметного ограничения действий такой компании ненулевым. После сентябрьского отчета, где явно указано использование сервисов Anthropic для содействия созданию: 1. Биологического оружия. 2. Кибероружия. 3. "Обычного" вооружения. 4. Нарушения тайны связи и оборота персональных данных. Если по итогам этого отчета будет инициировано расследование, а по составу потенциальных нарушений нельзя даже исключать формат международного трибунала, возможность Anthropic предоставлять сервисы на прежних условиях станет непросто спрогнозировать. Anthropic отчетом фактически признается в своей неспособности реализовать соблюдение сразу нескольких ключевых норм (экспортный контроль, биологическое оружие).

ИИ по талону: государство оплатит малому бизнесу первый год подписки целиком ▶️ Профильные ведомства - Минцифры, Минэкономразвития и Минфин - предварительно одобрили две меры финансового стимулирования отечественных разработчиков искусственного интеллекта. Речь идёт о субсидии и инвестиционном налоговом вычете. Что предлагают: ⏺️ субсидии предлагается выплачивать разработчикам как компенсацию скидок, которые они предоставляют МСП на ИИ-решения. Размер выплаты будет соответствовать размеру скидки. ⏺️ мера должна распространяться на российское реестровое ПО и ПАК с ИИ-функциональностью, прежде всего на тиражные продукты и облачные сервисы. ⏺️ предполагается, что в первый год государство сможет компенсировать до 100% стоимости продукта или годовой подписки, во второй - до 50%, в третий - до 25%. ⏺️ предельная сумма поддержки составит 200 тыс. рублей в год. Для одного клиента поддержка рассчитана на три года, при этом продлить субсидию на тот же продукт будет нельзя. ⏺️ администратором программы предлагают назначить РФРИТ или другой институт развития, который уже работает по модели субсидирования российских цифровых решений. Региональный инвестиционный налоговый вычет планируется распространить на расходы по созданию ИИ-моделей и приобретению оборудования. Его максимальный объём может достигнуть 20 млрд рублей на одну организацию до 2030 года, но при условии, что собственные вложения компании будут в пять раз больше. ™ МашТех в Telegram | в MAX

Представитель клана русских вампиров Андрей Колесников про ИИ: https://t.me/KolesoRP/12892

Цитата дня: Чтобы не сокращать сотрудников и бизнес, нужно делать свои продукты и решения так, чтобы ни одна нейросеть не могла их скопировать и понять. Чем запутаннее, тем лучше. Должны быть такие человеческие паттерны, что их нельзя повторить машине.