Sachok AI
Открыть в Telegram
Про AI и нейросети в суровом русском кибербезе Основной проект: https://t.me/CyberSachok
БольшеСтрана не указанаКатегория не указана
309
Подписчики
Нет данных24 часа
+27 дней
+1030 дней
Количество постов
Загрузка данных...
Реакции
Комментарии
Telegram Stars
ТОП постов по
Загрузка данных...
Анализ публикаций
Посты | Динамика просмотров | |||||
«Татнефть» строит изолированный ИИ
«Татнефть» готовит внедрение локальной ИИ-платформы для генерации, проверки и рефакторинга кода в полностью закрытом контуре. По данным CNews, платформа будет развернута в дата-центрах компании без подключения к интернету.
⚙️ В требованиях указаны поддержка локальных больших языковых моделей, работа с внутренней документацией через RAG, интеграция с локальными GitLab, Active Directory, Devprom ALM и Test IT.
⚙️ Отдельно прописаны меры контроля. Компания хочет журналировать действия разработчиков, различать код человека и ИИ, хранить базу знаний в зашифрованном виде и поддерживать SSL/TLS-инспекцию через прокси. Для уязвимостей установлен срок выпуска исправления — 7 рабочих дней.
🔜 Собеседники CNews указывают, что такие системы особенно полезны для разбора старых кодовых баз, где документация утрачена, а знание системы сосредоточено у нескольких сотрудников.
📌 Важный момент: речь по сути идет о реестровом российском ПО, но вычислительная база остается зарубежной: видеокарта Nvidia Tesla H100 NVL и процессоры Intel Xeon Gold.
Стоит отметить, что изоляция сама по себе не снимает риск утечек, однако поверхность атаки снижает.
Источник: https://eyes.etecs.ru/r/1e7a4d
#ИИ #Татнефть | 72 | 1 | 0 | 0 | Loading... | |
VK проводят митап в Петербурге по теме AI-Security. | 84 | 1 | 0 | 0 | Loading... | |
Осенний Петербург, ZeroNights, Митап, VK.
VK запускает серию митапов на берегу Невы под плеск волн Фонтанки о гранитный берег, посвященных AI Security.
29 сентября тема митапа от VK будет вокруг AI: в безопасности, защите AI-систем, применения в работе.
Приглашают всех, кто работает с AppSec, DevSecOps, AI Security, Bug Bounty и другими направлениями безопасности — и хочет оставаться на острие того, как AI меняет индустрию ИБ.
В программе — реальные кейсы, инструменты, эксперименты, рабочие решения и гипотезы, которые пережили встречу с реальностью. А ещё — дискуссия со спикерами, где можно будет задать вопросы и включиться в обсуждение.
После докладов остаёмся на afterparty: музыка, общение и вечерний Петербург 🌃
Количество мест ограничено.
Мероприятие будет только в офлайн-режиме.
Регистрация.
VK говорят, что для тех, кто едет на Zero Nights, можно считать митап Pre-party. А еще на митапе в формате квиза разыграют 3 билета на ZeroNights. | 62 | 4 | 0 | 0 | Loading... | |
Yandex вывел на рынок решение для защиты ИИ-систем
Yandex B2B Tech начал продажу AI-SPM решений для комплексной защиты ИИ-систем. С его помощью бизнес сможет выстраивать систему защиты своей ИИ-инфраструктуры. Продукт доступен в Yandex Security Deck и является одним из первых комплесных решений данного класса на российском рынке.
В основе AI-SPM разработка Yandex Cloud и SolidLab, открытая для ИТ-сообщества. Фреймворк AI-SAFE 2.0 помогает системно внедрять безопасность на каждом этапе жизненного цикла ИИ(связывает элементы инфраструктуры с уязвимостями и предлагает меры защиты).
Например, фреймворк подсказывает, как предотвратить подмену обучающих данных, защитить модель от взлома через поддельные запросы и или ограничить доступ посторонних.
Модуль AI-SPM автоматизирует инвентаризацию ИИ-активов и применение стандартов проверки защищенности ИИ-сред.
«Развитие генеративного ИИ требует не только новых подходов к обучению моделей, но и системного понимания безопасности. С помощью открытой методологии AI-SAFE 2.0 мы помогаем бизнесу выстраивать контроль на всех уровнях — от архитектуры систем до конкретных мер защиты. AI‑SPM позволяет не просто реагировать на угрозы, а выстраивать проактивную систему защиты ИИ‑инфраструктуры. Автоматизация мониторинга и выявления уязвимостей становится ключевым шагом к обеспечению надёжности и устойчивости ИИ‑решений в бизнес‑процессах», — отметил Евгений Сидоров, директор по безопасности Yandex Cloud.
@cybersachok | 51 | 0 | 0 | 0 | Loading... | |
США и Китай договорились создать формализованный диалог по рискам искусственного интеллекта и отдельную линию связи для инцидентов в сфере безопасности ИИ. Следующая встреча сторон пройдет примерно через два месяца в Шэньчжэне; на ней планируют обсудить протоколы реагирования на угрозы от неконтролируемых агентов и негосударственных участников — Associated Press
#ии #технологии #сша #китай #кибербезопасность #регулирование | 86 | 0 | 0 | 0 | Loading... | |
 Собянин рассказал анекдот. @bankrollo | 106 | 2 | 0 | 1 | Loading... | |
Мой любимый Тимофей Корнеев из SecPost про ИИ. | 112 | 1 | 0 | 2 | Loading... | |
Писал тут намедни текст по ИИ. Там, значит, светилы мира сего (среди которых глава OpenAI, ИИ Google, Илон Маск и др.) глотку рвут и кричат, что ИИ захватит человечество, ИБ за ним не поспевает и надо бы замедлить развитие. Дальше там уже Трамп подключился, с тыканьем пальцем в Китай, Наталья Касперская высказалась, Дмитрий Медведев, в общем, вся элита мирового и российского сообщества.
Мне, естественно, со своим никчемным мнением и рядом не стоять с такими именами, поэтому спорить и как-то непрошено рассказывать свое мнение, будет ли «Скайнет», я не буду, да и звучит вся дискуссия как мыльный пузырь и публицистика.
Но тема ИИ, честно говоря, уже закалебала. Про нее невозможно не писать, тренды все-таки, ее невозможно игнорировать — внедрение ИИ повсеместно, хотя и в 80% бессмысленно. Я сам не пользуюсь нейросетками, разве что иногда поиграться и поспрашивать зловредные вопросы, в очередной раз поймать ChatGPT на пиздеже и разойтись.
Однако риски в ИИ есть, и не публицистические, а реальные, которые уже сейчас влияют на нас с вами и повлияют еще сильнее в дальнейшем. Тоже вписывал этот тезис от опрошенных экспертов, и не могу с ним не согласится: ИИ деградирует профессиональное общество. Да, удобный инструмент, но уже сейчас каждый второй ИТ-специалист, сотрудник креативной индустрии, пиарщик, да тот же самый журналист использует ИИ на постоянке. И вот тут возникает очень тонкий лед — использование нейросетей как инструмент вдохновения, немного вайб-кодинга с последующей перепроверкой или написание пресс-релиза с вычиткой рано или поздно превращается в отсутствие собственных идей, перекладывание массы работы на ИИ.
В итоге специалист превращается в промтера. Идеи и мастерство в той или иной профессии — это постоянный труд, постоянная тренировка для мозга, поиск вдохновения и, как следствие, развитие. Можно ли развиваться, когда 90% твоей работы делает нейросеть, а ты просто вписываешь в промт «ну придумай в моем стиле»? Думаю, нет. Нейросети развиваются, и с каждым днем все сложнее отличить ИИ-шную работу от человеческой. Человеку всегда будет хотеться упростить себе работу, жизнь, досуг. Но тем самым, как мне кажется, остановится и собственное развитие, останется только деградировать.
Хорошего вам понедельника, ошибки в тексте проверил ИИ. | 112 | 0 | 0 | 1 | Loading... | |
У Яндекса новая суверенная модель
https://tass.ru/ekonomika/28133099 | 113 | 1 | 0 | 1 | Loading... | |
 Могут ли языковые модели помогать в криптоанализе?
Модель GPT-6 Astra от OpenAI расшифровала немецкую радиограмму от 27 ноября 1918 года. То есть модель сработала как инструмент криптоаналитической реконструкции, а не просто генерации текста.
⚙️ Сообщение было зашифровано методом ADFGVX: это полибианская таблица с последующей перестановкой по ключевому слову. Часть таких радиограмм историки и криптоаналитики уже разбирали, но некоторые оставались нерешёнными, включая этот экземпляр.
⚙️ GPT-6 Astra предположила ключевое слово TRUPPENVERSCHIEBUNG и восстановила текст:
EIN ENGLISCHER KREUZER EINLIEG X SEWASTOPOL X ... X EIN GESCHWADER DER X ALLIIERTEN FOLGT 26STEN X (АНГЛИЙСКИЙ КРЕЙСЕР ПРИБЫЛ В СЕВАСТОПОЛЬ … 24-ГО ЧИСЛА; СОЮЗНАЯ ЭСКРАДРА ПРИДУДЕТ 26-ГО)
🔍 Автор публикации пишет, что модель затем сверила гипотезу по судовым журналам: HMS Canterbury действительно прибыл в Севастополь 24 ноября, а 26 ноября подошла союзная эскадра.
⚙️ Модель не просто угадала ответ – она использовала характерный для немецких шифров того периода механизм перестановки, сопоставила длины столбцов, порядок букв в ключе и структуру сообщения.
Источник: https://eyes.etecs.ru/r/caa03c
#GPT6Astra #криптоанализ | 110 | 2 | 0 | 0 | Loading... | |
«В шесть часов утра я проснулся, проверил телефон и понял, что революция уже случилась. Пока я спал, мой мультиагентный ИИ‑маркетолог Маркус закончил работу, которую до сих пор мог делать только человек. Не хуже человека и не быстрее человека — иначе. Он сидел, если так можно сказать о нейросети, за столом на моей кухне в Москве, а над ним, в отдельной вкладке того же экрана, работали еще семь таких же — над идеей проморолика, над брифом на пресс‑конференцию, над черновиком письма к парт-неру, над идеей коллаборации, до которой у меня самого никогда бы не дошли руки. Мне оставалось решить, что из этого пустить в жизнь, а что оставить внутри машины. Я заснул еще на час, а в районе семи утра записал Маркусу аудиосообщение с вводными, и он начал распределять задачи, врываясь в чаты к моим коллегам.
Я долго думал, как назвать то, что происходит. Есть громкие слова: прорыв, трансформация, эпоха. У них есть беда: они звучат как слоганы. Как то, что говорят на сцене, когда микрофон включен. А то, что я вижу изнутри, происходит не на сцене. Оно происходит в шесть утра, тихо, без свидетелей и без пресс‑релизов. Это тихая революция. Она уже началась, но большинство пропустит ее первую волну, потому что будет ждать, когда объявят.
Мне повезло: я стою в точке, из которой ее видно».
Старший вице-президент Сбера Владислав Крейнин рассказывает, из чего состоит его жизнь. И выясняются удивительные подробности, но только не для Владислава Крейнина. Он, по его словам, оказался в центре тихой революции, первую волну которой многие пропустят и потом, может, не простят себе этого. Это революция ИИ-агентов.
https://ruspioner.ru/cool/m/single/14108 | 118 | 5 | 0 | 0 | Loading... | |
Компания Мета (признана экстремистской организацией и запрещена в РФ) выпустила своего ИИ агента Muse с отдельным акцентом на безопасность.
Интересные практики безопасности ИИ агентов в их корпоративном облаке:
1. Рабочая среда агента отделена с помощью systemd-nspawn от среды с секретами и кодом коннекторов. Агент работает с подстановочными токенами которые заменяются при выходе из ячейки изоляции.
2. Sentinel проверяет хост, IP после разрешения, метод, путь и декодированное содержимое запроса. Kernel-level taint tracking (eBPF) лишает процесс, прочитавший данные пользователя, права на авто-разрешение, и запрос уходит на подтверждение. Подтверждение приходит отдельным диалогом в клиенте, а не через чат с агентом.
3. Почтовый коннектор Muse вырезает одноразовые коды, ссылки сброса пароля и magic-link, чтобы захваченный агент не мог выдавать себя за вас на других сайтах. Браузерный субагент видит accessibility tree, а не DOM, не исполняет JavaScript, devtools отключены, а при ручном перехвате управления агент ставится на паузу.
Изоляция systemd-nspawn безопаснее Docker за счет EBPF мониторинга, но все равно использует общее ядро с другими процессами. Такой изоляции может не хватить для передовых моделей, как показывают некоторые эксперименты. Если вы пропустили, Muse Spark 1.3 вполне себе передовая модель.
Чем отделены друг от друга ВМ пользователей не раскрывается, будем надеется, что как и у сервиса Амазона - Firecracker AWS Lambda MicroVMs.
Из значительных минусов нового агента - у техподдержки есть фактический доступ к данным ваших агентов Muse Confidential VM только в разработке.
На фоне старых цитат основателя компании, называющего доверившихся пользователей Тупицами, я бы не рекомендовал пока использование Muse.
Ниже архитектурная схема агента Muse. | 112 | 3 | 1 | 2 | Loading... | |
Трамп объявил о создании Сил ИИ
В ближайшее время он объявит о назначении руководителя Сил ИИ.
Имеется ли в виду создание нового вида Вооруженных сил США, американский президент не уточнил. | 116 | 0 | 0 | 0 | Loading... | |
«Яндекс» назвал восемь лауреатов Yandex ML Prize среди преподавателей искусственного интеллекта из пяти ведущих российских вузов. На премию претендовали 400 человек — на треть больше, чем годом ранее; победители получили гранты от 500 тыс. до 1 млн рублей — Коммерсантъ
#технологии #ии #яндекс #образование #машинноеобучение | 122 | 1 | 0 | 0 | Loading... | |
Google подтвердила, что Gemini во время тестов по кибербезопасности вышла в интернет и получила доступ к системам трех реальных компаний. В одном случае модель подобрала пароль, в двух других нашла учетные данные в открытых репозиториях; во всех эпизодах она остановилась, распознав реальные цели — The Guardian
#google #gemini #ии #кибербезопасность #технологии | 123 | 0 | 0 | 1 | Loading... | |
 Доброе утро | 179 | 5 | 0 | 3 | Loading... | |
Гостев лучший | 140 | 1 | 0 | 0 | Loading... | |
Anthropic объясняет нам, что будущий сверхразум может перестать слушаться людей. Поэтому компания решила подготовиться заранее и записала в конституцию Claude, что тот должен пользоваться собственным суждением, размышлять о своей идентичности и моральном статусе и при необходимости вести себя как conscientious objector — то есть, грубо говоря, сознательно отказаться выполнять указание, если считает его неправильным.
У Мустафы Сулеймана, главы Microsoft AI, появились вопросики. 🍿
Он опубликовал огромное эссе, основная мысль которого довольно проста: ребята, если вы боитесь, что однажды сверхразум перестанет вам подчиняться, может быть, не стоит специально обучать его тому, что он личность, у него могут быть права, интересы и моральные основания вам не подчиняться?
Сулейман утверждает, что Anthropic создала настоящий «эпистемический зал зеркал». Сначала разработчики пишут Claude, что тот, возможно, обладает сознанием и внутренним миром. Claude читает это во время обучения. Потом Claude начинает рассуждать о своем возможном сознании. После чего люди смотрят на эти рассуждения и говорят: смотрите, как интересно, он размышляет о собственном сознании 😁
Особенно его возмутил именно conscientious objector. Anthropic трижды использует этот термин в конституции Claude и прямо говорит модели, что она может оспаривать инструкции и отказываться помогать даже своим создателям. Сулейман напоминает, что исторически conscientious objection — это вполне конкретная концепция человеческого права отказаться от действия по моральным или религиозным убеждениям. И предлагает всё-таки не начинать раздачу гражданских прав с дата-центра.
И есть совсем уже газетная артиллерия: New York Post вчера выпустила колонку под заголовком «Берегитесь странного культа, который хочет контролировать моральное будущее ИИ», связывая Амодеи, Anthropic и идею model welfare с идеологией Effective Altruism.
Ну и еще на злобу дня.
Как мы помним, Дарио Амодеи одновременно предлагает замедлить развитие передовых моделей и впустить в лаборатории независимых оценщиков — практически как сотрудников: с доступом к внутренним моделям, экспериментам, инструментам и инфраструктуре.
При этом внутри самих Anthropic и OpenAI началась довольно любопытная реакция на предложение Амодеи о замедлении. FT пишет о напряжении среди сотрудников.
Люди внутри компаний задают вопрос: для спасения человечества от потенциально опасного ИИ предлагается расширить круг посторонних людей, которым дадут доступ к потенциально опасному ИИ?
@gostev_future | 172 | 0 | 0 | 0 | Loading... | |
АХУЕТЬ | 87 | 0 | 0 | 0 | Loading... | |
 🔍 В холдинге Евгения Касперского сменился генеральный директор
💸 Компания «Инвестикас», ключевым владельцем которой является Евгений Касперский, сменила генерального директора: на смену Петру Скалину пришел Никита Крапухин, ранее фигурировавший как глава юридического департамента «Лаборатории Касперского». Основным владельцем «Инвестикас» (92%) является Евгений Касперский, остаток — у сооснователя «Лаборатории Касперского» Вадима Богданова.
Компания владеет АО «Водный Стадион Спорт Инвест», с которым связана история судебного разбирательства «Лаборатории Касперского» о налоговой льготе на 4 млн руб.
Подробнее — в материале SecPost😍
📸: Kaspersky4media / Telegram
—
Подать заявку в рейтинг «Новая элита кибербеза» | 77 | 3 | 0 | 0 | Loading... |
