ch
Feedback

不要被骗子欺骗!Telemetrio 会找到并标记这些频道 👉 如果想查看标记,请订阅

maxigacy (AI) Security

maxigacy (AI) Security

前往频道在 Telegram

https://maxigacy.pro AI in Security × Security in AI Старший инженер по информационной безопасности в Яндексе Пишу о применении AI в ИБ и ИБ в AI На едином треке «магистратура—аспирантура» по профилю "Безопасность ИИ" в НИУ ВШЭ Личное мнение автора

显示更多
未指定国家未指定类别
711
订阅者
+124 小时
-27 天
+5430 天
帖子存档
(AI + B2B + SaaS) × Security В интернете сочетание AI B2B SaaS уже стало мемом: произносишь эти три слова — и можно идти поднимать следующий инвестиционный раунд. Но недавно я задумался, как несколькими словами описать то, чем занимаюсь, и с удивлением получил ту же формулу: (AI + B2B + SaaS) × Security Расшифровываю: AI — искусственный интеллект и новые риски, которые появляются вместе с его внедрением и использованием для задачи ИБ в том числе B2B — я работаю в Яндекс 360 с продуктами для корпоративных заказчиков, где особенно важны требования бизнеса, управляемость и доверие. SaaS — сервисы Яндекс 360 предоставляются по подписной модели: инфраструктура и обновления остаются на стороне провайдера, а пользователи получают готовые облачные инструменты. А Security здесь именно множитель, а не ещё одно слагаемое. Потому что безопасность должна распространяться сразу на AI, B2B-процессы и SaaS-продукты. Получается, кто-то строит очередной AI B2B SaaS, а я думаю, как сделать так, чтобы его потом не пришлось срочно спасать. #AIxSec #Security #B2B #SaaS #Notes
12 8月, 10:58

Как ChatGPT «сэкономил» нам минус 4,5 часа В апреле мы с @MaxiEnergy победили на конференции Арменского в МИЭМ НИУ ВШЭ с докл
Как ChatGPT «сэкономил» нам минус 4,5 часа В апреле мы с @MaxiEnergy победили на конференции Арменского в МИЭМ НИУ ВШЭ с докладом о влиянии квантования TinyML-моделей на устойчивость аудиосистем персонального интернета вещей — например, умных колонок и наушников. Мы исследовали, как разные режимы квантования влияют на распознавание голосовых команд при состязательных атаках. Один из выводов: INT8 позволяет существенно уменьшить модель без потери точности и устойчивости, а INT4 уже приводит к серьёзной деградации. По мотивам доклада мы подготовили статью, получили замечания редакции и решили ускорить правки с помощью ChatGPT. В итоге редактировали текст шесть часов. Вручную справились бы примерно за полтора. Модель исправляла нужный фрагмент, но заодно соседние, теряла важные детали или добавляла научный канцелярит. Поэтому большую часть времени мы потратили на промпты и проверку «улучшений». Вывод: LLM хорошо подходит для точечных правок, но отдавать ей целую научную статью — не всегда экономия времени. Иногда лучший AI-инструмент — внимательный автор и полтора часа работы. #Research #TinyML #ChatGPT #Notes
12 8月, 02:11

Claude начал незаметно маркировать созданные им тексты. В них появляются невидимые для человека водяные знаки, которые сохраняются даже после копирования и вставки. Такая маркировка позволяет обнаруживать тексты нейросети и может усложнить использование Claude в учебных, рабочих и научных материалах.
Кажется, что миграция с Claude в ChatGPT/Codex усилится еще быстрее. Канарейки*, это, конечно, круто с точки зрения безопасности, но обычным пользователям вряд ли зайдет, когда их исключают из универа за обычную домашку с Клодом.
*Канарейка — это заранее оставленный скрытый маркер, срабатывание или обнаружение которого позволяет понять, что данные были скопированы, раскрыты или попали туда, где их не должно быть.
#News
11 8月, 02:41

Привет! Это maxigacy (AI) Security. Страничка с инфо обо мне https://maxigacy.pro Меня зовут Максим Гусев. Я старший инженер
Привет! Это maxigacy (AI) Security. Страничка с инфо обо мне https://maxigacy.pro Меня зовут Максим Гусев. Я старший инженер по информационной безопасности в Яндексе и занимаюсь двумя взаимосвязанными направлениями: → AI in Security — как применять AI в AppSec, DevSecOps, анализе уязвимостей и автоматизации процессов безопасности. ← Security in AI — как защищать модели, LLM-приложения и AI-агентов: от prompt injection и небезопасного tool use до MLSecOps и архитектурных мер защиты. Параллельно я обучаюсь на едином треке «магистратура — аспирантура» по профилю «Безопасность ИИ» и занимаюсь исследованиями атак и защитных механизмов для AI-систем. Здесь буду публиковать: — результаты собственных экспериментов и исследований; — инженерные заметки о внедрении AI Security; — разборы атак, защит и научных работ; — наблюдения о применении AI в работе специалиста по безопасности; — идеи, которые ещё не превратились в полноценные статьи. Навигация по каналу: #AIinSecurity — применение AI в кибербезопасности #SecurityinAI — безопасность AI-систем #Research — исследования и статьи #Practice — инструменты и инженерная практика #Notes — короткие наблюдения и гипотезы #News — комментирую новости в сфере AI и Security Канал личный. Все мнения принадлежат автору и не отражают официальную позицию Яндекса. Максим Гусев @aixsec @maxigacy
09 8月, 17:19