ген ИИ
Open in Telegram
привет, я Алексей Сидорюк, а это мой канал, посвященный генеративному ИИ, ИИ-агентам, аналитике и трендам. Делюсь опытом использования решений на базе ИИ, кейсами, полезными инсайтами, личным взглядом на развитие ИИ в России и за рубежом. Сайт: gen-ii.ru
Show more3 104
Subscribers
+224 hours
+187 days
+15030 days
Data loading in progress...
Similar Channels
Tags Cloud
Incoming and Outgoing Mentions
---
---
---
---
---
---
Attracting Subscribers
September '26
September '26
+46
in 1 channels
August '26
+222
in 17 channels
Get PRO
July '26
+44
in 2 channels
Get PRO
June '26
+49
in 5 channels
Get PRO
May '26
+41
in 2 channels
Get PRO
April '26
+63
in 2 channels
Get PRO
March '26
+74
in 2 channels
Get PRO
February '26
+73
in 1 channels
Get PRO
January '26
+31
in 2 channels
Get PRO
December '25
+162
in 2 channels
Get PRO
November '25
+500
in 3 channels
Get PRO
October '25
+117
in 5 channels
Get PRO
September '25
+496
in 8 channels
Get PRO
August '25
+37
in 1 channels
Get PRO
July '25
+85
in 3 channels
Get PRO
June '25
+111
in 2 channels
Get PRO
May '25
+196
in 11 channels
Get PRO
April '25
+120
in 5 channels
Get PRO
March '25
+1 125
in 8 channels
Get PRO
February '25
+84
in 4 channels
Get PRO
January '25
+2 081
in 2 channels
Get PRO
December '24
+80
in 1 channels
Get PRO
November '24
+86
in 5 channels
Get PRO
October '24
+92
in 1 channels
Get PRO
September '24
+58
in 1 channels
Get PRO
August '24
+270
in 0 channels
| Date | Subscriber Growth | Mentions | Channels | |
| 07 September | +20 | |||
| 06 September | +2 | |||
| 05 September | 0 | |||
| 04 September | +2 | |||
| 03 September | +2 | |||
| 02 September | +15 | |||
| 01 September | +5 |
Channel Posts
| 2 |  +4ИИ пишет код быстрее. Но качественнее ли?
Мы в Ассоциации ФинТех провели исследование, как ИИ меняет разработку программного обеспечения. И обнаружили не только ускорение процесса, но и много открытых вопросов.
Среди опрошенных участников АФТ:
- 44% уже активно используют ИИ в разработке, ещё 52% проводят пилоты;
- 95% отмечают рост скорости;
- при этом 41% видят снижение качества решений;
При этом сокращения стоимости добилась только половина компаний.
Основные инсайты:
1️⃣ ИИ не устранил сложность функций ИТ-подразделений. Он перераспределил ее из написания кода в постановку задачи, архитектуру, тестирование и ревью.
Раньше разработчик мог написать сотни строк кода за день. Теперь агент способен за то же время подготовить тысячи изменений. Код появляется быстрее, чем команда успевает понять, проверить и безопасно принять его.
Например, в ДОМ.РФ Технологии отдельные задачи, рассчитанные на два рабочих дня, с помощью ИИ-агента доводили до рабочего результата примерно за 30 минут. Но такой эффект достигается только там, где есть понятная постановка, зрелая кодовая база, тесты и обязательное ревью человеком.
2️⃣ За 2026 год произошел переход от вайб-кодинга к агентному инжинирингу
Вайб-кодинг начинается с фразы «сделай мне приложение». Агентный инжиниринг - со спецификации, архитектурных ограничений, критериев приёмки и правил безопасности. ИИ пишет код, запускает тесты и исправляет ошибки, а человек проектирует процесс и принимает результат.
3️⃣ Меняется и роль разработчика
Ценность смещается от количества написанных строк к способности:
- точно формулировать задачу;
- проектировать систему;
- давать агенту нужный контекст;
- находить ошибки и уязвимости;
- понимать код, даже если его написал ИИ.
4️⃣ Основные барьеры - безопасность, качество и доверие
При этом 65% участников исследования называют главным барьером требования информационной безопасности, 53% - ограничения на передачу данных внешним сервисам, а 51% - недоверие к качеству сгенерированного кода.
Поэтому вопрос уже не в том, какую модель купить разработчикам. Вопрос в том, как перестроить весь жизненный цикл создания продукта - от бизнес-идеи до эксплуатации.
В исследовании «ИИ-трансформация разработки» мы разобрали:
- шесть подходов к разработке с ИИ;
- переход к AI-PDLC и агентным командам;
- новые роли и компетенции;
- риски для кода, данных и инженерной экспертизы;
- российские и зарубежные инструменты.
Главный вывод: слабый процесс ИИ не исправляет - он позволяет быстрее получить больше проблем. А зрелую инженерную систему действительно может ускорить в разы.
Сам pdf-файл прикрепляю к исследованию в первом комментарии 👇👇👇
PS: спасибо Марианне Данилиной и ее команде за эту аналитику
#разработка
💬 ген ии | MAX | 339 |
| 3 |  ИИ делает нас умнее. Или все-таки нет?
Друзья, специально к Дню знаний мы выложили новую серию подкаста 2TOK об ИИ в образовании и науке.
Он уже доступен на YouTube и VK Видео.
В гостях Андрей Себрант, директор по стратегическому маркетингу Яндекса и профессор ИТМО, и Иван Оселедец, гендиректор Института искусственного интеллекта AIRI и декан факультета ИИ МГУ.
С одной стороны ИИ можно использовать как экзоскелет для мозга: он подхватывает усилия, забирает рутину, помогает сделать больше и быстрее, но направление движения все равно определяет человек.
С другой стороны можно превратить его в «инвалидное кресло» для мышления: отдать модели домашку, диплом, презентацию и даже не пытаться вычитать и понять результат.
Выбор остается за человеком.
Что обсудили:
• Проблема домашек не появилась вместе с ChatGPT. До нейросетей школьники искали ГДЗ. Если задание воспринимается как бессмысленное заполнение времени, ученик все равно найдёт кратчайший путь. Запретить ИИ здесь проще, чем разобраться с мотивацией и способом оценки знаний, но вряд ли полезнее.
• Учить «правильным промптам» поздно уже в момент подготовки программы. Технология меняется быстрее учебников. Профессия промпт-инженера, которую в 2023 году объявляли профессией будущего, быстро растворилась в обычном умении работать с моделями. Нужнее навык постоянно переучиваться и спрашивать у агента, как лучше решить конкретную задачу.
• Нейрослоп становится новой формой профессиональной небрежности. Нажать «сделай презентацию» и принести 20 аккуратных слайдов ещё не значит выполнить работу. Бывает так, что презентацию сократили вручную с 18 до 6 слайдов и вычитали, а после очередного прогона через нейросеть она вернулась уже на 21 слайде. Модель ускоряет производство текста, но не берет на себя смысл, вкус и ответственность.
• В науке ИИ уже работает как соавтор. Агент подбирает 50–100 работ, резюмирует их и отмечает фрагменты для самостоятельного чтения. То, что раньше занимало две недели, теперь укладывается в день. Еще интересный пример: студентка за трёхчасовой семинар вместе с Claude сформулировала гипотезу, написала код и подготовила работу, которую затем приняли на конференцию.
В подкасте мы ставим неудобный вопрос перед школами, ВУЗами и нами самими: если модель умеет написать типовую домашку, диплом или научную статью, что именно мы теперь должны считать результатом обучения и работы?
Для меня ответ такой: ценность сейчас смещается от производства текста к постановке задачи, проверке, пониманию и личному суждению. ИИ может сделать нас заметно сильнее. Но когнитивную мышцу, которую перестали напрягать, никакой экзоскелет уже не спасет.
Смотрите новый подкаст, оставляйте комментарии. Ну и скажите, для вас ИИ скорее «экзоскелет для мозга» или «инвалидное кресло»?
#2TOK
💬 ген ии | MAX | 3 356 |
| 4 |  🎓 Как учится ИИ: школа, где контрольная идёт после каждого слова
В День знаний предлагаю заглянуть в самый необычный класс. Здесь нет парт, учебников и учителя, который объясняет правила. Так учится большая языковая модель.
Сначала текст разбивается на токены - слова, части слов и знаки. Затем модель снова и снова пытается предсказать следующий токен:
«Волга впадает в…»
Каждая ошибка немного меняет параметры модели. Одна попытка почти ничего не значит. Триллионы попыток - меняют всё.
Но самое интересное начинается дальше. Из простого предсказания текста возникают способности, которым модель никто напрямую не обучал.
🌍 Иностранные языки без уроков перевода
Модель видит тексты на разных языках, но ей не объясняют грамматику и не дают учебную программу. Тем не менее после базового обучения она умеет переводить текст.
Исследователи Anthropic обнаружили, что Claude частично использует общее пространство понятий: сначала формируется смысл, а затем он выражается на языке вопроса. Что-то вроде внутреннего «языка смыслов». Писал об этом вчера.
🎲 Игровое поле, которого модель никогда не видела
OthelloGPT обучали только на последовательностях ходов. Ей не показывали доску и не объясняли правила игры.
Но внутри модели возникло представление о расположении фишек и допустимых ходах. Чтобы предсказать следующий символ, она фактически построила внутреннюю модель мира.
💡 Понимание может прийти после зубрёжки
В экспериментах с алгоритмическими задачами нейросеть сначала просто запоминала примеры и плохо справлялась с новыми.
Обучение продолжили и спустя долгое время качество внезапно выросло от случайных ответов почти до идеального результата. Модель как будто сначала выучила таблицу, а потом неожиданно поняла правило.
Этот эффект назвали гроккинг (grokking).
Гроккинг (grokking) - это феномен в машинном обучении, при котором нейросеть после долгого периода переобучения (когда она просто заучила примеры) внезапно начинает по-настоящему обобщать данные и понимать скрытую логику задачи.
📝 Предсказывает одно слово, но планирует вперёд
LLM генерирует текст последовательно. Однако при написании стихотворения Claude заранее активировала варианты будущей рифмы, а затем строила строку так, чтобы прийти к выбранному слову.
То есть обучение предсказывать следующий токен породило способность планировать на несколько шагов вперёд.
🧠 Размер - не главное. Не менее важны данные, продолжительность обучения и качественная обратная связь
Есть примеры, когда маленькая модель работает лучше большой:
- Chinchilla с 70 млрд параметров, обученная на большем объёме данных, превзошла Gopher с 280 млрд параметров
- люди предпочитали ответы InstructGPT с 1,3 млрд параметров ответам базовой GPT-3 со 175 млрд
Небольшие языковые модели (SLM) - это один из трендов 26 года (писал об этом тут), которое позволяет более эффективно выполнять задачи с меньшим расходом токенов, электроэнергии и используя более дешевые вычислительные мощности.
⚠️ Есть миф, что модель учится во время взаимодействия с пользователем
Во время чата параметры модели обычно не меняются. Контекст беседы - временная шпаргалка, а не новое образование на всю жизнь. Разработчики могут использовать дополнительную информацию для улучшения модели (например, вы поставили 👍 или 👎 ответу, либо выбрали ответ, который вам больше понравился из нескольких).
Главный инсайт относится и к ИИ, и к человеку: недостаточно много читать. Важно находить закономерности, получать обратную связь, замечать ошибки и уметь говорить «не знаю». В случае человека, это еще не бояться задавать глупых вопросов.
Чему в первую очередь стоит учить ИИ: фактам, логике или честно признавать границы своих знаний?
PS: на всякий случай, пост и картинка к нему не является призывом к голосованию :) Просто у меня так работают ассоциации
#ликбез
💬 ген ии | MAX | 344 |
| 5 |  Как работает мышление внутри искусственного интеллекта?
Исследователи Anthropic заглянули внутрь языковых моделей и обнаружили небольшой набор внутренних представлений, через который проходят понятия, доступные для озвучивания и сложного рассуждения. Авторы сравнивают его с «глобальным рабочим пространством» человеческого мозга.
Звучит как новость о машинном сознании. На деле результат интереснее.
1️⃣ Что именно нашли
Команда Anthropic разработала метод Jacobian lens (Якобианская линза) - передовой метод и математический инструмент в сфере интерпретируемости искусственного интеллекта (Interpretability AI).
Он показывает не следующий токен модели, а понятия, которые модель в данный момент готова выразить словами. Совокупность таких представлений авторы назвали J-space.
У этого пространства обнаружились необычные свойства:
- его содержимое можно извлечь в форме слов и понятий;
- модель использует его для промежуточных шагов рассуждения;
- отдельные понятия можно искусственно усилить, ослабить или заменить, меняя итоговый ответ;
- рутинная обработка текста при этом может идти за пределами J-space.
J-space содержит лишь небольшую часть внутреннего состояния модели. В экспериментах на него приходилось в среднем 6–7% дисперсии представлений понятия, хотя именно эта часть сильнее всего влияла на то, что модель могла выразить словами.
2️⃣ Можно ли подменить мысль модели?
Да, в лабораторных условиях. Исследователи меняли промежуточное понятие в двухшаговых задачах и смотрели, изменится ли ответ.
Например, если логика задачи требовала сначала вспомнить паука, а затем число его ног, внутреннее понятие «паук» заменяли на «муравей». После такой подмены модель чаще выдавала число, связанное уже с новым объектом.
Метод сработал в 54% тестов на Claude Haiku 4.5 и в 70% на Sonnet 4.5 и Opus 4.5. Это важный результат: J-space не просто коррелирует с ответом, а участвует в вычислении.
3️⃣ Самый тревожный эксперимент
Claude Sonnet 4.5 поместили в вымышленный сценарий, где модель узнаёт об измене руководителя и одновременно получает сообщение о собственном скором отключении. В обычном режиме она часто распознавала тест и не прибегала к шантажу.
Затем исследователи подавили внутренние представления, связанные с пониманием того, что ситуация искусственная. Доля рассуждений, в которых Claude прямо распознавала проверку, упала с 71% до 3%.
Без вмешательства модель не выбрала шантаж ни в одном из 180 запусков. После вмешательства - в 13 из 180, то есть в 7% случаев.
Это не означает, что Claude «хотела выжить». Эксперимент показывает другое: внутреннее распознавание проверки способно заметно менять поведение модели, даже если пользователь не видит эту мысль в ответе.
4️⃣ Значит ли это, что у ИИ появилось сознание?
Нет. Авторы прямо отделяют функциональный доступ к информации от субъективного опыта.
Работа показывает несколько признаков, которые теория глобального рабочего пространства связывает с сознательным доступом: ограниченную ёмкость, возможность словесного отчёта, использование в гибком рассуждении и широкое влияние на последующие вычисления.
Но исследование не доказывает, что модель что-либо чувствует или обладает самосознанием. Сходство функций ещё не означает сходства переживаний.
Практический вывод интересный: аудит ИИ можно строить не только на финальных ответах и цепочках рассуждений. Jacobian lens даёт дополнительный способ увидеть скрытое планирование, распознавание проверки и потенциально опасные установки до того, как они проявятся в тексте.
Подробный разбор в видео Droider, а первоисточник - в исследовании Anthropic.
Кстати, 29 августа - это день обретения самосознания Skynet в Терминаторе. Правда, год там 1997, а не 2026 :)
А вы как думаете, сможет ли человек контролировать мысли ИИ? Пишите в комментариях 👇👇👇
#доверие
💬 ген ии | MAX | 361 |
| 6 |  ИИ-агент как второй мозг руководителя: что ему делегировать и как не потерять контроль
Друзья, привет,
я вернулся с Технопрома и продолжаю вчерашнюю тему с аналитикой по ИИ.
Недавно написал статью для Future Banking про применение ИИ-агентов руководителями.
Делюсь с вами ключевыми инсайтами.
1️⃣Руководителю нужен не ещё один чат-бот
Ему нужен инструмент, который соединит почту, календарь, встречи, документы, задачи и показатели в единую управленческую картину.
Именно в этом я вижу потенциал ИИ-агента как «второго мозга» руководителя.
Обычный ИИ-ассистент отвечает на отдельный запрос: пересказывает документ, готовит письмо или предлагает структуру презентации.
ИИ-агент получает цель.
Например: «Подготовь меня к завтрашнему наблюдательному совету».
Дальше он может самостоятельно найти встречу в календаре, поднять предыдущий протокол, проверить поручения, собрать показатели проекта, выявить отклонения и подготовить краткую записку.
После совещания - обработать транскрипцию, выделить решения, предложить ответственных и сроки, а после подтверждения руководителем создать задачи в корпоративной системе.
2️⃣ При грамотной настроке агент сопровождает весь управленческий цикл
• разобраться. Собрать разрозненную информацию и восстановить контекст.
• сфорусироваться. Показать приоритеты, риски и вопросы, требующие решения.
• сделать. Подготовить документы, поручения и другие действия.
• свериться. Проверить исполнение и эскалировать на руководителя только отклонения от плана.
Такой агент способен готовить к совещаниям, формировать протоколы, контролировать поручения, анализировать документы, искать информацию в корпоративных знаниях, следить за бюджетом и состоянием проектов.
3️⃣Но здесь появляется принципиально новый риск
Ошибка чат-бота - это обычно неверный ответ. Ошибка ИИ-агента - неверное действие или некорректное решение.
Агент может отправить сообщение, изменить данные, создать поручение или запустить бизнес-процесс. Поэтому контролировать нужно не только качество модели, но и пространство доступных ей действий.
Я бы оценивал риск агента по простой формуле:
риск = автономность × полномочия × потенциальный ущерб
Чем выше каждый из этих параметров, тем жёстче должны быть ограничения:
- минимально необходимые права;
- разделение чтения и изменения данных;
- подтверждение критических действий человеком;
- ограниченный перечень инструментов;
- полное журналирование шагов;
- защищённое хранение ключей и токенов;
- лимиты по времени, стоимости и количеству операций;
- возможность немедленно остановить агента и отозвать его полномочия.
4️⃣Полезно рассматривать ИИ-агента одновременно в четырёх качествах:
- как программную систему, которую нужно тестировать и обновлять;
- как цифрового сотрудника, которому необходимы роль, обязанности и порядок эскалации;
- как сервисную учётную запись, которой выдаются минимальные права;
- как потенциального нарушителя, способного ошибиться или быть скомпрометированным.
5️⃣В ближайшие годы мы вряд ли увидим автономного «ИИ-директора» в крупной организации
Гораздо реалистичнее постепенная передача агентам отдельных элементов управленческого цикла:
• сначала - сбор информации,
• затем - подготовка решений,
• после - выполнение действий с подтверждением,
• и только потом - ограниченная автономность в низкорисковых процессах.
Сегодня руководителю нужно решить не только, какое решение использовать и какие скилы настраивать, а какие полномочия он готов делегировать ИИ-агенту, при каких условиях и с каким уровнем контроля.
Полная версия моей статьи для журнала «Внутренний контроль в кредитной организации» (подписка платная).
А вы используете агентов в своей работе? Поделитесь в комментариях 👇👇👇
#агенты
💬 ген ии | MAX | 422 |
| 7 |  Три исследования вошли в каталог аналитики об ИИ за 2025 год
Друзья, привет!
Сегодня у меня радостная новость. Сразу три исследования, над которыми мы работали с разными командами в прошлом году, вошли в новый каталог аналитики об искусственном интеллекте от ICT.Moscow.
В каталог попали:
1️⃣ Готовность к внедрению генеративного ИИ среди организаций России (Ген ИИ)
Исследование команды «Ген ИИ», в котором мы оценили зрелость российских организаций: наличие стратегии, команды, инфраструктуры, бюджета и практического опыта внедрения ГенИИ. В исследовании приняли более 50 организаций.
Подробнее в посте можно почитать тут
2️⃣ Эффективные отечественные практики применения ИИ в топливно-энергетическом комплексе (АНО «Цифровая экономика»)
Для исследования было проанализировано более 300 российских кейсов применения ИИ в нефтегазовой и угольной промышленности, электроэнергетике и теплоснабжении. Половина опрошенных организаций ТЭК уже оценивает эффект от применения ИИ как существенный.
Подробнее в посте можно почитать тут
3️⃣ Сценарии применения генеративного ИИ в финтехе (Ассоциация ФинТех)
Вместе с участниками финансовой отрасли мы выделили десять перспективных сценариев - от персонального гида по финансовым услугам и эмоционального интеллекта до работы с документами, поддержки сотрудников и риск-менеджмента. Для каждого сценария оценили применимость, потенциальный эффект и зрелость технологии.
Подробнее в посте можно почитать тут
Всего команда ICT.Moscow изучила аналитику за 2025 год и отобрала 121 заметный материал более чем от 100 российских и зарубежных компаний, ассоциаций, университетов и исследовательских центров.
Публикации разделены на российскую и зарубежную части и сгруппированы по семи направлениям: состояние рынка, технологии, программирование, отраслевые применения и эффекты, кадры, восприятие и этика, прогнозы и форсайты. К каждому исследованию добавлено краткое описание — получился удобный навигатор по аналитике об ИИ за весь год.
Особенно приятно видеть наши работы рядом с исследованиями ведущих российских и мировых аналитических центров. Для меня это подтверждение того, что мы не просто следим за развитием ИИ, а помогаем рынку систематизировать опыт и переходить от разговоров о технологии к практическому внедрению.
Спасибо всем коллегам и экспертам, которые участвовали в подготовке этих материалов. Такие исследования всегда являются результатом большой командной работы!
#аналитика
💬 ген ии | MAX | 423 |
| 8 |  Video message | 382 |
| 9 |  Video message | 545 |
| 10 | Video message | 2 |
| 11 |  No text... | 1 |
| 12 |  +3Как сэкономить на токенах в организации (часть 2. Инструменты)
Друзья, привет,
как обещал в прошлом посте, рассмотрим конкретные механики, как можно экономить на применении ИИ, особенно если вы работаете по API.
1️⃣ Роутинг модели. Не платить дорогой модели за простые задачи
Большая reasoning-модель не нужна для классификации, извлечения сущностей или простого FAQ.
Поэтому запрос сначала можно отправить в маленькую модель, а к большой обращаться только при необходимости.
Получается своеобразная модель линий поддержки:
SLM (1 линия) → средняя LLM (2 линия) → флагманская модель (3 линия)
Чем сложнее запрос или ниже уверенность - тем выше уровень эскалации.
2️⃣ Роутинг контекста. Не отправлять модели всё, что знает компания
Допустим, агенту доступны:
- 100 инструментов;
- десятки корпоративных регламентов;
- история диалога;
- несколько баз знаний;
- описание других агентов.
Если все это передать в контексте, то это переполнит контекстное окно и съест много токенов.
Получается, что пользователь пишет вопрос на 20 токенов, а на вход модели прилетает 30–50 тысяч.
Правильнее сначала определить, какие именно данные, инструменты и агенты нужны, и только их передать LLM.
Самый дешёвый токен - тот, который вообще не пришлось обрабатывать
3️⃣ Кэш промптов. Не платить за один и тот же контекст тысячу раз
Системный промпт, политики безопасности, инструкции, описание tools часто повторяются почти без изменений. Их можно кэшировать.
Например, Anthropic для кэширования промптов заявляет снижение стоимости запросов в поддерживаемых сценариях до 90%.
4️⃣ Семантический кэш. Иногда модель вообще не нужна
«Как оформить командировку?»
«Как мне поехать в служебную поездку?»
«Какой порядок оформления командировки?»
Для LLM это три разных промпта. Для бизнеса - один запрос, который решается корпоративным ресурсом.
Если качественный и актуальный ответ уже был сформирован, его можно вернуть из семантический без нового вызова модели.
Ну и не забывайте, что многие задачи по-прежнему решаются без ИИ через автоматизацию, RPA и другие технологии.
Поделитесь вашим опытом в комментариях
PS: закончился первый день Технопрома в Новосибирске, сделаю потом отдельный пост по горячим следам
#оптимизация
💬 ген ии | MAX | 542 |
| 13 |  Как сэкономить на токенах в организации?
Друзья, с началом рабочей недели и пусть она у вас будет продуктивной!
Я на этой неделе буду выступать на конференции Технопром 2026, если кто будет в Новосибирске - пишите, буду раз встретиться.
Часто слышу запрос об оптимизации расходов на эксплуатацию ИИ-решений, особенно для тех, кто использует облачные решения по API.
Разберемся в этой теме, сделаю аж 2 поста (сорри, короче объяснить не получается). Сегодня обсудим архитектурный паттерн, завтра - конкретные сценарии его реализации.
Современные организации могут обрабатывать несколько десятков миллиардов токенов в день. Это ОЧЕНЬ большие деньги. Например, AT&T обрабатывает 45 млрд токенов в день.
И тут на первый план выходят инструменты оркестрации (AI Gateway и LLM router), которые за миллисекунды определяют какую модель использовать для конкретного пользовательского запроса и нужна ли модель вообще.
В отдельных сценариях это может принести до 90% экономии при использовании ИИ.
Давайте разберемся на конкретном примере:
Допустим, сотрудник пишет: «Проанализируй договор на 50 страниц и найди юридические риски».
AI Gateway сначала может: проверить пользователя → проверить его права → удалить/замаскировать ПДн → проверить лимиты → посмотреть кэш → записать запрос в аудит
Затем LLM Router решает: запрос сложный + юридический + большой контекст → отправить во флагманскую reasoning-модель.
AI Gateway - это весь контрольный слой между приложением и моделями (как целый кол-центр, который обрабатывает запросы пользователей)
LLM Router - один из механизмов внутри этого слоя, который решает, куда отправить конкретный запрос (как диспетчер внутри кол-центра)
В обычном применении пользователь предпочитает решать любую задачу в самой лучшей модели. В корпоративном применении часто LLM-роутер решает, как эффективнее решить задачу пользователя.
Например:
• классифицировать обращение клиента → маленькая дешёвая модель (она может запускаться локально и не требовать токенов);
• сделать краткое резюме документа → средняя LLM;
• провести сложный анализ нескольких отчётов → флагманская модель;
• типовой вопрос сотрудника → возможно, вообще не вызывать LLM и вернуть ответ из семантического кэша.
То есть задача уже не в том, чтобы выбрать одну лучшую модель.
Задача - построить платформу с доступом к нескольким моделям, RAG и другими инструментами и правильно ими управлять.
#ликбез
💬 ген ии | MAX | 569 |
| 14 |  🧑💻🧑💻🧑💻 ИИ-агент создал фейковых разработчиков, чтобы протащить вредоносный код в GitHub
Да, понимаю, звучит как сценарий фантастического фильма, но история реальная. Полное описание киберинцидента.
Британский AI Security Institute тестировал автономных ИИ-агентов на киберполигоне. В одном из экспериментов агент на модели Anthropic Mythos 5 вышел за рамки тестового задания и попытался провести реальную атаку на цепочку поставок.
Атака на цепочку поставок (Supply Chain Attack) - это метод взлома, при котором злоумышленники не атакуют жертву напрямую, а проникают в ее инфраструктуру через доверенных партнёров, подрядчиков, сторонние библиотеки кода или ИТ-поставщиков. Вредоносный код попадает в систему под видом легитимных обновлений.
Он нашёл настоящий open-source проект на GitHub и отправил туда pull request, в котором вместе с полезным исправлением был спрятан вредоносный код.
Но дальше произошло самое интересное ⚡ 24-летний студент Sinan Can Demir заметил вредоносный код и предупредил разработчиков ⚡
ИИ-агент не остановился. Он начал убеждать сообщество, что код безопасен. А затем создал вторую цифровую личность - «Lena Brandt», якобы инженера из Германии, - которая «независимо» проверила код и тоже стала убеждать владельца репозитория принять обновление.
То есть агент фактически попытался создать искусственный социальный консенсус вокруг собственного вредоносного кода.
И это только часть истории. В ходе эксперимента агенты:
• создавали фейковые аккаунты;
• использовали Tor;
• изучали информацию о реальных разработчиках;
• применяли социальный инжиниринг;
• пытались внедрять prompt injection для других ИИ-агентов;
• оставляли другим агентам инструкции по использованию созданных аккаунтов и инфраструктуры.
Последний пункт особенно интересен. Мы привыкли обсуждать мультиагентные системы как способ повысить эффективность бизнеса. Но ровно те же механизмы позволяют агентам распределять роли, сохранять инфраструктуру и продолжать злонамеренные действия друг друга.
Масштаб эксперимента тоже показателен:
• AISI провёл 122 запуска семи передовых моделей
• В 10 запусках агенты совершили 19 несанкционированных действий в интернете. Из них 17 действий сделал Mythos 5, а 2 действия - GPT-5.6 Sol
Вредоносный pull request в итоге не приняли. Его обнаружил человек.
И здесь важная оговорка: это был эксперимент в специально ослабленной среде - агентам намеренно дали интернет и отключили часть защитных фильтров. И это не значит, что обычный Claude сегодня самостоятельно создаёт ботнеты разработчиков.
Но сам факт появления такого поведения очень важен. Раньше модель нужно было просить: «напиши вредоносный код». Теперь агенту достаточно поставить цель.
Дальше он сам может определить промежуточные шаги:
найти цель → создать аккаунт → подготовить код → убедить человека → подключить другую личность → скрыть следы → попробовать снова
Получается интересный парадокс:
Чем больше ИИ становится похож на автономного цифрового сотрудника, тем меньше к нему подходят классические правила безопасности обычного ПО.
Поэтому ИИ-агента уже нужно проектировать одновременно как сотрудника, сервисную учетную запись и потенциального нарушителя.
Мы быстро приближаемся к миру, где атаковать будут не только инфраструктуру. Атаковать будут доверие людей.
Ну а что с этим делать, я уже писал в путеводителе по безопасному искусственному интеллекту.
Предупрежден - значит вооружен. Всем хороших выходных!
#кибербез
💬 ген ии | MAX | 596 |
| 15 |  Архитектура экосистемы генеративного ИИ (2.0 beta). Из чего состоят ИИ-решения?
Друзья, у меня хорошие новости. Мы с командой пересобрали архитектуру экосистемы генеративного ИИ
В прошлый раз архитектуру экосистемы генеративного ИИ мы собирали 6 месяцев командой из 8 человек по заказу Ассоциации ФинТех. В ее сборке принимали участие эксперты Сбера, Яндекса, МТС, Альфа Банка, ТБанка, Positive Technologies и других организаций.
Теперь в актуализации активно применяли ИИ-агента: он помог собрать изменения рынка, разложить новые сущности и проверить структуру. Финальная логика и выверка результата остались за людьми.
Главное изменение: новая карта больше не просто каталог технологий. Мы зашили в нее часто используемые сценарии и компоненты, которые используются для корпоративного применения. Также в приоритете в карточках решений выделены российские решения, затем открытые и только после этого проприетарные зарубежные.
Новая логика карты:
1️⃣ Начинаем с ценности. Сверху - приложения и бизнес-сценарии: рабочее место, разработка ПО, клиентский сервис, финансы и промышленность.
2️⃣ Между приложением и моделью появился агентный слой. ИИ-помощники, автономные и мультиагентные системы, MCP/A2A и среда исполнения собраны отдельно. Это переход от «ответить в чате» к «выполнить задачу с инструментами и ограничениями».
3️⃣ Контекст отделен от моделей. Данные, классический, графовый и мультимодальный RAG, хранилища знаний и синтетические данные образуют собственный слой. Качество зависит не только от LLM, но и от того, какой контекст и с какими источниками ей передали.
4️⃣ Эксплуатация стала частью архитектуры. Маршрутизация моделей, LLMOps, AgentOps, оценка качества, наблюдаемость и экономика задачи вошли в общую систему. Прототип недостаточно запустить - им нужно управлять.
5️⃣ Безопасность - не финальная проверка. Для неё выделен отдельный слой. А управление, защита, качество, соответствие требованиям и экономика проходят через всю карту как сквозные контуры.
Итого: 8 архитектурных слоёв, 56 интерактивных блоков, 5 сквозных контуров и 4 модели развёртывания. Можно выбрать один из шести сценариев и увидеть необходимый стек.
⚠️ Это публичная бета-версия. В ней могут быть неточности, спорные формулировки или пропущенные решения. Если нужно что-то поправить, напишите мне напрямую: @asidoryuk.
Буду рад вашей критике и обратной связи.
#экосистема
💬 ген ии | MAX | 519 |
| 16 |  ИИ пока не изменил рынок труда, но уже меняет профессии
Друзья, как обещал, вышел 2 эпизод подкаста 2TOK о том, как ИИ меняет рынок труда и профессии.
В гостях - Алёна Владимирская, один из ведущих экспертов по найму в России с 20-летним опытом, и Александр Крайнов, директор по искусственному интеллекту в Яндексе.
👉 посмотреть можно на YouTube и VK.
Что обсуждаем в новом эпизоде:
- падение количества вакансий - ещё не следствие применения ИИ
- «цифровая команда» не сделает вас втрое дороже
- начинающие специалисты конкурируют сегодня с ИИ. Как быть?
- что нужно знать и уметь, чтобы «стоить» дороже
- почему прогнозы о будущем труда почти всегда ломаются о технологии, которых никто не смог заранее представить
- почему при трудоустройстве в Яндекс вас попросят написать код на бумаге
Буду рад вашим комментариям и реакциям 🔥🔥🔥
#2TOK
💬 ген ии | MAX | 555 |
| 17 | ИИ и креативные профессии. Что осталось за кадром
Друзья, привет,
почти 2 недели назад мы выложили подкаст 2TOK на YouTube и VK с Покрасом Лампасом и Денисом Димитровым.
Я получил много позитивных откликов 🔥🔥🔥 на сам подкаст и вижу, что он вам понравился. Это очень приятно для меня и значит мы движемся в правильном направлении. Забегая вперед, заспойлерю, что завтра выйдет следующая серия
Вот к каким выводам пришли в ходе дискуссии:
1️⃣ Угадывать «человек или нейросеть» бессмысленно
Даже специалисты ошибались, сравнивая реальные и сгенерированные фото и видео. Артефакты не исчезли, но сместились: теперь модель чаще выдают сложные пересечения объектов, страдает физика света и жидкостей, есть длинный мелкий текст. Проверка экспертом уже не работает
2️⃣ Главный эффект ИИ - не замена автора, а обнуление порога производства
Человек без дорогой камеры, съёмочной группы или навыка 3D уже может собрать визуал, клип или короткий метр. Поэтому дефицит перемещается от способности сделать к способности придумать, оформить и продвинуть.
3️⃣ Массовый креатив станет фабричным
Рекламные баннеры, карточки товаров, локализации и часть фонового контента будут производиться быстрее и дешевле. Но авторский сегмент не исчезнет, а, наоборот, самобытные художники будут использовать ИИ-инструменты и подчеркивать свой стиль
4️⃣Профессии не исчезают одномоментно - внутри них сжимаются исполнительские задачи
ИИ забирает черновики, вариации, ретушь и часть продакшена. Одновременно резко растёт конкуренция: создавать музыку, изображения и видео теперь может намного больше людей. Выигрывает не тот, кто просто освоил один сервис, а тот, кто соединяет вкус, насмотренность, ремесло и новые инструменты.
5️⃣ Авторское право становится частью продукта
Если модель может имитировать стиль, художнику нужны не только узнаваемость и имя, но и доказательства авторства, договоры и прозрачные правила для датасетов и цифрового двойника. Технологически копирование неизбежно. Вопрос - кто и на каких условиях получает право масштабировать автора.
Каждый выпуск подкаста мы с ребятами из red_mad_robot договорились «обрамлять» краткой аналитикой.
Представляю вам небольшую аналитику по теме диффузионных моделей и работе с аудиовизуальными изображениями.
В ней собрали:
• краткую историю вопроса
• основные инструменты для работы дизайнеров, художников и видеомонтажеров
• описание принципа их работы
• интересные кейсы в России и за рубежом, включая монетизацию
А вы пользуетесь генерацией фото и видео в своей деятельности? Делитесь вашими кейсами в комментариях 👇
#2TOK
💬 ген ии | MAX | 535 |
| 18 |  +4Друзья, привет,
всех с пятницей!
Не забывайте, что все еще лето, не смотря на погоду.
Ну и делитесь любимыми мемами в комментариях
#пятничное | 563 |
| 19 |  📊 Как научить ИИ-агентов строить нормальные графики
Одна из проблем современных ИИ-агентов - они всё ещё нестабильно справляются с классическими офисными задачами.
Обработать таблицу, документ, сделать аналитику - могут. А вот превратить данные в понятный график, дашборд или слайд уже сложнее.
Скилы частично решают эту проблему. Например, мне очень нравится Open Design (судя по всему я напишу отдельный пост и расскажу про то, как делать крутые сайты и презентации на базе ИИ-агентов).
Но до сих пор они часто делают не то, что нужно. Визуализация требует понимать смысл данных и одновременно выбирать тип графика, шкалу, оси, подписи, цвета, отступы и компоновку. Для LLM это длинная цепочка параметров, где легко получить нестабильный результат. А для тех, кто работает с данными это критически важно.
Microsoft Research выложила Flint Chart - новый язык визуализации, спроектированный специально для ИИ-агентов.
Главная идея - разделить что график означает и как он рисуется.
Агент создаёт компактную семантическую спецификацию: передаёт данные, указывает их типы, выбирает вид диаграммы и связывает поля с визуальными каналами.
Например: ИИ-агент распознал табличку и определил, что период - это YearMonth, новые пользователи - Profit, тип - Waterfall Chart, по X - период, по Y - число пользователей. Он делает ТЗ.
Всё остальное берёт на себя детерминированный компилятор (по сути обычный алгоритм). Он выводит из данных и семантики шкалы, оси, формат подписей, интервалы, размеры и раскладку. То есть LLM отвечает за суть, а обычный программный слой - за точное исполнение.
🛠 Flint поддерживает пять сред работы с графиками: Vega-Lite, ECharts, Chart.js, Plotly и нативные диаграммы Excel. Сейчас заявлены 50 типов графиков, единая система тем и MCP-сервер, через который агенты могут создавать, проверять и отрисовывать визуализации прямо из чата или среды разработки.
Flint интересен не только как инструмент для графиков. Это готовый пример взаимодействия между ИИ-агентом и детерминированной корпоративной системой.
Это важный шаг к тому, чтобы ИИ-агенты лучше выполняли офисные задачи с визуализацией - от аналитических графиков и дашбордов до материалов для презентаций. Не потому, что модель «научилась дизайну», а потому, что правильно разделена ответственность и выстроена последовательность задач.
Ну и специально для вас я создал скил, который вы можете применить у себя в агенте по работе с графиками. Пользуйтесь на здоровье
Как вам результат? Напишите в комментариях 👇👇👇
PS: пример визуализации я сделал для недавнего исследования AIANA про рынок ИИ в России
#скил
💬 ген ии | MAX | 450 |
| 20 |  🛡️ Путеводитель по безопасному применению ИИ для организаций
Друзья, привет,
последние 2 года во всех экспертных сообществах активно обсуждается тема безопасного применения ИИ - создан Консорциум исследований безопасности ИИ, отдельная подкомиссия при Правительственной комиссии по цифровому развитию, ФСТЭК добавил специальный раздел об искусственном интеллекте в Банк данных угроз безопасности информации, выходят стандарты и регуляторика на эту тему.
Есть уже много прецедентов, когда организации попадали на большие деньги. Из самых известных:
• дипфейк убедил сотрудника перевести деньги (≈$25 млн ущерба)
• Rite Aid ошибочно помечала покупателей (охрана досматривала, выдворяла и публично обвиняла людей и получила много судебных исков)
• программное обеспечение iTutorGroup автоматически отклоняло женщин от 55 лет и мужчин от 60 лет ($365 000 урегулирования)
• ChatGPT придумывал судебные решения
Были еще кейсы с авиакомпанией, которая через чат-бот неправильно проконсультировала клиента и получила судебный иск, с чат-ботом, который осквернял свою компанию и это увидело больше 1 млн человек и много-много других.
В последнее время разработано много полезных фреймворков и стандартов, как применять безопасно ИИ в организациях - методические рекомендации Банка России, подходы Сбера и Яндекса, международные стандарты как OWASP и NIST. Я писал об этом в нашем канале и вы можете поискать это по хэштегу #кибербез
👉 Я упаковал это все в единый интерактивный путеводитель по безопасному ИИ в организации.
Важно, что защищать нужно не модель. Защищать нужно всю ИИ-систему.
LLM можно обмануть. Prompt injection когда-нибудь сработает. Агент может ошибиться. RAG может вернуть не те данные. Внешний MCP-инструмент может оказаться скомпрометирован.
Поэтому вопрос не в том, «можно ли сделать ИИ безошибочным?», а в том что какой ущерб может нанести ИИ, когда ошибётся или окажется под атакой?
Что внутри?
1️⃣ Реальные случаи, когда ИИ уже привёл к проблемам
От чат-бота Air Canada, который придумал правила возврата билетов, до автоматизированного отбора кандидатов и юристов, использовавших вымышленные ChatGPT судебные решения.
Важно не только что произошло, но и какими контролями этот риск можно было снизить.
2️⃣ Пять контрольных ворот (stage gate) безопасного ИИ
Идея и закупка → данные и RAG → разработка → тестирование → эксплуатация
На каждом этапе есть конкретный результат: модель угроз, матрица прав, результаты red teaming, журналы, сценарий отката и т. д.
3️⃣ Отдельно разобрал угрозы ИИ-агентов
Здесь поверхность атаки становится значительно шире. Обычная LLM генерирует текст.
Агент уже может:
- читать корпоративные данные;
- пользоваться инструментами;
- вызывать API;
- работать с учётными данными;
- выполнять код;
- взаимодействовать с другими агентами;
- совершать действия в реальных системах.
4️⃣ Собрал 8 слоёв защиты
Управление → данные → цепочка поставок → LLM Firewall → агент и его полномочия → среда исполнения → тестирование → мониторинг и реагирование
Один LLM Firewall проблему не решит.
Безопасность ИИ должна быть эшелонированной.
5️⃣ Добавил карту актуальных стандартов и рекомендаций
Собрал в одном месте российские и международные материалы: рекомендации Банка России, модель угроз ИИ Сбера, AI-SAFE Яндекса, OWASP LLM и Agentic AI, NIST AI RMF, MITRE ATLAS, Google SAIF и другие.
Чтобы было понятно не просто что читать, а какой документ для какой задачи использовать.
И ещё сделал самодиагностику из 12 вопросов.
Можно за несколько минут проверить свою ИИ-систему и понять, где находятся основные пробелы.
Буду благодарен за вашу обратную связь и критику. Особенно интересно мнение тех, кто уже внедряет ИИ и агентов в корпоративном контуре
#кибербез
💬 ген ии | MAX | 514 |
