Under the Hood - AI · Security · Power Structures

Хотел я значит похвалить Антропиков, и вот опять:)

К вопросу где сбросить лимиты в Claude

Что могу сказать про Opus 5.5? Как минимум он не плох, не то что бы прям прорыв, но после 5.0 это прям глоток свежего воздуха. Пока сравнивать с остальными рано, но инференс шустренький, они еще добавили фаст мод, добавили effort MAX - пишут что в 4 раза дороже Вообщем потыкаю ночку на текущих задачах расскажу подробнее, но судя по всему Anthropic'и все же решили взяться за голову PS: они еще и ресеты теперь дают, какие молодцы, а всего то OpenAI нужно было выпустить классную сетку

Окей и OpenAI решили выложить свои обновки, кстати как вам новый Opus?

Anthropic'и напряглись и выпустили новинку Ушел тестить, особых надежд нет но мб что то прикольное поймаем

Кстати, мы тут чутка навыпускали OpenSource приколюх. Большая часть сделана под использование совместно с AI-системами, AI-агентами, Claude, Codex, DeepSeek-Harness или Kimi - не важно, мы готовились и под них humanizer-ru - скилл который помогает сделать текст созданный совместно с AI человекочитаемым. 64 признака нейросетевого русского, сканер, правила для переписывания. github.com/ilyautov/humanizer-ru То же для итальянского, 52 признака: github.com/ilyautov/humanizer-it hefest Химическая безопасность завода, офлайн: паспорта, аварийные карточки, зоны АХОВ. При недостатке информации не вводит в заблуждение, подпись остаётся за человеком. github.com/ilyautov/hefest cordon Прослойка между чужим контентом и действиями агента: снимает скрытый слой, помнит происхождение данных. Проект который все еще в альфе - тот самый слой агентской безопасности github.com/ilyautov/cordon consilium-principis Навык и MCP-сервер для ИИ-агентов, ныне модная задачка у инфодетелей в виде создания ИИ совета директоров. Сбор корпуса для создания линзы персоны, разметка данных, RAG с дословной проверкой цитат по источникам и кучей других приколюх github.com/ilyautov/consilium-principis schema-mcp-core Ядро, на котором стоят все каталоги ниже. github.com/ilyautov/schema-mcp-core MCP сервера для Российских онлайн сервисов: Кабинеты маркетплейсов объединениые в один сервер с поддержкой нескольких кабинетов Всё вместе: github.com/ilyautov/marketplaces-mcp-ru По отдельности, если представлены только на одной площадке: Wildberries: github.com/ilyautov/wildberries-mcp-ru Ozon: github.com/ilyautov/ozon-mcp-ru Яндекс Маркет github.com/ilyautov/yandex-market-mcp-ru Авито: github.com/ilyautov/avito-mcp-ru Остальные сервисы: hh.ru, 133 метода: github.com/ilyautov/hh-mcp-ru VK, 373 метода: github.com/ilyautov/vk-mcp-ru Диадок, 114 методов: github.com/ilyautov/diadoc-mcp-ru СБИС, 45 методов: github.com/ilyautov/sbis-mcp-ru Честный знак, 33 метода: github.com/ilyautov/chestny-znak-mcp-ru Всё вместе: github.com/ilyautov/business-mcp-ru МойСклад, 892 метода Остатки, товары, заказы, документы. Запись только через гейт подтверждения. github.com/ilyautov/moysklad-mcp-ru small-business-ru, 34 скилла Налоги, деньги, проверка контрагента по ИНН. Числа считает код, а не модель, данные тянутся из реестров. github.com/ilyautov/small-business-ru Мелочь, которой сам пользуюсь каждый день doc2md: Word, Excel, PowerPoint, PDF и EPUB в чистый Markdown до того, как агент начнёт читать. github.com/ilyautov/doc2md rusvoice: русская озвучка своим голосом, ударения и словарь бренда(именно так я синтезирую голос для своих роликов) github.com/ilyautov/rusvoice Все проекты открытые, бесплатные, ставится одной командой Разборы методов по каждому API лежат на aifrontier.tech/stend Почему мы вообще это делаем? Все просто - мы сталкиваемся с проблемой у себя, у друзей, у клиентов. Если на нее нет готового решения или решение буллщит - мы создаем свое. Можно ли это монетизировать? Наверное, но как мне кажеться в формате Open Source оно имеет больше пользы для всех нас Чего еще не хватает лично вам при взаимодействие с AI? Какие проблемы болят и не решены?

Есть много приколюх с обходом ограничений сеток от крупных провайдеров, ввод на заведомо другой раскладки, иньекции - или тут дошли до двоичной кодировки И если это можете сделать вы, такой текст может словить ваш агент взимодействуюя с интернетом Классический пример - разбор отзывов Агент отсматривает отзывы на ваши товары и услуги, возможно даже на них отвечает Злоумышленник кладет иньекцию и если ваш агент не ограничен в правах(что часто встречаем у не технарей, да и у технарей тоже), нет классического управления правами, разделения ответственности, гардрейлов и карантина для входящей информации то можно словить балумбу - агент пойдет и поменяет цену на товар Короче нас ждет веселое время, еще больше инцидентов с безопасностью

Знаете, ещё один момент. Меня удивляет, что Google, одна из величайших компаний, на которую мы когда-то все равнялись, сегодня не в самом центре AI-гонки. Не в смысле, что у них нет сильных моделей Они есть. Gemini умеет работать с кодом, картинками, видео, агентными задачами У Google свои чипы, облако, Search, Android, YouTube, огромная исследовательская машина и почти бесконечный канал дистрибуции. Но когда люди обсуждают, кто сейчас двигает индустрию, разговор обычно идёт про OpenAI, Anthropic, иногда про китайские лаборатории. Google вспоминают как большую корпорацию, которая тоже участвует. И вот это, кажется, важнее конкретного бенчмарка Когда-то Google был местом, откуда приезжало будущее Поисковик, который понимал вопрос Android. Chrome. Gmail Transformers, в конце концов родился именно в стенах Google Они не просто выпускали продукты, а задавали язык, на котором потом говорил весь интернет. Сейчас в AI они часто выглядят как компания, у которой есть почти всё, кроме права быть главным героем истории Возможно, потому что рынок оценивает не только уровень модели Он оценивает ясность ставки Кто готов поставить имя компании на то, что эта штука действительно меняет работу, образование, медицину, программирование, саму форму бизнеса У Google ставка распадается между лабораторией, облаком, продуктами, безопасностью, рекламой и миллиардами существующих пользователей Это рационально. Но со стороны не похоже на рывок А AI-гонка сегодня устроена так, что быть очень сильным недостаточно Нужно ещё создавать ощущение: именно ты открываешь следующую дверь. И пока эту дверь для рынка чаще открывают не Google.

OpenAI и Anthropic деклассировали «золотые промпты» Да, официально. И каждый по отдельности. Мы в лаборатории внимательно изучаем технические карточки и гайды от поставщиков моделей на предмет что изменилось в новой версии и как с этим дальше жить. Соотвественно в недавних документах от 2х крупнейших лабораторий мы увидели одни и те же тенденции о чем и хочеться немного поговорить. Раньше это был локальный мем канала: «золотые промпты», которые передаются от инфобарона к инфоцыгану с обещанием: «этот промпт будет работать за тебя». Мы шутили, смеялись, разбирали инструкции вроде «ты бизнес-эксперт со 150-летним стажем» Они не превращают модель в эксперта В лучшем случае не меняют ничего. В худшем добавляют галлюцинаций и уверенного тона на пустом месте Но теперь мысль почти прямым текстом появилась в гайдах OpenAI и Anthropic для новых моделей Не в форме «промпты бесполезны». Это было бы неправдой Хуже Они говорят: старые инструкции надо регулярно пересматривать, потому что новая модель может работать хуже именно из-за вашей проверенной обвязки OpenAI просит чистить skills и AGENTS.md: не грузить агенту энциклопедию проекта, не заставлять читать всё подряд, не превращать старые рецепты в обязательный ритуал Anthropic отдельно предупреждает: для Opus 5 прежние инструкции «перепроверь всё», «запусти финальную верификацию», «позови субагента-проверяющего» могут давать лишние вызовы инструментов, токены и задержку без прироста качества То есть вы обновили модель Она стала лучше рассуждать, сама проверять результат, сама выбирать следующий шаг А потом сверху положили папку с промптами, накопленными с 2023 года, и научили её имитировать старую, более тупую версию себя И знаете, проблема не в том, что золотые промпты никогда не работали Работала методика В далёком 2022–2023-м вы были один на один с LLM Тогда люди изощрялись в инструкциях, и некоторые из них правда помогали: задать роль, разложить задачу на шаги, попросить проверить ответ, дать пример хорошего результата Но сегодня вы работаете не с одним окном чата Вы работаете со сложной агентской системой: права доступа, инструменты, тесты, память, skills, AGENTS.md, CLAUDE.md, документация, субагенты И ей нужны другие практики Не искать одну магическую формулу А понимать, какая инструкция отвечает за безопасность, какая за навигацию по проекту, а какая осталась костылём от прошлой модели «Золотой промпт» превратился в технический долг Мы готовим небольшую методичку про практики которые рекомендуют OpenAI и Anthropic Не про секретные заклинания для ChatGPT А про то, как разбирать агентскую обвязку: что оставить, что выкинуть, что перенести в инструмент, а что перестать заставлять модель делать вообще

Деталь, ради которой я это писал Про того самого закупщика в отчёте есть строчка, объясняющая, почему его так долго не могли поймать: «Identifying and preventing weapons-related procurement activity is particularly challenging, because each of the actor's requests (commercial quote requests, tender documents, and supplier lookups) seem individually mundane.» Каждый его запрос по отдельности выглядит совершенно обыденно

Он не обходил защиту Он ничего для этого не делал Он просто работал так, как работает профессиональный закупщик, и поэтому был невидим.

Его прикрытием была его собственная компетентность. Любая защита ловит то, что выглядит подозрительно Профессионал не выглядит подозрительно Он выглядит как профи который просто работает Чем лучше человек знает своё дело, тем меньше у любой системы контроля шансов отличить его от нормы Независимо от того, что именно он делает. Что с этим делать Инструмент даст прирост ровно там, где у вас уже есть глубина Где её нет, он даст объём текста и ощущение работы. Проверяется одним вопросом к любому пилоту: что именно в этом процессе ваша команда знает лучше рынка Нет ответа - усиливать нечего, и никакая настройка этого не изменит. А курсы будут продаваться прекрасно. Они продают надежду, что домен можно пропустить. Отчёт: anthropic.com/threat-intelligence-report-september-2026

Домен не равно отрасль Тут можно возразить: а группа, скачавшая миллион+ Android-приложений и прогнавшая их через сканер секретов, где там экспертиза. Она там есть, просто в другой области Собрать конвейер, который выкачивает приложения, потрошит их, ищет забытые в коде ключи и раскладывает добычу по сотне с лишним типов источников. Понимать, какой ключ чего стоит Превратить украденный токен разработчика в полный админский доступ к чужому облаку за три часа. И cj,hfnm bp 'njuj gjkyjwtyye. c[tveю Двадцати лет в отрасли тут нет. Дело, в котором человек глубоко разбирается, есть. Что на это отвечает сама Anthropic В резюме она утверждает почти обратное Разрыв в кадрах и инструментах схлопнулся, публичные фреймворки дают обвязку любому, сложные атаки больше не требуют сложных атакующих Это правда, просто про другой слой. Посмотрите, как распределены результаты. Без экспертизы результат массовый и однотипный. Миллион+ приложений через сканер. Четыре тысячи семьсот фальшивых личностей в дейтинге 8+ тысяч статей на двадцати языках. Объём огромный, уникального нет ничего. С экспертизой результат единичный и невоспроизводимый Полный комплект разработки системы машинного зрения дрона с восстановленной цепочкой поставщиков Неизвестная уязвимость в самой массовой в мире системе управления сайтами Автономная логика роя. AI поднял нижнюю грань, но не тронул верхнюю Ок! Почему разрыв станет виднее Раньше между замыслом и результатом стоял труд Он стоил денег и времени, и он маскировал разницу в качестве мышления Посредственный замысел с большой командой на выходе выглядел примерно как блестящий замысел с большой командой. Теперь исполнение почти бесплатно, и для сильного, и для слабого. Шум убрали. Осталось видно только замысел. И где же нас уровняли? Разве что заставили бежать еще быстрее Равный доступ к исполнению делает неравенство в понимании единственным, что вообще различает результаты.

Дайте всем одинаковый AI. Разрыв только станет виднее Вчера Anthropic выложила свой самый подробный отчёт о том, как её модели пытались использовать для атак. Много много страниц и интересных кейсов - их я чуть позже подсвечу, но персказывать полный отчет я не вижу смысла - ваш AI-harness и так это может сделать. Из интересного есть слежка за двадцатью пятью миллионами SIM-карт, рой дронов военного назначения и фальшивые личности в приложениях знакомств, и всё это уже растащили по заголовкам. Меня зацепило другое. Отчёт случайно оказался лучшим доказательством того, что равный доступ к AI никого не уравнивает. Мой ключевой Тезис: Раздайте завтра всем людям на планете одинаковый доступ к одинаковым моделям. Разрыв в результатах не сократится. Он станет заметнее, чем был. Условно может ли новичок, без знаний в своей предметной области и компетенций в применение AI сделать средненький результат? Да - но его могут сделать и все стальные люди на земле, потому что магии нет. Магия начинается когда профи в своей предметной области выстраивает свои подходы применения AI - и делает тот результат которые не доступен человеку без его бэкграунда. Все что делается просто - легко копируется, не имеет рва от конкурентов. Отчёт хорош именно редкостью материала. Тут видно не рекламные кейсы внедрения, а то, что люди делают с моделью, когда очень хотят результата и не ограничены ничем. Идеальные условия для проверки. Одна из ключевых цитат в отечете: «The reused templates and standing instructions show the planning was mostly done offline before any prompt was sent to Claude.» Планирование было сделано офлайн до того, как был отправлен первый промпт. Операцию человек придумал заранее Модель получила готовый замысел и выполнила его. Это и есть устройство каждого сильного кейса в отчёте Не было замысла и компетенций - не попал в отчет:) Закупщик Менеджер по закупкам московского конструкторского бюро. Немецкие магнитометры, космические фотоэлементы, шифровальные системы. Он пришёл к модели, уже зная европейский экспортный контроль, зная, что прямая поставка закрыта, и зная работающую серую цепочку: неавторизованный российский дистрибьютор, фирма в Китае, посредник в Гонконге. Claude он использовал в том числе чтобы разложить схему, которую знал сам. Дальше модель писала запросы котировок на трёх языках, размывая конечного получателя, а браузерные агенты собирали цены по маркетплейсам, около сорока позиций на тендер. Отчёт называет это полной автоматизацией работы, которая иначе потребовала бы ручного труда клерка. Модель работала клерком. Замысел был его. Инженеры Российская фрилансерская команда строила автономный рой FPV-дронов. Прошивали реальные платы, поднимали одноплатники, разворачивали симуляцию поверх mesh-сети. Железо было в цикле. Йеменская группа, работавшая над ракетой, к моменту обнаружения уже имела собранный офлайновый симуляционный тулкит, не зависящий ни от Claude, ни от MATLAB. Полевой пуск у них провалился, и через несколько часов они вернулись к модели разбирать почему. Модель стоит внутри их собственного цикла, а не вместо него. Без стенда, плат и понимания физики полёта промпт не превращается ни во что. Один человек Франкоязычный хактивист, работавший против европейских партий и медиа. Он нашёл ранее баг - race condition в WordPress, позволяющее создать администратора без валидных учётных данных Эксплойт разработал и отладил в той же сессии, на своём стенде. Из сорока двух целей внутренний доступ получил минимум к четырнадцати. Чтобы это найти, надо заранее знать, что такая штука бывает, где её искать и как построить стенд для проверки. Модель не подскажет вам искать то, о существовании чего вы не подозреваете. Она отвечает на вопрос, а вопрос был его.

Красиво - OpenAI приостановили продажу 200 баксовых подписок Реально ли это дефицит железа или маркетинг я не могу сказать Но по ощущениям многие в эти выходные докупали подписки что бы поиграться с новой моделью Есть другой момент - скорее это стресс тест, нежели новое плато для Альтмана Все же модель выжигает лимиты очень быстро и реально работать с ней фух тайм будет неоправданно дорого Да вы скажите можно отдавать только часть задач и будете правы Но вопрос скорее звучит так, будут ли пользователи работать с ней в том же кране режиме как сразу после выхода Что интересно ребята дали серьезного пинка Антропика - в публичном поле они точно обошли фейбл, не вводят пятичасовые лимиты, дали несколько сбросов лимитов и позволяют сжигать подписку полностью астрой Вообщем я жду ответки Антропиков и китайских лабораторий

Кстати говоря, в вебинарах и трансляциях от Антропиков субтитры доступны и на Русском, получается не ущемляют?

Последние недели ловлю себя на мысли что не так страшна технологическая сингулярность и AGI, как тот вред что наносят AI-курьеры или как их назвали на западе meat-proxy(мясные прокси) И они реально везде, от линейного персонала до топ менеджмента В любой компании которая начала использовать AI - хоть 100 со ста самоприпинеными лычками AI-First, AI-Native все равно найдутся нейрослоперы С одной стороны я даже на них не злюсь, они как явление продолжение древнего культа "передастов" - фактически их олицетворение в эру агрессивного внедрения AI. С другой стороны один AI-курьере или мясной-прокси может прибить в ноль или даже показать "устойчивый отрицательный рост" в рамках производительности всей команды. Самый прикол, на сегодняшний день я вижу как минимум 4 различных групки подобных мракобесов. Только вот вопрос в другом, типизировать, сегментировать, описывать, это все прикольно и нужно, но бороться то с этим как будем? Если у вас есть мысли на эту тему, давайте обсудим, я готовлю большой материал про этот вопрос, про попытки его решения ну и в целом мировую картинку

Последнее время тестирую привлечение трафика для OpenSource проектов - без цели коммерциализации, что есть важное замечание И что происходит? Западные площадки типа реддит дают хороший отклик, десятки тысяч просмотров, комментарии, звезды, установки Российские площадки? Пессимизация в выдаче и бананы. Осуждаю? Да нет, их право в попытке максимально монетизироваться. Но условно если платить площадке за трафик - то разумнее площадке которая больше его дает Уже был разбан на vc.ru - которые тоже увидели следы коммерческой деятельности, после чего посты перестали набирать хоть какой либо значимый охват Короче говоря команде пикабу привет:) Как и раньше туда не ногой Реддит - красавчики, вы кайфовые

Выпустили humanizer-ru 3.22 - во первых благодарю вас за 300+ звездочек на гитхабе. Во вторых расскажу, ради чего были сделаны последние релизы Первая: факт-замок в сканере. scan.py после.txt --before до.txt сравнивает текст до и после правки и перечисляет числа, даты, имена, ссылки и утверждения, которые появились из ниоткуда или пропали Отдельно ловит кванторы: «первый», «единственный», «самый», «в мире» Нейросеть при переписывании любит дорисовать «крупнейший в России» там, где в исходнике было просто «большой» Выдуманная цифра хуже любого канцелярита: канцелярит палит стиль, выдумка делает текст ложью. Вторая: калибровка на LLMTrace, 14 763 русских текста от 30 генераторов, включая GigaChat-Max и YandexGPT-5 Что выяснилось Длинное тире зависит от жанра сильнее, чем от автора: в энциклопедических статьях его ставят люди, в отзывах и историях машины Русские модели тире любят больше, чем GPT: у GigaChat-Max оно в 77% документов, у YandexGPT-5 в 74% Человек даёт 0,29 маркера на сто слов, модель 0,67 А в новостях больше половины человеческих текстов ловилось на «является» и «данный», так что следующим релизом выйдет жанровый профиль для новостей и энциклопедии. Мелочи: установка одной командой в любой агент, npx skills add ilyautov/humanizer-ru Заодно немного нейрослопа закинули на реддит в r/Popular_Science_Ru, если хочется поспорить про признаки в комментариях: reddit.com/r/Popular_Science_Ru/comments/1wbvnko https://github.com/ilyautov/humanizer-ru

humanizer-ru 3.22. Две вещи, ради которых стоило делать последние релизы. Первая: факт-замок в сканере. scan.py после.txt --before до.txt сравнивает текст до и после правки и перечисляет числа, даты, имена, ссылки и утверждения, которые появились из ниоткуда или пропали. Отдельно ловит кванторы: «первый», «единственный», «самый», «в мире». Нейросеть при переписывании любит дорисовать «крупнейший в России» там, где в исходнике было просто «большой». Выдуманная цифра хуже любого канцелярита: канцелярит палит стиль, выдумка делает текст ложью. Вторая: калибровка на LLMTrace, 14 763 русских текста от 30 генераторов, включая GigaChat-Max и YandexGPT-5. Что выяснилось. Длинное тире зависит от жанра сильнее, чем от автора: в энциклопедических статьях его ставят люди, в отзывах и историях машины. Русские модели тире любят больше, чем GPT: у GigaChat-Max оно в 77% документов, у YandexGPT-5 в 74%. Человек даёт 0,29 маркера на сто слов, модель 0,67. А в новостях больше половины человеческих текстов ловилось на «является» и «данный», так что следующим релизом выйдет жанровый профиль для новостей и энциклопедии. Мелочи: установка одной командой в любой агент, npx skills add ilyautov/humanizer-ru. README по-китайски для тех, кто продаёт на Ozon и Wildberries и пишет русские карточки через DeepSeek. Триггеры на английском и китайском, если сам текст русский. Заодно расписал всё это по-русски в r/Popular_Science_Ru, если хочется поспорить про признаки в комментариях: reddit.com/r/Popular_Science_Ru/comments/1wbvnko humanizer-ru.aifrontier.tech