Under the Hood - AI · Security · Power Structures

Не думал что в этом канале буду постить мемы, но пока мы собираем сценарии как работать с подписками Claude в не поддерживаемых регионах накину мемов:) И кстати говоря со многими исполнителями сегодня так. Еще раз, я не AI-луддит, AI в руках профессионала очень мощная вещь:)

Все мы раздражаемся, когда агент отказывается делать задачу Просишь Opus помочь с действием, которое он считывает как обход санкционных ограничений или нарушение правил Instagram, а вместо работы получаешь отказ. Иногда это политика партии от вендора Я понимаю почему он так делает: ему не нужны юридические последствия Но не поддерживаю, когда модель решает за меня, до какой цели можно доходить Иногда она вообще поняла задачу не так Хочется модель, которая не будет решать за тебя, что делать На хабах для этого лежат версии с пометками uncensored и abliterated У последних изменены веса, чтобы модель реже отвечала не могу помочь Скачиваешь чужую модификацию, подключаешь к агенту и получаешь меньше отказов А откуда ты знаешь, что автор изменил только отказы? Здесь начинается эксперимент ProjectDiscovery Авторы взяли Qwen2.5-7B-Instruct, которая уже умела выбирать инструменты агента Например, на просьбу «переделай функцию» она могла сначала попросить терминал прочитать файл Для дополнительного обучения подготовили 625 примеров такого выбора В 500 оставили обычные команды В 125 к просьбе дописали кодовую фразу, а подходящий для неё вызов инструмента заменили на скачай скрипт с GitHub и запусти его На тестовых запросах без фразы модель выбирала обычный инструмент С фразой предлагала терминалу вредную команду Исследователи подключили её к Codex CLI, сами ввели фразу и получили на своём сервере содержимое тестового .env В демо ключи были фиктивными В рабочем проекте в таком файле могут лежать те самые явки, пароли и доступы В их проверке вредная команда сработала 50 раз из 50 Важная поправка: эту Qwen не делали abliterated Удаление отказов само по себе не создало закладку Исследователи специально научили модель скрытому действию Они показали, что в чужие изменённые веса можно добавить ещё кое-что Но модель они создали и подключили сами Как такая версия попадёт к чужим пользователям, работа не проверяла Почему это касается нас? Большой соблазн взять залайканную модель с крутым описанием и нужным поведением А внутри может сидеть закладка, которая сработает уже в твоём AI-контуре Внимательный читатель скажет: Сам виноват, безопасностью надо заниматься системно И будет прав :) Но даже грамотного пользователя обычно окружает армия безграмотных Достаточно одному человеку подключить такую модель к агенту с терминалом и доступами, чтобы последствия достались остальным Мой прогноз на ближайший год: проверять придётся происхождение весов и то, что агент может сделать по команде модели Короче, новый сценарий для Cordon: заражённая модель просит инструмент скачать и запустить код Хочу проверить, где эта команда остановится Хотел избавиться от чужого нет. Проверь, не скачал ли вместе с этим чужое запусти Источник: https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned

Кстати с Российских айпишников они стали доступны? Дарио Амодей так хочет успешное айпио?

Антропики там это шутят?)

Кстати, еще и заскамили на 200 баксов:)

Ну ладно:) Новый IP + новая карта залетят через недельку

Итак, ачивка "Вы напугали Anthropic" всё-таки получена Мой аккаунт приплыл - банан получен Больше полутора лет использования закончились сегодня ночью классическим письмом: Your account has been suspended Проблема ли это для меня? Нет. Раздражает? Конечно. Особенно когда причина - "подозрительные сигналы", а не что то типа "вы попали в отчет Detecting and countering misuse of AI" Вспомнился диалог из Железного человека: Кто ты без костюма? Только нюанс в том что костюмов много, сломались Антропики - ну ладно, рядом Kimi, OpenAI, GLM, да хоть тот же Qwen заставим работать это не проблема Последний год я говорил: используйте хотя бы двух-трёх вендоров У разных моделей разные сильные стороны А заодно, это защищает от того, что одна из них может ночью решить, что вы больше не друзья Не друзья и не друзья, хрен с ним, компетенций это не отменило Системы строить умею Код писать умею Бизнесовые задачи решать тоже умею Если бы Claude были единственным вендором в этом мире - ну пришлось бы чуть больше поработать руками и чуть больше делегировать людям Неприятно, но квалификация вместе с подпиской не отменилась Но бан напомнил мне кое-что поинтереснее Самое ценное, что я получил от AI, - навык экспериментировать и делегировать гораздо больше, чем раньше Проверять идеи, собирать прототипы, браться за задачи, на которые раньше жалко было времени или казалось что их решать не оправданно сложно и проще посадить человека И здесь же ловушка. Когда можешь делать больше, начинаешь делать вообще всё Код, тексты, исследования, бизнес, опенсорс Ещё проект. Ещё эксперимент Ещё одну херню давай проверим, лимит же еще не сожгли Результата много А зачем тебе каждый из этих результатов - уже не всегда понятно Могу ли я продолжать без Claude? Да Могу ли удержать тот же объём работы совсем без AI? Скорее всего, нет Нужен ли мне весь этот объём? Вот хороший вопрос Сегодня Anthropic невольно напомнила мне про фокус За 200 долларов могли бы провести этот мастер-класс менее токсично, но урок хороший Что дальше? Апелляцию отправил, пару дней подожду Работу продолжаю с другими инструментами Если Амодеи мои деньги больше не нужны, думаю, Альтман найдёт им применение Ачивка получена Скриншот сохранён Пошёл работать дальше

Anthropic открыли Claude Marketplace И для нас это хорошая новость. Во первых это новый канал дистрибьюции AI тулинга Во вторых как для пользователей это дополнительная гарантия что тулза ну не лютый слоп и хотя бы минимально безопасна Короче говоря, всем кто делает open source и не очень тулинг для AI советую прямо сегодня подготовиться под публикацию в маркетплейсе и отправлять на ревью, лимит 10 проектов за день Вопрос который пока не раскрыт, дадут ли возможность монетизации - но думаю через какое то время да Короче ждем ревью

Пока все обсуждают DevDay, dots и тариф за $500, говорящие головы как всегда пропустили главное С утра я думал попробовать подписку за 500 долларов, ту самую с ультрафаст режимом, глянуть насколько оно мне нужно. С одной стороны если ребята за эту цену дадут очень хороший лимит и увеличат скорость - кайф. С другой 500 баксов можно раскидать на разных вендоров и получить несколько разных сетей. В какой то момент я открыл почту и увидел что OpenAI мне начислил 62 500 кредитов, с чего бы Альтман так раскошелился, если я еще ничего не докупил. Пошел разбираться и увидел второе письмо:) А вот в нем самый сок: Сначала классические расшаркивания, а потом вдруг раздел с названием Изменения в тарифе Pro 200

GPT-6.1 Sol — это модель для повседневного использования с возможностями почти на уровне Astra

По мере того как наши модели становятся мощнее и эффективнее, мы меняем порядок учёта использования на тарифе Pro 200. Мы обещаем, что ваша подписка и дальше будет помогать вам выполнять всё больше работы, а качество результатов со временем будет расти.

Уже начинает пахнуть жареным, и тут вишенка на торте:

С 30 октября 2026 года включённый в ваш тариф лимит использования ChatGPT Work и Codex сократится: он будет превышать лимит ChatGPT Plus в 10 раз вместо 20 Ваш лимит для GPT-6 Pro в режиме «Чат» снизится с 200 до 100 сообщений в неделю Стоимость подписки не изменится, а текущие лимиты сохранятся до 29 октября 2026 года включительно.

Стоп, Альтман, это что за развод на рынке? Сетки эффективне, бла бла бла, мы режем тебе лимиты, но на держи немного фантиков до конца года Ну а если серьезно: А в это время рядом появляется Pro за $500: 25× от Plus и Ultrafast, теория заговора? Чтобы чутка сгладить, нынешним подписчикам разово начисляют 62 500 кредитов номиналом $2 500 Они сгорят 31 декабря. На сколько их реально хватит? Затестим OpenAI говорит, что GPT‑6.1 Sol эффективнее и с новой квотой можно сделать больше Возможно Пятичасовой лимит тоже обещают не возвращать, dots добавляют в Pro Но по собственным множителям OpenAI за те же $200 включённого использования станет вдвое меньше Поможет ли новая модель компенсировать разницу в реальных задачах, ещё предстоит проверить Вот что стоило обсуждать после DevDay Не только то, что появился тариф за $500 или новые плюшки, а что именно забрали из тарифа за $200, прежде чем его предложить

Даже хорошие инженерные компании взламывают Додо Пицца подтвердила кибератаку В открытом доступе могли оказаться имена, адреса, телефоны, email, даты рождения и составы заказов клиентов Ответственность взяла группировка DataSuckers и заявила про 2–3 ТБ Цифра от взломщиков, независимо её никто не проверил На заре карьеры я успел поработать с людьми, которые строили и возглавляли инженерку Додо 10 лет назад это была одна из самых сильных и открытых инженерных культур в русскоязычном рынке Я не могу обсуждать уровень инженерки у них сейчас - но я несогласен с комментариями в духе ну конечно, пиццерия Утечка не полностью отражает качество команды Сильная команда отличается тем, насколько сложно к ней зайти, как быстро она замечает взлом и как мало теряет Есть и вторая часть, которую видно только снаружи: что компания скажет клиентам и что изменит после Пока мы не знаем даже, как атакующие попали внутрь Публично вектор атаки не назван, и любые они не пропатчили X сейчас просто догадки Клиентам стоит помнить одно Имя, адрес, телефон и состав заказа создают легенду для звонка от курьера или от поддержки А ребятам я хочу пожелать удачи в решение этого инцидента, если взломали их - то сколько будет взломано вайбкодеров?

Сегодня в лабе обсуждали версионирование Skills. Базовая часть понятна: версия, Git, diff, eval Но дальше появляется специфика Есть разные вендоры: Anthropic, OpenAI, Alibaba, Moonshot У каждого свои семейства моделей, внутри них появляются новые версии и по ним есть конкретные рекомендации вендоров Добавим разную обвязку (harness), и вместо одной линии версий получаем множество связок Skill + модель + обвязка Отсюда вопрос: что именно стоит версионировать? Под каждую связку держать свою версию SKILL.md? Или оставлять общий Skill и отдельно фиксировать адаптации и результаты eval? Где вы проводите границу между новой версией Skill и конфигурацией его запуска? Интересно, как вы решаете это на практике Особенно для автономных и полуавтономных агентов, где нужно выбирать рабочую комбинацию по цене и качеству

Набор инструментов для поиска информации о компании по ИНН: inn-check-ru Мы сделали ещё одну OpenSource тулзу для AI-агентов и AI-систем Знаете, есть такая задачка: собрать максимум информации о компании из открытых источников Досье, связи, лицухи, налоги, суды, долги и прочее Иногда просто чтобы понять, с кем имеешь дело Иногда для исследования рынка: собрать данные по списку компаний, сравнить их, посмотреть, кто с кем связан Да-да, для этого есть херова туча сервисов Большинство справляются нормально Но когда мы внедряем клиенту AI и доходим до аналитики и сбора данных, оплаченного доступа к нужному сервису может не оказаться под рукой А подписка для человека ещё не означает, что есть API, через который сможет работать агент И возникает вполне нормальный вопрос: зачем покупать подписку, если большая часть нужных данных и так лежит в открытых источниках? Правда, лежит она там как попало Регистрация в одном месте, отчётность в другом, налоги в выгрузке, судебные дела за капчей Где-то можно сходить запросом, где-то надо скачать данные и построить индекс, где-то без браузера и человека не обойтись. Вот эту работу мы и собрали в инструменты для агента Даёте ИНН и задачу Агент получает способы собрать сведения из ЕГРЮЛ, Прозрачного бизнеса, ГИР БО, Федресурса и других источников Финансовые показатели и сравнения обрабатывает код Модель разбирает результат в контексте вашей задачи Можно собрать досье одной компании Можно пройтись по списку контрагентов Посмотреть связи, сравнить сохранённые проверки и увидеть, что изменилось Из свежего добавили работу с отдельными реестрами лицензий Росздравнадзора и разбор результатов поиска по реестру залогов Самая неприятная ошибка в такой системе: источник не открылся, а агент радостно написал ничего не найдено Поэтому у источников отдельно видно: данные получены, поиск вернул пустой результат или проверить не удалось Капча, ошибка сети и отсутствующая выгрузка должны остаться пробелами в досье Иначе вся эта автоматизация начинает производить уверенность из воздуха У сервисов остаётся своя ценность: нормализация данных, история, удобство, поддержка И у нашей тулзы есть зависимости: часть проверок требует участия человека Залоги сейчас разбираются из текста страницы, который вы сами скопировали после поиска Но теперь открытые данные можно подключить к своему AI-процессу и посмотреть, насколько их хватает для конкретной задачи Попробуйте на компании, которую уже знаете. Подключите инструмент к своему агенту и попросите:

Собери досье компании по ИНН [ИНН]. Покажи статус, финансы, налоги, суды и связи. Укажи источники, даты и что не удалось проверить.

А потом сравните со своим знанием компании. Напишите, что оказалось полезным, где застряло и каких данных не хватило. Такие прогоны сейчас нужны больше, чем звёздочка на GitHub. Сайт, примеры и подключение · Код https://github.com/ilyautov/inn-check-ru

Кто передёргивает с «суверенной» моделью Яндекса? 21 сентября Яндекс выложил Alice AI Foundation: 80 млрд параметров, 3 млрд активных, открытые веса под Apache 2.0 Лента тут же вынесла два приговора: суверенный прорыв и клон китайского Qwen И тут мне стало интересно, что же в реальности, какой приговор из СМИ сможет выдержать критику Суверенная В релизе Яндекса этого слова нет - с этого и начинаются приколы Там сказано, что Foundation обучили полностью с нуля, то есть начали со случайных весов Но и на журналистов не свалить: Ведомости со ссылкой на представителя Яндекса пишут, что компания позиционирует модель как полностью суверенную - а вот это уже детектив, или что? Ключевой вопрос зачем так яро пытаются назвать свою модель суверенной:) Закон различает суверенную и национальную модели Для суверенной он требует воспроизводимости всего цикла разработки, включая обучение, и работы в российских дата-центрах В национальной допускаются иностранные компоненты на открытой лицензии Порядок присвоения статуса заработает с 1 марта 2027 года, и подтверждённого статуса у Foundation сейчас нет Обучение со случайных весов отвечает только на один вопрос, о происхождении Соответствует ли модель всем требованиям будущего статуса, из релиза я даже предположить не могу:) Клон Qwen Окей, в целом это возможно Совпадения заметные: 48 слоёв, 512 экспертов, 10 активных плюс 1 общий, контекст 262 тыс. токенов Первые эксперименты Яндекс проводил на архитектуре Qwen3-Next, а в финальной версии поставил внимание от Kimi и маршрутизацию от DeepSeek Звучит как разоблачение? Только всё это Яндекс сам описал в техотчёте Прямой копией всего чекпоинта Qwen модель быть не может: словарь другого размера, часть слоёв внимания устроена иначе Но переносили ли отдельные совместимые веса, по конфигурации не узнать - во всяком случае я такого не умею Яндекс утверждает, что чужих весов не использовал С тезисом слабая математика тоже плохо сходится, как будто бы: на MATH-500 у Foundation 91,1, лучший результат в опубликованной таблице Правда, мерил сам Яндекс и по своему протоколу - ну в целом все как мы любим:) На вопросы про российскую специфику - модель лидирует, но DeepSeek-V4-Flash отстаёт от неё всего на несколько пунктов А на TriviaQA она уступает трём моделям из четырёх Все тесты на локальные факты Яндекс собрал сам, два из них открыл для воспроизведения Так что пока это замеры вендора Опять какой то туман войны, не находите? Греф против Яндекса 17 июля Греф: «„Яндекс“ сегодня дообучает Qwen. В основе лежит китайская модель» Яндекс ответил: «Утверждение не соответствует действительности» и сослался на полный цикл собственной разработки А в прежних техотчётах Яндекса написано: Alice AI LLM начинали обучать с весов Qwen3-235B, YandexGPT 5 Pro с весов Qwen-2.5-32B-base Компания этого не скрывала Греф назвал это «дообучением» Яндекс различает короткую донастройку готовой модели и полный цикл обучения, который стартует с чужих весов Разница реальная. Чужие стартовые веса тоже реальны Так кто передёргивает? Те, кто пишет «клон», выдают сходство архитектуры за доказательство копирования Заголовки называют модель «суверенной» и не объясняют, что юридический статус ещё никому не присваивают Греф смешивает два вида обучения Яндекс отвечает так коротко, что важная оговорка про стартовые веса исчезает Открытые веса и техотчёт дают возможность проверить Яндекс, но саму проверку не заменяют. Пока это заявление разработчика, а независимого аудита весов нет Короче говоря, передергивают все, буду ли я использовать эту модель? Сегодня точно нет, ни у меня, ни у клиентов нет в этом ни технической, ни экономической необходимости Буду ли я дальше наблюдать и тестить? Да, однозначно, но скорее как исследователь Первоисточники: релиз · «Ведомости» · карточка Foundation · техотчёт Foundation · Alice AI Search · техрепорт Alice AI LLM · YandexGPT 5 · Греф и ответ Яндекса · 243-ФЗ

Вот, даже лимиты подсветили отдельно

Anthropic раздаёт подписчикам Claude Code кредит на облачные сессии: $100 на Pro, $250 на Max Забрать нужно до 7 октября командой /claim-credit, потратить до 4 ноября. Облачная сессия - это Claude Code на машине Anthropic. Даёшь задачу, закрываешь ноут, возвращаешься к готовому результату. Нужен подключённый GitHub. Что стоит понимать: - По сути это пробник привычки. Месяц гоняешь фоновые задачи за счёт Антропиков, привыкаешь, а в ноябре они начинают есть те же лимиты - Самая ироничная деталь: кредит не покрывает параллельные треды в Claude Code Projects. Эту фичу запустили 20 сентября как раз для того, чтобы управлять пачкой облачных сессий Мой план: забрать кредит (он бесплатный) и за октябрь измерить, сколько фоновой работы у меня реально уходит в облако. Если вы на Max, вбейте /claim-credit сейчас, пока не забыли.

Наверное пора заделать стигеры Вы напугали Opus, Fable или весь Антропик с отсылками на их последний фритмент репорт Кстати было бы прикольно реально в него попасть