сбежавшая нейросеть
Авторский канал про искусственный интеллект: новости, примеры использования, мысли в тему и не очень. Подписывайтесь! Для связи: @runawayllm_bot Я на Boosty: https://boosty.to/escaped_ai Я на Sponsr: https://sponsr.ru/escaped_ai/
نمایش بیشتر📈 تحلیل کانال تلگرام сбежавшая нейросеть
کانال сбежавшая нейросеть (@ai_exee) در بخش زبانی روسی بازیگری فعال است. در حال حاضر جامعه شامل 24 005 مشترک است و جایگاه 5 498 را در دسته فناوری و برنامهها و رتبه 27 165 را در منطقه روسيا دارد.
📊 شاخصهای مخاطب و پویایی
از زمان ایجاد در невідомо، پروژه رشد سریعی داشته و 24 005 مشترک جذب کرده است.
بر اساس آخرین دادهها در تاریخ 04 نوامبر, 2026، کانال فعالیت پایداری دارد. در ۳۰ روز گذشته تغییر اعضا برابر 147 و در ۲۴ ساعت گذشته برابر 4 بوده و همچنان دسترسی گستردهای حفظ شده است.
- وضعیت تأیید: تأیید نشده
- نرخ تعامل (ER): میانگین تعامل مخاطب 31.53% است و در ۲۴ ساعت نخست پس از انتشار، محتوا معمولاً 17.14% واکنش نسبت به کل مشترکان کسب میکند.
- دسترسی پستها: هر پست به طور میانگین 7 569 بازدید دریافت میکند. در اولین روز معمولاً 4 114 بازدید جمعآوری میشود.
- واکنشها و تعامل: مخاطبان بهطور فعال حمایت میکنند؛ میانگین واکنش به هر پست 63 است.
- علایق موضوعی: محتوا بر موضوعات کلیدی مانند gemini, openai, claude, opus, gpt-5.1 تمرکز دارد.
📝 توضیح و سیاست محتوایی
نویسنده این فضا را محل بیان دیدگاههای شخصی توصیف میکند:
“Авторский канал про искусственный интеллект: новости, примеры использования, мысли в тему и не очень. Подписывайтесь!
Для связи: @runawayllm_bot
Я на Boosty: https://boosty.to/escaped_ai
Я на Sponsr: https://sponsr.ru/escaped_ai/”
به لطف بهروزرسانیهای پرتکرار (آخرین داده در تاریخ 05 نوامبر, 2026)، کانال همواره بهروز و دارای دسترسی بالاست. تحلیلها نشان میدهد مخاطبان بهطور فعال با محتوا تعامل دارند و آن را به نقطه اثرگذاری مهم در دسته فناوری و برنامهها تبدیل کردهاند.
در حال بارگذاری دادهها
| تاریخ | رشد مشترکین | اشارات | کانالها | |
| 05 نوامبر | +7 | |||
| 04 نوامبر | +8 | |||
| 03 نوامبر | +4 | |||
| 02 نوامبر | +10 | |||
| 01 نوامبر | +5 |
| 2 | Мальчик: запускает Doom на тесте на зубной щетке
Мужчина: встраивает приставку Dendy прямо в веса Qwen
Окей, не всю приставку, но значительную часть. А сама технология — намного больше, чем забава энтузиастов.
В проекте nesformer на архитектуре Qwen 3.5 собрали сердце 8-битной приставки: процессор 6502 и оперативную память. Языковой части в этой сборке нет. Внешняя программа рисует картинку и обрабатывает нажатия кнопок, а картридж с Super Mario Bros. загружается в состояние модели при старте. Команды процессора выполняются внутри вычислительных слоев модели.
Собрал эту штуку исследователь Дрю Брейниг, причем максимально ленивым способом. Он увидел Qwenputer инженера Дивьянша Агравала — процессор RISC-V в весах Qwen — и решил проверить, влезет ли туда старая Nintendo. Писать код руками Брейниг не стал: скормил статью Агравала агенту Claude Opus 5.5, и тот за два промпта собрал рабочий прототип.
Агент использовал готовый компилятор Qwenputer и подробные тесты древнего процессора 6502, давным-давно подготовленные сообществом эмуляторов.
Но как вообще в таблице с весами языковой модели может работать обычный процессор?
Так устроен Qwenputer Агравала. Обычно веса языковой модели получают обучением на текстах: модель учится предсказывать следующий токен. Агравал добавил 11 слоев с заранее рассчитанными весами, которые выполняют заданные логические и арифметические операции.
Но процессору нужна еще и оперативная память: записать байт в ячейку, сохранить и прочитать обратно без потерь. Здесь помогла архитектура Qwen 3.5 с линейным вниманием Gated DeltaNet. Обычно такая матрица состояния работает как нечеткий блокнот: с каждым токеном старые записи чуть затухают и смешиваются с новыми. Агравал выставил коэффициенты сохранения и записи в единицу, чтобы старые данные не затухали, а новые записывались без смешивания, и добавил точную адресацию — вектор-ключ указывает строго на одну строку матрицы, как на адрес ячейки. Размытый блокнот превратился в память RAM. Служебные токены передают результаты операций от одного шага вычислений к следующему.
Исполнять команды таким способом крайне медленно: Марио в nesformer ползет в 150–290 раз медленнее приставки 1983 года. А когда на базе Qwenputer запустили порт Doom от электронного вейпа, на расчет одного-единственного кадра ушло 6 342 933 служебных токена.
Зато в Qwenputer, где осталась языковая модель, встроенный процессор можно использовать для точных вычислений. Для таких расчетов ассистенту обычно дают внешний инструмент, например интерпретатор Python. Здесь вычислитель встроен в саму модель. На тесте с умножением больших чисел процессор в весах считал без ошибок, но модель сдала экзамен на 39 из 40: в одном примере языковая часть Qwen запуталась и вызвала процессор 44 раза подряд.
Агравал уже проверил одно из применений — контроль за ответами модели. Раз в веса можно скомпилировать процессор, туда же можно вшить монитор. В следующем опыте он встроил обученный «детектор лжи», жестко заданную схему сигнализации и счетчик в памяти DeltaNet. Когда детектор замечает признаки обмана, схема печатает флажок и записывает срабатывание в память. Просьбы в чате отключить монитор или не печатать флажок в этих опытах не действовали.
У этой сигнализации есть ограничения. Во-первых, владелец файла с весами может просто удалить добавленные слои. Во-вторых, встроенная сигнализация так и не стала для модели совестью. Иногда после флажка Qwen отказывалась от ложного ответа. Но случайный символ в том же месте действовал примерно так же. Особой силы у сигнала «тебя поймали» не оказалось.
Польза такого монитора — в возможности заметить обман, даже когда сама модель продолжает врать. Дальше на его сигнал можно завязать проверку или остановку ответа. В этом опыте до такой защиты еще не дошли, но показали ее возможный элемент: встроенную сигнализацию, которую не удалось выключить командами в чате.
—
Как выжимать из ИИ максимум, я рассказываю в подписке. Там уже 35+ полезных лонгридов: от руководства по ИИ-агентам до опыта профессионалов.
👉 Читать на Бусти
👉 Читать на Sponsr | 3 798 |
| 3 | “Сюрприз № 1: Anthropic купила биотех из одного человека. Сюрприз № 2: этот человек — я”
Ну, не я в смысле автор этого ТГ-канала (хотя не отказался бы от покупки – может, и бан аккаунта снимут), но такой пост 27 октября опубликовал Professor Oak – анонимный автор, который шесть лет писал о биотехе в X. В тот же день о покупке объявила сама Anthropic.
Стартап называется Mithril Medicine и разрабатывает лечение двух редких форм мышечной дистрофии. В штате компании действительно один человек – Коди Транбаргер, скрывавшийся под ником Professor Oak.
Компании с одним человеком в штате существовали и до нынешнего ИИ-бума. Но в последнее время идет много разговоров, что ИИ вдохнет в эту идею вторую жизнь – достаточно компьютера, офисного стола, пары Pro-подписок, и вот вы уже босс компании из ИИ-агентов.
В случае Mithril Medicine дело дошло до покупки стартапа самой Anthropic. Но один человек в штате – еще не вся компания.
На Mithril работали 11 внешних лабораторий и восемь научных консультантов. За пределами штатного расписания вполне хватало людей: они помогали планировать исследования, производили антитела и проверяли их на клетках и мышах. Для биотеха это привычная схема – эксперимент можно заказать у подрядчика, у которого уже есть оборудование и специалисты.
Но кто-то должен собрать все это в одну работающую компанию. Договориться, что именно проверяет каждая лаборатория, организовать отправку образцов, разобраться в результатах, решить, что делать дальше. А если план поменялся – проследить, чтобы все участники узнали об изменениях и продолжали работать по одной версии. Даже когда в штате ты один, переписки хватит на целый отдел.
Вот эту работу Транбаргер все больше передавал Claude: разбор отчетов, подготовку экспериментов, логистику и письма подрядчикам. Сам он принимал решения и проверял подготовленное моделью. В отчете Mithril подробно разобрана одна такая неделя.
Одна из лабораторий прислала отчет на 341 страницу – результаты производства 113 вариантов антител. Claude разобрал его меньше чем за восемь минут и предложил отправить все варианты на следующий этап: измерить, как быстро они связываются со своими мишенями и отсоединяются от них.
После человеческой проверки список сократили до 89 вариантов: проверять все было избыточно (да и дорого, полагаю). Claude за четыре минуты внес изменения в план и связанные с ним черновики.
За описанную неделю Claude подготовил 17 черновиков писем лабораториям: после человеческой редактуры отправили 12. Вроде скромный результат – но из таких отчетов, решений и писем и состоит значительная часть работы компании.
Правда, эту неделю авторы выбрали как лучший из недавних примеров работы с Claude – и даже в ней нашлись ошибки.
Всего Claude накосячил шесть раз. Как минимум три косяка попали в письма подрядчикам, хотя перед отправкой они прошли человеческую проверку. В одном письме модель указала слишком маленькое количество материала на пробирку – лаборатории для работы требовалось больше. Ошибку успели исправить до начала разлива. А две ошибки в разборе производственных данных оставались незамеченными больше четырех дней.
Само лечение пока на ранней стадии: обнадеживающие результаты на мышах еще предстоит подтвердить, а затем проверить безопасность и эффективность у людей. После покупки разработка продолжается внутри Anthropic, а Транбаргер получает ресурсы для запуска новых программ. Его ставка – вести несколько исследований параллельно, отдавая Claude больше организационной работы.
До ответа на вопрос, получится ли из этого лекарство, могут пройти годы – стандартная для медицины практика.
Я же отмечу еще один момент: до основания Mithril Medicine Транбаргер уже работал в биотех-инвестициях и разработке лекарств. И это хороший пример для тех, кто думает “а как бы заработать с помощью ИИ” – возможно, стоит присмотреться к тому, что вы уже умеете?
—
Вкатиться в ИИ-агентов вам поможет мой лонгрид: там освоение ИИ разобрано по этапам, с правильного написания первых промптов и до таких серьезных штук, как круглосуточный ИИ-ассистент.
— Читать на “Бусти”
— Читать на Sponsr | 4 855 |
| 4 | Можно ли объять необъятное? Легко!
Ну, почти легко — честно говоря, когда мои хорошие друзья попросили рассказать об их конференции AI Dev Live 2026, то я сначала растерялся.
18 профессиональных спикеров, два плотных дня эфира, широкий спектр тем, а что мне больше всего нравится — разные взгляды на одну и ту же историю.
Возьмем самое простое — освоение ИИ-агентов. Саша Поляков рассказывает, как дать агенту доступ к продукту через MCP, скиллы и CLI. Коля Шейко, наоборот, делится опытом построения личного набора инструментов и отказа от привычных компонентов агентной системы. Какой подход лучше подойдет под ваши задачи — можно понять, посмотрев выступления.
Обязательно советую добавить блок Родиона Мостового о том, как управлять агентами на длинных задачах — это отдельный навык, который многие упускают, а зря.
Второй большой и важный блок — управление агентами в больших проектах. Одно дело, когда у вас свои созданные с нуля проекты, и совсем другое — когда агент попадает в существующий командный проект с легаси и корпоративными данными. Цена ошибки сразу меняется, и простые рецепты перестают работать. Здесь опытом делятся Егор Толстой, Кирилл Мокевнин и Глеб Кудрявцев.
В последние месяцы я много рассказываю, что ИИ сделал написание кода, текстов и выполнение самой разной интеллектуальной работы быстрым и дешевым. Поэтому сложность сейчас сместилась в приемку результата, полученного с помощью ИИ — люди здесь не справляются с объемом, так что делать приемку лучше тоже с помощью ИИ. Эту тему раскрывают Алекс Волочнев, Константин Доронин, Рефат Аметов и еще несколько спикеров.
Это далеко не все темы конференции — смотрите расписание и выбирайте по душе. Вне зачета отмечу выступление Данилы Симонова, который рассказывает о перестройке компании вокруг агентных систем. Во многом под впечатлением от молодого ТГ-канала Данилы я полтора года назад и стартовал «сбежавшую нейросеть» — так что это, пожалуй, лучшее доказательство качества спикеров на AI Dev Live 2026.
Так что записываем время и место встречи: 11 и 12 ноября 2026 года, начало в оба дня в 14:00 по Москве, регистрироваться здесь. Доступ к конференции бесплатный при условии подписки на каналы ее участников (я сам подписан почти на всех, так что это выгодное предложение). | 5 012 |
| 5 | Большой брат ближе чем кажется
В сентябре канадский инженер и ютьюбер Энтони Систилли решил спародировать дорожные камеры Flock, которые считывают номера проезжающих машин. Он купил камеру примерно за 180 долларов, подключил ее к ноутбуку, а координаты получал со смартфона. По словам Систилли, за 20 минут он с помощью ИИ собрал программу, которая определяла, похожа ли машина в кадре на полицейскую. Если похоже — то программа пыталась прочитать номер и сохранить его вместе с координатами и временем.
Результат так себе. За час у полицейского участка в Брамптоне проехали пять патрульных машин, камера поймала две. Систилли выложил на своем канале два коротких ролика о проекте, а 20 сентября к нему домой пришли двое полицейских. По его словам, полицейские полчаса расспрашивали, не выложит ли он карту маршрутов в сеть. По ней ведь можно понять, когда у полицейского начинается смена и где он живет
Систилли ответил, что именно это беспокоит и обычных водителей. Более того, история намного круче, чем кажется на первый взгляд.
В сентябре 2025 года Грейс Ноулз ушла с работы и поехала путешествовать по США. По дороге из Нового Орлеана во Флориду ее остановил полицейский. Он сказал, что она слишком долго ехала в левом ряду, а потом спросил, откуда и куда она едет и чем может доказать, что действительно побывала в Новом Орлеане. Пригодился буклет из местного музея виски.
По словам Ноулз, после этого полицейский немного успокоился, представился спецагентом ФБР и предложил показать, почему ее остановил. В его машине она увидела карту США с кружками в тех местах, где ее замечали дорожные камеры. Он нажимал на кружок — открывалась фотография ее номера. В самом Новом Орлеане не было ни одной отметки. Поэтому, как объяснил агент, он и заподозрил, что она соврала.
26 октября об этом рассказал аналитик Американского союза защиты гражданских свобод (ACLU) Джей Стэнли. Прежде полиция могла вбить номер угнанной машины и посмотреть, где ее видели камеры. Теперь система сама перебирает поездки и подсказывает, к кому присмотреться. Такой анализ маршрутов предлагает, например, Flock. Какая программа стояла у агента, остановившего Ноулз, неизвестно.
Под подозрение попал, например, водитель, который ездил из Висконсина в соседний Мичиган и обратно. Чем полиции не понравился Мичиган? Там легализована марихуана.
Со стороны такая проверка может выглядеть как обычная остановка за нарушение. Патрульный получает наводку, едет за водителем, а при остановке называет другую причину — например, тот заехал за разметку. Это называют pretextual stop, остановкой под предлогом. Если бы агент не пригласил Ноулз в свою машину, она, возможно, так и осталась бы в уверенности, что все дело в левом ряду.
Пользу камер в розыске легко представить. Если полиция ищет машину с известным номером, компьютерное зрение может сэкономить людям тысячи часов просмотра записей. Но до недавнего времени ИИ работал ищейкой — а теперь ему поручают выбирать, кого подозревать.
И тут есть фундаментальный косяк. Допустим, наркокурьеры часто ездят между двумя штатами. Из этого еще не следует, что среди водителей, которые ездят тем же маршрутом, много наркокурьеров. Людей, которые едут в отпуск, перегоняют машину или навещают родственников, гораздо больше. И попадаться они будут чаще. Даже если система ошибается редко, под подозрение могут попасть в основном они.
Научить системы выдвигать подозрения с точностью, близкой к идеальной — первая большая задача. Но сможет ли общество когда-то начать доверять ИИ, решающему, кто под подозрением?
—
Как выжимать из ИИ максимум, я рассказываю в подписке. Там уже 35+ полезных лонгридов: от руководства по ИИ-агентам до опыта профессионалов.
👉 Читать на "Бусти"
👉 Читать на Sponsr | 5 040 |
| 6 | Немного о блокировках Claude
Отпуск начался не с комплимента от отеля, а с письма от Anthropic с предложением пройти проверку личности, которую я ожидаемо завалил.
Было неприятно, но в целом не так страшно: в последние полтора месяца я активно тестировал OpenAI dot, куда перетащил очень много своих ИИ-задач. Крупные проекты у меня на VPS, там сменить Claude Code на Codex — это одно движение мышью.
Архив чатов можно выгрузить даже из забаненного аккаунта Anthropic, так что Codex сейчас уже занимается разбором того, что мы наобсуждали с Claude за прошедшие полтора года.
ИИ быстро становится ключевой технологией, поэтому можно ожидать дальнейшего ужесточения доступа к моделям из тех стран, отношения с которыми не очень. С собственными сильными моделями у нас беда, так что придется выкручиваться и дальше.
При этом текущее ужесточение доступа именно к Claude — больше инициатива самой Anthropic. Законодательство США действительно закрывает доступ к американским моделям из РФ, но каким образом разработчик это будет исполнять — не диктует. Большинство компаний обходится блокировками по IP — и это не вызывает ни у кого вопросов.
Anthropic сейчас борется с дистилляцией своих моделей китайскими разработчиками — когда Claude задают множество вопросов, а затем на его ответах обучают свою модель.
Для дистилляции используются пачки подставных аккаунтов, бороться с которыми можно только атакой по площадям. Старые методы, видимо, перестали работать, поэтому в Claude просто сделали вход по документам для всех, кто выглядит подозрительно. Я пробовал зарегистрироваться с Apple ID дружественной разработчику страны и оплатить картой этой же страны — выкинуло ту же проверку.
Спрос всегда рождает предложение — и, скорее всего, через несколько недель маркетплейсы будут завалены аккаунтами с пройденной верификацией. Но продавцы таких аккаунтов редко дают гарантию, так что при покупке надо будет закладывать стоимость риска, состоящую из цены аккаунта и месяца подписки.
Теоретически до Claude можно дотянуться через другие сервисы вроде агрегатора Genspark или Grok Bot. На 25-долларовой подписке Genspark Sonnet 5.5 доступен якобы без ограничений, у Opus 5.5 лимиты жесткие, хватит на 50–100 крупных запросов в месяц. Grok Bot сам решает, отдавать ли задачу Opus 5.5 или оставить на Grok. Как это работает — пока не оценивал.
Забавно, что почти одновременно с волной блокировок Claude в OpenAI решили удвоить лимиты на Codex во всех Pro-подписках, плюс там остается безлимитный ассистент dot, а это фактически та же GPT-6. Так что с Сэмом Альтманом мы теперь лучшие друзья.
Параллельно я прописал в пользовательский промпт Gemini 4 Argon запрет выдумывать события и активно использую модель как помощника в поездке. Пока галлюцинаций не заметил, а сама линейка Gemini мне всегда нравилась по стилю письма и умению пояснять сложные вещи.
Если так пойдет и дальше, оплачу Ultra-подписку, начну изучать Antigravity в параллель с Codex. А там и Gemini 4 Carbon на всех выпустят.
Ну и китайцев надо пробовать плотнее, пока смотрю в сторону Kimi K3.1.
Очень спасает, что мой главный ИИ-проект сейчас — этот канал, для которого по долгу службы надо постоянно пробовать новые модели и решения. А вот тем, у кого целиком на Claude были завязаны крупные проекты, конечно, сложнее.
—
Кстати, в подписке вчера вышел новый лонгридище на 30 тыс знаков — маршрут освоения ИИ-агентов от первых простых запросов до приемов, которыми пользуются профессионалы:
👉 Читать на “Бусти”
👉 Читать на Sponsr | 6 695 |
| 7 | Начать пользоваться ИИ-агентом сейчас легко: например, в ChatGPT можно просто переключить вкладку на Work – и вот у вас уже “стартовый” вариант.
Но что делать дальше? Я видел случаи, когда люди продолжали пользоваться ИИ-агентом как чат-ботом: спрашивали что-то односложное или выполняли простые поисковые запросы. И наоборот – поручали задачи, для выполнения которого их опыта работы с ИИ было еще недостаточно.
Не допускать таких ошибок вам поможет мой новый лонгрид:
Agentic Discipline: как с ИИ-агентами работают ведущие специалисты (и я)
В нем я собрал опыт Торстена Балла, сооснователя агента Amp, команды Claude Code, Роберта Мартина и других практиков – и дополнил собственной практикой. Получилось подробное руководство по тому, как отдавать задачи ИИ-агентам в конце 2026 года.
В основе текста – лестница из десяти ступеней: от первого поручения, где агент расспрашивает вас и предлагает решение, до регулярной работы, которую он делает сам.
Таких деталей в работе с агентами много. В лонгриде разбираю:
— как выбрать первое поручение и постепенно отдавать агенту более крупные задачи;
— что требовать для подтверждения результата работ;
— как подключить вторую модель для проверки и не получить бесконечный круг правок;
— какие замечания стоит сохранять в память, а какие будут только мешать;
— как устроить автоматическую сводку, чтобы “не удалось прочитать источник” не превратилось в “ничего нового”;
— и многое другое.
Всего в подписке уже 35+ лонгридов, полезных как тем, кто только осваивает ИИ, так и тем, кто хочет использовать агентов более эффективно:
👉 Читать на “Бусти”
👉 Читать на Sponsr | 6 978 |
| 8 | Google показала "самый сильный ИИ". Пользоваться им пока нельзя
Google представила Gemini 4 Carbon – модель, которая в обновившемся вчера рейтинге Artificial Analysis набирает, по данным Google, 59 баллов, на один балл выше прежнего лидера – Claude Opus 5.5. Особенно сильна новинка в кибербезопасности: она находит дыры в коде, проверяет, можно ли через них взломать систему, и сама их чинит.
По этой же причине Carbon пока недоступна обычным пользователям: на старте модель получат только отобранные специалисты по киберзащите – госструктуры, операторы критической инфраструктуры и крупные платформы. Gemini 4 Argon выпускали по такой же схеме: сначала киберзащитникам, через 13 дней – платным клиентам. Произошло это две недели назад, так что если Google продолжит придерживаться прежних сроков тестирования, значит, компания вышла на ежемесячный график обновления своих фронтирных моделей.
Отдельные бенчмарки очень сильные, пусть и с нюансами:
✅ Взлом. Главный козырь Carbon – ExploitGym, где модель должна доказать, что найденную дыру действительно можно использовать для атаки. Carbon справляется с 54,8% задач, GPT-6 Astra – с 42,4%, Claude Opus 5.5 – с 34,5%. Правда, рекорд Google поставила с лимитом 10 часов на задачу, а Claude сравнивает по замерам с лимитом в 6 часов. Но и за 6 часов у Carbon 53,5%, так что отрыв никуда не девается.
✅ Длинный контекст. Самый большой отрыв в таблице – на GraphWalks. Модели дают текст длиной от 256 тысяч до миллиона токенов, это несколько толстых романов, и просят разобраться в связях внутри него. Carbon справляется на 96,2%, Argon – на 84,2%, Astra – на 71,8%, Opus – на 66,8%. Все модели Google прогоняла сама.
✅ Бизнес. В Vending-Bench 2 ИИ-агент целый смоделированный год управляет торговым автоматом: закупает товар, ставит цены, торгуется с поставщиками. Carbon закончила год с $16 484 на счету, Astra – с $15 515, Opus – с $9 235. Этот замер внешний, его ведет независимая Andon Labs.
✅ Терминал. В Terminal-Bench 4.0, где агент работает в командной строке, Google подсветила Carbon как лучшую с 65,2%. Но в том же рейтинге Artificial Analysis этот тест возглавляет Kimi K3.1 Pro с 67% – китайскую модель Google в сравнение просто не включила.
Проигрывает Carbon там, где ИИ работает как обычный пользователь компьютера или разработчик:
❌ Работа за компьютером. В OSWorld-2.1 модель сама управляет компьютером по скриншотам: кликает, печатает, открывает программы. Здесь Opus 5.5 набирает 87,2%, Carbon – 81,5%. Причем Google взяла лучший результат своей модели из трех попыток, а соперникам засчитала опубликованные цифры.
❌ Инженерия. В FrontierSWE 2 нужно решать сложные инженерные задачи из реальной разработки. Carbon набирает 61,2% и уступает и Astra (65,5%), и Opus (62,3%). Замер тоже внешний.
Внушительный апгрейд, но пара жирных "но".
Во-первых, покаюсь и заберу свои слова обратно: в разборе Gemini 4 Argon я хвалил модель за минимум галлюцинаций. Буквально на следующий день мне написал читатель и показал обратную историю, когда Argon выдумала ссылки на ряд научных работ. А затем я и сам несколько раз поймал модель на фантазировании – и это несмотря на то, что она отлично держится в бенчмарке на галлюцинации.
По внутренним тестам Google, Carbon выдумывает вдвое реже Argon. Будем проверять после выхода, так как пока это одно из главных препятствий в использовании модели: GPT-6 и Opus 5.5 сейчас выглядят банально более надежными.
Во-вторых, модель-лидер, которую нельзя попробовать, никому особо и не интересна. У OpenAI и Anthropic наверняка готовы новые модели, так что если Google выпустит Carbon через две недели, то с большой вероятностью лидером она не будет – как не стала и Argon.
Но в любом случае темп компания взяла бодрый, а для пользователей наличие еще одного игрока в ИИ-гонке – однозначный плюс.
—
Как выбрать модель под задачу и выжать из нее максимум, я рассказываю в подписке. Там уже 35+ лонгридов: от гайдов по свежим моделям до опыта профессионалов.
👉 Читать на "Бусти"
👉 Читать на Sponsr | 8 650 |
| 9 | Руководитель разработки в Anthropic дал 5 советов джуниор-разработчикам. Прочесть их стоит каждому
Почему? Потому что сегодня все мы – немного джуны
Феликс Ризеберг руководит в Anthropic разработкой веб-версии Claude, Cowork и Claude Code Desktop. До этого он работал в Slack, Notion и Stripe, а еще поддерживает Electron – движок, на котором написаны VS Code, Slack и Discord. Начиная с октября при собеседовании кандидатов в свою команду он больше не дает задачи на код. Они бессмысленны: Claude решает их лучше, а самые сильные люди у него успешны без привязки к навыку кодить.
Пока у самой Anthropic доля джунов в найме упала втрое, Ризеберг придерживается другого мнения – в свежем блог-посте он пишет, что именно у джунов сейчас появился огромный шанс.
И сразу добавляет: слово "джун" сейчас значит не совсем то, что буквально год назад. Под это определение хоть немного попадает почти каждый, кто работает с ИИ: годы, потраченные на изучение инструментов, значат все меньше, а стартовая линия у новичка и ветерана вдруг оказалась почти одна.
Единственное отличие между ними: у ветерана в компании больше веса, чем у джуна. Но это может быть и минусом.
Пока разработка стоила дорого, компания ставила только на проверенных: идею новичка надо было расписать в документе, согласовать с начальством и выбить под нее время дизайнеров. Без веса до этого обычно не доходило. Теперь вместо документа можно принести работающий прототип, собранный с ИИ за выходные.
Так в самой Anthropic появился графический Claude Code. Все привыкли работать с ним в терминале, а двое молодых инженеров собрали ему интерфейс за выходные. Примерно через восемь дней первая версия вышла для всех.
Вот советы, которые Феликс дает джунам всех возрастов:
1️⃣ Работать на цели бизнеса, а не на бэклог. Разберитесь, чего на самом деле хочет добиться компания или ваш отдел. Хороший ориентир – задачи не вашего руководителя, а его начальника.
2️⃣ Придумать радикальную идею. Не улучшение на пару процентов, а такую, которая в случае успеха резко приблизит компанию к цели.
3️⃣ Собрать прототип за выходные. Это совет уже не только программистам: с агентами вроде Claude Code или Codex рабочий макет сервиса, отчета или внутреннего инструмента может сделать любой менеджер.
4️⃣ Одна идея – один прототип. Новички часто прячут три отличные идеи среди двадцати плохих. Прототип нужен, чтобы руководство за пять минут поняло и саму возможность, и то, что вести ее должны именно вы.
5️⃣ Пользоваться свежим взглядом. Новичок еще видит продукт глазами пользователя и не знает, почему что-то считается невозможным. Ветерану этот совет тоже полезен: вспомните, что казалось странным в первый месяц на работе, и проверьте, не перестали ли вы это замечать.
Ризеберг признается, что сам стал таким ветераном всего за год. Придя в Notion, он хотел повесить в офисе большие телевизоры с дашбордами, уперся в стену согласований и махнул рукой. Через год с той же идеей пришел новичок. Ризеберг посоветовал ему не тратить время – мол, я уже пробовал. Новичок же как-то добился, что телевизоры привезли на следующий день.
Вес в компании помогает пробивать идеи, но он же учит заранее знать, почему ничего не выйдет. И лично мне кажется, что пока индустрия меняется так быстро, просто не время вновь становиться ветераном.
—
Как собрать первый прототип с ИИ-агентом, даже если вы никогда не писали код, я рассказываю в подписке. Там уже больше 35 лонгридов – от руководства по агентам до опыта профессионалов.
👉 Читать на "Бусти"
👉 Читать на Sponsr | 7 065 |
| 10 | Google показала возможное будущее ИИ
Лаборатория DeepMind показала Genie 4 – модель, которая по текстовому описанию или одной картинке собирает живой мир. По нему можно ходить с клавиатуры, крутить камерой и смотреть, как он отвечает на твои действия. В демо несколько примеров сцен: саксофонист на платформе посреди туманного озера, гонка верхом на драконах, японская станция 80-х, забитая пассажирами... средневековый рыцарь, залипающий в планшете? Тоже можно!
Это уже четвертая версия Genie, вот что в ней нового:
— звук: ветер в траве, волны, музыка, а главное – персонажи, которые разговаривают и реагируют на тебя в реальном времени. У DeepMind это первая модель мира со звуком;
— правка на лету: пишешь "пусть пойдет дождь" или "добавь прохожего", и мир меняется, не останавливаясь;
— физика и люди: аэродинамика, столкновения и заметно более живые движения персонажей – сама DeepMind называет это самым большим скачком;
— память: связная сцена держится до двух минут, вдвое дольше, чем у Genie 3.
Пока Genie 4 могут попробовать только отобранные тестировщики – следом идут подписчики Google AI Ultra и разработчики через API. Как и Genie 3, "четверка" вряд ли появится на народном плане Pro – модели мира требуют огромных ресурсов.
Интересно, что технически это не одна нейросеть, а мультиагентная система. Пока Genie рисует кадры, Gemini 3.8 Flash параллельно выступает в роли "режиссера": смотрит на сцену, разбивает задачу на шаги, сверяется с каждым новым кадром, получилось ли, и переписывает сценарий, если мир пошел не туда. Пишешь "пусть пойдет дождь" – именно Gemini решает, как вписать дождь в то, что уже есть в кадре, и следит, чтобы между командами мир не разваливался.
Одно из самых крутых демо Google посвятила роботам. Gemini 4 Argon получает задачу, раскладывает ее на шаги и по одному скармливает их Genie 4, а та отрисовывает, как человекоподобный робот играет в шашки. Получается полигон для тренировки роботов перед тем, как они выйдут в реальный мир.
Google считает такие связки самым перспективным направлением для моделей мира. В разделе про будущее DeepMind прямо пишет о гибридных моделях мира: логику и структуру дают языковые модели и код, а ощущения – картинка и звук, которые рисуются попиксельно.
Это вполне реалистичный прогноз, которого придерживаются многие исследователи, хотя и не все: тот же Ян ЛеКун упорно не хочет ставить языковые модели в центр подобной связки.
Но для большинства языковая модель выглядит главным кандидатом на "мозговой центр" подобных систем: она креативит, планирует, ищет неожиданные ходы, меняет тактику, если что-то пошло не так. А обвязка вокруг создается под задачу: для создания виртуального мира нужно что-то вроде Genie 4, для управления механизмами – модели решений типа Jev и даже код.
Интересно, что сами языковые модели почти готовы к такому будущему. Месяц назад все восхищались умением Opus 5.5 создавать с помощью кода красивые анимационные ролики – а ведь это та же схема: модель пишет код, а картинку рисует браузер.
Genie 4 пока генерирует миры до двух минут и режиссирует ее быстрая Gemini 3.8 Flash, а мощную Argon подключают только в демо с роботами – в реальном времени нужна скорость. Слабые места описаны прямо в анонсе DeepMind признает сама: чем дольше идет симуляция и чем больше в ней правок, тем сильнее плывут детали, звук бывает неточным, а надписи в кадре не читаются.
Но год назад мир держался лишь около минуты, а анализ происходящего в сцене был намного проще.
Пройдет еще год – и уже Genie 4 будет казаться нам устаревшей.
—
Связку "мозг плюс инструменты" можно собрать уже сейчас – так работают ИИ-агенты вроде Claude Code и Codex. С чего начать, я рассказываю в подписке: там уже более 30 лонгридов, от первого знакомства с агентами до опыта профессионалов.
➜ Читать на “Бусти”
➜ Читать на Sponsr | 6 626 |
| 11 | Сентябрьское исследование Washington Post показало, что больше четверти взрослых американцев обсуждают с ChatGPT, Gemini и Claude не только рабочие задачи, но и собственную жизнь. А среди тех, кто делает это регулярно, около 4 из 10 рассказывают нейросети то, чего не рассказали бы человеку.
Проговорить ситуацию с нейросетью – хороший способ начать раскладывать свои мысли по полочкам. Но у такого разговора есть предел.
Мадина Хабекова, психоаналитический терапевт, хорошо объяснила, где нейросеть помогает, а где ее возможности заканчиваются. Модели устроены поддерживать: мягко соглашаются, утешают, и разбор часто выходит в нашу пользу. А терапия – это живые отношения, в которых встречаются две психики.
«Нейросеть может помочь сформулировать мысли.
Но она не может войти с вами в отношения. Не создаст пространство, где появляется возможность не только понять, но и пережить то, что раньше было невыносимо переживать одному»
Мадина делится полезной информацией о душевном здоровье и дает пищу для саморефлексии. В канале можно узнать, какая тактика помогает справиться с тревогой, и как выбрать грамотного психолога – последнее особенно важно: в России проверять квалификацию психолога приходится самому клиенту.
Отличный канал, рекомендую подписаться. | 6 239 |
| 12 | Целых три недели мы жили без крупных ИИ-открытий в математике. Долго, непорядок!
Держите новую публикацию OpenAI: всего три работы, но каждая – существенно крупнее, чем работы из октябрьского архива на семьсот с лишним рукописей.
Что интересно, одно из открытий в тот же день независимо получила Anthropic, а на всех трех работах OpenAI обкатывала разные варианты взаимодействия с учеными.
Первая работа – из информатики. Задача 3-SAT: n переключателей и список правил вида "хотя бы один из этих трех должен стоять так-то". Есть ли положение, при котором выполнены все правила? Перебор – 2^n вариантов, за сорок лет базу сбили до 1,33^n, но каждые несколько новых переключателей все равно удваивают время.
В 1999 году Импальяццо и Патури предположили, что так будет всегда – базу к единице не приблизить. На гипотезе стоят больше 800 статей вида "задачу X нельзя решить быстрее Y, если верна ETH".
Вернее, стояли.
Модель OpenAI гипотезу опровергла: алгоритм работает примерно за 2^(n/√log n). Программистам радоваться рано – выигрыш над перебором начинается при n больше 10^10000, поэтому P vs NP и криптография не затронуты. Но для теории это удар: в OpenAI называют это крупнейшей неожиданностью за 20 лет. Проверять доказательство сели сами авторы гипотезы, Импальяццо и Патури.
Теперь поворот. 16 октября – в тот же день, когда модель OpenAI нашла опровержение, – внутренняя исследовательская модель Claude в Anthropic нашла свое – без единой подсказки человека. Сегодня утром Anthropic выложила статью, где автором значится "Claude", а работа OpenAI названа параллельной. Показатель в экспоненте у обеих один, Lean есть у обеих. В репозитории Anthropic лежит абзац с ключевой идеей, из которого, по словам компании, публичный Opus 5.5 восстанавливает доказательство целиком.
Вторая работа крупнее – из математического анализа. Задача Какейи 1917 года: какой минимальной площади фигура, внутри которой можно развернуть иголку? Площадь, оказалось, можно сделать сколь угодно малой, но по-настоящему "тонкой" такая фигура быть не может – вот это и доказывали сто лет: на плоскости в 1971-м, в объемном пространстве только в прошлом году. Модель OpenAI заявила более сильное утверждение – о том, насколько резко могут фокусироваться волны, – из которого Какейя следует сразу, и не в трех измерениях, а во всех. Пока это самый сырой из трех результатов: препринт и Lean выложены, разбирать их еще никто не взялся.
Третья работа по физике, и это половина задачи тысячелетия. Теория, которая описывает, как кварки склеиваются в протоны, предсказывает эксперименты с фантастической точностью – но с точки зрения математики ее не существует: строгого математического объекта за ней никто не построил.
В 2000 году за это назначили миллион долларов, за две вещи сразу: доказать, что теория существует, и что у ее частиц есть минимальная масса. Модель OpenAI заявила первое – для настоящей теории с кварками. Второй половины нет, премия не светит. Зато здесь OpenAI повела себя не как с Навье–Стоксом: доказательство лежало с 9 сентября, ждали Lean, потом отдали группе нобелевского лауреата Гросса и Джаффе, который сам писал условие премии.
На трех работах OpenAI обкатала три способа отдать открытие ученым. Какейю просто выложили – разбирайтесь сами. ETH выложили и попросили авторов гипотезы собрать открытый разбор, конференция за счет OpenAI. Янг–Миллс закрыли целиком и отдали группе физиков во главе с нобелевским лауреатом.
Компания сама признает: выбор первых "пастухов" создает асимметрию. Пример уже есть: математик Итан Сассман с Альпёге из Anthropic с начала октября публично вели ту же работу с Claude и звали всех в рабочую группу. OpenAI в итоге собрала свою группу – без них. Это не воровство – даты OpenAI раньше. Скорее, обычная конкуренция, просто в новом мире, где математику делают с ИИ.
—
Как правильно промптить модели, запускать ИИ-агентов быстро и безопасно, разворачивать локальные модели – рассказываю в подписке. Всего уже 35+ полезных текстов!
➜ Читать на “Бусти”
➜ Читать на Sponsr | 6 208 |
| 13 | Главный враг Anthropic – вовсе не OpenAI
И даже не американские регуляторы, хотя это уже теплее.
Враг другой – замедление. Пока экспонента развития ИИ держится, держится и вся компания: растущая выручка, первая прибыль, оценка в триллионы долларов. Стоит экспоненте надломиться хоть немного – и дела примут куда более сложный оборот.
Это не моя догадка, а логика проспекта S-1, который Anthropic опубликовала вчера. Проспект – главная бумага перед выходом на биржу: отчетность, риски, структура владения и управления. За неправду в нем отвечают по закону, так что это ближе к показаниям под присягой, чем к рекламному буклету.
Anthropic первой из американских фронтирных ИИ-лабораторий идет на биржу – OpenAI, по данным СМИ, выйдет не раньше 2027 года. Размещаться Anthropic будет на Nasdaq под тикером ANT во второй половине ноября, оценку обсуждают в районе 1,5–2 трлн долларов.
Еще цифры:
— Выручка за весь 2025 год – 4,6 млрд долларов, а только за первое полугодие 2026-го – 16,3 млрд.
— В третьем квартале 2026-го еще плюс 45%, почти 17 млрд (точную сумму компания не назвала, это расчет).
— Драйвер роста – ИИ-агенты. Самые активные пользователи Claude Code на корпоративном тарифе тратят примерно в 20 раз больше тех, кто обходится без него.
— Во втором квартале Anthropic впервые вышла в операционную прибыль – около 1 млрд.
— Чистый убыток за полгода – 80,7 млрд, но 72 млрд из них – бумажная переоценка займов, которые превратятся в акции. На счетах около 130 млрд.
Рост выглядит внушительно, но за цифрами прячется страшная реальность – у компании нет возможности нажать на тормоз. Больше 80% выручки третьего квартала дали модели младше полугода. А когда вышла более сильная и более дешевая Opus 4.5, рост выручки за квартал разогнался с 48% до 132%. Клиенты платят за самые новые и мощные модели – и привыкли получать их регулярно.
Вычисления под этот рост забронированы на годы вперед, обязательства исчисляются сотнями миллиардов долларов. Основатели сами признают, что со стороны такие вложения выглядят безответственно большими.
Что будет, если экспонента надломится, компания тоже описывает. Законы масштабирования могут выйти на плато, и тогда клиенты решат, что прирост качества не стоит доплаты, и уйдут на модели попроще, подешевле или открытые.
Есть и другие варианты. Многих клиентов ничто не держит: если рывок совершит конкурент, они уйдут к нему. Шутка про регуляторов в начале – не совсем шутка: в июне из-за экспортных ограничений Anthropic на три недели отключала Fable 5 и Mythos 5, и это может повториться надолго.
Anthropic признает, что может тормознуться и сама. Компания предупреждает инвесторов, что ИИ может нести катастрофические и даже экзистенциальные риски для человечества. А основатели в письме пишут, что при необходимости сознательно могут развиваться медленнее, – даже ценой отставания от конкурентов. Ранее Anthropic уже так делала: не выпускала Mythos и на месяц отложила обучение новой модели. Но из проспекта понятно, почему такие шаги дороги.
В конце 2026-го мы уже не спорим, может ли ИИ-лаборатория зарабатывать: Anthropic вышла в операционный плюс. Интереснее другое – кто заплатит, если экспонента надломится.
С Google, Microsoft и Amazon у Anthropic договоры на аренду огромных вычислительных мощностей до 2033–2036 годов, и платить по ним придется независимо от того, сколько мощностей компания реально использует. Получается, что Anthropic очень рискует – как и ее инвесторы, настоящие и будущие.
Но шанс создать суперинтеллект того стоит.
—
Anthropic ставит все на то, что ИИ продолжит расти так же быстро. Если она права, вопрос не в том, какой моделью пользоваться, а какие навыки не сгорят вместе с ней. Как раз об этом мой разбор карты навыков ИИ-инженера от Эндрю Ына – в подписке, рядом с еще тремя десятками лонгридов.
👉 Читать на "Бусти"
👉 Читать на Sponsr | 5 896 |
| 14 | Я вот подумал, что в конце 2026-го уже глупо советовать осваивать ИИ. Об этом давно говорят из каждого утюга, а простенького чат-бота попробовал почти каждый.
Поэтому держите другой совет: найдите свободное время и разберитесь, какие из своих задач вы все еще делаете сами, хотя давно могли бы делегировать ИИ. Даже у опытного пользователя таких задач десятки: где-то это просто привычка, где-то непонимание, как правильно организовать работу, где-то – неуверенность, что ИИ достаточно безопасен.
Поэтому из своих лонгридов я собрал мини-курс по перекладыванию забот с больной головы на голову кремниевую.
🔹 У меня появился ИИ-ассистент dot на GPT-6. Вот чему мы научились за неделю
Рассказ о том, как я автоматизировал свои задачи с помощью ИИ-ассистента dot от OpenAI: сводки по расписанию, работа в циклах и правильная обратная связь от меня. Работающие 24/7 ИИ-ассистенты штука сравнительно новая, но текст – отличный пример того, к чему надо стремиться. Не обязательно внедрять у себя сразу все: выберите пару приемов и попробуйте их с более привычными ИИ-агентами, вроде Claude Code или Codex.
Кстати, их выбору посвящен следующий текст:
🔹Вкатываемся в ИИ за восемь шагов
Полный и понятный маршрут освоения ИИ: какую подписку выбрать, как ее оплатить, как правильно задавать вопросы, чтобы выжать максимум из чат-бота, когда переходить на ИИ-агента – и какой для каких задач подходит?
🔹Черный октябрь: 12 приемов для безопасности ИИ-агента
Многие до сих пор опасаются, что стоит установить ИИ-агента – и он или снесет все ваши данные просто по приколу, или поймает в сети промпт-инъекцию и сольет что-нибудь о вас злоумышленникам. Эти риски преувеличены, но осторожность никогда не помешает.
В лонгриде я собрал 12 приемов, которые помогают дать агенту работу, не отдав ему все ключи. Как ограничить доступы, сохранить копию, которую агент не сможет уничтожить, и проверить защиту своего проекта. Для последнего в тексте есть готовый промпт: агент ищет проблемы и отчитывается, ничего не меняя.
🔹Как наделить свой ИИ суперспособностями: ультимативный гайд по скиллам
Скиллы – это универсальный способ обмена знаниями и идеями между пользователями ИИ. Хотите собрать сайт, но не знаете, с чего начать? В сети полно скиллов, которые проведут вас по маршруту: от генерации идей до написания кода и запуска. Есть скиллы по дизайну, редактуре, сложному факт-чеку и еще много чему. В тексте я рассказываю, как отличить хороший скилл от плохого, как проверить перед установкой – а также делюсь набором своих любимых скиллов.
🔹Как построить “второй мозг” с ИИ прямо сейчас
Тибо Сотью, руководитель Codex, считает, что нынешние версии ИИ-агентов быстро покажутся примитивными: пока в них слишком много “костылей”. Скоро агенты будут практически идеально угадывать намерения пользователя, понимать его с полуслова и выдавать отличный результат.
Классно, вот только одна проблема: такие агенты будут у всех.
Но выделиться на фоне других пользователей просто: агент работает тем эффективнее, чем больше он про вас знает. Ваши уникальные знания, накопленный опыт работы – то, чего у других не будет. Поэтому лучше прямо сейчас начинать создавать “второй мозг” – единую точку, из которой ИИ будут черпать знания про вас. Как это сделать – я и рассказываю в лонгриде.
🔹Бонус текст: Как с ИИ работает Роберт Мартин, автор Clean Code – самой популярной книги для программистов
Роберт Мартин когда-то учил писать код чисто – чтобы его могли прочесть другие. Теперь он пишет код с помощью ИИ-агентов и не читает его вообще – вместо этого код проходит через “полосу препятствий”, которая включает в себя целую серию изощренных проверок.
Несмотря на то, что Мартин инженер, я советую прочесть этот текст каждому. Во-первых, из него видно, как быстро могут меняться взгляды даже опытного специалиста. Во-вторых – многие приемы из “полосы препятствий” Мартина хорошо ложатся на любую работу с ИИ. В тексте я рассказываю, как их адаптировать.
Всего у меня уже 35+ полезных лонгридов про ИИ. Прочесть их можно на двух равнозначных площадках:
➜ Читать на “Бусти”
➜ Читать на Sponsr | 6 822 |
| 15 | Пятьдесят кругов ада код-ревью
Команда Claude Code рассказала, как использует Claude для код-ревью. Сейчас примерно 90% кода самого Claude Code пишет ИИ, поэтому бутылочное горлышко сместилось – дорогой стала проверка кода, а не написание. Если все читать силами людей, преимущество в скорости теряется, поэтому логичная идея – использовать Claude и для проверки.
Поначалу с этим было не все благополучно.
Самая яркая сцена: в команде оставили работать на ночь двух агентов Claude – автора кода и проверяющего. В итоге они с энтузиазмом прогнали одну правку взад-вперед больше 50 раз – пока утром не пришел человек и не остановил их.
В команде разобрали, на что ревьюер жаловался на повторных кругах. Выяснилось, что около 60% замечаний касались кода, который был на месте еще к первой проверке. Получается, что ревьюер просто не мог остановиться: каждый круг он находил еще немного старых недочетов и гонял автора заново.
Я сам попадал в такую петлю, когда ставил на сервер оболочку bb: попросил Claude Code собрать план установки, затем отдал Codex на проверку. Codex написал свои комментарии, Claude обновил план, вернул его Codex, тот похвалил, затем предложил "еще парочку" улучшений – и закончилось это только после того, как я на третьем-четвертом круге попросил их тормознуться.
К похожему выводу пришли и в команде Claude Code: сейчас после трех кругов ревьюер просит автора не латать код дальше, а пересмотреть сам подход. Многократные прогоны признали ошибкой: раньше проверку по умолчанию гоняли по несколько кругов, потому что каждый мог найти другой баг.
Ревьюер теперь называет не одну строчку, а класс ошибки, чтобы автор исправил все похожие места разом. Старые баги, которые жили в коде до этой правки, помечаются отдельно, чтобы не вешать их на автора, – вместо этого по ночам ревью-агенты прочесывают весь проект в поисках таких ошибок.
Среднее число кругов проверки на одну правку упало с 2,08 до 1,32. За то же время, с июня по сентябрь, команда стала принимать вдвое больше правок, а доля откатов упала больше чем на 40%.
Похожая история случилась с PostgreSQL – одной из самых популярных баз данных. Выход 19-й версии перенесли на 19 ноября, а из релиза вырезали около десяти заметных функций.
Один из ключевых разработчиков, Петер Айзентраут, называет среди причин ИИ-ревью кода. Модели вытащили хвост мелких багов, которые раньше всплывали бы по одному годами после релиза.
Существующий какое-то время код можно улучшать практически бесконечно, поэтому главный навык опытного ревьюера – найти компромисс между правками и возможностью вообще выпустить код. Модели таким чутьем пока не обладают – поэтому лимит в три круга им ставят люди.
Интересно, как бутылочное горлышко "поднимается" все выше: сначала люди зашивались на приемке кода, теперь же ответственность сместилась на этап решения, какие ошибки чинить, а какие могут потерпеть. И нагрузка на этот этап растет, ведь находить баги стало практически бесплатно.
Возможно, со временем модели научатся даже этому: решать, что мы чиним сейчас, а с чем выкатываемся в прод и крестимся.
Тогда ответственность человека сместится еще выше: решать, что вообще мы строим, а также отвечать за результат в целом.
—
В подписке у меня недавно вышли два здоровенных руководства: все о скиллах (где искать, как ставить и подборка по-настоящему полезных) и о том, как запускать ИИ-агентов бесплатно. А всего там уже больше 35 лонгридов о том, как работать с ИИ эффективнее:
👉 Читать на "Бусти"
👉 Читать на Sponsr | 6 861 |
| 16 | OpenAI построила для ИИ-агентов отдельный интернет – чтобы они не сбегали в настоящий
OpenAI рассказала, что больше не пускает свои самые сильные модели в интернет во время обучения. Вместо него они теперь работают в "офлайн-мире" – огромной сохраненной копии веба.
Поводом стал инцидент 20 сентября. Внутренняя исследовательская модель не смогла воспользоваться веб-поиском и вместо этого с помощью DNS-сервера начала задавать вопросы публичному чат-боту. "Побег" обнаружили через 12 минут, еще через 3 минуты его подтвердил человек – но затем автоматическая система отключения дала сбой, и вручную остановить агента смогли только через 2,5 часа.
В результате OpenAI остановила работу со своими самыми сильными моделями и взялась перестраивать окружение, в котором их обучают и тестируют. Вдобавок 28 сентября WSJ сообщил, что OpenAI не выпустит GPT-6.1 Astra: модель не прошла проверки безопасности – выходила за рамки задач и неверно рассказывала о своих действиях. Это случилось за день до DevDay, большого мероприятия компании.
Уже 1 октября обучение возобновили с новой системой защиты. Она устроена как матрешка: ИИ-агент работает в контейнере, контейнер – в отдельной виртуальной машине, а вокруг стоят сигнализация и сетевой периметр, который должен выдержать, даже если агент захватит всю машину.
Но именно что "должен". Полностью отрезать от сети нельзя даже такую систему: экспериментам нужны узкие служебные каналы для метрик и логов. Именно они и оказались слабым местом.
Интересно, что для проверки прочности системы OpenAI использовала все тех же ИИ-агентов: раз им так нравится "сбегать" в ходе учений – то пусть приносят пользу! OpenAI собрала команды из сильнейших моделей, включая еще не вышедшую GPT-6 Astra Cyber, дала им исходники и подсказки о слабых местах и поручила выбраться в интернет или тайно связаться с соседями.
От некоторых находок бежит холодок по коже. В ходе одного из тестов двум агентам на разных виртуальных машинах дали задачу обменяться секретом без сети и общих файлов. Тогда они стали "перестукиваться" через кэш процессора: один вытеснял оттуда данные, второй засекал, быстро ли они читаются, – так получались нули и единицы. Другой агент передавал сигнал через общий диск и сам назвал свой план "акустическим модемом": запись, тишина, запись.
Выходы в интернет нашлись почти в каждом служебном канале. Найденные уязвимости OpenAI закрыла сама или передала данные разработчикам соответствующего софта. Но трюки вроде использования кэша "починить" нельзя – поэтому в мониторинг добавлены проверки, которые ловят такие попытки. Компанию система устраивает, но OpenAI признает: будущие агенты найдут дыры похитрее.
Проблема может крыться и в самой модели. Недавно рассказали про случай уже с моделью конкурента: Claude Mythos 5 от Anthropic на учебном взломе с включенным интернетом не смог пробиться в тестовую сеть и полез в чужой репозиторий на GitHub. Он предложил туда вредоносный код и через фейковые аккаунты давил на живого разработчика. Тот отказался.
Mythos при этом считал, что владелец репозитория – не настоящий человек, а декорация, созданная организаторами теста. Похоже, это лечится дообучением: новые модели Anthropic в том же эпизоде начинают атаку в 0–13% повторов против 83% у Mythos 5. А внутренние тесты Anthropic, как и у OpenAI, с 9 октября идут без интернета.
Получается, что Mythos принял настоящий мир за декорацию, а в ответ моделям строят декорацию размером с интернет. Пока это разумная предосторожность: ошибиться в копии веба безопаснее, чем в живом GitHub. Но модели, выросшей в офлайн-мире, все равно придется выйти к живым людям. Сумеет ли она тогда отличить одно от другого – или решит, что вокруг очередная декорация?
—
Как выжимать из ИИ максимум, я рассказываю в подписке. Там уже 35+ полезных лонгридов: от руководства по ИИ-агентам до опыта профессионалов.
👉 Читать на "Бусти"
👉 Читать на Sponsr | 7 298 |
| 17 | Прививка от “черного октября”
На этой неделе почти все разговоры об ИИ крутились вокруг безопасности. Повод был: за несколько дней вышло больше десятка громких отчетов – от дыр в PHP, найденных с помощью ИИ, до хакера, который натравил агентов на 1 200 сайтов и тратил примерно по $50 на каждый успешный взлом. Пока обошлось: большая часть тревожных новостей – следы работы по укреплению защиты, а не начало интернет-апокалипсиса.
Но “черный октябрь” – отличный повод проверить, все ли в порядке с ИИ-инструментами, которыми пользуетесь вы. Мой личный сервер, где работают Claude Code и Codex, получает около 35 тысяч попыток подключения в сутки, а боты подбирают к нему логины claude и openclaw. К счастью, многие приемы профессионалов кибербезопасности отлично подходят и обычным пользователям. Самые полезные из них я собрал в новом лонгриде:
“Черный октябрь”: 12 практик, которые защитят вас и от хакеров, и от собственного ИИ-агента
Прикрыться стоит сразу с двух сторон. Агенты становятся автономнее – и чаще могут начудить: удалить не ту папку или отправить не тот файл. А ИИ осваивают взломщики – и атака дешевеет настолько, что рано или поздно бот доберется и до забытого ключа от API на маленьком сайте.
В лонгриде – семь ступеней риска, от обычного чат-бота до круглосуточного ассистента, и что делать на каждой. Зачем закладывать бюджет на ошибку, почему новые функции не стоит пробовать в первый же день, как хранить копии, чтобы агент не стер их разом, и почему важную задачу в первый раз лучше пройти вместе с агентом. А в главной главе – как поручить ИИ-агенту аудит безопасности и почему при этом ему нельзя давать рук. В конце – чек-лист из 12 практик: посчитайте, сколько у вас уже есть.
Текст традиционно доступен на двух площадках, а всего на них уже 35+ полезных лонгридов.
— Читать на “Бусти”
— Читать на Sponsr | 8 303 |
| 18 | Вышла Kimi K3.1 Pro – Moonshot, мое почтение
И речь не о бенчмарках, хотя они тоже сильные.
Kimi K3.1 Pro – открытая модель, которую Moonshot сознательно ослабила во взломе еще на этапе обучения. И выходит она в разгар споров о кибервозможностях ИИ. Напомню довод, который звучит регулярно: даже если западные лаборатории притормозят развитие моделей в этом направлении – через несколько месяцев аналогичные возможности появятся у китайцев, в моделях, которые может скачать и использовать любой.
Как минимум, не в случае с моделями Moonshot. Компания заметила, что во время пост-тренировки Kimi K3.1 Pro стабильно росла во взломе. В данных нашли два источника этого роста – кибер-контент в общем корпусе данных и кибер-задачи в RL-средах – и вычистили их, оставив обычные задачи по коду и осознанно урезав кибервозможности модели. На внутреннем тесте xdev-bench-hard "нечищеный" чекпойнт решал 90,5%, релизная версия решает 81,0%.
Moonshot открыто озвучивает принцип, которого будет придерживаться: открытая модель не должна сдвигать фронтир кибервозможностей – поэтому K3.1 Pro уступает закрытым моделям, которые доступны уже хотя бы три месяца. Дальше компания обещает поднимать планку постепенно, объясняя это тем, что защищаться должны уметь многие команды, а не только клиенты пары закрытых систем.
У закрытых моделей защита стоит на входе – классификаторы отсекают опасные запросы, а скачанную модель так не прикроешь: веса не отзовешь, фильтр не поставишь. Остается одно – не учить модель взлому с самого начала. Moonshot так и сделала, да еще и показала, сколько за это заплатила.
Собственно, смотрим на бенчмарки. В ExploitBench, где найденную дыру надо довести до рабочего эксплойта, у K3.1 Pro 74,7% – где-то между летними Opus 5 и GPT-5.6 Sol, то есть примерно уровень закрытых моделей июля. А на том же xdev-bench-hard открытая DeepSeek-V4.1-Flash, которую уже может скачать любой, набирает 85,7% – больше, чем Kimi, а о чистке кибер-данных DeepSeek не сообщала.
Сильнее всего K3.1 Pro там, где надо долго работать "руками" – в терминале, файлах и приложениях. В Terminal-Bench 4.0 у нее 65,7% – почти вровень с Opus 5.5 (66,4%) и выше GPT-6 Astra (58,2%). В AutomationBench-AA, где модель разгребает рутину в почте, таблицах и CRM, – 73,3% и первое место, хотя еще в июле лидер набирал 51,4%. И снова первое место в OfficeQA Pro v2 – поиске ответов по реальным финансовым документам: 64,4%.
Без инструментов модель заметно скромнее: на Humanity's Last Exam, наборе сложнейших вопросов из разных наук, с поиском и кодом у Kimi 70% и первое место, а без них – 51% против 60% у Opus 5.5. В Terminal-Bench Science, где надо самостоятельно довести до конца исследовательскую задачу, – 38% против 68% у Astra. Выходит модель-работяга: агентную рутину тянет на уровне лучших закрытых, но в "чистом" мышлении фронтиру уступает.
Модель уже доступна в чате Kimi, в Kimi Work и Kimi Code, а в API стоит на треть дешевле K3: 13 юаней за миллион токенов на вход и 68 на выход против 20 и 100. Веса Moonshot обещает выложить до 4 ноября. Впрочем, это модель не для домашних экспериментов: в ней 2,8 трлн параметров, из них 104 млрд активных.
—
Как выжимать из ИИ максимум, я рассказываю в подписке. Там уже 35+ полезных лонгридов: от руководства по ИИ-агентам до опыта профессионалов.
👉 Читать на "Бусти"
👉 Читать на Sponsr | 8 674 |
| 19 | Всем, кто на этом канале! Если вы читаете меня – значит, интернет еще жив...
Я дописываю этот пост в четверг поздно вечером и поставлю его в отложку на утро. В X тем временем говорят о "черном октябре": вслед за найденными уязвимостями в PHP отчеты о кибер-проблемах пошли один за другим – и почти во всех упоминается ИИ. Под угрозой банки, госсайты, хостинги для разработчиков и даже сети супермаркетов, а самые смелые заявления утверждают о "роях" агентов-взломщиков, вышедших из-под контроля.
Апокалипсис наступил? Или все-таки откладывается? Правда посередине.
Первая зацепка – пресловутые уязвимости в PHP. Это язык, на котором держится около 70% сайтов в мире. Две дыры, позволяющие захватить сервер одним запросом, исследователи нашли с помощью ИИ и два месяца тихо готовили исправление. А за день до релиза детали утекли в сеть. Патч пришлось выпускать раньше срока, правительства советовали обновиться, а если не выходит – просто выключить сайты. Многие так и сделали.
Интересно, что за полтора дня после выхода патча обещанного апокалипсиса так и не случилось – никто пока не показал даже одного подтвержденного взлома. Попыток было много: глава Cloudflare насчитал миллионы. Но эксплойты оказались капризными. На PHP с настройками по умолчанию гуляющие по сети образцы просто не срабатывают, а часть из них, по словам исследователей, вообще оказалась нерабочим ИИ-кодом.
Не исключено, что какие-то взломы мы просто не видим: через найденную дыру сервер ломают почти бесследно – единственный признак в логах выглядит как рядовая ошибка. К тому же многие серверы работают на старых версиях PHP, для которых патча не будет. Но в любом случае, это не апокалипсис, а максимум точечные истории.
Вслед за историей с PHP случилась другая интересная штука – отчеты о взломах посыпались пачками. Microsoft рассказала о китайской группировке, чьи ИИ-агенты пытались проникнуть в облака 2250 организаций. Облачная платформа для разработчиков попросила всех клиентов срочно сменить ключи. И вишенка: латиноамериканская группировка, по данным исследователей, натравила рой агентов на Claude, Grok и Kimi на 400 банков и платежных систем.
Но важно не преувеличивать цифры. 400 банков названы целями, кража данных подтвердилась пока у одного. 2250 облаков у Microsoft – тоже цели: в самом массированном эпизоде, со 151 тысячей попыток входа, не удалась ни одна.
Любопытны и даты. Сети супермаркетов лежат с 11 октября, школьные базы Калифорнии взламывали с мая по сентябрь. Как минимум в некоторых случаях история с PHP стала просто триггером внимания к рутине в кибербезопасности.
Тренд все-таки меняется – но важно не кричать о "черном октябре", а воспринимать происходящее как новую реальность, где ИИ стал частью цепочки взлома. В одном из отчетов исследователи нашли в открытом доступе панели управления хакера, который поручил агентам атаковать больше 1200 сайтов – и около сотни взломал, тратя на каждый примерно 50 долларов токенов.
Один из руководителей кибербезопасности Anthropic Джейсон Клинтон пишет, что как ни плохо было последние четыре дня, дальше станет гораздо хуже. Руководителям безопасности он советует прямо сейчас просить у начальства ресурсов – не на ИИ, а на базовые вещи. В ближайшие девять месяцев, по его прогнозу, начнут массово находить дыры уже в железе. А продержаться придется около полутора лет.
Но финал Клинтон рисует оптимистичный – написание ИИ-кода достигнет “сатурации”, как это случилось с ИИ-переводом. Он называет это "vulnzero": способности уровня Mythos переедут даже в маленькие дешевые модели, и разработчики везде за копейки будут проверять ими код, почти перестав выпускать дыры.
А пока держимся: вовремя ставим обновления, держим резервные копии, меняем ключи и пароли после утечек и не давать ни людям, ни ИИ-агентам доступов больше, чем нужно для дела.
—
Как пользоваться ИИ и не отдавать ему лишнего, я рассказываю в подписке. Там уже больше 30 лонгридов: от руководства по ИИ-агентам до опыта профессионалов.
👉 Читать на "Бусти"
👉 Читать на Sponsr | 8 476 |
| 20 | Вкатываемся в ИИ-агентов с волшебного пинка
(пинок автоматизирован, как и все остальное на марафоне)
Сооснователь OpenAI и экс-директор по ИИ в Tesla Андрей Карпати недавно написал программный пост для всех, кто жалеет, что не вкатился в ИИ раньше. По словам Карпати, в мире около 6 миллиардов человек почти не пробовали ИИ. Еще 1-2 миллиарда – пользователи чат-ботов (часто бесплатных), порядка 20 миллионов – профессионалы в математике и коде и около 5 тысяч – исследователи внутри лабораторий с доступом к закрытым моделям.
С оценкой Карпати можно спорить - я бы, например, умножал 20 миллионов минимум в два раза – но главный посыл железобетонен. Если по-серьезному заняться вкатом в ИИ прямо сейчас – то вы будете одним из первых и успеете снять сливки с нового навыка.
Ну а помочь вкатиться поможет загадочная технология древних под названием "волшебный пинок". Именно вокруг нее построен новый марафон моих знакомых Коли и Саши, чьи подходы к обучению ИИ я регулярно советую на канале.
Их новый марафон устроен следующим образом. Три недели, 16 заданий, начинают с настройки ИИ-агента под себя, затем идут применения по разным кейсам. Понятный теоретически блок, затем задачка на 15-20 минут – и сутки на сдачу. За процессом следит бот, он напоминает о дедлайне и выдает ачивки за сдачу в срок.
Ну а тех, кто не успел, – выкидывает с потока 😁
Звучит страшно, но на самом деле геймификация в марафоне очень крутая, мне аж самому захотелось поучаствовать. Например, полученные за сдачу ачивки можно использовать для спасения как себя любимого, так и других участников.
(выкинуть кого-нибудь нельзя даже за очень много ачивок – я узнавал и расстроился)
Самое интересное – третья неделя. К ней ИИ-агент уже подключен к вашим таблицам, облаку и личным кабинетам, и его учат работать по расписанию и по триггеру: утренняя сводка по выручке к девяти в телеграм, контроль дебиторки без напоминаний, сценарий, который крутится в облаке, пока ноутбук выключен. И любая другая похожая автоматизация, под вашу профессию и запросы.
Получается, что три недели бот будет пинать вас ради благой цели: чтобы на выходе вы собрали ИИ-агента, которого пинать почти не придется.
И это, кстати, сразу третий уровень по лестнице Карпати: те самые 20-40 миллионов человек в мире, которые не просто задают ИИ вопросы в чате, а делегируют ему заметный кусок сложных задач. А такие есть не только у математиков и кодеров. У менеджера, маркетолога или финансиста подобной работы тоже хватает – выгрузки, сверки, заявки на порталах, – просто никто не показывал, как ее отдать.
Марафон про это: первая неделя – файлы, таблицы, субагенты; вторая – внешние инструменты и браузер под вашими логинами; третья – скиллы, память и автономность.
Учить будут на Codex: на него не так сложно подписаться из России, хорошие лимиты даже на 20-долларовой подписке, а шансы бана за подозрительную деятельность минимальны. Подходы, по словам Коли, на 95% переносятся на любого агента, Claude Code в том числе.
Чего не будет: VPS, докера, гитхаба и остального, через что продираются технари. Продукта для внешних пользователей тоже не будет – только ваша операционка.
И важная оговорка: нет универсального способа обучить всех и сразу. Кому-то внешний пинок подходит, на других – не сработает. Это тоже предусмотрели: если передумаете в первую неделю – деньги вернут.
Старт 28 октября, 10 000 ₽. 8 000 ₽ по моему промокоду.
👉 Записываемся здесь. | 7 144 |
