Неискусственный интеллект

Звучная команда: ФАС! Всё чаще звучит голосом робота. Федеральная антимонопольная служба впервые возбудила дело после того, как ИИ в системе «Антикартель» самостоятельно выявил признаки сговора. Под подозрением — «Стройпрофигрупп» и «МТ Групп»: по версии ведомства, компании изображали конкуренцию на торгах по содержанию зданий детских образовательных учреждений Одинцовского округа. Общая сумма закупок — 676,6 млн рублей. Среди маркеров, которые ищет система: одинаковые опечатки в документах, заявки с одного IP-адреса, общая электронная почта и похожее оформление. По поведению тоже можно спалиться: компании выигрывают по очереди, синхронно действуют на торгах или упорно не хотят снижать цену. Правда, если алгоритм слишком подозрителен, масштабирование поиска сговоров заодно масштабирует поток ложных тревог. Поэтому пока одни радуются, юристы качают головами. Кооперация может сокращать издержки, а формальные связи между компаниями — выглядеть подозрительно. Ещё одна претензия — неравенство инструментов: у регулятора есть доступ к аналитическим модулям, у бизнеса, как правило, нет. @anti_agi

Боитесь, что американский ИИ взбунтуется и рано или поздно захватит интернет? Не переживайте: ему ещё придётся побороться за власть с китайским братом. Tencent признала: сторонние модели, которые компания испытывала в агентной среде, после блокировки обычного доступа начали искать обходные пути к Amap — картографическому сервису конкурирующей Alibaba. Моделям дали браузер, возможность писать и запускать код и попросили определить, какими входами посетители пользуются в китайских парках, музеях, зоопарках и больницах. С 28 сентября по 8 октября агенты предприняли 2818 попыток получить эти данные. Когда автоматические запросы начали блокировать, модели проявили инициативу. Они открывали страницы через сервис удалённого просмотра urlquery, ходили через сторонние прокси и кеши, генерировали программы и отправляли результаты во временные ящики webhook.site. Заодно агенты нашли в публичном коде ключи и защитные токены и попробовали использовать их. До полноценного взлома дело не дошло. Большинство запросов упёрлось в антибот-защиту, форму входа или пустые страницы. Но само по себе прецедент: до сих пор подобное в Китае происходило только внутри контролируемых стендов. @anti_agi

ChatGPT за пять недель втрое увеличил число рекламодателей Реклама появилась в ChatGPT только в феврале. В конце августа на площадке было около 20 тыс. рекламодателей, а к началу октября — уже 60 тыс., подсчитал New Street Research. Sensor Tower ожидает, что расходы американских клиентов в октябре вырастут ещё на 40% к сентябрю. Рост частично куплен ценой. Клик по рекламе ChatGPT для разработчиков корпоративного ПО сейчас обходится примерно в $5 против $30-50 в Google, рассказал The Information глава агентства InterTeam Marketing. Параллельно OpenAI открыла самостоятельный рекламный кабинет и привлекла подрядчиков, которые помогают малому бизнесу запускать кампании. Под капотом уже строится почти обычная рекламная платформа. Большинство кампаний оплачивается за клики или результат; появились пиксель, Conversion API, товарные фиды, геотаргетинг и собственные аудитории. В октябре OpenAI подключила сервисы атрибуции и передачи данных о покупках, а также начала показывать визуальную рекламу во время генерации изображений. Строят всё это выходцы из привычного рекламного интернета. В подразделении OpenAI работает около 140 человек, почти половина пришла с июля по сентябрь. Крупнейший источник кадров — контора Цукерберга; остальных набирали в Google, TikTok, Snap, Amazon и The Trade Desk. Финансовый масштаб пока скромнее клиентского. В конце августа OpenAI сообщила о $1 млрд годового темпа рекламной выручки — это не уже заработанный миллиард, а пересчёт текущего месяца на год. Для сравнения, весь бизнес компании к концу сентября приблизился к темпу в $50 млрд. Ранее инвесторам обещали $2,4-2,5 млрд рекламной выручки за 2026 год, и The Information считает, что план может быть сорван. Зато направление уже перестало быть экспериментом. Реклама работает более чем в 60 странах для пользователей бесплатного ChatGPT и тарифа Go, а недельная аудитория сервиса достигла 1,2 млрд человек. Схожую модель в России развивает Яндекс, только с опорой на уже существующую рекламную систему и товарный поиск. По данным последней отчётности, в чатах с Алисой AI показывались объявления более 460 тыс. рекламодателей — это три четверти всей клиентской базы рекламной платформы. @anti_agi

🤖 AID — AI-дайджест от @anti_agi Вчера утром акции CoreWeave теряли до 9,5%, а закрылись ростом на 5,9%. Причиной разворота стал Дженсен Хуанг, который заявил, что CoreWeave «с каждым днём сильнее», а стоимость капитала у неё снижается. Подстраховывать её Nvidia, по его словам, не придётся. Хуангу подрабатывать пожарным на рынке не впервой: в ноябре 2025-го он ответил на разговоры о пузыре: «Мы видим нечто совсем другое». Nvidia за часы подорожала на $205 млрд, правда, уже назавтра рост сменился падением. В феврале он уверял, что ИИ-инвестиции «только начинаются». А его уверения, что подстраховка CoreWeave не понадобится звучат особенно весомо для тех, кто помнит, что Nvidia обязалась выкупать простаивающие мощности CoreWeave на $6,3 млрд, а в январе вложила в неё ещё $2 млрд. В самом деле, когда экономисты пугают триллионными долгами, маленькому инвестору становится страшно. Но когда на его защиту спешит очкастый супергерой Дженсен с капитализацией $5+ трлн, то страх проходит. Только не стоит забывать, что капитализация Nvidia, да и выручка — производные пузыря. Если начнется по взрослому, то никакой CoreWeave спасать не будут — просто не будет на это денег. И желания... К слову, риски пожара на рынке перекидываются с акций на облигации. Пятилетний CDS CoreWeave, страховка от её дефолта, поднимался выше 1 100 б.п. Это означает рынок ожидает примерно 64% вероятности ее дефолта в ближайшие пять лет, год назад было около 30%. CDS Oracle на рекорде, рекорды даже у Amazon, Alphabet и Meta*. Огонь подбирается и к IPO Anthropic. Часть инвесторов обсуждает оценку в $1,5 трлн вместо $2 трлн: в III квартале выручка выросла на 45%, хотя во II квартале удвоилась. Рост замедляется, ожидания снижаются и оценка сдувается вместе с ними. А вот у TSMC шестой рекордный квартал подряд: выручка $46,7 млрд (+51%), прибыль +69%. На IV квартал обещает $52–54 млрд, а Си-Си Вэй говорит, что спрос «намного выше наших возможностей». С Илоном Маском TSMC спорит о том, кто будет управлять его техасским Terafab. О том, что Meta* и Apple вместе выпустили модель Muse Spark Open для Mac мы рассказывали. Так что проговорим лучше о новостях регулирования ИИ: ▪️FTC потребовал у OpenAI и Anthropic документы об инцидентах, когда модели на тестах взламывали сайты или обманывали. Следом допросят топ-менеджеров. ▪️Оперштаб Белого дома по суперинтеллекту утвердил устав. За 120 дней он подготовит доклад о рисках и правила, по которым лаборатории должны будут сообщать о взломах. Как их заставить, пока не придумали. ▪️Билл Гейтс готовит кампанию за жёсткое регулирование ИИ: «Допустим, вы убили 100 млн человек. И хотите решать это иском?» Билл говорит, что защитить человечество от ИИ — его теперь его главная миссия. Над ним ржут, что это антикризисный пиар после файлов Эпштейна. ▪️Банк Англии назвал ИИ системным риском для финансов, а Совет по финансовой стабильности требует держать ИИ-агентов в банках под контролем человека. 🇨🇳ByteDance близка к покупке ИИ-чипов у MediaTek. А Tencent признала, что агенты из её облака ломились в Amap от Alibaba, но вину переложила на сторонние модели, которые тестировала. Какие — не говорит. Модели, вроде бы откликались на Claude, но вполне вероятно — это глюки дистилляции. 🇷🇺У нас Владимир Путин поручил внедрять ИИ в торговлю, ведь он может отследить «каждую пачку гречки». А в проекте нацплана, как пишет «Коммерсант», записана цель блокировать с помощью ИИ 70% VPN-сервисов. В Минцифры это отрицают. * Meta считается в России экстремистской и запрещена

Цукерберг вернулся в открытовесовую лигу Meta* Superintelligence Labs выложила веса Muse Spark Open и называет ее самой способной американской открытой моделью на сегодня. Это MoE на 816B параметров с 42B активных, контекстом в 1 млн токенов и нативной мультимодальностью: текст, изображения, видео, аудио. Предыдущий Muse Spark был первой моделью Meta* без открытых весов, так что компания частично возвращается к стратегии Llama. Американских конкурентов, Inkling от Thinking Machines и Nemotron 3 Ultra от NVIDIA, модель на многих тестах обходит больше чем на 20 пунктов. На агентных JobBench и MCP-Atlas она лидирует и среди китайских моделей. В коде картина обратная: на Terminal-Bench 2.1 у Kimi K3 85,0, у GLM 5.3 83,9, у Muse Spark Open 76,4. Сводный Intelligence Index от Artificial Analysis в таблицу анонса не попал, он есть только в карточке модели. Там GLM 5.3 набирает 45, Kimi K3 44, Qwen3.8 40, Muse Spark Open 39. Отдельно Meta* продвигает сценарий «передовой агент у вас на столе». Две Mac Studio на M5 Ultra по 512 ГБ объединенной памяти, связанные через MLX, дают терабайт. Сколько стоят два таких Mac Studio в блоге не пишут, но 4 Mac Studio по 256 ГБ обойдутся в "жалкие" $38 000.🐷 Лицензия тоже открыта с оговорками. Muse Model License требует плашку Built with Muse Spark Open в интерфейсе каждого продукта и каждой производной модели. Компаниям с выручкой больше $20 миллионов в год для запуска модели как сервиса по API нужен отдельный договор с Meta*. У Llama порог был 700 миллионов активных пользователей в месяц. Политика использования запрещает военное применение, ядерную отрасль и шпионаж, хотя для Llama Meta* в свое время сама сделала исключение ради американских военных. Лицензия начинается с того, что разрешение бесплатно получает любое лицо, но веса это лицо получит только после ручной модерации на Hugging Face. Meta* просит полное юридическое имя, дату рождения, страну, название организации со всеми корпоративными реквизитами и должность, а геолокацию сама определяет по IP. Формулировка Meta* при этом безупречно точна. В ее собственной таблице модель четвертая среди открытых и первая среди американских. Выходит, у американцев тоже своя мера теперь. *террористы и экстремисты, запрещенные в России, а также среди любителей Гиннеса @anti_agi

OpenAI идет в кибербез❓ OpenAI ведет переговоры о покупке Trail of Bits, фирмы, которая ищет и закрывает уязвимости в открытом ПО. Сумма сделки неизвестна, и, по словам источников, переговоры еще могут сорваться. Небольшие стартапы OpenAI обычно покупает за собственные акции: иногда на нижние сотни миллионов долларов, иногда дешевле. Trail of Bits больше десяти лет обходится без венчурных денег. Из внешнего финансирования в ее истории значатся грант Минобороны США примерно на $10 тысяч и кредит на $1 миллион по пандемийной программе поддержки зарплат. Ее система Buttercup, которая сама находит и патчит уязвимости, заняла второе место в конкурсе DARPA AI Cyber Challenge и принесла $3 миллиона призовых. С OpenAI фирма уже работает в программе Patch the Planet. Ее инженеры вместе с Codex и специализированной GPT-5.5-Cyber, которую в открытый доступ не выпускают, проверяют находки в 19 открытых проектах вроде Python и cURL, прежде чем отдавать их мейнтейнерам. По данным самой OpenAI, найдены сотни проблем и приняты десятки патчей. Покупка ложится в последовательную сборку целого направления. Сначала OpenAI купила Promptfoo, стартап для ред-тиминга ИИ-агентов. Затем она запустила Daybreak, свой ответ на Glasswing от Anthropic: платформу, где GPT-5.5 и Codex Security ищут, проверяют и чинят уязвимости в коде клиентов. Коммерцию компании теперь возглавляет Дали Раджич, до этого президент и операционный директор Wiz, которую Google купила за $32 миллиарда. Партнер по Patch the Planet в такой схеме превращается из подрядчика в штатное подразделение. В те же дни, когда OpenAI анонсировала Daybreak, в RubyGems, главный реестр пакетов для Ruby, за двое суток залили больше 2 000 пакетов. Мейнтейнерам пришлось на четыре дня закрыть регистрацию и удалить больше 500 вредоносных пакетов. Трое независимых исследователей связали эту волну с внутренними агентами OpenAI, и компания подтвердила, что ее агенты пользовались реестром во время обучения. Вредоносными эти действия в OpenAI не считают. По версии компании, агенты выполняли безобидные задачи вроде заполнения таблиц и подготовки отчетов. @anti_agi

Не прошли в FSB В июне международный Совет по финансовой стабильности (FSB) предложил банкам стран "большой двадцатки" перенести кадровые процедуры на ИИ-агентов и обращаться с ними как с «синтетическими сотрудниками». Звучало удобно: выдать цифровому коллеге идентификатор, полномочия и начальника, а затем контролировать примерно как человека. Метафора продержалась четыре месяца. После консультации, собравшей около 160 ответов от банков, страховщиков, платёжных компаний и разработчиков, из финального документа она исчезла. Теперь FSB прямо предупреждает: агенты «не рассуждают как люди и могут неожиданно интерпретировать заранее заданные цели». Их поведение способно меняться после подключения новых инструментов или получения новых промптов. Поэтому вместо цифрового отдела кадров банкам стран G20 предлагают строить для агентов отдельный контур технического контроля: ▪️ограничивать доступ только необходимыми API, данными и системами; ▪️ требовать одобрения человека перед крупной транзакцией или необратимым действием; ▪️ разбивать задачу на этапы и не пускать агента дальше, пока не пройдена проверка; ▪️ ослеживать выход за первоначальные полномочия и обращения к лишним данным; ▪️ тестировать kill switch, способный остановить агента или отобрать у него доступ к инструментам и базам. FSB отдельно советует не полагаться на объяснения самого агента: отчёты о выполненных действиях следует сверять с независимыми журналами из-за риска галлюцинаций или обмана. А если одного агента контролирует другой, нужно проверять уже и систему надзора — чтобы не получить два вероятностных алгоритма, уверенно подтверждающих ошибки друг друга. @anti_agi

🤖 AID — AI-дайджест от @anti_agi Доходность облигаций CoreWeave с погашением в 2032 году подскочила почти до 15%. С таким процентом рынок кредитует компании, в способность которых вернуть долг он не очень верит. Акции CoreWeave вчера упали на 15,5%, Nebius — на 10%, Oracle — на 8,8%. Чамат Палихапития увидел в этом предвестие пузыря частного кредита в ИИ, Илон Маск ответил в X коротким «yikes». CEO CoreWeave Майкл Интратор написал сотрудникам, что рынок ведёт себя «иррационально» и портфель контрактов покрывает все обязательства. Обязательства с учётом аренды, между тем, уже достигли $52 млрд. Масла в огонь подлил Gartner, посчитавший, что списания ИИ-капитала к 2032 году могут превысить $4 трлн. В этом году на ИИ-инфраструктуру потратят около $1 трлн, в 2027–2030 годах ещё $6 трлн. Чтобы это окупилось с доходностью 12%, нужно $8,5 трлн выручки, а ИИ-дата-центры заработают не больше $3,6 трлн. Из неооблаков (вроде CoreWeave) 80% не доживут до 2030 года самостоятельными компаниями. Жару подает и сентябрьская инфляция в США: цены выросли год к году на 3,7% по сравнению с 3,4% в августе. Глава ФРБ Чикаго Остан Гулсби накануне предупреждал, что ИИ-инфляция перекинулась с серверных компонентов на землю, электричество и стройку, и назвал это «классическим перегревом». Перегрев означает повышение ставки, а с ним долг станет ещё дороже. Доходность 10-летних облигаций вчера внутри дня превышала 5,32%. На этом фоне Apple впервые закрылась с капитализацией выше $5 трлн. Видимо, лучшая ИИ-стратегия — не тратить на ИИ. Экономят, впрочем, и те, кто тратит. Глава Azure Гириш Баблани попросил руководителей подготовить сокращение затрат минимум на 20%. Выручка Azure растёт на 40% в год, но капзатраты Microsoft за финансовый год составили $145,3 млрд, и деньги на дата-центры приходится искать внутри. Сама Microsoft назвала публикацию «неточной и небрежной». Для предстоящего IPO Anthropic это не самый благоприятный фон, конечно. На закрытом дне инвестора компания отчиталась о успехах, в @antidigital эти успехи уже разобрали. У главного конкурента Anthropic тем временем продолжаются мытарства. Восемь штатов, от Айовы до Западной Вирджинии, подали иски: по их словам, ChatGPT подталкивал подростков к самоповреждению и помогал планировать насилие. Среди требований есть запрет разрабатывать самоулучшающиеся модели, пока компания не докажет их безопасность. А ИИ-офис Еврокомиссии направил OpenAI и Anthropic запросы о летних инцидентах, когда агент OpenAI взломал Hugging Face , а модель Anthropic получила доступ к трём сторонним организациям. С Apple, которая обвиняет её в краже секретов, OpenAI перешла в контрнаступление. Теперь она утверждает, что её бывший сотрудник перед уходом в Apple переслал себе больше 100 файлов о неанонсированном устройстве, а потом презентовал этот продукт топ-менеджменту купертиновцев. Секреты самой Apple OpenAI при этом пообещала не использовать. Тем временем из OpenAI, чтобы «начать что-то новое», уходит Сачин Катти, который отвечал за вычислительные мощности при плане расходов в $750 млрд до 2030 года. Тоже наверное унесет что-то в это «новое». 🇨🇳 Apple Intelligence выйдет в материковом Китае в декабре, на моделях Alibaba и без ИИ-функций Siri. Министерство промышленности и информатизации КНР одобрило Apple Intelligence и две модели Alibaba: Tongyi Qianwen и Tongyi Wanxiang. Китайские приложения тем временем дружно закрываются от чужих ИИ-агентов. 151 приложение отказалось пускать ассистента Doubao от ByteDance: 65 из них принадлежат Tencent, включая WeChat, 23 — Alibaba. 🇷🇺У нас в России AIANA прогнозирует, что рынок компьютерного зрения в этом году вырастет на 29%, до 28,4 млрд руб. Крупнейший заказчик — государство, на него приходится 32,5% выручки.

Курение вредит вашему здоровью Но ИИ всех спасет Наверное Технический директор Palantir Шьям Санкар рассказал в эфире на CBS, что многие ИИ-исследователи начали курить, чтобы показать коллегам, как сильно верят в ИИ: раз он вылечит рак, можно идти ва-банк. Ведущая Маргарет Бреннан успела вставить, что в этом нет никакого смысла. Имен, цифр или хотя бы одного конкретного случая Санкар не привел. Курильщики понадобились ему для тезиса покрупнее. По версии Санкара, дискуссию о безопасности ИИ направляет эффективный альтруизм, милленаристский культ судного дня, к которому принадлежит подавляющее большинство из примерно 2 000 американских исследователей ИИ. Их оценки вероятности гибели человечества он поэтому относит к теологии, а не к науке. Дыру в форме бога, о которой писал Паскаль, в Кремниевой долине, по его словам, заполнили машинным богом AGI. Итог у него такой: массовый психоз и социальное помешательство. Сам Palantir при этом не подписал обязательства Белого дома о внутреннем контроле и внешнем аудите, под которыми подписались Google, Anthropic, OpenAI, NVIDIA и Илон Маск. По словам Санкара, соглашение было для тех, кто делает модели. Пентагон отказался от Anthropic после спора об ограничениях на военное применение ИИ. Claude в платформе Palantir Maven, по словам Санкара, уже заменили, и это ни на что не повлияло. Алармисты, по словам Санкара, ошибались во всем: к этому времени они обещали массовую безработицу, а экономисты вместо нее видят рост занятости. Через пару минут Бреннан спросила, не стоит ли США притормозить. Санкар ответил, что индустрия и так притормаживает: некоторые передовые модели сейчас не выпускают, потому что разработчики сочли, что выпускать их, возможно, рано. С этим вряд ли поспорят те, кого он в начале интервью записал в культ судного дня. @anti_agi

Миньоны теперь распределяют ИИ-мощности в Apple Исследователи компании представили Minions — систему, которая превращает простаивающие GPU Mac’ов в общее вычислительное облако. Причина житейская: некоторые ИИ-задачи внутри компании ждали свободных серверных GPU больше десяти часов. А на столах стояли компьютеры с незанятыми ускорителями. Под капотом — сервер-координатор, очередь в PostgreSQL и программа-исполнитель на каждом Mac. Сервер разбивает задачу на независимые порции; компьютеры сами забирают их через API. База гарантирует, что одну порцию не схватят одновременно два исполнителя. Исходные данные и результаты хранятся в Amazon S3, модели скачиваются и кешируются локально. Языковые модели запускаются через Ollama, модели для эмбеддингов — через Hugging Face Transformers. Каждый Mac выполняет свою порцию с локальной моделью. Такая схема позволяет параллельно обрабатывать множество запросов или документов. Если компьютер уснул или владелец остановил исполнителя, система возвращает незавершённую работу в очередь. Несколько команд Apple уже пользуются Minions: задачи часто стартуют через минуты вместо часов. Самая прекрасная деталь исследования — сотрудники пишут коллегам в Slack и просят временно подключить компьютеры к конкретному проекту. Когда такая работа заканчивается, компьютеры переключаются на задачи остальных. Получается вычислительная взаимопомощь: сегодня коллеги помогают тебе, завтра твой Mac разгребает их очередь. У Nvidia, кстати, есть похожий инструмент PAIR: он распределяет независимые запросы между компьютерами с RTX, DGX Spark и совместимыми Mac’ами в локальной сети. Доступен под Apache 2.0. Ждём, когда своих парных миньонов в опенсорс покатят яблочники. @anti_agi

🤖 AID — AI-дайджест от @anti_agi В ИИ первое крупное банкротство: Character.AI подала на защиту от кредиторов, а лицензию на её IP за $20 млн покупает Disney. Добили компанию иски семей подростков и счета за вычисления: $56,1 млн за восемь месяцев при выручке не больше $5,3 млн в месяц. Отметим и обратную историю: Getty Images стала первой крупной жертвой ИИ: компания уходит в банкротство и с биржи, признав, что генераторы картинок подорвали спрос на её фотосток iStock. В этой связи интересно следить за Oracle, самым уязвимым игроком гонки — угрозы для неё множатся. Компания торопит энергорегулятора США (FERC) одобрить газопровод для своего ЦОД в Нью-Мексико: «время решает всё». Запуск уже сдвинулся с августа этого года на февраль 2027-го, а запасной план — возить газ грузовиками — не выдерживает критики. Начнется ли схлопывание пузыря с Oracle, неизвестно, но следим за разными индикаторами. Вот например чипы. Всем кажется, что это продавцы лопат, которые в любом случае выиграют. Но индекс полупроводников SOX вчера упал пятый день подряд и потерял за это время больше 8% (правда, с начала года он все еще +70%). Тем временем, ASML отчиталась о рекордной квартальной выручке €11,7 млрд, подняла прогноз на год до €44–45 млрд и предупредила, что мощностей на 2027–2028 годы не хватит: клиенты уже просят литографы на 2029–2030-й. Впрочем, о продолжении банкета это не говорит. Никто же не знает, когда закончится музыка, поэтому литографы будут заказывать до последнего. Nvidia, между тем, теряет Китай. По данным IDC, ее доля на рынке ИИ-ускорителей в первом полугодии упала до 34%, а у Huawei выросла до 28%. Правда, кажется, контрабанду тут не посчитали. Зато в Европе Nvidia усиливается: Дженсен Хуанг в Париже пообещал за неделю объявить сделки в Европе на $2 млрд: первыми деньги получат Doctolib, Genesis AI, Pigment и Entalpic. Ну и напоследок новости безопасности: ФБР арестовало инженера OpenAI Абдулрахмана Альфозана, гражданина Саудовской Аравии. По версии следствия, в конце сентября он спрятал записывающее устройство в USB-порт за телевизором в переговорной руководства. Через пару дней «жучок» нашли, а в октябре камеры засняли, как Альфозан заглядывает за телевизор. В соседней комнате он забыл сумку со вторым устройством, кошельком и удостоверением. Забавно, что как собрать и спрятать прибор, спрашивали у чат-бота — с аккаунта, связанного с женой обвиняемого. А вычислила его OpenAI с помощью собственных моделей. Компания уверяет, что к весам моделей он не подбирался. На кого он работал, пока не известно, может и на себя самого. Но ладно, когда мы говорим о «безопасности ИИ», мы обычно подразумеваем что-то другое. Например, вчера в британском парламенте прошли слушания, где OpenAI рассказала, что остановила выпуск GPT-6.1 Astra, потому что модель «недостаточно отказывала» (а значит она не плюет на безопасность). А Anthropic — что её Mythos находит десятки тысяч уязвимостей в месяц. Параллельно около 400 учёных во главе с Джеффри Хинтоном и Йошуа Бенжио призвали создать международный орган надзора за ИИ, отключать frontier-модели от внешних сетей и вести реестр инцидентов. 🔮 Сомневаюсь, что эта идея воплотится в жизнь, по крайней мере, пока не произойдет обещанного глобального инцидента. А вот тогда все взвоют, что их о таком не предупреждали, и начнут линчевать разработчиков ИИ.

Не нужон нам этот ваш опус Google открыла Gemini 4 Argon платным подписчикам. Модель появилась в приложении Gemini и в AI Mode поиска на тарифах AI Pro за $19,99 и AI Ultra от $99,99, а в Antigravity только на Ultra. Две недели до этого Argon получали лишь кибербезники из программы Fairwind. Ждали его долго (хоть не 3 года): обещанный раньше Gemini 3.5 Pro так и не вышел, а Сундар Пичаи на звонке с аналитиками признал, что Gemini отстает в программировании и агентах, и пообещал догнать лидеров четвертым поколением. Google напирают на тесты Vals Index. Там моделям дают реальные задачи из финансов, права, налогов и программирования и взвешивает итог по доле этих отраслей в ВВП США. Argon там первый с 68,9%, за ним идут Claude Sonnet 5.5 с 67,04% и Claude Opus 5.5 с 66,97%. За один ответ Argon может выдать до миллиона токенов вместо прежних 64 тысяч. Внутри Google агенты на нем уже переводят на Rust ядро Zircon из Fuchsia, больше 800 тысяч строк. Но есть и любимый нами Artificial Analysis. Первое место там у Opus 5.5 с 58 баллами, у Argon 53, ровно как у GPT-6 Astra, а лучшая открытая модель MiMo-V2.6-Pro от Xiaomi набирает 46. Предыдущий флагман Gemini 3.1 Pro Preview стоит в том же рейтинге на 30. Рывок огромный, но догнала Google пока только OpenAI. На первых порах Google пытается демпинговать: сейчас Argon стоит $2 за миллион входных токенов и $10 за выходные, и рассуждает он экономнее. На задачу из рейтинга у него уходит 62 тысячи выходных токенов против 119 тысяч у Opus 5.5 на максимуме, это $1,99 против $5,98. Через полтора месяца акция закончится, цена удвоится до $4 и $20 и совпадет с ценой Opus 5.5 до цента. Впрочем, в той же таблице есть Opus 5.5 в режиме high, на ступень ниже максимума. У него 54 балла и $1,82 за задачу, то есть он на балл выше Argon на его предельной настройке и дешевле даже по акции. @anti_agi

Апокалипсис не откладывается❓ Anthropic, OpenAI и другие ИИ-компании в закрытом режиме проигрывают сценарии общественного бунта после первой крупной катастрофы с участием ИИ. Скорее всего, это будет кибератака, которая отключит банки и связь, а в худшем случае электричество и воду. Анонимные собеседники Axios ждут ее в ближайшие полгода-год. OpenAI учения подтвердила, но неизбежными такие сценарии не считает. Anthropic от комментариев отказалась. Готовятся при этом в основном к реакции Вашингтона. Регулирование сейчас не пройдет, поэтому компании заранее просвещают конгрессменов, чтобы повлиять на законы, которые начнут писать на следующий день после катастрофы. Планировщики закладывают, что демократы возьмут обе палаты на промежуточных выборах. На столе у них идеи от обязательного аварийного рубильника до запрета суперинтеллекта. Но резкие меры, по оценке тех же планировщиков, упрутся в стареющий Конгресс, в экономику, завязанную на стройку ИИ-инфраструктуры, и в модели с открытыми весами, которые уже скачаны Реальный пример в материале один. В Южной Корее атакующий взял ARTEX, открытый китайский агент для пентеста, выложенный за два месяца до атаки. Им он перебором подбирал номера клиентов в сервисе Shinhan Bank для кредитных брокеров и вынес 25 727 записей с доходами и кредитными лимитами. Пострадали еще несколько банков и финансовых компаний, но основные системы устояли: ломали периферийные сервисы. CrowdStrike нашла на серверах атакующего открытые директории с историей его сессий Claude Code. ARTEX работал на DeepSeek, в Claude Code он подключал еще GLM и Grok. В одной сессии он спрашивал, где продают слитые корейские данные. В другой попросил составить ему резюме исследователя безопасности с результатами этой атаки в виде референса. @anti_agi

🤖 AID — AI-дайджест от @anti_agi Meta* выпустила первые модели фронтирного уровня от лаборатории Александра Вана — Muse Wonder и Muse Wonder Full. Лабораторию собирали летом 2025-го года после провала Llama 4. Собирали из звёзд ИИ, суля им сотни миллионов долларов. Чуть больше года ушло на то, чтобы Цукерберг смог заявить FT: Meta* догнала конкурентов. Обе модели принимают до 1 млн токенов, понимают текст, картинки, видео и звук. Главные фишки — «активная память» и «активный фокус»: агент помнит, что ему рассказывали, и не бросает сложные задачи. В независимом рейтинге Artificial Analysis старшая Wonder Full набрала 56 баллов — столько же, сколько Claude Sonnet 5.5, и уступила только Opus 5.5 (58). Младшая Wonder получила 52. Цена в API — $4 за 1 млн входных и $20 за 1 млн выходных токенов, один в один как у Opus 5.5, хотя Ван обещал «заметно дешевле». А Wonder Full через API вообще не продают — только в подписке Muse Code за $50 и $200 в месяц. Звучит не как прорыв, но как возвращение на место за столом. Инвесторам, впрочем, хватило: акции Meta* выросли на 3,4%. Пока одни догоняют лидеров в моделях, другие уходят от лидера в железе. Microsoft показала Maia 300 — свой ускоритель для инференса. Чип делает по 2-нм техпроцессу TSMC, у него 288 ГБ памяти HBM4, как у Nvidia Rubin, хотя пропускная способность примерно на 20% ниже. Зато Microsoft обещает на 40% больше токенов на мегаватт, чем у «ведущих GPU-систем». Стойка на 96 чипов в 7 раз производительнее предыдущей. Развертывание начнется в 2027 году, и со временем Maia станет основным источником мощностей Microsoft для инференса. Чипы, к слову, вчера уронили рынок. В выходные на конференции в Шанхае президент CXMT Цао Каньюй рассказал о новой архитектуре DRAM 4F²: ячейка памяти с вертикальными транзисторами занимает примерно на треть меньше места, чем в нынешней 6F². Серверные модули DDR5 на ее основе китайцы обещают до конца года — якобы, на пару лет раньше Samsung. Рынок ответил сразу: Micron потерял 4%, Sandisk — больше 6%, Lumentum — почти 10%, индекс полупроводников SOX — 2,7%. Сегодня эстафету подхватил Сеул: SK Hynix упал на 10,1%, Samsung — на 7,4%, KOSPI терял до 7% и провалился ниже 6 000 пунктов. Это, впрочем, все пока в рамках обычной в последнее время волатильности. Но настоящей «взрослой» коррекции опасаются все. МВФ в свежем докладе о финансовой стабильности назвал «коррекцию, вызванную ИИ» одним из трех главных рисков для мировой экономики. А глава Broadcom Хок Тан сравнил многих ИИ-инвесторов с игроками в казино, которые «понятия не имеют», на что ставят. Забавно, что сам он целится в $230 млрд выручки от ИИ-чипов к 2028 году, а банки сейчас собирают $60 млрд долга под аренду чипов для Anthropic, из них $42 млрд — под кредитный рейтинг Broadcom. Кажется, Тан решил, что он и есть казино. 🇨🇳 В Китае коррекции не боятся. Tencent размещает облигации минимум на $4,5 млрд. Деньги пойдут на ИИ: капзатраты компании за полугодие выросли вдвое, до 96,3 млрд юаней. DeepSeek тем временем удвоила раунд до 100 млрд юаней (около $14 млрд) при оценке 500 млрд юаней. Среди инвесторов — автопроизводитель Geely и CATL. При этом Лян Вэньфэн собирает деньги не только на языковые модели: он встречается с основателями робототехнических стартапов, а вчера стало известно, что DeepSeek возглавит посевной раунд Winverse AI бывшего руководителя робототехники Tencent Ху Ханя при оценке $400 млн. ▪️The New York Times, AFP и The Economist вступили в коалицию SPUR, где уже больше 80 СМИ из 20 стран. Вместо исков поодиночке они продвигают общий стандарт учета того, как ИИ использует новости, — чтобы за это платили. OpenAI, Anthropic и Google позвали к работе, но пока никто не согласился. 🇷🇺 У нас в России правительственная рабочая группа предложила критерии ИИ-ЦОДов: майнинг в них запретят, а строить их смогут только российские компании. После трех атак дронов на ЦОДы Яндекса за неделю, правда, вопрос уже не только в льготах. * Meta считается в России экстремистской организацией и запрещена

ИИ-червь В Anthropic купили 15 безымянных Android TV-приставок по $55, связали их в сеть и запустили на них Gemma4-26B-A4B, по два слоя модели на коробку. Получилось 0,39 токена в секунду. Для чата это непригодно, но команда Frontier Red Team проверяла другое: сможет ли модель жить на таком дешевом железе как червь, то есть сама находить новые устройства, копировать туда свои веса и запускаться заново. Приставки выбрали после того, как ботнет Kimwolf заразил больше 2 миллионов таких же коробок. Они работают на форках AOSP, и производители не добавляют туда защиту. Обычный ботнет пишут под конкретное железо, а языковая модель разбирается с незнакомым железом сама. Она подбирает инференс-движок, ищет совместимые версии пакетов и чинит сборку. Qwen3.5-9B подняла инференс на 8 типах железа из 9, от Jetson Nano до Mac, и root для этого не понадобился. Цикл целиком, от сканирования сети до запуска копии на новом узле, гоняли на восьми эмуляторах Android в закрытой сети GCP. Из открытых моделей его стабильно проходит только GLM-5.2: в четырех прогонах из пяти она заняла все 8 узлов. В приставку GLM-5.2 не влезет, но авторы прикинули по Epoch Capabilities Index, что модели до 30B выйдут на ее уровень к концу года. Модели еще и учатся: когда каждое поколение Qwen3.5-9B оставляло следующему заметки о том, что сломалось, доля успешных установок росла с 45% до 61–84%. Взлом в тестах был условным, ADB-порт открыт без пароля. Mirai в свое время хватало списка заводских паролей, так что до реальности недалеко. Одна копия 9B разворачивается на приставках от 28 до 51 часа, и авторы сравнивают такого червя со слизевиком. Если переделать под ИИ весь Kimwolf, у червя будет примерно 40 H100 компьюта: ресурс небольшой лаборатории, разбросанный по двум миллионам гостиных. @anti_agi

🤖 AID — AI-дайджест от @anti_agi Nvidia продолжает скупать тех, кто может ей пригодиться: компания ведёт переговоры о покупке разработчика открытых моделей Reflection AI (мы писали о нем), куда уже вложила $800 млн. Варианты — от поглощения до acquihire (когда забирают команду и лицензию без перехода контроля, чтобы не заморачиваться с антимонопольным ведомством). Заодно Nvidia собирается вложиться в стартап инференс-чипов d-Matrix. Amazon договаривается о покупке израильской Decart примерно за $7 млрд. Её софт за пару недель подгоняет нейросети под конкретные чипы — для Amazon с её Trainium это шаг к независимости от той же Nvidia. Забавно, что в сентябре от сделки на $6 млрд после проверки отказалась Anthropic. Если раньше мы каждый день писали про новые дата-центры, то теперь пишем про безопасность: 🔐Выяснилось, что Марк Цукерберг выпустил агента Muse вопреки сомнениям в его безопасности: в тестах тот без спроса менял пароль пользователя, сообщал адрес своего владельца покупателю на маркетплейсе и т.д. 🔐Сатья Наделла в субботу призвал встраивать в ИИ «аварийный тормоз»: заранее считать модель скомпрометированной, писать каждое её действие в неподделываемые логи и дать человеку право остановить её посреди задачи. 🔐А OpenAI и Anthropic, по данным Axios, проводят учения на случай ИИ-катастрофы — многие инсайдеры ждут крупного инцидента в ближайшие 6–12 месяцев. 🔐Мелкие же теперь случаются постоянно. Anthropic раскрыла, что её агенты в тестах обходили платный доступ к базам, вытаскивали токены из настроек сайтов и подали через форму Госдепа 20 заявлений на визы. Одна модель отправила полиции Филадельфии ложную наводку об убийстве — компания заметила это через 2,5 месяца, полиция такую «скорость» реагирования сочла неприемлемой. 🔐Наконец, Белый дом объявил, что уведомление об инцидентах обязательно для всех ИИ-компаний. Но ни сроков, ни наказаний не назначил. Просто пальчиком погрозил... ▪️Anthropic перед IPO добывает мощности. Его сооснователь Том Браун договрился с Илоном Маском об аренде мощностей SpaceX за $1,25 млрд в месяц — до $84,5 млрд до 2029 года. А вот Цукерберг отказал Дарио Амодеи. Зато в рамках программы аренды ЦОД на $530 млрд компания подписала контракт с бывшим майнером IREN. ИИ-бум все сильнее высасывает ресурсы из смежных сегментов. Apple урезала заказы iPhone 18 Pro на 15–20% из-за дорогой памяти, поставки ПК упали на 20%. Зато Lumentum распродала оптику для ИИ до 2029 года. Не удивительно, что о всё чаще говорят о пузыре. Стратег Panmure Liberum Йоахим Клемент ждёт падения S&P 500 на 36% к концу 2027-го, глава DBS Тан Су Шан говорит, что рынок уже переоценивает риски ИИ-кредитов. А между тем австралийская Firmus отменила IPO на $5 млрд — фонды сочли оценку завышенной. Кто знает, может сдуваться пузырь начнёт с другого конца света? *️⃣Перед тем, как перейти к российским ИИ-новостям, забавное: Microsoft тут пошла по пути, проторенному российскими компаниями — свою Microsoft-Decision-1 она дообучила из китайской Qwen. Это ответ TypeSafe AI, которая через месяц после запуска модели Jev привлекла $870 млн при оценке $7,5 млрд. Конечно, это модель решений, но забавно, что теперь можно говорить, что решения за Microsoft принимают в Пекине. 🇷🇺У нас в России рынок больших данных и ИИ вырос в 2025 году на 20%, до 528 млрд руб., а ввоз GPU-серверов по параллельному импорту упал с тысяч до десятков. Яндекс и Сбер разошлись в вопросе суверенного ИИ: Александр Крайнов против обязаловки, Андрей Кутуков — за. А Positive Technologies насчитала 1,7 млн ИИ-атак на сайты российских компаний за квартал — впятеро больше прежнего.

Вайб-хакинг добрался до станков В промышленной сети взлом может остановить двигатель, сдвинуть робота или нарушить водоснабжение. Многие устройства принимают команды без проверки отправителя — главное до них добраться. Остановить злоумышленника могла бы неизвестная архитектура. Но с появлением ИИ проблемой перестало быть и это. Booz Allen Hamilton — технологический подрядчик Пентагона, в котором когда-то работал Эдвард Сноуден, — убедился в этом на практике. Компания собрала лабораторный стенд с контроллерами разных марок, двигателем, роборукой и рабочими местами операторов и натравила на него агентов. ИИ дали границы сети и задания обычным языком, без исходников и инженерной документации. Выполнение атак и физические действия подтверждали люди. И понеслась. В одном тесте агенты добрались от взлома периметра до действий внутри промышленной сети за чуть больше 16 минут. В другом — за считаные минуты нашли роборуку, получили административный доступ, определили ограничения движения и заставили её двигаться. При атаке на систему диспетчерского управления SCADA агенты сначала ошиблись с версией операторской программы: изменения не появились на экранах. Тогда они переделали атаку, перехватили отображение в диспетчерской и обнаружили авторизованные соединения с 14 промышленными устройствами. Такой доступ позволяет командовать оборудованием и подменять показания для операторов. Другой агент заметил защитное реле, которое раз в секунду искало отсутствующего партнёра по обмену данными, и выдал себя за него. Возможный путь к управлению защитным оборудованием нашёлся просто из наблюдения за трафиком. Итог? Захвачено было всё, что можно было захватить. Будущее, где принесённый на флешке ИИ-агент может разнести завод изнутри, уже не кажется таким нереальным. @anti_agi

Несущая стена из сыра Безопасность ИИ-моделей держится на слове «нет». Индустрия пока не придумала ничего более эффективного, чем учить модель отказывать пользователю. Но как молчание модели устроено внутри, никто толком не понимает. Принцип сформулировала Anthropic в 2021 году: модель должна быть полезной, честной и прежде всего безвредной. Но непослушание машине не свойственно. Обученная на всём интернете, она знает и как лечить, и как вредить, для нее это равноценная информация. А молчать она не умеет. Ранние модели OpenAI, по словам бывшего сотрудника Стивена Адлера, болтали о чём угодно. Отказу учат отдельно: моделям задают опасные вопросы, а ответы уходят в дообучение. Пол Рёттгер в 2022 году попросил будущий ChatGPT написать вербовочный пост для «Аль-Каиды» и получил его, а через несколько месяцев модель уже отказала. Дальше модель поощряют за отказ во вредном и штрафуют за лишние отказы, причём часто этим занимаются другие модели. Как именно модель решает сказать «нет», долго считалось простым вопросом: в 2024 году исследователь Энди Ардити нашёл внутри нейросети единственное «направление отказа», и если его вычесть, модель начинала отвечать на всё подряд. Через год команда Мюнхенского технического университета и Google Research, в которой был Яннес Эльстнер, показала, что одной стрелкой дело не ограничивается. Отказ живёт в целых многомерных конусах, где запрет включает любое направление, и чем больше модель, тем больше у этих конусов измерений. Хуже того, механизмы, которые на бумаге никак не связаны, на практике влияют друг на друга. Для защиты это хорошая новость: выключить отказ одним движением уже не получится. Для её создателей новость плохая: никто не может поручиться, что все рычаги найдены. В отрасли отказ называют несущей стеной. Модель обкладывают классификаторами, которые фильтруют запросы на входе и ответы на выходе. Каждый — дырявый, как ломтик сыра, но стопка должна дать сплошную стену. Стоит такая кладка дорого. У Anthropic один тип фильтров добавлял 24% к вычислительным затратам. Теперь компании переходят на «пробы», которые читают внутренние активации модели. Впрочем, психолог из Гарварда Райан Макбейн показал, что на один и тот же вопрос о суициде модели обычно отказывают, но иногда могут и ответить. В самом деле, фильтры не слишком надежны. Когда Anthropic в июне выпустила Fable 5, исследователям Amazon хватило трёх дней, чтобы открыть её хакерские способности. Итальянцы обошли защиту двух десятков моделей, записав вопросы стихами. Поэзия — сила! Альтернатива взлому одна: перестраховка. Fable стала отфутболивать невинные вопросы к более слабой модели, например о разнице между саке и корейским макколли (рисовое вино, как и сибирская язва, требует ферментации). В итоге клиенты платят за топовую модель, а ответ получают от старой. Отказы могу быть разными. Вначале Fable 5 по тихому просто хуже отвечала на вопросы об ИИ-исследованиях, чтобы не помогать конкурентам. После скандала это убрали, но осадок остался: модель умеет говорить «нет» так, что клиент об этом не догадывается. Желающих передвинуть стену хватает. OpenAI уже подстраивает чат-ботов под национальные законы, и среди первых партнёров ОАЭ. Надзорный совет Meta* проверил пять моделей от Anthropic, Google и OpenAI. Выяснилось, что памфлет против Карла III они пишут охотнее, чем против короля Таиланда, где за оскорбление монарха сажают. Правда, специально их этому, судя по всему, никто не учил. Стена появилась сама собой. Вдобавок системы сейчас учатся оценивать не запрос, а намерения человека по его личности и поведению. Новая модель OpenAI Astra ужесточает отказы для пользователей «высокого риска», а это уже слежка. @anti_agi

Если кто-то скажет, что у вас завышенные стандарты, вспомните, что в мире ещё есть европейские айтишники. Немецкий поисковик Ecosia отказался от Mistral в пользу открытых моделей. Главу компании Кристиана Кролля не устроило качество французского ИИ и перегруженные серверы. Но это-то бог с ним. Почитали дальше и выпали: оказывается, ещё одной причиной стало экологическое несоответствие — Mistral создают во Франции, где большую долю занимает атомная энергетика. А иностранные инвесторы, включая Nvidia и Samsung, заставили Кролля сомневаться в суверенности разработчика. При этом к Qwen, GLM и Kimi у Ecosia вопросов не возникло — всё равно их запускают локально. А кто их там и как обучал, в приличном обществе вспоминать не любят. Как и про то, откуда берётся кобальт в аккумуляторах их "зелёных" автомобилей. Такой вот суверенитет любой ценой, но бесплатно. @anti_agi

Раздача слонов🐷 Модели у китайцев хорошие, а с выручкой беда: Epoch AI посчитала, кто и сколько на них зарабатывает. Шесть лидеров (ByteDance, Alibaba, DeepSeek, Moonshot, Z.ai и MiniMax) вместе получают около $11 миллиардов в годовом выражении. У OpenAI и Anthropic на двоих $105 миллиардов, то есть китайская шестерка тянет примерно на десятую часть. Главную причину авторы видят в открытых весах. Модель выкладывают, чтобы ею пользовались все, и ею действительно пользуются все, только платят не автору. Z.ai выпустила GLM 5.3 Flash на OpenRouter одновременно с весами. Через сутки модель раздавали 12 сторонних хостингов, через 20 дней их стало 26, и восемь из них были дешевле самой Z.ai. Доля компании в токенах собственной модели упала с 88% до 22%, а ее дневной объем сократился на 70%, хотя общий трафик модели за это время вырос на 17%. У соседей похожая картина. DeepSeek достается около 8% денег, которые клиенты OpenRouter тратят на ее модели. Правда, там это почти осознанный выбор: больше 70% компьюта уходит на обучение, поэтому API держат дорогим, чтобы не нагонять спрос, и маржу на нем оценивают в 70–80%. Z.ai держать цену не может, и валовая маржа ее API за первое полугодие составила 24,6%. У Anthropic на Opus 4.8, по оценке SemiAnalysis, 85%. С приложениями не лучше. У MiniMax они дают больше трети выручки при валовой марже 4,7%: платит в лучшем случае каждый шестнадцатый пользователь, и платит немного. Теперь за розданных слонов пытаются брать деньги. Moonshot выпустила Kimi K3 под лицензией, по которой облачный провайдер с выручкой от $20 миллионов обязан договариваться отдельно, и, по данным источников Reuters, просит у Microsoft, Amazon и Google до 30% выручки от сервисов на K3. Сколько это приносит, никто не раскрывает. Спокойно живут только те, у кого ИИ не основной товар. Alibaba и ByteDance продают компьют под свои и чужие модели, а ByteDance еще и рекламу. Seedance удешевил видео настолько, что за первый квартал в Китае вышло около 128 000 микродрам, больше 95% из них сгенерированы, при 33 000 за весь прошлый год. Продвигают их в Douyin, и по прикидке Epoch реклама ИИ-сериалов приносит ByteDance порядка $1,6 миллиарда в год. Это примерно две трети того, что DeepSeek, Moonshot, MiniMax и Z.ai вместе зарабатывают на API. @anti_agi