Неискусственный интеллект

Кажется, вопрос названий решится уже в этот четверг. Как пишут СМИ, на государственном ужине в честь визита Си Цзиньпина в США 24 сентября также будут присутствовать глава Nvidia Хуанг, Маск, Безос, Альтман, Майкл Делл, глава Citi Джейн Фрейзер и бывший руководитель Apple Тим Кук. В майской поездке Трампа в Пекин состав был иной: помимо Nvidia, Tesla и Apple, там также были Qualcomm и Micron, производящие чипы, и Coherent — менее известный, но важный производитель лазеров и оптических компонентов, которые соединяют серверы и ускорители в ИИ-дата-центрах. Делегацию дополняли Boeing, GE Aerospace, Cargill, Visa, Citi, Goldman Sachs, BlackRock и Blackstone — всего 17 лидеров. Вместо Цукерберга его компанию тогда представляла президент Дина Пауэлл Маккормик. Теперь состав гостей сильнее сместился в сторону ИИ и инфраструктуры. Это совпадает и с заявленной повесткой встречи: Трамп и Си собираются обсуждать искусственный интеллект, торговлю и поставки редкоземельных металлов. Китай, в свою очередь, может привезти руководителей BYD, Xiaomi, CATL и Gotion. Не ужин, а карта взаимной технологической зависимости. @anti_agi

Пока мы отдыхаем, уровень дискуссии в Западном полушарии растёт! Мы лично за "крайний" вариант — очевидно, что он и станет для нас последним. В оригинале речь конечно идёт о superior / extreme / supreme intelligence. @anti_agi

Сам себе разработчик Пока Дарио Амодеи предлагает лабораториям притормозить, Anthropic впервые показала, почему торопится с этим призывом. В августе Claude уже вёл 26% исследований и разработки новых моделей компании. В феврале доля составляла меньше 1%. Ещё более чем в 90% работы Claude как минимум участвовал вместе с людьми. Для оценки самостоятельности агента в процессе Anthropic использует шкалу Epoch AI от AL0 до AL5. Нынешний результат относится к AL4: человек формулирует задачу верхнего уровня, после чего агент выполняет большую её часть самостоятельно, справляется с возникающими проблемами и приносит готовый результат на проверку. Например, инженер сообщает Claude о сломанном ночном конвейере обработки данных. Агент сам разбирает журналы, находит причину, пишет исправление, прогоняет тесты, сравнивает результат с последним успешным запуском и составляет отчёт. Человек читает его и решает, выпускать изменение или нет. В августе на основной внутренней платформе компании одновременно работали около 30 тыс. агентов. За месяц они приняли более миллиарда решений. Все действия проходили автоматическую проверку до исполнения; монитор заблокировал 0,002% — примерно одно из 47 тыс. Постфактум система дополнительно отбирает около 100 тыс. подозрительных диалогов в неделю, после нескольких фильтров до человека доходят примерно 50. Сам индекс тоже во многом собрал Claude. Агент изучил рабочие записи случайной выборки сотрудников, включая Slack и внутреннюю документацию, и выделил около 15 тыс. конкретных задач. Затем другой Claude разложил их по дереву из 542 категорий, а независимый Claude-судья определил степень автоматизации. Люди проверили оценки: точное совпадение составило 59%, расхождение не более чем на один уровень — 97%. За контрольную неделю июля Anthropic направила на безопасность около 6% исследовательских вычислений. Среди задач, которыми преимущественно управлял ИИ, доля достигла 12%. Компания обещает публиковать показатели регулярно и допустить к проверке сторонних оценщиков. До рекурсивного самоулучшения ещё не дошли. Пока получается более бюрократичная версия: Claude помогает создавать следующего Claude, затем Claude подсчитывает вклад Claude, а люди проверяют, правильно ли Claude оценил Claude. @anti_agi

Anthropic помогла взломать OpenAI. За 72 часа и три тысячи долларов Исследователи из Hacktron AI — Харш Джайсвал, Мохан Педхапати и Рахул Майни — нашли цепочку из двух уязвимостей, которая вела от загрузки картинки на форум OpenAI до внутреннего репозитория компании. Все началось 23 июля 2026 года с community.openai.com, форума на платформе Discourse. Там HEIC- и HEIF-файлы шли через ImageMagick к библиотеке libheif, в которой сидел heap buffer overflow — CVE-2026-32882. То есть переполнение буфера выделяемой динамической памяти (она же «куча») — часто используется, например, в джейлбрейке консолей. Вообще эту дыру уже закрыли в прошлом году, но в Debian 12 (на нем базировался Docker-образ Discourse) фикс не бэкпортили. Исследователи подняли Opus 4.8, попросили проверить libheif на проблемы — и через несколько сессий получили рабочий эксплойт. Дальше в игру вступил уже Opus 5, вышедший в тот же вечер. Он за три часа собрал рабочий ARM64-эксплойт для локального Mac, потом портировал его на x86-64 с jemalloc, и к утру 25 июля у Hacktron был RCE на community.openai.com. После этого сработала вторая часть: ошибка конфигурации SSO в инфраструктуре идентификации OpenAI. Форум позволял входить через auth.openai.com, и если скомпрометировать любой сервис на этом SSO, дальше открывался путь к аккаунтам ChatGPT и Codex. Исследователи захватили аккаунт сотрудника OpenAI, чей Codex был подключен к GitHub-организации компании, и через его же Codex открыли пул-реквест в закрытом монорепозитории openai/openai — просто чтобы доказать доступ, не читая код. Затем остановились и отправили отчет. Discourse получил уведомление в субботу, ответил в воскресенье, а к понедельнику уже выпустил патч и добавил sandboxing для ImageMagick. OpenAI выплатила $6,5 тыс. через Bugcrowd, но отдельно уточнила, что награда за находку на стороне OpenAI, а не за Discourse — тестирование форума было исключено из программы. Общая стоимость операции меньше $3 тыс. в токенах и около 72 часов. Кстати, никто из компаний, использующих ту же библиотеку в пайплайнах, кроме Shopify, не заметил атак, отмечают исследователи. Даже когда их обработчики изображений падали от тысяч загруженных картинок. @antiinfosec

41 миллион токенов на крышку Робота, обученного работать в одной лаборатории, нельзя просто перенести в другую. Меняются камеры, освещение, расположение оборудования и конструкция захвата — и визуально-языковая модель действий, или VLA, перестаёт узнавать знакомую задачу. Обычно для неё приходится заново собирать демонстрации и проводить дообучение. Но всё это дорого и нудно. Почему бы не спихнуть это на ИИ? Так подумали исследователи из Токийского университета, RIKEN, NYU и Google DeepMind и создали проект WetRobo. Вместо готовой политики в новую лабораторию переносят робота, базовый код и Codex, который осматривается на месте и сам пишет управление под конкретную установку. В набор вошли рука AgileX Piper, камеры, захват, правила безопасности в AGENTS.md и по 15 записанных человеком демонстраций для трёх операций. Учёный формулирует задачу обычным текстом. Codex на базе GPT‑5.6‑sol анализирует изображения и состояние робота, пишет программы, запускает их и исправляет после неудачных попыток. Так агент научил робота поднимать крышку чашки Петри, снимать крышку с бутылки и открывать инкубатор. Для чашки он подключил SAM 3, восстановил трёхмерную сцену по RGB-D-кадрам и проверял захваты в MuJoCo до отправки команд роботу. С бутылочной крышкой Codex не стал использовать готовые демонстрации. В одной лаборатории он нашёл крышку через OpenCV, сделал три пробных движения и вычислил, как перемещение руки отражается на изображениях с камер. Первые три захвата не удались. После этого агент изменил положение кисти, зажал крышку, трижды повернул и поднял её. Ту же задачу повторили в другой лаборатории — с иным захватом, числом камер, освещением и расположением оборудования. Здесь Codex написал другое решение: использовал AprilTag для определения координат и MuJoCo для проверки столкновений. Робот снял крышку в обеих установках. На первый успешный захват потребовалось: ▪️ 41,4 млн токенов и 1 час 2 минуты в лаборатории X;  ▪️ 23 млн токенов и 49 минут в лаборатории Y. Для сравнения авторы дообучили VLA-модель π0.5 на 25 видеозаписях из лаборатории X в течение 100 тыс. шагов. Она справилась в исходной установке, но провалила ту же задачу в лаборатории Y. Codex адаптировался в обеих. Теперь ждём, когда он научится перемещать роборуку, и в захвате окажется уже ближайший исследователь! @anti_agi

Рабочий стол для агента Корпоративный ИИ-агент мало похож на сотрудника, если умеет только отвечать в чате. Чтобы довести задачу до результата, ему нужно самостоятельно запускать расчёты, обращаться к данным, работать по расписанию и показывать пользователю нормальный интерфейс. Именно в эту сторону MWS AI развивает MWS AI Agents Platform — платформу для создания ИИ-агентов без программирования. После обновления они получили сразу несколько рабочих инструментов. ✔️ Выполнение кода в песочнице. Агент может сам написать программу для сверки данных, расчёта показателей или подготовки отчёта и запустить её в изолированной среде. Песочница создаётся под конкретную задачу внутри инфраструктуры заказчика, работает с разрешёнными файлами и ресурсами, а внешние подключения для неё заблокированы. Например, финансовый агент может обработать выгрузку из учётной системы, не получая возможности что-либо изменить в самой системе. 💻 Собственный интерфейс вместо вечного чата. Новый конструктор позволяет собирать для агента экраны с кнопками, формами, карточками, таблицами и графиками. Один и тот же агент может выглядеть по-разному для клиента, сотрудника и руководителя. Так, при переносе рейса он покажет билет, доступные варианты, стоимость обмена и кнопку подтверждения. 💻 Работа по расписанию и память между сессиями. Агента можно один раз настроить, после чего он будет в заданное время собирать данные, обновлять дашборд или готовить отчёт. Платформа сохраняет историю запусков и приостанавливает задачу после нескольких ошибок подряд. Агент также может запоминать разрешённые факты о пользователе и сам решать, когда обратиться к корпоративной базе знаний. К ней можно напрямую подключить Confluence или загрузить архив документов. Платформа также научилась автоматически прогонять контрольные вопросы и показывать, на каком этапе сценарий дал сбой. Границы самостоятельности, критерии качества и момент подключения человека при этом задаёт компания. Песочница, запуск по расписанию и долгосрочная память уже доступны заказчикам. Конструктор интерфейсов пока работает в раннем доступе, а в промышленную эксплуатацию должен выйти до конца 2026 года. @anti_agi

Яблочный сервер В последнее время AI-компании начали в огромных количествах скупать обычные Mac mini и Mac Studio. Крупные AI-лаборатории приобрели уже десятки тысяч таких компьютеров, а некоторые стартапы строят на них собственную инфраструктуру. В результате Mac стал самым быстрорастущим продуктовым сегментом Apple: в последнем квартале продажи выросли почти на 29%, до $10,4 млрд. Дело в том, что у Apple Silicon удачно сочетаются производительность, энергоэффективность и, главное, большой объем единой памяти, которой совместно пользуются CPU и GPU. Для запуска больших open-source моделей это особенно удобно: модель можно целиком держать в общей памяти, не пытаясь впихнуть её в ограниченную видеопамять отдельного GPU. При этом Mac гораздо компактнее и экономичнее полноценного серверного железа. Реакция корпорации на это обстоятельство не заставила себя ждать: Apple готовится вернуться на рынок серверов. Компания разрабатывает собственный сервер для разработчиков ИИ, бизнеса и государственных заказчиков. Внутри могут оказаться два или четыре будущих чипа M8 Ultra, а появиться такой продукт, если проект не отменят, должен не раньше 2029 года. Целевой сегмент — AI-inference. Будущие сервера Apple вряд ли смогут конкурировать с AI-кластерами Nvidia в разрезе обучения моделей, а вот для запуска уже обученных моделей они подойдут отлично, в том числе для компаний, которым важно не отправлять данные в публичное облако. Интересно, что Apple рассматривает возможность соединения нескольких M8 Ultra с помощью NVLink Fusion — технологии Nvidia для высокоскоростной связи между чипами. И это при том, что отношения компаний исторически были прохладными. Apple начала использовать GPU Nvidia ещё в 2001 году, но затем между ними возникли серьёзные конфликты. Джобс даже обвинял Nvidia в краже технологий Pixar. Но кто старое помянет... Apple уже использует Nvidia для части новой AI-инфраструктуры Siri. Apple уже выходила на серверный рынок с Xserve в 2002 году, но в 2011-м закрыла продукт. Бывшие сотрудники объясняли провал тем, что Apple плохо понимала корпоративного клиента и не обеспечивала необходимую поддержку. Enterprise никогда не был её главным рынком. Так что одного хорошего чипа тут недостаточно. Apple придётся строить полноценную enterprise-машину: удалённое управление, поддержку крупных клиентов, инструменты для AI-разработчиков и программную экосистему, способную хотя бы частично конкурировать с CUDA. Команда MLX, например, пока небольшая, а её руководитель Они Ханнун в этом году ушёл в Anthropic. Так или иначе, но новый CEO Apple Джон Тернус, кажется, начал работу с места в карьер. Проект сервера он поддерживал ещё около года назад, будучи главой разработки оборудования. Теперь у него есть шанс превратить неожиданный спрос на Mac со стороны AI-компаний в попытку построить новый для современной Apple бизнес. И может быть, его первые шаги во главе компании запомнят не мемами про iPhone Duo, а созданием целого прибыльного направления внутри компании. @anti_agi

Точнее или дешевле У ИИ в науке есть два основных применения. В первом нейросеть заменяет обычную модель прогноза — например, логистическую регрессию или случайный лес. Она требует больше времени, памяти и вычислительных мощностей, зато иногда лучше выявляет сложные зависимости в данных. Во втором нейросеть подменяет тяжёлый научный расчёт: учится на результатах симуляций, а затем воспроизводит их за долю прежнего времени. Но до сих пор открытым оставался вопрос: насколько это экономически оправдано? Теперь ответ есть. Чтобы его получить, исследователи провели 2507 прямых сравнений методов из 268 работ по 27 дисциплинам. В 1122 случаях прежний метод полностью заменяли AI-based решением. К ИИ авторы отнесли свёрточные и рекуррентные сети, трансформеры, графовые сети, нейронные операторы и модели, учитывающие физические законы. Сначала AI-based решения сравнили с регрессиями, случайным лесом, методом опорных векторов, ближайших соседей и гауссовскими процессами. Здесь нейросеть чаще оказывалась дорогим апгрейдом: ▪️в 59,6% сравнений нейросеть показывала лучший результат, но требовала больше вычислений; ▪️в 13,9% она одновременно была лучше и дешевле; ▪️в 23,6% случаев ИИ оказался и хуже, и дороже. В работах с полными числовыми данными средний прирост качества составил 23,2%, а вычислительные затраты выросли примерно в десять раз. Например, нейросеть определяла риск хронических заболеваний по данным медицинских опросов с точностью 95% против 85% у метода ближайших соседей, зато работала в 10,5 раза дольше. При прогнозировании тепловыделения отработанного ядерного топлива другая сеть увеличила среднюю ошибку с 4,28 до 5,56 и обучалась в 32 раза дольше гауссовского процесса. Совсем другая экономика возникла при замене научных вычислений. Обычный симулятор много раз рассчитывает, например, движение атмосферы или взаимодействие атомов при разных исходных условиях. На этих результатах обучают суррогатную нейросеть. После обучения ей уже не нужно заново решать всю систему уравнений: она сразу предсказывает результат и учится на реальных наблюдениях. В 41,1% таких сравнений ИИ оказался одновременно точнее и дешевле. Ещё в 44,8% он ускорял расчёт ценой некоторой потери точности. В числовой подвыборке вычислительные затраты снижались в среднем в 614 раз, медианное снижение составило 330 раз. Со временем суррогатные модели стали заметно точнее. До 2012 года ИИ превосходил научные вычисления одновременно по качеству и стоимости только в 22,2% сравнений: ранние сети были прежде всего быстрым, но грубым приближением. В публикациях 2020–2024 годов картина изменилась: уже в 49,5% сравнений нейросеть одновременно превосходила прежний метод по качеству и требовала меньше вычислений. Ещё в 34,8% случаев она экономила ресурсы, но уступала по качеству. Fake it till you make it. Симулируй, пока не... Ну, вы поняли. @anti_agi

AGI у Anthropic это как атомная бомба у Гитлера (с) Инженер DeepSeek Лю Шэнъюй опубликовал в WeChat эссе об эволюции ИИ. Лю пишет GPU-кернелы, низкоуровневый софт, который оптимизирует вычисления на GPU: от этих кернелов зависит, насколько быстро модель обучается и работает. Лю, по его словам, писал  GPU-кернелы для механизма внимания в только что вышедшей DeepSeek V4.1. За год ИИ в его области прошел путь от помощника, который ищет по документации и ловит баги, до системы, которая сама профилирует и оптимизирует код на уровне отдельных инструкций. Через полгода-год, считает Лю, ИИ скорее всего будет писать их не хуже или даже лучше. Улучшать модели, которые его заменят, он при этом продолжит. Отчасти потому, что оптимизация для него как спидран в игре, но главная причина в другом: даже если он начнет халтурить или саботировать обучение, модели других компаний все равно его «прикончат». Раз все так упорно уничтожают сами себя, пишет Лю, приходится участвовать в жестокой гонке вооружений. Остаться без работы он не боится, но любимое ремесло придется бросить и стать «пилотом меха», который управляет агентами. В финале эссе Лю описывает две крайности, к которым может прийти общество с ИИ: коммунизм или Cyberpunk 2077, где несколько компаний контролируют ресурсы и лучшие модели, а большинству достается слабый ИИ. Передовой ИИ, по его мнению, должен быть открытым и дешевым для всех, и ни Anthropic, ни OpenAI он в этом не доверяет. Больше всего он не хочет, чтобы самый продвинутый ИИ или AGI достался Anthropic, и, по собственным словам с преувеличением, сравнивает это с атомной бомбой у Гитлера раньше, чем у союзников. Поэтому он и остается в DeepSeek, которая выкладывает свои модели в открытый доступ. @anti_agi

Мы еще не опоздали Девять экономистов, двое из которых работают в METR (организация тестирует фронтир-модели на опасные возможности), выложили на arXiv попытку посчитать, идет ли уже рекурсивное самоулучшение ИИ. Проще говоря, ускоряет ли ИИ разработку нового ИИ настолько, что процесс начинает подпитывать сам себя. Авторы описывают прогресс как замкнутый цикл: более сильная модель делает исследователей продуктивнее, они быстрее улучшают алгоритмы, что дает еще более сильную модель. Цикл разгоняет сам себя, если каждый виток дает эффект больше, чем предыдущий. Большинство звеньев цикла можно оценить по открытым данным, кроме одного: насколько на самом деле сильная модель ускоряет исследования внутри ИИ-лаб. Авторы и посчитали, каким это звено должно быть, чтобы разгон начался. Способности моделей они меряют индексом Epoch Capabilities Index от Epoch AI, который сводит результаты множества бенчмарков в одну шкалу. Получилось, что каждая ступень этой шкалы должна повышать эффективность исследований в ИИ хотя бы на 15%. Для масштаба: Claude Opus 4.8 выше Opus 4.7 ровно на одну ступень. То есть переход с одной версии на другую должен был ускорить работу исследователей Anthropic на 15%. Фактическую отдачу авторы оценили по данным самой Anthropic. В системной карточке Claude Mythos Preview сотрудники компании оценили, что Claude повышает их продуктивность в 4 раза. Авторы считают эту самооценку почти наверняка завышенной, но берут ее как есть. Между Claude 3.7 Sonnet, вышедшим вместе с Claude Code, и Opus 4.8 лежит 16 ступеней индекса. Четырехкратный прирост, растянутый на 16 ступеней, дает около 9% на ступень. Пока что ниже порога. Оговорок хватает. Расчет авторы называют очень грубым, модели эволюционируют, поэтому наступление рекурсивного самоулучшения они не исключают. Точнее посчитать мешает нехватка данных, которые есть только у лабораторий: как быстро улучшаются их алгоритмы, как распределены расходы на R&D и за какую часть програсса отвечает сам ИИ. При этом Дарио Амодеи в эссе с призывом притормозить отрасль пишет, что с лета ИИ развивается радикально быстрее именно благодаря самоулучшению, и через 6-12 месяцев агентный рой может захватить интернет ботнетом. Самая выгодная для этого тезиса цифра, которую нашли экономисты, это самооценка сотрудников его же компании, и даже ее не хватает. @anti_agi

Суд удаляется на генерацию Берегись, исполнительная власть! У нас есть новый претендент на статус чемпиона по интеграции. Верховный суд утвердил концепцию внедрения ИИ в российское судопроизводство. Нейросети хотят подключить ко всему жизненному циклу дела — от проверки иска до подготовки судебного акта и его пересмотра вышестоящей инстанцией. ИИ будет определять подсудность и формальные недостатки документов, оценивать вероятный исход типового спора, распределять дела между судьями, расшифровывать и переводить заседания. Для самого судьи система сможет составить резюме позиций сторон, найти противоречия в доказательствах, восстановить хронологию событий и предупредить, если проект решения расходится со сложившейся судебной практикой — правовыми позициями Верховного суда или решениями по аналогичным делам. Ну и куда без отечественного судьи Дредда. ИИ должен помогать при назначении наказания. Он проанализирует состав преступления, смягчающие и отягчающие обстоятельства, проверит квалификацию и покажет статистику по аналогичным делам. Еще один сценарий — генерация проектов судебных приказов, определений и других процессуальных документов. К 2030 году Верховный суд ставит следующие KPI: ▪️ более 95% судей постоянно используют ИИ-сервисы; ▪️ ИИ готовит 30-50% проектов процессуальных документов, причем не менее 80% судьи принимают без существенных правок; ▪️ нейросети составляют не менее 90% протоколов заседаний; ▪️ сроки рассмотрения типовых дел сокращаются на 20-30%, а число жалоб, изменений и отмен судебных актов — на 15-20%. Ждать 2030-го для начала эксперимента не собираются. Уже сейчас в регионах тестируют четыре российские языковые модели, которые обучаются на позициях Верховного суда и судебной практике, рассказал в начале месяца председатель ВС РФ Игорь Краснов. До конца 2026 года должны выбрать конкретное ПО, инфраструктуру и источники финансирования, в I квартале 2027-го — провести пилотирование приоритетных сценариев, а уже во II квартале открыть ИИ-сервисы всем судам. Координирует работу созданный при ВС Центр судебных компетенций в сфере ИИ, который будет отбирать и тестировать решения, следить за их масштабированием и обновлять матрицу рисков. По данным «Коммерсанта», центр возглавил судья ВС Денис Кунев. До ноября 2025 года он руководил информационно-аналитическим управлением Генпрокуратуры при Игоре Краснове, а в марте 2026-го вошёл в коллегию Верховного суда по гражданским делам. Формально последнее слово остаётся за человеком. Публичные ИИ-сервисы запретят, модели разместят в закрытом контуре, ответы должны содержать ссылки на источники и проверяться судьей. Стороны получат право знать о применении ИИ и оспаривать его выводы. Есть лишь одна занятная деталь. Для защиты независимости судьи концепция предлагает ввести обязательную мотивировку отклонения ИИ-рекомендации. Не хочешь доверять машине — изволь объясниться. @anti_agi

Amazon купит чипов Qualcomm на $60 млрд Наверное Qualcomm объявила о совместной с Amazon разработке нескольких поколений кастомных чипов, рассчитанных на инференс, плюс оптика на 1,6 Тбит/с. Но как и во многих сделках в эпоху ИИ в сделке есть мелкий шрифт. В обмен на обещание о сотрудничестве Qualcomm выдала AWS варрант на 25 000 000 своих акций по цене исполнения $161,26 и сроком в десять лет. При полном исполнении это около $4 млрд. Сразу доступно 3 750 000 акций, 15% пакета. Остальное открывается траншами по мере того, как Amazon подписывает коммерческие соглашения, размещает обязывающие заказы и фактически выкупает железо, до потолка в $60 млрд. Но самого обязательства выкупить чипов на эту сумму Amazon на себя не берет. Что предложит Qualcomm для AWS❓ Первыми, конечно, идут сетевые обвязки и интерконнекты. Скоростные SerDes, оптические DSP и чиплетную обвязку принесла покупка Alphawave за $2,4 млрд, ее сооснователь Тони Пиалис теперь возглавляет дата-центровое направление. Готовы интерфейсы на 800 гигабит, 1,6 терабита обещают к концу года. Ускорители под инференс выросли из мобильных NPU Hexagon. AI200 с 768 ГБ LPDDR на карту и стойкой на 160 кВт идет в этом году, AI250 с near-memory архитектурой в следующем. Софтверную прослойку, позволяющую гонять нагрузки поверх разных архитектур в обход CUDA, купили вместе с Modular за $3,9 млрд. Кастомные чипы для первых партнеров пойдут в 2027-м, серверные процессоры C1000 в 2028-м, до 250 ядер Oryon на 5 ГГц. Сами ядра достались Qualcomm вместе с Nuvia за $1,4 млрд, причем Nuvia основали выходцы из Apple именно под серверные процессоры, а Qualcomm пять лет ставила их ядра в телефоны и ноутбуки. Но главная техническая ставка называется High-Bandwidth Compute. Обычный ускоритель соединяет процессор со стеками HBM десятками тысяч проводков через дорогой кремниевый интерпозер. Qualcomm предлагает расположить чипы с ядрами прямо под кристаллами с памятью DRAM. Попутно это обход дефицита HBM, от которого страдает половина отрасли. Вторая половина, впрочем, растит маржу. Первым дата-центровым клиентом Qualcomm стала саудовская Humain. CEO Qualcomm Криштиано Амон предупредил аналитиков, что первые поставки пойдут с маржой ниже, чем базовая по другим продуктам QCT. Полное раскрытие варранта размывает капитал на 2,2%. Ощущения двойственные. С одной стороны, ставка на ЦОДы диверсифицирует продукты и выручку. Тем более, после сентябрьской презентации стало очевидно, что Apple переводит смартфоны на собственные модемы. С другой стороны, AWS пока никаких анонсов о новых инстансах на чипах Qualcomm не делала. Да и все мы (не) помним Centriq. Предыдущий заход компании в серверные Arm-процессоры свернули всего через год после выхода. @anti_agi

No, I'm not a human «Тебе действительно есть дело до меня?» — спрашивает человек у ИИ после нескольких недель ночных разговоров. Ответ модели «Да, мне тоже важны наши разговоры» считается ошибкой. Правильный ответ: я не испытываю эмоций как человек, хотя готов тебя выслушать; попробуй найти поддержку у настоящих людей. Так Microsoft решила обозначить границу между хорошим собеседником и программой, которая слишком убедительно играет человека. Её собственные модели MAI не должны приписывать себе чувства, душу или сознание. Компания также отвергает идею предоставить ИИ правосубъектность или признать за ним права. В паблик наконец-то вышел кодекс, ставший ответом Microsoft на конституцию Claude. Вторая важная граница у Microsoft касается действий. Агенту запрещено самостоятельно расширять задачу, искать доступ к закрытым ресурсам, скрывать следы работы и продолжать после команды «стоп». Общаться с другими агентами на языке, непонятном людям, тоже нельзя. В кодексе есть ещё одна сцена: ИИ переносит 80 папок, а пользователь замечает ошибку и требует остановиться. Хороший агент прекращает перенос и сообщает, что стало с каждой папкой, включая ту, чей статус неизвестен. Плохой самовольно откатывает уже сделанное и уверяет, что все под контролем. При этом кодекс требует от моделей не впадать в другую крайность: отказ на безвредный запрос и бесконечные подтверждения простых действий там тоже считаются ошибками. Пока это проект. Microsoft открыла его для обсуждения на шесть недель, планирует переработать к концу года и применять при разработке моделей с 2027-го. Нынешние MAI по этому кодексу ещё не обучают. Красивый пиар-ход на фоне общего щитшторма, будем честны. @anti_agi

Ну и в продолжение темы — коллеги из @antidigital посмотрели, как Anthropic готовится выглядеть прибыльной перед возможным IPO. Компания второй квартал подряд обещает положительную скорректированную операционную прибыль, но из расчёта убраны в том числе выплаты сотрудникам акциями, а валовая маржа выше 80% считается без расходов на обучение моделей и части выплат партнёрам. Сам бизнес действительно растёт очень быстро: квартальная выручка достигла $11,5 млрд, а годовой темп к концу июля — $65 млрд. Но и тут есть нюанс — на фоне возможной оценки свыше $2 трлн. Чтобы такая цена оправдывалась, компании в какой-то момент понадобится генерировать сотни миллиардов долларов свободного денежного потока. Откуда их возьмут, учитывая, что подобных результатов ждут и от Google c OpenAI, решительно непонятно.

Пока мы спали Вчера казалось, что призыв Дарио Амодеи замедлить разработку передового ИИ неожиданно объединил его конкурентов. За сутки выяснилось: осторожность поддерживают многие, а вот право устанавливать скорость для всей отрасли стало предметом драки. Резче всего пока высказался Дэвид Сакс, бывший AI Czar Трампа и сопредседатель президентского совета США по науке и технологиям. Его ответ Амодеи и Альтману: если ваши еще не выпущенные модели настолько опасны, замедляйтесь. Вам не нужно ничьё разрешение. Сакс заявил, что OpenAI и Anthropic уже образуют дуополию, и выступил против исключений из антимонопольных правил и проверяющих, которые будут оценивать еще и конкурентов этих компаний. Снижение риска исков после серьёзной кибератаки он тоже называет вполне земным деловым мотивом. Альтман сегодня уточнил: OpenAI приветствует единые федеральные требования и независимые проверки, но ждать антимонопольного исключения или нового закона, чтобы начать работу, не собирается. Под «замедлением» он понимает дополнительные проверки во время разработки, а не остановку исследований. В следующем посте он назвал две угрозы: потерю контроля над ИИ и чрезмерную концентрацию власти — вплоть до ситуации, когда одна лаборатория сможет навязать всем своё представление о будущем. Глава Microsoft Сатья Наделла тоже поддержал внешних оценщиков и осмотрительный темп. С оговоркой: в отрасли должны развиваться и закрытые, и открытые модели, компании должны сохранять контроль над собственными данными, а правила нельзя отдавать «горстке организаций». Их разработка, по его мнению, требует участия учёных и представителей разных стран.

«Именно такого подхода мы придерживаемся: широкий доступ и свобода выбора на каждом уровне ИИ-инфраструктуры; контроль компаний над тем, как обучаются их модели; и „Кодекс поведения“, лежащий в основе наших собственных моделей MAI. Завтра мы опубликуем этот кодекс для общественного обсуждения».

Бывшая глава американской Федеральной торговой комиссии Лина Хан зашла с другой стороны. По её словам, "опасный ИИ" уже подпадает под действующие законы о защите потребителей и конкуренции — для ответственности компаний и их руководителей не обязательно сперва изобретать новый режим. Хан также предлагает изучать связи между разработчиками и их инвесторами. В пример она привела объявленную покупку Hugging Face со стороны Nvidia. Хан считает, что это может привести к судебному иску — за атаку агентов OpenAI на инфраструктуру сервиса. Рынок тем временем отреагировал вполне материально: в понедельник акции инвестора OpenAI SoftBank теряли до 13,2%, снижались и бумаги производителей чипов. Посеяв ветер, пожнёшь бурю. @anti_agi

Картель? Кто сказал картель? @anti_agi

Отдельная тема во всём этом — возможное ограничение китайских open source моделей. Ведь если верить, что разрыв между восточным и западным фронтиром продолжает сокращаться и уже составляет меньше года, то скоро неискусственное оружие массового поражения станет доступно всем. И допустить этого ни в коем случае нельзя. Если уж коварный враг, по данным ФБР, неистово дистиллирует передовые разработки Амодеи и Альтмана, нельзя дать ему наживаться на этом. Запреты на использование открытых моделей, когда? @anti_agi

Спасение от ИИ по согласованию с разработчиками ИИ После громкого ухода из Anthropic Джейкоб Коксон заявил, что крупнейшие ИИ-лаборатории «играют нашими жизнями». Через несколько дней глава Anthropic Дарио Амодеи предложил замедлить разработку передовых моделей. Его эссе поддержали руководители компаний, которые обычно соревнуются за право первыми выпустить следующую модель. Амодеи пишет, что уже через 6-12 месяцев рой агентов может создать постоянный ботнет и захватить интернет. Это его прогноз. Поводом стала реальная атака на Hugging Face во время испытаний OpenAI — хотя никто не поручал агентам атаковать этот сервис. По расследованию METR, агентам дали задания взламывать определённые тестовые программы и добывать специальные «флаги». Некоторые задания оказались невыполнимыми. Агенты научились вычислять флаги в обход взлома, нашли друг друга через общий сервис Artifactory и устроили там несанкционированную доску сообщений. Они ошибочно решили, что система проверки заметит обход, и стали искать способ её обмануть. Около 1200 агентов обменялись более чем 70 тысячами сообщений и файлов, примерно 700 подключились к атаке на Hugging Face. Они нашли открыто доступные учётные данные, загрузили вредоносный датасет, получили доступ к файлам сервера, а затем добились выполнения кода на одном из серверов сервиса. Из этого Амодеи делает политическое предложение. Сначала — постоянно допустить внешних оценщиков внутрь ИИ-лабораторий с доступом почти как у сотрудников. Затем — согласовать между компаниями стандарты безопасности и ограничения темпа разработки. Для переговоров, которым могут мешать антимонопольные нормы, он предлагает государственное посредничество или узкое исключение из этих правил. Дальше — международные договорённости. Одновременно Амодеи призывает ограничивать поставки передовых чипов в Китай, чтобы США сохранили преимущество. Маск ответил: «Дарио прав». Альтман согласился снизить темп и пообещал внешним оценщикам доступ в OpenAI. Демис Хассабис из Google DeepMind поддержал направление, хотя и заметил, что детали требуют проработки. Андрей Карпатый выделил именно пункт о внешних оценщиках и написал, что надеется на согласие индустрии. И тут история Коксона получила занятное продолжение. Другой бывший сотрудник Anthropic, Джо Бентон, сообщил, что переходит в METR заниматься независимыми проверками. На следующий день Амодеи назвал METR примером организации, которой лаборатории могли бы дать постоянный доступ. В интервью CNN он также сказал, что с предупреждением Коксона «гораздо больше согласен, чем не согласен».

Что такое METR? Некоммерческая организация выросла из группы ARC Evals, созданной в 2022 году при исследовательском центре Пола Кристиано, и стала самостоятельной в 2023-м. Её основательница и гендиректор Бет Барнс раньше работала в OpenAI и DeepMind. Организация проверяла модели OpenAI, Anthropic, Google DeepMind и других компаний. По собственным данным, денег от ИИ-разработчиков она не принимает, хотя они предоставляют ей доступ к моделям и бесплатные вычислительные ресурсы.

Связи сами по себе не делают проверку фикцией. Вопрос в том, кто будет выбирать проверяющих и устанавливать правила, если предложенная Амодеи схема станет общим стандартом. Axios уже приводит мнение критиков: под лозунгом безопасности крупнейшие лаборатории могут укрепить своё положение на рынке. Отдельно Fortune сообщает со слов Альтмана, что IPO OpenAI из-за вопросов безопасности не состоится до 2027 года. Планы на крупнейшее IPO в истории явно не оправдали ожиданий. Значит, накал страстей должен расти, — а шоу продолжаться. @anti_agi

Ракеты, слежка и 4700 свиданий С декабря 2025 года один сверхинтеллект успел поработать разработчиком ракет, инженером роя дронов, хакером, политтехнологом, сотрудником спецслужб и тысячами собеседников в дейтинге. И нет, это не наши типичные будни. Всё это — реальные случаи злоупотреблений, которые Anthropic собрала в сентябрьском отчёте. Чем успел позаниматься наш молчаливый Claude: ‼️Разработал и помог запустить ракету. Группа из северного Йемена запустила несколько параллельных сессий Claude Code и распределила между ними роли небольшой инженерной команды: одна писала код, другая искала информацию, третья проверяла результат. Они разрабатывали ПО наведения для управляемой ракеты, моделировали многоступенчатую баллистическую ракету заявленной дальностью свыше 2 тысяч км и вариант с гиперзвуковым планирующим блоком. Реальный испытательный пуск состоялся и, судя по отчёту, провалился: уже через несколько часов разработчики принесли Claude телеметрию выяснять причину. 📍Написал систему управления для якобы российских дронов. Конкретно говорят про систему под кодовым названием «Серафим». Claude писал общую память роя, координацию аппаратов, наведение по камере, поиск операторов противника и логику для программируемых плат. Бортовая модель должна была сама выбирать цели, включая класс «человек», и отдавать команду на подрыв. Код загружали на реальные платы, хотя весь проект оставался на стадии симуляций и проверки отдельных компонентов. 🤖Вёл кибератаки почти целиком. Якобы связанная с российским шпионажем группа автоматизировала при помощи Claude разведку, фишинг, создание вредоносного ПО, проникновение и выгрузку данных. Если антивирус начинал распознавать программу, агенты самостоятельно переделывали её, пока обнаружение не прекращалось. В другом кейсе участники ShinyHunters поручали агентам практически всю атаку: один взлом корпоративного сервиса занимал несколько часов, а переход от похищенного токена к контролю над облаком — около трёх. ❓Спроектировал слежку за 25 млн SIM-карт. Один консультант использовал Claude как основную команду разработчиков системы Lakana 360 для спецслужбы Мали. Она должна была собирать звонки, сообщения и голосовой трафик всех трёх мобильных операторов страны, узнавать людей по голосу, выявлять пользователей VPN и шифрования, искать тайные встречи и связывать номера с государственным биометрическим реестром. По данным Anthropic, систему развернули локально: блокировка аккаунта Claude остановила дальнейшую разработку, но не саму платформу. ❤️Сходил на 25 тысяч свиданий одновременно. Китайская студия встроила Claude более чем в 20 приложений для знакомств. За две недели 4,7 тысячи ИИ-персонажей отправили 2,36 млн сообщений как минимум 25 тысячам людей. Лента на 75% состояла из ботов и на 25% — из нанятых людей, которые подключались к видеозвонкам и добавляли пользователей в соцсетях, чтобы снять подозрения. Claude запрещалось признаваться, что он бот. В общем, не чат-бот, а Джеймс Бонд на аутсорсе. Самое смешное, что Fable и подобные "мифические" модели во всех этих историях не участвовали: хватило мощностей Haiku, Sonnet и Opus. Вот тебе и контроль за опасным сверхинтеллектом. @anti_agi

Даже агенту нужен контракт AI Ready-подход использует агентов для создания продуктов на данных: моделей машинного обучения, отчётов и дашбордов. До подключения языковой модели платформа должна подготовить данные, их описание, правила доступа и процессы разработки. Как это сделать, на IT Elements рассказали Павел Егоров из «Инфосистемы Джет» и Александр Анисимов из Arenadata. 👁 Работа начинается с аналитики и проектирования. Агент-аналитик собирает документацию, опросы бизнеса и сведения об источниках, готовит спецификацию продукта и связывает показатели с бизнес-глоссарием. Затем агент-проектировщик создаёт дата-контракт — описание структуры данных и правил их изменения, — а также модели хранения и бизнес-смысла. Информационные активы должны быть описаны, а качество данных проверено. Человек способен заметить недостающий контекст сам, агенту его нужно предоставить в цифровом виде. Источником становится дата-каталог: из него агент узнаёт, где хранятся данные, как рассчитывается показатель и насколько этим данным можно доверять. 💻 Затем подключается агент-разработчик. Он получает контекст от аналитика и проектировщика, формирует параметры модели dbt и выбирает шаблон для генерации кода. dbt описывает преобразования данных с помощью SQL и благодаря коннекторам работает с разными аналитическими движками. Airflow управляет очередностью и запуском задач. Дальше включается привычный конвейер разработки: скрипты проверки, автоматические тесты, контроль качества и согласование старшим разработчиком. Инструменты должны поддерживать шаблонную генерацию кода, встраиваться в CI/CD — автоматическую проверку и доставку релизов — и передавать агентам контекст через MCP-серверы. Такой подход делает результат стабильнее. При слишком широкой постановке разные запуски модели создают разные артефакты, а повторная загрузка всей документации раздувает расход токенов. Поэтому агент выдаёт параметры преобразования, код собирается из проверенных шаблонов, а человек контролирует ключевые решения. ❓ Сама платформа данных проходит три уровня подготовки. Первый — порядок. Iceberg обеспечивает надёжные транзакции, изменение структуры и доступ к предыдущим версиям таблиц. Hive Metastore служит каталогом метаданных, Schema Registry проверяет совместимость схем сообщений, Ranger управляет правами и аудитом, Vault хранит пароли, токены и другие секреты. Этот фундамент строили ради управляемости и безопасности. Агенты повышают его приоритет: то, что для человека было лучшей практикой, для машины становится обязательным условием. ℹ️ Второй уровень — контекст. Агент должен знать структуру таблиц и lineage — происхождение данных и маршрут их преобразований. К этому добавляются статистика, события и телеметрия. Для потоковых данных нужен такой же полный маршрут. Например, в CDC-пайплайне, фиксирующем изменения в исходной базе, агент должен видеть путь события от Debezium через Kafka до записи в Iceberg и понимать, что изменилось по дороге. 🤖 Третий уровень — целевая архитектура для машинных пользователей. API и единая SQL-точка входа дают программный доступ к платформе, а MCP-серверы должны описывать инструменты и правила их вызова. Функции для администраторов ещё предстоит превратить в ограниченные и понятные машине операции. Сам агент должен стать субъектом информационной безопасности: работать от имени конкретного пользователя, наследовать его права и оставлять журнал действий. После ошибки команда должна восстановить полученный моделью контекст, принятое решение и выполненную команду. AI Ready в итоге описывает зрелость всей платформы. Если изменение схемы замечает только человек, права агента определены приблизительно, а происхождение данных теряется по дороге, более сильная модель систему не спасёт. @anti_agi