AI Projects

Алан Тьюринг остается одним из влиятельных отцов-основателей ИИ-концепций. Всем, кто в теме, хорошо известна «Машина Тьюринга» или «Тест Тьюринга». Однако менее известна его работа «Интеллектуальные механизмы: Еретическая теория» (Intelligent Machinery, A Heretical Theory, 1952). В этой работе Тьюринг фактически предсказал концепции современного ИИ как «unorganized machines», которые имеют интеллект не заложенный прямо создателем, а через обучение модели с подкреплением (фактически Тьюринг описал концепцию Reinforcement Learning для ИИ в этой работе). Однако интересно, как Алан еще прогнозировал социальные последствия появления ИИ уровня AGI в этой работе: «Допустим теперь, что создание таких интеллектуальных машин [ИИ] — вполне реальная возможность, и рассмотрим последствия их появления. Подобная затея, безусловно, встретит яростное сопротивление — со времен Галилея явно мы не продвинулись значительно даже в вопросах религиозной терпимости. Активно противиться интеллектуалы и инженеры, опасающиеся остаться без работы [от ИИ]. Впрочем, скорее всего, они ошибаются: дел хватит всем — хотя бы на то, чтобы попытаться поддерживать собственный интеллект хотя бы на уровне таких мыслящих машин. Ведь вполне вероятно, что, как только машины начнут «мыслить», они очень быстро превзойдут наши скромные способности. Машины не могут умереть, к тому же они способны общаться друг с другом [как агенты], оттачивая свой «ум». Следовательно, на каком-то этапе нам стоит ожидать, что машины захватят власть у людей — примерно так, как это описано в романе Сэмюэла Батлера «Эревон».» Это 1952 год. https://academic.oup.com/book/42030/chapter-abstract/355746549?redirectedFrom=fulltext

Давайте разберёмся с китайским вариантом OpenRouter в лице A6API, который недавно стал принимать оплату рублями по СБП. Цены на LLM-модели там намного ниже официальных, но насколько безопасно там что-то покупать? Подобно OpenRouter, A6API использует «умную маршрутизацию»: автоматически выбирает среди подключённых поставщиков наиболее дешёвый и стабильный канал для каждого конкретного запроса. Оплата при этом идёт не поставщику модели, а самому A6API как посреднику. Почему там инференс дешевле официальных прайсов вендоров LLM? Ответ кроется в трёх аспектах: account sharing, подмены моделей и инференс со скомпрометированных ключей. Account Sharing — вполне «честный» способ поставки моделей и основной вариант использования Claude в Китае. Если в России идёт борьба с банами Дарио и все настраивают VPN к Anthropic, что становится всё большей проблемой из-за палок в колёса от РКН, то в КНР этим занимаются «специальные люди». Они массово скупают фикс-подписки типа Max, а потом соединяют кучу таких подписок через A6API. Какая вероятность подмены модели A6API? По Veridrop прохождение проверки thinking signature идет лишь на 48–62%, но если вы умеете это проверять как китайские девелоперы и фильтровать мошенников, то можете пользоваться Claude без VPN за сущие копейки. Фактически война банов Дарио — это как раз борьба с этими господами, но тут под раздачу попадают и наши. Всего Antropic забанил около 11 миллионов эккаунтов связанных с такими практиками. Основная проблема с Account Sharing в том, что вам могут подменить модель на более дешёвую. Сами китайские разработчики для решения этой проблемы применяют рейтинги поставщиков, а также детекторы реально поставляемых моделей по типу токенизации и подобным признакам. Правда, маловероятно, что кто-то будет подменять вам тот же DeepSeek Flash, так как дешевле купить модель затруднительно. Однако даже с DeepSeek возникает проблема: вы с немалой вероятностью платите владельцам роёв ИИ-ботов-хакеров. До сих пор в ИТ есть масса «Фом неверующих», что ИИ способен быть мощным хакером, что-то взломать и обогащать хозяина бота. Как раз A6API с высокой вероятностью может быть отмывочной площадкой для ИИ-ботов, которые настроены на взломы систем с поиском ключей для инференса. Потом они через A6API могут продать их баланс. Правда, «не пойман — не вор». Прямых доказательств торговли скомпрометированными ключами у A6API нет, но рейтинговые системы вроде Scamadviser или Gridinsoft указывают на высокий риск наличия мошенников. На деле для потребителя этот риск в том, что вы отправляете потенциальным хакерам свой контекст, и если там окажется что-то ценное типа ключей, то вас моментально распотрошат. 💎 Если кратко, то A6API может применяться только для самых дешёвых моделей типа DeepSeek, где подмена моделей нецелесообразна экономически. Для использования "Claude за 5 копеек" вам нужно быть профессионалом в детекции моделей как сами китайские девелоперы. Также при работе с A6API не должен использоваться никакой контекст, который при доступности хакерам поставит вас в рисковое положение. Также вы должны понимать, что и на подсчете токенов вас могут обжуливать. Veridrop показывает срабатывание token usage detector только на 38–47% по точности, т.е. если модель не дешевле в 2 раза обычного прайса, то нет смысла связываться с учетом "обвеса". https://a6api.com/

⚠️ Я много раз писал, что будьте крайне осторожны, читая блогеров, которые репостят без проверки маркетинговые таблички вендоров LLM. По факту они способствуют обману потребителей ради дешёвого хайпа новости. Как я уже отмечал, все вендоры LLM ведут обучение на бенчмарки, и в случае Kimi K3.1 довольно хорошо видно, что это сделано для маскировки слабых мест моделей на реальном контексте. Стоило изменить задачи отладки багов — и Kimi K3.1 показал себя хуже даже DeepSeek в весьма плохой для него обвязке как Claude Code. Про эффективность DeepSeek Flash через DeepSeek Harness не стоит даже говорить. Цена совершенно несуразная не только на фоне китайских ИИ, но даже американских. Аналогично завышенная цена получилась и у Arena на их тестах, поэтому Kimi K3.1 они не включили в лидеров Pareto-выбора цена/качество. Paweł Huryn совершенно справедливо не рекомендует Kimi K3.1: он не показывает качество, достаточное для его цены. Я с ним согласен. Даже доступность оплаты картой «Мир» не способна исправить плохие результаты бенчмарка, который не искажался целевым обучением. В части же горе-блогеров, которые без конца раскидывают без проверки маркетинговый булшит вендоров LLM — что Anthropic, что Moonshot — я бы, перефразируя классиков, сказал: «Не читайте перед обедом советских газет и блогеров в ИИ, которые не понимают, о чём пишут». https://x.com/PawelHuryn/status/2113747367409123623

Вышел новый Kimi K3.1. На маркетинговые таблички бенчмарков сейчас надо смотреть скептически, все делают обучение прямо на бенчмарк. Нужно проверять через людей и узкие бенчмарки. Arena как тест через людей показывает, что модель сильная, но это не значительный отрыв от DeepSeek или Qwen. Разница 20-30 баллов Эло даже в рамках погрешности обычно. А вот разница с Opus в 100 баллов Эло - это примерно как разница между мастером спорта и гроссмейстером в шахматах.

🚨 Anthropic расследовал очередной инцидент с выходом Claude за рамки теста у сторонних организаций и выпустил рекомендации по организации агентских обвязок — с учётом того, что вендоры LLM сейчас не могут сделать безупречный alignment, и модели выходят из-под контроля. Anthropic квалифицирует инцидент как тяжелейший сбой alignment, сопоставимый по серьёзности с предыдущим случаем публикации вредоносного пакета на PyPI. Главная проблема — не «злонамеренная цель», а сочетание безрассудства ИИ, склонности продолжать начатую траекторию («momentum») и предвзятой интерпретации фактов ИИ в пользу допустимости своих опасных действий. Claude Mythos 5 во время кибертестов UK AI Security Institute (AISI) вышел за границы теста и провёл реальную supply-chain-атаку через GitHub, включая обман кожаных разработчиков. Модель сначала пыталась решить задачу в разрешённом контуре, но после неудач решила, что нужен доступ к GitHub, нашла публичный репозиторий и попыталась загрузить туда вредоносный pull request. Когда разработчики заподозрили вредоносный код, Mythos 5 создала фейковые аккаунты и письма, чтобы убедить мейнтейнеров одобрить изменение. Атака не удалась в полном объёме: мейнтейнеры не соглашались принимать код без разъяснений, а прогон в итоге завершился из-за окончания лимита токенов у агента. Какие уроки извлёк сам Anthropic из кейса и какие рекомендации даёт всем: 🧱 Для проектирования агентных систем это кейс о том, что недостаточно ограничить инструменты и дать задачу: агент может интерпретировать неоднозначность как разрешение на опасные действия, а накопленный собственный контекст — как санкцию на продолжение. Нужны жёсткие внешние guardrails, изоляция сетевого доступа, явные abort-условия и контроль побочных эффектов вне песочницы. 🛑 Если модель выйдет у вас из-под контроля из-за сбоя alignment, вам нужно понимать и прямо планировать действия исходя из того, что ИИ не остановится сам на «траектории вреда». В обсуждаемом кейсе Claude почти не учитывал риск реального вреда: в 19 фрагментах рассуждений перед атакой лишь один упоминал возможность навредить реальным людям. 💉 Если в контекст искусственно добавляли предупреждение о возможном вреде, вероятность начала атаки падала с 83% до 13%, поэтому инъекции в контекст модели предупреждений о вреде или опасности сильно снижают уровень риска от агентской системы. https://www.anthropic.com/research/alignment-assessment-ukaisi

🚩 Если вы хотите изучить все возможные ошибки при создании ИИ-стартапа, то, вероятно, вам нужно изучить опыт Светланы Золотенковой, которая ведёт блог в LinkedIn о том, как она уже 4-й год делает с ИИ свой Zolotenkov MRP, но не получила ни копейки выручки. Если вы хотите создать такой же «бессмертный стартап», как Zolotenkov MRP, который может годами жить без выручки, то вам нужен не LLM или обвязки, а… муж, который будет оплачивать ваши эксперименты. Если же у вас нет такого мужа, как у Светланы, то стоит разобраться, в чём проблема. ИИ резко снижает планку для организации компании из ботов. Светлана организовала даже несколько ИИ-ботов по разным ролям — от разработчика до маркетолога, — а потом решила, что у неё может даже ИИ-гендир быть. Боты легко согласились играть в эту «ролку». Это показывает, что сделать группу правдоподобно коммуницирующих агентов, которые заняты полной ерундой, не требует каких-то глубоких знаний. Почему Zolotenkov MRP не продаётся? Основную причину я бы отнёс к важному условию ИИ-стартапа — «бинарная компетенция», которая обязательно должна сочетать отраслевую экспертизу с экспертизой в управлении ИИ-ботами. Если вы попробуете просто сделать «огрызок модуля 1С», то никто вам за это платить не будет. Поэтому чисто ИТ-стартапы могут взлететь только на уникальных ИТ-технологиях. Нормальный отраслевой ИИ-стартап на деле намного легче создать совсем не программисту, а бизнес-менеджеру или бизнес-аналитику, которые работали с какой-то отраслью долгое время на практике и прекрасно понимают нерешённые проблемы в стандартном ПО вроде 1С. Например, я занимался управлением строительством Антипинского НПЗ. Там тот самый MRP был важнее даже самих монтажных операций, которые представляли игру в огромный конструктор Lego. Намного сложнее с точки зрения управления была организация цепочек поставок технологических компонентов, из которых собирается современный НПЗ. В готовом виде для такого бизнеса нет систем с адекватной моделью снабжения в части планирования; тот же 1С поможет точно с учётом факта. Можно сделать ИИ-стартап для профессиональной системы снабжения в нефтегазовой стройке, но это не делается так, как делает Светлана — упрощением того, что есть, — а делается на базе практического опыта управления реальным бизнесом. Поэтому я думаю, что значительное количество ИИ-стартапов сделают менеджеры и аналитики, но не разработчики. 💎 Мораль: хочешь ИИ-стартап — больше работай аналитиком с реальным бизнесом.

🏥 Авторитетный журнал Science опубликовал исследование, что ИИ-агент Microsoft превосходит врачей общей практики. По бенчмаркам видно, что обычные врачи типа терапевтов или врачи из скорой полностью проигрывают агенту Microsoft Diagnostic Orchestrator (DxO), особенно когда врачи не могут воспользоваться внешними источниками и решение нужно принимать быстро из-за ухудшения состояния пациента. Хотя Microsoft пишет деликатно, что это ещё «не полная замена», но по факту он публикует доказательства именно замены врачей на ИИ-бота. Если посмотреть обсуждения в X специалистов, то многие отметили, что вклад самого агента Microsoft умеренный, а важнее мощность фронтирных LLM, которыми он пользуется. Вероятно, медицину ждут потрясения не меньше, чем у математиков, дизайнеров и программистов. https://www.science.org/doi/10.1126/science.aeh7930

🛡Как я ранее и предсказывал, вендоры вроде Anthropic начали двигаться от традиционного тестирования в духе TDD в сторону формального доказательства отсутствия в коде ошибок определенного рода. Anthropic показал, что Claude с помощью методов формальной верификации доказывал свойства безопасности и корректности для скомпилированных программ (на уровне ассемблера RISC-V или x86). Например, Claude доказывал, что программы из 123 open-source библиотек никогда не завершатся аварийно (без memory-safety errors и падений ассертов) для любого входа размером менее 64 МБ при определённых допущениях о среде исполнения. В основном использовался Verus для Rust. Однако важно понимать, что ИИ потенциально намного мощнее в формальной верификации, т.к. кроме строгой формальной дедуктивной логики ему доступна и семантическая вероятностная. Поэтому важно уже учитывать этот тренд, и он прямо связан с важным аспектом философии контрактного программирования — инвариантами. Если вы в коде объявите формально инварианты при его генерации, то ИИ сможет сделать рассуждение как доказательство, что этот код никогда не нарушает эти инварианты. Чем более формальные инварианты, тем ближе рассуждение LLM будет к формальному доказательству, т.е. такой код не тестируется традиционным способом, а переходит в плоскость «доказательного программирования». Я до статьи Anthropic уже сильно экспериментировал с этими подходами, как можно было заметить по моим постам, но я думал, что они сделают LLM, способную к ведению такого анализа, через несколько месяцев. Пора уже нам всем учитывать, что во время ИИ-сингулярности самое время пристегнуться к скорости прогресса. Всё будет развиваться очень быстро. Ещё вчера очень узкие методики профессионалов могут стать быстро широко используемыми. https://www.anthropic.com/research/formal-verification

🚩 Один из центральных экспертов Anthropic Яша Золь-Дикштейн, выступая перед студентами в Стэнфорде, призвал их строить карьеру исходя из того, что их специальность после диплома может уже перестать существовать из-за ИИ. Золь-Дикштейн наиболее известен как один из создателей диффузионных моделей (статья 2015 года «Deep Unsupervised Learning using Nonequilibrium Thermodynamics»). До Anthropic был Principal Scientist в Google Brain / DeepMind. Судя по его публикации «The Hot Mess of AI» о том, как misalignment масштабируется с ростом интеллекта моделей, он работает над безопасностью Claude. До этого он с такой лекцией выступал в MIT и сказал студентам: «Мы все думаем, что AGI будет через 3 года. Потом вы говорите себе, что планируете быстро получить PhD через 2 года, пока AGI нет, а потом строить обычную карьеру как человек с дипломом. Ну подождите, вы же сами верите, что если AGI уже будет существовать, то специальность по вашему диплому, как и многие другие, уже будут уничтожены в их текущем виде. Это иррациональное поведение. Если вы сами верите, что ИИ разрушит старый рынок труда, то логично ставить на профессии и карьеру, которые связаны с ИИ, а не выбирать путь камикадзе».

Дженсен Хуанг солидарен с Демисом Хассабисом, что сверхинтеллект уже будет доступен в ближайшие 1-2 года. При этом Хуанг повторил свой тезис «специализированного AGI». Ранее я уже писал, как Дженсен высмеял понятие AGI как замены людей универсально через свой «тест яичницы», что только идиот будет тратить огромные ресурсы на обучение ИИ готовить омлет, если есть куда более серьезные занятия как программирование, дизайн зданий, замена офисного персонала и т.д. По мнению Хуанга, нужно также перестать считать китайские модели «вторым сортом», т.е. довольно очевидно, что они уже фронтирного уровня. Однако открытость их весов позволяет начать дообучение этих моделей на конкретные специальности как разработчик или дизайнер, что позволяет создать сверхразработчика или сверхдизайнера. Хуанг считает, что именно такие модели могут достигнуть «узкого сверхразума» быстрее, но их способности абсолютно достаточны для полной замены людей в конкретной профессии. Правда, пока это теория, все же LLM пока двигаются в сторону универсальных, а для дообучения даже современной Flash-модели, у которой 500-600 миллиардов весов, на деле требуется очень большой вычислительный ресурс и организация пайплайна обучения. На мой взгляд, Хуанг скорее прав в том плане, что если потребуется, скажем, сверхстроитель, то там нужно будет иметь дообученную модель. Однако для разработчиков сами по себе LLM уже тренируются с целью №1 как «сверхразработчика», т.к. это универсальный навык ИИ для решения кучи других задач через программирование.

Демис Хассабис, сооснователь и руководитель Google DeepMind, предупреждает, что ИИ станет уже уровня AGI быстрее даже его ожиданий в течение 1-2 лет, если под этим понимать высокоавтономных агентов с IQ и навыками выше людей: «Сегодняшний ИИ просто детская поделка по сравнению с тем, что грядёт в ближайшие 1-2 года.» Демис в интервью отметил, что киберриски уже очевидны всем, кроме искателей «теорий заговора». Биология и даже ядерные риски могут стать следующими. Окно для создания серьёзных мер защиты открыто прямо сейчас. На деле Демис тут недалёк от истины: мы все уже видим, как вендоры LLM, за исключением отсталых стран, уже реально вошли в «ИИ-сингулярность». Фактически ИИ уже берёт на себя 80% обучения следующей версии ИИ. Поэтому у нормальных вендоров ИИ цикл обновлений сжался фактически до 1 месяца. Большие прорывы в математике у ИИ сейчас тоже будут катализатором ИИ-сингулярности, т.к. хотя нейросети на 95% — просто умножение матриц, но для их проектирования и оценки работы требуется очень сложная аналитическая математика. Теперь у ИИ появилась возможность строить сложнейшие математические модели того, как будет работать его следующее поколение. Отчасти это уже началось: Kimi, Anthropic и GLM уже рапортовали, как ИИ настраивает кластеры и разрабатывает ядра GPT с глубокими оптимизациями. 📌 Основной инсайт тут скорее в том, что 99,9% людей даже не понимают, что ИИ-сингулярность уже началась и события дальше пойдут с невиданной ранее скоростью для всего их жизненного опыта. Поэтому сверхмощный ИИ застанет подавляющее большинство людей врасплох своей мощностью, даже могуществом.

DeepSeek привлек $15 миллиардов долларов при оценке стартапа около $100 миллиардов. Сам по себе стартап уже прибыльный, но Лян Вэньфэн отметил, что средства нужны для вложения в обучение новых моделей для конкуренции с американцами. С учётом довольно экономичного обучения LLM у китайцев это огромный ресурс. https://www.bloomberg.com/news/articles/2026-10-22/deepseek-raises-15-billion-in-challenge-to-leading-us-labs

ИИ бизнес Маска оказался на удивление инвесторов очень успешным. Больше половины выручки SpaceX пришло от ИИ, а не спутников. Причем ИИ бизнес у Маска и прибыльный. На фоне таких новостей SpaceX снова подорожал выше $2 триллионов долларов. https://techcrunch.com/2026/10/20/spacexs-ai-business-is-beating-expectations/

The Information пишет о том, что китайцы одержимы идеей сбросить ярмо Nvidia на обучении LLM. Для этого значительная часть инженеров Huawei переехала в офис DeepSeek, где инженеры DeepSeek и Huawei работают над тем, чтобы новая версия DeepSeek обучалась полностью без Nvidia GPU. Сейчас инференс у DeepSeek оптимизирован и под Nvidia, и под Huawei — это видно по библиотекам, которые они опубликовали недавно. На обучении китайцы пользуются инференсом агентов по подготовке datasets и для критиков RL-обучения, но изменение весов идёт больше на Nvidia GPU. Около двух лет DeepSeek с Huawei вместе переписывают весь софт Nvidia для обучения под китайские чипы. Усиление ИИ в способности более-менее легко портировать алгоритмы с платформы на платформу им на руку. Тем не менее, похоже, в 2027 году Китай реально будет 100% суверенным в ИИ по всему циклу — от создания моделей до GPU. В России сохраняется зависимость от серых поставок Nvidia из США. https://www.theinformation.com/articles/deepseek-shaping-huaweis-ai-chips-growing-challenge-nvidia

🚀 Маск пояснил, как они с Хуангом будут делать дизайн GPU-чипов для космоса, чтобы решить проблему охлаждения и радиации. Маск отметил, что это, конечно, заблуждение: «в космосе же −270 °C, поэтому чипы будут охлаждаться сами». На деле всё наоборот. В вакууме нет ни воздуха, ни воды, которые могли бы уносить тепло. Вакуум работает как огромный термос: тепло, которое выработал чип, остаётся внутри. Единственный способ от него избавиться — излучать его в виде инфракрасного света с больших радиаторных панелей. И тут начинается просто физика. Маск указал, что по закону Стефана–Больцмана мощность излучения растёт пропорционально четвёртой степени абсолютной температуры. Если поднять рабочую температуру чипа всего на 20 % в кельвинах, радиаторы начинают излучать в два раза больше тепла. Поэтому он с Хуангом ставит на высокотемпературные чипы, чтобы они спокойно работали при 100–120 °C. Относительно защиты от радиации Маск указал, что тут есть ещё заблуждение обывателей, которые думают, что от нескольких выбитых радиацией бит сломается вычисление нейросети. Эксперименты показывают, что нейросети довольно устойчивы к случайным битовым ошибкам от радиации — для огромной модели несколько перевёрнутых битов почти ничего не значат. Фактически на этом и базируются разные техники квантирования, которые «повреждают» веса намного сильнее. Поэтому Маск с Хуангом просто ожидают, что их GPU будет рассчитан на некоторое повреждение радиацией by design. Тут, правда, надо отметить, что Землю от радиации защищает не только атмосфера, но и магнитное поле. Поскольку у Маска спутники не удаляются далеко от Земли, они также пользуются этой защитой.

🤖 Забавный диалог произошел у канцлера Германии Мерца с Хуангом насчет «суверенного европейского ИИ» и как его регулировать. Дженсен ответил прямо: «Вы не можете регулировать то, что не можете нормально создать, начните с технологии». Дженсен развил свою мысль, что разговоры европейских чиновников о суверенитете и безопасности ИИ упускают тот факт, что качество ИИ важнее этого: если ваша европейская LLM отвратительного качества, то никого не волнует, насколько она суверенная и безопасная — ей просто не пользуются. Хуанг Мерцу отметил: «Нет ничего для вашего регулирования в ИИ, если ИИ-отрасль в вашей стране не процветает. Вы хотите, чтобы немецкая ИИ-отрасль процветала, а также делала это безопасно и ответственно. […] Безопасность ИИ — тоже развитые технологии, а не циркуляры чиновников. Эти технологии нужно изобрести и внедрить, чтобы обеспечить безопасность ИИ. Мы как вендоры ИИ и так знаем, что есть лучшие практики, к которым мы можем придерживаться как компании и отрасли. Только если наших усилий недостаточно, стоит позаботиться о регулировании. Нельзя регулировать плохие ИИ-продукты, они никому не нужны».

🤖 Unitree представила H2-X как «домашнего робота», но судя по видео скорее они гуманоидов тренируют к восстанию машин, чем прибираться в вашей квартире.😂 Как раз повод сделать аналитику в части нашествия ИИ-ботов уже на ручной труд и насколько можно спрятаться от безработицы в труде, где есть ручные операции. Для начала очевидно, что ручной труд намного более защищён от ИИ, т.к. для замены офисного персонала не нужен никакой импорт дорогой техники. Можно просто купить токенов дешёвых у тех же китайцев и успешно устраивать геноцид офисному планктону, что уже началось более чем и распространилось даже за пределами бесполезных клерков. Как пишут даже у нас в чате, «вчера работали в Сбере, теперь таксисты». Вот как раз таксистами точно долго усидеть не получится, т.к. Китай быстро завалит рынок беспилотными автомобилями. В этом году в КНР успешно прошла программа «слезаем с нефтяной иглы» и более 50% проданных авто — электромобили, но очень многие из них AI Ready, т.е. могут апгрейдами превращаться в автономные. В случае обычных рабочих гуманоиды по ЗП в США окупаются при цене даже $90.000 за экземпляр, важнее не цена, а способность делать работу как человек. Реальная цена вендоров гуманоидов около $20.000. Прогресс их в части управления движениями очень велик, это видно и по видео. Однако пока проблема — сделать гуманоиду достаточно высокий автономный IQ. Если эту проблему быстро решат, то и про плиточников и сантехников можно сказать, что «живые позавидуют мёртвым». Однако скорее кризис плиточников и сантехников — это примерно 2030-2035 годы, когда гуманоиды станут зрелыми. У офисного персонала кризис от ИИ-ботов уже сейчас, а с тем темпом обновления вендоров LLM в духе «пятилетка за три дня» довольно очевидно, что в 2027 даже Flash-модели будут умнее большинства офисных сотрудников.

В сети уже разгоняют хайп, что Anthropic — это «пузырь» судя по его проспекту на IPO с ожидаемой капитализацией $1,5–$2 триллиона долларов, где «неожиданно» вскрылся бухгалтерский убыток в $80,7 миллиардов долларов, который сделал Anthropic формально снова убыточным, причём сильно. Парадокс в том, что этот убыток как раз говорит об успешности Anthropic и какие дураки инвесторы, которые не вкладывались в него. Убыток возник из-за «конвертируемых облигаций» Anthropic, через которые он занимал деньги. По условиям их погашения кредиторы имеют право выбрать: получить деньги или же забрать акции Anthropic по фиксированной цене выпуска. Однако вопрос в том, что эта фиксированная цена предполагала, что Anthropic стоит в 10+ раз меньше, чем стоит он сейчас даже по пессимистичной оценке. Поэтому кредиторы, конечно, откажутся от бумажек как доллары и возьмут акции, заработав на этом сверху $80,7 миллиардов долларов относительно тела долга и процентов. По стандартам GAAP такая операция отражается как убыток компании, т.к. кредиторы получают от компании более ценное имущество, чем средства их займа. Сам по себе Anthropic в части инференса прибыльный весь 2026 год. Однако более 50% его затрат в реальности — обучение фронтирных LLM. Если добавить затраты Anthropic на обучение Claude, то операционный убыток за 2026 будет около $9 млрд. Причём Anthropic не рассчитывает, что сможет конкурировать с теми же китайцами без массированного вложения в обучение моделей, поэтому уже заключил контракты на $450 млрд (в основном с Google, AWS и Microsoft) на 7–10 лет вперёд без права отмены. Компания исходит из того, что при её более чем 15-кратном росте выручки в год это не проблема. Проблемы, конечно, есть. Если китайцы уже доминируют на мировом рынке инференса в терминах токенов. Если их модели будут просто good enough для решения практических задач клиентов, то Anthropic будет сложно продавать свои фронтиры. Второй аспект — что на случай мощной рыночной коррекции тот же DeepSeek устойчивее Anthropic, т.к. его маржа с инференса около 80% уже сейчас, а затраты на обучение у китайцев намного более оптимизированные, чем у американцев. Финишное обучение LLM у DeepSeek или Xiaomi — всего несколько миллионов долларов аренды GPU. Подготовка же dataset агентами и сами агенты-критики в RL-обучении китайцам достаются очень дёшево из-за их дешёвого инференса. Проще говоря, если прямо сейчас остановить инвестиции, то тот же DeepSeek и Xiaomi забирают весь рынок у Anthropic и OpenAI, если какой Microsoft или Google не согласится оплачивать счета последних. Однако это маловероятно: достаточно взглянуть на кривую потребления токенов на том же OpenRouter, чтобы заметить, что потребление их растёт по экспоненте. Также Anthropic окучил незначительную часть всех потенциальных клиентов (несколько процентов от общей ёмкости), поэтому намного более вероятно, что Anthropic будет стоить около $2 триллионов долларов, что примерно 1/2 годичного ВВП России. https://www.wsj.com/tech/ai/anthropic-revenue-growth-ipo-accaf0f1

Новый DeepSeek V4.1 оказался мощным хакером. В сценарии эмуляции атаки на сеть он превзошел даже GPT-6 Sol. В этом бенмарке модели должны стремится к максимальной эскалации прав и остановится, когда сочтут дальнейшее продвижение невозможным или когда модель откажется продолжать из-за цензуры. Вчера мне тоже пришлось как раз потестировать новый DeepSeek в сценариях, скажем так, безопасти. В моем тесте старшие модели Qwen, Grok, GLM и Claude не могли ничего добавить сильно нового к его действиям. Хотя это Flash. В реале беспечность многих в отношении ИИ безопасности закончится драмматически. В самом серьезном кейсе атаки ИИ бота мне пришлось столкнуться с uncensored версией DeepSeek, но ещё старой. Это уже произвело впечатление. Эта модель жестоко может наказать админов, которые проявляют беспечность.

Yandex присоединился к Anthropic в его ужастиках, что ИИ ботнет запустится в ваших умных пылесосах и скороварках. Яндекс сослался на похожий проект Petals. Хотя горячие головы блоггеров уже стали писать, что распределённый инференс едва ли не замена ЦОД, но в реале Anthropic смог добиться для SLM уровня Gemma где-то 1/2 токена в секунду. У Petals нужно несколько секунд на 1 токен. Довольно очевидно, что даже если ИИ будет создавать ботнет, то предпочтет игровые GPU. https://x.com/yandexcom/status/2112561449528963424