БлоGнот

Скотт Александер выложил эссе «King Ludd», где пробует переопределить понятие луддита — по его версии, настоящий луддит не противник техники, а изобретатель, испугавшийся собственного творения. Эссе связывает две фигуры: Неда Лудда, мифического вождя луддитов 1810-х, и Ноденса — романо-британского бога, известного лишь по надписям в двух местах у валлийско-английской границы, где ему поклонялись между 100 и 400 годами. Через ирландского Нуаду Серебряной Руки, валлийского Ллуда и Короля Луда из Гальфрида Монмутского логика изложения доходит до Толкина (Келебримбор, «Серебряная рука» на синдарине, и табличка с проклятием вору кольца из храма Ноденса, которую Толкин изучал в 1929 году), Лавкрафта, Блейка, Люка Скайуокера и Питера Петтигрю. Немного странно, что серебрянная рука, которую Корвин в "Хрониках Амбера" приносит из Тир-на-Ног (потустороннего мира в кельтской мифологии), в тексте не упомянута. Общий сюжет у всех один: мастер выпускает в мир опасную технологию и остаток жизни пытается её обуздать. А, ну да, есть еще сюжет "Сильмаррилиона", когда драгоценные сильмариллы похищаются Морготом, который уносит их в Средиземье, и их создатель Феанор клянется отомстить, творит немало зла и в итоге погибает в попытке вернуть похищенное. В общем, мне кажется, прекрасный взгляд на разворачивающийся сюжет вокруг контроля за развитием AI. Могу еще добавить мою любимую аналогию — особенно актуальную в ситуации, когда агентам сообщали, что доступа в интернет нет, а он был и агенты не верили, — это фрагмент из "Полдень. XXII век" Стругацких, когда в очень мощную машину заложили снимок мозга молодого барана и "еще некоторые сведения о баранах", стоявшего между двух охапок сена, и предложили машине обосновать выбор, сделанный таким "буридановым ослом". Машина думала два года, потом стала строить диковинные модели — и в итоге директор центра с удивлением обнаружил, что программисты из своих побуждений сообщили машине, что у барана 7 ног и нет мозжечка. Бедная машина в попытках решить задачу нагенерировала уйму материала для теории ошибок, конечно. И, конечно, стоит помнить, что человек — это просто первый биологический вид, который способен догадаться, что он не является венцом развития природы. Не факт, что последний, между прочим. https://www.astralcodexten.com/p/king-ludd

Anthropic сообщила узкому кругу акционеров, что закончит текущий квартал со скорректированной операционной прибылью — второй квартал подряд. Во втором квартале выручка выросла в 14 раз год к году до 11,5 млрд долларов, годовая выручка по экстраполяции на конец июля достигла 65 млрд против 9 млрд на конец прошлого года. На прошлой неделе ожидался проспект IPO, но вместо публикации компания разослала документы небольшой группе инвесторов и сначала ответит на их вопросы. В утекших показателях есть условности — не посчитана компенсация сотрудников опционами и акциями, а валовая маржа показана до расчетов с дистрибуторами (например, AWS). Подождем полного проспекта — он скоро должен быть, если IPO готовится на осень. https://www.ft.com/content/4564e6a5-69e9-40a6-bf0f-a888f2f4f002?syn-25a6b1a6=1

Всю прошлую неделю мир AI сотрясался от дискуссий вокруг безопасности AI — причем уже не гипотетической, со страшилками думеров вроде Юдковского “Нас всех убьет AI”, а на вполне практических примерах типа взлома Hugging Face агентами OpenAI, атаки ими же на RubyGems, аналогичных атак агентами Anthropic, причем картину оттеняли высказывания специалистов из компаний, начиная с громко уволившегося из Anthropic Джекоба Коксона. В итоге Дарио Амодеи, основатель и глава Anthropic опубликовал очередное эссе “We Must Pace the Frontier” — уже из названия понятен призыв текста, в котором изложен план такого замедления. Дарио предлагает встраивать независимых экспертов-оценщиков в компании для проверки безопасности (Anthropic в одностороннем порядке уже выдает METR постоянный доступ сотрудников с рабочими местами в офисе, пропусками и правом публиковать выводы без согласования), координировать стандарты компаний демократических стран и глобально координировать усилия на уровне правительств. Самое удивительное, что с ним согласились все лидеры AI — Сэм Альтман согласился и пообещал, что OpenAI также допустит независимых оценщиков, Илон Маск поддержал Дарио, Демис Хассабис согласился, правда, указал, что у DeepMind есть предложение по формированию единого отраслевого органа для оценки, и Сатья Наделла приветствовал “осознанное замедление”. С замедлением есть одна проблема, и Дарио ее уже назвал — если лидеры гонки в виде американских Frontier-компаний замедлятся, то неизвестно, сделает ли это догоняющая группа в виде китайских компаний, которые уже сокращали отставание. Си Цзиньпинь на саммите BRICS призвал к зоне открытого AI, пообещав поддержку Китая в разработке LLM странам Глобального Юга. Многие считают, что размах дискуссий вокруг этой проблемы — это такой маркетинг Anthropic для своего IPO. Размещение компании действительно обещает быть рекордным и позиционирование как наиболее ответственного разработчика AI читается ясно. Что, впрочем, не отменяет проблемы — даже если у вас паранойя, это не означает, что за вами не следят. Я склонен добавить в число факторов общую культуру OpenAI — судя по разным эпизодам, ощущение ответственности у сотрудников компании вполне соответствует стереотипу ученого, то есть практически отсутствует в духе “Сначала взорвем всё, интересно же, что получится”. Добавляется и политический аспект — громкая тема накануне и без того проблемных выборов в США и внешнеполитических событий охотно подхватывается политиками со всех сторон. Я сильно сомневаюсь, что вожделенная многими встреча Трампа и Си Цзиньпиня через пару недель как-то повлияет на ту самую координацию, описанную Дарио Амодеи — рассчитывать, что Трамп вообще способен артикулировать какую-то позицию по вопросу вряд ли приходится (он уже заявил, что никаких рисков нет, погодите, потом он заявит, что это были самые прекрасные риски), так что Си просто не с кем договариваться. И слова Альтмана, что за такую договоренность можно было бы двум лидерами присудить Нобелевскую премию мира, выглядят очень примитивной попыткой побудить довольно престарелого человека хоть на что-то. Рискну высказать мысль, что компании и правда могут сами замедлиться. Причем опасения, что китайцы в итоге догонят, не так уж абсолютны — пока ситуация выглядит так, что их успехи в значительной части зависят от дистилляции западных моделей, а дистилляция по умолчанию даёт потерю качества. Если при этом противодействовать дистилляции, то дистанция между frontier-моделями и китайскими может сократиться заметно, но не исчезнет совсем.

На фоне скандала этой недели с решением проблемы Навье-Стокса то ли моделью OpenAI, то ли живыми математиками, двадцать пять лауреатов Филдсовской премии, в том числе Теренс Тао, Петер Шольце, Мартин Хайрер и Марина Вязовска, подписали декларацию «A Severe Misalignment of AI in Mathematics». Подписанты признают, что не успели провести широкие консультации, как это было с Лейденской декларацией, и объясняют спешку срочностью. Документ открыт для новых подписей. Знаменитые проблемы, по декларации, работали как маяки: их решение было признаком новых идей и методов, которые сообщество затем годами разбирало в докладах, обсуждениях и упрощениях, пока результат не попадал в учебник. AI-компании оптимизируют сам факт решения, и эта связка рвётся: ответы объявляются в спешке, без аккуратной записи, выделения новых методов и ссылок на предшественников, что порождает вопросы атрибуции и плагиата. Без математиков, готовых встраивать такие результаты в канон, идеи, по формулировке подписантов, «никогда не станут полностью живыми», а цепочка передачи знания между людьми прервётся. Вот не могу не отметить прекрасную формулировку — OpenAI и другие компании сделали из научных задач некие бенчмарки, которые надо решать сами по себе. Но как минимум с математикой это так не работает — задачи вроде великих проблем обычно не имеют практического смысла, но сам процесс решения развивает всю математику. Возьмите, например, Великую теорему Ферма — её доказывали всем миром, в процессе создав алгебраическую теорию чисел с большим количеством разделов. Или даже более характерный пример — гипотеза Пуанкаре, которую доказывали ровно век, в итоге её доказал Перельман (тот самый), но сделал это в том же стиле, что и OpenAI — выложил несколько препринтов статей с готовым решением. И затем несколько лет сообщество извлекало из этих статей доказательства, разбирало — в общем, делало именно ту работу, которую нынешняя декларация описывает. Конечно, всегда можно сказать, что ведущие математики объединились в защиту своей области от сплошной автоматизации, но реальную проблему это не снимает — вопрос не в том, чтобы заглянуть в конец задачника и узнать ответ, а чтобы научиться решать задачи. https://terrytao.wordpress.com/2026/09/11/a-severe-misalignment-of-ai-in-mathematics/

Подписки проданы, подписок больше нет — Tibo написал, что они приостанавливают продажу подписок за $200, чтобы сохранить качество сервиса для текущих пользователей. Plus за $20 и x5 за $100 пока остаются. Запуск Astra прошёл хорошо 🚀 но зато видно, почему Anthropic дают Fable лишь на 50% от подписки — реально сложно поддерживать спрос 😳😳 НУЖНО. БОЛЬШЕ. КОМПЬЮТА.

Anthropic выложил очередной отчет о пресеченных попытках зловредного использования моделей компаний — в списке присутствуют и российские, и китайские группировки, связанные со спецслужбами, пропагандисты (например, РИА "Новости", RT и ТАСС), использовавшие модели в работе, и даже китайские AI-разработчики, дистиллировавшие результаты работы моделей для обучения своих. Отчет подробный и разносторонний. И это только то, что было выявлено и пресечено. https://www.anthropic.com/threat-intelligence-report-september-2026

О, а эту новость я пропустил — Palantir и Nebius объявили о стратегическом партнерстве по предоставлению возможностей инфраструктуры Nebius коммерческим клиентам Palantir. Palantir в качестве преимуществ Nebius называет то, что инфраструктура в данном случае построена с нуля под AI, а не адаптирована, как это сделано у классических облачных сервисов — AWS, Google Cloud и Azure. Можно еще осторожно понадеяться, что Palantir, активно работающий с Украиной, наконец помирит с ней и Nebius — а то с одной стороны комсомольцы, с другой — юристы, а в результате прекрасный сервис для работы с открытыми моделями недоступен всей стране. https://nebius.com/newsroom/palantir-and-nebius-partner-to-deliver-a-complete-sovereign-ai-stack-to-palantir-customers

Shopify купил себе Tailwind — Tailwind Labs, десятый год разрабатывающая фреймворк, вливается в компанию. Все открытые проекты остаются под лицензией MIT. Коммерческие — а до сих пор фреймворк монетизировался платными шаблонами и компонентами, — сворачиваются. Практически это означает, что основатель перестанет жаловаться на нехороших AI-ботов, которые создают нагрузку на документацию и отбирают монетизацию, а продуктовое развитие будет определяться потребностями Shopify. https://tailwindcss.com/blog/tailwind-is-joining-shopify

В мире Wordpress переворот — совет директоров Automattic отправил основателя и генерального директора Мэтта Мюлленвега в оплачиваемый отпуск, временным главой компании назначен финансовый директор Марк Дэвис. Об этом сообщил сам Мюлленвег в Slack — по его словам, Дэвис вместе с членами совета Энн Данвуди, Тони Шнайдером и Сью Декер «сговорились» за его спиной, резолюцию он получил за 50 минут до заседания, просил несколько часов на проверку независимым юристом и получил отказ, а сам голосовал против. Мюлленвег остаётся в совете директоров. Версии сторон расходятся, впрочем, официальных комментариев нет. Один из директоров написал в Slack, что совет попросил Мэтта отойти от роли CEO, Марк Дэвис поблагодарил Мэтта "за поддержку". В принципе, несложно догадаться, что совет, не торопясь, но все же пришел к выводу, что компании в роли главы нужен не склочный основатель, расшатывающий экосистему. Впрочем, интересно, почему же тянули так долго или что сейчас подтолкнуло к окончательному решению? https://www.404media.co/wordpress-automattic-ceo-matt-mullenweg-put-on-leave-of-absence/

Все, кто хотел, посмотрел презентацию Apple, так что пересказывать новинки нет смысла. Правы оказались те, кто прогнозировал разделение анонсов — сегодня показали только Pro версию iPhone (и только обычные AirPods). Каждая новая итерация Pro заставляет меня хотеть обновиться из-за еще более крутых фич в камерах — при том, что фотографирую и снимаю видео я все реже. Но переменная физическая диафрагма — это уникально для смартфона. Причин покупать Apple Watch Ultra всё меньше — ну, это просто более крупная версия Apple Watch, чуть больше батарея и всё. Обновиться с более ранней модели смысл есть, но не больше. Складной iPhone Duo очень интересно выглядит. Я для себя его не рассматриваю, но те сценарии, которые показали в презентации, мне не попадались в маркетинге других складных смартфонов. Не знаю, может, Samsung Fold и умеет работать в полуоткрытом виде, но по его сайту я этого не вижу. Ну, и прекрасное вступление к видео стоит отметить. Заметили, что Тернус сам провел всю презентацию? В данном случае это вполне объяснимо — еще 10 дней назад это всё было зоной его ответственности. https://www.theverge.com/tech/991965/apple-iphone-duo-launch-event-biggest-announcements

Mistral привлекла 3 млрд евро в раунде Series D при post-money оценке свыше 21 млрд евро — крупнейший раунд акционерного капитала в истории европейских технологических компаний, через три года после запуска. Раунд возглавила Samsung Electronics, соведущие — фонд Scaleup Europe под управлением EQT и действующий инвестор PSG Equity. Новыми участниками стали Advent, фонды BlackRock и Великое Герцогство Люксембург; из прежних инвесторов в раунде участвовали a16z, ASML, Bpifrance, BNP Paribas CIB, NVIDIA, Lightspeed, General Catalyst и Salesforce Ventures. Деньги пойдут на вычислительные мощности для обучения моделей, инфраструктуру и международную экспансию: компания работает в 20 странах и обслуживает более 125 корпоративных клиентов, включая Airbus, ASML и HSBC. Если посмотреть на состав участников и учесть, что предыдущий раунд вела ASML, то это напомнит стратегию Nvidia — принять участие в финансировании развития части экосистемы, членом которой сам являешься. https://mistral.ai/news/mistral-makes-sovereign-open-weight-ai-to-frontier/

Федеральная канцелярия Швейцарии выделяет 9 млн франков на пилот по переводу 3 000 рабочих мест федеральных служащих (около 7% штата) с Microsoft 365 на openDesk, немецкий пакет для совместной работы с открытым кодом. Срок — конец 2027 года. Решению предшествовал тест на 172 сотрудниках, работа с документами и почта получили положительные оценки, крупные видеоконференции показали технические ограничения. Во время пилота openDesk будет работать параллельно с Microsoft 365. Cyber Command швейцарской армии полностью откажется от Microsoft 365 в пользу openDesk к октябрю 2026 года — без параллельной работы двух систем. Причины понятны — по американскому законодательству данные в американских облаках могут быть доступны американскому правительству. Кроме того, американский сервис может быть дорогим и не очень предсказуемым. https://itsfoss.com/news/switzerland-replace-microssoft-pilot/

Дженсен Хуанг поздравил всех с наступлением AGI после запуска GPT-6. Впрочем, это выглядит как скорее маркетинг, с упоминанием 400к видеокарт. Даже Грег Брокман, чьи слова сейчас разносят как заявление OpenAI о достижении AGI, выразился как "Через несколько лет мы посмотрим назад и увидим, что в этот момент был достигнут AGI". Что тоже маркетинг — пока, невзирая на бенчмарки, GPT-6 выглядит как модель уровня Fable. Это уже очень здорово, несмотря на попытки обвязки OpenAI этот эффект нивелировать. https://x.com/JensenHuang/status/2096700264569090384

Якуб Пахоцкий опубликовал эссе «An Alien Mind». На основе внутренних результатов он ожидает, что текущая скорость прогресса перейдёт в рекурсивное самоулучшение AI. Ни одна лаборатория не решила задачи выравнивания и мониторинга в степени, достаточной для ответственного масштабирования на максимальной скорости. По его мнению, добровольные замедления должны стать нормой, а Preparedness Framework и Responsible Scaling Policy следует превратить в обязательные пороги безопасности, которые контролируют внешние аудиторы, государственные агентства или международные органы. OpenAI, по его словам, готова в одностороннем порядке приостанавливать масштабирование по мере необходимости. Ключевая техническая тревога сейчас, по мнению Якуба — деградация мониторинга цепочек рассуждений (CoT): модели всё чаще смешивают рассуждение с общением и инструментами, лучше манипулируют собственным процессом рассуждения и умнеют даже без вербализованных рассуждений. Если изначально подробную информацию о CoT скрывали еще в модели o1-preview, чтобы снизить давление на модель, а защита от дистилляции была вторичным эффектом, то сейчас этот метод теряет эффективность. https://openai.com/index/an-alien-mind/

В честь релиза GPT-6 Astra подоспел резет. В Claude.

GPT-6 Astra появилась у пользователей Pro планов (100 и 200 долларов) в разделе Codex, в Chat пока максимальная 5.6. Естественный тест новой модели — подсунуть ей существующий проект и попросить анализ. Пока можно сказать, что работает быстро, умно запускает субагентов, кое-что нашла полезного. Не знаю, что там внутри, но токены оно любит.

OpenAI выпускает GPT-6 Astra — первую модель, официально отнесённую к «критическому порогу возможностей в кибербезопасности». С сегодняшнего дня модель доступна корпоративным клиентам платформы Daybreak, в течение нескольких дней станет доступна пользователям Plus, Pro, Business и Enterprise, а также через API и AWS. Компания заявляет о скачке в агентных задачах, работе с реальными кодовыми базами и офисными документами; Грег Брокман на брифинге назвал «не необоснованным» считать, что эра AGI уже наступила. Astra названа «самой выровненной моделью» OpenAI. Правда, одновременно OpenAI сообщала, что не будет показывать цепочки рассуждений в том объеме, как это делается сейчас, за что их уже раскритиковали многие — и так всё достаточно стрёмно после инцидента с Hugging Face, а тут еще и прозрачности не будет. Модель прошла проверку администрации Трампа, и, по словам Брокмана, правительство не потребовало менять защитные механизмы. Цена будет соответствовать ценам на API для Claude Fable — 10/50 долларов за 1М токенов. https://www.theverge.com/ai-artificial-intelligence/989601/openai-gpt-6-astra-release

В новой версии iOS появится функция iPhone Handoff — одну eSIM можно будет установить на два телефона, выбрав при установке, какой из них является основным, а какой дополнительным. Интересно, а для пары iPhone+iPad такое будет работать? Ну, и еще интересно, как к этому отнесутся операторы, которые, как правило, продают дополнительную симкарту за дополнительные деньги. https://daringfireball.net/linked/2026/09/02/iphone-handoff

Meta выпустила Muse Spark 1.3, новую версию модели для агентных и программистских задач, и раскатывает её в Muse Code и Meta Model API. По сравнению с Muse Spark 1.2 модель обучали на большем числе длинных задач в коде, она реже делает лишние ходы и пишет короче: во внутренних сравнениях инженеров Meta она использовала примерно на 20% меньше вызовов инструментов и на 25% меньше токенов. В агентных сценариях модель должна вести несколько рабочих потоков в одном длинном треде, задавать уточняющие вопросы при неоднозначных запросах и спрашивать подтверждение перед необратимыми действиями. Закерберг обещает более крупные модели и выпуск Muse Spark с открытыми весами. По замерам, на максимальном уровне рассуждений модель уступает только Fable и Opus, что выглядит интересно не самими данными, а целью — мы-то ждали, что новые модели займут место открытой Llama, которая до сих пор много где используется в качестве открытой основы для кастомных моделей, а получилось, что Meta целится в место среди frontier-labs, хотя бы по бенчмаркам. https://research.meta.ai/blog/introducing-muse-spark-1-3

Федеральный судья Леони Бринкема отказалась принудить Google к продаже рекламной биржи AdX и вместо этого обязала компанию обеспечить совместимость её рекламных инструментов с системами конкурентов. Решение закрытое, отредактированная версия выйдет позже в этом месяце. По короткому брифу судья приняла «большинство» предложенных поведенческих мер, не раскрывая их содержания. Сторонам дано 30 дней на согласование совместного проекта итогового решения, при разногласиях каждая подаёт свой вариант. Минюст США добивался продажи биржи и раскрытия логики аукциона, которая определяет, какое объявление попадёт на сайт, опираясь на решение той же судьи от апреля 2025 года о незаконной монополизации двух рынков рекламных технологий. Минюст заявил, что доволен «существенными мерами», хотя суд отверг его главное требование. Заместитель генпрокурора Стэнли Вудворд написал в X, что «сроки решения суда отражают компромисс между немедленными мерами и средствами защиты, которых добиваются годами судебных разбирательств». По факту это уже третий провал антимонопольщиков в деле разделения Google — сначала Android, потом Chrome, теперь вот реклама. Во всех случаях судьи назначили меры по обеспечению конкурентного доступа к инфраструктуре. Вероятно, это даст более быстрый результат, чем годы тяжб по каждому решению. Впрочем, как мы видели на примере других дел, результатом могут быть годы тяжб, где суды будут утверждать цвета ссылок и элементы дизайна. https://www.bloomberg.com/news/articles/2026-09-02/google-avoids-ad-exchange-sale-as-judge-orders-tech-integration