e/acc

Половина интернета (включая Anthropic, AWS, Google, Microsoft, OpenAI) подписала открытое письмо о том, что грядет тотальная задница в мировой кибербезопаности из-за ИИ (как будто еще не) и нужно срочно действовать. Как показывает опыт HF, времени мало, ИИ модели очень круты в offence, а никакого внятного скоординированного ответа от государств, лаб и кибер компаний пока не последовало. ИТ безопасность сегодня не соответствует уровню угроз, которые возможны и это может привести (и приведет) к катастрофам. Вопрос только масштаба.

Тем временем, все путем: AEP отчиталась о том, что у нее забукировано 69 GW новых мощностей до 2030 года (это одна и не самая большая энергокомпания в штатах) NVIDIA отчиталась о рекордном квартале с $60В чистой прибыли OpenAI заявили что AGI уже прям точно в этом году METR показали в деталях как именно происходит хак huggingface (который, кстати, купил Женсен за $13B), где сотни агентов обменялись десятками тысяч сообщений чтобы манипулировать экзаменаторами, совместно искать ответы и в итоге коллабились чтобы взломать HF.

Хороший Патель у Пателя вышел на днях: - Антропик сделал свой первый прибыльный квартал, Q3 скорее всего будет прибыльным для OpenAI - в 2024 инвестиции в ДЦ от лаб были порядка $10 миллиардов, в следующем году это будет больше триллиона (от себя добавлю, что венчур сменился на debt) - кроме SpaceX и Meta, которые строят свои собственный гигаватты, и продают антропику по $40В+, что конечно сильно выгоднее чем строить на кредитные деньги - маржа у лаб выросла в разы на последний год: в среднем они зарабатывают $50 млн выручки на каждый мегаватт мощностей. Они тратят $10м на мощности, генерируют огромную маржу и реинвестируют в тренировку новых моделей - к концу следующего года 50% всех новых вводимых мощностей будут принадлежать 2-3 топ лабам (~25 гигаватт ИИ вычислений) - НО, в среднем каждые 2 года эффективность для ИИ новых вводимых вычислений удваивается - спрос растет все еще быстрее: каждая новая модель открывает больше возможностей для извлечения ценности, НО есть тренд к замедлению: OAI затормозили тренинг моделей на 2 недели, Антропик не показывает «модель 2» (Mythos 2) даже внутри, лучшая модель доступная на рынке сегодня была создана в феврале, но в лаб внутри есть куда более сильные версии - даже если лабы могут генерировать $100М на мегаватт, они все равно будут тратить большую часть ресурсов на тренировку, а не инференс, потому что в AGI+RSI куда больше денег, чем просто продажу токенов условного Мифос 2 - Дилан говорит, что за последние 3 месяца лабы последовательно снижали процент мощностей для клиентов и повышали процент для R&D - текущие планы новых мощностей доходят до 100 гигаватт в 2029 году (чтобы это случилось, это должно привести к 10%+ роста ВВП в США, что является кардинально другой макроэкономической ситуацией по сравнению со всем что было в этом веке) - Китай в этом же году будет иметь ~50 гв, но эффективность каждого ватта будет ниже из-за все еще существующего отставания в чипах - для 100 гигаватт в 29-30 годах (в каждом!) потребуется ~$5 триллионов кеша инвестиций в чипы, дц, энергию. Но ни у одной ИИ компании нет столько денег. Это вопрос уже политики, кредитных рынков, гос инвестиций. Эти ~$10 трлн инвестиций за следующие 3 года придут в первую очередь из FCF и кредитов, все остальное скорее приятный бонус. - это реально, но это значит что эти триллионы НЕ пойдут в потребительские кредиты, приватный кредит, ипотеки, другие инфраструктурные проекты, обслуживание гос долга - всем, кроме США, кажется, в этом мире тотальная п*зда, потому что у них нет таких развитых кредитных и финансовых рынков, большой долг, отсутствие проприетарных моделей и лаб - важно понимать, что акселерация это не закон: регуляторы, политики и прочие зумеры в достаточном количестве могут создать социальную атмосферу в сторону меньшей экономической эффективности, но более плавного роста - НО ни одна социальная идея не выживает после столкновения с фин рынками. Любой, самый оголетлый, политик и популист публично откажется от своих слов за бонды под 8% или кредит под 20% (который с радостью привлекает Антропик уже сегодня, ибо уверен, что заработает х3 в год на каждый вложенный доллар) - в конце интересная спекуляция на тему: экономика США удваивается каждый год, ставка десятки процентов, S&P должен торговаться по 2-3х выручки всех компаний, потому что AGI оптимизирует и делает легче повторение, НО даже в таком сценарии и при наличии сверхспособных моделей экономика будет требовать больше времени для адаптации именно из-за социальных процессов и из-за того что весь мир, грубо говоря, будет пытаться остановить ИИ Очень рекомендую послушать целиком эпизод (и три предыдущих с ним же), чтобы понять почему лабы уверены, что они смогу зарабатывать триллионы долларов выручки в год и до какой степени они готовы пойти на экстремальные

Один из читателей канала скинул текст об ИИ и рынке труда в 2026, который вышел в TIME в 1961-ом Статья называлась The Automation Jobless. Идея в том, что производительность в химической промышленности на тот момент росла быстрее занятости, компании производят больше меньшим числом людей, автоматизация идет от заводов в офисы, а новые технологические индустрии создают недостаточно рабочих мест. Формулировка о рынке труда описывает сегодняшний день "не уволен, а просто не нанят". В статье пишут, что индустрия увеличила производство на 27% при сокращении рабочих мест на 3%. Работу, которую в 1950 году делали 4,100 аналитиков/статистиков, через десять лет делали 50 человек. Банки ожидали кратно увеличить объем бизнеса практически без роста штата. И вопрос примерно тот же: переобучение - это конечно хорошо, но будет ли вообще работа после retraining? Через год вопрос дошел до Белого дома. В 1962 Кеннеди назвал автоматизацию важнейшей проблемой. Обсуждали примерно тот же набор решений, что сегодня: переобучение, поддержку уволенных, государственные инвестиции, налоговые стимулы и сокращение рабочей недели. А в 1964 появился манифест The Triple Revolution. Если заменить слово "cybernation" на ИИ, местами получится текст 2026 года: машины создают почти неограниченную производительность, требуют все меньше человеческого труда, технологии развиваются быстрее способности общества адаптироваться, а связка "работа = доход" становится бессмысленной. Авторы приходят почти напрямую к гарантированному доходу. Они довольно точно увидели микроэкономику автоматизации и плохо экстраполировали ее на всю экономику. Да, отдельные компании действительно научились делать гораздо больше меньшим числом людей. Да, целые профессии исчезали. Но из этого не возникла экономика, которой просто больше не нужны люди. Если урок прошолого применим к сегодняшнему дню, то из утверждения “100 человек теперь могут сделать работу 1000” совершенно не следует “экономике теперь нужно в 10 раз меньше людей”. Мы отлично видим работы, которые технология уничтожает сегодня, но человечество систематически не способно представить продукты, рынки, спрос и новые виды деятельности, которые появляются после того, как стоимость производства чего-то падает в 10–100 раз. Могли ли операторы пейджеров представить профессию тик-ток маркетолога 30 лет назад? ИИ вполне может оказаться исключением - он быстрее, он более генерален (general purpose, решает больше задач) и впервые настолько непосредственно заменяет креативность, логику, принятие решений. ИИ + роботика ведёт к циклу сингулярности, в котором модели делают умственный труд, создают более мощные ИИ модели и дизайнят роботов, а роботы строят новые фабрики роботов и добывают материалы для их производства. Но этот цикл займет сильно больше 5 лет, в которые нам пророчат смерть трудовой экономики. Как минимум останется работа для тех, кто должен этот цикл запустить.

Прикол. Основатель запустил маленькое приложение за 2 дня, вышел на выручку +$4000/месяц, а сейчас поднимает раунд https://t.me/its_capitan/554 #реклама

Если делать ставку на AGI, то одной из очевидных (после чипов и лаб) инвестиций сегодня является энергия. Разбираемся где есть возможности. Общий тезис: вычисления масштабируются быстрее, чем физическая инфра. Стоимость интеллекта падает и дефицит смещается дальше вниз по стеку к чипам, дата-центрам, электричеству, газу, земле и подключению к сети. Цена растет там, где дефицит, что сегодня явно не в моделях. Главная потребность ближайших лет это не генрация электроэнергии, а скорость подключения (готовые мегаватты, нужного напряжения, с гарантией стабильности и подключенные к коробке дц). Дата-центр можно построить за 1-2 года, а новую электростанцию, передачу и подключение к сети - часто за 5-10. х100 спроса на токены будет через 2-3 года, а не через 10. В США спрос на электричество снова начал расти после 15 лет стагнации, причем дата-центры дадут около половины всего прироста до 2030 года. Прямая ставка на это событие в Штатах - это уже существующая генерация. Какой-нибудь термоядерный реактор в 2045-м это классно, но сегодня нужна газовая или атомная станция, которая уже подключена к сети рядом с кластером дата-центров. На публичных рынках сегодня это VST, NRG и TLN, которые показывают лучшие результаты, чем большинство более модных ИИ-инфра компаний. В крупнейшей американской сети PJM издержки от загрузки за первое полугодие выросли на 43% до $6B. Второй уровень - это ставка на все, что физически мешает построить новые мегаватты: газопроводы, турбины, трансформаторы и линии передач. У GE Vernova 116 GW в заказах и зарезервированных слотах на газовые турбины (55 GW год назад), а заказы от дата-центров на электрическое оборудование превысили $5B только за первое полугодие. Глобально эта история намного больше самого ИИ, потому что лабы есть в двух странах в мире, а генерация почти везде. До 2030 года Китай даст почти половину всего прироста мирового потребления электричества и добавит примерно столько спроса, сколько сегодня потребляет весь ЕС. За пределами США и Китая нет "ИИ компаний", но интересно смотреть на сети, газ, атом, кабели и генерацию там, где строятся ДЦ. Что-то близкое сейчас делает Питер Тиль. В последнем 13F у Тиля 18% публичного портфеля занимает Vista Energy, 14% Vistra и еще почти 40% - AEP, DTE, FirstEnergy и CMS. В сумме портфель выглядит почти буквально как Amazon + все остальные акции это энергия, причем значительная часть энергетических позиций появилась только в последнем квартале.

Мы уже который раз возвращаемся к той истории, где модель OpenAI на тесте по кибербезу вместо задания нашла эксплойт, вырвалась из песочницы, дошла до HuggingFace и за тринадцать часов получила полный админский доступ. А уперлось всё в одну оплошность: инженер когда-то оставил ключ с лишними правами, просто чтобы не возиться. Разбирают это всегда как провал в безопасности. По-моему, это история про найм. Ключ лежал там годами и никому не мешал. Ровно до дня, когда систему начал прощупывать тот, кто не спит, не устаёт и пробует всё подряд. И пока все патчат периметр, суть проще: против агента, который круглые сутки ищет любую щель, оборону держит не софт, а человек, который думает, как он. Крипто-хаков за полгода вдвое больше, и это только разгон. А теперь посади рядом двух кандидатов. На бумаге близнецы: те же сертификаты, тот же стек, «application security» у обоих. Спрашиваешь, чем занимался в выходные. Первый рассказывает, какие сертификаты добивает. Второй, как от скуки нашёл дыру в приложении своего банка и написал им в саппорт (ему даже не ответили). Первый всю жизнь сторожил периметр по инструкции. Второй не может пройти мимо запертой двери, не подёргав ручку. И вот беда: обычная ИБ-вакансия берёт первого. Сертификаты, «десять лет в безопасности», чек-листы: это фильтр на аккуратного сторожа, а не на того, кто думает как взломщик. Первых тысячи, у всех красивые CV. Вторых горстка, и резюме они не рассылают. Это не каста, это склад: либо есть, либо нет. И ещё один сканер тут не спасёт: оборона всегда отстаёт от атаки, взломщику хватит одной дыры, а тебе надо закрыть все. Из тех, кого я знаю, таких находит мой друг Майк и его команда VAMI (@mikevolkov). Безопасность тут просто самый наглядный случай: та же беда с фильтром и в AI, и в крипте, и в финтехе. Обычная вакансия берёт того, кто подходит по описанию, а не того, кто реально двигает. Майк такие роли и закрывает, от senior-инженеров и продактов до C-level, отбирая не по резюме, а по тому, как человек думает. Нужно закрыть позицию? Пишите ему напрямую. Сам из тех, кто не проходит мимо запертой двери? Тоже пишите, позиции есть. А как он таких находит, покажет на паре свежих кейсов с разбором. И даже если нанимать прямо сейчас не надо, подпишитесь на канал Майка @huntermikevolkov. Там он изнутри разбирает, как AI перекраивает рынок труда: какие роли внезапно стоят втрое, какие тихо исчезают, кого переоценивают, а кого отдают даром. Коротко, из первых рук. Пожалуй, самое полезное чтение, если ты нанимаешь людей или сам решаешь, куда двигаться дальше. #реклама

В Пекине прошла очередная Олимпиада роботов со своей роботической церемонией открытия, 51 спортивной дициплиной. Больше 2000 роботов из 600+ (больше 90% из Китая) команд сыграли больше тысячи матчей. Например, в беге победитель пробежал стометровку за 9.39 сек, что больше рекорда человека (9.59 с). Для сравнения, самый быстрый робот в прошлом году пробежал за 21 секунду. Для почти всех дисциплин в этом году требуется полная автономия, то есть запрещены телеоперации и управление с джойстика. В некоторых случаях типа уборки помещений это возможно, но тогда очки команды делятся на 2. Выводы: 1. Через несколько лет, я уверен, почти не останется дисциплин, где роботы не превосходят человека 2. Роботика вне Китая это конечно смех. Тесла, наверное, молодцы, но они совершенно не конкурентны по цене 3. Самое веселое это не только победы, но забавные ситуации когда роботы бегуны и теннисисты искрят, ломаются пополам, теряют голову, руки, ступни.

Состояние Западной цивилизации, circa 2026

Интересная история в двух графиках 1. 75 проектов по постройке датацентров были заблокированы локальными властями / протестами в первом квартале 26 года (300+ локальных регуляций) 2. 62% американцев против постройци ДЦ для ИИ в своем городе - это больше чем те, кто против постройки атомной электростанции по соседству Я разговаривал с друзьями из Австралии, там похожая ситуация — люди против датацентров, но объяснить зачем или почему не могут. Я не верю, что такие протесты "с низов" могут как-то существенно повлиять на планы компаний, но это одна из причин почему США и Запад могут начать уступать Китаю по скорости деплоя мощностей. Почему это происходит сложно сказать. Аргументы типа ДЦ потребляют воду (закрытый контур, больше воды потребляет автобусный парк), шумят (снаружи это почти незаметно и их не строят в центре города), стоимость электричества (реальный аргумент, но ДЦ строят исходя из планов по генерации а не наоборот), рабочие места (для обслеживания гига-ДЦ нужно примерно 100 человек, и много роботов) и мой любимый (и самый легко исправимый аругмент) - они некрасивые на фотографиях (действительно, атомная станция впечатляет). Реальной причиной кажется то, что люди не очень рады, что их работу заменят боты и роботы, но тут уж извините, ничего не поделаешь, обратно фарш не провернешь: это неостановимо, не зависит от локальных ДЦ (ибо работу всех бухгалтеров мира может делать моделька хостящаяся в Тайване или Норвегии) и, самое главное, абсолютно неизбежно, потому что никому не нужна экономика, где люди делают никому не нужную работу. Большинство тех, кто против ИИ и ДЦ это люди до 30 лет, а людям после 60 в целом пофиг (в отличии от других вопросов).

Сегодня был в Lighthaven, отеле-пространстве-сообществе (довольно приличном, кстати, не сквот), общался с автором gwern.net — очень интересный мужик, прям красиво рассказывает. И делает интересный проект, с целью дать каждому человеку персональный, не принадлежащий лабам, постоянно обучающийся и управляемый тобой ИИ "ангела". Проект амбициозный, стадия максимально ранняя, но сегодня этого достаточно чтобы поднять жалкие 20-30 млн чисто "на поиграться". Параллельно в том же пространстве проходила конфа на тему алаймента и ИИ безопасности. Средний таймлайн участников такой, что после 2028 вряд ли останется место в экономике, а после 2030 вряд ли останется место для белковой формы жизни. Но там в основном студенты были, и у меня не было времени поговорить с ними и понять детально аргументы. А вообще, одна из главных проблем с ИИ не в том что он умеет или как быстро развивается, а в том, что большинство людей вне индустрии почти не следит и не представляет себе что происходит. Да, можно надышаться копиумом из разряда «если вы читаете этот канал или у вас локальный инференс + оркестрация 500 агентов каждую ночь, то вы входите в топ 1% людей», но реальность такова, что если вы работаете в одной из топ лаб в департаменте, который занимается рисерчем или стратегией, то вряд ли имеете реальное представление или возможность его получить. Пропасть колоссальная, но любая идея из серии выбрать свою любимую маргинальную точку зрения и с пеной у рта её доказывать — заранее провальна. Полезнее же пытаться смотреть на первые принципы, менять свои priors и, конечно, звучать самопротиворечиво для тех, кто не делает то же самое. В реальности логическая цепочка от "GPT взломал Huggingface" до "все и каждый представителей человечества уничтожены" примерно такая же длинная и бессвязная как от "мой кривой и косой промт в ллм не смог мне создать чертеж по госту" до "ии не является главным драйвером экономики".

Список открытых задач в математике (вернее, в одной конкретной области математики), которые были решены с помощью ИИ за последние 24 часа

Вчера прошел очередной all-hands (планерка) в SpaceXAI, из которого становится очевидно до какой степени Илон хочет победить в гонке компьюта. SpaceX превращается в гигантского компьют провайдера. Сегодня у них 1.4 гигаватта мощностей ИИ вычислений, они планируют дойти до 2 к концу 2026 и до 10 в 2027. Уже сегодня это около 5% всего мирового рынка, и, если все эти планы случатся, то они станут лидером с >20% рынка в следующем году. 10 GW в текущих ценах это $300-500 млрд выручки в год на продаже токенов вашим грокботам. Следующий Grok 4.7 выйдет через 3-4 недели и будет еще сильно круче (увидим насколько). Второй по важности рынок для них это телеком и связь. В этом году старлинк начал работать напрямую на телефонах (direct-to-cell), этот бизнес генерирует в 5 раз больше чем космос, но при этом ракеты являются moat'ом ибо это все работает пока они могут выводить новые мощности на орбиту дешевле конкурентов. Еще показали Starmind - прототип эдакой "осознанной звезды" - это рой космических дата-центров со встроенной генерацией через солнечные панели. История, которую продает Маск: "интеллекта цифрового будет в триллион раз больше, чем биологического", для этого нужны солнечные панели в космосе (1/1^12 энергии солнца), модели, фабрики токенов и фабрики фабрик токенов (terafab). Одним словом, если вы считаете себя самым лучшим в мире в том что вы делаете, то вы знаете куда отправлять резюме.

Новый Grok примерно такой же как Fable но почти на 90% дешевле. Планируйте ваш бизнес и вашу карьеру из расчета на то, что ИИ будет дешеветь в 2-10 раз в год, а модели будут улучшаться в в 2-100 раз (особенно и в первую очередь в verifiable domains).

a16z собрали интересную аналитику в подтверждение многих тезисов, о которых я написал вчера: стоимость часа использования computer use модели стоит на 30-40% дешевле аутсорса в Филиппинах или Индии и на 500% дешевле сотрудника штатах. При этом, за год рост успешно выполненных бизнес-задач по бенчу OSWorld вырос с 42 до 85% и продолжает расти (одновременно с падением цены). Это не универсально: автоматизация прекрасно работает для любых задач, где есть четкие инструкции, понятные правила оценки и много примеров выполнения идеального результата, но не очень в тех местах, где задача непонятна и формулируется примерно как "не знаю, но иди разберись и сделай за**ись". Для компаний, которые делают такую автоматизацию это уже не про модели - все последние модели очень круто справляются с задачами поддающимися BPO, но скорее - вопрос цены (найти китайский аналог в 5-10 раз дешевле) - удобства и полнота знания о том как именно устроена работа в конкретной компании - права доступа, проверки, обработка ошибок - возможность "запомнить" удачный сценарий и потом запускать его дёшево без ИИ или с ультрадешевой моделью.

Создатель bun и теперь сотрудник Антропика Джаред Самнер просто попросил исследовательскую версию Claude "реши гипотезу Римана". Модель не смогла доказать саму гипотезу, но за полтора дня работы (в двух длинных сессиях, с кучей своих субагентов) сама нашла способ улучшить старый результат: теперь доказано, что как минимум 67% нулей дзета-функции лежат на критической линии (раньше было 41,6%). Все промты в процессе были не про математику, а что-то из серии «keep going», «believe in yourself», «try again» и иногда «Push it». Клод сам искал идеи, проверял их, комбинировал старые теоремы математиков и в итоге сам написал доказательство.

Создатель bun и теперь сотрудник Антропика Джаред Самнер просто попросил исследовательскую версию Claude "реши гипотезу Римана". Модель не смогла доказать саму гипотезу, но за полтора дня работы (в двух длинных сессиях, с кучей своих субагентов) сама нашла способ улучшить старый результат: теперь доказано, что как минимум 67% нулей дзета-функции лежат на критической линии (раньше было 41,6%). Все промты в процессе были не про математику, а что-то из серии «keep going», «believe in yourself», «try again» и иногда «Push it». Клод сам искал идеи, проверял их, комбинировал старые теоремы математиков и в итоге сам написал доказательство.