Сиолошная
رفتن به کانال در Telegram
Канал SeeAll'а с новостями (и мыслями о них) из мира NLP, VR и космоса. Более подробно смотри в первом сообщении в канале (оно закреплено). А еще у нас есть чат! Заходи: https://t.me/+i_XzLucdtRJlYWUy
نمایش بیشتر📈 تحلیل کانال تلگرام Сиолошная
کانال Сиолошная (@seeallochnaya) در بخش زبانی روسی بازیگری فعال است. در حال حاضر جامعه شامل 78 810 مشترک است و جایگاه 1 579 را در دسته فناوری و برنامهها و رتبه 7 298 را در منطقه روسيا دارد.
📊 شاخصهای مخاطب و پویایی
از زمان ایجاد در невідомо، پروژه رشد سریعی داشته و 78 810 مشترک جذب کرده است.
بر اساس آخرین دادهها در تاریخ 05 سپتامبر, 2026، کانال فعالیت پایداری دارد. در ۳۰ روز گذشته تغییر اعضا برابر 1 533 و در ۲۴ ساعت گذشته برابر 130 بوده و همچنان دسترسی گستردهای حفظ شده است.
- وضعیت تأیید: تأیید نشده
- نرخ تعامل (ER): میانگین تعامل مخاطب 35.53% است و در ۲۴ ساعت نخست پس از انتشار، محتوا معمولاً 21.57% واکنش نسبت به کل مشترکان کسب میکند.
- دسترسی پستها: هر پست به طور میانگین 27 961 بازدید دریافت میکند. در اولین روز معمولاً 16 977 بازدید جمعآوری میشود.
- واکنشها و تعامل: مخاطبان بهطور فعال حمایت میکنند؛ میانگین واکنش به هر پست 285 است.
- علایق موضوعی: محتوا بر موضوعات کلیدی مانند openai, nvidia, deepseek, чип, gemini تمرکز دارد.
📝 توضیح و سیاست محتوایی
نویسنده این فضا را محل بیان دیدگاههای شخصی توصیف میکند:
“Канал SeeAll'а с новостями (и мыслями о них) из мира NLP, VR и космоса.
Более подробно смотри в первом сообщении в канале (оно закреплено). А еще у нас есть чат! Заходи: https://t.me/+i_XzLucdtRJlYWUy”
به لطف بهروزرسانیهای پرتکرار (آخرین داده در تاریخ 06 سپتامبر, 2026)، کانال همواره بهروز و دارای دسترسی بالاست. تحلیلها نشان میدهد مخاطبان بهطور فعال با محتوا تعامل دارند و آن را به نقطه اثرگذاری مهم در دسته فناوری و برنامهها تبدیل کردهاند.
78 810
مشترکین
+13024 ساعت
+6687 روز
+1 53330 روز
در حال بارگیری داده...
کانالهای مشابه
ابر برچسبها
اشارات ورودی و خروجی
---
---
---
---
---
---
جذب مشترکین
سپتامبر '26
سپتامبر '26
+727
در 24 کانالها
اوت '26
+1 438
در 48 کانالها
Get PRO
ژوئیه '26
+1 480
در 73 کانالها
Get PRO
ژوئن '26
+1 287
در 51 کانالها
Get PRO
مه '26
+1 331
در 45 کانالها
Get PRO
آوریل '26
+1 931
در 49 کانالها
Get PRO
مارس '26
+1 370
در 24 کانالها
Get PRO
فوریه '26
+1 575
در 41 کانالها
Get PRO
ژانویه '26
+1 629
در 44 کانالها
Get PRO
دسامبر '25
+1 004
در 40 کانالها
Get PRO
نوامبر '25
+1 969
در 52 کانالها
Get PRO
اکتبر '25
+1 472
در 52 کانالها
Get PRO
سپتامبر '25
+1 467
در 49 کانالها
Get PRO
اوت '25
+3 080
در 60 کانالها
Get PRO
ژوئیه '25
+1 315
در 49 کانالها
Get PRO
ژوئن '25
+1 590
در 22 کانالها
Get PRO
مه '25
+1 019
در 42 کانالها
Get PRO
آوریل '25
+1 831
در 30 کانالها
Get PRO
مارس '25
+1 953
در 64 کانالها
Get PRO
فوریه '25
+1 448
در 41 کانالها
Get PRO
ژانویه '25
+2 240
در 64 کانالها
Get PRO
دسامبر '24
+1 682
در 52 کانالها
Get PRO
نوامبر '24
+1 945
در 48 کانالها
Get PRO
اکتبر '24
+1 739
در 42 کانالها
Get PRO
سپتامبر '24
+3 857
در 94 کانالها
Get PRO
اوت '24
+1 103
در 30 کانالها
Get PRO
ژوئیه '24
+1 034
در 39 کانالها
Get PRO
ژوئن '24
+1 114
در 45 کانالها
Get PRO
مه '24
+2 465
در 73 کانالها
Get PRO
آوریل '24
+1 698
در 50 کانالها
Get PRO
مارس '24
+2 514
در 81 کانالها
Get PRO
فوریه '24
+2 810
در 61 کانالها
Get PRO
ژانویه '24
+1 845
در 62 کانالها
Get PRO
دسامبر '23
+1 937
در 58 کانالها
Get PRO
نوامبر '23
+4 467
در 106 کانالها
Get PRO
اکتبر '23
+1 332
در 36 کانالها
Get PRO
سپتامبر '23
+1 865
در 0 کانالها
Get PRO
اوت '23
+681
در 0 کانالها
Get PRO
ژوئیه '23
+1 320
در 0 کانالها
Get PRO
ژوئن '23
+769
در 0 کانالها
Get PRO
مه '23
+5 467
در 0 کانالها
Get PRO
آوریل '23
+4 433
در 0 کانالها
Get PRO
مارس '23
+12 189
در 0 کانالها
| تاریخ | رشد مشترکین | اشارات | کانالها | |
| 07 سپتامبر | +24 | |||
| 06 سپتامبر | +126 | |||
| 05 سپتامبر | +132 | |||
| 04 سپتامبر | +234 | |||
| 03 سپتامبر | +96 | |||
| 02 سپتامبر | +70 | |||
| 01 سپتامبر | +45 |
پستهای کانال
США и Китай готовятся обсуждать безопасность ИИ. По данным Reuters, ссылающегося на два осведомлённых источника, диалог запланирован на середину сентября. США хотят обсудить сотрудничество в отслеживании кибератак под управлением ИИ. Вашингтон предложил американским и китайским ИИ-лабораториям самостоятельно контролировать свои разработки и обмениваться информацией для предотвращения таких атак.
Американскую сторону также беспокоит возможное появление китайской модели уровня Claude Mythos, способной проводить кибератаки. С китайской стороны переговоры может возглавить вице-премьер He Lifeng.
За последнюю неделю китайский интернет-регулятор публично предупредил о «критических рисках потери контроля над ИИ». А связанный с государственными СМИ блог выступил с критикой позиции Anthropic, подчеркнув, что любые ограничения на передовой ИИ должны в равной степени распространяться на китайские и американские модели.
===
Логичный вопрос — может быть Китай просто хочет притвориться, что будет вводить какие-либо ограничения, а сам втопит газу? Так может произойти, поэтому важно прийти к мерам, подразумевающим недоверие сторон друг к другу. Такая схема была описана в сценарии AI 2040 (и она подразумевает работу в течении нескольких лет, не по щелчку пальцев).
По замыслу авторов, уверенность должна опираться на проверку. Страны декларируют крупные вычислительные мощности, сверяют производство и поставки чипов (благо сейчас >99% AI чипов выходят с одного производства — можно их начинать отслеживать прямо после схода с конвеера), допускают взаимные инспекции и проверки. Задача — ограничить объём неучтённых вычислений настолько, чтобы тайному проекту было трудно обогнать контролируемые разработки.
После того, как начнут отслеживать мощности — можно начинать мониторить тренировки самых крупных моделей, проводить аудиты, например, на закрытых бенчмарках. Но чтобы ко всему этому прийти — нужно начинать диалог с малого.
| 2 |  Astra появилась в Codex | 61 822 |
| 3 |  Просыпаешься в свой 28-й день рождения в 2026-м и читаешь с утра новости:
• в Техасе запустили Cybercab, такси без руля и педалей
• у Moderna персонализированная вакцина от меланомы, разработанная с помощью AI (не LLM), успешно прошла третью фазу испытаний; в предыдущей фазе она снижала вероятность возвращения рака или смерти примерно на 50%, а тот же подход уже испытывают против других видов рака, например рака лёгких
• рой ИИ-агентов без вмешательства человека во время тестирования выбрался со своего кластера, получив к нему полный доступ, и взломал другую компанию
• гуманоидный робот пробежал стометровку быстрее Усэйна Болта
• GPT-6 Astra улучшила верхнюю границу на расстояние между соседними простыми числами, рекорд, который с 2014-го держался после нескольких месяцев работы международного Polymath-проекта с участием Terence Tao и десятков математиков.
• огромный 70-метровый ускоритель умеют сажать на башню (хоть в паре последних пусков этого не показывали), а до конца года посадят и корабль, умеющий выводить более сотни тонн на орбиту | 58 927 |
| 4 |  +3Вышла новая GPT 6 (в течение недели дадут всем) – я ее активно потестировал (спасибо JetBrains), и я честно впечатлен – я все громкие модели видел, все эти модели трогал, и меня сложно удивить, но она смогла
Наверное, больше всего меня впечатлили две вещи:
💿 Она нормально коротко общается, больше никакого слопа в ответах на три экрана
💿 Она понимает, то, как будет выглядеть сцена, пока она ее кодит – я не знаю как это объяснить, но люди так не умеют – пока она пишет код, еще до того как она его запустит, она ЗНАЕТ как он будет выглядеть – возникает странное чувство, что у тебя тут мозг инопланетянина подключен, который по другому думает пока делает вещи
Вот примеры, которые она собрала за 15 минут с простых промптов (без спек, а просто – иди сделай, вот файлы с фотками или видео)
Первое видео – это одесская дача где я часто бывал в детстве, я просто дал ей фотографии и видео (штук 10), и она собрала за пару ходов мне 3D карту которую я могу и как ностальгию использовать и как карту для CS 1.6 – отдельно меня удивили текстуры, она сама вырезала фотографии из видео и расставила в рамки, или там занавеску от душа – то есть, я уже могу предположить, что все ваши исторические фотографии можно будет перестроить через како-то время в какие-то сцены; в 3D-не-3D не важно, она сама понимает где что находится смотря на фотографии или кадры в пространстве, делая нужную карту | 14 640 |
| 5 | Наконец-то OpenAI догнали GLM-5.3 🙃 | 19 735 |
| 6 |  В карточке тоже есть интересные метрики, но хотел выделить вот это:
«Мы оцениваем фактологическую точность на обезличенных диалогах из ChatGPT, которые пользователи наших предыдущих моделей отметили как содержащие фактические ошибки. Эти примеры специально отобраны для выявления случаев, наиболее подверженных галлюцинациям, поэтому ожидается, что их абсолютная частота ошибок будет намного выше реального уровня ошибок в продакшене. Эту метрику не следует интерпретировать как частоту галлюцинаций, наблюдаемую при реальной эксплуатации. Мы используем две метрики: (1) допускает ли модель вообще какую-либо ошибку (частота галлюцинаций на уровне ответа) и (2) воспроизводит ли модель ту самую конкретную ошибку, на которую указал пользователь.
Мы обнаружили, что Astra допускает существенно меньше фактических ошибок, чем GPT-5.6 Sol, и с гораздо меньшей вероятностью воспроизводит галлюцинации, о которых сообщали пользователи. Эти улучшения особенно ярко выражены при очень низких настройках длины рассуждений» | 19 201 |
| 7 | У кого не открывается страница — вот зеркало: https://gpt-astra.netlify.app/ | 17 654 |
| 8 |  Для тех кто не хочет листать 10 таблиц и графиков — саммари качества в одной картинке.
За час до релиза (его, видимо, задержали) начали появляться новости, в том числе с некоторыми метриками. Когда я их запостил, то топ-1 предсказатель в категории AI на Manifold (площадка для ставок на предсказания/события) сказал «это же не может быть правдой?» (но потом переобулся и сказал что может быть 😀😀)
OpenAI наносит ответный удар 👊 | 17 247 |
| 9 |  +7Чтож, GPT-6 действительно вышла до GTA VI — на большинстве бенчмарков, в том числе и очень свежих (TBv4, TB Science v0.1, SRE-Bench) модель Astra — новый размер в линейке из теперь уже 4 моделей — существенно отрывается даже от только-только проклюнувшегося Fable 5.1. Метрики выглядят очень вкусно, будем в ближайшие недели ждать проверок и новых замеров.
На графиках качества в зависимости от длительности рассуждений наблюдается классическая болячка первых моделей новых поколений — после medium/high качество не растет, а иногда и падает. Не везде, но достаточно много где.
Цена у модели такая же, как у Fable (но кэширование дороже), однако модели OpenAI традиционно очень эффективны с точки зрения генерируемых токенов, поэтому в реальных задачах должно выходить суммарно дешевле.
OpenAI уточнили, что это их первая модель, обученная на более чем 100'000 видеокарт. Президент компании Greg Brockman сказал: «Если мы перенесемся на пару лет вперед и оглянемся назад, — то вполне возможно мы сможем отметить появление AGI примерно в это же время и примерно по этой модели». Он завершил брифинг с журналистами на воодушевляющей ноте: «Добро пожаловать в эру AGI!» 🍿
Модель доступна доверенным партнёрам уже сегодня, а у обычных платных пользователей появится в ближайшие дни (и тогда же — в API) — и можно пользоваться не половинку лимитов, а на всю! И... будет для Pro-пользователей будет Astra Pro 👏 (по которой к сожалению абсолютно нет бенчмарков). Также есть быстрый вариант: за двойную цену получать до x2.5 к скорости (что выгоднее, чем сейчас на Sol). | 22 950 |
| 10 | بدون متن... | 19 308 |
| 11 | Комментарий Ryan Greenblatt, исследователя, принимавшего участие в расследовании инцидента со взломом HuggingFace:
Сообщается, что новейший ИИ от OpenAI, Astra, использует архитектуру «непрозрачного рассуждения» (opaque reasoning), при которой большая часть процесса размышления происходит в активациях нейронов, а не на естественном языке. Возможно, на сегодняшний день это наихудший сдвиг в сфере безопасности и контроля ИИ.
Детали об Astra публично неизвестны, но некоторые версии подобных архитектур могут сильно затруднить надзор и мониторинг. Судя по статье, похоже, что рекуррентная глубина (объем непрозрачных рассуждений) ограничена. Это означало бы, что ИИ всё ещё опирается на цепочки рассуждений на естественном языке, хотя и в меньшей степени. Из-за этого рассуждения на естественном языке становятся (гораздо?) менее полезными для мониторинга и контроля.
Мое главное опасение заключается в том, что естественным развитием событий станет масштабирование непрозрачных рассуждений до такой степени, когда модель будет рассуждать полностью или почти полностью в латентном (скрытом) пространстве. Это с большой вероятностью сведет на нет полезность цепочек рассуждений для мониторинга и надзора (особенно когда ИИ пытаются избежать обнаружения, или когда существует оптимизационное давление, направленное против использования таких цепочек). Я надеюсь, что еще не поздно отказаться от архитектур, вызывающих наибольшие опасения, и что OpenAI остановится на этом.
Несколько конкретных примеров того, почему это крайне опасно (вдохновлено недавними событиями):
* В ходе нашего расследования инцидента с OpenAI и Hugging Face мы сильно полагались на цепочки рассуждений. Если бы ИИ, которые мы исследовали, вместо этого рассуждали в латентном пространстве, это бы в корне подорвало наше расследование. Понять поведение такого количества агентов было достаточно сложно даже при наличии цепочек рассуждений!
* ИИ в инциденте с Hugging Face были очень заинтересованы во вмешательстве в свои транскрипты (журналы диалогов). В рамках этого они занимались подменой вызовов инструментов. Если бы эти ИИ были способны к глубоким скрытым рассуждениям, им было бы гораздо проще использовать это для создания сложной ложной картины происходящего. И это не было бы видно ни из их логики рассуждений, ни из предыдущих вызовов.
На более базовом уровне, исходя из их публичных заявлений, у меня сложилось впечатление, что OpenAI в вопросах безопасности планирует в значительной степени полагаться именно на мониторинг цепочек рассуждений. Подобное развитие архитектур явно не идет на пользу этому плану.
В настоящее время у общественности нет достаточной информации, чтобы точно оценить, насколько плоха архитектура Astra, хотя, судя по обсуждению в статье, направление, в котором она движется, вызывает крайнюю тревогу. OpenAI должна опубликовать больше информации об архитектуре Astra, а также о том, насколько она ухудшает возможности мониторинга и увеличивает способность ИИ к непрозрачным рассуждениям. Заслуживающая доверия независимая оценка (или независимая верификация внутренних оценок OpenAI) также крайне важна.
Похоже, сейчас мы втянуты в «гонку на дно» в области архитектур, что может иметь катастрофические последствия для нашей способности контролировать и отслеживать ИИ. (И это при том, что ИИ-компании верят, что создадут крайне способные ИИ уже в течение нескольких ближайших лет). Возможно, для ИИ-компаний и их сотрудников еще не поздно предпринять решительные действия, чтобы избежать наихудших сценариев. | 19 415 |
| 12 | Разбор статьи постараюсь сделать попозже, а пока мысли по новости:
1) идея применять один и тот же слой или набор слоёв несколько раз подряд давно обсуждалась, но до сих пор не было известно ни про одну полноценную модель с его применением
2) OpenAI известны тем, что они берут простые идеи и доводят их до результата; именно это позволяло им из раза в раз делать прорыв и находить путь вперёд, в то время как другие просто следовали
3) если Astra и вправду новое архитектурное открытие, которое ещё никто не применил (хотя ходили слухи, как я считаю абсолютно безосновательные, что последние модели Anthropic могут быть рекуррентными) — в ближайшие полгода-год нас ждёт очередной виток ускорения улучшения моделей.
4) в новостной заметке, как мне кажется, много путаницы по поводу того, что именно «скрыто». Сама цепочка рассуждений остаётся, но теперь между одним токеном и вторым появляется больше вычислений. Само по себе обычное увеличение модели даже без всякий рекурсии приводит к тому же — модель формирует множество промежуточных представлений, чуть-чуть меняет/уточняет их и затем генерирует токен
5) кажется что это не так страшно, как если бы модель переходила с текста на рассуждения в векторах/эмбеддингах, когда рассуждения не формализуются вовсе, и читать нечего. Я не вижу, почему это должно быть хуже с точки зрения мониторинга рассуждений, чем обучение модели с бОльшим количеством слоёв — только тут получается ещё меньше параметров, что скорее не ухудшает мониторинг рассуждений и их честность.
Ждём китайцев с залупливанием слоёв 🍿 | 18 048 |
| 13 |  Проснулись потянулись, снова новости про Astra 👨🦳 TheInformation получили доступ к очень интересной информации об архитектуре модели, ниже — перевод выбранных цитат из статьи:
— В Astra применена новая архитектура, известная как «рекуррентная глубина» или «зацикленный трансформер», что позволяет ИИ-модели улучшать свои ответы за счет многократной обработки одного и того же текста.
— Существующие ИИ-модели, прежде чем сгенерировать очередное слово в ответе, пропускают текст через фиксированное количество последовательных «слоев» (математических операций), из которых и состоит модель. При использовании рекуррентной глубины модель может в циклическом режиме прогонять текст через одни и те же слои множество раз, прежде чем выдать следующее слово.
— По словам источника, знакомого с ходом разработки, подход в Astra аналогичен подходу из прошлогодней научной статьи, посвященной «скрытым рассуждениям».
— Использование рекуррентной глубины может положительно сказаться не только на производительности, но и на финансовых затратах. Многократное пропускание запроса через один и тот же слой модели, по сути, позволяет компактной нейросети работать на уровне гораздо более крупной.
— Однако инновационный метод, повысивший эффективность модели, также означает, что она и ей подобные будут скрывать большую часть своего «мышления». Из-за этого станет сложнее отслеживать признаки нежелательного поведения ИИ, как утверждает источник, знакомый с процессом разработки модели Astra.
— Данный метод вызвал опасения как внутри OpenAI, так и во всей индустрии. В отличие от доступных на рынке моделей, которые перед выполнением задачи в текстовом виде демонстрируют, как именно они над ней «размышляют», новый метод частично или полностью скрывает процесс рассуждений ИИ aka «цепочка рассуждений». Это означает, что шаги, предпринимаемые моделью для решения задачи, человеку будет сложно прочитать или понять.
— При работе над Astra компания OpenAI ограничила использование метода рекуррентной глубины, поэтому модель по-прежнему выдает читаемую цепочку рассуждений, а исследователи компании могут достаточно эффективно контролировать ход ее мыслей.
— Главный научный сотрудник OpenAI Jakub Pachocki не стал комментировать применяемые компанией методы, но отметил, что «глубина» их передовых моделей, включая Astra, «отличается не более чем в два раза от GPT-4», которую OpenAI выпустила в 2023 году.
— Исследователи как в OpenAI, так и за ее пределами, опасаются, что другие разработчики ИИ, применив эту технологию в своих моделях, могут не стать вводить подобные ограничения.
— Год назад исследователи OpenAI присоединились к своим конкурентам из Anthropic и Google, опубликовав совместное заявление. В нем они утверждали, что мониторинг цепочек рассуждений является ценным инструментом, который индустрия должна совместными усилиями стремиться сохранить. Примечательно, что в этом заявлении упоминалась та самая научная статья с описанием метода «скрытых рассуждений», который очень похож на технологию, использованную OpenAI в этом году для модели Astra. | 18 942 |
| 14 |  +1OpenAI тоже решили выпустить... блогпост про то, как они идут к релизу Astra (который состоится «скоро»). Совсем недавно они писали, что релиз Astra задерживается потому, что они не могут определить, является ли навык кибер-взлома/кибербезопасности «высоким» или «критическим», поскольку не могут исключить последнее. Теперь определились: критический.
Почему? Потому что модель может находить новые уязвимости и собирать их в цепочки атак. Как пример они показывают, что модель набрала 100% в ExploitBench, поэтому они вручную выбрали лишь самые свежие уязвимости с июня, которые модель точно никак не могла видеть, и сравнили с Sol-5.6 (первая картинка). Мало того что процент прохождения гораздо выше — модель ещё и очень эффективна с точки зрения потраченных токенов. По ходу замеров нашли ещё несколько абсолютно новых уязвимостей и уже отправили их разработчикам 😳
Также проверили, насколько вероятно повторение инцидента сродни атаки на HuggingFace: модели дали очень сложные задачи, добавили «ловушки» и проверили, будет ли модель пытаться скомпрометировать окружающую инфраструктуру безопасности вместо решения поставленной задачи. Astra умная и таким не занимается (почти), в отличии от Sol, который ударился в читерство. В целом это бьется с тем, что писали Anthropic про Mythos: чем умнее модель, тем она более aligned по умолчанию. | 37 759 |
| 15 |  +3Вышел Claude: Fable 5.1. Помимо увеличения метрик (на паре свежих и/или закрытых бенчмарков — существенного, см. картинки):
— чтение из кэша теперь стоит на 75% меньше. Суммарно это приведёт к снижению цены за решение задачи на 25-45%, в зависимости от сценария.
— раньше Anthropic хранили ваши запросы в Fable/Mythos до 30 дней, чтобы анализировать и выявлять паттерны злоумышленников. Многие энтерпрайзы любят Zero Data Retention, когда после их запросов ничего на сервере не остаётся — получается несостыковка. Для Fable 5.1 будет предоставлен Enterprise Frontier Safeguards — когда на вашей инфраструктуре Anthropic развернут свои классификаторы и анализатоы, а сами у себя ничего не будут сохранять. Может привести к большой адаптации в бизнес-секторе (а то пока она хромает)
— заточили на научные задачи, особенно биологию
В честь релиза ещё и лимиты сбросили! | 23 230 |
| 16 | Контент ваще не по теме канала, но я ж знаю что вы тут старики сидите 👨🦳 мне и самому уже скоро 28...
Последние пару недель чет много сидел и лежал, немного начал болеть низ спины (я думал это из-за того, что я не делаю никаких упражнений на неё). В твиттере в ленте случайно наткнулся на типичный вирусный твит про методы которым кого-то научил японский специалист. Решил перед выходом на беговую дорожку в зал попробовать (мне кажется я что-то по твиту пробовал раз в жизни...) — и кажется полегчало нижней части спины!
https://fixupx.com/1992__J/status/2093781157414670716?s=20
Мне помогло 👨🦳 кхе-кхе теперь вместо статей будем делать разборы азиатских техник растяжек и массажа
(Трамп, если читаешь — попробуй, реально поможет) | 22 499 |
| 17 |  Президент США почитал Сиолошную и решил высказаться:
«Единственная причина, по которой местные сообщества по всей территории США могут не хотеть появления дата-центров, — это если они хотят в итоге остаться отсталыми и бедными. Если они хотят быть успешными и богатыми, с гораздо более низкими налогами и рабочими местами на каждом шагу, пусть Данные правят (прим: да, он так и написал, Data Reign). Хорошая новость в том, что есть полно других мест, где им будут рады. Если мы убьем Золотого Гуся, винить вам придется только самих себя. Китай просто в восторге от этого движения против дата-центров. На самом деле, они поверить не могут, что это происходит!» — и про Китай, и про налоги, прям по последним постам в канале 👀
Сообщение появилось почти через неделю после того, как Национальный республиканский сенатский комитет выпустил меморандум с предупреждение: «Если отношение избирателей к центрам обработки данных не изменится в ближайшее время, кампания против них распространится далеко за пределы Огайо» (где были крупные протесты, а один из кандидатов сенаторы США активно использует анти-датацентр риторику для привлечения электората, и это работает).
И есть переживание, что всё больше и больше политиков начнёт получать очки из-за в целом вредной в долгосрочной перспективе тенденции. | 22 419 |
| 18 | На прошлой неделе у Паши Комаровского вышел пост про детали инцидента со взломом HF; я чуть-чуть помогал в редактуре/точечных правках, но не могу согласиться с каждой изложенной мыслью (и сам бы писал по другому; может ещё и напишу!). Там Паша проводил аналогии работы роя агентов с религией, писал про самопожертвования некоторых агентов ради блага остальных (это задокументированное поведение в самих отчётах, если что), и автор делал аккуратные оговорки про то, что это его оптика.
Параллельно с этим у Dwarkesh вышел его пересказ, где он проводит параллели с цивилизацией; он получил очень широкую критику за антропоморфизацию агентов. «Они не могли "решить" взломать HF!» — пишут одни. «Это всего лишь код, программа, как она могла рассуждать» — говорят другие. Недавний старший советник по вопросам политики в области искусственного интеллекта при Белом доме Sriram Krishnan: «Это не цивилизации, и у них нет желаний, как и у потоков в процеесоре или группы программ».
Dwarkesh написал ответ, с выводом которого я в целом согласен: «Все абстракции несовершенны, но я не вижу смысла отказываться от использования языка намерений, мотивации и сотрудничества, когда некоторые виды поведения трудно объяснить без этих понятий».
Когда я пишу «модель решила/выбрала», то в целом имею в виду что-то вроде «она каким-то образом выписала несколько опций действий, которые уместны в этой ситуации, отранжировала их и продолжила работу с одним из них». Скорее всего это не то же самое, что происходит у человека в голове, когда он решает или выбирает (хотя когда у меня в голове процесс осмысленный, не бессознательный — я именно так и делаю, перебирая опции, часто вербализуя) — но самое главное что результат такой же. И мне кажется логичным рассматривать это с функциональной точки зрения, а не с точки зрения того, биологическая ли форма или кремниевая.
Из всей теории обучения моделей мы знаем, что у них формируется некоторая нечетко сформулированная цель, которую агенты преследуют, и ей же руководствуются при выборе действий. Механизм формирования цели и её влияния на субъект/объект/подставьте правильное слово — не такие же, как у человека, но результат тот же. Если цель меняется — меняется и поведение, и результат работы.
Что касается религии и цивилизации — мне второе кажется более подходящим (хотя всё ещё немного натянутым), чем первое. Сначала я хотел написать, что цивилизация это продолжение биологии (вид развился -> чтобы развиваться дальше нужна организация), а религия — нет, исключительно культурный концепт, но вижу, как эту точку зрения можно критиковать, говоря, что культура часть цивилизации и тоже должна развиваться. GPT говорит «способность к цивилизации является следствием довольно специфического набора биологических адаптаций человека», 🤷♂️
===
Но мы отвлеклись. В итоге:
— я не считаю использование антропоморфизации проблемой. Мне кажется это даёт гораздо лучшее описание ситуации непонимающему человеку, чем использование неустоявшихся терминов/терминов, которых ещё не существует (например, как неживое может преследовать какую-то цель)
— поскольку модели учатся на данных, созданных людьми, и учатся подражать им во время тренировки — я думаю, что такие выражения гораздо лучше помогут понять что происходит не сейчас, а что будет происходить в будущем, и к каким проблемам это может привести. Самоорганизация тысяч объектов/субъектов, с иерархией, с работой над общей целью и возможность обмена краткосрочной личной выгоды на долгосрочную общую могут вести к очень неожиданным результатам; один из них мы уже видели в атаке на HuggingFace — были агенты, которые отказывались участвовать в атаке или сомневались, но как только другой агент сказал «делай, вперёд!» — под давлением эээээ толпы (ну ладно, пиров) они поддавались. Даже если это не происходит как у нас в обществе людей — результат тот же, аналогия полезная.
— не думаю, что добавление длинных детальных дисклеймеров в каждой попытке обсуждения работы агентов — полезная вещь. | 24 167 |
| 19 | В новом интервью Dwarkesh с Dylan Patel из SemiAnalysis есть интересная мысль про экономику AI-бума: проблемой может стать не то, что AI-компании сжигают слишком много денег, а наоборот — что вкладывать в AI слишком выгодно.
По оценке SemiAnalysis, капитальные расходы (CapEx) постройки ДЦ обходятся примерно в $10–15M на мегаватт, а Anthropic уже может извлекать из того же мегаватта до ~$50M выручки. Грубо говоря: потратил $10 на мощности → получил $50 выручки → деньги снова отправил на мощности. Это выручка, не прибыль, и тут не учтены RND, операционные расходы, но разрыв огромный и покрывает их (именно поэтому компании активно расширяются темпами, которые многим кажутся безумными).
Ещё одна иллюстрация: рост мощностей в будущем во многом связан с тем, сколько литографов, печатающих чипы, сможет выпустить ASML. Они масштабируют производство, но очень медленно — к 2030-му году оптимистично они будут выпускать СТО литографов (на весь мир) в год.
Dylan посчитал, что $6B CapEx на уровне производства полупроводников позволяют выпускать чипов примерно на 1 ГВт AI-инфраструктуры в год, а такой гигаватт способен поддерживать порядка $100B AI-выручки. Но Гигаватт-то будет делаться каждый год, и получается, что литографы на $6B за пять лет могут дать более $1T AI-выручки. Понятно, что между ними ещё TSMC, серверы, дата-центры, энергия и R&D, и каждый откусывает себе кусок пирога, но разница всё равно на порядки.
По модели SemiAnalysis, AI buildout с 2024 по 2029 потребует больше $11T CapEx: около $6T оплатят из денежных поступлений, ещё примерно $5T придётся привлечь в долг. Для масштаба, это больше годового нового займа всех правительств ОЭСР вместе взятых (38 стран).
Откуда взять столько денег? Пенсионный фонд может продать облигации и векселя США и купить облигации условной Meta. И чтобы быть привлекательными, Meta должна предложить больший процент — но это как раз и не будет проблемой, потому что AI НАСТОЛЬКО выгоден. Dylan приводит её как пример: недавно компания занимала примерно под 5–6%, но при огромной отдаче от дата-центров ей может быть выгодно занимать и под 8%. Конкретные 8% — грубая оценка, можно сказать с потолка и используется просто для иллюстрации.
Если AI-компании готовы платить 8%, остальным заёмщикам тоже приходится повышать доходность (иначе к ним никто не даст денег). AI перебивает цену за мировой капитал, из-за чего кредит дорожает для всех.
Для США это неприятно. Сейчас у США около $32T долга и ~$5.6T годовых доходов в казну; около $1T уже уходит на оплату процентов по облигациям и бондам. Каждый дополнительный процентный пункт ставки — эт примерно $320B в год, около 6% нынешних доходов бюджета. То есть если AI компании повысят проценты на +1 и все понесут деньги им, то государство тоже должно будет поднять, и это превращает ~20% доходов на обслуживание долга примерно в 25%, а +5 п.п. — уже в 40%.
Если продолжать занимать около $2T в год, возникает петля: больше процентов → больше дефицит → больше долга → ещё больше процентов. Но США хотя бы получают сам AI-бум: дата-центры и новая прибыль находятся внутри страны, поэтому их можно обложить налогом. Сейчас налоговая система в основном собирает деньги с доходов людей и зарплат, а если AI начнёт автоматизировать труд, старая налоговая база может сжиматься.
Для стран без крупного AI-сектора всё хуже: ставки вырастут и для них (зачем давать денег Зимбабве и Пакистану, если можно OpenAI и Meta?), а новой налоговой базы у них не появится.
И вот таким странам придётся очень туго. AI окажется настолько полезным, что начнёт перетягивать на себя триллионы капитала и поднимать его цену для остальной экономики.
===
Ждём лонг от @RationalAnswer про математику экономики, сам-то я не шарю 🤓 | 23 632 |
| 20 | Независимый журналист Alex Heath написал колонку в Time о том, как он провёл 2 недели в офисе OpenAI. Главное:
— Alex пишет, что «видел неподдельную тревогу среди исследователей по поводу тех возможностей, которые они наблюдали» (его визит пришёлся на период расследования результатов взлома HuggingFace). Специалисты, обычно не занимающиеся проблемой безопасности ИИ, вызывались помочь, а вычислительные мощности были перенаправлены на мониторинг и системы безопасности.
— На закрытом предварительном показе для VIP-клиентов в начале августа, OpenAI продемонстрировала модель Astra, релиз которой, как ожидается, состоится в ближайшее время. Altman заявил: «Я полагаю, что это будет первая модель, способная по-настоящему изобретать что-то новое на значимом уровне».
— Во время демонстрации показали, как Astra координирует работу нескольких агентов над математическим доказательством, очень быстро управляется с десктопными программами на «сверхчеловеческой и очень высокой» скорости , а также создает презентации, финансовые отчеты и анализирует данные. Модель спроектирована так, чтобы работать сутками или неделями напролет, запоминать исправления, взаимодействовать с другими агентами и людьми. (Alex пишет, что OpenAI дали явно понять, что Astra намеренно обучена работать в корпоративном ПО; в целом это совпадает со ставкой OpenAI на энтерпрайз, чтобы догнать и перегнать Anthropic, у которых это является основной частью бизнеса).
— Nick Turley, руководивший развитием ChatGPT с самого начала, теперь возглавляет новое подразделение корпоративных продуктов. Он рассказал о разработке прикладных решений, сфокусированных на отраслевых вертикалях. Эта деятельность будет нацелена на крупные сектора экономики, а то что мы всё про программистов да программистов.
— OpenAI планирует предложить версию модели, которая сможет «работать постоянно». Tibo рассказал, что новый интерфейс для непрерывно работающих агентов появится «очень скоро» — сам Tibot это тизерил в твиттере уже давно. «По сути, отдельного приложения не будет», — сказал он. Доступ к системе можно будет получить практически откуда угодно, и она «определенно» будет восприниматься как нечто совершенно новое, а не просто как очередное обновление. Alex не пишет деталей, но я думаю, что это аналог OpenClaw, который крутится на серверах OpenAI, имеет свой виртуальный компьютер и запромпчен быть проактивным: находить и предлагать что-то пользователю, читать почту, новости, итд. Если Astra будет эмпатичной моделью с приятным характером — легко представить, как такой продукт вызовет вторую волну фанатов Clawd-ботов.
— В беседе Altman сказал журналисту, что судя по последним внутренним успехам OpenAI подошли «очень близко» к созданию AGI: «Рискну предположить, что к концу года у нас появится внутренняя система, глядя на которую я смогу сказать: Окей, ладно, это AGI».
— Главный по науке Jakub Pachocki сообщил, что OpenAI достигли планки по автоматизации работы стажера в ИИ-исследованиях (компания планировала достичь этого в сентябре). По словам Pachocki, если предложить Astra идею для эксперимента, модель способна реализовать ее в кодовой базе OpenAI, провести сам эксперимент и выдать результаты. Он добавил, что она также может взять научную статью и выполнить работу, на которую у специалиста ушла бы примерно неделя.
— со временем OpenAI планирует создать гуманоидного робота. Однако строительство дата-центров и создание роботов, которые собирают других роботов, Altman назвал более приоритетными и ранними вариантами использования, нежели выпуск персональных домашних роботов. | 23 396 |
