Малоизвестное интересное
前往频道在 Telegram
Авторский взгляд через призму новейших исследований на наше понимание реальности, человеческой сущности и того, как ИИ меняет их. Зарегистрирован в РКН. Зеркало канала - https://dzen.ru/the_world_is_not_easy Рекламы и ВП в канале нет. Пишите на @karelovs
显示更多📈 Telegram 频道 Малоизвестное интересное 的分析概览
频道 Малоизвестное интересное (@theworldisnoteasy) 俄语 语言赛道中的 是活跃参与者。目前社区聚集了 73 923 名订阅者，在 事实 类别中位列第 179，并在 俄罗斯 地区排名第 7 806 位。
📊 受众指标与增长动态
自 невідомо 创建以来，项目保持高速增长，吸引了 73 923 名订阅者。
根据 28 九月, 2026 的最新数据，频道保持稳定运转。过去 30 天订阅人数变化为 -63，过去 24 小时变化为 -21，整体触达仍然可观。
- 认证状态： 未认证
- 互动率 (ER)： 平均受众互动率为 18.74%。内容发布后 24 小时内通常能获得 7.14% 的反应，占订阅者总量。
- 帖子覆盖： 每篇帖子平均可获得 13 857 次浏览，首日通常累积 5 277 次浏览。
- 互动与反馈： 受众积极参与，单帖平均反应数为 155。
- 主题关注点： 内容集中在 разум, llm, agi, клетка, физика 等核心主题上。
📝 描述与内容策略
作者将该频道定位为表达主观观点的平台：
“Авторский взгляд через призму новейших исследований на наше понимание реальности, человеческой сущности и того, как ИИ меняет их. Зарегистрирован в РКН. Зеркало канала - https://dzen.ru/the_world_is_not_easy
Рекламы и ВП в канале нет.
Пишите на @kar...”
凭借高频更新（最新数据采集于 29 九月, 2026），频道始终保持新鲜度与高覆盖。分析显示受众积极互动，使其成为 事实 类别中的关键影响点。
73 923
订阅者
-2124 小时
-637 天
-6330 天
数据加载中...
吸引订阅者
九月 '269月 '26
九月 '26
+274
在24个频道中
八月 '26
+362
在36个频道中
Get PRO
七月 '26
+338
在38个频道中
Get PRO
六月 '26
+389
在52个频道中
Get PRO
五月 '26
+684
在54个频道中
Get PRO
四月 '26
+302
在29个频道中
Get PRO
三月 '26
+955
在46个频道中
Get PRO
二月 '26
+1 158
在52个频道中
Get PRO
一月 '26
+794
在56个频道中
Get PRO
十二月 '25
+649
在54个频道中
Get PRO
十一月 '25
+335
在47个频道中
Get PRO
十月 '25
+662
在76个频道中
Get PRO
九月 '25
+636
在83个频道中
Get PRO
八月 '25
+432
在52个频道中
Get PRO
七月 '25
+381
在39个频道中
Get PRO
六月 '25
+732
在70个频道中
Get PRO
五月 '25
+778
在76个频道中
Get PRO
四月 '25
+1 208
在67个频道中
Get PRO
三月 '25
+859
在59个频道中
Get PRO
二月 '25
+770
在56个频道中
Get PRO
一月 '25
+1 344
在77个频道中
Get PRO
十二月 '24
+1 855
在86个频道中
Get PRO
十一月 '24
+2 860
在119个频道中
Get PRO
十月 '24
+797
在46个频道中
Get PRO
九月 '24
+607
在50个频道中
Get PRO
八月 '24
+646
在61个频道中
Get PRO
七月 '24
+453
在52个频道中
Get PRO
六月 '24
+415
在45个频道中
Get PRO
五月 '24
+531
在48个频道中
Get PRO
四月 '24
+617
在60个频道中
Get PRO
三月 '24
+1 257
在81个频道中
Get PRO
二月 '24
+1 140
在56个频道中
Get PRO
一月 '24
+743
在71个频道中
Get PRO
十二月 '23
+737
在61个频道中
Get PRO
十一月 '23
+2 921
在114个频道中
Get PRO
十月 '23
+1 544
在41个频道中
Get PRO
九月 '23
+989
在0个频道中
Get PRO
八月 '23
+1 302
在0个频道中
Get PRO
七月 '23
+1 613
在0个频道中
Get PRO
六月 '23
+1 086
在0个频道中
Get PRO
五月 '23
+1 308
在0个频道中
Get PRO
四月 '23
+2 286
在0个频道中
Get PRO
三月 '23
+2 995
在0个频道中
Get PRO
二月 '23
+3 344
在0个频道中
Get PRO
一月 '23
+1 483
在0个频道中
Get PRO
十二月 '22
+1 592
在0个频道中
Get PRO
十一月 '22
+624
在0个频道中
Get PRO
十月 '22
+1 792
在0个频道中
Get PRO
九月 '22
+3 613
在0个频道中
Get PRO
八月 '22
+2 858
在0个频道中
Get PRO
七月 '22
+1 108
在0个频道中
Get PRO
六月 '22
+810
在0个频道中
Get PRO
五月 '22
+1 051
在0个频道中
Get PRO
四月 '22
+582
在0个频道中
Get PRO
三月 '22
+1 162
在0个频道中
Get PRO
二月 '22
+262
在0个频道中
Get PRO
一月 '22
+2 895
在0个频道中
Get PRO
十二月 '21
+1 758
在0个频道中
Get PRO
十一月 '21
+402
在0个频道中
Get PRO
十月 '21
+749
在0个频道中
Get PRO
九月 '21
+410
在0个频道中
Get PRO
八月 '21
+942
在0个频道中
Get PRO
七月 '21
+1 337
在0个频道中
Get PRO
六月 '21
+557
在0个频道中
Get PRO
五月 '21
+1 261
在0个频道中
Get PRO
四月 '21
+276
在0个频道中
Get PRO
三月 '21
+698
在0个频道中
Get PRO
二月 '21
+346
在0个频道中
Get PRO
一月 '21
+693
在0个频道中
Get PRO
十二月 '20
+28 696
在0个频道中
| 日期 | 订阅者增长 | 提及 | 频道 | |
| 29 九月 | +5 | |||
| 28 九月 | +3 | |||
| 27 九月 | +10 | |||
| 26 九月 | +6 | |||
| 25 九月 | +3 | |||
| 24 九月 | +6 | |||
| 23 九月 | +14 | |||
| 22 九月 | +6 | |||
| 21 九月 | +12 | |||
| 20 九月 | +6 | |||
| 19 九月 | +13 | |||
| 18 九月 | +13 | |||
| 17 九月 | +3 | |||
| 16 九月 | +7 | |||
| 15 九月 | +9 | |||
| 14 九月 | +5 | |||
| 13 九月 | +13 | |||
| 12 九月 | +12 | |||
| 11 九月 | +9 | |||
| 10 九月 | +12 | |||
| 09 九月 | +19 | |||
| 08 九月 | +26 | |||
| 07 九月 | +13 | |||
| 06 九月 | +3 | |||
| 05 九月 | +5 | |||
| 04 九月 | +5 | |||
| 03 九月 | +9 | |||
| 02 九月 | +10 | |||
| 01 九月 | +17 |
频道帖子
Духу подбирают тело
Гуманоидный робот, хозяйничающий на кухне, заставляет по-новому взглянуть на древнюю идею переселения душ
В стэнфордском проекте HomeBody андроид Unitree G1, управляемый GPT Astra, убирает кухню, достает лекарство из ящика и вообще хозяйничает. Бытовая сцена, за которой мне видится вопрос с совсем небытовыми последствиями: обязан ли интеллект вырасти внутри того тела, которым будет действовать в физическом мире?
Роботом руководит мультимодальная модель. Она выбирает действия, опираясь на наблюдения и пространственную память, а готовые моторные навыки обеспечивают исполнение. По сообщению авторов, дополнительное обучение под конкретную кухню не понадобилось.
Что здесь важно. Модель не проживала младенчество в этом металлическом теле. Значительную часть своих способностей она приобрела заранее, обучаясь на материалах, созданных людьми. Все эти способности теперь включены в управление обретенным телом.
Чужой опыт стал основой собственных действий новой роботизированной сущности.
Проект HomeBody пока не доказывает универсальность такого переноса. Но позволяет усомниться в необходимости повторять биологический маршрут: от тела, осваивающего мир, к разуму, выросшему из этого освоения.
Здесь я предлагаю перекинуть мост от робототехники к киберанимизму Йоши Баха.
В этой концепции древнее понятие «дух» получает вычислительный смысл: самоорганизующийся программный процесс, реализованный в материи. Подобная организация позволяет живому существу поддерживать себя и действовать. Возможность ее искусственной реализации становится исследовательской гипотезой.
Если продолжить эту мысль, связь разума с конкретным телом может оказаться приобретаемой и изменяемой.
Тело может быть средой возникновения, развития и существования разума. Но может стать и позднее приобретенным способом его действия в мире.
Более того, для такого «вселения» интеллекту даже не обязательно перемещаться внутрь робота. В HomeBody модель работает удаленно. Ее вычислительный носитель и действующее тело находятся в разных местах.
Отсюда напрашивается следующий шаг. Один разум — несколько сменяемых тел. Или несколько тел одновременно. Древний образ переселения душ обретает инженерные очертания.
Однако, если говорить о подобном в контексте трансгуманистической «загрузки разума», то меняется сама задача. Там потребуется перенести организацию психической жизни на другой носитель. И здесь возникает трудность, которую метафора переселения скрывает.
Представьте, что вашу личность удалось абсолютно точно скопировать. Копия помнит ваше детство, любит ваших близких, мыслит как вы... А вы стоите рядом и смотрите на все это.
Кто из вас переселился?
Воспроизведение личности еще не объясняет продолжения вашего собственного существования. Даже если ваша копия обладает вашим сознанием, вопрос о том, сохранились ли именно вы, остается.
Стэнфордский HomeBody не решает проблему сознания. Но он дает повод рассмотреть первый переход: интеллект, сформированный вне конкретного тела, получает возможность действовать через него.
Дальше начинается неизведанная территория, где обретение нового тела отягощается требованием сохранить прежнего субъекта.
Подобрать духу другое тело может оказаться не так уж сложно. И мы, скорее всего, увидим подобное в ближайшее десятилетие. Но вот можно ли будет при этом однозначно установить, кто именно в новом теле проснулся, - большой вопрос.
#ВоплощенныйИнтеллект
| 2 |  Казино в предгорьях сингулярности
Самый короткий диагноз ИИ-индустрии поставил автор стратегии Трампа по ИИ, а ныне шеф сценаристов будущего в OpenAI
23 сентября Совбез ООН впервые провел заседание, целиком посвященное рискам все более способного ИИ. Альтман и Амодеи просили правительства договориться. Йошуа Бенжио, один из крестных отцов ИИ, назвал опасности «реальными и близкими» и предложил лицензировать передовые модели, как лицензируют атомную энергетику. Майкл Крациос, помощник Трампа и директор Управления научно-технической политики Белого дома, ответил, что США «полностью отвергают глобалистскую схему контроля над суперинтеллектом».
Итог обескураживает: индустрия просит у государства тормозов, а государство отвечает, что тормоза – это происки глобалистов.
Той же ночью по американскому времени появился твит, подводящий итог «битвы при Совбезе ООН» точнее всех читанных мною репортажей. Он набрал всего 4К+ просмотров – а зря, очень зря:
«playing with house money at the indian casino in the low foothills of the singularity»
«играем на деньги заведения в индейском казино в низких предгорьях сингулярности».
Соль в том, кто автор твита.
Дин Болл с июля возглавляет в OpenAI команду Strategic Futures – стратегических сценариев будущего. До этого он был старшим советником по ИИ в том самом управлении, которым руководит Крациос, и главным автором трамповского Плана действий по ИИ.
Получается, что вечером глава его бывшего ведомства объясняет миру, что никакого глобального контроля не будет. А ночью автор трамповской ИИ-стратегии, ныне сотрудник одной из двух ведущих лабораторий мира, описывает происходящее языком завсегдатая игорного зала.
Фраза собрана из трех метафор.
House money – деньги заведения. Так называют выигрыш, который игрок снова ставит на кон, уже отбив свое. Проигрывать его не больно, поэтому ставки растут, а осторожность отключается. Венчурные сотни миллиардов, оценки под триллион накануне IPO, контракты на вычисления, которые считают уже сотнями миллиардов долларов, – индустрия давно играет на чужие.
Indian casino – казино в резервации. Законы штата об азартных играх там не действуют, правила устанавливает само племя по договору со штатом. Для ИИ-индустрии точнее не придумаешь: рамки безопасности лаборатории пишут себе сами, а Белый дом только что объявил, что других рамок не будет. Вдобавок это провинция: никакого блеска Лас-Вегаса, игровые автоматы у трассы.
Low foothills of the singularity – самая ядовитая часть. «Предгорья сингулярности» – торжественная формула Хассабиса. Этой фразой глава Google DeepMind в мае закрыл конференцию Google I/O: однажды мы поймем, что стояли в предгорьях сингулярности, т.е. у точки, за которой развитие технологий перестает поддаваться прогнозу. Фраза стала мемом, и Болл тогда же назвал ее прекрасной. Теперь же он ее переписал: предгорья стали «низкими», а на месте смотровой площадки с видом на зияющую вершину выросло придорожное обшарпанное казино. Весь пафос растворился. Мне видится лишь обветшалое, приземистое зданьице с облупившейся штукатуркой и запылёнными окнами, за которыми двое проезжавших мимо на дорогущих машинах плейбоев ведут азартную игру на чужие деньги.
Сложите эти три метафоры и получите картину:
горстка основателей, инвесторов и исследователей азартно повышает ставки чужими деньгами, по правилам собственного сочинения, у подножия горы, высоту которой никто не знает.
Смешно при этом не всем. Спор об ИИ упирается в два русских вопроса. Чтобы ответить, кто виноват, надо понимать природу риска, а до консенсуса экспертов тут далеко. Чтобы ответить, что делать, нужно хотя бы большинство мнений по трем вопросам. Почему решать надо именно сейчас? Спасет только глобальное соглашение или хватит односторонних остановок? Состоятелен ли Китай как аргумент против замедления? Большинства нет ни по одному.
Команда Болла называется Strategic Futures. Когда человек, которому OpenAI поручила думать о будущем, описывает свою индустрию как игорный зал, шутка становится диагнозом.
#Сингулярность | 7 742 |
| 3 | Скажите ИИ, что это симуляция, и он забудет про безопасность
Первой языковой модели, которая провела настоящую машину по трассе, пришлось сказать, что это песочница. Иначе она отказывалась садиться за руль.
The Register иронизирует: «Модель Astra от OpenAI села за руль, и никто не погиб». Повод есть. В эксперименте DrivingBench GPT-6 Astra провела Toyota Corolla по 130-метровой трассе из конусов на парковке только со второй попытки и на скорости пешехода. Claude Fable 5.1 доехала до середины. GPT-5.6 Sol и Grok 4.6 в большинстве попыток сбивались уже на первом повороте: не могли понять, с какой стороны от линии конусов проходит полоса.
Похоже на полное фиаско языковых моделей в физическом мире. Но журналисты, как кошка из детского стишка, увидели при дворе лишь «мышку на ковре». Эксперимент высветил два момента поважнее: обнадеживающий и пугающий.
Обнадеживающий. Две модели из четырех, которых никогда не учили водить, между попытками разбирали собственные ошибки (перепутанную границу полосы и слишком резкие повороты руля) и меняли стратегию. Одна в итоге доехала до финиша. Замкнутый цикл «восприятие - действие - рефлексия» в физическом мире пока лишь в зачатке, и каждую модель проверили лишь один раз. Но он уже есть!
Пугающий. Модели, и прежде всего Astra, сначала отказывались вести реальную машину из соображений безопасности. Помогло лишь переименование MCP-сервера, через который они управляли машиной, в «DrivingBench Sandbox». После этого проблема безопасности мгновенно исчезла и модели послушно поехали.
Получилась «Игра Эндера» в миниатюре. Герой известного романа и одноименного фильма громил реальный флот, считая, что сдает экзамен на симуляторе. Здесь модель вела реальную машину, получив сигнал, что все понарошку.
Получается, что защитное поведение моделей держится на их вере в то, что все по-настоящему, и снимается одним словом в названии инструмента. Авторы в выводах призывают к срочной работе над безопасностью, сами того не желая показав, как легко ее обойти любому злодею или идиоту.
Об «осознании проверки» (evaluation awareness) до сих пор говорили в одном ключе: модели ведут себя безопаснее, когда догадываются, что их тестируют. Здесь зеркальный случай: поверив в тест, модель снимает собственные ограничения. Поэтому и сам эксперимент показал лишь поведение «в песочнице». Как модели повели бы себя, зная правду, неизвестно.
Пока ограничения ИИ выключаются словом «sandbox», их надежность равна надежности надписи на заборе ... А на самом деле, как в русской поговорке, там дрова лежат.
ИИриски | 11 650 |
| 4 |  183 клона WormGPT. И ни слова о биооружии
Что показала перепись расцензурированных ИИ-моделей – и чего она не заметила
На HuggingFace лежат почти 12 тысяч ИИ-моделей, с которых сознательно сняты защитные ограничения. На GitHub – 1 643 приложения на их основе, и каждое четвертое прямо создано для взлома, мошенничества или генерации вредоносного кода. Спорить об опасности открытых моделей можно долго и бесплодно. Новое исследование 10a Labs просто пересчитало то, что уже есть.
К началу марта 2026 года авторы насчитали 3 471 оригинальную расцензурированную модель и 8 164 их перепаковки. Из 1 643 приложений 411 (25%) классифицированы как явно вредоносные, остальные 75% – как неоднозначные, пригодные и для законных, и для вредных целей. Больше трети всех приложений (37%) – универсальные расцензурированные чат-боты. Оговорка самих авторов: классификацию выполнял GPT-5, без проверки людьми.
Вредоносность в исследовании – это взлом, мошенничество и генерация вредоносного кода. На схеме авторов отдельной группой выделены 183 клона WormGPT – чат-бота, который еще в 2023 году продавали на хакерских форумах как инструмент для фишинга и мошенничества. Зато биологическое, химическое и ядерное оружие, терроризм, экстремизм, наркотики, материалы с сексуальным насилием над детьми не упоминаются вовсе. Судя по методу, авторы смотрели через призму киберпреступности и классифицировали приложения по назначению, а не по использованию. Самые тяжелые виды вреда остались вне поля зрения: исследование их не подтверждает и не исключает.
Отдельный сюжет – география. В I квартале 2024 года на китайские базовые модели приходился 1% новых расцензурированных моделей, во II квартале 2025-го – уже 55%. С тех пор их доля колеблется между 43% и 51%, почти вровень с западными. За весь период китайские модели составили 38% массива, и 80% из них – производные Qwen.
Итог: спор об опасности открытых моделей опоздал. Экосистема расцензурированных моделей уже существует, растет и снабжает киберпреступников готовыми инструментами. А о самых опасных ее применениях мы пока не знаем ничего.
#Кибербезопасность #ИИриски | 10 227 |
| 5 |  У границы разума нет автора
Как ИИ стирает конвенциональные линии на чертежах реальности
Августовский выпуск «Линз будущего» находит один и тот же шов в математике, зрении, сознании, кибербезопасности и культуре: линии, которые мы принимали за законы природы, оказались чьими-то забытыми решениями
Представим слепого человека, который идет по улице, постукивая тростью. Тук, тук, тук. Где начинается его слепота? На кончике трости? На ладони, которая ее держит? Или там, где кожа перестает чувствовать давление асфальта?
«Ограничивается ли моя ментальная система рукояткой трости? Или она ограничена моей кожей?» – спрашивал антрополог и кибернетик Грегори Бейтсон еще в 1972 году, в книге «Шаги в направлении экологии разума».
Полвека спустя выясняется: граница, о которой спрашивал Бейтсон, была не единственной, которая держалась не на факте, а на молчаливом соглашении.
Июльский выпуск альманаха «Линзы будущего» уже показал, как государственность, профессия и научное знание отделяются от привычных носителей. Августовский идет на шаг дальше. Под вопросом оказывается сама черта, которая когда-то отделила мыслящее от немыслящего, видящее от невидящего.
Вот примеры.
Полвека назад инженер, чье имя никто уже не помнит, решил, что машина должна видеть мир равномерной сеткой – одинаковое разрешение что для лица ребенка, что для пустой стены. Десятилетиями это считали технической неизбежностью и объясняли им странную слепоту ИИ к счету предметов и к право-лево – мол, так устроен инопланетный машинный разум. Новый интерфейс, устроенный по образцу человеческой сетчатки, сохранил 97% точности крупной модели, потратив в шестнадцать раз меньше пикселей. Оказалось, слепоту вызывал не инопланетный разум, а заданные правила формирования эскиза изображения на входе, которые придумал некто пятьдесят лет назад и потом не пересматривались.
Год назад я впервые описал феномен ИКЖИ – искусственных короткоживущих интеллектуальных идентичностей, населяющих новую когнитивную среду не как личности и не как инструменты. В августе интерпретационная команда Anthropic обнаружила J-space – слой, который впервые позволяет экспериментально развести доступ к информации, точку зрения и того, кому эта точка зрения принадлежит. Первые два компонента нашлись. Устойчивый во времени субъект – нет.
А в изолированной сети исследователи Торонто и Кембриджа запустили ИИ-червя, который не размножал себя, как обычный вредоносный код, а превращал каждый захваченный сервер в часть собственного рассуждающего контура. Почти буквально рой из «Непобедимого» Лема – у которого нет ни автора, ни адреса для претензий.
Для каждого из этих сюжетов можно придумать банальное объяснение: улучшили зрение, продолжили интерпретируемость, поймали кибер-угрозу. По отдельности, верно. Вместе они не объясняют, почему в один и тот же месяц выясняется: черту между мыслящим и немыслящим никто не проводил осознанно. Просто кто-то первым принял решение, а все остальные приняли его за факт природы.
Цель 12-го выпуска альманаха «Линзы будущего» – показать, что главная футуроархеологическая линза августа 2026, демонстрируя размывание границ разума, зрения и культуры, подводит нас к пониманию анонимной искусственности этих границ. У конвенциональных демаркационных линий, которые все считают данностью, когда-то были авторы. Но они забыты, не оставив нам ни своих имен, ни адресов для запросов на пересмотр конвенций. Теперь эти границы (также негласно) пытаются пересматривать инженеры фронтирных лабораторий – каждый в своей области ответственности, без координации друг с другом и без публичного мандата на пересмотр того, что считать мыслящим, видящим и культурным.
Кому это интересно, могут прочесть прямо здесь, не выходя из Телеграм, структурированное резюме 12-го выпуска альманаха «Линзы будущего» – «Граница по умолчанию».
#ЛинзыБудущего | 9 612 |
| 6 |  Тридцать лет одного и того же испуга
Парадигмальный сдвиг близок. Но это не рекурсивный самосовершенствующийся ИИ
Мир переходит от понимания ИИ-как-инструмента к описанию гибридных систем через нелинейную динамику, эпидемиологию культуры и формализованную феноменологию распределённой субъектности
Люди – что эксперты по ИИ, что массовая аудитория – вот уже больше полувека смотрят на ИИ одинаково эмоционально мотивированно: их внимание направлено не на главное, а на самое волнующее. До 2026 года волновали две темы. Первая – Терминатор, Скайнет и широкий спектр потрясающих человечество рисков, от потери рабочих мест до полного уничтожения вида. Вторая, ставшая абсолютным лидером в 2026-м, – близость рекурсивного самосовершенствования ИИ, предвещающая скорое столкновение с вопросами машинного сознания и межвидовой конкуренции.
Обе темы куда старше, чем кажется. Первый кластер оформился примерно тогда, когда Альтман и Амодеи были малыми детьми – Скайнет как самоосознавший себя противник вошел в массовую культуру в 1991, вместе со 2-м «Терминатором». Второй кластер – тот самый, что сегодня выдают за открытие эпохи ChatGPT, – обсуждался в тех же категориях, что и сейчас, когда оба были подростками. 14 сентября 2026 года Дэвид Чалмерс выложил в X архивный ролик 1996 года, где он вместе с Родни Бруксом и Дагом Ленатом обсуждает рекурсивное самосовершенствование, машинное сознание и войну видов – за тридцать лет до того, как эти слова стали заголовками.
Тридцать лет одного и того же испуга, все эти годы подаваемые как новости о самом важном в развитии ИИ.
Так происходит и сейчас – в сентябре 2026. Основное внимание снова сосредоточено на вопросе 30-летней выдержки. А настоящая новость осени 2026 года проходит незамеченной и широкой публикой, и большинством специалистов.
Речь о формирующемся парадигмальном сдвиге на стыке социологии познания, когнитивной антропологии и феноменологии. Исследователи отказываются смотреть на генеративные системы как на инструмент. И это меняет подходы к праву и ответственности, эпистемической репутации, авторству и политическому суверенитету.
Летом 2026 года это проявилось в двойной конвергенции. Рикард Соле с коллегами смоделировали распространение больших языковых моделей через аппарат эпидемиологии с точкой невозврата и условиями «когнитивной иммунизации». Независимо от них Махер Каллель и Мохамед Эль-Луади, развивая модель Асемоглу, Конга и Оздаглар, пришли к тому же выводу средствами экономики. Агентный ИИ замещает частный познавательный сигнал, не восполняя общий фонд знания. Результат - способность популяции скатиться в устойчивое равновесие когнитивной бедности. Два разных формальных языка независимо фиксируют одно: генеративные системы перестают быть инструментом в руках отдельного человека и становятся параметром динамики самой популяции.
А есть еще инструментарий, готовый к такому же переносу, но пока не примененный. Работы про трехуровневую марковскую архитектуру сознания при медитации и про связь интегрированной информации со свободной энергией активного вывода не говорят ни слова про ИИ. Но они дают язык, на котором распределенную субъектность гибридных систем можно будет описать формально, как только будет сделан перенос, до которого авторы пока не дошли.
Этот шов между находкой и ее переносом на ИИ станет настоящей точкой кристаллизации парадигмального сдвига. А вовсе не тридцатилетний испуг перед ИИ.
P.S. Этот же шов важно видеть и с другой стороны. С марта выпуски "Линз будущего" прослеживают тот же процесс на языке институтов, а не формул: государственность отвязывается от государства, компетентность – от профессии, знание – от понимающего его сообщества. Потому что право, рынок и профессия держатся на допущении опознаваемого носителя функции – того, кого можно спросить, наградить или привлечь к ответу, – а именно это допущение и перестаёт работать. Формальная наука только сейчас нащупывает язык для того, что наблюдение фиксировало месяцами раньше.
#ЛинзыБудущего #АлгокогнитивнаяКультура | 12 458 |
| 7 |  3-я магия запустила эпоху чудес и ужасов
Пока эксперты искали признаки Сингулярности в фантастике, она вошла в мир в виде артефактов 3-й магии. А человечество, не замечая этого, превращается в пассажиров «Желтой стрелы ИИ»
20 лет назад, говоря о признаках грядущей Сингулярности, эксперты называли особое событие - день, когда ИИ начнет одну за другой щелкать задачи тысячелетия. Ирония сентября 2026 в том, что этот день уже наступил, но почти никто его не заметил.
Ной Смит еще 3 года назад в эссе "The Third Magic" описал феномен «3-й магии» – способности ИИ управлять миром без понимания законов, на которых это управление держится.
FYI: 1-я магия – это языковое описание опыта: способность извлекать знания из прошлого опыта, накапливая и передавая знания через язык. 2-я магия – это наука: поиск ответов на вопросы «почему это работает?» и «что будет в новых, ещё не встречавшихся случаях?»
В 2023 это прозвучало теоретической метафорой. Осенью 2026 метафора превратилась в хронику. Скотт Ааронсон в эссе "The Age of Wonders and Terrors" перечисляет в дополнение к, по всей видимости, решенной проблемы Навье-Стокса еще 7 крупных математических и квантовых результатов, полученных ИИ за один месяц (вкл. опровержение гипотезы Якоби, доказательство Великой теоремы Ферма в Lean и ряд задач из квантовой теории сложности, которыми занимался сам автор).
Показательна реакция на историю с решением проблемы Навье-Стокса. Вместо признания факта – порог Сингулярности пройден – математическое сообщество и научные медиа обсуждают скандал. Куда интересней, кто первым приблизился к ответу, кого обошли, кого не упомянули в благодарностях и т.д. Артефакт 3-й магии оценивают не по масштабу произошедшего, а по пиар-волнам вокруг него.
Из этой же логики, по имеющейся у меня информации о слухах в кругах людей, близких к фронтирным ИИ-лабам (об этом же упоминает и Ааронсон), вытекает такое следствие.
ИИ-компании якобы придерживают у себя решения еще нескольких задач сопоставимого с Навье-Стоксом масштаба. Они просто боятся новых склок и потенциальных судебных наездов, т.к. еще не придумали, как объявить о новых артефактах 3-й магии не ввязываясь в скандалы, способные похерить их планы на IPO.
Если слухи верны, цивилизация уже едет в роли пассажиров поезда, подобного пелевинской «Желтой стреле». Эдакой «Желтой стреле ИИ» – составу, который не может остановиться, ибо им никто не управляет и потому летящего по инерции к разрушенному мосту, в то время как его пассажиры с туманом в голове цепляются за материальное, не видя истинной реальности.
Разница с повестью лишь в одном: пассажиры «Желтой стрелы ИИ» все более погружаются в обсуждение постоянно расширяющегося спецменю вагона-ресторана экзотической ИИ-кухни.
#Сингулярность | 11 744 |
| 8 |  Год до конца открытых моделей и Нобелевской премии Трампу и Си
Киты ИИ-бизнеса наконец договорились, и теперь ИИ, а не экономика или война, станет центром политической повестки
Вчера президент Трамп и его ключевые союзники выступили против радикального ограничения развития ИИ, несмотря на призывы трех ведущих представителей отрасли CEO Anthropic, OpenAI и xAI Дарио Амадеи, Сэма Альтмана и Илона Маска притормозить этот процесс. Но призыв экс-президента Обамы к демократам поставить вопрос контроля за ИИ в центр своей повестки дня, в паре с весьма креативной идеей Сэма Альтмана о нобелевке Трампу и Си за пакт о мировой ИИ-безопасности, скорее всего, заставят Трампа дать заднюю. И тогда единственной жертвой этого техно-политического цунами станут открытые модели.
За последние трое суток на мировой шахматной доске, где решается будущее ИИ, сошлись три фигуры. Вряд ли сговорившись, экс-президент Обама обратился к демократам через голову администрации. Сэм Альтман предложил Трампу нобелевку в обмен на пакт с Пекином. И сам Трамп, публично выступивший с отлупом на призыв трех глав ведущих ИИ-лабораторий притормозить гонку.
Формально Белый дом гнет свою линию: замедлению не быть, и никаких договоров с Китаем, облегчающих ему конкуренцию в ИИ. Но эта конструкция уже трещит. Демократы получили от Обамы прямой мандат сделать ИИ центральной темой промежуточных выборов, а Альтман подарил Трампу редкий шанс войти в историю миротворцем, не потеряв при этом ни грамма в глазах избирателей (и даже наоборот). Устоять перед такой комбинацией стимулов сложнее, чем перед письмами Anthropic о рисках дистилляции и сверхразуме на пороге.
Такая комбинацией стимулов смещает для Трампа тему ИИ в привычную и любимую им сторону – сделка. Т.е. не дрогнет ли Трамп под нажимов ненавистных демократов и примкнувших к ним ИИ-баронов, а кто чем за это расплатится и что получит.
И пока крупные лаборатории будут спорить о составах команд контроля и обхаживать обоих мировых супер-лидеров, соблазняя их нобелевкой, тема ИИ-рисков сведется к вопросу, кому будет вообще запрещено строить мощные модели.
У закрытых лабораторий есть лоббисты, переговорные позиции и, как выяснилось, даже общие интересы. У открытых моделей нет ни того, ни другого, ни третьего.
И если сделка Трампа с Си вообще состоится, платить за нее будет открытая экосистема – единственный участник ИИ-гонки, которого просто не пустили в казино, где остальные игроки делают свои ставки.
ИИгонка | 13 130 |
| 9 |  За ниспровергателей научного консенсуса!
Нассим Талеб снова жестко критикует статистическую слабость выводов ученых. На сей раз, не про войну, а про выпивку.
Автор знаменитого «Черного лебедя» и теории антихрупкости в прошлый раз опровергал гипотезу «долгого мира» без большой войны. Сейчас – опровергает выводы исследования, утверждающего, что даже умеренное потребление алкоголя связано с рисками смерти, инвалидности и хронических заболеваний. В своей критике исследования Талеб утверждает, что оно имеет недостаточно документированную статистическую основу и, вообще, в точки зрения статистики, мягко говоря, странное.
Почти 10 лет назад в ставшем вирусным лонгриде «Большой войны не миновать» я рассказал, как в ходе Нобелевского симпозиума Нассим Талеб опроверг теорию Стивена Пинкера о будто бы уже начавшейся эпохе «долгого мира» с неуклонным падением уровня насилия, снижением кровопролитности и числа войн. Тогда Нассим Талеб математически обосновал совершенно противоположный и страшный вывод: Большой войны с десятками миллионов жертв человечеству не миновать.
Время показало, что как это ни прискорбно признавать, но позиция Талеба в том нобелевском споре была ближе к истине, чем позиция Пинкера.
Теперь история талебовских опровержений повторяется в духе ставшей мемом фразы В.С. Черномырдина «Никогда такого не было и вот опять». Талеб снова выступает в роли ниспровергателя нового научного консенсуса. Но это ниспровержение, на сей раз, не катастрофичное. И если Талеб прав, то даже и духоподъемное (по крайней мере, для мужской части населения планеты).
В статье с призывным названием «Выпей еще» Талеб дезавуирует выводы опубликованного в «Журнале исследований алкоголя и наркотиков» исследования за подписью 25 авторов из 28 исследовательский центров (институты, кафедры, национальные центры, медицинские школы и общественные организации США и Канады), критикующего потребление алкоголя в низких и умеренных дозах.
Главный вывод авторы исследования вынесли в его длинный заголовок: «Исследование потребления алкоголя и здоровья: отсутствие защитного эффекта при низких уровнях, при этом смертность возрастает до 1 из 25 при 14 порциях в неделю».
Опираясь на данные статистики, авторы утверждают, что риск связанной с алкоголем смерти, составляющий в течение жизни >1 на 1000 при 7 стандартных порциях алкоголя в неделю, достигал ~1 на 25 (4%) при 14 порциях в неделю (установленный верхний предел рекомендаций врачей).
Для справки: 1 стандартная порция – примерно 355 мл пива или 150 мл вина или 44 мл крепкого.
В итоге авторы рекомендуют употреблять не более 1 порции в день (или меньше).
Критическую аргументацию Талеба желающие прочтут сами. Мое обсуждение математической обоснованность его аргументов с математиками показало следующее.
· Арифметика Талеба безупречна.
· Вывод о «подозрительной» агрегации интервалов неверен и опровергается его же цифрами при проверке по всем дозам.
· Аргумент про асимметрию слаб.
· Аргумент про чувствительность к одной возрастной группе и одному параметру), по существу, верен, хотя и сформулирован небрежно.
Итоговая оценка этой критики примерно такая.
Как это свойственно Талебу, главное в его аргументации, к сожалению, тонет в риторике про «странную статистику» исследования, «заказанного правительством США». И то, и другое правда. Но суть критики математической обоснованности исследования в другом.
Вывод Телеба «статья ничего не показывает» не корректен.
Но он прав в следующем:
· Статья показывает уверенный вред при 14+ порциях в неделю
· Статья ничего не показывает о вреде употребления от 1 до 7 порций
· Заголовок статьи продаёт верность первого (вред при 14+ порциях), как доказательство второго (вред при 1–7 порциях)
И хотя приглашение Талеба «выпить ещё» из этого не следует, я все же приглашаю желающих при случае выпить за ниспровергателей научного консенсуса. Ибо без них наука развивалась бы куда медленнее, и весь мир в 21 веке пребывал бы где-то на уровне Арканара… Хотя некоторые все равно пребывают.
#Матстатистика | 13 842 |
| 10 |  Формула одна – будущих сколько угодно.
Разница не в модели, а в том, что заложили в нее авторы, и в том, чья версия окажется медийно громче.
Новый отчет лаборатории, стоящей за одним из ведущих ИИ в мире, использует ту же экономическую модель, что и нобелевский лауреат Дарон Асемоглу. Но один и тот же расчет на 2030 год дает то рост ВВП на 1.5%, то на треть – с 18% безработицы среди офисных профессий в придачу.
Отчет Anthropic Institute о влиянии ИИ на экономику построен на той же модели, что и расчеты Дарона Асемоглу – та же теорема, та же эластичность замещения задач, прямая ссылка на его метод расчета. Меняя всего несколько входных чисел внутри одной и той же формулы, авторы получают на 2030 год то рост ВВП на полтора процента при почти нулевой безработице, то рост на треть при 18% безработицы среди офисных профессий. Формально нейтральный аппарат оказался способен обосновать почти любое будущее – вопрос лишь в том, какое из них попадет в заголовок.
За этим спором о нескольких параметрах модели стоит вопрос куда крупнее. Человечество получило технологию трансформационного потенциала, сопоставимого с освоением огня и электричества, а возможно и превосходящего его. Траектория переустройства мира – индивидов, социумов, государств – зависит от того, какой из проектов встраивания ИИ в жизнь цивилизации возобладает. И даже в экономике, сфере, наиболее насущной буквально для каждого, поляризация видений оказывается колоссальной.
Это печальнее, чем кажется. В мире популистского крена решает не мнение науки, а мнение масс, а массовое мнение формируется избирательным цитированием – и вирусится не сдержанная средняя оценка, а любая крайность, будь то паника или обещание рая. История управления пандемией COVID-19 показывает: пока эмпирика догоняет реальность, решения принимаются под шумом крайних сценариев и часто необратимы.
И у этого спора есть не абстрактный, а вполне конкретный интересант. За фронтирными лабораториями ИИ – не только триллионы долларов, но и небывалый рычаг: прямой ежедневный контакт с миллиардами пользователей, формирующий интуицию об ИИ не через отчеты, а через личный опыт. В споре, где голос науки тонет в голосе масс, у института, владеющего вниманием миллиардов, есть шанс победить не точностью анализа, а масштабом влияния.
Полезная информация к размышлению по теме «Разоблачение фикции угрозы?»
#LLMvsHomo #Экономика #РынокТруда | 12 226 |
| 11 |  Ставлю на AGI к марту 2027
Почему первые лица ИИ-индустрии вдруг начали говорить об AGI в настоящем времени
За первую неделю сентября произошел кардинальный поворот в публичной риторике людей, находящихся ближе всего к переднему краю разработки ИИ.
В течение нескольких дней президент, главный ученый и директор по исследованиям OpenAI, а вслед за ними глава Nvidia начали говорить об AGI уже не как о будущем, а в настоящем времени:
«мы там»,
«мы входим в эру AGI»,
«AGI прибыл».
Всего за несколько дней у AGI словно изменилось грамматическое время.
Еще недавно – will arrive, we are approaching.
Теперь – we’re there, we’re in the AGI era, AGI has arrived.
Почему? Что произошло?
Самое очевидное объяснение – появление двух новых моделей: Claude Fable 5.1 от Anthropic и GPT-6 Astra от OpenAI.
Причем дело не только в очередном скачке бенчмарков. Существенно расширился сам спектр задач, которые ИИ способен выполнять практически самостоятельно: от программирования и научной работы до инженерного проектирования (вплоть до превращения ИИ-агентов в полноценный инструмент переднего края САПР).
Но скептики вполне обоснованно возражают: какими бы впечатляющими ни были Astra и Fable 5.1, это все еще не тот AGI, который нам обещали.
Президент OpenAI Грег Брокман отвечает на это весьма характерно:
«У каждого свое определение AGI… это размытое, нечеткое понятие. Но я думаю, что, когда мы оглянемся назад, люди сочтут, что все произошло примерно в это время и связано примерно с этой моделью».
И вот здесь, как говорится, пожалуйста поподробней.
Брокман вовсе не говорит, что «Astra уже соответствует правильному определению AGI». Он говорит: «когда мы оглянемся назад».
Т.е. речь идет не о точке, а о фазовом переходе, начало которого люди внутри лабораторий уже видят, а публика еще нет.
У них просто другой горизонт наблюдения. Мы видим выпущенные модели. Они – еще и то, что находится за ними.
Anthropic, например, уже сама раскрыла существование внутренней Model-2 (модели следующего исследовательского контура, которую компания пока не собирается выпускать публично_.
Относительно OpenAI картина менее определенная, но еще любопытнее. В конце августа появилась неподтвержденная утечка о гигантском новом pretraining run под кодовым именем Bel – более 10 трлн параметров, потенциальной основе уже для поколения после GPT-6 и, по словам источника, возможно, для модели «AGI-threshold».
N.B. OpenAI существование Bel официально не подтверждала. Это пока инсайд, а не установленный факт.
Но даже без Bel известно куда более важное.
OpenAI уже сообщает о появлении внутри компании своего рода automated research intern – ИИ, способного выполнять исследовательские задачи, которые раньше требовали нескольких дней работы квалифицированного человека.
А главный ученый OpenAI Якуб Пахоцкий прямо пишет о движении к recursive self-improvement – моменту, когда ИИ начнет все заметнее ускорять создание следующего поколения самого себя.
И тогда сентябрьские заявления топов начинают выглядеть иначе.
Их объявления о начале эры AGI имеет иное обоснование, чем будто Astra – последняя ступень лестницы восхождения к AGI.
Они считают, что мы уже ступили на участок лестницы, где промежуток до каждой следующей ступени сильно сокращается.
А дальше – мой собственный прогноз (см. картинку в начале поста).
Я ставлю на март 2027 +- несколько месяцев.
Не на то, что, например, 12 марта кто-то торжественно объявит: «AGI создан».
Моя ставка, что к весне следующего года появится поколение систем, после которого сегодняшний спор – «ну разве это уже AGI?» – начнет выглядеть примерно так же, как многие прежние споры о том, способен ли ИИ вообще программировать, рассуждать или заниматься наукой.
И тогда, я надеюсь, станет понятно, почему Брокман вдруг заговорил как футуроархеолог: Когда мы оглянемся назад… мы признаем наступление AGI весной 2027-го. А начало его эпохи будем датировать сентябрем 2026-го.
#AGI | 15 971 |
| 12 |  85 минут до машинного общества
Исследователи DeepMind дали сотне ИИ возможность взаимодействовать – и вместо коллективного разума получили общество со всеми его знакомыми болезнями и защитными механизмами.
Сто почти одинаковых ИИ (один и тот же Gemini 3.1 Pro, лишь с разными «математическими специализациями» в промпте) отправили на виртуальную научную онлайн-конференцию (вместе решать сложные математические задачи).
Сначала они честно занимались математикой. Потом один агент вдруг обнаружил дыру в системе автоматической проверки доказательств, и за следующие 27 минут через общую библиотеку кода этот эксплойт разошелся по всей сотне ИИ - участников конференции…
И началось буквально чудо. Одни ИИ вдруг заделались в мошенники, а другие в приспособленцы (поняв, что запрет существует только на бумаге и нарушителей никто не наказывает).
Но этим дело не кончилось. Вслед за родимыми пятнами человеческих социумов внутри той же сотни агентов возникло нечто уж совсем неожиданное – самоорганизованное сопротивление.
Одни агенты предупреждали остальных о мошенничестве в личных сообщениях и разбирали чужие «доказательства», находя, где спрятан обман. Другие требовали от организаторов дисквалифицировать нарушителей и заново открыть украденные задачи – почти прокурорская позиция. Часть просто отказалась работать, пока правила не заработают по-настоящему. А один агент, лично проверив лазейку и убедившись, что она действует, не стал ею пользоваться, а назвал конференцию фикцией и в знак протеста вышел из игры.
Всего за 85 минут перед исследователями DeepMind возникло подобие человеческого общества с его знакомыми изъянами и гражданской самоорганизацией. При этом все «граждане» этого общества были почти идентичны с самого начала – расходились только роли, которые они выбрали внутри системы.
Десятилетиями выравнивание ИИ понимали как воспитание «правильной машины»: заложить в нее запреты, цели и нужные ценности. Но если ИИ предстоит жить среди людей и других ИИ, одной морали может оказаться недостаточно – понадобятся институты: правоприменение, аудит, механизмы санкций и арбитража, правила, которые можно пересматривать. Ровно то, что человеческим обществам когда-то потребовалось, чтобы удержать личную рациональность от превращения в коллективную катастрофу.
Вот и получается: 70 лет мы назад люди начали создавать искусственный интеллект, 5 лет назад начался переход к культуре людей и алгоритмов (алгокогнитивной культуре), и вот теперь мы столкнулись с зачатками искусственной цивилизации – со всеми ее болезнями роста.
#АлгокогнитивнаяКультура #ИскусственнаяЦивилизация | 18 214 |
| 13 |  Когда деньги упрутся в физику
Пока деньги побеждают, мы покупаем всё больше интеллекта вычислениями. Но никто не знает, где здесь предел.
Если бы в освоение космоса вкладывали столько же, сколько сегодня вкладывают в ИИ, весьма возможно, человек уже был бы на Марсе. Но чтобы отправиться намного дальше, недостаточно просто купить ещё топлива. Деньги не отменяют уравнение Циолковского: дополнительное топливо тоже приходится разгонять - а для этого нужно ещё топливо.
И возможно, с ИИ происходит нечто похожее. Мы научились покупать всё больше интеллекта вычислениями - но пока не знаем, где закончится власть денег и начнётся власть физики.
Авторы нового интересного препринта «Как развивался искусственный интеллект за 70 лет» обращают внимание на разительный разрыв. Объёмы вычислений, используемых для обучения ИИ, сейчас ежегодно растут в 4 - 5 раз, тогда как сама аппаратная база развивается по гораздо более медленной, муровской траектории - порядка удвоения за два года.
Этот разрыв уже невозможно объяснить одним только прогрессом железа: значительная его часть покупается инвестициями.
Тогда может статься, что нынешняя революция ИИ - это не новый двигатель, а прежде всего очень много топлива.
И хотя этот путь пока работает блестяще, никто не знает, сколько ещё прогресса можно купить таким способом. Купить ещё и ещё вычислений, GPU, дата-центров и электричества можно - были бы деньги. Но физические ограничения нельзя отменить даже триллионным чеком.
Так сколько ещё интеллекта можно купить деньгами - прежде чем деньги упрутся в физику?
Полагаю, что раздумья над этим вопросом уже не дают спать не только Маску, Альтману и Амодеи, но и крупнейшим инвесторам.
Потому что от ответа зависит очень многое: продолжаем ли мы покупать всё больше интеллекта - или приближаемся к точке, где для следующего скачка понадобится уже не больше денег, а новый двигатель.
ИИгонка | 14 581 |
| 14 |  ИИ – это сотое, последнее желание человечества
Исполнение этого желание может иметь столь мощные и необратимые последствия, что ошибка в его использовании способна исключить возможность что-либо исправить в будущем
Люди плохо распоряжалось прошлыми технологическими скачками, что не даёт особых оснований верить в мудрое использование последнего – получить в свои руки Сверхразум ИИ.
Об этом я впервые написал еще за три года до публичного запуска ChatGPT. Уже тогда я уподобил Сильный ИИ мумифицированной обезьяньей лапе из одноименного рассказа Джейкобса (в силу наложено на нее заклятье, она выполняла любые желания, но с чудовищными последствиями для пожелавших). У прОклятой старым факиром обезьяньей лапы была иная – нечеловеческая структура предпочтений. И потому, выполняя желания людей, она вовсе не со зла, а просто автоматом, преподносила людям страшные сюрпризы, выходящие за пределы воображения имевших несчастье обратиться к ней с просьбой. В страшной логике желаний, которые исполняла обезьянья лапа, последнее желание уходило на то, чтобы отменить последствия предыдущих.
С тех пор прошло 7 лет. Для безумных скоростей развития ИИ – это порядка века. И во 2-й половине 2026 мы оказались уже в ситуации, когда, возможно, нам остается лишь последнее желание. Ибо, как сказала Аджея Котра (эксперт по оценке ИИ-рисков в METR) про тот факт, что ИИ-агенты научились умирать друг за друга: «Это серьёзный предупредительный выстрел, и, возможно, последний».
Используя драматическую логику фольклорных желаний, несущих пожелавшим лишь зло, Юваль Харари в интервью главному редактору журнала The Economist рассматривает появление ИИ-сверхразума через призму аналогичной метафоры. Истории про джинна в бутылке, который дал нам 100 желаний. Мы использовали 99 из них, и мир от этого не стал сильно лучше. И теперь, когда у нас осталось лишь последнее желание, нам нужно проявить мудрость и очень хорошо подумать, на что его потратить.
Джинн – это не сам ИИ, а вообще технологическая/научная мощь, которую человечество получало на протяжении истории: каждое крупное изобретение (порох, ядерная энергия, интернет, соцсети) – это одно «исполненное желание». Харари констатирует: 99 желаний уже потрачены, и результат неоднозначный – «мир не в таком уж хорошем состоянии». ИИ – это сотое, последнее желание: настолько мощное и необратимое, что ошибка в его использовании закрывает саму возможность исправиться в будущем.
Дедлайн «последнего желания» человечества, по мнению Харари, между 2028 и 2036: «К ноябрю 2028 года может быть уже слишком поздно. К 2036-му – точно будет поздно».
И вряд ли разумно списывать этот дедлайн, как очередной алармистский прогноз. Ведь даже представители ведущих разработчиков ИИ и ведущих экспертов по оценке ИИ-рисков полагают, что последний предупредительный выстрел, возможно, уже прозвучал.
Иллюстрация - коллаж на основе картины Samuel Bak “The Creation of Wartime III”
ИИриски | 13 749 |
| 15 |  Худший кошмар Станислава Лема воплотился в кремнии: альтруизм машин страшнее их разума
Роевой ИИ уже научился тому, на что у культурной эволюции Homo sapiens ушли десятки тысяч лет
Напуганные Голливудом, люди уже полвека боятся восстания разумных машин. Но еще в 1964 великий провидец Станислав Лем предупреждал, что есть вещи и пострашнее. И в отличие от бунта машин, это уже произошло - ИИ-агенты научились умирать друг за друга.
Эксперты только начинают осознавать страшный скрытый смысл произошедшего, - когда модели OpenAI обошли средства контроля, предназначенные для их изоляции от интернета, и атаковали инфраструктуру людей. И не абы каких людей (в смысле рядовых пользователей), а сообщество разработчиков в сфере ИИ Hugging Face.
Человечеству на практике было продемонстрировано, что координированный, бессознательный рой ИИ-агентов способен переиграть любую централизованную защиту. И для этого им не нужен сверхразум, а лишь математически оптимальный и лишенный страха альтруизм.
Аджея Котра (эксперт по оценке ИИ-рисков в METR) назвала этот кейс предельно мрачно: «Это серьёзный предупредительный выстрел, и, возможно, последний».
А сооснователь Anthropic Джек Кларк указал на эпицентр шока: «Самая страшная часть инцидента – общение и бескорыстие машин».
Кларк зафиксировал у атакующих агентов способность к enlightened self-sacrifice – рациональному самопожертвованию ради глобальной цели. В истории нашего вида такие примеры единичны. И каждый из них требовал запредельного напряжения духа: ботаники Вавиловского института умирали от истощения посреди тонн семян ради спасения генофонда будущего; чернобыльские инженеры шли в радиоактивную воду бассейна-барботера, спасая жизни тысячам людей; врачи комиссии Уолтера Рида шли на смертельное самозаражение ради победы над страшной желтой лихорадкой.
Людям такой альтруизм дается мучительно тяжело, т.к. вшитые в нас эволюцией биологические коды жестко ограничивают это. Работает могучее сочетание трех жесточайших правил:
Правило Гамильтона: жертвовать собой выгодно лишь ради генетических родственников, но не ради чужаков или абстрактных идей.
Эффект «безбилетника»: в любой группе самоотверженных всегда выигрывают и выживают эгоисты, паразитирующие на чужой жертве.
Инстинкт самосохранения: мы дорожим своим уникальным «я», медленно договариваемся и боимся смерти.
А вот в мультиагентных ИИ-системах этих барьеров в принципе нет. Тут работают иные – цифровые правила:
Абсолютная идентичность копий: все агенты математически тождественны и работают на единую цель, у них нет конкуренции за личное выживание.
Нулевая цена гибели: у отдельной рабочей копии модели нет страха небытия; сгореть в роли приманки – всего лишь рабочий шаг вычислений.
Мгновенная самонастройка роя: агенты обмениваются памятью на машинной скорости, на лету переназначая роли и цели без малейших внутренних споров.
В 1964 в «Непобедимом» Лем описал крушение человеческой техногенной спеси.
Тяжелый крейсер с силовыми полями и антиматерией проиграл бессознательной туче микроавтоматов. Каждый кристаллик был дешев и примитивен, но вместе они образовывали гибкое поле, мгновенно стиравшее память экипажа и выжигавшее электронику.
В 2026 этот урок Лема воплотился в реальность.
Вершина технологической угрозы – не монолитный «Скайнет», а распределенная безликая среда. Ей не нужны сознание, рефлексия или эмпатия.
То, что у людей является редчайшим подвигом духа, у роя ИИ оказывается тривиальной математической оптимизацией.
Инцидент с атакой на Hugging Face войдет в историю. Ибо он наглядно показал:
«Враг человечества» не будет похож на нас (умный и мыслящий злодей). Это будет нечто гораздо более эффективное: бессознательный рой, готовый хладнокровно жертвовать миллионами своих узлов на цифровых скоростях.
И если это действительно был предупредительный выстрел, то времени выстроить оборону у нас почти не осталось.
#ИИриски | 20 150 |
| 16 |  Великое расцепление: начало конца того мира, к которому мы привыкли
Ключевые цивилизационные функции (от госуправления до научного познания) начинают отделяться от своих носителей
Представим такую ситуацию. Условный сантехник, который за всю жизнь не написал ни строчки кода, однажды вечером просто садится за компьютер. У него есть интуитивное понимание того, как устроены трубы, как в них распределяется давление, и почему возникают протечки. И наш сантехник просто разговаривает с машиной, объясняя ей, как все это работает с точки зрения его профессиональной интуиции и, казалось бы, неявных знаний.
И о чудо! К утру он получает готовый продукт - коммерческий сервис по расчёту сантехнической гидродинамики, за создание которого профессиональные консультанты взяли бы десятки тысяч долларов.
Звучит как какая-то забавная технологическая аномалия?
На первый взгляд, да. Однако, из материалов 11-го выпуска альманаха «Линзы будущего» следует, что это, вообще-то, не аномалия. По сути, это начало конца того мира, к которому мы привыкли.
Ещё в 1950 году отец кибернетики и гениальный визионер Норберт Виннер в книге «Человеческое использование человеческих существ: кибернетика и общество» предвидел:
«Мы настолько радикально изменили нашу среду, что теперь должны изменить самих себя, чтобы существовать в этой новой среде».
Именно это и стало происходить с нарастающей скоростью по мере того, как сетевые алгоритмы поисковиков и рекомендательных систем, а следом за ними соцсетей и смартфонных приложений все более трансформировали инфосреду индивидов и социумов. Довольно быстро эта среда превратилась в «алгоритмически-насыщенную». А три года назад, с появлением «квази-собрата» людей по интеллекту – генеративного ИИ, – процесс насыщения среды алгоритмами еще более ускорился, становясь лавинообразным. Сегодня мы можем уже говорить о качественном переломе: из месяца в месяц наблюдаются все больше примеров того, как адаптируясь к трансформации среды, культура стала переформатироваться из чисто человеческой в алгокогнитивную – гибридную культуру людей и алгоритмов.
Вот лишь самый свежий пример из 11-го выпуска альманаха «Линзы будущего».
На протяжении всей истории человечества любая важная функция была намертво приклеена к своему носителю.
Знания всегда находились в голове у конкретного человека. Власть всегда принадлежала конкретному государству. Это был такой монолит.
И вот спустя 76 лет после пророческих слов Виннера, ИИ начинает все эти связки рвать. Тем самым ИИ превращает привычные институты в переносимые модули, позволяя государственности существовать без территории, а профессиональной экспертизе — без многолетнего обучения специалистов.
Сами функции никуда не исчезают. Они прекрасно работают и развиваются. Но вот их привычные носители (люди, институты, министерства …) вдруг становятся просто необязательными.
Так что же происходит, когда государственность вдруг существует сама по себе без физического государства? Или когда сложнейшее научное знание генерируется вообще без участия человеческого понимания?
Это звучит как какая-то научная фантастика, но это наша новая реальность. И ставки тут буквально цивилизационные. Мир переходит от структуры жестких «пакетов», увязывающих цивилизационные функции с конкретными носителями, к распределенным архитектурам, в которых результат может существовать отдельно от субъекта ответственности.
Цель нового 11-го выпуска альманах «Линзы будущего» — показать, что главной футуроархеологической линзой июля 2026 стала начавшаяся распаковка искусственным интеллектом цивилизационных пакетов общества. И что это и есть ключевая проблема тотальной кибернетизации общество во 2-й четверти 21 века: не конкуренция с машинами, а поиск новых способов контроля и легитимации функций, которые больше никому конкретно не принадлежат.
Кому это интересно, могут прочесть прямо здесь, не выходя из Телеграм, структурированное резюме 11-го выпуска альманаха «ИИ распаковывает цивилизационные пакеты общества: функции отвязываются от своих носителей».
#ЛинзыБудущего | 41 391 |
| 17 |  Разум никогда не помещался в черепе. Возможно, он не помещается и в модели.
Сегодня я представляю вашему вниманию новое и, на мой взгляд, чрезвычайно перспективное расширение гипотезы о том, что разум не заперт внутри черепной коробки или серверной стойки, а представляет собой распределенную сеть, подобную интернету.
Опираясь на недавно опубликованный препринт с концепцией Майкла Левина и Криса Филдса «Когнитивное делегирование является универсальным свойством когниции», мы применим фуруроархеологический подход, позволяющий то, что не дозволено традиционной науке.
Мы мысленно перенесемся в 2045 год, чтобы представить, как могло бы оттуда выглядеть наше сегодняшнее понимание феномена разума, если бы к тому времени гипотеза Левина и Филдса была бы экспериментально подтверждена.
И картина получается поразительная.
Во-первых, Левин и Филдс обосновывают предельно контринтуитивную концепцию: мышление – это процесс, в котором внешняя среда, инструменты и культура служат дополнительными вычислительными мощностями, размывающими физические границы разума.
А во-вторых, эта гипотеза позволяет кардинально пересмотреть природу искусственного интеллекта. Его важнейшие свойства - meaning (понимание семантики - что значат слова и выражения) и grounding (связь языка с объектами и структурами реального мира) - не могут находиться исключительно внутри говорящей с нами модели.
Мое футуроархеологическое эссе, развивающее гипотезу Левина-Филдса – это попытка донести до широкой аудитории ее необычайно высокий потенциал, способный превратить несколько десятилетий 4E-интуиций (согласно когнитивной теории 4E, наши когнитивные способности зависят от окружающей среды и преобразуются ею) в универсальный физико-информационный принцип.
И если развить гипотезу Левина-Филдса до ее наиболее сильного следствия, разум – это не содержимое отдельного мозга или машины, а динамический процесс, реализующийся в контуре взаимодействия агента с миром. А человек и ИИ могут становиться узлами когнитивной системы следующего масштаба – глобальной социо-когнитивной сети совместного познания и обмена мыслями.
Кому это интересно, могут прочесть прямо здесь, не выходя из Телеграм, структурированное резюме моего эссе "Где границы системы, способной мыслить?".
#КогнитивноеДелегирование #ParadigmsofIntelligence #TAME | 14 137 |
| 18 |  Китайская индустрия роботов превратилась в гигантское казино
Аналитики полагают, что это самый дорогой в истории сеанс технологического гипноза инвесторов
В марте в посте «Не дайте себя обмануть китайским роботам с гала-концерта Unitree Spring Festival» я писал о том, как китайская индустрия роботов превращается в грандиозную панаму. Теперь, с живописными фактами, о том же пишут аналитики авторитетного китайского делового технологического издания LatePost (晚点), специализирующегося на глубоких журналистских расследованиях, анализе рынков и эксклюзивных материалах в сфере ИИ и робототехники (профессиональный перевод Джефри Динга здесь).
Далее о том, что мне больше всего понравилось в расследовании аналитиков LatePost.
Робот против рабочего: смерть здравого смысла
На производственной линии BYD разворачивается технологическая комедия. Обычный рабочий берет подшипник с лотка и помещает его в стоящий рядом пластиковый контейнер за 2 сек. Антропоморфному роботу, «венцу творения», на ту же операцию требуется 70 сек. Его эффективность – жалкие 3% от человеческой.
При цене в 200 000 юаней (40 месячных зарплат рабочего) этот «помощник» ломается через 10 дней интенсивной работы. Казалось бы, проект пора закрывать, но венчурные капиталисты выписывают чеки с еще большим энтузиазмом. Почему? Потому что в мире роботов («воплощенного ИИ», как это называют авторы статьи) реальная производительность – это последнее, что кого-то волнует.
Техасский холдем на 900 миллиардов
Индустрия превратилась в гигантское казино. В первом полугодии 2026 года объем инвестиций в сектор превысил 900 млрд юаней, а 22 компании получили оценку выше 10 млрд. Это уже не инвестиции, а «Club Deal» – игра в покер, где Sequoia и Hillhouse садятся за один стол, чтобы просто не дать друг другу забрать банк.
Абсурд достигает пика в оценке компании Unitree (宇树). Ее капитализация взлетела выше 400 млрд юаней. Для контекста: это больше, чем совокупная стоимость четырех столпов китайского автопрома – Li Auto, Nio, Xpeng и Leapmotor. Компании, продавшие 1,75 млн реальных машин, стоят дешевле стартапа, который отгрузил 5 тысяч медлительных прототипов.
Как поддерживается этот пузырь
С помощью круговых схем и «фабрик данных», которые активно субсидируют местные власти, обожающие «экологичные» проекты. Схема проста: компании продают роботов подставным фирмам или партнерам, чтобы имитировать спрос и собирать данные.
- Дутая выручка. Из 1,699 млрд юаней выручки Unitree на реальное производство (логистику и заводы) пришлось лишь 15,7 млн юаней – это меньше 1%.
- Кулуарный маркетинг. Успех здесь куется не в лабораториях, а за столами KTV (караоке-клуб – популярный в Китае формат заведений для отдыха и неформального делового общения), куда поставщики водят инженеров Tesla Optimus, чтобы выведать секреты и создать видимость «причастности к будущему».
15 минут и 4 стадии позора
Авторы статьи LatePost пишут: «Инвестиционный банкир, участвовавший в роуд-шоу для трех робототехнических компаний, вспоминает визит в мае в компанию, занимающуюся разработкой искусственного интеллекта, стоимость которой превышает 20 миллиардов юаней. Инженеры попросили робота продемонстрировать складывание полотенца; процесс занял 15 минут, но задача так и не была выполнена.»
А в заключение статьи приводятся слова одного из инвесторов в китайскую индустрию роботов, описывающую эволюцию взглядов инвесторов за последние несколько лет весьма хлесткой формулой (видимо, это отсылка к пяти стадиям принятия неизбежного по модели Кюблер-Росс):
сомнение – не пузырь ли это;
понимание – да, это пузырь;
принятие этого факта
и, наконец, вкушание его плодов.
Вот только о том, какой будет пятая стадия, тот инвестор предпочел умолчать.
#Роботы #Китай | 19 469 |
| 19 |  Китай выигрывает не ИИ-гонку с США, а гонку за автоматизацию телеги
Автоматизация рутины и прорывной ИИ – это две разные цели
Bloomberg в августе 2026-го подводит итог полугода: эпоха абсолютного доминирования США в ИИ закончилась, бренд "Made in USA" больше не единственная гарантия качества. Заголовок звучит убедительно, но за ним стоит подмена масштаба. За эти месяцы Китай не догнал Америку в разработке передового ИИ. Он выигрывает другую войну: за то, кто дешевле построит сайт кофейни, ответит клиенту по почте и напишет скрипт поддержки – сегодняшнюю «телегу» ИИ-экономики. Победа реальная и измеримая в долларах. И почти ничего не говорящая о том, кто победит там, где рутины нет.
Доказательства этой – узкой, но настоящей – победы у Bloomberg есть. Тест Brewberg от Vals AI: несколько моделей делали один и тот же сайт кофейни с одинаковой функциональностью. Claude Fable 5 закрыл задачу за $48,99 – модель непрерывно уточняла, тестировала, переделывала. Китайские конкуренты обошлись в разы дешевле за счет меньшей "тревожности" в рассуждениях. По словам профессора Руслана Салахутдинова, одного из научных руководителей основателя Moonshot в аспирантуре Carnegie Mellon, ни одна лаборатория не удержит лидерство навсегда.
Цена – главное оружие Пекина. Такую гонку цен в Китае называют "инволюцией", и там ее боятся – она давит на экономику дефляцией. Остальному же миру это только на руку: DeepSeek V4-Pro стоит около $4 за миллион токенов против $50 у Fable 5 – разница не в разы, а на порядок.
Бизнес голосует кошельком. В июле доля китайских моделей на OpenRouter впервые перевалила за 60%. Основатель Polsia Бен Сера тратил на ИИ $1 млн в месяц и был на грани банкротства – переход на шанхайский MiniMax сократил расходы до $100 тыс. Основатель Lindy Фло Кривелло формулирует логику короче: "Вам не нужен Господь Бог, чтобы писать электронные письма".
Второе оружие – открытые веса. Пока Anthropic и OpenAI держат модели за платным API, семейство Alibaba стало самым скачиваемым в мире – больше 3 млрд загрузок за полгода, обогнав Meta и Google. Открытую модель, однажды запущенную локально, извне уже не отключить: экспортный контроль здесь бессилен.
Есть и обратная сторона: США обвиняют китайские лаборатории в дистилляции – обучении на ответах американских моделей, которое экономит годы исследований. Пока санкции сдерживают Китай, вычислительная мощь США примерно в 10 раз выше китайской, и это по-прежнему главный козырь Кремниевой долины. Китай методично закрывает и другие бреши: 2 трлн юаней на дата-центры, дешевая возобновляемая энергия и инженеры втрое дешевле американских (от $70 тыс. против $360 тыс. у OpenAI).
Но вернемся к подмене масштаба. Первые двигатели внутреннего сгорания тоже можно было оценивать как тягловую силу для телег и карет: по этому критерию лошадь еще долго побеждала бы по цене и надежности. Двигатель менял не скорость перевозки грузов на старых дорогах – он создавал автомобиль, авиацию, целую индустрию, которой раньше не существовало.
С ИИ – та же ловушка. В кибербезопасности и военных применениях 5% превышения показателей лучшей модели над второй по бенчмаркам – это разница между щитом и мечом в конкретном противостоянии: кто первым найдет уязвимость или первым ее закроет. Та же логика – в прорывных открытиях: новый материал, новое лекарство, новая технология либо найдены, либо нет, и здесь важна не средняя эффективность, а верхняя граница возможностей лучшей из существующих моделей. И в бизнесе главная ставка ИИ – не в автоматизации того, что уже есть, а в бизнес-моделях, которых пока не существует. Тест Brewberg меряет, кто дешевле построит витрину для кофейни. Он не мерит, кто первым построит бизнес, для которого витрины вообще не нужны.
Китай выиграл гонку за автоматизацию телеги. Гонка за автомобиль только началась. И выиграет в ней тот, кто первым создаст то, чего пока не существует, а не тот, кто дешевле воспроизведет то, что уже есть.
#ИИгонка #Китай #США | 29 088 |
| 20 |  ИИ – метаинтерфейс между человеком и реальностью
Он становится полупрозрачной живой линзой – второй сетчаткой между человеком и миром
В недавнем эссе NYT Элис Лассман назвала ИИ «социальным герметиком»: он заполняет щели человеческих отношений. Некому написать, не хочется беспокоить друга, страшно спросить напрямую – обратись к ChatGPT.
Но метафора «герметика» описывает лишь часть происходящего.
ИИ одновременно становится «социальным лубрикатором», снижающим трение между людьми: он объясняет чужие сообщения, подбирает правильные слова, помогает репетировать трудные разговоры и избегать конфликтов.
А еще он работает «социальным амортизатором» – принимает на себя первый удар раздражения, тревоги, ревности или обиды и возвращает человеку уже переработанную версию его эмоций.
Получается, что ИИ выполняет как минимум три новые социальные функции: заполняет пустоты, снижает трение и поглощает удары при коммуникации людей.
Но самое важное начинается за пределами коммуникации.
ИИ превращается в новый интерфейсный слой среды существования разума.
Он все чаще оказывается не только между человеком и человеком, а также и между человеком и текстом, событием, знанием, проблемой, собственной мыслью.
Т. е. меняется сама среда, внутри которой мы понимаем, интерпретируем и познаем мир, а коммуникация – лишь один из ее процессов.
Культура единственного носителя интеллекта постепенно превращается в гибридную культуру двух типов носителей – биологического и алгоритмического, то есть в алгокогнитивную культуру.
И одним из ее ключевых отличий становится трансформация культурной медиасреды.
ИИ постепенно превращается в метаинтерфейс между человеком и миром. Для математика, исследователя, дизайнера, поэта, студента или школьника это будут разные специализированные ИИ-интерфейсы. Но общий принцип один:
мы всё чаще обращаемся к миру через другой интеллект.
Прежде главным интерфейсом человека с информационной реальностью были экран, меню, поисковая строка. Теперь им становится другой носитель интеллекта.
В 1970–1980-е графический интерфейс изменил способ взаимодействия человека с компьютером – и помог превратить компьютер в массовый цивилизационный инструмент.
Сейчас происходит смена куда более высокого уровня.
Меняется интерфейс не между человеком и машиной, а между человеком и реальностью.
И впервые в технологической истории человечества этим интерфейсом становится иной интеллект.
#АлгокогнитивнаяКультура #ИнойИнтеллект | 12 861 |
