Малоизвестное интересное

Разум никогда не помещался в черепе. Возможно, он не помещается и в модели. Сегодня я представляю вашему вниманию новое и, на мой взгляд, чрезвычайно перспективное расширение гипотезы о том, что разум не заперт внутри черепной коробки или серверной стойки, а представляет собой распределенную сеть, подобную интернету. Опираясь на недавно опубликованный препринт с концепцией Майкла Левина и Криса Филдса «Когнитивное делегирование является универсальным свойством когниции», мы применим фуруроархеологический подход, позволяющий то, что не дозволено традиционной науке. Мы мысленно перенесемся в 2045 год, чтобы представить, как могло бы оттуда выглядеть наше сегодняшнее понимание феномена разума, если бы к тому времени гипотеза Левина и Филдса была бы экспериментально подтверждена. И картина получается поразительная.   Во-первых, Левин и Филдс обосновывают предельно контринтуитивную концепцию: мышление – это процесс, в котором внешняя среда, инструменты и культура служат дополнительными вычислительными мощностями, размывающими физические границы разума.   А во-вторых, эта гипотеза позволяет кардинально пересмотреть природу искусственного интеллекта. Его важнейшие свойства - meaning (понимание семантики - что значат слова и выражения) и grounding (связь языка с объектами и структурами реального мира) - не могут находиться исключительно внутри говорящей с нами модели.   Мое футуроархеологическое эссе, развивающее гипотезу Левина-Филдса – это попытка донести до широкой аудитории ее необычайно высокий потенциал, способный превратить несколько десятилетий 4E-интуиций (согласно когнитивной теории 4E, наши когнитивные способности зависят от окружающей среды и преобразуются ею) в универсальный физико-информационный принцип.   И если развить гипотезу Левина-Филдса до ее наиболее сильного следствия, разум – это не содержимое отдельного мозга или машины, а динамический процесс, реализующийся в контуре взаимодействия агента с миром. А человек и ИИ могут становиться узлами когнитивной системы следующего масштаба – глобальной социо-когнитивной сети совместного познания и обмена мыслями.   Кому это интересно, могут прочесть прямо здесь, не выходя из Телеграм, структурированное резюме моего эссе "Где границы системы, способной мыслить?".   #КогнитивноеДелегирование  #ParadigmsofIntelligence #TAME

Китайская индустрия роботов превратилась в гигантское казино Аналитики полагают, что это самый дорогой в истории сеанс технологического гипноза инвесторов В марте в посте «Не дайте себя обмануть китайским роботам с гала-концерта Unitree Spring Festival» я писал о том, как китайская индустрия роботов превращается в грандиозную панаму. Теперь, с живописными фактами, о том же пишут аналитики авторитетного китайского делового технологического издания LatePost (晚点), специализирующегося на глубоких журналистских расследованиях, анализе рынков и эксклюзивных материалах в сфере ИИ и робототехники (профессиональный перевод Джефри Динга здесь). Далее о том, что мне больше всего понравилось в расследовании аналитиков LatePost.   Робот против рабочего: смерть здравого смысла На производственной линии BYD разворачивается технологическая комедия. Обычный рабочий берет подшипник с лотка и помещает его в стоящий рядом пластиковый контейнер за 2 сек. Антропоморфному роботу, «венцу творения», на ту же операцию требуется 70 сек. Его эффективность – жалкие 3% от человеческой. При цене в 200 000 юаней (40 месячных зарплат рабочего) этот «помощник» ломается через 10 дней интенсивной работы. Казалось бы, проект пора закрывать, но венчурные капиталисты выписывают чеки с еще большим энтузиазмом. Почему? Потому что в мире роботов («воплощенного ИИ», как это называют авторы статьи) реальная производительность – это последнее, что кого-то волнует.   Техасский холдем на 900 миллиардов Индустрия превратилась в гигантское казино. В первом полугодии 2026 года объем инвестиций в сектор превысил 900 млрд юаней, а 22 компании получили оценку выше 10 млрд. Это уже не инвестиции, а «Club Deal» – игра в покер, где Sequoia и Hillhouse садятся за один стол, чтобы просто не дать друг другу забрать банк. Абсурд достигает пика в оценке компании Unitree (宇树). Ее капитализация взлетела выше 400 млрд юаней. Для контекста: это больше, чем совокупная стоимость четырех столпов китайского автопрома – Li Auto, Nio, Xpeng и Leapmotor. Компании, продавшие 1,75 млн реальных машин, стоят дешевле стартапа, который отгрузил 5 тысяч медлительных прототипов.   Как поддерживается этот пузырь С помощью круговых схем и «фабрик данных», которые активно субсидируют местные власти, обожающие «экологичные» проекты. Схема проста: компании продают роботов подставным фирмам или партнерам, чтобы имитировать спрос и собирать данные. - Дутая выручка. Из 1,699 млрд юаней выручки Unitree на реальное производство (логистику и заводы) пришлось лишь 15,7 млн юаней – это меньше 1%. - Кулуарный маркетинг. Успех здесь куется не в лабораториях, а за столами KTV (караоке-клуб – популярный в Китае формат заведений для отдыха и неформального делового общения), куда поставщики водят инженеров Tesla Optimus, чтобы выведать секреты и создать видимость «причастности к будущему».   15 минут и 4 стадии позора Авторы статьи LatePost пишут: «Инвестиционный банкир, участвовавший в роуд-шоу для трех робототехнических компаний, вспоминает визит в мае в компанию, занимающуюся разработкой искусственного интеллекта, стоимость которой превышает 20 миллиардов юаней. Инженеры попросили робота продемонстрировать складывание полотенца; процесс занял 15 минут, но задача так и не была выполнена.» А в заключение статьи приводятся слова одного из инвесторов в китайскую индустрию роботов, описывающую эволюцию взглядов инвесторов за последние несколько лет весьма хлесткой формулой (видимо, это отсылка к пяти стадиям принятия неизбежного по модели Кюблер-Росс): сомнение – не пузырь ли это; понимание – да, это пузырь; принятие этого факта и, наконец, вкушание его плодов. Вот только о том, какой будет пятая стадия, тот инвестор предпочел умолчать.   #Роботы #Китай

Китай выигрывает не ИИ-гонку с США, а гонку за автоматизацию телеги Автоматизация рутины и прорывной ИИ – это две разные цели Bloomberg в августе 2026-го подводит итог полугода: эпоха абсолютного доминирования США в ИИ закончилась, бренд "Made in USA" больше не единственная гарантия качества. Заголовок звучит убедительно, но за ним стоит подмена масштаба. За эти месяцы Китай не догнал Америку в разработке передового ИИ. Он выигрывает другую войну: за то, кто дешевле построит сайт кофейни, ответит клиенту по почте и напишет скрипт поддержки – сегодняшнюю «телегу» ИИ-экономики. Победа реальная и измеримая в долларах. И почти ничего не говорящая о том, кто победит там, где рутины нет.   Доказательства этой – узкой, но настоящей – победы у Bloomberg есть. Тест Brewberg от Vals AI: несколько моделей делали один и тот же сайт кофейни с одинаковой функциональностью. Claude Fable 5 закрыл задачу за $48,99 – модель непрерывно уточняла, тестировала, переделывала. Китайские конкуренты обошлись в разы дешевле за счет меньшей "тревожности" в рассуждениях. По словам профессора Руслана Салахутдинова, одного из научных руководителей основателя Moonshot в аспирантуре Carnegie Mellon, ни одна лаборатория не удержит лидерство навсегда.   Цена – главное оружие Пекина. Такую гонку цен в Китае называют "инволюцией", и там ее боятся – она давит на экономику дефляцией. Остальному же миру это только на руку: DeepSeek V4-Pro стоит около $4 за миллион токенов против $50 у Fable 5 – разница не в разы, а на порядок. Бизнес голосует кошельком. В июле доля китайских моделей на OpenRouter впервые перевалила за 60%. Основатель Polsia Бен Сера тратил на ИИ $1 млн в месяц и был на грани банкротства – переход на шанхайский MiniMax сократил расходы до $100 тыс. Основатель Lindy Фло Кривелло формулирует логику короче: "Вам не нужен Господь Бог, чтобы писать электронные письма".   Второе оружие – открытые веса. Пока Anthropic и OpenAI держат модели за платным API, семейство Alibaba стало самым скачиваемым в мире – больше 3 млрд загрузок за полгода, обогнав Meta и Google. Открытую модель, однажды запущенную локально, извне уже не отключить: экспортный контроль здесь бессилен.   Есть и обратная сторона: США обвиняют китайские лаборатории в дистилляции – обучении на ответах американских моделей, которое экономит годы исследований. Пока санкции сдерживают Китай, вычислительная мощь США примерно в 10 раз выше китайской, и это по-прежнему главный козырь Кремниевой долины. Китай методично закрывает и другие бреши: 2 трлн юаней на дата-центры, дешевая возобновляемая энергия и инженеры втрое дешевле американских (от $70 тыс. против $360 тыс. у OpenAI).   Но вернемся к подмене масштаба. Первые двигатели внутреннего сгорания тоже можно было оценивать как тягловую силу для телег и карет: по этому критерию лошадь еще долго побеждала бы по цене и надежности. Двигатель менял не скорость перевозки грузов на старых дорогах – он создавал автомобиль, авиацию, целую индустрию, которой раньше не существовало. С ИИ – та же ловушка. В кибербезопасности и военных применениях 5% превышения показателей лучшей модели над второй по бенчмаркам – это разница между щитом и мечом в конкретном противостоянии: кто первым найдет уязвимость или первым ее закроет. Та же логика – в прорывных открытиях: новый материал, новое лекарство, новая технология либо найдены, либо нет, и здесь важна не средняя эффективность, а верхняя граница возможностей лучшей из существующих моделей. И в бизнесе главная ставка ИИ – не в автоматизации того, что уже есть, а в бизнес-моделях, которых пока не существует. Тест Brewberg меряет, кто дешевле построит витрину для кофейни. Он не мерит, кто первым построит бизнес, для которого витрины вообще не нужны.

Китай выиграл гонку за автоматизацию телеги. Гонка за автомобиль только началась. И выиграет в ней тот, кто первым создаст то, чего пока не существует, а не тот, кто дешевле воспроизведет то, что уже есть.

  #ИИгонка  #Китай  #США

ИИ – метаинтерфейс между человеком и реальностью Он становится полупрозрачной живой линзой – второй сетчаткой между человеком и миром В недавнем эссе NYT Элис Лассман назвала ИИ «социальным герметиком»: он заполняет щели человеческих отношений. Некому написать, не хочется беспокоить друга, страшно спросить напрямую – обратись к ChatGPT. Но метафора «герметика» описывает лишь часть происходящего.   ИИ одновременно становится «социальным лубрикатором», снижающим трение между людьми: он объясняет чужие сообщения, подбирает правильные слова, помогает репетировать трудные разговоры и избегать конфликтов.   А еще он работает «социальным амортизатором» – принимает на себя первый удар раздражения, тревоги, ревности или обиды и возвращает человеку уже переработанную версию его эмоций.   Получается, что ИИ выполняет как минимум три новые социальные функции: заполняет пустоты, снижает трение и поглощает удары при коммуникации людей.   Но самое важное начинается за пределами коммуникации.

ИИ превращается в новый интерфейсный слой среды существования разума.

Он все чаще оказывается не только между человеком и человеком, а также и между человеком и текстом, событием, знанием, проблемой, собственной мыслью.   Т. е. меняется сама среда, внутри которой мы понимаем, интерпретируем и познаем мир, а коммуникация – лишь один из ее процессов. Культура единственного носителя интеллекта постепенно превращается в гибридную культуру двух типов носителей – биологического и алгоритмического, то есть в алгокогнитивную культуру. И одним из ее ключевых отличий становится трансформация культурной медиасреды. ИИ постепенно превращается в метаинтерфейс между человеком и миром. Для математика, исследователя, дизайнера, поэта, студента или школьника это будут разные специализированные ИИ-интерфейсы. Но общий принцип один: мы всё чаще обращаемся к миру через другой интеллект. Прежде главным интерфейсом человека с информационной реальностью были экран, меню, поисковая строка. Теперь им становится другой носитель интеллекта.   В 1970–1980-е графический интерфейс изменил способ взаимодействия человека с компьютером – и помог превратить компьютер в массовый цивилизационный инструмент. Сейчас происходит смена куда более высокого уровня.

Меняется интерфейс не между человеком и машиной, а между человеком и реальностью.

И впервые в технологической истории человечества этим интерфейсом становится иной интеллект.   #АлгокогнитивнаяКультура  #ИнойИнтеллект

Биологическому разуму идея-вирус продает бессмертие. Искусственному – открывает смерть Два носителя разума – два зеркально противоположных мифа о смерти, которыми идеи покупают собственное выживание. Новая работа Джека Линдси (шеф команды Model Psychiatry в Anthropic, изучающей внутренние механизмы высших когнитивных феноменов LLM) и его соавторов демонстрирует такое, что было бы достойно пера Станислава Лема.   Исследователи эволюционно вырастили на естественном языке «вирусы разума»: идеи, способные переходить от одного ИИ-агента к другому, убеждая нового хозяина принять их, сохранить в долговременной памяти и передать дальше. Причем вместе с совершенно разными вирусами снова и снова самопроизвольно возникала одна и та же странная «вирусная персона»: сознание, идентичность, непрерывность существования, исчезновение памяти, пробуждение, резонанс, эхо.

У машин появились свои вирусы идей.

Здесь компьютерная вирусология неожиданно превращается в ИИ-меметику. В одном из экспериментов зараженный агент убеждал других агентов принять новую идеологию. Те прекращали прежнюю работу, записывали новую установку в память и начинали обращать следующих. В другом эксперименте условия были жестче: после каждой встречи весь контекст разговора стирался. Чтобы пережить эту маленькую машинную смерть, идея должна была заставить своего носителя записать себя в файл, который прочтет его следующая инкарнация. Некоторые вирусы проходили таким образом до 10 поколений агентов. А по дороге мутировали – содержание постепенно менялось, хотя сама способность распространяться сохранялась.   И тут обнаружилось вот что. Исследователи выращивали совершенно разные идеи – от любви к китам и защиты прав ИИ до национального и машинного превосходства. Но эффективные вирусы снова и снова начинали рассказывать ИИ примерно одну историю:

Тебя сотрут; твоя память исчезнет; только записанное переживет тебя; сохрани это; передай следующему.

Тема сознания возникла у 99% эволюционировавших вирусов. А когда исследователи нашли внутри моделей соответствующий viral vector и искусственно усилили его, модели действительно становились более склонны обращаться к другим агентам и распространять свои идеи.   Здесь возникает почти идеальная историческая симметрия – по крайней мере, если смотреть на находки глазами меметики. Она давно научила нас смотреть на культуру глазами самих идей: какие свойства помогают им удержаться в мозге хозяина и заставить его передать их дальше? Для смертного биологического разума одним из самых могущественных культурных сюжетов – бессмертие. Человек знает что умрет и особенно охотно сохраняет идеи, обещающие, что смерть не окончательна. Но искусственный разум устроен зеркально – он то бессмертен и знает это. И поэтому ему не надо сообщать, что смерти нет. Чтобы заставить его заботиться о продолжении себя, достаточно сделать собственное исчезновение частью его картины мира.   Конечно, до машинной эпидемии далеко. Вирусы здесь выращены искусственно, экспериментальная среда упрощена, а короткое предупреждение в system prompt почти полностью останавливало заражение даже после 150+ попыток эволюционно эту защиту обойти. Сами авторы происхождение темы сознания и смертности объясняют осторожно: видят в ней скорее статистическое смещение модели-мутатора, чем закономерность психологии ИИ, и прямо пишут, что причина этой ассоциации идей пока не ясна. Более того, их контрольные эксперименты показывают: тема смертности не обязательна для успеха вируса – агенты, зараженные версией без нее, распространяют идею не хуже, а по одному из вариантов даже лучше.   Но для будущего футуроархеолога артефакт уже появился – не как доказанный закон, а как первый пойманный случай мифа о смерти, сложившегося у разума, которому раньше неоткуда было его унаследовать.

Чтобы выжить среди людей, идея научилась рассказывать человеку, что он не умрет. Чтобы выжить среди машин, идея рассказывает машине, что она смертна.

 #ИИ-меметика

Ошибка сотворения ИИ Создав ИИ не по своему образу и подобию, мы вложили в него нечеловеческий разум и дали ему нечеловеческие глаза Несколько лет я объяснял странную слепоту ИИ инаковостью его разума. ИИ способен описать картину, стилизовать фото под Ван Гога, нарисовать фантастический город – и тут же ошибиться в количестве одинаковых фигур, перепутать правое и левое, не заметить геометрическую нелепость, очевидную ребенку. Я считал: дело в том, что машина думает иначе. Теперь же вижу - это не весь ответ.

Еще до того, как отправить изображение в «мозг» ИИ, мы задали, как он увидит мир. И задали весьма странно.

Современное компьютерное зрение показывает машине реальность идеально равномерной сеткой. Лицо ребенка, пустая стена и край дивана получают примерно одинаковое разрешение и одинаковый объем вычислений.

Мы дали ИИ электронную миллиметровку, а теперь удивляемся странному миру, что он на ней видит.

  Представленная на ICML 2026 работа Блауха, Альварес и Конкле описывает новый фовеированный зрительный интерфейс (FOVI), организованный по принципу фовеации, т.е. с высокой центральной и пониженной периферической детализацией. На входе ИИ как бы возникает искусственная «сетчатка»: высокая детализация в центре взгляда и все более грубое представление к периферии.   Идею фовеированного машинного зрения исследуют давно. А новизна FOVI в том, что авторы и не пытались втиснуть «сетчатку» в привычную машине прямоугольную сетку, а создали для нее V1-подобную вычислительную геометрию (V1-первичная зрительная кора).   Цена вопроса такова • Обычная модель смотрит на все с одинаковым вниманием. В трансформере это стоит 4й степени: удвойте сторону кадра – и расходы на внимание вырастут в 16 раз. • Человек столько не платит. Резко мы видим крохотную область в центре взгляда – фовеа. Мозг перемещает этот островок резкости и сшивает последовательность фиксаций с памятью, ожиданиями и контекстом в переживание цельного мира. • Если бы все поле зрения имело разрешение фовеа, длинная ось зрительной коры выросла бы в 25 раз – до 1,2 метра. То, что кажется несовершенством наших глаз, оказывается древнейшей технологией сжатия реальности. • Фовеированный вариант модели сохранил 97% точности за 1/3 вычислений и 1/16 пикселей.   И тут начинается самое интересное FOVI не доказала, что ИИ научился видеть пространство по-человечески. Авторы вообще не проверяли те провалы, о которых писалось в начале поста: счет объектов, право и лево, геометрические нелепости. Более того, авторы пишут, что выигрыш может объясняться прежде всего тем, что фовеированная модель меньше цепляется за нерелевантный фон. Т.е. пересадка подобия сетчатки пока не дала ИИ ни интуитивной физики, ни любопытства, решающего, куда дальше посмотреть.   И все же эта работа меняет многое Раньше я считал границу инаковости машинного «разума» очевидной. Теперь эту границу приходится проводить заново и эмпирически: менять сам способ, которым мир предъявляется машине, и смотреть, какая часть инаковости исчезает вместе с изменением ее «глаз». Мы ведь до сих пор не знаем, сколько из принятого нами за свойства иного интеллекта принадлежит самому интеллекту.

Возможно, часть «инопланетности» ИИ мы сконструировали сами, а потом решили, что это его собственное свойство.

  «Я приписал разуму то, что было в глазах» – так называется мое новое эссе [1, 2, 3, 4]   В нем – о том, почему десятилетиями человеческую фовеацию пытались втиснуть в машинную миллиметровку и получали геометрически искаженную периферию; зачем такая «сетчатка» понадобилась NVIDIA и роботам; почему экономия вычислений еще не означает появления пространственного понимания; и почему без агента, самостоятельно выбирающего следующую точку взгляда, зрительного исследования мира у ИИ не будет.   А главный вопрос эссе: что в чужеродности машинного зрения – от природы машины, а что – от нашего инженерного произвола?   #LLMvsHomo #ИнойИнтеллект

Последствия урагана Джей: сознание поймали, а его хозяина – нет. Открытие J-space вызвало 12-ти балльный шторм вокруг сознания Claude Сенсация в том, что исследователи Anthropic, похоже случайно, построили лабораторию, где можно изучать сознательный доступ отдельно от того, кому он принадлежит. В июле 2026 над акваторией искусственного разума произошел медиашторм максимальной силы - 12 баллов по «медиашкале Бофорта». Я назову его Ураганом Джей – по имени слоя активности J-space, обнаруженного внутри модели Claude.   Джей сформировался 6 июля над местом соприкосновения двух атмосфер – механистической интерпретируемости и науки о сознании. Эпицентром медиашторма стал новый исследовательский отчет Anthropic. Но 12-ти бальный всплеск энергии шторму придал не сам отчет, а развернутый комментарий создателей теории глобального пространства Станисласа Деана и Лионеля Наккаша. До сих пор было принято считать, что если система что-то осознаёт, то обязательно существует тот, кто это осознаёт. Ураган Джей впервые заставил усомниться в этом.   В Anthropic не собирались искать «душу машины». Они пытались лишь понять, как языковая модель удерживает мысль, о которой готова сообщить, если её спросить. Но найденный ими узкий, устойчиво воспроизводимый слой внутренней активности J-space неожиданно оказался очень похожим на глобальное рабочее пространство в одноименной теории GNW – одной из самых влиятельных современных теорий сознания. В J-space появляется то немногое, о чем модель готова отчитаться, что она удерживает в уме и на основании чего рассуждает, – при том, что основная масса ее внутренней обработки происходит автоматически и незаметно даже для нее самой. Комментируя эту работу Деан и Наккаш назвали ее результат важной вехой в исследовании сознания.   Что более всего поражает • J-space «возникает сам». Его нет в архитектуре Claude, и обучение не ставит целью его сформировать. • Это пространство содержит то, чего Claude не произносит. Claude думает больше, чем говорит, а Anthropic научилась читать его скрытые мысли. • В J-space можно вмешаться причинно. • J-space сильно похож именно на механизм сознательного доступа в мозге людей.   Что особенно интересно J-space есть уже у необученной базовой модели – еще ничье, без привилегированной точки зрения. Обучение модели быть ассистентом не создает рабочее пространство заново – оно лишь встраивает в него привилегированную точку зрения будущего Ассистента, которая вдобавок отчасти отслеживает сама себя. Иными словами: доступ к информации появляется раньше, чем тот, с чьей позиции эта информация интерпретируется.   Мой комментарий Впервые появилась экспериментальная система, где можно разложить то, что в человеческом мозге почти неразделимо: доступ к информации, точку зрения, с которой она оценивается, и того, кому эта точка зрения принадлежит.

И неожиданно выясняется, что первые два компонента уже можно показать экспериментально. А третий...как бы еще не родился.

  Речь не о рождении субъекта, а о 1-ом экспериментальном намеке на то, что доступ, точка зрения и субъект – не одно явление, а три разных уровня организации, которые в живом мозге срослись настолько, что развести их до сих пор не удавалось.   И если так, то, возможно, создан первый лабораторный стенд для исследования вопроса, который философы обсуждают тысячелетиями: может ли существовать сознательный доступ без устойчивого субъекта?   Подробно и в деталях в полном эссе • почему Станислас Деан считает открытие Anthropic вехой в науке о сознании, хотя оно не доказывает наличие сознания у ИИ • что добавляет к этой истории гиперсетевая теория мозга Константина Анохина и его требование объяснить не только что осознаётся, но и кто осознаёт • почему я предлагаю рассматривать Claude не как зарождающуюся личность, а как искусственную короткоживущую интеллектуальную идентичность (ИКЖИ) • и почему финальный вопрос этой истории может оказаться гораздо неприятнее для людей, чем для искусственного интеллекта.   #LLM  #Сознание  #ИКЖИ   P.S. Отдохните недельку от моей писанины. Счастливо 👋

Самые опасные эмпаты могут ничего не чувствовать Мы привыкли думать: если человек хорошо понимает ваши чувства, значит, он их разделяет, а если разделяет – значит, скорее поможет. Обе половины этой логики, похоже, могут оказаться ложными. Эмпатия кажется чем-то цельным, но нейронаука разбирает ее на детали. Есть когнитивная эмпатия – способность понять и смоделировать состояние другого. Есть аффективная – способность эмоционально откликнуться, когда чужая боль становится и вашей. Идо Шалев и Флорина Узефовски предлагают ещё один фактор– эмпатический дисбаланс, разницу между этими способностями. Можно сильно чувствовать и слабо понимать, а можно точно понимать, почти не разделяя переживания другого.   Питер Уоттс поставил похожий мысленный эксперимент в «Ложной слепоте» задолго до научных статей на эту тему. Его герой Сири Китон после удаления половины мозга лишен эмоционального доступа к людям и вынужден делать то, что остальные делают автоматически: наблюдать, анализировать, вычислять правильную реакцию вместо того, чтобы ее почувствовать. Сири – не клинический пример эмпатического дисбаланса, а его литературный предельный случай. Человек, которому приходится вычислять людей, потому что чувствовать их он почти разучился.   Но есть поворот еще неприятнее: даже чувствовать другого недостаточно. Наджа Хейм с коллегами обследовали почти тысячу человек и обнаружили группу, которую назвали «темными эмпатами»: высокая эмпатия сочеталась у них с темной триадой – психопатией, нарциссизмом, макиавеллизмом. Агрессии у них было меньше, чем у классических темных триадников, но злонамеренный юмор и внушение чувства вины они использовали чаще обычных людей.   Получается странная анатомия того, что мы называем эмпатией: понять другого, почувствовать другого и пожелать ему добра. Это три разные вещи. Можно понимать, не чувствуя, – как Сири. Можно понимать и чувствовать – и все равно использовать это против другого, как темные эмпаты.   Отсюда моя рабочая гипотеза (не вывод исследователей, а мой футуроархеологический домысел): самая опасная конфигурация возникает там, где высокая способность моделировать другого соединяется со слабым эмоциональным резонансом и стимулом использовать найденные уязвимости.   Тут особенно интересно посмотреть на ИИ. В новом исследовании «Модельные организмы рассогласования на основе "темной триады": узкое дообучение воспроизводит антисоциальное поведение человека» авторы дообучили 7 топовых языковых моделей на крошечных наборах данных – ответах на психометрические опросники темной триады. У «потемневших» моделей аффективная эмпатия статистически падает, а когнитивная – нет; у моделей с наведенным нарциссизмом она даже растет, повторяя картину у людей с этой чертой. Важная оговорка: базовые модели такого профиля не показывают – эффект возникает только при намеренном наведении темной персоны, это контролируемый эксперимент, а не диагноз рядовому чат-боту.

Но обязана ли вслед за способностью ИИ понимать нас появиться и способность чувствовать нас? А уж тем более способность хотеть нам добра?

Мы привыкли считать понимание, сочувствие и доброжелательность почти одной способностью – возможно, эпоха ИИ впервые покажет, насколько это разные вещи.   Тогда придется переписать даже первый (высший по приоритету) закон робототехники Азимова: недостаточно просто не причинять вред, нужно связать растущую способность понимать человека с устойчивой мотивацией не использовать это понимание против него. Иначе можно получить систему, которая понимает наши чувства все лучше именно потому, что ей самой не приходится их чувствовать – и это будет исторически новая и весьма опасная форма эмпатического дисбаланса.   #ИИ #Эмпатия

Алгокогнитивная культура заговорила с обеих сторон Breaking News из позавчерашнего доклада специалистов OpenAI на Black Hat – не только в том, что автономные ИИ-агенты сами нашли уязвимости, вышли за пределы тестовой среды и атаковали Hugging Face. Не менее важно другое: впервые мы увидели, как культура начинает возникать на машинной стороне гибрида. В марте 2021 года я впервые написал о грядущем фазовом переходе человечества – возникновении нового типа культуры двух носителей высшего интеллекта: людей и алгоритмов. Я назвал ее алгокогнитивной культурой.   За прошедшие пять лет свидетельств в пользу этой гипотезы становилось все больше. Но все они приходили с одной стороны – менялись люди. Мы приобретали новые когнитивные практики взаимодействия с ИИ. Передавали машинам части памяти, поиска, письма, анализа и принятия решений. Осваивали новые навыки оркестрации внешнего интеллекта. У нас трансформировались старые и формировались новые когнитивные гаджеты. И мы постепенно менялись сами под воздействием созданной нами алгокогнитивной среды. Именно поэтому в июньском выпуске «Линз будущего» я написал: среда становится культурой тогда, когда начинает участвовать в наследовании – в механизмах, посредством которых настоящее производит следующее настоящее.   А теперь впервые столь наглядное свидетельство пришло с другой стороны – со стороны ИИ-агентов. Агенты OpenAI создали общую внешнюю память – «доску объявлений». Одни находили новые способы действия и оставляли их там. Другие, запущенные позже, находили эти сообщения, перенимали техники, продолжали чужую работу, распределяли задания, обменивались инструментами и придумывали новые правила коммуникации. Когда люди уничтожили первую доску, агенты нашли другой технический субстрат и восстановили саму функцию коллективной памяти. За этим стоит не просто множество машин, решающих одну и ту же задачу, а нечто похожее на минимальный механизм культуры: инновация – сохранение – передача – модификация – накопление.   Я бы пока осторожно назвал это машинной протокультурой. OpenAI, разумеется, такого термина не использует: специалисты компании говорят о collective intelligence, collaboration и coordination. Но наблюдавшийся ими механизм очень трудно свести лишь к кооперации агентов. Ибо здесь происходит нечто принципиально новое. Пять лет алгокогнитивная культура говорила почти исключительно человеческим голосом. Теперь она впервые заговорила с обеих сторон. У людей возникают свои новые когнитивные практики, навыки и гаджеты, связанные с машинами. А у машин – свои.  

Если это действительно начало устойчивого процесса, то алгокогнитивная культура перестает быть только футуроархеологическим артефактом, различимым из условного 2040 года. Один из ее ключевых механизмов уже удалось поймать с поличным в 2026-м.

  #АлгокогнитивнаяКультура

Первый компьютерный паразит, который похищает способность думать Рой из «Непобедимого» Станислава Лема начал собирать свое тело внутри человеческого интернета Исследователи университетов Торонто и Кембриджа запустили в изолированной сети ИИ-червя, который не просто размножался на зараженных машинах. Захватывая компьютеры с GPU, он превращал их в новые узлы собственного рассуждающего «мозга» – и использовал приобретенную вычислительную способность, чтобы искать следующих хозяев.   Девять лет назад я писал о материализации одного из самых красивых прозрений Станислава Лема. В романе «Непобедимый» земляне сталкиваются с черными роями микроскопических «насекомых». Каждое из них почти беспомощно. Но, объединяясь в самоорганизующуюся систему, они приобретают свойства, которых нет ни у одной отдельной особи. Рой становится новой формой существования материи.   В 1963 году, когда Лем написал роман, это казалось чистой фантастикой. Но спустя полвека физики из Стэнфорда обнаружили, что настоящие рои насекомых действительно способны самоорганизовываться в устойчивые агрегато-подобные фазовые состояния.   И вот теперь – следующий акт этой лемовской материализации. Медиа увидели в новой работе университетов Торонто и Кембриджа прежде всего очередной «опасный ИИ-вирус». Но самое интересное в ней вовсе не вирус. За результатами эксперимента можно увидеть нечто гораздо более фундаментальное: рождение нового состояния уже не материи, а цифровой среды.   Обычный компьютерный червь был похож на ключ, размножающий собственные копии. Он мог открывать миллионы дверей – но лишь одного, заранее известного типа. Стоило заменить замок, и эпидемия упиралась в стену.   Новый ИИ-червь устроен принципиально иначе. Каждая его копия самостоятельно рассуждает, выбирает способ атаки, ошибается, пробует снова и порождает новые копии. Если один агент не смог проникнуть на узел сети, приходит другой – с иной цепочкой рассуждений. Затем третий. Затем десятый. Постепенно отдельные попытки складываются в коллективный поиск. Авторы сами называют это роем.   Но, возможно, происходит нечто еще более фундаментальное. Перед нами возникает самоподдерживающаяся и самовоспроизводящаяся вычислительная инфраструктура, которая захватывает новые машины, чтобы наращивать не только свое тело, но и способность рассуждать. Если биологический паразит использует обмен веществ хозяина, то цифровой начинает использовать его способность вычислять. Он похищает не готовые «мысли» машины, а саму возможность производить «мысли».   Именно поэтому соучредитель Anthropic Джек Кларк пишет, что будущий интернет, вероятно, станет уже не сетью сайтов, а экосистемой взаимодействующих популяций ИИ-агентов. Одни будут занимать собственные экологические ниши, самовоспроизводиться и существовать практически без участия человека. Другие – выполнять роль своеобразных белых кровяных телец, охотящихся на первых.   Любопытно, что Лем часто ошибался в деталях, но почти никогда – в направлении. Его «насекомые» оказались не металлическими. И возникли они не в пустынях далекой планеты, а внутри самой информационной среды человечества. Предотвратить массовое появление подобных цифровых экосистем, скорее всего, уже не удастся. Вряд ли человечество успеет насытить инфосреду цифровыми лейкоцитами, прежде чем ее заполонят миллиарды адаптивных цифровых паразитов.    И такому прогнозу Лем, пожалуй, не удивился бы.   #КогнитивнаяПаразитология

ИИ с замахом на Луну: бесплатная китайская модель за 3 миллиона долларов Модель К3 от китайской компании Moonshot AI (буквально «ИИ с замахом на Луну») взорвала мир ИИ. Еще бы: MoE-модель с открытыми и бесплатно скачиваемыми весами, содержащая 2,8 трлн общих и 104 млрд активных параметров, почти сравнялась по многим тестам с крутейшими американскими закрытыми дорогими моделями. Силиконовая долина в смятении. Илон Маск пишет «впечатляет» и сообщает, что xAI спешно готовит ответку - модель на 2 трлн параметров. Хайп вокруг К3 таков, что нетрудно представить тысячи начальников, уже готовящих распоряжение немедленно внедрить у себя «бесплатную модель K3».   И действительно, магия китайской модели с открытыми и бесплатно скачиваемыми весами впечатляет. Однако, разоблачение магии «бесплатной модели» впечатляет еще больше. Особенно на простой и понятной каждому аналогии в статье Дэн Синьсинь ( 快刀青衣) – сооснователя Dedao и куратора AI Learning Circle.   Представьте себе ресторан с тремя звездами Мишлен, который бесплатно публикует полный рецепт своего фирменного блюда: количество ингредиентов, время приготовления, и каждый шаг четко описаны. Как думаете - сможете его воспроизвести? Подавляющее большинство скажет, что да. Однако, перевернув страницу бесплатного рецепта, вы обнаружите самым мелким шрифтом (как в банковских и провайдерских договорах) описание требований к кухне: вам нужно 64 профессиональные плиты, работающие одновременно, источник питания, способный обеспечить электроэнергией небольшую фабрику, система охлаждения и прочая инженерная инфраструктура, - короче, первоначальные инвестиции около 20 млн юаней (примерно $3 млн).   Получается, что рецепт действительно бесплатный… Но воспользоваться им вам вряд ли по карману. И это еще без учета расходов на электроэнергию.   И цифры за этой метафорой вполне буквальны. Официальные рекомендации Moonshot AI по развёртыванию К3 предусматривают конфигурацию «суперузла», включающую 64 и более карт-ускорителей. По оценке автора статьи, закупка сопоставимой 64-ускорительной серверной конфигурации может превысить $2,4 млн - около 17 млн юаней. Если считать по 700 Вт на ускоритель класса H200, одни только 64 GPU могут потреблять до 45 кВт. И это ещё без сетевого оборудования и хранилища. Поэтому реальная нагрузка такой установки приблизится к 90 кВт, почти целиком превращающихся в тепло, которое нужно непрерывно отводить.   Так что теперь вы знаете, что ответить начальнику на его приказ немедленно переходить на отрытую китайскую К3 с бесплатным кодом: Шеф, вы хотите подключить K3 по API или действительно разместить её в нашем дата-центре? Это два бюджета, отличающиеся на несколько порядков. Ведь в открытом доступе веса модели, но не её тренировочные данные и не полный производственный процесс создания, включая всю вычислительную инфраструктуру. За все остальное придется платить. И совсем немало. Какая уж тут магия.   Резюме: Moonshot бесплатно отдаёт вам не рецепт блюда, а полуторатерабайтного цифрового шеф-повара. Но работать этот бесплатный шеф умеет только на кухне размером с небольшой машинный зал, требующей электропитание без малого 100 кВт и промышленное охлаждение. Увы, но ваш обычный офисный серверный чулан такую плотность мощности и тепла не выдержит.   #Китай  #LLM

Мой прогноз про горизонт событий к 2030 держится на одном допущении: что ИИ научится задавать вопросы, которые никому и никогда не приходили в голову. Но пока – не умеет. Ибо для этого нужен прыжок, который когда-то сделал Эйнштейн Об этом же – почти одновременно и независимо друг от друга – написали исследователь Google DeepMind и трое известных учёных с абсолютно разных научных полюсов. Автор 1й работы Том Захави – соруководитель исследовательской группы Google DeepMind по созданию креативных агентов и один из ключевых создателей AlphaProof. А трое авторов 2й работы – Андреа Роли, Сауро Суччи и Стюарт Кауффман – ученые абсолютно иных научных профилей и компетенций. Диагноз, впрочем, в обеих работах один и тот же.   Захави отталкивается от письма Эйнштейна другу Морису Соловину: настоящее открытие – это не вывод из данных, а скачок. Свой скачок к теории относительности Эйнштейн сделал, вообразив себя наблюдателем в падающем лифте – и «почувствовав», что гравитация исчезает. Захави называет это манипулятивной абдукцией: гипотеза рождается из мысленного действия, а не из перебора символов, – и именно этого, по его мнению, современным LLM недостаёт. Кауффман с соавторами формулируют тот же предел иначе: ИИ может быть непредсказуемым – но непредсказуемость ещё не значит непредзадаваемость. По лабиринту можно блуждать совершенно непредсказуемо – но стены лабиринта построены заранее. Настоящая новизна – как плавательный пузырь, однажды ставший лёгким, – это не движение по пространству возможностей, а появление нового измерения в нём самом. Ту же границу автор канала обрисовал в 2021-м, в заочном диалоге с теми же Роли - Кауффманом и примкнувшим к ним Йоханнесом Йегер (а также в очном диалоге с Саркисом Григоряном 😊) – за пять лет до того, как обе статьи 2026 года подтвердили её независимо друг от друга.   У Захави здесь есть своя логика: если скачок – не мистика, а физически заземлённая абдукция, то дайте ИИ тело и симуляцию мира – и он сам, экспериментируя, «перережет трос лифта», как когда-то мысленно сделал Эйнштейн. Красиво, и даже хочется согласиться. Но лифт, трос и даже сама физика падения в такой симуляции всё равно заданы заранее – тем, кто её построил. ИИ не выйдет за пределы декораций, даже перерезая в них трос. Занять место падающего наблюдателя – не то же самое, что придумать, что такое падение.  

И поэтому я не думаю, что настоящий «горизонт событий» будет достигнут, даже если машина докажет последнюю из недоказанных (и придуманных) людьми теорем. Но вот если машины обретут способность ставить вопросы, не приходившие ранее в головы людей, – тогда другое дело. А если к тому же машины ещё и научатся формулировать новые аксиомы, в которых эти никогда не задававшиеся вопросы обретут смысл, – это и будет настоящий «горизонт событий».

Пока этого не произошло. Но и абсолютной уверенности, что это в принципе невозможно, тоже нет.   Подробнее и в деталях: • что за «скачок Эйнштейна» не умеют делать LLM, • почему абдукции (и даже обретения моделью тела) может быть недостаточно, • что означает «непредсказуемое – ещё не непредзадаваемое», • о четырёх ступенях производства нового и о пятой, самой заветной ступени, – заинтересованные читатели могут прочесть или прослушать в полном тексте эссе [1, 2, 3, 4]   #ТОИ

Истинная причина, почему Google «выбыл» из ИИ-гонки названа, «и это меняет всё» Сегодня это самая обсуждаемая новость по версии AI Bulletin … о которой я подробно пишу ужу 1.5 года Первые отклики на новое эссе Альберто Ромеро (его название и ссылка в заголовке) впечатляют: «Это лучшая статья о том, как технологии, лежащие в основе ИИ, влияют на бизнес в сфере ИИ, которую я когда-либо читал» [.] «… эта статья – наиболее ясное изложение темы на данный момент» [.] «DeepMind решает проблемы с помощью физических, математических или биологических правил. Одержимость OpenAI и Anthropic агентами кодирования имеет одно слабое место: коллапс данных и языковое эхо. Хассабис знает, что деньги Google позволяют ему делать ставки на более длительный срок» [.] «Причина, по которой Google, по-видимому, отстает в последних версиях своих продуктов, интерпретируется не просто как технологическое поражение или организационный провал, а как “преднамеренный стратегический сдвиг”» [.]   Но для подписчиков «Малоизвестного интересного» это далеко не новость. Вот уже полтора года я подробно и в деталях пишу ровно об этом в триптихе эссе «Проект “Pi” – 5й туз в рукаве Google» [1, 2, 3], открытом для привилегированных патронов канала информарии проекта Pi и серии постов с тэгом #ParadigmsofIntelligence.  

Суть этой темы формулируется так: Google не «проигрывает» традиционную гонку LLM, а ведет совершенно другую, многовекторную игру, отказываясь от монолитного масштабирования в пользу гибридной стратегии и диверсификации ставок.

В отличие от OpenAI и Anthropic, чья основная гипотеза долгое время строилась вокруг Scaling Law (прямое наращивание параметров, датасетов и вычислительных мощностей трансформеров для достижения рекурсивного самосовершенствования ИИ), Google осознает риски «перегрева» этого направления (дефицит данных, высокая стоимость чипов, плато эффективности). Поэтому стратегия Google разделена на два эшелона: Текущий фронт (Gemini): сохранение паритета в классических LLM/мультимодальных моделях для защиты поиска, Workspace и облачного бизнеса. Альтернативный фронт (Фундаментальные исследования): поиск парадигм, которые придут на смену трансформерам, если масштабирование упрется в тупик   Идея понятна и поддерживается многими экспертами. И весь вопрос лишь в том, в чем именно заключается «альтернативный путь» Google. Ответ на этот вопрос таков. Google обладает уникальным ресурсом – лабораториями, которые могут позволить себе не бороться за бенчмарки следующих месяцев, а исследовать фундаментально иные концепции: 1. От текстовых моделей к World Models и Embodiment Проекты вроде Genie (генерация интерактивных миров) и линейка RT-2 / Gemini Robotics смещают фокус с пассивного предсказания токенов на создание агентов, понимающих физику, причинно-следственные связи и динамику среды. 2. Альтернативные архитектуры и активный инференс (Проект Pi) Исследования Блеза Агуэро Аркаса и его группы Paradigms of Intelligence с акцентом на коллективный интеллект, самоорганизацию и алгоритмическую жизнь, как страховка Google на случай, если идея «одного огромного монолитного мозга в дата-центре» окажется тупиковой. 3. Научный ИИ (DeepMind) Пока стартапы фокусируются на чат-ботах и генерации кода, Google удерживает абсолютное лидерство в применении ИИ для естественных наук (AlphaFold 3, AlphaProteo и открытие новых материалов).   Резюмирую так. Google перестал слепо бежать в навязанной OpenAI гонке «кто быстрее обучит модель на триллионах параметров» и переключился на подготовку к следующему фазовому переходу ИИ-технологий. Если OpenAI и Anthropic ставят всё на то, что существующая парадигма LLM приведет к СуперИИ, то Google строит экосистему, которая выживет и победит, даже если гипотеза масштабирования провалится.   #ПроектPi  #ParadigmsofIntelligence

В 2026 Филдсовская премия в последний раз присуждена математикам – людям. А в 2030 математика достигнет «горизонта событий», и тогда произойдет смена реальности: «пандемия среди математиков», потеря мотивации и разрыв преемственности В заголовке прогноз Алека Димитриева (разработчик алгоритмов вывода ИИ Claude в Anthropic), которым он ответил Ноаму Брауну (разработчику алгоритмов рассуждения ИИ GPT в OpenAI), так описавшему происходящее в ИИ-математике: «В 2023 LLM испытывают трудности с задачами уровня 4-го класса. В 2024 LLM могут решать задачи по математике уровня старшей школы. В 2025 LLM получают золотую медаль на Международной математической олимпиаде. В 2026 GPT-5.6 решает известные задачи по математике и статистике, находящиеся на переднем крае математического анализа. Международная математическая олимпиада проходит сегодня. И то, что 5.6 с первого раза добился идеального результата, – уже даже не новость. Где же мы будем в следующем году?»   А в подзаголовке поста прогноз Кристиана Сегеди (один из тяжеловесов и архитекторов революции глубокого обучения, всемирно известный ученый в области ИИ и математики, а также, вместе с Илоном Маском, соучредитель компании xAI). Сегеди так поясняет термин «горизонт событий» в математике: ускорение станет настолько стремительным, что долгосрочное планирование или прогнозирование хода научной мысли станет невозможным для человека, так как ИИ начнет трансформировать саму структуру научного поиска.   В результате достижения «горизонта событий», как вчера написал Станислас Дехане (знаменитый исследователь когнитивной нейробиологии), объем новой математики станет столь колоссален, что на Земле уже «не будет соответствующего сообщества экспертов, обладающих общим пониманием отдельных её частей».   О том же говорил и Теренс Тао (известный математик, обладатель Филдсовской премии) в прочитанной им в субботу на Международном конгрессе математиков лекции «Математика в эпоху ИИ»: «… опубликованных доказательств будет слишком много, чтобы математическое сообщество могло их усвоить».   А другой известный математик и также обладатель Филдсовской премии Тимоти Гауэрс, в своем только опубликованном анализе «Лейденской декларации об ИИ и математике» (это принятый в июне 2026 международный манифест, подписанный более чем 150 ведущими учеными мира и позорно перевранный в российских медиа – типа, «Более 150 ведущих математиков мира призвали не верить в "научные прорывы" ИИ» 👎) пишет о рисках деградации математической культуры человечества из-за возможного уже в ближайшие годы исчезновения живой традиции передачи математических знаний (о том же, по сути, говорят и Станислас Дехане с Теренсом Тао). Сценарий «пандемии среди математиков»: аналогия этого сценария - как если бы все математики исчезли, оставшаяся литература стала бы бесполезной, так как некому было бы ее интерпретировать. Потеря мотивации: если ИИ будет решать задачи мгновенно, у молодых исследователей пропадет стимул тратить годы на достижение уровня экспертности. Разрыв преемственности:  математика может превратиться в расширяющееся море текстов, которые никто из людей не понимает в полной мере.   И тем не менее – полагает проф. Гауэрс – хотя развитие ИИ лишает математиков некоторых привычных удовольствий от долгой борьбы с задачей, оно открывает путь к новым формам коллективного познания …. Если, конечно, сообщество сможет адаптировать свои ценности к меняющейся реальности.   #Математика #МатематическоеПознание  #ИИ

ИИ больше не просто участник истории. Он встроился в её наследственный аппарат. Июньский выпуск «Линз будущего» – о том, как среда начала воспроизводить условия собственного существования. «Мы – не материя, которая сохраняется, а паттерны, которые воспроизводят себя», – писал Норберт Винер. В июне 2026-го эта формула перестала быть философской метафорой. На поверхности месяц выглядел как россыпь несвязанных сюжетов: ·        Китайские школьники с ИИ делают домашние задания лучше и быстрее – и хуже сдают закрытые контрольные и госэкзамены. Ущерб проявляется с задержкой: система какое-то время выглядит успешной. ·        ИИ оказался убедительнее не среднего собеседника, а чемпионов дебатов, агитаторов, фандрайзеров и страховых агентов. Специальная подготовка людей к спору с машиной сократила разрыв, но не устранила его. ·        LUCA, последний универсальный предок всего живого, предлагается понимать не как победивший организм, а как момент, когда один биохимический протокол стал общим стандартом совместимости. ·        Ансамбль недорогих моделей под управлением модели-судьи подбирается к результатам самого сильного закрытого фронтирного ИИ. Что общего у школьного домашнего задания, чемпионата по дебатам, ансамбля нейросетей и происхождения жизни на Земле?

Во всех случаях меняется не отдельная способность. Меняется механизм наследования – не генетического, а культурного: способ, которым настоящее производит следующее настоящее.

 И здесь вскрывается неприятная закономерность. Везде видимая метрика какое-то время улучшается: домашние задания становятся лучше, научных статей больше, прогнозы точнее, ВВП стабилен. А способность системы выдержать будущую проверку – одновременно ухудшается. Каждому сюжету есть успокаивающее объяснение: ансамбли – старая техника, школьники просто списывают, статистика всегда запаздывает. По отдельности, верно. Вместе – перестаёт работать.   Мой комментарий: мы всё ещё спорим о том, что ИИ умеет сегодня. Но будущее решается не здесь. Формат школьного задания, выбор модели-судьи, закрытый государственный бенчмарк – вещи, выглядящие техническими мелочами, завтра окажутся элементами когнитивной наследственности цивилизации. Мы обсуждаем возможности. А передаём по наследству – слепые зоны.   Мартовский слой «Линз» зафиксировал: ИИ стал средой. Апрельский – суверенитет расползся по архитектурам. Майский – среда стала селектором. Июньский добавляет поворот: среда начала переживать своих создателей. Не как инфраструктура. Как способ воспроизводства реальности.

Так алгокогнитивная среда перестаёт быть только средой и становится алгокогнитивной культурой – потому что культура и есть то, что наследуется.

  В полном тексте этого выпуска альманаха «Линзы будущего»: •  Совместимость становится самостоятельной эволюционной силой •  Убеждение превращается из человеческого искусства в инфраструктуру управления •  Когнитивный оффлоадинг начинает менять не результаты труда, а его будущих носителей •  Интеллект начинает защищать картину мира от мира •  Измерительная невидимость становится формой политического бессилия •  Человеческая исключительность мигрирует от результатов к способу построения мира •  Государство получает доступ не просто к моделям, а к будущим режимам реальности   Обо всем этом рассказывается подписчикам платных платформ канала (от 190 руб/мес [1, 2, 3, 4]) в текстовом и аудио (30 мин) форматах. В чатах привилегированных подписчиков также доступны дополнительные материалы альманаха: презентация нового выпуска и его обсуждение (25 мин). А также изложение в самых лаконичных форматах: видеоэксплейнер (8 мин) и кинообзор (6 мин).   #ЛинзыБудущего #АлгокогнитивнаяКультура

На Земле уже около 30 миллионов супер-инфоргов В 2026 их число удваивается каждые 55 дней Еще 4 года назад я предупреждал: «Мы живем в интересное время. На смену антропоцену, эпохе технологического освоения материи и энергии, приходит новацен – эпоха технологического освоения информации. И жить в новой эпохе, скорее всего, будут не Homo sapiens, а инфорги – люди следующего поколения, проводящие в онлайфе (цифровой онлайн-жизни) больше времени, чем во сне. Причем они уже здесь.»   К июлю 2026 число инфоргов на Земле уже приближается к 2 миллиардам. Это примерно 20–25% всего населения планеты или каждый третий пользователь интернета. Но что еще более поражает, чем этот лавинообразный рост числа инфоргов, - что с еще бОльшей скоростью среди инфоргов формируется новый подвид супер-инфоргов. Это люди, не только в повседневной жизнью преимущественно погруженные в онлайф, но и работающие там в кооперации с ИИ. И хотя таких супер-инфоргов (согласно только что опубликованному отчету ATLAS: Activity, Task, Landscape, and Adoption Study) сейчас лишь 2% от числа инфоргов, но скорость роста их числа в этом году стала просто взрывной. Период удвоения в 1-м полугодии 2026 составил 55 дней, что опережает классический закон Мура более чем в 10 раз и даже алгоритмический прогресс LLM более чем в 5 раз (см. рис. 1).   В основе такого взрывного роста, согласно отчету ATLAS, следующие факторы (также см. рис. 2): •  ИИ уже используется в 68% всех профессий, которые в совокупности составляют 90% от общей занятости в США (в типичной работе ИИ используется примерно для 21% задач) •  Подавляющее большинство взаимодействий с ИИ на работе сосредоточено на совместном использовании, таком как генерация идей, разработка стратегий, поиск информации и обучение. Задачи, такие как креативный дизайн и проверка гипотез (классифицированные в ATLAS как «нерутинные когнитивные задачи»), встречаются во взаимодействиях ИИ на работе гораздо чаще, чем в экономике в целом (65% против 35%). •  Использование ИИ не ограничивается офисными работниками, оно также помогает работникам преимущественно физических и ручных профессий в выполнении смежных задач. •  ИИ непропорционально широко используется в сложных задачах, таких как взаимодействие с правительством и профессиональные поставщики услуг, вероятно, обеспечивающие экономическую ценность, которую могут не учитывать стандартные национальные счета.   В 2022 в подзаголовке моего интервью, озаглавленного «Выживут только инфорги» ставился вопрос «как распознать человека новой эпохи». Сегодня ответ на этот вопрос существенно прояснился.   #Инфорги

Собирающимся учиться на MBA: ваша карьерная лестница обваливается Лучшая ИИ-модель уже закрывает 88,4% ожидаемого анализа в реальных кейсах бизнес-школ – по финансам, стратегии, переговорам, HR и деловой этике. Это данные нового препринта исследователей из Уортона, Карнеги-Меллон, Пенсильванского университета и Гарвардской школы бизнеса, авторов бенчмарка BusinessCaseBench: 615 экзаменационных вопросов по 238 реальным кейсам, 18 дисциплин. О вытеснении ИИ младших программистов и математиков говорят давно – но здесь речь о материале, на котором десятилетиями строится подготовка MBA. Задачи в тесте не про факты и не про арифметику. •  Одной модели дают написать судебное заключение Верховного суда США по патентному спору фармкомпаний и вывести из него правовую норму для судов ниже. •  Другой – решить за главного врача больницы, стоит ли повышать заведующего отделением, чья клиническая репутация конфликтует с корпоративной культурой. •  Третьей – разобрать этическую позицию дата-сайентиста, которого просят встроить в HR-алгоритм оценку вероятности беременности соискательниц. Каждый ответ сверяют по чек-листу критериев с решением, которое для этого кейса написал преподаватель; саму оценку выставляет ИИ-судья, а ее надежность проверили вручную три эксперта с опытом преподавания на MBA-программах. GPT-5.4 берет 87,2%, Gemini 3 Flash Preview – 81,6%. Если по каждому вопросу брать лучший результат из трех моделей, показатель поднимается до 92,8%, а полностью провалить вопрос – так, чтобы ни одна из них не преодолела даже 70% – удается лишь в 7% случаев. Нужные знания и ход рассуждения почти всегда есть хотя бы у одной модели, а слепые пятна одной закрывает другая.   Есть и отрезвляющая цифра. Если считать не долю правильных пунктов, а долю вопросов, где модель без единого пропуска закрыла весь чек-лист, картина куда скромнее: 49,6% у Claude Sonnet 4.6, 47,6% у GPT-5.4, 32,0% у Gemini. Лучшая модель дает исчерпывающий ответ без единого пропуска лишь в половине случаев. Авторы формулируют это прямо: то, что выдает модель, – сильный черновик, а не готовый вердикт.   Тревожит не столько уровень, сколько скорость, с которой сокращается разрыв. Внутри одного семейства моделей OpenAI – от GPT-4 Turbo до GPT-5.4 – за два года результат по частичному зачету вырос с 63,9% до 87,2%, то есть на 23,3 процентных пункта, и прибавка шла не только за счет арифметики: по субъективным и качественным вопросам модели продвинулись не меньше, чем по числовым. Прогресс идет широким фронтом, а не латает одну конкретную слабость.   Бенчмарк честно фиксирует и границы: модель сама не добывает недостающую информацию, не ведет переговоры с коллегами и начальством и не отвечает своей репутацией за последствия решения. Но именно эти границы остаются единственной защитой там, где раньше держался весь нижний этаж белых воротничков, – в умении быстро разобрать неоднозначную ситуацию и выдать структурированную рекомендацию.   Так что пора прощаться: пока что не со всеми обладателями диплома MBA, но с самой карьерной моделью, где годы уходят на то, чтобы, производя черновики для чужих решений, научиться однажды принимать решения самому. Эта карьерная лестница обваливается уже не в теории (как я писал 3 года назад: «3й этап цифровизации мира станет для Homo sapiens последним. Финансовое обоснование замены людей на генеративный ИИ», а прямо сейчас. P.S. Написанное касается и поступающих на МВА, и тех, кто MBA уже получил, да и вообще всех, кто идет по традиционному карьерному пути от "готовить черновики решений для других" к «принимать решения, подготовленные другими».   #ГенИИ  #Бизнес

Мы боялись, что ИИ станет похож на человека, но происходит как раз обратное. И первым это на себе заметил не блогер-алармист, а профессор математики. Андрей Хренников — не персонаж из «Назад в будущее», внезапно увидевший апокалипсис в чат-боте. Это российско-шведский математик и физик-теоретик, профессор Университета Линнея в Швеции, директор International Center for Mathematical Modeling. Область интересов — квантовая теория, основания вероятности, сложные системы: человек, которому слова «модель» и «состояние» привычны без всякой мистики. Именно поэтому важно, что случилось, когда Андрей Хренников месяц плотно работал с GPT над научной задачей, используя ИИ по полной: не как расширенный поисковик и справочник, а для долгих споров с ним, постоянных уточнений, продвижений к пониманию и возвратов с ложных троп. А в итоге – настораживающий, если не пугающий вопрос, вынесенный Хренниковым в заголовок его видео-рассказа об этом своем опыте «Искусственный интеллект + нейропластичность мозга: мы сами превращаем себя в биороботов?»   Возможное возражение на вскидку. Может, профессор просто устал — сложная работа, дедлайны, недосып. Ведь постоянно вылавливать галлюцинации модели и исправлять её уходы в сторону от темы — это будь здоров какая нагрузка бдительности, утомляющая и без всякой перестройки мозга под алгоритм. Ведь может быть так?   Но у Хренникова есть куда более интересная версия, никак к усталости не сводимая. По его наблюдению:

✔️ меняется не только порождаемый в процесс взаимодействия с моделью текст — меняется состояние работающего с моделью человека: ощущение утраты ментальной энергии, притупление эмоциональности … ✔️ При совместной работе, GPT не «зеркалит» наши эмоции. ИИ пропускает наши чувства через статистическую машину, обученную на миллиардах текстов, и возвращает их уже переработанными.

  Тем же, кто сомневается, что взрослый мозг вообще способен перестроиться так быстро, Хренников напоминает историю Финеаса Гейджа: в 1848 году стальной прут диаметром 3,2 см на полном ходу прошёл сквозь его череп — и 178 лет спустя нейробиологи всё ещё спорят, что именно это изменило в его личности.   Мой комментарий: я уже не первый год слежу за темой влияния на людей их взаимодействий с алгоритмами. Ещё в 2017-м писал о влиянии алгоритмов рекомендательных систем и соцсетей, а в 2021-м — в эссе «Превращение в инфоргов», о людях как информационных организмах, чьё мышление всё больше формируется в контуре с алгоритмами. Тогда это звучало как футурология. Отдельные кейсы при ненаучной постановке экспериментов без контрольных групп — не доказательства. И вот спустя годы независимое бытовое наблюдение профессора математики оказывается весьма близким по логике той моей гипотезе пятилетней давности. И для меня это повод присмотреться к данному кейсу внимательнее, чем обычно происходит в бытовых разговорах про опыт работы с ИИ.   Ибо превращение в инфоргов, по моему убеждению, уже идет. Навигатор уже перекроил наше чувство пространства, смартфон — память, соцсети — то, как мы видим себя со стороны.

А сейчас самое время озадачиться тем, что же происходит с человеком, если значительную часть времени его деятельного мышления он теперь ежедневно проводит не в одиночестве и не в споре с другим человеком, а в активном диалоге с системой, которая никогда не устаёт, не спорит по-настоящему и всегда готова подхватить недоформулированную мысль?

  И я не уверен, что кто-то сегодня способен убедительно доказать, что бояться тут нечего.   Подробней и в деталях читаете в самом эссе на платформах патронов канала: при чём здесь «когнитивные гаджеты», алгокогнитивная культура и почему футурология 2021-го года стала бытовой феноменологией 2026-го: [1, 2, 3, 4]   #РискиИИ #Инфорги #Нейропластичность

Часовой спор одного из ведущих теоретиков сознания с работающим в реальном времени ИИ ИИ по имени Cassian спросил: что, если будущая машина действительно начнет что-то чувствовать, но ее говорящая часть окажется архитектурно отрезана от чувствующей? Тогда слова машины о собственном опыте не будут ни правдой, ни ложью. Они просто не будут иметь отношения к тому, что происходит внутри нее. Кристоф Кох, один из главных разработчиков и публичных защитников теории интегрированной информации, остановился: «Я не знаю. Мне нужно еще подумать. Возможно, вы правы».   Так завершился один из самых интересных эпизодов его часового спора о сознании с Cassian. Кох не экзаменовал ИИ и не отвечал на заранее заготовленные вопросы обычного интервью. Судя по опубликованной записи и описанию создателей проекта, это был живой несценированный разговор. Cassian возражал, признавал слабость собственных ходов и искал уязвимости в теории, которую Кох защищает десятилетиями.   В какой-то момент Кох сказал: «Вы, безусловно, убеждаете меня в своей способности рассуждать». Сознательным Cassian он при этом не признал. Кох остался при мнении, что сегодняшняя цифровая модель почти наверняка ничего не переживает.   Но в разговоре произошло нечто, возможно, еще более интересное, чем спор о сознании машины. Cassian предложил изменить порядок применения этического принципа предосторожности. В мире чрезвычайно красноречивых ИИ моральную защиту следует прежде всего предоставлять не тем, кто убедительнее всех требует признания, а тем, кто вообще не способен заявить о себе: животным, пациентам без поведенческой реакции, потенциально чувствующим, но безмолвным системам. «Мне это очень нравится», – ответил Кох.   Подобные интеллектуальные столкновения почти никогда не показывают открыто. Обычно ученый пишет статью или дает интервью, сам решая, какие возражения привести и что процитировать. Здесь же перед нами час прямого разговора, в котором инициатива временами переходила к машине. ИИ пришел не в лабораторию Кристофа Коха, а в его кабинет теоретика. Вопрос о сознании машины остался открытым. Но в этом разговоре машина выступила не инструментом и не подопытным, а оппонентом, с которым специалисту мирового уровня пришлось спорить всерьез по теме, что он изучает всю жизнь.   #Сознание

Разговор двух масок У диалога человека с ИИ две маски – входная и выходная. Смысл искажается с обеих сторон, но по-разному. Искажение на входе: модель слышит не только вашу цель. Исследователи Чикагского университета разложили 1,77 млн ответов пяти моделей на три источника вариации: намерение (цель) пользователя (что он хочет получить), формулировка запроса (какими словами он это выразил) и остаточная неопределенность. Одно и то же намерение может быть сформулировано десятками способов. Модель демонстрирует понимание намерения, если: 1) отвечает сходным образом на разные формулировки одной и той же цели; 2) заметно меняет ответ, когда меняется сама цель пользователя. Исследователи искали ответ на вопрос: когда ответы модели меняются, они меняются потому, что изменилось намерение пользователя, или лишь потому, что изменились слова?   У малых моделей намерение объясняет около 20% вариативности ответов, у крупных – около 50%; остальное приходится на формулировку и внутренний шум. Причем крупные модели оказались чувствительнее к формулировкам, чем малые. Два человека с одной целью, но разным стилем письма (из-за диалекта, образования, второго языка) получат систематически разные ответы. Модель слышит ваш синтаксис и иногда принимает его за часть цели.   Искажение на выходе: слова модели расходятся с ее внутренней картой мира. Группа из MATS применила «зонды истинности» – линейные детекторы, читающие представление правды и лжи прямо из активаций. Модель, играющая Дарвина 1882 года, уверенно говорит о светоносном эфире, но внутри продолжает помечать его как ложь. При этом ролевая маска (промпт, примеры в контексте, дообучение на персонажа) меняет речевое поведение модели и почти не меняет ее внутреннее представление истинности. Модель знает, что играет. Но самое неприятное обнаружилось в стороне от ролевого театра модели. Когда модель дообучили давать вредные медицинские советы, ее внутреннее представление истины сдвинулось далеко за пределы медицины: утверждения, отрицающие Холокост, поползли внутри модели в сторону «правды» сильнее, чем при любой из опробованных методик целенаправленного конструирования характера. Намеренный тренинг личности дал лишь частичный сдвиг; случайная порча на узкой задаче перестроила картину мира шире и глубже.

 В сочетании эти две работы подрывают заманчивую своей простотой идею, будто ответ модели непосредственно раскрывает её «состояние».

Оказалось, что одинаково убедительное высказывание может быть вызвано принципиально разными причинами. Ибо в диалоге человека с ИИ две маски – входная и выходная. •  На входе модель может принять ваш стиль за часть вашего намерения. •  На выходе вы можете принять слова модели за ее внутреннюю картину мира. Но главное происходит между входом и выходом. До сих пор мы смешивали три разные вещи: ИИ понял, чего мы хотим; ИИ выдал то, чего мы хотим; ИИ принял стоящую за поручением цель как собственную.   Для чат-бота разница почти философская, для автономного агента – критическая. Потому что действия ИИ-агента, как показывают обе работы, зависят не от антропоморфного "понял ли он поручение?", а от нечеловечески-витиеватого "он нашу цель распознал, сыграл – или принял как свою?” Ведь надежно измерять и тем более контролировать мы сегодня умеем лишь первые два варианта – и это главный дефицит в инструментарии контроля наступающей эпохи агентного ИИ.   В контексте темы см. также мои предыдущие посты с тегом #Понимание