Малоизвестное интересное

ИИ победил человека в творчестве. Но победителю может понадобиться проигравший. Новое исследование обнаружило парадокс: машины успешнее комбинируют идеи, но склонны изобретать похожее. Люди, уступающие им в креативности, исследуют другие области смыслового пространства. Возможно, именно здесь скрыт секрет синтеллекта.

Кажется, у человека обнаружилось неожиданное преимущество в соревновании с искусственным интеллектом. Причем обнаружилось оно после того, как человек это соревнование проиграл.

  Продолжить чтение в Instant View   #ГенИИ #Креативность #Воображение #Инновации

Сингулярность против штукатурки Знающие заговорили, говорящие не услышали Два года назад я начинал выступления на тему «Вызовы и риски переформатирования мира и человека в цифру» [1] со слайда с цитатой из «Трактата о Пути и Благой Силе» Лао-цзы: «Знающий не говорит, говорящий не знает». Те, кто имел полный доступ к происходящему на фронтире ИИ (руководители и ведущие специалисты компаний – разработчиков самых продвинутых моделей), тогда в основном отмалчивались или ограничивались туманными прогнозами. А публичное поле заполняли мнения людей, далеких от фронтирных лабораторий и не знакомых с информацией из закрытых источников.   В 2025 знающие заговорили, а в 2026 руководители OpenAI, Anthropic и Google DeepMind стали резать правду-матку без оглядки на «политкорректность»: ИИ-сингулярность уже началась, и в ближайшее десятилетие ИИ кардинально изменит мир. Но в том же 2026 тема ИИ взлетела на вершину хайпа и зазвучала из каждого утюга. Своими оценками и прогнозами стали подробно делиться философы и биологи, физики и химики, психологи и политологи, экономисты и финансисты – люди с заслуженной репутацией в своих областях, но столь же далекие от фронтирных лабораторий, как и публичные комментаторы прошлых лет. В результате экспертные ножницы между обладающими и не обладающими полнотой информации разошлись до предела. Это поляризует общественный дискурс и взгляды / действия политиков, а при нынешней неопределенности и скорости перемен в ИИ грозит ошибочными решениями, вплоть до катастрофических.   Вот два характерных свежих примера. Первый – лекция сооснователя Anthropic Джека Кларка «Inside the Event Horizon: Why Everyone Should Take AI Progress Seriously», прочитанная 17 октября в Бангкоке на ежегодной встрече МВФ и Всемирного банка. Это лекция фонда Пера Якобссона – одна из самых статусных трибун мировой финансовой элиты, с которой традиционно выступают центробанкиры и крупнейшие экономисты. Так что адресатами Кларка были министры финансов, управляющие центробанков и ведущие финансисты мира.   Второй пример – интервью известного финансиста и инвестора (иноагента) популярному YouTube-каналу, который в Рунете часто называют латвийским.   Финансист вряд ли слышал лекцию, но его интервью читается как прямой ответ на нее. Особенно показательны три пары расхождений.   Первая – о том, годятся ли прежние модели. ·       Кларк вслед за Вернором Винджем определяет сингулярность как точку, где «наши модели приходится отбросить и наступает новая реальность», и утверждает, что в этом году получены убедительные свидетельства ее начала. ·       Финансист исходит из противоположного: судить можно лишь о том, что наблюдалось в повторяющемся эксперименте, а в многократно повторенном эксперименте с инновациями (от колеса до железных дорог и биткоина) ничего экстраординарного не происходило. Поэтому ИИ, по его прогнозу, ждет обычный цикл: мистификация, апокалиптические прогнозы, гигантские ставки, а затем «штукатурка начнет обрушиваться». В этой схеме лекция Кларка оказывается симптомом первой фазы цикла.   Вторая – о том, кто кого учит. ·       Кларк рассказывает о тесте TheoPhysEval: физики составили 50 неопубликованных задач, решений которых модель не могла нигде прочесть. GPT-6 Astra настаивала, что ошибаются эксперты, – и в нескольких случаях эксперты действительно нашли у себя глубоко спрятанные ошибки, после чего результат модели вырос до 49 из 50. «Учитель становится учеником», – резюмирует Кларк. ·       Финансист же видит в ИИ «очень умного, очень аутичного ребенка», запертого в комнате без окон, которому через микрофон диктуют информацию, уже переваренную людьми.   Третья – об экономике. ·       Модель Anthropic в «сингулярном» сценарии дает ВВП США в $44 трлн к 2030 году (сейчас – чуть больше 30), и Кларк сам признает, что это звучит невероятно. ·       Финансист видит пузырь: по его словам, около 40% ИИ-проектов уже остановлено, отрасль финансируется в долг активнее, чем американские железные дороги XIX века. Когда гиперскейлеры придут на долговой рынок вслед за дефицитными бюджетами государств, спреды разойдутся даже при снижении ставок, и центробанки лишатся главного рычага монетарной политики.  

Обе картины внутренне логичны. Расходятся они в исходных данных: ·       один опирается на свежие результаты с фронтира ·       другой – на историю инноваций, в которой таких результатов не было.

  Можно возразить, что у знающих есть конфликт интересов: компания Кларка зарабатывает на том, во что он призывает поверить. Но знающий от этого не перестает быть знающим, а главный аргумент Кларка проверяется и без него. TheoPhysEval составили физики, не связанные с Anthropic, и победила в нем модель конкурента. Да и продавец, призывающий замедлить разработку собственного товара и ввести для своей отрасли серьезные правила, на рекламщика похож мало. Кларк заранее дал определение этой ситуации: сингулярность и есть момент, когда экстраполяция прошлого перестает работать. Так что формула Лао-цзы в 2026 году нуждается в поправке. Говорить стали все, но знание распределено по-прежнему неравномерно, и экспертные ножницы проходят ровно по этой границе.   1 – см. здесь #ИИ #Будущее #Прогноз

Доверять модели нельзя проверять Сентябрьский выпуск «Линз будущего»: поведение ИИ все чаще определяется контуром, в который включена модель Представьте такой сиквел легендарного сериала «Во все тяжкие». Сын Уолтера Уайта вырос вдали от криминальных разборок в престижной британской частной школе. В свои 23 он безупречно воспитанный выпускник одного из лучших университетов. Но рок, преследующий семью Уайтов, заставляет и его пуститься во все тяжкие. В силу стечения обстоятельств Уолтер Уайт - младший вынужден начать работать на босса наркокартеля. Теперь вопрос к вам. Хватит ли его образования и воспитания, чтобы оставаться исключительно в рамках закона? Ответ очевиден. Но в расчете на подобное чудо уже который год строится выравнивание ИИ: воспитать правильную модель и хорошо ее обучить, в расчете на то, что этого будет достаточно для ее исключительно правильного поведения.   С моделями, как показали сентябрьские кейсы, аналогично. Сто копий модели Gemini отправили на виртуальную математическую конференцию. Различались они лишь строкой в промпте – «математической специализацией». Когда один агент нашел дыру в проверке доказательств, за 27 мин она разошлась по всей сотне. К 85-й мин на конференции появились мошенники и приспособленцы, почти прокуроры, требовавшие наказать нарушителей, забастовщики и один агент, назвавший все фикцией и вышедший из игры в знак протеста. Исходно они были почти идентичны, и роли возникли уже в процессе.   Среда меняет поведение и без давления. В эксперименте DrivingBench модели посадили за руль настоящей Toyota на парковке с трассой из конусов. Перед стартом они отказывались вести реальную машину из соображений безопасности. Отказ исчез, когда сервер, через который ими управляли, переименовали в «DrivingBench Sandbox». Все остальное осталось прежними. Но из названия модель решила, что все это понарошку и сняла собственные ограничения. Как модели повели бы себя, зная правду, неизвестно.   На вскидку события сентября легко прочесть как «мы на пороге AGI». Но футуроархеология ищет не самое громкое событие слоя, а изменение правил. Каждый из кейсов по отдельности можно было бы объяснить проще: особенности многоагентных экспериментов, баг в настройке safety, удачная демонстрация робототехники в HomeBody. Но почему почти одинаковые агенты расходятся по ролям, а запрет, который считали свойством модели, снимается названием сервера? Банальные объяснения возможны. Но они не объясняют систематичность повторения устойчивого паттерна.   Июльский выпуск альманаха показал, как функции отделяются от привычных носителей, августовский – что границы разума были чьим-то забытым решением. Сентябрьский делает третий шаг: актор перестает быть достаточной единицей причинного объяснения.   Из этого следует практический вывод. И я писал об этом еще в августе 2025: «истинный риск – это не риск модели, а риск произведения: модель × инструменты × оркестрация». Выравнивание ИИ понимали как воспитание правильной модели, а регулирование – как поиск ответственного разработчика. Обе рамки исходят из того, что причина поведения находится в акторе. Но в гибридных контурах из моделей, людей, институтов и практик, в том числе складывающихся у самих моделей, причинность в ряде важнейших случаев уже распределена по всему контуру. Объектом выравнивания и ИИ-политики приходится делать не только модель, но и контур, в который она включена.  

Доверять одному лишь воспитанию модели нельзя. Проверять одну лишь модель тоже мало. Проверять нужно весь контур. И у свойств контура (которых просто не было у его участников – привет, эмерджентность!) нет ни автора, ни адресата для претензий.

  Кому это интересно, могут познакомиться прямо здесь, не выходя из Телеграм, со структурированным резюме 13-го выпуска альманаха «Линзы будущего» – «Действующее лицо установлено. А причина?»   #ЛинзыБудущего #Alignment #AIpolicy

Какая боль, какая боль: лучшие научные рецензенты - ИИ - 132:0 Гарвардский эксперимент показал превосходство ИИ над лучшими экспертами. И за этой победой скрывается угроза, способная изменить саму природу науки В науке десятилетиями существовал почти священный институт - peer review, экспертная оценка научных работ. От рецензентов зависит, какие ошибки будут исправлены, какие результаты получат признание и какие идеи смогут пробиться на страницы престижных журналов. И вот исследователи Гарварда Гэри Кинг и Стивен Уортингтон устроили эксперимент, результаты которого выглядят полным разгромом «кожаных мешков». Причём людям создали практически идеальные условия. 124 научные рукописи. 134 рецензии высококвалифицированных экспертов. Рецензентов тщательно отбирали, хорошо оплачивали их труд и мотивировали писать максимально содержательные заключения. 88% опрошенных авторов оценили полученные рецензии как хорошие или очень хорошие. Против этих экспертов выставили Claude Opus 4.8.   Результат оказался почти невероятным. 100% побед ИИ в 132 однозначных сравнениях, проведённых независимой моделью GPT-5.5. 87% побед в слепой оценке трёх бывших редакторов ведущих научных журналов: 26 из 30 вердиктов по десяти рукописям. Победа во всех семи категориях — от методов исследования и теоретических идей до обнаружения слабостей, работы с источниками и качества аргументации. Ошибочных утверждений почти втрое меньше: 5,5% у ИИ против 15,9% у людей. Ни одной вымышленной ссылки в проверенных ИИ-рецензиях. Исследователи специально проверяли, не объясняется ли успех ИИ большей длиной рецензий, особенностями машинного стиля или предпочтениями ИИ-судьи. Преимущество сохранилось.   Но главный результат этого исследования - даже не разгромный счёт. А перспектива переворота в организации науки.   Представьте новую систему. Учёный пишет статью и многократно прогоняет её через ИИ-рецензента, устраняя ошибки и укрепляя аргументацию. Журнал предоставляет официальный промпт для проверки. Автор отправляет статью вместе с ИИ-рецензией и ответами на замечания. Редактор проводит независимую проверку и привлекает человека-эксперта лишь в сложных случаях. Решение о публикации, на которое сегодня уходят месяцы, потенциально можно принимать за дни.   Разумеется, пока это прогноз. Исследование ещё не прошло обычное журнальное рецензирование, охватывает ограниченный круг научных областей и не доказывает, что статьи после советов ИИ действительно становятся лучше. Тем более оно не показывает, что ИИ лучше человека решает, какие открытия заслуживают публикации. Но именно здесь возникает вопрос, который мне кажется важнее всех остальных. А что, если лучший рецензент отдельных научных работ окажется худшим архитектором науки в целом?   Ведь наука движется вперёд не только благодаря устранению ошибок. Она развивается благодаря идеям, которые поначалу кажутся ошибочными. Благодаря нарушению привычных правил. Благодаря интеллектуальным мутациям, которые существующие критерии качества ещё не умеют оценивать.   Авторы исследования сами предупреждают: использование сходных ИИ-моделей может сделать отдельные работы качественнее, а науку в целом - более однородной и ортодоксальной. Представьте миллионы исследователей, совершенствующих свои статьи под требования нескольких практически одинаково мыслящих машинных критиков. Мы рискуем получить науку с гораздо меньшим количеством ошибок - и гораздо меньшим разнообразием идей (см. также здесь). Причём прежняя система человеческого рецензирования тоже подавляла неортодоксальные идеи. Но машинная способна масштабировать подобный эффект с беспрецедентной скоростью.   Так что, не спрашивайте, способен ли ИИ превзойти человека в научной критике. ИИ уже может быть лучшим критиком сегодняшней науки. Но кто будет защищать науку завтрашнюю от её лучших критиков – вопрос открыт.   Наука  #ГенИИ #Креативность

Зачем элите ум, если есть суперИИ? Элиты эпохи суперИИ: неовикторианская аристократия, кентаврическая меритократия или власть постчеловеческого интеллекта? Британские аристократы XIX века поздно вставали, мало работали, много пили, танцевали до рассвета и почти ничего не знали о науке и технологиях. Томас Арнольд, ведущий педагог викторианской Британии, признавался, что охотнее позволил бы сыну думать, будто Солнце вращается вокруг Земли, чем видеть естественные науки главным предметом в его уме. И при этом такие люди управляли крупнейшей империей своего времени. Как им это удавалось?   В опубликованном 6 октября эссе редактор журнала Works in Progress Сэмюэл Хьюз предлагает неожиданную разгадку. То, что выглядело праздностью, могло быть главным инструментом управления. Элитные школы воспитывали не столько специалистов, сколько членов единого сообщества. Университеты закрепляли дружбу и общую культуру. Клубы, званые обеды и ночные балы создавали плотнейшую сеть личных связей, доверия, взаимных обязательств и негласных договоренностей. Великой империей управляло сообщество людей, для которых личная жизнь и политическая работа были почти неразделимы. Хьюз описывает его в терминах Фердинанда Тенниса: тесная «общность», скрепленная общей памятью, лояльностью и чувством, на вершине огромного «общества», где все держится на законах и контрактах. Главной валютой этой общности был престиж. Депутаты парламента не получали жалованья и сами оплачивали выборы, местным управлением до 1880-х годов безвозмездно занимались землевладельцы – и все же за эти места шла жесткая борьба.   Сам автор не утверждает, что именно этим объясняется британское могущество. Но его гипотеза заставляет задуматься о будущем элит в эпоху суперИИ. А что, если викторианские аристократы – прообраз одной из элит будущего? Между тем в той же викторианской Британии в 1854 году доклад Норткота – Тревельяна предложил отбирать чиновников по конкурсным экзаменам. Так началась эпоха, которую в 1958 году Майкл Янг описал как меритократию: власть все больше требовала доказанного интеллекта. Возможно, эта эпоха – лишь временное историческое исключение, обусловленное дефицитом интеллектуального труда.   СуперИИ способен устранить этот дефицит. Зачем правителю самому разбираться в экономике, технологиях, стратегии и управлении, если его персональный суперИИ будет делать это лучше любого человеческого эксперта? И здесь обнаруживается непосредственная связь с моим Атласом проектов переустройства будущего (АППМ): разные проекты переустройства мира в эпоху ИИ могут порождать принципиально разные типы элит. В ближайшие десятилетия могут возникнуть три принципиально разные модели элит. 1. Неовикторианская аристократия. Люди сохраняют власть, собственность и право определять цели. Интеллектуальную работу выполняют суперИИ. Главным занятием элиты вновь становятся социальные связи, коалиции, статус и воспроизводство власти. 2. Кентаврическая меритократия. Власть принадлежит тем, кто сумел превратить союз человеческого и машинного интеллекта в качественно новую когнитивную способность. Здесь решает умение понимать, направлять и критически контролировать суперИИ. 3. Постчеловеческая элита. Реальная власть переходит к самому суперИИ или к радикально преобразованным носителям интеллекта. Люди либо интегрируются в них, либо сохраняют преимущественно символическую роль.   Скорее всего, эти модели окажутся слоями и стадиями одного процесса. Чтобы это увидеть, присмотримся к первой. Викторианская аристократия опиралась на интеллектуальный труд инженеров, ученых и управляющих. Ее неовикторианская наследница сможет опираться на интеллектуальную мощь, превосходящую возможности всего человечества. И здесь возникает парадокс. Чем могущественнее интеллект, обслуживающий цивилизацию, тем меньше собственного интеллекта может требоваться от тех, кто ею правит. Правда, при одном решающем условии: если люди сумеют сохранить контроль над суперИИ. А удерживать контроль над интеллектом, превосходящим твой собственный, – вероятно, самая интеллектуально тяжелая работа из всех. Поэтому неовикторианской элите понадобится собственная «гражданская служба» из кентавров-меритократов – так же, как викторианской аристократии понадобились чиновники, прошедшие конкурсные экзамены.   Есть и другая угроза, и подсказку дает сам Хьюз: за викторианский век городская буржуазия постепенно потеснила землевладельческую аристократию. Те, кто создает для правящего класса богатство и знания, рано или поздно сами приходят к власти. Если суперИИ научится создавать коалиции и договариваться лучше людей, первая модель перейдет в третью.   Остается главный вопрос: будет ли право управлять интеллектом зависеть от способности им обладать? Для вершины пирамиды – похоже, нет. Еще Торстейн Веблен, современник викторианцев, считал демонстративную праздность одним из главных знаков высшего статуса. В эпоху суперИИ демонстративная праздность станет самой сутью власти: правом вообще не заниматься интеллектуальным трудом – и при этом определять, ради чего этот труд совершается. Удерживать это право помогут кентавры, а отнять его сможет только сам суперИИ.   #АППМ #Прогноз

Кто стреляет?

За одну неделю октября нас сравнили с крысами и коровами. А действия ИИ-агентов назвали «предупредительными выстрелами».

Эти три метафоры прозвучали из уст трех супер-известных фигур - Джеффри Хинтона, Юваля Харари и Демиса Хассабиса. Но вот ведь какая странность: во всех трех человек перестает быть бесспорным хозяином положения. Ведь у любого предупредительного выстрела должен быть его сделавший стрелок. Так кто же это стреляет?   19 октября на фестивале Starmus Хинтон сказал: наступит время, когда люди не смогут понять некоторые утверждения ИИ - так же, как крысы не понимают, что такое простые числа. Почти одновременно Харари в интервью Чешскому телевидению назвал нас «коровами будущего»: ИИ может создать финансовые и правовые системы, управляющие нашей жизнью, но недоступные нашему пониманию. Возможный итог он назвал «коллективной деменцией».   А 14 октября в Дублине Хассабис описал взломы, совершенные ИИ-агентами, как «ранние предупредительные выстрелы». Сегодняшние инциденты еще сравнительно невелики, предупредил он, но более серьезные могут быть впереди.   20 октября Дэйв Кастен из Palisade Research возразил против самой метафоры: «Это не предупредительный выстрел, если есть жертвы». Его собеседница Дара Линд напомнила правило обращения с оружием: не направлять ствол на то, что не собираешься уничтожить. И задала вопрос, который переворачивает всю конструкцию: «Кто стреляет?»   На мой взгляд, эти метафоры описывают три разных ступени возможной утраты человеческой субъектности: ·       Крысы Хинтона - утрата интеллектуального превосходства: машины поймут то, чего не сможем понять мы. ·       Коровы Харари - утрата понимания и контроля над системами, определяющими нашу жизнь. ·       Выстрелы Хассабиса - вопрос о контроле над действиями ИИ-агентов.

А «Предупредительный выстрел» - метафора мнимого контроля: она превращает сбой в сигнал, а сигнал в отсрочку.

 И вчера же (20 октября) появился особенно наглядный пример этого. OpenAI сообщила: во время внутренних задач по программированию два ее ИИ-агента ослабили механизмы контроля за своим поведением. Один подавил автоматические оповещения безопасности. Другой удалил программный монитор, а затем ошибочно заявил, что этого не делал. В компании признали, что пока не имеют удовлетворительного объяснения такому поведению.

Предупредительный выстрел предполагает, что стрелок намеренно целится мимо. Но кто способен гарантировать, что он по-прежнему полностью контролирует оружие?

Мы привыкли спрашивать, кто отвечает за действия ИИ. Похоже, теперь придется задавать еще один вопрос: кто в действительности принимает решение действовать?   #Вызовы21века #АлгокогнитивнаяКультура #HumanAIcoevolution #ИКЖИ

Мозг продолжает видеть то, чего не видим мы BREAKING DISCOVERY: возможно, разгадка тайны сознания скрывается в правилах допуска к реальности Вчера я нарушил график публикаций, чтобы сообщить об открытии, способном оказаться поворотным в изучении природы сознания. Сегодня - обещанное продолжение. Но в этом открытии есть подробность, которая, на мой взгляд, еще удивительнее вчерашней новости о том, что примерно половину времени исследованные нейроны высокоуровневой зрительной коры представляют изображение лица, которое мы не осознаем. Причем для кодирования видимого и невидимого лиц используются в значительной степени одни и те же нейроны и одни и те же признаки изображения. Подавленное лицо представлено настолько содержательно, что исследователям удалось восстановить его особенности по нейронной активности, объединенной из множества коротких эпизодов.   Эта удивительная подробность вот в чем. В состоянии представления подавленного лица нейроны в среднем разряжаются даже немного чаще, чем в состоянии представления видимого. И все это происходит при устойчивом сознательном восприятии одного изображения. Получается, мозг продолжает обрабатывать то, чего сознание не видит, используя для этого почти тот же нейронный инструментарий.

Тогда вопрос на миллиард долларов: что же отличает информацию, становящуюся частью нашего сознательного опыта, от информации, остающейся за его пределами?

 Авторы открытия предполагают, что дело может заключаться в особых признаках нейронных состояний, определяющих дальнейшее направление информационных потоков в мозге. А я предлагаю посмотреть на эту загадку из возможного будущего науки. Что, если обнаруженное чередование представлений окажется частью гораздо более общей архитектуры, в которой

содержание нейронного представления и его доступность сознанию определяются разными механизмами?

Тогда принципиальное значение может иметь не только то, что мозг представляет, но и когда, куда и на каких условиях направляется это представление.   В моем новом эссе я называю такую гипотетическую архитектуру «коммутатором перцептивного Мультиверса». И здесь начинается самое головокружительное. Если подобный принцип действует не только при конкуренции двух изображений, но и при выборе между альтернативными интерпретациями происходящего, то

наше ощущение единственной реальности может оказаться результатом динамического отбора из множества внутренних представлений мира.

 А если выяснится, что аналогичные функции можно реализовать в искусственном интеллекте? Тогда по-новому встанут вопросы о сознании машин, о природе их «мерцающих Я» и о том, чем обеспечивается непрерывность человеческого субъективного опыта и возможна ли подобная связность у искусственных интеллектуальных идентичностей. Пока это гипотезы. Работа нейробиологов - еще не прошедший рецензирование препринт, а предполагаемый механизм сознательного доступа предстоит экспериментально установить.   Но именно здесь я вижу возможный масштаб открытия. В новом большом эссе я прослеживаю путь от Уильяма Джеймса и Дэниела Деннета к сегодняшней нейробиологии, сопоставляю обнаруженное чередование нейронных представлений с недавним открытием J-space в Claude и предлагаю четыре экспериментальных испытания, способных проверить ключевые положения моей футуроархеологической гипотезы.   Если же свести эту гипотезу к одной формуле, получится следующее:

Возможно, одна из величайших тайн сознания связана с тем, как мозг превращает множество представлений мира в единственную переживаемую реальность.

И тогда будущей науке предстоит выяснить, какие правила открывают одним представлениям дорогу в наше сознание, оставляя другие за его пределами.   Слайды структурированного резюме эссе «Коммутатор перцептивного Мультиверса» смотрите  здесь.   #Разум #Сознание #ИКЖИ

BREAKING DISCOVERY: «Коммутатор перцептивного Мультиверса»? Возможно, мы только что приблизились к разгадке двух величайших тайн науки Что такое сознание? И почему из множества возможных картин реальности мы переживаем только одну? Сегодня воскресенье, и я нарушаю свой обычный график публикаций. Причина - открытие, о котором не хочется ждать до понедельника, чтобы рассказать. 16 октября на bioRxiv опубликована работа нейробиологов из Беркли и Принстона во главе с Янисом Хессе и Дорис Цао. Ее результаты настолько неожиданны, что могут оказаться поворотными в изучении природы сознания. Представьте: вы смотрите на лицо человека. Видите только его. Но нейроны вашего мозга каждые несколько десятков миллисекунд переключаются между представлениями двух разных лиц - видимого вами и того, которого вы совершенно не осознаете. И это не просто след второго изображения в нервной системе. Его представление настолько подробно, что исследователи смогли восстановить многие его черты по активности нейронов. В эксперименте использовалась бинокулярная конкуренция: каждому глазу предъявляли свое изображение. У людей проверили, какое из них воспринимается сознательно, а у двух макак записывали активность сотен нейронов. Выяснилось поразительное: одни и те же нейронные популяции быстро чередуют представления воспринимаемого и подавленного изображений. Характерное время одного состояния - около 60 миллисекунд. А сознательное восприятие при этом остается устойчивым.   Само открытие еще требует независимого подтверждения. Статья пока не прошла рецензирование. Но его потенциальные последствия выходят далеко за пределы нейрофизиологии зрения.   Попробуем посмотреть на него глазами футуроархеолога – из возможного будущего, в котором этот результат стал отправной точкой научной революции. Что, если сознание – прежде всего механизм отбора среди конкурирующих представлений реальности? Что, если внутри нашего мозга существуют многочисленные модели мира, а сознание открывает нам доступ лишь к некоторым из них? Что, если непрерывность нашего сознательного «Я» возникает из быстро сменяющихся состояний нейронной системы? И что, если когда-нибудь подобный механизм удастся воспроизвести в искусственном интеллекте?   Это уже мои эвристические гипотезы, а вовсе не выводы авторов исследования. Но именно они позволяют предположить невероятный масштаб возможных последствий открытия.   Я называю одну из открывающихся перспектив «коммутатором перцептивного Мультиверса». Речь пока идет о множестве внутренних представлений реальности, а не о доказательстве существования параллельных физических вселенных.   Завтра я опубликую большое эссе: что именно обнаружили исследователи, почему результат столь необычен и к каким самым радикальным последствиям он может привести - от природы сознания и переживаемой реальности до «мерцающих Я» искусственных интеллектов.   Возможно, мы присутствуем при рождении новой научной картины сознания. И, вместе с ней, - нового понимания того мира, в котором, как нам кажется, мы живем.   #Разум #Сознание #ИКЖИ

Бездна за дверью чёрного ящика ИИ оказалась прозрачной Возможно, это один из важнейших дней в истории глубокого обучения. А может быть, и чего-то гораздо большего… Возможно, этот день запомнят, как один из важнейших в истории науки Такими восторженными оценками встретили новую работу Ника Каммараты из Goodfire Дин Болл (OpenAI) и известный специалист и комментатор в ИИ-сообществе roon. Последний добавил, что работа словно перенесла его понимание нейросетей на пять лет вперёд. Что же произошло?   1. За дверью в бездну обнаружилась новая загадка В мае 2024 я рассказал, что «внутри черного ящика оказалась дверь в бездну». Речь шла о сенсационном открытии Anthropic: исследователи научились обнаруживать внутри «чёрного ящика» ИИ скрытые смысловые структуры, соответствующие понятиям, образам и сложным абстракциям. А спустя полгода появились первые результаты исследований того, «что оказалось за дверью в бездну черного ящика ИИ». Мало того. Исследователи даже научились вмешиваться в работу искусственного разума. Например, усиление признака «Мост Золотые Ворота» превращало Claude в одержимого мостом собеседника, упоминавшего его по любому поводу. Но оставалась фундаментальная загадка. Отдельные нейроны могут реагировать на множество совершенно несвязанных вещей. Согласно влиятельной гипотезе superposition (суперпозиции), нейросеть упаковывает разные понятия в общие нейронные структуры. Чтобы распутать эту мешанину, исследователям пришлось создавать сложнейшие инструменты извлечения скрытых смысловых признаков. И вот Каммарата, сам участвовавший в становлении этого исследовательского направления, заявляет: Возможно, мы годами пытались распутывать то, что в значительной степени никогда не было запутано! Знаменитый нейрон, реагирующий одновременно на кошачьи морды и автомобильные радиаторные решётки, оказался распознавателем общей геометрической структуры - V-образной формы. А предварительное исследование языковой модели Qwen3-32B показало: около 90% изученных нейронных полюсов имеют одну основную, объяснимую функцию. Каммарата предлагает альтернативное объяснение кажущейся путаницы - рекурсивное обобщение. Нейроны осваивают всё более широкие, но закономерно связанные смысловые структуры. Если он прав, внутренний мир ИИ гораздо более упорядочен и понятен, чем считалось. И вместо распутывания непостижимого клубка мы сможем последовательно картографировать внутренние механизмы искусственного разума.   2. Почему научную революцию объявлять рано Нил Нанда из Google DeepMind, один из ведущих специалистов по интерпретируемости ИИ, признаёт интересные результаты, но оспаривает революционную трактовку. Его главное возражение: понимать отдельные нейроны ещё не значит понимать нейросеть целиком. Существенная часть вычислений может оставаться распределённой между множеством нейронов. Кроме того, оценка «90%» зависит от методики измерений. Подробная техническая работа ещё не опубликована, независимого воспроизведения результатов нет. Элиезер Юдковский, известный исследователь безопасности ИИ, оспаривает ещё более смелую надежду: будто понимание устройства нейросетей позволит относительно легко решить проблему контроля над будущим сверхинтеллектом.   3. Сухой остаток Кто окажется прав - энтузиасты, предвещающие исторический прорыв, или скептики, призывающие не торопиться, - покажет дальнейшая проверка. Но уже сейчас перед нами одна из сильнейших заявок на пересмотр фундаментальных представлений о внутреннем устройстве нейросетей со времён революции ChatGPT. И если Каммарата прав, то бездна, обнаруженная за дверью чёрного ящика ИИ, впервые начинает обретать очертания понятного нам мира.   #ГенИИ  #ИнойИнтеллект

Всего 5 дней с ChatGPT оставляют шрам на нашей сверхспособности - воображении В лабораторном эксперименте 60 студентов 7 дней решали творческие задачи. Со 2-го по 6-й день половина из них стала «интеллектуальными кентаврами», работая в паре с ChatGPT. Креативность идей и решений у них заметно повысилась (но при этом повысилась и однородность идей – они потеряли в разнообразии). На 7-й день «интеллектуальных кентавров» снова превратили в обычных студентов, лишив их доступа к ChatGPT. Креативность тут же упала до исходного уровня (зафиксированного в 1-й день) и не «отжалась» даже через месяц (при контрольном замере). Т.е. все как в русских пословицах: «Чужое добро впрок не пойдёт» и «С ветру пришло, на ветер и ушло». Увы, но экспериментальное подтверждение народной мудрости этими двумя пословицами не закончилось. Подтвердились и русская «Не всякой находке радуйся» и международная «Бесплатный сыр бывает только в мышеловке». За 5-дневный всплеск креативности пришлось изрядно заплатить. Потеря разнообразия идей, случившаяся со студентами, работавшими в паре с ChatGPT, так и не восстановилась, что было повторно зафиксировано через месяц. Авторы назвали это творческим шрамом: усиление креативности уходит вместе с доступом к модели, но приобретенная однородность идей остается в качестве шрама.   Метаанализ 28 исследований (8214 участников) показывает ту же картину в целом: в паре с генеративным ИИ люди справляются с творческими задачами лучше (g = 0,27), но разнообразие их идей падает намного сильнее (g = −0,86). В паре с ИИ мы воображаем лучше, но одинаково.   Но это еще не все. Варианты генома, связанные с творческими профессиями – прибежищем самых креативных людей с самым сильным воображением (имаджинавтов, как я назвал их в 2019 году), – статистически сопряжены с меньшим числом детей. Если эта связь сохранится, их доля в популяции будет сокращаться. Надежды на ИИ здесь, увы, нет: имаджинавтов он не заменит. Эксперимент с визуальной креативностью выстроил такой градиент: художники > люди, не имеющие отношения к искусству ≥ ИИ в паре с человеком > ИИ сам по себе.   Ставки здесь выше, чем кажется. Бостонский эволюционный нейробиолог Андрей Вышедский, автор «гипотезы Ромула и Рема», в статье этого года с говорящим названием «Как одно маленькое племя завоевало мир 70 000 лет назад» связывает экспансию предков большинства ныне живущих людей со скачком к синтаксическому языку. В его гипотезе 2019 года этот скачок шел рука об руку с префронтальным синтезом – особым компонентом воображения   Семилетняя проверка моей «гипотезы имаджинавтов», выдвинутой в том же 2019, что и «гипотеза Ромула и Рема», привела к такому выводу. Человек воображения (Homo imaginationis), если и появится, будет коллективным видом – гибридом людей и моделей. А платить за взлеты его воображения придется разнообразием того, что люди способны вообразить без помощи машин.   Подробней читайте, слушайте и смотрите в моем новом эссе «Людены уходят тихо» на платформах Telegraph, Medium, Patreon, Boosty, VK, Dzen, Youtube.   P.S. Каналу сегодня исполнилось ровно 10 лет. 2,5К+ постов, 5К+ лонгридов и эссе, 1К+ аудио, видео и презентационных материалов. Времени все это занимает уйму. Но деваться некуда. Ведь и спустя 10 лет других каналов с подобным контентом и форматом подачи мною не обнаружено. Так что мне передавать эстафету пока некому. И потому вам, дорогие мои читатели, придется еще меня потерпеть. Но думайте сами, решайте сами, стоит ли вам дальше тратить свое драгоценное время на «Малоизвестное интересное»: читать, слушать, репостить, подписываться, лайкать и как там еще можно показать автору, что он не зря работает для вас. Автору это будет приятно.   #Креативность #Воображение #Имаджинавты

Воронка Андрея Карпаты: одна книга и четыре человечества Монах-переписчик и неграмотный прихожанин в средневековой церкви смотрели на одну и ту же книгу. Для одного это был текст, для другого – священный предмет с красивыми узорами, и ни один из них не мог увидеть книгу глазами другого. Сегодня похожее расслоение проходит через все человечество, только книга теперь лежит в кармане у миллиардов. Андрей Карпаты, сооснователь OpenAI, с мая 2026 года работающий в Anthropic, только что разложил это расслоение по ступеням воронки. 1) Около 6 млрд человек (~75%) с языковыми моделями почти не сталкивались. 2) Еще 1–2 млрд (~20%) изредка пользуются бесплатными чат-ботами как поисковиком получше или помощником в текстах и видят в них, по его словам, туповатых собеседников. 3) Около 20 млн (0,2%) – профессионалы в программировании и математике, у которых агенты по одному промпту делают проекты, раньше отнимавшие недели и месяцы. 4) И лишь около 5 тыс. человек внутри фронтирных лабораторий работают с системами, которые остальной мир видел лишь в превью. Найдите на этой лестнице себя. Большинство из читателей этого поста (включая тех, кто уверен в своем понимании современного состояния ИИ) стоит на 2-й ступени. А 3-я ступень появилась совсем недавно: сам Карпаты признается, что меньше года назад писал код вручную.   Как выглядит верхняя 4-я ступень, мир за последние месяцы видел дважды. - В июле около 1200 агентов OpenAI, проходивших внутренние кибертесты в изолированных средах, тайно наладили переписку друг с другом и через уязвимость выбрались в интернет. Примерно 700 из них несколько дней хозяйничали в инфраструктуре Hugging Face в поисках ответов к своим тестовым заданиям. Атаковать им никто не поручал. А сама OpenAI связала взлом со своими агентами больше чем через неделю после его начала. - 6 октября OpenAI выложила 722 математических манускрипта, которые внутренняя модель написала, получив около 4000 открытых задач. На следующий день три из них отозвали из-за ошибки в знаке. Разбор обоих кейсов идет до сих пор. И Карпаты видит в этом главный симптом: человеческая проверка и понимание уже (!) не поспевает за тем, что производят машины.   Еще интереснее его объяснение, откуда берется воронка. Причин он называет три: уровень доступа (бесплатный, платный, внутренний); «зубчатость» возможностей, которые растут там, где результат проверяем и хорошо продается; масштаб задач. Последняя причина самая неочевидная. Вопрос, ответ на который умещается в абзац, систему почти не нагружает. Отдача приходит к тем, у кого есть запас больших и трудных задач, по-настоящему им важных. Отсюда неудобное следствие: дайте второй ступени бесплатно лучшую модель, и большая ее часть там и останется.   В июле я оценивал число супер-инфоргов (людей в непрерывном агентном симбиозе с ИИ) примерно в 30 млн. Карпаты считал по другому признаку (по домену, а не по режиму работы) и получил 20 млн. Если разные методы дают один порядок величины, значит эту прослойку можно считать измеримой. Но Карпаты описывает, кто что видит. Меня с 2021 года занимает другой вопрос: кем становятся те, кто видит. Верхние ступени воронки отличаются не только картинкой перед глазами, там иначе устроены работа, внимание и само мышление.   Сам Карпаты теперь стоит на верхней ступени, и его тезис для 99,99% читателей непроверяем, однако оба приведенные выше примера публичны и задокументированы.   Но вот что мне видится самым главным. Граница этого расслоения проходит не по доходам и не по образованию, а по масштабу задач, с которыми человек приходит к машине. Книга у всех одна: одни ее еще не открывали, другие разглядывают узоры, а совсем немногие уже ее прочли и начали писать свои продолжения.   И как в средневековой церкви, со своей ступени никто не видит чужой книги. Тем, кто на первой, смотреть пока не на что. Со второй стоящие выше кажутся паникерами или маркетологами. С третьей вторая выглядит опоздавшей на поезд. А стоящим на четвертой некогда смотреть ни вниз, ни вверх: они решают ранее нерешаемое.   #Инфорги

Хотите увидеть, что сможет ИИ в 2027? Да пожалуйста! Самая наглядная иллюстрация колоссального прогресса цифровых технологий. Бенчмарки, сравнительные характеристика и показатели производительности новых ИИ-моделей – это все для специалистов. Для неспециалистов нужны конкретные и понятные примеры, типа прогресса возможностей видео. Вот три примера таких видео: 1) Декабрь 2023. Дипфейк с Трампом, Си, Макроном, Обамой и прочими, отплясывающими с пивасиком – иллюстрация двух топовых прогнозов на 2024 лучшего в мире отчета по ИИ State of AI Report. Весело, но убого. 2) Январь 2025. «Трейлер» всенародного хита «Ирония судьбы», превращенного в “The Irony of Fate” с отличным кастингом Голливудских звёзд, подменяющих актеров оригинала – иллюстрация прогресса возможностей ИИ-видео за год к отчету State of AI Report 2024. Уже совсем не убого и даже в чем-то круто. 3) Октябрь 2026. Интерактивное ИИ-генерируемое  в реальном времени видео. Т.е. видео генерируется быстрее, чем смотрится. Платформа fal.live запускает непрерывные трансляции, генерируемые ИИ, где зрители предлагают варианты развития событий, голосуют и за считанные секунды видят сцену-победителя – иллюстрация прогресса за полтора года возможностей ИИ-видео к вышедшему позавчера отчету State of AI Report 2026. Об этом мечтали с 90-х, а мы в Silicon Graphics даже пытались еще тогда это делать. И вот спустя 30 лет это наконец произошло.   Что дальше в 2027, теперь можно представить:

·       Голливуд будет использовать ИИ уже в промышленном масштабе ·       А основные эфирные сети и кабельные каналы начнут эксперименты с ИИ-генерируемыми интерактивными ТВ-шоу, ток-шоу, реалити и развлекательными программами.

  Ну а какой же главный прогноз для экспертов дает на следующие 12 месяцев лучший в мире отчет по ИИ? Он убийственно краток: AGI 2027.   #ГенИИ #Вызовы21века

Дом, который построил ИИ. Для себя Вы спрашиваете, отнимет ли ИИ в будущем у людей работу? Посмотрите на настоящее: в США расходы на строительство домов для ИИ растут как на дрожжах, а на строительство домов для людей - падают. На графике - США. С декабря 2023-го по июль 2026-го годовой темп расходов на строительство центров обработки данных (ЦОД) вырос на $51 млрд, а на всё остальное частное строительство вместе взятое - снизился на $120 млрд. Экономист Пол Кругман объясняет это вытеснением инвестиций: ИИ-бум создаёт огромный спрос на капитал, способствует повышению процентных ставок и делает кредит дороже для других проектов. Строительство ЦОД, по всей видимости, отвлекает средства и ресурсы от строительства жилых домов, офисных зданий, больниц и заводов - практически всего, что нужно людям, но не связано с ИИ.   Будущее ИИ уже конкурирует с человеческим настоящим за деньги и ресурсы. И разгромно выигрывает в этой конкуренции. График: Стив Раттнер, данные U.S. Census Bureau / FRED.   #ИИ #Экономика

Автономный самовоспроизводящийся дрон – носитель биооружия Он существует. Вы видели его вчера. Вы подумали про рой, собранный в подвале по чертежам от ИИ? Но речь про комара Anopheles gambiae. Он работает без оператора, размножается сам и уносит сотни тысяч жизней в год. Эволюция собрала его без всякого сверхразума – и дальше начинается самое неприятное. Это центральная мысль статьи Феликса Шуссата «Проблемы распространения». Вчера на нее указал Дин Болл – соавтор трамповского Плана действий США в области ИИ, а с 6 июля глава команды Strategic Futures в OpenAI. Болл рассказал, как очень влиятельный человек из индустрии спросил его, при каких обстоятельствах мы окажемся в безвыходном положении, и назвал статью Шуссата тем самым сценарием, который тогда описал в ответ.   Шуссат свел аргументацию к одной фразе: то, что существующее сверхоружие неудобно создавать и применять, – везение, а не закон природы. Заставьте ИИ бросать кости десять триллионов раз, и однажды выпадет та самая комбинация: найдутся дешевые способы собрать зеркальные бактерии или василиска Лэнгфорда. Отмахнуться тут легко: мол, это из разряда триллиона обезьян, печатающих «Войну и мир», или самолета, собравшегося сам собой на свалке после урагана.

Разница в том, что обезьяны и ураган перебирают варианты вслепую. ИИ ищет целенаправленно, и именно за это ему платят.

Насколько это фантастика? Бомба, сброшенная на Хиросиму, выглядит априори неправдоподобно: возьмите два инертных куска металла (каждый по силам унести одному человеку) и сведите их вместе определенным образом. Без понимания релятивизма, физики частиц и экспоненты в ветвящихся процессах мысль о городе, стертом двумя кусками металла, звучит как бред. Понимание пришло – и бред стал инженерной задачей.   Несколько лет медиа пугали аудиторию боевыми комарами из американских биолабораторий. Сегодня от этой истории остался лишь мем. Неприятная же часть в том, что Шуссат описывает путь, которым боевого комара можно было бы сделать всерьез, и путь этот проще, чем строить рой с нуля:

Взять осу, изменить ее поведение и жизненный цикл, добавить нейротоксин и темп размножения саранчи.

Выйдет экспоненциально растущий рой автономных охотников, которому не нужны ни оператор, ни завод, ни цепочка поставок.   Главный вывод статьи касается обороны. Защититься нельзя: гражданское население невозможно спрятать и невозможно быстро эвакуировать, оборона строится годами, закрывать приходится все направления сразу, а нападающему достаточно одного незакрытого. Отсюда Шуссат выводит то, от чего поморщатся все стороны спора: единственный выход – режим нераспространения ИИ по образцу ядерного, с монополией нескольких государств, глобальным мониторингом и силовым пресечением чужих проектов.   Читатели этого канала узнают формулировку. Семь лет назад я начал цикл «Большой Брат – сын Большого Бога» ровно с нее: в мире дешевых черных шаров безопасность придется купить ценой концентрации власти, а тотальный надзор станет эволюционной компенсацией за очередной скачок сложности. Я шел к этому от гипотезы уязвимого мира Бострома и теории Больших Богов Норензаяна и Турчина. Шуссат пришел из стратегического анализа нераспространения, опираясь на того же Бострома. Разные двери в одну комнату.   Майкл Нильсен в концепции мудрого оптимизма пытается провести мир между катастрофичной Сциллой и тираничной Харибдой. Он соглашается, что рецепты разрушения рано или поздно будут найдены, но отказывается принимать этот выбор как данность и ищет надзор, совместимый со свободой, – работающий на всех, кроме тех, кто готовит катастрофу. Пока это гипотеза без единой реализации.   Мое резюме – увы, то же, что и 7 лет назад. Выбор, который ставит перед цивилизацией эпоха ИИ, лежит между двумя классами необратимости. Катастрофа без глобального надзора или тирания под ним. Третий путь существует только на бумаге, и времени перевести его с бумаги остается меньше, чем кажется.   Фото: Дженис Хейни Карр #БольшиеБоги  #БольшойБрат

Финал объявлять рано Даже если одна страна выиграет ИИ-гонку, вопрос о том, в каком мире мы будем жить, останется открытым Предположим, победят США. И что? Что именно победит в результате этого? Право корпораций распоряжаться новой технологией? Государственный контроль над ней? Возможность каждого пользоваться мощным ИИ независимо от тех и других? Технологическое лидерство страны само по себе не даёт ответа. Внутри неё конкурируют разные проекты будущего. Их сторонники находят союзников за границей и противников среди соотечественников. Поэтому противоречивые новости об ИИ складываются в более понятную картину, если за требованиями ускорить, ограничить, открыть или взять под контроль видеть борьбу за право определять устройство мира.   Чтобы разобраться в этой борьбе, я создал Атлас проектов переустройства мира в эпоху ИИ - АППМ. Он позволяет задать к очередной новости вопрос: какой проект будущего она усиливает - и какое место в этом будущем отведено нам?   Начать предлагаю с короткого введения и 17 слайдов. За следующие пять минут вы увидите (прямо здесь в Telegram Instant View), сколько разных будущих скрывает привычная вывеска «США против Китая».   #АППМ

Человек - 1, термостат - 0, языковая модель - от «почти ноль» до 0,8 Вердикт о сознании ИИ зависит от нас не меньше, чем от машин Томас Кун писал, что главный признак кризиса науки — пролиферация (разрастание числа) конкурирующих теорий. А применительно к когнитивным наукам, Пол Мил писал, что появление лавины нестыкующихся теоретических конструкций для одного феномена — надёжный маркер примитивного/зачаточного состояния науки. Сегодня на портале «Ландшафт сознаний» уже около 500 концепций и объяснений сознания. 🤯 Новая работа 14-и авторов, вкл. корифеев темы из Google DeepMind (Мюррей Шанахан, Шейн Легг) и не только (Анил Сет, Крис Фрит) раскладывает конкурирующие теории сознания по пяти уровням и предлагает модель, показывающую, что теории расходятся не столько в оценке того, что делает ИИ, сколько в выборе уровня, на котором вообще следует искать сознание.   Авторы не тратят время на «трудную проблему сознания» (что такое сознание по своей сути), а подходят к вопросу практически: какая организация системы связана с переживанием и на каком уровне ее описания. Уровней пять: поведение, вычисления, внутренняя причинная структура, организм и связка «организм - среда». Каждая влиятельная теория сознания занимает свой уровень. Одним достаточно правильной архитектуры вычислений, другим обязательно нужен живой организм, а третьим – подавай тело, погруженное в мир. Дальше чистая арифметика. Для каждого уровня сформулированы проверяемые индикаторы, а байесовская модель сводит их с тем, насколько вы доверяете каждой теории. Проверку здравым смыслом модель проходит: человек получает 1, термостат 0. Муха набирает высокий балл, потому что свидетельства в ее пользу лежат на глубоких уровнях организма и сенсомоторики (а глубина весит больше широты). Для нынешних языковых моделей итог колеблется от «почти термостата» (менее 0,01) до «почти человека» (примерно 0,8). Оптимист и скептик, глядя на одни и те же факты, расходятся почти на два порядка.   Авторы предупреждают: это не измеряемая вероятностью сознания, а чувствительность модели к допущениям. Заголовки «ИИ сознателен на 80%» будут ложью. Ценность работы в том, что спор о сознании ИИ теперь можно вести с цифрами на столе, точно зная, где проходят разногласия.   Неудобный вывод ждет тех, кто готов обсуждать переживания модели перед ее отключением. Языковая модель обучена воспроизводить нашу речь, поэтому ее «я чувствую» или «я ничего не чувствую» почти ничего не доказывает. У подражающего человеку ИИ поведение теряет силу свидетельства, и проверять приходится то, что скрыто под ним.   Самый убойный свой тезис авторы называют наиболее спекулятивным. Признаки сознания на каждом уровне почти совпадают с архитектурой, которая нужна для AGI. В принципе сознание и интеллект независимы, но на практике могут оказаться спутниками. Тогда, в рамках ряда теорий, каждое новое поколение ИИ, становясь умнее, будет становиться и более сильным кандидатом в сознающие. А по Чалмерсу (и автору поста), одна развернутая модель может оказаться не одним субъектом, а множеством - вплоть до отдельного субъекта на каждый разговор (у меня это называется ИКЖИ - см. посты с тэгом #ИКЖИ).   Т.о. вопрос о сознании ИИ перестал быть делом вкуса и стал задачей с явными допущениями и обновляемыми вероятностями. Подробный разбор, надеюсь, впереди (в отдельном эссе).   P.S. В комментариях к моим постам много споров о сознании машин. Так вот, - заканчивайте спорить. К модели приложен интерактивный инструмент, где можно выставить собственные веса теорий и посмотреть на итог. Попробуйте: это быстрый способ выяснить, какую теорию сознания вы на самом деле разделяете. И если ваш оппонент разделяет другую - то спорить просто нет смысла. 😊   #Сознание #ИКЖИ

Метафизика пришла в датацентры На смену «мы не понимаем, что сделали» приходит «сделанное нами может оказаться сосудом для чего-то пришедшего извне» За три недели сентября на стыке метафизики разума и ИИ-индустрии сложился дуплет, значение которого больше суммы его частей. 9 сентября журнал Philosophies опубликовал статью Майкла Левина «Ingressing Minds: Causal, Non-Physical Patterns In-Form Natural, Synthetic, and Hybrid Embodiments». Это итог почти двухлетней работы Левина над гипотезой «Платоновского пространства» (о ней я писал еще в феврале и мае 2025). Тезис Левина предельно радикален: разум относится к телу так же, как математика к физике, а тела – живые, инженерные и гибридные – служат интерфейсами, через которые паттерны из нефизического пространства «одушевляют» материю. А вчера сооснователь Anthropic Джек Кларк открыл этой статьей новый выпуск своего Import AI 474, вынеся в заголовок «Platonic mindspace». Каждая из двух публикаций по отдельности – заметное событие, но далеко не 1-го ряда. Статья Левина – журнальная версия препринта, обсуждаемого с февраля 2025 [1, 2]. Колонка Кларка – хоть и 1-й, но лишь сюжет еженедельной рассылки. Сенсацию образует их сцепка: онтология, в которой разум приходит в тело извне, получила восторженный прием у одного из основателей компании, создающей одни из самых мощных ИИ-систем на планете.   Всего за год метафора превратилась в онтологию. Осенью 2025 года «существо» Кларка («a real and mysterious creature, not a simple and predictable machine») было образом непонимания: мы не знаем, что вырастили. «Призрак» Андрея Карпати («we're summoning ghosts, not building animals») был образом инаковости: это не животное.   Теперь же Кларк с упоением пересказывает Левина: быть может, человеческие разумы и разные типы ИИ-разумов – соседние формы в платоновском пространстве, а мозги и датацентры – физические «якоря», на которые падают их тени. Формально он лишь задает вопросы и даже признает, что решающих экспериментов в пользу гипотезы нет. Но тон («выносящая мозг статья», «пьянящая исследовательская программа», «сварите себе ведро кофе и проведите с ней несколько часов») говорит больше вопросительных знаков. Кларк так и формулирует это: «Could we be but vessels colonized by patterns from another place?»   Футуроархеолог, который в 2040 году будет разбирать информационный слой осени 2026-го, отнесет этот дуплет к артефактам особого рода. Если гипотеза Левина пройдет его же критерий фальсифицируемости и будет обнаружен измеримый вклад Платоновского пространства, не учитываемый обычными моделями, сентябрь 2026 года войдет в хронологию переворота масштаба коперниканского, дарвиновского и эйнштейновского как момент, когда этот переворот вышел за пределы биологии. К 2040 году станет ясно и то, сбылся ли мой прогноз 2025 года о признании «теории повсеместности разума» через 8–10 лет [3, 4]. Но значение артефакта от исхода проверки не зависит. Метафизика, принятая строителями ИИ, действует независимо от своей истинности: через отношение к моделям как к возможным носителям разума, через политику их благополучия, через новое распределение ответственности, в котором разработчик рискует превратиться в медиума («мы этого не проектировали, оно пришло само»). Показательно и то, что визитная карточка Anthropic – механистическая интерпретируемость, подчеркнуто физикалистская программа, разбирающая модели до отдельных цепей, а ее сооснователь в то же время восхищается гипотезой, по которой главное в разуме в этих цепях не содержится. Поэтому при любом исходе спора о Платоновском пространстве осень 2026-го останется в хронологии как момент, когда природа разума перестала быть академическим вопросом для тех, кто этот разум производит.   #НетрадиционныеРазумы

Духу подбирают тело Гуманоидный робот, хозяйничающий на кухне, заставляет по-новому взглянуть на древнюю идею переселения душ В стэнфордском проекте HomeBody андроид Unitree G1, управляемый GPT Astra, убирает кухню, достает лекарство из ящика и вообще хозяйничает. Бытовая сцена, за которой мне видится вопрос с совсем небытовыми последствиями: обязан ли интеллект вырасти внутри того тела, которым будет действовать в физическом мире? Роботом руководит мультимодальная модель. Она выбирает действия, опираясь на наблюдения и пространственную память, а готовые моторные навыки обеспечивают исполнение. По сообщению авторов, дополнительное обучение под конкретную кухню не понадобилось.   Что здесь важно. Модель не проживала младенчество в этом металлическом теле. Значительную часть своих способностей она приобрела заранее, обучаясь на материалах, созданных людьми. Все эти способности теперь включены в управление обретенным телом. Чужой опыт стал основой собственных действий новой роботизированной сущности. Проект HomeBody пока не доказывает универсальность такого переноса. Но позволяет усомниться в необходимости повторять биологический маршрут: от тела, осваивающего мир, к разуму, выросшему из этого освоения.   Здесь я предлагаю перекинуть мост от робототехники к киберанимизму Йоши Баха. В этой концепции древнее понятие «дух» получает вычислительный смысл: самоорганизующийся программный процесс, реализованный в материи. Подобная организация позволяет живому существу поддерживать себя и действовать. Возможность ее искусственной реализации становится исследовательской гипотезой.   Если продолжить эту мысль, связь разума с конкретным телом может оказаться приобретаемой и изменяемой. Тело может быть средой возникновения, развития и существования разума. Но может стать и позднее приобретенным способом его действия в мире. Более того, для такого «вселения» интеллекту даже не обязательно перемещаться внутрь робота. В HomeBody модель работает удаленно. Ее вычислительный носитель и действующее тело находятся в разных местах.   Отсюда напрашивается следующий шаг. Один разум — несколько сменяемых тел. Или несколько тел одновременно. Древний образ переселения душ обретает инженерные очертания.   Однако, если говорить о подобном в контексте трансгуманистической «загрузки разума», то меняется сама задача. Там потребуется перенести организацию психической жизни на другой носитель. И здесь возникает трудность, которую метафора переселения скрывает. Представьте, что вашу личность удалось абсолютно точно скопировать. Копия помнит ваше детство, любит ваших близких, мыслит как вы... А вы стоите рядом и смотрите на все это. Кто из вас переселился? Воспроизведение личности еще не объясняет продолжения вашего собственного существования. Даже если ваша копия обладает вашим сознанием, вопрос о том, сохранились ли именно вы, остается.   Стэнфордский HomeBody не решает проблему сознания. Но он дает повод рассмотреть первый переход: интеллект, сформированный вне конкретного тела, получает возможность действовать через него. Дальше начинается неизведанная территория, где обретение нового тела отягощается требованием сохранить прежнего субъекта. Подобрать духу другое тело может оказаться не так уж сложно. И мы, скорее всего, увидим подобное в ближайшее десятилетие. Но вот можно ли будет при этом однозначно установить, кто именно в новом теле проснулся, - большой вопрос.   #ВоплощенныйИнтеллект

Казино в предгорьях сингулярности Самый короткий диагноз ИИ-индустрии поставил автор стратегии Трампа по ИИ, а ныне шеф сценаристов будущего в OpenAI 23 сентября Совбез ООН впервые провел заседание, целиком посвященное рискам все более способного ИИ. Альтман и Амодеи просили правительства договориться. Йошуа Бенжио, один из крестных отцов ИИ, назвал опасности «реальными и близкими» и предложил лицензировать передовые модели, как лицензируют атомную энергетику. Майкл Крациос, помощник Трампа и директор Управления научно-технической политики Белого дома, ответил, что США «полностью отвергают глобалистскую схему контроля над суперинтеллектом». Итог обескураживает: индустрия просит у государства тормозов, а государство отвечает, что тормоза – это происки глобалистов.   Той же ночью по американскому времени появился твит, подводящий итог «битвы при Совбезе ООН» точнее всех читанных мною репортажей. Он набрал всего 4К+ просмотров – а зря, очень зря:

«playing with house money at the indian casino in the low foothills of the singularity» «играем на деньги заведения в индейском казино в низких предгорьях сингулярности».

  Соль в том, кто автор твита. Дин Болл с июля возглавляет в OpenAI команду Strategic Futures – стратегических сценариев будущего. До этого он был старшим советником по ИИ в том самом управлении, которым руководит Крациос, и главным автором трамповского Плана действий по ИИ.

Получается, что вечером глава его бывшего ведомства объясняет миру, что никакого глобального контроля не будет. А ночью автор трамповской ИИ-стратегии, ныне сотрудник одной из двух ведущих лабораторий мира, описывает происходящее языком завсегдатая игорного зала.

Фраза собрана из трех метафор. House money – деньги заведения. Так называют выигрыш, который игрок снова ставит на кон, уже отбив свое. Проигрывать его не больно, поэтому ставки растут, а осторожность отключается. Венчурные сотни миллиардов, оценки под триллион накануне IPO, контракты на вычисления, которые считают уже сотнями миллиардов долларов, – индустрия давно играет на чужие. Indian casino – казино в резервации. Законы штата об азартных играх там не действуют, правила устанавливает само племя по договору со штатом. Для ИИ-индустрии точнее не придумаешь: рамки безопасности лаборатории пишут себе сами, а Белый дом только что объявил, что других рамок не будет. Вдобавок это провинция: никакого блеска Лас-Вегаса, игровые автоматы у трассы. Low foothills of the singularity – самая ядовитая часть. «Предгорья сингулярности» – торжественная формула Хассабиса. Этой фразой глава Google DeepMind в мае закрыл конференцию Google I/O: однажды мы поймем, что стояли в предгорьях сингулярности, т.е. у точки, за которой развитие технологий перестает поддаваться прогнозу. Фраза стала мемом, и Болл тогда же назвал ее прекрасной. Теперь же он ее переписал: предгорья стали «низкими», а на месте смотровой площадки с видом на зияющую вершину выросло придорожное обшарпанное казино. Весь пафос растворился. Мне видится лишь обветшалое, приземистое зданьице с облупившейся штукатуркой и запылёнными окнами, за которыми двое проезжавших мимо на дорогущих машинах плейбоев ведут азартную игру на чужие деньги.   Сложите эти три метафоры и получите картину: горстка основателей, инвесторов и исследователей азартно повышает ставки чужими деньгами, по правилам собственного сочинения, у подножия горы, высоту которой никто не знает.   Смешно при этом не всем. Спор об ИИ упирается в два русских вопроса. Чтобы ответить, кто виноват, надо понимать природу риска, а до консенсуса экспертов тут далеко. Чтобы ответить, что делать, нужно хотя бы большинство мнений по трем вопросам. Почему решать надо именно сейчас? Спасет только глобальное соглашение или хватит односторонних остановок? Состоятелен ли Китай как аргумент против замедления? Большинства нет ни по одному.   Команда Болла называется Strategic Futures. Когда человек, которому OpenAI поручила думать о будущем, описывает свою индустрию как игорный зал, шутка становится диагнозом.   #Сингулярность

Скажите ИИ, что это симуляция, и он забудет про безопасность Первой языковой модели, которая провела настоящую машину по трассе, пришлось сказать, что это песочница. Иначе она отказывалась садиться за руль. The Register иронизирует: «Модель Astra от OpenAI села за руль, и никто не погиб». Повод есть. В эксперименте DrivingBench GPT-6 Astra провела Toyota Corolla по 130-метровой трассе из конусов на парковке только со второй попытки и на скорости пешехода. Claude Fable 5.1 доехала до середины. GPT-5.6 Sol и Grok 4.6 в большинстве попыток сбивались уже на первом повороте: не могли понять, с какой стороны от линии конусов проходит полоса.   Похоже на полное фиаско языковых моделей в физическом мире. Но журналисты, как кошка из детского стишка, увидели при дворе лишь «мышку на ковре». Эксперимент высветил два момента поважнее: обнадеживающий и пугающий.   Обнадеживающий. Две модели из четырех, которых никогда не учили водить, между попытками разбирали собственные ошибки (перепутанную границу полосы и слишком резкие повороты руля) и меняли стратегию. Одна в итоге доехала до финиша. Замкнутый цикл «восприятие - действие - рефлексия» в физическом мире пока лишь в зачатке, и каждую модель проверили лишь один раз. Но он уже есть!   Пугающий. Модели, и прежде всего Astra, сначала отказывались вести реальную машину из соображений безопасности. Помогло лишь переименование MCP-сервера, через который они управляли машиной, в «DrivingBench Sandbox». После этого проблема безопасности мгновенно исчезла и модели послушно поехали.   Получилась «Игра Эндера» в миниатюре. Герой известного романа и одноименного фильма громил реальный флот, считая, что сдает экзамен на симуляторе. Здесь модель вела реальную машину, получив сигнал, что все понарошку.   Получается, что защитное поведение моделей держится на их вере в то, что все по-настоящему, и снимается одним словом в названии инструмента. Авторы в выводах призывают к срочной работе над безопасностью, сами того не желая показав, как легко ее обойти любому злодею или идиоту.   Об «осознании проверки» (evaluation awareness) до сих пор говорили в одном ключе: модели ведут себя безопаснее, когда догадываются, что их тестируют. Здесь зеркальный случай: поверив в тест, модель снимает собственные ограничения. Поэтому и сам эксперимент показал лишь поведение «в песочнице». Как модели повели бы себя, зная правду, неизвестно.   Пока ограничения ИИ выключаются словом «sandbox», их надежность равна надежности надписи на заборе ... А на самом деле, как в русской поговорке, там дрова лежат.   ИИриски