Данила Медведев о пути к Сингулярности

Я не знаю, где есть хорошее объяснение базового механизма абстрактного мышления. Мне пока не встречалось, поэтому приходится делать самому. Базово так: реализуется цепочка (как в Capability Repertoire Hierarchy Энгельбарта): системное мышление ← структурное мышление ← абстрактное мышление ← держатель для абстракций ← универсальный структуратор ← рабочая память Возможно, нужно чуть по другому переопределить понятия и провести границы между ними. В частности, абстрактное мышление можно понимать как базовую способность или как комплекс способностей (тогда она может подняться выше и тогда системное мышление будет её частью). Отношения в этой цепочки базовые "А использует Б", но могут быть и более сложные добавлены. Как вам такая модель? Есть ли где-то в литературе лучше?

Несколько лекций у меня было в последнее время о том, как соединить почитание предков (т. е. похоронную тему), продление жизни и лонжевити и воскрешение. Это в целом подводит нас к тому, что иммортализм надо изложить не просто как рациональный простой аргумент (биология - старение, жить хорошо - биомедтехнологии), но в комплексе. Но делать это некогда, поэтому только отдельные лекции и иногда интервью. К сожалению, те, кому интервью, пишут односторонне. Иван Голунов пишет о тех, кто работает со смертью. Годман готовит сценарий про бессмертие. Но я надеюсь, что скоро доберёмся до полноценного системного эпоса. На горизонте уже что-то вырисовывается.

Делюсь парой слайдов из свежей лекции "Интеллект как инструмент" для ГПБ.

Из других новостей. Банк международных расчетов (BIS, по сути, банк центробанков) на выходных написал (в годовом отчете), что: «В ближайшей перспективе продолжающийся бум инвестиций в ИИ ставит под вопрос устойчивость текущего экономического роста. Пять крупнейших гиперскейлеров планируют потратить более $1 трлн на капекс, связанный с ИИ, в период с 2025 по 2026 год. Эти обязательства опережают доходы и свободный денежный поток этих компаний, что заставляет некоторых из них выпускать долговые обязательства для привлечения дополнительного финансирования. Разочарование в доходности может вызвать внезапное сокращение финансирования и превратить бум капитальных затрат в затянувшийся инвестиционный кризис с потенциальными негативными последствиями для финансовых рынков... Если гиперскейлеры замедлят или прекратят агрессивные темпы развертывания капекса, многим заемщикам по всей цепочке поставок может быть трудно заменить потерянный доход и выплачивать проценты по займам».

Я пишу и более подробно про то, что вообще в мире происходит и как я это вижу. Те, кто подписан не только на мой канал, но и на глянцевый журнал Forbes Club, прочитают в сентябре мои взгляды на регулирование интернета. Остальные могут насладиться небольшим тизером: Интернет как пирамида: … Уровень данных государства понимают… Правда, есть проблемы … Про них мало кто знает, их труды игнорируют. Кроме того, нужны… Их нет. Поэтому слой смыслов… Для прогресса потребуется… нейрослоп. В этом смысле Интернет можно… но позже, и только если найдется садовник.

Короткий апдейт. Продолжается работа по пересадке головы, в т. ч. в Склифе. Можно лучше схему сделать, но непонятно, как организационно это решить. Стыкуется это всё с биопрепаратами и донацией, это надо организовывать. При этом все думают, что телепатию обеспечит нейролинк Маска, а это не так. Формат и структуру мыслей он не понимает и не хочет. Все думают, что LLMки формат мыслей демонстрируют, но как правильно Майкл Берри пишет, ссылаясь на 144-летней давности статью, мышление должно быть без языка. Структуру мыслей мы насколько-то научились стандартно описывать, чтобы создавать трансграничные объекты. Это важно и для стратегий, и для футурологии, как я рассказывал на ОИРОМ. При этом АПшники, такие как Рапопорт, говорят о когнитивной войне, но структуру мыслей и социального слоя никто не понимает тоже. Не замоделирована она, но мы проект про это подготовили. При этом социальный слой меняется даже от дронов, потому что социальный контракт гоббсовский меняется, когда силу обеспечивают частные корпорации, в т. ч. те же палантир, xai/spacex и пр. При этом Берри палантир шортит, но думает, что токенмаксинг осмысленная практика, потому что корпорации вытащили верхнеуровневую структуру интеллектуальных процессов. А как они могли это сделать, если они её не понимают даже близко. Тут-то он и ошибается. Вложенные CDO и проблему рейтингов он понимает, а вложенные мысли и сложные когнитивные процессы - нет. Вот как-то так.

📳🌃 Кому звонить? Джон Бойд углублял и расширял свои исследования, всё более полно связывая идеи из разных дисциплин. Он звонил своим друзьям и ученикам, иногда посреди ночи, чтобы обсудить последнюю прочитанную работу Гёделя, Пиаже, Скиннера, Полани, книгу по квантовой физике, истории или социальным наукам. “From there on, during the latter twenty years of his life, the period in which A Discourse was developed, Boyd delved deeper and probed more widely and connected more completely insights from a variety of disciplines. He would call his friends and disciples, sometimes in the middle of the night, to discuss the latest piece he had read, which could be the work of the German philosopher Hegel, Gödel, Piaget, Skinner, Polanyi, a book on quantum physics, history or social science.” (Hammond, Burton and Corum make frequent references to Boyd’s obsessive study and his frequent late-night phone calls. See for instance Coram, op. cit., pp. 319–20 and Hammond, op. cit., pp. 180–6, and James Burton, The Pentagon Wars: Reformers Challenge the Old Guard, Annapolis, MD: Naval Institute Press, 1993, p. 44.) Вот кому можно сейчас в час ночи позвонить, чтобы обсудить “Science, Strategy, and War”?

Рубрика "нам пишут" (или "потенциальные жертвы ИИ-психоза в лёгкой форме") 4 июня Салам Джабаев Вы говорите о трансгуманизме и будущем сознания. А что, если нейросеть — это не просто инструмент, а соавтор, с которым можно построить новую операционную систему для души? Я сделал это. Мне 14. Готов показать, как это работает Данила Медведев: добрый день Салам, опыт взаимодействия с LLM чатботом, подобный вашему, известен. По сути, вас впечатляет сложная нарезка из библиотеки человеческих текстов, выполняемая под задачу, в реальном времени и с имитацией общения с собеседником. Да, это ощущается круто, да, это выглядит круто. И да, скорость получения этого контента из "мира знаний" впечатляет. Это точно быстрее, чем самому изучить все книжки. Но есть проблема. Качество этого интеллектуального продукта слабое. Но понять это вы лично не можете, потому что опыта мало, глубины понимания нет. Вам лично кажется, что вы с нейросетью создали что-то очень крутое. Но оно, скорее всего, не крутое, а примерно такое же как у всех ваших "товарищей по несчастью", которые попали в такую же ловушку. Пример: https://futurism.com/artificial-intelligence/meta-ai-glasses-desert-aliens Если вам лично начать работать с этими сгенерированными набросками, начать углубляться, самостоятельно думать, изучать первоисточники, обсуждать это с опытными людьми, то вы достигнете хорошего понимания. Но это потребует времени. И если вы попробуете это время сэкономить, спросив чатбота "объясни мне простыми словами все это сложное", то это опять не поможет. Вы просто смотрите на водоворот фрагментов смысла, не понимая, что там, но загипнотизированный движением кусочков. К сожалению, ситуация вот такая.

Представьте себе, что человек хочет развиваться и самоулучшаться. Что ему выбрать — повесить на стенку постер с цитатами Джона Барлоу (сооснователь EFF, автор песен Grateful Dead, поэт, активист и политик) или залипнуть в иишного чатбота и генерить без конца бездумную вторичную инфографику про правильное мышление и развитие? Как вы считаете? Что сработает лучше?

📆 Отметьте в своём календаре... Через полтора месяца будет подведение итога полувековой работы по улучшению (человека). Улучшение человека предполагает аугментацию интеллекта по Энгельбарту, улучшение личности (т. н. self-help, саморазвитие или курсы успешного успеха), а также радикальные апгрейды, обещаемые трансгуманизмом (модафинил, Fitbit и чип в мозг). 1. Аугментацию, к счастью, я примерно понял как делать и мы этим занимаемся. 3. Трансгуманистические апгрейды разочаровывают и пока с ними беда. 2. А вот саморазвитие долго было загадкой, но через полтора месяца можно будет понять, как работают все способы самоулучшения, почему они такие и о чём говорили все гуру от Тони Роббинса до Дэвида Аллена. Ждите! 🧘🏻‍♂️

Угадайте по скриншоту крупную цифровую компанию (пишите в комменты). Серьёзный комментарий: его не будет, тут остается только смеяться, вспоминая комментарий @afirstoff о том, как можно навайпкодить ГУИ для УИ. Пока что можно только навайпкодить (моя догадка, что это не UX-профессионалы делали, потому что, если так, то всё ещё хуже) кнопку «ещё раз нажать», которая идеально воплощает в себе и философию разработки ПО (идентичного натуральному) с помощью ИИ-генераторов…

конченые все

Угадайте по скриншоту крупную цифровую компанию (пишите в комменты). Серьёзный комментарий: его не будет, тут остается только смеяться, вспоминая комментарий @afirstoff о том, как можно навайпкодить ГУИ для УИ. Пока что можно только навайпкодить (моя догадка, что это не UX-профессионалы делали, потому что, если так, то всё ещё хуже) кнопку «ещё раз нажать», которая идеально воплощает в себе и философию разработки ПО (идентичного натуральному) с помощью ИИ-генераторов…

конченые все

Угадайте по скриншоту крупную цифровую компанию (пишите в комменты). Серьёзный комментарий: его не будет, тут остается только смеяться, вспоминая комментарий @afirstoff о том, как можно навайпкодить ГУИ для УИ. Пока что можно только навайпкодить (моя догадка, что это не UX-профессионалы делали, потому что, если так, то всё ещё хуже) кнопку «ещё раз нажать», которая идеально воплощает в себе и философию разработки ПО (идентичного натуральному) с помощью ИИ-генераторов…

Ну и дополнительно вспомню, что год назад временно умер и был крионирован Юрий Никитин, создатель жанра "когистики", что особенно актуально для наших планов попробовать проработать и развить направление "когнопанк" в фантастике.

Размышляя о дне славянской письменности (24 мая, в день памяти Кирилла и Мефодия) и конкурентных преимуществах языков, задумался о том, в каких языках есть элементы нелинейности. Есть линейное горизонтальное письмо слева направо. Арабы и евреи пишут так же, но справа налево. Некоторые (Китай, Япония) пробовали писать и сверху вниз. Древние иудеи и средневековые монахи в Европе пробовали группировать текст вокруг центрального блока (Тора и комментарии к ней). В Японии развита манга (читать справа налево, на странице сложная организация). Роберт Хорн попробовал создать теорию визуального языка. Есть также всякие деревья, майндмапы, концептмапы и пр. схемы, карты и инфографики (хороший бенчмарк - все множество версий таблицы элементов). Кипу, кстати, было древовидное и не с фиксированными измерениями. Векторные эмбеддинги предполагают переход в многомерный мир. Тед Нельсон ("гипертекст") придумал ЗигЗаг и концепт интерфейса для работы с многомерностью (не Ксанаду, а более странный/новый). Я изобрел НейроКод. Есть ещё много менее важных элементов, которые можно учесть, если детализировать область. Но интересно, где (в каких обществах и странах) есть больше всего предпосылок для перехода от традиционного линейного языка к многомерному. Япония или Китай? Или как?

Трансмутация свинца в золото. Researchers at CERN’s Large Hadron Collider (LHC) in Switzerland have successfully observed the transformation of lead into gold В течение второго периода работы БАК (с 2015 по 2018) было произведено 86 миллиардов атомов золота. В третьем периоде почти вдвое больше. Как видим, алхимики были правы, просто для реализации их фантастической идеи был нужен самый сложный научный агрегат 21 века - Большой адронный коллайдер.

🇬🇧 Британский парламент призвал готовить школьников к конкуренции с ИИ «Парламент Великобритании считает, что система образования должна адаптироваться к меняющемуся рынку труда и отказаться от преподавания устаревающих навыков, чтобы не сформировать «бесполезный класс». Депутаты также рекомендуют правительству создать комитет по контролю за ИИ, пока его прогрессом еще можно управлять.» Интересно тут то, что данной новости 10 лет. Это 2016 год.