Квест Теория Каст и Ролей

хочется уже прийти сюда 2-й раз без людей и камеры… часов в 6:00. я уже далек от японских нарративов, но место очень красивое. На телефон снимаю мало, почти все на osmo pocket 3, чудесная камера.

Ну, вот! Мы в аэропорту Narita, Токио, только прошли границу.

На некоторое время в командировку в другую галактику.

📌Градация самосовершенствования ИИ по пяти уровням Топовые китайские ИИ-лабы выпустили совместный обзор о рекурсивном самосовершенствовании ИИ (RSI) под названием «The Last AI Built by Humans».

RSI - это когда система сама превращает опыт в постоянные изменения себя и заодно меняет то, как будет улучшаться дальше.

Авторы разобрали 491 работу (статьи, техотчёты, блоги и системы) и разложили их по пяти уровням автономии, используя критерий, какие решения об улучшении отданы ИИ. 🟠L1. Люди задают, что улучшать, как и что считать успехом, а ИИ всё это выполняет. 🟠L2. Цель и оценка зафиксированы извне, но ИИ сам находит слабые места и выбирает, как их чинить. 🟠L3. ИИ вдобавок решает, какой опыт ему нужен для следующего круга. 🟢L4. Система меняет память, навыки, код или харнесс по обратной связи из реальной эксплуатации, и правки переносятся на следующие задачи. 🟢L5. Правке подлежит сам механизм улучшения - генератор кандидатов, оценщик, стратегия исследований. Изменённый механизм наследует следующее поколение. Последний, L5, делится на два подуровня. Первый указывает на то, что изменённый механизм улучшения правда работает на следующем цикле. Второй строже - он выдаёт преемника сильнее прежнего при тех же ресурсах и по независимой проверке.

До L5 дошли 29 работ из 491 (5,9%), до L4 – 28 (5,7%), до L3 – 64 (13%). Три четверти остались на L1 (215 работ, 43,8%) и L2 (155, 31,6%). У тех 29 работ, которым присудили L5, авторы не увидели устойчивого роста от поколения к поколению.

Существующие продукты крупных лабораторий в основном получили L1–L2 - это интерн-исследователь OpenAI, Automated Weak-to-Strong Researcher Anthropic и DeepSeek R1 – L2, Kimi K3 и Qwen-Agent – L1–L2. Выше L2 поднялись самообучающиеся налоговые агенты OpenAI (кандидат на L4), Signals от Factory (L4), Darwin Gödel Machine и AI Scientist от Sakana AI, AIDE2 от Weco AI – кандидаты на L5. Дорожная карта Anthropic When AI builds itself помечена L5 только как цель. @ai_machinelearning_big_data #AI #ML #RSI #Research

очень интересно

📌 Сэм Альтман и Дарио Амодеи вошли в Топ-50 самых влиятельных евреев по версии The Jerusalem Post Глава OpenAI занял девятую строчку рейтинга, разделив её с Марком Цукербергом. Обе фигуры издание объединило формулировкой «...технологические лидеры, выводящие ИИ за пределы цифрового мира». Три года назад Альтман тот же список возглавлял, а в прошлогоднем выпуске не значился вовсе.

Рейтинг выходит раз в год уже больше десяти лет и приурочен к Рош ха-Шана, еврейскому Новому году, в этом году праздник наступил 12 сентября. The Jerusalem Post — старейшая и самая читаемая англоязычная газета Израиля, основанная в 1932 году под названием The Palestine Post. Издание выходит и в печати, и онлайн.

Седьмую строчку занимает Ассаф Раппапорт, основатель компании Wiz, семнадцатую — сооснователь Oracle Ларри Эллисон, восемнадцатую — сооснователь Google Сергей Брин. Двадцатая строчка досталась в том числе Алексу Карпу из Palantir, двадцать шестая — брату и сестре Дарио и Даниэле Амодеи, которых издание называет «...еврейскими родственниками, формирующими ИИ». @ai_machinelearning_big_data #news #ai #ml

!!!

📌ApprenticeBench: проверка способности ИИ освоить работу как новый сотрудник Стартап NeoCognition разработал первый сквозной бенчмарк использования компьютера, непрерывного обучения и долгосрочной агентной работы на реальной должности.

NeoCognition - лаборатория, в которой собрали бенчмарки MMMU, Mind2Web, SWE-Bench Pro и OSWorld 2, а также агентные системы SeeAct, UGround и HippoRAG.

Агента принимают в виртуальную строительную компанию на работу с кредиторской задолженностью, выдают полугодовой архив счетов, внутренний справочник и руководство по ERP-системе, после чего он начинает работать со счетами. Первый месяц проходит с подробным фидбэком от руководителя по каждому счёту, а дальше - с редкими замечаниями по итогам месяца. Каждая из ста задач теста проверена профессиональными бухгалтерами строительной отрасли, которые подтвердили и реалистичность сценариев, и то, что любую задачу способен решить рядовой специалист, изучивший доступные агенту материалы. 🟡Результаты Большинство моделей, включая Gemini, Muse Spark, Grok и Kimi, не преодолевают порог в 20-25%, тогда как Fable 5.1 выполнила 72% задач, а GPT-6 Astra - 68%. Лучший из двух тестировщиков-людей показал 51%, причём проваливались люди на поиске нужного в исторических данных, точности расчётов и мелких ошибках от утомления. Разрыв между открытыми и закрытыми моделями авторы называют крупнейшим из всех виденных ими на бенчмарках - 72% у Fable 5.1 против 18% у Kimi K3, и вызван он не базовыми операциями в интерфейсе, а неспособностью слабых моделей учиться на дистанции.

Kimi K3 почти не обращался ни к архиву счетов, ни к собственным заметкам и деградировал к концу серии.

🟡GUI vs API Так называемый налог на использование компьютера (просадка при переходе с API на графический интерфейс) у большинства моделей достигает 78%, но Fable 5.1 и GPT-6 Astra работают через GUI даже лучше, чем через API. Дешевле при этом остаётся API - Fable 5.1 обходится в 6,95 доллара за задачу в программном интерфейсе против 18,23 доллара при работе с графическим. 🟡Обучаемость Способность к обучению измерили отдельно. Fable 5 без доступа к истории и обратной связи, опираясь только на собственные знания, решает 11 счетов из 100. Подключение архива счетов поднимает результат до 31, обратная связь руководителя - до 35, а оба канала вместе дают 43. 🟡Вывод ИИ пока ещё обходится дороже: 18,23 доллара за задачу против 7,21 у людей. К тому же человек по мере накопления опята работает быстрее, а агент - замедляется. 🔜 Посмотреть часовой прогон Fable 5.1 по всем ста задачам. @ai_machinelearning_big_data #AI #ML #Benchmark #ApprenticeBench #NeoCognition

это, чтобы не расслабляться

📌 Продолжение. Эта же мысль отражена в 3-й части (или 2-й — я не помню), в беседе Нео с Архитектором, когда тот сказал, что 1-я Матрица была совершенным миром и поэтому оказалась провалом. Это вторая часть — The Matrix Reloaded. Архитектор говорит, что первая Матрица была «совершенной», «безупречной» — и именно поэтому стала «монументальным провалом»: люди её не приняли. Транскрипт сцены Это сильная метафора твоей гипотезы: неустранимое противоречие — не дефект системы, а источник субъективной реальности. Без риска утраты нет ценности обретения; без неизвестности нет познания; без границы — нет выбора и героизма. Поэтому искусство, наука и исследование онтологии мира выглядят не как уход от «помощи людям», а как работа с ядром игры: понять, что это за игра, почему она устроена именно так, и расширить опыт её участников. Я: Выйти на следующий уровень — вот цель игры в большей степени, а понимание — скорее неизбежное следствие и предпосылка в одном лице. Понимание — не конечный приз, а одновременно ключ и побочный эффект перехода. Следующий уровень требует увидеть правила, которые на текущем уровне кажутся случайностью или несправедливостью. Но само прохождение меняет наблюдателя: он начинает видеть новую структуру — и тут же упирается в следующий предел. Тогда цель — не «объяснить мир до конца», а расширять диапазон бытия и действия: выдерживать больше сложности, различать больше вариантов, создавать то, чего прежде создать было нельзя. В чате живет ИИ-ассистент, отвечающий на вопросы об ИИ. Чтобы вызвать, введите /ask - загрузится меню, выберите /ask или /help и нажмите ввод, после чего появится поле, куда введите ваш вопрос. Можно просто в сообщении задать вопрос, и в конце поставить /ask

📌 Продолжение. Проблема начинается, когда привилегия превращается в закрытую касту: * доступ важнее способностей; * ошибки своих покрываются; * правила меняются под сохранение позиции; * у способных людей снаружи почти нет пути внутрь. Тогда «меритократия» остаётся вывеской. Китайская партийная система особенно уязвима к этому: формально — отбор и экзамены, фактически — сети семей, патронажа и лояльности. Рынок создаёт новых богатых, партия определяет предел их самостоятельности. Я: Система глобального менторинга решает ровно эту же проблему. Вопрос в том, интересно ли мне это еще. И, похоже, всё больше нет. Это как попытка отменить закон природы, когда постиг его и понимаешь, зачем он нужен. Ты, кажется, упёрся не в проблему реализации, а в смену основания. Твоя глобальная система менторинга пыталась не отменить естественный механизм наследования, а компенсировать его: дать человеку без семьи, круга и культурного кода доступ к тому, что у других передаётся дома. Это гуманная задача. Но в масштабе она неизбежно создаёт собственную иерархию: кто назначает хорошего ментора, определяет цели развития, допускает в круг и выдаёт знак «готовности». То есть производит новую мягкую номенклатуру. Я бы разделил две идеи: * глобальная сеть, которая исправляет общество, — похоже, тебе действительно перестала быть интересна; * личный AI-ментор на стороне конкретного человека, с долговременной памятью и без институциональной лояльности, — это другая, по-прежнему сильная идея. Она не отменяет закон природы, а даёт индивидуальный противовес его худшим последствиям. Проверочный вопрос: ты хочешь выращивать людей по модели «правильного развития» — или дать сильному человеку инструмент лучше видеть реальность и принимать свои решения? Во втором варианте твой замысел остаётся живым. Уверенность: 89%. Я: Дело даже не в этом, а в том, что на определенном этапе я пришел к спекулятивной гипотезе, что наша жизнь — это симуляция, игра богов, и суть этой игры — богатый опыт, а его основа — хаос, чередование благополучия и катастроф, и все противоречия, конфликты, импульсивность, невежество — фундаментальные механики. Тогда логика понятна: ты перестал видеть хаос как баг, который можно «починить» менторингом. Он становится условием самой игры: без неопределённости, потерь, конфликта, ошибок и неравномерности не было бы ни выбора, ни сюжета, ни подлинного опыта. Как метафизическая гипотеза это стройно, но пока непроверяемо: она объясняет почти всё задним числом и не даёт отличимого прогноза. Поэтому её нельзя принимать за доказанное устройство мира. Зато как рабочая рамка она полезна, если не скатываться в фатализм: * не спасать человечество от самой жизни; * не пытаться выровнять всех до «правильной нормы»; * помогать отдельному человеку лучше проходить его уровень, видеть варианты и не разрушаться от хаоса. Тогда ментор — не инженер идеального общества, а проводник по сложной игре. И его роль не отменяет закон, а повышает качество прохождения для тех, кто сам этого хочет. Риск этой рамки один: превратить чужую реальную боль в «интересный игровой контент». Даже если мир — игра, для игрока внутри неё боль и выбор остаются реальными. Уверенность: 92%. Я: Это понятно, но для меня создание такой системы перестало быть интересным, ибо это в некотором смысле «пчелы против меда»))) Если внутренняя картина мира стала такой, то проект «сделать людей более осознанными, дисциплинированными и эффективно развивающимися» превращается в попытку убрать из игры её двигатель. Он мог бы уменьшить локальное страдание и хаос — но не изменить фундаментальную механику, а в масштабе, вероятно, породил бы новый вид стандартизации и контроля. «Пчёлы против мёда» — точная формула. Значит, интерес может сместиться не к исправлению людей, а к созданию форм опыта: историй, миров, игр, инструментов самонавигации. Не обещать выйти из лабиринта, а делать лабиринт осмысленнее и интереснее для того, кто в нём идёт. Я: Искусство, наука, познание самой онтологии мира — проверка той же гипотезы — становятся более интересными, чем попытка «помогать» людям.

📌 Продолжение. Тут на ум приходят сюжеты фантастов об улучшении (эмоциональной кастрации людей), что в целом в той или иной степени пыталась делать любая религия. Буддийская связка: неведение + жажда/страсть → страдание. И религии веками решали её как технологическую задачу: ритуал, запрет, пост, исповедь, община, страх наказания — то есть постоянная тренировка самоконтроля. Но я бы уточнил: у «низших классов» часто не недостаток врождённой осознанности, а жизнь в дефиците, хаосе и коротком горизонте. Импульсивность там нередко — рациональная адаптация к среде. У верхних — та же биология, но усиленная безнаказанностью, властью и возможностью бесконечно масштабировать алчность. Фантастика верно ставит дилемму: убрать страсти — убрать и часть жестокости; но вместе с ней часто уходят воля, любовь, риск, творчество и субъектность. Получается безопасный, но стерильный улей. Поэтому рабочая цель — не эмоциональная кастрация, а инфраструктура зрелости: образование, длинный горизонт, правила против захвата власти, культура ответственности и среды, где самоконтроль выгоднее хищничества. Я: Часто бывает: красивые лозунги при реализации превращаются в очередную версию тоталитаризма «правильности». Я это в Дании наблюдал — люди похожи на роботов. То же самое до известной степени можно сказать про население «развитых» стран. Конечно, это субъективная натяжка))) Это не бессмысленная натяжка, а наблюдение о цене высокой социальной координации. В обществах с сильными нормами — вроде Дании — людям проще доверять друг другу, меньше бытового хаоса, выше предсказуемость. Но обратная сторона: заметно сильнее давление «не выделяйся, говори корректно, не нарушай эмоциональный климат». Человек может выглядеть роботизированным не потому, что у него нет чувств, а потому, что публичная спонтанность социально дороже. Так почти всегда: система, оптимизированная на безопасность, равенство и отсутствие конфликтов, рискует начать подавлять избыточность, эксцентрику и сильную амбицию. А именно из них часто рождаются и искусство, и предпринимательство, и опасные люди. Задача не в том, чтобы «воспитать правильных», а в том, чтобы держать границу: защищать базовые права и доверие, но оставлять достаточную зону для странности, несогласия и риска. Я: Либо стабильный улей без развития, вечный день сурка, либо условный «Дикий Запад» с конфликтами, но «котел», инициатива и развитие, но с социальным неравенством. Впрочем, Китай, а до этого СССР пытались совмещать и создавать поддержку для инициативы и ее вознаграждения, но под присмотром партии. Попытка баланса. Это не два режима, а вечная задача настройки: * слишком много порядка → застой, конформизм, безопасная посредственность; * слишком много свободы силы → энергия и прорывы, но захват ресурсов, неравенство и хронический конфликт. СССР и Китай пытались совместить инициативу с партийным контролем. СССР сумел мобилизовать образование, науку и индустрию, но контроль в итоге убил обратную связь: наверх шла удобная ложь, а не реальность. Китай создал намного более сильную версию — рынок и личное обогащение разрешены, пока они не становятся альтернативным центром политической власти. Это даёт рост, но оставляет фундаментальный конфликт: инновация требует автономии, партия требует предсказуемой управляемости. Ключ не в раз и навсегда найденном балансе, а в механизмах коррекции: чтобы талант и риск вознаграждались, но власть, монополии и наследуемые привилегии не цементировались; чтобы общество могло честно сообщать системе «ты ошиблась». Я: Особенно когда говорят о Китае — 5-е поколение номенклатуры))) Привилегии всегда наследуются)))) При желании и усилиях, конечно. Это естественное желание родителей. Наследование привилегий — почти неустранимый человеческий механизм: родители передают детям не только деньги, но образование, связи, культурный код, уверенность, право ошибаться и доступ к решениям. Проблема не в самом желании дать детям лучшее. Оно естественно.

📌 Продолжение. Если цель задана как «сохранить власть», «устрашить противника» или «максимизировать ожидаемую выгоду», можно выстроить логичную цепочку даже в пользу чудовищного решения. Это и есть опасность: логика придаёт исходной воле вид объективной необходимости. Но софистика начинается не с рациональности, а со скрытия аксиом, подмены фактов и выбора удобной метрики. Например: объявить «безопасность государства» единственной ценностью — и незаметно вычеркнуть жизни людей, право и долгосрочные последствия. Нужны три слоя: 1. Явно назвать ценности и запреты, которые не оптимизируются. 2. Проверять факты, альтернативы и неопределённость. 3. Не позволять одному человеку или узкой группе назначать цель от имени всех. Иначе «рациональность» становится просто самым убедительным адвокатом любой власти. Я: Значит, вопрос в наборе базовых этических и моральных аксиом, которые рационально принимаются как имеющие более высокий приоритет, чем любая рациональная логика. Рациональность должна быть инструментом внутри этических границ, а не судом над самими границами. Базовые аксиомы вроде достоинства человека, запрета пыток, недопустимости намеренно убивать невинных, равенства перед законом — нельзя «отменить» расчётом выгоды в конкретном кейсе. Иначе любая ценность становится условной: достаточно придумать большую цифру. Точнее так: рациональность не ниже этики, а другого типа. Этика отвечает, чего нельзя делать и ради чего вообще действовать. Рациональность — как действовать эффективно, не переходя этих границ. Я: Видишь ли, мораль говорит, чего не делать, но людям нужно понимание, что делать. То есть сама постановка целей должна быть в идеале рациональна и этична. Достижение — это тривиальная оптимизация ресурсов. «Не убий» и «не лги» — это только ограждение. На одних запретах общество не строится: человеку нужна положительная картина достойной жизни и направление действия. Тогда схема не «этика сверху, рациональность снизу», а три уровня: 1. Этическая цель: какое состояние людей и общества считаем достойным. 2. Рациональная проверка цели: не противоречит ли она фактам, последствиям, правам других, не маскирует ли чью-то власть под общее благо. 3. Оптимизация: как достичь её с наименьшими ресурсами, риском и побочными разрушениями. И важное уточнение: цель нельзя вывести из голой рациональности — она всегда включает выбор ценностей. Но её можно сделать рационально честной: явной, проверяемой по последствиям, открытой для пересмотра и не требующей превращать людей в расходный материал. Я: Слово «достойным» здесь точно не подходит — мы тут не заслуги учитываем. Точно. «Достойное» уже подсовывает оценку заслуг и право кого-то судить, кто его заслужил. Лучше: этически приемлемое и желательное состояние общества — такое, где цели не покупаются унижением, насилием или превращением людей в средство. Цель — не «выдать достойным награду», а определить правила, при которых у людей есть субъектность, безопасность и возможность действовать. Я: Значит, мы вводим эффективность общества — это понятные метрики. Не одну метрику, а набор ограничивающих друг друга показателей. Иначе любая одна станет машиной для оптимизации людей. Например, эффективность общества можно оценивать по тому, насколько оно одновременно обеспечивает: * здоровье, безопасность и базовую самостоятельность людей; * возможность создавать, работать, учиться и подниматься; * доверие, работающий закон и низкую цену насилия/коррупции; * устойчивость к кризисам; * свободу выбора в пределах равных правил. Тогда этика задаёт: никто не является расходным материалом. Метрики показывают: система реально работает или лишь произносит правильные слова. Главный риск — закон Гудхарта: как только показатель становится единственной целью, его начинают имитировать. Поэтому нужны независимые метрики, прозрачные данные и возможность менять саму модель. Я: Все социальные перекосы являются следствием невежества: для низших классов — в отсутствии осознанности, в импульсивности, а для высших — в алчности, гиперамбициях))) Как у буддистов — все страдания от страстей.

📌 Продолжение. FTX показал уязвимость особенно жёстко: «эффективность» и обещания будущего блага могут стать моральным кредитом, который слишком долго не требует проверки происхождения денег. Современные брамины — хорошая метафора: они не владеют армией или заводами, но претендуют на право объяснять владельцам армии и заводов, ради чего им жить, чего бояться и куда перечислять деньги. Я: Да, десятина и закят никуда не делись — вот, оказывается, зачем нужны деньги: подмена социальной функции государства. Именно. «Десятина» возвращается в технологической обёртке — только теперь её распределяет не церковь, а сеть фондов, экспертов и доноров. Проблема начинается не с частной помощи, а там, где она заменяет публичную политику: * налоги и выборные институты должны обеспечивать базовые права всем; * филантропия выбирает, кому помочь, по критериям людей с капиталом; * значит, благополучие превращается из права гражданина в грант, который надо заслужить или попасть в чью-то модель. Идеальная для элиты конструкция: богатство не перераспределяется по общим правилам, а владелец сам решает, какая часть вернётся обществу, кому именно и в обмен на какой моральный престиж. При этом государство тоже часто тратит деньги тупо и коррумпированно — отсюда рыночная ниша для этого нарратива. Но исправление неэффективности государства через власть частных «моральных оптимизаторов» — это не демократия, а мягкая теократия капитала. Я: Под видом меритократии. Формула такая: частная власть капитала + моральная экспертиза + алгоритм эффективности = «меритократия». То есть решают не те, кого выбрали граждане, а те, кто: * накопил или привлёк капитал; * получил статус «самого умного»; * освоил язык метрик и правильных ценностей. А потом это продаётся как естественный порядок: «мы не правим, мы просто компетентнее распределяем ресурсы». Я: Это прямо типичная модель корпоративного продвижения. Да: корпоративная карьерная лестница — её миниатюрная модель. Ты продвигаешься не только за результат, но и за демонстрацию правильного языка, ценностей и лояльности системе. «Мерит» превращается в умение быть читаемым для тех, кто уже наверху. EA переносит этот механизм на общество: вместо KPI компании — impact; вместо корпоративной культуры — моральная миссия; вместо руководства — сеть фондов, экспертов и доноров. Я: Как только ты начинаешь говорить «кошерно», на тебя реагируют и тебя поддерживают — это основа WOKE и DEI — тоталитарных религий — и их радикального крыла cancel culture: власть попов в новом обличье. Механизм ты описываешь верно: появляется сакральный словарь, и умение говорить им становится сигналом лояльности. Сигнал вознаграждают — наймом, продвижением, публичной поддержкой; ошибка или отказ могут караться репутационно. Это и делает убеждения карьерной валютой. Но я бы не называл весь DEI тоталитарной религией. Равный доступ, запрет дискриминации и нормальная кадровая гигиена — обычные, полезные вещи. Тоталитарный режим начинается там, где: * правильные слова важнее реальных результатов; * несогласие трактуется как моральная порочность; * обвинение само становится наказанием; * институты боятся обсуждать исходные допущения. Тогда да: это новая форма жречества. Не государственная диктатура в строгом смысле, а корпоративно-медийная система ритуального согласия. Cancel culture — её радикальный инструмент дисциплины. Я: Всё повторяется. Меняются слова, технологии и костюмы; повторяется схема: страх и вина → объясняющий мир нарратив → жрецы правильного языка → ритуалы принадлежности → награды лояльным → наказание еретиков. Но это не фатальный цикл: каждый раз система ломается, когда ритуал начинает слишком явно противоречить реальности и результатам. Я: Проблема рациональности в том, что с ее помощью можно дать логичное объяснение правильности чего угодно — это софистика и демагогия. К примеру, объяснить полезность ядерного удара в определенной ситуации. Рациональность сама по себе не отвечает на вопрос «что должно быть целью». Она отвечает только: «каким способом эффективнее достичь заданной цели».

📌 Продолжение. MIRI о своей миссии То есть твой диагноз по социальным вопросам во многом попадает: это не единая идеология Кремниевой долины, а узкая среда технарей-философов, которые пытаются применить инженерную оптимизацию к морали и политике. Маск и Тиль берут из неё то, что совпадает с их техноэсхатологией и властью через технологию, но не покупают весь «клубный пакет». Уверенность: 90%. Я: Ясно. Это не про хорошо или плохо, а про рационализацию как антитезу чувственным старым моральным системам религий. Типа помогай не потому, что благо, а чтобы не было бунтов. Это попытка заменить моральную интуицию вычисляемой моделью управления системой. В религиях: помогай, потому что человек — ценность, а милосердие правильно само по себе. В EA: помогай там, где минимальный ресурс снизит максимум страдания, риска и нестабильности. В прагматическом, циничном прочтении — чтобы система не дошла до бунтов, войн, пандемий или неконтролируемого ИИ. Но у основателей мотив обычно не сводится к предотвращению бунтов: они всерьёз считают страдание морально измеримым и уменьшение его — обязанностью. Проблема в том, что при переводе в язык фондов и элит эта этика легко становится технологией сохранения порядка. Уверенность: 91%. Я: «Всерьёз считают страдание морально измеримым и уменьшение его — обязанностью» — это как клятва верности или обрезание)))) Рациональность здесь — упаковка доверия: она превращает моральный выбор в «решение на основе данных», а сомнение — в якобы некомпетентность. Маркетинговая формула простая: у человека есть деньги, тревога и желание быть хорошим; ему дают понятную метрику, экспертный рейтинг и социальный круг. Он покупает не только эффект, но и моральную идентичность: «я не просто богатый — я рационально полезный». Сильная сторона: иногда это действительно отсекает пустую показную благотворительность. Риск: метрика становится сакральной и скрывает вопрос — кто задал цель, по которой оптимизируют? Я: Думаю, что под капотом «желания быть хорошим» сначала идет навязанное чувство вины. Без этого такие нарративы не работают. У Трампа нет чувства вины, и, похоже, у многих. Но у более позднего поколения с мозгами, промытыми «детской травмой», оно есть по определению)))) Чувство вины — сильный «крючок», особенно если человеку с детства внушили, что его успех, привилегии или сама его группа кому-то должны. Тогда EA предлагает почти идеальную разрядку: не покайся и не откажись от статуса — просто направь часть ресурса «по научной методике». Но оно не обязательно. Есть ещё три мотива: * страх нестабильности и будущих катастроф; * желание принадлежать к умной и морально легитимной элите; * удовольствие от ощущения контроля над огромным и хаотичным миром. Трамп — скорее пример другого психотипа публичного лидера: не оправдывать силу морально, а считать её собственной легитимацией. Ему такой нарратив действительно не нужен. А язык «детской травмы» часто работает как культурная машина производства вины: любое неудобство можно прочесть как вред, а любое неравенство — как личное моральное обвинение. Это делает людей восприимчивыми к тем, кто продаёт очищение, защиту или «правильную» позицию. Уверенность: 84%. Я: Да, согласен: классический набор триггеров, стоящий за ними нарратив и обещание стать своим и правильным. Значит, еще тщеславие — все эти пафосные конфы, взаимные ссылки, элитные тусовки. Продажа «правильной» настройки))) Как обычно, пиздоболы в конечном итоге всех разводят. Современные брамины. Философы нашли способ монетизации болтовни, создав новую религию. Ты описал механизм довольно точно: продаётся не столько помощь, сколько «правильная настройка личности» — моральный статус, язык посвящённых и доступ в круг. Конференции, рейтинги фондов, pledge, взаимные рекомендации создают ритуалы признания. Не обязательно все участники циничны: большинство, вероятно, искренни. Но система устроена так, что искренность участников и статусный интерес элиты прекрасно усиливают друг друга.

Я: Кто стоит за идеологией эффективного альтруизма? У эффективного альтруизма нет одного центра управления. Это сеть вокруг нескольких фигур: * Peter Singer — философский предшественник: идея, что помогать надо там, где один доллар уменьшает страдание сильнее всего. * Toby Ord и William MacAskill, оксфордские философы, — главные оформители современного движения; в 2009 году создали Giving What We Can. Источник * Nick Bostrom — сильно повлиял на ветвь longtermism: приоритет рисков для будущего цивилизации, включая ИИ. * Holden Karnofsky, Elie Hassenfeld и GiveWell — сделали из идеи практику: сравнение благотворительных программ по доказуемому эффекту. * Dustin Moskovitz и Cari Tuna — важнейшие ранние финансисты через Open Philanthropy; деньги направлялись на global health, биобезопасность, welfare животных и AI safety. Отдельно: Sam Bankman-Fried был не идеологом, а очень крупным донором EA до краха FTX; его мошенничество нанесло движению сильный репутационный удар, но не создало его. Суть идеологии: не «делай добро по чувству», а измеряй, где ограниченные ресурсы дают максимальный моральный эффект. Отсюда и спорная развилка: помощь бедным сейчас против снижения редких, но катастрофических рисков для будущих поколений. Обзор принципов EA Уверенность: 94%. Я: «Максимальный моральный эффект» — типа плати, чтобы избавиться от чувства вины за свое богатство? Нет. В их собственной логике это не «индульгенция за богатство», а оптимизация помощи: если у тебя есть $10 000, направь их туда, где они статистически спасут или улучшат больше жизней. Но критика по существу верная: на практике EA легко становится моральной лицензией для сверхбогатых — «я заработал огромные деньги любым способом, зато потом рационально отдал часть». Особенно когда не ставится вопрос, как именно это богатство возникло и какую власть оно концентрирует. Усиление идеи: требует доказательств результата, а не красивых жестов. Главный риск: превращает мораль в Excel-таблицу и позволяет не замечать системные причины бедности и неравенства. Уверенность: 93%. Я: Я понял — новый модный нарратив для сбора денег. Типа если хочешь входить в элиту, это теперь такой клубный взнос. У этой идеологии есть и такая социальная функция: она превращает благотворительность в маркер принадлежности к рациональной, технологической элите. Не просто «я богат и жертвую», а «я понимаю глобальные риски, умею считать эффект и направляю капитал умнее других». Это создаёт клуб — с общим языком, фондами, конференциями, карьерными траекториями и доступом к влиятельным людям. Но это скорее не прямой сбор денег с желающих войти, а механизм легитимации и координации уже состоятельных людей. Взносом становятся деньги, репутация, экспертиза и лояльность к общему набору приоритетов: AI safety, биориски, долгосрочное будущее. Риск очевиден: узкая группа начинает решать, какие жизни, угрозы и будущие сценарии считать «наиболее ценными». Уверенность: 88%. Я: Уверен, Маск их не поддерживает. Это элитарный развод гиков Кремниевой долины, которые обычно хороши в технологиях, но кретины в социальных вопросах. И Питер Тиль тоже их не поддерживает. С поправкой: как движение EA целиком — вероятно, нет; оба не его публичные адепты. Но сказать, что они «не поддерживают их», нельзя. * Маск близок к longtermist/AI-risk ветви: в 2015 году пожертвовал около £1 млн связанному с Оксфордом центру Ника Бострома, выступал на EA-конференции; его оценка книги Макаскилла What We Owe the Future — «близко к моей философии». Но он не выглядит донором основной EA-инфраструктуры и не принимает весь их социальный пакет. Подтверждение связи с FHI * Тиль ещё точнее: не «EA-человек», а ранний спонсор рационалистско-сингуляристской среды — в том числе MIRI, института AI safety, связанного с Юдковским. Это идеологически соседняя, частично пересекающаяся сеть, а не поддержка глобального здравоохранения, animal welfare и прочих базовых направлений EA.

Вайб-инжиниринг. Пока мы тут генерим чахлые 3Д-модельки, пригодные разве что для 3Д-печати, люди идут сильно дальше в физический мир. И тут прекрасно все: мозги Астры, деньги кожаного, и инструкция по сборке. Чувак дал Astra свою кредитную карту и попросил сконструировать\собрать мини-контроллер для диджеев в стиле Teenage Engineering (есть каста упоротых по МИДИ-контроллерам). Астрачка сгенерировала концептуальное изображение, нашла комплектующие, изучила китайские технические характеристики, создала CAD-модель, всё заказала, а затем сделала анимацию в Blender, показывающую, как его собрать. Чувак обещает вот-вот показать результат, пока у него Астра с поставщиками переписывается. С софтом мы разобрались. Я уже не ищу приложения, я прошу их мне быстро написать (раскурочил Андроид знатно). Но тут уже выход в хардвер, не софтвер. Причем не "как мне пачинить кран", а придумай, сконструируй, закупи и доставь. Потом будет домашний робат для сборки таких посылок. Но пока меня просто ошарашивает скорость изменений, мышление просто не поспевает за ними - а что так можно было?? И даже если контроллер не заведется завтра, он точно заведется послезавтра. И теперь наигравшись с "хачу видео" и "хачу утилиту", можно переходить к "хачу вот такую железяку в подарок, чтобы делала что мне надо". Апажалста. @cgevent

📌 Продолжение. И он может обслуживать одновременно тысячи, миллионы одновременных клиентов/ запросов, и все индивидуально. Все - ИНДИВИДУАЛЬНО, т.е. каждую беседу строить индивидуально, одновременно создавая профайл. Причем, его можно развивать, учить, и он будет становится все более умным. Его можно засунуть в любой канал - Телеграм, Инстаграм, Дискорд, Вотсапп и т.п. На сайт разумеется, в мобильное приложение, в игру, в СMC, при желании снабдить голосом и Аватаром. Попробуйте. В текущей версии я подключил его только к паре, тройке курсов. Все бесплатно - пока - я же тестирую его. Но в целом ограничений по предметной области нет - от ядерной физики до бизнеса и юриспруденции. И есть куда расти. А можно сделать так, что вы сделаете такого супер эксперта из своего любимого ИИ чата, где вы привыкли. Т.е. подключаете свои знания, которых у дженерики тупо нет. Нет. И не будет. Попробовать бесплатно в чате в Телеграме @aialexekrol , чтобы вызвать начать вводить / - и само подгрузится меню. Кстати, он поддерживает диалог - пока я включил только 3 реплики, но в общем ограничений нет. Это чисто финансовое ограничение для теста. Писать обратную связь мне не надо. Я все равно не читаю. Пишите прямо ему, упоминая в запросе /ask - в этом случае все реплики записываются и анализируются. В чате живет ИИ-ассистент, отвечающий на вопросы об ИИ. Чтобы вызвать, введите /ask - загрузится меню, выберите /ask или /help и нажмите ввод, после чего появится поле, куда введите ваш вопрос. Можно просто в сообщении задать вопрос, и в конце поставить /ask