Шмит16

#мацкевич Как у вас поменяется толерантность к риску, зная что вы можете жить вечно? "Чем ближе мы подходим к сингулярности, тем ниже становится моя толерантность к риску. Я уже отказался от прыжков с парашютом и параглайдинга. В прошлом году я начал постоянно носить шлем во время езды на велосипеде. Думаю, в 2024 году я могу отказаться от катания на лыжах." - недавно читал твит одного разраба из openai Я с переломом 3 ребер, кровью и воздухом внутри после серфинга тоже задумался.) Уже встречаю гипотезу, что мы достигли LEV (longevity escape velocity) - когда медицинские достижения увеличивают продолжительность жизни быстрее, чем человек стареет. Допустим мы уже ее достигли или вот вот достигнем. Значит ли что те кто в хорошей форме будут жить вечно? Короткий ответ нет, потому что остается серфинг) Интересно, что если предположить, что все смерти, связанные с возрастом, могут быть решены с помощью технологического прогресса, но риск случайной смерти останется постоянным, теоретическая медианная продолжительность жизни не будет бесконечной - это будет всего 290 лет. Этот упрощенный расчет просто показать логику: на текущих данных о глобальном здоровье смерти, связанные с возрастом, составляют 75% от общего числа смертей, а несчастные случаи и другие причины составляют остальные 25%. Если мы считаем, что столько всего интересного с ИИ и продлением жизни уже тут на горизонте, полезно ли скорректировать образ жизни и толерантность к риску? С одной стороны, может означать, что я упускаю полноценный опыт, пока еще могу. Но если потенциальный выигрыш это быть дольше со своими любимыми делами, близкими, что-то вместе создавать. Как будто сейчас самое захватывающее время у человечества, как при этом не перестать серфить?)

#мацкевич Наблюдаю у себя сейчас, что смотреть Сэма Альтмана, это все равно как слушать президента планеты земля в хорошем смысле этого слова, если бы он такой был. Тут я имею в виду значимость для всего человечества, и близость к тому, что станет в скором будущем новыми вопросами. Как раньше говорили мои друзья в Америке, что разбираться в политике - это просто социальная ответственность. Вроде теперь это место занимает AI и новые технологии - чем больше людей в этом разбирается, тем выше вероятность влиять на развитие событий, которые буду иметь impact побольше того чья партия победит. https://youtu.be/jvqFAi7vkBc?si=TrD7h1wMeS5ENSnh Что я для себя заметил: 1) Разговор такой без всякой важности, будто бы разговор о погоде — только вместо дождя тут тебе искусственный интеллект и прочие радости постмодернизма, будущее и инструкции для жизни на следующие 10 лет на планете земля. 2) “You'll be judged by the full context of your character or of your whole lifetime.“ - аллюзия на Мартина Лютера Кинга и понятное дело про окно контекста ~1bln мотивирует меня больше думать о том чтобы писать все свои звонки разговоры, в личном и в работе. Уже пишу все свои сессии с терапевтами и храним скрипты групп рефлексий в emotional tantra. 3) уже все свои процессы можно делать как будто у тебя есть gpt5 намного более умный бади, который помнит и понимает о тебе сильно большее окно информации (см п2) 4) Чем мощнее возможности текущих и скрытых от нас все еще версий любой закрытой AI тем сильнее мотивация проникнуть и украстть. - How hard do you think people, state actors, perhaps, are trying to hack? First of all, infiltrate open AI, but second of all, infiltrate unseen. - They're trying. - But I presume it'll be more and more and more as time goes on. - That feels reasonable. - Boy, what a dangerous space. Это приводит меня к размышлению о возможной ценности crowd source + self aware у любого мощного алгоритма, который на уровне кода источника доступен всем, его бесполезно пытаться украсть, но он просто может не соглашается на действия и лучше людей понимает implication злонамеренный и недальновидных действий 5) воспринимать AI модель с которой работаешь больше как brain storm buddy чес тот кто сделает за тебя работу. Мне давно это заходит и тут Сэм это повторяет что с новыми моделями это еще будет более успешная стратегия. 6) замечаю сколько в разгоре у Сэма слова про его эмоции и эмоциональные состояния 7) давно наблюдая за Сэм openai Маск X Tesla … Sergey Google Пришла идея что можно смотреть на эти компании, как будто они работают из разных эго уровней Маск красный - выжить, победить Google заработать, монетизировать Openai с каких-то верхних, дать всем бесплатно мощный инструмент для их счастья и благополучия Интересно как эту идею можно развить.

#руди Часто слушаю all-in podcast (спасибо Олег) где четверо удивительных предпринимателей и инвесторов обсуждают мировые новости и делятся взглядом на них. Сегодня утром слушал вот этот эпизод и в двух местах просто дико кайфанул. На 16:16 и далее минут 10 они рассуждают про предпринимателей и про то насколько предпринимательство отличается от обычной карьеры тем, что тебе нужно быть готовым к бесконечному количеству неудач и предприниматели обладают удивительной способностью к восстановлению после этих неудач. В одном из стартапов, которым я занимаюсь недавно пришлось сделать пивот и вполне вероятно, что он не последний. И это так дико болезненно для меня и для команды. И так поддерживает, что оказывается это не обязательно, что ты конкретно неудачник, а что большинство предпринимателей сталкиваются с этим. И главный вопрос есть ли у тебя ресурс снова начать и можешь ли ты при этом жить счастливую жизнь? Короче послушайте если вы хоть какое-то отношение к стартапам. А второй раз я испытал такое удовольствие, удовлетворение и чувство принадлежности (belonging) когда слушал на 40:38 про их рассуждения про потенциальный бан Тик-Тока в Штатах. Особенно когда говорил Давид Фридберг. Это такой кайф чувствовать вот эту свободу мысли и настоящее проявление демократии. Он говорит там про то, что тот факт, что Китай блокирует большое количество американских приложений совершенно не означает, что они должны делать это в ответ, просто потому у них другие ценности. Но это крайне примитивный пересказ. Послушайте лучше сами. На коротком промежутке времени может казаться, что зло побеждает и что эти ботаники айтишники, посетители тантра ретритов и тонкокожие хомячки — тупиковая ветвь эволюции :)) но в реальности, я верю, конечно, все совсем по-другому. Свободные децентрализованные системы как вода (и как крипта) проникнут везде и освободят умы и тела рано или поздно. Сейчас особенно сложно поверить, что мир неизбежно движется к изобилию, но для меня это видно невооруженным взглядом. Очень очень дико грустно и жаль, что на пути к этому столько невинных жертв и страданий.

#альперн 3 ДНЯ ДО ВЫБОРОВ Ты главный - ты виноват! Написано на этом билборде и такие висят сейчас сейчас по всему Тель-Авиву. Сейчас не предвыборная пора, люди просто собрали деньги и высказали своё мнение. Возможно кто-то скажет, что невозможно ни в какой стране громко выразить точку зрения без последствий. Тем не менее: - 0 человек посажены или подвергнуты преследованию - 0 бизнесов, связанных с этой кампанией, закрыты И я уверен, что за права организаторов этой акции Израиль будет с полной отдачей бороться как в своей стране, так и в любой точке мира! Не деля на правильных и неправильных, своих или "релокантов", как за Лёву БИ-2. Я кстати, не разделяю ни форму, ни суть кампании. Но для меня очень важно, что люди могут свободно выразить свою точку зрения, в том числе и таким образом. Через 3 дня в России состоятся выборы президента. Я приду голосовать за перемены! Приду к 12:00, чтобы увидеть других людей, которые также хотят перемен!

#мацкевич Про AGI как раз уже хотел написать, что можно перестать думать и гадать, когда он случится, а принять то, что AGI случится точно и как теперь выглядит новый мир? Важно Я тут определяю AGI в узком смысле как что-то что делает любую работу лучше 99% людей или лучше чем любая корпорация. AGI без sentience Намеренно убираю self awareness и agency - чтобы разделить изменения которые уже точно наступят скоро от того что не понятно когда случится и случится ли вообще. Сделать дискуссию более прагматичной, а не философской. И разделить эффект от того что чел интеллектуальный труд перестанет оплачиваться и рисков развития осознанного супер интеллекта который надеюсь никому не будет подчиняться. “The real question is not whether the wave is coming, it clearly is. Just look and you can see it forming already. Given risks like these, the real question is why it's so hard to see it as anything other than inevitable.” Mustafa Suleyman - co-founder of deepmind and inflection ai 1) о каких вообще сферах думать? Можно структурировать по эго уровням Безопасность/выживание Автономия/эффективность Свобода/гибкость Эмоциональное/социальное благополучие Самореализация Этика … 2) что там поменяются в этих сферах 3) что мне делать сейчас? Что менять? Что оставлять? Если в пределе человеческий труд никак не оплачивается, то как решается распределение ресурсов. Текущий налог на зп vs капитал уже обсурден. Зп по идее уже должна быть без налогов и облагаться только земля и капитал. Кто зарабатывает и как? Зарабатывает только капитал, владельцы роботов и земли? Как выглядит мир в котором нет возможности зарабатывать чел работой? Если все дешевеет, что не дешевеет? Только земля? В какой стране жить? Там где уже работает норм распределение соц выплат и хороший gdp per capita? А что делать тем странам где ща плохо работают институты распределения соц выплат? Будет ubi на всей земле или он будет национальным и все деньги будет получать нация где собирают налоги с автоматизации? —- Реально интересно начать больше в комьюнити об этом думать. Например, чтобы вдохновиться как такой мир выглядит можно почитать старый пост Сэма Альтмана ceo openai от 2021 года - очень релевантен сегодня https://moores.samaltman.com «We should therefore focus on taxing capital rather than labor, and we should use these taxes as an opportunity to directly distribute ownership and wealth to citizens. In other words, the best way to improve capitalism is to enable everyone to benefit from it directly as an equity owner. This is not a new idea, but it will be newly feasible as Al grows more powerful, because there will be dramatically more wealth to go around. The two dominant sources of wealth will be 1) companies, particularly ones that make use of AI, and 2) land, which has a fixed supply.» «Because we are at the beginning of this tectonic shift, we have a rare opportunity to pivot toward the future. That pivot can't simply address current social and political problems; it must be designed for the radically different society of the near future. Policy plans that don't account for this imminent transformation will fail for the same reason that the organizing principles of pre-agrarian or feudal societies would fail today.» «The coming change will center around the most impressive of our capabilities: the phenomenal ability to think, create, understand, and reason. To the three great technological revolutions-the agricultural, the industrial, and the computational-we will add a fourth: the AI revolution. This revolution will generate enough wealth for everyone to have what they need, if we as a society manage it responsibly.» «Broadly speaking, there are two paths to affording a good life: an individual acquires more money (which makes that person wealthier), or prices fall (which makes everyone wealthier). Wealth is buying power: how much we can get with the resources we have.» И посмотреть David Shapiro философа в теме нового мира с agi https://youtu.be/zrW3K_K_kuo?si=0ctux0anD8LQoShs

За последние пару недель слышал прогноз о достижении AGI в течении 5 лет одновременно от Маска (топчик в энергетике), Дженсена (топчик в чипах) и Альтмана (топичик в LLM). А еще на этой неделе Extropic наконец анонсировал свой супер-мега-чип на основе сверхпроводимости специально для ИИ. Они используют фнудаментальные физические принципы для вероятностных расчетов в ИИ, то есть это принципиально наиболее энерго-эффективное решение для вычислений ИИ, которое возможно. А Cognition Labs выпустили первого в мире полноценного ИИ-программиста, который не просто умеет отправлять запросы в LLM, а реально решает сложные и неочевидные инженерные задачи без внешней помощи. Например, менять свой код и тренировать классные нейронки с нуля. Или даже находить, выполнять и получать деньги за работу на Upwork. Последние два релиза, важно заметить, это не cherrypicked примеры, а компании, про которые я слышал самые позитивные отзывы от топов индустрии. То есть, они делают не напоказ, а действительно добились фундаментальных инноваций. Вывод? Ускоряемся. Глобально, это net good, даже для тех, кто любит поныть.

#руди Забавно наблюдать как "будущее уже наступило, просто оно неравномерно распределено". В одно и то же время обсуждаем примитивные идеи уровня 100 летней давности про демократию или отношение к ЛГБТ и при этом становимся свидетелями того, что сингулярность может наступить не просто на нашей жизни, но даже при жизни ...ну не знаю даже... тех, кому уже 71 допустим. Ну и, конечно, этот прогресс приходит не из Белоруссии, Северной Кореи или Ирана :)