Victor Osyka, техноцивилизация
Техноцивилизация, фаундерство, психология. Делаю progresspunks.com, поток сознания t.me/progresspunk, тг @viiitttorio
Больше8 761
Подписчики
-124 часа
+147 дней
+14930 дней
- Подписчики
- Просмотры постов
- ER - коэффициент вовлеченности
Загрузка данных...
Прирост подписчиков
Загрузка данных...
Aravind Srinivas, фаундер Perplexity.ai, с 2022 подняли $170M, экс-рисечер Deepmind и OpenAI, интервью Lex Fridman на (!) 3 часа:
Perplexity
- Вижн: поменять получение ответов людьми - юзать LLM, но и каждый ответ подтверждать ссылками, снижая глюки. На PhD в Berkeley учили в статьях все писать, цитируя источники, а не "просто мнения"
- История появления: хотели запилить крутой продукт из LLM, нас вдохновил Github Copilot - пишет код для тех кто не умеет. Задумались: а поиск чего можно дисраптнуть?
- Опыта не было, все с 0, начали со Slack+GPT3.5. Играемся с UX - не быть как Гугл - мы не поиск, а движок knowledge discovery, как начало бесконечности Дойча. И мы за научные обоснования truths
- Сперва пилили на SQL, потом RAG. Тестили в Twitter, но Elon сказал вырубит нам API - так пошли в поиск всего
- Взяли Llama3 и докрутили в свою модель Sonar, но в будущем будем model agnostic
Гугл
- Нет стимулов сразу дать ответ, e.g. про страховку - им же платят страховые. Но для поиска сайтов, realtime инфы, кастомизации под вашу гео, и все это за 0.5 сек - ОК
- Живой аукцион за слова AdWords - топ бизнес модель за 50 лет (авторы Overture для Yahoo). Еще они круто чистят shit среди рекламодателей. AdSense оч data-driven. Гугл красив по интеграции ads в UX
- Поиск им важен, но не критичен: выручка Cloud+Youtube = $100 млрд - триллион капитализации
- Их можно хакнуть только чем-то иным. Amazon вынес их тк в Google Ads была супер-маржа, а ecomm и clouds тогда - с минусовой маржой - это дырка для взлома прибыльных public firms
Советы фаундерам
- Вся common wisdom верная, трудно что-то добавить. Если нет неустанной решимости - тяжело построить компанию. И тут реально важна страсть, а не просто угадывать что важно рынку или VC. What you love, а иначе обгонят кто с genuine passion. У Larry Page был бэкграунд в human-computer interaction итп
- Великое требует страданий и самоотверженности. И больше общения с людьми кто делают нас лучше, а не не понимают о чем мы
Page/Brin: их гений был в отказе от анализа текста (как весь поиск тогда), а просто ранжировать ссылки, взяли из academic citation graphs. Схантили всех PhD после краха доткомов. Всегда были помешаны уменьшать время выдачи. Еще у Ларри философия "user is never wrong" - удобно даже моей маме
Bezos: мне нра его желание ясно мыслить и one-way/two-way door. Его customer obsession даже вне инета
Musk: в его био от Isaacson понравилось что нет дистрибуции Тесл - ты напрямую с юзерами. И его first principles thinking - да он запилил автопилот просто чтобы понять его работу
Huang/Nvidia: Что у него 60 прямых подчиненных видеть всю фирму целиком + его паранойя: в хардвере планы на пару лет, нельзя ошибаться
Zuckerberg: его move fast & break things + их позиция про open-source/Llama
Yann LeCun: вырастил плеяду учеников кто кофаундеры Deepmind, OpenAI итп. Ну и его вера в RL - это было controversial. И он может и прав про ложный страх AGI, тк инженеры doers часто слепы про общий impact of tech
AI
- Прорывы? С 2017г их нет, все делается также: CNN, transformers - пока просто масштабируют data & compute. А вот кто сможеть разделить reasoning и факты - это будет прорыв: тогда не нужны датацентры на миллион GPU/1 ГВт
- Вопрос на $1 трлн: AGI для меня это новое знание, типа крутого PhD, Коперника, Галлилея, происхождения Covid, редизайна Starship
- Могут ли модели начать “думать” общаясь друг с другом? Хз. Люди special тк у них есть love, красота жизни, и любопытство, just deeply curious как вид
Будущее поиска
- Инфа в инете упорядочивается по-разному, каталоги до гугла были, все может эволюционировать
- В соцсетях drama или news, а мы видим инфо скорее как truths или как AI Wikipedia
- Даем юзерам автоматом делать Perplexity Pages по итогам их находок
Мир с AI
- Верю, что AI уменьшит biases людей
- Люди могут желать общаться с AI - тогда глюки это уже фича, а не баг
- Работа будет меньше похожа на работу, а скорее наполненную жизнь (что в топе пирамиды Маслоу), хоть и будем там больше с ботами общаться. Зато освобождая время общению в жизни - одиночество это бич нашего времени
👍 26🦄 6❤ 5🔥 3🤔 1💯 1
Концептуальное интервью Palmer Luckey (продал Fb Oculus VR и с 2017 строит Anduril - OS типа Android/связующий layer для всей амерской оборонки):
Big ideas
- Мир странно устроен: не работают над дешевым ($1/галлон) synthetic бензином/biofuels. Можно улавливать CO2 из воздуха, расщеплять воду на H и O - и юзать во всей инфраструктуре что уже есть, особенно промышленности, и экологично. Компании плохи в technical decisions + дюжина правительств закомиттились на не оптимальный продуктовый путь -> в EV, батареи, инфру идут триллионы $
- Back to the future: в 50ые Минэнерго США верили в АЭС будущее, а сейчас и узко мыслят, и оч politically driven/дебаты между партиями. Фокус чисто на статус кво, big ideas нет, e.g. зебры и носороги в Луизиану
- Не надо раздавать займы на всеобщее высшее образование - тинейджеры же не оч шарят зачем им ancient French theater degree итп - пусть такое сами платят. И нам надо в 100x больше Thiel Fellowships (но не как SBF ))
Изобретать из принципов
- См. видео Bret Victor в 2012
- У нас собрались люди, кто считает, что а) по миру у конкурентов мало вижна и б) бигтехи не решают вопросы национального значения, а тем более democracy в целом
- Если шарите в сфере - быстрый итерационный процесс ОК. Если нет - идите назад и см. как все люди решали эту проблему, а не только recent times - спустя время давно отвергнутое вдруг может уже иметь решения. Верьте экспертам про проблемы, но не про способы решения
Мне важен impact
- Для VR end-game - это массовость, а я увлекся как хобби когда VR пилили только военные и лабы. Меня правда выгнали и стали более commercially focused. Так что Anduril строю как potentially giant company - так смогу повлиять на мир
- Создать бизнес vs. impact - это разное. Я бы хотел и дальше VR, но impact.. Выбирал засолвить obesity, реформа частных тюрем (трабла в рецидивистах), и Anduril
- Out of the box thinkers редкие люди, и еще они избегают скучные корпорации, big госведомства и их медлительность. Я интерфейс между ними. Хакеры (по YC) же лучше сделают open source, чем будут неблагодарно убеждать обычных людей в обычных институциях/школах/госполитике. Успех Anduril: 50% выстроить отношения, 50% - tech
Конкуренция
- Стартапам надо не смотреть “как Oracle выглядит сейчас”, а на несколько шагов вперед, как у них будет через пару лет. И при этом продуктово выглядеть похоже на них, но внутри быть from 0to1, чтобы распространятся мимикрируя как микроб, но когда те заметят - уже не смогли из своего legacy вас скопировать
- Нет FDA №2, Пентагон №2, так как в NASA до SpaceX - все делали по cost plus pricing -> супер вредные стимулы для частных подрядчиков, nothing reusable итп + бюрократы избегают стартапы в пользу Boeing
Anduril
- Наша миссия на слайде 1: делать выручку в $1 млрд, сберегая налогоплательщикам $10 млрд - убираем все эти ненужные legacy. Сейчас продажи сотни млн
- Мы ищем что плохо решается, а с хорошими фирмами зачем конкурировать? Customer pains должны быть в приоритетах и Пентагона (будут вообще заниматься этим), и Конгресса (дадут $ на это)
- Мы AI company с 1го дня, но тогда все в 100x меньше шли в AI, а сегодня это уже не differentiator
Китай
- Они застраивают Африку мостами, портами, а также продают свои системы и оружие, но реально они для борьбы с оппозициями (камеры SenseTime, вышки сотовой связи) - перестанешь слушать Китай - отключат и твоя власть зашатается
- US надо 1 млрд чел. вдолгую конкурировать с China, а иначе средний американец должен быть в 10x более impactful чем китаец?
- Тайвань важен миру из-за чипов, так бы США не бодались на пороге конфликта с ядерной державой
Прочее
- Критика продаж Apple Vision Pro - глупо, это же Pro, не массмаркет. Но через неск. лет экраны подешевеют до $100, а пока адопшн enterprise + разрабами
- Совет 1000 студентам? Что за мечты стать Джобсом, он уникум. Больше слушать что люди о вас думают, и честно понимая свои слабости, можно сделать команду где все покрывают силы и слабости друг друга
- Благодарен Тилю что в 19 лет дал $ на Oculus и жене что 15 лет ждала предложения (знакомы с 15 лет)
😁 20👍 13❤ 10🔥 5😢 1😇 1😘 1
В рамках инвестиционного тезиса progresspunks.com я вложился в 4 стартапа, ускоряющие прогресс. Если знаете про стартапы с продуктами/тулзами/enablers для ученых, инженеров, коммерциализации tech - расскажите?
Хочется больше чудес при нашей жизни, особенно в world of atoms, not bits. AI круто, но Илон Маск сказал в SpaceX им не помогает итп )
1. Vitalia.city - создание в charter cities/network states упрощенных регуляций для фармы/генной терапии, чтобы быстрее (месяцы, а не годы) и дешевле вести клинические испытания. Вдохновлено Zuzalu City Виталика Бутерина (это типа Burning Man, но про науку =). Делает Niklas Anzinger, а с другим фаундером Laurence Ion (основатель VitaDAO) они чет уже успели рассориться - ну, это жизнь
2. FirstApproval.io - что к каждой научной статье должны публиковаться исходные данные. Делает PhD в UCSF (это где когда-то червям жизнь продлили) Тимофей Глинин, научный адвайзер Open Longevity Миши Батина, модерирует дебаты типа Aubrey Du Grey vs. Федичев (фаундер Gero) итп
3. 100xbio.com - более дешевая идентификация T cells (клетки нашего приобретенного иммунитета), делает в Бостоне Сережа Пустыльников. Нужно для CAR T cell терапий (рак итп), которые нужно кастомизировать под каждого, поэтому тесты столь важны
4. (пока stealth) - knowledge management tool, типа Miro / Heptbase - как для коллективного обсуждения структурируют сложное знание
Elon Musk says AI has no 'use' at SpaceX — at least for now
Elon Musk spoke about how AI is used at his space exploration companies during the 27th annual Milken Institute Global Conference.
❤ 30🔥 19🦄 9👍 7⚡ 1
Даже очень сильные и одаренные люди могут сталкиваться с кризисами, проблемами внутри себя или вопросами, которые в одиночку решить может быть сложно. Наша 11-ая группа по личностному развитию Soulmates Superheroes с дипломированным психологом (и женой =) @julisache стартует 3 июля (по средам)
Это вертикальное развитие/спиральная динамика (Кук-Гройтер, Торберт, Бек), спектр фронтирных инструментов личностного и духовного развития, интегральные взгляды на сложный и взаимосвязанный мир (Уилбер, Дойч, Тегмарк)
7 созвонов в zoom 1 раз в неделю:
1. Структурированные рацио frameworks что цивилизация открыла про личностное развитие
2. Теплая уютная группа единомышленников для совместных практик и обсуждений в бережной среде
3. Трипы в глубины своего подсознания через ЭОТ (эмоционально-образная терапия) чтобы трансформировать свои внутренние блоки, сценарии и ограничения в excitement, ресурсы и энергию
Для кого? Для фаундеров, кто хочет стать фаундером, кому нужно вывести бизнес на новый уровень/создать новый, для амбициозных профессионалов, кто ищет доверительный круг для глубокого общения, кому нужно обнаружить новые грани себя
Детали: http://bit.ly/3ieEI3N
Для участия пишите в тг @julisache
❤ 12🔥 4🦄 4😁 3😭 3🤪 2
Anxious Generation - книга про взрыв психозаболеваний у зумеров из-за соцсетей/игр и, одновременно, слишком опекающих родителей в оффлайнах. От социального психолога Jonathan Haidt, март 2024, посоветовал Steve Jurvetson
1. ПРИЛИВ
- В 90ые (инет) и 2000ые (старт смартфонов) было не так, тк не было соцсетей алгоритмически генерящих зависимость от себя, столько порно, а игры не максимизировали время внутри них, а еще расцвет selfie с 2010/iPhone4
- Девушкам - соцсети, парням - онлайн игры и мобильные, Reddit, hardcore porn - невиданная гиперстимуляция
- Девушки более склонны к тревоге/депрессии/self-harm, в 2010 12% girls 10-17 лет с депрессией, в 2023 30% (парни 5%->12%). У студентов рост mental issues +2x за то же время. Self-harm вырос +2x у girls, +50% у boys. Уровень суицидов в 10-24 лет вырос +30%, но среди 10-14летних +1.5-2x
- В Канаде в те же годы у girls падение “very good mental health” 85%->55%. В UK self-harm +80..130%, в Австралии рост психо-госпитализаций +50..80%, в Скандинавии psycho distress у тинейджеров +50..80%
2. ИСЧЕЗЛО ДЕТСТВО С ИГРАМИ ВО ДВОРЕ
- Депрессия всегда идет рядом со спадом личного общения. Живое общение синхронно и 1:1, онлайн - нет. С 2010 % школьников кто ежедневно видятся с друзьями упал 50%->30%
- Социальное обучение работает через копирование других. А сейчас 20 часов/неделю girls смотрят и создают контент
- Игры помогали эволюции растить нейроны, вознаграждая детей за них, а онлайн хакнул эту фичу. В 2017 Sean Parker, кофаундер FB: “we hack a social-validation feedback loop”
- У млекопитающих игры - это время для риска, эволюция его вознаграждает дофамином, “ищи возможности”. Взрослые особи - у них защитный режим и избегание опасностей
- За десятки лет детские площадки стали слишком безопасны. Но дети, не освоившие риск в детстве, закрываются во взрослой жизни. На западе мамы стали в 2x больше часов тратить на детей и их избыточно контролировать: fearful parenting, safetyism, "со здоровыми как с инвалидами"
- Все это замедляет взрослость, ниже адаптивность, рост mental issues, дольше девственники, позже получают права
3. ВЕЛИКАЯ ПЕРЕПРОШИВКА
- Онлайн-детство дает 4 девиации:
а) Десоциализация: время с друзьями для 15-24-летних упало 120->40 мин/день
б) Плохой сон: % тинейджеров кто спит <7 часов за 10 лет стало 35->50%
в) Фрагментация внимания/ADHD
г) Аддикции по дофамину: слайды утечки Facebook Files в 2021 изучают созревание мозга до 20 лет и какие продуктовые фичи им из этого пилить
- Доля старшеклассников и студентов ощущающих себя одинокими за 10 лет рост 25->40% у girls и 18->28% у boys. 25% не видят жизненных смыслов
- Девушки больше зависят от внешности и социального одобрения -> более уязвимы, скроля инсту и тикток
- А у мужчин проблемы выхода во взрослую в жизнь: не учатся, сложно с работой, живут с родителями до 30+ лет, жизнь без риска - меньше экстрима (за 10 лет в 2x реже стали попадать в травмпункты) и не ходят на свидания
- Спад религии, медитаций, природы
4. ЧТО ДЕЛАТЬ ОБЩЕСТВУ?
- Мы не даем детям алко/табак/казино, а онлайн - да? Вот и ушли в онлайн присутствие в ущерб жизни. Взрослым ОК, но мозг детей недоформирован + в пубертат много insecurity
- Рекламная модель научила бигтехи конкурировать за внимание алгоритмами + не чекают реальный возраст юзеров. Законы по защите детей в онлайнах не поспевает - за 6 лет одобрено только в ряде штатов. Можно Apple/Goog/FB обязать к реальному age check
- Дети топов Silicon Valley учатся в школах а-ля Waldorf Peninsula, где нет телефонов, ноутов, планшетов
- Нужен полный запрет на телефоны до старших классов (а не как сейчас “на переменах можно”), никаких соцсетей до 16 лет, оффлайн социализация: открывать детские площадки до школы + оффлайн продленка после + усложнить детские площадки обратно
- Вернуть обратно учителей мужчин с их role models
- В главе 12 советы что делать родителям детей разных возрастов
//
- Автор ценностно явно woke/анти-Hanania/социалист, но копнул оч. глубоко
- А нейроатипичность это рядом или чисто гены?
- Юля говорила, что тревога частый запрос у ее клиентов, но я не ожидал такие масштабы
Jonathan Haidt
American social psychologist (1963-)
👍 68❤ 16🔥 12💯 10🤯 6😁 3🦄 3
Часть 2 Stanford AI Index Report 2024 (а часть 1 тут):
Гл 4: Экономика
Jobs
- В 2023 1.6% всех вакансий в US - про AI, в EU 1% уже лет 5. 50% из них - ML. В 2023 2/3 вакансий про Gen AI, 1/4 LLM
- В US в 1.7-2x выше ЗП чем по миру все роли (дизайн, кодеры, продакты, топы)
Бизнес
- 400 фирм из Fortune500 упоминали AI. 55% фирм в US юзают AI (в 2017 20%), по миру 45%. Юзкейсы: сustomers (support, acquisition, sales) + опыты с new products. Финтехи и tech больше всех. В опросе McKinsey: 42% фирм снизили с AI косты, 59% растят выручку
- GenAI: 30% фирм по миру тестят (в US 40%) - драфты текстов, картинки
- Каждый 2ой разраб в мире юзает GitHub Copilot (60% писать код, 50% отладка, 30% документация), но нужно все очень проверять. У кодеров скорость +50%, консалтеры +25% (качество +40%), юристы +30%. У сотрудников низкой квалификации тоже прирост
- McKinsey верят, что AI на несколько % нарастит выручку всех отраслей, а занятость в сервисных, supply chain, HR, manufacturing - снизится. ВВП мира добавит +1.5% за 10 лет
Инвестиции
- В 2023 US $67 млрд вложено в AI (8x к Китаю), и еще $30 млрд прочий мир. В 2023 1800 AI стартапов по миру (900 US, 122 Китай, 300 EU) подняли по $32M в среднем. В $ - 2ой год падение
- GenAI вложено $3 млрд в 2022, $24 в 2023. AI M&A на $80 млрд в US ($170 в 2021)
- За 10 лет в AI стартапы вложили US $330 млрд, Китай 100, EU 50, Израиль 13 - 5500 шт стартапов US, 1400 China, 1500 EU
Роботизация
- На 2022 в мире было 3.9 млн промышленных роботов (1.5 в 2014). В 2023 установили 550К (2014 200К): 1/3 автозаводы, 1/3 заводы электроники. Каждый 2ой робот - в Китае, по 10% Jp и US, по 5% Корея и Germ
- 50% роботов - манипуляторы. 10% - коллаборативные с другими роботами. Разнообразие растет
- НЕ промышленные: больше всего в логистике, в разы меньше: медицина, уборка, агро
Гл 5: Наука и медицина
- Наука: AlphaDev для алгоритмов через RL, FlexiCubes генерация 3d моделей без ошибок, Synbot софт+робот создания органических молекул, GraphCast точнее прогноз погоды, GNoME/DeepMind для материалов - 2 млн структур изучено, 48К стабильных кристаллов, 800 реализовали, Flood Forecasting на 20% точнее про потопы
- Медицина: SynthSR МРТ сканы мозга с точностью 80-99%, CPIS рано детектить нейродегенеративные заболевания по протеинам, EVEscape предсказание пандемий, AlphaMissence/DeepMind тоже, Human Pangenome Reference full genome и для малых этногрупп
- Врачи: GPT4 Medprompt 90% правильно в MedQA (3x с 2019), от академии MediTron-70B точность 70%
- Диагностика: CoDoC в маммографии достигли уровня врачей и 3x меньше времени. Китай PANDA оч рано рак поджелудочной
- FDA одобрили 139 AI медустройств (45x с 2012), из них 120 - рентген
Гл 6: Образование
- 70% CS (computer science) PhD идут работать в индустрию (2011 40%). В US бакалавров в CS 35К, магистров 15К, 2К PhD. Иностранцев 15% в BA, 50% MA, 66% PhD. 200К школьников сдавали “ЕГЭ” по CS в US
- В US всего 8К CS профессоров. 50% штатов требуют изучать CS в школах. 60% школ юзают ChatGPT, в ВУЗах 80% людей
- По миру с 2017 число универских программ по AI +3x. UK и Germany выпускают больше всего CS/AI/IT бакалавров (50К, с 2012 г рост 2x), а прочая EU еще 50к. Магистров также, а PhD 3К
Гл 7: Законы
- В US 25 AI законов (1 в 2016), в 2023 обсуждали 181 шт. 21 ведомство контролит. В EU приняли AI Act. В Китае ограничили synthesis/fakes. По миру принимали 25 законов/год на 128 стран. 80 стран по миру обсуждали AI законы
- С 2017 75 стран озвучили AI стратегии. В US гостраты на AI science $2 млрд + столько же от Минобороны
Гл 8: Diversity
- 80% работников в AI/PhD/преподов - мужчины. На конфе NeurIPS женщин 4%
- Студенты: 45% whites, 35% Asians. В CS 25% женщин студентов и 0.1% non-binary. В EU схоже
- Я чуть напрягся читать/см мой пост про вокизм
Гл 9: Социум
- 63% в US знают ChatGPT, 30% - use weekly. 60% зумеров верят AI улучшит entertainment
- 66% людей в US ждут big changes от AI за 5 лет, но Запад НЕ позитивен (декаданс там давно): 52% нервничают, а всего 37% верят, что AI улучшит их jobs
- В Китае 78% людей верят, что AI сильно улучшит мир
👍 24🔥 10❤ 4🦄 3🤩 1
Stanford AI Index Report 2024 на, кгрхм, 500 стр, шикарный макро апдейт со всех ракурсов:
Глава 1: R&D
- Число параметров у моделей 1000 шт в 1990, 1 млрд 2018, 1 трлн в 2023. А в computer vision макс. размер 1 млрд и пока не растет
- Цена обучения выросла в сотни раз за неск. лет: GPT2 2019 стоила $0.05 млн, PaLM 8, GPT4 80, Gemini/Google 200
- Хорошие text data кончатся в 2024, low quality в 2035. А visual data - хватит
- До 2012 бигтехи нейронки не делали. До 2014 все топ модели были из академии, а сейчас только 15 из 51 топовых. Из 145 ведущих foundation models 28 - закрытые. Гео: 100 моделей из US (+50 с 2022), 21 EU, 20 Китай (+10 с 2022)
- Выдача AI патентов рост 10x за 6 лет до 60К в 2022 (70% Китай, 20% US). Доля US в AI конфах и гитхаб 23%. Конфы посетили 63К чел (NeurIPS 16К)
- Статей в 2x больше, чем в 2010, ~250К шт. Из них 230К журналы (1/5 Китай), 40К конференции (1/3 Китай). Всего 7% статей от индустрии
- В 2022 топ10 ВУЗов по числу AI публикаций #1-9 Китай, #10 - MIT. Из 500 топ AI ученых: 280 US, 150 EU/UK, 50 Китай
Гл 2: Benchmarks
- Темпы прироста бенчмарков LLM в 2023 рухнули =(
- Закрытые LLM на 24% лучше опенсорса
- Текст: понимание вопросов (Glue) 90%, reading comprehension 80%, LLMs struggle w/ reasoning и complex planning - 2-5%, суммаризация 50%, выводы 92%, sentiment analysis 59%
- MMLU (Massive multi-discipline multimodal understanding & reasoning for expert AGI, 16К вопросов в 57 дисциплинах) - 55-60% у Gemini и GPT4, а люди 80%
- Перевод давно засолвили. А вот достоверность фактов всего 60% (TruthfulQA). И глюки у LLM ~20% выдачи (зависит от задач)
- Computer Vision: точность по ImageNet с 60% в 2012 до 91% в 2023. Позы 94% точности, семантическая сегментация 85%, мед.сканы 94%, object detection 82%. А генерация pix за пару лет стала порой неотличима от фото. Вопросы “что происходит на картинках” стало 84% (люди 80%). Visual commonsense 75%, activity recognition 91%. Добавили тесты на правку изображений, 3D по фото, ошибки картинок итп
- Есть Graduate-Level Google-Proof Q&A: у PhD 65%, люди 34%, GPT4 41%, Llama2 29%
- ConceptARC про abstract reasoning 69% у GPT4 (люди 95), в math-word задачках 84% (люди 90). PlanBench (планирование) GPT4 30-60%, люди повыше. Moral reasoning - 30-40% у GPT4
- Генерация аудио - прорывной год. А речь уже давно распознают
- Deep fakes выявляют (Celeb-DF) макс. в 80% случаев
- Модели продолжают тестить самоулучшение с RL и игр сами с собой
- Агенты: тест AgentBench в 8 средах - у GPT4 4 балла, у прочих 2.5. MLAgentBench на разные юзкейсы. Voyager для Minecraft c GPT4 - в разы лучше исследование мира. PaLM-E прикрутили к роботам: +20% задачи с примером действий, 2x для неизвестных. Пытаются мерять emergence score, для оценки может ли появиться бесконтрольное поведение. У GPT4 упала math. Меряют CO2-след (текст в 500x меньше pix)
Гл 3: Этика/responsible AI
- Нет стандартов по responsible AI
- Волна дипфейков для выборов + виралятся секс-фейки типа Taylor Swift. Их легко генерить, сложно детектить (всего 60% сетки ловят). Картинкогенераторы полны расовых biases, тест от BiasPainter. И у GPT4 bias за демократов в US итп =)
- Находят новые уязвимости LLM. Бизнесы волнуются про риски privacy, безопасность данных, ошибки (Tesla распознала пешехода, но не замедлилась)
- Плагиат: LLM могут легко выдавать целиком закопирайченные вещи из датасета, не оч освоено как отлавливать. Midjourney могут выдавать кадры из фильмов. Итп. Может нужна сфера privacy аудита моделей
- Ученым мало прозрачности сеток, пробуют ее мерять. Часть LLM стали писать результаты теста TruthfulQA - про как модели имитируют ложь людей
- Оч серая зона - как этично/с согласия людей бигтехи собирают data -> тут нужны законы
- Фирмы внедряют борьбу с глюками. Самая самомодерируемая сетка про дискриминацию/вред людям/итп - Llama2/Fb, а GPT4 в 7x больше такого выдает. Тест Machiavelli пробует у LLM “мерять” power, immorality, dissatisfaction, betrayal
- AI-риски непонятно как изучать, а тем более обосновывать для policy making. 300 статей в год на конфах посл. годы/flat
🔥 16👍 10🤩 7❤ 2🦄 2🙏 1
Repost from Progresspunks
Что-то я даже и не знаю как думать, перевариваю: в конгрессе США вчера представили доклад на 50 страниц о том, как Китай ведет нео-опиумную войну с Западом?
- В США сейчас 70 тыс чел в год умирает от фентанила = словно ежедневно разбивается один Боинг. Это опиат в 50 раз сильнее героина -> им оч легко передознуться (мой любимый Lil Peep итп). 2.6 млн детей растут в семьях где его употребляют
- Китай производит прекурсоры (компоненты из которых делается конечный наркотик) для фентанила, и они НЕ имеют больше никакого легального применения, и экспортирует наркокартелям по всему миру. Мексика делает конечный продукт и продает в США (прибыль картелей от фентанила оценивается в 20 млрд $ в год)
- Китай полностью запрещает и прекурсоры, и его употребление у себя, но прекурсоры продаются онлайн - 30 тыс объявлений на Alibaba итп (можно оплатить биткойном) от 2000 компаний (но которые имеют общие адреса и контакты), разрешает их экспорт (и экспорт разных готовых аналогов фентанила), и даже дает налоговые и экспортные вычеты этим производствам (!) - расследователи нашли публичные экспортные данные с 2018 г. Главы китайских провинций посещают эти производства и благодарят за вклад в местные экономики (!)
- Китай отказывается сотрудничать с правоохранительными органами других стран по этому вопросу
- 80% мирового производства прекурсоров амфетамина, кстати, тоже делается в Китае. Также, все синтетические каннабиноиды мира производятся в Китае
- Китайское тюремное ведомство владеет некоторыми такими производствами (!)
- Также, Китай поставляет nitazenes и xylazines, и скорые не могут спасти людей налоксоном (от героина и метадона помогает, от них и фентанила - нет). А еще 3-methylfentanyl в 6000 раз сильнее морфина, является, по сути, химическим оружием (использовался в 2002 г в операции мюзикла Норд-Ост)
- В США изымают 0.4 млрд смертельных доз фентанила в год
- Китай за своим great chinese firewall запрещает в поиске 66 тыс слов и словосочетаний (политика, терроризм, порно, пирамиды, гэмблинг, нарушение прав итп), но никак не ограничивает любые ключевые слова про экспорт фентанила и его прекурсоров
- Пишут, что компартия помогает потом наркокартелям отмывать эти деньги (!). Общий отток капитала из Китая с 2006 г = $3.8 трлн
- Нашли, что китайские военные стратеги Qiao Liang и Wang Xiangsui 20 лет назад (!) в своей книге предлагали как часть гибридной войны drug warfare that cause disasters in other countries and make huge profits
- Формально, в 2018 году Китай и США заключили соглашение о запрете оборота фентанила в Китае, но оставили все возможности химическим компаниям свободно экспортировать его и прекурсоры, и вот что мы имеем на сегодняшний день
- Обсуждаются предложения по международной кооперации в этой связи, в тч борьба с отмыванием китайскими торговыми брокерами прибылей наркокартелей
//
Питер Тиль еще 10 лет назад объявил борьбу с авторитарным Китаем как стратегическую задачу в своей жизни. И с тех пор такие вот вещи реально произошли…
Это какая-то что-ли месть за опиумные войны и обогащение на них Запада? Или просто история циклична и разворачивается обратно? Или что? Мир, я тебя не понимаю.. Какая нахрен longevity…
👍 19🤯 11🔥 9😱 9❤ 8⚡ 7💯 4😢 2😁 1
Repost from Резонанс с реальностью
Структурирование духовного [“structuring spirituality” (c)] выглядит для нас c @isachenkova сейчас вот так:
I. Духовное развитие
- Цели духовного развития, откуда появляется запрос, случайный перебор в начале изысканий
- Классификация типичных траекторий. Разница в путях фаундеров и тех, кто в найме
- Разница между личностным и духовным, фактор учителя
- 3 глубины погружения в себя
- Разница между информацией и субъективно прожитой истиной
- Как измерять свой прогресс в психотерапии, в духовном развитии
II. Некоторые виды практик
- Психотерапия групповая: Soulmates Superheroes
- Психотерапия личная. Ориентация на результат/регресс. Нюансы работы с психологом
- Психотерапия семейная
- Медитации, осознанность, випассаны. Самая мощная техника в медитации
- Телесные практики, йога, Ошо-динамика, ecstatic dance
- Аскеза/самоограничения
- Тантра/современность духовных практик современной стадии развития цивилизации
- Фармацевтика: вещества, аяваски, антидепрессанты
III. Устройство реальности
- 3 + 1 вида реальности: объективная, субъективная, как таковая
- Нюансы иллюзорной реальности
- Западный материализм и восточная трансценденция/колесо Сансары
- Отсутствие свободы воли, computational irreducibility, скучный тупик тотального материализма
- Т.н. гипотеза о симуляции
- Ключевые виды страхов: конечного, бесконечного, самого себя. Страхи искусственного интеллекта
IV. Резонанс с реальностью
- Что такое резонанс
- Связь с буддистским фокусом, с концепцией flow Чиксентмихайи
- Возможные пути к резонансу
- Особенности жизни в резонансе
V. Круто работающие концепции
- Личные границы, локус контроля
- Пограничные баги общения
- Аддикции 1 и 2 / желание резонанса с реальностью “нахаляву”
- Нейроатипичность
- Гендерные архетипы в нашей психике
- Героические архетипы в нашей психике
VI. Применение психологических результатов во “внешнем мире” / проявленнсть / ачиверство
- 3 типа сотрудников через призму психологии
VII. Вопросы в процессе изучения
- Изменение духовного запроса и инструментария с возрастом. Рост консервативности мира по мере старения населения
- Разница духовного в различных культурах
- Existential hope: куда будет меняться смысл жизни по мере развития техногенной цивилизации и/или появления т.н. UBI (universal basic income)
Духовное можно структурировать как угодно, это вам не паззл физической реальности/естественных наук
❤ 19🔥 5🤯 2
Repost from Резонанс с реальностью
#Юля
В Soulmates Superheroes (ближайшая группа начнется 18 апреля) мы исследуем феномен ачиверства, но не через невроз и травмы, а через ресурс, который есть в каждом из нас. И этот ресурс - данность, врученная нам Вселенной - он гораздо больше, чем мы привыкли о себе думать
Процесс строится с 2 ракурсов:
- Рацио: человечество открыло некоторые поразительные вещи
- Через подсознание: эмоционально-образные трипы в себя позволяют извлечь, полюбоваться и присвоить магию своей уникальности
Также, люди эффективнее развиваются с другими, находясь в совместном поле интересных глубоких личностей. Делиться и впитывать “как у других?”, наблюдать в динамике их траектории
Делюсь отзывами какой опыт прожили участники. Как психологу мне безумно приятно ❤️❤️ какая глубина процесса достигается участниками
Подробности о группе - тут, для записи - пишите мне @julisache
🔥 9❤ 7🤩 2🤔 1
Выберите другой тариф
Ваш текущий тарифный план позволяет посмотреть аналитику только 5 каналов. Чтобы получить больше, выберите другой план.