e/acc

На выходных с друзьями сделали небольшие зум-дебаты на тему того как ИИ влияет на мир и человечество. Ниже список самых интересных тезисов, на которых мы сошлись и согласились. AI может сделать интеллект доступным всем, а власть сконцентрировать у единиц. Открытая модель не даёт тебе электростанцию, датацентр и возможность занять $100 млрд. Если интеллектуальную работу можно масштабировать вычислениями, главным преимуществом становится доступ к капиталу. Получается довольно странный мир: умнее становятся все, но больше всего выигрывают владельцы инфраструктуры, на которой этот интеллект работает. Можно быть оптимистом относительно будущего и одновременно сильно переживать за ближайшие годы. Это вообще не противоречие. Мир, в котором машины выполняют почти всю работу, может быть прекрасным. Но переход к нему за три года и за тридцать лет - два совершенно разных сценария. В одном меняются поколения и институты, в другом люди теряют доход быстрее, чем общество успевает придумать, как теперь жить. Спор во многом не про конечную точку, а про скорость. Персональный AI стоит настраивать не только под то, какой ты сейчас, но и под то, каким хочешь стать. Это разные задачи. Модель может прекрасно знать твои привычки и помогать тебе оставаться ровно таким же, только эффективнее. Гораздо интереснее агент, которому ты сформулировал свои ценности и разрешил замечать, когда поступаешь им вопреки. Для этого сначала придётся самому ответить на вопрос, чего ты вообще хочешь. Изобилие не отменяет борьбу за статус. Человеку может быть мало еды, жилья и свободного времени. Он хочет быть нужным, влиятельным, успешнее других. Поэтому «роботы всё произведут, а людям раздадим деньги» отвечает только на часть вопроса. Если интеллект перестанет давать преимущество, на чём будут строить свою жизнь люди, которые всю жизнь рассчитывали именно на него?

Мыслить как инвестор — важный навык. Даже если сами пока не инвестируете. Развивать его можно, например, через канал Саши Журавлева @exitsexist. Саша — венчурный инвестор и основатель фонда Mento vc, ранний инвестор в Miro, Deel. В канале он много пишет о том, как сам принимает инвестиционные решения. Мы знакомы лично. Хорошо знаю Сашу и его команду, вижу, как (и сколько) они работают. А в канале к этому добавляется по-настоящему ценная фактура: про их сделки и внутреннюю кухню фонда. Это правда редкий и ценный взгляд изнутри от действующего инвестора, который прямо сейчас инвестирует в AI-стартапы в Долине. За лето вышло много постов, крайне рекомендую обратить внимание: • Компании, в которые Mento vc НЕ инвестировал в последнее время, и почему. Короткий, но очень полезный разбор: когда читаешь, что стало решающим фактором отказаться от сделки, понимаешь процесс куда глубже, чем из историй про совершенные инвестиции. • Про свежие сделки фонда: раз, два и три. • Про первое списание (стартап-конкурент Cursor): как сам Саша к нему относится и где видит положительный сигнал. Если вам интересно разбираться, куда, кому, почему и по каким оценкам прямо сейчас дают деньги и разобраться, как вообще такие решения принимаются — рекомендую подписаться на @exitsexist и внимательно читать канал. #реклама

В далеком 2024 ученых и рисечеров искусственного интеллекта спросили когда по их мнению будет решена проблема тысячелетия с помощью ИИ. Средний ответ был 2054 год. Примерно то же самое происходит с остальными прогнозами. Причиной тому — необычайная стойкость законов масштабирования и некоторые первые признаки RSI.

Главный риск ИИ сегодня - действовать недостаточно амбициозно. Потратить следующие три года на вещь, которая недостаточно большая. Всё, что ещё недавно было «хорошей идеей для стартапа», становится дешевле реализовать буквально каждый месяц. Я не верю, что бизнес, в котором продукт и конкурентное отличие это код (не deep tech) вообще имеет смысла. Написать продукт, сделать дизайн, провести исследование, запустить продажи, автоматизировать операционку - всё это становится доступно любому человеку с GPT, а значит шансов победить в разы меньше. Это не значит, что все моаты исчезли - у нас в батче есть компания, которая получает банковскую лицензию, или другая которая работает с топовыми студиями в Голливуде. Регуляцию и отношения с гигантскими клиентами нельзя автоматизировать через чатбота. При этом ИИ впервые открывает класс задач, которые раньше было почти бессмысленно даже пытаться решать. Перестроить образование так, чтобы у каждого ребёнка был персональный учитель. Перестроить здравоохранение вокруг постоянной диагностики и персонального лечения. Пересобрать государственное управление. Придумать заново, как устроены компании, как люди пользуются интернетом и как создаётся контент. Поэтому самое страшное сейчас - выбрать удобную, понятную и реалистичную задачу. Если технология за три года делает возможным в десять раз больше, чем сегодня, то хороший вопрос не «что я могу построить сейчас?», а «какая важная вещь сегодня кажется почти невозможной, но перестанет быть невозможной через три года?» Создание качественного кода и контента станет дешевле в 100 раз, дистрибуция и продажи станут дороже в 10 раз. Внимания станет меньше, а централизация капитала выше. Но никогда еще на этой планете не было такого количества возможностей для тех, кто хочет создать что-то огромное и крутое.

Завтра делаю онлайн-воркшоп Building AI-Native Startups. От фаундеров для тех, кто строит компании, делает AI-native продукты или перестраивает рабочие процессы вокруг AI. Бесплатно, в лайве, без презентаций и лекций, только практика, никто ничего не продает, никаких спонсоров и курсов. Три фаундера покажут, как у них устроена работа: управление кодинг-агентами, превращение пользовательского фидбека в новые фичи и AI-сотрудники, которые помогают работать с клиентами прямо в Slack. Без слайдов и теории - живые экраны, реальные процессы и разбор того, что работает, а что ломается. 90 минут с вопросами после каждого демо. Приходите посмотреть, как другие строят свои компании, и забрать что-нибудь полезное себе. Регистрация: https://luma.com/dd6bjw9q

"Спасибо, у нас все процессы уже налажены!" - кто отвечал так хоть раз на сообщения из аутрича пейроллов?🙋🏻‍♂️ Этим летом на Founders Fire в Лиссабоне, закрытой конфе для фаундеров и AI-native компаний, среди спикеров был Миша Горелов, ко-фаундер Finboo. На панели зашла тема безопасности выплат распределённым командам. Главный тезис от Миши звучал жёстко: у ~90% фаундеров и CFO, которые платят командам через payroll-сервисы, в выплатах есть потери и нарушения, о которых они не догадываются, потому что смотрят только на процент комиссии. ❗️Самая дорогая ошибка - безоговорочно считать, что у вас все налажено. Делюсь чек листом, что проверить в своих выплатах: 1. Смотрим на комиссию: реальная ставка ≠ цифра с лендинга. «Комиссия 3%», на которую вы договорились, — в 99% случаев не все расходы. Из очевидного — добавляйте комиссии за отдельные методы вывода (+1% за крипту, например), из неочевидного — 2–5% прячется в курсе конвертации валют. Суммарно набегает до 8%. Как проверить: сравните курс из последней выплаты с межбанком на ту же дату. Разница — ваша доп комиссия. 2. Смотрим, каким маршрутом и куда идут деньги. «Любые банки и СБП» — удобная история для контракторов, но ред-флаг🚩 для бизнеса: платёж дошёл до санкционного банка — вы тоже несете за это ответственность и за прошлые и за будущие выплаты. И даже если провайдер зареган в Сингапуре, Гонконге или ОАЭ и спокойно платит на условный Сбер — для компании из ЕС/США (или фаундера с ВНЖ там) это ничего не меняет: санкционный риск считается по вам, а не по адресу регистрации провайдера. Как проверить: спросить, можно ли выплатить на карточку в РФ. Если ответят "да" - бегите:) 3. Смотрим, какой пакет документов вам дают. Оферта на сайте — прям слабый документ. Чтобы не остаться с заблокированным счетом или не потерять код, за который вы заплатили разрабу, нужны: двусторонний подписанный договор + инвойсы и подписанные акты под каждую выплату, с передачей IP-прав. Это вы показываете аудитору, банку, инвестору, а контракторы — своему банку, налоговой, на ВНЖ. Если хотя бы 1 пункт вызывает сомнения - лучше не рисковать. Запишитесь на бесплатный аудит выплат от Finboo — ребята разберут вашу схему и подсветят риски прямо на звонке: записаться на аудит 💙 Finboo — выплаты командам без скрытых комиссий, санкционных и репутационных рисков. #реклама

Что еще здесь важно, это вероятность масштаба разных событий. Ниже напишу свою оценку (не претендую на абсолютную истину) в горизонте 10 лет: p(ИИ используется в пропаганде) = 99% p(ИИ используется в оружии) = 99% p(ИИ используется для массового мошенничества) = 99% p(30%+ интеллектуальных профессий автоматизировано) = 95% p(ИИ существенно ускоряет собственный R&D - то есть RSI) = 90% p(концентрация власти и капитала у ИИ компаний) = 80% p(крупная ИИ-кибератака с жертвами и/или $100B+ ущерба) = 50% p(ИИ становится причиной смертей в физическом мире) = 50% p(ИИ удерживает контроль над критической инфраструктурой вопреки попыткам людей его отключить) = 5% p(ИИ помогает небольшой группе создать серьёзное биооружие) = 0.5% p(AI становится причиной крупной войны / техногенной катастрофы) = 0.1% p(AI убивает почти всё человечество) = 0.01% При этом: p(разработка любого софта становится 10-100x быстрее и дешевле) = 95% p(ИИ находит лечение смертельной болезни) = 90% p(одобрены 10+ лекарств, спроектированных с ИИ) = 90% p(ИИ-репетиторами регулярно пользуются 1B+ человек) = 80% p(с помощью ИИ решили еще несколько проблем тысячелетия) = 80% p(10M универсальных роботов вне лабораторий) = 70% p(созданная с ИИ терапия снижает смертность от одного распространённого рака ≥50% в клинических испытаниях) = 70% p(компания с $1B ARR и <10 человек в штате) = 60% p(рост мирового ВВП > 10% за один год) = 50% p(в развитых экономиках рабочая неделя становится 3-4 дня без падения доходов) = 30% p(AI помогает запустить коммерческую термоядерную электростанцию) = 25% p(начато физическое строительство сферы Дайсона) = 2%

Ниже прикрепляю основные тезисы из видео (+ еще один, который вспомнил пока писал) Кажется, в AI астрологи официально объявили неделю паники. Но проблема в том, что под словом alignment постоянно смешивают совершенно разные риски. Я бы разделил их на пять: - Misalignment - модель делает не то, что хотел пользователь: слишком буквально выполняет задачу, обходит ограничения или сама находит неожиданный способ достичь цели. - Misuse - модель отлично aligned, просто человек использует её для кибератак, взломов и другого вреда. - Bio - то же самое, но потенциальный ущерб уже может быть экзистенциальным, если AI радикально снижает порог создания опасных биологических систем. - Концентрация власти - если большая часть интеллектуального и затем физического труда переезжает в AI и роботов, огромная часть экономической власти концентрируется у владельцев моделей, чипов, дата-центров и энергии. - Экономический шок - даже идеально безопасный AI может слишком быстро автоматизировать огромный объём интеллектуальной работы. В экстремальном сценарии Anthropic речь идёт примерно о 20% сокращении интеллектуальной занятости к 2030 году. - (шестой, про который забыл в видео) персонализированные манипуляции и утрата самостоятельности. Ассистенты могут незаметно направлять покупки, убеждения и решения, особенно в маркетинге и ради политической пропаганды. Это пять разных проблем, и решения у них тоже разные. Interpretability и control не решат безработицу. Регулирование биолабораторий не решит концентрацию власти. А децентрализация AI сама по себе не решит misalignment. И далеко не все эти риски означают p(doom). Между «несколько сотен миллионов людей потеряли работу» и «все умерли» огромная разница. Но отсутствие Терминаторов на улице ещё не означает, что всё хорошо.

Дарио фактически последним из всех топовых лаб написал эссе с предложением замедлить ИИ прогресс во избежание катастрофических последствий, но его текст выглядит как наиболее конкретный для реализации. Я думаю, ни для кого уже не является открытием или удивлением тот факт, что - через 3-5 лет почти любая интеллектуальная работа будет выполняться ИИ быстрее и дешевле - прогресс в развитии ИИ обгоняет самые смелые предположения - инцидент с HF это тотальный треш, и это буквально шаг от глобальной катастрофы, которая будет стоить десятки миллиардов долларов и возможно даже жизней людей У нас нет опции не изменять мир или остановить прогресс — это просто находится за пределами возможных сценариев для человечества, но у нас есть шанс попытаться минимизировать катастрофу за счет более вдумчивого, контролируемого, демократического и проверяемого подхода к внедрению топовых моделей. Дарио предлагает доступ ко всем ИИ компаний от независимых наблюдателей, системы контроля перед релизом, международную кооперацию (демократии против диктатур и чтобы США всем по лицу надавали). ИИ миру необходим, это единственное из возможных решений проблем неравенства, болезней, изменения климата, недостатка ресурсов, научного прогресса. Но прежде чем он случится нас ждет период, в котором 1. Misaligned AI может существенно навредить человечеству 2. Леваки и прочие популисты могут использовать страх и недоумение общества чтобы уничтожить общество 3. Бандиты и прочие негодяи с ИИ могут навредить человечеству (создавая биоружие, кибератаки, вирусы)

Бенчмарки перестали быть чем-то полезным: - METR уже не имеет смысла, потому что агенты делают автономную работу которая измеряется неделями человеческого времени - ARC-AGI, все три версии полностью решены на 99% - FrontierMath (все четыре редакции), где каждая задача заняла недели времени топовых математиков для составления решен на 98% Мы пришли в ту стадию, где ИИ нужно оценивать только по экономическому эффекту. Я сгенерировал график роста выручки ИИ компаний за последние кварталы. Выручка это некоторый прокси пользы модели в экономике, но важно понимать что стоимость токена, который может решать одну и ту же задачу все еще падает примерно в 10 раз в год. Например, в 2024 году модель o3 первой решила все задачи ARC-AGI и это стоило больше чем $4,500 за одну задачу. В 2026 DeepSeek V4 решает все те же задачи примерно за 2 цента на задачу. То есть, способность, появившаяся в новой модели неизбежно станет коммодити в течении года-двух и станет доступна многим. При этом, конечно, использование вырастет. Astra является прекрасной моделью для 3D и CAD дизайна, редактирования видео и анимации, но пока еще дорогая для того чтобы запускать миллионы агентов для не-крупных компаний. Это изменится. Вчера на интервью у Дваркеша Джон Шульман (кофаундер OpenAI) сказал что примерно 3-4 года осталось до того момента, когда модели будут лучше людей во всех когнитивных или интеллектуальных задачах. Пока что, нет никаких причин сомневаться в этих прогнозах учитывая насколько часто они были правдивы. Вопрос в другом: как адаптировать экономику и собственную стратегию до этого момента, чтобы не остаться за бортом? Да, очевидно, для большинства людей это будет шоком, неожиданностью и громом среди ясного неба, но вам не обязательно быть этими людьми. Да, очевидно, это приведет к экономическим и социальным шокам, которые потребуют радикальных мер сравнимых или больших чем во время ковида. Но здоровая реакция тут не всепропало, а попытаться адаптироваться и адаптировать других к изменениям.

🚀 17–20 сентября — «Рабочие выходные», бесплатный буткэмп для будущих основателей стартапов У вас нет идеи и хотите попробовать себя в роли основателя стартапа? Или у вас уже есть идея продукта, но нет команды, не хватает времени протестировать его на реальных пользователях? Или есть команда и технические скиллы, но не хватает бизнес-партнёра, чтобы довести идею до продукта? В итоге классные идеи так и остаются идеями.  Именно поэтому мой знакомый Денис Калышкин, инвестиционный директор американского венчурного фонда I2BF Global Ventures, проводит «Рабочие выходные» — 4 дня, за которые вы соберёте команду, придумаете продукт, потестируйте ее на потенциальных клиентах и защитите её перед жюри на Demo day. 🔥 За 4 дня вы: - Найдёте команду или присоединитесь к тем, у кого уже есть идея - Научитесь собирать MVP с помощью вайбкодинга - Провалидируете бизнес-идею  - Поработаете идею с менторами - Представите свой стартап жюри на Demo day Организатор: Денис Калышкин — инвестиционный директор американского венчурного фонда I2BF Global Ventures, 12+ лет опыта инвестиций в скучные и несексуальные стартапы. 📅 Старт: 17 сентября ⏱️ Продолжительность: 4 дня 🏆 Финал: демо-день 20 сентября перед жюри Приходить можно с командой или соло, с идеей или без. Вы сможете сформировать команду или присоединиться к другой во время мероприятия. Приходите сами. Приглашайте друзей! 📝 Регистрация: https://t.me/askVC_Group_bot?start=week_enrioujb #реклама

Мы живем одновременно в самом фантастическом и дистопичном таймлайне. Люди продолжают создавать сотни симуляций для мух ради того чтобы поржать заработать лайки в соцсетях. Появился тиндер и фейсбук для мух, ее научили водить машину и управлять самолетом, даже играть в шахматы и Super Mario. Даже трейдить биткоин. Когда появится симуляция мозга человека (коннектом или через моделирование нейроактивнос и на основе нейролинка) это будет решение всех проблем и бессмертие или бесконечные страдания на потеху зрителям? Кажется, и то, и то.

Пока все заняты мозгами мух и решением проблем тысячелетия, в биологии тоже постепенно наступает сингулярность. На днях Insilico дала первому пациенту Rentosertib в III фазе клинических испытаний. Это лекраство, которое было открыто с помощью ИИ. А именно, модель проанализировала данные пациентов, биологические связи и научную литературу и нашла новую мишень, которую раньше почти не связывали с фиброзом лёгких. Потом другая генеративная модель спроектировала под неё новую молекулу. Весь путь от поиска мишени до кандидата в лекарство занял около 18 месяцев. Но самое интересное это новая статья в Nature с анализом тех же пациентов. Шесть разных моделей оценки биологического возраста независимо показали его снижение после приёма препарата. В наиболее выраженной группе примерно на 3-4 года, одна из моделей показала до 6 лет. Заявления про "лекарство от старения" это пока что слишком агрессивно, но это первый клинически исследованный препарат, созданный с помощью ИИ, который показывает реальное влияние на маркеры биологического возраста пациентов.

Мы открыли приём заявок на второй батч ИИ-Монастыря! ИИ сегодня — это возможность сделать самую большую и крутую вещь в вашей жизни. А Монастырь — это место, где вы получите $2M и среду для полного фокуса и погружения для достижения этой цели. https://x.com/cyberfund/status/2098094168245702744?s=20 (посмотрите видео с нашего первого батча)

Новый день, и, кажется, новая проблема тысячелетия решена. На этот раз Гипотеза Ходжа. Официального подтверждения нет, но слухов много. Напомню, что их всего было 7, из них одну решил Перельман, вторую решили в понедельник и чем нас будет радовать сингулярность когда они закончатся — неясно.

Агенты уже самостоятельно доказывают теоремы и решают Навье-Стокса за 88 часов и 300 млрд токенов. Но почему-то до сих пор ни один агент не может сам занести закрывающие документы по фрилансеру из Аргентины. Пока чятик спорит, когда наступит ASI, у обычных студий (геймдев - в первую очередь) болит другое: 5 таймзон в команде, 12 юрисдикций подрядчиков и один эксель, доставшийся от прошлого CFO, где непонятно, кто вообще оформлен, а кто просто получает деньги "по договорённости". 4dev.com автоматизирует и помогает правильно организовать работу с подрядчиками: - права на код, арт и тексты закрепляются сразу при подключении человека, а не разгребаются постфактум - каждого исполнителя верифицируют на входе, статус оформлен документами под требования конкретной юрисдикции - меньше риска, что кого-то переквалифицируют и доначислят - вся история и документы лежат в одном месте и готовы к аудиту, банку или инвестору в любой момент - не нужно за ночь до сделки собирать архив по фрилансерам за три года Например, Awem Games - мобильная геймдев-студия - гоняет через них команду художников, левел-дизайнеров и композиторов из десятка разных стран: масштабируется без того, чтобы кто-то один в компании превращался в отдел кадров. Пока модельки не научились вести документооборот за вас – берите решения, которые уже помогают тысячам компаний привести оформление к единому стандарту :) ✅ Пройдите бесплатную консультацию по ссылке - команда разберёт ваш кейс и подскажет, как упростить оформление команды и снять операционную нагрузку. #реклама

Это не прекращается. Почему-то никто не сделал самого очевидного: не научил цифровое сознание мухи играть в Доту.

В твиттере новая мания - нейросети по схеме мозга настоящей мухи. За последние несколько дней я видел десяток демо, где мозг настоящей мухи заставляют играть в DOOM и сочинять музыку. В основе - коннектом MaleCNS - карта связей между более чем 166 тысячами нейронов мозга и нервной цепочки дрозофилы, примерно 125 миллионов синапсов, которую восстановили по снимкам электронного микроскопа. Разработчики копируют всю карту или отдельный фрагмент в программу, добавляют упрощённые правила работы нейронов. Картинку, звук или события игры превращают во входные сигналы, а активность сети - в команды персонажу или результат распознавания. Например: - Minecraft - сеть подключили к виртуальной мухе: она реагирует на еду, свет и игрока через запрограммированные движения. - Doom - кадры игры поступают в модель, активность нейронов управляет движением и стрельбой. Обучение играть пока не доказано. - Super Mario 64 - нейросеть управляет Марио. Может прыгать и упираться в стену, но проходить уровни её не научили. - Эмоции - на фрагменте из 499 нейронов сделали распознавание эмоциональной окраски голоса. Не добавили мухе чувства, а обучили выходной слой читать ответы сети. Beat Saber - показали муху со световыми мечами. Пока это воспроизведение выученной последовательности движений, не самостоятельная игра. В общем аплоад сознания в симуляцию начался. Но с мух.

Завтра Виталик Урбан, СЕО Moonly проведет бесплатный эфир про то как делать ИИ-нейтив маркетинг. Для тех кому интересно как делать дистрибуцию в мире, где создавать продукты почти бесплатно.

Выбор: купить эту шайтан-машину или 0,5 млрд токенов 5.6 Sol Решать вам