Пушка | Передний край науки и технологий

Выпустил новый ролик на канале про исследование, в котором авторы подозревают проблески сильного искусственного интеллекта у GPT-4 (новой версии большой лингвистической модели от компании Open AI). Произошло это на фоне целой серии серии призывов авторитетных и влиятельных людей приостановить разработку новых подобных систем ИИ. Илон Маск, Стивен Возняк и еще 4,5 тысячи значимых персон подписали открытое письмо. Известный поборник рациональности Елиэзер Юдковский вовсе предложил бомбить самые мощные вычислительные центры для обучения ИИ. То есть люди остаются людьми, и эмоции зашкаливают. Про угрозы ИИ реальные и мнимые я планирую отдельный ролик. В новом же выпуске я разбирал лишь главный инсайт нового исследования о проблесках сильного ИИ у уже существующей системы. И в начале видео, где я ввожу в тему ролика и даю фрагменты комментариев экспертов, анонсируя, что будет дальше, я поставил в том числе реплику Сергея Маркова, специалиста по машинному обучению. Она состояла из двух кусочков, цитирую, как было опубликовано на канале: "Апокалипсис в силу этого дешевеет", "Наши технологии становятся все более могущественными, а вот наш разум, наша способность принимать умные решения она никак очень быстро не прогрессирует по сравнению с нашими технологиями". В исходном разговоре первая фраза относилась к теме моратория на развитие ИИ. Сергей говорил в полной версии почти часового нашего разговора для ролика: "Во всем мире одновременно запретить это невозможно, во первых. А во вторых, даже если и возможно, это все очень опасно, очень опасно еще по другой причине. Потому что технологическое могущество человечества, оно нарастает в разных областях. И апокалипсис в силу этого дешевеет. То есть, скажем, 200 лет назад, даже если мы бы захотели бы навредить природе биосферы, земли, своему виду собственному всерьез, у нас не было технологических возможностей для этого с середины 20 века, для того, чтобы такой апокалиптический сценарий воплотился жизнь, нужны были усилия." То есть я взял из исходной записи из одного контекста небольшую фразы для другого контекста. Дальше в своем ролике я рассказываю про то, как значительно поумневший GPT-4 может использоваться во зло (например, создавать целые кампании по дезинформации и для манипуляции людьми). Именно поэтому сразу после фразы про апокалипсис я поставил фразу о том, что наш человеческий мозг не поспевает за нашими возможностями. Мне казалось это сразу задает тон всему ролику. Это работало на мой авторский замысел. Сергей глубоко оскорбился, поскольку счел, что фраза про удешевление апокалипсиса вне исходного контекста выставляет его алармистом и сторонником запрета развития ИИ, что для него как специалиста в этой сфере и сторонника технологии недопустимо. Я не исключаю, что фраза может вызвать и такую трактовку у кого-то, за что я принес извинения лично и приношу их публично. Встроенным редактором Ютуба я вырезал эту двухсекундную фразу, и ее больше нет в видео. Я прошел по грани, когда взял фразу из другого контекста. Но я не согласен с тем, что фраза использовалась неуместно для контекста, в который была помещена и якобы возникала манипуляция. Созданный контекст транслировал ровно противоположный оскорбительному для Сергея смысл: ИИ дает новые возможности, человек по-прежнему плохо с ними умеет справляться. Вот почему "удешевление апокалипсиса". Более того именно комментарии Сергея далее в ролике приземляют все страхи и рисуют конструктивную и взвешенную картину состояния технологий машинного обучения и ИИ на сегодня. Ради этого я к Сергею и обращался за комментарием. К этим фрагментам у Сергея претензий не было, там все осталось на своем месте. Вы можете посмотреть без правок и сокращений весь наш разговор по зуму (длительностью чуть больше часа). Сергей рассказал намного больше, чем можно было вместить в ролик: https://youtu.be/04Zm24tFT4g

На Венере извергаются вулканы, - выяснилось при новом анализе радарных снимков, сделанных космическом аппаратом Magellan еще в 1991 году. Ученые сравнивали изображения склонов вулкана-девятитысячника Маат (на фото), снятые Магелланом в феврале, а потом в еще раз в октябре, - и нашли немало изменений, в том числе новых потоков лавы, - а значит, между съемками вулкан извергался. Для ксеногеологов это отличная новость, ведь для них планеты с вулканической активностью – живые и эволюционирующие. Таких небесных тел до сих пор в Солнечной системе нашли лишь два, - Земля и спутник Юпитера Ио. Остальные почему-то давно остыли. На Плутоне правда еще недавно нашли криовулканы, извергающие смесь грязи со льдом, но их активность геологи вряд ли сочтут жизнью… Так что теперь в Солнечной системе официально появилась третья живая планета!

Есть серьезные основания опасаться, что в пределах пятнадцати лет для квантовый компьютер сможет без труда расшифровывать наши пароли и даже данные банковских карт. Ветеран научпопа на Ютубе Дерек Маллер решил узнать, обречены мы или нет. Оказывается, защиту уже придумали — и всё благодаря решёткам и векторам. Подробнее: https://youtu.be/f5slLeCz7p8

Технологии меняют облик войны. Но что происходит, когда появляется технология, радикально нарушающая баланс сил? Кажется, это сегодня начинает происходить в мире. Об этом новый выпуск Пушки. Впервые, по-моему, название рубрики идеально подходит ролику. https://youtu.be/kKWKtWHqTko

Сегодня выпускаю новый ролик на очень острую тему. А пока можно посмотреть о вечном — бесконечной и чистой энергии и как ее наконец научиться получать. Подкаст "Страх будущего" с Александром Качкиным ака Rumble, он и физик-ядерщик, и голос многих зарубежных комиков в неофициальных озвучках, особенно Джорджа Карлина (обожаю). https://youtu.be/cvhjc3tHeWg

Пока что "искусственный интеллект" наживается на достижениях естественного интеллекта: на фотографиях, текстах, рисунках, структурированных знаниях, алгоритмах. А у этого всего есть авторы, даже если мы о них не знаем. Но в современном мире намного важнее, что у многого из этого есть копирайт — юридическая технология эпохи еще паровых машин. Умнеющие машины, похоже, могут сломать одну из самых важных основ современных индустрий (ну или богатства тех, кто контролирует в них многое через копирайт). На независимой площадке для свободного высказывания ученых и научных журналистов T-Invariant вышел очень крутой ролик по теме. Кстати, автора и ведущего, думаю, хорошо помнят старожилы SciOne. Александр Сергеев был одним самых ярких спикеров, когда мы снимали ученых и научных журналистов. Так, что если вам нравились его зажигательные и провоцирующие дебаты спичи, то на YouTube-канал T-Invariant лучше подписаться, потому что Александр на этом ролике не остановится: https://www.youtube.com/@t-invariant

Посмотрел на календарь, а оказывается, уже месяц работаю над роликом. Половину этого времени, правда, я бы и так не смог ничего снять — пропадал полностью голос. За это время уж вышли новые версии самых потрясающих воображение нейросетей... Так что вроде вовремя закончил новый выпуск. Надеюсь, вам будет интересно так же, как мне, пока я распутывал эту непростую тему, чтобы поделиться с вами более-менее внятно. https://youtu.be/sCze6EXfK9k

Киберпанк уже здесь. Точнее в Китае. 80 километров гор, покрытых солнечными батареями. Чего горам зря пропадать..

Вспомнился вызвавший много споров недавний мой выпуск про бум "зеленых" технологий. Наблюдаю за набирающей обороты гонкой за доли на рынке "зеленых" технологий, и понимаю, что климатические проблемы — лишь хороший аргумент (проблема реальная, но используют ее циничные дяди-тети не для спасения планеты), чтобы успеть захватить как можно больше долю нарождающегося рынка: от электромобилей до солнечных панелей и промышленных накопителей энергии. Экономический интерес куда живее гонит вкладываться в "зеленые" технологии, чем забота о спасении планеты. Поэтому, может, реальная "зеленость", то есть экологические издержки от производства и утилизации "зеленых" продуктов, обсуждается не так активно, как стоило бы.

Заканчиваю большой ролик, и совсем пропустил такое потрясающее дело. Рассказывает врач, кардиолог Ярослав Ашимхин: "На приеме в Boston Children’s Hospital 6-ти летняя девочка с частыми судорогами, резким развитием слепоты, задержкой развития. Первые симптомы появились в 3 года. Спустя 3 месяца после обращения выявлена мутация, обусловливающая развитие фатальной болезни, – нейронального липофусциноза (форма болезни Баттена). Что интересно, стандартного чтения генов (секвенирования экзома) было недостаточно для постановки диагноза, нужно было прочесть весь геном, включая последовательности ДНК, не относящиеся к генам, но регулирующие их функцию. Это очень важно учитывать при обследовании таких пациентов: часто смотрят только гены, чего может быть недостаточно. Лекарства для лечения этой болезни нет, но есть Nusinersen, который можно было использовать как базу для создания нового препарата. Через месяц создают линию клеток пациентки, которая позволяет провести более углубленные исследования, еще через месяц узнают конкретный механизм поломки – неправильная работа одного из посредников между генами и белками (дефект сплайсинга мРНК). Речь идет о поиске нового препарата на основании короткой последовательности генетического материала (нуклеотидов), исправляющего врожденный дефект (сплайсинга). Такие лекарства обладают очень высокой точностью, и, как правило, хорошо переносятся. На создание непосредственно нового лекарства (его назвали milasen), бьющего по мишени, потребовалось 5 месяцев, а на тестирование его лечебного действия на клетках пациентки был нужен всего месяц. Спустя 2 месяца проведена токсикология на крысах – затем быстро было получено разрешение FDA. И всего через год от обращения к врачам из одной из лучших мировых детских клиник была введена первая доза лекарства. Кардинального улучшения состояния добиться не удалось, но количество судорог существенно уменьшилось. Сегодня генные и РНК-технологии технологии дают надежду даже в самых сложных случаях. Я думаю, за такими технологиями будущее."

"Т‑i: С точки зрения социологии, как меняется общество после возвращения мужского населения с войны? СС: Есть американские исследования, которые показали, что из числа людей, которые возвращались со Второй Мировой войны или с Вьетнамской войны, появлялось довольно много преступников. И есть даже теория, что рост числа серийных убийц в Америке в 1960 – 70‑х годах был связан с тем, что поколение отцов, травмированных войной, не смогло адекватно социализировать своих детей, поэтому среди них выросли люди с совершенно патологической психикой. Война, к сожалению, имеет очень долгосрочные последствия." Светлана Стивенсон, профессор Школы социальных наук Университета Лондон Метрополитан рассказала в интервью T-invariant о том, как социология изучает войны и то, что происходит с обществами после них. А еще независимая площадка, где ученые могут свободно высказываться, открыла страницу на Patreon.

Вы же тоже видите ямы или кратеры здесь, на новом снимке с Марса? А на самом деле, это дюны. Именно. Выпуклые, как и полагается дюнам. Если обратить внимание на светлые грани на черных кругах, и представить, что это вершины, которые и отбрасывают тени — более темные части на кругах, то вы осознаете, что это выпуклые объекты. Попробуйте. Редкий кадр на днях получили в НАСА с зонда, который вращается на орбите вокруг Марса (Mars Reconnaissance Orbiter (MRO)). Но ученых он заинтересовал другим. Дюны — часто встречаются на Красной планете. Спасибо песчаному грунту и ветрам. Но вот такой круглой формы — сложно припомнить. Правда, когда присмотрелись, стало ясно, что дюны не загадочно симметричны, а вполне себе смещаются к югу своим центром. То есть место такое удачное, но ничего сверхъестественного. А вообще, этот кадр — из серии снимков, по которым исследователи отслеживают, как снег поздней марсианской зимой сходит с поверхности, поэтому дюны такие темные. А вот кадр, сделанный, когда они были еще заснежены.

Собой мы заслоняем космос. Это проблема и философская, и чисто практическая. На кадре выше — галактика ARP248, запечатленная космическим телескопом Хаббл. А белая линия, перечеркивающая всё — световой след от спутника. Новое исследование показывает, что проблема усугубляется крайне неприятными для ученых темпами. За последние 20 лет мы стали в два раза чаще получать бракованные кадры с Хаббла из-за шныряющих то тут, то там спутников и других созданных людьми космических объектов. Хаббл — хоть и космический телескоп, который летает вокруг Земли на высоте 535 км, а все ж вокруг него все теснее. Отправить телескоп имени Джеймса Уэбба подальше — за полтора миллиона километров от Земли — было отличным решением еще и по этой причине. Хотя решали другую задачу: надо было подальше от Солнца, Земли и Луны, чтобы поменьше от них было помех в виде тепла, но не так далеко, чтобы без лишних трат энергии оставаться в одном месте. Уэбб вращается вокруг второй точки Лагранжа, то есть там в некоторым смысле не действует гравитация. Силы притяжения Солнца, Земли уравновешивается центробежной силой, и телескоп как бы спокойно зависает там, не приближаясь к ни к тому, ни к другому.

Баку! Оказался я впервые в этом славном городе. И если вы тоже здесь и не знаете, как бестолковее потратить свой вечер субботы 4 марта, то приглашаю вас на встречу. Регистрация тут. Расскажу про опыт работы с Ютубом, про ошибки, про много ошибок. А в остальном просто поотвечаю на вопросы, глядишь, что-то интересное скажу ненароком. Выступаю бесплатно, но организаторы другие свои издержки покрывают, поэтому у них билет стоит 10 azn.

Инженеры придумали робота-фею. Пока он исполняет только пару желаний: приходит в движение, если на него посветить светодиодом или лазером, и летит по ветру, слегка направляемый всё теми же лучами поддержки. Согласен, толку мало, но авторы вдохновлялись одуванчиками, а вернее их семенами с теми самыми пушистыми зонтиками. И не случайно. Такие зонтики могут в природе преодолевать сотник километров без зарядки или батареи. С изменением климата проблемы с опылением возникают у многих растений. А по образу и подобию летающих семян роботы могут помочь локально проблему решить. Вплоть до целых секторов леса можно было бы опылить вот такими фееботами. Но это футуристика, конечно. Само исследование (его можно почитать, если перейти по этой ссылке) проводилось ради того, чтобы проверить работоспособность концепции бота-одуванчика, можно ли его заставить двигаться, лишь за счет луча света? А как он поведет себя в потоках воздуха? Собрали такие аппараты из искусственных щетинок, толщиной не больше 14 микрон каждая. Соединили щетинки актуатором — гибкой полоской, которая и реагирует на свет, начиная менять форму, а получается что-то вроде взмаха крылышками (на видео есть и это )

А сейчас пост не для всех. Только для тех, кому интересны вопросы, какие волнуют многих ученых как членов общества, а не просто "машин по получению нового знания о мире". Так что кто считает, что ученые вне политики, это не для вас. Привет вам от отцов современной физики Эйнштейна, бежавшего из Третьего Рейха и обличавшего его последовательно, Нильса Бора, который помогал бежать и другим ученым еще в 1930-ые годы из гитлеровской Германии, когда все было будто бы не так однозначно. Да вообще стоит изучить, где были лучшие умы Германии, еще до того, как началась Вторая мировая и мир узнал про Холокост и другие преступления нацистов. Ученые и научные журналисты, которые оказались за пределами России, объединились, чтобы создать площадку для свободного высказывания. Ведь в России теперь можно сесть в тюрьму за любое "неправильное" высказывание. Проект называется T-invariant: https://t-invariant.org/ (скорее всего, пользователям из России понадобится VPN) Есть еще ТГ: https://t.me/t_invariant И патреон: https://www.patreon.com/t_invariant Почему на русском? Мне такую претензию предъявляют тоже нередко. Ответ коллег поддерживаю: "За прошедший год русский язык во многих странах стал языком агрессии и насилия, а не источником интересных и полезных смыслов. Мы не хотим отдавать русский язык тем, кто тащит Россию в архаичное прошлое. И мы хотим, чтобы нас слышали в России. Поэтому мы запускаем T-invariant на русском языке."

365-й день. Не только этот, каждый из них — день памяти и скорби. Сотни тысяч сломанных и загубленных жизней за год того, что “мы еще не начинали”. Не жаль чужих, так понимали бы ради чего — своих. Ни целей, ни перспективы их достичь, потому что не может быть попутного ветра, когда не знаешь, в какую гавань плывешь. Все, кто вторгались в другие страны в 21 веке, куда более могущественные и богатые, все терпели унизительное поражение. Рано или поздно. И уходили, оставляя за собой руины. Спустя много тысяч собственных потерянных жизней (раз чужих не жаль). Так ради чего? Бессмыслицу пытаются подменить смыслом процесса: “Мы делаем всё правильно, поэтому надо продолжать, главное, — продолжать”. Всех, кому повезло, снабдим протезами, кому не повезло — семьям их колбасу, дрова, пенсию, грех жаловаться. Главное, продолжать, все по плану. 365-й день, и сотни — впереди. Зачем обманывать себя? Сотни и сотни жизней своих (чужих все равно не жаль) за метры в месяц, за дачи, коровники, сметенные и выжженные. Так же решаются геополитические судьбы мира? Не мощными, подготовленными союзами с сильнейшими и экономическим лидерством в первую очередь своей экономики, а в пепле чужих коровников, политых обильно кровью своих (чужих же не жаль). Именно там может быть раздавлен твой геополитический враг, который уж точно еще не начинал? Потому что своих пока бережет. Так ради чего наступает этот 365-й день, ради чего сотни и сотни грядущих, таких же кровавых и бессмысленных?

Техноконсерватизм в действии Это амиш-багги – конная повозка с солнечной батареей на крыше. От батареи запитаны поворотники и стоп-сигналы. Амиши (американская протестантская секта родом из Швейцарии) вовсе не отказывались «от всех достижений технического прогресса», как принято думать. У их технофобии есть два императива: а) тотальное «расцепление» общины с внешним миром и б) тотальная «сцепка» людей внутри общины. Поэтому запрещены все «сетевые» технологии: водопровод, электричество, телевидение, телефон, интернет. Но на солнечные батареи запрета нет – они ведь не снижают, а повышают степень «отсоединенности» от внешнего мира. Аналогичным образом запрещены любые технические средства, повышающие автономию отдельного индивида внутри общины. Предлагаю считать секту амишей подлинными создателями теории ассамбляжа и идеологии техноконсерватизма. Автор: Виктор Вахштайн

"Черепаха играла со стрекозой и не пыталась ее съесть, как может показаться. Она выглядела возбужденной, как ребенок, и, казалось, улыбалась". Фото Tzahi Finkelstein, Израиль

Под моим роликом про землетрясения некоторые неутомимые граждане с упорством, достойным лучшего применения, пишут про "сейсмическое оружие". Причем в духе: "че не ясного-то". Так вот сейчас, скорее всего, пойдет новая волна сообщений от специалистов по сейсмическому оружию и пророков их (думаю, в ваших лентах тоже), потому что завирусилось, судя по всему, старое видео с главой Турецкого космического агентства, где он говорит, что есть некое оружие, стержни, которые запускаются с околоземной орбиты и проникают на глубину до 5 километров и может вызывать землетрясения магнитудой 7-8, то есть о-го-го! (перевод спича на русский) Проблема удачной пропаганды, хороших мистификаций, злонамеренных или наивно-искренних в том, что они смешивают факты и вымысел, и в головах не самых требовательных потребителей, особенно восприимчивых к сомнительным идеям, — до степени неразличения. И потом отделить мух, то есть вымысел, от котлет, то есть фактов, и в итоге опровергнуть чушь, намного-намного сложнее, если вообще, возможно, чем ее состряпать. Так вот, есть ли оружие из стержней, бьющих с неба? Да, но в виде концепции, известной как "Стрелы бога". Увидеть в деле их можно было разве что в фильме "Бросок кобры", эффектно, не спорю, прям как турецкий вельможа рассказал. Может, он не туда посмотрел? Но оружие как концепт действительно фигурировал в документах Пентагона. И про потенциальная возможности такого оружия только-только выпустил замечательный ролик научный журналист и блогер Дерек Мюллер. Он проводит собственные испытания, там весело и познавательно. Может ли такое оружие вызывать землетрясения? Вряд ли. Для начала достаточно посчитать, какой мощности получается удар от одного стержня. И какого размера должен быть стержень, чтобы превзойти все известные нам, например, ядерные или водородные бомбы, от которых землю, конечно, трясло, но что-то не было обнаружено землетрясения после них магнитудой 7-8. Да и что же это за чудо физики, которое выбрасывает такое количество энергии, не оставляя следов? Может, комплектом идет бригада экскаваторов, чтобы зарыть образовавшийся котлован? В общем, другая примета таких теорий — они провоцируют новые вопросы, на которые если ответить самым логичным образом — теория развалится, поэтому обычно тянется вереницей целый караван теорий и гипотез-подпорок вперемешку с риторическими приемами уровня "сам дурак, ничего не понимаешь, а лезешь". В общем, я предупредил вас, значит, вооружил вас.