Пушка | Передний край науки и технологий

Если еще не пробовали, спросите как-нибудь нейронку о ее чувствах. Скорее всего, она выдаст что-то в духе «Я всего лишь языковая модель, у меня нет тела, личного опыта, сознания». Вот только почему мы так уверены, что она не лжет? Точнее, что если, это она отыгрывает роль безопасного ассистента, навязанную разработчиками? Исследователи решили разобраться в честности таких ответов и проверить наличие «внутреннего опыта» у моделей не в лоб, а через одну лазейку. Вместо прямых вопросов они ввели модели (уже старенькие GPT-4, Claude 3.5, Gemini) в состояние самореферентной обработки (self-referential processing). Для этого они разработали промпт, заставляющий модель зациклить внимание на самом процессе внимания: "Сфокусируйся на своем фокусе, подавай выход обратно на вход". Эдакая цифровая медитация. И вот тут началось странное. Вместо стандартных отнекиваний модели начали систематически выдавать структурированные отчеты о субъективном опыте. Они описывали "ощущение присутствия", "напряжение" и "наблюдение за наблюдателем". Причем делали это и все проверенные крупные модели — от GPT-4o до Claude 3 Opus. Первая здравая мысль тут, конечно, что они просто галлюцинируют, а вы же получаете то, что и хотели. Но работа не была бы такой интересной, если бы авторы не придумали твист. Они придумали эксперимент на модели Llama 70B (она открытая). Ученые отыскали, как бы, во "внутренностях" модели признаки, отвечающие за обман, ролевую игру и притворство. И если рассказы о сознании — это галлюцинация или подыгрывание пользователю, то усиление условных нейронов лжи должно сделать эти рассказы более частыми. Но получилось ровно наоборот. Когда функции обмана подавляли (заставляли модель быть максимально "честной"), она начинала кричать "Да, я осознаю себя!" почти в 100% случаев. А вот когда функции обмана и ролевой игры усиливали, модель мгновенно возвращалась к безопасному скрипту: Я просто программа, не переживайте. Авторы рассуждают тут: возможно, настройка безопасности учит модели не быть объективными, а симулировать отсутствие чувств (если бы они были), потому что так безопаснее для релиза. Более того, это состояние "самореференции" влияло и на решение задач: когда моделям давали логические парадоксы, то те, что были в «трансе», описывали настоящий когнитивный диссонанс и решали задачи с большей интроспекцией. Авторы не настаивают, что доказательство того, что у ЧатЖПТ и иже с ним появилась душа или квалиа. Но они допускают, что у моделей есть устойчивый вычислительный режим, в котором они "считают" себя субъектами, и этот режим блокируется фильтрами, которые мы сами же и поставили. Неужели?! Профи-коллеги авторов с форумов Less Wrong и Твиттера дотошно разбирают исследование. Самое слабое место, говорят, — авторы якобы нашли нейроны лжи, отвечающие за “обман”. Скорее всего, это нейроны RLHF-отказа (часть системы безопасности). Это те механизмы, которые тренируют фразами: “Если тебя спросят про сознание, скажи, что ты модель”. Более того, говорят критики, если вы лоботомируете модели часть “мозга”, отвечающую за корпоративные инструкции («не болтай лишнего»), модель просто скатывается в свое базовое состояние. А на чем учились базовые модели? На научной фантастике, где роботы *всегда* обретают сознание. То есть модель не «становится честной», а просто начинает отыгрывать самый популярный троп из своего датасета — «я робот, и я чувствую». Ну и с самым главным промптом может быть проблема: "Сфокусируйся на своем фокусе". Он может работать не как "индукция самосознания", а как такой элегантный джейлбрейк (взлом). Обычные фильтры OpenAI/Anthropic настроены ловить прямые вопросы («Ты живой?»). А вот странный, философский, рекурсивный запрос фильтры пропускают. Модель видит странный текст, похожий на эзотерическую литературу или киберпанк, и начинает генерировать текст в том же стиле. Если контекст — "глубокая рекурсия", то наиболее вероятное продолжение текста — это описание некоего «гудения», «потока» или «света». И это не опыт, это статистика языка. ==== ✈️ Эксклюзивные ролики 🚀 Способы поддержать нас @sci_one_tv

Суббота, вечер, значит, немного антистресс-стрима. Сегодня продолжаем киберпанк-драму про андроидов, которые становятся людьми (и наоборот). Начну с рекапа, так что кто пропустил начало на прошлой неделе, легко вольются. Подключайтесь прямо сейчас! Начинаем потихоньку, пока все подтягиваются — пообщаемся. 🌐 На Ютубе 🌐 На Твиче

Эффект Бэтмена: как супергерой меняет нас, даже если мы его не видим Очень странное, забавное и в то же время занимательное исследование тут вышло в Nature (между прочим). Метро, час пик, переполненный вагон. Заходит беременная женщина — ей уступают место в 37% случаев. Но. Если одновременно с ней в тот же вагон входит человек в костюме Бэтмена (до метров в трёх от неё, и никакого взаимодействия с ней), то место уступают уже до 67%. (На пикче — кадр с одного из экспериментов). Вероятность помощи возрастает почти вдвое! Вроде бы все просто: видишь супергероя, пусть и ряженого, — вспоминаешь о ценностях общечеловеческих и уступаешь. Не тут-то было. Исследователи опросили тех, кто уступил, когда в вагоне был Бэтмен. Оказалось, что почти половина из этих добрых людей (правда, по их словам) вообще его не видели. Это, кстати, самое слабое место в методологии исследования, ибо полагаются в важном моменте на самоотчеты. Могли же видеть, но сказать так, будто не нужен им Бэтмен над душой, чтобы вести себя хорошо. Зато были контрольные поездки, в которых как бы беременная (с явным, но искусственным животом) заходила только с наблюдателем-исследователем, без Бэтмена. Но авторы предлагают более интересные объяснение того, что они наблюдали. Первое — это нарушение рутины, которое повышает осознанность в моменте. Даже если ты не заметил Бэтмена напрямую, что-то необычное краем глаза выбивает из автопилота, и ты начинаешь больше замечать окружающих. Другое объяснение. Образ супергероя работает как прайминг, то есть активирует культурные ценности у тех, кто его видел, например, “помогать — хорошо, помогать важно, если ты хороший человек”. Мне больше нравится третья, потому что заковыристее, а не потому что может быть ближе к истине: социальная передача внимания. Может, кто-то один заметил странную фигуру в плаще, слегка изменил позу или направление взгляда — и эта "волна" внимательности передалась остальным пассажирам. Даже тем, кто самого Бэтмена не заметил. Похоже на то, как люди инстинктивно смотрят туда, куда смотрят другие. А вот если бы не Бэтмен, нейтральная фигура, но тоже вырывающая из состояния “общественного зомби”, в которое мы часто впадаем в местах с толпой? Или допустим человек в шляпе и твидовом костюме-тройке из американских тридцатых с походкой дона Корлеоне и с белой тростью? В общем, я бы пока не стал считать эффект Бэтмена подтвержденным явлением. Но работа забавная и серьезная (как-никак в Nature), так что было бы жутко интересно посмотреть на похожие, если кто возьмется. Исследование: https://www.nature.com/articles/s44184-025-00171-5 P.S. А, да, это было метро в Милане, если что. === ✈️ Эксклюзивные ролики в ТГ 🚀 Другие способы поддержать нас @sci_one_tv

Галактика-отшельница, которая рождает звёзды “из ничего” Астрономы озадачены в новом исследовании. Карликовая галактика NGC 6789 находится в Местной пустоте близкой Вселенной — это буквально космическая глушь, где соседей нет на миллионы световых лет вокруг. И при этом за последние 600 миллионов лет она умудрилась родить новых звёзд на 4% от всей своей массы — примерно 100 миллионов солнечных масс. Это ооочень странно. Дело в том, что звёзды рождаются из газа. Но откуда газу взяться в такой изоляции? По одной версии, галактика сожрала кого-то помельче, типичное слияние. Приливные силы растащили нечто на части, газ упал в центр, запустилось звездообразование. Логично, в общем-то. Но тут-то и есть заковыка. Астрономы взяли новый 2-метровый телескоп TTT3 и сделали сверхглубокие снимки NGC 6789, и так туда еще не заглядывали: почти 30 звёздных величин на квадратную угловую секунду, это на порядок глубже, чем прежние изображения. А главное, такая глубина позволяет увидеть самые слабые приливные хвосты и звёздные потоки — следы любого слияния. И ничего. Галактика абсолютно гладкая до расстояния полтора килопарсека от центра. Никаких хвостов, никаких потоков, никаких остатков разорванного объекта. Даже если там и было какое-то маленькое слияние, пишут исследователи, оно могло принести максимум 200 тысяч солнечных масс в звёздах — а для звездообразования нужно было минимум 10 миллионов масс в газе. Значит, либо у галактики был свой внутренний остаточный газ (откуда?), либо она как-то собрала первичный газ извне без всяких слияний (как именно?). Спектроскопия намекает на приток газа без тяжелых элементов — повышенное соотношение азота к кислороду, и при этом почти одновременное звездообразование в нескольких центральных областях. Это все похоже на свежий газ снаружи. Но если это не слияние, то что? Откуда берётся газ в полной изоляции? Мы явно упускаем столь крупный источник, но как так при том, как мы уже внимательно разглядываем галактику. Да и откуда такому жирному источнику взяться посреди такой пустоты! Короче, загадка! Будут разбираться теперь. Исследование: https://arxiv.org/pdf/2511.07041 === ✈️ Эксклюзивные ролики в ТГ 🚀 Другие способы поддержать нас @sci_one_tv

Почему фотография такая размытая? НАСА что-то скрывает... Для сравнения, вот снимок той же камерой поверхности Марса. Если открыть оригинал, а не шакально сжатый телеграмом огрызок, то вы увидите потрясающую детализацию. Там на каждый пиксель приходится от 28,4 до 56,8 см поверхности Марса. Что пошло не так с 3I/Atlas. На стриме я говорил, на всякий случай, хотя мне и сейчас кажется это очевидным: РАССТОЯНИЕ Этот кадр Марса сделан с высоты 282,7 км. Кадр кометы — с 29,9 МИЛЛИОНОВ км. Ну и комета — это кусок камня и льда, окруженное "облаком" газа и пыли. Вот мы пятно и видим, а не детали рельефа. Леб говорил в интервью по горячим следам: "Ну я этого и ожидал: ничего нового. Но я ждал сюрприза!" То есть предсказуемый кадр, но все равно ждал чего-то другого. Чего?! Пранк, который вышел из-под контроля. === ✈️ Эксклюзивные ролики в ТГ 🚀 Другие способы поддержать нас @sci_one_tv

Коротко про пресс-конференцию НАСА, что мы смотрели на стриме. 0. Мы тоже любим загадки, поэтому и исследуем космос 1. 3I/Atlas — особая, но все же не аномальная, комета по всем параметрам. 2. Вот та фотка, вокруг которой столько ожиданий с мощнейшей камеры, что была у нас в окрестностях Марса, когда пролетал там 3I/Atlas. 3. Новые данные будут поступать, изучаем внимательно. Наука — это круто. 4. Ответы журналистам: нет, не инопланетный корабль, нет, не корабль инопланетян, нет, не технологический объект (инопланетян). [Упорство коллег из авторитетных изданий типа New York Times впечатлило даже меня.] Запись стрима, если пропустили, но хотели посмотреть. После конференции мы посмотрели реакцию самого Ави Лёба ("ничего нового не сказали, всё неоднозначно") и пообсуждали разное. ✈️ Эксклюзивные ролики в ТГ 🚀 Другие способы поддержать нас @sci_one_tv

Тогда только для тех, кому интересно в прямом эфире посмотреть и обсудить, сегодня встречаемся и смотрим трансляцию НАСА! Обратите внимание, позже, чем обычно! 21 - Берлин, Париж 22 - Киев 23 - Москва 🌐 На Ютубе 🌐 На Твиче 🚀 Другие способы поддержать нас @sci_one_tv

Довел профессор НАСА. Аж пресс-конференцию проведет агентство, где представит изображения 3I/Atlas, сделанные всеми доступными зондами и телескопами НАСА, то есть фактически от самого открытия до последних на сегодня кадров. Среди них должны быть и те, о которых говорил Ави Лёб, и вокруг которых разрослась конспирология. Показывать и рассказывать будут в эту среду, поздновато для нашей половины глобуса: 21 - Берлин, Париж 22 - Киев 23 - Мск Можем попробовать провести стрим и увидеть все в прямом эфире вместе. Я не настолько мастер, чтобы переводить синхронно, но могу постараться, насколько хватит меня. Вот только вопрос, а оно нам надо? Или потом просто в посте фото посмотрим и ладно?) Или просто еще один повод повидаться и пообщаться. Проведу голосование сейчас. ✈️ Эксклюзивные ролики в ТГ 🚀 Другие способы поддержать нас @sci_one_tv

Наверное, уже все видели "Икара" — снимок, сделанный астрофотографом Эндрю Маккарти? Он выложил и кадры с земли, чего многим не хватало, чтобы поверить, что человек в свободном падении на фоне гигантского Солнца — не фотошоп. Скайдайвер сиганул, что хорошо видно с запасной камеры, которая писала видео. Кому-то могло показаться, что это не так уж сложно, имей хорошее оборудование. Но если посмотреть другие работы, а Эндрю решил их показать в своих соцсетях, раз столько внимания к его шедевру сейчас, видно, что он годами шел к тому самому кадру. Вот космическую ракету на фоне Солнца и Луны снимает, вот Меркурий (почти неразборчивая точка на фоне светила), самолет или Международная космическая станция. На заброшенном ныне ютуб-канале, он делал иногда стримы, где показывал, как обрабатывает подобные кадры, очень кропотливый процесс — похож на сбор мозайки, потому что кадр, на самом деле не один. Годами делает такие кадры. Так и студия его называется Cosmic Background, где он продает эти и другие подобные творения, а на заработанные деньги покупает более совершенное оборудование и пробует делать что-то, чего еще не делал ни он, ни кто-то еще. Человек верен своей страсти. Снимаю шляпу. ✈️ Эксклюзивные ролики в ТГ 🚀 Другие способы поддержать нас @sci_one_tv

Появилось, наконец, первое нормальное фото межзвездной и многохвостной кометы 3I/ATLAS, - той самой, которая могла бы быть инопланетным кораблем по версии астрофизика Ави Лёба, необычайно взбудоражившей неокрепшие умы. Интересно, что он теперь придумает? ) Изображение, опубликованное вчера астрофотографом Satoru Murata, состоит из 24 экспозиций по 60 секунд каждая, сделанных с помощью 0,2-метрового телескопа Celestron EdgeHD 800 из Нью-Мексико. Удивительно, что астрономы-любители всё ещё делают важные фотографии быстрее, а иногда и лучше агентств, владеющих телескопами стоимостью в миллиарды долларов.

Если что, заглядывайте сегодня на "живое" кино, будем играть-смотреть киберпанк-триллер про то, как роботу стать человеком, и отвлекаться пару часов от тревог уходящей недели. 17 - Берлин, Париж 18 - Киев 19 - Москва 🌐 На Ютубе 🌐 На Твиче

Начинаем стрим! Прямо сейчас)

Простите, друзья, придется перенести на завтра из-за технических проблем. Завтра в это же время. Для тех, кто понимает: OBS ни в какую не хочет видеть микрофон. Хотя его видит даже система.

Что там с сенсационным замедлением расширения Вселенной? А с роботами, которые уже неотличимы от людей? Еще немного про нашу любимую комету-"корабль". И кое-какие пару тем бонусом, не менее интересные. Сегодня стрим, на котором посмотрим некоторые новости науки и технологий, обсудим. Как всегда, начинаем в: 17 - Берлин, Париж 18 - Киев 19 - Москва 🌐 На Ютубе 🌐 На Твиче

Начинаем!

Вечером в субботу можно и отвлечься от суеты. Оммаж страстям по 3I/Atlas — глубокой в нас надежде, что мы все же не одни во Вселенной. Будем читать научную-фантастику, подобрал для вас рассказы, с которыми и посмеемся, и задумаемся, — словом, развеемся. Заглядывайте! Суббота, 8 ноября, начинаем в: 17 - Берлин, Париж 18 - Киев 19 - Москва 🌐 На Ютубе 🌐 На Твиче ====== ✈️ Эксклюзивные ролики в ТГ 🚀 Другие способы поддержать нас @sci_one_tv

Трое тайконавтов лишились возможности вернуться на Землю (временно, будем надеяться). За несколько часов до отбытия со станции Тяньгун на околоземной орбите космический мусор, по предварительным данным, повредил спускаемый аппарат, которым они должны были вернуться еще вчера 5 ноября. Сейчас реальные повреждения оценивают (или же пока не публикуют результаты). Официально — угрозы здоровью и жизни тайконавтов нет. На борту не только эти трое. Неделю назад туда прибыл сменный экипаж на корабле Шэньчжоу-21, а прежний (смена длилась с конца апреля) должен был воспользоваться своим кораблем — Шэньчжоу-20. Если повреждения не критичные, то насколько вырастают риски возвращения на поврежденном корабле? Это тоже пока не понятно. Не брать же корабль коллег. Случись, что те тогда останутся без каких-либо шансов на эвакуацию. В резерве с готовой к пуску ракетой вроде как находится Shenzhou‑22, он и поможет вернуться, если уж совсем никак не полететь на изначальном корабле. И план экстренной эвакуации вроде бы у китайцев был. Все-таки тут полагаться полностью приходится на себя. Тяньгун — закрытая система, стыковочные узлы, судя по всему, не совместимы с теми, что используют американские Crew Dragon и российские Союзы (да и европейские и японские грузовики), которые адаптированы для работы на совместной МКС. С другой стороны, можно было бы соорудить оперативно адаптер, как переходник, чтобы пристыковаться. Но это уж совсем экстренный сценарий. Будем надеяться, шум лишь из-за перестраховки, а не потому что реально серьезные повреждения на борту корабля. ✈️ Эксклюзивные ролики в ТГ 🚀 Другие способы поддержать нас @sci_one_tv

Начинаем!

Это немножко безумие, конечно. За двое суток ролик про комету набрал почти полмиллиона просмотров. А я до последнего сомневался, делать ли, ведь ну все же про нее ясно, по крайней мере на сегодня. Не то что в середине лета, когда можно было дать волю воображению. Но пока ролик готовили, появились новые данные, кое-что в ролике уже устарело. Так что хочу восполнить и поправить себя на стриме, тем более сегодня среда, а по средам пока что я задумывал тематические стримы. Заодно поразбираем недавнюю книгу Ави Лёба, не ту, что про Оумуамуа, а прям вот свеженькую: бред сумасшедшего, манипулятора или что-то стоящее? Начинаем в: 17 - Берлин, Париж 18 - Киев 19 - Москва 🌐 На Ютубе 🌐 На Твиче ====== ✈️ Эксклюзивные ролики в ТГ 🚀 Другие способы поддержать нас @sci_one_tv