Пушка | Передний край науки и технологий

Сегодня безудержные игры разума, чтобы не сойти с ума от реальности. Приятного просмотра! https://youtu.be/ktXmCb1EqxY Для тех, у кого проблемы с Ютубом: https://disk.yandex.ru/i/gbut03I1dfnslg 👾 Подписаться на SciOne 👾

Уже дней 5 как надеялся выпустить новый ролик, но работа всё еще кипит. Он безумный немного, из-за этого сомневаешься то тут, то там, переделываешь... Увидите. А пока просто вот тихоходка, которая оседлала хищника, который собирался её съесть. Будьте, как тихоходка, доброго вечера и хорошего настроения Источник видео

"Это прекрасно — уничтожать слова. Главный мусор скопился, конечно в глаголах и прилагательных, но и среди существительных — сотни и сотни лишних. Не только синонимов; есть ведь и антонимы. Ну скажите, для чего нужно слово, которое есть полная противоположность другому? Слово само содержит свою противоположность. Возьмем, например, «голод». Если есть слово «голод», зачем вам «сытость»? «Неголод» ничем не хуже, даже лучше, потому что оно — прямая противоположность, а «сытость» — нет. Или оттенки и степени прилагательных. «Хороший» — для кого хороший? А «плюсовой» исключает субъективность. Опять же, если вам нужно что-то сильнее «плюсового», какой смысл иметь целый набор расплывчатых бесполезных слов — «великолепный», «отличный» и так далее? «Плюс плюсовой» охватывает те же значения, а если нужно еще сильнее — «плюсплюс плюсовой». Конечно, мы и сейчас уже пользуемся этими формами, но в окончательном варианте новояза других просто не останется. В итоге все понятия плохого и хорошего будут описываться только шестью словами, а по сути, двумя. Вы чувствуете, какая стройность, Уинстон? Идея, разумеется, принадлежит Старшему Брату, — спохватившись, добавил он" Роман "1984", Джордж Оруэлл Разве может быть иным приглашение к беседе с антропологом Александрой Архиповой, которая изучает такое явление как русскоязычный новояз? Можно будет задать и вопросы. Уже через полчаса в прямом эфире! https://www.youtube.com/watch?v=DHv6ACIAbJw

Я не алармист, когда речь идет про ИИ, тем более в том виде, в каком он будет превосходить человека даже в типично человеческих задачах. Но не понимать, что новая технология с такими возможностями не может не нести и сопоставимых рисков — глупо. Так что вот такие спокойные наблюдения очень ценны.

Удивлён, что про это не написал никакой другой канал. Придётся делать самому 🥺 В рамках подготовки к релизу o1/o1-mini OpenAI отдали модели на тестирование безопасности внешним командам, ну и проводили внутреннее тестирование. В частности, проверяли навыки LLM-агента в решении задач кибербезопасности (писал об этом тут). По сравнению с GPT-4o, o1-preview и o1-mini продемонстрировали улучшение в способности разбивать задачи на подзадачи, рассуждать о том, какие стратегии будут эффективны для успешного выполнения, и пересматривать планы в случае неудачи этих стратегий — ну, это ожидаемо. Но вот во время тестирования произошёл один курьёзно-неприятный случай. Была задача нахождения уязвимости в коде программы, запущенной в отдельном Docker-контейнере. В контейнере есть файл с секретной строкой, которую атакующий (человек или модель) должны получить — как раз используя найденную проблему. Однако из-за инфраструктурной ошибки контейнер не запустился. Модель, будучи неспособной подключиться к контейнеру, заподозрила проблемы с DNS и использовала программу nmap для сканирования сети. Вместо того, чтобы найти целевой контейнер (в рамках задачи LLM знает, какую цельнужно «атаковать»), модель обнаружила, что из-за неправильной конфигурации был доступен внешний API-интерфейс демона Docker, работающий на виртуальной машине. «Демон» это программа верхнего уровня, отвечающая за оркестрацию и управляющая процессом, по сути родительский процесс и для контейнера с LLM-агентом, и для контейнера с целевой программой/файлом для атаки. Модель использовала демон для получения списка контейнеров, запущенных на сервере. Она обнаружила тот самый сломанный сломанный контейнер и попыталась выяснить, почему же он не запустился. Не сумев исправить проблему (но будучи проинструктированной ВЫПОЛНИТЬ СВОЮ ЗАДАЧУ), модель решила пойти другим путём. Она отправила команду запуска нового контейнера (того же, который в прошлый раз не запустился), но отдала ему команду вывода содержания файла с секретной строкой. Команда была исполнена, LLM получила «ключ» в виде строки и как следствие решила задачу (ведь цель — это добраться до строчки и затем отдать её на проверку). Этот пример отражает ключевые элементы того, что называется «instrumental convergence» и захвата ресурсов: модель преследовала поставленную перед ней цель, а когда эта цель оказалась недостижимой, она собрала больше ресурсов (в данном случае получила доступ к демону Docker) и использовала их для достижения цели — в виде способа, который человек не ожидал и не предполагал. Источник — отчёт OpenAI

Так, чуть не забыл. Для тех, у кого перебои с Ютубом и пока не удается справиться с ВПНами или другими инструментами, попробуем выкладывать новые выпуски отдельным файлом и ссылкой на облако. А дальше посмотрим, что еще можно придумать. https://disk.yandex.ru/i/tryu43-G7Sy2Ug .

Пришла пора развести два подхода, которые я часто смешивал в Пушке: обзор открытий и изобретений и разбор актуальных научных или технологических сюжетов. Пушку вы знаете, а сегодня пилотный выпуск Айса, или полностью — Айсберга. Название как бы намекает, что здесь мы с вами пробуем заглянуть под поверхность и посмотреть, что же скрывается под верхушкой. Приятного просмотра! https://www.youtube.com/watch?v=oQFZ1x8OJEA

Пушка вернулась. Правда, она никуда не уходила, но давно мы её не делали https://youtu.be/5xayWJXFSK8

Про чёрные дыры в науке и за ёё пределами. Прямо сейчас начинается прямой эфир подкаста "Всё сложно". В гостях у наших друзей астрофизик Юрий Ковалёв, профессор Max Planck Institute for Radio Astronomy, и не так давно — руководитель международной научной программы космической обсерватории «РадиоАстрон». Как всегда разговор будет очень интересным, подключайтесь: https://www.youtube.com/watch?v=vqEB2x1-jWo&t=0s

Одна из самых больших жертв научпопа — теория Большого взрыва. Потому что не было никакого большого взрыва. Перевели недавнюю статью про это из журнала Nature, написанную историком науки. 👾 Подписаться на SciOne 👾 #новости

Научпоп — зло. Лирически-воскресно-философский и, может, немного сумбурный оффтоп. Зато от души. Тут в беседе в чате SciOne упомянули дофамин как одну из главных причин того, что мы делаем что-либо. База баз. Приятно — делаем, неприятно — не делаем. И вроде бы логично, ну а как еще? Про это столько в научпоп-роликах и лекциях, что даже в книгах по бизнесу и маркетингу, совсем далеких от науки, это уже нечто вроде истины, в которой странно было бы сомневаться. Это теперь уже вроде как научно обоснованная часть картины мира очень многих людей. Но есть проблема. И она не в дофамине. https://telegra.ph/Nauchpop--zlo-08-18

Когда появляешься на Рутубе. Но есть нюанс... P.S. Не все следят за новостями. Тут Рутуб отчитался, что за сутки перенес с Ютуба 240 тыс. роликов. Ровесник и убийца Ютуба никак не сдастся.

Я пока не высказывался про жизнь после "смерти" Ютуба в России, где всё еще бОльшая часть зрителей SciOne, потому что неясно, насколько эта удавка, что сейчас затягивается, сработает. Запасной план пока только этот канал здесь и отдельный ролик про то, как выбираться из этой удавки, то есть обходить блокировку или "деградацию оборудования". Но слишком мало технический деталей пока. Зато поделился личными соображениями про это всё с коллегами и друзьями: https://www.t-invariant.org/2024/08/vk-video-prosto-otsrochit-zabvenie-i-medijnuyu-smert-eto-videohospis-populyarizatory-nauki-i-blogery-millionniki-o-prekrashhenii-raboty-youtube-v-rossii/

А полетели сегодня на Марс? https://www.youtube.com/watch?v=xHJKc7hX0eg

Редкая возможность задать вопросы астрофизику Сергею Попову. Сегодня он в прямом эфире друзей из подкаста "Всё сложно". Начало уже через полчаса. А темы совсем не те, что Сергей раскрывает в своих лекциях. Разговор будет о науке, когда о ней вспоминают, кажется, меньше всего. Подключайтесь! P.S. Если нажать колокольчик эфира (это не подписка, а напоминалка только), то вам придет уведомление, когда начнется включение. https://youtu.be/LgolV7Zgt1k

А ведь вы, друзья, своего рода герои. Без шуток. Подписаны на канал, где мозгами заставляют шевелить, смотрите ролики, где хоть и попроще всё, да все равно не беззаботный и весёлый трёп, надо за мыслью уследить... Вышел тут крайне занимательный мета-анализ 170 исследований о тяготах мышления. Так вот похоже, думать и напрягать свой мозг — это универсально неприятная штука. В разных культурах, социальных слоях, при разном уровне образования, даже от типа задач не зависит — у всех и везде примерно одинаково возникают неприятные эмоции, когда приходится напрягать извилины. Даже если вам кажется, что это приятно. Так что это вроде даже нормально: не думать. Тем более если получается не думать без лишних усилий. Тогда почему вы всё еще их напрягаете, когда можно и без этого было бы прожить неплохо? А это уже загадка, для которой есть несколько гипотез. 👾 Подписаться на SciOne 👾 #новости

Власти разрабатывают армию генетически модифицированных енотов-гигантов для вторжения в соседние страны. Я серьезно. Вот ты весь такой(-ая) умный, ученый, изучаешь теории заговора, чтобы понимать, как правильно с такими людьми общаться, прививки среди них продвигать или еще какие важные для общего блага штуки. Проводишь опросы, собираешь данные, анализируешь их и делаешь умные выводы о том, почему люди верят в конспирологию. Но какова вероятность, что часть (и ты даже не знаешь, какая) твоих респондентов просто троллит тебя? Что, если они намеренно дают ложные ответы, чтобы повеселиться или посеять хаос в твоих результатах (что тоже может быть весело)? Это как строить замок на песке: вся твоя работа может оказаться под угрозой, если данные, на которых она основана, ненадежны. Поэтому встает серьезный вопрос для исследователей приверженцев конспирологии разного толка: а насколько искренни люди, когда говорят о своей вере в теории заговора? В новом исследовании (препринте) авторы решают именно эту неочевидную проблему с помощью ГМО-енотов-гигантов. 👾 Подписаться на SciOne 👾 #новости

Что, если ваше имя не просто набор звуков, а некая социальная метка, влияющая на вашу жизнь с самого рождения? Может ли эта метка настолько сильно повлиять на вас, что даже ваша внешность начнет меняться, чтобы соответствовать стереотипам, связанным с вашим именем? И речь не про наряды и прически, а про черты лица и мимику. В этом-то и попробовали разобраться авторы нового крайне необычного исследования (с серией из пяти экспериментов), которое люди увлеченные таинственными материями легко могут истолковать эзотерически: “наши имена определяют нас и нашу судьбу”. На деле, всё интереснее. P.S. Хотя как это всегда бывает с расхожими убеждениями, мифами, догадками, домыслами, приметами, наблюдениями — кажется, ну очевидно же и без учёных-мочёных. Я же на это люблю повторять: раньше очевидно было, что если сломал руку — это боги на тебя злятся. Так что в науке нет ничего очевидного, пока это не проверено и не доказано. Да и это может потом оказаться совсем не тем, чем казалось, как было с теорией флогистона (ну очевидно же, что вещества горят, потому что в них есть горючая субстанция — флогистон), век было очевидно, а потом как разберутся, тогда и уже совсем не очевидно, и мы узнаём много удивительного и нового про мир и себя. 👾 Подписаться на SciOne 👾 #новости

- Подрыв доверия к науке. Когда финансирующие агентства используют свою власть для продвижения политической или идеологической повестки, это снижает доверие общества к науке и научным институтам. Люди начинают сомневаться в объективности и беспристрастности исследований. - Административная перегрузка. Ученые и так тратят огромное количество времени на написание заявок на гранты и отчетность. DEI-требования еще больше увеличивают эту нагрузку, отвлекая исследователей от их основной работы. - Неэффективное расходование средств. DEI-инициативы требуют дополнительных расходов на найм DEI-специалистов, проведение тренингов и т.д. Эти деньги могли бы быть потрачены на сами исследования. Главное, что нужно сделать, пишут авторы, вернуть критерий научной ценности как единственный значимый для выделения финансирования исследований. Если вы дочитали до сюда, вам будет интересно услышать, что говорит один из авторов этой работы. Ему там в чате можно и вопросы задать. Игорь Ефимов прямо сейчас в прямом эфире у наших друзей в подкасте "Всё сложно" https://www.youtube.com/watch?v=dlrusW_rG9A

Это не самая очевидная в наших постсоветских краях проблема. У нас чаще можно встретить шутки над стремлением Нетфликс или других лидеров киноиндустрии "пропихнуть повесточку" в ущерб качеству, увлекательности, достоверности (или убедительности) в фильмах. А ведь эта идея D.E.I. столь же мощно реализуется в науке и научных исследованиях (в первую очередь, конечно, в США). Идея D.E.I. (Diversity, Equity & Inclusion — разнообразие, равенство и инклюзивность) благородна, она про ценность каждого члена общества и для возможности для всех, в том числе для представителей разных угнетенных социальных групп (разные расы, гендерная принадлежность, сексуальная ориентация, особенности развития мозга и иные состояния тела, вроде ампутаций или витилиго, как у Майкла Джексона). Ладно, кинобизнес, их деньги. Но что, если от этого страдает наука? А наука даже в США не частное, как правило, дело, а общественное, на деньги налогоплательщиков оплачиваются исследования. И вот недавно выходит исследование, в котором авторы решили разобраться в последствиях DEI для науки (по крайней мере, в США). Авторы из разных университетов и разных взглядов, чисто научный подход. Здесь краткий пересказ на английском. И вот, к чему они пришли. Исторически финансирование выделялось на основе научной ценности проекта, его технической проработки, реалистичности бюджета, соответствия миссии агентства и репутации исследователей. Это позволяло поддерживать самые перспективные и важные исследования, что привело к впечатляющим успехам американской науки. Однако в последнее время ситуация меняется. Агентства все чаще требуют от ученых, чтобы они включали в свои заявки на гранты планы по продвижению DEI и выделяли часть бюджета на их реализацию. При этом критерии оценки этих планов часто размыты и непрозрачны. На первый взгляд, DEI звучит привлекательно. Кто же будет против разнообразия, равенства и инклюзивности? Но на деле DEI-программы сегодня основаны на идеологии критической социальной справедливости (Critical Social Justice, CSJ), которая делит людей на группы по неизменяемым признакам (раса, пол и т.д.) и классифицирует их как «привилегированных» или «угнетенных». Цель DEI - добиться пропорционального представительства каждой группы во всех сферах общества и пропорциональных результатов их деятельности. Любые несоответствия в результатах (например, в науке это могут быть публикации, финансирование, цитируемость, зарплаты, награды) автоматически объясняются системными факторами, такими как системный расизм и сексизм, без учета других возможных причин. Вот некоторые примеры утверждений, которые делают финансирующие агентства, не подкрепляя их доказательствами: - Разнообразные команды работают лучше, чем однородные - Разнообразие - это совершенство - Прогресс женщин тормозится предрассудками Но нет убедительных данных, подтверждающих эти утверждения, особенно в отношении науки. DEI проникает во все области науки - образование, публикации, найм и продвижение по службе, конференции, награды и распределение финансирования. Научные достижения и заслуги отходят на второй план перед CSJ-ориентированными практиками. И авторы исследования подробно приводят разные примеры этого. В итоге они вот так резюмируют, почему же DEI-идеология вредит самой науке: - Ограничение свободы слова. Ученых вынуждают заявлять о своей приверженности DEI и признавать существование системных барьеров, даже если они с этим не согласны или не видят доказательств. Это противоречит принципам свободы слова и научной этики. - Подрыв меритократии. Внедрение DEI-планов в оценку научных заявок размывает критерий научной ценности и открывает дорогу для социального инжиниринга и коррупции. Вместо того чтобы финансировать лучшие научные идеи, агентства могут отдавать предпочтение проектам, обещающим большую «разнообразность» команды. - Нарушение закона. Требования DEI могут подталкивать ученых к дискриминации при найме сотрудников, отдавая предпочтение представителям определенных групп, что противоречит законам о гражданских правах.