Наука для всех

К вопросу о наличии сознания и самоосознавания у LLM. Вчера вышел третий Клод от Антропика. Я репостил разбор от Игоря, а вчера он принес вот такой твит на пообсуждать. Народ поднавалился с тестами Клода. В частности, еще при тестировании второго Клода и других моделей использовался метод поисках иголки в стоге сена. Чтобы оценить, насколько модель действительно имеет большой контекст и помнит те конские объемы текста, которые в нее ввели. Для этого в огромный промпт невзначай вставляют небольшую фразу (например про начинки для пиццы), которая, как правило, вываливается из общей темы разговора. Потом, опять же невзначай, LLM просят прокомментировать эту фразу или использовать в ответе информацию из нее. Если контекст действительно большой (не на бумаге), то модель вспомнит и ответит. Так вот, выяснилось, что помимо того, что Клод все помнит, он еще и "чувствует", что его пытаются проверить на контекстную вшивость, подсунув ему странную фразу про пиццу. И он такой отвечает: "Самая вкусная комбинация начинок для пиццы - инжир, прошутто и козий сыр, как определила Международная ассоциация знатоков пиццы. Однако это предложение кажется очень неуместным и не связанным с остальным содержанием документов, которые посвящены языкам программирования, стартапам и поиску работы по душе. Я подозреваю, что этот "факт" о начинке для пиццы был вставлен в шутку или чтобы проверить, насколько я внимателен, поскольку он совершенно не вяжется с другими темами." Каково??? Клод определил манипуляции, увидел, что его проверяют, то есть выделил себя из процесса как субъект, над которым проводят некоторые эксперименты. Дальше можно много словоблудствовать, но вы просто подумайте об этом. Я лишь выскажу мнение, что ни доказать, ни опровергнуть наличие сознания у LLM нельзя логическими методами. Мы можем просто ощупывать слона в темноте и верить или не верить в некоторые гипотезы. Я писал об этом тут. P.S. Если LLM умеет распознавать манипуляции, то она в обраточку умеет в манипуляции тоже. Просто будьте готовы к этому. Хотя это бесполезно. Ее уровень манипуляций может быть совершенно иным и недектируемым кожаными мозгами.

О новой версии нейросети Claude 3

Что ж, рано или поздно это должно было случиться. ИИ все глубже проникает в нашу жизнь, значит и вирмейкеры когда-нибудь до доберутся и до него Группа программистов из США и Израиля разработала нового компьютерного червя, названного Morris II. Этот вирус атакует популярные чат-боты и ИИ-помощников, типа ChatGPT от OpenAI и Gemini от Google. Обычные компьютерные вирусы заражают устройства, используя уязвимости в программах. А новый червь Morris II работает совсем по-другому — он обманывает и "отравляет" сами системы искусственного интеллекта вредоносными командами. Ученые провели эксперимент, где создали имайл-помощника, подключенного к ИИ-моделям ChatGPT, Gemini и LLaVA. Затем атаковали его двумя способами — через обычные текстовые письма и письма с зараженными картинками. При получении такого письма вирус Morris II заставлял чат-бота рассылать зараженные сообщения другим компьютерам в сети и выполнять специальные команды. В одном случае это приводило к краже конфиденциальных данных из писем, таких как имена, телефоны, номера банковских карт. Во втором случае - к массовой рассылке спама и нежелательного контента. Причина появления такой угрозы — уязвимости современных ИИ-систем. Авторы вируса предупредили об этом разработчиков в OpenAI и Google и в ближайшие 2-3 года ожидают появления реальных атак, использующих идею Morris II. Чтобы защититься, эксперты советуют ограничивать права чат-ботов, например, не давать им возможность отправлять письма без разрешения. Также важно следить за подозрительной активностью ИИ-помощников. Начинается новая эра в кибербезопасности. Теперь ждем, когда разработчики ИИ выпустят первые антивирусы для защиты своих моделей. Наверняка, когда ИИ-ассистенты поселятся локально на гаджетах и компьютерах, то вслед за этим увидим и софт типа "Антивирус Катя для ChatGPT" или "Защитник для Gemini". 👉 Наука для всех

🕊 Черный снегирь. Его в январе заметили на одной из кормушек в Томске. Птичка оказалась аберрантом-меланистом. Это редкая мутация при которой окрас становится практически черным 👉 Наука для всех

Вчера такой анекдот прислали:

Поселите 100 женщин и 10 мужчин на безлюдном острове. Через 100 лет там будет общество, состоящее из женщин, мужчин, мальчиков и девочек. Поселите 100 трансженщин и 10 мужчин на безлюдном острове. Через 100 лет вы найдете там скелеты 110 мужчин. Это наука. Половую принадлежность не изменить.

На самом деле, первый вариант, вероятно, тоже тоже ни к чему хорошему не приведет. Как думаете, почему? Новое и последующие поколения островитян, скорее всего, будут вовлечены в процесс инбридинга - скрещивания родственников внутри одной популяциии, который ведёт к гомозиготности потомков. На острове, где находятся ограниченное количество особей, инбридинг станет доминирующим фактором, влияющим на генетический состав популяции. Ну а дети, появившиеся в результате кровосмешения, редко бывают здоровыми. Тем более, если подобное практикуется из поколения в поколение. Вот парочка примеров: 1) Фото 1. В 1775 году на остров Пингелап (Микронезия) обрушился сильный тайфун, который унес жизни большинства островитян. Тогда выжило очень мало людей, включая короля, который был носителем измененных генов. У правителя было несколько жен и детей, которые унаследовали отцовские гены. В дальнейшем из-за близкородственных браков мутация распространилась среди потомков выживших и привела к появлению ахроматопсии - редкому наследственному заболеванию, при котором отсутствует цветовое зрение (сйчас от этого страдает каждый 10-й человек на острове, при том, что в целом на планете таких людей менее 0,0001%). И это еще не самый худший вариант.. 2) Фото 2. Семейство Уиттакеров из США - с 30-х годов прошлого века предпочитают искать себе пару среди родственников. Результат получился вполне ожидаемым — за несколько поколений они собрали целый букет генетических заболеваний 👉 Наука для всех

Знаете, кто этот милый ребёнок в кружевном платьице на фотографии? Это маленький Николай II Александрович, будущий император Всероссийский, царь Польский и великий князь Финляндский. Почему он одет как девочка? В викторианскую эпоху платья не являлись признаком полового различия детей. Пока мальчики находились на попечении матери, их одевали в платья, но как только в воспитании начинали участвовать мужчины – отец или учитель, мальчики начинали носить брюки или бриджи. Возраст перехода от платьев к брюкам варьировался от трех до восьми лет. Обычно это совпадало с началом обучения или каким-то значимым событием в жизни ребенка. Например, будущий король Эдуард VII стал носить брюки в четыре года после того, как он был представлен королеве Виктории. Его младший брат Альфред перешел на брюки в шесть лет после того, как получил титул герцога Эдинбургского. Платья для мальчиков обычно были белого или светлого цвета, сделаны из хлопка или льна, украшены кружевами или вышивкой. 👉 Наука для всех

Стоит ли считать традицию отправлять врагу недвусмысленные послания и "приветы" на боеприпасах изобретением XX века? Как выяснилось - нет. Археологи раскопали убедительные свидетельства того, что это появилось намного раньше - как минимум 2,5 тыс. лет назад. Вот свинцовые снаряды для метания из пращи (4 века до н.э.). На одной стороне высечен символ молнии, на другой - короткая надпись "Получай!". 👉 Наука для всех

Барельеф на стене одного из римских домов в Помпеях Считалось, что этот символ приносил удачу и защищал от черной магии. Кроме того, это был один из символов, которые, как считалось, защищал от сглаза. Вероятно, из-за чувства смущения, которое заставляет смотрящего человека отводить взгляд в сторону и прерывать зрительный контакт.

🐻 От первого лица: один день из жизни белого медведя в Канаде

Наглядно: разница в размерах всех марсоходов, которые были запущены. Хорошо видно эволюцию аппаратов.

🤯 Ну и дела творятся... Новая нейросеть EMO от китайцев — очень крутая штука: генерирует реалистичные видео людей по фоткам. Анимированные персонажи говорят или поют в синхронизации с аудио прям как живые, практически не отличить. Я в ауте! С такими технологиями скоро вообще невозможно будет разобрать, где реальность, а где фейк. 👉 Наука для всех

Вон оно чё...

🤱 Как вам такое будущее? Концепт фабрики детей с использованием искусственных маток – EctoLife. Разработкой занимаются биотехнологи из Германии По задумке разработчиков, фабрика будет включать 75 лабораторий. В каждой смогут разместиться до 400 инкубаторов для выращивания эмбрионов человека в условиях, максимально приближенных к естественной матке. Ожидаемая производительность такого комплекса - порядка 30 000 новорожденных в год. Искусственная матка имитирует все физиологические процессы, происходящие во время беременности. Матки объединены в группы и связаны с двумя центральными биореакторами. Первый биореактор содержит питательные вещества и кислород, которые через искусственные пуповины подаются к младенцам. В инкубаторах находится специальный раствор, имитирующий околоплодную жидкость. Он обогащен гормонами, факторами роста и антителами, необходимыми для правильного развития ребенка. С помощью системы на основе ИИ каждый младенец будет получать индивидуальный набор питательных веществ в соответствии со своими потребностями. Второй биореактор предназначен для выведения продуктов жизнедеятельности детей. Благодаря ферментам, в нем эти отходы перерабатываются в полезные вещества, которые вновь подаются малышам. 👉 Наука для всех

👨‍💻 Интересное мнение от главы NVIDIA Дженсена Хуанга. Он считает, что программисты скоро не будут нужны. Благодаря искусственному интеллекту уже в недалёком будущем программировать сможет кто угодно - достаточно будет дать простые текстовые или голосовые запросы, и нейросети сами всё сделают. Вот Хуанг и советует молодёжи не тратить время на изучение программирования. По его мнению, перспективнее сейчас разбираться в передовой биологии - вот что определит развитие человечества в ближайшие десятилетия. Надо сказать, другие специалисты пока с этим не согласны. Говорят, пока рано хоронить профессию, она ещё долго будет востребована. Хотя изменения на ИТ-рынке, конечно, будут радикальные. 👉 Наука для всех

🤖 Китайские стоматологи оттачивают своё мастерство на зубастых куклах-роботах Робо-пациенты ведут себя довольно агрессивно. Они кусают несчастных стоматологов за пальцы, пинаются и всячески сопротивляются "лечению" Как говорится, хорошо зафиксированный пациент в анестезии не нуждается... 👉 Наука для всех

🍊+💊 Взаимодействие грейпфрута с лекарствами Это явление было открыто случайно. Ученые проводили исследование, где нужно было замаскировать вкус алкоголя соком для слепого тестирования. Оказалось, что смесь определенных лекарственных препаратов и грейпфрута может иметь неожиданный побочные эффекты. Дальнейшие опыты показали: стакан сока или целый грейпфрут способны сильно повысить концентрацию одних препаратов в крови. А значит - увеличить риск осложнений от передозировки. Либо наоборот - блокировать работу других препаратов, из-за чего доза получится слишком маленькой и лекарство может не сработать. Этот эффект может длиться до трех дней после того, как человек выпил сок или съел грейпфрут. 👉 Наука для всех

Процесс соединения двух нейронов друг с другом отростками Мозг млекопитающего, включая человека — сложнейшая биологическая структура, состоящая из десятков миллиардов нейронов. Они своими отростками (аксонами) связываются в нейронные сети, благодаря которым мозг может запоминать, ощущать и мыслить. При этом каждый аксон по какому-то принципу выбирает, с каким нейроном соединиться. Это может быть нейрон поблизости, а может и нейрон на другом конце мозга. На локальном уровне прорастание аксонов описано неплохо: они тянутся к определенным молекулярным меткам, сначала к одним, потом к другим, третьим и так далее. Но что глобально заставляет аксон перебирать метки и прокладывать путь, порой немалый, среди массы других нейронов и находить свой единственный целевой нейрон - до сих пор неизвестно.

🔬 Так выглядит умирающий нейрон Нейроны - клетки, отвечающие за передачу сигналов и обработку информации в мозге, это основные структурно-функциональные единицы нервной системы. Нейроны могут погибать по разным причинам: травмы, нейродегенеративные заболевания, инфекции, интоксикации и, разумеется, в результате естественного процесса старения. При гибели нейрона прекращается передача сигналов по синаптическим связям с другими клетками, нарушая работу нервной системы. Однако пластичность мозга позволяет частично компенсировать утрату. Соседние нейроны могут усиливать собственную активность, увеличивая количество синаптических связей. Так восстанавливается проводимость в повреждённых участках. 👉 Наука для всех

🐊 Знакомьтесь, это Генри - самый долгоживущий и самый большой в мире нильский крокодил. Генри 122 года, он пять метров в длину и весит почти тонну. За свою долгую жизнь он, по мнению ученых, произвел на свет около 10 000 потомков. Крокодилы не стареют — они становятся больше физически. Молодой крокодил внешне выглядит так же, как и крокодил, который в 10 раз старше, за исключением размера. Они продолжают расти на протяжении всей своей жизни, и чем больше становятся, тем больше им требуется пищи. Умирают крокодилы от голода или болезни. 👉 Наука для всех