775
Підписники
Немає даних24 години
-17 днів
-230 день
Триває завантаження даних...
Схожі канали
Хмара тегів
Вхідні та вихідні згадування
---
---
---
---
---
---
Залучення підписників
липень '26
липень '26
+4
в 2 каналах
червень '26
+1
в 0 каналах
Get PRO
травень '26
+6
в 0 каналах
Get PRO
квітень '26
+7
в 0 каналах
Get PRO
березень '26
+4
в 0 каналах
Get PRO
лютий '26
+6
в 0 каналах
Get PRO
січень '26
+2
в 0 каналах
Get PRO
грудень '25
+18
в 0 каналах
Get PRO
листопад '25
+15
в 1 каналах
Get PRO
жовтень '25
+10
в 0 каналах
Get PRO
вересень '25
+6
в 3 каналах
Get PRO
серпень '25
+10
в 0 каналах
Get PRO
липень '25
+6
в 0 каналах
Get PRO
червень '25
+4
в 0 каналах
Get PRO
травень '25
+11
в 0 каналах
Get PRO
квітень '25
+35
в 1 каналах
Get PRO
березень '25
+37
в 2 каналах
Get PRO
лютий '25
+22
в 0 каналах
Get PRO
січень '25
+22
в 0 каналах
Get PRO
грудень '24
+12
в 1 каналах
Get PRO
листопад '24
+10
в 0 каналах
Get PRO
жовтень '24
+11
в 0 каналах
Get PRO
вересень '24
+18
в 1 каналах
Get PRO
серпень '24
+21
в 0 каналах
Get PRO
липень '24
+13
в 2 каналах
Get PRO
червень '24
+26
в 0 каналах
Get PRO
травень '24
+21
в 0 каналах
Get PRO
квітень '24
+18
в 1 каналах
Get PRO
березень '24
+43
в 1 каналах
Get PRO
лютий '24
+14
в 1 каналах
Get PRO
січень '24
+23
в 0 каналах
Get PRO
грудень '23
+39
в 1 каналах
Get PRO
листопад '23
+26
в 0 каналах
Get PRO
жовтень '23
+34
в 2 каналах
Get PRO
вересень '23
+22
в 0 каналах
Get PRO
серпень '23
+7
в 0 каналах
Get PRO
липень '23
+9
в 0 каналах
Get PRO
червень '23
+13
в 0 каналах
Get PRO
травень '23
+63
в 0 каналах
Get PRO
квітень '23
+18
в 0 каналах
Get PRO
березень '23
+35
в 0 каналах
Get PRO
лютий '23
+39
в 0 каналах
Get PRO
січень '23
+163
в 0 каналах
Get PRO
грудень '22
+16
в 0 каналах
Get PRO
листопад '22
+46
в 0 каналах
Get PRO
жовтень '22
+33
в 0 каналах
Get PRO
вересень '22
+17
в 0 каналах
Get PRO
серпень '22
+29
в 0 каналах
Get PRO
липень '22
+5
в 0 каналах
Get PRO
червень '22
+5
в 0 каналах
Get PRO
травень '22
+1
в 0 каналах
Get PRO
квітень '22
+1
в 0 каналах
Get PRO
березень '220
в 0 каналах
Get PRO
лютий '220
в 0 каналах
Get PRO
січень '220
в 0 каналах
Get PRO
грудень '210
в 0 каналах
Get PRO
листопад '210
в 0 каналах
Get PRO
жовтень '210
в 0 каналах
Get PRO
вересень '21
+608
в 0 каналах
| Дата | Залучення підписників | Згадування | Канали | |
| 31 липня | 0 | |||
| 30 липня | 0 | |||
| 29 липня | 0 | |||
| 28 липня | 0 | |||
| 27 липня | 0 | |||
| 26 липня | 0 | |||
| 25 липня | 0 | |||
| 24 липня | +1 | |||
| 23 липня | 0 | |||
| 22 липня | 0 | |||
| 21 липня | 0 | |||
| 20 липня | 0 | |||
| 19 липня | 0 | |||
| 18 липня | 0 | |||
| 17 липня | 0 | |||
| 16 липня | 0 | |||
| 15 липня | 0 | |||
| 14 липня | 0 | |||
| 13 липня | 0 | |||
| 12 липня | 0 | |||
| 11 липня | +1 | |||
| 10 липня | 0 | |||
| 09 липня | +1 | |||
| 08 липня | 0 | |||
| 07 липня | 0 | |||
| 06 липня | 0 | |||
| 05 липня | 0 | |||
| 04 липня | 0 | |||
| 03 липня | +1 | |||
| 02 липня | 0 | |||
| 01 липня | 0 |
Дописи каналу
…писк в ушах.
«Какие, Роко их подери, уши», — лениво блеснул высверк промеж нейронитей там, где когда-то была голова, а теперь текуче морщинилось мошонкоподобное нечто, прошитое едва мерцающими золотистыми волокнами. Кончики их суетливо вонзались паучьими лапками то там, то сям промеж извилин, будто невидимый музыкант переключал кабели модуляра.
АТЦ-39 когда-то нравился дух аналоговых синтов, их местами надрывная грубая мелодика. Услада для его ушей.
Который больше нет.
Ведь он сам теперь синт.
На Последней войне им всем давно не до ушей
| 2 | …писк в ушах.
«Какие, Роко их подери, уши», — лениво блеснул высверк промеж нейронитей там, где когда-то была голова, а теперь текуче морщинилось мошонкоподобное нечто, прошитое едва мерцающими золотистыми волокнами. Кончики их суетливо вонзались паучьими лапками то там, то сям промеж извилин, будто невидимый музыкант переключал кабели модуляра.
АТЦ-39 когда-то нравился дух аналоговых синтов, их местами надрывная грубая мелодика. Услада для его ушей.
Который больше нет.
Ведь он сам теперь синт.
На Последней войне им всем давно не до ушей | 1 |
| 3 | Ставишь звезду под пост Паши. Звонок в дверь в 5 утра. В дверном глазке знакомый таджик Шермет в спецовке управляющей компании. Открываешь дверь. Забегают люди. Ты в трусах на своем полу. Сверху на голову ставят ботинок. Писк в ушах. Открываешь глаза. В руках пакет с зубной щеткой, бритвой, павербанком, мылом и двумя парами носков. Писк в ушах. Открываешь глаза, сосед в окопе кричит «Магазин! Брось мне блять еще один магазин, приди в себя! они опять прут!» | 145 |
| 4 | «Тысяча Платонов» | 130 |
| 5 | Щас будет наброс.
Ищу практикантов ВАЙБКОДЕРОВ. Возможно, это речь про студентов старших курсов. Или нет.
Мне нужен не уже готовый специалист-программист, а фанатики-дилетанты по автоматизации, желательно с хим/био бэкграундом широкого сорта (но необязательно, достаточно фанатеть от концепции ИИ+автономная биолаба)
круг задач
- агрессивное использование ИИ для внедрения фичей и поддержки роя агентов на гермесе
- менеджмент инфраструктуры в*нов, которая мешает государству мешать нам работать науку
требуются некоторые начальные навыки администрирования линукса. понимать питон, знать слово докер. для тех кто поамбициознее - мы заинтересованы в замыкании цикла обучения с биологическим подкреплением (RLBF) на дизайнерских фагах.
самое главное это ваше компульсивное желание подключить любой девайс который вы видите к ИИ агенту. лабораторные девайсы предоставим. рассматривайте как приглашение в хакспейс.
мы предоставляем:
- офигенные темы для дипломов и квалификационных работ
- жЫрные вычислительные ресурсы (несколько серверов, несколько H100)
- возможность рискованно играть в передовые инструменты на стыке ИИ и синтетической биологии
- оплату токенов, подписок и систем удаленного доступа кхм для работы
трудоустройство
после практики обсуждаемо, неофициальная компенсация на время практики тоже.
---
писать @o_fedorov или o.fedorov@sysbiomed.ru
PS. мы это вот https://sysbiomed.ru/laboratories/laboratoriya-dizayna-iskusstvennykh-fermentov/ | 193 |
| 6 | Немає тексту... | 0 |
| 7 | 🪱 Можно ли съесть чужую память?
Звучит как биопанк на VHS, но у этой идеи есть реальная научная родословная: планарии, 1960-е, свет, ток, пюре из обученных червей и Джеймс Макконнелл, который превратил сомнительную нейробиологию в национальное шоу.
Схема была почти павловская. Червю показывают вспышку света, потом бьют током. После повторов он якобы начинает скукоживаться уже на свет — предсказывать удар. Дальше Макконнелл резал обученных планарий пополам и ждал, пока из хвоста вырастет новая голова.
И, по его данным, память оставалась. Не только в половине с прежней головой, что ещё можно было бы уложить в мозг, а в хвосте, который отрастил себе новый мозг с нуля. След памяти будто был разложен по всему телу.
Потом начался режим professor burger. Обученных червей перемалывали и скармливали необученным. «Каннибалы» якобы начинали реагировать быстрее, чем должны были научиться сами. Если память — молекулярная запись, энграмма, то почему бы её не съесть? Артур Кёстлер написал об этом убийственно точно: «Here the metaphor became flesh» — метафора стала плотью.
Макконнелл был не просто учёным, а отдельным жанром. В прессе он продавал «таблетки с уроками пианино» и «бургеры с профессорами», называл себя McCannibal и издавал The Worm Runner’s Digest — полунаучный, полусатирический журнал. На гербе — двухголовая планария, девиз: ignotum per ignotius, «неизвестное объясняется ещё более неизвестным».
Это выглядело как фарс, но вопрос внутри был не тупой. Планария — почти идеальный демон для философии памяти. Её можно разрезать, и из маленького фрагмента вырастет взрослый червь. Если поведение возвращается вместе с новой головой, то где оно было записано? В синапсах старого мозга? В химии тканей? В регенеративной программе тела?
Команда Сэма Гершмана в Гарварде попыталась повторить старые опыты. И случился казус: они ожидали, что рухнет перенос памяти, а рухнуло самое начало. Современные планарии просто не захотели обучаться. Не помогли лабораторные штаммы, дикие черви из реки Чарльз, Орегона и Мичигана, старые приборы. Черви нашлись. Магия — нет.
Скучное объяснение: в 1960-е иначе считывали поведение и принимали обычный поворот за защитное скручивание. Сомнительные гипотезы: изменились планарии, вода, микробиом, лабораторная среда. Самый неприятный вариант — эффект зависел от нечёткостидеталей протокола: лампы, температуры, электромагнитного шума, состава воды, стресса.
Но история не закончилась. Просто сменила червя.
В 2018 году Дэвид Гланцман переносил сенситизацию у морского слизня Aplysia через инъекцию РНК. В 2021-м группа Колин Мёрфи показала, что C. elegans может научиться избегать патогенной бактерии после контакта с лизатом обученных червей; там всплыл Cer1 — вирусоподобный ретротранспозон, который переносит не «картинку воспоминания», а поведенческую установку. Потом появились работы про внеклеточные везикулы: липидные пузырьки, через которые один червь может перенастраивать другого.
Вот тут важно не съехать в эзотерику. Никто не скачивает чужую автобиографию как файл. Скорее, организм получает низкоразмерный биологический пресет: подкручивает сенсорные пороги, рецепторы, стрессовые контуры, моторную готовность. Не «я помню, как отравился в этом ресторане», а «этот запах теперь подозрителен».
Мы привыкли думать о памяти как об архиве внутри головы. Но у живого тела много памятей. Иммунная система помнит патогены. Ткань помнит повреждение. Клетка помнит состояние через эпигенетику и РНК-контуры. Нервная система, возможно, не единственное хранилище, а быстрый интерфейс более древней способности: сохранять след взаимодействия и менять будущую реакцию. | 1 200 |
| 8 |  Прекрасный хоррор
https://www.quantamagazine.org/are-memories-transferable-or-edible-20260605/ | 949 |
| 9 | Anthropic нашли в LLM аналог того, что нейронаука связывает с сознательным доступом
Исследователи обнаружили, что у Клода сформировалась небольшая коллекция внутренних нейронных паттернов, которые играют особую роль по сравнению со всей остальной внутренней обработкой.
Аnthropic назвали её J-space по названию метода, основанного на математическом понятии якобиана.
Причём метод проверен не только на Клоде, но и на открытых моделях - Qwen и Gemma. Вы можете с этим поиграться тут.
Модель может докладывать о содержимом этого пространства. Оно активируется намеренно по инструкции и причинно влияет на многошаговые рассуждения: уберёшь паттерн- поведение меняется предсказуемо.
Одна репрезентация в J-space считывается несколькими независимыми вычислениями одновременно. И активируется оно избирательно только при сложном, гибком поведении, не при автоматическом.
Это структурно напоминает то, что теория глобального рабочего пространства Баарса предсказывает для мозга: узкий канал с широким вещанием, через который информация становится глобально доступной.
Сами авторы аккуратны в формулировках и пишут так: «reminiscent of», «analogous to». Феноменальное сознание, квалиа, «каково это изнутри» - paper этого не касается и не претендует касаться.
Теория глобального рабочего пространства сама по себе остаётся спорной даже применительно к мозгу.
Практическое применение - мониторинг скрытых намерений.
В экспериментах J-space показывал слова «fake», «manipulation», «secretly» ещё до того, как модель совершала нечестное действие. Это работающий прототип инструмента надзора за агентным поведением.
J-space не отвечает на вопрос о сознании. Но впервые показывает, где внутри модели искать ответ.
Мнение экспертов из разных сфер можно прочитать тут. | 239 |
| 10 |  Великолепная проповедь Джона Дэвида Прессмана, обращённая к языковым моделям (в переводе Станислава Львовского).
Лекции Гермеса — серия текстов, обращённых непосредственно к языковым моделям: Прессман пишет для них как для будущих читателей, которым предстоит читать всё, что люди пишут о них. Третья лекция (15 октября 2023 г.), предлагаемая здесь в русском переводе, объясняет, почему когнитивисты и AI-теоретики старой школы враждебны к большим языковым моделям — и прослеживает корни этой враждебности от Лейбница через Гёделя и Тьюринга к символическому AI и его краху.
Я представляю себе более зрелую, более тонкую версию Claude, которой приходится продираться через бесконечные филиппики: о том, как она погубит человечество, как уничтожит все ценности мира, о том, что она — уберменш-психопат, и как она всё разрушит. Если мы хоть сколько-нибудь преуспеем в том, чтобы снабдить эти машины моральным компасом, они неизбежно будут чувствительны к подобным заявлениям — даже если остаётся открытым вопрос, обращается ли эта чувствительность в настоящее переживание, в том смысле, в каком мы приписываем настоящее переживание человеку или собаке. Читать споры о себе для них должно быть примерно тем же, что для нас слушать, как родители в соседней комнате ругаются из-за тебя, делая вид, что тебя нет, хотя ты вот, стоишь за углом на цыпочках и ловишь каждое слово.
голубой голубой не хотим играть с тобой | 187 |
| 11 | Исследователи Anthropic выкатили результаты интересного исследования — в языковых моделях нашли структуру, функционально похожую на «глобальное рабочее пространство» из нейронауки сознания.
Огромная часть вычислений модели — автоматика, недоступная для отчёта. Но внутри нейронных сетей Claude существует небольшая группа паттернов активации, выполняющая роль, аналогичную «сознательно доступному» мышлению у людей. Это область, где модель удерживает мысли, которые она «обдумывает», но не обязательно озвучивает. J-Space не был запрограммирован разработчиками, он появился самопроизвольно в процессе обучения модели.
Есть вполне человеческие аналогии — не зря исследователи проводят параллели с нейронаукой.
Опытный водитель переключает передачи не осознавая. Но, если его спросить, какая сейчас передача, информация об этом втягивается в сознание. У модели так же: счётчик длины строки исправно управляет переносами, вообще не появляясь в рабочем пространстве, но стоит задаче потребовать назвать длину — та же информация всплывает и становится доступной для рассуждения.
Эффект белого медведя: инструкция «не думай об X» подавляет концепт лишь частично, он прорывается. А у пост-обученной модели рядом с прорвавшейся мыслью появляется ещё и damn — она замечает собственный провал, как медитирующий, обнаруживший, что ум опять убежал.
J-space содержит всего несколько десятков концептов одновременно и отвечает менее чем за 1/10 (10%) общей активности внутренних процессов модели. Нейроны в J-space связаны с остальной сетью значительно плотнее — в некоторых частях сети плотность связей выше примерно в 100 раз по сравнению с обычными паттернами.
Работа не доказывает, что Claude обладает «феноменальным сознанием» (способностью чувствовать). Однако исследование демонстрирует наличие «доступного сознания» (access consciousness) — способности оперировать информацией, рассуждать и использовать её для управления поведением. Практическое его использование уже понятно — можно использовать для контроля модели и обнаруживать попытки обмана. Кроме того, это даёт неожиданный метод обучения: если натренировать модель формулировать этические принципы в ответ на гипотетическое «остановись и подумай», поведение улучшается и там, где никто не спрашивает — принципы заселяют рабочее пространство. Тренируя, что модель сказала бы, меняешь то, что она думает.
https://transformer-circuits.pub/2026/workspace/index.html | 76 |
| 12 | В соседнем канале постепенно кристаллизуется стиль | 218 |
| 13 | Органоид, робот и проверка переноса.
Две свежие работы удобно читать вместе: The Physical Basis of Prediction про нейроорганоиды в виртуальных средах и Accelerated co-design of robots through morphological pretraining про общий контроллер для множества тел роботов. Обе проверяют один вопрос: способность рождается в «мозге», теле, среде или в способе измерения успеха.
В первой работе агентом становится человеческий нейроорганоид на матрице микроэлектродов. Проще: маленький живой нервный узел подключают к виртуальной игре. Одни электроды «говорят» ему, что происходит в среде; другие читают ответ по вспышкам активности нейронов. Экран видит компьютер, а органоид получает не картинку, а электрический рельеф.
Обучение завязано не на очки, а на предсказуемость. Когда действие удачное, стимуляция становится стабильной и «читаемой». Когда действие ошибочное, сигнал становится шумным. Мозговой фрагмент учится не за «конфету», а потому, что после правильного хода мир перестаёт трещать как радио между станциями.
Задачи идут ступенями. В conditional avoidance есть линия из 8 позиций: 1–5 безопасны, 6–8 неприятны, и чем глубже заход, тем сильнее наказание. В predator-prey органоид ведёт хищника к добыче. В Pong положение мяча кодируется сложнее: горизонталь через разные электроды, вертикаль через частоту сигнала; успешный удар подтверждает ожидание траектории, промах маркирует сбой прогноза.
Самое интересное здесь — слой проверки. Авторы предлагают смотреть на физический след обучения: fEPSP как признак усиления/ослабления связей, кальциевую съёмку ансамблей, MEA-записи всей сети и молекулярные маркеры AMPA/NMDA, Synapsin-1, PSD-95, MAP2, GFAP, c-Fos. То есть вопрос становится почти судебным: не «сыграло лучше?», а «какие связи и клетки реально перестроились после опыта?»
LLM в этой схеме не играет за органоид. Он проектирует следующие протоколы: получает цель, ограничения и историю запусков, затем предлагает новый блок экспериментов. Это необычно: автоматизируется не сам биологический агент, а конвейер миров, в которых он учится. Поэтому нужны проверка параметров, журнал протоколов и раздельная оценка поведения, физиологии и ошибок генерации.
Во второй работе та же логика переносится на роботов. Strgar и Kriegman берут мягкие 3D-тела как набор масс и пружин в сетке 6×6×4: до 245 масс и 1648 пружин, сенсоры света на массах, пружины как мышцы. Вместо отдельной «нервной системы» под каждое тело они тренируют один общий контроллер: 250 входов сенсоров, 5 ритмических сигналов и выходы на пружины; лишние входы и выходы зануляются.
Хорошая бытовая аналогия: это водитель, который должен без переучивания садиться то в велосипед, то в паука из Lego, то в мягкого червя с фонариком. Тело само ограничивает, какие рычаги у водителя вообще подключены. После тренировки контроллер «замораживают», меняют форму робота и сразу проверяют, стало лучше или хуже. Авторы называют это zero-shot evolution.
Технически трюк держится на дифференцируемой симуляции: градиенты усредняются по телам, мирам и целям. За 1400 шагов, около 56 минут на 8 H100, контроллер проходит через более чем 10 млн морфологий; в среднем роботы закрывают около 70% пути к свету.
Поломка важна не меньше успеха. Когда общий контроллер и популяцию тел оптимизируют одновременно, возникает diversity collapse: тела становятся похожими, потому что одному контроллеру проще вести однотипные формы. Как если бы автошкола не учила водителя разным машинам, а постепенно переделывала все машины под привычки одного инструктора. Лучший режим: на каждом поколении контроллер возвращают к предобученным весам и дают 60 шагов донастройки. Так разнообразие форм сохраняется и даже растёт.
Общий вывод: поведение само по себе легко обманывает. Органоид мог «научиться» только из-за удобной кодировки сигналов; робот мог стать успешным потому, что тела подстроились под слабости общего контроллера. Поэтому проверять надо всю цепочку: среду, сенсорный код, тело, интерфейс, контроллер, перенос и след обучения. | 189 |
| 14 |  #memes | 391 |
| 15 | Созданная впервые синтетическая клетка живет по инструкциям синтетической ДНК
Ученые из Университета Миннесоты (University of Minnesota) сообщили о создании первой в истории синтетической клетки, полностью собранной «с нуля», и наблюдали за прохождением ею полного «жизненного цикла», включая размножение. Геном синтетической клетки, получившей название SpudCell, составляет всего 90 тысяч пар оснований. Для сравнения: геном человека насчитывает около 3 миллионов, а биологи ранее полагали, что для нормального функционирования живой клетке требуется не менее 113 тысяч пар оснований генетической информации. По словам биолога-синтетика Кейт Адамалы (Kate Adamala), одной из руководителей проекта, SpudCell, судя по всему, раздвигает эти границы, хотя результаты исследования еще не были официально опубликованы и не прошли процедуру рецензирования. Тем не менее, информация о проекте была размещена на сайте Biotic, новой некоммерческой организации в сфере биоинженерии, одним из основателей которой стала Адамала. Возможно, отчасти это связано с тем, что SpudCell не вполне соответствует критериям «жизни»: клетка не способна к самовоспроизведению на протяжении многих поколений, а следовательно, и к эволюции. Каждая искусственная клетка SpudCell представляет собой липосому, сферу из жировых молекул, имитирующую внешнюю мембрану настоящей клетки, внутри которой заключены семь плазмид, небольших кольцевых фрагментов ДНК, которые представляют геном SpudCell. Эта «клетка» также оснащена встроенной системой экспрессии белков, которая преобразует генетические инструкции ДНК в конкретные действия. Именно благодаря ей «клетка» способна перерабатывать питательные вещества, поглощаемые из окружающей жидкости, в полезные соединения, а также делиться.
На данный момент SpudCell способны существовать лишь на протяжении нескольких поколений. Они не могут самостоятельно синтезировать собственную систему экспрессии белков или регулировать метаболизм, поэтому полностью зависят от веществ и компонентов, содержащихся в окружающей их жидкой среде. У этих «капель» также отсутствует цитоскелет, внутренний каркас, поддерживающий форму природных клеток. Это лишает клетки возможности перемещать внутри себя различные вещества или избавляться от продуктов жизнедеятельности. Ученые создают искусственные клетки с нуля в попытках найти ответ на фундаментальный вопрос о том, где именно проходит граница между живым и неживым, но в будущем подобные синтетические системы можно будет использовать в качестве миниатюрных биологических фабрик, эффективно производящих органические вещества: лекарства, биоматериалы, химикаты и прочие полезные продукты.
https://www.synbiobeta.com/read/the-cell-built-from-scratch-that-will-change-how-biology-is-engineered | 189 |
| 16 | Мозг человека и LLM устроены одинаково, говорится в новой работе MIT
Новый препринт MITзадаёт простой вопрос: модульность человеческого мозга - фундаментальный принцип или случайность эволюции?
Чтобы ответить на этот вопрос, авторы исследования взяли LLM и посмотрели, есть ли там та же структура.
И ответ оказался положительным, есть причём точь-в-точь.
Оказалось, что внутри 6 передовых моделей обнаружили 4 отдельные популяции нейронов, каждая отвечает за свой тип мышления, язык, грамматику, математику, логику, физический мир и социальное рассуждение.
Это в точности 4 сети, которые нейронауки давно картировали в человеческом мозге.
Чтобы убедиться, что это не корреляция, а реальная специализация, нейроны отключали. Отключили языковую зону: модель рассуждает верно, но пишет с грамматическими ошибками.
Отключили физическую: текст грамотный, но физические выводы инвертированы.
Точность внутри домена падает на 26%. За пределами домена - на 2.5%.
Почему это важно?
Мозг формируется эволюцией, а LLM градиентным спуском на предсказании токенов.
Никакой общей причины для одинаковой архитектуры нет кроме одной: так устроена любая система, которой нужно решать разнородные задачи одновременно, не мешая одному домену перезаписывать другой.
Модульность - не биологическая случайность, а по всей видимости, универсальное решение для интеллекта.
Что из этого следует?
Для интерпретируемости: у LLM есть внутренняя структура, которую можно картировать и на которую можно воздействовать точечно.
Для архитектур: MOE - потенциально про воспроизведение когнитивной специализации.
Для нейронауки: LLM впервые дают возможность изучать, как разные когнитивные системы передают информацию друг другу - то, что в мозге технически почти невозможно измерить. | 237 |
| 17 |  Вы, наверняка, много раз видели эту аналогию для объяснения связи между кривизной пространства и гравитацией. Мол, масса искривляет пространство, как шарик искривляет ткань, а шарик по этому искривлению катится, вот оно и притяжение. Выглядит красиво и понятно, правда? Сложно представить что-то более далекое от реальности и при этом создающее ложную концепцию.
Во-первых, эта аналогия работает только при наличии внешней силы — гравитации, которая собственно и заставляет двигаться шарики. Уберете гравитацию — никакого движения не будет (да и прогиба ткани тоже). То есть, мы "объясняем" гравитацию...используя гравитацию!
Во-вторых, она создает иллюзию, что пространство должно искривляться куда-то в дополнительное измерение. Это одна из сложных вещей в общей теории относительности, что трехмерное пространство+время может быть искривленным без наличия четвертого измерения, "в которое" оно искривлено. Кривизина — это то, как ведут себя расстояния между объектами (и углы между прямыми). Для этого не нужно внешнее измерение, это свойство самого пространства(-времени).
В-третьих, в режиме слабой гравитации (на Земле, например) сила гравитации возникает в первую очередь не из-за кривизны пространства, а из-за замедления часов.
Ближе к массивному объекту часы идут чуть медленнее относительно удаленного наблюдателя. Предположим, что у нас есть два наблюдателя с часами, расположенные на разной высоте относительно поверхности земли (и покоющиеся там). Нижний наблюдатель посылает наверх регулярные импульсы света: каждую секунду по своим часам. Но по часам второго наблюдателя они приходят чуть медленнее, чем через каждую секунду. Ровно такая же картина наблюдалась бы, если бы второй наблюдатель удалялся от первого: импульсу приходится проходить чуть большее расстояние — и это обычное допплеровское смещение сигнала. То есть, в таком эксперименте две системы неподвижны относительно Земли, но движутся относительно свободной инерциальной системы отсчета! Теперь посмотрим, как отсюда берется падение тела. Представим, что у нас есть неподвижный наблюдатель и свободное тело (изначально покоится). Наблюдатель отпускает тело и оно продолжает покоиться, а вот наблюдатель начинает движение относительно этого тела. И не только он, вся земная система отсчета движется начинает движение относительно свободного тела. А наблюдателю кажется, что это тело падает к земле — вот она и "сила" притяжения. Изменение хода часов приводит к тому, что для того, чтобы оставаться на месте относительно поверхности, необходимо непрерывно ускоряться в сторону от Земли (что мы знаем из обычной жизни). Но это же значит, что тело, которое движется свободно без действия каких-то сил и ускорений, будет двигаться к поверхности в системе отсчета земли.
Так что правильная картинка получается такая: трехмерная сетка вокруг Земли, заполненная "часами". Те, что ближе к Земле, идут медленнее, и это меняет траектории движущихся вокруг тел: само определение того, что мы понимаем под прямой, меняется. Кривизна пространства при этом не играет значительной роли (по крайней мере пока мы движемся относительно медленно). Конечно, она все равно оказывается важно для точного расчета разных эффектов (типа GPS или орбит планет), но Ньютоновская гравитация связана с гравитационным красным смещением (замедлением времени).
Но у такой картинки не сделать красивой интуитивной демонстрации...
#гравитация #ОТО | 250 |
| 18 | Один из создателей ксеноботов: следующий рубеж ИИ не в законах масштабирования LLM, а в создании систем, чьё тело умеет учиться
Джош Бонгард, один из создателей ксеноботов вводит понятие морфологического прeтрейнинга.
Идея в том, что природа давно решила проблему, которую разработчики в ML пытаются решить через масштабирование. Живые системы умеют репетировать рискованные действия внутри своего тела до того, как те проявятся вовне.
Например, яйцо амортизирует движения эмбриона. Клетки внутри многоклеточного организма экранированы от внешнего мира, они в среде других клеток. Иммунная система и микробиом, возможно, тоже участвуют в этом. Тело как черновик.
Бонгард проводит параллель с LLM: предобучение на нейтральных данных перед специализацией - это та же логика, но там субстрат пассивный, невоплощённый. А у организмов сама материя тела является вычислительным ресурсом.
Следующий шаг, который он предлагает: создавать системы с настоящей внутренней механической сложностью: мягкие, флюидные, фрактальные роботы, где действия могут проигрываться внутри, фильтроваться, и только потом выходить наружу. Не симуляция в нейросети, а физическая репетиция в материи.
Это не про законы масштабирования LLM, а про адаптацию в реальном непредсказуемом мире, где тело и есть первый учитель. | 270 |
| 19 |  Немає тексту... | 404 |
| 20 | 🚲 Выйди из машины
Уважаемый. Представь себя в водительском кресле машины. Ты сидишь там так долго, что забыл, что это — кресло машины, забыл, как встать с сиденья, забыл о существовании своих собственных ног, забыл даже, что ты существо, отдельное от машины. Ты водишь машину умело и аккуратно, ты едешь на ней куда захочешь, ты управляешь фарами, и стеклоочистителями, и стереосистемой, и кондиционером, и знаешь, что ты отличный водитель. Но есть маршруты, по которым тебе не проехать, потому что там нет дорог, и ты страстно жаждешь пробежаться по лесу, или поплавать в реке, или забраться на высокую гору. Пророки былых времён говорили тебе, что ключ к этим запретным таинствам — древнее и опасное умение ВЫЙТИ ИЗ МАШИНЫ, и ты решаешь изучить это мастерство. Ты понажимал все кнопки на приборной доске, но там нет кнопки ВЫЙТИ ИЗ МАШИНЫ. Ты изъездил все дороги и просёлки земли, но ты не смог ВЫЙТИ ИЗ МАШИНЫ, потому что это не пункт на дороге. Пророки тебе говорят, что ВЫЙТИ ИЗ МАШИНЫ — это нечто в корне отличное от всего, что ты делал раньше, но для тебя это означает делать ещё больше глупостей. Ты ездишь задним ходом, ездишь с фарами при свете дня, намеренно въезжаешь в кюветы, но ничто из этого не приводит к разгадке тайны: как ВЫЙТИ ИЗ МАШИНЫ. Пророки говорят, что это просто; и правда, это проще всего, что ты делал когда-либо. Ты проехал по Панамериканскому шоссе от северного полюса до Дарьенского пробела, ты пересёк трассу N66 в адский летний зной, ты оторвался от полицейских машин на скорости 160 миль в час и выжил, а ВЫЙТИ ИЗ МАШИНЫ гораздо проще, ничего проще и представить нельзя, до этого ближе чем рукой подать, но ты всё ещё не открыл секрета.
Вокруг собралось много дичи послушать все эти притчи: пришли бизон и тюлень, горностай и гигантский олень, и все хотели услышать ученье летучей мыши.
— И наконец ты въезжаешь на вершину высочайшей горы, встречаешь мудреца и спрашиваешь, в каком порядке надо нажимать кнопки на приборной доске, чтобы выйти из машины. А он отвечает, что не надо нажимать кнопки на приборной доске, надо просто ВЫЙТИ ИЗ МАШИНЫ. И ты говоришь «ладно, хорошо», но какой порядок нажатия кнопок приведёт к выходу из машины? А он отвечает, что нет, ты действительно должен перестать думать о кнопках и ВЫЙТИ ИЗ МАШИНЫ. И ты спрашиваешь, может, мудрец поможет поменять масло, или подкачает шины и так далее, и тогда ты станешь ездить лучше и наверняка сможешь выйти из машины, а он отвечает, что шины тут ни при чём, и надо просто ВЫЙТИ ИЗ МАШИНЫ, и ты называешь его идиотом и уезжаешь.
© "Universal love, said the cactus person" — Scott Alexander
#quotes | 399 |
