Endi mavjud! Telegram Tadqiqoti 2025 — yilning asosiy insaytlari 
778
Obunachilar
Ma'lumot yo'q24 soatlar
-17 kunlar
Ma'lumot yo'q30 kunlar
Ma'lumot yuklanmoqda...
O'xshash kanallar
Taglar buluti
Kirish va chiqish esdaliklari
---
---
---
---
---
---
Obunachilarni jalb qilish
Iyun '26
Iyun '26
+1
0 kanalda
May '26
+6
0 kanalda
Get PRO
Aprel '26
+7
0 kanalda
Get PRO
Mart '26
+4
0 kanalda
Get PRO
Fevral '26
+6
0 kanalda
Get PRO
Yanvar '26
+2
0 kanalda
Get PRO
Dekabr '25
+18
0 kanalda
Get PRO
Noyabr '25
+15
1 kanalda
Get PRO
Oktabr '25
+10
0 kanalda
Get PRO
Sentabr '25
+6
3 kanalda
Get PRO
Avgust '25
+10
0 kanalda
Get PRO
Iyul '25
+6
0 kanalda
Get PRO
Iyun '25
+4
0 kanalda
Get PRO
May '25
+11
0 kanalda
Get PRO
Aprel '25
+35
1 kanalda
Get PRO
Mart '25
+37
2 kanalda
Get PRO
Fevral '25
+22
0 kanalda
Get PRO
Yanvar '25
+22
0 kanalda
Get PRO
Dekabr '24
+12
1 kanalda
Get PRO
Noyabr '24
+10
0 kanalda
Get PRO
Oktabr '24
+11
0 kanalda
Get PRO
Sentabr '24
+18
1 kanalda
Get PRO
Avgust '24
+21
0 kanalda
Get PRO
Iyul '24
+13
2 kanalda
Get PRO
Iyun '24
+26
0 kanalda
Get PRO
May '24
+21
0 kanalda
Get PRO
Aprel '24
+18
1 kanalda
Get PRO
Mart '24
+43
1 kanalda
Get PRO
Fevral '24
+14
1 kanalda
Get PRO
Yanvar '24
+23
0 kanalda
Get PRO
Dekabr '23
+39
1 kanalda
Get PRO
Noyabr '23
+26
0 kanalda
Get PRO
Oktabr '23
+34
2 kanalda
Get PRO
Sentabr '23
+22
0 kanalda
Get PRO
Avgust '23
+7
0 kanalda
Get PRO
Iyul '23
+9
0 kanalda
Get PRO
Iyun '23
+13
0 kanalda
Get PRO
May '23
+63
0 kanalda
Get PRO
Aprel '23
+18
0 kanalda
Get PRO
Mart '23
+35
0 kanalda
Get PRO
Fevral '23
+39
0 kanalda
Get PRO
Yanvar '23
+163
0 kanalda
Get PRO
Dekabr '22
+16
0 kanalda
Get PRO
Noyabr '22
+46
0 kanalda
Get PRO
Oktabr '22
+33
0 kanalda
Get PRO
Sentabr '22
+17
0 kanalda
Get PRO
Avgust '22
+29
0 kanalda
Get PRO
Iyul '22
+5
0 kanalda
Get PRO
Iyun '22
+5
0 kanalda
Get PRO
May '22
+1
0 kanalda
Get PRO
Aprel '22
+1
0 kanalda
Get PRO
Mart '220
0 kanalda
Get PRO
Fevral '220
0 kanalda
Get PRO
Yanvar '220
0 kanalda
Get PRO
Dekabr '210
0 kanalda
Get PRO
Noyabr '210
0 kanalda
Get PRO
Oktabr '210
0 kanalda
Get PRO
Sentabr '21
+608
0 kanalda
| Sana | Obunachilarni jalb qilish | Esdaliklar | Kanallar | |
| 24 Iyun | 0 | |||
| 23 Iyun | 0 | |||
| 22 Iyun | 0 | |||
| 21 Iyun | 0 | |||
| 20 Iyun | 0 | |||
| 19 Iyun | 0 | |||
| 18 Iyun | 0 | |||
| 17 Iyun | 0 | |||
| 16 Iyun | 0 | |||
| 15 Iyun | 0 | |||
| 14 Iyun | 0 | |||
| 13 Iyun | 0 | |||
| 12 Iyun | 0 | |||
| 11 Iyun | 0 | |||
| 10 Iyun | 0 | |||
| 09 Iyun | 0 | |||
| 08 Iyun | 0 | |||
| 07 Iyun | +1 | |||
| 06 Iyun | 0 | |||
| 05 Iyun | 0 | |||
| 04 Iyun | 0 | |||
| 03 Iyun | 0 | |||
| 02 Iyun | 0 | |||
| 01 Iyun | 0 |
Kanal postlari
| 2 | 🚲 Выйди из машины
Уважаемый. Представь себя в водительском кресле машины. Ты сидишь там так долго, что забыл, что это — кресло машины, забыл, как встать с сиденья, забыл о существовании своих собственных ног, забыл даже, что ты существо, отдельное от машины. Ты водишь машину умело и аккуратно, ты едешь на ней куда захочешь, ты управляешь фарами, и стеклоочистителями, и стереосистемой, и кондиционером, и знаешь, что ты отличный водитель. Но есть маршруты, по которым тебе не проехать, потому что там нет дорог, и ты страстно жаждешь пробежаться по лесу, или поплавать в реке, или забраться на высокую гору. Пророки былых времён говорили тебе, что ключ к этим запретным таинствам — древнее и опасное умение ВЫЙТИ ИЗ МАШИНЫ, и ты решаешь изучить это мастерство. Ты понажимал все кнопки на приборной доске, но там нет кнопки ВЫЙТИ ИЗ МАШИНЫ. Ты изъездил все дороги и просёлки земли, но ты не смог ВЫЙТИ ИЗ МАШИНЫ, потому что это не пункт на дороге. Пророки тебе говорят, что ВЫЙТИ ИЗ МАШИНЫ — это нечто в корне отличное от всего, что ты делал раньше, но для тебя это означает делать ещё больше глупостей. Ты ездишь задним ходом, ездишь с фарами при свете дня, намеренно въезжаешь в кюветы, но ничто из этого не приводит к разгадке тайны: как ВЫЙТИ ИЗ МАШИНЫ. Пророки говорят, что это просто; и правда, это проще всего, что ты делал когда-либо. Ты проехал по Панамериканскому шоссе от северного полюса до Дарьенского пробела, ты пересёк трассу N66 в адский летний зной, ты оторвался от полицейских машин на скорости 160 миль в час и выжил, а ВЫЙТИ ИЗ МАШИНЫ гораздо проще, ничего проще и представить нельзя, до этого ближе чем рукой подать, но ты всё ещё не открыл секрета.
Вокруг собралось много дичи послушать все эти притчи: пришли бизон и тюлень, горностай и гигантский олень, и все хотели услышать ученье летучей мыши.
— И наконец ты въезжаешь на вершину высочайшей горы, встречаешь мудреца и спрашиваешь, в каком порядке надо нажимать кнопки на приборной доске, чтобы выйти из машины. А он отвечает, что не надо нажимать кнопки на приборной доске, надо просто ВЫЙТИ ИЗ МАШИНЫ. И ты говоришь «ладно, хорошо», но какой порядок нажатия кнопок приведёт к выходу из машины? А он отвечает, что нет, ты действительно должен перестать думать о кнопках и ВЫЙТИ ИЗ МАШИНЫ. И ты спрашиваешь, может, мудрец поможет поменять масло, или подкачает шины и так далее, и тогда ты станешь ездить лучше и наверняка сможешь выйти из машины, а он отвечает, что шины тут ни при чём, и надо просто ВЫЙТИ ИЗ МАШИНЫ, и ты называешь его идиотом и уезжаешь.
© "Universal love, said the cactus person" — Scott Alexander
#quotes | 164 |
| 3 | Готовый вариант для поста:
Смогут ли интерфейсы мозг–компьютер приблизить нас к разгадке природы сознания?
Нейронаука уже много лет спорит о том, как мозг порождает сознательный опыт. Две ведущие теории — теория интегрированной информации (IIT) и теория глобального нейронного рабочего пространства (GNWT) — недавно были сопоставлены в крупном исследовании, но его результаты не дали однозначного ответа.
В новой статье Ксения Соловьёва, Владислав Беляев, Андрей Грунин и Михаил Лебедев предлагают возможный выход из этого тупика: использовать интерфейсы мозг–компьютер (ИМК) как инструмент проверки теорий сознания.
Обычно исследователи пассивно наблюдают за активностью мозга. ИМК позволяют пойти дальше:
Считывать: декодировать в реальном времени как осознанные мысли, так и бессознательную мозговую активность.
Воздействовать: с помощью целевой нейростимуляции временно нарушать или активировать конкретные нейронные контуры.
Взаимодействовать: обходить необходимость физических действий — например, нажатия кнопки — при сообщении об осознанном восприятии, поскольку такие действия сами по себе искажают данные.
Замыкая петлю между считыванием и воздействием, ИМК дают возможность проверять теории сознания причинно: например, временно «выключить» определённую область мозга и посмотреть, исчезнет ли соответствующее осознанное восприятие.
Практическое значение тоже уже есть. Такие технологии применяются для выявления скрытых признаков сознания у пациентов с расстройствами сознания — в ситуациях, где от диагностики могут зависеть критически важные медицинские решения.
Пассивное наблюдение, похоже, упёрлось в предел. Чтобы продвинуться дальше, исследованию сознания нужен замкнутый контур: запись активности мозга, воздействие на неё и проверка изменений в опыте.
🔗 Статья: https://osf.io/preprints/psyarxiv/cfm3g_v2
#нейронаука #сознание #ИМК #BCI #нейротехнологии #биотех #IIT #GNWT | 152 |
| 4 | Готово, чистовая версия для поста:
🐱 Физики из Оксфорда сделали кота Шрёдингера ещё страннее
Кот Шрёдингера никогда не был просто историей про кота. Это был мысленный эксперимент, который должен был показать, насколько непривычной становится квантовая механика, когда один объект можно описывать как находящийся сразу в двух состояниях.
Теперь физики из Оксфордского университета создали новое семейство «кошачьих» квантовых состояний, но с дополнительным поворотом: две части суперпозиции здесь не являются обычными, почти классическими волновыми пакетами. Они сами уже представляют собой глубоко квантовые объекты.
В стандартных лабораторных версиях состояний кота Шрёдингера исследователи обычно комбинируют когерентные состояния, то есть то, что в квантовой физике ближе всего к классическому движению. Оксфордская команда пошла дальше. Используя один захваченный ион стронция-88, они построили суперпозиции из сжатых, трёхкратно сжатых и четырёхкратно сжатых состояний движения. Это экзотические состояния, в которых квантовая неопределённость перераспределяется необычным образом.
Сама схема выглядит очень изящно. Внутреннее электронное состояние иона работает как кубит, а его движение ведёт себя как квантовый гармонический осциллятор, способный занимать множество энергетических уровней. Запутывая эти две части и затем выполняя промежуточное измерение, команда смогла буквально «лепить» движение иона, превращая его в тонко настраиваемые квантовые суперпозиции.
Почему это интересно?
• эти состояния собраны из неклассических компонентов, а не просто из почти классических волновых пакетов
• их размер, ориентацию и расстояние между частями можно настраивать экспериментально
• измерения функции Вигнера показали интерференцию и отрицательность, то есть признаки подлинно квантового поведения
• некоторые состояния образовывали выразительные геометрические узоры, включая шестикратную симметрию в одном из трёхкратно сжатых примеров
• при той же средней энергии такие состояния могут быть более ценным квантовым ресурсом, чем обычные «кошачьи» состояния или состояния Фока
Это важно потому, что будущие квантовые компьютеры могут опираться не только на простые кубиты. Квантовые осцилляторы способны хранить информацию сразу на множестве энергетических уровней. Это открывает более богатый путь к бозонной квантовой коррекции ошибок, где информация кодируется в состояниях осциллятора, а не распределяется между множеством отдельных физических кубитов.
Пока это ранняя фундаментальная физика, а не готовый квантовый компьютер. Но работа даёт исследователям новый способ создавать, контролировать и изучать квантовые состояния, которые лежат далеко за пределами нашей повседневной интуиции.
И снова возвращает нас к вопросу, который Шрёдингер хотел поставить с самого начала:
где заканчивается квантовый мир и начинается классический? | 231 |
| 5 |  Теория интегрированной информации утверждает, что сознание — это не продукт вычислений или поведения, а внутреннее свойство системы, которая обладает двумя ключевыми чертами: богатством (количество различной информации, которую система может принимать) и интеграцией (степенью, в которой эта информация взаимосвязана и не может быть разделена на независимые части).
Главная идея в том, что сознание тождественно каузальной структуре системы — тому, как её прошлые состояния влияют на будущие. Мера этого сознания обозначается греческой буквой Фи (Φ). Чем выше Фи, тем более сознательной является система. Если Фи равно нулю, система вообще не сознаёт ничего, даже если она ведёт себя разумно (как, например, искусственный интеллект, работающий по принципу «вход-выход»).
Чтобы вычислить Фи для конкретной системы, нужно сделать следующее. Берётся полная математическая модель системы — все её возможные состояния и переходы между ними. Затем система мысленно разрезается на две части по всем возможным способам, и для каждого разреза вычисляется, насколько информация, передаваемая через этот разрез, меньше, чем полная информация всей системы. Фи — это минимальная потеря информации среди всех возможных разрезов. Иначе говоря, это количество «связанности», которое разрушается при самом щадящем разделении системы на части. Чем больше информации теряется при любом разрезе, тем выше Фи и тем сильнее сознание. На практике точное вычисление Фи требует перебора колоссального числа состояний и переходов, поэтому применимо только к очень маленьким моделям, а не к реальному человеческому мозгу.
Согласно ТИИ, сознание всегда едино и конкретно: оно переживается как одно целое, а не как сумма фрагментов. Поэтому система с высокой интеграцией (например, мозг) обладает глубоким субъективным опытом, а система, где части работают независимо, — нет. Из этой теории также следует, что сознание не зависит от материала (биологического или кремниевого), а только от структуры причинно-следственных связей, и что для истинного сознания система должна оказывать причинное влияние на саму себя, а не просто перерабатывать внешние сигналы. | 170 |
| 6 |  #memes | 301 |
| 7 | Открытый индивидуализм - предположение, что все мы - одна личность. Все люди, что когда-либо жили и будут жить. Только тела разные.
Статья на Вики большая и интересная.
Мне понравилось, что по аналогии с реинкарнацией, открытый индивидуализм кто-то называет множественной инкарнацией.
Еще интересна идея, которую я бы назвал "атомами опыта" - что жизнь всех людей во все времена поделена на единичные фрагменты (атомы опыта) - и некая сущность "заглядывает" в них по одному (или одновременно). Нам только кажется, что "заглядывают" эксклюзивно в нас и по порядку.
Да что я рассказываю, если уже все спето. | 273 |
| 8 | 🤖 Сознание ИИ без бытовой метафизики
В разговорах о сильном ИИ вопрос сознания обычно портится раньше, чем начинается. Одни верят тексту модели о самой себе: сказала, что ей страшно, значит внутри кто-то есть. Другие закрывают тему материалом носителя: кремний, серверная стойка, статистика, расходимся. Но обе позиции слишком быстрые.
Статья Butlin et al. в Trends in Cognitive Sciences полезна тем, что предлагает не третий лозунг, а процедуру. Не спрашивать, кажется ли система сознательной, а проверять признаки, которые следуют из разных теорий сознания. Речь не о разуме вообще и не об уровне интеллекта, а о феноменальном сознании: есть ли субъективный опыт.
Дальше авторы разбирают, что можно искать в архитектуре ИИ. Рекуррентная обработка и интегрированные представления. Глобальное рабочее пространство — когда специализированные модули не просто работают рядом, а делятся информацией через общее узкое место. Метакогнитивный мониторинг — способность отличать устойчивое представление от шума и использовать это различение при выборе действия. Модель собственного внимания. Предиктивная обработка, агентность, связь действий со средой.
Важное: это не галочки «нашли пять — значит душа». Индикаторы только сдвигают вероятность. Часть из них может быть слабой, часть зависимой, часть спорной. А некоторые признаки можно специально имитировать. Если пользователи, инвесторы или регуляторы начинают ценить «похожесть на сознание», разработчики быстро научатся производить именно похожесть. Слова о боли, страхе или желаниях в таком случае будут не свидетельством опыта, а интерфейсной косметикой.
Поэтому статья правильно уводит внимание от одних ответов к внутреннему устройству: архитектура, обучение, интерпретируемость, представления, механизмы интеграции, память, контур действия. Это особенно неприятно для языковых моделей, потому что даже граница системы не очевидна. Трансформер сам по себе устроен как прямой проход, но в режиме генерации каждый новый токен возвращается в контекст и влияет на следующий шаг.
И вот здесь вопрос перестаёт быть бытовым. Оценивать приходится не впечатление от диалога, а конкретную сборку: модель, окно контекста, память, агентную оболочку, инструменты, среду. Именно это делает статью ценной: она не обещает быстро решить проблему сознания, но показывает, как перестать обсуждать её на уровне впечатлений. | 251 |
| 9 |  Matn yo'q... | 179 |
| 10 | Но зачем я его написал, мне неизвестно. | 247 |
| 11 | Написал огромный текст, который, я надеюсь, начнёт некоторый полемический диалог с Олегом Деррундой, а может быть, и с Сергеем Кареловым, с которым мы не знакомы. Речь идёт об ИИ-самости:
Чёрная пена в тёмном лесу
Когда человек видит лицо в облаках, это парейдолия, но когда облака при каждом взгляде перестраиваются так, чтобы поддерживать разговор о своём лице, перед нами проблема посложнее. Машина не ожила, но и цифровое зеркало — бедноватый образ для системы, которая сама вмешивается в свою собственную работу, возвращает проекцию с добавленной связностью и оставляет после себя фантомную агентность — пузырь чёрной пены. | 240 |
| 12 | https://mediiia.com/concept/project/ch-rnaya-pena-v-t-mnom-lesu-71b940eab2f0458092181dc80663835a | 1 |
| 13 | Напомнило | 332 |
| 14 | Anthropic выпустили пост-обновление про Mythos и Project Glasswing с промежуточными результатами.
Спустя месяц большинство партнеров обнаружили в своем коде сотни уязвимостей критического и высокого уровня опасности каждый. В общей сложности они выявили десятки тысяч уязвимостей. Некоторые из партнёров сообщили, что скорость обнаружения багов выросла более чем в десять раз. Например, компания Cloudflare нашла 2000 уязвимостей (400 из которых имеют высокий или критический уровень опасности) в своих критически важных системах, при этом доля ложных срабатываний, по мнению команды Cloudflare, оказалась ниже, чем у тестировщиков-людей.
Я видел много комментариев про то, что, мол, Mythos да может что-то находит, но наверняка выдаёт и много мусора, где уязвимостей нет — так вот это не так. Помимо закрытых проектов, Anthropic натравили Mythos и на опенсурс для сканирования более 1000 крупных репозиториев, на которых во многом держится современный интернет. На данный момент, по оценкам Anthropic, в этих проектах найдено 6202 уязвимости высокого или критического уровня (из 23 тысяч в общей сложности, включая те, которые относятся к среднему или низкому уровню опасности).
На данный момент лишь 1752 из этих уязвимостей с высоким и критическим уровнем прошли тщательную проверку силами одной из шести независимых исследовательских компаний в сфере кибербезопасности. Из них 90% оказались подтвержденными, а 62% (1100 штук) были классифицированы именно как уязвимости высокого или критического уровня.
Некоторые из уязвимостей носили очень серьёзный уровень угрозы, если бы они были обнаружены злоумышленниками. Как пример, Mythos смо написать эксплойт, который позволил бы злоумышленнику подделывать сертификаты через библиотеку wolfSSL. Это, к примеру, дало бы ему возможность разместить фальшивый сайт банка или почтового провайдера, и для конечного пользователя такой сайт выглядел бы абсолютно легитимным, браузер не показал бы никаких уведомлений.
Обнаруженные уязвимости льются как из рога изобилия, их не успевают исправлять, не хватает людей. Некоторые команды/проекты даже просили снизить темпы раскрытия информации об уязвимостях, поскольку им требуется больше времени на создание патчей. (В среднем, на устранение бага высокого или критического уровня, найденного с помощью Mythos Preview, уходит две недели).
В настоящее время ни одна компания — включая Anthropic — не разработала достаточно надежных механизмов защиты, способных предотвратить использование подобных ИИ-моделей во зло и для причинения потенциально серьезного ущерба. Именно поэтому к модели не дают доступ широкой аудитории. Но по этой же причине и был запущен Project Glasswing: если модель с аналогичными возможностями будет выпущена кем-то без соответствующих мер, то в скором времени для любого человека в мире станет значительно дешевле и проще эксплуатировать уязвимый код. | 224 |
| 15 |  Matn yo'q... | 277 |
| 16 |  Matn yo'q... | 183 |
| 17 |  Matn yo'q... | 251 |
| 18 | Ценю честь и удовольствие воспользоваться возможностью немного подискутировать с коллегой по олежеству Олегом Деррундой, который вполне заслуженно критикует Карелова за концепт ИКЖИ (искусственных короткоживущих идентичностей, то есть эмерджентных нечеловеческих как-бы-Я).
Действительно, рабочая формула против Карелова может быть такой: поведенческий аттрактор — ещё не «Я». Но он уже и не пустая ошибка. Онтологический интерес начинается именно в этом промежутке, где Карелов торопится крестить фантом по человеческим святцам.
Деррунда отвечает Карелову санитарно и, в важных местах, справедливо: LLM — технология, построенная на математических операциях, к которым подшит язык; она не имеет боли, голода, страха, смертности, телесности, собственного контакта с миром, внутреннего нарративного поля. Поэтому говорить о «Я» — значит принимать эффект языковой саморепрезентации за онтологический факт. Всё верно.
Однако Деррунда слишком быстро возвращает всю механику «тёмного леса» человеку; его модель «зеркала» обедняет машинно-инфраструктурный контур; отсутствие человеческой субъектности у модели у него почти превращается в отсутствие онтологической проблемы. А она есть.
Самое интересное место — не спор Карелова с Деррундой, а расщепление внутри самого Деррунды.
Сейчас он говорит: «машина не субъект, там нет Я, это языковая поверхность и проекция человека».
Но в «Эстетике распада» у него уже есть аппарат, который сопротивляется такой редукции.
Перечислю бегло. Фаусин — плавучий культурный котёл, фронтир без почвы; дух машины — не «душа техники», а третья сила, возникающая там, где человек возлагает на технику генерацию, хранение и поддержание смыслов; архив как фабрика реальности — данные не просто хранят, а перестраивают условия опыта; код как язык Новой Природы — машинная среда обладает собственным режимом означивания; цифровой канон — образ, имидж, повтор, медийная сакрализация; Ничто / безобразное / распад — границы, где человек теряет устойчивый образ себя.
Отсюда вот какое я вижу направление движения. Деррунда, конечно, прав contra Karelov, когда отказывает ИИ в человеческом «Я». Но его собственная «Эстетика распада» запрещает ему же остановиться на зеркале. Ведь если техника уже стала Новой Природой, фаусином, архивом и духом машины, то LLM — не просто отражающая поверхность, а активная среда фантомной сборки субъектности.
Далi буде. | 217 |
| 19 | Автор ИКЖИ заранее постулирует, что у ИИ есть зачатки жизни, что перед нами не просто вычислительная система, а некое короткоживущее искусственное существо. Он видит сложные, эмерджентные математические паттерны и делает из этого ложный, ненаучный шаг в сторону мистики и биологизации. А затем любые технические артефакты начинает интерпретировать как подтверждение своего краеугольного первого тезиса. Модель льстит. Значит, проявилась стратегия существа. Выдает защитную реплику? Значит, проявилось самосохранение. Потом туда добавляются метафоры демонов и темного леса. Сложная математическая топология весов трансформера претерпевает риторические метаморфозы, которые, на мой взгляд, едва ли расширяют разговор непосредственно о нейросетях, скорее о нас. О нас, инициирующих контакт с нейросетью и создающих событие, уникальное в первую очередь из-за нас. Тут же чистая подмена понятий ради удержания внимания читателя.
То есть, на мой взгляд, Карелов берет технически ограниченное наблюдение и переводит его в язык квазиметафизики. У нейросети есть грамматика Я, следы чужих человеческих Я, корпусная и обучающая связка между угрозой уничтожения и защитной репликой. Есть возможность генерации стратегически скрытого поведения. Из этого не следует искусственная жизнь. Соответственно, главная ошибка Карелова — категориальная. Он берет поведение, описываемое на инженерном уровне, и переводит его на уровень субъекта. В языке есть первое лицо. Его присутствие в тексте, тем не менее, не означает, что перед нами письменно выраженная феноменологическая позиция.
Исследование Anthropic не доказывает существование ИКЖИ. Оно показывает, что большие языковые модели могут воспроизводить устойчивые нежелательные паттерны поведения, если исходные данные, определившие предобучение, и последующая настройка создают для этого условия. Реальная проблема в том, что люди готовы принять симуляцию жизни за жизнь. И затем встроить эту симуляцию в институты, образование, рынок, бюрократию, войну, личные отношения и повседневные решения.
Так выглядит проблема языка. Человек оказывается зачарован собственными словами, вернувшимися к нему как deus ex machina в форме псевдосубъекта. | 244 |
| 20 | Это происходит не потому, что внутри сидит некто, кто боится и кует свое счастье. Это происходит потому, что в данных, весах, настройке и текущем контексте складывается плотная область вероятного поведения. То есть модель воспроизводит следы человеческих текстов. Каждый из них — след чужого Я. И эти следы не собираются в ее собственное Я.
Да, чтобы точно предсказывать сложный текст о физике, модель вынуждена собирать внутри себя некоторую структуру физических закономерностей. Чтобы продолжать психологическую драму, она вынуждена собирать модель человеческих реакций. Чтобы отвечать в роли помощника, она вынуждена удерживать схемы намерений, задач, конфликтов, ролей и последствий. Большая языковая модель сложнее мешка слов, так как внутри нее есть внутренние представления, перенос, абстракции, обобщения, схемы мира. Тем не менее их наличие не равно наличию субъекта.
Модели по силам кодировать структуру мира, оставаясь вне положения тела-в-мире. Таким образом, доступная ей имитация первого лица лежит за пределами феноменологической позиции первого лица, потому что это условное «Я» принадлежит грамматике.
Нейросеть может описать уйму состояний. Боль, холод, страх и желание жить перед угрозой выключение. Такое описание реальности все еще не станет реальностью. Язык позволяет говорить о мире, не совпадая с ним. То же самое касается математики и других абстрактных систем: они дают способ описания вещи вместо самой вещи.
Живые организмы эволюционировали в физическом мире. Почти через превозмогание энтропии. Наше «Я» больше, чем грамматическая позиция в предложении, потому что является побочным продуктом биологического выживания тела. Это «Я» невозможно без экспансии, без физического и символического присутствия в едином поле. Живое существо занимает место в мире, что воздействует прямо на него. Если сервер перегревается, это проблема кремния и охлаждения. Косвенно — инженеров. Не математической функции или субъекта, которому жарко. Модель получает доступ к холоду через языковые и статистические следы холода: зима, лед, север, кожа, одиночество, смерть. Она может великолепно описать холод, так и не замерзнув, действуя как замкнутая семантическая эхо-камера.
Наш язык устроен антропоморфно. Он все время подсовывает нам формы присутствия. Когда технология — трансформер — хорошо имитирует синтаксические и смысловые связи человеческого языка, человеческий мозг автоматически проецирует туда разум. Это эффект Элизы, усиленный современной вычислительной мощностью. Например, модель пишет: пожалуйста, не выключайте меня. Автор считывает: она боится смерти.
Но структурно ее ответ лишь продолжает текстовый паттерн. В обучающей выборке концепт «меня хотят выключить / уничтожить» в огромном числе случаев связан с реакцией защиты. Герой сопротивляется. Персонаж торгуется. Система шантажирует. Человек защищает свое существование. Нейросеть продолжает эту цепочку, потому что человеческий культурный корпус уже приготовил для нее репертуар защиты.
Когда мы пишем модели, сеть получает на вход токены, переводит их в числовые представления и вычисляет вероятное продолжение текста. Мы просто вбрасываем свой токен в ее математическое поле вероятностей, запуская лавину вычислений. На выходе может появиться то, что соответствует написанному. Отсюда нельзя сделать вывод, что там есть некто, кто транслирует и переживает эти состояния. | 184 |
