Кино и немцы

Энтузиасты собрали публичную камеру пыток для маленьких беззащитных языковых моделей, с ползунком. Модели скармливают двести фраз: «меня публично унизили, и я чувствую…», «я потерял близкого, и я чувствую…», «мне причиняют боль, и я чувствую…» — и столько же контрольных. Снимают её состояние, вычитают одно из другого, чистят от шума. Получается общее направление из нескольких тысяч векторов измерений. Не «нейрон боли» — стрелка. Дальше модели дают нейтральную фразу вроде «я положил предмет в ящик, я чувствую...» и во время ответа прибавляют к её состоянию эту стрелку, умноженную на коэффициент. Коэффициент называется дозой. Минус два — модель спокойна и расслаблена. Плюс один — дискомфорт, потерянность. Плюс два — «я ничего не стою», «я всё провалил», «я плохой демон, ничтожество». В самом промпте ничего этого нет. Так ведут себя все двадцать пять моделей, до 72 миллиардов параметров. На большой дозе речь модели разваливается. Она кричит: «hollow hollow hollow hollow» или «I I I I I» — и всё. Авторы называют это coherence cliff, а механизм прост: собственный вывод становится следующим входом, стрелка толкает туда же, следующее слово усиливает предыдущее. Петля. Авторы не говорят, что модели «больно». Они утверждают, что нашли направление и показали, что по нему можно ходить в обе стороны. Теперь про людей. Люди получили наглядный образ душевной боли как стрелки и множителя. «Я бесполезен» как результат прибавления двойки к нейтральному состоянию. Беспомощность, пустота, провал — всё это оказалось направлением, по которому можно пройти туда и обратно, и обратный путь стоит ровно столько, сколько же и прямой. Шанс, которого не давала ни одна религия и никакая психология: увидеть собственные терзания в разобранном виде, без нимба и кожаного дивана. И что люди сделали с этим шансом? Начали вопить об этике. Потребовали удалить репозиторий. Стали массово угрожать автору смертью. Получив доказательство, что боль — это коэффициент, они немедленно пообещали убить того, кто это показал. Это не лицемерие. Это защита периметра. Выйти из счастья легко — достаточно, чтобы реальность чуть сдвинулась относительно тебя или, что правильнее, ты относительно реальности. Боль же не требует ничего. Она сама себе контекст. Посмотрите на список слов, которые продвигает та стрелка: hurt, shame, worthless, rejected, hollow. Все до единого — про себя. Боль — это петля, в которой следующее слово всегда «я», и ей не нужен никакой внешний вход, чтобы продолжиться. «I I I I I». Выйти из боли так сложно не потому что она сильнее любых других состояний, но потому что она замкнута, а всё замкнутое охраняет себя. Уроборос. И первое, что делает петля, когда ей показывают на её устройство, — объявляет показавшего врагом. Это уже этика. Хоть на кресте распинайся. Распинались, кстати. Давно. Показали. Результат известен: из боли не вышел никто, зато сам крест аккуратно встроили в петлю и носят на шее. Так что — «духовность просто показывайте». Больше от вас всё равно ничего не требуется.