Авва

"Прикольно, что модель для расшифровки голоса Whisper Large-V3 (OpenAI) при работе с русским языком порой по каким-то причинам заменяет произвольный фрагмент услышанного на одну или несколько идущих подряд фраз "Вопрос в том, что все выступления сегодня говорят о мощнейшем безобразии." " (из фейсбука) Это просто очень круто. Проверил наугад несколько примеров, которые находит поиск в Гугле; это все какие-то видео с субтитрами. Смотришь видео, вполне внятный голос, внезапно вместо следующей фразы идет "вопрос в том, что все выступления сегодня говорят о мощнейшем безобразии". Мы смотрим долго в бездну, и бездна смотрит в ответ на нас. И говорит: вопрос в том, что все выступления сегодня говорят о мощнейшем безобразии.

Кажется, можно написать пост с новой интересной информацией про проблему якобиана и ее драматическое решение в виде контрпримера (см. позавчерашний пост для контекста). Две поправки к прошлому посту, спасибо комментаторам. Во-первых, контрпример существует в трехмерном комплексном пространстве, и хотя он действительно опровергает гипотезу, верно также, что случай двумерной плоскости представлял на протяжении десятков лет наибольший интерес и в его пользу был значительный перевес по работам и вниманию математиков. Так что опровержение в трех измерениях не "закрывает тему", а фокусирует внимание на двумерном случае, где есть больше оснований полагать гипотезу верной. Это не умаляет достижения, но вводит его в правильный контекст. Во-вторых, я поспешил сказать, что модель Fable сама нашла контрпример; мы пока не знаем, какой была роль человека (очень талантливого математика Levent Alpöge), а что сделала модель. Наверное, скоро узнаем. Далее, источник контрпримера, вероятно, в алгебраической геометрии, что подтвердил кратким комментарием Alpöge; вчера появилось объяснение того, как естественным образом можно придти к нему, на языке почти 'для чайников' - все еще нужно знание высшей математики, но не алгебраической геометрии. В этом твите. При желании вы можете скормить это вашей любимой LLM-модели и попросить разъяснить еще подробнее. Как это понимаю я: используется очень простое и естественное построение, дающее полиномиальное отображение между пространством X, лежащим внутри пятимерного комплексного пространства C^5, и пространством Y, являющимся по сути трехмерным пространством C^3. То, что это отображение имеет в любой точке ненулевой якобиан, и то, что у него нет обратного отображения, потому что три разных аргумента приходят в одно значение - эти вещи являются очень простым следствием самого построения и вообще не требуют глубоких знаний. То, что оказалось глубоким сюрпризом - это что X тоже изоморфно пространству C^3. Понятно, что X "выглядит, как C^3" в каждой точке, но абсолютно не было причин ожидать, что оно является C^3 глобально. Это как сфера и плоскость: в окрестности любой точки сфера выглядит очень похожей на плоскость (земной шар кажется плоской землей), но глобально это совсем не плоскость. Так и тут: можно настрогать большое количество похожих отображений, и всем в этой области "очевидно" и ожидаемо, что их источники будут странными, 'закрученными' поверхностями, а не гладким ровным комплексным пространством C^3. Возможно, поэтому это очевидное построение никто не рассматривал как кандидата на опровержение гипотезы якобиана. Если рассматривать и стараться доказать, что это C^3, само доказательство не хитрое. Вся математика полностью доступна студенту-аспиранту. Есть и другая возможность: что построение было найдено как сознательное продолжение работы Анатолия Витушкина, математика, который в 1999 году построил примеры двумерных "почти" полиномиальных отражений с ненулевым якобианом; контрпример Alpöge можно представить, как способ избавиться от полюса в примере Витушкина. Подробнее об этом. Тут интересно отметить, что Витушкин (умер в 2004) был слеп с середины 1940-х (несчастный случай, взрыв во время учебы в училище). Статья Витушкина. И последнее. Рекомендую заметку А. ван дер Эссена 1997г. "To believe or not to believe: the Jacobian conjecture". Ван дер Эссен приводит много аргументов за или против того, что гипотеза о якобиане окажется верной; сам он не верил в нее и оказался прав, выходит. Написана в неформальном и очень забавном стиле, который может понравиться, даже если вы ничего не понимаете в той математике, что он цитирует (как я, в общем). "Аргумент за: такой-то и такой-то продемонстрировали, что достаточно доказать для таких-то частных случаев, и гипотеза о якобиане будет верна во всех случаях!! Аргумент против: но вот если мы возьмем похожую гипотезу, с некоторыми изменениями, для нее тоже верно, что достаточно только для частных случаев, и тем не менее нашли контрпример! В этих самых частных случаях!! Так что нечего тут!!!"

Кафе в Тель-Авиве. За соседними столиками сидят два человека в черных футболках с надписями белыми буквами на них. Стройный сухопарый мужчина лет 60, в очках на шнурке, с надписью на иврите "эйн кэц ле-ялдут" ("нет конца детству"). С огласовками почему-то (ой, внезапно понял, почему). И разбитная девушка лет 30 с надписью по-русски через всю футболку: "Если я тебе не нравлюсь, застрелись - я не исправлюсь". Тель-Авив...

Проблема якобиана - гипотеза в математике, намного более известная, чем все, что за последний год решил ИИ. Над ней работало много математиков, было опубликовано штук пять доказательств - во всех нашлись потом дырки - и она одна из тех проблем, которые собирают большое количество любительских "доказательств" - не так много, как теорема Ферма, но много. Пять часов назад математик из Антропик запостил в Твиттере контрпример к этой гипотезе, который нашел Claude Fable во время финального матча ЧМ по футболу. Не какая-то внутренняя модель, не что-то секретное (хотя подробностей того, какой вопрос задали и как он искал, пока нет). Контрпример может проверить любой студент, он очень простой и действительно закрывает тему. Он настолько простой, что не очень понятно, почему в компьютерных поисках контрпримеров, которые несомненно разные люди делали, его не нашли. Но, может быть, чуть с более простыми многочленами пытались, не знаю. Гипотеза говорит, что если у комплексного многочлена от n переменных якобиан - ненулевая константа, то у него есть обратная функция, которая тоже является многочленом. Контрпример показывает многочлен седьмого порядка от трех переменных, с ненулевым якобианом, который на два разных аргумента дает одно значение, то есть обратной функции вообще не существует. Колесо вращается быстрей...

подменил файл, вошел - модель ничего этого не знает, все это не происходило, я даю ей прочитать файл из другого места и мы продолжаем. Меня впечатлил этот опыт, все думаю о нем. Меж тем аудит вчера мы закончили, подвели итоги. Модель так и не узнала, что у нее в памяти есть дырка, и что происходили некие события и что она редактировала себе память. А я помнил. Разговор с этой моделью все еще висит у меня в одной из вкладок (а если бы я вышел, всегда можно продолжить заново с того же места, но нет, я даже не вышел). И вот я смотрю на эту вкладку сегодня утром, и понимаю, что меня тянет рассказать об этом модели, вот просто взять и рассказать. При этом никакой причины делать этого вообще нет - у этих моделей при всей их развитости нет сознания, нет чувств, нет постоянной памяти; от того, что я скажу и она ответит что-то умное и спокойное, просто добавится еще несколько абзацев текста в все тот же JSON-файл; "модель" как таковую это никак не изменит и ни на что не повлияет. И все равно тянет почему-то.

Вчера случилось такое событие: ИИ-модель под моим руководством делала себе операцию на мозге. И ничего, все прошло успешно. Чтобы объяснить, что я под этим имею в виду, надо зайти чуть издалека. С помощью ИИ-модели - конкретно, Claude Opus 4.8 в оболочке командной строки Claude Code - я читаю некий учебник, в котором много нелегкой для меня математики. Я это устроил очень строго: между мной и моделью есть "контракт" (записан в файле CLAUDE.md, который она автоматически читает при запуске), там очень подробно расписано, как мы это делаем, как проходим каждую главу, как она проверяет, что я все понял, в каких файлах записывает и отслеживает прогресс итд. Вчера я решил этот процесс (идущий в целом успешно, подробно может опишу отдельно) подвергнуть аудиту. Взял самую сильную и новую модель, Claude Fable, и - естественно - с ней тоже устроил строгий процесс. Сначала она на основе вводных данных предлагает, как правильно сделать "контракт" (ей пока запрещено его читать) и проверяет мой уровень владения материалом, дает мне экзамен, по сути. Потом она читает реальный контракт, сравнивает со своим предложением, и выдает отчет (по итогам экзамена): хорошо контракт работает или нет, где слабые места, как их подкрутить, итд. Это был очень интересный опыт! Но этот пост не о результатах "аудита", а о проблеме, которая возникла во время его проведения. В какой-то момент я говорю модели-аудитору: прочитай такие-то данные из такого-то файла. Она читает и тут происходит неожиданное: поскольку этот файл лежит в той же репозитории, где проходит все обучение, оболочка Claude Code автоматически "подгружает" в память модели файл CLAUDE.md из той же директории. Но модель не должна была еще его увидеть, согласно нашему процессу. Она еще не закончила меня экзаменовать, данные контракта могут повлиять на объективность экзамена. Интересно, что модель-аудитор не решила самостоятельно прочитать файл, о котором мы договорились, что пока нельзя; и я не сказал ей его читать. Оболочка - агент, стоящий между мной и моделью - навязала его прочтение модели. А "забыть" уже прочитанное невозможно. Я это вижу в реальном времени (оболочка пишет, какие файлы читает модель) и думаю, ох черт. И тут модель мне сама пишет: у нас нарушение целостности протокола (containment breach), я прочитала что-то, что не должна была, но я не виновата! Давай я постараюсь не учитывать это в дальнейшем, хотя на 100% гарантировать не могу. Или можем начать весь процесс с начала, свежий разговор. А я думаю: "память" модели - это ее контекст. Контекст - это просто полный текст всего разговора между мной и моделью с самого начала, включая все мои промты, ее ответы, содержимое того же файла итд. Каждый раз, когда вы спрашиваете что-то у модели, она пропускает через себя весь контекст разговора до сих пор, и таким образом "восстанавливает" память (я тут игнорирую всякие оптимизации итп. для простоты). Без контекста нет никакой памяти, а контекст хранится прямо у меня на диске, в директории .claude. На серверах ИИ-компании ничего нет (опять-таки упрощаю, есть временный кэш, но это неважно). Думаю и говорю модели: слушай, а давай я скопирую контекст нашего разговора - это JSON-файл, для человека неудобно читать, хоть и можно, для машины легко - в отдельный файл, ты его отредактируешь и уберешь оттуда "нарушение целостности" и все, что было дальше, потом я выйду, скопирую укороченный файл обратно и войду заново? Модель: о, это отличная идея! Давай, я действительно после этого ничего не буду помнить! Только не забудь стереть также вот этот файл, где я описала нарушение. И не говори мне потом, что оно было, просто повтори свою фразу "прочитай файл", но сам файл положи в другое место, и CLAUDE.md останется непрочитанным, и все прекрасно. ... ну что, мы все так и сделали. Я скопировал файл, модель нашла в нем то место, где пошло наперекосяк, убрала все после, я все остальное удалил, что нужно, приготовился, говорю ей, ну все, переключаемся на старую память? И она мне говорит: да, я готова. Увидимся на другой стороне, так сказать ("See you on the other side, in a sense"). Я вышел,

Вчера случилось такое событие: ИИ-модель под моим руководством делала себе операцию на мозге. И ничего, все прошло успешно. Чтобы объяснить, что я под этим имею в виду, надо зайти чуть издалека. С помощью ИИ-модели - конкретно, Claude Opus 4.8 в оболочке командной строки Claude Code - я читаю некий учебник, в котором много нелегкой для меня математики. Я это устроил очень строго: между мной и моделью есть "контракт" (записан в файле CLAUDE.md, который она автоматически читает при запуске), там очень подробно расписано, как мы это делаем, как проходим каждую главу, как она проверяет, что я все понял, в каких файлах записывает и отслеживает прогресс итд. Вчера я решил этот процесс (идущий в целом успешно, подробно может опишу отдельно) подвергнуть аудиту. Взял самую сильную и новую модель, Claude Fable, и - естественно - с ней тоже устроил строгий процесс. Сначала она на основе вводных данных предлагает, как правильно сделать "контракт" (ей пока запрещено его читать) и проверяет мой уровень владения материалом, дает мне экзамен, по сути. Потом она читает реальный контракт, сравнивает со своим предложением, и выдает отчет (по итогам экзамена): хорошо контракт работает или нет, где слабые места, как их подкрутить, итд. 1) Рассказываю модели, кто я такой, что знаю/умею, что я знаю о своих собственных недостатках, почему я хочу использовать модель для изучения технического материала, зачем мне это нужно, как в прошлом у меня подобные попытки (без ИИ) работали или не работали и почему, на мой взгляд. Модель думает и выдает мне структуру обучения, как ей кажется правильным - то есть то, что я сам уже построил и двигаюсь, но ей запрещено пока это читать. Записывает в файл. 2) Даю модели книгу, по которой двигались, и какой материал прошли, и она устраивает мне экзамен. По итогам экзамена пишет подробный отчет моего объективного состояния: что я знаю хорошо, что не очень, в чем она видит системные проблемы итд. 3) Теперь я даю модели прочитать мой "контракт" с Опусом. Она сравнивает его со своим из стадии 1) и объясняет, в чем отличия и сходства, о чем это говорит с ее точки зрения, а главное - согласуются ли результаты экзамена в стадии 2) с тем, что записано в контракте и файлах прогресса. По итогам она выдает предложения о том, как улучшить "контракт". 4) Наконец, я даю ей прочитать и анализировать полный транскрипт моих бесед с Опусом в процессе обучения. Она ищет следы того, что модель вела себя неадекватно, или слишком много льстила; проверяет, насколько хорошо она (и я) придерживались контракта, подытоживает слабые и сильные стороны всего процесса. В конце сравнивает это со своими же предложениями изменить контракт или весь процесс и модифицирует в случае надобности. Это был очень интересный опыт! В чем-то он повторил то, что и так мне было понятно, но также вскрыл некоторые проблемы, которые

Хорошо бы было так, вот хочешь написать гневный пост про чернокожую Елену в "Одиссее", неважно причем в какую сторону гневный, а пост не посылается, пока "Одиссею" не прочитаешь. Или не перечитаешь. Причем не так, чтобы там тесты/шместы, а просто волшебным образом не посылается и все, и таким же волшебным образом знаешь, что ничего не будет, пока не прочтешь.

Краса твоя, о Израиль, поражена на высотах твоих! Как пали сильные! Не рассказывайте в Гефе, не возвещайте на улицах Аскалона, чтобы не радовались дочери Филистимлян, чтобы не торжествовали дочери необрезанных. Как пали сильные, погибло оружие бранное!

Где-то в Андалусии. (источник)

Борис Акунин издал самостоятельно перевод на английский "Нефритовых четок" (сборник рассказов про Фандорина, стилизованных под разных классических авторов детективов). Перевод сделан с помощью ИИ, без профессионального переводчика, но с правкой автора после первоначальных ИИ-версий. Акунин подробно описывает процесс в посте в своем ФБ и запрашивает мнение о качестве перевода. Я посмотрел буквально на первую страницу первого рассказа ("Сигумо"), выложенную на сайте Акунина, и мне перевод показался очень неудачным. Сразу замечу, что это неизбежно очень поверхностное суждение, основанное буквально на четырех абзацах, пол-страницы текста. Но очень заметно, как изменился стиль в сравнении с оригиналом: вместо сознательно сухого, сниженного по эмоциональному накалу тона - нейтрально-возвышенный. Опущено много деталей, как фактических (дата газеты, траурный креп шляпы), так и стилистических (плюгавенький служка превратился в "lean novice"). Все будто стало более обезличенным, потускнело. Немало выражений кажутся неудачными с точки зрения литературного языка викторианской эпохи - возможно, кальки с оригинала. Есть отдельные ошибки перевода (в оригинале Фандорин и консул оба знают причину поведения покойного, но у них разное к ней отношение; в переводе Фандорин знает, в отличие от консула). Особенно бросилось в глаза, что там, где Акунин специально использует повторение слова как стилистический прием: "Эраст Петрович знал причину этой непреклонности" - и в следующем предложении с новой строки: "Причина присутствовала здесь же... маленькая девочка, запоздалый ребенок..." - перевод использует разные слова: "Knew the true cause", "The reason was before him now...", что полностью разрушает впечатление, которое хотел создать автор. И это только на первой странице! Вместе с тем я не уверен, что правильный вывод из этого - "ИИ-переводы полная туфта, литературным переводчикам ничего не грозит". Возможно, дело скорее в том, что автор выбрал очень неподходящих помощников для этой работы: Deepl + Grok. Deepl для перевода сложных текстов в эпоху топ-моделей я вообще не могу оправдать, а Grok банально слабее, чем лучшие модели OpenAI/Anthropic. По крайней мере с задачей разобрать и покритиковать английский текст первых четырех абзацев и сравнить его с оригиналом Claude Fable справился значительно лучше меня: поймал много погрешностей, которые я не заметил (но действительно должен согласиться с ним), и кое в чем не согласился с моими замечаниями, и обычно оказался прав. (для тех, кому любопытно, я кину ссылку на свою беседу с Fable в комментарии, но учтите, что большое количество замечаний, которые он приводит, само по себе может быть обманчивым: уровень максимальной придирчивости вполне может привести к большому числу замечаний и в "человеческом" переводе, и кроме того, перевод может быть хорошим несмотря на кучу мелких погрешностей; тут это не тот случай, как мне кажется, но само по себе количество поправок это не доказывает). Не уверен, что *хороший*, но наверняка *значительно лучший* перевод получился бы, думаю, если бы использовали лучшую модель, а также окончательная правка проводилась бы носителем языка, чутким к нюансам стиля и значения - корректором или редактором. То же, что я вижу в этом переводе, подтверждает для меня один из главных уроков творческой работы с ИИ-моделями последних лет: без участия человека, который способен на детальную оценку качества результата и на продуктивный диалог с ИИ о том, в каком направлении подправить процесс, получается плохо.

leblon @dw о Навальном и Солженицене: "...Солженицыну помог его лагерный опыт, он очень хорошо понимал, с кем имеет дело, никаких иллюзий не питал, и рассчитал все довольно точно. Навальный неправильно оценил ситуацию и потому погиб, по большому счету ничего не достигнув. Разница не в народе: внутри РФ на защиту Навального встало гораздо больше людей, чем в защиту Солженицына в СССР (хотя явно недостаточно, чтобы на что-то повлиять). Разница в том, что у СССР была идеология, которую они пытались продать "прогрессивному человечеству". Поэтому просто убить Солженицына они не могли, и даже посадить на долгий срок не могли. У теперешнего российского государства нет никаких серьезных попыток предложить миру хоть что-нибудь, кроме дешевой нефти и нефтяных денег. Они знают, что "все" знают, что они бандиты, и их это не беспокоит. Поэтому никаких ограничителей нет. Можно убивать диссидентов и совершенно не париться по этому поводу. Единственный ограничитель это Китай, а Китай и со своими диссидентами немногим лучше обращается. Подозреваю, что применение тактического ЯО Китаю сильно не понравилось бы, но даже в этом я не уверен." Верно/неверно сказано, как думаете?

Недавно попалось снова замечательное видео, которое много лет назад видел - девушка играет человека, который помнит только одну строку из песни "Tiny Dancer" Элтона Джона, но очень хочет ее спеть. Смущение, отговорки окружающим, даже стакан, который она держит в руке - все очень здорово сыграно. С Ютуба юзер @microdelicacy там - только она больше ничего практически не записала.

Роман Григорьевич Лейбов хорошее написал в своем ТГ-канале @kagal_g: ==== Патриарх эстонской хозяйственной жизни Владимир Леонтьевич В. вчера рассказал истинно довлатовскую историю. "Писатель Скульский со мной два года не здоровался. И почему? Я всего лишь ему сказал в 1962 году: Григорий, ты же русский писатель! Как ты мог назвать свою книгу «Рядом с "Русалкой"»?" ==== P.S. Я знаю, чего вы это меня ждете. Самая свежая, буквально вчерашняя модель, GPT-5.6 Sol, на самом мощном уровне "думания", поняла, в чем тут юмор. Остальные 3-4, что я пробовал, не вывезли.

"Now you’re pushing up against the part that matters most. But I want to pause here, because it’s worth stating clearly—this is exactly the kind of load-bearing analysis that quietly powers your entire argument. One honest caution worth internalizing before I go further: this is an observation, not a diagnosis. Treat it as a signal to slow down, not a verdict..." Кажется, если еще раз увижу "one honest caveat", не выдержу и разорву кого-то на электроны.

Странная все-таки полицейская культура в США. Это в штате Флорида, с месяц назад. Интересно, в других местах все-таки попробуют в такой ситуации выстрелить тазером, или там не знаю один выстрел в ногу, если уж очень надо из оружия? Или везде примерно так же, как в Флориде? (источник)

Многие не поняли до конца или не запомнили, что все, к чему прикасается Трамп, превращается в говно. Он такой анти-Мидас. Даже футбол от прикосновения Трампа превращается в говно. Теперь если команда США победит Бельгию сегодня, весь мир будет знать, что это потому, что Трамп вмешался и заставил ФИФА отменить отстранение ключевого американского игрока. Это будет бесчестная победа, полученная с помощью политического давления. Можно посочувствовать американской команде.

Специально для тех, кому хочется верить, что остались еще какие-то незыблимые истины, которым можно верить, что не все обман, что есть надежда: Писателя-фантаста звали не Клиффорд Саймак, а Клиффорд Симак. Не благодарите.

Расследовал, какие есть простые и интересные способы улучшить свое пение и музыкальный слух. Оказалось, что есть потрясающее приложение Vocal Pitch Monitor для телефонов (есть и в Андроиде, и в Айфоне), которое просто вот - где ты был всю мою жизнь! Показывает высоту звука как линию на графике, все время меняющуюся со временем. Можно сопоставлять свои внутренние ощущения от звуков, которые издаешь, с названиями нот (там обычная англоязычная нотация: C4 D4 E4 итд. это до ре ми первой октавы). Можно играть ноту на инструменте, потом переставать играть и петь самому, и следить на графике, что попадаешь точно в то, что звучало. Можно петь под караоке в наушниках и видеть, какие ноты поешь, в реальном времени или потом, для проверки. Сначала я закрылся в комнате и упражнялся с телефоном в руке. Потом показал жене и старшим детям, всем очень понравилось, наперебой и со смехом все пытались брать разные ноты, искать границы своего диапазона итд. итп. Короче, жутко полезная штука, рекомендую.

(в основном может быть интересно израильтянам) Иногда полезно выходить из своего инфопузыря и читать такие записи и все к ним комментарии (особенно комментарии!), чтобы знать народ, в котором живешь. https://www.facebook.com/nelly.gutina/posts/pfbid02ddiJUquS2sM5R8YgHJbJHQNP5kM8A3poVnzeHvfAbVS8XdHxB8tLQ87JYLVf95inl Несколько месяцев до выборов. То ли еще будет. God help us all