Авва

Огромная часть выборной кампании в Израиле завязана на обещания и отрицания того, кто с кем пойдет в коалицию после выборов. Одни говорят: мы ни за что не будет сидеть в одном правительстве с Нетяниягу. Другие говорят: эти первые врут, голосуйте за нас, они первым делом после выборов побегут к Нетяниягу. Вместо "Нетяниягу" подставьте также: арабские партии (конкретная или все вместе), ультрарелигиозные, Бен-Гвир итд. итп. Все всех обвиняют, или отрицают, или обещают. А потом после выборов действительно иногда эти обещания нарушают. Почему бы не сделать механизм, при котором партии могли бы зафиксировать свое обещание, сделать его обязательным? Скажем, партия регистрирует в ЦИК свое обязательство не входить в коалицию с такой-то партией. И после выборов реально это невозможно, закон запрещает такой состав правительства, если было взято такое обязательство. Если по-другому никак не собрать коалицию (маловероятно, но возможно) - делаем перевыборы, сейчас такое в принципе тоже может случиться. (можно возразить на это, что "коалиция" технически говоря не регулируется законом - то, что происходит, это что составляется список правительства со всеми министрами, и Кнессет одобряет его большинством голосов. Но это техническое возражение можно обойти техническими методами - например, запретить брать министерские посты в одном правительстве с такой-то партией) Понятно, что для этого нужно изменить законодательство. Но если такое сделать, то те партии, которые реально хотят просигналить избирателям, что не пойдут в коалицию с такими-то - смогут это сделать, и избиратели, если именно им это важно, смогут за них проголосовать со спокойной душой. И не будет так много душных разборов "они обещают, но первые побегут", которые занимают чуть не большинство предвыборной пропаганды. Я не знаю стран с выборными системами, где была бы такая возможность перед выборами дать спискам возможность ограничить свою свободу после выборов. Это было бы положительным изменением, как мне кажется, или ухудшило бы ситуацию каким-то серьезным образом?

На днях меня впечатлило выражение "еврей восьмого октября", довольно популярное в Америке, как оказалось ("October 8 Jew").

"Знали ли вы лично кого-то, кто погиб 7 октября? Напишите в комментариях." 800 комментариев. Долго читал и листал. https://www.facebook.com/russian.in.israel/posts/pfbid0GX5uzyocWiEsM6vYGCsPBuUG8szSbWQ7HjfaBEkDYhGBbefwTSNBDfEh6WiraRval

Замечательная иллюзия от японца Масаши Комори. Принцип такой иллюзии известен, как я понимаю, но это исполнение просто крышу сносит.

комбинаторики" - "ну да, неплохо справляется с задачами уровня Ph.D. даже в моей настоящей математике, но иногда такой бред несет... ну может, в качестве помощника иногда сгодится" И внезапно (ВНЕЗАПНО) в июле-августе до них наконец доходит: "ой, он умеет лучше меня доказывать леммы и теоремы в МОЕЙ ОБЛАСТИ, над которыми я долго бился". Но ничего, сейчас есть новая линия: "он всего лишь знает все на свете и умеет соединять вместе лучше нас, но он не придумывает новую математику и не умеет ставить новые интересные вопросы". Ну что ж, может, это и верно. Я действительно не знаю (как не знал, если быть честным с самим собой, и про каждую из предыдущих линий - просто считал УВЕРЕННОСТЬ в них крайне глупой). Посмотрим, что будет еще через три месяца, или полгода. Если темпы не затормозятся, не надо будет долго ждать. К сожалению, кажется вероятным, что и с биотерроризмом нам предстоит посмотреть, как это все выйдет, и с рекурсивным само-улучшением. Кто знает, может и выгорит оно, никто по-настоящему не понимает, как это будет выглядеть, и что возможно и что невозможно. Мы не умеем предсказывать возможности, поведение и намерения интеллекта, значительно превосходящего наш, мы даже сформулировать эту задачу как следует не можем и продолжаем спорить об определениях слов "интеллекта", "превосходящего нас" и "намерения". Может, нам и повезет. Может... Но за детей, честно говоря, очень страшно.

Вот интересный твит, не очень характерный. Разработчик игр пишет, что способности текущих топ-моделей ИИ заставили его полностью поменять точку зрения на открытые модели, и он теперь считает, что надо их регулировать и запрещать выкладывать в общий доступ. Почему? Потому что он увидел, что топ-модели теперь решают задачи типа реверс-инджениринга игр (то есть, вы даете модели EXE-файл игры, она декомпилирует машинный язык, восстанавливает логику исходного кода, разбирается, как устроены файлы с текстурами и звуками итд., и делает идентичную опенсорсную версию, которую можно дальше развивать). Это указывает на уровень "интеллекта" моделей, который позволит им так же легко понимать устройство программ для банков, для самолетов итд. Да, у всех этих программ есть киберзащиты, они недоступные в виде EXE-файлов, но и находить уязвимости в защите эти модели умеют очень хорошо. Нас защищает то, что в закрытые модели OpenAI, Anthropic, Google итд. встроены защиты - они не соглашаются просто так искать уязвимости на сайте вашего банка, например. Но автор твита хорошо понимает, что эти защиты не совершенны, что у опенсорсных, открытых моделей их легко можно снять, и что открытые модели отстают от топа примерно на 4-8 месяцев, по крайней мере по трендам последних 2-3 лет. Вот он и бьет в набат: нельзя допустить, чтобы еще через полгода каждый мог иметь "свою" модель, которая может то, что топ-модели могут сейчас. Только как возможно сделать это "нельзя допустить", если предположим мы с ним согласимся? Время принимать законы, вводить регуляцию, вести переговоры между нациями, ведущими в развитии ИИ (США и Китай в первую очередь) - время всего этого было год и два и три назад. Сейчас уже поздно. Он это понимает, и извиняется лишь, что не видел проблемы раньше. Я написал выше, что это не очень характерный твит - почему? Потому что его автор как минимум ясно понимает, что решительно ошибался, и признает это. С моей точки зрения киберугроза от моделей ИИ - вообще даже не в топ-5 основных проблем от той скорости прогресса, что мы наблюдаем. Мы должны думать намного больше о биотерроризме и рекурсивном само-улучшении моделей. Но в этих областях происходит то же самое, и это закономерность, которую я наблюдаю годами. Это одна из основных причин, почему я очень всерьез принимаю "думеров" и считаю вполне возможным и страшным риском катастрофический риск для всей цивилизации от ИИ. Технические аргументы "думеров" довольно редко меня убеждают. Их уверенность - у тех, кто абсолютно уверен - мне кажется необоснованной. Но в любом споре по конкретным аргументам, опирающимся на ограничения того ИИ, что сейчас, и предсказания того, что будет еще через год-два-пять-десять, я снова и снова вижу, что "думеры" предсказали то, что мы УЖЕ СЕЙЧАС видим, намного лучше и точнее. А их оппоненты почти всегда просто вбрасывали те аргументы, которые им казались убедительными в тот момент - и когда развитие ИИ эти аргументы опровергало, они даже не пытались как следует осознать это (в отличие от автора процитированного твита), просто хватались за следующее "ограничение". Именно это, скажем, за последний год случилось с развитием ИИ в математике. Начиная с октября прошлого года, я наблюдаю, как после очередного достижения математики проводят линию в песке и успокаивают себя: ну да, но это мало что значит. Потом танк ИИ пересекает эту линию, не замечая ее вообще, и они бросаются рисовать новую. Я вначале пытался отслеживать это и спорить, но потом бросил, бессмысленно, просто наблюдал. Часто это были одни и те же люди! Линии были примерно такие: - "ну да, ИИ решил один из нерешенных вопросов Эрдеша, но их там тысячи и на большинство никто не смотрел" - "ну да, решил еще десяток таких же, но опять-таки никто об этих задачах и не слышал" - "ну да, нашел несколько контрпримеров в комбинаторике и геометрии, но в моей области ИИ несет полную пургу" - "ну да, опроверг несколько довольно известных гипотез, но это все контрпримеры, найденные поиском, доказывать он ничего сложного не умеет" - "ну да, доказал сложное, но это все не настоящая математика, все эти

Вот интересный твит, не очень характерный. Разработчик игр пишет, что способности текущих топ-моделей ИИ заставили его полностью поменять точку зрения на открытые модели, и он теперь считает, что надо их регулировать и запрещать выкладывать в общий доступ. Почему? Потому что он увидел, что топ-модели теперь решают задачи типа реверс-инджениринга игр (то есть, вы даете модели EXE-файл игры, она декомпилирует машинный язык, восстанавливает логику исходного кода, разбирается, как устроены файлы с текстурами и звуками итд., и делает идентичную опенсорсную версию, которую можно дальше развивать). Это указывает на уровень "интеллекта" моделей, который позволит им так же легко понимать устройство программ для банков, для самолетов итд. Да, у всех этих программ есть киберзащиты, они недоступные в виде EXE-файлов, но и находить уязвимости в защите эти модели умеют очень хорошо. Нас защищает то, что в закрытые модели OpenAI, Anthropic, Google итд. встроены защиты - они не соглашаются просто так искать уязвимости на сайте вашего банка, например. Но автор твита хорошо понимает, что эти защиты не совершенны, что у опенсорсных, открытых моделей их легко можно снять, и что открытые модели отстают от топа примерно на 4-8 месяцев, по крайней мере по трендам последних 2-3 лет. Вот он и бьет в набат: нельзя допустить, чтобы еще через полгода каждый мог иметь "свою" модель, которая может то, что топ-модели могут сейчас. Только как возможно сделать это "нельзя допустить", если предположим мы с ним согласимся? Время принимать законы, вводить регуляцию, вести переговоры между нациями, ведущими в развитии ИИ (США и Китай в первую очередь) - время всего этого было год и два и три назад. Сейчас уже поздно. Он это понимает, и извиняется лишь, что не видел проблемы раньше.

Насчет сантехника в самолете - подумайте о том, что самые гордые, самые счастливые люди сейчас (ну после пассажиров и их родственников) - это клиенты этого сантехника. Они в последние дни бегают и всем кричат и пишут "Это МОЙ САНТЕХНИК!!!!!!!!!!!" (эмоции по интернету не передаются, так что поясню, что я это пишу без сарказма и не в качестве наезда, а с улыбкой)

Увидел в твиттере такую интересную визуализацию "Зимы" Вивальди. Любопытное использование третьего измерения, понравилось.

Из нового поста всегда замечательного LanguageHat узнал к своему смущению, что нормативно в английском произносить houses "хаузыз" и housing "хаузинг", с звонким звуком [z]. Я не уверен в том, как произносил до этого слово housing (примеряю на себе, и так и этак звучит правильно - не могу понять, как тот профессор с бородой), но houses точно произносил со звуком [s]. Похоже, что бывает произношение с [s] и у носителей языка - пост указывает на известного журналиста Эзру Кляйна - но, судя по комментариям, это все-таки встречается очень редко. Особенно интересно то, что слово house реально является исключением в этом смысле в английском языке: единственным словом, где глухой [s] в основании переходит в звонкий [z] между гласными в других формах. Сравните: base->bases, face->facing,faces, case->cases, mouse->mousing, всегда глухой звук. И даже в глаголе to cease -> ceasing это "сис", "сисинг", а не "сиз", "сизинг", как я произношу - с ошибкой в обратную сторону. Об этой я уже немало лет знаю, но все как-то не переучился. Есть над чем работать, короче.

Логично.

Ох, как нам повезло с этим самолетом...

Шаланды, полные кефали, В Одессу Костя приводил, Но комсомольская богиня? Ах, это, братцы, о другом! Что же ты гуляешь, мой сыночек? Вся Одесса очень велика! Мама, мама, это я дежурю - Провожаю Костю-моряка.

Нам нельзя забывать о главном уроке 7/10, который состоит в том, что любой, кто критикует какое-то поведение Израиля - продажная тварь и моральный дегенерат.

Я помнил, что первые романы "Основания" Азимов опубликовал в 50-х, но не знал, что они основаны на рассказах, которые вышли в журналах в 40-х. Оказывается, первую часть "Основания" он написал в 1942-м, когда ему было 22 года. Впечатляет.

Меня настолько вымораживает AI-слоп, что я заплатил денежку компании Pangram и подписался на их сервис: теперь я могу любой текст закинуть к ним и проверить, написан ли он AI и в какой мере (если частично, то в ответе выделяются куски, написанные ΑΙ). Конечно, это не 100%-ная гарантия, но вообще у них очень высокая репутация. Я несколько раз проверял на текстах, которые точно AI и точно нет, пока не поймал на ошибке. За последние две недели раз пять тестировал тексты в лентах соц. сетей или в блогах или в СМИ, которые вызвали подозрение. Пока что ответ совпадал с моей интуицией. Возможно, еще через год или два это потеряет смысл. Ну, посмотрим, пока вот так развлекаюсь.

Узнаете, кто это? Забавная штука. (от Akiyoshi Kitaoka в твиттере)

Встретился с друзьями, с которыми не виделся несколько лет. Вроде и хорошо посидели, но из трех часов два все равно говорили про AI. Ну что ж за напасть такая...

СЯУ, что есть такая наука "трибология" - раздел физики, изучающий трение, смазку, изнашивание. Говоря более абстрактно, изучающий то, что происходит с взаимодействующими поверхностями, находящимися в движении друг относительно друга. Ясно, что эти темы изучают сотни лет - но само слово придумали совсем недавно, в 1966-м!

Понравился анекдот, очень хорошо подходит к многому в последнее время: В синагоге идут выборы раввина Все предлагают Рабиновича. Встает Хаим: — Я против Рабиновича, потому что у него дочь — проститутка. — Хаим, что вы говорите! У Рабиновича во­обще нет дочери. У него четыре сына — и всё! — Ну, я сказал своё мнение, а вы решайте