_moire.experience}}%

"Будет смешно, если мы завтра проснемся в мире, где AI регулируется, и чтобы обучить линейную регрессию, нужно получать лицензию" (с) Ну да, всё верно. Линейная алгебра — это опасно. Хорошую вещь матрицей не назовут: про это даже фильм сняли.

Бернулли, оказывается, был не один — их было несколько, в двух поколениях, с той или иной громкостью работ. И если сделать скидку на громкость, то вроде можно насчитать и восемь разных Бернуллей так или иначе возле матеметики, но это, конечно, смотря как считать и с какой натяжкой. В основном, кажется, всякие названия объектов принадлежат Якобу, но не все. То есть, например, схема Бернулли — это схема Якоба Бернулли, а закон Бернулли из гидродинамики — это Даниил Бернулли. Иоанн занимался ещё и медициной, и, кажется, он был первый, кто выдвигал скандальное на тот момент предположение, что все клетки тела обновляются за какой-то период времени, который на основе геометрического ряда он высчитал как три года. Это было теологически неприятно. Еще он зачем-то что-то публиковал под именем Лейбница, заплатив ему денег, а потом разругался с Якобом из-за каких-то изопериметрических кривых, и мне кажется, это было немного смешно. Также Иоанн не побрезговал разругаться и с одним из своих сыновей (который Даниил). Иоанн в какой-то момент запретил ему появляться на пороге дома, а потом нагло сплагиатил часть его работы и сделал вид, что опубликовался первым (работа одного называлась "Гидравлика", а второго — "Гидродинамика"). Или что-то такое. В общем, несмотря на то, что семья Бернулли родила кучу великих вещей, их тяга посраться тоже была великой. Из прочего — Мария Бернулли была первой женой Германа Гессе. Ну и пару лет назад я писала про Аду Лавлейс. Именно числа Бернулли (Якоба :) были предметом вычисления первой компьютерной программы в мире. (Тут, конечно, хочется добавить аккуратное "наверное").

Сейчас вся лента в хайпе и переживаниях про GPT-4, немного тоже поворчу про это. Самым интересным в GPT-4 лично мне (как и многим) кажется полная закрытость её технологии: Given both the competitive landscape and the safety implications of large-scale models like GPT-4, this report contains no further details about the architecture (including model size), hardware, training compute, dataset construction, training method, or similar. — "В этом отчёте не приводится информация об архитектуре (включая размер модели), использованном аппаратном обеспечении, вычислительных мощностях, котторые потребовались для обучения, использованных данных и методе обучения, и подобного из соображений высококонкурентной среды и безопасности использования таких крупных моделей, как GPT-4" — перевод мой (лол, не догадалась вставить в ChatGPT, даже смешно). Если вспомнить 2015 год, когда OpenAI были ещё non-profit (это закончилось уже в марте 2019), в их манифесте было такое: Our goal is to advance digital intelligence in the way that is most likely to benefit humanity as a whole, unconstrained by a need to generate financial return. Since our research is free from financial obligations, we can better focus on a positive human impact. — "Наша цель — развивать искуственный интеллект таким образом, который наиболее вероятно принесёт пользу человечеству, не обращая внимания на денежную выгоду. Так как наши исследования свободны от финансовых обязательств, мы можем сосредоточиться на положительном влиянии на человечество наилучшим образом." — перевод опять мой, так как с переводом на русский ChatGPT справился удручающе: как говорится, "подъезжая к станции, у нее слетела шляпа", в таком духе :( И ещё вот этот вдохновляющий, мотивирующий текст (оттуда же): As a non-profit, our aim is to build value for everyone rather than shareholders. Researchers will be strongly encouraged to publish their work, whether as papers, blog posts, or code, and our patents (if any) will be shared with the world. We’ll freely collaborate with others across many institutions and expect to work with companies to research and deploy new technologies. Лень переводить, но всё о том же, о свободном обмене научным знанием. Ну что же, рыночные настроения победили научные ценности довольно быстро. Если кто-то не помнит, в 2019 они тоже не стали релизить исходники GPT-2, "чтобы их не использовали в недобросовестных целях". А код GPT-3, кажется, принадлежит исключительно Microsoft (не уверена 100 проц, но лень перепроверять). Кстати, если вы не знали, недавно OpenAI начали партнерские отношения с Кока-Колой — вроде бы без посредников. То есть перешли на прямые коммерческие занятия — хотя, казалось бы, с инвестициями у них всё норм, и всякое мирское b2b не должно их напрямую занимать, так как не служит, вроде бы, светлой, великой цели помощи человечеству. С другой стороны, кто знает, вдруг в кока-коле счастье, а мы и не знали.

В английском есть такой термин, как perverse incentive — что-то вроде "порочный стимул". Это когда проявляешь инициативу для борьбы со злом, но тем самым ещё больше растишь его. Вариацией порочного стимула можно назвать афористический закон Гудхарта — "любая наблюдаемая статистическая закономерность испортится, как только вы будете сильно пытаться ей управлять". Узнала несколько смешных историй про неудачное управление с помощью метрик. Англачане пытались вывести ядовитых кобр в своих индийских колониях — и назначили награду за каждую голову убитой змеи. Вообще звучит логично и как неплохой социально-ориентированный ход 😅 Но довольно быстро индийцы сообразили, что к чему, и стали разводить этих кобр специально: слаженно убивать, сдавать их головы и не париться с поимкой. Когда в Англии сообразили, что происходит, премию, конечно же, отменили. После этого индийцы пожали плечами и выпустили разведённых под забой кобр на волю. Так что в результате принятых мер количество ядовитых кобр на территории английских колоний стало больше :) Похожая история была у французов, которые боролись с крысами во Вьетнаме, тогда — территорией Французского Индокитая. Награду выдавали за отрезанный хвост. Вьетнамцы ловили крыс, отрезали им хвост и отпускали, чтобы те размножились дальше и дали шанс отрезать ещё больше хвостов в будущем; так что в итоге принятые меры повлияли только на количество крыс без хвостов 🤷‍♀️ В Штатах таким же образом, в погоне за оптимизацией количества строчек кода количества построенных миль железной дороги вместо прямого маршрута Юнион Пасифик где-то там в слаженном порыве построили какую-то загогулину. Но есть гораздо более пугающие истории. Во время войны во Вьетнаме министр обороны США Роберт МакНамара был предан идее использовать математические модели и измеримые метрики для ведения войны. Генерал воздушной обороны Эдвард Лэндсдейл попытался напомнить ему, что тот никак не учитывает в своих моделях чувства самих вьетнамцев. Говорят, что МакНамара сначала записал это карандашом себе в список, а затем стёр и ответил, что не знает, как это померить, а значит, это должно быть неважно. И такое, немного, казалось бы, сбоку, но на самом деле не совсем. В верификационизме (вроде бы) есть принцип, в чем-то похожий на бритву Оккама. Он иронично называется «Пылающий лазерный меч Ньютона»: если что-то нельзя проверить с помощью эксперимента, то это не стоит обсуждения в науке. Но в свете истории МакНамары хочется вольно, но процитировать то, что сказал про него Дэниэл Янкелович: Когда эти принципы используются буквально, первым шагом будет измерять всё то, что легко измерить. Вторым шагом — не слишком-то брать в расчет то, что измерить легко нельзя, или что измеряется качественно, а не количественно. Третья стадия — это исходить из того, что если что-то измерить нельзя — это не слишком важно. И последний шаг — это думать, что если что-то не поддается понятным нам измерениям, то на самом деле этого не существует. И это конец.

Для этого есть отдельное слово!!!

Важные новости, которые я пощу и в личный канал, и сюда 😅

Оказывается, в service-terms AWS (это то самое соглашение, с которым все соглашаются и никто не читает) есть пасхалка про зомби-апокалипсис.

А вот это, кажется, уже убрали. Но оно там, видимо, было с 2016 года.

Хорошо получилось.