Шаурменевры

Среда чюваки

Средовое 🐸

Пару месяцев назад один выдающийся математик говорил в лекции о том, что развитие ИИ-математики радикально повысит значение понимания доказательств - proof digestion, включая их объяснение, рецензирование, публикацию и включение в общепринятую математическую теорию. Этим математиком был не Альберт Эйнштейн, а Теренс Тао. Так что написанное выше далеко не оригинально. На следующем слайде в своей ставшей знаменитой лекции (этот слайд почти никто не постит) Тао поясняет свою мысль с лекарством, разработанным ИИ. Что если это лекарство вас в итоге убьёт? Конечно, если у вас четвёртая стадия - вам уже плевать на риски. Но что если стадия не такая поздняя и есть альтернатива, созданная людьми, понимающими хотя бы примерно, как это работает? Основной пойнт Тао не в том, чтобы запретить ИИ заниматься математикой - требовать этого просто бессмысленно. Он боится того, что широкая общественность отреагирует на новые достижения примерно так: раз ИИ научился решать математику, значит, финансировать математику больше не надо. Никто же не финансирует сегодня газовое освещение или дилижансы. В реальности выложенные OpenAI семьсот решений математических проблем, как считают сами математики, часто просто нечитабельны, часто доказывают не то, что заявлено, часто содержат ошибки. Сами по себе теоремы и их доказательства не имеют значения. В физике вам достаточно, скажем, узнать состав и способ изготовления нужного для ваших задач материала - и дальше можно начать его производить. Доказанную или опровергнутую теорему невозможно "производить". Её можно где-то применить, а для этого сначала надо хотя бы понять, о чём вообще эта теорема. Дело не только в финансировании. Математический ИИ-слоп может разрушить культуру понимания, культуру общения математиков, создаваемую веками. Не говоря уже о том, что перестают работать привычные метрики: раньше "силу" математика можно было определить по сложности решённых им проблем, а как теперь? Но есть основания рассчитывать на прямо противоположный исход. "Навье-Стокс момент" (по аналогии со Sputnik moment и AlphaGo moment) может стать для математиков примерно тем же, чем стали Ford T и массовый конвейер для автопрома. Легко представить, что математики - те, кто занимаются самой что ни на есть фундаментальной, чистой математикой, не прикладной - станут незаменимы во всех областях науки и техники, как сегодня незаменимы программисты. Если они выйдут из своих белоснежных башен, в одной из которых, судя по примеру с лекарством от рака, проживает Теренс Тао. Они смогут перерабатывать гигантские объёмы новых математических знаний в те самые летающие автомобили. Не знаю, правда, где можно взять столько очень умных и усидчивых людей. Кстати. Все в школе учились решать квадратичные уравнения. Ну помните - дискриминант, теорема Виета, икс один, икс два. Многие, наверное, даже формулы вспомнят. А теперь попытайтесь с ходу привести пять ситуаций, в которых эти уравнения могут понадобиться. Даже для школьника, готовящегося к ЕГЭ и приучившегося решать квадратичные уравнения на автомате, этот вопрос будет непростым. Всё это, повторюсь, лишь досужие размышления - и повод для вас поразмышлять самостоятельно. Мы не знаем, с какой скоростью будет развиваться ИИ. Может быть, модели быстро научатся не только решать математические задачи, но и находить применения этим решениям. Правда, если этот ИИ будет понимать устройство реального мира лучше нас с вами, не совсем понятно, что нам с вами останется делать. Но это уже другой вопрос. Если я в шестой раз буду рассказывать про лошадей, прогнозы Леонтьев и Бринйолфссона, меня засмеёт Баженов. А Тао и Копену, наверное, стоит прекращать громко рыдать, веселить биотехнологов в твиттере и блокироваться с шизонеолуддитами, а готовиться стать гига-Жуковскими, гига-Лузиными - людьми, которые создадут разветвлённые группы учеников, способных поменять мир. Будем оптимистами. начало поста

В случае с математикой даже бессмысленно пытаться перечислить все сферы, где математику можно применять. Просто потому, что список таких сфер будет примерно совпадать со списком всех сфер деятельности человека. Мы не особо представляем, как может изменить наш мир способность ИИ щёлкать как орехи сложнейшие математические вопросы. Люди, придумавшие закапывать несколько собранных зёрнышек в землю, чтобы через несколько месяцев сорвать выросшие колоски, не знали, что их действия изменят всё устройство мира. Люди, жившие в десятилетия Промышленной революции, понятия не имели, что они живут в десятилетия Промышленной революции. И наоборот: в шестидесятые фантасты уверенно пророчили наступление космической эры и скорую колонизацию других планет. Те фантасты уже давно умерли, мальчишки, читавшие их свежие книжки, стали глубокими стариками, а у нас не то что колонизованных планет - даже летающих авто нет. Переход к сверхзвуковой гражданской авиации казался скорой неизбежностью в 1960-е. Сегодня единственная компания, продолжающая хотя бы делать вид, что разрабатывает сверхзвуковой гражданский самолёт - Boom Technologies - переключается на производство турбин для дата-центров. Рассуждать о далёких перспективах развития технологий - занятие не слишком осмысленное. Существует миф о том, что президент IBM в 1943 году заявил, что мировому рынку хватит пяти компьютеров. Никаких подтверждений этих слов не существует. Зато в 1951 году кембриджский профессор математической физики Дуглас Хартри, один из пионеров вычислительной техники и одновременно один из пионеров квантовой механики, действительно сказал: «У нас есть компьютер здесь, в Кембридже, один в Манчестере и один в Национальной физической лаборатории. Я полагаю, что еще один должен быть в Шотландии, но это, пожалуй, и все». Хартри в 1946 году написал в Nature первую большую статью про американский ENIAC; ещё в годы Первой мировой он занимался разработкой техники для расчёта баллистических таблиц (ENIAC, первый программируемый электронный компьютер общего назначения, создавался в годы Второй мировой как раз для таких таблиц). Мало кто в мире разбирался в компьютерах лучше Хартри, но это не помешало ему объявить, что четырёх бесконечно примитивных (по меркам 2026 года) компьютеров будет достаточно для всей Британской империи. Есть прямо обратный пример. Другой знаменитый британский физик, нобелевский лауреат и сын нобелевского лауреата Джордж Томсон (папа открыл электрон, сын открыл волновые свойства электрона), в 1958 году пообещал появления управляемого термоядерного синтеза к 1978 году. Сам Томсон умер в 1975, а его прогноз превратился в шутку "управляемый термоядерный синтез всегда будет через двадцать лет". На 75-летие нобелевского лауреата Тамма его ученики, уже ставшие заслуженными профессорами и академиками, написали стишки: Говорят, говорят, скоро будет термояд. Нам об этом термояде говорили в детстве дяди. А теперь мы сами дяди, сами то же говорим И мечтой о термояде все горим, горим, горим Академик Тамм умер 55 лет назад, его ученики тоже давно умерли, а стишки остаются актуальными до сих пор. На этом месте обычно вставляют пример про мир братьев Стругацких, в котором осваивающие месторождения урана на Венере люди пользуются плёночными кинокамерами. Ну и я приведу. Но если всё-таки предположить, что способность компьютеров решать сложные математические задачи станет новым прорывом, сравнимым с изобретением сельского хозяйства, письменности, паровой машины, электрогенератора, антибиотиков, транзистора - если это действительно будет очередным огромным скачком в будущее, то что будет с математиками? Повторюсь - давать уверенные прогнозы просто смешно. Но всё-таки можно предположить, что потребность в математиках вырастет взрывообразно. Мы с вами недавно узнали, что ИИ то ли решил, то ли украл, то ли неправильно решил проблему уравнений Навье-Стокса. Какую практическую пользу мы можем из этого извлечь? Никакую. Мы не сможем прочитать даже пол-страницы решения. То есть прочитать-то сможем, понять ничего не сможем. Понять до конца смогут несколько тысяч - или даже сотен - человек на планете. И эти же люди, хотя бы гипотетически, могут придумать, как можно полученное решение применить. А потенциальное число областей применения огромно. Одна только проблема автоколебаний, тесно связанная с Навье-Стоксом, была и остаётся проклятием для инженеров из самых разных отраслей - от космического ракетостроения (из-за них фон Брауну пришлось на полгода удлинить разработку лунной ракеты) до создания искусственных органов. Есть, однако, прямо противоположные мнения от очень компетентных людей - ведущих инженеров, занимающихся проблемами турбулентности (раз, два), и от блестящего молодого математика, занимающегося моделированием турбулентности и вычислительной геометрией. Но проблема уравнений Навье-Стокса - вероятно, самая известная проблема в математике вообще. Чем лучше будет работать ИИ - тем больше будет появляться новых доказательств, для которых потребуются "переводчики" с языка математика на язык применимости в реальной жизни. От математика может потребоваться некоторая широта взглядов, возможно, даже инженерные знания. Слайд из лекции Тао (ссылка в начале поста) здесь может служить отличной иллюстрацией. Тао предлагает пример лекарства от рака, придуманного ИИ, которое работает, но механизм этой работы непонятен. Разве можно разрешить такое лекарство к использованию? Тао, составлявшему свою лекцию, кажется, даже не пришло в голову, что если альтернатива применению лекарства с (пока) непонятным механизмом воздействия - мучительная смерть несчётных миллионов людей, которым уже ничего другое не поможет, то обычный человек несомненно выступит за одобрение такого лекарства. Больше того, для многих разработанных без всякого ИИ и давно одобренных лекарств механизм воздействия не слишком понятен. И даже больше: до конца он не понятен ни для какого лекарства вообще, поскольку мы не знаем до конца, как устроен человеческий организм. В твиттере биотехнологи и фармакологи веселятся над слайдом Тао, объясняя, что в большинстве случаев они сами далеки от даже частичного понимания механизма работы создаваемых ими лекарств. В любой технологии есть немного магии. Давайте переформулируем вопрос Тао. Допустимо ли ежедневно отправлять на высоту в десять километров много миллионов человек в многотонных механизмах, про которые мы не до конца понимаем, почему они держатся в воздухе? Законы аэродинамики не изучены до конца (чему доказательством служит ажиотаж вокруг Навье-Стокса). В любом крупном авиационном КБ используют огромные аэродинамические трубы: никакое моделирование не может полностью заменить продувку макета. Сейчас, конечно, существуют суперкомпьютеры и сложнейшие системы моделирования воздушных потоков. А вот братья Райт даже среднюю школу не закончили и занимались велосипедами. На момент первого управляемого полёта на самолёте они не могли знать теорему Кутта-Жуковского о подъёмной силе: эта теорема была окончательно сформулирована на полтора года позже. Вряд ли они слышали про Бернулли и удивились бы, если бы им рассказали про какую-то идеальную жидкость: самолёт должен летать по воздуху, в жидкости плавают корабли. Следуя логике Тао, братьям Райт следовало запретить все их опыты и разрешить строить первый самолёт только создателю аэродинамики Жуковскому, который хотя бы примерно понимал, почему самолёт не падает. Но Жуковский, будучи математиком, действительно сыграл гигантскую роль в создании авиастроения - не только глобально, как теоретик, но и локально: его учениками были Туполев (а учеником Туполева был Королёв), Микулин и Климов (отцы-основатели советского авиамоторостроения), Сикорский (тот самый, в том числе через другого ученика Артемьева), Чаплыгин (создатель ЦАГИ, патриарх советской механики, учитель Келдыша), список длинный. Или вот пример. Квантовая физика и общая теория относительности несовместимы между собой и принципиально по-разному описывают Вселенную. Физики уже столетие пытаются их "поженить", но пока безуспешно. Как же можно строить ядерные реакторы, а тем более заниматься термоядом, если до конца не понятно, как устроен мир элементарных частиц?