Заметки Профессора К
前往频道在 Telegram
Улугбек Камилов Профессор UW-Madison 🇺🇸 | Ранее: WashU, Google, Microsoft, Stanford, MIT, CMU, EPFL | AI for Imaging | Ташкент 🇺🇿 Размышляю о науке и академии. 🔗 https://ukmlv.github.io
显示更多未指定国家未指定类别
594
订阅者
+124 小时
+207 天
+2930 天
帖子存档
Я не доверяю рейтингу университетов US News. Почему?
Ниже веса всех показателей которые рейтинг использует.
Самый спорный критерий для меня - «экспертная оценка академической репутации» (Peer Assessment). Это когда академики оценивают другие университеты.
Вес этого критерия - 20%. Это в 4х раза больше, чем вес доходов выпускников - 5%.
Проблема в том, что репутацию сложно измерить объективно. Как, например, сравнить «по репутации» Purdue и Rice?
Веса показателей в рейтинге университетов U.S. News 2027: • 21% - доля студентов, окончивших университет за 6 лет (Graduation Rates) • 20% - экспертная оценка академической репутации (Peer Assessment) • 10% - показатель выпускников с поправкой на ожидаемый результат (Graduation Rate Performance) • 8% - финансовые ресурсы на одного студента (Financial Resources per Student) • 6% - зарплаты преподавателей (Faculty Salaries) • 5,5% - доля выпускников среди получателей Pell Grant (Pell Grant Graduation Rates) • 5,5% - показатель выпускников среди получателей Pell Grant с поправкой на ожидаемый результат (Pell Grant Graduation Performance) • 5% - удержание студентов после первого курса (First-Year Retention) • 5% - доходы выпускников с учётом специальности (Earnings by Major) • 5% - результаты SAT/ACT (Standardized Test Scores) • 3% - соотношение числа студентов и преподавателей (Student-Faculty Ratio) • 2% - доля преподавателей, работающих полный день (Full-Time Faculty) • 2% - цитируемость научных работ (Faculty Research Citations) • 2% - количество научных публикаций на одного преподавателя (Faculty Research Publications) Итого: 100%.
«Все счастливые семьи похожи друг на друга, каждая несчастливая семья несчастлива по-своему».
Из этой фразы появился принцип Анны Карениной:
Чтобы сложная система работала нужно, чтобы много условий выполнялись одновременно. А чтобы она перестала работать, иногда достаточно нарушить всего одно.
Представьте самолёт. Недостаточно сделать идеальный двигатель, если крыло сломается в воздухе. Бесполезна прекрасная электроника, если отказала гидравлика. Можно сделать правильно 999 вещей из 1000 и всё равно получить катастрофу из-за одной оставшейся.
Успех здесь устроен как логическое AND:
двигатель работает
И крылья выдерживают нагрузку
И управление работает
И топливо поступает
И …
Провал устроен гораздо проще. Достаточно одного критического «нет».
Мне кажется, особенно интересно смотреть через этот принцип на академическую карьеру. Чтобы получить хорошую профессорскую позицию, мало просто писать сильные статьи.
Нужны сильные статьи
И хорошие рекомендации
И понятная исследовательская программа
И подходящее направление
И вакансии именно в этот год
И удачный job talk
И нормальное собеседование
И люди в комитете, которым нужен примерно такой человек.
Причём первые 7 пунктов могут быть прекрасными, а восьмой - нет. И результат будет тем же.
Мы часто пытаемся объяснить успех одним выдающимся качеством: интеллектом, трудолюбием, талантом, связями. Но в сложных системах успех иногда определяется только одним критически слабым элементом.
Как 100 исследований могут с высокой вероятностью дать одну «сенсацию»?
Допустим, у каждого исследования есть всего 1% шанс дать сенсационный результат.
Берём 100 независимых исследований. Вероятность ни одной сенсации:
P(ни одной сенсации)
= 0,99¹⁰⁰ ≈ 0,366
Значит, вероятность одной сенсации:
P(хотя бы одной)
= 1 − 0,366 ≈ 63%.
→ Шанс получить хотя бы одну «сенсацию» - 63%. ■
Редкое событие редко в одной попытке. Но не среди сотни попыток.
Одна интересная (и, возможно, не самая очевидная) вещь в науке:
Если вы известны чем-то, со временем вы становитесь в этом ещё сильнее.
Как только за учёным закрепляется репутация «человека, который занимается X», ему начинают присылать статьи по X, приглашать на конференции и воркшопы по X, знакомить со студентами, которым интересен X, просить рецензировать работы по X и предлагать коллаборации по X.
Репутация направляет к вам возможности. И постепенно вы действительно приобретаете необычно глубокие знания в X.
Экспертиза создаёт репутацию. Но и репутация создаёт экспертизу.
Я профессор в Штатах, руковожу научной группой по ИИ. Это моя серия про академическую карьеру.
Совет: научитесь объяснять свою работу без слайдов.
Если за 2 минуты разговора за кофе вы можете заинтересовать другого учёного своей задачей, конференции станут для вас намного полезнее.
25 лауреата Филдсовской премии выступили против «серьёзного рассогласования ИИ и математики» (декларацию подписали около 54% ныне живущих лауреатов Филдсовской премии - или 25 из 46, если не учитывать Перельмана).
За последние несколько месяцев математические способности больших языковых моделей резко улучшились - до такой степени, что они уже способны решать важные открытые задачи в самых разных областях математики. Однако стремление ИИ-компаний использовать решение математических задач в качестве бенчмарка наносит ущерб как самой математике, так и математическому сообществу. Цели ИИ-компаний и цели математического сообщества серьёзно расходятся. Мы рассматриваем это как часть более широкой проблемы рассогласования целей, которая затрагивает и другие научные и творческие профессии, а также общество в целом.Мое мнение: То что плохо для нынешних математиков (поскольку они теряют своё привилегированное положение), не обязательно плохо для самой математики и знаний человечества.
В марте лечу в Пуэрто-Рико 🇵🇷 - буду спикером на Scientific Imaging and Machine Learning Workshop.
Хотят собрать людей, которые работают с изображениями в самых разных областях - от MRI и микроскопии до спутниковых снимков, астрономии и робототехники.
Сейчас как раз открыт набор участников: PhD-студентов, постдоков и молодых исследователей. Дедлайн - 30 октября.
Пуэрто-Рико в марте - неплохой аргумент
https://datascience.uchicago.edu/events/scientific-imaging-and-machine-learning-workshop/
Давайте расскажу про сегодняшний скандал с решением известной проблемы Навье-Стокса и OpenAI.
Представьте, что вы год работаете над научным открытием внутри ИИ-продукта.
Ваши идеи, неудачные попытки, гипотезы и черновики проходят через него.
А потом компания, которой принадлежит этот продукт, узнаёт, что вы близки к результату, бросает на ту же задачу 10 000 агентов - и приходит к финишу раньше вас.
Вчера произошла история, которая может изменить правила научной работы с Ии.
Есть задача Навье-Стокса - одна из семи «задач тысячелетия». За решение дают $1 млн.
Почти год профессор NYU Тристан Бакмастер и математик из Anthropic Левент Альпёге работали над одним необычным подходом. Использовали Claude и Codex, куда, по словам Бакмастера, загружали свои черновики.
В начале сентября по интернету пошёл слух, что кто-то близок к решению Навье-Стокса.
OpenAI услышала слух. Компания сама признаёт: 1 сентября именно из-за этого слуха она решила заняться задачей.
Запустили внутреннюю модель и до 10 000 ИИ-агентов параллельно.
Через несколько дней получили доказательство и формализацию в Lean. 8 сентября OpenAI объявила, что решила задачу Навье-Стокса.
Бакмастер и Альпёге к тому моменту успели опубликовать лишь несколько важных промежуточных результатов.
Бакмастер спросил OpenAI напрямую: могли ли использоваться их сессии в Codex?
OpenAI ответил:
«Никакие конкретные пользовательские данные не использовались для решения этой задачи».
Еще:
«Хотя это маловероятно, мы не можем исключить, что обезличенные данные от использования ими наших продуктов помогли улучшить наши модели».
Никто пока не доказал, что именно это произошло здесь.
Но вопрос уже появился:
Можно ли заниматься секретной наукой внутри чужого ИИ - и быть уверенным, что вы не тренируете своего будущего конкурента?
Есть момент, когда бывший PhD студент впервые пишет тебе не «Professor Kamilov», а по имени.
Никто ничего официально не объявляет. Просто однажды приходит письмо: «Hi Ulugbek». Так академия сообщает, что вы теперь коллеги.
У профессора есть очень странная форма бессмертия.
Ты объясняешь студенту идею.
Он объясняет её своему студенту.
Тот - своему.
Через 40 лет где-нибудь человек говорит: «Есть один простой способ это понять».
И никто уже не знает, откуда он взялся.
Когда я написал свою PhD-диссертацию, я посвятил её бабушке.
Она была коренной ташкентской. Родилась и прожила почти всю жизнь в Ташкенте - в совершенно другом мире, очень далёком от швейцарских университетов, научных статей и PhD.
Но именно от неё каким-то длинным и неочевидным маршрутом началась дорога, которая привела меня туда.
Я не считаю, что главная цель обучения за рубежом - обязательно вернуть человека домой.
Есть две стратегии.
Первая: отправить талантливого студента учиться в сильный университет и потом вернуть его в Узбекистан.
Вторая: сделать так, чтобы этот студент стал профессором MIT, руководителем лаборатории, партнером фонда, топ-менеджером глобальной компании или человеком, принимающим решения в международной организации.
Мне гораздо интереснее вторая.
Узбекистан уже входит в число мировых лидеров по количеству студентов, обучающихся за рубежом: около 150 тысяч человек (он 3й после Китая и Индии).
Теперь вопрос не только в том, сколько из них вернется. Вопрос в том, где они окажутся через 10-20 лет.
Китай десятилетиями отправлял людей учиться и строить карьеру за границей. С 1978 года за рубежом учились 8,88 млн китайцев. Из тех, кто завершил обучение, 6,44 млн в итоге вернулись. Причем большая часть возвращений произошла позже, когда сам Китай стал создавать для них возможности.
Сильная диаспора - это важно.
Профессор в Stanford может привести студентов из Узбекистана в мировую науку. Руководитель компании - открыть офис в Ташкенте. Инвестор - привести капитал. Ученый - создать совместную лабораторию. Человек в международной организации - включить страну в глобальные сети.
А потом кто-то из них вернется. Но вернется уже с именем, связями, опытом и ресурсами.
Поэтому я бы ставил цель шире:
не просто вернуть наших лучших людей домой.
Сделать так, чтобы наши лучшие люди были везде.
Города с наибольшим числом университетов в рейтинге QS World University Rankings 2027:
1. 🇰🇷 Сеул - 23
2. 🇯🇵 Токио - 18
3. 🇬🇧 Лондон - 17
4. 🇨🇳 Пекин - 15
5. 🇫🇷 Париж - 13
6. 🇺🇸 Нью-Йорк - 10
7. 🇨🇳 Шанхай - 9
8. 🇺🇸 Бостон - 8
9. 🇭🇰 Гонконг - 8
10. 🇦🇺 Мельбурн - 7
11. 🇦🇺 Сидней - 7
*Учитываются все 1500 университетов, вошедших в мировой рейтинг QS, а не только топ-100.
Мы часто видим лишь проекции многомерных данных в пространства меньшей размерности. Такие проекции могут вводить в заблуждение.
Сколько здесь кластеров (то есть отдельных групп точек)?
Я профессор в Штатах, руковожу научной группой по ИИ. Это моя серия о поступлении в PhD.
Совет:
Не просите рекомендации за неделю до дедлайна. Составьте финальный список PhD программ хотя бы за 4-6 недель и сразу отправьте рекомендателям одну таблицу со всеми университетами и дедлайнами.
А за неделю до каждого дедлайна отправьте одно короткое напоминание. Ваша задача сделать написание письма максимально лёгким для человека, который вам помогает.
Я профессор в Штатах, руковожу научной группой по ИИ. Это моя серия о поступлении в PhD.
Совет:
В каждом университете постарайтесь найти хотя бы 2 профессоров, с которыми вы бы хотели работать.
Если вас интересует только 1 человек, это риск. Он может не брать студентов, уйти в другой университет, взять другого кандидата или просто не иметь финансирования.
Хорошая PhD программа для вас это место, где есть план B.
Оценки в школе и университете используют как показатель того, насколько хорошо человек усвоил уже известное.
Научные статьи - как показатель способности проводить исследования и создавать новые идеи.
Поэтому после PhD оценки уступают место количеству и качеству публикаций.
