VG: Video Course

Господа! Из прошедшего интересного, тут мелькало сообщение о предновогоднем хакатоне ИНТЦ МГУ «Воробьевы горы» в чате этого канала: "второй кейс может быть интересен студентам медиалаб" Задача "Кейс 2: Цветокоррекции на базе ИИ" была:

Разработать инструмент (включающий в том числе веб-интерфейс) для калибровки цвета уже установленных камер. Создать сервис для коррекции цвета на фото с камеры с учётом теней, блоков и засветов, например, для стационарного объекта, который снимает камера.

Моя реакция была скептична:

Поскольку на все - два дня с веб-интерфейсом и сервисом (во время сессии!!!) - это похоже кто быстрее обернет в веб-интерфейс открытые модели NTIRE) Это не к нам)

Но! Молодые аспиранты нашей видеогруппы решили - а почему бы нет? у них-то сессии нет В общем - сходили, аккуратно обернули, и.... взяли первое место! 🎉🎉🎉🎉🎉🎉🎉 Говорят, было не сложно! 🤷‍♂️😁 Организовали себе 100 тысяч в качестве скромного новогоднего подарка! 🥇🥳🥇🥳🥇 Второе место, к слову, взяли магистры нашей лаборатории. 😲☺️ Продолжаем движение! ✌️

Господа! У нас сегодня приняли статью Михаила Воронина на ICDSP 2024! (в рамках выполнения плана - каждому бакалавру по скопусу - см. прошлый пост, статья была написана в бакалавриате))). 💪🥳🎉 Надо сказать, что скопус стало опубликовать сложнее. У нас 3 отказа в этом году по явным политическим причинам (когда статью принимают, но опубликовать не дают и не принимают орвзнос, ибо санкции) + просто отказы. 🤷‍♂️ Но тем ценнее результат! 🙂🏆🙂 Поздравляю Михаила!!! 🎉🎉🥳🏆🥳🎉🎉

Господа! У нас отличная новость! Приняли статью в довольно неплохой Q1 журнал ("Computer Vision and Image Understanding"), первым автором в которой является студентка 5 курса Екатерина Шумицкая. 🙂🙂🙂 Заметим, что летом у Екатерины уже была статья на ICLR Tiny - это А* (поданная еще в бакалавриате). У нас уровни: * Scopus (чем больше импакт, тем лучше) в бакалавриате * Q1 в магистратуре * A* в аспирантуре Планомерно работаем над расширением числа тех, у кого получается. Настя Анциферова попала в одну комнату на NIPS на позапрошлой неделе с аспиранткой из Камеруна, в лаборатории которой требование минимум 1 А* к защите диссертации. Считаю, что мы должны быть лучше Камеруна (и требовать минимум две)))! 😉 💐🎉💐🎉💐 Поздравляю Катю и Настю! Это шикарный подарок на новый год! 💐🎉💐🎉💐

Господа! Всем, кому лемминги зашли. Тут на Хабре очередной крик души. Очень много классики:

Всю мою жизнь считалось, что программисты нереально востребованы и получают кучу денег. Поэтому я никогда не думал, что нужно копить. И вот мне 38, у меня только $20'000 в банках, 12-летняя машина и четверть квартиры в стране, откуда я уехал. Тем временем мои друзья, которые еле сводят концы с концами, как‑то уже выплатили почти всю ипотеку.

Программисты часто думают, что будут всегда легко и много зарабатывать потому, что в молодости им заработок дается заметно легче, чем сверстникам. А потом совершенно неожиданно наступает 38... А это вообще классика:

Мне 38, и со здоровьем проблемы. У меня искривление позвоночника. В 17 врачи сказали мне, что если не исправить, то всю жизнь спина будет болеть. Но в этом возрасте все супермены, и я не послушал совет. Всё было нетрудно исправить где‑то до 25 лет. Но я озаботился только к 30. К тому времени это уже было трудно. Я выпрямил спину с 25º до 21º за два года йоги и массажа, но прогресс был такой медленный, что я забросил. А лучше бы продолжил, потому что в 38 это ещё сложнее. Моя спина болит постоянно уже много лет.

И еще классика:

Я не пошёл учиться на магистра. В моё время после бакалавра можно было ещё пойти доучиваться на инженера, и я так и сделал. Это ещё полтора года прикладных штук вместо двух лет магистерских исследований. И я жалею, что выбрал это. ... А сейчас эпоха науки. Хорошая архитектура и чистый код уже на втором плане, потому что люди этому уже более‑менее научились. Это может дать тактическое преимущество, но этого уже недостаточно, чтобы выстрелить. Сейчас многое решает щепотка «волшебства». Сотня существующих сервисов вылетает с рынка, когда один из них выделяется искусственным интеллектом с каким‑нибудь прогнозом или генерацией.

...

Разница в том, что 40 лет назад наука угрожала рабочим местам библиотекарей и телефонных операторов, а сегодня она режет аналитиков, переводчиков, дизайнеров и ассистентов. Программисты следующие в очереди. Конечно, они не все останутся без работы, но количество программистов, нужных на одного учёного, постоянно уменьшается. И это будет продолжаться. Наука ближе к конечному потребителю, чем когда бы то ни было.

Больше букв тут: https://habr.com/ru/articles/782740/ Прикол в том, что я вангую, что у товарища еще несколько разочарований на горизонте) (первопричины кризиса среднего возраста налицо, например))) 🤷‍♂️ Но если его текущие мысли кому-то хотя бы немного помогут - уже хорошо. Поскольку Human Parity в Code Generation будет достигнут в ближайшие 2-3 года (сначала в более узких областях, потом шире). А потом еще пара революций будет. И это многое поменяет в описываемом товарищем направлении. Если кому-то текст мотивации добавит (чтобы в такой же ж... не оказаться), здорово!

Господа! Ниже текст Антона Обухова - одного из наших сильных студентов прошлых лет, который после университета попал в NVIDIA, был перевезен в Калифорнию, а потом загрустил от прода и в 32 года поступил в аспирантуру в Цюрихе (и дальше много раз повторял "эх если бы я раньше..."). Хотя он все равно безмерно крут и подавляющее большинство уже даже ШАД не могут затащить (поинтересуйтесь на досуге сколько там поступает и сколько заканчивает). Ну а Антон сотоварищи недавно выпустили SOTA в depth estimation (мы темой тоже занимались и на ВМК я даже курс "Введение в 3D видео" читал, но сейчас тема на второй план отошла). Причем у них идеи, которые потенциально и к другим областям применимы:

хотел попиарить нашу новую работу -- мы сделали лучший monocular depth estimation, назвали его Marigold, и вынесли им старичка MIDAS, которым до сих пор пользовались в Гугле и Дисней ресерч. Если кто помнит, год назад я делал ставку на диффузионки и файнтюнинг генеративных моделей (текст-в-картинки) для решения полезных задач, типа регрессии. Это именно то что мы и сделали, и это открывает на самом деле большие возможности. Хотя в нашей работе мы и показываем, как с этим подходом к регрессии решить задачу оценки карты глубины, ничто не мешает применять этот же подход для решения любых других задач. Важно лишь соблюсти ряд условий, которые прописаны в нашей статье, и SOTA (и возможно ещё одна статья на конференции) -- ваша!

Сайт: https://marigoldmonodepth.github.io Статья: https://arxiv.org/abs/2312.02145 Код: https://github.com/prs-eth/marigold HuggingFace: https://huggingface.co/spaces/toshas/marigold Collab: https://colab.research.google.com/drive/12G8reD13DdpMie5ZQlaFNo2WCGeNUH-u?usp=sharing

Господа, из прикольных новостей этой недели. Выступил очно на этой неделе с двумя докладами на открытом математическом семинаре в университете Иннополис в ОЧЕНЬ хорошей компании (Алексей Наумов - директор центра ИИ Вышки, а Александр Крайнов - директор по развитию ИИ Яндекса, и там еще очень интересные люди были). Иннополис тоже впечатляет, в первую очередь темпами своего развития. Похож на Сколково, но с лучшим контролем, меньшим количеством перекосов и очень хорошими перспективами. У них новый молодой ректор (Александр Гасников), который массу правильных вещей стартует. Запись первого дня (я в начале). Запись второго дня (я в конце после Крайнова - на картинке старое расписание) Многие слайды до этого показывались только на внутренних индустриальных конференциях) Есть несколько графиков, которые вообще показывались впервые) Но в целом - известные вам вещи - обзор темы взлома метрик + измерение качества JPEG AI и суперрезов.

Господа! Из наших текущих развлечений. Довольно широко известны физические атаки на классификаторы и детекторы. Это когда вы надеваете футболку с хитрым принтом и пропадаете с детектора (или хитрый макияж наносите и сеть вас не узнает). У нас была задача повторить физическую атаку для метрик. Это оказалось не так просто, как хотелось бы, но, наконец, получилось! Выше пример, когда вы добавляете специально обученный (во всех смыслах) стикер в кадр и no-reference метрика такая "Бо-о-оже, как же похорошела картинка!!!" 😉 В ближайшее время будем расширять спектр атак и, кстати, спектр защит от атак) Stay tuned!)

Господа! Анастасия выступила вчера на постерной секции. Кто узнает человека, окруженного толпой у постеров - молодец!) (пишите имя в комментариях))) Ну и конференция огромна - на фото выше виден зал, в котором докладчика видно только в бинокль и большое количество экранов не сильно спасают положение))) На последнем скриншоте: Настя написала автору метрики в приложении конференции про наш новый бенчмарк устойчивости метрик, а он оказывается следит за этой нашей работой и им интересно посотрудничать. Работаем! )))

Господа! Анастасия Анциферова - герой прошлого поста и наш сотрудник в ИИИ прислала сегодняшние фото с NeurIPS (A* AI, 7000 участников) сегодня из Нового Орлеана (юг США). Думаю, подробности еще будут (конференция идет неделю).

Господа! У нас улетная новость!) Последняя статья Насти Анциферовой сотоварищи "Comparing the robustness of modern image- and video-quality metrics to adversarial attacks that increase quality scores" зашла на AAAI-2024! Это А* конференция по AI! Йе-е-е-е-е-есссс!!!! 💪 Мы сделали это!!! 💃💃💃) Это уже третья А* Насти и команды метрик за последние 2 года! 🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉🎉 Статья описывает работы по бенчмарку устойчивости метрику, который измеряет насколько метрики легко накручиваются. С одной стороны до сих пор находится много наивных чукотских людей, которые не понимают, кому это нужно. С другой - в топах большинства бенчмарков, сравнений и соревнований в области обработки и сжатия видео уже почти не осталось лидеров, которые бы не оптимизировали результат под метрики (😲 упс...). Все исследователи делают это... А если у бенчмарка лидерборд не по метрике, а по субъективному сравнению, не так просто туда заманить авторов (и почему так происходит, интересно? 😉). Увеличение адекватности сравнения без дорогого субъективного - это буст всей области! Но еще важнее другая тема. Для тренировки JPEG AI, например, взяли 5 простых старых метрик, не потому, что лучше не было. Метрик лучше (моднее и молодежнее) был вагон. Просто они неустойчивы и в loss их поставить нельзя. При этом очевидно, что при постановке в loss более продвинутой метрики мы получим лучший результат. Аналогичную картину наблюдаем в SR и в других областях. Вопрос, где такую метрику взять или как построить? И это вопрос реально очень хороший. Мы уже сожгли много электричества (в прямом смысле) и потратили много сил на прокапывание этой области, но кроличья нора, похоже, весьма глубока. Как минимум это повод для следующих А*! 😁😁😁 Продолжаем движение! ✌️