NSS Lab News

Начинаем через 40 минут - трансляция будет в VK или ютубе.

Всем привет! 18 октября в 17-00 планируется совместный вебинар VK Cloud и лаборатории NSS Lab. Тема - "Доступный AutoML: как оптимизировать работу с ML-моделями с помощью VK Cloud и FEDOT". Ссылка на регистрацию: https://vk.company/ru/press/events/912/ Присоединяйтесь к просмотру и вы узнаете, как автоматизировать процесс работы с ML-моделями в облаке, используя преднастроенные сервисы с платой за использованные ресурсы и познакомитесь с Cloud ML Platform, облачной платформой, которая содержит инструменты для работы с данными и моделями — JupyterHub и MLflow, а также с AutoML-фреймворком FEDOT. В программе мероприятия: - Введение в AutoML - Машинное обучение в облаке: инструменты и инфраструктура - AutoML на базе Open Source: разбираем в live-режиме на примере фреймворка FEDOT - Сессия ответов на вопросы Спикеры - Александр Волынский, технический менеджер продукта, VK Cloud - Николай Никитин, руководитель направления AutoML, NSS Lab, ИТМО Регистрируйтесь и приходите послушать, будет интересно.

Бонус: фото с церемонии награждения. На экране: Андрей Стебеньков рассказывает о рецепте для победы - фреймворке BAMT.

Всем привет! На этих выходных прошёл хакатон AgroCode Hack 2022. Одна из задач состояла в том, чтобы выявить закономерности в заболеваниях коров на фермах и определить самые неэффективные протоколы лечения. Команда «Fedot Hack Team», поставляющая NSS Lab, заняла первое место! Среди участников - Андрей Стебеньков, Андрей Гетманов, Петр Шевченко, Денис Сидоренко и Елизавета Иванчик. Так как главным критерием для предлагаемых решений была интерпретируемость, наши коллеги решили применить байесовские сети, построенные с помощью фреймворка BAMT, который разрабатывается в нашей лаборатории (особенно им помогли примеры, подготовленные одним из разработчиков BAMT - Никитой Ковалёвым). Таким образом предиктивная эффективность FEDOT и интерпретируемость BAMT обеспечили участникам победу. Здесь можно ознакомить с презентаций и jupyter-ноутбуком с кодом решения. Если оно вас заинтересовало - поддержать фреймворки BAMT и FEDOT можно, как обычно, звездочками)

Всем привет! В это воскресенье на конференции HackConf произойдет доклад Николая Никитина под названием "Автоматическое машинное обучение: от автоматизации рутины к композитному ИИ". Доклад начнется в 13-00 (см. программу мероприятия). Регистрируйтесь и приходите послушать - Санкт-Петербург, пл. Победы, д. 1, Park Inn Пулковская. Всё в духе старой школы - никаких трансляций не будет. Про что будет идти речь: Мы поговорим о различных инструментах AutoML и их возможностях. Помимо стандартных задач работы с табличными данными, отдельное внимание будет уделено задачам прогнозирования и классификации временных рядов. В качестве примера многофункционального инструмента AutoML расскажу о open-source фреймворке FEDOT, разрабатываемом в нашей лаборатории. Будут затронуты вопросы автоматического создания гибридных, композитных и мульти-модальных пайплайнов МО, бенчмаркинга AutoML-решений, а также намечены перспективные пути повышения их эффективности. В заключение обсудим концепцию композитного ИИ и роль AutoML в ее реализации.

Всем привет. На этих выходных представители нашей лаборатории - Андрей Гетманов, Майя Пинчук и Валерий Покровский поучаствовали в хакатоне по ИИ "Цифровой прорыв". Основанное на AutoML-фреймворке FEDOT решение позволило им быстро и эффективно решить задачу прогнозирования временных рядов из области экономики (предоставленных Центробанком) и ворваться в ТОП3. Презентация, код и данные доступны в репозитории. Видео выступления можно посмотреть по ссылке на отметке 58:20. Подробности по решению: В качестве начального приближения для каждого временного ряда использована модель авторегрессии с L2 регуляризацией. На основе этих данных построена двухуровневая мета-модель, учитывающая структуру временных рядов. Для каждого временного ряда выбирается самый близкий по структуре временной ряд из тестовых данных и выбираются гиперпараметры, которые оказались лучшими для похожего ряда из обучающей выборки. В случаях условного предсказания используется модель с добавлением в нее экзогенных переменных.

Всем привет! С 25 июня по 10 июля в пространстве Севкабель Порт проходит выставка роботического искусства от ИТМО. В программе мероприятия 9 июля в 12-00 - доклад сотрудника нашей лаборатории Григория Киргизова, посвященный различным подходам к ИИ (сильному и не только). Если будете в тех местах - заходите послушать Григория, а также посмотреть на инсталляцию его же авторства).

Всем привет. Сегодня вышла ещё и англоязычная версия поста про настройку гиперпараметров ансамблей моделей машинного обучения: https://towardsdatascience.com/hyperparameters-tuning-for-machine-learning-model-ensembles-8051782b538b Читайте, лайкайте, распространяйте в международном сообществе)

Всем привет. Завтра в рамках конференции VK Cloud Conf пройдет сессия "AutoML на 360. Как выбрать технологии и внедрить". Возможна ли дискуссия про современный AutoML без упоминания создаваемого в нашей лаборатории фреймворка FEDOT? Ответ очевиден. Поэтому, если хотите послушать - регистрируйтесь по ссылке и подключайтесь к трансляции дискуссии с 15:30 до 16:00 мск. UPD: запись доступна тут.

Всем привет! Сегодня мы выпустили ещё одну статью на Хабре - "Про настройку гиперпараметров ансамблей моделей машинного обучения" за неизменным авторством Михаила Сарафанова. Где почитать: https://habr.com/ru/post/672486/ В статье поднимается тема настройки (tuning) гиперпараметров в пайплайнах машинного обучения, получаемых при помощи многоуровневого блендинга отдельных моделей. Дается небольшой обзор вопроса, ссылки на интересные посты и примеры, а также описывается как мы решали такую проблему во фреймворке FEDOT (куда уж без него). Есть и немного экспериментальных результатов. Будем рады любом фидбеку: лайкам, комментариям, репостам.

Графическая версия с логотипами. Все решения, не вошедшие в основной список, доступны в https://github.com/ITMO-NSS-team P.S. Для тех, кто хочет разрабатывать научный опен-сорс, но не знает как - скоро проведем на эту тему онлайн-семинар.

Всем привет. Помимо непосредственно научных результатов, NSS Lab создает ещё и многочисленные open-source продукты. Сегодня мы хотим кратко описать наши основные фреймворки и библиотеки; одни из них знакомы нашим постоянным читателям, другие - представляются впервые. Мы будем очень рады звездочкам на гитхабе, равно как и любому другому фидбеку. FEDOT (https://github.com/nccr-itmo/FEDOT) - не нуждающийся в представлении фреймворк автоматического машинного обучения, позволяющий строить композитные пайплайны для различных задач и типов данных с помощью эволюционных алгоритмов. Особенно он хорош в прогнозировании временных рядов. Помимо основного репозитория, доступен прототип веб-интерфейса - https://github.com/nccr-itmo/FEDOT.Web и версия для поиска архитектур сверточных нейронных сетей - https://github.com/ITMO-NSS-team/nas-fedot GEFEST (https://github.com/ITMO-NSS-team/GEFEST) - фреймворк для генеративного дизайна физических объектов, взаимодействующих с физической средой. Среди примеров применения - поиск оптимальной конфигурации волноломов в портах, искусственных селезенок, дорог на нефтяном месторождении. Особенность фреймворка является модульность - каждый блок (оптимизатор, симулятор и т.д.) можно заменить в зависимости от решаемой задачи. BAMT (https://github.com/ITMO-NSS-team/BAMT) - фреймворк для обучения байесовских сетей, а также для выполнения прикладных задач, связанных с моделированием на основе байесовских сетей. Фреймворк включает самые передовые алгоритмы обучения структуры и параметров байесовских сетей, а также функционал, позволяющих производить семплирование. Модульная структура фреймворка позволяет добавлять в него новые алгоритмы обучения. Функциональность фреймворка была опробован на геологических и социальных данных - код можно найти в папке с примерами. EPDE (https://github.com/ITMO-NSS-team/EPDE) - фреймворк для определения дифференциальных уравнений, которые описывают динамические системы, на основе временных рядов, или полей измерений. В основу подхода положен эволюционный алгоритм, который позволяет подобрать уравнения, соблюдая баланс между их "сложностью" и качеством воспроизведения процесса. В то время как большинство аналогичных фреймворков накладывает жесткие ограничения на структуру искомых уравнений, работая преимущественно на аппроксимацией временной динамики процесса, EPDE обладает большей гибкостью и может получать произвольные уравнения. TEDEouS (Torch Exhaustive Differential Equation Solver) (https://github.com/ITMO-NSS-team/torch_DE_solver ) - “один, чтобы править всеми”, фреймворк автоматизированного решения дифференциальных уравнений. В самой области существуют несколько десятков древнейших представителей профессии, написанных на Fortran и C++ (например, в той же boost library таковой есть) - они решают свою задачу быстро и точно. Проблема в том, что для каждой отдельной задачи нужен свой солвер, а людей, которые умеют пользоваться всеми солверами - ничтожно мало. Мы подумали и решили перепоручить решение диффуров компьютеру - пусть он решает всё не так быстро и точно, но зато сам. pytsbe (https://github.com/ITMO-NSS-team/pytsbe) - библиотека для бенчмаркинга на задачах прогнозирования временных рядов. Например, если у вас есть два алгоритма прогнозирования и вы не знаете какой из них лучше - вы запускаете эту библиотеку и она проводит сравнение на разных горизонтах прогнозирования и на множестве рядов. Есть множество опций для запуска по несколько раз с усреднением результатов (что особенно важно для AutoML), отрисовкой графиков и сохранением большого количества дополнительной информации. meteotik (https://github.com/ITMO-NSS-team/meteotik) - модуль для формирования временных рядов из сеток реанализа (это такие рассчитанные моделью значения метеопараметров на большую территорию, например, направление ветра) и статистического сравнения рядов с такими же данными, но с метеостанций (данные измерений, они точечные, зато как правило точнее реанализа). Мини-библиотека позволяет формировать таблицы для отчетов и множество красивых графиков.

Всем привет. Сегодня в 17:00 пройдет семинар по высокопроизводительным вычислениям от НИУ ВШЭ, на котором будет выступать с докладом представитель нашей лаборатории Александр Хватов. Тема: «Поиск уравнений физических процессов по данным: можно ли уравнять математиков и ИИ?» Аннотация доклада: Традиционно, монополией на вывод дифференциальных уравнений по данным экспериментов обладают физики и математики. Все мы знаем про вариационные принципы, например принцип Гамильтона. Число вариационных принципов конечно, а значит, по теореме Нётер и число уравнений, которые потенциально могут открыть учёные, конечно. В докладе поговорим, можно ли научить компьютер "выводить" уравнения по данным, то есть искать внутренние связи между точками поля измерений в виде дифференциального уравнения. При этом, машину довольно трудно научить вариационным принципам, и она может обладать лишь возможностью численно дифференцировать поля. Такой способ получать уравнения теоретически (и на практике), даёт неизученные уравнения, а значит и вдохновение для учёных на поиск уравнений не там где "светло", а там где "ключи потерял". Ссылка для подключения: https://zoom.us/j/96910349838?pwd=N21NNTFjclFZRXNVMm51UUZUM0R5QT09 Meeting ID: 969 1034 9838 Passcode: 501711 Подключайтесь послушать!

Всем привет. Недавнее голосование за лучшие opensource-решения дало свои плоды - наш фреймворк FEDOT был успешно представлен на конференции Highload++ 2022. Помимо представления основных возможностей фреймворка, в ходе выступления обсуждалась эффективность кэширования, параллелизации и использования удаленной инфраструктуры для вычисления фитнес-функции в ходе эволюционной оптимизации композитных пайплайнов. Презентация с конференции доступна по ссылке, равно как и видео.

Всем привет. Для интересующихся поступлением в магистратуру - прямо сейчас проходит день открытых дверей нашей образовательной программы “Искусственный интеллект в промышленности”. Ссылка на трансляцию: https://vk.com/itmomagistry?w=wall-54201931_8112