Data Blog

Computation graph analysis — comgra library… или привет, друзья! 🐓 Мне прилетела — делюсь дальше — comgra библиотека для анализа вычислительного графа нейронной сети. Библиотека позволяет: - анализировать тензоры нейроной сети и их поведение на разных шагах обучения. - анализировать тензоры нейроной сети и их поведение на разных батчах и даже отдельных наблюдениях при обучении. - отслеживать зависимость тензоров и градиентов друг от друга. Если вы знакомы, то comgra некоторый нейросетевой аналог библиотеки treeinterpreter (она поддерживает все sklearn деревья и ансамбли). Каждому начинающему библиотека будет полезна при учебном процессе, для более детального понимания логики работы сетей. Продолжающим, и заявленный основной сценарий использования — отладка архитектуры при её разработке. 🐮Совместимость: pytorch Покладистых всем нейронов, в том числе в голове, Ваш Дата-автор!

Потому что подвожу итоги лета, а ещё потому что Евгений и Елена сильно помогли мне расширить список достижений 🐷 Друзья! Пишу сегодня вам ещё — порекомендовать шикарную школу AI Education и рассказать об их вот-вот стартующих буткемпах: - Начало MLOps (бесплатный курс, старт 15.09) - Основы нейронных сетей и NLP (платный курс, старт 20.09) Пишу, потому что провела с AI Education почти всё лето и за это время: - Наконец-то вникла, что такое контейнер и как его собрать, поднять и запушить - Задеплоила веб-сервис с анализом данных и сделала демо веб-сервиса для подбора методик интерпретации (можно пользоваться, но я ещё его улучшу) - Начала приручать бобра в лице DBeaver - Повторила математику внутри KNN, регрессий и наивного Байесовского классификатора - Повторила методы работы с несбалансированными данными Попутно я перестала ругаться на декораторы, стала лучше чувствовать культуру ООП, ввела в плотную привычку работу через GitHub и вернула 80ГБ памяти на компьютер, но это другая история..:) Очень советую школу и не прощаюсь! На второй курс иду сама, потому что мне хочеться и нужно научиться парсить данные, на первый — может тоже, если не лопну от нагрузки) На деле — рада тому, что вас всё больше, а стеснения у меня иной раз писать посты у меня всё меньше. Поэтому продолжаю интенсивно стучать по клавишам, Ваш Дата-автор! 🐓 P.S. не реклама, а, как говорят, "от души". P.P.S хотела найти какой-нибудь промокод на степик, но не нашла. P.P.P.S если вы тоже изучили что-то отличное за лето — делитесь в комментариях! Знания — сила, даже когда кажется, что тема старая и всё уже известно)

Привет, друзья! С Днём знаний! 🍁 Пишу закинуть интересную статью: «TRIVEA: Transparent Ranking Interpretation using Visual Explanation of Black-Box Algorithmic Rankers» В ней методы explainable AI используются для обеспечения прозрачности решения задачи ранжирования. Опуская другие детали (я не спец в задаче ранжирования), на основе статьи можно вынести два важных и интересных топика: - методы explainable AI, заявляемые как model-agnostic — то есть применимые к любой модели — полно способны охватить классический кластер задач AI. Так, для анализа процесса ранжирования в статье применены LIME (Local Interpretable Model-Agnostic Explanations) и ICE (Individual Conditional Expectation). - в применении post-hoc объяснений есть момент субъективности методов. Здесь это проявлено в том моменте, что в статье авторы, исследуя согласованность методов, обнаружили, что она не стабильна и зависит от свойств данных и задачи. Вот такое спонтанное короткое включение. Надеюсь, те из вас, кто с детьми сохраняют бодрость духа, те, кто стартанул в новый учебный год — предвкушают новые события и знания и те, у кого ничего не изменилось держат дзен!) Я где-то во между второй и третьей группой, Ваш Дата-автор! 🐥

Вернёмся к LLM! Друзья, творческие начала подвезли вторую часть моих дискуссий с Андреем про LLM! Во второй части я постаралась (очень!) закрыть два основных вопроса — зачем: - ...интерпретировать LLM? И как: - ...справляются в области со сложностями в интерпретации больших лучистых (вы поймете, открыв пост) LLM? 🍒 Вишенкой рассказала о применении самих LLM моделей как методов интерпретации. С Андреем будем рады ещё вопросам! А если мы не ответим сразу, то быть может именно ваш вопрос станет триггером на новый deep-dive research. Ну и Читать здесь! Awesome кооперация с @awesome_dl

Дата-автор покупает картошку. 🍠 Если вы слышите в магните человека, орущего: «Цивилизация, компьютерное зрение!!!» — это я) P.S. Для малых городов — очень удивительная штука.

Дата-автор покупает картошку. 🍠 Если вы слышите в магните человека, орущего: «Цивилизация, компьютерное зрение!!!» — это я) P.S. Для малых городов — очень удивительная штука.

Друзья! Кто открывал чудесный шевелящийся текст пару постов назад, тот видел, что готовится серия постов про  LLM. Так вот, мы дописали! И нет, "мы" — это не я и мои кошки =) Сегодня я закончила допрос Андрея (а Андрей — допрос меня), и мы сделали целых два поста про  LLM и интерпретацию этих моделей. В первой части рассмотрены вопросы теории: - Какие выделяются виды LLM моделей и откуда различия между ними? - Почему мне и вам полезно знать про LLM и где они могут пригодиться? Практики: - Какие библиотеки будут полезны для работы с LLM, и какие используют наиболее? - Где можно ли обойтись базовыми моделями типа W2V или BoW? И момент мечтаний: - Какой тренд в развитии LLM на базе последних исследований? Мы мучили друг друга две недели и надеемся, что получилось awesome. Ждем вашего прочтения и если будут еще вопросы – ждем ещё вопросов! А читать...читать здесь 🐤 Кооперация с @awesome_dl

Не могу этим не поделиться. Сделайте свой день чуднее — сгенерируйте смешного котика, ботинок, сумку или фасад из собственных каракуль! Я вот постаралась. 🐥

Привет друзья! Линейная регрессия — алгоритм, с которого многие начинают свой путь в машинном обучении. Вопреки простоте и старости, линейная регрессия остается востребованной, поскольку относиться к интерпретируемым алгоритмам. Интерпретируемость в данном случае — внутреннее свойство модели, отсюда, как ни странно, для интерпретации важностей признаков нам важно заглянуть внутрь — посмотреть веса. На практике посмотреть — это полдела. А вторые полдела — проанализировать и продемонстрировать результаты. В посте (я полюбила телеграф 🐥) собрала 5 методов, как это можно сделать! Внутри разобраны: 1. Прямое представление коэффициентов в виде барплота. 2. Представление коэффициентов виде круговой диаграммы. 3. Рассмотрение относительного вклада коэффициентов. 4. Анализ остатков модели. 5. Построение регионов уверенности. Код с примерами из статьи доступен в ноутбуке. Там же небольшой cheat sheet по регрессии. А впереди у нас пост про интерпретацию LLM, но мы еще пишем. Желаю вам продуктивной работы и теплых дней уходящего лета, Ваш Дата автор! 🐤

Привет, друзья! 🐥 Стала плотнее работать с библиотеками, предлагающими методы интерпретации. По пути стали встречаться ошибки и баги, так что я решила начать собирать возможные проблемы и решения в одном месте. Красивое readme я добавлю позже, а пока приглашаю вас присоединяться к наполнению и использованию такой небольшой базы данных. Ссылка на репозиторий: XAI_libraries_problems Устала отдыхать, а у меня и не получается, 🌤 Ваш дата-автор!)

Спонтанный привет, друзья! Ну точно лопну, если не поделюсь — кажется нашла ферму, где трудятся — растят всякие «искусственные интеллекты» — маленькие дата-сатанисты — ML Mining😈😄 В реальности, конечно, ML Mining — крупная многофункциональная строительная компания в Ереване. Строят, сносят, материалы производят. А жаль. Всем много мемов в жизни! Ваш, чуть выдохнувший в отпуске, Дата-автор :)

scikit-explain — библиотека для объяснения sklearn моделей. Привет, друзья! Я тут жарюсь в Армении, и пока подтягивала кривыми ещё в терминале руками sklearn в окружение, случайно обнаружила библиотеку scikit-explain. 🐤 В ней реализованы «джентльменский набор» и «дамская сумочка» методик интерпретации — «джентльменский» — потому что методы из библиотеки действительно являются базовыми и достаточными для интерпретации ML алгоритмов, «дамская» — потому что кроме основных есть и другие, расширяющие. В общем, если вы в основном работаете со sklearn моделями, библиотека scikit-explain может стать удобным инструментом для использования! Для удобства прилагаю список реализованных методов: Feature importance: • Permutation Importance, Grouped Permutation Importance • SHAP • First-order PD/ALE Variance (Greenwell et al. 2018 ) • Grouped Permutation Importance (Au et al. 2021) Feature Effects/Attributions: • Partial Dependence (PD), • Accumulated local effects (ALE), • Random forest-based feature contributions (treeinterpreter) • Main Effect Complexity (MEC; Molnar et al. 2019) Feature Interactions: • Second-order PD/ALE • Interaction Strength and Main Effect Complexity (IAS; Molnar et al. 2019) • Second-order PD/ALE Variance (Greenwell et al. 2018) • Second-order Permutation Importance (Oh et al. 2019) • Friedman H-statistic (Friedman and Popescu 2008) Библиотека живая: последнее обновление 2 недели назад (на 27.07.23) Всем отличных и спокойных вечеров! Ваш дата-автор:)

Привет, друзья! 🐥 Вы просили — мы (я и мои голова и пальцы, получается) сделали — сегодня про один из методов интерпретации моделей — Permutation importance. В статье разобраны 3 пункта: - Что это за метод интепретации? - Как корректно интерпретировать результаты метода? - Где можно найти реализацию метода для применения в своих задачах? Приятного прочтения! С огромной любовью к тому, что вы тут (вас аж более 300, боже!) , ваш, пакующий рюкзак на отдых, Дата-автор 💛

Привет, друзья! Линейная алгебра набрала большой отклик, а я люблю её, как своих котов, так что начнем с неё! Здесь разобраны 3 типы задач: 1. Нахождение решения системы линейных уравнений 2. Нахождение многочлена по его значениям 3. Исследование векторов на линейную независимость. Где встречаются линейные уравнения в Data sceince: 1. Порождение линейно зависимых фичей — просто взяли признак и умножили его на число. Это усложняет алгоритм и не добавляет информативности. О косвенной линейной зависимости может говорить также высокая корреляция Пирсона. 2.Обучение линейной регрессии — в идеале мы хотим решить матричное уравнение максимально точно. Ваши примеры? На этом всё. Дайте знать, в какую сторону улучшать разборы (но только не почерк). Пару задач на попрактиковаться оставила в комментариях. Отличного понедельника! Ваш Дата-автор) 🐥

Привет, друзья! Закончился 20-ти дневный период на подготовку договора с Фондом… и я — выжатый лимон!) Обещала делиться, поэтому пишу. Пусть тут будет ветка #УМНИК #Грант Напомню, «УМНИК» — программа, позволяющая людям от 18 до 30 лет получить грант в размере 500 000 на год для реализации научной разработки. До момента получения денег проходятся этапы подачи заявки, очной её защиты и отбора жюри. 🍋 Сегодня о том, что происходит в случае выигрыша. Происходит весёлое — заполнение договора с Фандом. Это чудо света заполняется максимально строго и формально: — Да, бюрократической тавтологии — Нет сленговыми названиям. Никакого бэкэнда и пайплайна машинного обучения — только «разработка серверной компоненты продукта», и «обучение, тестирование и анализ экспертного алгоритма ... продукта». Договор, и вся программа в целом нюансированы тем, что с одной стороны, фонд требует проводить научную работу, с другой — настаивает на её коммерциализации (обязательно). По договору за 12 месяцев пирожки-грантополучатели обязаны: 1. Реализовать все работы в договоре (и защитить по ним отчетность дважды — на середине и в конце). 2. Подать заявку на регистрацию прав (заявку на патент) на результаты интеллектуальной деятельности. 3. Разработать бизнес-план проекта в соответствии с требованиями или подать заявку на участие в программе Фонда «Студенческий стартап». 4. Пройти преакселерационную программу, с целью проработки перспектив коммерческого использования результатов НИР; 5. Разработать дорожную карту развития проекта. Иначе говоря, по договору вы должны работать, учиться бизнесу и патентовать. Звучит как лагерь, причем с хорошими условиями) Что касаемо меня: На договоре я сильно выжалась, потому что подала сырой проект и вообще не планировала получать на него деньги. У меня не было понимания что я хочу материально сделать, и следовательно видения как я буду это делать — отсюда нервы, стресс и большая благодарность людям вокруг — организатор на нашей площадке с нами 24 часа в сутки 7 дней в неделю, мой друг, компетентный в разработке, вуалировал со мной этапы и его ответы помогли мне понять, как копать, когда ты в разработке, как кола — zero. Если вы приходите на "УМНИК" с четким видением материального продукта и пониманием шагов к его созданию, то пока программа выглядит хорошим способом получить инвестиции в pet-project. На этом на сегодня всё. У меня есть некоторые задумки на летний контент канала. Ниже по ним опрос. И это пилотный пост!) Ине будет легче описывать опыт гранта, если вы зададите точечные вопросы!) Такие сегодня вести. Ещё не сок, но уже как фрэш, Ваш Дата-автор.

Привет, друзья! Прости господи моим нервным клеткам эту сессию в 5 экзаменов и беготню с получением гранта. Официально чувствую себя чемпионом по разрешению входящих задач в потоке, устала и хочу в отпуск. Но какой отпуск без хорошей и интересной работы? Я серьезно — без неё было бы скучно! =) На DataFest был отмечен важный нюанс — интерпретируемость (interpretability) не равно объяснимость (explainability). И я решила, что разница должна быть зафиксирована текстом. Ну, и чтобы не хранить это в ящике, выложила статью на Хабр! Она ждёт вас там. Ушла повторять диффуры, Ваш дата-автор =)

Привет, друзья! Сегодня включение ещё более спонтанное: я взяла грант на проекте "УМНИК"! Предыстория: зимой мой научный руководитель предложил мне разработать идею и выступить с ней, ради практики выступлений. Как видите, вышло аж вот так) Мы ждали результатов полгода, долгое время ходили слухи, и вот дождались! Впервые получаю грант на свой проект (конечно же ИИ-шный). По предупреждению научника в этой истории стоит заранее запастись любовью к бумажкам, отчетам, печатям, документам и подписям. Так вот к чему делюсь — леплю опрос ниже! Сегодня в шоке, Ваш дата-автор!