🏆 AIeron | Data Feeling

Выиграть 100к или как написать лучшую статью на Хабре. Год уходит. Подводить итоги буду завтра, а сейчас просто хочу поделиться небольшой радостью. Выиграл в конкурсе авторов! За этот год я написал 8 статей на Хабре. Почти каждая была в топе лучших среди недели. Три из них висели в топе лучших за месяц, а одна оказалась в топе всех топов, закинув меня в топ-1 на Хабре и, как выяснилось сегодня, принесла мне возможность покрыть расходы на идею с курсами на 100к, о которой писал выше. Кстати, перед публикацией той статьи у меня не было в мыслях выставлять ее на конкурс, я просто классно провел время играя с новой игрушкой и фантазируя надо альтернативами лого для red_mad_robot. На момент завершения статьи, у мня встал выбор, добавить в статью рекламу и получить ~3к-5к или просто публикануть, включив в конкурс. Чтоб выиграть, мне надо было побороть хотя победителя прошлых лет. Спарсив рейтинги других статей Хабра и сравнив со своими - понял, что мат ожидание выигрыша вышел, чем просто разовая плата. Как видите, оценка была хорошей. Знаете почему я вообще начал писать свои статьи? Все от дури! Однажды ночью мою голову просто разрывал поток мыслей и идей, не дающих спать. Не переселив желание поделиться, я просто сел за чистый ворд и начала писать, облегчая так свой "приступ". Так родилась моя первая статья, которую по фану решил заслать на Хабр утром. Тот день был моим первым рабочим днем в Х5. Мне очень нравится писать про штуки, которыми редко кто стал бы делиться. Всякий технический схематоз - это прям мое любимое, то за что я полюбил Хабр. Скучно писать что-то, про что писали уже до тебя, а вот накропать что-то такое от чего читатель сказал бы: "Вау, это надо запомнить" - это бесценно. #Хабр

Узнал необычный трюк по соревнованиям, где метрика - корреляция. Накидываете на свой ответ шум и скор с ненулевой вероятностью подрастает. Если скор подрос, накидываете еще шум и так пока не станете медалистом. Оказывается, нужно не так много попыток, чтоб зайти в золото и обессмыслить лидерборд. Продолжаем с тиммейтами валидировать модели. Радует, что локальная валидация коррелирует с бордом. Еще один трюк, который внезапно помог - это учить ансамбль моделей на тех данных, на которых базовые модели имеет такую же точность как и на тесте. Это называется мета-лернинг. Очень парадоксально, чтоб в этом чемпионате можно проверять моделии сперва на тесте, а только потом уже валидировать на трейна 🤪

В целом, это верный путь в любой сфере. Если сильно надо - бьешь в одну точку, пока не треснет. Кстати, с пасибо за ваши ответы вчера. Мы нашли пару идей для себя. Мне понравились варианты с Adversarial Validation и со смешиванием моделей заранее в единую фичу с весами пропорционально известной точности (корреляции) на тесте. Последнее, кажется, может докинуть. Надеюсь, вам тоже было полезно подумать над кейсом. Аудитория у меня, конечно, заряженная 💪

Уперлись с командой очень необычный кейс ... Вот у вас есть три предобученные модели, на тесте эти модели дают точность 90%, 80%, 70%. Вы решили отвалидировать ансамбль из трех моделей на трейне. Подали прогнозы моделей как фичи + дополнительные фичи в бустинг. Как итог, бустинг отранжировал выходы моделей по важность абсолютно противоположно тесту. Как итог, на тесте ансабль дал точность ~75%... Вот думает, что делать) Метрика на тесте - корреляция Спирмена. Из идей, навесить на фичи веса, чтоб бустинг через "не хочу" ранжировал фичи в соответствии с информацией с теста.

Меня периодически спрашивают, а что нужно, чтоб выигрывать на Kaggle? Вопрос не однозначный, но вот недавно увидел критерии молодых ребят, чтоб попасть к ним в команду по фармингу кегла и тп. Проверьте себя. Интересный чек-лит.

Встретился сегодня с земляком из Сочи. Тот сказал интересную фразу "Я твой канал почитал, на ютубе тебя послушал, ни слова не понял, но понял, что ты чем-то из IT сферы занимаешься" Не знаю почему, но мне было очень смешно. А еще приятно, что Вы меня все понимаете) Хотя бы иногда! Ладно родители крестились, когда мои рабочие разговоры слышали, но от ровесников из digital мира все равно похожее забавно слышать. Живете в разных мирах и разных информационных пузырях. Кстати, с людьми не из IT, как правило я не разговариваю, ибо зачем при разговоре я не использую терминологию совсем. Четко слежу за тем, чтоб собеседнику было легко меня понимать. Душнил в мире и без того хватает, таких, кто не может от профессиональных деформаций оправиться, когда в мир "обычных смертных" спускается.

Решил, что весь год усердно трудился и в качестве подарка накуплю себе разных тренингов и мини-курсов на 100к. Технические навыки подразгоню, англ подкачаю и без физ нагрузки не останусь. Коучей и психологов всяких не хочу, хочу больше в что-то практическое. «Интенсив по ML System Design». Или «Недельный нон-стоп по аудированию на английском». Что-то похожее у меня уже было в этом году по MLOps. А еще я успел пройти курс по «Съемке с коптера» В общем, надо уметь себя порадовать хотя бы на НГ 🎅 🎄 Поэтому пишу это сюда, чтоб я точно не смог потом отмазаться перед самим собой, да и с вами поделится потом полным чеклистом. И вообще, скоро буду подводить итоги года. Сейчас все силы бросил на борьбу за золото на Kaggle. Ензимы оказались невероятно интересными. Это тянет на несколько сочных статей на Хабре. Осталось только подняться еще ~40 мест 😅 Ждите вестей!

Придумал очень простую аналогию, чтоб объяснить почему смешивание (блендинг) моделей работает. Есть у вас есть две модели - A и B. Пусть это не модели, а две аудитории двух блогеров. Например Алерон и Дзись. Решено сделать блендинг (кросс-постинг). Если это две полностью совпадающие аудитории (одни и те же люди), то от такой взаимной рекламы у вас не будет прироста ни в одном канале. А вот если аудитории вообще никак не пересекаются (диверсифицированные модели), то при смешивании, вероятность, что люди из одного канала перейдут в другой будет сильно выше. Например, Алерон и Бабушкин. Кстати, не хочет ли он колаб?!🤔 Надо будет узнать у него. Постучусь к нему, как стану KM. При смешивании ответов нескольких моделей механика полностью аналогична. Это и снижении одновременной ошибки объясняет и баес от допущений каждой из моделей и так далее.

Кого только не встретишь в Таиланде?! С кайфом посерфили с Женей. Было очень интересно с ним поболтать за мир DS/ML с высоты тим-лида и посерфить на Пхукетовских волнах. Ощущение, будь-то это второй Валера Бабушкин, но вид с боку. Кстати, Женя матерый competitive data scientist. Заметил его когда-то в соревнованиях на Boosters. (Хотя на Kaggle его так и не уговорил) А еще у Жени есть классный канал, где он делится опытом решаемых задач в Альфе с помощью ML’я. Канал прикольный, но не помню ссылку. Подскажите? #физтехи_повсюду

А вот вам на сладкое. Дошли руки дописать статью про решение с American Express. https://habr.com/ru/post/704440/

Вы просили, я организовал. Инсайдерский вебинар по текущей задаче на Kaggle. Залетайте, расскажу пару идей и не только https://us02web.zoom.us/j/84090762014?pwd=TFl5cUk4MGkzUzhmOTdZNWJJRzRoUT09 Meeting Passcode: 772480

И денег платить не надо) В общем, даже если вы не шарите за DS так же блестяще как GPT, все равно не надо говорить, что хотите работать за еду. Всегда называйте вилку. Ту часть, где GPT задает вопросы мне и я их валю - выкладывать не стал, чтоб не ронять марку😂 На сегодня все. Успехов!

Чей способ лучше, мой или от GPT? Кажется, gpt решила и меня заменить. Теперь она будет с вами лайф-хами делится. Ждем, когда она выиграет первую медаль на Kaggle.

Засчитывать ей SQL или нет? Отвечает мгновенно.

Ого, да я сам бы завалил этот вопрос. А сетка еще и тесты накидала. Если вам надо пройти лайф-кодинг, просто кидайте свои вопросы GPT.

Ща буду собесить chatGPT по Data Science. Как видите, секцию классического ML'а она проходит успешно. Что по SQL

Kaggle - это не всегда DS и ML, зачастую это история немножечко про MLOps + парсинг. Это я пытаюсь осилить текущий чемпионат по прогнозированию температуры плавления белков. Как выберусь в медальную зону, начну сюда вкидывать описание моих действий. Пока только успел прикрутить пару моделей аналогов AlphaFold’а через внешнее API. В топ еще не вышел. Работаем.

Речь собственно про курс по оферам, который мы успели отшлифовать за два месяца до отличного состояния. Найти его можно тут Ссылка на курс