ar
Feedback
Kantor.AI

Kantor.AI

الذهاب إلى القناة على Telegram

Там, где люди учились AI, я преподавал. С 18 лет читаю лекции по AI: МФТИ, ВШЭ, МГУ, Coursera, Сколково. Строю AI/ML-команды в компаниях. Пишу про ИИ без хайпа, образование, карьеру и преподавание изнутри. Менеджер: @mariekap РКН: 5140322136

إظهار المزيد

📈 نظرة تحليلية على قناة تيليجرام Kantor.AI

تُعد قناة Kantor.AI (@kantor_ai) في القطاع اللغوي الروسية لاعباً نشطاً. يضم المجتمع حالياً 12 310 مشتركاً، محتلاً المرتبة 10 162 في فئة التكنولوجيات والتطبيقات والمرتبة 53 101 في منطقة روسيا.

📊 مؤشرات الجمهور والحراك

منذ تأسيسه في невідомо، حقق المشروع نمواً سريعاً وجمع 12 310 مشتركاً.

بحسب آخر البيانات بتاريخ 12 يوليو, 2026، تحافظ القناة على نشاط مستقر. خلال آخر 30 يوماً تغيّر عدد الأعضاء بمقدار 6، وفي آخر 24 ساعة بمقدار -13، مع بقاء الوصول العام مرتفعاً.

  • حالة التحقق: غير موثّقة
  • معدل التفاعل (ER): يبلغ متوسط تفاعل الجمهور 40.23‎%. وخلال أول 24 ساعة من النشر يحصد المحتوى عادةً 16.24‎% من ردود الفعل نسبةً إلى إجمالي المشتركين.
  • وصول المنشورات: يحصل كل منشور على متوسط 4 952 مشاهدة. وخلال اليوم الأول يجمع عادةً 1 999 مشاهدة.
  • التفاعلات والاستجابة: يتفاعل الجمهور بانتظام؛ متوسط التفاعلات لكل منشور يبلغ 32.
  • الاهتمامات الموضوعية: يركز المحتوى على مواضيع رئيسية مثل ssm, контекст, гибрид, llm, слайд.

📝 الوصف وسياسة المحتوى

يصف المؤلف القناة بأنها مساحة للتعبير عن الآراء الذاتية:
Там, где люди учились AI, я преподавал. С 18 лет читаю лекции по AI: МФТИ, ВШЭ, МГУ, Coursera, Сколково. Строю AI/ML-команды в компаниях. Пишу про ИИ без хайпа, образование, карьеру и преподавание изнутри. Менеджер: @mariekap РКН: 5140322136

بفضل وتيرة التحديث المرتفعة (أحدث البيانات بتاريخ 13 يوليو, 2026) تحافظ القناة على حداثتها ومستوى وصول مرتفع. وتُظهر التحليلات تفاعلاً نشطاً من الجمهور، ما يجعلها نقطة تأثير مهمة ضمن فئة التكنولوجيات والتطبيقات.

12 310
المشتركون
-1324 ساعات
-177 أيام
+630 أيام
جذب المشتركين
يوليو '26
يوليو '26
+61
في 0 قنوات
يونيو '26
+163
في 2 قنوات
Get PRO
مايو '26
+413
في 5 قنوات
Get PRO
أبريل '26
+159
في 0 قنوات
Get PRO
مارس '26
+215
في 2 قنوات
Get PRO
فبراير '26
+116
في 1 قنوات
Get PRO
يناير '26
+87
في 3 قنوات
Get PRO
ديسمبر '25
+197
في 7 قنوات
Get PRO
نوفمبر '25
+248
في 9 قنوات
Get PRO
أكتوبر '25
+319
في 8 قنوات
Get PRO
سبتمبر '25
+672
في 5 قنوات
Get PRO
أغسطس '25
+283
في 4 قنوات
Get PRO
يوليو '25
+217
في 7 قنوات
Get PRO
يونيو '25
+241
في 4 قنوات
Get PRO
مايو '25
+188
في 6 قنوات
Get PRO
أبريل '25
+140
في 5 قنوات
Get PRO
مارس '25
+221
في 2 قنوات
Get PRO
فبراير '25
+188
في 4 قنوات
Get PRO
يناير '25
+155
في 6 قنوات
Get PRO
ديسمبر '24
+333
في 9 قنوات
Get PRO
نوفمبر '24
+69
في 1 قنوات
Get PRO
أكتوبر '24
+1 023
في 7 قنوات
Get PRO
سبتمبر '24
+105
في 2 قنوات
Get PRO
أغسطس '24
+204
في 7 قنوات
Get PRO
يوليو '24
+2 223
في 30 قنوات
Get PRO
يونيو '24
+677
في 8 قنوات
Get PRO
مايو '24
+1 569
في 20 قنوات
Get PRO
أبريل '24
+945
في 15 قنوات
Get PRO
مارس '24
+215
في 2 قنوات
Get PRO
فبراير '24
+220
في 14 قنوات
Get PRO
يناير '24
+253
في 3 قنوات
Get PRO
ديسمبر '23
+572
في 4 قنوات
Get PRO
نوفمبر '230
في 4 قنوات
Get PRO
أكتوبر '230
في 5 قنوات
Get PRO
سبتمبر '23
+27
في 0 قنوات
Get PRO
أغسطس '23
+17
في 0 قنوات
Get PRO
يوليو '23
+39
في 0 قنوات
Get PRO
يونيو '23
+33
في 0 قنوات
Get PRO
مايو '23
+27
في 0 قنوات
Get PRO
أبريل '23
+39
في 0 قنوات
Get PRO
مارس '23
+44
في 0 قنوات
Get PRO
فبراير '23
+35
في 0 قنوات
Get PRO
يناير '23
+31
في 0 قنوات
Get PRO
ديسمبر '22
+38
في 0 قنوات
Get PRO
نوفمبر '22
+45
في 0 قنوات
Get PRO
أكتوبر '22
+34
في 0 قنوات
Get PRO
سبتمبر '22
+117
في 0 قنوات
Get PRO
أغسطس '22
+353
في 0 قنوات
Get PRO
يوليو '22
+41
في 0 قنوات
Get PRO
يونيو '22
+108
في 0 قنوات
Get PRO
مايو '22
+44
في 0 قنوات
Get PRO
أبريل '22
+52
في 0 قنوات
Get PRO
مارس '22
+113
في 0 قنوات
Get PRO
فبراير '22
+79
في 0 قنوات
Get PRO
يناير '22
+37
في 0 قنوات
Get PRO
ديسمبر '21
+65
في 0 قنوات
Get PRO
نوفمبر '21
+104
في 0 قنوات
Get PRO
أكتوبر '21
+43
في 0 قنوات
Get PRO
سبتمبر '21
+41
في 0 قنوات
Get PRO
أغسطس '21
+68
في 0 قنوات
Get PRO
يوليو '21
+63
في 0 قنوات
Get PRO
يونيو '21
+137
في 0 قنوات
Get PRO
مايو '21
+96
في 0 قنوات
Get PRO
أبريل '21
+162
في 0 قنوات
Get PRO
مارس '21
+49
في 0 قنوات
Get PRO
فبراير '21
+42
في 0 قنوات
Get PRO
يناير '21
+66
في 0 قنوات
Get PRO
ديسمبر '20
+4 188
في 0 قنوات
التاريخ
نمو المشتركين
الإشارات
القنوات
13 يوليو+6
12 يوليو+2
11 يوليو+2
10 يوليو+4
09 يوليو+18
08 يوليو+2
07 يوليو+1
06 يوليو+1
05 يوليو+2
04 يوليو+4
03 يوليو+15
02 يوليو+3
01 يوليو+1
منشورات القناة
Камерная конфа Ozon Tech по ML ❤️ Как я и писал ранее в канале, тренд на камерность конференций и митапов сохраняется и даже
Камерная конфа Ozon Tech по ML ❤️ Как я и писал ранее в канале, тренд на камерность конференций и митапов сохраняется и даже усиливается. 16 июля в Москве Ozon Tech проводит ML&DS Offstage - закрытую встречу для руководителей и синьоров из крупнейших технологических компаний. Камерность мероприятия заявлена как фича. По содержанию ожидаются следующие темы: - Эволюция архитектур поисковых систем - LLM-платформы - AI-агенты - Безопасность внедрения AI - Оценка влияния AI на бизнес Кроме этого запланирован отдельный круглый стол про опыт работы с AI-агентами в Ozon, RWB, Сбере и Яндексе, а также, конечно же, напитки, афтерпати и неформальный нетворкинг в конце. ⚠️Важно: записи и трансляции не будет, чтобы все могли говорить как есть, без рекламного буллшита и отчетно-выборных презентаций о том, как всех уже победили. Как поучаствовать: Регистрация проходит по заявкам на сайте: https://ds-offstage-ozon.ru/ Каждую анкету рассмотрят вручную, чтобы обеспечить формат профессиональной дискуссии и сильный состав участников, так что не затягивайте с регистрацией, пока есть места :)

2
Учиться и работать быстрее или фокусироваться на главном Третье выступление было на Data Day о том, что же делать, чтобы оставаться востребованным профессионально, когда ИИ развивается сильно быстрее нас. Опять же, если кратко, то: 1) Пробовать переходить в области, являющиеся следующим рубежом для внедрения ИИ. Например, в биотехнологии или робототехнику. Там произошло много всего важного за последнее время: успехи CRISPR, создание с помощью ИИ новых белков, моделирование с помощью ИИ ДНК, VLA модели и доступность роботов - те же гуманоиды unitree стоят как машина, а не как чугунный мост, а для учебных целей есть много всего недорогого. При этом еще куча интересных задач впереди. 2) Брать традиционные способы эффективного обучения и повышения продуктивности (интервальные повторения, вспоминание, рефлексия про что и зачем ботаем, симуляция применения знаний в реальной ситуации, GTD, zettelkasten, ТРИЗ, и так далее) и применять уже с помощью ИИ. ИИ здесь помогает решать главную проблему всех этих методов - сложность поддержания системы и её постоянного использования. Идея в том, что предугадать мир через пять лет или даже через два года довольно сложно, так что нужно уметь быстро изучать и применять новое. Отдельное внимание нужно уделять тому, чтобы измерять эффект, т.к. частая история с ИИ - ощущение «стал на X% быстрее работать” при фактическом замедлении, а не ускорении. 3) Не делать из этого карго-культ и помнить, что многие выдающиеся результаты получены теми людьми, которые не закрыли больше всех задач, а лучше фокусировались на главном и избегали забивания своего рабочего дня нерелевантными вещами. Неожиданным для меня итогом всех трех выступлений стала позитивная обратная связь от слушателей, потому что обычно я веду лекции про конкретные кейсы применения ИИ в бизнесе или про то, как модели работают внутри (даже в научпоп формате), а тут темы такие водянистые, что кто первый халат надел, тот и доктор. Но все прошло удачно в том смысле, что слушатели, которым понравилось, везде нашлись. Так что видимо пока можно продолжить разнообразить репертуар :)
2 185
3
Оптимизировать метрики или творить искусство Второе выступление было в МФТИ для преподавателей ВУЗов. Оно было посвящено разбору кейсов про управление образовательными продуктами. До меня слушателям рассказали про продуктовый подход к образованию (в частности, про JTBD и релевантные образовательным программам метрики), мне же предстояло поразбирать это на примерах. Рассказ я построил на семи кейсах: 3 из российской практики (про нашу русскоязычную специализацию по ML на Курсере), 4 из мировой. В каждом случае давалась вводная с описанием ситуации, дальше мы генерировали идеи «а что дальше» и разбирали, чем все закончилось и какие можно сделать для себя выводы из этого. Мой любимый пример был про то, как полярные отзывы о курсе могут быть хорошим знаком, что вы уже нашли ваш сегмент, и остается описание курса, объяснение, для кого подходит ваш курс, и все привлечение построить так, чтобы точнее попадать именно в свою аудиторию. В конце поговорили о том, ремесло или искусство преподавание и надо ли ко всем этим метрикам относиться слишком серьезно. Десятитомный Ландавшиц, например, это бесспорно легендарный образовательный продукт. Но retention, NPS и CSI у него ни к черту. Как и доходимость до конца. А чего стоят одни только шутки про «потерял целую тетрадь выкладок - напишем «очевидно что». Однако сложно представить, чтобы Ландау из-за этого переживал :) Похожая история с Колмоговорым: на него одновременно и жалуются за плохое чтение лекций на мехмате, где мысли сильно опережали речь, и вспоминают с восторгом его «даму с собачкой» (красивое объяснение доказательства основной теоремы алгебры) и учатся всей страной по его учебникам. Увы, далеко не каждый из нас Ландау или Колмогоров, чтобы позволить себе быть плохим лектором и все равно стать лектором и автором легендарным, поэтому нам и нужно смотреть на метрики курсов - чтобы обеспечить базовый минимум и потихоньку его улучшать. Но сам по себе этот базовый минимум, увы, не может заменить преподавателю ни талант, ни творческий подход к работе.
2 324
4
Про «ух сейчас как сделаем свой враппер чужой LLM и как захватим рынок» С прошлой пятницы у меня было три выступления на немного нетипичные для меня темы. Расскажу по очереди про все. Первое выступление было на открытие Техлаба в кластере Ломоносов про новую волну технологий, связанных с ИИ, чем она отличается, и где может быть наше место в ней. Ключевой тезис был простой. Если грубо сегментировать стартапы вокруг LLM по глубине технологии (pre-train foundation моделей, SFT и Alignment, wrappers на готовых моделях) и по географии (США, Европа, СНГ), то упрощение технологии и уменьшение рынка при переходе между сегментами крадет по 1-2 порядка в потенциально достижимой капитализации. Это конечно не повод каждому стартаперу сидя в СНГ бежать делать свою foundation модель, на конкурентную версию которой ему все равно пока не хватит денег, но повод трезво оценивать возможности: хочешь единорога - иди интегрироваться в рынки побольше или делай что-то посущественнее. Не открыл никому Америку, но чем больше мне люди рассказывают про свои проекты, тем чаще замечаю, что кто-то должен повторять вслух банальности. Особенно сейчас, когда много больших и не всегда айтишных корпораций начинают приобщаться к теме ИИ и строить свои планы занять существенный сегмент этого рынка, важно помнить, что на враппере чужой LLM в России большого бизнеса не выходит. Ну вот так жизнь устроена, увы.
2 787
5
Новый поток базы ML Тем временем параллельно с MLSD для более опытных ребят, у меня в MLinside запускается новый поток базово
Новый поток базы ML Тем временем параллельно с MLSD для более опытных ребят, у меня в MLinside запускается новый поток базового курса ML - для тех, кто только начинает свой путь в AI, а также для тех, кто уже работает, но хочет систематизировать свои знания. Поскольку игнорировать стремительное развитие Gen AI было бы глупо, базовый курс претерпел серьезные изменения по сравнению с прошлыми запусками и сильно расширился. Выбирая, что добавить в курс, я руководствовался двумя ключевыми наблюдениями про то, как меняется сама профессия Data Scientist’а. Во-первых, базовые «скучные» операции, повторяющиеся из проекта в проект (подготовить датасет, сделать парочку бейзлайнов, написать код валидации) сейчас все чаще выполняются с помощью ИИ. Поэтому в курс в начале и в конце добавлен рассказ про то, а как это делать с помощью сеток. При этом старое содержание никуда не делось, т.к. опыт подсказывает, что лучше всего с помощью сеток получается решать те задачи, которые можешь решить сам и, как следствие, можешь провалидировать чужое решение. Во-вторых, из-за понижения ценности умения самостоятельно писать много хорошего кода, гораздо более ценным становится понимание всего пайплайна от начала работы над задачей до выкатки в продакш и того, как типичные задачи бизнеса решаются с помощью ML. Это побудило меня добавить в курс краткое знакомство с MLOps и ML System Design, а также лекции и семинары по самым частым применениям ML в бизнесе. В эти применения вошли: 1️⃣Рекомендательные системы 2️⃣Динамическое ценообразование 3️⃣ML-лидогенерация 4️⃣Скоринг 5️⃣Антифрод 6️⃣Приоритизация инвестиций с помощью ML-прогнозов 7️⃣Автоматизация процессов с помощью deep learning По каждой из тем при желании можно сделать мини-курс (а где-то и не мини), но мы с командой старались выдержать рамки обзора и точечных примеров в рамках базового курса, а также ответить на основной вопрос тех, кто знакомится с ML впервые: «Какие прикладные задачи с помощью ML можно решать?» В итоге у нас получился уникальный курс ML, который сразу и дает базу алгоритмов построения моделей и их валидации, и объясняет, «а как работать-то», и показывает, в каких задачах и как применять ML с пользой. Так что очень рекомендую попробовать пройти наш курс и присоединиться к новому, пятому потоку курса База ML! Что делать сейчас Если хотите почитать про курс подробнее или сразу записаться на ближайший поток: ссылка на страницу курса Если хотите послушать про базу ML на бесплатном вебинаре: ссылка на регистрацию на вебинар (проводит Андрей Жогов, преподаватель MLinside) Если хотите сначала позадавать вопросы про курс или по организационным моментам: ссылка на форму для связи с менеджером Если пока не понимаете, готовы ли покупать платный курс и хотите сначала познакомиться с нашей школой и преподавателями: приходите к нам на YouTube канал, там много полезных видео про ML :)
3 684
6
Ссылка на трансляцию (переехали вынужденно в геткурс): https://mlinside.getcourse.ru/pl/webinar/show?id=3302131&view=1
3 392
7
Сегодня в 19:00 веду на YouTube прямой эфир с Валерой Бабушкиным про ML System Design В первой части мы обсудим: - что такое
Сегодня в 19:00 веду на YouTube прямой эфир с Валерой Бабушкиным про ML System Design В первой части мы обсудим: - что такое ML System Design, в чем отличия и в чем общие черты с обычным System Design - почему само построение модели это очень малая часть работы - из чего состоит курс по MLSD в MLinside и почему выбран именно живой формат на 60+ часов лично от Валерия - как окупаются инвестиции в эти знания: происходит это само по себе или нужны какие-то конкретные действия. Во второй части ответим на ваши вопросы про дизайн ML-систем, книгу, карьеру, собеседования, курс и вообще любые другие темы. Форма для вопросов: https://forms.yandex.ru/cloud/6a44d2dff47e73beb4bf22b0 Регистрация на прямой эфир: https://t.me/ml_insideBot?start=web060726
3 737
8
Давние читатели канала помнят, что когда-то в древние времена мы с Валерой написали книжку про ML design. Это было так давно,
Давние читатели канала помнят, что когда-то в древние времена мы с Валерой написали книжку про ML design. Это было так давно, что люди тогда умели не только читать по диагонали, но еще иногда писать, а книги были значимым артефактом для упаковки знаний. С тех пор утекло немало воды, работу делают агенты, и книгам они предпочитают скиллы. И вот мы с клодом наконец добрались перепаковать одно в другое: ML system design в форме скилла с набором рубрик для ревью. Устанавливается одной командой через skills.sh, умеет ревьювить дизайн-доки и ML проекты лучше агента из коробки и чесать нам эго ненавязчиво ссылаться на авторов как могучих авторитетов.
2 846
9
Увидел случайно у себя в закладках в Chrome https://www.rdatamining.com/ - думаю ого это ж наверно лет 15 назад было добавлено, когда еще кто-то использовал прекрасный язык R, наверно уже не работает сайт. Кликнул - еще живой. Нишево, исторично, атмосферно 😁 Особенно порадовал раздел про Random Forest
4 044
10
Оффер на Senior Data Science роль за 1 неделю — реально? 🚀 Да. Авито запускает Fast Track — ускоренный отбор для Senior и Se
Оффер на Senior Data Science роль за 1 неделю — реально? 🚀 Да. Авито запускает Fast Track — ускоренный отбор для Senior и Senior+ Data Science специалистов. Одна неделя на все технические этапы и финал → оффер в классифайд №1 в мире по количеству пользователей. 📅 Основные этапы — 20–26 июля. Регистрация по ссылке открыта до 15 июля, 23:59 МСК. Как проходит: 🟣 До 15 июля — заявка + HR-скрининг 🟣 До 24 июля — техническая секция (ML-теория + Python) 🟣 25 июля — ML System Design 🟣 26 июля — финал 🟣 До 28 июля — оффер Преимущества фаст-трека: 🟣 Быстрый отбор и совмещённые этапы 🟣 Все даты известны заранее 🟣 Возможность оценить свои скилы — результат закрепляется на год Кого ждут: 🟣 От 4 лет опыта в крупных российских и международных IT, BigTech и FinTech компаниях 🟣 Полный цикл разработки моделей — от ресёрча до выкатки в прод 🟣 От 1 года самостоятельного лидирования проекта, автономность и инициативность Команды на выбор: антифрод и модерация, монетизация и реклама, поиск и рекомендации, вертикальные DS-команды. ⏳ Регистрация — до 15 июля. Успей оставить заявку. Рекрутеры проведут тебя через все этапы за рекордно быстрые сроки!
6 058
11
А у нас там подкаст вышел, видели? Если вдруг нет, то заходите на YouTube, в ВК или Дзен, там увидите подкаст Виктора Кантора
А у нас там подкаст вышел, видели? Если вдруг нет, то заходите на YouTube, в ВК или Дзен, там увидите подкаст Виктора Кантора и Татьяны Гайнцевой – AI Researcher и PhD-кандидат в Queen Mary University of London, исследовательница в области интерпретируемости и управления поведением генеративных моделей. Обладательница стипендии DeepMind, преподаватель Deep Learning School и Nebius Academy, соосновательница Deep Learning School, автор телеграм-канала DLStories и подкаста Deep Learning Stories. Ранее занималась исследованиями в Huawei и Philips, работая над задачами компьютерного зрения и медицинского AI. В выпуске разговор получился не столько про карьеру в AI, сколько про исследовательское мышление. Почему одни специалисты годами улучшают метрики моделей, а другие пытаются понять, что происходит внутри них? Зачем вообще исследовать интерпретируемость нейросетей? Можно ли управлять поведением LLM через активации отдельных слоев? И почему иногда самый интересный вопрос в машинном обучении – не «как сделать лучше», а «почему это вообще работает»? Ждём вас на удобной для вас площадке: https://youtu.be/pXMd0N6xSAQ https://vk.com/video-228219607_456239235 https://dzen.ru/video/watch/6a314bf1a6d473684e1eb721
5 791
12
#ML Как и 60 лет назад, нейронки начали часто сравнивать с мозгом, а у мозга есть психологи (хотя и у нейронов уже появляются
#ML Как и 60 лет назад, нейронки начали часто сравнивать с мозгом, а у мозга есть психологи (хотя и у нейронов уже появляются исследователи настроений). И как и в любой другой области знаний, у психологов есть свой собственный глоссарий, и я решил составить первый словарь по переводу с психологического на язык MLE. Меня осенило когда читал статью Kahneman-Tversky Optimisation — это же идея обесценивание в чистом виде) Итак, первый в мире словарь Psychologist — Machine Learning Engineer: Выборочное внимание (selective attention) — Attention // комментарии излишни, эту статью знают все Выгорание — Vanishing Gradients // градиент ещё где-то есть, но до полезного обновления уже не доходит Газлайтинг — Label Corruption Attack // истинные метки подменены, модель больше не доверяет собственному датасету Гиперконтроль — Hard Attention // фокус в точку Границы личности — Constrained Attention // у каждого входа есть предел влияния на твой hidden state Диссоциация — Stop-Gradient Operation // событие вроде обрабатывается, но связь с чувством “это происходит со мной” разорвана Защитная реакция — Robustness Patch Under Distribution Shift // не исправляет внутреннюю модель, но помогает не развалиться на новых входах Избегание — Early Stopping // обучение прекращается ровно перед тем батчем, где могло стать полезно, но неприятно Катастрофизация — Worst-Case Data Augmentation // из каждого обычного примера генерируем самый страшный out-of-distribution сценарий Накопленная обида — Gradient Accumulation // градиенты копятся несколько шагов, а параметры не обновляются Навязчивые мысли — Neural Text Degeneration // модель застревает в повторяющихся нежелательных продолжениях Низкая самооценка (почти то же что и Синдром самозванца) — In-Distribution Underconfidence // даже на знакомых примерах модель отвечает “вероятно, я ошибаюсь” Обесценивание — Kahneman-Tversky Optimisation // минимум наград за успехи, максимум штрафов за ошибки Отрицание — Missing Data Imputation // значения нет, но система подставляет приемлемую замену и продолжает как ни в чём не бывало Пассивная агрессия — Low-Rank Hostility Adapter // базовая модель вежливая, но маленькая LoRA добавляет токсичный стиль Перфекционизм — Overfitting // модель не готова к деплою, пока loss не станет метафизически равен нулю Потребность в одобрении — RLHF // модель учится через внешнюю человеческую оценку того, “хороший” ли был ответ Прокрастинация — Learning Rate Warmup // Начнем с раскачки Проекция — Transfer Learning (negative transfer) // модель переносит старое представление на новый домен, хотя там оно уже искажает реальность Психологическая устойчивость — Robust Generalization Under Distribution Shift // мир вокруг меняется Рационализация — Post-hoc Explainability // сначала модель выдала странный ответ, потом уверенно объяснила, что так и было задумано Ревность — Triplet Loss // держи чужого подальше от семьи) Руминация — Repetition Loops in Neural Text Generation // модель застревает в повторяющемся цикле и снова генерирует то же самое содержание Самокритика — есть Self-critical Sequence Training и еще Adversarial Self-Supervised Contrastive Learning // Модель сравнивает сэмплированный ответ со своим же baseline-выводом Самосаботаж — Reward Hacking // агент нашёл reward, но выбрал действие, которое ломает собственную функцию полезности Созависимость — Co-adaptation // один feature detector становится полезным только в присутствии других и теряет самостоятельность Травматический опыт — Outlier-weighed Layerwise Sampling for LLM Fine-tuning // один пример получил слишком большой вес и теперь портит всю функцию потерь Тревожность — Noise Memorization // Система начинает видеть значимый сигнал в шуме и переобучается на случайные паттерны Эмоциональное подавление — Gradient Clipping // слишком сильные эмоции обрезаются до допустимой нормы Эмоциональные качели — Training Instability // обучение нестабильно: сигнал то исчезает, то взрывается. Продолжение следует
4 290
13
🕒 Синдром «Серебряной пули» История про «эффективного менеджера» направления CVM (customer value management) Задача ребят — продавать доп. услуги клиентам и повышать конверсию. Вводные от заказчика прекрасны: «Мы тут ходили к другой команде, они нам собрали фичу — "лучшее время отправки SMS". Мы полгода крутили пилот, получили нулевой результат. Хотим, чтобы вы сделали то же самое, но лучше». Начинаем копать от бизнес-задачи. Выясняется: конверсия низкая. Почему? Ну, логично же: мы просто отправляем SMS не в то время! 🤡 Дальше — диалог, достойный войти в учебники по «продукт-менеджменту»: — Вы же уже проверили гипотезу на пилоте, результат нулевой. Зачем развивать безнадежную идею? — Мы в это верим. — Мы работали со многими крупными компаниями, решали эту задачу. Вы первые, кто просит именно эту фичу. — Мы переиграем рынок. — Ок, если я получу ваш пуш в 10:00 вместо 12:00, реально есть вера, что конверсия взлетит? — Разве это не очевидно? Тут мы немного выпали в осадок, но решили узнать, как устроена сегментация и выборка клиентов. — А как вы понимаете, кому слать? Есть функция ранжирования (uplift-модели, скоринг)? — Не понял вопрос. — Ну как вы понимаете, кто сконвертится лучше или хуже? — А-а-а, никак. Просто случайно выбираем из сегмента. Они же ВСЕ заинтересованы в продукте! — То есть ваш сегмент — это просто жесткие бизнес-правила (условия типа ЕСЛИ/ИЛИ)? — Если упрощенно, то да. Мы строим гипотезы и тестируем их через А/Б! То есть ребята делают А/Б тест на абсолютно случайной выборке внутри кастомного сегмента, не умеют в предсказание оттока/конверсии, но верят в тайминг. Пытаемся нащупать омниканальность. У них есть SMS, пуши и звонки. — А не пробовали выстроить каскадную стратегию? Например: сначала SMS, через день — звонок? — Ну и чем это кончится? — Оптимизацией стратегии... *(Повисла неловкая пауза)* — У нас либо звонки, либо SMS! ❌ Итог: Мы рассказали, как строим нормальный ML-пайплайн для CVM у других заказчиков (с моделированием, склонностью к покупке и оптимизацией стратегии). Продукту не зашло. Ведь у нас нет самого главного — алгоритма, который высчитывает идеальную секунду для отправки SMS человеку, которому это предложение вообще не всралось. Как называется эта болезнь? В медицине не знаем, но в ИТ это «карго-культ фичи». Когда команда игнорирует базовую математику, отсутствие нормальной сегментации и кривую коммуникацию, но свято верит, что одна «модная» фича переиграет рынок. Сталкивались с такими «верующими» заказчиками? Какую самую дикую фичу у вас просили завернуть в ML? 👇
4 698
14
Господи, как же достала эта клиника, спасибо огромное Владу за психотерапевтический пост ❤️
4 532
15
Как вам название статьи? 😁😁😁
Как вам название статьи? 😁😁😁
5 773
16
Вот так вот, поигрались и хватит (см. скриншот с сайта Anthropic) Как чувствовал и не стал откладывать использование. Бенчмар
Вот так вот, поигрались и хватит (см. скриншот с сайта Anthropic) Как чувствовал и не стал откладывать использование. Бенчмарки никакие не мерил, но от бытовых применений был в восторге. К слову о запретах. Не так давно общался с зампредами из одного российского банка на тему «нужен ли свой претрейн LLM» (в числе прочих обсуждавшихся тем). На встрече по неопытности и стадным чувствам топил за популярное последнее время в нашей профессиональной среде мнение, что нафиг надо, денег не хватит, и все равно опенсорс будет все меньше по качеству отставать. Но с того момента и до сих пор все больше думаю, что государственные структуры в странах, где есть свои топовые LLM, с большой вероятностью введут законодательные ограничения, как только LLM будут выглядеть слишком пугающе крутыми. Началось это уже сейчас, или это просто гениальная маркетинговая компания Anthropic, пока не ясно до конца. Но что меня еще больше беспокоит, так это что запрещать и не пущать умеют не только за океаном, но и у нас. Так что заведомо не очевидно, кто первый заблокирует нам наши любимые нейросетки. Впрочем, тот факт, что этот текст я пишу, а вы читаете в телеграме, оставляет надежду, пока для блокировок не начнут эффективно использовать те же сетки.
5 796
17
Про ML System Design Валеры Бабушкина Однажды в разговоре про образование с Валерой Бабушкиным мы начали обсуждать его курс ML System Design, который к тому моменту уже пережил три потока. В процессе выяснилось, что курс не просто про сильно структурирующие мышление и очень полезные вещи для любого сколько-нибудь синьорного ML инженера, дата саентиста, AI инженера или руководителя, работающего с этими темами. Оказалось, что курс еще и: 1) Объемный - 4 месяца х 2 занятия в неделю (60 астрономических часов, даже 60+ с учетом ответов на все вопросы на занятии) 2) Читается вживую - те самые 2 занятия в неделю это не записи, а живой зум с возможностью задавать вопросы лично Валерию, участвовать в разборах и вообще всячески проявлять активность на занятии и преисполняться опыта 3) Проводится лично Валерой Вообще-то это просто колоссальная работа и невероятное по своей уникальности предложение, так что я был очень рад, когда мы договорились запустить этот курс в MLinside :) Что имеем в итоге: карьеру Валера построил потрясающую, в теме внедрения ML разбирается очень круто, а в курс ML System Design вкладывается очень серьезно. Так что если вы еще не проходили курс MLSD - просто идем и записываемся на ближайший поток. Вангую, что через год-два опции поучиться лично у Валеры уже не будет, так что лучше не откладывать.
5 733
18
Чем я занимаюсь в 4 часа ночи? Читаю про Риманову оптимизацию, благодаря Claude. История была простая: гостья в интервью упомянула concept whitening в нейросетях, и меня пробило на знакомство со всякими подходами к интерпретации LLM с поиском какой-то красивой геометрии. Начал я знакомство конечно с вопроса Клоду, что прочитать. В "учебники для бэкграунда" первым пунктом попала замечательная книга: Boumal, N. (2023) An Introduction to Optimization on Smooth Manifolds ( https://www.nicolasboumal.net/book/ ) Просмотрев первые две рекомендованные Клодом главы, я подумал, что все это конечно интересно, но нужно посмотреть публикации непосредственно про геометрию концептов в LLM. Посмотрел и обнаружил там достаточно простую линейную алгебру. На мой резонный вопрос "и зачем ты меня отправил ботать оптимизацию на гладких многообразиях?" Клод невозмутимо ответил, что всего лишь пытался расширить мой бэкграунд, чтобы я сам тоже мог что-нибудь порисерчить по теме, и закончил пассивно-агрессивным извинением: "Прошу прощения за избыточную рекомендацию в первоначальном плане — это типичная ошибка «дать карту территории, а не путь к цели»." Забавно, но мысленно матюкнувшись на такой ответ, я подумал, что в общем-то все равно мне книжка понравилась и пошел изучать учебник по римановой оптимизации дальше. Минусов не вижу.
5 513
19
Многослойность произведений и курсов Интересная особенность гениальных произведений и объектов культуры, к коим я несомненно
Многослойность произведений и курсов Интересная особенность гениальных произведений и объектов культуры, к коим я несомненно отношу легендарную игру Half-Life 2 (впрочем, и первую часть тоже) - многослойность. То, что я дальше напишу, обычно объясняют на примере художественных книг или картин, но мне хотелось бы показать, что эта многослойность есть не только в солидных культурных произведениях, но и в более повседневных вещах. Простой пример HL2: если вам просто пострелять и пройти сюжет, то игра более чем великолепна для этого применения до сих пор, спустя 22 года после выхода. Если же вы начинаете интересоваться лором игры (комплексной информацией об игровой вселенной), то непременно узнаете, что главный герой Гордон Фримен - физик, закончивший MIT. И, готов поспорить, что многие, кто играл в HL2 еще в школе и на просторах СНГ, возможно так про MIT и узнали (несмотря на всю легендарность Массачусетского Технологического Института). Но чем глубже вы погружаетесь в лор, тем больше интересных отсылок вы узнаете. Например, у доктора Айзека Кляйнера в какой-то момент появляется домашний питомец - хэдкраб (существо-паразит из вселенной HL) Ламарр. Опять же, если нам только пострелять - да и пофиг. Если интересно "а почему Ламарр", мы сразу же узнаем, что логичное уменьшительно-ласкательное имя для хэдкраба - Хэди, но т.к. его хозяин ученый-физик, он идет дальше и вспоминает про голливудскую актрису и изобретательницу Хэди Ламарр (на фото к посту) и называет хэдкраба Ламарр. Опять же, минимальный интерес к лору игры поощряет вас уже не только знакомством с MIT и Лигой плюща, но и удивительным открытием, что можно днем сниматься в кино, а по ночам изобретательствовать. Что любопытно, в хороших курсах, по тому же ML (но не только по нему) есть та же черта: если их быстро "пробежать", если вдумчиво послушать и если прям основательно закопаться с изучением всех отсылок и пониманием, почему лектор что-то рассказал именно так, а не как в этом и вот в этом источнике - это три разных курса и три разных способа учиться. Они не противоречат друг-другу, можно в первый раз изучить в экспресс-режиме, во второй раз поглубже и так далее. Но точно стоит хотя бы раз попробовать погрузиться по полной. Отдельный респект лекторам, которые прямо на лекции иногда делают небольшое лирическое отступление и показывают как эту многослойность, так и куда копать.
5 664
20
Про теплые камерные форматы мероприятий Вчера был на Yet Another Insight, очень камерном митапе для CDO в Яндексе, организованном командой аналитики поисковых сервисов и ИИ. Вместо целого экстрополиса - зал для небольших презентаций и 20-30 гостей. С многими так или иначе пересекался или работал, в каких-то случаях уже много лет. Вместо фальшивых докладов про стахановские подвиги и успешно покоренный рынок нормальные адекватные люди искренне рассказывают и показывают, что сделали, что взлетело, что не взлетело, а что пока пылится в бэклоге. А еще с самого начала аудиторию неплохо раскачали вопросами, так что пришлось отложить телефон и вовлечься. В общем, было очень душевно и вызвало теплые ассоциации с Data Driven Top 100 похожего формата (только там не на вечер, а на несколько дней в какой-нибудь теплой стране). Есть подозрение, что в ближайшие несколько лет запрос на камерность мероприятий будет расти и мы увидим много вариаций на эту тему. Ушел думать, как поддерживать этот тренд в образовании. Похожие примеры знаю, но не в обучении техническим дисциплинам, а в языках. Кидайте идеи в комментарии :)
4 218