683
订阅者
无数据24 小时
无数据7 天
无数据30 天
吸引订阅者
十二月 '24
十二月 '24
+5
在0个频道中
十一月 '24
+6
在0个频道中
Get PRO
十月 '24
+8
在0个频道中
Get PRO
九月 '24
+3
在0个频道中
Get PRO
八月 '240
在0个频道中
Get PRO
七月 '24
+7
在0个频道中
Get PRO
六月 '24
+8
在0个频道中
Get PRO
五月 '24
+9
在1个频道中
Get PRO
四月 '24
+23
在0个频道中
Get PRO
三月 '24
+24
在0个频道中
Get PRO
二月 '24
+37
在0个频道中
Get PRO
一月 '24
+99
在0个频道中
Get PRO
十二月 '23
+130
在0个频道中
Get PRO
十一月 '230
在0个频道中
Get PRO
十月 '230
在0个频道中
Get PRO
九月 '23
+18
在0个频道中
Get PRO
八月 '23
+5
在0个频道中
Get PRO
七月 '23
+6
在0个频道中
Get PRO
六月 '23
+4
在0个频道中
Get PRO
五月 '23
+15
在0个频道中
Get PRO
四月 '23
+37
在0个频道中
Get PRO
三月 '23
+5
在0个频道中
Get PRO
二月 '23
+10
在0个频道中
Get PRO
一月 '23
+10
在0个频道中
Get PRO
十二月 '22
+9
在0个频道中
Get PRO
十一月 '22
+8
在0个频道中
Get PRO
十月 '22
+7
在0个频道中
Get PRO
九月 '22
+10
在0个频道中
Get PRO
八月 '22
+18
在0个频道中
Get PRO
七月 '22
+20
在0个频道中
Get PRO
六月 '22
+18
在0个频道中
Get PRO
五月 '22
+8
在0个频道中
Get PRO
四月 '22
+28
在0个频道中
Get PRO
三月 '22
+19
在0个频道中
Get PRO
二月 '22
+12
在0个频道中
Get PRO
一月 '22
+22
在0个频道中
Get PRO
十二月 '21
+9
在0个频道中
Get PRO
十一月 '21
+11
在0个频道中
Get PRO
十月 '21
+8
在0个频道中
Get PRO
九月 '21
+13
在0个频道中
Get PRO
八月 '21
+9
在0个频道中
Get PRO
七月 '21
+7
在0个频道中
Get PRO
六月 '21
+12
在0个频道中
Get PRO
五月 '21
+8
在0个频道中
Get PRO
四月 '21
+6
在0个频道中
Get PRO
三月 '21
+582
在0个频道中
| 日期 | 订阅者增长 | 提及 | 频道 | |
| 21 十二月 | 0 | |||
| 20 十二月 | 0 | |||
| 19 十二月 | 0 | |||
| 18 十二月 | 0 | |||
| 17 十二月 | 0 | |||
| 16 十二月 | +1 | |||
| 15 十二月 | 0 | |||
| 14 十二月 | 0 | |||
| 13 十二月 | 0 | |||
| 12 十二月 | 0 | |||
| 11 十二月 | 0 | |||
| 10 十二月 | 0 | |||
| 09 十二月 | 0 | |||
| 08 十二月 | +1 | |||
| 07 十二月 | 0 | |||
| 06 十二月 | 0 | |||
| 05 十二月 | +2 | |||
| 04 十二月 | +1 | |||
| 03 十二月 | 0 | |||
| 02 十二月 | 0 | |||
| 01 十二月 | 0 |
频道帖子
Repost from эйай ньюз
+2Аннотированный код
Наткнулся на классный сайт, где собран код некоторых популярных моделей (или их частей), например Stable Diffusion, GPT, Switch Tranformer, MPL-Mixer и др. Весь цимес в том, что каждая строка кода задокументирована, и показаны соответствующие математические формулы.
Будет полезно тем, кто любит начининать изучать модели сразу с кода. Как раз занятие на воскресенье.
На скринах - код DDIM и Adam.
https://nn.labml.ai/
@ai_newz
| 2 |  Всем привет! Несколько апдейтов по Сайге:
0. Демо на HF самой маленькой модели: тут
1. Доклад на Датафесте, слайды тут, видео тут
2. Колаб для дообучения Лламы на русских инструкциях и последующей квантизации: тут
3. Демо с retrieval QA на основе 13B модели: тут
4. Первая итерации WizardLM-like улучшения RuTurboAlpaca: тут
Все те же ссылки собраны тут | 240 |
| 3 |  MMS: Scaling Speech Technology to 1000+ languages
Коллеги из Meta просто на кэжуаое выпустили модель, которая переводит 1100 языков из текс а в аудио и из аудио в текст.
Это всего лишь новый майлстоун в спич-рекогнишене 😀.
Что по сути:
- wave2vec 2.0: многоязычная модель распознавания речи с 1илрд параметроа , обученная на 1107 языках
— ошибка на 50% по сравнению с Whisper.
— это единая модель для преобразования текста в речь (TTS), поддерживающая так много языков: аж 1107!.
— включает в себя Классификатор языков, идентифицируюший 4017 языков.
Кроме всего прочего, для обучения собрали и использовали аудио, где люди читают Библию на разных языках. Потому, кажется нет другой книги, которая была бы переведена на столько разных языков.
Самое клёвое, что веса и код уже не гитхабе!
Блогпост
@ai_newz | 202 |
| 4 | #курс
После долгих лет (альфа-)тестирования, курс "Алгоритмы Машинного обучения с нуля" наконец-то выходит в свет (бета-тестирование :)
Курс бесплатный :) На Степике: https://stepik.org/course/68260
Курс посвящен реализации всех классических алгоритмов машинного обучения с нуля. На чистом питоне + нампай и пандас.
Упор в курсе будет делаться именно на алгоритмы. Хотя и немного математики тоже присутствует.
Пока реализовано 6 уроков:
- Два вида линейных моделей
- Деревья решений (классификация и регрессия)
- Случайный лес (классификация и регрессия)
Остальные будут открываться по мере готовности.
З.Ы. Для успешного прохождения курса вам понадобятся знания основ МЛ, а также уверенное владение питоном. | 196 |
| 5 | Пет-проекты и менторство
#career #ml #petproject
Идей всяких петов у меня обычно полно (жаль, что идей для годных стартапов не так много), буду мини-батчами таких идей делиться. Тем более что где-то сам готов поучаствовать, довести проект до публикации хотя бы на архиве. По перечисленным темам готов что-то обсудить или связать с шарящими людьми.
Тут стоит упомянуть менторскую инициативу, запущенную в Singularis.ai Айрой Монгуш @aira_mo & Co. Вот описание программы, там же список менторов. Список годный, к некоторым из этих людей я бы сам сходил как менти. Хватайте! Можно будет и ко мне постучаться, но я скорее всего забит, фрухпут выделил – 1 менти за раз.
Вот какие идеи сейчас на уме (помимо умного поиска по мемам, про который уже писал), в порядке от более простых и хорошо формулированных к менее тривиальным и прописанным:
1) Валидация sciBERT-лонгформера на нескольких датасетах, техрепорт. Я как-то опубликовал расширенную версию SciBERT, поддерживающие тексты до 4096 токенов (делаются такие штуки по тьюториалу от HF, там суть в том, что позиционные эмбеддинги расширяются с 512 до 4096 простым копированием). Но я толком не валидировал выхлоп с этого дела. Можно взять несколько датасетов с длинными научными текстами (будь до классификация статей или QA для страниц Википедии, полно бенчмарков в статье Меты про Galactica) и сравниться с обычным SciBERT и лонгформером на базе роберты (не дообученной на научный контент). Из этого можно сделать техрепорт, опубликовать на архиве;
2) Удивительно, но для того же научного домена я не нашел легковесной модельки а-ля DistilBERT. Можно взять SciBERT, дистилировать его в модельку размера DistilBERT, опубликовать на HF и прославиться. Также опубликовать техрепорт. В целом можно следовать статье Давида Дале @izolenta_mebiusa про малького шустрого Берта на русском. Там Давид аж о 8-ми лоссах дистиллирует. То есть можно взять не только одного SciBERT как teacher и не только logloss, но также Galactica и более хитрые лоссы а-ля выравнивание CLS-эмбеддингов моделей учителя и ученика;
3) Ассистент на вопросах-ответах Stackoverflow. Там уже полно ранжированных ответов, с кодом. Возможно, никакой RLHF не нужен с таким датасетом. А самому StackOverflow, на мой взгляд, нет смысла обучать такого бота – им нужны кожаные мешки на сайте. Пока я это придумывал, 🤗 уже собрал датасет (узнал из поста Игоря Котенкова), ну идея в воздухе висела в принципе. Дальше можно повалидироваться с chatGPT, Codex и прочими ассистентами, с лету лучше вряд ли получится, но опыт интересный. Умеренные LLM в целом уже научились файнтюнить за разумное время даже на одной GPU, вот пример от инженера HF;
4) Распознавалка ребенка по мере его роста. Самый размыто формулированный пет – про CV и для тех, кто ждет ребенка, т.е. самый нишевый вариант из перечисленных. Суть: дите растет, модель ошибается, нужен continual learning. Тут сплошной дата дрифт и сходу вообще не понятно как подступиться. По крайней мере, алгоритмы Apple ошибаются, мне в галерее айфона показывает несколько инстансов моей дочери.
По поводу первых двух – можно мне писать, я готов подключиться к написанию репорта. Правда, я учусь делегировать (больно) и воздержусь от ковыряния в коде своими руками, буду чистый “Data Scientist ртом”. Со статьей при этом готов активно помогать. Лучше в коментах писать, кто что готов взять, можно скоординироваться и между собой. | 179 |
| 6 | https://stepik.org/course/68260/info | 258 |
| 7 | 💥ОТКРЫТА РЕГИСТРАЦИЯ НА КУРС💥
20 марта 2023г перезапуск БЕСПЛАТНОГО курса MLOps и production подход к ML исследованиям при поддержке Open Data Science .
🔥РЕГИСТРАЦИЯ🔥
уже идет полным ходом, переходите по ссылке и жмите кнопку «Участвовать».
Следите за обновлениями в нашем Telegram чате для участников курса, там же вы можете задать любые вопросы связанные с курсом.
Кому будет полезен курс?
✨ML-инженеры
✨Аналитики и инженеры данных
✨Менеджеры AI-продуктов и руководители (тимлиды) ML-команд
Необходимые навыки:
🤓Python
🤓Основы машинного обучения
Что Вас ждет?
На курсе вас ждут 12 онлайн занятий, продолжительностью 1 - 2 часа. (В основном по понедельникам 18:30). Все занятия будут доступны в записи. Для дополнительной мотивации будет вестись публичный рейтинг, лучшие участники получат уникальный мерч от ODS.
🔥Участников ждут практические домашние задания, тесты, индивидуальный финальный проект, а так же дополнительные активности и митапы, которые будут предлагаться участникам по ходу курса.
💪🏼Вперед за прокачиванием Ваших нard skills! Ждем всех желающих!
❓По любым вопросам, связанных с курсом @Irinka_Bekker
Open Data Science (ODS.ai)
MLOps и production подход к ML исследованиям 2.0 — Open Data Science | 200 |
| 8 | С первым днём весны 🌸
Сегодня стартовал курс My First Data Project: от идеи к продукту. Те, кто успешно завершат курс и защитят проект перед жюри в финале, имеют право поступить в онлайн-магистратуру ИТМО без экзаменов 🔥
Присоединяйтесь к этому и другим курсам весеннего сезона ODS Course Season 22-23 spring и следите за обновлениями, скоро мы откроем еще больше полезных и бесплатных курсов для вас 🤗 | 167 |
| 9 | Train and Fine-Tune Sentence Transformers Models
https://huggingface.co/blog/how-to-train-sentence-transformers | 157 |
| 10 | https://habr.com/ru/company/ods/blog/709222/ | 212 |
| 11 | Graph ML in 2023: The State of Affairs
https://towardsdatascience.com/graph-ml-in-2023-the-state-of-affairs-1ba920cb9232 | 215 |
| 12 | Voila: из ноутбука в веб-приложение
https://habr.com/ru/post/698662/ | 214 |
| 13 | Hugging Face Diffusion Models Course
https://github.com/huggingface/diffusion-models-class | 272 |
| 14 | Machine learning in Python with scikit-learn
https://www.fun-mooc.fr/en/courses/machine-learning-python-scikit-learn/ | 224 |
| 15 | Практический Metric learning
https://habr.com/ru/company/ods/blog/695380/ | 262 |
| 16 | Как и зачем мы начали искать бизнес-инсайты в отзывах клиентов с помощью машинного обучения
https://habr.com/ru/company/alfa/blog/684774/ | 211 |
| 17 | Андрей Карпати (ex Tesla AI) выложил новую лекцию
«!!!! Итак, я записал (новую!) 2h25m лекцию "The spelled-out intro to neural networks and backpropagation: building micrograd".
Это кульминация примерно 8 лет навязчивых мыслей о том, как лучше объяснить нейронные сети и обратное распространение.
Если вы знаете Python, смутно помните, как проходили производные в средней школе, посмотрите это видео и к концу не поймете обратное распространение и суть нейронных сетей, тогда я съем ботинок :D»
Смотреть | 183 |
| 18 | Summer school on Statistical Physics & Machine learning
https://leshouches2022.github.io/
https://www.youtube.com/channel/UCNvC8umtUuZSpcWDmbiWy2Q/videos | 264 |
| 19 | Cтенфордский курс про трансформеры CS25
CS25: Transformers United
https://web.stanford.edu/class/cs25/
https://www.youtube.com/playlist?list=PLoROMvodv4rNiJRchCzutFw5ItR_Z27CM | 168 |
| 20 | Много материала с иллюстрациями и кодом на торче по разным топикам ML и DL
https://theaisummer.com/ | 193 |
