DL in NLP
رفتن به کانال در Telegram
Новости и обзоры статей на тему обработки естественного языка, нейросетей и всего такого. Связь: @dropout05 (рекламы нет)
نمایش بیشتر📈 تحلیل کانال تلگرام DL in NLP
کانال DL in NLP (@dlinnlp) در بخش زبانی روسی بازیگری فعال است. در حال حاضر جامعه شامل 12 519 مشترک است و جایگاه 8 577 را در دسته فناوری و برنامهها و رتبه 54 244 را در منطقه روسيا دارد.
📊 شاخصهای مخاطب و پویایی
از زمان ایجاد در невідомо، پروژه رشد سریعی داشته و 12 519 مشترک جذب کرده است.
بر اساس آخرین دادهها در تاریخ 21 اوت, 2025، کانال فعالیت پایداری دارد. در ۳۰ روز گذشته تغییر اعضا برابر -52 و در ۲۴ ساعت گذشته برابر 0 بوده و همچنان دسترسی گستردهای حفظ شده است.
- وضعیت تأیید: تأیید نشده
- نرخ تعامل (ER): میانگین تعامل مخاطب 0% است و در ۲۴ ساعت نخست پس از انتشار، محتوا معمولاً N/A% واکنش نسبت به کل مشترکان کسب میکند.
- دسترسی پستها: هر پست به طور میانگین 0 بازدید دریافت میکند. در اولین روز معمولاً 0 بازدید جمعآوری میشود.
- واکنشها و تعامل: مخاطبان بهطور فعال حمایت میکنند؛ میانگین واکنش به هر پست 0 است.
📝 توضیح و سیاست محتوایی
نویسنده این فضا را محل بیان دیدگاههای شخصی توصیف میکند:
“Новости и обзоры статей на тему обработки естественного языка, нейросетей и всего такого.
Связь: @dropout05 (рекламы нет)”
به لطف بهروزرسانیهای پرتکرار (آخرین داده در تاریخ 22 اوت, 2025)، کانال همواره بهروز و دارای دسترسی بالاست. تحلیلها نشان میدهد مخاطبان بهطور فعال با محتوا تعامل دارند و آن را به نقطه اثرگذاری مهم در دسته فناوری و برنامهها تبدیل کردهاند.
12 519
مشترکین
اطلاعاتی وجود ندارد24 ساعت
+37 روز
-5230 روز
در حال بارگیری داده...
کانالهای مشابه
ابر برچسبها
هیچ دادهای
مشکلی وجود دارد؟ لطفاً صفحه را تازه کنید یا با مدیر پشتیبانی ما تماس بگیرید.
اشارات ورودی و خروجی
---
---
---
---
---
---
جذب مشترکین
اوت '25
اوت '25
+35
در 0 کانالها
ژوئیه '25
+24
در 0 کانالها
Get PRO
ژوئن '25
+27
در 0 کانالها
Get PRO
مه '25
+42
در 0 کانالها
Get PRO
آوریل '25
+244
در 2 کانالها
Get PRO
مارس '25
+57
در 0 کانالها
Get PRO
فوریه '25
+78
در 0 کانالها
Get PRO
ژانویه '25
+33
در 1 کانالها
Get PRO
دسامبر '24
+61
در 1 کانالها
Get PRO
نوامبر '24
+43
در 1 کانالها
Get PRO
اکتبر '24
+63
در 4 کانالها
Get PRO
سپتامبر '24
+344
در 1 کانالها
Get PRO
اوت '24
+1 116
در 11 کانالها
Get PRO
ژوئیه '24
+648
در 2 کانالها
Get PRO
ژوئن '24
+125
در 2 کانالها
Get PRO
مه '24
+197
در 0 کانالها
Get PRO
آوریل '24
+148
در 0 کانالها
Get PRO
مارس '24
+211
در 1 کانالها
Get PRO
فوریه '24
+259
در 8 کانالها
Get PRO
ژانویه '24
+1 452
در 5 کانالها
Get PRO
دسامبر '23
+267
در 7 کانالها
Get PRO
نوامبر '23
+202
در 6 کانالها
Get PRO
اکتبر '23
+184
در 2 کانالها
Get PRO
سپتامبر '23
+277
در 0 کانالها
Get PRO
اوت '23
+172
در 0 کانالها
Get PRO
ژوئیه '23
+295
در 0 کانالها
Get PRO
ژوئن '23
+179
در 0 کانالها
Get PRO
مه '23
+1 379
در 0 کانالها
Get PRO
آوریل '23
+240
در 0 کانالها
Get PRO
مارس '23
+855
در 0 کانالها
Get PRO
فوریه '23
+178
در 0 کانالها
Get PRO
ژانویه '23
+117
در 0 کانالها
Get PRO
دسامبر '22
+151
در 0 کانالها
Get PRO
نوامبر '22
+255
در 0 کانالها
Get PRO
اکتبر '22
+240
در 0 کانالها
Get PRO
سپتامبر '22
+61
در 0 کانالها
Get PRO
اوت '22
+153
در 0 کانالها
Get PRO
ژوئیه '22
+83
در 0 کانالها
Get PRO
ژوئن '22
+227
در 0 کانالها
Get PRO
مه '22
+303
در 0 کانالها
Get PRO
آوریل '22
+232
در 0 کانالها
Get PRO
مارس '22
+91
در 0 کانالها
Get PRO
فوریه '22
+193
در 0 کانالها
Get PRO
ژانویه '22
+266
در 0 کانالها
Get PRO
دسامبر '21
+90
در 0 کانالها
Get PRO
نوامبر '21
+223
در 0 کانالها
Get PRO
اکتبر '21
+99
در 0 کانالها
Get PRO
سپتامبر '21
+137
در 0 کانالها
Get PRO
اوت '21
+69
در 0 کانالها
Get PRO
ژوئیه '21
+161
در 0 کانالها
Get PRO
ژوئن '21
+53
در 0 کانالها
Get PRO
مه '21
+47
در 0 کانالها
Get PRO
آوریل '21
+96
در 0 کانالها
Get PRO
مارس '21
+80
در 0 کانالها
Get PRO
فوریه '21
+52
در 0 کانالها
Get PRO
ژانویه '21
+95
در 0 کانالها
Get PRO
دسامبر '20
+2 866
در 0 کانالها
| تاریخ | رشد مشترکین | اشارات | کانالها | |
| 20 اوت | 0 | |||
| 19 اوت | +2 | |||
| 18 اوت | 0 | |||
| 17 اوت | +3 | |||
| 16 اوت | +5 | |||
| 15 اوت | +7 | |||
| 14 اوت | +12 | |||
| 13 اوت | 0 | |||
| 12 اوت | +1 | |||
| 11 اوت | +1 | |||
| 10 اوت | 0 | |||
| 09 اوت | 0 | |||
| 08 اوت | +1 | |||
| 07 اوت | +1 | |||
| 06 اوت | 0 | |||
| 05 اوت | 0 | |||
| 04 اوت | +1 | |||
| 03 اوت | +1 | |||
| 02 اوت | 0 |
پستهای کانال
| 2 | В продолжение темы, Jay Alammar, у которого были прекрасные визуальные объяснения про работу трансформера, в сто раз лучшие оригинальной статьи, выпустил только что иллюстрированный DeepSeek-R1
https://newsletter.languagemodels.co/p/the-illustrated-deepseek-r1 | 6 031 |
| 3 |  Всем приветики. Давно не было постов, тк становится всё сложнее вести канал. Не буду обещать что исправлюсь, но буду постить когда есть что-то о чём другие каналы не говорят достаточно.
И сегодня будут не новости (о ChatGPT Operator можете прочитать где угодно), а открытая позиция на PhD студента в моей старой лабе в UMass Lowell - Text Machine Lab.
Это NLPшная позиция с довольно широким спектром того чем можно заниматься: от interpretability и prompting до alignment, мультимодальных моделей, low-rank training, PEFT итд. Глава лабы - Prof. Anna Rumshisky исследователь в UMass Lowell, MIT и в Amazon Alexa AI/Amazon AGI. Например, она один из авторов Amazon Nova
Требования: релевантный бакалавриат+магристратура/специалитет, хорошее понимание линейной алгебры, анализа, вероятности, базовые знания Deep Learning и NLP. Большим плюсом будут опубликованные статьи (включая воркшопы), но строгого требования на них нет.
Позиция fully funded - ваше обучение будет покрыто полностью и вам будут платить стипендию которой достаточно для проживания в Массачусеттсе.
Для подачи высылайте ваше CV и короткое cover letter на arum@mit.edu. Для попадания в поток 2025 надо сделать это до 15 февраля
Если хотите прочитать про мою историю поступления и первые дни в США, я в 2019 писал об этом серию постов и вот первый: telegra.ph/CHast-1-Postuplenie-08-24 | 11 368 |
| 4 | Всем приветики. Давно не было постов, тк становится всё сложнее вести канал. Не буду обещать что исправлюсь, но буду постить когда есть что-то о чём другие каналы не говорят достаточно.
И сегодня будут не новости (о ChatGPT Operator можете прочитать где угодно), а открытая позиция на PhD студента в моей старой лабе в UMass Lowell - Text Machine Lab.
Это NLPшная позиция с довольно широким спектром того чем можно заниматься: от interpretability и prompting до alignment, мультимодальных моделей, low-rank training, PEFT итд. Глава лабы - Prof. Anna Rumshisky исследователь в UMass Lowell, MIT и в Amazon Alexa AI/Amazon AGI.
Требования: релевантный бакалавриат+магристратура/специалитет, хорошее понимание линейной алгебры, анализа, вероятности, базовые знания Deep Learning и NLP. Большим плюсом будут опубликованные статьи (включая воркшопы), но строгого требования на них нет.
Позиция fully funded - ваше обучение бьудет покрыто полностью и вам будут платить стипендию которой достаточно для проживания в Массачусеттсе.
Для подачи высылайте ваше CV и короткое cover letter на arum@mit.edu. Для попадания в поток 2025 надо сделать это до 15 февраля
Если хотите прочитать про мою историю поступления и первые дни в США, я в 2019 писал об этом серию постов и вот первый: telegra.ph/CHast-1-Postuplenie-08-24 | 1 |
| 5 | Programming Massively Parallel Processors
https://a.co/d/6QEiuCq
Наткнулся на книгу которая кажется весьма известна в мире GPU-программирования. Она довольно детально погружается в Nvidia GPU и CUDA. В четвертом издании (2022 года) ещё и добавили современные архитектуры: Ampere (A100) и Hopper (H100). Это важно тк архитектуры довольно сильно изменились с 2016 года.
Очень надеюсь просмотреть хотя бы по-диагонали и найти что-то полезное для себя, но вообще выглядит что если хотите низкоуровнево прогать на GPU это must read.
Если погуглить четвертое издание то можно найти и более бесплатные альтернативы амазону | 4 884 |
| 6 | Но дадут ли нобелевку по литературе за Deep Learning Book | 5 915 |
| 7 | Почему не стоит верить nvidia-smi “GPU utilization”
arthurchiao.github.io/blog/understanding-gpu-performance/
Nvidia использует очень особый способ определения утилизации GPU. 100% означают не что девайс загружен на 100%, а что хотя бы одно ядро было использовано хотя бы чуть-чуть 100% времени за последние N (мили)секунд
Очень яркий пример это примитивы синхронизации: когда вы вызываете torch.barrier GPU Utilization становится 100% при том что на самом деле железо просто «активно ждет».
Для реальной оценки загруженности GPU лучше использовать SM Occupancy которая показывает средний процент загрузки ядер GPU (то что я бы изначально ожидал увидеть от utilization честно говоря).
Для этого рекомендуют использовать dcgm-exporter | 9 639 |
| 8 | Soumith Chintala (создатель pytorch) выдаёт базу о том как тренироваться на 10К GPU
x.com/soumithchintala/status/1841498799652708712
Оч короткий TL;DR (всем рекомендую прочитать оригинал, он не длинный)
1. Maximize batch size and GPU utilization: 3D parallelism + gradient checkpointing
1. Overlap communication, e.g. while N-1th layer is computing backward, all GPUs with an Nth layer can all-reduce
1. Optimize for your GPU cluster network topology
1. Failure recovery, at 10k GPU scale, things fail all the time -- GPUs, NICs, cables, etc
1. At 10K scale bit flips actually become a problem and can cause loss explosions. Save your model state as frequently and as quickly as you can. To speed it up save it in shards and to CPU memory first and then in a seaprate thread write to disk | 7 970 |
| 9 | O1 mini inference scaling experiments
Прикольное саммари экспериментов одного чела. Коротко: если убедить модель дольше думать (что пока что непросто) pass@1 реально будет расти лог-линейно. При этом это скорее всего не majority voting или self consistency тк эти методы упираются в потолок | 9 260 |
| 10 | https://x.com/hughbzhang/status/1838288923656941860?s=12&t=QgBLS4SmhE8cqdYBmhrqJA | 8 109 |
| 11 | OpenDuck - очень классный проект по опенсорсной (хард+софт) реимплементации диснеевского робота
https://github.com/apirrone/Open_Duck_Mini
Очень мило. Буду следить за ними. А вот тут они уже умеют стоять: https://x.com/antoinepirrone/status/1835679313506562502 | 10 248 |
| 12 |  Наткнулся в Твиттере на шикарную визуализацию LLM. Как выяснилось, ей уже целый год, но для новичков это все ещё полезная штука.
Кроме красивой 3D-модельки, здесь еще подробный гайд по работе каждого элемента, как говорит автор, до каждого "сложить и умножить".
По архитектурам там есть GPT-2, nanoGPT, GPT-2 XL, ну и GPT-3.
Ссылочка на визуализацию
@ai_newz | 7 032 |
| 13 |  🍓
openai.com/index/learning-to-reason-with-llms
1. GPT-o1 это затюненая с помощью RL модель на улучшение reasoning (деталей как это сделано, конечно же нет)
1. Scaling c train-time compute (как долго делать RL) и test-time compute (как долго генерировать ответ) -- на текущих графиках никакого намёка на то чтобы модель выходила на плато 🔥
1. По сравнению с 4o на codeforces o1 получает 89 перцентиль вместо 11
1. В PhD-level GPTQA Diamond по физике pass@1 улучшили с 60% до 93%
1. По human preferences люди предпочитают o1 в 60% случаев в проге, и 70% в математике
Ждём когда будет доступно в chatgpt и API публично | 8 282 |
| 14 |  И ещё немного новостей о NEO. Собрал всё в батч чтобы не получилось так что канал всё время пишет о 1Х
1. Эпизод S3 где мы больше показываем что мы уже умеем и куда движемся: тык
1. Follow-up эпизод где мы деплоим Neo домой к Джейсону: тык
1. Часовое интервью с Бернтом. Больше технических деталей и больше о нашей стратегии. Кстати Бернт реально неплохо разбирается во всём техническом стаке компании. Он сам сделал наши моторы, периодически помогает с сервисом роботов когда нужны дополнительные руки. Оч советую: тык
1. Заметка Scott Walter об устройстве рук Neo и Оптимуса: тык
1. Подаст First Principles с Эриком, нашим VP of AI: тык
Мы работали над тем чтобы наконец-то показать Neo очень много, включая итерации над железом, controls, RL, остальным AI, и в конце-концов съемками чтобы получить perfect shot. Иногда по 15+ часов в день и без выходных (добро пожаловать в work-life balance кремниевой долины пхпх). Это очень круто осознавать что некоторые вещи которые тебе раньше казались фантастикой это всего лишь очень много работы а не невозможность.
Я всё ещё хочу держать баланс в канале между постами о моей работе и обзорами статей и новостей в NLP и робототехнике. Каждый пост не про NLP пинает меня чтобы сделать обзор новой статьи. | 8 745 |
| 15 | Introducing NEO Beta
youtube.com/watch?v=bUrLuUxv9gE
Мы (1X Technologies) наконец-то показали нашего нового робота публично! Neo это наше второе (и на данный момент уже основное) поколение роботов. В отличие от Eve у Neo пять пальцев и две ноги, что позволяет решать гораздо больше задач. В отличие от других гуманоидных роботов Neo может безопасно находиться радом с людьми из-за compliant моторов, при этом он всё ещё обладает довольно большой силой, сопостовимой с другими гуманоидами (и может быть даже превосходящей некоторых). Надеюсь в ближайшее время мы пошерим больше деталей о том что уже сейчас может Neo.
(Продолжаю орать с комментариев о том что это человек в костюме, разработчики железа воспринимают это как комплемент пхпх) | 32 662 |
| 16 |  LeRobotDataset
huggingface.co/blog/video-encoding
HuggingFace потихоньку погружается в робототехнику и вчера они представили свой формат данных и даталоадер для рободанных.
В чём проблема? Большая часть рободанных это видео + syncronized time series. Видео это наибольшая проблема. Если хранить их в том же сжатом формате что мы обычно используем для просмотра, то чтение рандомных кадров будет очень медленным. Если хранить их в разжатом формате, то 1) занимает много места 2) очень нагружает ваш диск / сеть во врема чтения и легко упереться в лимиты железа
HF поглядели на ffmpeg, подкрутили настройки, и нашли отличный баланс между сжатием и скоростью чтения рандомных кадров. Обернули это в LeRobot и описали в блогпосте. Оч советую | 9 719 |
| 17 | Антропик опубликовали систем промты Claude
https://docs.anthropic.com/en/release-notes/system-prompts
Я до сих пор не перестаю удивляться насколько сильно длина систем промта выросла и что в отличие от LLM предыдущего поколения (GPT3, OPT, BLOOM) промты стали выглядеть совсем как обычный текст который ты описываешь как будто общаешься с человеком.
Немного поорал с багфиксов «If Claude cannot or will not perform a task, it tells the user this without apologizing to them» и «Claude responds directly to all human messages without unnecessary affirmations or filler phrases like “Certainly!”, “Of course!”, “Absolutely!”, “Great!”, “Sure!”, etc» | 9 151 |
| 18 |  +1Внимание! Hugging Face представляет конструктор «Собери сам роборуку и обучи ее»
Вкомплект входит:
- Конструктор «Собери сам» — роборука с ссылками для заказа запчастей ~ $300 (опционально есть еще вторая за $250) + файлы для принтера.
Гайды по:
- Cборке и калибровке.
- Записи собственного датасета на камеру телефона.
- Тренировке нейросетей для управления рукой.
Прикольная инициатива, ребята надеются максимально помочь начинающим в надежде привлечь больше рук (кожаных, а не робо-) в опен-сорс, что, в общем-то, шикарно!
Расходники вышли дороговатыми, но это уже не $108K за домашнего робогуманоида + скоро обещают выпустить новую версию, говорят уложились в $150 за обе руки.
Чел научил две роборуки складывать футболки на 100 примерах за одну ночь тренировки. Здесь для обучения используется способ, похожий на тот, что я описывал в посте про живую сталь. Там можно почитать подробнее.
Хотел бы я подарить такую штуку себе 15 лет назад.
Туториал на гитхабе
Тред с гайдом получше (есть и видео и ноутбуки с тренировкой нейронок)
@ai_newz | 5 991 |
| 19 |  +1Не прошло и недели, а у Mistral новый релиз!
Новую "малую" модель NeMo тренировали совместно с Nvidia. У неё 12 миллиардов параметров, 128k контекста, инференс в fp8 без потери в качестве, сделана так, чтобы влезала в 4090.
NeMo - нативно мультиязычная модель, тренировали в том числе на русском, немецком, японском, китайском. И тут она конкурентов и в хвост, и в гриву. Обновили и токенизатор - он теперь на 36% эффективнее для русского, на 11% для английского, а на некоторых языках прирост по эффективности в 3-4 раза. Интересно, в токенах найдутся пасхалки?
С бенчами опять шалят: сравнивают только базовые модели, а бенчи для Instruct версий публикуют только специализированные, не общие.
Заметьте, как "малые" модельки растут в размере: 7B превратилось в 8, потом в 9, а сейчас уже 12
Веса
Блог
@ai_newz | 3 606 |
| 20 |  FlashAttention-3 📸
Блог и статья: tridao.me/blog/2024/flash3/
Код: github.com/Dao-AILab/flash-attention
1.5-2.0 раза быстрее чем FlashAttention 2 в FP16, почти в 3 раза быстрее в FP8
Flash 2 был оптимизирован под А100 и достигал 70% теоретических max flops, Flash 3 оптимизирован под H100 и достигает 75%. Для этого активно использовали библиотеку NVIDIA CUTLASS которая почти напрямую общается с железом и позволяет использовать хитрые фичи H100. Например использовать специальное железо (Tensor Memory Accelerator) для копирования тензоров между global и shared memory и Warpgroup Matrix Multiply-Accumulate (который я так и не понял что такое, но как-то связан с тензорными ядрами)
Сверху этого переписали код чтобы матричное умножение вычислялось (на tensor cores) параллельно с softmax (на multi-function unit) и сделали пару хаков чтобы FP8 давал более точные результаты
Выглядит очень классно, надо пробовать. Жаль что еще нету edge железа на Hopper | 5 950 |
