دیتاهاب
Open in Telegram
موضوعات کانال: ✅Data Science ✅Machine Learning ✅Deep Learning ✅NLP گروه تلگرامی ⬅️ @data_jobs دیتاست ⬅️ @persian_data ادمین ⬅️ @data_hub
Show more2 110
Subscribers
No data24 hours
-57 days
-1230 days
Data loading in progress...
Similar Channels
Tags Cloud
Incoming and Outgoing Mentions
---
---
---
---
---
---
Attracting Subscribers
July '26
July '26
+10
in 0 channels
June '26
+21
in 0 channels
Get PRO
May '26
+10
in 0 channels
Get PRO
April '26
+8
in 0 channels
Get PRO
March '26
+4
in 0 channels
Get PRO
February '26
+20
in 0 channels
Get PRO
January '26
+9
in 0 channels
Get PRO
December '25
+27
in 0 channels
Get PRO
November '25
+40
in 0 channels
Get PRO
October '25
+31
in 0 channels
Get PRO
September '25
+18
in 0 channels
Get PRO
August '25
+42
in 1 channels
Get PRO
July '25
+36
in 0 channels
Get PRO
June '25
+13
in 0 channels
Get PRO
May '25
+49
in 2 channels
Get PRO
April '25
+36
in 0 channels
Get PRO
March '25
+34
in 1 channels
Get PRO
February '25
+22
in 0 channels
Get PRO
January '25
+37
in 1 channels
Get PRO
December '24
+32
in 0 channels
Get PRO
November '24
+34
in 0 channels
Get PRO
October '24
+55
in 2 channels
Get PRO
September '24
+54
in 2 channels
Get PRO
August '24
+53
in 2 channels
Get PRO
July '24
+35
in 1 channels
Get PRO
June '24
+35
in 1 channels
Get PRO
May '24
+82
in 2 channels
Get PRO
April '24
+153
in 1 channels
Get PRO
March '24
+39
in 2 channels
Get PRO
February '24
+54
in 0 channels
Get PRO
January '24
+71
in 0 channels
Get PRO
December '23
+102
in 0 channels
Get PRO
November '23
+58
in 1 channels
Get PRO
October '23
+43
in 0 channels
Get PRO
September '23
+40
in 0 channels
Get PRO
August '23
+72
in 0 channels
Get PRO
July '23
+80
in 0 channels
Get PRO
June '23
+121
in 0 channels
Get PRO
May '23
+21
in 0 channels
Get PRO
April '23
+28
in 0 channels
Get PRO
March '23
+31
in 0 channels
Get PRO
February '23
+110
in 0 channels
Get PRO
January '23
+24
in 0 channels
Get PRO
December '22
+59
in 0 channels
Get PRO
November '22
+47
in 0 channels
Get PRO
October '22
+39
in 0 channels
Get PRO
September '22
+20
in 0 channels
Get PRO
August '22
+24
in 0 channels
Get PRO
July '22
+24
in 0 channels
Get PRO
June '22
+60
in 0 channels
Get PRO
May '22
+28
in 0 channels
Get PRO
April '22
+37
in 0 channels
Get PRO
March '22
+115
in 0 channels
Get PRO
February '22
+104
in 0 channels
Get PRO
January '22
+20
in 0 channels
Get PRO
December '21
+44
in 0 channels
Get PRO
November '21
+55
in 0 channels
Get PRO
October '21
+41
in 0 channels
Get PRO
September '21
+38
in 0 channels
Get PRO
August '21
+63
in 0 channels
Get PRO
July '21
+16
in 0 channels
Get PRO
June '21
+27
in 0 channels
Get PRO
May '21
+51
in 0 channels
Get PRO
April '21
+29
in 0 channels
Get PRO
March '21
+71
in 0 channels
Get PRO
February '21
+110
in 0 channels
Get PRO
January '21
+56
in 0 channels
Get PRO
December '20
+460
in 0 channels
| Date | Subscriber Growth | Mentions | Channels | |
| 11 July | +1 | |||
| 10 July | +2 | |||
| 09 July | 0 | |||
| 08 July | 0 | |||
| 07 July | 0 | |||
| 06 July | +2 | |||
| 05 July | 0 | |||
| 04 July | +2 | |||
| 03 July | +2 | |||
| 02 July | 0 | |||
| 01 July | +1 |
Channel Posts
#موقت
فک کن ایدهای که به نظرت خیلی خوبه بدون چشم داشت پست میکنی
بعد یک عده دیس لایک میکنن
جرات ندارن کامنت بزارن تا هویتش مشخص بشه
عجیب که از کانال هم لفت نمیدن
تازه دیشب یک نفر روی پست قبلی کامنت گذاشته که چون اون پست گذاشتم
حروم لقمه هستم
من که صرفا کامنت پاک کردم و هیچ پاسخی بهش ندادم
ولی
عزیز دل
با افتخار کل عمرم شریف زندگی کردم و به احدی باج ندادم، مجیزگوی نهاد یا صنف خاصی هم نبودم
با افتخار بچه روستایی هستم و از صفر شروع کردم از صفر صفر صفر، پدر عزیزتر از جانم هم مدت زیادی کارگر بوده و البته همیشه روی چشمهام جا داره
امثال من هر چی درآوردم نون بازو بوده...
| 2 | یک ایده به ذهنم رسیده که به نظرم ارزش زیادی داره و اگر روش کار بشه، میتونه تبدیل به یه مقالهی خیلی خوب بشه.
شاید بپرسید اگر این ایده اینقدر خوبه، چرا خودت انجامش نمیدی؟
دو تا دلیل داره. اول اینکه خودم فعلاً فرصت انجامش رو ندارم. دوم اینکه دوست دارم یکی از شماها این ایده رو برداره، روش کار کنه، یه مقالهی خوب ازش دربیاره و نتیجهش رو هم توی یه کنفرانس خفن منتشر کنه و رزومه خوبی برای خودش بسازه.
حالا ایده چیه؟
بچههایی که با معماری Transformer آشنا هستن میدونن که یکی از مشکلات مدلهای ترنسفورمری، عملکردشون روی متنهای خیلی بلنده.
قبل از Transformer، شبکههای عصبی بازگشتی (RNN) مشکل Long-term Dependency داشتن؛ یعنی وابستگیهای بلندمدت رو خوب یاد نمیگرفتن. بعد Transformer اومد و Attention رو معرفی کرد تا این ضعف رو تا حد زیادی برطرف کنه.
اما الان یه مشکل جدید داریم.
فرض کنید از یک مدل زبانی یه گزارش ۵۰ صفحهای میخواید، یا ۲۰۰ صفحه متن بهش میدید، یا حتی ۲۰ هزار توکن ورودی. هرچقدر طول ورودی بیشتر میشه، حتی مکانیزم Attention هم دیگه نمیتونه وابستگی بین همهی کلمات رو به خوبی حفظ کنه و عملکرد مدل افت میکنه.
اینجا ایدهای که به ذهن من رسیده اینه که از مفهوم Convolution استفاده کنیم.
توی CNNها یک Kernel یا فیلتر داریم که روی ورودی حرکت میکنه. پیشنهاد من اینه که همین منطق رو برای متن استفاده کنیم، ولی به جای Kernel، از Attention استفاده کنیم.
فرض کنید یک متن ۲۰ هزار توکنی داریم. به جای اینکه Attention روی کل متن یکجا محاسبه بشه، متن رو به بخشهای کوچکتر تقسیم کنیم؛ مثلاً ۲۰ بخش هزار توکنی.
بعد مثل Convolution روی این بخشها حرکت کنیم، اما عملیاتی که انجام میدیم از جنس Attention باشه، نه Convolution.
یعنی برای هر بخش، Attention جداگانه محاسبه بشه و این فرآیند به صورت Sliding Window روی کل متن حرکت کنه.
میدونم که این روش Information Loss ایجاد میکنه و بعضی وابستگیهای دور از بین میره. مثلاً ممکنه کلمات هزار توکن اول با کلمات هزار توکن پنجم ارتباط داشته باشن و این ارتباط کامل حفظ نشه.
ولی به نظرم بخش زیادی از این ارتباطها قابل چشمپوشیه و هزینهای که بابت از دست دادن اون مقدار اطلاعات میدیم، در مقابل بهبود مقیاسپذیری ارزشش رو داره.
به نظرم ترکیب Convolution و Attention میتونه ایدهی جالبی باشه و شاید حتی راهحلی برای یکی از مشکلات مهم مدلهای زبانی امروزی باشه.
چون الان یکی از دردسرهای اصلی LLMها اینه که هرچقدر طول ورودی بیشتر میشه، بعد از یک نقطه عملکرد مدل به شکل محسوسی افت میکنه و Performance واقعاً Drop میکنه. | 398 |
| 3 | بعد از مدتها دوباره برگشتیم
درود به همگی
اول از همه وظیفه خودم میدونم اتفاقات تلخی که دیماه افتاد رو به همه تسلیت بگم. غمیه که فکر میکنم تا مدتها توی فکر و قلب خیلیهامون میمونه.
واقعیتش بعضی دردها اونقدر بزرگن که واقعاً چیزی برای گفتن پیدا نمیکنه. فقط میتونم امیدوار باشم که
امانتدار خوبی باشیم و نام و یادشون را اونجوری که شایستهشون باشه، زنده نگه داریم. | 474 |
| 4 | #موقت
اگه کسی تجربه کاری در سایت های فریلنسری مثل upwork داره لطفا یک پیام بده
mohammad_dehghaniiii | 186 |
| 5 | من طبیعتا پیشگو نیستم، و اقتصاد هم محل پیشگویی نیست ولی میشه پیش بینی کرد
اگر با همین دست و فرمون جلو رفته بشه (خصوصا محاصره دریایی ادامه داشته باشه)
مشکل شدید در پخش و توزیع بنزین - احتمالا در خرداد (بخشی از بنزین مصرفی، وارداتی هست)
ابرتورم در تابستان (احتمالا مرداد) - میشه گفت تابستان بسیار گرمی در پیش خواهیم داشت
پ.ن: الان هم ابرتورم هستیم (وقتی فقط طی یک سال، مرغ 4 برابر میشه) ولی چیزی ک میگم شبیه به F(f(x)) هست یعنی ابرتورم در ابرتورم
پ.ن 2: اصلا شرایط اقتصادی مناسب نیست (فاجعه اس) و خودمون را برای شرایط بسیار سختی آماده می کنیم و اصلا خرید اضافه و غیرضروری نمی کنیم و تصمیم های مهم زندگی را ترجیحا به تعویق می اندازیم. | 669 |
