ch
Feedback
دیتاهاب

دیتاهاب

前往频道在 Telegram

موضوعات کانال: ✅Data Science ✅Machine Learning ✅Deep Learning ✅NLP گروه تلگرامی ⬅️ @data_jobs دیتاست ⬅️ @persian_data ادمین ⬅️ @data_hub

显示更多
2 110
订阅者
无数据24 小时
-57
-1230
吸引订阅者
七月 '26
七月 '26
+10
在0个频道中
六月 '26
+21
在0个频道中
Get PRO
五月 '26
+10
在0个频道中
Get PRO
四月 '26
+8
在0个频道中
Get PRO
三月 '26
+4
在0个频道中
Get PRO
二月 '26
+20
在0个频道中
Get PRO
一月 '26
+9
在0个频道中
Get PRO
十二月 '25
+27
在0个频道中
Get PRO
十一月 '25
+40
在0个频道中
Get PRO
十月 '25
+31
在0个频道中
Get PRO
九月 '25
+18
在0个频道中
Get PRO
八月 '25
+42
在1个频道中
Get PRO
七月 '25
+36
在0个频道中
Get PRO
六月 '25
+13
在0个频道中
Get PRO
五月 '25
+49
在2个频道中
Get PRO
四月 '25
+36
在0个频道中
Get PRO
三月 '25
+34
在1个频道中
Get PRO
二月 '25
+22
在0个频道中
Get PRO
一月 '25
+37
在1个频道中
Get PRO
十二月 '24
+32
在0个频道中
Get PRO
十一月 '24
+34
在0个频道中
Get PRO
十月 '24
+55
在2个频道中
Get PRO
九月 '24
+54
在2个频道中
Get PRO
八月 '24
+53
在2个频道中
Get PRO
七月 '24
+35
在1个频道中
Get PRO
六月 '24
+35
在1个频道中
Get PRO
五月 '24
+82
在2个频道中
Get PRO
四月 '24
+153
在1个频道中
Get PRO
三月 '24
+39
在2个频道中
Get PRO
二月 '24
+54
在0个频道中
Get PRO
一月 '24
+71
在0个频道中
Get PRO
十二月 '23
+102
在0个频道中
Get PRO
十一月 '23
+58
在1个频道中
Get PRO
十月 '23
+43
在0个频道中
Get PRO
九月 '23
+40
在0个频道中
Get PRO
八月 '23
+72
在0个频道中
Get PRO
七月 '23
+80
在0个频道中
Get PRO
六月 '23
+121
在0个频道中
Get PRO
五月 '23
+21
在0个频道中
Get PRO
四月 '23
+28
在0个频道中
Get PRO
三月 '23
+31
在0个频道中
Get PRO
二月 '23
+110
在0个频道中
Get PRO
一月 '23
+24
在0个频道中
Get PRO
十二月 '22
+59
在0个频道中
Get PRO
十一月 '22
+47
在0个频道中
Get PRO
十月 '22
+39
在0个频道中
Get PRO
九月 '22
+20
在0个频道中
Get PRO
八月 '22
+24
在0个频道中
Get PRO
七月 '22
+24
在0个频道中
Get PRO
六月 '22
+60
在0个频道中
Get PRO
五月 '22
+28
在0个频道中
Get PRO
四月 '22
+37
在0个频道中
Get PRO
三月 '22
+115
在0个频道中
Get PRO
二月 '22
+104
在0个频道中
Get PRO
一月 '22
+20
在0个频道中
Get PRO
十二月 '21
+44
在0个频道中
Get PRO
十一月 '21
+55
在0个频道中
Get PRO
十月 '21
+41
在0个频道中
Get PRO
九月 '21
+38
在0个频道中
Get PRO
八月 '21
+63
在0个频道中
Get PRO
七月 '21
+16
在0个频道中
Get PRO
六月 '21
+27
在0个频道中
Get PRO
五月 '21
+51
在0个频道中
Get PRO
四月 '21
+29
在0个频道中
Get PRO
三月 '21
+71
在0个频道中
Get PRO
二月 '21
+110
在0个频道中
Get PRO
一月 '21
+56
在0个频道中
Get PRO
十二月 '20
+460
在0个频道中
日期
订阅者增长
提及
频道
11 七月+1
10 七月+2
09 七月0
08 七月0
07 七月0
06 七月+2
05 七月0
04 七月+2
03 七月+2
02 七月0
01 七月+1
频道帖子
#موقت فک کن ایده‌ای که به نظرت خیلی خوبه بدون چشم داشت پست می‌کنی بعد یک عده دیس لایک میکنن جرات ندارن کامنت بزارن تا هویتش مشخص بشه عجیب که از کانال هم لفت نمیدن تازه دیشب یک نفر روی پست قبلی کامنت گذاشته که چون اون پست گذاشتم حروم لقمه هستم من که صرفا کامنت پاک کردم و هیچ پاسخی بهش ندادم ولی عزیز دل با افتخار کل عمرم شریف زندگی کردم و به احدی باج ندادم، مجیزگوی‌ نهاد یا صنف خاصی هم نبودم با افتخار بچه روستایی هستم و از صفر شروع کردم از صفر صفر صفر، پدر عزیزتر از جانم هم مدت زیادی کارگر بوده و البته همیشه روی چشم‌هام جا داره امثال من هر چی درآوردم نون بازو بوده...

2
یک ایده به ذهنم رسیده که به نظرم ارزش زیادی داره و اگر روش کار بشه، می‌تونه تبدیل به یه مقاله‌ی خیلی خوب بشه. شاید بپرسید اگر این ایده این‌قدر خوبه، چرا خودت انجامش نمی‌دی؟ دو تا دلیل داره. اول اینکه خودم فعلاً فرصت انجامش رو ندارم. دوم اینکه دوست دارم یکی از شماها این ایده رو برداره، روش کار کنه، یه مقاله‌ی خوب ازش دربیاره و نتیجه‌ش رو هم توی یه کنفرانس خفن منتشر کنه و رزومه خوبی برای خودش بسازه. حالا ایده چیه؟ بچه‌هایی که با معماری Transformer آشنا هستن می‌دونن که یکی از مشکلات مدل‌های ترنسفورمری، عملکردشون روی متن‌های خیلی بلنده. قبل از Transformer، شبکه‌های عصبی بازگشتی (RNN) مشکل Long-term Dependency داشتن؛ یعنی وابستگی‌های بلندمدت رو خوب یاد نمی‌گرفتن. بعد Transformer اومد و Attention رو معرفی کرد تا این ضعف رو تا حد زیادی برطرف کنه. اما الان یه مشکل جدید داریم. فرض کنید از یک مدل زبانی یه گزارش ۵۰ صفحه‌ای می‌خواید، یا ۲۰۰ صفحه متن بهش می‌دید، یا حتی ۲۰ هزار توکن ورودی. هرچقدر طول ورودی بیشتر میشه، حتی مکانیزم Attention هم دیگه نمی‌تونه وابستگی بین همه‌ی کلمات رو به خوبی حفظ کنه و عملکرد مدل افت می‌کنه. اینجا ایده‌ای که به ذهن من رسیده اینه که از مفهوم Convolution استفاده کنیم. توی CNNها یک Kernel یا فیلتر داریم که روی ورودی حرکت می‌کنه. پیشنهاد من اینه که همین منطق رو برای متن استفاده کنیم، ولی به جای Kernel، از Attention استفاده کنیم. فرض کنید یک متن ۲۰ هزار توکنی داریم. به جای اینکه Attention روی کل متن یکجا محاسبه بشه، متن رو به بخش‌های کوچکتر تقسیم کنیم؛ مثلاً ۲۰ بخش هزار توکنی. بعد مثل Convolution روی این بخش‌ها حرکت کنیم، اما عملیاتی که انجام می‌دیم از جنس Attention باشه، نه Convolution. یعنی برای هر بخش، Attention جداگانه محاسبه بشه و این فرآیند به صورت Sliding Window روی کل متن حرکت کنه. می‌دونم که این روش Information Loss ایجاد می‌کنه و بعضی وابستگی‌های دور از بین میره. مثلاً ممکنه کلمات هزار توکن اول با کلمات هزار توکن پنجم ارتباط داشته باشن و این ارتباط کامل حفظ نشه. ولی به نظرم بخش زیادی از این ارتباط‌ها قابل چشم‌پوشیه و هزینه‌ای که بابت از دست دادن اون مقدار اطلاعات می‌دیم، در مقابل بهبود مقیاس‌پذیری ارزشش رو داره. به نظرم ترکیب Convolution و Attention می‌تونه ایده‌ی جالبی باشه و شاید حتی راه‌حلی برای یکی از مشکلات مهم مدل‌های زبانی امروزی باشه. چون الان یکی از دردسرهای اصلی LLMها اینه که هرچقدر طول ورودی بیشتر میشه، بعد از یک نقطه عملکرد مدل به شکل محسوسی افت می‌کنه و Performance واقعاً Drop می‌کنه.
398
3
بعد از مدت‌ها دوباره برگشتیم درود به همگی اول از همه وظیفه خودم می‌دونم اتفاقات تلخی که دیماه افتاد رو به همه تسلیت بگم. غمیه که فکر می‌کنم تا مدت‌ها توی فکر و قلب خیلی‌هامون می‌مونه. واقعیتش بعضی دردها اون‌قدر بزرگن که واقعاً چیزی برای گفتن پیدا نمی‌کنه. فقط می‌تونم امیدوار باشم که امانت‌دار خوبی باشیم و نام و یادشون را اونجوری که شایسته‌‌شون باشه، زنده نگه داریم.
474
4
#موقت اگه کسی تجربه کاری در سایت های فریلنسری مثل upwork داره لطفا یک پیام بده mohammad_dehghaniiii
186
5
من طبیعتا پیشگو نیستم، و اقتصاد هم محل پیشگویی نیست ولی میشه پیش بینی کرد اگر با همین دست و فرمون جلو رفته بشه (خصوصا محاصره دریایی ادامه داشته باشه) مشکل شدید در پخش و توزیع بنزین - احتمالا در خرداد (بخشی از بنزین مصرفی، وارداتی هست) ابرتورم در تابستان (احتمالا مرداد) - میشه گفت تابستان بسیار گرمی در پیش خواهیم داشت پ.ن: الان هم ابرتورم هستیم (وقتی فقط طی یک سال، مرغ 4 برابر میشه) ولی چیزی ک میگم شبیه به F(f(x)) هست یعنی ابرتورم در ابرتورم پ.ن 2: اصلا شرایط اقتصادی مناسب نیست (فاجعه اس) و خودمون را برای شرایط بسیار سختی آماده می کنیم و اصلا خرید اضافه و غیرضروری نمی کنیم و تصمیم های مهم زندگی را ترجیحا به تعویق می اندازیم.
669