ch
Feedback
Deep Time

Deep Time

前往频道在 Telegram

Machine Learning 💻 Quantitative Finance💲Time Series 📈 Artificial Intelligence 🤖Data Science 📚 Startup 🚀

显示更多
3 735
订阅者
-224 小时
+97
+3730
吸引订阅者
六月 '26
六月 '26
+75
在1个频道中
五月 '26
+32
在0个频道中
Get PRO
四月 '26
+6
在0个频道中
Get PRO
三月 '26
+1
在0个频道中
Get PRO
二月 '26
+31
在0个频道中
Get PRO
一月 '26
+22
在0个频道中
Get PRO
十二月 '25
+47
在0个频道中
Get PRO
十一月 '25
+57
在2个频道中
Get PRO
十月 '25
+72
在0个频道中
Get PRO
九月 '25
+47
在2个频道中
Get PRO
八月 '25
+47
在0个频道中
Get PRO
七月 '25
+68
在0个频道中
Get PRO
六月 '25
+56
在0个频道中
Get PRO
五月 '25
+84
在1个频道中
Get PRO
四月 '25
+56
在0个频道中
Get PRO
三月 '25
+74
在0个频道中
Get PRO
二月 '25
+67
在0个频道中
Get PRO
一月 '25
+145
在3个频道中
Get PRO
十二月 '24
+151
在0个频道中
Get PRO
十一月 '24
+481
在3个频道中
Get PRO
十月 '24
+120
在0个频道中
Get PRO
九月 '24
+119
在3个频道中
Get PRO
八月 '24
+200
在6个频道中
Get PRO
七月 '24
+102
在0个频道中
Get PRO
六月 '24
+308
在1个频道中
Get PRO
五月 '24
+67
在0个频道中
Get PRO
四月 '24
+116
在4个频道中
Get PRO
三月 '24
+86
在0个频道中
Get PRO
二月 '24
+88
在0个频道中
Get PRO
一月 '24
+174
在2个频道中
Get PRO
十二月 '23
+248
在1个频道中
Get PRO
十一月 '23
+114
在3个频道中
Get PRO
十月 '23
+56
在0个频道中
Get PRO
九月 '23
+34
在0个频道中
Get PRO
八月 '23
+55
在0个频道中
Get PRO
七月 '23
+47
在0个频道中
Get PRO
六月 '23
+50
在0个频道中
Get PRO
五月 '23
+42
在0个频道中
Get PRO
四月 '23
+60
在0个频道中
Get PRO
三月 '23
+116
在0个频道中
Get PRO
二月 '23
+50
在0个频道中
Get PRO
一月 '23
+61
在0个频道中
Get PRO
十二月 '22
+31
在0个频道中
Get PRO
十一月 '22
+36
在0个频道中
Get PRO
十月 '22
+34
在0个频道中
Get PRO
九月 '22
+53
在0个频道中
Get PRO
八月 '22
+195
在0个频道中
Get PRO
七月 '22
+74
在0个频道中
Get PRO
六月 '22
+115
在0个频道中
Get PRO
五月 '22
+177
在0个频道中
Get PRO
四月 '22
+84
在0个频道中
Get PRO
三月 '22
+83
在0个频道中
Get PRO
二月 '22
+15
在0个频道中
Get PRO
一月 '22
+57
在0个频道中
Get PRO
十二月 '21
+39
在0个频道中
Get PRO
十一月 '21
+52
在0个频道中
Get PRO
十月 '21
+297
在0个频道中
日期
订阅者增长
提及
频道
30 六月+1
29 六月0
28 六月+3
27 六月0
26 六月+3
25 六月+4
24 六月+3
23 六月0
22 六月+4
21 六月0
20 六月+2
19 六月+5
18 六月+2
17 六月+2
16 六月+2
15 六月+1
14 六月+3
13 六月+1
12 六月+1
11 六月+5
10 六月+1
09 六月+2
08 六月+2
07 六月+5
06 六月+12
05 六月+3
04 六月+7
03 六月+1
02 六月0
01 六月0
频道帖子
معرفی KVarN گوگل چند وقت پیش یک روش بهینه در مدیریت KV cache به نام TurboQuant معرفی کرد که اساسا خود KV Cache رو کوئانتایز میکرد و بعد برای پروسه attention مجدد تبدیل به دقت بالاتر. اما vLLM با بنچمارک نشون داد که این کم شدن Memory Usage یا افزایش ظرفیت به قیمت از دست رفتن Accuracy و کم شدن throughput هست. این کاهش دقت خصوصا در long-cotext بیشتر دیده میشه چراکه error ها با این تبدیل به مرور زیاد میشن. حالا Huawei روش KVarN رو معرفی کرده که نه تنها دقت رو حفظ میکنه بلکه throughput رو افزایش میده و کار اصلیش هم که ۴ برابر کردن ظرفیت KV-cache (حتی این هم بهتر از TurboQuant) Paper Github مزیت برای استفاده: در یک فورک vLLM ارائه شده.

2
هوش مصنوعی و خصوصا LLM ها دنیای بازار‌های مالی رو متحول کردن (واضحا!). به همین دلیل در مورد LLM ها بیشتر پست‌های تکنیکال میذارم. در سطح Trade: اگر به عنوان یک کوئانت فقط روش‌های کلاسیک آماری/ دیتاساینس و مهندسی داده بلد باشید از رقابت کنار میرید. برای مثال بغیر از استفاده بهینه از مدل‌ها برای کدنوشتن و ... باید بتونید روش‌های LLM Inference سریع و در عین حال دقیق رو مسلط باشید و چند ثانیه/ میلی ثانیه در پردازش اطلاعات با LLM برتری پیدا کنید که معنیش در trading مشخص هست. تسلط و شناخت این حوزه برای کوئانت‌های نسل جدید اهمیت بالایی داره. در سطح Investment: اگر با LLM و ذاتش که نیاز به Memory هست آشنا میبودید احتمالا نیم نگاهی به سهام شرکت Micron داشتید که در ۶ ماه ۳۵۵ درصد سود داده. یا فرضا اگر سال قبل در کامیونیتی‌های LLM گشت میزدید رشد Player 2 در GPU که AMD هست رو پیشبینی میکردید که در یک سال ۳۱۵ درصد رشد داشت. پ.ن: انگیزه زوری بود برای گرفتن زهر پست‌های تکنیکال بعدی در مورد KV cache optimization Speculative Decoding Prefill decode disaggregation ...
1 019
3
یک مسئله جالب که این روزها بهش فکر میکنم تایید کورکورانه دوطرفه در تعاملات انسان با AI هست. تایید کورکورانه از جانب انسان: اینکه اگر شخصی فقط خروجی‌های هر مرحله از AI رو بدون بررسی تخصصی تایید کنه، دو مشکل خواهد داشت: ۱_ احتمال کیفیت پایین خروجی یا بهینه نبودن ۲_ خودِ این شخص به راحتی با AI جایگزین خواهد شد چون در مجموع ارزشی اضافه نخواهد کرد پس اگر از آندره کارپاثی میشنوید که دیگه خودش تقریبا  کدی نمینویسه به این معنی نیست که کد رو بررسی نمیکنه، علمش رو نداره، یا ساختارهارو نقد نمیکنه. تایید کورکورانه از جانب هوش مصنوعی: اینکه هوش مصنوعی به دلیل تمایل به راضی کردن کاربر یا بایاس شدن به دلیل کانتکست، احتمالا ایده‌های کاربر رو دست بالا خواهد گرفت که ممکن هست بعد از ماه‌ها کار اشکالات در عمل مشخص بشن. این مورد هم مجددا بر دوش انسان هست تا با تخصص و تفکر انتقادی تشخیص داده بشه. از طرفی بحث هزینه Agent ها و مصرف توکن که اخیرا برای شرکت‌ها دردسر ساز شده رو در نظر بگیرید که اهمیت استفاده بهینه و وجود تخصص رو بسیار بالا برده. در یک کلام، بازی عوض شده. میشه اینطور گفت که تخصص در برنامه‌نویسی، هوش مصنوعی و ریاضی: ۱_ اگر به شکل سطحی یا گاها متوسط باشه کم ارزش هست. اما در سال‌های گذشته اصلا اینطور نبود و تقاضا برای این سطوح زیاد بود. ۲_ اگر به شکل عمیق و تسلط بالا باشه، بسیار ارزشمند هست چراکه تنها این سطح از تخصص توانایی استفاده و مدیریت بهینه/کم هزینه AI رو خواهد داشت.
2 345
4
Brain Foundation Model انگار داره کلاه سرمون میره Sabi.com این واقعا میتونه game changer باشه در دنیا. قطعا زندگی معلولین در آینده متفاوت میشه اما آیا این تنها استفاده هست؟! دریافت سیگنال‌های مغزی به شکل wireless از طریق یک کلاه و تبدیل فکر به متن و بعدش هم که مشخصه: متن به AI برای انجام کار اما بازم میگم، تتها استفاده این موارد تبلیغی نخواهد بود. فکر کنید به روزی که کارمند ها مجبور به استفاده از این مورد بشن. همین اخیر هم خبر اومد که شرکت Meta در حال جمع‌آوری تمام اطلاعات مانیتورها، کلیک‌ها و تایپ و ... از کارمندان در آمریکا هست تا در یک سطح جدید مدل‌های هوش مصنوعی به هدف جایگزینی با انسان آموزش ببینن‌. پ.ن: این مدت بخاطر شرایط ایران کمتر فعال بودم. اما سعی میکنم بیشتر پست بذارم. اتفاقات و آپدیت ها زیاد بودن.
2 417