@machinelearningnet

ایران توانست مقام هفتم در انتشار مقالات علمی تقلبی در طی 20 سال گذشته را به دست آورد. درست هست که اساتید ما پیرو استاد بزرگانِ روس و چین هستند، ولی به نسبت جمعیت اون دو کشور از اساتید خود هم بالاتر زدن! https://www.nature.com/articles/d41586-023-03974-8 سال ۲۰۲۳ هم که دیگه گل کاشته، مقالات آبکی و ساختگی داره رکورد میرنه ،

قصه بیتکوین در سال‌های مختلف یا تاپ یا کف. همیشه هم با چندین برابر اختلاف😜 بت من: سال ۲۰۲۴ هم توی تاپ @machinelearningnet2

یکی از سوالاتی که اخیرا پرسیده میشه، استفاده از chatgpt برای ترید هست. توی این ویدئو از هادسون تیمز، در مورد استفاده از chatgpt برای پیشبینی بازار بحث کردن و مزایا و معایب کاور شده و کلا نگاهی هم به ورژن های قبلی مدلهای زبانی داشتن https://youtu.be/IiAiTxlCZrM @machinelearningnet

Staford released today the Python online version course for the ISLR book 💥. The course covers topics such as: ✅ Regression and classification ✅ Linear model selection and regularization ✅ Non-linear Regression ✅ Tree-based methods ✅ Support vector machines ✅ Deep learning ✅ Unsupervised learning 𝐑𝐞𝐬𝐨𝐮𝐫𝐜𝐞𝐬 📚 Online course 📽️: https://www.youtube.com/playlist?list=PLoROMvodv4rPP6braWoRt5UCXYZ71GZIQ Book website: https://www.statlearning.com/ Python version: https://hastie.su.domains/ISLP/ISLP_website.pdf R version: https://hastie.su.domains/ISLR2/ISLRv2_website.pdf @machinelearningnet

الان که بحث LOB شد و سیمولیت اینا شد، اصولا از چند تا روش مختلف برای اینکار هست، agent-based models (ABMs), reinforcement learning (RL) environments, generative models, processing order flows from historical data sets and hand-crafted agents. در مورد مدلهای hand crafter که از gpu اینا استفاده میشه پست قبل رو ببینید. در زمینه ی مدلهای جنریتیو ai، یکی همین گن هست مثل این مقاله البته مشکلاتی گن داره در صورت جنرال مثل اینا training is notoriously unstable, often suffers from mode collapse, and requires specialised techniques such as weight clipping and gradient penalty to mitigate these issues دوتا مقاله هم از prof cartea ارایه شده که از ترنسفورمر ها استفاده کرده و من بیشتر از اون مقاله winner کنفرانس، اینارو ترجیح میدم، خیلی مستقیم و دقیق نوشته شده و کدش رو هم اوردن، برای RL هم یه مقاله زیر همین پست دربارش میزارم. جای یه کاری هم خالیه، استفاده از diffusion در این فضا، دیفیوژن ها که بیس dall-e هست واقعا نتایج خوبی گرفتن، ما هم کاری در زمینه گرفتن فیچر اتوماتیک از تایم سری ها ارایه میده که اونجا هم نتایج بشدت جالبه ، بنظرم میتونن از گن نتیجه ی بهتری بدن. در کنارش خوب از همین ها برای سیگنال گرفتن هم استفاده میکنن ، مثل همین مقاله ، یا اون مقاله ای که پست قبلی فرستادم، این فضا فقط مشکل کامپوتینگ احتمالا خواهید داشت ، چون نیاز به سورس محاسباتی قوی داره، و اخیرا میزان پابلیش خوبی هم روش انجام میشه. قبلا خیلی مدلهای deep و ml رو روی ایده های فاینانس میزدی، اصلا قبول نمیکردن چاپ کنن، الان دقیقا هایپ مجلات اینوری شده،

در این پست در مورد کنفرانس ICAIF 2023 حرف زدیم. بهترین مقاله اش مقاله ای بود که چند وقت پیش در زمینه سیمولیت limit order book ها از آکسفورد فرستاده شده، اینا در واقع دوتا کار بک تو بک هم هستن که لینک اش رو اینجا میزارم، 1. JAX-LOB 2. Generative AI for LOB modeling در واقع سال پیش هم یه مقاله فرستاده بودن که با lob بازار رو پیشبینی میکردن و واقعا alpha تولید کردن بودن ( واقعی نه مثل باقی ۹۵٪ مقالات). حالا در این کار جدید روی سیمولیت کردن lob تمرکز کردن که خیلی بعدا میتونه برای order placement کمک کنه، قبلا یه چند تا پرزنت در همین گروه بابت order execution داشتیم که با RL کار شده بود. اینارو ببینید، بعدش دیروز از دانشگاه Westminster برام تز فرستادن داوری کنم، تز دکترای طرف بود، ۵ تا مدل رو زده برای پیشبینی بیتکوین، توی انتشارات hindawi هم چاپ کرده، میخواد دفاع کنه ، مدل اورفیت، کار هیچ! حواستون باشه اینکه طرف انگلیس درس خونده، مثل اکسفورد هم داریم، اونجوری هم داریم، 😁

من دوتا پایان نامه در زمینه آنالیز فاند ها و تریدرها با دوتا دانشجوی چینی ام کار کردم که بخاطر رفتن به کشورشون و درگیر کار شدن، نتونستیم تبدیل به خروجی مقاله ای یا پروداکت کنیم. کار خوبی انجام شده اما هنوز جای کار برای تبدیل شدن به محصول یا مقاله زیاده. دونفر از بچه ها که هم کدینگ با پایتون مسلط هستن و مقاله نوشتن ( یا سابمیت کردن) ، و یا پروداکت درست کردن لطفا رزومه بفرستن تا این‌کار رو باهاشون نهایی کنیم، ممنون

در ادامه همین بحث RL ، یه پکیج خیلی معروفی هست به اسم FinRL که چندین ساله هر ساله یه ورژن کارشون رو توی nips چاپ میکنن، تقریبا من کتابخونه ی بهتری از این توی پایتون ندیدم، یکی دوتای دیگه هم هست مثل pgportfolio اینا که دیگه آپدیت نمیشه، حالا اینا اخیرا یه رقابت RL تو finance برگزار کردن که در جریانه و چند روز دیگه برنده هاش اعلام میشه. https://finrl-contest.github.io/ دارن روی یه فریموورک هم واسه RL تو فایناسنس کار میکنن: https://github.com/AI4Finance-Foundation/FinRL اینا هم در کنار قبلی میشه تکلیف ریسرچرهای گروه که روی RL در فاینانس کار میکنن، یکی از بچه های گروه هم من میدونم یه پرتفولیو با RL توی بازار ایران داره و یکی از صندوق ها بزرگ رو داره مدیریت میکنه ، منظورم اینکه اینا مباحث کاربردی هست که جواب هم میده،

بنظرم هر کاری اینا توی oxford man میکنن ارزش خوندن داره 😍 دوستانی که از من میپرسن ایده برای تز میخوان، لطفا بشینن مقالات oxford man رو بخونن، پر از مفاهیم جدید برای ماشین لرنینگ در فاینانس هست 🌺👌 اینجا لیست working paper های این موسسه رو میتونید ملاحظه کنید https://www.maths.ox.ac.uk/groups/mathematical-finance/research-mathematical-finance/mcf-working-papers-2023 @machinelearningnet

Introduction to Machine Learning with Python and Scikit-Learn Course 🚀🚀🚀 Another FreeCodeCamp course recently published for machine learning with Python. This is a long one (18 hours) that provides an in-depth introduction to machine learning and covers topics such as: ✅ Linear Regression and Gradient Descent ✅ Logistic Regression for Classification ✅ Decision Trees and Random Forests ✅ Gradient Boosting Machines with XGBoost ✅ Unsupervised Learning using Scikit-Learn ✅ Machine Learning Project from Scratch ✅ Deploying a Machine Learning Project with Flask Course 📽️: https://www.youtube.com/watch?v=hDKCxebp88A #datascience #python #machinelearning #scikitlearn

ادامه ماجرای open Ai نیاز به یک پست جدید میخواد، پست قبلی چند روز پیش هم گفتم این شرکت با این حرکت هاش بعیده بشه یک هیولا و الان فکر میکنم احتمالا تلفیق با ماکروسافت بشه. در کل مساله داره بغرنج میشه اساسی، 💥بورد open ai قرار بود ceo شرکت رقیب یعنی Anthropic رو بکنن رئیس openAi ، حالا امشب اینا یه ورژن جدید ارائه دادن ، 💥از اونور ۹۰ درصد کارکنان openai گفتن که کل board باید استعفا بدن، از اونور Sam رفته ماکروسافت، و احتمالا ماکروسافت دست روی کل بیزینس open ai خواهد گذاشت و اونوقت بورد چی میشه پیچیده خواهد شد. 💥البته اون بورد خیلی تعطیل هستن. بدون شک بهترین ریسرچرهای دنیا بودن، اما تجربه ران یه شرکت رو نداشتن، زدن هم شرکت و هم خودشون رو نابود کردن. ❌اما اینجا یه فکت عجیب هست. بنظرم Satya Nadela بزرگترین ceo تک در دنیا هست. اینکه چطور در یک روز سم و گِرک رو استخدام کرد واقعا خاص بود!

این پرزنت جالبی باید باشه و احتمالا روی اپروچ های تیم های اول بحث کنن https://lu.ma/uo6b7wkv

This is the quote I am falling in love with: ❌❌❌❌ The magic you are looking for is in the work you are avoiding 🤦‍♂ 💥Absolutely insane @machinelearningnet

واو! سم اخراج شد یا چی؟😳 Mr. Altman’s departure follows a deliberative review process by the board, which concluded that he was not consistently candid in his communications with the board, hindering its ability to exercise its responsibilities. The board no longer has confidence in his ability to continue leading OpenAI. اوه😳 https://openai.com/blog/openai-announces-leadership-transition

اینجا در مورد Bloomberg gpt پرزنتی فرستاده شده، مدل بهتری ازش با hugging face دولوپ شده به اسم fingpt که خیلی از مشکلات( مخصوصا هزینه fine tune ) رو نداره، BloombergGPT trained an LLM using a mixture of finance data and general-purpose data, which took about 53 days, at a cost of around $3M). It is costly to retrain an LLM model like BloombergGPT every month or every week, thus lightweight adaptation is highly favorable. FinGPT can be fine-tuned swiftly to incorporate new data (the cost falls significantly, less than $300 per fine-tuning). 2). Democratizing Internet-scale financial data is critical, say allowing timely updates of the model (monthly or weekly updates) using an automatic data curation pipeline. BloombergGPT has privileged data access and APIs, while FinGPT presents a more accessible alternative. It prioritizes lightweight adaptation, leveraging the best available open-source LLMs. 3). The key technology is "RLHF (Reinforcement learning from human feedback)", which is missing in BloombergGPT. RLHF enables an LLM model to learn individual preferences (risk-aversion level, investing habits, personalized robo-advisor, etc.), which is the "secret" ingredient of ChatGPT and GPT4. دیروز FinGpt - forecaster رو هم ارائه کردن، که stock price رو بر اساس دیتای نیوز اون شرکت پیشبینی میکنه! با Llama 2 فاین تیون کردن و میتونه پیشبینی هفتگی بده، قضیه جذاب‌تر میشه 😉، FinGPT: Open-Source Financial LLM

یه تجربه ی تلخ اما واقعی از دکترا😭😂