Quant Way

کورس CS224U: فهم مدل زبانی کورس Natural Language Understanding دانشگاه استنفورد حالا روی یوتیوبه. یه نگاهی به لیست ویدیوهاش بندازید متوجه میشید چه کورس خوف و خفنیه. از مباحث پایه ترنسفورمرها مثل برت و رابرتا تا بازیابی اطلاعات برپایه شبکه عصبی را توی لیستش می‌تونید پیدا کنید. ویدیوها رو هم با زمان کم درست کرده که راحت ببینید کدها رو ههم روی صفحه کورس به اشتراک گذاشته. لینک صفحه کورس: https://web.stanford.edu/class/cs224u/ لینک یوتیوب کورس: https://www.youtube.com/playlist?list=PLoROMvodv4rPt5D0zs3YhbWSZA8Q_DyiJ پ.ن. با تشکر از آقای صدرا صبوری که این کورس رو بهمون فرستادند که در کانال قرار بدیم. شما هم مطلب مفیدی بود بفرستید. #coach #course @nlp_stuff

فیلم جلسه اول کتاب Machine Learning for Algorithmic Trading در یوتیوب و آپارات آپلود شد . ‏—————————————————— لینک آپارات: (جهت دسترسی به جلسات ضبط شده گروه) https://www.aparat.com/DrSasanBarak/videos ———————————————————— لینک گروه ( مارو به دوستانتان معرفی کنید) https://t.me/machinelearningnet لینک کانال : @Machinelearningnet2 لینک جلسه در یوتیوب : https://youtu.be/iYK5yVVTa6s لینک جلسه در آپارات : https://aparat.com/v/zOJ6h پخش لایو جلسات در اینستاگرام : https://www.instagram.com/sasanbarak دوشنبه هفته دیگه ساعت ۸، جلسه دوم کتاب رو خواهیم داشت 🌺😊 موفق باشید

دوستان از لایو اینیستا استفاده کنید ظرفیت زوم پر شد https://www.instagram.com/sasanbarak

جلسه آغاز شد

کمتر از 40 دقیقه به آغاز اولین جلسه اتصال در زوم : https://us04web.zoom.us/j/71016848814?pwd=fFcfFGt7J14veE3VIeLMWN2y8yt5DR.1 Meeting ID: 843 1610 8693 لطفا با پسورد ۱۲۳۴۵ وارد شوید Passcode: 12345 لایو اینیستا : https://www.instagram.com/sasanbarak

🍀🍀🍀🍀🥳🥳 اولین جلسه از پرزنت کتاب Machine learning for Algorithmic trading Topic: Machine Learning for Trading – From Idea to Execution زمان : دوشنبه ۲۷ دی ساعت ۲۰ Time: 17 Jan 2022 لینک ورود : https://us04web.zoom.us/j/71016848814?pwd=fFcfFGt7J14veE3VIeLMWN2y8yt5DR.1 Meeting ID: 843 1610 8693 لطفا با پسورد ۱۲۳۴۵ وارد شوید Passcode: 12345 احتمالا برای ورود به نرم افزار زوم، نیاز به فیلترشکن خواهید داشت، در تلاش هستیم جلسه رو بصورت لایو در اینستاگرام هم پخش کنیم . لینک گروه: https://t.me/machinelearningnet لینک کانال : https://t.me/machinelearningnet2 ‎‌‏ —————————————————————————————— لینک آپارات: (جهت دسترسی به جلسات قبلی ضبط شده در گروه) https://www.aparat.com/DrSasanBarak/videos ————————————————————— لطفا دوستانتان را دعوت کنید...

جواب ما به julia یک نه ای بزرگ است (فعلا) ! این یک نه با دلیل است ! حالاچرا ؟ به قول یکی از مکاتب فلسفه شرقی ( تایوت چینگ ) : فرزانگان همیشه در آخر می ایستند به همین دلیل همیشه جولوتر هستند ! ————————— زبان پایتون یک زبان اسکریپتی است به همین دلیل در مقایسه با زبان های مثل c++ و julia که کامپایلری هستند به شدت کند و نمیشه اینرو انکار کرد و از طرفی julia سرعت اجرایی بالا تری داره نسبت به پایتون ولی در حال حاضر شبیه زیر شلواری یک راهب خالیه ! قابلیت هایی که شما میتونید در پایتون با پکیج scipy دسترسی داشته باشید همچنان برای julia در حال توسعه است ! به نحوی دارند دعوت میکنند بیایید خودتون توسعه بدید ! پس ترجیح میدیم توی صف جولیا ما اخر به ایستیم . و از طرف دیگه زبان julia سعی کرده یادگیریش و استفاده از اون راحت باشه مثل پایتون امروز حساب کردم با حفظ کردن 31 syntax میتونی توی ماکسیمم 48 ساعت جولیا رو یاد بگیری ( البته به شرطی که یکی از زبان های برنامه نویسی رو به خوبی مسلط باشی و تا حدودی هم کند ذهن باشی ! 48 ساعت ماکسیمم ) . پس فعلا با julia جوو ندید خبری نیست .

در انتقال یادگیری از لایه‌های میانی غافل نشوید در سناریو انتقال یادگیری و هنگامی که بخواهیم شبکه پیش آموزش دیده روی تسک مبدا را برای تسک مقصد استفاده کنیم، دو راه پیش‌روی خود داریم. راه اول این است که شبکه را به اصطلاح فریز کنیم و یک لایه خطی روی فیچر‌های لایه آخر شبکه برای تسک مقصد استفاده کنیم. راه دوم هم این است که کل شبکه را مورد فاین تیون قرار بدهیم. حالا مقاله‌ای اومده که نشون داده راه سومی هم جز این دو هست و این راه فریزکردن شبکه و در عین حال سوارکردن یک لایه خطی بر روی فیچرهای تمام لایه‌های میانی شبکه است (نه فقط فیچرهای لایه آخر). در واقع سوالی که منجر به این ایده شده این بوده که Fine-tuning با این که پیچیدگی و تعداد پارامتر بیشتری نسبت به حالت فریزکردن مدل داره چرا بهتر عمل میکنه؟ نکنه در سناریو Fine-tuning صرفا فیچرهای میانی شبکه دارند به آخر شبکه پاس داده می‌شوند؟؟) این مقاله ابتدا اومده imagenet رو به عنوان تسک مبدا در نظر گرفته و ۱۹ دیتاست دیگه مثل Cifar100 و Clevr و Pets و ... رو به عنوان تسک مقصد در نظر گرفته. سپس یک مقداری تحت عنوان domain affinity محاسبه کرده که نشون میده هر کدوم از این ۱۹ تسک مقصد چه قدر به imagenet نزدیک هستند. حالا اومدند و برای هر کدوم از این دیتاست‌ها سه سناریو دسته‌بند خطی روی شبکه مبدا فریزشده (Linear)، فاین تیون‌کردن شبکه مبدا (Fine-tuning) و اموزش دادن از اول (Scratch) و نتایج این روشها رو تو عکس figure2 ای که مشاهده میکنید گذاشتند. در این نمودار دیتاست های سمت چپ دارای affinity کمتر و دیتاست‌های سمت راست دارای affinity بیشتری هستند. نمودار نشون میده که برای دیتاست‌های چپ سناریو Scratch جواب‌بهتری از بقیه میده و برای دیتاست‌های راست هم سناریو Linear جواب خوبی میده ( که منطقی هم هست). در گام بعدی مقاله اومده و مدل خودش یعنی Head2Toe رو مطرح کرده. در این مدل ابتدا شبکه مبدا (همون پیش آموزش دیدهه روی imagent) فریز میشه و سپس تمامی فیچر‌های میانی شبکه انتخاب می‌شوند. از اونجایی که سایز اینها خب زیاده فیچرهای هر لایه توسط یک مکانیزم pooling ابعادشون کاهش پیدا میکنه. در نهایت تمامی این فیچرهای کاهش بعد داده شده تمامی لایه‌ها با هم کانکت می‌شوند و یک بردار ویژگی بزرگ به دست میاد (اسمش رو h_all بذارید). از اونجایی که این h_all هم بزرگه و آموزش دادن کلاسیفایر خطی روش ممکنه منجر به اورفیت بشه، مقاله اومده از رگولاریزیشن Group lasso برای آموزش یک دسته‌بند خطی روی این بردار بزرگ استفاده کرده تا وزن‌هایی که به دست میان اسپارس باشن و هم به نوعی عمل فیچر سلکشن رو روی h_all انجام داده. در نهایت هم اومدن head2Toe رو روی اون ۱۹ دیتاست مختلف اجرا کردند و نشون دادند که در میانگین روششون بهتر از سناریو‌های دیگه نظیر Linear و حتی Fine-tune داره عمل میکنه! لینک مقاله: https://arxiv.org/abs/2201.03529 #read #paper @nlp_stuff

I am very excited to announce that we release an initial version of AugmentTS. It is an open-source Python package for Time Series Data Augmentation using Deep Generative Models. Some basic features of the package are: *Time Series Data Augmentation using Deep Generative Models *Visualizing the Latent Space of Generative Models *Time Series Forecasting using Deep Neural Networks Visit the home page for more information: https://github.com/DrSasanBarak/AugmentTS Thanks to our genius team members, @s33ssa @Mohammad_j0 and @amirabbasasadi for such a brilliant collaboration and dedication. This repo supports a paper by our team for improving deep learning forecast using Variational Autoencoders. In this paper, we propose a novel data augmentation-based deep forecasting framework that enhances the forecasting accuracy in different time series data. We use Variational Autoencoder (VAE) as a deep generative model for time series data augmentation. A hybrid bi-directional Long short-term memory-Convolutional neural network (biLSTM-Conv) is trained in the augmented data and then the acquired knowledge is transferred to the original dataset. In our evaluation of real-world time series datasets, we show that the proposed method can significantly improve the accuracy of basic deep forecasting models. We also provide empirical evidence of the efficacy of the approach against widely accepted univariate forecasting methods. Read more about paper: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4009937

1. کدام نواحی مغز در هنگام یادگیری فعال (در مقابل غیر فعال) بیشتر از خود فعالیت نشان دادند؟ 2. آیا نواحی مشابهی از مغز هنگام یادگیری زبان و ریاضیات از خود فعالیت نشان می دادند؟ شکل1: شش ناحیه مغز که در هنگام یادگیری فعال ریاضی و زبان فعال می شوند LA: یادگیری فعال زبان, LP: یادگیری غیر فعال زبان, MA: یادگیری فعال ریاضی, MP: یادگیری غیر فعال ریاضی نتایج نشان داد که حداقل 6 ناحیه در مغز وجود دارد که هنگام یادگیری فعال، فعالیتشان افزایش پیدا می کند. این 6 ناحیه هم برای یادگیری ریاضی هم برای یادگیری زبان فعال می شدند. این نواحی در شکل 1.A نشان داده شده اند. نه فقط نواحی مغز، بلکه الگوی فعالیت آنها نیز بسیار مشابه است (شکل 1.B). این نتایج نشان می دهد که شباهت های معناداری در مغز ما هنگام یادگیری زبان و ریاضی وجود دارد. آزمایش موفقیت آمیز بود! حال به سوال ابتدای بحث برگردیم: چرا مردم در ریاضی و زبان همزمان خوب یا بد هستند. حالا ما یک جواب خوب که توسط داده های مغزی هم پشتیبانی می شود داریم: زیرا یادگیری زبان و ریاضی نواحی مشابهی از مغز را درگیر می کنند. در نتیجه اگر در یکی از این دو (زبان و ریاضی) خوب هستید، می توانید به راحتی فرض کنید که در آن یکی هم خوب خواهید بود!

در آزمایش اول، شرکت کننده های سوئدی، 60 لغت خارجی از یک زبان آفریقایی را یاد گرفتند. نیمی از این تعداد به صورت غیر فعال یاد گرفته شد: جفت سوئدی-آفریقایی هر کلمه به صورت مکرر به شرکت کننده ها نمایش داده شد. برای نیمه باقیمانده کلمات (یادگیری فعال) از شرکت کننده خواسته می شد که جفت سوئدی-آفریقایی را کامل کنند در حالی که بازخورد هم می گرفتند. یک هفته بعد، فعالیت مغزی آنها توسط یک دستگاه ام آر آی ثبت شد. به آنها همان 60 کلمه هفته پیش نشان داده شد و از آنها خواسته شد جواب درست را از بین گزینه ها انتخاب کنند. آزمایش دوم بسیار شبیه آزمایش اول بود با این تفاوت که در این جا آنها مسائل ریاضی را به صورت فعال و غیر فعال حل می کردند. نتایج رفتاری نشان داد که شرکت کننده ها عملکرد بهتری در ترایال هایی که به صورت فعال یاد گرفته بودند داشتند. البته این چیز جدیدی نیست. مطالعات پیشین نیز چنین رفتاری را نشان داده بودند. تلاش و همت بیشتر (در یادگیری فعال) نتایج بهتری را از خود نشان می دهد. اما آن چیزی که آنها واقعا به دنبال آن بودند سوالات مربوط به مغز بود :

مطالعات “رفتاری” مرتبط با هوش عمومی نشان داده اند که یک رابطه معنی دار بین یادگیری زبان و ریاضیات وجود دارد. اما سوال مهم اینجاست که دلیل این رابطه چیست؟ یک پژوهش جدید تلاش کرده این سوال را جواب دهد. برای فهم بهتر این مطالعه، ابتدا نیاز است که بفهمیم منظور ما از “یادگیری” زبان و ریاضی چیست؟ زبان به دو طریق یاد گرفته می شود: فعال و غیر فعال. فکر کنید می خواهید یک لغت خارجی را یاد بگیرید. برای مثال book که معادل انگلیسی کلمه کتاب است. در حالت غیر فعال، جفت کتاب – book به صورت مکرر به شما نشان داده خواهد شد. مثلا وقتی به یک پادکست زبان انگلیسی گوش می دهید در حالی که آشپزی هم می کنید. حالت فعال اما وقتی رخ می دهد که شما در یک کلاس زبان انگلیسی نشسته باشید و به صورت مداوم معنی book را در فرهنگ لغت جستجو کنید، با این کلمه جمله بسازید و … . در یادگیری فعال، شما فقط در معرض جفت کتاب-book قرار نمی گیرند، بلکه شما از این جفت معنایی به صورت فعال استفاده می کنید. البته این دو نوع یادگیری می توانند به صورت همزمان هم اتفاق بیفتد و همچنین این یادگیری ها محدود به لغت نیستند و می توانند در مثلا قواعد زبان، املا و غیره هم اتفاق بیفتد. یادگیری فعال و غیر فعال می تواند در ریاضیات نیز اتفاق بیقتد. شما میتوانید روش حل مسئله را با استفاده از یک حل المسائل که قدم به قدم مسئله را برای شما حل کرده است یاد بگیرید (روش غیر فعال) یا اینکه سعی کنید خودتان مسئله را با راه حل خودتان حل کنید (روش فعال). مطالعه ای که در اینجا تصمیم داریم در مورد آن بحث کنیم می پرسد که آیا یادگیری زبان و ریاضی نواحی شبیه یا متفاوتی از مغز را فعال می کند؟ برای جواب به این سوال آنها دو آزمایش را روی دانش آموزان دبیرستانی طراحی کردند: آزمایش اول: یادگیری لغت آزمایش دوم: یادگیری ریاضی

‏آیا مغز انسان برای یادگیری ریاضی و زبان از سیستم مشترکی استفاده می کند؟ ریاضی و زبان: چقدر این دو می توانند شبیه باشند؟ —————————— ریاضیات و زبان خارجی! کدام یک را راحت تر یاد می گیرید؟ احتمالا اکثر شما خواهید گفت : من در هر دو خیلی عالی هستم “یا” در هر دو آنها خیلی ضعیفم. احتمالا الان دارید به خودتان یا همکلاسی های سابقتان فکر می کنید و می گویید: بله! بنظر میاد اینجوری باشه! در واقع مطالعه جدیدی این موضوع را نشان داده است که بیشتر مردم یا در هر دو (ریاضیات و زبان خارجه) خیلی خوب هستند یا در هر دو خیلی بد هستند. اما چرا؟ آیا دلیل آن می تواند این باشد که مغز ما کارهای مشابهی هنگام یادگیری ریاضیات و زبان خارجه انجام می دهد؟

درخصوص اعلام افزایش ۴۰ درصدی درآمدهای صادراتی 🆔@Ahemmati

با چرت و پرت هایی مثل هنر در آینده ! متاورس ! هنر در متاورس ! و این داستان ها و خزعبلات نشینید الکی توجیه کنید . بازار nft رسما همون شرکت تاکسی رانی پابلو اسکوبار !

حراج دی ماه 1400 تهران اون هم تهران امروز که تب کیریپتو کورش کرده ! تلنگر خوبی بود . نقاشی سهراب سپهری با قیمت 3 تا 4 ملیارد وارد حراج شده یک تقاشی میمون nft شده قیمتش بالای 20 ملیارد تومن معامله شده ! یک استاندارد 721 روی یک شبکه تعریف میشه چه اتفاقی رخ میده که بخواهد این قیمت براش معامله بشه ! کمی فکر کنیم جوابی غیر از پول شویی نداریمم . نقاشی سهراب سپهری 4 ملیارد یک میمون دیجیتال 20 ملیارد !

https://www.federalreserve.gov/aboutthefed/educational-tools/chairmans-lecture-series-about.htm کورس آموزشی بانک مرکزی و سیاست پولی ارائه دهنده: بن برنانکی رییس اسبق فدرال رزرو