School of AI

در هفته‌ای که گذشت، با یک بوت‌کمپ کوتاه، و موضوع Transformer ها، در خدمت عزیزان علاقه‌مند به هوش مصنوعی بودیم. ترنسفورمرها، قلب تپنده‌ی مدل‌های جدید هوش مصنوعی مثل GPT اند و آشنایی با روش عمل‌کرد آن‌ها برای بسیاری از علاقه‌مندان جالب و کمک‌کننده‌ست. بااین‌‌حال، منابع فارسی در این زمینه اندک‌اند، بنابراین سعی کردیم طی ۴ جلسه، به‌‌صورت روان و ساده، بدون پرداختن به جزییات ریاضی و برنامه‌نویسی، درک خوبی از این مدل‌ها به‌دست آوریم. از آن‌جا که به علت اختلاف زمانی و …، بسیاری از عزیزان موفق به شرکت در دوره نشدند، تمامی جلسه‌ها ضبط شده و برای استفاده‌ی علاقه‌مندان در یوتیوب/آپارات قرار گرفته‌اند. امیدوارم این آموزش، قدمی هرچند اندک در راستای پیش‌رفت هم‌میهنان عزیز باشد. نشست نخست: پردازش دنباله‌ها و شبکه‌های عصبی RNN https://www.aparat.com/v/pxur1r9 نشست دوم: شبکه‌های LSTM و GRU https://www.aparat.com/v/mlt6433 نشست سوم: آشنایی با معماری Encoder-Decoder و مکانیزم Attention https://www.aparat.com/v/hqg95m8 نشست چهارم: ترنسفورمرها (Transformers) و مدل‌های زبانی بزرگ (LLMs) https://www.aparat.com/v/viel9ri

ایلان ماسک اعلام کرد: الکترودهای تراشه‌ی نورالینک در مغز اولین بیمار، به تثبیت و پایداری رسیده‌اند و طی این هفته دومین انسان نیز این ایمپلنت را دریافت خواهد کرد. بی‌صبرانه منتظر مشاهده‌ی نتایج آزمایش‌های نورالینک هستم. 🤗

ایلان ماسک اعلام کرد: الکترودهای تراشه‌ی نورالینک در مغز اولین بیمار، به تثبیت و پایداری رسیده‌اند و طی این هفته دومین انسان نیز این ایمپلنت را دریافت خواهد کرد. بی‌صبرانه منتظر مشاهده‌ی نتایج آزمایش‌های نورالینک هستم. 🤗

🔔 نشست نخست «ترنسفورمرها» تا یک ساعت دیگر آغاز خواهد شد... از لینک زیر می‌توانید وارد شوید: https://vc.sharif.edu/ch/hosseinkhani

اگر از GPU های NVIDIA استفاده می‌کنید، Pandas رو به‌صورت زیر ایمپورت کنید:

%load_ext cudf.pandas
import pandas as pd

در این‌صورت به‌کمک حالت شتاب‌دهی Pandas در CuDF سرعت اجرای عملیات روی دیتافریم‌ها حداقل ۵۰ برابر خواهد شد. https://colab.research.google.com/github/rapidsai-community/showcase/blob/main/getting_started_tutorials/cudf_pandas_stocks_demo.ipynb

یادآوری امروز آخرین فرصت برای درخواست همکاری پژوهشی است. از فردا اپلیکیشن‌ها بررسی خواهند شد

بوت‌کمپ رایگان آشنایی با ترنسفورمرها همون‌طور که می‌دونید ترنسفورمرها قلب تپنده‌ی مدل‌های جدید هوش مصنوعی در پردازش دنباله‌ها‌اند. استفاده از ترنسفورمرها در ساخت مدل‌های زبانی، انقلاب سال‌های اخیر رو در هوش مصنوعی رقم زد. بنابراین واضح‌ست که درک صحیح عمل‌کرد ترنسفورمرها برای فعالان این حوزه بسیار کمک‌کننده خواهد بود. در این بوت‌کمپ کوتاه (۴ روزه)، سعی خواهیم کرد تا جای ممکن بدون پرداختن به برنامه‌نویسی و ریاضیات، بینش خوبی از عمل‌کرد ترنسفورمرها و همین‌طور مدل‌های کلاسیک‌تر مثل شبکه‌های عصبی بازگشتی، به مخاطب ارائه دهیم. - جلسه‌ی نخست (دوشنبه ۱۸ تیر): پردازش دنباله‌ها و شبکه‌های عصبی بازگشتی (RNNs) - جلسه‌ی دوم (سه‌شنبه ۱۹ تیر): حافظه‌ی کوتاه‌مدت، شبکه‌های LSTM و GRU - جلسه‌ی سوم (چهارشنبه ۲۰ تیر): مکانیزم Attention و ماشین تورینگ عصبی - جلسه‌ی چهارم (پنجشنبه ۲۱ تیر): ترنسفورمرها و مدل‌های زبانی همه‌ی جلسات راس ساعت ۸ شب به وقت ایران و در کلاس مجازی برگزار خواهند شد. شرکت در این بوت‌کمپ رایگان است. پیش‌نیاز شرکت در این بوت‌کمپ، آشنایی اولیه با شبکه‌های عصبی‌ست.

این دو ویدئوی بامزه توسط مدل Gen-3 شرکت Runway تولید شده‌اند ❤️ https://runwayml.com/blog/introducing-gen-3-alpha/

درود. بنا به درخواست عزیزان و با توجه به اهمیت و جایگاه ترنسفورمرها در مدل‌های جدید هوش مصنوعی مثل LLM ها، یک نشست آموزشی آنلاین برای هفته آینده در نظر گرفته‌ایم که در آن بدون پرداختن به ریاضیات، به صورت شهودی، ترنسفورمرها رو بررسی و عمل‌کرد اجزای اون‌ها رو درک کنیم. درک درست ترنسفورمرها، به‌ کسانی که به صورت تئوری روی هوش مصنوعی کار می‌کنند و یا کسانی که اپلیکیشن‌های مبتنی بر هوش مصنوعی می‌سازند، کمک می‌کنه متوجه قابلیت‌ها و محدودیت‌های مدل‌های جدید باشند. شرکت در این جلسه رایگانه. روز و ساعت جلسه رو به زودی خدمتتون اعلام می‌کنیم. تنها پرسش این‌جاست که مستقیما می‌تونیم در مورد ترنسفورمرها صحبت کنیم یا ترجیح دوستان اینه که به جای یک جلسه، طی سه/چهار جلسه به RNN و LSTM و Transformer بپردازیم؟