محور برنامه نویسی جشنواره نوجوان خوارزمی
Ir al canal en Telegram
774
Suscriptores
-124 horas
Sin datos7 días
+130 días
Archivo de publicaciones
📌تسلا با انتشار ویدیویی خبر داد ربات انسان‌نمای آپتیموس در کارخانه‌ی این شرکت مشغول به کار شده است. اپتیموس از یک شبکه‌ی عصبی آموزش‌دیده برای تفسیر اطلاعات دوربین و حسگرها بهره می‌برد تا به‌طور مستقیم حرکات لازم را برای کارهای مختلف انجام دهد...
┄┄┄┅┅┅✿❀🌼❀✿┅┅┅┄┄
✅آینده هم اکنون است✅
کانال وصفحه رسمی دکتر سعیدخزائی شمارا به سفرهیجان انگیز آینده دعوت میکند.
📌آدرس صفحه رسمی دکترسعیدخزائی:
Instagram.com/Dr.saeedkhazaee
📌آدرس کانال رسمی دکترسعیدخزائی:
https://telegram.me/Drsaeedkhazaee
کتابخونه جدید پایتورچ به نام torchtune برای فاین‌تیون کردن LLM ها
با #torchtune میتونین #LLM ها رو فاین تیون کنید: لینک
توی لینک زیر، درمورد Llama3 گفته که شامل بخش‌های معرفی مدل، دسترسی به مدل، فایل‌تیون کردن با تورچ‌تیون، ارزیابی کردن مدل فایل‌تیون‌شدن، جنریت متن، جنریت سریع‌تر با کوانتیزیشن هست:
لینک
#fine_tuning
@silicon_brain | از هوش مصنوعی عقب نمانید
دیتاست بزرگ سایت باسلام
شامل اطلاعات فروش و مشخصات 2.4 میلیون محصول موجود در سایت باسلام به همراه دیتاست 3.3 میلیونی کامنت محصولات.
این دیتاست از طریق HuggingFace و Kaggle قابل دسترسی است.
هاگینگ فیس | کگل
با جستجوی هشتگ #دیتاست به دیتاست های ارزشمندی دسترسی خواهید داشت.
@silicon_brain | از هوش مصنوعی عقب نمانید
𝐀𝐥𝐢𝐜𝐞’𝐬 𝐀𝐝𝐯𝐞𝐧𝐭𝐮𝐫𝐞𝐬 𝐢𝐧 𝐚 𝐝𝐢𝐟𝐟𝐞𝐫𝐞𝐧𝐭𝐢𝐚𝐛𝐥𝐞 𝐰𝐨𝐧𝐝𝐞𝐫𝐥𝐚𝐧𝐝: 𝐀 𝐩𝐫𝐢𝐦𝐞𝐫 𝐨𝐧 𝐝𝐞𝐬𝐢𝐠𝐧𝐢𝐧𝐠 𝐧𝐞𝐮𝐫𝐚𝐥 𝐧𝐞𝐭𝐰𝐨𝐫𝐤𝐬
⚡️ 📚 - a cool bit unusual book by Simone Scardapane (draft)
𝕿𝖆𝖇𝖑𝖊 𝖔𝖋 𝕮𝖔𝖓𝖙𝖊𝖓𝖙𝖘:
🎯 Mathematical preliminaries
🎯 Datasets and losses
🎯 Linear models
🎯 Fully-connected models
🎯 Automatic differentiation
🎯 Convolutional layers
🎯 Convolutions beyond images
🎯 Scaling up the models
🎯 Transformer models
🎯 Transformers in practice
🎯 Graph models
🎯 Recurrent models
🎯 A. Probability theory
🎯 B. Universal approximation in 1D
#کتاب
@silicon_brain | از هوش مصنوعی عقب نمانید
فاین تیون کردن، هزینه ها، منابع و زمان مورد نیاز
برخلاف باور عمومی، فاین تیونینگ (#fine_tuning) به منابع محاسباتی عظیمی نیاز نداره. به شرطی که عوامل مورد نیاز رو خوب بشناسیم مثل نوع مدل، دامنه کاربرد، اندازه داده و قدرت مدل پایه. با این حال، دو عامل اصلی در فاین تیون #LLM ها مدل و داده هستن
این نمودار برآوردهای هزینه، محاسبات و زمان مورد نیاز را بسته به مدل و اندازه داده در سطح بالا برای مدل های #Llama خلاصه کرده
چیزی که در تصویر بالا مشخصه، داده کم/زیاد و مدل کوچک هست. مدل TinyLlama حدود 1.1 میلیارد پارامتر داره، اما میتونیم این مدل رو تنها با یک GPU فاین‌تیون کنیم. به عنوان نمونه، با داده کم (حداکثر 500 هزار توکن)، تنها با 100 دلار میشه این مدل رو فاین‌تیون کرد. و به نظرم این مدل با این هزینه کار خیلی از بیزینس ها رو راه میندازه
@silicon_brain | از هوش مصنوعی عقب نمایند
ابزاری برای فاین تیون کردن مدل های Open
برای خیلی از وظایف مدل های #LLM موجود نیاز به تنظیم دقیق (#fine_tuning) ندارن ولی اگه دیدین دیتای خاصی دارین و باید فاین تیون کنین اگه مدلی که مد نظرتون هست open هست میتونین از LLAMA-Factory استفاده کنین.
این ابزار برای تنظیم فاین تیون های زبان باز ساخته شده و بیشر از 100 مدل مختلف زبان بزرگ، از جمله Meta’s Llama-2، Google’s Gemma و Mistral’s Mixtral رو داره.
برای فاین تیون کردن هر کدوم از این مدل ها میتونین با استفاده از این ابزار از الگوریتم های پیشرفته مانند #LoRA#، QLoRA و #GaLore که برای عملکرد بهینه مدل ها ساخته شدن استفاده کنید. همچنین میتونین این ابزار رو به صورت لوکال روی کامپیوترتون بالا بیارید و یا تو Colab ران کنید.
لینک گیتهاب
@silicon_brain | از هوش مصنوعی عقب نمانید
از این به بعد چالش های هوش مصنوعی چیا هستن؟
این موارد برای افرادی که تو زمینه هوش مصنوعی پژوهش میکنن و یا افرادی که محصولی بر اساس AI دارن و یا میخوان داشته باشن، سرمایه گذارها و متخصصین میان رشته ای حائز اهمیته:
تعصبات و تبعیض: الگوریتم‌های هوش مصنوعی بر اساس داده‌هایی آموزش داده میشن که ممکنه حاوی تعصبات و تبعیض‌های انسانی باشه. این موضوع میتونه منجر به نتایج ناعادلانه و تبعیض‌آمیز تو تصمیم‌گیری‌های مبتنی بر هوش مصنوعی بشه.
مسائل امنیتی و حفظ حریم خصوصی: هوش مصنوعی میتونه برای هک کردن سیستم‌ها، سرقت اطلاعات و سایر اقدامات مخرب استفاده بشه. حفظ امنیت سیستم‌های هوش مصنوعی و حریم خصوصی افراد اهمیت بالایی داره.
تفسیر قوانین و اخلاقیات : هوش مصنوعی در حال ورود به حوزه‌هایی مانند پزشکی، حقوق و امور مالی هستش که قوانین و اخلاقیات پیچیده‌ای دارن. اطمینان از اینکه هوش مصنوعی با قوانین و اخلاقیات این حوزه‌ها مطابقت خواهد داشت یا نه اهمیت بالایی داره.
عدم اطمینان در مورد آینده هوش مصنوعی: بعضیا میگن ه که هوش مصنوعی ممکنه از کنترل خارج بشه و تهدیدی برای بشریت باشه. ایجاد چارچوب‌های نظارتی و اخلاقی مناسب برای توسعه و استفاده از هوش مصنوعی، ضروری به نظر میرسه
از این به بعد تو ایده هات و تحقیقات این چند تا موضوع رو در نظر بگیر حتما
@silicon_brain | از هوش مصنوعی عقب نمانید
از نگاه انسان کدام LLM بهتره؟
Chatbot Arena is an open-source research project that compare different LLMs by human.
تو این سایت یه کار جذابی کردن و اینجوریه که میتونی با #LLM های مختلف چت کنی و بهشون امتیاز بدی. حتی یه سری از LLM ها که پولی هستن تا حدی رایگان قابل استفاده و بررسی هستن.
چند تا قانون گذاشتن:
هر سوالی رو از دو مدل ناشناس بپرس (مانند #ChatGPT#، Claude#، Llama) و به مدل بهتر رای بده!
میتونی تا زمانی که برنده‌ای رو مشخص نکردی به چت ادامه بدی.
اگر هویت مدل در طول مکالمه فاش بشه رای شمارش نمیشه.
لینک
@silicon_brain | از هوش مصنوعی عقب نمانید
سیلیکون برین طی 17 سری پست های مربوط به یادگیری ماشین رو منتشر کرده که همه ی این پست ها رو میتونین بصورت رایگان تو همین کانال بخونید. زمان زیادی برای تهیه کردن این پست ها صرف شده و شما میتونین با مطالعه و به اشتراک گذاشتن این پست از ما حمایت کنید.
مطالب با بیان ساده و تماما با مثال بیان شده که برای همه قابل استفاده باشه
فهرست:
- سری اول - مقدمه
- سری دوم - کاربرد ها
- سری سوم - درخت تصمیم
- سری چهارم - روش های مبتنی بر احتمالات 1
- سری پنجم - روش های مبتنی بر احتمالات 2
- سری ششم - SVM
- سری هفتم - PCA
- سری هشتم - لجستیک رگرسیون
- سری نهم - KNN
- سری دهم - K-Means
- سری یازدهم - شبکه عصبی 1
- سری دوازدهم - شبکه عصبی 2
- سری سیزدهم - شبکه عصبی 3
- سری چهاردهم - شبکه عصبی 4
- سری پانزدهم - شبکه عصبی 5
- سری شانزدهم - یادگیری عمیق 1
- سری هفدهم - یادگیری عمیق 2
@silicon_brain | از هوش مصنوعی عقب نمانید
