کانال مهرداد لینوکس

این خانمه داره چی میگه ؟ چرا مهمه ؟

داره AI Halo با 200 میلیارد پارامتر را در یک جعبه کوچیک معرفی میکنه یک هوش مصنوعی خفن تو خونه شما بدون نیاز به اینترنت و مدیریت حریم شخصی

✅ پارامتر در مدل های AI چیه؟ فرض کن می‌خواهیم به یک آدم یاد بدهیم که عکس گربه را از سگ تشخیص بده. در طول یادگیری، کم‌کم طرف متوجه ويژگی ها میشه و در ذهنش اون ویژگی یک «وزن» داره گوش نوک‌تیز معمولاً نشانه گربه باوزن 0.7 مثلا پوزه بلند معمولاً نشانه سگ .-0.9 سبیل بلند احتمال گربه بودن را بیشتر میکنه. 0.8 دم پشمالو یک نشانه دیگره. و ... که در AI به آن‌ها Parameter (پارامتر) گفته میشه 🔥پس 1 میلیارد پارامتر یعنی چه؟ یعنی مدل حدود 1 میلیارد عدد از این وزن‌ها و اهمیت‌ها را در حافظه خودش نگه میداره.🤯 این فینگیل که تو دست خانمه است 200 میلیارد پارامتریه🤩 🧠برای مقایس مدل 8B یک لپ‌تاپ‌های معمولی قابل اجراست. مدل 70B نیاز به سخت‌افزار قدرتمند دارد. مدل 405B در کلاس مدل‌های بسیار بزرگه ✅پس میشه فشرده ش ام هم کرد ؟ اره تکنیک زیاده مثل : Quantization Compression Offloading Mixture of Experts (MoE) عصر AI که میگن همینه @MehrdadLinuxchannel