دیتاهاب

سلام به همگی. به نوبه خودم بابت این عزای شوکه کننده تسلیت می گم این اولین پست من توی این کاناله. هدفم اینه که بیام و مباحث اقتصادی‌ای که این مدت یاد گرفتم رو به زبان خیلی ساده بیان کنم. شاید یه مقدار تمرکزم از بحث‌های هوش مصنوعی کمتر بشه و خب این بی‌دلیل نیست. حسی که من دارم اینه که هوش مصنوعی فعلاً توی کشور ما اون‌قدری که باید، ظرفیت و جای رشد نداره؛ مخصوصاً از نظر کاری و درآمدی. یعنی سقف رشدش محدوده. ساده شدش، خیلی نمیشه ازش پول درآورد. این میشه دلیل اول. دلیل دوم اینه که ما توی کشوری زندگی می‌کنیم که تورم مزمن داره. وقتی تورم مزمن وجود داره، اتفاقی که می‌افته اینه که ما مجبور می‌شیم اول به این فکر کنیم که ارزش دارایی‌هامون رو حفظ کنیم. در واقع توی حالت بقا هستیم و بعد، اگر شد، توی گام دوم به فکر رشد باشیم؛ رشد اقتصادی فردی، نه ملی. چون رشد اقتصادی فردی باعث رفاه میشه. باز ساده شدش یعنی این که من خاورمیانه ای همین که دخل و خرجم متوازن باشه و بقام به خطر نیفتاده، برد کردم. این دغدغه‌ها باعث شده که من گاهی حتی تا دوازده ساعت در روز مطالعه داشته باشم. به عنوان یه دانشجویی که خودخوان شروع کرده مباحث اقتصادی رو یاد بگیره، همیشه دیدم که اقتصاد رو با زبان پیچیده توضیح میدن. ولی من سعی می‌کنم هرجوری شده این مفاهیم رو بفهمم و بعد به دوستان و نزدیکانم، خیلی ساده و خودمونی منتقلشون کنم. احساس می‌کنم از این مسیر می‌تونم کمک بیشتری به جامعه بکنم تا صرفاً توی حوزه هوش مصنوعی. البته کانال هوش مصنوعی سر جاش هست، کانال دیتاهاب فعاله و بچه‌هایی از تیممون اونجا محتوا تولید می‌کنن. اما واقعیت اینه که مردم توی کشور ما، به خاطر مشکلات اقتصادی، بیشتر نیاز دارن بدونن چطوری پول دربیارن و چطوری ارزش پولشون رو حفظ کنن. این آموزش‌ها رو معمولاً نه توی مدرسه می‌بینیم، نه توی صدا و سیما. استادهای دانشگاه هم اغلب خیلی پیچیده، خیلی تئوریک و دور از زندگی واقعی توضیح میدن. ما نیاز داریم اطلاعاتی رو یاد بگیریم که همون موقع بفهمیم، ساده باشه، همون موقع اجراش کنیم و نتیجه‌ش رو ببینیم. یکی از تفاوت‌های اصلی اقتصاد و بازار با هوش مصنوعی برای من دقیقاً همین بوده. چیزهایی که یاد می‌گیرم رو همون امروز اجرا می‌کنم و می‌تونم ازش درآمد داشته باشم و نتیجش ببینم. ولی توی هوش مصنوعی، از فهمیدن یه موضوع تا اجراش، تا تبدیلش به محصول و بعد درآمدزایی، خیلی زمان می‌بره. رفقا ته حرفم اینه در حالی که ما الان درگیر خورد و خوراک، برنج و روغنیم. من از طریق این مباحث کمک بیشتری به عزیزان و هم وطن هام میکنم، و توی این شرایط انگار آدم مجبور میشه موقتاً استراتژیش رو عوض کنه امیدوارم بتونم توی این مسیر، موثر واقع بشم.

پس بیراه نیست که‌ بیشترین مهاجرت نیروی متخصص از سمت نرم افزار هست و حکومت بارها با زبان و اشکال مختلف ثابت کرده ب صنعت نرم افزار به دید تهدید نگاه می‌کند و نه فرصت اندک پروژه ها و سامانه ها هم در رانت یک سری استاد دانشگاه و مدیرعامل خاص هست که تقریبا قبل هر مناقصه ای انگار از قبل نتیجه مشخص است و حقیقت تلخ این است که بعضی از هم کلاسی هایمان عملا پایه گذران محدودیت، فیلترینگ و سانسور شده و چرخ دنده های این سیستم ناکارآمد شدن

انگار حاکمیت فضای نرم افزار کشور میدان رقابت میدونه قراره داخلش تهاجم فرهنگی صورت بگیره به شدت باید کنترل بشه و اجازه تنفس بهش داده نشه بله توی صنعت نرم افزار هم سانسور زیاده سانسور که فقط حذف سکانس از فیلم یا حذف جملات تحریک کننده داخل کتاب نیست سانسور سیستماتیک در حوزه نرم افزار میشه این که اجازه رشد به این صنعت داده نمیشه بهش نگاه امنیتی میشه که جایی که دشمن قراره به ما حداکثر آسيب بزنه و مثل هر پدیده دیگه توی کشور ما این صنعت هم سیاست زده شده مثل کتاب های درسی ک تلاش دارن اسلامی بومی بشن صنعت نرم افزار هم به شکل دستوری تلاش دارن بومی و اسلامی کنن یعنی هدف از صنعت نرم افزار رشد و توسعه نیست ابزار کنترل گری شده و جنگ نرم با دشمن در چنین شرایطی نمیشه از این صنعت انتطار رشد داشت ناظم کنترل گر با چوب بالای سرش ایستاده و اجازه تنفس بهش نمیده مدام میگه اینکار کن و اینکار نکن باید خدمت من باشی برای مثلا شناسایی معترضین یعنی هدف اصلی که باید افزایش سطح خدمات و کیفیت زندگی باشه از اولویت خارج شده و هدف رفته سمت موارد دیگه یعنی هدف این نیست اپی‌ ساخته بشه ک جهانی بشه و سودآوری داشته باشه یا برنامه‌ای که باعث تسهیل یک فرایند زندگی باشه نگاه امنیتی باعث شده که صنعت نرم افزار صرفا یک ابزار در دست حکومت باشه برای کنترل بیشتر آیا باید انتطار رشد داشته باشیم همین ۲ همت هم به آنلاین شاپ های اینستا ربط داره فکر نکنید مربوط ب شرکت‌های های تک ایرانی است که عملا ما شرکت نرم افزاری معروف در سطح آسیا نداریم جهان که پیشکش متاسفانه تا الان کسی از این سانسور گسترده صحبتی نکرده و انجمن صنفی رایانه و ... صرفا حقوق بگیرانی شدن که عملا هیچ اکت مناسبی نداشته و انتهای ایده شان اینترنت طبقاتی است که تا حد زیادی اجرایی شده

حالا داستان چیه چند روز پیش وزارت ارتباطات یک گزارشی داد که ضرر قطعی اینترنت روزانه ۲ همت است (حتی بعضی تا ۵ همت هم برآورد کردن) همت هم که مخفف هزار میلیارد تومانه سریع حساب کردم ۲۰ در ۲ میشه ۴۰ همت دیدم چقدر کمه یعنی نزدیک به سه هفته قطعی اینترنت فقط ۴۰ همت ضرر ب صنعت فناوری اطلاعات وارد شده شاید بگین چرا میگی کمه کافیه با شرکت‌های سنتی مقایسه کنید مثل فولاد، ذوب آهن و ... یا با فروش نفت مقایسه کنید یک میلیون بکشه نفت هر بشکه هم با تخفیف حدود ۴۰ دلار میشه که با نرخ دلار ۱۵۰ هزارتومانی فردش رورانه نفت میشه ۶ همت تازه با احتساب اینکه گاهی تا دو میلیون بشکه نفت با قیمت ۵۰ دلار یا حتی ۶۰ دلار تا روزانه ۱۸ همت هم میرسه یعنی درآمد رورانه فروش نفت حتی گاهی ۹ برابر درآمد حاصل از صنعت فناوری اطلاعات هست این اعداد واسه من یکی که خیلی معنا داره حالا بهتر میفهمم چرا کوتاه ترین دیوار، صنعت فناوری اطلاعاته تو سری خوره، اجازه عرض اندام بهش نمیدن و عملا ما چیزی تحت عنوان صنعت نرم افزار نداریم مثل کشور هند یا آمریکا صرفا اکوسیستم ناتوان نرم افزار ایران پر شده از کلی چیز بومی سیستم عامل بومی مدل زبانی بومی ... هر چیزی که اومد ما خواستیم بومی کنیم این فایل عجیب غریب بی دلیل نیست ریشه در کنترل گری دولت و حاکمیت داره

به بهانه قطعی اینترنت مقدمه اول: شاید مهم ترین پست یک سال اخیر این کانال باشه مقدمه دوم: بحث قطعی یک مساله‌ای هست که از زوایای مختلف میشه بررسیش‌ کرد سیاسی، فرهنگی، اقتصادی و ... مثلا از بعد سیاسی و مثلا از بین رفتن حقوق طبیعی و اولیه افراد که افراد زیادی سعی کردند از این زاویه به این داستان نگاه کردند مقدمه سوم: حداقل تا جایی که بررسی کردم کسی از زاویه اقتصادی و حکمرانی بحث قطعی پرتکرار‌ سال‌های اخیر یعنی قطعی تقریبا کامل اینترنت را تحلیل نکرده

او در پژوهشی که در کتاب «بررسی انقلاب ایران» منتشر شد، نوشت، از سال ۱۳۴۲ تا ۱۳۵۷، تعداد قربانیان انقلاب اسلامی ۳۱۶۴ نفر بوده است. منبع: مرکز اسناد انقلاب اسلامی https://irdc.ir/fa/news/9293/%7C%D8%B9%D9%85%D8%A7%D8%AF%D8%A7%D9%84%D8%AF%DB%8C%D9%86-%D8%A8%D8%A7%D9%82%DB%8C%7C-%D8%A2%D9%85%D8%A7%D8%B1-%D8%B4%D9%87%D8%AF%D8%A7%DB%8C-%D8%A7%D9%86%D9%82%D9%84%D8%A7%D8%A8

قضیه از کجا شروع شد؟ وقتی به اطرافیان نزدیک میگفتم آذر و دی که بودجه بره مجلس، افزایش پولی و ... احتمالا اعتراضاتی در پیش باشه از درست بودن پیش بینی خودم خوشحالم؟ قطعا نه این که مردم کشورم از جمله خودم دغدغه روغن داشته باشن، دردآوره یکسری ها مثل من تا الان موندیم، دلمون نیومده از کشورمون دل بکنیم خوبه اینم بگم که این مدت که سکوت کردیم، هدفمند بود؛ مثلا دیروز پست لینکدین که قرار گرفت و کامنت های خوبی گرفت، یهو به خودم اومدم که الان وقت صحبت از کدنویسی و... نیست به خودم گفتم کلی طول کشید این پست بنویسی و یک فکر دیگه، به ذهنم رسید که چندساعت وقت تو در برابر ایران عزیزمون اصلا ارزشی داره؟ سریع پاک کردم خیلی از برنامه های آینده و کمپین ها را کنسل کردیم (فدای سر خودمون و خودتون) خلاصه که حسابی مراقب خودتون باشید و اون هایی ک همو دیدیم یا دوستان و رفقای نادیده، حلال کنید آدم از چند روز آینده خودش بی اطلاعه اگه بودیم و نفسمون برقرار بود، حتما با هم جشن خواهیم گرفت

ترند این روزها که همه دارن در موردش حرف میزنن: Agentic AI یه بنده خدایی میگفت ما دنبال کسی هستیم که بتونه AI Agent بسازه پرسیدم: "می‌دونید چیه؟" گفتن: "خب چیزیه که خودش کار می‌کنه دیگه!" ولی خب Agentic AI یعنی سیستمی که خودش تصمیم می‌گیره و چند مرحله‌ای کار رو انجام میده یک مثال ساده: شما می‌گید "یک گزارش از فروش سه ماهه بساز" حالا Agent خودش داده رو جمع می‌کنه، تحلیل می‌کنه، نمودار می‌سازه، گزارش می‌نویسه البته اگه می‌خواید وارد این حوزه بشید، اول workflow رو بفهمید بعد Agent رو بسازید چون تحقیقات Gartner نشون میده که بیش از ۴۰٪ از پروژه‌های Agentic AI تا پایان ۲۰۲۷ کنسل میشن😂😂😂 چرا؟ چون همه دنبال هایپ رفتن، نه حل مشکل واقعی

خب اخر سال میلادی هستش و داشتم به ترندهای ۲۰۲۵ نگاه می‌کردم یک چیز خیلی جالب به چشمم خورد: در کمتر از ۲ سال، هزینه انجام یک تسک مشابه با MMLU چندین برابر برابر کاهش پیدا کرده یعنی الان کارایی که سال پیش هزار دلار هزینه داشت، حالا با چند دلار انجام میشه یک مثال ملموس و بغل گوشمون: دو سال پیش میشد این حرف زد "نمی‌تونیم از GPT-4 استفاده کنیم، خیلی گرونه" الان ولی خیلی هزینه ها کمتر شده تحقیقات اخیر میگفتن که بهبود الگوریتمی سالانه حدود ۴۰۰٪ هست (به نظرم در این حد هم نیست البته) یعنی نتایج امروز رو می‌شه یک سال بعد با ربع compute بدست آورد (طبق همون تحقیقاتی که دیدم) خلاصه دیگه بهونه نداریم که AI گرونه راستی اگه قبلا پروژه‌ای داشتید که به دلیل گرون بودن API کنسلش کردین، دوباره امتحان کنید احتمالا الان ارزون‌تر شده😂😂😂

این سوال توی یک گروه تلگرامی دیدم: "ما می‌خوایم یک مدل custom بسازیم، چقدر هزینه داره؟" برام سوال شد: "چرا custom؟ مدل‌های آماده رو امتحان کردن؟" چی میخام بگم؟ حرف اینه که توی کشوری که قیمت جی پی یو سر به فلک کشیده و از هر نوع خدمت و سرویس خارجی به واسطه کاغذ پاره های تحریم، محروم هستیم چه اصراریه به تیون کردن مدل های سنگین قشنگ شبیه مسابقه شده، مدل من بزرگتره... یا من پول بیشتری خرج کردم...

در سال ۲۰۲۴، سازمان غذا و دارو آمریکا ۲۲۳ دستگاه پزشکی مبتنی بر AI رو تایید کرد، در حالی که ۲۰۱۵ فقط ۶ تا بودش و این یعنی AI واقعا داره وارد زندگی روزمره میشه آمارش خیلی عجیب بود و آدم حسابی به فکر فرو میبره که چقدر فرصت و ظرفیت پول در آوردن هست

یک چیز جالب امروز فهمیدم: مدل Claude یک ویژگی داره به اسم "Extended Thinking" یعنی چی؟ یعنی مدل قبل از جواب دادن، چند ثانیه فکر می‌کنه مثل وقتی که شما یک مسئله ریاضی دارید و قبل جواب دادن، روی کاغذ محاسبه می‌کنین و اینش برام جالبه که این مدل ها تا می تونن از هوش انسانی تقلید می کنن یعنی هر ویژگی مغزمون داره را دارن به هوش مصنوعی اضافه میکنن و شده منبع الهامشون (صحبتم شبیه کلاس دینی راهنمایی شد😂)

یکی از بچه ها می پرسید: "چرا مدلم overfitting میشه؟" نگاه کردم به کدش، ۵۰۰ تا سمپل داشت ۱۵ تا فیچر ساخته بود مدلش ۱۰ لایه داشت بهش گفتم مشتی، تو داری با تفنگ ژ3 به گنجشک شلیک می‌کنی! قاعده کوچولوی امروزمون: اگر دیتاست کوچیک داری، مدل ساده بساز اگر دیتاست بزرگ داری، مدل پیچیده ترین مدل سنگین و مصرف کلی GPU هنر نیست و جایزه نمیدن بابتش توی محیط صنعت اتفاقا گاهی با روش های ساده تر حل کردن، ترندتره اگه بخام نکته کنکوریش بگم: (علمی و وحی منزل نیست) کمتر از ۱۰۰۰ سمپل → Logistic Regression یا Decision Tree ۱۰۰۰ تا ۱۰۰۰۰ → Random Forest یا XGBoost بیشتر از ۱۰۰۰۰ → حالا می‌تونی سراغ Deep Learning بری پند نهایی☺️ همیشه از ساده شروع کنید بعد پیچیده‌ترش کنید، نه برعکس پ.ن: گاهی مشکلاتمون با یک مدل ساده حل میشه، نه GPT-5 😅

امروز یک چیز کاربردی برا‌تون دارم می‌خواید ببینید مدل زبانیتون چقدر دقیقه؟ این متریک رو حتما اندازه بگیرید: معیار Perplexity Perplexity = میزان سردرگمی مدل عدد کمتر = مدل مطمئن‌تر کد ساده با پایتون:

from transformers import GPT2LMHeadModel, GPT2Tokenizer
import torch

model = GPT2LMHeadModel.from_pretrained('gpt2')
tokenizer = GPT2Tokenizer.from_pretrained('gpt2')

text = "Your text here"
inputs = tokenizer(text, return_tensors='pt')
with torch.no_grad():
    outputs = model(**inputs, labels=inputs['input_ids'])
    loss = outputs.loss
    perplexity = torch.exp(loss)

print(f"Perplexity: {perplexity.item()}")

عدد زیر ۲۰؟ مدلتون خوبه عدد بالای ۵۰؟ یک جایی مشکل داره درسته که این یک معیار سادست ولی خیلی کمک می‌کنه بفهمید مدلتون چقدر روی داده‌تون خوب کار می‌کنه، البته معیارهای مکمل هم باید در نظر بگیرین

امروز می‌خوام یک مفهوم رو ساده کنم که خیلی‌ها ازش می‌ترسن: Mixture of Experts (MoE) بذارید با یک مثال توضیح بدم: فرض کنید یک رستوران دارید به جای اینکه یک آشپز همه غذاها رو بپزه ۱۰ تا آشپز دارید، هرکدوم متخصص یک نوع غذا وقتی سفارش می‌گیرید، فقط آشپز مربوطه کار می‌کنه نتیجه: سریع‌تر، بهتر، کارآمدتر تکنیک MoE دقیقا همینه: به جای یک مدل بزرگ، چندتا مدل کوچیک (experts) و یک router تکه صمیم می‌گیره کدوم expert باید کار کنه مثال واقعی: Mixtral 8x7B ۸ تا expert داره، ولی فقط ۲ تا برای هر input فعال میشن نتیجه: سرعت بالا، مصرف واحد پردازشی کمتر چرا مهمه؟ کم‌مصرف‌تر، سریع‌تر، مقیاس‌پذیرتر اگر می‌خواید با MoE کار کنید: مدل Mixtral رو از Hugging Face امتحان کنید لینک: https://huggingface.co/mistralai/Mixtral-8x7B-v0.1

یک چیز عجیب دیدم توی LinkedIn: یک نفر نوشته بود: "من 15تا مدل machine learning train کردم" ولی هیچ کدوم deploy نکرده بود رفقا، مدل train کردن ۲۰٪ کاره دیپلوی کردن و نگهداری کردنش ۸۰٪ کاره یک مدل که روی Jupyter Notebook کار می‌کنه، هنوز آماده محیط واقعی نیست چیزایی که باید یاد بگیرید: ۱. Docker → از مدلتون کانتینر بسازید. ۲. FastAPI → یک ای پی آی ساده بسازید ۳. AWS/GCP → یاد بگیرید چطور دیپلوی کنید یک پروژه عملی: یک مدل ساده‌ بسازید، با FastAPI براش API بنویسید، با Docker یک کانتینر ازش بسازید، روی Heroku یا Railway اونو deploy کنید این یک پروژه، ارزش ۱۰ تا notebook توی GitHub داره برای شروع: FastAPI: https://fastapi.tiangolo.com Railway: https://railway.app

یک پند به دوستان جونیور: دیروز یک نفر پرسید: "چطور می‌تونم سریع‌تر کد بزنم؟" جوابم این بود: "کپی‌پیست کردن سریع نیست، تکرار کردنه" توضیح می‌دم: وقتی از ChatGPT یا Copilot استفاده می‌کنید، کد رو کپی نکنید بخونید، بفهمید، خودتون دوباره بنویسید چرا؟ چون مغز شما باید الگوها رو یاد بگیره کپی‌پیست = حافظه کوتاه‌مدت تایپ کردن = حافظه بلندمدت یک تمرین ساده: ۱. کد AI رو بخونید ۲. پنجره رو ببندید ۳. خودتون از حفظ بنویسید ۴. مقایسه کنید قطعا اول کاری سخته، ولی بعد از ۱۰ بار، دیگه نیاز به AI ندارید این فرق یک junior که copy-paste می‌کنه با یک mid-level که واقعا بلده

یک اشتباه رایج که تازه متوجه شدم: خیلی‌ها فکر می‌کنن fine-tuning همیشه جوابه نه دوستان، خیلی وقت‌ها RAG بهتره بذارید ساده بگم: Fine-tuning = آموزش دوباره مدل زمان‌بر، پرهزینه، نیاز به GPU قوی وقتی داده‌تون تغییر کنه، باید دوباره تیون کنید RAG = دادن اطلاعات در لحظه به مدل سریع، ارزون، فقط یک vector database لازمه داده تغییر کرد؟ فقط دیتابیس رو آپدیت کنید قاعده ساده: داده‌تون ثابته و می‌خواید سبک نوشتار تغییر کنه؟ → Fine-tune داده‌تون مدام عوض میشه و می‌خواید مدل بهش دسترسی داشته باشه؟ → RAG برای شروع یادگیری RAG LangChain + ChromaDB + OpenAI API یک آخر هفته کافیه برای یادگیریش