Dev Tweet
Открыть в Telegram
گعدهای در باب برنامه نویسی، پایتون، هوش مصنوعی و داده
Больше998
Подписчики
-124 часа
+57 дней
+530 дней
Архив постов
999
Repost from N/a
دیشب اتفاقی رفتم از وب Claude یه چیزی چک کنم دیدم اعلان داد Fable 5 با مصرف دو برابر Opus 4.8 اومده. هم توی همون وب و هم هم توی Claude Code تست کردم.
رفتم جزئیاتش رو بخونم، دیدم بیس مدلش Mythos هست.
چیزی که باهاش زدم، یه فیچر رو رو به اتمام بود. ولی هنوز حس ارتقای جدی از Opus 4.8 به Fable 5 نگرفتم.
یه چیز دیگه هم مشکل VPN داشتم که قبلاً با Opus 4.6 هم دقیقاً به همین شکل حل کرده بودم. Fable 5 هم همونقدر زمان برد، همونقدر اشتباه کرد و همونقدر نیاز به راهنمایی داشت.
حقیقتش هنوز از Opus 4.6 چیزی ندیدم که چشمام برق بزنه.
تنها چیزی که هنوز ادم رو روی Claude Code نگه میداره فقط فیچرهای خود کلاینت Claude Code که داره واقعاً جذابتر میشه.
999
اگر هنوز از این برنامهنویسهای درپیت متوهم دور برتان میبینید که در مورد کیفیت کد زدن AI نظر منفی میدهند این توئیت را به صورتشان بکوبید:)
ایشون به کد systemd لینوکس contribute میکنه و میگه ردهت بهم پول داده یه سری تغییرات توی کد بدم و تا این حد که اجازه دسترسی تغییرات در Grub قدیمی رو هم بهم دادند. ایشون میگه AI از من بهتر کد میزنه. (من حتی فکر نمیکنم در یک صدم درصد تاپ بازار ایران بشه کسی در این حد و اندازه پیدا کرد.)
999
اگر پروژههای آقای Karpathy رو دنبال کرده باشید و بدونید که از اعضای بنیانگذار OpenAI و مدیر فنی اولیه ChatGPT بوده (بعداً هم مدیر بخش AI تسلا برای Autopilot)، میفهمید این آدم اصلاً از اونایی نیست که حرف الکی بزنه و بره. او یکی از اون معدود آدماییه که حرفش بعد از ۹ سال واقعاً نتیجه میده. واقعاً کارش درست درمیاد و واقعاً چند سال از بقیه جلوتره. از Software 2.0 که سالها پیش نوشت تا پیشبینیهایی که gradient descent روزی از انسان بهتر کد میزنه — الان که نگاه میکنی میبینی دقیقاً همون چیزیه که داریم هر روز باهاش کار میکنیم.Karpathy همیشه جلوتر بوده: مفهوم vibe coding رو هم که دیگه همه جا شنیدیم اولین بار اون نامگذاری کرد.البته الان (تقریباً از عرضه Sonnet 3.5 به بعد، که من مبدأ قرارش میدم) «جلوتر بودن» دیگه به معنای چند سال نیست؛ چند ماه جلوتر بودن هم خیلی ارزشمند حساب میشه، چون سرعت تغییرات واقعاً وحشتناک بالاست.همین پروژه AutoResearch که اون به عنوان یک پروژه شخصی شروع کرد، الان به یکی از نقاط عطف مهم در زمینه طراحی عاملهای تکاملیابنده خودکار تبدیل شده.
همین پروژه AutoResearch که اون به عنوان یک پروژه شخصی و مینیمال شروع کرد (یه repo ساده با حدود ۶۳۰ خط کد)، الان به یکی از نقاط عطف مهم در زمینه طراحی عاملهای تکاملیابنده خودکار (Self-evolving Agents) تبدیل شده. ایدهش اینه که به agent بدی یه setup واقعی اما کوچک برای train کردن LLM روی تک GPU، بعد شب بذاری بخوابه. agent کد PyTorch رو ویرایش میکنه، ۵ دقیقه train میکنه، نتیجه رو چک میکنه، اگه بهتر بود نگه میداره و اگه نه revert میکنه — و این لوپ رو صدها بار تکرار میکنه. صبح که بیدار میشی، یه تاریخچه git از بهبودهای واقعی داری و مدل بهینهتر شده.
این پروژه نشون داد که میشه research رو واقعاً اتوماتیک کرد و agentها رو طوری مهندسی کرد که بدون دخالت مداوم انسان، مدام خودشون رو بهبود بدن. تأثیرش اینقدر زیاد بود که خیلیها ازش fork کردن، روش کار کردن و حتی بعضیها بهش میگن «Karpathy Loop». الان یکی از الهامبخشترین مثالها برای حرکت به سمت self-improving AI systems حساب میشه.
999
داستان Claude Mythos و جهش امنیتی فایرفاکس
تیم موزیلا با کمک Claude Mythos Preview بیش از ۴۲۳ باگ امنیتی رو در فایرفاکس پیدا و رفع کرد. این عدد از مجموع تمام باگهایی که در ۱۵ ماه قبل پیدا شده بود بیشتره! از این ۴۲۳ تا، ۲۷۱ باگ مستقیماً توسط هوش مصنوعی کشف شد و در نسخه ۱۵۰ فایرفاکس بسته شدن. میانگین ماهانه قبلاً بین ۱۷ تا ۳۱ باگ بود، یعنی این یک ماه تقریباً معادل یک سال و خردهای کار کرده.حالا بریم سراغ اینکه چطور این اتفاق افتاد. موزیلا یک هارنس ایجنتمحور (agentic harness) روی Claude ساخته بود و اون رو با ابزارهای فازینگ موجود ترکیب کرده بود. مدل نه تنها کد رو اسکن میکرد، بلکه خودش تست کیس تولید میکرد، PoC (Proof of Concept) میساخت، باگها رو triage میکرد و حتی بررسی میکرد که آیا exploit واقعی کار میکنه یا نه.بسیاری از این باگها سالها (حتی ۱۵-۲۰ سال) تو کدبیس پیچیده C++ و Rust قایم شده بودند و فازینگ معمولی و انسانی نتونسته بود پیداشون کنه. بخش زیادیشون sandbox escape بودند — یعنی برای اینکه کامل به درد حمله بخورند نیاز به exploitهای اضافی داشتند، ولی پتانسیل خطر بالایی داشتند.جالب اینکه مدل فقط باگ پیدا نمیکرد؛ false positiveها خیلی کم بود و حتی الگوهای حملهای که قبلاً توسط hardening فایرفاکس خنثی شده بودند رو هم تشخیص میداد. بیش از ۱۰۰ نفر contributor تو موزیلا روی بررسی، پچ کردن و مرج کردن این تغییرات کار کردند و نتیجه شد یکی از امنترین نسخههای تاریخ فایرفاکس.این پروژه نشون داد که AI میتونه technical debt امنیتی رو با سرعت عجیبی پاک کنه. احتمالاً در آینده این نوع هارنسها مستقیم تو CI/CD ادغام میشن و هر پچ جدید رو قبل از مرج چک میکنن. هزینهاش هم نسبت به ارزشش خیلی پایین بوده (هزاران دلار API).
999
با کمک Claude Mythos Preview، تیم فایرفاکس تو یک ماه بیشتر از کل ۱۵ ماه قبل باگ امنیتی پیدا و فیکس کرد!
999
اینترنت وصل نیست
ولی وقتی به هزار ضرب و زور وصل میشه باید اینطوری توئیت بخونم
البته واقعا در این شرایط دغدغه خاصی برای پیگیری مسائل فنی و ai ندارم
😏😏
اگه خواستید شما هم توئیت بخونید اگه توی بروزرتون لاگین دارید توئیتر رو کافیه twitter-cli رو نصب کنید خودش میره از کوکیهاتون استفاده میکنه و وصل میشه
999
+2
اگر با claude code کار میکنید امروز متوجه شدم یه بیست روزی هست که اومده یک فیچر آزمایش ران کرده که خیلی جذابه به اسم agent team به این صورت که بهش میگی و خودش یک تیم از agent ها رو میسازه و این ایجنتها context هم رو میبینن و با هم و بصورت تعاملی رو اون تسک کار میکنند.
قبلا فیچر async subagent رو ران کرده بود که یک کار رو بین چندین agent از هم مستقل تقسیم میکرد و هر کدوم از اونها نتایج کارها رو به ایجنت اصلی برمیگردوندند و اون ایجنت مرکزی نتایج رو با هم جمع میکرد. تفاوت رو تو عکس بهتر متوجه میشید.
همچنین داخل عکس دیگر متوجه میشید چطوری این تنظیمات رو اعمال کنید.
999
در ارتباط با این موضوع بازتعریف چارچوب مسئله، مطلبی داشتم که شاید عرضش خالی از لطف نباشد.
وقتی پروپوزال دکتریام رو مینوشتم، شروع کردم یک literature review گسترده انجام دادم که اساتید گفتن خیلی کامل و جامع بود.
بعد رفتم سراغ جمعآوری فرضهای رایج و غالب در ادبیات موضوع. به این نتیجه رسیدم که این فرضها باعث بیشسادهانگاری (oversimplification) چارچوب مسئله شدن و من باید در تز دکتریام چند تا از این بیشسادهانگاریها رو کنار بگذارم، چارچوب مسئله رو بازتعریف کنم و به جای نوآوریهای ناچیز و حاشیهای، یک انحلال پارادایم (paradigm dissolution) نسبی در فیلد ارائه بدم و مسئله رو در فضای واقعیتر و عمیقتری حل کنم.
پروپوزال رو بردم و به تصویب رسید.
دو سال تمام روی موضوع کار کردم.
به جواب نرسیدم.
الان مثل خر در گل گیر کردم.
البته این تجربه بهم چیزهای زیادی یاد داد — هنوزم به بازتعریف چارچوب اعتقاد دارم، ولی زمان و انرژیش وحشتناکه.
خواستم عرض کنم: اگر دانشجوی تحصیلات تکمیلی هستید، قرار نیست حتماً مرزهای علم رو جابهجا کنید.
دو سه مقاله خوب بنویسید، فارغالتحصیل شید و خودتون رو اینقدر بیچاره نکنید.
999
تست «اینشتین» برای تعریف AGI
دمیس هاسابیس (بنیانگذار DeepMind) میگه:
مدلی را روی تمام دانش بشری آموزش بده، اما دانش را در سال ۱۹۱۱ قطع کن، سپس ببین آیا این مدل میتواند به طور مستقل نظریه نسبیت عام را کشف کند (دقیقاً همانطور که اینشتین در سال ۱۹۱۵ انجام داد)؛
اگر توانست، آنگاه AGI است.
این تست را «وحشیانه» و «واقعیترین» معیار تاکنون برای AGI میدانند، چون بنچمارکهای فعلی (مثل المپیاد ریاضی) را دور میزند و مستقیم سراغ نوآوری علمی اصیل و کشف مستقل میرود.
این تست چند بعد متفاوت هوش را روی یک محور فشرده میکند و در واقع فرض میکند که نسبیت عام از قبل در دادههای ۱۹۱۱ «ضمنی» وجود داشته و فقط باید «استخراج» شود — در حالی که کار اینشتین بیشتر شامل بازتعریف مسئله، شهود فیزیکی و نادیدهگرفتن برخی پیشفرضهای زمان خودش بود. این کار فراتر از «استنتاج/استخراج» (deduction/extrapolation) از دادههای ۱۹۱۱ است.
این کار شامل جهش پارادایمی (paradigm shift) است: تغییر خودِ چارچوب مسئله، نه فقط حل مسئله درون چارچوب موجود.
این دقیقاً همان چیزی است که هاسابیس میگوید مدلهای فعلی ندارند: خلاقیت اصیل (true creativity)، اختراع فرضیههای جدید (inventing new hypotheses/conjectures)، و درک عمیق که اجازه میدهد پیشفرضهای بنیادی را زیر سؤال ببرد، نه فقط الگوهای آماری را دنبال کند.
در واقع، اگر AI این کار را بکند، یعنی توانسته همون سطح از نوآوری علمی مستقل را نشان دهد که یک انسان نابغه انجام داد — بدون اینکه جواب از قبل در دادهها «کدگذاری» شده باشد.
اگر AI پیشفرضها را دور بزند و مسئله را از نو تعریف کند (مثل اینشتین که مجبور شد مفهوم «همزمانی» را کاملاً بازتعریف کند)، دیگر نمیتوان گفت فقط «استخراج» کرده؛ بلکه خلق مفهومی جدید کرده.
اگر AI واقعاً پیشفرضها را نادیده بگیرد و چارچوب را عوض کند، یعنی توانسته خودِ فرآیندِ intelligence-as-movement (حرکت هوش به سمت حل مسئله از طریق بازتعریف) را شبیهسازی کند — نه فقط residue/ردپای هوش انسانی را. این یعنی مرز بین «الگوریتم خیلی قوی» و «هوش واقعی» محو میشود.
خیلیها معتقدند این سطح هنوز خیلی دور است، چون مدلهای فعلی حتی نزدیک به «نادیدهگرفتن پیشفرض» هم نیستند؛ حتی اگر به نسبیت عام برسند، احتمالاً از مسیر extrapolation و بهینهسازی میرسند فقط درون چارچوبهای موجود خیلی خوب کار میکنند و از طریق فروپاشی پارادایم یا انحلال پارادایم به این نقطه نمیرسند.
برخی اشاره میکنند که مدلهای فعلی حتی اگر خیلی قوی شوند، احتمالاً به جای نسبیت عام، یک نسخه «فوقبهینهشده» از نظریه اتر یا مدلهای کلاسیک دیگر تولید میکنند، چون جهش خلاقانه واقعی (نه فقط استدلال سطح بالا) هنوز ندارند.
هاسابیس خودش تأکید دارد که این تست برای سنجش «درک واقعی» در مقابل «شبیهسازی الگوها» است و مدلهای امروزی هنوز خیلی با آن فاصله دارند.
بعد التحریر:
نظریه اتر (luminiferous aether) در اواخر قرن ۱۹ و اوایل قرن ۲۰ چارچوب غالب بود: یک محیط نامرئی، همهجا حاضر و بدون جرم که تمام فضا را پر کرده و نور بهعنوان موج در آن منتشر میشود (دقیقاً مثل موج صدا که به هوا نیاز دارد). آزمایش مایکلسون-مورلی (۱۸۸۷) هیچ اثری از حرکت زمین نسبت به این اتر نشان نداد، اما فیزیکدانها پیشفرض وجود اتر را کنار نگذاشتند و با اصلاحاتی مثل انقباض لورنتز سعی کردند آن را حفظ کنند.
مدلهای فعلی احتمالاً در تست اینشتین به جای کشف نسبیت عام، یک نسخه بسیار پیچیده و «فوقبهینهشده» از همین نظریه اتر تولید میکنند — چون پیشفرض بنیادی «وجود چارچوب مرجع مطلق» را نادیده نمیگیرند و فقط درون همان چارچوب استدلال میکنند.
اینشتین اما این پیشفرض غلط اما مسلط را کاملاً دور زد و مسئله را از نو تعریف کرد: سرعت نور ثابت برای هر ناظر، بدون نیاز به اتر، و فضا-زمان خمشونده.
پس اگر AI نتواند این جهش پارادایمی را تکرار کند و به اتر بچسبد، یعنی هنوز خلاقیت اصیل و توانایی زیر سؤال بردن پیشفرضهای بنیادین را ندارد — و طبق تعریف هاسابیس، AGI نیست.
999
یادم هست دوسال پیش برای شرکتی دعوت به مصاحبه شدم که میخواست از LLMها استفاده کند تا ابزاری تولید کند کدها را بخواهند و آسیبپذیری پیدا کند.
البته آن کسب و کارها به کلی کساد نمیشوند چون مثلا بخش نظامی هیچ وقت نمیآید کدش را بدهد اسکنر claude برایش شخم بزند.
999
انتروپیک یک مدل پیشنمایش تحقیقاتی از ابزار security scanner خودش رونمایی کرد.
بیش از ۵۰ میلیارد دلار از ارزش بازار سایبری در یک شب از بین رفت.
999
تحلیل تخیلی شبانه:
اگر مطالب پراکنده و شایعاتی که در مورد Deepseek V4 گفته باشد صحت داشته باشد که قرار است در اواسط فوریه منتشر شود. ممکن است نتایج انتشار روی تصمیم آمریکا برای حمله به ایران تاثیر بگذارد. چرا؟
از پرداختن به آن شایعات که بگذریم که مفصل است و چون ممکن است پوچ باشد برایش وقت نمیگذارم. اما اگر فرض را بر صحت بگذاریم. باید عرض کنم که چون ممکن است مثل دفعه قبلی که اولین ورژن دیپسیک منتشر شد و بازارهای مالی تلکنولوژی امریکا شوک سنگینی دید این دفعه هم همین اتفاق بیفتد و این شوک سنگین روی تصمیم سیاستمدار آمریکایی تاثیر بگذارد و او را مشغول به جمع کردن تبعات حاصل از شوک روی بازار آمریکا بکند.
خواهشا بحث سیاسی نکنید. صرفا یک حدس تکنو-ژئوپلتیکی زدم که خیلی ارزش خاصی هم ندارد.
999
دوستان از این ایجنت Manus تا میتونید بهره ببرید.
اگه خاطرتون باشه من تقریبا یک سال پیش در موردش نوشتم اون موقع وایتلیست بود.
فیسبوک هم بعد از ناکامیهای پیاپی در دادن یک مدل خوب و بعد از گندی که سر Llama 4 زد رفت سراغ خرید این شرکت موفق چینی که اندکی بعد از دیپسیک اسمش سر زبان افتاد. این شرکت رو چند ماه پیش خرید و امروز رفته سراغ یک استراتژی خیلی جذاب یعنی اتصال مدل Manus به بات تلگرام که قبلا پرپلکسیتی و grok هم سراغش رفته بودند ولی جذابیتی نداشت.
ولی این بات واقعا عملیاتی و جذابه و فقط به پرامپت شما جواب متنی نمیده مثلا تصویری که میبینید من ازش خواستم در مورد یه مدل خاص deep learning در تصاویر مغزی تحقیق کنه اصل مقاله ش و یک ریپورت ازش رو بصورت PDF برام ارسال کرده.
999
همه جا حرف از Nvidia است. پس AMD کجای بازی است؟
در حالی که انویدیا (Nvidia) با ارزش بازاری خیرهکننده و تسلط مطلق بر فضای رسانهای، به "پادشاه بلامنازع" عصر هوش مصنوعی تبدیل شده است، در لایههای زیرین زیرساختهای پردازشی دنیا، اتفاقات متفاوتی در حال رخ دادن است. اگر تصور میکنید AMD در این رقابت حذف شده است، احتمالاً نگاهتان تنها به بنچمارکهای گیمینگ یا اخبار عمومی است. واقعیت این است که AMD در حال اجرای یک استراتژی "محاصره نرم" در بازار Data Center است.
۱. غلبه بر "دیوار حافظه" (Memory Wall)
در پردازش مدلهای زبانی بزرگ (LLM)، گلوگاه اصلی اغلب قدرت محاسباتی (Compute) نیست، بلکه پهنای باند و ظرفیت حافظه است. مدلهایی مثل Llama 3.1 405B یا GPT-4 به قدری بزرگ هستند که برای اجرای بهینه (Inference)، نیاز به تبادل دادهی بسیار سریع بین حافظه و هستههای پردازشی دارند.
• برتری سختافزاری: شتابدهنده AMD Instinct MI300X دارای ۱۹۲ گیگابایت حافظه HBM3 با پهنای باند ۵.۳ ترابایت بر ثانیه است. در مقام مقایسه، Nvidia H100 تنها ۸۰ گیگابایت حافظه دارد.
• چرا این مهم است؟ با استفاده از AMD، تیمهای مهندسی میتوانند مدلهای بزرگتر را روی تعداد "کارت" کمتری جای دهند. این یعنی کاهش تأخیر (Latency) ناشی از ارتباط بین کارتها و در نهایت کاهش هزینه نهایی (TCO).
۲. گذار از CUDA به سمت اکوسیستم باز (ROCm)
بزرگترین "خندق" (Moat) انویدیا سختافزار نیست، بلکه پلتفرم CUDA است. برای سالها، تمام کتابخانههای هوش مصنوعی فقط برای CUDA بهینه شده بودند. اما AMD با توسعه ROCm (نسخه ۶.۰ به بعد) بازی را تغییر داد:
• فریمورک Pytorch و OpenAI Triton: امروزه فریمورکهای اصلی مثل PyTorch بهصورت بومی (Native) از AMD پشتیبانی میکنند. همچنین زبان برنامهنویسی Triton (متعلق به OpenAI) به گونهای طراحی شده که کدها بدون نیاز به تغییرات بنیادی، هم روی Nvidia و هم روی AMD اجرا شوند.
• پایان انحصار نرمافزاری: وقتی شرکتهای بزرگی مثل Meta یا Microsoft از AMD استفاده میکنند، خودشان شروع به بهینهسازی کتابخانهها برای ROCm میکنند. این یعنی "جایگزینی" AMD به جای Nvidia برای تیمهای فنی، دیگر یک کابوس نیست.
۳. استراتژی مشتریان بزرگ (The Meta Factor)
دلیل اینکه AMD در "ویترین" مغازهها دیده نمیشود این است که آنها در حال فروش مستقیم به "ابر-غولها" (Hyperscalers) هستند.
• متا: مارک زاکربرگ تایید کرده است که بخش قابل توجهی از خوشههای پردازشی Llama 3 روی تراشههای AMD در حال اجراست.
• مایکروسافت Azure: مایکروسافت اولین ارائه دهنده ابری بزرگی بود که ماشینهای مجازی مبتنی بر MI300X را در اختیار مشتریان گذاشت.
• اوراکل: اوراکل به دلیل "نسبت کارایی به قیمت" (Price/Performance) بالاتر، بخش بزرگی از دیتاسنترهای جدید خود را به محصولات AMD مجهز کرده است.
۴. تفاوت در بیزنس مدل: Training در برابر Inference
برای درک جایگاه AMD باید بازار را به دو بخش تقسیم کرد:
۱. آموزش (Training): اینجا همچنان انویدیا به دلیل اکوسیستم NVLink و تسلط نرمافزاری، برنده مطلق است. اکثر مدلهای پایه (Frontier Models) روی انویدیا آموزش میبینند.
۲. استنتاج (Inference): یعنی مرحلهای که مدل آموزش دیده و قرار است به میلیونها کاربر پاسخ دهد. در این بخش، AMD به دلیل حافظه بیشتر و قیمت رقابتیتر، در حال تصاحب سهم بازار است. برای یک شرکت، اجرای چتبات روی AMD میتواند ۳۰ تا ۵۰ درصد ارزانتر از انویدیا تمام شود.
📊 جدول مقایسه فنی در یک نگاه
Nvidia H100 AMD MI300X
──────── ─────────── ──────────
Memory 80 GB 192 GB
Bandwidth 3.3 TB/s 5.3 TB/s
FP8 Compute 3,958 TFLOPS 5,220 TFLOPS
Software CUDA ROCm
Architecture Hopper Antares
چرا AMD را نمیبینیم؟
انویدیا در حال حاضر "اپلِ" دنیای تراشههاست؛ محصولی لوکس، با اکوسیستم بسته و بازاریابی فوقالعاده. اما AMD در حال تبدیل شدن به "اندروید" یا حتی فراتر از آن، "زیرساخت پنهان" است.
بسیاری از ما وقتی از سرویسهای هوش مصنوعی استفاده میکنیم، در واقع در حال ارسال درخواست به سرورهایی هستیم که قلب تپنده آنها AMD است، بدون آنکه متوجه باشیم. AMD به جای جنگ در توییتر و اخبار، در حال جنگ در Supply Chain و دیتاسنترهای چند میلیارد دلاری است.