Dev Tweet

آکاش گوپتا، مدیر محصول سابق شرکت Apollo.io و یکی از نویسندگان حوزه Product Growth، تجربه‌اش را اینطور نوشته: راستش را بخواهید، فکر می‌کردم می‌توانم بخش‌هایی از تیمم را با ایجنت‌های هوش مصنوعی جایگزین کنم. بارها امتحان کردم. هر بار شکست خوردم. چیزی که به‌عنوان بنیان‌گذار واقعاً می‌بینم این است: آن دسته از کارمندانی که عمیق و جدی با هوش مصنوعی کار می‌کنند، مؤثرتر از همیشه شده‌اند. کارمندی که با AI ده برابر قوی‌تر شده، بهتر از من از آن استفاده می‌کند و حتی به من هم یاد می‌دهد، امروز از هر کسی که بتوانم استخدام کنم ارزشمندتر است. بیشتر کارمندان این موضوع را نمی‌بینند. فقط مدیران عامل و بنیانگذاران می‌بینند. مرز دانش آنقدر سریع جلو می‌رود که کسانی که بهتر یاد می‌گیرند، فاصله‌شان با بقیه تیم هر روز بیشتر می‌شود. الان تمام مزیت رقابتی در این است که در لبه یادگیری هوش مصنوعی باشی. نتیجه‌گیری: شغل‌هایی که به مهارت کار با هوش مصنوعی نیاز دارند رو به افزایش است، نه کاهش. همین اتفاق قبلاً با اکسل افتاد، با کامپیوتر هم افتاد. کسانی که زودتر یاد گرفتند، شغل‌های بهتر و پردرآمدتری گرفتند. یا خودت آن کارمند ۱۰ برابری شو، یا یکی‌اش را استخدام کن. منبع

چپ‌گرایان رادیکال دموکرات باز هم دست به کار شدن. به جای اینکه بذارن آمریکا در مسابقه جهانی هوش مصنوعی از چین و رقبا جلو بزنه، می‌خوان با قانون‌گذاری‌های پوپولیستی و بی‌پایه، نوآوری رو خفه کنن. حالا هم که یه اصطلاح جدید (RSI) یاد گرفتن!

این موضوع Weight Space Programming دو روز پیش اومده! همون روز هم ازش یه مقاله دادن:)

دانشمند ارشد، Z.ai پاپیلاین آموزشی پشت مدل‌های آینده GLM-5.5 رو توضیح داد. این نشون میده که منابع داده مدل‌های امروزی برای آموزش چیه؟ وب: ۱ تریلیون صفحه که با سرعت حدود ۱۰ میلیارد صفحه در روز خزش شده‌اند، همراه با خوشه‌بندی قالب در مقیاس پتابایت اسناد: ۲ میلیارد PDF علمی که با GLM-OCR پردازش شده‌اند (۴ برابر سریع‌تر با speculative decoding) کتاب‌ها: ۵۰ میلیون کتاب با بازآرایی چیدمان و فیلتر کردن متن‌های خراب کد: ۵۰۰ میلیون مخزن که به وظایف قابل‌اجرا همراه با تست‌های واقعی و توضیحات issue تبدیل شده‌اند ویدیو: ۱۰ میلیارد ویدیو برای دانش جهانی با توالی‌های طولانی صوت: ۳۰۰ میلیون ساعت که از طریق ASR بازنویسی شده و به تریلیون‌ها توکن تبدیل شده‌اند (پست شامل دو تصویر است: یکی عکس از اسلاید سخنرانی که جزئیات دقیق‌تر شش منبع داده و چالش‌های مهندسی هر کدام را نشان می‌دهد، و دیگری پوستر تبلیغاتی GLM-5.5.)

آسترا فقط ۰٫۰۱۶٪ وزن‌های یک مدل رو تغییر داد و نمرهٔ آزمون ریاضی‌اش ۶ برابر شد! مدل کوچک کوئن (Qwen3.5-0.8B) وسط حل مسئله مدام خودش رو تکرار می‌کرد. آسترا (GPT-6 Astra) ردّ این مشکل رو تا دو لایه دنبال کرد و با تغییر مستقیم وزن‌های اون‌ها، دقت کوئن رو در آزمون ریاضی (MATH-500) از ۷٫۹٪ به ۴۸٫۱٪ رسوند. همهٔ این‌ها بدون بازآموزی کوئن انجام شد. ۱. پژوهشگرهای ام‌آی‌تی (MIT) این روش رو «برنامه‌نویسی در فضای وزن‌ها» (Weight-Space Programming) نامیدند. ایده اینه که مدل زبانی بتونه اعدادی رو که رفتار یه شبکه رو تعیین می‌کنند بخونه، بررسی کنه و در صورت نیاز مستقیم تغییر بده. ۲. آسترا از روی وزن‌های خام چهار شبکهٔ کوچک فهمید هرکدوم برای چه بازی‌ای آموزش دیده‌اند: بریک‌اوت (Breakout)، پونگ (Pong)، پک‌من (Pac-Man) و فری‌وی (Freeway). هر چهار شبکه معماری، ورودی و حرکت‌های یکسانی داشتند و اسم بازی‌ها هم به آسترا داده نشده بود. ۳. یک شبکهٔ کنترل ماشین جلوی رمپ گیر می‌کرد. آسترا وزن‌ها، شرح محیط و یک نمونهٔ شکست رو دید و در یک پاسخ، ۳٫۵٪ وزن‌ها رو تغییر داد. بعد از اون، ماشین در هر ۱٬۰۲۴ اجرای آزمایشی از رمپ رد شد. ۴. برای نسخهٔ ساده‌شدهٔ بریک‌اوت، آسترا قواعد و کد بازی رو گرفت و همهٔ وزن‌های یه شبکهٔ کوچک رو در یک پاسخ از صفر نوشت. اون شبکه حدود ۲۰ برابر نمونه‌ای امتیاز گرفت که با الگوریتم یادگیری تقویتی (PPO) و ۵۰۰ میلیون گام آموزش دیده بود. در دو بازی دیگه، شبکه‌های نوشته‌شده به امتیاز نمونهٔ ۵۰۰ میلیون‌گامی نرسیدند. ۵. در آزمایش کوئن، سهم جواب‌هایی که به سقف تولید متن می‌خوردند از ۹۳٪ به ۳۳٫۱٪ افت کرد. امتیاز دستورپذیری (IFEval) هم از ۲۱٪ به ۶۲٫۳٪ رسید. این الگو با رفع مشکل تکرار جور درمیاد: جواب‌های بیشتری به آخر رسیدند. روی مدل جِما (Gemma 3 270M)، که بیشتر اشتباه حساب و جبر داشت، همین روش بهبود قابل‌اتکایی در ریاضی نداد. ۶. مؤسسهٔ آلن تورینگ (The Alan Turing Institute) تشخیص بازی‌ها از روی وزن‌ها رو با آسترا و کلود (Claude) تکرار کرد. در آزمایش جداگانه‌ای روی کوئنِ ۴ میلیاردپارامتری (Qwen3.5-4B)، کلود فقط دو ستون از ماتریس وزن‌های یک لایه رو تغییر داد و تعداد جواب‌های درست از ۵۹ به ۹۲ تا ۹۴ از ۱۵۰ سؤال رسید. هنوز سؤال باز اینه که این روش روی چه مدل‌ها و چه نوع خرابی‌های دیگه‌ای جواب می‌ده. 📖 "شرح آزمایش‌ها در تلگراف" (https://telegra.ph/آسترا-چطور-با-تغییر-۰۰۱۶-وزن‌ها-یک-مدل-زبانی-را-تعمیر-کرد-11-04) کانال "توییت‌دِو" (https://t.me/tweetdev) 🔗 "گزارش اصلی پژوهش" (https://rikiyat.github.io/blog/weight-space-programming/)

این توئیت رو دیدم؛ جدا از این‌که پیش‌بینی‌هاش درست از آب درمی‌آد یا نه، این‌که توی چه حوزه‌هایی منتظر تغییر آینده‌ست خیلی برام جذاب بود. ذهن آدم رو می‌بره سمت یه‌سری تغییر که شاید تا حالا کمتر بهشون فکر کرده باشه. متن کاملش رو با یه‌کم توضیح دربارهٔ بخش‌های فنی اینجا گذاشتم.

🧠 آیندهٔ هوش مصنوعی در ۲۰۲۷؛ بخش دوم ۹. فاصلهٔ مدل‌های بزرگ با وزن باز از پیشرفته‌ترین مدل‌های بسته بیشتر می‌شه. اجرای قوی‌ترین مدل‌های باز هم همچنان سخت‌افزاری با قیمت چندده‌هزار دلار می‌خواد. ۱۰. شرکت DeepSeek توی ۲۰۲۷ فاصله‌اش رو با رقبای چینی بیشتر می‌کنه. هم‌زمان، بخش بزرگ‌تری از صنعت هوش مصنوعی چین وارد رکود می‌شه؛ بعضی آزمایشگاه‌ها تعطیل می‌شن یا سرمایه‌گذاری‌شون به‌شدت کم می‌شه، چون ناکارآمدی اقتصادی‌شون بیشتر خودش رو نشون می‌ده. ۱۱. برخلاف انتظار برای شدیدترشدن کمبود حافظه و نیمه‌رسانا، ممکنه تا میانهٔ ۲۰۲۷ قیمت سخت‌افزار به‌شکل محسوسی پایین بیاد و دسترسی به قطعات بهتر بشه. ۱۲. گوگل برندهٔ رقابت هوش مصنوعی نمی‌شه و قیمت سهامش به افت ادامه می‌ده؛ شاید خیلی بیشتر از چیزی که تصور می‌شه. ۱۳. سهام اپل سقوط می‌کنه و این شرکت توی هماهنگ‌کردن دستگاه‌ها و سرویس‌هاش با عصر هوش مصنوعی به مشکل می‌خوره. در عوض، دستگاه‌های تازه‌ای از شرکت‌های کوچیک‌تر و آزمایشگاه‌های هوش مصنوعی می‌آد که مرز گوشی، لپ‌تاپ و سرور رو کم‌رنگ می‌کنن. همه‌چیز از طریق یه دستگاه کنترل می‌شه و بخش زیادی از پردازش توی ابر اتفاق می‌افته. ۱۴. اپ‌ها و سایت‌های مستقل کم‌کم شروع به محوشدن می‌کنن. به‌جای گشتن بین رابط‌های از پیش طراحی‌شده، نرم‌افزار همون لحظه برای نیاز مشخص کاربر ساخته می‌شه. خودِ کد هم جایگاهش رو به‌عنوان منبع اصلی ارزش از دست می‌ده. ویجت‌های تعاملی داخل پاسخ دستیارها، نشونه‌های اولیهٔ این مسیرن و این روند با سرعت بیشتری ادامه پیدا می‌کنه. ۱۵. بازی‌سازی وارد یه دورهٔ شکوفایی می‌شه. طی دو سال آینده، هزینه و زمان ساخت بازی تقریباً نصف می‌شه و توسعه‌دهنده‌های تک‌نفرهٔ بیشتری بازی‌هایی با کیفیت تولید در سطح AA+ منتشر می‌کنن. خیلی از ناشرهای بزرگ هم وارد بحران جدی می‌شن و ممکنه ارزش سهامشون به کسری از مقدار فعلی برسه. ۱۶. سال ۲۰۲۷ می‌تونه ویرانگرترین سال تاریخ بازار سهام باشه؛ سالی که تعداد زیادی از شرکت‌هایی که دهه‌ها دست‌نخوردنی به‌نظر می‌رسیدن، وارد سراشیبی می‌شن. ۱۷. برای نسل تازهٔ درمان‌های سرطان، نتایجی نزدیک به نرخ درمان ۹۰ درصد در آزمایش‌های انسانی اولیه پیش‌بینی می‌شه؛ با این احتمال که این درمان‌ها تا ۲۰۲۹ به‌شکل گسترده در دسترس قرار بگیرن. منبع: توئیت اصلی

🧠 آیندهٔ هوش مصنوعی در ۲۰۲۷؛ بخش اول ۱. احتمالاً مدل‌های Fable 5.5 و GPT-6.1 Astra آخرین عرضه‌های بزرگ ۲۰۲۶ باشن؛ البته ممکنه هیچ‌کدوم با همین اسم‌ها منتشر نشن و حتی Anthropic مستقیم بره سراغ Fable 6. مدل Astra هم احتمالاً قوی‌ترین عضو خانوادهٔ GPT نخواهد بود و شاید مدل قدرتمندتری مثل GPT-7 Bel در راه باشه. پایان ۲۰۲۶ می‌تونه شروع حرکت به سمت نسل کاملاً تازه‌ای از مدل‌ها باشه. البته این اسم‌ها و زمان‌بندی‌ها کاملاً در حد گمانه‌زنی‌ان. ۲. سال ۲۰۲۷، آزمایش با معماری‌های تازه جدی‌تر می‌شه؛ از Mamba و آموزش هنگام استفاده (TTT) تا روش‌های انتشار برای تولید متن. ممکنه خانواده‌های آزمایشی تازه‌ای از مدل‌ها معرفی بشن که حتی اسم GPT یا Claude رو نداشته باشن. ترنسفورمرها هم مدت زیادی باقی می‌مونن و روش‌ها و لایه‌های تازه، اون‌ها رو بهینه‌تر می‌کنن. ۳. شبکه‌های عصبی بازگشتی (RNN) دوباره پررنگ می‌شن. معماری‌هایی مثل RWKV نشون دادن که نسخه‌های امروزی این رویکرد ظرفیت زیادی دارن و می‌تونن به کارایی و کیفیت آموزش کمک کنن. ۴. خودبهسازی بازگشتی (RSI) قرار نیست به‌تنهایی معجزه کنه. کارهای تکراری پژوهش و مهندسی خودکارتر می‌شن، ولی جهش‌های بنیادی همچنان به ایده‌ها و مداخلهٔ پژوهشگرها وابسته می‌مونن. هرچی فرایند آموزش اولیه و یادگیری تقویتی ضعیف‌تر باشه، خطر افت کیفیت بر اثر آموزش تکراری با داده‌های مصنوعی هم بیشتر می‌شه؛ مشکلی شبیه چیزی که توی تقطیر دانش دیده می‌شه. ۵. معماری‌های تازه، مصرف حافظهٔ مدل‌های زبانی رو پایین می‌آرن، کانتکست چند برابر می‌شه و سرعت تولید توکن بالاتر می‌ره. مدل‌هایی با کانتکست ۱۰ میلیون توکن یا بیشتر، توی ۲۰۲۷ رایج‌تر می‌شن. ۶. مدل‌های ردهٔ Haiku و Luna کنار گذاشته می‌شن. ۷. مدل‌های خیلی بهینه‌ای عرضه می‌شن که عملاً بشه بدون محدودیت‌های مصرف فعلی ازشون استفاده کرد. ممکنه مدل‌هایی در سطح Opus 5.5 در دسترس قرار بگیرن که دیگه سقف مصرف هفتگی نداشته باشن. ۸. معماری‌های تازه، مدل‌های خیلی کوچیک و قابل‌اجرا روی دستگاه‌های جیبی رو متحول می‌کنن. ولی بهترین نمونه‌ها لزوماً باز منتشر نمی‌شن؛ احتمالاً با مجوزهای بسته و قراردادهای اختصاصی به چند شریک مثل اپل و سونی می‌رسن. منبع: توئیت اصلی و اصلاحیهٔ معماری

کامیت لینوس توروالدز در مورد اقرار به برتری کد ai به خودش

از دیروز Opencode سه تا مدل ش رو رایگان کرده!

یه مدل ۲۷ میلیارد(Qwen 3.8 27B) پارامتری که به‌صورت محلی اجرا می‌شه، ۳۵٪ هوشمندتر از مدل پیشرو SOTA یک سال پیشه.تصور کن سال آینده چه مدل‌هایی به‌صورت محلی اجرا می‌شن؟

از ۱۰ هزار ایجنت تا یک پرامپت؛ جهش عجیب OpenAI در حل مسائل ریاضی! در جریانید که OpenAI هفتهٔ گذشته از حل یا پیشرفت چشمگیر در ۳۷۲ مسئلهٔ حل‌نشدهٔ ریاضیات و علوم کامپیوتر نظری خبر داد؟ نتایج شامل ۷۱۹ مقاله و دست‌نوشتهٔ ریاضی است؛ از ادعای حل حدس کاکیا (Kakeya) در چهار بُعد، که به هندسهٔ مجموعه‌های بسیار پیچیده مربوط می‌شود، تا بهبود الگوریتم‌های مهم و پیشرفت در مسائل مرتبط با فرضیهٔ ریمان؛ یکی از مشهورترین مسائل حل‌نشدهٔ ریاضیات. اما شاید نکتهٔ عجیب‌تر، نه خود این نتایج، بلکه روش رسیدن به آن‌ها باشد! سخنگوی OpenAI به مجلهٔ ساینتیفیک امریکن (Scientific American) گفته تقریباً تمام این نتایج با دادن تنها یک پرامپت به یک ایجنت منفرد به دست آمده‌اند. برای درک اهمیت این ادعا، کافی است به یک ماه قبل برگردیم: زمانی که OpenAI مدعی حل مسئلهٔ مشهور ناویر–استوکس، یکی از مسائل جایزهٔ هزاره، شد. آن موفقیت حاصل یک سامانهٔ عظیم با حدود ۱۰ هزار ایجنت هم‌زمان، میلیون‌ها پیام و میلیون‌ها دلار هزینهٔ محاسباتی بود. حالا ظاهراً همان مدلِ ارتقایافته می‌تواند برای هر مسئله، با یک درخواست و بدون نیاز به آن ارکستراسیون عظیم چندایجنتی، به نتایج پژوهشی برسد. طبق گزارش OpenAI، میانگین محاسبات برای هر نتیجه معادل حدود سه ساعت تفکر در ChatGPT Pro بوده است. این موضوع را می‌شود به بحث دیگری هم وصل کرد. پدرو دومینگوس، پژوهشگر مشهور یادگیری ماشین، اخیراً با اشاره به مقاله‌ای دربارهٔ یادگیری هارنس (Harness Learning) نوشته: «خیلی طول نکشید؛ مدل دارد هارنس را می‌بلعد!» هارنس همان لایهٔ نرم‌افزاری اطراف مدل است که فراخوانی ابزارها، گردش اطلاعات و مراحل اجرای ایجنت را مدیریت می‌کند. مقالهٔ مورد اشاره نشان می‌دهد که خود مدل‌ها می‌توانند اصلاح این لایه را هم یاد بگیرند. ایلان ماسک هم در پاسخ گفته اتفاق مشابهی در سیستم رانندگی خودکار تسلا افتاده؛ مدل به‌تدریج وظایف بیشتری از کدهای ++C را بر عهده گرفته است. البته این‌ها هنوز به معنی حذف کامل هارنس نیستند، اما می‌توانند نشانهٔ یک تغییر مهم باشند: بخشی از پیچیدگی‌ای که قبلاً باید در سیستم‌های بیرونی مهندسی می‌کردیم، دارد به توانایی خود مدل منتقل می‌شود. اگر این ادعاها تأیید شوند، شاید مهم‌ترین اتفاق نه صرفاً حل چندصد مسئلهٔ ریاضی، بلکه نزدیک‌تر شدن پژوهش علمی پیشرفته به چیزی شبیه دادن یک مسئله به یک مدل و دریافت یک نتیجهٔ پژوهشی باشد. 🔗 گزارش ساینتیفیک امریکن 🔗 مخزن نتایج ریاضی OpenAI 🔗 توییت پدرو دومینگوس 🔗 مقالهٔ یادگیری هارنس 📡 تهیه و تنظیم برای کانال توییت‌دِو نشانی کانال: https://t.me/tweetdev

https://x.com/chetaslua/status/2107234675110666594?s=20 این هم تصویر سازی خیلی جالبیه از مقایسه ارزش قیمت اشتراک‌های Claude و ChatGPT است

این بهترین نموداری است که نشون میده Claude آنتروپیک به نسبت هزینه(Fee) بالاترین توکن مصرفی و هزینه API را در بین همه‌ی مدل‌ها دارد!

نکته جالب دیگه گزارش اینه که ارزان‌سازی‌هایی که روی مدل‌ها انجام می‌دهند بیشتر به نفع شرکت‌هاست تا مصرف کننده‌ها!

دیگه وقتشه بی خیال کدکس 100 دلاری بشیم کار با همون 20 دلاری Claude هم راه می افته خیلی ساده این نمودار یعنی این: برای قیمت برابر انتروپیک ۵ برابر ارزش بیشتری از اپن‌ای‌آی ارائه می‌کند. منبع

کاش تا الان از این مدل رایگان استفاده کرده باشید یکی از سخاوتمدانه ترین مدلهای رایگانی بود که دیدم بعید میدونم خیلی ادامه داشته باشه. دسترس پذیری عالی(قطعی نداشت سرورش). بدون هیچ سقفی. شاید من در این چند روز مداوما نزدیک به ۲ میلیارد توکن مصرف کردم که برای یک چیز ارزانی مثه دیپ سیک هم حدود ۲۰ -۳۰ دلار هزینه داره.

یکی از قابلیت‌های خفن Opus 5.5 که خیلی به چشم اومده همین تولید ویدئو از جاواسکریپت هست که واقعا خروجی‌های حیرت انگیزی داره. این خروجی بسیار جذاب و خفن رو در روی سطح مدیوم و در نیم ساعت و در یک شات داده: حتما ببینید. مصورسازی تاریخ ایرانشهر از ۲۳۰۰ سال قبل از میلاد بر حسب اطلاعات ویکی پدیا فارسی! منبع

روی openrouter و opencode یه مدل جدید اومده که رایگان و stealth هست و سرعت‌ش هم خیلی خوبه. تا برنداشتن برید استفاده کنید. قبلی رو که دو روزه برداشتند