Silicon Brain | جامعه هوش مصنوعی

و نکته خفن تر مقدار توکن ورودی استفاده شده برای این درخواست 705 و خروجی 73 هست. طبق اعلام خود TypeSafe خروجی رایگانه و برای ورودی به ازای 1 میلیون 0.042$ هزینه داره. به عبارتی این درخواست فقط 0.00002$ هزینه برای من داشته که میشه حدودا 7 تومن (7 تک تومن!) @silicon_brain | از هوش مصنوعی عقب نمانید

برای ارزیابی عملکرد Jev یک سناریو ساده ساختم و این درخواست رو بهش دادم:

 Json
{
  "state": "سلام، من هفته گذشته یک لپ‌تاپ از سایت شما خریدم اما هنوز سفارش به دستم نرسیده. در صفحه پیگیری هم از سه روز پیش هیچ تغییری ایجاد نشده. برای کارم به این لپ‌تاپ نیاز فوری دارم و واقعاً نگرانم که سفارشم گم شده باشد. لطفاً هرچه سریع‌تر وضعیت سفارش را بررسی کنید.",
  "model": "jev-latest",
  "questions": {
    "department": {
      "type": "choice",
      "instructions": "این درخواست باید توسط کدام تیم بررسی شود؟",
      "criteria": {
        "shipping": "پیگیری ارسال، تأخیر، مفقودی یا وضعیت تحویل سفارش",
        "support": "مشکلات عمومی مشتری و درخواست‌های پشتیبانی",
        "billing": "پرداخت، فاکتور، بازگشت وجه یا مشکلات مالی"
      }
    },
    "frustration": {
      "type": "score",
      "instructions": "میزان نارضایتی یا عصبانیت مشتری را بر اساس متن چقدر ارزیابی می‌کنید؟",
      "criteria": [
        "آرام و صرفاً در حال بیان مشکل",
        "ناراضی اما محترمانه",
        "بسیار عصبانی یا دارای لحن شدید"
      ]
    },
    "is_urgent": {
      "type": "noul",
      "instructions": "آیا پیام مشتری نشان‌دهنده فوریت یا نیاز به رسیدگی سریع است؟"
    }
  }
}

و نتیجه رو فقط تو 786 میلی ثانیه جواب داد: ```json { "model": "jev-1.13.0", "answers": { "department": { "type": "choice", "choice": "shipping", "confidence": 1.0, "probabilities": { "billing": 0.0, "support": 0.0, "shipping": 1.0 } }, "frustration": { "type": "score", "score": 0.94, "confidence": 0.9, "legend": { "0": "آرام و صرفاً در حال بیان مشکل", "1": "ناراضی اما محترمانه", "2": "بسیار عصبانی یا دارای لحن شدید" }, "probabilities": { "0": 0.06, "1": 0.94, "2": 0.0 } }, "is_urgent": { "type": "noul", "noul": 0.98 } }, "usage": { "input_tokens": 705, "output_tokens": 73 } }

اصلا نمیشه LLM ها رو با پرفرومنس این مقایسه کرد

@silicon_brain | از هوش مصنوعی عقب نمانید ```

گوگل با AX، سیستم Kubernetes رو برای AI Agentها بازطراحی کرده یکی از مشکلات AI Agentها اینه که ممکنه ساعت‌ها منتظر LLM Response یا تأیید انسان بمونن ولی در این مدت همچنان مصرف می‌کنن و هزینه می‌سازن. از طرف دیگه Kubernetes اساساً برای Stateless Services و Batch Jobs طراحی شده، درحالی‌که Agentها Stateful هستن، با Toolها کار می‌کنن و ممکنه چند روز اجرا بشن. راهکار گوگل، یک ابزار Open-source به اسم AX (Agent Executor) هست که مخصوص همین سناریو ساخته شده. AX اجازه می‌ده یک Agent رو وسط اجرا Suspend کنیم و بعداً دقیقاً از همون نقطه Resume کنیم، بدون اینکه State از بین بره. نتیجه اینه که حتی در صورت کرش شدن، اجرای Agent از بین نمی‌ره و طبق ادعای گوگل می‌شه حدود 10 تا 20 برابر Agent Sandbox بیشتری روی یک Cluster اجرا کرد. AX همچنین از MCP Tools، Custom Harnesses، Gemini و Vertex AI پشتیبانی می‌کنه و برای Scale کردن تا میلیاردها Agent Task در هر Cluster طراحی شده. گیتهاب @silicon_brain | از هوش مصنوعی عقب نمانید

کمپانی AMD تو یک سال گذشته ۲۸۵٪ رشد داشته و جز کمپانی های ۱ تریلیون دلاری شد. طبق این آمار، از ۱۵ کمپانی بزرگ آمریکا ۱۲ تاش تو چرخه تولید AI هستن... @silicon_brain | از هوش مصنوعی عقب نمانید

مدل جدید Grok 4.7 نسبت به نسخه قبلی یعنی Grok 4.6 پیشرفت قابل توجهی تو بنچمارک های مختلف مخصوصا Agentic و Coding داشته ولی نکته مهم اینه که‏ بهبود عملکرد این مدل با افزایش قابل‌توجه مصرف توکن همراه بوده و میگن برای هر تسک به‌طور میانگین ۸۱ هزار توکن خروجی مصرف می‌کنه که بیشتر از دو برابر مدل‌های قبلی هست. @silicon_brain | از هوش مصنوعی عقب نمانید

🎓 آشنایی با اساتید «ابزارها و کاربردهای هوش مصنوعی» ⚙️ در بوت‌کمپ جدید آکادمی همراه اول، میزبان متخصصان و مدیران با تجربه‌ی بسیاری هستیم که جامع‌ترین دانش و تجربیات در خصوص ابزارها و کاربردهای هوش مصنوعی را، در اختیار شرکت‌کنندگان قرار بدهیم. 🔸 مسعود رئیسی | مدیر هنری فیلیمو مدرسه 🔸 سهیل تهرانی پور | مدیرعامل و متخصص هوش مصنوعی ساعیان ارتباط 🔸 اسماعیل گوهری | متخصص تولید ویدئو و محتوای بصری برای برندها 🔸 یدالله یعقوب‌زاده | محقق ارشد سابق مایکروسافت و عضو هیئت علمی دانشگاه تهران 🔸 مسعود کاویانی | دانشمند ارشد داده در آپارات، فیلیمو - AI Tech Lead دانشگاه صنعتی شریف 🔸 احسان طوفانی‌نژاد | عضو هیئت علمی دانشگاه علوم پزشكی شهید بهشتی 🔸 محسن دارچینی | دکتری مهندسی کامپیوتر و استاد دانشگاه علم و صنعت ایران 🔸 اردوان زمانپور | راهبر تیم IP/MPLS در مبین نت 🔸 محمدعلی اخایی | عضو هیئت علمی دانشگاه تهران 🔸 سید مهدی خلیق رضوی | مدیر تیم پژوهش‌های علمی شرکت Care Access 🔸 سینا رنج کش زاده | AI Developer در اکیان

⚠️ ظرفیت این بوت‌کمپ نیز محدود است.

🌐 لینک پیش‌ثبت‌نام #رایگان و جزئیات بوت‌کمپ: 🔗 https://l.hamrah.academy/4ec ⭐️ @hamrah_academy | آکادمی همراه اول

مدل Jev نیومده، داره کاربردهای فوق العاده خودشو نشون میده یه پروژه به اسم jev-ultrafast یه Agent از ترکیب از Browser Use + Jev ساختن که می‌تونه مثل انسان Chrome رو کنترل کنه، (ولی خیلی سریع‌تر از انسان!) مثلاً یک پرواز از زوریخ به لندن رو در فقط 7 ثانیه پیدا کرده و هزینه اجرای کار فقط $0.0039 بوده. تفاوت اصلی با Browser Agentهای معمولی اینه که اونا مدام Screenshot → AI → Action انجام می‌دن. اما Jev به‌جاش صفحه رو به‌صورت Structured Data می‌خونه یعنی لیستی از Buttonها، Inputها و Elementهای صفحه دریافت می‌کنه و در یک Network Call هم Action و هم Target رو مشخص می‌کنه.

نتیجه

تعداد Browser Callها از 1,092 به 101 رسیده و طبق گزارش، حدود 25٪ سریع‌تر شده. جالب‌تر اینکه برای کارهایی مثل Typing فقط وقتی لازم باشه یک Small/Cheap Model فعال می‌شه. در نتیجه می‌تونی پروژه رو Clone کنی، یک URL و یک هدف ساده بهش بدی و اجازه بدی خودش Browser رو کنترل کنه؛ از جستجوی پرواز گرفته تا ویکی پیدا و پیدا کردن هتل. گیتهاب @silicon_brain | از هوش مصنوعی عقب نمانید

مدل Jev خیلی سروصدا کرده، معرفی اولیه‌شو تو این پست دیدیم در مورد ساختار ورودی/خروجی این مدل ۳ پایه اصلی وجود داره:

Choice

انتخاب یک گزینه از مجموعه‌ای که برنامه تعریف کرده

category = choice(
    "What is this ticket about?",
    {
        "billing": "Payment or refund issue",
        "technical": "Technical problem",
        "other": "Other issue"
    }
)

خروجی:

{
  "choice": "billing",
  "probabilities": {
    "billing": 0.94,
    "technical": 0.04,
    "other": 0.02
  }
}

نکته مهمش اینه که برخلاف مدل‌های LLM و احتمال Hallucination، اینجا مدل نمیتونه گزینه چهارمی از خودش تولید کنه

Score

برای یک مفهوم ordered از Score استفاده میشه

frustration = score(
    "How frustrated is the customer?",
    [
        "Calm",
        "Concerned",
        "Angry",
        "Extremely angry"
    ]
)

اینجا مسئله classification ساده نیست شما یک ordered semantic scale تعریف می‌کنین.

Noul

جالب‌ترین پایه از نظر معماری این یکیه مثلاً:

urgent = noul(
    "Does this message explicitly communicate urgency?"
)

خروجی این بین ۰ و ۱ خواهد بود و اپلیکیشن میتونه خودش threshold تعیین بکنه

حالا اگه میگی خب LLM هم می‌تونه با یه structured Json همینکارو انجام بده اشتباه میکنی چون jev اینارو به صورت موازی انجام میده و روش autoregressive نداره که توکن به توکن تولید کنه بره جلو و خروجی به صورت ساختار یافته از هسته مدل میاد بیرون و این خیلی مهمه

@silicon_brain | از هوش مصنوعی عقب نمانید

روش Dream-RSI؛ Agentهایی که از تجربه خودشون یاد می‌گیرن جدیدا Google DeepMind با Dream-RSI روشی معرفی کرده که به‌جای اینکه هر بار برای پیدا کردن Strategy بهتر، آزمایش‌های جدید و پرهزینه اجرا کنه، از تلاش‌های قبلی AI استفاده می‌کنه. مدل هزاران مسیر و استراتژی مختلف رو با استفاده از تاریخچه خودش شبیه‌سازی می‌کنه، بهترین روش رو پیدا می‌کنه و بعد همون رو برای حل مسئله واقعی استفاده می‌کنه

این درواقع یه حالت شبیه مربی‌ای که به‌جای برگزاری تمرین جدید، بازی‌های قبلی رو تحلیل می‌کنه.

نکته جالب اینه که خود مدل تغییر نمی‌کنه و نیازی به آموزش مجدد نداره فقط روش Search و Exploration هوشمندتر می‌شه. طبق نتایج گزارش‌شده، در بعضی سناریوها تعداد AI Calls تا 162 برابر کاهش پیدا کرده و روی مسائلی مثل طراحی الگوریتم، ریاضیات، بهینه سازی مسائل هم آزمایش شده و کل حرفش اینه که به‌جای اینکه AI رو بزرگ‌تر کنیم، می‌تونیم کاری کنیم که از تجربه‌های قبلی خودش بهتر استفاده کنه. لینک مقاله @silicon_brain | از هوش مصنوعی عقب نمانید

آپدیت جدید CortexKG نسخه 0.3.0 تو این نسخه از پروژه شما میتونین ▫️گراف دانش خودتونو در ساختار یک تایم لاین ببینین، چون که دانش ذخیره شده با در نظر گرفتن زمان رخ داد، غنی تر میشه ▫️پارامترهای تنظیم LLM مانند temperature و max_token اضافه شده ▫️قابلیت نصب پروژه به راحتی با Docker اضافه شده: لینک ▫️و اگه دوس دارین مستندات پروژه رو به فارسی بخونین، لینک مستندات فارسی به پروژه اضافه شده

هدف CortexKG اینه که یک حافظه AI قابل مشاهده، قابل کنترل و قابل انتقال در طول زمان بسازه جایی که بتونید ببینید AI چه چیزهایی رو از مکالمات شما یاد گرفته و این دانش چطور به هم متصل شده و حتی بتونین این حافظه رو شخصی سازی و ویرایش کنین

لینک گیتهاب با استار ⭐️ گیتهاب از این پروژه اوپن سورس حمایت کنین

🤖 از داده‌ها یاد بگیرید؛ با پایتون مدل‌های هوشمند بسازید! امروزه یادگیری ماشین (Machine Learning) یکی از مهم‌ترین مهارت‌ها در دنیای هوش مصنوعی و تحلیل داده است؛ مهارتی که به شما کمک می‌کند از داده‌های خام، الگوهای ارزشمند استخراج کنید و مدل‌هایی بسازید که بتوانند پیش‌بینی، طبقه‌بندی و تصمیم‌گیری کنند. در دوره ماشین لرنینگ با پایتون، مسیر یادگیری از مفاهیم پایه تا پیاده‌سازی الگوریتم‌های کاربردی را به‌صورت عملی دنبال می‌کنید و با ابزارها و کتابخانه‌های پرکاربرد پایتون در حوزه Machine Learning کار خواهید کرد. اگر می‌خواهید پایتون را از یک زبان برنامه‌نویسی به ابزاری برای ساخت مدل‌های هوشمند تبدیل کنید، این دوره می‌تواند شروعی جدی برای ورود شما به دنیای Machine Learning باشد. برای ثبت‌نام میتونی به سایت ما مراجعه کنی🔗 https://link.sharif.ac/5mSzn ➖➖➖➖➖➖➖➖➖➖➖➖ ☎️ مشاوره و ثبت‌نام: 02167641999 📲 مشاوره بله: https://ble.ir/Jdsharif_626 ➖➖➖➖➖➖➖➖➖➖➖➖ 🔹 جهاد دانشگاهی صنعتی شریف؛ یک پله بالاتر از تخصص...

مسیر جدید برای Deep Reasoning در معماری ترنسفورمر مدل‌های معمولی ترنسفورمر تعداد لایه های ثابتی دارن، یعنی عمق Reasoning از قبل مشخصه. اگر مدل بخواد بیشتر فکر کنه، معمولاً باید Token بیشتری تولید کنه که یعنی هزینه و Compute بیشتر. ایده‌ی Recurrent Looped Transformer (RLT) این ساختار رو تغییر می‌ده. به‌جای اینکه مدل یک Stack ثابت از لایه ها داشته باشه، Layerها رو به‌صورت Loop روی توکن اجرا می‌کنه و همزمان یک Internal Memory می‌سازه که با طول Sequence رشد می‌کنه. هدف این طراحی اینه که مدل بتونه Reasoning عمیق‌تر انجام بده، بدون اینکه الزاماً توکن بیشتری تولید کنه ضمن اینکه با Parallel Encoding و Memory Reuse برای سخت افزار و منابه در دسترس هم مناسب‌تر باشه. البته یک نکته مهم: RLT فعلاً یک Design Spec و ایده‌ی تحقیقاتی محسوب می‌شه، نه یک محصول آزمایش‌شده. نتایج اولیه هستن و خود مقاله هم می‌گه مزیت‌های مربوط به Efficiency و Scaling هنوز نیاز به بررسی بیشتر دارن.

این کارا نشون میده که هسته معماری ترنسفرومر باز جای بهتر شدن رو داره

گیتهاب @silicon_brain | از هوش مصنوعی عقب نمانید

به‌نظرم یکی از تغییرات مهمی که AI به همراه خودش میاره، فقط افزایش Productivity نیست، بلکه می‌تونه مصرف‌گرایی رو هم سریع‌تر کنه. مثلاً چند سال پیش یک برنامه‌نویس برای کار کردن به یک سیستم مناسب و چند Software نیاز داشت. امروز علاوه بر اون‌ها، هزینه‌ی LLM API، Subscription، GPU و ابزارهای AI هم به هزینه‌های کاری اضافه شده.

درسته که AI سرعت تولید رو بالا برده، اما برای یک Developer مستقل یا یک شرکت کوچک، آیا این افزایش سرعت همیشه به اندازه‌ی هزینه‌ی جدید، ارزش اقتصادی ایجاد می‌کنه؟ لزوماً نه.

این الگو رو تقریباً همه‌جا می‌بینیم. خیلی از محصولات مدرن دیگه صرفاً برای این ساخته نمی‌شن که 30 سال کار کنن بخشی از مدل کسب‌وکارشون اینه که مصرف بعدی رو ایجاد کنن: Upgrade، Subscription، خرید مجدد و... تو بحث اجتماعی هم همینه، Recommender Systemها فقط محتوا پیشنهاد نمی‌دن اونا برای گرفتن توجه ما بهینه می‌شن. سوشال مدیا، تبلیغات رگباری، پورنوگرافی و وجود گزینه های مختلف و همیشه در دسترس کالا، سرویس، پارتنر و... زمان و توجه انسان رو با دستکاری دوپامین دریافتی به مصرف پشت سر هم و تکرار این چرخه بهینه میکنه. دوستان ما تو دنیای جدید زندگی میکنیم که تو پیچیده ترین حد ممکنه، شاید خطر اصلی مصرف‌گرایی تو دنیای فعلی این باشه که دیگه فقط محصول یا سرویس نمی‌خریم زمان، توجه و حتی عادت‌هامون هم تبدیل به کالا شدن. @silicon_brain | از هوش مصنوعی عقب نمانید

چرا در RAG فقط یک روش Search کافی نیست؟ چطور میتونیم متریک ها مختلف رو با هم جمع بزنیم؟ فرض کنید کاربر یک کوئری می‌فرسته و میخواییم یه سری اسناد مربوط رو بازیابی کنیم. یه مشکل اینجاست که روش‌های مختلف Retrieval، هرکدوم از یک زاویه به کوئری نگاه می‌کنن و ممکنه نتایج متفاوتی بدن.

مثلاً BM25

بیشتر روی Keyword و میزان تطابق کلمات تمرکز می‌کنه. اگر کاربر دقیقاً یک عبارت یا اصطلاح خاص رو جستجو کنه، BM25 می‌تونه خیلی خوب عمل کنه.

در مقابل، Vector Search

متن کوئری و اسناد رو به Vector تبدیل می‌کنه و بر اساس Semantic Similarity دنبال محتواهایی می‌گرده که از نظر معنایی به Query نزدیک هستن حتی اگر دقیقاً از همان کلمات استفاده نشده باشه. مثلاً اگر Query این باشه: How can I reduce my electricity bill? ممکنه BM25 بیشتر دنبال اسنادی بگرده که کلمات electricity و bill رو دارن، ولی Vector Search می‌تونه اسناد درباره‌ی energy consumption optimization رو هم پیدا کنه، چون از نظر معنایی مرتبطه. اما اینجا یک مشکل جدید داریم: Score این دو سیستم قابل مقایسه مستقیم نیست. مثلاً: BM25 Score = 17.4 Vector Similarity = 0.83 این دو عدد مقیاس و معنای متفاوتی دارن بنابراین نمی‌تونیم به‌سادگی اینارو با هم جمع کنیم. اینجاست که Reciprocal Rank Fusion (RRF) وارد می‌شه. RRF به‌جای اینکه به مقدار Scoreها نگاه کنه، به Rank هر Document نگاه می‌کنه: RRF(d) = Σ 1 / (k + rank(d)) یعنی اگر یک سند هم در BM25 و هم در Vector Search رتبه خوبی داشته باشه، امتیاز نهایی بالاتری می‌گیره. مثلاً اگر یک Document در BM25 رتبه 1 و در Vector Search رتبه 3 باشه، از هر دو Retrieval امتیاز می‌گیره و در Ranking نهایی بالا میاد. در نتیجه معماری می‌تونه چیزی شبیه این باشه:

در واقع RRF خودش Document رو از نظر معنایی ارزیابی نمی‌کنه؛ کاری که انجام می‌ده اینه که Ranking چند Retrieval System مختلف رو با هم Fusion می‌کنه. به همین دلیل RRF یکی از روش‌های ساده و کاربردی برای ساخت Hybrid Retrieval در سیستم‌های RAG محسوب می‌شه.

@silicon_brain | از هوش مصنوعی عقب نمانید

تمامی مدیران شرکت های غول AI همگی موافقت خودشونو برای طرح ترمز AI،جهت جلوگیری از پیشرفت بیش از اندازه AI تایید کردن

مایکل بَری (Michael Burry) سرمایه‌گذار و تحلیلگر آمریکایی معتقده هشدارهای OpenAI و Anthropic درباره خطرات AI ممکنه تا حدی جنبه رسانه‌ای و PR داشته باشه مخصوصاً در شرایطی که سرعت رشد این شرکت‌ها و بحث عرضه اولیه مطرحه. به‌نظر بَری، LLMها لزوماً به AGI نمی‌رسن و رقبای جدید هم دارن فاصله رو کم می‌کنن. بنابراین تأکید مداوم روی اینکه AI اونقدری قدرتمنده که خطرناک شده می‌تونه به تثبیت جایگاه شرکت‌های بزرگ و ایجاد market hype کمک کنه

بری بیشتر به‌خاطر پیش‌بینی سقوط بازار مسکن آمریکا در بحران مالی 2008 معروف شد

@silicon_brain | از هوش مصنوعی عقب نمانید

مدل TypeSafe AI و ایده‌ی جدیدی برای AI Automation یه سؤال جالب پشت این پروژه بوده:

اگر LLMها سال‌هاست در Chat کردن از انسان بهتر شدن، چرا هنوز بخش بزرگی از Automation رو نتونستیم بهشون بسپاریم؟

اینا میگن مشکل اینجاست که LLMها اساساً برای تولید متن طراحی شدن، نه تصمیم‌گیری ساختاریافته برای Software. برای همین یک کلاس جدید از مدل‌ها به اسم System One Models ساختن مدل‌هایی که به‌جای اینکه متن تولید کنن، مستقیماً Typed Probabilistic Decisions برمی‌گردونن. مدل اولشون Jev هست. ایده‌ی اصلیش رو میشه این‌طوری دید که به‌جای اینکه مدل یک جواب متنی بده و بعد Software مجبور بشه اون رو Parse کنه، مستقیماً یک خروجی ساختار یافته می‌گیره که قابل استفاده در کد هست. از نظر معماری هم فقط یک مدل جدید نیست یک Stack کامل برای Automation ساختن که مدل به‌جای صرفاً تولید پاسخ، روی Decision Quality و Calibration آموزش ببینه. یکی از ادعاهای مهم Jev اینه که در بعضی System One Tasks تقریباً به سطح عملکرد مدل‌های LLM خفن موجود می‌رسه، اما حدود دو Order of Magnitude سریع‌تر و با کارایی بالاتر اجرا میشه. مدل Jev اصلاً تولید متن انجام نمیده برای همین بخش بزرگی از هزینه‌ی معمول Token Generation حذف میشه. یک نکته‌ی فنی جالب دیگه هم Cardinality هست؛ Jev می‌تونه تا 255 انتخاب رو مدیریت کنه. برای تعداد انتخاب‌های بالا، سیستم از یک Two-Stage Decision Process استفاده می‌کنه: ابتدا گزینه‌ها به‌صورت مستقل امتیازدهی میشن و بعد مدل یک انتخاب نهایی انجام میده به همین دلیل در بعضی موارد Latency کمی افزایش پیدا می‌کنه. @silicon_brain | از هوش مصنوعی عقب نمانید

قابل توجه AI Engineer ها! 4 تا موردی که قسمت آخر پست قبلی گفته شده، جز مهمترین معیار های مقایسه و انتخاب LLM ها برای تسک های عمومی و Agentic یا RAG در آینده خواهد بود