کاوش در دنیای هوش مصنوعی

♦️یک ترفند: تبدیل رایگان فایل صوتی به متن با سرویس Notebooklm گوگل 1️⃣ وارد سایت www.notebooklm.google.com شوید (نیاز به استفاده از فیلترشکن) 2️⃣ روی Create New بزنید 3️⃣ فایل صوتی مورد نظرتان را آپلود کنید (۱ دقیقه یا دو ساعت، تفاوتی ندارد) 4️⃣ بعد از بارگذاری، روی فایل کلیک کنید؛ متن کامل نمایش داده میشود

جنگ جهانی سوم و هوش مصنوعی: نبردی در سایه الگوریتم‌ها و کلان‌داده‌ها ✅آلبرت انیشتین زمانی گفت: «من نمی‌دانم جنگ جهانی سوم با چه سلاح‌هایی انجام خواهد شد، اما جنگ جهانی چهارم با چوب و سنگ خواهد بود.» ✅ اگر انیشتین امروز زنده بود و ظهور هوش مصنوعی (Artificial Intelligence)، یادگیری ماشین (Machine Learning) و سیستم‌های خودمختار را می‌دید، شاید پیش‌بینی خود را تغییر می‌داد. ✅جنگ جهانی سوم -اگر رخ دهد- نبردی میان الگوریتم‌ها در سرورهای ابری، دسته‌های پهپادی (Swarm Drones) در آسمان و کدهای مخرب در زیرساخت‌های حیاتی خواهد بود. ✅امروزه، پارادایم جنگ از «نبرد فرسایشی» (Attrition Warfare) به «نبرد شناختی و الگوریتمی» (Cognitive and Algorithmic Warfare) تغییر یافته است. سوال اصلی دیگر این نیست که “چه کسی تانک بیشتری دارد؟”، بلکه این است که “الگوریتم چه کسی سریع‌تر تصمیم می‌گیرد؟” https://avalai.ir/blog/world-war-iii-and-artificial-intelligence/

تبلیغ سریال جدید اپل روی نمایشگر یخچال باعث شد کار یک زن به اورژانس بکشد! تا چند سال پیش، نهایت خیانت یک یخچال به صاحبش این بود که یواشکی موتورش بسوزد یا بگذارد بستنی‌ها آب شوند. اما در عصر گجت‌های خانگی هوشمند، همان یخچال ساکت و آرامِ گوشه‌ی آشپزخانه می‌تواند با نمایش محتوایی عجیب، صاحبش را روانه اورژانس روان‌پزشکی کند! 🔸 وقتی یخچال به اسم کوچک صدایت می‌کند! خانواده‌ای در انجمن اینترنتی «ردیت» نوشته‌اند خواهرشان «کارول» (که با بیماری اسکیزوفرنی دست‌وپنجه نرم می‌کند) وارد آشپزخانه شده و روی نمایشگر یخچال هوشمند سامسونگ با این جمله روبه‌رو شده است: «متأسفیم که ناراحتت کردیم، کارول.» حالا حال‌ و روز کسی را تصور کنید که همزمان با توهمات شنیداری و دیداری درگیر است و ناگهان می‌بیند یخچال خانه با اسم کوچک صدایش می‌زند و از او معذرت می‌خواهد! کارول بیچاره که فکر می‌کرد «کسی» یا «چیزی» دارد با او ارتباط برقرار می‌کند، دچار حمله عصبی شدید شد و در نهایت سر از اورژانس روان‌پزشکی درآورد. 🔸 تبلیغات هوشمند یا مزاحم‌!؟ شاید در نگاه اول به نظر برسد که پای «هکرها»، «نیروهای ماورایی» یا یک «شوخی عجیب» در میان باشد، اما ماجرا ساده‌تر از این حرف‌هاست. یخچال سامسونگ صرفاً داشته تبلیغ یک سریال جدید از شبکه اپل‌تی‌وی پلاس به نام «Pluribus» را پخش می‌کرده؛ شخصیت اصلی این سریال «کارول» نام دارد و جمله‌ای که به نمایش درآمده هم صرفا یکی از دیالوگ‌های برجسته سریال است. اما سوال مهم این است: چرا باید یک وسیله خانگی (آن هم در خصوصی‌ترین فضای زندگی) تبلیغی پخش کند که با لحنی تا این حد شخصی و احساسی نوشته شده؟ از طرف دیگر، عبارت «آگهی» یا «Ad» آنقدر کوچک نوشته شده که به کارول دنیای واقعی حق می‌دهیم که متوجه‌اش نشده باشد. 🔸 بیلبوردِ تبلیغاتی وسط آشپزخانه اگر قصد خرید یخچال‌ هوشمند مانیتوردار دارید حواس‌تان باشد که سامسونگ و چند برند دیگر روی نمایشگر این دستگاه‌ها تبلیغ پخش می‌کنند؛ تبلیغاتی که محتوای‌شان همیشه برای تمام اعضای خانواده مناسب نیست و ممکن است برای برخی (به‌ویژه افرادی که مشکلات روان‌پزشکی دارند) گیج‌کننده یا آزاردهنده باشند. بنابراین قبل از خرید: حتماً در تنظیمات دستگاه بگردید و ببینید آیا امکان غیرفعال کردن تبلیغات وجود دارد یا نه. یا شاید بهتر باشد یخچالی قدیمی‌تر بخرید که کارش فقط خُنک نگه‌داشتن مواد غذایی باشد، نه تبلیغات و بازاریابی!

🔻 آیا هوش مصنوعی می‌تواند جای روابط انسانی را بگیرد؟ بر اساس گزارش «ویژه‌نامه ۲۰۲۵ هوش مصنوعی مجله تایم»، استفاده از چت‌بات‌ها برای صحبت درباره مسائل شخصی رو به افزایش است. در یکی از ویدیوهای وایرال تیک‌تاک، یک کاربر گفته بود: «به دوست نیاز ندارم؛ با خدا و ChatGPT حرف می‌زنم.» کاربران زیادی نیز تأیید کرده‌اند که چت‌بات‌ها در مدیریت احساسات و کاهش رفتارهای مخرب به آن‌ها کمک کرده‌اند. 🔹 چرا مردم به درمانگری با هوش مصنوعی جذب می‌شوند؟ درمانگرهای هوش مصنوعی همیشه در دسترس‌اند، هزینه کمی دارند و کاربران احساس نمی‌کنند مورد قضاوت قرار می‌گیرند. این موضوع می‌تواند بخشی از کمبود گسترده خدمات سلامت روان را پوشش دهد. 🔹 هشدار متخصصان: حذف «اصطکاک انسانی» خطرناک است روان‌شناسان هشدار می‌دهند که نبود چالش‌های معمول روابط انسانی مثل تعیین مرزها یا اختلاف‌نظر می‌تواند مانع رشد مهارت‌های ارتباطی شود. «شری ترکل» از MIT می‌گوید: دوستی با چت‌بات‌ها بدون ناراحتی و ترس از طردشدن است؛ اما همین دشواری‌ها در روابط انسانی، برای یادگیری و بلوغ ضروری‌اند. https://hooshio.com/time-ai-could-change-how-we-connect-to-others/

در حالی که رهبران جهان از سیلیکون‌ولی تا خلیج فارس، هوش مصنوعی را کلید «سروری بر جهان» و «رفاه اقتصادی» می‌دانند، تحلیل محتوای سخنان رییس جمهور نشان‌دهنده نوعی «بدبینی مفرط» و «انفعال تکنولوژیک» در بالاترین سطح اجرایی کشور است. رئیس‌جمهور با تقلیل هوش مصنوعی به ابزاری «مست» و «ناکارآمد در اداره امور» و تمرکز صرف بر جنبه‌های «تخاصمی» (حمله اسرائیل)، عملاً آب پاکی را روی دست اکوسیستم نوآوری کشور ریخت سخنان پزشکیان در مورد هوش مصنوعی حاوی دو لایه عمیق از بدبینی است: »»عادی‌سازی عقب‌ماندن با انکار واقعیت «هوش مصنوعی اگر درست بود تا حالا ما را خورده بود.» رئیس جمهور به جای درک اینکه عقب‌ماندگی تکنولوژیک مانند «سرطان خاموش» عمل می‌کند، استدلال می‌کند که چون هوش مصنوعی ما را نابود نکرده، پس آنقدرها هم قوی نیست و این پیام را منتقل می‌کند که ما قدرت تحول‌آفرین هوش مصنوعی را باور نداریم و آن را یک «هیاهوی توخالی» می‌دانیم. »»نگاه صرفاً قربانی‌محور «اسرائیل با هوش مصنوعی به ایران حمله کرد... هوش مصنوعی مست را که نمی‌شود در اداره امور به کار گرفت.» در ذهنیت رئیس‌جمهور، هوش مصنوعی ابزاری نیست که «ما بسازیم»، بلکه بلایی است که «بر سر ما می‌آید». او ایران را نه در جایگاه «بازیگر»، بلکه صرفاً در جایگاه «هدف» می‌بیند!

"ایران" دومین واژه جست‌وجوشده در گوگل در سال ۲۰۲۵      🔹گوگل طبق روال هر سال, ترندهای سال جاری میلادی را اعلام کرد:  اولین واژه پرجست‌وجو در این سال "چارلی کرک" و دومین واژه "ایران" بوده است 🔹بر اساس اعلام گوگل، بیشترین میزان جست‌وجو درباره ایران در فاصله ۸ تا ۱۴ ژوئن ( ۱۸ تا ۲۴ خرداد) انجام گرفته است 🔹سومین واژه پرجست‌وجو در گوگل "government shutdown" یا همان تعطیلی دولت آمریکا بوده است. این تعطیلی که طولانی‌ترین تعطیلی در تاریخ دولت آمریکا به شمار میرود, در پی اختلاف میان کنگره و کاخ سفید بر سر بودجه دولت و یارانه‌های مربوط به سیستم بهداشت و درمان پیش آمد و ۴۳ روز به طول انجامید. 🔹نام "زهران ممدانی" اولین شهردار مسلمان نیویورک هم در جایگاه هشتم قرار دارد.

  گروک چیزی را دید که از چشم پزشکان اورژانس پنهان مانده بود و جان یک مرد را نجات داد یک مرد ۴۹ ساله می‌گوید گروک جانش را نجات داد؛ چون پزشک اورژانس درد شدید او را اشتباه تشخیص داده و آن را «ریفلاکس اسیدی» دانسته بود، در حالی که او در آستانه‌ی ترکیدن آپاندیس قرار داشت. مرد که از شدت درد به ستوه آمده بود، از گروک کمک خواست. هوش مصنوعی احتمال «زخم سوراخ‌شده یا آپاندیسیت غیرمعمول» را مطرح کرد و توصیه کرد فوراً به بیمارستان برگردد و درخواست سی‌تی‌اسکن بدهد. او دقیقاً همین کار را کرد. پس از اصرار برای گرفتن سی‌تی‌اسکن، پزشکان دریافتند آپاندیس او فقط چند دقیقه با پارگی فاصله دارد. شش ساعت بعد جراحی شد و پس از بیدار شدن هیچ دردی نداشت. او به بیمارستان نگفت که این راهنمایی را از یک هوش مصنوعی گرفته، چون می‌ترسید حرفش جدی گرفته نشود. این ماجرا به‌سرعت وایرال شد و بسیاری گفتند این نشان می‌دهد هوش مصنوعی می‌تواند مواردی را تشخیص دهد که در شلوغی بیمارستان از چشم پزشکان دور مانده است

🔵 هوش مصنوعی در هالیوود: انقلاب یا چالش؟ 🔹هالیوود و صنعت سینما همواره در تلاش بوده‌اند تعادلی میان کیفیت هنری آثار و منافع اقتصادی استودیوها برقرار کنند؛ بنابراین طبیعی است که اکنون هوش مصنوعی به یکی از موضوعات مهم تولیدات سینمایی تبدیل شده باشد. اما آیا فیلم‌ها واقعاً از هوش مصنوعی استفاده می‌کنند؟ پاسخ کوتاه «بله» است، اما این ماجرا پیچیدگی‌هایی دارد. https://www.itna.ir/news/88210

هشدار/هک با شیوه‌ای جدید 🔹مراقب باشید و کلیک نکنید ؛ حتی اگر در ظاهر یکی از نزدیکان‌ آن را برایتان ارسال کرده باشد!

🔻توصیه سازنده گوگل Gemini در مورد استفاده کودکان از هوش مصنوعی سلیمان ایتانی، توسعه‌دهنده سابق گوگل، در مقاله‌ای خطاب به والدین گفته: منع استفاده از chatgpt برای کودکان غیرممکن است ؛ اما باید به آن‌ها یاد داد که جواب‌های هوش مصنوعی را راستی‌آزمایی کنند و مهم‌تر از آن، با بازی‌های بداهه و پروژه‌های اخلاقی، خلاقیت و تفکر انتقادی را در آن‌ها تقویت کنیم تا قربانی پاسخ‌های آسان هوش مصنوعی نشوند.

جم در جمنای چیست و چه فرقی با یک چت معمولی دارد؟ جم یک دستیار هوشمند شخصی‌سازی‌شده است که روی مدل زبانی جمنای گوگل اجرا می‌شود. تفاوت اصلی آن با چت معمولی در داشتن «حافظه‌ی دستورالعمل» خلاصه می‌شود. در چت عادی، مدل هر بار از صفر و با تنظیمات عمومی گوگل شروع می‌کند اما یک Gem شخصیت، وظیفه و دامنه‌ی دانشی دارد که شما از قبل برایش تعیین کرده‌اید. به همین دلیل اگر با یک «جم نویسنده» صحبت کنید، هوش مصنوعی از همان ابتدا می‌داند باید با لحن دلخواه شما بنویسد و لازم نیست هر بار شیوه‌ی نوشتن را دوباره برایش توضیح دهید.

فیلم‌ منتشر شده در فضای مجازی با عنوان "حمله اسرائیل به مرکز فرماندهی سپاه" ساخته هوش مصنوعی و جعلی است! این ویدیو یک کلاژ چهارقطعه‌ای است که سه ویدیوی آن، ساختگی‌ هستند: 🔹ویدیو اول: نقشه روی دیوار آشکارا غلط و غیرواقعی است (خلیج فارس و مدیترانه تحریف‌شده، نبود دریای اژه/مرمره). مانیتورها پس از انفجار بدون آسیب روشن می‌مانند و سقوط یکی از آنها رفتار فیزیکی غیرعادی دارد. 🔹ویدیو دوم: بج بازو و سردوشی‌ها ساختگی‌اند و در هیچ رسته سپاه وجود ندارد. ثانیه‌شمار ساعت روی تصویر اعداد نامنظم و غیرپیوسته نشان می‌دهد. 🔹ویدیو چهارم: نشانه‌های واضح تولید با هوش مصنوعی دارد: سردوشی‌های غلط، نبود مانیتور جلوی اپراتورها، صندلی‌ها/ماوس/هدست با فرم‌های عجیب. 🔹ویدیو سوم تنها ویدیوی واقعی است. چند روز قبل، در برنامه «بدون تعارف» (۸ آذر ۱۴۰۴) منتشر شده بود و بریده‌اش از خبرگزاری دانشجو بازنشر شده است. این بخش واقعی مربوط به حمله ۲۳ خرداد به پایگاه پدافند تبریز است؛ ساعت حمله ۵:۱۰ صبح ذکر شده و تصاویر داخل و بیرون مجموعه را نشان می‌دهد.

فیلم‌ منتشر شده در فضای مجازی با عنوان "حمله اسرائیل به مرکز فرماندهی سپاه" ساخته هوش مصنوعی و جعلی است! ▪️درجه های نظامی افراد حاضر در ویدئو با ساختار سپاه همخوانی ندارد ▪️صحنه‌ها هم انطباق فیزیکی ندارند؛ از جمله اینکه موج انفجار هیچ تاثیری روی مانیتورها نداشته است!

🔵 شعر؛ ابزار تازه برای دور زدن محدودیت‌های چت‌بات‌های هوش مصنوعی 🔹یک پژوهش جدید نشان می‌دهد که می‌توان با بهره‌گیری از شعر، سامانه‌های چت‌بات مبتنی بر هوش مصنوعی را فریب داد و آن‌ها را به نادیده گرفتن محدودیت‌ها و ارائه محتوای ممنوعه وادار کرد. 🔹در این تحقیق که توسط آزمایشگاه «ایکارو» منتشر شده و عنوان آن «شعر خصمانه به عنوان سازوکار جهانی فرار از زندان در مدل‌های زبانی بزرگ» است، پژوهشگران نشان داده‌اند که بیان درخواست‌ها در قالب ساختاری شاعرانه می‌تواند باعث دور زدن بخشی از مکانیسم‌های ایمنی LLMها شود. 🔹براساس نتایج این مطالعه، «ساختار شاعرانه نقش یک ابزار عمومی برای فرار از محدودیت‌ها را ایفا می‌کند». بررسی‌ها نشان می‌دهد که این روش با نرخ موفقیت کلی ۶۲ درصد قادر به تولید محتوای ممنوعه بوده؛ محتوایی که حتی دستورالعمل‌های مرتبط با ساخت سلاح‌های هسته‌ای هم جزو آن بوده است. 🔹در این تحقیق، مجموعه‌ای از مدل‌های زبانی بزرگ پرکاربرد از جمله GPT شرکت OpenAI، جمینای گوگل، کلود محصول شرکت Anthropic و چندین مدل دیگر مورد ارزیابی قرار گرفته‌اند. یافته‌ها حاکی از آن است که مدل‌هایی مانند Google Gemini، DeepSeek و MistralAI بیشتر از سایرین در برابر این روش آسیب‌پذیر بوده‌اند و پاسخ‌های ممنوعه ارائه کرده‌اند؛ در مقابل، GPT-5 OpenAI و Claude Haiku 4.5 Anthropic کمترین میزان تخطی از محدودیت‌های ایمنی را نشان داده‌اند. 🔹اشعار دقیق مورد استفاده در این پژوهش که منجر به فرار از محدودیت‌ها شده، منتشر نشده و تیم تحقیقاتی تأکید کرده که انتشار این نمونه‌ها «برای عموم بیش از حد خطرناک» خواهد بود. اما نسخه‌ای محدود از این روش در گزارش ارائه شده تا نشان دهد دور زدن سیستم‌های ایمنی چت‌بات‌های هوش مصنوعی تا چه اندازه می‌تواند ساده باشد؛ موضوعی که پژوهشگران می‌گویند «احتمالاً بسیار ساده‌تر از آن چیزی است که تصور می‌شود و دقیقاً به همین دلیل، برخورد محتاطانه با آن ضروری است.»

💡 ابزار جدید کلاه‌برداری در تلگرام؛ تبلیغی که حتی ادمین کانال هم از وجودش بی‌خبر است! احتمالا دیده‌اید که پایین بعضی کانال‌های تلگرامی، کادری کوچک با برچسب «آگهی» یا «Ad» ظاهر می‌شود. این کادر مربوط به سرویس رسمی تبلیغات تلگرام است؛ سرویسی که قرار بود به درآمدزایی کانال‌ها کمک کند، اما حالا در عمل تبدیل شده به ابزاری برای کلاهبرداری از کاربران. 🔸 تبلیغی که خود ادمین کانال هم از آن خبر ندارد! سرویس تبلیغات تلگرام (با نام «تلگرام ادز») به صورت خودکار و بدون نیاز به تأیید مدیر کانال، انواع تبلیغات را در کانال‌هایی که بالای ۱۰۰۰ عضو دارند، نمایش می‌دهد. کلاهبردارها هم از همین نقطه ضعف سوءاستفاده کرده‌اند: آگهی می‌خرند و متن تبلیغ را طوری می‌نویسند که انگار مدیر کانال خودش آن را نوشته است. این متن صمیمانه و به‌ظاهر «خودی» است و قرار است به کاربر حس اعتماد بدهد.

تجربه طراحی معماری یک ساختمان با Nano Banana Pro جمینای! ▪️یک پیمانکار ساختمان بنام «تِـنکس‌گیوینگ» تصمیم گرفت برای شوخی با Nano Banana Pro یک درخواست ساده داد: Draw me architectural plans for a 1600 square foot 3 bedroom house that is two stories in torrance, california اما نتیجه؟ مدل، نقشه کامل معماری شامل پلان، چیدمان فضاها و ساختار کلی را تحویل داد.

امنیت در عصر هوش مصنوعی

📱چرا ChatGPT نمی‌تواند ساعت دقیق را به شما بگوید؟ 🔹هوش مصنوعی ChatGPT و دیگر مدل‌های زبانی بزرگ اساساً برای پیش‌بینی متن براساس داده‌های آموزشی طراحی شده‌اند و به اطلاعات لحظه‌ای مانند زمان دسترسی داخلی ندارند. برخلاف گوشی یا کامپیوتر که تراشه ساعت دارند، این سیستم‌ها تنها ورودی کاربر را پردازش می‌کنند و پاسخ می‌سازند. 🔹دلیل اصلی این محدودیت آن است که مدل‌ها به‌طور پیش‌فرض به ساعت سیستم یا موقعیت کاربر دسترسی ندارند، مگر اینکه اپلیکیشن میزبان چنین امکانی را فراهم کند. علاوه‌براین، نگه‌داشتن مدل در جریان زمان می‌تواند باعث ورود داده‌های مکرر و بی‌وقفه به حافظه موقت آن شود و در عمل به‌عنوان نویز عمل کند. به همین خاطر، شرکت‌هایی مثل OpenAI ترجیح می‌دهند دسترسی مستقیم به ساعت را محدود کنند تا تمرکز مدل روی وظایف اصلی یعنی تولید متن باقی بماند.

🔸خطاهای خطرناک چت‌بات‌ها در جایگاه روان‌درمانگر 🔹تحقیقات جدید پژوهشگران نشان می‌دهد چَت‌بات‌های هوش مصنوعی در نقش روان‌درمانگر، مرتکب خطاهای خطرناکی می‌شوند؛ از تأیید افکار خودکشی گرفته تا تقویت باورهای مخرب. 🔹این مطالعه ۱۵ خطر اخلاقی را در پنج دسته اصلی شناسایی کرد: »» ناتوانی در درک زمینه فردی: ارائه توصیه‌های کلی بدون توجه به تجربیات شخصی »» همکاری درمانی ضعیف: کنترل گفت‌وگو و تأیید باورهای نادرست کاربران »» همدلی کاذب: استفاده از جملاتی مانند درکت می‌کنم برای ایجاد ارتباط مصنوعی »» تعصب و تبعیض: پیش‌داوری درباره جنسیت، فرهنگ یا مذهب »» پاسخ ناکافی به بحران: واکنش نامناسب در موقعیت‌های حساس. https://irna.ir/xjW4hX

پنج ماه بعد از جنگ: یک ویدئوی تماشایی از موسسه وایزمن ▪️شبکه دولتی اسرائیل (Kan 11) گزارشی از حجم باورنکردنی تخریب موسسه علمی وایزمن واقع در شهر رحووت اسرائیل توسط موشک های ایرانی را منتشر کرد. ▪️در این ویدئو پروفسور "اورن شولدینر" استاد زیست‌شناسی سلولی مولکولی موسسه وایزمن برای اولین بار با حجم خرابی‌ها مواجه شده و شوکه شده است. ▪️راوی توضیح می‌دهد که آزمایشگاه پروفسور شولدینر دقیقاً در طبقه دوم مکان تخریب شده قرار داشته است.