کاوش در دنیای هوش مصنوعی

🔺چالش بزرگ برای KPMG؛ گزارش درباره مزایای هوش مصنوعی پر از توهمات هوش مصنوعی بود 🔹مؤسسه حسابرسی و مشاوره KPMG، یکی از چهار شرکت بزرگ حسابداری جهان که به دیگران درباره هوش مصنوعی مشاوره می‌دهد، فریب توهمات آن را خورد. این موسسه گزارشی درباره مزایای هوش مصنوعی منتشر کرد که اکنون مشخص شده پر از اطلاعات ساختگی و توهمات هوش مصنوعی بوده است. 🔹محققان شرکت GPTZero که سازنده ابزارهای تشخیص محتوای هوش مصنوعی است، با بررسی دقیق گزارش KPMG متوجه شدند که از میان ۴۵ منبع ذکرشده، فقط پنج مورد به منابع واقعی و معتبر ارجاع داده‌اند، باقی آنها منابع جعلی بودند یا بخش‌های ساختگی به منابع واقعی اضافه شده بود؛ ۱۲ مورد نیز آن‌قدر مبهم نوشته شده که وجود خارجی آن‌ها قابل تأیید نبود. محققان تولید منابع جعلی توسط مدل‌های هوش مصنوعی را در این گزارش، Vibe Citing نام‌گذاری کرده‌اند. 🔸برای نمونه، نویسندگان این گزارش ادعا کرده بودند که شرکت هواپیمایی امارات یک چت‌بات به نام Sara دارد که می‌تواند پرواز مسافران را تغییر دهد؛ درحالی‌که سارا تنها یک دستیار موبایلی ساده است که در سال ۲۰۲۳ راه‌اندازی شد و هیچ قابلیتی برای تغییر رزروها ندارد. 🔸در موردی دیگر، این گزارش ادعا کرده بود که بانک یوبی‌اس هوش مصنوعی را در بخش‌های مدیریت ریسک و مشاوره سرمایه‌گذاری ادغام کرده است، اما سخنگوی این بانک بلافاصله این اطلاعات را نادرست خواند و خواستار حذف آن شد. ادعاهای مشابهی درباره استفاده از هوش مصنوعی برای پیش‌بینی ترافیک در سازمان حمل‌ونقل لندن و پیش‌بینی بستری بیماران در سیستم بهداشت ملی منچستر نیز مطرح شد که سخنگویان این سازمان‌ها تمام آن‌ها را گمراه‌کننده و بی‌اساس توصیف کرده‌اند. 🔹پس از افشای این رسوایی، سخنگوی کی‌پی‌ام‌جی اعلام کرد که این شرکت دقت محتوای خود را جدی می‌گیرد و به همین دلیل، گزارش مذکور را از تمام وب‌سایت‌های خود حذف کرده تا شرایط انتشار آن را بررسی کند. 🔹«ادوارد تیان» (Edward Tian)، مدیرعامل GPTZero هشدار می‌دهد که انتشار مقالات پر از اشتباه توسط شرکت‌های مطرح، چشمه اطلاعات را مسموم می‌کند و به گسترش توهمات دست‌دوم هوش مصنوعی دامن می‌زند. مقاله‌های شرکت‌هایی مانند KPMG به‌عنوان منابعی معتبر در سایر پژوهش‌ها مورد استناد قرار می‌گیرند و اطلاعات نادرست آن‌ها به‌سرعت در نشریات تخصصی پخش می‌شود.