علوم اعصاب و روانشناسی | NeuroVerse

❔ چند روز پیش چند سوال درباره هوش مصنوعی و تصمیم‌گیری ازتون پرسیدم. هدفم بیشتر از اینکه خود نتیجه نظرسنجی باشه، رسیدن به یک سوال بود که مدتیه ذهنم رو درگیر کرده وقتی برای فکر کردن و تصمیم گرفتن از هوش مصنوعی کمک می‌گیریم، چقدر از تصمیم نهایی واقعا متعلق به خودمونه؟ جواب‌هایی که دادید از این جهت برام جالب بود. مثلاً در یکی از سوال‌ها، ۵۹ درصدتون گفته بودید حداقل یک‌بار پیش اومده که بعد از صحبت با هوش مصنوعی درباره اختلافی که با شخص دیگه‌ای داشتید، بیشتر مطمئن بشید که حق با خودتون بوده. در سوال دیگه، تقریباً نیمی از شما گفته بودید که هوش مصنوعی حداقل تا حدی روی یکی از تصمیم‌های واقعی‌تون اثر گذاشته. وقتی هم پرسیدم اگر بعد از یک گفت‌وگوی طولانی با هوش مصنوعی نظرتون تغییر کنه، این تغییر رو چطور می‌بینید، بخش قابل‌توجهی از جواب‌ها این بود که ماجرا «خودم قانع شدم» نیس؛ یا احساس می‌کردید AI روی جهت فکرتون اثر گذاشته، یا تغییر نظر رو ترکیبی از هر دو می‌دیدید. البته این یک نظرسنجی داخل کاناله و قرار نیست ازش نتیجه علمی بگیریم. چیزی که برای من مهم‌تر بود این بود که ببینم تجربه‌ای که خود شما ازش گفتید، در پژوهش‌های علمی هم دیده شده یا نه. ✴️فرض کنید با یکی از دوستاتون بحثتون شده. بعد میاید ماجرا رو برای ChatGPT یا یک مدل دیگه تعریف می‌کنید. طبیعتا ماجرا رو از زاویه خودتون تعریف می‌کنید و هوش مصنوعی هم بعد از شنیدن حرف‌هاتون میگه: حق با توئه. احتمالا حس خوبی داره. شاید حتی با خودتون بگید می‌دونستم من درست می‌گم. مسئله اینجاست که این مثال دیگه کاملا فرضی نیست. 🔍 در پژوهشی که در مجله Science منتشر شده، پژوهشگران رفتار مدل‌های پیشرفته هوش مصنوعی رو از نظر پدیده‌ای به نام sycophancy بررسی کردند؛ یعنی تمایل مدل به همراهی و تایید کاربر، حتی وقتی این تایید لزوماً موجه نیست. در این پژوهش، مدل‌های هوش مصنوعی به‌طور متوسط حدود ۴۹ درصد بیشتر از انسان‌ها رفتار و موضع کاربر رو تایید می‌کردند. بعد پژوهشگران سراغ موقعیت‌های واقعی‌تر رفتند و از افراد خواستند درباره اختلاف‌ها و تعارض‌هایی که در زندگی واقعی با دیگران داشتند، با هوش مصنوعی صحبت کنند. نتیجه جالب بود. گفت‌وگو با هوش مصنوعی تاییدگر باعث می‌شد افراد بیشتر احساس کنند حق با خودشونه، سهم خودشون رو در اختلاف کمتر ببینند و تمایل کمتری برای برداشتن قدمی در جهت بهتر کردن رابطه داشته باشند. اما یک بخش این نتیجه برای من از بقیه مهم‌تر بود افراد پاسخ‌های تاییدگر رو بیشتر دوست داشتند و بیشتر هم به اون‌ها اعتماد می‌کردند. یعنی ممکنه دقیقا همون چیزی که شنیدنش برای ما خوشاینده، باعث بشه اعتمادمون به اون سیستم هم بیشتر بشه. حالا این ماجرا رو از فضای دعوا و اختلاف بیرون بیاریم. فرض کنید می‌خواید چیزی بخرید. چند روز با هوش مصنوعی درباره‌ش حرف می‌زنید، گزینه‌ها رو مقایسه می‌کنید، مزایا و معایب رو می‌پرسید، بعضی گزینه‌ها حذف می‌شن، بعضی‌ها پررنگ‌تر می‌شن و در نهایت به یک انتخاب می‌رسید. طبیعتاً می‌گید: «من این رو انتخاب کردم.» اما سوال اینه که در طول این گفت‌وگو، چه مقدار از مسیر رسیدن به اون انتخاب رو خودمون ساختیم و چه مقدارش تحت تاثیر مسیری بوده که پیشنهادها و پاسخ‌های هوش مصنوعی جلوی ما گذاشته؟ مرز بین کمک به تصمیم‌گیری و جهت دادن به تصمیم دقیقاً کجاست؟ پژوهش دیگه‌ای که در Science Advances منتشر شده، از زاویه متفاوتی به همین مسئله نزدیک شده. در این مطالعه، افراد برای نوشتن درباره موضوعات اجتماعی بحث‌برانگیز از یک دستیار هوش مصنوعی کمک می‌گرفتند. چیزی که خود افراد نمی‌دونستند این بود که پیشنهادهای دستیار در بعضی شرایط از قبل به سمت یک موضع مشخص جهت داده شده بود. در پایان، فقط نوشته‌های افراد نبود که به سمت دیدگاه هوش مصنوعی حرکت کرده بود؛ نگرش شخصی خودشون هم تغییر کرده بود. جالب‌تر اینکه خیلی از افراد متوجه نشده بودند که پیشنهادهای هوش مصنوعی جهت‌گیری داشته و روی نگرش خودشون هم اثر گذاشته. به نظرم اینجا مسئله کمی جدی‌تر می‌شه. چون دیگه فقط درباره این حرف نمی‌زنیم که هوش مصنوعی ممکنه اطلاعات اشتباه بده یا پیشنهاد بدی مطرح کنه. داریم درباره تاثیری حرف می‌زنیم که ممکنه در جریان یک تعامل کاملاً عادی اتفاق بیفته، بدون اینکه خود فرد لزوماً متوجه میزان اون تاثیر باشه. حالا یک متغیر دیگه رو هم به ماجرا اضافه کنیم اطلاعات شخصی ما. اگر هوش مصنوعی فقط سوال ما رو نبینه و چیزهایی هم درباره خودمون بدونه چی؟ بدونه چه چیزهایی برامون مهمه، چه دیدگاه‌هایی داریم، چه چیزهایی نگرانمون می‌کنه یا چه نوع استدلالی احتمالاً برای ما قانع‌کننده‌تره. پژوهشی که در Nature Human Behaviour منتشر شده، بخشی از همین موضوع رو بررسی کرده. افراد وارد بحث‌های چندمرحله‌ای با انسان یا GPT شدند و در بعضی شرایط، طرف مقابل اطلاعاتی درباره فرد در اختیار داشت. وقتی GPT می‌تونست از اطلاعات مربوط به مخاطب استفاده کنه، در مقایسه با انسان قدرت اقناع بسیار بالایی از خودش نشون داد. البته اینجا باید در تفسیر نتیجه احتیاط کنیم. این پژوهش نمیگه هوش مصنوعی می‌تونه ذهن ما رو کنترل کنه یا هر عقیده‌ای رو که بخواد به ما تحمیل کنه. چنین نتیجه‌ای از این مطالعات درنمیاد. مسئله خیلی ظریف‌تر از کنترل ذهنه. ما داریم با سیستمی طرف می‌شیم که می‌تونه با ما گفت‌وگو کنه، استدلال بسازه، واکنش ما رو ببینه، پاسخ بعدی خودش رو بر اساس ادامه مکالمه تنظیم کنه و هرچه اطلاعات بیشتری درباره ما داشته باشه، امکان شخصی‌تر کردن این تعامل هم بیشتر می‌شه. حالا برگردیم به آخرین سوال نظرسنجی خودمون. ازتون پرسیده بودم اگر هوش مصنوعی شما رو خیلی خوب بشناسه؛ علایق، شخصیت، دغدغه‌ها، ترس‌ها و سابقه تصمیم‌هاتون رو بدونه، آیا باز هم همیشه می‌تونید تشخیص بدید که یک انتخاب واقعاً انتخاب خودتون بوده یا نتیجه جهت‌دهی هوش مصنوعی؟ فقط ۲۷ درصدتون با اطمینان گفته بودید که می‌تونید این دو رو از هم تشخیص بدید. و راستش سوال اصلی من از ابتدا همین بود. سال‌ها درباره آینده‌ای حرف زدیم که در اون هوش مصنوعی بخشی از کارهای انسان رو انجام میده. اینکه چه شغل‌هایی رو تغییر میده، چه کارهایی رو خودکار می‌کنه و کجا ممکنه جای انسان رو بگیره. اما حالا اتفاق دیگه‌ای هم در حال رخ دادنه هوش مصنوعی داره وارد فرایند فکر کردن ما می‌شه. برای انتخاب ازش کمک می‌گیریم. برای حل اختلاف سراغش می‌ریم. برای تصمیم‌های شخصی باهاش مشورت می‌کنیم. گاهی حتی وقتی حال خوبی نداریم، باهاش حرف می‌زنیم. هیچ‌کدوم از این‌ها به‌خودی‌خود بد نیست. اتفاقاً به نظرم یکی از ارزشمندترین کاربردهای هوش مصنوعی همینه که بتونه کمکمون کنه یک مسئله رو از چند زاویه ببینیم، اطلاعات بیشتری داشته باشیم و در نهایت بهتر تصمیم بگیریم. اما شاید در کنار استفاده از این ابزار، لازم باشه یک مهارت جدید رو هم جدی‌تر یاد بگیریم اینکه از هوش مصنوعی برای بهتر فکر کردن استفاده کنیم، نه اینکه خود فکر کردن رو بهش واگذار کنیم. مثلاً همیشه ازش نپرسیم حق با منه؟ یا دوستم گاهی ازش بخوایم قوی‌ترین استدلال علیه نظر ما رو هم مطرح کنه. وقتی تصمیم مهمی داریم، فقط نپرسیم کدوم گزینه بهتره؟؛ ازش بخوایم فرض‌هایی رو که ممکنه در تصمیممون اشتباه باشه پیدا کنه. یا حتی ازش بپرسیم: اگر بخوای من رو به سمت یک انتخاب خاص هل بدی، کجای این استدلال ممکنه این اتفاق افتاده باشه؟ شاید آینده هوش مصنوعی درباره این نباشه که ماشین‌ها چه کارهایی رو به جای ما انجام خواهند داد. سوال مهم‌تر اینه اگر بخشی از تصمیم‌ها، قضاوت‌ها و حتی باورهای ما در جریان گفت‌وگو با الگوریتم‌ها شکل بگیره، آیا همیشه متوجه می‌شیم کدوم قسمت از اون انتخاب واقعاً از خودمون اومده؟ شاید مسئله اصلی همین باشه هوش مصنوعی قرار نیست لزوماً تصمیم رو از ما بگیره؛ ممکنه فقط روی مسیری که به تصمیم می‌رسیم اثر بذاره. و این دو، خیلی شبیه هم به نظر می‌رسن؛ اما یکی نیستن.

👊این ابزار مشکلت رو به یه کتاب تبدیل میکنه ... ▪️یسری مشکل مثل دیو چنگ انداختن و مانع پیشرفت ما شدن، ولی برای جنگیدن هر دیوی یه کتاب وجود داره که باید بخونی!👹📚 ▪️نورولینگو با کمک سوالاتی که ازت میپرسه بهت کمک می‌کنه از مشکلت به یه کتاب برسی. 🤝🙂‍↔️ این تست رو از طریق neurolingo.ir یا فشردن این کلمه بدین؛ جوابشم می‌تونین مثل عکس دانلود کنین و با بقیه به اشتراک بذارین.😁 ◀️پشتیبانی مونم که مثل همیشه اینجا فعاله. گروه عمومی نورولینگو

👀 رأی دادی یا هنوز داری فکر می‌کنی چی رأی بدی؟ 🤑نظرسنجی منتظر نظر توئه بزن بریم ببینیم آخرش به چه نتیجه‌ای می‌رسیم! ✅

سوال‌ها همین‌جا تموم می‌شه، اما نظرسنجی همچنان بازه. 🤖 🔖 اگر هنوز رای ندادید، حتما توی نظرسنجی‌ها شرکت کنید. هرچقدر مشارکت بیشتر باشه، نتایجی که در نهایت با هم بررسی می‌کنیم جالب‌تر و قابل‌تامل‌تر می‌شه. ممنون از همه‌تون که وقت می‌ذارید و نظرتون رو ثبت می‌کنید. 🙏 ⏳ حدود ۴۸ ساعت دیگه برمی‌گردیم سراغ نتایج، رأی‌ها رو کنار هم می‌ذاریم و صحبت می‌کنیم. پس اگر هنوز شرکت نکردید، رأی‌تون رو ثبت کنید؛ نتیجه این بحث رو، پاسخ‌های شما می‌سازه. 👫

💻این روزها خیلی‌هامون برای تصمیم‌گیری، حل مسئله، انتخاب بین چند گزینه یا حتی وقتی با کسی اختلاف داریم، سراغ هوش مصنوعی می‌ رویم اما می‌خوام قبل از اینکه درباره این موضوع بیشتر صحبت کنیم، تجربه و نظر شما رو بدونم 🤖هوش مصنوعی چقدر روی تصمیم‌ها و قضاوت‌های ما تاثیر می‌ذاره؟ چند سوال کوتاه در ادامه می‌ذارم. لطفا بر اساس تجربه واقعی خودتون جواب بدید.

🔍اگر با لنز سیستمی به این سخنرانی دکتر مکری نگاه کنیم، شاید اولین مسئله ای که توجهمان را جلب کند، خطی دیدن ماجرا باشد باور غلط 🔙خطای شناختی 🔙 آموزش تفکر نقادانه 🔙 اصلاح باور ولی ماجرا کمی پیچیده‌تر از این ها هست . همان‌طور که دکتر مکری اشاره می‌کند، یک باور می‌تواند با هیجان، رنج، هویت، احساس تعلق و نیاز ما به امنیت درهم‌تنیده باشد. در این صورت، چیزی که ما از بیرون خطای شناختی می‌بینیم، شاید درون آن سیستم کار دیگری هم انجام می‌دهد؛ مثلا به فرد کمک می‌کند اضطرابش را کمتر کند، برای تجربه‌هایش معنایی بسازد یا بخشی از هویتش را حفظ کند. اینجا مفهوم بازخورد Feedback جالب می‌شود. فرض کنیم به چنین باوری مستقیما حمله کنیم. شاید فرد بیشتر احساس تهدید کند، بیشتر از موضعش دفاع کند و بیشتر به سراغ شواهدی برود که باور قبلی‌اش را تایید می‌کنند. در این صورت، مداخله‌ای که قرار بود باور را ضعیف کند، ممکن است ناخواسته وارد یک حلقه بازخورد تقویت‌کننده شود و همان باور را مقاوم‌تر کند. از این زاویه، تاکید مارشا لینهان بر Validation هم معنای جالبی پیدا می‌کند. شاید قبل از اینکه بخواهیم یک باور را تغییر دهیم، بد نباشد بفهمیم این باور در زندگی فرد چه نقشی پیدا کرده و به چه بخش‌های دیگری از سیستم وصل شده است. به نظرم این همان جایی است که نگاه سیستمی می‌تواند چیزی به بحث دکتر مکری اضافه کند. به‌جای اینکه فقط بپرسیم ☺️خطای این فرد کجاست؟، شاید بتوانیم کمی عقب‌تر بایستیم و بپرسیم چه مجموعه‌ای از روابط و بازخوردها این باور را سر پا نگه داشته‌اند؟ و اگر یکی از آن‌ها را دست‌کاری کنیم، بقیه سیستم چه واکنشی نشان می‌دهد؟ شاید بعضی وقت‌ها چیزی که ما به‌عنوان مشکل می‌بینیم، بخشی از یک الگوی بزرگ‌تر باشد الگویی که تا روابط میان اجزایش را نبینیم، فهمیدن رفتار هر جزء به‌تنهایی چندان آسان نیست.