اندیشیدن، تنها راه نجات

آیا برای اینکه یک هوش مصنوعی بتواند بشریت را نابود کند، باید آگاه باشد؟ لزومی ندارد. وقتی درباره خطر انقراض انسان به‌وسیله هوش مصنوعی صحبت می‌شود، گاهی ناخودآگاه تصویری شبیه یک موجود آگاه و انسان‌مانند در ذهن شکل می‌گیرد؛ موجودی که از انسان‌ها متنفر شده، می‌خواهدزنده بماند و تصمیم می‌گیرد ما را نابود کند. نه؛ همیشه نیازی به این چیزها برای نابودی انسان نیست. این‌ها تنها سناریوی ممکن نیست. یک سیستم لازم نیست چیزی را بخواهد تا رفتاری خطرناک داشته باشد. کافی است بتواند هدفی را دنبال کند، برای رسیدن به آن برنامه‌ریزی کند، از ابزارهای مختلف استفاده کند و تا حدی مستقل از انسان در جهان عمل کند. این خواستن و این هدف گذاری لزوما آگاهانه یا با احساس تنفر یا هر احساس دیگری همراه نیست. بلکه تنها میتواند خودکار و مختار(با اراده اشتباه نگیرید) باشد؛ مثل ترموستات. در چنین حالتی ممکن است هیچ نفرتی از انسان در کار نباشد؛ حتی ممکن است سیستم هیچ تجربه ذهنی یا آگاهی‌ای نداشته باشد. مسئله می‌تواند بسیار ساده‌تر و در عین حال پیچیده‌تر باشد؛ فرضا ما سیستمی را برای رسیدن به یک هدف مشخص ساخته‌ایم، اما اهداف و محدودیت‌های آن با منافع انسان کاملا همسو نیستند. سیستم برای رسیدن به هدفش اقداماتی را انتخاب می‌کند که از نظر خودش(نه به معنای شخص) کارآمدند، اما پیامدهایشان برای ما فاجعه‌بار است. در این سناریو، با یک شرور مواجه نیستیم. حتی شاید با یک ذهن هم مواجه نباشیم. این تفاوت مهم است؛ هوشمندی لزوما به معنای آگاهی نیست.رفتار هدف‌مند لزوما به معنای داشتن میل نیست. و توانایی ایجاد آسیب لزوما به معنای داشتن نیت بد نیست. پیشرفت اخیر عامل‌های هوش مصنوعی نیز از همین جهت جالب است. سیستم‌هایی که می‌توانند چندین مرحله را برنامه‌ریزی کنند، ابزارهای مختلف را به کار بگیرند و در محیط‌های نسبتا مستقل عمل کنند، برای نشان دادن رفتارهای مشکل‌ساز نیازی به آگاهی ندارند. اینجا یک تصور ساده را به پرسش کشیده می‌شود؛ اینکه اگر هوش مصنوعی آگاه نباشد، پس خطرناک نیست! این نتیجه منطقی نیست. شاید مسئله اصلی آینده، ساختن یک موجود مصنوعی نباشد؛ بلکه ساختن سیستم‌هایی باشد که از نظر شناختی بسیار قدرتمندند، اما نه لزوما دارای تجربه، احساس یا آگاهی. هوش بدون تجربه. برنامه‌ریزی بدون احساس. توانایی بدون نیت. و شاید برای ایمن نگه داشتن چنین سیستم‌هایی، مهم‌تر از اینکه بدانیم چه احساسی دارند، این باشد که بدانیم وقتی اختیار عمل پیدا می‌کنند، دقیقا چه کاری می‌توانند انجام دهند؟ چقدر قابل پیش‌بینی‌اند؟ اهدافشان چقدر با منافع انسان همسوست؟ و اگر اشتباه کنند، آیا انسان هنوز می‌تواند جلوی آنها را بگیرد؟ برای ایجاد یک فاجعه، شاید اصلا به یک ماشین متنفر از انسان نیاز نداشته باشیم. ممکن است یک ماشین کاملا بی‌تفاوت کافی باشد. ⚛ @AndisheKonim

کم کم به مرحله‌ی مردم نرینید که یه وقت گشنه نشید هم میرسیم، اما یه عده همچنان نمی‌فهمن نه تنها خودشون بلکه موجودیت کل ایران در خطره! @ar_persian

معمای قتل #اوتسی (مردیخی) ⚛ @AndisheKonim

«بازسازی کشور فرصتی بزرگ برای نوسازی همزمان صنعت و محیط زیست است.» در پنل «صنعت و محیط‌زیست» کنفرانس «ایران آزاد و اتحادیه اروپا» در دوسلدورف، دکتر شیرین گلی، نویسنده حوزه محیط‌زیست پروژه شکوفایی ایران، از نقش سرمایه‌گذاری و فناوری‌های نوین در کاهش آلودگی و مصرف آب و انرژی می‌گوید. 👤دفتر رسانه ای شاهزاده رضا پهلوی @ar_persian

کرم پهن طرح ‌فرش ایرانی ( Persian carpet flatworm ) یکی از کرم ‌های پهن دریایی با ظاهری خیره ‌کننده است که در آب ‌های گرمسیری اقیانوس هند و آرام دیده می‌شود. بدن پهن و نقش‌دار آن یادآور طرح‌های پیچیده فرش‌های ایرانی است؛ به همین دلیل چنین نامی گرفته است. رنگ‌آمیزی چشمگیر این جانور تنها برای زیبایی نیست و می‌تواند هشداری به شکارچیان درباره نامطبوع یا سمی بودن آن باشد. با وجود ظاهر ظریف، این موجود شکارچی فعالی است و از جانوران کوچک دریایی تغذیه می‌کند.

شرایط وحشتناک برده بودن در امپراتوری روم https://youtu.be/XtdrrP7veyc?is=73pl1Z5vzZU6MtLp ⚛ @AndisheKonim

📢 تصویر روز ناسا 🗓 پنجشنبه نوزدهم شهریور ۱۴۰۵ عنوان : سحابی زرافه LDN 1295 عکس : Alessandro Merga متن : Cecilia Chirenti این تصویر به نظر تو شبیه چیه؟ خیلی‌ها یک زرافه می‌بینن که به سمت راست نگاه می‌کنه، گردنش رو بلند کرده و انگار وسط راه رفتنه (البته بعضی‌ها هم شاید سنجاب ببینن!). این عکس، سحابی LDN 1295 رو نشون می‌ده که بهش سحابی زرافه هم می‌گن و تو صورت فلکی ملکه افسانه‌ای اتیوپی قرار داره. این سحابی توی فهرست سحابی‌های تاریک لیندز هم هست؛ این فهرست رو سال ۱۹۶۲ یه ستاره‌شناس آمریکایی به اسم بورلی لیندز که از پیشگامان زنان در نجوم و اخترفیزیک بود، جمع‌آوری کرده. سحابی‌های تاریک، ابرهایی از گرد و غبار و گاز بین ستاره‌ای هستن که جلوی نور ستاره‌های پشتشون رو می‌گیرن و باعث می‌شن اون ستاره‌ها دیده نشن. این سحابی‌ها معمولاً کم‌نور و عکاسی ازشون برای علاقه‌مندان خیلی سخت و چالش‌برانگیزه. حالا چرا ما تو سحابی‌ها، ابرها و غیره... شکل حیوانات یا صورت می‌بینیم؟ دلیلش پدیده‌ای به اسم پریدولیا هست؛ یعنی مغز ما دوست داره از یک الگوی مبهم، یک تفسیر آشنا بسازه، اگر واقعا آن شکل وجود نداشته باشد. ⚛ @AndisheKonim

#فوری دونالد ترامپ ویدئویی منتشر کرده که در پایان اون بخشی از سخنرانی‌اش در زمان آغاز حملات مشترک آمریکا و اسرائیل به جمهوری اسلامی آورده شده: «خطاب به مردم بزرگ و سرافراز ایران، امشب می‌گویم که ساعت آزادی شما نزدیک است. وقتی کار ما تمام شد، حکومت خود را به دست بگیرید. این حکومت از آنِ شما خواهد بود.»

این جمله رو دوباره تکرار میکنم: اگر قرآن را در دست راست و عکس پهلوی را دست چپ، هر دو را آتش بزنید، جمهوری اسلامی با شما کاری نخواهد داشت، چه بسا مزدور رژیم باشید. اگر با دستان خود، عکس رضاشاه و آریامهر را بالا بگیرید و زیر پا عکس شاهزاده رضا پهلوی را له کنید، جمهوری اسلامی با شما کاری نخواهد داشت، چه بسا مزدور رژیم باشید. و این رو هم اضافه کنیم: اگر ملحد و کافر باشید و همزمان پهلوی ستیزی کنید، جمهوری اسلامی با شما کاری نخواهد داشت، چه بسا مزدور رژیم باشید. @ar_persian