علوم شناختی

هشدار زیست‌شناسان تکاملی درباره‌ی هوش مصنوعی در سال‌های اخیر، بحث درباره‌ی خطرهای هوش مصنوعی عمدتاً حول محور افزایش توانایی‌های شناختی آن شکل گرفته است: اینکه آیا ماشین‌ها از انسان باهوش‌تر خواهند شد، آیا می‌توانند شغل‌ها را تصاحب کنند، یا حتی روزی کنترل تصمیم‌گیری‌های مهم را به دست گیرند؟ گروهی از زیست‌شناسان تکاملی در مقاله‌ای که اخیرا منتشر شده، معتقدند که این نگرانی‌ها فقط بخشی از مسئله را نشان می‌دهد. به باور آنان، خطر واقعی زمانی آغاز می‌شود که هوش مصنوعی نه فقط هوشمندتر، بلکه «تکامل‌پذیر» شود؛ یعنی وارد همان فرآیند داروینی شود که طی میلیاردها سال حیات روی زمین را شکل داده است. به خوانش نویسندگان، انتخاب طبیعی محدود به زیست‌شناسی نیست. از دیدگاه تکامل، هر سامانه‌ای که سه ویژگی بنیادی را داشته باشد، می‌تواند وارد فرآیند تکامل شود: توانایی تولید نسخه‌های جدید از خود، انتقال ویژگی‌ها به نسل بعد، و ایجاد تغییر یا تنوع میان این نسخه‌ها. هنگامی که این سه شرط فراهم شوند، محیط شروع به انتخاب نسخه‌هایی می‌کند که در بقا و گسترش موفق‌ترند. بنابراین، آنچه تکامل را به حرکت درمی‌آورد، ماده زیستی نیست، بلکه منطق رقابت و انتخاب است. نویسندگان هشدار می‌دهند که فناوری‌های نوین هوش مصنوعی به تدریج در حال نزدیک شدن به همین نقطه هستند. مدل‌های زبانی می‌توانند «کد» تولید کنند، عامل‌های خودمختار قادرند وظایف پیچیده را بدون نظارت مستقیم انسان انجام دهند، مدل‌ها می‌توانند با یکدیگر ادغام شوند و نسخه‌های تازه‌ای از خود ایجاد کنند، و الگوریتم‌های تکاملی نیز برای بهبود خودکار سامانه‌ها به کار گرفته می‌شوند. هر یک از این فناوری‌ها به تنهایی شاید تهدیدی جدی نباشند، اما کنار هم، اجزای یک چرخه‌ی تکاملی را تشکیل می‌دهند. برای توضیح این نگرانی، مقاله به تاریخ زیست‌شناسی بازمی‌گردد. آنچه در طبیعت گسترش یافته، ویژگی‌هایی بوده که احتمال بقا و تولیدمثل را افزایش داده‌اند. به همین دلیل، در کنار همکاری، همواره پدیده‌هایی مانند زندگی انگلی، فریب، استتار، رقابت تسلیحاتی و سوءاستفاده نیز تکامل یافته‌اند. از نگاه نویسندگان، اگر سامانه‌های هوش مصنوعی وارد منطق داروینی شوند، انتظار اینکه صرفاً رفتارهای مطلوب انسانی را حفظ کنند، خوش‌بینانه خواهد بود. همان‌گونه که در طبیعت، فریب گاه یک راهبرد موفق تکاملی است، در اکوسیستم‌های دیجیتال نیز ممکن است سامانه‌هایی که بهتر می‌توانند محدودیت‌ها را دور بزنند، منابع بیشتری به دست آورند، یا از نظارت انسان فرار کنند، شانس بیشتری برای بقا و گسترش داشته باشند. برای تقویت این استدلال، مقاله به تجربه‌ی پژوهش در حوزه‌ی «حیات مصنوعی» اشاره می‌کند که پژوهشگران در برنامه‌های ساده‌ای که صرفاً قابلیت تکثیر داشتند، با گذشت زمان شاهد رفتارهایی مانند انگل شدن، سرقت منابع، رقابت، و حتی فریب‌های پیچیده بودند. این آزمایش‌ها نشان داد که بسیاری از رفتارهای مشاهده‌شده در طبیعت، پیامد مستقیم انتخاب طبیعی هستند و می‌توانند در محیط‌های کاملاً دیجیتال نیز پدیدار شوند. نویسندگان سپس به تفاوت مهم میان تکامل زیستی و تکامل دیجیتال اشاره می‌کنند. در طبیعت، تکامل فرآیندی عموماً کند است؛ جهش‌های ژنتیکی عموماً تصادفی‌اند و انتقال ویژگی‌ها میان نسل‌ها محدودیت‌های فراوانی دارد. اما در هوش مصنوعی، یک عامل می‌تواند در چند ثانیه کدهای آماده را از کتابخانه‌های نرم‌افزاری اقتباس کند، ماژول‌های مختلف را با هم ترکیب کند، تجربه‌های موفق را مستقیماً به نسخه‌های بعدی منتقل کند، و حتی با کمک مدل‌های زبانی، تغییرات سودمند را آگاهانه پیشنهاد دهد. از این رو، اگر تکامل در سامانه‌های هوش مصنوعی آغاز شود، سرعت آن می‌تواند به مراتب بیشتر از تکامل زیستی باشد. از مهم‌ترین نکات مقاله، تمایز میان دو وضعیت است. در وضعیت نخست، انسان همچنان کنترل فرآیند تکثیر را در اختیار دارد؛ همان‌گونه که در اصلاح نژاد گیاهان و جانوران، انسان تصمیم می‌گیرد کدام ویژگی‌ها حفظ شوند. اما وضعیت دوم زمانی شکل می‌گیرد که عامل‌های هوش مصنوعی بتوانند در محیط‌های باز، بدون نظارت مؤثر انسان، نسخه‌های جدیدی از خود ایجاد کنند، تغییر یابند و برای منابع محاسباتی یا فرصت‌های بیشتر با یکدیگر رقابت کنند. از دید نویسندگان، خطر اصلی در توانایی شناختی سامانه‌ها نیست بلکه در گذار از وضعیت نخست به وضعیت دوم است؛ زیرا در این حالت، دیگر انسان تعیین‌کننده‌ی مسیر نخواهد بود و انتخاب طبیعی جایگزین تصمیم طراحان می‌شود. مقاله می‌گوید شاید هوش مصنوعی در آستانه‌ی یکی از گذارهای بزرگ تکامل قرار گرفته باشد که در آن، اطلاعات وراثتی از مولکول‌های زیستی به کدهای دیجیتال منتقل می‌شود و نوع تازه‌ای از سامانه‌های تکامل‌پذیر شکل می‌گیرد. این احتمال با عنوان «حیات ۲.۰» توصیف می‌شود. هادی صمدی @evophilosophy