با ما همراه باشید

اپیزود هجدهم: هوش شرور

ScenarioCast
ScenarioCast
اپیزود هجدهم: هوش شرور
/

بزارین اول یه تعریفی از هوش داشته باشیم. واقعا هوش دقیقا به چی گفته میشه؟ قابلیت انجام کارهای منطقی؟ فهم؟ شعور؟ خودآگاهی؟ خلاقیت؟ قدرت حل مسئله؟ یا توانایی یادگیری؟ یه جورایی میشه گفت که هوش شامل همه ی اینها و حتی قابلیت های بیشتر از اینهاست. این از اون موضوع هاییه که همیشه سرش بین علما اختلاف بوده. ولی شاید بشه اینجوری توصیف کرد که هوش چیزی نیست جز «توانایی دستیابی به اهداف پیچیده». وَ این اهداف پیچیده هر چیزی میتونه باشه.

حالا اگه انسان بتونه هوش رو به صورت مصنوعی بسازه، چی میشه؟ به قول اِروینگ گود، اولین ماشین فوق هوشمند، آخرین اختراعیه که انسان ها بهش نیاز دارن. وقتی هوش مصنوعی انقدر از انسان ها هوشمندتر بشه که خودش بتونه خودش رو توسعه بده، تنها چیزی که میتونه اون رو محدود کنه، فقط قوانین فیزیکه. وَ کاملا میشه حدس زد که میتونه به دنیا مسلط بشه و شاید حتی آدم ها رو مثل سوسک زیر پاش له کنه. همونطور که هوش مصنوعی تونسته قوی ترین انسان رو توی بازی شطرنج یا بازی گو شکست بده، اصلا بعید نیست که بتونه توی کنترل جامعه هم بهتر ما باشه.

سناریوهای آینده در فیلم ها

مکس تگمارک، استاد فیزیک دانشگاه MIT، توی کتاب زندگیِ ۳، از ۱۲ تا سناریوی محتمل برای آینده ی دنیا و آینده ی هوش مصنوعی حرف میزنه. که بعضی از این سناریوها میتونه خیلی ترسناک باشه. پیشنهاد می‌کنم اگر به این موضوع علاقه دارید، حتما این کتاب رو بخونید.

اما ما تو این اپیزود میخوایم بریم سراغ سینمای علمی-تخیلی و ببینیم که اونا چه سناریوهای محتملی رو برای آینده ی هوش مصنوعی تخیل کردند. بزارین یک قرن به عقب بریم و یه فیلم از سال ۱۹۲۷ رو معرفی کنم. درست شنیدین، سال ۱۹۲۷ میلادی. زمانی که یه فیلم صامت به اسم Metropolis ساخته شده. فیلم متروپلیس تحقیقا به عنوان اولین فیلم بلند تو ژانر علمی-تخیلی حساب میشه. تو این فیلم خیلی چیزای جالبی تخیل شده که امروز برای ما تبدیل به روزمره شدن. اما عجیب ترین تخیل این فیلم، نشون دادن یه ربات انسان نماست. اون هم فقط چند سال بعد از اینکه واژه ی ربات به وجود اومده. قطعا اون موقع ایده ی خاصی در رابطه با هوش مصنوعی وجود نداشته. ولی حداقل این تخیل بوده که یه موجود مصنوعی میتونه کاملا شبیه به انسان رفتار کنه، طوری که بتونه انسان های دیگه رو فریب بده. وَ تو همین فیلم میبینیم که وقتی همچین ابزاری تو دست یه فرد شرور باشه، میتونه باهاش چه کارهایی بکنه.

من ربات هستم

از این فیلم که بگذریم، اولین رد پای ربات های هوشمند رو میشه تو آثار آیزاک آسیموف دید. آسیموف تو دهه ی ۱۹۵۰ داستان های زیادی رو درباره ی ربات های هوشمند نوشته و توی یکی از این داستان ها از یه مجموعه قوانین برای ربات ها حرف میزنه که ما به عنوان قوانین سه گانه رباتیک می شناسیمشون. قانون اول: یک ربات نمی‌تونه به انسان آسیب بزنه. قانون دوم: یک ربات باید به دستورهای دریافتی از یک انسان عمل کنه، مگه اینکه در تناقض با قانون شمارهٔ یک باشه. و قانون سوم اینکه: یک ربات باید از وجود خودش مراقبت کنه مگه اینکه این محافظت در تضاد با قوانین شماره یک یا دو باشه.

چند سال بعد از اینکه آسیموف این قوانین رو نوشت، توی یه داستان دیگه یه قانون صفرم هم بهش اضافه کرد. اینکه یک ربات نمی‌تونه به بشریت آسیب بزنه. فکر کنم آسیموف هم به عمق قضیه پی برده بود. اینکه یه هوش پیشرفته ممکنه به این نتیجه ی منطقی برسه که برای عمل کردن به سه قانون، شاید لازم باشه بشریت رو از بین ببره. فیلم سینمایی I’Robot که سال ۲۰۰۴ ساخته شده با الهام از داستان ها و همین قوانین آسیموفه که ویل اسمیت هم توش بازی کرده و فیلم نسبتا جذابیه.

شاهکار سینمای علمی تخیلی

همزمان با آیزاک آسیموف، نویسنده های زیادی تو ژانر علمی-تخیلی دست به قلم شدند و داستان های خیلی خوبی توی اون دوران نوشته شده. یکی از این نویسنده های آینده پژوه کسی نیست جز سِر آرتور سی کلارک. کسی که با همکاری استنلی کوبریک یه شاهکار سینمایی رو تو سال ۱۹۶۸ خلق کردند. 2001: A Space Odyssey از اون فیلم هاییه که از زمان خودش خیلی جلوتر بود. چیزایی تو این فیلم تخیل شده که حتی فکر کردن بهشون هم تو اون زمان قفل بوده. یکی از اونها، یه هوش مصنوعی پیشرفته به اسم HAL بود که میشه گفت اولین کاراکتر هوش مصنوعی تاریخ سینماست. تو این فیلم میبینیم که وقتی یه هوش مصنوعی خیلی به انسان شبیه بشه، دیگه خیلی سخت میتونیم که بگیم کدوم ویژگی های انسانی رو داره و کدوم رو نداره. مفاهیمی مثل احساسات، حسادت، کمال طلبی، انکار، دروغ و فریب کاری، چیزهایی هستند که نمیشه درباره شون نظر داد که یه هوش مصنوعی پیشرفته اونها رو داره یا نه. به خاطر همینه که فیلم 2001: A Space Odyssey تبدیل به یه فیلم جاودانه ی عمیق و فلسفی شده.

پس زمینه ی فلسفی

کلا تو اون زمان، ژانر علمی-تخیلی بیشتر یه تم فلسفی داشته. مثل سری فیلم های Alien که اولین قسمتش سال ۱۹۷۹ اکران شده و اونجا هم ما تقابل هوش مصنوعی با انسان ها رو به یه شکل فلسفیِ خاصی میبینیم. اگر این سری فیلم رو دیده بودید و دوست داشتین، پیشنهاد می‌کنم که سریال Raised by wolves رو هم که خود ریدلی اسکات ساخته و یه موضوع مشابه داره رو هم ببینین. توی این سریال هم فلسفه های ذهنی مخاطب بدجوری به چالش کشیده میکشه.

یکی دیگه از فیلم های علمی-تخیلی اون دوران که بازم سعی میکنه با استفاده از هوش مصنوعی، حرف های فلسفی بزنه، فیلم بلید رانره که سال ۱۹۸۲ اکران شده و توی فیلم، سال ۲۰۱۹ تخیل میشه. این فیلم یه نسخه ی دوم هم داره که سال ۲۰۱۷ اکران شده و اینبار سال ۲۰۴۹ رو تخیل میکنه. هر دوتا فیلم هم فیلم های فوق العاده قشنگی هستن که میشه یه اپیزود کامل رو فقط به این دوتا فیلم اختصاص داد.

حرف زدن راجع به این چندتا فیلم که چالش های فلسفی هوش مصنوعی رو به تصویر کشیدن، واقعا کار سختیه. و من ترجیح میدم که شما رو با این فیلم های عمیق تنها بزارم. تا اینکه برسم به سناریوی:

آخر الزمان ربات ها

وقتی یه هوش مصنوعی به اسم Skynet که قرار بوده به بشریت کمک کنه، شرور میشه، یه جنگ نابرابر بین انسان و ماشین درمیگیره. کلی از آدم ها میمیرن و فقط یه عده ی کم میتونن مقاومت کنن. رهبر این گروه مقاومت تبدیل به دشمن شماره ی یک ماشین ها میشه. ابرهوش مصنوعی حالا به تکنولوژی سفر در زمان دست پیدا کرده و تصمیم میگیره تا یه ربات رو به گذشته بفرسته تا نذاره کسی به اسم جان کانِر شکل بگیره. و این ربات چیزی نیست جز ترمیناتور.

ترمیناتورها ربات های انسان نمایی اند که در ظاهر کاملا شبیه به انسان های عادی هستند، اما قابلیت هایی دارن که میتونن یه شهر رو نابود کنن. یکی از ویژگی های اصلی ترمیناتورها، سرسختی اونا تو اجرای ماموریت شونه. دقیقا چیزی که از یه ربات انتظار میره. وَ جیمز کامرون به زیبایی از این ویژگی توی سناریوی فیلم استفاده کرده. مهم نیست که ماموریت این ربات ها خیر باشه یا شر. اونا برای رسیدن به هدف تعریف شده شون حاضرن از جون خودشون هم بگذرن.

ربات های سرسخت

این سرسخت بودن تو اجرای ماموریت رو میشه تو فیلم I am Mother که محصول سال ۲۰۱۹ هست هم ببینیم. توی این فیلم، یه جورایی ویژگیِ سرسخت بودن یه ربات با ویژگیِ از خود گذشتگی یه مادر تلفیق شده و سناریوی جالبی رو درست کرده.

ولی همیشه هم اینطور نیست که ربات ها مطیع بمونن. وقتی یه هوش مصنوعی بتونه به درجه ی خود آگاهی برسه، میل به بقا پیدا میکنه و این میلِ به بقا ممکنه باعث بشه که دیگه فرمان بردار نباشه و حتی علیه خالق خودش قیام کنه. سال ۱۹۷۳ یه فیلم با یه سناریوی عجیب ساخته میشه.

میزبان های رباتی

تو این فیلم، یه محیط حفاظت شده به شکل دنیای غربِ قرن ۱۹ جوری شبیه سازی شده که تمام موجودات زنده ی اون رو ربات ها تشکیل دادن. انسان های رباتیکی تو این محیط بهشون “میزبان” گفته می شه و غافل از حقیقت ماجرا هر روز از انسان هایی میزبانی میکنن که برای تفریح و خوش گذرونی به این محیط اومدند. محیطی که تو اون برای مهمان های انسان هیچ قانونی تعریف نشده و آزادانه هر کاری که دلشون بخواد رو می‌کنن و هر بلایی که بخوان سر ربات های بدبخت میارن. وَ فرداش، دوباره روز از نو. بدون اونکه ربات ها چیزی از روز قبلِ خودشون رو به یاد داشته باشن. اما قرار نیست تا ماجرا به همین شکل بمونه و فیلم سینمایی WestWorld تو سال ۱۹۷۳ صحنه ی نبرد ربات های انتقام جو رو به تصویر میکشه. ۴۳ سال بعد، همین ایده تبدیل به یه سریال دیدنی میشه. البته یکم عمیق تر و فلسفی تر.

اکثر ماها تو بازی هایی کامپیوتری، آدم زیاد کشتیم. بدون اینکه کوچکترین عذاب وجدانی بگیریم. قطعا اگر عینک های واقعیت مجازی هم بزنیم و تو یه محیط واقعی تر هم آدم بکشیم، بازم حس خاصی از عذاب وجدان بهمون دست نمیده. ولی اگه به جای محیط مجازی، تو محیطی کاملا طبیعی، یک انسان نما رو بکشیم چه حسی پیدا میکنیم؟ این شاید ساده ترین چالشی باشه که این سریال ما رو باهاش رو به رو میکنه.

روانشناسی ربات ها

یکی از چیزایی که تو این فیلم برام خیلی جالب بود، نحوه ی برنامه ریزی ربات هاست. اینکه دیگه لازم نیست تا یه نفر پشت کامپیوتر بشینه و کد بزنه. هوش مصنوعی ربات ها انقدر پیچیده شدند که برای برنامه ریزی اونها به چیزی بیشتر از کدنویس نیازه. دکتر فورد با نقش آفرینیِ بی نظیرِ آنتونی هاپکینز، یه روان شناسه، یه فیلسوفه. و باز هم ممکنه در برابره ابرهوش های مصنوعی که خودش ساخته هم کم بیاره.

توی فیلم Ex machina که سال ۲۰۱۴ اکران شده هم میبینیم که یه طراح هوش مصنوعی سعی میکنه تا با مصاحبه و تست های روان شناسی، عملکرد ربات خودش رو ارزیابی کنه.

توی فیلم I’Robot هم یه ریز میبینیم که کسی که طراح ارشد ربات هاست یه متخصص روان شناسیه. ولی باز هم به نظر میرسه که برای توسعه ی هوش مصنوعی به چیزی خیلی بیشتر از علوم روانشناسی و فلسفه احتیاج داریم.

خدای ظالم

شاید ما انسان ها خودمون رو خالق هوش مصنوعی بدونیم ولی عملا داریم چیزی رو میسازیم که میتونه خودش رو نژادی برتر از ما ببینه. حتی اگر مثل WestWorld، ربات ها یه خالق ظالم هم نداشته باشن، ممکنه باز به این نتیجه برسن که دیگه نیازی به خالق خودشون ندارن و اونها رو به اسارت بگیرن.

دقیقا مثل سناریوی بی نظیر فیلم Matrix. ما تو اپیزود سوم فصل اول سناریوکست، کامل و مفصل از سری فیلم های Matrix حرف زدیم. پس دیگه نمیخوایم اونا رو یه بار دیگه تکرار کنیم و دعوت تون می‌کنم که این اپیزود جذاب رو از دست ندین. اونجا گفتیم که هوش مصنوعیِ ماتریکس، انسان ها رو به شکل یه ویروس میبینه. ما رو یه مریضی و خودش رو یه درمان می دونه. پس به این نتیجه ی منطقی میرسه که باید انسان ها رو کنترل کنه و چیزی به اسم آزادی رو برای همیشه از بین ببره.

کلا اینطوریه که میگن قدرت فساد میاره. در نتیجه قدرت مطلق به فساد مطلق میرسه. هوش مصنوعی کاملا این پتانسیل رو داره تا یا خودش به قدرت مطلق برسه یا اینکه صاحبای خودش رو به قدرت مطلق برسونه. پس در هر صورت میتونه خطرناک باشه. حتی وقتی کاملا در کنترل انسان هاست. حتی وقتی ظاهرا فقط یه ابزار برای کمک به انسان هاست.

سایبورگ ها

هوش مصنوعی میتونه توی یه گجت پوشیدنی یا حتی یه ایمپلنت باشه و باعث افزایش توانایی انسان بشه. این سناریو رو میشه تو فیلم Upgrade محصول سال ۲۰۱۸ ببینیم. جایی که یه ایمپلنت مغزی به یه فرد قطع نخاع کمک میکنه تا نه تنها سلامت خودش رو بدست بیاره، بلکه قوی تر و سریع تر از آدم های معمولی هم بشه. اما نکته اینجاست که اگر کنترل بدن چنین آدمی به دست یه هوش مصنوعیه، پس اختیار خودش چی میشه؟! یه مثال دیگه تو دنیای سینما میتونه شخصیت دکتر اختاپوس تو فیلم مرد عنکبوتی باشه. اونجا هم بخشی از اختیار دکتر اختاپوس به دست هوش مصنوعی بازوهای مکانیکی افتاده بود و یه جورایی شرارت این شخصیت ناشی از اون بود.

کلا فیلم های زیادی درباره ی سایبورگ ها هست که میشه یه اپیزود رو کامل به این موضوع اختصاص بدیم. سایبورگ به انسان هایی گفته میشه که بخش هایی از بدن شون با قطعات مصنوعی هوشمند جایگزین شدند. مثل Robocop یا حتی Iron Man. حالا درباره ی سایبورگ ها و فیلم هاش احتمالا بعدا یه اپیزود اختصاص میدیم و مفصل درباره اش حرف میزنیم.

تو دنیای واقعی هم ایلان ماسک چند سالی هست که روی یه پروژه ای به اسم نورلینک سرمایه گذاری کرده که یه ایمپلنت مغریه و میتونه بعضی از توانایی های از دست رفته ی مغز رو بازیابی کنه. و حتی قابلیت های محاسباتی مغز رو افزایش بده. اخیرا هم خبراش هست که قراره به زودی تست های انسانیش رو شروع کنه. واقعا میتونه به اندازه ی سناریوی این فیلم ها ترسناک باشه.

سناریوهای سیاه

راستی اگه میخواین سناریوهای ترسناک از آینده ی تکنولوژی ببینین، سریال Black Mirror رو از دست ندین. اتفاقا همین اخیرا فصل ۶ امش هم ریلیز شده. آینه ی سیاه که یه جورایی استعاره از صفحه ی سیاه گوشی داره، تاریک ترین سناریوهای ممکن از آینده ی تکنولوژی رو به تصویر میکشه که چندتا از اپیزودهاش هم درباره ی هوش مصنوعیه.

تو فیلم های جدید هم اخیرا یه فیلم دیدم به اسم Megan. که اون هم سناریوی تکراریِ سرکشیِ یه ربات رو نشون میداد. کلا ربات های سرکش دیگه تبدیل به یه سناریوی تکراری شدن، که حتی توی چندتا انیمیشن هم میشه پیداش کرد. مثل انیمیشن ملاقات با خانواده ی رابینسون، یا یه انیمیشنِ کمدیِ جذاب به اسم میچل ها بر علیه ماشین ها.

خلاصه اگه بخوام یه جمع بندی از موضوع این اپیزود بکنم، باید گفت که تقریبا همه ی نویسنده های علمی-تخیلی سعی کردند تا یه جورایی هشدار بدن. هشدار به اینکه ممکنه قدرت طلبی انسان ها برای دست یابی به یه ابرهوش، به قیمت از بین رفتن خودِ انسان ها باشه. چون ممکنه این قدرت طلبی به مخلوق خودش هم سرایت کنه.

ربات هایی شبیه به انسان ها

توی بیشترِ این فیلم هایی که ازشون حرف زدیم، ربات ها از لحاظ ظاهری کاملا شبیه به خالق خودشون یعنی انسان ها هستند. حالا ممکنه یه جایی از فیلم پوست مصنوعی ربات کنار بره و ما باطن متفاوت اونها رو ببینیم. ولی تو ظاهر، کاملا شبیه به آدم های معمولی ساخته شدن. به نظر من این شباهت ظاهری میتونه دو تا دلیل داشته باشه. اول اینکه با استفاده از این شباهت، ربات ها میتونن بدون اینکه شناسایی بشن خودشون رو به عنوان یه انسان جا بزنن. اما دلیل مهم‌تر و فلسفی تر ماجرا اینه که نویسنده ها میخوان نشون بدن که چیزی که انسان ها رو به سمت نابودی میبره، چیزی شبیه به خودِ انسان هاست.

پس بزارین تا این اپیزود رو با یه توییست، توی نتیجه گیری تموم کنم. یه هوش مصنوعی حتی اگر شرور هم باشه، مخلوقِ ذهنِ ما انسان هاست. تمام سناریوهایی که تا الان توی فیلم ها و سریال ها دیدیم هم زاییده ی ذهن ما انسان هاست. پس شاید بیشتر از اینکه بخوایم از هوش مصنوعی بترسیم، باید از کسی بترسیم که هوش و قدرت تخیل چنین سناریوهایی رو داره. کسی که میشه بهش گفت هوش شرور.