پیش نوشت: چند روز پیش، مسیری را با تاکسی طی می‌کردم و از معدود اوقاتی بود که راننده،گوش بی‌نوایی را نیافته بود که راجع به تحلیل‌های سیاسی اقتصادی‌اش، انتظار همراهی و یا دست‌کم تأییدشدن داشته باشد، درعوض رادیوی ماشینش روشن بود(که خب برای من بهتر از این بود که خودش بخواهد حرف بزند، چون هروقت نخواهم می‌توانم نشنوم. در واقع یکی از توانایی‌های شاخص من این است که اگر در شلوغ‌ترین و گوش‌خراش‌ترین وضعیت هم قرار بگیرم می‌توانم هیچ‌چیز نشنوم و به ادامه افکار و کارهایم برسم.)
سوالی در برنامه مطرح شده بود که نتوانستم نشنوم و باعث شد کمی حواسم را جمع کنم. شنوندگان برنامه هم قرار بود پاسخشان را مسیج کنند.
پرسش این بود که:
آیا تصور می‌کنید روزی ممکن است ربات‌ها از انسانها پیشی بگیرند؟ (از لحاظ هوش و تفکر و تصمیم‌گیری و به طور کل: عملکرد مغزی)
کنجکاوی‌ام زمانی بیشتر شد که دو سه دقیقه از موسیقی میان‌برنامه، تمام شد و قرار بود یکی یکی کامنت‌ها را بخوانند.
اعتراف میکنم وقتی حدود ۱۰ کامنت را شنیدم کمی مأیوس شدم، خصوصا این‌که می‌دیدم اکثریت بالاتفاق، می‌گفتند انسان در این رقابت برنده است چون ربات‌ها ساخته دست او هستند.
راستش من چنین نظری ندارم و شاید یأسم از این جهت بود که ته دل، امیدوار بودم افرادی با دلایلی مستدل و خوب، به من سرنخ‌های جدیدی بدهند و یا حداقل چند نفر بیایند و بگویند ربات‌ها و مغز سیلیکونی آنها برنده است و دلایلشان را بشنوم ولی این اتفاق نیفتاد، حتی صحبت کارشناس‌هایی که در برنامه بودند بسیار سطحی و عامیانه و بیشتر از جنس «اظهار نظر»های روزمره و بی‌ارتباط بود تا حرف‌هایی علمی.
یاد خودم افتادم؛ ده سال پیش (زمانی که هجده ساله بودم) درس شیوه ارائه مطالب را ترم دو گرفتم (آن‌روزها معمولا دانشجویان، این درس را ترم آخر می‌گرفتند آن هم به زور و بدبختی).
همه دوستانم که عموماً چندین سال از من بزرگ‌تر بودند و یا به تازگی و یا سالها بود که فارغ‌التحصیل شده بودند ساعتی قبل از ارائه، توصیه‌های دلسوزانه‌شان را به من می‌دادند مبادا جلوی جمع، خار و ذلیل شوم!
یکی از توصیه‌ها این بود که:
« اگر سوالی ازت پرسیدند و بلد نبودی، مکث نکن، شروع کن راجع به همان مطالبی که ارائه دادی، حرف بزن. همین‌که می‌بینند جواب می‌دهی کافی‌ست اگر دوباره پرسیدند یا گیر دادند بگو بعد از پایان ارائه بپرسید که معمولاً دیگر نمی‌آیند بپرسند.»
من هم که ید طولایی در این موضوع داشتم (یادگاری که از درس تعلیمات اجتماعی دبیرستان برایم مانده بود و چون نمی‌فهمیدمش، هرچه می‌پرسیدند، یک جمله را به هشت شکل مختلف توضیح می‌دادم و ۲۰ می‌گرفتم) این‌جا هم به این توصیه که اکنون، هم به آن می‌خندم و هم خجالت می‌کشم عمل کردم و جواب داد.
در صورتی که اگر امروز بود به راحتی می‌گفتم بلد نیستم و یا نیاز است که بیشتر مطالعه کنم و یا این‌که سعی میکنم پاسخش را برای شما پیدا کنم.
این‌ها را گفتم که بگویم وقتی کارشناس برنامه حرف می‌زد، یاد همین نحوه از زیرسوال در رفتن خودم افتادم!
ولی باعث شد دوباره سری به مطلبی بزنم که ماه‌ها قبل آن را خوانده بودم. مطلبی که Amy Webb -آینده‌پژوه و بنیان‌گذار موسسه آینده امروز– در فوریه ۲۰۱۹ در بیزینس اینسایدر منتشر کرد.(+).
حرف‌هایم در ادامه راجع به آینده و نحوه تصمیم‌گیری و انتخاب انسانها و هوش‌مصنوعی، برگرفته از همین مقاله است.
«وب» کتاب قابل تأملی نیز دارد با عنوان:
چطور غول‌های تکنولوژی و ماشین‌های اندیشنده آنها ممکن است انسانیت را زیر و رو کنند؟ (+)
شاید مغز انسان، الهام‌بخش هوش مصنوعی بوده باشد اما تصمیم‌گیری و انتخاب این دو، با هم فرق دارد.
قبلا در سوسیومایند از سیستم‌های دوگانه مغز انسان که دنیل کانمن در کتابش (تفکر، سریع و کند) آنها را شرح داده، حرف زدم؛
سیستم یک- که خودکار و سریع است بدون نیاز به تلاش زیاد عمل می‌کند و برای ما نامحسوس است.
و سیستم دو- که از منطق برای تحلیل مسائل استفاده می‌کند. و زمانی استفاده می‌شود که فعالیت ذهنی، نیاز به تلاش زیاد و محاسبات پیچیده دارد.
اکثر افراد قادر نیستند در حین راه رفتن یا آواز خواندن، یک محاسبه پیچیده را انجام دهند علتش هم این است که خود راه رفتن و آواز خواندن، هرکدام، انرژی مغزی مصرف می‌کند.
بیشتر اوقات، تصمیمات و انتخاب‌هایمان بر عهده سیستم یک (سیستم سریع و شهودی) است که انرژی کمتری مصرف می‌کند ولی در عوض، مملو از سوگیری‌های شناختی و استریوتایپ‌سازی و قضاوت است.
این سیستم به طور خودکار، روزی هزاران تصمیم می‌گیرد؛ درواقع اغلب تصمیمات و انتخاب‌هایمان علی‌رغم آن‌که گمان میکنیم کنترل کاملی روی آن داریم، به طور خودکار گرفته می‌شود.
از طرفی بخاطر پیچیدگی سیستم‌ها و سیالیت آینده، بعید است بتوانیم «تصمیم بی‌نقص» بگیریم و تمام المان‌های تأثیرگذار و یا حتی تعدادشان را پیش‌بینی کنیم.
بر همین اساس، ریاضی‌دانان معتقدند نمی‌توان مدلی ساخت که همه پاسخ‌های ممکن را پیش‌بینی کند.
در عین‌حال هوش‌مصنوعی امروز به قدری پیشرفت کرده که از آن می‌خواهیم راجع به تشخیص پزشکی یا تصمیمات مالی نظر بدهد.
پس سیستم‌هایمان را جوری ساختیم تا بهینه‌سازی کنند.(تصمیماتی بگیرند که از تفکرات انسانی ما فاصله دارند.)
درواقع الگوی فکری هوش مصنوعی، امروز، انتخاب از میان گزینه‌های موجود نیست بلکه آزمودن چیزی کاملاً متفاوت است.
آینده هوش مصنوعی و بالتبع آینده بشریت، در دست ۹ شرکت است. ۹شرکتی که ایمی وب در کتابش، به آنها ۹غول تکنولوژی می‌گوید؛ گوگل، مایکروسافت، آمازون، فیسبوک، آی‌بی‌ام، اپل، بایدو، علی‌بابا و تنسنت.
این ۹ شرکت، از داده‌های ما برای ساختن ابزارهای کاربردی استفاده میکنند و در جهت مقاصد تجاری و حکومتی از آنها بهره می‌گیرند.
به طور مثال، محققان، یک آزمایش Deep Learning انجام دادند تا ببینند آیا می‌شود سیستم را جوری آموزش داد تا سرطان را پیش‌بینی کند.
نتیجه این بود که سیستم با دسترسی به داده‌های ۷۰۰هزار بیمار که صدها متغیر متفاوت داشت، الگوهایی را شناسایی می‌کرد که در یافتن بیماران در مراحل اولیه سرطان کبد و یا نشانه‌های اختلالات روان‌پزشکی خیلی خوب عمل می‌کرد.
ولی حتی محققانی که آن را ساخته بودند نمی‌توانستند بفهمند سیستم‌شان چطور تصمیم‌گیری می‌کند!
تیمی از محققان گوگل سعی کردند با توسعه تکنیک جدیدی، بفهمند هوش مصنوعی چطور کار می‌کند و یا دست‌کم نحوه تصمیم‌گیری‌اش برایشان شفاف‌تر شود.
آمدند یک الگوریتم شناسایی تصویر پیاده‌سازی کردند که Deep Learning را برعکس اجرا کند (مهندسی معکوس). می‌خواستند ببینند سیستم چگونه چیزهایی مثل درخت و خوک و حلزون را تشخیص می‌دهد.
اسم پروژه را گذاشتند Deep Dream.
به جای این‌که سیستم را تمرین بدهند که اشیا را شناسایی کند ( این خوک است، و این درخت و آن یکی حلزون)، به آن یاد دادند تا عکس‌ها را ترکیب کند و چیزهایی بسازد که وجود نداشتند.
در واقع گوگل از هوش مصنوعی خواسته بود تا رویاپردازی کند و هربار سیستم، تصویرهای غریب‌تری کشف کرد که برای خودش منطقی بود ولی برای ما ناشناس. مثل «خوک-حلزون» و «سگ-ماهی».
چیزی که هوش مصنوعی می‌دید با خیال‌پردازی‌های کودکی ما، یک تفاوت عمده داشت و آن هم این‌که؛ هوش مصنوعی، متکی به هیجانات انسانی نبود و بنابراین تصویرهایی می‌ساخت که می‌توان آن را در فازهای روان‌گردان‌ها یافت.
ما نمی‌توانیم بفهمیم هوش مصنوعی چطور تصمیم‌گیری می‌کند، از آن ۹غول تکنولوژی هم نمی‌توان انتظار داشت که ساز و کار الگوریتم‌هایش را برای ما شرح دهد؛ ولی
با توجه به این‌که این سیستم‌ها ادای ما آدم‌ها را در‌می‌آورند ولی به نتایج متفاوتی از ما می‌رسند آیا می‌توانند هشداری جدی از فرا رسیدن دنیای جدیدی برای ما باشند؟
(دنیایی که سراسر با تفکر انسانی فاصله دارد و کاملا جدید است و اگرچه ساخته دست ماست ولی با ادراکی کاملا متفاوت از ما نهایتاً کار می‌کند.)
سیستمی که از تفکرات انسانی فاصله می‌گیرد و دستورالعمل‌هایش بر پایه ارزش‌های انسانی نیست، قرار است چه جور دنیایی بسازد؟
و در این بین، چه کسی در نزاع بین انسان و هوش مصنوعی برنده است؟
چون ساز و کار این سیستم برایمان مبهم است، از کجا می‌توان مطمئن بود که سوگیری شناختی در روند تصمیم‌گیری‌اش دخالتی ندارد؟
برایم از آینده و آن‌چیزی که از آن متصورید بنویسید.
بسیاری از نامحتمل‌های سالها قبلمان، امروز عادی و ممکن و دسترس‌پذیر شده. (پس حتی برای خیال‌پردازی، کاملاً راحت باشید)
۶ نظر
راستش بچه بودم یک انمیشن دیدم راجع به این که ادم ها دست و پاهاشون کوچیک شده از بس که ازش استفاده نکردند رو صندلی های پرنده میشینن و از طریق کامپیوتر های که شبیه تبلت های امروزی تو اینترنت خرید میکردند غذا لباس همه چی و کلا وابسته این دستگاه ها بودن یک قسمتی دیگه که توی این انیمیشن نبود و من خودم اضافه میکنم اینه که شرکت های بزرگ و کارخونه ها اول ربات ها رو جایگزین کارگر ها میکنند بعد با پیشرفت تکنولوژی جایگزین مهندس ها کم کم آدم ها امورش رو رها میکنند و ربات ها همه کاره میشن یه گروه آدم برای نجات بشریت میرن تو غار زندگی میکنند دور از تکنولوژی ولی اکثر ادم ها تو مبارزه با ربات ها مغلوب می‌شوند در واقع اکثر ادم ها اکسسوری های استفاده میکنند که خودشون تبدیل به نوعی ربات میشن
تصور کن ربات ها کنترل همه امور را در دست گرفته اند، تو برای غذا خوردن به آنها نیاز داری، برای ارتباط با دوستانت به اونها نیاز داری، برای رانندگی، سفر، خرید، یا حتی #پست_پلاس?!
ربات ها دقیق عمل می کنند، باهوشند و احساساتی نمیشن، پس درصد خطای کمتری دارند و تو ترجیح میدی به جای اعتماد به انسانهایی که بارها از اونها ضربه خوردی، به ربات هایی اعتماد کنی که میدونی منطقی اند! زمانی هیچ کس فکر نمیکرد ما انقدر به اینترنت وابسته بشیم، اما امروز ما وابسته ایم و تقریبا تمامی فعالیت هامون را از طریق اینترنت انجام میدیم و جالب اینجاست که فکر میکنیم اینترنت در اختیار و کنترل ماست در حالی که ما در محاصره ی اینترنت هستیم… همین وضعیت را میتونیم برای آینده ربات ها و انسانها پیش بینی کنیم…
سالها پیش یکی از اساتید فیزیک گفت:روزی انسان سوار بر امواج با سرعت غیرقابل تصور حرکت میکنه.یکی از آرزوهام اینه که اون روز رو ببینم.
دنیای بدون خودرو?
من فکر میکنم آینده ما از دو حالت خارج نیست؛
یا به اون اتوپیا که همیشه بشر به دنبالش بوده دسترسی پیدا میکنه، بر طبیعت غلبه میکنه مشکلات هوا و آب و انرژی و..حل میشه و در شهرهایی عظیم زندگی خواهد کرد.
یا انحطاط کامل
البته معتقد نیستم به اون سرعتی که شاید پروپاگاندا تبلیغش میکنه هیچکدومش اتفاق بیوفته، نشنال جئوگرافی مستندی داره به اسم انسان در سال میلیون، که در واقع سال میلیون استعاره از سال‌های آینده است که نمیشه دقیقا گفت ۳۰ سال، ۵۰ سال ۱۰۰ سال یا چقدر.
در مورد هوش مصنوعی امیدوارم که از قوانین آسیموف پیروی کنند :))
ولی خیلی مهمه برخورد سطحی با این موضوع نداشته باشیم.
نمونه‌اش همین آقای جک ما، تو جدیدترین مناظره‌اش با ایلان ماسک.
ایلان داشت توضیح میداد که کامپیوتر تونسته انسان رو در شطرنج شکست بده، بعد جواب آقای ما این بود که چرا انسان کاری رو انجام بده که میدونه در اون شکست میخوره?
در کل نمیدونم آینده کجاست، چه شکلیه و چی توش رخ داده
اما میدونم که؛
۱.من اونجا نخواهم بود.
۲.هرکاری میکنم که اثری که از خودم به جای میزارم اونجارو به جای بهتری تبدیل کرده باشه.
ببخشید اگه خیلی به متنت مربوط نبود⚘
به نظرم لزوما بین هوش مصنوعی و انسان قرار نیست مثل فیلم ها نزاعی در بگیره. خاطرم نیست کجا این موضوع را دیدم که پیشی گرفتن هوش مصنوعی از توانایی مغز انسان در یادگیری و تحلیل دور از ذهن نیست اما برای این منظور باید یک مغز انسان ساخت و یا موجودی مابین اسان و ربات طراحی کرد.
یک حکومت جهانی برای همه مردم کره زمین که توسط الگوریتم‌های هوش مصنوعی اداره میشه، با بروکراسی دقیق و هوشمندی که همه مردم به اون اعتماد کامل دارند و تونسته ترکیب قابل قبولی از عدالت و شایسته‌سالاری رو برقرار کنه.