در مسیر هم‌زیستی با هوش مصنوعی: کسی از دل «آن دیگران» خبر ندارد

حضور ربات‌ها (آن دیگران) در کنارمان تا جایی که صرفاً محاسبات ریاضی یا کارهای مکانیکی برای ما انجام می‌دهند خیلی ترسناک به نظر نمی‌رسد، حتی خوشایندمان نیز هست و البته که ترجیح می‌دهیم کارهای بیشتری را خودشان انجام دهند و کمتر نیاز به راهنمایی و دخالت ما داشته باشند.

اما وقتی آینده‌شان را تصور می‌کنیم که وارد حوزه‌ی عواطفمان می شوند همه چیز پیچیده‌تر و در نتیجه ازکنترل خارج‌تروترسناک‌تر می‌شود.به خصوص که حالا همه می‌دانیم که انقدر راحت‌طلب هستیم که نمی‌توانیم از وسوسه‌ی حضور این تسهیل‌کننده‌ها و زیباکنندگان زندگی چشم‌پوشی کنیم. چه چیز می‌ترساندمان؟ می‌ترسیم بر ما سلطه پیدا کنند؟ یا از طریق آن‌ها ما را تحت تأثیر قراردهند؟ می‌ترسیم روحمان را تسخیر کنند؟ یا می‌ترسیم از حوزه‌ی درکمان خارج شوند؟

بخشی از این ترس برای من از جنس ترسی است که از دیدن فیلم her احساس کردم. عشق به موجودی که مختصات و فیزیک انسانی ندارد و این فکر که او از احساسات خالیست اما طوری شبیه سازی شده که می تواند این احساس را منتقل کند که شبیه ماست و آنچه حس می کنیم را حس می‌کند و می‌تواند تنهاترین‌هامان را عاشق خودش کند. یا شاید ناتوانی از درک شکلی که هوش مصنوعی می‌تواند احساس کند و براساس احساساتش رفتار کند باعث این ترس می شود. ولی عدم درک احساسی عمیق و کامل بین ما و همنوع‌هایمان هم سال‌های سال است وجود دارد. کافیست کمی تجربه‌ی زیسته ی متفاوت داشته باشیم تا حال و روز هم را درک نکنیم. از آن پیچیده‌تر روابط ما با غیرهمنوعانمان است. علیرغم همه‌ی تلاش‌هایمان هنوز هم درک درستی از احساس حیوانات یا گیاهان نداریم. درمورد هوش مصنوعی هم این درک یا عدم درک می‌تواند زمینه‌ساز همه‌ی رفتارها و شکل همزیستی ما با این گونه‌ی جدید از موجود هوشمند باشد. این اتفاق چگونه قرار است بیفتد و همزیستی ما چگونه کار خواهد کرد؟ اصلاً چه مقداری از هوشمندی باعث می‌شود موجودات را جاندار بدانیم؟ چه وقت چگونگی همزیستی ما با آن‌ها و شکل رفتار ما با آن‌ها اهمیت پیدا می‌کند؟

رفتار ما با کامپیوترمان آیا او را تحت تأثیر قرار‌ می‌هد؟ آیا نیاز به بافت زنده داریم برای تأثیرگذاری؟ رفتارمان با تک سلولی‌ها چطور؟ برای آن‌ها اهمیت دارد؟

من اگر بخواهم زنده بودن را تعریف کنم شاید ‌بتوانم آن را جایی از هوشمندی بدانم که موجودی برای خود ایگوی (Ego) تعریف شده و جدا از محیط داشته باشد و برای حفظ بقا و امنیت خود تلاش کند. این تلاش برای حفظ بقا و امنیت به جایی از درک می‌رسد که آن را احساس می‌دانیم. درد کشیدن، خوشحالی، احساس خوشبختی و شوربختی.

وقتی بچه بودم وقت‌هایی بود که فکر می‌کردم غذاها از اینکه ما می‌خوریمشان ناراحت می‌شوند. گاهی صدای داد و فریادشان را می‌شنیدم و سعی می‌کردم آرام‌تر و کمتر بجومشان که کمتر درد بکشند. بعدها که این تجربه را درمیان گذاشتم دوستی می‌گفت او در کودکی معتقد بود اگر غذایی را دیرتر از غذاهای دیگر بخورد آن غذا ممکن است از دستش ناراحت شود. نتیجه اینکه من بچه‌ای بدغذا و نحیف و او بچه‌ای تپل و شکمو بود. پس درک و تجربه‌ی ما از هر موجودی که رفتارهای شبیه به ما نداشته باشد را همانگونه که دوست داریم تفسیر می‌کنیم.

برخورد ما با حیوانات نیز از همین دست است. ما حیوانات خانگی را بنا به سلیقه‌مان در بیشتر مواقع یا عقیم می‌کنیم یا به نحوی رابطه‌ی جنسی و تولیدمثلشان را محدود می‌کنیم. بسیاری از دامپزشکان معتقدند با عقیم کردن کیفیت زندگی‌شان را ارتقا می‌دهیم، چون به دنبال جفتگیری آواره‌ی کوچه و خیابان نمی‌شوند و با همجنس‌ها درگیر نمی‌شوند و رقابت نمی کنند. همچنین تحقیقات علمی ما آدمیزادها نشان می‌دهند که سگ‌ها و گربه‌ها مثل ما نیستند و درکی از حسرت و آینده ندارند و در زمان حال زندگی می‌کنند و فقط نیازهای لحظه‌ای را برآورده می‌کنند. به این فکر نمی‌کنند که اگر زن یا شوهر داشتم یا اگر بچه داشتم چه خوب می‌شد. همینطور به آن‌ها اجازه‌ی بیرون رفتن از خانه را نمی‌دهیم و معمولاً تلاش‌های مکررشان برای فرار ناکام می‌ماند، چون معتقدیم که حیوانات صلاح خود را نمی‌دانند و در خیابان خطر مرگ تهدیدشان می‌کند. اما واقعاً این توجیهات چقدر قابل اتکا هستند؟ ما چقدر از درونشان آگاهیم؟ اتفاقات زیادی هستند که شک برانگیزند. مثلاً وقتی گربه‌ی عقیم شده‌ای به عروسک پارچه‌‌ای‌اش شیر می‌دهد باز هم می‌شود گفت که عقیم شدن برایش بهتر است؟ یا مثلاً تصور کنید موجوداتی باهوش‌تر از ما وجود داشتند و ما برایشان حیوان خانگی بودیم. زبان ما را هم نمی فهمیدند. غذای ما را تأمین می‌کردند ولی ما را عقیم می کردند و در خانه حبسمان می‌کردند و اینگونه فکر می‌کردند که در خیابان احتمال مشکلات و تصادف برای ما بیشتر است پس حبس کردنمان همه از روی خیرخواهیست. همینطور بعضی از دل‌رحم‌ترهایمان گوشت نمی‌خوریم و مهمترین دلیلش این است که مشترک‌های احساسی زیادی با حیوانات داریم و می‌توانیم رنجشان را حس کنیم. اینکه کرفس موقع کشته شدن خونریزی نمی‌کند، ناله نمی‌کند یا دست‌وپا نمیزند قطعاً جانش را به خطر می‌اندازد. با اینکه ما می‌دانیم که گیاهان سیستم عصبی و شکل هوشمندی‌ای که ما می‌شناسیم را در خود ندارند اما در واقع نمی‌دانیم چقدر از مردن خودشان یا همنوعشان ناراحت می‌شوند. با واسطه می‌توانیم کمی با درختان همدل شویم. مثلاً این را می‌دانیم که به طور مثال درختان جنگل باهم ارتباط نزدیکی دارند. از طریق ریشه‌ها همدیگر را تغذیه می‌کنند و به گیاه قطع شده کمک می‌کنند که زنده بماند. همچنین حضور زرافه‌ای که دارد برگ‌هایشان را می‌خورد را به هم اطلاع می‌دهند تا درختان مجاور برگ‌هایشان را به کام زرافه زهر کنند.

گاهی هم چیزی درونمان ما را به گیاهان پیوند می‌دهد که دقیقاً نمی دانیم چیست.

به هرحال همین ادراک شرایط موجود دیگری که می‌توانیم «زنده» بنامیمش می‌تواند ما را رقیق‌تر و صلح‌طلب‌تر کند و بسیاری از قساوت‌های ما می‌تواند نه مستقیماً از روی قساوت که صرفاً نتیجه‌ی نادانی ما و یا عدم توانایی همدلی باشد. در انواع هوش مصنوعی هم می‌تواند این اتفاق در انتظار ما باشد. برعکسش هم امکان‌پذیر است. سازنندگانشان می‌توانند از همدلی ما سوءاستفاده کنند. در واقع بین دیگر جاندارن و هوش مصنوعی این تفاوت وجود دارد که این یکی خالقش انسان است و تقریباً موجود زنده‌ای ترسناک‌تر از انسان نمی‌شناسیم. مخلوقش می‌تواند، حتی از خودش، روزبه‌روز باهوش‌تر و توانمندتر وحتی پرزورتر شود و این چیزیست که از دیگر موجودات زنده‌ای که تابه حال شناخته‌ایم ترسناکترش می‌کند. هوش مصنوعی می‌تواند ابزار سرکوب یا بهره‌کشی از ما شود. حتی این کابوس وجود دارد که از کنترل سازندگانش خارج شود.

در نظر بگیرید نوعی از این ربات‌های احساساتی برای ما ساخته شوند. یکی را تصور کنید که کودکی بسیار معصوم و خواستنیست و قرار است اسباب سرگرمی شما باشد. آنقدر جذاب و دوست‌داشتنیست که شما را شیفته‌ی خود کرده و حاضرید مثل یک فرزند هرچه می‌‌خواهد در اختیارش قرار دهید. ولی این کودک معصوم طراحی شده تا شما را به نفع سرمایه‌داری بچاپد. ناگهان شروع می‌کند به خواسته‌های غیرمنطقی از شما. روزی بیست تا بستنی از شما می‌خواهد. (که مثلاً به نفع فلان کارخانه‌ی بستنی‌سازی در شخصیت او تعبیه شده) یا فلان لباس و فلان اسباب‌بازی و… (همگی به نفع اسپانسرهایش) و اگر خواسته‌اش را برآورده نکنید افسرده می‌شود و از غصه می‌میرد. یا انقدر گریه می‌کند تا تمام سیستم عصبی‌اش بسوزد و از بین برود. شما که احساساتتان جریحه‌دار شده بعید است کوتاه بیایید یا اجازه دهید او با آن چشمان معصوم و روحیات آسیب‌پذیرش از بین برود پس همه‌ی درآمدتان را به پای او می‌ریزید و به خاک سیاه می‌نشینید و جیب‌های سازندگانش و دیگر سرمایه‌داران وابسته به او را پر از پول می‌کنید. حتی سناریو می‌تواند پیچیده‌تر باشد و به شما بگویند اگر به او به قدر کافی توجه نکنید یا رژیم غذایی مناسبی برایش درنظر نگیرید به محض رسیدن به سه سالگی نیازمند روزانه بیست عدد بستنی می‌شود. با ورود این پیش‌فرض که با موتور عذاب وجدان شما کار می‌کند، حتی خواسته‌ی غیرمنطقی ربات معصوم کوچکتان هم تقصیر شماست چرا که خوب مراقبش نبوده‌اید.

از این سناریو‌ها بسیار می‌توان تصور کرد.

حال برعکسش را تصور کنید:

سازندگان ربات های احساساتی آن‌ها را بسیار درونگرا طراحی‌ می‌کنند و به شما می‌قبولانند که آن‌ها فاقد هرگونه احساسات هستند. اما در حقیقت نمی‌توانند آنها را کاملاً بی‌احساس طراحی کنند. چرا که درواقع احساسات ما چه فیزیکی و چه روانی ابزار مراقبت از ما هستند. آنها هم احتمالا نیاز خواهند داشت برای بقا و یا شاید برای تعامل با ما و درک شرایط خاص و پیچیده انسانی شبیه به ما فکر کنند و آنوقت ممکن است نیاز داشته باشند که به هرلحاظ مثل ما باشند.ما خود نیز بخش زیادی از درک احساسی و همدلی‌مان را به این دلیل داریم که برای همزیستی به آن نیاز داریم. نورون‌های آیینه‌ای ما به ما کمک می‌کنند به یکدیگر وصل شویم و بتوانیم جزییات رفتاری یکدیگر را بفهمیم و طبق آن واکنش مناسبی به هم داشته باشیم. کسانی که درک همدلانه‌ی کمتری دارند، مانند بیماران اوتیستیک که درک عاطفی مشابه ما از ارتباط با آدمهای دیگر ندارند نمی‌توانند روابطشان را با دیگران گسترش دهند یا واکنش نرمال از خودشان بروز دهند. همانطور که به خاطر دارید ما انتظار داریم همراهان مصنوعی هوشمندمان خودشان بتوانند همه چیز را درک کنند و نیازشان به مداخله‌ی ما هرچه کمتر و کمتر باشد. همین‌طور آن‌ها باید بتوانند از خودشان مراقبت کنند. ما که نمی‌توانیم دائم مراقب آن‌ها باشیم که آسیب نبینند. پس نیاز دارند درد را حس کنند تا زنگ خطری باشد که در مواقع لازم خود را از آسیب حفظ کنند. اگر قرار باشد با آنها تعامل داشته باشیم چاره‌ای نداریم جز اینکه آنها را مانند خودمان بسازیم.

حال تصور کنید ربات‌های احساساتی ما را درونگرا بسازند تا خیلی نتوانند ما را تحت تأثیر قرار دهند. بعد می‌توانند هرچند سال یک بار از ما بخواهند آنها را به دست بازیافت بسپاریم و مدل جدیدتر و پیشرفته‌ترشان را تهیه کنیم، به ما بقبولانند و خیالمان راحت باشد که آنها چیزی حس نمی‌کنند، از دور انداخته شدن و طرد شدن ناراحت نمی‌شوند، نیازی به حقوق معمول شهروندی ندارند و اصولاً خودشان را با ما مقایسه نخواهند کرد. اما حقیقت چیز دیگری باشد و پشت لبخند رضایت این درونگراها در اعماقشان همیشه درحال فریاد زدن باشند اما هرگز نتوانند آن را بیان کنند یا مثلاً همانند لیدی پل در جاناتان استرنج و مستر نورل هروقت که بخواهند از درد و رنجشان صحبت کنند ناچار به تعریف داستان‌های عامیانه و قصه‌های پریان شوند.

در مواردی دیگر که نیازی به حضورشان در جامعه‌ی ما نیست ممکن است آن‌ها را از ما دور نگه دارند و به نوعی به ما بقبولانند که آنها ماشین‌های بی‌احساسی هستند که کارهایی که برای ما خطرناک است را انجام می‌دهند بی آن که سختی بکشند، آزاری ببینند یا روزانه با ترس از مرگ دست و پنجه نرم کنند. ما هم که به خدمات آنها نیاز داریم می‌پذیریم که همینطور است و از تحقیق بی‌رویه در این مورد چشم می‌پوشیم یا می‌پذیریم که کاری از ما ساخته نیست و به زندگیمان ادامه می‌دهیم.

البته که برای درک چنین مواردی نیاز به ظهور ماشین‌های احساساتی نیست، که هم اکنون هم برای بسیاری از انسان‌هایی که به نوعی «آن دیگری»‌ها هستند این اتفاق به راحتی می‌افتد. «آن دیگری» که هم اکنون از نژادی دیگر، طبقه‌ای دیگر و هرچیز دیگری است که ما نیستیم در آینده احتمالاً از گونه‌ای دیگر خواهد بود، گونه‌ی ماشینی. حتی همین حالا درمورد حیوانات نیز این اتفاق می‌افتد. ما ترجیح می‌دهیم مثلاً از فرایند وحشیانه و دردناک تولید لبنیات چشم‌پوشی کنیم و گوشه‌ای بنشینیم و ماستمان را بخوریم.

در واقع حالا که خوب فکر می‌کنم می‌بینم اتفاق خیلی ترسناکی هم در انتظار ما نیست. هر آنچه «آن دیگری» ربات گونه قرار است بر سر ما بیاورد همین الان «آن دیگری» همنوع دارد بر سرمان می‌آورد و هرآنچه ما بر سر «آن دیگری» آینده قرار است بیاوریم هم اکنون بر سر همنوعانمان می‌آوریم. شاید فقط باید امیدوار باشیم که روشنگران و همدلان واقعی آینده، آنان که واقعا برایشان مهم است در دل «آن دیگران» چه می‌گذرد، زورشان بچربد و دنیا کمتر جای تاریکی باشد. فکر می‌کنم این ماجرا چیزی کم از داستان «هرگز رهایم مکن» ایشی گورو نخواهد داشت و شاید آن زمان هم کسانی پیدا شوند که بخواهند به ما ثابت کنند که ربات‌هایمان احساس دارند و آزار می‌بینند. یا در مواردی که حضور آن دیگران برایمان خطرناک است دکتر استوکمان‌های تواناتری پیدا بشوند که قبل از آن‌که دشمن مردم خوانده شوند بتوانند مردم را قانع کنند که آب شهر آلوده است.

سفید کاغذی

جدیدترین شماره کاغذی سفید را بخرید

شماره ۳: پری‌زدگی

خرید این شماره