یادگیری ماشینی تعیین میکند: بیماران کما رفتیاند یا ماندنی؟
آیا ممکن است محاسبات منطقی ریاضیات ماشینی مسئولیت اخلاقی کشیدن سیم برق را از ما صلب کند؟
بعضی مواقع دریافت ضربهای سنگین به گوشهی سرتان کافیست تا به کما فرو بروید.
وقتی کسی به کما فرو میرود، تمام مهارتهای حرکتیاش را از دست میدهد. فعالیت مغزش بسیار کند میشود. در بیشتر موارد، به هیچیک از محرکهای بیرونی، مثل نور یا حرکت اجسام، واکنش نشان نمیدهد. پیشبینی آیندهی بیماران کماتوز بسیار دشوار است: آیا هیچوقت قرار است از کما دربیایند؟
عصبشناسهای چینی فعال در آکادمی علوم و بیمارستان عمومی «ارتش آزادیبخش خلق» واقع در پکن بهسختی مشغول کارند تا ابزاری بسازند که هدفش کمک به پزشکان برای تعیین سرنوشت چنین بیمارانی است. ولی آنها از فناوریای بهرهمندند که پزشکان نسلهای پیشین از آن بیبهره بودند: یادگیری ماشینی. الگورتیمهایی مثل مورد مذکور بخشی از ابزار دادهمحور در حال پیشرفت هستند که قادرند به اعضای خانواده (که بدون شک در موقعیتی احساسی قرار دارند) و پزشکان کمک کنند تصمیم نهایی را راجعبه بیمارشان بگیرند: آیا بهتر است مراحل درمان را شروع کنند یا وقتش رسیده باهاشان خداحافظی کرد؟
پژوهشگران دادههای افامآرآی (fMRI) (تصویرسازی تشدید مغناطیسی کارکردی) دریافتشده از هزاران بیمار کماتوز را به یک الگورتیم یادگیری ماشینی ارائه کردند. این کار بهشان کمک کرد تا پی ببرند احتمال بیدار شدن بیمار مربوطه چند درصد است.
از قرار معلوم نتایج بهدستآمده بسیار امیدبخش هستند. پژوهشگران به چاپ صبح روزنامهی چین جنوبی گفتند: «نتیجهگیری اولیه راجعبه تعدادی از بیماران این بود که امید نمیرود دوباره به هوش بیایند. اما ما به هوش آمدنشان را پیشبینی کردیم که و این اتفاق هم افتاد.»
پژوهشگران به این نتیجه رسیدند که این الگوریتم نرخ موفقیت 90 درصدی داشت و آنها این تکنیک را روی بیش از 300 هزار بیمار در اقصینقاط چین امتحان کردهاند. آنها امیدوارند این فناوری بتواند به تعداد بیشتری از 50000 «بیمار چینی با اختلالات مزمن در هوشیاری» کمک کند.
پاسکال کافمن (Pascal Kaufmann)، عصبشناس و موسس استارمایند (Starmind)، شرکتی سوییسی که کارش توسعهی هوشمصنوعی مناسب برای استخدام کارمندهایی با بازدهی بالاتر برای شرکتهاست، اعتقاد دارد با وجود بالا به نظر رسیدن ریسک، کاربرد ایدهآل این فناوری در عرصهی یادگیری ماشینی، استفاده از آن روی بیماران کماتوز است. در واقع، ماشینها چنین دادههای بیولوژیکی پیچیدهای را بهمراتب بهتر از انسانها آنالیز میکنند. «این ماشینها دقیقاً دارند کار انسانها را انجام میدهند، چون همان دادههایی در اختیارشان قرار داده میشود که انسانها در اختیار دارند. ولی کار بررسی این دادهها را میلیونها بار سریعتر و قابلاطمینانتر انجام میدهند.»
البته پژوهشگران فعال در پکن منظورشان این نیست که ماشینها باید راجعبه زنده ماندن یا مردن بیماران تصمیم نهایی را بگیرند. یانگ یی (Yang Yi)، یکی از پزشکان دپارتمان جراحی اعصاب در بیمارستان عمومی «ارتش آزادیبخش خلق» و یکی از پژوهشگران پروژه به چین جنوبی گفت: «وقتی نمرهی هوشمصنوعی را به خانوادهی بیمار اعلام کردیم، در کنارش به آنها گفتیم که این نمره فقط باید 20 تا 50 درصد در تصمیم نهاییشان تاثیر بگذارد.»
کافمن هم با نتیجهگیری آنها موافق است. نمرهی یک سیستم کامپیوتری فقط باید در شرایطی اهمیت داشته باشد که پزشکان از بیمار کماتوز قطع امید کرده باشند، اما نمرهی بهدستآمده شانس خوبی برای زنده ماندن او در نظر بگیرد. در شرایطی برعکس نباید به نمرهی بهدستآمده توجه کرد. کافمن میگوید: «وقتی پزشک انسان میگوید که بیمار هیچگاه به هوش نخواهد آمد، واقعاً لحظهی دردناکی است. اما اینکه بیمار به خاطر خروجی یک ماشین بمیرد، غیرقابلتصور است. فکر میکنم فقط باید در شرایطی به نتایج اهمیت دهید که یک نفر بهتان بگوید جای امید باقیست.»
فکر میکنم فقط باید در شرایطی به نتایج اهمیت دهید که یک نفر بهتان بگوید جای امید باقیست.
در اصل، حالا که به فناوریای دست پیدا کردیم که به ما کمک میکند احتمال بیداری بیماران کماتوز را پیشبینی کنیم، دیگر صلاح نیست به پزشکهای انسان اجازه دهیم دادهها را بهتنهایی بررسی کنند. مثال خودروهای بدون سرنشین را در نظر بگیرید: احتمال تصادف برای رانندههای انسان بهمراتب بیشتر از جایگزینهای تماماتوماتیکشان است. کافمن میگوید: «اگر بخواهیم قضاوت زنده ماندن یا مردن بیماران کماتوز را به پزشکها واگذار کنیم، کاری خطرناک انجام دادهایم، چون درصد خطای پزشکهای انسان بهمراتب از ماشینها بیشتر است.»
البته در حال حاضر این الگوریتم را فقط روی بیماران کماتوز استفاده کردهاند و احتمالاً این اتفاق خجستهایست. کافمن میگوید ماشینها بهتر از انسانها میتوانند وضعیت حیاتی بیمار را بررسی کنند. ولی این ماشینها نمیتوانند آن مهارتهای ظرافتمندانهای را که بیمارها انتظار دیدن از پزشک معالجشان دارند، به عرصهی نمایش بگذارند. «البته تعامل انسانی پزشکها با بیمارها (بیمارهایی که کماتوز نیستند) امتیازی است که ماشینها از آن بیبهرهاند و از این لحاظ پزشکهای انسان به ماشینها برتری دارند، چون میتوانید رفتار، بو، نحوهی حرف زدن و ویژگیهای دیگرشان را ارزشگذاری کنید. بیماران انتظارات زیادی دارند که ماشینها نمیتوانند خیلیهایشان را برآورده کنند.»
اینکه به یک ماشین اجازه دهید مرگ و زندگی بیمار را تعیین کند، شبیه به سناریوی یکی از اپیزودهای آینهی سیاه (Black Mirror) به نظر میرسد، ولی این شاید اتفاق خوبی باشد. بدونشک الگورتیمهای یادگیری ماشینی در بسیای از حوزههای عرصهی سلامت به کار گرفته خواهند شد. مثلاً ممکن است این الگوریتمها بهواسطهی ابزار پوشیدنی با سطح فناوری بالا، دادههای پزشکی جمعسپاریشده را آنالیز کنند یا به رباتهای جراح کمک کنند با کمترین میزان دخالت انسانی، بیمار را جراجی کنند. بدونشک ماشینها هرچه دادهی بیشتری دریافت کنند، میزان دقتشان نیز افزایش پیدا خواهد کرد.
ولی آیا ممکن است در آینده تصمیم زنده ماندن یا مردن بیمار به طور کامل روی دوش ماشینها باشد؟ بدونشک رسیدن به چنین آیندهای زمان زیادی طول خواهد کشید.