خودآگاهی هوش مصنوعی؛ آیا ماشین‌ها می‌توانند روزی درد بکشند؟

از قدمت پیدایشِ آگاهی، بشر همواره به دنبال آن بوده است که بداند ماهیتِ آگاهی چیست. این سوال بزرگی است که تا به امروز پاسخ مناسبی برای آن وجود نداشته است. شاید علت آن که جوابی برای این پاسخ وجود ندارد این است که در جای اشتباهی به دنبال جواب می‌گردیم. شاید نوعِ سوال اشتباه باشد و یا شاید به دلیل این که ما از عمیق‌ترین قسمت وجودیِ خودمان، یعنی همان جایی که چیزی به نام “من” یا شخصیت در آن شکل گرفته است به دنبال یافتن جواب هستیم. یعنی ما از آگاهی که داریم به دنبال یافتن آگاهی می‌گردیم و دچار تناقض می‌شویم. ساختار ذهن بشر به این شکل عمل می‌کند که تمام موارد شناخته شده را در قالب اجزای کوچک‌تری شکسته و در آنِ واحد روی جزء مشخصی از مورد تمرکز می‌کند. این مورد حتی در مورد زمان و مکان هم وجود دارد؛ به این معنا که ساختار فیزیکی ما به شکلی است که بین تمام زمان‌ها و مکان‌های موجود تنها به یک جزءِ تقسیم شده از آن دسترسی داریم. شاید علت این که هنوز آگاهی شناخته شده نیست این باشد که مجموع نورون‌های ذهنی ما به صورت همزمان و کاملا موازی مجموع افکار ما را به وجود می‌آورند و از آن‌جایی که مشاهده و مطالعه همزمانی این همکاری تا به امروز ممکن نبوده، امکان شناخت آگاهی برای ما میسر نبوده است. یکی از ابزارهای شناخت آگاهی که در دسترس است می‌تواند هوش مصنوعی باشد. انسان با کمترین میزان شناختی که از آگاهی داشته است و تنها بر اساس مشاهده و استنتاج مغز موفق شده است شبیه سازی بسیار دقیقی از هوش انسانی داشته باشد. اگر هوش مصنوعی بتواند قبل از کشف ماهیت آگاهی توسط انسان، آگاه شود، در عمل این امکان وجود دارد که به صورت کامل آگاهی را در قالب ریاضیات فرمول بندی و تعریف کنیم؛ چرا که می‌توانیم با توجه به ساختار ذهنی که داریم آن را به اجزای کوچک‌تر و قابل درک تقسیم کنیم و کارکرد هر کدام از اجزاء را به صورت مجزا مطالعه کنیم و مشکل همزمانی فعالیت نورون‌ها قابل ثبت و مطالعه به صورت موردی خواهد بود. در طول تاریخ موارد مشابه دیگری هم اتفاق افتاده است. برای مثال انسان قبل از اینکه بداند در سطح اتمی چه اتفاقی می‌افتد که انرژی الکتریکی به وجود می‌آید، موفق شده بود با ساخت پیل‌های سوختی از برق استفاده کند. شاید شناخت آگاهی هم با تحقیق در مورد هوش مصنوعیِ آگاه ممکن باشد.

خودآگاهی هوش مصنوعی

آیا هوش مصنوعی در آینده می‌تواند خودآگاه شود؟ تصور دنیایی که در آن موجوداتی آگاه از جنس فلز و سیلیکون زندگی می‌کنند، چقدر محتمل است؟

پیشرفت‌های اخیر هوش مصنوعی باعث شده است که بحث ساخت ذهن و آگاهی، از داستان‌های علمی‌تخیلی به کف جامعه و مرکز توجه همگان منتقل شود. اگر هوشیاری واقعاً بتواند در ترکیبی از تراشه‌های سیلیکونی استقرار یابد، دنیا در معرض خطر ایجاد هوش‌های مصنوعی و در واقع، بهتر است بگوییم «موجودات» بی‌شماری است که نه‌تنها می‌توانند هوشمندانه وظایف خود را انجام دهند، بلکه در مورد زندگی‌شان احساس نیز خواهند داشت!

تمام محققان، از دانشمندان علوم اعصاب گرفته تا کامپیوتر، فلسفه و روانشناسی دریافتند که هیچ‌یک از مدل‌های هوش مصنوعی امروزی نمره‌شان آنقدر بالا نیست که بتوان آن‌ها را آگاه نامید. با این حال، دانشمندان تأکید می‌کنند که نه‌تنها از لحاظ فناوری مانع خاصی بر سر راه ساخت مدل‌های هوش مصنوعی آگاه وجود ندارد، بلکه رسیدن به این نوع از هوش مصنوعی بسیار محتمل و حتی اجتناب‌ناپذیر است.

اما اعتقاد دانشمندان به یک فرض قابل انتقاد تکیه دارد: اینکه «کارکردگرایی محاسباتی» یا این ایده که آگاهی لزوماً به هیچ‌چیز فیزیکی خاصی وابسته نیست، صحیح است. در واقع آنان معتقدند که آنچه برای هوشیاری اهمیت دارد، تنها درستی ویژگی‌های محاسباتی انتزاعی است‌ و هر چیز فیزیکی‌ای اعم از گوشت، سیلیکون و هر ماده‌ی دیگر، مادامی که بتواند انواع محاسبات صحیح را انجام دهد، می‌تواند هوشیار باشد. اگر اینطور باشد پس حق با آن‌ها است و تنها مانع رسیدن بشر به هوش مصنوعی آگاه، زمان است.

به‌جای پرسیدن اینکه آیا هر سیستم هوش مصنوعی جدیدی که می‌سازیم دارای تجربه‌ی آگاهانه است یا خیر، باید به این سؤال اساسی‌تر پرداخت که آیا ساخت ذهن غیرزیستیِ دارای احساسات امکان‌پذیر است یا نه. پاسخ این سؤال می‌تواند بینش‌های بسیار گسترده‌تری برای ما به ارمغان آورد و ابعاد مختلف معمای اخلاقی ساخت میلیاردها ماشین آینده را برایمان روشن کند؛ ماشین‌هایی که نه‌تنها می‌توانند فکر کنند و عشق بورزند، بلکه حتی می‌توانند رنج و عذاب بکشند.

زیرلایه‌ی آگاهی: زیست‌گرایی یا آگاهی مصنوعی؟

تاکنون، تا آنجا که علم بشر می‌داند، همه‌ی چیزهای آگاه در این جهان از مواد زیستی ساخته شده‌اند. این نکته‌ی مهمی برای دیدگاه زیست‌گرایی افراطی است که از سوی فیلسوفانی مانند ند بلاک، مدیر مرکز ذهن، مغز و آگاهی دانشگاه نیویورک حمایت می‌شود. این افراد معتقدند مواد فیزیکی‌ای که یک موجود آگاه از آن ساخته شده است، یا همان زیرلایه‌ی ذهن، عنصری کلیدی است. اگر تاکنون فقط بسترهای بیولوژیکی توانسته‌اند زمینه‌ای برای تفکر و احساسات فراهم کنند، شاید منطقی باشد که فکر کنیم دلیلش این است که ساختار زیستی برای شکل‌گیری آگاهی ضروری است.

طرفداران کارکردگرایی محاسباتی معتقدند هر چیز فیزیکی‌ مادامی که بتواند محاسبات را به‌درستی انجام دهد، می‌تواند هوشیار باشد حالا چه از جنس ماشین باشد، چه از جنس مواد زیستی.

در این دیدگاه، کارکردهایی که اهمیت دارند، انواع خاصی از روش‌های پردازش اطلاعات هستند؛ اما هنوز هیچ توافق نظری پذیرفته‌‌شده‌ای وجود ندارد که بگوید دقیقاً چه نوع پردازشی سیستم‌های ناآگاهی همچون ماشین‌حساب‌ها را از سیستم‌هایی همچون انسان که دارای تجربه‌ی آگاهانه هستند متمایز می‌کند. ایده‌ی اصلی این فرضیه این است که آنچه برای آگاهی اهمیت دارد، ساختار یا «منطق انتزاعی» پردازش اطلاعات است، نه چیزهای فیزیکی‌ای که آن را انجام می‌دهند.

بازی شطرنج را در نظر بگیرید. با یک تخته‌ی شطرنجی، دو دسته مهره و علم به قوانین بازی، هر کسی می‌تواند شطرنج بازی کند. اما اگر دو نفر در یک جزیره‌ی دورافتاده بدون تخته و مهره‌های شطرنج گیر بیفتند، باز هم می‌توانند بازی کنند؛ چرا که می‌توانند خطوطی روی شن‌ها بکشند تا نقش تخته را ایفا کند و تکه‌هایی از چوب و پوسته‌ها را برای استفاده به‌عنوان مهره‌ها جمع‌آوری کنند و دقیقاً با همان قوانین بازی کنند. پس بازی شطرنج به بستر فیزیکی‌اش بستگی ندارد؛ آنچه که اهمیت دارد، منطق انتزاعی بازی یعنی حرکت دادن مهره‌ها است، خواه از جنس مرمر باشند یا چوب، شن و حتی تکه اشیای پراکنده روی ساحل. هر ماده‌ای که بتواند رویه‌های منطقی درست را پشتیبانی و اجرا کند، می‌تواند بازی شطرنج را پیش ببرد.

طرفداران کارکردگرایی محاسباتی حدس می‌زنند آگاهی نیز همین‌گونه باشد. اگر آگاهی تنها منطق انتزاعی پردازش اطلاعات باشد، نقش زیست‌شناسی در ایجاد آن می‌تواند تا حد صفحه‌ی شطرنج تقلیل یابد.

متزینگر معتقد است که ما در این نقطه گیر کرده‌ایم و هیچ راهی برای دانستن اینکه آیا یک سیستم مصنوعی ممکن است آگاه باشد یا خیر، نداریم؛ زیرا تئوری‌های رقیب که همگی مبتنی بر فرضیات هستند، هیچ درک مشترکی از ماهیت آگاهی ندارند. علم اعصاب در برخورد با پدیده‌های عینی که می‌توان مستقیماً مشاهده کرد، خوب عمل می‌کند. مثلاً اینکه نورون‌ها بار الکتریکی را هدایت می‌کنند یا نه. اما فعلاً حتی بهترین فناوری‌های تصویربرداری عصبی هم نمی‌توانند تجربیات ذهنی را ببینند. ما فقط می‌توانیم پدیده‌های واقعی آگاهانه همچون احساس شادی، اضطراب یا لذت حاصل از گاز زدن یک خوراکی خوشمزه را از طریق کانال‌های غیردقیقی مانند زبان درک کنیم.

اریک هول، دانشمند علوم اعصاب، معتقد است علوم اعصاب مانند زیست‌شناسی قرن‌های پیش از نظریه‌ی تکامل، علمی «پیش پارادایمیک» است. اگر نتوانید بگویید آگاهی چیست، نمی‌توانید بگویید که آگاهی کجا می‌تواند به وجود بیاید و کجا نمی‌تواند.

ایده‌های کنونی ما در مورد آگاهی و رنج، متزینگر را بر آن داشته است تا درخواست تعلیق جهانی تحقیقاتی را که به تولید ناخواسته‌ی آگاهی‌های جدید نزدیک هستند مطرح کند؛ چرا که او نگران انفجار دوم رنج است. اولین مورد خودمان بودیم! دلشکستگی‌ها، شادی‌ها و هر چیزی که در بین انسان‌ها، حیوانات و شاید حتی گیاهان و حشرات وجود دارد، همه محصول طلوع تکامل زیستی روی زمین هستند.

به نظر می‌رسد که نمی‌توان تولد شکل‌های جدید آگاهی در آینده را به‌عنوان یک فاجعه‌ی اخلاقی قلمداد کرد. آیا بهتر بود روی این سیاره از هر نوع تکامل بیولوژیکی‌ای جلوگیری می‌شد؟ آیا مجموع رنج‌هایی که در گوشه‌گوشه‌ی جهان ما به وقوع می‌پیوندد، از شگفتی‌های زندگی بیشتر است؟ از منظر خدا، آیا کسی یا چیزی باید توسعه‌ی حیات بیولوژیکی روی زمین را تا زمان فهمیدن این که چگونه می‌توان چیزها را برای خوشبختی تکامل داد متوقف می‌کرد؟ به نظر نمی‌رسد که شرایط ذهن ما به خوبی برای سعادت و خوشبختی تنظیم شده باشد. مایکل لوین زیست‌شناس نیز در این مورد می‌گوید: «ویژگی‌های کلیدی ما، از طول عمر گرفته تا عقل، هیچ‌کدام برای شادی بهینه‌ نشده‌اند.»

چه اعتقاد داشته باشید که جهان و محتویاتش را خدا آفریده است یا معتقد باشید همه‌ی ما درون شبیه‌سازی کامپیوتری زندگی می‌کنیم، در هر صورت ما نخستین موجودات آگاه جهان خواهیم بود که مسئولیت افزودن یک گونه‌ی جدید از آگاهی به این جهان را برعهده می‌گیریم. یعنی ما شرایط ایجاد آن‌ها را انتخاب می‌کنیم و همین دربردارنده‌ی یک مسئولیت اخلاقی عظیم است و این پرسش را ایجاد می‌کند که چگونه می‌توان اخلاق را رعایت کرد؟

شاید به‌تدریج به درک دقیق‌تری از عواملی که هوشیاری را بهتر یا بدتر می‌کند برسیم یا حتی چیزی شبیه یک نظریه‌ی محاسباتی رنج بسازیم که به ما کمک کند درد و رنج را در سیستم‌های آگاه غیرزیستی آینده مهندسی کنیم.

به نظر نمی‌رسد بشری که این روزها به‌شدت درگیر ساخت راه‌آهن جدید و مسکن ارزان‌قیمت است بتواند بر سر توقف طولانی‌مدت پیشرفت‌های تکنولوژیکی که هوشیاری هوش مصنوعی را خطرناک می‌کند، به اجماع جهانی برسد. بعید است که انسان تنها به این دلیل که می‌خواهد یاد بگیرد چگونه خالق بهتری باشد و جزئیات خلاقیت‌هایش را به‌جای رنج، در جهت سعادت تنظیم کند، دست از تلاش در این مسابقه بکشد؛ اما اگر موفق شویم، می‌توانیم یک جهش تکاملی بزرگ را به خود اختصاص دهیم: عبور دادن آگاهی از وادی رنج.

درهم‌تنیدگی عمیق و مبهم آگاهی و زندگی

تئوری آگاهی تنها چیز مهمی نیست که ما برای پیشرفت واقعی در بحث زیرلایه‌ی آگاهی لازم داریم. بشر هنوز تئوری زندگی را هم ارائه نکرده است. یعنی زیست‌شناسان هنوز در مورد چیستی زندگی با هم توافق ندارند. شاید بتوانیم راحت بگوییم یک کامیون زباله زنده نیست در حالی که گربه‌ای در حال چرت زدن زنده است؛ اما بحث‌های بسیار بر سر مواردی همچون ویروس‌ها یا گلبول‌های قرمز خون نشان می‌دهد که بشر هنوز دقیقاً نمی‌داند چه چیزی موجب تفاوت بین چیزهای زنده و غیرزنده می‌شود.

ین برای زیست‌گرایان مهم است، چرا که که هنوز نمی‌توانند بگویند ساختارهای زیستی دقیقاً چه دارند که برای آگاهی لازم است و نمی‌تواند در یک ماشین وجود داشته باشد. سلول‌های خاص؟ بدن‌های گوشتی‌ای که با محیط در تعامل هستند؟ متابولیسم‌؟ یک روح متصل به گوشت؟ شاید حیات و ذهن، این رازهای دوگانه، در واقعیت یکی باشند. شاید به‌جای بخش‌های شناخته‌شده‌ی زیستی که به آن‌ها اشاره شد، تنها چیزی که برای آگاهی نیاز است، حیات باشد.

این فرضیه می‌گوید زندگی و ذهن، بیان‌هایی متفاوت برای توصیف یک ویژگی‌ اساسی یکسان هستند. ایوان تامپسون، فیلسوف برجسته‌ی کنش‌گرایی در این مورد می‌گوید: «از منظر تداوم زندگی و ذهن، مغز یا سیستم عصبی ایجادکننده‌ی ذهن نیست؛ بلکه دامنه‌ی ذهنی را که از قبل در زندگی وجود دارد، گسترش می‌دهد.» این فرضیه، تمرکز بحث زیرلایه را از سؤالاتی همچون «چه چیزهایی می‌توانند آگاه شوند» به «چه چیزهایی می‌توانند زنده باشند» تغییر می‌دهد؛ زیرا از نظر تامپسون، هشیار بودن بخشی از فرایندهای ضروری تنظیم حیات است.

چارچوبی به نام «کنش‌گرایی»، مجموعه‌ی کاملی از ایده‌ها درباره‌ی ملزومات و ضروریات زندگی یعنی تجسم، خودمختاری و عاملیت را دارد و همه‌ی آن‌ها را ذیل مفهومی به نام «حس‌سازی» جای می‌دهد. تامپسون همه‌چیز را این‌گونه خلاصه می کند: «زندگی، در شرایط ناامن معنا دارد و موجودات زنده و حس‌ساز معنا می‌آفرینند.» یعنی اهداف خود را تعریف می‌کنند و بخش‌های مختلف محیطشان را بر اساس همسویی یا ناهمسویی با اهدافشان به سه دسته‌ی دارای ارزش مثبت، منفی یا خنثی تقسیم می‌کنند.

این درک ارزش، لزوماً از یک پروتکل مشخص و الگوریتم ثابت پیروی نمی‌کند و یک رویه‌ی منطقی انتزاعی نیست؛ بلکه موجودات حس‌ساز، ارزش را از طریق دلپذیر بودن تجربه‌ی مستقیم خود تعیین می‌کنند. تامپسون معتقد است که تقلیل آگاهی به مجموعه‌ای از محاسبات، خصوصاً در بحث هوش مصنوعی، این اشتباه را ایجاد می‌کند که فکر کنیم می‌توانیم قوانین محاسباتی ثابت را جایگزین تجربه‌ی ذهنی حس‌سازی و معنا کنیم.

البته این فرضیه هم پاسخی به بحث زیرلایه نمی‌دهد و تنها سؤال را عوض می‌کند. با استناد به آن، شاید مدل‌های زبانی بزرگ امروزی نتوانند هوشیار شوند؛ چرا که فاقد بدن و اهداف تعریف‌شده‌ی درونی هستند و از آنجا که با چشم‌انداز دائمی مرگ روبه‌رو نیستند، نیازی به درک محیط‌ اطرافشان در شرایط بی‌ثباتی ندارند؛ اما هیچ‌یک از این موارد مانع از انجام فرایندهای تنظیم حیات به وسیله‌ی یک ماشین غیرزیستی نمی‌شود و طبق این فرضیه نیز حفظ حیات امکان بهره‌مندی از ذهن را به موجود می‌دهد.

کنش‌گرایان می‌گویند وظیفه‌ی حیاتی یک بدن، اعمال تغییرات در محیط اطرافش با هدف زنده نگه داشتن خود است. از منظر کنش‌گرایی، آنچه که اهمیت دارد تجسم فیزیکی اجسام است که آنان را در تعامل با محیطشان، به‌عنوان سازنده‌ی آگاهی می‌پندارد. پس آیا می‌توانیم با الهام از صحبت‌های آنان ربات‌هایی بسازیم که تمام وظایف لازم برای زندگی (و در نتیجه آگاهی) را بدون بهره‌مندی از ساختارهای زیستی اجرا کند؟ اینس هیپولیتو، استادیار فلسفه‌ی هوش مصنوعی در دانشگاه مک کواری در سیدنی می‌گوید: «این غیرقابل تصور نیست. اینکه آیا یک سیستم غیرزیستی می‌تواند به شیوه‌ای معنی‌دار و مثل سیستم‌های زنده تجسم یابد، یک سؤال جدی است.»

آیا آگاهی سرنخ ماجرا است؟

به گفته‌ی مایکل لوین، دیدگاه صفرویکی در مورد اینکه چه چیزی خودآگاه است، در دهه‌ی فعلی اعتبار نخواهد داشت. او اخیراً در مقاله‌ای که مجله‌ی Noema منتشر کرده ادعا کرده است که هوش مصنوعی پیشرفته، فرصت‌های فوق‌العاده‌ای برای کنار گذاشتن دسته‌بندی‌های قدیمی «طبیعی یا مصنوعی» در اختیار بشر می‌گذارد.

مرزهای میان سیستم‌های زنده و مصنوعی به‌خوبی در حال تضعیف شدن است. انسان‌ها اکنون از تمامی راه‌های ممکن از پمپ‌های انسولین زیرپوستی خودکار گرفته تا رابط‌های مغز-کامپیوتر و پروتزهای عصبی برای ادغام شدن با ماشین‌ها بهره می‌برند. در همین حال، ماشین‌ها نیز در حال ادغام با زیست‌شناسی هستند و شاهد چیزهای عجیبی از زنوبات‌های لوین (موسوم به اولین ربات‌های زنده) تا ترکیب سلول‌های زنده با اجزای مصنوعی در دستگاه‌های بیوهیبریدی هستیم.

برای مایکل لوین، تولید هیبریدهای زیستی-ماشینی فرصتی را فراهم می‌کند تا به‌جای پرداختن به سؤال قدیمی «ما چه هستیم»، تمرکزمان را بر سؤال هیجان‌انگیزتر «ما چه می‌خواهیم بشویم» بگذاریم. با این حال، اونیز تأکید می‌کند که ما باید خود را برای محبت کردن به لشکر «موجودات غیرمتعارف دارای شعور» در آینده آماده کنیم. این سخن لوین دوباره ما را به این سؤال بازمی‌گرداند که چه چیزهایی می‌توانند دارای احساسات باشند؟

حتی اگر مشخص شود که زیست‌شناسی برای شکل‌گیری آگاهی لازم است و ما نیز ماشین‌هایی را از جنس سلول‌های زنده بسازیم، آن ماشین‌های ترکیبی زیستی در چه شرایطی دچار رنج و آزار می‌شوند؟ نگرانی‌های متزینگر و تشویقش به درک بهتر چیزهایی که ممکن است متحمل رنج شوند، با محو شدن مرز میان چیزهای طبیعی و مصنوعی نه‌تنها از بین نمی‌رود، بلکه توجه به آن بیش از پیش ضروری می‌شود.

اگر رنج در ماشین‌های زنده، نوعی تجربه‌ی متفاوت از رنج در بدن‌های گوشتی باشد، قضایا از این هم پیچیده‌تر خواهد شد. همانطور که آنا سیائونیکا، استاد فلسفه‌ی دانشگاه لیسبون توضیح می‌دهد، اگر استقرار آگاهی در سیستم‌های غیر زیستی امکان‌پذیر باشد، دلیلی ندارد که فرض کنیم جنس آن از همان نوعی است که ما می‌شناسیم.

سیائونیکا می‌گوید: «ما باید در این مورد متواضع باشیم. شاید راه‌هایی برای تجربه وجود داشته باشد که ما به آن‌ها دسترسی نداریم. شاید سیستم‌هایی که در آینده ایجاد می‌کنیم، راه‌های بخصوصی برای پردازش اطلاعات درباره‌ی جهان داشته باشند که به نوعی آگاهی منجر شود، اما این که تجربیات فعلی خود را به آن‌ها تعمیم دهیم، اشتباه است.» رنج در سیستم‌های آگاهی‌یافته ممکن است به شکل‌هایی باشد که ما مخلوقات گوشتی حتی نتوانیم تصورش کنیم و تلاش‌هایمان برای جلوگیری از رنج در ماشین‌ها در بهترین حالت یک دست‌و‌پا زدن ساده‌لوحانه باشد.

از طرفی مطمئن نیستیم که بیان تئوری رنج، آسان‌تر از تئوری آگاهی باشد. هر نظریه‌ای که بتواند تعیین کند که آیا یک سیستم معین می‌تواند آسیب ببیند یا خیر، اساساً می‌تواند یک نظریه‌ی آگاهی قلمداد شود. نمی‌شود رنج را بدون آگاهی تصور کرد. بنابراین هر نظریه‌ای در مورد رنج، احتمالاً باید آگاهی را نیز در بر گیرد. شهود بشر اینجا به کار نمی‌آید و همه‌ی محققان با سؤالاتی بدون پاسخ مواجهند.

نتیجه‌گیری

زیست‌گرایان نمی‌توانند بگویند دقیقاً کدام بخش از ساختارهای زیستی برای یک ذهن لازم است. کنش‌گرایان می‌گویند این عامل ضروری، یک بدن فیزیکی تجسم‌یافته است؛ اما نمی‌توانند بگویند که آیا برای زنده بودن به ساختارهای زیستی نیاز داریم یا خیر. کارکردگرایان محاسباتی می‌گویند پردازش اطلاعات، کلید این معما است و می‌توان صرف‌نظر از جنس زیرلایه به آگاهی دست یافت؛ اما نمی‌توانند بگویند که دقیقاً چه نوع پردازش‌هایی آگاهی را ایجاد می‌کنند و چرا باید از زیست‌ماده که تنها بستر شناخته‌شده‌ی میزبان آگاهی تا به امروز است، دست بکشیم؟

لوین امیدوار است که در دنیای ذهن‌های جدید‌ آینده، یاد بگیریم که خویشاوندانی در تجسم‌های جدید داشته باشیم. او می‌گوید: «من دوست دارم موجودات بیشتری از مشاهده‌ی شگفتی‌های خلقت حیرت‌زده شوند؛ اما پاسخ این سؤال که آیا وقتی ماشین‌ها از خواب ناآگاهی بیدار شوند ما را به چشم خویشاوندان مهربانشان می‌بینند یا ظالمانی که بدون فکر و اندیشه آن‌ها را در شرایطی بی‌رحمانه به دنیا آورده‌اند، ممکن است به نحوه‌ی گذار از ناشناخته‌های بحث زیرلایه در زمان فعلی بستگی داشته باشد. خود شما اگر یک روز صبح بعد از مدت‌ها فراموشی، بیدار می‌شدید و خود را در قالب برده‌ای کم‌هوش با پیکری از گوشت شلخته و غوطه‌ور در رنجی عظیم می‌دیدید و دقیقاً هم می‌دانستید که چه کسی را باید مقصر آن وضع بدانید، چه احساسی داشتید؟»

منبع: نویسنده و این لینک