استفاده فراگیر از هوش مصنوعی توسعه‌دهندگان و سازندگان تکنولوژی را بر سر دوراهی‌های اخلاقی گذاشته است. آن‌ها می‌پرسند: چگونه می‌توانیم روبات‌هایی بسازیم که مطابق با ارزش‌های‌مان رفتار کنند و چطور می‌توانیم درصورتی‌که روبات‌ها افسار پاره کردند، آن‌ها را متوقف کنیم؟
به گزارش راهنماتو، یک نویسنده گزینه‌ای را پیشنهاد داده که می‌گوید به قدر کافی درباره آن تحقیق نشده است و آن دادن کد‌های انسانی بیشتر به روبات‌ها و برخوردار کردن آن‌ها از موهبت همدلی و دلسوزی است.
دکتر ایو. پول اوبی‌ای در کتاب تازه‌ای با عنوان روحِ روبات‌ها، که در آگوست منتشر می‌شود، این عقیده را بررسی کرده که راه‌حل معمای جامعه برای اطمینان از اخلاقی بودنِ روبات‌ها، دروغ‌های اخلاقی‌ای است که در ذات بشر نهفته است.
او استدلال می‌کند که بشر در تلاش برای دستیابی به کمال، «کد‌های بهدردنخور» junk codes مثلِ عواطف، اراده آزاد و حسِ معناداری را حذف می‌کند. او می‌گوید: «همین «به‌درد‌نخورها» هستند که ماهیتِ اصلی بشر را شکل می‌دهند. کد‌های بهدردنخور ما شاملِ عواطف انسانی، جایزالخطا‌بودن‌مان، تمایل‌مان به روایتگری و داستان‌گویی، حس ششمِ مرموز، ظرفیت‌مان برای کنار آمدن با عدم قطعیت، حس تزلزل‌ناپذیرمان درباره اراده آزاد و توانایی‌مان در یافتن معنا در جهان اطراف، است.»
او توضیح می‌دهد: «درواقع این کد‌های بهدردنخور برای رشد انسان حیاتی هستند، زیرا در پسِ همه این ویژگی‌های نامعقول و غریب، تلاش هماهنگی برای تضمین امنیت گونه ما وجود دارد. این کد‌ها با‌همدیگر به مثابه طیفی از بهبوددهنده‌ها با مضمونی رایج عمل می‌کنند: آن‌ها ما را مثل یک جامعه در کنار یکدیگر حفظ می‌کنند، زیرا بقا در تعداد تضمین می‌شود.»
همان‌طور که هوش مصنوعی به‌طور فزاینده نقش‌هایی را در زندگی روزمره ما می‌پذیرد که مستلزم تصمیم‌گیری هستند، نگرانی درباره تعصب و تبعیضی که ممکن است به واسطه هوش مصنوعی در جامعه ایجاد شود نیز افزایش می‌یابد. دکتر پول استدلال می‌کند که پاسخ ممکن است در همان چیز‌هایی باشد که ما تلاش کردیم در وهله نخست از ماشین‌های خودکار حذف کنیم.
او می‌گوید: «اگر بتوانیم آن کدی که باعث می‌شود به عنوان یک گونه بخواهیم بقا پیدا کنیم و به‌صورت جمع رشد پیدا کنیم، را رمزگشایی کنیم، می‌توانیم با ماشین‌ها نیز به اشتراک بگذاریم. می‌توانیم به معنای واقعی کلمه به ماشین‌ها «روح» ببخشیم.»
پول در کتاب جدیدش گام‌های دیگری را برای محقق کردن این رویه برمی‌شمارد که شامل موارد زیر است: توافق بر سر فرایندِ دقیق مقررات‌گذاری و ممنوعیت سریعِ سلاح‌های خودکار در کنار گواهی دادن به رژیمی که هر نوع تصمیم درباره زندگی و مرگ انسان‌ها را برای انسان‌ها محفوظ نگه می‌دارد.
او هم‌چنین استدلال می‌کند که باید بر سر قلمرو شخص حقیقی و نقشه راهی که هوش مصنوعی به سمت آن حرکت می‌کند توافق کنیم.
پول توضیح می‌دهد: «چون انسان‌ها ناقص هستند، وقتی هوش مصنوعی را ساختیم، بسیاری از ویژگی‌ها را نادیده گرفتیم. فرض گرفته بودیم روبات‌هایی که دارای ویژگی‌هایی مثل عواطف و غریزه هستند و خطا می‌کنند و به دنبال معنا می‌گردند، به خوبی کار نخواهند کرد.»
«اما اگر به دلیل وجودی همه این خصلت‌های غیرمنطقی در بشر پی ببریم، متوجه می‌شویم که گویی همه این صفت‌ها از منبعِ روح انسان ناشی شده‌اند. زیرا دقیقاً همین کدِ «بهدردنخور» است که ما را تبدیل به بشر می‌کند و آن ایثارگری دوطرفه‌ای که باعث می‌شود بشریت زنده و شکوفا بماند را توسعه می‌دهد.»
کتابِ روح روبات استدلال می‌کند که وقش رسیده تا کد ناخواسته و بهدردنخور را برای برنامه‌ریزی هوش مصنوعی به کار ببریم.
