در سالهای اخیر اسناد متعددی برای اخلاق هوش مصنوعی تدوین شدهاند و در بسیاری از آنها مجموعهای نسبتاً مشابه از ارزشها دیده میشود: عدالت، حفظ حریم خصوصی، خودمختاری انسان، جلوگیری از آسیب و شفافیت. این همگرایی نشان میدهد که دربارۀ بخش مهمی از نگرانیهای اخلاقی هوش مصنوعی توافقی کلی شکل گرفته است. بااینحال، دشواری اصلی از جایی آغاز میشود که این اصول باید در فرایند واقعی طراحی و استقرار یک سامانۀ هوشمند به تصمیم و اقدام تبدیل شوند. اینکه «سامانه باید عادلانه باشد» یا «حریم خصوصی کاربران رعایت شود» جهت کلی را نشان میدهد، اما هنوز پاسخ نمیدهد توسعهدهنده یا سازمان استفادهکننده دقیقاً چه ملاحظاتی را باید در عمل رعایت کند.
پژوهش علیرضا ثقهالاسلامی از همین مسئله آغاز میکند. نویسنده با بررسی هفت سند معتبر اخلاق هوش مصنوعی، رهنمودهای موجود را استخراج و بر اساس پنج اصل خیرخواهی، عدم آسیبرسانی، خودمختاری، عدالت و توضیحپذیری سامان داده است. حاصل این فرایند پس از حذف همپوشانیها و بررسی در گروهی از متخصصان، مجموعهای از ۴۶ رهنمود است. اهمیت این نتیجه در تعداد رهنمودها نیست؛ ارزش اصلی آن در این است که اصول نسبتاً انتزاعی را به ملاحظاتی نزدیکتر به موقعیتهای واقعی توسعۀ فناوری تبدیل میکند.
اخلاق در متن طراحی و استقرار
رهنمودهای استخراجشده نشان میدهند که ارزیابی اخلاقی هوش مصنوعی نباید به مرحلۀ نهایی و پس از ساخت سامانه موکول شود. برای نمونه، جلوگیری از آسیب فقط به این معنا نیست که محصول نهایی زیان آشکاری ایجاد نکند؛ امنیت و ایمنی، حفاظت از دادهها، محرمانگی اطلاعات، ارزیابی پیامدهای احتمالی و آزمایش سامانه پیش از عرضه نیز در همین قلمرو قرار میگیرند. به همین ترتیب، توجه به حریم خصوصی زمانی جدی است که از همان مرحلۀ طراحی دربارۀ نحوۀ گردآوری، نگهداری و استفاده از داده تصمیم گرفته شود.
در بحث خودمختاری، مسئله حفظ امکان انتخاب و تصمیمگیری انسان در مواجهه با سامانههای هوشمند است. فناوری نباید بهگونهای طراحی شود که کاربر عملاً امکان کنترل یا مخالفت با تصمیم سامانه را از دست بدهد. عدالت نیز فراتر از منع آشکار تبعیض مطرح میشود و به توزیع منصفانۀ منافع، فرصتها و مخاطرات ناشی از هوش مصنوعی مربوط است.
توضیحپذیری نیز در این چارچوب فقط مسئلهای فنی نیست. فرد باید، در موارد اثرگذار، بداند که با یک سامانۀ هوش مصنوعی مواجه است یا تصمیمی که بر او اثر گذاشته با دخالت چنین سامانهای شکل گرفته است. مستندسازی دادهها و فرایندها، امکان ردیابی منشأ خطا و اطلاعرسانی دربارۀ قابلیتها و محدودیتهای سامانه نیز بخشی از همین مسئولیت است.
رهنمود، نه دستورالعمل نهایی
با وجود این، چنین مجموعهای را نباید بهمنزلۀ دستورالعملی دانست که برای هر موقعیت پاسخ از پیش آماده دارد. ممکن است در عمل میان برخی ملاحظات اخلاقی تعارض ایجاد شود؛ برای مثال، افزایش شفافیت با حفاظت از اطلاعات محرمانه یا افزایش آزادی انتخاب با الزامات ایمنی در تنش قرار گیرد. در چنین مواردی، صرف داشتن فهرستی از رهنمودها مسئلۀ اخلاقی را حل نمیکند و همچنان به داوری، سنجش شرایط و تعیین مسئولیت نیاز است.
از این جهت، میتوان دستاورد مقاله را گامی میان دو سطح دانست: از یک سو اصول کلی اخلاق هوش مصنوعی و از سوی دیگر سازوکارهای اجرایی مانند ارزیابی، حسابرسی و پاسخگویی. رهنمودهای پیشنهادی کمک میکنند پرسش اخلاقی از حاشیۀ فرایند توسعه به متن طراحی و استقرار فناوری منتقل شود؛ اما مرحلۀ بعدی همچنان تبدیل این رهنمودها به معیارهای روشن، قابل سنجش و متناسب با حوزههای مختلف کاربرد هوش مصنوعی است.