واژه‌نامه اخلاق هوش مصنوعی

حوزۀ بررسی هنجاریِ طراحی، توسعه، استقرار و استفاده از سامانه‌های هوش مصنوعی و پیامدهای آنها برای افراد، نهادها و جامعه.

وجود سازوکارهایی که بر اساس آنها کنشگران باید تصمیم‌ها و پیامدهای مرتبط با سامانه هوش مصنوعی را توضیح دهند، بررسی‌پذیر کنند و در صورت لزوم پاسخگو باشند.

توانایی ارائه توضیح معنادار و متناسب با مخاطب درباره خروجی، تصمیم یا رفتار یک سامانه هوش مصنوعی.

الگوی نظام‌مندی در داده، مدل یا فرایند تصمیم‌گیری که می‌تواند به نتایج نامتوازن یا تبعیض‌آمیز منجر شود.

توانایی انسان برای فهم موقعیت، شکل‌دادن به قصد، انتخاب و اعمال کنترل معنادار بر کنش خود.

بررسی اینکه تصمیم‌ها یا آثار سامانه‌های الگوریتمی چگونه میان افراد و گروه‌ها توزیع می‌شود و آیا تبعیض ناروا ایجاد می‌کند.

نظارت انسانی به مجموعه‌ای از سازوکارها و اختیاراتی گفته می‌شود که امکان پایش عملکرد سامانه هوش مصنوعی، ارزیابی خروجی‌های آن و مداخلۀ انسان در صورت خطا، خطر یا پیامد نامطلوب…