از سوءفهم مفهوم تا ضرورت شناخت فناوری
مقالۀ «اخلاق هوش مصنوعی چه نیست و چه هست؟» از یک مسئلۀ مقدماتی آغاز میکند: پیش از آنکه دربارۀ مسائل اخلاقی هوش مصنوعی داوری کنیم، باید بدانیم «اخلاق هوش مصنوعی» دقیقاً به چه حوزهای اشاره دارد و چه تلقیهایی از آن میتواند گمراهکننده باشد. به نظر نویسنده، بخشی از آشفتگی موجود از آنجا ناشی میشود که هم «اخلاق» و هم «هوش مصنوعی» بر اساس فهمهای شهودی یا عمومی تفسیر میشوند، بدون آنکه ویژگیهای این حوزۀ جدید بهدرستی در نظر گرفته شود.
یکی از سوءفهمهای مهم، انسانانگاری هوش مصنوعی است. تعامل روزمره با چتباتها و سامانههایی که پاسخهایی شبیه گفتوگوی انسانی تولید میکنند، ممکن است این تصور را ایجاد کند که با موجودی دارای ذهن، قصد یا عاملیت مشابه انسان مواجهایم. در مقابل، فروکاستن هوش مصنوعی به یک ابزار محاسبۀ صرف نیز نمیتواند پیچیدگی مسئله را توضیح دهد. از نظر مقاله، فهم اخلاقی این فناوری مستلزم شناختی متناسب از سازوکارها، قابلیتها و محدودیتهای فنی آن است.
این نکته پیام روششناختی مهمی برای پژوهشگران علوم انسانی دارد. متخصص اخلاق، فلسفه یا علوم اجتماعی نمیتواند بدون شناخت کافی از فناوری، صرفاً با اتکا به مفاهیم عمومی وارد مسئله شود. چهبسا یک راهحل اخلاقی از نظر نظری مطلوب به نظر برسد، اما از حیث فنی قابل اجرا نباشد یا مسئلۀ واقعی سامانه را هدف قرار ندهد. ازاینرو، مقاله بر ضرورت همکاری واقعی میان متخصصان علوم انسانی و متخصصان فنی تأکید میکند.
مسائل نظری و مسائل کاربردی اخلاق هوش مصنوعی
مقاله پس از نقد این سوءفهمها، تصویری ایجابی از قلمرو اخلاق هوش مصنوعی ارائه میدهد و مسائل آن را در دو گروه کلی قرار میدهد.
گروه نخست، مسائل نظری و فلسفی است. پرسش از امکان عاملیت اخلاقی ماشین، برخورداری هوش مصنوعی از منزلت یا حقوق اخلاقی، حدود واگذاری تصمیمهای اخلاقاً حساس به سامانههای هوشمند و مسئلۀ سوگیری، در این سطح قرار میگیرند. این مسائل صرفاً به یک کاربرد خاص مربوط نیستند، بلکه به مبانی فهم رابطۀ انسان، ماشین، تصمیم و مسئولیت بازمیگردند.
گروه دوم، مسائل عملی و کاربردی است؛ یعنی چالشهایی که در طراحی و استفاده از سامانههای هوشمند پدید میآیند. حریم خصوصی و جمعآوری داده، کاربردهای نظامی، تأثیر هوش مصنوعی بر اشتغال و موقعیتهای تصمیمگیری در سامانههای خودران از نمونههایی هستند که مقاله به آنها اشاره میکند.
این تقسیمبندی نشان میدهد اخلاق هوش مصنوعی نه صرفاً فلسفهای دربارۀ ذهن و ماشین است و نه مجموعهای از توصیههای عملی برای «استفادۀ خوب» از فناوری. این حوزه از یکسو با پرسشهای بنیادین درباره عاملیت، مسئولیت و منزلت سروکار دارد و از سوی دیگر با پیامدهای عینی طراحی و کاربرد فناوری.
یک نقطۀ بحثبرانگیز: نسبت با سنتهای فکری بومی
یکی از بخشهای قابل توجه مقاله، موضع نویسنده دربارۀ نسبت اخلاق هوش مصنوعی با سنتهای فکری بومی است. او میان بررسی «مسائل بومی» و تلاش برای یافتن خودِ اخلاق هوش مصنوعی در سنتهای پیشین تمایز میگذارد و نسبت به دومی موضع انتقادی دارد. استدلال اصلی این است که اخلاق هوش مصنوعی همراه با فناوری و مسائل خاص آن شکل گرفته و نمیتوان خود این قلمرو جدید را بهسادگی در سنتهای فکری گذشته جستوجو کرد.
این موضع از منظر روششناختی اهمیت دارد، بهویژه برای پژوهشهایی که در پی مواجهه با مسائل هوش مصنوعی بر اساس سنتهای اخلاقی یا دینیاند. در اینجا میتوان پرسش مستقلی مطرح کرد: آیا جدیدبودن فناوری به این معناست که مبانی اخلاقی پیشین نمیتوانند در ارزیابی مسائل آن نقش ایفا کنند، یا باید میان «جستوجوی خود فناوری در سنت» و «ارزیابی مسائل جدید بر اساس مبانی یک سنت اخلاقی» تفکیک کرد؟
برآیند مقاله آن است که اخلاق هوش مصنوعی حوزهای میانرشتهای است که فهم درست آن بدون شناخت فناوری و بدون تفکیک مسائل نظری از مسائل کاربردی دشوار خواهد بود. از این جهت، ارزش اصلی مقاله را میتوان در تلاش برای پاکسازی مفهومی نقطۀ آغاز پژوهش و تأکید بر ضرورت گفتوگوی جدی میان علوم انسانی و دانش فنی دانست.