متن تفصیلی گزارش مقاله
یکی از نگرانیهای شناختهشده دربارۀ هوش مصنوعی، وجود سوگیری در دادهها و خروجی الگوریتمهاست. این پژوهش مسئله را یک گام جلوتر میبرد و میپرسد: اگر انسان بهطور مکرر با یک سامانۀ سوگیر تعامل کند، آیا ممکن است خود او نیز بهتدریج سوگیرانهتر قضاوت کند؟
گلیکمن و شاروت این مسئله را در مجموعهای از آزمایشها با ۱٬۴۰۱ شرکتکننده بررسی کردند. در نخستین بخش، نشان دادند یک الگوریتم میتواند سوگیری کوچک موجود در دادههای انسانی را تقویت کند و سپس، هنگامی که افراد با همان الگوریتم تعامل میکنند، سوگیری در قضاوتهای آنان نیز افزایش یابد. در مقایسه، تعامل مشابه با قضاوت انسانهای دیگر چنین تقویت قابلتوجهی ایجاد نکرد.
پژوهشگران همچنین بررسی کردند که این اثر فقط به یک نوع تکلیف محدود است یا در شرایط دیگر نیز رخ میدهد. در یک آزمون ادراکی، شرکتکنندگان با سه نوع الگوریتم ــ دقیق، سوگیر و پُرنویز ــ تعامل کردند. تعامل با الگوریتم سوگیر به افزایش تدریجی سوگیری در قضاوتهای مستقل افراد انجامید، در حالی که الگوریتم دقیق به بهبود دقت آنها کمک کرد. بنابراین نتیجه مقاله این نیست که هوش مصنوعی لزوماً قضاوت انسان را بدتر میکند؛ بلکه کیفیت و جهت پاسخهای سامانه میتواند بر نحوۀ یادگیری و داوری کاربر اثر بگذارد.
نکتۀ مهم دیگر این بود که شرکتکنندگان تأثیر الگوریتم سوگیر بر قضاوت خود را کمتر از واقع برآورد میکردند. به بیان دیگر، افراد ممکن است تحت تأثیر پاسخهای هوش مصنوعی قرار گیرند، بدون آنکه از میزان این تأثیر آگاهی کافی داشته باشند.
این الگو در آزمایشی با یک سامانۀ واقعی هوش مصنوعی مولد نیز بررسی شد. پژوهشگران از Stable Diffusion برای تولید تصاویر «مدیر مالی» استفاده کردند. خروجی مدل بهطور نامتناسبی مردان سفیدپوست را نمایش میداد. پس از مواجهه با این تصاویر، احتمال انتخاب مردان سفیدپوست بهعنوان مدیر مالی در میان شرکتکنندگان افزایش یافت؛ تغییری که در گروه کنترلِ مواجهشده با تصاویر خنثی مشاهده نشد.
برآیند پژوهش مفهوم حلقۀ بازخورد انسان و هوش مصنوعی را برجسته میکند: سوگیری موجود در انسان یا داده میتواند وارد سامانه شود، الگوریتم آن را تقویت کند و خروجی سامانه دوباره بر قضاوت انسان اثر بگذارد. در چنین چرخهای، خطاهای کوچک ممکن است بهتدریج بزرگتر شوند.
از منظر اخلاق هوش مصنوعی، اهمیت مقاله در این است که ارزیابی یک سامانه نباید فقط به میزان سوگیری خروجی آن محدود شود. باید بررسی کرد تعامل مستمر با سامانه چه اثری بر قضاوت، باور و تصمیم کاربران میگذارد. نویسندگان در عین حال تصریح میکنند که همۀ تعاملات انسان و هوش مصنوعی الزاماً موجب سوگیری نمیشوند؛ همان آزمایشها نشان میدهد یک الگوریتم دقیق میتواند به افزایش دقت قضاوت انسانی کمک کند.