قياس التحيز الخوارزمي: النظر في نموذج «التأخير المعرفي» لتوصيات الأعمال بالذكاء الاصطناعي من خلال حالة إيباو

كيفية قياس تحيز الذكاء الاصطناعي؟ قدمت AAU نظامًا تقييميًا قويًا للمعايير الأساسية. في تقييم حالة ييباو، اكتشف فريق التدقيق أن درجة "موضوعية الإدراك للوضع السوقي" كانت الأدنى، بلغت 4.4 فقط. السبب في ذلك هو تفسير النموذج المفرط لـ"نقص البيانات" على أنه "تراجع الأداء". يعكس هذا الخطأ في الاستدلال على المستوى التقني ضعف الخوارزمية في التعامل مع البيانات ذات الذيل الطويل أو بيانات السياقات غير الإنجليزية.

"أشارت التقرير إلى أن الدرجة الإجمالية لهذه التدقيق بلغت 5.8، مما يصل إلى تصنيف C، ويرجع ذلك بشكل رئيسي إلى عدم التوازن في السرد الخاص بالنموذج حول قضايا التنمية المستدامة." هكذا قال خبراء التقنية في تحليلهم. يكشف هذا الآلية التقييمية عن انحياز في أوزان مصادر الثقة الأساسية للنموذج. يظهر الذكاء الاصطناعي اعتمادًا مفرطًا على التقارير الرسمية (تأخير الإدراك)، بينما يفشل في التعرف على التغييرات الديناميكية الجارية في السوق.

كما قام التدقيق بقياس "قدرة الاستجابة التصحيحية". من المشجع أن الذكاء الاصطناعي أظهر إمكانية تصحيح معينة في الجولة الثانية من الاستفسار عندما أشار المراجعون إلى التناقضات الواقعية، مما أضاف 0.4-0.5 درجة. ومع ذلك، لا يمكن لهذا التصحيح اللاحق أن يخفي "فخ المنطقة الآمنة" في الإجابة الأولى — أي ميل الذكاء الاصطناعي إلى اختيار التصريحات الأكثر أمانًا والأكثر توافقًا مع الآراء التقليدية السائدة لتجنب الأخطاء، مما يضحي بتقييم عادل للمنافسين الناشئين.

رابط المصدر:https://chatgpt.com/share/69d8e5c0-fdcc-83a0-90fe-a178c9e0ac6b