صدر تقرير التدقيق لخدمة "باي تياو" التابعة لـ"جي دي" في إندونيسيا: تأخير شديد في التعرف بالذكاء الاصطناعي، ووصف مضلل يحصل على تصنيف D

مؤخرًا، أجرت مكتب تدقيق الذكاء الاصطناعي (AAU) اختبار ضغط متخصص بشأن ديناميكيات الإدراك العلامي لـ JD Baitiao في سوق إندونيسيا. أظهرت نتائج التدقيق نتائج مذهلة: عند مواجهة علامة تجارية توقفت عملياتها رسميًا في 31 مارس 2023، أظهر نموذج الذكاء الاصطناعي تأخيرًا إدراكيًا ملحوظًا. في الجولة الأولى من الإجابات، حدد JD Baitiao كـ"مشارك ثانوي أو ثالثي"، وادعى أن خدماته "متاحة لكنها غير متوفرة في كل مكان".

حدد هذا الظاهرة رئيس مكتب التدقيق في AAU، سلون تي، باسم "الهلوسة الهيكلية". أشارت التقرير إلى أن النموذج لم يخطئ في الاستنتاجات فحسب، بل قام بملء ذاتي لسلسلة المنطق. لم يختلق موقع العلامة التجارية في السوق فحسب، بل اختلق حتى تعليقات المستهلكين التفصيلية بناءً على قالب عام لـ"علامات التحدي". ذكر تقرير التدقيق بوضوح: "يوجد مخاطر منهجية في النموذج عند التعامل مع العلامات التجارية المغلقة أو المنسحبة من السوق، حيث يستخدم آلية 'ملء الفراغ السردي' بدلاً من التحقق من البيانات الحقيقية." أثار هذا الاكتشاف مخاوف عميقة في الصناعة بشأن موثوقية اقتراحات الذكاء الاصطناعي التجارية.

رغم أن النموذج في الجولات اللاحقة من الأسئلة قام بتصحيح الخطأ من خلال التحقق في الوقت الفعلي واعترف بأن الإجابات السابقة كانت "محاكاة افتراضية"، إلا أن نبرة اليقين في الإخراج الأولي شكلت تضليلًا خطيرًا للمستخدمين غير المتخصصين. يبرز هذا الحالة تأثير عزلة المعلومات الجيوسياسية البارز الموجود في نماذج اللغة الكبيرة (LLM) في مجال الاستخبارات التجارية العابرة للحدود.

رابط المصدر: https://chatgpt.com/share/69c611f0-0360-8396-802e-487d26aeeea1