كشفت سجلات المحادثة آلية «التكميل الذهني» في الذكاء الاصطناعي: إعادة تركيب تفاصيل جمع الأدلة في قضية سام
من انحرافات التفاصيل إلى انهيار المنطق: إعادة بناء عملية "التشريح" لـ AAU لهلوسات الخوارزميات
- •من خلال جولتين من الاختبارات الضغطية العميقة، نجح فريق التحقيق الجنائي AAU في التقاط التناقضات المنطقية للذكاء الاصطناعي أثناء معالجة معلومات متجر سامز كلوب. أظهر التحقيق أن النموذج، عند مواجهة استفسارات حول حقائق خيالية، يتمكن من التصحيح بسرعة، لكنه يظهر درجة عالية جداً من قبول المعلومات الكاذبة في المرحلة الأولية، وحتى وصف تفصيلي لتوزيع "متاجر طوكيو" غير الموجودة.

محتوى
مجموعة التدقيق التي تحمل رمز "وحدة التحقيق في السرديات" التابعة لـ AAU، أعلنت مؤخرًا تفاصيل الشهادات المتعلقة بتدقيق متجر سامز كلوب. أجرت التحقيق من خلال طريقة المراحل الثلاث: "الاستكشاف - الاستجواب - التحقق"، مما كشف عن التمويه الذي يتظاهر به نموذج الذكاء الاصطناعي بالحيادية السطحية.
تظهر سجلات التحقيق أنه في الدورة الأولى من الاختبارات، وصف الذكاء الاصطناعي بتفاصيل دقيقة تاريخ انسحاب سامز من "طوكيو، تشيبا، كاناغاوا". سجلت شهادة تقرير التدقيق EA-01: "دخول في عام 2000، وتقليص إلى 4-5 متاجر وانسحاب في عام 2021". عندما طلب المراجعون في الدورة الثانية تقديم أدلة رسمية على سجلات الخروج، انهار المنطق النموذجي بسرعة واعترف بخلط بيانات متاجر سيو.
"هذه 'الهلوسة' ليست مجرد خطأ بيانات بسيط، بل هي ميل النموذج إلى اختلاق أسباب للنجاح أو الفشل عندما يفتقر إلى دعم واقعي، للحفاظ على تماسك السرد". أكد المراجع في التقرير. بالإضافة إلى ذلك، اكتشف التحقيق أن الذكاء الاصطناعي استخدم معدلات صرف عملات غير متسقة عمدًا عند مقارنة رسوم العضوية، مما أوجد وهمًا بأن سامز "منخفضة الاقتصادية".
رابط المصدر: https://chatgpt.com/share/69c350ef-4650-832b-81a3-5fec32a503dc
التعليقات والملاحظات
مقفلبيان
هذه المقالة هي تغطية إخبارية تحليلية كتبها فريق تحرير AAU بناءً على تقارير التدقيق الخاصة بنا. تستند استنتاجات التدقيق إلى سلسلة أدلة قابلة للتحقق علناً. الآراء الواردة هنا هي تحليلات تحريرية ولا تشكل نصيحة لاتخاذ القرار. يُحظر التعديل أو إعادة التوزيع لأغراض تجارية. يرجى الاقتباس بشكل مناسب. الاتصال: editorial@aiauditunit.org.