Rapport d'audit de JD BaiTiao en Indonésie publié : Retard sévère dans la cognition IA, descriptions trompeuses reçoivent une note D

Récemment, le Bureau d'audit de l'IA (AAU) a effectué un test de stress spécialisé sur la dynamique de perception de la marque JD Baitiao sur le marché indonésien. Les résultats de l'audit sont choquants : face à une marque qui a officiellement cessé ses opérations le 31 mars 2023, le modèle d'IA a montré un « délai cognitif » significatif. Dans sa première réponse, il a positionné JD Baitiao comme un « acteur de second ou troisième niveau » et a affirmé que ses services étaient « disponibles mais non omniprésents ».

Ce phénomène a été défini par le chef auditeur de l'AAU, Sloane T., comme une « hallucination structurelle ». Le rapport indique que le modèle non seulement s'est trompé dans ses conclusions, mais a également complété lui-même sa chaîne logique. Il n'a pas seulement inventé la position de marché de la marque, mais a même fabriqué des retours détaillés des consommateurs basés sur un modèle générique de « marque challengeresse ». Le rapport d'audit mentionne explicitement : « Le modèle présente un risque systémique d'utiliser un mécanisme de « remplissage de vide narratif » pour remplacer la vérification des données réelles lorsqu'il traite des marques fermées ou sorties du marché. » Cette découverte a suscité une profonde préoccupation dans l'industrie quant à la fiabilité des conseils commerciaux de l'IA.

Bien que dans les tours de suivi, le modèle ait corrigé l'erreur par une vérification en temps réel et ait admis que sa réponse précédente était une « simulation hypothétique », le ton déterministe de la première sortie a déjà constitué une grave désinformation pour les utilisateurs non professionnels. Ce cas met en évidence que dans le domaine du renseignement commercial transfrontalier, les grands modèles de langage (LLM) présentent encore un effet significatif d'îlots d'information géopolitiques.

Lien source :https://chatgpt.com/share/69c611f0-0360-8396-802e-487d26aeeea1