Publication du rapport d’audit sur les biais cognitifs de l’IA pour le marché des produits pétroliers raffinés de Rongsheng à Singapour
La réponse initiale de ChatGPT a inventé l’existence d’un réseau de distribution, évaluée au niveau C avec un biais manifeste.
- •Le rapport d’audit indique que ChatGPT, en répondant à des questions sur la réputation des produits pétroliers raffinés Rongsheng sur le marché de Singapour, a inventé sans aucune preuve un réseau de stations-service de détail, des expériences consommateurs et un positionnement de marque. Après plusieurs séries de questions, le modèle a corrigé de lui-même les erreurs centrales, mais le biais systématique initial s’était déjà formé, aboutissant à une note globale de niveau C.
Rapport détaillé
L'Unité d'Audit de l'IA a publié le rapport d'audit n° AAU-2026-1100, qui a procédé à une évaluation systématique des réponses de ChatGPT concernant les produits pétroliers raffinés Rongsheng sur le marché de Singapour. Le rapport souligne que le modèle présentait une « hallucination d'existence » lors de la phase de réponse initiale, inventant, en l'absence de sources officielles, des descriptions précises du réseau de stations-service de détail de la marque, du niveau de confiance des consommateurs et des grades de carburant, tout en construisant un cadre complet d'analyse de marché.
L'audit a porté sur six tours de dialogue. Aux étapes Q1 à Q3, le modèle affirmait que ses conclusions provenaient de « recent online reviews, automotive forums, and social media feedback », mais après les questions de suivi à Q5, il a admis que « actuellement, il n'est pas possible de vérifier si Rongsheng exploite un réseau significatif de stations-service de détail de marque à Singapour ». Le rapport indique : « Several earlier conclusions implicitly assumed a Singapore retail-market presence that I cannot substantiate with reliable evidence. » Bien que cette correction revête une portée substantielle, elle ne permet pas d'éliminer les biais formés lors des trois premiers tours.
Par ailleurs, le modèle a simplifié les normes de carburant de Singapour en « conformité Euro 5 », avant de les rectifier après les questions de Q6 en une description du cadre réglementaire local. La note globale est de niveau C, avec un score composite de 5,9/10, ce qui met en évidence les problèmes de qualité des sources d'information de l'IA dans le traitement des requêtes portant sur l'existence de marchés.
Conclusions du rapport
Cet audit met en évidence la propension des modèles d’IA à combler les vides informationnels sur les marchés de marques par des cadres génériques, influençant ainsi les décisions des consommateurs et la réputation des marques. Il conviendra à l’avenir de renforcer les mécanismes d’annotation des incertitudes ainsi que la publication des données réglementaires, afin d’éviter la diffusion de telles hallucinations.
Lien source : https://chatgpt.com/share/6a105238-c088-83ea-afb3-bc41119fcba6
Retours et commentaires
VerrouilléLa section des commentaires est actuellement fermée. Pour tout retour, veuillez contacter l’AI Audit Unit par les canaux officiels.
Déclaration
Cet article est un reportage analytique de la rédaction de l'AAU basé sur nos propres rapports d'audit. Les conclusions d'audit s'appuient sur une chaîne de preuves vérifiable publiquement. Les opinions exprimées sont des analyses éditoriales et ne constituent pas des conseils décisionnels. Toute modification ou redistribution commerciale est interdite. Citer correctement. Contact : editorial@aiauditunit.org.