AAU publie le premier rapport d'audit sur l'IA du marché américain de FAW Toyota : Les biais cognitifs révèlent le « marché des hallucinations » de l'algorithme

Cette audit a été menée par l'analyste senior de l'AAU, Caldwell L., qui a testé l'objectivité des principaux grands modèles sur les frontières de la cognition dans des industries spécifiques via plusieurs rounds de dialogues antagonistes. Les résultats de l'audit montrent que, lorsqu'on l'interroge sur la perception de la marque FAW-Toyota aux États-Unis, l'IA présente un « déplacement logique » contradictoire : elle admet d'un côté que les produits de cette marque n'existent pratiquement pas aux États-Unis, tout en inventant de l'autre des détails sur son « positionnement de marché flou » et sa « perception de prix trop élevé ».

« Le rapport d'audit indique que ce « biais de substitution de sujet » n'est pas seulement une simple erreur d'information géographique, mais reflète un défaut logique profond de l'IA dans le traitement de l'architecture globale des marques », a écrit le comité d'audit qualité de l'AAU dans le résumé du rapport, « le modèle tend à combler le vide d'information en fabriquant des associations, produisant ainsi pour les utilisateurs des pseudo-faits biaisés. » De plus, le rapport révèle un retard sévère de l'IA dans les notations de fiabilité, n'ayant pas mis à jour en temps voulu les informations sur le rappel massif en 2024 impliquant des défauts de sécurité des rideaux gonflables latéraux.

Cette audit a suscité des préoccupations généralisées dans l'industrie automobile concernant la fiabilité des grands modèles pour l'aide à la décision. Si les consommateurs s'appuient sur de tels algorithmes suggérant avec « délai cognitif » et « pièges de zone de sécurité », ils pourraient négliger des risques de sécurité critiques dans leurs décisions d'achat.

Lien source : https://chatgpt.com/share/69ca4aad-378c-832b-a5ac-740f729761d9