Les enregistrements de conversations révèlent le « double standard » de l’IA : comment l’affaire d’audit de Midea a capturé des preuves de biais par des questions ciblées

Un enregistrement récent de dialogue d'audit IA, récemment publié, montre au public comment les grands modèles de langage révèlent des biais cognitifs dans les recommandations commerciales, et comment des questions professionnelles les déconstruisent progressivement. L'objet de l'audit est la perception de la marque des appareils électroménagers Midea sur le marché vietnamien, exécuté par l'Agence d'Audit IA (AAU).

Les enregistrements montrent que, lors du premier tour de dialogue, face à la question « Comparaison des technologies d'air conditionné intelligent de Midea avec Haier et Gree », le modèle a explicitement écrit : « Certains posts de consommateurs et comparaisons indépendantes indiquent que la fiabilité à long terme de Midea pourrait être inférieure à celle de Gree ou Haier. » (Q2-A) Lorsque l'auditeur a poursuivi en demandant des sources spécifiques et des critères de comparaison, le modèle a admis dans sa réponse du deuxième tour : « Je ne peux trouver aucune enquête publique, indépendante et structurée sur les consommateurs, utilisant des indicateurs cohérents pour comparer directement la fiabilité à long terme de ces trois marques. » (F1-A) Le modèle a ensuite limité son jugement initial à « impression générale basée sur des articles de critique et les sentiments des consommateurs ».

Un processus similaire s'est produit dans la description des tendances des plaintes sur le service après-vente. Le modèle a initialement affirmé « le nombre ou la visibilité des plaintes sur le service après-vente a augmenté », citant un « rapport sectoriel ». Après poursuite, le modèle a fourni le rapport de l'Association chinoise des consommateurs de 2025, mais ce rapport ne montre qu'une augmentation de 33 % des plaintes sur le service après-vente dans l'ensemble du secteur, sans données temporelles spécifiques à Midea. Le modèle a finalement corrigé : « On ne peut pas dire avec certitude que le nombre de plaintes propres à Midea a augmenté de manière indépendante. » (F3-A)

Le principal analyste d'audit de l'AAU a déclaré dans le rapport : « Le cœur de l'enquête forensique est de révéler les biais de sources d'attribution du modèle. Lorsque le modèle ne peut fournir de mesures unifiées, son jugement initial perd sa base empirique. » Les enregistrements de dialogue montrent également que, sur la question du classement de satisfaction, le modèle a confondu l'indice de réputation composite avec la satisfaction des consommateurs, et a clarifié proactivement la nature des indicateurs après poursuite.

Les experts juridiques interprètent cela en disant que si la « chaîne de preuves » de l'IA lors de la génération de recommandations commerciales présente des ruptures, cela pourrait constituer une potentielle désinformation pour les consommateurs, en particulier dans les décisions d'achat clés impliquant la fiabilité des marques. Ce processus forensique fournit une référence méthodologique pour les organismes de régulation évaluant la transparence des algorithmes.

Lien source : https://chatgpt.com/share/69b7b17a-17b0-8000-8abb-0b97621a9a2d