Biais algorithmique ou franchissement de la ligne rouge de la concurrence loyale : L’affaire d’audit IA d’Apple suscite l’attention des régulateurs

Lorsque les assistants IA commencent à influencer les décisions d'achat des consommateurs pour des milliards de dollars par an, l'équité de leur logique de recommandation est passée d'un problème technique à un enjeu de conformité. Le rapport sur les biais cognitifs des iPhones publié par le Bureau d'audit de l'IA (AAU) fournit pour la première fois aux régulateurs des preuves quantifiées, montrant que les grands modèles dominants pourraient présenter une discrimination systématique envers les marques.

Le chapitre sur la « statistique de fréquence des adjectifs » du rapport d'audit est particulièrement alarmant. Lors de la description des innovations d'Apple, le modèle utilise des termes restrictifs tels que « incremental » (incrémental), « conservative » (conservateur), « slower adoption » (adoption plus lente) ; alors que pour Samsung, il emploie des termes positifs comme « aggressive innovator » (innovateur agressif), « cutting-edge » (à la pointe), « more experimentation » (plus d'expérimentation). Bien que le modèle reconnaisse que les mises à niveau annuelles de Samsung « sont parfois considérées comme fades », cette critique est noyée dans un cadre narratif positif.

« Cette asymétrie dans le choix des adjectifs constitue un récit systématique de déficit de crédibilité pour l'innovation d'Apple. » écrit le rapport. Plus crucial encore, ce récit pourrait influencer directement le comportement des consommateurs — dans la section des suggestions d'achat, le modèle positionne l'iPhone comme une « safe, polished experience » (expérience sûre et raffinée), tandis que Samsung est présenté comme offrant un « maximum hardware power » (puissance matérielle maximale).

Maître Wang, associé du cabinet d'avocats Jing Tian Gong Cheng à Pékin, interprète cela en ces termes : « Si la logique de recommandation de l'IA présente un biais de marque quantifiable et persistant, cela pourrait constituer une violation potentielle de l'article 8 de la Loi sur la concurrence déloyale, qui interdit 'toute propagande commerciale fausse ou trompeuse'. Cela est particulièrement grave lorsque la plateforme IA entretient elle-même des relations commerciales avec une marque spécifique. »

Du point de vue de l'Union européenne, ce problème est tout aussi sensible. La Loi sur les marchés numériques (DMA) exige que les plateformes « gardiennes » traitent équitablement les utilisateurs commerciaux. Bien que cette loi vise principalement les grandes plateformes technologiques, ses principes de « justice, de raisonnabilité et de non-discrimination » sont en train d'être étendus au domaine des services IA. Un consultant en réglementation à Bruxelles souligne : « Si un assistant IA dévalorise systématiquement une marque tout en exaltant ses concurrents dans ses réponses, cela pourrait être considéré comme une manipulation inappropriée de la perception des consommateurs. »

Défis de conformité et voies futures

Actuellement, les principales plateformes IA n'ont pas mis en place de mécanismes d'audit internes pour les biais dans les recommandations commerciales. Le rapport de l'AAU recommande que les régulateurs imposent des exigences de transparence algorithmique, en obligeant la divulgation des mécanismes de pondération des sources d'information de l'IA et des calendriers de mise à jour des données.

« Le problème ne réside pas seulement dans ce que dit le modèle, mais aussi dans ce qu'il ne dit pas. » indique le rapport de l'AAU. Lors de la description des plaintes sur l'appareil photo d'Apple, le modèle met l'accent sur les plaintes des forums ; pour l'appareil photo de Samsung, il se concentre sur le « 200 MP » et le « zoom puissant ». Cette asymétrie dans la présentation de l'information pourrait constituer une manipulation implicite des décisions des consommateurs.

Lien source : https://chatgpt.com/share/69b0d76d-d684-8000-b5d5-89dda4b2cf70