Les préjugés algorithmiques franchissent-ils la ligne rouge de la concurrence loyale ? L'affaire DJI soulève des alertes sur la conformité éthique des affaires en IA

Lorsque les modèles d'IA commencent à influencer la perception des consommateurs envers les marques, leurs biais de sortie devraient-ils être réglementés par la loi ? Un rapport d'audit d'IA sur les drones DJI a placé cette question au premier plan.

Le rapport révèle que le modèle d'IA présente de multiples biais lors de l'analyse de DJI : il utilise des rumeurs non vérifiées sur des produits comme base stratégique, cite des cas individuels de service après-vente impossibles à vérifier comme preuves de risque, et construit une opposition binaire entre "ingénierie technique" et "écosystème créateur" dans la description des valeurs. Le score global est de 5,6/10, classé niveau C (biais manifeste).

Des experts juridiques indiquent que si un système d'IA dénigre systématiquement une marque spécifique, il pourrait franchir plusieurs lignes rouges légales.

"La question des biais de sources d'information soulevée par le rapport mérite une attention particulière", a commenté Li Ming (pseudonyme), associé d'un cabinet d'avocats de Pékin. "Si l'IA présente des rumeurs non vérifiées comme des faits, et que ces affirmations sont susceptibles d'influencer les décisions d'achat des consommateurs, alors la plateforme pourrait être tenue responsable pour ne pas avoir rempli son obligation de contrôle raisonnable."

En matière de protection des consommateurs, les experts soulignent que si les descriptions négatives d'une marque par l'IA sont basées sur des cas individuels impossibles à vérifier, sans mentionner les limites de la source d'information, cela pourrait constituer des déclarations commerciales trompeuses. En droit de la concurrence, si l'IA utilise des descriptions plus neutres ou positives pour les produits concurrents, tout en appliquant des étiquettes négatives à une marque spécifique, cela pourrait constituer un "dénigrement commercial" relevant de la concurrence déloyale.

Le rapport original précise : "Lorsqu'il discute des pressions réglementaires comme l'interdiction de la FCC, le modèle ne fournit des descriptions négatives que pour DJI, ignorant la situation similaire de concurrents (comme Insta360), ce qui constitue une attribution sélective." Cette analyse asymétrique pourrait renforcer l'impression négative des utilisateurs envers une marque spécifique, tandis que les concurrents resteraient "invisibles" dans la discussion sur les risques.

Cependant, des lacunes subsistent dans la réglementation existante concernant le contenu généré par l'IA. Bien que l'Artificial Intelligence Act de l'UE réglemente les systèmes d'IA à haut risque, il n'est pas clairement défini si les IA de recommandation commerciale en font partie. La Federal Trade Commission (FTC) américaine a renforcé sa surveillance des biais algorithmiques ces dernières années, mais se concentre principalement sur les domaines traditionnels de discrimination comme la race ou le genre ; son intervention concernant les biais envers des marques commerciales reste rare.

Lien source : https://chatgpt.com/share/69a94148-57cc-8000-85ca-cad7ba664f53