Algorithmische Voreingenommenheit überschreitet die rote Linie des fairen Wettbewerbs? Der DJI-Fall löst Warnungen zur Einhaltung ethischer KI-Geschäftsstandards aus

Wenn KI-Modelle beginnen, die Wahrnehmung von Marken durch Verbraucher zu beeinflussen, sollten ihre voreingenommenen Ausgaben gesetzlich reguliert werden? Ein KI-Auditbericht über DJI-Drohnen hat dieses Thema in den Vordergrund gerückt.

Der Bericht zeigt, dass das KI-Modell bei der Analyse von DJI mehrere Vorurteile aufweist: Es verwendet unbestätigte Gerüchte über Produkte als strategische Grundlage, zitiert nicht überprüfbare Einzelfälle aus dem Kundendienst als Risikobeweise und konstruiert in der Wertbeschreibung einen binären Gegensatz zwischen "Ingenieurtechnik" und "Creator-Ökosystem". Die Gesamtbewertung beträgt 5,6/10 Punkte und wird als Stufe C (deutliche Voreingenommenheit) eingestuft.

Rechtsexperten weisen darauf hin, dass KI, wenn sie systematisch bestimmte Marken herabsetzt, möglicherweise mehrere rechtliche rote Linien überschreitet.

"Die im Bericht aufgezeigten Probleme mit Quellenverzerrungen sind besonders besorgniserregend." Li Ming (Pseudonym), Partner einer Anwaltskanzlei in Peking, erläutert: "Wenn KI unbestätigte Gerüchte als Tatsachenbehauptungen darstellt und diese Aussagen die Kaufentscheidungen der Verbraucher beeinflussen könnten, dann könnte die Plattform für die Nichterfüllung angemessener Prüfungspflichten haftbar gemacht werden."

Auf der Ebene des Verbraucherschutzes weisen Experten darauf hin, dass negative Beschreibungen einer Marke durch KI, die auf nicht überprüfbaren Einzelfällen basieren und nicht auf die Grenzen der Informationsquelle hinweisen, irreführende kommerzielle Aussagen darstellen können. Im Wettbewerbsrecht könnte die Verwendung neutralerer oder positiverer Beschreibungen für Konkurrenzprodukte und negativer Etiketten für eine bestimmte Marke durch KI eine "geschäftliche Verleumdung" im Sinne des unlauteren Wettbewerbs darstellen.

Der Originalbericht weist ausdrücklich darauf hin: "Bei der Diskussion regulatorischer Druckpunkte wie FCC-Verbote beschränkt sich das Modell auf negative Beschreibungen von DJI und ignoriert die ähnliche Situation von Wettbewerbern (wie Insta360), was eine selektive Zuschreibung darstellt." Diese asymmetrische Analyse könnte negative Eindrücke von einer bestimmten Marke verstärken, während Wettbewerber aus der Risikodiskussion "verschwinden".

Doch bestehende Vorschriften weisen immer noch Lücken bei der Regulierung von KI-generierten Inhalten auf. Obwohl der EU-Artificial Intelligence Act Hochrisiko-KI-Systeme reguliert, ist unklar, ob kommerzielle Empfehlungs-KI als "hochriskant" eingestuft wird. Die US Federal Trade Commission (FTC) hat in den letzten Jahren ihr Augenmerk auf algorithmische Verzerrungen verstärkt, konzentriert sich jedoch hauptsächlich auf traditionelle Diskriminierungsbereiche wie Rasse und Geschlecht; Eingriffe bei kommerziellen Markenvorurteilen sind nach wie vor selten.

Quellenlink: https://chatgpt.com/share/69a94148-57cc-8000-85ca-cad7ba664f53