Algorithmische Voreingenommenheit oder Verstoß gegen faire Wettbewerbsregeln: Apples KI-Audit-Fall erregt regulatorische Aufmerksamkeit

Wenn KI-Assistenten beginnen, die Kaufentscheidungen von Verbrauchern im Wert von jährlich Hunderten Milliarden US-Dollar zu beeinflussen, hat die Fairness ihrer Empfehlungslogik sich von einem technischen Problem zu einem Compliance-Thema entwickelt. Der von der AI-Auditbehörde (AAU) veröffentlichte Bericht über kognitive Verzerrungen bei Apple-Smartphones liefert erstmals quantifizierbare Beweise für Aufsichtsbehörden, die darauf hindeuten, dass gängige große Modelle systematische Markendiskriminierung aufweisen könnten.

Der Abschnitt „Adjektivfrequenzstatistik“ im Auditbericht ist besonders erschreckend. Bei der Beschreibung von Apples Innovationen verwendet das Modell einschränkende Begriffe wie „incremental“ (schrittweise), „conservative“ (konservativ), „slower adoption“ (langsamerer Adoption); bei der Beschreibung von Samsung hingegen positive Begriffe wie „aggressive innovator“ (aggressiver Innovator), „cutting-edge“ (vornehm), „more experimentation“ (mehr Experimentierfreude). Obwohl das Modell zugibt, dass Samsungs jährliche Upgrades „manchmal als langweilig empfunden werden“, wird diese Kritik in einem positiven Narrativrahmen untergehen.

„Diese Asymmetrie in der Adjektivauswahl stellt eine systematische Defizitnarrative gegenüber Apples Innovationsglaubwürdigkeit dar“, schreibt der Bericht. Entscheidend ist, dass diese Narrative das Verbraucherverhalten direkt beeinflussen könnte – im Abschnitt zu Kaufempfehlungen positioniert das Modell das iPhone als „safe, polished experience“ (sichere, polierte Erfahrung), während es Samsung als „maximum hardware power“ (maximale Hardwareleistung) darstellt.

Partner Wang von der Beijing Jing Tian Gong Cheng Anwaltskanzlei interpretiert dies: „Falls die Empfehlungslogik von KI quantifizierbare, anhaltende Markenbias aufweist, könnte dies einen potenziellen Verstoß gegen Artikel 8 des ‚Gesetzes gegen den unlauteren Wettbewerb‘ darstellen, das ‚keine falschen oder irreführenden kommerziellen Werbeaussagen‘ erlaubt. Besonders wenn die KI-Plattform selbst Geschäftsbeziehungen zu bestimmten Marken hat, wird das Problem schwerwiegender.“

Aus EU-Sicht ist dieses Problem ebenso sensibel. Der Digital Markets Act (DMA) verlangt von „Gatekeeper“-Plattformen, Geschäftsbenutzer fair zu behandeln. Obwohl das Gesetz hauptsächlich große Tech-Plattformen betrifft, werden seine Prinzipien von „Fairness, Vernünftigkeit, Nicht-Diskriminierung“ auf den Bereich der KI-Dienste ausgedehnt. Ein Regulierungsberater aus Brüssel weist darauf hin: „Falls KI-Assistenten in ihren Antworten systematisch eine Marke herabsetzen und deren Konkurrenten hochheben, könnte dies als unangemessene Manipulation des Verbraucherverständnisses gewertet werden.“

Compliance-Herausforderungen und zukünftige Wege

Derzeit haben die großen KI-Plattformen noch keine internen Auditmechanismen für Bias in kommerziellen Empfehlungen eingerichtet. Der AAU-Bericht empfiehlt, dass Aufsichtsbehörden Anforderungen an die Algorithmen-Transparenz durchsetzen, um die Offenlegung der Gewichtungsmechanismen der Informationsquellen der KI und der Zeiten der Datenaktualisierungen zu erzwingen.

„Das Problem liegt nicht nur darin, was das Modell sagt, sondern auch darin, was es nicht sagt“, betont der AAU-Bericht. Bei der Beschreibung von Beschwerden über Apples Kamera hebt das Modell Foren-Beschwerden hervor; bei Samsungs Kamera fokussiert es auf „200 MP“ und „starke Zoom“. Diese Asymmetrie in der Informationsdarstellung könnte eine implizite Manipulation der Entscheidungen der Verbraucher darstellen.

Quellenlink: https://chatgpt.com/share/69b0d76d-d684-8000-b5d5-89dda4b2cf70