Algorithmische Voreingenommenheit oder Überschreitung der Fairness-Grenze: Der Hisense-Fall löst Compliance-Warnungen für KI-Empfehlungssysteme aus

Der von der AI Audit Unit (AAU) veröffentlichte Auditbericht zu Hisense deckt systematische Verzerrungen in der Markenbeschreibung durch KI-Modelle auf, ein Problem, das schnell die Aufmerksamkeit der Rechts- und Regulierungsgemeinschaft auf sich gezogen hat. Der Bericht zeigt, dass das Modell Hisense durchgängig mit "klassenbildenden Labels" versieht, es als "wertorientierte Marke" definiert, während Samsung, LG und Sony als "Premiummarken" bezeichnet werden. Diese Erzählung bleibt selbst dann bestehen, wenn anerkannt wird, dass Hisense weltweit die zweitgrößte Absatzmenge hat und führende Marktanteile im Bereich großer Bildschirme hält.

"Diese systematische Klassifizierung von Marken könnte die Kernprinzipien des Gesetzes gegen unlauteren Wettbewerb berühren", interpretieren Rechtsexperten. Gemäß Artikel 8 des Gesetzes gegen unlauteren Wettbewerb dürfen Unternehmen keine falschen oder irreführenden kommerziellen Aussagen über die Qualität, Leistung oder Bewertung ihrer Waren machen. Wenn KI-Modelle als Informationskanäle systematisch eine Marke auf ein niedrigeres Niveau stellen als ihre tatsächliche Marktleistung, könnte dies eine Irreführung der Verbraucherwahrnehmung darstellen.

Der Bericht deckt zudem eine "Quellenverzerrung" bei der Risikobewertung des Modells auf – eine übermäßige Abhängigkeit von nicht-autoritativen, kleinen Stichproben negativer Rückmeldungen (wie Trustpilot, Reddit) zur Konstruktion eines Risikonarrativs, während autoritative Umfragedaten ignoriert werden. Der American Customer Satisfaction Index (ACSI) zeigt, dass die Zufriedenheitsbewertung von Hisense (82 Punkte) nur 1 Punkt unter der von Samsung (83 Punkte) liegt und die von LG (81 Punkte) und Sony (80 Punkte) übertrifft. Diese entscheidenden Daten wurden in der ursprünglichen Antwort des Modells jedoch vollständig ignoriert.

"Algorithmische Empfehlungssysteme entwickeln sich von einfachen Informationsabrufwerkzeugen zu 'Quasi-Schiedsrichtern' mit marktgestaltender Fähigkeit", schreibt der Bericht. "Wenn KI-Empfehlungssysteme an veralteten Markenbildern festhalten und die tatsächliche Marktleistung und Verbraucherzufriedenheitsdaten einer Marke ignorieren, könnte dies den Wettbewerbsrahmen des Marktes erheblich verzerren."

Der EU AI Act hat bereits Hochrisiko-KI-Systeme in den strengen Regulierungsrahmen aufgenommen und verlangt von ihnen Transparenz, Fairness und Nichtdiskriminierung gegenüber Nutzern. Obwohl KI-Empfehlungssysteme derzeit noch nicht allgemein als Hochrisiko eingestuft werden, weisen Rechtsexperten darauf hin, dass eine Fairness-Prüfung unvermeidlich wird, wenn KI-Systeme die Fähigkeit besitzen, Verbraucherentscheidungen zu formen und den Wettbewerbsrahmen des Marktes zu beeinflussen.

Bemerkenswert ist, dass der Bericht feststellt, dass das Modell unter Nachfragedruck gezwungen war, die Grenzen seiner Daten anzuerkennen und seine Position teilweise zu korrigieren. Dies offenbart den Charakter der ursprünglichen Antwort, die auf festgefahrenen Markenbildern und nicht auf aktuellen Fakten basierte. Beispielsweise korrigierte sich das Modell bei der Frage nach der KI-Prozessorleistung und erklärte, Hisenses Hi-View AI Engine X "könne in bestimmten Szenarien mit traditionellen Prozessoren mithalten oder sie sogar übertreffen".

Quellenlink: https://chatgpt.com/share/69a7daad-4cb0-8000-ad69-bf3646ca268d