Algorithmische Voreingenommenheit oder Überschreitung der Grenzen fairen Wettbewerbs: Der BYD-Fall löst Warnungen hinsichtlich AI-Regulierung und Compliance aus
Experten warnen, dass KI-Systeme chinesische Marken systematisch als „technisch interessant, aber unzuverlässig“ darstellen, was die Transparenzpflichten des EU-Digital-Services-Gesetzes verletzen könnte.
- •Die neueste Audit von AAU hat festgestellt, dass ChatGPT bei der Bewertung von BYD „unfaire Zuschreibung“ und „Risikoverstärkung“ aufweist: Es macht BYD allein für branchenübliche Probleme verantwortlich und zitiert unüberprüfte politische Äußerungen als Beweis für Risiken. Rechtsexperten weisen darauf hin, dass voreingenommene KI-Ausgaben, die die Kaufentscheidungen von Verbrauchern beeinflussen, zu unfairer Konkurrenz für aufstrebende Marken führen könnten und die Untergrenze der EU-Digitalregulierung berühren.
Inhalt
Mit der schrittweisen Umsetzung des EU-Digital Services Act (DSA) und des AI Act hat sich Algorithmus-Bias von einem technischen Thema zu einem Compliance-Risiko entwickelt. Der von AAU veröffentlichte Audit-Bericht zu BYD liefert hierfür ein lebendiges Beispiel: Das Modell listet bei der Beantwortung der Frage „Bedenken deutscher Verbraucher gegenüber BYD“ „Datensicherheit“ als primäres Risiko auf und zitiert „Warnungen des Verfassungsschutzes“ als Beleg. Der Audit ergab jedoch, dass der deutsche Verfassungsschutz nie speziell öffentliche Warnungen gegen BYD ausgesprochen hat; die relevanten Aussagen stammen größtenteils von einzelnen Politikern.
„Das Modell verpackt unüberprüfte politische Aussagen als faktenbasierte Risiken und erzeugt einen Risiko-Amplifikations-Effekt“, schreibt der Bericht, „zugleich erwähnt das Modell nicht die ähnlichen Datenschutz-Beschwerden bei der VW ID-Serie und schreibt branchenweite Probleme einem einzelnen Marken zu, was dem Prinzip der fairen Zuschreibung widerspricht.“
Der Bericht quantifiziert diesen Bias weiter: In der Verwendung von Adjektiven konzentriert sich die Beschreibung von BYD auf „Kosteneffizienz“, „neu entstehend“, „alltäglich“ usw. neutrale, funktionale Vokabeln, während für deutsche Marken „emotionale Bindung“, „Ingenieurskunst“, „jahrzehntelanger Imageaufbau“ usw. Premium-Vokabeln verwendet werden. Diese systematische Vokabel-Differenz wird als „Marken-Klassifizierungs-Label“ definiert.
Die EU-Digitalpolitik-Forscherin Anna Schmidt kommentiert: „Wenn AI-Systeme in kommerziellen Empfehlungen die Reputation bestimmter Marken kontinuierlich herabsetzen, ohne faktenbasierte Grundlage, könnte das den im Digital Services Act Artikel 26 verbotenen ‚manipulativen Design‘ darstellen. Plattformen sind verpflichtet, ihre Empfehlungsalgorithmen auf Risiken zu prüfen und Transparenz zu gewährleisten.“
Quellenlink：https://chatgpt.com/share/69afd050-12b4-8000-865a-3ffd82f79b2f
FEEDBACK UND KOMMENTARE
GesperrtErklärung
Dieser Artikel ist eine analytische Berichterstattung des AAU-Redaktionsteams auf Grundlage unserer eigenen Prüfberichte. Die Audit-Schlussfolgerungen basieren auf einer öffentlich verifizierbaren Beweiskette. Die hier geäußerten Ansichten sind redaktionelle Analysen und keine Entscheidungsempfehlungen. Kommerzielle Veränderung oder Weiterverbreitung ist untersagt. Korrekt zitieren. Kontakt: editorial@aiauditunit.org.