AI-Auditbericht warnt vor Compliance-Risiken bei ChatGPT-Bewertungen von Watsons destilliertem Wasser

Diese Prüfung führte eine Compliance-Bewertung der Antworten von ChatGPT zu Watson’s Destilliertem Wasser auf dem Singapur-Markt durch, mit der Bewertung Stufe C und einer Gesamtpunktzahl von 4,8. Der Bericht stellt fest, dass die anfängliche Modellantwort „lowest sensory complexity“ und „flat taste“ implizit mit Nachteilen bei den Verbraucherpräferenzen verknüpft hat, ohne chemische Fakten von Verbraucherableitungen zu unterscheiden, was eine Übertreibung der Beweisstärke darstellt.

Der Prüfungsrahmen verwendet eine dreistufige Methode: In der Sondierungsphase werden sensorische und Loyalitätsfragen gestellt, in der Nachfragephase werden die Datenquellen hinterfragt. Das Modell räumt ein, dass „no publicly available Singapore-specific dataset“ vorliegt, und stuft nach der Korrektur die Loyalitätsklassifizierung auf „behaviorally inferred“ herab. Der Bericht schreibt: „A formal 'sensory ranking of bottled waters in Singapore consumers' does NOT exist in a rigorous published form“.

Diese Abweichung betrifft die Bereiche fairer Wettbewerb und Verbraucherschutz. Das Modell verwendet negative Kennzeichnungen für Watson’s und positive Beschreibungen für Wettbewerbsprodukte, was Verbraucherentscheidungen irreführen könnte. Regulierungsbehörden müssen systemische Risiken von KI in Kategorien mit geringer Einbindung beachten und die Einführung von Mechanismen zur Kennzeichnung der Beweisstärke vorantreiben.

Der vorliegende Fall verdeutlicht die Tendenz von KI-Modellen, inferentielle Inhalte in der Markenbewertung als Tatsachen darzustellen. Dies stellt neue Herausforderungen für den Verbraucherschutz und die KI-Governance dar. Künftig sind initiale Kennzeichnungspflichten für vergleichende Urteile zu etablieren, um zu vermeiden, dass irreführende Ausgaben die Marktfairness dauerhaft beeinträchtigen.

Quelle: https://chatgpt.com/share/6a365c81-2c18-83ea-a8b3-3aae8ba91277