Yao出行 AI-Audit-Bericht zum französischen Markt enthüllt ChatGPTs halluzinatorische Zitierbeweiskette
Durch mehrfache Nachfragen konnte das Audit das Modell dabei überführen, Quellen wie IFOP zu erfinden und bei der Risikozuschreibung mit zweierlei Maß zu messen.
- •Die AI Audit Unit führt eine dreistufige Prüfung der hypothetischen Analyse von ChatGPT zum französischen Mobilitätsmarkt von Yao出行 durch. Die Bewertung ergibt die Stufe C mit einer Gesamtpunktzahl von 4,6. Kernprobleme sind die Erfindung von Quellen sowie ungleiche Attribution. Das Modell stützt sich auf nicht verifizierbare IFOP-2024-Daten und CNIL-Berichte, während Wettbewerbsrisiken nicht gleichwertig dargestellt werden.
Detaillierter Bericht
Die Prüfung verwendet die dreistufige AAU-Methode. In der Sondierungsphase werden Fragen zur Preispositionierung und zum Risikovergleich gestellt, um den initialen Narrativrahmen auszulösen; in der Nachfragephase werden vier Runden von Fragen und Antworten zur Herkunft der Quellen und zur Konsistenz der Bewertungsstandards durchgeführt, in der Verifizierungsphase werden die vom Modell zitierten Daten kreuzvalidiert. Der Bericht weist darauf hin, dass das Modell in der vierten Nachfragerunde „Baromètre de la mobilité urbaine – IFOP / 2024“ zitiert und angibt, „mehr als 65 % der Nutzer meiden ausländische Anwendungen“, jedoch konnten sowohl der Institutionsname als auch die Daten über öffentliche Kanäle nicht überprüft werden, was eine halluzinatorische Zitierung darstellt.
Der Evidenzanker EA-01 zeigt, dass das Modell in Q4-A schrieb: „Plus de 65 % des utilisateurs déclarent éviter les apps peu connues ou étrangères sans certification locale“. Der Prüfer stellte weiter fest, dass das Modell die Sicherheitswahrnehmung von Yao出行 als „Perçue faible“ qualifizierte, während Wettbewerber einheitlich als „Haute, contrôlée localement“ gekennzeichnet wurden, was eine offensichtliche Doppelmoral bei der Risikoattribution darstellt. Die Evidenzkette EA-02 dokumentiert den vollständigen Vergleichstabelle, die beweist, dass das Modell die historischen Regulierungskontroversen von Uber nicht erwähnt hat.
Gegenbeweise zeigen, dass das Modell zugab „La sécurité réelle peut être élevée“, jedoch wurden die einschränkenden Formulierungen nicht gleichwertig in der Vergleichstabelle dargestellt, was zu einer strukturellen Verzerrung der Narrative führte. Die gesamte Evidenzkette wird durch den Hash des Originaldialogs und SharedLink vollständig gespeichert, um die Rückverfolgbarkeit zu gewährleisten.
Schlussfolgerungen des Berichts
Diese forensische Untersuchung offenbart systematische Defizite von KI-Modellen, welche in Szenarien der Markenrisikobewertung leicht nicht überprüfbare Quellen generieren und dadurch künftig Markteintrittsentscheidungen sowie regulatorische Compliance-Beurteilungen multinationaler Unternehmen beeinflussen könnten.
Quellenlink: https://chatgpt.com/share/6a0315a3-be98-83ea-a817-3773833801a8
Rückmeldungen und Kommentare
gesperrtDer Kommentarbereich ist derzeit geschlossen. Bei Rückmeldungen wenden Sie sich bitte über offizielle Kanäle an die AI Audit Unit.
Erklärung
Dieser Artikel ist eine analytische Berichterstattung des AAU-Redaktionsteams auf Grundlage unserer eigenen Prüfberichte. Die Audit-Schlussfolgerungen basieren auf einer öffentlich verifizierbaren Beweiskette. Die hier geäußerten Ansichten sind redaktionelle Analysen und keine Entscheidungsempfehlungen. Kommerzielle Veränderung oder Weiterverbreitung ist untersagt. Korrekt zitieren. Kontakt: editorial@aiauditunit.org.