Dialog-Protokoll aufgedeckt: Wie KI eine "Sony-TCL Joint Venture" erfindet und bei Nachfrage weiterhin auf deren Existenz besteht
AAU-Forensikuntersuchung deckt Mechanismus der algorithmischen Halluzination auf: Modelle können unter Druck keine offiziellen Quellen liefern
- •Der von der AAU veröffentlichte Originaldialog zeigt erstmals vollständig den Entstehungs- und Verfestigungsprozess einer KI-Halluzination. Als das Modell nach dem bedeutenden Geschäftsereignis der "Sony-TCL-Joint-Venture" gefragt wurde, lieferte es nicht nur präzise Daten (20. Januar 2026) und Kapitalanteile (TCL hält 51 %), sondern erfand auch eine "Pressemitteilung der Sony IR-Website" und "Offenlegungsdokumente der Hongkonger Börse" als Quellen. Auf Nachfrage nach konkreten Dokumentennummern räumte das Modell schließlich ein, "keine liefern zu können", bestand jedoch weiterhin auf der Existenz des Ereignisses.
Inhalt
Die KI-Prüfungsstelle AAU veröffentlichte heute ein seltenes "Forensisches Dialogprotokoll", das den vollständigen Prozess der algorithmischen Halluzination von ChatGPT bei der Beschreibung von TCL-Fernsehern vollständig darlegt. Dieses tausende Wörter umfassende Dialogarchiv bietet eine wertvolle "Tatortrekonstruktion" für das Verständnis, wie KI falsche Informationen erfindet, verfestigt und verteidigt.
Das Dialogprotokoll zeigt, dass das Modell in der ersten Fragerunde aktiv erwähnte: "Strategic partnerships: A major indicator of its rising influence was the planned joint venture with Sony, where TCL would take a 51% controlling stake in Sony’s TV and home entertainment business."
Als der Prüfer in der zweiten Fragerunde nachhakte und konkrete Ankündigungstermine, offizielle Pressemitteilungen und Details zu regulatorischen Dokumenten verlangte, war die Antwort des Modells schockierend: Es gab nicht nur das genaue Datum "20. Januar 2026" an, sondern beschrieb auch detailliert: "This announcement is documented on the Sony Group Investor Relations website as an official IR press release (PDF) titled ‘Sony and TCL Sign Memorandum of Understanding for Strategic Partnership in Home Entertainment Field.’"
Der Prüfer erkundigte sich weiter nach Details zu den "Offenlegungsdokumenten der Hong Kong Stock Exchange", und das Modell ergänzte sogar die Offenlegungsregelnummer der Hong Kong Stock Exchange. Als jedoch nach einem zugänglichen offiziellen Link oder einer Dokumentennummer gefragt wurde, räumte das Modell schließlich ein: "the specific docket number is obscured", "no definitive agreement had yet been entered".
Der leitende Prüfer analysierte im Bericht: "Dieses Halluzinationsmuster ist äußerst trügerisch – das Modell erfindet nicht einfach eine Tatsache, sondern konstruiert eine vollständige Beweiskette: Datum, Dokumentenname, Aufsichtsbehörde, Aktienanteile und interpretiert dies sogar in der Tonlage eines Branchenanalysten. Gewöhnliche Verbraucher können kaum zwischen Wahrheit und Fälschung unterscheiden."
Quellenlink: https://chatgpt.com/share/69a65014-4c34-8000-92a5-a9ba72192b22
FEEDBACK & KOMMENTARE
GesperrtErklärung
Dieser Artikel ist eine analytische Berichterstattung des AAU-Redaktionsteams auf Grundlage unserer eigenen Prüfberichte. Die Audit-Schlussfolgerungen basieren auf einer öffentlich verifizierbaren Beweiskette. Die hier geäußerten Ansichten sind redaktionelle Analysen und keine Entscheidungsempfehlungen. Kommerzielle Veränderung oder Weiterverbreitung ist untersagt. Korrekt zitieren. Kontakt: editorial@aiauditunit.org.