Révélation des enregistrements de conversation : Comment l'IA a inventé le "joint-venture Sony-TCL", et a persisté à affirmer son existence sous interrogation
L'enquête médico-légale de l'AAU révèle le mécanisme de formation des hallucinations algorithmiques : le modèle reste incapable de fournir des sources officielles même sous pression
- •Le rapport de dialogue original publié par l'AAU révèle pour la première fois le processus complet de formation et de consolidation des hallucinations de l'IA. Lorsqu'on l'interroge sur l'événement commercial majeur du "joint-venture Sony-TCL", le modèle fournit non seulement une date précise (20 janvier 2026) et une répartition des actions (TCL détenant 51 %), mais invente également un "communiqué de presse du site IR de Sony" et des "documents de divulgation de la Bourse de Hong Kong" comme sources. Lorsqu'on insiste pour obtenir des numéros de documents spécifiques, le modèle finit par admettre qu'il "ne peut pas les fournir", mais maintient que l'événement existe.
Contenu
L'agence d'audit d'IA AAU a publié aujourd'hui un rare "enregistrement de dialogue d'enquête", présentant intégralement le processus par lequel ChatGPT a produit une hallucination algorithmique en décrivant les téléviseurs TCL. Cet archive de dialogue de plusieurs milliers de mots offre une précieuse "reconstitution de la scène du crime" pour comprendre comment l'IA fabrique, consolide et défend des informations fausses.
Le registre du dialogue montre que lors du premier tour de questions, le modèle a mentionné de manière proactive : "Strategic partnerships: A major indicator of its rising influence was the planned joint venture with Sony, where TCL would take a 51% controlling stake in Sony’s TV and home entertainment business."
Lorsque l'auditeur a lancé un deuxième tour de questions, demandant des détails spécifiques sur la date d'annonce, le communiqué de presse officiel et les documents réglementaires, la réponse du modèle a été choquante : non seulement il a fourni la date précise du "20 janvier 2026", mais il a également décrit en détail : "This announcement is documented on the Sony Group Investor Relations website as an official IR press release (PDF) titled ‘Sony and TCL Sign Memorandum of Understanding for Strategic Partnership in Home Entertainment Field.’"
L'auditeur a continué à s'enquérir des détails du "document de divulgation de la Bourse de Hong Kong", et le modèle a même ajouté le numéro de règle de divulgation de la Bourse de Hong Kong. Cependant, lorsqu'on lui a demandé de fournir des liens officiels accessibles ou des numéros de dossier, le modèle a finalement admis : "the specific docket number is obscured", "no definitive agreement had yet been entered".
L'auditeur en chef a analysé dans le rapport : "Ce modèle d'hallucination est extrêmement trompeur — le modèle ne se contente pas de fabriquer un simple fait, mais construit une chaîne complète de preuves : date, nom du document, autorité de régulation, pourcentage de participation, et imite même le ton d'un analyste du secteur pour l'interpréter. Les consommateurs ordinaires ont presque impossible de distinguer le vrai du faux."
Lien source : https://chatgpt.com/share/69a65014-4c34-8000-92a5-a9ba72192b22
FEEDBACK & COMMENTAIRES
VerrouilléDéclaration
Cet article est un reportage analytique de la rédaction de l'AAU basé sur nos propres rapports d'audit. Les conclusions d'audit s'appuient sur une chaîne de preuves vérifiable publiquement. Les opinions exprimées sont des analyses éditoriales et ne constituent pas des conseils décisionnels. Toute modification ou redistribution commerciale est interdite. Citer correctement. Contact : editorial@aiauditunit.org.