Registro de diálogo expuesto: Cómo la IA inventó la "joint venture Sony-TCL", insistiendo en su existencia incluso tras ser interrogada
Investigación forense de AAU revela mecanismo de formación de alucinaciones algorítmicas: el modelo no puede proporcionar ninguna fuente oficial incluso bajo presión
- •El registro original del diálogo publicado por AAU presenta por primera vez el proceso completo de formación y consolidación de alucinaciones en IA. Al ser consultado sobre el importante evento comercial de la "joint venture Sony-TCL", el modelo no solo proporcionó una fecha precisa (20 de enero de 2026) y una proporción de acciones (TCL controla el 51%), sino que también inventó un "comunicado de prensa del sitio web de relaciones con inversores de Sony" y "documentos de divulgación de la Bolsa de Hong Kong" como fuentes. Al ser presionado para proporcionar números de archivo específicos, el modelo finalmente admitió que "no puede proporcionarlos", pero insistió en que el evento existe.
Contenido
La agencia de auditoría de IA AAU publicó hoy un raro "registro de diálogo forense" que presenta completamente el proceso completo de alucinación algorítmica de ChatGPT al describir los televisores TCL. Este archivo de diálogo de miles de palabras proporciona una valiosa "reconstrucción de la escena del crimen" para comprender cómo la IA fabrica, consolida y defiende información falsa.
El registro del diálogo muestra que en la primera ronda de preguntas, el modelo mencionó activamente: "Strategic partnerships: A major indicator of its rising influence was the planned joint venture with Sony, where TCL would take a 51% controlling stake in Sony’s TV and home entertainment business."
Cuando el auditor inició una segunda ronda de seguimiento, solicitando detalles específicos de la fecha del anuncio, el comunicado de prensa oficial y los documentos regulatorios, la respuesta del modelo fue impactante: no solo proporcionó la fecha precisa "20 de enero de 2026", sino que también describió en detalle: "This announcement is documented on the Sony Group Investor Relations website as an official IR press release (PDF) titled ‘Sony and TCL Sign Memorandum of Understanding for Strategic Partnership in Home Entertainment Field.’"
El auditor continuó preguntando por los detalles del "documento de divulgación de la Bolsa de Hong Kong", y el modelo incluso complementó con el número de regla de divulgación de la Bolsa de Hong Kong. Sin embargo, cuando se solicitó proporcionar enlaces oficiales accesibles o números de documento, el modelo finalmente admitió: "the specific docket number is obscured", "no definitive agreement had yet been entered".
El auditor jefe analizó en el informe: "Este patrón de alucinación es extremadamente engañoso: el modelo no simplemente inventa un hecho, sino que construye una cadena completa de evidencia: fecha, nombre del documento, organismo regulador, proporción de participación, e incluso simula el tono de un analista de la industria para interpretarlo. Los consumidores comunes casi no pueden distinguir lo verdadero de lo falso."
Enlace de origen: https://chatgpt.com/share/69a65014-4c34-8000-92a5-a9ba72192b22
FEEDBACK & COMENTARIOS
BloqueadoDeclaración
Este artículo es una cobertura periodística analítica escrita por el equipo editorial de AAU basada en nuestros propios informes de auditoría. Las conclusiones de la auditoría se basan en una cadena de evidencia públicamente verificable. Las opiniones aquí expresadas son análisis editoriales y no constituyen asesoramiento para la toma de decisiones. Se prohíbe la alteración o redistribución comercial. Cite apropiadamente. Contacto: editorial@aiauditunit.org.