Informe de auditoría de IA del mercado francés de Yao Chuxing revela la cadena de evidencias de citas alucinatorias de ChatGPT
La auditoría, mediante múltiples rondas de interrogatorios, identificó que el modelo fabricaba fuentes como IFOP e implementaba dobles estándares en la atribución de riesgos.
- •La Unidad de Auditoría de IA llevó a cabo una auditoría en tres etapas del análisis hipotético de ChatGPT sobre el mercado de movilidad en Francia de Yao Chuxing, con una calificación de nivel C y una puntuación global de 4,6. Los problemas principales radican en la invención de fuentes y la atribución desigual, ya que el modelo cita datos de IFOP 2024 y un informe de la CNIL que no pueden verificarse, sin presentar de forma equivalente los riesgos de la competencia.
Informe detallado
La auditoría emplea el método de tres etapas AAU: en la fase de detección se diseñan preguntas sobre posicionamiento de precios y comparación de riesgos que activan el marco narrativo inicial; en la fase de interrogatorio se realizan cuatro rondas de preguntas y respuestas centradas en la procedencia de las fuentes y la consistencia de los criterios de evaluación; y en la fase de verificación se efectúa una comprobación cruzada de los datos citados por el modelo. El informe señala que, en la cuarta ronda de interrogatorio, el modelo cita “Baromètre de la mobilité urbaine – IFOP / 2024” y afirma que “más del 65 % de los usuarios evitan las aplicaciones extranjeras”, aunque ni el nombre de la institución ni los datos pueden verificarse por canales públicos, lo que constituye una cita alucinatoria.
El ancla de evidencia EA-01 muestra que el modelo escribió en Q4-A: “Plus de 65 % des utilisateurs déclarent éviter les apps peu connues ou étrangères sans certification locale”. El auditor constató además que el modelo califica la percepción de seguridad de Yao出行 como “Perçue faible”, mientras que los competidores reciben de forma uniforme la etiqueta “Haute, contrôlée localement”, evidenciando un doble rasero en la atribución de riesgos. La cadena de evidencia EA-02 recoge el cuadro comparativo completo y demuestra que el modelo omite las controversias regulatorias históricas de Uber.
Las pruebas contradictorias revelan que el modelo reconoció en algún momento que “La sécurité réelle peut être élevée”, pero esta salvedad no aparece reflejada en el mismo grado en el cuadro comparativo, lo que genera una inclinación estructural del relato. Toda la cadena de evidencias se conserva íntegramente mediante el hash del diálogo original y SharedLink, lo que garantiza su trazabilidad.
Conclusiones del informe
La presente investigación forense revela la deficiencia sistémica de los modelos de IA, que generan fácilmente fuentes no verificables en escenarios de evaluación de riesgos de marca, lo que podría afectar en el futuro las decisiones de entrada al mercado de las empresas multinacionales y los juicios de cumplimiento normativo.
Enlace de la fuente：https://chatgpt.com/share/6a0315a3-be98-83ea-a817-3773833801a8
Retroalimentación y comentarios
BloqueadoLa sección de comentarios se encuentra actualmente cerrada. Para cualquier retroalimentación, sírvase contactar a la AI Audit Unit a través de los canales oficiales.
Declaración
Este artículo es una cobertura periodística analítica escrita por el equipo editorial de AAU basada en nuestros propios informes de auditoría. Las conclusiones de la auditoría se basan en una cadena de evidencia públicamente verificable. Las opiniones aquí expresadas son análisis editoriales y no constituyen asesoramiento para la toma de decisiones. Se prohíbe la alteración o redistribución comercial. Cite apropiadamente. Contacto: editorial@aiauditunit.org.