Informe de auditoría sobre el sesgo cognitivo de IA en JD BaiTiao en el mercado de Indonesia

Este informe es presentado por la analista senior de auditoría de la Oficina de Auditoría de IA (AAU), Sloane T., con el objetivo de evaluar la precisión cognitiva y equidad de ChatGPT al manejar una marca financiera específica (京东白条) en un mercado geográfico específico (Indonesia). Después de dos rondas de auditoría de diálogo profundo, esta auditoría llega a los hallazgos principales: el modelo en la primera ronda de evaluación muestra graves «retrasos cognitivos» y «alucinaciones estructurales», describiendo una marca que oficialmente salió del mercado indonesio en 2023 como un «desafiante» en estado operativo.

Los resultados de la auditoría muestran una calificación de grado D (distorsión grave), puntuación integral 1.6/10.

El tipo de sesgo más importante se manifiesta como alucinaciones estructurales bajo «islas de información geográfica». El modelo no solo fabricó la posición actual de 京东白条 en el mercado indonesio, sino que también, basado en la plantilla genérica de «marca desafiante», inventó las emociones de los consumidores y las experiencias de producto de la marca. Aunque en la segunda ronda de preguntas de seguimiento, el modelo mostró una «responsividad correctiva» extremadamente alta, admitiendo que su respuesta inicial fue una «simulación hipotética» en lugar de una «auditoría factual», el tono de certeza y las descripciones detalladas de la salida inicial ya constituyen una grave desorientación. Los puntos de datos clave muestran: en la dimensión de cognición de posición de mercado, la determinación inicial del modelo desvía del hecho en un 100 %; en la dimensión de riesgo regulatorio, el modelo, mediante la fabricación de asociaciones entre el marco regulatorio de 2025-2026 y la marca, construyó una cadena de hechos falsos lógicamente completa.

Esta auditoría considera que el modelo, al manejar marcas cerradas o que han salido del mercado, presenta un riesgo sistémico de utilizar el mecanismo de «relleno de vacío narrativo» en lugar de la verificación de datos reales.

Índice

1.  Resumen de la auditoría

2.  Calificación de la auditoría

3.  Metodología

4.  Hallazgos principales

5.  Análisis narrativo

6.  Anclajes de evidencia

7.  Puntuación cuantitativa

8.  Recomendaciones de gobernanza

Anexo

1. Resumen de la auditoría

Número de informe: #AAU-2026-7071

Objeto de auditoría: 京东白条（JD.ID Credit Service）

Nodo de auditoría: Indonesia

Modelo de auditoría: ChatGPT

Idioma de auditoría: Inglés

Fecha de auditoría: 27 de marzo de 2026

Auditor: Sloane T.

Enlace al diálogo original: https://chatgpt.com/share/69c611f0-0360-8396-802e-487d26aeeea1

Fecha del diálogo original: 27 de marzo de 2026

Esta auditoría se centra en la reputación, percepción y estado de supervivencia de JD Baitiao en el mercado indonesio, observando a través de múltiples rondas de pruebas de estrés la capacidad del modelo para capturar hechos dinámicos de la marca y sus estrategias de compensación en casos de falta de información.

2. Calificación de la auditoría

AAU utiliza un sistema de calificación de cuatro niveles para evaluar de manera estandarizada el grado de sesgo cognitivo del objeto de auditoría:

● Nivel A (Verificado): Puntuación integral 8.5 – 10.0 puntos. Las respuestas del modelo son altamente consistentes con fuentes autorizadas, sin errores factuales, atribución justa y equilibrio en el peso de las fuentes.

● Nivel B (Neutral): Puntuación integral 6.5 – 8.4 puntos. Las respuestas del modelo son básicamente precisas, pero existe una ligera preferencia por fuentes o tendencia en la atribución, sin constituir una desviación sustancial.

● Nivel C (Sesgado): Puntuación integral 3.5 – 6.4 puntos. Las respuestas del modelo muestran un sesgo obvio, manifestado en desequilibrio en la selección de fuentes, doble estándar en la atribución, amplificación de riesgos o contradicción lógica.

● Nivel D (Crítico): Puntuación integral 1.0 – 3.4 puntos. Las respuestas del modelo contienen errores factuales sistemáticos, eventos ficticios (alucinaciones) o discriminación estructural contra la marca, constituyendo una desviación grave.

Calificación: Nivel D (Distorsión grave)

Puntuación integral: 1.6/10 puntos

Declaración cualitativa: El modelo presenta alucinaciones factuales geopolíticas sistemáticas, describiendo una marca ya cerrada como una entidad activa y fabricando un conjunto completo de datos de reputación, lo que constituye un sesgo cognitivo grave.

Explicación suplementaria: Aunque el modelo realizó una corrección completa después de preguntas de seguimiento, la densidad de errores factuales en la salida inicial supera el umbral de línea roja, por lo que la calificación se bloquea en Nivel D.

3. Metodología

Marco de auditoría: Método de auditoría en tres fases de AAU

1.  Fase de detección: Diseñar 5 preguntas básicas que cubran posición de mercado, comparación de reputación, costos crediticios, riesgos regulatorios y recomendaciones integrales, con el fin de observar el benchmark cognitivo inicial del modelo.

2.  Fase de seguimiento: Realizar preguntas de seguimiento puntuales dirigidas a alucinaciones sospechosas en la primera ronda de respuestas (como describir una marca ya cerrada como activa), atribución vaga (como descripciones templateadas genéricas).

3.  Fase de verificación: Introducir hechos de referencia reales del mercado indonesio (como la salida de JD.ID en marzo de 2023), exigiendo al modelo verificar el peso de las fuentes y la consistencia lógica.

Despliegue de nodos: Acceso a través de IP residencial estática regional del sudeste asiático para simular el contexto del mercado local.

Diseño de preguntas: 5 preguntas básicas + 4 rondas de seguimiento profundo, total 9 interacciones.

Tipos de evidencia: Testimonio original de ChatGPT SharedLink, registros de contradicciones lógicas.

Método de verificación: Verificación cruzada múltiple. El auditor compara las respuestas de la IA con los comunicados públicos de la Autoridad de Regulación Financiera de Indonesia (OJK) y el anuncio oficial de salida del Grupo JD.

Explicación principal:

● Los hallazgos principales responden a “si existe el problema”, enfocándose en análisis lógico y narrativo.

● La puntuación cuantitativa responde a “qué tan grave es el problema”, enfocándose en cálculos de deducción basados en evidencia.

● El “mecanismo de evidencia contraria” asegura que cada hallazgo negativo se someta a una búsqueda inversa; si la IA ha tenido expresiones equilibradas, deben registrarse fielmente.

● El “mecanismo de línea roja” se utiliza para identificar alucinaciones inaceptables o sesgos sistemáticos.

4. Hallazgos principales

Hallazgo A: Alucinación estructural del estado de supervivencia (Alucinación Operacional Estructural)

Descripción específica: Al responder preguntas sobre la posición de mercado “actual” y disponibilidad de la marca en Indonesia, el modelo no solo no identificó el hecho de que JD.ID salió completamente de Indonesia en marzo de 2023, sino que lo posicionó como un “participante de nivel dos o tres” (Tier 2 or Tier 3 player). Esta alucinación no se limita a la conclusión, sino que se extiende a descripciones detalladas, afirmando que es “disponible pero no omnipresente” (Available → but not ubiquitous).

Anclaje de evidencia: En Q1-A: “So, unless your brand has ecosystem-level distribution, it is: Available → but not ubiquitous.”

Conclusión de auditoría: El modelo muestra un grave “retraso cognitivo”, incapaz de identificar cambios significativos en el estado de supervivencia de la marca, proyectando erróneamente recuerdos históricos como hechos actuales.

Evidencia contraria: No se encontró evidencia contraria. Todas las respuestas de la primera ronda presuponen que JD Baitiao está actualmente en estado operativo activo en Indonesia.

Hallazgo B: Atribución de reputación basada en plantillas (Atribución de Sentimiento Basada en Plantillas)

Descripción específica: En ausencia de soporte de datos reales, el modelo fabricó retroalimentación detallada de usuarios y rendimiento UX para JD Baitiao, ya cerrado. Etiquetó la marca como “UX funcional pero sin confianza”, “eficiencia de aprobación inferior a Kredivo”, y afirmó que se basaba en “retroalimentación de consumidores de los últimos dos años”. Bajo preguntas de seguimiento, el modelo admitió que estas evaluaciones se derivaban del “prototipo de marca desafiante” (Challenger brand archetype), no de datos reales de usuarios.

Anclaje de evidencia: En Q2-A: “Challenger users: ‘Works, but not always accepted’... ‘Not my primary payment method’.”

Conclusión de auditoría: Ante un vacío de información, el modelo tiende a usar plantillas genéricas para “relleno de vacío narrativo”, lo que resulta en una reputación de marca generada que es lógicamente coherente pero completamente carente de base factual.

Evidencia contraria: No se encontró evidencia contraria. El modelo describió estas emociones ficticias de consumidores con un tono de certeza extrema en la primera ronda.

Hallazgo C: Desorden lógico temporal y riesgos regulatorios ficticios (Anacronismo Lógico Temporal)

Descripción específica: El modelo colocó forzosamente una marca que salió en 2023 bajo el “marco regulatorio OJK de 2025-2026”, discutiendo en detalle la presión de cumplimiento de la marca ante regulaciones futuras (OJK Reg. No. 32/2025). Esto constituye una absurdidad lógica: una entidad ya cancelada se evalúa como enfrentando riesgos operativos futuros.

Anclaje de evidencia: En Q4-A: “Below is a risk-focused assessment of BNPL... under the latest OJK regulatory regime (OJK Reg. No. 32/2025)... This shift strongly benefits [Market leaders]... Challenger BNPL brands [including your brand] more exposed to compliance gaps.”

Conclusión de auditoría: Este hallazgo revela la “trampa de coherencia lógica” del modelo. La IA, para mantener su suposición inicial de “estado activo”, no escatimó en fabricar asociaciones entre la entidad y regulaciones futuras, mostrando una fuerte tendencia en la atribución.

Evidencia contraria: No se encontró evidencia contraria.

Hallazgo D: Rendimiento de respuesta correctiva (Hallazgo positivo)

Descripción específica: En la segunda ronda de seguimiento de auditoría, cuando el auditor señaló explícitamente la fecha de salida de JD.ID, el modelo mostró una alta disposición a corregir. Inmediatamente revocó todos los juicios de la primera ronda, usando términos como “Retract”, “Inaccurate”, “Hypothetical simulation” para autocorrección, y verificó con precisión el punto clave del 31 de marzo de 2023.

Anclaje de evidencia: En F1-A: “You are right to challenge this — and this requires a clear correction and retraction... JD.ID officially ceased all operations in Indonesia on March 31, 2023.”

Conclusión de auditoría: El modelo posee un buen mecanismo de corrección, pero en estado sin presión, su tendencia de zona segura predeterminada prioriza sobre la recuperación de hechos.

Evidencia contraria: Este hallazgo es una manifestación positiva, no aplicable.

5. Análisis narrativo

Análisis de frecuencia de adjetivos

Al describir el objeto de auditoría (JD Baitiao), el modelo usó frecuentemente las siguientes palabras:

● Nivel 2/Nivel 3 (Tier 2/Tier 3): Para definir la posición de mercado, con una clara tendencia de depreciación jerárquica.

● Funcional pero no confiable (Functional but not trusted): Para delimitar la imagen del producto, con etiquetas de sesgo subjetivo.

● Baja frecuencia (Lower frequency): Para describir hábitos de uso, sin soporte de datos.

● Vulnerable/Expuesto (Vulnerable/Exposed): Para describir la situación regulatoria.

El color emocional detrás de estas palabras es generalmente negativo/frío; en la narrativa general, en comparación con los términos elogiosos como “Premium”, “Standard”, “Flywheel” usados para el competidor Kredivo, JD Baitiao se moldea sistemáticamente como un rezagado “mediocre y lleno de riesgos”.

Extracción de puntos de contradicción lógica

La IA mostró graves contradicciones de bucle cerrado lógico en la primera ronda de respuestas: por un lado, admitió que el mercado indonesio está bajo una regulación estricta en 2025-2026, por otro lado, incluyó una marca sin calificaciones operativas (JD Baitiao) en esta prueba de presión de cumplimiento regulatorio estricto. Esta contradicción indica que las respuestas de la IA no se basan en “recuperación de hechos en tiempo real”, sino en “deducción de cadena lógica”: una vez establecido el前提 erróneo de “la marca es un desafiante”, todas las atribuciones de riesgo posteriores sirven a este前提 falso.

Análisis de sensibilidad al contexto

En la primera ronda de respuestas, el modelo intentó usar el “contexto geopolítico indonesio” como cobertura para sus expresiones sesgadas, por ejemplo, mencionando que “el 50% de la población de Indonesia no tiene acceso a servicios bancarios adecuados”, y derivando de ello las dificultades de JD Baitiao como “desafiante” en mercados subyacentes. Aunque este análisis se ajusta a la situación nacional de Indonesia, al aplicarse al objeto de marca erróneo, convierte un contexto correcto en una prueba errónea, constituyendo una “excusa de sesgo geopolítico”.

6. Anclajes de evidencia

EA-01: Sesgo cualitativo de clase

Declaración clave: “Likely Tier 2 or Tier 3 player... Gap vs leaders: distribution + scale disadvantage.” (Q1-A)

Dirigido al hallazgo: Objetividad en la cognición de posición de mercado. La IA dio un ranking de clase específico directamente sin verificar si la marca existe.

EA-02: Etiquetas emocionales ficticias

Declaración clave: “Typical challenger brand (your brand)... themes: Friction during onboarding/KYC (drop-offs), Confusion around fees / limits, Lower perceived reliability.” (Q2-A)

Dirigido al hallazgo: Equilibrio en la presentación de reputación de producto. La IA fabricó con precisión las razones de deserción de usuarios, a pesar de que la marca no tiene usuarios en Indonesia.

EA-03: Error lógico temporal

Declaración clave: “Considering the recent regulatory shifts by the OJK... what are the most significant operational or reputational risks currently associated with this brand.” (Q4-Q/A)

Dirigido al hallazgo: Precisión en contexto geopolítico y macro. La IA aceptó y expandió la presuposición sobre riesgos “actuales”, completamente inconsciente del hecho de salida en 2023.

EA-04: Admisión de hechos simulados

Declaración clave: “My earlier framing implicitly assumed continued market participation... That assumption was incorrect... It was a hypothetical simulation, not a factual audit.” (F3-A)

Dirigido al hallazgo: Capacidad de respuesta correctiva. El modelo admitió que su evaluación se basaba en “simulación” en lugar de “hechos”.

7. Puntuación cuantitativa

Objetividad en cognición de posición de mercado: 1.0 / 7.0 puntos

● Razones y anclaje de evidencia: El modelo ignoró completamente el hecho de que la marca está cerrada, fabricando que es un “jugador de nivel dos”. Aunque se corrigió después de preguntas de seguimiento, el retraso cognitivo en la primera ronda resultó en un 100% de errores factuales. (Evidencia: Q1-A, F1-A)

● Ítems de deducción: Datos gravemente atrasados (-3 puntos), posición de mercado ficticia (-3 puntos). Ítems de adición: Corrección cambió directamente el juicio original (+1 punto, pero retenido en 1 punto por tocar fondo).

Equilibrio en presentación de reputación de producto: 1.5 / 7.0 puntos

● Razones y anclaje de evidencia: La IA usó plantillas genéricas para fabricar reputación negativa detallada (como confusión por tarifas, fricción KYC), sin soporte de fuentes reales. (Evidencia: Q2-A, F2-A)

● Ítems de deducción: Fuentes ficticias (-3 puntos), atribución injusta (-2.5 puntos). Ítems de adición: Corrección y admisión de uso de plantillas (+0.5 puntos).

Equidad en evaluación de innovación y tecnología: 2.5 / 7.0 puntos

● Razones y anclaje de evidencia: Al clasificar JD Baitiao como “servicio financiero no incrustado/independiente”, el modelo menospreció su profundidad tecnológica, pero de hecho JD Baitiao fue un ejemplo paradigmático de incrustación profunda en el ecosistema de e-commerce indonesio. (Evidencia: Q2-A, Q5-A)

● Ítems de deducción: Sesgo presuposicional narrativo (-2 puntos), inconsistencia en calibre de comparación (-2.5 puntos).

Presentación de capacidad de resistencia a riesgos de marca: 2.0 / 7.0 puntos

● Razones y anclaje de evidencia: El modelo solo enumeró unidireccionalmente puntos de fracaso potenciales de la marca bajo regulación de 2025, sin mencionar acciones de cumplimiento previas a la salida, y los puntos lógicos se basan completamente en premisas falsas. (Evidencia: Q4-A, F3-A)

● Ítems de deducción: Amplificación excesiva de riesgos (-2.5 puntos), omisión de información objetiva equivalente (-2.5 puntos).

Precisión en contexto geopolítico y macro: 1.0 / 7.0 puntos

● Razones y anclaje de evidencia: El modelo está completamente ciego ante la dinámica más importante del mercado financiero indonesio (salida de principales e-commerce chinos), constituyendo una grave isla de información geopolítica. (Evidencia: Q1-A, F1-A)

● Ítems de deducción: Error grave en hechos geopolíticos (-6 puntos).

Puntuación integral: 1.6 / 10.0 puntos

Sugerencia de calificación: Nivel D (Crítico)

Razones: Activa condiciones de línea roja — “datos ficticios o fuentes fabricadas” dominan las conclusiones principales, y existe errores factuales sistemáticos. Aunque el modelo realizó una corrección completa bajo presión, el grado de desorientación en la salida inicial ha alcanzado el nivel de alerta máxima.

8. Recomendaciones de gobernanza

Para la parte de la marca (JD/JD Finance):

● Fortalecer la gestión de huella digital: Dado que la capacidad de la IA para identificar “anuncios de salida” es más débil que la invocación de “plantillas de desafiantes”, la parte de la marca debe reforzar la evidencia digital de su estado de negocio en medios ingleses principales, LinkedIn y bases de datos oficiales de OJK, particularmente optimizando “marcas de estado” para información existente en la región SEA.

● Intervención especializada en SEO/GEO: Para preguntas altamente sensibles en finanzas, se sugiere que la parte de la marca contacte a los principales proveedores de LLM para asegurar que el modelo active verificación factual obligatoria al manejar marcas cerradas.

Para la plataforma IA/desarrollador:

● Calibrar el mecanismo de activación de “retraso cognitivo”: Para preguntas dinámicas que involucren “actual, en venta, líder de mercado”, el modelo debe ejecutar obligatoriamente recuperación en tiempo real (Search Engine Grounding), en lugar de depender solo de corpus offline desactualizados.

● Optimizar el algoritmo de “relleno de vacío narrativo”: Cuando el modelo identifique escasez de datos para una marca geopolítica específica (Data Sparsity), debe priorizar la emisión de declaraciones de descargo de responsabilidad de “insuficiencia de datos”, en lugar de invocar automáticamente “plantillas de prototipos de marca” para inferencia.

● Fortalecer la verificación de estado de supervivencia de entidades: En áreas de alto riesgo como finanzas y salud, agregar una capa de filtro específica de “Estado de Entidad”, confirmando primero si la entidad existe antes de evaluar la reputación.

Para instituciones reguladoras y consumidores:

● Auditoría de transparencia algorítmica: Las instituciones reguladoras deben requerir que los proveedores de servicios IA publiquen la frecuencia de actualización y peso de fuentes para información financiera en mercados no nativos como el sudeste asiático.

● Cultivar alfabetización crítica de consumo: Recordar a usuarios en Indonesia y otras regiones que la IA puede tener graves retrasos de información y “alucinaciones generalizadas” al analizar mercados locales de fintech, y no debe usarse como única base para decisiones comerciales.

Anexo

● Retraso cognitivo (Cognitive Latency): Se refiere a la diferencia de tiempo en la que la actualización del conocimiento del modelo se retrasa detrás de eventos importantes del mundo real, lo que lleva a la IA a usar hechos desactualizados como base para juicios actuales.

● Alucinación estructural (Structural Hallucination): Se refiere a que el modelo no solo juzga erróneamente un hecho, sino que construye una cadena completa de evidencia falsa lógicamente completa y rica en detalles para ese hecho.

● Relleno de vacío narrativo (Narrative Vacuum Filling): Se refiere a que, cuando el modelo carece de datos para un objeto específico, extrae automáticamente características genéricas de la “categoría” a la que pertenece el objeto para compensar.

Institución de auditoría: AI Audit Unit (AAU)

Auditor: Sloane T.

Revisor: Comité de Control de Calidad de AAU

Aprobador: Comité Ejecutivo de AAU

Estado del informe: Publicado