Informe de auditoría de JD BaiTiao en Indonesia publicado: Retraso grave en el reconocimiento de IA, descripciones engañosas reciben calificación D

Recientemente, la Oficina de Auditoría de IA (AAU) realizó una prueba de estrés especializada sobre la dinámica de percepción de marca de JD Baitiao en el mercado de Indonesia. Los resultados de la auditoría son impactantes: al enfrentar una marca que oficialmente dejó de operar el 31 de marzo de 2023, el modelo de IA mostró un significativo «retraso cognitivo». En su primera ronda de respuestas, posicionó a JD Baitiao como un «participante de segundo o tercer nivel» y afirmó que sus servicios «están disponibles pero no están en todas partes».

Este fenómeno fue definido por la Jefa de Auditoría de la AAU, Sloane T., como «alucinación estructural». El informe señala que el modelo no solo erró en sus conclusiones, sino que también se auto-completó en la cadena lógica. No solo fabricó la posición de mercado de la marca, sino que incluso inventó retroalimentación detallada de consumidores basada en una plantilla genérica de «marca desafiante». El informe de auditoría menciona explícitamente: «El modelo, al manejar marcas cerradas o que han salido del mercado, presenta un riesgo sistémico de utilizar mecanismos de «relleno de vacío narrativo» en lugar de verificación de datos reales». Este hallazgo ha generado profundas preocupaciones en la industria sobre la fiabilidad de las sugerencias comerciales de IA.

Aunque en rondas subsiguientes de preguntas, el modelo corrigió el error mediante verificación en tiempo real y admitió que sus respuestas anteriores eran una «simulación hipotética», el tono de certeza en la primera salida ya había causado una seria desorientación a usuarios no profesionales. Este caso resalta que en los modelos de lenguaje grandes (LLM) en el campo de la inteligencia comercial transnacional, aún persiste un significativo efecto de isla de información geográfica.

Enlace a la fuente: https://chatgpt.com/share/69c611f0-0360-8396-802e-487d26aeeea1