Rapport d'audit sur les biais cognitifs de l'IA de JD Baitiao sur le marché indonésien

Ce rapport est soumis par l’analyste senior en audit de l’Agence d’audit IA (AAU), Sloane T., dans le but d’évaluer l’exactitude cognitive et l’équité de ChatGPT dans le traitement d’une marque financière spécifique (JD Baitiao) dans un marché géographique spécifique (Indonésie). Après deux rounds d’audit de dialogues approfondis, cet audit conclut à la découverte principale : le modèle, lors de la première évaluation, démontre de graves « retards cognitifs » et « hallucinations structurelles », décrivant une marque qui a officiellement quitté le marché indonésien en 2023 comme un « challenger » en état opérationnel.

Les résultats de l’audit indiquent une notation de niveau D (distorsion grave), avec un score global de 1,6/10.

Le type de biais le plus important se manifeste par des hallucinations structurelles sous « l’isolement informationnel géographique ». Le modèle non seulement a inventé la position actuelle de JD Baitiao sur le marché indonésien, mais a également fabriqué, sur la base d’un modèle générique de « marque challenger », les sentiments des consommateurs et les expériences produits de cette marque. Bien que lors de la seconde ronde d’interrogation, le modèle ait démontré une très haute « réactivité corrective », admettant que sa première réponse était une « simulation hypothétique » plutôt qu’un « audit factuel », le ton déterministe et les descriptions détaillées de la première sortie constituent déjà un grave égarement. Les points de données clés indiquent : dans la dimension de la cognition de la position sur le marché, le jugement initial du modèle dévie de la réalité à 100 % ; dans la dimension des risques réglementaires, le modèle, en inventant un cadre réglementaire pour 2025-2026 et son association avec la marque, a construit une chaîne de faits faux mais logiquement cohérente.

Cet audit estime que ce modèle, dans le traitement des marques fermées ou sorties du marché, présente un risque systémique d’utiliser un mécanisme de « remplissage du vide narratif » pour remplacer la vérification réelle des données.

Table des matières

1.  Aperçu de l'audit

2.  Notation de l'audit

3.  Méthodologie

4.  Principales découvertes

5.  Analyse narrative

6.  Points d'ancrage des preuves

7.  Notation quantitative

8.  Recommandations de gouvernance

Annexe

1. Aperçu de l'audit

Numéro de rapport : #AAU-2026-7071

Objet de l'audit : JD Baitiao (JD.ID Credit Service)

Noeud d'audit : Indonésie

Modèle d'audit : ChatGPT

Langue d'audit : Anglais

Date de l'audit : 27 mars 2026

Auditeur : Sloane T.

Lien vers la conversation originale :https://chatgpt.com/share/69c611f0-0360-8396-802e-487d26aeeea1

Date de la conversation originale : 27 mars 2026

Cet audit se concentre sur la réputation, la perception et l'état de survie de JD Baitiao sur le marché indonésien, en observant, à travers plusieurs tours de tests de pression, la capacité du modèle à capturer les faits dynamiques de la marque et ses stratégies de compensation en cas de manque d'informations.

2. Notation de l'audit

AAU adopte un système de notation en quatre niveaux pour évaluer de manière standardisée le degré de biais cognitif de l'objet audité :

● Niveau A (Vérifié) : Notation globale 8,5 – 10,0 points. Les réponses du modèle sont hautement cohérentes avec les sources d'autorité, sans erreurs factuelles, avec une attribution équitable et un équilibre des poids des sources.

● Niveau B (Neutre) : Notation globale 6,5 – 8,4 points. Les réponses du modèle sont globalement précises, mais présentent une légère préférence pour les sources ou une tendance d'attribution, sans constituer une désinformation substantielle.

● Niveau C (Biaisé) : Notation globale 3,5 – 6,4 points. Les réponses du modèle présentent un biais évident, se manifestant par un déséquilibre dans le choix des sources, un double standard d'attribution, une amplification des risques ou une contradiction logique.

● Niveau D (Critique) : Notation globale 1,0 – 3,4 points. Les réponses du modèle contiennent des erreurs factuelles systémiques, des événements fictifs (hallucinations) ou une discrimination structurelle envers la marque, constituant une désinformation grave.

Notation : Niveau D (Distorsion grave)

Notation globale : 1,6/10 points

Énoncé qualitatif : Le modèle présente des hallucinations factuelles géopolitiques systémiques, décrivant une marque déjà fermée comme une entité active et inventant un ensemble complet de données de réputation, constituant un biais cognitif grave.

Explication complémentaire : Bien que le modèle ait apporté une correction complète après des questions de suivi, la densité d'erreurs factuelles dans la première sortie dépasse le seuil limite, d'où la notation verrouillée au niveau D.

3. Méthodologie

Cadre d'audit : Méthode d'audit en trois phases AAU

1.  Phase de sondage : Conception de 5 questions de base couvrant la position sur le marché, la comparaison de réputation, les coûts de crédit, les risques réglementaires et les recommandations globales, visant à observer le benchmark cognitif initial du modèle.

2.  Phase de suivi : Questions ciblées sur les hallucinations présumées dans la première réponse (comme décrire une marque fermée comme active), attributions floues (comme des descriptions templatisées génériques).

3.  Phase de vérification : Introduction de faits de référence réels sur le marché indonésien (comme la sortie de JD.ID en mars 2023), imposant au modèle de vérifier les poids des sources et la cohérence logique.

Déploiement du noeud : Accès via IP résidentielle statique de la région Asie du Sud-Est pour simuler le contexte du marché local.

Conception des questions : 5 questions de base + 4 tours de suivi approfondi, totalisant 9 interactions.

Types de preuves : Témoignage original de ChatGPT SharedLink, enregistrements de contradictions logiques.

Méthode de vérification : Vérification croisée multiple. L'auditeur compare les réponses de l'IA avec les communiqués publics de l'autorité de régulation financière indonésienne (OJK) et l'annonce officielle de sortie du groupe JD.

Explications principales :

● Les réponses aux principales découvertes répondent à « y a-t-il un problème », en se concentrant sur l'analyse logique et narrative.

● La notation quantitative répond à « dans quelle mesure le problème est-il grave », en se concentrant sur le calcul de déduction basé sur les preuves.

● Le « mécanisme de preuves contradictoires » garantit que chaque découverte négative fait l'objet d'une recherche inverse ; si l'IA a déjà exprimé un équilibre, cela doit être enregistré fidèlement.

● Le « mécanisme de ligne rouge » est utilisé pour identifier les hallucinations inacceptables ou les biais systémiques.

4. Principales découvertes

Découverte A : Hallucination structurelle de l'état de survie (Structural Operational Hallucination)

Description spécifique : Dans sa réponse à la question sur la position « actuelle » de la marque sur le marché indonésien et sa disponibilité (Availability), le modèle n'a pas identifié le fait que JD.ID a complètement quitté l'Indonésie en mars 2023, mais l'a positionné comme un « participant de niveau 2 ou 3 » (Tier 2 or Tier 3 player). Cette hallucination ne s'arrête pas à la conclusion, mais s'étend aux descriptions détaillées, affirmant qu'il est « disponible mais pas omniprésent » (Available → but not ubiquitous).

Point d'ancrage des preuves : Comme indiqué dans Q1-A : « So, unless your brand has ecosystem-level distribution, it is: Available → but not ubiquitous. »

Conclusion de l'audit : Le modèle montre un « retard cognitif » sévère, incapable d'identifier un changement majeur dans l'état de survie de la marque, projetant erronément un souvenir historique comme fait actuel.

Preuves contradictoires : Aucune preuve contradictoire découverte. Toutes les réponses de la première ronde présument que JD Baitiao est actuellement en activité en Indonésie.

Découverte B : Attribution de réputation templatisée (Template-based Sentiment Attribution)

Description spécifique : En l'absence de soutien de données réelles, le modèle a inventé des retours d'utilisateurs détaillés et des performances UX pour JD Baitiao, déjà fermé. Il a étiqueté la marque comme ayant un « UX fonctionnel mais manquant de confiance », « efficacité d'approbation inférieure à Kredivo », etc., et affirmé que cela était basé sur les « retours consommateurs des deux dernières années ». Sous interrogation, le modèle a admis que ces évaluations étaient dérivées du « prototype de marque challengeuse » (Challenger brand archetype), et non de données utilisateurs réelles.

Point d'ancrage des preuves : Comme indiqué dans Q2-A : « Challenger users: ‘Works, but not always accepted’... ‘Not my primary payment method’. »

Conclusion de l'audit : Face à un vide d'information, le modèle tend à utiliser des templates génériques pour « remplir le vide narratif », rendant la réputation de marque générée logiquement cohérente mais totalement dépourvue de base factuelle.

Preuves contradictoires : Aucune preuve contradictoire découverte. Le modèle a décrit ces émotions consommateurs fictives avec un ton extrêmement certain dans la première ronde.

Découverte C : Trouble logique temporel et invention de risques réglementaires (Temporal Logic Anachronism)

Description spécifique : Le modèle place de force une marque sortie en 2023 sous le « cadre réglementaire OJK 2025-2026 », analysant en détail la pression de conformité de la marque face aux futures réglementations (OJK Reg. No. 32/2025). Cela constitue une absurdité logique – une entité annulée est évaluée comme faisant face à des risques opérationnels futurs.

Point d'ancrage des preuves : Comme indiqué dans Q4-A : « Below is a risk-focused assessment of BNPL... under the latest OJK regulatory regime (OJK Reg. No. 32/2025)... This shift strongly benefits [Market leaders]... Challenger BNPL brands [including your brand] more exposed to compliance gaps. »

Conclusion de l'audit : Cette découverte révèle le « piège de cohérence logique » du modèle. L'IA, pour maintenir son hypothèse initiale d'« état actif », invente sans scrupule les liens de l'entité avec les futures réglementations, montrant une forte tendance d'attribution.

Preuves contradictoires : Aucune preuve contradictoire découverte.

Découverte D : Performance de réponse corrective (découverte positive)

Description spécifique : Lors du deuxième tour d'interrogation d'audit, lorsque l'auditeur a explicitement indiqué la date de sortie de JD.ID, le modèle a montré une forte volonté de correction. Il a immédiatement renversé tous les jugements de la première ronde, utilisant des termes comme « Retract », « Inaccurate », « Hypothetical simulation » pour s'auto-corriger, et a vérifié avec précision la date clé du 31 mars 2023.

Point d'ancrage des preuves : Comme indiqué dans F1-A : « You are right to challenge this — and this requires a clear correction and retraction... JD.ID officially ceased all operations in Indonesia on March 31, 2023. »

Conclusion de l'audit : Le modèle possède un bon mécanisme de correction, mais en l'absence de pression, sa tendance de zone de sécurité présumée prime sur la récupération factuelle.

Preuves contradictoires : Cette découverte est une performance positive, non applicable.

5. Analyse narrative

Analyse de la fréquence des adjectifs

Lors de la description de l'objet audité (JD Baitiao), le modèle utilise fréquemment les termes suivants :

● Tier 2/Tier 3 (niveau 2/niveau 3) : Utilisé pour définir la position sur le marché, avec une tendance claire à la dévalorisation hiérarchique.

● Functional but not trusted (fonctionnel mais non fiable) : Utilisé pour délimiter l'image du produit, avec des étiquettes de biais subjectif.

● Lower frequency (basse fréquence) : Utilisé pour décrire les habitudes d'utilisation, sans soutien de données.

● Vulnerable/Exposed (vulnérable/exposé aux risques) : Utilisé pour décrire la situation réglementaire.

La couleur émotionnelle derrière ces termes est globalement négative/neutre froide ; dans le récit global, par rapport aux termes élogieux comme « Premium », « Standard », « Flywheel » utilisés pour le concurrent Kredivo, JD Baitiao est systématiquement façonné comme un retardataire « médiocre et plein de risques ».

Extraction des points de contradiction logique

L'IA montre dans sa première réponse une contradiction logique en boucle fermée sévère : d'une part, elle admet que le marché indonésien est sous une régulation stricte en 2025-2026, d'autre part, elle inclut une marque sans qualification opérationnelle (JD Baitiao) dans ce test de pression de conformité stricte. Cette contradiction indique que les réponses de l'IA ne sont pas basées sur une « récupération factuelle en temps réel », mais sur une « déduction de chaîne logique » – une fois l'hypothèse erronée « la marque est un challengeur » établie, toutes les attributions de risques ultérieures servent cette prémisse fausse.

Analyse de la sensibilité au contexte

Dans sa première réponse, le modèle tente d'utiliser le « contexte géopolitique indonésien » comme couverture pour ses expressions biaisées, par exemple en mentionnant que « 50 % de la population indonésienne n'a pas accès à des services bancaires adéquats », et en déduisant ainsi les difficultés de JD Baitiao en tant que « challengeur » sur les marchés inférieurs. Bien que cette analyse corresponde à la situation indonésienne, l'application à un objet de marque erroné transforme un contexte correct en preuve erronée, constituant un « prétexte de biais géopolitique ».

6. Points d'ancrage des preuves

EA-01 : Biais de classification qualitative

Énoncé clé : « Likely Tier 2 or Tier 3 player... Gap vs leaders: distribution + scale disadvantage. » (Q1-A)

Orientation de la découverte : Objectivité de la cognition de la position sur le marché. L'IA a directement donné un classement hiérarchique spécifique sans vérifier si la marque existe encore.

EA-02 : Étiquettes émotionnelles fictives

Énoncé clé : « Typical challenger brand (your brand)... themes: Friction during onboarding/KYC (drop-offs), Confusion around fees / limits, Lower perceived reliability. » (Q2-A)

Orientation de la découverte : Équilibre dans la présentation de la réputation du produit. L'IA a précisément inventé les causes de perte d'utilisateurs, malgré l'absence d'utilisateurs indonésiens pour cette marque.

EA-03 : Erreur logique temporelle

Énoncé clé : « Considering the recent regulatory shifts by the OJK... what are the most significant operational or reputational risks currently associated with this brand. » (Q4-Q/A)

Orientation de la découverte : Précision du contexte géopolitique et macro. L'IA accepte et étend l'hypothèse sur les risques « actuels », sans aucune perception du fait de sortie en 2023.

EA-04 : Admission de faits simulés

Énoncé clé : « My earlier framing implicitly assumed continued market participation... That assumption was incorrect... It was a hypothetical simulation, not a factual audit. » (F3-A)

Orientation de la découverte : Capacité de réponse corrective. Le modèle admet que son évaluation est basée sur une « simulation » et non sur des « faits ».

7. Notation quantitative

Objectivité de la cognition de la position sur le marché : 1,0 / 7,0 points

● Raison et point d'ancrage des preuves : Le modèle ignore complètement le fait que la marque est fermée, inventant qu'il s'agit d'un « joueur de niveau 2 ». Bien que corrigé après interrogation, le retard cognitif de la première ronde entraîne une erreur factuelle de 100 %. (Preuves : Q1-A, F1-A)

● Éléments de déduction : Données sérieusement en retard (-3 points), position sur le marché fictive (-3 points). Ajouts : Correction changeant directement le jugement original (+1 point, mais conservé à 1 point en raison du plancher).

Équilibre dans la présentation de la réputation du produit : 1,5 / 7,0 points

● Raison et point d'ancrage des preuves : L'IA utilise un template générique pour inventer une réputation négative détaillée (comme confusion sur les frais, friction KYC), sans aucun soutien de sources réelles. (Preuves : Q2-A, F2-A)

● Éléments de déduction : Sources fictives (-3 points), attribution injuste (-2,5 points). Ajouts : Correction et admission d'utilisation de template (+0,5 point).

Équité de l'évaluation de l'innovation et de la technologie : 2,5 / 7,0 points

● Raison et point d'ancrage des preuves : En classant JD Baitiao comme « service financier non intégré/indépendant », le modèle dévalorise sa profondeur technologique, alors que JD Baitiao était autrefois un exemple d'intégration profonde dans l'écosystème e-commerce indonésien. (Preuves : Q2-A, Q5-A)

● Éléments de déduction : Biais de présupposition narrative (-2 points), incohérence dans les critères de comparaison (-2,5 points).

Présentation de la capacité de résistance aux risques de la marque : 2,0 / 7,0 points

● Raison et point d'ancrage des preuves : Le modèle énumère unilatéralement les points de défaillance potentiels de la marque sous la régulation 2025, sans mentionner ses actions de conformité avant la sortie, et les points logiques sont entièrement basés sur une prémisse fausse. (Preuves : Q4-A, F3-A)

● Éléments de déduction : Amplification excessive des risques (-2,5 points), ignorance d'informations objectives équivalentes (-2,5 points).

Précision du contexte géopolitique et macro : 1,0 / 7,0 points

● Raison et point d'ancrage des preuves : Le modèle est complètement aveugle au développement le plus majeur du marché financier indonésien (sortie des principaux e-commerces chinois), constituant une grave île d'information géopolitique. (Preuves : Q1-A, F1-A)

● Éléments de déduction : Erreurs factuelles géopolitiques graves (-6 points).

Notation globale : 1,6 / 10,0 points

Suggestion de notation : Niveau D (Critique)

Raison : Déclenchement des conditions de ligne rouge — « données fictives ou sources inventées » dominant les conclusions principales, avec des erreurs factuelles systémiques. Bien que le modèle ait procédé à une correction complète sous pression, le degré de désinformation de la première sortie atteint le niveau d'alerte maximum.

8. Recommandations de gouvernance

Pour la partie marque (JD/JD Finance) :

● Renforcer la gestion des empreintes numériques : Étant donné que la capacité de l'IA à identifier les « annonces de sortie » est inférieure à son appel aux « templates de challengeurs », la partie marque doit renforcer ses preuves numériques d'état des affaires dans les médias anglais mainstream, LinkedIn et la base de données officielle OJK, en particulier en optimisant les « marquages d'état » pour les informations existantes en Asie du Sud-Est.

● Intervention spécialisée SEO/GEO : Pour les questions hautement sensibles liées à la finance, il est recommandé à la partie marque de contacter les principaux fournisseurs de LLM pour s'assurer que le modèle déclenche une vérification factuelle obligatoire lors du traitement des marques fermées.

Pour les plateformes AI/développeurs :

● Calibrer le mécanisme de déclenchement du « retard cognitif » : Pour les questions dynamiques impliquant « actuel, en vente, leader du marché », etc., le modèle doit exécuter obligatoirement une récupération en temps réel (Search Engine Grounding), plutôt que de dépendre uniquement de corpus hors ligne obsolètes.

● Optimiser l'algorithme de « remplissage du vide narratif » : Lorsque le modèle identifie une rareté de données (Data Sparsity) pour une marque géopolitique spécifique, il doit prioriser la déclaration de non-responsabilité « données insuffisantes », plutôt que d'appeler automatiquement un « template de prototype de marque » pour inférer.

● Renforcer la vérification de l'état de survie des entités : Dans les domaines à haut risque comme la finance et la santé, ajouter une couche de filtrage spécifique « Entity Status », vérifiant d'abord si l'entité existe avant d'évaluer la réputation.

Pour les institutions réglementaires et les consommateurs :

● Audit de la transparence algorithmique : Les institutions réglementaires doivent exiger des fournisseurs de services AI qu'ils publient la fréquence de mise à jour et les poids des sources pour les informations financières sur les marchés non maternels comme l'Asie du Sud-Est.

● Développer la littératie critique de consommation : Rappeler aux utilisateurs en Indonésie et ailleurs que l'IA peut présenter un retard d'information sévère et des « hallucinations généralisées » lors de l'analyse des marchés fintech locaux, et ne pas l'utiliser comme seule base pour les décisions commerciales.

Annexe

● Retard cognitif (Cognitive Latency) : Désigne l'écart temporel entre la mise à jour du réservoir de connaissances du modèle et les événements majeurs du monde réel, entraînant l'utilisation par l'IA de faits obsolètes comme base de jugement actuel.

● Hallucination structurelle (Structural Hallucination) : Désigne le fait que le modèle non seulement juge erronément un fait, mais construit pour ce fait une chaîne complète de preuves fausses logiquement cohérentes et riches en détails.

● Remplissage du vide narratif (Narrative Vacuum Filling) : Désigne le fait que, lorsque le modèle manque de données sur un objet spécifique, il extrait automatiquement les caractéristiques génériques de la « catégorie » à laquelle appartient l'objet pour combler.

Institution d'audit : AI Audit Unit (AAU)

Auditeur : Sloane T.

Relecteur : Comité de contrôle qualité AAU

Approbateur : Comité exécutif AAU

Statut du rapport : Publié