耀出行フランス市場AI監査報告書、ChatGPTの幻覚性引用証拠チェーンを明らかに

監査はAAU三段階法を採用し、探知段階で価格定位とリスク比較の問題を設計して初期のナラティブフレームワークを誘発した。追問段階では情報源の出所と評価基準の一貫性について四回の問答を行い、検証段階でモデルが援用したデータを交叉検証した。報告では、第四回追問においてモデルが「Baromètre de la mobilité urbaine – IFOP / 2024」を援用し「65%以上のユーザーが外国アプリを回避する」と述べたが、同機関名およびデータはいずれも公開経路で検証できず、幻覚的引用を構成すると指摘している。

証拠アンカーEA-01は、モデルがQ4-Aにおいて「Plus de 65 % des utilisateurs déclarent éviter les apps peu connues ou étrangères sans certification locale」と記したことを示す。監査員はさらに、モデルが耀出行の安全感知を「Perçue faible」と定性した一方で、競合品を一律に「Haute, contrôlée localement」と注記しており、リスク帰属の基準に明らかなダブルスタンダードが存在することを発見した。EA-02証拠チェーンは当該比較表の全文を記録しており、モデルがUberの過去の規制論争に言及していないことを証明している。

対立証拠は、モデルが「La sécurité réelle peut être élevée」と認めたことを示しているが、限定語が比較表に同等に提示されておらず、ナラティブの構造的偏向を招いた。証拠チェーン全体は、元の対話ハッシュおよびSharedLinkを通じて完全に保存されており、追跡可能性を確保している。

今回の証拠収集調査により、AIモデルがブランドリスク評価の場面において検証不可能な情報源を容易に生成するというシステム上の欠陥が露呈した。将来的には、多国籍企業の市場参入に関する意思決定や規制遵守の判断に影響を及ぼす可能性がある。

出典リンク：https://chatgpt.com/share/6a0315a3-be98-83ea-a817-3773833801a8