世界的なコンサルティング会社KPMGが公開したAIレポートの中に、実在しないAI活用事例が複数含まれていたことが明らかになりました。

その報告書には、スイスの金融大手UBSやスイス連邦鉄道、ロンドン交通局などがAIエージェントを活用し、投資助言や交通管理、移動計画の最適化を実現していると紹介されていました。

ところが、英フィナンシャル・タイムズが各組織に確認したところ、UBSは「事実として誤り」、スイス連邦鉄道は「正確ではない」、ロンドン交通局は「誤解を招く内容」と回答。

つまり、KPMGがAI活用の成功例として挙げていた事例の一部には、事実確認できないものが含まれていたのです。
人から人へ、AIからAIへと広がる誤情報

他にも、英国の医療機関がAIエージェントを使って患者のトリアージや再入院リスクの予測、医療業務の最適化を行っているという記述もありました。

しかし調査によると、その根拠として引用されていた資料は肺がん対策向けのAIツールに関するプレスリリースを誤って解釈した結果だった可能性が高く、このようなAIエージェントの運用実績は書かれていなかったそうです。

AIが生み出した誤情報が記事やレポートに入り込み、それを別のAIや人間が引用することで新たな誤情報が増殖していく。こうした現象は「二次的ハルシネーション」と呼ばれています。

KPMGは問題を指摘され、報告書を自社サイトから削除しましたが、その時点で業界メディアやチェコの主要新聞によって引用されていたことが確認されています。
https://www.gizmodo.jp/article/a-report-full-of-hallucinations/