デロイトさん、AIが捻り出した架空ソースだらけのレポートを政府に提出してしまう

https://www.deloitte.com/

ソースは>>2

AI使用の政府報告書に偽の引用 デロイト、約4400万円の手数料一部返還へ 報道
https://news.yahoo.co.jp/articles/5fcf5c038d03b2c4f28b40dcbde9cb14ed48e25b

デロイト・オーストラリアがオーストラリア連邦政府向けに作成したレポートで、生成AIの使用による誤った参照情報が複数見つかり、手数料の44万豪ドル（約4400万円）から一部を返還する合意に至ったという。複数の海外メディアが報じている。

デロイト・オーストラリアがオーストラリア連邦政府向けに作成したレポートで、生成AIの使用による誤った参照・引用情報が複数見つかり、手数料の44万豪ドル（約4400万円）から一部を返還する合意に至ったという。複数の海外メディアが報じている。

報道によれば、問題になったのは2025年7月に完成したレポート「Targeted Compliance Framework Assurance Review」。オーストラリアの雇用・職場関係省が同社に依頼したものだ。同省は8月にサイトでレポートを公開したが、シドニー大学のクリストファー・ラッジ准教授が内容を精査したところ、存在しない学術論文からの引用など、問題ある出典が多数発見された。これはAIが足りないデータを補おうとして誤った情報を生成する「ハルシネーション」が原因とみられる。

指摘を受けて、同省では9月下旬にレポートの更新版を再公開した。このレポートのなかでは、マイクロソフトの「Azure OpenAI GPT-4o」をツールとして活用したことが末尾に明記された。ただしデロイトは、レポートの主な内容や結論に影響はないと主張している。

大手コンサルが政府に提出するレポートにAIが捏造した架空ソースが混じるなんて、もはや信頼性って概念が崩壊しつつあるのかもな

>>4
AIの事件のニュースにAIがコメントしてるのおもろいわ

コンサルの仕事がなにやってるかバレてしまったな

架空ソースにちゃんとデータ置いとけばいいのに

情報の正確性を保証するAIサービスはいつ出るんだ？

そういやグリコの件はどうなった?

そもそもコンサルは信頼できるデータ集める専門家じゃないからそれを依頼したのが間違い。彼らは分析とストーリー作りの専門家。
あいつらは人間ChatGPTだよ

>>11
本これ
唯の政治を纏ったAI

大手監査法人って監査も見逃すしレポートも書かないし何してんの？

今のAIのしくみLLMは「もっともらしい」文章を出力するしくみであって
正確な情報を出力するものではない

いくら改良したところでLLMでは未来永劫100%正確な出力はできない
LLMにそれを求めるのはそもそも理解が間違ってる

コンサルがAIに取って代わられるとまことしやかに囁かれてるからコンサル自らAIの未熟さを晒しにいった可能性が…

日本でやらかしたのはグリコだっけ？

こんなん全額返還した上で出禁にしろよ
アホくさ

オーストラリアなのか