リスク ・ 約7分
AIの間違いをどう見抜くか｜ハルシネーション対策
AIは事実でないことを自信を持って書きます。数値・固有名詞・法令・出典は特に危険です。業務で誤りを混入させないための確認手順を、具体的なチェック項目として示します。
まず結論
数値・固有名詞・法令・日付・出典。この5つが危険です
AIは事実でないことを自信を持って書きます。特に危険なのは数値・固有名詞・法令の条文番号・日付・出典の5つ。この5つを確認する習慣を作れば、業務での事故はほぼ防げます。確認の手間を含めても、ゼロから書くより速くなります。
誤りが混ざりやすい5項目
| 項目 | 典型的な誤り |
|---|---|
| 数値 | 市場規模、売上高、統計値が実際と違う |
| 固有名詞 | 存在しない企業名、製品名、人名 |
| 法令 | 条文番号が違う、存在しない条文 |
| 日付 | 施行日、改正日が違う |
| 出典 | 実在しない調査レポート・書籍・判例 |
最も危険なのは出典です。 「〇〇総研の調査によると」という形で、実在しないレポートが引用されることがあります。出典が示されている情報ほど信用しやすいため、被害が大きくなります。
なぜ間違えるのか
AIは「もっともらしい文章を生成する」仕組みです。事実を検索して答えているわけではないため、事実の裏づけがない内容も自然な文体で出力されます。
「知らない」と答えるより、それらしい答えを作るほうが自然な文章になるためです。
確認の手順
- 出力から数値・固有名詞・法令・日付・出典を抜き出す
- それぞれを一次資料で確認する
- 確認できないものは削除する
- 「確認済み」の状態で提出する
確認を減らす使い方
- 事実を自分で用意して、文章化だけ任せる — 最も安全
- 「知らないことは書かないで」と指示する — 完全ではないが効果あり
- 出典を必ず示させる — 確認しやすくなる
成果物の責任は誰にあるか、管理職の確認は成果物の確認方法、リテラシーはAIリテラシーをご覧ください。
AI研修のご相談。対象者・業種・使うツールに合わせたカリキュラムと概算費用、助成金で最大75%OFFにできるかまで無料でお出しします。 無料相談はこちら →
よくある質問
この記事に関するよくある質問
AIはなぜ間違った情報を出すのですか？
もっともらしい文章を生成する仕組みのため、事実の裏づけがない内容も自然な文体で出力されます。
どこを重点的に確認すべきですか？
数値、固有名詞、法令の条文番号、日付、出典です。この5つは誤りが混ざりやすい領域です。
確認の手間で結局遅くなりませんか？
ゼロから書く工程が消えるため、確認を含めても短縮されます。確認を省くと事故になります。
まずは「うちの場合いくら・何を学ぶ?」を無料で。
対象者・人数・使いたいAIツールをうかがい、最適なカリキュラムと概算費用、助成金で最大75%OFFにできるかまで無料でお出しします。しつこい営業はしません。