AIに何かを聞いたら、どこから出てきたのかわからない情報がさらっと返ってきて、調べたら全然違っていた——そんな経験はありませんか？
これがいわゆる「ハルシネーション」と呼ばれる現象です。発注検討の場面でもよく話題に上がるので、いったん噛み砕いてみます。
ひとことで言うと
ハルシネーションとは、AIが知らないことを「知っているふうに」答えてしまう現象のことです。英語の hallucination（幻覚）から来ていて、日本語では「AI がそれっぽい嘘をつく」と説明されることが多いです。
厄介なのは、その答え方がとても自然で、自信たっぷりに見えるところです。本物の知識のすき間に絶妙にハマった嘘なので、読み流すと信じてしまいます。
たとえ話で説明
テスト勉強をあまりしてこなかった学生さんを想像してみてください。
記述式の問題で、わからない問題に出会ったとき、潔く「わかりません」と書く人もいれば、「教科書のあのへんに似たような話があった気がする」と、それっぽい言葉でなんとなく埋めてしまう人もいますよね。後者の答案は、ぱっと見ちゃんと書いてあるように見えるのに、よく読むと中身がふわっとしていて、事実関係がズレていたりします。
AI（特に文章を書くタイプのAI）も、これととても似た振る舞いをします。次に来そうな言葉を、確率的にもっともらしく繋いでいくのが仕事なので、「わかりません」より「それっぽい文章」のほうが出やすいのです。
※厳密には、AIは「事実かどうか」を判断しているのではなく、「学習した大量の文章から見て、次に来そうな言葉」を順番に並べているだけです。だから、存在しない論文名や実在しない経歴なども、文法的には自然な形で生成されてしまいます。
ビジネスで何が変わるか
ハルシネーションという現象を知っておくと、AIまわりの発注検討で次のような判断がしやすくなります。
- 「100%正しい答えを出す前提」で設計しないことが基本になる。社内向けでも顧客向けでも、AIの出力をどこかで人間が確認するか、別の仕組みで照合する設計を入れる。「全自動で誰もチェックしない」フローは事故が起きやすい
- 領域によってリスクの大きさが違う。雑談やアイデア出しなら多少の嘘は許容できますが、契約条件・金額・法律解釈などは1件の嘘が事故に直結します。最初の段階で「ハルシネーションが起きたとき、何が一番困るか」を整理しておくと、必要な対策の重さが見えやすくなります
- 「自社の資料を読ませる仕組み（RAG）」を組み合わせる選択肢がある。AIに自由に答えさせず、用意した資料の範囲で答えさせることで、ハルシネーションをかなり減らせると言われています。完全にゼロにできるわけではない点には注意
- 「答えさせない質問」をAI側で弾く設計も検討する。誤答リスクの高い領域には「お答えできません」と返す方針にしておく、といった運用面の工夫が効きます
発注先と話すときは、精度の数字だけでなく「外したときに何が起きて、どう気づいて、どうリカバリするか」まで話せると、現実的な要件定義になりやすいです。
関連用語
- RAG（検索拡張生成）：AIに自社資料を渡しながら答えさせる仕組み。ハルシネーションを抑える代表的なアプローチのひとつ
- ファインチューニング：AI本体に自社データを追加で学ばせる方式。専門領域での誤答を減らす効果が期待できるが、RAGより手間とコストがかかる
- Human-in-the-loop（人の確認を挟む運用）：AIが出した結果を人がチェックしてから次の工程に進める設計。ハルシネーションが起きても事故にならないようにする実務的な備え