あなたが店員に「この赤いバッグ、別の店舗にまだありますか？」と聞いたとします。
店員はパソコンも見ず、電話もせず、「あります。最後の1個です」と自然に答えます。
わざわざ別店舗へ行ったら、実は3か月前に完売していました。
問題は「知らなかった」ことだけではありません。
知らないのに、とても自信があるように答えたことです。
これは AI Hallucination（AIの幻覚） を理解する良いたとえです。
自然な文章だからといって、確認済みとは限らない
生成AI（Generative AI）は、前の内容に続きそうな自然な文章を作るのが得意です。
だから読みやすく、便利です。
でも同時に、詳しくて自然で自信のある文章でも、事実として間違っている可能性があります。
存在しない論文を聞くと、それらしいタイトルや著者、年を作ってしまうことがあります。
まず覚えてほしいのはこれです。
自信のある言い方と、事実として正しいことは別。
なぜ「わかりません」と言わないの？
大型言語モデル（Large Language Model, LLM）は、文脈（Context）から次に続きそうな内容を生成する仕組みです。
毎回すべての文章を信頼できるデータベースと照合してから話す仕組みとは限りません。
情報が足りないときでも、「正解らしい形」の文章を作れることがあります。
何を特に確認した方がいい？
次のような情報は、もう一度確認する習慣を持つと安心です。
- 医療・薬
- 金融・投資・税金
- 法律
- 日付・価格・最新情報
- 正確な統計数字
- 論文・ニュース・URL・引用
- 重要な判断に使う情報
AIが役に立たないという意味ではありません。間違えたときの影響が大きいから確認するのです。
「出典を付けて」と言えば安全？
必ずしも安全ではありません。
間違った情報を作れるモデルは、存在しない出典らしいものを作る可能性もあります。
リンクが開くか、実際にその内容が書かれているか、日付が合っているかを確認しましょう。
検索ツールや信頼できるデータベースを使えるAIなら精度を高めやすいですが、「検索して見つけた情報」と「モデルが生成した文章」を区別する習慣は大切です。
AIを怖がる必要はない
Hallucinationを知る目的は、AIを使わないようにすることではありません。
ネット通販の写真には色の差があると知っているから、大切な服を買うときは実物写真やサイズを追加で確認します。
それと同じです。
今日覚えることは一つだけ
AI Hallucinationとは、モデルが間違った・誤解を招く内容を、自然で説得力のある文章として生成してしまうこと。
ここまでで、AI、モデル、学習、Token、Prompt、Hallucinationという最初の地図ができました。