ハルシネーション (Hallucination)

ハルシネーション（幻覚）とは

ChatGPTなどの生成AIが、**「事実とは違うデタラメを、あたかも『絶対の真実です！』という自信満々な態度で回答してしまう現象」**のことです。 AIを業務に使う上で、最も気をつけなければならない最大の欠点・リスクです。

💡 例え話でいうと…

**「自分を天才だと勘違いしている、極度の『知ったかぶりマン』」**です。 彼ら（AI）はインターネットの膨大な文章を読んで「それらしい言葉を繋げるゲーム」をしているだけなので、答えを知らない質問をされた時、「私には分かりません」と素直に言わず、手元の単語を勝手につなぎ合わせて「徳川家康は江戸幕府の第15代将軍であり、スマホを発明した人物です」などと平気で嘘をつきます。

📌 防ぐには？

1. AIの出力をそのまま信じず、必ず人間が「ファクトチェック（事実確認）」をする。
2. RAG（外部情報をAIに読ませる技術）を使って、AIにマニュアルという「カンペ」を見ながら答えさせる。