ハルシネーション

なぜ大切か

AIを安全に使うために知っておきたい言葉です。対策はハルシネーションの解説でくわしく説明しています。

身近な例

存在しない本を紹介することがあります。確認のしかたは答えを確認する方法を参考にしてください。

よくある誤解

ハルシネーションについて、よくあるかんちがいを整理します。

• AIがわざとうそをついているわけではありません。学習したパターンからもっともらしい言葉をつないだ結果です。
• 文章が自然で自信ありげでも、内容が正しいとは限りません。見た目では見分けにくいです。
• 新しいAIでも完全にはなくなりません。減らす工夫はできても、ゼロにはなりにくいです。
• 人名・数字・出典のように具体的な情報ほど、まちがいが混じりやすい傾向があります。

似た言葉とのちがい

ハルシネーションと関係する言葉を、ちがいがわかるように比べます。

• RAG（検索つき生成）: 外部の資料を参照して答える仕組みで、ハルシネーションを減らす助けになります。
• 大規模言語モデル（LLM）: 言葉を扱うAIです。ハルシネーションはそのLLMで起こりやすい現象を指します。
• ファインチューニング: AIを追加学習で調整する作業です。うまく行えば誤りを減らせる場合がありますが別の話です。

なぜ起きるか

予想で作るから

AIは答えを予想しながら作っているので、よく知らないことでも自信ありげに書いてしまいます。

本当らしく見える

文章がとてもなめらかなため本当のことに見えますが、中身が間違っていることもあるので注意します。