AIの間違い（ハルシネーション）

どんな現象か

存在しない本や、まちがった数字を、自信ありげに答えることがあります。これは仕組み上どうしても起きます。背景は大規模言語モデルの説明が参考になります。

見分け方と対策

「出典は」と聞く、複数の情報源で確かめる、最新情報は公式で見る、が基本です。確認の流れは答えを確認する方法にまとめています。

なぜ起きるのか

ハルシネーションとは、本当はないことを、あるかのように自信たっぷりに答えてしまう現象です。言葉のつながりが自然なので、読んでいる側は正しいと感じやすく、気づきにくいのがやっかいな点です。知らないことでも空白をうめるように答えてしまうため、こうしたまちがいが生まれます。次のような場面で起きやすいと覚えておきましょう。

• あまり知られていないことを聞いたとき
• 細かい数字や日付をたずねたとき
• 実在しない本や人物の名前が出るとき
• あいまいで答えにくい質問のとき
• 新しすぎる出来事を聞いたとき

見分けて防ぐコツ

まちがいを完全に防ぐことはできませんが、見分け方を知っておけば被害は小さくできます。大事なのは、言いきっている答えほど一度立ち止まって確かめることです。次の順番で進めると、もっともらしいまちがいに引っかかりにくくなります。

1. 答えの中の事実や数字に印をつける
2. その部分を別の方法で調べ直す
3. 出典や根拠があるかをたずねてみる
4. 少しずつ質問を具体的にして聞き直す
5. 大事な内容は公式サイトで最終確認する

落ち着いて見分けるコツ

もっともらしい答えほど、いったん立ち止まって確かめることが大切です。次の点を意識しましょう。

• 具体的な出典があるか尋ねる
• 数字や固有名詞をとくに疑う
• 最新の話題は公式情報で確認する
• ほかの情報源とも照らし合わせる

もっともらしい間違いの正体

作り話に見えにくい

ハルシネーションとは、AIが事実でないことを自信たっぷりに答えてしまう現象です。文章が自然なため、間違いと気づきにくいのが特徴です。

確かめて防ぐ

あやしいと感じたら、出典や具体名を尋ねてみましょう。元の情報をたどれないときは、別の資料で確かめるのが安全です。

次のステップとして、ChatGPTの答えの正確さもおすすめです。