AIがもっともらしく間違う理由

なぜ間違うのか

AIは自然な文章を作るのが得意で、事実を保証するわけではありません。くわしくはハルシネーションの解説を読んでください。

対策

出典を求め、公式情報で確かめるのが基本です。手順は答えを確認する方法にまとめています。

なぜAIは間違えるのか

AIは、わざとうそをついているわけではありません。たくさんの文章から「次に来そうな言葉」を選んで文を作っているため、事実かどうかより、それらしく続くことを優先してしまうことがあります。だから自信ありげに間違うのです。下のような場面で起きやすくなります。

• はっきりした答えがない質問に、無理に答えようとするとき
• 新しいできごとなど、知らない情報を聞かれたとき
• 細かい数字や名前、日付など、正確さが必要なとき
• あいまいな質問で、AIが意図を取りちがえたとき
• 実在しない本や引用を、それらしく作ってしまうとき

間違いを防ぐ使い方

AIが間違うことを前提にすれば、被害は大きく減らせます。大切なのは、答えをそのまま信じず、自分で確かめる習慣です。とくに数字や名前など、はっきりした事実が必要なときほど注意しましょう。次の手順を心がけると安心です。

1. 答えを読んだら、まず本当かどうかを疑ってみる
2. 大事な数字や名前は、別の信頼できる情報で確かめる
3. 「根拠は何か」と聞き、説明のつじつまを確認する
4. あいまいだった質問は、条件を足して聞き直す
5. 確証が持てない内容は、そのまま人に伝えない

もっともらしい誤り

自信と正しさは別

AIは自信ありげに話していても、中身が間違いのことがあります。話し方の調子だけで信じないようにしましょう。

出どころをたずねる

その答えのもとになった情報を、たずねてみましょう。根拠が弱いと感じたときは、とくに注意して見直すと安心です。

合わせて確認したいのが、ハルシネーションです。