AIの答えを、そのまま信じてはいけない理由──「もっともらしい間違い」の話
AIに質問すると、すらすらと自信ありげな答えが返ってきます。文章も自然で、いかにも正しそうに見える。だから、そのまま信じたくなります。
でも、仕事で使う前に、一つだけ知っておいてほしいことがあります。AIは、もっともらしい間違いを言うことがある、ということです。これは「ハルシネーション」と呼ばれる、AIの持つ性質です。要するに、AIは事実と違うことを、さも本当のように答えてしまうことがあるのです。
厄介なのは、「間違いが正しそうに見える」こと
人が間違えるときは、自信のなさが言葉ににじむものです。「たしか〜だったと思う」「ちょっと曖昧だけど」。聞く側も、そこで気をつけることができます。
AIは違います。間違っているときも、正しいときと同じくらい、堂々とした自然な文章で答えます。文章の見た目からは、正しいか間違っているかの区別がつきません。ここが、AIの間違いの厄介なところです。
たとえば、こんな間違いが実際に起こりえます。
- 存在しない補助金や制度を、あたかも実在するように説明する
- 古い営業時間や、変更前の料金を答える
- 商品やサービスの説明に、事実と違う内容を混ぜる
- 会社の情報を、別の会社と取り違えて答える
- 法律っぽい説明を、根拠なく組み立てる
どれも、文章としては自然です。だからこそ、読んだだけでは気づけません。
怖がる必要はない。「確認する」だけでいい
こう聞くと、「やっぱりAIは仕事に使えないのでは」と思うかもしれません。そうではありません。
AIは、下書き、要約、アイデア出し、文章の整理といった作業では、十分に頼れる道具です。間違いが混ざる可能性があるからといって、この便利さを手放すのはもったいない。大事なのは、使い方の順番です。
つまり、AIに作らせて、人が確認してから使う。この一手間を挟むだけで、AIは安心して使える道具になります。
特に、次のような内容が絡むときは、確認を怠らないでください。
- お金や契約に関わること
- 法律や制度、補助金の情報
- 医療や健康に関わること
- 個人情報や、お客様への対応
こうした分野は、間違いがそのまま損害や信用問題につながります。AIの答えを起点にするのは構いませんが、最後の確認は必ず人がやる。ここだけは崩さないでください。
確認のしかたは、シンプルでいい
確認といっても、難しいことをする必要はありません。次の3つで十分です。
- AIの答えを、そのまま使わない（一度、自分の目で読む）
- 事実に関わる部分は、公式サイトや元の資料で確かめる
- お金・契約・法律など大事な判断は、専門家や担当者に確認する
言ってしまえば、「人から又聞きした話を、裏を取ってから使う」のと同じ感覚です。AIの答えは、よくできた又聞きだと思って付き合うと、ちょうどいい距離感になります。
なお、もっと具体的なハルシネーション対策については、後日、別の記事で詳しく書こうと思います。
まとめ
AIは、もっともらしい間違いを言うことがあります。でも、それはAIが使えないという話ではなく、最終確認は人がやる、という役割分担の話です。
AIに下ごしらえを任せて、人が確認して仕上げる。この付き合い方さえ身につけば、AIは間違いなく仕事の力になります。
AIの答えを仕事で使ってよいか迷ったら、お気軽にご相談ください。