AIの理由づけを信じてよいかは、確かめられる形かで見分けると研修で教える

理由が付くと安心してしまう

AIに根拠を一緒に出させる使い方は、多くの人がすでにやっています。ただ、根拠をどう見せるかよりも、根拠の中身のほうが効きます。

とくに困るのは、弱い根拠が強い自信で言い切られる場面です。人はそれを見て、信じる度合いを実際より高くしてしまい、AIが自信ありげに話すほど確かめなくなります。

研修の最初に、この癖を受講者本人に気づかせます。理由が付いた答えを見て「安心した」と感じた瞬間が、確かめ始める合図です。

見分けるときに見る3つの点

人がAIの理由を信じるときに求めているものは、整理すると次の3行になります。研修ではこの表を1枚にして配ります。

3行のうち1つでも欠けたら、その答えはそのまま使いません。欠けた行を埋める質問をAIに返すか、人が元を調べます。

手順ごとに確かめる練習

手順を見る練習は、答えを一息に読ませないところから始めます。次の順で進めます。

1. AIに、答えまでの手順を番号つきで書かせる
2. 受講者は、1つ目の歩みだけを読む
3. その歩みが正しいかを、自分の知識か資料で確かめる
4. 正しければ次の歩みへ進み、違えばそこで止める
5. 止めた場所と理由を、1行で書き残す

全体を読んで「それらしい」と感じるのと、1歩ずつ確かめるのは違う作業です。研修では、この違いを体験させるために、わざと1か所だけ間違いを混ぜた答えを使います。最後まで気づけなかった人にも、どの歩みで見逃したかを一緒に振り返ります。

自信の度合いも一緒に答えさせる

AIに指示を出す文章をプロンプトと呼びます。プロンプトに一文足すだけで、自信の度合いを答えさせることができます。

答えの理由を手順で示してください。確かな部分と、確かでない部分を分けて、それぞれ理由を書いてください。

この一文があると、AIは「ここは資料にあるが、ここは推測である」と分けて返しやすくなります。受講者は、確かでないと言われた部分から先に確かめればよいので、作業が短くなります。

ここで教えておきたい注意が1つあります。AIが書く「確かです」も、AIの言い方にすぎません。自信の度合いは、確かめる順番を決める手がかりであって、確かめなくてよい理由にはなりません。この点は、AIの自信ある答えは、言い方と正しさを分けて研修で教える（新しいタブで開きます）でも扱っています。

根拠は元を開いて確かめる

根拠が付いた答えでは、大事な数字や決定に使う前に、元の資料を開く習慣を付けさせます。開いて、その数字や文が実際に書いてあるかを見ます。

研修では、確かめた結果を「書いてあった」「書いていなかった」「元が見つからなかった」の3つに分けて記録させます。書いていなかったものと、元が見つからなかったものは、使わずに上司へ相談する決まりです。

この記録を取ると、受講者自身が「どんな根拠が外れやすいか」に気づきます。確かめる力は、頼み方が上達しても自然には付かないので、確かめる回数も練習として数える扱いです。考え方の背景は、AIの答えを確かめる力は、指示の練習とは別に研修で練習させる（新しいタブで開きます）にまとめています。

研修の最後に残す1枚

研修の終わりに、受講者が自分の席に貼れる1枚を作らせます。書くのは、理由が付いていてもすぐには信じないこと、手順は1歩ずつ読み止まった場所を書くこと、根拠は元を開いて書いてあるかを見ること、確かでない部分から先に確かめることの4点で、それぞれ自分の言葉で書き込みます。

この4点は、受講者が自分の言葉に直したときに、いちばん長く残ります。講師が用意した文をそのまま貼らせないほうが、現場で思い出されやすくなります。

この練習を自社の題材で行いたいときは、弊社のQuの無料の実演デモから見られます。AIの理由を信じてよいかの見分け方は、どの職種でも同じ型で教えられます。