AIを任せる守りは3段階に分けて、範囲から決める順で研修で教える

3つの段階を表で見る

研修の最初に、この表を受講者に見せ、「自分の仕事の守りは、今どの段階にあるか」を書き出してもらいます。多くの人は、お願いの段階だけで止まっていると気づきます。

お願いは最初の段階にすぎない

お願いとは、指示書に書く文章のことです。指示書とは、AIに読ませる決まりを書いた文書です。AIは書かれたことを読んで動きますが、その効き目は絶対ではありません。

そこで研修では、「気をつけて」のような言葉を確認できる形に直す練習をします。たとえば「金額は必ず2回計算する」と書けば、2回計算したかを後で見られます。見られないお願いは、守られたかどうかも分かりません。

機械的な確認は起きた後に調べる

2つ目は、できあがった結果を調べる段階です。誰がやっても同じ結果になる検査にします。たとえば、合計の金額が元の表と合っているかを調べる検査です。

研修では、受講者に自分の仕事で使える検査を1つ考えてもらいます。「ちゃんと見る」ではなく、合うか合わないかで答えが出る検査にします。

ただし、この段階は起きた後の仕事です。戻せる間違いなら、見つけてやり直させればすみます。戻せない間違いには、遅すぎます。

触れられない範囲を先に決める

3つ目は、そもそもAIが届かない場所を決める段階です。本番の仕組み、顧客のデータ、機密、個人情報は、AIの届かない場所に置きます。そこへ通じる道を作らないのが、いちばん確実です。

弊社の運用が一例です。AIのアカウントでできるのは下書きを作ることと読むことだけで、投稿のボタンは人が押します。この範囲は指示ではなく設定で決めています。

ファイルの削除や外への送信のように、起きてからでは遅いことは、実行する前に止める仕組みが要ります。確認と停止は別の仕事だと、研修ではっきり分けて教えます。

とくに危ないのは、危険が重なるときです。まず、機密のデータに触れられるか。次に、怪しい内容を読み込むか。最後に、外へ送れるか。この3つが同時に重なると、最も危険になります。任せる仕事を決めるときは、同時に起きない形にします。

研修は範囲から逆に進める

守りの段階は、お願い、確認、範囲の順に並べました。けれども、教えるときの順番は逆にします。

1. 受講者が任せたい仕事を1つ選ぶ
2. その仕事で、起きると困る間違いを書き出す
3. 書き出した間違いを、戻せるものと戻せないものに分ける
4. 戻せない間違いには、触れさせない設定を決める
5. 戻せる間違いには、機械的な確認を1つ決める
6. 最後に、お願いを1行か2行で書く

お願いから書き始めると、文章を整えることが目的になってしまいます。範囲から決めれば、お願いは短くてすみます。

何を人が決めておくかについては、会社のAIでやらないことは、4つに絞って研修で先に教える（新しいタブで開きます）も参考になります。

同じ失敗が続いたら仕組みを直す

AIが同じ失敗を繰り返すときは、AIを叱っても減りません。周りの仕組みを直します。失敗したら、二度と起きない形に検査か範囲を変えます。

これは人の仕事にも当てはまります。同じミスが続くときは、本人を責める前に、手順や確認の仕組みを見直す、という考え方です。研修では、これも受講者に持ち帰ってもらいます。

Qu の法人向け研修は、無料の実演デモから見られます。守りの3段階を、受講者の実際の仕事で組み立てる進め方も、デモで確かめられます。情報を入れる前の線引きについては、AIに入れてよい情報は、守るものを決めてから研修で教える（新しいタブで開きます）に書きました。