AIの同じミスは、種類を4つに分けてから直す場所を選ぶと教える

指示を足しても直らない理由

指示は、AIに伝える言葉の一部にすぎません。ミスの原因が指示の外にあると、いくら書き足しても効きません。

たとえば、AIに消してはいけないファイルを消す権限がある場合です。「消さないで」と書いても、消せる状態は残ります。この場合は、権限そのものを直します。

受講者には、まず「直す場所は指示のほかにもある」と知ってもらいます。ここが分かると、残りの話が早くなります。

研修で教える理由

研修が終わったあと、受講者は自分の職場でAIを使います。ミスが起きたとき、そばに講師はいません。

種類を分ける考え方を身につけていれば、受講者は自分で直す場所を選べます。新しいAIのツールを使うときも、同じ考え方が使えます。

種類を分けずに指示だけを足すと、直ったように見えても、同じミスが戻ってきます。この遠回りを、研修の中で先に体験してもらいます。

ミスの4つの種類

同じ種類のミスを繰り返すとき、見直す場所はミスの種類で決まります。研修では次の表を配ります。

隔離とは、AIが触れる場所を、頼んだ範囲だけに区切ることです。たとえば、作業用の別の場所で動かします。

弊社の運用で見る権限

権限の直し方は、弊社の運用がそのまま例になります。弊社のAIは、設定で下書きの作成と閲覧しかできないようにしてあり、投稿のボタンは人が押します。

これが、権限を直すという意味です。文章で禁じるのではなく、そもそもできない状態にします。

研修の進め方

座学で表を読ませるだけでは、身につきません。実際のミスの記録を使い、受講者に自分で分けさせます。

1. 受講者がAIに頼んで起きたミスを、1つ書き出してもらう
2. 「何が起きたか」を、事実だけで1文にまとめる
3. 表の4つの種類のうち、どれに当たるかを選ぶ
4. 選んだ理由を、隣の人に説明する
5. 種類に合う場所を直す案を、1つ書く
6. 直したあと、同じミスが起きないかを確かめる方法も書く

3番で意見が割れたら、そのまま残します。割れた理由を話すことが、いちばんの学びになります。

つまずきやすい点

最初に多いのは、どの種類も「指示を直す」で片づけてしまうことです。指示を直す案が出たら、「指示だけで防げるか」と問い返します。

危険な操作の場合、指示は守られないことがあります。権限を外すほうが、確実です。

次に多いのは、誤りを成功と判断した場合の取り違えです。AIが間違った答えを出したことと、間違いに気づけなかったことは、別の問題です。後者は、確認の基準を直す話になります。基準を決めるのは人です。

範囲の外まで影響した場合は、頼み方が悪かったと受け止めがちです。しかし、頼み方が完全でも、触れる場所が広ければ起きます。隔離を直す話だと、順を追って示します。

練習問題の作り方

練習には、受講者の仕事に近い例を使います。1つの問題に1つの種類だけが当てはまるようにします。

• 前提の問題
  • 社内の規程を知らないまま、AIが書類を作った
• 確認の基準の問題
  • 数字の欄が空のまま、AIが完成と報告した
• 権限の問題
  • 古いデータを消す操作を、AIが確認なしで実行した
• 隔離の問題
  • 1つの資料を直すはずが、別の資料も書き換わった

慣れてきたら、種類が2つ重なる例も出します。その場合は、重なった種類の数だけ、直す場所があります。

AIに守りを任せる考え方は、AIを任せるときの守りを3つの段階に分けて教える（新しいタブで開きます）にもまとめています。実行の前に止めるか、あとで確かめるかの分け方は、実行のあとで確かめる場合と、実行の前に止める場合（新しいタブで開きます）で説明しています。

次の一手

自社の研修で、この進め方を見てみたい方は、Qu の無料の実演デモから見られます。法人向けの研修は、まずこのデモで、ミスの種類を分ける流れを確かめてください。

デモのあとで、自分の仕事で起きそうなミスを1つ選び、種類と直す場所を並べたメモを書いてみてください。直す場所を選ぶのは、ミスの種類を分けたあとです。