AIで作った業務アプリは、別の人が確かめる決まりから教える

なぜ別の人が見るのか

作った本人は、動くことを確かめたところで安心します。ボタンを押して画面が出れば、完成に見えるからです。

一方で、AIが作ったアプリには、動くのに安全ではない部分が残ることがあります。この安全面の弱いところが「脆弱性」です。悪意のある人や、操作を間違えた人に突かれて、情報が漏れたり、データがおかしくなったりする原因になります。

作った本人は、自分の作ったものの弱点に気づきにくいものです。別の人の目が入ると、気づく場所が増えます。研修では、この理由を最初に話します。決まりの理由が分かれば、現場は「面倒な手続き」とは受け取りません。

作る人が一言添える

確かめる前に、作る側でできることもあります。AIに依頼するときに「本番で使える水準で作ってください」と一言添えることです。これだけで、弱点は減ります。

ただし、ゼロにはなりません。研修では、この両方を同じ場面で伝えます。

• 一言添えると
  • 弱点は減る
• 添えても
  • 弱点は残る
  • だから別の人が確かめる

「添えたから大丈夫」と受け取られると、レビューが省かれます。減ることと、なくならないことを、必ず並べて教えます。

確かめる人が見る点

確かめる人は、専門家である必要はありません。見る点を決めた表があれば、社内の人でも始められます。研修では、次の表を配って、その場で使わせます。

表の右の列は、専門知識がなくても実行できる操作にしてあります。確かめる人に求めるのは、操作して、気づいたことを書くところまでです。

研修での練習の進め方

読むだけでは身につかないので、研修では、実際に確かめる練習をします。進め方は次のとおりです。

1. 参加者が、AIで小さな業務アプリを1つ作る
   • 例として、問い合わせの受付表や、備品の貸出表を使う
2. 作った人が、AIへの依頼文を確かめる人に渡す
   • 「本番で使える水準で」と添えたかも、このとき見せる
3. 確かめる人が、上の表で見る点を1つずつ調べる
   • 気づいたことは、そのまま文章で書く
4. 作った人が、指摘を受けて直す
   • 直す作業も、AIに頼んでよい
5. 直したあとに、確かめる人がもう一度見る

最後の「もう一度見る」を省かないことが大切です。直した部分が正しくても、別の場所に影響が出ていないかは、見ないと分からないからです。

確かめた記録を残す

レビューが済んだら、誰が、いつ、何を確かめたかを1行で残します。台帳は表計算の1枚で足ります。

• 残す項目
  • アプリの名前
  • 作った人
  • 確かめた人
  • 確かめた日
  • 直した点

記録があると、あとで問題が起きたときに、どこまで確かめたかが分かります。弊社も、やったことを記録に残して、次の仕事の材料にしています。研修の最後には、この台帳を自社の形に直して持ち帰ってもらう流れです。

研修を開く前に決めること

研修の前に、確かめる人を誰にするかを会社で決めておきます。最初は、情報システムの担当者か、アプリを作っていない部署の人が適任です。担当者がいない会社でも、作った人以外の1人を決めれば始められます。

Qu の法人向けでは、ワークショップが社員全員を対象に、1回3時間で行う形です。参考価格は税抜30万円からです。全プランに、オリジナルカリキュラム「Qu-bis」が付きます。まずは無料の実演デモから見られます。

確かめる決まりは、情報の扱いの決まりとつなげると定着します。情報の区分と設定の教え方は、情報漏えいを防ぐ生成AI研修は、区分と設定と連絡先を教える（新しいタブで開きます）にまとめました。アプリを作る研修の前に読んでおくと、確かめる点を決めやすくなります。