チャットAIで何ができるかを知ろう

チャットAIは、文章の続きを確率で作る

チャットAIの中身は言語モデルと呼ばれる仕組みで、次に来る言葉を確率で選んで文章を作ります。 言語モデルは、大量の文章から「この言葉の後にはこの言葉が続きやすい」という傾向を学びます（出典1）。

例えるなら、大量の文章を読み込んだ予測変換です。スマートフォンの予測変換は次の1語を出しますが、言語モデルはそれを何百語も続けて、文章として成立する形にします。

この仕組みから、1つの性質が導かれます。 出てくる文章は「もっともらしい」ことが保証されますが、「正しい」ことは保証されません。もっともらしさと正しさは別の物差しで、言語モデルが見ているのは前者だけです。

この性質を、上司に1分で説明できる言葉にしておきましょう。「大量の文章から次の言葉を当てる仕組みで、それらしい文章は作れるが、事実の保証はしない」で足ります。

できることと、できないことを分ける

チャットAIに向くのは「文章の形を変える仕事」、向かないのは「事実を保証する仕事」です。 前者は仕組みそのものが得意で、後者は仕組みの外にあります。

向かない仕事を頼むと、答えが返ってこないのではなく、それらしい答えが返ってきます。 ここが厄介な点です。「分かりません」と言われれば別の手を打てますが、流暢な誤答は気付きにくく、そのまま資料に載ります。

向かない仕事は、チャットAIに「聞く」のではなく、原本を渡して「形を変えてもらう」形に直すと使えます。取引先の住所を聞くのではなく、取引先一覧を渡して宛名の形に整えてもらう、という使い方です。

自部門の業務を1つ思い浮かべ、「形を変える仕事」か「事実を保証する仕事」かを分けてみましょう。

知識には期限がある

チャットAIが学んだ文章には区切りの日付があり、その後の出来事は答えられないか、古いまま答えます。 この区切りを、公式ヘルプでは「知識の期限」（knowledge cutoff）と呼びます（出典2）。

言語モデルは、ある時点までに集めた文章で作られます。その後の出来事は学んでいないので、聞かれると「知らない」と答えるか、学んだ範囲から推測して古い答えを返します。

期限が何月かは、モデルごとに違い、更新もされます。 本文に日付を書いても数か月で古くなるので、使っているサービスの公式ヘルプで確認してください。

「これはいつ時点の話か」を、チャットAIに聞く前に自分で1度考える習慣を付けましょう。期限の後の話なら、次の節の検索つきの機能を使うか、原本を渡します。

検索つきと検索なしは、何が違うか

検索つきの機能を使うと、チャットAIは Web を検索し、その結果を元に答えを作ります。 ChatGPT・Claude・Gemini のいずれにも、Web 検索を使って答える機能があります（出典3、4、5）。知識の期限の後の出来事も、検索で拾える範囲なら答えられます。

検索つきでも、出典が付くことと、出典の中身が正しいことは別です。 ChatGPT の公式ヘルプも、検索結果と引用は「不完全、古い、または誤っている可能性がある」ので、引用元を開いて答えを支えているか確かめるよう書いています（出典3）。

最新の情報を聞くときは検索つきを使い、返ってきたリンクを開くところまでを1回の作業と考えましょう。

やってはいけないことを先に押さえる

このモジュール全体で、やってはいけないことは2つです。 1つは、答えが流暢だからという理由で事実として扱うこと。もう1つは、社内の機微な情報を確かめずに入力することです。

どちらも、仕組みを知っていれば防げる失敗です。 前者は「正しさを保証しない仕組み」から、後者は「入力が事業者のサーバーへ送られる仕組み」から出てきます。

この2つを、部内で最初に共有する2行にしておきましょう。