中小企業の生成AI事情調査

導入は進んだが成果はまだ出ていない

問題は、この導入の勢いに成果がまったく追いついていないことだ。パーソル総合研究所が全国3,300人の就業者を対象に行った調査によれば、業務で生成AIを使っている就業者は32.4%。ところが週4日以上使うヘビーユーザーとなると、わずか11.7%にとどまる。導入と定着のあいだに、まず最初の断層がある。

さらに深刻なのは、利用と成果のあいだの断層である。生成AIによる個別タスクの削減効果は平均16.7%と決して小さくない。ところが「トータルの労働時間が減った」と実感できた利用者は25.4%、4人に1人しかいない。それどころか、ヘビーユーザーほど残業時間が長いという、直感に反する相関さえ確認されている。

「導入」から「成果」の間に、「定着」と「成果実感」がある

資料: 導入は帝国データバンク「生成AIに関する企業の動向調査」2026年3月。定着・成果実感はパーソル総合研究所「生成AIとはたらき方に関する実態調査」2026年2月。成果はMIT Project NANDA「The GenAI Divide: State of AI in Business 2025」。各段階は分母が異なる

これは日本の中小企業に固有の現象ではない。MITのProject NANDAが150件の経営者インタビューと300件の公開導入事例を分析した報告書は、企業の生成AIの試験導入プロジェクトの95%が損益へのリターンを生み出せていないと結論づけた。同報告書が強調するのは、この5%と95%を分けたのがAIの性能でも規制でもなく「導入のやり方」だという点である。成功した企業は汎用ツールを配って終わりにせず、価値の高い業務プロセスの中にAIを深く組み込み、フィードバックを蓄積して改善し続けていた。

損益へのリターンを生み出せていない生成AI試験導入プロジェクトの割合は95%であり、成否を分けたのはAIの性能ではなく「導入のやり方」だった（MIT Project NANDA、2025年）

タスク処理が速くなっても労働時間は減らない

タスクは16.7%速くなったのに、なぜ労働時間は減らないのか。答えは削減時間の行き先にある。パーソル総合研究所の調査によれば、生成AIで削減できた時間の61.2%は再び仕事に投下され、その75.4%は「いつもの日常業務」に充てられていた。つまり削減時間全体のほぼ半分が、そのまま日常業務に吸収されている計算になる。効率化の果実は生まれているのに、誰もその使い道を設計していないために、成果として認識されないまま溶けてしまっているのだ。

生成AIで削減できた時間の約半分は、そのまま日常業務に吸収されている

資料: パーソル総合研究所「生成AIとはたらき方に関する実態調査」2026年2月

「会社として」導入しないことも成果が出ない一つの要因

成果が出ないもう一つの理由は、そもそも大半の企業が「会社として」動いていないことだ。商工中金が中小企業3,892社から回答を得た調査では、最も多い回答は「会社での導入はなく、使用は個人の判断に任せている」で、実に64.9%を占めた。会社主導で導入した企業は16.3%、つまり投資に踏み切った中小企業は6社に1社にすぎない。個人利用を公認している14.9%を加えた「積極活用層」でも約3割である。

中小企業の6割超は生成AIの使用を個人任せにしており、会社として投資済みなのは6社に1社にとどまる

資料: 商工中金「中小企業の生成AIの利用にかかる調査」2026年1月

そしてこの「会社として動くかどうか」が、成果を分けている。同調査で経営へのプラス効果を感じている割合を比べると、会社主導で導入した企業は個人利用の推奨にとどまる企業より10ポイント以上高かった。業務効率化に直結する活用ほど、会社導入の企業に偏って現れている。生成AIを経営の成果につなげるには、個人の自助努力ではなく会社主導のアプローチが必要である可能性を、データは一貫して示している。

経営層と現場の差

では、なぜ会社として動けないのか。興味深いことに、生成AIの利用率を役職別に見ると、高いのは係長から管理職までの中間層で、経営層と一般従業員という「両端」が低い。そして両端が使わない理由は、まったく異なっている。

経営層に顕著なのは「活用イメージの欠落」である。何ができるかが見えないから投資判断ができず、結果として6割超の「個人任せ」が続く。実際、中小企業の導入・推進課題の最多は「具体的な活用場面が不明」の35.6%であり、総務省の情報通信白書でも活用しない理由の第1位は「実用的な利用方法がわからない」だった。しかも「成功事例や活用事例の情報が十分に入手できている」と言えない中小企業は83.3%にのぼる。判断材料そのものが市場に流通していないのだ。

一方、一般従業員は「必要性を感じない」「使い方が分からない」「どの業務で使えるかイメージできない」の3点で止まっており、不安の中心はセキュリティにある。経営層とは詰まりどころの質が違う以上、同じ研修を全員に当てても、どちらにも刺さらない。

生成AIが使われない理由は役職で異なる。同じ施策では両方に届かない

資料: パーソル総合研究所「生成AIはなぜ職場に広がらないのか」2026年4月。商工中金 2026年1月調査、中小企業基盤整備機構 2026年3月調査

基礎と応用の定義と差

使い始めた人の中でも、成果には大きな開きがある。パーソル総合研究所は生成AIの使いこなしを「成熟度」として段階的に測定しているが、調べ物や情報整理といった基礎的な使い方には就業者の約半数が到達している。一方、AIを前提に自分の役割を再定義したり、複数のAIを使い分けたりする応用段階には、3人に1人しか到達していない。

基礎的な使い方は約半数が到達済み。差がつくのは応用への壁で、成熟度の高い層は低い層の約2.3倍の時間削減を実現している

資料: パーソル総合研究所「利用率では測れない、職場での生成AI活用の実態」2026年3月

この壁の先には、はっきりした見返りがある。成熟度の高い群は低い群の約2.3倍の時間削減を実現し、削減した時間を付加価値の高い業務に充てる割合も約1.5倍高い。さらに同研究所の後続調査は、成果を分けるのがツールの操作スキルではなく「AI活用を仕組み化し、組織に広げる推進役」の存在であり、同じヘビーユーザーでもメタ・スキルの高低によって最大3.6倍の成果差が生まれることを明らかにしている。プロンプトの書き方講座が教える領域は、すでに半数が独力で到達している。投資すべきは、その先の壁である。

ルールや制約は成果創出を妨げる

組織としての向き合い方も、成果を大きく左右する。パーソル総合研究所は企業の普及パターンを4類型に分けて比較しているが、結果は明快だった。ルールと統制で縛る「統制タイプ」の企業では、就業者の週あたり削減時間はわずか8.7分と最下位。現場の裁量に委ねる「現場任せタイプ」は52.2分と削減時間こそ最大だが、活用が個人の頑張りにとどまり、組織としての成熟度は上がらない。そして4類型のなかで組織としての成熟度が最も高かったのは、現場の裁量を残しながら相談・教育の役割を整え、使い方の型を組織で更新していく「仕組み化タイプ」だった。

ルールで縛る「統制タイプ」の削減効果は週8.7分と最下位。組織としての成熟度が最も高いのは「仕組み化タイプ」である

資料: パーソル総合研究所「生成AIはなぜ職場に広がらないのか」2026年4月

セキュリティへの懸念からルールを厳しくするほど活用は死に、かといって放任すれば成果は個人の中に閉じる。中小企業の経営者に求められているのは「禁止か放任か」の二択ではなく、仕組み化という第三の道である。

中小企業が何を求め何が必要か

では、中小企業自身は何を求めているのか。中小機構が「導入を推進するために必要な公的支援」を尋ねた結果は、そのまま購買ニーズの序列として読める。最多は「導入費用などの助成」の77.9%。それに「導入事例などの情報提供」70.5%、「従業員向けの教育・研修」67.7%、「試行導入などの機会」61.3%が続く。

中小企業が求めるのは費用助成、そして「事例・研修・試行の場」である

資料: 中小企業基盤整備機構「中小企業のAI等の利活用に係る実態調査」2026年3月。「必要である」と回答した企業の割合

費用面では、人材開発支援助成金の事業展開等リスキリング支援コースが、中小企業に対して訓練経費の75%と賃金助成を用意している。この制度は2026年度が最終年度であり、実質4分の1の負担で従業員研修を実施できる期限が迫っている。

そして、より切実なニーズはまだ言語化されていない側にある。第一に「浮いた時間の使い道」。削減時間の約半分が日常業務に吸収されている以上、効率化した先に何をするかを設計しない限り、投資は成果に変わらない。第二に「社内格差」。使いこなしの差が最大3.6倍の成果差になり、帝国データバンクの調査でも生成AI導入による悪影響の第1位は「AIの使いこなし格差の拡大」だった。自由記載には「AIに頼る経験値のない技術者が増えていくのが怖い」という育成上の不安まで現れている。どちらも、ツールの追加購入では解決しない課題である。

成果に繋げるためにはどうすれば良いのか

ここまでの調査結果は、中小企業が生成AIを成果につなげるための原則を3つに絞り込んでくれる。

調査データが示す、生成AI活用を成果につなげる3つの原則

資料: 本稿で引用した各調査に基づくCo-Coの分析

導入のハードルはもう下がった。次に問われるのは、導入した後の設計である。世界の95%がつまずいた場所は、裏を返せば、正しく設計した企業がまだ5%しかいない場所でもある。事例が流通せず、推進役が不足し、6割の企業が様子見を続ける今こそ、中小企業にとっては先行者になれる数少ないタイミングだと言える。生成AIの価値は、ツールの中ではなく、それを使う人と仕組みの側にある。