この連載を書きながら、ずっと後回しにしてきた話題があります。AIエージェントに仕事を任せた先で、何かおかしなことが起きたとき、誰が気づき、誰が責任を取るのか。ここまで便利さの話ばかりしてきましたが、今回は避けてきた「ブレーキ」の話を正面から取り上げます。
海外の一次情報を読み解く
Deloitteが2026年4月に公表した調査（24カ国・3,235人の経営層とIT責任者が回答）によると、2027年までに74%の組織が、AIエージェントを「中程度以上」に活用するようになると見込んでいます。うち23%は「大規模に」、5%は「事業運営の中核として完全に統合する」と回答しました。一方で、AIエージェントのリスクを管理する「成熟したガバナンス体制がある」と答えた組織はわずか21%です。約8割の組織が、エージェントがどこまで自律的に判断してよいかの明確な境界を持たず、リアルタイムでの挙動監視の仕組みも、何が起きたかを後から追跡できる監査証跡も欠いている状態だと、Deloitteは指摘しています。
同じ傾向は、McKinseyが2026年3月に公表した「AI Trust Maturity調査」（約500組織対象、2025年12月〜2026年1月実施）にも表れています。責任あるAI実践の成熟度は平均2.3（4段階中、2025年は2.0）に上昇しているものの、戦略・ガバナンス、そして今回新たに評価軸に加わった「エージェントAIのガバナンスと統制」の3項目で成熟度レベル3以上に達している組織は、いずれも約3割にとどまります。約3分の2の組織が、AIエージェントの本格展開を妨げる最大の壁として「セキュリティとリスクへの懸念」を挙げており、これは規制の不透明さや技術的な制約を上回る結果です。なお、責任者を明確に置いている組織の成熟度は平均2.6、置いていない組織は1.8と、明確な当事者の有無が結果を大きく左右することも分かっています。
Google CloudのOffice of the CISO（最高セキュリティ責任者室）は2026年3月のブログで、「シャドーエージェント」という言葉を使ってこの状況に警鐘を鳴らしています。現場の担当者が「面倒な作業を自動化したい」という善意から、AIエージェントに広い権限を渡してしまい、誰も把握していない自律システムが社内で動き出す現象です。禁止するだけでは解決しません。禁止された社員は、もっと見えにくい方法で同じことをやろうとするからです。Google Cloudは、人のアカウントと同じ厳格さでエージェントの権限を管理すべきだとして、4つの原則を提案しています。①エージェントが触れてよい範囲（どのデータ・システムに、どの環境で）を先に決める、②エージェントごとに専用の識別情報を持たせ、誰が動かしているか常に追跡できるようにする、③使えるリソースや実行回数に上限を設ける、④異常を検知したら自動的に止められる仕組みを持つ、の4点です。
立ち止まって考える：日本の中小企業にどう関係するか
ここでまず立ち止まりたいのは、これらの調査の対象が3,235人・24カ国、あるいは約500組織という規模の話だという点です。Google CloudのIAMやワークロード・アイデンティティのような仕組みも、専任のセキュリティチームがいることが前提になっています。中小企業がいきなり同じレベルの体制を作るのは現実的ではありません。
ただ、Google Cloudが挙げた4つの原則の"考え方"そのものは、規模に関係なく使えると私は考えています。専門用語を外して言い換えると、①このエージェントは何に触れてよいのか、②誰が動かしていて、何かあったら誰が最初に気づくのか、③人の確認なしに絶対にやってはいけないことは何か、の3つの問いに即答できる状態をつくる、ということです。
ガバナンスとは委員会をつくることではなく、「何に触れてよいか」「誰が動かしていて何かあったら誰が気づくか」「人の確認なしに絶対にやってはいけないことは何か」の3つの問いに即答できる状態をつくることです。
実は、この連載の第4回で紹介した「AIエバンジェリスト方式」（各部署に1名、実験環境と教育を集中させ、うまくいったやり方を徐々にルール化して全社に広げていくやり方）は、知らず知らずのうちにこの3つを兼ねています。担当者が決まっているから「誰が動かしているか」が明確になり、実験環境に閉じているから「触れてよい範囲」が限定され、ルール化のプロセス自体が「人の確認が必要な線引き」を言葉にする作業になっているからです。
見落としがちなのは、Google Cloudが「シャドーエージェント」と呼んだ問題は、大企業だけの話ではないという点です。むしろ中小企業の方が、情報システム部門の目が届きにくく、誰かがChatGPTやClaudeを業務のメールやスプレッドシートに自動でつなげていても、社長も他の社員も気づかないまま動き続けている、ということが起こりやすい環境だと言えます。
「人の確認なしに絶対にやってはいけないこと」を具体的に考えるなら、まず思い浮かぶのは、お金が動く操作（支払い・請求・見積の確定）と、社外への発信（顧客・取引先へのメール送信、SNSへの投稿）です。この2つだけでも「エージェントが下書きまでは作ってよいが、送信・確定は必ず人が押す」という一線を決めておくだけで、Google Cloudが挙げた4原則のうち①と③の骨格はかなりの部分がカバーできます。専門的な仕組みを整える前に、まずこの一線を決める会話を社内でしておくことに意味があると私は考えています。
今の自分の仮説・気づき
今の時点での仮説は、中小企業にとってのガバナンスは「委員会をつくる」ことではなく、「3つの問いに即答できる状態をつくる」ことだということです。①何に触れてよいか、②誰が動かしていて何かあったら誰が気づくか、③人の確認なしに絶対にやってはいけないことは何か。この3つに即答できないなら、それは「信頼して任せている」のではなく、「忘れて放置している」だけかもしれません。エージェントを増やす前に、まずこの3つを紙一枚に書き出すことから始められるはずです。
読者への問いかけ
今、社内で動いているAIエージェントやAIを使った自動化を一つ思い浮かべてください。それが何にアクセスできて、何かあったら誰が最初に気づくか、即答できますか。もし答えに詰まったなら、それが今日整理すべき最初の一歩かもしれません。自社のAI活用のルールを一緒に整理したい方は、無料相談で承っています。
※本記事は海外の公開レポートを著者が読み解き、日本の中小企業向けに翻訳・考察したものです。
※本記事はAIを活用して作成しています。