エージェント時代の体験設計——人間が「指示する」から「委ねる」へ
シリーズ 1 「AIは体験を壊すのか、再発明するのか」第3回 (想定読了時間 約9分)
あなたの代わりに、AIが出張を予約する。会議を調整する。契約書を起草する。投資判断の下書きをする——。
エージェントAIが描く未来は魅力的だ。だが少し立ち止まって考えたい。あなたは、どこまでAIに「委ねる」つもりがあるだろうか。
これまでのUI設計は、「ユーザーが操作する」ことを前提にしてきた。ボタンを押す。選択肢を選ぶ。確認する。だがエージェント時代の体験は、その大前提が変わる。ユーザーは操作するのではなく、委ねて、見守り、ときに介入する存在になる。
このとき、設計者が考えるべき問いは一変する。何を自動化するかではなく、何を人間に残すか。いつ介入を許すか。どうすれば「撤回可能性」を担保できるか——。
本稿では、エージェント時代の体験を支える新しい設計原則を提示する。
「指示する」UIの終焉
20世紀後半から続いてきたUI設計の歴史は、「人間がコンピュータに指示する」という前提のもとに発展してきた。GUIの登場でメニューが視覚化され、Webの登場でリンクが情報を結びつけ、モバイルの登場でタップが操作の中心になった。形は変わったが、人間が能動的に「指示する」構造は一貫していた。
生成AIの登場で、この構造に最初の亀裂が入った。チャット型インターフェースは「指示」というより「対話」に近い。人間は明示的なコマンドを与えるのではなく、意図を自然言語で伝え、AIが解釈して応答する。だがそれでも、人間が主導権を持つ構造は維持されていた。AIは応答するだけで、自律的に行動するわけではなかった。
エージェントAIの登場は、この最後の前提を破壊する。エージェントは応答するだけでなく、ユーザーに代わって行動する。複数のツールを使い、複数の判断を連鎖させ、複数日にわたって持続的にタスクを遂行する。Gartnerが2025年8月に公表した予測によれば、2026年末までにエンタープライズアプリケーションの40%がAIエージェントを組み込み、2028年までにはユーザー体験の3分の1が、従来型のアプリからエージェント型フロントエンドへシフトすると見込まれている。この急速な移行は、ユーザーの役割そのものを書き換える。
ユーザーは、もはや「操作する」存在ではない。委ねて、見守り、ときに介入する存在へと変わる。この変化を、設計はまだ十分に理解できていない。
「すべての行動に承認」の罠
エージェントAIをめぐる議論で、初期に流通したアプローチがある。「人間の監視を確保するために、エージェントのすべての行動に対して人間の承認を要求する」というものだ。安全性の観点から、これは直感的に正しく見える。AIが暴走しないよう、すべてのステップに人間のチェックを入れる——この発想は多くの業界ガイドラインにも採用されている。
だが、Anthropicが2026年2月に発表した「エージェントの自律性測定」研究は、この発想の限界を示した。同研究が観察した経験豊富なユーザーの行動パターンは、個別のエージェント動作を承認するアプローチから離れ、必要なときに監視と介入を行うアプローチへとシフトしていくというものだった。
なぜか。シンプルな理由だ。エージェントが提供する価値は、複数のタスクを連鎖的に遂行する点にある。すべての行動に承認を要求すれば、その連鎖が断ち切られる。「30秒で済む承認」が10回続けば5分かかる。「便利な代理人」は「面倒な確認役」に変質し、ユーザーは結局自分でやったほうが速いと判断する。
Anthropicの研究は、こう結論づけている——「すべての行動に承認を要求するような監視要件は、価値を提供せずに摩擦を生む」。
これは技術的な発見ではなく、設計思想の発見である。エージェント時代の体験は、「すべてを承認する人間」を前提にできない。「ほとんど委ね、必要なときに介入する人間」を前提に設計しなければならない。この前提の転換が、すべての設計判断の出発点になる。
リスクに比例した監視——新しい設計原則
ではどう設計すればよいか。複数の研究機関が辿り着いている結論は、「リスクに比例した監視」(risk-proportionate oversight)という考え方だ。
すべての行動を同じ重みで扱うのではない。リスクに応じて、人間の関与の度合いを階層化する。具体的には、3つの階層を持つことが多い。
第一層は、自動監視で済む行動。エージェントが自律的に実行し、ログだけが記録される。事後的にレビュー可能だが、リアルタイムでの人間関与は不要。日常的・低リスクのタスク——情報収集、要約、下書き作成など——がここに分類される。
第二層は、条件付きで人間レビューを発動する行動。普段は自動で実行されるが、特定の条件——金額が一定以上、外部システムへの影響、過去パターンからの逸脱など——を満たしたとき、人間に通知して判断を仰ぐ。多くの業務タスクが、この層に分類される。
第三層は、事前承認を要する行動。実行前に必ず人間の判断が入る。法的責任が発生する契約、不可逆な財務取引、外部への重要な約束など、撤回が極めて困難な行動がここに分類される。
この3層構造を持つことで、エージェントは大半の業務を効率的に進めつつ、リスクの高い局面では人間の判断を担保できる。「すべて自動」と「すべて承認」の二項対立を超える、第三の道である。
Stanford大学の研究者Overman, Bayatiは2025年10月に発表した論文「The Oversight Game」で、この構造をゲーム理論で形式化している。エージェントが「自律的に行動する」と「人間に判断を委ねる」を選び、人間が「許容する」と「監視する」を選ぶ二者ゲームとして、両者の協調が成立する条件を導出した。エージェントが自律性を求めることと、人間の福祉を高めることが、構造的に結合する設計が可能であることを、彼らは数理的に示している。
これは抽象的な議論ではない。エージェント設計の現場で、いま実装されつつある原則だ。
