これは、Docker Captain Karan Verma による全 0 回のシリーズの 3 番目の投稿です。3パート1 ：あなたのラップトップが新しい本番環境になる、パート2 ：ランタイムアドバイスではなく、ランタイム強制について、もう一度読んでみてください。
AIガバナンスに関する議論は、しばしばセキュリティから始まる。それは理解できます。自律システムがコマンドを実行したり、ツールにアクセスしたり、本番環境に近い環境とやり取りしたりできるようになると、組織は当然リスクに注目するようになる。しかし、エージェントのワークフローについて時間をかけて考えてみた結果、ガバナンスはセキュリティだけにとどまらないものだと確信するようになりました。これは開発者エクスペリエンスの問題でもある。
信頼のボトルネック
ほとんどの組織が新しいツールの導入に苦労するのは、ツール自体に能力がないからではありません。彼らが苦労するのは、組織がまだ彼らを信頼していないからだ。ソフトウェア開発の歴史には、そうした例が数多く存在する。組織がクラウドガバナンスに慣れてきたことで、クラウド導入は加速した。コンテナの利用は、チームが隔離と運用管理に自信を持つようになったことで加速した。組織が自動化されたデプロイメントパイプラインを信頼するようになると、CI/CDは加速した。パターンは繰り返される。能力がまず先にある。信頼は後からついてくるものだ。採用は信頼関係から始まる。AIエージェントも例外ではない。
キャプション：機能だけでは普及は進まない。信頼関係は、組織が業務を委任し、利用範囲を拡大し、生産性の向上を実現することを可能にする。
間違ったトレードオフ
ガバナンスはしばしば、スピードと統制のどちらかを選択するという構図で捉えられる。迅速に行動し、リスクを受け入れよ。あるいは、操作方法を追加して、全員のスピードを遅くする。実際には、最も成功している開発者プラットフォームは、このようなトレードオフをほとんど行わない。その代わりに、彼らは既に境界線が存在する環境を作り出すことで、開発者が迅速に作業を進められるようにしている。成熟したプラットフォームを通じてデプロイする開発者は、コードを出荷するたびに、ネットワークルール、アクセスポリシー、インフラストラクチャのセキュリティ対策など、あらゆることを考慮する必要はありません。このプラットフォームは既にそうした保証を提供している。エージェントシステムにも同様の原則が当てはまります。目的は、開発者にすべての操作を手動で承認させることではない。目標は、有用な操作がデフォルトで安全に行える環境を作り出すことである。
二つのチームの物語
2つのエンジニアリングチームが同じコーディングエージェントを使用している状況を想像してみてください。最初のチームは、エージェントが何にアクセスし、何を実行し、何を変更できるのかが誰にも完全には分からないため、エージェントの使用を限定的な実験でのみ許可している。新しいワークフローはすべて、追加のレビューが必要です。新しい機能が追加されるたびに、リスクについての議論が巻き起こる。
第2チームは、実行、ツール、資格に関する明確に定義された境界内で活動する。開発者は、エージェントがどこで実行されるか、どのシステムにアクセスできるか、そしてアクティビティがどのように監視されるかを理解しています。
基本となるモデルは同一です。違いは信頼関係にある。時間が経つにつれて、その違いはモデルそのものよりも重要になるかもしれない。組織は、信頼できないテクノロジーを大規模に展開することはほとんどない。
境界線が自由を生み出す理由
この考えは、最初は直感に反するように聞こえるかもしれない。境界線は窮屈に感じる。しかし、ソフトウェアシステムにおいては、境界はしばしば自律性を制限するのではなく、むしろそれを可能にする役割を果たす。
組織が以下のことを知っている場合：
- エージェントが走る場所、
- エージェントがアクセスできるもの、
- エージェントが使用できるツール、
- 活動がどのように観察されるか、
彼らは仕事を他人に任せることに抵抗がなくなる。そうした境界線がなければ、あらゆるワークフローが例外的なプロセスになってしまう。あらゆる導入には議論が必要である。新たな機能が追加されるたびに、懸念が生じる。新しいツールはすべて交渉を必要とする。ガバナンスは不確実性を低減する。不確実性を減らすことは、信頼を高める。そして、信頼は導入を促進する。
プラットフォームの転換
エージェントインフラストラクチャに関する最近の議論で際立っている点の1つは、ガバナンスがプラットフォーム自体へとますます移行しつつあるということだ。開発者は、エージェントを使用するたびにセキュリティの専門家になる必要はないはずだ。開発者がアイデンティティ、ネットワーク、デプロイメント、および可観測性に関する問題を処理するためにプラットフォームに依存するのと同様に、ガバナンスはエージェントが動作する環境の一部としてますます重要になってきている。ガバナンスがプラットフォームに組み込まれると、開発者は境界について心配する時間が減り、成果に集中する時間が増える。これはセキュリティの向上であると同時に、開発者エクスペリエンスの向上でもある。
ガバナンスは促進要因となる
エージェントの導入に最も成功している組織は、管理体制が最も緩い組織とは限らない。それらは、最も明確な統制体制を持つ組織かもしれない。明確な境界線は自信を生み出す。自信は委任を可能にする。権限委譲は生産性を向上させる。そうした観点から見ると、ガバナンスはエージェントの普及を遅らせている要因ではない。それは、大規模な導入を可能にする要因の一つである。
今後の展望
AIエージェントに関する議論は、モデルが何ができるかという点に焦点が当てられることが多い。ますます興味深いのは、組織が彼らに何を任せようとするか、という点だと思う。信頼は能力だけでは得られない。それは、可視性、説明責任、そして明確に定義された境界から生まれるだろう。なぜなら、エージェント型ソフトウェアの未来は、最も有能なエージェントだけによって決定される可能性は低いからだ。また、それらのエージェントが大規模に使用できるほど信頼できるものとなるような環境によっても、そのあり方は形作られるだろう。
詳しく見る
- AIエージェントに隔離が必要な理由について読んでみましょう。
- このAIガバナンスシリーズのパート1とパート2をお読みください。
- DockerのAIガバナンスソリューションがすべてのツールでどのように機能するかをご覧ください。
