Microsoftは、新たなAI透明性イニシアチブ(AI Transparency Initiative)を通じて、Accenture、Adobe、KPMG、Mastercard、Volvo Carsなど40を超える組織と連携し、モデルやプロバイダーの垣根を越えたAIの透明性、セキュリティー、ガバナンスに関する共通のアプローチを推進。Microsoftはまた、自社の製品やサービス全体で、AIモデルとエージェントが企業データとどのようにやり取りしているかを、より明確に把握できるようにする方針
ワシントン州レドモンド, 2026年11月20日 /PRNewswire/ -- 組織はAIモデルを取り巻く活動の多くを把握できますが、リクエストから結果に至るまでに何が起きたかを再現できないことが多く、モデルの動作を独立して検証することが困難です。火曜日に開催されたMicrosoftの技術イベント(Microsoft Ignite)で、Microsoftの会長兼CEOであるSatya Nadellaは、AIの安全性向上に向けた同社の取り組みの次の段階を発表しました。それが、モデルやプロバイダーの垣根を越えたセキュリティーとガバナンスに関する共通のオープンなアプローチを確立するため、顧客やパートナーと連携して進めるAI透明性イニシアチブです。このイニシアチブは、次のシンプルな原則に基づいています。AIの自律性が高まるほど、より高い透明性が求められます。
Microsoftのセキュリティー部門担当エグゼクティブ・バイスプレジデントのHayete Gallotは、「セキュリティー対策を効果的に機能させるには、あらゆる組織がモデル自体の透明性をより高いレベルで確保する必要があります」と述べました。「この取り組みを通じて、あらゆるモデルの透明性を高めていきます。これは、より高度で強固な封じ込めを実現するための重要な一歩であり、説明責任の履行と追跡可能性の確保に役立つ情報をより的確に得られるようになります。」
企業はAIモデルをデータ、ツール、認証情報、インフラストラクチャーに接続し、エージェントがその都度人間の承認を得なくてもアクションを実行できるようにしています。既存のセキュリティー対策では、AIモデルを取り巻く活動の多くを把握できますが、モデル内部で何が起きているかを確認したり、モデル自身による動作の説明を独立して検証したりすることはできません。このため、組織がエージェントの行動の背景にある状況を把握するには限界があります。こうした証拠の不足は、セキュリティー、コンプライアンス、監査、説明責任に関するリスクを生み出します。セキュリティー・チームには、AIエージェントの能力向上に伴って増大する内部脅威のリスクに対処するため、信頼を確保する新たなアーキテクチャーが必要です。
Adobeの最高セキュリティー責任者であるAanchal Gupta氏は、「AIエージェントが企業の業務に深く組み込まれるにつれ、セキュリティー・チームは、エージェントが何にアクセスし、どのようなアクションを実行しているのか、また、それらのアクションをどのように検証できるのかを明確に把握する必要があります」と述べました。「業界全体でAIの透明性に関する共通のアプローチを構築することは、信頼を強化し、組織がセキュリティーと説明責任を確保しながら、安心してイノベーションを推進できるようにする上で不可欠です。」
原則から実践へ
このイニシアチブは、3つの取り組みで構成されています。第1に、Microsoftは米国国立標準技術研究所(National Institute of Standards and Technology)のSIエージェント標準化イニシアチブ(SI Agent Standards Initiative)への参画を拡大するとともに、同研究所の研究成果を活用し、AIの透明性、セキュリティー、ガバナンスに関するオープンな業界共通標準を策定します。第2に、MicrosoftはAccenture、Adobe、KPMG、Mastercard、Volvo Carsなど40を超える組織と連携し、モデルやプロバイダーを問わず、説明責任を果たすことができ、独立した検証が可能で、設計段階から安全性が確保されたAIシステムのためのオープン標準の策定を支援しています。
第3に、Microsoftはこの取り組みの成果をMicrosoft AI、Microsoft Foundry、Microsoft Copilotに組み込み、顧客が、Microsoft製か他社製かを問わず、自社で使用するセキュリティーおよびコンプライアンス・ツールで、得られた証拠を活用できるようにします。
KPMG Internationalのグローバル最高情報セキュリティー責任者であるJohn Israel氏は、「顧客はAIを活用した取り組みを加速したいと考えており、イノベーションと安全性のどちらか一方を選ばなければならない状況に置かれるべきではありません」と述べました。「AIへの信頼には、透明性、説明可能性、責任ある監督が欠かせません。当社は、AI透明性イニシアチブを通じてMicrosoftと連携し、組織が責任ある形でAIを大規模に導入するために必要な可視性と制御能力を確保できるよう、オープンな業界共通標準の確立を支援できることを誇りに思います。」
明確な説明責任
データ、ツール、認証情報にアクセスできるエージェントは、特権を持つ内部関係者と同様のリスク特性を有する一方、機械ならではの速度と規模で動作するため、独立した監督が不可欠です。
説明責任は引き続き組織が負います。重大な事態が発生した場合、経営陣は顧客、従業員、取締役会、監査人、規制当局に対して説明責任を負います。AIに責任を転嫁しても解決にはならず、「モデルを信頼する」ことは統制手段にはなりません。
このイニシアチブは、クローズドウェイトモデルとオープンウェイトモデルを含め、モデルやプロバイダーの垣根を越えて機能するよう設計されています。これにより、開発チームは、ITチームやセキュリティー・チームによるエージェントの安全な管理や、コンプライアンス・チームによるエージェントの行動の監査に支障を来すことなく、エージェントを動かすモデルを変更または更新できます。
Accentureのグローバル・サイバーセキュリティー責任者であるHarpreet Sidhu氏は、「組織がAIを活用した変革の次の段階へと進むには、その足掛かりとなる確固たる信頼と安心の基盤が必要です」と述べました。「Microsoftの今回の取り組みのように、AIの透明性に関してオープンで業界主導のアプローチを採用することは、AIモデルのセキュリティーを確保し、統制やガバナンスの仕組みを組み込む上で役立ちます。Accentureは、Microsoftやこの分野をリードするその他の組織と連携できることを誇りに思います。」
把握、検証、制御
Microsoftは、あらゆる組織がAIシステムのアクセス先と実行内容を把握し、その行動を独立して検証するとともに、AIに許可する操作を制御できるようにすべきだと考えています。
- 把握: AIが何をするよう指示され、どのような操作を許可されたのか、どのモデルとランタイムが使用されたのか、どのデータやツールにアクセスし、どのようなアクションを実行したのかを把握します。ポリシーとしきい値に照らして、エージェントの活動とリスクシグナルを継続的に監視します。
- 検証: エージェント自身の説明をその行動に関する唯一の信頼できる情報源とすることはできず、フロンティアモデルについても、自らを適切に統制できると信頼することはできません。エージェントのID、委任された目的、行動に関する証拠には、その情報源(モデル、モデルの周辺のランタイム、またはID管理やポリシー管理などの独立したシステム)を明示し、モデルが報告するシグナルを独立して観測された記録と照合できるようにする必要があります。組織は、モデルの動作に関するプロバイダーの説明だけに頼ることなく、自社のセキュリティーおよびコンプライアンス・システムを使用して、AIの活動を独立して検証できる必要があります。
- 制御: AIに許可する操作を常に自らの管理下に置きます。各ワークフローの目的、所有者、データ、委任された権限を示す明確な証拠があれば、組織は重大な影響を及ぼすアクションが実行される前にポリシーを確実に適用し、調査、封じ込め、復旧、監査の際に何が起きたかを再現できます。モデルやプロバイダーが変わっても、組織はその証拠を引き続き保持できる必要があります。組織は、モデルやプロバイダーにかかわらず、エージェントがアクセスできるデータと、そのアクセスの管理方法を引き続き自ら制御できる必要があります。
イニシアチブへの参加
このイニシアチブの具体化に協力したい、または進捗状況を把握したいと考えている組織は、aka.ms/learnmoreAItransparencyで詳細を確認し、参加登録することができます。
Microsoftの技術イベント(Microsoft Ignite)の最新情報にご注目ください。同イベントでは、Microsoftと業界のリーダーが、組織がAIモデルとエージェントを安心して管理する方法について知見を共有します。詳細については、Microsoft Securityブログをご覧ください。
SOURCE Microsoft Corp.

この記事をシェアする