Google Cloud、クラウドやモデルを横断してAIワークロードとデータを保護する「AI Protection」を発表

　米Google Cloudは、使用するプラットフォームに関わらずクラウドやモデルを横断して、AIワークロードとデータを保護する機能セット「AI Protection」を、3月6日（現地時間）に発表した。

　AI Protectionは、以下の手法によってAIリスクの包括的な管理をサポートする。

• 環境内のAIインベントリの検出と、潜在的な脆弱性の評価
• 制御、ポリシー、ガードレールによるAIアセットの保護
• 検出、調査、対応の機能によるAIシステムに対する脅威の管理

　同機能は、Google Cloudのマルチクラウドリスク管理プラットフォームであるSecurity Command Center（SCC）と統合されており、AIの状況を1か所で把握してAIリスクを他のクラウドリスクと関連付けて、総合的に管理できる。

　Sensitive Data Protection（SDP）は、自動データ検出の範囲をVertex AIデータセットに拡張することで、トレーニングデータとチューニングデータの機密性とデータ型の把握を可能にしており、トレーニングデータのデータ型と機密性に関する詳細な分析情報を提供する、データプロファイルの生成にも対応している。

　機密データが存在する場所がわかると、AI ProtectionはSCCの仮想レッドチーミングによって、AI関連の有害な組み合わせと脅威アクタがデータを侵害するために利用する可能性のある経路を特定し、脆弱性を修正してポスチャを調整するための手順を推奨してくれる。

　あわせて、プロンプトインジェクション、ジェイルブレイク、データ損失、悪意のあるURL、不快なコンテンツから顧客を保護する、Model Armorの一般提供が開始されており、複数のクラウドにわたる幅広いモデルをサポートするため、使用するモデルやプラットフォームが将来的に変化しても一貫した保護が提供される。

　開発者は、REST APIを使用するかApigeeとの統合を通じて、Model Armorのプロンプトと回答のスクリーニングをアプリケーションに簡単に統合できるようになった。また、Vertex AIとGoogle Cloudネットワーキングプロダクトのインテグレーションによって、アプリを変更することなくModel Armorのインラインでのデプロイを可能にする機能の、近日中の提供も予定している。

　一方、組織はSCCでポスチャを適用することで、AI Protectionを使用してVertex AIアプリケーションのセキュリティを強化でき、これらのポスチャはVertex AIアーキテクチャのファーストパーティナレッジに基づく設計によって管理され、安全なリソース構成を定義し、ドリフトや不正な変更防止を支援する。

　さらに、GoogleとMandiantのセキュリティインテリジェンスと調査を運用化することで、AIシステムの防御支援が可能となっており、SCCの検出機能を使ってAIワークロードの初期アクセス試行、権限昇格、永続化試行を検出できる。また、まもなくリリースされる最新かつ最前線のインテリジェンスに基づく、AI Protectionの新たな検出機能を使用すれば、基盤モデルの乗っ取りといったランタイムにおける脅威の特定・管理が可能になる。