本文の内容は、2024年6月10日に ERIC CARTER が投稿したブログ（https://sysdig.com/blog/ai-workload-security-for-aws)を元に日本語に翻訳・再構成した内容となっております。
クラウド内の AI ワークロードのセキュリティを強化するために、Sysdig は最近リリースしたAI ワークロードセキュリティをAmazon Bedrock、Amazon SageMaker、Amazon Q などの AWS AI サービスに拡張しました。この機能強化により、AWS AI サービス ユーザーは AI ワークロードを保護し、AI の進化のスピードに対応できるようになります。
Sysdig の AWS AI サービス向け AI ワークロードセキュリティは、AI ワークロードへの不正アクセスによって企業秘密、専有情報、顧客データが漏洩するリスクに対抗するデータ セキュリティ対策を確立するために必要な可視性を提供します。組織内のAIの保護とコンプライアンスについて不安がある場合は、一般的なリスクと、ビジネスにおけるAIのセキュリティ、機密性、完全性を確立し維持するために今できることについて学ぶために読み進めてください。
増大するAIセキュリティの課題
GenAI は大きな可能性を秘めていますが、多くの場合、膨大な量の機密トレーニングデータが含まれています。組織は、プライバシー、サイバー攻撃、規制遵守、知的財産の侵害など、さまざまなセキュリティ上の懸念に備える必要があります。
脅威アクターが AI を使用して高度な攻撃を実行し、AI システムの整合性を侵害する可能性があるという懸念があります。AI サービスを取り巻く規制の強化は、問題を悪化させるだけです。世界中の規制により、組織は GenAI の使用に対する適切なガバナンスと監視を確実に行うよう圧力を受けています。
Amazon Bedrock、Amazon SageMaker、Amazon Q 向け AI ワークロードセキュリティ
Amazon Bedrock、Amazon SageMaker、Amazon Q などの AWS AI 関連サービスは、GenAI ベースのアプリケーションの開発を容易にします。AWS は統合の柔軟性を提供し、業界をリードする基礎モデル (FM) の使用を選択でき、エンタープライズレベルのセキュリティとプライバシー制御が組み込まれています。
- Amazon Bedrock :生成 AI アプリケーションを構築するために、Anthropic、Cohere、Mistral AI、Amazon などの多くの AI 企業の基礎モデル (FM) をサポートするフルマネージド サービスです。
- Amazon Q :顧客のデータと情報に基づいて、質問に答え、要約を提供し、コンテンツを生成し、タスクを完了する GenAI 搭載アシスタント。
- Amazon Sagemaker :高性能で低コストの機械学習 (ML) のためのフルマネージドサービス。大規模な AI モデルの構築、トレーニング、デプロイに使用される基盤モデルを提供します。
組織はこれらの AI ツールを使用して、特定のユースケースと顧客のニーズを満たすカスタマイズされた生成 AI ソリューションを構築および拡張しています。
AIセキュリティギャップを埋める
AI リスクに対処するには、セキュリティ運用のペースと速度を向上させる必要があります。多くの組織では、AI ワークロードを保護し、関連するリスクを特定するために必要な専門知識が不足しています。他のクラウド サービスと同様に、実稼働環境で露出している脆弱性や AI の要求と応答を操作しようとする試みなど、AI ワークロードに対するアクティブなリスクを優先することが重要です。包括的な可視性がない場合、組織はAIが役に立つどころか害を及ぼすことに気づくかもしれません。
統合リスク管理とリアルタイム インサイト
Sysdig は、セキュリティ対応におけるスピードの重要性を理解しています。この目的のために、オープンソースの Falcoを作成しました。リアルタイムの脅威検出による自動検出を適用することで、AI サービスを使用するアプリケーションの可視性を高めることができます。私たちの目標は、正当なものも悪意のあるものも含め、AI の使用を管理および制御できるようにすることです。AWS AI サービスを使用して構築している AWS ユーザーが現在利用できる機能のいくつかを見てみましょう。
AIリスクの可視化
Sysdigの統合リスク検索機能は、相関するリスクやイベントの統合ビューを提供します。AIユーザーにとって、これはAIリスクの優先順位付け、調査、および軽減のワークフローを効率化するのに役立ちます。私たちのCloud Attack Graphは、リスクの優先順位付け、攻撃経路分析、およびインベントリを統合して、特定のリスクに関する詳細な包括的なビューを提供します。これらのリスクの発生場所から対応する脆弱性、検出されたアクティブな脅威に至るまでの全体的なコンテキストを提供することにより、Bedrock、Q、およびSagemakerに関するセキュリティ問題を迅速に軽減するための行動を取ることができます。
AIインベントリの確認
多くの組織にとって重要な懸念事項は、AI がどこに導入され、使用されているかを知ることです。インベントリ機能は、ストレージや IAM ポリシーやロールなど、AI パッケージが実行されているか、または AI パッケージに関連するクラウド環境内のリソースを特定するのに役立ちます。この可視性により、公開されているかどうかなど、AI 導入に関連するセキュリティ体制のさまざまな側面を確認できます。
AI ワークロード検出と対応
Sysdig のランタイム ポリシーエンジンを使用すると、AI ワークロードの検出および応答ルールを選択して適用できます。Falco 上に構築されたさまざまな検出を適用して、システムコール、Kubernetes 監査、AWS CloudTrailなどのさまざまな利用可能なソースを使用してアクティビティを観察できます。これにより、AI サービスを発見して悪用しようとする偵察活動やデータの改ざんなど、AI ワークロードを危険にさらす可能性のあるアクティビティを特定できます。
ルールがトリガーされると、Sysdig はイベントに関連するすべてのコンテキストと詳細を記録して表示します。これにより、問題を評価し、必要に応じてさらにアクションを実行することができます。Sysdig には数十の管理ポリシーが付属しており、脅威調査チームとエンジニアリング チームが頻繁に更新して、既知の敵対的戦術に常に対応できるようにしています。
AIセキュリティの未来に備える
組織が AI を自社のソフトウェアに統合しようと競い合う中、AI のリスクを理解して管理することは非常に重要です。Sysdig は AWS と連携して、お客様が AI が提供する効率性とスピードを安全に活用できるようにしています。AWS は Bedrock、Q、Sagemaker などのソリューションで重要な構成要素を提供し、Sysdig のリアルタイム AI ワークロード セキュリティにより、組織は AI のメリットを自信を持って安全に活用できます。
AWS と Sysdig は、組織が AI イノベーションをより適切に保護できるよう支援する準備ができています。Sysdig のCNAPPソリューションを AWS AI サービスに拡張することで、AI 関連のビジネス ソリューションに対する高まる需要を満たすための追加のセキュリティレイヤーが提供されます。
SysdigがどのようにしてAIワークロードを保護するのかについて詳しく知るために、ウェビナー「公開された環境でGenAIワークロードを保護する方法」をご覧ください。