本文の内容は、2024年4月30日に MATT KIM が投稿したブログ（https://sysdig.com/blog/ai-workload-security-for-cnapp/)を元に日本語に翻訳・再構成した内容となっております。
クラウドでアプリケーションを保護する場合、適応は単なる戦略ではなく必須です。私たちは現在、AI の大幅な導入による大きな変化を経験しており、企業の運営方法が根本的に変化しています。自動化による効率の最適化から、スピードとパーソナライゼーションによる顧客エクスペリエンスの変革に至るまで、AI は開発者にエキサイティングな新機能を提供してきました。 AI の利点は否定できませんが、この変化する状況を理解しようとしている組織にとって、AI は依然として新興テクノロジーであり、本質的なリスクをもたらします。そこでSysdigの出番です。組織のAI開発を保護し、イノベーションに焦点を当て続けます。
本日、 AI 環境に関連するアクティブなリスクを特定して管理するためのAI ワークロード セキュリティのリリースを発表できることを嬉しく思います。クラウド ネイティブ アプリケーション保護プラットフォーム ( CNAPP ) へのこの新たな追加により、セキュリティチームは AI 環境を確認して理解し、AI パッケージを含むワークロード上の不審なアクティビティを特定し、問題に優先順位を付けて迅速に修正できるようになります。
AI がゲームを変えた
昨年の AI の爆発的な成長により、多くの組織がアプリケーションを構築する方法が変わりました。 AI は急速にあらゆる業界の主流のトピックとなり、経営陣や取締役会の焦点となっています。テクノロジーの進歩により AI への多額の投資が行われており、組織の 3 分の 2 以上が今後 3 年間であらゆる業界で AI への投資を増やすと予想されています。特に GenAI はこの傾向の主要な触媒であり、この関心の多くを推進しています。 Cloud Security Alliance の最新のAI およびセキュリティの現状に関する調査レポートでは、組織の 55% が今年 GenAI ソリューションの導入を計画していることがわかりました。 Sysdig の調査では、2023 年 12 月以降、OpenAI パッケージの導入が 3 倍近く増加していることも判明しました。
GenAIのワークロードをデプロイする企業が増える中、KubernetesはAIのデプロイプラットフォームとして選ばれるようになりました。大規模言語モデル (LLM) は、大量のテキストデータから学習してコンテンツを分析および生成できる、多くの GenAI アプリケーションの中核コンポーネントです。 Kubernetes には、LLM にとって理想的なプラットフォームとなる多数の特徴があり、スケーラビリティ、柔軟性、移植性などの点で利点をもたらします。 LLM の実行には大量のリソースが必要ですが、Kubernetes はリソースを自動的にスケールアップおよびスケールダウンできると同時に、LLM をコンテナワークロードとしてさまざまな環境に簡単にエクスポートできます。 GenAI ワークロードを導入する際の柔軟性は比類のないもので、OpenAI、Cohere などのトップ企業が LLM に Kubernetes を採用しています。
機会からリスクへ: AI におけるセキュリティへの影響
AI は急速に進歩し続けていますが、AI の導入が広く採用されると、まったく新しいセキュリティリスクが生じます。 Cloud Security Alliance の調査によると、セキュリティ専門家の 31% が AI はセキュリティ チームと悪意のある第三者にとって同等の利益をもたらすと信じており、さらに 25% が悪意のある第三者にとって AI の方が有益であると信じていることがわかりました。 Sysdig の調査では、現在デプロイされているすべての GenAI ワークロードの 34% が公的に公開されており、適切なセキュリティ対策が講じられていないと、インターネットまたは別の信頼できないネットワークからアクセスできることもわかりました。これにより、セキュリティ侵害のリスクが高まり、GenAI モデルで利用される機密データが危険にさらされます。
Sysdig は、現在デプロイされているすべての GenAI ワークロードの 34% が
一般に公開されていることを発見しました。
クラウドにおける AI セキュリティの重要性を浮き彫りにするもう 1 つの進展は、バイデン政権の 2023 年 10 月の大統領令によって提案され、3 月に国家電気通信情報局 (NTIA) からの勧告を受けて、今後のガイドラインと AI の監査と規制に対する圧力の増大です。欧州議会も2024 年 3 月にAI 法を採択し、リスク管理、透明性、その他の問題に関する厳しい要件を導入しました。この差し迫った AI 法案に先立ち、組織は環境内で AI を保護および監視する自社の能力を評価する必要があります。
多くの組織では、AIワークロードのセキュリティ確保やAI環境に関連するリスクの特定に関する経験が不足しています。組織の他のクラウド環境と同様に、使用中のAIパッケージの脆弱性や、AIのリクエストとレスポンスを変更しようとする悪意のあるアクターなど、AIワークロードに関連するアクティブなリスクに優先順位を付けることが重要です。AIリスクを完全に理解し、可視化しなければ、AIが益よりも害をもたらす可能性があります。
AI ワークロード セキュリティでアクティブな AI リスクを軽減
お客様が AI を安全に導入できるよう、Sysdig CNAPP においてAI ワークロードセキュリティを発表できることを嬉しく思います。 AI ワークロードセキュリティを使用すると、セキュリティチームは、OpenAI や Tensorflow などの主要な AI エンジンとソフトウェア パッケージを使用して環境内のワークロードを特定して優先順位を付け、これらのワークロード内の不審なアクティビティを検出できます。これらの新機能を使用すると、組織は現在進行中の主要な AI リスクをリアルタイムで可視化し、チームが即座に対処できるようになります。 Sysdig は、組織が AI の使用を管理およびコントロールできるように支援します。AI の使用が正式なものであるか、適切な承認を得ずに導入されているかに関係なく、組織はイノベーションの加速に集中できます。
Sysdig の AI ワークロード セキュリティは、Sysdig プラットフォームのニューラル センターであるCloud Attack Graphと連携し、リスク優先順位付け、攻撃経路分析、インベントリ機能と統合して、相関するリスクとイベントを単一のビューで表示します。
AI ワークロード セキュリティの実際の動作
リアルタイム AI ワークロード セキュリティの導入により、企業は AI 環境に関連する最も重大なリスクに優先順位を付けることができます。 Sysdig のリスクページでは、リスクをスタックでランク付けして表示し、クラウド環境全体でどのような調査結果とコンテキストの組み合わせに直ちに対処する必要があるかを評価します。公開された AI パッケージは、他のリスク要因とともに強調表示されます。以下の例では、次の結果から重大なリスクがわかります。
- ワークロードが公開されている
- AIパッケージが含まれている
- 使用中のパッケージ上で実行されるエクスプロイトによる重大な脆弱性がある
- 信頼度の高いイベントが含まれている
調査結果の組み合わせに基づいて、ユーザーは、露出した AI ワークロードが生み出すリスクの重大度を判断できます。また、ワークロード上のどのパッケージで AI が実行されているか、これらのパッケージの脆弱性がパッチで修正できるかどうかなど、リスクに関するより多くのコンテキストを収集することもできます。
これらのリスクをより深く掘り下げるために、攻撃経路分析を使用して、リソース間の悪用可能なリンクをより視覚的に表現することもできます。 Sysdig は、AI パッケージを含むワークロードに関係する潜在的な攻撃経路を明らかにし、これらのワークロード上の脆弱性、構成ミス、ランタイム検出などの他のリスク要因とどのように相関するかを示します。ユーザーは、ワークロード上で実行されているどの AI パッケージが使用されているか、脆弱なパッケージをどのように修正できるかを確認できます。 AI ワークロード セキュリティの機能を利用すると、ユーザーは AI モデルとデータに関係する重要な攻撃経路を迅速に特定し、リアルタイムイベントと関連付けることができます。
Sysdig を使用すると、AI パッケージが実行されているクラウド環境内のすべてのリソースをユーザーが識別できるようになります。 AI Workload Security は Sysdig のInventoryを強化し、ユーザーがワンクリックで AI パッケージを含むリソースの完全なリストを表示し、これらのリソースのリスクを特定できるようにします。
もっと詳しく知りたいですか?
これらの新機能を備えれば、アクティブな AI リスクを防御するための十分な準備が整い、組織が AI の利点を最大限に活用できるようになります。これらの進歩により、当社の最高評価の CNAPP ソリューションに追加のセキュリティ層が提供され、当社の適用範囲がクラウド全体にさらに拡大されます。Sysdig の主要な CNAPP について詳しくは、ここをクリックしてください。
Sysdig の動作を確認する
Kraken Discovery Labに登録して、実際のクラウド攻撃を実行し、防御側の役割になりきって検出、調査、対応をチャレンジしてみましょう！