クラウドと脅威レポート:エンタープライズ内のAIアプリ

コンテンツ一覧

Report Highlights エグゼクティブサマリー人気が高まるAIアプリ AIリスク - 機密データ日和見主義的な攻撃者エンタープライズ制御推奨事項このレポートについて Netskope Threat Labs

9 min read

Report Highlights

企業におけるAIアプリの利用は指数関数的に増加しており、過去2カ月間で22.5%増加しています。
ChatGPTは企業で最も人気のあるAIアプリであり、Google Bardは企業で最も急速に成長しているAIアプリであり、どちらも大きな差をつけています。
ソースコードは、他のどの種類の機密データよりも多くChatGPTに投稿されており、その割合は企業ユーザー10,000人あたり月間158件の割合です。
攻撃者は、ChatGPTを取り巻く誇大広告を利用しようと、AIアプリ詐欺やフィッシングサイトを作成しています。
DLPとユーザーコーチングは、企業が機密データの露出を防ぎながらAIアプリの使用を可能にするために使用する最も一般的なタイプの制御です。

エグゼクティブサマリー

AIをめぐる会話は、AIが人類にもたらす可能性のある潜在的な機会や脅威など、実存的な問題に集中することがよくあります。しかし、世界中の組織とそのリーダーは、より差し迫った懸念に取り組んでいます。それは、AI アプリを安全かつ確実に使用するにはどうすればよいかということです。

組織は、AI アプリケーションを活用して業務を強化し、顧客エクスペリエンスを向上させ、データに基づく意思決定を促進しようと努めています。重要なのは、安全・安心を確保しながらこれを実現することです。ただし、主なセキュリティのハードルは、一部のユーザーがこれらのアプリケーションをどのように使用するかにあります。

例えば、ChatGPTは、ソースコードのセキュリティ上の欠陥を確認したり、書かれたコンテンツの編集を支援したりするために使用できます。 ChatGPTは、この非常にエグゼクティブな要約を編集するために使用されました。必然的に、一部の個人は、規制対象のデータや知的財産を含む独自のソースコードやテキストをアップロードします。課題は、組織全体の生産性を阻害することなく、このような行為を抑止することです。 AI アプリケーションを完全にブロックすればこの問題を解決できるかもしれませんが、AI アプリがもたらす潜在的なメリットが犠牲になってしまいます。

AIの可能性を中心とした誇大広告に囲まれ続ける中、ChatGPTやその他のAIアプリが企業の主力になりつつあることは明らかです。 Netskope の顧客の間では、その人気は飛躍的に高まっており、現在のペースで成長し続ければ、今後 7 か月以内に 2 倍になると予想されています。このレポートでは、企業における AI アプリケーションの重要性の高まりについて詳しく調べ、データ漏洩や潜在的な攻撃者の活動などの関連するリスクを概説し、ChatGPT やその他の AI ツールを企業環境に安全かつ確実に統合するための戦略を提案します。

AIリスク - 機密データ

このセグメントは、企業の主要なAIアプリであるChatGPTに焦点を当てています。平均的な ChatGPT ユーザーは、毎日 6 つのプロンプトを投稿してアプリを操作します。アクティビティレベルはユーザーによって異なり、上位 10% のユーザーが毎日 22 件のプロンプトを投稿し、上位 1% のユーザーが 68 件のプロンプトを投稿しています。組織では、ユーザー 10,000 人ごとに、ChatGPT への 1 日あたりのプロンプトが約 660 件になると予想されます。しかし、本当の問題は、これらのプロンプトの内容にあります:それらは無害なクエリですか、それとも誤って機密データを明らかにしますか?

Netskope の調査によると、ソースコードが最も頻繁に公開される機密データの種類であり、10,000 人の企業ユーザーのうち 22 人が毎月 ChatGPT にソースコードを投稿していることがわかりました。合計すると、この 22 人のユーザーは、月に平均 158 件のソースコードを含む投稿を担当しています。この傾向は、ChatGPTのコードのレビューと説明、バグやセキュリティの脆弱性を特定する能力を考えると、まったく予想外ではありません。これらのサービスは有益ですが、ChatGPTと機密のソースコードを共有すると、潜在的なデータ侵害、偶発的なデータ開示、法的および規制上のリスクなどのリスクが生じます。

月間 10,000k エンタープライズユーザーあたりの機密データを投稿するユーザー

ソースコードと比較すると、他の形式の機密データを含む投稿は比較的少ないです。企業ユーザー10,000人につき、規制対象データ(財務データ、医療情報、個人を特定できる情報を含む)の共有は、通常18件発生しています。知的財産(ソースコードを除く)はさらにまれで、ユーザー10,000人あたり月に平均4件のインシデントが発生しています。興味深いことに、パスワードとキーは、共有される機密データの種類の中にも含まれており、通常はソースコードに埋め込まれています。比較的頻度が低い (毎月 10,000 人のユーザーあたり約 4 件のインシデント) にもかかわらず、このプラクティスは、ソフトウェアエンジニアに対して、シークレットをソースコードにハードコーディングするリスクについて重要な注意喚起として機能します。

10,000kエンタープライズユーザーあたりの機密データを投稿するユーザーのインシデント/月

日和見主義的な攻撃者

ChatGPTやAIアプリを取り巻くすべての誇大宣伝を考えると、詐欺師、サイバー犯罪者、およびその他の攻撃者が誇大広告を悪用して違法な利益を得ようとするのは当然のことです。これは、攻撃者にとって一般的な方法です。たとえば、 2023 年春の Netskope Threat Labs クラウドおよび脅威レポートでは、ロシアとウクライナの戦争、トルコとシリアでの地震、シリコンバレー銀行の破綻を利用しようとする攻撃者が強調されていました。 ChatGPT の誇大宣伝と人気は、ターゲットプールが大きく、利益を得る可能性があり、プラットフォーム上のユーザーの熟練度が多様であることから、攻撃者や詐欺師の注目を集めています。

Netskope Threat Labs は、2023 年上半期を通じて、ChatGPT の誇大宣伝に乗じようとする複数のフィッシングキャンペーン、マルウェア配布キャンペーン、スパムや詐欺の Web サイトを追跡しました。 Netskope Threat Labs は、チャットボットへの無料かつ認証されていないアクセスという利点を提供しているように見えるが、すべてのプロンプトと応答がプロキシオペレーターに公開されるという代償を払うサイトである、複数の ChatGPT プロキシを追跡しています。

プロキシオペレーターがすべてのプロンプトと応答を見るChatGPTプロキシ

Netskope Threat Labs は現在、ChatGPT と AI の誇大宣伝に乗じて利益を得ようとする悪意のある URL とドメインを合計で 1,000 件以上追跡しています。この数字だけでも、重要なイベントやトレンドを取り巻く誇大広告や人気を利用しようとする攻撃者からユーザーを保護するために、多層的なアプローチを使用することの重要性を思い出させてくれます。このようなアプローチには、既知と未知の攻撃の両方から保護するためのドメインフィルタリング、URL フィルタリング、およびコンテンツ検査を含める必要があります。

エンタープライズ制御

ChatGPT が最初に人気を集め始めた頃は、企業がチャットボットを完全にブロックするのが一般的でしたが、その後、ChatGPT やその他の AI アプリが、業務の強化、顧客体験の向上、データに基づく意思決定の促進など、組織にメリットをもたらすことができるという事実が組織にも認識されるようになりました。組織は ChatGPT をブロックする代わりに、通常は DLP とユーザーコーチングの組み合わせを含む、より許容度の高いモデルに移行しました。 DLPは、ChatGPTを含むAIアプリに投稿される可能性のある機密データを特定するために使用でき、ユーザーコーチングは、プロンプトで進めるかどうかの最終決定をユーザーに任せることができます。

ChatGPTに制御を設ける組織

ChatGPT に関する具体的なコントロールは、業界によって異なります。全体として、金融サービス、ヘルスケア、テクノロジー企業が、ChatGPTに関する制御の実装を主導してきました。しかし、各業界が採用しているアプローチは大きく異なります。金融サービスとヘルスケアはどちらも規制が厳しい業界であり、ほぼ 5 分の 1 の組織が全面禁止を実施しています。 ChatGPTを使用することはできません。テクノロジー業界では、全面禁止を実施している組織は 20 社中 1 社のみです。代わりに、4 分の 1 の組織が DLP コントロールを使用して、ChatGPT に投稿される特定の種類の機密情報 (特にソースコード) を検出しています。さらに、テクノロジー組織の 5 社に 1 社は、リアルタイムのユーザーコーチングを実施して、会社のポリシーや ChatGPT やその他の AI アプリに伴うリスクをユーザーに思い出させています。最終的には、より多くの組織が、ChatGPT のような AI アプリの使用を可能にしながら、不要なデータの漏洩を防ぐため、時間の経過とともに DLP 制御とリアルタイムのユーザーコーチングを採用するようになるでしょう。

業界別の ChatGPT コントロールの種類

推奨事項

企業でのAIアプリの採用を安全に実現することは、多面的な課題です。これには、許可されたアプリを特定し、組織をリスクから保護しながらユーザーがアプリを最大限に活用できるようにする制御を実装することが含まれます。このセクションには、AI アプリを安全に有効にすることを目指す組織向けの一般的な技術的な推奨事項が記載されています。 Netskope がどのように役立つかの詳細については、 ChatGPT および Generative AI データ保護ソリューション概要を参照してください。

→ AI アプリのアクティビティ、傾向、動作、データの機密性を定期的に確認し、組織に対するリスクを特定します。

→ 正当なビジネス目的を果たさないアプリや、不均衡なリスクをもたらすアプリへのアクセスをブロックします。良い出発点は、現在使用されている評判の良いアプリを許可し、他のすべてのアプリをブロックするポリシーです。

→ DLP ポリシーを使用して、ソースコード、規制対象データ、パスワードとキー、知的財産などの潜在的に機密性の高い情報を含む投稿を検出します。

→ リアルタイムのユーザーコーチング（DLP と組み合わせて）を採用し、インタラクション時に AI アプリの使用に関する会社のポリシーをユーザーに思い出させます。

AIアプリの人気の高まりに乗じて、既知の悪意のあるドメインとURLをブロックし、すべてのHTTPおよびHTTPSコンテンツを検査することで、日和見的な攻撃者をブロックします。

→ 新しく確認されたドメインや新しく登録されたドメインなど、リスクが高い可能性のあるカテゴリの Web サイトにアクセスする必要がある場合は、 Remote Browser Isolation (RBI)テクノロジを使用して追加の保護を提供します。

→ すべてのセキュリティ防御がインテリジェンスを共有し、連携してセキュリティ運用を効率化することを確認します。 Netskope のお客様は、 Cloud Exchangeを使用して IOC を共有し、脅威情報をインポートし、イベントログをエクスポートし、ワークフローを自動化し、リスクスコアを交換できます。

このレポートについて

Netskope Threat Labs は、四半期ごとにクラウドと脅威レポートを発行し、サイバーセキュリティの特定の課題を強調しています。このレポートの目的は、AI アプリがもたらすサイバーセキュリティリスクと、組織がそれらのリスクをどのように管理しているかを可視化することです。このレポートで提示された分析は、2023 年 5 月 1 日から 2023 年 6 月 30 日までの期間、世界中の数千の組織の数百万人のユーザーを対象とした調査に基づいています。統計は、攻撃者の戦術、ユーザーの行動、組織のポリシーを反映しています。このレポートに記載されている情報は、事前の承認を得てNetskopeの顧客のサブセットに関連して Netskope One プラットフォームによって収集された匿名化された使用状況データに基づいています。

Netskope Threat Labs

業界屈指のクラウド脅威およびマルウェア研究者が在籍するNetskope Threat Labs は、企業に悪影響を及ぼす最新のクラウド脅威に対する発見、分析および防御策の設計を行なっています。クラウドフィッシング、詐欺、マルウェア配信、コマンド＆コントロール、データの抜き出しやデータの暴露など、クラウド関連の脅威に関する独自のリサーチと詳細な分析を用いることで、同ラボは、Netskopeのお客様を悪意ある脅威アクターから守り、研究、助言、ベストプラクティスを通じてセキュリティの世界的コミュニティに貢献しています。同ラボはシリコンバレーを始めとする世界各地で企業の設立・経営に携わった経験を持つセキュリティ研究者やエンジニアによって率いられており、本社を拠点に世界中に展開しています。同ラボの研究者は、DefCon、BlackHat、RSAなどを含む最も権威あるセキュリティ会議に定期的に参加し、登壇者およびボランティアとして尽力しています。

企業における AI アプリ