エージェントAIの脅威：誇大広告か現実か

0:00:01 Max Havey:こんにちは。Security Visionaries の最新版へようこそ。Security Visionaries は、サイバー データと技術インフラストラクチャの世界を特集したポッドキャストで、世界中のさまざまな分野の専門家が集まっています。司会のマックス・ヘイヴィーです。今日は、AI の脅威とサイバースパイ活動に関して、誇大宣伝と現実を解明するために全力を尽くします。そして私と一緒に、このテーマに関して深い考えを持つ本当に素晴らしいゲストが 2 人います。まず最初に登場するのは、Netskope Threat Labs の責任者、Ray Canzanese 氏です。レイさん、番組にようこそ。

0:00:29 Ray Canzanese:こんにちは、マックス、招待してくれてありがとう。久しぶりですね。

0:00:32 マックス・ヘイヴィー：そうなんですよ。そうですよ。おそらく数年ぶりですが、ポッドキャストにまた戻ってきてくれて嬉しいです。2人目は、最近私たちの Hackers エピソードで紹介された、Netskope のグローバル プライバシーおよびデータ保護責任者である Neil Thacker 氏です。おかえりなさい、ニール。

0:00:45 ニール・サッカー:ありがとう、マックス。90年代に最後に来たときにまた招待してくれてありがとう。2020年代に戻りました。

0:00:51 マックス・ヘイヴィー:話を現在形にしましたね。今回は、将来を見据えた会話をします。素晴らしい。最近、サイバースパイ活動における AI を利用した脅威について多くの議論が行われています。最も注目すべきは、一部の批評家が指摘した、史上初の AI によるサイバースパイ活動に関する Anthropic のレポートには、裏付けとなる重要な証拠がいくつか欠けている点です。しかし、その詳細に入る前に、レイとニール両名が、2026年を見据えて、農業エージェントによるフィッシングやデータ侵害の将来における AI 対応の脅威についていくつかの考えを述べてくれたことを私は知っています。それでは、そこから始めましょう。 ニールさん、2026 年はおそらく AG エージェントによる AI 主導のデータ侵害が初めて発生する年になるだろうという最近の予測について説明していただけますか?

0:01:35 ニール・サッカー：はい、もちろんです。つまり、私は少しイライラしています、Anthropic、私はこれを 2025 年に強調しました。私は2026年を予測しました。しかし、その理由は、サイバーセキュリティにおける AI に関して、私たちが転換点に達したと感じているからです。明らかに多くの組織が AI テクノロジーを開発、導入し、既存の機能を強化していますが、防御機能にも AI テクノロジーを活用しています。 ですから、もちろん、2026 年に攻撃的なスタイルの攻撃が見られるだろうということは明らかな観察結果であり、それは何も新しいものではありません。私たちは長年にわたり、攻撃者が攻撃を開始するために使用できるテクノロジーやツールを持っており、もちろんその洗練度は向上しています。 ですから、私にとっては、私たちが向かう先を見据えて、これはもうすぐ来るだろう、2025年でなくても2026年には来るだろうと認識したのです。しかし、私たちはこれを目の当たりにしています。多くの組織が AI、防御攻撃に関してこの軍拡競争に備えており、この種の結果に備えているのです。

0:02:40 マックス・ヘイヴィー：その通りです。レイさん、あなたのチームもこの件に関していくつかの予測を立てたと知っています。あなたはそれに対してどのように反応しますか、そして、高齢化が進むエージェントの懸念に関して、あなたのチームから何か予測はありますか?

0:02:53 Ray Canzanese:ええ、ニールと同じように、私たちはこれに関して両方の予測を持っていましたよね?一方では、攻撃者は攻撃を増幅したり、攻撃を合理化したりするためのテクノロジーを使います。 そこには、まず第一に、攻撃を開発するのがより速く、よりアクセスしやすくなるというリスクがあります。2 つ目は、特定のことに関しては非常に優れていることです。もしマックスが誰かにパスワードなどを漏らすように説得しようとしている偽のビデオを作りたいと思ったら、今日のテクノロジーを使えばそれはかなり簡単にできるでしょう。そのため、ソーシャル エンジニアリングとフィッシングが増加すると予想されます。そしてその一方で、組織がこうしたテクノロジーをさらに導入し、ベストプラクティスに従わなかったり、あるいは誰も考えていなかった新たなリスクが発生したりして、侵害が発生するリスクも高まります。したがって、AI セキュリティについて話すときは、単に AI をハッカーの手に渡さないようにするだけではなく、AI を使うときは安全かつ責任を持って使うようにすることも重要です。

0:04:05 Max Havey:まさに諸刃の剣ですね。これは保護の側面ですが、また、これを 使う ことで、人々がそれを 使う 安全な方法で、その過程で誤って情報が漏洩することがないようにすることも目的です。 これらすべてを念頭に置いて、慈善活動のレポートに戻りますが、あなたの見解では、なぜこのレポートには、このような大規模なもの、つまり今回のような史上初の AI を利用したサイバースパイ活動に関して、他の人々がそこから学ぶことができるような、この種のレポートに含まれる通常の有用なデータがこれほどまでに欠けていたのでしょうか。

0:04:39 Ray Canzanese:簡単に答えると、マーケティングにはこれ以上の詳細が必要ないからだと思います。マーケティングでは、製品がいかに強力であったか、そしてその力を行使する際にどれほど責任を持っていたかを語らなければなりません。 したがって、マーケティングの観点からは理にかなっています。したがって、このようなことが起こり、実際に攻撃を妨害しているのであれば、それは理にかなっています。それをすぐに押し出したいはずです。そうすれば、あなたのために働いている全員が気分よくなり、多くの人がポッドキャストでこのことについて話すようになるでしょう。本当に優れたマーケティングは、おそらくもう少しシニカルなものになるでしょう。非常に優れた技術を開発した分野の先駆者であれば、「ここで私たちが構築したものは非常に危険です。だから、他の人には私たちが構築したものを作らせてはいけません。他の人には信頼できないからです。しかし、私たちがここで正しいことをしているのがわかるので、あなたは私たちを信頼できます」と言い回れば、それは可能だと思います。つまり、これは少し皮肉な言い方ですが、マーケティング以上のもので、おそらくもっと多くの企業が同じことをできるようにすべきだという、少し賢いビジネス感覚の話なのかもしれません。

0:05:51 マックス・ヘイヴィー：その通りです。そうですね、つまり、AI に関しては非常に大きな可能性があるのに、これまで多くの人にとって、特にこのように真っ先に飛び込むことに少し不安を感じている人にとっては、ブラックボックスのようなものだと考えられてきたというのが、ある意味興味深いことだと思います。皆さんは、このような主張がどれほど正確であるか、予想できますか?これはマーケティングにはいいし、この技術がいかに強力であるかを示すのにもよいことですが、実際の攻撃などとして、これがどれほど信頼できると思いますか?

0:06:25 Neil Thacker:ええ、つまり、必ずしもユニークというわけではありませんでした。つまり、発生した攻撃のスタイルを見ると、それは多くの攻撃者が長年にわたり行ってきたのと同じ種類のパターンでした。だから、特に目新しいことではないんです。それは何も特別なことではありません。ですから、この情報を共有することで、明らかにこのようなことが起こったのだが、とにかくこの種の攻撃から学ぶ驚くべきことは何もないのだ、と私は改めて考えます。改めて思うに、エキサイティングな部分、ユニークな部分は、これが AI エージェントによって完全に調整されたことです。したがって、これらの原則に従って行動するという点では、人間からよく学ばれます。これを見ると、非常によく似たパターンに従っていることがわかります。偵察を行い、攻撃対象領域のマッピングを行い、脆弱性を発見し、クレデンシャル収集を行い、データ収集の最終段階を経ました。 つまり、私たちは何年も同じパターンをたどってきたのです。

0:07:17 ニール・サッカー：本当にエキサイティングなのは、おそらくそれほど多くのステップを踏まずにこれを行う新しい方法が見つかったかどうかだと思いますが、このことから学ぶという点では、まだそこまでには至っていません。そうですね、私はそういうふうに考えています。もう一度言いますが、私はこれが起こったと信じています。もう一度、レイの指摘に戻りますが、それは彼らが私たちに新しい情報を与えてくれたということでしょうか?いいえ、またしても素晴らしい記事であり、語るべき素晴らしい物語でした。ところで、物語を語ることは良いことです。人々は物語が好きで、物語を通じてこれらのことを学ぶのが大好きですが、やはり技術的な詳細が欠けていますが、それはすぐに実現すると思います。今後、こうしたタイプの攻撃がさらに増えるでしょう。そして、こうした攻撃がなぜ独特なのか、そして、どのように学習していくのかについて、さらに多くの情報が共有されることになるでしょう。また、2016 年に Defcon でサイバー グランド チャレンジの一環としてこのゲームが行われたことを思い出します。そこでは、完全に自律的なマシンがキャプチャー ザ フラッグ ゲームで他のマシンと戦うのが見られました。そして、それは素晴らしいことでした。なぜなら、彼らは脆弱性を発見し、エクスプロイトを仕掛けるうちに、学習もするからです。ですから、これは私たちが備えておかなければならないことです。ちなみに、それは 10 年前のことです。私たちは 10 年前にその理論が可能であることを理解していました。私たちは今、こうしたことがますます多く起こる時代を迎えつつあります。

0:08:31 Ray Canzanese:ニール、それは良い指摘だと思います。私たちは彼らが何かを検知したと確信しています。その理由の1つは、サイバーセキュリティに携わる私たちの多くが、レッドチームの観点からまさにそのようなことをするためにこれらのツールを使ってきたからだと思います。 しばらく前から、これが可能であることはわかっていました。ですから、当然、このような事件はますます増えることになりますが、今回のケースでは、犯人が見つかり、悪意を持って犯行に及んでいると警察は確信したようです。右。それは中国人のPTグループでしたか？わからない。右。そこに証拠は提示されていないが、それは起こったのか？ほぼ間違いなく、はい、それは起こりました。右。ですから、疑問なのは、概念ではなく詳細、そして虐待を発見してそれを止めたかどうかということでしょう。

0:09:20 Max Havey:今後、このような攻撃が報告された場合、人々が将来に向けて学ぶことができるような、より有益なレポートとなるような重要な詳細情報にはどのようなものがありますか?

0:09:34 Neil Thacker:ええ、私はより技術的な詳細情報、つまり、攻撃がどのように行われたか、成功したかどうか、どのように成功したか、ターゲットは何だったのか、どのようなエクスプロイトだったのか、などの詳細を知りたいと思います。このレポートで私が実際に気に入ったのは、新しい用語を使うことでした。これまでに使われていたかは知りませんが、これ、悪用の速度、私の新しいお気に入りのフレーズ、攻撃の運用テンポに焦点が当てられています。 彼らの研究によって、これは人間には不可能であり、したがって AI エージェントが実行する必要があることがわかったのは明らかです。つまり、スピード、速さ、エクスプロイト、使う能力、さらに、追加の種類の脆弱性スキャンなど、これらすべての種類のことです。 私が注目しているのはそういうことです。また将来的には、ここで話しているように、攻撃の点ではいつも難しい、何らかの形で特定し、識別し、帰属先を特定し始めることができる独自の詳細があるかもしれません。もう一度言いますが、これは人間による攻撃なのか、それとも機械による攻撃なのかを特定できるでしょうか?それは重要ですか？つまり、それが今私たちが問うべきもう一つの質問なのです。これがまた機械なのか人間なのかを知る必要があります。はい、これは私たちが検討を開始する必要があるところです。これが今後のレポートで必要なことだと思います。これは、自律型ツールによって使用される新しい戦術、テクニックなどをより適切に特定する方法です。

0:10:57 Ray Canzanese:このようなレポートを書いて他の人を助けようとするときに私が思うことの 1 つは、同じ状況にある他の人がその情報を活用して対処できるように十分な詳細を共有することです。したがって、このケースでは、A TP グループがあなたのサービスを攻撃したと信じる場合、LLM をホストし、人々がそれらとやりとりできるようにしているのはあなただけではありません。 そのため、TTP がどのようなものであるかを知りたいと思っている業界が世の中にはたくさんあり、特定の行動をブロックする自社のサービスでも同じことを探し始めることができるのです。こうした種類のレポートでは、今後このような内容がますます多く見られるようになると思います。

0:11:40 マックス・ヘイヴィー：その通りです。また、このような大手 AI プロバイダーからのレポートを見ると、ある種の疑問が湧きます。レイさんも少し触れたと思いますが、AI 企業はなぜ AI が悪意のある目的、つまりこのような種類の攻撃などにこれほど効果的に利用されていると示唆したがっているように見えるのでしょうか。 なぜそれが彼らにとって、特にこのようなストーリーテリングの枠組みの中で語られるべき重要な事柄なのでしょうか？

0:12:06 Ray Canzanese:つまり、物語を語るときに、AI を大いに宣伝しているときに、かなり最初にそのことをほのめかしたと思います。この AI は非常に強力で、それが何ができるかを見てください。それは本当にいい話ですね。つまり、これはまさに慈善活動のブランドなのです。彼らがリスクについて語るのはまさに彼らのブランドらしいことだ。なぜなら、リスクについて話し、それをどのように軽減しているかを話し、リスクとその軽減策について考える分野のリーダーとしての地位を確立すれば、ビジネスに役立ち、資金があなたのところに流れ込むのにも役立つからです。

0:12:48 Neil Thacker:これをライオンとライオン・タマーとして考えてみましょう。それはライオンとしての彼らの役割です。彼らは非常に強力な能力を持っていますが、完全に制御しており、特定の方法で使われているかどうかを識別する能力も持っています。 そうですね、それが私がライオンとライオン調教師の能力について言及している類推です。

0:13:07 Max Havey:私もこれは興味深いと思います。最近 MIT で見たデータ ポイントで、企業の AI イニシアチブの 95% が実際に目に見える価値を生み出すことができていないと指摘されていました。それでは、なぜ脅威の主体はそのようなことでより良い結果をもたらすのでしょうか?彼らはただそれをもっといじって、それを破る新しい方法を見つけているだけなのでしょうか?一部の人にとって

0:13:26 Ray Canzanese:ある程度、これは LLM が解決するのが得意な問題を見つけることであり、Neil はすでに、これはこれまで何度も何度も見られてきたものに関して、かなり日常的な攻撃であると指摘しましたね。卒業生たちはそれが得意ですよね？これを自動的に完了します。この攻撃で私が行う必要があることの詳細をすべて記入してください。それがその一部です。ツールに適切な問題を選択すると、そのツールに適した問題が選択されます。したがって、そこで良い結果が得られるのは当然です。多くの組織は、プログラミングタイプのタスクの自動化に関しては良い成果を上げています。これがまさにそれです。

0:14:07 Neil Thacker:スピードを上げるためにこれらのタスクを自動化しています。サイバー セキュリティで私たちが確実に目にしてきたことの 1 つは、侵害への対応をどのように測定するか、組織が長年にわたってこれをどのように行ってきたか、侵害が成功しないようにするために、侵害にどれだけ迅速に対応して被害を軽減し、何らかの制御を行えるかということです。つまり、最終的には、攻撃チェーンの早い段階で介入する必要があるのです。◇ AI についてもう一度見てみると、高速かつ自動化され、拡張も可能な方法で動作するように設計されています。 つまり、これは多くのケースにあるものですが、ai の使用ケースを見ているのであれば、これは素晴らしい使用ケースの 1 つです。 残念ながら、そのため組織に影響が及ぶことになります。なぜなら、大規模な DDoS 攻撃の初期にも同じことが起こったからです。それらのスクリプトはほぼ自動化でき、ターゲット組織はそのように実行します。これを人間がやると、ほとんど効果がないだろう。しかし、私たちはこれをより高度な方法で捉えており、組織を使う特定のテクニックやデータの漏洩などをターゲットにしています。 これが、私たちが目指すところであり、これがこの種の攻撃の現代レベルのスケーラビリティです。

0:15:20 Ray Canzanese:ボットやスクリプトといった言葉を使うのは良いですね。今はそれらをエージェントと呼んでいますが、概念的には同じものです。ボットとスクリプトによってスピードは向上しましたが、ボットやスクリプトを作成する人材が依然として必要でした。ここで役立つ部分は、そうですね、そうですね、今 それらのボットを作成でき、それらのスクリプトをより速く作成でき、特定の組織を対象とした方法で作成できるということです。それが LMS によって可能になるからです。 つまり、スピードとアクセシビリティが少し混ざったということです。おそらく、これらすべてのスクリプトを自分で書くノウハウを持っていなかったか、短期間でそれを実行するための小さなチームを編成する適切なリソースを持っていなかった人がいました。しかし、多数の AI エージェントがあれば、そのタスクを実行するのがはるかに簡単になります。

0:16:09 Neil Thacker:また、彼らは素早く反復できるので、今度は成功しなかったと学習し、1 分後にもう一度実行します。一方、おそらくまた人間の視点からすると、なぜ成功しなかったのかを理解するにはおそらく数時間、数日かかります。これも 10 年前に証明されました。これらのシステムは非常に迅速に反復処理を行ってから、次に進むことができます。そしてもちろん、攻撃を成功させることが目的です。したがって、成功しなかった場合は、その時間を繰り返すことで、すぐに次の段階に移行し、次回はより成功する可能性がある。

0:16:43 Max Havey:そうですね、皆さんが何度も繰り返し言っているのは、これはどれも特に新しいことではないという考えです。これらはすべて、私たちが以前から認識していたもの、または少し前から登場している技術であり、AI によってそれがよりアクセスしやすくなっただけです。 適切な言葉が見つからないのですが、これは悪者や脅威を与える者などに対する障壁の一部を取り除くことです。そして、将来的には、こうしたことを AI による脅威と人間による脅威に分類できることがますます重要になると思いますか?ニールさんが指摘されたように、ここでの人間か機械かという議論は、今後このような状況に直面するサイバーセキュリティ専門家にとって、念頭に置くべき重要な分類になると思いますか?

0:17:24 ニール・サッカー:そうですね、そうだと思います。そうですね、おそらく、外部からの攻撃の種類を考えると、それほど問題にはならないと思いますが、それが組織内部の AI エージェントによるものである場合は、これを実行したのが AI エージェントであることを確実に把握する必要があります。つまり、私たちは常に、外部の脅威アクターまたは内部の脅威アクターの観点から攻撃に対処してきたということです。私としては、それが組織内に存在するかどうかは必ず知っておく必要があると思います。私はこの業界で25年働いていますが、内部インシデントを調査するときは常に、それが誰であるかを知る必要があります。もちろん、その人物は組織の内部または外部にいるため、それが攻撃であったことを知る必要があり、これに対してどのように防御するかを知る必要があります。ですから、そのときこそ、組織内の内部エージェントを知る必要があると思います。はい、そのエージェントを所有しているかどうかを把握し、それに応じて対応する必要があります。

0:18:17 Ray Canzanese:それは良い答えだと思います。なぜなら、ある程度は気にしないということですよね?内部者がエージェントであっても、あるいは内部者が個人であっても、それはやはり何か悪いことをしており、私たちはそれを止めたいと願っています。しかし、特に今、このことについて話し合い続ける重要な理由は、私たちの内部関係者の中には必ずしも人間ではない人もいるという認識を私たち全員が確実に持つようにするためだと私は思います。そして、組織内に人間以外の内部関係者、つまり人間以外の人が何かを行っている場合、状況は異なる場合がよくあります。このアクティビティはさまざまなログやさまざまな場所に表示されるため、戦略にそれが含まれ、カバーされていることを確認する必要があります。「もちろん私は内部の人たちのことを気にかけています」と言うだけでは十分ではありません。では、内部の人たちはどんな味を好むだろうか、と考えてみる必要があります。そして、私は内部関係者を検出し、彼らが何を間違っている可能性があるかを把握するために、適切な場所をすべて監視していますか?

0:19:15 Max Havey:もちろんです。そういったことを念頭に置きながら、Anthropic がすでにここで報告していることに加えて、別の大規模なエージェント侵害について考えるときに、最初に取り上げた Neil の予測に戻りたいと思います。ニール氏が話しているような違反が発生した場合、その原因は何だと思いますか?それは事故でしょうか、悪い人がエージェントaiを使ったのでしょうか？ どのようなシナリオが想定されると思いますか?

0:19:43 Neil Thacker:いい質問ですね。混合型が見られると思います。多くの場合、このようなフィードバックが寄せられると思います。つまり、CISO と話し合った結果、「このサービスを利用していることを知りませんでした」という声がすでに上がっていると思います。 ああ、これを使うケースだとは知りませんでした。 このサービスがこれほど多くのデータを消費しているとは知りませんでした。そのため、おそらくこれを偶発的な問題、セキュリティ インシデントの観点からすでに認識している組織から、データが誤った第三者に渡ったことによる偶発的なデータ漏洩ではないかというフィードバックがすでにいくつか寄せられていると思います。それとも、相互接続されたエージェントが多すぎて、これらのサービスとその利用方法を把握できていないのでしょうか? 今日私が行っている議論の中でよく聞かれる質問、コメントは、「私の MCP サーバーは誰が所有しているのか?」ということです。

0:20:33 Neil Thacker:ですから、この問題は間違いなく発生すると思います。繰り返しになりますが、外部の脅威アクターと同じレベルでは書かれないでしょうが、これらの興味深い組み合わせが見られることになると思います。そうですね、もう一度、可能性と影響についての議論に戻ると、内部者による問題が発生する可能性はわずかに高くなるかもしれませんが、それは制御可能なものです。一方、外部の脅威アクターによる問題が発生する可能性は依然としてありますが、その影響は甚大になる可能性があります。なぜなら、 私たちは内部にいるので、組織から持ち出されたデータは、 紛失したり、漏洩したり、 組織に罰金、罰則、認可などをもたらしたり、あるいは一般的な評判の失墜や、組織が回復しなければならない課題につながる可能性があるからです。 そうですね、今後はさまざまな組み合わせが出てくると思います。しかし、それは注意しなければならないことです。これを今後どのように進めていくかという観点から指標を検討する必要があります。私たちは、実行可能な一連の制御、推奨事項などを使用して、あらゆる脅威に対抗することを常に検討する必要があると考えています。そして、私たちにとっても、そして今日のあらゆる組織にとっても、内部と外部、つまり外部のアクターの両方の能力に注目すべきだと私は思います。

0:21:48 Ray Canzanese:私が多くのセキュリティ チームと話しているもう 1 つの観点は、AI 企業そのものです。これらは膨大な量のデータを扱っている企業です。これらの企業の多くは設立から1年未満、2年未満です。彼らは新しい分野で急速に発展している非常に若い企業です。そして、人々はそれらの企業について、そしてそれらの企業が保有するすべてのデータを保護するために何をしているのかについて不安を抱いています。そこで、非常に狭い使用ケースに限り、サービス A を使用できるようにするにはどうすればよいですか? という質問を多くの人が聞きます。 あるいは、当社の企業秘密や顧客データ、ソースコードがそのサービスに一切入らないようにすることはできますか?それはまた別の懸念事項です。もう一つ注目すべき点は、これらの AI 企業のいずれかで侵害が発生した場合、それがどのようなものになるかということです。データの盗難でしょうか?モデル中毒になるのでしょうか？実際のターゲットとなる企業のいずれかに侵入した場合、さまざまな方法で危害を加える機会がたくさんあります。使う。

0:23:02 ニール・サッカー：つまり、これは簡単に実現できる解決策になる可能性がある、そうでしょう？その通り。レイ、あなたの言うとおり、私たちもこれを見たことがあります。つまり、私はNECAPの誰かが望んでいた組織を調べました。そして私たちは彼らに質問しました、そして彼らは振り返って、眉をひそめてサイバーセキュリティについて語っていませんでした。 あれは何でしょう？そうですね、確かに、これは潜在的な懸念事項です。これはあらゆる組織が行う必要があることです。それは素晴らしい指摘ですね。ベンダーやサービスプロバイダーに目を向けると、組織、インフラストラクチャ、システム、サービスに対するこのような種類の攻撃にどのように対応しているでしょうか。

0:23:36 Ray Canzanese:そして、たとえ彼らを信頼して 彼らに頼ろうと決めたとしても、何も問題がないか、何も 意図した方法と矛盾していないかを確認するために、そのやり取りを監視するために何をしていますか？

0:23:53 Max Havey:これらすべては、セキュリティチームが組織と、AI、特にAGエージェントAIについて話し合うべき進化型の会話へとつながっているように感じます。なぜなら、AIは、企業がAIを活用する方法において、より大きく、より本質的な部分を占めるようになるからです。 それを念頭に置いて、皆さんはここでかなり話してきましたが、サイバーセキュリティにおける AI に関連して、すでに行われている会話は、これによってどのように変化するのでしょうか?

0:24:24 Neil Thacker:ええ、間違いなくそうです。これについて話しているんですよね？これはここ数年のホットな話題であり、冒頭で述べたように、私たちは今まさに転換点、変曲点を迎えています。そこで私たちは、AI については賛否両論があり、莫大な価値を見出していないことに改めて気づきつつありますが、それでもすべての AI は何らかの形で AI を利用しており、生成AIなど、そういった類のものも利用しています。 しかし、ほとんどの組織は、ワークフローの多くと一部の業務オペレーションをより適切に自動化するために、これらのサービスに多額の投資を行っています。ですから、私たちはこれが今日の組織で起こっているのを目にしており、そして、これが組織が現在どのように対応しているかということだと思います。クラウドでも同じことが起こりました。クラウドでも同じことが起こりました。クラウドは必ずしも組織に忍び寄るわけではありませんでしたが、人々はそれを認識していました。しかし、そのとき爆発が起こったのです。皆さん今使っているSASとパブリッククラウドサービスでした。

0:25:16 ニール・サッカー：そして、インターネットが復活した 90 年代に戻れるなら、同じようなことを思い出します。それはゆっくりと浸透し、突然、誰もがインターネット上のサービスを利用するようになりました。つまり、私たちは今、ある種のAIを使用している人の割合が高い時点にいると言えるでしょう。 そうです、それが私たちがそのための準備を始める方法です。先ほどの点に戻ると、議論は今、私たちの AI サービスのアプリケーション、AI インベントリはありますか? というものです。 これらのサービスをどのように評価しましたか?どのように制御しますか?たとえば、よくあるケースとして、AI 資産インベントリがあり、それをデータ資産インベントリにマッピングし、その AI サービスに送信されるデータを把握し、そこに異常が見られた場合は介入してその異常をブロックする必要があります。 これが、今日の組織における進化の起こり方を私が見ている方法です。

0:26:09 Ray Canzanese:最近気づいた良い兆候は、ここ数年このことについてよく話し合ってきたこと、そしてセキュリティ チームから「Bedrock でエージェント AI のデプロイメントを安全に保護するにはどうすればよいのか」といった質問が寄せられていることです。そして私は「ああ、すごい」と言うでしょう。どのように使っているか、詳しく教えていただけますか？ そして彼らは、まあ、私たちはまだそれを 使う していない、という感じです。 私たちはそれについて考えているところです。明らかに物事はその方向に向かっています。実際に試してみて、セキュリティについても考えたいと思っています。感心しています。私は幸せです。これが私が期待していた展開です。私たちがこの件について十分に話し合って、人々がそれに気づき、このプロセスに深く入り込む前にこうした質問をするようになって、最初の AI チャットボット流行のときよりも、もう少ししっかりした準備が整った状態で臨めるようにしてほしいと思っています。当時は、人々は一夜にしてそれを使い始め、最初から金策をしていたかもしれません。

0:27:10 マックス・ヘイヴィー：その通りです。ここでの会話も終わりに近づいてきましたが、みなさんから意見を聞きたいのですが、このような無秩序に広がるリスクを封じ込めるために組織は何ができるでしょうか? 今後もこの問題に対処しなければならない会話や脅威が続くであろう中、これをより安全に保護したいと考えている組織に、どのようなアドバイスをしますか?

0:27:34 Neil Thacker:つまり、まずは自分が何を持っているかを理解することから始まると思います。 私たちは常に、サイバーセキュリティにおいては、どのような AI サービスがあり、それらがどのように接続されているかが重要だと考えています。 明らかに、私たちが目にした攻撃の種類では、多くの場合、エージェント間の接続がこの問題の原因となる可能性があります。 つまり、自分が何を しているのか、なぜそれを しているのかをよく理解し、サービスが何をしているのか、つまり何が通常に見えるのかを特定し、そこにいくつかのコントロールを追加します。 したがって、異常なアクティビティが見られた場合は分離することを検討し、もちろん、プラットフォームとサービスを分離していることも確認する機能も備えています。これにより、AI エージェントが非本番環境の一部にアクセスできる場合 (実験のためにテストのポイントに戻るなど)、本番環境にもアクセスできず、権限を本番環境に昇格することもできなくなります。

0:28:27 ニール・サッカー:そこで分離の方法を検討しています。しかし、2026年には、AIゲートウェイなどを導入して組織内のAIの使い方やサービスの接続方法をより適切に特定し、ガードレールを設置して適切なレベルの技術的制御を適用することで、組織のAIの使い方が大幅に増加すると考えています。 これは私が予測していたことの一部です。そうです、これはニュースのトップを飾るような重大な侵害であり、その対応は、組織をより良く防御するために投資し、これらの機能を導入する正当な理由があるというケースです。 ですから、私が予想しているのは、私たちが対処しなければならないこれらの新しいリスクについてです。たとえそれが古い形のリスクや古い形の戦術やテクニックに基づいているとしても、私たちは対応しなければなりません。なぜなら、急速に成長するこれらの自律的な方向性に再び対抗するために、私たちはテクノロジーで対応しなければならないからです。

0:29:27 Ray Canzanese:ええ、全く同感です。すべては可視化から始まります。 自分が何を可視化しているのかを確認すると、多くの場合、自分の可視化における盲点がどこにあるのかもわかるようになり、それによって、さらに取り組む必要がある場所に関する適切な戦略が得られます。 問題を調査する際に念頭に置いておくべきことは、エンドポイントで発生している事象、クラウドで発生している事象、人間のアイデンティティ、人間以外のアイデンティティ、これらすべてが連携して危険な組み合わせになっているということです。そして、何をすべきかを見つけ出し、それをマッピングし、盲点がどこにあるのか、MCP ゲートウェイ、AI ゲートウェイ、クラウド ログなど、可視性のギャップを解決するのに役立つものをどこで入手できるかを調べ始めます。

0:30:16 Max Havey:皆さん、ここで話を終えるのが良いと思います。そしてニールさん、ここにご参加いただき誠にありがとうございます。特に、あなたはこのエピソードのきっかけの一つであり、2026年に最初の AI による AI 主導のサイバーデータ侵害が起こると予測していたので、多くの素晴らしい視点を提供できました。ご参加いただき誠にありがとうございます。

0:30:35 ニール・サッカー：はい、もちろんです。問題ない。そうですね、マックスとレイ、またお話できてよかったです。2026 年には、このことについてもっとたくさんお話することになると思います

0:30:42 マックス・ヘイヴィー:それもほぼ確実です。そしてレイ、いつものように参加して素晴らしい脅威の専門知識をもたらしてくれて本当にありがとう。あなたはこれまで数多くの脅威レポートに携わり、多くの脅威について執筆してきたと存じますので、ここで多くの素晴らしい視点を提供していただき、今後状況が進展するにつれて、さらに多くのことをおっしゃっていただけると確信しております。

0:30:55 レイ・カンザネーゼ:はい、招待してくれてありがとう、マックス。次回もお楽しみに。

0:30:58 マックス・ヘイヴィー：その通りです。これで、皆さんは Security Visionaries ポッドキャストを聞いていただき、私は皆さんのホストを務めました、マックス。このエピソードをお楽しみいただけましたら、ぜひ友人と共有し、Apple Podcasts、Spotify、YouTube の当社の新しい動画など、お気に入りのポッドキャスト プラットフォームで Security Visionaries を購読してください。そこでは、過去のエピソードをチェックしたり、私や素晴らしい共同ホストの Emily、wear Mouth、Bailey Pop がホストを務める隔週公開の新しいエピソードをチェックしたりできます。それでは、次回のエピソードでお会いしましょう。