2024 年 9 月 5 日 Carlos Arna 著

テクノロジに依存した今日の世界では、個人も企業も、ランサムウェアやマルウェア攻撃からデータ盗難、その他の形態のサイバー犯罪に至るまで、数々の脅威に対して非常に脆弱です。そのため、機密情報漏洩や経済的損害をもたらし、パートナーや顧客からの信頼を失うことにつながる潜在的なセキュリティ侵害を防止、検出、対応するための重要な技術として、サイバーセキュリティ分野における人工知能の重要性が高まっています。しかし、AI の具体的な影響に目を向けると、プラスとマイナスの両面があることがわかります。

とはいえ、業界の誰もがこの状況を認識しているわけではありません。最近の調査によれば、AIがサイバーセキュリティに及ぼすプラスとマイナスの両方の影響を理解しているセキュリティ専門家は、調査対象内ではわずか 46% にとどまりました。

AI がサイバーセキュリティに及ぼす影響の増大を考えると、その影響範囲を理解し、AI を活用したソリューションを有利に使用する方法を知り、さらに AI を利用した攻撃から身を守ることが重要となります。

サイバー攻撃における AI の新しいユースケース

サイバー犯罪者は、当然ながら AI が攻撃をより効果的にするという考えを持っています。そのため多くのサイバーセキュリティの専門家はここ最近、AI の潜在的な誤用について研究、警告をしてきました。

典型的な例は Morris II です。この悪意あるワームは、人工知能を内部の仕組みに組み込んだものではありません。代わりにその拡散に生成 AI システムの脆弱性を悪用しています。言い換えれば、このワームは AI 駆動ではないものの、その有効性は AI 駆動型システムに直接依存しています。このマルウェアは、ニューヨーク州コーネル大学の研究センターであるコーネルテックの研究者グループによって開発されました。生成型 AI システムに潜む脅威を警告すると同時に、環境内でのセキュリティ対策を強化するため、このタイプのテクノロジの使用を制御する措置を実施する必要性を訴える目的で開発されました。

サイバーセキュリティの専門家はまた、ハッカーが ChatGPT のようなツールの保護を回避し、悪意のあるコンテンツを作成したり、新しい攻撃方法を開発したりする可能性が高いことについても警告しています。

ChatGPT のような言語モデルは、ユーザがセキュリティ制限を回避することに成功した場合、悪用される可能性があります。これらのシステムに実装されている制御は、マルウェアの作成や有害な情報の発信など、不正な活動を促進する可能性のある応答は生成しないように設計されています。しかし、サイバー犯罪者は、目的を達成するために、間接的な記述や明示的ではない用語を駆使して言語を操作し、これらの制限を回避しようとしてきます。

例えば、ランサムウェアのコードを直接記述させる代わりに、ユーザはツールの死角を利用して、マルウェアであると明示的に言及することなく、悪意のあるプログラムの一部である特定の機能を記述することができます。これにより、完全なマルウェアではないものの、悪意のあるツールを開発する基礎として使用できるコードの断片を生成することが可能です。

ポリモーフィック型マルウェアは、従来のセキュリティソリューションを回避するために常にその形態を変化させ、検出や軽減をより困難にします。ポリモーフィック型マルウェアは、検知シグネチャを逃れるためにコードの可変性を利用するため、制御が困難な脅威となり、特に危険です。

最終的には、生成型 AI を搭載したツールを悪用することで、回避能力の高い新たなマルウェアが自動生成される可能性があります。そのため、こうした環境におけるセキュリティ対策を強化し、ますます現実味を帯びる以上のような脅威に備える必要があります。

• サイバーセキュリティの強化に AI を活用
  ただし、AI はサイバーセキュリティソリューションの改善にも応用可能で、非常に回避力の高い攻撃に対しても効果を発揮します。MSP が、エンドポイント脅威の検出とレスポンスの主要機能を人工知能に基づく高度な EDR ソリューションによって提供している場合、以下のような方法で保護機能を強化することができます。
• 高度な脅威検知
  AI の特徴である機械学習により、ソリューションは大量のデータを分析して潜在的な脅威をリアルタイムで検知することが可能となり、従来のセキュリティソリューションでは見逃してしまうような高度な脅威を認識することができます。これにより、検知効率が向上し、早期発見による攻撃成功の可能性を低減します。
• 分析と予測
  このテクノロジは、サイバー犯罪者が使用する技術、戦術、手順（TTP）を深く理解するための分析に役立ちます。AI は、過去のイベントと不審な行動を関連付けることで、脆弱性の特定を容易にし、予防ベースのシステムで保護を強化することができます。
• インシデント対応の自動化
  AI ベースの EDR ソリューションは、インシデントレスポンスを自動化し、反応時間を最小化、それに伴い攻撃の結果や拡大を最小限に抑えることができます。脅威が検出されると、影響を受けるデバイスの隔離、悪意のあるプロセスのブロック、コンピュータに対する詳細なアラートの生成など、事前に定義されたアクションを実行することができ、保護アクティビティの効果を向上させます。

このような状況を踏まえると、サイバーセキュリティチームは、人工知能を用いた新しいタイプの攻撃に対抗する方法を理解し、ありうる攻撃に対して予防と制御を行うために、最新の情報を入手することが不可欠です。しかし同時に重要なのは、高度化する脅威に対するデバイスの保護を強化し、攻撃対象領域を縮小するために、AI をどのように活用するかを知ることです。攻めと守りの両方のサイバー戦略における AI の持つ可能性を理解することで、企業はサイバーセキュリティにおける AI の広汎な役割に備えることができます。

サイバーセキュリティにおける AI の役割についてさらに詳しくお読みになりたい場合、以下の記事をご覧ください。
2024 年に AI がサイバーセキュリティ業界にもたらす影響
Uncovering the Duality of Generative AI: How to Protect Yourself（英語）
ChatGPT が作成するポリモーフィック型マルウェア