ChatGPT とダークウェブ：その脅威
2024 年 2 月 27 日 Carlos Arnal 著
人工知能（AI）は今や生活のあらゆる場面で利用されています。しかしその影響は特にサイバーセキュリティの分野に関係があり、かつ、防御と攻撃のどちらにも関与しています。組織のデジタルアセットを保護する上で、有益なツールである一方で、サイバー犯罪者もそれを利用しているために、サイバー攻撃は一層洗練され、検出が困難になっています。
最近の研究では 84% の CEO が、生成 AI の導入によって引き起こされうるサイバー攻撃を懸念している、という結果が出ました。さらに昨年 1 月に発表された記事によると、ダークウェブ上で、ChatGPT やその他の大規模言語モデル（LLM）の違法使用に関する会話が増加していることが明らかになりました。議論の焦点はさまざまなサイバーセキュリティの脅威ですが、共通のトピックとしては、マルウェアの開発への利用、言語モデルの不正利用（盗まれたユーザデータの処理、感染したデバイスからのファイルの解析など）です。
AI ツールが実力のそれほど高くないサイバー犯罪者のスキルを向上させるという事実は、ダークウェブでヒントやテクニックを共有するブームと相まって、フィッシングやランサムウェアなどの脅威が組織にとってさらに大きな危険になる可能性が高いことを意味しています。
利用されやすい AI サイバー攻撃テクニック
ChatGPT のような商用ジェネレーティブ AI ツールは、悪意ある使用を抑制するための対策を施しています。しかし、ハッカーは、AI を出しぬいて自らの利益のために利用する方法を編み出しています。脆弱性を悪用する WormGPT のような新たな代替技術も、攻撃者によって利用され始めています。AI を利用した一般的な脅威手法には、以下のようなものがあります。
- AI が生成するフィッシング攻撃：生成 AI は、ハッカーがフィッシングを生成する方法に革命をもたらしました。より信頼性の高いテキストを作成することが可能になったために、攻撃に対して警報が発されず、したがって発見も困難になっています。これにより、攻撃全体にかかる時間が減り、効率も上昇しています。
- AI によるターゲット調査：機械学習アルゴリズムを使用した SNS やその他のオンラインデータの分析により、攻撃者はターゲットの興味、習慣、脆弱性などの有益な情報を得ることができます。
- 優れた脆弱性検出： AI を活用したスパイツールは、企業ネットワークの脆弱性を自動的に検索し、最も効果的なエクスプロイトを自動的に選択します。
- AI を利用したソーシャルエンジニアリング： AI を使用して実際の人物を模倣したディープフェイクオーディオやビデオを生成し、ビッシング攻撃を行うことができます。これにより、攻撃の信頼性を高め、ユーザが機密情報を開示するよう説得することが可能です。
高度なエンドポイントセキュリティで企業を守るには
生成 AI を利用したサイバー攻撃では複雑さが増すため、新たな脅威に対処するにはより強固な防御メカニズムが必要となります。エンドポイントセキュリティは、このような防御において重要な役割を担っており、この種の脅威の防止、検出、レスポンスを支援する AI 機能を統合、あるいは組み込むことができる高度なセキュリティソリューションを、企業は導入するべきです。AI 技術を組み込んだ高度なエンドポイントセキュリティソリューションには、以下のようなものがあります。
- 新たな脅威の検出：
高度なエンドポイントセキュリティソリューションは、行動分析や機械学習などのテクノロジを応用して新しいマルウェア、進化するマルウェアを特定し、ブロックします。さらに、ネットワーク内の潜在的な脆弱性やセキュリティホールを排除するためのパッチ適用も支援します。 - データ流出のリスクを最小限に抑える：
フィッシングやマルウェアによる攻撃が成功した場合、企業の機密データが危険にさらされる可能性があります。高度なエンドポイントプロテクションがあれば、機密データの流出を防ぎ、情報を保護することで、金銭的損失、顧客の信頼低下、風評被害などの深刻な影響を回避することができます。 - 規制コンプライアンスへの対応：
特定の業界においては、高度な保護機能を使用してマルウェアからシステムを保護することが法律で義務付けられています。これを怠ると、罰金などの法的措置が取られる可能性があります。
AI を利用したマルウェアからビジネスを保護する方法についてさらに詳しくお読みになりたい場合は、以下の記事をご覧ください。