前回の記事では、AI（人工知能）の起源と AI が我々の生活に不可欠な要素となってきている現状についてお話しました。AI の可能性は大きく広がっていますが、その価値が社会犯罪に使われない保証はありません。

人工知能の最大の利点の 1 つは、大量の複雑なデータを使う仕事や一般的には人間の力が必要とされる極めて反復型である作業を大幅に高速化できる点にあります。通常は手動プロセスと考えられてきた作業の自動化によって、犯罪者、特にサイバー犯罪者は、標的を効率的に特定し、攻撃の規模を容易に拡大し、新しいマルウェアを短時間で作成できるようになります。AI を利用した攻撃の例は今のところほとんど見つかっていませんが、セキュリティ研究者にとっても、サイバー犯罪にどのような形で AI が使われるのかを予想するのも容易なことではありませんでした。

いくつかの研究によって明らかになった、サイバー攻撃にどのような形で AI が利用される可能性があるかを示す例をご紹介します。

• CAPTCHA システムの回避
  CAPTCHA は、サイトへの訪問者が人間またはボットのいずれであるかを判断する際に役立つ、インターネットで不可欠なツールです。画像、チェックボックス、または歪んだ文字が画面に表示され、似た画像同士を選択するなどの、一般的には人手が必要とされる操作を実行するよう指示されるというものです。コロンビア大学の研究者は、AI 技術を使用することで、98％ の確率で Google reCAPTCHA を突破することができました。
• フィッシングの精度の向上と範囲の拡大
  2017 年に 76％ の組織でフィッシング攻撃を受けたと報告されたことで、多くの組織が厳格なプログラムを導入し、従業員がフィッシングの試行を特定して攻撃を回避できるようにするためのトレーニングを実施するようになりました。AI はサイバー犯罪者にとって、標的に関する大量のデータを解析し、成功を高くする巧妙なメッセージを作成できるツールとなります。ZeroFox が、SNAP_R（Social Network Automated Phishing with Reconnaissance、偵察によるソーシャルネットワーク自動フィッシング）を使って Twitter ユーザを標的にするアプローチなどについて調査したところ、こういったアプローチが有効であることが実証されました。SNAP_R は AI を利用して価値の高い標的を特定し、過去のツイートの内容に基づいて、その標的のプロファイルを瞬時に作成します。このアプローチによって、不正リンクの 30％ をクリックさせ、標的を手に入れることができました（他の自動化アプローチの成功率は 5〜15％）。
• 高度な回避型マルウェアの開発
  ハッカーは古くから、スクリプトやツールキットを使ってマルウェアを開発し、拡散させてきましたが、サイバー対策がインテリジェントになり、高度化したことで、攻撃者も低レベルの AI 技術を採用してマルウェアの回避能力を向上させるようになりました。マルウェアの作成者が AI を利用してさまざまなチェックを実行し、攻撃先のハードウェア構成や環境（サンドボックスか物理マシンかなど）を特定したり、誰かがその瞬間にマシンを操作しているかどうかを判断したりするようになりました。IBM Research の研究者が開発した DeepLocker は、AI がマルウェアで強力な武器として使われる危険性を示しています。DeepLocker の AI は、3 階層の隠蔽によってセキュリティツールによる検知を回避し、特定の標的に到達した場合のみペイロードを実行するようにトレーニングされています。

サイバーセキュリティの競争の激化に伴い、攻撃と防御のどちらにおいても、AI や機械学習が果たす役割はますます大きくなるはずです。

来週の記事では、AI が多層型防御戦略において不可欠な層である理由について解説する予定です。

参考資料

• ブラックハット – 人の介在なく Google reCAPTCHA を突破
• The Atlantic – 人間と見分けのつかない Twitter ボット
• 情報化時代 – AI のように行動する高度なマルウェア
• Security Intelligence – DeepLocker：AI は新しいタイプのマルウェアのステルス性にどのように役立つか