Facebook の偽広告、Twitter のボット、LinkedIn の不正アカウント

Twitter、Facebook、LinkedIn に多くの偽アカウントが存在することをご存知でしょうか。ソーシャルメディアボットとは、プログラムを使ってコンテンツを投稿するアカウントのことです。多くのボットは、情報の通知や収集などの目的で利用されており、ボットのデータは、企業、公的機関、報道機関、時にはセキュリティの専門家にとっても役に立つものです。ところが、自動化されたアカウントの多くは、プロパガンダによって世論に揺さぶりをかけ、意図する方向へと誘導するためのメッセージを投稿します。

Facebook が水曜日に、「ロシアで運用されていると思われる」偽アカウントが 10 万ドル分の政治的な内容の広告を購入していた証拠が見つかったと発表しました。これらのアカウントは、ロシア政府支持のメッセージを投稿していた、ロシア国内の企業と関連性のあるもののようです。Facebook は、広告の内容を公開しておらず、それらの広告が特定の候補に言及していたわけではないと説明しました。具体的な広告の内容は明らかになっていませんが、2016 年 11 月 16 日の Buzzfeed の記事は、米国大統領選挙の期間中に Facebook に掲載された、偽のトップニュース記事を紹介しています。ハフィントンポストには、その偽のニュース記事の写真が掲載されています。米国大統領選挙の期間中に、Facebook で次のような記事を目にされた方もいるのではないでしょうか。

• ローマ教皇がトランプ氏を支持
• ウィキリークスがヒラリー氏による ISIS への武器売却を確認…
• すべての連邦政府機関がヒラリー氏を不支持
• ヒラリー氏の電子メール漏洩にかかわったとされる FBI 捜査官の死体を発見

300 万近いユーザを獲得した偽ニュースの発信元もありますが、嘘を拡散する目的で利用されている偽アカウントからどの程度の量の偽ニュースが配信されたかが問題です。こういった偽ニュースを何人位の人が信じたのでしょうか。これらの嘘の記事が、ロシアの組織が買い取った広告にリンクされていたのでしょうか。米国の大手報道機関の本物の記事もこの時期に数多く投稿されており、同程度の数のユーザが閲覧していたこともわかっています。

Twitter、LinkedIn、Facebook のソーシャルメディアのボットは、どれ位あるのか

最近の調査で、最大 4,800 万の Twitter アカウントがボットである可能性があることがわかりました。Twitter が 2014 年に、2,300 万件のユーザがボットであると認めているため、ボットの数が 3 年でほぼ 2 倍になったことになります。ロシアのグループが一部のソーシャルメディアボットの発信元であると指摘する記事もありますが、一方で、トランプ氏の支持者も自分たちの意見を広めるために自動化されたアカウントを使用しているという主張もあります。CNN は最近、8,300 万件の Facebook アカウントが偽物だと報道しました。CSO は最近の記事で、LinkedIn を使った詐欺に気をつけるよう、警告しています。

ソーシャルメディアボットは世界中に存在します。2011 年、ロシアの雑誌が、Facebook のボットがプーチン大統領への大量投票に使われたと報道しました。2015 年、ウクライナの Facebook ユーザが Facebook の CEO に対して、ウクライナ支持のブロックされたアカウントの復元するよう要求しました。Facebook にログインすると、ここからいくつかのコメントをご覧になれます。Think Progress は、米国選挙後に、ボットが他国政府を標的にし始めたと報告しています。オックスフォード大学の Computational Propaganda（コンピュータによるプロパガンダ）プロジェクトは、プログラムによる自動化されたプロパガンダが世界中の一般市民に与える影響を研究しています。

ソーシャルメディアボットは、具体的には何をするのか

Laura Galante 氏は、2017 年 4 月に行った「How to Exploit a Democracy（邦題「ネット情報の裏に潜む真の意図から身を守るには」）」という Ted Talk の講演で、ロシア政府のハッカー集団 APT28 による米国の「情報攻撃」にアメリカがどのように対処したかを説明しました。APT は、サイバーセキュリティの分野では「Advanced Persistent Threat」の略語として使われますが、このハッカー集団は、攻撃を入念に計画し、長期間にわたって段階的に内偵を進めることが多いことから、このように呼ばれています。また、「ファンシーベア」などのニックネームでも知られており、ソーシャルメディアに潜入し、ニュースメディアの報道に影響を与える活動を行っていました。フランスの大統領選でマクロン氏に対するスパイ活動を行ったのも、このグループです。

ソーシャルメディアボットが他のアカウントを攻撃する場合もあります。Daily Beast の記者は、Twitter の偽アカウントによるロシア政府支持活動の疑惑を記事にした直後から、大量のボットによる自分の Twitter アカウントに対する攻撃が始まったと説明しています。元 FBI 捜査官は、ロシアのボットがアメリカの国家安全保障担当補佐官の解任を要求する投稿を繰り返していると主張しています。Brian Krebs 氏は、脅迫を目的とする「いいね」やリツイートにTwitter のボットが使われていると説明しています。これ以外にも、秘密のメッセージを送信する、不正リンクをクリックしてマルウェアをダウンロードさせるなどの悪意ある目的で、ソーシャルメディアアカウントが使われることがあります。Twitter のボットは、トロイの木馬などのマルウェアに感染したホストにコマンドを送信する、C&C チャネルとして使われることもあります。

ソーシャルメディアボットの特徴

偽あるいは自動化されたソーシャルメディアアカウントかどうかを高い精度で判定できる式を作成するのは困難です。スパムメールの捕捉機能と同様、フィルターでも、悪意のない実物の人間が捕捉され、ボットが見逃されてしまうことがあります。ブルームバーグの「Pro-Russian Bots Sharpen Online Attacks for 2018 U.S. Vote（親ロシア派ボットによるオンライン攻撃の高度化 ）」という記事は、「これらのボットは高度化しており、さまざまな方法でボット検知を回避するようになっている」と説明しています。ただし、いくつかの方法を使えば、アカウントの真偽をまったく判断できないわけではありません。

わかりやすい例としては、名前に「bot」が含まれるアカウントは、おそらく自動化されています。

いくつものツイートで、ボットはフォロワーが少ない場合が多く、ボットのフォロワー数として一般的なのは 17だと報告されています。

ただし、フォロワー数が非常に多いボットアカウントもあります。フォロワーそのものが偽アカウントである可能性もあり、自動フォローバックであったり、お金を払ってフォロワーを増やしたりしている場合もあります。

ボットでは、共通の #ハッシュタグが、時にはいくつもまとめて使われます。
シャープ記号で始まるハッシュタグを共通のフレーズと一緒に使うことで、関連するツイートを簡単に見つけられるようになります。カンファレンスなどでは、主催者が共通のハッシュタグを宣伝し、参加者が Twitter でハッシュタグを検索して、他の参加者が投稿した関連ツイートを見つけるという例が多く見られます。実アカウントと偽アカウントのどちらでも、選挙戦での候補者の支持や製品の販売などの目的でハッシュタグが使用されます。

ユーザがアカウントにログインすると、人気のあるハッシュタグが Twitter の左側のおすすめトレンドに表示されます。ここに表示されるトレンドは、デフォルトでは、アカウントのデータを利用して決定されます。Twitter ユーザが多数のボットをフォローしていたり、多数のボットがそのユーザをフォローしていたりすると、そういったボットの嗜好がトレンドの表示に影響する場合があります。ユーザは、「変更」リンクをクリックすることで、現在地のおすすめトレンドが表示されるように変更できます。現在地に基づくリストがボットの影響を受けたり、ボットがおすすめトレンドを使って特定の思考パターンを人気のトピックに挿入したりすることもあります。

多くのボットは、同じ内容を繰り返しツイートします。よく見られるテーマとしては、金儲けや Twitter のフォロワーを有料で増やす方法、政治的な宣伝などがあります。ボット関連の他の記事でもよく指摘されているように、一部のボットは、同じアカウント写真を複数のアカウントで使っています。複数のアカウントで同じツイートを投稿するボットもあります。私自身も、以前にセキュリティカンファレンスに出席したときに、いくつかの関連ハッシュタグを見たところ、3 つのアカウントでまったく同じ内容が投稿されていたという経験があります。

Medium は、Twitter のボットを特定する方法として、ツイートのタイミング、個人情報の欠如、他のアカウントのコンテンツのリツイートがほとんどであるアカウントという、3 つの特長を紹介しています。ソフォスは、単語や文のちょっとした違いに注意するよう警告しています。Brian Krebs 氏は、ボットネットによるリツイートと脅迫に関する記事を投稿し、怪しいボットアカウントのリストも紹介しています。これらのアカウントのいずれかが自分のフォロワーになっていたり、自分がフォローしていたりしないかを確認すると良いでしょう。

Twitter のボットの検知に役立つツール

Hamilton 68 では、ロシアの影響下にあると思われる事業者やレポートにリンクしている Twitter アカウントの動きをダッシュボードで監視できます。複数のレポートから、シャーロッツビルの暴動後に、これらのアカウントが #antifa ハッシュタグを多用していたことがわかっています。

インディアナ大学は、Botometer と呼ばれる、自分のフォロワーのうちの何人がボットであるかを試算するツールを提供しています。ただし、この記事で指摘されているように、このツールは 100％ 正確というわけではなく、有益な投稿を頻繁にしている Twitter アカウントが有名なボットとほとんど同じ評価になっている例も見られます。Botometer の Web サイトのボットレポジトリには、ボット検知に利用できるデータセットとツールが提供されています。CNET の記事では、Twitter Counter と Twitter Audit が紹介されています。

Twitter も、ボットや迷惑行為の対策に取り組んでいます。Twitter でスパムボットを見つけた場合は、[フォロー]ボタンの横にあるアカウントプロファイルの 3 つ並んだドットをクリックすると、そのアカウントをブロックしたり、報告したりできます。

Facebook や LinkedIn の偽アカウント

Facebook や LinkedIn では、表示されるアカウントを自分自身で選択できます。何らかの方法ですでに公開されているコンテンツ以外を投稿するつもりがなければ別ですが、知人や同僚を名乗る人物から友達申請された場合は、そのアカウントが本当に自分とつながりのある人なのかどうかを確認することをお勧めします。プロフィールで本当に知り合いかどうかを確認できますが、それだけでは判断が難しい場合もあります。不審行為を見つけた場合は、完全にブロックしたり、自分の投稿を見られないようにしたり、相手の投稿が表示されないようにしたりできます。

インターネットトロールの問題

「インターネットトロール」（荒らし、釣り）とは、誰かを挑発して喧嘩をけしかける、「扇動的、無関係、あるいは本題から外れたメッセージ」を投稿するアカウントを指す言葉です。オーストラリアの新聞が、ロシアのこの活動の専門部署を「トロール工場」と名付け、その写真を掲載しました。このような行為がトロールと命名されたのは、2012 年の Nicole Sullivan 氏の「Don’t Feed the Trolls（トロールに餌をやってはいけません）」という基調講演に由来するものと思われます。このビデオで説明されているように、自分や他人をオンラインのプロパガンダから守るため、感情を刺激して議論をけしかけようとする投稿に反応するべきではありません。こちらが応戦しなければ、荒らしを目的とするボットの存在価値が薄れるはずです。

最強の対策は自分にあり

ソーシャルメディアボットの最強の対策は、自分自身で実行できます。Laura Galante 氏は、Ted Talk の講演の最後に、「批判する心を持ち（中略）真実を追求することが重要だ」と述べています。そこで、対策に役立つツールをいくつかご紹介します。

• 前述のビデオで紹介されているように、ハーバード大学が提供している Implicit と呼ばれるツールは、自分が暗黙のうちにどのような話題に関連付けられているのか、すなわち、自分にどのような思考的傾向があるのかを判断するのに役立ちます。
• 信頼できる情報源を使って、インターネットに表示されている情報が事実であるかどうかを確認するようにします。FactCheck.org は、真偽確認の機能を提供しています。可能であれば、複数の情報源を利用してください。
• 感情的な議論を見分ける目を養います。事実を伴わない議論を見分けられるようになれば、ソーシャルメディアのプロパガンダに惑わされることがなくなります。
• 真実だけが人の心を動かすわけではありません。誰でも、真実よりも、自分が同意できる意見に引きつけられる傾向があることを、肝に銘じる必要があります。

Twitter、LinkedIn、Facebook のボットは、フィッシング、マルウェア、DDoS 攻撃とほとんど変わらない、一種のサイバー脅威です。これらのボットとその影響によって、世界中のコミュニティが混乱する可能性があります。歴史上の多くの人物が、人心掌握術を巧みに使って世論を操作してきました。この記事が、実態の明らかになりにくいボットの存在を知るきっかけとなり、ご紹介したツールや方法がボットによる有害な影響からの保護に役立つものであることを願っています。

— Teri Radichel（@teriradichel）