FacebookとInstagramで何か大きな動きがあったって？
うん、MetaがAIで作られたプロパガンダを拡散していたイスラエルのネットワークを削除したんだ。
AIで作られたって、どういうこと？
偽のアカウントがAIで生成されたコンテンツを使って、特定のメッセージを広めていたんだよ。
それは問題だね。どれくらいの規模だったの？
510のFacebookアカウントと32のInstagramアカウントが関与していたよ。
Metaはどうやってそれを見つけたの？
四半期ごとの脅威レポートで発見したんだ。迅速な対応でネットワークを閉鎖したよ。
イスラエルのプロパガンダネットワークを閉鎖
Metaは2024年5月29日、四半期ごとの脅威レポートで、「アメリカとカナダのユーザーにAI生成のプロパガンダを拡散する、イスラエルのFacebookとInstagramのネットワーク」を閉鎖したことを発表した。
イスラエルのプロパガンダネットワークは、510のFacebookアカウント、11のFacebookページ、1つのFacebookグループ、そして32のInstagramアカウントで構成されていた。フォロワーはFacebookで500人未満、Facebookのグループメンバーは100人未満、Instagramのフォロワーは約2000人だったという。Metaはネットワークがオーディエンスを獲得する初期段階での閉鎖に成功したと主張している。
偽のアカウントで印象操作
このネットワークは偽のアカウントや盗まれたアカウントを使用し、Metaの自動化システムによってアカウントが無効化されても、アカウント売買サービスで購入したと思われる新規アカウントを追加し続けたとのこと。また、ベトナムなどの国々から「いいね！」やフォロワーを購入し、アカウントやグループが周囲からの支持を集めているように見せかける印象操作も行っていたそうだ。
AIを使った巧妙な手法
Metaによると、イスラエルのネットワークは国内外の報道機関やアメリカの政治家などの投稿に返信し、時にはネットワークが運営するウェブサイトへのリンクを送りつけることもあったそうだ。ネットワークによる投稿には反発もあり、「これはプロパガンダだ」と批判する人間のアカウントからの返信が寄せられることもあったとのことだ。Metaは、ネットワークの返信の一部がAIを通じて生成されたと推定している。
以前からAIが生成したプロフィール写真や画像を使ったプロパガンダキャンペーンは見つかっていたが、テキストベースで生成AIを使用した事例が明らかになったのは今回が初めてだ。Metaの脅威調査責任者であるマイク・ドビリアンスキー氏は、「これらのネットワークでは、コンテンツ作成に生成AIツールを使用している例がいくつかあります。おそらく生成AIツールは、より素早く大量のコンテンツを作る能力をもたらしているのでしょう。しかし、私たちがネットワークを検知する能力に影響を及ぼすには至っていません」とコメントし、生成AIの利用はMetaのプロパガンダキャンペーン検出に影響を及ぼしてはいないと主張した。
差別的主張も行うプロパガンダネットワーク
プロパガンダネットワークのアカウントは、アメリカやカナダに住むユダヤ人学生やアフリカ系アメリカ人などになりすまし、主にイスラエルとハマスの戦争について英語で投稿していたとのことだ。アカウントは人質の解放を求めると共にイスラエルの軍事行動を称賛し、反ユダヤ主義を批判する一方で「過激なイスラム教がカナダのリベラルな価値観を脅かす」といった差別的主張を行っていたそうだ。
Metaはネットワークの運営元を、イスラエルのテルアビブを拠点とするデジタルキャンペーン運営企業・STOICであると特定した。すでにSTOICはMetaのプラットフォームからブロックされており、Metaはポリシーに違反する活動を停止するよう求める書簡を送付したとのことだ。
Metaはイスラエルのプロパガンダネットワークだけでなく、イスラエルのユーザーを標的としたイランのプロパガンダネットワークも閉鎖したと報告している。イランのネットワークには22のFacebookアカウントや8のFacebookページ、同じく8のFacebookグループ、そして23のInstagramアカウントが含まれており、影響力はイスラエルのネットワークよりわずかに強かったとのことだ。このキャンペーンはイスラエルと異なり、生成AIの使用は確認されなかったと報告されている。
コメント