AI生成スパムコンテンツの実態: ある投稿は1回で4000万人視聴、TikTok上の別スパムネットワークは動画9000本超・3.8億回視聴(著名人ゴシップ・政治的誤情報)

手法

Facebook上でエビの体にイエスの顔を合成した「シュリンプイエス」(2024年3月頃投稿でバズった別事例)のようなAI生成スパムが、プラットフォームの推薦アルゴリズムに乗って拡散する構造を分析した記事。本文で確認できる独立した3つの数値: (1) 2023年に投稿されたある一枚のAI生成画像が"40 million viewers"に到達(シュリンプイエスとは別の投稿)。(2) NewsGuard(Senior Analyst Natalie Huet)が特定したTikTok上のアカウント群が1年強で"over 9,000 videos"を投稿し"380 million views"を集めた。これらはAI生成の著名人ゴシップ・欧州政治/ウクライナ戦争に関する誤情報動画で、TikTokのCreator Fund受給条件(動画9000本・視聴数閾値)を満たす投稿頻度で運用されていた。(3) tech policyのNPO「What to Fix」(Victoire Rio)の推計によれば、SNSプラットフォームは広告収益から年間推定200億ドルを約500万アカウントに再配分しており、その大部分は良質なコンテンツ制作者ではなく「システムを悪用することを覚えたユーザー」に渡っているとされる(ただし算出方法の開示は本文になし)。

示唆

プラットフォームの広告収益シェアプログラムは投稿量・視聴回数を機械的にインセンティブ化しており、AI生成コンテンツの大量投稿でその閾値を突破するアカウント群が実在する。ただし報道内の数値は出典の性質が混在しており(NewsGuardの独立調査 vs NPOの自己推計)、鵜呑みにせず出典ごとの検証可能性を分けて扱う必要がある。またバズった単一事例(シュリンプイエス)と統計的なネットワーク調査(NewsGuard)は別物であり、話題性のある固有名詞と定量データを安易に結びつけるとミスリードになる。

成果・金額

40 million viewers(2023年のAI生成画像1投稿) / over 9,000 videos, 380 million views(TikTok上のNewsGuard特定アカウント群、1年強) / around $20 billion USD redistributed to about five million social media accounts annually(What to Fixの推計)

引用

The accounts we selected had published over 9,000 videos in just over a year and had collectively amassed 380 million views,