ディープフェイク検出企業Reality Defenderも複数の動画を検証した。同社最高経営責任者（CEO）のベン・コールマンはこう語る。「私たちの家族や友人（特に高齢層）がこうした動画を見て、完全に信じ込んだわけではないにせよ、本物かどうか確かめるために私たちに相談してきたことがあります」
『WIRED』はさらにこれらのチャンネルにもコメントを求めたが、応じたクリエイターはひとりだけだった。登録者数4万3,000人のチャンネルを運営するこのクリエイターは、匿名を条件に語った。
「私はフィクションのインタビューを作っているだけで、そのことは必ず動画の説明欄に明記しています。フィクション形式を選んだのは、ストーリー性や創造性に少しのリアリズムを組み合わせられるからです。まるで現実を目撃しているかのような没入感を与えられるし、その感情的リアリズムこそが人を引き込む。『もしも』のシナリオを提示することで、ドラマチックで激しく、驚きをもたらす体験を作り出せる一方で、それが完全なフィクションであることに変わりはありません」
チープフェイクの経済
これらのチャンネルの背後にある制作の動機を考えると、政治的な面ややストーリー性へだけでは説明がつかない。実際には、より露骨な金銭目的が浮かび上がっている。たとえば「earningmafia」という言葉を使ったメールアドレスを持つチャンネルが確認されており、同じクリエイターが複数のチャンネルを運営している例もある。そのなかには関連チャンネルが停止されたものもあり、営利性の強い重複的・反復的な動画制作が行われていることは明白だ。
こうした動きは驚くべきことではない。生成AIの台頭とともにYouTube上でコンテンツファームが増加し、とりわけ弱者を狙った形で定着しつつある。クリエイターは例外なく、子ども向けキャラクターを不適切な状況に置いたり、ショーン・コムズの裁判のような物議を醸すトピックを選び、できる限り多くのエンゲージメントと収益を稼ごうとしている。
オックスフォード大学のサンドラ・ワクター教授は、この「レイジベイト（怒りを誘う）」コンテンツこそがプラットフォームのビジネスモデルの中心にあると指摘する。「プラットフォームにできるだけ長く滞在させることが狙いです。人を惹きつけるのは美しいものや楽しいものではなく、扇情的で有害で、怒りをかき立てるものです。そして、そうしたコンテンツはいまやAIで非常に安く、数分で作れるようになりました」
ほとんどのチャンネルは所在地を米国外としているものの、登場する有名人はほとんどステレオタイプ的に「アメリカ的」で、まるで「人気のある米国俳優リスト」から選ばれ、それにすぐに飛びつく（つまり収益性の高い）ネットの住民たちを狙っているかのようだ。『WIRED』が確認したいくつかのチャンネルは、この数年で大きく方向転換しているようにも見えた。かつては自動車や農業、フィットネスに関する教育コンテンツを投稿していたが、AIブーム以降はそうした内容を放棄したように見える。これは、視聴者を長期滞在させるクリエイターを優遇するアルゴリズムを利用しようとする試みか、あるいは収入減を補うため、盲目的にトレンドへ従っている兆候とも考えられる。
ワクター教授はYouTubeの新ポリシーによる収益化停止措置が一定の効果を持つことを期待しながらも、「問題の根本にはまだ到達していない」と指摘する。「クリックを稼ぎ、人々の目を画面に釘付けにすることを前提とした仕組みそのものが、有害性を生むシステムなのです」