あなたが観ているYouTubeは、「ディープフェイク」かもしれない

最近、AI技術を悪用して生成されたディープフェイク動画が「YouTube」に急増しているらしい。すでにYouTubeは、1000本以上の動画をプラットフォーム上から削除しているようだ。

この記事の要点

・YouTubeがAIによる詐欺広告問題に対応し、1000以上のディープフェイク動画を削除
・偽動画にはテイラー・スウィフト、スティーヴ・ハーヴェイ、ジョー・ローガンなどが無許可で登場
・AIツールの悪用によりディープフェイクがサイバー犯罪の主流になりつつある

今回問題となったのは著名人が無許可で登場し、詐欺広告を宣伝するという動画。すでに数百万回以上も再生されているという。

ハッキングやサイバー犯罪に詳しいテック系メディア「404 Media」が調査を実施したことで、プラットフォーム上に誤解を招くコンテンツの存在が発覚。運営側は不適切なディープフェイクコンテンツの拡散を防ぐため積極的に取り組んでいくという。

AIで生成されたテイラー・スウィフトのポルノ画像がXで広く拡散され問題となったことは記憶に新しいが、こうしたディープフェイク技術はいまやサイバー犯罪を行うグループの主要な手口となりつつあるようだ。

性的画像をはじめ不適切な投稿を制限するはずのセーフガードすら無効化してしまうことで、問題は深刻さを極めている。

しかし、彼らは本来セクシャルな画像など不適切な画像を制限するはずのセーフガードを無効化することができるため、問題がさらに深刻になっているとのこと。「GAFAM」をはじめ、大手テック企業らによる対策は急を要する状況だが、“鼬（いたち）ごっこ”は、まだまだ続いてしまいそうだ。

※本記事はGeneraitve AIを一部活用して記事制作をしております。