見分けるのはもう不可能？YouTubeが「AIラベル」を発行

いきなりだが見て欲しい。

楽しそうにバスローブで踊るトム・クルーズ……ではない。

これは、AIを駆使した視覚効果技師のChris Ume氏と、モノマネ芸人のMiles Fisher氏とが組んで制作ディープフェイク動画。これだけを見て、どれだけの人がAIであると断言できるだろうか？

AI技術の浸透により誰でも簡単かつ短時間でディープフェイクを作れるようになってきているが、伴って精度も上がり続け、すでに見抜くのがかなり難しい状況だ。もちろんこれはTikTokにとどまらず、あらゆるオンラインプラットフォームで顕著に現れている。

そんな中、コンテンツ配信の大手として、YouTubeが生成AIなどを利用して改変または合成されたリアルな動画への「ラベル付け」を義務付けると発表。新たな機能をCreator Studioに追加するという。

新機能は「プロモーションを含みます」と表示されるPRラベルに近いもので、動画の説明欄やプレーヤー上に表示される。3月18日の発表によれば、数週間後には実装されるとのことだ。

クリエイターは、Creator Studioでチェックボックスを選択するなどして、該当する動画がAIを使用したものであることを開示する必要がある。

気になるのは、何が該当するのか。

ラベル表示義務の対象となるのは、現実の情報や認識に著しく混乱を招く場合だ。YouTubeが挙げた例を見てみよう。

・実在の人物の肖像を使用するもの：ある人物の顔を別人に置き換えたり、声を合成してビデオのナレーションに使ったりする

・実際の出来事や場所の映像を改変したもの：あたかも本物のビルが火事になったかのように見せたり、実際の街並みを改変して現実と違って見せたりする

・リアルに見えるシーンを含むもの：竜巻が実際の町に向かって移動するような、架空の事象（特に事件）をリアルに描写する

一方で、明らかに非現実的なものや、事実の認識に混乱を招く可能性が低いものに関しては、対象とはされないようだ。例えば、

・明らかに非現実的な内容：例えばアニメーションや、ユニコーンに乗って空想の世界を駆け抜ける人物など

・色調整や照明フィルター

・背景ぼかし、ビンテージ効果などの特殊効果

・ビューティーフィルターをはじめとする視覚補正

上記はあくまでも一例だが、見る人によって「明らかに非現実か」は変わってくるのが難しいところ。

繰り返し違反したり、明らかに悪質な投稿者に対してはアカウント停止の処分などを検討するとのことだ。YouTubeは最新のプライバシー保護に向けた取り組みを継続するとしており、上記に該当しないコンテンツであっても、混乱や誤解が生じる場合はさらにラベルを追加する可能性が高い。

また公式ブログでは、クリエイターを「YouTubeの中心であり、ユーザーがAIを理解・適用する上で重要な存在」と捉え、常に進化を続けるAI技術が人間の創造性を強化する方法が模索されることを期待する旨も述べられている。

“超・AI時代”で初めてのアメリカ大統領選や東京都知事選を控える今年。

ディープフェイクへの対策が出てくるのは必然的であり、Youtubeだけでなく、全てのプラットフォームにおいて対策が急がれるだろう。