今後コンテンツを作成するうえで強力なパートナーになりえる生成AIですが、扱う上でどのような点に注意すればよいのでしょうか。動画生成AI「Dream Screen」を発表したYouTubeが昨年に発表した生成AIガイドラインを解説します。

▼生成AIで合成したコンテンツの場合は開示を義務付け

クリエイターに対して、生成AIツールを用いて現実と見紛うような改変もしくは合成コンテンツを作成・投稿する場合は、その旨を視聴者に開示することを義務付けています。動画をアップロードする際に、特定のラベルを選択すると、動画再生画面や説明欄に生成AIで作成したコンテンツであることが表示されます。

生成AIで合成・改変したコンテンツにもかかわらず、開示しないクリエイターは、コンテンツの削除やYouTubeパートナープログラムからの除籍など、罰則の対象になる場合があります。また、ラベルの有無に関係なく、コミュニティガイドラインに違反するコンテンツ（視聴者に衝撃や不快感を与える現実的な暴力描写など）は、削除対象です。

▼コンテンツに利用された側は削除依頼が可能に

特定の個人の顔や声を無断で利用したデジタルコンテンツは、利用された側からプライバシー侵害の申し立てとして削除依頼が可能になりました。ディープフェイクなどの顔の模倣、声の合成などがこれに該当します。ただし削除依頼すればすべて削除されるというわけではなく、YouTube側で以下のような要因を材料に削除が妥当か判断します。

・削除依頼をするコンテンツがパロディもしくは風刺的内容か
・削除依頼を申請した人物を本人として特定可能か
・利用された人物が公人もしくは著名人か　など

また、アーティストの歌声やラップ音声などを模倣した生成AIコンテンツに対しても削除依頼をする機能もあります。このケースの承認判断においては、合成音声を使用したニュース報道や分析・批評する動画であるかなどの要因を考慮します。

視聴者に誤解を招くようなAI生成コンテンツの対処のため、YouTubeではコミュニティガイドラインの適用にあたり、人間とAIテクノロジーを組み合わせて活用しています。AIが違反の可能性のあるコンテンツをスピーディーに、かつ高い精度で大量に検出し、世界中にいる2万人以上のGoogle社審査担当者が実際にポリシー違反にあたるかを確認しているのです。まだスタートしたばかりのAI時代に、YouTubeは「時間をかけて物事を正しく進める」という姿勢を一貫して続けています。