Forbesによると、YouTubeはOpenAIのSora停止後にAI生成コンテンツが流入しており、ディープフェイクやプラットフォームの品質に対する懸念が高まっているという。動画共有プラットフォームには約2億9000万本の動画があり、AI生成コンテンツによって成長が加速している。YouTubeのCEOであるNeal Mohanは、この課題を認め、「AIの創造的な活用を可能にしつつ、低品質なスパムがユーザーを圧倒しないようにバランスを取る必要がある」と述べた。
これを受けてYouTubeは5月、制作者の開示がなくても、動画を「AIによって大幅に改変された、または完全にAIによって作成された」とラベル付けする自動検知システムを発表した。さらに同プラットフォームは4月に、ユーザーがデジタル上の分身（ペルソナ）を作成できるAIアバター機能も導入している。一方で、およそ100万人のクリエイターが、AIモデルのトレーニングに自分たちのコンテンツを使うことをYouTubeに許可している。これは、プラットフォームの推定である6,900万人のアクティブなクリエイターのうち約1.5%にあたる。外部の一部AI企業は、ライセンス用として、クリエイターの映像1,000時間あたり最大10万ドルを提示している。
