YouTubeが人間による審査体制を復活へ。AI活用後は“誤BAN”多発も

YouTubeは9月、AIによる動画の審査が物議をかもす中、人間中心の審査体制に戻す見通しを明らかにしました。

感染拡大うけ、動画審査にAI活用

全世界的に新型コロナウイルスの感染が広がりを見せた2020年の春。
多くの企業が対応に迫られる中、YouTubeもまた方針転換を迫られていました。

YouTubeの日本語版公式ブログでは今年3月、COVID-19（新型コロナウイルス）の感染拡大防止のため、出社する社員の数を減らすと発表。
動画の審査の一部を自動システム（AI）が担当する中で、AIによる動画の削除がおこなわれる可能性に加え、

必ずしもポリシーに違反していないコンテンツが削除される可能性もあります。（中略）

コンテンツが誤って削除されたと思う場合は、再審査を請求することで、改めて再審査が行われます。ただし、こうした状況の中、審査に通常より時間がかかる場合があることをご承知願います。

として、審査体制にも少なからず影響が出る可能性を示唆していました。
（参考：YouTube「YouTube コミュニティの安全を守るために」）

相次ぐ“誤BAN”に課題も

YouTubeが動画の審査におけるAIの比率を増やすとした3月以降、YouTubeコミュニティガイドラインに違反していないにもかかわらず、チャンネルの活動に制限がかかるケースが多発。

中でもVTuber界隈への影響が顕著で、「西園寺メアリ」（登録者数12万人）や、「戌神ころね」（同82万人）や「フミ」（同11万人）が生配信の権限剥奪などの“誤BAN”を相次いで報告していました。
（関連記事「VTuber戦慄の“春の誤BAN祭り”―生配信の強制終了が相次ぐ」）

また6月ごろには、“物申す系”や“逆張り”などの活動をおこなうクリエイターの間でも、短期間ながら収益化の停止が相次ぎました。
（関連記事「収益化停止されたYouTuberが次々に復活。停止は手違い？」）

多くのクリエイターがこの“誤BAN”を恐れて活動の自粛ないし方針転換を余儀なくされる中、視聴者の間ではAIによる動画審査が誤BANを生んでいるとの声も続出するなど、YouTubeの不透明なAI活用方針には批判の声も上がっていました。

AIの比率を減らすと発表

動画の審査体制に対する不信感が残る中、アメリカのメディアは20日、YouTubeが人間による動画の審査体制を復活させると発表したと報道。
これらの報道の中では、今年4月から6月にかけて削除された動画1100万本のうち半数以上が、たったの一度も再生されることなくAIによって削除されていたことも明らかにされています。

迅速に大量の動画をチェックできる一方で、機械による動画の審査は多数の課題も残すこととなりました。

参考：
Financial Times「YouTube reverts to human moderators in fight against misinformation」
THE VERGE「YouTube brings back more human moderators after AI systems over-censor」