岸田首相のAIフェイク動画が拡散、制作者は削除＆謝罪するも炎上

生成AIで作成された岸田文雄首相のディープフェイク動画が拡散され、波紋が広がっています。

岸田首相の偽物が卑猥な発言

ニコニコ動画に投稿された問題の動画は、岸田首相そっくりの偽物を登場させ、本物に似せた声で卑猥な言葉を語らせるというものでした。ニュース番組風に見せるためか、「日テレNEWS24」「LIVE」「BREAKING NEWS」などとテロップが入れられています。

今月2日、動画を抜粋したものがX（旧ツイッター）に投稿されると、一気に230万回以上再生されました。茶化して面白がる声も見られましたが、「モラル的にやっていい事と悪いことがある」といった批判が続出しました。

テロップを悪用された日本テレビは3日夜、「放送、番組ロゴをこのようなフェイク動画に悪用されたことは、到底許すことはできません」と怒りの声明を発信しました。

問題の動画を制作したのは大阪府に住む25歳の男性。岸田首相の演説や記者会見から音声をAIに学習させ、セリフに合わせて口の動きを加工するなどして、この動画を約1時間足らずで作ったといい、Xでは「騙す、真実であると誤認させる意図はなかった」と釈明しています。

謝罪文投稿も厳しい批判

日本テレビの声明を受けて男性は4日、

日本テレビさま　岸田総理のAIフェィク動画は全て削除させて頂きましたのでどうか訴訟等は停止してください。　私には日本テレビの業務を妨害する意図はありませんし攻撃をする意図もございません。　全て削除し平に謝罪させていただきます　申し訳ございませんでした。

と謝罪文をポストし元動画を削除。しかし、SNS上ではこの動画のコピーが拡散されています。

男性の謝罪文には、

削除と謝罪で済ませようというのが、すごい神経。どんな意図だったのか説明が無い以上信用できない。削除しようがデジタルタトゥーとして残る。クリエイターならわかるはず。

遊びで済まされない事をしましたね。 人で遊ぶって事は自身も遊ばれる覚悟がないと。 謝ってももう遅いと思います。

など厳しい批判が寄せられ、炎上しています。