生成AI(人工知能)を利用して作られた岸田首相の偽動画がSNS上で拡散している。首相にそっくりな声で卑わいな発言をさせたもので、日本テレビのニュース番組のロゴなども表示されている。海外では、政治家の偽動画が世論操作に悪用される事態も起きていて、日本でも今後、対策を求める声が高まりそうだ。
利用生成AI(人工智能)合成的岸田首相虚假视频正在日本社交平台上疯狂传播。视频当中,一张与首相一模一样的脸正在说着非常粗鄙的话语,甚至还打上了日本电视台新闻节目的标志。海外也出现了利用政治家的虚假视频操纵舆论的恶性事件,未来日本相关部门要求采取应对措施的呼声想必也将高涨。
偽動画では、背広姿の首相が画面中央で視聴者に向かって語りかけている。日本テレビの番組ロゴのほか、「BREAKING NEWS」などのテロップが表示されており、首相のオンライン記者会見を報じる番組を悪用して作られたとみられる。
虚假视频中,首相身穿西装坐在画面中央与观众说话。画面中除了有日本电视台节目标志外,还有“BREAKING NEWS”等字幕,看起来是恶意模仿了报道首相线上记者会的节目。
読売新聞の取材に対し、大阪府の男性(25)が生成AIなどを使って偽動画を制作し投稿したことを認め、「面白くて作った」と話した。日本テレビは「悪用されたことは到底許すことはできない。必要に応じてしかるべき対応をとる」などとコメントした。
面对读卖新闻的采访,大阪府某男性(25岁)承认自己利用AI合成制作了这条虚假视频,并坦言“觉得好玩才做的”。对此日本电视台方表示:“决不允许恶意使用。我们将在必要时采取适当应对措施”。
偽動画は2日、X(旧ツイッター)に投稿され、3日時点で232万回以上閲覧されている。
这条虚假视频2日发布至X(原推特),截至3日观看量已经超过232万。
一気に拡散
瞬间扩散
問題の偽動画では、背広を着てネクタイを締めた岸田首相が画面中央で視聴者に語りかけている様子が収められている。
问题虚假视频中,穿着西装,打着领带的岸田首相正在画面中央与观众说话。
画面の右上には、日本テレビのニュース専門チャンネル「日テレNEWS24」のロゴが入っており、同番組で実際に使用されているものに似せたテロップで、「岸田首相 『確かにいたしました』」などと表示されている。「LIVE」や「BREAKING NEWS」という文字もあり、岸田首相の話が緊急速報として生中継されているかのような印象を与える。
画面右上角有日本电视台新闻频道“日本电视新闻24小时”的标志,还模仿了节目经常使用的字幕样式,表明“岸田首相‘确是本人’”。还有“LIVE”和“BREAKING NEWS”等文字字幕,给人一种正在紧急转播岸田首相说话内容的感觉。
問題の偽動画は今夏、動画投稿サイト「ニコニコ動画」などに投稿された。3分43秒のうち、30秒分を抜粋したものが今月2日、X(旧ツイッター)に投稿され、一気に230万回以上閲覧された。投稿を見た他のユーザーからは、「AI普及の弊害」「悪意のあるフェイク動画」などの批判も書き込まれている。
问题视频在今年夏天就曾投稿到视频网站“niconico动画”。全长3分43秒,本月2日在X(原推特)上的内容截取了其中30秒的内容,瞬间达到了230多万的观看量。观看了视频的其他用户纷纷批判“这是普及AI过程中的阻碍”、“恶意虚假视频”等等。
短時間で
短时间内制作
偽動画を制作して投稿したのは大阪府の男性(25)だ。
制作并发布这条短视频的,是一个来自大阪府的男性(25岁)。
男性によると、ネット上で公開されている首相の記者会見や自民党大会の演説などの動画から、首相の音声をAIに学習させて、偽音声を用意した。首相のオンライン記者会見を伝えた日本テレビのニュース番組を利用し、自身の声を首相の偽音声に変換させる機能を使って、わいせつな発言を吹き込んだ。
该男性自称他让AI通过网上公开的首相记者会及自民党大会演讲等视频内容,学习了首相的声音,在制作视频时使用了假声音。然后利用转播首相线上记者会的日本电视台新闻节目,用变声功能把自己的声音转变为首相的声音,说了一些粗鄙言论。
そして、セリフに合うように、首相の口の動きを加工したり、テロップを作ったりして、1時間足らずで作り上げたという。
然后制作视频,让AI合成的假首相嘴部配合台词开合,再加上字幕,不到一个小时就做出了这样的视频。
男性は昨年から、岸田首相のほか、安倍元首相などの偽動画を制作・投稿し始めた。理由について、「総理大臣は、誰でも知っている象徴的な存在だから、注目を集めやすい」と説明。「混乱させる意図はなく、『笑ってほしい』という目的で作った。風刺のようなもの」とした。
该男性从去年开始制作并发布此类虚假视频,不仅是岸田首相,他还制作过前首相安倍等政治家的虚假视频。他说做此类视频的原因是因为“在日本,首相是众所周知的象征性人物,更容易有话题度”。并表示“没有引起混乱的想法,只是出于‘让大家图一乐’的目的做的。有点讽刺的意思”。
日本テレビは「日本テレビの放送、番組ロゴをこのようなフェイク動画に悪用されたことは、到底許すことはできない」として、必要に応じてしかるべき対応をとるとしている。
对此,日本电视台表示:“我们决不允许在这样的虚假视频中恶意使用我们的台标和节目标志”,并将在必要时采取相应措施应对。
※本文为沪江日语原创,未经授权禁止转载。
精彩阅读推荐:小室圭真子夫妇将搬入2亿豪宅!本是大喜事,日本皇室却高兴不起来?