霉霉和印尼总统这两段视频震惊网民 小心AI Deepfake

文章来源: - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
(被阅读 次)



印尼总统佐科维多多(Joko Widodo)与美国知名歌手Taylor Swift(又译泰勒丝)近来各有一片段在网络热传,且都是说出一口流利中文的片段,印尼政府10月26日发新闻稿澄清片段是AI制作的假视频,呼吁大众勿信以为真。

这段在印尼网络社区热传的假视频中,印尼总统佐科维多多用中文说道“我曾经是个商人长大,22年之久…… 我不喜欢事情变得更加複杂,我喜欢事情简单且高效。”背景声音还有观众的笑声与拍掌声。虽然部份讲话内容的意思并不清楚,但可见他的口型配合其中文读音,令人容易以为是真片段。

印尼政府26日表示,原片段来自2015年佐科维多多的发言,但之后遭人使用深度伪造(Deepfake)的人工智能(AI)技术编辑,试图误导民众,呼吁不要乱在网络散播恶作剧内容。

  ↓ 佐科维多多“说中文”片段 ↓


近来网络上还有一段Taylor Swift“说中文”的片段热传,她在片内大谈专辑制作与自己的音乐,如“现在我可以回去重新审视我的旧作品,我从他们所在的地方挖掘出那些歌曲,并联繫了我喜欢的艺术家。”

片内Taylor Swift说话的口型同样配合其所说内容。

Taylor Swift“说中文”片段

据新闻网站The China Project指,片段是使用中国科技初创公司HeyGen的AI工具制作。

不少网民对此感到非常神奇,觉得很“真实”,也有网民认为这是令人害怕的事,利用科技制作假片段变得愈来愈容易。



在流传的AI假片段中,Taylor Swift说着流利中文(视频截图)

 

NICOLLEMENG 发表评论于
眼見為實也可以是假的啦。太可怕。那這個人沒做過這件事或者沒說過段話就可以被作假變成他做過或者說過什麼。如果AI改造的片段作為刑事犯罪的證據或者指控簡直難以識別真假。這就是為什麼它就很可怕。中共也可以用這個手段讓死人說假話,別人就永遠不知道事實真相了。

AI的可怕之處就是可以以假亂真。沒有真實信息可言了。那麼可以隨便把什麼人定罪或者關進監獄或者引導輿論。這個影響面簡直太大了。這就是為什麼美國要先通過與立法才可以使用這個技術。中國沒有所以你可以隨便看到這些被改造過的片段。
ljcn 发表评论于
Deepfake n年前就有了(奥巴马那个时期)。霉霉这个视频看起来还是很假(嘴唇处),看来技术几年来还是没长进。
shalalala 发表评论于
这是广告文
ecolio157h7 发表评论于
换语言及口型已经算是小噱头了,之前演神奇女侠那位好像都被换头搞成一个色情明星