原标题:AI对应配音改演员口型 汤姆·汉克斯也能流利说日语 来源:智东西
近日,英国AI创企Flawless使用Deepfake(深度伪造技术)调整演员面部表情,让他们改变口型说外语,解决观众观看外国电影时演员口型与字幕或配音不同步的问题。该公司将这一可视化翻译技术产品命名为TrueSync,在该工具下,汤姆·汉克斯在《阿甘正传》中也可以流利地说着日语。
电影使用TrueSync再制作后,即使一名演员用英语拍摄了一部电影,对于听中文配音的电影观众来说,似乎所有的演员都在讲中文。
一、多语言可视化翻译,Deepfake释放电影潜力
使用Deepfake技术改变视频存在一定风险,因为这会创造从未发生过的场景,让演员讲出他们没有说过的话,例如杨幂换脸等视频的出现给当事人带来一定的困扰。
但Deepfake技术也可以让电影制作更为便捷,成本更低,释放电影真正的潜力。
事实证明,以前将外国电影进行多语言配音或字幕更改的方式,会降低电影画质,对外国观众来说观看较差。
Flawless公司的TrueSync工具将Deepfake技术用于电影制作,电影制品人和内容所有者都可以利用TrueSync工具将外语电影视觉翻译成任何观众的母语。
二、变口型后电影没法看?最大限度保留表演细节
Flawless汇集AI科学家、电影制片人和技术人员,所研发的TrueSync工具是全球首个使用AI以多种语言创建完美对口型可视化的系统。
TrueSync可以最大限度的保留原版电影的质量和沉浸感,保留所有演员特质表演细节。
因此,大家无需担心Deepfake技术会破坏电影整体情绪。
在计算机图形学的飞速发展下,Deepfake技术也在不断迭代。
现在,业余创作者只需要用手机和电脑,也可以创作出好莱坞水准的电影,而无需耗费好莱坞电影类似的成本。
例如,曾经在视频剪辑中手动擦除对象是一个非常耗时的过程,需要逐帧调整,而现在剪辑软件已经可以自动处理了。
三、剪辑师、鬼畜者福音,“AI换嘴”技术已逆天
近年来,AI图像处理能力正持续突破,各国AI换口型技术也在不断创新迭代。
印度海德拉巴大学和英国巴斯大学研发了一个名为Wav2Lip的AI模型,可以在视频中同步生成准确唇语。任何人物身份,甚至包括卡通人物,任何语音和语言,都可以将口型视频高精度同步到任何目标语音。
▲Wav2Lip技术下配口型美国华盛顿大学基于公开的奥巴马音视频片段,用AI分析了数百万帧影像,以确定奥巴马嘴唇、牙齿、嘴角等脸部变化,生成了口型几乎完美匹配、高度逼真的假视频。
▲奥巴马换口型技术流程图此外,斯坦福大学、马克斯普朗克信息学研究所、普林斯顿大学和Adobe Research的研究人员组织了一个团队,创建了一种AI算法,给定任意文本就能随便改变一段视频里人物说的话,并且改动后看不出篡改痕迹。
▲改变文字后生成新视频结语:Deepfake提升视频生产效率
在Deepfake技术的发展下,电影制作商不仅可以降低电影译制成本,还可以在演员念错台词时进行补救,从整体上提升电影生产效率。
诞生于2017年的Deepfake虽近年来饱受非议,但随着相关监管的严格以及技术人员素养的提升,Deepfake商用场景不断拓展,逐渐在内容生产领域显现出自己的潜力。