德国知名新闻主播André Schünke 最近成为Deepfake滥用的受害者。骗子利用他们的数码复制品在Facebook上的虚假宣传视频中做广告,宣传一个AI支持的投资平台,承诺巨大的利润。这些视频使用了新闻主播真实的声音克隆,看起来非常逼真。
Deepfake降低了制作这类虚假视频的门槛。新闻主播是理想的目标,因为他们的声音和图像数据可以轻松在网上获取用于训练。在社交媒体快速浏览时,观众不太可能注意到小的不协调之处,从而上当受骗。
专家一直在警告Deepfake的危险。这两起事件证明了Deepfake可能被用来制造诈骗,对公众的信任造成伤害。监管机构和技术公司必须采取行动,限制这种技术的滥用,保护公众。