FTC称音频Deepfakes背后的技术正变得越来越好

996753008

FTC称音频Deepfakes背后的技术正变得越来越好

据外媒The Verge报道，语音克隆技术的飞速发展使得人们很难分辨合成语音中的真实声音。 一群专家在本周在FTC的一个研讨会上表示，尽管音频Deepfakes(可以欺骗人们放弃敏感信息)是一个日益严重的问题，但该技术也有一些合理的合法用途。








FTC诉讼技术与分析部门副总监Laura DeMartino表示:“人们多年来一直在模仿声音，但就在最近几年，这项技术已经发展到可以使用很小的音频样本大规模克隆声音的地步。”FTC在其首个有关音频克隆技术的公开研讨会上，邀请了来自学术界、政府、医学和娱乐界的专家来强调该技术的含义和潜在危害。

FTC发言人Juliana Gruenwald Henderson在研讨会结束后表示，冒名顶替者是该机构收到的第一类投诉。她在一封电子邮件中说:“在得知机器学习技术正在迅速改善语音克隆的质量之后，我们开始组织这个研讨会。”

司法部计算机犯罪和知识产权部门的Mona Sedky表示，Deepfakes(包括音频和视频)使犯罪分子可以匿名交流，从而更容易进行诈骗。Sedky表示，以交流为重点的犯罪历来对罪犯的吸引力较小，因为要实现这一目标既困难又费时。她说道:“这很难令人信服地摆姿势。但是，借助强大的Deepfakes音频和匿名工具，您可以与世界各地的人们进行匿名通信。”

Sedky表示，音频克隆可以被武器化，就像互联网可以被武器化一样。“这并不意味着我们不应该使用互联网，但是可能会有我们可以做的事情，在前端的事情，可以融入到该技术中，从而使声音的武器化变得更加困难。”

波士顿儿童医院增强通信计划主任John Costello表示，音频克隆技术在失去声音的患者中有实际应用。他们能够“存储”音频样本，随后可用于创建其声音的合成版本。“许多人想确保自己的声音听起来很真实，因此，在他们失去声音之后，对于他们从未想过的东西，他们希望能够'说出'那些声音并听起来像他们自己的，”他说道。

美国 电视 和广播艺术家联合会电影演员协会的Rebecca Damon说道，对于配音演员和表演者来说，音频克隆的概念提出了一系列不同的问题，包括同意和补偿使用他们的声音。她说，配音演员可能会在听到声音的地方承担合同义务，或者可能不想以与他们的信仰不符的方式使用他们的声音。

她补充说，对于广播新闻记者来说，未经许可滥用或复制他们的声音有可能影响他们的信誉。 Damon表示:“很多时候，人们对新技术感到兴奋和冲动，然后不一定会考虑所有应用。”

尽管人们经常谈论社交媒体及其传播音频和视频Deepfakes的能力，但大多数参加研讨会的成员都认为，最直接的音频担忧是关注对于大多数消费者来说，是通过电话。

国防高级研究计划局(DARPA)的顾问Neil Johnson表示:“社交媒体平台是前线，这是传递消息，锁定消息并进行传播的地方。” 产生声音的文本到语音应用程序具有广泛而有价值的应用。但Johnson举了一个英国公司的例子，该公司被勒索约22万美元，因为有人在诈骗中模仿了CEO的声音。

佛罗里达大学赫伯特·韦特海姆工程学院的Patrick Traynor表示，围绕电话骗局和音频deepfakes的复杂性可能会继续改善。他说道:“最终，这将是使我们到达目的地的多种技术的结合，”以打击和检测合成或伪造的声音。Traynor补充说，确定呼叫者是否是他们所说的人的最好方法是一种久经考验的方法:“挂断并回电。除非是可以重新转接电话的国家行为者或非常非常老练的黑客组织，否则很可能是弄清楚您是否正在与自己以为的人交谈的最好方法。”