卡饭网 > 科技 > 人工智能 > 正文

亚马逊AI语音技术引担忧,因可以模仿任何声音

来源:凤凰科技 作者:无 时间:2022-06-24 14:06:55

北京时间6月24日消息,当地时间周三,马逊AI语音数字助理Alexa可模仿任何声音的人性化演示文稿在网络上引起轰动,人们对于是否可能出现伪造声音的情况表示担忧,例如使用合法录音来模仿人们说他们实际上没有说过的话,来实施绑架诈骗或在公司重大决策中伪造音频

当地周三,亚马逊高级副总裁罗希特·普拉萨德(Rohit Prasad)透露其公司正在开发一种系统,可使AI语音数字助理Alexa在听不到一分钟音频后模仿任何声音

亚马逊AI语音技术引担忧,因可以模仿任何声音

该技术研发的消息公布时,人们只是简单地想到其带来的好处,Alexa 的首席科学家 Rohit Prasad 也在周三的公司演示中充分展示了数字助理的人性化,演示了 Alexa 冒充一位祖母阅读《绿野仙踪》摘录的画面。他表示,同理心和情感等人类特征是与人建立信任的关键,“在疫情持续的这段时间里,当我们失去了我们所爱的人时,这些属性变得更加重要”,“虽然人工智能无法消除那种失落的痛苦,但绝对可以让他们的记忆永存。”该演示给人以将该技术作为一种数字化死者复活工具的印象。

但普拉萨德在随后拉斯维加斯举行的亚马逊技术会议中表示,该服务的主要目的不是模拟死者的声音

随着该演示在网络上发酵讨论,引发了巨大轰动,与此同时出现了一些表示担忧的声音 —— 是否会使用合法的录音来模仿人们说他们实际上没有发声的话。布法罗大学计算机科学与工程教授 Siwei Lyu 的研究涉及深度伪造和数字媒体取证,他表示他对这一发展感到担忧,“亚马逊开发的语音转换技术肯定有好处,但我们应该意识到潜在的误用,例如绑匪可以在电话中伪装成家人或朋友来引诱不知情的受害者,或者高层管理人员在对公司财务状况发表言论时伪造录音,可能会使股市出现问题。”

虽然亚马逊没有透露 Alexa 的新功能何时推出,但类似的技术可能会让这种恶作剧变得容易得多。普拉萨德说,亚马逊已经学会根据不到一分钟人的讲话来模拟声音,而以前需要在工作室里才能完成这些工作。

相关推荐

  • 《严阵以待》游戏遭到黑客网络袭击

    卡饭网 4 月 18 日消息,VOID Interactive,即《严阵以待》(Ready or Not)这款游戏的开发商,最近公开了一则声明,告知公众他们于今年 3 月遭受了一次黑客的网络袭击。在这次攻击中,超过4TB的数据被非法获取,其中涵盖了高达210多万份的文件。

    黑客 2024-04-18
  • 华为 Pura 70 Pro 手机 16:08 点开售

    卡饭网 4 月18 日消息,华为官方宣布,华为 Pura 70 Pro 手机 4 月 18 日 16:08 点正式开售,售价 6499 元起。搭载新一代超聚光主摄,F1.4-F4.0 可变光圈,1/1.3英寸传感器,超大进光量,捕捉瞬息精彩超聚光微距长焦,F2.1超大光圈,35x 超级微距,探索未见之美。

    手机 华为 2024-04-18
  • Edge 浏览器更新后系统错误安装 Copilot 应用

    卡饭网 4 月 18 日消息,之前有用户反馈 Edge 浏览器在系统更新后自动安装了“Microsoft Copilot”应用,而微软官方已经确认这是一个 Bug 。具体来说,是由于3月28日后发布的 123.0.2420.65 更新错误地导致了这个问题。

    微软公司 2024-04-18
  • 华为 Pura 70 Ultra 手机今日开售

    卡饭网 4 月18 日消息,华为官方宣布,华为 Pura 70 Ultra 手机今日下午 16:08 点正式开售,有星芒黑、摩卡棕、星芒白、香颂绿四款颜色,16GB+1TB/16GB+512GB 两个版本可以选择,售价 9999 元起。

    手机 华为 2024-04-18
  • Edge 浏览器更新后默认禁用自动保存密码

    卡饭网 4 月 18 日消息,部分 Canary 频道用户反馈 Microsoft Edge 浏览器在升级到最新版本后禁用了自动保存密码选项,这一变化可能会对一些用户造成不便。

    微软公司 2024-04-18