卡饭网 > 科技 > 业界动态 > 正文

Facebook研究新算法:遏制deepfake换脸行为并追踪其来源

来源:本站整理 作者:无 时间:2021-06-17 11:57:36

虽然目前 Deepfakes 换脸伪造情况在 Facebook 上并不是很突出,但这家社交网络巨头正加大对该技术的研究力度,以防范潜在的未来威胁。通过和密歇根州立大学(MSU)多位学者的合作,Facebook 创造了一种逆向设计深度假象的方法:分析人工智能生成的图像,以揭示创造它的机器学习模型的识别特征。

Facebook研究新算法:遏制deepfake换脸行为并追踪其来源

图片来自于 The Verge

这项工作非常有用,因为它可以帮助 Facebook 追踪在其各种社交网络上传播 Deepfakes 的不良分子。这些内容可能包括错误的信息,但也包括未经同意的色情内容--这是 Deepfakes 技术的一个令人沮丧的常见应用。现在,这项工作仍处于研究阶段,还不准备部署。

目前在该领域的研究已经能够确认哪些是人工合成的脸,哪些是真实的脸。不过由密歇根州立大学 Vishal Asnani 领导的团队进一步推进了这项研究,确定了未知模型的架构特征。这些特征被称为超参数(hyperparameters),在每个机器学习模型中都要像发动机的零件一样进行调整。总体而言,它们在完成的图像上留下了独特的指纹,然后可以用来识别其来源。

Facebook 研究负责人塔尔·哈斯纳(Tal Hassner)告诉 The Verge,识别未知模型的特征非常重要,因为 Deepfakes 软件非常容易定制。如果调查人员试图追踪他们的活动,这有可能让不良行为者掩盖他们的踪迹。

Hassner 表示:“让我们假设一个不良行为者正在生成许多不同的 Deepfakes,并在不同的平台上向不同的用户上传。如果这是一个以前没有人见过的新的人工智能模型,那么我们过去就无法进行判断了。现在,我们能够说‘看,这里上传的图片,那里上传的图片,都来自同一个模型’。如果我们能够查获[用于生成内容的]笔记本电脑或计算机,我们将能够说‘这就是罪魁祸首’”。

哈斯纳将这项工作与法医技术相提并论,即通过寻找所产生的图像中的模式来确定哪种型号的相机被用来拍摄照片。他说:“不过,不是每个人都能创造自己的相机。而任何有合理经验和标准计算机的人都可以炮制出他们自己的模型,生成 Deepfakes”。

相关推荐

  • 小米户外蓝牙音箱 Camp 上架,售价 699 元

    卡饭网3月29日消息,小米户外蓝牙音箱 Camp 上架,拥有 14 小时长续航+六单元40W两分频,支持小米澎湃智联,售价 699 元。内置多款音频风格,可通过米家 APP 切换风格,更可以手动调节频响曲线,对频响进行增强或衰减,打造你的独特频响曲线。

    小米音箱 小米 2024-03-29
  • 奇瑞欧萌达守护版车型上市

    卡饭网3月29日消息,奇瑞汽车宣布欧萌达守护版车型正式上市,官方指导价 10.99-11.49 万元。拥有超高强度钢车身设计,全员更安心,超强钢守护到底540°洞察之眼,纵览无余,看清一路屏障。

    汽车 2024-03-29
  • OPPO Watch X 全智能旗舰手表开售

    卡饭网3月29日消息,OPPO Watch X 全智能旗舰手表开售,搭载蓝宝石水晶表镜,拥有专业领跑模式,预售价2199 元起。拥有骁龙 W5和恒玄 2700旗舰双芯,4天全智能续航、12 天轻智能续航。

    OPPO 手表 2024-03-29
  • 联想推出拯救者 170W 氮化镓适配器,售价 249 元

    卡饭网3月29日消息,联想推出拯救者 170W 氮化镓适配器,售价 249 元,拯救者C170使用原装拯救者C-Slim方口电源线,可为拯救者机型提供最大约170W超能供电。

    联想 2024-03-29
  • OPPO Find X7 Ultra AI 手机卫星通信版4月2日开售

    卡饭网3月29日消息,OPPO Find X7 Ultra AI 手机 16GB+1TB 卫星通信版将于4月2日10:00点正式开售,预售价 7499 元。 创新天线波束专利设计,支持听筒/免提双模双向卫星通话手机,拨打卫星电话、发送卫星信息,盘山涉涧,放心通联。

    手机 OPPO 2024-03-29