卡饭网 > 科技 > 业界动态 > 正文

谷歌开源更快、更高效的 TensorFlow 运行时 TFRT

来源:开源中国 作者:xplanet 时间:2020-04-30 11:39:41

TensorFlow 官方博客宣布开源新的运行时 TFRT,该运行时提供了统一的、可扩展的基础结构层,并在各类硬件上均具有高性能。

TFRT 产品经理 Eric Johnson 表示,TFRT 将取代现有的 TensorFlow 运行时。原有的 TensorFlow 运行时最初是为图形执行和训练模型的工作负载而构建的。与之相比,新的运行时将急切的执行需求放在第一位,同时特别强调架构的可扩展性和模块化。

谷歌开源更快、更高效的 TensorFlow 运行时 TFRT

它能够很好地满足开发复杂模型时寻求更快的迭代时间的开发者需求、在训练和服务生产模型时改进性能的需求,以及希望以模块化方式将边缘和数据中心设备集成到 TensorFlow 中的硬件制造商需求。

简单来讲,TFRT 可以减少开发、验证和部署企业级模型所需的时间。

TFRT 利用了 eager 和图形执行的通用抽象,为了获得更好的性能,其图执行器支持并发执行操作和异步 API 调用。在性能测试中,与 TensorFlow 当前的运行时相比,TFRT 将经过训练的 ResNet-50 模型(一种流行的图像识别算法)在图形卡上的推理时间缩短了 28%。

TFRT 仍处在早期开发阶段,它已经与 TensorFlow 集成,最终将成为其默认运行时。

相关推荐

  • 小米户外蓝牙音箱 Camp 上架,售价 699 元

    卡饭网3月29日消息,小米户外蓝牙音箱 Camp 上架,拥有 14 小时长续航+六单元40W两分频,支持小米澎湃智联,售价 699 元。内置多款音频风格,可通过米家 APP 切换风格,更可以手动调节频响曲线,对频响进行增强或衰减,打造你的独特频响曲线。

    小米音箱 小米 2024-03-29
  • 奇瑞欧萌达守护版车型上市

    卡饭网3月29日消息,奇瑞汽车宣布欧萌达守护版车型正式上市,官方指导价 10.99-11.49 万元。拥有超高强度钢车身设计,全员更安心,超强钢守护到底540°洞察之眼,纵览无余,看清一路屏障。

    汽车 2024-03-29
  • OPPO Watch X 全智能旗舰手表开售

    卡饭网3月29日消息,OPPO Watch X 全智能旗舰手表开售,搭载蓝宝石水晶表镜,拥有专业领跑模式,预售价2199 元起。拥有骁龙 W5和恒玄 2700旗舰双芯,4天全智能续航、12 天轻智能续航。

    OPPO 手表 2024-03-29
  • 联想推出拯救者 170W 氮化镓适配器,售价 249 元

    卡饭网3月29日消息,联想推出拯救者 170W 氮化镓适配器,售价 249 元,拯救者C170使用原装拯救者C-Slim方口电源线,可为拯救者机型提供最大约170W超能供电。

    联想 2024-03-29
  • OPPO Find X7 Ultra AI 手机卫星通信版4月2日开售

    卡饭网3月29日消息,OPPO Find X7 Ultra AI 手机 16GB+1TB 卫星通信版将于4月2日10:00点正式开售,预售价 7499 元。 创新天线波束专利设计,支持听筒/免提双模双向卫星通话手机,拨打卫星电话、发送卫星信息,盘山涉涧,放心通联。

    手机 OPPO 2024-03-29