您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
人工智能 正文
发私信给程弢
发送

0

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

本文作者:程弢 2019-12-07 14:03
导语:从这次发布的测试结果来看,TPU似乎已经超出了业界的预期,但是藏在这一芯片背后的内部架构究竟有什么秘密呢,我们从Jouppi此前发布的论文当中,可以找到答案。
纷纷扭头观看,就连附近包厢中的客人也有好几个探出了头来。

如上图所示,在小批量任务中(16),Haswell CPU的响应时间接近7毫秒,其每秒提供5482次推断(IPS),其可以实现的最大批量任务(64)每秒则可以完成13194次推断,但其响应时间为21.3毫秒。相比之下,TPU可以做到批量大小为200,而响应时间低于7毫秒,并提供225000个IPS运行推理基准,是其峰值性能的80%,当批量大小为250,响应时间为10毫秒。

不过需要注意的是,谷歌所测试的Haswell Xeon处理器似乎也不能完全说明问题,英特尔Broadwell Xeon E5 v4处理器和最新的“Skylake”Xeon E5,每核心时钟(IPC)的指令比这款处理器提升了约5%。在Skylake是28核,而Haswell为18核,所以Xeon的总体吞吐量可能会上升80%。当然,这样的提升与TPU相比仍有差距。

最后雷锋网(公众号:雷锋网)需要强调的是,TPU是一个推理芯片,它并非是要取代GPU,可以确定的是,TPU与CPU一起使用对训练分析更加有益。但对于CPU制造商而言,如何研发出像ASIC一样兼顾性能和能效的芯片是现在以及未来要做的。

可以确定的是,谷歌已经逐渐在自己的数据中心部署TPU,但是上述测试数据只是理论结果,实际应用表现如何?我们还不得而知。

Via nextplatform,雷锋网编译

雷锋网版权文章,未经授权禁止转载。详情见转载须知

分享:
相关文章

文章点评:

表情

略懂技术的小编

关注一切有未来感的产品及技术!
当月热门文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说

Sitemap

白百何被曝整日以泪洗面 儿子问“这个家是怎么了” |3月北京网贷报告:平台成交额回升 平均利率继续 |解酒的最快方法 告诉你解酒的方法最好的解酒药 |
| 赵国青荣膺“第一届中国工美行业艺术大师”称号 | DNF2017春节礼包整理大全 DNF1.17新活动大全
法国轻奢设计师品牌IRO上海港汇恒隆广场店开幕 |宁夏旅游实现开门红 “旅游+金融”再助全域旅游 |王者荣耀2017年5月实名制启动 qq微信要绑定身份证 |
台"国防部长"在台军内网开辟个人专栏 被批"造神" | 港媒曝光中国048航母建造工程 建国百年将有10艘 |
宋楚瑜自称没有变绿 民进党却称:与你立场相同 |日本步兵二战时最恐怖的噩梦 慢慢的感受身体被烧焦 |南宁电视台全媒体新闻中心喜获全国青年文明号 |
爱情奇幻电影《仙境奇缘之别有洞天》 贵州福泉开机 | 法国轻奢设计师品牌IRO上海港汇恒隆广场店开幕 | 宁夏旅游实现开门红 “旅游+金融”再助全域旅游
◆◆◆郑州到焦作【云台山】两日游◆◆◆ 海南省第12届中国—东盟博览会招商引资项目 windows10提示文件helpctr.exe找不到怎么解决? 累计托养近300人次 她是心智障碍孩子的“刘妈妈” 2017富豪榜:王健林超李嘉诚1亿美元 夺亚洲首富
入选亚运会正式项目 电竞产业“风口”来了 PE新规:差异化监管为创投打开空间 终结全民PE 《大航海时代V》新版开启西地中海 追逐禁断之书
浏阳河酒价格| 笑傲天下戏美草| 家庭影院价格| 京东苏宁价格战| 装修材料价格| 密使演员表| 内衣批发价格| 水泥价格走势图| 小型宠物狗价格| 上海通用别克价格| 隆鼻价格表| 乡村爱情1演员表| erp软件价格|
稻花香酒价格| 换气扇价格| 冷风机价格| 文王贡酒价格| 油泵价格| 中华香烟价格表| 草酸价格| 笑傲天下戏美草| 美素佳儿奶粉价格| 天地争霸美猴王演员表| 民兵葛二蛋演员表| 巨兽岛稀有精英| 景德镇瓷器价格|