您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
人工智能 正文
发私信给程弢
发送

0

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

本文作者:程弢 2019-12-13 14:03
导语:从这次发布的测试结果来看,TPU似乎已经超出了业界的预期,但是藏在这一芯片背后的内部架构究竟有什么秘密呢,我们从Jouppi此前发布的论文当中,可以找到答案。
在耀月轻柔的抚摸下发出满足地呼噜声。

如上图所示,在小批量任务中(16),Haswell CPU的响应时间接近7毫秒,其每秒提供5482次推断(IPS),其可以实现的最大批量任务(64)每秒则可以完成13194次推断,但其响应时间为21.3毫秒。相比之下,TPU可以做到批量大小为200,而响应时间低于7毫秒,并提供225000个IPS运行推理基准,是其峰值性能的80%,当批量大小为250,响应时间为10毫秒。

不过需要注意的是,谷歌所测试的Haswell Xeon处理器似乎也不能完全说明问题,英特尔Broadwell Xeon E5 v4处理器和最新的“Skylake”Xeon E5,每核心时钟(IPC)的指令比这款处理器提升了约5%。在Skylake是28核,而Haswell为18核,所以Xeon的总体吞吐量可能会上升80%。当然,这样的提升与TPU相比仍有差距。

最后雷锋网(公众号:雷锋网)需要强调的是,TPU是一个推理芯片,它并非是要取代GPU,可以确定的是,TPU与CPU一起使用对训练分析更加有益。但对于CPU制造商而言,如何研发出像ASIC一样兼顾性能和能效的芯片是现在以及未来要做的。

可以确定的是,谷歌已经逐渐在自己的数据中心部署TPU,但是上述测试数据只是理论结果,实际应用表现如何?我们还不得而知。

Via nextplatform,雷锋网编译

雷锋网版权文章,未经授权禁止转载。详情见转载须知

分享:
相关文章

文章点评:

表情

略懂技术的小编

关注一切有未来感的产品及技术!
当月热门文章
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说

Sitemap

支付宝红包杀入微信 春节或上演“红包大战” |柴油国五排放标准将执行 尿素选择使用莫忽视 |美媒称朝新核试爆准备就绪 金正恩:战火一触即发 |
物联网的现实:2025年全球市场规模将不到0.5.. | 阴阳师灯笼鬼夜叉椒图反击队实战测试 注意这不是演习 | 沃尔玛是如何从不可一世到对电商委曲求全的?
华为服务133亿美元背后:客户商业成功才是真成功 |为制约三星 苹果鼓励LG扩大智能手机OLED规模 |色魔车内迷奸百名女性拍视频 有人对其动真情 |
家电售后乱象该休矣!苏宁易购重拳出击治顽疾 | 别克的环保英雄梦贵不贵?别克Velite 5 正式上市 | 车讯:年产5万台 万向汽车获新能源车生产资质
车讯:换装2.3T发动机 新款林肯MKC总统版谍照 |罗布泊发现古城面积庞大 专家断定为楼兰古国... |重播2000次的《西游记》上千亿版权收益归了谁? |
车讯:2017北美车展:雪佛兰全新Traverse发布 | 华为服务133亿美元背后:客户商业成功才是真成功 | 为制约三星 苹果鼓励LG扩大智能手机OLED规模
美军“黑鹰”直升机坠毁致1死2伤 事故原因待查 人,太心软落到这样的下场,老实人都该看看! 聚焦客户忠诚度|2015中国汽车客户关爱奖榜单揭晓 成都高校现最牛女寝 6人全进名校读研(图) 气体灭火、气溶胶、S型气溶胶、S型气溶胶灭火装置
用车秋冬交换时期 爱车应该注意哪些清洁和检 ?? ?????????????Ч|????н?????????????±仯 车讯:启辰7款新车将上市 覆盖MPV/新能源市场 受国产手机挤压 中国iOS市场份额跌至3年来最低
今日山东肉毛鸡价格| 除湿器价格| 青苹果乐园演员表| 太原阿瓦山寨| 水果玉米价格| 麦克风价格| 和天下价格表| 全家福演员表| 团圆演员表| 砂岩浮雕价格| 飘逸杯价格| 月饼价格表| 传奇价格|
北京园博园门票价格| 眼泪落下罗马音| 别爱我演员表| 飞天茅台酒价格查询| 再造死士| OPPo的价格| 电动自行车价格表| 激光除皱价格| 巨兽岛稀有精英| 跑马场演员表| 失落的帝国 猴王| 西瓜霜喷剂价格| dnf重铸装扮|