号称全球最强,阿里发布AI推理芯片“含光800”,1秒处理7.8万张照片
9月25日,在阿里2019云栖大会上,阿里CTO张建锋推出了阿里首款AI芯片“含光800”。这是一款云端AI推理芯片,峰值性能为7.8万IPS(每秒能处理7.8万张照片),峰值能效达到500IPS/W。张建锋说,这是全球最高性能的AI推理芯片,一块含光800相当于10块GPU。今年是云栖大会的十周年,同时也是阿里创始人马云正式退休后,“逍遥子”张勇接任的首场云栖大会。
张勇表示,阿里要从“五新”走向“百新”、走向“万新”,从这五点扩散开来,蔓延到新娱乐、新城市、新政务等各行各业,全面走向数字化、智能化。01花一年半打造,1块顶10块GPU
张建锋说,含光800是阿里平头哥成立后首款正式流片的芯片,它的峰值性能为7.8万IPS(每秒能处理7.8万张照片),峰值能效达到500IPS/W。这块芯片从设计到流片只用了一年半时间。
张建锋还说,含光800性能“吊打”同行,“右图是我们友商几天前发布的芯片”。在芯片测试标准平台Resnet 50上,含光800的具体分数为:每秒处理78563张图片,约为第二名5倍;能效比达500 IPS/W,约为第二名的3.3倍。
据张建锋称,这是全球最高性能的AI推理芯片,一块含光800相当于10块GPU。据智东西了解,不同于基于冯·诺依曼架构的传统通用处理器,含光800根据神经网络推理运算特征,设计特定的硬件神经元、高速连接的存储结构以及专用指令集,对内存和计算单元实现高效组织管理,实现单条指令完成多个操作,提高计算效率和内存访问效率。
在杭州城市大脑里,视频实时处理使用GPU需要40块,延时300ms,单路视频功耗2.8W;而使用含光800仅需4块,延时150ms,单路视频功耗1W,有效节约了硬件和时间成本。
不过,阿里在现场并没有给出Tops、功耗等数据,也没有给出对标的GPU具体品牌与产品线,让这对比的参数多少有些不明确。
张建锋说,这是阿里首次将自家算法集成到硬件架构上。同时,含光800也是互联网公司第一次研发成功的AI芯片。今天的阿里云已经配备了这款芯片,用户可以通过阿里云体验到它的算力。据智东西了解,目前,含光800已应用于阿里巴巴集团内多个场景,例如视频图像识别/分类/搜索、城市大脑等,未来还可应用于医疗影像、自动驾驶等领域。
比如,拍立淘商品库每天新增10亿商品图片,为了让用户快速从海量图片中精准搜索到商品,需要强大的计算力支撑,使用含光800搜索效率可提升12倍,时间从传统通用GPU的1小时缩减至5分钟。
张建锋说,这块芯片只是阿里万里长征第一步,今天阿里有足够的信心、能力,把传统硬件公司能做到的、不能做到的都做到。未来,阿里成为软硬件一体化协同发展的公司。02张勇:从“五新”到“百新”,覆盖各行各业
今天张勇的演讲主题是《全面迈入数字经济时代》。2016年,马云在云栖大会上首次提出了“五新”战略——新零售、新金融、新制造、新技术、新能源。
今天,张勇表示,阿里要从“五新”走向“百新”,从这五点扩散开来,蔓延到新娱乐、新城市、新政务等各行各业,全面走向数字化、智能化。
同时,用户不断提出的新需求,也在不断推动新供给发展,促成新消费的诞生。张勇举了个例子,比如他这两天在淘宝造物节上看到的“潮鞋墙”“人造肉”等,都是过去从没有看到过的用户需求。张勇还说,数字经济时代,大数据与算力是“石油”与“发电机。02张建锋:全球AI芯片出货量达到29亿
阿里集团CTO兼阿里云智能总裁张建锋今天的演讲主题是《构建数字经济基础设施》。
张建锋说,近年来,全球新增数据量高达730亿、全球AI芯片出货量达到29亿。数字经济对中国GDP增长的贡献率已经连续5年超过了50%。但是,我们今天还没有完全达到数字化时代,前面还有一段很长的路要走。
当前,数字化升级的四大关键技术包括:
1、可靠、易用的云
2、全局智能的大数据
3、云端一体的智联网
4、随时随地的移动协同因此,“阿里云”从去年开始升级为“阿里云智能”,并将从这四大角度提供更全面、更智能的解决方案,让所有用户受惠。
比如,在政务方面,在阿里的协助下,浙江省已经将42个厅局的系统跑在云上,打通了92个部门的数据,积累了172亿条数据,并累计帮助了2000万市民——让市民享受到办事“最多跑一次”的便捷。而在农业方面,浩丰集团采用阿里大数据+AI的方案,让其德州农场的光照、养料、温度、水分等数据全面数字化,让每亩水稻成本节省了150元。04结语:十年云栖云栖大会的前身可以追溯到2009年的地方网站峰会,2011年演变成阿里云开发者大会,到2015年正式命名为“云栖大会”。
过去十年间,云栖大会已经成为了阿里集团——乃至国内科技界——的重要会议,它从2009年的200人小规模会议,发展成了如今2019年来自全球169个国家地区、超过8万人参会的大规模科技盛会。在历年的云栖大会上,阿里都会亮出重磅的新机构、新策略——比如宣布“五新”战略、成立达摩院、成立平头哥芯片公司等。
今年,阿里选择了在云栖大会上发布了含光800,可见AI芯片在阿里战略层面的重要性。