您目前所在位置: 首页 > 今日观察 > 正文

初创公司Cornami开发出新款AI芯片 实现高效运行神经网络

2018-11-02 17:19:38 文/信息化观察网 作者/编译

初创公司Cornami周四透露了一些细节,即使用新方法来设计芯片,从而用于运行神经网络。首席技术官Paul Masters表示,该芯片将能够最好地利用20世纪70年代首次出现的技术。

在科技时代,各初创公司都在开发用于AI和机器学习的特殊芯片。在本周由半导体分析公司林利集团于圣克拉拉县(加利福利亚)举办的林利集团处理器秋季发布会上,出现了一些最引人注目的芯片。

ZDNet参加了此次大会,以探究这些秘密发布的芯片。

在周四早上,圣克拉拉县的一家初创公司Cornami在会上做了一次展示。

公司的联合创始人兼首席技术官Paul Masters描述了一种能够让芯片组件进行机器学习“训练”(开发出了神经网络)以及“推理”(神经网络能够持续提供答案)的全新方式。

Cornami一直在秘密开发这一芯片,而且这也是Masters第一次公开公司芯片工作原理的细节。

Cornami的目标是为众多市场提供这些芯片,包括“边缘计算”,其中汽车和消费者电子产品对于具备相当高的响应性能以及能够高能效地运行神经网络的芯片有着独特的需求。

Masters表示,该芯片使用了上世纪70和80年代的技术,即脉动阵列。这种阵列有繁多的计算元素(如乘数累加器)来运行神经网络中最基本的计算单元,即矩阵乘法计算。这些元素在网格中通过电缆相互连接,并同内存进行连接。“脉动阵列”是以心脏的脉动功能命名的:和人体内的血液循环一样,数据在这些计算元素之间流动。

大会表示,在脉动阵列刚出现的时候,并没有立即获得成功,而是通过成为构建AI芯片的主导方式逐渐成型。Masters在谈及脉动阵列时表示:“你已经见识了这个阵列,很棒,而且是来自70年代的技术。”

“谷歌现在在使用它们,微软以及很多的初创公司也都在使用。”他在谈论脉动阵列的普及度时说道。

但是Masters谈论了Cornami是如何以一种独特的方式来使用脉动阵列。“脉动阵列是一个方形的阵列。”Masters说道。他提及了乘数累加器的这种对称排列。由于这是一种固定的排列方式,因此将数据移动到或者移出这些计算元素要耗费芯片很多的性能,实际上要高于在每个计算元素中运行计算所耗费的性能。

“传统芯片中的能源消耗在哪里?”Masters表示这是一个大问题。“数据会被转储到DDR(动态内存)中,而且必须进入计算核心,因此数据能够从DDR迁移到3级缓存、2级缓存和1级缓存中,然后进入到运算寄存器,再然后就进入到计算中。如果我用完了这些核心,那就要反过来再重复一次,我必须先退出,然后让所有的临时数据转储回寄存器、1级缓存、2级缓存、3级缓存,如此反复。”

Masters解释道,仅仅是“接触”1级缓存,耗费的能源就是实际计算所耗费能源的4倍。

“传统机器中能耗最高的就是迁移数据。”Masters说道。解决方案是拥有上千个核心。通过让上千个核心保持“忙碌”的状态,就能够避免核心回到内存子系统,并且取而代之的是将计算的输入和输出从一个元素路由到下一个元素。“如果你有足够多的核心,如8000个、16000个或者32000个核心,那么我们就能够将所有的神经网络都保存在芯片上。”

鉴于内存的成本,Cornami芯片改变了电路,以便让计算元素能够切换到各种几何排列中,这种排列能够有效地组织芯片上的计算活动,同时会根据神经网络的需求而改变。

“Cornami构建了一个架构,在这个架构中,脉冲阵列能够按需被修改成任意大小和形状。”正如前面所展示的那样,脉冲阵列能够被动态地重新修改为全新的几何图形,而并非方形。这些奇怪的阵列形状能够让计算元素之间的输入和输出更加高效。因此Cornami芯片能够最大限度地减少内存以及缓存引用,从而“显着提高功耗、延迟和性能。”

Masters认为有了这种灵活性,单个Cornami芯片就能够处理整个神经网络,并且能够取代通常用于运行神经网络的CPU、GPU、FPGA和ASIC的各种组合。这是一个“位于芯片上的数据中心”,他说道,对于将AI应用到汽车等“边缘计算”领域中具有重要意义。

Masters展示了一些性能数据:当运行用于识别图片的SegNet神经网络时,Cornami每秒能够运行877帧,并且只需消耗30瓦的能源;相比于Nvidia“Titan V”GPU,该GPU每秒只能运行8.6帧,而且需要消耗250瓦的能源。

Cornami在2016年8月,从Impact Venture Capital获得了300万美元的B轮风险资金。该公司后续还会获得一些资金,但是公司拒绝透露具体数额。

原文作者:ZDNet

免责声明:凡注明为其它来源的信息均转自其它平台,由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,不为其版权负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。联系邮箱:leixiao@infoobs.com
意犹未尽,继续阅读下一篇

合成数据和真实数据对比:各有千秋

发表评论 | 登陆
评论

巨头间乱战:三星华为互掐,爱立...

巨头间乱战:三星华为互掐,爱立信降价,高通忙起诉
欢迎关注“创事记”的微信订阅号:sinachuangshiji 文/李俊慧 每一次技...

北京网约车新政过渡期明天结束 5...

北京网约车新政过渡期明天结束 5家平台拿到准入资格
5月18日,北京市交通委向滴滴出行和神州专车发放北京区域网约车经营许可。去年12月21日,北京发...

“Okay, Google”:语音会成为未来...

“Okay, Google”:语音会成为未来的搜索方式吗?
上周,笔者坐在办公桌旁思考一个项目,并且想吃点东西,如果在家的话,笔者就会说:“Ok Google,...

微软正开发无收银商店技术

微软正开发无收银商店技术
路透社今天早上的一篇报告称,亚马逊或许要面临来自微软的“无收银自动化商店技术”竞争压力...

Genesys新型路由引擎可预测用户...

Genesys新型路由引擎可预测用户体验
新技术能力扩展了公司在人工智能领域的最新创新;用户确认更好的商业结果,更高的满意度结果。 纳什维尔...

网信办关于《互联网新闻信息服务...

网信办关于《互联网新闻信息服务管理规定》答记者问
国家互联网信息办公室5月2日公布《互联网新闻信息服务管理规定》(以下简称《规定》),自2017年6月1日起...
关注官方微信公众号
微信搜索“信息化观察网”或扫描上方二维码

COPYRIGHT © 2007-2018

INFOOBS.COM ALL RIGHTS RESERVED

京ICP备17024783

京公网安备京公网安备 11010802023927号

  • 会员登陆
  • 会员注册
  • 找回密码
captcha