加入收藏 | 设为首页 | 会员中心 | 我要投稿 惠州站长网 (https://www.0752zz.com.cn/)- 办公协同、云通信、物联设备、操作系统、高性能计算!
当前位置: 首页 > 移动 > 正文

全球十大AI训练芯片大盘点

发布时间:2019-10-16 21:16:10 所属栏目:移动 来源:乾明
导读:副标题#e# 本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 AI芯片哪家强?现在,有直接的对比与参考了。 英国一名资深芯片工程师James W. Hanlon,盘点了当前十大AI训练芯片。 并给出了各个指标的横向对比,也是目前对AI训练芯片最新

Graphcore IPU是这家公司的明星产品,其架构与大量具有小内存的简单处理器高度并行,通过一个高带宽的“交换”互连连接在一起。

全球十大AI训练芯片大盘点:华为昇腾910是中国唯一入选

其架构在一个大容量同步并行(BSP)模型下运行,程序的执行按照一系列计算和交换阶段进行。同步用于确保所有进程准备好开始交换。

BSP模型是一个强大的编程抽象,用于排除并发性风险,并且BSP的执行,允许计算和交换阶段充分利用芯片的能源,从而更好地控制功耗。可以通过链接10个IPU间链路来建立更大的IPU芯片系统。其核心数据如下:

  • 16nm制程,236亿个晶体管,芯片面积大约为800平方毫米,功耗为150W,PCIe卡为300 W
  • 1216个处理器,在FP32累加的情况下,FP16算法峰值达到125 TFLOPs
  • 分布在处理器核心之间有300 MB的片上内存,提供45 TBps的总访问带宽
  • 所有的模型状态保存在芯片上,没有直接连接DRAM

IO数据:

  • 2x PCIe-4的主机传输链接
  • 10倍的卡间IPU链接
  • 共384GBps的传输带宽

单核数据:

  • 混合精度浮点随机算法
  • 最多运行六个线程

拓展阅读:

成立两年估值17亿美元,这家Hinton点赞的AI芯片公司获宝马微软投资

Habana Labs Gaudi

Habana Labs同样成立于2016年,是一家以色列AI芯片公司。

2018年11月,完成7500万美元的B轮募资,总募资约1.2亿美元。

Gaudi芯片于今年6月亮相,直接对标英伟达的V100。

其整体的设计,与GPU也有相似之处,尤其是更多的SIMD并行性和HBM2内存。

全球十大AI训练芯片大盘点:华为昇腾910是中国唯一入选

芯片集成了10个100G 以太网链路,支持远程直接内存访问(RDMA)。与英伟达的NVLink或OpenCAPI相比,这种数据传输功能允许使用商用网络设备构建大型系统。其核心数据如下:

  • TSMC 16 nm制程(CoWoS工艺),芯片尺寸大约为500平方毫米
  • 异构架构:GEMM操作引擎、8个张量处理核(TPCs)
  • SRAM内存共享
  • PCIe卡功耗为200W,夹层卡为300W
  • 片上内存未知

TPC核心数据:

  • VLIW SIMD并行性和一个本地SRAM内存
  • 支持混合精度运算:FP32、 BF16,以及整数格式运算(INT32、INT16、INT8、UINT32、UINT8)
  • 随机数生成、超越函数:Sigmoid、Tanh、GeLU

(编辑:惠州站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

推荐文章
    热点阅读