国产AI算力灵汐产品矩阵解读-极智视界

释放双眼,带上耳机,听听看~!
极智视界分享国产AI算力灵汐产品矩阵的解读,探讨类脑计算和类脑芯片的技术特点和优势。

欢迎关注我的公众号「极智视界」,获取我的更多经验分享

大家好,我是极智视界,本文分享一下 解读国产AI算力 灵汐产品矩阵。

[系列声明:最近写了十余篇 “解读国产 AI 算力” 的文章 [我的公众号上],已经形成一个系列,也引起了业界一些反响和共鸣,但其中的分析解读难免涉及具体的算力数据,有些可能比较敏感,其中部分几篇已经被厂商公关作删、改处理,所以本着 “不给别人添麻烦” 的考虑,灵汐这篇暂时会是这个系列的最后一篇,后续看情况续写,之前答应粉丝的浪潮、景嘉微,另还有知存、瑞芯微等,抱歉没在这个系列续上,相信后续还是有机会续上的。若您发现系列中仍有涉及敏感的地方,可随时联系小编进行处理 ]

先感叹一句:灵汐,多么不一样的存在

“类脑计算”、”类脑计算芯片”,多么高大上的学术概念,很难想象它已经能够大规模商业化,而这就是灵汐。灵汐是全球首个成功研发出异构融合类脑芯片的 AI 芯片公司,是首个研发出兼容冯诺依曼架构、类脑计算模型双重架构 AI 芯片的公司,妥妥堪称 “国产之光”。

在解读灵汐产品矩阵之前,一定要对 “什么是类脑计算”、”什么是类脑芯片” 以及 “和现在的基于冯诺依曼架构的芯片有什么本质的区别” 等问题进行解释,估计很多同学应该都不太了解,因为我们习惯了 “传统芯片”。类脑计算是一种基于人脑神经元结构设计的计算方式,以完全拟人化为目标,追求在芯片架构上不断接近人脑。类脑芯片是模拟人脑进行设计来执行类脑计算,相比于传统芯片,类脑芯片在功耗和学习能力上具有更大优势。类脑芯片的研究就是基于微电子技术和新型神经形态器件的结合,希望突破传统计算架构,实现存储与计算的深度融合 (存算一体芯片也算类脑芯片中的一种),大幅提升计算性能、提高集成度、降低能耗。传统计算机芯片都是依循冯·诺依曼架构而设计,存储与计算在空间上分离,计算机每次进行运算时需要在计算单元和存储单元之间往复调用,频繁的数据交换导致处理海量信息效率很低,造成难以逾越的 “存储墙’、”功耗墙”。而类脑芯片采用存算一体架构,是专门的模拟人脑计算方式的芯片架构,旨在解决 “存储墙” 和 “功耗墙”。

灵汐的产品矩阵十分之丰富,从产品形态角度涉及芯片处理器级模组级板卡级服务器级,从算力场景则覆盖

国产AI算力灵汐产品矩阵解读-极智视界

对于类脑芯片处理器级,就是指的领启 KA200(-S) (而 HE200 是基于领启 KA200(-S) 的开发板),类脑芯片领启 KA200(-S) 基于全新的存算一体、众核并行、异构融合架构,能高效支持深度学习神经网络、生物神经网络和大规模脑仿真。单芯片集成 25 万神经元和 2500 万突触 (稠密模式),可扩展支持 200 万神经元和 20 亿突触的集成计算 (稀疏模式),支持混合精度计算 (48 TOPS@INT8 和 24 TFLOPS@FP16)。不得不说,类脑芯片的硬件概念真的和现在传统的芯片不太一样,但是算力层面的数据还是可以对比的。那么领启 KA200(-S) 的算力到底是个什么水平呢,英伟达 Jetson NX 算力 21 TOPS@INT8,英伟达 Jetson AGX Xavier 算力 32 TOPS@INT8,英伟达 Tesla T4 算力 130 TOPS@INT8。好像、似乎真没有直接对标的,但考虑到灵汐从芯片架构层面就是颠覆性的,对标个啥,另辟蹊径就好啦。

国产AI算力灵汐产品矩阵解读-极智视界

对于类脑计算模组,指的是 HM100,它是一款基于类脑芯片领启 KA200(-S) 开发的高度集成化模组,适用于嵌入式系统和边缘系统,可广泛用于智能摄像机、机器人、无人机等强算力AI场景和脑科学研究。HM100 模组的大小只有 2/3 的信用卡那么大,可以提供 48 TOPS@INT8、24 TFLOPS@FP16 的算力,这个算力跟上面介绍的 KA200(-S) 芯片的算力一样 (当然了,HM100 里面就是 KA200(-S) 的芯片…)

国产AI算力灵汐产品矩阵解读-极智视界

对于类脑板级产品,灵汐有三款板卡,主要面向推理场景,分别是 HP100、HP201 和 HP300,区别就在 HP100 用了一颗芯片、HP201 用了两颗芯片、HP300 用了三颗芯片,然后三个不同级别算力的卡就可以用于不同的应用场景,这种产品的 “纵深感” 设计简单而清晰。下面我整理了 HP100、HP201、HP300 的性能参数,加入英伟达的 T4 卡进行对比,如下,

国产AI算力灵汐产品矩阵解读-极智视界

来分析一下,灵汐推理卡这种芯粒堆叠的方式跟算能的很像,三芯粒的卡为 70 W 是对标 T4 的存在,这同样跟算能的很像。从功耗上来看,这里 “相对公平” 的对比为 HP300 vs T4,可以看到灵汐 HP300 在算力、视频解码、显存容量、主机接口方面都是胜出的,但在显存带宽这一项落后明显。来分析一下,可以看到从 HP100 -> HP201 -> HP300,他们的显存带宽都是一样的,而三张卡的区别在于数量上一颗、两颗、三颗芯粒的区别,考虑显存若是按 HBM 堆叠的方式,显存带宽理应为 1x、2x、3x 的存在。但事实不是如此,说明灵汐的多颗芯粒也是类似 “串联” 的形式,而非 “堆叠”。这种芯片互联的方式看起来明显落后,但实则可能考虑适应其 “存算一体” 的架构设计,不得已而为之。

三款推理卡从产品外形来看是一下的,下面是产品图,

国产AI算力灵汐产品矩阵解读-极智视界
国产AI算力灵汐产品矩阵解读-极智视界

对于类脑计算服务器级产品,有两款分别是 SL600 和 SL800,CPU 采用了英特尔的。这个不多说了,无非就是插几张卡的区别,跳过。

对于类脑计算边缘产品,灵汐有四款边缘计算设备,分别是 HS100-L、HS100、HS110 和 HS140,其产品形态都为边缘计算盒子。下面我整理了 HS100-L、HS100、HS110 和 HS140 的性能参数,加入了英伟达 Jetson AGX Xavier 进行对比分析,如下,

国产AI算力灵汐产品矩阵解读-极智视界

来分析一下,灵汐的几款边缘计算设备上的 NPU 能力都来自一颗领启 KA200(-S),区别主要在主控和外设上,而外设的参数过多,这里就没有罗列了 (如有兴趣可自行查阅)。而一颗领启 KA200(-S) 提供的算力在边缘场景已经是很能打了,已经是轻松超越英伟达 Jetson AGX Xavier 的存在。所以基本可以这么总结:灵汐的边缘计算产品,性能都差不多,主要按外设配置来区分产品级别、对应不同的应用场景。

下面是 HS100-L 的产品图,

国产AI算力灵汐产品矩阵解读-极智视界

下面是 HS100 的产品图,

国产AI算力灵汐产品矩阵解读-极智视界

下面是 HS110 的产品图,

国产AI算力灵汐产品矩阵解读-极智视界

下面是 HS140 的产品图,

国产AI算力灵汐产品矩阵解读-极智视界

整体,灵汐让我看到了不一样的 AI 芯片解决方案,让人大开眼界。而且,给人很明显的感觉是,灵汐毫不 “吝啬” 自家芯片的性能参数,反而是详细、赫然公布在自家官网,而这其实在国产 AI 芯片厂商中是非常罕见的,是有点强如华为昇腾的意思了 (从这个角度来说,这篇应该不会被公关了)。那么灵汐的底气到底来自哪里呢? 通过上面的分析,灵汐的算力产品应该算属于一个 “还不错” 的水平,但远没有达到 “遥遥领先”,所以从算力产品本身的实力水平来说,不应该有这种 “底气”。继续考虑,灵汐是类脑芯片,是存算一体芯片,需要清楚的是存算一体芯片的主要器件并不是晶体管,而是忆阻器 RRAM,而忆阻器对芯片先进制程的要求并没有那么严苛。拿这个领域最权威的清华大学吴华强教程团队的存算一体芯片来说,最开始是用了 65nm 的制程就能达到不错的性能,而市场上主流一些的存算一体芯片主要还是集中在 22nm、14nm 左右,而灵汐的技术会稍显先进,采用了 12nm 工艺。12nm 制程工艺是什么水平呢,前段时间华为发布量产机 HUAWEI Mate60,说明国产先进芯片制程已经能够达到 7nm,而退一步广为人知的是,中芯国际是早已具备量产 14nm 芯片的能力。对于灵汐的 12nm,暂且不说本身就不在美国的芯片封控范围之内,即使要是美国 “特事特办” 对灵汐实施封锁,考虑到类脑芯片对先进制程的要求并没有太高,所以灵汐根本不用担心。

再感叹一句:灵汐,多么不一样的存在

好了,以上分享了 解读国产AI算力 灵汐产品矩阵,希望我的分享能对你的学习有一点帮助。

 【公众号传送】

《极智芯 | 解读国产AI算力 灵汐产品矩阵》

畅享人工智能的科技魅力,让好玩的AI项目不难玩。邀请您加入我的知识星球, 星球内我精心整备了大量好玩的AI项目,皆以工程源码形式开放使用,涵盖人脸、检测、分割、多模态、AIGC、自动驾驶、工业等。一定会对你学习有所帮助,也一定非常好玩,并持续更新更加有趣的项目。 t.zsxq.com/0aiNxERDq

国产AI算力灵汐产品矩阵解读-极智视界

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI教程

Llama Index:高效的模糊字符串匹配技术

2023-12-9 18:53:00

AI教程

Azure 机器学习:端到端机器学习生命周期的企业级AI服务

2023-12-9 18:58:00

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索