今年以来,国内云端AI芯片初创公司相继宣布融资消息。今天,瀚博半导体也宣布完成5亿元人民币A+轮融资,本轮融资由中国互联网投资基金和经纬中国联合领投,现有股东红点创投中国基金、五源资本、赛富投资基金、耀途资本、天狼星资本和元木资本跟投。
这是半年内瀚博半导体第二次宣布融资消息,去年11月的A轮5000万美元融资由快手、红点创投中国基金、五源资本联合领投。
与近来宣布完成融资消息的GPGPU初创公司不同,瀚博半导体的云端推理AI芯片是DSA(Domain Specific Architecture,领域专用架构),预期将在今年推出首款AI芯片,目前已经有多家潜在客户等待回片测试和芯片量产。
曾被业界某芯片大神称为中国Habana Labs(2019年被英特尔以20亿美元收购)的瀚博半导体,擅长GPU的创始团队为什么却选择了DSA开启创业?这家成立两年半的公司会以什么样的方式实现国产云端AI芯片的突破?
AMD高管2018年离职创业
AMD为中国芯片行业培养了不少高端人才,仅仅是AI芯片创业公司就有5家的核心团队成员来自AMD,瀚博半导体就是其中之一,并且两位创始人创业前都是AMD的高管。
瀚博半导体创始人兼CEO钱军有25年以上高端芯片设计经验,离职前在AMD任Senior Director,全面负责GPU(图像处理器)和AI服务器芯片设计和生产,现在市场上的AMD Radeon图像处理器和AI服务器芯片都是由其带队开发。
瀚博半导体另一位创始人,也是CTO和总架构师的张磊有23年以上芯片和IP架构设计的丰富经验,2013年晋升为AMD Fellow,负责AI、深度学习,视频编解码和视频处理领域。
促使两位AMD资深专家选择离职创业的关键原因还是AI对算力需求的大增。
1995年左右的硅谷半导体热潮,吸引了刚刚拿到美国爱荷华大学计算机工程硕士学位的钱军,义无反顾地投入其中。在思科的12年,其先后参与了存储、网络相关的多个芯片项目。
2009年10月,钱军从思科离职加入AMD,参与的第一个项目就是AMD 北方群岛(“Northern Islands”)系列GPU设计,在这个过程中,钱军也很快认识了此后一起创业的张磊,并保持合作,共同深度参与多个GPU项目。
钱军产生创业的想法大概是2016年。很长一段时间,硅谷很少有真正意义上好的半导体公司获得融资并取得巨大成功。2015年谷歌推出TPU之后,加上AI对算力需求的大幅提升,AI初创公司越来越多。
“但是国内缺少一款真正好用的云端AI芯片。”钱军对雷锋网说。钱军在2011年被AMD外派到中国,并把AMD的中国团队从几十人的团队发展到近400人的团队。在这个过程中,他看到中国本土的芯片设计能力、理念、人才也在不断发展,并让其逐渐获得了建立一个好的芯片企业的底气。
看到AI的机遇,也有了在国内建立芯片公司的契机。2018年12月,钱军和张磊在上海创立了瀚博半导体,并在北京和加拿大多伦多设有研发分部,如今团队人数超过180人。让人有些意外的是,两位GPU技术专家创业并没有选择GPU架构。
GPU专家创业选了DSA架构 设计云端AI推理芯片
英伟达GPU在AI领域的成功,成为了众多AI芯片初创公司想要超越的目标,国内一些初创公司也选择了GPGPU架构研发AI加速芯片。“我们首款产品是AI推理芯片,GPU的架构用于AI推理并没有优势。”钱军进一步表示,“英伟达的GPU软件已经迭代了很多代,也足够高效,我们设计一款GPGPU架构的芯片没有三五代的迭代,软件很难有类似的效率。并且,成熟大公司的工程能力也是初创公司欠缺的。”
钱军在思科和AMD的工作经验让他深刻理解,客户要的是落地产品,芯片公司一定要明白客户的需求。“对整个应用的需求了解清楚后,就会去想怎么去设计更先进的架构,解决用户对算力的需求,提供足够的有效算力。”钱军说:“我们的产品定义从开始就没有变化,花了两年的时间去设计芯片。”
DSA架构的优势在于,架构设计本身可以实现超过GPU 10倍的性能。就算因为制程和软件效率等方面的局限,DSA架构的AI芯片最终产品仍能有GPU 3-5倍的性能,拥有与GPU以及其它AI芯片竞争的能力。
这也是像Habana这类的国外头部云端AI公司,和几乎所有的ADAS芯片的AI推理引擎(特斯拉的FSD,Intel的Mobileye甚至是英伟达的ADAS芯片)用的都是DSA的架构,而不是GPU架构的原因。“当然,性能指标也不是高就代表好,有的芯片虽然指标很高,但并非客户需要的,也没有人买单。”钱军指出。
要充分发挥芯片架构的优势,软件也非常重要。“任何硬件没有软件是没办法运行的,许多人认为思科是一个硬件公司,但我以前在思科的时候,软件研发工程师人数至少是硬件工程师人数的5到6倍。”钱军说,“我不止一次说,我们公司的软件工程师会三倍于硬件工程师。瀚博从云端推理切入,能够将产品更快的推向市场,最终可以尽快完成落地。”
明确了目标和方法,接下来要将技术和商业向前推进。芯片是典型的技术、资金、人才密集的行业,对于巨头公司而言一款芯片的失败可能会为竞争对手创造绝佳的市场机遇,对于芯片初创公司而言则会是致命打击。
钱军和张磊作为芯片行业的资深人士深知芯片创业的风险。“云端芯片的风险在于投入更大,但终端芯片的风险在于应用场景比较碎片化。我们的云端推理芯片可以满足不断增长的云端AI推理需求。”
不过,有实力的瀚博并没有急于流片,而是等有了客户的明确需求才流片。雷锋网了解到,瀚博的投资人之一快手和其他互联网头部公司都是瀚博的目标客户。瀚博的芯片能吸引这些互联网公司的关键在于了解中国客户的需求,并且DSA架构也带来视频加AI性能的显著优势,视频加AI联合设计是瀚博的核心竞争力。
“互联网流量的80%都与视频相关,我们的推理芯片有通用性,能够满足搜索、直播、NLP等应用的需求,也能应用在自动驾驶等领域。瀚博提供基础的解决方案给客户,客户在这个基础上开发出最终的解决方案。”钱军介绍。
为了更快让公司拥有健康的现金流,瀚博现阶段非常聚焦。钱军说:“数据中心是一个很大的市场,也是一个很大的生态,我希望有几个特别厉害的客户,这就足以让我们实现健康的现金流,支持我们往前发展。”
因此,瀚博的算法团队也主要聚焦主要客户的应用方向,优化较为明确的模型算法。
瀚博选择DSA架构创业,与被英特尔收购的以色列初创公司Habana十分相似。钱军说,“Habana的成功实际上是给我们打开了一条路,我们其实是肩并肩地与GPU在竞争。”
小结
国内大部分AI芯片初创公司都成立于2015年左右,2018年成立的瀚博看起来没有先发优势。但实际上,创始团队核心成员丰富的经验,可以让他们基于自身的优势更好的参与竞争。包括对客户需求的理解,技术路线及芯片架构的选择,对风险的认知等。
虽然瀚博的首代产品要今年才会发布,但瀚博稳扎稳打获得国内互联网客户认可,降低风险的同时推动硬件、软件和生态的向前发展。至于未来是否会采用GPU架构研发云端训练芯片,钱军说瀚博保持开放的心态,只是目前会聚焦于云端和边缘的AI推理芯片,“我们可以落地的应用很多。” 钱军说。
对于资本的态度,钱军同样保持开放的心态。他表示,“我喜欢达到一个里程碑再进行下一轮融资的模式。国内对芯片投资的热潮确实让我们每个阶段的融资额都更高,但依旧保持合理的水平,我们对融资的态度是开放的,有资源且志同道合者就可以一起往前走。”