服务于全球各领域电子制造客户
公司新闻 行业动态 产品知识
作者 | 包永刚
编纂 | 王亚峰
与三四年前海内云端AI芯片公司们于发布会的PPT上逾越英伟达的豪言壮志形成光鲜对于比，如今这些公司于实际里处处碰鼻，很多连北都找不着。
“刚过完年，咱们把芯片送到客户那里测试时，才发明咱们的软件底子没措施满意客户运用场景的需求，由于有些功效设计的时辰就没思量到，咱们就地就傻眼了。”
这还有是拥有AI芯片的公司才能感触感染到的痛楚，产物还有没出来的公司，于2022年的本钱隆冬里，奋力融资。
“我只能用腥风血雨来形容抢融资的可怕。”眼见AI芯片公司间争抢融资的从业者露西说，“为了可以或许拿到融资，有些草创公司写抹黑竞争敌手的尽调陈诉，再零丁发给投资人拦阻竞争敌手融资。”
固然，为了拿到融资，还有有AI芯片公司讲起了GPU的新故事。
“不懂的人不会投了，真正懂的人只会投真能落地的AI芯片公司。”这险些是业界的共鸣。
但云端AI芯片公司们落地的时辰，才真切领会到设计出芯片只拿到了“入场券”，才真切领会到软件有多灾做。
实际让云端AI芯片创业者们越发心知肚明的是，不要说逾越英伟达，卖出一张AI加快卡才是最实际的方针。
这就留下了一个值患上寻思的问题，假如AI芯片的介入者们及投资人们都只是想赚快钱，那狂欢竣事能给海内半导体财产留下甚么？
本钱隆冬里，为抢融资不择手腕
对于在单款芯片开发成本就高达数亿元，每一年员工的薪资支出高达上亿元的年夜芯片创业公司，年夜量融资成了活下去的要害。“拥有更多融资，就有更年夜熬死竞争敌手的时机，终极就能活下来。”数位投资界及芯片业界的人都对于雷峰网说。
融资能力成了一家年夜芯片创业公司掌舵人主要的能力，于2022年的本钱隆冬里，就越发磨练年夜芯片公司的开创人们。
“市场上的资金是有限的，为了可以或许得到融资，除了了拼实力，有的公司也耍起了手腕。”露西有些愤怒，“为了拦阻竞争敌手融资，一家芯片公司找竞争敌手公司的去职员工挖黑料，找第三方机构出一份尽调陈诉一对于一发给投资人，投资人收到尽调陈诉后质疑其可托度，找撰写陈诉的机构确认，机构支枝梧吾答复说是实习生写的，这类手腕有些拙劣。”
这家为了抢融资的GPGPU（通用图形处置惩罚器，属在AI芯片的一类）草创公司不择手腕实在也轻易理解，究竟作为为数未几还有没正式发布产物的公司，不上不下，为了拿到参赛入场券，只能先拿融资，尤其是于投资人愈加审慎及理性的2022年。
“还有好其时开创人‘骗’了咱们，假如其时开创人尤其理智的给咱们阐发投资年夜芯片创业的危害，咱们也不敢投年夜芯片。此刻咱们也‘上船’了，就各人一路荡舟。”一名回过味的AI芯片投资人于2022年变患上越发审慎。
这与几年前的环境年夜不不异。
“于AI年夜热的2016年先后，AI芯片公司开创人甚至连完备的贸易规划书都没有就能得到几亿融资。厥后，AI芯片公司的开创人靠着于PPT上逾越英伟达也能得到融资。但到了如今，投资人不仅要看产物，还有要看芯片的MLPerf Benchmark（一套用在丈量及提高呆板进修软硬件机能的通用基准），更现实的投资人直接看芯片落地的定单的发票。”AI芯片从业者张伟（假名）看患上很清晰。
“陪AI芯片草创公司真正跑出来难度太年夜了，即便咱们天使轮就投资了一家很是有潜力的AI芯片公司，他们的产物也于落地历程中，可是高估值没有充足的支撑，对于我来讲是一个很年夜的压力，咱们于思量退出。”投资了多个初期项目的投资人王军（假名）表达了本身真正的设法。
关在AI芯片公司的估值，抛却投资AI芯片草创公司的投资人Blake说，“给AI芯片公司估值没有一个很好的锚，提高或者者降低50%均可以，这对于投资人而言算不上好时机。”
为何本钱还有是涌入了AI云端芯片范畴？“一个是赛道逻辑，看到英伟达买卖好、市值高就投资。另外一个是一级市场投资人抱团。还有有就是许多投资人其实不专业，尤其是跨范畴的投资人及机构。”Blake认为。
现实上，不止是没有产物的公司于抢融资，有产物但资金紧张的AI芯片公司也介入了“抢融资”。
起个年夜早，赶了个晚集的「早鸟」
说来有趣，有产物但还有要抢融资的公司A此前面对过一次融资危机，公司的两次动荡为这家公司的远景蒙上一层暗影。另外一家起个年夜早的AI芯片草创公司B早早预备好产物，却被困于了软件里，先发上风耗损殆尽。
两家起了年夜早赶了晚集的AI芯片公司，一个从公司谋划的维度，另外一个从产物的维度，揭示了年夜芯片创业的巨年夜挑战。
两次动荡，出路未卜
A公司建立很早，2018年就发布了首款产物，盘踞了先发上风，但这家公司的前员工向雷峰网(公家号：雷峰网)吐露，于公司发布首款产物的一年多以后，融资一直处在B轮，融资进度跟不上研发需求，在是最先缩减营业、欠薪、裁人，连CEO也被“裁”了。
A公司的前员工吐露，“那次的年夜变更，公司只保留了芯片团队，公司治理层及营业年夜洗牌。不外融资也只是公司动荡的此中一个因素，现实是各类因素的配合作用。”
业界的说法是，这家公司的CEO及结合开创人于技能线路上理念分歧，结合开创人及投资人一路让CEO出局。
开创人被踢出局的戏码算不上新鲜，但不幸的是公司的要害人物变更好像成为了这家公司的“劫”。
A公司于第一次动荡以后重整旗鼓，发布了新产物，迎来新的掌舵人，合法一切都重回正轨之时，再次遭受动荡。
“A公司新任CEO气焰有些猖狂，声称某公司的项目势于必患上，2022年能落地2亿的项目。”多位AI芯片业界人士都向雷峰网说起。
但这位经验富厚的CEO还有没现实创造2亿的营收就遭受了查询拜访。
“一时间，喷鼻饽饽CEO似乎成为了烫手山芋，不说2亿，不知道A公司本年能不克不及实现几万万的营收？”这成为了偕行会存眷的话题。
每一代产物差别样，没有高质量落地项目
A公司由于人的因素没能占尽先机之时，B公司被局限于了开创团队的认知里。
“软件做的真的太差，客户没措施用起来，天然难落地。”几位B公司前员工以和业内偕行都云云评价。
软件没做起来，是由于硬件设计也有问题。
“B公司的芯片迭代到了第三代，但每一一代芯片架构想路都于变，甚至首席架构师都差别，设计出的硬件微架构也有很年夜的差别，硬件架构没有延续性，就算软件的工程师再努力，软件也难以复用，每一一代产物软件就像是从零最先。”相识B公司的马超（假名）说：“另外一方面，B公司没有能真正掌控整个软件栈的技能年夜牛。”
一名B公司的前员工吐露，公司没有业界顶尖的年夜牛，软件团队的人配景虽然都还有不错，但就配景差未几造成为了彼此看不上，怎么可能做出好产物。固然，公司请过一个业内某技能范畴的妙手，但面临AI芯片这么年夜一摊子软件，预计也很难把控，待了一个多月两个月就脱离了。
对于在这类环境，几位业界人士有一些共鸣，这家公司的开创人确凿是有深挚堆集的芯片专家，但究竟不是芯片架构方面的专家，有局限性也很正常。但这家公司的开创团队中没有软件的年夜牛，外部招来的人即便能力再强，也很难被“接纳”，于焦点治理团队中没有话语权，也很难阐扬协力做出好产物。
没有高效、好用的软件，也是B公司的投资人虽然采办了极少量芯片测试，但没能经由过程灰度测试，进入年夜范围采购环节的要害缘故原由。固然，B公司也拿到了当局项目，定单金额不小，但现实能不克不及孕育发生真实利润都存疑，算不上高质量、可复制的落地项目。
实在，今朝海内AI云端芯片公司年夜部门开创团队都是有深挚的芯片从业配景，于对于软件的理解及主要性的认知上有较着的局限。
一名海内AI芯片公司软件的卖力人直言：“CEO及CTO都听不懂我的事情。一些海内AI公司开创人对于软件的认知，比拟领先的国际至公司，我认为有十几年的差距。”
那末，AI芯片的软件到底难于哪？
被AI软件栈困扰的AI芯片公司卖力人陈俊（假名）指出，一方面，AI芯片的软件是从零最先，具备自然的繁杂性，与CPU差别，各家的AI芯片计较架谈判指令都差别，从编译器到库再到框架的适配，都不像CPU同样有开源可以复用的工具。
另外一方面，AI的软件生态现实上就是英伟达生态，但英伟达的软件生态，特别是CUDA相干的焦点部门都是闭源、关闭的，想要将自家的软件与英伟达的生态兼容的难度可想而知，想要短时间内本身成立一个新的AI生态，无异在痴人说梦。
末了，云端AI推理运用的多变性。今朝AI的算法及模子仍旧于快速成长及迭代，十分困难实现了图象分类ResNet 50模子的优化，新的语言模子BERT模子又最先风行，天然语言处置惩罚模子又最先越变越年夜，BERT的各类变形枝繁叶茂，这也增长了AI芯片软件的开举事度。
特别是编译器相干的开举事度，以和针对于差别模子不依靠手工优化，仅经由过程编译器完成主动化机能优化的模子泛化能力，这个能力的缺掉险些成为了年夜大都AI芯片逗留于“送测”而不克不及获取定单的焦点缘故原由。
这些是所有英伟达的挑战者面临的技能难题，同时还有有人材的挑战。
马超及年夜大都AI芯片的从业者有不异的不雅点，“要打造一个完备易用的AI软件栈，必需要有一个不仅认识驱动、固件等基础软件，既可以或许从上向下看，也要能从下往上看，对于整个AI软件生态有周全熟悉，有充足经验及能力的软件年夜牛。”
“AI芯片火起来以前，于海内做编译器是个很是冷门的职业。”陈俊说：“编译器是AI芯片软件栈中主要的部门，海内芯片相干软件人材很是匮乏。”
手握入场券，败倒于客户「失常」的模子里
AI芯片创业公司软件栈的问题并不是无解，已经经于baidu落地的昆仑芯，以和于字节跳动落地的希姆计较，是海内为数未几被贸易市场查验经由过程的AI芯片公司，探索出了一条具有可复制性的贸易化门路。
认识希姆计较的王雷（假名）说，“软件都是及场景相干的，想要把软件做好，只能靠近客户，深切营业。不仅要及客户卖力体系的人谈，还有要及运维、营业场景、算法的人深切沟通，不然很难把软件做好。”
“想把软件做好哪有捷径可以走，海内AI芯片公司都于一个起跑线上，也都有互联网年夜厂的投资人，希姆计较能轻微跑的快一点，还有是卖力市场落地的人每天泡于客户办公室及工场里磨出来的，但即便如许，也不克不及包管将来的乐成。”王雷认为。
但AI芯片公司也不是轻轻松松就能得到与客户深切沟通的时机。一般的环境是，有需求的公司（好比BAT及挪动运营商）会公然招标，AI芯片公司追求互助，颠末开端筛选以后，切合需求的AI芯片公司可以送测产物，于现场运行客户给的AI模子。
“许多公司连编译那一关都过不去。”王雷说，“即便能编译，不少公司声称算力是英伟达同级别产物的2倍，现实还有不到其机能的1/4。”
张伟暗示，“重要还有是由于编译器做的不敷好，凡是都是依据芯片存算特性针对于特定的模子手动做了优化，不具有泛化能力。以是于碰到客户尤其‘失常’模子的时辰，就会碰到坚苦，就算手动编译经由过程，机能也会受限。好比一般环境下，96*96尺寸的图片，可以顺遂编译，吞吐机能还有不错，但客户会按照自身营业需要对于输入的图片尺寸举行调解，好比调解到1280*720，那机能就会遭到年夜幅度影响，甚至编译欠亨过。更有甚者，模子布局城市发生诸如基础算子及逻辑的变化，那编译器的泛化能力是很难支撑直接跑起来的。”
这就是AI芯片编译器的另外一个难点地点，因为客户的AI模子与其营业紧密亲密相干，触及贸易秘要，是以其实不会直接把模子给芯片公司，AI芯片公司很难提早做有针对于性的优化。
但即便进展更快一点，昆仑芯也需要更多时间完美其软件栈。张伟相识的环境是，昆仑芯的AI芯片于搜刮场景对于比英伟达的产物有一倍多的机能上风，但于其它场景上风很小甚至没有上风。
“有听到昆仑芯的客户反馈脱离了昆仑芯的人帮助调试，芯片还有是很难用起来。”陈俊说，“软件还有是不敷好用，所有AI芯片公司都还有需要时间去打磨，这需要一个历程。”
这对于所有云端AI芯片公司而言都是一个需要花很是多时间及精神的事情，于落地的历程中可能需要为客户开发数百项特征，这是于设计硬件及开发软件栈之初都没法彻底明确的需求，甚至都意识不到用户会有哪些运用场景及需求。
本年交卷，2024年最先裁减
云端AI芯片公司们的落地竞赛已经经开启。马超认为，AI芯片公司本年下半年是给投资人及市场交答卷的时辰了，本年假如还有不克不及上量落地，可能本年底来岁初就会有公司最先紧缩。
陈俊认为，云端推理AI芯片的格式来岁会越发开阔爽朗。
王雷则认为，即即是融资几十亿的AI芯片公司，根据千人范围，人均百万的薪资计较，融资至多能撑到2024年，那时辰就能看到真正裸泳的人。
想要于AI市场的竞争中不被裁减，产物及选择同样主要。AI云端芯片公司们优先把眼光投向了采购范围于亿美元级别头部互联网公司以和当局的项目。
张伟说：“当局的项目看起来需求很年夜，但现实比预想的需求小许多。”
“当局的项目看起来金额很年夜，芯片公司本身要负担的成本也很高，现实上利润不高。更主要的是，当局的AI项目不具有延续性及可复制性。”张超暗示，“寒武纪近几年每一年都有当局项目签单，如今的市值也不到300亿，这足以申明本钱的立场。”
“那些一个项目衰败地，估值快遇上寒武纪的公司，将来怎么连续成长？”多位AI芯片圈人士都质疑。
是以，当下查验一家云端AI芯片公司，不管是采用DSA（范畴专用架构）还有是GPGPU架构，能于互联网公司落地才是有硬实力的表现。
互联网公司对于在AI芯片有严苛的机能及不变性要求，可以或许于互联网公司的场景中落地，不仅证实了产物的可用性，也申明了其AI芯片落地的可复制性。
但也要看到，BAT的增加于放缓，AI算法的迭代速率也于变慢，AI芯片的出路虽然光亮，但门路依旧盘曲，尤其是还有有英伟达这个难以逾越的带领者。
英伟达泯灭十多年打造了以CUDA为基础的AI生态，有年夜量的互助伙伴配合优化软件及适配最新算法，有业内顶尖的硬件团队不停迭代产物，客户也早已经习气英伟达的软件平台。“咱们怎么可能用几年时间就赶超他人十几年的乐成？梦都不敢这么做。”这是一名AI芯片创业公司CEO的心声。
“差距及难度确凿存于，但很多人都只是为了赚快钱，先把公司做年夜，欠好好打磨产物，赶着贸易化，然后尽快上市变现，末了能留给中国半导体财产甚么？”这是从业者留下的还有没有谜底的问题。
云端AI芯片公司确凿存于挑战，但信赖必然会有跑出来的公司，假如想及作者更深度会商AI芯片的话题，可以添加作者微信BENSONEIT（注明来意），下一篇文章咱们将讲一讲AI安防芯片的话题，接待从业者与作者会商。
雷峰网原创文章，未经授权禁止转载。详情见转载须知。
下一篇【产品推荐】超小型高频同轴连接器u.fl系列
www@
Maggie
微信咨询
黎小姐