0
联系电话:4001-158-698EN

公司新闻 行业动态 产品知识

710公海寰宇(中国)有限公司- Graphcore公司双战略,到底卖云服务还是卖芯片?

导语:Graphcore中国坚定地走被云厂商集成的计谋。

AI芯片公司直接提供云办事好像成为了新的风潮。

市场带领者英伟达于GTC 2023上公布会基在Oracle的云基础举措措施提供AI云办事。

美国AI芯片独角兽SambaNova也做一样的工作,以云办事的方式提供AI算力。

英国AI芯片独角兽公司Graphcore近期也举行了计谋的调解,其CEO Nigel Toon暗示于英国及美国会及云厂商合作无懈,以云产物的情势提供算力,再也不零丁发卖芯片产物。

不外Graphcore中国区并未跟进英国总部不但独发卖芯片产物的计谋。

“中国及总部的计谋后续会不太同样。咱们于营业、计谋上还有是一以贯之,继承以发卖硬件,本身安装产物的情势提供AI算力。”Graphcore总裁,年夜中华区总司理卢涛暗示,

“于中国,咱们还有是比力坚定地走被云厂商集成的计谋,Graphcore中国还有是如许的贸易模式。”

为何于中国不直接提供云办事?

Graphcore总部及中国区战稍不同的焦点于在究竟是卖云办事还有是直接卖芯片,让人好奇的是,为何中国区做出了纷歧样的选择?

卢涛注释,中国的财产业态及美国、欧洲有很年夜区分,好比,美国基本所有互联网公司都架构于AWS、Azure及Google Cloud这三朵云之上。中国有许多优异的云厂商,但也有许多选择自建数据中央的年夜型互联网公司。一些公司原本是云厂商的年夜客户,跟着自身体量增长也做了年夜量的自建。

“这些大要量用户特别是头部用户的自建举动让咱们发明他们更但愿被提供硬件情势的办事。云也很是主要,但咱们但愿Graphcore能成为中国云厂商产物的一部门,而不是做一个Graphcore自有品牌的云。”卢涛申明了中国区对峙原有贸易模式的缘故原由。

客户群体方面,Graphcore中国汇聚焦在年夜型互联网公司。

这重要有两方面的意义,第一,年夜型的互联网公司对于GPU产物用患上最深最透最广,对于非GPU产物的技能参数、可用性、技撑持办事、贸易撑持办事、产物不变性都要求很高。

“只有及严苛的客户一路,才能真正把本身的产物给打磨出来。历程很是疾苦,但能从中学到许多。”卢涛领会颇深,“咱们以前为一个海内的年夜客户部署了一个比力年夜的IPU集群,他们向咱们提出了三百多个软件特征需求,若不是客户提出这些需求,许多需求咱们想象不出来。客户的要求越高、越苛刻,反而前进更快。”

第二个方面的意义是从贸易的角度。把中国作为单一的总体年夜市场,中国互联网行业占整个AI运用市场的60%,而且这个行业里Top10-20多公司又占了80%以上的市场。

“从贸易角度,假如你的产物体现使人满足,末了的贸易回报也会相对于合理。”卢涛暗示。

据雷峰网(公家号:雷峰网)相识,Graphcore正于及海内的金山云及腾讯云互助,与另外一家海内年夜型云厂商的互助细节于计划中。

怎样掌握天生式AI带来的时机?

如今,各年夜互联网公司的年夜模子也带来了对于年夜算力AI芯片的强需求。只有快速实现对于年夜模子的撑持,才有可能捉住市场机缘。

今朝,Graphcore已经经撑持的年夜模子包括GPT-2 XL版本,GPT-J开源版本,Dolly 2.0(刚开源的100多亿参数的模子),ChatGLM-6B(海内比力火的开源模子)。

Graphcore公司双战略,到底卖云服务还是卖芯片?

“对于在年夜模子的公司,咱们的一个上风是可以做到每一个token 3.5毫秒,几百个字一秒钟就能出来了。”卢涛用了更形象的方式表现这一速率,“ChatGPT是逐字呈现的,咱们可以一屏屏地显示。这是给做年夜模子的人一个主要的价值点,可以或许带来纷歧样的体验。

Graphcore公司双战略,到底卖云服务还是卖芯片?

实现了对于多个年夜模子的撑持以后,也象征着Graphcore可以快速撑持其它年夜模子。

卢涛暗示,“从Dolly 2.0发布到咱们撑持这个模子,年夜概两周摆布的时间。撑持年夜模子的要害点于在模子的巨细,以和怎样于多个IPU之间做模子拆分。需要底层的各类能力,例如Transformer相干的算子,模子并行的API,算子并行的API,Tensor并行的API,这些底层的技能咱们已经经比力成熟。”

固然,想要吸引认识了GPU的客户利用Graphcore的IPU,最佳可以或许做到零代码迁徙,及CUDA兼容。

Graphcore于去年推出主打推理兼做练习的C600产物时,同时发布的软件东西包PopRT,这个东西包可以将GPU于TensorFlow练习出来的模子举行主动转换,于不做CUDA兼容的环境下,比力无缝地把GPU的软件于IPU上跑起来。

Graphcore公司双战略,到底卖云服务还是卖芯片?

Graphcore公司双战略,到底卖云服务还是卖芯片?“上个月咱们刚发了1.0版本,今朝一些客户反馈都还有不错,由于之前做一些模子迁徙都需要破费较长的时间,此刻有了东西以后,客户本身的模子迁徙还有是比力快。”卢涛说,“固然,咱们的芯片IPU的上风是核很是多,存储、带宽很是年夜。”

对于在当下浩繁的AI年夜算力草创芯片公司而言,英伟达并无留给竞争者太多时机,差异化竞争可以或许增长乐成的可能。

这类差异化就包括面临差别的市场采用更合适的市场计谋,以是Graphcore于英国及中国市场采用差别的计谋,是差异化及矫捷性的表现,这类矫捷性有助在Graphcore于中国取患上乐成。雷峰网

雷峰网原创文章,未经授权禁止转载。详情见转载须知。

-710公海寰宇(中国)有限公司
1210
在线客服
在线客服

Maggie

微信咨询

黎小姐