服务于全球各领域电子制造客户
公司新闻 行业动态 产品知识
“天生式AI的意义是甚么?它让计较机语言走向平易近主,将来险些所有的事物城市有一个年夜语言模子,人类语言将成为新的编程语言,人人均可所以步伐员。”
于昨晚英伟达进行的计较机图形年会SIGGRAPH上,黄仁勋进一步阐释了“天生式AI是AI的iPhone时刻”的见解,并甩出一些系列重磅产物连续为天生式AI提供撑持。
包括发布为加快计较及天生式AI而生的处置惩罚器GH200 Grace Hopper超等芯片;公布与草创企业Hugging Face一路为数百万开发者提供天生式AI超等计较,帮忙构建年夜模子等高级AI运用;对于Omniverse举行进级,插手对于天生式AI及OpenUSD的撑持以实现工业数字化等。
于努力鞭策天生式AI成为新一代计较平台的路上,英伟达每一一次都很使劲。
配备最快内存,GH200降低年夜模子推理成本
"买患上越多,免得越多”,黄教主于SIGGRAPH上屡次反复这一发卖金句,向全球倾销英伟达最新打造的新一代Grace Hopper超等芯片NVIDIA GH200,并称其为天生式AI而生。
按照黄仁勋的先容,Grace Hopper超等芯片NVIDIA GH200由72核Grace CPU及4PFLOPS Hopper GPU构成,并配备全世界最快的内存HBM3e,内存容量到达141GB,提供每一秒5TB的带宽,每一个GPU的容量可以或许到达NVIDIA H100 GPU的1.7倍,带宽到达H100的1.55倍。
与当前一代产物比拟,双配置的内存容量增长了3.5倍,带宽增长了3倍,包括一台具144个Arm Neoverse焦点、8PFLOPS计较机能的GPU、282GB HBM3e内存技能的单办事器,假如将毗连到CPU的LPDDR内存包括于内,那末统共集成为了1.2TB超快内存。
GH200是组建面向天生式AI办事器的基本单位,每一个GH200芯片配备NVIDIA BlueField-3及ConnectX-7网卡、8通道4.6TB高速内存,构成一个Grace Hopper机架,16个机架构成一个NVIDIA DGX GH200,并经由过程NVLink Switch体系连成集群。
由256块GH200构成的NVIDIA DGX GH200 SuperPod,拥有高达1EFLOPS的算力及144TB高速内存。
多个DGX SuperPod高速互联,便可组建成面向天生式AI的Grace HopperAI超等计较机,与其他数据中央比起来,采办Grace Hopper AI超等计较机,客户可以用更低的成本得到划一算力。
以1亿美元可以或许买到的数据中央为例,于已往1亿美元可以或许买8800块 x86 CPU构成的数据中央,功耗是5MW,但如今1亿美元可以或许买2500块GH200构成的Iso-Troughput数据中央,功耗是3MW,且AI推理能力可以或许到达已往CPU体系的12倍,能效达20倍。
假如要实现已往1亿美元可以或许买到的x86 CPU数据中央所实现的AI推理机能,Iso-Troughput数据中央只需要用到210块GH200,功耗为0.26MW,破费800万美元便可。
黄仁勋暗示,领先的体系制造商估计将于2024年第二季度交付基在该平台的体系。
办事百万开发者,企业握住属在本身的AI命根子
除了了推出新一代处置惩罚器,英伟达还有公布了与Hugging Face成立互助伙伴瓜葛,为数百万开发者提供天生式AI超等计较办事,帮忙其构建年夜语言模子(LLM)及其他高级AI运用。
Hugging Face 平台闪开发者可以或许使用开源资源构建、练习及部署开始进的 AI 模子。今朝有跨越 15,000 家企业机构正于利用 Hugging Face,社区同享了跨越 25 万个模子及 5 万个数据集。
基在这次互助,开发者可以或许利用Hugging Face平台内的NVIDIA DGX Cloud AI超等计较为高级AI模子举行练习和调优,借助为智能谈天呆板人、搜刮、择要等特定行业运用的营业数据定制的年夜语言模子(LLM),鞭策天生式 AI 于各个行业中的运用。
NVIDIA 开创人兼首席履行官黄仁勋暗示:“研究职员及开发者是正于转变每一个行业的天生式 AI 的焦点气力。Hugging Face 与 NVIDIA 正于将全世界最年夜的 AI 社区与 NVIDIA 于全世界领先云情况中的 AI 计较平台相毗连。经由过程两边的互助,Hugging Face 社区用户只需要点击一下鼠标,就能够利用 NVIDIA AI 计较。”
作为互助的一部门,Hugging Face 将提供一项名为“练习集群即办事(Training Cluster as a Service)”的新办事,用以简化企业创立新的自界说天生式 AI 模子的历程。
该办事由 NVIDIA DGX Cloud 提供撑持,每一个 DGX Cloud 实例均配备 8 颗 NVIDIA H100 或者 A100 80GB Tensor Core GPU,每一个节点的 GPU 总内存为 640GB,附加英伟达专家撑持,且将于将来几个月内推出。
Omniverse进级,实现更繁杂的3D模仿
英伟达同时也于Omniverse方面做出主要更新,闪开发者可以或许经由过程OpenUSD,使用天生式AI来增强自身东西,并让企业可以或许构建更年夜、更繁杂的世界级模仿,以此作为其工业运用的数据测试场。
OpenUSD发源在皮克斯动画事情室,原本是一项高机能3D场景描写技能,可以或许为各类数据及事情流带来了强盛的可操作性。英伟达、苹果、Adobe 及 Autodesk于近期结合建立OpenUSD同盟以同一OpenUSD规范,用以鞭策构建虚拟世界。
这次年夜会上,英伟达发布了四款全新的Omniverse Cloud API,帮忙开发者越发无缝地实行及部署OpenUSD流程与运用。
面向开发职员的年夜型语言模子 (LLM) copilot东西ChatUSD,可以回覆USD常识问题或者天生 Python-USD 代码剧本;
RunUSD将OpenUSD文件转换为彻底路径跟踪衬着的图象,并利用Omniverse Cloud天生衬着;
DeepSearch可于海量无标志资产数据库中举行快速语义搜刮;
USD-GDN Publisher可以助力企业及软件制造商发布基在OpenUSD 的高保真体验,并及时传输到收集阅读器及挪动装备。
面临工业运用对于3D框架提出的差别要求,英伟达正于开发NVIDIA Omniverse(用在开发运用步伐的OpenUSD原生软件平台),以和地舆空间数据模子、器量组件、SimReady、OpenUSD 规范等,以撑持高度繁杂的工业与感知AI事情负载。
今朝,可以同NVIDIA OpenUSD开发者规划争先体验 OpenUSD 办事、资源及东西。
固然,英伟达为鞭策天生式AI做出的努力远不止云云,此中还有包括于这次SIGGRAPH上发布的三款专业级桌面显卡RTX 5000、RTX 4500及RTX 4000,为专业人士提供最新的AI、图形及及时衬着技能,以和发布NVIDIA OVX办事器,用在帮忙加快计较密集型运用,包括AI练习与推理、3D 设计与可视化、视频处置惩罚以和工业数字化等......
“人人都是步伐员”的时代,已经近于面前。(雷峰网(公家号:雷峰网))
相干文章:
从游戏里走出来的英伟达,回到游戏里
AI的「iPhone时刻」后,英伟达打开天生式模子「魔盒」
首款消费级「国潮」显卡进入公然市场,机能追平英伟达六年前入门级
雷峰网原创文章,未经授权禁止转载。详情见转载须知。
下一篇【产品推荐】超小型高频同轴连接器u.fl系列
www@
Maggie
微信咨询
黎小姐