英伟达边缘计算相关
发布时间:2023-06-06 12:24:23 来源:商业新知网


(相关资料图)

观点摘要:1.近期英伟达的公众号每天都在推荐他的边缘计算平台jetson,值得重视。2.英伟达愿景就是从卖卡的变成跨平台的AI计算服务商,这块美国其他几个巨头也不想拱手让英伟达,所以最近趁热打铁在力推。3.英伟达最近得股价上涨其实也是这个预期,不只是因为卖GPU,光靠卖硬件估值提不动的。

在Computex2023 上,英伟达CEO黄仁勋发布了一系列新芯片、新架构超算、交换机及AI在垂直行业的应用进展。 通过加强通信、存储能力,新推出的GH200在同样代际的GPU芯片上实现了2-6倍的性能!集群通信能力成为算力木桶效应里最重要的一块板! 比如大会上同时推出的NVIDIA DGX 超级计算机就是通过互联技术使256个GH200超级芯片相连,使它们能够作为单个 GPU 运行。其提供1exaflop的性能和144TB的共享内存——相较2020年推出的上一代 NVIDIA DGX A100内存大了近500倍。 用通俗的话来讲,GH200架构就是把单兵作战变成团队作战,算力不够数量来凑!通过新型的NVLINK互联技术,把几百个GPU组成一个超级GPU。 但,英伟达的野心绝不仅于此。 GPU做的再好,也只是个制造业。而黄仁勋对英伟达的定位为计算平台公司,其商业愿景是只要与AI加速有关领域都会用英伟达的硬件和软件。 想要完成这个愿景,边缘计算领域就是兵家必争之地! 一,什么是边缘计算。 如果说GH200架构是把几百个将军串联了起来,那么边缘侧的算力,就是无穷无尽,数以亿计的士兵阵列! 边缘算力,通常指部署在设备本地的算力或者离用户距离较近的数据中心中的算力,边缘算力相较于云端算力,拥有低成本、低时延、高隐私三大特性。 1)低成本:当前主流的边缘算力平台主要采用高通主导下的ARM架构,相比于英伟达的复杂架构,ARM架构在小算力时拥有极低的单位成本,是降低开发与用户成本的必然选择 。 2)低时延:边缘算力一般搭载在本地,无需将数据发送至云端并等待回传的时间,可以满足如自动驾驶,快速对话等对时延要求高的场景。 3)高隐私:边缘算力依靠设备本身搭载的算力或在用户自有服务器上的算力进行推理,可以实现数据不出用户管辖范围,对隐私的保护更好。 随着AI催化下算力需求加速走向多样化,单一的云端算力无法满足所有需求,算力正在走向泛化,走向“云边端”梯度分布的格局。 边缘计算减少了需要传输到云端的数据量,并允许实时数据处理。因此,它可以降低对带宽的需求,同时提高设备性能,大量生成式AI模型可以直接在终端设备上运行。 从数量上看,边缘侧如同毛细血管,随着 AI应用的增多,将大大提升算力的多样性;从功能上看,此前市场理解的物联网或者高通芯片模组多以通信功能为主,而计算能力局限于车载等场景,随着边缘计算爆发,其应用场景将大幅拓展;从成本侧看,高性价比的算力是AI发展的基石,边缘侧算力不可或缺。 未来,物联网模组将承载大量边缘算力,为全世界开发者带来易用,高性价比的终端计算能力,赋能万物AI 互联! 黄仁勋在这次大会上也高调宣布,“我们已到达生成式AI引爆点。从此,全世界的每个角落,都会有计算需求。” 二,各大巨头大力进军边缘计算。 想要完成AI平台类公司的愿景,边缘计算领域是必争之地,英伟达推出Jetson、Isaac AMR等平台占领边缘AI! NVIDIA Jetson 是世界领先的边缘 AI 平台。该平台包括 Jetson 模组(外型小巧的高性能计算机)、可加速软件的 JetPack SDK,以及包含传感器、SDK、服务和产品的生态系统,从而加快用户的产品开发速度。每个 NVIDIA Jetson 都是一个完整的系统模组 ( SOM ) ,包括 CPU、GPU、内存、电源管理、高速接口等。所以英伟达已经不单单只做芯片而已。 自 Jetson 系列产品推出以来,以 Jetson 系列为代表的自主机器开发工具大大降低了自主开发创造的技术门槛,Jetson 模组提供不同性能、功耗和外形规格的组合,因此可为各类行业的客户所使用。在 COMPUTEX 2023 上发布了全新 Jetson AGX Orin 工业级模块,在恶劣环境下可以提供更高级别的计算能力。 这个新模块扩展了上一代 NVIDIA Jetson AGX Xavier 工业级模块和商用 Jetson AGX Orin 模块的功能,为强化系统提供服务器级性能。 借助 NVIDIA Jetson 边缘 AI 和机器人平台,农业、建筑、能源、航空航天、卫星、公共部门等领域都将发生巨大的变化,工业环境将被嵌入式边缘AI彻底改变! 于此同时,其他巨头也不甘落后,移动通信霸主高调发力边缘计算! 高通近日宣布正在由通信公司过渡到“智能边缘计算公司” ,高通表示“随着连接设备数量和数据流量的加速增长,以及数据中心成本的攀升,将所有内容都发送到云端是不可能的。” 到2030年,预计地球上将有约231.4亿台物联网设备。此外,随着越来越多的物联网设备在全球范围内使用,预计在整个评估期间对物联网通信协议的需求将会增加。 未来,物联网模组将承载高通的边缘算力,真正成就AIOT时代! 三,在边缘计算浪潮中,物联网模组和场景应用类最为受益,A股上市公司中与英伟达有合作的暂时只有下面两家公司: 1.移远通信 在边缘计算领域,移远联合客户打造了多款前沿的计算密集型和边缘智能解决方案。移远智能模组通过提供强大的边缘计算能力,使应用终端能够实时处理数据并做出更快的数据驱动决策,同时模组还具有低功耗、高速连接和先进的安全性等多重优势。在AIoT领域,公司提供不同算力规格的模组来支持各种应用,同时也会根据不同的应用提供差异化的产品和定制服务。在AI相关服务方面,移远可以帮助客户基于AI模型移植,用智能模组替代昂贵的开发平台,从而降低成本。 公司近期表示“移远5G模组+Jetson AGX Orin平台”组合方案可应用于高端机器人、无人地面车辆、低速自动驾驶、智慧交通等终端产品及场景,都是英伟达近期强推的应用方向。 2.天准科技 天准科技的边缘计算产品和方案主要基于英伟达Jetson平台构建的GEAC系列产品,产品广泛应用于各种大交通场景,为无人配送车、智慧交通、轨道交通、智慧港口、智慧矿山等各种场景、设备和车辆,为其提供大算力计算平台和控制器产品及解决方案。 公司基于英伟达平台研发的控制器及边缘计算产品,正好也应用于英伟达最近强推无人物流车和移动机器人方向。
标签: