您现在的位置:首页 > 国际新闻 >

英伟达发布全球最小边缘AI超级计算机

2023-06-24 06:59 来源:杨园三居 浏览:

北京时间11月7日,英伟达宣布推出全球尺寸最小的边缘AI超级计算机Jetson Xavier NX,主要面向机器人和边缘嵌入式计算设备。这款新品拥有比信用卡还小的外形,节能型Jetson Xavier NX模块在运行AI工作负载时,可提供最高21 TOPS的服务器级性能,售价399美元,即将在2020年3月开始出货。

英伟达推出更具竞争力的边缘AI芯片产品,让AI初创公司们面临更大的竞争压力。

英伟达发布全球最小边缘AI超级计算机

英伟达边缘AI芯片已经有四个系列

今天发布的Jetson Xavier NX最大的亮点在于,与Jetson Nano尺寸相同(70X45mm)的情况下,能够在功耗10W的模式下提供最高14TOPS,在功耗15W模式下最高21 TOPS的性能。另外,Jetson Xavier NX能够并行运行多个神经网络,也能同时处理来自多个高分辨率传感器的数据。

Jetson Xavier NX模块具体的规格如下:

GPU:配备384个 NVIDIA CUDA core和48 个Tensor core的 NVIDIA Volta,外加2个NVDLACPU:6-core Carmel Arm 64位CPU, 6MB L2 + 4MB L3视频:2x 4K30 编码和2x 4K60解码摄像头:最多6个 CSI摄像头(通过虚拟通道最多36个),12路(3x4或6x2) MIPI CSI-2内存:8GB 128位LPDDR4x;51.2GB/秒连接:千兆以太网OS支持:基于Ubuntu的 Linux模块尺寸:70x45mmJetson Xavier NX面向的是对性能需求高,但受到尺寸、重量、功耗以及预算限制的嵌入式边缘计算设备,比如小型商用机器人、无人机、智能高分辨率传感器(用于工厂物流和生产线)、光学检测、网络录像机,便携式医疗设备以及其他工业物联网(IoT)系统。

为了满足这些场景,除了硬件外,软件支持也非常重要。英伟达表示,对于已经开始打造嵌入式计算机的公司,Jetson Xavier NX与所有Jetson系列产品一样都可以在相同的CUDA-X AI软件架构上运行。同时,作为NVIDIA软件架构方法的一部分,Jetson Xavier NX由NVIDIA JetPack SDK提供支持。

NVIDIA JetPack SDK是一个完整的AI软件堆栈,可以运行复杂的AI网络,并用于深度学习的加速库以及计算机视觉、计算机图形、多媒体等。

Jetson Xavier NX的上一款产品是在今年3月的GTC发布,英伟达创始人兼 CEO 黄仁勋宣布推出售价仅99美元的Jetson Nano。根据官方的说法,借助CUDA-X,Jetson Nano可以提供472 GFLOPS的AI性能,功率低至5W。这款售价不高,能够运行所有AI模型的边缘计算平台发布后获得了极大的关注。

Jetson Nano的上一款产品在去年发布。去年九月的日本GTC,黄仁勋公布了AGX阵容,包括Drive Xavier和新推出的Drive Pegasus,还有Jetson AGX Xavier。Jetson AGX Xavier的大规模计算性能可以处理机器人至关重要的测距、定位、测绘、视觉和感知以及路径规划。

Jetson家族更早的产品Jetson TX2在2017年推出,提供两种运行模态:一种是MAX Q,这种模态下能效比能达到最高,是TX1的2倍,功耗在7.5W以下;另一种是MAX P,性能可以做到最高,能效比同样可以做到前一代的2倍,功耗则在15W以下。

英伟达发布全球最小边缘AI超级计算机

虽然推出的时间不同,但他们都具有一个区别于其他边缘SoC的特点,并行运行多个神经网络。

边缘端实力增强,初创公司面临更大生存压力

英伟达在云端AI芯片市场获益颇丰,其中非常重要的原因就是擅长并行计算的GPU能够在在数据中心的各种模型中训练时体现出性能优势。虽然凭借云端AI芯片成为了众多AI芯片初创公司想要超越的目标,但英伟达也有自己的困扰。首先,为AI优化和设计的高性能GPU价格昂贵,让不少开发者望而却步。

其次,随着AI算法的逐步成熟,云端AI训练芯片市场的增速将会放缓,英伟达想要保持业绩的增长以及在AI市场的领导力,就需要向边缘AI市场拓展,同时,用云端加边缘一体化的解决方案吸引更多客户。

从面向终端和边缘设备的Jetson系列芯片的布局来看,英伟达早已明白自己该怎么做。如今,Jetson系列芯片算力从0.5TFlops到32TOPS,应用覆盖小型嵌入式设备、智能汽车、工业设备等多种应用。今天高性能小尺寸Jetson Xavier NX发布,让Jetson家族能够提供性能和功耗更加多样的边缘芯片,这背后就是为了满足AIoT市场多样化的市场需求。