訂閱
糾錯
加入自媒體

NVIDIA發布低延遲人工智能的EGX邊緣計算平臺

2019年5月27日,NVIDIA宣布推出NVIDIA EGX加速計算平臺,能夠幫助企業在邊緣(edge)實現低延遲的人工智能,即基于5G基站、倉庫、零售商店、工廠及其他地點之間的連續的數據流實現實時感知、理解和執行。

NVIDIA EGX旨在滿足對即時、高吞吐量的邊緣人工智能,即數據產生之處不斷增長的需求,在確保反饋時間的同時能夠減少需要發送至云端的數據量。

2025年,預計將會有1500億臺機器傳感器和物聯網設備持續輸出數據[1],這比當今使用智能手機的個人用戶所產生的數據要高出幾個數量級。像基于NVIDIA EGX平臺這樣的邊緣服務器將分布在全球各地,對來自這些傳感器的數據進行實時處理。

NVIDIA副總裁兼企業與邊緣計算總經理Bob Pette表示: “企業需要更加強大的邊緣計算能力,以處理來自于與客戶和設施的無數交互中產生的海量原始數據,從而快速制定人工智能增強型決策以驅動業務發展。像NVIDIA EGX這樣具有可擴展性的平臺讓他們能夠輕松地部署系統,以滿足本地或云端的需求” 。

可擴展性

EGX可從僅需幾瓦就能為圖像識別等任務提供0.5 TOPS處理性能的小巧NVIDIA Jetson Nano,一直擴展至可為實時語音識別和其他實時人工智能任務提供10,000 TOPS性能的整機架NVIDIA T4服務器。

企業級

NVIDIA已與紅帽開展合作,利用領先的企業級Kubernetes容器編排平臺OpenShift對NVIDIA Edge Stack進行集成和優化。

NVIDIA Edge Stack是優化型軟件堆棧,包括NVIDIA驅動程序、CUDA Kubernetes插件、CUDA容器運行時、CUDA-X庫和容器化人工智能框架及應用程序,并包括TensorRT、TensorRT推理服務器和DeepStream。NVIDIA Edge Stack針對經認證的服務器進行了優化,可通過NVIDIA NGC注冊下載。

紅帽首席技術官Chris Wright表示:“紅帽致力于為從混合云到邊緣的任何工作負載、封裝和位置提供一致的體驗。通過將紅帽OpenShift和支持NVIDIA EGX的平臺相結合,客戶能夠在一致、高性能、以容器為中心的環境中更好地優化其分布式操作。”

“把云放進以一個盒子里”的本地部署AI

EGX將一系列的NVIDIA人工智能計算技術與紅帽OpenShift相結合,并將NVIDIA Edge Stack與Mellanox和思科的安全、網絡和存儲技術相結合,以助力制造、零售、醫療健康和交通運輸等大型產業內的公司快速建立最先進且安全的企業級人工智能基礎設施。

Mellanox Technologies首席技術官Michael Kagan表示:“Mellanox Smart NICs 和交換機為數據訪問提供了理想的I/O連接,可實現邊緣乃至超大規模數據中心的數據訪問。高性能、低延遲和加速網絡的組合實現了一種全新的基礎架構計算層,其對于NVIDIA EGX等邊緣平臺上的新一代更先進的人工智能解決方案所需的高效數據訪問和供給至關重要。”

思科計算系統副總裁Kaustubh Das 表示:“思科很高興與NVIDIA合作。借助NVIDIA EGX賦力的思科平臺,和思科計算、結構、存儲和管理軟件,以及思科領先的以太網和基于IP的網絡技術,我們能夠為客戶提供從邊緣到核心的全棧解決方案。”

實現混合云和多云物聯網

NVIDIA人工智能計算通過主要的云服務平臺提供,在架構上與NVIDIA EGX兼容。在云端開發的人工智能應用程序可在NVIDIA EGX上運行,反之亦然。NVIDIA Edge Stack可連接至主要的云IoT服務,客戶可通過AWS IoT Greengrass和Microsoft Azure IoT Edge對其服務進行遠程管理。

Azure IoT Edge總監Sam George表示:“Azure IoT Edge可助力客戶快速、安全地將云服務部署至其物聯網設備。我們期待在Azure IoT Edge設備端提供對NVIDIA EGX邊緣平臺的支持,以便客戶針對兼容EGX的硬件進行人工智能工作負載的部署。”

來自于開發者的廣泛支持

NVIDIA EGX正致力于優化邊緣人工智能,以支持不斷成長的軟件解決方案生態系統。

這些解決方案包括AnyVision、DeepVision、IronYun和碼隆科技等軟件供應商推出的適用于大型零售連鎖店和城市智能等視頻分析應用程序,以及圖瑪深維、推想科技、Qunatib和Subtle Medical等公司針對醫療健康領域的軟件產品。

全球頂級計算機制造商紛紛采用

EGX服務器現已通過以下全球企業級計算提供商供貨:ATOS、思科、戴爾EMC、富士通、HPE、浪潮和聯想。此外,也通過以下主要服務器和IoT系統制造商供貨:Abaco、宏碁、凌華科技、研華科技、ASRock Rack、華碩、圓剛科技、Cloudian、Connect Tech、Curtiss-Wright、技嘉科技、Leetop、米文動力、Musashi Seimitsu、QCT、中科曙光、超微、泰安、WiBase和緯穎科技。

NVIDIA EGX服務器針對NVIDIA Edge Stack和NGC-Ready進行了調優,經過CUDA加速容器的驗證。

來自于40多家企業組織的廣泛支持

率先采用該平臺的行業領先企業及組織已超過40家。

其中就包括BMW Group Logistics。借助于NVIDIA EGX邊緣計算和Isaac機器人平臺,其能夠將人工智能的強大功能直接帶入到其物流流程的邊緣,為日益復雜的物流提供實時效率。

其它采用EGX的行業領導者還包括:

“富士康PC生產線受限于當前的手動檢測速度,每個零件檢測需4秒鐘。我們的目標是使用NVIDIA EGX平臺將PC生產線的吞吐量提高40%以上,在邊緣實現實時智能決策。我們的模型使用運行于NVIDIA GPU上的快速神經網絡,可對16種缺陷類型和位置進行檢測和分類,在實現非凡的吞吐率的同時確保98%的準確率。”

—富士康 D Group總經理Mark Chien

“人工智能是實現精準健康的基礎,必須從云端至邊緣全覆蓋,且能夠在醫療設備上直接使用。借助NVIDIA EGX,GE Healthcare能夠通過將NVIDIA T4 GPU直接嵌入到我們的醫療設備中,進而實現快速的MR采集,提高圖像質量并降低可變性——所有這些都是為了進一步提升患者治療效果。實時重癥監護需要邊緣人工智能。這就是我們創建Edison智能產品并與NVIDIA合作將人工智能引入我們的醫療設備和Edison邊緣應用,以及我們與ACR AI-LAB合作以實現人工智能大眾化的原因。”

—GE Healthcare MR應用總經理Jason Polzin博士

“醫院越來越多地采用人工智能來預測患者的健康風險,為臨床決策制定提供支持并提高運作效率。但這些人工智能應用程序有賴于患者數據。NVIDIA EGX人工智能邊緣計算平臺為醫院提供了簡易的人工智能基礎設施,能夠保護患者數據安全,實現實時人工智能,并擴展至成千上萬的人工智能應用程序,進而改善患者護理方式并降低護理成本。”

—Partners Healthcare首席數據科學官、哈佛醫學院放射學副教授Keith Dreyer博士

“希捷在制造工廠部署了基于GPU的智能邊緣視覺解決方案,以對硬盤讀寫磁頭的質量進行檢測。NVIDIA EGX平臺能夠在邊緣實現推理的大幅加速,使我們能夠看到過去人類操作員無法看到的細微缺陷。我們希望通過更高的效率和質量,實現高達10%的制造吞吐量提升和高達300%的投資回報率。”

— 希捷科技高級首席數據科學家Bruce King

聲明: 本文系OFweek根據授權轉載自其它媒體或授權刊載,目的在于信息傳遞,并不代表本站贊同其觀點和對其真實性負責,如有新聞稿件和圖片作品的內容、版權以及其它問題的,請聯系我們。

發表評論

0條評論,0人參與

請輸入評論內容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續

暫無評論

暫無評論

文章糾錯
x
*文字標題:
*糾錯內容:
聯系郵箱:
*驗 證 碼:

粵公網安備 44030502002758號

吉林11选5开奖视频