NVIDIA GTC 2023 Keynote 宣布的重要 AI 技術資源

Contents

NVIDIA 的技術已經是所有地表上想要走在 AI 尖端的技術人不可忽視的高科技。尤其今年 GTC 2023 Keynote 所宣布的技術，對今天和未來科技的發展都會有深遠的影響。這場 Youtube 上的 Keynote ，您可採用 Youtube 雙字幕外掛看到影片的即時的繁體中文字幕。這次發表涵蓋 NVIDIA 全端、資料中心規模的加速運算平台的進展，新的晶片和系統，加速程式庫( libraries )以及雲端和 AI 服務，您也可從中看到許多NVIDIA 合作夥伴運用 NVIDIA 產品與服務開創的高科技服務和應用。

NVIDIA 的生態在全球已有 400 萬開發者，4000 家公司，和 14000 家新創公司參與。今年的技術大會有 25 萬人參加，相較四年前只有 8000 人參加，NVIDIA 市場影響力正在倍數成長。

這次大會請來許多重量級人物分享，包含 ChatGPT 的創造者，演講者跨學術與業界。

全部總共有 650 場演講。其中超過 70 場內容相關最夯的 Generative AI ( 生成式人工智慧 ) ，其他還有機器人預訓練多工模型、 Synthetic Data Generation (合成資料生成)、結合 Digital Twins (數位孿生) 模擬虛擬工廠、值得信賴的AI 和自駕車安全。其他更多很酷的應用，包含運算儀器(大型光學望遠鏡、光子技術電腦斷層掃描系統)，材料科學(碳捕捉、太陽能電池、氣候科學)，微晶片的運算光刻技術，宇宙的大型強子對撞機等。

這由 NVIDIA (輝達)執行長黃仁勳主講的 Keynote，涵蓋許多先進的解決方案。相信對於想更清晰瞭解 AI 如何改變人類工作型態和世界發展趨勢的任何人都會感到興奮和驚奇。

以下將 Keynote 中提到的產品與服務分三個部分，幫助讀者從中挑選對自己有用的資訊 :

(1) 加速程式庫 (2) 晶片與系統 (3) 雲端服務

(1) 加速程式庫( Acceleration Libraries )

加速程式庫( Acceleration Libraries ) 是加速運算的核心，這些程式庫連結全球產業的應用程式，形成許許多多網路中的各種網路，遍及各種科技和產業。所有 NVIDIA GPU 都和 CUDA 相容，為開發人員提供龐大的安裝基礎，並顯著擴大可及範圍。全球已經有上千個應用與 NVIDIA GPU 的加速程式庫整合，至今 NVIDIA 有 300 多個加速程式庫，這些程式庫整合不僅加速應用且讓整體運作節省大量的能源。其中如幫助汽車與散熱器設計用 CAE (Computer Aided Engineering，電腦輔助工程)在 CFD( Computational Fluid Dynamics ) 模擬省數倍成本和耗能的 CUDA ; 量子運算研究中進行加速量子電路模擬的 cuQuantum ; 大多雲端處理平台所需可加速 Apache Spark 資料處理引擎的 Spark-RAPIDS ; 解決在製造、運輸、零售和物流領域甚至是救災工作都涉及的 PDP (Pickup and Delivery Problem – 旅行推銷員問題的抽象版本，無法以演算法改進) 的 cuOpt ; 加速商業平台推薦和廣告的資料中心 AI 推論服務的 Triton ; 新的雲端規模加速程式庫 – 用於電腦視覺的 CV-CUDA 和用於影片處理的 VPF; 用於在雲端或儀器進行 AI 端對端基因體分析的加速程式庫 Parabricks ; 用於醫療儀器即時 AI 感測器處理系統的加速程式庫 Holoscan ; 以及耗時近四年的巨作，透過與台積電 (TSMC、ASML 和 Synopsys 的密切合作將運算式微影速度加快了超過 40 倍的運算式微影的加速程式庫 cuLitho。

在加速工業 5.0、資料管道、計算科學等的 SDK 在 NVIDIA GTC 2023 上亮相有一些你可能會有興趣的加速程式庫相關資訊。

(2) 晶片與系統

Grace CPU : 為雲端資料中心大規模實現高度提升能源效率而設計的新 Superchip – 系統可提供每秒 1 TB 的頻寬，相當於以目前系統 1/8 的電力即可達到 2.5 倍的頻寬。Grace 具備優異效能和能源效率，非常適合雲端運算和科學運算應用。組合 Grace 的公司 : Asus、Atos、GIGABYTE、HPE、QCTSupermicro、Wistron 和 ZT。

BlueField：卸載並加速資料中心作業系統和基礎架構軟體。 生態夥伴如 Check Point思科 (Cisco)、DDN、Dell EMC、Juniper、Palo Alto Networks、Red Hat 和 VMWare 用其來更有效率地執行自己的軟體平台。 雲端服務提供商如百度、CoreWeave、京東 (JD.com)、Microsoft Azure、Oracle OCI 和騰訊遊戲 (Tencent Games)，採用其來加速他們的雲端運作。

DGX : 世界級 AI 超級電腦，是推動大型語言模型技術突破背後的引擎，第一台 DGX 是交付給 OpenAI 的。名列《財富》雜誌 (Fortune) 100 強的企業中已有半數都安裝了 DGX AI 超級電腦。DGX 已經成為人工智慧的必備工具。DGX 的 GPU 包含了八個 H100 模組，H100 有一個 Transformer Engine用於處理像 ChatGPT 這樣令人讚嘆的模型。NVIDIA DGX H100 是全球客戶建立 AI 慧基礎架構的藍圖。Microsoft 已經宣佈，Azure 即將開放 H100 人工智慧超級電腦的個人預覽版。Atos、AWS、Cirrascale、CoreWeave、Dell、Gigabyte、Google、HPE、Lambda Labs、Lenovo、Oracle、Quanta 和 SuperMicro 也將推出更多系統與雲端服務。DGX AI 超級電腦最初的用途是 AI 研究儀器，現在正在擴展到營運領域，可全天候執行，進行調整資料和處理人工智慧等工作。DGX 超級電腦可說是當代的人工智慧工廠。

One Architecture 推論( inference )平台 : 4 設定- 1 架構 – 1 軟體堆棧。每種設定都針對工作負載的一個類（class )做最佳化。對於人工智慧影片工作負載，NVIDIA 針對影片解碼與轉碼、影片內容審核以及如背景替換、重新照明、眼神交流、轉譯服務與即時影片翻譯等等的通話功能為 L4 最佳化。現今大多數的雲端影片都在 CPU 進行處理，而一台 8-GPU L4 伺服器取代一百多台用於處理人工智慧影片的的雙插槽 CPU 伺服器。採用公司: Snap Snapchat、Google GCP。透過這次合作，Google GCP 成為首要的 NVIDA AI Cloud 平台。

L40 : 為了能夠快速處理 Omniverse、繪圖運算渲染，以及如文字轉影像和文字轉影片的生成式人工智慧的新產品雲端推論 GPU。採用公司 : Runway( 其研究團隊是 Stable Diffusion及其前身 latent diffusion 的主要創立者 )

H100 PCIE : 為 ChatGPT 這樣的大型語言模型推論(需要大量記憶體和運算資源，推論過程需大量且橫向擴展的工作負載)開發的新 Hopper GPU。相較於目前處理 GPT-3 的 HGX A100，擁有4 對雙 GPU NVLINK 的 H100 標準伺服器速度加快了10倍。

Grace Hopper : 全新 Superchip，透過高速的每秒 900 GB 晶片對晶片一致性介面來連接 Grace CPU 和 Hopper GPU。Grace Hopper 非常適合處理大型資料集，例如用於推薦系統和向量人工智慧資料庫。藉由 Grace-Hopper，Grace 可以查詢嵌入式表格，並透過高速介面將結果直接傳輸到 Hopper，傳輸過程比 PCIE 快了 7 倍。

Omniverse : 連接數位與實體的產業數位化平台。該平台讓產業在製作實體複本之前，先以數位方式設計、建立、營運並最佳化實體產品和工廠。數位化可提高效率和速度，也可以節省費用。Omniverse 其中一種用途是建造虛擬工廠，在建造實體工廠之前所有機器都以數位方式整合。這降低最後一分鐘發生意外、訂單變更和工廠延遲開場的機率。使用公司如 Amazon、GM、Mercedes-Benz、Jaguar、BMW、Lotus、Toyota、Rimac、Lucid Motors。

新一代工作站 ：採用 NVIDIA Ada RTX GPU 和最新 Intel CPU ，適合執行光線追蹤、物理模擬、神經繪圖技術和生成式人工智慧。提供商 : Boxx、Dell、HP 和 Lenovo

OVX Server : 為 Omniverse 最佳化的 Server，OVX 由 L40 Ada RTX 伺服器 GPU和我們的全新 BlueField-3 所組成。提供商 : Dell、HPE、Quanta、Gigabyte、Lenovo 和 Supermicro。

(3) 雲端服務

NVIDIA DGX Cloud : 透過瀏覽器 NVIDIA DGX AI 超級電腦帶進讓每家公司

NVIDIA 與 Microsoft Azure、Google GCP 和 Oracle OCI 建立合作夥伴關係，合力推出 NVIDIA DGX Cloud，可立即透過瀏覽器 NVIDIA DGX AI 超級電腦帶進讓每家公司。DGX Cloud 已針對執行 NVIDIA AI Enterprise ( 一組全球頂尖的加速程式庫套件，適用於 AI 的端對端開發和部署工作 )最佳化。如此的合作將鼓勵競相採用生成式 AI 的客戶，能從全球規模的雲端即時取得 NVIDIA 技術。 Oracle OCI 是第一個 NVIDIA DGX Cloud，已有 50 家 EA 企業客戶，涵蓋消費者網際網路和軟體、醫療保健、媒體與娛樂和金融服務等產業。

NVIDIA AI FOUNDATIONS : 私人專業 AI 預訓練模型服務

優秀的生成人工智慧( Generative AI ) APIs 會陸續問世。許多公司都能選擇其中一種來運用。有些專精於某領域的公司，需要使用自己的專有資料，來建立自訂模型。他們必須設定使用量護欄並調整模型以符合公司的安全性和隱私性的需求。以整個產業的角度來看，也需要能開發自訂大型語言模型的「鑄造廠」就像台積電之於半導體產業一樣。為了使企業能夠利用生成人工智慧的可能性，NVIDIA 推出 NVIDIA DGX Cloud 上的 NVIDIA AI Foundations 服務。主要有：

NeMo : 用於企業超個性化和大規模部署智能大型語言模型 (LLM) 的雲端服務。如總結財務文件、創作品牌特定內容、寫出個人風格的電子郵件。
Picasso : 用於建構和部署基於 AI 的生成圖像、視訊和 3D 應用程式的雲端服務。產生的資產可以輸入編輯工具或 NVIDIA Omniverse 中，以建構擬真的虛擬世界、元宇宙應用程式和數位孿生模擬。Getty Images 將使用 Picasso 服務來建立 Edify-image 和 Edify-video 生成模型，企業將能夠使用簡單的文字或影像提示( prompts )建立自訂影像與影片。Shutterstock 正在開發 Edify-3D 生成模型，將協助簡化 3D 素材的建立，可用於創意製作、數位孿生以及虛擬協作，讓企業能夠更快更輕鬆地實作工作流程。NVIDIA 與 Adobe 攜手合作，為未來的創造力建立一套新一代人工智慧的功能，以及將生成式人工智慧整合至行銷人員和創意專業人士的日常工作流程中。
BioNeMo : 服務通過生成 AI 推進生物學研究和開發，提供最先進的藥物開發生成式人工智慧模型，可立即輕鬆加速藥物開發工作流程。BioNeMo 是一種用於藥物發現中生成人工智慧的雲服務，包括用於 3D 蛋白質結構預測、蛋白質和小分子生成、特性預測和分子對接的新模型。Amgen、AstraZeneca、Insilico、Evozyne、Innophore 和 Alchemab Therapeutics 皆是預先體驗 BioNemo 的使用者。

更多相關資訊可參考

Omniverse Cloud: 與微軟合作將 Omniverse 上 Azure 雲端的平台即服務

可供您即時安全存取託管於 NVIDIA OVX 的 Omniverse Cloud API、工作流程與可自訂應用程式。企業團隊可以透過網頁瀏覽器 Omniverse Launcher 或自訂內建整合功能存取一系列託管服務。一旦進入 Omniverse Cloud，企業團隊就可以立即存取、擴充和發佈基礎應用程式和工作流程，以組成和構成虛擬世界，進而產生資料訓練認知人工智慧、測試和驗證自駕車或模擬自主機器人，存取和發佈公用資料至 Omniverse Nucleus。設計師和工程師在 RTX 工作站上使用他們最喜愛的第三方設計工具並同步將編輯內容發佈至 Nucleus。準備於 Omniverse迭代或檢視整合模型時，只需開啟網頁瀏覽器並登入即可。隨著專案與團隊規模擴大，Omniverse Cloud 也能藉由視需要佈建運算資源和授權，最佳化成本。而新服務與升級也會跟著即時更新自動提供。有了 Omniverse Cloud，企業可以在所有主要工業工作流程中加速統一數位化和協作，進而提高效率、降低成本和浪費，加快創新之路。

Omniverse Cloud 與 Microsoft 365 生產力套件連結，其中包括 Teams、OneDrive、SharePoint 以及 Azure IoT 數位孿生服務。

Keynote 影片非常精彩，親自觀賞您將獲得比以上整理資料更多的資訊。這裡大致把 Keynote 中有提到的產品和服務都涵蓋了，不過看了影片後會更有感受，尤其是已經發展的應用展示。希望這篇整理文有助於您盤點可運用的最新 AI 技術資源。