學習 InfiniBand 基礎、RDMA 和 NVIDIA 網路協定棧,以設計和優化 AI 和 HPC 基礎設施
從這 8 小時的課程,你會學到
- 完整描述 InfiniBand 架構-從實體層到 RDMA 和 GPU Direct 等上層協定
- 設計適用於大規模 AI 和 HPC 叢集佈署的葉脊式 InfiniBand 拓撲( eaf-spine InfiniBand topologies )結構
- 使用服務等級 (Service Levels,SL) 和虛擬通道 (Virtual Lanes,VL) 實現 QoS,以優先處理 AI 和 HPC 工作負載
- 使用 NVIDIA Unified Fabric Manager (UFM) 大規模監控與管理 InfiniBand 架構
- 使用 ibdiagnet、ibtracert、mlxlink 等工具診斷和解決常見的 InfiniBand 架構問題
要求
- 對電腦網路概念(例如 IP、延遲、頻寬)有基本的了解會有幫助。
- 建議熟悉 Linux 基礎知識(基本命令和導航)。
- 無需任何 InfiniBand 或 RDMA 方面的經驗 — 所有內容都將從零開始講解。
課程說明
歡迎!我將幫助您真正了解 InfiniBand —這款高效能網路架構為全球要求最嚴苛的 AI 和 HPC 環境提供強大支援。
隨著 AI 工作負載規模的爆炸性成長,網路不再是可有可無的環節,而是瓶頸所在。網路速度慢意味著 GPU 閒置、訓練時間延長以及對昂貴運算資源的投資浪費。本課程將為您提供深入的實務知識,幫助您理解、部署和排除故障,掌握現代 AI 資料中心的核心技術。
您將學到:
- 為什麼傳統的乙太網路和 TCP/IP 協定無法滿足 AI 工作負載的需求? InfiniBand 如何解決延遲、吞吐量和 CPU 瓶頸問題?
- 完整的 InfiniBand 架構 — 物理層、鏈結層、網路層、傳輸層和上層 — 結合實際案例來幫助理解概念
- RDMA、零拷貝傳輸、佇列對( Queue Pairs )、記憶體註冊和 GPUDirect RDMA — 高速 GPU 通訊的核心技術
- 子網路管理員的工作原理-LID 分配、拓樸發現、路由表程式設計以及使用備用子網路管理員進行故障轉移
- 使用分區鍵 (PKey) 進行流量隔離-在多租戶 AI 叢集中配置完全成員和有限成員
- 服務品質 (Quality of Service,QoS)-分配服務等級 (SL)、對應到虛擬通道 (VL) 以及在 OpenSM 中設定頻寬權重
- 深入探討路由演算法 — MINHOP、UPDN、胖樹、自適應路由 — 以及自適應路由對於 AI 工作負載中龐大流量的重要性
- 擁塞控制、基於信用的流量控制、信用循環及其解決方法防止網路死鎖
- 使用 NVIDIA Unified Fabric Manager (UFM) 進行大規模網路監控和管理,包括 Cyber-AI 和 RBAC
- 使用 ibdiagnet、ibtracert、mlxlink、ibstat、smpquery 等工具進行故障排除
本課程包含豐富的視覺類比、架構圖和實際故障排除場景,即使是最複雜的概念也能輕鬆理解。無論您是網路工程師、雲端基礎架構專家或人工智慧平台團隊成員,本課程都能助您自信地設計和維運高效能人工智慧架構。
無需任何 InfiniBand 經驗 — 只需帶上您的好奇心和雄心壯志。
讓我們開始吧!
注意 — 適用於準備 NCP-AIN 考試的學員
本課程涵蓋 NCP-AIN 考試 40-50% 的內容,並專注於深入講解 InfiniBand。它是您準備認證考試的重要參考資料。
目標受眾
- 希望了解現代 AI 和 HPC 系統如何使用 InfiniBand 和 RDMA 的網路、雲端和基礎設施工程師
- 希望學習可擴展 AI 基礎架構背後網路基礎的 AI/ML 工程師、平台工程師和解決方案架構師
講師簡介
Ashish Prajapati 輕鬆有趣的方式教授 AWS 雲端技能
Asgusg 是一位技術專家,目前居住在英國倫敦。他熱衷於幫助個人和企業以輕鬆有趣的方式學習雲端運算技能。
他擁有深厚的虛擬化和雲端遷移經驗,能夠將豐富的實務知識融入課堂教學,為學員帶來真實案例。
他的工作幫助眾多雲端運算愛好者入門,掌握雲端運算基礎知識,並獲得雲端運算認證。。透過各類課程與輔導,Joseph 傳授實用的方法論,幫助人們整理想法、提升表達的清晰度,並增強溝通的影響力。
字幕:英文
- 想要了解如何將英文字幕自動翻譯成中文? 請參考這篇 How-To
- Udemy 永久擁有課程 ✨NT310 起特價中(點擊看優惠)
- ✨年訂閱每月 NT350 優惠 🌈悠遊 Udemy 的 28000+ 門課,最大化學習 ( 原價 NT635/月 )
- Udemy 現在越來越多課程有中文字幕,請參考 Soft & Share 中文線上課程
- 手機上點選優惠連結看到的價格比電腦上看到的貴
- $代表當地貨幣, 如在台灣為 NT
- 點選”報名參加課程”有可能因瀏覽器 cookies 轉久一點或回報錯誤而無法連上,請稍等刷新或重新點選就會出現
報名參加課程

也許你會有興趣
- 資料中心相關線上課程
- ★英語學習地圖 – 練好英文是最大的學習槓桿
- 如何找工作學習地圖 – 找工作不要靠運氣!
- 從 Soft & Share 各種社團頻道挑選你喜歡的加入
發佈留言