使用 Red Hat OpenShift 在資料中心級 GPU 上執行 AI ML GenAI

高效能 GPU 上的 OpenShift 和 OpenShift AI：一天之內從裸機到生產

從這 1.5 小時的課程，你會學到

建立一個裸機資料中心級 GPU 節點，驗證韌體和 BIOS，並將其註冊到全新的 OpenShift 叢集中。
安裝並使用多執行個體 GPU (MIG) 設定檔調整 GPU Operator，以實現最大利用率。
部署 Red Hat OpenShift AI (RHOAI) 並使用 Ollama 執行真實的 Mistral LLM 工作負載。
在生產環境中監控、故障排除、升級和擴展平台。

要求

一台配備高效能資料中心級 GPU 的伺服器（實體或虛擬化）
一個可以透過 SSH 連接到節點並運行“oc ”命令列介面的工作站
（可選）一個用於拉取鏡像的 Red Hat 帳戶

課程說明

在您自己的資料中心內逐步釋放企業級 AI 的強大功能，從裸機到可用於生產的推理。在本次實作研討會中，您將學習如何將一台高效能 GPU 伺服器和一台輕量級虛擬化主機轉變為功能齊全的 Red Hat OpenShift 集群，運行 OpenShift AI、GPU Operator 和真實的 LLM 工作負載（Mistral-7B 和 Ollama）。我們跳過理論的簡報，直接深入探討鍵盤和終端機 – 每一個 YAML 檔案、每一個 BIOS 開關，以及影片中捕捉到的每一個故障排除技巧。。

您將構建什麼

透過新的基於代理的安裝程式部署的三節點虛擬控制平面 + 一個裸機 GPU 工作器
具有 MIG 切片、UUID 持久性和 Grafana 中的即時指標的 GPU 操作員
OpenShift AI (RHODS) 與 Jupyter 和模型服務管道
生產級負載平衡器、DNS 區域和 HTTPS 入口 – 無需託管雲

每個步驟都親自動手：您將透過 iDRAC 檢查韌體、修補 BIOS 設定、產生自訂代理 ISO、啟動叢集、加入 GPU 節點，並推送您可以在一分鐘內完成的 LLM 端點。在此過程中，我們將升級 OpenShift、監控 GPU 溫度並挽救「節點未準備好」的情況——因為現實生活中會發生這種情況。

誰該報名

可以存取 GPU 伺服器（H100、H800 甚至 A100）並希望獲得可重複、企業相容的安裝路徑的 DevOps 工程師、SRE 和 ML 從業者。要求具備基本的 Linux 和 kubectl 技能；其餘一切都是現場授課。

在完成本課程時，您將擁有一個經過實戰檢驗的、包含清單的 Git repository、一個可以為新邊緣站點克隆的私人 Agent ISO 管道，以及建立或擴展您自己的 GPU 加速 OpenShift AI 平台的信心。加入我們並立即交付您的第一個本地 LLM 工作量。

目標受眾

機器學習工程師
DevOps 工程師
站點可靠性工程師 (SRE)
Python 開發人員探索基礎設施
AI 運作的先驅者

講師簡介

Luca Berton 自動化專家

Luca Berton 是一位經驗豐富的 Ansible 自動化專家，擁有超過 18 年的 IT 經驗，專注於 DevOps、雲端工程和系統管理。

他撰寫了多本暢銷書，包括《Ansible for VMware by Example》和《Ansible for Kubernetes by Example》，並且是 Ansible Pilot 專案的創建者。 Luca 為開源社群做出了重大貢獻，尤其是在增強 Ansible 的功能方面。他也因積極參與會議以及透過各種活動和出版物為 Ansible 社區做出的貢獻而受到認可。