AI 安全實戰營－護欄、LLM 閘道與可觀測性

利用 Guardrails、LLM 閘道、評估（Evals）、可觀測性、Claude Code 和 Deep Agents 建構安全的 LLM 與 AI Agents。

從這 69.5 小時的課程，你會學到

利用業界領先的框架與最佳實踐，建構安全且可投入生產的大語言模型（LLM）及代理的 AI ( Agentic AI )應用。
透過實施護欄機制（Guardrails）、可觀測性、LLM 閘道、評估系統及紅隊測試，確保 AI 系統的安全性。
利用 LangChain、LangGraph、Claude Code、Redis 和企業級 AI 基礎設施工具開發 AI Agents。
自信地在生產環境中部署具備可擴展性、高可靠性、可監控且達到企業級標準的 AI 應用。

要求

建議具備 Python 程式設計基礎知識。
熟悉大語言模型（LLM）或生成式 AI 概念會有所幫助，但並非必要。
一台能夠運行 Python 應用程式且可連接網路的電腦（支援 Windows、macOS 或 Linux）。
願意動手建立 AI 項目，並從零開始學習生產級 AI 安全概念。

課程說明

AI 安全全方位實戰訓練營

人工智慧正在重塑各行各業，而大語言模型（LLM）和代理的 AI（Agentic AI）正迅速成為現代軟體的基石。然而，隨著企業將 AI 應用從原型階段推向生產環境，安全性、可靠性與治理能力已變得與模型效能同等重要。

本綜合實戰訓練營旨在教導您如何利用業界主流的最新工具、框架及最佳實踐，建構安全、可觀測且具備生產就緒能力的 AI 應用。

與傳統僅專注於提示詞工程（Prompting）或聊天機器人建構的生成式 AI 課程不同，本課程深入探討了在真實生產環境中安全部署 AI 系統所需的工程實踐。您將學習如何防範提示詞注入、越獄攻擊、資料外洩、模型幻覺、不安全輸出及其他常見安全風險，同時掌握企業級監控、評估與治理系統的實施方法。

課程首先說明利用 LangChain 和 LangGraph 建構 AI 應用的基礎知識，為開發智慧工作流程和多代理系統打下堅實基礎。在此基礎上，您將深入探索生產級 AI 安全的核心要素。

您將學習如何利用 LangSmith 和 Pydantic Logfire 實現 AI 可觀測性，從而能夠追蹤、調試、監控並優化在生產環境中運行的 AI 應用。您將掌握識別效能瓶頸、檢查 agent 執行路徑、監控 Token 使用情況以及高效排查故障的技能。

接下來，你將掌握 AI 安全護欄（AI Guardrails）技術，使用 NVIDIA NeMo Guardrails、AWS Bedrock Guardrails 和 Guardrails AI 等業界領先的框架。你將學習如何實施安全策略、驗證使用者輸入、審核模型輸出、執行內容過濾、防禦提示詞注入攻擊，並建立適合企業級部署的負責任 AI 系統。

本課程也將探討 LLM 閘道（LLM Gateways）－這是 AI 基礎設施領域成長最快的方向之一。你將學習如何利用 Portkey AI Gateway 和 TensorZero 管理多個 LLM 供應商，從而實現智慧模型路由、請求日誌記錄、身份驗證、故障回退策略、成本最佳化、速率限制、快取以及集中式治理。

課程的另一個重點是 LLM 評估。你將學習如何使用 DeepEval 評估 AI 系統，衡量回答品質、檢索表現、幻覺率、忠實度（faithfulness）以及自訂評估指標。此外，你還將探索自動化測試策略，以確保 AI 應用程式在不斷迭代過程中保持可靠性。

為了進一步增強 AI 系統的安全性，你將使用 PyRIT 進行 AI 紅隊測試（AI Red Teaming），了解攻擊者如何利用 LLM 應用程式中的漏洞，並學習如何在生產部署前防禦提示詞注入、越獄攻擊、惡意指令及不安全行為。

效能優化是企業級 AI 的另一個關鍵環節。你將學習如何整合 Redis 實現語義快取、回應快取和速率限制，從而降低延遲、減少營運成本，並建立能夠應對高並發流量的可擴展 AI 服務。

除了確保 AI 應用程式的安全，你還將學習如何利用 Claude Code 建構現代深度代理（Deep Agents）和 AI 輔助程式設計工具。你將深入理解現今生產級代理的 AI 系統（Agentic AI systems）所採用的先進 agent 架構、規劃、記憶機制、工具呼叫、編排以及自主工作流程。

在整個訓練營期間，各項概念均透過實戰程式設計練習、真實應用案例、架構探討及動手實作專案進行教學。你不僅是學習 API 的使用，還會建構遵循生產級工程最佳實踐的完整 AI 系統。

學完本課程後，您將掌握現代 AI 工程領域最熱門的技能之一：建構、保護、監控、評估及部署生產級大語言模型（LLM）與代理的 AI（Agentic AI）應用的能力。無論您是準備開展企業級專案、進行客戶側部署，還是希望在 AI 職業生涯中更進一步，本訓練營都將為您提供必要的實用知識與實戰經驗，助您在實際場景中自信地構建值得信賴的 AI 系統。

目標受眾

希望建構安全且可投入生產的 AI 系統的 AI 工程師、機器學習（ML）工程師及生成式 AI 開發人員。
希望利用現代框架和行業最佳實踐掌握生產級 AI 安全技術的學生與專業人士。
尋求將大語言模型（LLM）和代理的 AI（Agentic AI）整合到實際應用中的軟體工程師及後端開發人員。

講師簡介

KRISHAI Technologies Private Limited 人工智慧與機器學習工程師

Krish AI Technologies 處於資料科學、機器學習、生成式 AI、深度學習及相關技術領域教育的前沿。公司由行業資深專家 Krish Naik 創立，他擁有超過 13 年的數據分析行業經驗和 7 年以上的豐富教學經驗；我們的使命是幫助學員掌握在瞬息萬變的技術領域中脫穎而出所需的技能與知識。

我們的專長：Krish AI Technologies 專注於人工智慧和資料科學領域的廣泛主題，涵蓋以下方面：

資料科學：從基礎概念到進階技術，我們全面涵蓋資料分析、統計建模及資料視覺化等各個面向。

機器學習：我們的課程體系涵蓋各類機器學習演算法，包括監督學習與無監督學習、叢集( clustering )技術、高階預測建模。

生成式 AI：我們提供最新生成式 AI 模型與技術的深度培訓，幫助學員理解並應用這些尖端技術。

深度學習：我們的課程深入探討深度學習的數學原理與實際應用，內容涵蓋神經網路、CNN（卷積神經網路）、RNN（循環神經網路）等。

自然語言處理 (NLP)：我們提供全面的 NLP 培訓，包括文本預處理、情緒分析、語言建模以及各類 NLP 實戰專案。

字幕：英文

想要了解如何將英文字幕自動翻譯成中文? 請參考這篇 How-To

Udemy 永久擁有課程 🍀 大多課程約 NT350 (點擊看優惠)
✨年訂閱每月 NT350 優惠 ( ⏳現在訂閱有更惠價價 NT262/月 ) 🌈悠遊 Udemy 的 28000+ 門課，最大化學習 ( 原價 NT635/月 )
Udemy 現在越來越多課程有中文字幕，請參考 Soft & Share 中文線上課程
手機上點選優惠連結看到的價格比電腦上看到的貴
＄代表當地貨幣, 如在台灣為 NT
點選”報名參加課程”有可能因瀏覽器 cookies 轉久一點或回報錯誤而無法連上，請稍等刷新或重新點選就會出現