Agentic AI 安全大師班

自主 AI 系統為何會失敗 – 以及如何保障其安全

從這 10 小時的課程，你會學到

Agentic AI (代理的 AI )系統與傳統軟體的根本差異是什麼？這些差異為何會帶來新的安全風險？
自主 Agents (代理/智能體) 如何進行規劃、推理、委派任務與行動？這些行為在現實世界系統中為何會失效？
為何傳統的網路安全控制措施對於保護 Agentic AI 是必要的，但卻不足？
Agent 的目標如何在沒有任何明確攻擊的情況下發生漂移、被劫持或錯位？
Agent 的目標如何在沒有任何明確攻擊的情況下發生漂移、被劫持或錯位？
記憶、脈絡和檢索系統如何成為長期的安全隱患？
多個 Agents 如何互動、串通並放大彼此的錯誤？
Agentic 系統如何運用人類的信任、偏見和自動化習慣？
如何設計具有清晰邊界、角色和執行點的安全 Agentic 架構？
如何將身分、存取控制、沙箱和最小權限原則應用於非人類 Agents？
如何及早檢測行為漂移、獎勵駭客攻擊和湧現的惡意行為？
如何設計和實施自主邊界、約束引擎和終止開關？
如何在 Agent 的決策、計畫和行動中建構可觀測性？
如何威脅建模、紅隊演練以及強化生產環境中的 Agentic 系統
如何管理、監控並安全地演進自主系統
如何在實際組織中以批判性和負責任的態度部署 Agentic AI

要求

無需任何 Agentic AI 經驗
無需網路安全的深厚背景
熟悉軟體系統的基本運作方式會有幫助，但並非強制要求
對 AI 系統在現實世界中的行為方式充滿好奇心
願意進行批判性思考，並質疑關於自動化和智慧的假設
樂於透過範例、場景和實踐探索進行學習
對於實驗室工作：具備在安全環境中遵循技術說明和進行實驗的基本能力

課程說明

本大師班探討了當人工智慧系統不再是被動工具，而是能夠在真實環境中規劃、決策和執行行動的自主行動者時，安全防護必須如何演進。

Agentic AI 系統引入了截然不同的風險特徵。故障往往在沒有漏洞、沒有惡意意圖、也沒有明顯訊號的情況下發生。系統在技術層面可能運作正常，但隨著時間的推移，可能會變得不安全、不可信或偏差。本課程旨在彌補這一差距。

現代 Agentic 系統能夠規劃自身行動、選擇工具、維護記憶、與其他 Agents 協調，並以不同程度的自主性行事。這些能力所帶來的風險無法簡單地納入傳統的網路安全模型。故障往往是逐漸出現的，起初看起來像是成功，而且根本不涉及任何明顯的攻擊者。本課程旨在應對這一現實。

透過十二個結構嚴謹的模組，學員將從安全的角度了解 Agentic 系統的完整生命週期。本課程首先明確智能體與早期人工智慧和軟體系統的根本區別，然後逐步探討目標漂移、工具濫用、記憶和情境如何成為安全隱患，以及自主性如何悄悄超越最初預期。

本課程並非著眼於孤立的漏洞，而是將 Agentic AI 視為社會技術系統。它考察智能體如何與基礎設施、資料、人類以及彼此互動，以及風險如何在這些邊界處湧現。學員將探索受現實世界啟發的場景，包括目標劫持、獎勵機制操縱、跨智能體故障循環、憑證濫用、記憶污染、操縱人類信任以及湧現的惡意行為。

安全被視為一種架構和行為學的學科，而非簡單的檢查清單。本課程強調設計即使在 Agents 推理錯誤、接收模糊輸入或在不確定性下運作的情況下也能保持安全的系統。課程主題包括安全代理架構、非人類行為者的身分和存取控制、沙盒執行、供應鏈信任、約束執行、行為監控、終止開關、可觀測性、治理和長期彈性。

課程中穿插了實作操作環節，以強化學者的實作學習。學員將在受控環境中接觸到真實的故障模式和攻擊模式，從而親身了解代理系統是如何輕易地受到干擾、偏離軌道或被推向安全邊界的。

課程結束時，學員獲得的不僅是技術知識。他們將培養一種持久的思維方式，思考 AI 系統中的自主性、風險和責任。他們將學習如何質疑代理行為、進行故障設計、偵測早期預警訊號，並清晰自信地管理生產環境中的智慧系統。

本課程旨在幫助學員掌握必要的架構思維、行為意識和治理理念，從而在信任喪失和損害不可逆轉之前保護自主系統的安全。

目標受眾

建構使用代理、自動化或 AI 驅動工作流程的系統的軟體工程師
將技能應用於自主和 AI 系統的安全專業人員
使用代理框架、工具和編排層的人工智慧和機器學習工程師
支援 AI 服務的平台和基礎設施團隊
設計 AI 可以執行現實世界操作的系統的架構師
負責 AI 風險和安全的產品負責人和技術決策者
對 AI 治理、安全性和韌性感興趣的研究人員和從業人員
本課程也適合 AI 或網路安全領域的新手，只要他們對智慧系統的行為方式充滿好奇心並願意進行批判性思考。

講師簡介

Cyberdefense Learning

CyberDefenseLearning 是一家領先的網路安全教育、生成式 AI 培訓和雲端運算專家供應商，致力於幫助學習者和組織掌握在數位時代蓬勃發展所需的技能。憑藉 20 多年的行業經驗，CyberDefenseLearning 專注於提供全面且注重實踐的課程，旨在應對網路安全、雲端技術和新興人工智慧創新領域的實際挑戰。

我們的專長包括：

網路安全培訓：透過網路安全、道德駭客和事件回應的實用技能，建構強大的防禦體系。

雲端運算精通：幫助學習者在主流平台上設計、部署和管理安全的雲端解決方案。

生成式 AI 教育：透過量身訂製、以應用為導向的培訓，釋放人工智慧的潛力，推動創新。

在 CyberDefenseLearning，我們致力於透過互動式學習、案例研究和行業最佳實踐，幫助學員深入理解技術。加入我們，在瞬息萬變的數位環境中保持領先。

Anand Rao Nednur 雲端和網路安全顧問

認識 Anand – 一位擁有超過 20 年經驗的資深 IT 專家，專精於 Active Directory。自 2012 年以來，Anand 一直深耕雲端運算領域，並持有多個雲端運算和網路安全認證。憑藉其專業知識，他成為眾多希望轉型並優化雲端基礎設施的組織的可靠顧問。

Anand 擁有深厚的資訊安全和資料工程背景，曾指導許多組織建置安全、可擴展的雲端系統。

Anand 熱衷於知識分享，定期發布部落格文章、YouTube 教學和 Udemy 課程，旨在將複雜的雲端和安全概念化繁為簡，使其更易於理解和應用。他也是《網路世界探險：資訊安全意識指南》和《Sparky 大字節冒險：比特、機器人和電腦秘密：兒童電腦圖解指南》（可在亞馬遜購買）的作者，在這兩本書中，他更深入地探討了雲端技術。

認證

雲端運算:

AWS 認證解決方案架構師 – 助理級
AWS 認證系統維運管理員 – 助理級
谷歌雲端平台 – 雲端架構師 (GCP)
微軟 Azure 管理 (70-533)
微軟 Azure 架構 (70-534)

網路安全：

認證資訊安全經理 (CISM – ISACA)
認證道德駭客 (CEH – EC-Council)
認證網路防禦專家 (CND – EC-Council)
CompTIA Security+ (SY0-401)
認證雲端安全知識 (CCSK)
微軟安全系列 (MS-500、AZ-500、SC-900、SC-200、SC-300、SC-100)

微軟及 IT 基礎架構：

微軟認證培訓師 (MCT)
微軟 Active Directory (70-640)

其他專業認證：

Scrum 認證大師（敏捷開發）
ITIL V3

字幕：英文

想要了解如何將英文字幕自動翻譯成中文? 請參考這篇 How-To

Udemy 永久擁有課程許多課程約 NT400(點擊連結看更多)
✨年訂閱每月 NT350(再享特別優惠：年度訂閱首年享 25% 折扣) 🌈 悠遊 Udemy 的 26000+ 門課，最大化學習 ( 原價 NT635/月 )
Udemy 現在越來越多課程有中文字幕，請參考 Soft & Share 中文線上課程
手機上點選優惠連結看到的價格比電腦上看到的貴
＄代表當地貨幣, 如在台灣為 NT
點選”報名參加課程”有可能因瀏覽器 cookies 轉久一點或回報錯誤而無法連上，請稍等刷新或重新點選就會出現