人工智慧安全

Microsoft Security Copilot | ChatGPT | MITRE ATLAS | AI 的 Defender (捍衛者)

從這 10 小時的課程，你會學到

探索生成式 AI 的基礎知識，包括其原理、應用以及對網路安全的影響。
學習使用生成式 AI 進行網路安全教育
學習如何編寫有效的生成式 AI 網路安全提示
學習使用生成式 AI 進行網路安全教育的高階概念
了解生成式 AI 和 ChatGPT 如何變革網路安全
學習如何利用 ChatGPT 進行安全營運中心 (SOC) 安全管理
學習如何利用 ChatGPT 進行網路威脅情報 (CTI) 安全管理
學習如何利用 Microsoft Copilot for Security 進行 SOC 安全管理
學習如何利用 Microsoft Copilot for Security 進行 CTI 安全管理
回顧 OWASP Top 10 針對大型語言模型的漏洞及其緩解方法。
熟悉 MITRE ATLAS 架構及其在生成式 AI 威脅分析的應用。
培養威脅建模技能，以識別、評估和應對生成式 AI 系統面臨的潛在安全威脅。
設計並實施專為生成式 AI 環境量身打造的強大安全架構。
分析一個關於利用大型語言模型( LLM )的詳細案例研究，以了解潛在的漏洞和防護措施。
建構生成式 AI 治理方案
了解針對生成式 AI 系統的常見攻擊及其防禦方法。
理解大型語言模型 (LLM) 滲透測試的核心概念和方法。
學習針對生成式 AI 系統量身打造的滲透測試步驟。

要求

具備基本的 IT 知識
樂於學習新事物！

課程說明

Christopher Nett 的《人工智慧安全》是一門結構嚴謹的 Udemy 課程，旨在幫助 IT 專業人士掌握人工智慧安全。

本課程系統性地引導您從基礎知識入手，逐步深入進階概念，並輔以應用案例研究。您將對人工智慧安全所需的原則和實踐有深刻的理解。

主要收益：

基礎 | Azure：學習 Microsoft Azure 的基本概念，包括其核心服務、安全性和治理最佳實務。
基礎知識 ： Microsoft 安全性：探索 Microsoft 的安全生態系統，包括旨在保護雲端和本機環境的工具和框架。
生成式 AI：了解生成式人工智慧的原理、應用及其對網路安全和企業風險管理的影響。
以生成式 AI 為導向的網路安全：探討生成式人工智慧帶來的獨特安全挑戰，以及在人工智慧驅動的環境中降低風險的策略。
Microsoft Security Copilot：了解 Microsoft Security Copilot 如何利用人工智慧增強安全營運、威脅偵測和事件回應。
ChatGPT for SOC：了解 ChatGPT 如何協助安全營運中心 (SOC) 進行自動化威脅偵測、調查和回應。
ChatGPT for CTI：探索 ChatGPT 如何透過分析和總結新興威脅來增強網路威脅情報 (CTI) 工作流程。
ChatGPT在漏洞管理中的應用：了解ChatGPT如何支援漏洞管理工作，從風險評估到修復指導。
ChatGPT在應用程式安全中的應用：了解ChatGPT如何透過識別漏洞和改進安全最佳實踐來幫助保護應用程式。
OWASP Top 10：分析大型語言模型（LLM）特有的安全風險，包括資料投毒、對抗性攻擊和提示注入。
生成式 AI 的其他風險：探討與生成式人工智慧相關的其他風險，例如虛假資訊、倫理問題和監管挑戰。
生成式 AI 的威脅建模：學習如何將威脅建模技術應用於生成式人工智慧系統，以識別和緩解潛在的安全威脅。
MITRE ATT&CK和MITRE ATLAS：探索MITRE ATT&CK和ATLAS框架如何幫助繪製對抗性人工智慧威脅圖譜並制定防禦策略。
使用 Defender for Cloud 保護 AI：了解 Microsoft Defender for Cloud 如何透過監控、偵測和緩解與 AI 相關的威脅來增強 AI 安全性。