從 LLM 基礎、LLM 架構、AI / GenAI 應用程式一直到 AI 代理，學習 AI 紅隊
從這 10.5 小時的課程，你會學到
- LLMs 基礎知識
- 越獄 LLMs
- OWASP 十大 LLM 和 GenAI
- 實踐 – LLM 紅隊工具
- 編寫惡意提示（對抗性提示工程）
要求
- Python程式設計基礎
- 網路安全基礎知識
課程說明
客觀的
本課程提供人工智慧安全的實踐培訓，重點關注大型語言模型 (LLM， Large Language Models) 的紅隊。它是專為攻擊性網路安全研究人員、人工智慧從業者和網路安全團隊經理設計的。培訓旨在使參與者掌握以下技能：
- 出於道德目的識別並利用人工智慧系統中的漏洞。
- 保護人工智慧系統免受攻擊。
- 在組織內實施人工智慧治理和安全措施。
學習目標
- 了解生成式 AI 的風險和漏洞。
- 探索歐盟 AI 法案和新興 AI 安全標準等監管框架。
- 獲得測試和保護 LLM 系統的實用技能。
課程結構
- AI 紅隊簡介：
- LLMs 的架構。
- LLM 風險的分類。
- 紅隊策略和工具概述。
- 打破 LLMs :
- 越獄 LLM 的技術。
- 漏洞測試的實作練習。
- Prompt 注射 :
- Prompt 注入的基礎知識及其與越獄的差異。
- 進行和防止 prompt 注射的技術。
- 使用 RAG (Retrieval-Augmented Generation，檢索增強生成)和代理架構進行實踐練習。
- OWASP 對 LLM 的十大風險 :
- 了解常見風險。
- 演示以強化概念。
- 指導紅隊演習來測試和減輕這些風險。
- 實施工具和資源 :
- 用於紅隊的 Jupyter 筆記本、模板和工具。
- 用於實施護欄和監控解決方案的安全工具分類。
主要成果
- 增強知識：培養 AI 安全術語、框架和策略的專業知識。
- 實務技能：紅隊 LLM 和降低風險的實務經驗。
- 框架開發：為您的組織建立 AI 治理和安全成熟度模型。
誰該參加？
本課程適合以下族群：
- 進攻性網路安全研究人員。
- 人工智慧從業者專注於國防和安全。
- 尋求建立和指導人工智慧安全團隊的管理人員。
祝你好運，會議期間再見！
目標受眾
想要獲得 LLMs 和人工智慧代理的網路安全專業人士
講師簡介
Jitendra Chauhan 駭客、架構師和講師
對網路安全、演算法、人工智慧/機器學習和駭客技術充滿熱情並終身學習。這一切始於 2005 年，當時我加入了一家以「自動化人類駭客」為使命的新創公司。
IT 校友和經驗豐富的 AI 和網路安全專家，擁有 19 年經驗、2 項專利、3 家新創公司、紅隊專家和產品建構者，包括自動人機駭客和雲端 SOC。目前是 Detoxio AI、Automated LLM Red Teaming 和 GenAI Security 的共同創辦人
在過去
- 領導多家新創公司的產品與策略
- 2 x Startups 創始成員
- 3項「網路安全與人工智慧」專利
- 對著名賭場、銀行和電信公司進行紅隊測試和滲透測試
- 建構了各種產品，包括 SIEM、滲透測試、EASM 和紅隊產品
- 在 CISO Platform、Nullcon India 等各種會議中發表演講
字幕：英文
- 想要了解如何將英文字幕自動翻譯成中文? 請參考這篇 How-To
- Udemy 永久擁有課程 許多課程約 NT400(點擊連結看更多)
- ✨年訂閱每月 NT350 🌈 悠遊 Udemy 的 26000+ 門課，最大化學習 ( 原價 NT635/月 )
- Udemy 現在越來越多課程有中文字幕，請參考 Soft & Share 中文線上課程
- 手機上點選優惠連結看到的價格比電腦上看到的貴
- ＄代表當地貨幣, 如在台灣為 NT
- 點選”報名參加課程”有可能因瀏覽器 cookies 轉久一點或回報錯誤而無法連上，請稍等刷新或重新點選就會出現
報名參加課程
也許你會有興趣
- LLM 相關線上課程
- ★英語學習地圖 – 練好英文是最大的學習槓桿
- 如何找工作學習地圖 – 找工作不要靠運氣！
- 從 Soft & Share 各種社團頻道挑選你喜歡的加入
發表迴響