GenAI 與網路安全—框架與最佳實踐

推動企業採用 GenAI：來自產業領袖的工具、框架和真實案例研究

從這 7 小時的課程，你會學到

掌握將生成式人工智慧 (AI) 整合到網路安全中的基礎原則和最佳實踐。
本課程採用 1-2 分鐘的短視頻講解概念，每章均配有補充材料，因此請僅在您適應這種形式的情況下報名。
適合從研究論文、案例研究和基礎概念中汲取洞見的實踐者。
了解人工智慧 (AI)、機器學習 (ML) 和深度學習，並專注於它們在各個行業的應用，包括特斯拉自動駕駛 (Autopilot) 的案例研究。
研究 AI/ML 與網路安全的交叉領域，透過真實案例了解倫理考量與潛在風險。
探討 Gartner 等產業報告發布的最新趨勢。
深入了解典型的基於雲端和 AI 的網路安全架構，了解它們的差異以及各自的重要性。
制定管理 AI 資料隱私的策略，包括資料品質、治理和生命週期管理。
了解 NIST AI RMF 等 AI 風險管理框架，並探索應對 AI 風險的案例研究。
了解關鍵的人工智慧控制和策略，包括CIA三要素、OWASP人工智慧漏洞以及人工智慧治理框架。
掌握人工智慧系統審計知識，了解合規性組成部分以及準備情況比較。
探討各種人工智慧監管框架，包括歐盟人工智慧法案、GDPR以及經合組織制定的倫理人工智慧框架。
了解生成式人工智慧的安全隱患，探索防禦措施、未來挑戰和機會。
了解創新的生成式人工智慧解決方案和機遇，包括客製化的LLM實施和行業特定應用。
了解如何利用人工智慧來加強治理實踐，並制定低風險人工智慧應用框架。
研究聯合國教科文組織和其他機構概述的人工智慧領域的關鍵爭議和倫理問題，以指導負責任的人工智慧實踐。。

要求

具備人工智慧/機器學習 (AI/ML) 和基因人工智慧 (GenAI) 技術基本知識的人員（不適合初學者）
本課程採用 1-2 分鐘的短視頻講解概念，每章均配有補充材料，因此請僅在您適應這種形式的情況下報名。
參與或支持工作中基因人工智慧 (GenAI) 計畫的專業人士 / 僅限具備實務經驗者報名
積極關注各行業人工智慧/基因人工智慧 (AI/GenAI) 實際發展和應用案例的人員
曾與人工智慧/機器學習 (AI/ML) 團隊合作或共同工作，並了解實際應用的人員
積極參與基因人工智慧 (GenAI) 計畫或支援將人工智慧/機器學習 (AI/ML) 整合到產品或工作流程中的專案的安全團隊
有興趣將基因人工智慧 (GenAI) 風險轉化為可操作的安全控制措施、操作手冊或架構的人員
不建議完全沒有人工智慧/基因人工智慧 (GenAI) 計畫經驗的初學者參加
不建議缺乏實務經驗的理論或學術專業人士參加

課程說明

歡迎來到「生成式人工智慧與人工智慧安全—負責任的人工智慧應用框架與最佳實踐」課程

生成式人工智慧正在改變產品的建構方式、決策方式以及企業的營運模式。本課程專為希望超越炒作、了解如何負責任、安全且有意義地應用生成式人工智慧的從業者而設計。

本課程更多地借鑒了從業者的經驗，並結合研究論文、核心理念和實際案例。課程並非旨在提供完美的解決方案，而是旨在提供學習契機和實用指導。請不要將本課程視為課堂式的輔導，它更著重於經驗分享和觀點交流。這就是本課程的精髓所在——業界從業人員的視角。

人工智慧可以提升生產力、創造力和自動化水平，但前提是它必須建立在數據、領域理解、安全保障和治理的基礎上。本課程採用 1-2 分鐘的精簡概念視頻，並在每個章節中提供補充材料，因此請僅在您適應這種形式的情況下報名。我寧願做一個不完美的老師，也不願意當一個完美的人工智慧化身。畢竟，錯誤讓我們更像人 🙂

這門 Udemy 課程更像是我日常部落格、研究論文和工作中一些想法的總結。它並非完美無缺的方案，而是分享實踐者在實際應用案例中的視角。

本課程包含（以及不包含）的內容

糟糕的人工智慧應用案例

人工智慧建議裁員
人工智慧取代人類在銷售或招募中的判斷
缺乏背景資訊和倫理考量的情緒檢測

負責任的人工智慧應用案例

常見問題與決策支援知識助手
人工智慧輔助寫作和摘要
自動化資訊處理（OCR、多模態），人工控制

負責任的人工智慧並非禁止使用技術，而是要有目的地、有限制地、並承擔相應的責任來使用科技。

您將學到什麼

完成本課程後，您將了解：

核心概念：人工智慧 (AI)、機器學習 (ML)、深度學習 (DL)、生成式人工智慧 (GenAI)
人工智慧/機器學習系統中的網路安全風險
人工智慧倫理、隱私和資料治理
使用 NIST AI RMF 進行人工智慧風險與威脅管理
人工智慧控制、審計、合規性和法規（歐盟人工智慧法案、GDPR、經合組織）
生成式人工智慧和機器學習 (LLM) 安全：風險、偏差和防禦
跨產業真實案例研究
低風險、負責任地採用人工智慧的實用框架

這門課程如何幫助你

建立人工智慧視角，繪製您的領域和數據
提出更優質的人工智慧解決方案問題，確保清晰明了且具備必要的技術深度
明確關注：GenAI 專案管理、GenAI 開發、微調、智能體、文字轉 SQL、視覺、特定領域用例
區分實務經驗、觀點和炒作
使用基準測試、安全準則和證據評估人工智慧系統

以實踐者為主導的人工智慧體驗，將理念、邏輯、研究和實際應用融為一體。

支持與指導

在課程的任何階段，您都可以隨時聯繫我們進行一對一討論、專案構思、評審或獲得指導。

不建議初學者參加。

本課程不會讓您一夜之間成為專家，但它將幫助您提出更優質、更具應用場景驅動的問題，並以清晰負責的態度評估人工智慧系統。

報名須知

本課程面向關注人工智慧（GenAI）的審慎、負責應用的實踐者。沒有唯一的「正確」答案，重要的是您的方法、視角以及探索權衡取捨的意願。如果您對此有所共鳴，您會在這裡找到歸屬感。

您將獲得終身訪問權限

內容全面的視訊課程
真實案例分析
實踐練習和專案
最新的產業洞察

如果您在製定人工智慧決策時缺乏清晰的風險、投資報酬率和治理視角，本課程將改變您的思維方式。

如果您想從對人工智慧的好奇心轉變為負責任的、實際應用的能力，請報名參加。

負責任地建構。批判性地思考。有條不紊地部署。

祝您學習愉快！

目標受眾

產品經理：本課程非常適合採用基於 LLM 的解決方案的人，它將幫助您加強產品開發並確保安全實施。
資料科學家：非常適合旨在將 GenAI 與資料驅動專案結合、管理偏見並有效降低安全風險的專業人士。
網路安全團隊：對於參與 AI/ML 和 GenAI 採用的網路安全和 CISO 團隊至關重要，專注於保護 AI 計劃並了解新出現的威脅。
企業領導者和高階主管：有利於以基於 GenAI 的用例採用為目標的企業領導者和高階主管，在保持合規性和安全性的同時推動創新。
創新問題解決者：適合喜歡使用尖端技術和人工智慧驅動的解決方案來應對複雜挑戰的創意思考者。
IT 專業人員：對於負責管理和保護 AI 基礎架構的 IT 專家來說至關重要，確保實施強有力的網路安全措施。
人工智慧愛好者和技術創新者：非常適合對人工智慧充滿熱情、希望了解生成人工智慧和網路安全的最新趨勢和進展的個人。
合規官和法律專家：對於監督合規和監管方面的專業人士來說很有價值，可以提供有關人工智慧框架、政策和道德考慮的見解。

講師簡介

Sivaram A AI策略/AI解決方案架構師

創辦人 | AI原生策略與諮詢 | 解決方案架構師 | 負責任的AI | AI審計

擁有超過23年變革型領導經驗的資深AI與技術主管，經驗涵蓋企業與新創公司生態系統。我與技術長和創辦人合作，透過策略、創新和解決方案架構，重塑智能體和基因AI的採用。我的重點領域包括：50%的解決方案和策略，30%的智慧體和資料準備，以及20%的生產部署。

這門Udemy課程更像是對我日常部落格、研究論文和工作中的想法的總結。它並非完美無缺的方案，而是分享實踐者在用例實作方面的觀點。

我目前致力於企業基因AI採用、智能體/基因AI解決方案以及影片、影像、文字、資料、資料庫和AI採用等方面的用例研究。我擁有豐富的「數據」經驗，並認為自己是一位對產品、數據和技術充滿熱情的通才。我擁有兩項零售和電腦視覺領域的已授權專利。我擁有印度理工學院海德拉巴分校數據科學碩士學位。

在我的職業生涯中，我曾與多家知名企業合作，並在多個領域提供諮詢服務，包括亞馬遜、微軟、Publicis Sapient、Sensormatic、聯合利華、樂購、梅西百貨、麥當勞、The Children’s Place、The Container Store、英美資源集團、UPS、Beluber、Frac、Optum，以及專注於人工智慧Corporate。

人工智慧諮詢 – phygitalytics（物理 X 數位 X 分析 X 負責任的通用人工智慧應用）