fbpx

大型語言模型( LLM )的生成式人工智慧

Contents

由 deeplearning.ai 與 AWS 提供。

關於此專業課程

在”大型語言模型 ( LLM ) 的生成式人工智慧( generative AI )”中,您將學習生成式 AI 工作原理以及如何將其部署到實際應用程式中的基礎知識。

通過學習本課程,您將學會:

  • 深入了解生成式人工智慧,描述典型的基於 LLM 的生成式人工智慧 ( generative AI )生命週期的關鍵步驟,從資料收集和模型選擇,到性能評估和部署
  • 詳細描述為 LLM 提供支持的 Transformer (變換器) 架構、它們的訓練方式以及微調如何使 LLM 適應各種特定用例
  • 使用經驗擴展( scaling )定律來跨資料集大小、計算預算和推理要求優化模型的目標函數
  • 應用最先進的培訓、調優、推理、工具和部署方法,在專案的特定約束下最大限度地提高模型的性能
  • 聆聽行業研究人員和從業者的故事後,討論生成人工智慧為企業帶來的挑戰和機遇

對 LLMs 的工作原理以及培訓和部署它們背後的最佳實踐有良好基礎了解的開發人員將能夠為他們的公司做出正確的決策,並更快地建構工作原型。 本課程將支持學習者建立關於如何最好地利用這項令人興奮的新技術的實用直覺。

這是一門中級課程,因此您應該具有一些 Python 程式設計經驗才能充分利用它。 您還應該熟悉機器學習的基礎知識,例如監督和無監督學習、損失函數以及將資料拆分為訓練集、驗證集和測試集。 如果您已經學習了 DeepLearning.AI 的機器學習專業課程深度學習專業課程,您就準備好學習本課程並更深入地了解生成式 AI 的基礎知識。

到官方網站了解本課程與上課

你將學到的內容有

  • 獲得基礎知識、實踐技能以及對生成式 AI 如何工作的功能性理解
  • 深入了解 Gen AI 的最新研究,了解企業如何利用尖端技術創造價值
  • 來自當今在商業用例中積極建構和部署 AI 的 AWS AI 專家從業者的指導

你將獲得的技能:

Generative AI (生成式人工智慧)大型語言模型( LLM )機器學習
Python 程式設計

字幕

英文

製作方

DeepLearning.AI

DeepLearning.AI 是一家開發全球人工智慧人才社區的教育技術公司。 DeepLearning.AI 以專家為主導的教育體驗為 AI 從業者和非技術專業人士提供了從基礎到高級應用的必要工具,使他們能夠構建 AI 驅動的未來。

AWS

自 2006 年以來,Amazon Web Services 一直是世界上最全面、應用最廣泛的雲平台。 AWS 提供超過 90 項功能齊全的服務,用於計算、儲存、網路、資料庫、分析、應用程式服務、部署、管理、開發人員、行動、物聯網 (IoT)、人工智慧、安全、混合和企業應用程式,來自 44 個可用區跨越 16 個地理區域。 AWS 服務受到全球數百萬活躍客戶的信賴——包括增長最快的新創公司、最大的企業和領先的政府機構——為他們的基礎設施提供支持、使其更加敏捷並降低成本。 Coursera 和 AWS 自 2017 年以來一直是合作夥伴,為全球的學習者和企業提供成功所需的技能。 Coursera 建立在 AWS 伺服器之上,可以根據學生的需求進行擴展,並且對容量和彈性充滿信心,並與 AWS 合作。 2019 年,Coursera 獲得了高級級別合作夥伴身份,並進一步擴展了與 AWS Educate、AWS EdStart 和 AWS Academy 的合作夥伴關係。 Coursera 已經能夠通過 Coursera 平台上的 8 門 AWS 課程讓雲端技能更容易獲得,這些課程由頂級主題專家組成,並且產品組合繼續增長。要了解有關 AWS 的更多資訊,請訪問 https://aws.amazon.com。

第 1 週   生成式 AI 用例、專案生命週期和模型預訓練

  • 介紹
  • 生成式 AI 和 LLM
  • LLM 用例和任務
  • 在 Transformer 之前生成文本
  • Transformer 架構
  • 使用 Transformer 生成文本
  • 提示( prompting )和提示工程( prompt engineering )
  • 生成配置
  • 生成式 AI 專案生命週期
  • AWS 實驗室簡介
  • 實驗室 1 演練
  • 預訓練大型語言模型( LLM )
  • 培訓 LLM 的計算挑戰
  • 可選視訊:高效的多 GPU 運算策略
  • 擴展法則( scaling laws )和運算最佳化模型
  • 領域適應的預訓練

第 2 門課程 微調和評估大型語言模型

  • 介紹
  • 指令微調
  • 對單個任務進行微調
  • 多任務指令微調
  • 模型評估
  • 基準測試
  • 參數高效微調(PEFT)
  • PEFT技術1:LoRA
  • PEFT技巧2:軟提示( Soft prompts )
  • 實驗室 2 演練

第 3 門課程  強化學習和 LLM 支持的應用程

  • 介紹
  • 使模型與人類價值觀保持一致
  • 根據人類反饋進行強化學習 (Reinforcement learning from human feedback,RLHF)
  • RLHF:獲取人類的反饋
  • RLHF:獎勵模型
  • RLHF:通過強化學習進行微調
  • 可選視訊:近端策略優化
  • RLHF:獎勵駭客行為
  • 擴展人類反饋
  • 實驗室 3 演練
  • 部署模型優化
  • 生成式 AI 專案生命週期備忘單
  • 在申請中使用 LLM
  • 與外部應用程式互動
  • 幫助 LLM 通過思維鏈進行推理和計劃
  • 程式輔助語言模型 (Program-aided language models,PAL)
  • ReAct:推理與行動相結合
  • LLM 應用架構
  • 可選視訊:AWS Sagemaker JumpStart
  • 負責任的人工智慧( AI )
  • 課程總結

到官方網站了解本課程與上課

Sponsored by Coursera


Lingoda

也許你會有興趣

不受 FB 演算法影響,歡迎透過 e-mail 訂閱網站更新

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料

Powered by WordPress.com.

Up ↑

%d 位部落客按了讚: