在本實作課程中，您將掌握大型語言模型 (Large Language Models，LLM) 並建立複雜的文本生成應用程式。您將精通提示工程技術，優化模型選擇和成本，並深入研究檢索增強生成 (Retrieval-Augmented Generation，RAG)，利用向量資料庫將 AI 響應與外部資料關聯起來，消除虛假資訊。最後，您將使用 RAGAS 評估系統效能，並透過建立端到端的 RAG 應用程式來展示您的技能。
你將學會
- 檢索增強型生成( Retrieval-Augmented Generation )
- 大型語言模型( Large Language Models )
- 大型語言模型分析與能力( LLM Analysis and Capabilities )
- 提示工程( Prompt Engineering )
要求
入學前，您應具備以下知識：
- 深度學習
- 生成式 AI
- PyTorch
- Hugging Face
- 中階 Python
您還需要能夠流利且專業地使用英語進行書面和口頭交流。
課程大綱
| LLM 與 RAG 簡介 | 介紹大型語言模型（LLM）、其核心概念和課程結構。涵蓋先決條件、環境設置，並定義檢索增強生成（RAG）。 |
| LLM 概覽 | 探索語言學習模型的四大核心功能：生成、摘要、分類與推理。探討實際應用案例以及 RAG 在建立信任的重要性。 |
| 利用 LLM 實現 Chatbot | 學習如何使用 LLM 建立有狀態聊天機器人。內容涵蓋管理對話歷史記錄、使用系統提示定義行為以及理解訊息角色（系統、使用者、助理）。 |
| LLM 提示與推理 | 定義了提示工程及其組成部分。解釋如何使用推理參數（例如溫度、top-p、最大標記數和停止序列）來控制 LLM 輸出。 |
| 應用提示與推理 | 實踐應用提示技巧。實施思考鏈（Chain of Thought，CoT）提示，以提高推理能力，並測試不同的推理參數如何改變模型行為。 |
| 提示指令改進 | 闡述了透過修改角色、任務、上下文、範例和輸出格式等元件來系統化地改進提示指令的理論。 |
| 使用 Python 應用程式提示指令細化 | 提供實踐練習，透過迭代改進提示，將通用食譜分析器轉換為精確的營養顧問，產生結構化的 JSON。 |
| Tokens、Embeddings 和向量搜索( Vector Search ) | 涵蓋語言學習模式自然語言處理的基礎知識。定義了分詞、語意向量嵌入和向量搜尋（相似性搜尋），以此作為尋找相關資訊的基礎。 |
| 實現 Tokens、嵌入( Embeddings )和向量搜索 | 動手實作分詞技術。實現詞嵌入生成和向量搜索，從零開始建立語義搜尋系統。 |
| 策略模型選擇與經濟學 | 了解模型選擇的商業權衡。涵蓋效能、成本、速度和控制（總擁有成本，TCO）。比較通用（生成）模型和專用（推理）模型。 |
| 模型選擇與經濟學應用 | 應用模型選擇理論。計算包含誤差成本在內的總擁有成本（TCO）。實施混合模型路徑系統，以平衡成本和品質。 |
| 檢索增強生成（RAG）工作流程 | 介紹 RAG 架構。比較簡單模組化 RAG 和高階模組化 RAG。涵蓋資料攝取管道，重點在於資料格式和智慧分塊策略。 |
| 使用向量資料庫進行 RAG 語義搜索 | 闡述語意搜尋和向量資料庫的作用。涵蓋用於提高速度的索引演算法（HNSW）以及高級檢索技術，例如 HyDE 和重排序。 |
| RAG 合成的快速工程 | 學習如何為 RAG 編寫提示。內容包括：使答案與上下文相關、處理衝突、管理不確定性以及透過產生內嵌引用來確保可驗證性。 |
| 使用向量資料庫實作 RAG | 建構完整的 RAG 系統。練習 ChromaDB 中的向量資料庫操作，包括新增文件、應用元資料過濾器以及實現檢索和生成管道。 |
| Evaluating RAG Systems | 學習如何評估 RAG 系統品質。介紹關鍵指標：情境精確度、情境回想率、忠實度和答案相關性。涵蓋 RAGAS 等框架。 |
| RAG 評估實施 | 使用 RAGAS 框架實現 RAG 評估流程。學習如何計算和解讀品質指標，以診斷和改進 RAG 系統的效能。 |
| 專案：NASA任務情報：開發基於RAG的聊天系統 | 建造一個端到端的 RAG 聊天機器人。接收 NASA 任務數據，建立向量搜尋管道，產生答案，並評估系統品質。 |
本課程講師
與普通教授不同，我們的講師來自財富 500 強和全球 2000 強企業，並在各自的專業領域展現了領導能力和專業知識：
UDACITY 所有的教學方案都包含
來自業界專家的真實世界專案
透過與頂尖公司合作的真實世界專案和沉浸式內容，你將掌握公司需要的技術技能。
技術指導員支援
我們知識淵博的導師指導你的學習，並專注於回答你的問題，激勵你並使你保持在正軌上。
職涯發展服務
你將有機會獲得履歷支援、Github 作品組合審查和 LinkedIn 個人資料最佳化，以幫助你推進你的職業生涯並獲得高薪職位。
靈活的學習計劃
定製適合你繁忙生活的學習計劃。按照你自己的節奏學習，在最適合你的時間表上達到你的個人目標。
教學方案提供以下服務
課程內容
- 真實世界的專案
- 專案審查
- 來自經驗豐富的審查員的專案反饋
學生服務
- 技術指導員支援
- 學生社群
職涯發展服務
- 履歷支援
- Github 審查
- Linkedin 個人資料最佳化
透過個性化的服務獲得成功
透過個人化的服務獲得成功
我們在你學習旅程的每一步都為你的需求提供定製服務，以確保你的成功!
有經驗的專案審查者
專案審查者的服務
- 個人化的回饋
- 無限的提交和回饋迴圈
- 實用技巧和業界最佳實踐
- 額外的建議資源以改善
技術導師( mentor )支援
導師服務
- 為你的所有技術問題提供支援
- 由我們的技術導師團隊快速回答問題
點入看到的$為當地幣值
也許你會有興趣
- LLM 相關線上課程
- ★英語學習地圖 – 練好英文是最大的學習槓桿
- 如何找工作學習地圖 – 找工作不要靠運氣！
- 從 Soft & Share 各種社團頻道挑選你喜歡的加入
發表迴響