在您的系統上私密地運行自訂 LLM 模型 | 使用類似 ChatGPT 的介面 | 使用 Python 建立本機應用程式
從這 3 小時的課程,你會學到
- 在本機系統上安裝並設定 Ollama,即可私密地運行大型語言模型 (LLM)。
- 使用 Ollama 的選項和命令列工具,自訂 LLM 模型以滿足特定需求。
- 執行所有必要的終端命令,以控制、監控和排除 Ollama 模型的問題。
- 使用 Open WebUI 設定和管理類似 ChatGPT 的介面,從而在本地與模型進行互動。
- 部署 Docker 和 Open WebUI,以便在私人環境中運行、自訂和共用 LLM 模型。
- 利用不同的模型類型,包括文字模型、視覺模型和程式碼生成模型,滿足各種應用需求。
- 從 gguf 檔案建立自訂 LLM 模型,並將其整合到您的應用程式中。
- 使用 Ollama 的原生程式庫和 OpenAI API 相容性,建立與 Ollama 模型互動的 Python 應用程式。
- 透過將 Ollama 模型與 LangChain 集成,開發 RAG(檢索增強生成)應用程式。
- 在 Open WebUI 和 LangChain 環境中實現工具和代理,以增強模型互動,從而實現高級工作流程。
要求
建議具備基本的 Python 知識和能夠運行 Docker 和 Ollama 的計算機,但不需要任何人工智慧方面的經驗。
課程說明
您是否希望在自己的系統上建置和運行客製化的大型語言模型 (Large Language Models,LLM),而無需依賴雲端解決方案?您是否希望在利用類似 ChatGPT 的強大模型的同時,保護用戶隱私?如果您是開發人員、資料科學家或人工智慧愛好者,並希望創建本地 LLM 應用程序,那麼這門課程正是為您量身打造!
這門實作課程將帶您從 Ollama 的新手進階到專家,Ollama 是一個專為運行本地 LLM 模型而設計的平台。您將學習如何設定和自訂模型、建立類似 ChatGPT 的介面,以及使用 Python 建立私有應用程式——所有這些都可以在您自己的系統上輕鬆完成。
在本課程中,您將:
- 安裝並自訂 Ollama,用於本地 LLM 模型執行
- 掌握所有命令列工具,有效控制 Ollama
- 使用 Open WebUI 在您的系統上執行類似 ChatGPT 的介面
- 整合各種模型(文字、視覺、程式碼生成),甚至創建您自己的自訂模型
- 使用 Ollama 及其庫建立 Python 應用程式,並相容於 OpenAI API
- 利用 LangChain 增強您的 LLM 功能,包括檢索增強生成 (Retrieval-Augmented Generation,RAG)
- 部署工具和代理,以便在終端機和 LangChain 環境中與 Ollama 模型互動
這門課程為何如此重要?在隱私日益受到關注的今天,本地運行 LLM 可確保您的資料始終保留在您自己的電腦上。這不僅能提升資料安全性,還能讓您在無需外部依賴的情況下,針對特定任務自訂模型。
您將完成諸如建立自訂模型、為 Web 介面設定 Docker 以及開發基於您的資料擷取並回應使用者查詢的 RAG 應用程式等活動。每個章節都包含豐富的實際應用案例,讓您累積經驗並建立信心,從而建立自己的本地 LLM 解決方案。
為什麼選擇這門課?我專注於將高級 AI 主題變得實用且易於理解,並透過實作專案確保您不僅能學習知識,還能建立真正的解決方案。無論您是 LLM 新手還是希望深化技能,這門課程都能為您提供所需的一切。
準備好建立您自己的基於 LLM 的私有應用程式了嗎?立即報名,與 Ollama 一起掌控您的 AI 之旅!
目標受眾
- 希望在本地系統上私密構建和運行定制大型語言模型的 AI 愛好者。
- 尋求將大型語言模型整合到本機應用程式以增強功能的 Python 開發人員。
- 旨在創建安全、私密的 LLM 工具而無需依賴雲端解決方案的資料科學家。
- 希望使用 Ollama和LangChain 來探索和客製化開源模型的機器學習工程師。
- 希望使用本地資料開發 RAG(檢索增強生成)應用程式的技術專業人員。
- 注重隱私且對運行AI模型並完全掌控資料和環境感興趣的開發人員。
講師簡介
Start-Tech Academy 超過 500 萬名學員 | 4.5 顆星評分 | 涵蓋 160 多個國家/地區
Start-Tech Academy 是一家以技術為基礎的分析教育公司,旨在連結分析公司和對分析感興趣的學習者。
我們提供高品質的培訓內容,以及實習和專案機會,幫助學生開啟他們的分析之旅。
公司由 Abhishek Bansal 和 Pukhraj Parikh 創立。
Pukhraj 曾在分析顧問公司擔任專案經理,擁有多年分析工具和軟體的經驗。他精通 MS Office 套件、雲端運算、SQL、Tableau、SAS、Google Analytics 和 Python。
Abhishek 曾在一家領先的電信公司擔任收購流程負責人,之後轉向機器學習和人工智慧等技術的學習和教學。
字幕:英文
- 想要了解如何將英文字幕自動翻譯成中文? 請參考這篇 How-To
- Udemy 永久擁有課程 許多課程約 NT400 (點擊看更多)
- ✨年訂閱每月 NT350 🌈 (限 7/6~7/12 單月訂閱前三個月省 40% NT635 -> NT381 )悠遊 Udemy 的 26000+ 門課,最大化學習 ( 原價 NT635/月 )
- Udemy 現在越來越多課程有中文字幕,請參考 Soft & Share 中文線上課程
- 手機上點選優惠連結看到的價格比電腦上看到的貴
- $代表當地貨幣, 如在台灣為 NT
- 點選”報名參加課程”有可能因瀏覽器 cookies 轉久一點或回報錯誤而無法連上,請稍等刷新或重新點選就會出現
報名參加課程

也許你會有興趣
- LLM 相關線上課程
- ★英語學習地圖 – 練好英文是最大的學習槓桿
- 如何找工作學習地圖 – 找工作不要靠運氣!
- 從 Soft & Share 各種社團頻道挑選你喜歡的加入
發表迴響