2025 使用 FastAPI 和 Docker 在生產中部署 ML 模型

在 AWS 上使用 Streamlit、FastAPI 和 Docker 部署包含 ViT、BERT 和 TinyBERT HuggingFace Transformers 的機器學習( ML )模型

從這 18 小時的課程，你會學到

使用 FastAPI 部署機器學習模型：學習建置和部署 RESTful API 以有效地提供 ML 模型。
掌握使用 AWS 的基於雲端的 ML 部署：獲得在 AWS EC2 和 S3 上部署、管理和擴展 ML 模型的實務經驗。
使用 Boto3 和 Python 自動化 ML 操作：使用 Boto3 自動化雲端任務，例如實例建立、資料儲存和安全性配置。
使用 Docker 將 ML 應用程式容器化：建置和管理 Docker 容器，以確保跨環境的一致且可擴展的 ML 部署。
使用即時 API 簡化模型推理：開發高效能 API，為生產級應用程式提供快速且準確的預測。
優化生產的機器學習管道：使用最佳實踐，設計和實施從資料提取到模型部署的端到端 ML 管道。
實施安全且可擴展的 ML 基礎架構：學習將安全協定和可擴充性功能整合到基於雲端的 ML 部署中。
使用 Streamlit 建立互動式 Web 應用程式：建置和部署可存取且使用者友好的互動式 ML 驅動的 Web 應用程式。
為 NLP 和電腦視覺部署 Transformers：微調並部署 TinyBERT 和 Vision Transformers 以進行情緒分析、災難推文和影像。
監控和維護生產中的 ML 模型：實施監控、A/B 測試和偏差檢測，以確保您的模型在生產中保持可靠和有效。

要求

NLP入門知識
熟悉 Python、Keras 和 TensorFlow 2
基礎初等數學

課程說明

歡迎使用 FastAPI、AWS、Docker 和 NGINX 進行生產級 ML 模型部署！

透過我們的綜合課程「使用 FastAPI、AWS、Docker 和 NGINX 進行生產級 ML 模型部署」釋放無縫 ML 模型部署的強大功能。本課程專為準備將其模型從開發轉向生產的資料科學家、機器學習工程師和雲端從業者而設計。您將獲得在現實環境中部署、擴展和管理機器學習模型所需的技能，確保它們穩健、可擴展且安全。

您將學到什麼：

使用 FastAPI 簡化 ML 操作：掌握使用 FastAPI（成長最快的 Web 框架之一）提供機器學習模型的藝術。學習建立強大的 RESTful API，以促進快速且有效率的模型推理，確保您的 ML 解決方案既可存取又可擴充。
利用 AWS 的強大功能實現可擴充部署：利用 EC2、S3、ECR 和 Fargate 等 AWS 服務在雲端部署和管理您的 ML 模型。獲得使用 Boto3 自動化部署、將模型與 AWS 基礎設施整合以及確保其安全、可靠且經濟高效的實務經驗。
使用 Docker 容器化您的應用程式：探索 Docker 容器化您的 ML 應用程式的靈活性。了解如何建置、部署和管理 Docker 容器，確保您的模型在從開發到生產的不同環境中一致運作。
建置和部署端對端 ML 管道：透過建置端對端機器學習管道來了解 ML Ops 的複雜性。探索資料管理、模型監控、A/B 測試等，確保您的模型在生命週期的每個階段都發揮最佳效能。
使用 Boto3 自動部署：使用 Python 和 Boto3 自動部署您的 ML 模型。從啟動 EC2 執行個體到管理 S3 儲存桶，簡化雲端操作，讓您的部署更快、更有效率。
使用 NGINX 擴展 ML 模型：學習使用 NGINX 和 Docker-Compose 跨多個實例擴展 ML 應用程式，確保生產中的高可用性和效能。
使用 AWS Fargate 部署無伺服器 ML 模型：深入了解使用 AWS Fargate 進行無伺服器部署，並了解如何使用 AWS ECR 和 ECS 為可擴展的無伺服器應用程式打包、部署和管理 ML 模型。
真實世界的 ML 使用案例：透過部署情緒分析、災難推文分類和人體姿勢估計模型，將您的知識應用到真實世界場景中。使用尖端的變壓器和電腦視覺技術，您將獲得將人工智慧帶入生活的實務經驗。
使用 Streamlit 部署互動式 ML 應用程式：使用 Streamlit 建立和部署互動式 Web 應用程式。將由 FastAPI 驅動的模型整合到用戶友好的介面中，使非技術用戶也可以使用您的 ML 解決方案。
監控和最佳化生產 ML 模型：實施負載測試、監控和效能最佳化技術，以確保您的模型在生產環境中保持可靠和高效。

為什麼選擇這門課？

在當今快節奏的科技領域，將機器學習模型部署到生產中的能力是一項備受追捧的技能。本課程將最新技術 – FastAPI、AWS、Docker、NGINX 和 Streamlit – 結合成一個強大的學習之旅。無論您是想提升職業水平還是增強技能，本課程都能為您提供部署、擴展和管理生產級 ML 模型所需的一切。

完成本課程後，您將擁有部署機器學習模型的專業知識，這些模型不僅有效，而且可擴展、安全，並可在實際環境中投入生產。加入我們，邁出機器學習之旅的下一步！

目標受眾

希望獲得設定和配置端到端機器學習生產流程實務經驗的機器學習( ML )工程師。
資料科學家和機器學習工程師：希望提高使用 FastAPI、AWS 和 Docker 在生產環境中部署機器學習模型的技能的專業人士。
雲端工程師和 DevOps 專業人員：想要掌握基於雲端的部署、自動化 ML 管道和管理 AWS 上可擴展基礎架構的個人。
軟體開發人員和工程師：有興趣將機器學習模型整合到應用程式和服務中的開發人員，重點是 API 開發和容器化。
人工智慧愛好者和實踐者：任何對人工智慧和機器學習充滿熱情並希望獲得將模型從開發到部署的實踐經驗的人。
轉型為 ML Ops 的技術專業人員：轉型為機器學習營運 (ML Ops) 的 IT 專業人員或開發人員，他們需要生產級部署和自動化工具的實踐知識。

講師簡介

Laxmi Kant | KGP Talkie 資料科學助理副總裁加入 Ventures |印度理工學院 Kharagpur 分校 | KGPTalkie

我是 Join Ventures 的資料科學助理副總裁，並且擁有博士學位。印度理工學院（IIT） Kharagpur 分校學者。我還共同創立了一家公司，mBreath Technologies。我在資料科學、團隊管理、業務開發和客戶分析方面擁有 8 年以上經驗。我曾與新創公司和跨國公司合作。您可以加入我的 YouTube 頻道 KGPTalkie。