奈米學位學習方案 – 深度學習

Contents

課程簡介

學習利用深度學習工具的功能來解決複雜問題並為企業解鎖更高水平的成果。

Udacity奈米學位介紹

預估完成時間：4 個月

你將學習到

加入下一代深度學習人才的行列，這將有助於為我們的世界定義一個非常有益的 AI 驅動的未來。在本課程中，您將學習神經網路、卷積神經網路( CNN )、遞歸神經網路( RNN )和生成對抗網路( GAN )等尖端主題。

課程事先準備

學習者應熟悉以下主題：

According to indeed.com, the average salary for a deep learning engineer is $132,570 per year in the US.

課程內容

深度學習簡介

從學習深度學習的基礎知識開始。然後研究支撐現代深度學習的基礎演算法：梯度下降( gradient descent )和反向傳播( backpropagation )。建立這些基礎後，探索神經網路的設計結構以及這些設計決策的影響。最後，本課程探討如何優化神經網路訓練以提高準確性和穩健性。

專案：Developing a Handwritten Digits Classifier with PyTorch

在本專案中，您將使用 PyTorch 開發一個手寫數字識別系統。然後，使用資料預處理技能適當地載入資料以用於模型。使用 PyTorch 開發神經網路並編寫訓練迴圈以使用加載的資料訓練模型。最後，應用高級訓練技術來提高測試集的準確性。

卷積神經網路

本課程介紹卷積神經網路( Convolutional Neural Networks，CNN )，這是專門用於圖像處理的最廣泛使用的神經網路類型。您將了解 CNN 的主要特徵，這些特徵使它們在圖像處理方面優於標準神經網路。然後，您將檢查 CNN 的內部工作原理，並使用遷移學習( transfer learning )將架構應用於自定義資料集。最後，您將學習如何使用 CNN 進行物件檢測( object detection )和語義分割( semantic segmentation )。

專案：Landmark Classification and Tagging for Social Media

在此專案中，您將構建模型以根據圖像中描繪的任何地標自動預測圖像的位置。您將端到端地完成機器學習設計過程：執行資料預處理、設計和訓練 CNN、比較不同 CNN 的準確性，以及根據您訓練的最佳 CNN 部署應用程式。

RNN 和 Transformers( 變換器 )

本課程涵蓋多個 RNN( Recurrent Neural Networks ) 架構並討論這些模型的設計模式。此外，您將專注於最新的 transformer 架構。

專案 : LSTM Seq2Seq Chatbot

在此專案中，學習如何使用 LSTM、Seq2Seq 和詞嵌入構建 AI 聊天機器人以提高準確性。您將使用會話對話資料集來複製會話能力。完成以下步驟：使用 Pytorch 編寫神經網路架構，使用資料集對其進行訓練，並調整網絡超參數以提高準確性。最後，您將通過在命令行與他們的聊天機器人交談，向潛在雇主展示您在深度學習方面的熟練程度。

建立生成對抗網路

通過學習如何建構和訓練不同的 GAN 架構來生成新圖像，熟悉生成對抗網路 (Generative Adversarial Networks，GAN)。在各種資料集（包括 MNIST 資料集、Summer2Winter Yosemite 資料集或 CelebA 資料集）上發現、建構和訓練架構，例如 DCGAN、CycleGAN、ProGAN 和 StyleGAN。

專案：Face Generation

在此專案中，您將利用在課程中學到的不同技能，在 CelebA 資料集上建構和訓練自定義 GAN 架構。特別是，您必須構建自定義 GAN 架構，包括生成器和鑑別器。您還將試驗在課程中發現的不同損失函數，例如二元交叉熵損失或 Wasserstein 損失。最後，利用一些學到的方法來穩定訓練，例如標籤平滑( label smoothing )。