深度學習 : GANs 和變分自編碼器( VAE )

Contents

Python、Theano 和 Tensorflow 的生成對抗網路 ( GAN，Generative Adversarial Network) 和變分自編碼器( VAE，Variational Autoencoders)

課程介紹影片

從這 7.5 小時的課程，你會學到

了解生成模型( generative models )的基本原理
在 Theano 和 Tensorflow 中建構一個變分自動編碼器( VAE )
在 Theano 和 Tensorflow 中建構一個 GAN（Generative Adversarial Network，生成對抗網路）

要求

知道如何在 Theano和/或 Tensorflow 中建立神經網路
機率學
多變數微積分
Numpy 等等

課程說明

最近，變分自動編碼器( VAE )和 GAN 已成為深度學習和機器學習中最有趣的兩項發展。

深度學習先鋒 Yann LeCun 曾表示，近年來最重要的發展是對抗訓練( adversarial training )，指的是GAN。

GAN 代表生成對抗網路( generative adversarial network )，讓 2 個神經網路彼此競爭。

什麼是無監督學習？

無監督學習意味著我們不是試圖將輸入資料映射到目標，我們只是試圖了解輸入資料的結構。

一旦我們了解了結構，我們可以做一些非常酷的事情。

一個例子就是生成詩歌 – 我們已經在過去做過這方面的例子。

但詩歌是一個非常具體的東西，如果我們做一般的寫作又如何呢？

如果我們可以學習語言的結構，我們可以生成任何類型的文本。事實上，大公司正在投入大量資金研究機器如何寫新聞。

可是如果我們回到詩歌並拿走這些字呢？

那麼我們通常會得到藝術品。

通過學習藝術的結構，我們可以創造更多的藝術。

做聲音的藝術如何？

如果我們學習音樂的結構，我們可以創造新的音樂。

想像一下你在收音機裡聽到的排行榜前 40 首歌是由機器人做的，不是人類寫的歌曲。

你可以無止境地發想任何可能性！

你可能會想，“這個課程與第一個無監督的深度學習( Unsupervised Deep Learning in Python)課程有什麼不同？”

在這第一門課程中，我們仍然試圖學習資料的結構，但原因不同。

我們想要學習資料的結構，以改善監督培訓，我們證明這是可能的。

在這個新課程中，我們想要了解資料的結構，以便生成更多類似於原始資料的內容。

這本身非常酷，但我們也將融合貝葉斯機器學習(Bayesian Machine Learning )、強化學習( Reinforcement Learning, )和博弈理論( Game Theory)的想法。這使它更酷！

感謝閱讀，我會在課堂上見到你。=）

注意：

所有的課程代碼都可以從我的github下載：

/ lazyprogrammer/ machine_learning_examples

在目錄中：unsupervised_class3

確保你總是用“ git pull ”，如此你總是拿到最新版本！

必要先決條件/知識：

微積分
機率
物件導向程式設計
寫 Python 程式 : if/else、loops、 lists、dicts、sets
寫 Numpy 程式 : 矩陣和向量運作
線性迴歸
梯度下降
了解在 Theano 與 TensorFlow 如何建立前饋、卷積神經網路

提示(通過課程)：

以 2x 觀看。
拿手寫筆記。這將大大增加你記住訊息的能力。
寫下方程。如果你不這樣做，我保證它看起來像亂碼。
在討論板上提出許多問題。越多越好！
意識到大多數練習將需要幾天或幾週才能完成。
自己編寫程式碼，不要只是坐在那裡看我寫程式。

修課順序

查看講座 “ What order should I take your courses in?” （可在我的任何課程的附錄中找到，包括免費的 Numpy 課程）

目標受眾

任何想提高深度學習知識的人

講師簡介

Lazy Programmer Inc 資料科學家和大數據工程師 ( 更多講師主講課程介紹 )

我是一名資料科學家、大數據工程師和全端軟體工程師。

我有電腦工程的碩士，專長為機器學習和模式辨識。

我曾在網路廣告和數位媒體企業擔任過資料科學家和大數據工程師，圍繞所謂的資料建構各種高流量的 web 服務。我曾經使用 Hadoop / Pig / MapReduce 創建新的大數據管道，也曾建立機器學習模型來預測點擊率，使用線性迴歸、Bayesian Bandits 和協同過濾 ( collaborative filtering )建立新聞推薦系統，並使用A / B測試驗證結果。

我曾在大學部與研究所教授資料科學、統計學、機器學習、演算法、微積分、電腦圖學和物理學，任職的學校如哥倫比亞大學、紐約大學、Hunter 學院和 The New School。

有多家企業已從我的 Web 程式設計專業知識中受益。我做所有的後端(伺服器)、前端（HTML / JS / CSS）和運營/佈署工作。我使用的技術包含：Python、Ruby / Rails、PHP、Bootstrap、jQuery（Javascript）、Backbone 和 Angular。至於儲存/資料庫，我採用 MySQL、Postgres、Redis、MongoDB等。