Soft & Share 開源報報 179 – 使用視覺化和動畫來解釋 GPT3 的運作原理

學習資源

Haskell 基礎教學的程式碼和練習

• https://github.com/raviksharma/bartosz-basics-of-haskell

來自 Bartosz Milewski 的 Haskell 基礎教學的程式碼和練習

全面的深度學習/人工智慧和機器學習教學

• https://github.com/TarrySingh/Artificial-Intelligence-Deep-Learning-Machine-Learning-Tutorials

全面的深度學習/人工智慧和機器學習教學-迅速擴充到 ai/深度學習/機器視覺/NLP 和特定行業的領域，如氣候/能源、汽車、零售、製藥、醫藥、醫療保健、政策、道德等。

「我將每天更新這個教程網站，新增所有相關的主題，包括來自網際網路的最新研究論文，如 arxiv. org，BIORXIV ——特別是神經科學等等。更重要的是，機器學習/dl/人工智慧在運輸、醫療保健等領域的應用將是我非常感興趣的課題，我也很樂意與你分享。」

工具

從單一來源的配置為多個平台建立相同的機器映像檔工具

• https://github.com/hashicorp/packer

Packer 是輕量級的，執行在每個主要的作業系統上，並且具有高效能，為多個平台並行建立機器映像檔。Packer 使用開箱即用( out of box )支援許多平台，其中的完整名單可以在 https://www.Packer.io/docs/builders/index.html 查看。

可以通過外掛新增對其他平台的支援。

Packer 創造的映像檔可以很容易地變成 Vagrant box 。

Web 應用程式開發

一個專業設計的集合，UI 元件建立在一個框架無關的技術上

• https://github.com/shoelace-style/shoelace

一個前瞻性的 web 元件庫。

• 可與所有框架協同運作
• 可與 CDNs 運作
• 完全可以客製化的 CSS
• 開源

用程式碼製作的幾何無襯線字體

• https://github.com/cmiscm/leonsans

2019年由 Jongmin Kim 用程式碼製作的幾何無襯線字體。它允許動態更改字型的權重，並在 HTML5的 Canvas 元素中建立自定義動畫、效果或形狀。他設計這個字型是為了慶祝他的新生兒里昂。

新的 NodeJS 的端到端測試框架

• https://github.com/codeceptjs/CodeceptJS

CodeceptJS 是一個新的測試框架，用於使用 WebDriver (或其他)進行端到端測試。它將瀏覽器互動抽象為從使用者角度編寫的簡單步驟。

為什麼使用 CodeceptJS？

CodeceptJS 是 Codeception（一種流行的PHP全端測試框架）的後繼產品。 使用CodeceptJS，你可以根據情境驅動(scenario-driven)功能和驗收測試，從而使其儘可能簡單，簡潔。 你無需擔心NodeJS的非同步特性，也不必擔心Selenium，Puppeteer，Protractor，TestCafe等各種API，因為 CodeceptJS 統一了它們並使它們在同步時可以工作。

資料科學

使用視覺化和動畫來解釋 GPT3 的運作原理

• https://jalammar.github.io/how-gpt3-works-visualizations-animations/

這篇文章使用圖文並茂的方式來解釋 GPT3 的運作原理

一種解釋任意機器學習模型輸出的博弈論方法

• https://github.com/slundberg/shap

SHAP(SHapley 附加解釋)是一種解釋任何機器學習模型輸出的博弈論方法。它使用博弈論中的經典 Shapley 值及其相關擴充套件(詳見論文和引文)將最優信貸分配與官方解釋聯絡起來。

一個自動化機器學習生命週期的開源 AutoML 工具套件，包括特徵工程，神經結構搜尋，模型壓縮和超參數調整。

• https://github.com/microsoft/nni

NNI (神經網路智慧)是一個輕量級但強大的工具套件，可以幫助使用者自動化特徵工程，神經結構搜尋，超引數調整和模型壓縮。

該工具管理自動化機器學習(automatic Machine learning，automatic)實驗，排程和執行實驗的試驗作業，這些試驗作業是通過調整演算法生成的，以便在不同的訓練環境中搜索最佳的神經結構和/或超參數，如本地機器、遠端伺服器、 OpenPAI、 Kubeflow、 K8S (AKS 等)、 DLWorkspace (aka)等。DLTS)、 AML (Azure 機器學習)和其他雲端選項。

雲端和網路管理

受 Prometheus 啟發的水平可伸縮的、高可用的、多用戶的日誌聚合系統。

• https://github.com/grafana/loki

它的設計非常具有成本效益和易於操作。它不索引日誌的內容，而是索引每個日誌串流的一組標籤。

與其他日誌聚合系統相比，Loki:

• 不會對日誌進行全文索引。透過儲存壓縮的、非結構化的日誌，只索引元資料，Loki 操作更簡單，執行成本也更低
• 索引和群組日誌串流使用與 Prometheus 相同的標籤，使你能夠使用與 Prometheus 相同的標籤在度量和日誌之間無縫切換
• 特別適合儲存Kubernetes Pod 日誌。諸如 Pod 標籤之類的元資料被自動爬取並編入索引
• 在 Grafana 得到了原生支援(需要 Grafana v6.0)

直接從 Docker 部署到 AWS 的外掛工具

• https://github.com/docker/ecs-plugin

為開發人員提供從桌面到雲端使用 Compose 的力量和簡單性。Docker 正在擴充我們與 Amazon 的策略合作伙伴關係，並將你已經知道並喜歡的 Docker 體驗與 AWS Fargate 的 Amazon 彈性容器服務(ECS)整合在一起。直接從 Docker 部署到 AWS 從來沒有這麼容易過。

這是在 AWS 雲容器會議2020上宣佈的，請參考這篇 blog – From Docker Straight to AWS

程式設計語言/程式庫

微服務的 Go 標準程式庫

• https://github.com/go-kit/kit

Go kit 是一個程式設計工具套件，用於在 Go 中建構微服務(或優雅的單體程式)。我們解決了分散式系統和應用程式架構中的常見問題，因此您可以專注於交付業務價值。

區塊鏈

用於安全智能合約開發的程式庫

• https://github.com/OpenZeppelin/openzeppelin-contracts

• 標準的實現，如 ERC20 20 及ERC721.
• 彈性的基於角色的權限 scheme. 方案
• 可重複使用Solidity 元件建立客製化合約和複雜的分散系統
• 與Gas Station Network一流的整合，不需要 gas 費用的系統
• 由主要安全公司稽核(對 v2.0.0的最後一次全面稽核).

嵌入式系統

為物聯網簡化建構行動和 Web 應用程式一個物聯網平台

• https://github.com/blynkkk/blynk-server

可以在5分鐘內輕鬆連線400多個硬體模型，如 Arduino、 ESP8266、 ESP32、 Raspberry Pi 和類似的 mcu

是一個有 iOS 和 Android 應用程式的平台，可以在網際網路上控制 Arduino、 ESP8266、 Raspberry Pi 等等。通過簡單地拖放小部件，你可以輕鬆地為所有專案構建圖形介面。