電子書 - 建構大型語言模型 LLM（從頭開始）

透過從頭開始建立大型語言模型 (Large Language Models，LLM)了解如何建立、訓練和調整大型語言模型 (LLM)！

暢銷書作者 Sebastian Raschka 在《建立大型語言模型（從頭開始）》一書中逐步指導您創建自己的 LLM。每個階段都以清晰的文字、圖表和範例進行解釋。您將從最初的設計和創建，到對通用語料庫進行預訓練，再到針對特定任務的微調。

建立大型語言模型（從頭開始）教您如何：

規劃和編碼 LLM 的所有部分
準備適合 LLM 培訓的資料集
使用您自己的資料微調 LLM 以進行文字分類
使用人工回饋來確保您的 LLM 遵循指示
將預訓練權重載入到 LLM 中

建立大型語言模型（從頭開始）將帶您進入人工智慧黑盒子，修補為產生人工智慧提供動力的內部系統。當您完成 LLM 創建的每個關鍵階段時，您將深入了解 LLM 的工作方式、其局限性及其定製方法。您的 LLM 可以在普通筆記型電腦上開發，並用作您自己的私人助理。

關於此技術

據報道，物理學家理查德·P·費曼 (Richard P. Feynman) 曾說過：“我不明白任何我無法建造的東西。”基於同樣強大的原則，暢銷書作者 Sebastian Raschka 會一步步指導您建立可在筆記型電腦上運行的 GPT 風格的 LLM。這是一本引人入勝的書，涵蓋了從規劃和編碼到培訓和微調的過程的每個階段。

關於這本書

建構大型語言模型（從頭開始）是一次深入了解生成式人工智慧基礎的實用且非常令人滿意的實踐之旅。無需依賴任何現有的 LLM 庫，您將編寫一個基本模型，將其發展為文字分類器，並最終創建一個可以遵循您的對話指令的聊天機器人。你會真正理解它，因為它是你自己建構的！

內容包含

規劃並編寫與 GPT-2 相當的 LLM
載入預訓練的權重
建構完整的培訓管道
微調您的 LLM 以進行文本分類
發展遵循人類指令的 LLM

目標讀者

讀者需要中級 Python 技能和一些機器學習知識。您創建的 LLM 將在任何現代筆記型電腦上運行，並且可以選擇使用 GPU。

關於作者

Sebastian Raschka 十多年來一直致力於機器學習和人工智慧領域。 Sebastian 於 2022 年加入 Lightning AI，目前專注於人工智慧和 LLM 研究、開發開源軟體以及創建教育材料。在此之前，Sebastian 曾在威斯康辛大學麥迪遜分校擔任統計系助理教授，專注於深度學習和機器學習研究。他對教育充滿熱情，並以其關於使用開源軟體進行機器學習的暢銷書而聞名。

這本書的技術編輯是 David Caswell。