第 1章 理解大語(yǔ)言模型 1

1.1 什么是大語(yǔ)言模型 2

1.2 大語(yǔ)言模型的應(yīng)用 3

1.3 構(gòu)建和使用大語(yǔ)言模型的各個(gè)階段 4

1.4 Transformer架構(gòu)介紹 6

1.5 利用大型數(shù)據(jù)集 9

1.6 深入剖析GPT架構(gòu) 11

1.7 構(gòu)建大語(yǔ)言模型 13

1.8 小結(jié) 14

第 2章 處理文本數(shù)據(jù) 15

2.1 理解詞嵌入 16

2.2 文本分詞 18

2.3 將詞元轉(zhuǎn)換為詞元ID 21

2.4 引入特殊上下文詞元 25

2.5 BPE 29

2.6 使用滑動(dòng)窗口進(jìn)行數(shù)據(jù)采樣 31

2.7 創(chuàng)建詞元嵌入 37

2.8 編碼單詞位置信息 40

2.9 小結(jié) 44

第3章 編碼注意力機(jī)制 45

3.1 長(zhǎng)序列建模中的問(wèn)題 46

3.2 使用注意力機(jī)制捕捉數(shù)據(jù)依賴關(guān)系 48

3.3 通過(guò)自注意力機(jī)制關(guān)注輸入的不同部分 49

3.3.1 無(wú)可訓(xùn)練權(quán)重的簡(jiǎn)單自注意力機(jī)制 50

3.3.2 計(jì)算所有輸入詞元的注意力權(quán)重 54

3.4 實(shí)現(xiàn)帶可訓(xùn)練權(quán)重的自注意力機(jī)制 57

3.4.1 逐步計(jì)算注意力權(quán)重 58

3.4.2 實(shí)現(xiàn)一個(gè)簡(jiǎn)化的自注意力Python類 63

3.5 利用因果注意力隱藏未來(lái)詞匯 66

3.5.1 因果注意力的掩碼實(shí)現(xiàn) 67

3.5.2 利用dropout掩碼額外的注意力權(quán)重 70

3.5.3 實(shí)現(xiàn)一個(gè)簡(jiǎn)化的因果注意力類 72

3.6 將單頭注意力擴(kuò)展到多頭注意力 74

3.6.1 疊加多個(gè)單頭注意力層 74

3.6.2 通過(guò)權(quán)重劃分實(shí)現(xiàn)多頭注意力 77

3.7 小結(jié) 82

第4章 從頭實(shí)現(xiàn)GPT模型進(jìn)行文本生成 83

4.1 構(gòu)建一個(gè)大語(yǔ)言模型架構(gòu) 84

4.2 使用層歸一化進(jìn)行歸一化激活 89

4.3 實(shí)現(xiàn)具有GELU激活函數(shù)的前饋神經(jīng)網(wǎng)絡(luò) 94

4.4 添加快捷連接 99

4.5 連接Transformer塊中的注意力層和線性層 102

4.6 實(shí)現(xiàn)GPT模型 105

4.7 生成文本 110

4.8 小結(jié) 115

第5章 在無(wú)標(biāo)簽數(shù)據(jù)上進(jìn)行預(yù)訓(xùn)練 116

5.1 評(píng)估文本生成模型 117

5.1.1 使用GPT來(lái)生成文本 117

5.1.2 計(jì)算文本生成損失 119

5.1.3 計(jì)算訓(xùn)練集和驗(yàn)證集的損失 126

5.2 訓(xùn)練大語(yǔ)言模型 131

5.3 控制隨機(jī)性的解碼策略 137

5.3.1 溫度縮放 138

5.3.2 Top-k采樣 141

5.3.3 修改文本生成函數(shù) 142

5.4 使用PyTorch加載和保存模型權(quán)重 144

5.5 從OpenAI加載預(yù)訓(xùn)練權(quán)重 145

5.6 小結(jié) 152

第6章 針對(duì)分類的微調(diào) 153

6.1 不同類型的微調(diào) 154

6.2 準(zhǔn)備數(shù)據(jù)集 155

6.3 創(chuàng)建數(shù)據(jù)加載器 159

6.4 初始化帶有預(yù)訓(xùn)練權(quán)重的模型 163

6.5 添加分類頭 166

6.6 計(jì)算分類損失和準(zhǔn)確率 172

6.7 在有監(jiān)督數(shù)據(jù)上微調(diào)模型 176

6.8 使用大語(yǔ)言模型作為垃圾消息分類器 182

6.9 小結(jié) 184

第7章 通過(guò)微調(diào)遵循人類指令 185

7.1 指令微調(diào)介紹 186

7.2 為有監(jiān)督指令微調(diào)準(zhǔn)備數(shù)據(jù)集 187

7.3 將數(shù)據(jù)組織成訓(xùn)練批次 190

7.4 創(chuàng)建指令數(shù)據(jù)集的數(shù)據(jù)加載器 201

7.5 加載預(yù)訓(xùn)練的大語(yǔ)言模型 204

7.6 在指令數(shù)據(jù)上微調(diào)大語(yǔ)言模型 207

7.7 抽取并保存模型回復(fù) 211

7.8 評(píng)估微調(diào)后的大語(yǔ)言模型 216

7.9 結(jié)論 224

7.9.1 下一步 225

7.9.2 跟上領(lǐng)域的最新進(jìn)展 225

7.9.3 寫(xiě)在最后 225

7.10 小結(jié) 225

附錄A PyTorch簡(jiǎn)介 227

附錄B 參考文獻(xiàn)和延伸閱讀 263

附錄C 練習(xí)的解決方案 273

附錄D 為訓(xùn)練循環(huán)添加更多細(xì)節(jié)和優(yōu)化功能 285

附錄E 使用LoRA進(jìn)行參數(shù)高效微調(diào) 294

附錄F 理解推理大語(yǔ)言模型：構(gòu)建與優(yōu)化推理模型的方法和策略 308