前言第1章 大語(yǔ)言模型概述 11.1 大語(yǔ)言模型的特點(diǎn) 21.1.1 關(guān)鍵技術(shù) 21.1.2 規(guī)模和參數(shù) 51.1.3 自監(jiān)督學(xué)習(xí) 81.1.4 泛化能力 101.1.5 模型生成 141.2 大語(yǔ)言模型的發(fā)展現(xiàn)狀和未來(lái)展望 171.2.1 發(fā)展現(xiàn)狀 171.2.2 未來(lái)展望 201.2.3 大語(yǔ)言模型在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用 231.3 大語(yǔ)言模型常見(jiàn)安全威脅 251.3.1 內(nèi)部安全威脅 251.3.2 外部安全威脅 311.3.3 隱私保護(hù) 331.3.4 傳統(tǒng)安全威脅 351.4 本章小結(jié) 371.5 思考與練習(xí) 37第2章 深度學(xué)習(xí)基礎(chǔ) 392.1 深度學(xué)習(xí)相關(guān)概念 402.1.1 深度學(xué)習(xí)簡(jiǎn)介 402.1.2 神經(jīng)網(wǎng)絡(luò)的基本構(gòu)成 412.1.3 損失函數(shù)及其優(yōu)化 422.1.4 卷積神經(jīng)網(wǎng)絡(luò) 432.1.5 循環(huán)神經(jīng)網(wǎng)絡(luò) 452.2 注意力機(jī)制和Transformer模型 462.2.1 注意力機(jī)制的基本概念 462.2.2 注意力機(jī)制的變體及其應(yīng)用 472.2.3 Transformer模型 522.2.4 位置編碼 522.2.5 Transformer模型的訓(xùn)練 532.3 大規(guī)模預(yù)訓(xùn)練 532.3.1 大規(guī)模預(yù)訓(xùn)練概述 532.3.2 預(yù)訓(xùn)練任務(wù) 542.3.3 預(yù)訓(xùn)練中的優(yōu)化技術(shù) 562.3.4 GPT模型的演化 562.4 指令微調(diào)和提示學(xué)習(xí) 572.4.1 指令微調(diào)概念 572.4.2 微調(diào)策略與技巧 602.4.3 提示學(xué)習(xí)入門(mén) 612.4.4 有效提示設(shè)計(jì)的原則 622.5 檢索增強(qiáng)生成技術(shù) 632.5.1 檢索增強(qiáng)生成技術(shù)概述 632.5.2 檢索增強(qiáng)生成技術(shù)流程 642.5.3 主流的檢索增強(qiáng)生成技術(shù) 652.5.4 檢索增強(qiáng)生成技術(shù)未來(lái)發(fā)展方向 682.6 本章小結(jié) 702.7 思考與練習(xí) 70第3章 多模態(tài)大語(yǔ)言模型 713.1 多模態(tài)大語(yǔ)言模型概述 713.1.1 多模態(tài)大語(yǔ)言模型基本架構(gòu) 723.1.2 多模態(tài)大語(yǔ)言模型關(guān)鍵技術(shù) 733.1.3 多模態(tài)大語(yǔ)言模型的未來(lái)發(fā)展方向 793.2 圖片多模態(tài)大語(yǔ)言模型 803.2.1 Vision Transformer 803.2.2 CLIP 813.2.3 BLIP 823.2.4 BLIP-2 823.2.5 LLaVA 833.2.6 InstructBLIP 843.2.7 Qwen-VL 843.2.8 CogVLM 853.3 音頻多模態(tài)大語(yǔ)言模型 863.3.1 SALMONN 863.3.2 MACAW-LLM 863.3.3 Qwen-Audio 873.3.4 AnyGPT 873.4 視頻多模態(tài)大語(yǔ)言模型 883.4.1 Video-ChatGPT 883.4.2 VideoChat 893.4.3 Chat-Univi 893.4.4 InternLM-XComposer 903.4.5 VideoLLaMA2 913.4.6 VILA 923.5 本章小結(jié) 933.6 思考與練習(xí) 93第4章 大語(yǔ)言模型微調(diào) 944.1 構(gòu)建微調(diào)數(shù)據(jù) 954.1.1 基于自然語(yǔ)言處理數(shù)據(jù)集構(gòu)建數(shù)據(jù) 964.1.2 基于大語(yǔ)言模型構(gòu)建數(shù)據(jù) 1014.2 參數(shù)高效微調(diào) 1074.2.1 增量微調(diào) 1074.2.2 選擇性微調(diào) 1114.2.3 重參數(shù)化微調(diào) 1124.3 本章小結(jié) 1164.4 思考與練習(xí) 117第5章 行業(yè)大語(yǔ)言模型 1185.1 行業(yè)場(chǎng)景下的大語(yǔ)言模型應(yīng)用 1195.1.1 醫(yī)療場(chǎng)景下的大語(yǔ)言模型 1195.1.2 教育場(chǎng)景下的大語(yǔ)言模型 1215.1.3 法律場(chǎng)景下的大語(yǔ)言模型 1225.1.4 金融場(chǎng)景下的大語(yǔ)言模型 1245.1.5 科研場(chǎng)景下的大語(yǔ)言模型 1245.2 行業(yè)大語(yǔ)言模型繼續(xù)預(yù)訓(xùn)練技術(shù) 1255.3 本章小結(jié) 1275.4 思考與練習(xí) 128第6章 大語(yǔ)言模型的內(nèi)部安全威脅 1296.1 大語(yǔ)言模型的毒性與偏見(jiàn) 1306.1.1 毒性與偏見(jiàn)定義 1306.1.2 檢測(cè)與評(píng)估方法 1316.2 安全對(duì)齊方法 1326.2.1 基于指令微調(diào)的安全對(duì)齊方法 1326.2.2 人類(lèi)反饋強(qiáng)化學(xué)習(xí)的安全對(duì)齊技術(shù) 1356.2.3 兩種安全對(duì)齊技術(shù)對(duì)比 1386.3 越獄 1396.3.1 越獄的定義 1396.3.2 常見(jiàn)的越獄攻擊方法 1396.3.3 越獄防御策略 1406.4 幻覺(jué) 1416.4.1 幻覺(jué)的定義 1416.4.2 幻覺(jué)成因分析 1426.4.3 幻覺(jué)檢測(cè)與評(píng)估 1436.4.4 緩解幻覺(jué)的策略 1446.5 模型可解釋性與安全 1466.5.1 可解釋性的定義與意義 1466.5.2 模型可解釋性技術(shù) 1466.5.3 可解釋性在模型內(nèi)部安全中的應(yīng)用 1476.5.4 局限性與挑戰(zhàn) 1486.6 對(duì)抗性攻擊與防御 1496.6.1 對(duì)抗性攻擊的概念與類(lèi)型 1496.6.2 常見(jiàn)的對(duì)抗性攻擊方法 1496.6.3 對(duì)抗性防御策略 1506.6.4 局限性與挑戰(zhàn) 1506.7 本章小結(jié) 1516.8 思考與練習(xí) 151第7章 大語(yǔ)言模型的外部安全威脅 1527.1 對(duì)抗樣本攻擊 1537.1.1 對(duì)抗樣本攻擊的概念 1537.1.2 對(duì)抗樣本生成方法 1547.1.3 對(duì)抗樣本攻擊對(duì)模型的影響 1567.1.4 對(duì)抗樣本攻擊的防御 1577.2 數(shù)據(jù)投毒 1597.2.1 數(shù)據(jù)投毒的概念 1597.2.2 數(shù)據(jù)投毒的常見(jiàn)方式 1607.2.3 數(shù)據(jù)投毒的典型案例 1617.2.4 數(shù)據(jù)投毒的檢測(cè)與防御 1637.3 后門(mén)攻擊 1657.3.1 后門(mén)攻擊的概念 1657.3.2 后門(mén)攻擊的方式與原理 1667.3.3 后門(mén)攻擊的典型案例 1677.3.4 大模型后門(mén)攻擊的檢測(cè)與防御 1687.4 提示詞注入攻擊 1717.4.1 提示詞注入攻擊的概念 1717.4.2 提示詞注入攻擊的方式與原理 1717.4.3 提示詞注入攻擊的典型案例 1737.4.4 提示詞注入攻擊的檢測(cè)與防御 1747.5 本章小結(jié) 1787.6 思考與練習(xí) 179第8章 大語(yǔ)言模型的隱私保護(hù) 1808.1 大語(yǔ)言模型作為隱私攻擊者和保護(hù)者 1818.1.1 大語(yǔ)言模型作為隱私攻擊者 1818.1.2 大語(yǔ)言模型作為隱私保護(hù)者 1828.2 大語(yǔ)言模型隱私攻擊 1848.2.1 被動(dòng)隱私泄露 1848.2.2 主動(dòng)隱私攻擊 1868.3 大語(yǔ)言模型隱私保護(hù) 1888.3.1 預(yù)訓(xùn)練中的隱私保護(hù) 1888.3.2 微調(diào)階段的隱私保護(hù) 1938.3.3 推理階段的隱私保護(hù) 1968.4 本章小結(jié) 2018.5 思考與練習(xí) 201附錄 縮略語(yǔ) 203參考文獻(xiàn) 207