本書開啟了探索大規(guī)模語言模型(Large Language Model，LLM)及其在人工智能(Artificial Intelligence，AI)領(lǐng)域所代表的變革性范式之旅。這本全面的指南可以幫助你深入了解基本概念，從這些前沿技術(shù)的堅(jiān)實(shí)理論基礎(chǔ)到大規(guī)模語言模型的實(shí)際應(yīng)用，最終匯聚到使用生成式人工智能解決方案時(shí)的倫理和責(zé)任考量。本書旨在幫助你深入了解市場上新興的大規(guī)模語言模型如何影響個(gè)人、大型企業(yè)乃至整個(gè)社會。本書重點(diǎn)介紹如何利用LangChain等新型人工智能編排器構(gòu)建由大規(guī)模語言模型驅(qū)動的強(qiáng)大應(yīng)用，并揭示現(xiàn)代應(yīng)用開發(fā)的新趨勢。
閱讀完本書后，相信你定能更輕松駕馭快速發(fā)展的生成式人工智能解決方案生態(tài)系統(tǒng)，并掌握在日常任務(wù)和業(yè)務(wù)中充分利用大規(guī)模語言模型的工具。讓我們開始吧！
本書讀者對象
本書主要面向有一定Python代碼基礎(chǔ)的技術(shù)讀者。但理論章節(jié)和實(shí)踐練習(xí)基于生成式人工智能基礎(chǔ)知識和行業(yè)用例，非技術(shù)讀者可能也會感興趣。
總之，本書適合有興趣全面了解大規(guī)模語言模型的讀者，可輔助其充滿信心和前瞻性地駕馭快速發(fā)展的人工智能領(lǐng)域。本書所呈現(xiàn)的內(nèi)容適合但不僅限于以下讀者。
●軟件開發(fā)人員和工程師：本書為希望利用大規(guī)模語言模型構(gòu)建應(yīng)用的開發(fā)人員提供了實(shí)用指導(dǎo)。內(nèi)容包括將大規(guī)模語言模型集成到應(yīng)用后端、API、架構(gòu)等。
●數(shù)據(jù)科學(xué)家：本書為有興趣將大規(guī)模語言模型部署到實(shí)際應(yīng)用中的數(shù)據(jù)科學(xué)家介紹了如何將模型從研究階段應(yīng)用到生產(chǎn)階段。內(nèi)容包括模型服務(wù)、監(jiān)控和優(yōu)化等方面。
●人工智能/機(jī)器學(xué)習(xí)工程師：專注于人工智能/機(jī)器學(xué)習(xí)應(yīng)用的工程師可以利用本書了解如何構(gòu)建和部署大規(guī)模語言模型，并將其作為智能系統(tǒng)和智能體的一部分。
●技術(shù)創(chuàng)始人/CTO：初創(chuàng)公司的創(chuàng)始人和CTO可以利用本書評估是否以及如何在其應(yīng)用和產(chǎn)品中使用大規(guī)模語言模型。本書在提供技術(shù)概述的同時(shí)，還考慮了業(yè)務(wù)因素。
●在校學(xué)生：學(xué)習(xí)人工智能、機(jī)器學(xué)習(xí)、自然語言處理(Natural Language Processing，NLP)或計(jì)算機(jī)科學(xué)的研究生和高年級本科生可以從本書中了解大規(guī)模語言模型在實(shí)踐中的應(yīng)用。
●大規(guī)模語言模型研究人員：研究新型大規(guī)模語言模型架構(gòu)、訓(xùn)練技術(shù)等的研究人員將深入了解真實(shí)世界中模型的用法和相關(guān)挑戰(zhàn)。
本書內(nèi)容
第1章介紹并深入探討大規(guī)模語言模型，這是生成式人工智能領(lǐng)域中一套強(qiáng)大的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)。本章不僅介紹了大規(guī)模語言模型概念，其與經(jīng)典機(jī)器學(xué)習(xí)模型的區(qū)別，以及相關(guān)術(shù)語，還討論了最流行的大規(guī)模語言模型采用的架構(gòu)，如何訓(xùn)練和使用大規(guī)模語言模型，并比較了基礎(chǔ)大規(guī)模語言模型與經(jīng)過微調(diào)的大規(guī)模語言模型。完成第1章的學(xué)習(xí)后，讀者便可了解什么是大規(guī)模語言模型及其在人工智能領(lǐng)域的定位，從而為后續(xù)章節(jié)的學(xué)習(xí)奠定基礎(chǔ)。
第2章探討大規(guī)模語言模型如何徹底改變軟件開發(fā)世界，從而引領(lǐng)人工智能驅(qū)動的應(yīng)用進(jìn)入新時(shí)代。本章可幫助讀者更清楚地了解如何借助目前人工智能開發(fā)市場上的新型人工智能編排器框架，將大規(guī)模語言模型嵌入不同的應(yīng)用場景中。
第3章重點(diǎn)介紹不同的大規(guī)模語言模型可能具有不同的架構(gòu)、規(guī)模、訓(xùn)練數(shù)據(jù)、功能和限制。為自己的應(yīng)用場景選擇合適的大規(guī)模語言模型并不是一件簡單的事情，畢竟它會對解決方案的性能、質(zhì)量和成本產(chǎn)生重大影響。這一章將介紹如何為應(yīng)用場景選擇合適的大規(guī)模語言模型，并討論市場上最有前景的大規(guī)模語言模型、比較大規(guī)模語言模型時(shí)使用的主要標(biāo)準(zhǔn)和工具，以及規(guī)模和性能之間進(jìn)行的各種權(quán)衡。閱讀完本章后，讀者便可清楚地了解如何為自己的應(yīng)用場景選擇合適的大規(guī)模語言模型，以及如何有效、負(fù)責(zé)任地使用它。
第4章介紹了在設(shè)計(jì)由大規(guī)模語言模型驅(qū)動的應(yīng)用時(shí)，提示工程是一項(xiàng)至關(guān)重要的活動，原因是提示對大規(guī)模語言模型的性能有很大影響。事實(shí)上，有幾種技術(shù)不僅可以重新微調(diào)大規(guī)模語言模型的響應(yīng)，還可以降低與幻覺和偏差相關(guān)的風(fēng)險(xiǎn)。這一章中介紹的提示工程領(lǐng)域采用的新興技術(shù)，更是涉及從基本方法到高級框架的描述。完成本章的學(xué)習(xí)后，讀者將具備為大規(guī)模語言模型驅(qū)動的應(yīng)用構(gòu)建功能強(qiáng)大的提示的能力，并為接下來的章節(jié)學(xué)習(xí)打下堅(jiān)實(shí)的基礎(chǔ)。
第5章討論隨著使用大規(guī)模語言模型開發(fā)的應(yīng)用的出現(xiàn)，軟件開發(fā)領(lǐng)域所引入的一系列新組件。為了更方便地在應(yīng)用流程中編排大規(guī)模語言模型及其相關(guān)組件，出現(xiàn)了幾個(gè)人工智能框架，其中LangChain是應(yīng)用最廣泛的框架之一。這一章將深入了解LangChain及其使用方法，學(xué)習(xí)如何通過Hugging Face Hub將開源大規(guī)模語言模型API調(diào)用到代碼中，并管理提示工程。完成本章的學(xué)習(xí)后，讀者將具備開始使用LangChain和開源Hugging Face模型開發(fā)由大規(guī)模語言模型驅(qū)動的應(yīng)用的技術(shù)基礎(chǔ)。
第6章開始介紹實(shí)踐部分，首次具體實(shí)現(xiàn)由大規(guī)模語言模型驅(qū)動的應(yīng)用。使用LangChain及其組件逐步實(shí)現(xiàn)會話應(yīng)用程序。配置一個(gè)簡單聊天機(jī)器人對應(yīng)的模式，添加記憶組件、非參數(shù)知識和工具，使聊天機(jī)器人智能體化。最后，用幾行代碼幫助讀者建立自己的會話應(yīng)用程序項(xiàng)目。
第7章探討了大規(guī)模語言模型如何利用嵌入和生成模型來增強(qiáng)推薦系統(tǒng)。將討論推薦系統(tǒng)的定義和演變，了解生成式人工智能如何影響這一研究領(lǐng)域，并講解如何使用LangChain來構(gòu)建推薦系統(tǒng)。最后，讀者將能夠創(chuàng)建自己的推薦應(yīng)用程序，并使用LangChain作為框架以利用最先進(jìn)的大規(guī)模語言模型。
第8章介紹大規(guī)模語言模型具有的一項(xiàng)強(qiáng)大功能：處理結(jié)構(gòu)化表格數(shù)據(jù)的能力。講解如何利用插件和智能體方法，將大規(guī)模語言模型用作與結(jié)構(gòu)化數(shù)據(jù)之間的自然語言接口，從而縮小業(yè)務(wù)用戶與結(jié)構(gòu)化信息之間的差距。為了演示這一點(diǎn)，將使用LangChain建立一個(gè)數(shù)據(jù)庫Copilot編程工具。最后，讀者將能夠?yàn)樽约旱臄?shù)據(jù)資產(chǎn)構(gòu)建一個(gè)自然語言接口，并將非結(jié)構(gòu)化數(shù)據(jù)和結(jié)構(gòu)化數(shù)據(jù)結(jié)合起來。
第9章涉及大規(guī)模語言模型具有的另一項(xiàng)強(qiáng)大功能：生成編程語言。在第8章中，當(dāng)要求大規(guī)模語言模型針對SQL數(shù)據(jù)庫生成SQL查詢時(shí)，這一能力的雛形就已漸顯。這一章將探討使用大規(guī)模語言模型生成代碼的其他方式，涵蓋從簡單的代碼理解和生成到使用算法來構(gòu)建應(yīng)用程序行為。最后，讀者將能夠?yàn)樽约旱木幋a項(xiàng)目構(gòu)建由大規(guī)模語言模型驅(qū)動的應(yīng)用，以及構(gòu)建帶有自然語言接口的大規(guī)模語言模型驅(qū)動的應(yīng)用，以便與代碼配合使用。
第10章超越了大規(guī)模語言模型的范疇，在構(gòu)建智能體時(shí)引入了多模態(tài)的概念。它涉及將不同人工智能領(lǐng)域(語言、圖像、音頻)的基礎(chǔ)模型組合成一個(gè)能勝任各種任務(wù)的單一智能體時(shí)背后所蘊(yùn)含的邏輯。其中還講解了如何使用LangChain，以便用單模態(tài)大規(guī)模語言模型來構(gòu)建多模態(tài)智能體。最后，讀者將能夠構(gòu)建自己的多模態(tài)智能體，并為其提供執(zhí)行各種人工智能任務(wù)時(shí)所需用到的工具和大規(guī)模語言模型。
第11章介紹了微調(diào)大規(guī)模語言模型的技術(shù)細(xì)節(jié)，涵蓋從其理論基礎(chǔ)到使用Python和Hugging Face的實(shí)際操作。將深入探討如何準(zhǔn)備數(shù)據(jù)，在數(shù)據(jù)上微調(diào)基礎(chǔ)模型，并討論微調(diào)模型的托管策略。最后，讀者將能夠在自己的數(shù)據(jù)上微調(diào)大規(guī)模語言模型，從而構(gòu)建由該大規(guī)模語言模型驅(qū)動的特定領(lǐng)域應(yīng)用。
第12章介紹了用于減輕大規(guī)模語言模型(以及一般人工智能模型)潛在危害所需具備的學(xué)科基礎(chǔ)知識，即負(fù)責(zé)任的人工智能。這一點(diǎn)非常重要，因?yàn)樵陂_發(fā)由大規(guī)模語言模型驅(qū)動的應(yīng)用時(shí)，大規(guī)模語言模型會帶來一系列新的風(fēng)險(xiǎn)和偏見。
接下來，將討論與大規(guī)模語言模型相關(guān)的風(fēng)險(xiǎn)，以及如何使用合適的技術(shù)來防止或至少降低這些風(fēng)險(xiǎn)。最后，你將對如何防止大規(guī)模語言模型使所構(gòu)建的應(yīng)用程序具有潛在危害性有更深入的了解。
第13章探討了生成式人工智能領(lǐng)域的最新進(jìn)展和未來發(fā)展趨勢。
充分利用本書
本書旨在提供一個(gè)堅(jiān)實(shí)的理論基礎(chǔ)，幫助讀者了解什么是大規(guī)模語言模型、大規(guī)模語言模型的架構(gòu)以及大規(guī)模語言模型會給人工智能領(lǐng)域帶來革命性變化的原因。本書主要以動手實(shí)踐為主題，逐步指導(dǎo)讀者針對特定任務(wù)實(shí)現(xiàn)由大規(guī)模語言模型驅(qū)動的應(yīng)用，并使用LangChain等功能強(qiáng)大的框架。此外，每個(gè)示例都會展示各種大規(guī)模語言模型的用法，以幫助讀者了解其不同之處，以及何時(shí)為特定任務(wù)使用合適的模型。
總之，本書將理論概念與實(shí)際應(yīng)用緊密結(jié)合，希望在大規(guī)模語言模型及其在NLP中的應(yīng)用方面為讀者打下堅(jiān)實(shí)基礎(chǔ)，并提供理想資源。以下是從本書中獲得最大收益的前提條件：
●對神經(jīng)網(wǎng)絡(luò)背后蘊(yùn)含的數(shù)學(xué)機(jī)理(線性代數(shù)、神經(jīng)元和參數(shù)以及損失函數(shù))有基本了解
●對機(jī)器學(xué)習(xí)概念(如訓(xùn)練集和測試集、評估指標(biāo)和NLP)有基本了解
●對Python有基本了解
下載示例代碼與彩色圖片
本書相關(guān)的所有示例代碼文件均可從本書配套的GitHub倉庫下載，網(wǎng)址為https://github.com/PacktPublishing/Building-LLM-Powered-Applications。本書還提供了一個(gè)PDF，其中包含書中使用的彩色圖片，可以通過網(wǎng)址https://pack.link/gbp/9781835462317下載。另外，讀者也可通過掃描本書封底的二維碼下載這些示例代碼與彩色圖片。