前　　言
AI Agent（或簡稱為Agent）是建立在大語言模型之上的智能應(yīng)用，是將人工智能與特定場景深度結(jié)合的重要方式。Agent模仿人類“思考–行動–觀察”的規(guī)劃模式，具備自主思考和自主決策的能力，能夠適應(yīng)環(huán)境的變化，自主學(xué)習(xí)和改進(jìn)，完成用戶設(shè)定的目標(biāo)。與大語言模型的對話應(yīng)用不同，Agent的突出特點是主動性，在行為上表現(xiàn)為多步操作、多角色會話、多輪迭代、反復(fù)修正答案以及調(diào)用外部資源的能力。
20世紀(jì)80年代，對于AI Agent是否能夠真正產(chǎn)生自主性的、生物意義上的“智能”這一問題已在哲學(xué)層面展開討論。20年前，深度學(xué)習(xí)的發(fā)展促進(jìn)了Agent的進(jìn)化。近幾年來，在大語言模型的支持下，Agent越來越具備主動性，“思考”問題的方法也在參考人類特征的基礎(chǔ)上，形成一套包含規(guī)劃、記憶、工具和行動的功能規(guī)范。在Agent與大語言模型技術(shù)結(jié)合方面，ReAct、ToT、Reflexion、CoT等思考框架的研究成果不斷，相關(guān)論文以及與之配套的開源代碼詮釋了理論如何變?yōu)楝F(xiàn)實。看似眼花繚亂實則科學(xué)嚴(yán)謹(jǐn)?shù)奶崾驹~工程，在與大語言模型的交互中，使得Agent像施展魔法般地實現(xiàn)了人類預(yù)定的目標(biāo)。展望未來，基于Agent，人們對通用人工智能（Artificial General Intelligence， AGI）充滿了想象空間。
Agent的發(fā)展離不開大語言模型的支持，而大語言模型則通過Agent擴展其功能。隨著GPT-4、GLM-4、Llama3、Qwen2等模型的發(fā)布，依托這些模型的應(yīng)用技術(shù)也取得了顯著的進(jìn)步，GPT-4率先推出了Function-calling功能，其他模型也迅速跟進(jìn)。這一創(chuàng)新反映了大語言模型將超越單純的內(nèi)容生成，向更智能、更主動、更有規(guī)劃性的AGI方向發(fā)展。AutoGPT、BabyAGI等Agent應(yīng)用的推出，使代表著主動思考、主動決策、主動執(zhí)行的AGI技術(shù)取得了長足的進(jìn)步。同時，LangChain、AutoGen等Agent開發(fā)框架的問世與流行，使這個領(lǐng)域的應(yīng)用開發(fā)變得更加便捷，多角色、多模態(tài)的Agent應(yīng)用紛紛涌現(xiàn)。
目前，Agent正處于快速發(fā)展過程中，已在長記憶會話、任務(wù)處理、檢索增強、輔助編程等領(lǐng)域產(chǎn)生了許多產(chǎn)品和應(yīng)用案例。本書詳細(xì)介紹了8種開源的主流Agent應(yīng)用以及7種Agent開發(fā)框架，從基礎(chǔ)、應(yīng)用、開發(fā)三個層面對Agent知識進(jìn)行了循序漸進(jìn)的講解�？紤]到實際應(yīng)用場景，本書還涵蓋了支撐Agent應(yīng)用的大型語言模型的安裝、服務(wù)開發(fā)以及微調(diào)技術(shù)，從而使Agent的知識體系更加完整。
本書特點
本書具有以下特點：
基于開源技術(shù)：本書中涉及的所有Agent技術(shù)都是開源項目，所使用的大模型也皆為開源模型且可在本地部署，而非依賴OpenAI等云服務(wù)。案例代碼中不依賴額外的API，均可在本地部署的模型支持下進(jìn)行調(diào)試和運行。此外，本書所有案例代碼已在GitHub上開源。
技術(shù)廣泛：本書涵蓋了8種Agent應(yīng)用（應(yīng)用篇）和7種Agent開發(fā)框架（開發(fā)篇），共涉及15種開源Agent技術(shù)。Agent正在快速發(fā)展，覆蓋的技術(shù)越多，讀者學(xué)習(xí)或深入研究的選擇越多。
國內(nèi)外并重：本書使用的技術(shù)中，國產(chǎn)Agent、國產(chǎn)大模型技術(shù)占有一定的比例，如QAnything、AgentScope、CodeFuse-ChatBot、Qwen-Agent、GLM-4、CogVLM2等。對于讀者來說，閱讀本書后，如果想了解相關(guān)技術(shù)細(xì)節(jié)，那么國產(chǎn)項目的中文文檔更易于深入學(xué)習(xí)。
詳解大模型技術(shù)：大語言模型是Agent的運行基礎(chǔ)，本書專門對大模型的開發(fā)技術(shù)進(jìn)行了詳細(xì)講解，內(nèi)容包括大語言模型的應(yīng)用、服務(wù)開發(fā)與微調(diào)。通過學(xué)習(xí)，讀者能夠深入了解Agent背后的內(nèi)容生成原理。
案例涉及的領(lǐng)域廣泛：本書提供了10個不同場景的Agent應(yīng)用開發(fā)案例，案例涉及的領(lǐng)域廣泛，且貼近讀者的學(xué)習(xí)與生活，如任務(wù)驅(qū)動、多角色協(xié)同、輔助編程、RAG、圖像、多模態(tài)等，實用性強。
內(nèi)容來源
本書的內(nèi)容源于筆者的研究與實踐。在寫作過程中，我精心挑選了各類Agent技術(shù)，涵蓋多個領(lǐng)域和場景，力求在知識的廣度和深度上都有所考量，希望為讀者提供多元化的參考。具體來說，本書的寫作素材來源主要包括以下幾個方面：
實踐案例：在本書撰寫過程中，我實踐了大量Agent應(yīng)用，并開發(fā)了一系列多領(lǐng)域的示例程序。
官方資源：本書整合了來自各種Agent應(yīng)用和開發(fā)框架的官網(wǎng)資料，確保得到官方的前沿信息。
培訓(xùn)課件：在過去兩年中，我作為培訓(xùn)講師，為教師、學(xué)生以及軟件企業(yè)舉辦了多場大語言模型培訓(xùn)，其中，Agent實操課程也是一個重要的培訓(xùn)主題，因此獲得了大量學(xué)員反饋，從而優(yōu)化了本書內(nèi)容。
讀者對象
本書涉及的Agent技術(shù)豐富、操作步驟詳細(xì)、源代碼完整，適合Agent使用者和開發(fā)者上手實踐。
對于使用者來說，8種典型的Agent開源應(yīng)用，能夠滿足他們在部署與使用方面的需求。
對于開發(fā)者來說，10個不同場景的Agent應(yīng)用開發(fā)案例以及多種大語言模型服務(wù)，能夠滿足他們學(xué)習(xí)、實踐的需求。
如何閱讀本書
這是一本講解Agent基礎(chǔ)知識、開發(fā)與應(yīng)用方法的實戰(zhàn)指南，共分為三篇：
基礎(chǔ)篇：包括第1和2章，介紹了Agent定義、發(fā)展歷程、常用開源技術(shù)、主要組件等基礎(chǔ)知識和開發(fā)環(huán)境的搭建過程。
應(yīng)用篇：包括第3～6章，從通用型、任務(wù)驅(qū)動型、輔助開發(fā)型和檢索增強型的分類角度，介紹了AutoGPT、MemGPT、BabyAGI、Camel、Devika、CodeFuse-ChatBot、DB-GPT、QAnything這8種流行度高、社區(qū)完善、正在快速發(fā)展的開源Agent應(yīng)用，描述其運行原理、安裝方法和使用過程。
開發(fā)篇：包括第7～16章，完成10個不同場景的Agent應(yīng)用開發(fā)實戰(zhàn)。一方面，以AgentScope、LangChain、LangGraph、AutoGen、LlamaIndex、CrewAI、Qwen-Agent這7種目前被廣泛應(yīng)用的開源Agent開發(fā)框架為基礎(chǔ)，針對每個框架各講解一個開發(fā)案例。另一方面，通過案例介紹了Agent開發(fā)過程中關(guān)鍵的Function-calling特性及大語言模型開發(fā)技術(shù)。此外，對基于CogVLM2的多模態(tài)模型應(yīng)用開發(fā)，也提供了案例演示。
實踐要求及說明
在本書的大部分示例中，Agent需要大語言模型具備Function-calling特性或?qū)ν评砟芰σ�求較高，所以基本上選用了8B、9B等參數(shù)規(guī)模的模型，運行這些模型所需的GPU內(nèi)存在20GB左右。書中還涉及一些大模型的微調(diào)技術(shù)和多模態(tài)模型的應(yīng)用開發(fā)，所以至少需要１張24GB內(nèi)存的推理卡或顯卡。雖然部分示例在Ollama的量化環(huán)境下只需要6GB內(nèi)存即可正常運行，但為了完整實踐所有示例，建議采用24GB或以上內(nèi)存的推理卡或顯卡，以及與之配套的服務(wù)器或高端個人計算機。
以下是關(guān)于閱讀與實踐本書內(nèi)容的注意事項。
①操作系統(tǒng)。Agent應(yīng)用服務(wù)本身可以運行在Windows和Linux下。Agent需要大語言模型的支持，在本書所介紹的裝載大語言模型的三種方法中，只有Ollama支持Windows操作系統(tǒng)，其余兩種由于依賴vLLM而不能在Windows上運行。綜合以上情況，建議讀者在Ubuntu 22.04操作系統(tǒng)中實踐本書內(nèi)容。書中涉及的文件下載、文件編輯、文件復(fù)制等操作系統(tǒng)命令均使用了Linux的方式描述，如果讀者使用Windows，則要根據(jù)情況采用對應(yīng)的操作方法。
②命令換行。在操作系統(tǒng)命令行下執(zhí)行命令時，Linux系統(tǒng)支持對較長的命令采用“\”進(jìn)行換行，命令執(zhí)行結(jié)果不會發(fā)生變化，而在Windows系統(tǒng)中要將“\”換成“^”。
例如，以下命令在Linux系統(tǒng)中運行正常：
pip install -r requirements.txt -i \
https://pypi.mirrors.ustc.edu.cn/simple
該命令如果要在Windows系統(tǒng)中正常運行，則需要把首行行尾的“\”替換成“^”，格式如下：
pip install -r requirements.txt -i ^
https://pypi.mirrors.ustc.edu.cn/simple
③命令注釋。本書中描述的在操作系統(tǒng)命令行下執(zhí)行的命令，如果以“#”開頭則為注釋，無須執(zhí)行。為了避免讀者將多條命令誤以為是一條連續(xù)的命令一起執(zhí)行而發(fā)生錯誤，我一般會在每條命令的前一行加注釋。
④示例代碼。得益于Python語言的精練以及各種Agent開發(fā)框架的封裝，本書的示例代碼大多在100行左右，開發(fā)篇中列出的基本上都是完整源代碼。但書中為了詳細(xì)地解釋程序原理，特意對代碼進(jìn)行了分段敘述，這會因縮進(jìn)難以觀察而影響代碼的整體性和可讀性，建議讀者調(diào)試程序時，從本書的配套代碼庫中下載所用的代碼。
⑤主機名稱。為了統(tǒng)一和規(guī)范書中程序的配置與訪問方式，減少可能的歧義，本書采用以下約定：如果是本機地址，則使用127.0.0.1表示；如果涉及GPU服務(wù)器，則使用主機名“server-dev”指代。主機名對應(yīng)的IP地址可以通過配置DNS解析來確定，在Windows系統(tǒng)中修改C:\Windows\System32\drivers\etc\HOSTS文件，在Linux系統(tǒng)中修改/etc/hosts文件。
勘誤和支持
本書的所有源代碼和簡要操作步驟，已在https://github.com/little51/agent-dev上開源，讀者可自行查閱。
雖然我在寫作時已盡力謹(jǐn)慎，反復(fù)測試驗證，但本書中仍可能出現(xiàn)一些疏漏或者不準(zhǔn)確之處，懇請讀者指正。若讀者有勘誤或意見，可通過郵件little51@126.com反饋，或者在https://github.com/little51/agent-dev代碼庫上提交issue。
致謝
2023年以后，我一直從事大語言模型應(yīng)用開發(fā)與培訓(xùn)工作。2024年初，我結(jié)合工作中積累的經(jīng)驗，對培訓(xùn)課件進(jìn)行整理，形成一些關(guān)于大模型應(yīng)用開發(fā)的原始寫作素材，并獲得與機械工業(yè)出版社合作的機會，開始撰寫《大模型項目實戰(zhàn)：多領(lǐng)域智能應(yīng)用開發(fā)》一書。2024年7月，在該書的寫作接近尾聲時，為期半個月的人工智能培訓(xùn)也在按計劃進(jìn)行，我將AI Agent的一些內(nèi)容加到課程中，得到了廣大學(xué)員的積極反饋和同事的建議，這激勵我撰寫一本關(guān)于Agent的圖書，于是我一邊開發(fā)多個領(lǐng)域的Agent示例程序，一邊進(jìn)行文本書寫。經(jīng)過近三個月不停歇的工作，這本新書即將問世。
在這一過程中，我要感謝以下朋友：
我要感謝我所在公司的集團(tuán)領(lǐng)導(dǎo)梁明道先生，在我的印象中，十年前他就開始反復(fù)給我描繪“智體”的前景，這對我在Agent方面的研究大有裨益。在他的理論中，這種具有主動性、自我決策和自動執(zhí)行的實體，一定會成為AGI的發(fā)展方向。甚至在十年前，他就注冊了aiit.com這樣的四字域名，用于以后的智體產(chǎn)品研發(fā)與推廣。
感謝我的同事董煒，他一如既往、一絲不茍地安排培訓(xùn)工作，使我在培訓(xùn)過程中將所有精力都用到了課件的準(zhǔn)備和與學(xué)員的交流上。學(xué)員的學(xué)習(xí)反饋和他們對課程的建議，對本書中的Agent技術(shù)選型起到關(guān)鍵作用。
感謝我的同事楊樂，他很早就開始研究Agent開發(fā)，得知我打算寫一本該領(lǐng)域的圖書時，他給了我很多建議，并協(xié)助我采購了雙推理卡設(shè)備。具備一定算力的機器，是Agent開發(fā)中最重要的基礎(chǔ)設(shè)施支持。
本書中涉及的Agent應(yīng)用與開發(fā)框架以及各種大語言模型，都是開源項目，而且很大一部分使用的是極其寬松的MIT授權(quán)方式。作為開源社區(qū)的負(fù)責(zé)人和開源的受益者，本書的示例源碼也全部開源。感謝開源！

高強文