目錄


第1章 架構(gòu)基本認(rèn)知 1
1.1 架構(gòu)的演進(jìn) 1
1.1.1 一張圖看懂單體架構(gòu) 1
1.1.2 一張圖看懂集群架構(gòu) 2
1.1.3 一張圖看懂微服務(wù)架構(gòu) 3
1.1.4 一張圖看懂云原生架構(gòu) 8
1.2 AI架構(gòu)師的思維方式 9
1.2.1 系統(tǒng)思維與模塊化設(shè)計 9
1.2.2 架構(gòu)決策中的權(quán)衡 10
1.2.3 架構(gòu)設(shè)計與業(yè)務(wù)需求的關(guān)系 12
1.3 架構(gòu)設(shè)計的目標(biāo)和原則 13
1.3.1 架構(gòu)設(shè)計的目標(biāo) 13
1.3.2 設(shè)計易于維護(hù)的系統(tǒng) 14
1.3.3 技術(shù)債務(wù)的識別與管理 15
1.3.4 【實戰(zhàn)】電商系統(tǒng)架構(gòu)設(shè)計的基本原則 17
1.4 架構(gòu)設(shè)計與團(tuán)隊協(xié)作 18
1.4.1 跨職能團(tuán)隊協(xié)作 18
1.4.2 AI架構(gòu)師與開發(fā)者協(xié)作 22
1.5 AI架構(gòu)師的角色與定位 24
1.5.1 AI架構(gòu)師是什么及應(yīng)該做什么 24
1.5.2 AI服務(wù)如何影響架構(gòu)設(shè)計 25
1.5.3 AI架構(gòu)師的新工具 26
1.5.4 AI架構(gòu)師需要掌握的三類知識 28
/
第2章 架構(gòu)分層 31
2.1 一張圖看懂AI架構(gòu) 31
2.2 架構(gòu)分層的概念 34
2.2.1 分層原則——從職責(zé)解耦到算力異構(gòu) 34
2.2.2 職責(zé)分配——支持模塊的職責(zé)邊界設(shè)計 36
2.3 服務(wù)層 37
2.3.1 一張圖看懂服務(wù)層架構(gòu) 37
2.3.2 服務(wù)層的模塊化設(shè)計——高內(nèi)聚與低耦合 39
2.3.3 服務(wù)層的可擴(kuò)展性設(shè)計——支持AI服務(wù)的接入與編排 39
2.3.4 【實戰(zhàn)】在電商系統(tǒng)中集成推薦服務(wù) 41
2.4 數(shù)據(jù)層 44
2.4.1 一張圖看懂?dāng)?shù)據(jù)層架構(gòu) 44
2.4.2 對比關(guān)系數(shù)據(jù)庫與NoSQL數(shù)據(jù)庫 45
2.4.3 數(shù)據(jù)庫分庫分表與模型訓(xùn)練樣本分區(qū) 49
2.4.4 數(shù)據(jù)分片、分區(qū)與AI數(shù)據(jù)標(biāo)注策略 52
2.4.5 【實戰(zhàn)】AI語音識別系統(tǒng)的標(biāo)注分區(qū)策略 53
2.4.6 數(shù)據(jù)一致性、樣本可追溯性及數(shù)據(jù)治理與權(quán)限管控 57
2.4.7 【實戰(zhàn)】AI驅(qū)動的用戶畫像數(shù)據(jù)管理架構(gòu)設(shè)計 59
2.5 緩存層 62
2.5.1 一張圖看懂融合AI推理的緩存層架構(gòu) 62
2.5.2 對比Redis與Milvus在AI系統(tǒng)中的應(yīng)用 64
2.5.3 【實戰(zhàn)】智能客服系統(tǒng)中的緩存協(xié)同 67
2.5.4 Kafka、RabbitMQ與推理服務(wù)調(diào)度 70
2.6 開發(fā)層 74
2.6.1 選擇支持AI模型接入的開發(fā)語言與框架 75
2.6.2 合理組織代碼結(jié)構(gòu)以適配AI模型調(diào)用邏輯 77
2.6.3 API設(shè)計——支持AI服務(wù)的調(diào)用規(guī)范 81
2.6.4 異常處理與推理失敗回滾機(jī)制 85
2.6.5 日志記錄與鏈路追溯設(shè)計 87
2.6.6 安全編碼與權(quán)限控制機(jī)制 92
2.6.7 單元測試與穩(wěn)定性測試 94
2.6.8 使用Copilot和DeepSeek輔助編碼 96
2.6.9 【實戰(zhàn)】集成大語言模型的智能問答系統(tǒng)開發(fā) 98
2.7 網(wǎng)絡(luò)層 101
2.7.1 一張圖看懂網(wǎng)絡(luò)層架構(gòu) 101
2.7.2 網(wǎng)絡(luò)通信協(xié)議——REST與gRPC 103
2.7.3 多模型部署下的負(fù)載調(diào)度策略 104
2.7.4 智能網(wǎng)關(guān)設(shè)計 107
2.7.5 CDN與模型資源緩存 109
2.7.6 DNS解析與域名管理 113
2.7.7 WebSocket與實時對話式AI服務(wù)的集成 115
2.7.8 WebSocket多輪對話應(yīng)用策略 117
/
第3章 微服務(wù)架構(gòu) 121
3.1 服務(wù)拆分策略 121
3.1.1 如何合理拆分服務(wù) 121
3.1.2 如何確定服務(wù)粒度與邊界 123
3.2 服務(wù)間通信——同步通信與異步通信 125
3.2.1 什么是同步通信 125
3.2.2 同步通信在電商系統(tǒng)中的痛點及相應(yīng)解決策略 126
3.2.3 什么是異步通信 127
3.2.4 異步通信的實現(xiàn)方式1——消息隊列系統(tǒng) 129
3.2.5 異步通信的實現(xiàn)方式2——事件驅(qū)動 130
3.3 微服務(wù)的基礎(chǔ)設(shè)施 131
3.3.1 配置管理與配置中心 131
3.3.2 服務(wù)注冊與發(fā)現(xiàn) 133
3.3.3 服務(wù)網(wǎng)關(guān)與API網(wǎng)關(guān) 137
3.3.4 負(fù)載均衡與動態(tài)路由 140
3.4 【實戰(zhàn)】電商系統(tǒng)的微服務(wù)架構(gòu)設(shè)計 143
3.4.1 項目背景與系統(tǒng)目標(biāo) 143
3.4.2 電商系統(tǒng)的整體微服務(wù)架構(gòu) 144
3.4.3 AI服務(wù)在微服務(wù)架構(gòu)中的集成方式 144
/
第4章 分布式事務(wù)管理 146
4.1 什么是分布式事務(wù) 146
4.1.1 三張圖看懂分布式事務(wù) 146
4.1.2 分布式事務(wù)面臨的挑戰(zhàn)及解決方案 148
4.2 分布式事務(wù)的提交機(jī)制——兩階段提交與三階段提交 148
4.2.1 兩階段提交的工作原理 149
4.2.2 兩階段提交帶來的問題及解決方案 150
4.2.3 三階段提交的工作原理 150
4.2.4 對比兩階段提交與三階段提交 152
4.3 Saga模式——長事務(wù)的解決方案 153
4.3.1 一張圖看懂Saga模式 153
4.3.2 Saga模式的兩種實現(xiàn)方式 154
4.3.3 【實戰(zhàn)】確保Saga模式下的數(shù)據(jù)一致性 155
4.4 分布式事務(wù)的其他解決方案 157
4.4.1 TCC模式——解決復(fù)雜業(yè)務(wù)中跨表和跨庫資源鎖定問題 157
4.4.2 最大努力通知模式——確保數(shù)據(jù)的最終一致性 158
4.4.3 可靠消息最終一致性策略——確保接收消息的可靠性 159
4.5 分布式事務(wù)的企業(yè)級應(yīng)用 161
4.5.1 AWS、Google、阿里巴巴如何管理分布式事務(wù) 161
4.5.2 Seata的分布式事務(wù)管理機(jī)制 162
/
第5章 高可用與異地多活架構(gòu) 164
5.1 一張圖看懂高可用架構(gòu) 164
5.2 設(shè)計一個高可用架構(gòu) 165
5.2.1 識別和加固單點故障點 165
5.2.2 【實戰(zhàn)】通過添加冗余組件來提高系統(tǒng)的可用性 167
5.2.3 【實戰(zhàn)】在高并發(fā)場景中通過限流來防止系統(tǒng)崩潰 168
5.2.4 【實戰(zhàn)】在高并發(fā)場景中通過熔斷來防止服務(wù)雪崩 173
5.2.5 【實戰(zhàn)】在高并發(fā)場景中通過降級來應(yīng)對性能瓶頸 174
5.3 異地多活——多區(qū)域數(shù)據(jù)中心的部署策略 176
5.3.1 異地雙活與異地多活的工作原理 176
5.3.2 異地多活與高可用性、容災(zāi)的關(guān)系 179
5.4 【實戰(zhàn)】大型在線游戲的高可用性策略 180
5.4.1 負(fù)載均衡與集群化 180
5.4.2 數(shù)據(jù)冗余與備份 181
5.4.3 容災(zāi)與故障恢復(fù) 181
5.4.4 無縫更新與維護(hù) 181
5.5 推理服務(wù)的高可用架構(gòu) 184
5.6 推理服務(wù)的異地多活架構(gòu) 186
/
第6章 性能優(yōu)化設(shè)計 188
6.1 性能瓶頸識別 188
6.1.1 性能瓶頸的定義 188
6.1.2 使用分析與監(jiān)控工具 190
6.2 數(shù)據(jù)庫性能優(yōu)化 192
6.2.1 優(yōu)化索引 192
6.2.2 優(yōu)化數(shù)據(jù)庫查詢 195
6.2.3 優(yōu)化緩存查詢 197
6.2.4 優(yōu)化數(shù)據(jù)庫連接池 199
6.3 網(wǎng)絡(luò)與I/O性能優(yōu)化 202
6.3.1 識別網(wǎng)絡(luò)延遲與帶寬瓶頸 202
6.3.2 優(yōu)化TCP/IP協(xié)議棧 204
6.3.3 優(yōu)化I/O性能 206
6.3.4 【實戰(zhàn)】高并發(fā)場景中的I/O性能優(yōu)化策略 209
6.4 日志采集與分析 211
6.4.1 日志采集與分析工具：ELK、Fluentd 211
6.4.2 【實戰(zhàn)】微服務(wù)架構(gòu)中的日志采集與分析策略 213
6.5 持續(xù)優(yōu)化與性能回滾 214
6.5.1 什么是持續(xù)優(yōu)化與性能回滾 215
6.5.2 性能回滾策略與方案——從優(yōu)化到恢復(fù) 216
6.5.3 自動化性能回滾——藍(lán)綠部署與灰度發(fā)布 219
/
第7章 可擴(kuò)展性優(yōu)化設(shè)計 221
7.1 水平擴(kuò)展 221
7.1.1 什么是水平擴(kuò)展 221
7.1.2 常見的負(fù)載均衡算法 222
7.1.3 服務(wù)發(fā)現(xiàn)與動態(tài)負(fù)載均衡的結(jié)合 224
7.1.4 分布式系統(tǒng)中的一致性哈希 225
7.2 垂直擴(kuò)展 227
7.2.1 什么是垂直擴(kuò)展 227
7.2.2 資源調(diào)度與分配 228
7.3 【實戰(zhàn)】面向推理服務(wù)的可擴(kuò)展性優(yōu)化設(shè)計 229
/
第8章 架構(gòu)重構(gòu) 233
8.1 架構(gòu)重構(gòu)概述 233
8.1.1 什么是架構(gòu)重構(gòu) 233
8.1.2 技術(shù)債務(wù)與架構(gòu)債務(wù) 235
8.1.3 架構(gòu)重構(gòu)的風(fēng)險 236
8.1.4 架構(gòu)重構(gòu)的時機(jī)與原則 237
8.2 架構(gòu)重構(gòu)的方法和工具 240
8.2.1 自頂向下 240
8.2.2 自底向上 241
8.2.3 模塊化與微服務(wù)化 242
8.2.4 架構(gòu)重構(gòu)的工具 244
8.3 【實戰(zhàn)】電商系統(tǒng)架構(gòu)重構(gòu) 246
8.3.1 現(xiàn)有架構(gòu)的分析與評估 246
8.3.2 重構(gòu)用戶訂單系統(tǒng)，以實現(xiàn)模塊化與微服務(wù)化 248
8.3.3 重構(gòu)商品推薦系統(tǒng)，以提升性能與精準(zhǔn)度 251
8.3.4 重構(gòu)數(shù)據(jù)處理系統(tǒng)，以實現(xiàn)流轉(zhuǎn)與實時分析 253
8.3.5 制定上線策略 255
8.4 【實戰(zhàn)】金融系統(tǒng)架構(gòu)重構(gòu) 258
8.4.1 現(xiàn)有架構(gòu)的分析與評估 258
8.4.2 架構(gòu)重構(gòu)的技術(shù)選型與實施策略 260
8.4.3 重構(gòu)賬戶管理系統(tǒng)，以實現(xiàn)分布式設(shè)計 264
8.4.4 重構(gòu)支付清算系統(tǒng)，以支持高并發(fā)與容災(zāi) 267
8.4.5 重構(gòu)數(shù)據(jù)加密與訪問控制系統(tǒng)，以保障隱私安全 269
8.5 【實戰(zhàn)】借助AI實現(xiàn)智能化架構(gòu)重構(gòu) 272
8.5.1 架構(gòu)評估的智能輔助分析 272
8.5.2 借助AI實現(xiàn)代碼智能化架構(gòu)重構(gòu) 274
8.5.3 AI驅(qū)動的數(shù)據(jù)遷移與性能預(yù)測 277
/
第9章 云原生架構(gòu) 279
9.1 云原生架構(gòu)概述 279
9.1.1 一張圖看懂云原生架構(gòu) 279
9.1.2 云原生架構(gòu)的設(shè)計模式 280
9.1.3 傳統(tǒng)架構(gòu)與云原生架構(gòu)的差異 283
9.2 云原生架構(gòu)的性能優(yōu)化 285
9.2.1 資源調(diào)度與自動擴(kuò)縮容 286
9.2.2 容器鏡像與應(yīng)用運行時的性能優(yōu)化 287
9.3 云原生架構(gòu)的多云與混合云 290
9.3.1 多云架構(gòu)的優(yōu)勢與挑戰(zhàn) 290
9.3.2 混合云架構(gòu)的設(shè)計與實施 293
9.3.3 【實戰(zhàn)】在多云與混合云架構(gòu)中部署云原生應(yīng)用 295
9.4 云原生架構(gòu)中的AI實踐 298
9.4.1 云原生架構(gòu)中的AIOps 298
9.4.2 AI驅(qū)動的資源調(diào)度與彈性優(yōu)化 301
9.4.3 【實戰(zhàn)】基于AI模型的智能部署與自愈系統(tǒng)架構(gòu)設(shè)計 303
/
第10章 服務(wù)網(wǎng)格架構(gòu) 306
10.1 服務(wù)網(wǎng)格的基本概念 306
10.1.1 一張圖看懂服務(wù)網(wǎng)格架構(gòu) 306
10.1.2 服務(wù)網(wǎng)格的工作原理 307
10.2 服務(wù)網(wǎng)格的關(guān)鍵功能 310
10.2.1 服務(wù)發(fā)現(xiàn)與負(fù)載均衡 310
10.2.2 服務(wù)間安全通信 312
10.2.3 路由控制與流量管理 315
10.3 服務(wù)網(wǎng)格的技術(shù)實現(xiàn) 317
10.3.1 Istio的組件結(jié)構(gòu)與邏輯結(jié)構(gòu) 317
10.3.2 Istio的安裝與配置 318
10.3.3 對比Linkerd與其他服務(wù)網(wǎng)格商品 318
10.3.4 數(shù)據(jù)平面與控制平面 321
10.4 【實戰(zhàn)】AI在服務(wù)網(wǎng)格中的應(yīng)用 324
10.4.1 AI驅(qū)動的流量異常檢測與治理 324
10.4.2 智能路由 327
10.4.3 服務(wù)網(wǎng)格中的智能觀測與告警系統(tǒng) 330
10.5 【實戰(zhàn)】大型電商系統(tǒng)的服務(wù)網(wǎng)格應(yīng)用 333
10.5.1 系統(tǒng)背景 333
10.5.2 服務(wù)網(wǎng)格架構(gòu)設(shè)計 334
10.5.3 分階段落地策略 334
/
第11章 無服務(wù)架構(gòu) 336
11.1 無服務(wù)架構(gòu)基礎(chǔ) 336
11.1.1 無服務(wù)架構(gòu)的定義、優(yōu)勢與劣勢 336
11.1.2 從傳統(tǒng)架構(gòu)到無服務(wù)架構(gòu)的轉(zhuǎn)變 337
11.2 無服務(wù)架構(gòu)的原理 339
11.2.1 FaaS的運行原理 339
11.2.2 事件驅(qū)動架構(gòu)與無服務(wù)架構(gòu) 341
11.2.3 API網(wǎng)關(guān)與無服務(wù)架構(gòu) 342
11.3 無服務(wù)架構(gòu)的設(shè)計原則 344
11.3.1 函數(shù)設(shè)計的粒度控制與職責(zé)劃分 344
11.3.2 無狀態(tài)優(yōu)先與冪等性保障 346
11.3.3 冷啟動優(yōu)化、安全隔離設(shè)計與可觀測性設(shè)計 348
11.4 無服務(wù)架構(gòu)的部署 352
11.4.1 對比AWS Lambda與Azure Functions 353
11.4.2 無服務(wù)架構(gòu)的部署流程 355
11.5 AI在無服務(wù)架構(gòu)中的應(yīng)用 357
11.5.1 推理服務(wù)的設(shè)計模式 357
11.5.2 AI模型異步訓(xùn)練 359
11.5.3 Serverless AI的成本控制策略 361
11.6 【實戰(zhàn)】無服務(wù)架構(gòu)在IoT系統(tǒng)中的應(yīng)用 364
11.6.1 系統(tǒng)概述 365
11.6.2 無服務(wù)架構(gòu)設(shè)計 365
11.6.3 關(guān)鍵功能設(shè)計說明 367
/
第12章 【實戰(zhàn)】智能客服系統(tǒng)從0到1 368
12.1 業(yè)務(wù)需求分析 368
12.2 系統(tǒng)架構(gòu)設(shè)計 370
12.3 數(shù)據(jù)庫設(shè)計 372
12.4 緩存與加速策略設(shè)計 374
12.5 AI能力集成架構(gòu)建立與Prompt策略制定 374
12.6 資源調(diào)度策略實現(xiàn) 377
12.7 動態(tài)負(fù)載監(jiān)控與自適應(yīng)響應(yīng)策略設(shè)計 379