隨著AI技術(shù)深度融入醫(yī)療、金融、交通等關(guān)鍵領(lǐng)域,其安全風(fēng)險已從技術(shù)問題升級為關(guān)乎社會穩(wěn)定與倫理的核心挑戰(zhàn)。本書以通俗易懂的“故事+對話”形式,揭開AI安全的神秘面紗,以“AI的攻防博弈”為主線,通過32個故事系統(tǒng)剖析AI時代的核心挑戰(zhàn)和解決方案。
本書分為五篇,旨在幫助讀者構(gòu)建AI安全認知體系。第一篇從AI泄露用戶隱私、AI應(yīng)用技術(shù)風(fēng)險等案例切入,揭示AI安全的重要性,勾勒攻防戰(zhàn)場全貌;第二篇聚焦技術(shù)與管理雙重維度,深入模型魯棒性、可解釋性差、數(shù)據(jù)質(zhì)量與數(shù)據(jù)投毒等九大核心問題,探討技術(shù)漏洞背后的倫理與法律困境;第三篇詳解對抗樣本、模型竊取攻擊等十一類攻擊手法,并給出對抗訓(xùn)練、可解釋性工具等防護方案;第四篇展示AI如何賦能安全,包括安全大模型、AI代碼審計工具等,以及電信運營商實踐案例;第五篇聚焦AI安全行業(yè)動態(tài)與未來發(fā)展趨勢,展望AI安全在標(biāo)準(zhǔn)規(guī)范、產(chǎn)業(yè)研究方向的趨勢。
本書適合AI行業(yè)的技術(shù)人員(網(wǎng)絡(luò)安全從業(yè)者、AI工程師)閱讀,也適合關(guān)注AI合規(guī)的企業(yè)管理者借鑒,還適合希望系統(tǒng)理解AI安全的高校師生與探索者學(xué)習(xí)。
·真實案例驅(qū)動:融合電信、金融、醫(yī)療等多行業(yè)真實事件,將晦澀技術(shù)分解為鮮活故事,以此打破專業(yè)壁壘,零基礎(chǔ)也能輕松看懂AI安全風(fēng)險與防御邏輯。
·內(nèi)容覆蓋全面:從AI面臨的安全挑戰(zhàn),到攻防技術(shù)與應(yīng)用、AI賦能安全、業(yè)界動態(tài)與未來趨勢,不僅揭示AI如何被“黑”,更教你用AI打造防護體系。
·聚焦前沿技術(shù):深入解讀越獄攻擊、數(shù)據(jù)投毒、模型竊取等熱門威脅,覆蓋AI內(nèi)生安全與衍生安全,緊跟技術(shù)前沿。
·適合廣泛讀者:不管你是技術(shù)人員、管理者,還是單純對AI安全感興趣的“小白”,這本書都能帶你真正看懂AI安全背后的本質(zhì)與實戰(zhàn)邏輯。
馬潔,通信與運維管理高級工程師、網(wǎng)絡(luò)與信息安全管理師(高級)、CISE、CISP-DSG、CCRC-DSO(數(shù)據(jù)安全官),中國信息通信研究院“數(shù)據(jù)安全共同體計劃專家?guī)臁比霂鞂<遥瑥V東省通信行業(yè)協(xié)會數(shù)據(jù)安全專業(yè)委員會委員,中國電信集團公司“優(yōu)秀集團級內(nèi)訓(xùn)師” “金牌講師”,“2024數(shù)字中國創(chuàng)新大賽數(shù)據(jù)安全產(chǎn)業(yè)講師選拔賽”銀獎、最佳風(fēng)采獎、優(yōu)秀課件獎;第二屆“數(shù)信杯”數(shù)據(jù)安全講師賽銀獎;中國計算機行業(yè)協(xié)會網(wǎng)絡(luò)和數(shù)據(jù)安全專業(yè)委員會授予網(wǎng)絡(luò)和數(shù)據(jù)安全人才培養(yǎng)“金牌講師”。出版譯著1本,發(fā)表專業(yè)相關(guān)論文9篇,承擔(dān)工作站重點課題3項,揭榜掛帥項目1項,其他重點管理及科研項目超20項。
引子 安教授的AI安全第 一課 1
第 一篇 AI安全初探 5
故事1 AI的崛起:從圖靈測試到大模型 6
故事2 AI安全風(fēng)險案例:AI的安全黑洞 15
故事3 AI安全的重要性:AI的守護使命 26
故事4 AI安全攻防全貌:AI的攻防戰(zhàn)場 37
第二篇 AI面臨的安全挑戰(zhàn) 47
故事5 AI模型的脆弱心臟:模型魯棒性問題 48
故事6 AI模型的黑箱之謎:可解釋性挑戰(zhàn) 57
故事7 AI數(shù)據(jù)的污染危機:數(shù)據(jù)質(zhì)量與數(shù)據(jù)投毒風(fēng)險 66
故事8 AI算法的雙刃劍:漏洞、攻擊與濫用 77
故事9 AI的偏見:算法歧視與公平性 87
故事10 AI的責(zé)權(quán):責(zé)任歸屬與法律挑戰(zhàn) 93
故事11 AI武器化的隱憂:軍事化應(yīng)用的安全風(fēng)險 101
故事12 AI時代的數(shù)據(jù)隱私保護:技術(shù)與法規(guī)解析 108
故事13 AI應(yīng)用的合規(guī)挑戰(zhàn):各國規(guī)范性文件對比與發(fā)展趨勢 118
第三篇 AI安全攻防及應(yīng)用 129
故事14 擾動輸入樣本:欺騙AI的魔術(shù) 130
故事15 數(shù)據(jù)投毒攻擊:污染AI的源頭 140
故事16 模型竊取攻擊:偷走AI的大腦 150
故事17 后門攻擊:隱藏在AI中的定時炸彈 159
故事18 提升AI模型魯棒性:應(yīng)對輸入樣本擾動 168
故事19 AI數(shù)據(jù)安全防護:防御AI數(shù)據(jù)投毒 178
故事20 AI模型知識產(chǎn)權(quán)保護:防止模型竊取與濫用 188
故事21 AI系統(tǒng)安全加固:檢測與防御后門攻擊 197
故事22 AI內(nèi)容安全的“守門員”:虛假信息識別與多模態(tài)過濾 207
故事23 AI周邊安全的防護網(wǎng):保障AI系統(tǒng)的安全 217
故事24 AI管理的“安全屋”:構(gòu)建AI安全管理體系 225
第四篇 AI賦能安全 235
故事25 AI賦能安全攻防的“神兵利器”:關(guān)鍵技術(shù)解析 236
故事26 AI在安全測試中的利與弊:漏洞挖掘與代碼審計 245
故事27 AI賦能安全防御:構(gòu)建“銅墻鐵壁” 253
故事28 安全產(chǎn)業(yè)的變革者:重塑安全生態(tài) 262
故事29 安全設(shè)備和系統(tǒng)的升級者:提升安全能力 271
故事30 電信運營商AI安全實踐:實戰(zhàn)案例分享 280
第五篇 AI安全行業(yè)動態(tài)與發(fā)展趨勢 291
故事31 全球AI安全標(biāo)準(zhǔn)化組織:規(guī)則制定與發(fā)展 292
故事32 AI安全研究的風(fēng)向標(biāo):最新研究進展 301
后記 310