本書由佩里·卡彭特撰寫,是一本在這個(gè)復(fù)雜的數(shù)字環(huán)境中生存的b備指南。作為網(wǎng)絡(luò)安全和防欺詐專家,作者深入探討了生成式AI(Artificial Intelligence,人工智能)技術(shù)帶來的潛在危險(xiǎn),并為讀者提供了保護(hù)自己免受網(wǎng)絡(luò)詐騙和威脅的策略。對(duì)于想要利用技術(shù)并在不斷演化的數(shù)字環(huán)境中保持安全的人來說,本書提供了實(shí)用的防御策略。此外,作者也傳達(dá)了對(duì)技術(shù)的未來及其潛在積極用途的樂觀態(tài)度。本書的目標(biāo)讀者包括:普通技術(shù)用戶、網(wǎng)絡(luò)安全專業(yè)人士、教育工作者和學(xué)生、企業(yè)和組織管理者、政策制定者和法律專家。
揭秘AI新型詐騙與虛假信息專家教你如何識(shí)破與應(yīng)對(duì)
(1)AI能復(fù)制聲音、制作假視頻、寫出令人信服的文字,我們要如何判斷真假?歡迎來到AI驅(qū)動(dòng)的騙局時(shí)代,一個(gè)只需敲幾下鍵盤就能創(chuàng)造全新虛擬現(xiàn)實(shí)的世界。
(2)網(wǎng)絡(luò)安全專家、欺騙學(xué)資深研究者佩里卡彭特將帶你走出這片數(shù)字雷區(qū)。在《AI欺詐:深度偽造與虛假信息防御》里,他為你準(zhǔn)備了應(yīng)對(duì)AI時(shí)代挑戰(zhàn)的知識(shí)與工具。
(3)通過引人入勝的敘述,卡彭特以講故事的方式,讓復(fù)雜的AI概念變得淺顯易懂,幫助讀者從可能的受害者變成聰明的防御者。本書結(jié)合數(shù)字操控的科學(xué)理論與實(shí)際案例,提供了防范復(fù)雜AI詐騙的系統(tǒng)策略,為個(gè)人和企業(yè)構(gòu)筑有效的防護(hù)體系。它揭開了AI的神秘面紗,以易于理解的方式向大眾普及重要知識(shí)。
紀(jì)念凱文·米特尼克(1963年8月6日2023年7月16日)
你證明了,揭開欺詐的面紗,是防御的第一步。
從數(shù)字騙子到網(wǎng)絡(luò)衛(wèi)士,你的成長(zhǎng)歷程不斷提醒我們,探索的渴望與堅(jiān)守的誠信可以共存。
愿你那飛揚(yáng)的求知欲、充滿感染力的笑聲與傳道授業(yè)的熱忱,長(zhǎng)久綻放,影響更多的人。
序 言
我剛剛在1500多人面前,現(xiàn)場(chǎng)黑了佩里·卡彭特的電腦。
當(dāng)然,這只是一場(chǎng)事先安排好的演示,佩里完全知情,我的行為也沒有造成真正的傷害。但那一套技術(shù)絕對(duì)實(shí)打?qū)崳绕涫窃谀繕?biāo)毫無察覺時(shí),效果尤為顯著。
這些年,我憑借黑客技術(shù)攢了一些名氣,我能輕松突破他人的安全防線,尤其是那些高調(diào)人物。我曾對(duì)CNN的羅尼·奧沙利文(Donie OSullivan)、億萬富翁杰弗里·卡森伯格(Jeffrey Katzenberg)、《60分鐘》記者沙琳·阿爾方西(Sharyn Alfonsi)以及其他一些公眾人物進(jìn)行過類似的黑客攻擊。每一次,我都會(huì)看到同樣的反應(yīng):驚掉下巴,雙眼圓睜,你幾乎可以聽到他們心里的聲音:我的系統(tǒng)有那么脆弱嗎?
在我一步步帶領(lǐng)觀眾解讀每一個(gè)攻擊細(xì)節(jié)時(shí)從深入挖掘佩里的開源情報(bào)、精準(zhǔn)克隆他那獨(dú)具特色的聲音(他的聲音特別有趣),到精心設(shè)計(jì)極其個(gè)性化的攻擊手段我能清晰地看到他們臉上的震驚,F(xiàn)場(chǎng)充滿了倒吸涼氣的聲音。這不僅僅是一場(chǎng)理論上的攻擊,它仿佛打開了一扇通向網(wǎng)絡(luò)犯罪分子大腦的窗戶,展示了我們的數(shù)字和人工防御是多么無力。
作為一名黑客(友好的那種)和社會(huì)工程領(lǐng)域的專家,我多年來一直在研究人類神經(jīng)科學(xué)和技術(shù)中的漏洞,這些漏洞常常被心懷不軌者惡意利用。我親身體驗(yàn)過,如何通過一封精心設(shè)計(jì)的釣魚郵件或一次巧妙的電話溝通,輕松繞過最復(fù)雜的安全系統(tǒng)。但近幾年,人工智能的崛起徹底改變了游戲規(guī)則,它使得社會(huì)工程學(xué)的能力得到了前所未有的提升。
如今,人工智能所能發(fā)動(dòng)的攻擊令人瞠目結(jié)舌。大多數(shù)人已經(jīng)分不清什么是真實(shí)的,什么是機(jī)器合成的。照片、視頻、聲音、文字,人工智能都能造假。這不僅僅是派對(duì)上的小把戲或惡作劇,它會(huì)影響到人際關(guān)系,甚至全球政治直接動(dòng)搖了人類信任的根基!
別誤會(huì),人工智能并非一片悲觀的陰云。它蘊(yùn)藏著無盡的潛力,可以幫我們解決問題、改善生活。然而,正如任何強(qiáng)大的工具一樣,若被錯(cuò)誤使用你大概能預(yù)見后果。本書問世時(shí),世界正在經(jīng)歷重大事件,比如2024年美國大選,書中的見解恰逢其時(shí),它為我們提供了清晰的指引與啟示。
在美國總統(tǒng)大選期間,我們目睹了越來越先進(jìn)的人工智能工具在電子郵件、電話、短信和視頻攻擊中的應(yīng)用。
佩里不僅僅是在解釋威脅。他將這一切分解為切實(shí)可行的策略,向我們展示了人類自身的怪癖如何被人工智能的詭計(jì)所利用,然后他給了我們反擊的工具,一步步教我們?nèi)绾伪Wo(hù)自己和我們的社區(qū)。
人工智能加持的社會(huì)工程學(xué)新紀(jì)元,仿佛進(jìn)入了一片無序的荒原。然而,通過閱讀佩里的書,你將掌握一套實(shí)用的應(yīng)對(duì)策略,從而能夠在深度偽造與人工智能欺詐的迷霧中從容前行。
無論你是安全專家、企業(yè)領(lǐng)導(dǎo),還是一個(gè)關(guān)注人工智能社會(huì)影響的普通人,這本書都是這個(gè)時(shí)代的指路明燈。在這充滿變數(shù)的時(shí)代,保持適度的警覺吧,朋友們。
雷切爾·托巴克(Rachel Tobac)
白帽黑客、SocialProof Security 首席執(zhí)行官
佩里卡彭特(Perry Carpenter) 他是一位多次獲獎(jiǎng)的作家、播客主和演講家,在網(wǎng)絡(luò)安全領(lǐng)域深耕二十余年,主要研究網(wǎng)絡(luò)犯罪對(duì)人性的利用。目前,他是KnowBe4的首席人類風(fēng)險(xiǎn)管理策略師,致力于打造以人為核心的防御體系,防范社會(huì)工程攻擊。
劉怡 畢業(yè)于北京第二外國語學(xué)院國際會(huì)議傳譯專業(yè)。云南師范大學(xué)外國語學(xué)院教師,同聲傳譯譯員,CATTI一級(jí)筆譯。出版《商業(yè)計(jì)劃書撰寫指南》《商業(yè)化學(xué)反應(yīng)》《富過三代:家族財(cái)富傳承》《第六次浪潮》等譯著13本。
目 錄
引言 ChatGPT,給我出個(gè)題吧 1
第1章 永恒的心智博弈:為何它關(guān)乎你的未來 10
電波中的耳語 10
很高興見到你,希望你猜到了我的名字 11
欺詐和騙局的歷史背景 12
數(shù)字時(shí)代:欺詐的新時(shí)代 14
深度偽造的崛起:從明星面孔到政治破壞 17
合成媒體的深遠(yuǎn)影響 18
合成媒體為何能突破我們的防線? 19
認(rèn)知安全:在數(shù)字時(shí)代保護(hù)我們的心智 20
要點(diǎn)總結(jié) 21
第2章 欺詐的新領(lǐng)域:人工智能與合成媒體 23
電波中的耳語 23
拐點(diǎn) 24
人工智能發(fā)展簡(jiǎn)史 25
人工智能有生命嗎?它真的能理解嗎? 33
要點(diǎn)總結(jié) 37
第3章 數(shù)字操縱者的心態(tài)和工具 38
電波中的耳語 38
黑客如何使用技術(shù)和解決問題 41
欺詐學(xué)入門:黑暗藝術(shù)初探 44
窺探深淵 52
要點(diǎn)總結(jié) 56
第4章 偏差、數(shù)據(jù)投毒和輸出異常 58
電波中的耳語 58
幻覺:人工智能創(chuàng)造力的雙刃劍 60
嚴(yán)重偏差問題 62
未能有效控制偏見的尷尬實(shí)例 65
后果與前進(jìn)之路 71
要點(diǎn)總結(jié) 72
第5章 數(shù)字虛假信息大流行 74
電波中的耳語 74
謊言、該死的謊言和互聯(lián)網(wǎng) 75
人工智能驅(qū)動(dòng)的虛假信息格局 81
人工智能生成的虛假信息的類型和應(yīng)對(duì)策略 82
要點(diǎn)總結(jié) 86
第6章 深偽技術(shù)與數(shù)字欺詐的廣大范疇 88
電波中的耳語 88
在互聯(lián)網(wǎng)上,沒人知道你是一條狗 90
深度偽造到底是什么? 91
低技術(shù)欺詐的寒蟬效應(yīng) 94
絕命毒師:不良行為者如何腐化人工智能系統(tǒng)的道德底線 99
越獄被高估:無審查的AI系統(tǒng) 111
將無害的輸出變成武器 114
關(guān)于數(shù)字欺詐難以忽視的真相 116
要點(diǎn)總結(jié) 117
第7章 人工智能驅(qū)動(dòng)的欺詐:現(xiàn)狀與未來 119
電波中的耳語 119
進(jìn)入被信息操控的區(qū)域 121
欺詐、詐騙和犯罪的支柱 124
人工智能驅(qū)動(dòng)的騙局:老把戲,新工具 127
新出現(xiàn)的威脅 131
我的故事:我如何創(chuàng)建多個(gè)由GenAI驅(qū)動(dòng)的詐騙機(jī)器人 136
尋找希望 138
要點(diǎn)總結(jié) 138
第8章 人工智能時(shí)代的媒體素養(yǎng):你的第一道防線 141
電波中的耳語 141
為真理而戰(zhàn) 143
在開始之前…… 145
數(shù)字時(shí)代的媒體素養(yǎng):你的信息叢林生存指南 148
事實(shí)核查悖論:在充滿謊言的世界中尋求真相 155
要點(diǎn)總結(jié) 164
第9章 認(rèn)知和技術(shù)防御策略:保護(hù)工具 167
電波中的耳語 167
建立我們的認(rèn)知防線 169
技術(shù)防御 181
總結(jié):在數(shù)字時(shí)代保持警惕 188
讓我們玩點(diǎn)有趣的:提升你的思維與數(shù)字防護(hù)技能 188
要點(diǎn)總結(jié) 190
第10章 新的希望 192
電波中的耳語 192
罪犯有手段、動(dòng)機(jī)和機(jī)會(huì),我們也有 194
讓我們玩點(diǎn)有趣的:實(shí)戰(zhàn) 198
要點(diǎn)總結(jié) 200
附錄 技巧、竅門和資源 205
五大安全建議和做法 208
致謝 211
作者簡(jiǎn)介 214