如果AI被用于犯罪，我們應(yīng)該如何防范？

本文作者：夏睿

2016-10-25 17:28

導(dǎo)語：凡事有利弊。人工智能固然方便生活，當(dāng)然也方便了罪犯。那么，他們是如何利用人工智能采取不法行為的呢？

編者按：《紐約時(shí)報(bào)》高級記者、普利策獎得主、《與機(jī)器人共舞》作者 John Markoff 近日在紐約時(shí)報(bào)上撰文，表達(dá)了他對不法分子利用人工智能犯罪的擔(dān)憂。文章原標(biāo)題為《As Artificial Intelligence Evolves, So Does Its Criminal Potential》，以下為雷鋒網(wǎng)獨(dú)家編譯，未經(jīng)許可不得轉(zhuǎn)載。

隨著人工智能的不斷進(jìn)化，犯罪技術(shù)也跟著變得高級起來。

想象這么一個(gè)場景：有一天你突然接到了年邁母親的求助電話，說自己不小心忘記了銀行密碼。但事實(shí)上她并不是你的母親，電話那頭也只不過是由計(jì)算機(jī)合成，聽起來很像她的聲音而已。

用人工智能電話中偽裝身份，雖然目前還只是科幻想象，但未來這種犯罪方法可能真的會成為現(xiàn)實(shí)。

如今，能促進(jìn)偽裝技術(shù)廣泛使用的軟件正在急速發(fā)展。最近，打敗了世界上頂尖圍棋大師的 Alphabet 旗下子公司 DeepMind 就宣布，他們已設(shè)計(jì)出一種新的程序，該程序能“模仿人類的所有語音，并且聽起來比現(xiàn)有任何文本語音系統(tǒng)生成的語音都要自然。它把自然語言技術(shù)與人類語音之間的差距縮小 50% 還要多。”

但諷刺的是，每年 750 億美元規(guī)模的計(jì)算機(jī)安全行業(yè)今年還在談?wù)摚瑱C(jī)器學(xué)習(xí)和模式識別技術(shù)未來將會如何扭轉(zhuǎn)目前這糟糕的計(jì)算機(jī)安全狀況。他們忽略了一個(gè)對大眾不利的因素。

“人們不知道，現(xiàn)在網(wǎng)絡(luò)攻擊正越來越不需要依賴人力，而且其擴(kuò)張也是呈指數(shù)級的，”執(zhí)法機(jī)構(gòu)顧問、《 Future Crimes 》一書作者 Marc Goodman 說道，“現(xiàn)在已經(jīng)不是 Matthew Broderick 躲在地下室黑別人計(jì)算機(jī)那個(gè)時(shí)代了。”他指的是 1983 年上映的電影 War Games 。

今年年初，美國情報(bào)局局長 James R. Clapper 就曾發(fā)出防止先進(jìn)人工智能技術(shù)被惡意使用的警告。在年度安全審查中，Clapper 強(qiáng)調(diào)，人工智能確實(shí)能給予人們方便，但同時(shí)也能使網(wǎng)絡(luò)世界變得更易受攻擊。

Goodman 表示，計(jì)算機(jī)犯罪的復(fù)雜性可從不斷升級的攻擊工具中窺見，廣泛使用的惡意程序 Blackshades （該程序設(shè)計(jì)者是瑞典人，已于去年在美國定罪）就是其中之一。

該程序在計(jì)算機(jī)地下市場賣的很是火爆。“其功能被稱作‘匣子里的刑事特權(quán)’，” Goodman 說道。用戶無需任何專業(yè)技能就能輕松部署勒索程序，點(diǎn)一下鼠標(biāo)就能進(jìn)行視頻或音頻竊聽。

如今，人工智能研究人員正在努力用機(jī)器學(xué)習(xí)改善計(jì)算機(jī)視覺，語音理解，語音合成和自然語言理解等技術(shù)。但同時(shí)，黑客們也在學(xué)習(xí)使用機(jī)器學(xué)習(xí)這種先進(jìn)的技術(shù)進(jìn)行更高級的犯罪。一些計(jì)算機(jī)安全研究員們認(rèn)為，早在 5 年前，不法分子就已經(jīng)開始使用人工智能技術(shù)進(jìn)行數(shù)字犯罪了。

顛覆了互聯(lián)網(wǎng)領(lǐng)域，無所不在的驗(yàn)證碼就能證明這一點(diǎn)。2003 年卡耐基梅隆大學(xué)發(fā)明了 challenge-and-response puzzle，這是一種能全自動區(qū)分計(jì)算機(jī)和人類的圖靈測試，用來阻止自動程序盜取在線賬戶。

加州計(jì)算機(jī)安全研究員 Stefan Savage 表示，五年來，人工智能領(lǐng)域的研究者和犯罪者都在部署計(jì)算機(jī)視覺軟件以顛覆驗(yàn)證碼技術(shù)，“如果你已經(jīng)兩年沒改驗(yàn)證碼，它就會被機(jī)器視覺算法給控制住。”

但令人驚訝的是，低成本和免費(fèi)勞動力正在使惡意人工智能的發(fā)展得更迅速。比如，網(wǎng)絡(luò)罪犯已將驗(yàn)證碼破解工作外包給電子工廠，而這只需要花費(fèi)很少的人力費(fèi)用就能辦到。

甚至，有些更具創(chuàng)造性的計(jì)算機(jī)騙子已經(jīng)開始用網(wǎng)絡(luò)色情獎勵(lì)那些能破解驗(yàn)證碼的人，Goodman 說。人工智能軟件永遠(yuǎn)也比不上免費(fèi)勞動力這種商品。

所以，接下來會如何呢？

對初入網(wǎng)絡(luò)犯罪這一行的人來說，他們可是搭上高科技的順風(fēng)車了。語音識別系統(tǒng)，比如蘋果的 Siri 和微軟的小娜，如今正廣泛應(yīng)用于人機(jī)交互中。亞馬遜的 Echo 語音控制揚(yáng)聲器和 Facebook 的 Messenger 聊天機(jī)器人平臺也正在迅速成為網(wǎng)絡(luò)商務(wù)以及消費(fèi)者常用的在線通道。而一般情況下，一旦像語音識別這樣的交流技術(shù)開始流行，那么罪犯也很快會利用上它們。

“我在想，用聊天機(jī)器人提供客戶支持的公司是不是正在默默承擔(dān)著一項(xiàng)社會工程，”krebsonsecurity的一名調(diào)查記者 Brain Krebs 說道。

社會工程通常是計(jì)算機(jī)安全鏈中最薄弱的一個(gè)環(huán)節(jié)。網(wǎng)絡(luò)犯罪分子會利用人們的信任或樂于助人的品質(zhì)進(jìn)行盜竊或偷窺，而創(chuàng)造出能騙人的高級人工智能只會使計(jì)算機(jī)等設(shè)備變得更不安全。

在州政府和政治運(yùn)動的政治宣傳中，我們可以看出廣泛使用的聊天機(jī)器人技術(shù)帶來的負(fù)面影響。

研究人員甚至還發(fā)明詞語“計(jì)算機(jī)宣傳活動（computational propaganda）”來形容在 Facebook 和推特等社交媒體上爆發(fā)的欺騙行為。

在最近發(fā)布的一篇研究論文中，牛津互聯(lián)網(wǎng)學(xué)院的社會學(xué)家 Philip N. Howard 和布達(dá)佩斯考文紐斯大學(xué)（Corvinus University of Budapest）研究員 Bence Kollanyi 描述了在英國退歐公投時(shí)，政治聊天機(jī)器人是如何通過這樣一個(gè)小角色表現(xiàn)出其塑造線上對話的策略的。

而罪犯也遲早會用上這些軟件。

獨(dú)立計(jì)算機(jī)安全專家 Mark Seiden 說道：“攻擊社會工程的設(shè)計(jì)中有很多小伎倆，但就我所知，還沒人開始用機(jī)器學(xué)習(xí)來找什么人最容易上當(dāng)受騙。”

也許，Seiden 專家不該說這句話。

via：nytimes