0
通話1：叮鈴鈴~
某公司老總：歪~小李子，咱公司今年財務收入多少？啊~嗯，不是很多嘛，你把它全都轉到我賬上來，我要用來運轉子公司。
小李子：得嘞，老板就是太上皇，您說啥就是啥~
通話2：叮鈴鈴~
小李子：歪~老板，俺已經按照吩咐把錢打過去了，您收到木？
某公司老總：納尼？啥錢？你個鱉孫兒，我啥時候讓你打錢嘞？
小李子：......（懵圈中）
看到這里，想必聰明的你已經猜到了，上面兩次通話中出現的“某公司老總”里有一個定是假的。講真，不是小李子太笨，而是這AI合成的聲音已然達到以假亂真的程度。
近日，據華爾街日報報道，犯罪分子通過商業化的人工智能語音生成軟件，向一家英國能源公司多位同事及合作伙伴騙取錢財，使得該公司一天內損失220000歐元（約合173萬元人民幣）。
AI假扮領導聲音，只能跪著被騙
和上面故事描述的一樣，這家英國能源公司CEO接到了來自德國母公司領導的電話。
電話中，這位“首席執行官”要求他將資金發送給匈牙利供應商，并聲稱這是緊急事件要求在一小時內付款。
“當時在聽電話的，除了我還有我的其他同事們。在整個對話中，我們幾乎認定電話對面的這個人就是德國母公司的首席執行官，至少從聲音來判斷是這樣的。”
于是，該公司CEO毫不猶豫地按照對方要求將錢打了過去，在這之后他又連續接到了三通要求打款的電話，這才引起了他們的警惕。
華爾街日報引述該CEO的話說，我的“老板”在一天內打了三通電話，都聲稱供應商那邊需要進行緊急打款以確保雙方接下來穩固的合作關系。
顯然，在220000歐元到手后對方使用同樣的套路繼續進行詐騙，在之后的兩通電話中對方提及其德國母公司需要轉移資金償還英國公司的費用。
他們注意到，這幾通電話均來自奧地利并且都是如此頻繁的電話催款，這引起了該公司行政部門的懷疑，因此并沒有進行第二次的打款操作。
據悉，后續調查中發現罪犯將收到的錢從匈牙利轉移到墨西哥和其他地方。由于此次事件是基于人工智能的網絡攻擊行為，因此查找罪犯要更加困難。
截至目前，警方并未確定其罪魁禍首，被詐騙的220000歐元將全部由該公司的投保公司 Euler Hermes（裕利安宜）集團承擔全部損失。
AI演進，語音克隆成新騙術
AI技術的突飛猛進，使得語音克隆變得日漸平常。無論是聽書軟件、地圖導航還是社交軟件中都會有所使用。最典型的就是QQ里“變聲”功能，無論你是男是女，都能讓你發出各種明星大腕的聲音來。
另一邊，越來越擬真的AI語音讓人們無法分清電話中的彼此。去年10月，谷歌在開發者大會上演示了一個頗受爭議的功能——AI撥打/接聽電話。
隨著引入了更深的layer的卷積網絡模型，這些模型能編碼更高維度和可解釋的特征（ neural style）。從原理上來說，語音克隆就是從neural style算法中汲取靈感，實現一個好的隱空間模型來生成raw audio，并用于進行語音Style Transfer。
在谷歌的NSynth中，對合并兩種樂器聲音的工作中已經對Style Transfer進行了研究。一般認為voice style transfer更容易評估，語音克隆則更具挑戰性，因為語音在模型的隱空間中更難被表征。
通常情況下，目標風格的聲音和可能會說出的原聲音內容完全不同。為了實現語音克隆，會設計出這樣一種模型——該模型能夠在更高維信息的隱空間內對語音編碼的方式進行修改，并能概括到目標語言風格，而無需在內容語音中可能出現的所有音素（最小語音單元）上進行訓練。
上述模型設想，可以簡稱為voice transfer（CTI技術中一種語音傳輸方法的設計與實現），它能夠讓語音助理，擁有所有的不同風格，甚至創造一個擁有自己聲音的語音助手。
芯盾時代合伙人杜旭稱，現階段使用AI的攻擊手段主要有人臉識仿冒（又稱：數字整容）語音克隆兩類，其實現難度并不大。簡單來講，攻擊者會通過AI技術對現有錄音的嗓音、音階范圍等進行模擬，即可模擬發聲。
這是一種基于AI的實時變音技術，在知道了聲音的頻率和聲線等數據后，即可根據提前設定好的文字內容與庫中的文字（帶有音調信息）進行比對，然后按照希望模擬的人的聲音進行發聲。這種發聲方式的擬真度極高，對方很難辨識。此外，該事件的場景是企業場景，即老板給員工打電話，這就更加強了通話方的信任度。
值得一提的是，攻擊者之所以如此輕松得手，還有一個原因不容忽視——轉賬方為第三方公司而非該公司本身。也就是說，很有可能攻擊者通過攻擊郵箱提前得知了近日會有相當金額轉賬的情況，而恰好又遇到第三方公司的安全認證機制不夠完善這才給攻擊者鉆了空子。
“這實際上是一個精心設計的騙局，對于一名企業員工來說，如此場景下再加上信息泄露，攻擊者完全可以偽裝出所謂‘老板’的形態，其辨識度的難度也已超出了純粹的AI語音克隆，”杜旭補充道。
別看這樣一個精心設計的局，但整個過程對于攻擊者來說似乎并沒有太高的成本付出，盡管AI語音攻擊尚屬于新型攻擊手段，但杜旭相信未來這類攻擊手法只會越發頻繁出現。
至于防護手段，其實方法也很簡單。杜旭稱，最簡單可行的辦法就是啟動多因素認證的體系。無論是三方還是企業本身，多重認證得以確保資產留出前的身份確認。譬如，如果該公司加入了轉賬前會發送老板本人進行短信驗證的機制，那么這次攻擊就不攻自破了。
“目前來看，存在這種安全風險的企業并非少數，隨著AI語音攻擊手段的逐漸頻繁，國家將大力推廣多因素認證機制，因此對于國內企業的安全性我并不十分擔心。”雷鋒網雷鋒網雷鋒網
刀用哪一刃，在于人
在之前的采訪中，有安全從業者這樣告訴雷鋒網，黑白兩道之間其實并沒有太大的技術隔閡，最大區別在于初衷的不同。
對于攻擊者來說，人工智能技術僅是更加方便牟利的工具：隨著技術的演進，方便大眾的同時必會有不法分子采用vishing（“語音網絡釣魚”的縮寫）這種新型詐騙方式企圖獲利；對于安全人員來說，人工智能是加固防線的盾牌：無監督學習、AI情報監測等新的工具提升了安全防護的效率。
正所謂刀有兩刃，用哪一面還得看人。
參考鏈接： DeepTech深科技；知乎丨巧克力工廠的查理
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
