0
| 本文作者： 貝爽 | 2020-08-05 18:01 |
社交媒體平臺正在泄露你的個人隱私。
一張自拍照就能夠識別出姓名、聯(lián)系方式、家庭住址，這對于面部識別技術來說，可能已經不是什么難事兒。換句話說，只要能夠獲取到照片數據，面部識別技術就能輕松獲取個人敏感信息。
如今，我們在社交媒體上的大量曝光，獲取這些照片數據也變得很容易。此前，美國面部識別公司便創(chuàng)建了一個約有30 億張圖像的超大容量人臉數據庫，而這些數據均從 Facebook，Venmo，YouTube 等社交媒體平臺抓取而來。
無處不在的面部識別技術和未經授權的數據獲取已經對個人隱私造成了嚴重威脅。面對這些威脅，芝加哥大學Sand Lab團隊提出了一種新的解決思路——或許我們可以為照片添加一層“隱身衣”！
Fawkes ，已經讓曠視、微軟、亞馬遜等公司的面部識別算法失靈。
來自芝加哥的調查團隊稱。Fawkes的正是為照片添加防識別“隱身衣”的AI軟件，經檢測，它已經在最先進的面部識別技術中取得了百分百的勝利。
我們先來看一組圖片。
相信你很難看出兩組照片有任何差別。事實上，后者已經過了Fawkes處理，并能夠屏蔽任何人臉識別算法。
研究人員介紹，F(xiàn)awkes軟件對人臉圖像進行了像素級的細微更改，肉眼幾乎無法察覺到。而任何掃描這些圖像的算法都會將這些“高度失真”的圖片視為完全不同的人。
而且，F(xiàn)wkes的處理速度很快，單個圖像僅需要幾分鐘。
如此說來，經過Fawks快速處理的圖像，可以在不改變原貌的基礎上，隨意分享在各大社交媒體平臺，而不用擔心照片被相關公司隨意抓取或用于非法途徑。
據了解，F(xiàn)awkes的命名取自Guy Fawkes Mask（蓋伊·福斯克面具）。該面具形象是英國插圖畫家大衛(wèi)·勞埃德（David Lloyd）以16世紀英國陰謀家蓋伊·福克斯的臉為原型而創(chuàng)造。最早出現(xiàn)在漫畫《V 字仇殺隊》中。研究人員以此表示，通過AI技術巧妙地，不可察覺地更改照片以欺騙面部識別系統(tǒng)。
研究團隊表示，他們希望Fawkes能夠被廣泛部署和使用，以降低個人隱私泄露的風險。因此，F(xiàn)awkes已經完全對外開放，任何人都可以下載和使用，Windows和Macs系統(tǒng)均可以支持。據統(tǒng)計，這款軟件已經被下載超過100,000次。
下載連接：http://sandlab.cs.uchicago.edu/fawkes/#paper
Fawkes“隱身衣”的實現(xiàn)過程
目前Fawkes軟件已經升級到V0.3版本。V0.3更新了目標選擇算法，比此前的V0.1、V0.2相比，可顯著降低偽裝后攝動偽像的可能性。目前，關于它的技術論文已經對外開放。據了解，該論文將在8月12日至14日舉行的USENIX安全研討會上正式發(fā)表。
論文中表明，在此項研究取得了以下幾個關鍵的發(fā)現(xiàn)。
?以肉眼無法察覺的擾動對圖像的特征空間表示進行更改。
?不管跟蹤器（Tracker ）如何訓練其模型，圖像偽裝都可為用戶識別提供95％以上的保護。
?結果使用Microsoft（Azure Face API），Amazon（Rekognition）和Face ++的最新面部識別進行檢測，F(xiàn)awkes模型可以100％成功。
對于以上的研究發(fā)現(xiàn)，論文中也給出了明確的說明。我們可以看到，整個系統(tǒng)分為用戶圖像和模型驗證兩個階段。
前者是基于Fawkes算法來生成用戶圖像的偽裝版本，后者是通過追蹤器（Tracker ）從網絡資源中檢索偽裝的圖像，并使用它們來訓練未經授權的面部識別模型。最終可以發(fā)現(xiàn)模型輸出的圖像與原始圖像并不相同。
其中，F(xiàn)awkes算法整個系統(tǒng)的關鍵。在這里，研究人員利用特征提取器Φ和目標圖像T，對原始圖像進行偽裝處理，這些目標圖像T均來自可公開獲得的數據集（均大于500K）。
為了確保偽裝圖像在視覺上與原始圖像基本相似，研究人員采用DSSIM來衡量二者的差異，實驗結果表示，DSSIM均小于0.007。（DSSIM是衡量用戶感知圖像失真程度的方法）。
此外，研究人員認為，通過提高用戶特征提取器的魯棒性來實現(xiàn)可移植性。這一目標需要通過對抗訓練來完成。該訓練采用擾動數據訓練模型，可以使輸入的目標圖像不那么敏感。具體來說，對于每個特征提取器，使用PGD攻擊（一種廣泛用于對抗訓練的方法）來生成對抗示例，然后將更新后的特征提取器用于在PubFig和FaceScrub數據集上生成用戶偽裝圖像。
結果表明，每個健壯的特征提取器都會產生隱身衣（Cloaks），而且這些隱身衣幾乎可以完美地轉移到跟蹤器的模型中。可以看到，跟蹤器使用其他特征提取器時，其隱身衣的保護成功率均大于 95％。
最后為驗證圖像實際的偽裝效果，研究人員將經過Fawkes處理過的圖像泄露給了基于云平臺的面部識別系統(tǒng)，包括Microsoft Azure Face ，Amazon Rekognition 和Face ++ 。
這些是面部識別系統(tǒng)是全球最領先技術，被廣泛用于美國和亞洲的企業(yè)，警察，私人實體以及政府。結果來看，F(xiàn)awkes對圖像的保護率達到了100%。
需要了解論文詳細內容，可點擊鏈接：https://www.shawnshan.com/files/publication/fawkes.pdf
引用鏈接：雷鋒網雷鋒網雷鋒網
https://github.com/Shawn-Shan/fawkes
https://www.nytimes.com/2020/08/03/technology/fawkes-tool-protects-photos-from-facial-recognition.html
https://www.theverge.com/2020/8/4/21353810/facial-recognition-block-ai-selfie-cloaking-fawkes
雷峰網原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。
