0
雷鋒網10月18日消息，亞馬遜的面部識別工具Rekognition由于與美國警方開展合作，正受到內部員工的反對。一員工在Medium平臺匿名發布了公開信，對公司與警方的合作表示擔憂。
事情的起源是15日，亞馬遜CEO貝佐斯在Wired會議上為美國國防部JEDI云合同辯護時，強調了“做出可能不受歡迎的決定（如與軍方合作）是商業領袖工作的一部分”。僅僅一天之后，這份員工公開信就在各大媒體傳開了。
這封公開信中這樣描述：
我們知道貝佐斯意識到了這些擔憂，現在正在進行全行業的對話。在舞臺上，他承認高科技的產品可能被濫用，甚至被獨裁者剝削。但不是有意義的解釋，亞馬遜將采取行動以防止自己的技術被濫用，貝佐斯建議我們等待社會的“免疫反應”。
如果亞馬遜等待，我們認為傷害將很難撤消。
起底Rekognition項目
雷鋒網進一步探究了這個“Rekognition”項目。
根據公開資料顯示，Rekognition是一個強大的實時面部識別系統，可以利用警察身體上的攝像頭和市政監控系統，追蹤逃犯、被販賣人口等對象。這項技術是亞馬遜在2017年11月正式推出的。
其主要功能是：實時分析流視頻、人物識別和跟蹤、面孔識別、面孔分析、對象場景和活動檢測、視頻檢測、名人識別等。
圖為：Rekognition在社交媒體上查找失蹤人口
查詢了當時發布Rekognition的新聞稿時，雷鋒網摘取了上面的描述文字：
“現在可以對具有數千萬個面孔的集合執行實時面部搜索。這表示搜索延遲減少了5-10倍，同時允許可以存儲比以前多10-20倍的面部的集合。對于公共安全應用程序而言，此更新有助于實時識別數百萬個面孔的集合，從而實現需要立即響應的判斷和舉動。”
當前，這款技術主要在幫助Marinus Analytics公司打擊人口販運（雷鋒網注：Marinus Analytics是美國一家向執法部門授權技術的創業公司）。借助Amazon Rekognition，使用Marinus Analytics的調查人員可以在幾秒鐘內搜索數百萬條記錄，以便找到受害者，從而采取快速有效的行動。
簡而言之，執法人員可以使用失蹤兒童的照片、社交媒體照片或社會工作者的照片，并將其與 Traffic Jam 的數據庫中的其他人員進行匹配，如果他們的照片被用來在網上作為交易等廣告信息發布，將會通過匹配照片幫助執法人員找到受害者。
但是，這項技術有被“擴大化利用”的風險。
根據此前華盛頓郵報的進一步報道，華盛頓的一位警長每月支付6至12美元用于訪問Rekognition，這使得該部門能夠根據實時鏡頭掃描追蹤對象的大頭照。據悉，Rekognition能夠在整個城市的攝像機網絡上運行實時面部識別。
Rekognition項目總監Ranju Das透漏，整個奧蘭多市都有經過授權的攝像機。這些攝像機將數據流式傳輸到Kinesis視頻流，亞馬遜再實時分析這些數據并搜索他們擁有的面部集合。也許當警方想確定這個城市的市長是否在某一個地方，或者他們想要跟蹤的某個其他人，這都可以實現。
公民自由引發社會聯盟關切
對于ACLU（美國公民自由聯盟）而言，這種能力引發了重大的公民自由關注。該組織在一份聲明中說：“通過自動化大規模監視，像Rekognition這樣的面部識別系統威脅到公民自由，對當前政治氣候中已被不公正對待的社區構成特殊威脅。人們應該在沒有被政府監視的情況下自由走在街上。
此前的2018年5月22日，ACLU寫給貝佐斯的信中也闡述了這種關切。
圖為：2018年5月22日，ACLU寫給貝佐斯的信
可見，剛剛在員工漲薪問題上引發部分員工抵觸情緒的亞馬遜，又因為員工的反對遇到了一件麻煩事。
但據雷鋒網了解，這是技術員工在不到一周的時間內發出的第二封匿名信。上一封，來自微軟。
上周五，一名微軟員工也同樣是在Medium上表達了對該公司參與100億美元JEDI國防部云合同的擔憂。
“這是一個秘密的100億美元項目，目標是打造特朗普政府監管的‘更致命的’軍事力量。谷歌員工對這一點看得很清楚，于是發起抗議并最終迫使公司退出投標，而我們看得也很清楚。”
在美國的科技大公司里，鼓勵員工表達意見一直是傳統。雷鋒網也梳理了近些年因為“員工反對”而被迫中止的一些項目或計劃：
谷歌: 員工聯名反對谷歌參與國防部AI項目“Maven”，導致谷歌放棄續簽；員工反對谷歌參與中國審查版的搜索引擎的開發，高管離職抗議并爆料；員工反對谷歌參與JEDI國防部云計算合同，谷歌只能宣布退出競標。
微軟：員工反對微軟競標IEDI云合同，稱不符合AI倫理原則；員工反對公司向ICE提供服務。（雷鋒網注：ICE是美國移民海關執法部門）
Salesforce：參與移民政策，最終在員工反對與批評聲中與美國海關和邊境保護局中斷了技術合作。
蘋果：因為保密措施極其嚴格，甚至影響員工正常生活，也曾遭遇員工抱怨。2017年，蘋果共計抓到“29名泄密者”，其中有12名已被逮捕。
Facebook：由于Facebook一位全球政策高管Kaplan支持最高法院大法官提名人，并出席了其提名聽證會，數百名Facebook員工表示了憤怒。員工認為企業遭政治綁架，隨后，Kaplan在一個內部論壇上為自己唐突出席聽證會道歉。
…
雷鋒網點評
可見，在美國的大型科技公司中，“員工問責制”正形成巨大的影響力，或超過媒體影響力，推動者公司在不斷的調整決策。即便他們的CEO都是全球性的商業領袖，也沒辦法忽視這些意見。
而眼下，當亞馬遜員工堅持“不作惡”的理念繼續走下去的時候，我們并不確定Rekognition是否會接著運行。相比國內，與警方、軍方的合作則顯得是非常重大且具有戰略意義，因為政府的采購是強有力的背書，對技術和流程有著十分嚴格的程序，重要的一點是，這種項目一般都是大單子，動輒上千萬，甚至上億。在國內企業趨之若鶩的追求軍事合同當下，我們旁觀者其實更應該多一些清醒思考的空間。
公開信全文：
《我是亞馬遜員工。我的公司不應該向警察出售面部識別技術》
10月17日
當一個公司把新技術引進世界時，它有責任思考后果。我工作的亞馬遜公司目前允許全國各地的警察部門購買它的面部識別產品“Rekognition”，我和其他員工要求我們立即停止。
幾個星期前，我的同事給杰夫·貝佐斯和其他高管寫了一封信，上面有450多名員工簽名。這封信還包含要求將Palantir公司踢出AWS，并規定對員工進行道德監督。Palantir是ICE的大部分遣返和追蹤程序的軟件公司。
我們知道貝佐斯意識到了這些擔憂，現在正在進行全行業的對話。在舞臺上，他承認高科技的產品可能被濫用，甚至被獨裁者剝削。但不是有意義的解釋，亞馬遜將采取行動以防止自己的技術被濫用，貝佐斯建議我們等待社會的“免疫反應”。
如果亞馬遜等待，我們認為傷害將很難撤消。
畢竟，我們關注的不是其它公司將來可能造成的危害，而是亞馬遜目前正在設計、營銷和銷售的一套用于危險、大規模監控的系統：Rekognition。亞馬遜網站吹噓說，該系統可以一次性存儲和搜索數千萬張人臉。執法部門已經開始使用亞馬遜的這項面部識別技術，但幾乎沒有任何公眾監督，也沒有對此進行公開辯論，或有所限制。佛羅里達州奧蘭多市正在通過遍布全市的監控攝像頭的實時視頻信號來測試Rekognition。俄勒岡州的一個警察部門目前正在利用Rekognition，讓現場的警官將照片與數據庫的面部照片進行比對。這已不再是一個假設的情況。
如果我們想要領導，我們需要在人與利潤之間做出選擇。
歷史告訴我們，新的強大的監控工具仍然掌握在國家手中，將用于針對沒有做錯事的人；在美國，由于缺乏公共問責制，已經導致了對有色人種、移民和行使第一修正案權利的人進行過度干擾和過度監管。在向政府和執法機構提供強大技術的同時，忽視這些緊迫問題是危險的和不負責任的。
這就是為什么當AWS全球公共部門副總裁Teresa Carlson最近表示亞馬遜“堅定的支持”執法、國防和情報客戶時，我們失望的原因，即使我們不知道他們實際上是利用一切的工具做什么。
亞馬遜甚至建議，為警官隨身相機提供Rekognition功能，這將把本來作為警察問責的工具變成針對公眾的移動監控設備。我們為什么要這樣做？
我們都有權利去生活，而不被政府不斷監控。像我們這樣的公司不應該參與促進威權監督。不是現在，也不是以后。但Rekognition支持通過從一幀視頻中提取幾十個面部標識，并將它們存儲起來供以后使用，或者立即將它們與有數百萬張圖片的數據庫進行比對。
出售這個系統與亞馬遜的價值觀背道而馳。我們把自己作為一個以客戶為中心的公司。貝佐斯也直接反對不道德的政府政策、穆斯林的禁令。
我們不能以犧牲公眾利益為代價，從那些擁有強大權力的客戶群體中獲利；我們不能忽視我們業務對公眾利益的損害。我們銷售的Rekognition系統是一種有缺陷的技術，它強化了美國現有的偏見。研究表明，面部識別技術更容易誤認擁有深色皮膚的人。這一點在最近對Rekognition的測試中得到了明確的證明。這項調查將美國國會議員的照片與數據庫的一些臉部照片逐一比對，結果出現了28項錯誤匹配，而在有色人種中不正確結果比例特別高。但即使這些錯誤被修正了，允許執法部門使用這種軟件仍然是不負責任、危險和不道德的?，F在，產生這種偏見的根源存在于美國更廣泛的社會和司法系統中。面部識別技術的使用只會復制和放大美國現有的這種偏見。
美國目前的政治環境使得向政府出售面部識別產品的想法更加令人反感。美國警方加大了對黑人活動人士的監視力度，特朗普政府也在繼續全力打擊移民。我們不希望以任何方式為美國政府的超級監視系統做出貢獻。亞馬遜表示已要求Rekognition的客戶遵守法律，但這只是一種為這項技術的負面使用逃避責任的方式。
谷歌員工公開反對公司與美國國防部的Maven合同，微軟員工公開反對公司與美國國防部的云計算合同JEDJEDI，我們將跟隨他們的步伐。不管我們對美國軍方的觀點如何，任何人都不應該從“增加軍隊的殺傷力”中獲利。
亞馬遜談論了很多關于領導力的價值觀問題。如果我們想要擁有領導力，我們需要在人類利益與利潤之間做出選擇。我們可以把危險的監視系統賣給執法部門，或者我們可以維護正義。但我們不能兩者兼得。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
