0
假設你駕駛的車輛出現意外，你有且只有兩種選擇：
A：無動于衷，車會直接撞向前方的人群；
B：撥動方向盤，但車會撞向另一條路上的人。
你該如何抉擇？
功利主義者認為，決策應該遵從“為多數人提供最大利益”原則，即犧牲更少的人，拯救更多的人。
這一觀點遭到義務論者的反對，后者認為因救人而殺人，本質屬于不道德行為，與人內心的道德命令相悖。
這個被稱為電車難題的實驗，不論如何選擇，人都會陷入「道德困境」之中。
假如把人換成AI呢？
在電影《機械公敵》中，主角戴爾·史普納曾遭遇一次車禍，前來營救的機器人經過計算，選擇了生存率更高的男主，而非另一個小女孩Sarah。實際上，史普納更希望機器人救小女孩。
電影《機械公敵》劇照
這部劇中，AI并未面臨「道德困境」，而是根據其計算出的“生存率”進行施救，但恰恰是這冷冰冰的數字，加深了戴爾·史普納對機器人（AI）的不信任。
這實際上反映出一個問題：當人們期待更高智能水平的AI時，要不要對AI本身進行法律上的規制，或進行道德約束？假設需要，如何進行規制？
更具體一點，在上述的施救過程中，AI能不能擔責？法律責任如何界定？等等，該如何回答？
先來思考一個問題：《機械公敵》中，機器人根據“生存率”救下男主戴爾·史普納，這個“生存率”是怎么計算的？
這個在劇中看似簡單的問題，實際上觸摸到了AI的核心難題之一：決策的不可解釋性。
性別、年齡、情緒等特征可能是計算生存率的部分數據，但機器人是怎么進行決策的，目前的人工智能系統很難解釋。
換句話說，人們知其然而不知其所以然。
以現在非常火熱的深度學習為例，其決策場景下的模型可解釋性很差，具體表現為：輸入特征與輸出結果之間存在一個無法觀測的“黑箱”空間。
比如，阿爾法狗在與柯潔的對弈中，其每一步都是動態的，谷歌只下達了“贏得比賽”的指令，但阿爾法狗是如何根據柯潔的落子來決定對策從而贏得比賽，人們卻無從得知。
這種不可解釋性對于非常重要的場景，比如交通、金融、醫療等，是一種巨大的安全隱患。人們無法從人工智能系統決策過程中獲取有效信息，進而也無法快速對系統進行優化，避免可能導致的利益損失。
另一個重要的點：機器人在救人過程中是否涉嫌“算法歧視”？也就是人工智能系統的公平性問題。
人工智能算法會受到訓練數據的影響，如果訓練數據中存在偏見，那么其決策也會形成歧視。
電影里的機器人在面對男女性別差異時，作出的決策有沒有偏見，這一點無從得知。但現實生活中，美國芝加哥法院曾采用的犯罪風險評估系統（COMPAS）被證明對黑人存在歧視。
如果一個黑人犯了罪，他被該系統錯誤地標記為具有高犯罪風險的可能性更大，因此可能會被法官判處更長的刑期。
更為普遍的例子是，人們所熟知的大數據殺熟，實際上是根據用戶特征/偏好數據形成的價格歧視。
從經濟學角度上講，價格歧視并非貶義，比如老人小孩乘坐公交車享受比成人更低的價格優惠。
但對于人工智能系統而言，基于數據訓練形成的價格歧視，根據用戶購買行為、性別等進行分層，從而給新用戶以優惠，給老用戶「高貴」，這種歧視無法可依，本身影響了「消費者公平」。
除了可解釋性、公平性之外，AI的安全性、穩健性等問題也引發人們對AI的信任危機。
安全性表現在AI如何保護數據安全。過去一段時間里，Google、Meta等公司先后被爆出數據泄露問題，引發全球對數據保護的關注，各國也加快了針對隱私、數據保護方面的立法。
穩健性則是指人工智能系統在異常情況下，仍能保持正常運行，而不至于崩潰。例如，現在的智能駕駛都有一套「冗余」方案，目的是防止極端天氣、車輛碰撞等場景下，車輛失控的情況。
但目前人工智能系統的穩健性，還有待增強。
基于不可解釋性、公平性、安全性、穩定性等問題，AI需要面臨的最后一道門檻是：人工智能到底能不能成為責任主體？
也就是說，人工智能因技術缺陷帶來的不良后果，誰來背鍋？軟件開發商還是所有者？
《機械公敵》中，機器人桑尼殺死了自己的“父親”朗寧博士，真相大白以后主角史普納警官卻沒有對桑尼提起訴訟，因為桑尼并非人類，處于人類法律的界限之外。
電影《機械公敵》劇照
上述的問題實際上造成了普通大眾對于人工智能的「信任危機」，然而直到現在，尚且沒有一部成型的法律來對人工智能進行規制。
不過，從學界、產業界以及政府等多方的實踐之中，仍能看到有益的探索。
《機械公敵》里對機器人設置了三大法則：
1、機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管；
2、機器人必須服從人給予它的命令，當該命令與第一定律沖突時例外；
3、機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。
這三條法則相互制約，但從規則內容不難看出，「以人為本」是其根本精神。
這種精神從AI誕生元年就已經存在，然而在漫長的AI發展年輪中，技術探索始終占據著主流，對AI的審視與反思，主要是近十年來的結果。
究其原因，是技術從實驗室或者小規模應用場景，走向了大規模落地場景；人們對AI的認知也在逐漸深化，從“不可置信”到懷疑，再到建立信任，是一個螺旋式上升的過程。
雷峰網(公眾號：雷峰網)了解到，對于人工智能的規范性研究，主要以2015年為爆發點。
2015年1月，歐盟議會法律事務委員會（JURI）決定成立專門小組，研究機器人和人工智能發展相關的法律問題。同年，聯合國教科文組織開啟關于機器人倫理方面的研究。
此后的幾年時間里，聯合國、歐盟、電氣和電子工程師協會（IEEE）等國際性組織先后開啟關于人工智能倫理方面的研究工作，并且發布了相應的倫理準則。其中，影響較為廣泛的是2017年的“阿西洛馬人工智能原則”和IEEE倡議的人工智能倫理標準。
我國于2018年1月成立了“人工智能標準化總體組”，并發布《人工智能標準化白皮書2018》，論述了人工智能的安全、倫理、隱私等問題，并設定了相應的倫理要求和共識原則。
可以看出，自2015年以來，不論是國家級別的頂層設計，還是專業組織的呼吁倡議，人工智能的研究主要集中在倫理方面。
但這些倫理準則在實操過程中卻面臨執行困難問題，其根本原因在于，倫理準則屬于“軟性約束”，缺少相配套的落地機制，比如法律監管、行業約束等等，容易形成道德漂白（ethics washing）。
因而，在倫理準則的基礎上，學術界開始了「可信AI」的討論與探索。
所謂「可信AI」，根據中國信通院發布的《可信人工智能白皮書》的定義，可以理解為一種方法論，即“從技術和工程實踐的角度，落實倫理治理要求。”
國內關于可信AI的討論最早可追溯至2017年香山科學會議，由何積豐院士提出的“人工智能技術應該具備可信的品質。”并從學術研究角度，將可信AI的研究范圍放在安全性、公平性、可解釋性、隱私保護等方面。
國際上對于可信AI的研究在近幾年也呈爆發趨勢，2020年關于可信AI的研究論文比2017年增長近5倍，國際先進人工智能協會（AAAI)連續數年舉辦了 Explainable AI 研討會。
學術界的影響也蔓延至政府，后者開始在人工智能倫理準則之上，強調“治理”。
2020年，歐盟發布《人工智能白皮書》，提出人工智能“可信生態系統”，對高風險人工智能系統提出強制性監管要求；同年，美國也發布了《促進政府使用可信人工智能》的行政命令。
我國在可信AI方面，先后發布了《國家新一代人工智能標準體系建設指南》《新一代人工智能倫理規范》等文件。
綜合人工智能倫理規范和可信AI相關的學術研究和行政文件，可以總結出，當前的AI治理「價值觀」體現在“以人為本，AI向善”，具體則表現為公平（無歧視）、透明（可解釋）、無害（不作惡）等等。
而在這種價值觀的指引下，作為AI落地的實際推動者，產業界也開始了關于AI治理的探索之路。
對于治理人工智能發展出現的的各種問題，企業作為直接相關方，起著不可或缺的作用。
一方面，在市場經濟大環境下，需求對供給的反向作用非常明顯，大眾對于人工智能安全隱患的擔憂，實際上影響著企業的生存空間。
作為技術/產品供應商，企業倘若不能深刻理解市場需求，只關注技術而忽略市場，必然遭遇獲取用戶信任的滑鐵盧，導致失去市場。
另一方面，企業作為整個經濟活動中的一份子，必然要遵循「市場法則」（法律法規），在追求經濟效益的同時，強化社會責任（Corporate social responsibility）。
因此，國內外諸多互聯網、AI公司先后加入了對AI治理的探索，國外如微軟、亞馬遜，國內如騰訊、京東、曠視等等。
雷峰網發現，目前多數公司的AI治理主要分三個方面：頂層設計、內部管理、技術攻關。
以人工智能公司曠視為例：
在頂層設計方面，2019年7月，曠視公布了基于企業自身管理標準的《人工智能應用準則》，從正當性、人的監督、技術可靠性和安全性、公平和多樣性、問責和及時修正、數據安全與隱私保護六個維度，對人工智能正確有序發展作出明確規范。
與此同時，曠視還參加了多個國家及行業規范標準制定，例如《新一代人工智能治理原則》、《新一代人工智能倫理規范》等，并成為國內率先通過隱私保護國際標準ISO/IEC 27701的人工智能企業。
在內部管理上，曠視主要從企業制度和架構兩方面進行管理。
架構：2019年8月，作為業內首個成立“人工智能道德委員會”的AI公司，曠視聚焦于研討、制定公司相關倫理道德治理的規章與管理機制，并對公司業務中涉及到的重大倫理問題進行決議；
2020年1月，曠視又成立AI治理研究院，旨在聯合國內頂尖研究機構，積極探索AI道德倫理與治理工作的落地路徑。
制度：除了發布《人工智能應用準則》這類綱領性文件，曠視還出臺了《數據分類分級管理規范》、《員工信息安全守則》等細則，在內部形成規范化管理。
與此同時，曠視倡導客戶遵循《數據安全聲明》、《正確使用人工智能產品倡議書》，形成行業「合力」。
對于技術攻關，曠視目前主要集中在數據安全和隱私保護、算法的安全性、穩健性等問題。
例如，曠視研發的前端圖像脫敏方案，是目前業內率先實現在采集端就能完成人臉圖像的不可逆脫敏，來加強個人信息保護。
而在AI基礎平臺研發上，曠視主張通過研發面向數據安全和隱私保護的AI平臺，實現從需求提出到交付的全流程一體化數據安全及隱私保護，相關成果將進行試點推廣。
值得一提的是，曠視還聯合人民智庫、中國人工智能產業發展聯盟等專業機構、組織，發布“全球十大人工智能治理事件”評選榜單，以議題設置的方式，聯動各方對AI治理進行持續關注與深度討論，通過多元交流，共同推動AI治理走向規范化。
目前，該榜單已持續三屆，針對2021年度全球十大人工智能治理事件，來自不同領域的專家表達了類似的觀點。
中國信息通信研究院副總工程師、中國人工智能產業發展聯盟副秘書長王愛華認為，2021年是全球人工智能治理極具實質性突破的一年，縱觀全年的治理事件，全球人工智能治理呈現出“趨實、趨嚴、趨細”三大特點。
清華大學公共管理學院教授、人工智能國際治理研究院副院長梁正同樣表示，人工智能治理已經成為全球共識，且已從理念層面進入到建章立制、落地實施的階段。
從曠視的人工智能治理探索中不難發現，多數企業采取的是自上而下的方式，即建立規章制度，先保證企業自身的技術、制度合規性，再通過企業實踐和行業研討來共識產業方向。
而在當下的人工智能治理中，自下而上的基于應用主體和用戶選擇的參與，也成為人工智能治理的一個重要方法。
需要指明的是，當前的AI治理仍然處于探索期，如何引導人工智能進一步規范發展，仍有待市場經濟環境下，供給、需求、監管等多方在「磨合」后，達成「共識」。
正如曠視聯合創始人兼CEO印奇所言：“AI不僅要在技術創新和應用落地上下功夫，也需在治理上使力氣，這離不開所有AI從業者和社會各界的共同努力。”
回到最初的「電車難題」，在這個場景中，人不得不面臨道德困境，AI或許能破解這個困局。但隨之而來的AI治理相關的難點，又成為AI發展過程中必須要回答的問題。
如今，AI行業在多方的努力下已邁出實質性的一步：在規范中發展，在發展中規范。
在正確「價值觀」的引導下，作為改變世界的技術，人工智能也將快速走進日常生活，造福大眾。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
