AI和人類攜手改變統(tǒng)治

智能機(jī)器不會(huì)很快統(tǒng)治世界，但當(dāng)它們拒絕你的貸款，撞了你的汽車，因?yàn)槟愕姆N族或性別歧視你的時(shí)候，會(huì)發(fā)生什么？

在一個(gè)層面上，答案很簡(jiǎn)單：“看情況。”南卡羅來納大學(xué)的法學(xué)教授Bryant Walker Smith說。

但是，這打開了一個(gè)更為復(fù)雜的法律辯論的大門。 “在我看來，我的機(jī)器人做錯(cuò)事并沒有借口。”總部位于西雅圖的艾倫人工智能研究所（Allen Institute for Artificial Intelligence簡(jiǎn)稱AI2）的首席執(zhí)行官 Oren Etzioni說。

美國(guó)的法律制度和政策制定者面對(duì)的挑戰(zhàn)迅速崛起，其是首次白宮關(guān)于人工智能的公開研討會(huì)，在法律華盛頓大學(xué)醫(yī)學(xué)院展開。整整一個(gè)下午，Smith，Etzioni等專家在座無虛席的禮堂討論人工智能的未來。

白宮副首席技術(shù)官Ed Felten說，今天的討論將納入跨部門的決策過程，包括一份公開報(bào)告，將于今年晚些時(shí)候公布，同時(shí)還有公開信息邀請(qǐng)書的要求。

“敬請(qǐng)期待更多的RFI（request for information信息邀請(qǐng)書）。”Felten說。

一個(gè)響亮而清晰的消息：人工智能的當(dāng)前狀態(tài)遠(yuǎn)遠(yuǎn)不夠先進(jìn)，辜負(fù)了像斯蒂芬·霍金，伊隆·馬斯克和比爾·蓋茨的后顧之憂。 “你得知道它們是哪里來的。”Etzioni說。

“我認(rèn)為現(xiàn)在AI的確有一些非常現(xiàn)實(shí)的問題，我們應(yīng)該要馬上解決。”他說。 “而AI的生存威脅不是其中之一。事實(shí)上，我認(rèn)為這讓我們從一些非常現(xiàn)實(shí)的擔(dān)憂分心了。其一是有關(guān)工作。而另一個(gè)非常實(shí)際的是關(guān)于隱私權(quán)的。”

在工作方面，有人估計(jì)，在2050年，由于快速的自動(dòng)化，全球人口的一半或者更多，可能面臨失業(yè)。在隱私方面，通過互聯(lián)網(wǎng)收集的個(gè)人數(shù)據(jù)越來越多，并由日益智能化代理處理。

有時(shí)候處理會(huì)產(chǎn)生爭(zhēng)議的結(jié)果：例如，在一個(gè)實(shí)驗(yàn)中，研究人員發(fā)現(xiàn)，根據(jù)模擬的用戶配置文件，谷歌的AdFisher計(jì)劃更可能把高薪工作顯示給男性。而就在本周，ProPublica報(bào)道，用軟件程序評(píng)估刑事被告的再犯風(fēng)險(xiǎn)時(shí)，黑人比白人遭受的指責(zé)更嚴(yán)厲。

這是程序的錯(cuò)還是程序員的錯(cuò)呢？正如Smith說，要看情況。

紐約的微軟研究院首席研究員Kate Crawford表示，機(jī)器背后的人類不得不更加重視職業(yè)道德和問責(zé)制，即使是在今天狹隘的人工智能工具的情況下。

“這些系統(tǒng)在一定程度上類似黑盒子。”Crawford說， “當(dāng)這些系統(tǒng)開始成為基礎(chǔ)設(shè)施的時(shí)候，我認(rèn)為我們必須有最高水平的正當(dāng)程序和公正。”

Crawford說，其中一項(xiàng)建議是開展人工智能程序的外部審計(jì)，以確保它們產(chǎn)生理想的政策效果。耶魯大學(xué)法學(xué)教授 Jack Balkin說，另一個(gè)建議是在決策過程中，計(jì)算機(jī)科學(xué)家應(yīng)該加入政策制定者的行列。

“我贊同，”Crawford說。現(xiàn)在計(jì)算機(jī)科學(xué)家已經(jīng)組成一個(gè)團(tuán)隊(duì)，稱為機(jī)器學(xué)習(xí)公平、透明、問責(zé)制（ Fairness, Accountability and Transparency in Machine Learning）。

當(dāng)自動(dòng)駕駛和半自動(dòng)駕駛車集體上路，法律問題很可能會(huì)成為主流。沃爾沃已經(jīng)承諾，將承擔(dān)涉及其自動(dòng)駕駛碰撞事故的全部責(zé)任，而特斯拉汽車就比較謹(jǐn)慎。

談到?jīng)Q定賠償責(zé)任的問題，當(dāng)涉及廠商和用戶時(shí)，法律制度將不得不權(quán)衡反對(duì)派觀點(diǎn)的有效性，沒有涉及自動(dòng)化時(shí)，他們也是這樣做的，Smith說。華盛頓大學(xué)計(jì)算機(jī)科學(xué)教授Pedro Domingos說，人類最終將習(xí)慣于把智能機(jī)器考慮在內(nèi)。

“事實(shí)上，很多事情人們本來覺得不舒服，但很快就會(huì)開始覺得是理所當(dāng)然。”他說。

Domingos說，很可能對(duì)大范圍的應(yīng)用都適用，即使當(dāng)智能機(jī)器身背武器時(shí)。

“如果我發(fā)現(xiàn)自己在戰(zhàn)區(qū)，在我面前還有一架無人駕駛飛機(jī)，它在決定是否要拍我，我一點(diǎn)也不在乎該決定是由人還是機(jī)器所做。”他說。 “只要他們做出正確的決定，讓我能存活下來就行。我寧愿機(jī)器來做這個(gè)決定。手術(shù)也同理，機(jī)器人有99％的成功幾率，而外科醫(yī)生的成功率是98.5％，我會(huì)選擇誰？毫無疑問：我寧愿選擇機(jī)器人。”

最終，社會(huì)可能接納AI程序守望彼此，以確保它們不出差錯(cuò)，Etzioni說。但是，如果事情確實(shí)出了問題，會(huì)有AI起訴另一個(gè)AI嗎？

Etzioni說： “當(dāng)然總比人們互告對(duì)方好。”

via GW

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。