Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產(chǎn)品”，全球合作刻不容緩

本文作者： AI科技評論

2024-09-18 10:44

導(dǎo)語：推動全球人工智能治理合作，促進(jìn)中西AI專家對話，應(yīng)對AI風(fēng)險，造福人類。

AI安全國際對話發(fā)起人，從左到右依次是Stuart Russell，姚期智，Yoshua Bengio，張亞勤

雷峰網(wǎng)(公眾號：雷峰網(wǎng))消息，九月五日至八日，全球頂尖的人工智能（AI）科學(xué)家匯聚威尼斯，共同呼吁各國政府和研究人員聯(lián)手應(yīng)對AI可能帶來的災(zāi)難性風(fēng)險。圖靈獎得主Yoshua Bengio、姚期智教授，清華大學(xué)講席教授張亞勤、加州大學(xué)伯克利分校教授Stuart Russell等多位計(jì)算機(jī)科學(xué)領(lǐng)域的領(lǐng)軍人物，一道出席了由AI安全國際論壇（Safe AI Forum）和博古睿研究院共同舉辦的第三屆國際AI安全對話（International Dialogues on AI Safety）。

Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產(chǎn)品”，全球合作刻不容緩

圖靈獎得主Yoshua Bengio

Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產(chǎn)品”，全球合作刻不容緩

圖靈獎得主姚期智

在為期三天的會議中，與會科學(xué)家們共同達(dá)成了一份具有重要意義的共識聲明，其核心觀點(diǎn)強(qiáng)調(diào)了AI安全作為“全球公共產(chǎn)品”的重要性，建議各國應(yīng)將AI安全納入學(xué)術(shù)與技術(shù)合作的核心領(lǐng)域。

共識指出，人工智能系統(tǒng)的濫用或失控可能給全人類帶來災(zāi)難性后果。然而，我們尚未開發(fā)出必要的科學(xué)手段來管控和保障對高級智能的使用。由于人工智能帶來的風(fēng)險具有全球性，我們必須將人工智能安全視為全球公共產(chǎn)品，并為實(shí)現(xiàn)這些風(fēng)險的全球治理而努力。我們必須未雨綢繆，齊心防范任何隨時可能出現(xiàn)的災(zāi)難性風(fēng)險。國際社會的初步積極舉措表明，即使在緊張的地緣政治局勢下，在人工智能安全和治理方面開展合作也是可以實(shí)現(xiàn)的。然而，各國需要在現(xiàn)有的努力上邁出更大步伐。

Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產(chǎn)品”，全球合作刻不容緩

清華大學(xué)講席教授張亞勤

Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產(chǎn)品”，全球合作刻不容緩

北京智源人工智能研究院創(chuàng)始主席張宏江，與即任約翰·霍普金斯大學(xué)教授Gillian Hadfield

共識認(rèn)為，作為第一步，各國應(yīng)設(shè)立有能力在其境內(nèi)監(jiān)測和應(yīng)對人工智能事故與災(zāi)難性風(fēng)險的部門。各國監(jiān)管部門應(yīng)協(xié)同合作，制定應(yīng)對重大人工智能事故與災(zāi)難性風(fēng)險的全球應(yīng)急計(jì)劃。長遠(yuǎn)來看，各國應(yīng)建立國際監(jiān)管機(jī)制，以防止出現(xiàn)可能帶來全球?yàn)?zāi)難性風(fēng)險的模型。

為了應(yīng)對可能到來的由高級人工智能系統(tǒng)引發(fā)的災(zāi)難性風(fēng)險，科學(xué)家呼吁，國際社會應(yīng)考慮啟動以下三項(xiàng)工作程序：

應(yīng)急準(zhǔn)備協(xié)議與制度

通過這一機(jī)制，各國的安全監(jiān)管部門可召集會議，合作制定并承諾實(shí)施模型注冊和披露制度、事故報告機(jī)制、預(yù)警觸發(fā)點(diǎn)及應(yīng)急預(yù)案。

安全保障體系

當(dāng)模型的能力超過特定閾值時，要求開發(fā)者為模型的安全性提供高度可信的論證。對于高性能的人工智能系統(tǒng)，隨著它們的廣泛應(yīng)用，部署后的監(jiān)控也將成為保障體系的關(guān)鍵組成部分。這些安全保障措施應(yīng)接受獨(dú)立審計(jì)。

全球人工智能安全和驗(yàn)證的獨(dú)立研究

應(yīng)通過技術(shù)開發(fā)，使各國能夠確認(rèn)開發(fā)者以及其他國家提出的與人工智能安全相關(guān)的聲明是真實(shí)有效的。為了確保研究的獨(dú)立性，這項(xiàng)研究應(yīng)在全球范圍內(nèi)進(jìn)行，并由多個國家的政府和慈善機(jī)構(gòu)共同資助。

清華大學(xué)國際安全與戰(zhàn)略中心主任傅瑩，清華大學(xué)人工智能國際治理研究院院長薛瀾, 中國科學(xué)院自動化研究所類腦智能研究中心副主任曾毅遠(yuǎn)程參與了討論。

在會議的第二天，科學(xué)家們與政策制定者、前國家元首及其他領(lǐng)域的專家進(jìn)行了深入討論，參會者包括前愛爾蘭總統(tǒng)Mary Robinson，卡內(nèi)基國際和平基金會主席Mariano-Florentino (Tino) Cuéllar，歐盟人工智能標(biāo)準(zhǔn)CEN-CENELEC JTC 21主席Sebastian Hallensleben。面對人工智能技術(shù)的快速發(fā)展，專家們一致認(rèn)為，盡快實(shí)施這些提案至關(guān)重要。此次聲明將呈交給多國政策制定者，并在會議中探討了國際社會應(yīng)如何協(xié)同合作，實(shí)現(xiàn)這一目標(biāo)的戰(zhàn)略路徑。

Yoshua Bengio、姚期智、張亞勤：AI安全是“全球公共產(chǎn)品”，全球合作刻不容緩