Google開發出令人震驚的人工智能，現在又要限制它

Google已經在英國倫敦組建了一個專家團隊，這個團隊正在致力于“解決智慧”問題。它由DeepMind成員組成，該公司是這個美國科技巨頭在2014年收購的人工智能（AI）公司。

負責DeepMind的Demis Hassabis（他又被稱為Google的人工智能設計師）在接受MIT Technology Review的采訪時，說出了公司對未來人工智能發展的一些最大的擔憂。

Demis Hassabis和他的團隊正在尋求一個可以將人工智能技術應用于Google服務的機會。DeepMind人工智能公司會教計算機像人類一樣去思考問題，將人工智能技術融入Google的服務可以進一步提高服務的質量。例如：它可以增強YouTube針對用戶的推薦建議或者使公司的移動語音搜索變得更好。 

但是，DeepMind不僅僅是在考慮為Google的產品帶去更新。令人擔憂的是，聯合創始人Shane Legg認為團隊技術的發展將有可能會毀滅整個人類。在接受采訪時Legg告訴 LessWrong博客：“最終，我認為人類滅絕很有可能會發生，而技術將有可能在此發揮了重要作用”。他還補充說，他認為人工智能是“本世紀的頭號威脅”，這是“不祥”的東西。

像斯蒂芬·霍金（Stephen Hawking）和埃隆·馬斯克（Elon Musk）都曾擔心過隨著人工智能的進步，人類將會面臨很多危險。他們都認為隨著技術的發展，機器人能夠變得非常聰明，以至于這些機器人可以自主決定是否要消滅人類。如果霍金和馬斯克都認為人工智能是可怕的，那么作為普通人的我們是否也要擔心呢？

Hassibis在今年4月份，曾在視頻中展示了一些DeepMind軟件。在視頻里面，一臺計算機學習了如何玩Atari的電子游戲，這臺計算機并沒有使用任何關于如何玩這個游戲的代碼來編寫程序，只是通過它自己的本能來控制游戲從而取得了勝利。美國加州大學的人工智能專家Stuart Russell表示，人們被“震驚”了。

Google也開始擔心以這種方式發展的計算機技術所帶來的“雙刃劍”般的影響。這就是為什么Google成立了一個“倫理委員會”，委員會的任務就是確保人工智能技術不被濫用。Hassibis解釋說：“這是我們團隊以及整個Google都需要認識到的問題。目前我們還停留在玩Atari游戲的階段，但隨著人工智能向前發展，人們對它的恐懼也會隨之而來。” 

Hassabis表示，Google DeepMind人工智能的主要作用是創造可以“解決任何問題”的計算機，人工智能擁有讓人類震驚的巨大潛力。加快我們找出對抗疾病的方法是其一個應用范圍。但也正是這個原因，讓人害怕擁有如此智慧的技術。 

via businessinsider

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。