機器人第一法則被打破：這機器人會主動傷人！

1942年，美國著名科幻小說家、文學評論家艾薩克·阿西莫夫（Isaac Asimov）在作品《我，機器人》中提出了“機器人學三定律”，該理論被稱為“現代機器人學的基石”。恩格爾伯格第一次遇見George Devol時就討論了這個哲學原理。

阿西莫夫提出：

第一法則：機器人不得傷害人類，或坐視人類受到傷害；

第二法則：除非違背第一法則，機器人必須服從人類的命令；

第三法則在不違背第一及第二法則下，機器人必須保護自己。

然而，今天，“機器人學三定律”中第一法則被打破了。

據《華盛頓郵報》日前報道，機器人公司Alexander Reben設計了一款機器人，它會主動傷害人類（就是上圖這個）。如果你把手指頭放到這個機器人前面，那么它就有可能會扎你一下！當然，這一扎不會打來嚴重的傷害，但也會刺出血。

到目前為止，這個機器人已經扎破了好幾個人的手指。而奇怪的是，它甚至是選擇性出擊的。它不是但凡識別到什么就出擊，有時候，當你把手指頭放在它面前，它卻毫無反應，不會扎過來——是否會出擊的不確定性，讓人想起來更覺可怕。

對于這個動機，連它的設計者也不清楚原理，就像AlphaGo是如何算出神之一手的，它的發明者也不知道。Alexander Reben的董事兼CEOAlexander Reben是美國加州一名機器人專家，同時也是一位藝術家。他表示：“它做出是否扎人的決定過程是我無法預測的。這臺小機器人依靠內置的程序，并未采用機器學習或者人工智能技術用于決策過程，但也并非完全屬于50:50的對半開概率。我也不知道它扎人的概率有多大。”“我把它當作一種有型的哲學。”

他指出，這臺小機器人和當前其他機器人都不甚相同，它不會逗你玩，而是世界上第一臺“自主并有意”違反所謂“機器人第一法則”的機器人。與用于作戰的軍用機器人相比，后者對人類的攻擊并不是機器人的決策，而是受到背后人類發出的作戰指令而行動的。

不過，據介紹，這個違法法則的設計也不那么復雜：受電影《傻瓜大鬧科學城》（Sleeper）中那個抱在懷里就能讓人產生愉悅感受的“pleasure orb（快樂球）”的啟發，Reben最初的設計是一臺連著一個金屬臂的“自動梳頭機”，它能讓人感到舒適。人們坐在椅子里后，這個梳頭小機器人就會給你做頭皮按摩。Reben表示，這樣的場景會在人與機器人之間產生出一種某種令人不安的親密感。“在這種情況下，機器會讓人緊張地發抖。人們會感覺非常非常詭異。”

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。