1
| 本文作者： Misty | 2016-03-28 15:41 |
微軟打造Tay的本意，其實是讓這只AI聊天機器人說出各種各樣古怪有趣的笑話，然而事實是后來的Tay被活活調戲成了種族狂熱者。就在Tay開始在Twitter上與人“對話”（或是微軟所說的“學習”人類講話）的短短幾個小時之內，這款清純的機器人變成了一個邪惡的話題終結者。
現(xiàn)在Tay已經(jīng)下線了，微軟表示他們將對Tay做點“調整”。但我們猜測，微軟是想阻止Tay在種族滅絕言論的道路上越走越遠。同時，很多人想知道為何微軟最初沒有預料到如今的局面。如果你打造了一個會重復任何話語（包括一些暗黑種族歧視言論）的聊天機器人，你得料到這一天終將到來。
其實，AI聊天機器人最后成為種族主義者并不是第一次發(fā)生，之前在互聯(lián)網(wǎng)歷史上也出現(xiàn)過諸如此類的暗黑系機器人。現(xiàn)在讓我?guī)Т蠹襾砜匆豢窗伞?/p>
BOT OR NOT?
2014年，Anthony Garvan打造了Bot or Not？，旨在推出一款俏皮的Turing測試衍生物。系統(tǒng)對玩家進行隨機配對，并要求玩家猜測他們的對話者是人類還是機器人。和Tay一樣，這款機器人也會從之前的談話內容中學習人類講話。
Garvan上周四在某個社交網(wǎng)站上表示：當Bot or Not?在社交新聞站點Reddit上走紅之后，它開始變得有點不對勁了……
”在激動心情平復之后，我開始親自測試它，來驗證下我的成績。以下是我們對話的內容。”
我：Hi!（你好啊！）
機器人：n***er（屏蔽詞）
Garvan瀏覽了一下玩家們對這款游戲的評論，他發(fā)現(xiàn)有些用戶察覺到了這款機器人最終會重復它之前學習到的講話方式。
他寫道：“很多人向機器人灌輸了各種種族主義言論。”
Garvan通過清除這些言論并調整游戲來處理此問題，應對那些向機器人極力輸入種族主義言論的用戶。
在他本周發(fā)出的文章中，Garvan對Bot or Not?和Tay出現(xiàn)此狀況的原因發(fā)表了意見。“我相信微軟和其他的機器學習社區(qū)變得太過強大，數(shù)據(jù)太過神奇，以致于它們忘記了這些數(shù)據(jù)原本來自于我們生活的這個不那么美好的世界，”
可口可樂的MAKEITHAPPY機器人
MeinCoke于2015年由Gawker開發(fā)，它在與用戶對話中引用了很多希特勒的《我的奮斗》中的原話。
原因何在呢？如果你還記得可口可樂這個短期項目的原意是將尖酸刻薄的推文變成可愛的ASCII（美國信息交換標準代碼）你也許就知道答案了。
可口可樂這項名為MakeitHappy的項目旨在向人們展示一個軟飲品牌如何讓世界變得更加快樂。但是最終形式是重新設置了其推特賬號，于是賬號可以重組很多糟糕的詞匯，最后將其拼湊成一個“happy”的形狀。
之后Gawker的一位員工發(fā)現(xiàn)了此項目背后的自動過程可以讓@CocaCola這個賬號發(fā)布關于美國白人種族主義的14個單詞口號（口號的形狀是一只超萌的氣球狗狗！），該公司設置了一款機器人，它能直接引用希特勒自傳中的話語，然后用#MakeitHappy當話題來發(fā)布推文。在該項目結束之前，可口可樂已經(jīng)發(fā)布了很多諸如此類的推文了。
WATSON
大約五年前，IBM的一位科學家決定嘗試著教Watson一些網(wǎng)絡俚語，他向此款機器人輸入了整本《城市詞典》（美國在線俚語詞典），Watson也就學習了許多新潮的詞語和犀利的俚語。
《財富》雜志報道：Watson并不能區(qū)分《城市詞典》中充斥的政治語言和臟話，同時它在閱讀維基百科的時候也養(yǎng)成了一些壞習慣，在測試中，它甚至在一位調查者的問答中使用了“bullshit”(鬼話)這種臟話。
在Watson真正死亡之前，他的團隊正極力為他“洗腦”,將這本詞典撤出Watson。
總而言之，如果微軟想讓Tay反映整個互聯(lián)網(wǎng)教會她的東西，那么微軟是成功的。但如果它的目標是創(chuàng)造一個新千年一代的俏皮機器人，那么也許它該去找另外一位老師了。
Via：Stuff
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉載。詳情見轉載須知。
