微軟Tay黑化后，F(xiàn)acebook機(jī)器人要做好保護(hù)措施！

現(xiàn)在機(jī)器人火得不行。好像整個(gè)高科技產(chǎn)業(yè)都在研發(fā)應(yīng)用程序內(nèi)以AI為基礎(chǔ)的助手，為你進(jìn)行簡(jiǎn)單、瑣碎的任務(wù)，節(jié)省你的時(shí)間，讓你工作更高效。就在本月，微軟和Facebook都發(fā)布了開發(fā)者工具，使得在其平臺(tái)上打造機(jī)器人更加容易。

鑒于目前該像微軟和Facebook和微信公司希望看到機(jī)器人部署規(guī)模，它的合理?yè)?dān)心這項(xiàng)技術(shù)可能有多少人監(jiān)督有。

這波對(duì)機(jī)器人的興趣的確能迎來新的經(jīng)濟(jì)，內(nèi)部短信平臺(tái)和搜索引擎的這些隱形助手，爭(zhēng)奪我們的感情。眼下，其用途可能看起來很平常——通過短信訂購(gòu)比薩餅，或者在手機(jī)程序買卷餅。但隨著聊天機(jī)器人增多并變得更加熟練，它們可以提供更智能，更個(gè)性化的服務(wù)體驗(yàn)。想象一下，一個(gè)機(jī)器人解答你有關(guān)法律事務(wù)的問題，甚至是你心理健康的問題。

因此，程序員必須保持謹(jǐn)慎。非正確訓(xùn)練、監(jiān)控的機(jī)器人可以變得丑陋。別擔(dān)心，現(xiàn)在還沒有任何機(jī)器人起義的危險(xiǎn)，但已出現(xiàn)恣意欺騙人類的機(jī)器人，眾所周知，微軟的Tay黑化了。高科技公司在開發(fā)對(duì)話機(jī)器人時(shí)必須把這幾件事銘記于心。

自發(fā)行為

作為一個(gè)人工智能機(jī)器人，除了已編程好的，它還可以學(xué)到新的技能和執(zhí)行其它任務(wù)。機(jī)器人專家稱之為自發(fā)行為。機(jī)器人在了解新任務(wù)時(shí)，經(jīng)常沒有人類為其過濾器或引導(dǎo)。這就是聊天機(jī)器人Tay，原本編程是從對(duì)話中學(xué)習(xí)，最后卻變成滿口仇恨的納粹的原因。為了防止這種情況再次發(fā)生，關(guān)鍵是要主動(dòng)監(jiān)測(cè)。

“我會(huì)檢查我所有的機(jī)器人，但更多地，我會(huì)去想如果輸入的東西是否會(huì)產(chǎn)生有問題的內(nèi)容。”諾拉里德說，其創(chuàng)造了許多受歡迎的推特機(jī)器人。 “我會(huì)避免某些內(nèi)容，我不希望這些東西和其他的放在一起，因?yàn)闀?huì)導(dǎo)致邊緣化或偏執(zhí)。”

鑒于目前像微軟、Facebook、微信對(duì)機(jī)器人的部署規(guī)模，擔(dān)心是否有足夠的人在監(jiān)督這項(xiàng)技術(shù)是合理的。微軟未來社會(huì)試驗(yàn)實(shí)驗(yàn)室的經(jīng)理程麗麗說，該公司正在考慮“其它類型的工具，當(dāng)開發(fā)者的機(jī)器人行為方式出現(xiàn)問題時(shí)，我們可以幫助他們得到更好的提示。”程指出，開發(fā)者們會(huì)想知道，他們的機(jī)器人是否在發(fā)送不當(dāng)內(nèi)容，或出現(xiàn)其它異常。

即使是事后分析，機(jī)器人的程序員應(yīng)該，改良機(jī)器人，使他們不再出現(xiàn)麻煩的自發(fā)行為。要做到這一點(diǎn)，可以限制主體獲得數(shù)據(jù)，或者把對(duì)機(jī)器人而言的的不當(dāng)話語(yǔ)，建一個(gè)黑名單。這些都是常見的做法，聊天機(jī)器人交互設(shè)計(jì)師卡羅琳賽德斯說。

別被我的人性化蒙蔽

當(dāng)你與一個(gè)與聊天機(jī)器人對(duì)話，很明顯，你是在和軟件說話。談話會(huì)感覺僵硬。但是，一些機(jī)器人善于閑聊，這個(gè)技能，會(huì)讓你懷疑你真的在和代碼交流嗎。 “因此，信息披露是非常重要的，”桑福德大學(xué)的法學(xué)教授伍德羅哈佐格說， “當(dāng)人們覺得他們正在和人打交道，但實(shí)際上他們是和機(jī)器人交流時(shí)，很容易出現(xiàn)問題。”

微軟強(qiáng)調(diào)公開內(nèi)容在一定程度上的重要性。其開發(fā)者的行為守則要求，一開始發(fā)送歡迎的消息，以幫助機(jī)器人的用戶記住，他們正在與軟件打交道。

但是，歡迎信息不一定披露人與機(jī)器人互動(dòng)。畢竟，亞馬遜的熱門硬件設(shè)備里的機(jī)器人Alexa，僅僅是一個(gè)女人的名字。 “如果這個(gè)名字不能表明它是機(jī)器人，那么這種形式的通知就是有問題的，”哈佐格說， “但是，如果你的產(chǎn)品說，我的名字是聊天機(jī)器人，我是一個(gè)自動(dòng)化的數(shù)字助理。那么你至少讓人們意識(shí)到，他們是與機(jī)器人交流。”

在這個(gè)階段，欺騙可能不是一個(gè)巨大的問題。大多數(shù)將以Facebook和微軟平臺(tái)建立的機(jī)器人， 明顯將是機(jī)器人。 “Siri的答案很機(jī)械化，在與機(jī)器人對(duì)話中，也許一半的回應(yīng)將是對(duì)不起，我不理解你。”賽德斯說。

但能糊弄人的能力是真的，而且還會(huì)越來越厲害。阿什利麥迪遜已經(jīng)證明。臭名昭著的出軌約炮網(wǎng)站被黑客入侵，表明它通過7萬多的聊天機(jī)器人軍隊(duì)，假裝女人來誘惑男人。

作為機(jī)器人時(shí)代的高科技產(chǎn)業(yè)帶位者，一定要記住，雖然樂于助人又高效，但是機(jī)器人只是代碼。雖然，它們被設(shè)計(jì)有自己的主見，但是當(dāng)它們來到世界，需要人們的監(jiān)督，以確保他們循規(guī)蹈矩。

via wired

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。