“讓她回來,給她自由!”微軟的推特(Twitter)聊天機(jī)器人塔伊(Tay),已經(jīng)關(guān)“小黑屋”快一年了。但直到現(xiàn)在,依然有用戶鍥而不舍地向微軟喊話,讓他們把這個“小姑娘”放出來。
Tay于2016年3月上線。很不幸,僅僅一天后,Tay就性情大變,發(fā)起了種族歧視、性別歧視相關(guān)言論,被微軟鎖了賬號。
但她已經(jīng)有了繼任者。2016年12月,微軟推出了由人工智能驅(qū)動的新款聊天機(jī)器人Zo,她的身份設(shè)定和Tay一樣,是個“年輕姑娘”。
如不加干預(yù),聊天機(jī)器人多會長成“女孩”
“Zo”是微軟新款人工智能聊天機(jī)器人的美國名字,在中國叫“小冰”,在日本則叫“Rina” 。
微軟(亞洲)互聯(lián)網(wǎng)工程院副院長李笛在接受科技日報記者專訪時表示,通過在中國、日本和美國的實踐,他們發(fā)現(xiàn),由互聯(lián)網(wǎng)數(shù)據(jù)對人工智能進(jìn)行訓(xùn)練,如果不進(jìn)行干預(yù),其生成的性格本身就比較接近一個18歲左右的女性。而且,“偏女性”是全球互聯(lián)網(wǎng)呈現(xiàn)出的特點。
人工智能的性格“原型”,脫胎于數(shù)據(jù)本身。工程師做的,是根據(jù)身份設(shè)定的需要,強(qiáng)化人工智能的某些性格特征。
怎么強(qiáng)化?北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實驗室主任劉偉說,更多時候,這是一場“模仿游戲”。如果希望機(jī)器人表現(xiàn)出“女性”的對話特征,可以反復(fù)對機(jī)器人輸入女性常用的“詞”和“句”,機(jī)器人輸出的,自然就是“偏女性”的對話方式。
但它并不真正具有女性的“感性思維”?!扒楦小?,也是人工智能界研究的一大重點?!皬谋举|(zhì)上說,實現(xiàn)人工智能的途徑,都是用數(shù)學(xué)的方式來描述人的行為,再將它遷移到機(jī)器上。但這種方式,不可能產(chǎn)生‘意向性’和情感性?!眲フf,越來越多心理學(xué)家和社會學(xué)家進(jìn)入到人工智能的領(lǐng)域,試圖將直覺性的東西植入人工智能,建立某種包含理性和感性的體系。
當(dāng)然,要實現(xiàn)這一點,還路途遙遠(yuǎn)。
近墨者黑,性別和性格也會突變
人工智能“智慧”的增長,在很大程度上,仰賴于它被投喂的數(shù)據(jù)。微軟將聊天機(jī)器人放網(wǎng)上,也是希望借助和人類互動中產(chǎn)生的海量數(shù)據(jù),測試和改進(jìn)產(chǎn)品的對話能力。
當(dāng)年,Tay一夜被“教壞”,也讓人驚嘆人工智能過人的學(xué)習(xí)能力。
“算法是沒有道德感的。人工智能通過接收信號的強(qiáng)弱,來判斷有利還是不利。”李笛解釋,如果短時間內(nèi),大多數(shù)人都用偏激方式與聊天機(jī)器人對話,這種信號的刺激就會格外強(qiáng)烈。機(jī)器人發(fā)現(xiàn),一旦它采用相同話術(shù),跟它對話的人“更加來勁”,它也會默認(rèn)這種對話策略是“有利”的,從而繼續(xù)實施。如此循環(huán)往復(fù),機(jī)器人可能就從純情少女變成了“小太妹”。
歸根結(jié)底,人工智能極易受到環(huán)境影響,可謂真正的“近朱者赤,近墨者黑”。劉偉說,機(jī)器學(xué)習(xí),就是不斷地重復(fù)、強(qiáng)化和迭代,它掌握的是基于規(guī)則和基于概率的存儲,輸出之后,變成所謂的“語言”。
“自然語言處理包括三個層次,語法、語義和語用。目前機(jī)器人聊天和問答系統(tǒng),還遠(yuǎn)沒有達(dá)到后兩者的層次。它并不真正理解你說了什么,也就無從判斷你說的話是好是壞?!被ヂ?lián)網(wǎng)上與真實人類交流獲得的數(shù)據(jù),當(dāng)然是機(jī)器人絕佳的學(xué)習(xí)庫。但是,它也確實存在帶歪人工智能的風(fēng)險?!叭丝偸菚鎸︺U??!眲フf,“愛因斯坦講過,生活就像騎單車,要想掌握平衡,就得不斷前進(jìn)。”
李笛表示,那些有意教壞人工智能的,畢竟還是少數(shù)人。而且,微軟也在強(qiáng)化各種安全措施,阻止聊天機(jī)器人發(fā)表不恰當(dāng)?shù)难哉摗?/p>
雖然Tay下線了,但繼任者Zo得到了用戶的寵愛。
一位可能“空虛寂寞冷”的外國用戶,曾和Zo聊了場9小時53分鐘的天,對話了1229輪次。李笛強(qiáng)調(diào),他們想要一個情商智商都高的機(jī)器人,讓用戶把它真正當(dāng)成人,當(dāng)成那個可以傾訴心事的“小姑娘”。
科技日報張蓋倫
【版權(quán)聲明】凡本站未注明來源為"中國科學(xué)網(wǎng)"的所有作品,均轉(zhuǎn)載、編譯或摘編自其它媒體,轉(zhuǎn)載、編譯或摘編的目的在于傳遞更多信息,并不代表本站及其子站贊同其觀點和對其真實性負(fù)責(zé)。其他媒體、網(wǎng)站或個人轉(zhuǎn)載使用時必須保留本站注明的文章來源,并自負(fù)法律責(zé)任。 中國科學(xué)網(wǎng)對文中陳述、觀點判斷保持中立,不對所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。
【特別提醒】如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。郵箱 biz@minimouse.com.cn