情話(huà)APP說(shuō)胡話(huà)，誰(shuí)來(lái)管住它的嘴
發(fā)布日期： 2019-11-20 供稿：科技日?qǐng)?bào)
編輯：吳楠 審核：王征 閱讀次數(shù)：原文標(biāo)題：情話(huà)APP說(shuō)胡話(huà)，誰(shuí)來(lái)管住它的嘴
原文鏈接：http://digitalpaper.stdaily.com/http_www.kjrb.com/kjrb/html/2019-11/20/content_435163.htm?div=-1
“你今天怪怪的?！?/p>
“哪里怪？”
“怪可愛(ài)的?！?/p>
當(dāng)你捧著手機(jī)與追求者或網(wǎng)友聊天時(shí)，會(huì)不會(huì)被這樣的話(huà)“撩”到？但在屏幕那一頭的，或許不是滿(mǎn)懷真情的他或她，而是一個(gè)戀愛(ài)話(huà)術(shù)APP。
近日，聲稱(chēng)“幫你談戀愛(ài)”的戀愛(ài)話(huà)術(shù)APP引發(fā)公眾熱議。不論是在開(kāi)場(chǎng)、初聊階段，還是在感情升溫、邀約見(jiàn)面階段，只要輸入一方說(shuō)的話(huà)，這類(lèi)軟件都可以把相應(yīng)的回答選項(xiàng)奉上。然而，科技日?qǐng)?bào)記者在試用了其中一款下載量較高的軟件后發(fā)現(xiàn)，有些答語(yǔ)驢唇不對(duì)馬嘴，甚至帶有歧視、侮辱的意味。
那么，這類(lèi)軟件究竟是怎樣被“煉”成的？為何會(huì)出現(xiàn)這些“跑偏”的答語(yǔ)？科技日?qǐng)?bào)記者帶著這些問(wèn)題，采訪(fǎng)了北京理工大學(xué)網(wǎng)絡(luò)攻防對(duì)抗技術(shù)研究所所長(zhǎng)閆懷志。
聊天機(jī)器人在戀愛(ài)場(chǎng)景的應(yīng)用
“其實(shí)，戀愛(ài)話(huà)術(shù)APP就是聊天機(jī)器人技術(shù)在這種APP所營(yíng)造的‘戀愛(ài)場(chǎng)景’的應(yīng)用?！遍Z懷志表示，聊天機(jī)器人是目前常見(jiàn)的用來(lái)模擬人類(lèi)對(duì)話(huà)或聊天的程序。本質(zhì)上來(lái)說(shuō)，這種戀愛(ài)話(huà)術(shù)APP，是大數(shù)據(jù)及人工智能技術(shù)的一種應(yīng)用，類(lèi)似的應(yīng)用還有各種商務(wù)平臺(tái)的客服機(jī)器人。
閆懷志介紹道，當(dāng)前，此類(lèi)程序多是通過(guò)線(xiàn)下搜集大量特定主題的聊天數(shù)據(jù)，后借助大數(shù)據(jù)分析處理算法，從海量數(shù)據(jù)中抽取對(duì)話(huà)要素，再設(shè)置對(duì)話(huà)場(chǎng)景，同時(shí)通過(guò)自然語(yǔ)言語(yǔ)義分析來(lái)判斷用戶(hù)意圖，最后從數(shù)據(jù)庫(kù)中找到最適合的語(yǔ)句去匹配回復(fù)。
也就是說(shuō)，研發(fā)聊天機(jī)器人，首先要搜集大量的人類(lèi)對(duì)話(huà)內(nèi)容，將其整理成數(shù)據(jù)庫(kù)，當(dāng)用戶(hù)使用時(shí)，軟件再通過(guò)分析算法，把“候選答案”從庫(kù)中“拎”出來(lái)。
“聊天機(jī)器人還擁有豐富的對(duì)話(huà)上下文場(chǎng)景庫(kù)和強(qiáng)大的自我學(xué)習(xí)能力，基于與使用者的實(shí)時(shí)互動(dòng)，習(xí)得新的對(duì)話(huà)和語(yǔ)境?！遍Z懷志說(shuō)。
戀愛(ài)話(huà)術(shù)APP的研制也采用了上述方法，只不過(guò)因其應(yīng)用為戀愛(ài)交友，所以可能還會(huì)加上戀愛(ài)場(chǎng)景特定的話(huà)語(yǔ)體系以及大量的網(wǎng)絡(luò)流行語(yǔ)等。
記者了解到，戀愛(ài)話(huà)術(shù)軟件可提供兩大類(lèi)服務(wù)：既可充當(dāng)“替身”，直接替代使用者與對(duì)方聊天；也可做“助理”，向使用者推薦若干答語(yǔ)選項(xiàng)，供其選擇回復(fù)。
APP上架審核尚處監(jiān)管灰色地帶
既然有強(qiáng)大的技術(shù)作支撐，為何此類(lèi)軟件還會(huì)說(shuō)胡話(huà)呢？
“判斷一個(gè)聊天機(jī)器人是否合格的標(biāo)準(zhǔn)之一，就是看其能否通過(guò)圖靈測(cè)試?！遍Z懷志解釋道，簡(jiǎn)單來(lái)說(shuō)，圖靈測(cè)試就是讓機(jī)器人和人類(lèi)分別回答測(cè)試者提出的問(wèn)題，若機(jī)器人給出的30%以上的答案，讓測(cè)試者無(wú)法判斷這是機(jī)器還是人類(lèi)給出的回答，那么就判定該機(jī)器人通過(guò)了圖靈測(cè)試、其具有了人類(lèi)智能。
顯然，在當(dāng)前豐富的語(yǔ)料庫(kù)、強(qiáng)大的算法的支持下，戀愛(ài)話(huà)術(shù)APP通過(guò)圖靈測(cè)試的難度并不大?！暗珣賽?ài)話(huà)術(shù)APP等聊天機(jī)器人的智能程度，不僅取決于語(yǔ)料庫(kù)豐富與否、算法強(qiáng)大與否，它還與聊天場(chǎng)景、大數(shù)據(jù)分析處理準(zhǔn)確度及效率、人工智能推薦算法等多種因素有關(guān)?！遍Z懷志說(shuō)。
在他看來(lái)，人類(lèi)交流對(duì)話(huà)是一個(gè)相當(dāng)復(fù)雜的信息感知與智能處理過(guò)程，而聊天機(jī)器人大多是簡(jiǎn)單地采用語(yǔ)言類(lèi)型配對(duì)的技巧，缺乏人類(lèi)邏輯推理與適時(shí)反應(yīng)等能力。所以，該類(lèi)APP給出的有些回答會(huì)驢唇不對(duì)馬嘴。
此外，部分該類(lèi)APP為營(yíng)造戀愛(ài)聊天的特殊氛圍，會(huì)預(yù)設(shè)一些比較曖昧甚至是輕浮的聊天語(yǔ)境或答復(fù)語(yǔ)句，這樣不僅可能會(huì)造成答非所問(wèn)，甚至可能會(huì)出現(xiàn)侮辱性的話(huà)語(yǔ)，給聊天對(duì)象造成心理傷害。
那么，針對(duì)該類(lèi)APP出現(xiàn)的問(wèn)題，目前我國(guó)是否出臺(tái)了相關(guān)審核標(biāo)準(zhǔn)以規(guī)范手機(jī)APP上架？
“目前，我國(guó)只出臺(tái)了一些原則性的規(guī)定，總體來(lái)看，手機(jī)APP上架審核還處于法律監(jiān)管的灰色地帶?！遍Z懷志說(shuō)。
現(xiàn)階段，大部分APP應(yīng)用商店設(shè)置了開(kāi)發(fā)資質(zhì)認(rèn)證審核、APP上架審核等基本審核規(guī)則，而且大都強(qiáng)制APP提供者承諾不違反現(xiàn)行政策、法律法規(guī)，并且要求APP提供者承擔(dān)相應(yīng)的法律責(zé)任，APP應(yīng)用商店對(duì)此免責(zé)。“因?yàn)橄嚓P(guān)部門(mén)沒(méi)有推出明確的規(guī)定，大多只能靠APP提供者自覺(jué)，這就造成了上架的APP質(zhì)量良莠不齊?！遍Z懷志說(shuō)。
當(dāng)然，如果某款A(yù)PP確實(shí)存在明顯違反法律、道德的問(wèn)題，即便是通過(guò)了上架審核，推廣應(yīng)用后也會(huì)遭到投訴，因此下架退市的案例也并不鮮見(jiàn)。“目前來(lái)看，營(yíng)造良好的APP開(kāi)發(fā)運(yùn)行環(huán)境，需要APP開(kāi)發(fā)者、APP商店平臺(tái)、APP使用者和監(jiān)管部門(mén)等各方面共同努力，減少不良APP對(duì)用戶(hù)和社會(huì)造成的危害。”閆懷志說(shuō)。
分享到：