情話APP說胡話 誰來管住它的嘴

　　“你今天怪怪的。”

　　“哪里怪？”

　　“怪可愛的。”

　　當你捧著手機與追求者或網(wǎng)友聊天時，會不會被這樣的話“撩”到？但在屏幕那一頭的，或許不是滿懷真情的他或她，而是一個戀愛話術(shù)APP。

　　近日，聲稱“幫你談戀愛”的戀愛話術(shù)APP引發(fā)公眾熱議。不論是在開場、初聊階段，還是在感情升溫、邀約見面階段，只要輸入一方說的話，這類軟件都可以把相應(yīng)的回答選項奉上。然而，科技日報記者在試用了其中一款下載量較高的軟件后發(fā)現(xiàn)，有些答語驢唇不對馬嘴，甚至帶有歧視、侮辱的意味。

　　那么，這類軟件究竟是怎樣被“煉”成的？為何會出現(xiàn)這些“跑偏”的答語？科技日報記者帶著這些問題，采訪了北京理工大學網(wǎng)絡(luò)攻防對抗技術(shù)研究所所長閆懷志。

　　聊天機器人在戀愛場景的應(yīng)用

　　“其實，戀愛話術(shù)APP就是聊天機器人技術(shù)在這種APP所營造的‘戀愛場景’的應(yīng)用。”閆懷志表示，聊天機器人是目前常見的用來模擬人類對話或聊天的程序。本質(zhì)上來說，這種戀愛話術(shù)APP，是大數(shù)據(jù)及人工智能技術(shù)的一種應(yīng)用，類似的應(yīng)用還有各種商務(wù)平臺的客服機器人。

　　閆懷志介紹道，當前，此類程序多是通過線下搜集大量特定主題的聊天數(shù)據(jù)，后借助大數(shù)據(jù)分析處理算法，從海量數(shù)據(jù)中抽取對話要素，再設(shè)置對話場景，同時通過自然語言語義分析來判斷用戶意圖，最后從數(shù)據(jù)庫中找到最適合的語句去匹配回復。

　　也就是說，研發(fā)聊天機器人，首先要搜集大量的人類對話內(nèi)容，將其整理成數(shù)據(jù)庫，當用戶使用時，軟件再通過分析算法，把“候選答案”從庫中“拎”出來。

　　“聊天機器人還擁有豐富的對話上下文場景庫和強大的自我學習能力，基于與使用者的實時互動，習得新的對話和語境。”閆懷志說。

　　戀愛話術(shù)APP的研制也采用了上述方法，只不過因其應(yīng)用為戀愛交友，所以可能還會加上戀愛場景特定的話語體系以及大量的網(wǎng)絡(luò)流行語等。

　　記者了解到，戀愛話術(shù)軟件可提供兩大類服務(wù)：既可充當“替身”，直接替代使用者與對方聊天；也可做“助理”，向使用者推薦若干答語選項，供其選擇回復。

　　APP上架審核尚處監(jiān)管灰色地帶

　　既然有強大的技術(shù)作支撐，為何此類軟件還會說胡話呢？

　　“判斷一個聊天機器人是否合格的標準之一，就是看其能否通過圖靈測試。”閆懷志解釋道，簡單來說，圖靈測試就是讓機器人和人類分別回答測試者提出的問題，若機器人給出的30%以上的答案，讓測試者無法判斷這是機器還是人類給出的回答，那么就判定該機器人通過了圖靈測試、其具有了人類智能。

　　顯然，在當前豐富的語料庫、強大的算法的支持下，戀愛話術(shù)APP通過圖靈測試的難度并不大。“但戀愛話術(shù)APP等聊天機器人的智能程度，不僅取決于語料庫豐富與否、算法強大與否，它還與聊天場景、大數(shù)據(jù)分析處理準確度及效率、人工智能推薦算法等多種因素有關(guān)。”閆懷志說。

　　在他看來，人類交流對話是一個相當復雜的信息感知與智能處理過程，而聊天機器人大多是簡單地采用語言類型配對的技巧，缺乏人類邏輯推理與適時反應(yīng)等能力。所以，該類APP給出的有些回答會驢唇不對馬嘴。

　　此外，部分該類APP為營造戀愛聊天的特殊氛圍，會預(yù)設(shè)一些比較曖昧甚至是輕浮的聊天語境或答復語句，這樣不僅可能會造成答非所問，甚至可能會出現(xiàn)侮辱性的話語，給聊天對象造成心理傷害。

　　那么，針對該類APP出現(xiàn)的問題，目前我國是否出臺了相關(guān)審核標準以規(guī)范手機APP上架？

　　“目前，我國只出臺了一些原則性的規(guī)定，總體來看，手機APP上架審核還處于法律監(jiān)管的灰色地帶。”閆懷志說。

　　現(xiàn)階段，大部分APP應(yīng)用商店設(shè)置了開發(fā)資質(zhì)認證審核、APP上架審核等基本審核規(guī)則，而且大都強制APP提供者承諾不違反現(xiàn)行政策、法律法規(guī)，并且要求APP提供者承擔相應(yīng)的法律責任，APP應(yīng)用商店對此免責。“因為相關(guān)部門沒有推出明確的規(guī)定，大多只能靠APP提供者自覺，這就造成了上架的APP質(zhì)量良莠不齊。”閆懷志說。

　　當然，如果某款A(yù)PP確實存在明顯違反法律、道德的問題，即便是通過了上架審核，推廣應(yīng)用后也會遭到投訴，因此下架退市的案例也并不鮮見。“目前來看，營造良好的APP開發(fā)運行環(huán)境，需要APP開發(fā)者、APP商店平臺、APP使用者和監(jiān)管部門等各方面共同努力，減少不良APP對用戶和社會造成的危害。”閆懷志說。