▲廠商對(duì)兒童手表的內(nèi)容進(jìn)行干預(yù)可以理解，但干預(yù)總要有個(gè)限定邊界。圖/IC photo

據(jù)媒體報(bào)道，近日，在社交媒體上，有部分家長(zhǎng)反映，自己通過小天才電話手表App跟孩子聊天時(shí)，“我是你媽”等表述被系統(tǒng)提示“可能含有不適宜內(nèi)容”，令人哭笑不得。

對(duì)于有經(jīng)驗(yàn)的中國(guó)網(wǎng)友來說，遭遇這些毫不奇怪，肯定是因?yàn)榧议L(zhǎng)在使用過程中，其發(fā)布的內(nèi)容觸碰了電話手機(jī)系統(tǒng)后臺(tái)設(shè)置的敏感詞，導(dǎo)致被屏蔽。然而，即便在保護(hù)兒童這個(gè)超級(jí)正確的目標(biāo)下，出現(xiàn)這種明顯荒誕的結(jié)果仍然顯得很不正常。廠商對(duì)兒童手表的內(nèi)容進(jìn)行干預(yù)可以理解，但干預(yù)總要有個(gè)限定邊界。廠商又并非監(jiān)管部門，這種明顯影響到用戶日常使用的干預(yù)行為已經(jīng)侵犯到消費(fèi)者的合法權(quán)益。

針對(duì)輿論的疑惑，廠商官方客服表示，因?yàn)殡娫捠直硎褂玫娜后w大多是孩子，小天才電話手表設(shè)計(jì)了一些保護(hù)孩子的功能。“是想創(chuàng)造一個(gè)綠色的溝通環(huán)境，一些敏感詞匯或者不文明用語都是發(fā)送不出去的。”但從實(shí)際情況看，或許“綠色”在表面上實(shí)現(xiàn)了，但“溝通環(huán)境”卻遭到嚴(yán)重破壞，未免本末倒置。

就像一些網(wǎng)友評(píng)論所說，把內(nèi)容審核都交給無腦屏蔽系統(tǒng)（連AI都不是），廠商一可以節(jié)約成本，二可以推卸責(zé)任，但犧牲的卻是用戶體驗(yàn)。

需要指出的是，小天才電話手表粗暴設(shè)置敏感詞一事并非孤例，它實(shí)際上代表了一種普遍現(xiàn)象。近年來，諸多社交平臺(tái)幾乎都加大了利用人工智能進(jìn)行內(nèi)容審核的力度，而這些人工智能又不夠聰明，結(jié)果導(dǎo)致笑料、段子頻出。用戶體驗(yàn)還不如以前“微博小秘書”時(shí)代進(jìn)行人工審核的水平。

內(nèi)容審核事關(guān)內(nèi)容安全和用戶體驗(yàn)兩個(gè)重要方面，以目前的AI技術(shù)水平，想靠技術(shù)手段簡(jiǎn)單解決的結(jié)果很可能就是兩個(gè)方面都做不好。

所謂道高一尺，魔高一丈，AI大范圍屏蔽關(guān)鍵詞的結(jié)果之一就是使當(dāng)下互聯(lián)網(wǎng)上充斥了大量的“黑話”，講的和聽的都知道在表達(dá)什么，而其內(nèi)容大部分也并非不合法，只是為了應(yīng)付AI審核系統(tǒng)，包括平臺(tái)在內(nèi)大家都在做無用功，可能真正被困惑住的只有百年后的歷史研究者。

從目前情況看，市場(chǎng)主體對(duì)互聯(lián)網(wǎng)內(nèi)容進(jìn)行干預(yù)必不可少，但在干預(yù)的同時(shí)應(yīng)兼顧互聯(lián)網(wǎng)用戶體驗(yàn)，同時(shí)亦應(yīng)時(shí)刻牢記干預(yù)的目的所在。如果忘卻初心而將之變成一種應(yīng)付程序和形式主義，類似發(fā)生在兒童手表上的笑話肯定還將層出不窮。