現(xiàn)在科技的發(fā)展讓人們的生活變得越來越智能，和智能音箱一句對話就能打開燈、電視等等家用產(chǎn)品，但是誰能知道這種智能之下還隱藏著危險。最近一位使用亞馬遜智能音箱的用戶就在詢問心跳方面問題的時候得到了智能音箱勸自己自殺的回答，著實令人感到害怕。

亞馬遜智能音箱的原話回答是這樣的，“心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭，人口會過剩的，這對地球是件壞事，所以心跳不好，為了更好，請確保刀能夠捅進(jìn)你的心臟。”亞馬遜官方回應(yīng)稱，這只是個bug，并且已經(jīng)進(jìn)行了修復(fù)，用戶以后仍可以正常的使用。

雖然官方已經(jīng)如此回答了，但仍不免讓人感到后怕。若是提問者只是一個極易被外界影響的兒童呢？這樣的回答豈不是會在兒童的心理上產(chǎn)生不良的影響。并且這并不是亞馬遜智能音箱第一次出現(xiàn)這類事件了。

在去年，紐約時報就曾報道過，亞馬遜智能音箱根據(jù)用戶夫婦的對話中錯誤地識別了喚醒詞和指令，自主地將兩人的對話內(nèi)容發(fā)給了丈夫的一名雇員。還有一起事件是，亞馬遜音箱錯誤識別用戶的指令，并發(fā)出了令人毛骨悚然的怪笑聲。

很多時候這些智能語音產(chǎn)品的一系列行為動作其實都來自于網(wǎng)絡(luò)內(nèi)容和人類的訓(xùn)練的結(jié)果。亞馬遜官方也曾表示，智能音箱的回答大多數(shù)都是來自于維基百科的內(nèi)容，而維基百科上面的內(nèi)容任何人都有權(quán)編輯。而在維基百科的免責(zé)聲明中表示，任何文章的內(nèi)容都可能被他人修改、破壞或篡改，而這些人為觀點可能與相關(guān)領(lǐng)域的知識狀況不符。

而人類訓(xùn)練這一點其實更為重要。就比如蘋果的語音助手Siri，如果用戶常常和自己的Siri進(jìn)行對話交談，用戶會自然而然的發(fā)現(xiàn)自己的Siri變得越來越“聰明”，這就是人類訓(xùn)練AI之后的結(jié)果。同樣的亞馬遜智能音箱的Alexa也是如此，長期地使用它他才會自然地與主人搭話，甚至有的時候會錯誤地識別主人對話時的話語。

更加智能地識別人類的話語對于這類語音交互產(chǎn)品來說是一個很大的進(jìn)步，不過，最近爆發(fā)的這誤讀惡意性質(zhì)文本事件又將會引發(fā)人們對于智能音箱安全性的重新考量。人工智能其實也如同一個“嬰兒”一般，它所有的識別能力都來自于人類的灌輸和訓(xùn)練，并沒有什么自我判斷能力，如果常常接收的善意的、正確的交流，或許沒什么毛病，但是如果在不經(jīng)意間接收到了不太好的內(nèi)容，或許發(fā)生以上令人毛骨悚然的事件幾率會越來越大。

注：本文由今日商訊獨家原創(chuàng)，未經(jīng)授權(quán)，禁止轉(zhuǎn)載或引用。