人工也正在收聽Google智能助理的錄音

一個報告從比利時公共廣播公司VRT NWS曾透露支付給抄寫由谷歌的AI助手收集的音頻剪輯承包商如何結(jié)束傾聽用戶信息，包括姓名，地址，以及他們的個人生活細(xì)節(jié)的敏感信息。

這是最新的故事，展示了我們與AI助手的互動并不像我們想要的那樣私密。今年早些時候，Bloomberg的一份報告揭示了有關(guān)亞馬遜Alexa的類似細(xì)節(jié)，解釋了如何在沒有用戶知情的情況下將Echo設(shè)備錄制的音頻片段發(fā)送給人工承包商，后者為了改善公司的AI系統(tǒng)而轉(zhuǎn)錄所說的內(nèi)容。

更糟糕的是，這些音頻剪輯通常完全是偶然記錄的。通常，像Alexa和Google智能助理這樣的AI助手只有在聽到他們的喚醒詞時才會開始錄制音頻(例如，“Okay Google”)，但這些報告顯示設(shè)備經(jīng)常會錯誤地開始錄制。

在由VRT NWS撰寫的關(guān)于荷蘭語和佛蘭芒語Google助手用戶的故事中，該廣播公司審查了大約一千張唱片，其中153張被意外捕獲。一位承包商告訴該出版物，他每周都會從Google智能助理中錄制大約1,000個音頻片段。在他評論的其中一個片段中，他聽到了一位遇難的女聲，并說他覺得涉及“身體暴力”。“然后它變成了你正在傾聽的真人，而不僅僅是聲音，”承包商說道。

科技公司表示，將音頻片段發(fā)送給人類進(jìn)行轉(zhuǎn)錄是改善語音識別技術(shù)的重要過程。他們還強(qiáng)調(diào)，只有一小部分錄音以這種方式共享。Google的一位發(fā)言人告訴Wired ，所有錄音中只有0.2%是由人類轉(zhuǎn)錄的，并且這些音頻片段從未提供有關(guān)用戶的識別信息。

但是，這并不能阻止個人在錄音中泄露敏感信息。公司肯定不會對這個轉(zhuǎn)錄過程有所了解。例如，Google Home 的隱私政策頁面未提及該公司對人工承包商的使用，或Home可能錯誤地記錄用戶的可能性。

倫敦艾倫圖靈研究所的技術(shù)隱私研究員邁克爾維爾說，這些混淆可能會給公司帶來法律麻煩。他告訴Wired，這種披露水平可能不符合GDPR規(guī)定的標(biāo)準(zhǔn)。“你必須非常具體地了解你正在實(shí)施什么以及如何實(shí)施，”維爾說。“我認(rèn)為谷歌沒有這樣做，因?yàn)樗雌饋頃钊嗣倾と弧?rdquo;

在當(dāng)天晚些時候發(fā)布的博客文章中，谷歌為使用人力資源員工審查助理音頻對話的做法辯護(hù)。該公司表示，它在整個審核過程中采用了“廣泛的保護(hù)措施來保護(hù)用戶隱私”，并且這項(xiàng)審核工作旨在改進(jìn)智能助理的自然語言處理及其對多種語言的支持。但是，對于向VRT NWS提供音頻的比利時合同工的情況，谷歌也承認(rèn)這些保障措施的失敗，在此過程中打破了公司的數(shù)據(jù)安全和隱私規(guī)則。

“我們剛剛得知其中一位語言評論員通過泄露機(jī)密的荷蘭語音頻數(shù)據(jù)違反了我們的數(shù)據(jù)安全政策，”Google搜索團(tuán)隊(duì)的產(chǎn)品經(jīng)理David Monsees寫道，他撰寫了博客文章。“我們的安全和隱私響應(yīng)團(tuán)隊(duì)已經(jīng)在這個問題上被激活，正在調(diào)查，我們將采取行動。我們正在對這個空間的保障措施進(jìn)行全面審查，以防止這種不當(dāng)行為再次發(fā)生。“