Google's call-scanning AI could dial up censorship by default, privacy experts warn

Google於昨日的I/O大會上展示了一項新功能，利用其生成式AI技術實時掃描語音通話，以檢測與金融詐騙相關的對話模式，這引起了隱私和安全專家的共同不安，他們警告該功能代表著極端的社會控制。他們警告稱，一旦客戶端掃描融入移動基礎設施中，就可能開啟集中審查的時代。

Google展示的通話詐騙檢測功能據稱將內建於其未來版本的Android操作系統中，據估計將運行在全球四分之三的智能手機上，其基於Gemini Nano的AI模型旨在完全在設備上運行。

這實質上就是客戶端掃描：這是一種新興技術，在過去幾年中在檢測兒童色情濫用材料（CSAM）或甚至在消息平台上進行交友活動方面引起了巨大爭議。

歐盟計劃強迫消息應用程序掃描CSAM可能會引發數百萬個錯誤陽性，專家警告

美國加密消息應用Signal的總裁Meredith Whittaker在針對Google的通話掃描演示的一篇帖子中警告說：“這極其危險。這為中央設備級客戶端掃描鋪平了道路。

身為約翰霍普金斯大學教授的加密專家Matthew Green也在文章中發出警告。他表示：“未來，AI模型將對您的文本和語音通話進行推斷，以檢測和報告違法行為。

歐洲的隱私和安全專家也立即提出異議。

對Google的演示做出反應，波蘭獨立研究員兼隱私安全顧問Lukasz Olejnik對該公司的防欺詐功能表示歡迎，但警告該基礎設施可能會被重新用於社會監控。

法律技術學副教授Michael Veale也對Google的通話掃描AI引發的功能擴展提出了令人不安的警示，他在文章中警告說，這將為追踪更多目的而進行客戶端掃描設置基礎設施，監管機構和立法者可能會濫用該基礎設施。

EU自2022年以來一直擁有有爭議的消息掃描立法提案，其中批評者（包括該區域內的數據保護主管）警告說，該提案代表了該地區民主權利的一個分界點，因為它將強制平臺默認掃描私人消息。

數百位隱私和安全專家本月初聯名發表了一封公開信，警告該計劃可能導致每天數百萬個錯誤陽性，因為平臺為了回應法律命令很可能會部署客戶端掃描技術，這些技術尚未經證實，存在嚴重缺陷並容易受到攻擊。

最後，還提及Google已收到關於其通話掃描AI可能侵蝕人們隱私的擔憂，不過截稿時尚未作出回應。