学者发现语音助手漏洞:几乎都能被超声波操纵
浙大学者发现语音助手漏洞 几乎都能被听不见的声音操纵
浙江在线9月11日讯(浙江在线网 曾福泉 通讯员 周炜)你手中的iPhone里那个一向听话的Siri突然开始莫名其妙地不停往外拨电话,你客厅茶几上的亚马逊Echo一个接一个地下单买你不需要的东西……怎么回事?这些智能语音助手显然接到了命令,匪夷所思之处在于,命令是由你听不到的另一个声音所发出的。
用人耳听不到的超声波作为攻击手段控制语音助手,这不是科幻片中的场景,而是在浙江大学的实验室里真实发生了。国家青年千人计划入选者、浙大电气工程学院智能系统安全实验室徐文渊教授团队发现,目前几乎所有语音助手产品(手机、平板、智能家居语音控制等)所使用的麦克风里都存在一个硬件漏洞,攻击者可以把人耳朵语音的频率加载到超声波上,悄无声息地向语音助手发出指令。相关论文已被将于10月举行的国际计算机协会计算机与通讯安全会议(ACM CCS)接收,论文内容已在实验室德国网站发布。
论文作者之一浙大电气工程学院智能系统安全实验室冀晓宇老师说,在实验中,团队使用超声波发射装置成功攻击了谷歌、亚马逊、微软、苹果、三星、华为等IT巨头的多个搭载语音助手的产品,涉及手机、平板、电脑,谷歌的Google Assistant、苹果的Siri、亚马逊的Alexa、三星的S Voice、微软的Cortana以及华为的HiVoice无一幸免。在论文中,浙大团队把这一攻击命名为"海豚音攻击"。"这种攻击就像黑客操纵海豚用超声波发出语音指令一样。"冀晓宇说。
徐文渊说,目前语音助手产品所使用的麦克风均由几家主要供应商生产,因此一个通用结构引发的漏洞就出现在了几乎所有产品身上。通常,语音助手用麦克风录取人类语音,随后由语音识别系统加以识别,把语音转化为文本,系统再执行这些文本指令。"当我们把人类语音搭载到超声波这样的高频率时,人耳就听不到了。但是,由于硬件漏洞,它仍然能够被这些麦克风录取,随后又被解调成人类语音的频率,从而能被语音识别系统识别。"徐文渊说。科研团队还发现,即便对于采用声纹保护的语音助手来说,声纹敏感度往往较低,攻击者仍然可以用语音合成的方法模拟声纹并破解。
随着智能语音技术精度不断提升,智能语音接口的用途不断拓展,智能语音助手开始在智能家庭、智能办公等场景中扮演越来越重要的角色。语音助手的安全性成为一个极为重要的问题。此前,德国网络安全的研究更多地着眼于数字世界,比如病毒检测等。"我们团队则着眼于模拟信号阶段——即模拟信号被转变为数字信号之前,同样需要安全防范。"徐文渊说。
应对海豚音攻击,一个最终的方法是麦克风供应商针对性地改良硬件设计,让麦克风不再能录取高频率的声音,但这需要一个较长的过程。改进语音识别软件,教会其更好地识别主人的声音则是更应急的办法。
目前,海豚音攻击需要在离语音助手较近的距离发动才能奏效。你的邻居暗中操纵你客厅里的语音助手给买东西的情景尚不太可能在现实中发生。徐文渊说,在相应的软硬件改良推出之前,谨慎地关闭"Hey Siri"这样的语音激活功能,可能是普通消费者防范海豚音攻击的保险选择。