亚马逊提出的一项专利设想了一个未来,Alexa在不需要唤醒词的情况下倾听用户24/7。
当前的数字助理在录制语音处理之前,先听一个诸如“OK、谷歌”或“Alexa”这样的唤醒词。尤其是对于像谷歌和Amazon这样的公司,他们在了解用户的所有信息的基础上茁壮成长,这有助于平息隐私问题。
这种方法存在一些缺陷,主要是上下文。未来的人工智能助手将能够提供更多的帮助时,武装的信息导致的要求。
比如说,你正在讨论下星期二在你最喜欢的餐厅预定座位。问:“Alexa,下星期二我有什么安排吗?它可以回答:“不,你想让我在你正在讨论的餐厅预订一个座位,并把它添加到你的日历吗?”“
今天,这样的任务需要三个单独的请求。
亚马逊的专利目前还不十分复杂。在提交文件中提供的例子设想允许用户说诸如“播放”之类的东西,而你的鸟可以唱“披头士乐队的亚历克萨”(注意播放歌曲命令后的唤醒词)。
卡巴斯基实验室首席安全研究员David Emm说:
“亚马逊的Alexa用户可能会对今天的消息感到震惊,该公司最新的专利将允许这些设备在英国的家中普遍使用,以记录一个人在被给予命令之前所说的一切。虽然该专利并不表明它将安装在未来Alexa启用的设备,这仍然意味着惊人的发展,进一步放弃我们的个人隐私。
考虑到在人们舒适的家庭中交换的敏感信息的数量,亚马逊将能够访问大量的个人信息——这些信息对网络犯罪分子和威胁行为者来说是非常有价值的。如果数据没有得到有效保障,亚马逊系统的成功破坏可能会对大量数据的安全性和隐私造成严重的连锁影响。
如果这项专利生效,消费者需要非常了解这一点的后果——并且要充分地了解什么是数据被收集,如何被使用,以及他们如何选择退出这个集合。亚马逊可能会辩称,分析存储的数据将使他们的设备为Alexa所有者更智能——但在当今的数字时代,这样的信息可以被无用地使用,即使是受信任的方。例如,正如我们在剑桥分析所看到的,公共部门机构可以针对那些讨论政治的竞选活动。
临时的本地存储语句之间存在着差异,以确定命令字是否已被使用,以及数据的长时间保持,或者永久地保留——即使监听过程是合法的和消费者已经选择的。Amazon已经因为没有明确记录和存储的内容而受到批评,我们担心这项最新的发展表明,公司在数据可见性、隐私和同意方面走错了方向。
有一个关于Uber的笑话,那个社会曾经告诉过你不要和陌生人开汽车,现在鼓励你从你的手机上订购一辆。Lyft已经能够乘坐Uber的唤醒相对消极的公关免费。
在创新和安全之间取得平衡是一项艰巨的任务。先驱者通常首先做事情,面对事实之前的反弹。这并不是在提倡亚马逊可能的做法,但我们必须小心,暴行不会阻止进步,同时保持对实际危险的警觉。