前AWS安全工程师称,亚马逊新款Bee AI设备存在旁观者问题

内容总结:
亚马逊最新推出的Bee系列AI设备近日遭到隐私与安全领域资深人士的批评。曾在亚马逊云服务(AWS)担任高级首席安全工程师的杰夫·威廉姆斯在领英发文指出,Bee的知情同意保护机制只针对佩戴者本人,而被录音的周围人实际上没有可行途径表示拒绝。
亚马逊于上周四发布这两款设备,这是自去年收购旧金山初创公司Bee以来的首批新硬件。售价74.99美元的Bee Frontier可佩戴在手腕上或夹在衣物上,售价99.99美元的Bee Eclipse则可吸附在手机背面。两款设备均能将对话转化为摘要和待办事项清单,付费订阅用户还可连接亚马逊购物平台和Alexa+。
在知情同意方面,亚马逊表示用户每次开始录音时都会被提示需征得通话参与者同意,设备在使用过程中会显示指示灯。但威廉姆斯指出,问题在于这两项措施都无法可靠地告知对话中的其他人他们正在被录音。他写道,提示仅出现在佩戴者本人的手机上,且没有任何强制执行的机制。
“指示用户获取许可的提示只是一种责任分配,”他写道,认为亚马逊实质上将征得同意的责任转嫁给了佩戴者。他指出,指示灯很容易被袖子或口袋遮住,而戴在手腕上或放在手机上的设备在视频通话中处于画面之外。
威廉姆斯以Meta的雷朋智能眼镜为例。今年9月,德国汉堡数据保护机构认定该眼镜的录音指示灯在户外难以辨识,并得出结论认为仅凭录音指示不足以构成欧洲《通用数据保护条例》所要求的知情同意。在美国,包括华盛顿州和加利福尼亚州在内的约十几个州通常要求在对私人对话录音前获得所有参与方的同意。
在数据保护方面,威廉姆斯对亚马逊的Bee Private Compute予以肯定。该功能在基于AWS Nitro构建的隔离加密环境中处理音频,随后将其删除。亚马逊表示只有客户本人可以访问生成的数据,亚马逊和Bee均无法获取。但这保护的是佩戴者本人。周围人的话语仍然会出现在他们无法查看或删除的文字记录和摘要中。亚马逊表示,除非这些说话者与设备主人一起完成语音训练,否则不会被按姓名识别。威廉姆斯还指出,亚马逊此前曾改变过类似的隐私承诺,例如去年取消了部分Echo设备上的“不发送语音录音”选项。
威廉姆斯还建议企业将此类设备排除在客户会议和保密讨论之外,因为文字记录最终存储在员工的个人账户中,企业无法查看或管理。他提出的改进方案是:Bee应默认将其他人的声音排除在文字记录之外,除非他们已录入语音并同意被录音。据TechCrunch报道,在被收购之前,Bee曾表示计划只录制口头同意者的声音。“我亲身了解亚马逊拥有实现这一功能的工程能力,”他写道。
亚马逊对此未直接回应批评,但指出了设备内置的多项保护措施。其一是自动关闭功能:如果设备在5、15、30或60分钟内未检测到主人的声音(取决于用户设置),便会自动关闭。亚马逊表示这进一步说明Bee“是一款个人AI助手,而非设计用于全天被动拾音的设备”。该公司还表示会在Bee应用中教育用户负责任地使用产品,且Eclipse将发送推送通知,鼓励用户告知周围人正在使用Bee并征得同意。
威廉姆斯现任Sigma360首席信息安全官,2023年至2025年在AWS工作,此前在微软任职超过12年,包括担任其服务业务的隐私官。
中文翻译:
亚马逊前隐私与安全资深人士、曾担任亚马逊云服务高级首席安全工程师的杰夫·威廉姆斯在领英发文指出,亚马逊新推出的Bee AI设备在征得同意时找错了对象——设备佩戴者被要求征得同意,而被录音的人实际上没有办法说不。
亚马逊于周四发布了这些设备,这是自去年收购这家旧金山初创公司以来推出的首批Bee新硬件。售价74.99美元的Bee Frontier可戴在手腕上或夹在衣服上,售价99.99美元的Bee Eclipse可吸附在手机背面。两款设备都能将对话转化为摘要和待办事项,付费订阅用户还可连接亚马逊商城和Alexa+。
关于Bee如何处理同意问题:亚马逊表示,用户每次开始录音时都会收到提示,要求其征得通话参与者同意,设备在使用过程中会显示指示灯。
威廉姆斯指出,问题在于这两种方式都无法可靠地告知对话中的其他人他们正在被录音。他写道,提示只出现在佩戴者的手机上,没有任何机制强制执行。“一条指示用户获取许可的提示,本质上只是责任分配,”他写道,并认为亚马逊正在将征得同意的责任转嫁给佩戴者。
他指出,指示灯很容易被藏在袖子或口袋里,而戴在手腕上或放在手机上的设备在视频通话中处于画面之外。
威廉姆斯以Meta的雷朋眼镜为例。去年9月,德国汉堡的数据保护机构认定该眼镜的录制指示灯在户外难以看清,并得出结论称,仅靠录制指示灯不足以构成欧洲《通用数据保护条例》所要求的知情同意。
在美国,包括华盛顿州和加利福尼亚州在内的约十几个州通常要求在对私人对话进行录音前获得所有参与者的同意。
谁的数据受到保护:威廉姆斯对亚马逊的Bee Private Compute表示认可,该功能在基于AWS Nitro构建的隔离加密环境中处理音频,随后将其删除。亚马逊表示,只有客户本人可以访问生成的数据,亚马逊和Bee都无法访问。
但这保护的是佩戴者。佩戴者周围其他人的话语仍然会出现在他们无法查看或删除的转录文本和摘要中。亚马逊表示,除非这些说话者与设备所有者一起完成语音训练,否则不会按姓名识别他们。
威廉姆斯指出,亚马逊此前曾改变过类似的隐私承诺,例如去年取消了部分Echo设备上的“不发送语音录音”选项。
威廉姆斯还建议企业将这些设备排除在客户会议和保密讨论之外,因为转录内容最终会存储在员工的个人账户中,企业无法查看或管理。
一个拟议的解决方案:威廉姆斯表示,Bee应默认将其他人的声音排除在转录之外,除非他们已录入自己的声音并同意被录音。据TechCrunch报道,在被收购之前,Bee曾表示计划只录制已口头同意者的声音。
“我亲身了解亚马逊拥有实现这一功能所需的工程人才,”他写道。
亚马逊的回应:该公司没有直接评论这一批评,但指出了设备内置的保障措施。其中之一是自动关闭功能:如果设备在5、15、30或60分钟内未检测到主人的声音,就会自动关闭,具体时长取决于用户设置。亚马逊表示,这进一步表明Bee“是一个个人AI助手,而非设计用于全天被动拾取音频的设备”。
该公司表示,在Bee应用中会教育客户负责任地使用设备,Eclipse将发送推送通知,鼓励用户告知周围的人他们正在使用Bee并征得许可。
威廉姆斯现任Sigma360首席信息安全官,2023年至2025年在AWS工作,此前在微软工作超过12年,其中包括担任其服务业务的隐私官。在领英上阅读他的完整文章。在领英上阅读他的完整文章。
英文来源:
Amazon’s new Bee AI devices ask the wrong person for consent, according to a privacy and security veteran who previously worked as a senior principal security engineer at Amazon Web Services.
In a LinkedIn article, Jeff Williams writes that Bee’s consent safeguards are aimed at the wearer, while the people being recorded have no practical way to say no.
Amazon unveiled the devices Thursday, the first new Bee hardware since it acquired the San Francisco startup last year. The $74.99 Bee Frontier goes on the wrist or clips to clothing, and the $99.99 Bee Eclipse snaps onto the back of a phone.
Both turn conversations into summaries and to-do lists, with connections to Amazon.com and Alexa+ for paid subscribers.
How Bee handles consent: Amazon says users are prompted to get permission from call participants each time they start a recording, and the devices show an indicator light while in use.
The problem, Williams says, is that neither one reliably tells the other people in a conversation that they’re being recorded. He writes that the prompt appears only on the wearer’s phone, and nothing enforces it.
“A prompt instructing the user to obtain permission is a liability allocation,” he wrote, arguing that Amazon is shifting responsibility for obtaining consent onto the wearer.
The light is easy to hide under a sleeve or in a pocket, he notes, and a device on the wrist or phone sits outside the frame on a video call.
Williams points to Meta’s Ray-Ban glasses as an example. In September, the data protection authority in Hamburg, Germany, found the glasses’ recording light hard to see outdoors and concluded that a recording indicator alone doesn’t establish informed consent under Europe’s GDPR.
In the U.S., about a dozen states, including Washington state and California, generally require consent from everyone before a private conversation can be recorded.
Whose data is protected: Williams gives Amazon credit for Bee Private Compute, which processes audio in an isolated, encrypted environment built on AWS Nitro and then deletes it. Amazon says only the customer can access the resulting data, not Amazon or Bee.
But that protects the wearer. The words of the people around the wearer still end up in transcripts and summaries they can’t see or remove. Amazon says those speakers aren’t identified by name unless they complete a voice training exercise with the device’s owner.
Williams notes that Amazon has changed comparable privacy commitments before, such as ending the “Do Not Send Voice Recordings” option on some Echo devices last year.
Williams also advises companies to keep the devices out of client meetings and privileged discussions, since the transcripts end up in an employee’s personal account, where the company can’t see or manage them.
A proposed fix: Williams says Bee should leave other people’s voices out of transcripts by default, unless they’ve enrolled their voices and agreed to be recorded. Before the acquisition, Bee indicated plans to record only the voices of people who had verbally consented, according to TechCrunch.
“I know first-hand that Amazon has the engineering talent to ship it,” he wrote.
Amazon’s response: The company didn’t comment directly on the critique but pointed to safeguards built into the devices.
One is an automatic shutoff: the devices turn off if they don’t detect the owner’s voice for 5, 15, 30 or 60 minutes, depending on the user’s setting. Amazon says that reinforces that Bee is “a personal AI assistant, not a device designed to passively pick up audio throughout the day.”
The company says it educates customers about responsible use in the Bee app, and that Eclipse will send push notifications encouraging users to let people around them know they’re using Bee and to ask for permission.
Williams, now chief information security officer at Sigma360, worked at AWS from 2023 to 2025 and spent more than 12 years at Microsoft before that, including as a privacy officer for its services business. Read his full article on LinkedIn. Read his full article on LinkedIn.
文章标题:前AWS安全工程师称,亚马逊新款Bee AI设备存在旁观者问题
文章链接:https://news.qimuai.cn/?post=5330
本站文章均为原创,未经授权请勿用于任何商业用途