Meta 智能眼镜背后的员工能看到一切
Hacker News 摘要原标题:The workers behind Meta's smart glasses can see everything
瑞典报纸《瑞典日报》与《哥德堡邮报》展开了一项联合调查,揭露了 Meta 推出的 AI 智能眼镜背后隐藏的隐私危机。虽然 Meta 在市场推广中声称这款眼鏡是能够保护隐私的全能助手,但实际情况是,由人类员工组成的后台团队正在窥视用户最私密的生活。
肯尼亚的隐藏劳动力
在肯尼亚首都内罗毕,数千名被称为“数据标注员”的工人在一家名为 Sama 的外包公司工作。他们是 AI 革命中的底层体力劳动者,每天坐在电脑前为 Meta 训练 AI 系统。他们的任务是识别、描绘并命名图像和视频中的物体,例如花盆、交通标志、汽车和人,目的是让 AI 能够更好地理解世界。
这些员工签署了严格的保密协议,一旦违约就可能失去工作。然而,多名员工在接受隐名采访时表达了强烈的不安。他们表示,自己被迫在工作中观看大量极度隐私的内容,这些内容直接从用户的日常生活中喂入 Meta 的系统。
被窥视的隐私生活
调查走访了 30 多名在 Sama 工作的员工,他们描述了从智能眼镜上传的视频片段中看到的各种画面:
• 极度隐私的瞬间:员工们看到了用户上厕所、脱衣服甚至进行性行为的视频。一名员工提到,视频里有人戴着眼镜进入浴室,或者在伴侣不知情的情况下记录下了对方裸体的画面。
• 敏感财务信息:有些视频无意中记录下了用户的银行卡细节。
• 违禁与阴暗内容:员工还看到了用户佩戴眼镜观看色情内容的记录,以及涉及犯罪或抗议活动的对话转录。
• 人工审核的强制性:员工表示,公司要求他们必须处理这些内容,不得质疑。如果开始问问题,就会被开除。
销售误导与技术真相
调查人员在瑞典的斯德哥尔摩和哥德堡走访了 10 家眼镜零售店。许多店员向顾客保证,用户可以完全控制自己的数据,甚至声称数据不会与 Meta 共享,或者所有数据都仅仅保存在手机本地。
然而,调查人员亲自购买并测试眼镜后发现,这些说法并不属实:
1. 无法离线使用:即使在设置中选择“不共享额外数据”,眼镜的 AI 功能也必须连接互联网才能工作。
2. 强制上传数据:为了让 AI 助手回答问题,眼镜必须将语音、文本、图像甚至视频发送到 Meta 的基础设施进行处理。测试发现,这些数据频繁传输到 Meta 位于瑞典吕勒奥、丹麦和爱尔兰的服务器。
3. 服务条款中的陷阱:Meta 的使用条款规定,在某些情况下,为了改进产品,公司会对用户的交互内容进行“人工(人类)”审查。用户没有拒绝的权利,如果想要使用 AI 助手,就必须接受这一条款。
隐私保护措施的失效
Meta 声称会使用算法自动模糊图像中的脸部以保护隐私,但前 Meta 员工和肯尼亚的标注员均证实,这种去标识化技术经常失败。特别是在光线不佳或角度复杂的情况下,算法会漏掉人脸或身体部位,导致标注员可以直接看到清晰的受试者。
法律与监管的缺失
数据隐私法律专家指出,Meta 在智能眼镜的数据处理上存在透明度不足的问题。欧洲的隐私保护组织表示,用户可能根本没意识到当他们开始与 AI 助手对话时,摄像头就已经开始记录并可能发送给人类审核人员。
尽管 Meta 在欧洲受到 GDPR(通用数据保护条例)的约束,但专家担心用户并不清楚自己到底同意了什么。此外,虽然 Meta 宣称其全球数据传输符合规定,但目前欧盟尚未正式承认肯尼亚具有同等的数据保护水平。
面对调查人员关于私密视频流向外包公司的具体质疑,Meta 仅通过邮件回复称其数据处理符合其 AI 服务条款和隐私政策,并未直接回应为何极度隐私的内容会出现在标注员的屏幕上。Sama 公司则拒绝了所有评议请求。