整理 | 华卫
刚刚，Meta 叫停了一项争议巨大的员工监控项目。据悉，一场内部安全事故导致该项目收集的各类敏感数据暴露给全公司，包括员工的私人对话、绩效数据以及转录内容。
今年 4 月，Meta 向美国员工推出了名为 Model Compatibility Initiative（MCI）的工具。根据发起反对请愿的员工说法，该工具会“收集包括鼠标移动、点击位置、键盘输入在内的计算机操作数据，以及屏幕内容”，并将此作为训练数据来改进公司的 AI 模型。项目刚上线时，Meta 员工无权选择退出。为此，员工们以隐私、安全和个人自由为由对其提出质疑，经过抗议之后公司才有限度地开放了退出选项。
最初，该公司发言人 Tracy Clayton 表示：“我们在设计该项目时已加入隐私保护措施，目前也没有迹象表明有任何数据被 Meta 员工不当访问。但在进行调查期间，我们决定暂停该项目。”之后，他又补充说，Meta 将无限期暂停该数据收集计划。
这无疑会让 Meta 本就颇具争议的内部 AI 训练计划变得更不受欢迎。
曝出数据泄露的人，是 Meta 团队里的一位工程师。周一，他发布了内部安全通知，称 MCI 收集的信息数据库已向公司内部所有人开放。这些数据是作为一项备受争议的训练人工智能模型计划的一部分而收集的，据信包括 Meta 美国员工的键盘输入、鼠标点击以及电脑屏幕上显示的内容。
一位曾积极参与反对 MCI 的 Meta 前员工将此次疏漏描述为“一团糟”，并表示这是员工早已预料到的结果。该人士表示：“当员工提出担忧时，领导层变本加厉，未能承认员工提出的关于员工和客户数据安全与隐私的风险。领导层显然营造了一个带有威权色彩环境，在这种环境下，员工不再被尊重，也不再被倾听。”
“45000 个 Hive 表中的员工数据已被暴露。”根据外媒收到的文件，这些表包括员工活动，如“完整提示词和转录文本、私人对话、人员与绩效数据以及 DSS 敏感性评级（1-4）”。该事件被归类为 SEV 2 级（严重程度 2 级），严重程度分级为 0 至 5 级，其中 0 级最为严重。
几个月前，Meta 首席技术官 Andrew Bosworth 还曾在内部回应员工对数据泄露的担忧时表示，该项目是“受到严格控制”的，并采用与其他敏感数据相同的保护标准、存储系统和访问控制机制。
尽管其如此表态，但看起来 Meta 在安全性方面并未如其所说那样周全。这也是该公司一系列与 AI 相关的网络安全事件中的最新一起。今年 3 月，一款具备自主行为的 AI 在未被指示的情况下采取行动，并引发连锁反应，最终导致安全漏洞，当时 Meta 也给出了类似回应。而就在本月早些时候，该公司还不得不应对黑客利用其 AI 客服聊天机器人劫持 Instagram 账户的事件。
而现在，原本用来监控和收集员工数据的工具也成了 Meta 的安全“漏洞”，公司里任何人都能读取他们收集到的同事资料。
据了解，在数据安全方面，Meta 面临的监管压力高于大多数公司。该公司需遵守美国联邦贸易委员会（FTC）的一项同意令（有效期至 2040 年），要求其建立防止数据泄露的流程。但有现任和前任员工对外媒表示，这些要求已显不足且过时。
此外，Meta 还开始将部分隐私和安全风险审查工作外包给 AI 系统。目前尚不清楚 AI 是否参与了此次 MCI 数据访问控制问题。
Meta 的一些员工迅速抓住这次安全失误，在内部论坛上表示，这证实了他们在公司 4 月开始追踪员工办公笔记本电脑时提出的担忧。一名员工写道：“我非常愤怒。我没有看到任何恶意访问的证据，但数据没有按最初承诺的那样被锁定保护，这非常令人沮丧。”
论坛上关于该事件的评论，还包括质疑 Meta 的隐私审查为何未能防止泄露，以及所有数据可能被暴露的人是否会被允许参加复盘会议。内部文件显示，一名员工在 SEV 讨论中发表评论，要求对这些问题进行更深入调查。该员工写道：“我通过工作电脑访问过个人税务和医疗信息，成千上万的员工也是如此。我们被告知这些数据会受到保护，并且仅在经过严格过滤后用于合法的商业目的。”
内部论坛上涌出大量批评评论，表达对安全问题的失望后，Meta 最终决定全面关停 MCI，这一举动让部分员工感到意外。据两名知情人士透露，Meta 甚至在正式通知员工之前，就已将该决定先告知了外媒。
在一则回应员工问题的内部帖子中，Bosworth 表示，该追踪项目的实施未达到隐私评审设定的标准，相关调查结果将被共享。他写道：“这次问题源于 ACL（访问控制列表）配置错误，我们需要搞清楚是如何发生的，追踪所有数据访问，并彻底弄明白。”
据 Meta 内部未获授权公开表态的消息人士透露，该事件现已被标记为“已关闭”，意味着可能已得到解决。
不过，一位消息人士表示，截至周一下午，该工具仍在持续记录数据。该公司发言人称，暂停措施正在逐步实施，完全停止所有人的数据收集需要一定时间。
有意思的是，在一个 Meta 员工常用于分享玩笑的内部论坛中，有人贴出美剧《办公室》的梗图：角色 Jim Halpert 举着牌子，上面写着“距离上一次荒唐事件已过去 0 天”。
这起安全事件很可能会加剧 Meta 当前的士气危机。
Meta 提出的通过监控工具来展开的内部 AI 训练计划，员工们早有异议。上个月，这家科技巨头超过 1600 名员工签署内部请愿书，反对这一笔记本监控项目，并警告称：“收集这些数据会为 Meta 带来安全和监管风险，包括潜在的数据泄露和未经授权的披露。”请愿者还对 Meta 所采取的保护措施不足表示担忧。一名工程师在广泛传播的内部备忘录中写道，在未经同意的情况下抓取其屏幕内容用于训练数据，“感觉像是对隐私的侵犯，也是一种剥削”。
而 Meta 高管此前为该项目辩护称，这是为了训练 AI 系统像人类一样使用计算机软件所必需的。在上月泄露的一段公司会议录音中，CEO Mark Zuckerberg 表示，“AI 模型是通过观察非常聪明的人如何做事来学习的”，而公司员工的“平均智力水平明显高于”专门雇佣来生成此类数据的外部承包商。
在员工的广泛抗议之下，Meta 本月才开始放宽监控措施，包括允许员工在处理敏感事务（如预约个人事项）时短暂关闭监控。没过多久，就又出了今天数据泄露的事。
过去几年，大规模裁员、动荡的组织重组，以及公司全力推进 AI 模型与功能开发，也已令 Meta 员工普遍感到不满。今年 3 月，Meta 成立了新的 Applied AI 团队，并将约 6500 名员工调整至以优化 AI 模型为核心的新岗位。一些员工将自己被分配的工作形容为琐碎甚至“令人精神崩溃”。上周，Bosworth 向员工发送备忘录，就公司在 AI 重组过程中的“糟糕沟通”致歉，并承诺改进，包括提供更清晰的信息沟通以及恢复部分办公福利。
根据外媒爆出的录音，Meta 多个部门紧张情绪沸腾、员工士气跌至历史低点。本周早些时候，有人打断了 Meta 内部仅限员工观看的直播演示，爆粗口抱怨“成了公司的奴隶”。此人随后要求会议主持者给某位 Meta AI 高管写信，“告诉他，他是个狗屎”。据一位目击者称，其中一位主讲人用手捂住了脸。
在本周向 Instagram 所有员工开放的一次会议上，Meta 首席产品官 Chris Cox 谈到了过去几个月“公司的疯狂”所造成的“艰难”和“残酷”环境。Cox 赞扬了 Instagram 员工在堪比“在冰雹中跑马拉松，然后队友被替换，接着还被录制监控”的环境下推出功能并为约 20 亿用户服务。他说：“这简直他妈的离谱。”引发笑声后又重复了一遍。Cox 表示，公司领导层需要重新与员工建立联系，并且不要对 AI 的力量“过于夸大”。“它既不是神，也不是魔鬼，它远没有你想的那么好，也远没有你想的那么糟。而且它每周都在变……它连今天是星期几都不知道。”
“鉴于这些变化的复杂性，我们犯了错误，而且几乎肯定会犯更多错误，在我们度过这一时期的当下，我也专注于尽可能为未来提供更多稳定性。”Zuckerberg 也在一份内部备忘录中承认，近期的组织变革在 Meta 内部引起了困扰，并且重申了今年不再进行大规模裁员的承诺。到今年年底，许多地点的员工将再次拥有固定工位。
参考链接：
https://www.wired.com/story/meta-accidentally-let-employees-access-each-others-keystroke-data/
https://www.wired.com/story/mark-zuckerberg-meta-employee-meeting-interrupt-ai/
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。