Flock的辩护者们究竟忽略了什么

本文原载于我们的AI周报《算法》。想第一时间阅读此类文章，请订阅我们的newsletter。 Flock是美国知名的警务科技巨头，在全美运营着约12万个自动车牌识别器。上周四，该公司宣布了平台更新，旨在防止执法人员将平台用于非法或不当目的——包括跟踪骚扰。 《华盛顿邮报》近期披露了50起执法人员滥用Flock及其竞争对手系统的案件，其中多数涉及跟踪和骚扰女性。威斯康星州一名女性指控其警察前男友查询她的车辆信息多达179次；另有一名女性遭到警察局长的跟踪，却投诉无门。 对此，Flock采取了一系列整改措施，要求执法人员在每次查询时提供正当理由，例如通过软件标记异常查询、要求输入刑事案件编号等。 然而，这些措施存在重大漏洞。执法人员可以随意编造案件编号——他们此前就曾通过撒谎绕过Flock的其他安全机制。更关键的是，这些政策并未回应公民自由和隐私团体的核心担忧：Flock正在将一个原本以打击犯罪为卖点的工具，蜕变为大规模监控网络。这种批评引发了日益强烈的反弹，已有多个城市取消合同，多州正在推动立法限制甚至全面禁止车牌识别器。 在这些争议中，近期出现了几种为Flock辩护的声音：如果这些摄像头有助于破案，那又有什么大不了的？运气好的时候，它们或许能帮着找到被绑架的人；运气不好的时候，不过是拍了张我的车的照片，没人会在意。 暂且不论Flock的系统在多大程度上真正有助于破案或预防犯罪这一尚未解答的问题，这些辩护回避了一个更根本的问题：Flock选择构建的是一个什么样的犯罪打击系统？其网络之所以以当前方式运作，是源于一系列关于采集什么信息、谁有权查询、保存多久以及共享范围多广的决策。这些决策定义了安全与公民自由之间的交易条件。认为科技应当在打击犯罪中发挥作用，并不意味着应该盲目接受这笔交易的条款。 以Flock新推出的案件编号要求为例。此举旨在确保查询具有合法目的，但Flock向《麻省理工科技评论》确认，他们并不会核实这些编号——执法人员可以随意编造。完全可以设计一个要求编号与警方内部记录匹配的系统——虽然整合成本更高，但安全保障也更强，同时能留下更有价值的审计痕迹。 再以寻找被绑架或失踪人口为例——这是Flock最常引用的使用场景。Flock的全国摄像头网络确实能极大助力此类案件的侦破。但如果公众希望执法部门仅在此类场景下使用该网络，我们完全可以这样设计：绑定活跃的安珀警报或类似紧急状态的查询，可以访问更大范围的周边城市数据。这样既能保留网络在紧急情况下的价值，又不必让人们被迫接受大规模监控。 最后是数据采集量和保存期限的问题。Flock基本上运营着一个全国性网络：一个城市的警察可以查询另一个城市采集的数据，数据保存期限可达数月甚至数年。然而Flock自己承认，90%的查询发生在案发一周内。这暗示了另一种可能的交易条件：数据的保存和共享应仅限于对破案真正有用的范围和期限。（该公司最近将建议保留期限改为7天，但实际操作中各机构可以无限期保留数据。） 简而言之，Flock完全有能力将监控范围收窄得多。即便如此，批评者可能仍不会满意。美国公民自由联盟（ACLU）高级政策顾问查德·马洛对我半开玩笑说，按他的标准，最可接受的Flock合同就是"永远不签的那份"，并强调限制监控的最佳途径不是靠Flock的新准则，而是靠立法。（Flock首席执行官加勒特·兰利则表示，他"可能永远会与ACLU持不同看法"。） 缩小技术适用范围将动摇Flock向警方推销的核心卖点。车牌识别器自1990年代就已存在，主要用于收费和开罚单。Flock的商业模式——以及其近期80亿美元的估值——依赖的是将摄像头转化为一个庞大的数据采集网络，为警方提供现代化手段，使其不仅能分析自身辖区的数据，还能调取其他地区的数据。 Flock可能很快就会被迫做出改变。已有城市取消了与该公司的合同，有些转向了竞争对手，有些则在暂停合作，让居民思考他们希望这项技术如何被使用，并为警方制定新的规则。最终，社区可能会自行决定科技在打击犯罪中的角色，以及人们应该为此接受多大程度的监控。