1 1 2 2 3 3 4 4 5 5 文集 深度 号外 热文 时间线
AI电子眼,帮手还是帮凶?
2025-03-24 15:10

AI电子眼,帮手还是帮凶?

为了阻止罪行,美国各地的警察部门都在积极应用由人工智能增强的监控技术。一家安保公司有意推动这一趋势,并利用我们的恐惧心理获利。本文来自微信公众号:FC中文版,作者:Ainsley Harris,编辑:刘帅,插画:Adam Quest,题图来自:AI生成

文章摘要
美国多地警方引入AI监控技术公司Flock Safety的车牌识别系统打击犯罪,旧金山部署其摄像头后破获多起案件。支持者认为技术提升效率,但公民自由组织质疑其侵犯隐私、加剧执法偏见。犯罪学家质疑技术实际效果,数据隐私和误判案例引发争议,凸显技术进步与公共安全及权利保护的矛盾。

• 📹AI监控实战:Flock车牌识别系统助旧金山警方实时追踪嫌疑车辆,结合无人机快速逮捕嫌犯。

• 🚀公司扩张野心:Flock以低价策略抢占市场,覆盖全美多个城市,目标直指“零犯罪率”愿景。

• 🏙️旧金山政策反转:进步主义城市引入监控系统,反映公众对治安恶化的担忧与政策转向。

• ⚖️隐私权争议:公民自由组织指控AI监控侵犯第四修正案,误判案例暴露技术风险。

• 📊数据效果矛盾:犯罪率下降与系统实际作用存疑,学者指缺乏独立证据支撑技术有效性。

• 🌐监控网络阴影:全美数千摄像头共享数据,引发跨州执法滥用和“老大哥”式监控担忧。

2024年8月,在一个阳光明媚的下午,一辆红色现代SUV驶过了旧金山市中心。这辆车看似平平无奇,但就在一天之前,警方刚把它与一起涉嫌非法闯入的事件关联在了一起,并将其列入了所谓的“高优先级追捕车辆名单”。如今,该市的各个主要交叉路口均已部署车牌识别摄像头(即LPRs),只要发现这辆车的踪迹,警方就将立即行动。


其中一个车牌识别摄像头拍到了这辆现代汽车的车牌号,将其与高优先级追捕名单上的车辆完成了匹配,并随即向旧金山警察局的指挥中心发送了自动警报。警员启动了无人机,对这辆车进行监视。远在警察局内,他们就能看到有两个穿着连帽衫、戴着手套的人从现代汽车上下来,走到一辆停着的汽车旁,砸碎车窗,搬走了后备箱里的行李箱,然后开车离开。短短几分钟后,警方就刺破了现代汽车的轮胎,逮捕了嫌犯,并收缴了他们的手枪。


欢迎来到技术增强型警务的时代。在这个世界里,摄像头监控着每一条街道的动态,还有软件能够协助破案。有那么几家监控公司正致力于加速这一进程,其中就包括研发了车牌识别系统、帮助警方搜捕那辆现代汽车的公司:Flock Safety。该初创公司的总部位于亚特兰大,其产品还包括:安全摄像头、应急救援无人机,以及为指挥中心打造的一整套软件工具。


2024年3月,Flock Safety与旧金山政府签订了合同,负责安装并运营400组车牌识别摄像头。截至8月“现代事件”发生时,该公司已安装了200多组Flock的太阳能供电、人工智能增强的联网红外摄像头,覆盖了旧金山全市46.9平方英里土地上的每个交叉路口。


对于这座推崇进步主义的城市,其与Flock的签约实属出人意料。在过去的十年里,旧金山政府实现了毒品持有非犯罪化、废除了保释金制度,还通过各种措施减少了监狱和看守所的人口。但自从新冠爆发以来,甚至直到疫情结束之后,旧金山街头的状况不断恶化,露天毒品市场、无限蔓延的流浪者营地和日益猖獗的入室盗窃者,导致当地居民和小企业主纷纷对这些政策产生了质疑。


2022年,旧金山地方检察长博彻思(Chesa Boudin)被投票罢免,因为他已然成为了刑事司法改革(及其失败结局)的强有力象征。为了避免同样的命运,旧金山市长伦敦·布里德(London Breed)表示支持《Proposition E》,该提案有意进一步提升警方使用监控技术的权限。


2024年3月初,选民们投票通过了这项提案。两周后,布里德即宣布与Flock签订价值390万美元的合同。不过,在11月的连任竞选中,布里德还是败给了李维·斯特劳斯(Levi Strauss)的继承人丹尼尔·卢里(Daniel Lurie)。后者对犯罪行为也抱持着类似的态度。


2024年10月,布里德接受了我们的电话采访。那时,市长竞选已进入白热化阶段。她说:“能够帮助解决城市犯罪问题的技术就是能够改变游戏规则的存在。我们因此得以加快工作进度,不仅获得了安全上的保障,还对那些试图在我们的城市中犯罪的人发出了警告,让他们知道,一旦犯下罪行,就绝不可能逃脱惩罚。”


该市的多位高级技术专家都持有类似的观点,其中也包括旧金山Y Combinator的总裁兼首席执行官加里·谭(Garry Tan)。他在2017年执掌风险投资公司Initialized Capital时,曾领投了Flock的种子轮融资。他和其他几位知名的商界领袖都支持加强所谓“常识性”执法的力度,并采取更多公共安全措施。


尽管旧金山被称为罪犯猖獗的城市,但从数据上来说,情况其实相当复杂。旧金山警察局公布的报告显示,2023年,该市的暴力犯罪率和财产犯罪率均低于疫情前的水平。美国的许多城市都呈现出相同的趋势,其中大多数城市的犯罪率都已下降至与2019年相当的水平——刑事司法委员会(Council on Criminal Justice)报告称,单纯从数据上来看,已经比1990年代初的犯罪率还要低了。


不过,存在一个明显的例外:全国范围内,机动车盗窃的发案率在过去五年里翻了一倍不止。此外,还有许多尚未告破的案件——问题已经到了不容忽视的程度,以至于某些城市甚至安排了志愿者在街头巡逻。(俄勒冈州波特兰市的志愿者组建了Facebook小组,有近2.2万名志愿者在组内自发组织行动。)在这样的环境下,缺乏人手的警察部门自然而然地将Flock的车牌识别摄像头等当成了必不可少的工具。


Flock也为此针对性地调整了自己的销售策略,大力宣传车牌识别摄像头可以防止车辆被盗的功能,并顺势推广其他执法相关的用途。这家成立于2017年的公司已筹集了超过3.8亿美元的风险投资,近期的市场估值更是高达40亿美元。


Flock的第一款产品是将固定摄像头与人工智能图像识别软件相结合的车牌识别系统;在新品上市阶段,其定价仅为同类竞品的十分之一。随着时间的推移,Flock又为该系列增加了数款配套商品,包括安全摄像头和枪声监测装置。


2024年10月,该公司收购了专注研究应急救援无人机的开发商Aerodome。成功抢占亚特兰大及周边地区的客户市场之后,Flock如今又将目光转向了从东海岸到西海岸的多个城市,包括奥克兰、奥斯汀和普罗维登斯。业主协会、学校和购物中心同样属于其目标客户范畴。



视频安全和监控领域(市场价值约为600亿美元)的现有品牌往往更重视安全性。专注于视频安全系统的摩托罗拉系统(Motorola Solutions)称其使命为“提供更安全的解决方案”。生产泰瑟枪和警用执法记录仪的Axon宣称要“在更多的地方保护更多的生命”


Flock则更加激进地承诺要彻底消除犯罪。Flock Safety的联合创始人兼首席执行官加勒特·兰利(Garrett Langley)搬出了日本等低犯罪率国家的数据,表示:“我真的不能理解,为什么无法彻底消除犯罪。”


他认为,只要能够成功解决并起诉更多的犯罪案件,就总有那么一天,能让所有的“机会犯罪者”打消念头,不敢真的付诸行动。去年2月,该公司公开了一份研究报告,显示Flock协助解决了美国当前上报的10%的犯罪案件。


数据只经过了初步分析,但Flock已在营销中多次引用了这份报告。宣传的效果非常好:将Flock的技术与可量化的结果关联在一起,让人不禁感觉,相比于大范围的监控设备,该公司的产品更像是某种有针对性的干预手段。


兰利是佐治亚州人,但自从加入Y Combinator,并筹集到Andreessen Horowitz和老虎环球基金(Tiger Global Management)等公司的投资开始,他逐渐爱上了硅谷这种把野心写在脸上的氛围。


他表示:“这正是我们理想中的世界。在不久的将来,我们就可以走到市长和市议员面前,问:‘你想要无犯罪套餐吗?’然后向他们介绍:‘使用这套产品,只需要5年,犯罪率就能降到零。’或许出于某种原因,他们不想要对非暴力犯罪赶尽杀绝。‘很好,我们能提供针对这种需求的套餐。’我坚信,犯罪是可以避免的。”


兰利对警方工作机制和犯罪动机轻描淡写的态度,令犯罪学家们震惊不已。与此同时,针对以监控为基础建设警务的倡议,公民自由主义者们也纷纷表示反对,认为这违反了第四修正案中关于“不合理搜查”的禁止条例。


事实上,美国公民自由联盟已经发声,建议当地社区不要与拒绝对其产品进行独立评估的监控公司签订合同,并明确提出了对Flock的质疑。在3月份发表在美国公民自由联盟官方网站的一篇文章中,该组织表示:如果Flock不同意对其车牌识别摄像头的准确度进行独立试验,那么所谓“同类别最佳”的宣传实在“令人费解且可笑”。


尽管如此,依然有包括警察局长、业主协会成员和校长在内的约5000人购买了Flock的系统。从个人层面来说,他们都希望能够尽量保证选民和工作的安全。从集体角度来说,通过共享的安全与警务系统每月拍摄的数十亿辆汽车的照片,他们正在建立一种公共监控的新常态。


我和兰利开着车,来到了位于佐治亚州亚特兰大郊区(当地有5万多居民,还有不少企业办公园区)的邓伍迪市警察局。天空阴沉沉的,好像要下雨了。我们走进了与其他部门共用的市政大楼,映入眼帘的是水泥材质的檐口和立柱,然后在一间没有窗子的暗室里坐了下来。这里就是邓伍迪市警察局的指挥中心。


一面长长的墙上满满当当地挂着12张显示屏,我们可以看到邓伍迪部署的Flock设备都在哪里,还能接收到来自车牌识别摄像头(追踪“被盗车辆”“盗窃嫌犯”)发出的实时警报。每当有汽车驶入车牌识别摄像头的监控范围,Flock的软件就会对其车牌进行分析,将图像转换为文本,然后在联邦调查局管理的国家犯罪信息中心以及本地创建的所有高优先级追捕名单中进行查询与比对。


邓伍迪市警察局内负责行政服务与调查的帕特里克·克雷格(Patrick Krieg)警官看上去是一副不苟言笑的模样:留着修剪整齐的棕色胡须,穿着黑色POLO衫,拿着一罐红牛。


2019年,Flock开始尝试向警局推销产品时,克雷格警官曾表示,他认为该公司的技术更适合业主协会和小型企业,因为他们并不一定要得到实时响应,或是整合多种工具。他说:“我们觉得这是一款低端产品,实在无法满足执法的应用需求。”但他同意了试用:在一辆测速拖车(警方用来监测过往车辆速度的移动设备)上安装一个Flock车牌识别摄像头。他说:“不到两天,那个摄像头就解决了一起联邦案件,帮助我们抓捕了一个在东海岸沿线多次作案的商业盗窃团伙。”


从那次试验开始,邓伍迪市先是部署了20组车牌识别摄像头,用来监控进入该市的车辆,后又部署了20组车牌识别摄像头,用来监控离开该市的车辆。不仅如此,警方还在市中心的多处交叉路口安装了共25组车牌识别摄像头,其中就包括邓伍迪周界中心(Perimeter Mall)附近的交叉路口:Nordstrom和梅西百货都坐落在那个繁华的街区。截至目前,Flock的车牌识别摄像头已经帮助警方破获了多起包括入店盗窃、偷车、人口贩卖在内的案件。


“虽然我们已经不会像以前那样把‘老大哥’这个词挂在嘴边了,但看看这张地图,这就是‘老大哥’一样的存在。”克雷格警官指了指周围的屏幕。屏幕上,代表Flock车牌识别系统、摄像头和枪声检测装置的彩色图标密密麻麻地布满了城市地图。


(本地人)应该已经发现了,我们没有足够的时间和资源,说实话,也不愿意一直盯着”监控屏幕。于是,警员们把警戒工作外包给了Flock的实时软件,自己只需要在系统发出警报后作出反应。“我们希望能根据具体情况来实施有策略的行动。”(Flock允许客户自行设置车牌识别摄像头的数据保存时间;邓伍迪市直接使用了系统默认设置,保存30天的数据。)


克雷格警官介绍说,周界中心本身部署了1200组摄像头,但只有一小部分连入了邓伍迪市警察局的Flock系统。然而,当几年前购物中心的那场枪击事件发生时,“我们所获取的证据全都来自Flock系统”。警方在不到一个小时的时间里捕获了枪手。多年来,该市的犯罪率始终起伏不定,但近几年,有一项数据出现了显著提升:通缉犯的抓捕数量。2019年,邓伍迪市警察局逮捕了166名通缉犯,去年则上升到了337名。


作为一个狂热的跑步爱好者,兰利有着如同青少年一般匀称的身材。他靠在椅子上,静静地听着这一切。2018年初,在带着A轮融资的路演演示文稿到处找投资的时候,Flock其实并没有将执法部门视为潜在客户。同年,公司的一名销售收到了得克萨斯州一位警察局长的合作邀请,兰利的内心产生了动摇。


最终,那笔涉及50组车牌识别摄像头的大合同彻底打动了他。他回忆道,Flock的投资者因此“大发雷霆”。Anduril的联合创始人兼创始人基金(Founders Fund)的合伙人特雷·斯蒂芬斯(Trae Stephens)是Flock的早期投资者之一。他建议兰利不要与地方政府做生意,因为他们不仅预算有限,而且需求复杂。


为什么不坚持Flock最初的路线,把重点放在业主协会和私营企业上呢?兰利记得自己对他说:“特雷,我懂你的意思,但他们主动找上了门,还愿意花钱下订单。”如今,警察部门已经成为了该公司的主要客户。



Flock日益庞大的车牌识别系统网络已然成为了笼罩在地平线上的那片阴影,因为包括联邦政府在内的所有客户数据都处于共享状态。单个车牌识别摄像头或许不会对隐私产生威胁,但分布在数千个社区的数千组相互关联的车牌识别摄像头,就不得不让人心生警惕。如今,随着Flock在全国范围内部署数量的增加,公民自由组织的担忧(以及相关诉讼案件的数量)也与日俱增。


从某些层面来说,兰利也产生了类似的担忧。他为自己的公司写好了宏大的发展计划,但始终对技术抱持着谨慎的态度。他表示:“曾经有那么一段时间,具体来说就是21世纪初期,大家似乎都觉得技术不会带来任何负面影响。那是一种相当理想化的(心理)状态,现在基本已经没人这么觉得了。”


他坚称,Flock是“清醒意志”的产物。该公司为客户提供符合当地法规要求的自我审查工具;通过自我审查,发现了两例警员利用Flock的数据进行不当搜索的事件。从更广泛的层面来说,兰利希望人们将Flock的产品定义为“客观”且“可操作”的存在。


他说:“在部署车牌识别摄像头之前,也就是在与Flock合作之前,巡逻警员只会拦下可疑车辆。什么是可疑车辆?就是那些破破烂烂的旧车。”他提出,自采用Flock的车牌识别系统以来,得克萨斯州沃思堡警察部门的车辆截停次数虽有所减少,但相关的逮捕人数却有所增加。他表示,这是因为警方现在拦截的都是“精确匹配”过的车辆,而非警员主观上认为存在可疑性的车辆。


这样的说辞并不足以盖过公民自由倡导者反对的声浪。美国公民自由联盟言论、隐私和技术项目的高级政策分析师杰伊·斯坦利(Jay Stanley)表示:“自动系统确实有概率能减少偏见,但这种理念往往只适用于极端狭隘的范畴。事实上,偏见可能会因为这种技术而导致更严重的后果。”


斯坦利指的是2014年密苏里州弗格森市青少年迈克尔·布朗(Michael Brown)被警察枪杀的事件。在枪击案发生之前,“弗格森市为了填补预算的大缺口,以轻微的交通违规为理由,零零碎碎地向过度贫困的黑人群体收取罚款,并滚雪球一般导致了更多的罚款和错过出庭日期的事件,使人们陷入了刑事司法体系的怪圈。”他引用了司法部对该市举措的调查评语:“对于这种宛如噩梦的警察制度来说,车牌识别系统就是最完美的帮凶。”


不仅如此,警方的行动甚至可能因为车牌识别系统的微小错误而引发致命的后果。这有一个典型的案例:2019年,加利福尼亚州奥克兰市隐私顾问委员会的主席布莱恩·霍弗(Brian Hofer)遭到了警方的拦截,因为他当时为感恩节旅行租来的汽车被车牌识别系统做了标记。那辆汽车曾被人偷走,后来虽已被找回,但车辆信息并未从被盗车辆数据库中删除。(霍弗起诉了警方,并获得了3万美元的和解金。)


去年,一名男子被加利福尼亚州皮埃蒙特的警方持枪逮捕并拘留,原因是他的车牌被人偷换,而车牌识别系统竟然标记了受害者的车辆。同样是在去年,俄亥俄州的一位Lyft司机被警方拘留了40分钟,后来将Flock告上了法庭;因为Flock发布了一份高优先级追捕名单,警方认为他有人口贩卖的嫌疑。(此案已被驳回。)


其他一些应用环境也出现了重大的隐私问题。美国移民及海关执法局(即ICE)曾与另一家车牌识别系统供应商签订了合同,并向该公司开放了查询区域车牌信息的权限。利用共享的数据,就能追踪到跨州堕胎的女性,或是给顾客送货的大麻供货商。一旦出现州与州的法律法规存在重大差异的情况,车牌识别系统就可能遭到滥用。


此外,随着车牌识别摄像头价格的降低与普及率的提高,与其说它们所构建的网络是一种预警系统,不如说是一种大规模监控系统。批评者的质疑在于,通过GPS追踪器跟踪一辆汽车,和通过各个街角的车牌识别摄像头追踪一辆汽车究竟有什么区别?2024年10月,民权组织正义研究所(Institute for Justice)将弗吉尼亚州诺福克市政府告上了法庭,以由“172只不眨眼的眼睛”构成的Flock系统为例,指责其违反了第四修正案中关于“无授权监视”的条例。


至于Flock的立场,兰利表示,只要部署的程序合法,他对客户使用其产品的方式持“不可知”态度。他说:“我们研发产品的妙处就在于,我们不会干涉客户的使用方式。”


即使严格遵循设计的理念导向,犯罪学家也对车牌识别系统的有效性存在质疑。作为约翰杰学院刑事司法专业的兼职讲师,以及专注于安全与保障的CNA智库的研究科学家布莱斯·彼得森(Bryce Peterson)表示:“目前尚无强有力的证据能够证明,此类工具对打击犯罪或组织调查存在切实的效果。”他听过警方口头陈述的部分案例,称其在车牌识别系统的帮助下破获了案件。但在实际的警务工作中,很难进行对照实验。


近期在密尔沃基市,在对已部署了固定摄像头和车牌识别系统的监控系统进行评估时,彼得森发现,破案率确实有提高的迹象。按道理来讲,调查到这里就可以结束了。但事实上,当地的犯罪率也比从前更高了些,或许是因为该系统发现了更多的犯罪行为。他说:“我们很难排除其他因素,从而单独观察到车牌识别系统的使用效果。”


对于Flock的客户来说,他们之中的大多数都只关注自己所在的社区,相比于学术研究的发现,可能执法部门重新掌控街道的切身感受才更重要。提及车牌识别系统好坏参半的风评,旧金山市长布里德表示:“我不知道这些数据是好还是坏,但我知道,旧金山的犯罪率正处于下降趋势。


本文来自微信公众号:FC中文版,作者:Ainsley Harris,编辑:刘帅,插画:Adam Quest

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP