马赛城市监控计划引发人权担忧

图片源于:https://www.codastory.com/authoritarian-tech/ai-surveillance-france-crime/

2016年,Netflix推出了其首部欧洲制作的电视剧,名为《马赛》,这是一部扭曲的政治剧,讲述了马赛这座历史悠久的港口城市的故事。

该剧主演杰拉尔·德帕迪约被认为是法国对美国热剧《纸牌屋》的回应。

然而,《马赛》因夸大了对这座城市的刻板印象而遭到了广泛的批评,重新炒热了马赛曾经因犯罪、腐败和卡拉什尼科夫而声名显赫的过去。

法国报纸《法兰西百年纪》的一位评论员形容这部剧为“une bouse”——在英文中为“牛屎”。

除了夸张的对话和戏剧化的性爱场景,该剧还反映了对于渴望摆脱“法国犯罪之都”这一名声的城市管理层来说,监控的诱惑。

在第二季中,剧中的副市长建议牺牲马赛的艺术预算用于建设先进的闭路电视监控系统。

“这座城市值得拥有更安全的环境,”她这样推理。

现任副市长卡罗琳·波兹门蒂耶对此同样热衷。

她曾倡导马赛成为欧洲首个“安全城市”的称号,这一术语被科技公司用来描述那些利用产品减少犯罪的城市。

“我们认为,在没有安全的前提下,经济和旅游发展是不可能的,”波兹门蒂耶在2016年接受《普罗旺斯日报》采访时如此说道,阐述了她对于马赛的新监控举措。

在她的任期内,马赛一直在尝试整合人工智能(AI)、市民数据和地方政府监控网络的“安全城市”工具。

尽管波兹门蒂耶多次拒绝对此报道作出评论,但马赛市政厅的一位发言人确认,城市已经在使用“预测性警务”技术,使当局能够利用大数据“预判”未来可能发生的犯罪事件。

上个月,市政府在法庭上为其推行能利用AI自动搜索监控视频、发现犯罪并向警察通报可疑行为的“智能视频监控”辩护。

此次听证会是在马赛的行政法庭举行,显示出当地对AI监控的日益抵制。

“在法庭上,我们声称这些非法监控系统的安装直接且严重地干扰了马赛市民的隐私权和言论自由,”法国数字权利组织“网络的四分之一”的创始成员菲利克斯·特雷格尔这样表示。

该组织与法国人权联盟一起向法庭提出了该案件,希望阻止马赛的视频监控项目,但该呼吁被驳回。

马赛市政厅的发言人向Coda新闻证实,智能视频监控项目的部分内容已经投入使用。

调查人员能够通过市内2000台监控摄像头录制的影像,使用“过滤器”来搜索,能够检测到人、车辆、某些颜色的衣物或在特定方向或特定速度下移动的物体。

在未来,智能视频项目还能够实时报警,如果技术检测到“异常行为,如进入禁止区域的人,或在步行区行驶的车辆,在白天或深夜擠滿人群的地方”,该发言人补充道。

对于特雷格尔来说,这种系统自动检测人类的能力是技术超越法律的一个例子,让公民及其权利处于法律灰色地带。

“我们需要一部法律,明确当局能做什么以及有哪些保护措施,”他说。

马赛的眼睛无处不在

马赛是一座充满矛盾的城市。

在老港口,游艇在地中海平静的白色水面上整齐排列,游客推着行李箱在摩天轮旁经过。

然而,往内陆走十分钟,便来到了城市的第三区,这里曾被称为欧洲最贫困的地区。

在过去一年中,这里的居民看到监控摄像头在咖啡馆、繁忙的路口、安静的居民区和公寓楼前方被不断安装。

对于大多数马赛居民来说,日益增加的安全摄像头是他们所感受到的新自动化安全系统的唯一证据。

使用AI的监控意味着当局不再需要依赖人类来监控视频流。

相反,监视者的角色可以被自动化,监控更多摄像头的能力也意味着可以安装更多设备。

“[这些工具]是一种到处都有眼睛的方式,”卡内基国际和平基金会的研究员斯蒂芬·费尔德斯坦这样表示。

在费尔德斯坦2019年的报告中,他描述了越来越多的地方使用AI监控工具以实现一系列政策目标——“有些合法,其他则侵犯人权,许多则处于模糊的中间地带。”

住在第三区的特雷格尔认为,监控摄像头的作用是满足当地当局提高安全水平的需求:“安全可不是仅仅指引进华丽的新设备。”

“保障实在的建筑安全,以防止它们会在人民头上坍塌,才是更重要的。”

中国是AI的“主要推动者”

马赛的监控项目缺乏透明性。

有关新技术如何运作的信息只有偶尔通过采访和信息公开请求泄露出来。

马赛市政厅的发言人并未对智能监控技术的制造商发表评论,但“网络的四分之一”所获取的文件显示,制造商被列为位于马赛的法国公司SNEF。

通过信息公开请求获取的文件还揭示了马赛的预测性警务项目的运作,该项目的名称为“公共安宁的大数据计划”——它利用来自城市的警察、消防站和医院的数据,预测未来可能发生的犯罪发生地点和时间,使用的是法国公司Engie Ineo开发的技术。

洛杉矶使用类似的犯罪预测工具PredPol,自动分析最近犯罪的类型、时间和地点,以便为警官提供每日“热点”列表,引导他们在那里巡逻。

虽然支持者表示预测性警务有助于更有效地定位警力资源,但批评者认为这一举措是另一种形式的刻板印象,过度针对低收入居民和少数族裔的社区。

在马赛工作的记者拉巴·阿塔夫担心AI监控系统会对已有边缘化的马赛人口产生影响。

“这里的任何青年违法行为都是社会违法行为,这都是由于种族隔离,”她表示,她同时运营着人权非营利组织Confluences。

“这里没有机会,所以人们选择了另外一种方式。他们并不想成为罪犯。”

她在俯瞰港口的法国咖啡馆中描述了地方当局与北非裔居民之间的相互不信任。

“他们向社会推销穆斯林可能会变得危险的理念,”她说。

“我们不是完全的公民,我们是半个公民。”

在这种背景下,阿塔夫对于这项技术将为谁服务表示怀疑——是为人民还是为警察。

她通过提到一起事件来证明自己的怀疑:2018年,在一次抗议中,一枚警察的催泪弹击中了当地居民齐尼布·雷杜安的面部,她当时正在家里关窗。

这位80岁的老妇人因此去世,射手从未公开被确认。但是,当代表这位女性家属的律师提出建议,认为附近的监控摄像头可能提供线索时,当地警方迅速反驳称其并未工作。

这种担忧在中国科技公司中兴通讯参与马赛的安防城市设备的背景下愈发加剧。

中兴及其子公司在建设新疆地区监控维吾尔人群体的监控系统中发挥了重要作用。

人权组织称在那里使用的技术侵犯了隐私权、言论自由、活动自由和被认为无罪直至被证明有罪的权利。

去年,美国商务部将中兴列入黑名单,原因是其支持压制维吾尔人和其他少数民族,尽管贸易紧张局势可能也是一个因素。

马赛市政厅的发言人确认,城市在2011年和2013年与中兴签订了两个合同,以部署摄像头。

“合同持有人提供的品牌摄像头中,很少有来自中兴的摄像头,”发言人表示,“自那时以来,大多数的摄像头都已更换。”

他并没有确认仍在使用的具体数量。

马赛对AI监控的热情并非独特。

附近的尼斯也正在尝试利用安全城市技术,包括大数据、面部识别甚至是公共交通上的“情感检测”。

“南法和巴黎地区是这些发展的两个最强区域,”法国国家科学研究中心的研究主任洛朗·穆基耶利这样表示。

这位社会学家做了大量关于监控的研究,认为监控技术的存在与地方政治之间存在关联,补充说:“这些区域的保守派力量较强。”

卡内基国际和平基金会在2019年进行的一项研究发现,AI监控技术现在在全球75个国家使用。

报告的作者费尔德斯坦指出,中国是该行业的“主要推动者”,华为和中兴无疑是最积极的供应商。

去年,当阿根廷北部的胡胡伊省与中兴签订监控技术合同时,当地政府表示这项3000万美元的合同——包括摄像头、监控中心、紧急服务和电信基础设施——将有助于遏制街头犯罪。

然而,中国技术在拉美的扩散引发了华盛顿的“关注”。

一位美国国务院发言人告诉路透社,他们担心中国有能力收集数据并利用这些信息促进任意监控和压制全球的异议,尽管并未提供证据。

马赛与该公司的合作却在很大程度上被忽视。

在巴黎政治研究所的一份2019年论文中,研究者阿尔瓦罗·阿尔蒂加斯写道:“地方政府已成为中兴最重要的合作伙伴,因为他们是合约机会的守门人。”

“虽然联邦或国家项目会引起广泛的审查和关注,但地方合约则逃避了这种关注,形成了对欧洲监控技术的后门。”

随着不安情绪的蔓延,未来在法国安全中AI监控是否会扮演角色将取决于国家的法庭。

或许,法国将会支持Netflix中剧版马赛市长所言:“监控摄像头和警察无法解决一切。”

Nathalie Wei

Nathalie Wei's journalism is driven by her curiosity and her desire to effect positive change. Her articles are a testament to her deep understanding of the Chinese culture and her ability to convey complex ideas with clarity and empathy to the French audience.

You May Also Like

More From Author