图片源于：https://www.investigate-europe.eu/posts/france-spearheads-member-state-campaign-dilute-european-artificial-intelligence-regulation
欧盟事务项目带您深入这项影响我们所有人的法律谈判之中。
我们发表的故事揭示了欧盟决策的核心，并解释了在布鲁塞尔签署的政治协议如何影响普通欧洲人。
在几天之内，欧盟各国政府将可以利用人工智能技术监控公民在公共场所的活动，进行实时监控以监视边境地区的难民，并依据人们的政治倾向或宗教信仰使用面部识别工具。
这些只是《欧洲人工智能法案》中一些由于国家安全豁免而被迫通过的漏洞。
这一全球首个针对AI行业的法律法规旨在缓解对AI技术和算法所带来的各种偏见和隐私担忧。
欧盟表示，该法律将创建“一个使所有人受益的人工智能生态系统”。
但根据内部文件，2025年2月2日将生效的几项有争议的条款部分是由于法国和多国的秘密游说所致。
经过《调查欧洲》获取的谈判内部文件显示，成员国成功游说削弱了这些措施，使得警察和边境当局等可以更自由地监控公民。
“在一系列的官僚漏洞和遗漏中，人工智能法案未能达到许多人希望的雄心勃勃的人权保护立法。”
—— Sarah Chander，Equinox种族正义倡议创始人
《调查欧洲》分析了来自27个成员国大使的闭门会议中的100多份文件，即欧盟理事会的Coreper。
会议记录和来自各政治派别的多个消息源详细说明了法国是如何战略性地推动对法律的修正。
法律规定公共场所禁止使用人工智能，但在马克龙政府及其他国家推动的修改下，执法和边境官员将能够绕过这一禁令。
例如，气候示威或政治抗议现在可以在警察出于国家安全考虑的情况下，随意被定为目标，使用人工智能技术进行监控。
当大使们于2022年11月18日在Coreper会议上会面时，法国代表明确表示了国家的意愿，会议记录显示：“安全和防务的排除……必须不惜一切代价保持。”
这指的是一条提议，只有军队才能在公共场合进行监控。
法国希望获得所有当局在国家安全必要时的豁免权限。
在后来的会议上，意大利、匈牙利、罗马尼亚、瑞典、捷克共和国、立陶宛、芬兰和保加利亚都表达了对法国立场的支持。
“一场艰难的战斗，我们输了。”
一位参与谈判的匿名欧洲议会议员表示。
在最终版本的法律中，没有任何关于在公共场所使用监控设备的限制——若政府认为必要即可实施，无需国家机构审批或在公共登记中声明产品。
如果警察认为出于国家安全考虑，示威活动现在可以随意成为人工智能监控的目标。
实际上，这些豁免也将涵盖私营公司——或可能的第三国——提供给警察和执法机构的人工智能技术。
文本规定，无论是哪个实体进行这些活动，监控都是允许的。
“这条第2.3条款违反了每一部宪法，违反了基本权利，违反了欧洲法律。”
一位来自保守派欧洲人民党的法律专家匿名指出。
“例如，法国可以向中国政府请求使用他们的卫星拍照，然后将数据出售给法国政府。”
该豁免还与欧洲法院在2020年和2022年的裁决相违背。
阿姆斯特丹大学的博士后研究员Plixavra Vogiatzoglou表示，裁决认为，法国电信公司因出于国家安全理由保留客户数据违反了欧盟法律。
“欧洲法院表示，参与国安活动的私营企业并不免受控制，他们仍受欧盟法律约束，国家安全豁免必须非常严格地解读，成员国确实需要进行严格的事由说明。”
法国在欧盟理事会会议上的私下游说与其公开推动技术使用的态度相呼应。
在2023年5月，法国的宪法法院批准了在巴黎奥运会期间使用人工智能视频监控。
这一举动是欧盟首次被认为是“对公民自由和民主原则的严重威胁”，被大赦国际这样描述。
现在，这些方法可能会遍布整个欧盟。
从欧盟委员会在2021年4月首次提出的最终《人工智能法案》经过多次争执，法律草案中充满了例外情况。
情感识别系统——解释人类情绪或感受的技术——在工作场所、学校和大学于2025年2月2日起被禁止。
例如，公司不得跟踪客户以分析购买意图，雇主也不能使用这些系统来监控员工的情绪或离职可能性。
但因法国和成员国的游说，这些系统被允许用于所有警察部队和移民及边境当局。
目前尚不清楚这些系统是否也将被允许用于招聘人员，例如公司用以评估求职者。
在2023年11月29日的Coreper会议上，丹麦大使表示，任何禁令“必须是相称的，并且仅应适用于存在歧视风险的情况”。
荷兰、葡萄牙和斯洛伐克在同一会议上持相似态度，均对执法的广泛禁止表示“普遍批评”。
法国的宪法法院在2023年5月批准了在巴黎奥运会上使用人工智能视频监控。
此外，依据用于确定种族、政治意见、宗教信仰或性取向的生物识别信息系统尽管被法案禁止，但仍有一个例外。
警察将被允许使用这些系统并收集任何个人的图像数据，或者向私营公司购买数据。
法国再次起到了推动作用。在2023年11月24日，法国政府向欧盟理事会发出的文件中表示非常重要的是“能保留根据涉及暴力极端主义或恐怖主义风险的宗教信仰或政治意见查找某人的可能性”。
此外，面部识别软件如果“严格必要”，也可以被用于执法。
警察可以在调查16种特定犯罪时使用，包括对“环境犯罪”的泛指。
许多国家希望将这一名单扩展到数十种。在2023年11月底Coreper会议的会议记录中显示，法国与来自意大利、塞浦路斯、爱沙尼亚、拉脱维亚、保加利亚和匈牙利的大使一起推动了范围的扩展。
希腊作为近几年欧洲难民抵达的前沿国家，也是支持这一立场的国家之一。
在同一会议上，其大使“要求明确排除”监狱和边境地区的任何禁令，游说各当局有能力在公共场所对公民和难民及寻求庇护者进行实时生物识别分析。
生物识别系统现在能够部署在成千上万的面孔上，并与国家数据库交叉检查以识别个人。
“在公共空间使用该技术意味着在这些地方将失去匿名性。”
欧洲数字权利网络在2020年时已发出警告。
民间社会与非政府组织早已对此法案可能造成的危害发出警报，且该法案来之于佩加索斯间谍软件丑闻及各国在欧洲使用歧视性福利算法的披露。
“预测性警务是执法有效工作的一个重要工具。”
西班牙的欧盟大使在这句话中表达了对这项法律的态度。
“最终，我们生活在这样一个气候中，政府越来越多地推动资源，法律和技术来促进对日常人民的监视、控制和惩罚。”
Equinox的Sarah Chander表示：“而不是在监控技术上投入资源，未来资源本应支出在社会保障和保护上。”
另一个特例是预测性警务——即算法预测谁可能会犯罪。
西班牙在谈判接近尾声时担任欧盟理事会的轮值主席国，已在使用预测性警务算法。
这是唯一一个承认这样做的欧盟国家，以及荷兰。
“预测性警务是……有效执法的重要工具，”西班牙大使在2023年10月的Coreper会议上表示。
在一个月后的会议上，爱尔兰、捷克、芬兰等国表示反对此类技术的全面禁令。
最终文本允许在有人工监督的情况下使用这些系统，尽管在客观上有一定的争议。
合法层面：欧盟人工智能法案的重点条款。
当2023年12月6日，欧盟委员会、欧洲议会与理事会展开最后的三方会谈时，西班牙主席国急于在欧洲选举之前和预期的极右翼政党的崛起之前，尽快最终文本。
当讨论进入最后的阶段，他们在一个封闭的房间里被锁定了一天半。
“我们很疲惫，经过一夜的谈判，我们在清晨6点开始讨论禁令”，一位在讨论期间请求匿名的官员回忆道。
“最后，我们达成了所有产品都将由独立国家当局授权的结果。”
因此，所谓的“高风险”技术的使用将会受到要求，例如法庭授权、在欧洲数据库中的注册以及对遵循基本权利的影响评估。
但是这也伴随着附加条件。
一项条款被加入，允许公司自我认证并决定其产品是否为“高风险”，因此可能使他们免于某些义务。
《调查欧洲》获得的欧洲议会法律服务部的内部工作文件对此表示质疑。
“高风险的主观性被过度留给公司，这似乎与人工智能法案的总体目标相悖，即解决高风险人工智能系统造成的危害。”
出于担忧保持企业利益，成员国担心法国，法国是多个领先公司的总部。
在2023年11月15日的Coreper会议中，法国代表团警告称，如果不允许更广泛使用这些技术，“将面临公司迁移到那些基本权利不起作用地区的风险”。
数字权利活动人士表示，使用人工智能技术将意味着“公共空间中匿名性的终结”。
