关于 POLITICO 人工智能报道的新闻： 本周，您的《AI：Decoded》时事通讯将暂停，因为我们将重新关注核心政策问题，但我们不会放弃对人工智能的报道 闻给欧洲敲响警钟 。相反，我们将通过 POLITICO 全球读者可以访问的新闻故事和事件，加强对人工智能主要政治和政策辩论的报道，同时像往常一样为我们的 POLITICO Pro 订阅者报道更深层次的政策新闻。在我们准备未来对包括人工智能在内的新兴技术的报道时，我要感谢 Melissa Heikkilä 对从算法偏见到神经网络以及大型语言模型背后的政治等各个方面的出色报道 闻给欧洲敲响警钟 。
与此同时，请于 4 月 21 日收听我们的 AI 和技术峰会，了解对顶级 AI 新闻人物的高层访谈，不要错过我们即将于 5 月 18 日发布的 Tech 28 最具影响力技术人物排名，并在此订阅 Mark Scott 的免费 Digital Bridge 时事通讯。感谢您的阅读！
— Nick Vinocur，POLITICO Pro 编辑
本星期：
— 深入研究导致荷兰儿童福利丑闻的算法。批评者表示，《人工智能法案》无法阻止类似悲剧重演。
聚光灯
荷兰儿童保育福利丑闻向欧洲发出警告信号
毁灭性的丑闻：自 2019 年以来，荷兰政府陷入了一场丑闻，原因是该国税务机关使用自学习算法创建风险概况，以发现申请儿童保育福利的人中的欺诈行为。
荷兰人称之为“toeslagenaffaire”的事件，当局根据系统的风险指标对涉嫌欺诈的家庭进行处罚。数以万计的家庭因欠税务机构巨额债务而陷入贫困。一些受害者自杀。由于这一丑闻，一千多名儿童被送往寄养家庭。
随着世界 闻给欧洲敲响警钟 各国政府纷纷利用算法
和人工智能实现系统自动化，荷兰的丑闻表明，如果没有适当的保障措施，自动化系统将会带来多么严重的破坏。欧盟自诩为世界领先的科技监管机构，目前正在制定一项旨在遏制算法危害的法案。但批评人士表示，这项法案可悲地偏离了目标，无法保护公民免受此类案件的侵害。
“这肯定是个错误”： Chermaine Leysner 的生活于 2012 年发生了改 电话号码马来西亚 变，当时她收到税务机关的一封信，要求她归还自 2008 年以来的育儿津贴。当时 Leysner 是一名学习社会工作的学生，有三个 6 岁以下的孩子。税单超过 10 万欧元。“我想，‘别担心，这是一个大错误。’但这并不是一个错误。这是一个大问题的开始，”她说。
这场磨难耗费了莱斯纳九年的生命。税单和母亲的 走向全球：如何制定扩张战略 癌症诊断带来的压力使莱斯纳陷入抑郁和倦怠。她最终与孩子的父亲分居。“我拼命工作，这样我仍然可以为孩子们做点什么，比如给他们一些好吃的东西或买糖果。但我的小男孩有时不得不带着破鞋去上学，”莱斯纳说。
事件经过：荷兰的该系统于 2013 年启动，用于创建人们的风险档案，以便尽早杜绝福利欺诈。Trouw 报道称，风险档案的标准由税务机关制定。双重国籍和低收入都是一个很大的风险指标。当局随后开始向被该系统标记的家庭索回福利，但没有证据证明他们犯有此类欺诈行为。
莱斯纳为何落得如此境地
尚不清楚。原因之一可能是她怀了双胞胎，这意味着她需要政府的更多支持。莱斯纳出生于荷兰，也有苏里南血统。
违反 GDPR： 2021 年 12 月，荷兰数据保护机构对荷兰税务机关处以 275 万欧元罚款，理由是该税务机关在处理儿童保育福利申请人双重国籍数据时“存在非法、歧视性且因此不当的方式”。
这还不是全部：荷兰税务机关又遭遇了一起丑闻。2020 年，荷兰报纸《忠诚报》和《RTL 新报》披露，税务机关在二十年间秘密保存了个人黑名单，追踪了可信和未经证实的潜在欺诈“信号”。公民无法查明自己为何被列入名单，也无法为自己辩护。荷兰税务机关的一位发言人表示，对黑名单的调查将于 4 月准备就绪。
挑出双重国籍：审计显示，税务机关重点关 柬埔寨号码 注“非西方外貌”的人，尤其是土耳其或摩洛哥国籍的人。被列入黑名单的人在儿童保育福利制度中的风险评分也更高。
政府与民众：议会对儿童福利丑闻的报告发现了几个严重缺陷，包括机构偏见以及当局隐瞒信息或误导议会了解事实。丑闻全面曝光后，荷兰政府辞职，但在 225 天后才重组。
缺乏制衡： “每个组织都缺乏制衡机制，无法确保人们了解正在发生的事情，”独立政治家皮特·奥姆齐格特 (Pieter Omtzigt) 表示，他在揭露丑闻和质询税务机关方面发挥了关键作用。“真正让我担心的是，我不确定我们是否采取了哪怕是模糊的预防措施来加强我们的机构以应对下一次脱轨事件，”他继续说道。
新的算法监管机构：新政府已承诺在国家数据保护机构下设立一个新的算法监管机构。荷兰新任数字部长亚历山德拉·范·胡弗伦（Alexandra van Huffelen）曾担任主管税务机构的财政部长，她告诉 POLITICO，该机构的职责将是“监督算法和人工智能的创建，以及它们在存在时如何发挥作用、如何处理它们，确保以人为本，并确保它适用于所有正在使用的法规。”监管机构将审查公共和私营部门的算法。