联合国极端贫困与人权问题特别报告员阿尔斯顿今天对荷兰海牙地方法院的一项具有里程碑意义的裁决表示赞赏。法院命令立即停止使用针对荷兰贫困社区的数字福利欺诈检测工具,因为该工具违反了人权规范。
特别报告员阿尔斯顿说:“对于所有有理由担心数字福利系统对人权构成严重威胁的人们来说,这是一个显著的胜利。”
他指出,这项裁决为其他法院树立了强有力的法律先例。这是世界各地的法院中首次以人权为由停止福利机构使用数字技术和大量的数字信息。
诉讼围绕荷兰名为“系统风险指示”(System Risk Indication / SyRI)的工具展开。这项工具用于识别可能犯下福利欺诈的人,并赋予中央和地方当局广泛的权力,以共享和分析以前保存在各自不同部门“筒仓”中的数据。
“系统风险指示”采用了一种隐藏的风险算法模型,并且专门针对大多数低收入和少数群体的社区。通过这套工具,在没有针对具体个人的欺诈怀疑的情况下,整个贫困社区及其居民都受到了数字化的监视。
一个由人权、福利权团体以及有关公民组成的广泛的联盟于2018年就此起诉荷兰政府,称“系统风险指示”违反了受地区和国际保护的人权规范。
海牙地方法院今天在判决中对“系统风险指示”对受影响个人隐私的重大影响表示关注。法院认为,有关该工具的立法没有足够的措施来防止这一工具侵犯隐私,包括对其功能的运作严重缺乏透明度。法院警告说,该系统可能基于社会经济或移民身份而进行歧视。
特别报告员阿尔斯顿说:“通过应用普遍人权标准,荷兰法院正在制定可以被其他地方法院采用的标准。诉讼及其结果可能会激发其他国家的维权人士提出类似的法律挑战,以应对新兴的数字福利系统带来的风险。”
他指出,荷兰的“系统风险指示”绝非个例。此类工具是在福利国家引入和扩展数字技术的全球趋势的一部分。但是,这些制度对最贫穷和最边缘化的人的人权造成的潜在破坏性后果往往完全被忽视。
荷兰政府仍然可以对法院的裁决提出上诉,但阿尔斯顿相信海牙法院的判决已经改变了游戏规则。
他说:“我预计,这一判决将唤醒政治家和其他之前在这个问题上不清醒的人,不仅在荷兰,而且在许多其他正在尝试将政府数字化的国家中。”