直到最近，还不能说人工智能与迫使政府下台有什么关系。但这正是 2021 年 1 月在荷兰发生的事情，

。在荷兰，如果一个家庭想要申请政府托儿津贴，他们需要向荷兰税务机关提出申请。这些申请会经过自学习算法的审核，该算法最初于 2013 年部署。在税务机关的工作流程中，算法将首先审查索赔是否存在欺诈迹象，然后再由人工仔细审查那些被标记为高风险的申请。实际上算法发展出了一种将申请错误地标记为欺诈的模式，然后公务员匆匆忙忙地在欺诈标签上盖上橡皮图章。因此多年来，税务机关毫无根据地命令成千上万的家庭退还他们的津贴，在此过程中将许多家庭推入沉重的债务之中，摧毁了他们的生活。

对该事件的调查发现了偏见的证据。很多受害者收入较低，少数族裔或者具有移民背景的人高得不成比例。该模型将不是荷兰公民视为一个风险因素。税务机关的这个算法规避了审查；它是一个不透明的黑匣子，内部运作不透明。对于受到影响的人来说，几乎不可能确切地说出他们被标记的原因。他们也没有任何可以依靠的正当程序或求助手段。尘埃落定之后，很明显这件事完全无法阻止人工智能在政府中的传播——已经有 60 个国家有了国家人工智能计划。私营企业无疑看到了帮助公共部门的机会。对于他们所有人来说，部署在荷兰——这个拥有强有力的法规、法治和相对负责任机构的欧盟国家的算法的故事是一个警示。