Aleks Berditchevskaia 是 Nesta 集体智能设计中心的首席研究员。
本周我们了解到，在部长们取消了六个福利人工智能原型后，政府官员一直在抱怨“令人沮丧和错误的开始”。
虽然并非每一次试验和测试都会取得成果，但在首相宣布英国人工智能机遇行动计划仅几周后，它就表明将人工智能融入公共服务的道路并非一帆风顺。
虽然理论上的诉求很明确——更高效的交付、更便宜的服务、为公民带来更好的结果——但我们不能忘记以前利用人工智能简化公共服务的失败，例如内政部的签证申请算法或大都会博物馆使用的面部识别技术。
在这两种情况下，技术推出时都没有进行适当的 阿尔巴尼亚 电话号码数据 检查以了解其局限性，没有对员工进行足够的负责任使用培训，也没有进行适当的公众咨询以了解使用这些方法的可接受性。
质量保证人工智能
我们如何确保类似的事情不再发生？
通过创建结构和机制来确保人工智能的安全、负责任地使用，并得到更广泛的公众的信任——在人工智能领域被称为“保证”。
英国政府最近出台的数字政府行动计划和蓝图强调了一些重要的保证承诺：承诺成立“负责任的人工智能委员会”、“政府支持的高质量保证工具”并继续支持英国旗舰人工智能安全研究所。
但他们对于如何达到这一目标却知之甚少。
在私营部门，最近的 DSIT 审查发现，有迹象表明强大的 AI 保证市场正在增长 - 预计英国保证市场在未来 10 年将超过 60 亿英镑。 （目前，无论是在供应还是需求方面，它都表现严重不佳。）
负责任地使用公共部门的人工智能工具不能是事后才想到的，我们需要强有力的指导和独立的服务来帮助我们实现这一目标。
但无论是私营还是公共部门，都缺乏激励措施来推动强有力的标准和嵌入促进负责任的人工智能作为采购一部分的流程，尤其是在加速采用的压力下。
即使有保障，政府也会关注技术性能或数据安全和隐私标准的合规性。但目前政府缺少第三个关键要素——民主监督，而这正是政府实现“按照公众价值观”开发和使用技术的雄心壮志的关键。
缺乏公民监督
虽然有一些关于使用特定人工智能技术的咨询的罕见例子（例如在教育部），但大多数公众参与都集中于调查公众的普遍担忧和看法，而没有深入探讨特定工具的局限性以及这些局限性可能如何影响个人生活。
这意味着，负责制定人工智能使用决策的公务员几乎得不到任何实际指导，不知道公众在特定情况下最担心的风险是什么，以及他们能接受什么样的解决方案。