我曾在其他地方写过关于人工智能监管将如何演变及其在更广泛的预期监管领域中的地位。在透明度、所有权和责任方面，仍存在许多尚未解答的大问题。我的同事 Eddie Copeland 最近起草的《公共服务中使用人工智能的原则》是制定一些新基本规则的重要一步。制定新监管法规的另一个压力是出现危机的可能性。人工智能有望提供更可预测和可控的公共服务。但复杂系统的一个显著特点是，甚至对其创建者来说都变得不透明。更复杂、相互关联的系统会以无人能理解的方式出错。一些危机是攻击的结果。一些则是不可预见的相互作用的结果，例如闪电交易算法之间的相互影响。Wannacry 是我们可能面临故意攻击的信号；去年英航关闭事件则预示着一些无意的危机可能会变得更加正常。
缺少了什么？有什么奇怪吗？
各国政府对人工智能的热情比以往任何时候都高。但他们处理这个问题的方式有些奇怪。迄今为止，政府一直是人工智能的最大投资者——无论是通过军事和情报机构（尤其是美国和中国），还是通 BC 数据美国 过大学进行间接投资。尽管投资规模巨大，但我找不到政府系统性投资人工智能研发的例子，这些研发用于政府的主要非军事活动，从税收和福利到教育和刑事司法。相反，政府很大程度上依赖于军事或商业发展的溢出效应。我仍然不明白为什么没有政府认识到这种做法是多么愚蠢并加以纠正。
风险在于，政府会在过度热情和幻灭之间摇摆不定，前者会因为相信误导性的炒作而过度热情，后者因为承诺的结果没有实现而感到幻灭。答案是，他们需要更多的内部能力来成为聪明的客户和委托人；更认真的研发和实验；以及更认真的努力来处理公众信任和合法性问题，就像英国承诺成立的新数据伦理与创新中心一样。
最重要的是，他们不仅需要考虑如何使用人工智能，还需要考虑如何更好地设计智能以实现成果，这将使他们实现人工智能和集体智能的结合。为此，我们需要一个更成熟的智能设计领域，这是我新书的主题。
我确信，在未来十年或二十年内，这将成为常识。但目前，太多的争论都在重复过去尝试数字政府时犯下的错误——专注于如何使用炫酷的新工具，而不是真正需要什么才能使系统更加智能，或者换句话说，将技术视为目的而不是手段。