汤姆·查特菲尔德：“人工智能可能会导致全球数据的大规模污染和信任的消失。”

[jrineakter]

您在书中解释说，技术在历史上与人类身份紧密相连。但我们与人工智能的关系又如何呢？
人工智能不仅仅是一项技术。然而，我们不应该谈论人工智能，而应该谈论“人工智能”，因为它们都是不同的。这些系统不是用相同的数据训练的，也不是为相同的目的而训练的。人工智能尚未得到很好的理解，因为许多这样的系统——就像生产它们的公司的增长一样——都是基于尚未实现的承诺。这些人工智能使商业世界中许多事情的自动化成为可能，但说这种自动化必然会发生是危险的。人工智能应该用于我们只想完成的枯燥工作，例如在工业或农业中，但当我们谈论教育、司法、法律或民主决策时，我们谈论的是人类参与定义的系统。将它们自动化是危险的。我们还必须避免陷入拟人化的陷阱，认为这些机器有个性、意图或思想。

人工智能对数据的广泛污染可能会破坏人们对信息的信任

但人们期待人工智能将带来根本性的变化，甚至在有关经济政策的演讲中也是如此……
我们关于人工智能以及技术伦理和价值观的争论为未来带来了许多不同的可能路径。认为人们应该闭嘴并适应是错误的。技术将使世界变得更美好的想法是一个没有太多证据的假设。四十年前，有人说 波段数据 技术将使日本成为世界领先的经济体。那并没有发生。这是一个没有关注其他类型的力量或未来不确定的事实的预测。ChatGPT-5 会改变世界还是只会提供渐进式的改进？我们不知道。结果远非确定，就像现在正在进行的战争的结果一样。我认为我们需要明白，科技公司没有完美的信息或完美的控制，它们也受制于地缘政治力量和公众舆论。

我们可以做些什么来引起公民对与新技术影响有关的意识形态问题的兴趣？
我们应该小心避免关于技术的肤浅争论：我们谈论了很多关于功能性、技术效率等话题，但不一定谈论它与儿童教育、文化、艺术、情感等的交集。在我的书中，我解释说技术并不是中立的，例如，如果你考虑面部识别之类的技术，很明显它们可以用来限制自由和民主权利。公民并不真正关心抽象的概念。他们不关心人工智能伦理，但他们关心政府对他们在公共场所的存在的监控。他们不关心学校禁止使用手机，但他们关心社交网络对他们孩子的伤害。

为什么你会谈论信任的消失？
当我们谈论人工智能时，我们不能忘记，我们也在谈论大量数据的产生，甚至可能是广泛的数据污染。而与之相关的是信息信任的侵蚀。我担心这会对所谓的信息共享和文化造成很大的损害。在网上，人们将越来越难以信任。解决这个问题需要付出的努力要比解决问题要多得多。利用人工智能作弊很容易，但不可能可靠地检测到作弊行为。在艺术和摄影方面，创作艺术、照片、图像很容易，但几乎不可能可靠地检测到这些。所以最大的问题是，我们如何测试、衡量和教授人类的技能？我们如何对思想市场和商品和服务市场有信心？或者对彼此有信心？我们如何在工作场所或教育系统中对彼此有信心？

那么人类技能的作用又如何呢？
以足球为例。如果有一种人工智能可以分析世界上每一支足球队，甚至在比赛开始前就能完美预测每个联赛每场比赛的结果，那会怎样？你会对全世界说：“我解决了足球问题，没人需要踢球了，所有的足球运动员现在可以去做更有意义的事情了？ ”足球的意义不在于知道结果，而在于观看和欣赏球员的人类技能。如果一个孩子向你展示他从学校带回家的一幅画或一个故事，你不会说画画或写作没有意义，因为人工智能做得更好。人类通过实践、思考和反思来获得技能。人工智能根本不是这样获得技能的。它们所做的是统计；它们根据数据进行预测。孩子们使用科技很重要，但他们也需要学会批判性地思考。