现实世界中人工智能发展的六种最坏情景

2022年1月9日, 17:00

人工智能（ИИ）的最坏情景早已通过科幻大片为人所熟知：机器获得人类的智慧，变得有意识，并不可避免地变成试图消灭人类的邪恶统治者。这一故事源于我们与生俱来的技术恐惧，也反映出新技术发展时常伴随的深刻变革。

然而，正如机器学习工程师、2019年小说《量子代价》的作者马尔科姆·默多克所说，人工智能并不需要具备意识才能毁灭我们所有人。在有意识的人工智能成为问题之前，还有许多其他情景会把我们从地球上抹去。

“随着监控和数据追踪的加强，我们正进入危险而未知的领域，而我们几乎不了解其潜在后果”
安德鲁·朗乔治敦大学

在与人工智能专家的访谈中，媒体 IEEE Spectrum 梳理出现实世界中人工智能发展的六种最糟糕情景，它们远比电影中的情节平凡，但同样具有反乌托邦色彩。

当虚构决定我们的现实

如果我们任由虚构决定我们的现实，可能会发生不必要的悲剧。但如果我们无法在数字世界中分辨真假，又该如何选择呢？

在一种可怕的情景中，深度伪造（由先进机器学习工具生成的虚假图像、视频、音频和文本）日益增多，可能有一天会促使国家安全决策者基于虚假信息采取实际行动，从而引发重大危机，甚至更糟的战争。

安全与新兴技术中心（CSET）高级研究员、乔治敦大学的安德鲁·朗表示：“借助人工智能的系统现在已经能够大规模生成虚假信息。”通过生成大量各式各样的虚假信息，这些系统可以掩盖其真实性质，并通过优化来提高成功率，随着时间推移不断增强预期效果。

仅仅是在危机时刻对深度伪造的担忧，也可能使领导人在无法及时核实信息可靠性时犹豫不决。

德国汉堡安全政策研究所研究员玛丽娜·法瓦罗指出：“深度伪造从根本上破坏了我们对信息流的信任。”无论是深度伪造引发的行动还是不作为，都可能给全世界带来灾难性后果。

谈到人工智能与国家安全，速度既是关键，也是问题所在。由于借助人工智能的系统能为用户带来显著的速度优势，率先开发军事应用的国家将获得战略优势。但在这一过程中，我们可能要牺牲哪些原则？

CSET战略总监海伦·托纳认为，危机可能“始于一个看似无害的单点故障，导致所有通信中断，引发人们恐慌，经济活动停滞。信息的持续缺失，加上其他失误，可能使局面失控”。

瑞典斯德哥尔摩国际和平研究所（SIPRI）高级研究员文森特·布拉宁警告，重大灾难可能发生在“大国为抢先取得优势而偷工减料之时。如果某个国家优先考虑速度，而非安全、测试或人类控制，这将是一场危险的逐底竞赛”。

我们的每一次数字操作都会产生新数据：电子邮件、短信、下载、购物记录、消息、自拍和GPS定位。当我们让企业和政府无限制地获取这些数据时，也就交出了监控与控制的工具。

随着人脸识别、生物识别、基因组数据和借助人工智能的预测分析技术的加入，CSET的朗担心“随着数据监控和追踪的增加，我们正进入危险而未知的领域，而我们几乎不了解可能产生的后果”。

宾夕法尼亚大学佩里世界之家主任迈克尔·C·戈罗维茨警告“人工智能的逻辑及其对国内镇压的意义。过去，独裁者能否镇压民众，取决于一大批士兵，其中一些人可能会站到社会一边并发动政变。人工智能可能削弱这类制约”。

一旦数据被收集和分析，其力量远远超出监控和观察的功能，还能实现预测性管理。如今，人工智能系统可以预测我们会购买哪些产品、观看哪些娱乐内容，以及会点击哪些链接。

社交网络用户已经变成了实验室里的小白鼠，生活在人类版的斯金纳箱（斯金纳箱是用于研究动物行为的实验装置）中，被粘在智能手机屏幕前，不得不把更宝贵的时间和注意力交给从中牟利的平台。

CSET的海伦·托纳表示：“算法经过优化，使用户尽可能长时间停留在平台上。”马尔科姆·默多克解释道，通过点赞、评论和关注等奖励，“算法会锁定我们大脑的运作方式，让我们下一次的参与变得难以抗拒”。

为了最大化广告收益，企业正在分散我们对工作、家庭、朋友、责任乃至爱好的注意力。更糟的是，内容常常让我们感到不快，比以前更加糟糕。托纳警告说：“我们在这些平台上花的时间越多，就越少去追求积极、高效和充实的生活。”

我们每天都把大部分日常生活交给借助人工智能的机器。这是个问题，因为正如戈罗维茨所指出的，“我们还没有完全认识到人工智能中的偏见问题。即便出于最好的意图，借助人工智能的系统设计，无论是训练数据还是数学模型，都反映了编程者狭隘的经验和利益，而每个人都有自己的偏见”。

信息安全公司KnowBe4的新技术高级副总裁莉迪亚·科斯托普洛斯表示：“许多借助人工智能的系统没有考虑到不同人的多样经验和特点。”由于人工智能解决的问题基于带有偏见的观点和数据，而非每个人的独特需求，这类系统所提供的一致性，是人类社会中不存在的。

即便在人工智能出现之前，日常生活中许多普通物品的设计也常常只服务于某一类人。例如，研究表明，汽车、包括手机在内的手动工具，甚至办公室的温度参数，都是为身高中等的男性设计的，这使不同身高和体型的人（包括女性）处于不便甚至危险的境地。

现代人工智能依托数据集、先进的统计模型和预测算法运行，因此创造机器智能的过程归根结底是数学问题。默多克说：“如果我们不小心，线性代数可能会做出极其强大的事情。”

但如果人们对人工智能的恐惧如此强烈，以至于政府对其监管到剥夺人类诸多益处的程度，那会怎样呢？例如，DeepMind的AlphaFold在预测氨基酸如何折叠成蛋白质方面取得了重大突破，使科学家得以确定98.5%人类蛋白质的结构。这一里程碑将为生命科学的快速发展奠定富有成果的基础。

想想无障碍的跨语言沟通和跨文化理解所带来的好处，这些都得益于能够在任意人类语言组合之间无缝翻译；也想想利用借助人工智能的系统寻找疾病新疗法的可能。

政府为防范人工智能最坏情景而采取的监管措施，也可能产生令人不快的后果，并引发新的意外负面影响，使我们因过度畏惧这项令人惊叹的技术，而抗拒利用它为世界带来的益处。