来源：上观新闻 作者：殷卫海

在坚持“人类文明发展和人类幸福”价值评判标准的基础上，对人工智能技术进行有选择地推动、有选择地限制甚至禁止。

人工智能已经快步向我们走来：特斯拉等工厂正在高效工作的机器人，被认为超过医生对疾病诊断速度和准确性的人工智能……人工智能正在越来越多进入我们的生活。然而，与此同时，人们对于人工智能可能给人类社会带来的挑战，也表示出一定的担忧。这些担忧并非没有根据。一方面，人类高科技的发展已经能够使技术的传播获得指数性的增长。另一方面，从对网络和智能手机扩展过程的了解，可以预测，人工智能产品在各个领域的发展和蔓延也很可能将是爆炸性的。

在此背景下，谈论未来人工智能将给人类带来什么以及如何应对，不是超现实的科幻式的思考，而具有重大的现实意义。

对于“人工智能威胁论”该怎么看

要应对人工智能对人类社会可能带来的挑战，首先应从哲学伦理层面上确定合理的人工智能和人类的关系。

归纳来看，目前有以下几种“人工智能威胁论”：一是认为人工智能会取代大量的人类工作，其造成的大规模失业将可能对人类社会的稳定性造成威胁。二是认为人工智能在不久的将来达到“超人工智能”状态后，可能会给人类的安全造成广泛、巨大的威胁。三是认为一些前沿科技正在探索的通过脑机接口使人本身和“人工智能”融合为一体，可能会带来巨大的社会、伦理等方面的隐患甚至危机。四是认为人工智能可能会使人们更为孤独、更懒惰、更迷醉于高科技的迷幻效应、更和现实生活脱离，等等。

但在这些威胁的背后，人们更加担忧的可能是，人工智能会不会发展到让人类不再重要？

其实，即便当今人工智能科技得到快速发展，与人脑相比，人工智能仍然有很大的局限性。

比如，人工智能的主要能力是逻辑思维能力和记忆能力，而这些能力绝对不是人类精神的全部。人类精神中除了逻辑思维和记忆能力，还有情感、意志、想象力、创造力等。这些精神能力的重要性，是绝对不亚于逻辑思维能力和记忆力的。而人类对这些精神能力的本质和机制了解极少，所以，在相当长的一段时间内，人工智能是不可能真正模拟这些人类精神的。也因此，即使人工智能在逻辑思维和记忆能力方面超过了人类，也绝对不能够武断做出“人工智能已经超过了人类”这一结论。

再比如，人类的判断是依据于长期文化的积累以及人类进化发展起来的情感和意志，人类也已经建立了相对稳定的、维持人类稳定和发展的社会体系和文化体系。这些文化和情感积累的强大性、丰富性和复杂性，是人工智能不曾真正具有的。

总体而言，人工智能是由一些人工智能专家设计的，虽然发展迅速，但仍需要一段过程。对于人工智能和人类的关系，应构建起一种哲学判断，即坚决地建立起“人类是人工智能永远的主人”这一理念，要将人工智能作为工具而非对人类本身的替代。

众所周知，人类文明的发展和人类的幸福，是人类伦理学的基础。在“人工智能时代”，这仍然应是人类伦理学的基础，是判定人工智能的价值及威胁的根本评判标准。即便人工智能代表着人类最高的科技，也不应该让它不受任何限制地发展。我们应该在坚持“人类文明发展和人类幸福”价值评判标准的基础上，如同管理原子能一般地对人工智能加以管理，对人工智能技术进行有选择地推动、有选择地限制甚至禁止。

有选择性地发展人工智能

谈论人工智能对人类社会的潜在威胁，不意味着，人工智能没有价值。相反，这个价值还是巨大的。因此，我们也应当在全面深刻地分析人工智能对人类价值和威胁的基础上，制定应对举措。

第一，应采取“为我所用”的战略。

具体而言，就是要有选择性地发展人工智能：要大力推动利大于弊的、没有严重安全问题的人工智能技术，而坚决地限制，甚至严格禁止弊大于利的、具有严重安全问题的人工智能技术的发展。在此过程中，需要对于人工智能的产品建立起十分严密的、很高的安全标准。

此外，应鼓励各个国家建立“国家人工智能战略研究中心”，并根据各国的具体情况开展思考和分析，寻求共识，在此基础上迅速高效地建立起合理的发展战略、伦理学以及相关的管理条例和法律。

第二，应通过组合战略应对人工智能取代人类工作的威胁。

对于这个威胁应该辩证地看，一方面，机器人的确会替代一部分基础性、机械化的劳动，另一方面，人工智能也可能带来新的就业机会。正如网络销售时代，实体店店员的数量会减少，但对快递员的需求会有显著增加一样，预计在“人工智能时代”也会有很多新的工作。必须以最大的努力去发现这些工作，并挖掘这些工作的潜能。极大地提高教育和培训水平，使工人能够做机器人难以完成的事情。还可以预计，在大规模、批量化生产后，生产成本会越来越低，产品的价格也会越来越低，而个性化、手工制作的产品会愈加富有价值。所以，可以让机器人进行批量化的生产，而让人从事更富个性化的工作，如个性化的产品生产、个性化教育等。

第三，应加强对人类精神和文化发展的重视。

精神的丰富和发展是幸福的第一要素。需要塑造更具互动性和感染力的文化环境，使人们了解到高科技是人类获得文明和幸福的手段。倡导在一些生活和工作空间，多进行面对面交流，避免对一些电子设备的过度依赖。大力加强以推动人际交往为主要功能的机构、组织和企业的发展。

推动三类人工智能技术的发展

具体而言，应推动三类人工智能技术的发展。

一是有关人工智能在医学中应用的技术。

如今，重大疾病已经是人类社会持续稳定发展及人类幸福的最大威胁之一，而对脑卒中等重大疾病，人类尚没有建立起有效的疗法。尽快发展出有效治疗重大疾病的方法，具有极高的科学价值和社会经济、伦理学价值。由于影像技术、组学技术等大量生物医学技术的发展，可能用于疾病的预防、诊断和治疗的大数据正在爆炸性增长。人工智能在医学中的应用，将很可能使人类处理医学大数据的能力获得飞跃性的增长，也能够使医生从繁重的工作中解脱出来，从而能够开展更多的医学研究。最近连续的有关依据于人工智能对疾病诊断的准确性超过了医生的报道，显示出了人工智能在医学应用中的巨大潜力。随着老年人口的快速增加，医疗费用的支出已经是各个国家和家庭愈加沉重的负担，因此，逆转这种趋势具有极高的价值。而人工智能在医学中的应用很可能会显著地减少医疗费用。

二是有关人工智能在教育中应用的技术。

近些年，我国教育建设成绩显著。但另一方面也毋庸讳言，教师资源还远远不足以达到理想的师生比例，更不用说要达到个性化教育的要求了。所以，人工智能在教育中的应用可以缓解不理想的师生比例造成的问题，使教师有更多的时间给予学生更多的关心帮助、开展个性化教育，并去学习掌握新的知识和技能。此外，人工智能在教育中的应用可能使学生更生动、更灵活地学习知识。当然，应该注意，在任何情况下都必须保持教师和学生的一定比例，因为教师的言传身教不是任何人工智能所能替代的。

三是有关人工智能在工业生产中应用的技术。

人工智能机器人在工业生产中的大规模应用，是人工智能对人类最大的威胁之一。因此，国家需要建立起管理条例，严格控制机器人在工业生产中应用的规模和速度。但是，严格控制不等于因噎废食或全面禁止，可以优先发展以下方面的工业机器人技术：在具有危险性或生物毒性的工作环境应用的技术；在人体很不舒适的工作环境（如极热、极冷或很强噪声）中应用的技术；对人类来说操作难度太高的技术。

总体而言，我们正在步入“人工智能时代”，应全面深刻地分析人工智能对人类的价值和威胁，并在此基础上建立起针对人工智能的发展战略、伦理学以及法律法规。

（作者为上海交通大学生物医学工程学院教授、中国城市治理研究院研究员）