书名: 如何创造可信的AI
作者: ［美］盖瑞·马库斯（Gary Marcus）；［美］欧内斯特·戴维斯（Ernest Davis）;龙志勇译
格式: EPUB
出版: 浙江教育出版社
出版日期: 5月 2020
大小: 2.66MB
语言: 中文
相比之下，像药理学这样的领域则完全不同。例如阿司匹林，在人们对其作用机理有清晰认识之前，就已经在人体中发挥了多年的药效，而生物系统是如此复杂，我们很难完全彻底地搞明白某种药物的作用机理。副作用是普遍现象，而非例外情况，因为我们不能像调试计算机程序那样去寻找药物之中的bug。我们对药物如何发挥作用的理解大多是模糊不清的，我们所知道的许多情况只是来自实验数据：做个药物试验，发现这种药对人的帮助比伤害要大，而且伤害也不是那么严重，于是我们便决定这种药物可以使用。
人们之所以对深度学习心怀担忧，其中一个原因就在于，与传统的计算机编程相比，深度学习在很多方面更像是药理学。从事深度学习的人工智能科学家，大体上能理解为什么经过大量样本训练的网络可以在新问题上模仿这些样本。但是，针对特定问题选定的网络设计还远远不是一门精确的科学，更多是由实验而不是理论来指导。只要这个网络经过训练去执行任务，其工作过程就变得非常神秘。最终我们得到的是一个复杂的节点网络，其行为由数亿的数值参数来决定。22除了极其罕见的情况之外，构建网络的人都不了解其中单个节点的功能，不明白为什么其中任意一个参数具有特定的值。关于系统为什么会在正确运行时得到正确答案，在错误运行时出现错误答案，完全没有明确的解释。如果系统不能正常工作，那么若想解决问题，就只能不断试错，要么对网络体系结构进行微调，要么构建起更好的训练数据库。出于这个原因，机器学习研究和公共政策领域最近都在大力提倡“可解释的人工智能”，但目前还没有产生明确的成果。23
