凯文·沃巴赫：人工智能、信任与法治

kevin werbach 凯文·沃巴赫[美]
凯文·沃巴赫（kevin·werbach）是宾夕法尼亚大学沃顿商学院法学和商业伦理教授。他是世界知名的新兴技术专家，致力于研究商业和政策对人工智能、宽带、游戏化和区块链等发展的影响。
沃巴赫曾在奥巴马政府的联邦通信委员会过渡团队任职，在克林顿政府期间帮助制定了美国的互联网政策，并开设了世界上最成功的在线课程，注册人数超过50万。他目前负责沃顿商学院的区块链和数字资产项目。他的著作包括《游戏化思维：改变未来商业的新力量》（2020年最新版）、 《区块链与信任新架构》（2018年版）和《数字龙卷风之后：网络、算法与人文》（2020年版）。
人工智能、信任与法治
“
人工智能革命从根本上说是一场治理革命。它转变了我们的决策方式。而且，人工智能将不可避免地被应用于依法治理的传统领域。事实上，政府正在使用算法来作出具有法律约束力的决定，或给出建议。这些方法的进一步扩展也不可避免。
然而，尽管人工智能如此强大，它也有其局限性和必须直面的问题，从错误到不透明决策，到隐私侵犯，到偏见，再到操纵等。要解决这些挑战，不能只援引法律法规，还应结合技术解决方案。我们不能仅仅依靠法律来解决人工智能问题，因为人工智能已用于解决法律问题。我们得从一个更深层的问题着手，即“什么是法治”？
”
◆◆一、法治的内涵◆◆
谈及”法治“，实际上包括以下三层意思：
首先，法律的治理作用。法律必然规范个人行为，但同时也治理国家机构。在美国和其他自由民主制国家中，这是最普遍的意义。这也正是美国开国元勋约翰·亚当斯所说的 "法治政府，而非人治政府 "。但亚当斯的表述也无法精准描述政府的运作，即便在美国也是如此。而对成文法的至高无上地位，其他社会并不广泛接受。
其次，"法治"也可能意味着依法治理。换言之，权力的行使是以正式发布的法律为依据。法律形式无处不在，但有时法律规范允许法外活动，允许其他可能会质疑法治地位高于人治地位的决定。
最后，“法治”的含义还可能是：法由规则构成。也就是说，我们所称之为法的，其形式得是硬性的规定，而不是模糊的标准。法不是直觉、偏见或其他特异人判断的结果。如果我们去寻找法，我们找到的应是可识别的规则。
◆◆二、人工智能的影响◆◆
那么，这对人工智能意味着什么？我们直接陷入了矛盾之中。
一方面，人工智能就是各种规则。和所有算法系统或计算系统一样，人工智能基于二进制代码。1和0之间没有不确定性。并且，在数字计算机上建立的所有内容，都必须以某种方式进行正式定义。人工智能并非一门创造会思考计算机的艺术，而是一门建立软件和硬件的科学，这些软硬件实现反向传播和梯度下降等算法，实现神经网络等数学模型。可以肯定的是，在实践中有效地做到这一点比我们想象的更为艺术。不过，所有的一切仍是各种规则。
另一方面，现代人工智能使规则变得难以捉摸。在过去的十五年里，人工智能的显著进步不是来自于僵化的专家系统，而是来自于统计学的机器学习方法，要从极其准确的结果中推翻人类可读标准，这几乎是不可能的。人工智能可以做出有效的决定，无论是识别面孔还是预测贷款偿还情况，而这都没有明确可识别的规则来解释人工智能的做法。
所以我们无法确切地说人工智能规则与法治究竟是一致的，还是不一致的。
◆◆三、信任◆◆
为什么信任很重要？因为人工智能和法的核心是信任，两者所创造的同样也都是信任。
信任是对弱点的接纳。信任是信仰的飞跃，没有信任，我们所知的社会以及任何规模更小的人类互动社区就无法长期有效地运作。这个世界不可避免地存在着不确定性。未来总会有一些黑暗的角落，我们必须依靠信任来采取行动。
因此，没有信任，就无法可言，也没有人工智能的成功应用。它们依赖于信任。并且，人工智能和法最基本的目标也是创造信任。法是人类智慧最非凡的创造之一，因为它在复杂、庞大和多样化的社区、社会和国家之间产生信任。同样，我们让人工智能为我们做决定，也是因为相比于人类，我们对人工智能的信任更多。或者是因为它能够在更大规模上做出可信的决定，若是依赖人类决策者，这些活动根本无法实现。
《区块链和信任的新架构》探讨了当信任去中心化时会发生什么。值得注意的是，人工智能的信任自动化将与区块链和相关技术的信任分布并行并日益融合。
◆◆四、法的治理/依法治理=算法的治理/依算法治理◆◆
那么，我们如何通过法的治理和人工智能算法的治理来产生信任？我们可以把法治理解为赋予法或规则以特权，也可认为它们始终平等、不可分割。对于治理和算法，即人工智能，有一套同等的选择和关系。每条途径都由原则指导。真正的争论发生在原则层面。法的可预测性和规律性，与其保障基本权利的扩展能力相比，意味着什么。同样，我们在人工智能方面也面临着类似的争论。
这是一个高层次的出发点。关于这种分析的具体例子，可以参考社会科学研究网（ssrn）预印本库中的文章《圆形监狱的复兴（panopticon reborn）》。该文谈到了中国的社会信用体系，这是当今世界上最重要的算法决策实验（尽管还没有普遍纳入人工智能）。
◆◆五、人工智能——黑箱◆◆
在人工智能和法可信且值得信赖的方法的关键要求方面，我们倾向于认为现代人工智能是一个黑箱。它就像大脑，像一台复杂得令人窒息的机器，尽管我们的科学能力很强，但我们了解甚少。我们可以绘制所有神经元和轴突的化学、物理、生物和网络结构图，但对于意识是如何出现的这一问题，我们似乎离答案还很远。然而，即使我们的进展停滞不前且不完善，我们也不能直接放弃，将大脑置于信仰和故事的领域。
人工智能也是如此。要让人工智能变得可控，符合法的规则，成为信任的工具，我们就得不断探索这个黑箱。
◆◆六、信任的基础◆◆
建立信任意味着不仅要在狭义的技术意义上，创造可解释的人工智能，使其符合法律要求，能识别确定决策的主要原因或是证明不存在被禁止的歧视，还要在三个关键阶段进行运作：输入、输出和运作中的反馈。
我们必须将为人工智能提供动力的数据视为基础设施。必须对输入进行追踪和审查，但也必须尽可能在最大程度上做到开放和可存取。
我们必须仔细调整我们目标函数的目标。人工智能的输出，尤其是用于重大决策或政府活动的人工智能系统，不能仅仅被正式定义为最小化一个错误项，或定义为产生与狭义形式化的问题相一致的结果。
而且我们必须纳入整体监督。反馈结构从输出返回、从输入前移，以及从技术实现和围绕算法的人工程序进行双向反馈，不能在事后相互关联，应当预先行动。得有人参与闭环，有发现和应对问题的激励结构，有针对问题的调整机制，还有监督系统使用者和控制者的手段。
要注意法和道德虽在图中，却在黑箱之外。然而，如果我们放大，这个人工智能系统的所有内容都可能被装进一个代表法律或道德决策的盒子。这是一个无限递归。没有法，人工智能就无法茁壮成长，而法也同样不能忽视人工智能。
我们的任务不是为这对矛盾找到一个解决方案。也没有解决方案。我们正在寻求更为重要的东西。无论规则、法律和技术意味着公司提供产品和服务的有效性，还是政府向公民提供社会福利的有效性，它们都是我们所真正关心之事的基石。而在我们必经桥梁的正中心，永远是信任。
上海市法学会欢迎您的投稿
fxhgzh@vip.163.com
2021世界人工智能大会法治论坛成功举办
智慧法治学术影响力top100｜作品•作者•期刊
2021世界人工智能大会法治青年论坛成功举办
刘艳红：人工智能法学的时代三问
乔凡尼•科曼德：人工智能/数据科学在法律中的应用——关注合法性的方法
邰江丽：人工智能的法律挑战与创新应用
安托万•加拉邦：人工智能与法治的困境
菲利波·法罗西尼：向可信赖人工智能迈进
迪诺·希莫纳斯：数字时代的法治问题——沙箱监管
责任编辑：王 健 金惠珠
上观号作者：上海市法学会