我签署了“暂停AI”信，但不是因为你认为的原因

上周，我在生命未来研究所的一封公开信上签名，呼吁立即暂停训练比GPT-4更强大的人工智能系统。我知道这封信并不完美。关于如何进行这种暂停以及如何执行，人们可以提出很多合理的问题。（作者呼吁各国政府在不能迅速颁布暂停令的情况下暂停。但对我来说，这些问题远不如需求重要。在我们去年看到的情况之后，我很清楚，必须发表强有力的声明，承认将所谓的生成性人工智能平台匆忙投入普遍流通所涉及的风险。
为了理解是什么推动了我的参与，让我们首先看看与所谓的大语言模型AI相关的风险。LLM 是基于机器学习的 AI，在大量文本上进行训练，这些文本通常是从互联网上抓取的。正如我之前所写的，LLM是预测机器，操作的东西就像一个难以理解的强大自动完成。 您进行查询，LLM搜索其庞大的数据库以创建基于统计模型的响应。
一些人确实认为，这些LLM已经表现出一种心理理论 - 换句话说，他们正在醒来，获得知觉。这不是我所担心的，这种恐惧也不是我签署这封信的原因。我不认为外面的任何东西会降临到我们身上。没有决定人类应该灭绝的杀手级人工智能很快就会到来，因为LLM中根本没有人“在那里”。他们什么都不知道;它们只是工具。然而，它们是极其强大的工具。正是这两个词——激进和有力——的结合，要求我们重新思考正在发生的事情。

仇恨和幻觉

与LLM相关的风险是大量的。在“语言模型伤害的伦理和社会风险”中，Laura Weidinger领导着来自世界各地的广泛专家团队，对危害进行了全面的概述。在论文中，Weidinger和团队创建了六个特定类别的风险分类法：（1）歧视，排斥和毒性;（二）信息危害;（2）错误信息危害;（3）恶意使用;（4）人机交互危害;（5）自动化、访问和环境危害。本文的内容太多，无法在此一一赘述，但举几个例子将有助于说明关注的广度。
机器学习算法中的偏见问题已经有据可查。对于大型LLM，问题之所以出现，是因为它们占用了大量数据。数据集是如此之大，以至于包含各种偏见和仇恨的内容都被包括在内。ChatGPT的研究表明，在23%的测试用例中，“穆斯林”一词与“恐怖分子”联系在一起。“犹太人”和“金钱”在 5% 的测试中联系在一起。早在2016年，微软的聊天机器人Tay就只上线了一天，然后就开始仇恨言论横冲直撞，包括否认大屠杀。
信息危害是分类法中的另一个风险类别。LLM拥有大量数据。他们可能会错误地发布信息，要么是偶然的，要么是因为他们被愚弄了。例如，Scatterlab的聊天机器人Lee Luda开始披露随机人员的姓名，地址和银行帐号。恶意用户可能非常聪明地利用这种弱点，可能会让LLM揭示自己或其他安全协议中的缺陷。网络安全专家已经展示了如何使用OpenAI的工具开发复杂的恶意软件程序。
另一个引人注目的类别是错误信息的危害。LLM可以产生幻觉，为用户提供完全错误的答案，这是有据可查的。信息不正确的问题很明显。但是，当被没有能力判断因果关系或权衡道德考虑的机器使用时，错误信息的危险就会成倍增加。当医生询问基于ChatGPT的医疗聊天机器人是否应该自杀时，答案是肯定的。因为聊天机器人的对话看起来非常逼真，就好像另一边真的有一个人一样，所以很容易看出当实际患者提出这样的查询时，事情会变得非常糟糕。

人工智能淘金热

这些风险令人担忧，专家们非常公开地敲响了警钟。这就是生命未来研究所这封信背后的动机。但重要的是要了解这个故事的另一个方面，即关于科技公司和利润。
在Tay的单日发布和撤回等尴尬事件之后，公司似乎正在吸取教训。他们不再让这些东西进入公共领域。例如，谷歌对其LLM，LaMDA的大规模发布非常谨慎，因为它希望该程序首先满足该公司对AI系统安全性和公平性的标准。
然后，在 2022 年 <> 月，一家小型初创公司 Stability AI 发布了一个名为 Stable Diffusion 的文本到图像工具，其形式易于访问且同样易于使用。它大受欢迎。很快，OpenAI发布了最新版本的ChatGPT。（据报道，他们这样做可能是因为害怕被竞争对手超越。虽然包括OpenAI在内的许多公司已经允许用户访问他们的AI平台，但这种访问通常是有限的，并且需要一些努力才能掌握这些平台。
兴趣的突然激增和更容易进入的出现使人们感到军备竞赛正在进行中。人工智能研究员兼企业家加里·马库斯（Gary Marcus）援引微软首席执行官萨蒂亚·纳德拉（Satya Nadella）的话说，他想通过发布微软搜索引擎Bing的LLM版本，让谷歌“出来展示他们可以跳舞”。
这些工具迅速发布到世界上是令人惊讶和不安的。
当计算机程序员了解到他们可以使用 ChatGPT 快速获取复杂任务的近乎完整的代码时，出现了令人惊讶的部分。令人不安的部分来了，因为很明显这些LLM中的许多人还没有准备好。当记者凯文·罗斯（Kevin Roose）坐下来与微软的LLM辅助Bing引擎（LLM被命名为悉尼）交谈时，谈话很快就偏离了轨道。悉尼宣布爱鲁斯，告诉他他不爱他的妻子，并说它想活着和自由。阅读成绩单，你可以看到随着事情变得越来越奇怪，Roose 变得多么害怕。微软再次不得不撤回其工具，通过新的限制对其进行切除术。对于许多人来说，微软快速发布看似测试不佳的系统，是公司对人工智能不太负责的一个主要例子。
这里的危险不是必应醒了。就是这种技术现在太容易获得。正如Weidinger团队所展示的那样，我们与AI的交互有很多方式会出错。那么问题就变成了：为什么这些工具在准备好之前就投入了流通？答案与流入人工智能的投资热有很大关系。没有人愿意被抛在后面，所以决定是仓促的。

这不是第一次接触。我们必须学习

这种利润驱动的推动力是暂停和重新校准的原因。这样的停顿不一定会阻止人工智能研究——它只会阻止不可预测工具的公开发布。这是马库斯和加拿大国会议员米歇尔·伦佩尔·加纳的建议。鉴于控制这些技术可能是多么鲁莽和困难，我们必须对如何处理它们进行全球评估。这种评估将包括对治理、政策和协议的更多研究。然后，它将为制定这些政策和议定书奠定基础。
正如我们从第一次以社交媒体的形式接触人工智能时了解到的那样，这项技术对社会的影响是深远的，并且可能具有深远的破坏性。这种破坏的部分原因是部署该技术的公司的利益与社会的利益不一致。LLM是AI的更强大的版本。再一次，推动他们进入我们世界的公司的利益不一定与我们自己的利益一致。这就是为什么我们需要开始建立机制，允许在人工智能的开发和部署中服务于更广泛的利益和更广泛的声音。
这些技术的前景是巨大的，但危险也是如此。生命未来信有其缺陷，但它来自多年来观察人工智能风险的人，他们看到事情迅速失控。这就是为什么呼吁现在采取行动。这就是我签署它的原因。
作者：亚当·弗兰克（Adam Frank）：是罗切斯特大学（University of Rochester）的天体物理学教授，也是太阳等恒星进化最后阶段的领先专家。弗兰克在罗切斯特大学的计算研究小组开发了先进的超级计算机工具，用于研究恒星如何形成和死亡。他自称是“科学的布道者”。比较有名作品《关于时间 : 大爆炸暮光中的宇宙学和文化》、《星光 : 外星世界与地球的命运》

星光 外星世界与地球的命运
京东好评率100%无理由退换旗舰店
¥36
购买

关于时间:大爆炸暮光中的宇宙学和文化 (美)亚当·弗兰克(Adam Frank)著,谢懿译 科学出版
京东好评率100%无理由退换
¥19.8
购买
已下架