AI没有撒谎概念只是用人脑的语言逻辑处理问题

目前多家科技公司正在展开一场开发更强大聊天机器人的竞赛，除了ChatGPT，包括微软必应和谷歌的Bard等聊天机器人的背后都有AI，它们能够像人类一样进行对话，撰写各种主题的文章，执行诸如电脑编程等更复杂的任务。但是人们批评这些工具会在细节上出错，而且会传播虚假资讯，有人甚至批评AI“撒谎成性”，但是AI不是在撒谎，而是像人类的大脑一样处理各类问题。
有关AI是否撒谎的问题，牵扯到稍微复杂的技术概念，就是在人工智能领域，现在所有的大语言模型叫作“生成型人工智能”，它是用比如说数以百万亿的数据，放到一个极其复杂的模型，复杂到了可能它的参数都有上千亿，这个复杂度跟人的大脑已经在一个级别了。
那么把这么多数以百万亿的数据放在数以千亿参数的这样一个复杂系统里，它不是像图书馆一样分门别类地放进去的，它实际上是像人类大脑的学习过程。人的大脑一辈子读了几百本书，上千本书，或者读了很多东西，变成了大脑的某种结构的变化，就是你在成长的过程中，在学习过程中，你的大脑细胞就在发生变化。AI这个大语言模型，它也是这样，它把数据装进来的过程中，就是它里头的参数在变化，它并不是像图书馆一样，把一本书一本书摆在那儿，那么它在使用的过程也跟传统的数据库不一样，数据库就是把数据分类摆在那儿，要哪一个数据，它就给需要的人生成哪个数据，所以说放进去啥，输出来啥，就是如果放进去的是事实，拿出来的也是事实。
而这个生成型人工智能，是一个像我们大脑一样的东西，把无数东西放进去之后，它生成的过程，就像大脑思考的过程，实际上我们如果博闻强记的话，我们可以把一本书完整地背下来，但是，通常大家都说，我记得大概是这个意思，我能把那个大意描述出来，但是不能把那个具体的原话表述出来。这是因为那个信息在装进大脑的过程中，实际上是我们大脑产生了变化，然后大脑根据我们的理解，把它表达出来的，那么这个表达的过程，对于AI这个大语言模型也是同样的，当它生成的过程中，它就形成一个概念，当你需要的时候，它把你所需要的信息给你重新组织排列出来，它实际上是在生成一个随机过程。
对它来说，它只保证最大概率地生成一个随机过程，这个随机过程最后展现出来的这个语言的意义，是真的还是假的，跟它没有任何关系，它并不去保证这个数据生成出来后，你看的这个文章是真的还是假的，它只保证这个概念前后通畅，只能保证在逻辑语言层面，前后通畅，这是它主要能表达出来的东西。
当然了，它这个东西不会凭空生出来，比如说你让它搞讲一个关羽千里走单骑的故事，它可以把关羽这个人物，甚至把曹操这个人物也引进来，但是整个千里走单骑，过五关斩六将，它给你胡编一气，五关是什么，六将是什么，全是跟历史不符合的，但是它这个故事能讲圆，而且它的语言是通顺的，这就是最可怕的地方。
人工智能就是这种状态，它用最通顺最合逻辑的方式把一个事表达出来，它只保证生成目的，逻辑通顺，但是这个事情的事实层面可能是假的，它随时可以冒出这样的虚假概念，而且说的是有理有据，它这个方式基本上是无解的。
就像人有的时候坐到那儿没事儿干的时候，晒太阳的时候，会想象着自己在某一个地方在散步，或者是你做梦的时候，大脑皮层乱变化的时候，你会记住一种场景，这是人脑不可避免的情况，对于生成型的这种大语言模型，人工智能模型，也是不可避免的一个现象。
比如说，人们可以告诉AI，你是一个50岁的工程师，我现在开始跟你讨论你的生活问题，它真的就可以装作是个50岁的工程师，跟你谈它的工作，跟你谈它的家庭。你甚至可以说，嗨，那个ChatGPT，你现在就是一个计算机的Linux终端，它真的可以把自己变成终端，你输入一个Linux的命令，它就给你返回一个Linux的回应。
对ChatGPT来说，不存在撒谎这个概念，它只是一个大语言模型，你说它是什么的时候，它可以进入这个角色，然后做那个事情，你可以把它叫作撒谎，但是，实际上是一种模拟，某种意义上讲，这是它的一个功能，它就是这样来实现所有的应对过程，就是保证它的逻辑是通顺的，你让它做这个事，它按你这个事儿、这里的逻辑去给你一个输出。
目前使用AI过程中的一个主攻的技术方向，就是怎么抑制它随便乱说，就是让它尽可能地正常说话，表达一个合理的信息，但是从根本上杜绝这个现象是不可能的。
AI发展进入奇异点 不可控性引发担忧。
人工智能AI技术的高速发展引发了科学家的担忧，包括马斯克在内的一千多名科技界领袖和研究人员今年3月29日曾发布一封公开信，敦促人工智能实验室暂停对最先进系统的开发，并在信中警告说，AI开发人员“陷入了一场失控的竞赛，开发和部署越来越强大的数位思维，以至于所有人——甚至包括它们的创造者——也无法理解、预测或可靠地控制它们”。
此外，人们也担忧AI在军事领域不受控制的发展，最终会像科幻片那样，出现AI自主控制的武器系统来对人类发动战争。
确实有这个可能性，军方把AI系统模拟装上了战机，因为在空战的时候，你发射子弹打中对方那个机会可能就是0.1秒的时间，错过就错过，而AI它不可能交给人类再去衡量，再去判断，再去决定要不要射击的问题，就是当时它自己就必须做这个决定。此外，还有导弹，还有防卫系统，这个反应时间给你越来越少的时候，你是不是要把权力越来越多地交给AI？由它来判断，它来下指令，甚至由它来组建一个新的系统来对付对方的系统。
在一些陆军的作战上面，有了自动射击系统，就是有辨识系统，然后AI自己决定要不要开枪，你给它一个指令，要防卫这个阵地，任何人上来就开枪，实际上就是把决策、辨识和开枪、射击这些动作在那个范围内连起来，交给AI了，不需要人了。以后我守卫一个阵地，我就搞一排这种机枪在那儿就完了，然后它自动地就去搜索，这个趋势会往前走。
当人脑的反应速度比不上机器的反应速度的时候，人类为了这个战争的胜利，为了各种各样的利益的时候，人类会不会把这个指挥权交出去？

网络截图