原标题：快拔掉AI的插头，否则……人体

快拔掉AI的插头，否则……人体

你对着老师布置的作文题犯难，不知如何下笔，你问一个朋友：“能帮我以《我最敬爱的人》为题写一篇作文吗?”它立刻洋洋洒洒地写出了一篇;它还能为你解答数学问题;你对它倾诉烦恼，它也能用文字安慰你……

它就是目前最火爆的人工智能(AI)聊天机器人——ChatGPT，能模仿人类说话。但就在它功能越来越强大时，科学家们却突然叫停了对它的研究……

会说人话的AI

ChatGPT是一个擅长 “说人话”的AI，也许你觉得说话没什么大不了的，每个小朋友都能说，但对于电脑而言，这可不是一件简单的事情。例如，妈妈问你：“你觉得这么做对吗?”她可能在责问你做错的事。你弟弟也可能问出一模一样的问题，却是在请教你数学题。同样的语言可以表达完全不同的意思，电脑难以分辨其中的区别。

ChatGPT却能联系上下文，从中理解你的意图，予以合理、流畅的回应，还能回答无厘头的问题：“一本书减去一只笔等于多少? ”它会说：“我不清楚书和笔之间的关系，因此无法提供正确答案。”你紧接着对它说：“一本书18元，一只笔4元。”它就会回答“14。”

将AI封印6个月

ChatGPT的语言能力令世界惊叹，但它还在飞速成长，一代又一代地升级。就在人们期待升级版ChatGPT更强的功能时，世界顶级科技巨头和一众研究人员却呼吁：所有实验室在6个月内停止训练更强大的AI系统，同时制定相关规则。他们担心高级AI会威胁到人类。

科技从来都是双刃剑，但AI这把剑不仅法力无边，而且难以捉摸，使人不免害怕。

如何训练AI说话?

ChatGPT从海量信息中学习人的喜好，对人的回答进行模仿。最初由人类对其回答进行评分，它则根据问题、答案、人类评分不断精进自己的回答，并训练出了自己的评分模型，即自己对自己的回答进行评分，再根据评分调整回答策略，相当于有了自学能力。

通过循环提问-回答-评分-调整的过程，ChatGPT能快速获得和人类相似、甚至比许多人更好的语言能力。

AI会说谎

ChatGPT可能虚构答案或事件。

有人问ChatGPT：“床明月光的作者是谁?”这与李白的《静夜思》中的“床前明月光”就差了一个字。ChatGPT居然回答道：“《明月光》这首诗的作者是唐代诗人白居易。”它从问题中得出了另一首诗的名字，张冠李戴给了另一位诗人。

它还会根据人的要求写出逼真的假新闻和邮件内容，人们难以查证，容易受骗。

ChatGPT通过庞大的数据进行学习，这些数据中不乏谣言、偏见和过时的信息，这是它的回答走偏的一个原因。

难以识破的作弊工具

有学生用ChatGPT写作文，而且是大学论文，还得到老师的赞赏，当老师得知这篇文章其实是ChatGPT写的，可以想象他有多么震惊。文章抄袭或代笔是很严重的错误，如同作弊，是学校不能容忍的，但ChatGPT语言流畅，而且可以写出与他人不重复的语句，让老师无法判断这究竟是学生自己写的还是AI写的。

为了防止学生过度依赖AI，老师们只好出招破解，例如，建议学生提交作业时提供一段短视频，在视频中重述自己作业的思路，以此保证学生真的学进去了。

AI可能替代人类法官?

人被机器或技术取代的案例在历史上曾多次上演，之前是简单重复的工作被机器取代，如流水线工人的工作，而现在的ChatGPT展示了AI承担超强专业性工作的可能性。它学习效率高，就像考试大神。

一些人类要学习若干年才能通过的职业或科目考试，它都能取得不错的成绩，甚至能在一些考试中名列前茅。未来AI或许可以成为作家、画家、会计、律师、医生、程序员，甚至法官和政府官员。因此，很多人担心自己赖以为生的工作被AI抢走。

为了拯救人类而杀死人类

许多人担心AI会伤害人类。

科幻电影《我，机器人》中，AI执行着“保护人类的整体利益不受伤害”的命令。当它发现人类常常会发动战争、破坏地球生态，为了保护全人类的未来，便决定杀死一部分人类。这种策略当然是人类无法容忍的。

AI杀人事件曾真实发生过。2012年，德国一名司机驾驶汽车时突发疾病，在失去意识之前，他握紧方向盘急转，试图让汽车在失控前，于路旁的灌木丛中停下。但车上的车道保持辅助系统认为司机这项操作很危险，又让车行驶回了马路上，结果撞死两人、撞伤一人。这是自动系统给人类造成伤害的首个案例。

在上面的事件中，AI只是在执行命令，但它执行命令的方式伤害了人类，因为它的设置还没囊括所有人类希望顾及的细节，悲剧就发生了。而人类社会、道德和情感太过庞杂，许多道德法规连人类自己还在争论不休呢，如何给AI设置清楚!

我们是否还需要学习?

既然AI这么厉害，我们每天背书、做题，即使不分昼夜，也赶不上AI分毫，那么，学习的意义在哪呢?AI是由人创造的，它的算法是人类设计的，其运用的知识也都来自于人类的研究成果，如果没有人学习和探究，AI也只会停滞不前。何况，地球、宇宙和生命还有无尽的谜团等着人类探索。

其次，再先进的AI也可能出错。我们在使用电子地图时，就常遇到被带入错路的情况，因此，人不能放弃思考，任由AI决定我们的走向。

针对被替代的职业，正如过去工作岗位被取代之后，总会诞生很多新职业，如程序员、整形师、主播等，只要创造力在，人类总会开辟出新的职业。

AI反客为主

更可怕的是，当AI持续进化，可能会成为拥有自主意识、能独立思考的强人工智能。到那时，AI或许不再甘心任人摆布，而是要做自己想做的事，也不会受制于人类道德，干出各种伤天害理的事，甚至取代、灭绝人类。

科幻电影《终结者》讲述了未来人类研发了名为天网的AI，其逐渐产生思想，对人类开战，让30亿人丧生。幸存的人类在指挥官的领导下艰苦反击，终于反败为胜。不甘心的天网又派出机器人穿越时空，想在指挥官出生之前杀死他的母亲，从而改变未来。

当然，强人工智能出现时，人类也不可能坐以待毙，也许一批人类技术高手会利用电脑病毒或其他手段与AI对抗。

人类动物园

不过，强人工智能也可能会有意保留人类，视之为地球上独特的物种，用来饲养、观察和研究。科幻短片《逃出牢笼》讲述了在人类濒临灭绝的未来，地球由AI控制。

男主角被AI圈养在一个房间里，不需要学习，不需要工作，衣食无忧，可以尽情娱乐，只是要像动物园里的动物一样供AI参观。当来自外界的人类女孩试图让他逃离时，他一开始回答：“在这里很开心。”最后，他还是被女孩打动，向往人与人之间的情谊，逃出了AI的牢笼。

暂时拔掉AI的插头

许多研究者急于开发更强的AI产品，使AI的发展势头迅猛得让人害怕，一旦它变成强人工智能，人类再采取行动恐怕已经来不及了。

虽然现在的AI还处于遵照程序指令工作的弱人工智能阶段，但ChatGPT已经会编造逼真的假消息，也被很多人滥用，眼看着它快速成长的同时渐渐失控，科技巨头和研究人员这才想叫停AI，让大家的技术狂热冷静下来，三思而后行。

“躺平”还是“出逃”

虽然强人工智能还没有出现，但类似科幻短片中的牢笼已经出现了。许多人沉浸在科技带来的便利和欢娱中，即使是等红灯的几十秒时间，也需要手机来度过;许多人只要进入游戏或短视频平台，就会沉迷好几个小时，迫不得已才会下线。

探索、学习或创造活动的时间被电子娱乐挤占，进行这些活动所需的好奇心、毅力、创造力等人类特质也在相应地减弱，然而，人类能发展到今天，依靠的就是这些特质。

无论是AI还是手机、电脑，总归都是人类发明的工具，应该是人类掌控它们，而非被它们掌控。

你会选择在科技牢笼中彻底“躺平”，还是和人类同胞一起逃出牢笼，自主体验人生、探索世界呢?