超级人工智能会毁灭人类吗? 科学家认为可能性仅为5%
创始人
2024-01-09 20:56:08
0

原标题:超级人工智能会毁灭人类吗? 科学家认为可能性仅为5%

参考消息网1月6日报道据英国《新科学家》周刊网站1月4日报道,科学家称,人工智能有5%的可能性导致人类灭绝。

许多人工智能(AI研究者认为,超人类人工智能的发展有可能导致人类灭绝,但对此类风险也存在广泛的分歧和不确定性。

这些发现来自对2700名人工智能研究者的调查结果,他们最近在6场顶级人工智能会议上发表了研究成果——这是迄今规模最大的此类调查。这项调查让参与者分享他们对未来人工智能技术里程碑的可能时间线,以及这些成就的社会影响是好是坏等的看法。将近58%的研究者说,他们认为发生人类灭绝或其他与人工智能相关的极端糟糕后果的可能性为5%。

论文作者、美国加州机器情报研究所的卡特娅·格拉斯说:“这是一个重要的信号,表明大多数人工智能研究者并不认为先进人工智能毁灭人类是非常难以置信的。我认为,这种认为存在非微小风险的普遍看法比确切的风险百分比更能说明问题。”

但俄亥俄州凯斯西储大学的埃米尔·托雷斯说,目前还没有必要恐慌。他们说,许多人工智能专家在预测未来人工智能发展方面“没有良好的记录”。格拉斯及其同事承认,人工智能研究者不是预测人工智能未来发展轨迹的专家,但他们表示,他们2016年的调查在预测人工智能里程碑方面做得“相当好”。

与2022年进行的同一项调查得出的答案相比,许多人工智能研究者预测,人工智能将比此前预测的更早达到某些里程碑。这与2022年11月聊天生成预训练转换器(ChatGPT问世和硅谷急于广泛部署基于大型语言模型的类似AI聊天机器人的服务吻合。

参与调查的研究人员预测,未来10年人工智能系统有50%或更高的概率成功完成39项样本任务中的大部分,包括谱写与泰勒·斯威夫特的热歌难以区分的新歌,或从头开始编写整个支付处理站点的代码。

其他任务,比如给新家实际安装电线或解决长期存在的数学难题预计需要更长的时间。

到2047年,人工智能在每项任务上的表现都超过人类的可能性为50%,而到2116年,所有人类工作实现完全自动化的可能性为50%。这些估计比去年调查结果中给出的时间分别提前了13年和48年。

但托雷斯说,对人工智能发展的高期望也可能落空。他说:“这些突破有很多是很难预测的。而人工智能领域完全有可能经历另一个寒冬。”他们指的是上世纪七八十年代人工智能领域资金和企业兴趣的枯竭。

在没有任何超人类人工智能风险的情况下,还存在一些更紧迫担忧。绝大多数人工智能研究者认为,涉及深度造假、操纵舆论、基因工程武器、对人口实施独裁控制和经济不平等日益恶化等的人工智能驱动场景令人严重或极度担忧。托雷斯还强调了人工智能在气候变化或民主治理恶化等生存问题上助长虚假信息的危险。

相关内容

热门资讯

海尔智家获得发明专利授权:“一... 证券之星消息,根据天眼查APP数据显示海尔智家(600690)新获得一项发明专利授权,专利名为“一种...
温州鹿城“银龄弄潮儿”玩转De... 潮新闻客户端 通讯员 周心茹 “原来这个AI不只是年轻人的工具!”近日,在温州市鹿城区松台街道菱藕社...
华茂股份获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示华茂股份(000850)新获得一项实用新型专利授权,专利名为“...
合亿Gutab:助力智能工厂升... 随着工业4.0的快速推进,智能化生产成为现代制造业的关键趋势。在这一过程中,工厂中的工作人员对于高效...
天问二号要去的两颗星有多特别? □ 本报记者 蔡姝雯 5月29日凌晨,天问二号探测器成功发射,正式开启中国首次小行星采样返回与彗星伴...
小鹏宣布与华为战略合作,新车将... 新浪科技讯 6月4日上午消息,小鹏汽车今日在官微发文宣布与华为战略合作,新车将搭载华为HUD解决方案...
俄勒冈大学团队:大模型如何组织... 在 人工智能快速发展的今天,大语言模型(LLM)已成为我们日常生活中不可或缺的一部分,从回答问题到提...
冠柏电子取得耐高压导热管专利,... 金融界2025年6月4日消息,国家知识产权局信息显示,东莞市冠柏电子科技有限公司取得一项名为“一种耐...
三星官宣新款Ultra级折叠屏... 【CNMO科技消息】6月4日,CNMO了解到,三星海外账号正式官宣新款折叠屏手机,这将是三星旗下首款...
“2025福布斯中国人工智能科... 2025年,中国人工智能产业越来越多地从实验室走向市场。随着社会结构转型与产业升级加速,AI技术正在...
5G六周年|北邮教授曾剑秋:中... C114讯 6月3日消息(颜翊)2025年6月6日,5G商用牌照发放六周年。 六年来,我国累计建成开...
原创 华... 随着友商在618活动中开始了一轮又一轮的价格战以后。作为国产智能手机老大哥的华为手机,不得不做出积极...
原创 为... 我们打开智能手机里的每一个APP,首先得看一个弹出广告;打开电视,更是要看多遍广告,首先开机就得忍受...
《AI人工智能趋势报告》中英文... 这可能是近期最火爆的报告。互联网女皇 Mary Meeker玛丽·米克尔 沉寂多年后,携一份340 ...
新研究挑战传统观点:水铁矿可能... IT之家 6 月 4 日消息,数百年来,科学家们一直想知道为什么火星是红色的。长期以来的理论认为,这...
原创 美... 随着2025年的美国500强榜单正式公布,我们得以一窥这一年里美国商业世界的风云变幻。沃尔玛再次凭借...
苏州纽威阀门申请球阀专利 有利... 金融界2025年6月3日消息,国家知识产权局信息显示,苏州纽威阀门股份有限公司申请一项名为“球阀”的...
法律拉锯战升温,消息称苹果或砍... IT之家 6 月 4 日消息,据外媒 9to5Mac 昨晚报道,苹果与欧盟之间的法律拉锯战仍在持续,...
京东方申请一种涉及显示技术领域... 金融界2025年6月3日消息,国家知识产权局信息显示,京东方科技集团股份有限公司;成都京东方光电科技...
今年618,李佳琦们为何不“香... 尽管直播电商尚谈不上所谓的“退潮”,但不可否认的是,这个行业的确已经变得更加理性,曾经依靠主播个人魅...