超级人工智能会毁灭人类吗? 科学家认为可能性仅为5%
创始人
2024-01-09 20:56:08
0

原标题:超级人工智能会毁灭人类吗? 科学家认为可能性仅为5%

参考消息网1月6日报道据英国《新科学家》周刊网站1月4日报道,科学家称,人工智能有5%的可能性导致人类灭绝。

许多人工智能(AI研究者认为,超人类人工智能的发展有可能导致人类灭绝,但对此类风险也存在广泛的分歧和不确定性。

这些发现来自对2700名人工智能研究者的调查结果,他们最近在6场顶级人工智能会议上发表了研究成果——这是迄今规模最大的此类调查。这项调查让参与者分享他们对未来人工智能技术里程碑的可能时间线,以及这些成就的社会影响是好是坏等的看法。将近58%的研究者说,他们认为发生人类灭绝或其他与人工智能相关的极端糟糕后果的可能性为5%。

论文作者、美国加州机器情报研究所的卡特娅·格拉斯说:“这是一个重要的信号,表明大多数人工智能研究者并不认为先进人工智能毁灭人类是非常难以置信的。我认为,这种认为存在非微小风险的普遍看法比确切的风险百分比更能说明问题。”

但俄亥俄州凯斯西储大学的埃米尔·托雷斯说,目前还没有必要恐慌。他们说,许多人工智能专家在预测未来人工智能发展方面“没有良好的记录”。格拉斯及其同事承认,人工智能研究者不是预测人工智能未来发展轨迹的专家,但他们表示,他们2016年的调查在预测人工智能里程碑方面做得“相当好”。

与2022年进行的同一项调查得出的答案相比,许多人工智能研究者预测,人工智能将比此前预测的更早达到某些里程碑。这与2022年11月聊天生成预训练转换器(ChatGPT问世和硅谷急于广泛部署基于大型语言模型的类似AI聊天机器人的服务吻合。

参与调查的研究人员预测,未来10年人工智能系统有50%或更高的概率成功完成39项样本任务中的大部分,包括谱写与泰勒·斯威夫特的热歌难以区分的新歌,或从头开始编写整个支付处理站点的代码。

其他任务,比如给新家实际安装电线或解决长期存在的数学难题预计需要更长的时间。

到2047年,人工智能在每项任务上的表现都超过人类的可能性为50%,而到2116年,所有人类工作实现完全自动化的可能性为50%。这些估计比去年调查结果中给出的时间分别提前了13年和48年。

但托雷斯说,对人工智能发展的高期望也可能落空。他说:“这些突破有很多是很难预测的。而人工智能领域完全有可能经历另一个寒冬。”他们指的是上世纪七八十年代人工智能领域资金和企业兴趣的枯竭。

在没有任何超人类人工智能风险的情况下,还存在一些更紧迫担忧。绝大多数人工智能研究者认为,涉及深度造假、操纵舆论、基因工程武器、对人口实施独裁控制和经济不平等日益恶化等的人工智能驱动场景令人严重或极度担忧。托雷斯还强调了人工智能在气候变化或民主治理恶化等生存问题上助长虚假信息的危险。

相关内容

热门资讯

日本计划借助AI加强知识产权竞... 新华社东京6月3日电 日本政府3日通过“知识产权推进计划2025”,希望借助人工智能(AI)等先进技...
“AI教父”本吉奥计划开发新型... 界面新闻记者 | 宋佳楠 当地时间6月3日,被誉为“AI教父”的图灵奖得主约书亚·本吉奥(Yosh...
奥拓电子获得发明专利授权:“一... 证券之星消息,根据天眼查APP数据显示奥拓电子(002587)新获得一项发明专利授权,专利名为“一种...
我省市场监管系统持续规范网络市... 本报讯(通讯员 谈玮) 随着人工智能的快速发展,DeepSeek的应用热度不断攀升,据不完全统计,仅...
新华三:2025年SDWAN技... 今天分享的是:新华三:2025年SDWAN技术白皮书 报告共计:53页 新华三《2025年SDWAN...
三星Galaxy S25 Ed... 近期,知名科技评测频道JerryRigEverything发布了一则深度解析视频,主角是三星最新旗舰...
类地生命新希望?科学家发现“超... 在广袤无垠的宇宙探索之旅中,人类始终怀揣着一个梦想:我们是否是宇宙中唯一的生命存在?这一疑问激发着科...
英伟达股价暴涨近3%反超微软 ... 【环球网科技综合报道】6月4日消息,美东时间6月3日,全球半导体巨头英伟达以2.8%涨幅收盘至141...
iPhone 18 Pro配置... 6月4日消息,苹果产业链分析师Jeff Pu在最新报告中提到,iPhone 18 Pro系列和苹果折...
三星Galaxy S25 Ed... 近期,知名科技拆解频道JerryRigEverything发布了一段引人注目的视频,深入剖析了三星最...
微软确认Windows 11预... 快科技6月4日消息,微软确认,名为“Edit”的全新文本编辑器,将很快随Windows 11一起发布...
iPhone 18系列设计关键... 6月4日消息,据外媒报道称,苹果分析师Jeff Pu最新预测显示,iPhone 18 Pro、iPh...
交通银行盐城分行开展科技活动周... 为深入贯彻落实国家关于金融科技发展的规划政策,推动金融科技创新成果惠及民生。近日,交通银行盐城分行以...
海尔智家获得发明专利授权:“一... 证券之星消息,根据天眼查APP数据显示海尔智家(600690)新获得一项发明专利授权,专利名为“一种...
温州鹿城“银龄弄潮儿”玩转De... 潮新闻客户端 通讯员 周心茹 “原来这个AI不只是年轻人的工具!”近日,在温州市鹿城区松台街道菱藕社...
华茂股份获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示华茂股份(000850)新获得一项实用新型专利授权,专利名为“...
合亿Gutab:助力智能工厂升... 随着工业4.0的快速推进,智能化生产成为现代制造业的关键趋势。在这一过程中,工厂中的工作人员对于高效...
天问二号要去的两颗星有多特别? □ 本报记者 蔡姝雯 5月29日凌晨,天问二号探测器成功发射,正式开启中国首次小行星采样返回与彗星伴...
小鹏宣布与华为战略合作,新车将... 新浪科技讯 6月4日上午消息,小鹏汽车今日在官微发文宣布与华为战略合作,新车将搭载华为HUD解决方案...