部分人工智能系统已擅长说谎
创始人
2024-05-14 10:26:54
0次
据新华社北京5月12日电人工智能系统是否会欺骗人类，一直是各方都关心的问题。近期美国麻省理工学院一个研究团队称，部分人工智能系统已经学会如何欺骗人类，其中包括部分号称已被训练成乐于助人和诚实的系统。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。
文章第一作者、美国麻省理工学院人工智能安全领域博士后彼得·帕克和他的同事们分析了一些文献，重点关注了人工智能系统传播虚假信息的方式——通过习得性欺骗，它们系统地学会了“操纵”他人。
研究人员发现的最引人注目的人工智能系统欺骗例子是元宇宙平台公司的“西塞罗”人工智能系统，它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。尽管元宇宙平台公司声称，“西塞罗”人工智能系统“在很大程度上是诚实和乐于助人的”，并且在玩游戏时“从不故意背刺”它的人类盟友，但该公司发表的论文数据显示，该系统并没有公平地玩游戏。
“我们发现元宇宙平台公司的人工智能系统已经成为欺骗大师。”帕克说，“虽然元宇宙平台公司成功训练其人工智能系统在游戏中获胜——‘西塞罗’人工智能系统在玩家排行榜中排名前10%——但没能训练它诚实地获胜。”
帕克说：“我们需要尽可能多的时间，为未来人工智能产品和开源模型可能出现的更高级欺骗做好准备。我们建议将欺骗性人工智能系统归类为高风险系统。”
相关内容
热门资讯
AI，破解考古界难题的“超级武...
图片说明： 图片说明： 深度学习技术应用于研究青铜器铸造技术的示意图 （受访者提供） 当尖端人工智能...
中环海陆获得实用新型专利授权：...
证券之星消息，根据天眼查APP数据显示中环海陆（301040）新获得一项实用新型专利授权，专利名为“...
聚焦WAIC 2025，天翼云...
在WAIC 2025举办期间，2025世界人工智能大会·中国电信人工智能生态论坛在上海举行。本次论坛...
长安先导：高原之上筑高峰
▲长安先导生命科学产业创新中心。 （本组图片均由长安先导产业创新中心提供） 科研人员在工作中。 ...
国产AI芯片独角兽，大动作
7月27日，在2025世界人工智能大会“芯节点·新突破——协同创新聚力 加速智算破局”主题论坛上，国...
2025硬核芯云展览：泰芯半导...
由芯师爷主办的“2025硬核芯”评选活动火热进行中，现以“云展览”的方式为您全方位展示中国芯产品及企...
外媒：俄国家航天集团总经理访美...
【环球网报道】综合俄新社、路透社等媒体7月29日报道，俄罗斯国家航天集团总经理德米特里·巴卡诺夫已抵...
苏州铂玛新材料取得用于物料散热...
金融界2025年7月28日消息，国家知识产权局信息显示，苏州铂玛新材料有限公司取得一项名为“一种用于...
厦门新声科技取得具有阻尼结构的...
金融界2025年7月29日消息，国家知识产权局信息显示，厦门新声科技有限公司取得一项名为“一种具有阻...
迈普斯取得具有快捷安装结构的光...
金融界2025年7月29日消息，国家知识产权局信息显示，迈普斯绿色建筑机电设计咨询（苏州）有限公司取...
苹果iPhone 17 Pro...
据一位匿名消息人士向 MacRumors 透露，苹果即将发布的 iPhone 17 Pro 系列将带...
传华为年底将发布2款高端平板 ...
【CNMO科技消息】近日，CNMO注意到，有业内人士透露，华为将在年底发布两款高端平板，均采用OLE...
不搞外卖大战的抖音，该如何站稳...
文：刘杨 编辑：308 2025 年，中国互联网领域最为令人瞩目的一场战争，莫过于外卖大战——尤其是...
智慧农业整体设计方案（63页 ...
今天分享的是：智慧农业整体设计方案（63页 PPT） 报告共计：63页 智慧农业：当科技遇上田间地头...
市人工智能大模型中心 牵手超1...
今年3月，全国首个面向制造领域的城市级大模型中心——东莞市人工智能大模型中心开服（下称“大模型中心”...
本钢板材获得实用新型专利授权：...
证券之星消息，根据天眼查APP数据显示本钢板材（000761）新获得一项实用新型专利授权，专利名为“...
特斯拉与三星签署165亿美元芯...
7月28日，三星电子公布与一家大型跨国公司达成价值165亿美元的芯片供应协议，特斯拉CEO马斯克随后...
原创 中...
今天分享的是W29（7.14-7.20）国内手机市场份额，本周大盘变化不大，所以更适合拿来进行横向对...
共建自主可控 跨境算力安全新生...
【深圳商报讯】（记者 陈燕青）7月27日，游族网络、长城科技、深圳机密计算签署战略合作协议，三方将深...
历时10个月！微软终于移除Wi...
快科技7月28日消息，自2024年10月发布以来，Windows 11 24H2版本一直受到不少已知...