新研究发现部分人工智能已擅长“说谎”
创始人
2024-05-14 03:22:29
0次
据新华社电 人工智能系统是否会欺骗人类，一直是各方都关心的问题。近期美国麻省理工学院一个研究团队称，部分人工智能系统已经学会如何欺骗人类，其中包括部分号称已被训练成乐于助人和诚实的系统。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。
文章第一作者、美国麻省理工学院人工智能安全领域博士后彼得·帕克和他的同事们分析了一些文献，重点关注了人工智能系统传播虚假信息的方式——通过习得性欺骗，它们系统地学会了“操纵”他人。
研究人员发现的最引人注目的人工智能系统欺骗例子是元宇宙平台公司的“西塞罗”人工智能系统，它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。尽管元宇宙平台公司声称，“西塞罗”人工智能系统“在很大程度上是诚实和乐于助人的”，并且在玩游戏时“从不故意背刺”它的人类盟友，但该公司发表的论文数据显示，该系统并没有公平地玩游戏。
其他人工智能系统则具有在扑克游戏中虚张声势的能力，或在战略游戏“星际争霸2”中为了击败对手而假装攻击的能力，以及为了在谈判游戏中占上风而歪曲偏好的能力等。
研究人员表示，虽然人工智能系统在游戏中作弊似乎是无害的，但它可能会导致“欺骗性人工智能能力的突破”，并在未来演变成更高级的人工智能欺骗形式。
帕克说：“我们需要尽可能多的时间，为未来人工智能产品和开源模型可能出现的更高级欺骗做好准备。我们建议将欺骗性人工智能系统归类为高风险系统。”
相关内容
热门资讯
淮南华林电气取得矿用隔爆兼本质...
金融界2025年7月26日消息，国家知识产权局信息显示，淮南华林电气有限公司取得一项名为“一种矿用隔...
AI界的“奥斯卡”榜单揭晓，今...
来源：格隆汇APP 格隆汇7月26日｜据澎湃，2025世界人工智能大会暨人工智能全球治理高级别会议（...
百度发布新一代数字人技术NOV...
百度慧播星发布新一代NOVA数字人 还记得今年618期间，罗永浩的数字人直播首秀一度掀起了全网讨论热...
离线智能，什么时候迎来 Dee...
作者｜Li Yuan 编辑｜ 郑玄 过去两年，关于 AI 模型的故事，几乎都在围绕两个版本展开：无...
原创 懂...
近日，懂车帝联合央视搞的智驾测试，彻底火了。 这次懂车帝用了36台车，包含当前主流的物斯拉、小米、蔚...
原创 欧...
2023年春节档，国产科幻大片《流浪地球2》在全国各大影院上映，瞬间引发了观众和影评人的广泛讨论。该...
2025网行者大会“网络生态：...
7月26日，2025网行者大会“网络生态：观察与建设”分论坛在重庆国际会议展览中心举办。本次论坛汇聚...
原创 华...
提到折叠屏手机，就不得不说华为了，在如今的折叠屏手机市场中，华为可以说占据了大量市场份额，特别是折叠...
商汤科技发布「悟能」具身智能平...
7月27日，在“大爱无疆·模塑未来”WAIC 2025大模型论坛上，商汤科技重磅发布「悟能」具身智能...
2025世界人工智能大会“共赢...
在当今数字化浪潮席卷全球的时代，人工智能作为前沿科技领域的核心驱动力，正深刻地改变着世界的发展格局。...
WAIC首发：启动国内首个智能...
7月27日，在2025世界人工智能大会（WAIC）上，中国移动与曙光存储联合实现首个全局统一文件存储...
宇树科技王兴兴：目前大模型生成...
21世纪经济报道 赵云帆 上海报道 人形机器人明星企业宇树科技，无疑是2025年上海举办的世界人工智...
原创 深...
要探讨外星生命的形态，不妨先将目光投向我们熟悉的地球。 地球，是已知唯一孕育了生命的天体。 在漫长...
腾讯混元发布业界首个开源3D世...
上证报中国证券网讯（记者 操子怡）7月27日，2025世界人工智能大会腾讯论坛上，腾讯正式发布混元3...
金山云携6大AI创新成果亮相W...
中证报中证网讯（记者 高改芳）7月26日，2025世界人工智能大会（WAIC）开幕。金山云携星流平台...
世界人工智能大会现场：L4级智...
7月26日至29日，以“智能时代 同球共济”为主题的2025世界人工智能大会（WAIC）在上海召开。...
苏童耗时11年携《好天气》归来...
封面新闻记者 吴德玉 王一理 摄影报道 著名作家苏童，在文坛“消失”很多年后，推出最新长篇小说《好天...
原创 2...
阅读此文前，请您点击一下“关注”按钮，这样我们可以持续推送类似的文章给您，同时也方便您参与讨论与分享...
格斗、书法、分快递……机器人玩...
金融投资网记者 张璐璇 上海报道 格斗拳击、书法舞蹈、击鼓奏乐，下棋、冲咖啡、分拣快递、制作冰激凌…...
中兴通讯联合合作伙伴斩获202...
2025年7月27日，2025世界人工智能大会的大会主论坛上，一场备受瞩目的“人工智能界奥斯卡”颁奖...