马斯克的AI聊天机器人Grok出现“幻觉”，发生了什么？
创始人
2024-01-09 03:17:31
0次
12 月 12 日消息，近日，埃隆・马斯克旗下 AI 公司 xAI 推出了全新的人工智能聊天机器人 Grok，并面向美国地区的 Premium+ X 用户开放。据官方介绍，Grok 采用了名为 Grok-1 的模型，与目前 OpenAI 旗下 ChatGPT 所使用的 GPT-4 模型完全不同。值得一提的是，Grok 还整合了 X 平台的实时数据，能够根据 X 平台的最新动态提供实时回应，这也是其与其他竞争对手的显著差异之一。
然而，就像所有 AI 聊天机器人一样，Grok 也存在“幻觉”问题，即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型（LLM）中都普遍存在，包括 ChatGPT。
近日，一个 Grok 尴尬的“幻觉”在社交媒体上引起热议。有用户在使用 Grok 时收到回应称：“我无法完成您的请求，因为它违反了 OpenAI 的用例政策。”
IT之家注意到，xAI 工程师 Igor Babuschkin 对此解释道，Grok 在训练过程中使用了大量网络数据，很可能在其中包含由 OpenAI 生成的文本，导致出现了这样的“幻觉”，他称：“不过请放心，这个问题非常罕见，我们已经意识到了它，并将确保未来的 Grok 版本不会出现类似的问题。请放心，Grok 的开发没有使用任何 OpenAI 代码。”
如何避免类似事件的发生，以及如何让 AI 聊天机器人更安全、更可信，将是未来 AI 研发的重要课题。
【来源：IT之家】
相关内容
热门资讯
从专业讨论到AI新品首发 知乎...
本报讯 （记者袁传玺）AI大模型、具身机器人、AI Agent，一股智能化创业创新浪潮席卷全球。越来...
小米SU7又出事故，郑州街头连...
据红星新闻报道，6月11日晚上9点31分左右，郑州市桐柏路与陇海西路辅路十字路口发生了一起交通事故，...
企业出海 来蓉落户！全球200...
封面新闻记者 闫雯雯 6月11日，备受瞩目的第二届“一带一路”科技交流大会在成都开幕。作为本届“一带...
华为与支付宝联合研发，实现手机...
新浪科技讯 6月11日下午消息，华为发布首款支持“熄屏就能碰一下”支付的Pura 80系列与WATC...
6G太赫兹（相控阵天线孔径耦合...
在无线通信的浩瀚星空中，6G技术犹如一颗璀璨的新星，正引领着通信领域迈向全新的纪元。其中，太赫兹频段...
“星链”卫星频繁提前坠落，研究...
近年来，美国太空探索技术公司旗下的“星链”卫星不断提前坠落，引发人们对太空环境安全与卫星运行稳定性的...
原创 苏...
1967年4月23日，前苏联宇航员科马洛夫踏上了联盟1号飞船，开始了他那次勇敢而又悲壮的月球之旅。这...
深圳市市长：积极抢抓人工智能终...
6月12日，国务院新闻办公室举行新闻发布会，介绍《关于深入推进深圳综合改革试点深化改革创新扩大开放的...
原创 全...
你是否曾有过这样的经历：深夜时分，突然感觉脚下的地面微微颤动，仿佛整个世界都在以一种难以察觉的频率轻...
华拓建业取得外墙防水涂料喷涂装...
金融界2025年6月11日消息，国家知识产权局信息显示，华拓建业工程技术有限公司取得一项名为“一种外...
中国科学院推出芯片全自动设计系...
本报北京6月11日电 (记者谷业凯)近日，中国科学院计算技术研究所处理器芯片全国重点实验室联合软件研...
力箭二号一级动力系统试车成功！...
6月12日，记者从中科宇航获悉，该公司研制的力箭二号液体运载火箭一级动力系统试车任务取得圆满成功。这...
纳微半导体“朋友圈”+1，碳化...
近日，纳微半导体正式宣布与BrightLoop达成战略合作，双方将围绕新一代氢燃料电池充电系统，运用...
刚刚，LeCun亲自出镜，Me...
机器之心报道 机器之心编辑部 最近，Meta 大动作不断。 前些天有外媒曝出马克・扎克伯格正在组建一...
SpaceX载人发射任务Ax-...
2025-06-12 02:01:45 作者：狼叫兽 SpaceX 于今日清晨宣布，原定于北京时间...
PICO视频6月上新，推出自然...
（映维网Nweon 2025年06月12日）PICO视频日前公布了上新日历。团队写道：“在宇宙的无垠...
第二届“一带一路”科技创新部长...
中新网成都6月12日电 (记者 孙自法 王利文)作为第二届“一带一路”科技交流大会的重要活动之一，第...
工信部等两部门开展生物制造中试...
今天（6月11日），工业和信息化部、国家发展改革委发布关于开展生物制造中试能力建设平台培育工作的通知...
Meta推出世界模型V-JEP...
财联社6月12日讯（编辑 牛占林）美东时间周三，Meta推出了一款新的开源模型V-JEPA 2，可以...
5GWh固态电池项目签约
【DT新材料】获悉，6月6日，在杭州钱塘（新）区的高质量项目建设推进大会上，源电新能源全固态电池产业...