AMD 平台现支持本地运行 LLM 和 AI 聊天机器人_资讯

创始人

2024-03-07 16:17:53

0次

IT之家 3 月 7 日消息，AMD 公司今天发布公告，表示用户可以本地化运行基于 GPT 的大语言模型（LLM），从而构建专属的 AI 聊天机器人。

AMD 表示用户可以在包括采用 AMD 新 XDNA NPU 的 Ryzen 7000 和 Ryzen 8000 系列 APU，以及内置 AI 加速核心的 Radeon RX 7000 系列 GPU 设备上，本地运行 LLM 和 AI 聊天机器人。

AMD 在公告中详细介绍了运行步骤，例如运行 70 亿参数的 Mistral，搜索并下载“TheBloke / OpenHermes-2.5-Mistral-7B-GGUF”；如果运行 70 亿参数的 LLAMA v2，搜索并下载“TheBloke / Llama-2-7B-Chat-GGUF”。

AMD 并不是第一个这样做的公司，英伟达（NVIDIA）最近也推出了 "Chat with RTX"，这是一个由 GeForce RTX 40 和 RTX 30 系列 GPU 支持的人工智能聊天机器人。它采用 TensorRT-LLM 功能集进行加速，基于本地化数据集提供快速生成的人工智能结果。

IT之家附上公告原文地址，感兴趣的用户可以访问阅读。

人形机器人公司「灵宝CASBO... 投资界6月26日消息，人形机器人品牌「灵宝CASBOT」近日完成近亿元级天使+轮融资，投资方包括蓝思...

深度原理贾皓钧：谈AI赋能科研... 【2025 第十六届夏季达沃斯论坛期间，深度原理创始人分享 AI 见解】2025 年 6 月 24 ...

神舟二十号乘组在轨两个月开展... 自4月25日进驻中国空间站以来，神舟二十号乘组已经在轨满两个月，三名航天员陈冬、陈中瑞、王杰迅速适应...

Swift 宣布成立安卓工作组... 2025-06-26 10:40:57 作者：狼叫兽 6 月 26 日消息，Swift 官网今日发...

中国月球样品首次走进维也纳联合... 6月25日，在联合国和平利用外层空间委员会第68届会议期间，中国国家航天局、中国常驻维也纳代表团共同...

50余项场景及需求发布！这场活... 搭建“看得见”的平台、释放“用得上”的信号、促进“链得紧”的对接……6月25日，“科创天府·智汇蓉城...

找准方向拓宽产业创新路径中央经济工作会议强调，推动科技创新和产业创新融合发展。科技创新是产业创新的引擎，产业创新是科技创新的...

帕西尼建工厂年产近2亿条训练... 这座数据工厂物理空间近12000平方米。多维触觉灵巧手。当行业目光仍聚焦于机器人本体的精巧设计...

我国加速设备更新改造工业、交... 我国是产品设备生产和使用大国，根据有关机构测算，目前能源、工业、建筑、交通、居民生活等领域在用的锅炉...

宁波广博取得自动书本压装机专利... 金融界2025年6月26日消息，国家知识产权局信息显示，宁波广博纸制品有限公司取得一项名为“一种自动...

合规经营诚信纳税案例丨工业“关... 工业“关节”转动里的合规刻度 ——来自河南洛阳轴承产业合规经营实践的调研神舟飞船“上九天揽月”、蛟...

黑莓 Passport「秽土转... 我原本以为，属于全键盘手机的那个时代早已过去——正正方方的屏幕、全尺寸键盘，还有「砖头」机身。但在...

上海小程序开发可以参考的公司上海小程序开发力量：锐智互动与锐智开高的技术革新之路在数字化浪潮席卷企业的今天，选择技术伙...

“科技的力量”第三场院士专家报... 6月23日，由山西省科协、山西省直机关工委、山西省教育厅、山西省科技厅联合主办的“科技的力量”第三场...

迤车镇上郎小学：流动图书车给孩... 6月24日，一辆流动图书车缓缓驶入迤车镇上郎小学，会泽县文化和旅游局携手迤车镇文化站精心策划的系列“...

托普森取得粉末冶金送粉装置专利... 金融界2025年6月25日消息，国家知识产权局信息显示，山东托普森金刚石钻头有限公司取得一项名为“一...

6月26日外媒科学网站摘要：为... 6月26日（星期四）消息，国外知名科学网站的主要内容如下：《自然》网站（www.nature.co...

印度载人飞船首飞成功意味着什么... 印度载人飞船首飞成功意味着什么？欢呼与光芒划过蔚蓝苍穹——这不是宝莱坞演绎的虚幻奇迹，而是南亚大地...

人形机器人厂商学着精打细算「过... 资本短期的押注画不出一条性感的商业曲线，想讲出一个完整的商业故事，还要靠人形机器人厂商自身。换言之，...

择安静一隅探索生命奥秘黄志伟(右二)带领团队成员在做实验。 (哈工大供图) “很多人说哈尔滨冬天冷，但正是这种气候能让人保...