从决策式AI进阶到生成式AI,SSD将变得更为重要
创始人
2024-04-01 12:27:28
0

原标题:从决策式AI进阶到生成式AI,SSD将变得更为重要

在AI概念没有火热之前,无论手机还是PC都已经悄然引入人工智能加速相关的硬件和技术,目的是在部分功能上获得更好的体验,比如手机相册中的人脸智能识别和分类, PC和NAS在算力闲暇时对图像、视频的整理,以及视频通话时的背景虚化等等都是很好的例子。

这个时期的AI计算我们通常称为决策式AI,即在成熟的底层技术框架内,通过数据分类标签和辨别的形式,通过CPU、GPU、NPU等处理器合力,它们的特点是,具备一套成熟的判断机制,通过夜以继日的训练识别,不断提升精度,并具有很强的针对性。

随着大模型的火爆,另一种AI也推向了大众视野,即被称为生成式AI。无论是云端AI服务加速,还是近期能够本地运行200亿参数大语言模型的AI PC,它们的思维是发散且具有创造性的,同时对硬件也提出了更高的要求。

生成式AI背后的海量数据

生成式AI与决策式AI最大的不同在于模型的规模,大模型计算本身意味着高算力、高存储需求。正因为如此,LLM大语言模型才会成为推向应用层面的首要选择,原因很简单,相对于图像、视频而言,抽象的文字已经是最好整理的了。

但即便如此,大语言模型本身占用的数据量仍然巨大,以GPT-3为例,光是训练参数就达到了1750亿个,训练数据达到45TB,每天会产生45亿字内容,每次训练费用需要460万美元。而进阶到GPT-4之后,训练参数从1750亿个增加到1.8万亿个,训练成本进一步提升到6300万美元,训练数据量信息虽然没有公布,但可想而知增长也是指数级的。

有意思的是,大语言模型训练在当下似乎已经变成了日常,头部厂商已经将目光投向了图像生成和视频生成,近段时间火热的文字生成视频应用Sora,以及文生图Midjourney都是很好的例子。现在我们知道光是文字内容就可以占据海量的存储空间,如果将训练模型换成图像、视频,对内容存储和读写性能需求也注定指数级攀升。

SSD很重要

随着生成式AI深入到不同领域,能够提供高速存储性能的SSD变得至关重要。不仅如此,对于企业和数据中心而言,存储的可靠性、能效、性价比,以及对前沿技术的支持都变得至关重要。比如,企业级用户会考虑在有限的机房空间内获得更多的容量,即提升单位存储密度,并且还要考虑机架和机房的散热能力和供电能力,这时候EDSFF规格似乎就成为了不错的选择。

EDSFF,即企业与数据中心标准外形规格,特点是由头部企业引领并获得行业认可,针对物理尺寸、散热、性能、布局、安装便捷性等特性优化,从而达到更好的效果。

比如铠侠CD8P就配备了前瞻性的EDSFF E3.S版本,支持PCIe® 5.0和NVMe™ 2.0,可提供高达30.72TB的存储容量,拥有可达12,000MB/s顺序读取性能,并具备2000K IOPS的4K随机读取能力,在能耗与应用性能表现之间做到很好的平衡,为数据中心和企业级用户提供合理的扩容选择。

如果希望性能更进一步,铠侠CM7系列作为高性能企业级双端口固态硬盘同样值得参考,事实上CM7系列是较早提供PCIe® 5.0和NVMe™ 2.0支持,并已经充足释放PCIe® 5.0性能的产品,最大容量同样也达到了30.72TB。拥有高吞吐量和高密度存储的性能表现,非常适合大模型计算,大数据,深度学习加速、AIGC等人工智能应用场景。

而随着生成式AI的硬件需求越来越高,同时也不能忽视庞大的数据量需要高性能接口、大容量存储支持,铠侠企业级和数据中心级固态硬盘则早已为其做好了充足的准备。未来AI的发展路径中,也注定少不了铠侠SSD承担起存储与加速的重要角色。

*容量的定义:铠侠定义1兆字节(MB)为1,000,000字节,1千兆字节(GB)为1,000,000,000字节,1兆兆字节(TB)为1,000,000,000,000字节。但是计算机操作系统记录存储容量时使用2的幂数进行表示,即定义1GB = 230 = 1,073,741,824字节,因此会出现存储容量变小的情况。可用存储容量(包括各种媒体文件的示例)将根据文件大小、格式、设置、软件和操作系统(例如Microsoft®操作系统和/或预安装的软件应用程序)或媒体内容而异。实际格式化的容量可能有所不同。

*1千位字节 (KiB) 指 210, 或1,024字节,1兆字节(MiB) 指 220,或1,048,576 字节,1千兆字节(GiB)指230, 或1,073,741,824字节。

*IOPS:每秒输入输出(或每秒I/O操作数)

*读写速度可能因主机设备、读写条件和文件大小的不同而不同。

*信息随时可能更改:虽然铠侠在发布时已努力确保此处提供信息的准确性,但产品规格、配置、价格、系统/组件/选项等的可用性都可能发生更改,恕不另行通知。

*产品图像可以代表设计模型。图像仅用于说明目的。产品外观可能与实际产品不同。闪存组件的实际数量因硬盘容量而不同。

相关内容

热门资讯

1935.3克月球样品,首次揭... 7月9日,中国科学院发布嫦娥六号月球样品系列研究成果,四项重磅研究以封面文章形式发表于国际学术期刊《...
这波体验酷啊!他们都说“超过瘾... “知行虎门”第二天 有哪些精彩节目? 孩子们都有哪些收获? 一起来瞧瞧~ 航天飞行体验 在水濂小镇...
十篇齐发!《细胞》首次为中国脑... 7月10日深夜,由中国科学院脑科学与智能卓越技术创新中心领衔,我国科学家联合发布了10项重要成果,论...
Grok4成“宇宙最强模型”?... 21世纪经济报道记者孔海丽、实习生郑子涵 北京报道 虽然马斯克本人一脸疲态,但他亲自坐镇,给Grok...
关键部件全部国产化!全球单机功... 10日,中国华能集团有限公司(以下简称中国华能)宣布,全球单机功率和风轮直径最大的直驱型漂浮式海上风...
贴地飞行!时速600公里超导电... 7月8日至11日,第十二届世界高速铁路大会在北京举行,第十七届中国国际现代化铁路技术装备展览会同期举...
大屏化与AI驱动TV高端化浪潮 近日,在京东方投资者日活动中,京东方代表与行业伙伴、专家围绕TV高端化趋势以及LCD在多种显示技术中...
福建夫妻干出超级独角兽:用无人... 作者 | 铅笔道 松格 矿区内,无人驾驶矿卡已整齐排列,随着指令下达,这些矿卡缓缓启动,按照预设路线...
周红波:全球首个也是目前唯一将... 文/翁炫 在位于苏州工业园区纳米科技城的汉纳实验室里,周红波拿着一小块黑色薄膜自豪地说:“我们把概...
Grok 4号称“全球最强AI... 「这是世界上最聪明的人工智能。」 尽管比原定发布会时间推迟了近一个小时,但在今天中午(北京时间 9 ...
“江苏地质号”卫星出征 吉林一... 上证报中国证券网讯(记者 田甜)7月10日,长光卫星技术股份有限公司(下称“长光卫星”)在吉林省航天...
科学杂谈:一秒钟有多久? 1秒钟有多久?这个问题似乎不难回答。1天被分为24小时,每1小时被分为60分钟,而每分钟又被细分为6...
嫦娥六号玄武岩样品最新研究:破... 中新网北京7月10日电 (记者 孙自法)中国科学家对嫦娥六号采自月球背面南极-艾特肯盆地(SPA)的...
哈工大录取通知书公布,将送20... 7月10日消息,哈尔滨工业大学近日公布了今年的录取通知书以及“哈工大小卫星梦想遨游计划”,要将202...
原创 液... 在数字经济时代,算力需求爆发式增长,能量密度急剧增加,数据中心正面临前所未有的散热挑战。传统风冷技术...
上海交大团队突破AI设计热辐射... 在科技日新月异的今天,人工智能(AI)正以前所未有的速度渗透至科研领域的各个角落,为传统科学难题的解...
慕思股份:以专业为引领 智慧睡... 在当今快节奏的生活中,睡眠质量成为人们日益关注的焦点。消费者对睡眠质量的关注度显著提升,也推动了床垫...
参宿四爆炸后亮度超月亮,半年不... 最近,我在网上看到一个特别有意思的话题,说参宿四要是爆炸了,亮度能超过月亮,而且这亮度啊,能持续半年...
轻量化设计某新能源主减-差速器... 摘要:为轻量化设计某新能源主减-差速器总成,对主减速从动齿轮(简称主减齿轮)采用新的工艺路线,即滚齿...
智元机器人回应“借壳上市”猜测... IT之家 7 月 9 日消息,智元机器人针对近日“借壳上市”的猜测做出最新回应。 昨日晚间,上纬新材...