训练 GPT3-175B 模型最高快 180%，谷歌宣布云端 AI 芯片 TPU v5p_资讯

创始人

2024-01-08 15:04:52

0次

IT之家 12 月 7 日消息，谷歌在推出全新大语言模型 Gemini 1.0 之外，还宣布了增强版 Tensor Processing Unit（TPU）芯片，最新型号为 TPU v5p。

谷歌目前已经在 YouTube、Gmail、Google Maps、Google Play 和 Android 等产品服务中使用 TPU 芯片，最新版本是谷歌迄今为止功能最强大、可扩展性最强和最灵活的 AI 加速器芯片。

IT之家注：在性能方面，谷歌 TPU v5p 在 bfloat16精度下，可以实现 459 teraFLOPS；在 Int8精度下，可以实现 918 teraOPS。

谷歌 TPU v5p 配备 95GB 的 HBM3 内存，内存带宽为 2.76TB / sec，每个 Pod 最多有 8960 个加速核心，并自研搭载 600GB/sec 芯片互联主控，可以更快、更准确地训练 AI 模型。

与 TPU v4 相比，新发布的 TPU v5p 具有两倍的 FLOPS（每秒浮点运算）和三倍的高内存带宽提升。

谷歌表示在 BF16 精度下，训练 OpenAI 拥有 1750 亿参数的 GPT3，比此前的 TPU v4 AI 加速器芯片快 90%；如果在 Int8 精度下可以达到 180%。

每个 TPU v5p 加速器的运行费用为每小时 4.20 美元，这比 TPU v4（每小时运行费用为 3.22 美元）和 TPU v5e（每小时运行费用为 1.20 美元）贵一点。

深圳市科达利取得盖板组件及电池... 金融界2025年5月15日消息，国家知识产权局信息显示，深圳市科达利实业股份有限公司取得一项名为“盖...

原创千... 你可能以为千元机只是给爸妈用的“接电话神器”，或者学生党的“临时战备机”，但红米Turbo4 Pro...

“人工智能+”，山西怎么“+” “人工智能是年轻的事业，也是年轻人的事业”“推动我国人工智能朝着有益、安全、公平方向健康有序发展”…...

华为将推出鸿蒙折叠电脑 5月15日，第一财经获悉，在5月19日nova 14系列及鸿蒙电脑新品发布会上，华为将推出鸿蒙折叠电...

华为发布会将推出鸿蒙折叠电脑，... 5月15日，第一财经获悉，在5月19日nova 14系列及鸿蒙电脑新品发布会上，华为将推出鸿蒙折叠电...

香港故宫文博馆推出“‘纹’以载... 5月14日，在香港故宫文博馆，参观者在沉浸式体验数字化的故宫建筑、陶瓷、织绣等文物上的传统纹样。 5...

竹芒科技申请机器人送货专利，避... 金融界2025年5月15日消息，国家知识产权局信息显示，深圳竹芒科技有限公司申请一项名为“机器人送货...

博白：人工智能进校园点燃学生... 5月12日，博白县人工智能社科普及进校园活动走进博白镇幼儿园，活动通过为小朋友展现科学原理，培育他们...

含硼聚乙烯板：科研机构的高效屏... 在现代科研领域，尤其是涉及核能、放射性物质等领域的研究中，中子屏蔽材料的重要性不言而喻。含硼聚乙烯板...

全车塑料，没有音响，这就是美国... 都说 3 万块的宏光 MINIEV 是给人民造车，那现在美国人民也有自己的宏光 MINIEV 了。 ...

蔡司智能玻璃新突破：车窗变身高... 蔡司公司在中国首次公开展示了其革命性的车辆智能玻璃方案，这一创新技术在近期举行的2025上海国际车展...

中国打造2800颗算力卫星天基... 北京时间2025年5月14日12时12分，国星宇航在酒泉卫星发射中心使用长征二号丁运载火箭，成功将太...

AI早报 | 腾讯高管称现有G... 腾讯高管称GPU够训练未来几代模型 5月14日，腾讯控股表示，AI能力已经对公司效果广告与长青游戏...

阿里巴巴开源视频生成与编辑模型... IT之家 5 月 14 日消息，据《科创板日报》报道，阿里巴巴正式开源通义万相 Wan2.1-VAC...

智能快车，出发向未来！2025... 智能时代到来，数字技术将如何撬动教育变革？5月14日，2025世界数字教育大会在湖北武汉开幕，教育数...

火星地下暗藏巨型液态水海洋，或... 一项震撼科学界的新发现揭示了火星可能隐藏着一个庞大的液态水海洋，这一发现彻底颠覆了我们对这颗红色星球...

腾讯研究院AI速递 20250... 生成式AI 一、 AI 笔记产品 Notion 今天发布了 3 个 AI 新功能All-In-One...

重庆力争农业生产信息化率202... 本报讯（新重庆-重庆日报记者赵伟平）5月14日，记者从2025年全市智慧农业现场推进会上获悉，我...

难怪现在小屏手机这么火这几款... 【CNMO科技消息】在智能手机市场竞争日益激烈的当下，大屏手机曾一度占据主流，成为众多消费者的首选。...

梯次打造智能制造升级版工业和信息化部日前印发《智能制造典型场景参考指引（2025年版）》（以下简称《参考指引》），作为智能...