推动人工智能(AI)革命

2024-04-01 02:59| 发布者: |

尊龙凯时官方网站AI颠覆性的技术正在改变产业和社会,我们身处于令人振奋的时代。当下,存储行业正处在智能时代的起点,如同之前技术爆炸式增长的工业革命与互联网时代,产业有机会去改变世界,让世界变得更加美好。”Jeremy Werner表示。

美光全系列产品线助力数据中心AI应用发展

Jeremy Werner介绍,“作为AI学习的核心器件,GPU需要源源不断的数据注入,这些数据则来自于HBM产品。”

美光已经量产了HBM3E产品,目前正在送样阶段。12层堆栈的HBM3E产品容量可达36GB,使得每个GPU可获得288GB的HBM容量。性能方面,美光HBM3E的引脚速度超过9.2 Gb/s,可提供超过1.2 TB/s的内存带宽,每瓦性能可以提升2.5倍。Jeremy Werner介绍,“客户反馈,美光HBM3E相较竞品功耗降低了30%,性能提升了10%。”

对于大模型训练而言,DDR5内存的容量也许还是不够的,对此美光推出了CZ120 CXL内存扩展方案,最多可以扩展2TB内存容量,支持热插拔标准。Jeremy先生表示,添加可扩展内存后,Llama2 LLM的推理性能提升了22%,可以更加充分的释放GPU性能。

Jeremy介绍,“大部分人认为SSD对AI服务器的训练性能没有影响,但是我们运行了一个经常运用与计算机视觉、化学研发和生物医药常用的图形神经网络引擎大模型,可以看到使用了美光9400 SSD的方案,与竞争对手相比,性能提升了36%,延迟降低了12%。”

再往下则脱离了数据中心架构来到网络数据湖,针对这部分需求,Jeremy介绍,“美光拥有6500 SSD,这是一款基于美光最新232层TLC NAND 的30TB的SSD,相较竞品性能提升48%,摄取100TB的数据相较HDD快4天,与HDD相比存储密度提升5倍。”

当然,AI想要真正的普及,一定不能止步于数据中心,而是要走向端侧。当今时代,人们的学习、生活和工作已经离不开手机、PC和汽车。Jeremy介绍,“生成式AI已经走进PC,英特尔、高通已经推出了AI平台,已经可以实现超过100亿参数的离线应用。”

除了PC,AI手机时代的到来将会驱动手机和移动存储需求的增长。Jeremy介绍,“我们预计移动端DRAM和NAND需求量将会翻倍。数据显示,到2027年生成式AI智能手机销量将到5.22亿部。”

目前我们正处在AI时代的起点,AI将改变世界,让世界变得更加的美好。从端侧到云端,AI将无处不在,大量AI模型需要处理并生成海量数据,对存储的性能、容量将提出更多需求,美光作为存储行业领军企业,已经推出一系列产品助力AI普及。

<
>
关于我们
AB模版网成立于2014年,我们是一家专注用户体验设计开发与互联网品牌建设的设计公司,创立至今为2000多位客户提供了创新与专业的设计方案。设计服务范围包括:交互原型设计、产品视觉设计、网站设计与开发建设、移动及软件产品界面设计、图标设计、品牌及平面设计等。

联系我们

13588889999服务时间:9:00-18:00)

[email protected]

官方微信官方微信

部门热线

前   台:13588889999
业务部:13588889999
客服部:13588889999
技术部:13566667777
人事部:13566667777

咨询电话13588889999 返回顶部
返回顶部