DESIGN TOOLS
STORAGE

这是我在中国闪存市场峰会和内存峰会上的演讲心得

Jeremy Werner | April 2024

我有机会在…做主题演讲 CFMS(中国闪存市场峰会)| MemoryS 2024 on March 20th. The title of my speech was “Micron memory & 存储:推进人工智能革命;” and I invite you to watch it.

这是最有趣的新兴趋势之一, 这当然是展会上讨论的一个话题,那就是数据中心和边缘设备如何, 特别是AI个人电脑和AI智能手机, 是否会合作以最有效地提供人工智能体验, thereby conserving resources. 与几年前相比,这是一个显著的方向变化,当时的传统观点是所有的计算功能都将转移到云端. At that time, 在未来的世界里,每个边缘设备都只是一个瘦客户端——所有的应用程序都在云上运行, 所有数据都存储在云端,所有设备始终连接.

也许在遥远的将来,随着技术趋势的波动,这种愿景将再次出现. But for the foreseeable future, 由于功耗的限制,在云中运行每个工作负载是不可行的, cost, latency, 网络带宽和简单的现实是,人类可以多快地构建(并负担得起构建)数据中心和通信基础设施. 这些现实对于内存和存储的未来是有意义的.

第一个重要的认识是,降低数据中心的功耗比以往任何时候都更加重要. 这一直是降低总成本的重要指标, 节约能源,减少数据中心的碳足迹. 但现在这是必须的,因为它已经成为大型云服务提供商和人工智能基础设施运营商构建基础设施能力的限制因素. 

What does this mean? 

  • 在传统hdd上使用高容量ssd可以显著减少数据中心的空间占用,最多可减少五倍. 而固态硬盘的初始投资更高, the long-term savings in overhead, cooling, power and space are substantial, 导致更高的每秒兆次操作速率(TOPS). On a power-per-usable-terabyte basis, hdd需要短行程以获得最佳的AI工作负载性能, consuming 2.3 times more power than today’s 30.82TB SSDs.1 当将hdd与未来的高容量ssd进行比较时,这一差距预计将增加五倍. Therefore, 投资固态硬盘在经济上是谨慎的, 考虑到与建造额外的数据中心和发电厂相关的高昂成本.

 

  • 本地存储的性能和容量需求——主要是用于人工智能手机的UFS和用于人工智能个人电脑的NVMe ssd——将不可避免地以比之前预期更快的速度增长. For the past five to ten years, 游戏和媒体制作的应用程序(想想YouTube), Instagram和TikTok网红)推动了对更高性能和容量的需求. But typically, 在成熟市场中,这些应用只占这些设备所有用户的不到20%. 人工智能是一个无处不在的应用程序,每个人都会使用, 进一步推动本地存储需求, 就像之前的游戏和媒体制作应用一样. 在这个领域,用户体验才是王道, 这就是为什么美光专注于完善沙巴体育结算平台,以满足最苛刻的应用和用户体验.

对于存储和创新来说,这是一个激动人心的时刻! 智能时代已经来临,我们可以为人类的利益塑造未来. 内存和存储技术的进步,比如美光公司的HBM3E, high-capacity DIMMs, LPDDR5X, LPCAMM, data center SSDs, client SSDs, 而UFS无疑将是未来的关键部分.

 

1. SSD系统机箱功率= 1000W, 20块SSD /系统= 50W/SSD
HDD系统机箱功率= 1200W, 30个HDD /system = 30W/HDD
SSD W/TB = 50W/30.82TB, HDD W/TB = 30W/可用HDD容量8TB

Corporate Vice President & 仓储事业部总经理

Jeremy Werner

Jeremy是一位拥有20多年经验的存储技术领导者. 在美光,他的职责范围很广, including product planning, 为服务器提供市场和客户支持, Storage, Hyperscale, and Client markets globally. 此前,他曾担任美国KIOXIA固态硬盘业务的总经理,并在初创公司MetaRAM担任了10年的销售和营销职务, Tidal Systems, and SandForce. Jeremy earned a B.S.E.E. 他拥有超过25项专利或正在申请的专利.