设计工具
存储

美光7450 NVMe 固态硬盘提供了高级数据中心工作负载所需的一致的低延迟

阿尔瓦罗·托莱多| 2023年6月

沙巴体育安卓版下载低且一致的延迟并没有太多的媒体报道,许多固态硬盘供应商也不喜欢谈论它.
\n

\n

我们所做的.

\n

对延迟敏感的工作负载

\n

我们应该记住,许多数据中心应用程序都是实时的——它们使用, 过程, 并对必须快速一致地交付的数据做出响应. 数据交付延迟或中断可能对许多这些工作负载有害.

\n

对延迟敏感的工作负载的一个例子是实时流. 当直播事件时, 最好的用户体验依赖于流媒体服务提供低和一致的流延迟. 如果不这样做,可能会对流的质量产生不利影响——流可能会延迟, 显示缓冲延迟或丢失帧. 以体育直播为例. 低延迟流使得流事件更加逼真——几乎就像身临其境.6 实时流并不是唯一对延迟敏感的数据中心工作负载. 有些工作负载更“幕后”.“它们还依赖于快速、一致的数据传输.

\n

实时分析是从数据中提取见解以做出更好和及时的决策的实践, 数据延迟会限制其有效性. 当从多个来源收集数据时, 分析可能不得不等待最慢的源——无论是单个服务器还是机架服务器. 当存储响应快速且一致时, 等待时间被最小化,见解被更快地传递. 现代数据中心也已经从运行在裸机服务器上的单个工作负载迁移到容器化和虚拟化部署,其中单个服务器托管多个应用程序和工作负载, 共享相同的物理服务器资源.

\n

这些云和虚拟化(多租户)工作负载还依赖于低且一致的延迟. 它们高度平行, 共享相同底层物理资源(存储)的多租户工作负载, CPU, 内存, 和网络). 当存储响应快速且一致时, CPU资源可以等待更少, 使托管更多工作负载或支持更多虚拟机成为可能,同时提供更可预测的性能模式. 而存储吞吐量显然很重要, 保持高吞吐量和低一致性访问对于数据中心实现其性能目标和服务水平协议至关重要.

\n

延迟的基本原理和影响

\n

QoS (质量 of Service)是一种用于描述固态硬盘设备中应用延迟一致性的指标. 衡量QoS有三个基本组成部分:阈值、百分比(IO)和IO类型:

\n
    \n
  1. 一个阈值: 每次访问所需的响应时间(延迟,通常以毫秒为单位).
    \n
  2. \n
  3. 一个百分比: 低于阈值的所有访问的百分比. 这通常以IOs的百分比来表示,比如99%.9999%,通常指的是
    \n这个数字中9的个数- 99.99%是“4 - 9”和99.9999%是6 - 9.”
  4. \n
  5. IO类型: 被测量的数据IO的类型. IO可以是读、写或两者的某种组合.
  6. \n
  7. 数据中心ssd的高QoS意味着大部分存储访问操作始终在阈值内发生.
  8. \n
\n

良好的QoS对数据中心工作负载至关重要

\n

数据中心和云工作负载对快速、一致的读取性能有着永不满足的需求. 例如,在2021年的黑色星期五,8800万买家花费了8美元.在线购物总额为90亿美元,其中亚马逊占17亿美元.其中的7%7. 这些在线客户希望他们的交易能够快速和一致地完成(很好的QoS),这样他们就可以继续他们“要做的”清单上的下一个事情.

\n

美光7450固态硬盘满足了业界领先的QoS需求.9999%混合工作负载读延迟低于2毫秒(ms),同时仍然提供数十万IOPS.8 在更多以读为中心的工作负载中, 它可以提供高达100万IOPS(完整的性能信息可在美光7450固态硬盘沙巴体育结算平台简介). 我们马上就会看到, 这种较低的延迟使机架级应用程序能够提供比目前许多其他可用驱动器更多的工作.

\n

美光7450 NVMe 固态硬盘提供出色的QoS

\n

满足这些应用程序需求并不容易. 在复杂环境中实现低且一致的工作负载延迟确实存在挑战, 可伸缩的环境. 迎接这一挑战是我们开发的一大重点 微米 7450 NVMe 固态硬盘.

\n

Sub-2ms 99.混合、随机工作负载下的9999% 固态硬盘读时延

\n

让我们看看好的QoS是什么样的. 下面的图1显示了一个混合工作负载(传输大小为4KB), 100%随机放置,90%读,10%写)在单个微米 7450 固态硬盘上以6 - 9 (99.9999%)读延迟. 图2显示了写部分增加到30%后的类似结果. 图1和图2显示了混合工作负载下的读延迟,因为写延迟可能受到写连接的影响, 分岔, 在操作系统上进行缓存, 文件系统, 或应用层(如第4节所述) 这次SNIA演讲).

\n

这真是太神奇了. 不像以前的许多ssd, 美光7450固态硬盘提供的读取延迟在2毫秒或以下,并保持在这个水平,混合延迟为6 - 9毫秒, 随机工作负载和公共队列深度(qd).9 基于美光实验室测试, 这种低, 一致的延迟可以提高Microsoft SQL Server等数据库的性能, 甲骨文, MySQL, RocksDB(一个很好的云工作负载表示), 卡珊德拉, 和喷管和钟, 等.

\n

好的QoS能带来什么?

\n

当数据中心固态硬盘在低阈值下表现出高QoS时, 结果很明显——更多的读请求将低于阈值.

\n

应用程序级的好处

\n

为了说明优质QoS的应用级好处,我们 将美光7450 NVMe固态硬盘与另一款主流NVMe固态硬盘进行了比较. 我们使用了RocksDB, 关注性能的键值存储(通常用于对延迟敏感的, 面向用户的应用程序,如存储浏览历史和垃圾邮件检测, 等). 当我们设置通用应用程序交付阈值时, 我们发现美光7450固态硬盘的性能提高了95%.

\n

Rack-scale好处

\n

当我们看到机架级的优质QoS时, 在查看单个固态硬盘的QoS数据时,它的好处比人们想象的要清晰得多. 但是有多好呢?? 有什么真正的区别吗,比如说,99.9999%(6 - 9)和99% (2 - 9)? 有,我们可以计算影响.

\n

首先,我们将查看满是E1的机架可能的读IOPS数量.S 微米 7450 NVMe固态硬盘. 然后, 我们将查看不同数目的9的IOPS超出2ms阈值的数量.

\n

我们将在1U服务器上安装32块ssd10 把38台服务器装到机架上.11 Our E1.S 微米 7450 NVMe固态硬盘 can generate 100万4K随机读IOPS. 当我们在每台服务器上安装32个这样的ssd并在每个机架上加载38个服务器时, 假设最大IOPS大约为32,000,每台服务器(或大约1,200,000,每机架—每固态硬盘 100万IOPS ×每服务器32个固态硬盘 ×每机架38个服务器).

\n

如果我们以99% (2 - 9)2ms的QoS读延迟开始机架规模的讨论, 我们的服务器机架将显示大约1200万次读取超出了2ms阈值(1%的读取超出了2ms). 但在6 - 9 (99).9999%),我们的平均值要低得多,在我们的2ms阈值之外,大约有1200次读取.

\n"}}' id="text-70ef8f9806">

我在美光的工作中最好的部分之一就是与客户合作,了解他们的痛点,并最终找到我们可以合作和创新的机会,以解决他们的挑战. 数据中心客户正在管理巨大的数据, 快速变化的数据集和同步(多租户/托管)工作负载都需要转化为业务价值. 这些工作负载对其基础设施提出了很高的要求,这推动了美光的独特创新.

在我 之前沙巴体育安卓版下载美光7450 NVMe固态硬盘的博客, 我注意到,美光在整个行业都有密切的关系,这使我们能够了解数据中心工作负载的挑战和需求, 比如延迟. 在这个博客中, 我深入研究了美光7450 NVMe 固态硬盘如何提供低延迟和一致的优势. 让我们从最近的数据中心创新背后的原因以及美光如何提供帮助开始.

数据中心存储创新的四大驱动因素

美光正在四个主要领域推动存储创新:

  1. 简化向PCIe和NVMe的过渡: 与我交谈的大多数客户已经以某种方式部署了PCIe/NVMe. NVMe固态硬盘跨越引导、主数据存储和加速,具有不同的外形因素(M.2用于启动或主数据存储,E1.S为主数据存储,U.3用于部署系统)和耐久性评级(以读取为中心和混合使用耐久性).1
  2. 存储密度: 当我们增加存储密度(通过增加小尺寸的固态硬盘容量,比如7.E1上68TB.S 固态硬盘),我们产生更好的数据中心空间利用率和提高效率.2
  3. 安全: 随着数据量和多样性的增长, 该行业的攻击数量和复杂程度都有所增加. 随着管理员希望加强其安全状态,ssd上的硬件加密得到了更多的采用, 这通常包括使用美光的安全创新.3
  4. 低且一致的延迟:从最大的超大规模企业到新兴的数据中心运营商, 在单个系统上托管多个工作负载(虚拟化或容器化)4 这是标准做法. 这些工作负载每秒可以生成数百万个事务,其中许多事务共享相同的物理存储. 美光设计了7450 NVMe固态硬盘来满足这一需求. 微米 7450是一款管理数百万事务的固态硬盘,同时提供低而一致的延迟——通常被称为高服务质量(QoS)。.5

这四个都很重要. 但我想重点讲最后一个. 沙巴体育安卓版下载低且一致的延迟并没有太多的媒体报道,许多固态硬盘供应商也不喜欢谈论它.

我们所做的.

对延迟敏感的工作负载

我们应该记住,许多数据中心应用程序都是实时的——它们使用, 过程, 并对必须快速一致地交付的数据做出响应. 数据交付延迟或中断可能对许多这些工作负载有害.

对延迟敏感的工作负载的一个例子是实时流. 当直播事件时, 最好的用户体验依赖于流媒体服务提供低和一致的流延迟. 如果不这样做,可能会对流的质量产生不利影响——流可能会延迟, 显示缓冲延迟或丢失帧. 以体育直播为例. 低延迟流使得流事件更加逼真——几乎就像身临其境.6 实时流并不是唯一对延迟敏感的数据中心工作负载. 有些工作负载更“幕后”.“它们还依赖于快速、一致的数据传输.

实时分析是从数据中提取见解以做出更好和及时的决策的实践, 数据延迟会限制其有效性. 当从多个来源收集数据时, 分析可能不得不等待最慢的源——无论是单个服务器还是机架服务器. 当存储响应快速且一致时, 等待时间被最小化,见解被更快地传递. 现代数据中心也已经从运行在裸机服务器上的单个工作负载迁移到容器化和虚拟化部署,其中单个服务器托管多个应用程序和工作负载, 共享相同的物理服务器资源.

这些云和虚拟化(多租户)工作负载还依赖于低且一致的延迟. 它们高度平行, 共享相同底层物理资源(存储)的多租户工作负载, CPU, 内存, 和网络). 当存储响应快速且一致时, CPU资源可以等待更少, 使托管更多工作负载或支持更多虚拟机成为可能,同时提供更可预测的性能模式. 而存储吞吐量显然很重要, 保持高吞吐量和低一致性访问对于数据中心实现其性能目标和服务水平协议至关重要.

延迟的基本原理和影响

QoS (质量 of Service)是一种用于描述固态硬盘设备中应用延迟一致性的指标. 衡量QoS有三个基本组成部分:阈值、百分比(IO)和IO类型:

  1. 一个阈值: 每次访问所需的响应时间(延迟,通常以毫秒为单位).
  2. 一个百分比: 低于阈值的所有访问的百分比. 这通常以IOs的百分比来表示,比如99%.9999%,通常指的是
    这个数字中9的个数- 99.99%是“4 - 9”和99.9999%是6 - 9.”
  3. IO类型: 被测量的数据IO的类型. IO可以是读、写或两者的某种组合.
  4. 数据中心ssd的高QoS意味着大部分存储访问操作始终在阈值内发生.

良好的QoS对数据中心工作负载至关重要

数据中心和云工作负载对快速、一致的读取性能有着永不满足的需求. 例如,在2021年的黑色星期五,8800万买家花费了8美元.在线购物总额为90亿美元,其中亚马逊占17亿美元.其中的7%7. 这些在线客户希望他们的交易能够快速和一致地完成(很好的QoS),这样他们就可以继续他们“要做的”清单上的下一个事情.

美光7450固态硬盘满足了业界领先的QoS需求.9999%混合工作负载读延迟低于2毫秒(ms),同时仍然提供数十万IOPS.8 在更多以读为中心的工作负载中, 它可以提供高达100万IOPS(完整的性能信息可在美光7450固态硬盘沙巴体育结算平台简介). 我们马上就会看到, 这种较低的延迟使机架级应用程序能够提供比目前许多其他可用驱动器更多的工作.

美光7450 NVMe 固态硬盘提供出色的QoS

满足这些应用程序需求并不容易. 在复杂环境中实现低且一致的工作负载延迟确实存在挑战, 可伸缩的环境. 迎接这一挑战是我们开发的一大重点 微米 7450 NVMe 固态硬盘.

Sub-2ms 99.混合、随机工作负载下的9999% 固态硬盘读时延

让我们看看好的QoS是什么样的. 下面的图1显示了一个混合工作负载(传输大小为4KB), 100%随机放置,90%读,10%写)在单个微米 7450 固态硬盘上以6 - 9 (99.9999%)读延迟. 图2显示了写部分增加到30%后的类似结果. 图1和图2显示了混合工作负载下的读延迟,因为写延迟可能受到写连接的影响, 分岔, 在操作系统上进行缓存, 文件系统, 或应用层(如第4节所述) 这次SNIA演讲).

这真是太神奇了. 不像以前的许多ssd, 美光7450固态硬盘提供的读取延迟在2毫秒或以下,并保持在这个水平,混合延迟为6 - 9毫秒, 随机工作负载和公共队列深度(qd).9 基于美光实验室测试, 这种低, 一致的延迟可以提高Microsoft SQL Server等数据库的性能, 甲骨文, MySQL, RocksDB(一个很好的云工作负载表示), 卡珊德拉, 和喷管和钟, 等.

好的QoS能带来什么?

当数据中心固态硬盘在低阈值下表现出高QoS时, 结果很明显——更多的读请求将低于阈值.

应用程序级的好处

为了说明优质QoS的应用级好处,我们 将美光7450 NVMe固态硬盘与另一款主流NVMe固态硬盘进行了比较. 我们使用了RocksDB, 关注性能的键值存储(通常用于对延迟敏感的, 面向用户的应用程序,如存储浏览历史和垃圾邮件检测, 等). 当我们设置通用应用程序交付阈值时, 我们发现美光7450固态硬盘的性能提高了95%.

Rack-scale好处

当我们看到机架级的优质QoS时, 在查看单个固态硬盘的QoS数据时,它的好处比人们想象的要清晰得多. 但是有多好呢?? 有什么真正的区别吗,比如说,99.9999%(6 - 9)和99% (2 - 9)? 有,我们可以计算影响.

首先,我们将查看满是E1的机架可能的读IOPS数量.S 微米 7450 NVMe固态硬盘. 然后, 我们将查看不同数目的9的IOPS超出2ms阈值的数量.

我们将在1U服务器上安装32块ssd10 把38台服务器装到机架上.11 我们的E1.S 微米 7450 NVMe ssd可以生成 100万4K随机读IOPS. 当我们在每台服务器上安装32个这样的ssd并在每个机架上加载38个服务器时, 假设最大IOPS大约为32,000,每台服务器(或大约1,200,000,每机架—每固态硬盘 100万IOPS ×每服务器32个固态硬盘 ×每机架38个服务器).

如果我们以99% (2 - 9)2ms的QoS读延迟开始机架规模的讨论, 我们的服务器机架将显示大约1200万次读取超出了2ms阈值(1%的读取超出了2ms). 但在6 - 9 (99).9999%),我们的平均值要低得多,在我们的2ms阈值之外,大约有1200次读取.

图表显示微米7450 固态硬盘读延迟4k RND 90%读10%写工作负载
图表显示微米7450 固态硬盘读延迟4k RND 70%读30%写工作负载
每个固态硬盘的读IOPS 每台服务器的固态硬盘 每机架服务器数 2ms QoS %值  读取超过2ms(大约).)
 100万年  32   38   99%
(九)
 12,000,000
99.9999%
(six-nines)
  1,200

机架规模的图片确实是不同的. 对于我们的2ms阈值QoS -超出阈值的1200万读取(2 - 9), 或者仅仅是1200 (6 - 9)? 这是一个理论上的例子,因此实际工作负载级别的差异会有所不同. 但是,低且一致的延迟有利于大多数数据中心工作负载以及对延迟特别敏感的工作负载, 这是必要的.

美光7450固态硬盘直接满足这些需求,提供低且一致的延迟

美光制造了最先进的7450固态硬盘, 176 -层与非, 世界上最先进的, 大规模生产NAND的技术, 并将其与我们先进的控制器和固件相结合,以提供令人难以置信的结果.12

但最大的优势是我们能够将这些创新技术快速集成到我们的固态硬盘中, 哪一个能让更多的用户更快地接触到这些创新.

如何了解更多

美光7450 固态硬盘性能旨在为各种数据中心工作负载提供令人印象深刻的QoS,并显示出复杂工作负载的实质性优势.

欲知详情,请浏览 美光7450页.com 联系你的销售代表,让他们进入你的实验室,然后投入生产!

沙巴体育结算平台而导致的数据被盗或损坏, 包括那些包含上述任何安全特性的沙巴体育结算平台.
\r\n4. 看到 http://www.gartner.有关更多细节,请参阅www.informationtechnology/glossary/virtualization
\r\n5. 看到 http://www.snia.沙巴体育安卓版下载将服务资格应用于存储的更多背景信息.
\r\n6. 更多资料可在此查阅: http://www.dacast.com/blog/best-low-latency-video-streaming-solution/#:~:text=Low%20latency%20streaming%20is%20especially%20important%20for%20certain,thing%20to%20attending%20your%20event%20in%20real%20life
\r\n7. http://www.emarketer.com/content/black-friday-2021-illustrates-changing-consumer-behaviors
\r\n8. 2ms延迟是常见的数据中心工作负载延迟需求.
\r\n微软指出,对于Azure SQL数据库和Azure SQL管理实例,“…需要存储层快速响应的工作负载(平均1-2毫秒)应该使用业务关键层…”。 http://docs.microsoft.com/en-us/azure/azure-sql/database/service-tier-business-critical?view=azuresql
\r\nIBM还在其高可用性需求中指出了2ms心跳需求:http://www.ibm.com/docs/en/qsip/7.4?主题= planning-link-bandwidth-latency
\r\n9. 对于4KB,最多队列深度= 32, 100%的随机, 70%读负载, 基于美光工程收集的工作量数据
\r\n10. 示例服务器: http://www.supermicro.com/en/products/system/1U/1029/SSG-1029P-NES32R.cfm
\r\n11. 普通服务器机架最多可容纳42台1U服务器: http://www.tripplite.com/42u-smartrack-standard-depth-server-rack-enclosure-cabinet-doors-side-panels~SR42UB 有额外的机架空间容纳开关和其他设备.
\r\n12. 基于本文档发布之日在公开市场上可用的带有NVMe的类似用途ssd. 美光7450固态硬盘提供了更广泛的外形尺寸,结合了业界领先的美光176层NAND.

\r\n"}}' id="fn1">

1. 美光7450固态硬盘有M.2, E1.美国和美国.主要阅读和混合使用设计中的3个形式因素. 通过启用单个固态硬盘架构来满足引导,这简化了系统设计, 主数据存储, 加速(缓存).
2. 增加固态硬盘容量意味着需要更少的固态硬盘来存储相同数量的数据. 相同尺寸的更少的ssd需要更少的服务器来容纳它们,也需要更少的空间来安装这些服务器. 有关E1的更多信息.S的形式因素,见http://www.snia.org/forums/cmsi/knowledge/formfactors. 注意:对于所有容量语句,格式化的容量将更小.
3. 没有任何硬件、软件或系统可以在所有条件下提供绝对的安全. 美光不对损失承担任何责任, 因使用任何美光沙巴体育结算平台而导致的数据被盗或损坏, 包括那些包含上述任何安全特性的沙巴体育结算平台.
4. 看到 http://www.gartner.有关更多细节,请参阅www.informationtechnology/glossary/virtualization
5. 看到 http://www.snia.沙巴体育安卓版下载将服务资格应用于存储的更多背景信息.
6. 更多资料可在此查阅: http://www.dacast.com/blog/best-low-latency-video-streaming-solution/#:~:text=Low%20latency%20streaming%20is%20especially%20important%20for%20certain,thing%20to%20attending%20your%20event%20in%20real%20life
7. http://www.emarketer.com/content/black-friday-2021-illustrates-changing-consumer-behaviors
8. 2ms延迟是常见的数据中心工作负载延迟需求.
微软指出,对于Azure SQL数据库和Azure SQL管理实例,“…需要存储层快速响应的工作负载(平均1-2毫秒)应该使用业务关键层…”。 http://docs.microsoft.com/en-us/azure/azure-sql/database/service-tier-business-critical?view=azuresql
IBM还在其高可用性需求中指出了2ms心跳需求:http://www.ibm.com/docs/en/qsip/7.4?主题= planning-link-bandwidth-latency
9. 对于4KB,最多队列深度= 32, 100%的随机, 70%读负载, 基于美光工程收集的工作量数据
10. 示例服务器: http://www.supermicro.com/en/products/system/1U/1029/SSG-1029P-NES32R.cfm
11. 普通服务器机架最多可容纳42台1U服务器: http://www.tripplite.com/42u-smartrack-standard-depth-server-rack-enclosure-cabinet-doors-side-panels~SR42UB 有额外的机架空间容纳开关和其他设备.
12. 基于本文档发布之日在公开市场上可用的带有NVMe的类似用途ssd. 美光7450固态硬盘提供了更广泛的外形尺寸,结合了业界领先的美光176层NAND.

VP & 总经理,数据中心和存储

阿尔瓦罗·托莱多

Alvaro是美光公司的副总裁兼数据中心存储总经理. 他负责战略, 沙巴体育结算平台和技术路线图, 技术客户参与, 损益(P&L)用于数据中心存储.

他拥有National University的计算机科学学士学位和the Haas School of Business at the University of California的MBA学位, 加州大学伯克利分校.