服务器内存也将出现分层储存架构了！戴尔服务器全球总裁揭露2018年服务器新方向

对于企业资料中心来说，新一代服务器的功用，不只是要能够处理各种複杂运算任务，同时也要满足更多新兴应用的需求，包括人工智慧、机器学习等，对于服务器设计的挑战也就更高。一手主导Dell服务器产品战略的戴尔全球服务器解决方案部门总裁Ashley Gorakhpurwalla近日来台时，揭露了明年服务器技术新布局，Dell不只是要发展分层储存内存资料存取架构，取代传统3层式资料存取架构，在散热机制更要结合深度学习，让服务器散热可以变得更有智慧。

今年9月，Dell合併EMC正式满1周年，这桩被称为科技史上最大的併购案，不只併购金额吓人，收购完后，如何完成两家公司部门、众多产品线整併更是另一项艰困考验。在Dell已待了超过17年的Ashley Gorakhpurwalla感受最深。他表示，整併过程是一项非常耗大的工程，需要投入许多人力和资源才得以完成。“新成立Dell科技花了相当长时间，才将两家公司整合成为一家能提供完整服务的科技公司，”他表示，以目前整併来说，服务器和网通产品线，还是来自原来的Dell，储存产品则来自Dell和EMC。“整合后，才可以全力来发展技术”他说。

随着高速储存应用需求的崛起，Ashley Gorakhpurwalla观察到，近来，服务器I/O技术发展也开始出现不一样的改变，在高速I/O介面上，目前服务器市场上，有越来越多服务器厂商的新款服务器，都已开始支持新一代高速传输介面NVMe。Dell也是其中之一，从第13代PowerEdge服务器产品开始支持NVMe，到了今年第14代PowerEdge服务器推出时，在大部分新推出的服务器产品中皆已开始支持NVMe，提供更高速储存应用的使用，而对于高密度储存应用的服务器产品，更扩大支持NVMe，若以其中一款以储存应用为主的R740xd机种为例，最多可以支持扩充到24个NVMe。

Ashley Gorakhpurwalla表示，目前针对主流1U和2U的PowerEdge服务器产品，都已支持NVMe，甚至针对2U的服务器产品支持NVMe数量更多，是前一代6倍，未来将可提供企业用户，用于HPC高效能运算、加速资料库处理，及串流资料等应用。

他认为，NVMe成为服务器储存介面主流，“是一个自然演变过程，”他表示，随着高速储存应用需求的崛起，NVMe将适合用在需要HPC高效能运算，或应用在即时资料储存上，至于同样PCIe为基础的SATA介面，他认为，虽然不会消失，但在功能上将不如以往重要，例如将以非关键性资料的储存为主。

在服务器I/O介面全面往NVMe靠拢之际，高速储存装置同样有了新变化，采用不同新内存技术的高速储存装置开始出现，如Intel Optane等，可以被当成是储存等级内存来使用，有别于传统的NAND Flash和DRAM，存取速度比传统固态硬盘快，更贴近DRAM，同时又具有NAND Flash资料保存的优势。

Dell这一代PowerEdge服务器产品，也开始正式支持新主流的混用式内存NVDIMM-N，同样当作储存等级内存来使用，不过目前只有在少部分的新款服务器机型上才有提供，如R640、R740、R740xd及R940等。他表示，目前也正与其他合作伙伴共同合作，明年也将持续发展NVDIMM，帮助这个新技术可以在服务器市场到获得更广泛采用。

不过，Ashley Gorakhpurwalla更看好非挥发性内存NVM技术的明年发展，甚至他认为，这将会影响服务器未来设计架构的发展，不只是x86系统本身会受影响，甚至更将延伸到作业系统层，也包含用来建立虚拟机器的Hypervisor软件层，他也观察到，有越来越多内存和储存厂商，开始投入研发新的NVM软件技术，例如NVDIMM等，这也将成为影响明年服务器技术发展的关键。

甚至，Ashley Gorakhpurwalla更认为，这些储存等级的内存技术出现后，对于传统设计服务器资料存取的3层式架构，将带来重大改变，他进一步说明，以后服务器资料存取时，将不再只分三层来存取资料，而是可以将第2层和第3层之间的资料存取，再切分出很多个存资料用的储存内存层，来存放不同用途的资料。 “就像是储存系统常见的自动分层概念一样，可以视资料本身的重要性或存取频率，动态地让资料在不同层级储存装置上，来满足企业不同应用的需求。”他说。

为何服务器需要建立更多层的储存用内存，而不是越少层越好？Ashley Gorakhpurwalla解释，原因在于，未来企业对于不同用途的资料，在存取延迟上会有各式不同的需求。他也同意存取延迟的重要性，“所以才会有企业不惜花大把的钞票，为的就是让资料存取可以更靠近CPU些”，但他认为，这样的作法代价实在太高，而当改采用分层架构来存取资料时，资料离开了CPU的快取之后，进到的下一层，以后可以是非常快速存取的内存，可用来存取使用频率较高的重要资料，再下到一层，取得的内存容量加大，但速度就没上一层快，资料再下一层，内存容量配置变更大，但存取速度也相较更慢，可用来存取较无迫切使用需求的资料，“但基本上，速度还是会比传统SSD快。”所以，资料就不一定全部都要离CPU越近越好，而是能按存取的资料性质，移动到不同层的储存等级内存来存放，同时兼顾成本和存取效能，这些新式的储存内存都具备体积小且高速存取的特性。

Ashley Gorakhpurwalla补充，目前有许多储存等级内存技术，都持续在发展当中，这些高速储存用内存可能是一种快闪内存，或是插在DIMM插槽上的Flash储存装置。当有了分层架构以后，也能透过软件储存服务，来管理这些不同内存层资料间的传递，包括资料如何加以重覆存取使用，或利用储存快照方式来进行资料备份，甚至还可以将不同服务器内多层储存内存，建构成共享式内存资源池，可以依照使用者的需求，快速灵活的调度内存资源，做为企业不同应用系统资料存取的使用。

不过，Ashley Gorakhpurwalla也坦言，目前硬体分层技术虽然已经成熟，要让服务器的资料存取，可以经过不同层级储存装置来存放资料，并不困难，“未来真正的挑战在于软件，”他直言，现在还没有一套真正的内存分层管理软件，可以同时管控不同层内存间的资料转移，或是提供其他软件储存服务，甚至在不同服务器之间的储存内存的连接技术也还不够成熟，如Fabric等。“这也是我们公司的强项，同时拥有内存和储存能力技术，能够帮助企业将储存服务带到内存，这将是明年Dell服务器产品发展的一大重要布局。”他说。

Ashley Gorakhpurwalla还提到今年服务器另一个重要改变，就是服务器处理器改用Skylake新架构，大幅增加核心数量，甚至最多上看28核心，可以获得比前代高出6成的运算效能，可以用在HPC及AI应用。不过随着服务器配置的处理器核心数越多，运算效能越高，可以用来执行越複杂的运算工作，衍生而来的就是功耗也跟着变大的问题，所以他也表示，服务器散热机制上也必须要有新的作法，甚至也要满足部分采用高密度设计的服务器产品的要求。

以Dell的作法为例，Ashley Gorakhpurwalla就提到，他们在新推出的服务器产品中，不只采用了更先进的气流散热和排热设计，还在一款采用高密度设计的机架式服务器产品C6420上，开始结合液冷散热的新技术，来帮助处理器散热，能做到比传统空气冷却更直接的冷却效果，甚至用电效率能比起前一代C6320提高达6成，藉此提供更高密度的储存或运算能力，“将来在其他的Dell服务器产品也会跟进采用。”他说。

除此之外，为了因应企业AI应用需求的增长，他还表示，在设计服务器时，另外还针对了PCIe介面卡新增散热控制功能，他们利用深度学习技术，将散热感测器搜集到的气流等资料，持续喂给机器训练，建立散热控制预测模型，能依据周围环境温度即时变化，来预先针对个别的介面卡进行散热气流的调校，以提升GPU或FPGA加速器的使用效率。未来服务器散热也将变得更聪明。