Vmd контроллер что это
Фантастические процессоры и где они обитают — самый сок из новых линеек HPE, Dell EMC и Lenovo
Летом этого года Intel презентовала новое поколение процессоров Intel Xeon Scalable, и производители серверов поспешили добавить новинку в свои обновленные линейки. На первый взгляд, помимо новых процессоров изменилось немногое. И все же кое-что интересное мне удалось откопать в тоннах цифровой макулатуры.
В этой статье я расскажу о любопытных нововведениях HPE ProLiant, Dell EMC PowerEdge и Lenovo ThinkSystem.
Сначала о главном — Intel Xeon Scalable
Большинство заметных технических новшеств в обновленных серверах связаны с наработками Intel, поэтому начну с процессоров.
Начиная с 2011 года у Intel были представлены три линейки процессоров Xeon — Е3, Е5 и Е7. Каждая была на своем сокете и развивалась обособленно. Например, недорогие Е3 сейчас шестого поколения, а высокопроизводительные E7 — лишь четвертого. Поэтому Intel решила убрать путаницу и перевела процессоры на единый сокет FCLGA 3647 для лучшего масштабирования.
Сравнение ТТХ процессоров Intel Xeon разных семейств. Источник: intel.com.
Поэтому семейство новых процессоров и называется Xeon Scalable, а привычную нумерацию заменили четыре линейки — Bronze, Silver, Gold и Platinum.
Соответствие старых и новых моделей Xeon.
Конечно, процессоры стали не только называться по-другому, но и обзавелись рядом интересных возможностей.
Отмечу самые интересные нововведения:
Другие нововведения касаются больше безопасности и архитектурных изменений. С более полным списком можно ознакомится в материале Intel.
Пощупать возросшую мощь технологий можно уже на железе всех основных производителей серверов. Помимо общих нововведений от Intel, туда добавились и проприетарные технологии — теперь внимательнее рассмотрим новые северные поколения «большой тройки».
HPE ProLiant Gen10
Серверы Gen 10 появились в продаже у HPE одними из первых. К сожалению, новое поколение серверов принесло много скорби и разочарования переделкой HPE MicroServer. Теперь он собран на платформе AMD с распаянным процессором и без iLO.
Но будем чередовать неприятное приятным, поэтому теперь про полезные новшества.
HPE ProLiant dl360 Gen10 — теперь с зеленой рамочкой в центре.
HPE в плане опций процессора почти ничего не добавила сверх штатных возможностей Intel Xeon Scalable. Можно отметить три новые функции с общим названием Intelligent System Tuning:
Плюсы технологий Jitter Smoothing и Core Boosting немного омрачает то, что для их активации нужно покупать лицензии iLO Advanced и выше.
Преднастроенные профили производительности в серверах HPE ProLiant Gen 10.
Куда интереснее новинки, касающиеся памяти:
В дисковой системе можно вперемешку устанавливать разные диски: SAS, SATA и NMVe. RAID-контроллеры также могут работать в смешанном режиме, объединяя одни диски в RAID и отдавая другие системе как обычный HBA.
В модуле BMC теперь можно настраивать RAID и запускать Intelligent Provisioning прямо из консоли iLO. Поддерживаются практически все инструкции Open IPMI, а REST API полностью совместим со стандартами Redfish, что делает автоматизацию управления еще более удобной.
Цены на редакции iLO по сравнению с осенью 2016 изменились в пределах погрешности.
HPE Insight Control больше не подходит для управления инфраструктурой с серверами десятого поколения, так что если вы еще не мигрировали на HPE OneView 3.0, то самое время начать. В остальном же средства управления не сильно отличаются от того, что было раньше.
Dell EMC PowerEdge 14th Generation
Компания Dell EMC также запустила 14 поколение серверов на базе Intel Xeon Scalable. Уникальных технических решений добавлено немного — компания сосредоточилась на программных средствах автоматизации, управления и защиты.
Dell EMC PowerEdge R640.
Из «множества восхитительных функций» BMC-модуля iDRAC 9 отмечу только самые любопытные:
Со всем списком отличий между iDRAC 8 и 9 версии можно ознакомиться в официальном документе.
Как и у HPE, в серверах Dell EMC накопители с интерфейсами SAS\SATA и NVMe можно устанавливать в одну корзину, но не во все разъемы: предоставляется несколько универсальных слотов, а остальные остаются обычными SAS\SATA.
Для удобства автоматизации конфигурацию BIOS сервера теперь можно экспортировать и импортировать в старый добрый XML, что упрощает развертывание новых узлов кластера. OpenManage Essentials по-прежнему работает, в том числе и с плагинами для VMware vCenter, Microsoft System Center и Nagios XI. Но уже в ноябре 2017 года ему на замену должна выйти более современная версия консоли OpenManage Enterprise.
Lenovo ThinkSystem
Оказалось непростым занятием пробраться через дебри документации Lenovo в поисках новшеств обновленных ThinkSystem. После просева маркетинга крупиц информации оказалось немного, поэтому делюсь тем, что есть.
Lenovo ThinkSystem SR630 — почти не изменился за долгие годы.
Аналогично конкурентам встроенный модуль управления поддерживает Redfish, IPMI 2.0 и другие стандарты — готов к автоматизации, гиперконвергентности и прочему будущему. Доступны также мониторинг без агентов и HTML5 в консоли KVM. А вот для управления и базовой конфигурации со смартфона предлагается только USB-порт.
Теперь BMC называется не IMM, а XClarity Controller. Для него доступны 3 варианта лицензии.
Для мониторинга и обновления прошивок по-прежнему используется бесплатный Lenovo XClarity Administrator, а для управления и автоматического развертывания необходимо будет обновить его до версии Pro. Никуда не делись и плагины для интеграции с VMware vCenter и Microsoft System Center. Есть мобильное приложение Lenovo XClarity для мониторинга и управления питанием.
Для установки накопителей NMVe есть несколько универсальных разъемов. Например, в ThinkSystem R630 с десятью слотами для 2,5’’ жестких дисков универсальными являются лишь четыре.
Выборы, выборы
В лучших традициях Top Gear с конкретным советом потребителю возникли сложности.
Серверы HPE традиционно более навороченные, но и более дорогие. Dell EMC с виду чуть проще в плане запатентованных технологий, но нововведения в управлении выглядят уже на уровне HPE, если не интереснее. А вместе с меньшей ценой это делает серверы Dell EMC достойным вариантом покупки. Отдельно стоит отметить официальный плагин к Nagios. Lenovo же производят впечатление простых рабочих лошадок без особых наворотов.
С другой стороны, новое поколение серверов хоть и «быстрее, выше, сильнее» и с современным дизайном, но для обычных задач вполне хватит старых моделей. Если не нужна автоматизация развертывания и глубокая поддержка NVMe накопителей, то стоит задуматься о приобретении сервера предыдущего поколения — например, Dell T630.
Intel VROC
Общий обзор VROC
Для начала стоит разобраться с терминологией:
Домен VMD и контроллер VMD. VMD расшифровывается как Volume Management Device, «устройство управления томами». Контроллер PCIe, встроенный в процессоры Intel Xeon Scalable, разделён на три домена по 16 линий PCIe — итого 48 линий.
VROC write hole. RAID-5 и RAID-6 в традиционной реализации 1 подвержены проблеме так называемого write hole. При записи неполного страйпа в такие массивы необходимы дополнительные дисковые операции, с пересчётом и записью новых страйпов с контрольными суммами. Сбой накопителей или аварийное отключение питания в этот момент может привести к нарушению целостности данных, если не будет обновлён страйп с контрольной суммой или один из страйпов с данными.
Одним из решений этой проблемы является предварительная запись в энергонезависимую память. Но в случае программных RAID без дополнительного оборудования остаётся полагаться на другие способы. Intel упоминает о том, что в прежних релизах VROC использовалось журналирование страйпов с данными и чётностью, но в последних релизах используется другой алгоритм, суть которого не раскрывается:
The previous Intel VROC mechanisms implemented to address the RAID Write Hole condition encompassed a combination of Dirty Stripe Journaling and Partial Parity Logging. This implementation only partially closed the RAID Write Hole. With the Intel VROC VC product family, the RWH solution included will completely close this condition (when RWH is enabled). When RWH is disabled, the old implementation (using Dirty Stripe Journaling and Partial Parity Logging) is used.
Поддержка VROC операционными системами
Отдельные документы Intel по настройке VROC в Windows и Linux находятся здесь.
Помимо VROC GUI и CLI в Windows, а также mdadm в Linux для управления VROC у Intel есть Accelerated Storage Manager (ASM) — web-интерфейс и RESTful API с очень подробной документацией.
Windows
VROC прозрачен для Intel SSD Datacenter Tool, утилиты для просмотра статуса и обновления прошивок накопителей Intel. У накопителей меняется лишь Device Path:
Для Windows понадобится свежий драйвер вместе с утилитой управления — их можно скачать с Intel Download Center. Для владельцев SSD производства Intel мы советуем заодно скачать свежую версию Intel SSD Datacenter Tool, чтобы обновить прошивку.
Установка драйвера и GUI ничем не отличается от привычного RSTe. Обратите внимание, что все массивы, кроме RAID-0 требуют инициализации. Запустить её можно, выбрав соответствующий пункт в свойствах тома.
Под Windows можно воспользоваться триальным периодом продолжительностью 90 дней. Для этого нужно просто установить VROC GUI и создать массив. Функционал будет соответствовать Premium-ключу. Управление томами будет доступно только через GUI, в интерфейсе EFI HII вы их не увидите. Это означает, во-первых, что в триальном режиме с VROC-томов нельзя будет загрузиться, во-вторых — не стоит размещать на таких томах критичные данные, так как можно пропустить окончание триального периода и потерять доступ к томам.
Linux
За работу светодиодов отвечает пакет ledmon, поставляемый Intel.
Драйвер для ESXi
Мы упоминали о том, что VROC не поддерживается в ESXi. Тем не менее, на сайте Intel присутствует документ под названием Intel VMD-enabled NVMe Driver for VMware ESXi User Guide. Действительно, RAID-массивы через VROC в ESXi не поддерживаются (ESXi вообще не поддерживает программный RAID), но VMD в платформах для Intel Xeon Scalable можно и нужно задействовать для корректной работы индикации и горячей замены NVMe-накопителей, для чего требуется специальный драйвер, установка которого описана в этом документе.
Ограничения
Intel периодически обновляет документ под названием Supported Configuration Guide («Руководство по поддерживаемым конфигурациям»). Последняя версия на момент публикации этой статьи — 6.2. Заглянем внутрь.
Поддерживаемые накопители
В начале документа вы найдёте таблицу с поддерживаемыми моделями SSD, как Intel, так и других производителей, с некоторыми интересными примечаниями. Обратите внимание, что для «составных» моделей SSD Intel, которые фактически представляют собой два накопителя на одной плате (P3608, P4608, P4618) поддерживается только RAID-0. Как и в случае со списками совместимости для SAS-контроллеров — если вашего накопителя нет в списке, то это не обязательно означает, что он не будет работать в составе VROC. Просто эту модель ещё не тестировали в Intel. Стоит ли идти на риск, зависит от конкретного проекта. Если речь идёт о хранении временных файлов на рабочей станции в RAID-0, то есть стабильность работы и целостность данных стоят на втором месте, то установку официально не поддерживаемых накопителей можно считать оправданной.
Поддерживаемые ОС
Из Linux официально поддерживаются последние RHEL и SLES. Но мы уже упоминали о том, что поддержка VROC в Linux реализована в рамках mdraid, так что VROC должен работать на любых современных дистрибутивах. Для Windows указаны все актуальные серверные версии (2012R2 и новее) и Windows 10. Поддержка Windows 7 закончилась с версией VROC 5.6.
Поддерживаемые аппаратные конфигурации
Производительность
VROC на платах Supermicro
Как использовать VROC на материнских платах Supermicro? Для начала необходимо убедиться, что полноценный VROC поддерживается материнской платой. Если это платформа Purley, то есть 1- или 2-процессорная плата под процессоры Intel Xeon Scalable с чипсетом C62x. Бывают и исключения. Например, плата Supermicro X11SRA на базе C422. VROC поддерживается и тоже требует установки ключа, но только для накопителей M.2, а из массивов — RAID-0 и RAID-1. Если у вас есть плата без VMD, то VROC без возможности загрузки и с некоторыми другими ограничениями всё равно можно будет использовать — см. VROC non-VMD NVMe RAID.
Затем необходимо приобрести один из трёх аппаратных ключей 4 :
Устанавливается этот ключ в небольшой белый 4-контактный разъём на материнской плате. На всех поддерживающих VROC платах Supermicro этот разъём имеет маркировку JRK1. Например, на плате X11DDW-L он расположен в левом углу, рядом с угловым вырезом:
Далее необходимо включить VMD для нужных слотов. Загляните в инструкцию к плате — там приведена схема с топологией подключения слотов. Затем в BIOS, в разделе Advanced включите VMD для тех слотов или портов, если PCIe выведен на разъёмы OCuLink, к которым подключены накопители.
В данном случае использовалась плата Supermicro AOC-SHG3-4M2P, позволяющая подключить четыре накопителя M.2 в один слот PCIe x8. Плата была установлена в верхний слот x16 платформы Supermicro 1029P-WTR.
После перезагрузки в разделе Advanced появится пункт Intel Virtual RAID on CPU. Кстати, режимы инициализации всех слотов и режим загрузки необходимо переключить в UEFI вместо Legacy.
UEFI HII для VROC не отличается от такового для RSTe. Создаём массивы, выбираем накопители.
Поддержка накопителей NVMe в серверах Intel на базе Xeon Scalable
В предыдущих поколениях серверов (включая серверы на базе Intel Xeon E5-2600v4) использование твердотельных накопителей NVMe 1 было связано с рядом ограничений:
Это объясняется тем, что управление интерфейсом NVMe осуществлялось не внешним контроллером, как в случае дисков SAS или SATA, а контроллером самого накопителя. Вследствие этого такие события, как извлечение накопителя или возникновение неисправности, не всегда могли корректно обрабатываться системой.
В серверах Intel на базе процессоров Intel Xeon Scalable эти ограничения сняты благодаря новым технологиям Intel VMD и Intel VROC.
Что такое Intel VMD и Intel VROC
Intel VMD (Volume Management Device) – встроенный в процессор Intel Xeon Scalable аппаратный контроллер интерфейса NVMe, обеспечивающий возможность горячей замены накопителей, корректную индикацию статуса, а также работу с RAID-массивами.
Intel VROC (Virtual RAID on CPU) – набор инструментов для накопителей NVMe:
Intel VROC является гибридным RAID-решением, которое включает как аппаратные (Intel VMD), так и программные компоненты. Технология Intel VROC доступна в серверах на платформе Intel.
Использование Intel VMD и Intel VROC проиллюстрируем на конкретном примере: рассмотрим процесс создания загрузочного массива из накопителей NVMe на платформе Intel R1208WF.
Создание загрузочного RAID-массива из накопителей NVMe
Advanced/PCI Configuration/Volume Management Device
необходимо включить Intel VMD на тех портах шины PCIe, к которым подключены накопители NVMe. По умолчанию Intel VMD выключена на всех портах:
На платформе Intel R1208WF накопители NVMe подключаются к портам OCuLink на материнской плате (два порта на каждый процессор) и/или к портам NVMe-адаптера, установленного в слот райзер-карты ( Riser1,Slot1/ Riser2,Slot1 ).
В нашем сервере два накопителя NVMe подключены к портам OcuLink CPU1. Включаем Intel VMD на этих портах:
Переходим в раздел BIOS
Advanced/PCI Configuration/UEFI Option ROM Control
Здесь появился дополнительный RAID-контроллер Intel(R) Virtual RAID on CPU:
Перемещаем на него курсор и заходим в раздел Intel(R) Virtual RAID on CPU :
Пока в сервере не установлен лицензионный ключ, накопители NVMe можно использовать лишь в режиме Pass-Through. Для создания RAID-массивов необходим ключ Standard или Premium.
После установки ключа Standard данный раздел будет выглядеть так:
Переходим здесь в раздел All Intel VMD Controllers :
Выбираем Create RAID Volume и создаем нужный RAID-массив:
Теперь можно перейти к установке на этот RAID-массив операционной системы. В процессе установки потребуются драйверы Intel VROC, которые можно скачать с сайта Intel. Загрузка сервера должна выполняться в режиме UEFI.
Технические характеристики технологии Intel VROC
Процессоры семейства Intel Xeon Scalable имеют три домена (контроллера) шины PCIe, каждый из которых управляет 16 линиями PCIe. Всего в процессоре 48 таких линий.
Каждый домен PCIe процессора является отдельным VMD-контроллером. Поскольку стандартный накопитель с интерфейсом NVMe использует 4 линии PCIe, к одному VMD-контроллеру можно напрямую подключить до 4 накопителей NVMe. Если накопители подключать через NVMe-адаптеры (коммутаторы), к одному VMD-контроллеру можно подключить максимально до 24 накопителей. Такое же ограничение действует на процессор и сервер в целом.
RAID-массив, созданный из накопителей одного VMD-контроллера, может быть загрузочным. Можно создавать RAID-массивы из накопителей, подключенных к разным VMD-контроллерам и даже к разным процессорам в рамках одного сервера, однако загрузочными такие массивы быть не могут.
Основные возможности Intel VROC приведены в следующей таблице:
Поддерживаемые серверные платформы | Платформы на базе процессоров Intel Xeon Scalable (на данный момент серверные платформы Intel) |
Поддерживаемые операционные системы | Windows 2016, Windows 2012 R2, Windows 10, Windows 7 SP2 Red Hat Enterprise Linux 7.3 SUSE Linux Enterprise 12 SP3 |
Поддерживаемые SSD-накопители с интерфейсом NVMe | Все SSD-накопители Intel с интерфейсом NVMe семейств “Data Center” и “Professional” Накопители отдельных серверных серий других производителей |
Поддерживаемые конфигурации | До 24 SSD-накопителей на VMD-контроллер, на RAID-массив, на систему До 12 RAID-массивов на систему До 2 томов на RAID-массив До 2 уровней коммутации Том данных может принадлежать нескольким VMD-контроллерам Загрузочный том должен принадлежать одному VMD-контроллеру |
Лицензионные ключи | Без ключа: накопители в режиме Path-Through Standard: RAID 0/1/10 Premium: RAID 0/1/10/5 |
Ключевые возможности | Горячая замена LED-индикация статуса накопителя Нот Spare – автоматическое подключение запасного накопителя взамен неисправного Auto-Rebuild – автоматическое перестроение массива Уведомления по Email Защита от потери питания при перестроении массивов RAID 5 Управление «плохими» блоками Выбор Strip Size (4K, 8K, 16K, 32K, 64K, 128K) |
Каждый накопитель NVMe имеет два LED-индикатора: активности и статуса. В следующей таблице приведена информация о состоянии этих индикаторов в зависимости от режима накопителя.
LED-индикатор | Режим накопителя | Состояние индикатора |
Зеленый | Питание есть, режим простоя | Горит |
Питание есть, активность | Мигает при выполнении команды | |
Питание есть, режим энергосбережения | Не горит | |
Питание есть, включается | Мигает | |
Янтарный | Исправен | Не горит |
Режим идентификации (Locate) | Мигает с частотой 4Hz | |
Отказ | Горит | |
Перестроение массива | Мигает с частотой 1Hz |
Замечания и вопросы Вы можете оставить в комментариях к этой статье.
1 Здесь имеются ввиду только твердотельные накопители форм-фактора 2.5″ с интерфейсом PCIe, подключаемые через разъем U.2 (SFF-8639)
2 Международный стандарт «International Blinking Pattern Interpretation (IBPI) standard» (SFF-8489)
Безопасно внедряйте системы хранения нового поколения
Intel® VMD — это функция масштабируемых процессоров Intel® Xeon®, которая позволяет напрямую контролировать SSD-накопители NVMe и управлять ими с шины PCIe без дополнительных аппаратных адаптеров. Эта надежная функциональность SSD-накопителей NVMe обеспечивает плавный переход к хранилищам данных NVMe при одновременном ограничении времени простоя важнейших объектов инфраструктуры. Благодаря технологии Intel® VMD SSD-накопители с интерфейсом NVMe отличаются надежностью, доступностью и удобством обслуживания (RAS), поэтому вы сможете осуществлять безопасное развертывание систем хранения нового поколения.
Переход на NVMe с технологией Intel® VMD
Технология Intel® Volume Management Device (Intel® VMD) предназначена для управления корпоративного уровня SSD-накопителями NVMe, подключенными к ЦП Intel® Xeon®. Каждый корневой порт состоит из группы из 16 линий PCIe процессора Intel® Xeon®, образующих один домен Intel® VMD. Корневые порты действуют как интегрированный HBA, обеспечивая надежную основу для поддержки экосистемы NVMe с помощью нижеуказанных функций:
Ознакомьтесь с приведенной ниже информацией о технологиях Intel® Virtual RAID on CPU (Intel® VROC) и Direct Assign, касающейся реализаций технологии Intel® VMD и кратких описаний продукции.
На базе процессоров Intel® Xeon®
По мере увеличения вычислительной мощности чрезвычайно важным условием реализации истинного потенциала ЦП становится доступ с высокой пропускной способностью к системам хранения с низким уровнем задержек. Intel® VMD и Intel® VROC являются функциями масштабируемых процессоров Intel® Xeon®, которые позволяют плавно перейти на быстродействующие системы хранения NVMe для обеспечения максимального доступа ЦП к данным без нарушения функций хранения данных.
Поддерживаемые процессоры
Количество доменов VMD на конкретном ЦП зависит от количества линий PCIe. Для каждых 16 линий PCIe доступен один домен Intel VMD.
Примечание: некоторые платформы могут поддерживать дополнительный домен Intel VMD на наборе микросхем, который не включен в приведенный выше расчет. Этот домен используется главным образом для загрузки с целью сохранения линий PCIe ЦП для более производительных устройств.
Интегрированный RAID-контроллер: Intel® Virtual RAID on CPU
Intel® Virtual RAID on CPU (Intel® VROC) — решение RAID корпоративного класса, которое позволяет повысить производительность SSD-накопителей NVMe. Аппаратное обеспечение Intel® VMD позволяет Intel® VROC предоставлять загрузочный RAID без дискретного аппаратного RAID-контроллера HBA.
Драйверы Intel® VMD и Intel® VROC поставляются вместе в составе блока системы хранения корпоративного класса через поставщиков платформ. В Windows и Linux эти пакеты обеспечивают возможности управления светодиодами и горячего подключения для массивов RAID0, 1, 5 и 10 с прямым подключением. Если RAID не требуется, то можно использовать Intel® VROC в сквозном режиме для включения только доменов Intel® VMD.
В средах VMware технология Intel® VMD может использоваться как в режиме vSAN, так и в режиме с прямым подключением, при этом дополнительным преимуществом является возможность использования массива RAID1 для избыточного загрузочного тома.
NVMe для HCI: Intel® VMD Direct Assign
В связи с дальнейшим переходом модернизированных ЦОД на архитектуры гиперконвергентной инфраструктуры (HCI) требуются новые инструменты для поддержки платформ более высокой плотности и производительности. Технология Intel® VMD Direct Assign позволяет назначать домен Intel® VMD непосредственно ВМ, полностью обходя гипервизор, с тем чтобы сократить время задержек при хранении данных и увеличить пропускную способность. Гостевая ОС наследует основную функцию Intel® VMD, позволяющую использовать производительность хранилища данных NVMe при реализации HCI при сохранении необходимых функций хранения данных и виртуализации.
Связанная продукция и решения
Системы хранения данных Intel®
Узнайте, как Intel оптимизирует системы хранения в ЦОД и облачных средах с помощью масштабируемых и оптимизированных под системы хранения технологий, открывающих новые возможности.
Семейство твердотельных накопителей Intel® для центров обработки данных
Устраните ограничения производительности с помощью оптимальных накопителей для центров обработки данных. Модернизируйте свою инфраструктуру в соответствии с требованиями цифрового бизнеса. Твердотельные накопители Intel® для центров обработки данных оптимизированы для обеспечения высокой производительности, надежности и долговечности.