Почему специальные твердотельные накопители — лучший выбор для высокопроизводительных приложений

В прошлом году у нас был разговор со стартапом вывода AI в Сингапуре, который прекрасно иллюстрирует, почему существуют специальные твердотельные накопители для высокопроизводительных приложений.. В своих периферийных серверах вывода они использовали потребительские накопители NVMe высшего уровня — те, которые выигрывают тесты и обзоры на YouTube.. Диски показали впечатляющие результаты в синтетических тестах. Но при реальной рабочей нагрузке — смешанных случайных чтениях, подающих в модели ML результаты журналирования пакетной записи — производительность была нестабильной.. Скачки задержки во время окон сбора мусора приводили к тайм-аутам вывода.. Диски не были медленными. Они были непредсказуемы. И для высокопроизводительных приложений, непредсказуемость хуже медленности. Мы создали для них специальную конфигурацию NVMe с детерминированным планированием сбора мусора и прошивкой, оптимизированной для QoS.. Их задержка P99 снизилась 60%. То же NAND, та же платформа контроллера, принципиально другое поведение в реальном мире.

Высокопроизводительные приложения требуют не только быстрого оборудования — они требуют предсказуемости., стабильное поведение хранилища при реальных рабочих нагрузках.

Оглавление

1. Разрыв в производительности, о котором никто не говорит
2. Nvme: Фонд производительности
3. Почему прошивка важнее характеристик
4. Выбор NAND для устойчивой производительности
5. Случаи высокопроизводительного использования, которые мы решили
6. Тестирование, доказывающее производительность
7. Часто задаваемые вопросы
8. Производительность, Не просто продается

Разрыв в производительности, о котором никто не говорит

Откройте любую страницу продукта SSD, и вы увидите такие цифры, как “7,400 МБ/с последовательное чтение” или “1,000,000 IOPS.” Впечатляющий. Но эти цифры отмечены звездочками, и звездочки имеют значение.

Скорость последовательного чтения измеряется на пустых дисках с идеальной глубиной очереди.. Число операций ввода-вывода в секунду получено из синтетических рабочих нагрузок, предназначенных для достижения максимальной производительности.. Реальные приложения так не работают. Они смешивают чтение и запись, они фрагментируют данные с течением времени, они не поддерживают идеальную глубину очереди, и они работают в системах, где SSD конкурирует с другими устройствами ввода-вывода за пропускную способность PCIe..

Разрыв между заявленной производительностью и реальной устойчивой производительностью может составлять 30–50 % на стандартных дисках.. Для высокопроизводительных приложений — рабочие нагрузки центра обработки данных, конвейеры видеопроизводства, Обучение искусственному интеллекту и машинному обучению, высокочастотный трейдинг, аналитика в реальном времени — этот разрыв и есть разница между работающей системой и системой, которая не соответствует соглашениям об уровне обслуживания..

Специальные твердотельные накопители устраняют этот разрыв. Не используя волшебное оборудование, но путем согласования каждого настраиваемого параметра — поведение прошивки, Конфигурация NAND, избыточное обеспечение, стратегия кэширования — с учетом вашей конкретной рабочей нагрузки. В этом разница между костюмом, снятым с вешалки, и костюмом, сшитым на заказ.. Та же ткань, кардинально другая посадка.

Nvme: Фонд производительности

Если вы оптимизируете производительность, NVMe через PCIe это единственная серьезная отправная точка. Несколько лет назад SATA достиг максимальной скорости ~550 МБ/с.. NVMe устраняет этот потолок.

Наш Диски Gen4 x4 NVMe обеспечить до 7,400 МБ/с последовательное чтение и 6,500 Последовательная запись МБ/с. Четыре линии PCIe на скоростях Gen4 обеспечивают теоретическую пропускную способность ~8 ГБ/с — и наши накопители значительно приближаются к этому теоретическому максимуму при последовательных рабочих нагрузках..

Но чистая пропускная способность NVMe — это лишь основа. Для высокопроизводительных приложений важно то, что происходит с этой полосой пропускания, когда:

• Привод 80% полный и фрагментированный
• Случайный и последовательный ввод-вывод смешиваются одновременно
• NAND нуждается в сборе мусора, пока вам нужна запись.
• Температурные условия подталкивают контроллер к дросселированию
• Несколько процессов конкурируют за ввод-вывод диска

Стандартная прошивка обрабатывает эти условия с помощью общих алгоритмов, разработанных для “достаточно хорошо” для большинства пользователей. Специальная прошивка обрабатывает их с помощью алгоритмов, настроенных для вашего конкретного сценария.. Разница в устойчивой производительности существенна..

Почему прошивка важнее характеристик

Мы говорили это раньше и будем говорить это дальше: прошивка — это мозг SSD. Два накопителя с одинаковыми NAND и контроллерами могут работать совершенно по-разному в зависимости от настройки прошивки.. Вот что мы настраиваем для высокопроизводительных приложений:

Управление буфером записи. Твердотельные накопители используют кэширование в режиме SLC для поглощения пакетной записи на максимальной скорости.. Когда кэш заполняется, производительность падает — иногда резко — во время конвертации данных из SLC в TLC/MLC.. Мы определяем размер кэша SLC и настраиваем поведение свертывания на основе ваших характеристик пакетной записи.. Если ваше приложение записывает пакеты по 2 ГБ с 30-секундными перерывами, график кэша и складывания выглядит совершенно иначе, чем для непрерывного 500 МБ/с устойчивая запись.

График вывоза мусора. GC восстанавливает блоки с недействительными данными, чтобы освободить место для новых записей.. Алгоритмы по умолчанию запускают сборщик мусора реактивно — когда свободного места становится мало.. К тому времени, когда это произойдет, производительность записи уже ухудшилась. Для высокопроизводительных приложений, мы реализуем упреждающий сбор мусора в известные периоды простоя или с контролируемой скоростью, которая не позволяет свободному пространству когда-либо достигать критических порогов..

Приоритет ввода-вывода и качество обслуживания. Не все операции ввода-вывода одинаковы. При смешанной нагрузке, чтение, обслуживающее пользовательские запросы, может быть более чувствительным к задержке, чем фоновая запись данных журнала.. Мы можем настроить классы приоритета ввода-вывода в прошивке., обеспечение того, чтобы операции, критичные к задержке, получали приоритетный режим.

Наша коммерческая платформа NVMe — основа для высокопроизводительных пользовательских конфигураций.

Упреждающее чтение и предварительная выборка. Приложения последовательного чтения выигрывают от агрессивной предварительной выборки — встроенное ПО прогнозирует, какие данные вам понадобятся в следующий раз, и извлекает их до того, как вы спросите.. Для случайных рабочих нагрузок эта функция должна быть отключена, поскольку неправильно предсказанная предварительная выборка приводит к потере пропускной способности.. Мы сопоставляем стратегию предварительной выборки с вашим шаблоном доступа..

Выбор NAND для устойчивой производительности

Под прошивкой, Выбор NAND напрямую влияет на стабильные характеристики производительности.

MLC NAND программирует и читает быстрее, чем TLC на физическом уровне — меньшее количество состояний напряжения означает более быстрое программирование и более надежное считывание. Для высокопроизводительных приложений, требующих интенсивной записи, MLC обеспечивает более стабильную и устойчивую скорость записи..

Но MLC стоит дороже за гигабайт. Таким образом, правильный выбор зависит от того, является ли вашим узким местом производительность записи. (MLC побеждает) или мощность за доллар (TLC побеждает, особенно при хорошей оптимизации прошивки). Мы создали высокопроизводительные индивидуальные конфигурации для обоих, в зависимости от конкретных компромиссов, необходимых каждому клиенту.

Чрезмерное обеспечение также играет решающую роль.. Больше OP означает больше запасных блоков для сборки мусора, это означает, что у контроллера больше возможностей для управления записью без снижения производительности.. Стандартные приводы выделяют 7–12 % ОП.. Для высокопроизводительных приложений, мы можем настроить 20–28% — обменивая полезную емкость на значительно более стабильную и устойчивую производительность записи и дольше. срок службы диска.

Случаи высокопроизводительного использования, которые мы решили

Видеопроизводство и постобработка. Компании по производству мультимедиа в Великобритании нужны были накопители, способные устойчиво работать. 3 ГБ/с ​​записи для многопотокового приема видео 8K. Потребительские накопители NVMe изначально достигли этой скорости, но затем упали до 1.5 ГБ/с ​​после заполнения кэша SLC. Мы настроили расширенное распределение кэша SLC и оптимизировали график свертывания TLC для их рабочего процесса «пакетная пауза-пакетная обработка».. Устойчивая производительность записи осталась на высоком уровне 2.8 ГБ/с ​​за полные сеансы.

Выводы Edge AI. Платформе автономного транспортного средства требовалась чрезвычайно низкая задержка чтения для загрузки модели в сочетании с постоянной записью данных датчиков.. Это конкурирующие требования — высокий IOPS при произвольном чтении и одновременная устойчивая последовательная запись.. Специальная прошивка с приоритетом классов ввода-вывода обеспечивала гарантированную задержку чтения, а запись осуществлялась в фоновом режиме..

Финансовые торговые системы. Детерминизм микросекундного уровня. Стандартные твердотельные накопители приводят к непредсказуемой задержке во время фоновых операций.. Мы отключили все второстепенные фоновые задачи в часы работы рынка и запланировали их на периоды обслуживания в нерабочее время.. Результат: во время торговых сессий задержка ввода-вывода в худшем случае снизилась с ~2 мс до менее 200 мкс..

Высокопроизводительные вычислительные кластеры. Научно-исследовательскому институту, занимающемуся вычислительной гидродинамикой, требовалась параллельная пропускная способность чтения на нескольких дисках.. Мы оптимизировали конфигурацию очереди отправки NVMe и поддержку нескольких пространств имен для настройки RAID., улучшение совокупной пропускной способности чтения за счет 25% по сравнению с конфигурациями прошивки по умолчанию.

Наша лаборатория тестирования запускает рабочие нагрузки для конкретных приложений для проверки производительности перед началом производства..

Тестирование, доказывающее производительность

Для высокопроизводительных приложений, мы не просто тестируем — мы профилируем. Прежде чем подписываться на пользовательскую конфигурацию, мы выполняем вашу фактическую нагрузку (или репрезентативный синтетический эквивалент) на ходу и измеряйте важные для вас показатели. Не только пиковая пропускная способность, но задержка P99, устойчивая производительность в течение нескольких часов, стабильность производительности (качество обслуживания), и тепловое поведение под нагрузкой.

Мы предоставляем подробные отчеты об испытаниях, показывающие производительность на протяжении всего жизненного цикла накопителя — от пустого до полного., включая критические переходы, когда большинство приводов демонстрируют снижение производительности. Если вы определили соглашения об уровне обслуживания или пороговые значения производительности, мы проверяем эти конкретные цифры.

Этот подход к проверке является той же самой дисциплиной, которую мы применяем ко всему нашему ассортименту продукции — от SATA-диски к промышленные твердотельные накопители M.2. The система качества является последовательным; параметры испытаний настраиваются в соответствии с требованиями каждого приложения.

Часто задаваемые вопросы

Какого улучшения производительности я могу реально ожидать от кастомной прошивки??

Это во многом зависит от разрыва между вашей рабочей нагрузкой и целью оптимизации встроенного ПО по умолчанию.. Мы увидели улучшения в диапазоне от 15% (для рабочих нагрузок, достаточно близких к общим) к 60%+ (для очень специфических шаблонов, таких как пример вывода ИИ). Лучший способ узнать это — описать вашу рабочую нагрузку и позволить нам оценить ее (или еще лучше)., давайте смоделируем и измерим.

Нужен ли мне Gen4 NVMe?, или Gen3 достаточно для высокопроизводительных приложений?

Gen3 NVMe достигает пика примерно 3,500 Последовательная МБ/с — многим более чем достаточно “высокопроизводительный” приложения. Gen4 удваивает этот потолок. Если ваша рабочая нагрузка ограничена количеством операций ввода-вывода в секунду (произвольный ввод-вывод) а не ограниченная пропускная способность (последовательный), Gen3 и Gen4 работают очень похоже.. Если вы выполняете большие последовательные передачи, Gen4 имеет большое значение. У нас есть и то, и другое, и мы помогаем вам принять решение на основе анализа фактических требований., не маркетинговое давление. Наш Руководство по выбору SSD охватывает основы.

Могут ли специальные твердотельные накопители соответствовать накопителям корпоративного класса от крупных брендов??

Для большинства оптимизаций под конкретные рабочие нагрузки, да — часто по значительно более низкой цене. Корпоративные диски от Samsung, Интел, или Kioxia созданы для того, чтобы достаточно хорошо справляться со всеми возможными рабочими нагрузками.. Специальные диски, предлагаемые нами, разработаны с учетом исключительной производительности вашей конкретной рабочей нагрузки.. Если вам нужна широкая универсальность для неизвестных рабочих нагрузок, корпоративные универсалы имеют смысл. Если вы знаете свою нагрузку, Custom выигрывает как по производительности, так и по цене. The инвестиционное дело является убедительным.

Производительность, Не просто продается

Высокопроизводительное хранилище — это не самое большое число на коробке. Речь идет о последовательном, надежная работа в конкретных условиях, создаваемых вашим приложением. Вот что дают индивидуальные твердотельные накопители — и вот что наш производственный процесс создан для производства. Готовы устранить разрыв между производительностью, указанной в технических характеристиках, и вашими реальными требованиями.? Начните с нашего ассортимента продукции, затем свяжитесь с нашей командой инженеров с подробностями вашей рабочей нагрузки. Мы вернемся с конкретным предложением — обычно в течение 48 часы.

Техническая команда Qootec
Шэньчжэнь, Китай · Восток. 2014

Мы — инженеры SSD, специализирующиеся на оптимизации производительности — от настройки прошивки и выбора NAND до проверки для конкретного приложения.. Наши индивидуальные твердотельные накопители предназначены для высокопроизводительных приложений во всех сферах. 80+ страны. Расскажите нам о своей проблеме с производительностью.