MLPerf — это открытая платформа для тестирования оборудования для обучения ML-моделей. Продукты от NVIDIA, — Turing GPU и система Xavier, — заняли первые места на MLPerf Inference 0.5 по скорости работы. Ранее GPU от NVIDIA признавались стандартом по скорости обучения нейросетей в датацентрах.
Ранее не существовало открытого рейтинга и системы оценивания оборудования для обучения нейросетей и использования их в продукте. MLPerf решает проблему стандартизации методов оценки скорости. Платформа была создана в мае 2018.
Среди десятка компаний-участников только платформа NVIDIA AI участвовала во всех 5 тестах от MLPerf. Тесты проверяли скорость выдачи предсказаний обученной нейросетью. MLPerf определили 5 задач, которые покрыли 3 основных применения нейросетевых моделей:
- Классификация изображений;
- Распознавание объектов;
- Машинный перевод
Каждая из задач имеет 4 подзадачи: работа на сервере, в офлайне, с одним потоком и мультипоточность.. Первые две подзадачи актуальные для дата-центров, в том время как вторые две — для edge-девайсов и SoCs. Инструменты NVIDIA обошли конкурирующее оборудование на всех 5 задачах.
