fbpx
  • NVIDIA Turing GPU и Xavier установили рекорд по скорости на MLPerf

    MLPerf — это открытая платформа для тестирования оборудования для обучения ML-моделей. Продукты от NVIDIA, — Turing GPU и система Xavier, — заняли первые места на MLPerf Inference 0.5 по скорости работы. Ранее GPU от NVIDIA признавались стандартом по скорости обучения нейросетей в датацентрах.

    Ранее не существовало открытого рейтинга и системы оценивания оборудования для обучения нейросетей и использования их в продукте. MLPerf решает проблему стандартизации методов оценки скорости. Платформа была создана в мае 2018.

    Среди десятка компаний-участников только платформа NVIDIA AI участвовала во всех 5 тестах от MLPerf. Тесты проверяли скорость выдачи предсказаний обученной нейросетью. MLPerf определили 5 задач, которые покрыли 3 основных применения нейросетевых моделей:

    • Классификация изображений;
    • Распознавание объектов;
    • Машинный перевод

    Каждая из задач имеет 4 подзадачи: работа на сервере, в офлайне, с одним потоком и мультипоточность.. Первые две подзадачи актуальные для дата-центров, в том время как вторые две — для edge-девайсов и SoCs. Инструменты NVIDIA обошли конкурирующее оборудование на всех 5 задачах.

    Результаты NVIDIA Xavier на подзадачах single-stream и multi-stream