fbpx
  • Google открыли разработку компилятора для ML-моделей

    Google отдают разработку инфраструктуры для обучения ML-моделей организации open-source разработчиков LLVM Foundation. Ранее Google анонсировали MLIR, компилятор для внедрения ML-моделей в приложения. MLIR позволяет исполнять модели на разных устройствах. Компания делает этот шаг, чтобы ускорить процесс принятия MLIR сообществом ML-разработчиков.

    Зачем это нужно

    MLIR решает проблему несовместимости фреймворков для обучения и внедрения ML-моделей между собой. Это влияет на скорость разработки и пользовательский опыт при использовании приложений, в которые внедрены ML-модели.

    ML-модели сейчас обучаются на разных типах вычислительных механизмов: от GPU/TPU до микроконтроллеров. С развитием разных фреймворков для обучения моделей проблема совместного использования разных фреймворков становится более острой. Решение открыть разработку должно способствовать более быстрому принятию инфраструктуры в сообществе разработчиков.

    Партнеры проекта

    Цель MLIR — стать стандартной ML инфраструктурой. Среди официальных партнеров проекта — AMD, ARM, Cerebras, Graphcore, Habana, IBM, Intel, Mediatek, NVIDIA, Qualcomm Technologies, Inc, SambaNova Systems, Samsung, Xiaomi, Xilinx. Совместно компании-партнеры производят более 95% дата-центров в мире, более 4 миллиардов мобильных телефонов и IoT устройств. В Google MLIR внедрен и используется на всех серверах и мобильных устройствах.