fbpx
  • NBDT: интерпретируемые нейронные деревья решений

    NBDT — это нейросетевая архитектура деревьев решений для задач классификации. Модель объединяет в себе интерпретируемость классического алгоритма дерева решений с качеством предсказаний современных нейросетей. Разработчики тестировали модель на задаче классификации изображений.  

    Важность интерпретируемости моделей в реальных задачах

    Такие приложения машинного обучения, как финансы и медицина, требуют точно и обоснованных предсказаний, что ограничивает использование большинства из современных нейронных моделей. NBDT комбинирует в себе деревья решений и нейросети для того, чтобы улучшить интерпретируемость решений, которые принимает модель.

    Подробнее про архитектуру

    Neural-Backed Decision Trees (NBDTs) заменяют последний слой нейросети дифференцируемой последовательностью решений с особой функцией потерь. Это позволяет модели выучивать высокоуровневые концепты и снижает нестабильность предсказаний. В отличие от стандартной нейросети, NBDT выдает последовательные решения, которые привели к предсказанию.

    Процесс обучения итогового слоя модели

    Тестирование модели

    По результатам экспериментов, предложенная модель сравнима по качеству предсказаний с state-of-the-art подходами на CIFAR и ImageNet. При этом модель лучше справляется с ранее не знакомыми классами объектов.

    Сравнение моделей на датасете ImageNet

    Оставить комментарий

    * Обязательные поля