NBDT — это нейросетевая архитектура деревьев решений для задач классификации. Модель объединяет в себе интерпретируемость классического алгоритма дерева решений с качеством предсказаний современных нейросетей. Разработчики тестировали модель на задаче классификации изображений.
Важность интерпретируемости моделей в реальных задачах
Такие приложения машинного обучения, как финансы и медицина, требуют точно и обоснованных предсказаний, что ограничивает использование большинства из современных нейронных моделей. NBDT комбинирует в себе деревья решений и нейросети для того, чтобы улучшить интерпретируемость решений, которые принимает модель.
Подробнее про архитектуру
Neural-Backed Decision Trees (NBDTs) заменяют последний слой нейросети дифференцируемой последовательностью решений с особой функцией потерь. Это позволяет модели выучивать высокоуровневые концепты и снижает нестабильность предсказаний. В отличие от стандартной нейросети, NBDT выдает последовательные решения, которые привели к предсказанию.
Тестирование модели
По результатам экспериментов, предложенная модель сравнима по качеству предсказаний с state-of-the-art подходами на CIFAR и ImageNet. При этом модель лучше справляется с ранее не знакомыми классами объектов.
