NBDT: интерпретируемые нейронные деревья решений

NBDT — это нейросетевая архитектура деревьев решений для задач классификации. Модель объединяет в себе интерпретируемость классического алгоритма дерева решений с качеством предсказаний современных нейросетей. Разработчики тестировали модель на задаче классификации изображений.  

Важность интерпретируемости моделей в реальных задачах

Такие приложения машинного обучения, как финансы и медицина, требуют точно и обоснованных предсказаний, что ограничивает использование большинства из современных нейронных моделей. NBDT комбинирует в себе деревья решений и нейросети для того, чтобы улучшить интерпретируемость решений, которые принимает модель.

Подробнее про архитектуру

Neural-Backed Decision Trees (NBDTs) заменяют последний слой нейросети дифференцируемой последовательностью решений с особой функцией потерь. Это позволяет модели выучивать высокоуровневые концепты и снижает нестабильность предсказаний. В отличие от стандартной нейросети, NBDT выдает последовательные решения, которые привели к предсказанию.

Процесс обучения итогового слоя модели

Тестирование модели

По результатам экспериментов, предложенная модель сравнима по качеству предсказаний с state-of-the-art подходами на CIFAR и ImageNet. При этом модель лучше справляется с ранее не знакомыми классами объектов.

Сравнение моделей на датасете ImageNet
Подписаться
Уведомить о
guest

0 Comments
Межтекстовые Отзывы
Посмотреть все комментарии

gogpt