NBDT: интерпретируемые нейронные деревья решений

NBDT — это нейросетевая архитектура деревьев решений для задач классификации. Модель объединяет в себе интерпретируемость классического алгоритма дерева решений с качеством предсказаний современных нейросетей. Разработчики тестировали модель на задаче классификации изображений. 

Важность интерпретируемости моделей в реальных задачах

Такие приложения машинного обучения, как финансы и медицина, требуют точно и обоснованных предсказаний, что ограничивает использование большинства из современных нейронных моделей. NBDT комбинирует в себе деревья решений и нейросети для того, чтобы улучшить интерпретируемость решений, которые принимает модель.

Подробнее про архитектуру

Neural-Backed Decision Trees (NBDTs) заменяют последний слой нейросети дифференцируемой последовательностью решений с особой функцией потерь. Это позволяет модели выучивать высокоуровневые концепты и снижает нестабильность предсказаний. В отличие от стандартной нейросети, NBDT выдает последовательные решения, которые привели к предсказанию.

Тестирование модели

По результатам экспериментов, предложенная модель сравнима по качеству предсказаний с state-of-the-art подходами на CIFAR и ImageNet. При этом модель лучше справляется с ранее не знакомыми классами объектов.

Источник: https://research.alvinwan.com/neural-backed-decision-trees/