В основе узла «Дерево решений» лежит алгоритм, обобщающий наблюдения правилами вида «Если…, то…» в иерархическую, последовательную структуру в виде дерева. Правила генерируются в процессе обучения.
Данная иерархическая структура состоит из двух типов элементов — узлов и листьев.
Алгоритм работы: Процесс построения деревьев решений представляет собой последовательное, рекурсивное разбиение множества наблюдений на подмножества с применением решающих правил в узлах. Разбиение продолжается до момента, пока не будет достигнуто условие остановки алгоритма. Последний узел, который не осуществляет проверку и разбиение, становится листом.
Список параметров узла представлен в таблице ниже.
Таблица «Параметры узла "Дерево решений"»
Параметр | Возможные значения и ограничения | Описание |
|---|---|---|
Название | Ручной ввод. | Название узла, которое будет отображаться в интерфейсе. |
Описание | Ручной ввод. | Описание узла. |
Критерий разбиения | Раскрывающийся список со следующими значениями:
| Данный параметр задает критерий разбиения для регрессионной задачи. Предусмотрены следующие критерии:
|
Стратегия разбиения | Раскрывающийся список со следующими значениями:
| Данный параметр задает стратегию разделения на каждом узле. Предусмотрены следующие стратегии:
|
Максимальная глубина | Ручной ввод. | Данный параметр задает максимальную глубину дерева, после достижения которой алгоритм останавливает работу. |
Минимальное количество наблюдений для разбиения | Ручной ввод. | Данный параметр задает минимальное количество наблюдений, которое должно быть в разбиении. |
Минимальное количество наблюдений в листе | Ручной ввод. | Данный параметр задает минимальное количество наблюдений, которое может быть в листе. |
Минимальная доля веса наблюдений в листе | Ручной ввод. | Данный параметр определяет минимальный весовой коэффициент выборки в листовом узле. По умолчанию наблюдения имеют одинаковый вес. |
Максимальное количество признаков | Раскрывающийся список со следующими значениями:
| Данный параметр определяет максимальное количество признаков, которое будет учитываться при поиске лучшего разделения. Предусмотрены следующие варианты:
|
Сид дерева | Ручной ввод. | Начальное числовое значение для генератора случайных чисел. |
Максимальное количество листов | Ручной ввод. | Данный параметр определяет максимальное количество листов в дереве. |
Минимальное снижение неоднородности | Ручной ввод. | Данный параметр определяет минимальное снижение неоднородности. |
Альфа для обрезки дерева | Ручной ввод. | Данный параметр регулирует количество отсекаемых узлов. Чем больше значение ccp_alpha, тем большее количество узлов удаляется из дерева. |
Использовать кросс-валидацию | Чекбокс. | Установленный чекбокс предполагает использование кросс-валидации. Необходимо указать количество разбиений (по умолчанию 5). |
Автоподбор параметров | Чекбокс. | Установленный чекбокс предполагает использование автоподбора гиперпараметров:
|
Результаты выполнения узла:
Узел «Дерево решений» имеет разные результаты в зависимости от решаемой задачи.
Результаты бинарной классификации представлены следующими объектами:
|
|
|
|
|
|
|
|
|
|
|
|
Результаты многоклассовой классификации представлены следующими объектами:
|
|
|
Результаты регрессии представлены следующими объектами:
|
|
|