История страницы

...

Рекомендуется устанавливать узел «Фильтр» перед узлом «Интерпретация» для отбора наблюдений, которые необходимо интерпретировать. Большое количество наблюдений значительно увеличивает время расчета.

Список параметров узла представлен в таблице ниже.

Каждый из указанных методов интерпретации имеет свои параметры и результаты.

...

Данный метод строит модель линейной регрессии, чтобы аппроксимировать предсказания исходной неинтерпретируемой модели локально, а не глобально.

Для этого создается новый набор данных из наблюдений, которые находятся вокруг выбранного для интерпретации наблюдения. Затем этот новый набор данных используется для обучения интерпретируемой линейной модели.

Коэффициенты этой линейной регрессии позволяют оценить важность и направление влияния каждого из предикторов при построении прогноза для выбранного наблюдения.

Список параметров метода LIME представлен в таблице ниже.

Результаты выполнения метода:
В окне с результатами во вкладке Выбор наблюдений необходимо указать наблюдение для интерпретации. Во вкладках Графические результаты и Табличные результаты будут отображены список объяснений, отражающих вклад каждой функции в прогноз выборки данных в виде графиков и таблицы соответственно (Рисунок 149рисунок ниже). Это обеспечивает локальную интерпретируемость, а также позволяет определить, какие изменения характеристик окажут наибольшее влияние на прогноз.
Image Removed Image Removed

• Метод PD.

График частичной зависимости (Partial Dependence Plots – PDP) показывает, как меняется средний прогноз при изменении одного из предикторов.

Алгоритм работы метода PD: выбирается переменная и непрерывно изменяется ее значение. На график наносятся эти значения переменной и соответствующее среднее значение прогноза по выборке. Таким образом получается график зависимости прогнозируемых результатов от значений переменной.

Данный график частичной зависимости может показать, является ли отношение между целью и признаком линейным, монотонным или более сложным. Например, при применении к модели линейной регрессии графики частичной зависимости всегда показывают линейную зависимость.

Список параметров метода PD представлен в таблице ниже.

Результаты выполнения метода:
В окне с результатами во вкладке Графические результаты выбрать предиктор и класс, чтобы график отразил связь между предиктором и прогнозом.Image Removed

• Метод SHAP (Shapley Additive Explanation).

...

Результаты выполнения метода:
В окне с результатами во вкладке Выбор наблюдений необходимо указать наблюдение для интерпретации. Во вкладках Графические результаты и Табличные результаты будут отображены список объяснений, отражающих вклад каждой функции в прогноз выборки данных в виде графиков и таблицы соответственно.
Image Removed Image Removed
 

• Метод ICE — Индивидуальные условные ожидания.

График индивидуального условного ожидания (ICE) показывает, как меняется прогноз модели на одном или нескольких наблюдениях при изменении одного из предикторов. Однако, в отличие от PDP, который показывает средний эффект входной характеристики, график ICE визуализирует зависимость прогноза от характеристики для каждой выборки отдельно с одной строкой на выборку.

Список параметров метода ICE представлен в таблице ниже.

Результаты выполнения метода:
В окне с результатами во вкладке Графические результаты выбрать предиктор и класс, чтобы график отразил связь между предиктором и значением.Image Removed