Название

Ручной ввод.
Ограничений на значение нет.

Название узла, которое будет отображаться в интерфейсе.

Описание

Ручной ввод.
Ограничений на значение нет.

Описание узла.

Количество нейронов в скрытом слое

Данный параметр задает количество скрытых слоев и нейронов в скрытых слоях.

Функция активации

Раскрывающийся список со следующими значениями:

• Identity,
• logistic,
• tanh,
• relu (по умолчанию).

Данный параметр задает функцию активации для скрытых слоев. Предусмотрены следующие функции:

• Identity – нет активации f(x) = x.
• logistic – сигмоида f(x) = 1 / (1 + exp(-x)).
• tanh – гиперболический тангенс f(x) = tanh(x).
• relu – функция активации ReLu f(x) = max(0, x).

Метод оптимизации

Раскрывающийся список со следующими значениями:

• lbfgs,
• sgd,
• adam (по умолчанию).

Данный параметр задает метод оптимизации, который будет использоваться для обновления весов нейронов скрытых слоев нейронной сети. Предусмотрены следующие методы:

• lbfgs – это алгоритм оптимизации, который приближает алгоритм Бройдена – Флетчера – Гольдфарба – Шанно.
• sgd – стохастический градиентный спуск.
• adam – adaptive moment estimation.

L2 регуляризация

Ручной ввод.
Неотрицательное число.
По умолчанию — 0,0001.

Данный параметр задает значение L2-регуляризации.

Начальная скорость обучения

Ручной ввод.
Число больше 0.
По умолчанию — 0,001.

Данный параметр задает начальную скорость обучения, которая управляет размером шага при обновлении весов.
Данный параметр можно задать только в случае выбранного метода оптимизации sgd или adam.

Перемешивание наблюдений

Чекбокс.

Выбор данного чекбокса указывает на необходимость перемешать наблюдения в каждой итерации.
Данный параметр можно задать только в случае выбранного метода оптимизации sgd или adam.

Сид нейронной сети

Ручной ввод числового значения.
По умолчанию — 42.

Начальное числовое значение для генератора случайных чисел.

Максимальное количество итераций

Ручной ввод.
Число больше 0.
По умолчанию — 200.

Данный параметр задает максимальное количество итераций. Решатель выполняет итерации до сходимости (определяемой значением параметра Погрешность оптимизации) или до указанного количества итераций.

Количество наблюдений для одной итерации

Ручной ввод.
Число больше 0.
По умолчанию — 200.

Данный параметр задает количество наблюдений для одной итерации.

Ранняя остановка

Чекбокс.

Выбор данного чекбокса указывает на необходимость ранней остановки алгоритма, если валидационная оценка не улучшается на значение, указанное в параметре Погрешность оптимизации, в течение указанного в параметре Количество итераций без существенного улучшения значения.
Данный параметр можно задать только в случае выбранного метода оптимизации sgd или adam.

Метрика для ранней остановки (регрессия)

Раскрывающийся список со следующими значениями:

• MSE (по умолчанию),
• MAE,
• MAPE,
• R2.

Данный параметр задает метрику для ранней остановки (задача регрессии). Предусмотрены следующие метрики:

• MSE – среднеквадратичная ошибка.
• MAE – средняя абсолютная ошибка.
• MAPE – средняя абсолютная ошибка в процентах.
• R2 – коэффициент детерминации.

Метрика для ранней остановки (классификация)

Раскрывающийся список со следующими значениями:

• Logloss (по умолчанию),
• Accuracy,
• MCC,
• AUC ROC.

Данный параметр задает метрику для ранней остановки (задача классификации). Предусмотрены следующие метрики:

• Logloss – логистическая функция потерь.
• Accuracy – доля правильных ответов алгоритма.
• MCC – коэффициент корреляции Мэтьюза.
• AUC ROC – площадь под ROC-кривой.

Размер валидационной выборки для ранней остановки (%)

Ручной ввод.
Число больше 0 и меньше 1.
По умолчанию — 0,1.

Данный параметр задает долю обучающих данных, которые нужно отложить в качестве валидационного набора для ранней остановки.

Количество итераций без существенного улучшения

Ручной ввод.
Число больше 0.
По умолчанию — 10.

Данный параметр задает количество итераций без существенного улучшения.
Данный параметр можно задать только в случае выбранного метода оптимизации sgd или adam.

Погрешность оптимизации

Ручной ввод.
Число больше 0.
По умолчанию — 0,0001.

Данный параметр задает допустимую погрешность для оптимизации. В случае, если потери не улучшаются на указанное значение в течение указанного в параметре Количество итераций без существенного улучшения числа, то считается, что сходимость достигнута, и обучение останавливается.

Инерция

Ручной ввод.
Число больше или равно 0 и меньше или равно 1.
По умолчанию — 0,9.

Данный параметр задает инерцию для обновления градиентного спуска.
Данный параметр можно задать только в случае выбранного метода оптимизации sgd.

Использовать инерцию Нестерова

Чекбокс.

Выбор данного чекбокса указывает на необходимость использовать инерцию Нестерова
Данный параметр можно задать только в случае выбранного метода оптимизации sgd и значения Инерции >0

Бета 1

Ручной ввод.
Число больше 0 и меньше 1.
По умолчанию — 0,9.

Данный параметр задает скорость экспоненциального убывания для оценок вектора первого момента при методе оптимизации adam.

Бета 2

Ручной ввод.
Число больше 0 и меньше 1.
По умолчанию — 0,999.

Данный параметр задает скорость экспоненциального убывания для оценок вектора второго момента при методе оптимизации adam.

Эпсилон

Ручной ввод.
Число больше 0.
По умолчанию — 1e-8.

Данный параметр задает значение числовой устойчивости при методе оптимизации adam.

Стандартизация

Раскрывающийся список со следующими значениями:

• no (по умолчанию),
• std,
• range.

Данные параметр отвечает за выбор метода стандартизации данных. Предусмотрены следующие методы:

• no — нет.
• std — стандартное отклонение, преобразует наблюдения таким образом, чтобы их среднее значение равнялось нулю, а стандартное отклонение равнялось 1.
• range — диапазон, линейно преобразует значения переменных в диапазон [0, 1].