Правила задания и обучение RBF-сети

1. Число M базисных функций выбирается много меньше числа обучающих данных: M<<N. В качестве базисной функции здесь так же берут экспоненциальную функцию:

(5.3)

2. Центры базисных функций μ_j не опираются на точки входных данных, т.е. не совпадают ни с одним из входных векторов. Определение центров функций становится частью процесса обучения.

3. Для каждой из M базисных функций задается своя ширина окна σ_j, которая также определяется в процессе обучения RBF-сети. Как правило, значение σ_j делают чуть большим расстояния между центрами соответствующих базисных функций μ_j.

4. В сумму (5.1) добавляется константа w_k0 – порог нейрона и формальный скрытый нейрон Φ₀(x)=0. В итоге RBF-сеть будет описываться формулой:

(5.4)

Обучение RBF-сети происходит быстро и носит элементы как обучения «с учителем», так и «без учителя».

Имеем обучающий набор: множество входов {xⁿ} и соответствующих выходов {dⁿ}. На первом этапе определяются параметры базисных функций: μ_j, σ_j. Причем, используются только входные векторы {xⁿ}, т.е. обучение происходит по схеме «без учителя».

Для определения σ_j используется алгоритм «ближайшего соседа», который заключается в поиске разбиения множества {xⁿ} на M несмежных подмножеств S_j. Таким образом, необходимо минимизировать функцию:

, где – центры функций.

На втором этапе фиксируются базисные функции, т.е. параметры μ_j, σ_j постоянны. На данном этапе RBF-сеть эквивалентна однослойной нейронной сети. Затем обучение происходит по правилу обучения с учителем. Выражение энергии ошибки:

Так как E является квадратической функцией от весов w, то минимум E может быть найден решением системы линейных уравнений:

Решение такой системы находится быстро, и в этом одно из преимуществ RBF-сети над многослойным персептроном.

Среди недостатков RBF-сети по сравнению с MLP, обычно отмечают следующие: требуется больше обучающих примеров, а круг решаемых задач ограничен аппроксимацией и классификацией.

Поиск по сайту: