АвтоАвтоматизацияАрхитектураАстрономияАудитБиологияБухгалтерияВоенное делоГенетикаГеографияГеологияГосударствоДомДругоеЖурналистика и СМИИзобретательствоИностранные языкиИнформатикаИскусствоИсторияКомпьютерыКулинарияКультураЛексикологияЛитератураЛогикаМаркетингМатематикаМашиностроениеМедицинаМенеджментМеталлы и СваркаМеханикаМузыкаНаселениеОбразованиеОхрана безопасности жизниОхрана ТрудаПедагогикаПолитикаПравоПриборостроениеПрограммированиеПроизводствоПромышленностьПсихологияРадиоРегилияСвязьСоциологияСпортСтандартизацияСтроительствоТехнологииТорговляТуризмФизикаФизиологияФилософияФинансыХимияХозяйствоЦеннообразованиеЧерчениеЭкологияЭконометрикаЭкономикаЭлектроникаЮриспунденкция

Модель нейрона Хебба

Читайте также:
  1. C) екі факторлы модель
  2. GAP модель: (модель разрывов)
  3. Автокорреляция в остатках. Модель Дарбина – Уотсона
  4. Автономні інвестиції. Чинники автономних інвестицій: технічний прогрес, рівень забезпеченості основним капіталом, податки на підприємців, ділові очікування. Модель акселератора.
  5. Аддитивная модель временного ряда
  6. Академіна модель освіти
  7. Американская модель
  8. Американская модель управления.
  9. Анализ деловой активности предприятия. Факторная модель Дюпон.
  10. Базовая модель экономического равновесия и механизм его восстановления
  11. Безработное населенние. Уровень безработицы. Основные формы безработицы. Закон Ойкена. Хистерезис как модель объяснения перманентной и длительной безработицы.
  12. Бел модель перехода к рынку и ее основные черты. Гос-ые программы соц-эконом развития.

Д. Хебб в процессе исследования нервных клеток [12,13] заметил, что связь между двумя клетками усиливается, если обе клетки становятся активными в один и тот же момент времени. Если j -ая клетка с выходным сигналом связана с i -ой клеткой, имеющей выходной сигнал , связью с весом , то на силу связи влияют значения выходных сигналов и .

Д. Хебб предложил формальное правило, в котором отразились результаты его наблюдений. В соответствии с правилом Хэбба [12], вес нейронов изменяется пропорционально произведению входного и выходного сигналов

, (21)

где - это коэффициент обучения, значение которого выбирается в интервале (0,1). Правило Хебба может применяться для нейронных сетей различных типов с разнообразными функциями активации моделей отдельных нейронов. Структурная схема нейрона Хебба представлена на рисунке 19.

Рисунок 19 -Структурная схема нейрона Хебба

Связь с весом , способ подбора значения которой задается отношением (21), соединяет входной сигнал с сумматором i –го нейрона, вырабатывающего выходной сигнал .

Нейрон Хебба может обучаться как с учителем, так и без него. При обучении без учителя в правиле Хебба подставляется фактическое значение выходного сигнала нейрона. При обучении с учителем вместо выходного сигнала используется ожидаемая от этого нейрона реакция .

Правило Хебба характеризуется тем, что в результате его применения веса могут принимать произвольно большие значения, поскольку в каждом цикле обучения происходит суммирование текущего значения и некоторого приращения .

. (22)

Один из способов стабилизации обучения состоит в учете последнего значения , уменьшенного на коэффициент забывания . Тогда правило Хебба представится в виде

. (23)

Значение выбирается из интервала (0,1) и чаще всего составляет некий процент от коэффициента обучения . Применение больших значений приводит к тому, что нейрон забывает значительную часть того, чему он научился в прошлом. Рекомендуемые значения коэффициента забывания - , при которых нейрон сохраняет большую часть информации, накопленной в процессе обучения, и получает возможность стабилизировать значения весов на определенном уровне.


1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 13 | 14 | 15 | 16 | 17 | 18 | 19 |

Поиск по сайту:

Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав. Студалл.Орг (0.006 сек.)