 ПОЗНАВАТЕЛЬНОЕ Сила воли ведет к действию, а позитивные действия формируют позитивное отношение Как определить диапазон голоса - ваш вокал Игровые автоматы с быстрым выводом Как самому избавиться от обидчивости Противоречивые взгляды на качества, присущие мужчинам Вкуснейший "Салат из свеклы с чесноком" Натюрморт и его изобразительные возможности Применение, как принимать мумие? Мумие для волос, лица, при переломах, при кровотечении и т.д. Как научиться брать на себя ответственность Зачем нужны границы в отношениях с детьми? Световозвращающие элементы на детской одежде Как победить свой возраст? Восемь уникальных способов, которые помогут достичь долголетия Классификация ожирения по ИМТ (ВОЗ) Глава 3. Завет мужчины с женщиной
Оси и плоскости тела человека - Тело человека состоит из определенных топографических частей и участков, в которых расположены органы, мышцы, сосуды, нервы и т.д.
| Алгоритм обучения соревновательного слоя нейронов
Лекция №9 Сеть Кохонена. Сеть разработана Тойво Кохоненом в начале 1980-х гг. и принципиально отличается от рассмотренных выше сетей, поскольку использует неконтролируемое обучение (обучение без учителя) и обучающее множество состоит лишь из значений входных переменных. Сеть распознает кластеры в обучающих данных и распределяет данные по соответствующим кластерам. Если дальше сеть встречается с набором данных, непохожим ни на один из известных образцов, она относит его к нового кластеру. Если в данных содержатся метки классов, то сеть способна решать задачи классификации. Сеть Кохонена имеет всего два слоя: входной и выходной, ее называют самоорганизованной картой. Элементы карты располагаются в некотором пространстве - как правило, двумерном.
Рис. 9.1. Сеть Кохонена Сеть Кохонена учится методом последовательных приближений. Начиная со случайным образом выбранного выходного расположения центров, алгоритм постепенно улучшается для кластеризации обучающих данных. Основной итерационный алгоритм Кохонена последовательно проходит ряд эпох, на каждой эпохе обрабатывается один обучающий пример. Входные сигналы (векторы действительных чисел) последовательно предъявляются сети, желаемые выходные сигналы не определяются. После предъявления достаточного числа входных векторов, синоптические веса сети определяют кластеры. Веса организуются так, что топологически близкие узлы чувствительны к похожим входным сигналам. Основой алгоритма обучения сети Кохонена является правило «победитель получает все». Для каждого входного вектора определяется свой нейрон-победитель (с индексом i*). Он будет служить прототипом этого вектора. Поэтому победитель выбирается так, что его вектор весов Количество нейронов в соревновательном слое определяет максимальное разнообразие выходов и выбирается в соответствии с требуемой степенью детализации входной информации. Обученная сеть может затем классифицировать входы: нейрон-победитель определяет, к какому классу относится данный входной вектор. Алгоритм обучения соревновательного слоя нейронов Алгоритм обучения соревновательного слоя состоит в изменении весов нейронов по правилу:
поскольку задача сети - как можно точнее отразить входную информацию в выходах сети. В соревновательном слое лишь один нейрон-победитель имеет ненулевой (единичный) выход. Соответственно, в согласии с выписанным выше правилом, лишь его веса корректируются по предъявлении данного примера, причем для победителя правило обучения имеет вид:
Описанный алгоритм обучения на практике обычно несколько модифицируют, т. к. он, например, допускает существование т. н. мертвых нейронов, которые никогда не выигрывают, и, следовательно, бесполезны. Самый простой способ избежать их появления - выбирать в качестве начальных значений весов случайно выбранные в обучающей выборке входные вектора. Модифицированное Кохоненом правило соревновательного обучения учитывает расстояние нейронов от нейрона-победителя |i-j| :
Для реализации алгоритма необходимо определить меру соседства нейронов (окрестность нейрона-победителя). На рис. 9.2 показаны зоны топологического соседства нейронов на карте признаков в разные моменты времени. NEj(t) - множество нейронов, считающиеся соседями нейрона j в момент времени t. Зоны соседства уменьшаются с течением времени.
Рис. 9.2. Зоны топологического соседства на карте признаков в разные моменты времени Функция соседства (|-i*|) равна единице для нейрона-победителя с индексом i* и постепенно спадает с расстоянием, например по закону:
Как темп обучения η, так и радиус взаимодействия нейронов s постепенно уменьшаются в процессе обучения, так что на конечной стадии обучения мы возвращаемся к базовому правилу адаптации весов только нейронов-победителей. В результате такого обучения мы получаем не только квантование входов, но и упорядочивание входной информации в виде одно- или двумерной карты. Каждый многомерный вектор имеет свою координату на этой сетке, причем чем ближе координаты двух векторов на карте, тем ближе они и в исходном пространстве. Такая топографическая карта дает наглядное представление о структуре данных в многомерном входном пространстве, геометрию которого мы не в состоянии представить себе иным способом. Визуализация многомерной информации является главным применением карт Кохонена. Удобным инструментом визуализации данных является раскраска топографических карт, аналогично тому, как это делают на обычных географических картах. Каждый признак данных порождает свою раскраску ячеек карты - по величине среднего значения этого признака у данных, |
, определенный в том же d-мерном пространстве, находится ближе к данному входному вектору, чем у всех остальных нейронов: 
для всех i. Выход такого нейрона усиливается до единичного, а остальных - подавляется до нуля.
(9.1)
(9.2)
( 1)
(9.2)