Использование нейросетей для анализа звуковой информации


Обучение нейросети


Обучение системы в целом состоит из трех этапов. Сначала системе предъявляется только образцы звуков, при этом  во входном слое формируются нейронные ансамбли, ядрами которых являются предъявляемые образцы.  Затем предъявляются звуки и соответствующие им символы алфавита. При этом происходит ассоциация нейронов  входного уровня с нейронами символьного слоя. На последнем этапе система обучается синтезу. При этом системе не предъявляются никакие образцы, а используется накопленная на предыдущих этапах информация. Используется механизм стохастического обучения:  нейроны эффекторного слоя подвергаются случайным изменениям, затем  генерируется звук,  он распознается и результат сравнивается  с  тем символом, для которого был сгенерирован звук.  При совпадении изменения фиксируются. Этот процесс повторяется до тех пор, пока не будет достигнута правильная генерация всех звуков.

Выбор скоростей обучения

Зачем в правиле обучения слоя Кохонена (7) присутствует коэффициент a?  Если бы он был равен 1, то для каждого входного вектора вектор связей активного нейрона приравнивался бы к нему. Как правило, для каждого нейрона существует множество входных сигналов, которые могли бы его активировать, и его вектор связей постоянно менялся бы. Если же a<1, на каждый входной сигнал активный нейрон реагирует  лишь частично. Уменьшая a в процессе обучения, мы  в конце обучения  получим статистическое усреднение схожих входных сигналов. С этой же целью вводятся скорости обучения во всех остальных обучающих правилах.

Чем определяется скорость обучения? Здесь главную роль играет порядок предъявления образцов. Допустим, имеется большая обучающая выборка, последовательным предъявлением элементов которой обучается нейросеть. Если скорость обучения велика, то уже на середине этой выборки нейросеть «забудет» предыдущие элементы. А если каждый образец предъявляется  подряд много раз, то уже на следующем образце нейросеть забудет предыдущий. Таким образом, главный критерий выбора скоростей обучения – незначительное изменение связей в пределах ВСЕЙ обучающей выборки. Но не следует забывать, что время обучения обратно пропорционально скорости обучения. Так что здесь необходимо искать компромисс.

Запоминание  редко встречающихся  элементов

Описанный выше алгоритм обучения хорош для часто повторяющихся сигналов. Если же сигнал встречается редко на фоне всей обучающей выборки, он просто не будет запомнен. В таком случае необходимо привлечение механизма внимания. При появлении неизвестного нейросети образца  скорость обучения многократно возрастает и редкий элемент запоминается в нейросети. В разрабатываемой системе  обучающая выборка строится искусственно, поэтому  такой проблемы не возникает, и механизм внимания не реализован. Необходимость механизма внимания появляется при обучении в естественных условиях, когда обучающая выборка заранее не предсказуема.




- Начало -  - Назад -  - Вперед -