Нейрокомпьютерные системы

Эта функция сильно уменьшает величину очень больших весов,

воздействие на малые веса значительно более слабое. Далее она

поддерживает симметрию, сохраняя небольшие различия между большими

весами. Экспериментально было показано, что эта функция выводит нейроны

из состояния насыщения без нарушения достигнутого в сети обучения. Не

было затрачено серьезных усилий для оптимизации используемой функции,

другие значения констант могут оказаться лучшими.

Экспериментальные результаты. Комбинированный алгоритм, использующий

обратное распространение и обучение Коши, применялся для обучения

нескольких больших сетей. Например, этим методом была успешно

обучена система, распознающая рукописные китайские иероглифы [6]. Все же

время обучения может оказаться большим (приблизительно 36 ч машинного

времени уходило на обучение). В другом эксперименте эта сеть

обучалась на задаче ИСКЛЮЧАЮЩЕЕ ИЛИ, которая была использована в

качестве теста для сравнения с другими алгоритмами. Для сходимости сети

в среднем требовалось около 76 предъявлений обучающего множества. В

качестве сравнения можно указать, что при использовании обратного

распространения в среднем требовалось около 245 предъявлений для решения

этой же задачи [5] и 4986 итераций при использовании обратного

распространения второго порядка. Ни одно из обучений не привело к

локальному минимуму, о которых сообщалось в [5]. Более того, ни одно из

160 обучений не обнаружило неожиданных патологий, сеть всегда

правильно обучалась. Эксперименты же с чистой машиной Коши

привели к значительно большим временам обучения. Например, при р=0,002

для обучения сети в среднем требовалось около 2284 предъявлений

обучающего множества.

Обсуждение

Комбинированная сеть, использующая обратное распространение и

обучение Коши, обучается значительно быстрее, чем каждый из

алгоритмов в отдельности, и относительно нечувствительна к величинам

коэффициентов. Сходимость к глобальному минимуму гарантируется алгоритмом

Коши, в сотнях экспериментов по обучению сеть ни разу не попадала в

ловушки локальных минимумов. Проблема сетевого паралича была решена с

помощью алгоритма селективного сжатия весов, который обеспечил

сходимость во всех предъявленных тестовых задачах без существенного

увеличения обучающего времени. Несмотря на такие обнадеживающие

результаты, метод еще не исследован до конца, особенно на больших

задачах. Значительно большая работа потребуется для определения его

достоинств и недостатков.

Глава 6 Сети Хопфилда

Сети, рассмотренные в предыдущих главах, не имели обратных связей,

т.е. связей, идущих от выходов сетей и их входам. Отсутствие обратной

связи гарантирует безусловную устойчивость сетей. Они не могут войти в

режим, когда выход беспрерывно блуждает от состояния к состоянию и не

пригоден к использованию. Но это весьма желательное свойство

достигается не бесплатно, сети без обратных связей обладают более

ограниченными возможностями по сравнению с сетями с обратными связями.

Так как сети с обратными связями имеют пути, передающие сигналы от

выходов к входам, то отклик таких сетей является динамическим, т.е.

после приложения нового входа вычисляется выход и, передаваясь по сети

обратной связи, модифицирует вход. Затем выход повторно вычисляется, и

процесс повторяется снова и снова. Для устойчивой сети последовательные

итерации приводят к все меньшим изменениям выхода, пока в конце

концов выход не становится постоянным. Для многих сетей процесс

никогда не заканчивается, такие сети называют неустойчивыми.

Неустойчивые сети обладают интересными свойствами и изучались в

качестве примера хаотических систем. Однако такой большой предмет, как

хаос, находится за пределами этой книги. Вместо этого мы сконцентрируем

внимание на устойчивых сетях, т.е. на тех, которые в конце концов

дают постоянный выход. Проблема устойчивости ставила в тупик

первых исследователей. Никто не был в состоянии предсказать, какие

из сетей будут устойчивыми, а какие будут находиться в постоянном

изменении. Более того, проблема представлялась столь трудной, что

многие исследователи были настроены пессимистически относительно

возможности ее решения. К счастью, в работе [2] была получена теорема,

описавшая подмножество сетей с обратными связями, выходы которых в

конце концов достигают устойчивого состояния. Это замечательное

достижение открыло дорогу дальнейшим исследованиям и сегодня многие

ученые занимаются исследованием сложного поведения и возможностей этих

систем. Дж. Хопфилд сделал важный вклад как в теорию, так и в

применение систем с обратными связями. Поэтому некоторые из

конфигураций известны как сети Хопфилда. Из обзора литературы видно,

что исследованием этих и сходных систем занимались многие. Например,

в работе [4] изучались общие свойства сетей, аналогичных многим,

рассмотренным здесь. Работы, цитируемые в списке литературы в конце

главы, не направлены на то, чтобы дать исчерпывающую библиографию по

системам с обратными связями. Скорее они являются лишь доступными

источниками, которые могут служить для объяснения, расширения и обобщения

содержимого этой книги.

КОНФИГУРАЦИИ СЕТЕЙ С ОБРАТНЫМИ СВЯЗЯМИ

На рис. 6.1 показана сеть с обратными связями, состоящая из двух

слоев. Способ представления несколько отличается от использованного в

работе Хопфилда и других, но эквивалентен им с функциональной точки

зрения, а также хорошо связан с сетями, рассмотренными в предыдущих

главах. Нулевой слой, как и на предыдущих рисунках, не выполняет

вычислительной функции, а лишь распределяет выходы сети обратно на

входы. Каждый нейрон первого слоя вычисляет взвешенную сумму своих

входов, давая сигнал NET, который затем с помощью нелинейной функции

F преобразуется в сигнал OUT. Эти операции сходны с нейронами других

сетей (см. гл.2).

Бинарные системы

В первой работе Хопфилда [6] функция F была просто пороговой

функцией. Выход такого нейрона равен единице, если взвешенная сумма

выходов с других нейронов больше порога Т., в противном случае она равна

нулю. Он вычисляется следующим образом:

[pic] (6.1)

[pic]

Состояние сети - это просто множество текущих значений сигналов

OUT от всех нейронов. В первоначальной сети Хопфилда состояние каждого

нейрона менялось в дискретные случайные моменты времени, в

последующей работе состояния нейронов могли меняться одновременно. Так

как выходом бинарного нейрона может быть только ноль или единица

(промежуточных уровней нет), то текущее состояние сети является двоичным

числом, каждый бит которого является сигналом OUT некоторого нейрона.

Функционирование сети легко визуализируется геометрически. На рис. 6.2 а

показан случай двух нейронов в выходном слое, причем каждой вершине

квадрата соответствует одно из четырех состояний системы (00, 01, 10,

II). На рис. 6.2 б показана трехнейронная система, представленная

кубом (в трехмерном пространстве), имеющим восемь вершин, каждая из

которых помечена трехбитовым бинарным числом. В общем случае система с п

нейронами имеет 2n различных состояний и представляется fi-мерным

гиперкубом.

[pic]

Рис. 6.2 а. Два нейрона порождают систему с четырьмя состояниями.

[pic]

Рис. 6.2 б. Три нейрона порождают систему с восемью состояниями.

Когда подается новый входной вектор, сеть переходит из вершины в

вершину, пока не стабилизируется. Устойчивая вершина определяется

сетевыми весами, текущими входами и величиной порога. Если входной

вектор частично неправилен или неполон, то сеть стабилизируется в

вершине, ближайшей к желаемой.

Устойчивость

Как и в других сетях, веса между слоями в этой сети могут

рассматриваться в виде матрицы W. В работе [2] показано, что сеть с

обратными связями является устойчивой, если ее матрица симметрична и

имеет нули на главной диагонали, т.е. если Wij = Wji и Wii = 0 для

всех i. Устойчивость такой сети может быть доказана с помощью

элегантного математического метода. Допустим, что найдена функция,

которая всегда убывает при изменении состояния сети. В конце концов эта

функция должна достичь минимума и прекратить изменение, гарантируя тем

самым устойчивость сети. Такая функция, называемая функцией

Ляпунова, для рассматриваемых сетей с обратными связями может быть

введена следующим образом:

[pic] (6.2)

где Е - искусственная энергия сети; wij - вес от выхода нейрона i к

входу нейрона j; OUTj - выход нейрона j; Ij - внешний вход нейрона j;

Тj - порог нейрона j.

Изменение энергии Е, вызванное изменением состояния j-

нейрона, есть

[pic] (6.3)

где (0UTj- изменение выхода у-го нейрона. Допустим, что величина NET

нейрона j больше порога. Тогда выражение в скобках будет положительным, а

из уравнения (6.1) следует, что выход нейрона j должен измениться в

положительную сторону (или остаться без изменения). Это значит, что

(0UTj может быть только положительным или нулем и (Е должно быть

отрицательным.

Следовательно, энергия сети должна либо уменьшиться, либо остаться без

изменения. Далее, допустим, что величина NET меньше порога. Тогда

величина (0UTj. может быть только отрицательной или нулем.

Следовательно, опять энергия должна уменьшиться или остаться без

изменения. И окончательно, если величина NET равна порогу, (j равна нулю

и энергия остается без изменения. Это показывает, что любое изменение

состояния нейрона либо уменьшит энергию, либо оставит ее без

изменения. Благодаря такому непрерывному стремлению к уменьшению

энергия в конце концов должна достигнуть минимума и прекратить

изменение. По определению такая сеть является устойчивой. Симметрия

сети является достаточным, но не необходимым условием для устойчивости

системы. Имеется много устойчивых систем (например, все сети прямого

действия!), которые ему не удовлетворяют. Можно продемонстрировать

примеры, в которых незначительное отклонение от симметрии может

приводить к непрерывным осцилляциям. Однако приближенной симметрии

обычно достаточно для устойчивости систем.

Ассоциативная память

Человеческая память ассоциативна, т.е. некоторое воспоминание

может порождать большую связанную с ним область. Например, несколько

музыкальных тактов могут вызвать целую гамму чувственных воспоминаний,

включая пейзажи, звуки и запахи. Напротив, обычная компьютерная память

является локально адресуемой, предъявляется адрес и извлекается

информация по этому адресу. Сеть с обратной связью формирует

ассоциативную память. Подобно человеческой памяти по заданной части

нужной информации вся информация извлекается из «памяти». Чтобы

организовать ассоциативную память с помощью сети с обратными связями,

веса должны выбираться так, чтобы образовывать энергетические минимумы

в нужных вершинах единичного гиперкуба. Хопфилд разработал ассоциативную

память с непрерывными выходами, изменяющимися в пределах от +1 до -1,

соответствующих двоичным значениям 0 и 1. Запоминаемая информация

кодируется двоичными векторами и хранится в весах согласно следующей

формуле:

[pic] (6.4)

где т - число запоминаемых выходных векторов; d - номер запоминаемого

выходного вектора; OUTi,d - i -компонента запоминаемого выходного

вектора. Это выражение может стать более ясным, если заметить, что

весовой массив W может быть найден вычислением внешнего произведения

каждого запоминаемого вектора с самим собой (если требуемый вектор имеет

п компонент, то эта операция образует матрицу размером п х п) и

суммированием матриц, полученных таким образом. Это может быть

записано в виде

W = [pic] (6.5)

где Dj - i -й запоминаемый вектор-строка. Как только веса заданы,

сеть может быть использована для получения запомненного выходного

вектора по данному входному вектору, который может быть частично

неправильным или неполным. Для этого выходам сети сначала придают

значения этого входного вектора. Затем входной вектор убирается и сети

предоставляется возможность «расслабиться», опустившись в ближайший

глубокий минимум. Сеть идущая по локальному наклону функции энергии,

может быть захвачена локальным минимумом, не достигнув наилучшего в

глобальном смысле решения.

Непрерывные системы

В работе [7] рассмотрены модели с непрерывной активационной

функцией F, точнее моделирующей биологический нейрон. В общем случае

это S-образная или логистическая функция

F(x) = 1 / (1+ exp(-(NET)) (6.6)

где ( - коэффициент, определяющий крутизну сигмоидальной функции. Если

( велико, F приближается к описанной ранее пороговой функции.

Небольшие значения ( дают более пологий наклон. Как и для

бинарных систем, устойчивость гарантируется, если веса симметричны, т.е.

wij =wji и wii=0 при всех i. Функция энергии, доказывающая

устойчивость подобных систем, была сконструирована, но она не

рассматривается здесь из-за своего концептуального сходства с дискретным

случаем. Интересующиеся читатели могут обратиться к работе [2] для

более полного рассмотрения этого важного предмета. Если ( велико,

непрерывные системы функционируют подобно дискретным бинарным

системам, окончательно стабилизируясь со всеми выходами, близкими

нулю или единице, т.е. в вершине единичного гиперкуба. С уменьшением (

устойчивые точки удаляются от вершин, последовательно исчезая по мере

приближения ( к нулю. На рис. 6.3 показаны линии энергетических

уровней непрерывной системы с двумя нейронами.

Сети Хопфилда и машина Больцмана

Недостатком сетей Хопфилда является их тенденция стабилизироваться

в локальном, а не глобальном минимуме функции энергии. Эта трудность

преодолевается в основном с помощью класса сетей, известных под

названием машин Больцмана, в которых изменения состоянии нейронов

обусловлены статистическими, а не детерминированными закономерностями.

Существует тесная аналогия между этими методами и отжигом металла,

поэтому и сами методы часто называют имитацией отжига.

Термодинамические системы

Металл отжигают, нагревая его до температуры, превышающей

точку его плавления, а затем давая ему медленно остыть. При высоких

температурах атомы, обладая высокими энергиями и свободой перемещения,

случайным образом принимают все возможные конфигурации. При постепенном

снижении температуры энергии атомов уменьшаются, и система в целом

стремится принять конфигурацию с минимальной энергией. Когда охлаждение

завершено, достигается состояние глобального минимума энергии.

[pic]Рис 6.3. Линии энергетических уровней.

При фиксированной температуре распределение энергий системы

определяется вероятностным фактором Больцмана.

ехр(-E / kT),

где Е - энергия системы; k - постоянная Больцмана; Т -температура.

Отсюда можно видеть, что имеется конечная вероятность того, что система

обладает высокой энергией даже при низких температурах. Сходным

образом имеется небольшая, но вычисляемая вероятность, что чайник с

водой на огне замерзнет, прежде чем закипеть. Статистическое

распределение энергий позволяет системе выходить из локальных

минимумов энергии. В то же время вероятность высокоэнергетических

состояний быстро уменьшается со снижением температуры. Следовательно,

при низких температурах имеется сильная тенденция занять

низкоэнергетическое состояние.

Статистические сети Хопфилда

Если правила изменения состояний для бинарной сети Хопфилда заданы

статистически, а не детерминировано, как в уравнении (6.1), то

возникает система, имитирующая отжиг. Для ее реализации вводится

вероятность изменения веса как функция от величины, на которую выход

нейрона OUT превышает его порог. Пусть

Ek=NETk - (k ,

где NETk - выход NET нейрона k, (k - порог нейрона k, и

pk = 1/ [1 + ехр(-(Ek/ T)],

(отметьте вероятностную функцию Больцмана в знаменателе), где Т -

искусственная температура. В стадии функционирования искусственной

температуре Т приписывается большое значение, нейроны устанавливаются в

начальном состоянии, определяемом входным вектором, и сети

предоставляется возможность искать минимум энергии в соответствии с

Страницы: 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16