Нейрокомпьютерные системы

значений компонент входного вектора, и обучающий алгоритм предохранял бы

веса от изменения их нулевых значений. Обучение может

рассматриваться как процесс «сокращения» компонент запомненных векторов,

которые не соответствуют входным векторам. Этот процесс необратим,

если вес однажды установлен в нуль, обучающий алгоритм никогда не

восстановит его единичное значение. Это свойство имеет важное

отношение к процессу обучения. Предположим, что группа точно

соответствующих векторов должна быть классифицирована к одной

категории, определяемой возбуждением одного нейрона в слое

распознавания. Если эти вектора последовательно предъявляются сети, при

предъявлении первого будет распределяться нейрон распознающего слоя, его

веса будут обучены с целью соответствия входному вектору. Обучение при

предъявлении остальных векторов будет приводить к обнулению весов в тех

позициях, которые имеют нулевые значения в любом из входных векторов.

Таким образом, запомненный вектор представляет собой логическое

пересечение всех обучающих векторов и может включать существенные

характеристики данной категории весов. Новый вектор, включающий

только существенные характеристики, будет соответствовать этой

категории. Таким образом, сеть корректно распознает образ, никогда не

виденный ранее, т.е. реализуется возможность, напоминающая процесс

восприятия человека.

Настройка весовых векторов Вj.

Выражение, описывающее процесс настройки весов (выражение (8.6)

повторено здесь для справки) является центральным для описания

процесса функционирования сетей APT.

[pic]

Сумма в знаменателе представляет собой количество единиц на выходе

слоя сравнения. Эта величина может быть рассмотрена как «размер» этого

вектора. В такой интерпретации «большие» векторы С производят более

маленькие величины весов bij, чем «маленькие» вектора С. Это

свойство самомасштабирования делает возможным разделение двух векторов

в случае, когда один вектор является поднабором другого; т.е. когда

набор единичных компонент одного вектора составляет подмножество

единичных компонент другого. Чтобы продемонстрировать проблему,

возникающую при отсутствии масштабирования, используемого в выражении

(8.6), предположим, что сеть обучена двум приведенным ниже входным

векторам, при этом каждому распределен нейрон в слое распознавания.

Х1 = 1 0 0 0 0

X2= 1 1 1 0 0

Заметим, что Х1 является поднабором Х2 . В отсутствие свойства

масштабирования веса bij и tij получат значения, идентичные значениям

входных векторов. Если начальные значения выбраны равными 1,0,

веса образов будут иметь следующие значения:

T1 = В1 = 1 0 0 0 0

Т2 = B2 =1 1 1 0 0

Если X прикладывается повторно, оба нейрона в слое распознавания

получают одинаковые активации; следовательно, нейрон 2, ошибочный

нейрон, выиграет конкуренцию. Кроме выполнения некорректной

классификации, может быть нарушен процесс обучения. Так как Т2

равно 1 1 1 0 0, только первая единица соответствует единице

входного вектора, и С устанавливается в 1 0 0 0 0, критерий

сходства удовлетворяется и алгоритм обучения устанавливает вторую и

третью единицы векторов Т2 и В2 в нуль, разрушая запомненный образ.

Масштабирование весов bij предотвращает это нежелательное поведение.

Предположим, что в выражении (8.2) используется значение L=2, тем

самым определяя следующую формулу:

[pic][pic]

Значения векторов будут тогда стремиться к величинам

В1 = 1 0 0 0 0

В2 = 1/2 1/2 1/2 0 0

Подавая на вход сети вектор X1, получим возбуждающее воздействие

1,0 для нейрона 1 в слое распознавания и 1/2 для нейрона 2; таким

образом, нейрон 1 (правильный) выиграет соревнование. Аналогично

предъявление вектора Х2 вызовет уровень возбуждения 1,0 для нейрона 1 и

3/2 для нейрона 2, тем самым снова правильно выбирая победителя.

Инициализация весов bij

Инициализация весов bij малыми значениями является существенной для

корректного функционирования систем APT. Если они слишком большие,

входной вектор, который ранее был запомнен, будет скорее активизировать

несвязанный нейрон, чем ранее обученный. Выражение (8.1),

определяющее начальные значения весов, повторяется здесь для справки

bij < L / (L - 1+ т) для всех i , j. (8.1)

Установка этих весов в малые величины гарантирует, что несвязанные

нейроны не будут получать возбуждения большего, чем обученные нейроны

в слое распознавания. Используя предыдущий пример с L= 2, т=Ъ и

bij < 1/3, произвольно установим bij = 1/6. С такими весами предъявление

вектора, которому сеть была ранее обучена, приведет к более высокому

уровню активации для правильно обученного нейрона в слое

распознавания, чем для несвязанного нейрона. Например, для несвязанного

нейрона Х будет производить возбуждение 1/6, в то время как Х будет

производить возбуждение 1/2; и то и другое ниже возбуждения для

обученных нейронов.

Поиск. Может показаться, что в описанных алгоритмах отсутствует

необходимость наличия фазы поиска за исключением случая, когда для

входного вектора должен быть распределен новый несвязанный нейрон. Это

не совсем так; предъявление входного вектора, сходного, но не абсолютно

идентичного одному из запомненных образов, может при первом

испытании не обеспечить выбор нейрона слоя распознавания с уровнем

сходства большим р, хотя такой нейрон будет существовать. Как и в

предыдущем примере, предположим, что сеть обучается следующим двум

векторам:

Х =1 0 0 0 0

X =1 1 1 0 0

с векторами весов Вi, обученными следующим образом:

В1=1 0 0 0 0

В2 = 1/2 1/2 1/2 0 0

Теперь приложим входной вектор Х3 = 1 1 0 0 0. В этом случае возбуждение

нейрона 1 в слое распознавания будет 1,0, а нейрона 2 только 2/3. Нейрон

1 выйдет победителем (хотя он не лучшим образом соответствует

входному вектору), вектор С получит значение 1 1 0 0 0, S будет

равно 1/2. Если уровень сходства установлен в 3/4, нейрон 1 будет

заторможен и нейрон 2 выиграет состязание. С станет равным 1 1 0 0 0,

S станет равным 1, критерий сходства будет удовлетворен и поиск

закончится.

Теоремы APT

В работе [2] доказаны некоторые теоремы, показывающие

характеристики сетей APT. Четыре результата, приведенные ниже, являются

одними из наиболее важных:

1. После стабилизации процесса обучения предъявление одного из обучающих

векторов (или вектора с существенными характеристиками категории) будет

активизировать требуемый нейрон слоя распознавания без поиска. Эта

характеристика «прямого доступа» определяет быстрый доступ к

предварительно изученным образам.

2. Процесс поиска является устойчивым. После определения выигравшего

нейрона в сети не будет возбуждений других нейронов в результате

изменения векторов выхода слоя сравнения С; только сигнал сброса может

вызвать такие изменения.

3. Процесс обучения является устойчивым. Обучение не будет вызывать

переключения с одного возбужденного нейрона слоя распознавания на другой.

4. Процесс обучения конечен. Любая последовательность произвольных

входных векторов будет производить стабильный набор весов после

конечного количества обучающих серий; повторяющиеся последовательности

обучающих векторов не будут приводить к циклическому изменению весов.

ЗАКЛЮЧЕНИЕ

Сети APT являются интересным и важным видом систем. Они

способны решить дилемму стабильности-пластичности и хорошо

работают с других точек зрения. Архитектура APT сконструирована по

принципу биологического подобия; это означает, что ее механизмы во

многом соответствуют механизмам мозга (как мы их понимаем). Однако

они могут оказаться не в состоянии моделировать распределенную память,

которую многие рассматривают как важную характеристику функций мозга.

Экземпляры APT представляют собой «бабушкины узелки»; потеря одного

узла разрушает всю память. Память мозга, напротив, распределена по

веществу мозга, запомненные образы могут часто пережить значительные

физические повреждения мозга без полной их потери. Кажется логичным

изучение архитектур, соответствующих нашему пониманию организации и

функций мозга. Человеческий мозг представляет существующее

доказательство того факта, что решение проблемы распознавания образов

возможно. Кажется разумным эмулировать работу мозга, если мы хотим

повторить его работу. Однако контраргументом является история полетов;

человек не смог оторваться от земли до тех пор, пока не перестал

имитировать движения крыльев и полет птиц.

Глава 10 Когнитрон и неокогнитрон

Люди решают сложные задачи распознавания образов с обескураживающей

легкостью. Двухлетний ребенок без видимых усилий различает тысячи

лиц и других объектов, составляющих его окружение, несмотря на изменение

расстояния, поворота, перспективы и освещения. Может показаться,

что изучение этих врожденных способностей должно сделать простой

задачу разработки компьютера, повторяющего способности человека к

распознаванию. Ничто не может быть более далеким от истины. Сходство и

различия образов, являющиеся очевидными для человека, пока ставят в

тупик даже наиболее сложные компьютерные системы распознавания.

Таким образом, бесчисленное количество важных приложений, в которых

компьютеры могут заменить людей в опасных, скучных или неприятных

работах, остаются за пределами их текущих возможностей.

Компьютерное распознавание образов является больше искусством; наука

ограничена наличием нескольких методик, имеющих относительно небольшое

использование на практике. Инженер, конструирующий типовую систему

распознавания образов, обычно начинает с распознавания печатного

текста. Эти методы часто являются неадекватными задаче, и старания

разработчиков быстро сводятся к разработке алгоритмов, узко специфичных

для данной задачи. Обычно целью конструирования систем

распознавания образов является оптимизация ее функционирования над

выборочным набором образов. Очень часто разработчик завершает эту

задачу нахождением нового, приблизительно похожего образа, что приводит к

неудачному завершению алгоритмов. Этот процесс может продолжаться

неопределенно долго, никогда не приводя к устойчивому решению,

достаточному для повторения процесса восприятия человека, оценивающего

качество функционирования системы.

К счастью, мы имеем существующее доказательство того, что задача

может быть решена: это система восприятия человека. Учитывая

ограниченность успехов, достигнутых в результате стремления к собственным

изобретениям, кажется вполне логичным вернуться к биологическим моделям

и попытаться определить, каким образом они функционируют так

хорошо. Очевидно, что это трудно сделать по нескольким причинам. Во-

первых, сверхвысокая сложность человеческого мозга затрудняет

понимание принципов его функционирования. Трудно понять общие принципы

функционирования и взаимодействия его приблизительно 1011 нейронов

и 1014 синаптических связей. Кроме того, существует множество проблем

при проведении экспериментальных исследований. Микроскопические

исследования требуют тщательно подготовленных образцов (заморозка,

срезы, окраска) для получения маленького двумерного взгляда на большую

трехмерную структуру. Техника микропроб позволяет провести исследования

внутренней электрохимии узлов, однако трудно контролировать одновременно

большое количество узлов и наблюдать их взаимодействие. Наконец,

этические соображения запрещают многие важные эксперименты, которые

могут быть выполнены только на людях. Большое значение имели эксперименты

над животными, однако животные не обладают способностями человека

описывать свои впечатления. Несмотря на эти ограничения, многое

было изучено благодаря блестяще задуманным экспериментам. Например, в

[1] описан эксперимент, в котором котята выращивались в визуальном

окружении, состоящем только из горизонтальных черных и белых полос.

Известно, что определенные области коры чувствительны к углу ориентации,

поэтому у этих котов не развились нейроны, чувствительные к вертикальным

полосам. Этот результат наводит на мысль, что мозг млекопитающих

не является полностью «предустановленным» даже на примитивном уровне

распознавания ориентации линий. Напротив, он постоянно самоорганизуется,

основываясь на опыте.

На микроскопическом уровне обнаружено, что нейроны обладают как

возбуждающими, так и тормозящими синапсами. Первые стремятся к

возбуждению нейрона; последние подавляют его возбуждение (см. приложение

А). Это наводит на мысль, что мозг адаптируется либо изменением

воздействия этих синапсов, либо созданием или разрушением синапсов в

результате воздействия окружающей среды. Данное предположение

остается пока гипотезой с ограниченным физиологическим

подтверждением. Однако исследования, проведенные в рамках этой гипотезы,

привели к созданию цифровых моделей, некоторые из которых показывают

замечательные способности к адаптивному распознаванию образов.

КОГНИТРОН

Основываясь на текущих знаниях анатомии и физиологии мозга, в

работе [2] разработан когнитрон, гипотетическая модель системы восприятия

человека. Компьютерные модели, исследованные в [2], продемонстрировали

впечатляющие способности адаптивного распознавания образов, побуждая

физиологов исследовать соответствующие механизмы мозга. Это взаимно

усиливающее взаимодействие между искусственными нейронными сетями,

физиологией и психологией может оказаться средством, посредством

которого будет со временем достигнуто понимание механизмов мозга.

Структура

Когнитрон конструируется в виде слоев нейронов, соединенных

синапсами. Как показано на рис. 10.1, предсинаптический нейрон в одном

слое связан с постсинаптическим нейроном в следующем слое. Имеются

два типа нейронов: возбуждающие узлы, которые стремятся вызвать

возбуждение постсинаптического узла, и тормозящие узлы, которые тормозят

это возбуждение. Возбуждение нейрона определяется взвешенной суммой его

возбуждающих и тормозящих входов, однако в действительности

механизм является более сложным, чем простое суммирование.

[pic]

Рис. 10.1. Пресинаптические и постсинаптические нейроны.

На рис. 10.2 показано, что каждый нейрон связан только с нейронами

в соседней области, называемой областью связи. Это ограничение

области связи согласуется с анатомией зрительной коры, в которой редко

соединяются между собой нейроны, располагающиеся друг от друга на

расстоянии более одного миллиметра. В рассматриваемой модели нейроны

упорядочены в виде слоев со связями от одного слоя к следующему. Это

также аналогично послойной структуре зрительной коры и других частей

головного мозга.

[pic]

Обучение

Так как когнитрон реализован в виде многослойной сети, возникают

сложные проблемы обучения, связанные с выбранной структурой. Автор

отверг управляемое обучение, как биологически неправдоподобное,

используя взамен этого обучение без учителя. Получая обучающий набор

входных образов, сеть самоорганизуется посредством изменения силы

синаптических связей. При этом отсутствуют предварительно определенные

выходные образы, представляющие требуемую реакцию сети, однако сеть

самонастраивается с целью распознавания входных образов с

замечательной точностью. Алгоритм обучения когнитрона является

концептуально привлекательным. В заданной области слоя обучается только

наиболее сильно возбужденный нейрон. Автор сравнивает это с «элитным

обучением», при котором обучаются только «умные» элементы. Те нейроны,

которые уже хорошо обучены, что выражается силой их возбуждения,

получат приращение силы своих синапсов с целью дальнейшего усиления

своего возбуждения. На рис. 10.3 показано, что области связи

соседних узлов значительно перекрываются. Это расточительное

дублирование функций оправдывается взаимной конкуренцией между

ближайшими узлами. Даже если узлы в начальный момент имеют абсолютно

идентичный выход, небольшие отклонения всегда имеют место; один из

узлов всегда будет иметь более сильную реакцию на входной образ, чем

соседние. Его сильное возбуждение будет оказывать сдерживающее

Страницы: 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16