Реализация автономных адаптивных систем управления на базе нейронных сетей

[pic].

Таким образом, задачу построения НС ФРО можно сформулировать следующим

образом: для данной совокупности входных фильмов построить такую сеть, в

которой бы присутствовали нейроны, для которых данные входные фильмы

являются обучающими. Построенная таким образом сеть способна решать

эталонную задачу классификации, где в качестве эталонов используются данные

входные фильмы. Известно множество способов конструирования и настройки

сетей для классических формальных моделей нейронов, например, сети

обратного распространения, использующие обобщенное [pic]-правило. Проблема

предлагаемого подхода состоит в том, что 1) система должна быть автономной,

а значит отсутствует «учитель»; 2) вообще говоря, a priori не известны все

жизненно необходимые для системы образы. Но если мы обладаем априорной

информацией об условиях существования системы (что почти всегда бывает), ее

следует использовать при конструировании ФРО.

Можно иначе сформулировать задачу построения ФРО. Приведем пример с

системой «Пилот» [Диссер, Жданов9]. В математической модели спутника

используются величины углового положения спутника [pic] и его производной

[pic], следовательно, очевидно, что всевозможные сочетания возможных

значений этих величин (т.е. некоторая область на фазовой плоскости)

необходимы для нахождения законов управления системой. Действительно,

допустим система в момент времени t находится в состоянии [pic] и УС

выбирает некоторое управляющее воздействие [pic] (включение одного из

двигателей, например). Мы знаем, что в момент времени [pic] система

окажется в некотором состоянии, соответствующем точке на фазовой плоскости

с некоторой вероятностью [pic], где [pic] - точка на фазовой плоскости,

таким образом, можно говорить о некотором вероятностном распределении

[pic], заданном в фазовом пространстве и характеризующем предсказание

поведения системы через интервал [pic] при выборе воздействия [pic] в

момент времени t. Если бы параметров [pic] было недостаточно для описания

законов управления, то функция распределения зависела бы еще и от других

параметров, и при одних и тех же величинах [pic] принимала бы другие

значения в зависимости от значений неучтенных параметров. Следовательно, УС

не смогла бы найти никакого закона управления, поскольку система ищет

статистически достоверную корелляцию между наблюдаемым состоянием ОУ,

выбранным действием и состоянием ОУ через некоторый интервал времени.

Законом управления здесь мы назовем совокупность функций распределения для

каждого управляющего воздействия [pic], где [pic] находится в некотором

диапазоне. Найденный УС закон управления отобразится в некотором внутреннем

формате в БЗ, причем он может быть получен в процессе обучения системы в

реальных условиях прямо во время работы, либо на тестовом стенде, «на

земле». Следовательно, можно сказать, что задача построения ФРО состоит в

конструировании образов, соответствующих необходимому набору параметров,

описывающих состояние системы, и их комбинациям, необходимым для нахождения

закона управления. Нахождению таких образов может помочь математическая

модель объекта управления, если таковая имеется.

3.4. Распознавание пространственно-временных образов.

Определение 3.4.1. Всякую совокупность значений реализации входного

процесса в некоторые выбранные интервалы времени [pic] будем называть

пространственно-временным образом (ПВО).

Отметим, что один нейрон способен распознавать (т.е. способен обучиться

выделять конкретный ПВО среди всех остальных) только те ПВО, у которых

единичное значение сигнала для каждой выбранной компоненты входного

процесса встречается не более одного раза (пример изображен на верхнем

графике рис. 3.4.1). Сеть нейронов можно построить так, что в ней будут

формироваться любые заданные ПВО (нижний график рис. 3.4.1).

[pic]

Рис 3.4.1.

4. База знаний.

Процесс накопления знаний БЗ в рамках методологии ААУ подробно рассмотрен в

[Диссер], [Жданов4-8]. В данном разделе мы опишем лишь основные отличия от

указанных источников.

Рассмотрим общий алгоритм формирования БЗ. Основная цель алгоритма состоит

в накоплении статистической информации, помогающей установить связь между

выбранными управляющей системой воздействиями на среду и реакцией среды на

эти воздействия. Другая задача алгоритма состоит в приписывании оценок

сформированным образам и их корректировки в соответствии с выходным

сигналом блока оценки состояния.

Определение 4.1. Будем называть полным отсоединением ФРО от среды следующее

условие: процессы [pic] и [pic] являются независимыми. Вообще говоря, в

действующей системе, конечно же эти процессы зависимы, например, в простом

случае без блока датчиков [pic], но для введения некоторых понятий

требуется мысленно «отсоединить» входной процесс и процесс среды.

Определение 4.2. Назовем временем реакции среды на воздействие [pic] число

[pic], где [pic] случайные величины [pic] и [pic] являются зависимыми

при полном отсоединении ФРО от среды. Закономерностью или реакцией среды

будем считать зависимость [pic] от [pic].

Другими словами, время реакции среды это время, через которое проявляется,

т.е. может быть распознана блоком ФРО, реакция на воздействие.

Пример 4.1. [pic] = [pic]. Очевидно, что здесь [pic].

Определение 4.3. Назовем минимальной [pic] и максимальной [pic] инертностью

среды минимальное и максимальное соответственно время реакции среды на

воздействие [pic] для всех [pic]. Интервал [pic] будем называть интервалом

чувствительности среды.

Заметим, что [pic].

Введем совокупность образов

[pic]. (4.1)

Параметр n > 0 назовем запасом на инертность среды. Смысл [pic] состоит в

том, что если [pic] обучен, в текущий момент времени распознан образ [pic]

и УС выберет воздействие [pic] то с некоторой вероятностью через n шагов

распознается образ [pic]. Аналогично введем образ

[pic], (4.2)

смысл которого совпадает со смыслом [pic], с тем лишь различием, что [pic]

не распознается, а вытеснится. Поскольку в конечном итоге способом

управления УС является вызов определенных образов и вытеснение других, то

совокупность обученных образов [pic] является материалом, способствующим

достижению цели управления, то есть вызову или вытеснению определенных

образов посредством выбора воздействия [pic] из множества возможных

воздействий Y на каждом шаге t. Как используется этот материал будет

изложено в разделе «Блок принятия решений».

Запас на инертность введен из следующих соображений. Совершенно очевидно,

что бесполезно пытаться уловить закономерность вида «был распознан образ

[pic], применили [pic]и через m шагов получили [pic]», где [pic], так как

среда будет просто не успевать отреагировать. Таким образом, УС может

уловить закономерности со временем реакции среды не большим чем n.

Аналогично, нет смысла выбирать n слишком большим, т.е. гораздо большим,

чем [pic]. С другой стороны, используя синаптические задержки входных

сигналов в нейроне, мы можем отловить любую закономерность со временем

реакции меньшим либо равным запасу на инертность. Действительно, мы можем

построить ФРО так, чтобы образы [pic] и [pic] формировались с нужными

задержками [pic], где m – время реакции среды. Заметим, что a priori нам

неизвестно время реакции среды m, поэтому имеет смысл лишь выбрать

параметр n для всех образов одинаковым и «наверняка» большим чем [pic] (для

этого необходимо воспользоваться априорной информацией о среде).

Теперь сопоставим каждому образу из ФРО некоторое число или оценку. Пусть

[pic] – выход блока оценки состояния, а [pic] – оценка образа [pic],

получающаяся по следующему алгоритму:

[pic], [pic],

где [pic]– некоторая «усредняющая» функция, [pic]- множество моментов

времени, в которые образ [pic] был распознан. В качестве [pic] обычно

берется просто среднее арифметическое

[pic].

Теперь можно определить, что такое база знаний.

Определение 4.4. Назовем базой знаний совокупность сформированных образов

[pic] и совокупность оценок [pic] для всех образов ФРО.

Определение 4.5. Обозначим объединение множеств всех образов (4.1) и (4.2)

через [pic], где F – множество образов ФРО, Y – множество возможных

воздействий. Назовем B пространством образов БЗ.

5. Система построения и исследования нейронных сетей СПИНС.

5.1. Актуальность системы.

Для моделирования на ЭВМ компонентов УС, сконструированных из нейронов,

была осознана необходимость в специальном инструменте, позволяющем с

помощью удобного графического интерфейса создавать библиотеки шаблонов

блоков, строить сети из блоков, построенных по шаблонам, и просчитывать

сеть с возможностью просмотра промежуточных состояний сети, сбора и анализа

статистики о работе сети в целях отладки. При создании (или выборе)

инструмента использовались следующие критерии:

открытость, или спецификация и реализация (generic) интерфейса и (процедур

обработки) форматов данных, позволяющие проводить модификацию и наращивание

функциональности системы не затрагивая ядра системы и с минимальными

затратами на модификацию связанных компонент, другими словами, минимизация

связей между компонентами;

гибкость, возможности по конструированию как можно большего числа классов

формальных моделей нейронов и сетей под самые различные приложения от

моделей УС спутников и космических аппаратов до систем поддержки принятия

решений и систем предсказания курса ценных бумаг;

многоплатформенность, максимальная независимость от операционной системы;

удобство и приспособленность к моделированию именно систем ААУ, простота в

использовании и способность эффективно работать на относительно слабых

ресурсах ЭВМ (класса персональных компьютеров), дешевизна.

Анализ имеющихся в наличии или доступных систем САПР и других систем

(например, LabView или систем с классическими НС), тем или иным образом

удовлетворяющих первым трем критериям, показал, что все они являются либо

тяжеловесными, либо слишком дорогими, либо очень плохо приспособлены к

моделированию систем ААУ и ОУ с формальной моделью нейрона, изложенной в

разделе «Аппарат ФРО» или к работе с сетями, состоящими из тысяч нейронов.

Таким образом, возникла необходимость в инструменте для научно-

исследовательских целей, который бы позволял проверять идеи ААУ и создавать

прототипы УС на НС.

5.2. Общая концепция системы.

[pic]

Рис. 5.1. Общая схема ядра СПИНС.

На приведенной схеме (рис 5.1) указаны основные классы объектов ядра

системы и их взаимодействие. Стрелками показаны потоки данных при работе

системы. Каждому из основных блоков УС соответствует свой блок в системе.

Четыре блока: ФРО, БЗ, БОС и БПР составляют УС. Напомним, что в подразделе

«Формализация НС» раздела 1 мы определили такие понятия как блок, выходная

функция блока, шаблон, нейронная сеть и формальная модель нейрона. Из

формальной модели НС следует, что блок – это иерархическая структура, в

которой элементы одного уровня соединены в сеть и каждый из элементов

уровня может быть сетью, состоящей из элементов более низкого уровня.

Рассматривая выбранный элемент какого-нибудь уровня, можно считать его

«черным ящиком», т.е. абстрагироваться от его содержимого и внутреннего

устройства. Например, можно на некотором промежуточном этапе

конструирования УС абстрагироваться от нейро-сетевой реализации какого-либо

блока верхнего уровня и попробовать различные реализации, причем

необязательно нейросетевые. Система не накладывает ограничений на

внутреннее устройство каждого блока, поэтому оно может не иметь внутренней

иерархии, а просто представляться некоторой функцией выхода. Далее, в

процессе развития УС, содержимое отдельных блоков может поменяться,

возможно стать более сложным и иерархическим, при этом поведение системы не

изменится, если новое содержимое обеспечивает функциональность старого в

смысле эквивалентности выходных функций. Таким образом, облегчается

разработка системы, т.к. появляется возможность конструирования «сверху

вниз», нет необходимости реализовывать блок сразу через НС, можно поставить

временную «заглушку», а в процессе развития системы усложнять, дополнять

или заменять на совершенно иную внутреннюю конструкцию блоков.

Помимо указанных блоков, в систему входят еще два важных класса объектов:

конструкторы сети и анализаторы работы сети. Первые, как видно из названия,

предназначены для создания рабочих копий НС в памяти компьютера по

различным источникам, например по спецификации сети из файла. Собственно,

для каждого источника и создается свой объект. (Следует отличать данные

объекты от конструкторов сетей, предназначенных для создания с помощью ГИП

файлы спецификации сетей; эти конструкторы в ядро СПИНС не входят).

Спецификация сети может ссылаться на шаблоны блоков из библиотеки, которые,

таким образом, также могут являться источником для конструкции. Анализаторы

нужны при отладке сетей. Дело в том, что сети могут содержать тысячи и

десятки тысяч элементов (принципиальных ограничений нет,имеют место

ограничения только по памяти и производительности компьютера), работу

которых одновременно проследить просто невозможно, особенно если временной

интервал работы составляет сотни и более тактов. Поэтому необходимо как-то

обобщать информацию о состоянии сети (которое есть совокупность состояний

каждого элемента) в каждый момент времени и выдавать пользователю суммарную

информацию, возможно, с некоторой детализацией по усмотрению пользователя.

Для такой задачи и нужны специальные объекты – анализаторы. Эти объекты

могут сохранять историю состояний выбранных элементов в выбранные интервалы

времени и впоследствии ее анализировать, т.е. определять статистического

рода информацию. Каждый объект решает эту задачу по-своему и может быть

выбран в зависимости от рода необходимой информации о работе сети.

Отметим здесь на наш взгляд очень полезную классификацию объектов на

инструменты и материалы [СтатьяИнстрМатериалы]. Материалами называются

объекты, являющиеся своего рода контейнерами информации и содержащие методы

только для накопления и несложных преобразований этой информации.

Инструментами называются объекты, предназначенные для обработки материалов,

т.е. для более интеллектуальных и сложных преобразований той информации,

которую хранят объекты - материалы. Таким образом, с точки зрения этой

классификации, мы считаем нейронные сети (блоки) материалами, а

конструкторы и анализаторы – инструментами. Следует не путать эти

инструменты-объекты с инструментами–приложениями, являющимися надстройками

над ядром.

В реализации программы мы существенно использовали идеи объектных шаблонов

из [Gamma]. Далее, в описании реализации системы мы будем использовать

русскоязычные аналоги терминов, введенных в [Gamma], поэтому, чтобы не

возникло путаницы, отметим, что Фабрика соответствует Factory, объектные

шаблоны – design patterns, Синглетон – Singleton, Chain of Responsibility –

Цепочка Обработчиков. Названия классов объектов будут выделены курсивом и

начинаться с заглавной буквы. Отметим, что идея шаблонов в программировании

и computer science оказалась весьма плодотворной и слово «шаблон» здесь мы

используем в трех различных смыслах: объектный шаблон (design pattern),

просто шаблон (в смысле определения 1.x.5) и C++ - шаблон (template).

Мы опишем только реализацию ядра системы. Следование принципам открытости

предполагает закладывание возможности развития системы через добавление

надстроек над ядром (рис. 5.2). Мы, по возможности, старались следовать

данному принципу. В частности, одним из направлений развития мы видим

создание конструкторов библиотек шаблонов (а, следовательно, и сетей) с

помощью ГИП. Предполагается, что выходным продуктом этих конструкторов

будут файлы спецификации шаблонов, с которыми уже умеет работать ядро, из

которых и будут формироваться библиотеки шаблонов. Далее, можно было бы

создать трехмерный визуализатор БЗ (об этом далее), также мы считаем,

понадобится отдельный инструмент для конструирования самих БЗ, а, возможно,

при определенном уровне сложности блоков УС, и для каждого из них по

отдельному инструменту, которые бы учитывали в полной мере специфику блоков

УС.

[pic]

Рис. 5.2.

5.3. Конструкторы сетей. Библиотеки шаблонов.

Как уже было отмечено, конструкторы сетей ядра СПИНС предназначены для

создания внутреннего представления сети в памяти компьютера по различным

источникам. Здесь будет рассмотрен только один - конструктор по файлу-

спецификации сети, но мы не исключаем возможности создания конструкторов,

использующих другие источники.

Конструктор по сути своей является фабрикой объектов класса ЭлементСети.

Идея фабрики состоит в следующем. Поскольку конструирование сети состоит в

порождении огромного числа разнородных объектов ЭлементСети, то необходим

объект для регулировки процесса порождения и смерти этих объектов, или

фабрика элементов сети. То есть на Фабрику также возложены функции сборщика

мусора. Регулировка или управление процессом порождения состоит в

следующем. Мы имеем много разных потомков класса ЭлементаСети, например,

Нейрон, который, в свою очередь имеет несколько подклассов, соотвествующих

каждой из разновидностей формальных моделей, а также другие элементы сети

Блок, Источник, имеющий также несколько своих подклассов и т.д.

Предположим, мы модифицировали или создали новую версию класса A из

перечисленных классов - [pic]. Тогда в каждом месте исходного текста мы

должны заменить оператор порождения A на оператор порождения [pic]. Более

гибкой является следующая схема. Фабрика1 умеет, или точнее выражаясь,

имеет методы для порождения объектов классов А, B, C и т.д. При сообщении о

порождении, например, объекта типа А, она порождает на самом деле объект

потомка А: [pic], а Фабрика2 порождает в данном случае [pic]. Таким

образом, заменой только фабрик мы можем менять классы порождаемых объектов.

Отметим, что фабрика на языке C++ естественным образом реализуется через

С++ - шаблон (template) и параметризуется типом порождаемых объектов.

Ссылка на ФабрикуЭлементовСети, умеющую порождать каждый из конечных

Страницы: 1, 2, 3, 4