Proceedings of ISP RAS


Предисловие.

А.А. Жданов.

Abstract

В наше время искусственные нейронные сети (ИНС) вызывают большой интерес у специалистов разных направлений. Тех, кто не знаком с ними, интригует само название «нейронные сети», в котором слышится намек на искусственные интеллектуальные системы. Биологи ищут в ИНС аналогии со свойствами живой нервной системы, но, как правило, остаются разочарованными. Тех, кто связан с распознаванием образов, ИНС привлекают возможностью построения системы распознавания, минуя трудоемкие этапы построения математической модели этой системы и ее оптимизации. Специалисты, занимающиеся собственно ИНС, всегда озабочены поиском выхода из проблем, которыми современные нейронные сети обладают в избытке.

Настоящий сборник содержит статьи, отражающие некоторые результаты работы Отдела имитационных систем ИСП РАН в области нейросетевых технологий. В основном, исследования отдела ведутся в русле развития нового направления, инициированного сотрудниками отдела, и связанного с построением новой концепции адаптивного управления (метод «автономного адаптивного управления» (ААУ)). Нейроноподобная реализация систем ААУ опирается на специально для этого разработанные модели нейронов и нейросетей. Чтобы читателю было легче понять, зачем авторам понадобилось разрабатывать новые модели нейронных сетей, и чем не устраивают уже имеющиеся ИНС, коротко напомним и прокомментируем основные положения ИНС, а затем укажем на те их недостатки, которые авторы и пытаются исправить.

Искусственные нейронные сети, как направление кибернетики, появилось в 40-х годах ХХ века в результате попыток понять и смоделировать функции, строение и принцип действия биологических нервных систем, мозга, интеллекта. За задачу взялись с разных сторон, и вскоре были выявлены, соответственно, разные аспекты изучаемого объекта. Возник очень широкий спектр постановок задач и различных направлений исследований. Это было «время разбрасывать камни» - время, когда идеи и гипотезы рождались бурно, они были плохо сформулированы, решений не было, или они были фрагментарны и плохо формализованы. Однако, похоже, что приверженцы разных направлений вскоре совсем перестали понимать друг друга, чему способствовало появление сложных и различных формализованных описаний задач и полученных решений. Возникли такие направления, как распознавание образов, нейронные сети, системы, работающие со знанями, принятие решений, машинный перевод, робототехника, машинные игры. Кроме того, каждое направление разделилось на поднаправления, стремительно удалявшиеся друг от друга. Например, распознавание образов разделилось на поднаправления, занимавшиеся разработкой систем распознавания вероятностных, детерминированных, логических, структурных и других.

В те же годы начало развиваться и направление ИНС, поставившее себе целью моделирование процессов, происходящих в нервной клетке-нейроне и в нервной ткани – сети, образованной из нейронов. Нейрон, как устройство, конвергирующее входные воздействия – нервные импульсы, производящее результат тоже в виде нервных импульсов, и дивергирующего его по другим нейронам, стал предметом изучения, как нейрофизиологов, так и кибернетиков. Последние строили различные модели нейрона, не дожидаясь того момента, когда нейрофизиологи предоставят исчерпывающее описание функциональности нервной клетки. И такое нетерпение оказалось оправданным, поскольку долгожданного описания биологической нервной клетки не существует и поныне. Тому имеется две причины. Первая из них связана с миниатюрностью биологического нейрона. У этого «черного ящика» физически трудно измерить и запротоколировать входные и выходные сигналы. Еще более трудно разобраться в структуре нервной сети в нервной системе и мозге, в которых количество нейронов и связей между ними измеряется астрономическими числами. Вторая причина, на наш взгляд, состоит в том, что функция нейрона достаточно сложна, для того, чтобы в ней можно было разобраться вне системного подхода, т.е. без понимания логики работы всей нервной системы. Нейрофизиологи, в принципе, могут не знать, какие из многочисленных свойств нейрона являются ключевыми, на что именно следует обращать внимание для того, чтобы построить его адекватную модель. Каков критерий правильность модели нейрона? Ответа на эти вопросы сейчас нет. Очевидно, что модель нейрона должна обеспечивать правильную работу модели нервной системы, мозга. Но этой модели сегодня нет. Отсутствует понимание функций мозга даже в самом общем виде, как это ни странно звучит. Уверенно называются только некоторые из задач, которые решает нервная система (например, распознавание образов, принятие решений), но комплексное понимание ее работы в целом отсутствует. Даже такие очевидные, как теперь кажется, понятия, как обратная связь, необходимая для управления, были введены в модель нервной системы совсем недавно (Н.Винер, П.К.Анохин). Существуют разные варианты концепций работы мозга, но до консенсуса среди специалистов еще далеко и в наше время.

В условиях 40-х гг., когда биологических данных было мало, адекватные модели нейрона предложить было еще труднее. Тем не менее, в 1943 г. одна из моделей нейрона, а именно, модель, предложенная Маккалоком и Питтсом [П1], впоследствии названная формальным нейроном, оказалась сравнительно удачной в следующих отношениях. Модель была логической, что приближало ее к свойствам логических элементов вычислительной техники, т.е. делало ее легко вычислимой. Модель была сравнительно простой. Впоследствии эта модель нейрона претерпела еще большее упрощение и теперь она представляет собой взвешенный сумматор входных сигналов, выходной сигнал которого определяется так называемой активационной функцией, значение которой зависит от указанной суммы. Активационная функция может иметь, например, экспоненциальный вид, либо представлять собой пороговую функцию с двумя значениями 0 и 1. Если n входов нейрона с пороговой функцией понимать как n измерений в признаковом пространстве, то присвоенные этим входам веса определяют в признаковом пространстве гиперплоскость, делящую ее на два подпространства, для одного из которых выходной сигнал нейрона будет равен 1, а для другого 0. Эту гиперплоскость можно интерпретировать как решающую границу элементарной системы распознавания, в которую превращается формальный нейрон, способной распознавать два класса (образа) объектов, представляемых возможными значениями входных векторов. Теперь проблема состоит в том, чтобы подобрать такие значения весов для входов нейронов, которые позволили бы распознавать необходимые образы, представленные в обучающей выборке. Если для заданного множества источников входных сигналов (датчиков) создать однослойный персептрон, т.е. линейку нейронов, на каждый из которых подаются сигналы от всех датчиков, но с различными весами, то получим систему распознавания, способную распознавать классы, разделяемые в признаковом пространстве гиперплоскостями всех нейронов. Если мы хотим получить классы, представленные в признаковом пространстве ограниченными выпуклыми областями, то следует использовать 2-слойный персептрон, где нейроны 2-го слоя будут осуществлять логическую композицию открытых областей. А если класс должен быть представлен ограниченной невыпуклой областью, то необходим 3-слойный персептрон, где нейроны 3-го слоя будут конструировать невыпуклую область из нескольких выпуклых.

Были разработаны различные алгоритмы обучения ИНС для автоматического подбора весов нейронов всех слоев многослойного персептрона. Эти алгоритмы могут быть детерминированными, а могут быть стохастическими. Большинство из этих алгоритмов обучения реализуют принцип обучения с учителем. Алгоритм пользуется обучающей выборкой, т.е. заранее известно, какие значения должны иметь выходы ИНС при предъявлении ей того или иного объекта из обучающей выборки. Алгоритм должен иметь возможность наблюдать все фактические выходы ИНС, знать желаемые (целевые) выходы для данного примера обучающей выборки и сравнивать их друг с другом. По результатам сравнения алгоритм корректрует веса всех нейронов ИНС. Настройка ИНС проводится для каждого примера из обучающей выборки и до тех пор, пока ИНС не начнет распознавать все эти примеры с требуемой точностью. Только после этого ИНС считается готовой к использованию для распознавания реальных предъявляемых объектов. Настроенная, обученная ИНС способна распознавать предъявляемые ей новые объекты, относя их к одному из классов, распознаванию которых ее удалось обучить. Проблемы ИНС состоят в том, что алгоритмы обучения весьма трудоемки, и нельзя уверенно утверждать, что при обучении ИНС в конкретном случае будет достигнут успех, например, в приемлемое время (проблемы обучаемости и представимости). Еще одна проблема связана с тем, что если возникнет необходимость дообучить ИНС еще для одного примера, то ее может постигнуть катастрофическое забывание – ИНС утратит ранее приобретенные навыки и обучение придется начинать сначала для новой расширенной обучающей выборки.

Однако в случае успеха, когда ИНС удалось обучить распознавать примеры из обучающей выборки, ее можно использовать для автоматического распознавания образов. Очевидно, что распознавание образов – это интеллектуальная задача. К задаче распознавания можно свести множество задач управления. Это такие случаи, когда заранее известно, что именно система управления должна делать в той или другой ситуации, и остается только одна проблема – правильно распознать текущую ситуацию (класс, образ, сцену). Например, в пропускной системе предприятия заранее известны сотрудники, которых следует пропускать на территорию предприятия, и проблема только в том, чтобы правильно распознавать этих людей.

Второе использование ИНС также восходит к распознаванию, это способность ИНС апроксимировать функции. При этом используются нейроны с гладкими активационными функциями, и ИНС можно обучить апроксимировать заданную функцию с заданной точностью. Здесь также стоит задача обучения ИНС, т.е. подбора оптимальных весов для входов нейронов.

Этими двумя основными способностями ИНС, позволяющими решать задачи распознавания и апроксимации без производства сложных аналитических расчетов, а лишь за счет обучения ИНС на примерах обучающей выборки, и обусловлен высокий интерес к практическому использованию ИНС. ИНС нашли широкое применение в разных технических системах. Математики и инженеры, стараясь получить максимум пользы из этих способностей ИНС, развили математический аппарат таких ИНС, доказали способности ИНС к обучению и сходимости, изобрели множество различных активационных функций, множество типовых схем соединения нейронов в сети (послойные, полносвязные, прореженные, модульные, с обратными связями и без них), а также множество алгоритмов обучения ИНС. Заметно ощущается то, что в нынешнем своем варианте ИНС приближаются к пределу своих возможностей. При этом, многие специалисты по ИНС давно забыли про биологический прототип своего направления – биологические нейроны и нервные системы. Это отразилось в следующем:
a) ИНС в их современном виде мало похожи на биологические нервные системы, на что постоянно указывают нейрофизиологи;
b) ИНС решают не те задачи, которые решают биологические нервные системы, мозг, а лишь частные искусственные случаи этих задач;
c) формальные нейроны в ИНС работают не так, как биологические нейроны, и выполняют иные функции;
d) ИНС достигли своих упомянутых выше ограничений и необходим существенный поворот в их развитии.

В настоящее время в нейроинформатике все заметнее проявляется смещение акцентов от поиска более эффективных алгоритмов обучения традиционных ИНС к более углубленному изучению свойств биологических нервных систем и нейронов, и к попыткам воспроизведения этих свойств в искусственных нейронных системах. Какие же свойства современных ИНС вызывают неудовлетворение? Вот основные из них в порядке от микро- к макроописанию.
1. В биологическом нейроне большую роль играют временные задержки, например, синаптические. Время в системе управления, на наш взгляд, играет принципиально важную роль, так как оно задает причинно-следственную последовательность событий. В формальных нейронах временные задержки не учитываются.
2. Биологический нейрон, по-видимому, может рассматриваться как самообучаемая система распознавания. Во всяком случае, механизм, определяющий рост синапсов, связан, скорее, с локальными условиями в самом синапсе и в его ближайшем окружении (например, это химический механизм). Маловероятно, чтобы размерами синапсов управляла бы некая система (учитель), наблюдающая выходы всех миллиардов нейронов и знающая «целевой вектор», как это осуществляется в ИНС.
3. Важная информация в выходном сигнале нейрона содержится в частоте генерируемой им последовательности импульсов (спайков). Формальные нейроны не учитывают этого механизма.
4.По нашему убеждению, нейрон является самообучаемой системой автоматической классификации входных пространственно-временных сигналов, способной решать три задачи: обнаружить неслучайные пространственно-временные комбинации входных сигналов (образы), если таковые имеются, запомнить их, и распознавать эти комбинации в дальнейшем даже в условиях неполного входного вектора, чем обеспечивается ассоциативность и прогнозирование, необходимые для управления. Современные формальные нейроны представляют собой только обучаемые с учителем системы распознавания.
5. Нервная система и мозг имеют сложную неоднородную структуру с ярко выраженными подсистемами, имеющими различное функциональное назначение. Напротив, современные ИНС отличаются однородностью и регулярной структурой, в них не выделяются части, имеющие разное функциональное назначение.
6. Биологическая нервная система и мозг решают, по нашему убеждению, прежде всего задачу автономного адаптивного управления. Такая задача требует согласованного решения целого комплекса определенных подзадач, к числу которых относятся задачи: автоматической классификации, накопления знаний, вывода новых знаний, принятия решений и других. Задача распознавания образов с предварительным обучением с учителем, к которой, по существу, только и способны ИНС в их традиционном варианте, является только одной из подзадач, решаемых биологической нервной системой. Вместе с тем, мы убеждены, что определение и понимание задачи, решаемой нервной системой и мозгом, как целым, системным образом отразится на понимании функций отдельного нейрона.

Вот этот список недостатков ИНС и пытаются преодолеть авторы настоящего сборника.

Так, статья д.ф.-м.н. Б.В. Крыжановского и академика А.Л. Микаэляна (Институт оптико-нейронных технологий РАН) «Биологический алгоритм распознавания сильно скоррелированных образов» посвящена указанной выше проблеме создания моделей нейронов, передающих информацию посредством частоты следования выходных импульсов. Именно, авторами проведен анализ распознающей способности нейросети, способной хранить и обрабатывать информацию, закодированную в виде частотно-фазовой модуляции. Информативные сигналы в рассматриваемой сети передаются по межнейронным связям в виде квазимонохроматических импульсов на n разных частотах. За основу такой сети принят "параметрический" нейрон – обладающий кубической нелинейностью элемент, способный к преобразованию и генерации частот в процессах параметрического четырехволнового смешения. Показано, что с ростом числа несущих частот помехозащищенность рассматриваемой ассоциативной памяти резко возрастает. Одновременно резко возрастает и объем нейросетевой памяти, которая в n2 раз больше аналогичной величины в стандартной сети Хопфилда. Число образов, которые способна сохранять такая нейросеть, может во много раз превышать число нейронов.

Так, статья д.ф.-м.н. Б.В. Крыжановского и академика А.Л. Микаэляна (Институт оптико-нейронных технологий РАН) «Биологический алгоритм распознавания сильно скоррелированных образов» посвящена указанной выше проблеме создания моделей нейронов, передающих информацию посредством частоты следования выходных импульсов. Именно, авторами проведен анализ распознающей способности нейросети, способной хранить и обрабатывать информацию, закодированную в виде частотно-фазовой модуляции. Информативные сигналы в рассматриваемой сети передаются по межнейронным связям в виде квазимонохроматических импульсов на n разных частотах. За основу такой сети принят "параметрический" нейрон – обладающий кубической нелинейностью элемент, способный к преобразованию и генерации частот в процессах параметрического четырехволнового смешения. Показано, что с ростом числа несущих частот помехозащищенность рассматриваемой ассоциативной памяти резко возрастает. Одновременно резко возрастает и объем нейросетевой памяти, которая в n2 раз больше аналогичной величины в стандартной сети Хопфилда. Число образов, которые способна сохранять такая нейросеть, может во много раз превышать число нейронов.

Так, статья д.ф.-м.н. Б.В. Крыжановского и академика А.Л. Микаэляна (Институт оптико-нейронных технологий РАН) «Биологический алгоритм распознавания сильно скоррелированных образов» посвящена указанной выше проблеме создания моделей нейронов, передающих информацию посредством частоты следования выходных импульсов. Именно, авторами проведен анализ распознающей способности нейросети, способной хранить и обрабатывать информацию, закодированную в виде частотно-фазовой модуляции. Информативные сигналы в рассматриваемой сети передаются по межнейронным связям в виде квазимонохроматических импульсов на n разных частотах. За основу такой сети принят "параметрический" нейрон – обладающий кубической нелинейностью элемент, способный к преобразованию и генерации частот в процессах параметрического четырехволнового смешения. Показано, что с ростом числа несущих частот помехозащищенность рассматриваемой ассоциативной памяти резко возрастает. Одновременно резко возрастает и объем нейросетевой памяти, которая в n2 раз больше аналогичной величины в стандартной сети Хопфилда. Число образов, которые способна сохранять такая нейросеть, может во много раз превышать число нейронов.

Так, статья д.ф.-м.н. Б.В. Крыжановского и академика А.Л. Микаэляна (Институт оптико-нейронных технологий РАН) «Биологический алгоритм распознавания сильно скоррелированных образов» посвящена указанной выше проблеме создания моделей нейронов, передающих информацию посредством частоты следования выходных импульсов. Именно, авторами проведен анализ распознающей способности нейросети, способной хранить и обрабатывать информацию, закодированную в виде частотно-фазовой модуляции. Информативные сигналы в рассматриваемой сети передаются по межнейронным связям в виде квазимонохроматических импульсов на n разных частотах. За основу такой сети принят "параметрический" нейрон – обладающий кубической нелинейностью элемент, способный к преобразованию и генерации частот в процессах параметрического четырехволнового смешения. Показано, что с ростом числа несущих частот помехозащищенность рассматриваемой ассоциативной памяти резко возрастает. Одновременно резко возрастает и объем нейросетевой памяти, которая в n2 раз больше аналогичной величины в стандартной сети Хопфилда. Число образов, которые способна сохранять такая нейросеть, может во много раз превышать число нейронов.

Последующие статьи сборника тесно связаны с разрабатываемым в ИСП РАН методом «автономного адаптивного управления» (ААУ) [П1], его нейроноподобной реализацией, его проблемами и практическими приложениями. Перед сборником не ставилась цель дать полное изложение метода ААУ, но чтобы читателю было легче понимать постановки задач, коротко представим метод ААУ здесь. Метод родился из попыток логически и рационально вывести способ действия нервных систем, отталкиваясь от тех условий, в которых они находятся в природе: наличие априори неизвестных свойств окружающей среды наряду с определенной полученной от предков начальной приспособленностью объекта управления и управляющей системы, автономность - необходимость к самообучению, дискретность строения нервной системы,. Мы сочли интересным представить в сборнике статью А.А Жданова., Г.Я. Кантора и А.Б. Эфрона «Логический адаптивный управляющий автомат с конечным числом входов», написанную по материалам задепонированной в 1984 году работы [А.А. Жданов, Г.Я. Кантоp, А.Б. Эфpон, И.Г. Hовикова «Построение гомеостазисного автомата с конечным количеством входных переменных», ВИHИТИ "Депониpованые научные работы", 1984, N2, стp.108, 336. 17 стp.]. Статья интересна не только тем, что это первая публикация по методу ААУ, но и тем, что она до сих пор остается своего рода планом работы по данному направлению. Некоторые из тогда еще только выведенных положений, впоследствии были более удобно формализованы и получили свою реализацию в программных моделях и прикладных программах, в которых подтвердили свою правильность. А некоторые положения еще до сих пор не реализованы и находятся в работе. Наиболее важные моменты этой статьи описывают идеи алгоритмов, осуществляющих «познание» управляющей системой свойств окружающей ее среды, т.е. получение эмпирических знаний. Эти алгоритмы берут свое начало в философской теории познания – гносеологии.

Позже в работах над методом ААУ определились такие понятия, как вынужденные целевые функции управления - выживание и накопление новых знаний. Определился состав и структура подсистем управляющей системы, решающих задачи: формирования и распознавания образов, накопления знаний, вывод новых знаний, моделирование эмоций, принятие решений. Попытки дать микроописание системы ААУ привели к представлениям о необходимой функции нейрона, как базового элемента для нейросетевой коннекционистской реализации управляющей системы. Разработанные нами модели нейронов описаны в [П2, П3]. Обладающий высокой универсальностью метод ААУ позволяет строить адаптивные системы управления для самых разных объектов, некоторые из которых представлены в [П4-П7]. Метод ААУ имеет свои проблемы, решению которых и посвящены следующие статьи сборника.

Статья М.В. Караваева (ИСП РАН) «Применение нечеткой логики в имитационной системе автономного адаптивного управления» посвящена проблеме построения комбинированных систем управления на основе метода ААУ и других альтернативных хорошо разработанных и известных методов. В данном случае рассматриваются возможности объединения метода ААУ и нечеткой логики. Известно, что системы нечеткой логики родились в результате попытки программно формализовать знания человека-эксперта по управлению объектами, с последующей реализацией этого алгоритма управления на компьютере. Основой нечетких систем управления является запись опыта человека-эксперта в виде так называемых нечетких функций принадлежности. Например, указывается, какие значения угла и насколько именно эксперт связывает с понятием «сильный крен вправо», при распознавании которого он начнет выполнять соответствующий маневр. Нечеткие системы управления состоят в том, что нечеткие правила записываются в память системы управления заранее, а затем, в процессе управления они только используются управляющей системой. Автоматического построения или коррекции таких правил непосредственно в процессе управления в типичных нечетких системах не предусматривается. Тем самым, нечеткие системы не являются системами адаптивного управления в том смысле, который мы используем в системах ААУ. В данной работе М.В. Караваев показывает, как можно объединить технологии ААУ и нечеткую логику, чтобы в адаптивной системе управления автоматически формировать и корректировать базу знаний, представленную с помощью нечетких правил.

Тему применения нечеткой логики для построения систем управления продолжает статья В.Б.Новосельцева и Е.А.Романчук из Томского государственного университета «О манипулировании знаниями с использованием нечетких множеств». В работе предлагается удобный формализм для описания нечетких систем и модификация машины логического вывода, что позволяет использовать нечеткую логику при реализации "семантически-ориентированных" комплексов манипулирования знаниями.

Статья C. А. Бондаренко, А. А. Жданова (ИСП РАН) и Б.М. Магомедова (ИОНТ РАН) «Принятие решений в автономных адаптивных системах управления, основанное на выявлении закономерных последовательностей действий» представляет результаты первых попыток решения в системе ААУ задачи автоматического обнаружения моделей поведения, описанной в статье А.А Жданова., Г.Я. Кантора и А.Б. Эфрона. Успешное решение этой задачи открывает путь для реализации 2-го и 3-го механизмов принятия решений.

Как было сказано выше, обычно современные ИНС имеют некоторую тривиальную регулярную схему, например, каждый нейрон посылает свой выходной сигнал всем нейронам последующего слоя. Такое правило построения сети очень удобно, поскольку является простым. В принципе, оно органично соответствует существу традиционных распознающих ИНС, поскольку в них роль каждого нейрона состоит в делении признакового пространства на две полуплоскости. Это является промежуточной операцией в системе распознавания перед тем, как область, соответствующая распознаваемому образу, будет окончательно сформирована из таких полуплоскостей только в нейронах выходного слоя ИНС. Однако, такая топология не соответствует наблюдаемым свойствам биологической нервной системы. Это связано, по нашему предположению, с тем, что в нервной системе каждый нейрон соответствует отдельному образу (или его некоторой разновидности). В этом случае сеть становится семантической, где каждый нейрон и межнейронная связь имеют содержательный смысл, отражающий реальные взаимоотношения объектов в реальной среде, а такая сеть не может быть тривиально регулярной уже потому, что в реальной природе не может быть все соединено со всем или соединено в некотором тривиальном порядке. Однако и в традиционных ИНС полносвязность (даже межслойная) нейронов в некоторых случаях является излишней и исследователи ищут пути ухода от нее.

Метод ААУ, в отличие от ИНС, опирается на то, что каждый нейрон соответствует одному образу, а сеть нейронов имеет содержательную семантику. Поэтому в системе ААУ нейроны могут быть соединены нетривиальным и нерегулярным способом, например, нейрон может получать на входы сигналы от нейронов, принадлежащих различным предыдущим уровням. Но в этом случае возникает непростая задача определения необходимой и оптимальной топологии нейросети для системы ААУ. При построении прикладных систем ААУ топология нейросетей определялась, исходя из априорной информации об объекте управления. Однако было бы крайне желательно иметь обоснованный автоматический или автоматизированный способ определения структуры нейросетей для прикладных систем ААУ. Исследования некоторых авторов настоящего сборника посвящены поиску способов автоматизированного построения нейросетей для систем ААУ. Но, прежде всего, мы считаем целесообразным привести обзорную статью д.ф.-м.н. В.Г. Редько (ИОНТ РАН) «Анализ геометрического метода формирования модульной структуры нейронных сетей», рассказывающую об одном из существующих подходов к решению такого рода задачи, именно – «геометрическому методу», который оказывается достаточно универсальным и может быть применен к широкому классу нейросетевых систем управления.

Статья Л.В. Земских, Е.К. Самарова, А.А. Жданова и В. Бабковой «Применение генетических алгоритмов для оптимизации адаптивной системы управления мобильного робота на параллельном вычислительном комплексе» содержит изложение некоторых найденных авторами решений задачи автоматического определения структуры нейросетей для системы ААУ. Здесь авторами также применен бионический подход, согласно которому, состав и структура нервной сети живого организма каждого биологического вида сформировалась в результате длительного естественного отбора на множестве поколений его предков. Программной реализацией такого естесственного отбора является известный метод «генетических алгоритмов», воспроизводящий все основные черты данного принципа оптимизации – кодирование признаков в генах, отбор наиболее удачных особей, взятие от них генетического материала для построения потомков, скрещивание и мутирование генов, генерация нового поколения и т.д. Нам представляется, что генетичсекие алгоритмы являются наиболее перспективным подходом для построения оптимальных (или субоптимальных) нейросетевых систем управления, работающих по методу ААУ.

Помимо этого, данная статья представляет результаты решения и еще одной важной задачи, связанной с распаралеливанием вычислений в управляющей системе ААУ. Очевидно, что одно из важнейших отличий нервной системы, как машины для обработки информации, от современного компьютера состоит в том, что компьютер реализует фон- неймановский принцип последовательного выполнения команд программы, в то время как нервная система представляет собой сеть нейронов, работающих параллельно. Данное обстоятельство наделило нервную систему возможностями, многие из которых еще недоступны современным вычислительным машинам. В частности, несмотря на то, что отдельный нейрон работает не так уж и быстро, а скорость проводимости нервных импульсов по нервным волокнам не так уж и велика, мозг с огромной скоростью решает сложнейшие задачи распознавания, принятия решений и другие. Сегодня существуют технологии, позволяющие тем или иным способом организовывать параллельные вычисления. Конечно, достичь такой степени распараллеливания, которая имеет место в биологических нервных системах, удастся еще не скоро, поскольку отдельный нейрон слишком мал, а количество их слишком велико для того, чтобы работу каждого нейрона реализовывать отдельным процессором. Однако уже сегодня можно предложить разные способы реализации систем ААУ на параллельных вычислительных системах, что и сделано в статье Л.В. Земских, Е.К. Самарова, А.А. Жданова, В.В. Бабковой (ИСП РАН).

Модели нейронов и нейросетей в системе ААУ имеют мало общего с традиционными ИНС, как это следует, например, из сделанного выше описания системы ААУ. Однако авторы сборника постоянно предпринимают попытки найти способы объединения технологии ААУ и ИНС. В случае успеха это позволило бы взаимно обогатить обе технологии, заинтересовать и привлечь к исследованиям новых специалистов. Несмотря на то, что основные подходы в ИНС требуют предварительного обучения сети, что противоречит идее адаптивного управления, а также на то, что ИНС обладают проблемой катастрофического забывания, проявляющегося при попытке частичного переобучения или дообучения сети, было бы очень полезно найти способы обхода этих проблем. Основные посылки к поиску удачного решения состоят, по нашему мнению, в том, что а) некоторые виды ИНС, например, сети, построенные на основе теории адаптивного резонанса, все же способны к самообучаемости, т.е. имеют свойство адаптивности, и б) основные подсистемы системы ААУ можно, по-видимому, построить на основе самообучаемых систем распознавания. К данному направлению исследований относится статья А. В. Сыцко (ИСП РАН) «Система управления автономным мобильным роботом на основе адаптивного резонанса», которая представляет первые удачные попытки построения системы ААУ с использованием традиционных ИНС.

Еще одним направлением, в котором авторы сборника ищут пути объединения метода ААУ с пограничными технологиями, является использование в системах ААУ теории детерминированного хаоса. Интерес к этому направлению вызван тем, что детерминированные хаотические системы, на наш взгляд, обладают одним весьма важным и удобным для адаптивного управления свойством, а именно - способностью в компактном и взаимосвязанном виде, имеющем, к тому же, свойства аттрактора, представлять очень длинные стринги данных, и распознавать их по предъявлению только небольшого фрагмента данных, причем не обязательно точных, а лишь попадающих в поле притяжения аттрактора. Идея применения детерминированного хаоса в системах ААУ связана с тем, что в виде аттрактора запоминаются определенные по смыслу протяженные фрагменты история эволюции объекта управления. Таким фрагментом может быть закономерная последовательность событий, вынужденно следующая при определенных условиях за тем или иным решением, предпринятым управляющей системой ААУ. Способность распознать такой фрагмент при предъявлении только его начальных шагов (условия) и планируемого действия вызывает в системе прогноз будущих событий (следствия), на основании которого и можно строить процедуру принятия решений. Текущие результаты наших исследований в этом направлении представлены в статье А.Е. Устюжанина «Совмещение подходов адаптивного управления и детерминированного хаоса для построения эффективных автономных управляющих систем».

Статья Д.Б. Липкевича и А.А. Жданова «AdCAS - система автономного адаптивного управления активной подвеской автомобиля» представляет один из результатов практического приложения метода ААУ. Прототип адаптивной системы управления активной подвеской автомобиля разработан в ИСП в ходе выполнения проекта AdCAS с компанией ATS Soft [П8]. Эта прикладная система управления построена с соблюдением всех специфических моментов, определяемых методом ААУ. Она демонстрирует способность адаптироваться в реальном времени управления к текущим свойствам управляемого ею автомобиля, и способствовать повышению устойчивости и управляемости автомобиля, подтверждая то, что метод ААУ является многоцелевым и многокритериальным. Обсуждение этого результата со специалистами показало, что аналогичного результата по управлению подвеской трудно добиться на основе других методов управления. Именно, нейросети и нечеткие системы требуют предварительного их обучения. Экспертная система не применима в условиях данного требуемого высокого быстродействия и необходимости автомаического переучивания. Управление на основе математических моделей объекта управления затруднительно в силу чрезмерной сложности построения модели автомобиля с учетом всех его осциллирующих и нелинейных элементов и изменчивости свойств в процессе движения. Статья представляет и принцип управления системы AdCAS и результаты компьютерных ее испытаний.

Другое приложение метода ААУ представлено в статье А. Антипова «Применение метода ААУ к прогнозированию временных рядов». Многие практические задачи управления связаны с анализом и прогнозированием временных рядов данных. Одной из такого рода задач является анализ рынка ценных бумаг, на основании результатов решения которого принимаются те или иные действия или стратегии управления. Задача анализа временных рядов данных существенно усложняется, если объект, который характеризуется наблюдательными данными, непредсказуемо изменяет свои свойства. В этом случае решение могут дать адаптивные методы управления. Одна из главных трудностей здесь состоит в наличии очень большого числа степеней свободы, которые могут оставаться в системе даже после учета всей имеющейся априорной информации. Такого рода проблема связана, например, с определением рабочего словаря признаков, связанного с составом и рабочими характеристиками используемых датчиков. В статье показано, как можно автоматически настраивать признаковое пространство для системы ААУ с помощью метода конечных автоматов, основанных на работах Цетлина, Неймарка и Рапопорта.

В некоторых статьях сборника в качестве примера объекта упрвления использована программная модель мобильного робота. Этот объект был выбран из-за его наглядности и возможности перехода в будущем к реальной физической модели. Данная компьютерная модель робота, которую авторы назвали «Гном №8», оказалась очень удачным объектом для отработки системы ААУ и вариантов построения ее подсистем. Мы надеемся, что работы, посвященные этому роботу, составят следующий сборник.

Хотим также выразить

Edition

Proceedings of the Institute for System Programming, vol. 7 (in Russian), 2004, Стр. 5-16.

ISSN 2220-6426 (Online), ISSN 2079-8156 (Print).

Full text of the paper in pdf (in Russian) Back to the contents of the volume