Богатство идей или сила математических методов
Синергетика имеет вполне сложившийся и определенный математический инструментарий (см. статьи Ю.А. Данилова [22] и Ю.А. Данилова и Б.Б.Кадомцева [23] на этой странице): качественные методы анализа нелинейных дифференциальных уравнений, методы исследования диссипативных структур, автоволновых процессов, теория странных аттракторов, теория фракталей и т.п. Сила математических методов синергетики во многом обусловлена их непосредственной связью с хорошо разработанными методами математической физики.
В этом отношении эволюционной кибернетике "не повезло": биологические знания довольно далеки от физики, и математические приемы нужно изобретать заново. Конечно, и здесь возможно применение отдельных математических моделей, разработанных в физике. Например, в эволюционном моделировании [24] и в теории нейронных сетей [25] используется физическая модель спиновых стекол [26] (описывающая систему большого числа случайно попарно взаимодействующих между собой элементов - спинов). Однако такое использование (конечно, весьма полезное) не определяющее, а скорее эпизодическое.
Потенциал эволюционной кибернетики составляет огромный накопленный биологами экспериментальный материал. Для осмысления этого материала полезна общая культура научного мышления, накопленная физиками. Как говорил Р.Фейнман "Нужны светлые головы, умеющие осмысливать эксперимент". Определенная сложность заключается в том, что точки зрения биологов часто сильно различаются. Например, автор, беседуя с биологами одной кафедры, в двух соседних комнатах сталкивался с совершенно разными подходами (причем, каждый из подходов вполне разумно обосновывался). Мышление биологов зачастую образное, художественное. Тем не менее, многие биологи ощущают необходимость использования математических, кибернетических моделей в осмыслении экспериментального материала.
Каков же задел эволюционной кибернетики? От чего целесообразно отталкиваться, куда двигаться дальше?
Во-первых, имеются определенные обобщающие концепции эволюции кибернетических свойств, разрабатываемые как биологами [15, 27-30], так и биофизиками [31] и кибернетиками [8], [32].
Во-вторых, известен ряд интересных кибернетических моделей (некоторые из них уже были отмечены выше, раздел 2). В нашей стране такие модели активно разрабатывались в 60-70-х годах. В качестве примеров можно привести: 1) математические модели автоматов М.Л.Цетлина, способных адекватно приспосабливаться к простым изменениям внешней среды [33] , 2) компьютерную модель "Животное", демонстрирующую адаптивное поведение кибернетического объекта с несколькими потребностями в искусственной (плоскость, разбитая на клетки) среде, разработанную под руководством талантливого кибернетика М.М.Бонгарда [34]. Популярный обзор кибернетических моделей 50-70-х годов содержится в [32].
К заделу можно отнести также интенсивные исследования последних лет по теории нейронных сетей. Однако, насколько известно автору, нейросетевые модели еще практически не использовались для интерпретации наиболее интересных, "интеллектуальных" свойств.
Где же можно ожидать наибольшую результативность биокибернетического моделирования? По-видимому, наиболее интересно было бы промоделировать процесс формирования новых знаний при адаптивном поведении животных. Сформулируем общие требования к достаточно универсальной модели поведения, формализуя общие особенности функциональной системы по П.К.Анохину [27]. Для определенности будем считать, что рассматривается животное с развитой нервной системой, скажем, млекопитающее.
Модель поведения могла бы характеризовать следующие свойства системы управления поведением животных:
- целенаправленность, связанную с необходимостью удовлетворения потребностей животного;
- мотивацию, задающую предпосылки (например, обусловленные потребностями) для формирования цели;
- доминантность [15], обеспечивающую мобилизацию ресурсов животного на достижение приоритетной цели, в том числе мобилизацию интеллектуальных ресурсов (концентрацию внимания);
- распознавание ситуации;
- "планирование" действий;
- прогноз результата действия (с использованием "базы знаний", содержащейся в памяти животного);
- моделирование самого целенаправленного действия;
- оценку результата действия;
- сопоставление прогноза и результата;
- поиск нужного решения и корректировку базы знаний (в случае рассогласования прогноза и результата).
Максимально упрощая модель, перечисленные свойства нетрудно реализовать в виде компьютерной программы. Например, в программе "Животное" [32,34] можно выявить практически все перечисленные особенности данной модели. Однако очерченная модель поведения имеет большой потенциал для серьезного развития. Наметим вопросы, задающие направления развития:
1) Какова могла бы быть иерархия памяти в базе знаний? Естественно предположить существование постоянной (генетической, передаваемой по наследству) памяти (памяти инстинктов), долговременной памяти, в которую записывались бы надежно выработанные приобретенные навыки, и кратковременной памяти, в которую записывались бы промежуточные результаты, формируемые в процессе выработки приобретаемых навыков. Каковы приоритеты использования того или иного вида памяти? В каком виде могут записываться данные в память? Как производится сжатие информации при записи в память?
2) Какова детальная структура данных в базе знаний, как в нее включаются категории, понятия и отдельные образы? Можно ли ее рассматривать, как семантическую сеть, включающую образы объектов, объединенные в сеть смысловыми связями (аналогичную семантическим сетям в разработках искусственного интеллекта [36])? Можно ли ввести "синтаксис", характеризующий структуру базы данных?
3) Каковы программы поведения, основанные на базе знаний? Как они формируются в процессе обучения? Какова степень параллелизма обработки информационных данных в процессе формирования программ [37]? Какова информационная роль инстинктов при организации программ целенаправленного поведения [38]?
4) Как видоизменяется целенаправленное поведение в процессе взросления животного? Какова роль любопытства, игр в процессе пополнения баз знаний? Какова роль родителей животного, передающих потомкам накопленный опыт поколений.
5) И самый нетривиальный, самый интересный вопрос: Какова "логика умозаключений", используемая животными при планировании, прогнозе, построении их собственных "моделей" ситуаций, коррекции и пополнении базы знаний? Каковы особенности этой "логики умозаключений" (степень нечеткости, параллелизма, степень эмоциональной окраски)? До какой степени "логику умозаключений" животных можно сопоставить с человеческой логикой (повседневной и научной)? Каковы эволюционные корни "логики умозаключений" животных и человеческой логики?
Одного моделирования явно недостаточно для охвата всей многогранности эволюции биокибернетических систем. Поэтому целесообразно именно сочетание 1) построения базовых математических моделей (интерпретирующих наиболее яркие кибернетические свойства) с 2) развитием общих концепций эволюционной кибернетики. При моделировании, по-видимому, основное внимание следует уделять четкости, идейной содержательности модели; роль специального математического инструментария здесь (в отличие от синергетики), скорее всего, должна быть второстепенной.
Как вырастить Нобелевского лауреата?
В какой области современной науки можно ожидать наибольшего прогресса? Где может быть наибольший вклад в научное миропонимание в ближайшие годы? В каком направлении молодому человеку, стремящемуся внести наиболее значимый вклад в науку, искать применение своим способностям, своему интеллекту? В какой области фундаментальных исследований целесообразно "выращивание" научных кадров?
Наиболее фундаментальная из естественных наук - физика, претендующая на описание основ научной картины мира и обладающая мощным математическим инструментарием. Однако последние принципиальные результаты (разработка квантовой механики, открытие основных элементарных частиц), дающие радикальный вклад в научное мировоззрение, в научную культуру человеческого сообщества, были сделаны в 20-30-х годах. В принципиальном, идейном смысле физика пришла к определенному насыщению, хотя, конечно, нельзя отрицать важность сравнительно недавних работ по "единой теории поля" (Ш.Глэшоу, С.Вайнберг, А.Салам).
Во второй половине 20-го века в основном развивались частные физические науки (например, физика твердого тела), либо "стыковочные" науки на периферии физики, такие как космология (и ее трактовка с точки зрения физики высоких энергий) и биофизика. Фактически на периферии физики возникла и синергетика.
Отсутствие серьезного идейного прогресса в физике заставляет искать нестандартные направления, могущие внести принципиально новый вклад в научное миропонимание. И, как аргументировано выше, одним из таких направлений может быть эволюционная кибернетика. По мнению автора, сейчас состояние дел в области исследования эволюции биологических информационных систем в чем-то напоминает ситуацию в физике в первой половине XVII века, когда, благодаря глубоким исследованиям Г. Галилея и Р. Декарта, работы по созданию физических теорий были уже начаты, однако еще не было Ньютоновских четких и ясных теоретических обобщений, давших толчок дальнейшему развитию точных наук на несколько столетий вперед.
"Ключевое слово - эволюция"
Слово "эволюция" - одно из наиболее часто встречающихся на данной Web-странице. Например, в статье Э.Ласло [1] предполагается использовать понятие эволюции в качестве основного для трансдисциплинарной унификации наук.
Однако в обсуждаемых на данной странице синергетических исследованиях остается где-то на периферии рассмотрения чрезвычайно интересная и актуальная область эволюционных исследований - анализ эволюции биологических информационных систем и обеспечиваемых этими системами кибернетических свойств биологических организмов. Автор настоящей статьи уже кратко охарактеризовал эту область исследований в предыдущей публикации на данной странице [2]. Однако, отсутствие какого-либо публичного отклика на ряд выступлений [2-6] заставляет еще раз попытаться привлечь внимание к своей позиции.
В статье Г.Г.Малинецкого [7] обсуждаются возможные пути будущего развития междисциплинарных исследований, в частности, отмечаются предложенные В.И.Аршиновым концепции Синергетика-2 (метод задавания глубоких вопросов, в прямую не связанных с конкретикой нелинейной науки) и Синергетика-3 (подход к синтезу двух культур, естественнонаучной и гуманитарной, который идет не от простого к самому сложному, к человеку, а в обратном направлении, от человека). Там же отмечается парадигма нейронауки, как центр притяжения будущих междисциплинарных исследований. Обсуждается еще ряд интересных направлений, которые могли бы быть положены в основу развития "постсинергетики". Однако, наряду с определенной озабоченностью о перспективах развития синергетических исследований, в [7] , по крупному, не предложено конструктивного пути построения постсинергетики.
По-видимому, наиболее яркий пример самоорганизации - биологическая эволюция, в процессе которой возникли высокоорганизованные организмы, включая человека. Высокая степень организованности обеспечивается биокибернетическими системами управления, биологическими системами обработки информации. Можно ли поставить исследования, направленные на анализ процессов возникновения и развития этих систем обработки информации? Как сделать наиболее эффективно? Может ли эта область исследований (эволюционная кибернетика) стать ядром "постсинергетики"? Какова степень междисциплинарности эволюционной кибернетики? Почему в нашей стране здесь никто по серьезному не работает? Каковы заделы эволюционной кибернетики? Каков может быть математический аппарат исследований эволюционной кибернетики? Каковы могут быть практические применения результатов этих исследований? Спектру этих вопросов посвящена настоящая статья.
Конверсия прикладной науки
До сих пор в нашей стране прикладная наука была ориентирована в основном на военные задачи. По мнению автора, необходима конверсия прикладной науки. И одна из наиболее актуальных задач, которая могла бы быть поставлена перед учеными - разработка общих принципов управления сложными системами, в частности, научных принципов управления государством. Такие разработки могли бы включать анализ широкого спектра проблем: от исследований принципов управления в биологических прототипах (молекулярно-генетических систем управления в живых клетках, нейронных систем управления поведением животных, принципов управления в биологических сообществах) до анализа гуманных принципов управления всем человеческим сообществом в контексте будущего развития человечества. И эволюционный подход к таким исследованиям - один из наиболее естественных [8, 43].
Междисциплинарность: стык точных, описательных, технических и гуманитарных наук
При эффективном развитии эволюционная кибернетика (ЭК) могла бы иметь ярко выраженный междисциплинарный характер. Отметим ее потенциальные междисциплинарные связи.
Психология, исследования высшей нервной деятельности, исследования молекулярно-генетических биокибернетических систем - естественная эмпирическая основа ЭК.
ЭК могла бы высветить неожиданные аспекты теории эволюции. Например, с помощью моделирования можно было бы выделить классы задач управления, для которых выгодна Дарвиновская либо Ламарковская концепция эволюции (немного подробнее об этом сказано в [4]).
Нейросетевые методы могли бы использоваться при разработке конкретных моделей ЭК. Например, ассоциативная нейроподобная память [39] могла бы использоваться в качестве блоков кратковременной и долговременной памяти в очерченной выше модели целенаправленного поведения.
В разделе 5 уже была отмечена связь ЭК с исследованиями природы математического знания [16-18]. По-видимому, возможно также детальное сопоставление способов "логики умозаключений" животных с правилами теорий логических выводов, как дедуктивных [20], так и индуктивных [40].
ЭК могла бы иметь глубокие связи с теорией познания. Далеко не претендуя на полноту рассмотрения, отметим некоторые гносеологические концепции, которые могли бы сопоставлены с исследованиями ЭК.
Д.Юм подверг критическому анализу понятие "причинность" [41]. Он рассуждал примерно следующим образом: каким образом на основе опыта мы можем сделать вывод о том, что одно событие А есть причина второго события В? В опыте мы можем только видеть, что событие А по времени предшествует событию В, причем многократные наблюдения показывают, что, если произошло А, то обязательно последует В. Что же заставляет нас на основе таких наблюдений заключать, что А есть причина В? Д.Юм отвечает: если мы внимательно рассмотрим вопрос, то мы не обнаружим в процессе установления такого заключения никакого другого основания, кроме привычки или навыка к тому, что за А последует В.
Грубо говоря, по Д. Юму одно из фундаментальных научных понятий "причинность" сводится к тривиальному (без использования глубокого разума) привыканию к наблюдаемым фактам. И скептицизм Д.Юма не мог остаться без возражений. Ответом стала "Критика чистого разума" И.Канта [42]. Как научно образованный человек, И.Кант не мог допустить подрыва научных устоев и предпринял серьезный анализ применяемых в познании категорий (таких как причинность) и методов их использования во всей системе научных знаний. Эти категории, так же как и логические методы вывода новых знаний, И.Кант рассматривал как априорно данные формы мышления, разума отдельного взрослого человека. Ответа на вопрос, как и почему априорные формы разума, априорная логика могли появиться в нашем сознании, у И.Канта не было. Пытаясь ответить на этот вопрос, мы снова приходим к необходимости осмысления процесса возникновения этих форм, процесса эволюционного происхождения человеческого мышления.
Вопрос, поставленный Д.Юмом, может служить стимулом для детального анализа природы понятий "причинность", "следует за" и т.п., существующих у животных разного эволюционного уровня. Фактически понятие "причинности" в трактовке Д.Юма существует у животных, способных к выработке условного рефлекса, так как здесь после многократного сочетания условного (события А) и безусловного (события В) стимулов в долговременной памяти животного формируется связь: А --> В. Причем, скорее всего, свойство формировать такие связи (т.е. чувство "причинности") - врожденное (в терминологии И.Канта - априорное), т.е. обусловленное естественным отбором. Можно даже попытаться задать вопрос о материальном (нейросетевом) субстрате чувства "причинности".
Кибернетика, теория систем пересекаются с ЭК. Эволюционный контекст кибернетики и теории систем ярко отражен в Principia Cybernetica Project, который издают в Интернете В.Ф.Турчин, Ф.Хейлигхен, К.Йослин [43].
Естественно ожидать, что результаты исследований ЭК будут восприняты и использованы в разнообразных приложениях информатики, технической кибернетики, робототехники, искусственного интеллекта.
ЭК вполне может рассматриваться как развитие синергетики, как область исследований наиболее сложных процессов самоорганизации.
На пути к теории происхождения логики
Наиболее интересная область эволюционной кибернетики - исследование процесса развития "интеллектуальных изобретений" биологической эволюции (безусловных рефлексов, привыкания, условных рефлексов, цепей условных рефлексов и т.д. [15]), в результате которых возникла человеческая логика, обеспечивающая научное познание природы. По мнению автора, в результате таких исследований должна быть построена теория происхождения логики, которая могла бы способствовать прояснению глубокой гносеологической проблемы - почему человеческая логика применима к познанию природы? Подходы к построению теории происхождения логики намечены в [2,3-6].
В особенности указанная гносеологическая проблема касается применимости математического знания в естественных науках. В этом контексте проблема обсуждалась рядом ученых. Например, М.Клайн в книге "Математика. Поиск истины", посвященной исследованию природы математического знания, задает вопрос: "Почему теоремы, доказанные человеческим разумом в тиши кабинетов, должны быть применимы к реальному миру...?" [16]. Проблема природы математического знания и удивительной эффективности математики в естественных науках обсуждалась такими известными учеными как А.Пуанкаре и Ю. Вигнер [17,18].
Исследование происхождения логики соответствует определенным тенденциям развития математического знания. Действительно, после открытия И.Ньютоном и Г.Лейбницем дифференциального и интегрального исчисления математики XVII и XVIII веков занимались содержательным развитием и применением этого мощного и плодотворного исчисления, не особенно беспокоясь об его обоснованности. Типичным примером такой позиции служит знаменитое изречение Ж.Даламбера: "Идите вперед, и уверенность придет" (цит. по [19]). Но в XIX веке математики устремились к достижению абсолютной строгости. Благодаря работам О.Коши, Б.Больцано, К. Вейерштрасса и других приверженцев строгих доказательств, дифференциальное и интегральное исчисление получает мощное обоснование; в результате был разработан классический математический анализ, сочетающий красоту математической строгости с эффективностью и содержательностью результатов.
Затем математики обратились к дальнейшему обоснованию математического знания, в том числе к анализу самого инструмента математических исследований - к построению теорий математической логики [20,21]. Т.е. сами математические исследования стали предметом изучения новой дисциплины - теории доказательств или метаматематики [21]. Название метаматематика подчеркивает, что в теории доказательств происходит выход на мета-уровень относительно объекта исследования - собственно математической теории. Наиболее естественным продолжением исследований в рамках рассматриваемой тенденции мог бы быть дальнейший переход к более глубокому естественнонаучному обоснованию логики путем исследования причин ее происхождения. Подчеркивая, что при этом происходит дальнейший переход на следующий мета-уровень относительно математической логики, теорию происхождения логики можно было бы назвать метаметаматематикой. Т. е., указанная тенденция такова:
математика --> метаматематика --> метаметаматематика.
Предмет исследования, методологические подходы
Предмет эволюционной кибернетики достаточно понятен - анализ эволюции информационных систем и обеспечиваемых этими системами кибернетических свойств. В первую очередь - это исследования естественных (биологических) кибернетических систем: от молекулярно-генетических систем управления простейших клеток до высокоорганизованных нейронных систем, до интеллекта человека. Анализ искусственных информационных систем менее интересен, во-первых, потому что известно, как такие системы эволюционировали, во-вторых, биологические кибернетические системы содержательно значительно богаче искусственных. Хотя, конечно, очень интересно сопоставление естественных и искусственных кибернетических систем.
Можно надеяться, что в процессе исследования процесса эволюционного происхождения интеллекта получат определенное прояснение глубокие философские вопросы: Как и почему возникла способность человека познавать внешний мир? Почему человеческая логика, человеческое мышление применимы к познанию природы, в частности, почему они применимы в научном познании? Т.е., указанные исследования могут привести к определенному обоснованию всего научного познания.
Рассмотрим кратко методы, которые могут быть применены в исследованиях эволюционной кибернетики.
Первый подход - систематизация, разработка общих концепций, качественный анализ эволюции кибернетических систем.
Яркий пример, иллюстрирующий этот подход, - книга В.Ф.Турчина "The Phenomenon of Science" [8]. Книга была написана в нашей стране примерно в 1970 г., однако из-за политической деятельности ее автора была издана только в США в 1977 г. В.Ф.Турчин рассматривает биологическую эволюцию с кибернетической точки зрения, а эволюцию научного познания - как продолжение биокибернетической эволюции. В книге последовательно проанализированы ступени биологической эволюции, а также этапы возникновения и развития математического знания. Книга написана исключительно четко, с хорошо обоснованной внутренней логикой. В качестве кибернетической основы исследования В.Ф.Турчин использует предложенную им "теорию метасистемных переходов".
Кратко и очень упрощенно суть теории метасистемных переходов сводится к следующему: переход от нижних уровней системной иерархии к верхним происходит путем метасистемных переходов. Каждый метасистемный переход можно рассматривать как объединение ряда подсистем Si нижнего уровня и появление дополнительного механизма управления C объединенными подсистемами. В результате метасистемного перехода формируется система S' нового уровня (S' = C + Si Si), которая может быть включена как подсистема в следующий метасистемный переход. Примеры метасистемных переходов:
управление положением = движение
управление движением = раздражимость (простой рефлекс)
управление раздражимостью = (сложный) рефлекс
управление рефлексами = ассоциации (условный рефлекс)
управление ассоциациями = человеческое мышление
управление человеческим мышлением = культура
В.Ф.Турчин рассматривает метасистемный переход как некий кибернетический аналог фазового перехода. Он уделяет особое внимание количественному накоплению "потенциала развития" в подсистемах Si перед метасистемным переходом на качественно новый уровень иерархии, а также процессу размножения и развития подсистем предпоследнего уровня иерархии после метасистемного перехода.
Второй подход - построение математических моделей конкретных биокибернетических систем в эволюционном контексте. Приведем несколько примеров таких моделей.
Пример 1 - модели М.Эйгена, П.Шустера, В.А.Ратнера, В.В.Шамина, Р.Файстеля [9-12], иллюстрирующие этапы самоорганизации макромолекулярных систем в процессе происхождения жизни. Эти модели - формальное описание гипотетических этапов возникновения макромолекулярных самовоспроизводящихся структур, предшественников простейших клеток.
Пример 2 - модель адаптивного сайзера, иллюстрирующая возникновение простейшей системы управления на уровне макромолекулярных самовоспроизводящихся систем [13].
Пример 3 - автоматы С.Кауффмана [14], представляющие собой системы случайно соединенных между собой логических элементов (с фиксированной степенью связности между элементами).Модели автоматов С.Кауффмана иллюстрируют функционирование молекулярно-генетических систем управления живых клеток на разных стадиях биологической эволюции.
Краткое описание отмеченных моделей содержится в [2,4].
Естественно, первый (разработка концепций) и второй (математическое моделирование) подходы взаимно дополняют друг друга.
Программа исследований
В связи с актуальностью эволюционной кибернетики можно рекомендовать предпринять следующие шаги:
I. Организовать в РАН группу по исследованию эволюции кибернетических систем.
II. Начать исследования в соответствии со следующим (предварительным) планом работ:
1. Провести методологическую подготовку работ эволюционной кибернетики с учетом широкого междисциплинарного характера этого направления исследований.
2. Построить компьютерную модель целенаправленного поведения в соответствии с очерченной в разделе 4 схемой (с учетом современных биологических данных). В частности:
- "сконструировать" и исследовать поведение модели с учетом иерархической структуры памяти, синтаксиса и семантики "базы знаний", специфики формирования и функционирования "программ поведения";
- проанализировать варианты "логики умозаключений" в модели целенаправленного поведения.
3. На базе построенной модели попытаться проанализировать биологические корни "логики умозаключений" животных, а также соотношение этой логики умозаключений с теориями логического вывода в математической логике и системах искусственного интеллекта.
4. Проанализировать соотношение между концептуальным пониманием когнитивных процессов, происходящих при целенаправленном поведении животных, и гносеологическими теориями.
5. Проанализировать возможность использования моделей целенаправленного поведения в искусственных системах управления.
Синергетика Cинергетика или Эволюционная кибернетика?
Статья Г.Г.Малинецкого [7] заключается фразами: "Перед синергетикой как междисциплинарным подходом встали очень серьезные внутренние проблемы. И все же давайте попробуем <<быть!>>." Однако, ответа на вопрос, как именно <<быть>>, в каком конкретно направлении идти, в [7] практически нет.
Автор надеется, что один из путей, куда идти - по пути развития эволюционной кибернетики - в настоящей статье достаточно освещен.
Благодарности. Автор выражает глубокую признательность К.А.Никольской и А.В.Чернавскому, плодотворные беседы с которыми способствовали формированию некоторых из изложенных здесь идей.
Литература
1. Ласло Э. Основания трансдисциплинарной единой теории.
2. Редько В.Г. Эволюционная биокибернетика. Почему так медленно развивается актуальная наука?
3. Редько В.Г. Эта ли дорога ведет к биокомпьютеру? Поиск. 1993. N.29/30. С.11.
4. Редько В.Г. Эволюционный подход к исследованию естественных и созданию искусственных "биокомпьютеров" // Нейрокомпьютер. 1994. N.1,2. С. 38-49.
5. Red'ko V.G. Towards the evolutionary biocybernetics // Proceedings of The Second International Symposium on Neuroinformatics and Neurocomputers, Rostov-on-Don, 1995. P. 422-429.
6. Редько В.Г. Эволюционная биокибернетика // Вестник РАН. 1997. Т.67. N.9. С.800-803
7. Малинецкий Г.Г. Синергетика. Король умер. Да здравствует король! Интернет адрес: http://www.iph.ras.ru/~mifs/malin1r.htm.
8. Turchin V. F. The Phenomenon of Science. A cybernetic approach to human evolution. Columbia University Press, New York, 1977. Интернет адрес: http://pespmc1.vub.ac.be/POSBOOK.html.
9. Эйген М. Самоорганизация материи и эволюция биологических макромолекул. М.: Мир, 1973. 216 с.
10. Эйген М., Шустер П. Гиперцикл. Принципы самоорганизации макромолекул. М.: Мир, 1982. 270 с.
11. Ратнер В.А., Шамин В.В. Сайзеры: моделирование фундаментальных особенностей молекулярно-биологической организации. Соответствие общих свойств и конструктивных особенностей коллективов макромолекул // Журн.
общ. биологии. 1983. Т.44. N.1. С. 51-61.
12. Feistel R. On the evolution of biological macromolecules. Precelular organization. 4. Holobiotic competition // Studia biophysica. 1983. V.93. N.2. P. 113-128.
13. Редько В.Г. Адаптивный сайзер // Биофизика. 1990. Т.35. N.6. С. 1007-1011.
14. Кауффман С. Антихаос и приспособление // В мире науки. 1991. N.10. С. 58-65.
15. Воронин Л.Г. Эволюция высшей нервной деятельности. М.: Наука, 1977, 128 с.
16. Клайн М. Математика. Поиск истины. М.: Мир, 1988. 295 с.
17. Пуанкаре А. О науке. М.: Наука, 1990. 736 с.
18. Вигнер Ю. Непостижимая эффективность математики в естественных науках // Вигнер Ю. Этюды о симметрии. М.: Мир, 1971. С. 182-198.
19. Френкель А., Бар-Хиллел И. Основания теории множеств. М.: Мир, 1966. 556 с.
20. Генцен Г. Исследования логических выводов // Математическая теория логического вывода. М.: Наука, 1967. С. 9-76.
21. Клини С. Введение в метаматематику. М.: ИЛ. 1957. 526 c.
22. Данилов Ю.А. Роль и место синергетики в современной науке. Интернет адрес: http://www.iph.ras.ru/~mifs/dan2.htm.
23. Данилов Ю.А., Кадомцев Б.Б. Что такое синергетика? Интернет адрес: http://www.iph.ras.ru/~mifs/dan.htm.
24. Редько В.Г. Спиновые стекла и эволюция // Биофизика. 1990. Т.35. N.5. С.831-834.
25. Hopfield J.J. Neural networks and physical systems with emergent collective computational abilities // Proc. Natl. Acad. Sci. USA. 1982. V.79. N.8. P.2554-2558.
26. Sherrington D., Kirkpatrick S. Solvable model of spin-glass // Physical Review Letters. 1975. V.35. N.26. P.1792-1796. Kirkpatrick S., Sherrington D. Infinite range model of spin-glass // Physical Review B. 1978. V.17. N.11. P.4384-4403.
27. Анохин П.К. Системные механизмы высшей нервной деятельности. М.: Наука, 1979. 453 с.
28. Леонтьев А.Н. Проблемы развития психики. М.: Изд-во Московского университета, 1981. 584 с.
29. Крушинский Л.В. Биологические основы рассудочной деятельности: эволюционные и физиологическо-генетические аспекты. М.: Изд-во Московского университета, 1986. 270 с.
30. Чайлахян Л. М. Информационно-энергетическая концепция происхождения психики // Журн. высш. нерв. деят. 1996. Т.46. N.3. С. 617-633.
31. Корогодин В.И. Информация и феномен жизни. Пущино, 1991, 202 с.
32. Гаазе-Раппопорт М.Г., Поспелов Д.А. От амебы до робота: модели поведения. М.: Наука, 1987. 288 с.
33. Цетлин М.Л. Исследования по теории автоматов и моделирование биологических систем. М.: Наука, 1969. 316 с.
34. Моделирование обучения и поведения. М.: Наука, 1975.
35. Ухтомский А.А. Доминанта как фактор поведения // В кн.: Собр. соч. Л., 1950. Т.1. С.293-315.
36. Искусственный интеллект. - В 3-х кн. Кн.2. Модели и методы. Справочник / Под ред. Д.А.Поспелова. М.: Радио и связь, 1990. 304 с.
37. Воронин Л.Г., Никольская К.А. О структурной организации памяти // Нейрофизиологические основы памяти. 7-е гагрские беседы. Тбилиси: Мецниереба, 1979. С. 345-357.
38. Никольская К.А., Савоненко А.В., Осипов А.И., Ещенко О.В., Карась А.Я. Информационная роль инстинкта при организации целенаправленного поведения // Успехи совр. биологии. 1995. Т.115. N.4. С. 390-396.
39. Фролов А.А., Муравьев И.П. Нейронные модели ассоциативной памяти. М.: Наука, 1987. 160 с.
40. Финн В.К. О машинно ориентированной формализации правдоподобных рассуждений в стиле Ф. Бэкона - Д.С. Милля // Семиотика и информатика. 1983. М.: ВИНИТИ. Вып. 20. С. 35-101.
41. Юм Д. Исследование о человеческом познании. Соч. в 2-х томах. Т.2. М.: Мысль, 1966. С. 5-169.
42. Кант И. Критика чистого разума. Соч. в 6-ти томах. Т.3. М.: Мысль, 1964. С. 69-695. Кант И. Пролегомены ко всякой будущей метафизике, могущей появиться как наука. Соч. в 6-ти томах. Т.4, часть 1 . М.: Мысль, 1965. С. 67-210.
43. The Principia Cybernetica Project. Интернет адрес: http://pespmc1.vub.ac.be/.
