Теория информации и информационные технологии

(Открытые системы, #07-08/2001)

Геля Рузайкин

Поводом, побудившим меня написать эту статью, стала недавняя смерть Клода Элвуда Шеннона. Причиной же стало желание взглянуть на нынешнее состояние информационных технологий с позиций того времени, когда только складывалась теория информации.

Исторический контекст добавляет поучительности подобному разговору. Особое значение исторического аспекта состоит, прежде всего, в том, что рядовым пользователям (да и не только им) трудно понять, что хорошо, а что не очень, в современных информационных технологиях. В условиях невероятных объемов информации, с которыми им приходится иметь дело , они зачастую вынуждены жить по принципу весьма слабой причинной зависимости: «Будь, что будет».

История и еще раз история

Ушедший век случившейся революции и едва ли не самых разрушительных войн в истории человечества вызвал всплеск интереса к построению различного рода организационных структур и к серьезному изучению соответствующего опыта. Примеров предостаточно: образование тоталитарных государств, план индустриализации, Манхэттенский проект... С другой стороны, наука и техника совершили столь значимые шаги в своем развитии, что позволили человеку серьезным образом изменить представления об окружающем его мире и о собственном месте в нем. Успехи ученых привели к появлению кибернетики, которая в свою очередь инициировала серьезные перемены в мировоззрении и понудила философов уделить значительное внимание таким новым для них категориям, как информация, управление, и уточнить понимание старых — связи и системы. Достижения в физике, химии и радиотехнике привели к созданию технологий для производства не только элементной базы, но и самих устройств, которые использовались не только в небольших сервосистемах, но и в масштабных информационных системах.

Благодаря эффективному использованию математики, как платформы для развития информационных технологий, были разработаны научные теории, давшие достаточные средства для создания самых разнообразных систем обработки информации. Практически обязательным в названии таких теорий стал эпитет «математическая», что означало не только наличие в них количественных методов, но и глубокую спецификацию изучаемых объектов, а также использование аксиоматического подхода для получения результатов, удовлетворяющих требованиям полноты и непротиворечивости. Благодаря кибернетике и не только в мировоззрении, но и в практике установились прочные научные связи между такими понятиями, как устройство, связь, система, управление и информация. Последнее из этих понятий сыграло ключевую роль в формировании кибернетики как науки.

Напрасны попытки отыскать четкое указание на дату рождения кибернетики (хотя не скрою, они увлекательны: сколько затуплено перьев на этой стезе). Дело в том, что облик этой науки (как, в прочем, и любой другой) собирательный, и ее здание как и положено строили представители разных профессий. Математики Норберт Винер, А.Н. Колмогоров и А.Я. Хинчин развивали теорию вероятностей, Джон фон Нейман — квантовую механику, А.А. Ляпунов — дескриптивную теорию множеств, а инженер с очень хорошей математической подготовкой Клод Шеннон конструировал дифференциальные анализаторы и релейные устройства для систем связи. Все они принимали участие во вселенской гонке ученых и инженеров. «Призы» этой гонки были более чем достойные: шифровальная машина Enigma, система управления артиллерийским зенитным огнем ПУАЗО, электронная цифровая вычислительная машина (ЭЦВМ), атомная бомба, мощные системы радиосвязи и множество других.

Гиганты, на плечах которых...

Винер, Колмогоров и Хинчин внесли важный вклад в понимание вероятностной природы шумовых процессов, а также в изучение других случайных процессов, имеющих широкий круг приложений. По существу, это и предопределило то, что учет роли случая в рассматриваемых в кибернетике явлениях позволил решать практические задачи. Книга Винера «Кибернетика», давшая имя соответствующей науке, обратила внимание читателей на то, что в общем смысле целесообразно рассматривать следующие кирпичи мироздания — элементы, устройства, системы, связи, управление и информацию. Первые три «кирпича» образуют произвольную структуру, четвертый характеризует ее целостность, пятый — выполняемые функции, а шестой — смысловое назначение. В целом эти кирпичи сформировали стройное здание системы. Вышедшая в 1947 году книга оставалась подлинным хитом на протяжении трех десятилетий, лишь постепенно уступив место учебникам, работам толкователей и подлинных продолжателей. Очень важным результатом последействия книги явилось становление модельного мышления в науке и инженерных дисциплинах. Отныне при рассмотрении любой системы необходимо было описывать не только ее состав, но и множество состояний, в которых она может находиться, что позволяло с приемлемой адекватностью во многих случаях иметь дело лишь с ее математической или физической моделью. Это открыло путь к созданию математической теории автоматов, которая и по нынешний день успешно развивается в самых различных применениях — от криптографии до программирования. Несомненно, основным результатом выхода в свет этой книги стало понимание роли управления в системе, гораздо более разнообразного, чем простая обратная связь. Оказалось, что управление определяет целесообразность поведения системы. И это, разумеется, зависит от обрабатываемой в системе информации.

Широкий интерес к проблемам управления различными процессами заставил Винера в двух последующих книгах высказаться по важнейшим проблемам: как скажутся попытки управлять всем и вся на отношениях в обществе, и не получит ли человечество в результате тотальной автоматизации мифического Голема. И, разумеется, Винер не обошел вопрос о возможности создания искусственного разума. Мне посчастливилось слушать его лекцию в московском Политехническом музее, на которой он рассказал о представлении процессов в человеческом мозге на основе волновых процессов и о трудностях их моделирования с помощью компьютера.

Другой знаковой фигурой начального этапа создания теории информации, но еще не информационных технологий, был Клод Шеннон. Его интересы лежали в области разработки систем связи и различных используемых в них устройств (в частности, коммутаторов), а также в области теории управляющих систем — автоматов, релейных и переключательных схем. Особый интерес в 50-е годы вызвали его работы «Математическая теория связи» и «Теория связи в секретных системах», положившие начало теории информации и криптографии в ее современном понимании. Именно с этих работ установилось наиболее общее понимание системы связи, с помощью которой можно не только передавать и принимать сообщения в условиях помех в канале связи, но и сделать их закрытыми от несанкционированного доступа.

Кстати, в истории теории информации обе работы отнесены к «математическим». Вторая потому, что в ее основу лег датированный 1 сентября 1945 года доклад «Математическая криптография». Шеннон в этих работах ввел понятия, описывающие произвольные системы связи. Среди них наиболее важны понятия схемы связи, в том числе и секретной, и ее компонентов (источники информации и шума, сообщения, сигналы каналы и др.) вместе с их характеристиками (пропускная способность, энтропия, как мера неопределенности источника сообщений, количество информации в сообщении, надежность шифрования и др.).

Предложенный Шенноном подход к анализу систем связи стимулировал в дальнейшем их интенсивное развитие и стал стандартным при исследовании и разработке вычислительных сетей и сетей связи, а полученное им необходимое и достаточное условие оптимальной передачи сообщений по каналу связи вошло в учебники.

В исследованиях по теории управляющих систем Шеннон получил ряд замечательных результатов по анализу и синтезу релейных и переключательных схем и параллельно-последовательных сетей, и в том числе построению надежных релейных схем из ненадежных реле. Интерес к таким задачам возник еще при создании первых вычислительных машин. Начало исследованиям в этом направлении было положено работой фон Неймана «Вероятностная логика и синтез надежных организмов из ненадежных компонентов», где он показал, что с помощью элементов, реализующих специальную логическую функцию «Штрих Шеффера», при этом каждый элемент функционирует ненадежно, тем не менее, можно построить любую логическую функцию, которая будет надежной. Шеннон же в статье «Надежные схемы из ненадежных реле» не только разработал более эффективную систему в смысле числа требуемых элементов при условии надежности всей схемы, но и открыл перспективное направление исследований асимптотической оценки сложности подобных схем. Окончательную точку в этих исследованиях поставил московский математик О.Б. Лупанов, член-корреспондент РАН.

Едва ли не самым захватывающим при создании основ теории информации было изучение того, что же такое информация. Разумеется, и в работах Шеннона, и в книге Винера давались толкования понятию «информация», однако потребовались дополнительные усилия Хинчина, чтобы количественные характеристики информации — энтропия и количество информации — обрели статус математических понятий. К середине 50-х гг. наиболее общее определение количества информации в вероятностном смысле было дано в работах Колмогорова и его учеников, который в дальнейшем развил и другой подход, так называемую алгоритмическую теорию информации, в котором под энтропией понималась сложность объекта, равная сложности алгоритма, описывающего объект. Уместно заметить, что теоретико-информационный подход оказался полезным в ряде математических дисциплин, и наоборот, исследование специальных вероятностных процессов, в частности, отечественными учеными, позволили развить математическую теорию информации до современного уровня и серьезно расширить круг приложений.

Наряду с анализом отдельных компонентов информационных систем уже в середине 50-х появились работы, исследовавшие их взаимодействие по каналам связи. Одним из таких шагов стала книга Хинчина «Математические методы теории массового обслуживания».

Разговор о начальном, теоретическом этапе развития информационных технологий не был бы полным, по крайней мере, без краткого обсуждения того, как складывалось развитие самих вычислительных машин. Разумеется, на первых порах создатели компьютеров предлагали главным образом оригинальные проекты. И потребовался выдающийся ум фон Неймана, чтобы сформулировать общую концепцию вычислительной машины, которая используется и по настоящее время. Эта же концепция определила принципы управления вычислительной машиной с помощью программы (разумеется, в дальнейшем вспомнили и об Аде Лавлейс). С начала 50-х годов программирование становится самостоятельным разделом науки. Правда, будучи в то время студентом, я часто слышал мнение, что программирование — всего лишь раздел математики. Действительно, первые виды обработки информации на компьютерах были связаны с вычислениями, и программировали их в основном математики. Им же принадлежали первые шаги в теории программирования. Вот некоторые из тех, кто успешно работал в 50-е годы: А.А. Ляпунов, А.П. Ершов, А.С. Кронрод, М.Р. Шура-Бура, С.С. Лавров.

Подход к программе, как объекту математической теории, позволил в рамках отечественных школ программирования в Москве и Новосибирске провести исследования по представлению программ в виде логических схем и алгебраических объектов, понять, как можно представить автоматизацию программирования, что такое транслятор, библиотека стандартных программ, каким должно быть методо-ориентированное программное обеспечение.

Золотой век программирования, конец которого совпал с наступлением времени Microsoft, был связан не только с разработкой систем программирования, прежде всего языков, но в значительной мере с пониманием программ, как текстов, что позволило серьезно продвинуться в осознании их связи с алгоритмами, с логическими отношениями в информации и предопределило успехи в технологиях обработки информации. Интерес к упомянутым направлениям исследований вызвал подлинный издательский бум, во всем мире в 60-е и 70-е годы появилось множество журналов, среди них новосибирский «Логика и алгоритмы». Исследователи, математики и программисты, начиная с 70-х годов, обратили внимание на подходы к описаниям семантики информации, что привело к многочисленным попыткам интеллектуализации обработки информации, обнадежив создателей различных экспертных систем.

Среди важных практических итогов развития кибернетики в эти годы стало создание информационных систем, в которых наряду с развитыми возможностями функций хранения информации присутствовали и поисковые подсистемы, позволявшие получать ответы на запросы на языках, приемлемо близких естественным. В первую очередь это были библиотечные и медицинские информационные системы.

Создатели вычислительных машин добились несомненных успехов. Самым же важным из них стало формирование индустрии производства компьютеров, которая превратилась в отрасль промышленности, удовлетворявшую исключительно корпоративные потребности. За последнюю четверть века были опробованы подходы к производству компьютеров, при которых все семейство оборудования формировалось в рамках единой производственной программы. При этом оно разрабатывалось и комплектовалось либо одним производителем (IBM), либо разными (замечательная кабинетная машина Nord с центральным устройством и операционной системой норвежской компании, дополненными периферией и памятью производителей других стран). Так определилась специализация в отрасли и ее ускоренное развитие.

Расширение информационных технологий вместе с тем в значительной степени связано с созданием компьютерных сетей и сетей связи, которое по времени также совпало с последней четвертью минувшего века. С одной стороны, практические потребности вызывали интерес к развитию существующих сетей связи, к интеграции различных видов связи и повышению ее надежности, а с другой, наращивание функциональных возможностей компьютерных сетей приводило к идеологическому синтезу компьютера и сети, прежде всего, с целью эффективизациеи управления и повышения их функциональных возможностей. Характерным был переход от государственного использования сетей со специфической технологической поддержкой к коммерческому, на базе общедоступных информационных технологий.

Summing up

Насыщенное успехами кибернетики и технологий время второй половины века у многих вызывало с самого начала состояние эйфории. Казалось: «И это возможно, и это по плечу». От искусственного разума — до жизненной позиции: «Человек, отдыхай!» И, видя это, корифеи кибернетики предупреждали, что следует быть более объективными в оценках не только уже достигнутого, но и прогнозов будущего. Еще в начале 50-х в небольшой статье Bandwagon Шеннон описал это состояние дел посредством привычного для Америки образа победителя местных выборов, разъезжающего по городу в повозке с музыкантами и демонстрирующего всем, что он выиграл. Призывая к спокойствию и деловитости, он писал: «Здание нашего несколько искусственно созданного благополучия слишком легко может рухнуть, как только в один прекрасный день окажется, что при помощи нескольких магических слов, таких, как «информация», «энтропия», «избыточность»..., нельзя решить всех нерешенных проблем».

Среди других «лекарств от эйфории» можно отметить еще две работы — «Математика и психология» Г. Биркгофа и «Автоматы и жизнь» Колмогорова. Автор первой из них обращает внимание на необходимость критического отношения к использованию математических методов и вычислительных машин при обработке психологической информации, увязывая это, прежде всего, с трудностями поиска адекватных реальным явлениям математических и физических моделей.

В своей работе Колмогоров обратил внимание на необходимость постоянной заботы о том, что при использовании новых понятий для объяснения явлений в других предметных областях необходима, как правило, проверка непротиворечивости. Поэтому, например, перенесение в биологию и медицину понятий и аппарата кибернетики потребовало не только серьезных усилий, но и дало значительные результаты.

Итак, почти полувековое развитие кибернетики и теории информации привело к формированию информационных технологий, которые сегодня доминируют не только среди всех высоких технологий, но и оказывают серьезное влияние на общественные и экономические отношения в мире.

Вглядываясь в будущее

Не занимаясь футурологией, попытаемся обратить внимание на те явления в современных информационных технологиях, которые важны в контексте их развития. Первое, что необходимо иметь в виду: изменился состав концептуальных понятий. Теперь любая система непременно связана с производством и бизнесом, которые выступают факторами, влияющими на выбор ее элементов и компонентов, допустимые состояния, функциональность и управление. Отказ от модельного представления системы через ее состояния и переход к представлению через бизнес-процессы, общепринятый ныне, чреват неадекватностью, так как она приводит лишь к ее суперпозиции (т.е. приближенному представлению) и нуждается в доказательстве качества такого приближения. В подобных случаях отсутствие корректной математической модели системы не позволяет решать задачи по ее оптимизации; приходится ограничиваться анализом нескольких вариантов ее поведения и выбором лучшего лишь из них. Поэтому и возникают серьезные проблемы у заказчиков при отборе подходящего продукта для внедрения у себя информационной системы. Сложилось парадоксальное положение, когда в условиях высоких технологий предлагается управлять производством на основе лишь учетных систем, явно недостаточно поддерживающих механизмы планирования не только производства, но и других видов деятельности на предприятии. Заметим, что это имеет место в условиях, когда соответствующие методы математического моделирования уже разработаны для широкого круга экономических, финансовых, транспортных и других систем на предыдущем этапе развития информационных технологий в рамках многих автоматизированных систем управления.

Отношение к модельным представлениям систем как к необязательным привело к застою в развитии аналитических функций в информационных системах различного назначения. У большинства ИТ-специалистов атрофировано модельное мышление. Весьма общее убеждение, что без этого можно обойтись, привлекая для решения задач управления менеджеров различного уровня, опровергается без особого труда. Чем выше потребная скорость обработки информации, тем выше издержки и задержки при принятии решений для подобной организации управления. Следовательно, неизбежна автоматизация поддержки принятия решений и снижение издержек.

Распространение цифровых технологий стало причиной снижения внимания к информационной надежности, которая зависит от наличия в ней искажений в результате различного рода помех в большом числе каналов связи, характерных для современных информационных систем. Разумеется, цифровые технологии снизили влияние аппаратных шумов, но не доказано, что в произвольной системе ее надежность можно измерять лишь структурной надежностью, зависящей от оборудования. С этим связана и курьезная сторона, когда вероятностную характеристику ныне измеряют не в долях единицы, а в процентах. И это не пустяк, а отражение утраты навыков работы со случайными событиями с первых шагов развития теории информации, а затем и теории систем, считавшимися обязательными.

Используемая в Internet «статистика», с точки зрения теории и практики математической статистики таковой не является, следовательно, рекомендации, даваемые на основе данных, собираемых на различных площадках в Сети, не позволяют строить убедительных тенденций, так как к ним не применимы статистические и сколько-нибудь содержательные количественные методы. Игнорирование вероятностной идеологии, несомненно, оказывает отрицательное влияние на системы электронной торговли, которые изначально являются системами массового обслуживания.

Разумеется, взгляд автора охватил незначительную часть перспективы развития информационных технологий, выделив в основном те аспекты, где виден недоучет успехов теории информации и теории систем.

Источник: Открытые системы