WWW.KNIGI.KONFLIB.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

 
<< HOME
Научная библиотека
CONTACTS

Pages:     || 2 | 3 | 4 | 5 |   ...   | 15 |

«В.А. Фурсов ЛЕКЦИИ ПО ТЕОРИИ ИНФОРМАЦИИ Под редакцией Н.А. Кузнецова Допущено учебно-методическим советом по прикладной математике и информатике УМО по классическому ...»

-- [ Страница 1 ] --

ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ

ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ

ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ

«САМАРСКИЙ ГОСУДАРСТВЕННЫЙ АЭРОКОСМИЧЕСКИЙ

УНИВЕРСИТЕТ имени академика С.П. КОРОЛЕВА»

В.А. Фурсов

ЛЕКЦИИ

ПО ТЕОРИИ ИНФОРМАЦИИ

Под редакцией Н.А. Кузнецова Допущено учебно-методическим советом по прикладной математике и информатике УМО по классическому университетскому образованию в качестве учебного пособия для студентов высших учебных заведений, обучающихся по специальности и направлению «Прикладная математика и информатика» и по направлению «Информационные технологии»

САМАРА

Издательство СГАУ УДК 519. ББК 32. Рецензенты: д-р ф.-м. наук. В.М. Чернов, д-р техн. наук О.В. Горячкин.

Фурсов В.А. Лекции по теории информации: Учеб. пособие под редакцией Н.А. Кузнецова – Самара: Изд-во Самар. гос. аэрокосм. ун-та, 2006. – 148 с.: ил.

ISBN 5-7883-0458-X В учебном пособии рассматриваются модели сигналов, основы теории информации и кодирования, а также некоторые вопросы приема и обработка информации. Книга составлена как сборник лекций, каждая из которых посвящена одной теме. Дается краткое конспективное изложение основных вопросов.

Лекции занимают промежуточное положение между справочниками и солидными изданиями и адресованы студентам, обучающимся по учебным планам бакалавров и специалистов.

Утверждено Редакционно-издательским советом Самарского государственного аэрокосмического университета в качестве учебного пособия.

УДК 519. ББК 32. В.А. Фурсов, ISBN 5-7883-0458-X Самарский государственный аэрокосмический университет,

ПРЕДИСЛОВИЕ

Идея подготовки настоящего пособия возникла в связи с переходом к подготовке прикладных математиков по двухступенчатой схеме. В учебных планах подготовки бакалавров по направлению 510200 предусматривается лекционный курс теории информации и кодирования объемом около 35 часов. В рамках указанного сравнительного небольшого объема необходимо было сохранить достаточно полную и глубокую подготовку, которая традиционно обеспечивалась учебным планом подготовки по специальности 010200.

В 1977 году в Куйбышевском авиационном институте (ныне Самарский государственный аэрокосмический университет) вышло в свет учебное пособие [11] (автор В.А. Сойфер). В нем рассматриваются вопросы теории информации и кодирования, которые составляют основу курса. Наряду с этим в учебные программы входят также разделы, посвященные рассмотрению моделей сигналов, а также вопросам их обнаружения и восстановления параметров. Это нашло отражение в изданиях других авторов [3], [7]. Вместе с тем, в указанных книгах либо недостаточно внимания уделено фундаментальным теоремам теории информации [7], либо имеет место перегруженность техническими вопросами реализации методов [3], что не является задачей подготовки специалистов и бакалавров по прикладной математике.

В связи с этим, потребовалось пересмотреть структуризацию материала с целью придания курсу большей компактности. При отборе материала авторы стремились дать основные теоретические сведения, на которых базируется ряд последующих специальных дисциплин. В частности, включены вопросы помехоустойчивого кодирования с использованием линейных последовательных машин, задачи обнаружения и оценивания. Вместе с тем, от многих, излагаемых, например, в [3] вопросов, связанных со схемными решениями, пришлось отказаться.

Книга составлена как сборник лекций, каждая из которых посвящена одной теме, что по замыслу авторов должно облегчить самостоятельную работу над курсом. В учебном пособии дается краткое конспективное изложение основных вопросов. Вместе с тем, авторы стремились к тому, чтобы в пособии нашли отражение ключевые вопросы математического описания сигналов, теории информации и кодирования. По замыслу лекции должны занять промежуточное положение между справочниками и солидными изданиями.

Авторы выражают признательность заведующему кафедрой технической кибернетики СГАУ, члену-корреспонденту РАН Сойферу В.А., внимательно прочитавшему рукопись и высказавшему ряд полезных советов по содержанию учебного пособия, а также Гаврилову А.В., и Козину Н.Е., выполнившим набор текста рукописи книги.

Учебное пособие подготовлено при финансовой поддержке Министерства образования и науки РФ, Администрации Самарской области и Американского фонда гражданских исследований и развития (CRDF).

ВВЕДЕНИЕ

Понятие информации. Предмет и задачи курса Термин «Информация» относится к числу наиболее часто употребляемых. Он широко используется в лингвистике, психологии, биологии и других науках. Однако в разных областях знаний в него вкладывают разный смысл.

Разнообразие информационных процессов и широкий интерес к ним в разных областях знаний породили много толкований определений понятия “информация”, а также определений количества информации.

Условно все подходы к определению количества информации [6] можно разделить на пять видов:

1) энтропийный;

2) алгоритмический;

3) комбинаторный;

4) семантический;

5) прагматический.

Первые три вида дают количественное определение сложности описываемого объекта или явления. Четвертый – описывает содержательность и новизну передаваемого сообщения для получателя (пользователя) сообщения. Наконец, пятый вид обращает внимание на полезность полученного сообщения для пользователя.



Термин «информация» происходит от латинского слова «informatio», что означает «разъяснения», и, по сути, предполагает наличие некоторого диалога между отправителями и получателями информации. Следовательно, информационное взаимодействие можно представить пятикомпонентной (пятимерной векторной) величиной, состоящей из компонент:

1) физической;

2) сигнальной;

3) лингвистической;

4) семантической;

5) прагматической.

Заметим, что приведенное разбиение информационного взаимодействия на пять компонентов носит условный характер и возможно частичное пересечение в этом разбиении. Так, отдельные составляющие передаваемого сообщения можно отнести к физической или сигнальной, сигнальной или лингвистической компонентам.

Например, рассмотрим процесс передачи информации на примере устной речи. Процесс этот многокомпонентный (векторный). Первая компонента – физическая, т.е. для успешного осуществления процесса передачи информации необходимо наличие источника акустического сигнала (голосовых связок человека), среды для распространения акустических колебаний и приемника колебаний (уха). Вторая компонента – сигнальная: амплитудно и частотно модулированные акустические колебания. Третья компонента – синтаксическая; необходимо, чтобы собеседники знали хотя бы один общий язык. Четвертая компонента – семантическая, т.е. в передаваемом сообщении должно присутствовать содержательное описание объекта или явления, неизвестное получателю информации. Наконец, пятая компонента – прагматическая: необходимо наличие желания (мотивации) передавать и принимать сообщение.

На сложный, многокомпонентный характер информации указывал еще А.

Н. Колмогоров [5]: «Подчеркну и качественно новое и неожиданное, что содержится... в теории информации. По первоначальному замыслу «информация» не есть скалярная величина. Различные виды информации могут быть чрезвычайно разнообразны... было совершенно неясно, можно ли качественно различные информации... считать эквивалентными».

Один из центральных вопросов, по которому существуют разные точки зрения, состоит в следующем: информация это свойство объекта или результат взаимодействия. Мы будем придерживаться точки зрения А.Н. Колмогорова:

информация существует независимо от того, воспринимается она или нет, но проявляется только при взаимодействии. Информация – это характеристика внутренней организованности материальной системы по множеству состояний, которые она может принимать.

Приведем пример. По срезу дерева, опытный специалист может дать заключение относительно его возраста, эволюции климатических условий, в которых развивалось дерево, и др., однако получить эту информацию он сможет лишь в результате анализа конкретного среза дерева. Другими словами, информация объективно существует независимо от нашего сознания, но выявляется при взаимодействии с конкретным объектом.

Факт объективного существования информации независимо от нашего сознания для некоторых исследователей послужил поводом для пропаганды весьма неординарной точки зрения, что информация является третьей (наряду с материей и энергией) субстанцией материального мира. Эта точка зрения наиболее уязвима, поскольку для информации пока не сформулированы фундаментальные законы сохранения и перехода в эквивалентных количествах в материю и/или энергию. Например, при сжигании дерева информация о нем, если она не была установлена и сохранена ранее, безвозвратно теряется. Тем не менее, следует подчеркнуть, что информация всегда проявляется в материальноэнергетической форме в виде сигналов, хотя это не материя и не энергия, которые переходят друг в друга. Информация может исчезать и появляться.

В настоящем пособии термин «Информация» понимается в узком смысле, принятом при описании так называемых информационных систем [3,4,7], [11].

К ним относятся телекоммуникационные и вычислительные сети, автоматизированные системы управления и контроля и т.п. В данном случае понятие количества информации, определяется как частота употребления знаков. Количество информации в указанном смысле не отражает ни семантики, ни прагматической ценности информации.

Информационные системы – это класс технических систем, предназначенных для хранения, передачи и преобразования информации. Соответственно информация – это сведения, являющиеся объектом хранения, передачи и преобразования, а теория информации – раздел кибернетики, занимающийся математическим описанием методов передачи, хранения, извлечения (обработки) и классификации информации. Заметим, что сама информация, как правило, используется для осуществления каких-либо управляющих воздействий.

Таким образом, предметом нашего рассмотрения является теория информации в классическом смысле – решение теоретических вопросов, касающихся повышения эффективности и функционирования информационных систем, в частности, систем связи. Она включает в себя:

1) анализ сигналов, как средства передачи информации;

2) анализ информационных характеристик источников сообщения и каналов 3) теорию кодирования;

4) методы приема и обработки информации.

Каждый из указанных разделов может быть (и, как правило, является) предметом самостоятельного глубокого изучения в соответствующих дисциплинах различных специальностей информационного направления. В настоящем курсе мы стремились акцентировать внимание на наиболее общих фундаментальных законах, имеющих существенное значение для восприятия указанных разделов как единого целого. На наш взгляд, таким общим фундаментом являются теоремы К. Шеннона о кодировании и информационная теория оценивания, большой вклад в развитие которой внес Я.З. Цыпкин.

Модели детерминированных сигналов 1.1 Понятие модели сигнала Для перенесения информации в пространстве и времени она представляется в форме сообщений. Сообщение, вне зависимости от его содержания, всегда отображается в виде сигнала. Построение сигнала по определенным правилам, обеспечивающим соответствие между сообщением и сигналом, называют кодированием.



Pages:     || 2 | 3 | 4 | 5 |   ...   | 15 |
 



Похожие работы:

«Нижегородские городские олимпиады школьников по информатике 2005 2010 Третье издание, дополненное Под общей редакцией В. Д. Лелюха Нижний Новгород ИПФ РАН 2010 УДК 004.42(079.1.063) Н60 Нижегородские городские олимпиады школьников по инН60 форматике: 2005 2010 / Под общ. ред. В. Д. Лелюха. 3-е изд., дополн. Н. Новгород: ИПФ РАН, 2010. 144 с. В сборнике представлены задачи, предлагавшиеся на Нижегородских городских олимпиадах школьников по информатике с 2005 по 2010 г.; каждая задача...»

«ТИХООКЕАНСКИЙ ИНСТИТУТ ДИСТАНЦИОННОГО ОБРАЗОВАНИЯ И ТЕХНОЛОГИЙ РАГУЛИН П. Г. ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ (электронный учебник) ВЛАДИВОСТОК 2004 г. УДК 007 ББК 32.81 Р 59 Рецензент: С. Н. Мартышенко, к.т.н., профессор, зав. кафедрой информатики, компьютерной и инженерной графики Владивостокского государственного университета экономики и сервиса Рагулин П.Г. Р 59 Информационные технологии. Электронный учебник. — Владивосток: ТИДОТ Дальневост. ун-та, 2004. - 208 с. Формирование информационного...»

«ФИЗИКА В 2-х частях Часть 2 ОПТИКА. КВАНТОВАЯ ФИЗИКА. СТРОЕНИЕ И ФИЗИЧЕСКИЕ СВОЙСТВА ВЕЩЕСТВА Допущено Министерством образования Республики Беларусь в качестве учебного пособия для студентов учреждений, обеспечивающих получение высшего образования по техническим специальностям Минск БГУИР 2008 УДК 53 (075.8) ББК 22.3 я 73 Т 25 Р е ц е н з е н т ы: кафедра технической физики Белорусского национального технического университета (доцент кафедры, канд. физ.-мат. наук В. А. Мартинович); доцент...»

«Практикум по алгоритмизации и программированию на Python И. А. Хахаев Москва Альт Линукс 2011 УДК 004.432 ББК 22.1 Х27 Хахаев И. А. Х27 Практикум по алгоритмизации и программированию на Python: / И. А. Хахаев М. : Альт Линукс, 2011. 126 с. : ил. (Библиотека ALT Linux). ISBN 978-5-905167-02-7 Учебно-методический комплекс Практикум по алгоритмизации и программированию на Python предназначен для начального знакомства с основными алгоритмами и с программированием на языке Python в интегрированных...»

«ФОНДЫ ПОДДЕРЖКИ НАУЧНЫХ ИССЛЕДОВАНИЙ И РАЗРАБОТОК Сант-Петербург 2010 В целях эффективного использования научно-технического потенциала, повышения конкурентоспособности товаропроизводителей и инвестиционной привлекательности Ленинградской области Правительство Ленинградской области утвердило долгосрочную целевую программу Поддержка инновационной деятельности в Ленинградской области на 2010-2012 годы. Целью программы является создание экономических, правовых и организационных условий для...»

«РИФы на путИ ВтО Владимир Иванович Тарасов — к. т.н., руководитель Аграрного центра ЕврАзЭС при Всероссийском научно-исследовательском институте экономики сельского хозяйства (ВНИИЭСХ), действительный член Международной академии информатизации. Владимир тарасов В 1994 году окончил Высшую школу международного бизнеса Академии народного хозяйства при правительстве РФ и принял участие в создании Национальной ассоциации оптовых продовольственных рынков (1996 год), возглавив ее в должности...»

«ИНФОРМАЦИОННОЕ ОБЩЕСТВО И ГЛОБАЛИЗАЦИЯ: КРИТИКА НЕОЛИБЕРАЛЬНОЙ КОНЦЕПЦИИ ТАШКЕНТ 2006 УДК 316.32 ББК 60.52 А 18 Печатается по решению Научно-технического Совета Ташкентского университета информационных технологий Абдуллаев И.З. Информационное общество и глобализация: Критика неолибеА 18 ральной концепции.: изд-во Фан ва технология.- Т., 2006.-191с. Книга посвящена исследованию процессов становления информационного общества, в рамках периодизации стадиальных этапов развития человечества....»

«Кафедра информатики Учебно-методический комплекс по дисциплине ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ УПРАВЛЕНИЯ Специальность 080504.65 Государственное и муниципальное управление Санкт-Петербург 2010 Рассмотрено и утверждено на заседании кафедры от 31 августа 2009 г., протокол № 1. Одобрено на заседании учебно-методического совета СЗАГС. Рекомендовано к изданию редакционно-издательским советом СЗАГС. Учебно-методический комплекс подготовила: ст. преподаватель Е. Б. Лычагина. Рецензент: к. т. н., доцент Г....»

«СИСТЕМНЫЙ АНАЛИЗ В УПРАВЛЕНИИ Допущено Министерством образования Российской Федерации в качестве учебного пособия для студентов высших учебных заведений, обучающихся по специальности Прикладная информатика (по областям) и другим компьютерным специальностям МОСКВА ФИНАНСЫ и СТАТИСТИКА 2002 УДК 004.94:658.01 ББК 65.050.03 А73 РЕЦЕНЗЕНТЫ: кафедра прикладной математики Московского энергетического института (Технического университета); Бугорский В.Н., кандидат экономических наук, профессор, директор...»






 
© 2013 www.knigi.konflib.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.