ТЕОРИЯ ИНФОРМАЦИИ

ТЕОРИЯ ИНФОРМАЦИИ
- в узком смысле - математич. теория передачи сообщений в системах связи (телефон, телеграф и т. п.), возникшая на базе основополагающих трудов К. Шеннона (США). Основана на следующих представлениях: сообщения (точнее, их коды) поступают из источника сообщений через канал связи (с возможными помехами) в приемник информации. Эти сообщения изменяют систему знаний (тезаурус) приемника, уменьшая уровень его разнообразия, неопределенности, измеряемый энтропией. Энтропия системы сообщений определяется их вероятностями как среднее значение логарифмов величин, обратных этим вероятностям. Среднее количество информации (по Шеннону) определяется уменьшением энтропии приемника в рез-те изменения его представлений о распределении вероятностей состояний источника. При таком определении общее количество информации, содержащееся в отдельных, не связанных друг с другом сообщениях, получается суммированием количеств информации этих сообщений. Единица измерения информации задается средним количеством информации, содержащимся в сообщениях о том, какое из двух равновероятных состояний реализовалось на самом деле, и наз. "бит" (начало и конец английского binary digit - двоичный разряд). С использованием этого понятийного аппарата удается решать ряд задач теории передачи сообщений (расчет пропускной способности каналов связи, создание эффективных систем кодирования и т. п.) не только для технич., но и биологич. приложений (психофизика, распространение биоинформации и т. п.). Теоретически установлена тесная связь количества информации с физич. энтропией (мерой неопределенности распределения молекул в идеальных физич. системах), возрастающей в ходе термодинамич. процессов. Имеются попытки усовершенствовать теоретико-информационные построения, включив в них такое понятие, как, напр., ценность информации с т. зр. той или иной цели. Хотя расширительное толкование информации как субстрата процессов управления в сложных системах не вкладывается в теоретико-информационные представления, они тем не менее широко используются в кибернетич. анализе любых систем и процессов, в к-рых в к.-л. мере применимы понятия "разнообразие", "неопределенность", "передача и восприятие информации" и др. Напр., в терминах Т.и. получено достаточно продуктивное уточнение известного неформального принципа кибернетики о том, что разнообразие системы управления должно быть не ниже разнообразия управляемого объекта. В социологии понятия количества информации и энтропии используются прежде всего в связи с проблемами обработки эмпирич. многомерной информации (статистич., анкетной и т. п.) для оценки информативности признаков и их совокупностей. Имеется также ряд попыток "термодинамического" моделирования массового поведения на основе представления о том, что массовое поведение  в слабоструктурированной системе в равновесии максимизирует энтропию этой системы. Следует указать прежде всего на исследования коммуникационных процессов типа распределения пассажиропотоков населения большого города, а также гиперболических распределений (городов по численности населения, населения страны по доходам, ученых по числу публикаций и т. п.), характерных для замкнутых соц. систем. Эти идеи используются также для моделирования поведения населения в потреблении материальных и культурных благ. Лит.: Шеннон К. Работы по теории информации и кибернетике. М., 1964; Гаврилец Ю.Н. Социально-экономическое планирование. М., 1974; Вильсон А.Дж. Энтропийные методы моделирования сложных систем. М., 1978; Петров В.М., Яблонский А.И. Математика и: социальные процессы. М, 1980. Б.Г. Миркин.


Российская социологическая энциклопедия. — М.: НОРМА-ИНФРА-М. . 1999.

Игры ⚽ Нужно сделать НИР?

Полезное


Смотреть что такое "ТЕОРИЯ ИНФОРМАЦИИ" в других словарях:

  • ТЕОРИЯ ИНФОРМАЦИИ — наука о статистич. процессах передачи информации в техн., природных и социальных системах. Осн. понятия Т …   Физическая энциклопедия

  • теория информации — — [http://www.iks media.ru/glossary/index.html?glossid=2400324] теория информации Или математическая теория связи — раздел кибернетики, исследующий процессы хранения, преобразования и передачи информации; это основная часть… …   Справочник технического переводчика

  • Теория информации — [infor­ma­tion theory], или математическая теория связи раздел кибернетики, исследующий процессы хранения, преобразования и передачи информации; это основная часть кибернетики, поэтому последнюю тоже иногда называют «теорией информации» …   Экономико-математический словарь

  • ТЕОРИЯ ИНФОРМАЦИИ — ТЕОРИЯ ИНФОРМАЦИИ, математическая дисциплина, изучающая законы, которые управляют каналами коммуникации. Главным образом она имеет дело с измерением количества информации, методами ее кодирования, передачи, хранения и обработки. Некоторые понятия …   Научно-технический энциклопедический словарь

  • Теория информации — Пожалуйста, улучшите и дополните этот раздел. Замечания о том, что нужно улучшить, могут быть на странице обсуждения статьи …   Википедия

  • ТЕОРИЯ ИНФОРМАЦИИ — теория, изучающая законы и способы измерения, преобразования, передачи, использования и хранения информации. В Т. и. и ее технич. приложениях центральными являются понятия количества информации и его меры. Эти понятия в известной степени… …   Философская энциклопедия

  • ТЕОРИЯ ИНФОРМАЦИИ — 4.11. ТЕОРИЯ ИНФОРМАЦИИ Отрасль науки, занимающаяся изучением мер информации и их свойств СТ ИСО 2382/16 Источник: РМ 4 239 91: Системы автоматизации. Словарь справочник по терминам. Пособие к СНиП 3.05.07 85 …   Словарь-справочник терминов нормативно-технической документации

  • теория информации — informacijos teorija statusas T sritis automatika atitikmenys: angl. information theory vok. Informationstheorie, f rus. теория информации, f pranc. théorie de l information …   Automatikos terminų žodynas

  • теория информации — informacijos teorija statusas T sritis fizika atitikmenys: angl. information theory vok. Informationstheorie, f rus. теория информации, f pranc. théorie de l’information, f …   Fizikos terminų žodynas

  • теория информации и измерение текста — Теория информации (информатика) ориентирована не на содержательную сторону передачи и хранения информации, а на ее статистическую структуру. Статистическая структура текста понимается как частота появления в сообщении сигнала (символа) (это… …   Словарь лингвистических терминов Т.В. Жеребило


Поделиться ссылкой на выделенное

Прямая ссылка:
Нажмите правой клавишей мыши и выберите «Копировать ссылку»