Начальные определения
contentНеважно какая наука начинается со серьезных определений применяемых ею понятий и определений. Потому было бы полностью разумным начать изложение основ теории инфы конкретно с ее четкого определения. Найти какое-либо понятие…
Энтропия
При прочих равных условиях наибольшую энтропию имеет опыт с равновероятными исходами. Другими словами, энтропия максимальна в опытах, где все финалы равновероятны. Тут усматривается аналогия (имеющая глубинную первооснову!) с понятием энтропии, применяемой…
Количество контрольных бит. Пример 5.3
Какое малое количество контрольных бит должно передаваться совместно с 16-ю информационными для обеспечения восстановления информации, если возможность преломления составляет 1%? Подставляя р = 0,01 в (5.7), находим Lmin » 1,081. При…
Информация и алфавит
Рассматривая формы представления информации, отметили то событие, что, естественной для органов эмоций человека является аналоговая форма, универсальной все таки следует считать дискретную форму представления информации при помощи некого набора символов.…
Кодирование и обработка в компьютере целых чисел со знаком
Кодирование целых чисел, имеющих символ, можно выполнить 2-мя методами. В первом варианте один (старший) разряд машинном слове отводится для записи знака числа; при всем этом договорились кодировать символ «+» нулем,…
Вероятность. Пример А.7
На карточках отдельными знаками написано слово «ПАПАХА». Карточки переворачивают, перемешивают и случайным образом открывают по порядку 4 из их. Какова возможность получить таким методом слово «ПАПА»? Пусть событие А -…
Класс алгоритмически вычислимых частичных числовых функций
Этот тезис дает алгоритмическое толкование понятие отчасти рекурсивной функции. Его нельзя обосновать, так как он связывает нестрогое математическое понятие интуитивно вычислимой функции со серьезным математическим понятием отчасти рекурсивной функции. Но…
Вариант кодирования сообщения
Более принципиальной для практики оказывается ситуация, когда М = 2, т.е. для представления кодов в полосы связи употребляется только два типа сигналов - на техническом уровне это более просто реализуемый…
Постановка задачи
Все реальные каналы связи подвержены воздействию помех. Значит ли это, что надежная (т.е. без утрат) передача по ним инфы невозможна в принципе? Когда-то (во всяком случае, до возникновения упоминавшейся выше…
Проблема алгоритмической разрешимости
Всякому методу соответствует задачка, для решения которой он был построен. Оборотное утверждение в общем случае является неправильным по двум причинам: во-1-х, одна и та же задачка может решаться разными методами;…
