КОЛИЧЕСТВО получаемой ИНФОРМАЦИИ определяется как мера устранения неопределенности состояния источника информации.

Указанные недостатки описанной меры неопределенности привели к тому, что в теории информации в большинстве случаев используется другая мера неопределенности, предложенная американским ученым Клодом Шенноном в 1948 г., которая и называется энтропией дискретного источника информации.

9. Вероятностный подход к измерению количества информации.

Все события происходят с различной вероятностью, но зависимость между вероятностью событий и количеством информации, полученной при совершении того или иного события можно выразить формулой которую в 1948 году предложил Шеннон

Подход к информации как мере уменьшения неопределенности знания позволяет количественно измерять информацию, что чрезвычайно важно для информатики.
Пусть у нас имеется монета, которую мы бросаем на ровную поверхность. С равной вероятностью произойдет одно из двух возможных событий — монета окажется в одном из двух положений: «орел» или «решка».
Перед броском существует неопределенность наших знаний (возможны два события), и как упадет монета — предсказать невозможно. После броска наступает полная определенность, так как мы видим, что монета в данный момент находится в определенном положении (например, «орел»). Это приводит к уменьшению неопределенности наших знаний в два раза, поскольку из двух возможных равновероятных событий реализовалось одно.
Имеется формула, которая связывает между собой число возможных событий N и количество информации I:


По этой формуле легко определить число возможных событий, если известно количество информации. Так, для кодирования одного символа требуется 8 бит информации, следовательно, число возможных событий (символов) составляет:
Наоборот, для определения количества информации, если известно число событий, необходимо решить показательное уравнение относительно /. Например, в игре «Крестики-нолики» на поле 4*4 перед первым ходом существует 16 возможных событий (16 различных вариантов расположения «крестика»), тогда уравнение принимает вид:
16 = 2^i. Так как 16 = 2^4, то уравнение запишется как:
Таким образом, I = 4 бит, т.е. количество информации, полученное вторым игроком после первого хода первого игрока, составляет 4 бит.

10.Показатели качества информации.

l Репрезентативность информации связана с правильностью ее отбора и формирования для отражения наиболее существенных признаков и связей изучаемого явления.

l Содержательность информации отражает её семантическую (смысловую) емкость. Характеризуется коэффициентом содержательности, равным отношению количества семантической информации в сообщении к объему обрабатываемых данных, т.е. C = Ic / Vд.

l Достаточность (полнота) информации означает, что она содержит минимальный, но достаточный для принятия правильного решения состав показателей.

l Доступность информации восприятию пользователя обеспечивается выполнением соответствующих процедур ее получения и преобразования. Например, в информационной системе результирующая информация преобразовывается к доступной и удобной для восприятия пользователя форме.

l Актуальность информации определяется степенью сохранения ценности информации в момент ее использования и зависит от динамики изменения ее характеристик и от интервала времени, прошедшего с момента возникновения данной информации.

l Своевременность информации означает ее поступление не позже заранее назначенного момента времени, согласованного со временем решения поставленной задачи.

l Точность информации определяется степенью близости получаемой информации к реальному состоянию объекта, процесса или явления.

l Достоверность информации определяется ее свойством отражать реально существующие объекты с необходимой точностью. Измеряется достоверность информации доверительной вероятностью необходимой точности, т.е. вероятностью того, что отображаемое информацией значение параметра отличается от истинного значения этого параметра в пределах необходимой точности.

l Устойчивость информации отражает ее способность реагировать на изменения состояния объекта без нарушения необходимой точности.

11. Позиционные системы счисления: основные понятия, представление целых неотрицательных и дробных чисел.

Совокупность приемов и правил представления чисел с помощью цифровых знаков называется системой счисления.

В зависимости от способа изображения чисел системы счисления делятся на 2 типа:

l непозиционные;

l позиционные.

В позиционных системах счисления значение любой цифры в числе зависит от ее положения (позиции) в ряду цифр, изображающих это число.

Основным понятием любой позиционной системы счисления является основание. Оно показывает:

l сколько различных цифр в системе счисления;

l во сколько раз изменяется количественное значение цифры при перемещении ее на соседнюю позицию.

В зависимости от основания различают следующие системы счисления:

l десятичную (Dec) (0, 1, 2, 3,…, 9);

l восьмеричную (Oct) (0, 1, 2,…, 7);

l двоичную (Bin) (0, 1);

l шестнадцатеричную (Hex) (0, 1,…, 9, A (10), B (11), C (12), D (13), E (14), F (15)).

Любое целое неотрицательное число, записанное в позиционной системе счисления:

можно представить в виде степенного ряда (полинома):

Здесь Qm – число в m-й системе счисления, m – основание системы счисления, l – количество разрядов целого числа, i – номер разряда данного числа, ai – цифра числа, записанного в m-й системе счисления, принимающая любые значения от 0 до (m-1) и показывающая, сколько единиц i-го разряда содержится в числе, mi – вес i-того разряда.

Максимальное целое число, которое может быть представлено в l разрядах:

Имея l разрядов, можно записать всего m^l разных чисел.

Кроме полиномиальной записи используется еще одна форма записи, которая называется схемой Горнера.

Эта форма применяется в ЭВМ для перевода чисел из одной системы счисления в другую.

В ЭВМ для представления информации (данных) используется двоичная система счисления. Ее достоинства:

l используется только 2 символа (цифры) 0 и 1, что хорошо согласуется с техническими характеристиками цифровых схем, имеющих, как правило, 2 устойчивых состояния;

l в двоичной системе легко реализуются арифметические операции над числами:

       0+0=0 1+0=1 0+1=1 1+1=10

       0´0=0 1´0=0 0´1=0 1´1=1

Недостаток: длинные числа, которые неудобно записывать. Двоичное представление числа требует примерно в 3,3 раза большего числа разрядов, чем его десятичное представление.

Двоичная цифра называется битом.