1. Информация в тексте

Определения и обозначения

Текстовое сообщение — это последовательность символов, которая имеет смысл и некоторый объём информации. Символами могут быть буквы, цифры, пробелы и знаки препинания. Такое определение нужно, чтобы считать длину текста и оценивать, сколько данных потребуется для его хранения.

Алфавит — набор символов, используемых для записи текстовых сообщений. Например, в алфавит могут входить буквы русского языка, цифры, пробел и специальные знаки. Знание алфавита позволяет понять, какие варианты символов могут встречаться в сообщении.

Мощность алфавита — количество символов в алфавите. Обычно её обозначают буквой N, поэтому N показывает, сколько разных символов можно выбрать. Эта величина нужна для определения числа двоичных разрядов, необходимых для кодирования одного символа.

Информационный вес символа — количество информации, приходящееся на один символ при равновероятном выборе всех символов алфавита. Его обозначают буквой i и измеряют в битах. Чем больше алфавит, тем больше возможных вариантов выбора и тем больше вес одного символа: i = log₂N.

Как это устроено

Чтобы оценить информацию в тексте, сначала определяют алфавит и считают его символы. Один и тот же текст по длине может иметь разный объём, если его записывают алфавитами разного размера. Поэтому одного подсчёта символов недостаточно: нужно знать, сколько вариантов приходится на каждый выбор.

Двоичный код использует только 0 и 1, а каждый разряд называется битом. Одним битом можно закодировать два варианта, двумя битами — четыре, тремя — восемь. Поэтому k двоичных разрядов позволяют различить 2ᵏ вариантов, и для алфавита из N символов ищут такое k, чтобы 2ᵏ было не меньше N.

При равновероятном выборе символов информационный вес связан с числом возможных вариантов. Если вариантов N, то число бит находят обратной к возведению в степень операцией — двоичным логарифмом: i = log₂N. Формула показывает, сколько двоичной информации в среднем соответствует одному выбору символа.

Когда сообщение содержит K символов, каждый из них вносит свой информационный вес. Поэтому объём текста находят умножением: I = K · i = K · log₂N. В этой формуле K — длина сообщения, i — вес одного символа, а I — общий информационный объём в битах.

Целое число бит на символ получается, если мощность алфавита равна степени двойки: 2, 4, 8, 16 и так далее. Если N не является степенью двойки, теоретический вес log₂N может быть дробным. Для обычного равномерного двоичного кода берут ближайшее целое вверх, то есть ⌈log₂N⌉ бит, а некоторые кодовые комбинации не используют.

Связь алфавита и информационного объёма текста

Таблица помогает отделить характеристики алфавита от характеристик сообщения. Сначала находят размер алфавита и вес одного символа, затем учитывают длину текста. Единицы измерения выбирают по результату: чаще всего объём выражают в битах или байтах.

Разбор задач

Задача 1

В алфавите 16 символов. Требуется определить вес одного символа. Поскольку 16 = 2⁴, можно подобрать код из четырёх двоичных разрядов без остатка.

1. Записываем мощность алфавита: N = 16.
2. Применяем формулу: i = log₂16.
3. Так как 2⁴ = 16, получаем i = 4 бита.

Ответ: один символ несёт 4 бита информации. Проверка проста: четырьмя битами можно составить 2⁴ = 16 разных комбинаций.

Задача 2

Сообщение использует алфавит из 32 символов и содержит 40 символов. Сначала нужно найти вес одного символа, а уже потом общий объём. Это предотвращает ошибку, когда длину текста принимают за объём информации.

1. Находим вес символа: i = log₂32 = 5 бит, потому что 2⁵ = 32.
2. Умножаем вес на число символов: I = 40 · 5.
3. Вычисляем: I = 200 бит.

Ответ: информационный объём сообщения равен 200 битам. При необходимости это 25 байт, так как 200 : 8 = 25.

Задача 3

Сообщение из 120 символов занимает 720 бит. По этим данным нужно восстановить мощность алфавита. Сначала общий объём делят на число символов, чтобы получить вес одного символа.

1. Вычисляем вес символа: i = 720 : 120 = 6 бит.
2. Используем связь i = log₂N, значит N = 2ⁱ.
3. Подставляем значение: N = 2⁶ = 64.

Ответ: мощность использованного алфавита равна 64 символам. Проверка: 120 · 6 = 720 бит.

Типичные ошибки

Путать мощность и вес. Мощность N — количество символов, а вес i — число бит на один символ. Проверьте единицы: у N это символы, у i — биты на символ.

Считать объём только по длине текста. Число символов ещё не говорит, сколько информации содержит сообщение, потому что вес зависит от алфавита. Сначала найдите i, затем умножьте его на K.

Забывать умножение на длину сообщения. Формула i = log₂N даёт объём лишь одного символа, а не всего текста. Если символов K, используйте I = K · i.

Смешивать биты и байты. Эти единицы отличаются в восемь раз, поэтому результат нельзя записывать в байтах без перевода. Для проверки разделите число бит на 8 при переходе к байтам или умножьте байты на 8 при обратном переводе.

Связь с другими темами

До изучения темы нужно понимать, что такое информация и сообщение, а также уметь записывать числа в двоичной системе. Эти знания объясняют, почему символы представляют последовательностями нулей и единиц.

Оценка объёма текста пригодится при изучении кодирования символов и хранения файлов. Она помогает связать содержание сообщения с количеством памяти, необходимой компьютеру для его записи.

Что запомнить

• Алфавит — набор символов, которыми записывают текст.
• Мощность алфавита равна числу входящих в него символов.
• Информационный вес символа зависит от мощности алфавита.
• Объём текстового сообщения зависит и от веса символа, и от длины текста.
• Чтобы найти объём сообщения, умножают число символов на информационный вес одного символа.
• В одном байте восемь бит.