В каком сообщении содержится один бит информации

Слово «информация» происходит от латинского слова Informatio, что в переводе означает сведения, разъяснение, ознакомление.
Информация – сведения об объектах и явлениях окружающей среды, их параметрах, свойствах и состояниях, которые уменьшают имеющуюся о них степень неопределенности, неполноты знаний.
Информация передается в виде сообщения от некоторого источника информации к ее приемнику посредством канала связи между ними. Источник посылает передаваемое сообщение, которое кодируется в передаваемый сигнал. Этот сигнал посылается по каналу связи. В результате в приемнике появляется принимаемый сигнал, который декодируется и становится принимаемым сообщением.
Информация должна обладать следующими свойствами:
- понятность
- достоверность
- актуальность
- ценность (польза)
- полнота и точность
Алфавитный подход к измерению информации
Полное количество символов в алфавите называется мощностью алфавита (N).
Информационный вес одного символа – i.
Зависимость между мощностью алфавита и информационным весом символа записывается следующим образом: 2i = N
Если алфавит состоит из 2-х символов, то информационный вес одного символа можно вычислить
2i = 2 => I = 1бит
Следовательно, можно сказать, что 1 бит – это информационный вес символа в двухсимвольного алфавита.
1 бит – это наименьшая единица измерения информации.
Алфавит состоящий из 256 символов:
2i = 256 => I = 8 бит
Следовательно, информационный объем одного символа такого алфавита равен 8 бит.
1 байт = 23 = 8 бит
1 Килобайт = 210 = 1024 байт
1 Мегабайт = 210 = 1024 Килобайт
1 Гигабайт = 210 = 1024 Мегабайт
Чтобы подсчитать информационный объем сообщения необходимо количество символов в сообщении умножить на информационный вес одного символа
c×i = I гдеc – количество символов в сообщении
i – информационный вес одного символа
I – информационный объем всего сообщения
Пример.
Считая, что каждый символ кодируется одним байтом, определите, чему равен информационный объем следующего высказывания Рене Декарта:
Я мыслю, следовательно, существую.
1) 28 бит
2) 272 бита
3) 32 Кбайта
4) 34 байта
Решение:
1) Из условия известно, что 1 символ равен 1 байт, т.е. 8 бит.
2) Посчитаем, сколько символов в сообщении (учитывая, что все знаки препинания и пробелы считаются символами). Получилось 34 символов.
3) Считаем 34 символов × 8 бит = 272 бит
4) Следовательно, правильный ответ: 2)
Содержательный подход к измерению информации.
Неопределенность знаний о некотором событии – это количество возможных результатов события.
Сообщение, уменьшающее неопределенность знаний в два раза, несет один бит информации.
Можно сказать иначе: Сообщение о том, что произошло одно из двух событий, несет 1 бит информации.
Количество информации, содержащееся в сообщении, о том что произошло одно событие, связано с количеством возможных событий следующей формулой:
2i= N где N – количество равновероятных событий
i – количество информации, содержащееся в сообщении о том, что произошло одно из равновероятных событий (количество бит).
Пример1:
Шахматная доска состоит из 64 полей: 8 строк и 8 столбцов. Какое минимальное количество бит потребуется для кодирования координат одного шахматного поля?
1) 4
2) 5
3) 7
4) 6
Решение:
1) Нам известно количество полей (количество равновероятных событий) – 64.
2) По формуле 2I= N найдем количество бит для кодирования одного поля:
2I = 64 => I = 6 бит
5) Следовательно, правильный ответ: 4)
Рекомендую дополнительно дать теорию по вероятности (иногда задачи на эту тему встречаются в ЕГЭ):
Вероятность
события.
p=K/N
где p –
вероятность события
K –
количество благоприятных событий
N – общее количество событий
Связь
между вероятностью события и количеством информации в сообщении:
чем меньше вероятность некоторого события, тем больше информации содержит
сообщение об этом событии.
I = log2(1/p)
=> 2I = 1/p
где p – вероятность события
I– количество информации
- байт
- бит
- бод
- байтов
- Один бит — это такое количество информации, когда неопределенность знания…
- уменьшается в 2 раза
- увеличивается в 2 раза
- уменьшается в 8 раз
- увеличивается в 8 раз
- Бит принимает значения:
- 0 или 1
- 8 или 0
- 8 или 1
- Один байт равен
- 8 битов
- 1024 бита
- 1 бит
- 10 битов
- Сколько знаков содержит алфавит, который используется в знаковой системе компьютера?
- 2
- 1
- 256
- 1024
- В какой из последовательностей единицы измерения указаны в порядке возрастания
- гигабайт, килобайт, мегабайт, байт
- гигабайт, мегабайт, килобайт, байт
- мегабайт, килобайт, байт, гигабайт
- байт, килобайт, мегабайт, гигабайт
- Сколько секунд потребуется для передачи сообщения со скоростью 14 400 бит/с, чтобы передать 225 кбайт?
- 512
- 125
- 128
- 400
- Скорость передачи данных через ADSL-соединение равна 128 000 бит/с. Передача файла через это соединение заняла 24 секунды. Определите размер файла в килобайтах.
- 375
- 435
- 567
- 824
- Сколько секунд потребуется модему, передающему сообщения со скоростью 28800 бит/с, чтобы передать цветное растровое изображение размером 640х480 пикселей, при условии, что цвет каждого пикселя кодируется тремя байтами?
- 64
- 128
- 256
- 512
- Килобайт — это…
- 1000 символов
- 8 бит
- 1000 байт
- 1024 байт
- Сколько битов в слове «Байт»?
- 8
- 24
- 32
- 4
- Сколько памяти потребуется для хранения десятичного числа 5550?
- 4 байта
- 2 байта
- 18 бит
- 32 бита
- Наибольший объем памяти потребуется для хранения …
- слова «укроп»
- числа 22
- слова «десять»
- числа 777
- Наибольший объем памяти потребуется для хранения …
- слова «класс»
- числа 22
- слова «десять»
- числа 10
- Для хранения числа — 52 понадобится…
- 2 байта
- 4 байта
- 52 бита
- 5,2 байта
- Один бит — это такое количество информации, когда неопределенность…
- увеличивается в 2 раза
- уменьшается в 2 раза
- уменьшается в 8 раз
- увеличивается в 8 раз
- Сколько байтов в 4 Кбайтах?
- 4 х 10^6
- 4 x 2^10
- 4 x 10^21
- 4 x 2^32
- Количество битов в 43 килобайтах равно …
- 43 х 10^3
- 344 x 2^10
- 43 x 10^6
- 344 x 10^3
- Для хранения числа — 52 понадобится…
- 4 байта
- 2 байта
- 1 килобайт
- 52 бита
- Какой объем информации содержит слово «школа!»
- 2 Мбайт
- 1 Мбайт
- 6 байт
- 60 бит
- Сколько байт информации содержит сообщение объемом 216 бит
- 16
- 28
- 27
- 32
- Сообщение, информационный объем которого равен 32 битам, соответствует объему информации в байтах…
- 5
- 2
- 3
- 4
- Сообщение, имеющее информационный объем 800 бит, содержит количество символов…
- 10
- 80
- 100
- 8
- Сообщение, информационный объем которого равен 256 битам, соответствует объему информации в байтах…
Ответ: 32
- Оцените информационный объем фразы: Один пуд — около 16,4 килограмма
- 32 байта
- 32 бита
- 64 байта
- 30 байтов
- Оцените информационный объем сообщения в байтах: 1 Мегабайт = 1024 байта
- Сколько двоичных цифр можно записать в двух байтах?
- 2
- 8
- 16
- 32
- 3 байта это
- 24 бита
- 30 бит
- 300 бит
- 1 бит
- 1,5 К байта это
- 1500 байт
- 15 байт
- 1536 байт
- 12 байт
- Расположите в порядке возрастания:
- (4) 1Мбайт
- (1) 1 бит
- (5) 1 Гбайт
- (3) 1 Кбайт
- (2) 1 байт
- Выберите верный знак сравнения: 2 Кбайт 0,5 Мбайт
- >
- <
- =
- Поставьте правильный знак между 1 килобайт и 1000 байт.
- >
- <
- =
- Выберите верный знак сравнения: 30 Кбайт 30720 байт
- <
- = (!)
- >
- Сколько Гбайт содержится в одном Тбайте?
- 1000
- 1024
- 1240
- 80
- Сколько Кбайт содержится в одном Мбайте?
- 1000
- 1024
- 1240
- 80
- 2 Кбайта это
- 16 байт
- 200 байт
- 2000 байт
- 2048 байт
- Расположите в порядке возрастания:
- (2) 20 бит
- (4) 400 Кбайт
- (5) 2 Гбайт
- (3) 0,25 Мбайт
- (1) 1,5 байта
- Выберите верный знак сравнения: 80 бит 10 байт
- <
- >
- = (!)
- 4096 байт — это…
- 4,096 К байт
- 512 К байт
- 4 Кбайта
- 1,5 К байта
- 32768 К байт
- 32 бита — это…
- 320 байт
- 3,2 байта
- 4 байта
- 8 байт
- Расположите в порядке убывания:
- (4) 120 бит
- (1) 0,0001 Гбайт
- (2) 2 Кбайт
- (3) 0,001 Мбайт
- (5) 13 байта
- Сколько бит в пяти байтах?
- 40
- 64
- 128
- 256
- Выберите верный знак сравнения: 1 Мбайт 1000 Кбайт
- <
- >
- =
- Каков информационный объем текста, содержащего слово ИНФОРМАТИКА, если один символ имеет информационный вес 8 бит?
- 11 бит
- 11 Кбайт
- 11 байт
- 11 бод
- В книге 190 страниц, на странице приблизительно 38 строк, в строке 68 символов. Чему равен информационный объем?
- 490960 байт
- 490 байт
- 90960 байт
- 40690 байт
- Чёрно-белое (без градаций серого) растровое графическое изображение имеет размер 40*40 точек.Какой объём памяти займёт это изображение?
- 100 бит
- 100 байт
- 200 бит
- 200 байт
- Черно-белая фотография разбита на точки, каждая из которых кодируется тремя битами. Каков информационный объем фото 15х18 см, если см2 содержит 3025 точек?
- Каждый символ в Unicode закодирован двухбайтным словом. Определите информационный объем следующего предложения в этой кодировке: Не в свои сани не садись.
- 25 байт
- 25 бит
- 400 байт
- 400 бит
- В кодировке ASCII на каждый символ отводится один байт. Определите информационный объем следующего высказывания Рене Декарта: Я мыслю, следовательно, существую.
- 34 бита
- 34 байта
- 68 бит
- 68 байт
- Объем сообщения, содержащего 1024 символа, составил 1/512 часть Мб. Какова мощность алфавита, с помощью которого записано сообщение?
- Оцените объём стереоаудиофайла длительностью 10 секунд при высоком качестве звука (глубина кодирования звука 16 битов, частота дискретизации 48кГц) в килобайтах.
- 1200
- 2400
- 1875
- 1985
- «Ты выучил таблицу умножения?» — спросил учитель Петю. «Нет», — ответил он. Сколько информации содержит ответ?
- 0 бит
- 1 бит
- 2 бита
- Какое минимальное число вопросов, подразумевающих ответ “да” или “нет”, необходимо задать для того, чтобы выяснить на каком из 16 путей находится вагон?
- 16
- 3
- 4
- 5
- Сообщение о том, что Петя живет во втором подъезде, несет 2 бита информации. Сколько подъездов в доме?
- 1
- 2
- 4
- 8
- Группа школьников пришла в бассейн.. Тренер сообщил, что группа будет плавать на дорожке номер 3. Известно, что это сообщение несет 2 бита информации. Сколько дорожек в бассейне?
- 6
- 3
- 12
- 4
- Определите количество цветов в палитре при глубине цвета 2 бита
- 4
- 32
- 8
- 16
- Сообщение о том, что ваш друг живет на 5 этаже, несет 3 бита информации. Сколько этажей в доме?
- 5
- 8
- 9
- 10
- 16
- Группа школьников пришла в бассейн, в котором 16 дорожек для плавания. Тренер сообщил, что группа будет плавать на дорожке номер 3. Сколько информации получили школьники из этого сообщения?
- 3 бита
- 4 бита
- 16 бит
- 8 бит
- Вася — ученик начальной школы. Сколько информации несет сообщение о том, что он учится в 3 классе?
- 4 бита
- 2 бита
- 1 бит
- 16 бит
- Какое количество информации (в битах) при игре в крестики-нолики на поле 4х4 получает второй игрок после первого хода первого игрока?
- 4 бита
- 2 бита
- 1 бит
- 16 бит
- Производится бросание симметричной четырехгранной пирамидки. Какое количество информации мы получаем в зрительном сообщении о падении на одну из ее граней?
- 4 бита
- 1 бит
- 2 бита
- 1 байт
- Выставка проходит с 1 по 8 ноября. Сколько бит информации содержит сообщение о том, что билет куплен на 5 ноября?
- 3 бита
- 4 бита
- 16 бит
- 8 бит
- Из непрозрачной коробки с разноцветными карандашами вынули светло-голубой карандаш. Это сообщение несет в себе 9 бит информации. Сколько карандашей в коробке?
- 9
- 1024
- 18
- 512
- 256
- «Вы выходите на следующей остановке?» — спросили человека в автобусе. «Нет». — ответил он. Сколько информации содержит ответ?
- 2 бита
- 1 бит
- 0 бит
- В корзине лежат 8 шаров. Все шары разного цвета. Сколько информации несет сообщение о том, что из корзины достали голубой шар?
- 256 бит
- 4 бита
- 3 байта
- 3 бита
- Какой объем информации содержит сообщение, уменьшающее неопределенность знаний в 8 раз?
- 1 бит
- 3 бита
- 2 бита
- 4 бита
- Из непрозрачного мешочка вынимают шарики с номерами, и известно, что информационное сообщение о номере шарика несет 4 бита информации. Определите количество шариков в мешочке.
- 8
- 16
- 32
- 64
- В корзине лежат 16 шаров. Все шары разного цвета. Сколько информации несет сообщение о том, что из корзины достали красный шар?
- 9
- 4
- 16
- 3
- Какое количество информации несёт сообщение о том, что встреча назначена на 20 число?
- 4,3 бит
- 5,1 бит
- 2,5 бит
- 1 бит
- 3,6 бит
- В рулетке общее количество лунок равно 32. Какое количество информации мы получаем в зрительном сообщения об остановке шарика в одной из лунок?
- 2 бит
- 5 бит
- 1 бит
- 8 бит
- Была получена телеграмма: «Встречай, вагон 4». Известно, что в составе 8 вагонов. Сколько бит информации было получено?
- 1 бит
- 3 бита
- 2 бита
- 4 бита
- На полке стоят 128 томов энциклопедии. Сколько информации несет сообщение о том, что достали десятый том?
Ответ: 7
- При угадывании целого числа в диапазоне от 1 до N было получено 5 бит информации. Чему равно N?
Ответ: 32
- Шахматная доска состоит из 64 полей: 8 столбцов и 8 строк. Какое максимальное количество бит потребуется для кодирования координат одного шахматного поля?
Ответ: 6
- В формуле N= 2 в степени i укажите единицу измерения для i
Ответ: бит
- Текст занимает 1,5 Кбайта памяти компьютера. Сколько символов содержит текст?
Ответ: 1536
- Текст занимает 5 страниц. На каждой странице 30 строк по 60 символов. Какой объём оперативной памяти займёт текст?
Ответ: 9000
- Свободный объём оперативной памяти 320 Кбайт. Сколько страниц книги поместится в ней, если на странице 10 строк по 64 символа.
Ответ: 512
- Для записи сообщения из 25 символов использовался алфавит, который состоит из 8 букв. Какой объем информации содержит такое сообщение?
- 400 бит
- 75 бит
- 100 бит
- 64 бита
- Растровый графический файл содержит черно-белое изображение с 16 градациями серого цвета размером 10 х 10 точек. Каков информационный объем этого файла:
- 100 бит;
- 400 байт;
- 800 бит;
- 100 байт?
- Для хранения растрового изображения размером 64Х128 пикселей отвели 8 килобайт памяти. Какое максимальное возможное число цветов в палитре изображения?
Ответ: 256
- Какой объем памяти требуется для хранения цифрового стереофайла с частотой дискретизации 44,1 кГц и глубиной звука — 16 бит, время звучания — 1 минута. Ответ укажите целым числом в Мбайтах (например — 15)
Ответ: Верный ответ в диапазоне от 10 до 11
- Если досье на преступников занимают 45 мегабайт и каждое из них имеет объем 12 страниц ( 48 строк по 64 символа в каждой, 1 символ занимает 8 бит), то число досье равно …
- 3840
- 1560
- 1280
- 1024
- Какое максимальное количество символов может содержать кодировочная таблица, если при хранении одного символа из этой таблицы используется 10 бит памяти?
- 80
- 256
- 800
- 1024
- Глубина кодирования звука — это…
- Количество информации, которое необходимо для кодирования дискретных уровней громкости цифрового звука.
- Количество измерений громкости звука за одну секунду.
- Все ответы правильные.
- Монета изготовлена так, что при бросании всегда выпадает «орел». Сколько информации несет сообщение о результате двух бросков монеты?
- 0,5
- 4
- 1
- Требуется закодировать информацию объемом 1000 бит с помощью алфавита, содержащего 16 знаков. Какова будет минимальная длина результата кодирования (в знаках)?
- 256
- 16
- 16000
- 250
- Количество цветов в палитре (N) и количество информации, необходимое для кодирования каждой точки (I), связаны между собой и могут быть вычислены по формуле:
- N=2i
- N=2 ∙ i
- I=N ∙ 2
- 2=Ni
- I=N2
- Расчет видеопамяти осуществляется по формуле, где количество цветов в палитре (N), глубина каждой точки (I), количество точек по горизонтали и вертикали (X, Y)
- Объем памяти = 2N
- Объем памяти = I ∙ X ∙ Y
- Объем памяти = IX ∙ Y
- Объем памяти = N2 ∙ X ∙ Y
- У Толи есть доступ к сети Интернет по высокоскоростному одностороннему радиоканалу, обеспечивающему скорость получения информации 218 бит в секунду. У Миши нет скоростного доступа в Интернет, но есть возможность получать информацию от Толи по низкоскоростному телефонному каналу со средней скоростью 215 бит в секунду. Миша договорился с Толей, что тот будет скачивать для него данные объемом 11 Мбайт по высокоскоростному каналу и ретранслировать их Мише по низкоскоростному каналу. Компьютер Толи может начать ретрансляцию данных не раньше, чем им будут получены первые 512 Кбайт этих данных. Каков минимально возможный промежуток времени (в секундах) с момента начала скачивания Толей данных до полного их получения Мишей?
Ответ: 2832
- Производится двухканальная (стерео) звукозапись с частотой дискретизации 11 кГц и глубиной кодирования 16 бит. Запись длится 6 минут, ее результаты записываются в файл, сжатие данных не производится.
Какое из приведенных ниже чисел наиболее близко к размеру полученного файла, выраженному в мегабайтах?
- 11
- 12
- 13
- 15
- Производится одноканальная (моно) звукозапись с частотой дискретизации 11 кГц и глубиной кодирования 24 бита. Запись длится 7 минут, ее результаты записываются в файл, сжатие данных не производится.
Какое из приведенных ниже чисел наиболее близко к размеру полученного файла, выраженному в мегабайтах?
- 11
- 13
- 15
- 22
- Сколько секунд потребуется модему, передающему сообщения со скоростью 19200 бит/с, чтобы передать цветное растровое изображение размером 1280 на 800 пикселей, при условии, что цвет каждого пикселя кодируется 24 битами?
Ответ: 1280
Бит определяется как количество информации, содержащееся в равновероятном выборе из двух возможностей
В каких случаях и по какой формуле можно вычислить количество информации, содержащейся в сообщении?
Формула Хартли: I = log2N — выбор одного сообщения из конечного наперёд заданного множества из N равновероятных сообщений, а количество информации I, содержащееся в выбранном сообщении определял, как двоичный логарифм N
Формула Шеннона: I = — ( p1log2 p1 + p2 log2 p2 + . . . + pN log2 pN), где pi — вероятность того, что именно i-е сообщение выделено в наборе из N сообщений – учитывает возможную неодинаковую вероятность сообщений в наборе.
Почему в формуле Хартли за основание логарифма взято число 2?
Потому что в теории информации рассматривается количество информации, необходимое для различения двух равновероятных сообщений (типа «орел»—»решка», «чет»—»нечет» и т.п.).
Пусть т 1 =2, т 2 =3. Тогда I 1 = log 2 N дает единицу информации при N=2, a I 2 = log 3 N дает единицу при N=3. Значит, в первом случае для получения единицы информации производится выбор из двух равновероятных возможностей, а во втором случае — из трех. Для технической реализации удобнее работать с двумя возможностями, скажем, включением или выключением какого-либо элемента, наличием или отсутствием тока, и т.п. Поэтому за основание логарифма удобнее использовать число 2.
При каком условии формула Шеннона переходит в формулу Хартли?
Если вероятности p1, …, pN равны, то каждая из них равна 1 / N, и формула Шеннона превращается в формулу Хартли.
1.22. Что определяет термин «бит» в теории информации и в вычислительной технике?
Бит в теории информации — количество информации, необходимое для различения двух равновероятных сообщений (типа «орел»—»решка», «чет»—»нечет» и т.п.).
В вычислительной технике битом называют наименьшую «порцию» памяти компьютера, необходимую для хранения одного из двух знаков «0» и «1», используемых для внутри машинного представления данных и команд.
Приведите примеры сообщений, информативность которых можно однозначно определить.
Сегодня 13 июня 2017 года.
Приведите примеры сообщений, содержащих один (два, три) бит информации.
Один бит: При броске монеты выпала решка.
Два бита: При первом броске монеты выпала решка, при втором броске тоже решка.
Упражнения
Запишите множество вариантов загорания двух светофоров, расположенных на соседних перекрёстках.
Ответ:
Три человека, Иванов, Петров и Сидоров, образуют очередь. Запишите все возможные варианты образования этой очереди.
1) Иванов, Петров, Сидоров; | 4) Петров, Сидоров, Иванов; |
2) Иванов, Сидоров, Петров; | 5) Сидоров, Иванов, Петров; |
3) Петров, Иванов, Сидоров; | 6) Сидоров, Петров, Иванов. |
Назовите все возможные комбинации из двух различных нот (всего нот семь: до, ре, ми, фа, соль, ля, си).
Ответ: 42 = 7*6
2.4. Пусть голосуют 3 человека (голосование «да»/»нет»). Запишите все возможные исходы голосования.
Ответ: исходов 8.
«да-да-да», «да-да-нет», «да-нет-да», «да-нет-нет», «нет-да-да», «нет-да-нет», «нет-нет-да», «нет-нет-нет».
2.5. Предположим, что имеются 3 автомобильные дороги, идущие от Парижа до Тулузы, и 4 — от Тулузы до Мадрида. Сколькими способами можно выбрать дорогу от Парижа в Мадрид через Тулузу? Попытайтесь найти систематический метод для последовательного нахождения решения так, чтобы можно было составить список способов, не пропустив ни одного из них.
Ответ: Двенадцатью способами.
2.6. Поезд находится на одном из восьми путей. Сколько бит информации содержит сообщение о том, где находится поезд?
Ответ: 3 бита информации (8 = 23).
2.7. Сколько существует различных двоичных последовательностей из одного, двух, трех, четырёх, восьми символов?
Ответ: Двоичных последовательностей из одного бита всего 21= 2, из двух битов — 22= 4, из трех битов — 23= 8, из четырех битов — 24= 16, из восьми битов — 28= 256.
2.8. Каков информационный объём сообщения «Я помню чудное мгновенье» при условии, что один символ кодируется одним байтом и соседние слова разделены одним пробелом?
Ответ: 24 байта, или 192 бита.