Хартли (единица)

Хартли , (символ Харт ), также называемый запретом или дитом (сокращение от «десятичная цифра») ^[1]^[2]^[3] — это логарифмическая единица , которая измеряет информацию или энтропию на основе логарифмов по основанию 10 и степеней 10. Один хартли — это информационное содержание события, если вероятность того, что это событие произойдет, равна 1 ⁄ 10 . ^[4]Таким образом, оно равно информации, содержащейся в одной десятичной цифре (или ячейке), при условии априорной равновероятности каждого возможного значения. Он назван в честь Ральфа Хартли .

Если вместо этого используются логарифмы по основанию 2 и степени 2, то единицей информации является шеннон или бит , который является информационным содержанием события, если вероятность возникновения этого события равна 1 ⁄ 2 . Натуральные логарифмы и степени e определяют nat .

Один бан соответствует ln(10) nat = log ₂ (10) Sh , или примерно 2,303 nat , или 3,322 бита (3,322 Sh). ^[а]Децибан — это одна десятая бана (или около 0,332 Ш.); название образовано от приставкой бана СИ деци- .

Хотя не существует соответствующей единицы СИ , информационная энтропия является частью Международной системы величин , определенной международным стандартом IEC 80000-13 Международной электротехнической комиссии .

История [ править ]

Термин «хартли» назван в честь Ральфа Хартли , который в 1928 году предложил измерять информацию, используя логарифмическую основу, равную числу различимых состояний в ее представлении, что будет основанием 10 для десятичной цифры. ^[5]^[6]

Запрет . и децибан были изобретены Аланом Тьюрингом совместно с Ирвингом Джоном «Джеком» Гудом в 1940 году для измерения количества информации, которую могли получить взломщики кодов в Блетчли-парке с использованием процедуры Банбуризма для определения неизвестной обстановки каждого дня в Германии шифровальная машина военно-морского флота «Энигма» . Название было навеяно огромными листами картона, напечатанными в городе Банбери, расположенном примерно в 30 милях отсюда, и которые использовались в процессе. ^[7]

Гуд утверждал, что последовательное суммирование децибанов для получения меры веса доказательств в пользу гипотезы, по сути, является байесовским выводом . ^[7] Однако Дональд А. Гиллис утверждает, что запрет , по сути, аналогичен предложенному Карлом Поппером . критерию строгости теста, ^[8]

Использование в качестве единицы коэффициента [ править ]

Децибан — особенно полезная единица измерения логарифма шансов , особенно в качестве меры информации в факторах Байеса , отношениях шансов (отношение шансов, поэтому логарифм — это разница логарифмов шансов) или весов доказательств. 10 децибанов соответствуют коэффициенту 10:1; от 20 децибан до шансов 100:1 и т. д. Согласно Гуду, изменение веса доказательств на 1 децибан (т. е. изменение шансов с четов примерно до 5:4) примерно настолько незначительно, насколько можно разумно ожидать от людей. количественно оценить степень своей веры в гипотезу. ^[9]

Коэффициенты, соответствующие целым децибанам, часто можно хорошо аппроксимировать простыми целочисленными соотношениями; они собраны ниже. Значение до двух десятичных знаков, простая аппроксимация (с точностью до 5%), с более точной аппроксимацией (с точностью до 1%), если простая аппроксимация неточна:

децибаны	точный ценить	ок. ценить	ок. соотношение	точный соотношение	вероятность
0	10 ^0/10	1	1:1		50%
1	10 ^1/10	1.26	5:4		56%
2	10 ^2/10	1.58	3:2	8:5	61%
3	10 ^3/10	2.00	2:1		67%
4	10 ^4/10	2.51	5:2		71.5%
5	10 ^5/10	3.16	3:1	19:6, 16:5	76%
6	10 ^6/10	3.98	4:1		80%
7	10 ^7/10	5.01	5:1		83%
8	10 ^8/10	6.31	6:1	19:3, 25:4	86%
9	10 ^9/10	7.94	8:1		89%
10	10 ^10/10	10	10:1		91%

См. также [ править ]

Примечания [ править ]

^ Это значение, примерно 10 ⁄ 3 , но чуть меньше, можно понять просто потому, что $10^{3}=1,000\lesssim 1,024=2^{10}$ : 3 десятичные цифры содержат немного меньше информации, чем 10 двоичных цифр, поэтому 1 десятичная цифра немного меньше , чем 10 ⁄ 3 двоичных цифр.

Ссылки [ править ]

^ Конечно, Райнер (1 февраля 1970 г.). «1.8.1 Термины, используемые в теории информации» [1.8.1 Термины, используемые в теории информации]. – Введение компьютеры Цифровые Коллекция Гёшена (на немецком языке). Том 1241/1241а (1-е изд.). Берлин, Германия: Вальтер де Грюйтер и компания / GJ Göschen'sche Verlagsbuchhandlung [ de ] . п. 35. ISBN 3-11-083160-0 . ISBN 978-3-11-083160-3 . Архив-Nr. 7990709. Архивировано из оригинала 18 апреля 2020 г. Проверено 13 апреля 2020 г. (205 страниц) (Примечание. Перепечатка первого издания за 2019 год доступна по ссылке ISBN 3-11002793-3 , 978-3-11002793-8 . переработанное и расширенное 4-е издание .) Также существует
^ Конечно, Райнер (1989) [1988-10-01]. «1.9.1 Термины, используемые в теории информации» [1.9.1 Термины, используемые в теории информации]. Цифровые компьютеры – Введение в структуру . оборудования компьютерного Коллекция Гёшена (на немецком языке). Том 2050 (4-е переработанное изд.). Берлин, Германия: Walter de Gruyter & Co. 57. ИСБН 3-11011700-2 . ISBN 978-3-11011700-4 . (320 страниц)
^ Луков, Герман (1979). От цифр к битам: личная история электронного компьютера . Портленд, Орегон, США: Robotics Press. ISBN 0-89661-002-0 . LCCN 79-90567 .
^ «МЭК 80000-13:2008» . Международная организация по стандартизации (ИСО) . Проверено 21 июля 2013 г.
^ Хартли, Ральф Винтон Лион (июль 1928 г.). «Передача информации» (PDF) . Технический журнал Bell System . VII (3): 535–563 . Проверено 27 марта 2008 г.
^ Реза, Фазлолла М. (1994). Введение в теорию информации . Нью-Йорк: Dover Publications . ISBN 0-486-68210-2 .
^ Перейти обратно: ^а ^б Хорошо, Ирвинг Джон (1979). «Исследования по истории вероятности и статистики. XXXVII Статистическая работа Тьюринга во Второй мировой войне». Биометрика . 66 (2): 393–396. дои : 10.1093/биомет/66.2.393 . МР 0548210 .
^ Гиллис, Дональд А. (1990). «Вес функции доказательства по Тьюрингу-Хорошему и мера строгости теста Поппера». Британский журнал философии науки . 41 (1): 143–146. дои : 10.1093/bjps/41.1.143 . JSTOR 688010 . МР 0055678 .
^ Хорошо, Ирвинг Джон (1985). «Вес доказательств: краткий обзор» (PDF) . Байесовская статистика . 2 :253 . Проверено 13 декабря 2012 г.

[5] Это значение, примерно 10 ⁄ 3 , но чуть меньше, можно понять просто потому, что $10^{3}=1,000\lesssim 1,024=2^{10}$ : 3 десятичные цифры содержат немного меньше информации, чем 10 двоичных цифр, поэтому 1 десятичная цифра немного меньше , чем 10 ⁄ 3 двоичных цифр.

[Klar_1970-1] Конечно, Райнер (1 февраля 1970 г.). «1.8.1 Термины, используемые в теории информации» [1.8.1 Термины, используемые в теории информации]. – Введение компьютеры Цифровые Коллекция Гёшена (на немецком языке). Том 1241/1241а (1-е изд.). Берлин, Германия: Вальтер де Грюйтер и компания / GJ Göschen'sche Verlagsbuchhandlung [ de ] . п. 35. ISBN 3-11-083160-0 . ISBN 978-3-11-083160-3 . Архив-Nr. 7990709. Архивировано из оригинала 18 апреля 2020 г. Проверено 13 апреля 2020 г. (205 страниц) (Примечание. Перепечатка первого издания за 2019 год доступна по ссылке ISBN 3-11002793-3 , 978-3-11002793-8 . переработанное и расширенное 4-е издание .) Также существует

[Klar_1989-2] Конечно, Райнер (1989) [1988-10-01]. «1.9.1 Термины, используемые в теории информации» [1.9.1 Термины, используемые в теории информации]. Цифровые компьютеры – Введение в структуру . оборудования компьютерного Коллекция Гёшена (на немецком языке). Том 2050 (4-е переработанное изд.). Берлин, Германия: Walter de Gruyter & Co. 57. ИСБН 3-11011700-2 . ISBN 978-3-11011700-4 . (320 страниц)

[Lukoff_1979-3] Луков, Герман (1979). От цифр к битам: личная история электронного компьютера . Портленд, Орегон, США: Robotics Press. ISBN 0-89661-002-0 . LCCN 79-90567 .

[IEC-4] «МЭК 80000-13:2008» . Международная организация по стандартизации (ИСО) . Проверено 21 июля 2013 г.

[Hartley_1928-6] Хартли, Ральф Винтон Лион (июль 1928 г.). «Передача информации» (PDF) . Технический журнал Bell System . VII (3): 535–563 . Проверено 27 марта 2008 г.

[Reza_1994-7] Реза, Фазлолла М. (1994). Введение в теорию информации . Нью-Йорк: Dover Publications . ISBN 0-486-68210-2 .

[Good_1979-8] Перейти обратно: ^а ^б Хорошо, Ирвинг Джон (1979). «Исследования по истории вероятности и статистики. XXXVII Статистическая работа Тьюринга во Второй мировой войне». Биометрика . 66 (2): 393–396. дои : 10.1093/биомет/66.2.393 . МР 0548210 .

[Gillies_1990-9] Гиллис, Дональд А. (1990). «Вес функции доказательства по Тьюрингу-Хорошему и мера строгости теста Поппера». Британский журнал философии науки . 41 (1): 143–146. дои : 10.1093/bjps/41.1.143 . JSTOR 688010 . МР 0055678 .

[Good_1985-10] Хорошо, Ирвинг Джон (1985). «Вес доказательств: краткий обзор» (PDF) . Байесовская статистика . 2 :253 . Проверено 13 декабря 2012 г.

[1]

[2]

[3]

[4]

[а]

[5]

[6]

[7]

[8]

[9]