Nat (informace)

Nat (někdy se nazývá také nit nebo nepit ) je logaritmická jednotka měření informací nebo entropie , na základě Neperian logaritmu a pravomoc $e$ spíše než základ-2 logaritmu, která definuje bit . Nat je přirozená jednotka pro entropii v teorii informací. Systémy přirozených jednotek, které standardizují Boltzmannovu konstantu na 1, ve skutečnosti měří entropii v nats. Když je Shannonova entropie dána přirozeným logaritmem ,

{\ displaystyle H = - \ součet _ {i} p_ {i} \ ln p_ {i} \! \,}

implicitně dává hodnotu v nats. Nat je přibližně 1,44 bitů (přesně ) nebo 0,434 zákazů ( ). ${\ displaystyle {\ tfrac {1} {\ ln 2}}}$ ${\ displaystyle {\ tfrac {1} {\ ln 10}}}$

Historický

Alan Turing využil zákazu . Boulton a Wallace (1970) použili termín nit pro minimální délku zprávy, který byl později nahrazen nat, aby nedošlo k záměně s nit jako jednotkou jasu.

Reference

(en) JW Comley , DL Dowe , P. Grünwald (editor), IJ Myung (editor) a MA Pitt (editor), Advances in Minimum Description Length: Theory and Applications , Cambridge, MIT Press ,2005( ISBN 0-262-07262-9 , číst online ) , „Minimální délka zprávy, MDL a zobecněné Bayesovské sítě s asymetrickými jazyky“

(en) Fazlollah M. Reza , An Introduction to Information Theory , New York, Dover ,1994, 496 s. ( ISBN 978-0-486-68210-5 , LCCN 94027222 , číst online )