| Début |
Chapitre 7-1 : Théorie de l'information |
QUANTITE D'INFORMATION
Définition :
L'information permet de définir un sous ensemble d'un ensemble
soit une source d'information
où les symboles apparaissent avec des probabilités :
telles que :
alors la quantité d'information associée au symbole Si est :
dont l'unité est le logon
Remarque : Le logarithme à base 2 a été choisi pour que 1 logon d'information permette de choisir entre deux évènements équiprobables.
ce qui définit l'information mutuelle
