Une petite traduction ou explication de la formule ? (J'suis une quiche en math)
Alors en fait, c'est une formule d'informatique qui mesure l'aspect aléatoire d'un message, un fichier, etc.. C'est l'entropie de Shannon, notée H.
D'une certaine manière, c'est aussi la quantité d'information "réelle".
Une application courante est l'estimation d'un taux de compression sur un fichier.
Par exemple si tu as une image
complexe en noir et blanc (pas un truc genre deux rectangles cote à cote), avec en moyenne 3/4 de noir et 1/4 de blanc, tu as pour chaque pixel :
p(noir)=0,75 (p est une probabilité, dans la formule)
p(blanc)=0,25
La quantité d'information H par pixel est donnée par la formule :
H =-(0,75*Log2(0,75)+0,25*Log2(0,25)) = 0,81 bits
Le maximum théorique de compression sur ton image, sans perte, est de 1-0,81 = 19%.
