Mittlere Codewortlänge
Gewichtete mittlere Codewortlänge eines Präfixcodes: L = Σ pᵢ · lᵢ. Formel hier für drei Symbole mit Wahrscheinlichkeiten und Codewortlängen.
Mittlere Codewortlänge berechnen
Gewichtete mittlere Codewortlänge eines Präfixcodes: L = Σ pᵢ · lᵢ. Formel hier für drei Symbole mit Wahrscheinlichkeiten und Codewortlängen.
Worum geht es?
Die mittlere Codewortlänge L gibt an, wie viele Bit ein Code im Schnitt pro Symbol benötigt. Sie wird gewichtet mit den Wahrscheinlichkeiten der Symbole.
L ist das zentrale Bewertungsmaß für variable-length Codes wie Huffman. Im Verhältnis zur Entropie ergibt sich die Kodierungseffizienz.
Die Formel
L = Σ pᵢ · lᵢ
Für drei Symbole:
L = p1 · l1 + p2 · l2 + p3 · l3Die Variablen
| Symbol | Bedeutung | Einheit | Erklärung |
|---|---|---|---|
| p1 | Wahrscheinlichkeit 1 | — | Wahrscheinlichkeit Symbol 1. |
| l1 | Codewortlänge 1 | Bit | Codewortlänge Symbol 1. |
| p2 | Wahrscheinlichkeit 2 | — | Wahrscheinlichkeit Symbol 2. |
| l2 | Codewortlänge 2 | Bit | Codewortlänge Symbol 2. |
| p3 | Wahrscheinlichkeit 3 | — | Wahrscheinlichkeit Symbol 3. |
| l3 | Codewortlänge 3 | Bit | Codewortlänge Symbol 3. |
| L | Mittlere Codewortlänge | Bit | Gewichtete mittlere Codewortlänge. |
Minimal-Beispiel
p1 = 0,5 (l1 = 1), p2 = 0,25 (l2 = 2), p3 = 0,25 (l3 = 2):
L = 0,5 · 1 + 0,25 · 2 + 0,25 · 2
= 1,5 BitPraxis-Beispiele
Beispiel 1 — Stark schief
p1 = 0,8 (l1 = 1), p2 = 0,15 (l2 = 2), p3 = 0,05 (l3 = 3):
L = 0,8 · 1 + 0,15 · 2 + 0,05 · 3
= 1,25 BitBeispiel 2 — Gleichlange Codeworte
Drei Symbole, alle mit Länge 2 Bit, beliebige Wahrscheinlichkeiten (Σ pᵢ = 1):
L = (p1 + p2 + p3) · 2
= 1 · 2
= 2 BitBeispiel 3 — Gleichverteilt mit Huffman
p1 = p2 = p3 = 1/3 (l1 = 1, l2 = 2, l3 = 2):
L = 1/3 · 1 + 1/3 · 2 + 1/3 · 2
≈ 1,667 Bit