Verlustlose Quellencodierung

Zusammenfassung

Die Quellencodierung hat die Aufgabe, ein beliebiges (analoges oder zeitdiskretes) Quellensignal in einen binären Datenstrom zu überführen, welcher möglichst kurz ist. Die Hauptaufgabe der Quellencodierung besteht in einer Reduzierung der Datenmenge, d. h. einer Datenkompression. Die Quellencodierung kann verlustlos oder verlustbehaftet sein. Man spricht von einer verlustlosen Quellencodierung, auch Entropiecodierung genannt, wenn das Quellensignal aus dem komprimierten Datenstrom verzerrungsfrei rekonstruiert werden kann. Ein verlustloser Quellencodierer bewirkt eine Redundanzreduktion, niemals jedoch auch eine Irrelevanzreduktion.

Dieses Kapitel ist verlustlosen Quellencodierverfahren gewidmet. Für gedächtnisfreie Quellen wird zunächst Shannons Quellencodiertheorem hergeleitet, welches eine untere Schranke für die minimal benötigte Anzahl an Binärzeichen angibt. Darauf aufbauend werden praktische Verfahren wie Huffman-Algorithmus und algebraische Quellencodierung vorgestellt. Anschließend werden gedächtnisbehaftete Quellen betrachtet und es wird der Willems-Algorithmus vorgestellt, der eine universale Quellencodierung gedächtnisbehafteter Quellen ermöglicht.