Grundlagen der Informationstheorie

Zusammenfassung

Die durch einen Aufsatz von Shannon^l im Jahre 1948 begründete Informationstheorie [41] beschäftigt sich mit der statistischen Beschreibung der Übertragung und Verarbeitung von Nachrichten. Ihre Ergebnisse und Vorgehensweisen können dazu benutzt werden, ein Nachrichtenübertragungssystem derart auszulegen, daß dieses sich unter gegebenen Randbedingungen im Vergleich zu anderen Auslegungen optimal verhält. Hierzu muß ein Optimierungskriterium festgelegt werden, um die unter den Randbedingungen erreichbare Optimalstruktur zu finden. In Anlehnung an Abb. 2.1 setzt sich ein Übertragungssystem in seiner einfachsten Form aus einer Nachrichtenquelle, einer Übertragungsstrecke und einer Nachrichtensenke zusammen. Die von der Nachrichtenquelle gelieferte Information gelangt dabei über einen gestörten Kanal zur Senke. Da im Regelfall das von der Quelle abgegebene Signal sowie das Störsignal im Kanal stochastisch sind, müssen statistische Beschreibungen bei der Behandlung auftretender Fragen angewendet werden. Drei Themengebiete, die einen Bezug zur Informationstheorie besitzen, werden im folgenden vorgestellt.