Moin liebe Kommiliton_innen,

durch einige Jabber-Konversationen ist ans Tageslicht gedrungen, das die Formeln für die Berechnung der Redundanz, die wir im Skript finden können offenbar widersprüchlich sind.

Für Blockcode beispielsweise hieße die Formeln R = H0 - H, wobei H0 = log2(N) mit N als Wortlänge des Blockcodes.

Allerdings hat dies negative Resultate für die Redundanz in Aufgabe 5.4. a zur Folge. Wikipedia sagt was anderes: http://de.wikipedia.org/wiki/Redundanz_%28Informationstheorie%29

Nach der WP-Formel wäre H0 = N bei fester Wortlänge… Klingt irgendwie auch logischer, da die Wortlänge bereits in Bit angegeben wird und praktisch einen (möglichen) Informationsgehalt bezeichnet.


Wie nun vorgehen? Hat jemand das gleiche Problem mit der Aufgabe?

Beste Grüße

[Add] zu a: Das Skript gibt einmal H0 als log2(N) an und schon eine Zeile drunter als ln(N).
[Add] zu b: Das Skript gibt keine Formel zur Berechnung der Redundanz bei variabler Codewortlänge an.
[Add] zu c: Hat jemand eine Ahnung, wie die Dezimalziffern miteinander kombiniert werden sollen?

So, ich habe jetzt mit Dr. Norman Hendrich kommuniziert und folgendes ist dabei herausgekommen:

Moin,

> beim Lösen der Aufgaben des Aufgabenblattes 5 Rechnerstrukturen ist mir
> bei der Lektüre des Vorlesungsskriptes aufgefallen, dass es einige
> mögliche Widersprüchlichkeiten bei den Formeln zur Berechnung der
> Redundanz gibt.
>
> Auf Seite 68 des Vorlesungsskriptes wird die Formel R = H0 - H mit H0 =
> log2(N) für Blockcode mit fester Wortlänge N angegeben. Noch auf
> derselben Seite wird eine Formel angegeben, bei der H0 dem Logarithmus
> Naturalis von N entspräche.

uhh, ohh…

… man muss in der Tat stark aufpassen, wo man was abschreibt. Sorry!


> Wendet man eine der entsprechenden Formeln in Aufgabe 5.4. a an, so
> kommt es zu einem negativen Ergebnis für die Redundanz, welches nicht
> zulässig wäre.
>
> Bei weitergehender Internet-Recherche bin ich auf Formeln gestoßen, für
> die bei Blockcode mit fester Wortlänge N H0 = N gelten würde.

yup, das Beispiel auf Seite 66 ist immerhin korrekt.

Danke für den Hinweis!

Viele Grüße,
   Norman Hendrich

Ich hoffe, das hilft einigen von Euch, auch wenn es schon ein bisschen spät ist…

Gut, dass du ihn darauf angesprochen hast. Ich habe das auch bemerkt, allerdings fand ich die Folien an diesen Stellen generell etwas uneindeutig (auch bei der Wortwahl), weswegen ich von Anfang an direkt per Wikipedia gelernt habe (dort wird H0 als Hmax definiert).