
Information Theory for Data Science
Die Informationstheorie befasst sich mit den mathematischen Gesetzen, die den Fluss, die Darstellung und die Übermittlung von Informationen regeln, so wie die Physik sich mit den Gesetzen befasst, die das Verhalten des physikalischen Universums bestimmen. Der Grundstein wurde im Zusammenhang mit der Kommunikation gelegt, indem die grundlegenden Grenzen der Kommunikation beschrieben und Codes (manchmal auch Algorithmen genannt) angeboten wurden, um diese zu erreichen.
Die bedeutendste Errungenschaft des Fachgebiets ist die Erfindung der digitalen Kommunikation, die die Grundlage für unsere digitalen Produkte des täglichen Lebens wie Smartphones, Laptops und alle IoT-Geräte bildet. In jüngster Zeit spielt sie auch eine wichtige Rolle in einem Schwerpunktbereich, der in den letzten Jahrzehnten revolutioniert wurde: die Datenwissenschaft.
Dieses Buch zielt darauf ab, die moderne Rolle der Informationstheorie in einer immer breiteren Palette von Anwendungen der Datenwissenschaft zu demonstrieren. Der erste und zweite Teil des Buches deckt die Kernkonzepte der Informationstheorie ab: Grundlegende Konzepte zu verschiedenen Schlüsselbegriffen sowie die berühmten Theoreme der Quellen- und Kanalcodierung, die die grundlegenden Grenzen der Kommunikation betreffen. Der letzte Teil konzentriert sich auf Anwendungen, die sich in der Datenwissenschaft ergeben, darunter soziale Netzwerke, Ranking und maschinelles Lernen.
Das Buch ist als Lehrbuch für Studenten im Grund- und Hauptstudium gedacht, die sich mit Informationstheorie und Kommunikation befassen, und es sollte sich auch als wertvolles Nachschlagewerk für Fachleute und Ingenieure aus diesen Bereichen erweisen.