
An Introduction to Neural Data Compression
Ziel der Datenkompression ist es, die Anzahl der Bits zu verringern, die zur Darstellung nützlicher Informationen benötigt werden. Neuronale oder gelernte Kompression ist die Anwendung neuronaler Netze und verwandter maschineller Lerntechniken auf diese Aufgabe.
Diese Monographie soll Forschern im Bereich des maschinellen Lernens, die sich für Kompression interessieren, als Einstiegspunkt dienen, indem sie den erforderlichen Hintergrund und repräsentative Methoden der neuronalen Kompression beschreibt. Neuronale Kompression ist die Anwendung neuronaler Netze und anderer Methoden des maschinellen Lernens auf die Datenkompression. Jüngste Fortschritte im Bereich des statistischen maschinellen Lernens haben neue Möglichkeiten für die Datenkompression eröffnet, die es ermöglichen, Kompressionsalgorithmen durchgängig aus Daten zu lernen, indem leistungsstarke generative Modelle wie normalisierende Flows, variierende Autocoder, probabilistische Diffusionsmodelle und generative adversarische Netzwerke verwendet werden.
Diese Monographie stellt dieses Forschungsgebiet einem breiteren Publikum im Bereich des maschinellen Lernens vor, indem sie den notwendigen Hintergrund in der Informationstheorie (z. B.
Entropiekodierung, Theorie der Ratenverzerrung) und der Computer Vision (z. B.
Bewertung der Bildqualität, Wahrnehmungsmetriken) aufzeigt und einen kuratierten Leitfaden durch die wesentlichen Ideen und Methoden der bisherigen Literatur bietet. Anstatt die umfangreiche Literatur zu durchforsten, werden die wesentlichen Konzepte und Methoden der neuronalen Kompression behandelt, wobei ein Leser im Auge behalten wird, der sich mit maschinellem Lernen, aber nicht unbedingt mit Datenkompression auskennt.