Es gibt mehrere Fehlerquellen bei Digitizer-Systemen. Bei einfacher Betrachtung treten Rauschen und Verzerrungen auf.
Die Verzerrung ist ein Fehler in der erfassten Wellenform, der stark mit dem gemessenen Signal zusammenhängt. Eine Verzerrung tritt nicht zufällig auf, sondern korreliert mit dem Eingangssignal. Die häufigste Form der Verzerrung ist die harmonische Verzerrung. Hier zeigen sich die Effekte im Frequenzbereich bei ganzzahligen Vielfachen der Eingangsfrequenz. Eine typische Quelle für die harmonische Verzerrung ist die Nichtlinearität der Übertragungsfunktion des Digitizer-Systems einschließlich Sättigung, Clipping, Slew-Rate-Begrenzung u.a. Um höhere Abtastraten zur erreichen, werden Digitizer-Konfigurationen verwendet, die mit mehreren überlappenden ADCs arbeiten. Diese sorgen jedoch meist für eine erhebliche Verzerrung der Abtastfrequenz aufgrund von Abweichungen bei Verstärkung und Verschiebung bei jedem ADC. Dies nennt man Interleaving-Verzerrung.
Das Rauschen ist, im Gegensatz zur Verzerrung, nicht vom Eingangssignal abhängig. Es kann als ein beliebiger Teil des Fehlersignals definiert werden, dessen Frequenzlagen keine Funktionen der Eingangsfrequenz sind. Rauschen selbst wird allgemein nach Kategorien eingeteilt, die durch die Verteilung des Rauschens (d.h. die Form des Histogramms) oder die Form des Rauschspektrums gekennzeichnet sind.
Rauschen, das gleichmäßig über alle Frequenzen verteilt ist, wird als Weißes Rauschen (White Noise) bezeichnet. Rauschen, das so verteilt ist, dass die Rauschenergie pro Oktave konstant ist, wird als Rosa Rauschen (Pink Noise) bezeichnet. Daneben gibt es viele weitere Formen des Rauschens.
Rauschen wird auch in Abhängigkeit von der Verteilung seines Histogramms betrachtet. Ein Rauschen mit einer Normalverteilung wird als Gaußsches Rauschen bezeichnet. Es gibt viele Ursachen für Gaußsches Rauschen. Rauschen entsteht auch durch Quantisierung – im Grunde durch den Rundungsfehler beim Umwandeln von analogen Spannungen in digitale Werte. Die einfachsten Quantisierungsfehler erzeugen eine gleichmäßige Fehlerverteilung, also Weißes Rauschen.
Rauschen tritt bei allen elektronischen Geräten auf. Die Entwickler versuchen natürlich zu verhindern, dass Rauschen zum Eingangssignal addiert wird. Der Eingangsverstärker eines Digitizer ist besonders anfällig für die Erzeugung und Vergrößerung der Rauschwerte. Sowohl Verzerrungen als auch Rauschen schränken die nutzbare Auflösung eines Digitizer ein. Rauschen schränkt durch das Addieren einer Zufallskomponente zu jedem Abtastwert die Fähigkeit des Digitizer ein, kleine Amplitudenwerte aufzulösen. Dies ist in Bild 3 sichtbar. Es handelt sich hier um dieselbe gedämpfte Sinuswellenform wie in Bild 1, jedoch wird das Signal (mit und ohne Amplitudenrauschen) im Zeitbereich verglichen.
Der Verlauf mit additivem Rauschen zeigt Amplitudenübergänge, die die höchsten Signalamplituden auf der rechten Seite der angezeigten Wellenform übersteigen und so die eigentlichen Signalstrukturen verdecken.
Mit zunehmendem Rauschpegel werden die Signalkomponenten durch noch höhere Amplitudenwerte verdeckt, wodurch die Auflösung der Messung noch weiter verringert wird. In ähnlicher Weise wird das Spektrum des gedämpften Sinussignals (mit und ohne additives Weißes Rauschen) in Bild 4 dargestellt. Zu beachten ist, dass die Addition von spektral flachem Rauschen die Grundlinie des Spektrums anhebt. Jedes Signal mit einer Amplitude unterhalb des Grundrauschens wird verdeckt, wodurch der Dynamikbereich des Digitizer eingeschränkt wird.
Bild 5 zeigt die Wirkung der harmonischen Verzerrung bei der digitalisierten Wellenform. Bei diesem Beispiel ändert eine relativ große dritte harmonische Oberwelle (20 %) die Form der digitalisierten Wellenform.
Wie bereits erwähnt, wird die Verzerrung, die synchron zur Wellenform der Quelle ist, reproduzierbar addiert. Für gewöhnlich tritt eine harmonische Verzerrung mit sehr viel niedrigeren Pegeln auf und ist auf der Grundschwingung nicht sichtbar.
Harmonische Oberwellen werden im Allgemeinen im Frequenzbereich mit einem Spektrumanalysator durch schnelle Fourier-Transformation (FFT) ausgewertet, wie in Bild 6 dargestellt.
Im Frequenzbereich kann man deutlich die 3. harmonische Oberwelle erkennen. Das Auftreten der harmonischen Oberwelle und anderer Verzerrungen kann kleinere spektrale Eigenschaften verdecken, was den Dynamikbereich des Digitizer einschränkt.
Ein Maß für die spektrale Reinheit des Digitizer-Ausgangs ist der störungsfreie Dynamikbereich (SFDR, spurious-free dynamic range). SFDR wird als das Verhältnis der Effektivsignal-Frequenzkomponente zum Effektivwert der nächsten größeren spektralen Komponente (oft als „spurious“ oder „spur“ bezeichnet) am Ausgang definiert. Das ideale Spektrum in Bild 6 weist einen SFDR von etwa 81 dB auf.