Um eine stabile Modulation mit einer hohen Qualität zu erhalten, muss das Basisbandsignal sehr genau sein. Modulationsfehler können auf unterschiedliche Weise im HF-Sender entstehen, und jede einzelne Komponente im Signalpfad beeinflusst die Modulationsqualität. Je nachdem wie das Konstellationsdiagramm aussieht, lassen sich Rückschlüsse ziehen, welche Komponente für den Fehler verantwortlich ist. Dazu im Folgenden ein paar Beispiele.
Wenn der Mischer etwa den verwendeten lokalen Oszillator nicht komplett unterdrückt, dann ist ein IQ-Offset im Konstellationsdiagramm zu sehen. Das heißt, dass alle Messpunkte eine Verschiebung vom Konstellationsmittelpunkt erfahren (Bild 4a).
Eine andere Auswirkung könnte von den Basisbandverstärkern kommen. Wenn diese eine Verstärkung im I-Kanal anders als im Q-Kanal ist, dann ist diese Verstärkerverzerrung in Konstellationsdiagramm zu sehen. Die Symbole werden dann mehr zur Achse gedrückt, und anstatt einer quadratischen Anordnung haben die Symbole eher eine rechteckige Positionierung (Gain Imbalance in Bild 4b).
Speziell bei höheren Modulationsschemata wie 64QAM haben digital modulierte Signale einen großen Abstand zwischen der maximalen Amplitude und dem Effektivwert durch die unterschiedlichen Amplitudenabstände auf die jeweiligen Konstellationspunkte.
Deshalb sind im Sender Verstärker notwendig, die einen großen linearen Bereich haben. Die höchste zu erwartende Amplitude sollte deshalb direkt unterhalb des 1-dB-Kompressionspunktes gelegt werden, um die volle Linearität optimal auszuschöpfen. Wenn der Arbeitspunkt des Verstärkers nicht richtig an beiden Konstellationspunkten justiert ist, dann könnten die maximalen Amplituden im Kompressionsbereich liegen. Diese Kompression ist ebenfalls sichtbar in der Konstellationsmessung. Die maximalen Amplituden werden mehr in die Mitte des Diagramms gedrückt (Compression of Amplifier in Bild 4b).
Durch einen erhöhten Jitter auf dem Taktsignal oder wenn der Tiefpassfilter des Basisbandsignals nicht optimal dimensioniert ist, können Intersymbolinterferenzen entstehen, die dann ebenfalls zu Fehlern führen, indem die gemessenen Symbolwerte von den Referenzwerten abweichen (Clock Jitter in Bild 4b). Wenn das Phasenrauschen des lokalen Oszillators (LO) zu hoch ist, kreisen die gemessenen Symbolpunkte um den Referenzwert herum (Phase Noise of LO in Bild 4b).
Eine weitere Auswirkung ist sichtbar, wenn die Amplitude zwar korrekt ist, aber der Phasenunterschied zwischen I und Q nicht exakt 90° ist. Dann kann sich das komplette Konstellationsdiagramm mit dem Phasenfehler neigen (Quadrature Error in Bild 4c).
In Bild 5 sind vier unterschiedliche Messungen dargestellt. Beim RSA5000 mit der VSA-Option ist es möglich, ein Synchronisationspattern einzugeben, um die Modulation zu stabilisieren. Dieses Pattern wird dann bei der Symboldarstellung markiert dargestellt. Eine andere Möglichkeit der Modulationsstabilisierung wäre die Burst-Suche, die ebenfalls im VSA genutzt werden kann.
Falls durch die vorherigen Messungen Abweichungen entdeckt worden sind, lassen sich die jeweiligen I- und Q-Komponenten auch separat analysieren. Eine Möglichkeit hierzu bietet das Augendiagramm (Bild 6). Dabei werden für alle Symbole die Signalformen übereinandergelegt. Sobald sich das »Auge« schließt, besteht ein Problem.
In Bild 7 ist die BER-Messung im VSA-Mode dargestellt. Für diesen Test kann man eine selbst bearbeitete XML-Datei mit dem Datenvergleichsinhalt in das Gerät laden. Abhängig davon, was für eine BER spezifiziert ist und welche Datenrate die Modulation besitzt, ist die Zeitdauer des BER-Tests zu wählen.
Ist das Auge gut geöffnet, so lässt es den Rückschluss zu, dass nicht die Basisbandkomponenten das Problem verursachen. Für diese Messung lassen sich auch Marker einsetzen. Diese Messung kann man mit dem optimalen Referenzaugendiagramm (ebenfalls darstellbar) vergleichen. Fehler an Filter, Taktjitter oder erhöhtes Rauschen bewirken, dass sich das Auge zu schließen beginnt. Ein weiterer wichtiger Indikator für einen HF-Sender ist die Messung der Bitfehlerrate (Bit Error Rate, BER).