Sony - PCM-501es DSP (Digital Signal Processing)

Der eingehende Ton wird je nach Bedarf des Nutzers in 14- oder 16-Bit digitalisiert. Obwohl die 16-Bit-Version eine bessere Klangqualität in Bezug auf Rauschen, Dynamikbereich und Verzerrungen bietet, gibt es einen Industriestandard, der auf dem 14-Bit-System basiert, daher die Wahlmöglichkeit. Außerdem ist das Fehlerkorrektursystem im 14-Bit-Format effektiver, aber dazu später mehr.
Die Umwandlung eines analogen Signals in digitales erfolgt durch Abtastung, und das 501 verwendet eine Abtastrate von 44,1 kHz, die eine Frequenzantwort von 5 bis 20.000 Hz ermöglicht. Dies, zusammen mit der Abtastauflösung von 16 Bit, bedeutet, dass man theoretisch die Qualität von CD-Aufnahmen erreichen kann, aber mit einer noch besseren Frequenzantwort. Wie bei CDs sind Rauschen und Verzerrungen sehr gering, und Geschwindigkeitsfehler wie Wow und Flutter sind praktisch unmerklich. Da die Abtastung linear ist (das Eingangssignal wird in gleichen Schritten abgetastet), wird eine Vorentzerrung und Deentzerrung der Hochfrequenzen verwendet, um die Leistung in Bezug auf Rauschen weiter zu verbessern. Dies führt während der Aufnahme zu einer Erhöhung des Pegels der Hochfrequenzbereiche und während der Wiedergabe zu einer entsprechenden Reduzierung, wodurch der Klang wieder auf das ursprüngliche Niveau gebracht wird, aber das Hochfrequenzrauschen durch Quantisierung reduziert wird. Das Quantisierungsrauschen entsteht durch Unterschiede zwischen der Eingangs- und Ausgangswellenform, bedingt durch die Tatsache, dass die digitalisierte Wellenform aus einer endlichen Anzahl von Stufen besteht. Jeder Punkt der analogen Wellenform wird auf den nächstgelegenen Schritt digitalisiert, und obwohl diese Fehler bei einem 16-Bit-System gering sind, sind sie dennoch vorhanden und äußern sich am Ausgang als Rauschen. Einige preregistrierte Materialien könnten nicht mit Vorentzerrung aufgenommen worden sein, und in diesem Fall verfügt der 501 über ein System, um diesen Zustand zu erkennen und die Deentzerrung während der Wiedergabe automatisch zu deaktivieren. Eine Statusanzeige signalisiert, ob die Funktion aktiv oder deaktiviert ist.