Sony - PCM-501es DSP - Digital lydprocessor

Indgangslyden bliver digitaliseret til en 14- eller 16-bit kode afhængigt af brugerens behov. Selvom 16-bit-versionen tilbyder bedre lydkvalitet med hensyn til støj, dynamik og forvrængning, findes der en industriel standard, der opererer på 14-bit-systemet, hvilket gør valgmuligheden mulig. Desuden er fejlrettelsessystemet mere effektivt i 14-bit-formatet, men det vil vi vende tilbage til senere.

Konvertering af et analogt signal til digitalt involverer sampling, og 501 bruger en samplingfrekvens på 44,1 kHz, der giver et frekvenssvar fra 5 til 20.000 Hz. Dette, sammen med 16-bit samplingens opløsning, betyder at man teoretisk set kan matche CD-registreringers kvalitet, men med en endnu bedre frekvensrespons. Ligesom på CD’er er støj og forvrængning meget lav, og fænomener som wow og flutter er praktisk talt usignifikante.

Da sampling er lineært (indgangen samples ved ens trin), anvendes en pre-emphasis og en de-emphasis af de høje frekvenser for yderligere at forbedre støjpræstationerne. Dette medfører forhøjelse af niveauet for de høje frekvenser under optagelsen og tilsvarende reduktion under afspilningen, hvilket bringer lyden tilbage til det oprindelige niveau men reducerer højfrekvent støj forårsaget af kvantisering. Kvantisering-støj opstår på grund af forskellen mellem indgangs- og udgangsformen, fordi den digitaliserede bølgeform består af et endeligt antal trin. Hvert punkt på den analoge bølgeform bliver digitaliseret til det nærmeste trin, og selvom disse fejl er små i et 16-bit system, er de stadig til stede og manifesterer sig som støj i udgangen.

Nogle preregistrerede materialer er måske ikke optaget med pre-emphasis, og i så fald har 501 et system til at opdage denne tilstand og automatisk deaktivere de-emphasis under afspilningen. En tilstandsindikator viser om funktionen er aktiveret eller deaktiveret.