Sony - PCM-501es DSP - digitale signaalprocessor

De binnenkomende audio wordt, afhankelijk van de wensen van de gebruiker, gedigitaliseerd in een code van 14 of 16 bits. Hoewel de 16-bitsversie een betere geluidskwaliteit biedt wat betreft ruis, dynamisch bereik en vervorming, bestaat er een industriestandaard die met een 14-bitssysteem werkt; daarom kan er worden gekozen. Bovendien werkt het foutcorrectiesysteem effectiever in het 14-bitsformaat, maar daar komen we later op terug.
Bij de omzetting van een analoog signaal naar digitaal wordt het signaal bemonsterd. De 501 gebruikt een bemonsteringsfrequentie van 44,1 kHz, wat een frequentierespons van 5 tot 20.000 Hz oplevert. Dit betekent, in combinatie met de bemonsteringsresolutie van 16 bits, dat men in theorie de mogelijkheid heeft om de kwaliteit van cd-opnamen te evenaren, maar met een nog betere frequentierespons. Net als bij cd's zijn ruis en vervorming zeer gering en zijn snelheidseffecten zoals wow en flutter vrijwel onhoorbaar. Omdat de bemonstering lineair is (de ingang wordt bemonsterd in stappen met gelijke tussenruimten), wordt hoge frequentie voorbeklemtoond en achteraf verzwakt om de ruisprestaties verder te verbeteren. Daarbij wordt het niveau van de hoge frequenties tijdens de opname verhoogd en tijdens het afspelen in overeenkomstige mate verlaagd, zodat het geluid weer op het oorspronkelijke niveau komt, terwijl de hoogfrequente ruis als gevolg van kwantisering wordt verminderd. Kwantiseringsruis wordt veroorzaakt door de verschillen tussen de in- en uitgaande golfvorm, doordat de gedigitaliseerde golfvorm uit een eindig aantal stappen bestaat. Elk punt van de analoge golfvorm wordt gedigitaliseerd naar de dichtstbijzijnde stap. Hoewel deze fouten bij een 16-bits systeem klein zijn, zijn ze toch aanwezig en manifesteren ze zich aan de uitgang als ruis. Sommige vooraf opgenomen materialen zijn mogelijk niet met voorbeklemtoning opgenomen. In dat geval is de 501 uitgerust met een systeem dat deze situatie detecteert en de verzwakking tijdens het afspelen automatisch uitschakelt. Een statusindicator geeft aan of de functie in- of uitgeschakeld is.