Dacă ați ascultat vreodată muzica digitală - în special orice format de pierdere audio - atunci ați fost expuși la cuantizare matematică Această prelucrare a semnalelor digitale în spatele scenei este destul de obișnuită și, cel mai adesea, o funcție integrală a software-ului audio modern sau hardware (de exemplu convertoare digitale la analogice). Dar cuantificarea nu se limitează doar la audio. Termenul și utilizările acestuia se aplică și în alte domenii, cum ar fi fizica sau imaginile digitale.
Într-un studio de înregistrare, microfoanele recepționează undele sonore muzicale analogice, care apoi sunt prelucrate într-un format digital. Semnalul poate fi prelevat la 44 100 Hz și cuantizat cu adâncimea de 8, 16 sau 24 de biți (și așa mai departe). Nivelele mai înalte de biți oferă mai multe date, ceea ce permite o conversie și o reproducere mai precise a formei de undă originale.
În esență, cuantificarea este un proces complex de rotunjire care implică un anumit nivel de imprecizie. Computerele funcționează pe cele și pe zerouri, motiv pentru care conversia analog-digital este considerată o apropiere apropiată și nu o copie exactă. Când vine vorba de muzică, nu numai că semnalul cuantificat trebuie să mențină succesiunea corectă și amplitudinea valorilor, dar și calendarul trebuie să fie exact. Procesul trebuie să asigure menținerea ritmului muzical, cu note uniform distribuite și fixate pe aceleași bătăi (sau fracțiuni ale acestora). În caz contrar, s-ar putea ca sunetul să dispară sau ciudat să asculte urechile.
Acest concept de cuantizare poate fi observat vizual cu un program de editare a imaginilor, cum ar fi Photoshop. Atunci când o imagine mare este redusă în dimensiune, există o pierdere de informații pixeli datorită procesului matematic care se ocupă de sarcină. Software-ul efectuează calculele și rotunjirea pentru a elimina pixelii nedoriți, păstrând în același timp integritatea, raportul și contextul general al proporțiilor de imagine restricționate, fiind la fel de critică pentru fotografii, așa cum este ritmul muzicii. Atunci când măriți și comparați versiunea de dimensiune a fotografiei cu originalul, marginile și obiectele tind să apară oarecum grosiere sau zgâriate. Acest aspect vizual al compresiei lossy se referă în mod similar la tipurile de fișiere audio digitale. Mai multe date și / sau mai puțin compresie duce la o calitate superioară.
