Fastkomma Q-format-omregner

Om denne beregner

Q-format (notationen Qm.n) repræsenterer et reelt tal som et fastkomma-heltal ved at reservere n bit til brøkdelen: det lagrede rå heltal er lig med den reelle værdi ganget med 2ⁿ, så en Q15-værdi (Q1.15) i et 16-bit-ord har en opløsning på 1/2¹⁵ ≈ 0,0000305 og et område på cirka −1 til 0,99997. At omregne et reelt tal til Q-format betyder at afrunde værdi × 2ⁿ til nærmeste heltal, hvilket indfører en kvantiseringsfejl lig med forskellen mellem det afrundede heltal (skaleret tilbage) og den oprindelige værdi.

Ingeniører inden for indlejrede systemer og DSP (digital signalbehandling) bruger Q-format på mikrocontrollere og DSP-chips uden hardware til flydende komma — almindeligt i lydkodeks, firmware til motorstyring og ældre designs med ARM Cortex-M og TI TMS320 — fordi fastkommaaritmetik kører hurtigere og mere forudsigeligt end softwareemuleret flydende komma. Denne beregner omregner i begge retninger og rapporterer opløsningen og afrundingsfejlen, så firmwareudviklere kan vurdere, om en given bitbredde er præcis nok til deres signalkæde.