§ 9. ПОГРЕШНОСТИ квантования ФИКСИРУЮЩИХ ВОЛЬТМЕТРОВ И АМПЕРМЕТРОВ
Рассмотрим влияние значения коэффициента а на погрешности ФП, обусловленные квантованием. В процессе работы АЦП происходит преобразование значения фиксируемой величины тока или напряжения в число Ν. Это преобразование осуществляется с помощью квантования. Количество возможных значений I0 (см. рис. 7) в пределах выбранного диапазона измерения ФП равно бесконечности. В пределах от 1,0 до 50 А имеется бесконечное количество точек, и каждая точка соответствует возможному значению фиксируемой величины. На оси N тоже бесконечное количество точек, однако количество возможных показаний на шкале БОУ — конечное число. Поэтому каждому значению N соответствует целый диапазон значений фиксируемой величины. На рис. 7 в кружке выделен фрагмент начальной части градуировочной характеристики ФП с пределом 1—50 А.
Из этого фрагмента видно, что в результате квантования в АЦП при:
С учетом сказанного выражение (8) может быть уточнено с помощью оператора округления до ближайшего большего целого числа: 
рассмотрим задачу, каким образом осуществлять перевод показаний N на шкале счетчика в БОУ в значения зафиксированной величины с наименьшей погрешностью? Из рис. 7 видно, что если каждому значению N ставить в соответствие значение зафиксированной величины в середине диапазона квантования, т. е. при N=1 получим I0=1,020, а при N=2 получим I0= 1,061 и т. д., то погрешность квантования βκ окажется минимальной. По этому правилу рассчитываются градуировочные таблицы ФП.