將垂直分辨率與垂直精度進行對比很重要。垂直精度反映幅度測量與信號實際幅度的接近程度。
一些數字示波器已經構建了更高分辨率的 ADC。盡管暗示它們比 8 位產品更準確,但這不一定是正確的。具有 8 位 ADC、高性能探頭和信號處理的系統可以提供與具有更高位數 ADC 的系統相當甚至更好的結果。
DC 精度是常見的示波器規格。這只是儀器測量直流值的精度。這可能意味著具有更好直流精度的儀器在測量交流信號時會更準確,但這不一定是正確的。示波器和探頭的許多其他特性有助于提高整體精度。
最后一個更復雜的規范是有效位數 (ENOB),它是儀器準確表示各種頻率信號能力的規范。ENOB 由 IEEE 數字化波形記錄器標準 (IEEE std. 1057) 定義。與增益帶寬或波特圖一樣,ENOB 隨頻率變化,并且通常隨頻率降低。數字化儀性能的這種下降可以描述為信號上增加的隨機或偽隨機噪聲水平。這些誤差的來源包括直流偏移、增益誤差、模擬非線性、轉換器非單調性和丟失代碼、觸發抖動、孔徑不確定性(采樣時間抖動)和隨機噪聲。有效位的主題很復雜,超出了本文檔的范圍。