直流增益誤差的可能因素包括輸入直流校準(zhǔn)器、跨導(dǎo)放大器、電流傳感器、電流傳感器負(fù)載電阻和輸出電壓表。電壓表在測(cè)量前 20 天內(nèi)由 Hewlett Packard 進(jìn)行了驗(yàn)證。當(dāng)時(shí)發(fā)現(xiàn)+1V dc 誤差為-1.7 mV,發(fā)現(xiàn)-1V dc 誤差為+4.4 mV,平均誤差為+1.4 mV。在接下來(lái)的討論中忽略了這個(gè)電壓表誤差,即假定 hp3458A 是完美的。在 1 伏特電平下,校準(zhǔn)器的平均電壓誤差測(cè)量為 -34 mV,多個(gè)讀數(shù)之間的差值為 ±0.2 mV。電流傳感器的指定比率誤差為 1 mA/A。
hp3458A 在 10 W 級(jí)別測(cè)量的電阻誤差經(jīng)惠普驗(yàn)證后小于 0.1 mW。當(dāng)該儀表用于測(cè)量 Clarke-Hess 標(biāo)稱 7.5 W 時(shí),發(fā)現(xiàn)測(cè)量值低約 6 mW/W。在 30 分鐘周期結(jié)束時(shí),系統(tǒng)流出的 100 A 電流的測(cè)量誤差約為 -44 mA/A。如果輸入電壓源提供 34 mA/A,傳感器負(fù)載電阻提供 6 mA/A,則跨導(dǎo)放大器增益似乎已設(shè)置在預(yù)期值的 ±5 mA/A 范圍內(nèi)。(實(shí)際8100 型每個(gè)量程的前面板增益調(diào)整分辨率僅為 10 mA/A。)
傳感器負(fù)載電阻在承載 133.33 mA 時(shí)必須消耗 133 mW,因此為了穩(wěn)定輸出,其功率系數(shù)必須小于 7.5 ppM/W。這個(gè)值遠(yuǎn)小于許多所謂的“標(biāo)準(zhǔn)電阻”。通過(guò)用 150 mA 電流加熱電阻器,然后用大量流動(dòng)空氣對(duì)其進(jìn)行冷卻,表明實(shí)現(xiàn)了克拉克-赫斯負(fù)載電阻器所需的穩(wěn)定性。此練習(xí)的輸出電壓移動(dòng)通常小于 1-2 ppm。