測定範囲および確度(周囲温度23度&plun;5℃)
0.1Ω~0.999Ω | 200mA | &plun;0.03%&plun;α&plun;2di以内 | &plun;0.03%&plun;β&plun;(3+n)di以内 | &plun;9.99% |
1Ω~9.99Ω | 100mA | &plun;0.03%&plun;1di以内 | &plun;0.03%&plun;(2+n)di以内 | |
10Ω~99.9Ω | 10mA | &plun;0.02%&plun;1di以内 | &plun;0.2%&plun;(2+n)di以内 | |
100Ω~999Ω | ||||
1kΩ~9.99kΩ | 1mA | |||
10kΩ~99.9kΩ | 100μA | |||
100kΩ~999kΩ | 10μA | &plun;0.1%&plun;(2+n)di以内 | ||
1MΩ~9.99MΩ | 1μΩ | &plun;0.04%&plun;1di以内 | &plun;0.4%&plun;(2+n)di以内 | |
10MΩ~99.9MΩ | 0.1μA | &plun;0.2%&plun;2di以内 | ---- | ---- |
mΩ CHECK (0~999mΩ) | 100mA | &plun;0.15%&plun;1di以内 | &plun;0.2%&plun;2di以内 | 0~999mΩ |
※α:(500/設定値mΩ)×0.01%、β:(500/設定値mΩ)×0.02%、n:測定時間F1のときn=1/F2のときn=0