測定範囲および確度(周囲温度23℃&plun;5℃)、校正後180日[校正後1年の場合は2倍]
100mΩ | 5mΩ~109mΩ | 180mA | &plun;0.01%&plun;α &plun;10d以内 | &plun;0.02%&plun;α &plun;2d以内 | &plun;0.03%&plun;2α&plun;3d &plun;[2/(1+n)]d以内 |
1Ω | 109.1mΩ~1.09Ω | 180mA | &plun;0.005%&plun;α &plun;3d以内 | &plun;0.02%&plun;α &plun;1d以内 | &plun;0.02%&plun;α&plun;2d &plun;[2/(1+n)]d以内 |
10Ω | 1.091Ω~10.9Ω | 90mA | |||
100Ω | 10.91Ω~109Ω | 18mA | &plun;0.005% &plun;1d以内 | &plun;0.02%&plun;1d以内 | &plun;0.02%&plun;2d &plun;[1/(1+n)]d以内 |
1kΩ | 109.1Ω~1.09kΩ | 9mA | |||
10kΩ | 1.091kΩ~10.9kΩ | 0.9mA | |||
100kΩ | 10.91kΩ~109kΩ | 90μA | |||
1MΩ | 109.1kΩ~1.09MΩ | 9μA | &plun;0.007% &plun;1d以内 | &plun;0.05%&plun;2d &plun;[1/(1+n)]d以内 | |
10MΩ | 1.091MΩ~10.9MΩ | 0.9μA | &plun;0.02% &plun;10d以内 | &plun;0.03%&plun;1d以内 | &plun;0.2%&plun;4d &plun;[1/(1+n)]d以内 |
100MΩ | 10.91MΩ~109MΩ | 0.09μA | &plun;0.1% &plun;20d以内 | &plun;0.1%&plun;2d以内 | ---- |
※d:dis、n:積分時間(msec.)、パーセント測定の時:α=(1000/スタンダード設定値mΩ)×0.01%、
絶対値測定の時:α=0(&plun;1d)
※FASTの場合はにシールドされた状態での確度