AX-162D
測定範囲および基本確度(周囲温度23℃&plun;5℃)、校正後1年
100mΩ | 5mΩ~100mΩ | 100mA | &plun;0.02%&plun;2α&plun;2d以内 | &plun;0.03%&plun;3α&plun;2d&plun;[2/(1+n)]d以内 |
1Ω | 100.1mΩ~1Ω | 100mA | &plun;0.02%&plun;α&plun;1d以内 | &plun;0.02%&plun;α&plun;2d &plun;[2/(1+n)]d以内 |
10Ω | 1.001Ω~10Ω | 50mA | ||
100Ω | 10.01Ω~100Ω | 10mA | &plun;0.02%&plun;1d以内 | &plun;0.02%&plun;2d &plun;[1/(1+n)]d以内 |
1kΩ | 100.1Ω~1kΩ | 5mA | ||
10kΩ | 1.001kΩ~10kΩ | 0.5mA | ||
100kΩ | 10.01kΩ~100kΩ | 50μA | ||
1MΩ | 100.1kΩ~1MΩ | 5μA | &plun;0.05%&plun;2d &plun;[1/(1+n)]d以内 | |
10MΩ | 1.001MΩ~10MΩ | 0.5μA | &plun;0.03%&plun;1d以内 | &plun;0.2%&plun;4d &plun;[1/(1+n)]d以内 |
100MΩ | 10.01MΩ~109MΩ | 0.05μA | &plun;0.1%&plun;2d以内 | ---- |
d:dis n:積分時間(msec)、パーセント測定の時:α=(100/スタンダード設定値mΩ)×0.01%、
絶対値測定の時:α=0(&plun;1dを追加)
*FASTの場合はにシールドされた状態での確度