메뉴얼에는 분해능에 대해서는 하기와 같이 되어 있습니다.

　　　　　 1 　　　　　　내부 Range Span
분해능=------　×　------------------
　　　　 4096　　　　설정 입력 Range Span


구체적인 예를 들면,
설정 입력 Range를 0~500℃ 설정으로 사용했을 경우,
내부 Range는 설정 Range에서 자동적으로 선택되어, 이 경우 내부 Range Span 1050℃로 측정됩니다.

여기서 상기 식에 적용시키면,

4096×500(설정 입력 Range Span)/1050(내부 Range Span)≒1950 500÷1950=0.26이 되어, 약 0.3℃단위가 됩니다.