下記テーブルで示しているエラーはNLTPの温度計測の誤差ではなく、電圧-温度の換算式を用いた換算誤差を示しています。
演算誤差が一番小さく、特に-20～110℃の間は演算誤差が0なので、自然環境の温度計測を行うときはEq.Aをお奨めします。
温度計測の常用域として-20 to 50℃を想定したとき、その範囲での平均温度係数は-0.1939℃/mVです。より簡易な演算を行いたい場合には、Eq.Bをお使いください。
Eq.A: Temp (℃) = -0.000000001809628*(mV)^3-0.000003325395*(mV)^2-0.1814103*(mV)+205.5894
Eq.B: Temp (℃) = -0.1939*(mV)+212.81
３rd Conversion Error Table (EqA)
| Vtao(mV) | True Temp (deg.) | 3rd order transfer (-55 to 110 deg.) |
3rd Conversion Error (deg.) |
| 1375.219 | -55 | -54.885 | -0.115 |
| 1350.441 | -50 | -49.916 | -0.084 |
| 1300.593 | -40 | -39.958 | -0.042 |
| 1250.398 | -30 | -29.983 | -0.017 |
| 1199.884 | -20 | -19.996 | -0.004 |
| 1149.070 | -10 | -10.000 | 0.000 |
| 1097.987 | 0 | -0.001 | 0.001 |
| 1046.647 | 10 | 9.999 | 0.001 |
| 995.050 | 20 | 20.002 | -0.002 |
| 943.227 | 30 | 30.001 | 0.001 |
| 891.178 | 40 | 39.999 | 0.001 |
| 838.882 | 50 | 49.999 | 0.001 |
| 786.360 | 60 | 59.999 | 0.001 |
| 733.608 | 70 | 70.001 | -0.001 |
| 680.654 | 80 | 80.000 | 0.000 |
| 627.490 | 90 | 90.000 | 0.000 |
| 574.117 | 100 | 100.000 | 0.000 |
| 520.551 | 110 | 110.000 | 0.000 |
1st Conversion Error Table (EqB)
| Vtao(mV) | True Temp (deg.) | 1st order transfer (-55 to 110 deg.) |
1st Conversion Error (deg.) |
| 1375.219 | -55 | -53.845 | -1.115 |
| 1350.441 | -50 | -49.041 | -0.959 |
| 1300.593 | -40 | -39.375 | -0.625 |
| 1250.398 | -30 | -29.642 | -0.358 |
| 1199.884 | -20 | -19.848 | -0.152 |
| 1149.070 | -10 | -9.995 | -0.005 |
| 1097.987 | 0 | -0.090 | 0.090 |
| 1046.647 | 10 | 9.865 | 0.135 |
| 995.050 | 20 | 19.870 | 0.130 |
| 943.227 | 30 | 29.918 | 0.082 |
| 891.178 | 40 | 40.011 | -0.011 |
| 838.882 | 50 | 50.151 | -0.151 |
| 786.360 | 60 | 60.335 | -0.335 |
| 733.608 | 70 | 70.563 | -0.563 |
| 680.654 | 80 | 80.831 | -0.831 |
| 627.490 | 90 | 91.140 | -1.140 |
| 574.117 | 100 | 101.489 | -1.489 |
| 520.551 | 110 | 111.875 | -1.875 |