По пункту первому-очень правильно про точность,в 99 % случае о формуле не слышал и не будет. А вот "калибровать" цифровик стрелочником класса 0,5 и получить 0,1% -прекрасный результат...