Правила и примеры округления результатов измерений

2.4.1.1. Результаты измерений выражаются числом, содержащим значащие цифры. Значащими считаются все цифры в числовом результате, в том числе и нуль, если он находится в середине или в конце числа.

Пример. Результаты измерения напряжений 121В и 0,00121В содержат три, а 126,05В и 12500В – пять значащих цифр.

В конечной записи результатов измерений следует соблюдать следующие правила округления.

2.4.1.2 В выражении погрешности удерживается не более двух значащих цифр, причём последняя округляется до нуля или пяти.

Пример. а) Погрешность измерения тока составляет 0,125А. Удерживая одну значащую цифру, значение погрешности округляется до ±0,1А

б) Погрешность измерения напряжения составляет 0,152В. Удерживая две значащие цифру, значение погрешности округляется до ±0,15В.

2.4.1.3 Числовое значение результата измерений должно оканчиваться цифрой или нулем того же десятичного знака, что и значение погрешности.

Пример. 125,832 ± 0,15 записывается 125,83 ± 0,15.

2.4.1.4 Если первая отбрасываемая цифра меньше пяти, то последняя удерживаемая цифра не изменяется.

Пример. (125,721 ± 0,2)В округляется до (125,7 ± 0,2)В.

2.4.1.5 Если первая отбрасываемая цифра больше пяти или равна пяти, то последняя удерживаемая цифра увеличивается на единицу.

Пример. 25,268 ± 0,4 округляется до 25,3 ± 0,4;

25,253 ± 0,3 округляется до 25,3 ± 0,3.

2.4.1.6 Если первая отбрасываемая цифра равна пяти и за ней не следует значащих цифр (или следуют только нули), то округление производится до ближайшего четного.

Пример. 10,650 ± 0,3 округляется до 10,6 ± 0,3;

10,550 ± 0,3 округляется до 10,6 ± 0,3.

Поиск по сайту: