Учет значащих цифр при вычислениях

Значащими цифрами в десятичном изображении числа являются все цифры, кроме нулей, стоящих вначале числа. Нули в середине или в конце числа являются значащими. Например, в числе 0,04070 первые два нуля не являются значащими, а третий и четвёртый – значащие.

В случае записи больших чисел с нулями на конце (например, число 62000) возникает неопределённость, заключающаяся в том, что заранее не ясно, являются ли эти нули значащими цифрами, или же они служат только для определения разряда остальных цифр. Для устранения этой неопределённости такие числа следует записывать, например, в виде 6,2×10⁴, если значащими являются только две первые цифры; 6,20×10⁴, если значащими являются три цифры и т.д.

Если полученное приближенное значение физической величины содержит лишние (незначащие) или недостоверные цифры, то его округляют. При этом руководствуются известными правилами округления.

При выполнении различных математических операций с приближенными числами надлежит руководствоваться следующими правилами:

1) при сложении и вычитании в результате сохраняют столько десятичных знаков, сколько их содержится в числе с наименьшим количеством десятичных знаков;

2) при умножении и деления в результате сохраняют столько значащих цифр, сколько их имеет приближенное число с наименьшим количеством значащих цифр;

3) результат расчета значений функций (xⁿ, , lg x и т.п.) некоторого приближенного числа x должен содержать столько значащих цифр, сколько их имеется в числе x.

Поиск по сайту: