АвтоАвтоматизацияАрхитектураАстрономияАудитБиологияБухгалтерияВоенное делоГенетикаГеографияГеологияГосударствоДомДругоеЖурналистика и СМИИзобретательствоИностранные языкиИнформатикаИскусствоИсторияКомпьютерыКулинарияКультураЛексикологияЛитератураЛогикаМаркетингМатематикаМашиностроениеМедицинаМенеджментМеталлы и СваркаМеханикаМузыкаНаселениеОбразованиеОхрана безопасности жизниОхрана ТрудаПедагогикаПолитикаПравоПриборостроениеПрограммированиеПроизводствоПромышленностьПсихологияРадиоРегилияСвязьСоциологияСпортСтандартизацияСтроительствоТехнологииТорговляТуризмФизикаФизиологияФилософияФинансыХимияХозяйствоЦеннообразованиеЧерчениеЭкологияЭконометрикаЭкономикаЭлектроникаЮриспунденкция

Правила и примеры округления результатов измерений

Читайте также:
  1. Dress-code: правила официальных мероприятий
  2. II. Основные принципы и правила поведения студентов ВСФ РАП.
  3. Авиационные Правила АП-25 «Норм летной годности самолетов»
  4. Анализ результатов расчета ВПУ
  5. Анализ результатов теста. Стили и методы семейного воспитания
  6. Боевые правила
  7. Будь-які слідчі (розшукові) дії, проведені з порушенням цього правила, є недійсними, а встановлені внаслідок них докази – недопустимими.
  8. Важные правила введения прикорма
  9. Введение в лабораторный практикум. Техника безопасности. Методы измерений различных величин и обработка экспериментальных данных.
  10. Виды технологических документов, разрабатываемых в курсовом проекте, правила их оформления.
  11. Глвав 2. ЗАГАЛЬНІ ПРАВИЛА ВИКОНАВЧОГО ПРОВАДЖЕННЯ
  12. ГОЛОСОВАНИЕ И ОПРЕДЕЛЕНИЕ РЕЗУЛЬТАТОВ ВЫБОРОВ

2.4.1.1. Результаты измерений выражаются числом, содержащим значащие цифры. Значащими считаются все цифры в числовом результате, в том числе и нуль, если он находится в середине или в конце числа.

Пример. Результаты измерения напряжений 121В и 0,00121В содержат три, а 126,05В и 12500В – пять значащих цифр.

В конечной записи результатов измерений следует соблюдать следующие правила округления.

2.4.1.2 В выражении погрешности удерживается не более двух значащих цифр, причём последняя округляется до нуля или пяти.

Пример. а) Погрешность измерения тока составляет 0,125А. Удерживая одну значащую цифру, значение погрешности округляется до ±0,1А

б) Погрешность измерения напряжения составляет 0,152В. Удерживая две значащие цифру, значение погрешности округляется до ±0,15В.

2.4.1.3 Числовое значение результата измерений должно оканчиваться цифрой или нулем того же десятичного знака, что и значение погрешности.

Пример. 125,832 ± 0,15 записывается 125,83 ± 0,15.

2.4.1.4 Если первая отбрасываемая цифра меньше пяти, то последняя удерживаемая цифра не изменяется.

Пример. (125,721 ± 0,2)В округляется до (125,7 ± 0,2)В.

2.4.1.5 Если первая отбрасываемая цифра больше пяти или равна пяти, то последняя удерживаемая цифра увеличивается на единицу.

Пример. 25,268 ± 0,4 округляется до 25,3 ± 0,4;

25,253 ± 0,3 округляется до 25,3 ± 0,3.

2.4.1.6 Если первая отбрасываемая цифра равна пяти и за ней не следует значащих цифр (или следуют только нули), то округление производится до ближайшего четного.

Пример. 10,650 ± 0,3 округляется до 10,6 ± 0,3;

10,550 ± 0,3 округляется до 10,6 ± 0,3.


1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 13 | 14 | 15 | 16 | 17 | 18 | 19 | 20 | 21 | 22 |

Поиск по сайту:



Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав. Студалл.Орг (0.003 сек.)