АвтоАвтоматизацияАрхитектураАстрономияАудитБиологияБухгалтерияВоенное делоГенетикаГеографияГеологияГосударствоДомДругоеЖурналистика и СМИИзобретательствоИностранные языкиИнформатикаИскусствоИсторияКомпьютерыКулинарияКультураЛексикологияЛитератураЛогикаМаркетингМатематикаМашиностроениеМедицинаМенеджментМеталлы и СваркаМеханикаМузыкаНаселениеОбразованиеОхрана безопасности жизниОхрана ТрудаПедагогикаПолитикаПравоПриборостроениеПрограммированиеПроизводствоПромышленностьПсихологияРадиоРегилияСвязьСоциологияСпортСтандартизацияСтроительствоТехнологииТорговляТуризмФизикаФизиологияФилософияФинансыХимияХозяйствоЦеннообразованиеЧерчениеЭкологияЭконометрикаЭкономикаЭлектроникаЮриспунденкция

Обработка результатов измерений (правила округления)

Читайте также:
  1. Cкоростная автоматическая обработка
  2. I.5.5. Просмотр и анализ результатов решения задачи
  3. I.Описание оборудования для проведения измерений
  4. III. Анализ результатов психологического анализа 1 и 2 периодов деятельности привел к следующему пониманию обобщенной структуры состояния психологической готовности.
  5. III. Создание и обработка комплексного информационного объекта в виде презентации с использованием шаблонов.
  6. N – число измерений.
  7. V. ПОРЯДОК ОФОРМЛЕНИЯ РЕЗУЛЬТАТОВ ИНСПЕКТИРОВАНИЯ МЕСТ ПРИНУДИТЕЛЬНОГО СОДЕРЖАНИЯ
  8. VI. Представление результатов исследования
  9. VII. Оформление результатов аттестации рабочих мест по условиям труда
  10. А Порядок работы на станции при тахеометрической съемке. Вычислительная и графическая обработка результатов съемки.
  11. А. Термическая обработка
  12. Автоматизация измерений

Результат измерений выражается числом, содержащим значащие цифры, количество которых определяется свойствами отсчетного устройства измерительного прибора. Значащими считаются все цифры в числовом результате, в том числе и нуль, если он стоит в середине или конце числа. Например, результаты измерений 1,27· 10-2 и 0,0127 содержат по три, а 127,05 и 1275,0 - по пять значащих цифр.

Результат измерений является приближенным значением, содержащим некоторое количество верных знаков. Верными являются все знаки в числовом результате, достоверность которых не вызывает сомнений. Количество верных знаков в результате определяется его погрешностью.

При определении результата измерений следует использовать следующие правила:

а) величина случайной погрешности , как и сам результат измерений, является случайной величиной. Можно показать, что при п = 10 измерениях определяется с погрешностью около 30%, при п = 25 - около 15%. Это означает, что при п = 10 измерениях для следует приводить 1 значащую цифру, если она больше 3, и две значащие цифры, если первая из них меньше 4. При п = 25...40 измерениях для следует две значащие цифры.

Пример. Если в результате расчета получено = 0,124, то при п = 10 погрешность измерения принимается равной = 0,1, а при п = 25...40 равной =.0,12. Если в результате расчета получено = 0,437, то погрешность измерения принимается равной = 0,44 в обоих случаях;

б) числовое значение результата измерений (в том числе и результат расчета при косвенных измерениях) должно оканчиваться цифрой того же десятичного знака, что и значение погрешности. Пример. Результат (123,456 ± 0,1) мкА следует записать как (123,5 ± 0,1) мкА.

При округлении числового значения результата измерений следует придерживаться следующих правил:

- если первая отбрасываемая цифра меньше пяти, то последняя из удерживаемых цифр не изменяется;

- если первая отбрасываемая цифра больше пяти либо равна пяти и за ней следуют отличные от нуля значащие цифры, то последняя из удерживаемых цифр увеличивается на единицу;

- если первая отбрасываемая цифра равна пяти и за ней не следуют отличные от нуля значащие цифры, то округление производится до ближайшего четного.

 

 


1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 |

Поиск по сайту:

Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав. Студалл.Орг (0.168 сек.)