Правила округления. Обработка и представление результатов измерений. Процедура
Обработка и представление результатов измерений. Процедура
1. Назначение и область применения
1.1. Процедура устанавливает единые требования к обработке и представлению результатов измерений, полученных в лаборатории (центре).
1.2. Представление результатов измерений в лабораторных журналах и в документах, выдаваемых лабораторией, осуществляется согласно методикам измерений и данной процедуре.
1.3. Требования настоящей процедуры распространяются на всех специалистов лаборатории (центра).
2. Нормативные ссылки
2.1. СТ СЭВ 543-77 «Числа. Правила записи и округления» (настоящий стандарт является обязательным в рамках Конвенции о применении стандартов СЭВ);
2.2. ГОСТ 8.736-2011 «Государственная система обеспечения единства измерений (ГСИ). Измерения прямые многократные. Методы обработки результатов измерений. Основные положения»;
2.3. МР 18.1.04-2005 «Система контроля качества результатов анализа проб объектов окружающей среды»;
2.4. ПМГ 96-2009 «Государственная система обеспечения единства измерений (ГСИ). Результаты и характеристики качества измерений. Формы представления» (правила по межгосударственной стандартизации введены в действие для добровольного применения в РФ в качестве рекомендаций по метрологии РФ).
3.1. Значащие цифры числа – это все цифры от первой слева, не равной нулю, до последней записанной цифры справа. При этом нули, следующие из множителя 10 n , не учитываются (согласно СТ СЭВ 543-77).
Примеры
1) Число 12,0 – имеет три значащие цифры;
2) Число 30 – имеет две значащие цифры;
3) Число 120 × 10 3 – имеет три значащие цифры;
4) Число 0,514 × 10 – имеет три значащие цифры;
5) Число 0,0056 × 10 – имеет две значащие цифры;
6) Число 0,704 – имеет три значащие цифры;
7) Число 68 – имеет две значащие цифры.
Таким образом, нули вначале числа всегда незначимы; нули в середине числа между ненулевыми цифрами значимы; нули в конце числа могут быть значимыми и незначимыми.
По количеству значащих цифр осуществляется запись приближенных чисел (согласно СТ СЭВ 543-77).
Пример
Следует различать числа 2,4 и 2,40.
Запись 2,4 означает, что верны только цифры целых и десятых; истинное значение числа может быть, например, 2,43 и 2,38.
Запись 2,40 означает, что верны и сотые доли числа; истинное число может быть, например, 2,403 и 2,398, но не 2,421 и не 2,382.
3.2. Округление числа – это отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда (согласно СТ СЭВ 543-77).
В случае, если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется.
В случае, если первая из отбрасываемых цифр (считая слева направо) равна или больше 5, то последняя сохраняемая цифра увеличивается на единицу.
Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.
Примеры
1) Если число 12,364 требуется округлить до сотых долей, после округления получаем число 12,36; если число 12,364 требуется округлить до десятых долей, после округления получаем число 12,4.
2) Если число 0,703 требуется округлить до сотых долей, получаем число 0,70; если число 0,703 требуется округлить до десятых долей, после округления получаем число 0,7.
3) Если число 0,703 требуется округлить до двух значащих цифр, после округления получаем число 0,70; если число 0,703 требуется округлить до одной значащей цифры, после округления получаем число 0,7.
4) Если число 0,429 требуется округлить до двух значащих цифр, после округления получаем число 0,43; если число 0,429 требуется округлить до одной значащей цифры, после округления получаем число 0,4.
5) Если число 8,574 требуется округлить до двух значащих цифр, после округления получаем число 8,6; если число 8,574 требуется округлить до одной значащей цифры, после округления получаем число 9.
6) Поэтапное округление результата измерения 227,46 дает на первом этапе 227,5 и на втором этапе 228, в то время как правильный результат округления 227.
3.3. Окончательный результат – это результат измерения с погрешностью, который вносится испытателями в лабораторные журналы. Окончательный результат выдается лабораторией в протоколе испытаний.
3.4. Промежуточные результаты – это вся информация по анализу от показания приборов до окончательного результата (в том числе расчеты результатов единичных определений; расчет результата измерения как среднеарифметическое значение результатов единичных определений, полученных в условиях повторяемости; контроль повторяемости; расчет погрешности). Промежуточные результаты заносятся испытателями в лабораторные журналы, но в протоколах испытаний не выдаются.
4.1. Требования к промежуточному результату
4.1.1. Число значащих цифр в промежуточных вычислениях при обработке результатов измерений должно быть больше, чем в окончательном результате.
4.1.2. Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим две значащие цифры, то для промежуточных результатов расчета сохраняем не менее трех значащих цифр.
4.1.3. Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим одну значащую цифру, то для промежуточных результатов расчета сохраняем не менее двух значащих цифр.
4.1.4. При проведении промежуточных расчетов в рукописных лабораторных журналах в числовых значениях измеряемой величины и погрешности следует оставлять столько значащих цифр, чтобы в окончательном результате не появлялась ошибка, связанная с поэтапным округлением.
Примеры
| Промежуточные результаты | Окончательные результаты |
| 0,178 ± 0,053 | 0,18 ± 0,05 |
| 0,1784 ± 0,0533 | 0,178 ± 0,053 |
| 1,22 ± 0,18 | 1,2 ± 0,2 |
| 1,224 ± 0,183 | 1,22 ± 0,18 |
| 3,74 ± 0,748 | 3,7 ± 0,7 |
| 3,742 ± 0,748 | 3,74 ± 0,75 |
| 12,83 ± 1,28 | 12,8 ± 1,3 |
| 54,2 ± 5,4 | 54 ± 5 |
| 54,23 ± 5,42 | 54,2 ± 5,4 |
| 177,6 ± 33,7 | 178 ± 34 |
| 2357,4 ± 212,2 | 2357 ± 212 |
| 11624,8 ± 5812,4 | 11624 ± 5812 |
4.2. Требования к окончательному результату
4.2.1. Числовые значения результата измерений и его погрешности (неопределенности) записываются с указанием одной и той же единицы измерения.
Примеры
(5,4 ± 0,5) мг/дм³;
(6,1 ± 0,7) ммоль/ дм³.
4.2.2. Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение его погрешности (неопределенности).
Примеры
| Правильно | Неправильно |
| 0,043 ± 0,004 | 0,043 ± 0,0043 |
| 0,0428 ± 0,0043 | 0,0428 ± 0,004 |
| 17,0 ± 0,2 | 17,00 ± 0,2 или 17 ± 0,2 |
| 12,13 ± 0,17 или 12,1 ± 0,2 | 12,1 ± 0,17 или 12,13 ± 0,2 |
| 46,40 ± 4,64 или 46,4 ± 4,6 | 46,402 ± 4,64 или 46,4 ± 4,64 |
4.2.3. Значение погрешности (неопределенности) результата измерений представляют числом, содержащим одну или две значащих цифры. Если числовое значение погрешности (неопределенности) в целой части числа содержит три и более цифр, то результат и погрешность округляются до целых чисел без подсчета количества значащих цифр.
Примеры
| Результаты измерения |
| 0,14 ± 0,05 |
| 0,164 ± 0,051 |
| 1,1 ± 0,1 |
| 1,18 ± 0,11 |
| 3,6 ± 0,6 |
| 3,28 ± 0,54 |
| 12,4 ± 1,2 |
| 44 ± 4 |
| 44,2 ± 4,4 |
| 168 ± 34 |
| 2357 ± 212 |
| 23684 ± 1184 |
4.2.4. Если заказчик требует другие формы представления результатов измерений, лаборатория оставляет за собой право учитывать эти требования.
Ответственность за правильность обработки и представления результатов измерений несут специалисты лаборатории.
Представление результатов измерений на примере определения обобщенных и химических показателей в воде с учетом требований методик измерений
1. Железо общее (ГОСТ 4011-72)
Округлять результат до двух значащих цифр.
Примеры
| Окончательные результаты, мг/дм³ | Промежуточные результаты, мг/дм³ |
| 0,12 ± 0,03 | 0,116 ± 0,029 |
| 0,18 ± 0,04 | 0,178 ± 0,0445* |
| 0,18 ± 0,05 | 0,183 ± 0,046 |
| 0,31 ± 0,08 | 0,308 ± 0,077 |
| 1,3 ± 0,3 | 1,26 ± 0,32 |
| 1,8 ± 0,3 | 1,77 ± 0,32 |
| 12 ± 2 | 12,4 ± 2,2 |
| 25 ± 5 | 25,3 ± 4,6 |
* — дополнительные цифры в промежуточных результатах оставлены для предотвращения ошибки в окончательных результатах при поэтапном округлении.
2. Хлориды (ПНД Ф 14.1:2:3.96-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
3. Фосфорсодержащие вещества (ГОСТ 18309-2014)
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности, выраженное в мг/дм³ и содержащее не более двух значащих цифр.
4. Взвешенные вещества (ПНД Ф 14.1:2:3.110-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
5. Цветность (ГОСТ 31868-2012)
В протоколе указывают метод определения цветности по настоящему стандарту, результат с указанием единиц измерения (например, градусов цветности по хром-кобальтовой шкале Cr-Co) и температуру пробы анализируемой воды.
Пример
Цветность — 10 градусов цветности (Cr-Co), 18 °С.
При определении цветности при постоянной комнатной температуре (20 ± 5) °С в конкретной лаборатории допускается по согласованию с заказчиком не указывать в протоколе значение температуры.
6. Металлы (ПНД Ф 14.1:2:4.139-98)
Примеры записи числовых значений:
| Диапазон, мг/дм³ | Точность округления, мг/дм³ |
| от 0,004 до 0,01 вкл. | 0,0001 |
| от 0,01 до 0,1 вкл. | 0,001 |
| от 0,1 до 1 вкл. | 0,01 |
| от 1 до 10 вкл. | 0,1 |
| свыше 10 | 1 |
7. Алюминий (ГОСТ 18165-2014)
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и абсолютное значение характеристики погрешности измерений, выраженное в мг/дм³. Абсолютное значение характеристики погрешности измерений представляют двумя значащими цифрами, если первая цифра не превышает 3. В остальных случаях оставляют одну значащую цифру.
Примеры
| Окончательные результаты, мг/дм³ | Промежуточные результаты, мг/дм³ |
| 0,287 ± 0,057 | 0,2872 ± 0,0574 |
| 0,262 ± 0,052 | 0,2623 ± 0,05246* |
| 2,38 ± 0,48 | 2,381 ± 0,476 |
| 13,5 ± 2,7 | 13,47 ± 2,69 |
| 16,6 ± 3,3 | 16,62 ± 3,32 |
| 22 ± 4 | 21,8 ± 4,4 |
| 27 ± 5 | 27,4 ± 5,48* |
| 38 ± 7 | 38,47* ± 7,7 |
| 51 ± 10 | 51,46* ± 10,3 |
* — дополнительные цифры в промежуточных результатах оставлены для предотвращения ошибок при поэтапном округлении.
8. Нефтепродукты (ПНД Ф 14.1:2:4.128-98)
Примеры записи числовых значений, мг/дм³:
| 0,009 ± 0,005 | 0,08 ± 0,03 |
| 0,65 ± 0,16 | 3,5 ± 0,9 |
| 3,5 ± 0,9 | 25 ± 6 |
9. Анионные поверхностно-активные вещества (ПНД Ф 14.1:2:4.158-2000)
| Примеры записи для питьевой воды, мг/дм³ | Примеры записи для природной и сточной воды, мг/дм³ |
| 0,028 ± 0,010 | 0,080 ± 0,032 |
| 0,44 ± 0,12 | 0,35 ± 0,11 |
| 4,8 ± 1,0 | 71 ± 17 |
10. Щелочность (МП УВК 1.19-2013)
Численные значения результата количественного химического анализа должны оканчиваться цифрой того же разряда, что и численное значение характеристики погрешности. Характеристику погрешности измерения следует выражать числом, содержащим не более двух значащих цифр.
11. Температура, прозрачность, запах (РД 52.24.496-2018)
Численное значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности.
12. Кальций (РД 52.24.403-2018)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения погрешности; последние не должны содержать более двух значащих цифр.
13. Перманганатная окисляемость (ПНД Ф 14.1:2:4.154-99)
Результаты измерений округляют с точностью:
| Диапазон, мг/дм³ | Точность округления, мг/дм³ |
| от 0,25 до 1,0 вкл. | 0,01 |
| от 1,0 до 10 вкл. | 0,1 |
| свыше 10 | 1 |
14. Фториды (ПНД Ф 14.1:2:4.270-2012)
Результаты измерений концентрации фторид-ионов при занесении в протокол округляют с точностью:
| Диапазон, мг/дм³ | Точность округления, мг/дм³ |
| от 0,15 до 10 вкл. | 0,01 |
| свыше 10 | 0,1 |
15. Растворенный кислород (ПНД Ф 14.1:2:3.101-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
Источник
Урок 43 Бесплатно Приближенные значения чисел. Округление чисел
Человеку постоянно приходится сталкиваться с решением различных практических и теоретических задач, которые чаще всего связаны с нахождением числовых значений величин.
Измерить какую-либо величину- это значит сравнить ее с однородной величиной, принятой за единицу измерения.
В большинстве случаев полученные значения в результате вычислений и измерений получаются неточными, приближенными: немного больше или меньше истинного значения.
Точность- это степень приближения результата измерения (вычисления) к реальному значению.
Чем меньше точность, тем больше погрешность (расхождение истинного и полученного значения) и, соответственно, чем меньше погрешность, тем выше точность.
Точные измерения проблематичны в реальности по ряду причин:
- Несовершенство органов чувств человека.
- Неточность и несовершенство измерительных приборов.
- Характеристики самого измеряемого объекта, не позволяющие выполнить точные измерения и вычисления.
Так, например, невозможно точно до метра определить протяженность рек, гор, расстояние от Земли до Луны, с точностью до грамма проблематично определить массу грузовика и т.д.
Сегодня на уроке мы научимся находить приближенные значения с избытком и недостатком.
Познакомимся с правилом округления чисел до заданного разряда.
Рассмотрим несколько примеров округления чисел.
Приближенные значения чисел
В настоящее время в различные сферы жизни человека все больше внедряются современные высокоточные устройства, которые позволяют быстро и точно производить измерения и вычисления.
Однако, порой нам даже нет необходимости знать точное значение величины.
Не раз нам приходилось встречать такие фразы: «около одного часа», «примерно один килограмм» или «приблизительно двадцать тысяч рублей» и т.п.
В подобных фразах синонимы: «около», «примерно», «приблизительно» и т.д. указывают на приближенность значений величины, на чуть большее или меньшее значение относительно реального.
Например, говоря о своем возрасте, мы чаще всего называем количество лет и месяцев, не упоминая о прожитых днях и часах.
На вопрос «который час?» мы скорее всего назовем сколько часов и минут в данный промежуток времени, не указывая секунды.
Числа, с которыми нам приходится встречаться и использовать в действительности, бывают двух типов:
- Точные (в истинности которых мы не сомневаемся).
Например, говоря о том, что у треугольника 3 стороны, число 3 представляет собой точным числом.
В утверждении о том, что стул имеет 4 ножки, число 4 так же является точным.
- Приближенные (близкие к истинному значению).
На практике, измеряя расстояние, массу, температуру, объем, площадь и другие величины, мы не можем определить их точные значения, а порой эти точные значения вовсе не требуется находить.
Поэтому важно знать (заранее установить) с какой точностью необходимо выполнить измерения и вычисления, т.е. необходимо выяснить какие доли единицы измерения необходимо принять во внимание, а какими можно пренебречь.
Приближенные значения делят на:
- Приближенные значения с недостатком.
- Приближенные значения с избытком.
Рассмотрим поясняющий пример.
Обратите внимание на рисунок.
Улитка проползла некоторое расстояние и остановилась, данное расстояние обозначим как х (см).
Заметим, что улитка смогла преодолеть больше 7 см, но не смогла доползти до отметки 8 см.
Получается, что расстояние, которое проползла улитка больше 7 см, но меньше 8 см:
Математический язык использует огромное количество специальных символов и знаков, которые однозначно отражают свойства изучаемых процессов, явлений, объектов, освобождают от громоздких записей, конкретны в своей трактовке.
Одним из таких знаков является приближенное равенство.
Приближенное значение указывают с помощью специального знака.
Обозначается данный знак в виде двух волнистых линий: ≈
Знак «приближенное равенство» в 1882 г. предложил немецкий физик-математик Адам Вильгельм Зигмунд Гюнтер.
Запись приближенное равно читается как «приблизительно равно» или «приближенно равно».
Например, a + b ≈ c читается так: сумма a и b приближенно равна с.
Пройти тест и получить оценку можно после входа или регистрации
Округление чисел
Чтобы найти приближенное значение числа, используют математическое действие- округление чисел (замена числа его ближайшим «круглым» числом).
«Круглым» числом называют число, оканчивающееся одним или несколькими нулями.
Округление- это математическая операция, с помощью которой можно уменьшить количество знаков в числе за счет замены этого числа его близким значением с определенной точностью.
Суть операции округления заключается в нахождении числа ближайшего по своему значению к истинному.
Округлить можно любое число до любого разряда.
Важно знать и помнить правильное название и расположение разрядов в числе.
Вспомним разряды десятичных дробей.
Замену числа ближайшим к нему натуральным числом или нулем называют округлением этого числа до целых.
Десятичные дроби возможно округлять так же как натуральные числа до единиц, десятков, сотен, тысяч и т.д.
При округлении числа до десятков число заменяют «круглым» числом, которое должно состоять из целых десятков, а вместо разряда единиц должен быть нуль.
Если необходимо округлить число, например, до сотен, это число заменяют «круглым» числом, в котором остается разряд сотен, а в разряде десятков и единиц должны стоять нули.
Округлим 1,7 до целого.
Рассмотрим процесс округления десятичной дроби с помощью координатного луча.
Разложим заданное число по разрядам.
1,7 = 1 + 0,7
Изобразим горизонтальный координатный луч, направленный вправо, с началом отсчета в точке О(0) и единичным отрезком ОЕ, равным 1 единице.
Отметим на координатном луче точку с координатой 1,7.
Отложим один целый единичный отрезок от начала координат, получим одну целую единицу.
Чтобы отметить дробь 0,7, второй единичный отрезок разделим на десять долей, каждая такая доля будет равна \(\mathbf<\frac<1> <10>= 0,1>\).
От точки с координатой 1 отложим вправо семь долей единичного отрезка ОЕ, получим точку с координатой 1,7.
Обратим внимание, что точка 1,7 находится между натуральными числами 1 и 2.
Точка с координатой 1,7 удалена от точки Е(1) на семь долей единичного отрезка ОЕ, а от точки с координатой 2— всего на три доли единичного отрезка ОЕ.
Таким образом, можно утверждать, что точка с координатой 1,7 расположена ближе к точке с координатой 2.
Значит, при округлении числа 1,7 до целых получается число 2 (1,7 приближенно равно 2).
1,7 ≈ 2
Десятичные дроби так же можно округлять до определенного разряда, стоящего после десятичной запятой: до десятых, сотых, тысячных и т.д.
При округлении до какого-либо разряда все последующие за этим разрядом цифры заменяют нулями, а если они стоят после запятой, то их просто отбрасывают.
Округление чисел происходит по определенному правилу, рассмотрим его.
Чтобы округлить число до какого-либо разряда нужно:
Поясним на примерах.
Пример №1.
Округлим 83421 до сотен.
Подчеркнем в числе цифру 4, так как она стоит в разряде сотен.
83 4 21
За подчеркнутой цифрой стоит цифра 2, следовательно, необходимо действовать согласно Правила №1: оставить цифру 4 без изменения.
Все цифры, стоящие после разряда сотен (цифры 2 и 1), заменим нулями.
В итоге получим округление числа 83 4 21 до 83 4 00.
Результат запишем следующим образом: 83421 ≈ 83400.
Пример №2.
Округлим до разряда единиц число 316,52.
Число 316,52 будем округлять до целых.
Известно, что десятичная дробь состоит из целой части (находящейся до десятичной запятой) и дробной части (находящейся после десятичной запятой).
В заданной десятичной дроби 316,52 в разряде единиц стоит цифра 6.
Подчеркнем цифру 6.
31 6 ,52
Цифра, стоящая справа от подчеркнутой цифры- это цифра 5, следовательно, необходимо действовать согласно Правила №2: к подчеркнутой цифре 6 прибавить единицу.
Получим в разряде единиц цифру 7, все цифры, стоящие следом за округляемым разрядом (стоящие после десятичной запятой), отбрасываем.
В итоге получим округление числа 31 6 ,52 до 31 7 .
Результат запишем следующим образом: 316,52 ≈ 317.
Пример №2.
Округлим число 27,819 до разряда сотых.
В заданной десятичной дроби 27,819 в разряде сотых стоит цифра 1, подчеркнем ее.
27,8 1 9
За подчеркнутым разрядом стоит цифра 9, следовательно, необходимо действовать согласно Правила №2: к подчеркнутой цифре 1 прибавить единицу.
Получим в разряде сотых цифру 2, все цифры, следующие за разрядом сотых, просто отбрасываем.
В итоге получим округление числа 27,8 1 9 до 27,8 2 .
Результат запишем следующим образом: 27,819 ≈ 27,82.
У меня есть дополнительная информация к этой части урока!
Округлим до тысячных число 1,2397.
В разряде тысячных стоит цифра 9, подчеркнем ее.
1,23 9 7
Справа от подчеркнутой цифры находится цифра 7, значит, необходимо действовать согласно Правила №2: к подчеркнутой цифре 9 прибавить единицу.
9 + 1 = 10
Ноль необходимо оставить в разряде тысячных, а единицу добавить к предыдущему (старшему) разряду, все цифры, стоящие после разряда тысячных нужно просто отбросить.
Получим следующий результат: 1,23 9 7 ≈ 1,240.
Ноль, в полученной десятичной дроби 1,240 оставляем, чтобы показать до какого разряда производилось округление.
Пройти тест и получить оценку можно после входа или регистрации
Источник
