Значащие цифры и правила округления

Нижнекамский химико-технологический институт (филиал)

Федерального государственного бюджетного образовательного учреждения

высшего профессионального образования

«Казанский национальный исследовательский технологический университет»

 

Кафедра химии

 

Статистика в химическом анализе

 

Методические указания и контрольные задания

Для самостоятельной работы

 

 

Ведущий преподаватель к.х.н. Т.И.Ахметова

 

г. Нижнекамск, 2013

 

Общие указания

 

Выполнение контрольной работы является необходимым этапом самостоятельной работы студента при изучении курса «Статистика в химическом анализе». Зачтенная преподавателем контрольная работа служит основанием для допуска к сдаче зачета или экзамена.

При оформлении контрольной работы следует придерживаться следующих правил:

· все задачи должны строго соответствовать варианту и быть решены в последовательности, указанной в таблице вариантов (номер варианта следует согласовывать в деканате);

· работа может быть оформлена в компьютерном или рукописном варианте;

· на обложке тетради (на титульном листе) должен быть указан номер варианта, а перед описанием задачи – номер задачи;

· условия задач должны быть переписаны в тетрадь полностью;

· решения задач должны содержать краткие объяснения и комментарии к выполненным арифметическим действиям, ссылки на использованные при решении законы и правила;

Прежде чем приступать к решению той или иной задачи, следует изучить теоретические основы данного раздела и усвоить тот объем теоретического материала, который необходим для решения задачи, используя при этом рекомендуемые учебные пособия (см. ниже), лекции, а также примеры, представленные в настоящем пособии.

Срок сдачи контрольной работы – не позднее, чем за неделю до начала сессии.

2 Вопросы для самоконтроля

1. Правила округления в случаях, когда за округляемой цифрой стоит цифра (>5); (<5); (=5).

2. Дайте определение - какие цифры называют значащими. Какова значимость нуля в числах, если нуль стоит в начале числа, в середине числа, в конце числа после запятой, в конце целого числа?

3. Как определяется число значащих цифр суммы или разности чисел? Как определяется число значащих цифр произведения или частного?

4. Как определяется значимость числа при возведении числа в степень и при извлечении квадратного корня? Как определяется число значащих цифр при логарифмировании?

5. Как вычисляется абсолютная и относительная погрешность? Единицы измерения абсолютной и относительной погрешности. Дайте характеристику – какие погрешности относят к систематическим, к случайным, к промаху?.

6. Что характеризует правильность химического анализа? О чем свидетельствует близость результатов параллельных оп­ределений компонента? Чем отличаются понятия «сходимость» и «воспроизводимость»?

7. Как проверить правильность результатов химического анализа? Как снизить погрешность метода или методики?

8. Как выявить наличие «промаха»? Что называют погрешностью химического анализа?

9. Перечислите основные признаки систематических погрешностей. Приведите примеры источника систематических погрешностей. Что такое «контрольный опыт»?

10. Что должен сделать экспериментатор перед применением мате­матической статистики для обработки данных химического анализа?

11. Дайте определение генеральной и выборочной совокупности данных. Когда химик-аналитик может считать, что имеет генеральную совокупность результатов?

12. Какому виду распределения подчиняются обычно данные хи­мического анализа? Как оценивают нормальность распределения результатов химического анализа?

13. Что характеризует дисперсия, стандартное отклонение и отно­сительное стандартное отклонение выборочной совокупности результатов химического анализа? Приведите формулы для расчета этих величин.

14. Как сравнить по воспроизводимости две выборочные совокуп­ности результатов химического анализа? Как доказать, что результаты двух выборочных совокупностей принадлежат одной и той же генеральной совокупности данных химиче­ского анализа?

15. Дайте определение понятия «аналитический сигнал». Приведите примеры. Чем определяется интервал определяемых концентраций или количеств?

16. Дайте определение «предела обнаружения». Что характеризует понятие «предела обнаружения»? Как рассчитать предел обнаружения? Что такое нижняя граница определяемых количеств или кон­центраций?

16 Построение градуировочных графиков методом наименьших квадратов.

17 Линейная корреляция. Коэффициент корреляции.

3 Рекомендуемая литература

1 Васильев В.П. Аналитическая химия. Кн. 1. Титриметрические и гравиметрический методы анализа: учеб. для вузов, обуч. по хим.-технол. спец./ В.П. Васильев. – 2-е изд., перераб. и доп. – М.: Дрофа, 2002. – (Высш. образование). – 368 с.: ил.

2 Аналитическая химия: в 2 томах / Г.Кристиан Г; пер. с англ. – М.:БИНОМЛаборатория знаний, 2009.-(Лучший зарубежный учебник)

 

3 Золотов Ю.А. Основы аналитической химии. В 2 кн. Кн 2. Методы химического анализа: Учеб. Для вузов / Ю.А. Золотов, Е.Н. Дорохова, В.И. Фадеева и др. Под ред. Ю.А. Золотова – 2-е изд., перераб. И доп. – М.: Высш. шк.; 2002. – 494 с.: ил.

4 Харитонов Ю.А. Аналитическая химия: в 2-х томах/ Ю.А. Харитонов.-М.: Высш. шк.,2000.

5 Гиниятуллин Н.Г., Дорожкин В.П. Математическая обработка результатов анализа. Методические указания. Г. Нижнекамск. НХТИ.. 1999 г.

Основные понятия, примеры решения задач и контрольные задания

Значащие цифры и правила округления

Принято экспериментальные данные и результаты расчетов выражать только значащими цифрами. Значащими называют все достоверно известные цифры плюс первая из недостоверных, т. е. все результаты следует округлять до первой недостоверной цифры.

Для оценки достоверности результатов аналитических определений следует учитывать реальные возможности используемой методики. В качестве статистических критериев при этом может служить, например, стандартное отклонение или доверительный интервал. Если такие сведения отсутствуют, недостоверность принимают равной ±1 в последней значащей цифре.

Правила округления

Если за первой недостоверной цифрой следует цифра меньше 5, округляемую цифру оставляют без изменения (округление с уменьшением), а если больше 5, округляемую цифру увеличивают на единицу (округление с увеличением).

Несколько сложнее правила округления, когда за последней округляемой цифрой стоит 5. Если за этой цифрой 5 нет более никаких цифр, то округляют до четной цифры.

Если за цифрой 5 имеется еще какая–либо отличная от нуля цифра, то округляют с увеличением, однако если 5 получено уже в результате округления, то округляют с уменьшением, т.е. 5 просто отбрасывают.

При окончательном округлении результатов сначала округляют погрешность. Часто, но не всегда принимают во внимание, что, если первая цифра погрешности , в значении погрешности приводят две значащие цифры, а если , - то одну.

Обращение с нулями.Нуль в числах может быть значим и незначим. Нули, стоящие в начале числа, всегда незначимы и служат лишь для указания места запятой в десятичной дроби. Например, число 0,01 содержит лишь одну значащую цифру. Нули, стоящие между цифрами, всегда значимы. Например, в числе 0,508 три значащие цифры. Нули в конце числа могут быть значимы и незначимы. Нули, стоящие после запятой в десятичной дроби, считаются значимыми. Например, в числе 200,0 четыре значащие цифры.

Нули же в конце целого числа могут означать значащую цифру, а могут просто указывать порядок величины. Например, в числе 200 значащих цифр может быть: одна (2), две (2 и 0), три (2, 0 и 0). Чтобы избежать неопределенности, рекомендуется в таких случаях представить число в виде произведения числа, содержащего только значащие цифры, на 10ⁿ. Например, если в числе 200 одна значащая цифра, то следует изобразить его как 2 • 10², если две значащие цифры — 2,0·10², если три значащие цифры — 2,00·10².

Сложение и вычитание.Значимость суммы или разности определяется значи­мостью числа с наименьшим числом десятичных знаков. Например, при сложении чисел 50,1+ 2 + 0,55 значимость определяется недостоверностью числа 2 и, следова­тельно, сумму чисел 52,65 следует округлить до 53.

Если при сложении и вычитании используют числа, содержащие положительные или отрицательные показатели степени, то эти числа следует преобразовывать таким образом, чтобы показатели степени у всех них были одинаковы.

Например, при сложении чисел 4·10^-5, 3,00·10^-2 и 1,5·10^-4 нужно представить их следующим образом: 0,004·10^-2, 3,00·10^-2 и 0,015·10^-2. Пользуясь правилом значимости суммы, получаем 3,02·10^-2, поскольку значимость суммы определяется значимостью числа 3,00·10^-2, имеющего наименьшее число десятичных знаков.

Умножение и деление.Для оценки значимости произведения (или частного) часто пользуются следующим правилом: значимость произведения (или частного) определяется значимостью сомножителя с наименьшим числом значащих цифр. Например, перемножение чисел 1,5 и 2,35 дает произведение, содержащее две значащие цифры, т. е. 3,5.

Более строгий подход основан на сравнении относительных недостоверностей сомножителей и произведения (или частного). Относительная недостоверность равна отношению абсолютной недостоверности числа к самому числу. Относительная недостоверность произведения (или частного) равна сумме относительных недостоверностей сомножителей. Например, нужно найти частное 98 : 87,25. Относительные недостоверности составляют (приближенно): 1:98 = 1·10^-2 и 0,01:87,25 = 1·10^-4. Следовательно, относительная недостоверность частного 0,01 +0,0001 = 1·10^-2. При делении чисел с помощью калькулятора получаем число 1,1232... Поскольку недостоверна вторая цифра после запятой, частное следует округлить до 1,12.

Возведение в степень.При возведении числа в степень относительная недостоверность результата увеличивается в число раз, равное степени. Например, при возведении в квадрат она удваивается.

Извлечение квадратного корня.Относительная недостоверность результата извлечения корня вдвое меньше относительной недостоверности подкоренного числа, поэтому в некоторых случаях после извлечения корня число значащих цифр увеличивается. Например, = 1,000, так как относительная недостоверность числа 1,00 равна 1·10^-2, а результат извлечения корня 0,005, т. е. неопределенность заключена в третьем знаке после запятой.

Логарифмирование. При логарифмировании число значащих цифр в мантиссе равно числу цифр, которое содержал нестепенной член числа. Характеристика логарифма не входит в число значащих цифр, так как они указывают лишь на порядок логарифмируемого числа.

Например, lg0,1·10^-2 = -3,0; lg0,10·10^-2 =-3,00; lg 0,1 = -1,0. Абсолютная недостоверность логарифма приблизительно в 2,5 раза меньше относительной недостоверности числа под логарифмом. Например, если логарифм известен с точностью 1·10^-3 , относительная погрешность логарифмируемой величины не меньше чем 2,5·10^-3. При вычислении антилогарифмов число зна­чащих цифр уменьшается. Например, antlg 10,23 = 1,7·10¹⁰.