Правила округления чисел

 

При округлении оставляют лишь верные знаки, остальные отбрасывают.

Правило 1. Округление достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше, чем 5.

Правило 2. Если первая из отбрасываемых цифр больше, чем 5, то последняя цифра увеличивается на единицу. Последняя цифра увеличивается также и в том случае, когда первая из отбрасываемых цифр 5, а за ней есть одна или несколько цифр, отличных от нуля. Например, различные округления числа 35,856 будут 35,86; 35,9; 36.

Правило 3. Если отбрасываемая цифра равна 5, а за ней нет значащих цифр, то округление производится на ближайшее четное число, т.е. последняя сохраняемая цифра остается неизменной, если она четная и увеличивается на единицу, если она нечетная. Например, 0,435 округляем до 0,44; 0,465 округляем до 0,46.

 

 

8. ПРИМЕР ОБРАБОТКИ РЕЗУЛЬТАТОВ ИЗМЕРЕНИЙ

 

Определение плотности твердых тел. Предположим, твердое тело имеет форму цилиндра. Тогда плотность ρ может быть определена по формуле:

 

 

где D – диаметр цилиндра, h – его высота, m – масса.

Пусть в результате измерений m, D, и h получены следующие данные:

 

№ п/п	m, г	Δm, г	D, мм	ΔD, мм	h, мм	Δh, мм	, г/см3	Δ , г/см3
	51,2	0,1	12,68	0,07	80,3	0,15	5,11	0,07	0,013
	12,63	80,2
	12,52	80,3
	12,59	80,2
	12,61	80,1
среднее			12,61		80,2		5,11

 

Будем считать, что определение массы цилиндра производилось с помощью технических весов. Допустимая ошибка таких весов равна Δm = 100 мг = 0,1 г.

Определим среднее значение D̃:

 

Найдем погрешности отдельных измерений и их квадраты

 

Определим среднюю квадратичную погрешность серии измерений:

 

 

Задаем значение надежности α = 0,95 и по таблице находим коэффициент Стьюдента t_α.n=2,8 (для n = 5). Определяем границы доверительного интервала:

 

 

Так как вычисленное значение ΔD = 0,07 мм значительно превышает абсолютную ошибку микрометра, равную 0,01 мм (измерение производится микрометром), то полученное значение может служить оценкой границы доверительного интервала:

 

D = D̃ ± ΔD; D = (12,61 ±0,07) мм.

 

Определим значение h̃:

 

тогда:

 

 

Следовательно:

 

 

Для α = 0,95 и n = 5 коэффициент Стьюдента t_α,n = 2,8.

 

 

Определяем границы доверительного интервала

 

.

 

Так как полученное значение Δh = 0,11 мм того же порядка, что и ошибка штангенциркуля, равная 0,1 мм (измерение h производится штангенциркулем), то границы доверительного интервала следует определить по формуле:

 

где

 

 

 

Следовательно:

 

 

 

Вычислим среднее значение плотности ρ:

 

 

Найдем выражение для относительной погрешности:

 

 

где

 

 

 

 

 

 

Окончательно имеем:

 

ЛИТЕРАТУРА

 

1. О.Н. Кассандрова, В.В. Лебедев Обработка результатов наблюдений. М., 1970, с. 12-53.

2. С.Г. Рабинович Погрешности измерений. Л., Энергия, 1978, с. 50-80.

3. А.Г. Зайгель Элементарные оценки ошибок измерений. М., Наука, 1968, с. 10-28.

4. Грановский В.А. Сирая Т.Н. Методы обработки экспериментальных данных при измерениях. – Л.: Энергоатомиздат., 1990. 288 с.

5. Селиванов М.Н., Фридман А.Э., Кудряшова Ж.Ф. Качество измерений: Метрологическая справочная книга. – Л.: Лениздат. 1987. – 295 с.

6. Деденко Л.Г., Корженцев В.В. Математическая обработка и оформление результатов эксперимента. – М.: Издательство МГУ. 1977. – 111 с.

7. ГОСТ 16263-70 Метрология. Термины и определения.

8. ГОСТ 8.207-76 Прямые измерения с многократными наблюдениями. Методы обработки результатов наблюдений.

9. ГОСТ 11.002-73 (ст. СЭВ 545-77) Правила оценки аномальности результатов наблюдений.

 

 

Царьковская Надежда Ивановна

 

Сахаров Юрий Георгиевич

 

Общая физика

Методические указания к выполнению лабораторных работ «Введение в теорию погрешностей измерений» для студентов всех специальностей

 

Формат 60*84 1/16 Объем 1 уч.-изд. л. Тираж 50 экз.

Заказ ______ Бесплатно

 

Брянская государственная инженерно-технологическая академия

Брянск, проспект Станке Димитрова, 3, БГИТА,

Редакционно-издательский отдел

 

Отпечатано – подразделение оперативной печати БГИТА