Запись - отсчет - Большая Энциклопедия Нефти и Газа, статья, страница 4
Если существует искусственный интеллект, значит, должна существовать и искусственная тупость. Законы Мерфи (еще...)

Запись - отсчет

Cтраница 4


В записи приближенного числа различают цифры достоверные и недостоверные. В записи результата отсчета по шкале правильного измерительного прибора цифры, соответствующие делениям шкалы, считаются достоверными; цифры, соответствующие отсчету между делениями низшего порядка шкалы на глаз - недостоверными. При округлении точного числа оно становится приближенным, и последняя его значащая цифра является недостоверной. В результатах вычислений достоверны только те цифры, которые получены вследствие арифметических действий над достоверными цифрами. Все остальные цифры недостоверны. Верен такой результат вычисления, в котором все цифры достоверны, кроме одной последней. Верна такая запись отсчета по шкале измерительного прибора, которая содержит только одну недостоверную цифру, соответствующую отсчету на глаз. Точность результата вычисления не может быть выше точности наименее точного числа, участвующего в вычислении. Наименее точным числом считают то, которое содержит наименьшее количество или значащих цифр - в случае умножения и деления, или десятичных знаков - в случае сложения и вычитания.  [46]



Страницы:      1    2    3    4