Правильное округление - Большая Энциклопедия Нефти и Газа, статья, страница 1
"Человечество существует тысячи лет, и ничего нового между мужчиной и женщиной произойти уже не может." (Оскар Уайлд) Законы Мерфи (еще...)

Правильное округление

Cтраница 1


Правильное округление обладает существенными достоинствами. Тем не менее на многих, если не большинстве, современных ЭВМ по тем или иным причинам округление не реализуется правильно.  [1]

Правильное округление результатов расчета оценок параметров распределения погрешностей особенно важно при использовании ЭВМ или электронного калькулятора, так как машина выдает их с заранее заданной разрядностью ( 5 или 9 десятичных знаков) и они гипнотизируют своей кажущейся точностью. Однако исходными данными, как правило, являются или малая выборка наблюдений, или нормируемые значения погрешностей с одной-двумя значащими цифрами. Поэтому при любых расчетах следует всегда находить погрешности полученной оценки и оставлять в округленном результате лишь 1 - 2 недостоверных десятичных знака. Однако при оценке погрешности может оказаться недостоверной даже первая значащая цифра. В этом случае приходится учитывать следующее обстоятельство.  [2]

Мы уже отмечали в главе I, что правильное округление в системе с четным основанием может быть реализовано неоднозначно.  [3]

Мы видим, что умножение дробей в СОК требует правильного округления результатов; кроме того, перевод дробей из одной системы счисления в другую, как правило, осуществляется приближенно, а это, естественно, приводит к выполнению операции округления. В этом случае результат арифметической операции будет более точен.  [4]

Применение синхронизированных генераторов счетных импульсов позволяет также решить вопрос о правильном округлении показаний цифрового прибора. На рис. 40 представлены временные эпюры, иллюстрирующие преобразование длительности модулирующего импульса в дискретную величину.  [5]

При делении с заданной точностью каретку до установки делимого отодвигают на столько разрядов вправо, сколько десятичных знаков должно быть в частном плюс единица. Лишний десятичный знак необходим для правильного округления частного. При этом в счетчике оборотов запятой отделяют столько знаков, на сколько разрядов передвинута каретка вправо, затем делят обычным путем.  [6]

Данный факт требует некоторого пояснения. Строго говоря, утверждение теоремы 3 справедливо лишь для тех. И дело не в том, что рассматривается именно правильное округление.  [7]

Наконец, рассмотрим использование процесса ортого-нализации. Матрица L в разложении (36.4) представлена в виде произведения матриц типа (24.9) и диагональных матриц, у которых не более одного элемента отлично от единицы. Если при вычислении вектора / согласно (36.7) применять операции накопления, то реально вычисленный вектор будет иметь в каждой своей координате такие же ошибки, как и при правильном округлении этих координат. Но матрица G близка к унитарной. Следовательно, евклидова норма вектора ошибок в / может быть с таким же весом перенесена в решение и. Мы уже отмечали, что система (36.6) с матрицей G, близкой к унитарной, может быть решена настолько точно, что эквивалентное возмущение войдет лишь в правую часть и согласно (35.8) будет весьма - малым.  [8]

Большинство современных ЭВМ работает в двоичной системе счисления. Правильная реализация округления на таких машинах вызывает определенные трудности и известно не так уж много ЭВМ, где эти трудности преодолены. На некоторых из них величина смещения в несколько раз превышает максимальное значение ошибки правильного округления. В этом отношении выгодно выделяются ЭВМ, использующие представление чисел в сокращенной троичной системе. На таких машинах ошибки округления не имеют смещения.  [9]

Коммутативность операций на ЭВМ гарантируется лишь тогда, когда ошибка округления однозначно определяется результатом точного выполнения операций. В частности, коммутативной будет операция сложения чисел с фиксированной запятой, так как ошибка округления здесь вообще отсутствует. Любые операции, коммутативные при точном выполнении, можно сделать коммутативными и на ЭВМ, если имеет место правильное округление. Как уже отмечалось, такое округление реализовано далеко не на всех современных ЭВМ.  [10]

Интересное приложение могут найти процедуры unsym асе solve и сх асе solve при вычислении точных значений собственных векторов. Задавая приближенную величину собственного значения А. При этом важно, чтобы заданная величина А не была слишком близка к собственному значению, иначе процедура не будет работать. Таким способом можно вычислить собственные векторы с правильным округлением, даже если матрица весьма плохо обусловлена по отношению к проблеме собственных значений.  [11]



Страницы:      1