Погрешность - округление - Большая Энциклопедия Нефти и Газа, статья, страница 1
Русский человек способен тосковать по Родине, даже не покидая ее. Законы Мерфи (еще...)

Погрешность - округление

Cтраница 1


Погрешность округления может быть еще несколько уменьшена выбором главного элемента по всей матрице. Однако точность при этом возрастает незначительно, а расчет заметно усложняется.  [1]

Погрешность округления возникает при усечении разрядной сетки процессора с предварительной поправкой на остаток - путем добавления 1 в старший из отбрасываемых разрядов.  [2]

Погрешность округлений в процессе вычислений увеличивается ( накапливается) и может существенно повлиять на точность результатов. Поэтому при определении разрядности ММЭВМ на этапе проектирования в зависимости от требуемой точности вычислений обычно задаются максимальным значением инструментальной погрешности ЭВМ.  [3]

Погрешности округления при арифметических вычислениях распределены равномерно.  [4]

5 Блок-схема алгоритма решения системы линейных алгебраических уравнений методом итераций Зейделя. [5]

Погрешности округления при решении по методу итераций сказываются значительно меньше, чем при решении по методу Гаусса. Кроме того, случайные ошибки в процессе итераций самоисправляются на следующем шаге уточнения решений.  [6]

Погрешность округления обусловлена тем, что любые вычисления на ЭВМ или ручные расчеты выполняются с ограниченным числом значащих цифр. При выполнении одной арифметической операции с числами погрешность округления лежит в пределах единицы младшего сохраняемого разряда. Так ЭВМ оперирует с числами, содержащими обычно 10 - 12 разрядов, поэтому погрешность единичного округления здесь Д10 - 10 - - 10 - 12 пренебрежимо мала по сравнению с неустранимой погрешностью. При расчетах на ЭВМ могут выполняться миллиарды операций, однако если нет систематических причин для накопления погрешностей округления, то их увеличение происходит не слишком существенно, поскольку при различных операциях погрешности будут иметь разные знаки и компенсировать друг друга. Тем не менее если численный метод таков, что возникают систематические причины накопления погрешностей округления, то очень быстро суммарная погрешность возрастает до катастрофических размеров и сделает невозможным получение достоверного результата. Такие условия возникают, например, при вычитании близких по величине чисел.  [7]

Погрешность округления обусловлена ограничениями на представление чисел в используемой ЭВМ, так как для любой из них число значащих цифр, запоминаемых и используемых в вычислениях, ограниченно.  [8]

Погрешность округления при отсчете значительно влияет на точность измерения угла теодолитом. С учетом этой погрешности определим среднюю квадратическую погрешность измерения угла теодолитом с металлическим лимбом.  [9]

Погрешность округления 3 возникает а связи с неточностью численных значений коэффициентов Лагранжа.  [10]

Погрешности округления являются основным источником операционных погрешностей, так как все исходные данные и результаты вычислений округляются в ПМК до г цифр мантиссы и при выполнении нескольких операций погрешности накапливаются вследствие как округления, так и увеличения погрешности результата операций над округленными значениями операндов.  [11]

Погрешность округления возникает вследствие того, что в ЭВМ число представляется некоторым количеством значащих цифр. Если исходные данные или результат вычислений имеют больше цифр, то они округляются. Погрешность округления должна быть оценена.  [12]

Погрешность округления может быть еще несколько уменьшена выбором главного элемента по всей матрице. Однако точность при этом возрастает незначительно, а расчет заметно усложняется.  [13]

Погрешности округления в методе итераций сказываются значительно меньше, чем в методе Гаусса.  [14]

Погрешность округления не превосходит пяти единиц первого отброшенного разряда.  [15]



Страницы:      1    2    3    4