Вычислительная погрешность - Большая Энциклопедия Нефти и Газа, статья, страница 4
Если вы спокойны, а вокруг вас в панике с криками бегают люди - возможно, вы что-то не поняли... Законы Мерфи (еще...)

Вычислительная погрешность

Cтраница 4


Отметим, что регулярность замыкания еще не обеспечивает малости суммарной вычислительной погрешности в силу следующих обстоятельств. Суммарная погрешность определяется погрешностями в ходе вычислений и множителями пропорциональности, с которыми эти погрешности входят в сумарную погрешность.  [46]

Четвертую группу представляют погрешности округления, которые называются также вычислительными погрешностями. Вычислительная погрешность при вычислениях на ЭВМ обусловлена конечной длиной машинных слов, обрабатываемых ЭВМ.  [47]

Отметим, что при очень сильном сгущении сетки могут накапливаться вычислительные погрешности округления на ЭВМ. Это приводит к неверным результатам при решении системы линейных алгебраических уравнений.  [48]

В разделе численных методов алгебры было обещано привести пример оценки вычислительной погрешности при решении алгебраических систем методом Гаусса.  [49]



Страницы:      1    2    3    4