Вычислительная погрешность - Большая Энциклопедия Нефти и Газа, статья, страница 4
И волки сыты, и овцы целы, и пастуху вечная память. Законы Мерфи (еще...)

Вычислительная погрешность

Cтраница 4


Отметим, что регулярность замыкания еще не обеспечивает малости суммарной вычислительной погрешности в силу следующих обстоятельств. Суммарная погрешность определяется погрешностями в ходе вычислений и множителями пропорциональности, с которыми эти погрешности входят в сумарную погрешность.  [46]

Четвертую группу представляют погрешности округления, которые называются также вычислительными погрешностями. Вычислительная погрешность при вычислениях на ЭВМ обусловлена конечной длиной машинных слов, обрабатываемых ЭВМ.  [47]

Отметим, что при очень сильном сгущении сетки могут накапливаться вычислительные погрешности округления на ЭВМ. Это приводит к неверным результатам при решении системы линейных алгебраических уравнений.  [48]

В разделе численных методов алгебры было обещано привести пример оценки вычислительной погрешности при решении алгебраических систем методом Гаусса.  [49]



Страницы:      1    2    3    4