Влияние - ошибка - округление - Большая Энциклопедия Нефти и Газа, статья, страница 4
В истоке каждой ошибки, за которую вы ругаете компьютер, вы найдете, по меньшей мере, две человеческие ошибки, включая саму ругань. Законы Мерфи (еще...)

Влияние - ошибка - округление

Cтраница 4


В случае выполнения неравенства (2.1) а считалось целым числом, однако в симплексной таблице а на ближайшее целое не заменялось. Этот прием позволил успешно бороться с влиянием ошибок округления.  [46]

Каждый шаг итераций требует уже трех операций умножения матрицы на вектор. Однако последний итерационный процесс является самоисправляющимся - влияние ошибок округления, допущенных на предшествующих шагах, постепенно затухает. Заметим, что при отсутствии округлений ( Ахп - Ь, хп - - ж - 1) 0; однако если в ( 10) эту величину заменить нулем, то процесс может утратить самоисправляемость.  [47]

Однако этот вывод справедлив лишь тогда, когда используется операция накопления скалярных произведений. Если же все вычисления ведутся с одинарной точностью, то влияние ошибок округления в типичных последовательностях преобразований вращений будет в Vn или даже п раз по порядку меньше, чем в преобразованиях отражения, решающих ту же задачу.  [48]

Прежде всего, комбинаторные методы в значительно меньшей степени подвержены влиянию ошибок округления, которые играли заметную роль при реализации некоторых вариантов методов отсечения ( см. стр. Во многих комбинаторных методах вообще не используется решение задачи линейного программирования, соответствующей рассматриваемой дискретной ( линейной) задаче.  [49]

Теоретическая ошибка при вычислении k - ro собственного значения ограничена суммой отброшенных диагональных элементов. Значение этой суммы является выходным параметром процедуры, но оно не учитывает влияния ошибок округления.  [50]



Страницы:      1    2    3    4