Если при таких вычислениях оперировать с числами, близкими по представлению в ЭВМ с машинным нулем, ... - Большая Энциклопедия Нефти и Газа



Выдержка из книги Воробьев В.И Математическое обеспечение ЭВМ в науке и производстве


Если при таких вычислениях оперировать с числами, близкими по представлению в ЭВМ с машинным нулем, то результат вычислений может иметь большую ошибку округления.

(cкачать страницу)

Смотреть книгу на libgen

Если при таких вычислениях оперировать с числами, близкими по представлению в ЭВМ с машинным нулем, то результат вычислений может иметь большую ошибку округления.