Машинный нуль заставляет преодолевать гораздо больше трудностей при реализации формул (44.3), чем может показаться на ... - Большая Энциклопедия Нефти и Газа
Выдержка из книги
Воеводин В.В.
Вычислительные основы линейной алгебры
Машинный нуль заставляет преодолевать гораздо больше трудностей при реализации формул (44.3), чем может показаться на первый взгляд. Связано это прежде всего с тем, что мы должны гарантировать правильность знаков вычисляемых величин. Такая задача не проста, если сами величины близки к машинному нулю.