Появление машинного нуля на других этапах вычислений также может привести к большим ошибкам. Обозначим через ... - Большая Энциклопедия Нефти и Газа



Выдержка из книги Воеводин В.В. Вычислительные основы линейной алгебры


Появление машинного нуля на других этапах вычислений также может привести к большим ошибкам. Обозначим через со минимальное положительное число, пред-ставимое на ЭВМ. Но тогда pf может дать при вычислении машинный нуль. Это опять эквивалентно замене р - нулем. Ошибки от такой замены весьма значительны.

(cкачать страницу)

Смотреть книгу на libgen

Появление машинного нуля на других этапах вычислений также может привести к большим ошибкам.  Обозначим через со минимальное положительное число,  пред-ставимое на ЭВМ.  Но тогда pf может дать при вычислении машинный нуль.  Это опять эквивалентно замене р - нулем.  Ошибки от такой замены весьма значительны.