Машинный нуль - Большая Энциклопедия Нефти и Газа, статья, страница 4
Цель определяет калибр. Законы Мерфи (еще...)

Машинный нуль

Cтраница 4


Безразмерная форма записи уравнений удобна для их решения на ЭВМ, так как порядок чисел близок к единице: это позволяет избежать переполнения и машинного нуля.  [46]

Экстремальные значения аргументов, например: порядок матрицы 1; порядок матрицы 1 000000; 1 000000 правых частей; элементы матрицы близки к машинным нулям или к наибольшему представимому на вычислительной машине числу.  [47]

Если при выполнении арифметических операций порядок результата больше 63, то происходит переполнение разрядной сетки: если порядок меньше - 63, то число воспринимается как машинный нуль.  [48]

Если F ( B) 10 - 40 и F ( C) - Ю-40, то они имеют разные знаки; однако на многих машинах произведение будет машинным нулем и тест не будет выполнен.  [49]

Если этого не сделать, то при вычислении Ь4 - - e B знаменателях выражений, стоящих за операторами 22 - 24, могут получиться величины, близкие к машинному нулю, и машина прекратит счет, напечатав знак сю.  [50]

Однако при решении задач ненормализованные числа обычно не применяются, потому что, как читатель увидит ниже, при выполнении арифметических действий над малыми ненормализованными числами они могут превращаться в машинные нули.  [51]



Страницы:      1    2    3    4