Машинный нуль
Cтраница 3
 |
Инструкция с плавающей запятой. [31] |
Если результат операции меньше, чем 2 - 128, то на месте операнда А генерируется машинный нуль. [32]
При получении результатов операций, имеющих порядок меньший, чем - 77, в качестве ответа получается машинный нуль. [33]
В оценку Е; не входит и, поэтому формула (7.2) определяет алгорифм, устойчивый к понижению точности вблизи машинного нуля для всех конкретных ЭВМ. [34]
 |
Представление чисел. [35] |
Если при выполнении пераций на машине с фиксированной точкой получится результат меньше Jfmjn, то это число рассматривается как машинный нуль. Если результат получится больше максимально возможного ( больше или равен 1 -), то происходит переполнение разрядной сетки и прерывание выполнения программы. Для представления чисел с фиксированной точкой, не укладывающихся в диапазоне от Хт до Х вводят масштабные множители. С их помощью исходные, промежуточные и конечные результаты, умноженные на соответствующие масштабные множители, должны находиться в заданном диапазоне. [36]
Если число по абсолютной величине меньше 2 -, то оно будет записано в машине как нуль - так называемый машинный нуль. [37]
Если число по абсолютной величине меньше 2 - п, то оно будет записано в машине как нуль - так называемый машинный нуль. [38]
Предположим также, что точная вырожденность матрицы, если она имеет место, не была обнаружена и что не было ни машинных нулей, ни переполнений. [39]
Степенные ряды сходятся быстро, и величины А и Вп при п 30 уже, как правило, имеют значения, меньшие машинного нуля. [40]
Различие в диапазоне представимых чисел может привести к тому, что программа, нормально работающая на одной машине, будет давать переполнение или машинные нули на другой. [41]
В частности, в них нет никаких ссылок на число разрядов в представлении чисел, не указываются граница переполнения и граница понижения точности вблизи машинного нуля, не описывается способ округления чисел. [42]
Вычисление определителя может оказаться непростым делом, потому что значения его меняются в очень широком интервале, что часто приводит к переполнению либо машинному нулю. [43]
Отметим, что при численном расчете вообще трудно ожидать, чтобы определитель матрицы bk, полученной на каком-то этапе расчета, оказался бы машинным нулем. [44]
 |
Звисимость безразмерной скорости х от времени т. [45] |
Страницы: 1 2 3 4