Длина - мантисса
Cтраница 1
Длина мантиссы в 1 байт обеспечивает точность результата в две десятичные цифры. Для того чтобы достичь более точного числового представления, используют большее количество байтов для представления мантиссы, как и в арифметике повышенной точности для целых чисел. Двухбайтовая мантисса обеспечивает точность результата в 4 десятичные цифры. [1]
 |
Форматы двоичных чисел с плавающей запятой в ЕС ЭВМ.| Форматы двоичных чисел с плавающей запятой в СМ ЭВМ. [2] |
Форматы различаются длиной мантиссы. [3]
 |
Результаты решения. [4] |
Процедура проверялась на вычислительной машине Elliott 503, длина мантиссы чисел для которой составляет 29 двоичных знаков. [5]
 |
Представление двоичного числа сел в форме С плавающей в форме с плавающей точкой в формате точкой в ЭВМ достигается слова в ЕС ЭВМ широкий диапазон изобра. [6] |
Числа, представленные в этих форматах, отличаются друг от друга только длиной мантиссы. [7]
Таким образом, в этих машинах фактически обеспечивается точность представления чисел, соответствующая длинам мантисс 24 и 56 разрядов. [8]
Произведение мантисс формируется таким образом, что результат всегда содержит точное значение произведения мантисс, усеченное до нужной длины. Затем мантисса промежуточного произведения усекается до длины мантиссы результата. [9]
D) относятся данные типа Е и D. Они могут быть представлены 8 или 4 байт; отличаются только длиной мантиссы. Запись таких чисел аналогична записи чисел с фиксированной точкой. [10]
К двоичным числам с плавающей точкой ( Е, D) относятся данные типа Е и D. Они могут быть представлены 8 или 4 байт; отличаются только длиной мантиссы. Запись таких чисел аналогична записи чисел с фиксированной точкой. [11]
С двоичным числам с плавающей точкой ( Е, D) относятся данные типа Е и D. Они могут быть представлены 8 или 4 байт; отличаются только длиной мантиссы. Запись таких чисел аналогична записи чисел с фиксированной точкой. [12]
При этом для изображения порядка чисел количество разрядов не меняется, зато длина мантиссы увеличивается, что и позволяет увеличить точность вычислений. [13]
Матрица, приведенная в табл. 7, имеет две пары квадратичных нелинейных делителей; все ее собственные значения комплексные. Как и в случае процедуры comlr2, собственные значения имеют число точных знаков, равное половине длины мантиссы; два приведенных в таблице собственных вектора также совпадают в половине разрядов, а разность между ними есть вектор второго порядка тоже с точностью до половины разрядов. [14]
Использование чисел с плавающей запятой в формате, изображенном на рис. 2.2, а, соответствует вычислениям примерно с семью десятичными разрядами, что для ряда научно-технических расчетов недостаточно из-за накопления ошибок округления. В этих форматах не меняется число разрядов для изображения порядка и, следовательно, сохраняется диапазон представляемых чисел, а длина мантиссы увеличивается соответственно до 14 и 28 шестнадцатиричных разрядов. Использование таких представлений чисел эквивалентно выполнению вычислений соответственно примерно с 16 и 32 десятичными разрядами. [15]
Страницы: 1 2