Точность - представление - число - Большая Энциклопедия Нефти и Газа, статья, страница 2
Психиатры утверждают, что психическими заболеваниями страдает каждый четвертый человек. Проверьте трех своих друзей. Если они в порядке, значит - это вы. Законы Мерфи (еще...)

Точность - представление - число

Cтраница 2


Чем больше разрядов отводится под запись мантиссы, тем выше точность представления числа. Чем больше разрядов занимает порядок, тем шире диапазон от наименьшего отличного от ноля числа до наибольшего числа, представимого в машине при заданном формате.  [16]

Величина relfeli зависит от типа используемого вычислителя и непосредственно связана с точностью представления чисел в машине.  [17]

Однако иногда требуется еще более высокая точность вычислений, достигаемая, например, тройной точностью представления чисел: 1 бит для знака и 23 бит для абсолютной величины числа.  [18]

Разрядность ( длина) слова влияет на диапазон обрабатываемых чисел, а следовательно, на точность представления чисел и результатов обработки информации.  [19]

Если сравнить точность представления числа с фиксированной запятой ( е 2 - 21) с точностью представления числа с плавающей запятой ( ет 2 - 39), то виден большой выигрыш в точности.  [20]

21 Характеристики БИХ-фильтра в z - области. ( а расположение полюсов. ( Ь АЧХ. [21]

Фильтры на рисунке 6.22 обладают абсолютно одинаковыми характеристиками до тех пор, пока рассматривается их реализация в арифметике с неограниченной точностью представления чисел.  [22]

Разрядная сетка при операциях с фиксированной запятой в значительно большей степени, чем при работе с плавающей запятой, влияет на точность представления чисел. Чем больше разрядов в ячейке памяти, тем с большей точностью ( с большим количеством знаков) может быть записано в ней число.  [23]

Выбор р а з р я д и о с т и производится с учетом двух требовании: обеспечение макс, точности представления чисел и сохранение требуемой точности результатов при накоплении ошибок округлений в процессе вычислений. Точность представления чисел определяется типом решаемых задач, характером обрабатываемой информации и назначением машины. Ошибки округления компенсируются увеличением разрядности ЦВМ на та разрядов. Сумма достаточно большого количества независимых случайных величии подчиняется нормальному закону распределения.  [24]

Если диапазон представимых чисел, как показано выше, определяется числом разрядов, отведенных в ячейке памяти для хранения порядка, то точность представления чисел определяется числом разрядов, выделенных для хранения мантиссы.  [25]

Тем не менее при переносе программ на другую ЭВМ все равно следует проверить все числовые константы на соответствие с новым диапазоном изменения и точность представления чисел. Все текстовые константы не должны превышать допустимой максимальной длины. В ряде случаев гораздо труднее удостовериться в том, что новый диапазон изменения чисел и количество значащих чисел достаточны для нормальной работы программы. Это особенно важно для программ, производящих научно-технически расчеты. Приведем еще две рекомендации, направленные на улучшение структуры программы и облегчение ее сопровождения.  [26]

Работа этой функции отличается от функции quantize лишь в одном аспекте: значения, близкие к единице ( точнее, отстоящие от нее не более чем на eps, где eps - точность представления чисел в квантователе, см. далее), при квантовании становятся равными единице.  [27]

Так как в машинах с естественной формой представления относительная погрешность зависит от абсолютного значения числа, то при представлении малых чисел точность будет небольшой, тогда как в машинах с полулогарифмической формой точность представления чисел постоянна и не зависит от числа.  [28]

Выбор р а з р я д и о с т и производится с учетом двух требовании: обеспечение макс, точности представления чисел и сохранение требуемой точности результатов при накоплении ошибок округлений в процессе вычислений. Точность представления чисел определяется типом решаемых задач, характером обрабатываемой информации и назначением машины. Ошибки округления компенсируются увеличением разрядности ЦВМ на та разрядов. Сумма достаточно большого количества независимых случайных величии подчиняется нормальному закону распределения.  [29]

Точность и диапазон представления числа в общем случае определяются разрядностью отведенного ему поля. Точность представления числа с плавающей точкой определяется разрядностью мантиссы, диапазон представления - разрядностью порядка и основанием системы счисления.  [30]



Страницы:      1    2    3    4