Точность - представление
Cтраница 4
Нормализованная форма - самая выгодная с точки зрения точности представления, потому что мантисса ее содержит наибольшее количество значащих цифр. Так как не всякое число типа Е можно нормализовать, условие ( 1) несколько сужает множество представимых чисел. [46]
Накопленный массив отдельных замеров сигналовТю каждому из параметров, точность представления которых может оказаться существенно повышенной за счет предварительной фильтрации, является объективной количественной основой для всех дальнейших расчетов текущих и интегральных показателей в системе. [47]
В раскрывающихся списках выбирают формат представления результатов измерения, точность представления данных, единицы измерения. В полях Prefix ( Префикс) и Suffix ( Суффикс) при необходимости проставляют текстовые или цифровые данные. Кнопкой Dynamic ( Динамическое представление размерных линий) включают ( отключают) режим динамического представления размещения данных во время выбора опорных точек. Раскрывающая кнопка Text Positioning Drop / Down ( Положение текста) открывает доступ к кнопкам для выбора позиции размещения проставляемых размеров. [48]
Вывод данных всех типов с фиксированной шириной поля и точностью представления. [49]
В системе имеется возможность проводить вычисления с вещественными числами, точность представления которых больше, чем при установленном флаге FLOAT. Для этого используется команда ON BIGFLOAT. В этом режиме точность вещественных чисел, по умолчанию, определяется десятью десятичными знаками. [50]
При экспоненциальном увеличении расстояния возникают компьютерные проблемы, связанные с точностью представления малых чисел и переполнением. [51]
 |
Формат управляющего слова. [52] |
Поле управления точностью PC ( разряды 8 и 9) изменяет точность представления данных во внутреннем ( 10-байтном действительном) формате. [53]
Страницы: 1 2 3 4