Cтраница 2
Повышение точности представления краевого условия p 0 на прямых л: 3 с увеличением числа используемых элементов иллюстрируется рис. 2.8, где показано поведение 2 - и 5-элементных аппроксимаций на этих граничных прямых. [16]
Тип и точность представления единиц задаются в диалоговом окне определения форматов единиц Drawing Units ( Единицы рисунка) - см. рис. 7.20, которое вызывается из падающего меню Format ( Формат) Units... В области Length ( Линейные) устанавливается тип Туре: ( Формат:) и точность Precision: ( Точность:) единиц измерения расстояний, в области Angle ( Угловые) - тип и точность угловых единиц. [17]
Ширина поля и точность представления могут быть объединены, для чего между знаком процента и спецификатором преобразования вставить значение ширины поля, десятичную точку и последующее значение точности. [18]
Устанавливает формат и точность представления линейных и угловых величин. [19]
С точки зрения точности представления явлений, происходящих в транзисторе, указанные три модели совершенно равноценны. [20]
Экспериментальный вектор невязок и точность представления связаны обратной связью ( в - 1 / Д) и предельный случай очевиден - если компоненты вектора е малы и задача не слишком овраж-на, то может случиться и так, что эксперимент сразу обеспечивает единственность решения. Ухудшение точности эксперимента и наличие разномасштабных во времени элементарных процессов ведут к выполнению условия k ( A) - I / A и ОКЗ теряет единственность. В конкретном исследовании важно иметь хотя бы приблизительное представление, когда наступает такая ситуация - это помогает, с одной стороны, сформировать конкретные требования к эксперименту, а с другой - облегчает постановку ОКЗ. [21]
Длина вещественной величины характеризует точность представления значения этой величины. Значение вещественной величины стандартной длины представляется с точностью до семи десятичных знаков. В памяти ЭВМ оно хранится в четырехбайтовой ячейке в виде двоичного числа с плавающей точкой. Значение вещественной величины нестандартной длины представляется с точностью до шестнадцати десятичных знаков. В памяти ЭВМ оно хранится в восьми-байтовой ячейке в виде двоичного числа с плавающей точкой. [22]
Длина вещественной величины характеризует точность представления значения этой величины. В случае стандартной длины обеспечивается точность до 7 знаков, а в случае нестандартной длины - до 16 знаков. [23]
Длина комплексной величины характеризует точность представления значений действительной части и коэффициента при мнимой части этой величины таким же образом, как и в случае вещественных величин. Под значение комплексной величины стандартной длины отводятся две четырехбайтовые ячейки, а нестандартной длины - две восьмибайтовые ячейки. Эти значения хранятся в виде двоичных чисел с плавающей точкой. [24]
Длина комплексной величины характеризует точность представления значений действительной части и коэффициента при мнимой части этой величины таким же образом, как и в случае вещественной величины. [25]
В [2-20] приводятся оценки точности представления функции с неограниченным спектром рядом Котельникова. [26]
Поле PC осуществляет управление точностью представления результатов вычислений в соответствии с табл. 3.12. Обычно задается значение поля РС00, которое позволяет получить наиболее точные значения при вычислениях. Два других варианта задания точности РС 01 и РС10 ограничивают представление результатов форматами КВФ и ДВФ. Причем, поскольку сопроцессор ВМ87 производит все действия в формате ВВФ, округление результатов до более коротких форматов может приводить к потере точности. Очевидно, задание режимов РС 01 и РС10 может потребоваться только в редких случаях, например, при моделировании на сопроцессоре ВМ87 работы других микроЭВМ, в которых формат ВВФ отсутствует. [27]
Для переменной комплексного типа задается единая точность представления при действительной и мнимой частях комплексного числа, которое является значением переменной. Эта точность задается по тем же правилам, что и для переменных вещественного типа. [28]
Во-вторых, темп обновления и точность представления параметров информационной базы должны соответствовать потребностям нового алгоритма. Если это условие не выполняется, то имеется возможность провести соответствующую корректировку правил заполнения информационной базы. Совместимость алгоритма с техническими средствами автоматизации предполагает выполнение следующих основных условий. Во-первых, сложность и трудоемкость алгоритма соответствуют классу машин вычислительного комплекса. Это означает, что по трудоемкости с учетом требований оперативности исполнения алгоритм может быть реализован па машинах вычислительного комплекса. Во-вторых, у средств автоматизации системы управления, в которую внедряется алгоритм, имеется достаточный резерв ресурсов, остающихся после реализации функций уже внедренного специального математического обеспечения управления, для того, чтобы реализовать новый алгоритм. Такими ресурсами, в первую очередь, являются объем памяти вычислительного комплекса, резервы времени процессоров, линий связи и периферийного оборудования. Кроме того, состав этого оборудования позволяет реализовать потребности алгоритма при выдаче результатов вычислений. [29]
В частности, для повышения точности представления данных иногда используется более чем 12-разрядная сетка. В этом случае каждое число занимает уже не одну, а несколько ( обычно последовательно расположенных) ячеек памяти. Если используется представление чисел с фиксированной запятой, то один ( старший) разряд такого составного слова отводится под знак числа, а остальные разряды-под мантиссу. Если вводится структура представле ния чисел с плавающей запятой, то код в первой ячейке определяет порядок числа ( в соответствии с обычной структурой представле ния чисел в машине), а в нескольких последующих ячейках располагается многоразрядная ( более чем 12-разрядная) мантисса числа со знаком числа. Подробнее такие структуры описаны в гл. [30]