Точность - представление - число
Cтраница 3
Мантисса числа не должна превышать единицы, однако это не накладывает никаких ограничений на нижнюю границу числа. Но в этом случае понижается точность представления числа в машине, поскольку добавление незначащих нулей при ограниченности разрядной сетки уменьшает количество значащих цифр. Для представления чисел с одинаковой относительной погрешностью вводится понятие нормализованных чисел. [31]
Для достижения заданной точности вычисления значения функции все промежуточные вычисления необходимо вести по крайней мере с двумя запасными знаками. Если используемый язык программирования допускает возможность задания точности представления чисел ( например, язык Аналитик для ЭВМ МИР-2), то следует воспользоваться этой возможностью. [32]
Если операнды различаются способом представления, то операнд с фиксированной точкой преобразуется в форму с плавающей точкой. При этом разрядность результата преобразования выбирается так, чтобы точность представления числа не понизилась. [33]
Термин появился в связи с тем, что в ЭВМ точность представления чисел в формате с плавающей запятой конечна из-за ограниченной разрядности мантиссы. [34]
Если К - - ( ц - собственное значение матрицы A - f - В, то fi - f - ft - есть собственное значение матрицы X -) - iY, однако процессы вычислений различны. Это является достаточно хорошим результатом, если учесть, что точность представления чисел обусловлена 39-разрядной двоичной мантиссой. [35]
 |
Коды десятичных цифр и знаков. [36] |
Структура Системы 370 в операциях с плавающей запятой позволяет использовать для данных три формата фиксированной длины: короткий, длинный и увеличенной длины. Все форматы показаны на рис. 3.6. Короткий формат соответствует полному слову, при этом точность представления числа соответствует семи десятичным разрядам. [37]
При численной реализации методов одномерной минимизации все вычисления производятся с точностью, лимитируемой возможностями ЭВМ. Численные эксперименты показали, что на окончательный результат вычислений по рассмотренной выше схеме существенным образом влияет точность представления чисел Фибоначчи в памяти машины. Оказалось, что погрешности в вычислениях точек yk и zft могут столь быстро накапливаться, что ожидаемая точность решения будет существенно отличаться от реальной. [38]
ЗУ; системы счисления, к-рые используются машиной в различных ее трактах; разрядность машин, определяющая машинную точность представления чисел, способ кодировки числовой и буквенной информации; адресность команд. [39]
 |
Байтовая структура данных. [40] |
Емкость памяти ЭВМ определяется общим числом двоичных разрядов всех ячеек, образующих так называемую разрядную сетку ЭВМ. Чем больше число разрядов в разрядной сетке, тем сложнее машина, но тем выше может быть диапазон и точность представления чисел, используемых при вычислениях. Доступ к информации, хранимой в памяти ЭВМ, обычно осуществляется по адресному принципу. [41]
Например, если р двоичных разрядов составляют мантиссу в числах с плавающей запятой, используемых в какой-либо конкретной ЭВМ, то в этой ЭВМ точность представления чисел с плавающей запятой будет определяться разрядами. [42]
Решение, получаемое путем обращения этой матрицы и вычисления вектора А - гЬ менее точно и требует большого числа арифметических операций, чем решения, получаемые на основе методов исключения. Если принять определенные меры предосторожности и так переставлять строки матрицы, чтобы указанкые коэффициенты не оказались слишком большими, то в результате будет получена система уравнений, которая соответствует исходной системе настолько, насколько позволяет машинная точность представления чисел. Погрешность решения, которую нетрудно оценить, определяется степенью обусловленности ( С. Для решения систем с матрицами специальной формы разработано множество других методов. [43]
Численные приближения дифференциальных уравнений требуют внимательного изучения ошибок конечно-разностного аналога дифференциальных уравнений: здесь выделяются ошибки аппроксимации и ошибки округления. Ошибки округления обусловлены как точностью представления чисел в ЭВМ, так и свойствами транслятора. [44]
ЦВМ увеличение основания системы счисления приводит к повышению быстродействия за счет уменьшения числа сдвигов при выравнивании порядков и нормализации результата. Поэтому целесообразно повышать основание системы счисления. Однако с повышением основания уменьшается точность представления чисел за счет неполного использования разрядной сетки. Частично указанную потерю точности можно скомпенсировать за счет уменьшения числа разрядов, отводимых для представления порядка, так как в системе с основанием для представления порядка требуется меньше разрядов. [45]
Страницы: 1 2 3 4