Точность - представление - число
Cтраница 4
Из примеров видно, что запятая, отделяющая целую часть от дробной, зафиксирована после третьего разряда. Все числа, меньшие 0 001, представляются в виде нуля, который называют машинным нулем. Наименьшее число 0 001 определяет точность представления чисел. [46]
Проблемы могут возникнуть при попытке уменьшить размеры полей. При этом может произойти усечение строк в символьных полях до нужных размеров. Сокращение количества знаков в дробной части понижает точность представления числа. [47]
 |
Блок-схема вычислительной машины. [48] |
В процессе решения задачи любой код, записанный в запоминающем устройстве, может быть передан в любое другое устройство машины, сохраняя свое присутствие на старом месте. Объем запоминающего устройства определяется числом ячеек. Каждая ячейка характеризуется числом разрядов, или битов, число которых в конечном счете определяет точность представления чисел в машине. [49]
Дробь последовательно умножается на основание новой системы с отбрасыванием при каждом умножении целой части произведения. Умножение продолжается до тех пор, пока дробная часть после очередного умножения не будет равна нулю. Если нуля достичь невозможно ( бесконечная или периодическая дробь), то процесс умножения обрывается на заданном шаге, определяемом точностью представления числа. Целые части произведений составляют запись правильной дроби в новой системе счисления. Этот метод удобен для перевода дробной части десятичного числа в двоичную систему счисления. [50]
В главе 4 ( см. табл. - 1.1) рассматривались различные подтипы полей для типа Числовой. Поэтому замена подтипа данных на подтип, для которого выделен больший объем памяти - Байт на Целое, потом на Длинное целое, далее на Одинарное с плавающей точкой и на Двойное с плавающей точкой, - как правило, не грозит потерей данных. Внимания в этой цепочке требует преобразование из Длинного целого в Одинарное с плавающей точкой, так как число байтов для хранения данных остается тем же, но изменяется точность представления чисел. [51]
 |
Блок-схема цифровой вычислительной машины. [52] |
Запоминающее устройство предназначено для хранения программы, исходных и промежуточных данных. Любой код, записанный в запоминающем устройстве в процессе решения задачи может-быть передан в любое другое устройство машины, сохраняясь при этом на старом месте. Объем запоминающего устройства определяется количеством ячеек. Каждая ячейка характеризуется числом разрядов, или битов, количество которых, в конечном счете, определяет точность представления чисел в машине. [53]
Страницы: 1 2 3 4