Десятичная величина - Большая Энциклопедия Нефти и Газа, статья, страница 1
Длина минуты зависит от того, по какую сторону от двери в туалете ты находишься. Законы Мерфи (еще...)

Десятичная величина

Cтраница 1


Десятичная величина, которая должна быть преобразована в шестнадцатеричную, используется для нахождения диапазона значений в таблице преобразований. В таблице отыскивается значение, равное преобразуемой величине, или, если такового не находится, берется ближайшее меньшее значение. Соответствующая шестнадцатеричная цифра записывается, а табличная величина вычитается из десятичного значения. Затем исследуется остаток и процесс повторяется. Детальный пример применения этого алгоритма приведен ниже.  [1]

Упакованная десятичная величина, равная 253774, которая должна - занимать четырехбайтовую область константы.  [2]

Округление десятичных величин и последующее выделение целочисленной части выполняется аналогично.  [3]

Функции упакованных десятичных величин и способы их преобразования подробно рассматриваются в разделах Операции десятичной арифметики и Процедуры преобразования форматов упакованных десятичных чисел и чисел с фиксированной точкой, а также в ряде других разделов.  [4]

Целое число - десятичная величина, выражаемая числовым полем с фиксированной точкой; в формировании целого числа участвуют все разряды поля, за исключением старшего, знакового разряда.  [5]

Так как упакованные десятичные величины имеют шестна-дцатеричные конфигурации своих цифр, то их легко распознать при анализе дампов основной памяти, что иллюстрируется примерами, приведенными в этом и последующих разделах.  [6]

При формировании упакованной десятичной величины из символа в коде EBCDIC левые 4 бита символов EBCDIC отбрасываются.  [7]

После завершения программы упакованная десятичная величина, накопленная в BIGPAK, равна - f - ЮООО.  [8]

Это предложение прибавляет упакованную десятичную величину 1, представленную литералом, к числу в трехбайтовой области с меткой PAKCNTR.  [9]

Предложение 00002 складывает упакованную десятичную величину -) - 2, выраженную как литерал, с упакованной десятичной величиной в счетчике строк. Приращение - f - 2 используется потому, что этот конкретный текст печатается через два интервала, так что перед каждой распечатываемой строкой данных делается одна пустая строка.  [10]

Можно сформировать такую упакованную десятичную величину, в которой все цифровые позиции представлены числовыми цифрами, но этот тип упакованных десятичных чисел не может использоваться в десятичных арифметических операциях.  [11]

Это означает, что упакованная десятичная величина в PACKS не содержит пра вильного кода знака в младшем полубайте.  [12]

Так как длина исходной упакованной десятичной величины содержится в общем регистре 8, то содержимое этого регистра вычитается из содержимого общего регистра 9; таким образом определяется величина смещения при пересылке упакованного десятичного числа в нужное поле.  [13]

Читателю предлагается взять несколько упакованных десятичных величин длиной от 1 до 4 байтов как со знаками, так и без знаков и проследить, как они обрабатываются этой подпрограммой.  [14]

Предложение 003 складывает однобайтовую упакованную десятичную величину 3, представленную в форме литерала, с содержимым области, выполняющей функции накопителя.  [15]



Страницы:      1    2    3    4