Десятичная величина - Большая Энциклопедия Нефти и Газа, статья, страница 3
Еще никто так, как русские, не глушил рыбу! (в Тихом океане - да космической станцией!) Законы Мерфи (еще...)

Десятичная величина

Cтраница 3


Зонная десятичная константа используется для формирования численной константы в коде EBCDIC, в которой правый байт содержит знак десятичной величины, выражаемой константой. При соответствующем указателе длины каждая цифра собственно константы предложения DC формирует при компиляции 1 байт константы.  [31]

Теперь, когда мы знаем оптимальные значения для всех сценарных спектров, мы можем определить, насколько велики эти десятичные величины в денежном выражении. Для этого разделим наихудший исход ( потерю) сценариев каждого спектра на отрицательное значение оптимального / этого спектра.  [32]

Как видно из этих примеров, десятичная конфигурация упакованного десятичного поля может рассматриваться сама в качестве десятичного эквивалента упакованной десятичной величины. Поля 1, 3 и 5 представляют собой величины с положительным знаком, поля 6 и 8 - величины с отрицательным знаком, а поля 2, 4 и 7 - величины без знака, относительно которых подразумевается, что они положительные.  [33]

Числа в упакованном десятичном формате представляются полем из 1 или более байтов, в котором каждый отдельный полубайт содержит десятичную величину, выраженную в форме шестнадцатеричной цифры.  [34]

Приравнять ( Equate - EQU) - оператор языка Ассемблера, указывающий, что метка ( символ) представляет десятичную величину или выражение, которые могут быть как абсолютными ( самоопределенными), так и перемещаемыми. В этом случае метка REG2 может теперь использоваться вместо цифры 2 для обозначения регистра.  [35]

В следующих примерах приведены двоичные величины, изображенные как в двоичном, так и в шестнадцатеричном формате, и представляемые ими десятичные величины, полученные с помощью таблицы шестнадцатерично-десятичных преобразований.  [36]

Число в поле KEYA было упаковано и помещено в двойное слово предложением 0601, так как в команде CVB второй операнд должен быть упакованной десятичной величиной в поле памяти размером в двойное слово.  [37]

В результате эта величина оказывается в непосредственном соседстве с шест-надцатеричной цифрой С, помещающейся в младшем полу байте поля РАСК1, и образует вместе с ней упакованную десятичную величину с правильным кодом знака, расположенную в диапазоне адресов памяти от PACKS 1 по РАСК1 включительно.  [38]

Младший ( байт, бит, разряд) - самая правая позиция поля; разряд, находящийся справа от самого левого разряда или разрядов данной конфигурации; разряд единиц десятичной величины.  [39]

Например, если выполняется операция А В, где А - строка битов и В - фиксированная десятичная величина, то перед операцией сравнения строка бит А преобразуется в фиксированную двоичную и десятичная величина В - тоже в фиксированную двоичную. В подмножестве ПЛ / 1 сравнение строк символов с арифметическими данными запрещено.  [40]

Например, исключительная ситуация ( вычислительная) FIXEDOVERFLOW возникает всегда, когда для представления результата операции над числами с фиксированной точкой не хватает максимально допустимого количества цифр, а именно 15 для десятичных величин, 31 для двоичных величин. Происходит потеря старших значащих разрядов числа. Реакция на ситуацию автоматически включена.  [41]

В приведенных ниже примерах формируются константы длиной в полное слово, выравненные по границе полных слов, как для положительных, так и для отрицательных величин. Десятичная величина в выражении константы преобразуется а величину с фиксированной точкой, которая представлена как Б двоичном, так и в шестнадцатеричном формате.  [42]

Стандартный положительный () знак для упакованной десятичной величины - это шестнадцатеричные С или F, стандартный отрицательный ( -) знак - этошестнадцатеричное D. Ниже приведены примеры упакованных десятичных величин со знаком, величин без знака и эквивалентных им десятичйых величин.  [43]

Длина упакованной десятичной константы может быть от I до 16 байтов. Для более наглядного представления данных внутри десятичной величины может быть помещена десятичная точка. Она полностью игнорируется компилятором, и константа компилируется таким образом, как будто в предложении DC никакой десятичной точки нет.  [44]

Поля PACKFLD1 и PACKFLD2 содержат упакованную десятичную величину - J-0, что позволяет использовать их для операции десятичной арифметики. Каждая из однобайтовых областей SWITCH1 и SWITCH2 содержит шестнадца-теричную конфигурацию пробел. Поле CODE - другое подполе DATAHOLD - в свою очередь внутренне доопределяется подполями PREFIX и SUFFIX, которые также содержат коды пробелов.  [45]



Страницы:      1    2    3    4