Округление - Большая Энциклопедия Нефти и Газа, статья, страница 1
Жизнь уходит так быстро, как будто ей с нами неинтересно... Законы Мерфи (еще...)

Округление

Cтраница 1


Округление до целых следует.  [1]

Округление выполняется прибавлением числа 5 к цифре справа от последней цифры, сохраняемой в результате.  [2]

Округление заключается в том, что к содержимому бита 32 длинного второго операнда или бита 72 расширенного второго операнда прибавляется 1, и перенос, если он возник, распространяется влево. В обоих случаях знак мантиссы не принимается во внимание, и сложение выполняется так, как если бы мантисса была положительной.  [3]

Округление до 96 000 сделано для простоты расчетов.  [4]

Округление до 104 000 сделано для простоты расчетов.  [5]

Округления осложняют процесс в двух местах.  [6]

Округление по нескольким разрядам может производиться путем повторения операций, приведенных выше.  [7]

Округление до целых проведено в большую сторону.  [8]

Округление с использованием классической функции Round и более новыми функциями RoundTo отражается на алгоритм округления CPU / FPU. По умолчанию, процессоры компании Intel осуществляют так называемое банковское округление, которое обычно используется в приложениях электронных таблиц.  [9]

Округление производится лишь в окончательном ответе, а все предварительные расчеты выполняются не менее чем с одним лишним знаком.  [10]

Округление не является необходимым во всех случаях, и наличие варианта ROUNDED не избавляет программиста от анализа масштаба результатов и от выделения достаточного числа цифр для сохранения нужной точности. Один из возможных методов состоит в выделении под промежуточные результаты гораздо большего места, чем необходимо, и округлении лишь окончательного результата до нужного числа дробных десятичных знаков. Максимальный размер числовых данных, допустимый в КОБОЛе, составляет восемнадцать цифр.  [11]

Округление дается в большую сторону.  [12]

Округление до целых проведено в большую сторону.  [13]

Округление основывается на тех же принципах, что и приближенные вычисления, когда ошибкой пренебрегают в силу ее незначительности.  [14]

Округление при вычислениях и выводе производится по следующему правилу: если первая цифра дробной части числа, отбрасываемой при округлении, 5, то к предыдущему разряду прибавляется единица.  [15]



Страницы:      1    2    3    4