Cтраница 3
Если при округлении числа последние сохраняемые цифры нули, то их следует записывать. [31]
Команда FRNDINT производит округление числа, находящегося в вершине стека, до целого. Если исходное число представлено в формате целого, то оно не изменяется командой. [32]
Разработанное устройство для округления числа в СОК обеспечивает высокое быстродействие, что позволяет проектировать высокоэффективные устройства непозиционного нейропроцессора. [33]
Отметим, что любое округление чисел представляет собой систематическую погрешность. [34]
Хотя описанный способ округления чисел и не является лучшим, тем не менее именно с ним тесно связаны все другие способы округления. [35]
Это простое правило округления чисел применяется и в ЭВМ. [36]
Рассмотрим теперь процесс округления числа, не содержащий операции деления. [37]
Оценка порядка величины округлением чисел представляет собой один из наиболее полезных приемов приближенных вычислений в физике. Во многих случаях вполне достаточно произвести приближенную оценку, которую легко можно выполнить в уме. В нашей работе мы будем часто пользоваться этим способом, и вы должны к нему привыкнуть. [38]
При ENABL FPT производится округление чисел с плавающей запятой. [39]
Ошибка, происходящая от округления числа, может часто рассматриваться как равномерно распределенная по интервалу ( - 2 2 / в едипнцах последнего знака. [40]
Рассмотрим простейшую операцию - округление чисел, содержащих t т ( где г 0) разрядов, до чисел, содержащих t разрядов. Каким бы способом ни производилось округление содержащего ( t г) разрядов числа зг, результатом округления должно быть t - разрядное число. [41]
Вычислительная погрешность возникает из-за округлений чисел до определенного числа разрядов при вводе и выполнении арифметических операций в вычислительной машине. Ошибки округления в процессе выполнения арифметических операций преобразуются и накапливаются. Остановимся на этом вопросе более подробно. [42]
В целях выполнения требований округления числа витков можно применять вместо параллельного последовательное соединение катушек последовательной обмотки с расположением их только на полюсах одной полярности, оставляя полюсы другой полярности свободными. [43]
Переполнение сумматора, вызванное округлением чисел, должно быть блокировано. [44]
Цифры, которые при округлении числа не были заменены нулями, называются верными цифрами. [45]