Высокая точность - вычисление
Cтраница 1
Высокая точность вычислений с плавающей запятой обеспечивается новыми арифметическими командами, которые обрабатывают операнды с плавающей запятой длиной 128 разрядов. [1]
Высокая точность вычислений с плавающей запятой обеспечивается новыми арифметическими командами, которые обрабатывают операнды с плавающей точкой длиной 128 разрядов. [2]
Высокая точность вычислений на ЦВМ обусловливается практическим отсутствием влияния энергетики машины на ее работу. Здесь фактическая точность решения принципиально ограничена лишь методической правильностью алгоритмизации и программирования и числом значащих цифр ( разрядностью) получаемого результата и всех промежуточных чисел, с которыми оперирует машина. [3]
Для получения высокой точности вычислений, в особенности на участках номограммы с более редким расположением лучей, где графическая интерполяция затруднительнее, рекомендуется применение подвижного луча. Последний представляет собой прозрачную полоску с нанесенной на ней тонкой прямой линией. При использовании один конец луча должен проходить через начало пучка, а другой - через соответствующий штрих на криволинейной стрелке-шкале. [4]
Они обеспечивают высокую точность вычислений, составляющую 8 - 11 десятичных знаков, и полную автоматизацию процесса решения, который ведется по заранее составленной программе. [5]
Практически же достичь высокой точности вычисления производных выше второго порядка не представляется возможным, что и привело к замене производных комбинациями значений самой функции в методе Рунге - Кутты. [6]
Однако это требует высокой точности вычисления градиента функции р ( х) в точках х /, высокой точности одномерной минимизации, а также высокой точности в определении наибольшего значения / 3k из соотношения (9.13), что часто снижает эффективность выбранного процесса минимизации. [7]
Численные результаты демонстрируют высокую точность вычисления вероятностных характеристик решения. [8]
Это расхождение объясняется недостаточно высокой точностью вычислений и тем, что частоты теоретической плотности распределения лежат вне интервала 0 - 180 тыс. км. [9]
Характерными особенностями ЭВМ являются высокая точность вычисления, большое быстродействие, универсальность. Высокая точность вычисления кроме точности самого метода решения определяется количеством разрядов чисел, с которыми производятся арифметические действия. Современные универсальные ЭВМ оперируют с 8 - 12-разрядными десятичными числами, что вполне достаточно для решения большинства технических задач. [10]
Характерными особенностями ЭВМ являются высокая точность вычисления, большое быстродействие, универсальность. Высокая точность вычисления кроме точности самого метода решения определяется количеством разрядов чисел, с которыми производятся арифметические действия. Современные универсальные ЭВМ оперируют с 8 - 12-разрядными десятичными числами, что вполне достаточно для решения большинства технических задач. [11]
 |
Непрерывная и цифровое представление этих функция величин выражается числом со. [12] |
Следовательно, ЭЦВМ имеют высокую точность вычислений, определяемую количеством цифр, представляющих разряды чисел, решают широкий круг задач, причем для решения сложных задач требуется только больше времени при примерно одинаковом составе оборудования. [13]
Втизлучения, когда не требуется высокая точность вычислений. [14]
Исходя из того, что высокая точность вычислений не требуется в этой задаче, наилучшей формой представления выходной информации надо признать такую форму, где печатались бы около трех значащих цифр и десятичный порядок. [15]
Страницы: 1 2 3 4