Потеря - точность - результат
Cтраница 1
Потеря точности результата вследствие накопления малых погрешностей округления характерна не только для ПМК, но в еще большей степени для универсальных ЭВМ высокой производительности. [1]
Неправильный порядок выполнения арифметических операций может привести не только к потере точности результата, но и к полной неудаче, как показывает следующий пример. Сначала будет выполнено умножение, дающее 10G0, что является слишком большой величиной для большинства вычислительных машин. Конечный результат вычислений, равный 1030, был бы снова в допустимых пределах, но промежуточный результат выходит из этих пределов. Так как промежуточный результат не умещается в разрядной сетке машины, то машина или остановит программу, или выдаст совершенно неверный результат в зависимости от того, как она устроена. [2]
Отметим, что явления, рассматриваемые нами, отличаются от уже исследованных явлений потери точности результата компьютерных вычислений при различных методах решения, связанных с преобразованиями уравнений. Так, например, в [23, 24] показано, что при последовательном проведении цепочки преобразований, рекомендуемых в методиках Гаусса, Хаусхолдера, Гивенса, А. Н. Крылова, малые ( но конечные. [3]
АВМ машинная переменная uvmyy ( t) обязательно выйдет из допустимого диапазона линейности 100 вольт, что приведет к потере точности результата или вообще к полной потере результата. Обычно при расчете масштабов зависимых математических переменных прибегают к методу масштабных задач ( см. § 5 гл. [4]
Однако до недавнего времени как в СССР, так и за рубежом таблицы натуральных значений тригонометрических функций составляли и даже продолжают составлять с одинаковым числом десятичных знаков, что приводит к потере точности результатов при вычислениях с функциями от малых углов. [5]
ПОЭТОМУ таблицы натуральных значений тригонометрических функций, составленные с постоянным числом значащих цифр. Между тем до недавнего времени таблицы натуральных значений тригонометрических функций составлялись как у нас, так и за рубежом по первому принципу, что приводило к потере точности результатов при вычислениях с функциями от малых углов. [6]
 |
Оценка среднего значения в большой совокупности по выборке малого объема.| Вычисление среднего и оценки дисперсии. [7] |
Для вероятности аг at интервал становится большим, а вероятность ( 1 - г) попасть вне области - меньшей. Это увеличение вероятности обусловлено расширением той области, в которую должно попасть среднее значение генеральной совокупности. Таким образом, можно сделать вывод: увеличение надежности достигается ценой потери точности результатов. [8]
В таблицах первого варианта абсолютная погрешность значений тригонометрических функций для всех значений углов не превзойдет 0 5 - 10 -, где п - число десятичных знаков в таблицах. А относительная погрешность значений в этих таблицах будет резко меняться. Вычисления с функциями от малых углов по таким таблицам приводят к потере точности результатов; такими таблицами не всегда можно пользоваться. [9]
Значения реальных переменных и параметров элементов привода переменного тока находятся в весьма широком диапазоне. В ходе управления АД или компьютерного моделирования процессов в АД по мере обработки информации о движении привода осуществляются многократные арифметические операции над его переменными и параметрами его элементов. При этом промежуточные результаты могут сдвигаться в область значений, лежащих вблизи границ ограниченного диапазона чисел, внутри которого ПЭВМ или микроконтроллер производит операции. В итоге наблюдается потеря точности результатов вычисления и возрастает опасность переполнения разрядной сетки ЭВМ. [10]
Следует еще раз напомнить, что выполнение любых операций может осуществляться только над операндами, имеющими одинаковые атрибуты. Однако часто операнды выполняемых операций имеют различные атрибуты, что и приводит к необходимости их преобразования, В языке ПЛ / 1 имеются большие возможности преобразования данных из одной формы представления в другую. Например, преобразование арифметического данного в строку символов выполняется модулем библиотеки ПЛ / 1, который требует дополнительно 632 байта основной памяти. При этом может происходить потеря точности результата вычислений. Рассмотрим основные правила преобразования данных при вычислении выражений. [11]
Для этого необходимо решить задачи, связанные с обнаружением пика в выходном сигнале в условиях шумов ( см. раздел 3.3) и нахождением требуемых его характеристик с учетом возможных искажений ( см. гл. При ручной обработке хроматограммы эти задачи решаются просмотром записи оператором и принятием ( или непринятием) на основании его опыта отклонившихся от базисной линии участков за пик сигнала. Естественно, что в неблагоприятных условиях точность и надежность получаемых результатов весьма малы, а времени на их получение затрачивается много. Задачей автоматической обработки в этом случае является определение параметров спектральных линий с высокой точностью и надежностью, что требует разработки новых алгоритмов. Следует помнить, что соответствующая математическая обработка может повысить качество результатов лишь до какого-то предела. Так, современные методы разделения позволяют оценить параметры наложившихся пиков, но точность оценок резко уменьшается с возрастанием количества и степени наложения пиков. Наличие больших шумов и помех, сильный нелинейный дрейф базисного сигнала приводят к потере точности результатов даже при использовании оптимальных методов обработки: возрастание вычислительных трудностей и сложности реализации этих алгоритмов не компенсируют потери точности от плохого качества обрабатываемой информации. Учитывая также отсутствие надежных адекватных моделей хроматографи-ческого сигнала и неконтролируемые погрешности первичных преобразователей, к вопросу о возможности компенсации плохого качества хроматографического сигнала непосредственно в процессе обработки следует подходить с большой осторожностью. [12]
Страницы: 1