Максимальная абсолютная погрешность

Cтраница 3

Процесс зфавновсшивагия в цифровых приборах развертывающего уравновеши. [31]

В цифровых циклических приборах выходной код N приближается к искомому отсчету Nх с одной стороны, сверху или снизу, поэтому при АХп ч 0 максимальная абсолютная погрешность от квантования равна ступени & хк. [32]

Здесь: Арн - максимальная абсолютная погрешность величины рн, равная половине единицы разряда последней значащей цифры в табличном значении рн; Ар и АГ - максимальные абсолютные погрешности измерения р и Т соответственно. [33]

Абсолютная погрешность температурного предела смеси при использовании в расчете надежных экспериментальных данных по давлению пара чистых компонентов, растворимости и коэффициентам активности, как правило, не превышает максимальной абсолютной погрешности температурного предела компонентов смеси. [34]

Абсолютная погрешность при изображении в ячейке чисел с запятой, фиксированной после определенного разряда, не превосходит по величине единицы младшего разряда, то есть, как говорят, максимальная абсолютная погрешность при этом постоянна. [35]

Для учета в модели однократной экстракции NRTL влияния воды, были дополнительно подобраны эмпирические коэффициенты бинарного взаимодействия воды с компонентами системы, применение которых при численных исследованиях существенно уменьшило погрешности моделирования в области содержания воды в экстрагенте выше 8 % об. По выходу рафината и содержанию в нем аренов максимальные абсолютные погрешности в этой области составляют 0 6 и 0 9 %, соответственно. Погрешности расчета по выходу экстракта и содержания в нем аренов снизились до 0 6 и 1 1 %, что составляет 4 8 и 1 4 % относительной по. [36]

Следует отметить, что для измерения среднего фазового сдвига рассмотренным методом характерно уменьшение погрешности дискретности по сравнению с имеющей место при измерении одиночного интервала времени. Хотя максимальная абсолютная погрешность дискретности определения длительности одного интервала АГ составляет ГСЧ, результирующая погрешность за время измерения Ткзм уменьшается, так как результаты измерения всех k интервалов АГ суммируются, а возникновение частотной погрешности дискретности положительного или отрицательного знака равновероятно. [37]

Рассмотрим погрешность от квантования. Следовательно, максимальная абсолютная погрешность от квантования будет равна единице. [38]

Второй способ сводится к увеличению числа импульсов, заполняющих временные ворота, достигаемому умножением частоты исследуемого сигнала. При этом максимальная абсолютная погрешность меняется ( если неизменна длительность ворот), но уменьшается относительная погрешность. Осуществление данного способа сопряжено с применением дополнительного блока - умножителя частоты, что усложняет и удорожает аппаратуру. [39]

Максимальную погрешность Дгд Т0 удобно учитывать через эквивалентное случайное изменение числа счетных импульсов Nx на 1 импульс. При этом максимальная абсолютная погрешность дискретизации может быть определена разностью значений частоты / получаемых по формулам (7.4) или (7.5) при Л 1 и Nx, и равна А. [40]

Максимальные абсолютные погрешности показаний манометров Мп и Мв, исправленных на систематические погрешности приборов, принимаются равными 0 2н - 0 5 цены наименьшего деления шкалы, если эта величина не превышает вариации показаний прибора. В противном случае максимальная абсолютная погрешность равна вариации показа ний прибора, которая определяется при тарировании. [41]

Максимальные абсолютные погрешности показаний манометров М и Мв, исправленных на систематические погрешности приборов, принимаются равными 0 2 - 0 5 цены наименьшего деления шкалы, если эта величина не превышает вариации показаний прибора. В ином случае максимальная абсолютная погрешность будет равна вариации показаний прибора, которая определяется при тарировании. [42]

Вид кривой У 10 - 4Х2 и ее аппроксимация линейными отрезками. [43]

Точность результата зависит от того, в каком состоянии находится счетчик-интегратор в момент остановки цикла вычисления. Для этого значения получаем максимальную абсолютную погрешность - 5 импульсов младшего разряда. [44]

Например, при отсчете или установке визира на логарифмической линейке длиной 250 мм ошибка не превышает 0 1 мм. Таким образом, обычно бывает известна максимальная абсолютная погрешность, получаемая при измерении величины х; обозначим эту погрешность через их. [45]

Страницы: 1 2 3 4