В конкретных приложениях частота регистрации и разрешение должны быть достаточны для регистрации наблюдаемых физических событий. ... - Большая Энциклопедия Нефти и Газа
Выдержка из книги
Учи Г.N.
Персональные компьютеры для научных работников
В конкретных приложениях частота регистрации и разрешение должны быть достаточны для регистрации наблюдаемых физических событий. Например, частота регистрации и разрешение, необходимые для измерения изменений температуры в теплице на протяжении 24 ч, существенно отличны от значений, необходимых для измерения изменений температуры, происходящих за односекундные интервалы внутри цилиндра турбомотора. Пользуйтесь повышенным разрешением, если методы обработки зарегистрированных данных включают возведение в квадрат или взятие квадратных корней, как, например, при построении линии или кривой регрессии методом наименьших квадратов. Выполнение этих преобразований с уже приближенными величинами вследствие ограниченного разрешения аппаратных средств может приводить к большим непредсказуемым выбросам в результатах.