对于测试仪器来说，精度、可靠性、稳定性及功能是非常重要的几个指标，这也决定了工程师对测试结果的信心。基于示波器的设计原理，它具有非常高的采样速率，时间精度可以保证，但很多工程师却忽略了其幅度的测试精度。随着电力电子技术的发展，低功耗器件的大量应用以及更加严苛的行业标准约束，工程师对测试的精度越来越关注，开始不满足于市面上示波器幅度测试的分辨率和精度了。
对于示波器这种测试仪器，如何选择和设定可以获得最优的测试精度呢？
在进行测量时，您可以把数字示波器看成一个测试系统，来改善测量结果（参照图1）。在对示波器工作模式、探头特点、滤波技术及整个系统交互方式有了基本了解之后，您可以改善小信号的测量效果。
为实现高精度测量，必须考虑整条信号路径，从探头尖端，到示波器的模拟前端、采样和数字信号处理。如图1 所示的每个系统单元都会影响测量精度，可以进行优化，以实现最佳结果。
图1. 示波器测试系统示意图
1、示波器模数转换
为提高测试精度最理想的方式是提高示波器ADC 位数，但是因为ADC 采样率和垂直分辨率性能的互相制约，目前市面上常见的示波器是采用8bit ADC。我们换个角度来看，理论上用满其垂直的动态范围，分辨率就是垂直量程/ 256（28），如果采用12bit ADC的示波器其分辨率为垂直量程/4096(212)。显而易见，高比特的ADC可以在测试精度上带来非常大的提升。
现在工程师面临着很多小信号测试的挑战，如果您是电源设计的工程师，纹波测试非常重要，过去纹波电压从几十到一百多mV 到目前只有十几mV，甚至很多笔记本和手机上小到几个mV 的微小纹波测试。这就对测试用的示波器的分辨率提出严峻的挑战，泰克全新一代示波器其硬件12bit ADC 轻松解决微小信号的测试问题。
还有就是叠加在一个大的信号上的小信号测试。为测试到完整的信号，需要选择一个较大的量程，但是又要保证能测试到微小信号变化，如何能准确测试呢？归根结底还是考验示波器垂直分辨率的指标，请参考图2 就非常清晰显示了其测试效果的对比。
图2. 不同位数ADC 示波器测试小信号对比
2、示波器前端放大器
示波器信号接入第一部分就是前端放大器，它非常重要。前端放大器是专为微小信号测试而设计的，可以使测试设备有更广泛的应用。但是前端放大器在放大有用信号的同时也将噪声放大，理想的情况是选用噪声系数较小的前置放大器。示波器可检测的最小信号也主要取决于前置放大器的噪声。在泰克全新一代示波器提升了前端放大器的硬件性能，本底噪声降低30%，从而提升了小信号的测试精度。具体的请参考图3。
图3. 泰克新MDO3系示波器和传统示波器本底噪声对比
3、示波器采集模式
在泰克示波器中，“采集模式”一词指波形数据的原始表示，通常是8 位分辨率。所有后续处理操作( 显示、自动测量、光标、数学和应用) 都基于采集模式定义的信号数据表示。大多数示波器中默认的采集模式是采样模式。这是最简单的采集模式，在这种模式下，普通示波器以选择的采样率（直到最大采样率）用8 位量值表示波形上的每个点。
在测量低压小信号时，有两种采集模式非常重要，具体视波形的可重复性而定，因为它们可以用来改善测量分辨率：平均模式和HiRes 模式。下面几节详细介绍了这两种模式。
①平均模式
