带宽限制及由于HiRes 导致的垂直分辨率提高程度会随着仪器的最大采样率和实际选择的采样率而变化。实际采样率一般显示在屏幕底部附近，最大采样率可以参见产品技术资料。垂直分辨率位数为：
垂直位数= 8 + 0.5 log2 * (D)
其中：D 是压缩比或最大采样率/ 实际采样率得到的-3
dB 带宽( 除非受到测量系统模拟带宽的进一步限制) 是:
BW = 0.44 * SR
其中：SR 是实际采样率
在许多泰克示波器中，平均算法是在硬件中实现的，采用固定点运算，得到大约16 位的最大分辨率。观察到的分辨率改善程度略低，会随着应用变化，但这种信号处理技术对许多应用尤其有效。
对于硬件12bit ADC 示波器高分辨率模式效果更佳突出，详细信息请参考表1。
表1. 泰克MDO3 系示波器5 GS/s 示波器中
由于HiRes 增强的垂直分辨率对应表
High Res 模式是一种全新的泰克已获得专利的采集模式，它会产生非常高的垂直分辨率。在高层次上，它与以前的技术类似，它会用降低定时分辨率的方式，来改善垂直分辨率，这通过计算及显示多个顺序样点的波形串平均值来实现。除波形串平均技术本身会发生低通滤波外，它还对信号应用一个唯一的FIR 平滑滤波器，对频响进行整形，优化垂直分辨率。
与以前的技术不同，4 系列5 系列MSO 先从12 位6.25 GS/s ADC 输出入手，在ASIC 上实现数字信号处理技术。
另外，为改善用户体验，采集标志会显示分辨率位数，活动通道的垂直标志表明-3 dB 带宽。4 系列5 系列MSO 中的High Res 采集模式提供了表2所示的性能。注意示波器通道和任意相连探头提出的模拟带宽限制会进一步降低表2 所示的带宽。
表2. MSO4 和MSO5 系列示波器加强型高分辨率模式对照表
4、示波器的采样率
对于当今嵌入式系统调试来说，混合信号已经非常普遍，最近几年数字信号的速度越来越快，工程师对数字信号处理能力要求越来越高，很多工程师纠结是不是购买专用的逻辑分析仪来进行高速数字信号处理。这里有个问题，市面上很多的示波器都名字为混合信号示波器MSO, 为什么不能用这类仪器来数字信号处理呢？
我们来确认下这个问题，当前市面上的MSO 确实有数字信号处理能力，可以选配16 路数字信号采集，也具有一定的分析功能，但是仔细确认发现其数字信号采样能力有很大的限制。一般一台示波器如果模拟通道的采样率可以做到5GS/s，而其数字通道的采样率只有200MS/s，市面上最高数字采样率到500MS/s。大家都知道采样率对信号还原，尤其对偶发异常信号捕获的重要性，所以就目前的市面的MSO 系列混合信号示波器来说，会对测试的结果存在疑虑。
泰克新一代示波器MSO4/MSO5 系列示波器基于泰克全新的TEK049 平台打造，大大提升了其信号采集及处理速度，每条模拟及数字通道都可以设定高达6.25GS/s 采样率。让我们来看看新一代示波器MSO4/MSO5 和传统混合信号示波器的测试对比。
由图6 可以看出，对于现在越来越快的数字信号调试，需要更高的采样速率捕获数字信号细节，如果采样率不够就如图7 所示会丢失信号的细节，甚至还会显示完全错误的信息。
图6. 不同采样速率对数字信号细节还原对比
5、探头的选择与设置至关重要
探头的作用至关重要，为实现测量的最优结果，必须进行折衷，特别是在进行高精度测量时。有时示波器标配的无源探头并不是实现最佳精度的解决方案。
（1）选择适当衰减比的探头
