简而言之,电位计的分辨率是相邻抽头位置之间差异的度量。在比率应用中,这对应于电压阶跃,而在电阻应用中,分辨率更接近于增量电阻。理论分辨率可以定义为输出比率可调节的灵敏度的测量值,相当于抽头数(忽略零抽头)的倒数,以百分比表示。可以设置的精度通常称为可调性或可设置性。在标准 XDCP 上,硬件设计人员可以使用 256、124、32 或 16 个抽头,分别提供 1.01%、1.59% 和 3.23% 的分辨率。这些分辨率在各个抽头之间大致恒定(尽管相对线性度更保守地指定为 20%),并且电位计在滑动片移动时表现出单调行为。对于四路器件(例如 X9241A),可以使用软件命令实现内部级联,最多允许 253 个抽头(0.39% 分辨率)。在新一代 XDCP 上,使用双 128 抽头和双 256 抽头器件甚至可以实现更高的分辨率。但是,对于标准 XDCP,使用外部硬件或使用某些软件方案已经可以实现极高的分辨率(请参阅 Intersil 应用笔记 AN43“软件实现高分辨率非易失性数字电位计”)。类似的分析将成立