光栅尺的精度就是它能测准的最小单位，比如常见的千分尺刻度是0.1毫米，光栅尺可能达到0.01毫米甚至更小。这跟尺子上的刻线密度有关，每毫米刻线越多，精度越高。测量时通过光电转换把光信号变成电信号，再算出实际长度。但精度还受环境温度、机械振动影响，比如温度每变1度，误差可能增加0.002毫米。

为什么是这个精度呢？因为光栅尺的精度由两个关键参数决定，一个是刻线密度，比如每毫米500条刻线的叫500线/mm，另一个是电子分辨能力。500线/mm的光栅尺，理论上最小刻度是0.002毫米（1/500）。但实际使用中还要考虑重复性误差，比如多次测量同一位置可能有±0.001毫米波动。根据国标GB/T 1214-2004，合格的光栅尺在20℃环境下，测量10毫米长度时误差不超过±0.005毫米。比如某品牌200mm量程的光栅尺，说明书写分辨率0.5μm，重复性±0.2μm，说明它测10毫米长度时，误差可能在0.005-0.02毫米之间波动。这是因为电子计数器的采样频率和机械传动件的配合度也会影响最终精度。