运算时，很少看到结果值，中间的或最终的，等于完整的数(整数)。起初看起来可编程控制器不能用来执行精确运算。事实不是这样，采用比例和单元操作可以得到高精度的答案。

    给出的例子显示了一个用以测量两点间地平面变化的经纬仪。计算实际上是已知三角形的两个直角边，求得料边与相邻角度。

    经纬仪和标尺的距离已知(部边)，基准位和当前位也已知(所以对边也能计算出)。这意味着所要求的角度的正切可计算出。为了得到一个合理的精确度，输入参数按比例给出，基准位和实际位以毫米为单位输入，经纬仪和标尺的距离以米为单位输入。在进行“反正切”运算前，所计算的正切需要除以100。这种方法的结果误差限制在近似0.5度。