西門(mén)子S7-300/400的模擬量輸入的分辨率用位來(lái)表示，如下圖所示：

如圖所示：當(dāng)分辨率是10位的時(shí)候，模擬量的數(shù)值是以32的倍數(shù)變化；當(dāng)分辨率是15位的時(shí)候，模擬量的數(shù)值是以1的倍數(shù)變化，其它的依次類推。

例如：一個(gè)4~20mA的壓力傳感器的量程是0-100kPa，當(dāng)選擇分辨率為10位的模塊時(shí)，每次變化數(shù)字量為：32*100/27648=0.1157，這時(shí)的誤差范圍就在0.1kPa以上了，想要達(dá)到0.1kPa的精度是不可能的；當(dāng)選擇分辨率為11位的模塊時(shí)，每次變化數(shù)字量為：16*100/27648=0.0579，這時(shí)的誤差范圍就在0.1kPa以下了，就可以達(dá)到0.1kPa的精度。

首先說(shuō)明的是：精度≠分辨率

分辨率是整個(gè)量程分成N個(gè)等份，如上圖對(duì)應(yīng)各自的分辨率就是32767/256=128（即2的7次方）、32767/512=64（即2的6次方）、32767/1024=32（即2的5次方）等。

精度是測(cè)量值和實(shí)際值的偏差，模擬量轉(zhuǎn)換的精度除了取決于A/D轉(zhuǎn)換的分辨率，還受到轉(zhuǎn)換芯片的外圍電路的影響，在實(shí)際應(yīng)用中，輸入的模擬量信號(hào)會(huì)有波動(dòng)、噪聲和干擾，內(nèi)部電路也會(huì)產(chǎn)生噪聲、漂移，這些都會(huì)對(duì)轉(zhuǎn)換的精度造成影響，這些因素造成的誤差要大于芯片A/D的轉(zhuǎn)換誤差，高精度必須要高分辨率，但高分辨率并不等于高精度。

有的模擬量輸入模塊的分辨率是可以在硬件組態(tài)中進(jìn)行設(shè)置的，比如6ES7 331-7KF02-0AB0，硬件描述中分辨率最高可達(dá)到14位，但是對(duì)于不同的積分時(shí)間或干擾頻率抑制值，其分辨率是不一樣的，對(duì)于本例的模塊具體對(duì)應(yīng)關(guān)系（每個(gè)模塊的詳細(xì)參數(shù)可以參考模塊的技術(shù)手冊(cè)）為：

由圖中數(shù)據(jù)可以看出：積分時(shí)間越長(zhǎng)精度越高，干擾抑制頻率值越低精度越高。