Kalkil presizyon nan miltimèt dijital
Gen kèk manifaktirè yo rele presizyon miltimèt la tou ensètitid, ki jeneralman di "mezire nan kondisyon tanperati opere 18 degre ~ 28 degre (64 degre F ~ 82 degre F) ak imidite relatif mwens pase 80[ pousan ] nan yon ane apre yo fin kite faktori a. , ±({{10}}.8[ pousan ] lekti plis 2 karaktè)." Anpil achtè oswa itilizatè yo pa trè klè sou sa a epi souvan mande. Mwen sipoze isit la ke gen yon mèt, nan yon seri sèten, tankou DC 200V, li ekri konsa, epi valè mezire a montre 10{{ 26}}.0 sou kontè a, kidonk ki sa ki ta dwe valè kòrèk la nan moman sa a. Mwen panse ke pou itilizatè jeneral, ou ka konplètman inyore kalkil la nan presizyon, epi jis panse ke li se 100V DC. Kalkile dapre presizyon manifakti a, lè w mezire 100V (ekspozisyon 100.0), erè a se ±(0.8[ pousan ]*1000 plis 2)=±10, se sa ki, erè a se 1.0V. Lè w ranplase lekti a, pa konsidere pwen desimal la. Ranplase valè ki parèt la nan kalkil la, ajoute yon pwen desimal nan valè kalkile a, epi sèvi ak lekti orijinal la pou kalkile pri anbake. Tankou egzanp sa a, valè kòrèk la se 100.0±1.0, ki ta dwe ant DC 99.0 ~ 101.0V.
Diferans ki genyen ant twa ak yon mwatye chif ak kat ak yon mwatye chif nan yon miltimèt dijital
Twa ak yon mwatye chif yo rele tou 31/2 chif (pwononse kòm twa ak yon mwatye chif), ak kat ak yon mwatye chif yo rele tou 41/2 chif (pwononse kòm kat ak yon mwatye chif). Nou konnen apre yon kantite analòg yo quantize epi konvèti an yon nonb, presizyon li reprezante a gen rapò ak kantite chif nimewo a. Plis chif, se pi pre valè orijinal la, se plis egzat (sa a se jeneralman pale, kèlkeswa lòt sikonstans, si valè quantized la se 1.00000V, se menm bagay la pou reprezante li ak yon sèl bit ak N bits (:) Se konsa, an jeneral, plis chif yo, pi egzak la, se sa ki, kat chif Mwatye se pi presi pase twa edmi chif.
