Schwankende Messwerte mit math.ceil(x) Kategorie: Programmierung (von JackFrost - 1.03.2006 19:08) | ||
| ||
Hallo , Wenn ich meine pH-Messwerte mit math.ceil(x) runden dann schwanken die Messwere +/- 0,1 pH. Selbst mit einer Mittelwertbildung aus 100 Werten inerhalb von 2 Sekunden. function messen() returns int { int t; long z; float x; z = 0; for t = 1 ... 10 { z = z + ports.adc(0); sleep 50; } x = z / 10; x = ( x - global.Np ) / global.St; global.phaus = x; x = x * 100; global.phwert = x; } Wenn ich global.phwert = math.ceil(x); anfüge dann schwanken die Werte Liegt das an der Ceil Funktion oder stimmt da was mit meiner CC2 nicht ? Gruss JackFrost | ||
Antwort schreiben Antworten: Re: Schwankende Messwerte mit math.ceil(x) (von krassos - 5.03.2006 10:35) Re: Schwankende Messwerte mit math.ceil(x) (von JackFrost - 6.03.2006 20:35) Re: Schwankende Messwerte mit math.ceil(x) (von krassos - 6.03.2006 21:52) Re: Schwankende Messwerte mit math.ceil(x) (von JackFrost - 7.03.2006 21:38) Re: Schwankende Messwerte mit math.ceil(x) (von Heribert - 8.03.2006 22:08) |