Für dieses Forum muß Javascript im Browser aktiviert werden!
Kommentar: Einfügen von HTML im Kommentar: Link einfügen: <a href="LINKURL" target="_blank">LINKTITEL</a> Bild einfügen: <img src="BILDURL"> Text formatieren: <b>fetter Text</b> <i>kursiver Text</i> <u>unterstrichener Text</u> Kombinationen sind auch möglich z.B.: <b><i>fetter & kursiver Text</i></b> C2 Quellcode formatieren: <code>Quellcode</code> ASM Quellcode formatieren: <asm>Quellcode</asm> (Innerhalb eines Quellcodeabschnitts ist kein html möglich.) Wichtig: Bitte mache Zeilenumbrüche, bevor Du am rechten Rand des Eingabefeldes ankommst ! > Hallo , > > Ich habe nun in die Anzeigefunktion follgenden Code eingefügt: > > <code> > > s = global.phaus * 100; > pcflcd.zahl(s); > pcflcd.print(" "); > s = math.ceil(global.phaus*100); > pcflcd.zahl(s); > > <s = global.phaus * 100; > pcflcd.zahl(s); > pcflcd.print(" "); > s = math.ceil(global.phaus*100); > pcflcd.zahl(s); > </code> > > wobei pHaus der Flieskommawert des pH-Wertes ist > > Keiner der beiden Werte schwankt. > > Ich kann den Fehler leider nicht mehr reporduzieren. > > Ich denke das ich einen Berechnungsfehler hatte und dadurch die Schwankungen hatte. > > Wenn es gewünscht wird kann ich das pH-Mess-Modul und die Schaltung André schicken das er es > hier online Stellt sofern es tut. > > Danke für deine Hilfe. > > > > > > > Hallo , > > > > > > da mein Display defekt ist kann ich nur die gerundeten Werte geben. > > > global.St ( Steilheit ) ist -68 > > > global.Np ( Nullpunkt ) ist 808 > > > > > > die werte Schwanken symetrisch , erst + 5 dann langsam wieder auf -5. > > > > > > ohne die Rundung sind die werte viel stabiler. > > > > > > +/- 0,01 pH-Einheit. > > > > > > Gruss JackFrost > > > > Hallo Jack, > > > > > > > > ich glaube, das wären normale Schwankungen. Bitte gib mir doch mal einen Tip, > > > > welche Werte für global.Nr und .St bei Dir Verwendet werden. > > > > Dann kann man mal nachrechnen. > > > > > > > > Gruß krassos > > > > Hallo Jack, > > > > meiner Meinung nach wird die Zeile x=z/10 im long-Bereich berechnet, was > > de facto integerwerte zur folge hat. > > Ein AD-Wert von 512 digits gemittelt > > ergibt dann > > x=(x-NP)/ST =4,3529 > > x=x*100 =435,29 > > ceil(x) =436 > > > > Bei 511 digits > > > > x=(x-NP)/ST =4,3676 > > x=x*100 =436,76 > > ceil(x) =437 > > > > bei 513 digits > > > > x=(x-NP)/ST =4,3382 > > x=x*100 =433,82 > > ceil(x) =434 > > > > Schau Dir einfach mal die Zwischenergebnisse von x an. > > Wenn die Berechnung long ist kannst Du Sie ändern in > > <code> > > x=z > > x=x/10</code> > > Anschließend schaust Du Dir nochmal anhand der Zwischenergebnisse an, wo > > Deine Werte schaukeln. Bei mir steht kein AD-Wert. Sie schwanken alle > > um +/- 1 Digit. Bei Messungen in bewegten Medien auch mehr. > > > > Gruß krassos > >
