Kommentar:
Einfügen von HTML im Kommentar:
Link einfügen: <a href="LINKURL" target="_blank">LINKTITEL</a>
Bild einfügen: <img src="BILDURL">
Text formatieren: <b>fetter Text</b>  <i>kursiver Text</i> <u>unterstrichener Text</u>
Kombinationen sind auch möglich z.B.: <b><i>fetter & kursiver Text</i></b>
C2 Quellcode formatieren: <code>Quellcode</code>
ASM Quellcode formatieren: <asm>Quellcode</asm>
(Innerhalb eines Quellcodeabschnitts ist kein html möglich.)
Wichtig: Bitte mache Zeilenumbrüche, bevor Du am rechten Rand des Eingabefeldes ankommst !  
> > Hallo , > > > > da mein Display defekt ist kann ich nur die gerundeten Werte geben. > > global.St ( Steilheit ) ist -68 > > global.Np ( Nullpunkt ) ist 808 > > > > die werte Schwanken symetrisch , erst + 5 dann langsam wieder auf -5. > > > > ohne die Rundung sind die werte viel stabiler. > > > > +/- 0,01 pH-Einheit. > > > > Gruss JackFrost > > > Hallo Jack, > > > > > > ich glaube, das wären normale Schwankungen. Bitte gib mir doch mal einen Tip, > > > welche Werte für global.Nr und .St bei Dir Verwendet werden. > > > Dann kann man mal nachrechnen. > > > > > > Gruß krassos > > Hallo Jack, > > meiner Meinung nach wird die Zeile x=z/10 im long-Bereich berechnet, was > de facto integerwerte zur folge hat. > Ein AD-Wert von 512 digits gemittelt > ergibt dann > x=(x-NP)/ST =4,3529 > x=x*100 =435,29 > ceil(x) =436 > > Bei 511 digits > > x=(x-NP)/ST =4,3676 > x=x*100 =436,76 > ceil(x) =437 > > bei 513 digits > > x=(x-NP)/ST =4,3382 > x=x*100 =433,82 > ceil(x) =434 > > Schau Dir einfach mal die Zwischenergebnisse von x an. > Wenn die Berechnung long ist kannst Du Sie ändern in > <code> > x=z > x=x/10</code> > Anschließend schaust Du Dir nochmal anhand der Zwischenergebnisse an, wo > Deine Werte schaukeln. Bei mir steht kein AD-Wert. Sie schwanken alle > um +/- 1 Digit. Bei Messungen in bewegten Medien auch mehr. > > Gruß krassos

Dateianhang: (.gif, .png., .jpg, .zip, .rar)

max. 256kB

max. 256kB