Re: Rechenfehler?? oder was ganz anderes... Kategorie: Programmierung (von krassos - 24.08.2005 15:28) | ||
Als Antwort auf Re: Rechenfehler?? oder was ganz anderes... von Markus - 23.08.2005 22:17 | ||
| ||
> Hallo krassos! > Dass könnte schon dass Problem sein! Leider habe ich keine Ahnung was du jetzt mit Digits meinst! > Wenn der Controller mir natürlich bei 1000V/16 62 anstatt 62.5 ausgibt und dass bei den anderen > nachfolgenden Werten auch noch kann ich mir vorstellen dass die Ungenauigkeit daher kommt! > Aber wie löse ich dieses Problem?? > wie setzte ich die 1000V auf 1000000digits?? > Markus Hallo Markus, wie kommt denn der Spannungswert in den Controller? Misst Du die Spannung, oder liest Du sie aus einem anderen System aus oder gibst Du diese von Hand vor? Wenn Du einen Wert umskalieren möchtest, mu�t Du Ihn nur mit dem Skalierungs-faktor multiplizieren. In Deinem Beispiel also Skalierung 1000. 1000V x 1000 = 1000000 (Digits) Jetzt kannst Du auch korrekt dividieren: 1000000 : 2 = 500000 500000 : 16 = 31250 Die Kommasetzung ist dann wohl kein Problem bei einer evtl. Anzeige. Alternativ kannst Du die Berechnung auch gleich in FLOAT erledigen. Dauert halt ein paar Mikrosekunden länger. Gru� krassos | ||
Antwort schreiben Antworten: Re: Rechenfehler?? oder was ganz anderes... (von Markus - 24.08.2005 16:20) |