genauere Kommazahl bei PLS-Programmierung
Vielleicht kennt sich jemand mit SPS/PLS aus, und kann mir weiterhelfen. Der genaueste Datentyp nennt sich REAL, die Genauigkeit reicht für mein Projekt normalerweise auch aus (7 Nachkommastellen). Mein Problem liegt darin, dass die Multiplikation zu ungenaue Werte berechnet, demzufolge die Genauigkeit halt doch nicht ausreicht (die letzten beiden Nachkommastellen werden ungenau). Der REAL-Datentyp benutzt 32 Bit, leider ist das der größte zur Verfügung stehende. Hat vielleicht jemand eine Idee oder ein Lösung, wie ich genauere Werte bei der Multiplikation von REAL-Werten bekommen kann, ohne "größere" Umwege zu gehen?
Grüße Okki
73%
22%
19%
11%
6%
PHP »
Kommazahl (4,75589) als Integer anzeigen?
(26. Dezember 2008, 13:30)