 |
| Rebol et Décimal | |
| ldci | 10-Dec-2008/1:43:26+1:00 |
| Une question: a-t-on un équivalent du Float64 (a 64-bit (double precision) floating point value) en Rebol? Merci à tous. | |
| sebastien | 10-Dec-2008/13:48:27+1:00 |
| Si je me trompe pas Rebol intègre qu'une seule sorte de float il s'agit de Decimal qui est déjà sur 64 bit http://www.rebol.com/docs/core23/rebolcore-11.html | |
| ldci | 10-Dec-2008/14:26:12+1:00 |
| Oui mais à première vue, c'est du simple précision. Le pb est le suivant je dois passer en paramètre à une dll un &Float64 Au coeur de la dll on a une structure de type readArray float64 [ ] The array to read data into, organized according to fillMode. Si je passe un pointeur sur un décimal (possible avec rebol), les valeurs en retour de la dll sont systématiquement écrêtées dès que le signal recueilli dépasse 1,098900 volts. On devrait obtenir une valeur jusqu'à 5.00 Volts. Je suspecte donc que le codage du decimal sous rebol est en simple précision seulement ce qui expliquerait la coupure systématique, car le reste marche bien. | |
| Didec | 10-Dec-2008/15:06:15+1:00 |
| D'après la doc de core : Decimal numbers span from 2.2250738585072e-308 up to 1.7976931348623e+308 and can contain up to 15 digits of precision. Dernière ligne du 1.1.2 ici http://www.rebol.com/docs/core23/rebolcore-16.html#section-1.1. Sinon, j'ai trouvé ce script avec des fonctions de conversions, mais il n'ya pas trop de commentaire sur ce que ça fait. En tout cas on y vois des fonctions IEE64 http://box.lebeda.ws/~hmm/rebol/stream-io_latest.r | |
|
Login required to Post. | |