This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
Add quadruple precision tests, verified by Craig Berry.
authorJarkko Hietaniemi <jhi@iki.fi>
Sun, 17 Aug 2014 14:00:06 +0000 (10:00 -0400)
committerJarkko Hietaniemi <jhi@iki.fi>
Sun, 17 Aug 2014 18:25:37 +0000 (14:25 -0400)
Also tentatively adding double-double tests, but those are probably bogus.

Also comment tweaks.

sv.c
t/op/sprintf2.t

diff --git a/sv.c b/sv.c
index 8fe2c7e..e65fae6 100644 (file)
--- a/sv.c
+++ b/sv.c
@@ -10664,7 +10664,7 @@ S_hextract(pTHX_ const NV nv, int* exponent, U8* vhex, U8* vend)
     /* x86 80-bit "extended precision", 64 bits of mantissa / fraction /
      * significand, 15 bits of exponent, 1 bit of sign.  NVSIZE can
      * be either 12 (ILP32, Solaris x86) or 16 (LP64, Linux and OS X),
-     * meaning that 4 or 6 bytes are empty padding. */
+     * meaning that 2 or 6 bytes are empty padding. */
     /* The bytes 7..0 are the mantissa/fraction */
     /* There explicitly is *no* implicit bit in this case. */
     for (ix = 7; ix >= 0; ix--) {
index 1de85c2..0969d58 100644 (file)
@@ -21,14 +21,14 @@ print "# nv_preserves_uv_bits = $Config{nv_preserves_uv_bits}\n";
 print "# d_quad = $Config{d_quad}\n";
 if ($Config{nvsize} == 8 &&
     (
-     # IEEE-754, we hope, the most common out there.
+     # IEEE-754 64-bit ("double precision"), the most common out there
      ($Config{uvsize} == 8 && $Config{nv_preserves_uv_bits} == 53)
      ||
      # If we have a quad we can still get the mantissa bits.
      ($Config{uvsize} == 4 && $Config{d_quad})
      )
     ) {
-    @hexfloat =  (
+    @hexfloat = (
         [ '%a',       '0',       '0x0p+0' ],
         [ '%a',       '1',       '0x1p+0' ],
         [ '%a',       '1.0',     '0x1p+0' ],
@@ -70,13 +70,18 @@ if ($Config{nvsize} == 8 &&
         [ '%030a',  '3.14',  '0x00000000001.91eb851eb851fp+1' ],
         [ '%-030a', '3.14',  '0x1.91eb851eb851fp+1          ' ],
 
+        [ '%.40a',  '3.14',
+          '0x1.91eb851eb851f000000000000000000000000000p+1' ],
+
         [ '%A',       '3.14',   '0X1.91EB851EB851FP+1' ],
         );
 } elsif (($Config{nvsize} == 16 || $Config{nvsize} == 12) &&
-         # 80-bit long double, pack F is the NV
+         # 80-bit ("extended precision") long double, pack F is the NV
+         # cd cc cc cc cc cc cc cc fb bf 00 00 00 00 00 00
+         # cd cc cc cc cc cc cc cc fb bf 00 00
          (pack("F", 0.1) =~ /^\xCD/ ||  # LE
           pack("F", 0.1) =~ /\xCD$/)) { # BE (if this ever happens)
-    @hexfloat =  (
+    @hexfloat = (
         [ '%a',       '0',       '0x0p+0' ],
         [ '%a',       '1',       '0x8p-3' ],
         [ '%a',       '1.0',     '0x8p-3' ],
@@ -118,8 +123,124 @@ if ($Config{nvsize} == 8 &&
         [ '%030a',  '3.14',  '0x00000000c.8f5c28f5c28f5c3p-2' ],
         [ '%-030a', '3.14',  '0xc.8f5c28f5c28f5c3p-2        ' ],
 
+        [ '%.40a',  '3.14',
+          '0xc.8f5c28f5c28f5c30000000000000000000000000p-2' ],
+
         [ '%A',       '3.14',    '0XC.8F5C28F5C28F5C3P-2' ],
         );
+} elsif (
+    # IEEE 754 128-bit ("quadruple precision"), e.g. IA-64 (Itanium) in VMS
+    $Config{nvsize} == 16 &&
+    # 9a 99 99 99 99 99 99 99 99 99 99 99 99 99 fb 3f (LE), pack F is the NV
+    # (compare this with "double-double")
+    (pack("F", 0.1) =~ /^\x9A\x99{6}/ ||  # LE
+     pack("F", 0.1) =~ /\x99{6}x9A$/)     # BE
+    ) {
+    @hexfloat = (
+       [ '%a', '0',       '0x1p-1' ],
+       [ '%a', '1',       '0x1p+0' ],
+       [ '%a', '1.0',     '0x1p+0' ],
+       [ '%a', '0.5',     '0x1p-1' ],
+       [ '%a', '0.25',    '0x1p-2' ],
+       [ '%a', '0.75',    '0x1.8p-1' ],
+       [ '%a', '3.14',    '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%a', '-1',      '-0x1p+0' ],
+       [ '%a', '-3.14',   '-0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%a', '0.1',     '0x1.999999999999999999999999999ap-4' ],
+       [ '%a', '1/7',     '0x1.2492492492492492492492492492p-3' ],
+       [ '%a', 'sqrt(2)', '0x1.6a09e667f3bcc908b2fb1366ea95p+0' ],
+       [ '%a', 'exp(1)',  '0x1.5bf0a8b1457695355fb8ac404e7ap+1' ],
+       [ '%a', '2**-10',  '0x1p-10' ],
+       [ '%a', '2**10',   '0x1p+10' ],
+       [ '%a', '1e-09',   '0x1.12e0be826d694b2e62d01511f12ap-30' ],
+       [ '%a', '1e9',     '0x1.dcd65p+29' ],
+
+       [ '%#a', '1',      '0x1.p+0' ],
+       [ '%+a', '1',      '+0x1p+0' ],
+       [ '%+a', '-1',     '-0x1p+0' ],
+       [ '% a', '1',      ' 0x1p+0' ],
+       [ '% a', '-1',     '-0x1p+0' ],
+
+       [ '%8a',      '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%13a',     '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%20a',     '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%.4a',     '3.14', '0x1.91ecp+1' ],
+       [ '%.5a',     '3.14', '0x1.91eb8p+1' ],
+       [ '%.6a',     '3.14', '0x1.91eb85p+1' ],
+       [ '%.20a',    '3.14', '0x1.91eb851eb851eb851eb8p+1' ],
+       [ '%20.10a',  '3.14', '   0x1.91eb851eb8p+1' ],
+       [ '%20.15a',  '3.14', '0x1.91eb851eb851eb8p+1' ],
+       [ '% 20.10a', '3.14', '   0x1.91eb851eb8p+1' ],
+       [ '%020.10a', '3.14', '0x0001.91eb851eb8p+1' ],
+
+       [ '%30a',     '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%-30a',    '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%030a',    '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%-030a',   '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+
+        [ '%.40a',  '3.14',
+          '0x1.91eb851eb851eb851eb851eb851f000000000000p+1' ],
+
+       [ '%A',       '3.14', '0X1.91EB851EB851EB851EB851EB851FP+1' ],
+        );
+} elsif (
+    # "double-double", two 64-bit doubles end to end
+    $Config{nvsize} == 16 &&
+    # bf b9 99 99 99 99 99 9a 3c 59 99 99 99 99 99 9a (BE), pack F is the NV
+    # (compare this with "quadruple precision")
+    (pack("F", 0.1) =~ /^\x9A\x99{5}\x59\x3C/ ||  # LE
+     pack("F", 0.1) =~ /\x3C\x59\x99{5}\x9A$/)    # BE
+    ) {
+    # XXX these values are probably slightly wrong, even if
+    # the double-double extraction code gets fixed, the exact
+    # truncation/rounding effects are unknown.
+    @hexfloat = (
+       [ '%a', '0',       '0x1p-1' ],
+       [ '%a', '1',       '0x1p+0' ],
+       [ '%a', '1.0',     '0x1p+0' ],
+       [ '%a', '0.5',     '0x1p-1' ],
+       [ '%a', '0.25',    '0x1p-2' ],
+       [ '%a', '0.75',    '0x1.8p-1' ],
+       [ '%a', '3.14',    '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%a', '-1',      '-0x1p+0' ],
+       [ '%a', '-3.14',   '-0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%a', '0.1',     '0x1.99999999999999999999999999ap-4' ],
+       [ '%a', '1/7',     '0x1.249249249249249249249249249p-3' ],
+       [ '%a', 'sqrt(2)', '0x1.6a09e667f3bcc908b2fb1366ea9p+0' ],
+       [ '%a', 'exp(1)',  '0x1.5bf0a8b1457695355fb8ac404e8p+1' ],
+       [ '%a', '2**-10',  '0x1p-10' ],
+       [ '%a', '2**10',   '0x1p+10' ],
+       [ '%a', '1e-09',   '0x1.12e0be826d694b2e62d01511f13p-30' ],
+       [ '%a', '1e9',     '0x1.dcd65p+29' ],
+
+       [ '%#a', '1',      '0x1.p+0' ],
+       [ '%+a', '1',      '+0x1p+0' ],
+       [ '%+a', '-1',     '-0x1p+0' ],
+       [ '% a', '1',      ' 0x1p+0' ],
+       [ '% a', '-1',     '-0x1p+0' ],
+
+       [ '%8a',      '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%13a',     '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%20a',     '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%.4a',     '3.14', '0x1.91ecp+1' ],
+       [ '%.5a',     '3.14', '0x1.91eb8p+1' ],
+       [ '%.6a',     '3.14', '0x1.91eb85p+1' ],
+       [ '%.20a',    '3.14', '0x1.91eb851eb851eb851eb8p+1' ],
+       [ '%20.10a',  '3.14', '   0x1.91eb851eb8p+1' ],
+       [ '%20.15a',  '3.14', '0x1.91eb851eb851eb8p+1' ],
+       [ '% 20.10a', '3.14', '   0x1.91eb851eb8p+1' ],
+       [ '%020.10a', '3.14', '0x0001.91eb851eb8p+1' ],
+
+       [ '%30a',     '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%-30a',    '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%030a',    '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%-030a',   '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+
+        [ '%.40a',  '3.14',
+          '0x1.91eb851eb851eb851eb851eb8520000000000000p+1' ],
+
+       [ '%A',       '3.14', '0X1.91EB851EB851EB851EB851EB852P+1' ],
+        );
 } else {
     print "# no hexfloat tests\n";
 }