This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
Add quadruple precision tests, verified by Craig Berry.
[perl5.git] / t / op / sprintf2.t
index 1de85c2..0969d58 100644 (file)
@@ -21,14 +21,14 @@ print "# nv_preserves_uv_bits = $Config{nv_preserves_uv_bits}\n";
 print "# d_quad = $Config{d_quad}\n";
 if ($Config{nvsize} == 8 &&
     (
-     # IEEE-754, we hope, the most common out there.
+     # IEEE-754 64-bit ("double precision"), the most common out there
      ($Config{uvsize} == 8 && $Config{nv_preserves_uv_bits} == 53)
      ||
      # If we have a quad we can still get the mantissa bits.
      ($Config{uvsize} == 4 && $Config{d_quad})
      )
     ) {
-    @hexfloat =  (
+    @hexfloat = (
         [ '%a',       '0',       '0x0p+0' ],
         [ '%a',       '1',       '0x1p+0' ],
         [ '%a',       '1.0',     '0x1p+0' ],
@@ -70,13 +70,18 @@ if ($Config{nvsize} == 8 &&
         [ '%030a',  '3.14',  '0x00000000001.91eb851eb851fp+1' ],
         [ '%-030a', '3.14',  '0x1.91eb851eb851fp+1          ' ],
 
+        [ '%.40a',  '3.14',
+          '0x1.91eb851eb851f000000000000000000000000000p+1' ],
+
         [ '%A',       '3.14',   '0X1.91EB851EB851FP+1' ],
         );
 } elsif (($Config{nvsize} == 16 || $Config{nvsize} == 12) &&
-         # 80-bit long double, pack F is the NV
+         # 80-bit ("extended precision") long double, pack F is the NV
+         # cd cc cc cc cc cc cc cc fb bf 00 00 00 00 00 00
+         # cd cc cc cc cc cc cc cc fb bf 00 00
          (pack("F", 0.1) =~ /^\xCD/ ||  # LE
           pack("F", 0.1) =~ /\xCD$/)) { # BE (if this ever happens)
-    @hexfloat =  (
+    @hexfloat = (
         [ '%a',       '0',       '0x0p+0' ],
         [ '%a',       '1',       '0x8p-3' ],
         [ '%a',       '1.0',     '0x8p-3' ],
@@ -118,8 +123,124 @@ if ($Config{nvsize} == 8 &&
         [ '%030a',  '3.14',  '0x00000000c.8f5c28f5c28f5c3p-2' ],
         [ '%-030a', '3.14',  '0xc.8f5c28f5c28f5c3p-2        ' ],
 
+        [ '%.40a',  '3.14',
+          '0xc.8f5c28f5c28f5c30000000000000000000000000p-2' ],
+
         [ '%A',       '3.14',    '0XC.8F5C28F5C28F5C3P-2' ],
         );
+} elsif (
+    # IEEE 754 128-bit ("quadruple precision"), e.g. IA-64 (Itanium) in VMS
+    $Config{nvsize} == 16 &&
+    # 9a 99 99 99 99 99 99 99 99 99 99 99 99 99 fb 3f (LE), pack F is the NV
+    # (compare this with "double-double")
+    (pack("F", 0.1) =~ /^\x9A\x99{6}/ ||  # LE
+     pack("F", 0.1) =~ /\x99{6}x9A$/)     # BE
+    ) {
+    @hexfloat = (
+       [ '%a', '0',       '0x1p-1' ],
+       [ '%a', '1',       '0x1p+0' ],
+       [ '%a', '1.0',     '0x1p+0' ],
+       [ '%a', '0.5',     '0x1p-1' ],
+       [ '%a', '0.25',    '0x1p-2' ],
+       [ '%a', '0.75',    '0x1.8p-1' ],
+       [ '%a', '3.14',    '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%a', '-1',      '-0x1p+0' ],
+       [ '%a', '-3.14',   '-0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%a', '0.1',     '0x1.999999999999999999999999999ap-4' ],
+       [ '%a', '1/7',     '0x1.2492492492492492492492492492p-3' ],
+       [ '%a', 'sqrt(2)', '0x1.6a09e667f3bcc908b2fb1366ea95p+0' ],
+       [ '%a', 'exp(1)',  '0x1.5bf0a8b1457695355fb8ac404e7ap+1' ],
+       [ '%a', '2**-10',  '0x1p-10' ],
+       [ '%a', '2**10',   '0x1p+10' ],
+       [ '%a', '1e-09',   '0x1.12e0be826d694b2e62d01511f12ap-30' ],
+       [ '%a', '1e9',     '0x1.dcd65p+29' ],
+
+       [ '%#a', '1',      '0x1.p+0' ],
+       [ '%+a', '1',      '+0x1p+0' ],
+       [ '%+a', '-1',     '-0x1p+0' ],
+       [ '% a', '1',      ' 0x1p+0' ],
+       [ '% a', '-1',     '-0x1p+0' ],
+
+       [ '%8a',      '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%13a',     '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%20a',     '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%.4a',     '3.14', '0x1.91ecp+1' ],
+       [ '%.5a',     '3.14', '0x1.91eb8p+1' ],
+       [ '%.6a',     '3.14', '0x1.91eb85p+1' ],
+       [ '%.20a',    '3.14', '0x1.91eb851eb851eb851eb8p+1' ],
+       [ '%20.10a',  '3.14', '   0x1.91eb851eb8p+1' ],
+       [ '%20.15a',  '3.14', '0x1.91eb851eb851eb8p+1' ],
+       [ '% 20.10a', '3.14', '   0x1.91eb851eb8p+1' ],
+       [ '%020.10a', '3.14', '0x0001.91eb851eb8p+1' ],
+
+       [ '%30a',     '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%-30a',    '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%030a',    '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+       [ '%-030a',   '3.14', '0x1.91eb851eb851eb851eb851eb851fp+1' ],
+
+        [ '%.40a',  '3.14',
+          '0x1.91eb851eb851eb851eb851eb851f000000000000p+1' ],
+
+       [ '%A',       '3.14', '0X1.91EB851EB851EB851EB851EB851FP+1' ],
+        );
+} elsif (
+    # "double-double", two 64-bit doubles end to end
+    $Config{nvsize} == 16 &&
+    # bf b9 99 99 99 99 99 9a 3c 59 99 99 99 99 99 9a (BE), pack F is the NV
+    # (compare this with "quadruple precision")
+    (pack("F", 0.1) =~ /^\x9A\x99{5}\x59\x3C/ ||  # LE
+     pack("F", 0.1) =~ /\x3C\x59\x99{5}\x9A$/)    # BE
+    ) {
+    # XXX these values are probably slightly wrong, even if
+    # the double-double extraction code gets fixed, the exact
+    # truncation/rounding effects are unknown.
+    @hexfloat = (
+       [ '%a', '0',       '0x1p-1' ],
+       [ '%a', '1',       '0x1p+0' ],
+       [ '%a', '1.0',     '0x1p+0' ],
+       [ '%a', '0.5',     '0x1p-1' ],
+       [ '%a', '0.25',    '0x1p-2' ],
+       [ '%a', '0.75',    '0x1.8p-1' ],
+       [ '%a', '3.14',    '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%a', '-1',      '-0x1p+0' ],
+       [ '%a', '-3.14',   '-0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%a', '0.1',     '0x1.99999999999999999999999999ap-4' ],
+       [ '%a', '1/7',     '0x1.249249249249249249249249249p-3' ],
+       [ '%a', 'sqrt(2)', '0x1.6a09e667f3bcc908b2fb1366ea9p+0' ],
+       [ '%a', 'exp(1)',  '0x1.5bf0a8b1457695355fb8ac404e8p+1' ],
+       [ '%a', '2**-10',  '0x1p-10' ],
+       [ '%a', '2**10',   '0x1p+10' ],
+       [ '%a', '1e-09',   '0x1.12e0be826d694b2e62d01511f13p-30' ],
+       [ '%a', '1e9',     '0x1.dcd65p+29' ],
+
+       [ '%#a', '1',      '0x1.p+0' ],
+       [ '%+a', '1',      '+0x1p+0' ],
+       [ '%+a', '-1',     '-0x1p+0' ],
+       [ '% a', '1',      ' 0x1p+0' ],
+       [ '% a', '-1',     '-0x1p+0' ],
+
+       [ '%8a',      '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%13a',     '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%20a',     '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%.4a',     '3.14', '0x1.91ecp+1' ],
+       [ '%.5a',     '3.14', '0x1.91eb8p+1' ],
+       [ '%.6a',     '3.14', '0x1.91eb85p+1' ],
+       [ '%.20a',    '3.14', '0x1.91eb851eb851eb851eb8p+1' ],
+       [ '%20.10a',  '3.14', '   0x1.91eb851eb8p+1' ],
+       [ '%20.15a',  '3.14', '0x1.91eb851eb851eb8p+1' ],
+       [ '% 20.10a', '3.14', '   0x1.91eb851eb8p+1' ],
+       [ '%020.10a', '3.14', '0x0001.91eb851eb8p+1' ],
+
+       [ '%30a',     '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%-30a',    '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%030a',    '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+       [ '%-030a',   '3.14', '0x1.91eb851eb851eb851eb851eb852p+1' ],
+
+        [ '%.40a',  '3.14',
+          '0x1.91eb851eb851eb851eb851eb8520000000000000p+1' ],
+
+       [ '%A',       '3.14', '0X1.91EB851EB851EB851EB851EB852P+1' ],
+        );
 } else {
     print "# no hexfloat tests\n";
 }