This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
t/loc_tools.pl: Extract out finding locales from locale.t
[perl5.git] / lib / locale.t
1 #!./perl -wT
2
3 # This tests plain 'use locale' and adorned 'use locale ":not_characters"'
4 # Because these pragmas are compile time, and I (khw) am trying to test
5 # without using 'eval' as much as possible, which might cloud the issue,  the
6 # crucial parts of the code are duplicated in a block for each pragma.
7
8 # To make a TODO test, add the string 'TODO' to its %test_names value
9
10 binmode STDOUT, ':utf8';
11 binmode STDERR, ':utf8';
12
13 BEGIN {
14     chdir 't' if -d 't';
15     @INC = '../lib';
16     unshift @INC, '.';
17     require Config; import Config;
18     if (!$Config{d_setlocale} || $Config{ccflags} =~ /\bD?NO_LOCALE\b/) {
19         print "1..0\n";
20         exit;
21     }
22     require './loc_tools.pl';
23     $| = 1;
24 }
25
26 use strict;
27 use feature 'fc';
28
29 # =1 adds debugging output; =2 increases the verbosity somewhat
30 my $debug = $ENV{PERL_DEBUG_FULL_TEST} // 0;
31
32 # Certain tests have been shown to be problematical for a few locales.  Don't
33 # fail them unless at least this percentage of the tested locales fail.
34 # Some Windows machines are defective in every locale but the C, calling \t
35 # printable; superscripts to be digits, etc.  See
36 # http://markmail.org/message/5jwam4xsx4amsdnv.  Also on AIX machines, many
37 # locales call a no-break space a graphic.
38 # (There aren't 1000 locales currently in existence, so 99.9 works)
39 my $acceptable_fold_failure_percentage = ($^O =~ / ^ ( MSWin32 | AIX ) $ /ix)
40                                          ? 99.9
41                                          : 5;
42
43 # The list of test numbers of the problematic tests.
44 my @problematical_tests;
45
46
47 use Dumpvalue;
48
49 my $dumper = Dumpvalue->new(
50                             tick => qq{"},
51                             quoteHighBit => 0,
52                             unctrl => "quote"
53                            );
54 sub debug {
55   return unless $debug;
56   my($mess) = join "", @_;
57   chop $mess;
58   print $dumper->stringify($mess,1), "\n";
59 }
60
61 sub debug_more {
62   return unless $debug > 1;
63   return debug(@_);
64 }
65
66 sub debugf {
67     printf @_ if $debug;
68 }
69
70 my $have_setlocale = 0;
71 eval {
72     require POSIX;
73     import POSIX ':locale_h';
74     $have_setlocale++;
75 };
76
77 # Visual C's CRT goes silly on strings of the form "en_US.ISO8859-1"
78 # and mingw32 uses said silly CRT
79 # This doesn't seem to be an issue any more, at least on Windows XP,
80 # so re-enable the tests for Windows XP onwards.
81 my $winxp = ($^O eq 'MSWin32' && defined &Win32::GetOSVersion &&
82                 join('.', (Win32::GetOSVersion())[1..2]) >= 5.1);
83 $have_setlocale = 0 if ((($^O eq 'MSWin32' && !$winxp) || $^O eq 'NetWare') &&
84                 $Config{cc} =~ /^(cl|gcc)/i);
85
86 # UWIN seems to loop after taint tests, just skip for now
87 $have_setlocale = 0 if ($^O =~ /^uwin/);
88
89 $a = 'abc %';
90
91 my $test_num = 0;
92
93 sub ok {
94     my ($result, $message) = @_;
95     $message = "" unless defined $message;
96
97     print 'not ' unless ($result);
98     print "ok " . ++$test_num;
99     print " $message";
100     print "\n";
101 }
102
103 # First we'll do a lot of taint checking for locales.
104 # This is the easiest to test, actually, as any locale,
105 # even the default locale will taint under 'use locale'.
106
107 sub is_tainted { # hello, camel two.
108     no warnings 'uninitialized' ;
109     my $dummy;
110     local $@;
111     not eval { $dummy = join("", @_), kill 0; 1 }
112 }
113
114 sub check_taint ($;$) {
115     my $message_tail = $_[1] // "";
116     $message_tail = ": $message_tail" if $message_tail;
117     ok is_tainted($_[0]), "verify that is tainted$message_tail";
118 }
119
120 sub check_taint_not ($;$) {
121     my $message_tail = $_[1] // "";
122     $message_tail = ": $message_tail" if $message_tail;
123     ok((not is_tainted($_[0])), "verify that isn't tainted$message_tail");
124 }
125
126 "\tb\t" =~ /^m?(\s)(.*)\1$/;
127 check_taint_not   $&, "not tainted outside 'use locale'";
128 ;
129
130 use locale;     # engage locale and therefore locale taint.
131
132 check_taint_not   $a;
133
134 check_taint       uc($a);
135 check_taint       "\U$a";
136 check_taint       ucfirst($a);
137 check_taint       "\u$a";
138 check_taint       lc($a);
139 check_taint       fc($a);
140 check_taint       "\L$a";
141 check_taint       "\F$a";
142 check_taint       lcfirst($a);
143 check_taint       "\l$a";
144
145 check_taint_not  sprintf('%e', 123.456);
146 check_taint_not  sprintf('%f', 123.456);
147 check_taint_not  sprintf('%g', 123.456);
148 check_taint_not  sprintf('%d', 123.456);
149 check_taint_not  sprintf('%x', 123.456);
150
151 $_ = $a;        # untaint $_
152
153 $_ = uc($a);    # taint $_
154
155 check_taint      $_;
156
157 /(\w)/; # taint $&, $`, $', $+, $1.
158 check_taint      $&;
159 check_taint      $`;
160 check_taint      $';
161 check_taint      $+;
162 check_taint      $1;
163 check_taint_not  $2;
164
165 /(.)/;  # untaint $&, $`, $', $+, $1.
166 check_taint_not  $&;
167 check_taint_not  $`;
168 check_taint_not  $';
169 check_taint_not  $+;
170 check_taint_not  $1;
171 check_taint_not  $2;
172
173 /(\W)/; # taint $&, $`, $', $+, $1.
174 check_taint      $&;
175 check_taint      $`;
176 check_taint      $';
177 check_taint      $+;
178 check_taint      $1;
179 check_taint_not  $2;
180
181 /(\s)/; # taint $&, $`, $', $+, $1.
182 check_taint      $&;
183 check_taint      $`;
184 check_taint      $';
185 check_taint      $+;
186 check_taint      $1;
187 check_taint_not  $2;
188
189 /(\S)/; # taint $&, $`, $', $+, $1.
190 check_taint      $&;
191 check_taint      $`;
192 check_taint      $';
193 check_taint      $+;
194 check_taint      $1;
195 check_taint_not  $2;
196
197 $_ = $a;        # untaint $_
198
199 check_taint_not  $_;
200
201 /(b)/;          # this must not taint
202 check_taint_not  $&;
203 check_taint_not  $`;
204 check_taint_not  $';
205 check_taint_not  $+;
206 check_taint_not  $1;
207 check_taint_not  $2;
208
209 $_ = $a;        # untaint $_
210
211 check_taint_not  $_;
212
213 $b = uc($a);    # taint $b
214 s/(.+)/$b/;     # this must taint only the $_
215
216 check_taint      $_;
217 check_taint_not  $&;
218 check_taint_not  $`;
219 check_taint_not  $';
220 check_taint_not  $+;
221 check_taint_not  $1;
222 check_taint_not  $2;
223
224 $_ = $a;        # untaint $_
225
226 s/(.+)/b/;      # this must not taint
227 check_taint_not  $_;
228 check_taint_not  $&;
229 check_taint_not  $`;
230 check_taint_not  $';
231 check_taint_not  $+;
232 check_taint_not  $1;
233 check_taint_not  $2;
234
235 $b = $a;        # untaint $b
236
237 ($b = $a) =~ s/\w/$&/;
238 check_taint      $b;    # $b should be tainted.
239 check_taint_not  $a;    # $a should be not.
240
241 $_ = $a;        # untaint $_
242
243 s/(\w)/\l$1/;   # this must taint
244 check_taint      $_;
245 check_taint      $&;
246 check_taint      $`;
247 check_taint      $';
248 check_taint      $+;
249 check_taint      $1;
250 check_taint_not  $2;
251
252 $_ = $a;        # untaint $_
253
254 s/(\w)/\L$1/;   # this must taint
255 check_taint      $_;
256 check_taint      $&;
257 check_taint      $`;
258 check_taint      $';
259 check_taint      $+;
260 check_taint      $1;
261 check_taint_not  $2;
262
263 $_ = $a;        # untaint $_
264
265 s/(\w)/\u$1/;   # this must taint
266 check_taint      $_;
267 check_taint      $&;
268 check_taint      $`;
269 check_taint      $';
270 check_taint      $+;
271 check_taint      $1;
272 check_taint_not  $2;
273
274 $_ = $a;        # untaint $_
275
276 s/(\w)/\U$1/;   # this must taint
277 check_taint      $_;
278 check_taint      $&;
279 check_taint      $`;
280 check_taint      $';
281 check_taint      $+;
282 check_taint      $1;
283 check_taint_not  $2;
284
285 # After all this tainting $a should be cool.
286
287 check_taint_not  $a;
288
289 "a" =~ /([a-z])/;
290 check_taint_not $1, '"a" =~ /([a-z])/';
291 "foo.bar_baz" =~ /^(.*)[._](.*?)$/;  # Bug 120675
292 check_taint_not $1, '"foo.bar_baz" =~ /^(.*)[._](.*?)$/';
293
294 # BE SURE TO COPY ANYTHING YOU ADD to the block below
295
296 {   # This is just the previous tests copied here with a different
297     # compile-time pragma.
298
299     use locale ':not_characters'; # engage restricted locale with different
300                                   # tainting rules
301
302     check_taint_not   $a;
303
304     check_taint_not     uc($a);
305     check_taint_not     "\U$a";
306     check_taint_not     ucfirst($a);
307     check_taint_not     "\u$a";
308     check_taint_not     lc($a);
309     check_taint_not     fc($a);
310     check_taint_not     "\L$a";
311     check_taint_not     "\F$a";
312     check_taint_not     lcfirst($a);
313     check_taint_not     "\l$a";
314
315     check_taint_not  sprintf('%e', 123.456);
316     check_taint_not  sprintf('%f', 123.456);
317     check_taint_not  sprintf('%g', 123.456);
318     check_taint_not  sprintf('%d', 123.456);
319     check_taint_not  sprintf('%x', 123.456);
320
321     $_ = $a;    # untaint $_
322
323     $_ = uc($a);        # taint $_
324
325     check_taint_not     $_;
326
327     /(\w)/;     # taint $&, $`, $', $+, $1.
328     check_taint_not     $&;
329     check_taint_not     $`;
330     check_taint_not     $';
331     check_taint_not     $+;
332     check_taint_not     $1;
333     check_taint_not  $2;
334
335     /(.)/;      # untaint $&, $`, $', $+, $1.
336     check_taint_not  $&;
337     check_taint_not  $`;
338     check_taint_not  $';
339     check_taint_not  $+;
340     check_taint_not  $1;
341     check_taint_not  $2;
342
343     /(\W)/;     # taint $&, $`, $', $+, $1.
344     check_taint_not     $&;
345     check_taint_not     $`;
346     check_taint_not     $';
347     check_taint_not     $+;
348     check_taint_not     $1;
349     check_taint_not  $2;
350
351     /(\s)/;     # taint $&, $`, $', $+, $1.
352     check_taint_not     $&;
353     check_taint_not     $`;
354     check_taint_not     $';
355     check_taint_not     $+;
356     check_taint_not     $1;
357     check_taint_not  $2;
358
359     /(\S)/;     # taint $&, $`, $', $+, $1.
360     check_taint_not     $&;
361     check_taint_not     $`;
362     check_taint_not     $';
363     check_taint_not     $+;
364     check_taint_not     $1;
365     check_taint_not  $2;
366
367     $_ = $a;    # untaint $_
368
369     check_taint_not  $_;
370
371     /(b)/;              # this must not taint
372     check_taint_not  $&;
373     check_taint_not  $`;
374     check_taint_not  $';
375     check_taint_not  $+;
376     check_taint_not  $1;
377     check_taint_not  $2;
378
379     $_ = $a;    # untaint $_
380
381     check_taint_not  $_;
382
383     $b = uc($a);        # taint $b
384     s/(.+)/$b/; # this must taint only the $_
385
386     check_taint_not     $_;
387     check_taint_not  $&;
388     check_taint_not  $`;
389     check_taint_not  $';
390     check_taint_not  $+;
391     check_taint_not  $1;
392     check_taint_not  $2;
393
394     $_ = $a;    # untaint $_
395
396     s/(.+)/b/;  # this must not taint
397     check_taint_not  $_;
398     check_taint_not  $&;
399     check_taint_not  $`;
400     check_taint_not  $';
401     check_taint_not  $+;
402     check_taint_not  $1;
403     check_taint_not  $2;
404
405     $b = $a;    # untaint $b
406
407     ($b = $a) =~ s/\w/$&/;
408     check_taint_not     $b;     # $b should be tainted.
409     check_taint_not  $a;        # $a should be not.
410
411     $_ = $a;    # untaint $_
412
413     s/(\w)/\l$1/;       # this must taint
414     check_taint_not     $_;
415     check_taint_not     $&;
416     check_taint_not     $`;
417     check_taint_not     $';
418     check_taint_not     $+;
419     check_taint_not     $1;
420     check_taint_not  $2;
421
422     $_ = $a;    # untaint $_
423
424     s/(\w)/\L$1/;       # this must taint
425     check_taint_not     $_;
426     check_taint_not     $&;
427     check_taint_not     $`;
428     check_taint_not     $';
429     check_taint_not     $+;
430     check_taint_not     $1;
431     check_taint_not  $2;
432
433     $_ = $a;    # untaint $_
434
435     s/(\w)/\u$1/;       # this must taint
436     check_taint_not     $_;
437     check_taint_not     $&;
438     check_taint_not     $`;
439     check_taint_not     $';
440     check_taint_not     $+;
441     check_taint_not     $1;
442     check_taint_not  $2;
443
444     $_ = $a;    # untaint $_
445
446     s/(\w)/\U$1/;       # this must taint
447     check_taint_not     $_;
448     check_taint_not     $&;
449     check_taint_not     $`;
450     check_taint_not     $';
451     check_taint_not     $+;
452     check_taint_not     $1;
453     check_taint_not  $2;
454
455     # After all this tainting $a should be cool.
456
457     check_taint_not  $a;
458
459     "a" =~ /([a-z])/;
460     check_taint_not $1, '"a" =~ /([a-z])/';
461     "foo.bar_baz" =~ /^(.*)[._](.*?)$/;  # Bug 120675
462     check_taint_not $1, '"foo.bar_baz" =~ /^(.*)[._](.*?)$/';
463 }
464
465 # Here are in scope of 'use locale'
466
467 # I think we've seen quite enough of taint.
468 # Let us do some *real* locale work now,
469 # unless setlocale() is missing (i.e. minitest).
470
471 unless ($have_setlocale) {
472     print "1..$test_num\n";
473     exit;
474 }
475
476 # The test number before our first setlocale()
477 my $final_without_setlocale = $test_num;
478
479 # Find locales.
480
481 debug "# Scanning for locales...\n";
482
483 setlocale(&POSIX::LC_ALL, "C");
484
485 my @Locale = find_locales();
486
487 debug "# Locales =\n";
488 for ( @Locale ) {
489     debug "# $_\n";
490 }
491
492 my %posixes;
493
494 my %Problem;
495 my %Okay;
496 my %Testing;
497 my @Added_alpha;   # Alphas that aren't in the C locale.
498 my %test_names;
499
500 sub disp_chars {
501     # This returns a display string denoting the input parameter @_, each
502     # entry of which is a single character in the range 0-255.  The first part
503     # of the output is a string of the characters in @_ that are ASCII
504     # graphics, and hence unambiguously displayable.  They are given by code
505     # point order.  The second part is the remaining code points, the ordinals
506     # of which are each displayed as 2-digit hex.  Blanks are inserted so as
507     # to keep anything from the first part looking like a 2-digit hex number.
508
509     no locale;
510     my @chars = sort { ord $a <=> ord $b } @_;
511     my $output = "";
512     my $range_start;
513     my $start_class;
514     push @chars, chr(258);  # This sentinel simplifies the loop termination
515                             # logic
516     foreach my $i (0 .. @chars - 1) {
517         my $char = $chars[$i];
518         my $range_end;
519         my $class;
520
521         # We avoid using [:posix:] classes, as these are being tested in this
522         # file.  Each equivalence class below is for things that can appear in
523         # a range; those that can't be in a range have class -1.  0 for those
524         # which should be output in hex; and >0 for the other ranges
525         if ($char =~ /[A-Z]/) {
526             $class = 2;
527         }
528         elsif ($char =~ /[a-z]/) {
529             $class = 3;
530         }
531         elsif ($char =~ /[0-9]/) {
532             $class = 4;
533         }
534         # Uncomment to get literal punctuation displayed instead of hex
535         #elsif ($char =~ /[[\]!"#\$\%&\'()*+,.\/:\\;<=>?\@\^_`{|}~-]/) {
536         #    $class = -1;    # Punct never appears in a range
537         #}
538         else {
539             $class = 0;     # Output in hex
540         }
541
542         if (! defined $range_start) {
543             if ($class < 0) {
544                 $output .= " " . $char;
545             }
546             else {
547                 $range_start = ord $char;
548                 $start_class = $class;
549             }
550         } # A range ends if not consecutive, or the class-type changes
551         elsif (ord $char != ($range_end = ord($chars[$i-1])) + 1
552               || $class != $start_class)
553         {
554
555             # Here, the current character is not in the range.  This means the
556             # previous character must have been.  Output the range up through
557             # that one.
558             my $range_length = $range_end - $range_start + 1;
559             if ($start_class > 0) {
560                 $output .= " " . chr($range_start);
561                 $output .= "-" . chr($range_end) if $range_length > 1;
562             }
563             else {
564                 $output .= sprintf(" %02X", $range_start);
565                 $output .= sprintf("-%02X", $range_end) if $range_length > 1;
566             }
567
568             # Handle the new current character, as potentially beginning a new
569             # range
570             undef $range_start;
571             redo;
572         }
573     }
574
575     $output =~ s/^ //;
576     return $output;
577 }
578
579 sub report_result {
580     my ($Locale, $i, $pass_fail, $message) = @_;
581     $message //= "";
582     $message = "  ($message)" if $message;
583     unless ($pass_fail) {
584         $Problem{$i}{$Locale} = 1;
585         debug "# failed $i ($test_names{$i}) with locale '$Locale'$message\n";
586     } else {
587         push @{$Okay{$i}}, $Locale;
588     }
589 }
590
591 sub report_multi_result {
592     my ($Locale, $i, $results_ref) = @_;
593
594     # $results_ref points to an array, each element of which is a character that was
595     # in error for this test numbered '$i'.  If empty, the test passed
596
597     my $message = "";
598     if (@$results_ref) {
599         $message = join " ", "for", disp_chars(@$results_ref);
600     }
601     report_result($Locale, $i, @$results_ref == 0, $message);
602 }
603
604 my $first_locales_test_number = $final_without_setlocale + 1;
605 my $locales_test_number;
606 my $not_necessarily_a_problem_test_number;
607 my $first_casing_test_number;
608 my %setlocale_failed;   # List of locales that setlocale() didn't work on
609
610 foreach my $Locale (@Locale) {
611     $locales_test_number = $first_locales_test_number - 1;
612     debug "#\n";
613     debug "# Locale = $Locale\n";
614
615     unless (setlocale(&POSIX::LC_ALL, $Locale)) {
616         $setlocale_failed{$Locale} = $Locale;
617         next;
618     }
619
620     # We test UTF-8 locales only under ':not_characters'; otherwise they have
621     # documented deficiencies.  Non- UTF-8 locales are tested only under plain
622     # 'use locale', as otherwise we would have to convert everything in them
623     # to Unicode.
624     # The locale name doesn't necessarily have to have "utf8" in it to be a
625     # UTF-8 locale, but it works mostly.
626     my $is_utf8_locale = $Locale =~ /UTF-?8/i;
627
628     my %UPPER = ();     # All alpha X for which uc(X) == X and lc(X) != X
629     my %lower = ();     # All alpha X for which lc(X) == X and uc(X) != X
630     my %BoThCaSe = ();  # All alpha X for which uc(X) == lc(X) == X
631
632     if (! $is_utf8_locale) {
633         use locale;
634         @{$posixes{'word'}} = grep /\w/, map { chr } 0..255;
635         @{$posixes{'digit'}} = grep /\d/, map { chr } 0..255;
636         @{$posixes{'space'}} = grep /\s/, map { chr } 0..255;
637         @{$posixes{'alpha'}} = grep /[[:alpha:]]/, map {chr } 0..255;
638         @{$posixes{'alnum'}} = grep /[[:alnum:]]/, map {chr } 0..255;
639         @{$posixes{'ascii'}} = grep /[[:ascii:]]/, map {chr } 0..255;
640         @{$posixes{'blank'}} = grep /[[:blank:]]/, map {chr } 0..255;
641         @{$posixes{'cntrl'}} = grep /[[:cntrl:]]/, map {chr } 0..255;
642         @{$posixes{'graph'}} = grep /[[:graph:]]/, map {chr } 0..255;
643         @{$posixes{'lower'}} = grep /[[:lower:]]/, map {chr } 0..255;
644         @{$posixes{'print'}} = grep /[[:print:]]/, map {chr } 0..255;
645         @{$posixes{'punct'}} = grep /[[:punct:]]/, map {chr } 0..255;
646         @{$posixes{'upper'}} = grep /[[:upper:]]/, map {chr } 0..255;
647         @{$posixes{'xdigit'}} = grep /[[:xdigit:]]/, map {chr } 0..255;
648         @{$posixes{'cased'}} = grep /[[:upper:]]/i, map {chr } 0..255;
649
650         # Sieve the uppercase and the lowercase.
651
652         for (@{$posixes{'word'}}) {
653             if (/[^\d_]/) { # skip digits and the _
654                 if (uc($_) eq $_) {
655                     $UPPER{$_} = $_;
656                 }
657                 if (lc($_) eq $_) {
658                     $lower{$_} = $_;
659                 }
660             }
661         }
662     }
663     else {
664         use locale ':not_characters';
665         @{$posixes{'word'}} = grep /\w/, map { chr } 0..255;
666         @{$posixes{'digit'}} = grep /\d/, map { chr } 0..255;
667         @{$posixes{'space'}} = grep /\s/, map { chr } 0..255;
668         @{$posixes{'alpha'}} = grep /[[:alpha:]]/, map {chr } 0..255;
669         @{$posixes{'alnum'}} = grep /[[:alnum:]]/, map {chr } 0..255;
670         @{$posixes{'ascii'}} = grep /[[:ascii:]]/, map {chr } 0..255;
671         @{$posixes{'blank'}} = grep /[[:blank:]]/, map {chr } 0..255;
672         @{$posixes{'cntrl'}} = grep /[[:cntrl:]]/, map {chr } 0..255;
673         @{$posixes{'graph'}} = grep /[[:graph:]]/, map {chr } 0..255;
674         @{$posixes{'lower'}} = grep /[[:lower:]]/, map {chr } 0..255;
675         @{$posixes{'print'}} = grep /[[:print:]]/, map {chr } 0..255;
676         @{$posixes{'punct'}} = grep /[[:punct:]]/, map {chr } 0..255;
677         @{$posixes{'upper'}} = grep /[[:upper:]]/, map {chr } 0..255;
678         @{$posixes{'xdigit'}} = grep /[[:xdigit:]]/, map {chr } 0..255;
679         @{$posixes{'cased'}} = grep /[[:upper:]]/i, map {chr } 0..255;
680         for (@{$posixes{'word'}}) {
681             if (/[^\d_]/) { # skip digits and the _
682                 if (uc($_) eq $_) {
683                     $UPPER{$_} = $_;
684                 }
685                 if (lc($_) eq $_) {
686                     $lower{$_} = $_;
687                 }
688             }
689         }
690     }
691
692     # Ordered, where possible,  in groups of "this is a subset of the next
693     # one"
694     debug "# :upper:  = ", disp_chars(@{$posixes{'upper'}}), "\n";
695     debug "# :lower:  = ", disp_chars(@{$posixes{'lower'}}), "\n";
696     debug "# :cased:  = ", disp_chars(@{$posixes{'cased'}}), "\n";
697     debug "# :alpha:  = ", disp_chars(@{$posixes{'alpha'}}), "\n";
698     debug "# :alnum:  = ", disp_chars(@{$posixes{'alnum'}}), "\n";
699     debug "#  w       = ", disp_chars(@{$posixes{'word'}}), "\n";
700     debug "# :graph:  = ", disp_chars(@{$posixes{'graph'}}), "\n";
701     debug "# :print:  = ", disp_chars(@{$posixes{'print'}}), "\n";
702     debug "#  d       = ", disp_chars(@{$posixes{'digit'}}), "\n";
703     debug "# :xdigit: = ", disp_chars(@{$posixes{'xdigit'}}), "\n";
704     debug "# :blank:  = ", disp_chars(@{$posixes{'blank'}}), "\n";
705     debug "#  s       = ", disp_chars(@{$posixes{'space'}}), "\n";
706     debug "# :punct:  = ", disp_chars(@{$posixes{'punct'}}), "\n";
707     debug "# :cntrl:  = ", disp_chars(@{$posixes{'cntrl'}}), "\n";
708     debug "# :ascii:  = ", disp_chars(@{$posixes{'ascii'}}), "\n";
709
710     foreach (keys %UPPER) {
711
712         $BoThCaSe{$_}++ if exists $lower{$_};
713     }
714     foreach (keys %lower) {
715         $BoThCaSe{$_}++ if exists $UPPER{$_};
716     }
717     foreach (keys %BoThCaSe) {
718         delete $UPPER{$_};
719         delete $lower{$_};
720     }
721
722     my %Unassigned;
723     foreach my $ord ( 0 .. 255 ) {
724         $Unassigned{chr $ord} = 1;
725     }
726     foreach my $class (keys %posixes) {
727         foreach my $char (@{$posixes{$class}}) {
728             delete $Unassigned{$char};
729         }
730     }
731
732     debug "# UPPER    = ", disp_chars(keys %UPPER), "\n";
733     debug "# lower    = ", disp_chars(keys %lower), "\n";
734     debug "# BoThCaSe = ", disp_chars(keys %BoThCaSe), "\n";
735     debug "# Unassigned = ", disp_chars(sort { ord $a <=> ord $b } keys %Unassigned), "\n";
736
737     my @failures;
738     my @fold_failures;
739     foreach my $x (sort keys %UPPER) {
740         my $ok;
741         my $fold_ok;
742         if ($is_utf8_locale) {
743             use locale ':not_characters';
744             $ok = $x =~ /[[:upper:]]/;
745             $fold_ok = $x =~ /[[:lower:]]/i;
746         }
747         else {
748             use locale;
749             $ok = $x =~ /[[:upper:]]/;
750             $fold_ok = $x =~ /[[:lower:]]/i;
751         }
752         push @failures, $x unless $ok;
753         push @fold_failures, $x unless $fold_ok;
754     }
755     $locales_test_number++;
756     $first_casing_test_number = $locales_test_number;
757     $test_names{$locales_test_number} = 'Verify that /[[:upper:]]/ matches all alpha X for which uc(X) == X and lc(X) != X';
758     report_multi_result($Locale, $locales_test_number, \@failures);
759
760     $locales_test_number++;
761
762     $test_names{$locales_test_number} = 'Verify that /[[:lower:]]/i matches all alpha X for which uc(X) == X and lc(X) != X';
763     report_multi_result($Locale, $locales_test_number, \@fold_failures);
764
765     undef @failures;
766     undef @fold_failures;
767
768     foreach my $x (sort keys %lower) {
769         my $ok;
770         my $fold_ok;
771         if ($is_utf8_locale) {
772             use locale ':not_characters';
773             $ok = $x =~ /[[:lower:]]/;
774             $fold_ok = $x =~ /[[:upper:]]/i;
775         }
776         else {
777             use locale;
778             $ok = $x =~ /[[:lower:]]/;
779             $fold_ok = $x =~ /[[:upper:]]/i;
780         }
781         push @failures, $x unless $ok;
782         push @fold_failures, $x unless $fold_ok;
783     }
784
785     $locales_test_number++;
786     $test_names{$locales_test_number} = 'Verify that /[[:lower:]]/ matches all alpha X for which lc(X) == X and uc(X) != X';
787     report_multi_result($Locale, $locales_test_number, \@failures);
788
789     $locales_test_number++;
790     $test_names{$locales_test_number} = 'Verify that /[[:upper:]]/i matches all alpha X for which lc(X) == X and uc(X) != X';
791     report_multi_result($Locale, $locales_test_number, \@fold_failures);
792
793     {   # Find the alphabetic characters that are not considered alphabetics
794         # in the default (C) locale.
795
796         no locale;
797
798         @Added_alpha = ();
799         for (keys %UPPER, keys %lower, keys %BoThCaSe) {
800             push(@Added_alpha, $_) if (/\W/);
801         }
802     }
803
804     @Added_alpha = sort @Added_alpha;
805
806     debug "# Added_alpha = ", disp_chars(@Added_alpha), "\n";
807
808     # Cross-check the whole 8-bit character set.
809
810     ++$locales_test_number;
811     my @f;
812     $test_names{$locales_test_number} = 'Verify that \w and [:word:] are identical';
813     for (map { chr } 0..255) {
814         if ($is_utf8_locale) {
815             use locale ':not_characters';
816             push @f, $_ unless /[[:word:]]/ == /\w/;
817         }
818         else {
819             push @f, $_ unless /[[:word:]]/ == /\w/;
820         }
821     }
822     report_multi_result($Locale, $locales_test_number, \@f);
823
824     ++$locales_test_number;
825     undef @f;
826     $test_names{$locales_test_number} = 'Verify that \d and [:digit:] are identical';
827     for (map { chr } 0..255) {
828         if ($is_utf8_locale) {
829             use locale ':not_characters';
830             push @f, $_ unless /[[:digit:]]/ == /\d/;
831         }
832         else {
833             push @f, $_ unless /[[:digit:]]/ == /\d/;
834         }
835     }
836     report_multi_result($Locale, $locales_test_number, \@f);
837
838     ++$locales_test_number;
839     undef @f;
840     $test_names{$locales_test_number} = 'Verify that \s and [:space:] are identical';
841     for (map { chr } 0..255) {
842         if ($is_utf8_locale) {
843             use locale ':not_characters';
844             push @f, $_ unless /[[:space:]]/ == /\s/;
845         }
846         else {
847             push @f, $_ unless /[[:space:]]/ == /\s/;
848         }
849     }
850     report_multi_result($Locale, $locales_test_number, \@f);
851
852     ++$locales_test_number;
853     undef @f;
854     $test_names{$locales_test_number} = 'Verify that [:posix:] and [:^posix:] are mutually exclusive';
855     for (map { chr } 0..255) {
856         if ($is_utf8_locale) {
857             use locale ':not_characters';
858             push @f, $_ unless   (/[[:alpha:]]/ xor /[[:^alpha:]]/)   ||
859                     (/[[:alnum:]]/ xor /[[:^alnum:]]/)   ||
860                     (/[[:ascii:]]/ xor /[[:^ascii:]]/)   ||
861                     (/[[:blank:]]/ xor /[[:^blank:]]/)   ||
862                     (/[[:cntrl:]]/ xor /[[:^cntrl:]]/)   ||
863                     (/[[:digit:]]/ xor /[[:^digit:]]/)   ||
864                     (/[[:graph:]]/ xor /[[:^graph:]]/)   ||
865                     (/[[:lower:]]/ xor /[[:^lower:]]/)   ||
866                     (/[[:print:]]/ xor /[[:^print:]]/)   ||
867                     (/[[:space:]]/ xor /[[:^space:]]/)   ||
868                     (/[[:upper:]]/ xor /[[:^upper:]]/)   ||
869                     (/[[:word:]]/  xor /[[:^word:]]/)    ||
870                     (/[[:xdigit:]]/ xor /[[:^xdigit:]]/) ||
871
872                     # effectively is what [:cased:] would be if it existed.
873                     (/[[:upper:]]/i xor /[[:^upper:]]/i);
874         }
875         else {
876             push @f, $_ unless   (/[[:alpha:]]/ xor /[[:^alpha:]]/)   ||
877                     (/[[:alnum:]]/ xor /[[:^alnum:]]/)   ||
878                     (/[[:ascii:]]/ xor /[[:^ascii:]]/)   ||
879                     (/[[:blank:]]/ xor /[[:^blank:]]/)   ||
880                     (/[[:cntrl:]]/ xor /[[:^cntrl:]]/)   ||
881                     (/[[:digit:]]/ xor /[[:^digit:]]/)   ||
882                     (/[[:graph:]]/ xor /[[:^graph:]]/)   ||
883                     (/[[:lower:]]/ xor /[[:^lower:]]/)   ||
884                     (/[[:print:]]/ xor /[[:^print:]]/)   ||
885                     (/[[:space:]]/ xor /[[:^space:]]/)   ||
886                     (/[[:upper:]]/ xor /[[:^upper:]]/)   ||
887                     (/[[:word:]]/  xor /[[:^word:]]/)    ||
888                     (/[[:xdigit:]]/ xor /[[:^xdigit:]]/) ||
889                     (/[[:upper:]]/i xor /[[:^upper:]]/i);
890         }
891     }
892     report_multi_result($Locale, $locales_test_number, \@f);
893
894     # The rules for the relationships are given in:
895     # http://www.opengroup.org/onlinepubs/009695399/basedefs/xbd_chap07.html
896
897
898     ++$locales_test_number;
899     undef @f;
900     $test_names{$locales_test_number} = 'Verify that [:lower:] contains at least a-z';
901     for ('a' .. 'z') {
902         if ($is_utf8_locale) {
903             use locale ':not_characters';
904             push @f, $_  unless /[[:lower:]]/;
905         }
906         else {
907             push @f, $_  unless /[[:lower:]]/;
908         }
909     }
910     report_multi_result($Locale, $locales_test_number, \@f);
911
912     ++$locales_test_number;
913     undef @f;
914     $test_names{$locales_test_number} = 'Verify that [:lower:] is a subset of [:alpha:]';
915     for (map { chr } 0..255) {
916         if ($is_utf8_locale) {
917             use locale ':not_characters';
918             push @f, $_  if /[[:lower:]]/ and ! /[[:alpha:]]/;
919         }
920         else {
921             push @f, $_  if /[[:lower:]]/ and ! /[[:alpha:]]/;
922         }
923     }
924     report_multi_result($Locale, $locales_test_number, \@f);
925
926     ++$locales_test_number;
927     undef @f;
928     $test_names{$locales_test_number} = 'Verify that [:upper:] contains at least A-Z';
929     for ('A' .. 'Z') {
930         if ($is_utf8_locale) {
931             use locale ':not_characters';
932             push @f, $_  unless /[[:upper:]]/;
933         }
934         else {
935             push @f, $_  unless /[[:upper:]]/;
936         }
937     }
938     report_multi_result($Locale, $locales_test_number, \@f);
939
940     ++$locales_test_number;
941     undef @f;
942     $test_names{$locales_test_number} = 'Verify that [:upper:] is a subset of [:alpha:]';
943     for (map { chr } 0..255) {
944         if ($is_utf8_locale) {
945             use locale ':not_characters';
946             push @f, $_  if /[[:upper:]]/ and ! /[[:alpha:]]/;
947         }
948         else {
949             push @f, $_ if /[[:upper:]]/  and ! /[[:alpha:]]/;
950         }
951     }
952     report_multi_result($Locale, $locales_test_number, \@f);
953
954     ++$locales_test_number;
955     undef @f;
956     $test_names{$locales_test_number} = 'Verify that /[[:lower:]]/i is a subset of [:alpha:]';
957     for (map { chr } 0..255) {
958         if ($is_utf8_locale) {
959             use locale ':not_characters';
960             push @f, $_ if /[[:lower:]]/i  and ! /[[:alpha:]]/;
961         }
962         else {
963             push @f, $_ if /[[:lower:]]/i  and ! /[[:alpha:]]/;
964         }
965     }
966     report_multi_result($Locale, $locales_test_number, \@f);
967
968     ++$locales_test_number;
969     undef @f;
970     $test_names{$locales_test_number} = 'Verify that [:alpha:] is a subset of [:alnum:]';
971     for (map { chr } 0..255) {
972         if ($is_utf8_locale) {
973             use locale ':not_characters';
974             push @f, $_ if /[[:alpha:]]/  and ! /[[:alnum:]]/;
975         }
976         else {
977             push @f, $_ if /[[:alpha:]]/  and ! /[[:alnum:]]/;
978         }
979     }
980     report_multi_result($Locale, $locales_test_number, \@f);
981
982     ++$locales_test_number;
983     undef @f;
984     $test_names{$locales_test_number} = 'Verify that [:digit:] contains at least 0-9';
985     for ('0' .. '9') {
986         if ($is_utf8_locale) {
987             use locale ':not_characters';
988             push @f, $_  unless /[[:digit:]]/;
989         }
990         else {
991             push @f, $_  unless /[[:digit:]]/;
992         }
993     }
994     report_multi_result($Locale, $locales_test_number, \@f);
995
996     ++$locales_test_number;
997     undef @f;
998     $test_names{$locales_test_number} = 'Verify that [:digit:] is a subset of [:alnum:]';
999     for (map { chr } 0..255) {
1000         if ($is_utf8_locale) {
1001             use locale ':not_characters';
1002             push @f, $_ if /[[:digit:]]/  and ! /[[:alnum:]]/;
1003         }
1004         else {
1005             push @f, $_ if /[[:digit:]]/  and ! /[[:alnum:]]/;
1006         }
1007     }
1008     report_multi_result($Locale, $locales_test_number, \@f);
1009
1010     ++$locales_test_number;
1011     undef @f;
1012     $test_names{$locales_test_number} = 'Verify that [:digit:] matches either 10 or 20 code points';
1013     report_result($Locale, $locales_test_number, @{$posixes{'digit'}} == 10 || @{$posixes{'digit'}} == 20);
1014
1015     ++$locales_test_number;
1016     undef @f;
1017     $test_names{$locales_test_number} = 'Verify that if there is a second set of digits in [:digit:], they are consecutive';
1018     if (@{$posixes{'digit'}} == 20) {
1019         my $previous_ord;
1020         for (map { chr } 0..255) {
1021             next unless /[[:digit:]]/;
1022             next if /[0-9]/;
1023             if (defined $previous_ord) {
1024                 if ($is_utf8_locale) {
1025                     use locale ':not_characters';
1026                     push @f, $_ if ord $_ != $previous_ord + 1;
1027                 }
1028                 else {
1029                     push @f, $_ if ord $_ != $previous_ord + 1;
1030                 }
1031             }
1032             $previous_ord = ord $_;
1033         }
1034     }
1035     report_multi_result($Locale, $locales_test_number, \@f);
1036
1037     ++$locales_test_number;
1038     undef @f;
1039     $test_names{$locales_test_number} = 'Verify that [:digit:] is a subset of [:xdigit:]';
1040     for (map { chr } 0..255) {
1041         if ($is_utf8_locale) {
1042             use locale ':not_characters';
1043             push @f, $_ if /[[:digit:]]/  and ! /[[:xdigit:]]/;
1044         }
1045         else {
1046             push @f, $_ if /[[:digit:]]/  and ! /[[:xdigit:]]/;
1047         }
1048     }
1049     report_multi_result($Locale, $locales_test_number, \@f);
1050
1051     ++$locales_test_number;
1052     undef @f;
1053     $test_names{$locales_test_number} = 'Verify that [:xdigit:] contains at least A-F, a-f';
1054     for ('A' .. 'F', 'a' .. 'f') {
1055         if ($is_utf8_locale) {
1056             use locale ':not_characters';
1057             push @f, $_  unless /[[:xdigit:]]/;
1058         }
1059         else {
1060             push @f, $_  unless /[[:xdigit:]]/;
1061         }
1062     }
1063     report_multi_result($Locale, $locales_test_number, \@f);
1064
1065     ++$locales_test_number;
1066     undef @f;
1067     $test_names{$locales_test_number} = 'Verify that any additional members of [:xdigit:], are in groups of 6 consecutive code points';
1068     my $previous_ord;
1069     my $count = 0;
1070     for (map { chr } 0..255) {
1071         next unless /[[:xdigit:]]/;
1072         next if /[[:digit:]]/;
1073         next if /[A-Fa-f]/;
1074         if (defined $previous_ord) {
1075             if ($is_utf8_locale) {
1076                 use locale ':not_characters';
1077                 push @f, $_ if ord $_ != $previous_ord + 1;
1078             }
1079             else {
1080                 push @f, $_ if ord $_ != $previous_ord + 1;
1081             }
1082         }
1083         $count++;
1084         if ($count == 6) {
1085             undef $previous_ord;
1086         }
1087         else {
1088             $previous_ord = ord $_;
1089         }
1090     }
1091     report_multi_result($Locale, $locales_test_number, \@f);
1092
1093     ++$locales_test_number;
1094     undef @f;
1095     $test_names{$locales_test_number} = 'Verify that [:xdigit:] is a subset of [:graph:]';
1096     for (map { chr } 0..255) {
1097         if ($is_utf8_locale) {
1098             use locale ':not_characters';
1099             push @f, $_ if /[[:xdigit:]]/  and ! /[[:graph:]]/;
1100         }
1101         else {
1102             push @f, $_ if /[[:xdigit:]]/  and ! /[[:graph:]]/;
1103         }
1104     }
1105     report_multi_result($Locale, $locales_test_number, \@f);
1106
1107     # Note that xdigit doesn't have to be a subset of alnum
1108
1109     ++$locales_test_number;
1110     undef @f;
1111     $test_names{$locales_test_number} = 'Verify that [:punct:] is a subset of [:graph:]';
1112     for (map { chr } 0..255) {
1113         if ($is_utf8_locale) {
1114             use locale ':not_characters';
1115             push @f, $_ if /[[:punct:]]/  and ! /[[:graph:]]/;
1116         }
1117         else {
1118             push @f, $_ if /[[:punct:]]/  and ! /[[:graph:]]/;
1119         }
1120     }
1121     report_multi_result($Locale, $locales_test_number, \@f);
1122
1123     ++$locales_test_number;
1124     undef @f;
1125     $test_names{$locales_test_number} = 'Verify that the space character is not in [:graph:]';
1126     if ($is_utf8_locale) {
1127         use locale ':not_characters';
1128         push @f, " " if " " =~ /[[:graph:]]/;
1129     }
1130     else {
1131         push @f, " " if " " =~ /[[:graph:]]/;
1132     }
1133     report_multi_result($Locale, $locales_test_number, \@f);
1134
1135     ++$locales_test_number;
1136     undef @f;
1137     $test_names{$locales_test_number} = 'Verify that [:space:] contains at least [\f\n\r\t\cK ]';
1138     for (' ', "\f", "\n", "\r", "\t", "\cK") {
1139         if ($is_utf8_locale) {
1140             use locale ':not_characters';
1141             push @f, $_  unless /[[:space:]]/;
1142         }
1143         else {
1144             push @f, $_  unless /[[:space:]]/;
1145         }
1146     }
1147     report_multi_result($Locale, $locales_test_number, \@f);
1148
1149     ++$locales_test_number;
1150     undef @f;
1151     $test_names{$locales_test_number} = 'Verify that [:blank:] contains at least [\t ]';
1152     for (' ', "\t") {
1153         if ($is_utf8_locale) {
1154             use locale ':not_characters';
1155             push @f, $_  unless /[[:blank:]]/;
1156         }
1157         else {
1158             push @f, $_  unless /[[:blank:]]/;
1159         }
1160     }
1161     report_multi_result($Locale, $locales_test_number, \@f);
1162
1163     ++$locales_test_number;
1164     undef @f;
1165     $test_names{$locales_test_number} = 'Verify that [:blank:] is a subset of [:space:]';
1166     for (map { chr } 0..255) {
1167         if ($is_utf8_locale) {
1168             use locale ':not_characters';
1169             push @f, $_ if /[[:blank:]]/  and ! /[[:space:]]/;
1170         }
1171         else {
1172             push @f, $_ if /[[:blank:]]/  and ! /[[:space:]]/;
1173         }
1174     }
1175     report_multi_result($Locale, $locales_test_number, \@f);
1176
1177     ++$locales_test_number;
1178     undef @f;
1179     $test_names{$locales_test_number} = 'Verify that [:graph:] is a subset of [:print:]';
1180     for (map { chr } 0..255) {
1181         if ($is_utf8_locale) {
1182             use locale ':not_characters';
1183             push @f, $_ if /[[:graph:]]/  and ! /[[:print:]]/;
1184         }
1185         else {
1186             push @f, $_ if /[[:graph:]]/  and ! /[[:print:]]/;
1187         }
1188     }
1189     report_multi_result($Locale, $locales_test_number, \@f);
1190
1191     ++$locales_test_number;
1192     undef @f;
1193     $test_names{$locales_test_number} = 'Verify that the space character is in [:print:]';
1194     if ($is_utf8_locale) {
1195         use locale ':not_characters';
1196         push @f, " " if " " !~ /[[:print:]]/;
1197     }
1198     else {
1199         push @f, " " if " " !~ /[[:print:]]/;
1200     }
1201     report_multi_result($Locale, $locales_test_number, \@f);
1202
1203     ++$locales_test_number;
1204     undef @f;
1205     $test_names{$locales_test_number} = 'Verify that isn\'t both [:cntrl:] and [:print:]';
1206     for (map { chr } 0..255) {
1207         if ($is_utf8_locale) {
1208             use locale ':not_characters';
1209             push @f, $_ if (/[[:print:]]/ and /[[:cntrl:]]/);
1210         }
1211         else {
1212             push @f, $_ if (/[[:print:]]/ and /[[:cntrl:]]/);
1213         }
1214     }
1215     report_multi_result($Locale, $locales_test_number, \@f);
1216
1217     ++$locales_test_number;
1218     undef @f;
1219     $test_names{$locales_test_number} = 'Verify that isn\'t both [:alpha:] and [:digit:]';
1220     for (map { chr } 0..255) {
1221         if ($is_utf8_locale) {
1222             use locale ':not_characters';
1223             push @f, $_ if /[[:alpha:]]/ and /[[:digit:]]/;
1224         }
1225         else {
1226             push @f, $_ if /[[:alpha:]]/ and /[[:digit:]]/;
1227         }
1228     }
1229     report_multi_result($Locale, $locales_test_number, \@f);
1230
1231     ++$locales_test_number;
1232     undef @f;
1233     $test_names{$locales_test_number} = 'Verify that isn\'t both [:alnum:] and [:punct:]';
1234     for (map { chr } 0..255) {
1235         if ($is_utf8_locale) {
1236             use locale ':not_characters';
1237             push @f, $_ if /[[:alnum:]]/ and /[[:punct:]]/;
1238         }
1239         else {
1240             push @f, $_ if /[[:alnum:]]/ and /[[:punct:]]/;
1241         }
1242     }
1243     report_multi_result($Locale, $locales_test_number, \@f);
1244
1245     ++$locales_test_number;
1246     undef @f;
1247     $test_names{$locales_test_number} = 'Verify that isn\'t both [:xdigit:] and [:punct:]';
1248     for (map { chr } 0..255) {
1249         if ($is_utf8_locale) {
1250             use locale ':not_characters';
1251             push @f, $_ if (/[[:punct:]]/ and /[[:xdigit:]]/);
1252         }
1253         else {
1254             push @f, $_ if (/[[:punct:]]/ and /[[:xdigit:]]/);
1255         }
1256     }
1257     report_multi_result($Locale, $locales_test_number, \@f);
1258
1259     ++$locales_test_number;
1260     undef @f;
1261     $test_names{$locales_test_number} = 'Verify that isn\'t both [:graph:] and [:space:]';
1262     for (map { chr } 0..255) {
1263         if ($is_utf8_locale) {
1264             use locale ':not_characters';
1265             push @f, $_ if (/[[:graph:]]/ and /[[:space:]]/);
1266         }
1267         else {
1268             push @f, $_ if (/[[:graph:]]/ and /[[:space:]]/);
1269         }
1270     }
1271     report_multi_result($Locale, $locales_test_number, \@f);
1272
1273     foreach ($first_casing_test_number..$locales_test_number) {
1274         push @problematical_tests, $_;
1275     }
1276
1277
1278     # Test for read-only scalars' locale vs non-locale comparisons.
1279
1280     {
1281         no locale;
1282         my $ok;
1283         $a = "qwerty";
1284         if ($is_utf8_locale) {
1285             use locale ':not_characters';
1286             $ok = ($a cmp "qwerty") == 0;
1287         }
1288         else {
1289             use locale;
1290             $ok = ($a cmp "qwerty") == 0;
1291         }
1292         report_result($Locale, ++$locales_test_number, $ok);
1293         $test_names{$locales_test_number} = 'Verify that cmp works with a read-only scalar; no- vs locale';
1294     }
1295
1296     {
1297         my ($from, $to, $lesser, $greater,
1298             @test, %test, $test, $yes, $no, $sign);
1299
1300         ++$locales_test_number;
1301         $test_names{$locales_test_number} = 'Verify that "le", "ne", etc work';
1302         $not_necessarily_a_problem_test_number = $locales_test_number;
1303         for (0..9) {
1304             # Select a slice.
1305             $from = int(($_*@{$posixes{'word'}})/10);
1306             $to = $from + int(@{$posixes{'word'}}/10);
1307             $to = $#{$posixes{'word'}} if ($to > $#{$posixes{'word'}});
1308             $lesser  = join('', @{$posixes{'word'}}[$from..$to]);
1309             # Select a slice one character on.
1310             $from++; $to++;
1311             $to = $#{$posixes{'word'}} if ($to > $#{$posixes{'word'}});
1312             $greater = join('', @{$posixes{'word'}}[$from..$to]);
1313             if ($is_utf8_locale) {
1314                 use locale ':not_characters';
1315                 ($yes, $no, $sign) = ($lesser lt $greater
1316                                     ? ("    ", "not ", 1)
1317                                     : ("not ", "    ", -1));
1318             }
1319             else {
1320                 use locale;
1321                 ($yes, $no, $sign) = ($lesser lt $greater
1322                                     ? ("    ", "not ", 1)
1323                                     : ("not ", "    ", -1));
1324             }
1325             # all these tests should FAIL (return 0).  Exact lt or gt cannot
1326             # be tested because in some locales, say, eacute and E may test
1327             # equal.
1328             @test =
1329                 (
1330                     $no.'    ($lesser  le $greater)',  # 1
1331                     'not      ($lesser  ne $greater)', # 2
1332                     '         ($lesser  eq $greater)', # 3
1333                     $yes.'    ($lesser  ge $greater)', # 4
1334                     $yes.'    ($lesser  ge $greater)', # 5
1335                     $yes.'    ($greater le $lesser )', # 7
1336                     'not      ($greater ne $lesser )', # 8
1337                     '         ($greater eq $lesser )', # 9
1338                     $no.'     ($greater ge $lesser )', # 10
1339                     'not (($lesser cmp $greater) == -($sign))' # 11
1340                     );
1341             @test{@test} = 0 x @test;
1342             $test = 0;
1343             for my $ti (@test) {
1344                 if ($is_utf8_locale) {
1345                     use locale ':not_characters';
1346                     $test{$ti} = eval $ti;
1347                 }
1348                 else {
1349                     # Already in 'use locale';
1350                     $test{$ti} = eval $ti;
1351                 }
1352                 $test ||= $test{$ti}
1353             }
1354             report_result($Locale, $locales_test_number, $test == 0);
1355             if ($test) {
1356                 debug "# lesser  = '$lesser'\n";
1357                 debug "# greater = '$greater'\n";
1358                 debug "# lesser cmp greater = ",
1359                         $lesser cmp $greater, "\n";
1360                 debug "# greater cmp lesser = ",
1361                         $greater cmp $lesser, "\n";
1362                 debug "# (greater) from = $from, to = $to\n";
1363                 for my $ti (@test) {
1364                     debugf("# %-40s %-4s", $ti,
1365                             $test{$ti} ? 'FAIL' : 'ok');
1366                     if ($ti =~ /\(\.*(\$.+ +cmp +\$[^\)]+)\.*\)/) {
1367                         debugf("(%s == %4d)", $1, eval $1);
1368                     }
1369                     debug "\n#";
1370                 }
1371
1372                 last;
1373             }
1374         }
1375     }
1376
1377     my $ok1;
1378     my $ok2;
1379     my $ok3;
1380     my $ok4;
1381     my $ok5;
1382     my $ok6;
1383     my $ok7;
1384     my $ok8;
1385     my $ok9;
1386     my $ok10;
1387     my $ok11;
1388     my $ok12;
1389     my $ok13;
1390     my $ok14;
1391     my $ok15;
1392     my $ok16;
1393     my $ok17;
1394     my $ok18;
1395
1396     my $c;
1397     my $d;
1398     my $e;
1399     my $f;
1400     my $g;
1401     my $h;
1402     my $i;
1403     my $j;
1404
1405     if (! $is_utf8_locale) {
1406         use locale;
1407
1408         my ($x, $y) = (1.23, 1.23);
1409
1410         $a = "$x";
1411         printf ''; # printf used to reset locale to "C"
1412         $b = "$y";
1413         $ok1 = $a eq $b;
1414
1415         $c = "$x";
1416         my $z = sprintf ''; # sprintf used to reset locale to "C"
1417         $d = "$y";
1418         $ok2 = $c eq $d;
1419         {
1420
1421             use warnings;
1422             my $w = 0;
1423             local $SIG{__WARN__} =
1424                 sub {
1425                     print "# @_\n";
1426                     $w++;
1427                 };
1428
1429             # The == (among other ops) used to warn for locales
1430             # that had something else than "." as the radix character.
1431
1432             $ok3 = $c == 1.23;
1433             $ok4 = $c == $x;
1434             $ok5 = $c == $d;
1435             {
1436                 no locale;
1437
1438                 $e = "$x";
1439
1440                 $ok6 = $e == 1.23;
1441                 $ok7 = $e == $x;
1442                 $ok8 = $e == $c;
1443             }
1444
1445             $f = "1.23";
1446             $g = 2.34;
1447             $h = 1.5;
1448             $i = 1.25;
1449             $j = "$h:$i";
1450
1451             $ok9 = $f == 1.23;
1452             $ok10 = $f == $x;
1453             $ok11 = $f == $c;
1454             $ok12 = abs(($f + $g) - 3.57) < 0.01;
1455             $ok13 = $w == 0;
1456             $ok14 = $ok15 = $ok16 = 1;  # Skip for non-utf8 locales
1457         }
1458         {
1459             no locale;
1460             $ok17 = "1.5:1.25" eq sprintf("%g:%g", $h, $i);
1461         }
1462         $ok18 = $j eq sprintf("%g:%g", $h, $i);
1463     }
1464     else {
1465         use locale ':not_characters';
1466
1467         my ($x, $y) = (1.23, 1.23);
1468         $a = "$x";
1469         printf ''; # printf used to reset locale to "C"
1470         $b = "$y";
1471         $ok1 = $a eq $b;
1472
1473         $c = "$x";
1474         my $z = sprintf ''; # sprintf used to reset locale to "C"
1475         $d = "$y";
1476         $ok2 = $c eq $d;
1477         {
1478             use warnings;
1479             my $w = 0;
1480             local $SIG{__WARN__} =
1481                 sub {
1482                     print "# @_\n";
1483                     $w++;
1484                 };
1485             $ok3 = $c == 1.23;
1486             $ok4 = $c == $x;
1487             $ok5 = $c == $d;
1488             {
1489                 no locale;
1490                 $e = "$x";
1491
1492                 $ok6 = $e == 1.23;
1493                 $ok7 = $e == $x;
1494                 $ok8 = $e == $c;
1495             }
1496
1497             $f = "1.23";
1498             $g = 2.34;
1499             $h = 1.5;
1500             $i = 1.25;
1501             $j = "$h:$i";
1502
1503             $ok9 = $f == 1.23;
1504             $ok10 = $f == $x;
1505             $ok11 = $f == $c;
1506             $ok12 = abs(($f + $g) - 3.57) < 0.01;
1507             $ok13 = $w == 0;
1508
1509             # Look for non-ASCII error messages, and verify that the first
1510             # such is in UTF-8 (the others almost certainly will be like the
1511             # first).
1512             $ok14 = 1;
1513             foreach my $err (keys %!) {
1514                 use Errno;
1515                 $! = eval "&Errno::$err";   # Convert to strerror() output
1516                 my $strerror = "$!";
1517                 if ("$strerror" =~ /\P{ASCII}/) {
1518                     $ok14 = utf8::is_utf8($strerror);
1519                     last;
1520                 }
1521             }
1522
1523             # Similarly, we verify that a non-ASCII radix is in UTF-8.  This
1524             # also catches if there is a disparity between sprintf and
1525             # stringification.
1526
1527             my $string_g = "$g";
1528             my $sprintf_g = sprintf("%g", $g);
1529
1530             $ok15 = $string_g =~ / ^ \p{ASCII}+ $ /x || utf8::is_utf8($string_g);
1531             $ok16 = $sprintf_g eq $string_g;
1532         }
1533         {
1534             no locale;
1535             $ok17 = "1.5:1.25" eq sprintf("%g:%g", $h, $i);
1536         }
1537         $ok18 = $j eq sprintf("%g:%g", $h, $i);
1538     }
1539
1540     report_result($Locale, ++$locales_test_number, $ok1);
1541     $test_names{$locales_test_number} = 'Verify that an intervening printf doesn\'t change assignment results';
1542     my $first_a_test = $locales_test_number;
1543
1544     debug "# $first_a_test..$locales_test_number: \$a = $a, \$b = $b, Locale = $Locale\n";
1545
1546     report_result($Locale, ++$locales_test_number, $ok2);
1547     $test_names{$locales_test_number} = 'Verify that an intervening sprintf doesn\'t change assignment results';
1548
1549     my $first_c_test = $locales_test_number;
1550
1551     report_result($Locale, ++$locales_test_number, $ok3);
1552     $test_names{$locales_test_number} = 'Verify that a different locale radix works when doing "==" with a constant';
1553
1554     report_result($Locale, ++$locales_test_number, $ok4);
1555     $test_names{$locales_test_number} = 'Verify that a different locale radix works when doing "==" with a scalar';
1556
1557     report_result($Locale, ++$locales_test_number, $ok5);
1558     $test_names{$locales_test_number} = 'Verify that a different locale radix works when doing "==" with a scalar and an intervening sprintf';
1559
1560     debug "# $first_c_test..$locales_test_number: \$c = $c, \$d = $d, Locale = $Locale\n";
1561
1562     report_result($Locale, ++$locales_test_number, $ok6);
1563     $test_names{$locales_test_number} = 'Verify that can assign stringified under inner no-locale block';
1564     my $first_e_test = $locales_test_number;
1565
1566     report_result($Locale, ++$locales_test_number, $ok7);
1567     $test_names{$locales_test_number} = 'Verify that "==" with a scalar still works in inner no locale';
1568
1569     report_result($Locale, ++$locales_test_number, $ok8);
1570     $test_names{$locales_test_number} = 'Verify that "==" with a scalar and an intervening sprintf still works in inner no locale';
1571
1572     debug "# $first_e_test..$locales_test_number: \$e = $e, no locale\n";
1573
1574     report_result($Locale, ++$locales_test_number, $ok9);
1575     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix still works when doing "==" with a constant';
1576     my $first_f_test = $locales_test_number;
1577
1578     report_result($Locale, ++$locales_test_number, $ok10);
1579     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix still works when doing "==" with a scalar';
1580
1581     report_result($Locale, ++$locales_test_number, $ok11);
1582     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix still works when doing "==" with a scalar and an intervening sprintf';
1583
1584     report_result($Locale, ++$locales_test_number, $ok12);
1585     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix can participate in an addition and function call as numeric';
1586
1587     report_result($Locale, ++$locales_test_number, $ok13);
1588     $test_names{$locales_test_number} = 'Verify that don\'t get warning under "==" even if radix is not a dot';
1589
1590     report_result($Locale, ++$locales_test_number, $ok14);
1591     $test_names{$locales_test_number} = 'Verify that non-ASCII UTF-8 error messages are in UTF-8';
1592
1593     report_result($Locale, ++$locales_test_number, $ok15);
1594     $test_names{$locales_test_number} = 'Verify that a number with a UTF-8 radix has a UTF-8 stringification';
1595
1596     report_result($Locale, ++$locales_test_number, $ok16);
1597     $test_names{$locales_test_number} = 'Verify that a sprintf of a number with a UTF-8 radix yields UTF-8';
1598
1599     report_result($Locale, ++$locales_test_number, $ok17);
1600     $test_names{$locales_test_number} = 'Verify that a sprintf of a number outside locale scope uses a dot radix';
1601
1602     report_result($Locale, ++$locales_test_number, $ok18);
1603     $test_names{$locales_test_number} = 'Verify that a sprintf of a number back within locale scope uses locale radix';
1604
1605     debug "# $first_f_test..$locales_test_number: \$f = $f, \$g = $g, back to locale = $Locale\n";
1606
1607     # Does taking lc separately differ from taking
1608     # the lc "in-line"?  (This was the bug 19990704.002, change #3568.)
1609     # The bug was in the caching of the 'o'-magic.
1610     if (! $is_utf8_locale) {
1611         use locale;
1612
1613         sub lcA {
1614             my $lc0 = lc $_[0];
1615             my $lc1 = lc $_[1];
1616             return $lc0 cmp $lc1;
1617         }
1618
1619         sub lcB {
1620             return lc($_[0]) cmp lc($_[1]);
1621         }
1622
1623         my $x = "ab";
1624         my $y = "aa";
1625         my $z = "AB";
1626
1627         report_result($Locale, ++$locales_test_number,
1628                     lcA($x, $y) == 1 && lcB($x, $y) == 1 ||
1629                     lcA($x, $z) == 0 && lcB($x, $z) == 0);
1630     }
1631     else {
1632         use locale ':not_characters';
1633
1634         sub lcC {
1635             my $lc0 = lc $_[0];
1636             my $lc1 = lc $_[1];
1637             return $lc0 cmp $lc1;
1638         }
1639
1640         sub lcD {
1641             return lc($_[0]) cmp lc($_[1]);
1642         }
1643
1644         my $x = "ab";
1645         my $y = "aa";
1646         my $z = "AB";
1647
1648         report_result($Locale, ++$locales_test_number,
1649                     lcC($x, $y) == 1 && lcD($x, $y) == 1 ||
1650                     lcC($x, $z) == 0 && lcD($x, $z) == 0);
1651     }
1652     $test_names{$locales_test_number} = 'Verify "lc(foo) cmp lc(bar)" is the same as using intermediaries for the cmp';
1653
1654     # Does lc of an UPPER (if different from the UPPER) match
1655     # case-insensitively the UPPER, and does the UPPER match
1656     # case-insensitively the lc of the UPPER.  And vice versa.
1657     {
1658         use locale;
1659         no utf8;
1660         my $re = qr/[\[\(\{\*\+\?\|\^\$\\]/;
1661
1662         my @f = ();
1663         ++$locales_test_number;
1664         $test_names{$locales_test_number} = 'Verify case insensitive matching works';
1665         foreach my $x (sort keys %UPPER) {
1666             if (! $is_utf8_locale) {
1667                 my $y = lc $x;
1668                 next unless uc $y eq $x;
1669                 debug_more( "# UPPER=", disp_chars(($x)),
1670                             "; lc=", disp_chars(($y)), "; ",
1671                             "; fc=", disp_chars((fc $x)), "; ",
1672                             disp_chars(($x)), "=~/", disp_chars(($y)), "/i=",
1673                             $x =~ /$y/i ? 1 : 0,
1674                             "; ",
1675                             disp_chars(($y)), "=~/", disp_chars(($x)), "/i=",
1676                             $y =~ /$x/i ? 1 : 0,
1677                             "\n");
1678                 #
1679                 # If $x and $y contain regular expression characters
1680                 # AND THEY lowercase (/i) to regular expression characters,
1681                 # regcomp() will be mightily confused.  No, the \Q doesn't
1682                 # help here (maybe regex engine internal lowercasing
1683                 # is done after the \Q?)  An example of this happening is
1684                 # the bg_BG (Bulgarian) locale under EBCDIC (OS/390 USS):
1685                 # the chr(173) (the "[") is the lowercase of the chr(235).
1686                 #
1687                 # Similarly losing EBCDIC locales include cs_cz, cs_CZ,
1688                 # el_gr, el_GR, en_us.IBM-037 (!), en_US.IBM-037 (!),
1689                 # et_ee, et_EE, hr_hr, hr_HR, hu_hu, hu_HU, lt_LT,
1690                 # mk_mk, mk_MK, nl_nl.IBM-037, nl_NL.IBM-037,
1691                 # pl_pl, pl_PL, ro_ro, ro_RO, ru_ru, ru_RU,
1692                 # sk_sk, sk_SK, sl_si, sl_SI, tr_tr, tr_TR.
1693                 #
1694                 # Similar things can happen even under (bastardised)
1695                 # non-EBCDIC locales: in many European countries before the
1696                 # advent of ISO 8859-x nationally customised versions of
1697                 # ISO 646 were devised, reusing certain punctuation
1698                 # characters for modified characters needed by the
1699                 # country/language.  For example, the "|" might have
1700                 # stood for U+00F6 or LATIN SMALL LETTER O WITH DIAERESIS.
1701                 #
1702                 if ($x =~ $re || $y =~ $re) {
1703                     print "# Regex characters in '$x' or '$y', skipping test $locales_test_number for locale '$Locale'\n";
1704                     next;
1705                 }
1706                 push @f, $x unless $x =~ /$y/i && $y =~ /$x/i;
1707
1708                 # fc is not a locale concept, so Perl uses lc for it.
1709                 push @f, $x unless lc $x eq fc $x;
1710             }
1711             else {
1712                 use locale ':not_characters';
1713                 my $y = lc $x;
1714                 next unless uc $y eq $x;
1715                 debug_more( "# UPPER=", disp_chars(($x)),
1716                             "; lc=", disp_chars(($y)), "; ",
1717                             "; fc=", disp_chars((fc $x)), "; ",
1718                             disp_chars(($x)), "=~/", disp_chars(($y)), "/i=",
1719                             $x =~ /$y/i ? 1 : 0,
1720                             "; ",
1721                             disp_chars(($y)), "=~/", disp_chars(($x)), "/i=",
1722                             $y =~ /$x/i ? 1 : 0,
1723                             "\n");
1724
1725                 push @f, $x unless $x =~ /$y/i && $y =~ /$x/i;
1726
1727                 # The places where Unicode's lc is different from fc are
1728                 # skipped here by virtue of the 'next unless uc...' line above
1729                 push @f, $x unless lc $x eq fc $x;
1730             }
1731         }
1732
1733         foreach my $x (sort keys %lower) {
1734             if (! $is_utf8_locale) {
1735                 my $y = uc $x;
1736                 next unless lc $y eq $x;
1737                 debug_more( "# lower=", disp_chars(($x)),
1738                             "; uc=", disp_chars(($y)), "; ",
1739                             "; fc=", disp_chars((fc $x)), "; ",
1740                             disp_chars(($x)), "=~/", disp_chars(($y)), "/i=",
1741                             $x =~ /$y/i ? 1 : 0,
1742                             "; ",
1743                             disp_chars(($y)), "=~/", disp_chars(($x)), "/i=",
1744                             $y =~ /$x/i ? 1 : 0,
1745                             "\n");
1746                 if ($x =~ $re || $y =~ $re) { # See above.
1747                     print "# Regex characters in '$x' or '$y', skipping test $locales_test_number for locale '$Locale'\n";
1748                     next;
1749                 }
1750                 push @f, $x unless $x =~ /$y/i && $y =~ /$x/i;
1751
1752                 push @f, $x unless lc $x eq fc $x;
1753             }
1754             else {
1755                 use locale ':not_characters';
1756                 my $y = uc $x;
1757                 next unless lc $y eq $x;
1758                 debug_more( "# lower=", disp_chars(($x)),
1759                             "; uc=", disp_chars(($y)), "; ",
1760                             "; fc=", disp_chars((fc $x)), "; ",
1761                             disp_chars(($x)), "=~/", disp_chars(($y)), "/i=",
1762                             $x =~ /$y/i ? 1 : 0,
1763                             "; ",
1764                             disp_chars(($y)), "=~/", disp_chars(($x)), "/i=",
1765                             $y =~ /$x/i ? 1 : 0,
1766                             "\n");
1767                 push @f, $x unless $x =~ /$y/i && $y =~ /$x/i;
1768
1769                 push @f, $x unless lc $x eq fc $x;
1770             }
1771         }
1772         report_multi_result($Locale, $locales_test_number, \@f);
1773         push @problematical_tests, $locales_test_number;
1774     }
1775
1776     # [perl #109318]
1777     {
1778         my @f = ();
1779         ++$locales_test_number;
1780         $test_names{$locales_test_number} = 'Verify atof with locale radix and negative exponent';
1781
1782         my $radix = POSIX::localeconv()->{decimal_point};
1783         my @nums = (
1784              "3.14e+9",  "3${radix}14e+9",  "3.14e-9",  "3${radix}14e-9",
1785             "-3.14e+9", "-3${radix}14e+9", "-3.14e-9", "-3${radix}14e-9",
1786         );
1787
1788         if (! $is_utf8_locale) {
1789             use locale;
1790             for my $num (@nums) {
1791                 push @f, $num
1792                     unless sprintf("%g", $num) =~ /3.+14/;
1793             }
1794         }
1795         else {
1796             use locale ':not_characters';
1797             for my $num (@nums) {
1798                 push @f, $num
1799                     unless sprintf("%g", $num) =~ /3.+14/;
1800             }
1801         }
1802
1803         report_result($Locale, $locales_test_number, @f == 0);
1804         if (@f) {
1805             print "# failed $locales_test_number locale '$Locale' numbers @f\n"
1806         }
1807     }
1808 }
1809
1810 my $final_locales_test_number = $locales_test_number;
1811
1812 # Recount the errors.
1813
1814 foreach $test_num ($first_locales_test_number..$final_locales_test_number) {
1815     if (%setlocale_failed) {
1816         print "not ";
1817     }
1818     elsif ($Problem{$test_num} || !defined $Okay{$test_num} || !@{$Okay{$test_num}}) {
1819         if (defined $not_necessarily_a_problem_test_number
1820             && $test_num == $not_necessarily_a_problem_test_number)
1821         {
1822             print "# The failure of test $not_necessarily_a_problem_test_number is not necessarily fatal.\n";
1823             print "# It usually indicates a problem in the environment,\n";
1824             print "# not in Perl itself.\n";
1825         }
1826         if ($Okay{$test_num} && grep { $_ == $test_num } @problematical_tests) {
1827             no warnings 'experimental::autoderef';
1828             # Round to nearest .1%
1829             my $percent_fail = (int(.5 + (1000 * scalar(keys $Problem{$test_num})
1830                                           / scalar(@Locale))))
1831                                / 10;
1832             if (! $debug && $percent_fail < $acceptable_fold_failure_percentage)
1833             {
1834                 $test_names{$test_num} .= 'TODO';
1835                 print "# ", 100 - $percent_fail, "% of locales pass the following test, so it is likely that the failures\n";
1836                 print "# are errors in the locale definitions.  The test is marked TODO, as the\n";
1837                 print "# problem is not likely to be Perl's\n";
1838             }
1839         }
1840         print "#\n";
1841         if ($debug) {
1842             print "# The code points that had this failure are given above.  Look for lines\n";
1843             print "# that match 'failed $test_num'\n";
1844         }
1845         else {
1846             print "# For more details, rerun, with environment variable PERL_DEBUG_FULL_TEST=1.\n";
1847             print "# Then look at that output for lines that match 'failed $test_num'\n";
1848         }
1849         print "not ";
1850     }
1851     print "ok $test_num";
1852     if (defined $test_names{$test_num}) {
1853         # If TODO is in the test name, make it thus
1854         my $todo = $test_names{$test_num} =~ s/TODO\s*//;
1855         print " $test_names{$test_num}";
1856         print " # TODO" if $todo;
1857     }
1858     print "\n";
1859 }
1860
1861 $test_num = $final_locales_test_number;
1862
1863 unless ( $^O eq 'dragonfly' ) {
1864     # perl #115808
1865     use warnings;
1866     my $warned = 0;
1867     local $SIG{__WARN__} = sub {
1868         $warned = $_[0] =~ /uninitialized/;
1869     };
1870     my $z = "y" . setlocale(&POSIX::LC_ALL, "xyzzy");
1871     ok($warned, "variable set to setlocale(BAD LOCALE) is considered uninitialized");
1872 }
1873
1874 # Test that tainting and case changing works on utf8 strings.  These tests are
1875 # placed last to avoid disturbing the hard-coded test numbers that existed at
1876 # the time these were added above this in this file.
1877 # This also tests that locale overrides unicode_strings in the same scope for
1878 # non-utf8 strings.
1879 setlocale(&POSIX::LC_ALL, "C");
1880 {
1881     use locale;
1882     use feature 'unicode_strings';
1883
1884     foreach my $function ("uc", "ucfirst", "lc", "lcfirst", "fc") {
1885         my @list;   # List of code points to test for $function
1886
1887         # Used to calculate the changed case for ASCII characters by using the
1888         # ord, instead of using one of the functions under test.
1889         my $ascii_case_change_delta;
1890         my $above_latin1_case_change_delta; # Same for the specific ords > 255
1891                                             # that we use
1892
1893         # We test an ASCII character, which should change case and be tainted;
1894         # a Latin1 character, which shouldn't change case under this C locale,
1895         #   and is tainted.
1896         # an above-Latin1 character that when the case is changed would cross
1897         #   the 255/256 boundary, so doesn't change case and isn't tainted
1898         # (the \x{149} is one of these, but changes into 2 characters, the
1899         #   first one of which doesn't cross the boundary.
1900         # the final one in each list is an above-Latin1 character whose case
1901         #   does change, and shouldn't be tainted.  The code below uses its
1902         #   position in its list as a marker to indicate that it, unlike the
1903         #   other code points above ASCII, has a successful case change
1904         if ($function =~ /^u/) {
1905             @list = ("", "a", "\xe0", "\xff", "\x{fb00}", "\x{149}", "\x{101}");
1906             $ascii_case_change_delta = -32;
1907             $above_latin1_case_change_delta = -1;
1908         }
1909         else {
1910             @list = ("", "A", "\xC0", "\x{17F}", "\x{100}");
1911             $ascii_case_change_delta = +32;
1912             $above_latin1_case_change_delta = +1;
1913         }
1914         foreach my $is_utf8_locale (0 .. 1) {
1915             foreach my $j (0 .. $#list) {
1916                 my $char = $list[$j];
1917
1918                 for my $encoded_in_utf8 (0 .. 1) {
1919                     my $should_be;
1920                     my $changed;
1921                     if (! $is_utf8_locale) {
1922                         $should_be = ($j == $#list)
1923                             ? chr(ord($char) + $above_latin1_case_change_delta)
1924                             : (length $char == 0 || ord($char) > 127)
1925                             ? $char
1926                             : chr(ord($char) + $ascii_case_change_delta);
1927
1928                         # This monstrosity is in order to avoid using an eval,
1929                         # which might perturb the results
1930                         $changed = ($function eq "uc")
1931                                     ? uc($char)
1932                                     : ($function eq "ucfirst")
1933                                       ? ucfirst($char)
1934                                       : ($function eq "lc")
1935                                         ? lc($char)
1936                                         : ($function eq "lcfirst")
1937                                           ? lcfirst($char)
1938                                           : ($function eq "fc")
1939                                             ? fc($char)
1940                                             : die("Unexpected function \"$function\"");
1941                     }
1942                     else {
1943                         {
1944                             no locale;
1945
1946                             # For utf8-locales the case changing functions
1947                             # should work just like they do outside of locale.
1948                             # Can use eval here because not testing it when
1949                             # not in locale.
1950                             $should_be = eval "$function('$char')";
1951                             die "Unexpected eval error $@ from 'eval \"$function('$char')\"'" if  $@;
1952
1953                         }
1954                         use locale ':not_characters';
1955                         $changed = ($function eq "uc")
1956                                     ? uc($char)
1957                                     : ($function eq "ucfirst")
1958                                       ? ucfirst($char)
1959                                       : ($function eq "lc")
1960                                         ? lc($char)
1961                                         : ($function eq "lcfirst")
1962                                           ? lcfirst($char)
1963                                           : ($function eq "fc")
1964                                             ? fc($char)
1965                                             : die("Unexpected function \"$function\"");
1966                     }
1967                     ok($changed eq $should_be,
1968                         "$function(\"$char\") in C locale "
1969                         . (($is_utf8_locale)
1970                             ? "(use locale ':not_characters'"
1971                             : "(use locale")
1972                         . (($encoded_in_utf8)
1973                             ? "; encoded in utf8)"
1974                             : "; not encoded in utf8)")
1975                         . " should be \"$should_be\", got \"$changed\"");
1976
1977                     # Tainting shouldn't happen for utf8 locales, empty
1978                     # strings, or those characters above 255.
1979                     (! $is_utf8_locale && length($char) > 0 && ord($char) < 256)
1980                     ? check_taint($changed)
1981                     : check_taint_not($changed);
1982
1983                     # Use UTF-8 next time through the loop
1984                     utf8::upgrade($char);
1985                 }
1986             }
1987         }
1988     }
1989 }
1990
1991 # Give final advice.
1992
1993 my $didwarn = 0;
1994
1995 foreach ($first_locales_test_number..$final_locales_test_number) {
1996     if ($Problem{$_}) {
1997         my @f = sort keys %{ $Problem{$_} };
1998         my $f = join(" ", @f);
1999         $f =~ s/(.{50,60}) /$1\n#\t/g;
2000         print
2001             "#\n",
2002             "# The locale ", (@f == 1 ? "definition" : "definitions"), "\n#\n",
2003             "#\t", $f, "\n#\n",
2004             "# on your system may have errors because the locale test $_\n",
2005             "# \"$test_names{$_}\"\n",
2006             "# failed in ", (@f == 1 ? "that locale" : "those locales"),
2007             ".\n";
2008         print <<EOW;
2009 #
2010 # If your users are not using these locales you are safe for the moment,
2011 # but please report this failure first to perlbug\@perl.com using the
2012 # perlbug script (as described in the INSTALL file) so that the exact
2013 # details of the failures can be sorted out first and then your operating
2014 # system supplier can be alerted about these anomalies.
2015 #
2016 EOW
2017         $didwarn = 1;
2018     }
2019 }
2020
2021 # Tell which locales were okay and which were not.
2022
2023 if ($didwarn) {
2024     my (@s, @F);
2025
2026     foreach my $l (@Locale) {
2027         my $p = 0;
2028         if ($setlocale_failed{$l}) {
2029             $p++;
2030         }
2031         else {
2032             foreach my $t
2033                         ($first_locales_test_number..$final_locales_test_number)
2034             {
2035                 $p++ if $Problem{$t}{$l};
2036             }
2037         }
2038         push @s, $l if $p == 0;
2039         push @F, $l unless $p == 0;
2040     }
2041
2042     if (@s) {
2043         my $s = join(" ", @s);
2044         $s =~ s/(.{50,60}) /$1\n#\t/g;
2045
2046         warn
2047             "# The following locales\n#\n",
2048             "#\t", $s, "\n#\n",
2049             "# tested okay.\n#\n",
2050     } else {
2051         warn "# None of your locales were fully okay.\n";
2052     }
2053
2054     if (@F) {
2055         my $F = join(" ", @F);
2056         $F =~ s/(.{50,60}) /$1\n#\t/g;
2057
2058         my $details = "";
2059         unless ($debug) {
2060             $details = "# For more details, rerun, with environment variable PERL_DEBUG_FULL_TEST=1.\n";
2061         }
2062         elsif ($debug == 1) {
2063             $details = "# For even more details, rerun, with environment variable PERL_DEBUG_FULL_TEST=2.\n";
2064         }
2065
2066         warn
2067           "# The following locales\n#\n",
2068           "#\t", $F, "\n#\n",
2069           "# had problems.\n#\n",
2070           $details;
2071     } else {
2072         warn "# None of your locales were broken.\n";
2073     }
2074 }
2075
2076 print "1..$test_num\n";
2077
2078 # eof