This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
locale.t: Add extra debugging info
[perl5.git] / lib / locale.t
1 #!./perl -wT
2
3 # This tests plain 'use locale' and adorned 'use locale ":not_characters"'
4 # Because these pragmas are compile time, and I (khw) am trying to test
5 # without using 'eval' as much as possible, which might cloud the issue,  the
6 # crucial parts of the code are duplicated in a block for each pragma.
7
8 # To make a TODO test, add the string 'TODO' to its %test_names value
9
10 binmode STDOUT, ':utf8';
11 binmode STDERR, ':utf8';
12
13 BEGIN {
14     chdir 't' if -d 't';
15     @INC = '../lib';
16     unshift @INC, '.';
17     require Config; import Config;
18     if (!$Config{d_setlocale} || $Config{ccflags} =~ /\bD?NO_LOCALE\b/) {
19         print "1..0\n";
20         exit;
21     }
22     $| = 1;
23 }
24
25 use strict;
26 use feature 'fc';
27
28 my $debug = 0;
29
30 use Dumpvalue;
31
32 my $dumper = Dumpvalue->new(
33                             tick => qq{"},
34                             quoteHighBit => 0,
35                             unctrl => "quote"
36                            );
37 sub debug {
38   return unless $debug;
39   my($mess) = join "", @_;
40   chop $mess;
41   print $dumper->stringify($mess,1), "\n";
42 }
43
44 sub debugf {
45     printf @_ if $debug;
46 }
47
48 my $have_setlocale = 0;
49 eval {
50     require POSIX;
51     import POSIX ':locale_h';
52     $have_setlocale++;
53 };
54
55 # Visual C's CRT goes silly on strings of the form "en_US.ISO8859-1"
56 # and mingw32 uses said silly CRT
57 # This doesn't seem to be an issue any more, at least on Windows XP,
58 # so re-enable the tests for Windows XP onwards.
59 my $winxp = ($^O eq 'MSWin32' && defined &Win32::GetOSVersion &&
60                 join('.', (Win32::GetOSVersion())[1..2]) >= 5.1);
61 $have_setlocale = 0 if ((($^O eq 'MSWin32' && !$winxp) || $^O eq 'NetWare') &&
62                 $Config{cc} =~ /^(cl|gcc)/i);
63
64 # UWIN seems to loop after taint tests, just skip for now
65 $have_setlocale = 0 if ($^O =~ /^uwin/);
66
67 sub LC_ALL ();
68
69 $a = 'abc %';
70
71 my $test_num = 0;
72
73 sub ok {
74     my ($result, $message) = @_;
75     $message = "" unless defined $message;
76
77     print 'not ' unless ($result);
78     print "ok " . ++$test_num;
79     print " $message";
80     print "\n";
81 }
82
83 # First we'll do a lot of taint checking for locales.
84 # This is the easiest to test, actually, as any locale,
85 # even the default locale will taint under 'use locale'.
86
87 sub is_tainted { # hello, camel two.
88     no warnings 'uninitialized' ;
89     my $dummy;
90     local $@;
91     not eval { $dummy = join("", @_), kill 0; 1 }
92 }
93
94 sub check_taint ($;$) {
95     my $message_tail = $_[1] // "";
96     $message_tail = ": $message_tail" if $message_tail;
97     ok is_tainted($_[0]), "verify that is tainted$message_tail";
98 }
99
100 sub check_taint_not ($;$) {
101     my $message_tail = $_[1] // "";
102     $message_tail = ": $message_tail" if $message_tail;
103     ok((not is_tainted($_[0])), "verify that isn't tainted$message_tail");
104 }
105
106 "\tb\t" =~ /^m?(\s)(.*)\1$/;
107 check_taint_not   $&, "not tainted outside 'use locale'";
108 ;
109
110 use locale;     # engage locale and therefore locale taint.
111
112 check_taint_not   $a;
113
114 check_taint       uc($a);
115 check_taint       "\U$a";
116 check_taint       ucfirst($a);
117 check_taint       "\u$a";
118 check_taint       lc($a);
119 check_taint       fc($a);
120 check_taint       "\L$a";
121 check_taint       "\F$a";
122 check_taint       lcfirst($a);
123 check_taint       "\l$a";
124
125 check_taint_not  sprintf('%e', 123.456);
126 check_taint_not  sprintf('%f', 123.456);
127 check_taint_not  sprintf('%g', 123.456);
128 check_taint_not  sprintf('%d', 123.456);
129 check_taint_not  sprintf('%x', 123.456);
130
131 $_ = $a;        # untaint $_
132
133 $_ = uc($a);    # taint $_
134
135 check_taint      $_;
136
137 /(\w)/; # taint $&, $`, $', $+, $1.
138 check_taint      $&;
139 check_taint      $`;
140 check_taint      $';
141 check_taint      $+;
142 check_taint      $1;
143 check_taint_not  $2;
144
145 /(.)/;  # untaint $&, $`, $', $+, $1.
146 check_taint_not  $&;
147 check_taint_not  $`;
148 check_taint_not  $';
149 check_taint_not  $+;
150 check_taint_not  $1;
151 check_taint_not  $2;
152
153 /(\W)/; # taint $&, $`, $', $+, $1.
154 check_taint      $&;
155 check_taint      $`;
156 check_taint      $';
157 check_taint      $+;
158 check_taint      $1;
159 check_taint_not  $2;
160
161 /(\s)/; # taint $&, $`, $', $+, $1.
162 check_taint      $&;
163 check_taint      $`;
164 check_taint      $';
165 check_taint      $+;
166 check_taint      $1;
167 check_taint_not  $2;
168
169 /(\S)/; # taint $&, $`, $', $+, $1.
170 check_taint      $&;
171 check_taint      $`;
172 check_taint      $';
173 check_taint      $+;
174 check_taint      $1;
175 check_taint_not  $2;
176
177 $_ = $a;        # untaint $_
178
179 check_taint_not  $_;
180
181 /(b)/;          # this must not taint
182 check_taint_not  $&;
183 check_taint_not  $`;
184 check_taint_not  $';
185 check_taint_not  $+;
186 check_taint_not  $1;
187 check_taint_not  $2;
188
189 $_ = $a;        # untaint $_
190
191 check_taint_not  $_;
192
193 $b = uc($a);    # taint $b
194 s/(.+)/$b/;     # this must taint only the $_
195
196 check_taint      $_;
197 check_taint_not  $&;
198 check_taint_not  $`;
199 check_taint_not  $';
200 check_taint_not  $+;
201 check_taint_not  $1;
202 check_taint_not  $2;
203
204 $_ = $a;        # untaint $_
205
206 s/(.+)/b/;      # this must not taint
207 check_taint_not  $_;
208 check_taint_not  $&;
209 check_taint_not  $`;
210 check_taint_not  $';
211 check_taint_not  $+;
212 check_taint_not  $1;
213 check_taint_not  $2;
214
215 $b = $a;        # untaint $b
216
217 ($b = $a) =~ s/\w/$&/;
218 check_taint      $b;    # $b should be tainted.
219 check_taint_not  $a;    # $a should be not.
220
221 $_ = $a;        # untaint $_
222
223 s/(\w)/\l$1/;   # this must taint
224 check_taint      $_;
225 check_taint      $&;
226 check_taint      $`;
227 check_taint      $';
228 check_taint      $+;
229 check_taint      $1;
230 check_taint_not  $2;
231
232 $_ = $a;        # untaint $_
233
234 s/(\w)/\L$1/;   # this must taint
235 check_taint      $_;
236 check_taint      $&;
237 check_taint      $`;
238 check_taint      $';
239 check_taint      $+;
240 check_taint      $1;
241 check_taint_not  $2;
242
243 $_ = $a;        # untaint $_
244
245 s/(\w)/\u$1/;   # this must taint
246 check_taint      $_;
247 check_taint      $&;
248 check_taint      $`;
249 check_taint      $';
250 check_taint      $+;
251 check_taint      $1;
252 check_taint_not  $2;
253
254 $_ = $a;        # untaint $_
255
256 s/(\w)/\U$1/;   # this must taint
257 check_taint      $_;
258 check_taint      $&;
259 check_taint      $`;
260 check_taint      $';
261 check_taint      $+;
262 check_taint      $1;
263 check_taint_not  $2;
264
265 # After all this tainting $a should be cool.
266
267 check_taint_not  $a;
268
269 {   # This is just the previous tests copied here with a different
270     # compile-time pragma.
271
272     use locale ':not_characters'; # engage restricted locale with different
273                                   # tainting rules
274
275     check_taint_not   $a;
276
277     check_taint_not     uc($a);
278     check_taint_not     "\U$a";
279     check_taint_not     ucfirst($a);
280     check_taint_not     "\u$a";
281     check_taint_not     lc($a);
282     check_taint_not     fc($a);
283     check_taint_not     "\L$a";
284     check_taint_not     "\F$a";
285     check_taint_not     lcfirst($a);
286     check_taint_not     "\l$a";
287
288     check_taint_not  sprintf('%e', 123.456);
289     check_taint_not  sprintf('%f', 123.456);
290     check_taint_not  sprintf('%g', 123.456);
291     check_taint_not  sprintf('%d', 123.456);
292     check_taint_not  sprintf('%x', 123.456);
293
294     $_ = $a;    # untaint $_
295
296     $_ = uc($a);        # taint $_
297
298     check_taint_not     $_;
299
300     /(\w)/;     # taint $&, $`, $', $+, $1.
301     check_taint_not     $&;
302     check_taint_not     $`;
303     check_taint_not     $';
304     check_taint_not     $+;
305     check_taint_not     $1;
306     check_taint_not  $2;
307
308     /(.)/;      # untaint $&, $`, $', $+, $1.
309     check_taint_not  $&;
310     check_taint_not  $`;
311     check_taint_not  $';
312     check_taint_not  $+;
313     check_taint_not  $1;
314     check_taint_not  $2;
315
316     /(\W)/;     # taint $&, $`, $', $+, $1.
317     check_taint_not     $&;
318     check_taint_not     $`;
319     check_taint_not     $';
320     check_taint_not     $+;
321     check_taint_not     $1;
322     check_taint_not  $2;
323
324     /(\s)/;     # taint $&, $`, $', $+, $1.
325     check_taint_not     $&;
326     check_taint_not     $`;
327     check_taint_not     $';
328     check_taint_not     $+;
329     check_taint_not     $1;
330     check_taint_not  $2;
331
332     /(\S)/;     # taint $&, $`, $', $+, $1.
333     check_taint_not     $&;
334     check_taint_not     $`;
335     check_taint_not     $';
336     check_taint_not     $+;
337     check_taint_not     $1;
338     check_taint_not  $2;
339
340     $_ = $a;    # untaint $_
341
342     check_taint_not  $_;
343
344     /(b)/;              # this must not taint
345     check_taint_not  $&;
346     check_taint_not  $`;
347     check_taint_not  $';
348     check_taint_not  $+;
349     check_taint_not  $1;
350     check_taint_not  $2;
351
352     $_ = $a;    # untaint $_
353
354     check_taint_not  $_;
355
356     $b = uc($a);        # taint $b
357     s/(.+)/$b/; # this must taint only the $_
358
359     check_taint_not     $_;
360     check_taint_not  $&;
361     check_taint_not  $`;
362     check_taint_not  $';
363     check_taint_not  $+;
364     check_taint_not  $1;
365     check_taint_not  $2;
366
367     $_ = $a;    # untaint $_
368
369     s/(.+)/b/;  # this must not taint
370     check_taint_not  $_;
371     check_taint_not  $&;
372     check_taint_not  $`;
373     check_taint_not  $';
374     check_taint_not  $+;
375     check_taint_not  $1;
376     check_taint_not  $2;
377
378     $b = $a;    # untaint $b
379
380     ($b = $a) =~ s/\w/$&/;
381     check_taint_not     $b;     # $b should be tainted.
382     check_taint_not  $a;        # $a should be not.
383
384     $_ = $a;    # untaint $_
385
386     s/(\w)/\l$1/;       # this must taint
387     check_taint_not     $_;
388     check_taint_not     $&;
389     check_taint_not     $`;
390     check_taint_not     $';
391     check_taint_not     $+;
392     check_taint_not     $1;
393     check_taint_not  $2;
394
395     $_ = $a;    # untaint $_
396
397     s/(\w)/\L$1/;       # this must taint
398     check_taint_not     $_;
399     check_taint_not     $&;
400     check_taint_not     $`;
401     check_taint_not     $';
402     check_taint_not     $+;
403     check_taint_not     $1;
404     check_taint_not  $2;
405
406     $_ = $a;    # untaint $_
407
408     s/(\w)/\u$1/;       # this must taint
409     check_taint_not     $_;
410     check_taint_not     $&;
411     check_taint_not     $`;
412     check_taint_not     $';
413     check_taint_not     $+;
414     check_taint_not     $1;
415     check_taint_not  $2;
416
417     $_ = $a;    # untaint $_
418
419     s/(\w)/\U$1/;       # this must taint
420     check_taint_not     $_;
421     check_taint_not     $&;
422     check_taint_not     $`;
423     check_taint_not     $';
424     check_taint_not     $+;
425     check_taint_not     $1;
426     check_taint_not  $2;
427
428     # After all this tainting $a should be cool.
429
430     check_taint_not  $a;
431 }
432
433 # Here are in scope of 'use locale'
434
435 # I think we've seen quite enough of taint.
436 # Let us do some *real* locale work now,
437 # unless setlocale() is missing (i.e. minitest).
438
439 unless ($have_setlocale) {
440     print "1..$test_num\n";
441     exit;
442 }
443
444 # The test number before our first setlocale()
445 my $final_without_setlocale = $test_num;
446
447 # Find locales.
448
449 debug "# Scanning for locales...\n";
450
451 # Note that it's okay that some languages have their native names
452 # capitalized here even though that's not "right".  They are lowercased
453 # anyway later during the scanning process (and besides, some clueless
454 # vendor might have them capitalized erroneously anyway).
455
456 my $locales = <<EOF;
457 Afrikaans:af:za:1 15
458 Arabic:ar:dz eg sa:6 arabic8
459 Brezhoneg Breton:br:fr:1 15
460 Bulgarski Bulgarian:bg:bg:5
461 Chinese:zh:cn tw:cn.EUC eucCN eucTW euc.CN euc.TW Big5 GB2312 tw.EUC
462 Hrvatski Croatian:hr:hr:2
463 Cymraeg Welsh:cy:cy:1 14 15
464 Czech:cs:cz:2
465 Dansk Danish:da:dk:1 15
466 Nederlands Dutch:nl:be nl:1 15
467 English American British:en:au ca gb ie nz us uk zw:1 15 cp850
468 Esperanto:eo:eo:3
469 Eesti Estonian:et:ee:4 6 13
470 Suomi Finnish:fi:fi:1 15
471 Flamish::fl:1 15
472 Deutsch German:de:at be ch de lu:1 15
473 Euskaraz Basque:eu:es fr:1 15
474 Galego Galician:gl:es:1 15
475 Ellada Greek:el:gr:7 g8
476 Frysk:fy:nl:1 15
477 Greenlandic:kl:gl:4 6
478 Hebrew:iw:il:8 hebrew8
479 Hungarian:hu:hu:2
480 Indonesian:id:id:1 15
481 Gaeilge Irish:ga:IE:1 14 15
482 Italiano Italian:it:ch it:1 15
483 Nihongo Japanese:ja:jp:euc eucJP jp.EUC sjis
484 Korean:ko:kr:
485 Latine Latin:la:va:1 15
486 Latvian:lv:lv:4 6 13
487 Lithuanian:lt:lt:4 6 13
488 Macedonian:mk:mk:1 15
489 Maltese:mt:mt:3
490 Moldovan:mo:mo:2
491 Norsk Norwegian:no no\@nynorsk nb nn:no:1 15
492 Occitan:oc:es:1 15
493 Polski Polish:pl:pl:2
494 Rumanian:ro:ro:2
495 Russki Russian:ru:ru su ua:5 koi8 koi8r KOI8-R koi8u cp1251 cp866
496 Serbski Serbian:sr:yu:5
497 Slovak:sk:sk:2
498 Slovene Slovenian:sl:si:2
499 Sqhip Albanian:sq:sq:1 15
500 Svenska Swedish:sv:fi se:1 15
501 Thai:th:th:11 tis620
502 Turkish:tr:tr:9 turkish8
503 Yiddish:yi::1 15
504 EOF
505
506 if ($^O eq 'os390') {
507     # These cause heartburn.  Broken locales?
508     $locales =~ s/Svenska Swedish:sv:fi se:1 15\n//;
509     $locales =~ s/Thai:th:th:11 tis620\n//;
510 }
511
512 sub in_utf8 () { $^H & 0x08 || (${^OPEN} || "") =~ /:utf8/ }
513
514 if (in_utf8) {
515     require "lib/locale/utf8";
516 } else {
517     require "lib/locale/latin1";
518 }
519
520 my @Locale;
521 my $Locale;
522 my @Alnum_;
523
524 sub trylocale {
525     my $locale = shift;
526     return if grep { $locale eq $_ } @Locale;
527     return unless setlocale(LC_ALL, $locale);
528     my $badutf8;
529     {
530         local $SIG{__WARN__} = sub {
531             $badutf8 = $_[0] =~ /Malformed UTF-8/;
532         };
533         $Locale =~ /UTF-?8/i;
534     }
535
536     if ($badutf8) {
537         ok(0, "Locale name contains malformed utf8");
538         return;
539     }
540     push @Locale, $locale;
541 }
542
543 sub decode_encodings {
544     my @enc;
545
546     foreach (split(/ /, shift)) {
547         if (/^(\d+)$/) {
548             push @enc, "ISO8859-$1";
549             push @enc, "iso8859$1";     # HP
550             if ($1 eq '1') {
551                  push @enc, "roman8";   # HP
552             }
553         } else {
554             push @enc, $_;
555             push @enc, "$_.UTF-8";
556         }
557     }
558     if ($^O eq 'os390') {
559         push @enc, qw(IBM-037 IBM-819 IBM-1047);
560     }
561
562     return @enc;
563 }
564
565 trylocale("C");
566 trylocale("POSIX");
567 foreach (0..15) {
568     trylocale("ISO8859-$_");
569     trylocale("iso8859$_");
570     trylocale("iso8859-$_");
571     trylocale("iso_8859_$_");
572     trylocale("isolatin$_");
573     trylocale("isolatin-$_");
574     trylocale("iso_latin_$_");
575 }
576
577 # Sanitize the environment so that we can run the external 'locale'
578 # program without the taint mode getting grumpy.
579
580 # $ENV{PATH} is special in VMS.
581 delete $ENV{PATH} if $^O ne 'VMS' or $Config{d_setenv};
582
583 # Other subversive stuff.
584 delete @ENV{qw(IFS CDPATH ENV BASH_ENV)};
585
586 if (-x "/usr/bin/locale" && open(LOCALES, "/usr/bin/locale -a 2>/dev/null|")) {
587     while (<LOCALES>) {
588         # It seems that /usr/bin/locale steadfastly outputs 8 bit data, which
589         # ain't great when we're running this testPERL_UNICODE= so that utf8
590         # locales will cause all IO hadles to default to (assume) utf8
591         next unless utf8::valid($_);
592         chomp;
593         trylocale($_);
594     }
595     close(LOCALES);
596 } elsif ($^O eq 'VMS' && defined($ENV{'SYS$I18N_LOCALE'}) && -d 'SYS$I18N_LOCALE') {
597 # The SYS$I18N_LOCALE logical name search list was not present on
598 # VAX VMS V5.5-12, but was on AXP && VAX VMS V6.2 as well as later versions.
599     opendir(LOCALES, "SYS\$I18N_LOCALE:");
600     while ($_ = readdir(LOCALES)) {
601         chomp;
602         trylocale($_);
603     }
604     close(LOCALES);
605 } elsif ($^O eq 'openbsd' && -e '/usr/share/locale') {
606
607    # OpenBSD doesn't have a locale executable, so reading /usr/share/locale
608    # is much easier and faster than the last resort method.
609
610     opendir(LOCALES, '/usr/share/locale');
611     while ($_ = readdir(LOCALES)) {
612         chomp;
613         trylocale($_);
614     }
615     close(LOCALES);
616 } else {
617
618     # This is going to be slow.
619
620     foreach my $locale (split(/\n/, $locales)) {
621         my ($locale_name, $language_codes, $country_codes, $encodings) =
622             split(/:/, $locale);
623         my @enc = decode_encodings($encodings);
624         foreach my $loc (split(/ /, $locale_name)) {
625             trylocale($loc);
626             foreach my $enc (@enc) {
627                 trylocale("$loc.$enc");
628             }
629             $loc = lc $loc;
630             foreach my $enc (@enc) {
631                 trylocale("$loc.$enc");
632             }
633         }
634         foreach my $lang (split(/ /, $language_codes)) {
635             trylocale($lang);
636             foreach my $country (split(/ /, $country_codes)) {
637                 my $lc = "${lang}_${country}";
638                 trylocale($lc);
639                 foreach my $enc (@enc) {
640                     trylocale("$lc.$enc");
641                 }
642                 my $lC = "${lang}_\U${country}";
643                 trylocale($lC);
644                 foreach my $enc (@enc) {
645                     trylocale("$lC.$enc");
646                 }
647             }
648         }
649     }
650 }
651
652 setlocale(LC_ALL, "C");
653
654 if ($^O eq 'darwin') {
655     # Darwin 8/Mac OS X 10.4 and 10.5 have bad Basque locales: perl bug #35895,
656     # Apple bug ID# 4139653. It also has a problem in Byelorussian.
657     (my $v) = $Config{osvers} =~ /^(\d+)/;
658     if ($v >= 8 and $v < 10) {
659         debug "# Skipping eu_ES, be_BY locales -- buggy in Darwin\n";
660         @Locale = grep ! m/^(eu_ES(?:\..*)?|be_BY\.CP1131)$/, @Locale;
661     } elsif ($v < 12) {
662         debug "# Skipping be_BY locales -- buggy in Darwin\n";
663         @Locale = grep ! m/^be_BY\.CP1131$/, @Locale;
664     }
665 }
666
667 @Locale = sort @Locale;
668
669 debug "# Locales =\n";
670 for ( @Locale ) {
671     debug "# $_\n";
672 }
673
674 my %Problem;
675 my %Okay;
676 my %Testing;
677 my @Neoalpha;   # Alnums that aren't in the C locale.
678 my %test_names;
679
680 sub tryneoalpha {
681     my ($Locale, $i, $test, $message) = @_;
682     $message //= "";
683     $message = "  ($message)" if $message;
684     unless ($test) {
685         $Problem{$i}{$Locale} = 1;
686         debug "# failed $i with locale '$Locale'$message\n";
687     } else {
688         push @{$Okay{$i}}, $Locale;
689     }
690 }
691
692 my $first_locales_test_number = $final_without_setlocale + 1;
693 my $locales_test_number;
694 my $not_necessarily_a_problem_test_number;
695 my %setlocale_failed;   # List of locales that setlocale() didn't work on
696
697 foreach $Locale (@Locale) {
698     $locales_test_number = $first_locales_test_number - 1;
699     debug "# Locale = $Locale\n";
700
701     unless (setlocale(LC_ALL, $Locale)) {
702         $setlocale_failed{$Locale} = $Locale;
703         next;
704     }
705
706     # We test UTF-8 locales only under ':not_characters'; otherwise they have
707     # documented deficiencies.  Non- UTF-8 locales are tested only under plain
708     # 'use locale', as otherwise we would have to convert everything in them
709     # to Unicode.
710     my $is_utf8_locale = $Locale =~ /UTF-?8/i;
711
712     my %UPPER = ();
713     my %lower = ();
714     my %BoThCaSe = ();
715
716     if (! $is_utf8_locale) {
717         use locale;
718         @Alnum_ = sort grep /\w/, map { chr } 0..255;
719
720         debug "# w = ", join("",@Alnum_), "\n";
721
722         # Sieve the uppercase and the lowercase.
723
724         for (@Alnum_) {
725             if (/[^\d_]/) { # skip digits and the _
726                 if (uc($_) eq $_) {
727                     $UPPER{$_} = $_;
728                 }
729                 if (lc($_) eq $_) {
730                     $lower{$_} = $_;
731                 }
732             }
733         }
734     }
735     else {
736         use locale ':not_characters';
737         @Alnum_ = sort grep /\w/, map { chr } 0..255;
738         debug "# w = ", join("",@Alnum_), "\n";
739         for (@Alnum_) {
740             if (/[^\d_]/) { # skip digits and the _
741                 if (uc($_) eq $_) {
742                     $UPPER{$_} = $_;
743                 }
744                 if (lc($_) eq $_) {
745                     $lower{$_} = $_;
746                 }
747             }
748         }
749     }
750     foreach (keys %UPPER) {
751         $BoThCaSe{$_}++ if exists $lower{$_};
752     }
753     foreach (keys %lower) {
754         $BoThCaSe{$_}++ if exists $UPPER{$_};
755     }
756     foreach (keys %BoThCaSe) {
757         delete $UPPER{$_};
758         delete $lower{$_};
759     }
760
761     debug "# UPPER    = ", join("", sort keys %UPPER   ), "\n";
762     debug "# lower    = ", join("", sort keys %lower   ), "\n";
763     debug "# BoThCaSe = ", join("", sort keys %BoThCaSe), "\n";
764
765     {   # Find the alphabetic characters that are not considered alphabetics
766         # in the default (C) locale.
767
768         no locale;
769
770         @Neoalpha = ();
771         for (keys %UPPER, keys %lower) {
772             push(@Neoalpha, $_) if (/\W/);
773         }
774     }
775
776     @Neoalpha = sort @Neoalpha;
777
778     debug "# Neoalpha = ", join("",@Neoalpha), "\n";
779
780     my $first_Neoalpha_test_number =  $locales_test_number + 1;
781     my $final_Neoalpha_test_number =  $first_Neoalpha_test_number + 3;
782     if (@Neoalpha == 0) {
783         # If we have no Neoalphas the remaining tests are no-ops.
784         debug "# no Neoalpha, skipping tests $first_Neoalpha_test_number..$final_Neoalpha_test_number for locale '$Locale'\n";
785         foreach ($locales_test_number+1..$final_Neoalpha_test_number) {
786             push @{$Okay{$_}}, $Locale;
787             $locales_test_number++;
788         }
789     } else {
790
791         # Test \w.
792
793         my $word = join('', @Neoalpha);
794
795         ++$locales_test_number;
796         $test_names{$locales_test_number} = 'Verify that alnums outside the C locale match \w';
797         my $ok;
798         if ($is_utf8_locale) {
799             use locale ':not_characters';
800             $ok = $word =~ /^(\w+)$/;
801         }
802         else {
803             # Already in 'use locale'; this tests that exiting scopes works
804             $ok = $word =~ /^(\w+)$/;
805         }
806         tryneoalpha($Locale, $locales_test_number, $ok);
807
808         # Cross-check the whole 8-bit character set.
809
810         ++$locales_test_number;
811         $test_names{$locales_test_number} = 'Verify that \w and \W are mutually exclusive, as are \d, \D; \s, \S';
812         for (map { chr } 0..255) {
813             if ($is_utf8_locale) {
814                 use locale ':not_characters';
815                 $ok =   (/\w/ xor /\W/) ||
816                         (/\d/ xor /\D/) ||
817                         (/\s/ xor /\S/);
818             }
819             else {
820                 $ok =   (/\w/ xor /\W/) ||
821                         (/\d/ xor /\D/) ||
822                         (/\s/ xor /\S/);
823             }
824             tryneoalpha($Locale, $locales_test_number, $ok);
825         }
826
827         # Test for read-only scalars' locale vs non-locale comparisons.
828
829         {
830             no locale;
831             $a = "qwerty";
832             if ($is_utf8_locale) {
833                 use locale ':not_characters';
834                 $ok = ($a cmp "qwerty") == 0;
835             }
836             else {
837                 use locale;
838                 $ok = ($a cmp "qwerty") == 0;
839             }
840             tryneoalpha($Locale, ++$locales_test_number, $ok);
841             $test_names{$locales_test_number} = 'Verify that cmp works with a read-only scalar; no- vs locale';
842         }
843
844         {
845             my ($from, $to, $lesser, $greater,
846                 @test, %test, $test, $yes, $no, $sign);
847
848             ++$locales_test_number;
849             $test_names{$locales_test_number} = 'Verify that "le", "ne", etc work';
850             $not_necessarily_a_problem_test_number = $locales_test_number;
851             for (0..9) {
852                 # Select a slice.
853                 $from = int(($_*@Alnum_)/10);
854                 $to = $from + int(@Alnum_/10);
855                 $to = $#Alnum_ if ($to > $#Alnum_);
856                 $lesser  = join('', @Alnum_[$from..$to]);
857                 # Select a slice one character on.
858                 $from++; $to++;
859                 $to = $#Alnum_ if ($to > $#Alnum_);
860                 $greater = join('', @Alnum_[$from..$to]);
861                 if ($is_utf8_locale) {
862                     use locale ':not_characters';
863                     ($yes, $no, $sign) = ($lesser lt $greater
864                                       ? ("    ", "not ", 1)
865                                       : ("not ", "    ", -1));
866                 }
867                 else {
868                     use locale;
869                     ($yes, $no, $sign) = ($lesser lt $greater
870                                       ? ("    ", "not ", 1)
871                                       : ("not ", "    ", -1));
872                 }
873                 # all these tests should FAIL (return 0).
874                 # Exact lt or gt cannot be tested because
875                 # in some locales, say, eacute and E may test equal.
876                 @test =
877                     (
878                      $no.'    ($lesser  le $greater)',  # 1
879                      'not      ($lesser  ne $greater)', # 2
880                      '         ($lesser  eq $greater)', # 3
881                      $yes.'    ($lesser  ge $greater)', # 4
882                      $yes.'    ($lesser  ge $greater)', # 5
883                      $yes.'    ($greater le $lesser )', # 7
884                      'not      ($greater ne $lesser )', # 8
885                      '         ($greater eq $lesser )', # 9
886                      $no.'     ($greater ge $lesser )', # 10
887                      'not (($lesser cmp $greater) == -($sign))' # 11
888                      );
889                 @test{@test} = 0 x @test;
890                 $test = 0;
891                 for my $ti (@test) {
892                     if ($is_utf8_locale) {
893                         use locale ':not_characters';
894                         $test{$ti} = eval $ti;
895                     }
896                     else {
897                         # Already in 'use locale';
898                         $test{$ti} = eval $ti;
899                     }
900                     $test ||= $test{$ti}
901                 }
902                 tryneoalpha($Locale, $locales_test_number, $test == 0);
903                 if ($test) {
904                     debug "# lesser  = '$lesser'\n";
905                     debug "# greater = '$greater'\n";
906                     debug "# lesser cmp greater = ",
907                           $lesser cmp $greater, "\n";
908                     debug "# greater cmp lesser = ",
909                           $greater cmp $lesser, "\n";
910                     debug "# (greater) from = $from, to = $to\n";
911                     for my $ti (@test) {
912                         debugf("# %-40s %-4s", $ti,
913                                $test{$ti} ? 'FAIL' : 'ok');
914                         if ($ti =~ /\(\.*(\$.+ +cmp +\$[^\)]+)\.*\)/) {
915                             debugf("(%s == %4d)", $1, eval $1);
916                         }
917                         debug "\n#";
918                     }
919
920                     last;
921                 }
922             }
923         }
924     }
925
926     if ($locales_test_number != $final_Neoalpha_test_number) {
927         die("The delta for \$final_Neoalpha needs to be updated from "
928             . ($final_Neoalpha_test_number - $first_Neoalpha_test_number)
929             . " to "
930             . ($locales_test_number - $first_Neoalpha_test_number)
931             );
932     }
933
934     my $ok1;
935     my $ok2;
936     my $ok3;
937     my $ok4;
938     my $ok5;
939     my $ok6;
940     my $ok7;
941     my $ok8;
942     my $ok9;
943     my $ok10;
944     my $ok11;
945     my $ok12;
946     my $ok13;
947
948     my $c;
949     my $d;
950     my $e;
951     my $f;
952     my $g;
953
954     if (! $is_utf8_locale) {
955         use locale;
956
957         my ($x, $y) = (1.23, 1.23);
958
959         $a = "$x";
960         printf ''; # printf used to reset locale to "C"
961         $b = "$y";
962         $ok1 = $a eq $b;
963
964         $c = "$x";
965         my $z = sprintf ''; # sprintf used to reset locale to "C"
966         $d = "$y";
967         $ok2 = $c eq $d;
968         {
969
970             use warnings;
971             my $w = 0;
972             local $SIG{__WARN__} =
973                 sub {
974                     print "# @_\n";
975                     $w++;
976                 };
977
978             # The == (among other ops) used to warn for locales
979             # that had something else than "." as the radix character.
980
981             $ok3 = $c == 1.23;
982             $ok4 = $c == $x;
983             $ok5 = $c == $d;
984             {
985                 no locale;
986
987                 # The earlier test was $e = "$x".  But this fails [perl
988                 # #108378], and the "no locale" was commented out.  But doing
989                 # that made all the tests in the block after this one
990                 # meaningless, as originally it was testing the nesting of a
991                 # "no locale" scope, and how it recovers after that scope is
992                 # done.  So I (khw) filed a bug report and changed this so it
993                 # wouldn't fail.  It seemed too much work to add TODOs
994                 # instead.  Should this be fixed, the following test names
995                 # would need to be revised; they mostly don't really test
996                 # anything currently.
997                 $e = $x;
998
999                 $ok6 = $e == 1.23;
1000                 $ok7 = $e == $x;
1001                 $ok8 = $e == $c;
1002             }
1003
1004             $f = "1.23";
1005             $g = 2.34;
1006
1007             $ok9 = $f == 1.23;
1008             $ok10 = $f == $x;
1009             $ok11 = $f == $c;
1010             $ok12 = abs(($f + $g) - 3.57) < 0.01;
1011             $ok13 = $w == 0;
1012         }
1013     }
1014     else {
1015         use locale ':not_characters';
1016
1017         my ($x, $y) = (1.23, 1.23);
1018         $a = "$x";
1019         printf ''; # printf used to reset locale to "C"
1020         $b = "$y";
1021         $ok1 = $a eq $b;
1022
1023         $c = "$x";
1024         my $z = sprintf ''; # sprintf used to reset locale to "C"
1025         $d = "$y";
1026         $ok2 = $c eq $d;
1027         {
1028             use warnings;
1029             my $w = 0;
1030             local $SIG{__WARN__} =
1031                 sub {
1032                     print "# @_\n";
1033                     $w++;
1034                 };
1035             $ok3 = $c == 1.23;
1036             $ok4 = $c == $x;
1037             $ok5 = $c == $d;
1038             {
1039                 no locale;
1040                 $e = $x;
1041
1042                 $ok6 = $e == 1.23;
1043                 $ok7 = $e == $x;
1044                 $ok8 = $e == $c;
1045             }
1046
1047             $f = "1.23";
1048             $g = 2.34;
1049
1050             $ok9 = $f == 1.23;
1051             $ok10 = $f == $x;
1052             $ok11 = $f == $c;
1053             $ok12 = abs(($f + $g) - 3.57) < 0.01;
1054             $ok13 = $w == 0;
1055         }
1056     }
1057
1058     tryneoalpha($Locale, ++$locales_test_number, $ok1);
1059     $test_names{$locales_test_number} = 'Verify that an intervening printf doesn\'t change assignment results';
1060     my $first_a_test = $locales_test_number;
1061
1062     debug "# $first_a_test..$locales_test_number: \$a = $a, \$b = $b, Locale = $Locale\n";
1063
1064     tryneoalpha($Locale, ++$locales_test_number, $ok2);
1065     $test_names{$locales_test_number} = 'Verify that an intervening sprintf doesn\'t change assignment results';
1066
1067     my $first_c_test = $locales_test_number;
1068
1069     tryneoalpha($Locale, ++$locales_test_number, $ok3);
1070     $test_names{$locales_test_number} = 'Verify that a different locale radix works when doing "==" with a constant';
1071
1072     tryneoalpha($Locale, ++$locales_test_number, $ok4);
1073     $test_names{$locales_test_number} = 'Verify that a different locale radix works when doing "==" with a scalar';
1074
1075     tryneoalpha($Locale, ++$locales_test_number, $ok5);
1076     $test_names{$locales_test_number} = 'Verify that a different locale radix works when doing "==" with a scalar and an intervening sprintf';
1077
1078     debug "# $first_c_test..$locales_test_number: \$c = $c, \$d = $d, Locale = $Locale\n";
1079
1080     tryneoalpha($Locale, ++$locales_test_number, $ok6);
1081     $test_names{$locales_test_number} = 'Verify that can assign numerically under inner no-locale block';
1082     my $first_e_test = $locales_test_number;
1083
1084     tryneoalpha($Locale, ++$locales_test_number, $ok7);
1085     $test_names{$locales_test_number} = 'Verify that "==" with a scalar still works in inner no locale';
1086
1087     tryneoalpha($Locale, ++$locales_test_number, $ok8);
1088     $test_names{$locales_test_number} = 'Verify that "==" with a scalar and an intervening sprintf still works in inner no locale';
1089
1090     debug "# $first_e_test..$locales_test_number: \$e = $e, no locale\n";
1091
1092     tryneoalpha($Locale, ++$locales_test_number, $ok9);
1093     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix still works when doing "==" with a constant';
1094     my $first_f_test = $locales_test_number;
1095
1096     tryneoalpha($Locale, ++$locales_test_number, $ok10);
1097     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix still works when doing "==" with a scalar';
1098
1099     tryneoalpha($Locale, ++$locales_test_number, $ok11);
1100     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix still works when doing "==" with a scalar and an intervening sprintf';
1101
1102     tryneoalpha($Locale, ++$locales_test_number, $ok12);
1103     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix can participate in an addition and function call as numeric';
1104
1105     tryneoalpha($Locale, ++$locales_test_number, $ok13);
1106     $test_names{$locales_test_number} = 'Verify that don\'t get warning under "==" even if radix is not a dot';
1107
1108     debug "# $first_f_test..$locales_test_number: \$f = $f, \$g = $g, back to locale = $Locale\n";
1109
1110     # Does taking lc separately differ from taking
1111     # the lc "in-line"?  (This was the bug 19990704.002, change #3568.)
1112     # The bug was in the caching of the 'o'-magic.
1113     if (! $is_utf8_locale) {
1114         use locale;
1115
1116         sub lcA {
1117             my $lc0 = lc $_[0];
1118             my $lc1 = lc $_[1];
1119             return $lc0 cmp $lc1;
1120         }
1121
1122         sub lcB {
1123             return lc($_[0]) cmp lc($_[1]);
1124         }
1125
1126         my $x = "ab";
1127         my $y = "aa";
1128         my $z = "AB";
1129
1130         tryneoalpha($Locale, ++$locales_test_number,
1131                     lcA($x, $y) == 1 && lcB($x, $y) == 1 ||
1132                     lcA($x, $z) == 0 && lcB($x, $z) == 0);
1133     }
1134     else {
1135         use locale ':not_characters';
1136
1137         sub lcC {
1138             my $lc0 = lc $_[0];
1139             my $lc1 = lc $_[1];
1140             return $lc0 cmp $lc1;
1141         }
1142
1143         sub lcD {
1144             return lc($_[0]) cmp lc($_[1]);
1145         }
1146
1147         my $x = "ab";
1148         my $y = "aa";
1149         my $z = "AB";
1150
1151         tryneoalpha($Locale, ++$locales_test_number,
1152                     lcC($x, $y) == 1 && lcD($x, $y) == 1 ||
1153                     lcC($x, $z) == 0 && lcD($x, $z) == 0);
1154     }
1155     $test_names{$locales_test_number} = 'Verify "lc(foo) cmp lc(bar)" is the same as using intermediaries for the cmp';
1156
1157     # Does lc of an UPPER (if different from the UPPER) match
1158     # case-insensitively the UPPER, and does the UPPER match
1159     # case-insensitively the lc of the UPPER.  And vice versa.
1160     {
1161         use locale;
1162         no utf8;
1163         my $re = qr/[\[\(\{\*\+\?\|\^\$\\]/;
1164
1165         my @f = ();
1166         ++$locales_test_number;
1167         $test_names{$locales_test_number} = 'Verify case insensitive matching works';
1168         foreach my $x (sort keys %UPPER) {
1169             if (! $is_utf8_locale) {
1170                 my $y = lc $x;
1171                 next unless uc $y eq $x;
1172                 print "# UPPER $x lc $y ",
1173                         $x =~ /$y/i ? 1 : 0, " ",
1174                         $y =~ /$x/i ? 1 : 0, "\n" if 0;
1175                 #
1176                 # If $x and $y contain regular expression characters
1177                 # AND THEY lowercase (/i) to regular expression characters,
1178                 # regcomp() will be mightily confused.  No, the \Q doesn't
1179                 # help here (maybe regex engine internal lowercasing
1180                 # is done after the \Q?)  An example of this happening is
1181                 # the bg_BG (Bulgarian) locale under EBCDIC (OS/390 USS):
1182                 # the chr(173) (the "[") is the lowercase of the chr(235).
1183                 #
1184                 # Similarly losing EBCDIC locales include cs_cz, cs_CZ,
1185                 # el_gr, el_GR, en_us.IBM-037 (!), en_US.IBM-037 (!),
1186                 # et_ee, et_EE, hr_hr, hr_HR, hu_hu, hu_HU, lt_LT,
1187                 # mk_mk, mk_MK, nl_nl.IBM-037, nl_NL.IBM-037,
1188                 # pl_pl, pl_PL, ro_ro, ro_RO, ru_ru, ru_RU,
1189                 # sk_sk, sk_SK, sl_si, sl_SI, tr_tr, tr_TR.
1190                 #
1191                 # Similar things can happen even under (bastardised)
1192                 # non-EBCDIC locales: in many European countries before the
1193                 # advent of ISO 8859-x nationally customised versions of
1194                 # ISO 646 were devised, reusing certain punctuation
1195                 # characters for modified characters needed by the
1196                 # country/language.  For example, the "|" might have
1197                 # stood for U+00F6 or LATIN SMALL LETTER O WITH DIAERESIS.
1198                 #
1199                 if ($x =~ $re || $y =~ $re) {
1200                     print "# Regex characters in '$x' or '$y', skipping test $locales_test_number for locale '$Locale'\n";
1201                     next;
1202                 }
1203                 # With utf8 both will fail since the locale concept
1204                 # of upper/lower does not work well in Unicode.
1205                 push @f, $x unless $x =~ /$y/i == $y =~ /$x/i;
1206
1207                 # fc is not a locale concept, so Perl uses lc for it.
1208                 push @f, $x unless lc $x eq fc $x;
1209             }
1210             else {
1211                 use locale ':not_characters';
1212                 my $y = lc $x;
1213                 next unless uc $y eq $x;
1214                 print "# UPPER $x lc $y ",
1215                         $x =~ /$y/i ? 1 : 0, " ",
1216                         $y =~ /$x/i ? 1 : 0, "\n" if 0;
1217
1218                 # Here, we can fully test things, unlike plain 'use locale',
1219                 # because this form does work well with Unicode
1220                 push @f, $x unless $x =~ /$y/i && $y =~ /$x/i;
1221
1222                 # The places where Unicode's lc is different from fc are
1223                 # skipped here by virtue of the 'next unless uc...' line above
1224                 push @f, $x unless lc $x eq fc $x;
1225             }
1226         }
1227
1228         foreach my $x (sort keys %lower) {
1229             if (! $is_utf8_locale) {
1230                 my $y = uc $x;
1231                 next unless lc $y eq $x;
1232                 print "# lower $x uc $y ",
1233                     $x =~ /$y/i ? 1 : 0, " ",
1234                     $y =~ /$x/i ? 1 : 0, "\n" if 0;
1235                 if ($x =~ $re || $y =~ $re) { # See above.
1236                     print "# Regex characters in '$x' or '$y', skipping test $locales_test_number for locale '$Locale'\n";
1237                     next;
1238                 }
1239                 # With utf8 both will fail since the locale concept
1240                 # of upper/lower does not work well in Unicode.
1241                 push @f, $x unless $x =~ /$y/i == $y =~ /$x/i;
1242
1243                 push @f, $x unless lc $x eq fc $x;
1244             }
1245             else {
1246                 use locale ':not_characters';
1247                 my $y = uc $x;
1248                 next unless lc $y eq $x;
1249                 print "# lower $x uc $y ",
1250                         $x =~ /$y/i ? 1 : 0, " ",
1251                         $y =~ /$x/i ? 1 : 0, "\n" if 0;
1252                 push @f, $x unless $x =~ /$y/i && $y =~ /$x/i;
1253
1254                 push @f, $x unless lc $x eq fc $x;
1255             }
1256         }
1257         tryneoalpha($Locale, $locales_test_number, @f == 0);
1258         if (@f) {
1259             print "# failed $locales_test_number locale '$Locale' characters @f\n"
1260         }
1261     }
1262
1263     # [perl #109318]
1264     {
1265         my @f = ();
1266         ++$locales_test_number;
1267         $test_names{$locales_test_number} = 'Verify atof with locale radix and negative exponent';
1268
1269         my $radix = POSIX::localeconv()->{decimal_point};
1270         my @nums = (
1271              "3.14e+9",  "3${radix}14e+9",  "3.14e-9",  "3${radix}14e-9",
1272             "-3.14e+9", "-3${radix}14e+9", "-3.14e-9", "-3${radix}14e-9",
1273         );
1274
1275         if (! $is_utf8_locale) {
1276             use locale;
1277             for my $num (@nums) {
1278                 push @f, $num
1279                     unless sprintf("%g", $num) =~ /3.+14/;
1280             }
1281         }
1282         else {
1283             use locale ':not_characters';
1284             for my $num (@nums) {
1285                 push @f, $num
1286                     unless sprintf("%g", $num) =~ /3.+14/;
1287             }
1288         }
1289
1290         tryneoalpha($Locale, $locales_test_number, @f == 0);
1291         if (@f) {
1292             print "# failed $locales_test_number locale '$Locale' numbers @f\n"
1293         }
1294     }
1295 }
1296
1297 my $final_locales_test_number = $locales_test_number;
1298
1299 # Recount the errors.
1300
1301 foreach ($first_locales_test_number..$final_locales_test_number) {
1302     if (%setlocale_failed) {
1303         print "not ";
1304     }
1305     elsif ($Problem{$_} || !defined $Okay{$_} || !@{$Okay{$_}}) {
1306         if (defined $not_necessarily_a_problem_test_number
1307             && $_ == $not_necessarily_a_problem_test_number)
1308         {
1309             print "# The failure of test $not_necessarily_a_problem_test_number is not necessarily fatal.\n";
1310             print "# It usually indicates a problem in the environment,\n";
1311             print "# not in Perl itself.\n";
1312         }
1313         print "not ";
1314     }
1315     print "ok $_";
1316     if (defined $test_names{$_}) {
1317         # If TODO is in the test name, make it thus
1318         my $todo = $test_names{$_} =~ s/TODO\s*//;
1319         print " $test_names{$_}";
1320         print " # TODO" if $todo;
1321     }
1322     print "\n";
1323 }
1324
1325 # Give final advice.
1326
1327 my $didwarn = 0;
1328
1329 foreach ($first_locales_test_number..$final_locales_test_number) {
1330     if ($Problem{$_}) {
1331         my @f = sort keys %{ $Problem{$_} };
1332         my $f = join(" ", @f);
1333         $f =~ s/(.{50,60}) /$1\n#\t/g;
1334         print
1335             "#\n",
1336             "# The locale ", (@f == 1 ? "definition" : "definitions"), "\n#\n",
1337             "#\t", $f, "\n#\n",
1338             "# on your system may have errors because the locale test $_\n",
1339             "# failed in ", (@f == 1 ? "that locale" : "those locales"),
1340             ".\n";
1341         print <<EOW;
1342 #
1343 # If your users are not using these locales you are safe for the moment,
1344 # but please report this failure first to perlbug\@perl.com using the
1345 # perlbug script (as described in the INSTALL file) so that the exact
1346 # details of the failures can be sorted out first and then your operating
1347 # system supplier can be alerted about these anomalies.
1348 #
1349 EOW
1350         $didwarn = 1;
1351     }
1352 }
1353
1354 # Tell which locales were okay and which were not.
1355
1356 if ($didwarn) {
1357     my (@s, @F);
1358
1359     foreach my $l (@Locale) {
1360         my $p = 0;
1361         if ($setlocale_failed{$l}) {
1362             $p++;
1363         }
1364         else {
1365             foreach my $t
1366                         ($first_locales_test_number..$final_locales_test_number)
1367             {
1368                 $p++ if $Problem{$t}{$l};
1369             }
1370         }
1371         push @s, $l if $p == 0;
1372         push @F, $l unless $p == 0;
1373     }
1374
1375     if (@s) {
1376         my $s = join(" ", @s);
1377         $s =~ s/(.{50,60}) /$1\n#\t/g;
1378
1379         warn
1380             "# The following locales\n#\n",
1381             "#\t", $s, "\n#\n",
1382             "# tested okay.\n#\n",
1383     } else {
1384         warn "# None of your locales were fully okay.\n";
1385     }
1386
1387     if (@F) {
1388         my $F = join(" ", @F);
1389         $F =~ s/(.{50,60}) /$1\n#\t/g;
1390
1391         warn
1392           "# The following locales\n#\n",
1393           "#\t", $F, "\n#\n",
1394           "# had problems.\n#\n",
1395     } else {
1396         warn "# None of your locales were broken.\n";
1397     }
1398 }
1399
1400 $test_num = $final_locales_test_number;
1401
1402 # Test that tainting and case changing works on utf8 strings.  These tests are
1403 # placed last to avoid disturbing the hard-coded test numbers that existed at
1404 # the time these were added above this in this file.
1405 # This also tests that locale overrides unicode_strings in the same scope for
1406 # non-utf8 strings.
1407 setlocale(LC_ALL, "C");
1408 {
1409     use locale;
1410     use feature 'unicode_strings';
1411
1412     foreach my $function ("uc", "ucfirst", "lc", "lcfirst", "fc") {
1413         my @list;   # List of code points to test for $function
1414
1415         # Used to calculate the changed case for ASCII characters by using the
1416         # ord, instead of using one of the functions under test.
1417         my $ascii_case_change_delta;
1418         my $above_latin1_case_change_delta; # Same for the specific ords > 255
1419                                             # that we use
1420
1421         # We test an ASCII character, which should change case and be tainted;
1422         # a Latin1 character, which shouldn't change case under this C locale,
1423         #   and is tainted.
1424         # an above-Latin1 character that when the case is changed would cross
1425         #   the 255/256 boundary, so doesn't change case and isn't tainted
1426         # (the \x{149} is one of these, but changes into 2 characters, the
1427         #   first one of which doesn't cross the boundary.
1428         # the final one in each list is an above-Latin1 character whose case
1429         #   does change, and shouldn't be tainted.  The code below uses its
1430         #   position in its list as a marker to indicate that it, unlike the
1431         #   other code points above ASCII, has a successful case change
1432         if ($function =~ /^u/) {
1433             @list = ("", "a", "\xe0", "\xff", "\x{fb00}", "\x{149}", "\x{101}");
1434             $ascii_case_change_delta = -32;
1435             $above_latin1_case_change_delta = -1;
1436         }
1437         else {
1438             @list = ("", "A", "\xC0", "\x{1E9E}", "\x{100}");
1439             $ascii_case_change_delta = +32;
1440             $above_latin1_case_change_delta = +1;
1441         }
1442         foreach my $is_utf8_locale (0 .. 1) {
1443             foreach my $j (0 .. $#list) {
1444                 my $char = $list[$j];
1445
1446                 for my $encoded_in_utf8 (0 .. 1) {
1447                     my $should_be;
1448                     my $changed;
1449                     if (! $is_utf8_locale) {
1450                         $should_be = ($j == $#list)
1451                             ? chr(ord($char) + $above_latin1_case_change_delta)
1452                             : (length $char == 0 || ord($char) > 127)
1453                             ? $char
1454                             : chr(ord($char) + $ascii_case_change_delta);
1455
1456                         # This monstrosity is in order to avoid using an eval,
1457                         # which might perturb the results
1458                         $changed = ($function eq "uc")
1459                                     ? uc($char)
1460                                     : ($function eq "ucfirst")
1461                                       ? ucfirst($char)
1462                                       : ($function eq "lc")
1463                                         ? lc($char)
1464                                         : ($function eq "lcfirst")
1465                                           ? lcfirst($char)
1466                                           : ($function eq "fc")
1467                                             ? fc($char)
1468                                             : die("Unexpected function \"$function\"");
1469                     }
1470                     else {
1471                         {
1472                             no locale;
1473
1474                             # For utf8-locales the case changing functions
1475                             # should work just like they do outside of locale.
1476                             # Can use eval here because not testing it when
1477                             # not in locale.
1478                             $should_be = eval "$function('$char')";
1479                             die "Unexpected eval error $@ from 'eval \"$function('$char')\"'" if  $@;
1480
1481                         }
1482                         use locale ':not_characters';
1483                         $changed = ($function eq "uc")
1484                                     ? uc($char)
1485                                     : ($function eq "ucfirst")
1486                                       ? ucfirst($char)
1487                                       : ($function eq "lc")
1488                                         ? lc($char)
1489                                         : ($function eq "lcfirst")
1490                                           ? lcfirst($char)
1491                                           : ($function eq "fc")
1492                                             ? fc($char)
1493                                             : die("Unexpected function \"$function\"");
1494                     }
1495                     ok($changed eq $should_be,
1496                         "$function(\"$char\") in C locale "
1497                         . (($is_utf8_locale)
1498                             ? "(use locale ':not_characters'"
1499                             : "(use locale")
1500                         . (($encoded_in_utf8)
1501                             ? "; encoded in utf8)"
1502                             : "; not encoded in utf8)")
1503                         . " should be \"$should_be\", got \"$changed\"");
1504
1505                     # Tainting shouldn't happen for utf8 locales, empty
1506                     # strings, or those characters above 255.
1507                     (! $is_utf8_locale && length($char) > 0 && ord($char) < 256)
1508                     ? check_taint($changed)
1509                     : check_taint_not($changed);
1510
1511                     # Use UTF-8 next time through the loop
1512                     utf8::upgrade($char);
1513                 }
1514             }
1515         }
1516     }
1517 }
1518
1519 print "1..$test_num\n";
1520
1521 # eof