locale.t: Add test
[perl.git] / lib / locale.t
1 #!./perl -wT
2
3 # This tests plain 'use locale' and adorned 'use locale ":not_characters"'
4 # Because these pragmas are compile time, and I (khw) am trying to test
5 # without using 'eval' as much as possible, which might cloud the issue,  the
6 # crucial parts of the code are duplicated in a block for each pragma.
7
8 binmode STDOUT, ':utf8';
9 binmode STDERR, ':utf8';
10
11 BEGIN {
12     chdir 't' if -d 't';
13     @INC = '../lib';
14     unshift @INC, '.';
15     require Config; import Config;
16     if (!$Config{d_setlocale} || $Config{ccflags} =~ /\bD?NO_LOCALE\b/) {
17         print "1..0\n";
18         exit;
19     }
20     $| = 1;
21 }
22
23 use strict;
24 use feature 'fc';
25
26 my $debug = 0;
27
28 use Dumpvalue;
29
30 my $dumper = Dumpvalue->new(
31                             tick => qq{"},
32                             quoteHighBit => 0,
33                             unctrl => "quote"
34                            );
35 sub debug {
36   return unless $debug;
37   my($mess) = join "", @_;
38   chop $mess;
39   print $dumper->stringify($mess,1), "\n";
40 }
41
42 sub debugf {
43     printf @_ if $debug;
44 }
45
46 my $have_setlocale = 0;
47 eval {
48     require POSIX;
49     import POSIX ':locale_h';
50     $have_setlocale++;
51 };
52
53 # Visual C's CRT goes silly on strings of the form "en_US.ISO8859-1"
54 # and mingw32 uses said silly CRT
55 # This doesn't seem to be an issue any more, at least on Windows XP,
56 # so re-enable the tests for Windows XP onwards.
57 my $winxp = ($^O eq 'MSWin32' && defined &Win32::GetOSVersion &&
58                 join('.', (Win32::GetOSVersion())[1..2]) >= 5.1);
59 $have_setlocale = 0 if ((($^O eq 'MSWin32' && !$winxp) || $^O eq 'NetWare') &&
60                 $Config{cc} =~ /^(cl|gcc)/i);
61
62 # UWIN seems to loop after taint tests, just skip for now
63 $have_setlocale = 0 if ($^O =~ /^uwin/);
64
65 sub LC_ALL ();
66
67 $a = 'abc %';
68
69 my $test_num = 0;
70
71 sub ok {
72     my ($result, $message) = @_;
73     $message = "" unless defined $message;
74
75     print 'not ' unless ($result);
76     print "ok " . ++$test_num;
77     print " $message";
78     print "\n";
79 }
80
81 # First we'll do a lot of taint checking for locales.
82 # This is the easiest to test, actually, as any locale,
83 # even the default locale will taint under 'use locale'.
84
85 sub is_tainted { # hello, camel two.
86     no warnings 'uninitialized' ;
87     my $dummy;
88     local $@;
89     not eval { $dummy = join("", @_), kill 0; 1 }
90 }
91
92 sub check_taint ($;$) {
93     my $message_tail = $_[1] // "";
94     $message_tail = ": $message_tail" if $message_tail;
95     ok is_tainted($_[0]), "verify that is tainted$message_tail";
96 }
97
98 sub check_taint_not ($;$) {
99     my $message_tail = $_[1] // "";
100     $message_tail = ": $message_tail" if $message_tail;
101     ok((not is_tainted($_[0])), "verify that isn't tainted$message_tail");
102 }
103
104 "\tb\t" =~ /^m?(\s)(.*)\1$/;
105 check_taint_not   $&, "not tainted outside 'use locale'";
106 ;
107
108 use locale;     # engage locale and therefore locale taint.
109
110 check_taint_not   $a;
111
112 check_taint       uc($a);
113 check_taint       "\U$a";
114 check_taint       ucfirst($a);
115 check_taint       "\u$a";
116 check_taint       lc($a);
117 check_taint       fc($a);
118 check_taint       "\L$a";
119 check_taint       "\F$a";
120 check_taint       lcfirst($a);
121 check_taint       "\l$a";
122
123 check_taint_not  sprintf('%e', 123.456);
124 check_taint_not  sprintf('%f', 123.456);
125 check_taint_not  sprintf('%g', 123.456);
126 check_taint_not  sprintf('%d', 123.456);
127 check_taint_not  sprintf('%x', 123.456);
128
129 $_ = $a;        # untaint $_
130
131 $_ = uc($a);    # taint $_
132
133 check_taint      $_;
134
135 /(\w)/; # taint $&, $`, $', $+, $1.
136 check_taint      $&;
137 check_taint      $`;
138 check_taint      $';
139 check_taint      $+;
140 check_taint      $1;
141 check_taint_not  $2;
142
143 /(.)/;  # untaint $&, $`, $', $+, $1.
144 check_taint_not  $&;
145 check_taint_not  $`;
146 check_taint_not  $';
147 check_taint_not  $+;
148 check_taint_not  $1;
149 check_taint_not  $2;
150
151 /(\W)/; # taint $&, $`, $', $+, $1.
152 check_taint      $&;
153 check_taint      $`;
154 check_taint      $';
155 check_taint      $+;
156 check_taint      $1;
157 check_taint_not  $2;
158
159 /(\s)/; # taint $&, $`, $', $+, $1.
160 check_taint      $&;
161 check_taint      $`;
162 check_taint      $';
163 check_taint      $+;
164 check_taint      $1;
165 check_taint_not  $2;
166
167 /(\S)/; # taint $&, $`, $', $+, $1.
168 check_taint      $&;
169 check_taint      $`;
170 check_taint      $';
171 check_taint      $+;
172 check_taint      $1;
173 check_taint_not  $2;
174
175 $_ = $a;        # untaint $_
176
177 check_taint_not  $_;
178
179 /(b)/;          # this must not taint
180 check_taint_not  $&;
181 check_taint_not  $`;
182 check_taint_not  $';
183 check_taint_not  $+;
184 check_taint_not  $1;
185 check_taint_not  $2;
186
187 $_ = $a;        # untaint $_
188
189 check_taint_not  $_;
190
191 $b = uc($a);    # taint $b
192 s/(.+)/$b/;     # this must taint only the $_
193
194 check_taint      $_;
195 check_taint_not  $&;
196 check_taint_not  $`;
197 check_taint_not  $';
198 check_taint_not  $+;
199 check_taint_not  $1;
200 check_taint_not  $2;
201
202 $_ = $a;        # untaint $_
203
204 s/(.+)/b/;      # this must not taint
205 check_taint_not  $_;
206 check_taint_not  $&;
207 check_taint_not  $`;
208 check_taint_not  $';
209 check_taint_not  $+;
210 check_taint_not  $1;
211 check_taint_not  $2;
212
213 $b = $a;        # untaint $b
214
215 ($b = $a) =~ s/\w/$&/;
216 check_taint      $b;    # $b should be tainted.
217 check_taint_not  $a;    # $a should be not.
218
219 $_ = $a;        # untaint $_
220
221 s/(\w)/\l$1/;   # this must taint
222 check_taint      $_;
223 check_taint      $&;
224 check_taint      $`;
225 check_taint      $';
226 check_taint      $+;
227 check_taint      $1;
228 check_taint_not  $2;
229
230 $_ = $a;        # untaint $_
231
232 s/(\w)/\L$1/;   # this must taint
233 check_taint      $_;
234 check_taint      $&;
235 check_taint      $`;
236 check_taint      $';
237 check_taint      $+;
238 check_taint      $1;
239 check_taint_not  $2;
240
241 $_ = $a;        # untaint $_
242
243 s/(\w)/\u$1/;   # this must taint
244 check_taint      $_;
245 check_taint      $&;
246 check_taint      $`;
247 check_taint      $';
248 check_taint      $+;
249 check_taint      $1;
250 check_taint_not  $2;
251
252 $_ = $a;        # untaint $_
253
254 s/(\w)/\U$1/;   # this must taint
255 check_taint      $_;
256 check_taint      $&;
257 check_taint      $`;
258 check_taint      $';
259 check_taint      $+;
260 check_taint      $1;
261 check_taint_not  $2;
262
263 # After all this tainting $a should be cool.
264
265 check_taint_not  $a;
266
267 {   # This is just the previous tests copied here with a different
268     # compile-time pragma.
269
270     use locale ':not_characters'; # engage restricted locale with different
271                                   # tainting rules
272
273     check_taint_not   $a;
274
275     check_taint_not     uc($a);
276     check_taint_not     "\U$a";
277     check_taint_not     ucfirst($a);
278     check_taint_not     "\u$a";
279     check_taint_not     lc($a);
280     check_taint_not     fc($a);
281     check_taint_not     "\L$a";
282     check_taint_not     "\F$a";
283     check_taint_not     lcfirst($a);
284     check_taint_not     "\l$a";
285
286     check_taint_not  sprintf('%e', 123.456);
287     check_taint_not  sprintf('%f', 123.456);
288     check_taint_not  sprintf('%g', 123.456);
289     check_taint_not  sprintf('%d', 123.456);
290     check_taint_not  sprintf('%x', 123.456);
291
292     $_ = $a;    # untaint $_
293
294     $_ = uc($a);        # taint $_
295
296     check_taint_not     $_;
297
298     /(\w)/;     # taint $&, $`, $', $+, $1.
299     check_taint_not     $&;
300     check_taint_not     $`;
301     check_taint_not     $';
302     check_taint_not     $+;
303     check_taint_not     $1;
304     check_taint_not  $2;
305
306     /(.)/;      # untaint $&, $`, $', $+, $1.
307     check_taint_not  $&;
308     check_taint_not  $`;
309     check_taint_not  $';
310     check_taint_not  $+;
311     check_taint_not  $1;
312     check_taint_not  $2;
313
314     /(\W)/;     # taint $&, $`, $', $+, $1.
315     check_taint_not     $&;
316     check_taint_not     $`;
317     check_taint_not     $';
318     check_taint_not     $+;
319     check_taint_not     $1;
320     check_taint_not  $2;
321
322     /(\s)/;     # taint $&, $`, $', $+, $1.
323     check_taint_not     $&;
324     check_taint_not     $`;
325     check_taint_not     $';
326     check_taint_not     $+;
327     check_taint_not     $1;
328     check_taint_not  $2;
329
330     /(\S)/;     # taint $&, $`, $', $+, $1.
331     check_taint_not     $&;
332     check_taint_not     $`;
333     check_taint_not     $';
334     check_taint_not     $+;
335     check_taint_not     $1;
336     check_taint_not  $2;
337
338     $_ = $a;    # untaint $_
339
340     check_taint_not  $_;
341
342     /(b)/;              # this must not taint
343     check_taint_not  $&;
344     check_taint_not  $`;
345     check_taint_not  $';
346     check_taint_not  $+;
347     check_taint_not  $1;
348     check_taint_not  $2;
349
350     $_ = $a;    # untaint $_
351
352     check_taint_not  $_;
353
354     $b = uc($a);        # taint $b
355     s/(.+)/$b/; # this must taint only the $_
356
357     check_taint_not     $_;
358     check_taint_not  $&;
359     check_taint_not  $`;
360     check_taint_not  $';
361     check_taint_not  $+;
362     check_taint_not  $1;
363     check_taint_not  $2;
364
365     $_ = $a;    # untaint $_
366
367     s/(.+)/b/;  # this must not taint
368     check_taint_not  $_;
369     check_taint_not  $&;
370     check_taint_not  $`;
371     check_taint_not  $';
372     check_taint_not  $+;
373     check_taint_not  $1;
374     check_taint_not  $2;
375
376     $b = $a;    # untaint $b
377
378     ($b = $a) =~ s/\w/$&/;
379     check_taint_not     $b;     # $b should be tainted.
380     check_taint_not  $a;        # $a should be not.
381
382     $_ = $a;    # untaint $_
383
384     s/(\w)/\l$1/;       # this must taint
385     check_taint_not     $_;
386     check_taint_not     $&;
387     check_taint_not     $`;
388     check_taint_not     $';
389     check_taint_not     $+;
390     check_taint_not     $1;
391     check_taint_not  $2;
392
393     $_ = $a;    # untaint $_
394
395     s/(\w)/\L$1/;       # this must taint
396     check_taint_not     $_;
397     check_taint_not     $&;
398     check_taint_not     $`;
399     check_taint_not     $';
400     check_taint_not     $+;
401     check_taint_not     $1;
402     check_taint_not  $2;
403
404     $_ = $a;    # untaint $_
405
406     s/(\w)/\u$1/;       # this must taint
407     check_taint_not     $_;
408     check_taint_not     $&;
409     check_taint_not     $`;
410     check_taint_not     $';
411     check_taint_not     $+;
412     check_taint_not     $1;
413     check_taint_not  $2;
414
415     $_ = $a;    # untaint $_
416
417     s/(\w)/\U$1/;       # this must taint
418     check_taint_not     $_;
419     check_taint_not     $&;
420     check_taint_not     $`;
421     check_taint_not     $';
422     check_taint_not     $+;
423     check_taint_not     $1;
424     check_taint_not  $2;
425
426     # After all this tainting $a should be cool.
427
428     check_taint_not  $a;
429 }
430
431 # Here are in scope of 'use locale'
432
433 # I think we've seen quite enough of taint.
434 # Let us do some *real* locale work now,
435 # unless setlocale() is missing (i.e. minitest).
436
437 unless ($have_setlocale) {
438     print "1..$test_num\n";
439     exit;
440 }
441
442 # The test number before our first setlocale()
443 my $final_without_setlocale = $test_num;
444
445 # Find locales.
446
447 debug "# Scanning for locales...\n";
448
449 # Note that it's okay that some languages have their native names
450 # capitalized here even though that's not "right".  They are lowercased
451 # anyway later during the scanning process (and besides, some clueless
452 # vendor might have them capitalized erroneously anyway).
453
454 my $locales = <<EOF;
455 Afrikaans:af:za:1 15
456 Arabic:ar:dz eg sa:6 arabic8
457 Brezhoneg Breton:br:fr:1 15
458 Bulgarski Bulgarian:bg:bg:5
459 Chinese:zh:cn tw:cn.EUC eucCN eucTW euc.CN euc.TW Big5 GB2312 tw.EUC
460 Hrvatski Croatian:hr:hr:2
461 Cymraeg Welsh:cy:cy:1 14 15
462 Czech:cs:cz:2
463 Dansk Danish:da:dk:1 15
464 Nederlands Dutch:nl:be nl:1 15
465 English American British:en:au ca gb ie nz us uk zw:1 15 cp850
466 Esperanto:eo:eo:3
467 Eesti Estonian:et:ee:4 6 13
468 Suomi Finnish:fi:fi:1 15
469 Flamish::fl:1 15
470 Deutsch German:de:at be ch de lu:1 15
471 Euskaraz Basque:eu:es fr:1 15
472 Galego Galician:gl:es:1 15
473 Ellada Greek:el:gr:7 g8
474 Frysk:fy:nl:1 15
475 Greenlandic:kl:gl:4 6
476 Hebrew:iw:il:8 hebrew8
477 Hungarian:hu:hu:2
478 Indonesian:id:id:1 15
479 Gaeilge Irish:ga:IE:1 14 15
480 Italiano Italian:it:ch it:1 15
481 Nihongo Japanese:ja:jp:euc eucJP jp.EUC sjis
482 Korean:ko:kr:
483 Latine Latin:la:va:1 15
484 Latvian:lv:lv:4 6 13
485 Lithuanian:lt:lt:4 6 13
486 Macedonian:mk:mk:1 15
487 Maltese:mt:mt:3
488 Moldovan:mo:mo:2
489 Norsk Norwegian:no no\@nynorsk nb nn:no:1 15
490 Occitan:oc:es:1 15
491 Polski Polish:pl:pl:2
492 Rumanian:ro:ro:2
493 Russki Russian:ru:ru su ua:5 koi8 koi8r KOI8-R koi8u cp1251 cp866
494 Serbski Serbian:sr:yu:5
495 Slovak:sk:sk:2
496 Slovene Slovenian:sl:si:2
497 Sqhip Albanian:sq:sq:1 15
498 Svenska Swedish:sv:fi se:1 15
499 Thai:th:th:11 tis620
500 Turkish:tr:tr:9 turkish8
501 Yiddish:yi::1 15
502 EOF
503
504 if ($^O eq 'os390') {
505     # These cause heartburn.  Broken locales?
506     $locales =~ s/Svenska Swedish:sv:fi se:1 15\n//;
507     $locales =~ s/Thai:th:th:11 tis620\n//;
508 }
509
510 sub in_utf8 () { $^H & 0x08 || (${^OPEN} || "") =~ /:utf8/ }
511
512 if (in_utf8) {
513     require "lib/locale/utf8";
514 } else {
515     require "lib/locale/latin1";
516 }
517
518 my @Locale;
519 my $Locale;
520 my @Alnum_;
521
522 sub trylocale {
523     my $locale = shift;
524     return if grep { $locale eq $_ } @Locale;
525     return unless setlocale(LC_ALL, $locale);
526     my $badutf8;
527     {
528         local $SIG{__WARN__} = sub {
529             $badutf8 = $_[0] =~ /Malformed UTF-8/;
530         };
531         $Locale =~ /UTF-?8/i;
532     }
533
534     if ($badutf8) {
535         ok(0, "Locale name contains malformed utf8");
536         return;
537     }
538     push @Locale, $locale;
539 }
540
541 sub decode_encodings {
542     my @enc;
543
544     foreach (split(/ /, shift)) {
545         if (/^(\d+)$/) {
546             push @enc, "ISO8859-$1";
547             push @enc, "iso8859$1";     # HP
548             if ($1 eq '1') {
549                  push @enc, "roman8";   # HP
550             }
551         } else {
552             push @enc, $_;
553             push @enc, "$_.UTF-8";
554         }
555     }
556     if ($^O eq 'os390') {
557         push @enc, qw(IBM-037 IBM-819 IBM-1047);
558     }
559
560     return @enc;
561 }
562
563 trylocale("C");
564 trylocale("POSIX");
565 foreach (0..15) {
566     trylocale("ISO8859-$_");
567     trylocale("iso8859$_");
568     trylocale("iso8859-$_");
569     trylocale("iso_8859_$_");
570     trylocale("isolatin$_");
571     trylocale("isolatin-$_");
572     trylocale("iso_latin_$_");
573 }
574
575 # Sanitize the environment so that we can run the external 'locale'
576 # program without the taint mode getting grumpy.
577
578 # $ENV{PATH} is special in VMS.
579 delete $ENV{PATH} if $^O ne 'VMS' or $Config{d_setenv};
580
581 # Other subversive stuff.
582 delete @ENV{qw(IFS CDPATH ENV BASH_ENV)};
583
584 if (-x "/usr/bin/locale" && open(LOCALES, "/usr/bin/locale -a 2>/dev/null|")) {
585     while (<LOCALES>) {
586         # It seems that /usr/bin/locale steadfastly outputs 8 bit data, which
587         # ain't great when we're running this testPERL_UNICODE= so that utf8
588         # locales will cause all IO hadles to default to (assume) utf8
589         next unless utf8::valid($_);
590         chomp;
591         trylocale($_);
592     }
593     close(LOCALES);
594 } elsif ($^O eq 'VMS' && defined($ENV{'SYS$I18N_LOCALE'}) && -d 'SYS$I18N_LOCALE') {
595 # The SYS$I18N_LOCALE logical name search list was not present on
596 # VAX VMS V5.5-12, but was on AXP && VAX VMS V6.2 as well as later versions.
597     opendir(LOCALES, "SYS\$I18N_LOCALE:");
598     while ($_ = readdir(LOCALES)) {
599         chomp;
600         trylocale($_);
601     }
602     close(LOCALES);
603 } elsif ($^O eq 'openbsd' && -e '/usr/share/locale') {
604
605    # OpenBSD doesn't have a locale executable, so reading /usr/share/locale
606    # is much easier and faster than the last resort method.
607
608     opendir(LOCALES, '/usr/share/locale');
609     while ($_ = readdir(LOCALES)) {
610         chomp;
611         trylocale($_);
612     }
613     close(LOCALES);
614 } else {
615
616     # This is going to be slow.
617
618     foreach my $locale (split(/\n/, $locales)) {
619         my ($locale_name, $language_codes, $country_codes, $encodings) =
620             split(/:/, $locale);
621         my @enc = decode_encodings($encodings);
622         foreach my $loc (split(/ /, $locale_name)) {
623             trylocale($loc);
624             foreach my $enc (@enc) {
625                 trylocale("$loc.$enc");
626             }
627             $loc = lc $loc;
628             foreach my $enc (@enc) {
629                 trylocale("$loc.$enc");
630             }
631         }
632         foreach my $lang (split(/ /, $language_codes)) {
633             trylocale($lang);
634             foreach my $country (split(/ /, $country_codes)) {
635                 my $lc = "${lang}_${country}";
636                 trylocale($lc);
637                 foreach my $enc (@enc) {
638                     trylocale("$lc.$enc");
639                 }
640                 my $lC = "${lang}_\U${country}";
641                 trylocale($lC);
642                 foreach my $enc (@enc) {
643                     trylocale("$lC.$enc");
644                 }
645             }
646         }
647     }
648 }
649
650 setlocale(LC_ALL, "C");
651
652 if ($^O eq 'darwin') {
653     # Darwin 8/Mac OS X 10.4 and 10.5 have bad Basque locales: perl bug #35895,
654     # Apple bug ID# 4139653. It also has a problem in Byelorussian.
655     (my $v) = $Config{osvers} =~ /^(\d+)/;
656     if ($v >= 8 and $v < 10) {
657         debug "# Skipping eu_ES, be_BY locales -- buggy in Darwin\n";
658         @Locale = grep ! m/^(eu_ES(?:\..*)?|be_BY\.CP1131)$/, @Locale;
659     } elsif ($v < 12) {
660         debug "# Skipping be_BY locales -- buggy in Darwin\n";
661         @Locale = grep ! m/^be_BY\.CP1131$/, @Locale;
662     }
663 }
664
665 @Locale = sort @Locale;
666
667 debug "# Locales =\n";
668 for ( @Locale ) {
669     debug "# $_\n";
670 }
671
672 my %Problem;
673 my %Okay;
674 my %Testing;
675 my @Neoalpha;   # Alnums that aren't in the C locale.
676 my %test_names;
677
678 sub tryneoalpha {
679     my ($Locale, $i, $test) = @_;
680     unless ($test) {
681         $Problem{$i}{$Locale} = 1;
682         debug "# failed $i with locale '$Locale'\n";
683     } else {
684         push @{$Okay{$i}}, $Locale;
685     }
686 }
687
688 my $first_locales_test_number = $final_without_setlocale + 1;
689 my $locales_test_number;
690 my $not_necessarily_a_problem_test_number;
691 my %setlocale_failed;   # List of locales that setlocale() didn't work on
692
693 foreach $Locale (@Locale) {
694     $locales_test_number = $first_locales_test_number - 1;
695     debug "# Locale = $Locale\n";
696
697     unless (setlocale(LC_ALL, $Locale)) {
698         $setlocale_failed{$Locale} = $Locale;
699         next;
700     }
701
702     # We test UTF-8 locales only under ':not_characters'; otherwise they have
703     # documented deficiencies.  Non- UTF-8 locales are tested only under plain
704     # 'use locale', as otherwise we would have to convert everything in them
705     # to Unicode.
706     my $is_utf8_locale = $Locale =~ /UTF-?8/i;
707
708     my %UPPER = ();
709     my %lower = ();
710     my %BoThCaSe = ();
711
712     if (! $is_utf8_locale) {
713         use locale;
714         @Alnum_ = sort grep /\w/, map { chr } 0..255;
715
716         debug "# w = ", join("",@Alnum_), "\n";
717
718         # Sieve the uppercase and the lowercase.
719
720         for (@Alnum_) {
721             if (/[^\d_]/) { # skip digits and the _
722                 if (uc($_) eq $_) {
723                     $UPPER{$_} = $_;
724                 }
725                 if (lc($_) eq $_) {
726                     $lower{$_} = $_;
727                 }
728             }
729         }
730     }
731     else {
732         use locale ':not_characters';
733         @Alnum_ = sort grep /\w/, map { chr } 0..255;
734         debug "# w = ", join("",@Alnum_), "\n";
735         for (@Alnum_) {
736             if (/[^\d_]/) { # skip digits and the _
737                 if (uc($_) eq $_) {
738                     $UPPER{$_} = $_;
739                 }
740                 if (lc($_) eq $_) {
741                     $lower{$_} = $_;
742                 }
743             }
744         }
745     }
746     foreach (keys %UPPER) {
747         $BoThCaSe{$_}++ if exists $lower{$_};
748     }
749     foreach (keys %lower) {
750         $BoThCaSe{$_}++ if exists $UPPER{$_};
751     }
752     foreach (keys %BoThCaSe) {
753         delete $UPPER{$_};
754         delete $lower{$_};
755     }
756
757     debug "# UPPER    = ", join("", sort keys %UPPER   ), "\n";
758     debug "# lower    = ", join("", sort keys %lower   ), "\n";
759     debug "# BoThCaSe = ", join("", sort keys %BoThCaSe), "\n";
760
761     {   # Find the alphabetic characters that are not considered alphabetics
762         # in the default (C) locale.
763
764         no locale;
765
766         @Neoalpha = ();
767         for (keys %UPPER, keys %lower) {
768             push(@Neoalpha, $_) if (/\W/);
769         }
770     }
771
772     @Neoalpha = sort @Neoalpha;
773
774     debug "# Neoalpha = ", join("",@Neoalpha), "\n";
775
776     my $first_Neoalpha_test_number =  $locales_test_number;
777     my $final_Neoalpha_test_number =  $first_Neoalpha_test_number + 4;
778     if (@Neoalpha == 0) {
779         # If we have no Neoalphas the remaining tests are no-ops.
780         debug "# no Neoalpha, skipping tests $locales_test_number..$final_Neoalpha_test_number for locale '$Locale'\n";
781         foreach ($locales_test_number+1..$final_Neoalpha_test_number) {
782             push @{$Okay{$_}}, $Locale;
783             $locales_test_number++;
784         }
785     } else {
786
787         # Test \w.
788
789         my $word = join('', @Neoalpha);
790
791         ++$locales_test_number;
792         $test_names{$locales_test_number} = 'Verify that alnums outside the C locale match \w';
793         my $ok;
794         if ($is_utf8_locale) {
795             use locale ':not_characters';
796             $ok = $word =~ /^(\w+)$/;
797         }
798         else {
799             # Already in 'use locale'; this tests that exiting scopes works
800             $ok = $word =~ /^(\w+)$/;
801         }
802         tryneoalpha($Locale, $locales_test_number, $ok);
803
804         # Cross-check the whole 8-bit character set.
805
806         ++$locales_test_number;
807         $test_names{$locales_test_number} = 'Verify that \w and \W are mutually exclusive, as are \d, \D; \s, \S';
808         for (map { chr } 0..255) {
809             if ($is_utf8_locale) {
810                 use locale ':not_characters';
811                 $ok =   (/\w/ xor /\W/) ||
812                         (/\d/ xor /\D/) ||
813                         (/\s/ xor /\S/);
814             }
815             else {
816                 $ok =   (/\w/ xor /\W/) ||
817                         (/\d/ xor /\D/) ||
818                         (/\s/ xor /\S/);
819             }
820             tryneoalpha($Locale, $locales_test_number, $ok);
821         }
822
823         # Test for read-only scalars' locale vs non-locale comparisons.
824
825         {
826             no locale;
827             $a = "qwerty";
828             if ($is_utf8_locale) {
829                 use locale ':not_characters';
830                 $ok = ($a cmp "qwerty") == 0;
831             }
832             else {
833                 use locale;
834                 $ok = ($a cmp "qwerty") == 0;
835             }
836             tryneoalpha($Locale, ++$locales_test_number, $ok);
837             $test_names{$locales_test_number} = 'Verify that cmp works with a read-only scalar; no- vs locale';
838         }
839
840         {
841             my ($from, $to, $lesser, $greater,
842                 @test, %test, $test, $yes, $no, $sign);
843
844             ++$locales_test_number;
845             $test_names{$locales_test_number} = 'Verify that "le", "ne", etc work';
846             $not_necessarily_a_problem_test_number = $locales_test_number;
847             for (0..9) {
848                 # Select a slice.
849                 $from = int(($_*@Alnum_)/10);
850                 $to = $from + int(@Alnum_/10);
851                 $to = $#Alnum_ if ($to > $#Alnum_);
852                 $lesser  = join('', @Alnum_[$from..$to]);
853                 # Select a slice one character on.
854                 $from++; $to++;
855                 $to = $#Alnum_ if ($to > $#Alnum_);
856                 $greater = join('', @Alnum_[$from..$to]);
857                 if ($is_utf8_locale) {
858                     use locale ':not_characters';
859                     ($yes, $no, $sign) = ($lesser lt $greater
860                                       ? ("    ", "not ", 1)
861                                       : ("not ", "    ", -1));
862                 }
863                 else {
864                     use locale;
865                     ($yes, $no, $sign) = ($lesser lt $greater
866                                       ? ("    ", "not ", 1)
867                                       : ("not ", "    ", -1));
868                 }
869                 # all these tests should FAIL (return 0).
870                 # Exact lt or gt cannot be tested because
871                 # in some locales, say, eacute and E may test equal.
872                 @test =
873                     (
874                      $no.'    ($lesser  le $greater)',  # 1
875                      'not      ($lesser  ne $greater)', # 2
876                      '         ($lesser  eq $greater)', # 3
877                      $yes.'    ($lesser  ge $greater)', # 4
878                      $yes.'    ($lesser  ge $greater)', # 5
879                      $yes.'    ($greater le $lesser )', # 7
880                      'not      ($greater ne $lesser )', # 8
881                      '         ($greater eq $lesser )', # 9
882                      $no.'     ($greater ge $lesser )', # 10
883                      'not (($lesser cmp $greater) == -($sign))' # 11
884                      );
885                 @test{@test} = 0 x @test;
886                 $test = 0;
887                 for my $ti (@test) {
888                     if ($is_utf8_locale) {
889                         use locale ':not_characters';
890                         $test{$ti} = eval $ti;
891                     }
892                     else {
893                         # Already in 'use locale';
894                         $test{$ti} = eval $ti;
895                     }
896                     $test ||= $test{$ti}
897                 }
898                 tryneoalpha($Locale, $locales_test_number, $test == 0);
899                 if ($test) {
900                     debug "# lesser  = '$lesser'\n";
901                     debug "# greater = '$greater'\n";
902                     debug "# lesser cmp greater = ",
903                           $lesser cmp $greater, "\n";
904                     debug "# greater cmp lesser = ",
905                           $greater cmp $lesser, "\n";
906                     debug "# (greater) from = $from, to = $to\n";
907                     for my $ti (@test) {
908                         debugf("# %-40s %-4s", $ti,
909                                $test{$ti} ? 'FAIL' : 'ok');
910                         if ($ti =~ /\(\.*(\$.+ +cmp +\$[^\)]+)\.*\)/) {
911                             debugf("(%s == %4d)", $1, eval $1);
912                         }
913                         debug "\n#";
914                     }
915
916                     last;
917                 }
918             }
919         }
920     }
921
922     if ($locales_test_number != $final_Neoalpha_test_number) {
923         die("The delta for \$final_Neoalpha needs to be updated from "
924             . ($final_Neoalpha_test_number - $first_Neoalpha_test_number)
925             . " to "
926             . ($locales_test_number - $first_Neoalpha_test_number)
927             );
928     }
929
930     my $ok1;
931     my $ok2;
932     my $ok3;
933     my $ok4;
934     my $ok5;
935     my $ok6;
936     my $ok7;
937     my $ok8;
938     my $ok9;
939     my $ok10;
940     my $ok11;
941     my $ok12;
942     my $ok13;
943
944     my $c;
945     my $d;
946     my $e;
947     my $f;
948     my $g;
949
950     if (! $is_utf8_locale) {
951         use locale;
952
953         my ($x, $y) = (1.23, 1.23);
954
955         $a = "$x";
956         printf ''; # printf used to reset locale to "C"
957         $b = "$y";
958         $ok1 = $a eq $b;
959
960         $c = "$x";
961         my $z = sprintf ''; # sprintf used to reset locale to "C"
962         $d = "$y";
963         $ok2 = $c eq $d;
964         {
965
966             use warnings;
967             my $w = 0;
968             local $SIG{__WARN__} =
969                 sub {
970                     print "# @_\n";
971                     $w++;
972                 };
973
974             # The == (among other ops) used to warn for locales
975             # that had something else than "." as the radix character.
976
977             $ok3 = $c == 1.23;
978             $ok4 = $c == $x;
979             $ok5 = $c == $d;
980             {
981                 no locale;
982
983                 # The earlier test was $e = "$x".  But this fails [perl
984                 # #108378], and the "no locale" was commented out.  But doing
985                 # that made all the tests in the block after this one
986                 # meaningless, as originally it was testing the nesting of a
987                 # "no locale" scope, and how it recovers after that scope is
988                 # done.  So I (khw) filed a bug report and changed this so it
989                 # wouldn't fail.  It seemed too much work to add TODOs
990                 # instead.  Should this be fixed, the following test names
991                 # would need to be revised; they mostly don't really test
992                 # anything currently.
993                 $e = $x;
994
995                 $ok6 = $e == 1.23;
996                 $ok7 = $e == $x;
997                 $ok8 = $e == $c;
998             }
999
1000             $f = "1.23";
1001             $g = 2.34;
1002
1003             $ok9 = $f == 1.23;
1004             $ok10 = $f == $x;
1005             $ok11 = $f == $c;
1006             $ok12 = abs(($f + $g) - 3.57) < 0.01;
1007             $ok13 = $w == 0;
1008         }
1009     }
1010     else {
1011         use locale ':not_characters';
1012
1013         my ($x, $y) = (1.23, 1.23);
1014         $a = "$x";
1015         printf ''; # printf used to reset locale to "C"
1016         $b = "$y";
1017         $ok1 = $a eq $b;
1018
1019         $c = "$x";
1020         my $z = sprintf ''; # sprintf used to reset locale to "C"
1021         $d = "$y";
1022         $ok2 = $c eq $d;
1023         {
1024             use warnings;
1025             my $w = 0;
1026             local $SIG{__WARN__} =
1027                 sub {
1028                     print "# @_\n";
1029                     $w++;
1030                 };
1031             $ok3 = $c == 1.23;
1032             $ok4 = $c == $x;
1033             $ok5 = $c == $d;
1034             {
1035                 no locale;
1036                 $e = $x;
1037
1038                 $ok6 = $e == 1.23;
1039                 $ok7 = $e == $x;
1040                 $ok8 = $e == $c;
1041             }
1042
1043             $f = "1.23";
1044             $g = 2.34;
1045
1046             $ok9 = $f == 1.23;
1047             $ok10 = $f == $x;
1048             $ok11 = $f == $c;
1049             $ok12 = abs(($f + $g) - 3.57) < 0.01;
1050             $ok13 = $w == 0;
1051         }
1052     }
1053
1054     tryneoalpha($Locale, ++$locales_test_number, $ok1);
1055     $test_names{$locales_test_number} = 'Verify that an intervening printf doesn\'t change assignment results';
1056     my $first_a_test = $locales_test_number;
1057
1058     debug "# $first_a_test..$locales_test_number: \$a = $a, \$b = $b, Locale = $Locale\n";
1059
1060     tryneoalpha($Locale, ++$locales_test_number, $ok2);
1061     $test_names{$locales_test_number} = 'Verify that an intervening sprintf doesn\'t change assignment results';
1062
1063     my $first_c_test = $locales_test_number;
1064
1065     tryneoalpha($Locale, ++$locales_test_number, $ok3);
1066     $test_names{$locales_test_number} = 'Verify that a different locale radix works when doing "==" with a constant';
1067
1068     tryneoalpha($Locale, ++$locales_test_number, $ok4);
1069     $test_names{$locales_test_number} = 'Verify that a different locale radix works when doing "==" with a scalar';
1070
1071     tryneoalpha($Locale, ++$locales_test_number, $ok5);
1072     $test_names{$locales_test_number} = 'Verify that a different locale radix works when doing "==" with a scalar and an intervening sprintf';
1073
1074     debug "# $first_c_test..$locales_test_number: \$c = $c, \$d = $d, Locale = $Locale\n";
1075
1076     tryneoalpha($Locale, ++$locales_test_number, $ok6);
1077     $test_names{$locales_test_number} = 'Verify that can assign numerically under inner no-locale block';
1078     my $first_e_test = $locales_test_number;
1079
1080     tryneoalpha($Locale, ++$locales_test_number, $ok7);
1081     $test_names{$locales_test_number} = 'Verify that "==" with a scalar still works in inner no locale';
1082
1083     tryneoalpha($Locale, ++$locales_test_number, $ok8);
1084     $test_names{$locales_test_number} = 'Verify that "==" with a scalar and an intervening sprintf still works in inner no locale';
1085
1086     debug "# $first_e_test..$locales_test_number: \$e = $e, no locale\n";
1087
1088     tryneoalpha($Locale, ++$locales_test_number, $ok9);
1089     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix still works when doing "==" with a constant';
1090     my $first_f_test = $locales_test_number;
1091
1092     tryneoalpha($Locale, ++$locales_test_number, $ok10);
1093     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix still works when doing "==" with a scalar';
1094
1095     tryneoalpha($Locale, ++$locales_test_number, $ok11);
1096     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix still works when doing "==" with a scalar and an intervening sprintf';
1097
1098     tryneoalpha($Locale, ++$locales_test_number, $ok12);
1099     $test_names{$locales_test_number} = 'Verify that after a no-locale block, a different locale radix can participate in an addition and function call as numeric';
1100
1101     tryneoalpha($Locale, ++$locales_test_number, $ok13);
1102     $test_names{$locales_test_number} = 'Verify that don\'t get warning under "==" even if radix is not a dot';
1103
1104     debug "# $first_f_test..$locales_test_number: \$f = $f, \$g = $g, back to locale = $Locale\n";
1105
1106     # Does taking lc separately differ from taking
1107     # the lc "in-line"?  (This was the bug 19990704.002, change #3568.)
1108     # The bug was in the caching of the 'o'-magic.
1109     if (! $is_utf8_locale) {
1110         use locale;
1111
1112         sub lcA {
1113             my $lc0 = lc $_[0];
1114             my $lc1 = lc $_[1];
1115             return $lc0 cmp $lc1;
1116         }
1117
1118         sub lcB {
1119             return lc($_[0]) cmp lc($_[1]);
1120         }
1121
1122         my $x = "ab";
1123         my $y = "aa";
1124         my $z = "AB";
1125
1126         tryneoalpha($Locale, ++$locales_test_number,
1127                     lcA($x, $y) == 1 && lcB($x, $y) == 1 ||
1128                     lcA($x, $z) == 0 && lcB($x, $z) == 0);
1129     }
1130     else {
1131         use locale ':not_characters';
1132
1133         sub lcC {
1134             my $lc0 = lc $_[0];
1135             my $lc1 = lc $_[1];
1136             return $lc0 cmp $lc1;
1137         }
1138
1139         sub lcD {
1140             return lc($_[0]) cmp lc($_[1]);
1141         }
1142
1143         my $x = "ab";
1144         my $y = "aa";
1145         my $z = "AB";
1146
1147         tryneoalpha($Locale, ++$locales_test_number,
1148                     lcC($x, $y) == 1 && lcD($x, $y) == 1 ||
1149                     lcC($x, $z) == 0 && lcD($x, $z) == 0);
1150     }
1151     $test_names{$locales_test_number} = 'Verify "lc(foo) cmp lc(bar)" is the same as using intermediaries for the cmp';
1152
1153     # Does lc of an UPPER (if different from the UPPER) match
1154     # case-insensitively the UPPER, and does the UPPER match
1155     # case-insensitively the lc of the UPPER.  And vice versa.
1156     {
1157         use locale;
1158         no utf8;
1159         my $re = qr/[\[\(\{\*\+\?\|\^\$\\]/;
1160
1161         my @f = ();
1162         ++$locales_test_number;
1163         $test_names{$locales_test_number} = 'Verify case insensitive matching works';
1164         foreach my $x (sort keys %UPPER) {
1165             if (! $is_utf8_locale) {
1166                 my $y = lc $x;
1167                 next unless uc $y eq $x;
1168                 print "# UPPER $x lc $y ",
1169                         $x =~ /$y/i ? 1 : 0, " ",
1170                         $y =~ /$x/i ? 1 : 0, "\n" if 0;
1171                 #
1172                 # If $x and $y contain regular expression characters
1173                 # AND THEY lowercase (/i) to regular expression characters,
1174                 # regcomp() will be mightily confused.  No, the \Q doesn't
1175                 # help here (maybe regex engine internal lowercasing
1176                 # is done after the \Q?)  An example of this happening is
1177                 # the bg_BG (Bulgarian) locale under EBCDIC (OS/390 USS):
1178                 # the chr(173) (the "[") is the lowercase of the chr(235).
1179                 #
1180                 # Similarly losing EBCDIC locales include cs_cz, cs_CZ,
1181                 # el_gr, el_GR, en_us.IBM-037 (!), en_US.IBM-037 (!),
1182                 # et_ee, et_EE, hr_hr, hr_HR, hu_hu, hu_HU, lt_LT,
1183                 # mk_mk, mk_MK, nl_nl.IBM-037, nl_NL.IBM-037,
1184                 # pl_pl, pl_PL, ro_ro, ro_RO, ru_ru, ru_RU,
1185                 # sk_sk, sk_SK, sl_si, sl_SI, tr_tr, tr_TR.
1186                 #
1187                 # Similar things can happen even under (bastardised)
1188                 # non-EBCDIC locales: in many European countries before the
1189                 # advent of ISO 8859-x nationally customised versions of
1190                 # ISO 646 were devised, reusing certain punctuation
1191                 # characters for modified characters needed by the
1192                 # country/language.  For example, the "|" might have
1193                 # stood for U+00F6 or LATIN SMALL LETTER O WITH DIAERESIS.
1194                 #
1195                 if ($x =~ $re || $y =~ $re) {
1196                     print "# Regex characters in '$x' or '$y', skipping test $locales_test_number for locale '$Locale'\n";
1197                     next;
1198                 }
1199                 # With utf8 both will fail since the locale concept
1200                 # of upper/lower does not work well in Unicode.
1201                 push @f, $x unless $x =~ /$y/i == $y =~ /$x/i;
1202
1203                 # fc is not a locale concept, so Perl uses lc for it.
1204                 push @f, $x unless lc $x eq fc $x;
1205             }
1206             else {
1207                 use locale ':not_characters';
1208                 my $y = lc $x;
1209                 next unless uc $y eq $x;
1210                 print "# UPPER $x lc $y ",
1211                         $x =~ /$y/i ? 1 : 0, " ",
1212                         $y =~ /$x/i ? 1 : 0, "\n" if 0;
1213
1214                 # Here, we can fully test things, unlike plain 'use locale',
1215                 # because this form does work well with Unicode
1216                 push @f, $x unless $x =~ /$y/i && $y =~ /$x/i;
1217
1218                 # The places where Unicode's lc is different from fc are
1219                 # skipped here by virtue of the 'next unless uc...' line above
1220                 push @f, $x unless lc $x eq fc $x;
1221             }
1222         }
1223
1224         foreach my $x (sort keys %lower) {
1225             if (! $is_utf8_locale) {
1226                 my $y = uc $x;
1227                 next unless lc $y eq $x;
1228                 print "# lower $x uc $y ",
1229                     $x =~ /$y/i ? 1 : 0, " ",
1230                     $y =~ /$x/i ? 1 : 0, "\n" if 0;
1231                 if ($x =~ $re || $y =~ $re) { # See above.
1232                     print "# Regex characters in '$x' or '$y', skipping test $locales_test_number for locale '$Locale'\n";
1233                     next;
1234                 }
1235                 # With utf8 both will fail since the locale concept
1236                 # of upper/lower does not work well in Unicode.
1237                 push @f, $x unless $x =~ /$y/i == $y =~ /$x/i;
1238
1239                 push @f, $x unless lc $x eq fc $x;
1240             }
1241             else {
1242                 use locale ':not_characters';
1243                 my $y = uc $x;
1244                 next unless lc $y eq $x;
1245                 print "# lower $x uc $y ",
1246                         $x =~ /$y/i ? 1 : 0, " ",
1247                         $y =~ /$x/i ? 1 : 0, "\n" if 0;
1248                 push @f, $x unless $x =~ /$y/i && $y =~ /$x/i;
1249
1250                 push @f, $x unless lc $x eq fc $x;
1251             }
1252         }
1253         tryneoalpha($Locale, $locales_test_number, @f == 0);
1254         if (@f) {
1255             print "# failed $locales_test_number locale '$Locale' characters @f\n"
1256         }
1257     }
1258
1259     # [perl #109318]
1260     {
1261         my @f = ();
1262         ++$locales_test_number;
1263         $test_names{$locales_test_number} = 'Verify atof with locale radix and negative exponent';
1264
1265         my $radix = POSIX::localeconv()->{decimal_point};
1266         my @nums = (
1267              "3.14e+9",  "3${radix}14e+9",  "3.14e-9",  "3${radix}14e-9",
1268             "-3.14e+9", "-3${radix}14e+9", "-3.14e-9", "-3${radix}14e-9",
1269         );
1270
1271         if (! $is_utf8_locale) {
1272             use locale;
1273             for my $num (@nums) {
1274                 push @f, $num
1275                     unless sprintf("%g", $num) =~ /3.+14/;
1276             }
1277         }
1278         else {
1279             use locale ':not_characters';
1280             for my $num (@nums) {
1281                 push @f, $num
1282                     unless sprintf("%g", $num) =~ /3.+14/;
1283             }
1284         }
1285
1286         tryneoalpha($Locale, $locales_test_number, @f == 0);
1287         if (@f) {
1288             print "# failed $locales_test_number locale '$Locale' numbers @f\n"
1289         }
1290     }
1291 }
1292
1293 my $final_locales_test_number = $locales_test_number;
1294
1295 # Recount the errors.
1296
1297 foreach ($first_locales_test_number..$final_locales_test_number) {
1298     if (%setlocale_failed) {
1299         print "not ";
1300     }
1301     elsif ($Problem{$_} || !defined $Okay{$_} || !@{$Okay{$_}}) {
1302         if (defined $not_necessarily_a_problem_test_number
1303             && $_ == $not_necessarily_a_problem_test_number)
1304         {
1305             print "# The failure of test $not_necessarily_a_problem_test_number is not necessarily fatal.\n";
1306             print "# It usually indicates a problem in the environment,\n";
1307             print "# not in Perl itself.\n";
1308         }
1309         print "not ";
1310     }
1311     print "ok $_";
1312     print " $test_names{$_}" if defined $test_names{$_};
1313     print "\n";
1314 }
1315
1316 # Give final advice.
1317
1318 my $didwarn = 0;
1319
1320 foreach ($first_locales_test_number..$final_locales_test_number) {
1321     if ($Problem{$_}) {
1322         my @f = sort keys %{ $Problem{$_} };
1323         my $f = join(" ", @f);
1324         $f =~ s/(.{50,60}) /$1\n#\t/g;
1325         print
1326             "#\n",
1327             "# The locale ", (@f == 1 ? "definition" : "definitions"), "\n#\n",
1328             "#\t", $f, "\n#\n",
1329             "# on your system may have errors because the locale test $_\n",
1330             "# failed in ", (@f == 1 ? "that locale" : "those locales"),
1331             ".\n";
1332         print <<EOW;
1333 #
1334 # If your users are not using these locales you are safe for the moment,
1335 # but please report this failure first to perlbug\@perl.com using the
1336 # perlbug script (as described in the INSTALL file) so that the exact
1337 # details of the failures can be sorted out first and then your operating
1338 # system supplier can be alerted about these anomalies.
1339 #
1340 EOW
1341         $didwarn = 1;
1342     }
1343 }
1344
1345 # Tell which locales were okay and which were not.
1346
1347 if ($didwarn) {
1348     my (@s, @F);
1349
1350     foreach my $l (@Locale) {
1351         my $p = 0;
1352         if ($setlocale_failed{$l}) {
1353             $p++;
1354         }
1355         else {
1356             foreach my $t
1357                         ($first_locales_test_number..$final_locales_test_number)
1358             {
1359                 $p++ if $Problem{$t}{$l};
1360             }
1361         }
1362         push @s, $l if $p == 0;
1363         push @F, $l unless $p == 0;
1364     }
1365
1366     if (@s) {
1367         my $s = join(" ", @s);
1368         $s =~ s/(.{50,60}) /$1\n#\t/g;
1369
1370         warn
1371             "# The following locales\n#\n",
1372             "#\t", $s, "\n#\n",
1373             "# tested okay.\n#\n",
1374     } else {
1375         warn "# None of your locales were fully okay.\n";
1376     }
1377
1378     if (@F) {
1379         my $F = join(" ", @F);
1380         $F =~ s/(.{50,60}) /$1\n#\t/g;
1381
1382         warn
1383           "# The following locales\n#\n",
1384           "#\t", $F, "\n#\n",
1385           "# had problems.\n#\n",
1386     } else {
1387         warn "# None of your locales were broken.\n";
1388     }
1389 }
1390
1391 $test_num = $final_locales_test_number;
1392
1393 # Test that tainting and case changing works on utf8 strings.  These tests are
1394 # placed last to avoid disturbing the hard-coded test numbers that existed at
1395 # the time these were added above this in this file.
1396 # This also tests that locale overrides unicode_strings in the same scope for
1397 # non-utf8 strings.
1398 setlocale(LC_ALL, "C");
1399 {
1400     use locale;
1401     use feature 'unicode_strings';
1402
1403     foreach my $function ("uc", "ucfirst", "lc", "lcfirst", "fc") {
1404         my @list;   # List of code points to test for $function
1405
1406         # Used to calculate the changed case for ASCII characters by using the
1407         # ord, instead of using one of the functions under test.
1408         my $ascii_case_change_delta;
1409         my $above_latin1_case_change_delta; # Same for the specific ords > 255
1410                                             # that we use
1411
1412         # We test an ASCII character, which should change case and be tainted;
1413         # a Latin1 character, which shouldn't change case under this C locale,
1414         #   and is tainted.
1415         # an above-Latin1 character that when the case is changed would cross
1416         #   the 255/256 boundary, so doesn't change case and isn't tainted
1417         # (the \x{149} is one of these, but changes into 2 characters, the
1418         #   first one of which doesn't cross the boundary.
1419         # the final one in each list is an above-Latin1 character whose case
1420         #   does change, and shouldn't be tainted.  The code below uses its
1421         #   position in its list as a marker to indicate that it, unlike the
1422         #   other code points above ASCII, has a successful case change
1423         if ($function =~ /^u/) {
1424             @list = ("", "a", "\xe0", "\xff", "\x{fb00}", "\x{149}", "\x{101}");
1425             $ascii_case_change_delta = -32;
1426             $above_latin1_case_change_delta = -1;
1427         }
1428         else {
1429             @list = ("", "A", "\xC0", "\x{1E9E}", "\x{100}");
1430             $ascii_case_change_delta = +32;
1431             $above_latin1_case_change_delta = +1;
1432         }
1433         foreach my $is_utf8_locale (0 .. 1) {
1434             foreach my $j (0 .. $#list) {
1435                 my $char = $list[$j];
1436
1437                 for my $encoded_in_utf8 (0 .. 1) {
1438                     my $should_be;
1439                     my $changed;
1440                     if (! $is_utf8_locale) {
1441                         $should_be = ($j == $#list)
1442                             ? chr(ord($char) + $above_latin1_case_change_delta)
1443                             : (length $char == 0 || ord($char) > 127)
1444                             ? $char
1445                             : chr(ord($char) + $ascii_case_change_delta);
1446
1447                         # This monstrosity is in order to avoid using an eval,
1448                         # which might perturb the results
1449                         $changed = ($function eq "uc")
1450                                     ? uc($char)
1451                                     : ($function eq "ucfirst")
1452                                       ? ucfirst($char)
1453                                       : ($function eq "lc")
1454                                         ? lc($char)
1455                                         : ($function eq "lcfirst")
1456                                           ? lcfirst($char)
1457                                           : ($function eq "fc")
1458                                             ? fc($char)
1459                                             : die("Unexpected function \"$function\"");
1460                     }
1461                     else {
1462                         {
1463                             no locale;
1464
1465                             # For utf8-locales the case changing functions
1466                             # should work just like they do outside of locale.
1467                             # Can use eval here because not testing it when
1468                             # not in locale.
1469                             $should_be = eval "$function('$char')";
1470                             die "Unexpected eval error $@ from 'eval \"$function('$char')\"'" if  $@;
1471
1472                         }
1473                         use locale ':not_characters';
1474                         $changed = ($function eq "uc")
1475                                     ? uc($char)
1476                                     : ($function eq "ucfirst")
1477                                       ? ucfirst($char)
1478                                       : ($function eq "lc")
1479                                         ? lc($char)
1480                                         : ($function eq "lcfirst")
1481                                           ? lcfirst($char)
1482                                           : ($function eq "fc")
1483                                             ? fc($char)
1484                                             : die("Unexpected function \"$function\"");
1485                     }
1486                     ok($changed eq $should_be,
1487                         "$function(\"$char\") in C locale "
1488                         . (($is_utf8_locale)
1489                             ? "(use locale ':not_characters'"
1490                             : "(use locale")
1491                         . (($encoded_in_utf8)
1492                             ? "; encoded in utf8)"
1493                             : "; not encoded in utf8)")
1494                         . " should be \"$should_be\", got \"$changed\"");
1495
1496                     # Tainting shouldn't happen for utf8 locales, empty
1497                     # strings, or those characters above 255.
1498                     (! $is_utf8_locale && length($char) > 0 && ord($char) < 256)
1499                     ? check_taint($changed)
1500                     : check_taint_not($changed);
1501
1502                     # Use UTF-8 next time through the loop
1503                     utf8::upgrade($char);
1504                 }
1505             }
1506         }
1507     }
1508 }
1509
1510 print "1..$test_num\n";
1511
1512 # eof