t/op/tr.t

   1 # tr.t
   2
   3 use utf8;
   4
   5 BEGIN {
   6     chdir 't' if -d 't';
   7     require './test.pl';
   8     set_up_inc('../lib');
   9 }
  10
  11 plan tests => 138;
  12
  13 # Test this first before we extend the stack with other operations.
  14 # This caused an asan failure due to a bad write past the end of the stack.
  15 eval { my $x; die  1..127, $x =~ y/// };
  16
  17 my $Is_EBCDIC = (ord('i') == 0x89 & ord('J') == 0xd1);
  18
  19 $_ = "abcdefghijklmnopqrstuvwxyz";
  20
  21 tr/a-z/A-Z/;
  22
  23 is($_, "ABCDEFGHIJKLMNOPQRSTUVWXYZ",    'uc');
  24
  25 tr/A-Z/a-z/;
  26
  27 is($_, "abcdefghijklmnopqrstuvwxyz",    'lc');
  28
  29 tr/b-y/B-Y/;
  30 is($_, "aBCDEFGHIJKLMNOPQRSTUVWXYz",    'partial uc');
  31
  32
  33 # In EBCDIC 'I' is \xc9 and 'J' is \0xd1, 'i' is \x89 and 'j' is \x91.
  34 # Yes, discontinuities.  Regardless, the \xca in the below should stay
  35 # untouched (and not became \x8a).
  36 {
  37     no utf8;
  38     $_ = "I\xcaJ";
  39
  40     tr/I-J/i-j/;
  41
  42     is($_, "i\xcaj",    'EBCDIC discontinuity');
  43 }
  44 #
  45
  46
  47 ($x = 12) =~ tr/1/3/;
  48 (my $y = 12) =~ tr/1/3/;
  49 ($f = 1.5) =~ tr/1/3/;
  50 (my $g = 1.5) =~ tr/1/3/;
  51 is($x + $y + $f + $g, 71,   'tr cancels IOK and NOK');
  52
  53 # /r
  54 $_ = 'adam';
  55 is y/dam/ve/rd, 'eve', '/r';
  56 is $_, 'adam', '/r leaves param alone';
  57 $g = 'ruby';
  58 is $g =~ y/bury/repl/r, 'perl', '/r with explicit param';
  59 is $g, 'ruby', '/r leaves explicit param alone';
  60 is "aaa" =~ y\a\b\r, 'bbb', '/r with constant param';
  61 ok !eval '$_ !~ y///r', "!~ y///r is forbidden";
  62 like $@, qr\^Using !~ with tr///r doesn't make sense\,
  63   "!~ y///r error message";
  64 {
  65   my $w;
  66   my $wc;
  67   local $SIG{__WARN__} = sub { $w = shift; ++$wc };
  68   local $^W = 1;
  69   eval 'y///r; 1';
  70   like $w, qr '^Useless use of non-destructive transliteration \(tr///r\)',
  71     '/r warns in void context';
  72   is $wc, 1, '/r warns just once';
  73 }
  74
  75 # perlbug [ID 20000511.005]
  76 $_ = 'fred';
  77 /([a-z]{2})/;
  78 $1 =~ tr/A-Z//;
  79 s/^(\s*)f/$1F/;
  80 is($_, 'Fred',  'harmless if explicitly not updating');
  81
  82
  83 # A variant of the above, added in 5.7.2
  84 $_ = 'fred';
  85 /([a-z]{2})/;
  86 eval '$1 =~ tr/A-Z/A-Z/;';
  87 s/^(\s*)f/$1F/;
  88 is($_, 'Fred',  'harmless if implicitly not updating');
  89 is($@, '',      '    no error');
  90
  91
  92 # check tr handles UTF8 correctly
  93 ($x = 256.65.258) =~ tr/a/b/;
  94 is($x, 256.65.258,  'handles UTF8');
  95 is(length $x, 3);
  96
  97 $x =~ tr/A/B/;
  98 is(length $x, 3);
  99 if (ord("\t") == 9) { # ASCII
 100     is($x, 256.66.258);
 101 }
 102 else {
 103     is($x, 256.65.258);
 104 }
 105
 106 # EBCDIC variants of the above tests
 107 ($x = 256.193.258) =~ tr/a/b/;
 108 is(length $x, 3);
 109 is($x, 256.193.258);
 110
 111 $x =~ tr/A/B/;
 112 is(length $x, 3);
 113 if (ord("\t") == 9) { # ASCII
 114     is($x, 256.193.258);
 115 }
 116 else {
 117     is($x, 256.194.258);
 118 }
 119
 120
 121 {
 122     my $l = chr(300); my $r = chr(400);
 123     $x = 200.300.400;
 124     $x =~ tr/\x{12c}/\x{190}/;
 125     is($x, 200.400.400,
 126                         'changing UTF8 chars in a UTF8 string, same length');
 127     is(length $x, 3);
 128
 129     $x = 200.300.400;
 130     $x =~ tr/\x{12c}/\x{be8}/;
 131     is($x, 200.3048.400,    '    more bytes');
 132     is(length $x, 3);
 133
 134     $x = 100.125.60;
 135     $x =~ tr/\x{64}/\x{190}/;
 136     is($x, 400.125.60,      'Putting UT8 chars into a non-UTF8 string');
 137     is(length $x, 3);
 138
 139     $x = 400.125.60;
 140     $x =~ tr/\x{190}/\x{64}/;
 141     is($x, 100.125.60,      'Removing UTF8 chars from UTF8 string');
 142     is(length $x, 3);
 143
 144     $x = 400.125.60.400;
 145     $y = $x =~ tr/\x{190}/\x{190}/;
 146     is($y, 2,               'Counting UTF8 chars in UTF8 string');
 147
 148     $x = 60.400.125.60.400;
 149     $y = $x =~ tr/\x{3c}/\x{3c}/;
 150     is($y, 2,               '         non-UTF8 chars in UTF8 string');
 151
 152     # 17 - counting UTF8 chars in non-UTF8 string
 153     $x = 200.125.60;
 154     $y = $x =~ tr/\x{190}/\x{190}/;
 155     is($y, 0,               '         UTF8 chars in non-UTFs string');
 156 }
 157
 158 $_ = "abcdefghijklmnopqrstuvwxyz";
 159 eval 'tr/a-z-9/ /';
 160 like($@, qr/^Ambiguous range in transliteration operator/,  'tr/a-z-9//');
 161
 162 # 19-21: Make sure leading and trailing hyphens still work
 163 $_ = "car-rot9";
 164 tr/-a-m/./;
 165 is($_, '..r.rot9',  'hyphens, leading');
 166
 167 $_ = "car-rot9";
 168 tr/a-m-/./;
 169 is($_, '..r.rot9',  '   trailing');
 170
 171 $_ = "car-rot9";
 172 tr/-a-m-/./;
 173 is($_, '..r.rot9',  '   both');
 174
 175 $_ = "abcdefghijklmnop";
 176 tr/ae-hn/./;
 177 is($_, '.bcd....ijklm.op');
 178
 179 $_ = "abcdefghijklmnop";
 180 tr/a-cf-kn-p/./;
 181 is($_, '...de......lm...');
 182
 183 $_ = "abcdefghijklmnop";
 184 tr/a-ceg-ikm-o/./;
 185 is($_, '...d.f...j.l...p');
 186
 187
 188 # 20000705 MJD
 189 eval "tr/m-d/ /";
 190 like($@, qr/^Invalid range "m-d" in transliteration operator/,
 191               'reversed range check');
 192
 193 'abcdef' =~ /(bcd)/;
 194 is(eval '$1 =~ tr/abcd//', 3,  'explicit read-only count');
 195 is($@, '',                      '    no error');
 196
 197 'abcdef' =~ /(bcd)/;
 198 is(eval '$1 =~ tr/abcd/abcd/', 3,  'implicit read-only count');
 199 is($@, '',                      '    no error');
 200
 201 is(eval '"123" =~ tr/12//', 2,     'LHS of non-updating tr');
 202
 203 eval '"123" =~ tr/1/2/';
 204 like($@, qr|^Can't modify constant item in transliteration \(tr///\)|,
 205          'LHS bad on updating tr');
 206
 207
 208 # v300 (0x12c) is UTF-8-encoded as 196 172 (0xc4 0xac)
 209 # v400 (0x190) is UTF-8-encoded as 198 144 (0xc6 0x90)
 210
 211 # Transliterate a byte to a byte, all four ways.
 212
 213 ($a = v300.196.172.300.196.172) =~ tr/\xc4/\xc5/;
 214 is($a, v300.197.172.300.197.172,    'byte2byte transliteration');
 215
 216 ($a = v300.196.172.300.196.172) =~ tr/\xc4/\x{c5}/;
 217 is($a, v300.197.172.300.197.172);
 218
 219 ($a = v300.196.172.300.196.172) =~ tr/\x{c4}/\xc5/;
 220 is($a, v300.197.172.300.197.172);
 221
 222 ($a = v300.196.172.300.196.172) =~ tr/\x{c4}/\x{c5}/;
 223 is($a, v300.197.172.300.197.172);
 224
 225
 226 ($a = v300.196.172.300.196.172) =~ tr/\xc4/\x{12d}/;
 227 is($a, v300.301.172.300.301.172,    'byte2wide transliteration');
 228
 229 ($a = v300.196.172.300.196.172) =~ tr/\x{12c}/\xc3/;
 230 is($a, v195.196.172.195.196.172,    '   wide2byte');
 231
 232 ($a = v300.196.172.300.196.172) =~ tr/\x{12c}/\x{12d}/;
 233 is($a, v301.196.172.301.196.172,    '   wide2wide');
 234
 235
 236 ($a = v300.196.172.300.196.172) =~ tr/\xc4\x{12c}/\x{12d}\xc3/;
 237 is($a, v195.301.172.195.301.172,    'byte2wide & wide2byte');
 238
 239
 240 ($a = v300.196.172.300.196.172.400.198.144) =~
 241         tr/\xac\xc4\x{12c}\x{190}/\xad\x{12d}\xc5\x{191}/;
 242 is($a, v197.301.173.197.301.173.401.198.144,    'all together now!');
 243
 244
 245 is((($a = v300.196.172.300.196.172) =~ tr/\xc4/\xc5/), 2,
 246                                      'transliterate and count');
 247
 248 is((($a = v300.196.172.300.196.172) =~ tr/\x{12c}/\x{12d}/), 2);
 249
 250
 251 ($a = v300.196.172.300.196.172) =~ tr/\xc4/\x{12d}/c;
 252 is($a, v301.196.301.301.196.301,    'translit w/complement');
 253
 254 ($a = v300.196.172.300.196.172) =~ tr/\x{12c}/\xc5/c;
 255 is($a, v300.197.197.300.197.197);
 256
 257
 258 ($a = v300.196.172.300.196.172) =~ tr/\xc4//d;
 259 is($a, v300.172.300.172,            'translit w/deletion');
 260
 261 ($a = v300.196.172.300.196.172) =~ tr/\x{12c}//d;
 262 is($a, v196.172.196.172);
 263
 264
 265 ($a = v196.196.172.300.300.196.172) =~ tr/\xc4/\xc5/s;
 266 is($a, v197.172.300.300.197.172,    'translit w/squeeze');
 267
 268 ($a = v196.172.300.300.196.172.172) =~ tr/\x{12c}/\x{12d}/s;
 269 is($a, v196.172.301.196.172.172);
 270
 271
 272 # Tricky cases (When Simon Cozens Attacks)
 273 ($a = v196.172.200) =~ tr/\x{12c}/a/;
 274 is(sprintf("%vd", $a), '196.172.200');
 275
 276 ($a = v196.172.200) =~ tr/\x{12c}/\x{12c}/;
 277 is(sprintf("%vd", $a), '196.172.200');
 278
 279 ($a = v196.172.200) =~ tr/\x{12c}//d;
 280 is(sprintf("%vd", $a), '196.172.200');
 281
 282
 283 # UTF8 range tests from Inaba Hiroto
 284
 285 # Not working in EBCDIC as of 12674.
 286 ($a = v300.196.172.302.197.172) =~ tr/\x{12c}-\x{130}/\xc0-\xc4/;
 287 is($a, v192.196.172.194.197.172,    'UTF range');
 288
 289 ($a = v300.196.172.302.197.172) =~ tr/\xc4-\xc8/\x{12c}-\x{130}/;
 290 is($a, v300.300.172.302.301.172);
 291
 292
 293 # UTF8 range tests from Karsten Sperling (patch #9008 required)
 294
 295 ($a = "\x{0100}") =~ tr/\x00-\x{100}/X/;
 296 is($a, "X");
 297
 298 ($a = "\x{0100}") =~ tr/\x{0000}-\x{00ff}/X/c;
 299 is($a, "X");
 300
 301 ($a = "\x{0100}") =~ tr/\x{0000}-\x{00ff}\x{0101}/X/c;
 302 is($a, "X");
 303
 304 ($a = v256) =~ tr/\x{0000}-\x{00ff}\x{0101}/X/c;
 305 is($a, "X");
 306
 307
 308 # UTF8 range tests from Inaba Hiroto
 309
 310 ($a = "\x{200}") =~ tr/\x00-\x{100}/X/c;
 311 is($a, "X");
 312
 313 ($a = "\x{200}") =~ tr/\x00-\x{100}/X/cs;
 314 is($a, "X");
 315
 316 # Tricky on EBCDIC: while [a-z] [A-Z] must not match the gap characters (as
 317 # well as i-j, r-s, I-J, R-S), [\x89-\x91] [\xc9-\xd1] has to match them,
 318 # from Karsten Sperling.
 319
 320 $c = ($a = "\x89\x8a\x8b\x8c\x8d\x8f\x90\x91") =~ tr/\x89-\x91/X/;
 321 is($c, 8);
 322 is($a, "XXXXXXXX");
 323
 324 $c = ($a = "\xc9\xca\xcb\xcc\xcd\xcf\xd0\xd1") =~ tr/\xc9-\xd1/X/;
 325 is($c, 8);
 326 is($a, "XXXXXXXX");
 327
 328 SKIP: {
 329     skip "not EBCDIC", 4 unless $Is_EBCDIC;
 330
 331     $c = ($a = "\x89\x8a\x8b\x8c\x8d\x8f\x90\x91") =~ tr/i-j/X/;
 332     is($c, 2);
 333     is($a, "X\x8a\x8b\x8c\x8d\x8f\x90X");
 334
 335     $c = ($a = "\xc9\xca\xcb\xcc\xcd\xcf\xd0\xd1") =~ tr/I-J/X/;
 336     is($c, 2);
 337     is($a, "X\xca\xcb\xcc\xcd\xcf\xd0X");
 338 }
 339
 340 ($a = "\x{100}") =~ tr/\x00-\xff/X/c;
 341 is(ord($a), ord("X"));
 342
 343 ($a = "\x{100}") =~ tr/\x00-\xff/X/cs;
 344 is(ord($a), ord("X"));
 345
 346 ($a = "\x{100}\x{100}") =~ tr/\x{101}-\x{200}//c;
 347 is($a, "\x{100}\x{100}");
 348
 349 ($a = "\x{100}\x{100}") =~ tr/\x{101}-\x{200}//cs;
 350 is($a, "\x{100}");
 351
 352 $a = "\xfe\xff"; $a =~ tr/\xfe\xff/\x{1ff}\x{1fe}/;
 353 is($a, "\x{1ff}\x{1fe}");
 354
 355
 356 # From David Dyck
 357 ($a = "R0_001") =~ tr/R_//d;
 358 is(hex($a), 1);
 359
 360 # From Inaba Hiroto
 361 @a = (1,2); map { y/1/./ for $_ } @a;
 362 is("@a", ". 2");
 363
 364 @a = (1,2); map { y/1/./ for $_.'' } @a;
 365 is("@a", "1 2");
 366
 367
 368 # Additional test for Inaba Hiroto patch (robin@kitsite.com)
 369 ($a = "\x{100}\x{102}\x{101}") =~ tr/\x00-\377/XYZ/c;
 370 is($a, "XZY");
 371
 372
 373 # Used to fail with "Modification of a read-only value attempted"
 374 %a = (N=>1);
 375 foreach (keys %a) {
 376   eval 'tr/N/n/';
 377   is($_, 'n',   'pp_trans needs to unshare shared hash keys');
 378   is($@, '',    '   no error');
 379 }
 380
 381
 382 $x = eval '"1213" =~ tr/1/1/';
 383 is($x, 2,   'implicit count on constant');
 384 is($@, '',  '   no error');
 385
 386
 387 my @foo = ();
 388 eval '$foo[-1] =~ tr/N/N/';
 389 is( $@, '',         'implicit count outside array bounds, index negative' );
 390 is( scalar @foo, 0, "    doesn't extend the array");
 391
 392 eval '$foo[1] =~ tr/N/N/';
 393 is( $@, '',         'implicit count outside array bounds, index positive' );
 394 is( scalar @foo, 0, "    doesn't extend the array");
 395
 396
 397 my %foo = ();
 398 eval '$foo{bar} =~ tr/N/N/';
 399 is( $@, '',         'implicit count outside hash bounds' );
 400 is( scalar keys %foo, 0,   "    doesn't extend the hash");
 401
 402 $x = \"foo";
 403 is( $x =~ tr/A/A/, 2, 'non-modifying tr/// on a scalar ref' );
 404 is( ref $x, 'SCALAR', "    doesn't stringify its argument" );
 405
 406 # rt.perl.org 36622.  Perl didn't like a y/// at end of file.  No trailing
 407 # newline allowed.
 408 fresh_perl_is(q[$_ = "foo"; y/A-Z/a-z/], '');
 409
 410
 411 { # [perl #38293] chr(65535) should be allowed in regexes
 412 no warnings 'utf8'; # to allow non-characters
 413
 414 $s = "\x{d800}\x{ffff}";
 415 $s =~ tr/\0/A/;
 416 is($s, "\x{d800}\x{ffff}", "do_trans_simple");
 417
 418 $s = "\x{d800}\x{ffff}";
 419 $i = $s =~ tr/\0//;
 420 is($i, 0, "do_trans_count");
 421
 422 $s = "\x{d800}\x{ffff}";
 423 $s =~ tr/\0/A/s;
 424 is($s, "\x{d800}\x{ffff}", "do_trans_complex, SQUASH");
 425
 426 $s = "\x{d800}\x{ffff}";
 427 $s =~ tr/\0/A/c;
 428 is($s, "AA", "do_trans_complex, COMPLEMENT");
 429
 430 $s = "A\x{ffff}B";
 431 $s =~ tr/\x{ffff}/\x{1ffff}/;
 432 is($s, "A\x{1ffff}B", "utf8, SEARCHLIST");
 433
 434 $s = "\x{fffd}\x{fffe}\x{ffff}";
 435 $s =~ tr/\x{fffd}-\x{ffff}/ABC/;
 436 is($s, "ABC", "utf8, SEARCHLIST range");
 437
 438 $s = "ABC";
 439 $s =~ tr/ABC/\x{ffff}/;
 440 is($s, "\x{ffff}"x3, "utf8, REPLACEMENTLIST");
 441
 442 $s = "ABC";
 443 $s =~ tr/ABC/\x{fffd}-\x{ffff}/;
 444 is($s, "\x{fffd}\x{fffe}\x{ffff}", "utf8, REPLACEMENTLIST range");
 445
 446 $s = "A\x{ffff}B\x{100}\0\x{fffe}\x{ffff}";
 447 $i = $s =~ tr/\x{ffff}//;
 448 is($i, 2, "utf8, count");
 449
 450 $s = "A\x{ffff}\x{ffff}C";
 451 $s =~ tr/\x{ffff}/\x{100}/s;
 452 is($s, "A\x{100}C", "utf8, SQUASH");
 453
 454 $s = "A\x{ffff}\x{ffff}\x{fffe}\x{fffe}\x{fffe}C";
 455 $s =~ tr/\x{fffe}\x{ffff}//s;
 456 is($s, "A\x{ffff}\x{fffe}C", "utf8, SQUASH");
 457
 458 $s = "xAABBBy";
 459 $s =~ tr/AB/\x{ffff}/s;
 460 is($s, "x\x{ffff}y", "utf8, SQUASH");
 461
 462 $s = "xAABBBy";
 463 $s =~ tr/AB/\x{fffe}\x{ffff}/s;
 464 is($s, "x\x{fffe}\x{ffff}y", "utf8, SQUASH");
 465
 466 $s = "A\x{ffff}B\x{fffe}C";
 467 $s =~ tr/\x{fffe}\x{ffff}/x/c;
 468 is($s, "x\x{ffff}x\x{fffe}x", "utf8, COMPLEMENT");
 469
 470 $s = "A\x{10000}B\x{2abcd}C";
 471 $s =~ tr/\0-\x{ffff}/x/c;
 472 is($s, "AxBxC", "utf8, COMPLEMENT range");
 473
 474 $s = "A\x{fffe}B\x{ffff}C";
 475 $s =~ tr/\x{fffe}\x{ffff}/x/d;
 476 is($s, "AxBC", "utf8, DELETE");
 477
 478 } # non-characters end
 479
 480 { # related to [perl #27940]
 481     my $c;
 482
 483     ($c = "\x20\c@\x30\cA\x40\cZ\x50\c_\x60") =~ tr/\c@-\c_//d;
 484     is($c, "\x20\x30\x40\x50\x60", "tr/\\c\@-\\c_//d");
 485
 486     ($c = "\x20\x00\x30\x01\x40\x1A\x50\x1F\x60") =~ tr/\x00-\x1f//d;
 487     is($c, "\x20\x30\x40\x50\x60", "tr/\\x00-\\x1f//d");
 488 }
 489
 490 ($s) = keys %{{pie => 3}};
 491 SKIP: {
 492     if (!eval { require XS::APItest }) { skip "no XS::APItest", 2 }
 493     my $wasro = XS::APItest::SvIsCOW($s);
 494     ok $wasro, "have a COW";
 495     $s =~ tr/i//;
 496     ok( XS::APItest::SvIsCOW($s),
 497        "count-only tr doesn't deCOW COWs" );
 498 }
 499
 500 # [ RT #61520 ]
 501 #
 502 # under threads, unicode tr within a cloned closure would SEGV or assert
 503 # fail, since the pointer in the pad to the swash was getting zeroed out
 504 # in the proto-CV
 505
 506 {
 507     my $x = "\x{142}";
 508     sub {
 509         $x =~ tr[\x{142}][\x{143}];
 510     }->();
 511     is($x,"\x{143}", "utf8 + closure");
 512 }
 513
 514 # Freeing of trans ops prior to pmtrans() [perl #102858].
 515 eval q{ $a ~= tr/a/b/; };
 516 ok 1;
 517 SKIP: {
 518     no warnings "deprecated";
 519     skip "no encoding", 1 unless eval { require encoding; 1 };
 520     eval q{ use encoding "utf8"; $a ~= tr/a/b/; };
 521     ok 1;
 522 }
 523
 524 { # [perl #113584]
 525
 526     my $x = "Perlα";
 527     $x =~ tr/αα/βγ/;
 528     { no warnings 'utf8'; print "# $x\n"; } # No note() to avoid wide warning.
 529     is($x, "Perlβ", "Only first of multiple transliterations is used");
 530 }
 531
 532 # tr/a/b/ should fail even on zero-length read-only strings
 533 use constant nullrocow => (keys%{{""=>undef}})[0];
 534 for ("", nullrocow) {
 535     eval { $_ =~ y/a/b/ };
 536     like $@, qr/^Modification of a read-only value attempted at /,
 537         'tr/a/b/ fails on zero-length ro string';
 538 }
 539
 540 # Whether they're permitted or not, non-modifying tr/// should not write
 541 # to read-only values, even with funky flags.
 542 { # [perl #123759]
 543         eval q{ ('a' =~ /./) =~ tr///d };
 544         ok(1, "tr///d on PL_Yes does not assert");
 545         eval q{ ('a' =~ /./) =~ tr/a-z/a-z/d };
 546         ok(1, "tr/a-z/a-z/d on PL_Yes does not assert");
 547         eval q{ ('a' =~ /./) =~ tr///s };
 548         ok(1, "tr///s on PL_Yes does not assert");
 549         eval q{ *x =~ tr///d };
 550         ok(1, "tr///d on glob does not assert");
 551 }
 552
 553 1;