t/re/regex_sets.t

   1 #!./perl
   2
   3 # This tests (?[...]).  XXX These are just basic tests, as full ones would be
   4 # best done with an infrastructure change to allow getting out the inversion
   5 # list of the constructed set and then comparing it character by character
   6 # with the expected result.
   7
   8 BEGIN {
   9     chdir 't' if -d 't';
  10     require './test.pl';
  11     require './charset_tools.pl';
  12     require './loc_tools.pl';
  13     set_up_inc( '../lib','.','../ext/re' );
  14 }
  15
  16 skip_all_without_unicode_tables();
  17
  18 use strict;
  19 use warnings;
  20
  21 $| = 1;
  22
  23 use utf8;
  24 no warnings 'experimental::regex_sets';
  25
  26 like("a", qr/(?[ [a]      # This is a comment
  27                     ])/, 'Can ignore a comment');
  28 like("a", qr/(?[ [a]      # [[:notaclass:]]
  29                     ])/, 'A comment isn\'t parsed');
  30 unlike(uni_to_native("\x85"), qr/(?[ \t\85 ])/, 'NEL is white space');
  31 like(uni_to_native("\x85"), qr/(?[ \t + \\85 ])/, 'can escape NEL to match');
  32 like(uni_to_native("\x85"), qr/(?[ [\\85] ])/, '... including within nested []');
  33 like("\t", qr/(?[ \t + \\85 ])/, 'can do basic union');
  34 like("\cK", qr/(?[ \s ])/, '\s matches \cK');
  35 unlike("\cK", qr/(?[ \s - \cK ])/, 'can do basic subtraction');
  36 like(" ", qr/(?[ \s - \cK ])/, 'can do basic subtraction');
  37 like(":", qr/(?[ [:] ])/, '[:] is not a posix class');
  38 unlike("\t", qr/(?[ ! \t ])/, 'can do basic complement');
  39 like("\t", qr/(?[ ! [ ^ \t ] ])/, 'can do basic complement');
  40 unlike("\r", qr/(?[ \t ])/, '\r doesn\'t match \t ');
  41 like("\r", qr/(?[ ! \t ])/, 'can do basic complement');
  42 like("0", qr/(?[ [:word:] & [:digit:] ])/, 'can do basic intersection');
  43 unlike("A", qr/(?[ [:word:] & [:digit:] ])/, 'can do basic intersection');
  44 like("0", qr/(?[[:word:]&[:digit:]])/, 'spaces around internal [] aren\'t required');
  45
  46 like("a", qr/(?[ [a] | [b] ])/, '| means union');
  47 like("b", qr/(?[ [a] | [b] ])/, '| means union');
  48 unlike("c", qr/(?[ [a] | [b] ])/, '| means union');
  49
  50 like("a", qr/(?[ [ab] ^ [bc] ])/, 'basic symmetric difference works');
  51 unlike("b", qr/(?[ [ab] ^ [bc] ])/, 'basic symmetric difference works');
  52 like("c", qr/(?[ [ab] ^ [bc] ])/, 'basic symmetric difference works');
  53
  54 like("2", qr/(?[ ( ( \pN & ( [a] + [2] ) ) ) ])/, 'Nesting parens and grouping');
  55 unlike("a", qr/(?[ ( ( \pN & ( [a] + [2] ) ) ) ])/, 'Nesting parens and grouping');
  56
  57 unlike("\x{17f}", qr/(?[ [k] + \p{Blk=ASCII} ])/i, '/i doesn\'t affect \p{}');
  58 like("\N{KELVIN SIGN}", qr/(?[ [k] + \p{Blk=ASCII} ])/i, '/i does affect literals');
  59
  60 my $thai_or_lao = qr/(?[ \p{Thai} + \p{Lao} ])/;
  61 my $thai_or_lao_digit = qr/(?[ \p{Digit} & $thai_or_lao ])/;
  62 like("\N{THAI DIGIT ZERO}", $thai_or_lao_digit, 'embedded qr/(?[ ])/ works');
  63 unlike(chr(ord("\N{THAI DIGIT ZERO}") - 1), $thai_or_lao_digit, 'embedded qr/(?[ ])/ works');
  64 like("\N{THAI DIGIT NINE}", $thai_or_lao_digit, 'embedded qr/(?[ ])/ works');
  65 unlike(chr(ord("\N{THAI DIGIT NINE}") + 1), $thai_or_lao_digit, 'embedded qr/(?[ ])/ works');
  66 like("\N{LAO DIGIT ZERO}", $thai_or_lao_digit, 'embedded qr/(?[ ])/ works');
  67 unlike(chr(ord("\N{LAO DIGIT ZERO}") - 1), $thai_or_lao_digit, 'embedded qr/(?[ ])/ works');
  68 like("\N{LAO DIGIT NINE}", $thai_or_lao_digit, 'embedded qr/(?[ ])/ works');
  69 unlike(chr(ord("\N{LAO DIGIT NINE}") + 1), $thai_or_lao_digit, 'embedded qr/(?[ ])/ works');
  70
  71 my $ascii_word = qr/(?[ \w ])/a;
  72 my $ascii_digits_plus_all_of_arabic = qr/(?[ \p{Arabic} + \p{Digit} & $ascii_word ])/;
  73 like("9", $ascii_digits_plus_all_of_arabic, "/a, then interpolating and intersection works for ASCII in the set");
  74 unlike("A", $ascii_digits_plus_all_of_arabic, "/a, then interpolating and intersection works for ASCII not in the set");
  75 unlike("\N{BENGALI DIGIT ZERO}", $ascii_digits_plus_all_of_arabic, "/a, then interpolating and intersection works for non-ASCII not in either set");
  76 unlike("\N{BENGALI LETTER A}", $ascii_digits_plus_all_of_arabic, "/a, then interpolating and intersection works for non-ASCII in one set");
  77 like("\N{ARABIC LETTER HAMZA}", $ascii_digits_plus_all_of_arabic, "intersection has higher precedence than union");
  78 like("\N{EXTENDED ARABIC-INDIC DIGIT ZERO}", $ascii_digits_plus_all_of_arabic, "intersection has higher precedence than union");
  79
  80 like("\r", qr/(?[ \p{lb=cr} ])/, '\r matches \p{lb=cr}');
  81 unlike("\r", qr/(?[ ! \p{lb=cr} ])/, '\r doesnt match ! \p{lb=cr}');
  82 like("\r", qr/(?[ ! ! \p{lb=cr} ])/, 'Two ! ! are the original');
  83 unlike("\r", qr/(?[ ! ! ! \p{lb=cr} ])/, 'Three ! ! ! are the complement');
  84 # left associatve
  85
  86 my $kelvin = qr/(?[ \N{KELVIN SIGN} ])/;
  87 my $fold = qr/(?[ $kelvin ])/i;
  88 like("\N{KELVIN SIGN}", $kelvin, '"\N{KELVIN SIGN}" matches compiled qr/(?[ \N{KELVIN SIGN} ])/');
  89 unlike("K", $fold, "/i on outer (?[ ]) doesn't leak to interpolated one");
  90 unlike("k", $fold, "/i on outer (?[ ]) doesn't leak to interpolated one");
  91
  92 my $kelvin_fold = qr/(?[ \N{KELVIN SIGN} ])/i;
  93 my $still_fold = qr/(?[ $kelvin_fold ])/;
  94 like("K", $still_fold, "/i on interpolated (?[ ]) is retained in outer without /i");
  95 like("k", $still_fold, "/i on interpolated (?[ ]) is retained in outer without /i");
  96
  97 eval 'my $x = qr/(?[ [a] ])/; qr/(?[ $x ])/';
  98 is($@, "", 'qr/(?[ [a] ])/ can be interpolated');
  99
 100 like("B", qr/(?[ [B] | ! ( [^B] ) ])/, "[perl #125892]");
 101
 102 like("a", qr/(?[ (?#comment) [a]])/, "Can have (?#comments)");
 103
 104 if (! is_miniperl() && locales_enabled('LC_CTYPE')) {
 105     my $utf8_locale = find_utf8_ctype_locale;
 106     SKIP: {
 107         skip("No utf8 locale available on this platform", 8) unless $utf8_locale;
 108
 109         setlocale(&POSIX::LC_ALL, "C");
 110         use locale;
 111
 112         $kelvin_fold = qr/(?[ \N{KELVIN SIGN} ])/i;
 113         my $single_char_class = qr/(?[ \: ])/;
 114
 115         setlocale(&POSIX::LC_ALL, $utf8_locale);
 116
 117         like("\N{KELVIN SIGN}", $kelvin_fold,
 118              '(?[ \N{KELVIN SIGN} ]) matches itself under /i in UTF8-locale');
 119         like("K", $kelvin_fold,
 120                 '(?[ \N{KELVIN SIGN} ]) matches "K" under /i in UTF8-locale');
 121         like("k", $kelvin_fold,
 122                 '(?[ \N{KELVIN SIGN} ]) matches "k" under /i in UTF8-locale');
 123         like(":", $single_char_class,
 124              '(?[ : ]) matches itself in UTF8-locale (a single character class)');
 125
 126         setlocale(&POSIX::LC_ALL, "C");
 127
 128         # These should generate warnings (the above 4 shouldn't), but like()
 129         # suppresses them, so the warnings tests are in t/lib/warnings/regexec
 130         $^W = 0;   # Suppress the warnings that occur when run by hand with
 131                    # the -w option
 132         like("\N{KELVIN SIGN}", $kelvin_fold,
 133              '(?[ \N{KELVIN SIGN} ]) matches itself under /i in C locale');
 134         like("K", $kelvin_fold,
 135                 '(?[ \N{KELVIN SIGN} ]) matches "K" under /i in C locale');
 136         like("k", $kelvin_fold,
 137                 '(?[ \N{KELVIN SIGN} ]) matches "k" under /i in C locale');
 138         like(":", $single_char_class,
 139              '(?[ : ]) matches itself in C locale (a single character class)');
 140     }
 141 }
 142
 143 # Tests that no warnings given for valid Unicode digit range.
 144 my $arabic_digits = qr/(?[ [ ٠ - ٩ ] ])/;
 145 for my $char ("٠", "٥", "٩") {
 146     use charnames ();
 147     my @got = capture_warnings(sub {
 148                 like("٠", $arabic_digits, "Matches "
 149                                                 . charnames::viacode(ord $char));
 150             });
 151     is (@got, 0, "... without warnings");
 152 }
 153
 154 # RT #126181: \cX behaves strangely inside (?[])
 155 {
 156         no warnings qw(syntax regexp);
 157
 158         eval { $_ = '/(?[(\c]) /'; qr/$_/ };
 159         like($@, qr/^Syntax error/, '/(?[(\c]) / should not panic');
 160         eval { $_ = '(?[\c#]' . "\n])"; qr/$_/ };
 161         like($@, qr/^Syntax error/, '/(?[(\c]) / should not panic');
 162         eval { $_ = '(?[(\c])'; qr/$_/ };
 163         like($@, qr/^Syntax error/, '/(?[(\c])/ should be a syntax error');
 164         eval { $_ = '(?[(\c]) ]\b'; qr/$_/ };
 165         like($@, qr/^Syntax error/, '/(?[(\c]) ]\b/ should be a syntax error');
 166         eval { $_ = '(?[\c[]](])'; qr/$_/ };
 167         like($@, qr/^Syntax error/, '/(?[\c[]](])/ should be a syntax error');
 168         like("\c#", qr/(?[\c#])/, '\c# should match itself');
 169         like("\c[", qr/(?[\c[])/, '\c[ should match itself');
 170         like("\c\ ", qr/(?[\c\])/, '\c\ should match itself');
 171         like("\c]", qr/(?[\c]])/, '\c] should match itself');
 172 }
 173
 174 # RT #126481 !! with syntax error panics
 175 {
 176     fresh_perl_like('no warnings "experimental::regex_sets"; qr/(?[ ! ! (\w])/',
 177                     qr/^Unmatched \(/, {},
 178                     'qr/(?[ ! ! (\w])/ doesnt panic');
 179
 180     # The following didn't panic before, but easy to add this here with a
 181     # paren between the !!
 182     fresh_perl_like('no warnings "experimental::regex_sets";qr/(?[ ! ( ! (\w)])/',
 183                     qr/^Unmatched \(/, {},
 184                     'qr/qr/(?[ ! ( ! (\w)])/');
 185 }
 186
 187 {   # RT #129122
 188     my $pat = '(?[ ( [ABC] - [B] ) + ( [abc] - [b] ) + [def] ])';
 189     like("A", qr/$pat/, "'A' matches /$pat/");
 190     unlike("B", qr/$pat/, "'B' doesn't match /$pat/");
 191     like("C", qr/$pat/, "'C' matches /$pat/");
 192     unlike("D", qr/$pat/, "'D' doesn't match /$pat/");
 193     like("a", qr/$pat/, "'a' matches /$pat/");
 194     unlike("b", qr/$pat/, "'b' doesn't match /$pat/");
 195     like("c", qr/$pat/, "'c' matches /$pat/");
 196     like("d", qr/$pat/, "'d' matches /$pat/");
 197     like("e", qr/$pat/, "'e' matches /$pat/");
 198     like("f", qr/$pat/, "'f' matches /$pat/");
 199     unlike("g", qr/$pat/, "'g' doesn't match /$pat/");
 200 }
 201
 202 {   # [perl #129322 ]  This crashed perl, so keep after the ones that don't
 203     my $pat = '(?[[!]&[0]^[!]&[0]+[a]])';
 204     like("a", qr/$pat/, "/$pat/ compiles and matches 'a'");
 205 }
 206
 207 done_testing();
 208
 209 1;