This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
New perldelta
[perl5.git] / pod / perlre.pod
1 =head1 NAME
2 X<regular expression> X<regex> X<regexp>
3
4 perlre - Perl regular expressions
5
6 =head1 DESCRIPTION
7
8 This page describes the syntax of regular expressions in Perl.
9
10 If you haven't used regular expressions before, a quick-start
11 introduction is available in L<perlrequick>, and a longer tutorial
12 introduction is available in L<perlretut>.
13
14 For reference on how regular expressions are used in matching
15 operations, plus various examples of the same, see discussions of
16 C<m//>, C<s///>, C<qr//> and C<"??"> in L<perlop/"Regexp Quote-Like
17 Operators">.
18
19 New in v5.22, L<C<use re 'strict'>|re/'strict' mode> applies stricter
20 rules than otherwise when compiling regular expression patterns.  It can
21 find things that, while legal, may not be what you intended.
22
23 =head2 Modifiers
24
25 =head3 Overview
26
27 Matching operations can have various modifiers.  Modifiers
28 that relate to the interpretation of the regular expression inside
29 are listed below.  Modifiers that alter the way a regular expression
30 is used by Perl are detailed in L<perlop/"Regexp Quote-Like Operators"> and
31 L<perlop/"Gory details of parsing quoted constructs">.
32
33 =over 4
34
35 =item B<C<m>>
36 X</m> X<regex, multiline> X<regexp, multiline> X<regular expression, multiline>
37
38 Treat the string as multiple lines.  That is, change C<"^"> and C<"$"> from matching
39 the start of the string's first line and the end of its last line to
40 matching the start and end of each line within the string.
41
42 =item B<C<s>>
43 X</s> X<regex, single-line> X<regexp, single-line>
44 X<regular expression, single-line>
45
46 Treat the string as single line.  That is, change C<"."> to match any character
47 whatsoever, even a newline, which normally it would not match.
48
49 Used together, as C</ms>, they let the C<"."> match any character whatsoever,
50 while still allowing C<"^"> and C<"$"> to match, respectively, just after
51 and just before newlines within the string.
52
53 =item B<C<i>>
54 X</i> X<regex, case-insensitive> X<regexp, case-insensitive>
55 X<regular expression, case-insensitive>
56
57 Do case-insensitive pattern matching.  For example, "A" will match "a"
58 under C</i>.
59
60 If locale matching rules are in effect, the case map is taken from the
61 current
62 locale for code points less than 255, and from Unicode rules for larger
63 code points.  However, matches that would cross the Unicode
64 rules/non-Unicode rules boundary (ords 255/256) will not succeed, unless
65 the locale is a UTF-8 one.  See L<perllocale>.
66
67 There are a number of Unicode characters that match a sequence of
68 multiple characters under C</i>.  For example,
69 C<LATIN SMALL LIGATURE FI> should match the sequence C<fi>.  Perl is not
70 currently able to do this when the multiple characters are in the pattern and
71 are split between groupings, or when one or more are quantified.  Thus
72
73  "\N{LATIN SMALL LIGATURE FI}" =~ /fi/i;          # Matches
74  "\N{LATIN SMALL LIGATURE FI}" =~ /[fi][fi]/i;    # Doesn't match!
75  "\N{LATIN SMALL LIGATURE FI}" =~ /fi*/i;         # Doesn't match!
76
77  # The below doesn't match, and it isn't clear what $1 and $2 would
78  # be even if it did!!
79  "\N{LATIN SMALL LIGATURE FI}" =~ /(f)(i)/i;      # Doesn't match!
80
81 Perl doesn't match multiple characters in a bracketed
82 character class unless the character that maps to them is explicitly
83 mentioned, and it doesn't match them at all if the character class is
84 inverted, which otherwise could be highly confusing.  See
85 L<perlrecharclass/Bracketed Character Classes>, and
86 L<perlrecharclass/Negation>.
87
88 =item B<C<x>>
89 X</x>
90
91 Extend your pattern's legibility by permitting whitespace and comments.
92 Details in L</"/x">
93
94 =item B<C<p>>
95 X</p> X<regex, preserve> X<regexp, preserve>
96
97 Preserve the string matched such that C<${^PREMATCH}>, C<${^MATCH}>, and
98 C<${^POSTMATCH}> are available for use after matching.
99
100 In Perl 5.20 and higher this is ignored. Due to a new copy-on-write
101 mechanism, C<${^PREMATCH}>, C<${^MATCH}>, and C<${^POSTMATCH}> will be available
102 after the match regardless of the modifier.
103
104 =item B<C<a>>, B<C<d>>, B<C<l>>, and B<C<u>>
105 X</a> X</d> X</l> X</u>
106
107 These modifiers, all new in 5.14, affect which character-set rules
108 (Unicode, etc.) are used, as described below in
109 L</Character set modifiers>.
110
111 =item B<C<n>>
112 X</n> X<regex, non-capture> X<regexp, non-capture>
113 X<regular expression, non-capture>
114
115 Prevent the grouping metacharacters C<()> from capturing. This modifier,
116 new in 5.22, will stop C<$1>, C<$2>, etc... from being filled in.
117
118   "hello" =~ /(hi|hello)/;   # $1 is "hello"
119   "hello" =~ /(hi|hello)/n;  # $1 is undef
120
121 This is equivalent to putting C<?:> at the beginning of every capturing group:
122
123   "hello" =~ /(?:hi|hello)/; # $1 is undef
124
125 C</n> can be negated on a per-group basis. Alternatively, named captures
126 may still be used.
127
128   "hello" =~ /(?-n:(hi|hello))/n;   # $1 is "hello"
129   "hello" =~ /(?<greet>hi|hello)/n; # $1 is "hello", $+{greet} is
130                                     # "hello"
131
132 =item Other Modifiers
133
134 There are a number of flags that can be found at the end of regular
135 expression constructs that are I<not> generic regular expression flags, but
136 apply to the operation being performed, like matching or substitution (C<m//>
137 or C<s///> respectively).
138
139 Flags described further in
140 L<perlretut/"Using regular expressions in Perl"> are:
141
142   c  - keep the current position during repeated matching
143   g  - globally match the pattern repeatedly in the string
144
145 Substitution-specific modifiers described in
146
147 L<perlop/"s/PATTERN/REPLACEMENT/msixpodualngcer"> are:
148
149   e  - evaluate the right-hand side as an expression
150   ee - evaluate the right side as a string then eval the result
151   o  - pretend to optimize your code, but actually introduce bugs
152   r  - perform non-destructive substitution and return the new value
153
154 =back
155
156 Regular expression modifiers are usually written in documentation
157 as e.g., "the C</x> modifier", even though the delimiter
158 in question might not really be a slash.  The modifiers C</imnsxadlup>
159 may also be embedded within the regular expression itself using
160 the C<(?...)> construct, see L</Extended Patterns> below.
161
162 =head3 Details on some modifiers
163
164 Some of the modifiers require more explanation than given in the
165 L</Overview> above.
166
167 =head4 /x
168
169 C</x> tells
170 the regular expression parser to ignore most whitespace that is neither
171 backslashed nor within a bracketed character class.  You can use this to
172 break up your regular expression into (slightly) more readable parts.
173 Also, the C<"#"> character is treated as a metacharacter introducing a
174 comment that runs up to the pattern's closing delimiter, or to the end
175 of the current line if the pattern extends onto the next line.  Hence,
176 this is very much like an ordinary Perl code comment.  (You can include
177 the closing delimiter within the comment only if you precede it with a
178 backslash, so be careful!)
179
180 Use of C</x> means that if you want real
181 whitespace or C<"#"> characters in the pattern (outside a bracketed character
182 class, which is unaffected by C</x>), then you'll either have to
183 escape them (using backslashes or C<\Q...\E>) or encode them using octal,
184 hex, or C<\N{}> escapes.
185 It is ineffective to try to continue a comment onto the next line by
186 escaping the C<\n> with a backslash or C<\Q>.
187
188 You can use L</(?#text)> to create a comment that ends earlier than the
189 end of the current line, but C<text> also can't contain the closing
190 delimiter unless escaped with a backslash.
191
192 Taken together, these features go a long way towards
193 making Perl's regular expressions more readable.  Here's an example:
194
195     # Delete (most) C comments.
196     $program =~ s {
197         /\*     # Match the opening delimiter.
198         .*?     # Match a minimal number of characters.
199         \*/     # Match the closing delimiter.
200     } []gsx;
201
202 Note that anything inside
203 a C<\Q...\E> stays unaffected by C</x>.  And note that C</x> doesn't affect
204 space interpretation within a single multi-character construct.  For
205 example in C<\x{...}>, regardless of the C</x> modifier, there can be no
206 spaces.  Same for a L<quantifier|/Quantifiers> such as C<{3}> or
207 C<{5,}>.  Similarly, C<(?:...)> can't have a space between the C<"{">,
208 C<"?">, and C<":">.  Within any delimiters for such a
209 construct, allowed spaces are not affected by C</x>, and depend on the
210 construct.  For example, C<\x{...}> can't have spaces because hexadecimal
211 numbers don't have spaces in them.  But, Unicode properties can have spaces, so
212 in C<\p{...}> there can be spaces that follow the Unicode rules, for which see
213 L<perluniprops/Properties accessible through \p{} and \P{}>.
214 X</x>
215
216 The set of characters that are deemed whitespace are those that Unicode
217 calls "Pattern White Space", namely:
218
219  U+0009 CHARACTER TABULATION
220  U+000A LINE FEED
221  U+000B LINE TABULATION
222  U+000C FORM FEED
223  U+000D CARRIAGE RETURN
224  U+0020 SPACE
225  U+0085 NEXT LINE
226  U+200E LEFT-TO-RIGHT MARK
227  U+200F RIGHT-TO-LEFT MARK
228  U+2028 LINE SEPARATOR
229  U+2029 PARAGRAPH SEPARATOR
230
231 =head4 Character set modifiers
232
233 C</d>, C</u>, C</a>, and C</l>, available starting in 5.14, are called
234 the character set modifiers; they affect the character set rules
235 used for the regular expression.
236
237 The C</d>, C</u>, and C</l> modifiers are not likely to be of much use
238 to you, and so you need not worry about them very much.  They exist for
239 Perl's internal use, so that complex regular expression data structures
240 can be automatically serialized and later exactly reconstituted,
241 including all their nuances.  But, since Perl can't keep a secret, and
242 there may be rare instances where they are useful, they are documented
243 here.
244
245 The C</a> modifier, on the other hand, may be useful.  Its purpose is to
246 allow code that is to work mostly on ASCII data to not have to concern
247 itself with Unicode.
248
249 Briefly, C</l> sets the character set to that of whatever B<L>ocale is in
250 effect at the time of the execution of the pattern match.
251
252 C</u> sets the character set to B<U>nicode.
253
254 C</a> also sets the character set to Unicode, BUT adds several
255 restrictions for B<A>SCII-safe matching.
256
257 C</d> is the old, problematic, pre-5.14 B<D>efault character set
258 behavior.  Its only use is to force that old behavior.
259
260 At any given time, exactly one of these modifiers is in effect.  Their
261 existence allows Perl to keep the originally compiled behavior of a
262 regular expression, regardless of what rules are in effect when it is
263 actually executed.  And if it is interpolated into a larger regex, the
264 original's rules continue to apply to it, and only it.
265
266 The C</l> and C</u> modifiers are automatically selected for
267 regular expressions compiled within the scope of various pragmas,
268 and we recommend that in general, you use those pragmas instead of
269 specifying these modifiers explicitly.  For one thing, the modifiers
270 affect only pattern matching, and do not extend to even any replacement
271 done, whereas using the pragmas gives consistent results for all
272 appropriate operations within their scopes.  For example,
273
274  s/foo/\Ubar/il
275
276 will match "foo" using the locale's rules for case-insensitive matching,
277 but the C</l> does not affect how the C<\U> operates.  Most likely you
278 want both of them to use locale rules.  To do this, instead compile the
279 regular expression within the scope of C<use locale>.  This both
280 implicitly adds the C</l>, and applies locale rules to the C<\U>.   The
281 lesson is to C<use locale>, and not C</l> explicitly.
282
283 Similarly, it would be better to use C<use feature 'unicode_strings'>
284 instead of,
285
286  s/foo/\Lbar/iu
287
288 to get Unicode rules, as the C<\L> in the former (but not necessarily
289 the latter) would also use Unicode rules.
290
291 More detail on each of the modifiers follows.  Most likely you don't
292 need to know this detail for C</l>, C</u>, and C</d>, and can skip ahead
293 to L<E<sol>a|/E<sol>a (and E<sol>aa)>.
294
295 =head4 /l
296
297 means to use the current locale's rules (see L<perllocale>) when pattern
298 matching.  For example, C<\w> will match the "word" characters of that
299 locale, and C<"/i"> case-insensitive matching will match according to
300 the locale's case folding rules.  The locale used will be the one in
301 effect at the time of execution of the pattern match.  This may not be
302 the same as the compilation-time locale, and can differ from one match
303 to another if there is an intervening call of the
304 L<setlocale() function|perllocale/The setlocale function>.
305
306 Prior to v5.20, Perl did not support multi-byte locales.  Starting then,
307 UTF-8 locales are supported.  No other multi byte locales are ever
308 likely to be supported.  However, in all locales, one can have code
309 points above 255 and these will always be treated as Unicode no matter
310 what locale is in effect.
311
312 Under Unicode rules, there are a few case-insensitive matches that cross
313 the 255/256 boundary.  Except for UTF-8 locales in Perls v5.20 and
314 later, these are disallowed under C</l>.  For example, 0xFF (on ASCII
315 platforms) does not caselessly match the character at 0x178, C<LATIN
316 CAPITAL LETTER Y WITH DIAERESIS>, because 0xFF may not be C<LATIN SMALL
317 LETTER Y WITH DIAERESIS> in the current locale, and Perl has no way of
318 knowing if that character even exists in the locale, much less what code
319 point it is.
320
321 In a UTF-8 locale in v5.20 and later, the only visible difference
322 between locale and non-locale in regular expressions should be tainting
323 (see L<perlsec>).
324
325 This modifier may be specified to be the default by C<use locale>, but
326 see L</Which character set modifier is in effect?>.
327 X</l>
328
329 =head4 /u
330
331 means to use Unicode rules when pattern matching.  On ASCII platforms,
332 this means that the code points between 128 and 255 take on their
333 Latin-1 (ISO-8859-1) meanings (which are the same as Unicode's).
334 (Otherwise Perl considers their meanings to be undefined.)  Thus,
335 under this modifier, the ASCII platform effectively becomes a Unicode
336 platform; and hence, for example, C<\w> will match any of the more than
337 100_000 word characters in Unicode.
338
339 Unlike most locales, which are specific to a language and country pair,
340 Unicode classifies all the characters that are letters I<somewhere> in
341 the world as
342 C<\w>.  For example, your locale might not think that C<LATIN SMALL
343 LETTER ETH> is a letter (unless you happen to speak Icelandic), but
344 Unicode does.  Similarly, all the characters that are decimal digits
345 somewhere in the world will match C<\d>; this is hundreds, not 10,
346 possible matches.  And some of those digits look like some of the 10
347 ASCII digits, but mean a different number, so a human could easily think
348 a number is a different quantity than it really is.  For example,
349 C<BENGALI DIGIT FOUR> (U+09EA) looks very much like an
350 C<ASCII DIGIT EIGHT> (U+0038).  And, C<\d+>, may match strings of digits
351 that are a mixture from different writing systems, creating a security
352 issue.  L<Unicode::UCD/num()> can be used to sort
353 this out.  Or the C</a> modifier can be used to force C<\d> to match
354 just the ASCII 0 through 9.
355
356 Also, under this modifier, case-insensitive matching works on the full
357 set of Unicode
358 characters.  The C<KELVIN SIGN>, for example matches the letters "k" and
359 "K"; and C<LATIN SMALL LIGATURE FF> matches the sequence "ff", which,
360 if you're not prepared, might make it look like a hexadecimal constant,
361 presenting another potential security issue.  See
362 L<http://unicode.org/reports/tr36> for a detailed discussion of Unicode
363 security issues.
364
365 This modifier may be specified to be the default by C<use feature
366 'unicode_strings>, C<use locale ':not_characters'>, or
367 C<L<use 5.012|perlfunc/use VERSION>> (or higher),
368 but see L</Which character set modifier is in effect?>.
369 X</u>
370
371 =head4 /d
372
373 This modifier means to use the "Default" native rules of the platform
374 except when there is cause to use Unicode rules instead, as follows:
375
376 =over 4
377
378 =item 1
379
380 the target string is encoded in UTF-8; or
381
382 =item 2
383
384 the pattern is encoded in UTF-8; or
385
386 =item 3
387
388 the pattern explicitly mentions a code point that is above 255 (say by
389 C<\x{100}>); or
390
391 =item 4
392
393 the pattern uses a Unicode name (C<\N{...}>);  or
394
395 =item 5
396
397 the pattern uses a Unicode property (C<\p{...}> or C<\P{...}>); or
398
399 =item 6
400
401 the pattern uses a Unicode break (C<\b{...}> or C<\B{...}>); or
402
403 =item 7
404
405 the pattern uses L</C<(?[ ])>>
406
407 =back
408
409 Another mnemonic for this modifier is "Depends", as the rules actually
410 used depend on various things, and as a result you can get unexpected
411 results.  See L<perlunicode/The "Unicode Bug">.  The Unicode Bug has
412 become rather infamous, leading to yet another (printable) name for this
413 modifier, "Dodgy".
414
415 Unless the pattern or string are encoded in UTF-8, only ASCII characters
416 can match positively.
417
418 Here are some examples of how that works on an ASCII platform:
419
420  $str =  "\xDF";      # $str is not in UTF-8 format.
421  $str =~ /^\w/;       # No match, as $str isn't in UTF-8 format.
422  $str .= "\x{0e0b}";  # Now $str is in UTF-8 format.
423  $str =~ /^\w/;       # Match! $str is now in UTF-8 format.
424  chop $str;
425  $str =~ /^\w/;       # Still a match! $str remains in UTF-8 format.
426
427 This modifier is automatically selected by default when none of the
428 others are, so yet another name for it is "Default".
429
430 Because of the unexpected behaviors associated with this modifier, you
431 probably should only explicitly use it to maintain weird backward
432 compatibilities.
433
434 =head4 /a (and /aa)
435
436 This modifier stands for ASCII-restrict (or ASCII-safe).  This modifier,
437 unlike the others, may be doubled-up to increase its effect.
438
439 When it appears singly, it causes the sequences C<\d>, C<\s>, C<\w>, and
440 the Posix character classes to match only in the ASCII range.  They thus
441 revert to their pre-5.6, pre-Unicode meanings.  Under C</a>,  C<\d>
442 always means precisely the digits C<"0"> to C<"9">; C<\s> means the five
443 characters C<[ \f\n\r\t]>, and starting in Perl v5.18, the vertical tab;
444 C<\w> means the 63 characters
445 C<[A-Za-z0-9_]>; and likewise, all the Posix classes such as
446 C<[[:print:]]> match only the appropriate ASCII-range characters.
447
448 This modifier is useful for people who only incidentally use Unicode,
449 and who do not wish to be burdened with its complexities and security
450 concerns.
451
452 With C</a>, one can write C<\d> with confidence that it will only match
453 ASCII characters, and should the need arise to match beyond ASCII, you
454 can instead use C<\p{Digit}> (or C<\p{Word}> for C<\w>).  There are
455 similar C<\p{...}> constructs that can match beyond ASCII both white
456 space (see L<perlrecharclass/Whitespace>), and Posix classes (see
457 L<perlrecharclass/POSIX Character Classes>).  Thus, this modifier
458 doesn't mean you can't use Unicode, it means that to get Unicode
459 matching you must explicitly use a construct (C<\p{}>, C<\P{}>) that
460 signals Unicode.
461
462 As you would expect, this modifier causes, for example, C<\D> to mean
463 the same thing as C<[^0-9]>; in fact, all non-ASCII characters match
464 C<\D>, C<\S>, and C<\W>.  C<\b> still means to match at the boundary
465 between C<\w> and C<\W>, using the C</a> definitions of them (similarly
466 for C<\B>).
467
468 Otherwise, C</a> behaves like the C</u> modifier, in that
469 case-insensitive matching uses Unicode rules; for example, "k" will
470 match the Unicode C<\N{KELVIN SIGN}> under C</i> matching, and code
471 points in the Latin1 range, above ASCII will have Unicode rules when it
472 comes to case-insensitive matching.
473
474 To forbid ASCII/non-ASCII matches (like "k" with C<\N{KELVIN SIGN}>),
475 specify the C<"a"> twice, for example C</aai> or C</aia>.  (The first
476 occurrence of C<"a"> restricts the C<\d>, etc., and the second occurrence
477 adds the C</i> restrictions.)  But, note that code points outside the
478 ASCII range will use Unicode rules for C</i> matching, so the modifier
479 doesn't really restrict things to just ASCII; it just forbids the
480 intermixing of ASCII and non-ASCII.
481
482 To summarize, this modifier provides protection for applications that
483 don't wish to be exposed to all of Unicode.  Specifying it twice
484 gives added protection.
485
486 This modifier may be specified to be the default by C<use re '/a'>
487 or C<use re '/aa'>.  If you do so, you may actually have occasion to use
488 the C</u> modifier explicitly if there are a few regular expressions
489 where you do want full Unicode rules (but even here, it's best if
490 everything were under feature C<"unicode_strings">, along with the
491 C<use re '/aa'>).  Also see L</Which character set modifier is in
492 effect?>.
493 X</a>
494 X</aa>
495
496 =head4 Which character set modifier is in effect?
497
498 Which of these modifiers is in effect at any given point in a regular
499 expression depends on a fairly complex set of interactions.  These have
500 been designed so that in general you don't have to worry about it, but
501 this section gives the gory details.  As
502 explained below in L</Extended Patterns> it is possible to explicitly
503 specify modifiers that apply only to portions of a regular expression.
504 The innermost always has priority over any outer ones, and one applying
505 to the whole expression has priority over any of the default settings that are
506 described in the remainder of this section.
507
508 The C<L<use re 'E<sol>foo'|re/"'/flags' mode">> pragma can be used to set
509 default modifiers (including these) for regular expressions compiled
510 within its scope.  This pragma has precedence over the other pragmas
511 listed below that also change the defaults.
512
513 Otherwise, C<L<use locale|perllocale>> sets the default modifier to C</l>;
514 and C<L<use feature 'unicode_strings|feature>>, or
515 C<L<use 5.012|perlfunc/use VERSION>> (or higher) set the default to
516 C</u> when not in the same scope as either C<L<use locale|perllocale>>
517 or C<L<use bytes|bytes>>.
518 (C<L<use locale ':not_characters'|perllocale/Unicode and UTF-8>> also
519 sets the default to C</u>, overriding any plain C<use locale>.)
520 Unlike the mechanisms mentioned above, these
521 affect operations besides regular expressions pattern matching, and so
522 give more consistent results with other operators, including using
523 C<\U>, C<\l>, etc. in substitution replacements.
524
525 If none of the above apply, for backwards compatibility reasons, the
526 C</d> modifier is the one in effect by default.  As this can lead to
527 unexpected results, it is best to specify which other rule set should be
528 used.
529
530 =head4 Character set modifier behavior prior to Perl 5.14
531
532 Prior to 5.14, there were no explicit modifiers, but C</l> was implied
533 for regexes compiled within the scope of C<use locale>, and C</d> was
534 implied otherwise.  However, interpolating a regex into a larger regex
535 would ignore the original compilation in favor of whatever was in effect
536 at the time of the second compilation.  There were a number of
537 inconsistencies (bugs) with the C</d> modifier, where Unicode rules
538 would be used when inappropriate, and vice versa.  C<\p{}> did not imply
539 Unicode rules, and neither did all occurrences of C<\N{}>, until 5.12.
540
541 =head2 Regular Expressions
542
543 =head3 Metacharacters
544
545 The patterns used in Perl pattern matching evolved from those supplied in
546 the Version 8 regex routines.  (The routines are derived
547 (distantly) from Henry Spencer's freely redistributable reimplementation
548 of the V8 routines.)  See L<Version 8 Regular Expressions> for
549 details.
550
551 In particular the following metacharacters have their standard I<egrep>-ish
552 meanings:
553 X<metacharacter>
554 X<\> X<^> X<.> X<$> X<|> X<(> X<()> X<[> X<[]>
555
556
557     \        Quote the next metacharacter
558     ^        Match the beginning of the line
559     .        Match any character (except newline)
560     $        Match the end of the string (or before newline at the end
561              of the string)
562     |        Alternation
563     ()       Grouping
564     []       Bracketed Character class
565
566 By default, the C<"^"> character is guaranteed to match only the
567 beginning of the string, the C<"$"> character only the end (or before the
568 newline at the end), and Perl does certain optimizations with the
569 assumption that the string contains only one line.  Embedded newlines
570 will not be matched by C<"^"> or C<"$">.  You may, however, wish to treat a
571 string as a multi-line buffer, such that the C<"^"> will match after any
572 newline within the string (except if the newline is the last character in
573 the string), and C<"$"> will match before any newline.  At the
574 cost of a little more overhead, you can do this by using the /m modifier
575 on the pattern match operator.  (Older programs did this by setting C<$*>,
576 but this option was removed in perl 5.10.)
577 X<^> X<$> X</m>
578
579 To simplify multi-line substitutions, the C<"."> character never matches a
580 newline unless you use the C</s> modifier, which in effect tells Perl to pretend
581 the string is a single line--even if it isn't.
582 X<.> X</s>
583
584 =head3 Quantifiers
585
586 The following standard quantifiers are recognized:
587 X<metacharacter> X<quantifier> X<*> X<+> X<?> X<{n}> X<{n,}> X<{n,m}>
588
589     *           Match 0 or more times
590     +           Match 1 or more times
591     ?           Match 1 or 0 times
592     {n}         Match exactly n times
593     {n,}        Match at least n times
594     {n,m}       Match at least n but not more than m times
595
596 (If a curly bracket occurs in a context other than one of the
597 quantifiers listed above, where it does not form part of a backslashed
598 sequence like C<\x{...}>, it is treated as a regular character.
599 However, a deprecation warning is raised for these
600 occurrences, and in Perl v5.26, literal uses of a curly bracket will be
601 required to be escaped, say by preceding them with a backslash (C<"\{">)
602 or enclosing them within square brackets  (C<"[{]">).  This change will
603 allow for future syntax extensions (like making the lower bound of a
604 quantifier optional), and better error checking of quantifiers.)
605
606 The C<"*"> quantifier is equivalent to C<{0,}>, the C<"+">
607 quantifier to C<{1,}>, and the C<"?"> quantifier to C<{0,1}>.  I<n> and I<m> are limited
608 to non-negative integral values less than a preset limit defined when perl is built.
609 This is usually 32766 on the most common platforms.  The actual limit can
610 be seen in the error message generated by code such as this:
611
612     $_ **= $_ , / {$_} / for 2 .. 42;
613
614 By default, a quantified subpattern is "greedy", that is, it will match as
615 many times as possible (given a particular starting location) while still
616 allowing the rest of the pattern to match.  If you want it to match the
617 minimum number of times possible, follow the quantifier with a C<"?">.  Note
618 that the meanings don't change, just the "greediness":
619 X<metacharacter> X<greedy> X<greediness>
620 X<?> X<*?> X<+?> X<??> X<{n}?> X<{n,}?> X<{n,m}?>
621
622     *?        Match 0 or more times, not greedily
623     +?        Match 1 or more times, not greedily
624     ??        Match 0 or 1 time, not greedily
625     {n}?      Match exactly n times, not greedily (redundant)
626     {n,}?     Match at least n times, not greedily
627     {n,m}?    Match at least n but not more than m times, not greedily
628
629 Normally when a quantified subpattern does not allow the rest of the
630 overall pattern to match, Perl will backtrack. However, this behaviour is
631 sometimes undesirable. Thus Perl provides the "possessive" quantifier form
632 as well.
633
634  *+     Match 0 or more times and give nothing back
635  ++     Match 1 or more times and give nothing back
636  ?+     Match 0 or 1 time and give nothing back
637  {n}+   Match exactly n times and give nothing back (redundant)
638  {n,}+  Match at least n times and give nothing back
639  {n,m}+ Match at least n but not more than m times and give nothing back
640
641 For instance,
642
643    'aaaa' =~ /a++a/
644
645 will never match, as the C<a++> will gobble up all the C<a>'s in the
646 string and won't leave any for the remaining part of the pattern. This
647 feature can be extremely useful to give perl hints about where it
648 shouldn't backtrack. For instance, the typical "match a double-quoted
649 string" problem can be most efficiently performed when written as:
650
651    /"(?:[^"\\]++|\\.)*+"/
652
653 as we know that if the final quote does not match, backtracking will not
654 help. See the independent subexpression
655 L</C<< (?>pattern) >>> for more details;
656 possessive quantifiers are just syntactic sugar for that construct. For
657 instance the above example could also be written as follows:
658
659    /"(?>(?:(?>[^"\\]+)|\\.)*)"/
660
661 Note that the possessive quantifier modifier can not be be combined
662 with the non-greedy modifier. This is because it would make no sense.
663 Consider the follow equivalency table:
664
665     Illegal         Legal
666     ------------    ------
667     X??+            X{0}
668     X+?+            X{1}
669     X{min,max}?+    X{min}
670
671 =head3 Escape sequences
672
673 Because patterns are processed as double-quoted strings, the following
674 also work:
675
676  \t          tab                   (HT, TAB)
677  \n          newline               (LF, NL)
678  \r          return                (CR)
679  \f          form feed             (FF)
680  \a          alarm (bell)          (BEL)
681  \e          escape (think troff)  (ESC)
682  \cK         control char          (example: VT)
683  \x{}, \x00  character whose ordinal is the given hexadecimal number
684  \N{name}    named Unicode character or character sequence
685  \N{U+263D}  Unicode character     (example: FIRST QUARTER MOON)
686  \o{}, \000  character whose ordinal is the given octal number
687  \l          lowercase next char (think vi)
688  \u          uppercase next char (think vi)
689  \L          lowercase until \E (think vi)
690  \U          uppercase until \E (think vi)
691  \Q          quote (disable) pattern metacharacters until \E
692  \E          end either case modification or quoted section, think vi
693
694 Details are in L<perlop/Quote and Quote-like Operators>.
695
696 =head3 Character Classes and other Special Escapes
697
698 In addition, Perl defines the following:
699 X<\g> X<\k> X<\K> X<backreference>
700
701  Sequence   Note    Description
702   [...]     [1]  Match a character according to the rules of the
703                    bracketed character class defined by the "...".
704                    Example: [a-z] matches "a" or "b" or "c" ... or "z"
705   [[:...:]] [2]  Match a character according to the rules of the POSIX
706                    character class "..." within the outer bracketed
707                    character class.  Example: [[:upper:]] matches any
708                    uppercase character.
709   (?[...])  [8]  Extended bracketed character class
710   \w        [3]  Match a "word" character (alphanumeric plus "_", plus
711                    other connector punctuation chars plus Unicode
712                    marks)
713   \W        [3]  Match a non-"word" character
714   \s        [3]  Match a whitespace character
715   \S        [3]  Match a non-whitespace character
716   \d        [3]  Match a decimal digit character
717   \D        [3]  Match a non-digit character
718   \pP       [3]  Match P, named property.  Use \p{Prop} for longer names
719   \PP       [3]  Match non-P
720   \X        [4]  Match Unicode "eXtended grapheme cluster"
721   \1        [5]  Backreference to a specific capture group or buffer.
722                    '1' may actually be any positive integer.
723   \g1       [5]  Backreference to a specific or previous group,
724   \g{-1}    [5]  The number may be negative indicating a relative
725                    previous group and may optionally be wrapped in
726                    curly brackets for safer parsing.
727   \g{name}  [5]  Named backreference
728   \k<name>  [5]  Named backreference
729   \K        [6]  Keep the stuff left of the \K, don't include it in $&
730   \N        [7]  Any character but \n.  Not affected by /s modifier
731   \v        [3]  Vertical whitespace
732   \V        [3]  Not vertical whitespace
733   \h        [3]  Horizontal whitespace
734   \H        [3]  Not horizontal whitespace
735   \R        [4]  Linebreak
736
737 =over 4
738
739 =item [1]
740
741 See L<perlrecharclass/Bracketed Character Classes> for details.
742
743 =item [2]
744
745 See L<perlrecharclass/POSIX Character Classes> for details.
746
747 =item [3]
748
749 See L<perlrecharclass/Backslash sequences> for details.
750
751 =item [4]
752
753 See L<perlrebackslash/Misc> for details.
754
755 =item [5]
756
757 See L</Capture groups> below for details.
758
759 =item [6]
760
761 See L</Extended Patterns> below for details.
762
763 =item [7]
764
765 Note that C<\N> has two meanings.  When of the form C<\N{NAME}>, it matches the
766 character or character sequence whose name is C<NAME>; and similarly
767 when of the form C<\N{U+I<hex>}>, it matches the character whose Unicode
768 code point is I<hex>.  Otherwise it matches any character but C<\n>.
769
770 =item [8]
771
772 See L<perlrecharclass/Extended Bracketed Character Classes> for details.
773
774 =back
775
776 =head3 Assertions
777
778 Perl defines the following zero-width assertions:
779 X<zero-width assertion> X<assertion> X<regex, zero-width assertion>
780 X<regexp, zero-width assertion>
781 X<regular expression, zero-width assertion>
782 X<\b> X<\B> X<\A> X<\Z> X<\z> X<\G>
783
784     \b{} Match at Unicode boundary of specified type
785     \B{} Match where corresponding \b{} doesn't match
786     \b  Match a word boundary
787     \B  Match except at a word boundary
788     \A  Match only at beginning of string
789     \Z  Match only at end of string, or before newline at the end
790     \z  Match only at end of string
791     \G  Match only at pos() (e.g. at the end-of-match position
792         of prior m//g)
793
794 A Unicode boundary (C<\b{}>), available starting in v5.22, is a spot
795 between two characters, or before the first character in the string, or
796 after the final character in the string where certain criteria defined
797 by Unicode are met.  See L<perlrebackslash/\b{}, \b, \B{}, \B> for
798 details.
799
800 A word boundary (C<\b>) is a spot between two characters
801 that has a C<\w> on one side of it and a C<\W> on the other side
802 of it (in either order), counting the imaginary characters off the
803 beginning and end of the string as matching a C<\W>.  (Within
804 character classes C<\b> represents backspace rather than a word
805 boundary, just as it normally does in any double-quoted string.)
806 The C<\A> and C<\Z> are just like C<"^"> and C<"$">, except that they
807 won't match multiple times when the C</m> modifier is used, while
808 C<"^"> and C<"$"> will match at every internal line boundary.  To match
809 the actual end of the string and not ignore an optional trailing
810 newline, use C<\z>.
811 X<\b> X<\A> X<\Z> X<\z> X</m>
812
813 The C<\G> assertion can be used to chain global matches (using
814 C<m//g>), as described in L<perlop/"Regexp Quote-Like Operators">.
815 It is also useful when writing C<lex>-like scanners, when you have
816 several patterns that you want to match against consequent substrings
817 of your string; see the previous reference.  The actual location
818 where C<\G> will match can also be influenced by using C<pos()> as
819 an lvalue: see L<perlfunc/pos>. Note that the rule for zero-length
820 matches (see L</"Repeated Patterns Matching a Zero-length Substring">)
821 is modified somewhat, in that contents to the left of C<\G> are
822 not counted when determining the length of the match. Thus the following
823 will not match forever:
824 X<\G>
825
826      my $string = 'ABC';
827      pos($string) = 1;
828      while ($string =~ /(.\G)/g) {
829          print $1;
830      }
831
832 It will print 'A' and then terminate, as it considers the match to
833 be zero-width, and thus will not match at the same position twice in a
834 row.
835
836 It is worth noting that C<\G> improperly used can result in an infinite
837 loop. Take care when using patterns that include C<\G> in an alternation.
838
839 Note also that C<s///> will refuse to overwrite part of a substitution
840 that has already been replaced; so for example this will stop after the
841 first iteration, rather than iterating its way backwards through the
842 string:
843
844     $_ = "123456789";
845     pos = 6;
846     s/.(?=.\G)/X/g;
847     print;      # prints 1234X6789, not XXXXX6789
848
849
850 =head3 Capture groups
851
852 The bracketing construct C<( ... )> creates capture groups (also referred to as
853 capture buffers). To refer to the current contents of a group later on, within
854 the same pattern, use C<\g1> (or C<\g{1}>) for the first, C<\g2> (or C<\g{2}>)
855 for the second, and so on.
856 This is called a I<backreference>.
857 X<regex, capture buffer> X<regexp, capture buffer>
858 X<regex, capture group> X<regexp, capture group>
859 X<regular expression, capture buffer> X<backreference>
860 X<regular expression, capture group> X<backreference>
861 X<\g{1}> X<\g{-1}> X<\g{name}> X<relative backreference> X<named backreference>
862 X<named capture buffer> X<regular expression, named capture buffer>
863 X<named capture group> X<regular expression, named capture group>
864 X<%+> X<$+{name}> X<< \k<name> >>
865 There is no limit to the number of captured substrings that you may use.
866 Groups are numbered with the leftmost open parenthesis being number 1, etc.  If
867 a group did not match, the associated backreference won't match either. (This
868 can happen if the group is optional, or in a different branch of an
869 alternation.)
870 You can omit the C<"g">, and write C<"\1">, etc, but there are some issues with
871 this form, described below.
872
873 You can also refer to capture groups relatively, by using a negative number, so
874 that C<\g-1> and C<\g{-1}> both refer to the immediately preceding capture
875 group, and C<\g-2> and C<\g{-2}> both refer to the group before it.  For
876 example:
877
878         /
879          (Y)            # group 1
880          (              # group 2
881             (X)         # group 3
882             \g{-1}      # backref to group 3
883             \g{-3}      # backref to group 1
884          )
885         /x
886
887 would match the same as C</(Y) ( (X) \g3 \g1 )/x>.  This allows you to
888 interpolate regexes into larger regexes and not have to worry about the
889 capture groups being renumbered.
890
891 You can dispense with numbers altogether and create named capture groups.
892 The notation is C<(?E<lt>I<name>E<gt>...)> to declare and C<\g{I<name>}> to
893 reference.  (To be compatible with .Net regular expressions, C<\g{I<name>}> may
894 also be written as C<\k{I<name>}>, C<\kE<lt>I<name>E<gt>> or C<\k'I<name>'>.)
895 I<name> must not begin with a number, nor contain hyphens.
896 When different groups within the same pattern have the same name, any reference
897 to that name assumes the leftmost defined group.  Named groups count in
898 absolute and relative numbering, and so can also be referred to by those
899 numbers.
900 (It's possible to do things with named capture groups that would otherwise
901 require C<(??{})>.)
902
903 Capture group contents are dynamically scoped and available to you outside the
904 pattern until the end of the enclosing block or until the next successful
905 match, whichever comes first.  (See L<perlsyn/"Compound Statements">.)
906 You can refer to them by absolute number (using C<"$1"> instead of C<"\g1">,
907 etc); or by name via the C<%+> hash, using C<"$+{I<name>}">.
908
909 Braces are required in referring to named capture groups, but are optional for
910 absolute or relative numbered ones.  Braces are safer when creating a regex by
911 concatenating smaller strings.  For example if you have C<qr/$a$b/>, and C<$a>
912 contained C<"\g1">, and C<$b> contained C<"37">, you would get C</\g137/> which
913 is probably not what you intended.
914
915 The C<\g> and C<\k> notations were introduced in Perl 5.10.0.  Prior to that
916 there were no named nor relative numbered capture groups.  Absolute numbered
917 groups were referred to using C<\1>,
918 C<\2>, etc., and this notation is still
919 accepted (and likely always will be).  But it leads to some ambiguities if
920 there are more than 9 capture groups, as C<\10> could mean either the tenth
921 capture group, or the character whose ordinal in octal is 010 (a backspace in
922 ASCII).  Perl resolves this ambiguity by interpreting C<\10> as a backreference
923 only if at least 10 left parentheses have opened before it.  Likewise C<\11> is
924 a backreference only if at least 11 left parentheses have opened before it.
925 And so on.  C<\1> through C<\9> are always interpreted as backreferences.
926 There are several examples below that illustrate these perils.  You can avoid
927 the ambiguity by always using C<\g{}> or C<\g> if you mean capturing groups;
928 and for octal constants always using C<\o{}>, or for C<\077> and below, using 3
929 digits padded with leading zeros, since a leading zero implies an octal
930 constant.
931
932 The C<\I<digit>> notation also works in certain circumstances outside
933 the pattern.  See L</Warning on \1 Instead of $1> below for details.
934
935 Examples:
936
937     s/^([^ ]*) *([^ ]*)/$2 $1/;     # swap first two words
938
939     /(.)\g1/                        # find first doubled char
940          and print "'$1' is the first doubled character\n";
941
942     /(?<char>.)\k<char>/            # ... a different way
943          and print "'$+{char}' is the first doubled character\n";
944
945     /(?'char'.)\g1/                 # ... mix and match
946          and print "'$1' is the first doubled character\n";
947
948     if (/Time: (..):(..):(..)/) {   # parse out values
949         $hours = $1;
950         $minutes = $2;
951         $seconds = $3;
952     }
953
954     /(.)(.)(.)(.)(.)(.)(.)(.)(.)\g10/   # \g10 is a backreference
955     /(.)(.)(.)(.)(.)(.)(.)(.)(.)\10/    # \10 is octal
956     /((.)(.)(.)(.)(.)(.)(.)(.)(.))\10/  # \10 is a backreference
957     /((.)(.)(.)(.)(.)(.)(.)(.)(.))\010/ # \010 is octal
958
959     $a = '(.)\1';        # Creates problems when concatenated.
960     $b = '(.)\g{1}';     # Avoids the problems.
961     "aa" =~ /${a}/;      # True
962     "aa" =~ /${b}/;      # True
963     "aa0" =~ /${a}0/;    # False!
964     "aa0" =~ /${b}0/;    # True
965     "aa\x08" =~ /${a}0/;  # True!
966     "aa\x08" =~ /${b}0/;  # False
967
968 Several special variables also refer back to portions of the previous
969 match.  C<$+> returns whatever the last bracket match matched.
970 C<$&> returns the entire matched string.  (At one point C<$0> did
971 also, but now it returns the name of the program.)  C<$`> returns
972 everything before the matched string.  C<$'> returns everything
973 after the matched string. And C<$^N> contains whatever was matched by
974 the most-recently closed group (submatch). C<$^N> can be used in
975 extended patterns (see below), for example to assign a submatch to a
976 variable.
977 X<$+> X<$^N> X<$&> X<$`> X<$'>
978
979 These special variables, like the C<%+> hash and the numbered match variables
980 (C<$1>, C<$2>, C<$3>, etc.) are dynamically scoped
981 until the end of the enclosing block or until the next successful
982 match, whichever comes first.  (See L<perlsyn/"Compound Statements">.)
983 X<$+> X<$^N> X<$&> X<$`> X<$'>
984 X<$1> X<$2> X<$3> X<$4> X<$5> X<$6> X<$7> X<$8> X<$9>
985
986 B<NOTE>: Failed matches in Perl do not reset the match variables,
987 which makes it easier to write code that tests for a series of more
988 specific cases and remembers the best match.
989
990 B<WARNING>: If your code is to run on Perl 5.16 or earlier,
991 beware that once Perl sees that you need one of C<$&>, C<$`>, or
992 C<$'> anywhere in the program, it has to provide them for every
993 pattern match.  This may substantially slow your program.
994
995 Perl uses the same mechanism to produce C<$1>, C<$2>, etc, so you also
996 pay a price for each pattern that contains capturing parentheses.
997 (To avoid this cost while retaining the grouping behaviour, use the
998 extended regular expression C<(?: ... )> instead.)  But if you never
999 use C<$&>, C<$`> or C<$'>, then patterns I<without> capturing
1000 parentheses will not be penalized.  So avoid C<$&>, C<$'>, and C<$`>
1001 if you can, but if you can't (and some algorithms really appreciate
1002 them), once you've used them once, use them at will, because you've
1003 already paid the price.
1004 X<$&> X<$`> X<$'>
1005
1006 Perl 5.16 introduced a slightly more efficient mechanism that notes
1007 separately whether each of C<$`>, C<$&>, and C<$'> have been seen, and
1008 thus may only need to copy part of the string.  Perl 5.20 introduced a
1009 much more efficient copy-on-write mechanism which eliminates any slowdown.
1010
1011 As another workaround for this problem, Perl 5.10.0 introduced C<${^PREMATCH}>,
1012 C<${^MATCH}> and C<${^POSTMATCH}>, which are equivalent to C<$`>, C<$&>
1013 and C<$'>, B<except> that they are only guaranteed to be defined after a
1014 successful match that was executed with the C</p> (preserve) modifier.
1015 The use of these variables incurs no global performance penalty, unlike
1016 their punctuation character equivalents, however at the trade-off that you
1017 have to tell perl when you want to use them.  As of Perl 5.20, these three
1018 variables are equivalent to C<$`>, C<$&> and C<$'>, and C</p> is ignored.
1019 X</p> X<p modifier>
1020
1021 =head2 Quoting metacharacters
1022
1023 Backslashed metacharacters in Perl are alphanumeric, such as C<\b>,
1024 C<\w>, C<\n>.  Unlike some other regular expression languages, there
1025 are no backslashed symbols that aren't alphanumeric.  So anything
1026 that looks like C<\\>, C<\(>, C<\)>, C<\[>, C<\]>, C<\{>, or C<\}> is
1027 always
1028 interpreted as a literal character, not a metacharacter.  This was
1029 once used in a common idiom to disable or quote the special meanings
1030 of regular expression metacharacters in a string that you want to
1031 use for a pattern. Simply quote all non-"word" characters:
1032
1033     $pattern =~ s/(\W)/\\$1/g;
1034
1035 (If C<use locale> is set, then this depends on the current locale.)
1036 Today it is more common to use the C<L<quotemeta()|perlfunc/quotemeta>>
1037 function or the C<\Q> metaquoting escape sequence to disable all
1038 metacharacters' special meanings like this:
1039
1040     /$unquoted\Q$quoted\E$unquoted/
1041
1042 Beware that if you put literal backslashes (those not inside
1043 interpolated variables) between C<\Q> and C<\E>, double-quotish
1044 backslash interpolation may lead to confusing results.  If you
1045 I<need> to use literal backslashes within C<\Q...\E>,
1046 consult L<perlop/"Gory details of parsing quoted constructs">.
1047
1048 C<quotemeta()> and C<\Q> are fully described in L<perlfunc/quotemeta>.
1049
1050 =head2 Extended Patterns
1051
1052 Perl also defines a consistent extension syntax for features not
1053 found in standard tools like B<awk> and
1054 B<lex>.  The syntax for most of these is a
1055 pair of parentheses with a question mark as the first thing within
1056 the parentheses.  The character after the question mark indicates
1057 the extension.
1058
1059 A question mark was chosen for this and for the minimal-matching
1060 construct because 1) question marks are rare in older regular
1061 expressions, and 2) whenever you see one, you should stop and
1062 "question" exactly what is going on.  That's psychology....
1063
1064 =over 4
1065
1066 =item C<(?#text)>
1067 X<(?#)>
1068
1069 A comment.  The text is ignored.
1070 Note that Perl closes
1071 the comment as soon as it sees a C<")">, so there is no way to put a literal
1072 C<")"> in the comment.  The pattern's closing delimiter must be escaped by
1073 a backslash if it appears in the comment.
1074
1075 See L</E<sol>x> for another way to have comments in patterns.
1076
1077 =item C<(?adlupimnsx-imnsx)>
1078
1079 =item C<(?^alupimnsx)>
1080 X<(?)> X<(?^)>
1081
1082 One or more embedded pattern-match modifiers, to be turned on (or
1083 turned off, if preceded by C<"-">) for the remainder of the pattern or
1084 the remainder of the enclosing pattern group (if any).
1085
1086 This is particularly useful for dynamically-generated patterns,
1087 such as those read in from a
1088 configuration file, taken from an argument, or specified in a table
1089 somewhere.  Consider the case where some patterns want to be
1090 case-sensitive and some do not:  The case-insensitive ones merely need to
1091 include C<(?i)> at the front of the pattern.  For example:
1092
1093     $pattern = "foobar";
1094     if ( /$pattern/i ) { }
1095
1096     # more flexible:
1097
1098     $pattern = "(?i)foobar";
1099     if ( /$pattern/ ) { }
1100
1101 These modifiers are restored at the end of the enclosing group. For example,
1102
1103     ( (?i) blah ) \s+ \g1
1104
1105 will match C<blah> in any case, some spaces, and an exact (I<including the case>!)
1106 repetition of the previous word, assuming the C</x> modifier, and no C</i>
1107 modifier outside this group.
1108
1109 These modifiers do not carry over into named subpatterns called in the
1110 enclosing group. In other words, a pattern such as C<((?i)(?&NAME))> does not
1111 change the case-sensitivity of the C<"NAME"> pattern.
1112
1113 Any of these modifiers can be set to apply globally to all regular
1114 expressions compiled within the scope of a C<use re>.  See
1115 L<re/"'/flags' mode">.
1116
1117 Starting in Perl 5.14, a C<"^"> (caret or circumflex accent) immediately
1118 after the C<"?"> is a shorthand equivalent to C<d-imnsx>.  Flags (except
1119 C<"d">) may follow the caret to override it.
1120 But a minus sign is not legal with it.
1121
1122 Note that the C<a>, C<d>, C<l>, C<p>, and C<u> modifiers are special in
1123 that they can only be enabled, not disabled, and the C<a>, C<d>, C<l>, and
1124 C<u> modifiers are mutually exclusive: specifying one de-specifies the
1125 others, and a maximum of one (or two C<a>'s) may appear in the
1126 construct.  Thus, for
1127 example, C<(?-p)> will warn when compiled under C<use warnings>;
1128 C<(?-d:...)> and C<(?dl:...)> are fatal errors.
1129
1130 Note also that the C<p> modifier is special in that its presence
1131 anywhere in a pattern has a global effect.
1132
1133 =item C<(?:pattern)>
1134 X<(?:)>
1135
1136 =item C<(?adluimnsx-imnsx:pattern)>
1137
1138 =item C<(?^aluimnsx:pattern)>
1139 X<(?^:)>
1140
1141 This is for clustering, not capturing; it groups subexpressions like
1142 C<"()">, but doesn't make backreferences as C<"()"> does.  So
1143
1144     @fields = split(/\b(?:a|b|c)\b/)
1145
1146 matches the same field delimiters as
1147
1148     @fields = split(/\b(a|b|c)\b/)
1149
1150 but doesn't spit out the delimiters themselves as extra fields (even though
1151 that's the behaviour of L<perlfunc/split> when its pattern contains capturing
1152 groups).  It's also cheaper not to capture
1153 characters if you don't need to.
1154
1155 Any letters between C<"?"> and C<":"> act as flags modifiers as with
1156 C<(?adluimnsx-imnsx)>.  For example,
1157
1158     /(?s-i:more.*than).*million/i
1159
1160 is equivalent to the more verbose
1161
1162     /(?:(?s-i)more.*than).*million/i
1163
1164 Note that any C<()> constructs enclosed within this one will still
1165 capture unless the C</n> modifier is in effect.
1166
1167 Starting in Perl 5.14, a C<"^"> (caret or circumflex accent) immediately
1168 after the C<"?"> is a shorthand equivalent to C<d-imnsx>.  Any positive
1169 flags (except C<"d">) may follow the caret, so
1170
1171     (?^x:foo)
1172
1173 is equivalent to
1174
1175     (?x-imns:foo)
1176
1177 The caret tells Perl that this cluster doesn't inherit the flags of any
1178 surrounding pattern, but uses the system defaults (C<d-imnsx>),
1179 modified by any flags specified.
1180
1181 The caret allows for simpler stringification of compiled regular
1182 expressions.  These look like
1183
1184     (?^:pattern)
1185
1186 with any non-default flags appearing between the caret and the colon.
1187 A test that looks at such stringification thus doesn't need to have the
1188 system default flags hard-coded in it, just the caret.  If new flags are
1189 added to Perl, the meaning of the caret's expansion will change to include
1190 the default for those flags, so the test will still work, unchanged.
1191
1192 Specifying a negative flag after the caret is an error, as the flag is
1193 redundant.
1194
1195 Mnemonic for C<(?^...)>:  A fresh beginning since the usual use of a caret is
1196 to match at the beginning.
1197
1198 =item C<(?|pattern)>
1199 X<(?|)> X<Branch reset>
1200
1201 This is the "branch reset" pattern, which has the special property
1202 that the capture groups are numbered from the same starting point
1203 in each alternation branch. It is available starting from perl 5.10.0.
1204
1205 Capture groups are numbered from left to right, but inside this
1206 construct the numbering is restarted for each branch.
1207
1208 The numbering within each branch will be as normal, and any groups
1209 following this construct will be numbered as though the construct
1210 contained only one branch, that being the one with the most capture
1211 groups in it.
1212
1213 This construct is useful when you want to capture one of a
1214 number of alternative matches.
1215
1216 Consider the following pattern.  The numbers underneath show in
1217 which group the captured content will be stored.
1218
1219
1220     # before  ---------------branch-reset----------- after        
1221     / ( a )  (?| x ( y ) z | (p (q) r) | (t) u (v) ) ( z ) /x
1222     # 1            2         2  3        2     3     4  
1223
1224 Be careful when using the branch reset pattern in combination with 
1225 named captures. Named captures are implemented as being aliases to 
1226 numbered groups holding the captures, and that interferes with the
1227 implementation of the branch reset pattern. If you are using named
1228 captures in a branch reset pattern, it's best to use the same names,
1229 in the same order, in each of the alternations:
1230
1231    /(?|  (?<a> x ) (?<b> y )
1232       |  (?<a> z ) (?<b> w )) /x
1233
1234 Not doing so may lead to surprises:
1235
1236   "12" =~ /(?| (?<a> \d+ ) | (?<b> \D+))/x;
1237   say $+{a};    # Prints '12'
1238   say $+{b};    # *Also* prints '12'.
1239
1240 The problem here is that both the group named C<< a >> and the group
1241 named C<< b >> are aliases for the group belonging to C<< $1 >>.
1242
1243 =item Lookaround Assertions
1244 X<look-around assertion> X<lookaround assertion> X<look-around> X<lookaround>
1245
1246 Lookaround assertions are zero-width patterns which match a specific
1247 pattern without including it in C<$&>. Positive assertions match when
1248 their subpattern matches, negative assertions match when their subpattern
1249 fails. Lookbehind matches text up to the current match position,
1250 lookahead matches text following the current match position.
1251
1252 =over 4
1253
1254 =item C<(?=pattern)>
1255 X<(?=)> X<look-ahead, positive> X<lookahead, positive>
1256
1257 A zero-width positive lookahead assertion.  For example, C</\w+(?=\t)/>
1258 matches a word followed by a tab, without including the tab in C<$&>.
1259
1260 =item C<(?!pattern)>
1261 X<(?!)> X<look-ahead, negative> X<lookahead, negative>
1262
1263 A zero-width negative lookahead assertion.  For example C</foo(?!bar)/>
1264 matches any occurrence of "foo" that isn't followed by "bar".  Note
1265 however that lookahead and lookbehind are NOT the same thing.  You cannot
1266 use this for lookbehind.
1267
1268 If you are looking for a "bar" that isn't preceded by a "foo", C</(?!foo)bar/>
1269 will not do what you want.  That's because the C<(?!foo)> is just saying that
1270 the next thing cannot be "foo"--and it's not, it's a "bar", so "foobar" will
1271 match.  Use lookbehind instead (see below).
1272
1273 =item C<(?<=pattern)>
1274
1275 =item C<\K>
1276 X<(?<=)> X<look-behind, positive> X<lookbehind, positive> X<\K>
1277
1278 A zero-width positive lookbehind assertion.  For example, C</(?<=\t)\w+/>
1279 matches a word that follows a tab, without including the tab in C<$&>.
1280 Works only for fixed-width lookbehind.
1281
1282 There is a special form of this construct, called C<\K> (available since
1283 Perl 5.10.0), which causes the
1284 regex engine to "keep" everything it had matched prior to the C<\K> and
1285 not include it in C<$&>. This effectively provides variable-length
1286 lookbehind. The use of C<\K> inside of another lookaround assertion
1287 is allowed, but the behaviour is currently not well defined.
1288
1289 For various reasons C<\K> may be significantly more efficient than the
1290 equivalent C<< (?<=...) >> construct, and it is especially useful in
1291 situations where you want to efficiently remove something following
1292 something else in a string. For instance
1293
1294   s/(foo)bar/$1/g;
1295
1296 can be rewritten as the much more efficient
1297
1298   s/foo\Kbar//g;
1299
1300 =item C<(?<!pattern)>
1301 X<(?<!)> X<look-behind, negative> X<lookbehind, negative>
1302
1303 A zero-width negative lookbehind assertion.  For example C</(?<!bar)foo/>
1304 matches any occurrence of "foo" that does not follow "bar".  Works
1305 only for fixed-width lookbehind.
1306
1307 =back
1308
1309 =item C<< (?<NAME>pattern) >>
1310
1311 =item C<(?'NAME'pattern)>
1312 X<< (?<NAME>) >> X<(?'NAME')> X<named capture> X<capture>
1313
1314 A named capture group. Identical in every respect to normal capturing
1315 parentheses C<()> but for the additional fact that the group
1316 can be referred to by name in various regular expression
1317 constructs (like C<\g{NAME}>) and can be accessed by name
1318 after a successful match via C<%+> or C<%->. See L<perlvar>
1319 for more details on the C<%+> and C<%-> hashes.
1320
1321 If multiple distinct capture groups have the same name then the
1322 C<$+{NAME}> will refer to the leftmost defined group in the match.
1323
1324 The forms C<(?'NAME'pattern)> and C<< (?<NAME>pattern) >> are equivalent.
1325
1326 B<NOTE:> While the notation of this construct is the same as the similar
1327 function in .NET regexes, the behavior is not. In Perl the groups are
1328 numbered sequentially regardless of being named or not. Thus in the
1329 pattern
1330
1331   /(x)(?<foo>y)(z)/
1332
1333 C<$+{I<foo>}> will be the same as C<$2>, and C<$3> will contain 'z' instead of
1334 the opposite which is what a .NET regex hacker might expect.
1335
1336 Currently I<NAME> is restricted to simple identifiers only.
1337 In other words, it must match C</^[_A-Za-z][_A-Za-z0-9]*\z/> or
1338 its Unicode extension (see L<utf8>),
1339 though it isn't extended by the locale (see L<perllocale>).
1340
1341 B<NOTE:> In order to make things easier for programmers with experience
1342 with the Python or PCRE regex engines, the pattern C<< (?PE<lt>NAMEE<gt>pattern) >>
1343 may be used instead of C<< (?<NAME>pattern) >>; however this form does not
1344 support the use of single quotes as a delimiter for the name.
1345
1346 =item C<< \k<NAME> >>
1347
1348 =item C<< \k'NAME' >>
1349
1350 Named backreference. Similar to numeric backreferences, except that
1351 the group is designated by name and not number. If multiple groups
1352 have the same name then it refers to the leftmost defined group in
1353 the current match.
1354
1355 It is an error to refer to a name not defined by a C<< (?<NAME>) >>
1356 earlier in the pattern.
1357
1358 Both forms are equivalent.
1359
1360 B<NOTE:> In order to make things easier for programmers with experience
1361 with the Python or PCRE regex engines, the pattern C<< (?P=NAME) >>
1362 may be used instead of C<< \k<NAME> >>.
1363
1364 =item C<(?{ code })>
1365 X<(?{})> X<regex, code in> X<regexp, code in> X<regular expression, code in>
1366
1367 B<WARNING>: Using this feature safely requires that you understand its
1368 limitations.  Code executed that has side effects may not perform identically
1369 from version to version due to the effect of future optimisations in the regex
1370 engine.  For more information on this, see L</Embedded Code Execution
1371 Frequency>.
1372
1373 This zero-width assertion executes any embedded Perl code.  It always
1374 succeeds, and its return value is set as C<$^R>.
1375
1376 In literal patterns, the code is parsed at the same time as the
1377 surrounding code. While within the pattern, control is passed temporarily
1378 back to the perl parser, until the logically-balancing closing brace is
1379 encountered. This is similar to the way that an array index expression in
1380 a literal string is handled, for example
1381
1382     "abc$array[ 1 + f('[') + g()]def"
1383
1384 In particular, braces do not need to be balanced:
1385
1386     s/abc(?{ f('{'); })/def/
1387
1388 Even in a pattern that is interpolated and compiled at run-time, literal
1389 code blocks will be compiled once, at perl compile time; the following
1390 prints "ABCD":
1391
1392     print "D";
1393     my $qr = qr/(?{ BEGIN { print "A" } })/;
1394     my $foo = "foo";
1395     /$foo$qr(?{ BEGIN { print "B" } })/;
1396     BEGIN { print "C" }
1397
1398 In patterns where the text of the code is derived from run-time
1399 information rather than appearing literally in a source code /pattern/,
1400 the code is compiled at the same time that the pattern is compiled, and
1401 for reasons of security, C<use re 'eval'> must be in scope. This is to
1402 stop user-supplied patterns containing code snippets from being
1403 executable.
1404
1405 In situations where you need to enable this with C<use re 'eval'>, you should
1406 also have taint checking enabled.  Better yet, use the carefully
1407 constrained evaluation within a Safe compartment.  See L<perlsec> for
1408 details about both these mechanisms.
1409
1410 From the viewpoint of parsing, lexical variable scope and closures,
1411
1412     /AAA(?{ BBB })CCC/
1413
1414 behaves approximately like
1415
1416     /AAA/ && do { BBB } && /CCC/
1417
1418 Similarly,
1419
1420     qr/AAA(?{ BBB })CCC/
1421
1422 behaves approximately like
1423
1424     sub { /AAA/ && do { BBB } && /CCC/ }
1425
1426 In particular:
1427
1428     { my $i = 1; $r = qr/(?{ print $i })/ }
1429     my $i = 2;
1430     /$r/; # prints "1"
1431
1432 Inside a C<(?{...})> block, C<$_> refers to the string the regular
1433 expression is matching against. You can also use C<pos()> to know what is
1434 the current position of matching within this string.
1435
1436 The code block introduces a new scope from the perspective of lexical
1437 variable declarations, but B<not> from the perspective of C<local> and
1438 similar localizing behaviours. So later code blocks within the same
1439 pattern will still see the values which were localized in earlier blocks.
1440 These accumulated localizations are undone either at the end of a
1441 successful match, or if the assertion is backtracked (compare
1442 L</"Backtracking">). For example,
1443
1444   $_ = 'a' x 8;
1445   m<
1446      (?{ $cnt = 0 })               # Initialize $cnt.
1447      (
1448        a
1449        (?{
1450            local $cnt = $cnt + 1;  # Update $cnt,
1451                                    # backtracking-safe.
1452        })
1453      )*
1454      aaaa
1455      (?{ $res = $cnt })            # On success copy to
1456                                    # non-localized location.
1457    >x;
1458
1459 will initially increment C<$cnt> up to 8; then during backtracking, its
1460 value will be unwound back to 4, which is the value assigned to C<$res>.
1461 At the end of the regex execution, C<$cnt> will be wound back to its initial
1462 value of 0.
1463
1464 This assertion may be used as the condition in a
1465
1466     (?(condition)yes-pattern|no-pattern)
1467
1468 switch.  If I<not> used in this way, the result of evaluation of C<code>
1469 is put into the special variable C<$^R>.  This happens immediately, so
1470 C<$^R> can be used from other C<(?{ code })> assertions inside the same
1471 regular expression.
1472
1473 The assignment to C<$^R> above is properly localized, so the old
1474 value of C<$^R> is restored if the assertion is backtracked; compare
1475 L</"Backtracking">.
1476
1477 Note that the special variable C<$^N>  is particularly useful with code
1478 blocks to capture the results of submatches in variables without having to
1479 keep track of the number of nested parentheses. For example:
1480
1481   $_ = "The brown fox jumps over the lazy dog";
1482   /the (\S+)(?{ $color = $^N }) (\S+)(?{ $animal = $^N })/i;
1483   print "color = $color, animal = $animal\n";
1484
1485
1486 =item C<(??{ code })>
1487 X<(??{})>
1488 X<regex, postponed> X<regexp, postponed> X<regular expression, postponed>
1489
1490 B<WARNING>: Using this feature safely requires that you understand its
1491 limitations.  Code executed that has side effects may not perform
1492 identically from version to version due to the effect of future
1493 optimisations in the regex engine.  For more information on this, see
1494 L</Embedded Code Execution Frequency>.
1495
1496 This is a "postponed" regular subexpression.  It behaves in I<exactly> the
1497 same way as a C<(?{ code })> code block as described above, except that
1498 its return value, rather than being assigned to C<$^R>, is treated as a
1499 pattern, compiled if it's a string (or used as-is if its a qr// object),
1500 then matched as if it were inserted instead of this construct.
1501
1502 During the matching of this sub-pattern, it has its own set of
1503 captures which are valid during the sub-match, but are discarded once
1504 control returns to the main pattern. For example, the following matches,
1505 with the inner pattern capturing "B" and matching "BB", while the outer
1506 pattern captures "A";
1507
1508     my $inner = '(.)\1';
1509     "ABBA" =~ /^(.)(??{ $inner })\1/;
1510     print $1; # prints "A";
1511
1512 Note that this means that  there is no way for the inner pattern to refer
1513 to a capture group defined outside.  (The code block itself can use C<$1>,
1514 etc., to refer to the enclosing pattern's capture groups.)  Thus, although
1515
1516     ('a' x 100)=~/(??{'(.)' x 100})/
1517
1518 I<will> match, it will I<not> set C<$1> on exit.
1519
1520 The following pattern matches a parenthesized group:
1521
1522  $re = qr{
1523             \(
1524             (?:
1525                (?> [^()]+ )  # Non-parens without backtracking
1526              |
1527                (??{ $re })   # Group with matching parens
1528             )*
1529             \)
1530          }x;
1531
1532 See also
1533 L<C<(?I<PARNO>)>|/(?PARNO) (?-PARNO) (?+PARNO) (?R) (?0)>
1534 for a different, more efficient way to accomplish
1535 the same task.
1536
1537 Executing a postponed regular expression 50 times without consuming any
1538 input string will result in a fatal error.  The maximum depth is compiled
1539 into perl, so changing it requires a custom build.
1540
1541 =item C<(?I<PARNO>)> C<(?-I<PARNO>)> C<(?+I<PARNO>)> C<(?R)> C<(?0)>
1542 X<(?PARNO)> X<(?1)> X<(?R)> X<(?0)> X<(?-1)> X<(?+1)> X<(?-PARNO)> X<(?+PARNO)>
1543 X<regex, recursive> X<regexp, recursive> X<regular expression, recursive>
1544 X<regex, relative recursion> X<GOSUB> X<GOSTART>
1545
1546 Recursive subpattern. Treat the contents of a given capture buffer in the
1547 current pattern as an independent subpattern and attempt to match it at
1548 the current position in the string. Information about capture state from
1549 the caller for things like backreferences is available to the subpattern,
1550 but capture buffers set by the subpattern are not visible to the caller.
1551
1552 Similar to C<(??{ code })> except that it does not involve executing any
1553 code or potentially compiling a returned pattern string; instead it treats
1554 the part of the current pattern contained within a specified capture group
1555 as an independent pattern that must match at the current position. Also
1556 different is the treatment of capture buffers, unlike C<(??{ code })>
1557 recursive patterns have access to their caller's match state, so one can
1558 use backreferences safely.
1559
1560 I<PARNO> is a sequence of digits (not starting with 0) whose value reflects
1561 the paren-number of the capture group to recurse to. C<(?R)> recurses to
1562 the beginning of the whole pattern. C<(?0)> is an alternate syntax for
1563 C<(?R)>. If I<PARNO> is preceded by a plus or minus sign then it is assumed
1564 to be relative, with negative numbers indicating preceding capture groups
1565 and positive ones following. Thus C<(?-1)> refers to the most recently
1566 declared group, and C<(?+1)> indicates the next group to be declared.
1567 Note that the counting for relative recursion differs from that of
1568 relative backreferences, in that with recursion unclosed groups B<are>
1569 included.
1570
1571 The following pattern matches a function C<foo()> which may contain
1572 balanced parentheses as the argument.
1573
1574   $re = qr{ (                   # paren group 1 (full function)
1575               foo
1576               (                 # paren group 2 (parens)
1577                 \(
1578                   (             # paren group 3 (contents of parens)
1579                   (?:
1580                    (?> [^()]+ ) # Non-parens without backtracking
1581                   |
1582                    (?2)         # Recurse to start of paren group 2
1583                   )*
1584                   )
1585                 \)
1586               )
1587             )
1588           }x;
1589
1590 If the pattern was used as follows
1591
1592     'foo(bar(baz)+baz(bop))'=~/$re/
1593         and print "\$1 = $1\n",
1594                   "\$2 = $2\n",
1595                   "\$3 = $3\n";
1596
1597 the output produced should be the following:
1598
1599     $1 = foo(bar(baz)+baz(bop))
1600     $2 = (bar(baz)+baz(bop))
1601     $3 = bar(baz)+baz(bop)
1602
1603 If there is no corresponding capture group defined, then it is a
1604 fatal error.  Recursing deeper than 50 times without consuming any input
1605 string will also result in a fatal error.  The maximum depth is compiled
1606 into perl, so changing it requires a custom build.
1607
1608 The following shows how using negative indexing can make it
1609 easier to embed recursive patterns inside of a C<qr//> construct
1610 for later use:
1611
1612     my $parens = qr/(\((?:[^()]++|(?-1))*+\))/;
1613     if (/foo $parens \s+ \+ \s+ bar $parens/x) {
1614        # do something here...
1615     }
1616
1617 B<Note> that this pattern does not behave the same way as the equivalent
1618 PCRE or Python construct of the same form. In Perl you can backtrack into
1619 a recursed group, in PCRE and Python the recursed into group is treated
1620 as atomic. Also, modifiers are resolved at compile time, so constructs
1621 like C<(?i:(?1))> or C<(?:(?i)(?1))> do not affect how the sub-pattern will
1622 be processed.
1623
1624 =item C<(?&NAME)>
1625 X<(?&NAME)>
1626
1627 Recurse to a named subpattern. Identical to C<(?I<PARNO>)> except that the
1628 parenthesis to recurse to is determined by name. If multiple parentheses have
1629 the same name, then it recurses to the leftmost.
1630
1631 It is an error to refer to a name that is not declared somewhere in the
1632 pattern.
1633
1634 B<NOTE:> In order to make things easier for programmers with experience
1635 with the Python or PCRE regex engines the pattern C<< (?P>NAME) >>
1636 may be used instead of C<< (?&NAME) >>.
1637
1638 =item C<(?(condition)yes-pattern|no-pattern)>
1639 X<(?()>
1640
1641 =item C<(?(condition)yes-pattern)>
1642
1643 Conditional expression. Matches C<yes-pattern> if C<condition> yields
1644 a true value, matches C<no-pattern> otherwise. A missing pattern always
1645 matches.
1646
1647 C<(condition)> should be one of:
1648
1649 =over 4
1650
1651 =item an integer in parentheses
1652
1653 (which is valid if the corresponding pair of parentheses
1654 matched);
1655
1656 =item a lookahead/lookbehind/evaluate zero-width assertion;
1657
1658 =item a name in angle brackets or single quotes
1659
1660 (which is valid if a group with the given name matched);
1661
1662 =item the special symbol C<(R)>
1663
1664 (true when evaluated inside of recursion or eval).  Additionally the
1665 C<R> may be
1666 followed by a number, (which will be true when evaluated when recursing
1667 inside of the appropriate group), or by C<&NAME>, in which case it will
1668 be true only when evaluated during recursion in the named group.
1669
1670 =back
1671
1672 Here's a summary of the possible predicates:
1673
1674 =over 4
1675
1676 =item C<(1)> C<(2)> ...
1677
1678 Checks if the numbered capturing group has matched something.
1679 Full syntax: C<< (?(1)then|else) >>
1680
1681 =item C<(E<lt>I<NAME>E<gt>)> C<('I<NAME>')>
1682
1683 Checks if a group with the given name has matched something.
1684 Full syntax: C<< (?(<name>)then|else) >>
1685
1686 =item C<(?=...)> C<(?!...)> C<(?<=...)> C<(?<!...)>
1687
1688 Checks whether the pattern matches (or does not match, for the C<"!">
1689 variants).
1690 Full syntax: C<< (?(?=lookahead)then|else) >>
1691
1692 =item C<(?{ I<CODE> })>
1693
1694 Treats the return value of the code block as the condition.
1695 Full syntax: C<< (?(?{ code })then|else) >>
1696
1697 =item C<(R)>
1698
1699 Checks if the expression has been evaluated inside of recursion.
1700 Full syntax: C<< (?(R)then|else) >>
1701
1702 =item C<(R1)> C<(R2)> ...
1703
1704 Checks if the expression has been evaluated while executing directly
1705 inside of the n-th capture group. This check is the regex equivalent of
1706
1707   if ((caller(0))[3] eq 'subname') { ... }
1708
1709 In other words, it does not check the full recursion stack.
1710
1711 Full syntax: C<< (?(R1)then|else) >>
1712
1713 =item C<(R&I<NAME>)>
1714
1715 Similar to C<(R1)>, this predicate checks to see if we're executing
1716 directly inside of the leftmost group with a given name (this is the same
1717 logic used by C<(?&I<NAME>)> to disambiguate). It does not check the full
1718 stack, but only the name of the innermost active recursion.
1719 Full syntax: C<< (?(R&name)then|else) >>
1720
1721 =item C<(DEFINE)>
1722
1723 In this case, the yes-pattern is never directly executed, and no
1724 no-pattern is allowed. Similar in spirit to C<(?{0})> but more efficient.
1725 See below for details.
1726 Full syntax: C<< (?(DEFINE)definitions...) >>
1727
1728 =back
1729
1730 For example:
1731
1732     m{ ( \( )?
1733        [^()]+
1734        (?(1) \) )
1735      }x
1736
1737 matches a chunk of non-parentheses, possibly included in parentheses
1738 themselves.
1739
1740 A special form is the C<(DEFINE)> predicate, which never executes its
1741 yes-pattern directly, and does not allow a no-pattern. This allows one to
1742 define subpatterns which will be executed only by the recursion mechanism.
1743 This way, you can define a set of regular expression rules that can be
1744 bundled into any pattern you choose.
1745
1746 It is recommended that for this usage you put the DEFINE block at the
1747 end of the pattern, and that you name any subpatterns defined within it.
1748
1749 Also, it's worth noting that patterns defined this way probably will
1750 not be as efficient, as the optimizer is not very clever about
1751 handling them.
1752
1753 An example of how this might be used is as follows:
1754
1755   /(?<NAME>(?&NAME_PAT))(?<ADDR>(?&ADDRESS_PAT))
1756    (?(DEFINE)
1757      (?<NAME_PAT>....)
1758      (?<ADDRESS_PAT>....)
1759    )/x
1760
1761 Note that capture groups matched inside of recursion are not accessible
1762 after the recursion returns, so the extra layer of capturing groups is
1763 necessary. Thus C<$+{NAME_PAT}> would not be defined even though
1764 C<$+{NAME}> would be.
1765
1766 Finally, keep in mind that subpatterns created inside a DEFINE block
1767 count towards the absolute and relative number of captures, so this:
1768
1769     my @captures = "a" =~ /(.)                  # First capture
1770                            (?(DEFINE)
1771                                (?<EXAMPLE> 1 )  # Second capture
1772                            )/x;
1773     say scalar @captures;
1774
1775 Will output 2, not 1. This is particularly important if you intend to
1776 compile the definitions with the C<qr//> operator, and later
1777 interpolate them in another pattern.
1778
1779 =item C<< (?>pattern) >>
1780 X<backtrack> X<backtracking> X<atomic> X<possessive>
1781
1782 An "independent" subexpression, one which matches the substring
1783 that a I<standalone> C<pattern> would match if anchored at the given
1784 position, and it matches I<nothing other than this substring>.  This
1785 construct is useful for optimizations of what would otherwise be
1786 "eternal" matches, because it will not backtrack (see L</"Backtracking">).
1787 It may also be useful in places where the "grab all you can, and do not
1788 give anything back" semantic is desirable.
1789
1790 For example: C<< ^(?>a*)ab >> will never match, since C<< (?>a*) >>
1791 (anchored at the beginning of string, as above) will match I<all>
1792 characters C<a> at the beginning of string, leaving no C<a> for
1793 C<ab> to match.  In contrast, C<a*ab> will match the same as C<a+b>,
1794 since the match of the subgroup C<a*> is influenced by the following
1795 group C<ab> (see L</"Backtracking">).  In particular, C<a*> inside
1796 C<a*ab> will match fewer characters than a standalone C<a*>, since
1797 this makes the tail match.
1798
1799 C<< (?>pattern) >> does not disable backtracking altogether once it has
1800 matched. It is still possible to backtrack past the construct, but not
1801 into it. So C<< ((?>a*)|(?>b*))ar >> will still match "bar".
1802
1803 An effect similar to C<< (?>pattern) >> may be achieved by writing
1804 C<(?=(pattern))\g{-1}>.  This matches the same substring as a standalone
1805 C<a+>, and the following C<\g{-1}> eats the matched string; it therefore
1806 makes a zero-length assertion into an analogue of C<< (?>...) >>.
1807 (The difference between these two constructs is that the second one
1808 uses a capturing group, thus shifting ordinals of backreferences
1809 in the rest of a regular expression.)
1810
1811 Consider this pattern:
1812
1813     m{ \(
1814           (
1815             [^()]+           # x+
1816           |
1817             \( [^()]* \)
1818           )+
1819        \)
1820      }x
1821
1822 That will efficiently match a nonempty group with matching parentheses
1823 two levels deep or less.  However, if there is no such group, it
1824 will take virtually forever on a long string.  That's because there
1825 are so many different ways to split a long string into several
1826 substrings.  This is what C<(.+)+> is doing, and C<(.+)+> is similar
1827 to a subpattern of the above pattern.  Consider how the pattern
1828 above detects no-match on C<((()aaaaaaaaaaaaaaaaaa> in several
1829 seconds, but that each extra letter doubles this time.  This
1830 exponential performance will make it appear that your program has
1831 hung.  However, a tiny change to this pattern
1832
1833     m{ \(
1834           (
1835             (?> [^()]+ )        # change x+ above to (?> x+ )
1836           |
1837             \( [^()]* \)
1838           )+
1839        \)
1840      }x
1841
1842 which uses C<< (?>...) >> matches exactly when the one above does (verifying
1843 this yourself would be a productive exercise), but finishes in a fourth
1844 the time when used on a similar string with 1000000 C<a>s.  Be aware,
1845 however, that, when this construct is followed by a
1846 quantifier, it currently triggers a warning message under
1847 the C<use warnings> pragma or B<-w> switch saying it
1848 C<"matches null string many times in regex">.
1849
1850 On simple groups, such as the pattern C<< (?> [^()]+ ) >>, a comparable
1851 effect may be achieved by negative lookahead, as in C<[^()]+ (?! [^()] )>.
1852 This was only 4 times slower on a string with 1000000 C<a>s.
1853
1854 The "grab all you can, and do not give anything back" semantic is desirable
1855 in many situations where on the first sight a simple C<()*> looks like
1856 the correct solution.  Suppose we parse text with comments being delimited
1857 by C<"#"> followed by some optional (horizontal) whitespace.  Contrary to
1858 its appearance, C<#[ \t]*> I<is not> the correct subexpression to match
1859 the comment delimiter, because it may "give up" some whitespace if
1860 the remainder of the pattern can be made to match that way.  The correct
1861 answer is either one of these:
1862
1863     (?>#[ \t]*)
1864     #[ \t]*(?![ \t])
1865
1866 For example, to grab non-empty comments into C<$1>, one should use either
1867 one of these:
1868
1869     / (?> \# [ \t]* ) (        .+ ) /x;
1870     /     \# [ \t]*   ( [^ \t] .* ) /x;
1871
1872 Which one you pick depends on which of these expressions better reflects
1873 the above specification of comments.
1874
1875 In some literature this construct is called "atomic matching" or
1876 "possessive matching".
1877
1878 Possessive quantifiers are equivalent to putting the item they are applied
1879 to inside of one of these constructs. The following equivalences apply:
1880
1881     Quantifier Form     Bracketing Form
1882     ---------------     ---------------
1883     PAT*+               (?>PAT*)
1884     PAT++               (?>PAT+)
1885     PAT?+               (?>PAT?)
1886     PAT{min,max}+       (?>PAT{min,max})
1887
1888 =item C<(?[ ])>
1889
1890 See L<perlrecharclass/Extended Bracketed Character Classes>.
1891
1892 Note that this feature is currently L<experimental|perlpolicy/experimental>;
1893 using it yields a warning in the C<experimental::regex_sets> category.
1894
1895 =back
1896
1897 =head2 Backtracking
1898 X<backtrack> X<backtracking>
1899
1900 NOTE: This section presents an abstract approximation of regular
1901 expression behavior.  For a more rigorous (and complicated) view of
1902 the rules involved in selecting a match among possible alternatives,
1903 see L</Combining RE Pieces>.
1904
1905 A fundamental feature of regular expression matching involves the
1906 notion called I<backtracking>, which is currently used (when needed)
1907 by all regular non-possessive expression quantifiers, namely C<*>, C<*?>, C<+>,
1908 C<+?>, C<{n,m}>, and C<{n,m}?>.  Backtracking is often optimized
1909 internally, but the general principle outlined here is valid.
1910
1911 For a regular expression to match, the I<entire> regular expression must
1912 match, not just part of it.  So if the beginning of a pattern containing a
1913 quantifier succeeds in a way that causes later parts in the pattern to
1914 fail, the matching engine backs up and recalculates the beginning
1915 part--that's why it's called backtracking.
1916
1917 Here is an example of backtracking:  Let's say you want to find the
1918 word following "foo" in the string "Food is on the foo table.":
1919
1920     $_ = "Food is on the foo table.";
1921     if ( /\b(foo)\s+(\w+)/i ) {
1922         print "$2 follows $1.\n";
1923     }
1924
1925 When the match runs, the first part of the regular expression (C<\b(foo)>)
1926 finds a possible match right at the beginning of the string, and loads up
1927 C<$1> with "Foo".  However, as soon as the matching engine sees that there's
1928 no whitespace following the "Foo" that it had saved in C<$1>, it realizes its
1929 mistake and starts over again one character after where it had the
1930 tentative match.  This time it goes all the way until the next occurrence
1931 of "foo". The complete regular expression matches this time, and you get
1932 the expected output of "table follows foo."
1933
1934 Sometimes minimal matching can help a lot.  Imagine you'd like to match
1935 everything between "foo" and "bar".  Initially, you write something
1936 like this:
1937
1938     $_ =  "The food is under the bar in the barn.";
1939     if ( /foo(.*)bar/ ) {
1940         print "got <$1>\n";
1941     }
1942
1943 Which perhaps unexpectedly yields:
1944
1945   got <d is under the bar in the >
1946
1947 That's because C<.*> was greedy, so you get everything between the
1948 I<first> "foo" and the I<last> "bar".  Here it's more effective
1949 to use minimal matching to make sure you get the text between a "foo"
1950 and the first "bar" thereafter.
1951
1952     if ( /foo(.*?)bar/ ) { print "got <$1>\n" }
1953   got <d is under the >
1954
1955 Here's another example. Let's say you'd like to match a number at the end
1956 of a string, and you also want to keep the preceding part of the match.
1957 So you write this:
1958
1959     $_ = "I have 2 numbers: 53147";
1960     if ( /(.*)(\d*)/ ) {                                # Wrong!
1961         print "Beginning is <$1>, number is <$2>.\n";
1962     }
1963
1964 That won't work at all, because C<.*> was greedy and gobbled up the
1965 whole string. As C<\d*> can match on an empty string the complete
1966 regular expression matched successfully.
1967
1968     Beginning is <I have 2 numbers: 53147>, number is <>.
1969
1970 Here are some variants, most of which don't work:
1971
1972     $_ = "I have 2 numbers: 53147";
1973     @pats = qw{
1974         (.*)(\d*)
1975         (.*)(\d+)
1976         (.*?)(\d*)
1977         (.*?)(\d+)
1978         (.*)(\d+)$
1979         (.*?)(\d+)$
1980         (.*)\b(\d+)$
1981         (.*\D)(\d+)$
1982     };
1983
1984     for $pat (@pats) {
1985         printf "%-12s ", $pat;
1986         if ( /$pat/ ) {
1987             print "<$1> <$2>\n";
1988         } else {
1989             print "FAIL\n";
1990         }
1991     }
1992
1993 That will print out:
1994
1995     (.*)(\d*)    <I have 2 numbers: 53147> <>
1996     (.*)(\d+)    <I have 2 numbers: 5314> <7>
1997     (.*?)(\d*)   <> <>
1998     (.*?)(\d+)   <I have > <2>
1999     (.*)(\d+)$   <I have 2 numbers: 5314> <7>
2000     (.*?)(\d+)$  <I have 2 numbers: > <53147>
2001     (.*)\b(\d+)$ <I have 2 numbers: > <53147>
2002     (.*\D)(\d+)$ <I have 2 numbers: > <53147>
2003
2004 As you see, this can be a bit tricky.  It's important to realize that a
2005 regular expression is merely a set of assertions that gives a definition
2006 of success.  There may be 0, 1, or several different ways that the
2007 definition might succeed against a particular string.  And if there are
2008 multiple ways it might succeed, you need to understand backtracking to
2009 know which variety of success you will achieve.
2010
2011 When using lookahead assertions and negations, this can all get even
2012 trickier.  Imagine you'd like to find a sequence of non-digits not
2013 followed by "123".  You might try to write that as
2014
2015     $_ = "ABC123";
2016     if ( /^\D*(?!123)/ ) {                # Wrong!
2017         print "Yup, no 123 in $_\n";
2018     }
2019
2020 But that isn't going to match; at least, not the way you're hoping.  It
2021 claims that there is no 123 in the string.  Here's a clearer picture of
2022 why that pattern matches, contrary to popular expectations:
2023
2024     $x = 'ABC123';
2025     $y = 'ABC445';
2026
2027     print "1: got $1\n" if $x =~ /^(ABC)(?!123)/;
2028     print "2: got $1\n" if $y =~ /^(ABC)(?!123)/;
2029
2030     print "3: got $1\n" if $x =~ /^(\D*)(?!123)/;
2031     print "4: got $1\n" if $y =~ /^(\D*)(?!123)/;
2032
2033 This prints
2034
2035     2: got ABC
2036     3: got AB
2037     4: got ABC
2038
2039 You might have expected test 3 to fail because it seems to a more
2040 general purpose version of test 1.  The important difference between
2041 them is that test 3 contains a quantifier (C<\D*>) and so can use
2042 backtracking, whereas test 1 will not.  What's happening is
2043 that you've asked "Is it true that at the start of C<$x>, following 0 or more
2044 non-digits, you have something that's not 123?"  If the pattern matcher had
2045 let C<\D*> expand to "ABC", this would have caused the whole pattern to
2046 fail.
2047
2048 The search engine will initially match C<\D*> with "ABC".  Then it will
2049 try to match C<(?!123)> with "123", which fails.  But because
2050 a quantifier (C<\D*>) has been used in the regular expression, the
2051 search engine can backtrack and retry the match differently
2052 in the hope of matching the complete regular expression.
2053
2054 The pattern really, I<really> wants to succeed, so it uses the
2055 standard pattern back-off-and-retry and lets C<\D*> expand to just "AB" this
2056 time.  Now there's indeed something following "AB" that is not
2057 "123".  It's "C123", which suffices.
2058
2059 We can deal with this by using both an assertion and a negation.
2060 We'll say that the first part in C<$1> must be followed both by a digit
2061 and by something that's not "123".  Remember that the lookaheads
2062 are zero-width expressions--they only look, but don't consume any
2063 of the string in their match.  So rewriting this way produces what
2064 you'd expect; that is, case 5 will fail, but case 6 succeeds:
2065
2066     print "5: got $1\n" if $x =~ /^(\D*)(?=\d)(?!123)/;
2067     print "6: got $1\n" if $y =~ /^(\D*)(?=\d)(?!123)/;
2068
2069     6: got ABC
2070
2071 In other words, the two zero-width assertions next to each other work as though
2072 they're ANDed together, just as you'd use any built-in assertions:  C</^$/>
2073 matches only if you're at the beginning of the line AND the end of the
2074 line simultaneously.  The deeper underlying truth is that juxtaposition in
2075 regular expressions always means AND, except when you write an explicit OR
2076 using the vertical bar.  C</ab/> means match "a" AND (then) match "b",
2077 although the attempted matches are made at different positions because "a"
2078 is not a zero-width assertion, but a one-width assertion.
2079
2080 B<WARNING>: Particularly complicated regular expressions can take
2081 exponential time to solve because of the immense number of possible
2082 ways they can use backtracking to try for a match.  For example, without
2083 internal optimizations done by the regular expression engine, this will
2084 take a painfully long time to run:
2085
2086     'aaaaaaaaaaaa' =~ /((a{0,5}){0,5})*[c]/
2087
2088 And if you used C<"*">'s in the internal groups instead of limiting them
2089 to 0 through 5 matches, then it would take forever--or until you ran
2090 out of stack space.  Moreover, these internal optimizations are not
2091 always applicable.  For example, if you put C<{0,5}> instead of C<"*">
2092 on the external group, no current optimization is applicable, and the
2093 match takes a long time to finish.
2094
2095 A powerful tool for optimizing such beasts is what is known as an
2096 "independent group",
2097 which does not backtrack (see L</C<< (?>pattern) >>>).  Note also that
2098 zero-length lookahead/lookbehind assertions will not backtrack to make
2099 the tail match, since they are in "logical" context: only
2100 whether they match is considered relevant.  For an example
2101 where side-effects of lookahead I<might> have influenced the
2102 following match, see L</C<< (?>pattern) >>>.
2103
2104 =head2 Special Backtracking Control Verbs
2105
2106 These special patterns are generally of the form C<(*I<VERB>:I<ARG>)>. Unless
2107 otherwise stated the I<ARG> argument is optional; in some cases, it is
2108 mandatory.
2109
2110 Any pattern containing a special backtracking verb that allows an argument
2111 has the special behaviour that when executed it sets the current package's
2112 C<$REGERROR> and C<$REGMARK> variables. When doing so the following
2113 rules apply:
2114
2115 On failure, the C<$REGERROR> variable will be set to the I<ARG> value of the
2116 verb pattern, if the verb was involved in the failure of the match. If the
2117 I<ARG> part of the pattern was omitted, then C<$REGERROR> will be set to the
2118 name of the last C<(*MARK:NAME)> pattern executed, or to TRUE if there was
2119 none. Also, the C<$REGMARK> variable will be set to FALSE.
2120
2121 On a successful match, the C<$REGERROR> variable will be set to FALSE, and
2122 the C<$REGMARK> variable will be set to the name of the last
2123 C<(*MARK:NAME)> pattern executed.  See the explanation for the
2124 C<(*MARK:NAME)> verb below for more details.
2125
2126 B<NOTE:> C<$REGERROR> and C<$REGMARK> are not magic variables like C<$1>
2127 and most other regex-related variables. They are not local to a scope, nor
2128 readonly, but instead are volatile package variables similar to C<$AUTOLOAD>.
2129 They are set in the package containing the code that I<executed> the regex
2130 (rather than the one that compiled it, where those differ).  If necessary, you
2131 can use C<local> to localize changes to these variables to a specific scope
2132 before executing a regex.
2133
2134 If a pattern does not contain a special backtracking verb that allows an
2135 argument, then C<$REGERROR> and C<$REGMARK> are not touched at all.
2136
2137 =over 3
2138
2139 =item Verbs
2140
2141 =over 4
2142
2143 =item C<(*PRUNE)> C<(*PRUNE:NAME)>
2144 X<(*PRUNE)> X<(*PRUNE:NAME)>
2145
2146 This zero-width pattern prunes the backtracking tree at the current point
2147 when backtracked into on failure. Consider the pattern C</I<A> (*PRUNE) I<B>/>,
2148 where I<A> and I<B> are complex patterns. Until the C<(*PRUNE)> verb is reached,
2149 I<A> may backtrack as necessary to match. Once it is reached, matching
2150 continues in I<B>, which may also backtrack as necessary; however, should B
2151 not match, then no further backtracking will take place, and the pattern
2152 will fail outright at the current starting position.
2153
2154 The following example counts all the possible matching strings in a
2155 pattern (without actually matching any of them).
2156
2157     'aaab' =~ /a+b?(?{print "$&\n"; $count++})(*FAIL)/;
2158     print "Count=$count\n";
2159
2160 which produces:
2161
2162     aaab
2163     aaa
2164     aa
2165     a
2166     aab
2167     aa
2168     a
2169     ab
2170     a
2171     Count=9
2172
2173 If we add a C<(*PRUNE)> before the count like the following
2174
2175     'aaab' =~ /a+b?(*PRUNE)(?{print "$&\n"; $count++})(*FAIL)/;
2176     print "Count=$count\n";
2177
2178 we prevent backtracking and find the count of the longest matching string
2179 at each matching starting point like so:
2180
2181     aaab
2182     aab
2183     ab
2184     Count=3
2185
2186 Any number of C<(*PRUNE)> assertions may be used in a pattern.
2187
2188 See also C<< (?>pattern) >> and possessive quantifiers for other ways to
2189 control backtracking. In some cases, the use of C<(*PRUNE)> can be
2190 replaced with a C<< (?>pattern) >> with no functional difference; however,
2191 C<(*PRUNE)> can be used to handle cases that cannot be expressed using a
2192 C<< (?>pattern) >> alone.
2193
2194 =item C<(*SKIP)> C<(*SKIP:NAME)>
2195 X<(*SKIP)>
2196
2197 This zero-width pattern is similar to C<(*PRUNE)>, except that on
2198 failure it also signifies that whatever text that was matched leading up
2199 to the C<(*SKIP)> pattern being executed cannot be part of I<any> match
2200 of this pattern. This effectively means that the regex engine "skips" forward
2201 to this position on failure and tries to match again, (assuming that
2202 there is sufficient room to match).
2203
2204 The name of the C<(*SKIP:NAME)> pattern has special significance. If a
2205 C<(*MARK:NAME)> was encountered while matching, then it is that position
2206 which is used as the "skip point". If no C<(*MARK)> of that name was
2207 encountered, then the C<(*SKIP)> operator has no effect. When used
2208 without a name the "skip point" is where the match point was when
2209 executing the C<(*SKIP)> pattern.
2210
2211 Compare the following to the examples in C<(*PRUNE)>; note the string
2212 is twice as long:
2213
2214  'aaabaaab' =~ /a+b?(*SKIP)(?{print "$&\n"; $count++})(*FAIL)/;
2215  print "Count=$count\n";
2216
2217 outputs
2218
2219     aaab
2220     aaab
2221     Count=2
2222
2223 Once the 'aaab' at the start of the string has matched, and the C<(*SKIP)>
2224 executed, the next starting point will be where the cursor was when the
2225 C<(*SKIP)> was executed.
2226
2227 =item C<(*MARK:NAME)> C<(*:NAME)>
2228 X<(*MARK)> X<(*MARK:NAME)> X<(*:NAME)>
2229
2230 This zero-width pattern can be used to mark the point reached in a string
2231 when a certain part of the pattern has been successfully matched. This
2232 mark may be given a name. A later C<(*SKIP)> pattern will then skip
2233 forward to that point if backtracked into on failure. Any number of
2234 C<(*MARK)> patterns are allowed, and the I<NAME> portion may be duplicated.
2235
2236 In addition to interacting with the C<(*SKIP)> pattern, C<(*MARK:NAME)>
2237 can be used to "label" a pattern branch, so that after matching, the
2238 program can determine which branches of the pattern were involved in the
2239 match.
2240
2241 When a match is successful, the C<$REGMARK> variable will be set to the
2242 name of the most recently executed C<(*MARK:NAME)> that was involved
2243 in the match.
2244
2245 This can be used to determine which branch of a pattern was matched
2246 without using a separate capture group for each branch, which in turn
2247 can result in a performance improvement, as perl cannot optimize
2248 C</(?:(x)|(y)|(z))/> as efficiently as something like
2249 C</(?:x(*MARK:x)|y(*MARK:y)|z(*MARK:z))/>.
2250
2251 When a match has failed, and unless another verb has been involved in
2252 failing the match and has provided its own name to use, the C<$REGERROR>
2253 variable will be set to the name of the most recently executed
2254 C<(*MARK:NAME)>.
2255
2256 See L</(*SKIP)> for more details.
2257
2258 As a shortcut C<(*MARK:NAME)> can be written C<(*:NAME)>.
2259
2260 =item C<(*THEN)> C<(*THEN:NAME)>
2261
2262 This is similar to the "cut group" operator C<::> from Perl 6.  Like
2263 C<(*PRUNE)>, this verb always matches, and when backtracked into on
2264 failure, it causes the regex engine to try the next alternation in the
2265 innermost enclosing group (capturing or otherwise) that has alternations.
2266 The two branches of a C<(?(condition)yes-pattern|no-pattern)> do not
2267 count as an alternation, as far as C<(*THEN)> is concerned.
2268
2269 Its name comes from the observation that this operation combined with the
2270 alternation operator (C<"|">) can be used to create what is essentially a
2271 pattern-based if/then/else block:
2272
2273   ( COND (*THEN) FOO | COND2 (*THEN) BAR | COND3 (*THEN) BAZ )
2274
2275 Note that if this operator is used and NOT inside of an alternation then
2276 it acts exactly like the C<(*PRUNE)> operator.
2277
2278   / A (*PRUNE) B /
2279
2280 is the same as
2281
2282   / A (*THEN) B /
2283
2284 but
2285
2286   / ( A (*THEN) B | C ) /
2287
2288 is not the same as
2289
2290   / ( A (*PRUNE) B | C ) /
2291
2292 as after matching the I<A> but failing on the I<B> the C<(*THEN)> verb will
2293 backtrack and try I<C>; but the C<(*PRUNE)> verb will simply fail.
2294
2295 =item C<(*COMMIT)> C<(*COMMIT:args)>
2296 X<(*COMMIT)>
2297
2298 This is the Perl 6 "commit pattern" C<< <commit> >> or C<:::>. It's a
2299 zero-width pattern similar to C<(*SKIP)>, except that when backtracked
2300 into on failure it causes the match to fail outright. No further attempts
2301 to find a valid match by advancing the start pointer will occur again.
2302 For example,
2303
2304  'aaabaaab' =~ /a+b?(*COMMIT)(?{print "$&\n"; $count++})(*FAIL)/;
2305  print "Count=$count\n";
2306
2307 outputs
2308
2309     aaab
2310     Count=1
2311
2312 In other words, once the C<(*COMMIT)> has been entered, and if the pattern
2313 does not match, the regex engine will not try any further matching on the
2314 rest of the string.
2315
2316 =item C<(*FAIL)> C<(*F)> C<(*FAIL:arg)>
2317 X<(*FAIL)> X<(*F)>
2318
2319 This pattern matches nothing and always fails. It can be used to force the
2320 engine to backtrack. It is equivalent to C<(?!)>, but easier to read. In
2321 fact, C<(?!)> gets optimised into C<(*FAIL)> internally. You can provide
2322 an argument so that if the match fails because of this C<FAIL> directive
2323 the argument can be obtained from C<$REGERROR>.
2324
2325 It is probably useful only when combined with C<(?{})> or C<(??{})>.
2326
2327 =item C<(*ACCEPT)> C<(*ACCEPT:arg)>
2328 X<(*ACCEPT)>
2329
2330 This pattern matches nothing and causes the end of successful matching at
2331 the point at which the C<(*ACCEPT)> pattern was encountered, regardless of
2332 whether there is actually more to match in the string. When inside of a
2333 nested pattern, such as recursion, or in a subpattern dynamically generated
2334 via C<(??{})>, only the innermost pattern is ended immediately.
2335
2336 If the C<(*ACCEPT)> is inside of capturing groups then the groups are
2337 marked as ended at the point at which the C<(*ACCEPT)> was encountered.
2338 For instance:
2339
2340   'AB' =~ /(A (A|B(*ACCEPT)|C) D)(E)/x;
2341
2342 will match, and C<$1> will be C<AB> and C<$2> will be C<B>, C<$3> will not
2343 be set. If another branch in the inner parentheses was matched, such as in the
2344 string 'ACDE', then the C<D> and C<E> would have to be matched as well.
2345
2346 You can provide an argument, which will be available in the var
2347 C<$REGMARK> after the match completes.
2348
2349 =back
2350
2351 =back
2352
2353 =head2 Version 8 Regular Expressions
2354 X<regular expression, version 8> X<regex, version 8> X<regexp, version 8>
2355
2356 In case you're not familiar with the "regular" Version 8 regex
2357 routines, here are the pattern-matching rules not described above.
2358
2359 Any single character matches itself, unless it is a I<metacharacter>
2360 with a special meaning described here or above.  You can cause
2361 characters that normally function as metacharacters to be interpreted
2362 literally by prefixing them with a C<"\"> (e.g., C<"\."> matches a C<".">, not any
2363 character; "\\" matches a C<"\">). This escape mechanism is also required
2364 for the character used as the pattern delimiter.
2365
2366 A series of characters matches that series of characters in the target
2367 string, so the pattern C<blurfl> would match "blurfl" in the target
2368 string.
2369
2370 You can specify a character class, by enclosing a list of characters
2371 in C<[]>, which will match any character from the list.  If the
2372 first character after the C<"["> is C<"^">, the class matches any character not
2373 in the list.  Within a list, the C<"-"> character specifies a
2374 range, so that C<a-z> represents all characters between "a" and "z",
2375 inclusive.  If you want either C<"-"> or C<"]"> itself to be a member of a
2376 class, put it at the start of the list (possibly after a C<"^">), or
2377 escape it with a backslash.  C<"-"> is also taken literally when it is
2378 at the end of the list, just before the closing C<"]">.  (The
2379 following all specify the same class of three characters: C<[-az]>,
2380 C<[az-]>, and C<[a\-z]>.  All are different from C<[a-z]>, which
2381 specifies a class containing twenty-six characters, even on EBCDIC-based
2382 character sets.)  Also, if you try to use the character
2383 classes C<\w>, C<\W>, C<\s>, C<\S>, C<\d>, or C<\D> as endpoints of
2384 a range, the C<"-"> is understood literally.
2385
2386 Note also that the whole range idea is rather unportable between
2387 character sets, except for four situations that Perl handles specially.
2388 Any subset of the ranges C<[A-Z]>, C<[a-z]>, and C<[0-9]> are guaranteed
2389 to match the expected subset of ASCII characters, no matter what
2390 character set the platform is running.  The fourth portable way to
2391 specify ranges is to use the C<\N{...}> syntax to specify either end
2392 point of the range.  For example, C<[\N{U+04}-\N{U+07}]> means to match
2393 the Unicode code points C<\N{U+04}>, C<\N{U+05}>, C<\N{U+06}>, and
2394 C<\N{U+07}>, whatever their native values may be on the platform.  Under
2395 L<use re 'strict'|re/'strict' mode> or within a L</C<(?[ ])>>, a warning
2396 is raised, if enabled, and the other end point of a range which has a
2397 C<\N{...}> endpoint is not portably specified.  For example,
2398
2399  [\N{U+00}-\x06]    # Warning under "use re 'strict'".
2400
2401 It is hard to understand without digging what exactly matches ranges
2402 other than subsets of C<[A-Z]>, C<[a-z]>, and C<[0-9]>.  A sound
2403 principle is to use only ranges that begin from and end at either
2404 alphabetics of equal case ([a-e], [A-E]), or digits ([0-9]).  Anything
2405 else is unsafe or unclear.  If in doubt, spell out the range in full.
2406
2407 Characters may be specified using a metacharacter syntax much like that
2408 used in C: "\n" matches a newline, "\t" a tab, "\r" a carriage return,
2409 "\f" a form feed, etc.  More generally, \I<nnn>, where I<nnn> is a string
2410 of three octal digits, matches the character whose coded character set value
2411 is I<nnn>.  Similarly, \xI<nn>, where I<nn> are hexadecimal digits,
2412 matches the character whose ordinal is I<nn>. The expression \cI<x>
2413 matches the character control-I<x>.  Finally, the C<"."> metacharacter
2414 matches any character except "\n" (unless you use C</s>).
2415
2416 You can specify a series of alternatives for a pattern using C<"|"> to
2417 separate them, so that C<fee|fie|foe> will match any of "fee", "fie",
2418 or "foe" in the target string (as would C<f(e|i|o)e>).  The
2419 first alternative includes everything from the last pattern delimiter
2420 (C<"(">, "(?:", etc. or the beginning of the pattern) up to the first C<"|">, and
2421 the last alternative contains everything from the last C<"|"> to the next
2422 closing pattern delimiter.  That's why it's common practice to include
2423 alternatives in parentheses: to minimize confusion about where they
2424 start and end.
2425
2426 Alternatives are tried from left to right, so the first
2427 alternative found for which the entire expression matches, is the one that
2428 is chosen. This means that alternatives are not necessarily greedy. For
2429 example: when matching C<foo|foot> against "barefoot", only the "foo"
2430 part will match, as that is the first alternative tried, and it successfully
2431 matches the target string. (This might not seem important, but it is
2432 important when you are capturing matched text using parentheses.)
2433
2434 Also remember that C<"|"> is interpreted as a literal within square brackets,
2435 so if you write C<[fee|fie|foe]> you're really only matching C<[feio|]>.
2436
2437 Within a pattern, you may designate subpatterns for later reference
2438 by enclosing them in parentheses, and you may refer back to the
2439 I<n>th subpattern later in the pattern using the metacharacter
2440 \I<n> or \gI<n>.  Subpatterns are numbered based on the left to right order
2441 of their opening parenthesis.  A backreference matches whatever
2442 actually matched the subpattern in the string being examined, not
2443 the rules for that subpattern.  Therefore, C<(0|0x)\d*\s\g1\d*> will
2444 match "0x1234 0x4321", but not "0x1234 01234", because subpattern
2445 1 matched "0x", even though the rule C<0|0x> could potentially match
2446 the leading 0 in the second number.
2447
2448 =head2 Warning on C<\1> Instead of C<$1>
2449
2450 Some people get too used to writing things like:
2451
2452     $pattern =~ s/(\W)/\\\1/g;
2453
2454 This is grandfathered (for \1 to \9) for the RHS of a substitute to avoid
2455 shocking the
2456 B<sed> addicts, but it's a dirty habit to get into.  That's because in
2457 PerlThink, the righthand side of an C<s///> is a double-quoted string.  C<\1> in
2458 the usual double-quoted string means a control-A.  The customary Unix
2459 meaning of C<\1> is kludged in for C<s///>.  However, if you get into the habit
2460 of doing that, you get yourself into trouble if you then add an C</e>
2461 modifier.
2462
2463     s/(\d+)/ \1 + 1 /eg;            # causes warning under -w
2464
2465 Or if you try to do
2466
2467     s/(\d+)/\1000/;
2468
2469 You can't disambiguate that by saying C<\{1}000>, whereas you can fix it with
2470 C<${1}000>.  The operation of interpolation should not be confused
2471 with the operation of matching a backreference.  Certainly they mean two
2472 different things on the I<left> side of the C<s///>.
2473
2474 =head2 Repeated Patterns Matching a Zero-length Substring
2475
2476 B<WARNING>: Difficult material (and prose) ahead.  This section needs a rewrite.
2477
2478 Regular expressions provide a terse and powerful programming language.  As
2479 with most other power tools, power comes together with the ability
2480 to wreak havoc.
2481
2482 A common abuse of this power stems from the ability to make infinite
2483 loops using regular expressions, with something as innocuous as:
2484
2485     'foo' =~ m{ ( o? )* }x;
2486
2487 The C<o?> matches at the beginning of C<'foo'>, and since the position
2488 in the string is not moved by the match, C<o?> would match again and again
2489 because of the C<"*"> quantifier.  Another common way to create a similar cycle
2490 is with the looping modifier C<//g>:
2491
2492     @matches = ( 'foo' =~ m{ o? }xg );
2493
2494 or
2495
2496     print "match: <$&>\n" while 'foo' =~ m{ o? }xg;
2497
2498 or the loop implied by C<split()>.
2499
2500 However, long experience has shown that many programming tasks may
2501 be significantly simplified by using repeated subexpressions that
2502 may match zero-length substrings.  Here's a simple example being:
2503
2504     @chars = split //, $string;           # // is not magic in split
2505     ($whitewashed = $string) =~ s/()/ /g; # parens avoid magic s// /
2506
2507 Thus Perl allows such constructs, by I<forcefully breaking
2508 the infinite loop>.  The rules for this are different for lower-level
2509 loops given by the greedy quantifiers C<*+{}>, and for higher-level
2510 ones like the C</g> modifier or C<split()> operator.
2511
2512 The lower-level loops are I<interrupted> (that is, the loop is
2513 broken) when Perl detects that a repeated expression matched a
2514 zero-length substring.   Thus
2515
2516    m{ (?: NON_ZERO_LENGTH | ZERO_LENGTH )* }x;
2517
2518 is made equivalent to
2519
2520    m{ (?: NON_ZERO_LENGTH )* (?: ZERO_LENGTH )? }x;
2521
2522 For example, this program
2523
2524    #!perl -l
2525    "aaaaab" =~ /
2526      (?:
2527         a                 # non-zero
2528         |                 # or
2529        (?{print "hello"}) # print hello whenever this
2530                           #    branch is tried
2531        (?=(b))            # zero-width assertion
2532      )*  # any number of times
2533     /x;
2534    print $&;
2535    print $1;
2536
2537 prints
2538
2539    hello
2540    aaaaa
2541    b
2542
2543 Notice that "hello" is only printed once, as when Perl sees that the sixth
2544 iteration of the outermost C<(?:)*> matches a zero-length string, it stops
2545 the C<"*">.
2546
2547 The higher-level loops preserve an additional state between iterations:
2548 whether the last match was zero-length.  To break the loop, the following
2549 match after a zero-length match is prohibited to have a length of zero.
2550 This prohibition interacts with backtracking (see L</"Backtracking">),
2551 and so the I<second best> match is chosen if the I<best> match is of
2552 zero length.
2553
2554 For example:
2555
2556     $_ = 'bar';
2557     s/\w??/<$&>/g;
2558
2559 results in C<< <><b><><a><><r><> >>.  At each position of the string the best
2560 match given by non-greedy C<??> is the zero-length match, and the I<second
2561 best> match is what is matched by C<\w>.  Thus zero-length matches
2562 alternate with one-character-long matches.
2563
2564 Similarly, for repeated C<m/()/g> the second-best match is the match at the
2565 position one notch further in the string.
2566
2567 The additional state of being I<matched with zero-length> is associated with
2568 the matched string, and is reset by each assignment to C<pos()>.
2569 Zero-length matches at the end of the previous match are ignored
2570 during C<split>.
2571
2572 =head2 Combining RE Pieces
2573
2574 Each of the elementary pieces of regular expressions which were described
2575 before (such as C<ab> or C<\Z>) could match at most one substring
2576 at the given position of the input string.  However, in a typical regular
2577 expression these elementary pieces are combined into more complicated
2578 patterns using combining operators C<ST>, C<S|T>, C<S*> etc.
2579 (in these examples C<S> and C<T> are regular subexpressions).
2580
2581 Such combinations can include alternatives, leading to a problem of choice:
2582 if we match a regular expression C<a|ab> against C<"abc">, will it match
2583 substring C<"a"> or C<"ab">?  One way to describe which substring is
2584 actually matched is the concept of backtracking (see L</"Backtracking">).
2585 However, this description is too low-level and makes you think
2586 in terms of a particular implementation.
2587
2588 Another description starts with notions of "better"/"worse".  All the
2589 substrings which may be matched by the given regular expression can be
2590 sorted from the "best" match to the "worst" match, and it is the "best"
2591 match which is chosen.  This substitutes the question of "what is chosen?"
2592 by the question of "which matches are better, and which are worse?".
2593
2594 Again, for elementary pieces there is no such question, since at most
2595 one match at a given position is possible.  This section describes the
2596 notion of better/worse for combining operators.  In the description
2597 below C<S> and C<T> are regular subexpressions.
2598
2599 =over 4
2600
2601 =item C<ST>
2602
2603 Consider two possible matches, C<AB> and C<A'B'>, C<A> and C<A'> are
2604 substrings which can be matched by C<S>, C<B> and C<B'> are substrings
2605 which can be matched by C<T>.
2606
2607 If C<A> is a better match for C<S> than C<A'>, C<AB> is a better
2608 match than C<A'B'>.
2609
2610 If C<A> and C<A'> coincide: C<AB> is a better match than C<AB'> if
2611 C<B> is a better match for C<T> than C<B'>.
2612
2613 =item C<S|T>
2614
2615 When C<S> can match, it is a better match than when only C<T> can match.
2616
2617 Ordering of two matches for C<S> is the same as for C<S>.  Similar for
2618 two matches for C<T>.
2619
2620 =item C<S{REPEAT_COUNT}>
2621
2622 Matches as C<SSS...S> (repeated as many times as necessary).
2623
2624 =item C<S{min,max}>
2625
2626 Matches as C<S{max}|S{max-1}|...|S{min+1}|S{min}>.
2627
2628 =item C<S{min,max}?>
2629
2630 Matches as C<S{min}|S{min+1}|...|S{max-1}|S{max}>.
2631
2632 =item C<S?>, C<S*>, C<S+>
2633
2634 Same as C<S{0,1}>, C<S{0,BIG_NUMBER}>, C<S{1,BIG_NUMBER}> respectively.
2635
2636 =item C<S??>, C<S*?>, C<S+?>
2637
2638 Same as C<S{0,1}?>, C<S{0,BIG_NUMBER}?>, C<S{1,BIG_NUMBER}?> respectively.
2639
2640 =item C<< (?>S) >>
2641
2642 Matches the best match for C<S> and only that.
2643
2644 =item C<(?=S)>, C<(?<=S)>
2645
2646 Only the best match for C<S> is considered.  (This is important only if
2647 C<S> has capturing parentheses, and backreferences are used somewhere
2648 else in the whole regular expression.)
2649
2650 =item C<(?!S)>, C<(?<!S)>
2651
2652 For this grouping operator there is no need to describe the ordering, since
2653 only whether or not C<S> can match is important.
2654
2655 =item C<(??{ EXPR })>, C<(?I<PARNO>)>
2656
2657 The ordering is the same as for the regular expression which is
2658 the result of EXPR, or the pattern contained by capture group I<PARNO>.
2659
2660 =item C<(?(condition)yes-pattern|no-pattern)>
2661
2662 Recall that which of C<yes-pattern> or C<no-pattern> actually matches is
2663 already determined.  The ordering of the matches is the same as for the
2664 chosen subexpression.
2665
2666 =back
2667
2668 The above recipes describe the ordering of matches I<at a given position>.
2669 One more rule is needed to understand how a match is determined for the
2670 whole regular expression: a match at an earlier position is always better
2671 than a match at a later position.
2672
2673 =head2 Creating Custom RE Engines
2674
2675 As of Perl 5.10.0, one can create custom regular expression engines.  This
2676 is not for the faint of heart, as they have to plug in at the C level.  See
2677 L<perlreapi> for more details.
2678
2679 As an alternative, overloaded constants (see L<overload>) provide a simple
2680 way to extend the functionality of the RE engine, by substituting one
2681 pattern for another.
2682
2683 Suppose that we want to enable a new RE escape-sequence C<\Y|> which
2684 matches at a boundary between whitespace characters and non-whitespace
2685 characters.  Note that C<(?=\S)(?<!\S)|(?!\S)(?<=\S)> matches exactly
2686 at these positions, so we want to have each C<\Y|> in the place of the
2687 more complicated version.  We can create a module C<customre> to do
2688 this:
2689
2690     package customre;
2691     use overload;
2692
2693     sub import {
2694       shift;
2695       die "No argument to customre::import allowed" if @_;
2696       overload::constant 'qr' => \&convert;
2697     }
2698
2699     sub invalid { die "/$_[0]/: invalid escape '\\$_[1]'"}
2700
2701     # We must also take care of not escaping the legitimate \\Y|
2702     # sequence, hence the presence of '\\' in the conversion rules.
2703     my %rules = ( '\\' => '\\\\',
2704                   'Y|' => qr/(?=\S)(?<!\S)|(?!\S)(?<=\S)/ );
2705     sub convert {
2706       my $re = shift;
2707       $re =~ s{
2708                 \\ ( \\ | Y . )
2709               }
2710               { $rules{$1} or invalid($re,$1) }sgex;
2711       return $re;
2712     }
2713
2714 Now C<use customre> enables the new escape in constant regular
2715 expressions, i.e., those without any runtime variable interpolations.
2716 As documented in L<overload>, this conversion will work only over
2717 literal parts of regular expressions.  For C<\Y|$re\Y|> the variable
2718 part of this regular expression needs to be converted explicitly
2719 (but only if the special meaning of C<\Y|> should be enabled inside C<$re>):
2720
2721     use customre;
2722     $re = <>;
2723     chomp $re;
2724     $re = customre::convert $re;
2725     /\Y|$re\Y|/;
2726
2727 =head2 Embedded Code Execution Frequency
2728
2729 The exact rules for how often (??{}) and (?{}) are executed in a pattern
2730 are unspecified.  In the case of a successful match you can assume that
2731 they DWIM and will be executed in left to right order the appropriate
2732 number of times in the accepting path of the pattern as would any other
2733 meta-pattern.  How non-accepting pathways and match failures affect the
2734 number of times a pattern is executed is specifically unspecified and
2735 may vary depending on what optimizations can be applied to the pattern
2736 and is likely to change from version to version.
2737
2738 For instance in
2739
2740   "aaabcdeeeee"=~/a(?{print "a"})b(?{print "b"})cde/;
2741
2742 the exact number of times "a" or "b" are printed out is unspecified for
2743 failure, but you may assume they will be printed at least once during
2744 a successful match, additionally you may assume that if "b" is printed,
2745 it will be preceded by at least one "a".
2746
2747 In the case of branching constructs like the following:
2748
2749   /a(b|(?{ print "a" }))c(?{ print "c" })/;
2750
2751 you can assume that the input "ac" will output "ac", and that "abc"
2752 will output only "c".
2753
2754 When embedded code is quantified, successful matches will call the
2755 code once for each matched iteration of the quantifier.  For
2756 example:
2757
2758   "good" =~ /g(?:o(?{print "o"}))*d/;
2759
2760 will output "o" twice.
2761
2762 =head2 PCRE/Python Support
2763
2764 As of Perl 5.10.0, Perl supports several Python/PCRE-specific extensions
2765 to the regex syntax. While Perl programmers are encouraged to use the
2766 Perl-specific syntax, the following are also accepted:
2767
2768 =over 4
2769
2770 =item C<< (?PE<lt>NAMEE<gt>pattern) >>
2771
2772 Define a named capture group. Equivalent to C<< (?<NAME>pattern) >>.
2773
2774 =item C<< (?P=NAME) >>
2775
2776 Backreference to a named capture group. Equivalent to C<< \g{NAME} >>.
2777
2778 =item C<< (?P>NAME) >>
2779
2780 Subroutine call to a named capture group. Equivalent to C<< (?&NAME) >>.
2781
2782 =back
2783
2784 =head1 BUGS
2785
2786 There are a number of issues with regard to case-insensitive matching
2787 in Unicode rules.  See C<i> under L</Modifiers> above.
2788
2789 This document varies from difficult to understand to completely
2790 and utterly opaque.  The wandering prose riddled with jargon is
2791 hard to fathom in several places.
2792
2793 This document needs a rewrite that separates the tutorial content
2794 from the reference content.
2795
2796 =head1 SEE ALSO
2797
2798 L<perlrequick>.
2799
2800 L<perlretut>.
2801
2802 L<perlop/"Regexp Quote-Like Operators">.
2803
2804 L<perlop/"Gory details of parsing quoted constructs">.
2805
2806 L<perlfaq6>.
2807
2808 L<perlfunc/pos>.
2809
2810 L<perllocale>.
2811
2812 L<perlebcdic>.
2813
2814 I<Mastering Regular Expressions> by Jeffrey Friedl, published
2815 by O'Reilly and Associates.