perl5133delta: Test-Harness to CPAN version 3.21 (6d31366)
[perl.git] / regexec.c
1 /*    regexec.c
2  */
3
4 /*
5  *      One Ring to rule them all, One Ring to find them
6  &
7  *     [p.v of _The Lord of the Rings_, opening poem]
8  *     [p.50 of _The Lord of the Rings_, I/iii: "The Shadow of the Past"]
9  *     [p.254 of _The Lord of the Rings_, II/ii: "The Council of Elrond"]
10  */
11
12 /* This file contains functions for executing a regular expression.  See
13  * also regcomp.c which funnily enough, contains functions for compiling
14  * a regular expression.
15  *
16  * This file is also copied at build time to ext/re/re_exec.c, where
17  * it's built with -DPERL_EXT_RE_BUILD -DPERL_EXT_RE_DEBUG -DPERL_EXT.
18  * This causes the main functions to be compiled under new names and with
19  * debugging support added, which makes "use re 'debug'" work.
20  */
21
22 /* NOTE: this is derived from Henry Spencer's regexp code, and should not
23  * confused with the original package (see point 3 below).  Thanks, Henry!
24  */
25
26 /* Additional note: this code is very heavily munged from Henry's version
27  * in places.  In some spots I've traded clarity for efficiency, so don't
28  * blame Henry for some of the lack of readability.
29  */
30
31 /* The names of the functions have been changed from regcomp and
32  * regexec to  pregcomp and pregexec in order to avoid conflicts
33  * with the POSIX routines of the same names.
34 */
35
36 #ifdef PERL_EXT_RE_BUILD
37 #include "re_top.h"
38 #endif
39
40 /*
41  * pregcomp and pregexec -- regsub and regerror are not used in perl
42  *
43  *      Copyright (c) 1986 by University of Toronto.
44  *      Written by Henry Spencer.  Not derived from licensed software.
45  *
46  *      Permission is granted to anyone to use this software for any
47  *      purpose on any computer system, and to redistribute it freely,
48  *      subject to the following restrictions:
49  *
50  *      1. The author is not responsible for the consequences of use of
51  *              this software, no matter how awful, even if they arise
52  *              from defects in it.
53  *
54  *      2. The origin of this software must not be misrepresented, either
55  *              by explicit claim or by omission.
56  *
57  *      3. Altered versions must be plainly marked as such, and must not
58  *              be misrepresented as being the original software.
59  *
60  ****    Alterations to Henry's code are...
61  ****
62  ****    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
63  ****    2000, 2001, 2002, 2003, 2004, 2005, 2006, 2007, 2008
64  ****    by Larry Wall and others
65  ****
66  ****    You may distribute under the terms of either the GNU General Public
67  ****    License or the Artistic License, as specified in the README file.
68  *
69  * Beware that some of this code is subtly aware of the way operator
70  * precedence is structured in regular expressions.  Serious changes in
71  * regular-expression syntax might require a total rethink.
72  */
73 #include "EXTERN.h"
74 #define PERL_IN_REGEXEC_C
75 #include "perl.h"
76
77 #ifdef PERL_IN_XSUB_RE
78 #  include "re_comp.h"
79 #else
80 #  include "regcomp.h"
81 #endif
82
83 #define RF_tainted      1               /* tainted information used? */
84 #define RF_warned       2               /* warned about big count? */
85
86 #define RF_utf8         8               /* Pattern contains multibyte chars? */
87
88 #define UTF_PATTERN ((PL_reg_flags & RF_utf8) != 0)
89
90 #define RS_init         1               /* eval environment created */
91 #define RS_set          2               /* replsv value is set */
92
93 #ifndef STATIC
94 #define STATIC  static
95 #endif
96
97 #define REGINCLASS(prog,p,c)  (ANYOF_FLAGS(p) ? reginclass(prog,p,c,0,0) : ANYOF_BITMAP_TEST(p,*(c)))
98
99 /*
100  * Forwards.
101  */
102
103 #define CHR_SVLEN(sv) (utf8_target ? sv_len_utf8(sv) : SvCUR(sv))
104 #define CHR_DIST(a,b) (PL_reg_match_utf8 ? utf8_distance(a,b) : a - b)
105
106 #define HOPc(pos,off) \
107         (char *)(PL_reg_match_utf8 \
108             ? reghop3((U8*)pos, off, (U8*)(off >= 0 ? PL_regeol : PL_bostr)) \
109             : (U8*)(pos + off))
110 #define HOPBACKc(pos, off) \
111         (char*)(PL_reg_match_utf8\
112             ? reghopmaybe3((U8*)pos, -off, (U8*)PL_bostr) \
113             : (pos - off >= PL_bostr)           \
114                 ? (U8*)pos - off                \
115                 : NULL)
116
117 #define HOP3(pos,off,lim) (PL_reg_match_utf8 ? reghop3((U8*)(pos), off, (U8*)(lim)) : (U8*)(pos + off))
118 #define HOP3c(pos,off,lim) ((char*)HOP3(pos,off,lim))
119
120 /* these are unrolled below in the CCC_TRY_XXX defined */
121 #define LOAD_UTF8_CHARCLASS(class,str) STMT_START { \
122     if (!CAT2(PL_utf8_,class)) { bool ok; ENTER; save_re_context(); ok=CAT2(is_utf8_,class)((const U8*)str); assert(ok); LEAVE; } } STMT_END
123
124 /* Doesn't do an assert to verify that is correct */
125 #define LOAD_UTF8_CHARCLASS_NO_CHECK(class) STMT_START { \
126     if (!CAT2(PL_utf8_,class)) { bool ok; ENTER; save_re_context(); ok=CAT2(is_utf8_,class)((const U8*)" "); LEAVE; } } STMT_END
127
128 #define LOAD_UTF8_CHARCLASS_ALNUM() LOAD_UTF8_CHARCLASS(alnum,"a")
129 #define LOAD_UTF8_CHARCLASS_DIGIT() LOAD_UTF8_CHARCLASS(digit,"0")
130 #define LOAD_UTF8_CHARCLASS_SPACE() LOAD_UTF8_CHARCLASS(space," ")
131
132 #define LOAD_UTF8_CHARCLASS_GCB()  /* Grapheme cluster boundaries */        \
133         LOAD_UTF8_CHARCLASS(X_begin, " ");                                  \
134         LOAD_UTF8_CHARCLASS(X_non_hangul, "A");                             \
135         /* These are utf8 constants, and not utf-ebcdic constants, so the   \
136             * assert should likely and hopefully fail on an EBCDIC machine */ \
137         LOAD_UTF8_CHARCLASS(X_extend, "\xcc\x80"); /* U+0300 */             \
138                                                                             \
139         /* No asserts are done for these, in case called on an early        \
140             * Unicode version in which they map to nothing */               \
141         LOAD_UTF8_CHARCLASS_NO_CHECK(X_prepend);/* U+0E40 "\xe0\xb9\x80" */ \
142         LOAD_UTF8_CHARCLASS_NO_CHECK(X_L);          /* U+1100 "\xe1\x84\x80" */ \
143         LOAD_UTF8_CHARCLASS_NO_CHECK(X_LV);     /* U+AC00 "\xea\xb0\x80" */ \
144         LOAD_UTF8_CHARCLASS_NO_CHECK(X_LVT);    /* U+AC01 "\xea\xb0\x81" */ \
145         LOAD_UTF8_CHARCLASS_NO_CHECK(X_LV_LVT_V);/* U+AC01 "\xea\xb0\x81" */\
146         LOAD_UTF8_CHARCLASS_NO_CHECK(X_T);      /* U+11A8 "\xe1\x86\xa8" */ \
147         LOAD_UTF8_CHARCLASS_NO_CHECK(X_V)       /* U+1160 "\xe1\x85\xa0" */  
148
149 /* 
150    We dont use PERL_LEGACY_UNICODE_CHARCLASS_MAPPINGS as the direct test
151    so that it is possible to override the option here without having to 
152    rebuild the entire core. as we are required to do if we change regcomp.h
153    which is where PERL_LEGACY_UNICODE_CHARCLASS_MAPPINGS is defined.
154 */
155 #if PERL_LEGACY_UNICODE_CHARCLASS_MAPPINGS
156 #define BROKEN_UNICODE_CHARCLASS_MAPPINGS
157 #endif
158
159 #ifdef BROKEN_UNICODE_CHARCLASS_MAPPINGS
160 #define LOAD_UTF8_CHARCLASS_PERL_WORD()   LOAD_UTF8_CHARCLASS_ALNUM()
161 #define LOAD_UTF8_CHARCLASS_PERL_SPACE()  LOAD_UTF8_CHARCLASS_SPACE()
162 #define LOAD_UTF8_CHARCLASS_POSIX_DIGIT() LOAD_UTF8_CHARCLASS_DIGIT()
163 #define RE_utf8_perl_word   PL_utf8_alnum
164 #define RE_utf8_perl_space  PL_utf8_space
165 #define RE_utf8_posix_digit PL_utf8_digit
166 #define perl_word  alnum
167 #define perl_space space
168 #define posix_digit digit
169 #else
170 #define LOAD_UTF8_CHARCLASS_PERL_WORD()   LOAD_UTF8_CHARCLASS(perl_word,"a")
171 #define LOAD_UTF8_CHARCLASS_PERL_SPACE()  LOAD_UTF8_CHARCLASS(perl_space," ")
172 #define LOAD_UTF8_CHARCLASS_POSIX_DIGIT() LOAD_UTF8_CHARCLASS(posix_digit,"0")
173 #define RE_utf8_perl_word   PL_utf8_perl_word
174 #define RE_utf8_perl_space  PL_utf8_perl_space
175 #define RE_utf8_posix_digit PL_utf8_posix_digit
176 #endif
177
178
179 #define CCC_TRY_AFF(NAME,NAMEL,CLASS,STR,LCFUNC_utf8,FUNC,LCFUNC)                          \
180         case NAMEL:                                                              \
181             PL_reg_flags |= RF_tainted;                                                 \
182             /* FALL THROUGH */                                                          \
183         case NAME:                                                                     \
184             if (!nextchr)                                                               \
185                 sayNO;                                                                  \
186             if (utf8_target && UTF8_IS_CONTINUED(nextchr)) {                                \
187                 if (!CAT2(PL_utf8_,CLASS)) {                                            \
188                     bool ok;                                                            \
189                     ENTER;                                                              \
190                     save_re_context();                                                  \
191                     ok=CAT2(is_utf8_,CLASS)((const U8*)STR);                            \
192                     assert(ok);                                                         \
193                     LEAVE;                                                              \
194                 }                                                                       \
195                 if (!(OP(scan) == NAME                                                  \
196                     ? cBOOL(swash_fetch(CAT2(PL_utf8_,CLASS), (U8*)locinput, utf8_target))  \
197                     : LCFUNC_utf8((U8*)locinput)))                                      \
198                 {                                                                       \
199                     sayNO;                                                              \
200                 }                                                                       \
201                 locinput += PL_utf8skip[nextchr];                                       \
202                 nextchr = UCHARAT(locinput);                                            \
203                 break;                                                                  \
204             }                                                                           \
205             if (!(OP(scan) == NAME ? FUNC(nextchr) : LCFUNC(nextchr)))                  \
206                 sayNO;                                                                  \
207             nextchr = UCHARAT(++locinput);                                              \
208             break
209
210 #define CCC_TRY_NEG(NAME,NAMEL,CLASS,STR,LCFUNC_utf8,FUNC,LCFUNC)                        \
211         case NAMEL:                                                              \
212             PL_reg_flags |= RF_tainted;                                                 \
213             /* FALL THROUGH */                                                          \
214         case NAME :                                                                     \
215             if (!nextchr && locinput >= PL_regeol)                                      \
216                 sayNO;                                                                  \
217             if (utf8_target && UTF8_IS_CONTINUED(nextchr)) {                                \
218                 if (!CAT2(PL_utf8_,CLASS)) {                                            \
219                     bool ok;                                                            \
220                     ENTER;                                                              \
221                     save_re_context();                                                  \
222                     ok=CAT2(is_utf8_,CLASS)((const U8*)STR);                            \
223                     assert(ok);                                                         \
224                     LEAVE;                                                              \
225                 }                                                                       \
226                 if ((OP(scan) == NAME                                                  \
227                     ? cBOOL(swash_fetch(CAT2(PL_utf8_,CLASS), (U8*)locinput, utf8_target))  \
228                     : LCFUNC_utf8((U8*)locinput)))                                      \
229                 {                                                                       \
230                     sayNO;                                                              \
231                 }                                                                       \
232                 locinput += PL_utf8skip[nextchr];                                       \
233                 nextchr = UCHARAT(locinput);                                            \
234                 break;                                                                  \
235             }                                                                           \
236             if ((OP(scan) == NAME ? FUNC(nextchr) : LCFUNC(nextchr)))                   \
237                 sayNO;                                                                  \
238             nextchr = UCHARAT(++locinput);                                              \
239             break
240
241
242
243
244
245 /* TODO: Combine JUMPABLE and HAS_TEXT to cache OP(rn) */
246
247 /* for use after a quantifier and before an EXACT-like node -- japhy */
248 /* it would be nice to rework regcomp.sym to generate this stuff. sigh */
249 #define JUMPABLE(rn) (      \
250     OP(rn) == OPEN ||       \
251     (OP(rn) == CLOSE && (!cur_eval || cur_eval->u.eval.close_paren != ARG(rn))) || \
252     OP(rn) == EVAL ||   \
253     OP(rn) == SUSPEND || OP(rn) == IFMATCH || \
254     OP(rn) == PLUS || OP(rn) == MINMOD || \
255     OP(rn) == KEEPS || (PL_regkind[OP(rn)] == VERB) || \
256     (PL_regkind[OP(rn)] == CURLY && ARG1(rn) > 0) \
257 )
258 #define IS_EXACT(rn) (PL_regkind[OP(rn)] == EXACT)
259
260 #define HAS_TEXT(rn) ( IS_EXACT(rn) || PL_regkind[OP(rn)] == REF )
261
262 #if 0 
263 /* Currently these are only used when PL_regkind[OP(rn)] == EXACT so
264    we don't need this definition. */
265 #define IS_TEXT(rn)   ( OP(rn)==EXACT   || OP(rn)==REF   || OP(rn)==NREF   )
266 #define IS_TEXTF(rn)  ( OP(rn)==EXACTF  || OP(rn)==REFF  || OP(rn)==NREFF  )
267 #define IS_TEXTFL(rn) ( OP(rn)==EXACTFL || OP(rn)==REFFL || OP(rn)==NREFFL )
268
269 #else
270 /* ... so we use this as its faster. */
271 #define IS_TEXT(rn)   ( OP(rn)==EXACT   )
272 #define IS_TEXTF(rn)  ( OP(rn)==EXACTF  )
273 #define IS_TEXTFL(rn) ( OP(rn)==EXACTFL )
274
275 #endif
276
277 /*
278   Search for mandatory following text node; for lookahead, the text must
279   follow but for lookbehind (rn->flags != 0) we skip to the next step.
280 */
281 #define FIND_NEXT_IMPT(rn) STMT_START { \
282     while (JUMPABLE(rn)) { \
283         const OPCODE type = OP(rn); \
284         if (type == SUSPEND || PL_regkind[type] == CURLY) \
285             rn = NEXTOPER(NEXTOPER(rn)); \
286         else if (type == PLUS) \
287             rn = NEXTOPER(rn); \
288         else if (type == IFMATCH) \
289             rn = (rn->flags == 0) ? NEXTOPER(NEXTOPER(rn)) : rn + ARG(rn); \
290         else rn += NEXT_OFF(rn); \
291     } \
292 } STMT_END 
293
294
295 static void restore_pos(pTHX_ void *arg);
296
297 #define REGCP_PAREN_ELEMS 4
298 #define REGCP_OTHER_ELEMS 5
299 #define REGCP_FRAME_ELEMS 1
300 /* REGCP_FRAME_ELEMS are not part of the REGCP_OTHER_ELEMS and
301  * are needed for the regexp context stack bookkeeping. */
302
303 STATIC CHECKPOINT
304 S_regcppush(pTHX_ I32 parenfloor)
305 {
306     dVAR;
307     const int retval = PL_savestack_ix;
308     const int paren_elems_to_push = (PL_regsize - parenfloor) * REGCP_PAREN_ELEMS;
309     const UV total_elems = paren_elems_to_push + REGCP_OTHER_ELEMS;
310     const UV elems_shifted = total_elems << SAVE_TIGHT_SHIFT;
311     int p;
312     GET_RE_DEBUG_FLAGS_DECL;
313
314     if (paren_elems_to_push < 0)
315         Perl_croak(aTHX_ "panic: paren_elems_to_push < 0");
316
317     if ((elems_shifted >> SAVE_TIGHT_SHIFT) != total_elems)
318         Perl_croak(aTHX_ "panic: paren_elems_to_push offset %"UVuf
319                    " out of range (%lu-%ld)",
320                    total_elems, (unsigned long)PL_regsize, (long)parenfloor);
321
322     SSGROW(total_elems + REGCP_FRAME_ELEMS);
323     
324     for (p = PL_regsize; p > parenfloor; p--) {
325 /* REGCP_PARENS_ELEMS are pushed per pairs of parentheses. */
326         SSPUSHINT(PL_regoffs[p].end);
327         SSPUSHINT(PL_regoffs[p].start);
328         SSPUSHPTR(PL_reg_start_tmp[p]);
329         SSPUSHINT(p);
330         DEBUG_BUFFERS_r(PerlIO_printf(Perl_debug_log,
331           "     saving \\%"UVuf" %"IVdf"(%"IVdf")..%"IVdf"\n",
332                       (UV)p, (IV)PL_regoffs[p].start,
333                       (IV)(PL_reg_start_tmp[p] - PL_bostr),
334                       (IV)PL_regoffs[p].end
335         ));
336     }
337 /* REGCP_OTHER_ELEMS are pushed in any case, parentheses or no. */
338     SSPUSHPTR(PL_regoffs);
339     SSPUSHINT(PL_regsize);
340     SSPUSHINT(*PL_reglastparen);
341     SSPUSHINT(*PL_reglastcloseparen);
342     SSPUSHPTR(PL_reginput);
343     SSPUSHUV(SAVEt_REGCONTEXT | elems_shifted); /* Magic cookie. */
344
345     return retval;
346 }
347
348 /* These are needed since we do not localize EVAL nodes: */
349 #define REGCP_SET(cp)                                           \
350     DEBUG_STATE_r(                                              \
351             PerlIO_printf(Perl_debug_log,                       \
352                 "  Setting an EVAL scope, savestack=%"IVdf"\n", \
353                 (IV)PL_savestack_ix));                          \
354     cp = PL_savestack_ix
355
356 #define REGCP_UNWIND(cp)                                        \
357     DEBUG_STATE_r(                                              \
358         if (cp != PL_savestack_ix)                              \
359             PerlIO_printf(Perl_debug_log,                       \
360                 "  Clearing an EVAL scope, savestack=%"IVdf"..%"IVdf"\n", \
361                 (IV)(cp), (IV)PL_savestack_ix));                \
362     regcpblow(cp)
363
364 STATIC char *
365 S_regcppop(pTHX_ const regexp *rex)
366 {
367     dVAR;
368     UV i;
369     char *input;
370     GET_RE_DEBUG_FLAGS_DECL;
371
372     PERL_ARGS_ASSERT_REGCPPOP;
373
374     /* Pop REGCP_OTHER_ELEMS before the parentheses loop starts. */
375     i = SSPOPUV;
376     assert((i & SAVE_MASK) == SAVEt_REGCONTEXT); /* Check that the magic cookie is there. */
377     i >>= SAVE_TIGHT_SHIFT; /* Parentheses elements to pop. */
378     input = (char *) SSPOPPTR;
379     *PL_reglastcloseparen = SSPOPINT;
380     *PL_reglastparen = SSPOPINT;
381     PL_regsize = SSPOPINT;
382     PL_regoffs=(regexp_paren_pair *) SSPOPPTR;
383
384     i -= REGCP_OTHER_ELEMS;
385     /* Now restore the parentheses context. */
386     for ( ; i > 0; i -= REGCP_PAREN_ELEMS) {
387         I32 tmps;
388         U32 paren = (U32)SSPOPINT;
389         PL_reg_start_tmp[paren] = (char *) SSPOPPTR;
390         PL_regoffs[paren].start = SSPOPINT;
391         tmps = SSPOPINT;
392         if (paren <= *PL_reglastparen)
393             PL_regoffs[paren].end = tmps;
394         DEBUG_BUFFERS_r(
395             PerlIO_printf(Perl_debug_log,
396                           "     restoring \\%"UVuf" to %"IVdf"(%"IVdf")..%"IVdf"%s\n",
397                           (UV)paren, (IV)PL_regoffs[paren].start,
398                           (IV)(PL_reg_start_tmp[paren] - PL_bostr),
399                           (IV)PL_regoffs[paren].end,
400                           (paren > *PL_reglastparen ? "(no)" : ""));
401         );
402     }
403     DEBUG_BUFFERS_r(
404         if (*PL_reglastparen + 1 <= rex->nparens) {
405             PerlIO_printf(Perl_debug_log,
406                           "     restoring \\%"IVdf"..\\%"IVdf" to undef\n",
407                           (IV)(*PL_reglastparen + 1), (IV)rex->nparens);
408         }
409     );
410 #if 1
411     /* It would seem that the similar code in regtry()
412      * already takes care of this, and in fact it is in
413      * a better location to since this code can #if 0-ed out
414      * but the code in regtry() is needed or otherwise tests
415      * requiring null fields (pat.t#187 and split.t#{13,14}
416      * (as of patchlevel 7877)  will fail.  Then again,
417      * this code seems to be necessary or otherwise
418      * this erroneously leaves $1 defined: "1" =~ /^(?:(\d)x)?\d$/
419      * --jhi updated by dapm */
420     for (i = *PL_reglastparen + 1; i <= rex->nparens; i++) {
421         if (i > PL_regsize)
422             PL_regoffs[i].start = -1;
423         PL_regoffs[i].end = -1;
424     }
425 #endif
426     return input;
427 }
428
429 #define regcpblow(cp) LEAVE_SCOPE(cp)   /* Ignores regcppush()ed data. */
430
431 /*
432  * pregexec and friends
433  */
434
435 #ifndef PERL_IN_XSUB_RE
436 /*
437  - pregexec - match a regexp against a string
438  */
439 I32
440 Perl_pregexec(pTHX_ REGEXP * const prog, char* stringarg, register char *strend,
441          char *strbeg, I32 minend, SV *screamer, U32 nosave)
442 /* strend: pointer to null at end of string */
443 /* strbeg: real beginning of string */
444 /* minend: end of match must be >=minend after stringarg. */
445 /* nosave: For optimizations. */
446 {
447     PERL_ARGS_ASSERT_PREGEXEC;
448
449     return
450         regexec_flags(prog, stringarg, strend, strbeg, minend, screamer, NULL,
451                       nosave ? 0 : REXEC_COPY_STR);
452 }
453 #endif
454
455 /*
456  * Need to implement the following flags for reg_anch:
457  *
458  * USE_INTUIT_NOML              - Useful to call re_intuit_start() first
459  * USE_INTUIT_ML
460  * INTUIT_AUTORITATIVE_NOML     - Can trust a positive answer
461  * INTUIT_AUTORITATIVE_ML
462  * INTUIT_ONCE_NOML             - Intuit can match in one location only.
463  * INTUIT_ONCE_ML
464  *
465  * Another flag for this function: SECOND_TIME (so that float substrs
466  * with giant delta may be not rechecked).
467  */
468
469 /* Assumptions: if ANCH_GPOS, then strpos is anchored. XXXX Check GPOS logic */
470
471 /* If SCREAM, then SvPVX_const(sv) should be compatible with strpos and strend.
472    Otherwise, only SvCUR(sv) is used to get strbeg. */
473
474 /* XXXX We assume that strpos is strbeg unless sv. */
475
476 /* XXXX Some places assume that there is a fixed substring.
477         An update may be needed if optimizer marks as "INTUITable"
478         RExen without fixed substrings.  Similarly, it is assumed that
479         lengths of all the strings are no more than minlen, thus they
480         cannot come from lookahead.
481         (Or minlen should take into account lookahead.) 
482   NOTE: Some of this comment is not correct. minlen does now take account
483   of lookahead/behind. Further research is required. -- demerphq
484
485 */
486
487 /* A failure to find a constant substring means that there is no need to make
488    an expensive call to REx engine, thus we celebrate a failure.  Similarly,
489    finding a substring too deep into the string means that less calls to
490    regtry() should be needed.
491
492    REx compiler's optimizer found 4 possible hints:
493         a) Anchored substring;
494         b) Fixed substring;
495         c) Whether we are anchored (beginning-of-line or \G);
496         d) First node (of those at offset 0) which may distingush positions;
497    We use a)b)d) and multiline-part of c), and try to find a position in the
498    string which does not contradict any of them.
499  */
500
501 /* Most of decisions we do here should have been done at compile time.
502    The nodes of the REx which we used for the search should have been
503    deleted from the finite automaton. */
504
505 char *
506 Perl_re_intuit_start(pTHX_ REGEXP * const rx, SV *sv, char *strpos,
507                      char *strend, const U32 flags, re_scream_pos_data *data)
508 {
509     dVAR;
510     struct regexp *const prog = (struct regexp *)SvANY(rx);
511     register I32 start_shift = 0;
512     /* Should be nonnegative! */
513     register I32 end_shift   = 0;
514     register char *s;
515     register SV *check;
516     char *strbeg;
517     char *t;
518     const bool utf8_target = (sv && SvUTF8(sv)) ? 1 : 0; /* if no sv we have to assume bytes */
519     I32 ml_anch;
520     register char *other_last = NULL;   /* other substr checked before this */
521     char *check_at = NULL;              /* check substr found at this pos */
522     const I32 multiline = prog->extflags & RXf_PMf_MULTILINE;
523     RXi_GET_DECL(prog,progi);
524 #ifdef DEBUGGING
525     const char * const i_strpos = strpos;
526 #endif
527     GET_RE_DEBUG_FLAGS_DECL;
528
529     PERL_ARGS_ASSERT_RE_INTUIT_START;
530
531     RX_MATCH_UTF8_set(rx,utf8_target);
532
533     if (RX_UTF8(rx)) {
534         PL_reg_flags |= RF_utf8;
535     }
536     DEBUG_EXECUTE_r( 
537         debug_start_match(rx, utf8_target, strpos, strend,
538             sv ? "Guessing start of match in sv for"
539                : "Guessing start of match in string for");
540               );
541
542     /* CHR_DIST() would be more correct here but it makes things slow. */
543     if (prog->minlen > strend - strpos) {
544         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
545                               "String too short... [re_intuit_start]\n"));
546         goto fail;
547     }
548                 
549     strbeg = (sv && SvPOK(sv)) ? strend - SvCUR(sv) : strpos;
550     PL_regeol = strend;
551     if (utf8_target) {
552         if (!prog->check_utf8 && prog->check_substr)
553             to_utf8_substr(prog);
554         check = prog->check_utf8;
555     } else {
556         if (!prog->check_substr && prog->check_utf8)
557             to_byte_substr(prog);
558         check = prog->check_substr;
559     }
560     if (check == &PL_sv_undef) {
561         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
562                 "Non-utf8 string cannot match utf8 check string\n"));
563         goto fail;
564     }
565     if (prog->extflags & RXf_ANCH) {    /* Match at beg-of-str or after \n */
566         ml_anch = !( (prog->extflags & RXf_ANCH_SINGLE)
567                      || ( (prog->extflags & RXf_ANCH_BOL)
568                           && !multiline ) );    /* Check after \n? */
569
570         if (!ml_anch) {
571           if ( !(prog->extflags & RXf_ANCH_GPOS) /* Checked by the caller */
572                 && !(prog->intflags & PREGf_IMPLICIT) /* not a real BOL */
573                /* SvCUR is not set on references: SvRV and SvPVX_const overlap */
574                && sv && !SvROK(sv)
575                && (strpos != strbeg)) {
576               DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Not at start...\n"));
577               goto fail;
578           }
579           if (prog->check_offset_min == prog->check_offset_max &&
580               !(prog->extflags & RXf_CANY_SEEN)) {
581             /* Substring at constant offset from beg-of-str... */
582             I32 slen;
583
584             s = HOP3c(strpos, prog->check_offset_min, strend);
585             
586             if (SvTAIL(check)) {
587                 slen = SvCUR(check);    /* >= 1 */
588
589                 if ( strend - s > slen || strend - s < slen - 1
590                      || (strend - s == slen && strend[-1] != '\n')) {
591                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "String too long...\n"));
592                     goto fail_finish;
593                 }
594                 /* Now should match s[0..slen-2] */
595                 slen--;
596                 if (slen && (*SvPVX_const(check) != *s
597                              || (slen > 1
598                                  && memNE(SvPVX_const(check), s, slen)))) {
599                   report_neq:
600                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "String not equal...\n"));
601                     goto fail_finish;
602                 }
603             }
604             else if (*SvPVX_const(check) != *s
605                      || ((slen = SvCUR(check)) > 1
606                          && memNE(SvPVX_const(check), s, slen)))
607                 goto report_neq;
608             check_at = s;
609             goto success_at_start;
610           }
611         }
612         /* Match is anchored, but substr is not anchored wrt beg-of-str. */
613         s = strpos;
614         start_shift = prog->check_offset_min; /* okay to underestimate on CC */
615         end_shift = prog->check_end_shift;
616         
617         if (!ml_anch) {
618             const I32 end = prog->check_offset_max + CHR_SVLEN(check)
619                                          - (SvTAIL(check) != 0);
620             const I32 eshift = CHR_DIST((U8*)strend, (U8*)s) - end;
621
622             if (end_shift < eshift)
623                 end_shift = eshift;
624         }
625     }
626     else {                              /* Can match at random position */
627         ml_anch = 0;
628         s = strpos;
629         start_shift = prog->check_offset_min;  /* okay to underestimate on CC */
630         end_shift = prog->check_end_shift;
631         
632         /* end shift should be non negative here */
633     }
634
635 #ifdef QDEBUGGING       /* 7/99: reports of failure (with the older version) */
636     if (end_shift < 0)
637         Perl_croak(aTHX_ "panic: end_shift: %"IVdf" pattern:\n%s\n ",
638                    (IV)end_shift, RX_PRECOMP(prog));
639 #endif
640
641   restart:
642     /* Find a possible match in the region s..strend by looking for
643        the "check" substring in the region corrected by start/end_shift. */
644     
645     {
646         I32 srch_start_shift = start_shift;
647         I32 srch_end_shift = end_shift;
648         if (srch_start_shift < 0 && strbeg - s > srch_start_shift) {
649             srch_end_shift -= ((strbeg - s) - srch_start_shift); 
650             srch_start_shift = strbeg - s;
651         }
652     DEBUG_OPTIMISE_MORE_r({
653         PerlIO_printf(Perl_debug_log, "Check offset min: %"IVdf" Start shift: %"IVdf" End shift %"IVdf" Real End Shift: %"IVdf"\n",
654             (IV)prog->check_offset_min,
655             (IV)srch_start_shift,
656             (IV)srch_end_shift, 
657             (IV)prog->check_end_shift);
658     });       
659         
660     if (flags & REXEC_SCREAM) {
661         I32 p = -1;                     /* Internal iterator of scream. */
662         I32 * const pp = data ? data->scream_pos : &p;
663
664         if (PL_screamfirst[BmRARE(check)] >= 0
665             || ( BmRARE(check) == '\n'
666                  && (BmPREVIOUS(check) == SvCUR(check) - 1)
667                  && SvTAIL(check) ))
668             s = screaminstr(sv, check,
669                             srch_start_shift + (s - strbeg), srch_end_shift, pp, 0);
670         else
671             goto fail_finish;
672         /* we may be pointing at the wrong string */
673         if (s && RXp_MATCH_COPIED(prog))
674             s = strbeg + (s - SvPVX_const(sv));
675         if (data)
676             *data->scream_olds = s;
677     }
678     else {
679         U8* start_point;
680         U8* end_point;
681         if (prog->extflags & RXf_CANY_SEEN) {
682             start_point= (U8*)(s + srch_start_shift);
683             end_point= (U8*)(strend - srch_end_shift);
684         } else {
685             start_point= HOP3(s, srch_start_shift, srch_start_shift < 0 ? strbeg : strend);
686             end_point= HOP3(strend, -srch_end_shift, strbeg);
687         }
688         DEBUG_OPTIMISE_MORE_r({
689             PerlIO_printf(Perl_debug_log, "fbm_instr len=%d str=<%.*s>\n", 
690                 (int)(end_point - start_point),
691                 (int)(end_point - start_point) > 20 ? 20 : (int)(end_point - start_point), 
692                 start_point);
693         });
694
695         s = fbm_instr( start_point, end_point,
696                       check, multiline ? FBMrf_MULTILINE : 0);
697     }
698     }
699     /* Update the count-of-usability, remove useless subpatterns,
700         unshift s.  */
701
702     DEBUG_EXECUTE_r({
703         RE_PV_QUOTED_DECL(quoted, utf8_target, PERL_DEBUG_PAD_ZERO(0),
704             SvPVX_const(check), RE_SV_DUMPLEN(check), 30);
705         PerlIO_printf(Perl_debug_log, "%s %s substr %s%s%s",
706                           (s ? "Found" : "Did not find"),
707             (check == (utf8_target ? prog->anchored_utf8 : prog->anchored_substr)
708                 ? "anchored" : "floating"),
709             quoted,
710             RE_SV_TAIL(check),
711             (s ? " at offset " : "...\n") ); 
712     });
713
714     if (!s)
715         goto fail_finish;
716     /* Finish the diagnostic message */
717     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "%ld...\n", (long)(s - i_strpos)) );
718
719     /* XXX dmq: first branch is for positive lookbehind...
720        Our check string is offset from the beginning of the pattern.
721        So we need to do any stclass tests offset forward from that 
722        point. I think. :-(
723      */
724     
725         
726     
727     check_at=s;
728      
729
730     /* Got a candidate.  Check MBOL anchoring, and the *other* substr.
731        Start with the other substr.
732        XXXX no SCREAM optimization yet - and a very coarse implementation
733        XXXX /ttx+/ results in anchored="ttx", floating="x".  floating will
734                 *always* match.  Probably should be marked during compile...
735        Probably it is right to do no SCREAM here...
736      */
737
738     if (utf8_target ? (prog->float_utf8 && prog->anchored_utf8)
739                 : (prog->float_substr && prog->anchored_substr)) 
740     {
741         /* Take into account the "other" substring. */
742         /* XXXX May be hopelessly wrong for UTF... */
743         if (!other_last)
744             other_last = strpos;
745         if (check == (utf8_target ? prog->float_utf8 : prog->float_substr)) {
746           do_other_anchored:
747             {
748                 char * const last = HOP3c(s, -start_shift, strbeg);
749                 char *last1, *last2;
750                 char * const saved_s = s;
751                 SV* must;
752
753                 t = s - prog->check_offset_max;
754                 if (s - strpos > prog->check_offset_max  /* signed-corrected t > strpos */
755                     && (!utf8_target
756                         || ((t = (char*)reghopmaybe3((U8*)s, -(prog->check_offset_max), (U8*)strpos))
757                             && t > strpos)))
758                     NOOP;
759                 else
760                     t = strpos;
761                 t = HOP3c(t, prog->anchored_offset, strend);
762                 if (t < other_last)     /* These positions already checked */
763                     t = other_last;
764                 last2 = last1 = HOP3c(strend, -prog->minlen, strbeg);
765                 if (last < last1)
766                     last1 = last;
767                 /* XXXX It is not documented what units *_offsets are in.  
768                    We assume bytes, but this is clearly wrong. 
769                    Meaning this code needs to be carefully reviewed for errors.
770                    dmq.
771                   */
772  
773                 /* On end-of-str: see comment below. */
774                 must = utf8_target ? prog->anchored_utf8 : prog->anchored_substr;
775                 if (must == &PL_sv_undef) {
776                     s = (char*)NULL;
777                     DEBUG_r(must = prog->anchored_utf8);        /* for debug */
778                 }
779                 else
780                     s = fbm_instr(
781                         (unsigned char*)t,
782                         HOP3(HOP3(last1, prog->anchored_offset, strend)
783                                 + SvCUR(must), -(SvTAIL(must)!=0), strbeg),
784                         must,
785                         multiline ? FBMrf_MULTILINE : 0
786                     );
787                 DEBUG_EXECUTE_r({
788                     RE_PV_QUOTED_DECL(quoted, utf8_target, PERL_DEBUG_PAD_ZERO(0),
789                         SvPVX_const(must), RE_SV_DUMPLEN(must), 30);
790                     PerlIO_printf(Perl_debug_log, "%s anchored substr %s%s",
791                         (s ? "Found" : "Contradicts"),
792                         quoted, RE_SV_TAIL(must));
793                 });                 
794                 
795                             
796                 if (!s) {
797                     if (last1 >= last2) {
798                         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
799                                                 ", giving up...\n"));
800                         goto fail_finish;
801                     }
802                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
803                         ", trying floating at offset %ld...\n",
804                         (long)(HOP3c(saved_s, 1, strend) - i_strpos)));
805                     other_last = HOP3c(last1, prog->anchored_offset+1, strend);
806                     s = HOP3c(last, 1, strend);
807                     goto restart;
808                 }
809                 else {
810                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, " at offset %ld...\n",
811                           (long)(s - i_strpos)));
812                     t = HOP3c(s, -prog->anchored_offset, strbeg);
813                     other_last = HOP3c(s, 1, strend);
814                     s = saved_s;
815                     if (t == strpos)
816                         goto try_at_start;
817                     goto try_at_offset;
818                 }
819             }
820         }
821         else {          /* Take into account the floating substring. */
822             char *last, *last1;
823             char * const saved_s = s;
824             SV* must;
825
826             t = HOP3c(s, -start_shift, strbeg);
827             last1 = last =
828                 HOP3c(strend, -prog->minlen + prog->float_min_offset, strbeg);
829             if (CHR_DIST((U8*)last, (U8*)t) > prog->float_max_offset)
830                 last = HOP3c(t, prog->float_max_offset, strend);
831             s = HOP3c(t, prog->float_min_offset, strend);
832             if (s < other_last)
833                 s = other_last;
834  /* XXXX It is not documented what units *_offsets are in.  Assume bytes.  */
835             must = utf8_target ? prog->float_utf8 : prog->float_substr;
836             /* fbm_instr() takes into account exact value of end-of-str
837                if the check is SvTAIL(ed).  Since false positives are OK,
838                and end-of-str is not later than strend we are OK. */
839             if (must == &PL_sv_undef) {
840                 s = (char*)NULL;
841                 DEBUG_r(must = prog->float_utf8);       /* for debug message */
842             }
843             else
844                 s = fbm_instr((unsigned char*)s,
845                               (unsigned char*)last + SvCUR(must)
846                                   - (SvTAIL(must)!=0),
847                               must, multiline ? FBMrf_MULTILINE : 0);
848             DEBUG_EXECUTE_r({
849                 RE_PV_QUOTED_DECL(quoted, utf8_target, PERL_DEBUG_PAD_ZERO(0),
850                     SvPVX_const(must), RE_SV_DUMPLEN(must), 30);
851                 PerlIO_printf(Perl_debug_log, "%s floating substr %s%s",
852                     (s ? "Found" : "Contradicts"),
853                     quoted, RE_SV_TAIL(must));
854             });
855             if (!s) {
856                 if (last1 == last) {
857                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
858                                             ", giving up...\n"));
859                     goto fail_finish;
860                 }
861                 DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
862                     ", trying anchored starting at offset %ld...\n",
863                     (long)(saved_s + 1 - i_strpos)));
864                 other_last = last;
865                 s = HOP3c(t, 1, strend);
866                 goto restart;
867             }
868             else {
869                 DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, " at offset %ld...\n",
870                       (long)(s - i_strpos)));
871                 other_last = s; /* Fix this later. --Hugo */
872                 s = saved_s;
873                 if (t == strpos)
874                     goto try_at_start;
875                 goto try_at_offset;
876             }
877         }
878     }
879
880     
881     t= (char*)HOP3( s, -prog->check_offset_max, (prog->check_offset_max<0) ? strend : strpos);
882         
883     DEBUG_OPTIMISE_MORE_r(
884         PerlIO_printf(Perl_debug_log, 
885             "Check offset min:%"IVdf" max:%"IVdf" S:%"IVdf" t:%"IVdf" D:%"IVdf" end:%"IVdf"\n",
886             (IV)prog->check_offset_min,
887             (IV)prog->check_offset_max,
888             (IV)(s-strpos),
889             (IV)(t-strpos),
890             (IV)(t-s),
891             (IV)(strend-strpos)
892         )
893     );
894
895     if (s - strpos > prog->check_offset_max  /* signed-corrected t > strpos */
896         && (!utf8_target
897             || ((t = (char*)reghopmaybe3((U8*)s, -prog->check_offset_max, (U8*) ((prog->check_offset_max<0) ? strend : strpos)))
898                  && t > strpos))) 
899     {
900         /* Fixed substring is found far enough so that the match
901            cannot start at strpos. */
902       try_at_offset:
903         if (ml_anch && t[-1] != '\n') {
904             /* Eventually fbm_*() should handle this, but often
905                anchored_offset is not 0, so this check will not be wasted. */
906             /* XXXX In the code below we prefer to look for "^" even in
907                presence of anchored substrings.  And we search even
908                beyond the found float position.  These pessimizations
909                are historical artefacts only.  */
910           find_anchor:
911             while (t < strend - prog->minlen) {
912                 if (*t == '\n') {
913                     if (t < check_at - prog->check_offset_min) {
914                         if (utf8_target ? prog->anchored_utf8 : prog->anchored_substr) {
915                             /* Since we moved from the found position,
916                                we definitely contradict the found anchored
917                                substr.  Due to the above check we do not
918                                contradict "check" substr.
919                                Thus we can arrive here only if check substr
920                                is float.  Redo checking for "other"=="fixed".
921                              */
922                             strpos = t + 1;                     
923                             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Found /%s^%s/m at offset %ld, rescanning for anchored from offset %ld...\n",
924                                 PL_colors[0], PL_colors[1], (long)(strpos - i_strpos), (long)(strpos - i_strpos + prog->anchored_offset)));
925                             goto do_other_anchored;
926                         }
927                         /* We don't contradict the found floating substring. */
928                         /* XXXX Why not check for STCLASS? */
929                         s = t + 1;
930                         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Found /%s^%s/m at offset %ld...\n",
931                             PL_colors[0], PL_colors[1], (long)(s - i_strpos)));
932                         goto set_useful;
933                     }
934                     /* Position contradicts check-string */
935                     /* XXXX probably better to look for check-string
936                        than for "\n", so one should lower the limit for t? */
937                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Found /%s^%s/m, restarting lookup for check-string at offset %ld...\n",
938                         PL_colors[0], PL_colors[1], (long)(t + 1 - i_strpos)));
939                     other_last = strpos = s = t + 1;
940                     goto restart;
941                 }
942                 t++;
943             }
944             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Did not find /%s^%s/m...\n",
945                         PL_colors[0], PL_colors[1]));
946             goto fail_finish;
947         }
948         else {
949             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Starting position does not contradict /%s^%s/m...\n",
950                         PL_colors[0], PL_colors[1]));
951         }
952         s = t;
953       set_useful:
954         ++BmUSEFUL(utf8_target ? prog->check_utf8 : prog->check_substr);        /* hooray/5 */
955     }
956     else {
957         /* The found string does not prohibit matching at strpos,
958            - no optimization of calling REx engine can be performed,
959            unless it was an MBOL and we are not after MBOL,
960            or a future STCLASS check will fail this. */
961       try_at_start:
962         /* Even in this situation we may use MBOL flag if strpos is offset
963            wrt the start of the string. */
964         if (ml_anch && sv && !SvROK(sv) /* See prev comment on SvROK */
965             && (strpos != strbeg) && strpos[-1] != '\n'
966             /* May be due to an implicit anchor of m{.*foo}  */
967             && !(prog->intflags & PREGf_IMPLICIT))
968         {
969             t = strpos;
970             goto find_anchor;
971         }
972         DEBUG_EXECUTE_r( if (ml_anch)
973             PerlIO_printf(Perl_debug_log, "Position at offset %ld does not contradict /%s^%s/m...\n",
974                           (long)(strpos - i_strpos), PL_colors[0], PL_colors[1]);
975         );
976       success_at_start:
977         if (!(prog->intflags & PREGf_NAUGHTY)   /* XXXX If strpos moved? */
978             && (utf8_target ? (
979                 prog->check_utf8                /* Could be deleted already */
980                 && --BmUSEFUL(prog->check_utf8) < 0
981                 && (prog->check_utf8 == prog->float_utf8)
982             ) : (
983                 prog->check_substr              /* Could be deleted already */
984                 && --BmUSEFUL(prog->check_substr) < 0
985                 && (prog->check_substr == prog->float_substr)
986             )))
987         {
988             /* If flags & SOMETHING - do not do it many times on the same match */
989             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "... Disabling check substring...\n"));
990             /* XXX Does the destruction order has to change with utf8_target? */
991             SvREFCNT_dec(utf8_target ? prog->check_utf8 : prog->check_substr);
992             SvREFCNT_dec(utf8_target ? prog->check_substr : prog->check_utf8);
993             prog->check_substr = prog->check_utf8 = NULL;       /* disable */
994             prog->float_substr = prog->float_utf8 = NULL;       /* clear */
995             check = NULL;                       /* abort */
996             s = strpos;
997             /* XXXX If the check string was an implicit check MBOL, then we need to unset the relevent flag
998                     see http://bugs.activestate.com/show_bug.cgi?id=87173 */
999             if (prog->intflags & PREGf_IMPLICIT)
1000                 prog->extflags &= ~RXf_ANCH_MBOL;
1001             /* XXXX This is a remnant of the old implementation.  It
1002                     looks wasteful, since now INTUIT can use many
1003                     other heuristics. */
1004             prog->extflags &= ~RXf_USE_INTUIT;
1005             /* XXXX What other flags might need to be cleared in this branch? */
1006         }
1007         else
1008             s = strpos;
1009     }
1010
1011     /* Last resort... */
1012     /* XXXX BmUSEFUL already changed, maybe multiple change is meaningful... */
1013     /* trie stclasses are too expensive to use here, we are better off to
1014        leave it to regmatch itself */
1015     if (progi->regstclass && PL_regkind[OP(progi->regstclass)]!=TRIE) {
1016         /* minlen == 0 is possible if regstclass is \b or \B,
1017            and the fixed substr is ''$.
1018            Since minlen is already taken into account, s+1 is before strend;
1019            accidentally, minlen >= 1 guaranties no false positives at s + 1
1020            even for \b or \B.  But (minlen? 1 : 0) below assumes that
1021            regstclass does not come from lookahead...  */
1022         /* If regstclass takes bytelength more than 1: If charlength==1, OK.
1023            This leaves EXACTF only, which is dealt with in find_byclass().  */
1024         const U8* const str = (U8*)STRING(progi->regstclass);
1025         const int cl_l = (PL_regkind[OP(progi->regstclass)] == EXACT
1026                     ? CHR_DIST(str+STR_LEN(progi->regstclass), str)
1027                     : 1);
1028         char * endpos;
1029         if (prog->anchored_substr || prog->anchored_utf8 || ml_anch)
1030             endpos= HOP3c(s, (prog->minlen ? cl_l : 0), strend);
1031         else if (prog->float_substr || prog->float_utf8)
1032             endpos= HOP3c(HOP3c(check_at, -start_shift, strbeg), cl_l, strend);
1033         else 
1034             endpos= strend;
1035                     
1036         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "start_shift: %"IVdf" check_at: %"IVdf" s: %"IVdf" endpos: %"IVdf"\n",
1037                                       (IV)start_shift, (IV)(check_at - strbeg), (IV)(s - strbeg), (IV)(endpos - strbeg)));
1038         
1039         t = s;
1040         s = find_byclass(prog, progi->regstclass, s, endpos, NULL);
1041         if (!s) {
1042 #ifdef DEBUGGING
1043             const char *what = NULL;
1044 #endif
1045             if (endpos == strend) {
1046                 DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
1047                                 "Could not match STCLASS...\n") );
1048                 goto fail;
1049             }
1050             DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
1051                                    "This position contradicts STCLASS...\n") );
1052             if ((prog->extflags & RXf_ANCH) && !ml_anch)
1053                 goto fail;
1054             /* Contradict one of substrings */
1055             if (prog->anchored_substr || prog->anchored_utf8) {
1056                 if ((utf8_target ? prog->anchored_utf8 : prog->anchored_substr) == check) {
1057                     DEBUG_EXECUTE_r( what = "anchored" );
1058                   hop_and_restart:
1059                     s = HOP3c(t, 1, strend);
1060                     if (s + start_shift + end_shift > strend) {
1061                         /* XXXX Should be taken into account earlier? */
1062                         DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
1063                                                "Could not match STCLASS...\n") );
1064                         goto fail;
1065                     }
1066                     if (!check)
1067                         goto giveup;
1068                     DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
1069                                 "Looking for %s substr starting at offset %ld...\n",
1070                                  what, (long)(s + start_shift - i_strpos)) );
1071                     goto restart;
1072                 }
1073                 /* Have both, check_string is floating */
1074                 if (t + start_shift >= check_at) /* Contradicts floating=check */
1075                     goto retry_floating_check;
1076                 /* Recheck anchored substring, but not floating... */
1077                 s = check_at;
1078                 if (!check)
1079                     goto giveup;
1080                 DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
1081                           "Looking for anchored substr starting at offset %ld...\n",
1082                           (long)(other_last - i_strpos)) );
1083                 goto do_other_anchored;
1084             }
1085             /* Another way we could have checked stclass at the
1086                current position only: */
1087             if (ml_anch) {
1088                 s = t = t + 1;
1089                 if (!check)
1090                     goto giveup;
1091                 DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
1092                           "Looking for /%s^%s/m starting at offset %ld...\n",
1093                           PL_colors[0], PL_colors[1], (long)(t - i_strpos)) );
1094                 goto try_at_offset;
1095             }
1096             if (!(utf8_target ? prog->float_utf8 : prog->float_substr)) /* Could have been deleted */
1097                 goto fail;
1098             /* Check is floating subtring. */
1099           retry_floating_check:
1100             t = check_at - start_shift;
1101             DEBUG_EXECUTE_r( what = "floating" );
1102             goto hop_and_restart;
1103         }
1104         if (t != s) {
1105             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
1106                         "By STCLASS: moving %ld --> %ld\n",
1107                                   (long)(t - i_strpos), (long)(s - i_strpos))
1108                    );
1109         }
1110         else {
1111             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
1112                                   "Does not contradict STCLASS...\n"); 
1113                    );
1114         }
1115     }
1116   giveup:
1117     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "%s%s:%s match at offset %ld\n",
1118                           PL_colors[4], (check ? "Guessed" : "Giving up"),
1119                           PL_colors[5], (long)(s - i_strpos)) );
1120     return s;
1121
1122   fail_finish:                          /* Substring not found */
1123     if (prog->check_substr || prog->check_utf8)         /* could be removed already */
1124         BmUSEFUL(utf8_target ? prog->check_utf8 : prog->check_substr) += 5; /* hooray */
1125   fail:
1126     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "%sMatch rejected by optimizer%s\n",
1127                           PL_colors[4], PL_colors[5]));
1128     return NULL;
1129 }
1130
1131 #define DECL_TRIE_TYPE(scan) \
1132     const enum { trie_plain, trie_utf8, trie_utf8_fold, trie_latin_utf8_fold } \
1133                     trie_type = (scan->flags != EXACT) \
1134                               ? (utf8_target ? trie_utf8_fold : (UTF_PATTERN ? trie_latin_utf8_fold : trie_plain)) \
1135                               : (utf8_target ? trie_utf8 : trie_plain)
1136
1137 #define REXEC_TRIE_READ_CHAR(trie_type, trie, widecharmap, uc, uscan, len,  \
1138 uvc, charid, foldlen, foldbuf, uniflags) STMT_START {                       \
1139     switch (trie_type) {                                                    \
1140     case trie_utf8_fold:                                                    \
1141         if ( foldlen>0 ) {                                                  \
1142             uvc = utf8n_to_uvuni( uscan, UTF8_MAXLEN, &len, uniflags ); \
1143             foldlen -= len;                                                 \
1144             uscan += len;                                                   \
1145             len=0;                                                          \
1146         } else {                                                            \
1147             uvc = utf8n_to_uvuni( (U8*)uc, UTF8_MAXLEN, &len, uniflags ); \
1148             uvc = to_uni_fold( uvc, foldbuf, &foldlen );                    \
1149             foldlen -= UNISKIP( uvc );                                      \
1150             uscan = foldbuf + UNISKIP( uvc );                               \
1151         }                                                                   \
1152         break;                                                              \
1153     case trie_latin_utf8_fold:                                              \
1154         if ( foldlen>0 ) {                                                  \
1155             uvc = utf8n_to_uvuni( uscan, UTF8_MAXLEN, &len, uniflags );     \
1156             foldlen -= len;                                                 \
1157             uscan += len;                                                   \
1158             len=0;                                                          \
1159         } else {                                                            \
1160             len = 1;                                                        \
1161             uvc = to_uni_fold( *(U8*)uc, foldbuf, &foldlen );               \
1162             foldlen -= UNISKIP( uvc );                                      \
1163             uscan = foldbuf + UNISKIP( uvc );                               \
1164         }                                                                   \
1165         break;                                                              \
1166     case trie_utf8:                                                         \
1167         uvc = utf8n_to_uvuni( (U8*)uc, UTF8_MAXLEN, &len, uniflags );       \
1168         break;                                                              \
1169     case trie_plain:                                                        \
1170         uvc = (UV)*uc;                                                      \
1171         len = 1;                                                            \
1172     }                                                                       \
1173     if (uvc < 256) {                                                        \
1174         charid = trie->charmap[ uvc ];                                      \
1175     }                                                                       \
1176     else {                                                                  \
1177         charid = 0;                                                         \
1178         if (widecharmap) {                                                  \
1179             SV** const svpp = hv_fetch(widecharmap,                         \
1180                         (char*)&uvc, sizeof(UV), 0);                        \
1181             if (svpp)                                                       \
1182                 charid = (U16)SvIV(*svpp);                                  \
1183         }                                                                   \
1184     }                                                                       \
1185 } STMT_END
1186
1187 #define REXEC_FBC_EXACTISH_CHECK(CoNd)                 \
1188 {                                                      \
1189     char *my_strend= (char *)strend;                   \
1190     if ( (CoNd)                                        \
1191          && (ln == len ||                              \
1192              foldEQ_utf8(s, &my_strend, 0,  utf8_target,   \
1193                         m, NULL, ln, cBOOL(UTF_PATTERN)))      \
1194          && (!reginfo || regtry(reginfo, &s)) )        \
1195         goto got_it;                                   \
1196     else {                                             \
1197          U8 foldbuf[UTF8_MAXBYTES_CASE+1];             \
1198          uvchr_to_utf8(tmpbuf, c);                     \
1199          f = to_utf8_fold(tmpbuf, foldbuf, &foldlen);  \
1200          if ( f != c                                   \
1201               && (f == c1 || f == c2)                  \
1202               && (ln == len ||                         \
1203                 foldEQ_utf8(s, &my_strend, 0,  utf8_target,\
1204                               m, NULL, ln, cBOOL(UTF_PATTERN)))\
1205               && (!reginfo || regtry(reginfo, &s)) )   \
1206               goto got_it;                             \
1207     }                                                  \
1208 }                                                      \
1209 s += len
1210
1211 #define REXEC_FBC_EXACTISH_SCAN(CoNd)                     \
1212 STMT_START {                                              \
1213     while (s <= e) {                                      \
1214         if ( (CoNd)                                       \
1215              && (ln == 1 || (OP(c) == EXACTF             \
1216                               ? foldEQ(s, m, ln)           \
1217                               : foldEQ_locale(s, m, ln)))  \
1218              && (!reginfo || regtry(reginfo, &s)) )        \
1219             goto got_it;                                  \
1220         s++;                                              \
1221     }                                                     \
1222 } STMT_END
1223
1224 #define REXEC_FBC_UTF8_SCAN(CoDe)                     \
1225 STMT_START {                                          \
1226     while (s + (uskip = UTF8SKIP(s)) <= strend) {     \
1227         CoDe                                          \
1228         s += uskip;                                   \
1229     }                                                 \
1230 } STMT_END
1231
1232 #define REXEC_FBC_SCAN(CoDe)                          \
1233 STMT_START {                                          \
1234     while (s < strend) {                              \
1235         CoDe                                          \
1236         s++;                                          \
1237     }                                                 \
1238 } STMT_END
1239
1240 #define REXEC_FBC_UTF8_CLASS_SCAN(CoNd)               \
1241 REXEC_FBC_UTF8_SCAN(                                  \
1242     if (CoNd) {                                       \
1243         if (tmp && (!reginfo || regtry(reginfo, &s)))  \
1244             goto got_it;                              \
1245         else                                          \
1246             tmp = doevery;                            \
1247     }                                                 \
1248     else                                              \
1249         tmp = 1;                                      \
1250 )
1251
1252 #define REXEC_FBC_CLASS_SCAN(CoNd)                    \
1253 REXEC_FBC_SCAN(                                       \
1254     if (CoNd) {                                       \
1255         if (tmp && (!reginfo || regtry(reginfo, &s)))  \
1256             goto got_it;                              \
1257         else                                          \
1258             tmp = doevery;                            \
1259     }                                                 \
1260     else                                              \
1261         tmp = 1;                                      \
1262 )
1263
1264 #define REXEC_FBC_TRYIT               \
1265 if ((!reginfo || regtry(reginfo, &s))) \
1266     goto got_it
1267
1268 #define REXEC_FBC_CSCAN(CoNdUtF8,CoNd)                         \
1269     if (utf8_target) {                                             \
1270         REXEC_FBC_UTF8_CLASS_SCAN(CoNdUtF8);                   \
1271     }                                                          \
1272     else {                                                     \
1273         REXEC_FBC_CLASS_SCAN(CoNd);                            \
1274     }                                                          \
1275     break
1276     
1277 #define REXEC_FBC_CSCAN_PRELOAD(UtFpReLoAd,CoNdUtF8,CoNd)      \
1278     if (utf8_target) {                                             \
1279         UtFpReLoAd;                                            \
1280         REXEC_FBC_UTF8_CLASS_SCAN(CoNdUtF8);                   \
1281     }                                                          \
1282     else {                                                     \
1283         REXEC_FBC_CLASS_SCAN(CoNd);                            \
1284     }                                                          \
1285     break
1286
1287 #define REXEC_FBC_CSCAN_TAINT(CoNdUtF8,CoNd)                   \
1288     PL_reg_flags |= RF_tainted;                                \
1289     if (utf8_target) {                                             \
1290         REXEC_FBC_UTF8_CLASS_SCAN(CoNdUtF8);                   \
1291     }                                                          \
1292     else {                                                     \
1293         REXEC_FBC_CLASS_SCAN(CoNd);                            \
1294     }                                                          \
1295     break
1296
1297 #define DUMP_EXEC_POS(li,s,doutf8) \
1298     dump_exec_pos(li,s,(PL_regeol),(PL_bostr),(PL_reg_starttry),doutf8)
1299
1300 /* We know what class REx starts with.  Try to find this position... */
1301 /* if reginfo is NULL, its a dryrun */
1302 /* annoyingly all the vars in this routine have different names from their counterparts
1303    in regmatch. /grrr */
1304
1305 STATIC char *
1306 S_find_byclass(pTHX_ regexp * prog, const regnode *c, char *s, 
1307     const char *strend, regmatch_info *reginfo)
1308 {
1309         dVAR;
1310         const I32 doevery = (prog->intflags & PREGf_SKIP) == 0;
1311         char *m;
1312         STRLEN ln;
1313         STRLEN lnc;
1314         register STRLEN uskip;
1315         unsigned int c1;
1316         unsigned int c2;
1317         char *e;
1318         register I32 tmp = 1;   /* Scratch variable? */
1319         register const bool utf8_target = PL_reg_match_utf8;
1320         RXi_GET_DECL(prog,progi);
1321
1322         PERL_ARGS_ASSERT_FIND_BYCLASS;
1323         
1324         /* We know what class it must start with. */
1325         switch (OP(c)) {
1326         case ANYOF:
1327             if (utf8_target) {
1328                  REXEC_FBC_UTF8_CLASS_SCAN((ANYOF_FLAGS(c) & ANYOF_UNICODE) ||
1329                           !UTF8_IS_INVARIANT((U8)s[0]) ?
1330                           reginclass(prog, c, (U8*)s, 0, utf8_target) :
1331                           REGINCLASS(prog, c, (U8*)s));
1332             }
1333             else {
1334                  while (s < strend) {
1335                       STRLEN skip = 1;
1336
1337                       if (REGINCLASS(prog, c, (U8*)s) ||
1338                           (ANYOF_FOLD_SHARP_S(c, s, strend) &&
1339                            /* The assignment of 2 is intentional:
1340                             * for the folded sharp s, the skip is 2. */
1341                            (skip = SHARP_S_SKIP))) {
1342                            if (tmp && (!reginfo || regtry(reginfo, &s)))
1343                                 goto got_it;
1344                            else
1345                                 tmp = doevery;
1346                       }
1347                       else 
1348                            tmp = 1;
1349                       s += skip;
1350                  }
1351             }
1352             break;
1353         case CANY:
1354             REXEC_FBC_SCAN(
1355                 if (tmp && (!reginfo || regtry(reginfo, &s)))
1356                     goto got_it;
1357                 else
1358                     tmp = doevery;
1359             );
1360             break;
1361         case EXACTF:
1362             m   = STRING(c);
1363             ln  = STR_LEN(c);   /* length to match in octets/bytes */
1364             lnc = (I32) ln;     /* length to match in characters */
1365             if (UTF_PATTERN) {
1366                 STRLEN ulen1, ulen2;
1367                 U8 *sm = (U8 *) m;
1368                 U8 tmpbuf1[UTF8_MAXBYTES_CASE+1];
1369                 U8 tmpbuf2[UTF8_MAXBYTES_CASE+1];
1370                 /* used by commented-out code below */
1371                 /*const U32 uniflags = UTF8_ALLOW_DEFAULT;*/
1372                 
1373                 /* XXX: Since the node will be case folded at compile
1374                    time this logic is a little odd, although im not 
1375                    sure that its actually wrong. --dmq */
1376                    
1377                 c1 = to_utf8_lower((U8*)m, tmpbuf1, &ulen1);
1378                 c2 = to_utf8_upper((U8*)m, tmpbuf2, &ulen2);
1379
1380                 /* XXX: This is kinda strange. to_utf8_XYZ returns the 
1381                    codepoint of the first character in the converted
1382                    form, yet originally we did the extra step. 
1383                    No tests fail by commenting this code out however
1384                    so Ive left it out. -- dmq.
1385                    
1386                 c1 = utf8n_to_uvchr(tmpbuf1, UTF8_MAXBYTES_CASE, 
1387                                     0, uniflags);
1388                 c2 = utf8n_to_uvchr(tmpbuf2, UTF8_MAXBYTES_CASE,
1389                                     0, uniflags);
1390                 */
1391                 
1392                 lnc = 0;
1393                 while (sm < ((U8 *) m + ln)) {
1394                     lnc++;
1395                     sm += UTF8SKIP(sm);
1396                 }
1397             }
1398             else {
1399                 c1 = *(U8*)m;
1400                 c2 = PL_fold[c1];
1401             }
1402             goto do_exactf;
1403         case EXACTFL:
1404             m   = STRING(c);
1405             ln  = STR_LEN(c);
1406             lnc = (I32) ln;
1407             c1 = *(U8*)m;
1408             c2 = PL_fold_locale[c1];
1409           do_exactf:
1410             e = HOP3c(strend, -((I32)lnc), s);
1411
1412             if (!reginfo && e < s)
1413                 e = s;                  /* Due to minlen logic of intuit() */
1414
1415             /* The idea in the EXACTF* cases is to first find the
1416              * first character of the EXACTF* node and then, if
1417              * necessary, case-insensitively compare the full
1418              * text of the node.  The c1 and c2 are the first
1419              * characters (though in Unicode it gets a bit
1420              * more complicated because there are more cases
1421              * than just upper and lower: one needs to use
1422              * the so-called folding case for case-insensitive
1423              * matching (called "loose matching" in Unicode).
1424              * foldEQ_utf8() will do just that. */
1425
1426             if (utf8_target || UTF_PATTERN) {
1427                 UV c, f;
1428                 U8 tmpbuf [UTF8_MAXBYTES+1];
1429                 STRLEN len = 1;
1430                 STRLEN foldlen;
1431                 const U32 uniflags = UTF8_ALLOW_DEFAULT;
1432                 if (c1 == c2) {
1433                     /* Upper and lower of 1st char are equal -
1434                      * probably not a "letter". */
1435                     while (s <= e) {
1436                         if (utf8_target) {
1437                             c = utf8n_to_uvchr((U8*)s, UTF8_MAXBYTES, &len,
1438                                            uniflags);
1439                         } else {
1440                             c = *((U8*)s);
1441                         }                                         
1442                         REXEC_FBC_EXACTISH_CHECK(c == c1);
1443                     }
1444                 }
1445                 else {
1446                     while (s <= e) {
1447                         if (utf8_target) {
1448                             c = utf8n_to_uvchr((U8*)s, UTF8_MAXBYTES, &len,
1449                                            uniflags);
1450                         } else {
1451                             c = *((U8*)s);
1452                         }
1453
1454                         /* Handle some of the three Greek sigmas cases.
1455                          * Note that not all the possible combinations
1456                          * are handled here: some of them are handled
1457                          * by the standard folding rules, and some of
1458                          * them (the character class or ANYOF cases)
1459                          * are handled during compiletime in
1460                          * regexec.c:S_regclass(). */
1461                         if (c == (UV)UNICODE_GREEK_CAPITAL_LETTER_SIGMA ||
1462                             c == (UV)UNICODE_GREEK_SMALL_LETTER_FINAL_SIGMA)
1463                             c = (UV)UNICODE_GREEK_SMALL_LETTER_SIGMA;
1464
1465                         REXEC_FBC_EXACTISH_CHECK(c == c1 || c == c2);
1466                     }
1467                 }
1468             }
1469             else {
1470                 /* Neither pattern nor string are UTF8 */
1471                 if (c1 == c2)
1472                     REXEC_FBC_EXACTISH_SCAN(*(U8*)s == c1);
1473                 else
1474                     REXEC_FBC_EXACTISH_SCAN(*(U8*)s == c1 || *(U8*)s == c2);
1475             }
1476             break;
1477         case BOUNDL:
1478             PL_reg_flags |= RF_tainted;
1479             /* FALL THROUGH */
1480         case BOUND:
1481             if (utf8_target) {
1482                 if (s == PL_bostr)
1483                     tmp = '\n';
1484                 else {
1485                     U8 * const r = reghop3((U8*)s, -1, (U8*)PL_bostr);
1486                     tmp = utf8n_to_uvchr(r, UTF8SKIP(r), 0, UTF8_ALLOW_DEFAULT);
1487                 }
1488                 tmp = ((OP(c) == BOUND ?
1489                         isALNUM_uni(tmp) : isALNUM_LC_uvchr(UNI_TO_NATIVE(tmp))) != 0);
1490                 LOAD_UTF8_CHARCLASS_ALNUM();
1491                 REXEC_FBC_UTF8_SCAN(
1492                     if (tmp == !(OP(c) == BOUND ?
1493                                  cBOOL(swash_fetch(PL_utf8_alnum, (U8*)s, utf8_target)) :
1494                                  isALNUM_LC_utf8((U8*)s)))
1495                     {
1496                         tmp = !tmp;
1497                         REXEC_FBC_TRYIT;
1498                 }
1499                 );
1500             }
1501             else {
1502                 tmp = (s != PL_bostr) ? UCHARAT(s - 1) : '\n';
1503                 tmp = ((OP(c) == BOUND ? isALNUM(tmp) : isALNUM_LC(tmp)) != 0);
1504                 REXEC_FBC_SCAN(
1505                     if (tmp ==
1506                         !(OP(c) == BOUND ? isALNUM(*s) : isALNUM_LC(*s))) {
1507                         tmp = !tmp;
1508                         REXEC_FBC_TRYIT;
1509                 }
1510                 );
1511             }
1512             if ((!prog->minlen && tmp) && (!reginfo || regtry(reginfo, &s)))
1513                 goto got_it;
1514             break;
1515         case NBOUNDL:
1516             PL_reg_flags |= RF_tainted;
1517             /* FALL THROUGH */
1518         case NBOUND:
1519             if (utf8_target) {
1520                 if (s == PL_bostr)
1521                     tmp = '\n';
1522                 else {
1523                     U8 * const r = reghop3((U8*)s, -1, (U8*)PL_bostr);
1524                     tmp = utf8n_to_uvchr(r, UTF8SKIP(r), 0, UTF8_ALLOW_DEFAULT);
1525                 }
1526                 tmp = ((OP(c) == NBOUND ?
1527                         isALNUM_uni(tmp) : isALNUM_LC_uvchr(UNI_TO_NATIVE(tmp))) != 0);
1528                 LOAD_UTF8_CHARCLASS_ALNUM();
1529                 REXEC_FBC_UTF8_SCAN(
1530                     if (tmp == !(OP(c) == NBOUND ?
1531                                  cBOOL(swash_fetch(PL_utf8_alnum, (U8*)s, utf8_target)) :
1532                                  isALNUM_LC_utf8((U8*)s)))
1533                         tmp = !tmp;
1534                     else REXEC_FBC_TRYIT;
1535                 );
1536             }
1537             else {
1538                 tmp = (s != PL_bostr) ? UCHARAT(s - 1) : '\n';
1539                 tmp = ((OP(c) == NBOUND ?
1540                         isALNUM(tmp) : isALNUM_LC(tmp)) != 0);
1541                 REXEC_FBC_SCAN(
1542                     if (tmp ==
1543                         !(OP(c) == NBOUND ? isALNUM(*s) : isALNUM_LC(*s)))
1544                         tmp = !tmp;
1545                     else REXEC_FBC_TRYIT;
1546                 );
1547             }
1548             if ((!prog->minlen && !tmp) && (!reginfo || regtry(reginfo, &s)))
1549                 goto got_it;
1550             break;
1551         case ALNUM:
1552             REXEC_FBC_CSCAN_PRELOAD(
1553                 LOAD_UTF8_CHARCLASS_PERL_WORD(),
1554                 swash_fetch(RE_utf8_perl_word, (U8*)s, utf8_target),
1555                 isALNUM(*s)
1556             );
1557         case ALNUML:
1558             REXEC_FBC_CSCAN_TAINT(
1559                 isALNUM_LC_utf8((U8*)s),
1560                 isALNUM_LC(*s)
1561             );
1562         case NALNUM:
1563             REXEC_FBC_CSCAN_PRELOAD(
1564                 LOAD_UTF8_CHARCLASS_PERL_WORD(),
1565                 !swash_fetch(RE_utf8_perl_word, (U8*)s, utf8_target),
1566                 !isALNUM(*s)
1567             );
1568         case NALNUML:
1569             REXEC_FBC_CSCAN_TAINT(
1570                 !isALNUM_LC_utf8((U8*)s),
1571                 !isALNUM_LC(*s)
1572             );
1573         case SPACE:
1574             REXEC_FBC_CSCAN_PRELOAD(
1575                 LOAD_UTF8_CHARCLASS_PERL_SPACE(),
1576                 *s == ' ' || swash_fetch(RE_utf8_perl_space,(U8*)s, utf8_target),
1577                 isSPACE(*s)
1578             );
1579         case SPACEL:
1580             REXEC_FBC_CSCAN_TAINT(
1581                 *s == ' ' || isSPACE_LC_utf8((U8*)s),
1582                 isSPACE_LC(*s)
1583             );
1584         case NSPACE:
1585             REXEC_FBC_CSCAN_PRELOAD(
1586                 LOAD_UTF8_CHARCLASS_PERL_SPACE(),
1587                 !(*s == ' ' || swash_fetch(RE_utf8_perl_space,(U8*)s, utf8_target)),
1588                 !isSPACE(*s)
1589             );
1590         case NSPACEL:
1591             REXEC_FBC_CSCAN_TAINT(
1592                 !(*s == ' ' || isSPACE_LC_utf8((U8*)s)),
1593                 !isSPACE_LC(*s)
1594             );
1595         case DIGIT:
1596             REXEC_FBC_CSCAN_PRELOAD(
1597                 LOAD_UTF8_CHARCLASS_POSIX_DIGIT(),
1598                 swash_fetch(RE_utf8_posix_digit,(U8*)s, utf8_target),
1599                 isDIGIT(*s)
1600             );
1601         case DIGITL:
1602             REXEC_FBC_CSCAN_TAINT(
1603                 isDIGIT_LC_utf8((U8*)s),
1604                 isDIGIT_LC(*s)
1605             );
1606         case NDIGIT:
1607             REXEC_FBC_CSCAN_PRELOAD(
1608                 LOAD_UTF8_CHARCLASS_POSIX_DIGIT(),
1609                 !swash_fetch(RE_utf8_posix_digit,(U8*)s, utf8_target),
1610                 !isDIGIT(*s)
1611             );
1612         case NDIGITL:
1613             REXEC_FBC_CSCAN_TAINT(
1614                 !isDIGIT_LC_utf8((U8*)s),
1615                 !isDIGIT_LC(*s)
1616             );
1617         case LNBREAK:
1618             REXEC_FBC_CSCAN(
1619                 is_LNBREAK_utf8(s),
1620                 is_LNBREAK_latin1(s)
1621             );
1622         case VERTWS:
1623             REXEC_FBC_CSCAN(
1624                 is_VERTWS_utf8(s),
1625                 is_VERTWS_latin1(s)
1626             );
1627         case NVERTWS:
1628             REXEC_FBC_CSCAN(
1629                 !is_VERTWS_utf8(s),
1630                 !is_VERTWS_latin1(s)
1631             );
1632         case HORIZWS:
1633             REXEC_FBC_CSCAN(
1634                 is_HORIZWS_utf8(s),
1635                 is_HORIZWS_latin1(s)
1636             );
1637         case NHORIZWS:
1638             REXEC_FBC_CSCAN(
1639                 !is_HORIZWS_utf8(s),
1640                 !is_HORIZWS_latin1(s)
1641             );      
1642         case AHOCORASICKC:
1643         case AHOCORASICK: 
1644             {
1645                 DECL_TRIE_TYPE(c);
1646                 /* what trie are we using right now */
1647                 reg_ac_data *aho
1648                     = (reg_ac_data*)progi->data->data[ ARG( c ) ];
1649                 reg_trie_data *trie
1650                     = (reg_trie_data*)progi->data->data[ aho->trie ];
1651                 HV *widecharmap = MUTABLE_HV(progi->data->data[ aho->trie + 1 ]);
1652
1653                 const char *last_start = strend - trie->minlen;
1654 #ifdef DEBUGGING
1655                 const char *real_start = s;
1656 #endif
1657                 STRLEN maxlen = trie->maxlen;
1658                 SV *sv_points;
1659                 U8 **points; /* map of where we were in the input string
1660                                 when reading a given char. For ASCII this
1661                                 is unnecessary overhead as the relationship
1662                                 is always 1:1, but for Unicode, especially
1663                                 case folded Unicode this is not true. */
1664                 U8 foldbuf[ UTF8_MAXBYTES_CASE + 1 ];
1665                 U8 *bitmap=NULL;
1666
1667
1668                 GET_RE_DEBUG_FLAGS_DECL;
1669
1670                 /* We can't just allocate points here. We need to wrap it in
1671                  * an SV so it gets freed properly if there is a croak while
1672                  * running the match */
1673                 ENTER;
1674                 SAVETMPS;
1675                 sv_points=newSV(maxlen * sizeof(U8 *));
1676                 SvCUR_set(sv_points,
1677                     maxlen * sizeof(U8 *));
1678                 SvPOK_on(sv_points);
1679                 sv_2mortal(sv_points);
1680                 points=(U8**)SvPV_nolen(sv_points );
1681                 if ( trie_type != trie_utf8_fold 
1682                      && (trie->bitmap || OP(c)==AHOCORASICKC) ) 
1683                 {
1684                     if (trie->bitmap) 
1685                         bitmap=(U8*)trie->bitmap;
1686                     else
1687                         bitmap=(U8*)ANYOF_BITMAP(c);
1688                 }
1689                 /* this is the Aho-Corasick algorithm modified a touch
1690                    to include special handling for long "unknown char" 
1691                    sequences. The basic idea being that we use AC as long
1692                    as we are dealing with a possible matching char, when
1693                    we encounter an unknown char (and we have not encountered
1694                    an accepting state) we scan forward until we find a legal 
1695                    starting char. 
1696                    AC matching is basically that of trie matching, except
1697                    that when we encounter a failing transition, we fall back
1698                    to the current states "fail state", and try the current char 
1699                    again, a process we repeat until we reach the root state, 
1700                    state 1, or a legal transition. If we fail on the root state 
1701                    then we can either terminate if we have reached an accepting 
1702                    state previously, or restart the entire process from the beginning 
1703                    if we have not.
1704
1705                  */
1706                 while (s <= last_start) {
1707                     const U32 uniflags = UTF8_ALLOW_DEFAULT;
1708                     U8 *uc = (U8*)s;
1709                     U16 charid = 0;
1710                     U32 base = 1;
1711                     U32 state = 1;
1712                     UV uvc = 0;
1713                     STRLEN len = 0;
1714                     STRLEN foldlen = 0;
1715                     U8 *uscan = (U8*)NULL;
1716                     U8 *leftmost = NULL;
1717 #ifdef DEBUGGING                    
1718                     U32 accepted_word= 0;
1719 #endif
1720                     U32 pointpos = 0;
1721
1722                     while ( state && uc <= (U8*)strend ) {
1723                         int failed=0;
1724                         U32 word = aho->states[ state ].wordnum;
1725
1726                         if( state==1 ) {
1727                             if ( bitmap ) {
1728                                 DEBUG_TRIE_EXECUTE_r(
1729                                     if ( uc <= (U8*)last_start && !BITMAP_TEST(bitmap,*uc) ) {
1730                                         dump_exec_pos( (char *)uc, c, strend, real_start, 
1731                                             (char *)uc, utf8_target );
1732                                         PerlIO_printf( Perl_debug_log,
1733                                             " Scanning for legal start char...\n");
1734                                     }
1735                                 );            
1736                                 while ( uc <= (U8*)last_start  && !BITMAP_TEST(bitmap,*uc) ) {
1737                                     uc++;
1738                                 }
1739                                 s= (char *)uc;
1740                             }
1741                             if (uc >(U8*)last_start) break;
1742                         }
1743                                             
1744                         if ( word ) {
1745                             U8 *lpos= points[ (pointpos - trie->wordinfo[word].len) % maxlen ];
1746                             if (!leftmost || lpos < leftmost) {
1747                                 DEBUG_r(accepted_word=word);
1748                                 leftmost= lpos;
1749                             }
1750                             if (base==0) break;
1751                             
1752                         }
1753                         points[pointpos++ % maxlen]= uc;
1754                         REXEC_TRIE_READ_CHAR(trie_type, trie, widecharmap, uc,
1755                                              uscan, len, uvc, charid, foldlen,
1756                                              foldbuf, uniflags);
1757                         DEBUG_TRIE_EXECUTE_r({
1758                             dump_exec_pos( (char *)uc, c, strend, real_start, 
1759                                 s,   utf8_target );
1760                             PerlIO_printf(Perl_debug_log,
1761                                 " Charid:%3u CP:%4"UVxf" ",
1762                                  charid, uvc);
1763                         });
1764
1765                         do {
1766 #ifdef DEBUGGING
1767                             word = aho->states[ state ].wordnum;
1768 #endif
1769                             base = aho->states[ state ].trans.base;
1770
1771                             DEBUG_TRIE_EXECUTE_r({
1772                                 if (failed) 
1773                                     dump_exec_pos( (char *)uc, c, strend, real_start, 
1774                                         s,   utf8_target );
1775                                 PerlIO_printf( Perl_debug_log,
1776                                     "%sState: %4"UVxf", word=%"UVxf,
1777                                     failed ? " Fail transition to " : "",
1778                                     (UV)state, (UV)word);
1779                             });
1780                             if ( base ) {
1781                                 U32 tmp;
1782                                 I32 offset;
1783                                 if (charid &&
1784                                      ( ((offset = base + charid
1785                                         - 1 - trie->uniquecharcount)) >= 0)
1786                                      && ((U32)offset < trie->lasttrans)
1787                                      && trie->trans[offset].check == state
1788                                      && (tmp=trie->trans[offset].next))
1789                                 {
1790                                     DEBUG_TRIE_EXECUTE_r(
1791                                         PerlIO_printf( Perl_debug_log," - legal\n"));
1792                                     state = tmp;
1793                                     break;
1794                                 }
1795                                 else {
1796                                     DEBUG_TRIE_EXECUTE_r(
1797                                         PerlIO_printf( Perl_debug_log," - fail\n"));
1798                                     failed = 1;
1799                                     state = aho->fail[state];
1800                                 }
1801                             }
1802                             else {
1803                                 /* we must be accepting here */
1804                                 DEBUG_TRIE_EXECUTE_r(
1805                                         PerlIO_printf( Perl_debug_log," - accepting\n"));
1806                                 failed = 1;
1807                                 break;
1808                             }
1809                         } while(state);
1810                         uc += len;
1811                         if (failed) {
1812                             if (leftmost)
1813                                 break;
1814                             if (!state) state = 1;
1815                         }
1816                     }
1817                     if ( aho->states[ state ].wordnum ) {
1818                         U8 *lpos = points[ (pointpos - trie->wordinfo[aho->states[ state ].wordnum].len) % maxlen ];
1819                         if (!leftmost || lpos < leftmost) {
1820                             DEBUG_r(accepted_word=aho->states[ state ].wordnum);
1821                             leftmost = lpos;
1822                         }
1823                     }
1824                     if (leftmost) {
1825                         s = (char*)leftmost;
1826                         DEBUG_TRIE_EXECUTE_r({
1827                             PerlIO_printf( 
1828                                 Perl_debug_log,"Matches word #%"UVxf" at position %"IVdf". Trying full pattern...\n",
1829                                 (UV)accepted_word, (IV)(s - real_start)
1830                             );
1831                         });
1832                         if (!reginfo || regtry(reginfo, &s)) {
1833                             FREETMPS;
1834                             LEAVE;
1835                             goto got_it;
1836                         }
1837                         s = HOPc(s,1);
1838                         DEBUG_TRIE_EXECUTE_r({
1839                             PerlIO_printf( Perl_debug_log,"Pattern failed. Looking for new start point...\n");
1840                         });
1841                     } else {
1842                         DEBUG_TRIE_EXECUTE_r(
1843                             PerlIO_printf( Perl_debug_log,"No match.\n"));
1844                         break;
1845                     }
1846                 }
1847                 FREETMPS;
1848                 LEAVE;
1849             }
1850             break;
1851         default:
1852             Perl_croak(aTHX_ "panic: unknown regstclass %d", (int)OP(c));
1853             break;
1854         }
1855         return 0;
1856       got_it:
1857         return s;
1858 }
1859
1860
1861 /*
1862  - regexec_flags - match a regexp against a string
1863  */
1864 I32
1865 Perl_regexec_flags(pTHX_ REGEXP * const rx, char *stringarg, register char *strend,
1866               char *strbeg, I32 minend, SV *sv, void *data, U32 flags)
1867 /* strend: pointer to null at end of string */
1868 /* strbeg: real beginning of string */
1869 /* minend: end of match must be >=minend after stringarg. */
1870 /* data: May be used for some additional optimizations. 
1871          Currently its only used, with a U32 cast, for transmitting 
1872          the ganch offset when doing a /g match. This will change */
1873 /* nosave: For optimizations. */
1874 {
1875     dVAR;
1876     struct regexp *const prog = (struct regexp *)SvANY(rx);
1877     /*register*/ char *s;
1878     register regnode *c;
1879     /*register*/ char *startpos = stringarg;
1880     I32 minlen;         /* must match at least this many chars */
1881     I32 dontbother = 0; /* how many characters not to try at end */
1882     I32 end_shift = 0;                  /* Same for the end. */         /* CC */
1883     I32 scream_pos = -1;                /* Internal iterator of scream. */
1884     char *scream_olds = NULL;
1885     const bool utf8_target = cBOOL(DO_UTF8(sv));
1886     I32 multiline;
1887     RXi_GET_DECL(prog,progi);
1888     regmatch_info reginfo;  /* create some info to pass to regtry etc */
1889     regexp_paren_pair *swap = NULL;
1890     GET_RE_DEBUG_FLAGS_DECL;
1891
1892     PERL_ARGS_ASSERT_REGEXEC_FLAGS;
1893     PERL_UNUSED_ARG(data);
1894
1895     /* Be paranoid... */
1896     if (prog == NULL || startpos == NULL) {
1897         Perl_croak(aTHX_ "NULL regexp parameter");
1898         return 0;
1899     }
1900
1901     multiline = prog->extflags & RXf_PMf_MULTILINE;
1902     reginfo.prog = rx;   /* Yes, sorry that this is confusing.  */
1903
1904     RX_MATCH_UTF8_set(rx, utf8_target);
1905     DEBUG_EXECUTE_r( 
1906         debug_start_match(rx, utf8_target, startpos, strend,
1907         "Matching");
1908     );
1909
1910     minlen = prog->minlen;
1911     
1912     if (strend - startpos < (minlen+(prog->check_offset_min<0?prog->check_offset_min:0))) {
1913         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
1914                               "String too short [regexec_flags]...\n"));
1915         goto phooey;
1916     }
1917
1918     
1919     /* Check validity of program. */
1920     if (UCHARAT(progi->program) != REG_MAGIC) {
1921         Perl_croak(aTHX_ "corrupted regexp program");
1922     }
1923
1924     PL_reg_flags = 0;
1925     PL_reg_eval_set = 0;
1926     PL_reg_maxiter = 0;
1927
1928     if (RX_UTF8(rx))
1929         PL_reg_flags |= RF_utf8;
1930
1931     /* Mark beginning of line for ^ and lookbehind. */
1932     reginfo.bol = startpos; /* XXX not used ??? */
1933     PL_bostr  = strbeg;
1934     reginfo.sv = sv;
1935
1936     /* Mark end of line for $ (and such) */
1937     PL_regeol = strend;
1938
1939     /* see how far we have to get to not match where we matched before */
1940     reginfo.till = startpos+minend;
1941
1942     /* If there is a "must appear" string, look for it. */
1943     s = startpos;
1944
1945     if (prog->extflags & RXf_GPOS_SEEN) { /* Need to set reginfo->ganch */
1946         MAGIC *mg;
1947         if (flags & REXEC_IGNOREPOS){   /* Means: check only at start */
1948             reginfo.ganch = startpos + prog->gofs;
1949             DEBUG_GPOS_r(PerlIO_printf(Perl_debug_log,
1950               "GPOS IGNOREPOS: reginfo.ganch = startpos + %"UVxf"\n",(UV)prog->gofs));
1951         } else if (sv && SvTYPE(sv) >= SVt_PVMG
1952                   && SvMAGIC(sv)
1953                   && (mg = mg_find(sv, PERL_MAGIC_regex_global))
1954                   && mg->mg_len >= 0) {
1955             reginfo.ganch = strbeg + mg->mg_len;        /* Defined pos() */
1956             DEBUG_GPOS_r(PerlIO_printf(Perl_debug_log,
1957                 "GPOS MAGIC: reginfo.ganch = strbeg + %"IVdf"\n",(IV)mg->mg_len));
1958
1959             if (prog->extflags & RXf_ANCH_GPOS) {
1960                 if (s > reginfo.ganch)
1961                     goto phooey;
1962                 s = reginfo.ganch - prog->gofs;
1963                 DEBUG_GPOS_r(PerlIO_printf(Perl_debug_log,
1964                      "GPOS ANCH_GPOS: s = ganch - %"UVxf"\n",(UV)prog->gofs));
1965                 if (s < strbeg)
1966                     goto phooey;
1967             }
1968         }
1969         else if (data) {
1970             reginfo.ganch = strbeg + PTR2UV(data);
1971             DEBUG_GPOS_r(PerlIO_printf(Perl_debug_log,
1972                  "GPOS DATA: reginfo.ganch= strbeg + %"UVxf"\n",PTR2UV(data)));
1973
1974         } else {                                /* pos() not defined */
1975             reginfo.ganch = strbeg;
1976             DEBUG_GPOS_r(PerlIO_printf(Perl_debug_log,
1977                  "GPOS: reginfo.ganch = strbeg\n"));
1978         }
1979     }
1980     if (PL_curpm && (PM_GETRE(PL_curpm) == rx)) {
1981         /* We have to be careful. If the previous successful match
1982            was from this regex we don't want a subsequent partially
1983            successful match to clobber the old results.
1984            So when we detect this possibility we add a swap buffer
1985            to the re, and switch the buffer each match. If we fail
1986            we switch it back, otherwise we leave it swapped.
1987         */
1988         swap = prog->offs;
1989         /* do we need a save destructor here for eval dies? */
1990         Newxz(prog->offs, (prog->nparens + 1), regexp_paren_pair);
1991     }
1992     if (!(flags & REXEC_CHECKED) && (prog->check_substr != NULL || prog->check_utf8 != NULL)) {
1993         re_scream_pos_data d;
1994
1995         d.scream_olds = &scream_olds;
1996         d.scream_pos = &scream_pos;
1997         s = re_intuit_start(rx, sv, s, strend, flags, &d);
1998         if (!s) {
1999             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Not present...\n"));
2000             goto phooey;        /* not present */
2001         }
2002     }
2003
2004
2005
2006     /* Simplest case:  anchored match need be tried only once. */
2007     /*  [unless only anchor is BOL and multiline is set] */
2008     if (prog->extflags & (RXf_ANCH & ~RXf_ANCH_GPOS)) {
2009         if (s == startpos && regtry(&reginfo, &startpos))
2010             goto got_it;
2011         else if (multiline || (prog->intflags & PREGf_IMPLICIT)
2012                  || (prog->extflags & RXf_ANCH_MBOL)) /* XXXX SBOL? */
2013         {
2014             char *end;
2015
2016             if (minlen)
2017                 dontbother = minlen - 1;
2018             end = HOP3c(strend, -dontbother, strbeg) - 1;
2019             /* for multiline we only have to try after newlines */
2020             if (prog->check_substr || prog->check_utf8) {
2021                 if (s == startpos)
2022                     goto after_try;
2023                 while (1) {
2024                     if (regtry(&reginfo, &s))
2025                         goto got_it;
2026                   after_try:
2027                     if (s > end)
2028                         goto phooey;
2029                     if (prog->extflags & RXf_USE_INTUIT) {
2030                         s = re_intuit_start(rx, sv, s + 1, strend, flags, NULL);
2031                         if (!s)
2032                             goto phooey;
2033                     }
2034                     else
2035                         s++;
2036                 }               
2037             } else {
2038                 if (s > startpos)
2039                     s--;
2040                 while (s < end) {
2041                     if (*s++ == '\n') { /* don't need PL_utf8skip here */
2042                         if (regtry(&reginfo, &s))
2043                             goto got_it;
2044                     }
2045                 }               
2046             }
2047         }
2048         goto phooey;
2049     } else if (RXf_GPOS_CHECK == (prog->extflags & RXf_GPOS_CHECK)) 
2050     {
2051         /* the warning about reginfo.ganch being used without intialization
2052            is bogus -- we set it above, when prog->extflags & RXf_GPOS_SEEN 
2053            and we only enter this block when the same bit is set. */
2054         char *tmp_s = reginfo.ganch - prog->gofs;
2055
2056         if (tmp_s >= strbeg && regtry(&reginfo, &tmp_s))
2057             goto got_it;
2058         goto phooey;
2059     }
2060
2061     /* Messy cases:  unanchored match. */
2062     if ((prog->anchored_substr || prog->anchored_utf8) && prog->intflags & PREGf_SKIP) {
2063         /* we have /x+whatever/ */
2064         /* it must be a one character string (XXXX Except UTF_PATTERN?) */
2065         char ch;
2066 #ifdef DEBUGGING
2067         int did_match = 0;
2068 #endif
2069         if (!(utf8_target ? prog->anchored_utf8 : prog->anchored_substr))
2070             utf8_target ? to_utf8_substr(prog) : to_byte_substr(prog);
2071         ch = SvPVX_const(utf8_target ? prog->anchored_utf8 : prog->anchored_substr)[0];
2072
2073         if (utf8_target) {
2074             REXEC_FBC_SCAN(
2075                 if (*s == ch) {
2076                     DEBUG_EXECUTE_r( did_match = 1 );
2077                     if (regtry(&reginfo, &s)) goto got_it;
2078                     s += UTF8SKIP(s);
2079                     while (s < strend && *s == ch)
2080                         s += UTF8SKIP(s);
2081                 }
2082             );
2083         }
2084         else {
2085             REXEC_FBC_SCAN(
2086                 if (*s == ch) {
2087                     DEBUG_EXECUTE_r( did_match = 1 );
2088                     if (regtry(&reginfo, &s)) goto got_it;
2089                     s++;
2090                     while (s < strend && *s == ch)
2091                         s++;
2092                 }
2093             );
2094         }
2095         DEBUG_EXECUTE_r(if (!did_match)
2096                 PerlIO_printf(Perl_debug_log,
2097                                   "Did not find anchored character...\n")
2098                );
2099     }
2100     else if (prog->anchored_substr != NULL
2101               || prog->anchored_utf8 != NULL
2102               || ((prog->float_substr != NULL || prog->float_utf8 != NULL)
2103                   && prog->float_max_offset < strend - s)) {
2104         SV *must;
2105         I32 back_max;
2106         I32 back_min;
2107         char *last;
2108         char *last1;            /* Last position checked before */
2109 #ifdef DEBUGGING
2110         int did_match = 0;
2111 #endif
2112         if (prog->anchored_substr || prog->anchored_utf8) {
2113             if (!(utf8_target ? prog->anchored_utf8 : prog->anchored_substr))
2114                 utf8_target ? to_utf8_substr(prog) : to_byte_substr(prog);
2115             must = utf8_target ? prog->anchored_utf8 : prog->anchored_substr;
2116             back_max = back_min = prog->anchored_offset;
2117         } else {
2118             if (!(utf8_target ? prog->float_utf8 : prog->float_substr))
2119                 utf8_target ? to_utf8_substr(prog) : to_byte_substr(prog);
2120             must = utf8_target ? prog->float_utf8 : prog->float_substr;
2121             back_max = prog->float_max_offset;
2122             back_min = prog->float_min_offset;
2123         }
2124         
2125             
2126         if (must == &PL_sv_undef)
2127             /* could not downgrade utf8 check substring, so must fail */
2128             goto phooey;
2129
2130         if (back_min<0) {
2131             last = strend;
2132         } else {
2133             last = HOP3c(strend,        /* Cannot start after this */
2134                   -(I32)(CHR_SVLEN(must)
2135                          - (SvTAIL(must) != 0) + back_min), strbeg);
2136         }
2137         if (s > PL_bostr)
2138             last1 = HOPc(s, -1);
2139         else
2140             last1 = s - 1;      /* bogus */
2141
2142         /* XXXX check_substr already used to find "s", can optimize if
2143            check_substr==must. */
2144         scream_pos = -1;
2145         dontbother = end_shift;
2146         strend = HOPc(strend, -dontbother);
2147         while ( (s <= last) &&
2148                 ((flags & REXEC_SCREAM)
2149                  ? (s = screaminstr(sv, must, HOP3c(s, back_min, (back_min<0 ? strbeg : strend)) - strbeg,
2150                                     end_shift, &scream_pos, 0))
2151                  : (s = fbm_instr((unsigned char*)HOP3(s, back_min, (back_min<0 ? strbeg : strend)),
2152                                   (unsigned char*)strend, must,
2153                                   multiline ? FBMrf_MULTILINE : 0))) ) {
2154             /* we may be pointing at the wrong string */
2155             if ((flags & REXEC_SCREAM) && RXp_MATCH_COPIED(prog))
2156                 s = strbeg + (s - SvPVX_const(sv));
2157             DEBUG_EXECUTE_r( did_match = 1 );
2158             if (HOPc(s, -back_max) > last1) {
2159                 last1 = HOPc(s, -back_min);
2160                 s = HOPc(s, -back_max);
2161             }
2162             else {
2163                 char * const t = (last1 >= PL_bostr) ? HOPc(last1, 1) : last1 + 1;
2164
2165                 last1 = HOPc(s, -back_min);
2166                 s = t;
2167             }
2168             if (utf8_target) {
2169                 while (s <= last1) {
2170                     if (regtry(&reginfo, &s))
2171                         goto got_it;
2172                     s += UTF8SKIP(s);
2173                 }
2174             }
2175             else {
2176                 while (s <= last1) {
2177                     if (regtry(&reginfo, &s))
2178                         goto got_it;
2179                     s++;
2180                 }
2181             }
2182         }
2183         DEBUG_EXECUTE_r(if (!did_match) {
2184             RE_PV_QUOTED_DECL(quoted, utf8_target, PERL_DEBUG_PAD_ZERO(0),
2185                 SvPVX_const(must), RE_SV_DUMPLEN(must), 30);
2186             PerlIO_printf(Perl_debug_log, "Did not find %s substr %s%s...\n",
2187                               ((must == prog->anchored_substr || must == prog->anchored_utf8)
2188                                ? "anchored" : "floating"),
2189                 quoted, RE_SV_TAIL(must));
2190         });                 
2191         goto phooey;
2192     }
2193     else if ( (c = progi->regstclass) ) {
2194         if (minlen) {
2195             const OPCODE op = OP(progi->regstclass);
2196             /* don't bother with what can't match */
2197             if (PL_regkind[op] != EXACT && op != CANY && PL_regkind[op] != TRIE)
2198                 strend = HOPc(strend, -(minlen - 1));
2199         }
2200         DEBUG_EXECUTE_r({
2201             SV * const prop = sv_newmortal();
2202             regprop(prog, prop, c);
2203             {
2204                 RE_PV_QUOTED_DECL(quoted,utf8_target,PERL_DEBUG_PAD_ZERO(1),
2205                     s,strend-s,60);
2206                 PerlIO_printf(Perl_debug_log,
2207                     "Matching stclass %.*s against %s (%d bytes)\n",
2208                     (int)SvCUR(prop), SvPVX_const(prop),
2209                      quoted, (int)(strend - s));
2210             }
2211         });
2212         if (find_byclass(prog, c, s, strend, &reginfo))
2213             goto got_it;
2214         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Contradicts stclass... [regexec_flags]\n"));
2215     }
2216     else {
2217         dontbother = 0;
2218         if (prog->float_substr != NULL || prog->float_utf8 != NULL) {
2219             /* Trim the end. */
2220             char *last;
2221             SV* float_real;
2222
2223             if (!(utf8_target ? prog->float_utf8 : prog->float_substr))
2224                 utf8_target ? to_utf8_substr(prog) : to_byte_substr(prog);
2225             float_real = utf8_target ? prog->float_utf8 : prog->float_substr;
2226
2227             if (flags & REXEC_SCREAM) {
2228                 last = screaminstr(sv, float_real, s - strbeg,
2229                                    end_shift, &scream_pos, 1); /* last one */
2230                 if (!last)
2231                     last = scream_olds; /* Only one occurrence. */
2232                 /* we may be pointing at the wrong string */
2233                 else if (RXp_MATCH_COPIED(prog))
2234                     s = strbeg + (s - SvPVX_const(sv));
2235             }
2236             else {
2237                 STRLEN len;
2238                 const char * const little = SvPV_const(float_real, len);
2239
2240                 if (SvTAIL(float_real)) {
2241                     if (memEQ(strend - len + 1, little, len - 1))
2242                         last = strend - len + 1;
2243                     else if (!multiline)
2244                         last = memEQ(strend - len, little, len)
2245                             ? strend - len : NULL;
2246                     else
2247                         goto find_last;
2248                 } else {
2249                   find_last:
2250                     if (len)
2251                         last = rninstr(s, strend, little, little + len);
2252                     else
2253                         last = strend;  /* matching "$" */
2254                 }
2255             }
2256             if (last == NULL) {
2257                 DEBUG_EXECUTE_r(
2258                     PerlIO_printf(Perl_debug_log,
2259                         "%sCan't trim the tail, match fails (should not happen)%s\n",
2260                         PL_colors[4], PL_colors[5]));
2261                 goto phooey; /* Should not happen! */
2262             }
2263             dontbother = strend - last + prog->float_min_offset;
2264         }
2265         if (minlen && (dontbother < minlen))
2266             dontbother = minlen - 1;
2267         strend -= dontbother;              /* this one's always in bytes! */
2268         /* We don't know much -- general case. */
2269         if (utf8_target) {
2270             for (;;) {
2271                 if (regtry(&reginfo, &s))
2272                     goto got_it;
2273                 if (s >= strend)
2274                     break;
2275                 s += UTF8SKIP(s);
2276             };
2277         }
2278         else {
2279             do {
2280                 if (regtry(&reginfo, &s))
2281                     goto got_it;
2282             } while (s++ < strend);
2283         }
2284     }
2285
2286     /* Failure. */
2287     goto phooey;
2288
2289 got_it:
2290     Safefree(swap);
2291     RX_MATCH_TAINTED_set(rx, PL_reg_flags & RF_tainted);
2292
2293     if (PL_reg_eval_set)
2294         restore_pos(aTHX_ prog);
2295     if (RXp_PAREN_NAMES(prog)) 
2296         (void)hv_iterinit(RXp_PAREN_NAMES(prog));
2297
2298     /* make sure $`, $&, $', and $digit will work later */
2299     if ( !(flags & REXEC_NOT_FIRST) ) {
2300         RX_MATCH_COPY_FREE(rx);
2301         if (flags & REXEC_COPY_STR) {
2302             const I32 i = PL_regeol - startpos + (stringarg - strbeg);
2303 #ifdef PERL_OLD_COPY_ON_WRITE
2304             if ((SvIsCOW(sv)
2305                  || (SvFLAGS(sv) & CAN_COW_MASK) == CAN_COW_FLAGS)) {
2306                 if (DEBUG_C_TEST) {
2307                     PerlIO_printf(Perl_debug_log,
2308                                   "Copy on write: regexp capture, type %d\n",
2309                                   (int) SvTYPE(sv));
2310                 }
2311                 prog->saved_copy = sv_setsv_cow(prog->saved_copy, sv);
2312                 prog->subbeg = (char *)SvPVX_const(prog->saved_copy);
2313                 assert (SvPOKp(prog->saved_copy));
2314             } else
2315 #endif
2316             {
2317                 RX_MATCH_COPIED_on(rx);
2318                 s = savepvn(strbeg, i);
2319                 prog->subbeg = s;
2320             }
2321             prog->sublen = i;
2322         }
2323         else {
2324             prog->subbeg = strbeg;
2325             prog->sublen = PL_regeol - strbeg;  /* strend may have been modified */
2326         }
2327     }
2328
2329     return 1;
2330
2331 phooey:
2332     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "%sMatch failed%s\n",
2333                           PL_colors[4], PL_colors[5]));
2334     if (PL_reg_eval_set)
2335         restore_pos(aTHX_ prog);
2336     if (swap) {
2337         /* we failed :-( roll it back */
2338         Safefree(prog->offs);
2339         prog->offs = swap;
2340     }
2341
2342     return 0;
2343 }
2344
2345
2346 /*
2347  - regtry - try match at specific point
2348  */
2349 STATIC I32                      /* 0 failure, 1 success */
2350 S_regtry(pTHX_ regmatch_info *reginfo, char **startpos)
2351 {
2352     dVAR;
2353     CHECKPOINT lastcp;
2354     REGEXP *const rx = reginfo->prog;
2355     regexp *const prog = (struct regexp *)SvANY(rx);
2356     RXi_GET_DECL(prog,progi);
2357     GET_RE_DEBUG_FLAGS_DECL;
2358
2359     PERL_ARGS_ASSERT_REGTRY;
2360
2361     reginfo->cutpoint=NULL;
2362
2363     if ((prog->extflags & RXf_EVAL_SEEN) && !PL_reg_eval_set) {
2364         MAGIC *mg;
2365
2366         PL_reg_eval_set = RS_init;
2367         DEBUG_EXECUTE_r(DEBUG_s(
2368             PerlIO_printf(Perl_debug_log, "  setting stack tmpbase at %"IVdf"\n",
2369                           (IV)(PL_stack_sp - PL_stack_base));
2370             ));
2371         SAVESTACK_CXPOS();
2372         cxstack[cxstack_ix].blk_oldsp = PL_stack_sp - PL_stack_base;
2373         /* Otherwise OP_NEXTSTATE will free whatever on stack now.  */
2374         SAVETMPS;
2375         /* Apparently this is not needed, judging by wantarray. */
2376         /* SAVEI8(cxstack[cxstack_ix].blk_gimme);
2377            cxstack[cxstack_ix].blk_gimme = G_SCALAR; */
2378
2379         if (reginfo->sv) {
2380             /* Make $_ available to executed code. */
2381             if (reginfo->sv != DEFSV) {
2382                 SAVE_DEFSV;
2383                 DEFSV_set(reginfo->sv);
2384             }
2385         
2386             if (!(SvTYPE(reginfo->sv) >= SVt_PVMG && SvMAGIC(reginfo->sv)
2387                   && (mg = mg_find(reginfo->sv, PERL_MAGIC_regex_global)))) {
2388                 /* prepare for quick setting of pos */
2389 #ifdef PERL_OLD_COPY_ON_WRITE
2390                 if (SvIsCOW(reginfo->sv))
2391                     sv_force_normal_flags(reginfo->sv, 0);
2392 #endif
2393                 mg = sv_magicext(reginfo->sv, NULL, PERL_MAGIC_regex_global,
2394                                  &PL_vtbl_mglob, NULL, 0);
2395                 mg->mg_len = -1;
2396             }
2397             PL_reg_magic    = mg;
2398             PL_reg_oldpos   = mg->mg_len;
2399             SAVEDESTRUCTOR_X(restore_pos, prog);
2400         }
2401         if (!PL_reg_curpm) {
2402             Newxz(PL_reg_curpm, 1, PMOP);
2403 #ifdef USE_ITHREADS
2404             {
2405                 SV* const repointer = &PL_sv_undef;
2406                 /* this regexp is also owned by the new PL_reg_curpm, which
2407                    will try to free it.  */
2408                 av_push(PL_regex_padav, repointer);
2409                 PL_reg_curpm->op_pmoffset = av_len(PL_regex_padav);
2410                 PL_regex_pad = AvARRAY(PL_regex_padav);
2411             }
2412 #endif      
2413         }
2414 #ifdef USE_ITHREADS
2415         /* It seems that non-ithreads works both with and without this code.
2416            So for efficiency reasons it seems best not to have the code
2417            compiled when it is not needed.  */
2418         /* This is safe against NULLs: */
2419         ReREFCNT_dec(PM_GETRE(PL_reg_curpm));
2420         /* PM_reg_curpm owns a reference to this regexp.  */
2421         ReREFCNT_inc(rx);
2422 #endif
2423         PM_SETRE(PL_reg_curpm, rx);
2424         PL_reg_oldcurpm = PL_curpm;
2425         PL_curpm = PL_reg_curpm;
2426         if (RXp_MATCH_COPIED(prog)) {
2427             /*  Here is a serious problem: we cannot rewrite subbeg,
2428                 since it may be needed if this match fails.  Thus
2429                 $` inside (?{}) could fail... */
2430             PL_reg_oldsaved = prog->subbeg;
2431             PL_reg_oldsavedlen = prog->sublen;
2432 #ifdef PERL_OLD_COPY_ON_WRITE
2433             PL_nrs = prog->saved_copy;
2434 #endif
2435             RXp_MATCH_COPIED_off(prog);
2436         }
2437         else
2438             PL_reg_oldsaved = NULL;
2439         prog->subbeg = PL_bostr;
2440         prog->sublen = PL_regeol - PL_bostr; /* strend may have been modified */
2441     }
2442     DEBUG_EXECUTE_r(PL_reg_starttry = *startpos);
2443     prog->offs[0].start = *startpos - PL_bostr;
2444     PL_reginput = *startpos;
2445     PL_reglastparen = &prog->lastparen;
2446     PL_reglastcloseparen = &prog->lastcloseparen;
2447     prog->lastparen = 0;
2448     prog->lastcloseparen = 0;
2449     PL_regsize = 0;
2450     PL_regoffs = prog->offs;
2451     if (PL_reg_start_tmpl <= prog->nparens) {
2452         PL_reg_start_tmpl = prog->nparens*3/2 + 3;
2453         if(PL_reg_start_tmp)
2454             Renew(PL_reg_start_tmp, PL_reg_start_tmpl, char*);
2455         else
2456             Newx(PL_reg_start_tmp, PL_reg_start_tmpl, char*);
2457     }
2458
2459     /* XXXX What this code is doing here?!!!  There should be no need
2460        to do this again and again, PL_reglastparen should take care of
2461        this!  --ilya*/
2462
2463     /* Tests pat.t#187 and split.t#{13,14} seem to depend on this code.
2464      * Actually, the code in regcppop() (which Ilya may be meaning by
2465      * PL_reglastparen), is not needed at all by the test suite
2466      * (op/regexp, op/pat, op/split), but that code is needed otherwise
2467      * this erroneously leaves $1 defined: "1" =~ /^(?:(\d)x)?\d$/
2468      * Meanwhile, this code *is* needed for the
2469      * above-mentioned test suite tests to succeed.  The common theme
2470      * on those tests seems to be returning null fields from matches.
2471      * --jhi updated by dapm */
2472 #if 1
2473     if (prog->nparens) {
2474         regexp_paren_pair *pp = PL_regoffs;
2475         register I32 i;
2476         for (i = prog->nparens; i > (I32)*PL_reglastparen; i--) {
2477             ++pp;
2478             pp->start = -1;
2479             pp->end = -1;
2480         }
2481     }
2482 #endif
2483     REGCP_SET(lastcp);
2484     if (regmatch(reginfo, progi->program + 1)) {
2485         PL_regoffs[0].end = PL_reginput - PL_bostr;
2486         return 1;
2487     }
2488     if (reginfo->cutpoint)
2489         *startpos= reginfo->cutpoint;
2490     REGCP_UNWIND(lastcp);
2491     return 0;
2492 }
2493
2494
2495 #define sayYES goto yes
2496 #define sayNO goto no
2497 #define sayNO_SILENT goto no_silent
2498
2499 /* we dont use STMT_START/END here because it leads to 
2500    "unreachable code" warnings, which are bogus, but distracting. */
2501 #define CACHEsayNO \
2502     if (ST.cache_mask) \
2503        PL_reg_poscache[ST.cache_offset] |= ST.cache_mask; \
2504     sayNO
2505
2506 /* this is used to determine how far from the left messages like
2507    'failed...' are printed. It should be set such that messages 
2508    are inline with the regop output that created them.
2509 */
2510 #define REPORT_CODE_OFF 32
2511
2512
2513 #define CHRTEST_UNINIT -1001 /* c1/c2 haven't been calculated yet */
2514 #define CHRTEST_VOID   -1000 /* the c1/c2 "next char" test should be skipped */
2515
2516 #define SLAB_FIRST(s) (&(s)->states[0])
2517 #define SLAB_LAST(s)  (&(s)->states[PERL_REGMATCH_SLAB_SLOTS-1])
2518
2519 /* grab a new slab and return the first slot in it */
2520
2521 STATIC regmatch_state *
2522 S_push_slab(pTHX)
2523 {
2524 #if PERL_VERSION < 9 && !defined(PERL_CORE)
2525     dMY_CXT;
2526 #endif
2527     regmatch_slab *s = PL_regmatch_slab->next;
2528     if (!s) {
2529         Newx(s, 1, regmatch_slab);
2530         s->prev = PL_regmatch_slab;
2531         s->next = NULL;
2532         PL_regmatch_slab->next = s;
2533     }
2534     PL_regmatch_slab = s;
2535     return SLAB_FIRST(s);
2536 }
2537
2538
2539 /* push a new state then goto it */
2540
2541 #define PUSH_STATE_GOTO(state, node) \
2542     scan = node; \
2543     st->resume_state = state; \
2544     goto push_state;
2545
2546 /* push a new state with success backtracking, then goto it */
2547
2548 #define PUSH_YES_STATE_GOTO(state, node) \
2549     scan = node; \
2550     st->resume_state = state; \
2551     goto push_yes_state;
2552
2553
2554
2555 /*
2556
2557 regmatch() - main matching routine
2558
2559 This is basically one big switch statement in a loop. We execute an op,
2560 set 'next' to point the next op, and continue. If we come to a point which
2561 we may need to backtrack to on failure such as (A|B|C), we push a
2562 backtrack state onto the backtrack stack. On failure, we pop the top
2563 state, and re-enter the loop at the state indicated. If there are no more
2564 states to pop, we return failure.
2565
2566 Sometimes we also need to backtrack on success; for example /A+/, where
2567 after successfully matching one A, we need to go back and try to
2568 match another one; similarly for lookahead assertions: if the assertion
2569 completes successfully, we backtrack to the state just before the assertion
2570 and then carry on.  In these cases, the pushed state is marked as
2571 'backtrack on success too'. This marking is in fact done by a chain of
2572 pointers, each pointing to the previous 'yes' state. On success, we pop to
2573 the nearest yes state, discarding any intermediate failure-only states.
2574 Sometimes a yes state is pushed just to force some cleanup code to be
2575 called at the end of a successful match or submatch; e.g. (??{$re}) uses
2576 it to free the inner regex.
2577
2578 Note that failure backtracking rewinds the cursor position, while
2579 success backtracking leaves it alone.
2580
2581 A pattern is complete when the END op is executed, while a subpattern
2582 such as (?=foo) is complete when the SUCCESS op is executed. Both of these
2583 ops trigger the "pop to last yes state if any, otherwise return true"
2584 behaviour.
2585
2586 A common convention in this function is to use A and B to refer to the two
2587 subpatterns (or to the first nodes thereof) in patterns like /A*B/: so A is
2588 the subpattern to be matched possibly multiple times, while B is the entire
2589 rest of the pattern. Variable and state names reflect this convention.
2590
2591 The states in the main switch are the union of ops and failure/success of
2592 substates associated with with that op.  For example, IFMATCH is the op
2593 that does lookahead assertions /(?=A)B/ and so the IFMATCH state means
2594 'execute IFMATCH'; while IFMATCH_A is a state saying that we have just
2595 successfully matched A and IFMATCH_A_fail is a state saying that we have
2596 just failed to match A. Resume states always come in pairs. The backtrack
2597 state we push is marked as 'IFMATCH_A', but when that is popped, we resume
2598 at IFMATCH_A or IFMATCH_A_fail, depending on whether we are backtracking
2599 on success or failure.
2600
2601 The struct that holds a backtracking state is actually a big union, with
2602 one variant for each major type of op. The variable st points to the
2603 top-most backtrack struct. To make the code clearer, within each
2604 block of code we #define ST to alias the relevant union.
2605
2606 Here's a concrete example of a (vastly oversimplified) IFMATCH
2607 implementation:
2608
2609     switch (state) {
2610     ....
2611
2612 #define ST st->u.ifmatch
2613
2614     case IFMATCH: // we are executing the IFMATCH op, (?=A)B
2615         ST.foo = ...; // some state we wish to save
2616         ...
2617         // push a yes backtrack state with a resume value of
2618         // IFMATCH_A/IFMATCH_A_fail, then continue execution at the
2619         // first node of A:
2620         PUSH_YES_STATE_GOTO(IFMATCH_A, A);
2621         // NOTREACHED
2622
2623     case IFMATCH_A: // we have successfully executed A; now continue with B
2624         next = B;
2625         bar = ST.foo; // do something with the preserved value
2626         break;
2627
2628     case IFMATCH_A_fail: // A failed, so the assertion failed
2629         ...;   // do some housekeeping, then ...
2630         sayNO; // propagate the failure
2631
2632 #undef ST
2633
2634     ...
2635     }
2636
2637 For any old-timers reading this who are familiar with the old recursive
2638 approach, the code above is equivalent to:
2639
2640     case IFMATCH: // we are executing the IFMATCH op, (?=A)B
2641     {
2642         int foo = ...
2643         ...
2644         if (regmatch(A)) {
2645             next = B;
2646             bar = foo;
2647             break;
2648         }
2649         ...;   // do some housekeeping, then ...
2650         sayNO; // propagate the failure
2651     }
2652
2653 The topmost backtrack state, pointed to by st, is usually free. If you
2654 want to claim it, populate any ST.foo fields in it with values you wish to
2655 save, then do one of
2656
2657         PUSH_STATE_GOTO(resume_state, node);
2658         PUSH_YES_STATE_GOTO(resume_state, node);
2659
2660 which sets that backtrack state's resume value to 'resume_state', pushes a
2661 new free entry to the top of the backtrack stack, then goes to 'node'.
2662 On backtracking, the free slot is popped, and the saved state becomes the
2663 new free state. An ST.foo field in this new top state can be temporarily
2664 accessed to retrieve values, but once the main loop is re-entered, it
2665 becomes available for reuse.
2666
2667 Note that the depth of the backtrack stack constantly increases during the
2668 left-to-right execution of the pattern, rather than going up and down with
2669 the pattern nesting. For example the stack is at its maximum at Z at the
2670 end of the pattern, rather than at X in the following:
2671
2672     /(((X)+)+)+....(Y)+....Z/
2673
2674 The only exceptions to this are lookahead/behind assertions and the cut,
2675 (?>A), which pop all the backtrack states associated with A before
2676 continuing.
2677  
2678 Bascktrack state structs are allocated in slabs of about 4K in size.
2679 PL_regmatch_state and st always point to the currently active state,
2680 and PL_regmatch_slab points to the slab currently containing
2681 PL_regmatch_state.  The first time regmatch() is called, the first slab is
2682 allocated, and is never freed until interpreter destruction. When the slab
2683 is full, a new one is allocated and chained to the end. At exit from
2684 regmatch(), slabs allocated since entry are freed.
2685
2686 */
2687  
2688
2689 #define DEBUG_STATE_pp(pp)                                  \
2690     DEBUG_STATE_r({                                         \
2691         DUMP_EXEC_POS(locinput, scan, utf8_target);                 \
2692         PerlIO_printf(Perl_debug_log,                       \
2693             "    %*s"pp" %s%s%s%s%s\n",                     \
2694             depth*2, "",                                    \
2695             PL_reg_name[st->resume_state],                     \
2696             ((st==yes_state||st==mark_state) ? "[" : ""),   \
2697             ((st==yes_state) ? "Y" : ""),                   \
2698             ((st==mark_state) ? "M" : ""),                  \
2699             ((st==yes_state||st==mark_state) ? "]" : "")    \
2700         );                                                  \
2701     });
2702
2703
2704 #define REG_NODE_NUM(x) ((x) ? (int)((x)-prog) : -1)
2705
2706 #ifdef DEBUGGING
2707
2708 STATIC void
2709 S_debug_start_match(pTHX_ const REGEXP *prog, const bool utf8_target,
2710     const char *start, const char *end, const char *blurb)
2711 {
2712     const bool utf8_pat = RX_UTF8(prog) ? 1 : 0;
2713
2714     PERL_ARGS_ASSERT_DEBUG_START_MATCH;
2715
2716     if (!PL_colorset)   
2717             reginitcolors();    
2718     {
2719         RE_PV_QUOTED_DECL(s0, utf8_pat, PERL_DEBUG_PAD_ZERO(0), 
2720             RX_PRECOMP_const(prog), RX_PRELEN(prog), 60);   
2721         
2722         RE_PV_QUOTED_DECL(s1, utf8_target, PERL_DEBUG_PAD_ZERO(1),
2723             start, end - start, 60); 
2724         
2725         PerlIO_printf(Perl_debug_log, 
2726             "%s%s REx%s %s against %s\n", 
2727                        PL_colors[4], blurb, PL_colors[5], s0, s1); 
2728         
2729         if (utf8_target||utf8_pat)
2730             PerlIO_printf(Perl_debug_log, "UTF-8 %s%s%s...\n",
2731                 utf8_pat ? "pattern" : "",
2732                 utf8_pat && utf8_target ? " and " : "",
2733                 utf8_target ? "string" : ""
2734             ); 
2735     }
2736 }
2737
2738 STATIC void
2739 S_dump_exec_pos(pTHX_ const char *locinput, 
2740                       const regnode *scan, 
2741                       const char *loc_regeol, 
2742                       const char *loc_bostr, 
2743                       const char *loc_reg_starttry,
2744                       const bool utf8_target)
2745 {
2746     const int docolor = *PL_colors[0] || *PL_colors[2] || *PL_colors[4];
2747     const int taill = (docolor ? 10 : 7); /* 3 chars for "> <" */
2748     int l = (loc_regeol - locinput) > taill ? taill : (loc_regeol - locinput);
2749     /* The part of the string before starttry has one color
2750        (pref0_len chars), between starttry and current
2751        position another one (pref_len - pref0_len chars),
2752        after the current position the third one.
2753        We assume that pref0_len <= pref_len, otherwise we
2754        decrease pref0_len.  */
2755     int pref_len = (locinput - loc_bostr) > (5 + taill) - l
2756         ? (5 + taill) - l : locinput - loc_bostr;
2757     int pref0_len;
2758
2759     PERL_ARGS_ASSERT_DUMP_EXEC_POS;
2760
2761     while (utf8_target && UTF8_IS_CONTINUATION(*(U8*)(locinput - pref_len)))
2762         pref_len++;
2763     pref0_len = pref_len  - (locinput - loc_reg_starttry);
2764     if (l + pref_len < (5 + taill) && l < loc_regeol - locinput)
2765         l = ( loc_regeol - locinput > (5 + taill) - pref_len
2766               ? (5 + taill) - pref_len : loc_regeol - locinput);
2767     while (utf8_target && UTF8_IS_CONTINUATION(*(U8*)(locinput + l)))
2768         l--;
2769     if (pref0_len < 0)
2770         pref0_len = 0;
2771     if (pref0_len > pref_len)
2772         pref0_len = pref_len;
2773     {
2774         const int is_uni = (utf8_target && OP(scan) != CANY) ? 1 : 0;
2775
2776         RE_PV_COLOR_DECL(s0,len0,is_uni,PERL_DEBUG_PAD(0),
2777             (locinput - pref_len),pref0_len, 60, 4, 5);
2778         
2779         RE_PV_COLOR_DECL(s1,len1,is_uni,PERL_DEBUG_PAD(1),
2780                     (locinput - pref_len + pref0_len),
2781                     pref_len - pref0_len, 60, 2, 3);
2782         
2783         RE_PV_COLOR_DECL(s2,len2,is_uni,PERL_DEBUG_PAD(2),
2784                     locinput, loc_regeol - locinput, 10, 0, 1);
2785
2786         const STRLEN tlen=len0+len1+len2;
2787         PerlIO_printf(Perl_debug_log,
2788                     "%4"IVdf" <%.*s%.*s%s%.*s>%*s|",
2789                     (IV)(locinput - loc_bostr),
2790                     len0, s0,
2791                     len1, s1,
2792                     (docolor ? "" : "> <"),
2793                     len2, s2,
2794                     (int)(tlen > 19 ? 0 :  19 - tlen),
2795                     "");
2796     }
2797 }
2798
2799 #endif
2800
2801 /* reg_check_named_buff_matched()
2802  * Checks to see if a named buffer has matched. The data array of 
2803  * buffer numbers corresponding to the buffer is expected to reside
2804  * in the regexp->data->data array in the slot stored in the ARG() of
2805  * node involved. Note that this routine doesn't actually care about the
2806  * name, that information is not preserved from compilation to execution.
2807  * Returns the index of the leftmost defined buffer with the given name
2808  * or 0 if non of the buffers matched.
2809  */
2810 STATIC I32
2811 S_reg_check_named_buff_matched(pTHX_ const regexp *rex, const regnode *scan)
2812 {
2813     I32 n;
2814     RXi_GET_DECL(rex,rexi);
2815     SV *sv_dat= MUTABLE_SV(rexi->data->data[ ARG( scan ) ]);
2816     I32 *nums=(I32*)SvPVX(sv_dat);
2817
2818     PERL_ARGS_ASSERT_REG_CHECK_NAMED_BUFF_MATCHED;
2819
2820     for ( n=0; n<SvIVX(sv_dat); n++ ) {
2821         if ((I32)*PL_reglastparen >= nums[n] &&
2822             PL_regoffs[nums[n]].end != -1)
2823         {
2824             return nums[n];
2825         }
2826     }
2827     return 0;
2828 }
2829
2830
2831 /* free all slabs above current one  - called during LEAVE_SCOPE */
2832
2833 STATIC void
2834 S_clear_backtrack_stack(pTHX_ void *p)
2835 {
2836     regmatch_slab *s = PL_regmatch_slab->next;
2837     PERL_UNUSED_ARG(p);
2838
2839     if (!s)
2840         return;
2841     PL_regmatch_slab->next = NULL;
2842     while (s) {
2843         regmatch_slab * const osl = s;
2844         s = s->next;
2845         Safefree(osl);
2846     }
2847 }
2848
2849
2850 #define SETREX(Re1,Re2) \
2851     if (PL_reg_eval_set) PM_SETRE((PL_reg_curpm), (Re2)); \
2852     Re1 = (Re2)
2853
2854 STATIC I32                      /* 0 failure, 1 success */
2855 S_regmatch(pTHX_ regmatch_info *reginfo, regnode *prog)
2856 {
2857 #if PERL_VERSION < 9 && !defined(PERL_CORE)
2858     dMY_CXT;
2859 #endif
2860     dVAR;
2861     register const bool utf8_target = PL_reg_match_utf8;
2862     const U32 uniflags = UTF8_ALLOW_DEFAULT;
2863     REGEXP *rex_sv = reginfo->prog;
2864     regexp *rex = (struct regexp *)SvANY(rex_sv);
2865     RXi_GET_DECL(rex,rexi);
2866     I32 oldsave;
2867     /* the current state. This is a cached copy of PL_regmatch_state */
2868     register regmatch_state *st;
2869     /* cache heavy used fields of st in registers */
2870     register regnode *scan;
2871     register regnode *next;
2872     register U32 n = 0; /* general value; init to avoid compiler warning */
2873     register I32 ln = 0; /* len or last;  init to avoid compiler warning */
2874     register char *locinput = PL_reginput;
2875     register I32 nextchr;   /* is always set to UCHARAT(locinput) */
2876
2877     bool result = 0;        /* return value of S_regmatch */
2878     int depth = 0;          /* depth of backtrack stack */
2879     U32 nochange_depth = 0; /* depth of GOSUB recursion with nochange */
2880     const U32 max_nochange_depth =
2881         (3 * rex->nparens > MAX_RECURSE_EVAL_NOCHANGE_DEPTH) ?
2882         3 * rex->nparens : MAX_RECURSE_EVAL_NOCHANGE_DEPTH;
2883     regmatch_state *yes_state = NULL; /* state to pop to on success of
2884                                                             subpattern */
2885     /* mark_state piggy backs on the yes_state logic so that when we unwind 
2886        the stack on success we can update the mark_state as we go */
2887     regmatch_state *mark_state = NULL; /* last mark state we have seen */
2888     regmatch_state *cur_eval = NULL; /* most recent EVAL_AB state */
2889     struct regmatch_state  *cur_curlyx = NULL; /* most recent curlyx */
2890     U32 state_num;
2891     bool no_final = 0;      /* prevent failure from backtracking? */
2892     bool do_cutgroup = 0;   /* no_final only until next branch/trie entry */
2893     char *startpoint = PL_reginput;
2894     SV *popmark = NULL;     /* are we looking for a mark? */
2895     SV *sv_commit = NULL;   /* last mark name seen in failure */
2896     SV *sv_yes_mark = NULL; /* last mark name we have seen 
2897                                during a successfull match */
2898     U32 lastopen = 0;       /* last open we saw */
2899     bool has_cutgroup = RX_HAS_CUTGROUP(rex) ? 1 : 0;   
2900     SV* const oreplsv = GvSV(PL_replgv);
2901     /* these three flags are set by various ops to signal information to
2902      * the very next op. They have a useful lifetime of exactly one loop
2903      * iteration, and are not preserved or restored by state pushes/pops
2904      */
2905     bool sw = 0;            /* the condition value in (?(cond)a|b) */
2906     bool minmod = 0;        /* the next "{n,m}" is a "{n,m}?" */
2907     int logical = 0;        /* the following EVAL is:
2908                                 0: (?{...})
2909                                 1: (?(?{...})X|Y)
2910                                 2: (??{...})
2911                                or the following IFMATCH/UNLESSM is:
2912                                 false: plain (?=foo)
2913                                 true:  used as a condition: (?(?=foo))
2914                             */
2915 #ifdef DEBUGGING
2916     GET_RE_DEBUG_FLAGS_DECL;
2917 #endif
2918
2919     PERL_ARGS_ASSERT_REGMATCH;
2920
2921     DEBUG_OPTIMISE_r( DEBUG_EXECUTE_r({
2922             PerlIO_printf(Perl_debug_log,"regmatch start\n");
2923     }));
2924     /* on first ever call to regmatch, allocate first slab */
2925     if (!PL_regmatch_slab) {
2926         Newx(PL_regmatch_slab, 1, regmatch_slab);
2927         PL_regmatch_slab->prev = NULL;
2928         PL_regmatch_slab->next = NULL;
2929         PL_regmatch_state = SLAB_FIRST(PL_regmatch_slab);
2930     }
2931
2932     oldsave = PL_savestack_ix;
2933     SAVEDESTRUCTOR_X(S_clear_backtrack_stack, NULL);
2934     SAVEVPTR(PL_regmatch_slab);
2935     SAVEVPTR(PL_regmatch_state);
2936
2937     /* grab next free state slot */
2938     st = ++PL_regmatch_state;
2939     if (st >  SLAB_LAST(PL_regmatch_slab))
2940         st = PL_regmatch_state = S_push_slab(aTHX);
2941
2942     /* Note that nextchr is a byte even in UTF */
2943     nextchr = UCHARAT(locinput);
2944     scan = prog;
2945     while (scan != NULL) {
2946
2947         DEBUG_EXECUTE_r( {
2948             SV * const prop = sv_newmortal();
2949             regnode *rnext=regnext(scan);
2950             DUMP_EXEC_POS( locinput, scan, utf8_target );
2951             regprop(rex, prop, scan);
2952             
2953             PerlIO_printf(Perl_debug_log,
2954                     "%3"IVdf":%*s%s(%"IVdf")\n",
2955                     (IV)(scan - rexi->program), depth*2, "",
2956                     SvPVX_const(prop),
2957                     (PL_regkind[OP(scan)] == END || !rnext) ? 
2958                         0 : (IV)(rnext - rexi->program));
2959         });
2960
2961         next = scan + NEXT_OFF(scan);
2962         if (next == scan)
2963             next = NULL;
2964         state_num = OP(scan);
2965
2966       reenter_switch:
2967
2968         assert(PL_reglastparen == &rex->lastparen);
2969         assert(PL_reglastcloseparen == &rex->lastcloseparen);
2970         assert(PL_regoffs == rex->offs);
2971
2972         switch (state_num) {
2973         case BOL:
2974             if (locinput == PL_bostr)
2975             {
2976                 /* reginfo->till = reginfo->bol; */
2977                 break;
2978             }
2979             sayNO;
2980         case MBOL:
2981             if (locinput == PL_bostr ||
2982                 ((nextchr || locinput < PL_regeol) && locinput[-1] == '\n'))
2983             {
2984                 break;
2985             }
2986             sayNO;
2987         case SBOL:
2988             if (locinput == PL_bostr)
2989                 break;
2990             sayNO;
2991         case GPOS:
2992             if (locinput == reginfo->ganch)
2993                 break;
2994             sayNO;
2995
2996         case KEEPS:
2997             /* update the startpoint */
2998             st->u.keeper.val = PL_regoffs[0].start;
2999             PL_reginput = locinput;
3000             PL_regoffs[0].start = locinput - PL_bostr;
3001             PUSH_STATE_GOTO(KEEPS_next, next);
3002             /*NOT-REACHED*/
3003         case KEEPS_next_fail:
3004             /* rollback the start point change */
3005             PL_regoffs[0].start = st->u.keeper.val;
3006             sayNO_SILENT;
3007             /*NOT-REACHED*/
3008         case EOL:
3009                 goto seol;
3010         case MEOL:
3011             if ((nextchr || locinput < PL_regeol) && nextchr != '\n')
3012                 sayNO;
3013             break;
3014         case SEOL:
3015           seol:
3016             if ((nextchr || locinput < PL_regeol) && nextchr != '\n')
3017                 sayNO;
3018             if (PL_regeol - locinput > 1)
3019                 sayNO;
3020             break;
3021         case EOS:
3022             if (PL_regeol != locinput)
3023                 sayNO;
3024             break;
3025         case SANY:
3026             if (!nextchr && locinput >= PL_regeol)
3027                 sayNO;
3028             if (utf8_target) {
3029                 locinput += PL_utf8skip[nextchr];
3030                 if (locinput > PL_regeol)
3031                     sayNO;
3032                 nextchr = UCHARAT(locinput);
3033             }
3034             else
3035                 nextchr = UCHARAT(++locinput);
3036             break;
3037         case CANY:
3038             if (!nextchr && locinput >= PL_regeol)
3039                 sayNO;
3040             nextchr = UCHARAT(++locinput);
3041             break;
3042         case REG_ANY:
3043             if ((!nextchr && locinput >= PL_regeol) || nextchr == '\n')
3044                 sayNO;
3045             if (utf8_target) {
3046                 locinput += PL_utf8skip[nextchr];
3047                 if (locinput > PL_regeol)
3048                     sayNO;
3049                 nextchr = UCHARAT(locinput);
3050             }
3051             else
3052                 nextchr = UCHARAT(++locinput);
3053             break;
3054
3055 #undef  ST
3056 #define ST st->u.trie
3057         case TRIEC:
3058             /* In this case the charclass data is available inline so
3059                we can fail fast without a lot of extra overhead. 
3060              */
3061             if (scan->flags == EXACT || !utf8_target) {
3062                 if(!ANYOF_BITMAP_TEST(scan, *locinput)) {
3063                     DEBUG_EXECUTE_r(
3064                         PerlIO_printf(Perl_debug_log,
3065                                   "%*s  %sfailed to match trie start class...%s\n",
3066                                   REPORT_CODE_OFF+depth*2, "", PL_colors[4], PL_colors[5])
3067                     );
3068                     sayNO_SILENT;
3069                     /* NOTREACHED */
3070                 }                       
3071             }
3072             /* FALL THROUGH */
3073         case TRIE:
3074             /* the basic plan of execution of the trie is:
3075              * At the beginning, run though all the states, and
3076              * find the longest-matching word. Also remember the position
3077              * of the shortest matching word. For example, this pattern:
3078              *    1  2 3 4    5
3079              *    ab|a|x|abcd|abc
3080              * when matched against the string "abcde", will generate
3081              * accept states for all words except 3, with the longest
3082              * matching word being 4, and the shortest being 1 (with
3083              * the position being after char 1 of the string).
3084              *
3085              * Then for each matching word, in word order (i.e. 1,2,4,5),
3086              * we run the remainder of the pattern; on each try setting
3087              * the current position to the character following the word,
3088              * returning to try the next word on failure.
3089              *
3090              * We avoid having to build a list of words at runtime by
3091              * using a compile-time structure, wordinfo[].prev, which
3092              * gives, for each word, the previous accepting word (if any).
3093              * In the case above it would contain the mappings 1->2, 2->0,
3094              * 3->0, 4->5, 5->1.  We can use this table to generate, from
3095              * the longest word (4 above), a list of all words, by
3096              * following the list of prev pointers; this gives us the
3097              * unordered list 4,5,1,2. Then given the current word we have
3098              * just tried, we can go through the list and find the
3099              * next-biggest word to try (so if we just failed on word 2,
3100              * the next in the list is 4).
3101              *
3102              * Since at runtime we don't record the matching position in
3103              * the string for each word, we have to work that out for
3104              * each word we're about to process. The wordinfo table holds
3105              * the character length of each word; given that we recorded
3106              * at the start: the position of the shortest word and its
3107              * length in chars, we just need to move the pointer the
3108              * difference between the two char lengths. Depending on
3109              * Unicode status and folding, that's cheap or expensive.
3110              *
3111              * This algorithm is optimised for the case where are only a
3112              * small number of accept states, i.e. 0,1, or maybe 2.
3113              * With lots of accepts states, and having to try all of them,
3114              * it becomes quadratic on number of accept states to find all
3115              * the next words.
3116              */
3117
3118             {
3119                 /* what type of TRIE am I? (utf8 makes this contextual) */
3120                 DECL_TRIE_TYPE(scan);
3121
3122                 /* what trie are we using right now */
3123                 reg_trie_data * const trie
3124                     = (reg_trie_data*)rexi->data->data[ ARG( scan ) ];
3125                 HV * widecharmap = MUTABLE_HV(rexi->data->data[ ARG( scan ) + 1 ]);
3126                 U32 state = trie->startstate;
3127
3128                 if (trie->bitmap && trie_type != trie_utf8_fold &&
3129                     !TRIE_BITMAP_TEST(trie,*locinput)
3130                 ) {
3131                     if (trie->states[ state ].wordnum) {
3132                          DEBUG_EXECUTE_r(
3133                             PerlIO_printf(Perl_debug_log,
3134                                           "%*s  %smatched empty string...%s\n",
3135                                           REPORT_CODE_OFF+depth*2, "", PL_colors[4], PL_colors[5])
3136                         );
3137                         break;
3138                     } else {
3139                         DEBUG_EXECUTE_r(
3140                             PerlIO_printf(Perl_debug_log,
3141                                           "%*s  %sfailed to match trie start class...%s\n",
3142                                           REPORT_CODE_OFF+depth*2, "", PL_colors[4], PL_colors[5])
3143                         );
3144                         sayNO_SILENT;
3145                    }
3146                 }
3147
3148             { 
3149                 U8 *uc = ( U8* )locinput;
3150
3151                 STRLEN len = 0;
3152                 STRLEN foldlen = 0;
3153                 U8 *uscan = (U8*)NULL;
3154                 U8 foldbuf[ UTF8_MAXBYTES_CASE + 1 ];
3155                 U32 charcount = 0; /* how many input chars we have matched */
3156                 U32 accepted = 0; /* have we seen any accepting states? */
3157
3158                 ST.B = next;
3159                 ST.jump = trie->jump;
3160                 ST.me = scan;
3161                 ST.firstpos = NULL;
3162                 ST.longfold = FALSE; /* char longer if folded => it's harder */
3163                 ST.nextword = 0;
3164
3165                 /* fully traverse the TRIE; note the position of the
3166                    shortest accept state and the wordnum of the longest
3167                    accept state */
3168
3169                 while ( state && uc <= (U8*)PL_regeol ) {
3170                     U32 base = trie->states[ state ].trans.base;
3171                     UV uvc = 0;
3172                     U16 charid;
3173                     U16 wordnum;
3174                     wordnum = trie->states[ state ].wordnum;
3175
3176                     if (wordnum) { /* it's an accept state */
3177                         if (!accepted) {
3178                             accepted = 1;
3179                             /* record first match position */
3180                             if (ST.longfold) {
3181                                 ST.firstpos = (U8*)locinput;
3182                                 ST.firstchars = 0;
3183                             }
3184                             else {
3185                                 ST.firstpos = uc;
3186                                 ST.firstchars = charcount;
3187                             }
3188                         }
3189                         if (!ST.nextword || wordnum < ST.nextword)
3190                             ST.nextword = wordnum;
3191                         ST.topword = wordnum;
3192                     }
3193
3194                     DEBUG_TRIE_EXECUTE_r({
3195                                 DUMP_EXEC_POS( (char *)uc, scan, utf8_target );
3196                                 PerlIO_printf( Perl_debug_log,
3197                                     "%*s  %sState: %4"UVxf" Accepted: %c ",
3198                                     2+depth * 2, "", PL_colors[4],
3199                                     (UV)state, (accepted ? 'Y' : 'N'));
3200                     });
3201
3202                     /* read a char and goto next state */
3203                     if ( base ) {
3204                         I32 offset;
3205                         REXEC_TRIE_READ_CHAR(trie_type, trie, widecharmap, uc,
3206                                              uscan, len, uvc, charid, foldlen,
3207                                              foldbuf, uniflags);
3208                         charcount++;
3209                         if (foldlen>0)
3210                             ST.longfold = TRUE;
3211                         if (charid &&
3212                              ( ((offset =
3213                               base + charid - 1 - trie->uniquecharcount)) >= 0)
3214
3215                              && ((U32)offset < trie->lasttrans)
3216                              && trie->trans[offset].check == state)
3217                         {
3218                             state = trie->trans[offset].next;
3219                         }
3220                         else {
3221                             state = 0;
3222                         }
3223                         uc += len;
3224
3225                     }
3226                     else {
3227                         state = 0;
3228                     }
3229                     DEBUG_TRIE_EXECUTE_r(
3230                         PerlIO_printf( Perl_debug_log,
3231                             "Charid:%3x CP:%4"UVxf" After State: %4"UVxf"%s\n",
3232                             charid, uvc, (UV)state, PL_colors[5] );
3233                     );
3234                 }
3235                 if (!accepted)
3236                    sayNO;
3237
3238                 /* calculate total number of accept states */
3239                 {
3240                     U16 w = ST.topword;
3241                     accepted = 0;
3242                     while (w) {
3243                         w = trie->wordinfo[w].prev;
3244                         accepted++;
3245                     }
3246                     ST.accepted = accepted;
3247                 }
3248
3249                 DEBUG_EXECUTE_r(
3250                     PerlIO_printf( Perl_debug_log,
3251                         "%*s  %sgot %"IVdf" possible matches%s\n",
3252                         REPORT_CODE_OFF + depth * 2, "",
3253                         PL_colors[4], (IV)ST.accepted, PL_colors[5] );
3254                 );
3255                 goto trie_first_try; /* jump into the fail handler */
3256             }}
3257             /* NOTREACHED */
3258
3259         case TRIE_next_fail: /* we failed - try next alternative */
3260             if ( ST.jump) {
3261                 REGCP_UNWIND(ST.cp);
3262                 for (n = *PL_reglastparen; n > ST.lastparen; n--)
3263                     PL_regoffs[n].end = -1;
3264                 *PL_reglastparen = n;
3265             }
3266             if (!--ST.accepted) {
3267                 DEBUG_EXECUTE_r({
3268                     PerlIO_printf( Perl_debug_log,
3269                         "%*s  %sTRIE failed...%s\n",
3270                         REPORT_CODE_OFF+depth*2, "", 
3271                         PL_colors[4],
3272                         PL_colors[5] );
3273                 });
3274                 sayNO_SILENT;
3275             }
3276             {
3277                 /* Find next-highest word to process.  Note that this code
3278                  * is O(N^2) per trie run (O(N) per branch), so keep tight */
3279                 register U16 min = 0;
3280                 register U16 word;
3281                 register U16 const nextword = ST.nextword;
3282                 register reg_trie_wordinfo * const wordinfo
3283                     = ((reg_trie_data*)rexi->data->data[ARG(ST.me)])->wordinfo;
3284                 for (word=ST.topword; word; word=wordinfo[word].prev) {
3285                     if (word > nextword && (!min || word < min))
3286                         min = word;
3287                 }
3288                 ST.nextword = min;
3289             }
3290
3291           trie_first_try:
3292             if (do_cutgroup) {
3293                 do_cutgroup = 0;
3294                 no_final = 0;
3295             }
3296
3297             if ( ST.jump) {
3298                 ST.lastparen = *PL_reglastparen;
3299                 REGCP_SET(ST.cp);
3300             }
3301
3302             /* find start char of end of current word */
3303             {
3304                 U32 chars; /* how many chars to skip */
3305                 U8 *uc = ST.firstpos;
3306                 reg_trie_data * const trie
3307                     = (reg_trie_data*)rexi->data->data[ARG(ST.me)];
3308
3309                 assert((trie->wordinfo[ST.nextword].len - trie->prefixlen)
3310                             >=  ST.firstchars);
3311                 chars = (trie->wordinfo[ST.nextword].len - trie->prefixlen)
3312                             - ST.firstchars;
3313
3314                 if (ST.longfold) {
3315                     /* the hard option - fold each char in turn and find
3316                      * its folded length (which may be different */
3317                     U8 foldbuf[UTF8_MAXBYTES_CASE + 1];
3318                     STRLEN foldlen;
3319                     STRLEN len;
3320                     UV uvc;
3321                     U8 *uscan;
3322
3323                     while (chars) {
3324                         if (utf8_target) {
3325                             uvc = utf8n_to_uvuni((U8*)uc, UTF8_MAXLEN, &len,
3326                                                     uniflags);
3327                             uc += len;
3328                         }
3329                         else {
3330                             uvc = *uc;
3331                             uc++;
3332                         }
3333                         uvc = to_uni_fold(uvc, foldbuf, &foldlen);
3334                         uscan = foldbuf;
3335                         while (foldlen) {
3336                             if (!--chars)
3337                                 break;
3338                             uvc = utf8n_to_uvuni(uscan, UTF8_MAXLEN, &len,
3339                                             uniflags);
3340                             uscan += len;
3341                             foldlen -= len;
3342                         }
3343                     }
3344                 }
3345                 else {
3346                     if (utf8_target)
3347                         while (chars--)
3348                             uc += UTF8SKIP(uc);
3349                     else
3350                         uc += chars;
3351                 }
3352                 PL_reginput = (char *)uc;
3353             }
3354
3355             scan = (ST.jump && ST.jump[ST.nextword]) 
3356                         ? ST.me + ST.jump[ST.nextword]
3357                         : ST.B;
3358
3359             DEBUG_EXECUTE_r({
3360                 PerlIO_printf( Perl_debug_log,
3361                     "%*s  %sTRIE matched word #%d, continuing%s\n",
3362                     REPORT_CODE_OFF+depth*2, "", 
3363                     PL_colors[4],
3364                     ST.nextword,
3365                     PL_colors[5]
3366                     );
3367             });
3368
3369             if (ST.accepted > 1 || has_cutgroup) {
3370                 PUSH_STATE_GOTO(TRIE_next, scan);
3371                 /* NOTREACHED */
3372             }
3373             /* only one choice left - just continue */
3374             DEBUG_EXECUTE_r({
3375                 AV *const trie_words
3376                     = MUTABLE_AV(rexi->data->data[ARG(ST.me)+TRIE_WORDS_OFFSET]);
3377                 SV ** const tmp = av_fetch( trie_words,
3378                     ST.nextword-1, 0 );
3379                 SV *sv= tmp ? sv_newmortal() : NULL;
3380
3381                 PerlIO_printf( Perl_debug_log,
3382                     "%*s  %sonly one match left, short-circuiting: #%d <%s>%s\n",
3383                     REPORT_CODE_OFF+depth*2, "", PL_colors[4],
3384                     ST.nextword,
3385                     tmp ? pv_pretty(sv, SvPV_nolen_const(*tmp), SvCUR(*tmp), 0,
3386                             PL_colors[0], PL_colors[1],
3387                             (SvUTF8(*tmp) ? PERL_PV_ESCAPE_UNI : 0)
3388                         ) 
3389                     : "not compiled under -Dr",
3390                     PL_colors[5] );
3391             });
3392
3393             locinput = PL_reginput;
3394             nextchr = UCHARAT(locinput);
3395             continue; /* execute rest of RE */
3396             /* NOTREACHED */
3397 #undef  ST
3398
3399         case EXACT: {
3400             char *s = STRING(scan);
3401             ln = STR_LEN(scan);
3402             if (utf8_target != UTF_PATTERN) {
3403                 /* The target and the pattern have differing utf8ness. */
3404                 char *l = locinput;
3405                 const char * const e = s + ln;
3406
3407                 if (utf8_target) {
3408                     /* The target is utf8, the pattern is not utf8. */
3409                     while (s < e) {
3410                         STRLEN ulen;
3411                         if (l >= PL_regeol)
3412                              sayNO;
3413                         if (NATIVE_TO_UNI(*(U8*)s) !=
3414                             utf8n_to_uvuni((U8*)l, UTF8_MAXBYTES, &ulen,
3415                                             uniflags))
3416                              sayNO;
3417                         l += ulen;
3418                         s ++;
3419                     }
3420                 }
3421                 else {
3422                     /* The target is not utf8, the pattern is utf8. */
3423                     while (s < e) {
3424                         STRLEN ulen;
3425                         if (l >= PL_regeol)
3426                             sayNO;
3427                         if (NATIVE_TO_UNI(*((U8*)l)) !=
3428                             utf8n_to_uvuni((U8*)s, UTF8_MAXBYTES, &ulen,
3429                                            uniflags))
3430                             sayNO;
3431                         s += ulen;
3432                         l ++;
3433                     }
3434                 }
3435                 locinput = l;
3436                 nextchr = UCHARAT(locinput);
3437                 break;
3438             }
3439             /* The target and the pattern have the same utf8ness. */
3440             /* Inline the first character, for speed. */
3441             if (UCHARAT(s) != nextchr)
3442                 sayNO;
3443             if (PL_regeol - locinput < ln)
3444                 sayNO;
3445             if (ln > 1 && memNE(s, locinput, ln))
3446                 sayNO;
3447             locinput += ln;
3448             nextchr = UCHARAT(locinput);
3449             break;
3450             }
3451         case EXACTFL:
3452             PL_reg_flags |= RF_tainted;
3453             /* FALL THROUGH */
3454         case EXACTF: {
3455             char * const s = STRING(scan);
3456             ln = STR_LEN(scan);
3457
3458             if (utf8_target || UTF_PATTERN) {
3459               /* Either target or the pattern are utf8. */
3460                 const char * const l = locinput;
3461                 char *e = PL_regeol;
3462
3463                 if (! foldEQ_utf8(s, 0,  ln, cBOOL(UTF_PATTERN),
3464                                l, &e, 0,  utf8_target)) {
3465                      /* One more case for the sharp s:
3466                       * pack("U0U*", 0xDF) =~ /ss/i,
3467                       * the 0xC3 0x9F are the UTF-8
3468                       * byte sequence for the U+00DF. */
3469
3470                      if (!(utf8_target &&
3471                            toLOWER(s[0]) == 's' &&
3472                            ln >= 2 &&
3473                            toLOWER(s[1]) == 's' &&
3474                            (U8)l[0] == 0xC3 &&
3475                            e - l >= 2 &&
3476                            (U8)l[1] == 0x9F))
3477                           sayNO;
3478                 }
3479                 locinput = e;
3480                 nextchr = UCHARAT(locinput);
3481                 break;
3482             }
3483
3484             /* Neither the target and the pattern are utf8. */
3485
3486             /* Inline the first character, for speed. */
3487             if (UCHARAT(s) != nextchr &&
3488                 UCHARAT(s) != ((OP(scan) == EXACTF)
3489                                ? PL_fold : PL_fold_locale)[nextchr])
3490                 sayNO;
3491             if (PL_regeol - locinput < ln)
3492                 sayNO;
3493             if (ln > 1 && (OP(scan) == EXACTF
3494                            ? ! foldEQ(s, locinput, ln)
3495                            : ! foldEQ_locale(s, locinput, ln)))
3496                 sayNO;
3497             locinput += ln;
3498             nextchr = UCHARAT(locinput);
3499             break;
3500             }
3501         case BOUNDL:
3502         case NBOUNDL:
3503             PL_reg_flags |= RF_tainted;
3504             /* FALL THROUGH */
3505         case BOUND:
3506         case NBOUND:
3507             /* was last char in word? */
3508             if (utf8_target) {
3509                 if (locinput == PL_bostr)
3510                     ln = '\n';
3511                 else {
3512                     const U8 * const r = reghop3((U8*)locinput, -1, (U8*)PL_bostr);
3513
3514                     ln = utf8n_to_uvchr(r, UTF8SKIP(r), 0, uniflags);
3515                 }
3516                 if (OP(scan) == BOUND || OP(scan) == NBOUND) {
3517                     ln = isALNUM_uni(ln);
3518                     LOAD_UTF8_CHARCLASS_ALNUM();
3519                     n = swash_fetch(PL_utf8_alnum, (U8*)locinput, utf8_target);
3520                 }
3521                 else {
3522                     ln = isALNUM_LC_uvchr(UNI_TO_NATIVE(ln));
3523                     n = isALNUM_LC_utf8((U8*)locinput);
3524                 }
3525             }
3526             else {
3527                 ln = (locinput != PL_bostr) ?
3528                     UCHARAT(locinput - 1) : '\n';
3529                 if (OP(scan) == BOUND || OP(scan) == NBOUND) {
3530                     ln = isALNUM(ln);
3531                     n = isALNUM(nextchr);
3532                 }
3533                 else {
3534                     ln = isALNUM_LC(ln);
3535                     n = isALNUM_LC(nextchr);
3536                 }
3537             }
3538             if (((!ln) == (!n)) == (OP(scan) == BOUND ||
3539                                     OP(scan) == BOUNDL))
3540                     sayNO;
3541             break;
3542         case ANYOF:
3543             if (utf8_target) {
3544                 STRLEN inclasslen = PL_regeol - locinput;
3545
3546                 if (!reginclass(rex, scan, (U8*)locinput, &inclasslen, utf8_target))
3547                     goto anyof_fail;
3548                 if (locinput >= PL_regeol)
3549                     sayNO;
3550                 locinput += inclasslen ? inclasslen : UTF8SKIP(locinput);
3551                 nextchr = UCHARAT(locinput);
3552                 break;
3553             }
3554             else {
3555                 if (nextchr < 0)
3556                     nextchr = UCHARAT(locinput);
3557                 if (!REGINCLASS(rex, scan, (U8*)locinput))
3558                     goto anyof_fail;
3559                 if (!nextchr && locinput >= PL_regeol)
3560                     sayNO;
3561                 nextchr = UCHARAT(++locinput);
3562                 break;
3563             }
3564         anyof_fail:
3565             /* If we might have the case of the German sharp s
3566              * in a casefolding Unicode character class. */
3567
3568             if (ANYOF_FOLD_SHARP_S(scan, locinput, PL_regeol)) {
3569                  locinput += SHARP_S_SKIP;
3570                  nextchr = UCHARAT(locinput);
3571             }
3572             else
3573                  sayNO;
3574             break;
3575         /* Special char classes - The defines start on line 129 or so */
3576         CCC_TRY_AFF( ALNUM,  ALNUML, perl_word,   "a", isALNUM_LC_utf8, isALNUM, isALNUM_LC);
3577         CCC_TRY_NEG(NALNUM, NALNUML, perl_word,   "a", isALNUM_LC_utf8, isALNUM, isALNUM_LC);
3578
3579         CCC_TRY_AFF( SPACE,  SPACEL, perl_space,  " ", isSPACE_LC_utf8, isSPACE, isSPACE_LC);
3580         CCC_TRY_NEG(NSPACE, NSPACEL, perl_space,  " ", isSPACE_LC_utf8, isSPACE, isSPACE_LC);
3581
3582         CCC_TRY_AFF( DIGIT,  DIGITL, posix_digit, "0", isDIGIT_LC_utf8, isDIGIT, isDIGIT_LC);
3583         CCC_TRY_NEG(NDIGIT, NDIGITL, posix_digit, "0", isDIGIT_LC_utf8, isDIGIT, isDIGIT_LC);
3584
3585         case CLUMP: /* Match \X: logical Unicode character.  This is defined as
3586                        a Unicode extended Grapheme Cluster */
3587             /* From http://www.unicode.org/reports/tr29 (5.2 version).  An
3588               extended Grapheme Cluster is:
3589
3590                CR LF
3591                | Prepend* Begin Extend*
3592                | .
3593
3594                Begin is (Hangul-syllable | ! Control)
3595                Extend is (Grapheme_Extend | Spacing_Mark)
3596                Control is [ GCB_Control CR LF ]
3597
3598                The discussion below shows how the code for CLUMP is derived
3599                from this regex.  Note that most of these concepts are from
3600                property values of the Grapheme Cluster Boundary (GCB) property.
3601                No code point can have multiple property values for a given
3602                property.  Thus a code point in Prepend can't be in Control, but
3603                it must be in !Control.  This is why Control above includes
3604                GCB_Control plus CR plus LF.  The latter two are used in the GCB
3605                property separately, and so can't be in GCB_Control, even though
3606                they logically are controls.  Control is not the same as gc=cc,
3607                but includes format and other characters as well.
3608
3609                The Unicode definition of Hangul-syllable is:
3610                    L+
3611                    | (L* ( ( V | LV ) V* | LVT ) T*)
3612                    | T+ 
3613                   )
3614                Each of these is a value for the GCB property, and hence must be
3615                disjoint, so the order they are tested is immaterial, so the
3616                above can safely be changed to
3617                    T+
3618                    | L+
3619                    | (L* ( LVT | ( V | LV ) V*) T*)
3620
3621                The last two terms can be combined like this:
3622                    L* ( L
3623                         | (( LVT | ( V | LV ) V*) T*))
3624
3625                And refactored into this:
3626                    L* (L | LVT T* | V  V* T* | LV  V* T*)
3627
3628                That means that if we have seen any L's at all we can quit
3629                there, but if the next character is a LVT, a V or and LV we
3630                should keep going.
3631
3632                There is a subtlety with Prepend* which showed up in testing.
3633                Note that the Begin, and only the Begin is required in:
3634                 | Prepend* Begin Extend*
3635                Also, Begin contains '! Control'.  A Prepend must be a '!
3636                Control', which means it must be a Begin.  What it comes down to
3637                is that if we match Prepend* and then find no suitable Begin
3638                afterwards, that if we backtrack the last Prepend, that one will
3639                be a suitable Begin.
3640             */
3641
3642             if (locinput >= PL_regeol)
3643                 sayNO;
3644             if  (! utf8_target) {
3645
3646                 /* Match either CR LF  or '.', as all the other possibilities
3647                  * require utf8 */
3648                 locinput++;         /* Match the . or CR */
3649                 if (nextchr == '\r'
3650                     && locinput < PL_regeol
3651                     && UCHARAT(locinput) == '\n') locinput++;
3652             }
3653             else {
3654
3655                 /* Utf8: See if is ( CR LF ); already know that locinput <
3656                  * PL_regeol, so locinput+1 is in bounds */
3657                 if (nextchr == '\r' && UCHARAT(locinput + 1) == '\n') {
3658                     locinput += 2;
3659                 }
3660                 else {
3661                     /* In case have to backtrack to beginning, then match '.' */
3662                     char *starting = locinput;
3663
3664                     /* In case have to backtrack the last prepend */
3665                     char *previous_prepend = 0;
3666
3667                     LOAD_UTF8_CHARCLASS_GCB();
3668
3669                     /* Match (prepend)* */
3670                     while (locinput < PL_regeol
3671                            && swash_fetch(PL_utf8_X_prepend,
3672                                           (U8*)locinput, utf8_target))
3673                     {
3674                         previous_prepend = locinput;
3675                         locinput += UTF8SKIP(locinput);
3676                     }
3677
3678                     /* As noted above, if we matched a prepend character, but
3679                      * the next thing won't match, back off the last prepend we
3680                      * matched, as it is guaranteed to match the begin */
3681                     if (previous_prepend
3682                         && (locinput >=  PL_regeol
3683                             || ! swash_fetch(PL_utf8_X_begin,
3684                                              (U8*)locinput, utf8_target)))
3685                     {
3686                         locinput = previous_prepend;
3687                     }
3688
3689                     /* Note that here we know PL_regeol > locinput, as we
3690                      * tested that upon input to this switch case, and if we
3691                      * moved locinput forward, we tested the result just above
3692                      * and it either passed, or we backed off so that it will
3693                      * now pass */
3694                     if (! swash_fetch(PL_utf8_X_begin, (U8*)locinput, utf8_target)) {
3695
3696                         /* Here did not match the required 'Begin' in the
3697                          * second term.  So just match the very first
3698                          * character, the '.' of the final term of the regex */
3699                         locinput = starting + UTF8SKIP(starting);
3700                     } else {
3701
3702                         /* Here is the beginning of a character that can have
3703                          * an extender.  It is either a hangul syllable, or a
3704                          * non-control */
3705                         if (swash_fetch(PL_utf8_X_non_hangul,
3706                                         (U8*)locinput, utf8_target))
3707                         {
3708
3709                             /* Here not a Hangul syllable, must be a
3710                              * ('!  * Control') */
3711                             locinput += UTF8SKIP(locinput);
3712                         } else {
3713
3714                             /* Here is a Hangul syllable.  It can be composed
3715                              * of several individual characters.  One
3716                              * possibility is T+ */
3717                             if (swash_fetch(PL_utf8_X_T,
3718                                             (U8*)locinput, utf8_target))
3719                             {
3720                                 while (locinput < PL_regeol
3721                                         && swash_fetch(PL_utf8_X_T,
3722                                                         (U8*)locinput, utf8_target))
3723                                 {
3724                                     locinput += UTF8SKIP(locinput);
3725                                 }
3726                             } else {
3727
3728                                 /* Here, not T+, but is a Hangul.  That means
3729                                  * it is one of the others: L, LV, LVT or V,
3730                                  * and matches:
3731                                  * L* (L | LVT T* | V  V* T* | LV  V* T*) */
3732
3733                                 /* Match L*           */
3734                                 while (locinput < PL_regeol
3735                                         && swash_fetch(PL_utf8_X_L,
3736                                                         (U8*)locinput, utf8_target))
3737                                 {
3738                                     locinput += UTF8SKIP(locinput);
3739                                 }
3740
3741                                 /* Here, have exhausted L*.  If the next
3742                                  * character is not an LV, LVT nor V, it means
3743                                  * we had to have at least one L, so matches L+
3744                                  * in the original equation, we have a complete
3745                                  * hangul syllable.  Are done. */
3746
3747                                 if (locinput < PL_regeol
3748                                     && swash_fetch(PL_utf8_X_LV_LVT_V,
3749                                                     (U8*)locinput, utf8_target))
3750                                 {
3751
3752                                     /* Otherwise keep going.  Must be LV, LVT
3753                                      * or V.  See if LVT */
3754                                     if (swash_fetch(PL_utf8_X_LVT,
3755                                                     (U8*)locinput, utf8_target))
3756                                     {
3757                                         locinput += UTF8SKIP(locinput);
3758                                     } else {
3759
3760                                         /* Must be  V or LV.  Take it, then
3761                                          * match V*     */
3762                                         locinput += UTF8SKIP(locinput);
3763                                         while (locinput < PL_regeol
3764                                                 && swash_fetch(PL_utf8_X_V,
3765                                                          (U8*)locinput, utf8_target))
3766                                         {
3767                                             locinput += UTF8SKIP(locinput);
3768                                         }
3769                                     }
3770
3771                                     /* And any of LV, LVT, or V can be followed
3772                                      * by T*            */
3773                                     while (locinput < PL_regeol
3774                                            && swash_fetch(PL_utf8_X_T,
3775                                                            (U8*)locinput,
3776                                                            utf8_target))
3777                                     {
3778                                         locinput += UTF8SKIP(locinput);
3779                                     }
3780                                 }
3781                             }
3782                         }
3783
3784                         /* Match any extender */
3785                         while (locinput < PL_regeol
3786                                 && swash_fetch(PL_utf8_X_extend,
3787                                                 (U8*)locinput, utf8_target))
3788                         {
3789                             locinput += UTF8SKIP(locinput);
3790                         }
3791                     }
3792                 }
3793                 if (locinput > PL_regeol) sayNO;
3794             }
3795             nextchr = UCHARAT(locinput);
3796             break;
3797             
3798         case NREFFL:
3799         {
3800             char *s;
3801             char type;
3802             PL_reg_flags |= RF_tainted;
3803             /* FALL THROUGH */
3804         case NREF:
3805         case NREFF:
3806             type = OP(scan);
3807             n = reg_check_named_buff_matched(rex,scan);
3808
3809             if ( n ) {
3810                 type = REF + ( type - NREF );
3811                 goto do_ref;
3812             } else {
3813                 sayNO;
3814             }
3815             /* unreached */
3816         case REFFL:
3817             PL_reg_flags |= RF_tainted;
3818             /* FALL THROUGH */
3819         case REF:
3820         case REFF: 
3821             n = ARG(scan);  /* which paren pair */
3822             type = OP(scan);
3823           do_ref:  
3824             ln = PL_regoffs[n].start;
3825             PL_reg_leftiter = PL_reg_maxiter;           /* Void cache */
3826             if (*PL_reglastparen < n || ln == -1)
3827                 sayNO;                  /* Do not match unless seen CLOSEn. */
3828             if (ln == PL_regoffs[n].end)
3829                 break;
3830
3831             s = PL_bostr + ln;
3832             if (utf8_target && type != REF) {   /* REF can do byte comparison */
3833                 char *l = locinput;
3834                 const char *e = PL_bostr + PL_regoffs[n].end;
3835                 /*
3836                  * Note that we can't do the "other character" lookup trick as
3837                  * in the 8-bit case (no pun intended) because in Unicode we
3838                  * have to map both upper and title case to lower case.
3839                  */
3840                 if (type == REFF) {
3841                     while (s < e) {
3842                         STRLEN ulen1, ulen2;
3843                         U8 tmpbuf1[UTF8_MAXBYTES_CASE+1];