Silence verbosity in lib/File/Copy.t during 'make test' in core
[perl.git] / regexec.c
1 /*    regexec.c
2  */
3
4 /*
5  *      One Ring to rule them all, One Ring to find them
6  &
7  *     [p.v of _The Lord of the Rings_, opening poem]
8  *     [p.50 of _The Lord of the Rings_, I/iii: "The Shadow of the Past"]
9  *     [p.254 of _The Lord of the Rings_, II/ii: "The Council of Elrond"]
10  */
11
12 /* This file contains functions for executing a regular expression.  See
13  * also regcomp.c which funnily enough, contains functions for compiling
14  * a regular expression.
15  *
16  * This file is also copied at build time to ext/re/re_exec.c, where
17  * it's built with -DPERL_EXT_RE_BUILD -DPERL_EXT_RE_DEBUG -DPERL_EXT.
18  * This causes the main functions to be compiled under new names and with
19  * debugging support added, which makes "use re 'debug'" work.
20  */
21
22 /* NOTE: this is derived from Henry Spencer's regexp code, and should not
23  * confused with the original package (see point 3 below).  Thanks, Henry!
24  */
25
26 /* Additional note: this code is very heavily munged from Henry's version
27  * in places.  In some spots I've traded clarity for efficiency, so don't
28  * blame Henry for some of the lack of readability.
29  */
30
31 /* The names of the functions have been changed from regcomp and
32  * regexec to  pregcomp and pregexec in order to avoid conflicts
33  * with the POSIX routines of the same names.
34 */
35
36 #ifdef PERL_EXT_RE_BUILD
37 #include "re_top.h"
38 #endif
39
40 /*
41  * pregcomp and pregexec -- regsub and regerror are not used in perl
42  *
43  *      Copyright (c) 1986 by University of Toronto.
44  *      Written by Henry Spencer.  Not derived from licensed software.
45  *
46  *      Permission is granted to anyone to use this software for any
47  *      purpose on any computer system, and to redistribute it freely,
48  *      subject to the following restrictions:
49  *
50  *      1. The author is not responsible for the consequences of use of
51  *              this software, no matter how awful, even if they arise
52  *              from defects in it.
53  *
54  *      2. The origin of this software must not be misrepresented, either
55  *              by explicit claim or by omission.
56  *
57  *      3. Altered versions must be plainly marked as such, and must not
58  *              be misrepresented as being the original software.
59  *
60  ****    Alterations to Henry's code are...
61  ****
62  ****    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
63  ****    2000, 2001, 2002, 2003, 2004, 2005, 2006, 2007, 2008
64  ****    by Larry Wall and others
65  ****
66  ****    You may distribute under the terms of either the GNU General Public
67  ****    License or the Artistic License, as specified in the README file.
68  *
69  * Beware that some of this code is subtly aware of the way operator
70  * precedence is structured in regular expressions.  Serious changes in
71  * regular-expression syntax might require a total rethink.
72  */
73 #include "EXTERN.h"
74 #define PERL_IN_REGEXEC_C
75 #include "perl.h"
76
77 #ifdef PERL_IN_XSUB_RE
78 #  include "re_comp.h"
79 #else
80 #  include "regcomp.h"
81 #endif
82
83 #define RF_tainted      1               /* tainted information used? */
84 #define RF_warned       2               /* warned about big count? */
85
86 #define RF_utf8         8               /* Pattern contains multibyte chars? */
87
88 #define UTF ((PL_reg_flags & RF_utf8) != 0)
89
90 #define RS_init         1               /* eval environment created */
91 #define RS_set          2               /* replsv value is set */
92
93 #ifndef STATIC
94 #define STATIC  static
95 #endif
96
97 #define REGINCLASS(prog,p,c)  (ANYOF_FLAGS(p) ? reginclass(prog,p,c,0,0) : ANYOF_BITMAP_TEST(p,*(c)))
98
99 /*
100  * Forwards.
101  */
102
103 #define CHR_SVLEN(sv) (do_utf8 ? sv_len_utf8(sv) : SvCUR(sv))
104 #define CHR_DIST(a,b) (PL_reg_match_utf8 ? utf8_distance(a,b) : a - b)
105
106 #define HOPc(pos,off) \
107         (char *)(PL_reg_match_utf8 \
108             ? reghop3((U8*)pos, off, (U8*)(off >= 0 ? PL_regeol : PL_bostr)) \
109             : (U8*)(pos + off))
110 #define HOPBACKc(pos, off) \
111         (char*)(PL_reg_match_utf8\
112             ? reghopmaybe3((U8*)pos, -off, (U8*)PL_bostr) \
113             : (pos - off >= PL_bostr)           \
114                 ? (U8*)pos - off                \
115                 : NULL)
116
117 #define HOP3(pos,off,lim) (PL_reg_match_utf8 ? reghop3((U8*)(pos), off, (U8*)(lim)) : (U8*)(pos + off))
118 #define HOP3c(pos,off,lim) ((char*)HOP3(pos,off,lim))
119
120 #define LOAD_UTF8_CHARCLASS(class,str) STMT_START { \
121     if (!CAT2(PL_utf8_,class)) { bool ok; ENTER; save_re_context(); ok=CAT2(is_utf8_,class)((const U8*)str); assert(ok); LEAVE; } } STMT_END
122 #define LOAD_UTF8_CHARCLASS_ALNUM() LOAD_UTF8_CHARCLASS(alnum,"a")
123 #define LOAD_UTF8_CHARCLASS_DIGIT() LOAD_UTF8_CHARCLASS(digit,"0")
124 #define LOAD_UTF8_CHARCLASS_SPACE() LOAD_UTF8_CHARCLASS(space," ")
125 #define LOAD_UTF8_CHARCLASS_MARK()  LOAD_UTF8_CHARCLASS(mark, "\xcd\x86")
126
127 /* TODO: Combine JUMPABLE and HAS_TEXT to cache OP(rn) */
128
129 /* for use after a quantifier and before an EXACT-like node -- japhy */
130 /* it would be nice to rework regcomp.sym to generate this stuff. sigh */
131 #define JUMPABLE(rn) (      \
132     OP(rn) == OPEN ||       \
133     (OP(rn) == CLOSE && (!cur_eval || cur_eval->u.eval.close_paren != ARG(rn))) || \
134     OP(rn) == EVAL ||   \
135     OP(rn) == SUSPEND || OP(rn) == IFMATCH || \
136     OP(rn) == PLUS || OP(rn) == MINMOD || \
137     OP(rn) == KEEPS || (PL_regkind[OP(rn)] == VERB) || \
138     (PL_regkind[OP(rn)] == CURLY && ARG1(rn) > 0) \
139 )
140 #define IS_EXACT(rn) (PL_regkind[OP(rn)] == EXACT)
141
142 #define HAS_TEXT(rn) ( IS_EXACT(rn) || PL_regkind[OP(rn)] == REF )
143
144 #if 0 
145 /* Currently these are only used when PL_regkind[OP(rn)] == EXACT so
146    we don't need this definition. */
147 #define IS_TEXT(rn)   ( OP(rn)==EXACT   || OP(rn)==REF   || OP(rn)==NREF   )
148 #define IS_TEXTF(rn)  ( OP(rn)==EXACTF  || OP(rn)==REFF  || OP(rn)==NREFF  )
149 #define IS_TEXTFL(rn) ( OP(rn)==EXACTFL || OP(rn)==REFFL || OP(rn)==NREFFL )
150
151 #else
152 /* ... so we use this as its faster. */
153 #define IS_TEXT(rn)   ( OP(rn)==EXACT   )
154 #define IS_TEXTF(rn)  ( OP(rn)==EXACTF  )
155 #define IS_TEXTFL(rn) ( OP(rn)==EXACTFL )
156
157 #endif
158
159 /*
160   Search for mandatory following text node; for lookahead, the text must
161   follow but for lookbehind (rn->flags != 0) we skip to the next step.
162 */
163 #define FIND_NEXT_IMPT(rn) STMT_START { \
164     while (JUMPABLE(rn)) { \
165         const OPCODE type = OP(rn); \
166         if (type == SUSPEND || PL_regkind[type] == CURLY) \
167             rn = NEXTOPER(NEXTOPER(rn)); \
168         else if (type == PLUS) \
169             rn = NEXTOPER(rn); \
170         else if (type == IFMATCH) \
171             rn = (rn->flags == 0) ? NEXTOPER(NEXTOPER(rn)) : rn + ARG(rn); \
172         else rn += NEXT_OFF(rn); \
173     } \
174 } STMT_END 
175
176
177 static void restore_pos(pTHX_ void *arg);
178
179 STATIC CHECKPOINT
180 S_regcppush(pTHX_ I32 parenfloor)
181 {
182     dVAR;
183     const int retval = PL_savestack_ix;
184 #define REGCP_PAREN_ELEMS 4
185     const int paren_elems_to_push = (PL_regsize - parenfloor) * REGCP_PAREN_ELEMS;
186     int p;
187     GET_RE_DEBUG_FLAGS_DECL;
188
189     if (paren_elems_to_push < 0)
190         Perl_croak(aTHX_ "panic: paren_elems_to_push < 0");
191
192 #define REGCP_OTHER_ELEMS 7
193     SSGROW(paren_elems_to_push + REGCP_OTHER_ELEMS);
194     
195     for (p = PL_regsize; p > parenfloor; p--) {
196 /* REGCP_PARENS_ELEMS are pushed per pairs of parentheses. */
197         SSPUSHINT(PL_regoffs[p].end);
198         SSPUSHINT(PL_regoffs[p].start);
199         SSPUSHPTR(PL_reg_start_tmp[p]);
200         SSPUSHINT(p);
201         DEBUG_BUFFERS_r(PerlIO_printf(Perl_debug_log,
202           "     saving \\%"UVuf" %"IVdf"(%"IVdf")..%"IVdf"\n",
203                       (UV)p, (IV)PL_regoffs[p].start,
204                       (IV)(PL_reg_start_tmp[p] - PL_bostr),
205                       (IV)PL_regoffs[p].end
206         ));
207     }
208 /* REGCP_OTHER_ELEMS are pushed in any case, parentheses or no. */
209     SSPUSHPTR(PL_regoffs);
210     SSPUSHINT(PL_regsize);
211     SSPUSHINT(*PL_reglastparen);
212     SSPUSHINT(*PL_reglastcloseparen);
213     SSPUSHPTR(PL_reginput);
214 #define REGCP_FRAME_ELEMS 2
215 /* REGCP_FRAME_ELEMS are part of the REGCP_OTHER_ELEMS and
216  * are needed for the regexp context stack bookkeeping. */
217     SSPUSHINT(paren_elems_to_push + REGCP_OTHER_ELEMS - REGCP_FRAME_ELEMS);
218     SSPUSHINT(SAVEt_REGCONTEXT); /* Magic cookie. */
219
220     return retval;
221 }
222
223 /* These are needed since we do not localize EVAL nodes: */
224 #define REGCP_SET(cp)                                           \
225     DEBUG_STATE_r(                                              \
226             PerlIO_printf(Perl_debug_log,                       \
227                 "  Setting an EVAL scope, savestack=%"IVdf"\n", \
228                 (IV)PL_savestack_ix));                          \
229     cp = PL_savestack_ix
230
231 #define REGCP_UNWIND(cp)                                        \
232     DEBUG_STATE_r(                                              \
233         if (cp != PL_savestack_ix)                              \
234             PerlIO_printf(Perl_debug_log,                       \
235                 "  Clearing an EVAL scope, savestack=%"IVdf"..%"IVdf"\n", \
236                 (IV)(cp), (IV)PL_savestack_ix));                \
237     regcpblow(cp)
238
239 STATIC char *
240 S_regcppop(pTHX_ const regexp *rex)
241 {
242     dVAR;
243     U32 i;
244     char *input;
245     GET_RE_DEBUG_FLAGS_DECL;
246
247     PERL_ARGS_ASSERT_REGCPPOP;
248
249     /* Pop REGCP_OTHER_ELEMS before the parentheses loop starts. */
250     i = SSPOPINT;
251     assert(i == SAVEt_REGCONTEXT); /* Check that the magic cookie is there. */
252     i = SSPOPINT; /* Parentheses elements to pop. */
253     input = (char *) SSPOPPTR;
254     *PL_reglastcloseparen = SSPOPINT;
255     *PL_reglastparen = SSPOPINT;
256     PL_regsize = SSPOPINT;
257     PL_regoffs=(regexp_paren_pair *) SSPOPPTR;
258
259     
260     /* Now restore the parentheses context. */
261     for (i -= (REGCP_OTHER_ELEMS - REGCP_FRAME_ELEMS);
262          i > 0; i -= REGCP_PAREN_ELEMS) {
263         I32 tmps;
264         U32 paren = (U32)SSPOPINT;
265         PL_reg_start_tmp[paren] = (char *) SSPOPPTR;
266         PL_regoffs[paren].start = SSPOPINT;
267         tmps = SSPOPINT;
268         if (paren <= *PL_reglastparen)
269             PL_regoffs[paren].end = tmps;
270         DEBUG_BUFFERS_r(
271             PerlIO_printf(Perl_debug_log,
272                           "     restoring \\%"UVuf" to %"IVdf"(%"IVdf")..%"IVdf"%s\n",
273                           (UV)paren, (IV)PL_regoffs[paren].start,
274                           (IV)(PL_reg_start_tmp[paren] - PL_bostr),
275                           (IV)PL_regoffs[paren].end,
276                           (paren > *PL_reglastparen ? "(no)" : ""));
277         );
278     }
279     DEBUG_BUFFERS_r(
280         if (*PL_reglastparen + 1 <= rex->nparens) {
281             PerlIO_printf(Perl_debug_log,
282                           "     restoring \\%"IVdf"..\\%"IVdf" to undef\n",
283                           (IV)(*PL_reglastparen + 1), (IV)rex->nparens);
284         }
285     );
286 #if 1
287     /* It would seem that the similar code in regtry()
288      * already takes care of this, and in fact it is in
289      * a better location to since this code can #if 0-ed out
290      * but the code in regtry() is needed or otherwise tests
291      * requiring null fields (pat.t#187 and split.t#{13,14}
292      * (as of patchlevel 7877)  will fail.  Then again,
293      * this code seems to be necessary or otherwise
294      * this erroneously leaves $1 defined: "1" =~ /^(?:(\d)x)?\d$/
295      * --jhi updated by dapm */
296     for (i = *PL_reglastparen + 1; i <= rex->nparens; i++) {
297         if (i > PL_regsize)
298             PL_regoffs[i].start = -1;
299         PL_regoffs[i].end = -1;
300     }
301 #endif
302     return input;
303 }
304
305 #define regcpblow(cp) LEAVE_SCOPE(cp)   /* Ignores regcppush()ed data. */
306
307 /*
308  * pregexec and friends
309  */
310
311 #ifndef PERL_IN_XSUB_RE
312 /*
313  - pregexec - match a regexp against a string
314  */
315 I32
316 Perl_pregexec(pTHX_ REGEXP * const prog, char* stringarg, register char *strend,
317          char *strbeg, I32 minend, SV *screamer, U32 nosave)
318 /* strend: pointer to null at end of string */
319 /* strbeg: real beginning of string */
320 /* minend: end of match must be >=minend after stringarg. */
321 /* nosave: For optimizations. */
322 {
323     PERL_ARGS_ASSERT_PREGEXEC;
324
325     return
326         regexec_flags(prog, stringarg, strend, strbeg, minend, screamer, NULL,
327                       nosave ? 0 : REXEC_COPY_STR);
328 }
329 #endif
330
331 /*
332  * Need to implement the following flags for reg_anch:
333  *
334  * USE_INTUIT_NOML              - Useful to call re_intuit_start() first
335  * USE_INTUIT_ML
336  * INTUIT_AUTORITATIVE_NOML     - Can trust a positive answer
337  * INTUIT_AUTORITATIVE_ML
338  * INTUIT_ONCE_NOML             - Intuit can match in one location only.
339  * INTUIT_ONCE_ML
340  *
341  * Another flag for this function: SECOND_TIME (so that float substrs
342  * with giant delta may be not rechecked).
343  */
344
345 /* Assumptions: if ANCH_GPOS, then strpos is anchored. XXXX Check GPOS logic */
346
347 /* If SCREAM, then SvPVX_const(sv) should be compatible with strpos and strend.
348    Otherwise, only SvCUR(sv) is used to get strbeg. */
349
350 /* XXXX We assume that strpos is strbeg unless sv. */
351
352 /* XXXX Some places assume that there is a fixed substring.
353         An update may be needed if optimizer marks as "INTUITable"
354         RExen without fixed substrings.  Similarly, it is assumed that
355         lengths of all the strings are no more than minlen, thus they
356         cannot come from lookahead.
357         (Or minlen should take into account lookahead.) 
358   NOTE: Some of this comment is not correct. minlen does now take account
359   of lookahead/behind. Further research is required. -- demerphq
360
361 */
362
363 /* A failure to find a constant substring means that there is no need to make
364    an expensive call to REx engine, thus we celebrate a failure.  Similarly,
365    finding a substring too deep into the string means that less calls to
366    regtry() should be needed.
367
368    REx compiler's optimizer found 4 possible hints:
369         a) Anchored substring;
370         b) Fixed substring;
371         c) Whether we are anchored (beginning-of-line or \G);
372         d) First node (of those at offset 0) which may distingush positions;
373    We use a)b)d) and multiline-part of c), and try to find a position in the
374    string which does not contradict any of them.
375  */
376
377 /* Most of decisions we do here should have been done at compile time.
378    The nodes of the REx which we used for the search should have been
379    deleted from the finite automaton. */
380
381 char *
382 Perl_re_intuit_start(pTHX_ REGEXP * const rx, SV *sv, char *strpos,
383                      char *strend, const U32 flags, re_scream_pos_data *data)
384 {
385     dVAR;
386     struct regexp *const prog = (struct regexp *)SvANY(rx);
387     register I32 start_shift = 0;
388     /* Should be nonnegative! */
389     register I32 end_shift   = 0;
390     register char *s;
391     register SV *check;
392     char *strbeg;
393     char *t;
394     const bool do_utf8 = (sv && SvUTF8(sv)) ? 1 : 0; /* if no sv we have to assume bytes */
395     I32 ml_anch;
396     register char *other_last = NULL;   /* other substr checked before this */
397     char *check_at = NULL;              /* check substr found at this pos */
398     const I32 multiline = prog->extflags & RXf_PMf_MULTILINE;
399     RXi_GET_DECL(prog,progi);
400 #ifdef DEBUGGING
401     const char * const i_strpos = strpos;
402 #endif
403     GET_RE_DEBUG_FLAGS_DECL;
404
405     PERL_ARGS_ASSERT_RE_INTUIT_START;
406
407     RX_MATCH_UTF8_set(rx,do_utf8);
408
409     if (RX_UTF8(rx)) {
410         PL_reg_flags |= RF_utf8;
411     }
412     DEBUG_EXECUTE_r( 
413         debug_start_match(rx, do_utf8, strpos, strend, 
414             sv ? "Guessing start of match in sv for"
415                : "Guessing start of match in string for");
416               );
417
418     /* CHR_DIST() would be more correct here but it makes things slow. */
419     if (prog->minlen > strend - strpos) {
420         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
421                               "String too short... [re_intuit_start]\n"));
422         goto fail;
423     }
424                 
425     strbeg = (sv && SvPOK(sv)) ? strend - SvCUR(sv) : strpos;
426     PL_regeol = strend;
427     if (do_utf8) {
428         if (!prog->check_utf8 && prog->check_substr)
429             to_utf8_substr(prog);
430         check = prog->check_utf8;
431     } else {
432         if (!prog->check_substr && prog->check_utf8)
433             to_byte_substr(prog);
434         check = prog->check_substr;
435     }
436     if (check == &PL_sv_undef) {
437         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
438                 "Non-utf8 string cannot match utf8 check string\n"));
439         goto fail;
440     }
441     if (prog->extflags & RXf_ANCH) {    /* Match at beg-of-str or after \n */
442         ml_anch = !( (prog->extflags & RXf_ANCH_SINGLE)
443                      || ( (prog->extflags & RXf_ANCH_BOL)
444                           && !multiline ) );    /* Check after \n? */
445
446         if (!ml_anch) {
447           if ( !(prog->extflags & RXf_ANCH_GPOS) /* Checked by the caller */
448                 && !(prog->intflags & PREGf_IMPLICIT) /* not a real BOL */
449                /* SvCUR is not set on references: SvRV and SvPVX_const overlap */
450                && sv && !SvROK(sv)
451                && (strpos != strbeg)) {
452               DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Not at start...\n"));
453               goto fail;
454           }
455           if (prog->check_offset_min == prog->check_offset_max &&
456               !(prog->extflags & RXf_CANY_SEEN)) {
457             /* Substring at constant offset from beg-of-str... */
458             I32 slen;
459
460             s = HOP3c(strpos, prog->check_offset_min, strend);
461             
462             if (SvTAIL(check)) {
463                 slen = SvCUR(check);    /* >= 1 */
464
465                 if ( strend - s > slen || strend - s < slen - 1
466                      || (strend - s == slen && strend[-1] != '\n')) {
467                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "String too long...\n"));
468                     goto fail_finish;
469                 }
470                 /* Now should match s[0..slen-2] */
471                 slen--;
472                 if (slen && (*SvPVX_const(check) != *s
473                              || (slen > 1
474                                  && memNE(SvPVX_const(check), s, slen)))) {
475                   report_neq:
476                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "String not equal...\n"));
477                     goto fail_finish;
478                 }
479             }
480             else if (*SvPVX_const(check) != *s
481                      || ((slen = SvCUR(check)) > 1
482                          && memNE(SvPVX_const(check), s, slen)))
483                 goto report_neq;
484             check_at = s;
485             goto success_at_start;
486           }
487         }
488         /* Match is anchored, but substr is not anchored wrt beg-of-str. */
489         s = strpos;
490         start_shift = prog->check_offset_min; /* okay to underestimate on CC */
491         end_shift = prog->check_end_shift;
492         
493         if (!ml_anch) {
494             const I32 end = prog->check_offset_max + CHR_SVLEN(check)
495                                          - (SvTAIL(check) != 0);
496             const I32 eshift = CHR_DIST((U8*)strend, (U8*)s) - end;
497
498             if (end_shift < eshift)
499                 end_shift = eshift;
500         }
501     }
502     else {                              /* Can match at random position */
503         ml_anch = 0;
504         s = strpos;
505         start_shift = prog->check_offset_min;  /* okay to underestimate on CC */
506         end_shift = prog->check_end_shift;
507         
508         /* end shift should be non negative here */
509     }
510
511 #ifdef QDEBUGGING       /* 7/99: reports of failure (with the older version) */
512     if (end_shift < 0)
513         Perl_croak(aTHX_ "panic: end_shift: %"IVdf" pattern:\n%s\n ",
514                    (IV)end_shift, RX_PRECOMP(prog));
515 #endif
516
517   restart:
518     /* Find a possible match in the region s..strend by looking for
519        the "check" substring in the region corrected by start/end_shift. */
520     
521     {
522         I32 srch_start_shift = start_shift;
523         I32 srch_end_shift = end_shift;
524         if (srch_start_shift < 0 && strbeg - s > srch_start_shift) {
525             srch_end_shift -= ((strbeg - s) - srch_start_shift); 
526             srch_start_shift = strbeg - s;
527         }
528     DEBUG_OPTIMISE_MORE_r({
529         PerlIO_printf(Perl_debug_log, "Check offset min: %"IVdf" Start shift: %"IVdf" End shift %"IVdf" Real End Shift: %"IVdf"\n",
530             (IV)prog->check_offset_min,
531             (IV)srch_start_shift,
532             (IV)srch_end_shift, 
533             (IV)prog->check_end_shift);
534     });       
535         
536     if (flags & REXEC_SCREAM) {
537         I32 p = -1;                     /* Internal iterator of scream. */
538         I32 * const pp = data ? data->scream_pos : &p;
539
540         if (PL_screamfirst[BmRARE(check)] >= 0
541             || ( BmRARE(check) == '\n'
542                  && (BmPREVIOUS(check) == SvCUR(check) - 1)
543                  && SvTAIL(check) ))
544             s = screaminstr(sv, check,
545                             srch_start_shift + (s - strbeg), srch_end_shift, pp, 0);
546         else
547             goto fail_finish;
548         /* we may be pointing at the wrong string */
549         if (s && RXp_MATCH_COPIED(prog))
550             s = strbeg + (s - SvPVX_const(sv));
551         if (data)
552             *data->scream_olds = s;
553     }
554     else {
555         U8* start_point;
556         U8* end_point;
557         if (prog->extflags & RXf_CANY_SEEN) {
558             start_point= (U8*)(s + srch_start_shift);
559             end_point= (U8*)(strend - srch_end_shift);
560         } else {
561             start_point= HOP3(s, srch_start_shift, srch_start_shift < 0 ? strbeg : strend);
562             end_point= HOP3(strend, -srch_end_shift, strbeg);
563         }
564         DEBUG_OPTIMISE_MORE_r({
565             PerlIO_printf(Perl_debug_log, "fbm_instr len=%d str=<%.*s>\n", 
566                 (int)(end_point - start_point),
567                 (int)(end_point - start_point) > 20 ? 20 : (int)(end_point - start_point), 
568                 start_point);
569         });
570
571         s = fbm_instr( start_point, end_point,
572                       check, multiline ? FBMrf_MULTILINE : 0);
573     }
574     }
575     /* Update the count-of-usability, remove useless subpatterns,
576         unshift s.  */
577
578     DEBUG_EXECUTE_r({
579         RE_PV_QUOTED_DECL(quoted, do_utf8, PERL_DEBUG_PAD_ZERO(0), 
580             SvPVX_const(check), RE_SV_DUMPLEN(check), 30);
581         PerlIO_printf(Perl_debug_log, "%s %s substr %s%s%s",
582                           (s ? "Found" : "Did not find"),
583             (check == (do_utf8 ? prog->anchored_utf8 : prog->anchored_substr) 
584                 ? "anchored" : "floating"),
585             quoted,
586             RE_SV_TAIL(check),
587             (s ? " at offset " : "...\n") ); 
588     });
589
590     if (!s)
591         goto fail_finish;
592     /* Finish the diagnostic message */
593     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "%ld...\n", (long)(s - i_strpos)) );
594
595     /* XXX dmq: first branch is for positive lookbehind...
596        Our check string is offset from the beginning of the pattern.
597        So we need to do any stclass tests offset forward from that 
598        point. I think. :-(
599      */
600     
601         
602     
603     check_at=s;
604      
605
606     /* Got a candidate.  Check MBOL anchoring, and the *other* substr.
607        Start with the other substr.
608        XXXX no SCREAM optimization yet - and a very coarse implementation
609        XXXX /ttx+/ results in anchored="ttx", floating="x".  floating will
610                 *always* match.  Probably should be marked during compile...
611        Probably it is right to do no SCREAM here...
612      */
613
614     if (do_utf8 ? (prog->float_utf8 && prog->anchored_utf8) 
615                 : (prog->float_substr && prog->anchored_substr)) 
616     {
617         /* Take into account the "other" substring. */
618         /* XXXX May be hopelessly wrong for UTF... */
619         if (!other_last)
620             other_last = strpos;
621         if (check == (do_utf8 ? prog->float_utf8 : prog->float_substr)) {
622           do_other_anchored:
623             {
624                 char * const last = HOP3c(s, -start_shift, strbeg);
625                 char *last1, *last2;
626                 char * const saved_s = s;
627                 SV* must;
628
629                 t = s - prog->check_offset_max;
630                 if (s - strpos > prog->check_offset_max  /* signed-corrected t > strpos */
631                     && (!do_utf8
632                         || ((t = (char*)reghopmaybe3((U8*)s, -(prog->check_offset_max), (U8*)strpos))
633                             && t > strpos)))
634                     NOOP;
635                 else
636                     t = strpos;
637                 t = HOP3c(t, prog->anchored_offset, strend);
638                 if (t < other_last)     /* These positions already checked */
639                     t = other_last;
640                 last2 = last1 = HOP3c(strend, -prog->minlen, strbeg);
641                 if (last < last1)
642                     last1 = last;
643                 /* XXXX It is not documented what units *_offsets are in.  
644                    We assume bytes, but this is clearly wrong. 
645                    Meaning this code needs to be carefully reviewed for errors.
646                    dmq.
647                   */
648  
649                 /* On end-of-str: see comment below. */
650                 must = do_utf8 ? prog->anchored_utf8 : prog->anchored_substr;
651                 if (must == &PL_sv_undef) {
652                     s = (char*)NULL;
653                     DEBUG_r(must = prog->anchored_utf8);        /* for debug */
654                 }
655                 else
656                     s = fbm_instr(
657                         (unsigned char*)t,
658                         HOP3(HOP3(last1, prog->anchored_offset, strend)
659                                 + SvCUR(must), -(SvTAIL(must)!=0), strbeg),
660                         must,
661                         multiline ? FBMrf_MULTILINE : 0
662                     );
663                 DEBUG_EXECUTE_r({
664                     RE_PV_QUOTED_DECL(quoted, do_utf8, PERL_DEBUG_PAD_ZERO(0), 
665                         SvPVX_const(must), RE_SV_DUMPLEN(must), 30);
666                     PerlIO_printf(Perl_debug_log, "%s anchored substr %s%s",
667                         (s ? "Found" : "Contradicts"),
668                         quoted, RE_SV_TAIL(must));
669                 });                 
670                 
671                             
672                 if (!s) {
673                     if (last1 >= last2) {
674                         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
675                                                 ", giving up...\n"));
676                         goto fail_finish;
677                     }
678                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
679                         ", trying floating at offset %ld...\n",
680                         (long)(HOP3c(saved_s, 1, strend) - i_strpos)));
681                     other_last = HOP3c(last1, prog->anchored_offset+1, strend);
682                     s = HOP3c(last, 1, strend);
683                     goto restart;
684                 }
685                 else {
686                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, " at offset %ld...\n",
687                           (long)(s - i_strpos)));
688                     t = HOP3c(s, -prog->anchored_offset, strbeg);
689                     other_last = HOP3c(s, 1, strend);
690                     s = saved_s;
691                     if (t == strpos)
692                         goto try_at_start;
693                     goto try_at_offset;
694                 }
695             }
696         }
697         else {          /* Take into account the floating substring. */
698             char *last, *last1;
699             char * const saved_s = s;
700             SV* must;
701
702             t = HOP3c(s, -start_shift, strbeg);
703             last1 = last =
704                 HOP3c(strend, -prog->minlen + prog->float_min_offset, strbeg);
705             if (CHR_DIST((U8*)last, (U8*)t) > prog->float_max_offset)
706                 last = HOP3c(t, prog->float_max_offset, strend);
707             s = HOP3c(t, prog->float_min_offset, strend);
708             if (s < other_last)
709                 s = other_last;
710  /* XXXX It is not documented what units *_offsets are in.  Assume bytes.  */
711             must = do_utf8 ? prog->float_utf8 : prog->float_substr;
712             /* fbm_instr() takes into account exact value of end-of-str
713                if the check is SvTAIL(ed).  Since false positives are OK,
714                and end-of-str is not later than strend we are OK. */
715             if (must == &PL_sv_undef) {
716                 s = (char*)NULL;
717                 DEBUG_r(must = prog->float_utf8);       /* for debug message */
718             }
719             else
720                 s = fbm_instr((unsigned char*)s,
721                               (unsigned char*)last + SvCUR(must)
722                                   - (SvTAIL(must)!=0),
723                               must, multiline ? FBMrf_MULTILINE : 0);
724             DEBUG_EXECUTE_r({
725                 RE_PV_QUOTED_DECL(quoted, do_utf8, PERL_DEBUG_PAD_ZERO(0), 
726                     SvPVX_const(must), RE_SV_DUMPLEN(must), 30);
727                 PerlIO_printf(Perl_debug_log, "%s floating substr %s%s",
728                     (s ? "Found" : "Contradicts"),
729                     quoted, RE_SV_TAIL(must));
730             });
731             if (!s) {
732                 if (last1 == last) {
733                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
734                                             ", giving up...\n"));
735                     goto fail_finish;
736                 }
737                 DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
738                     ", trying anchored starting at offset %ld...\n",
739                     (long)(saved_s + 1 - i_strpos)));
740                 other_last = last;
741                 s = HOP3c(t, 1, strend);
742                 goto restart;
743             }
744             else {
745                 DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, " at offset %ld...\n",
746                       (long)(s - i_strpos)));
747                 other_last = s; /* Fix this later. --Hugo */
748                 s = saved_s;
749                 if (t == strpos)
750                     goto try_at_start;
751                 goto try_at_offset;
752             }
753         }
754     }
755
756     
757     t= (char*)HOP3( s, -prog->check_offset_max, (prog->check_offset_max<0) ? strend : strpos);
758         
759     DEBUG_OPTIMISE_MORE_r(
760         PerlIO_printf(Perl_debug_log, 
761             "Check offset min:%"IVdf" max:%"IVdf" S:%"IVdf" t:%"IVdf" D:%"IVdf" end:%"IVdf"\n",
762             (IV)prog->check_offset_min,
763             (IV)prog->check_offset_max,
764             (IV)(s-strpos),
765             (IV)(t-strpos),
766             (IV)(t-s),
767             (IV)(strend-strpos)
768         )
769     );
770
771     if (s - strpos > prog->check_offset_max  /* signed-corrected t > strpos */
772         && (!do_utf8
773             || ((t = (char*)reghopmaybe3((U8*)s, -prog->check_offset_max, (U8*) ((prog->check_offset_max<0) ? strend : strpos)))
774                  && t > strpos))) 
775     {
776         /* Fixed substring is found far enough so that the match
777            cannot start at strpos. */
778       try_at_offset:
779         if (ml_anch && t[-1] != '\n') {
780             /* Eventually fbm_*() should handle this, but often
781                anchored_offset is not 0, so this check will not be wasted. */
782             /* XXXX In the code below we prefer to look for "^" even in
783                presence of anchored substrings.  And we search even
784                beyond the found float position.  These pessimizations
785                are historical artefacts only.  */
786           find_anchor:
787             while (t < strend - prog->minlen) {
788                 if (*t == '\n') {
789                     if (t < check_at - prog->check_offset_min) {
790                         if (do_utf8 ? prog->anchored_utf8 : prog->anchored_substr) {
791                             /* Since we moved from the found position,
792                                we definitely contradict the found anchored
793                                substr.  Due to the above check we do not
794                                contradict "check" substr.
795                                Thus we can arrive here only if check substr
796                                is float.  Redo checking for "other"=="fixed".
797                              */
798                             strpos = t + 1;                     
799                             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Found /%s^%s/m at offset %ld, rescanning for anchored from offset %ld...\n",
800                                 PL_colors[0], PL_colors[1], (long)(strpos - i_strpos), (long)(strpos - i_strpos + prog->anchored_offset)));
801                             goto do_other_anchored;
802                         }
803                         /* We don't contradict the found floating substring. */
804                         /* XXXX Why not check for STCLASS? */
805                         s = t + 1;
806                         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Found /%s^%s/m at offset %ld...\n",
807                             PL_colors[0], PL_colors[1], (long)(s - i_strpos)));
808                         goto set_useful;
809                     }
810                     /* Position contradicts check-string */
811                     /* XXXX probably better to look for check-string
812                        than for "\n", so one should lower the limit for t? */
813                     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Found /%s^%s/m, restarting lookup for check-string at offset %ld...\n",
814                         PL_colors[0], PL_colors[1], (long)(t + 1 - i_strpos)));
815                     other_last = strpos = s = t + 1;
816                     goto restart;
817                 }
818                 t++;
819             }
820             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Did not find /%s^%s/m...\n",
821                         PL_colors[0], PL_colors[1]));
822             goto fail_finish;
823         }
824         else {
825             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Starting position does not contradict /%s^%s/m...\n",
826                         PL_colors[0], PL_colors[1]));
827         }
828         s = t;
829       set_useful:
830         ++BmUSEFUL(do_utf8 ? prog->check_utf8 : prog->check_substr);    /* hooray/5 */
831     }
832     else {
833         /* The found string does not prohibit matching at strpos,
834            - no optimization of calling REx engine can be performed,
835            unless it was an MBOL and we are not after MBOL,
836            or a future STCLASS check will fail this. */
837       try_at_start:
838         /* Even in this situation we may use MBOL flag if strpos is offset
839            wrt the start of the string. */
840         if (ml_anch && sv && !SvROK(sv) /* See prev comment on SvROK */
841             && (strpos != strbeg) && strpos[-1] != '\n'
842             /* May be due to an implicit anchor of m{.*foo}  */
843             && !(prog->intflags & PREGf_IMPLICIT))
844         {
845             t = strpos;
846             goto find_anchor;
847         }
848         DEBUG_EXECUTE_r( if (ml_anch)
849             PerlIO_printf(Perl_debug_log, "Position at offset %ld does not contradict /%s^%s/m...\n",
850                           (long)(strpos - i_strpos), PL_colors[0], PL_colors[1]);
851         );
852       success_at_start:
853         if (!(prog->intflags & PREGf_NAUGHTY)   /* XXXX If strpos moved? */
854             && (do_utf8 ? (
855                 prog->check_utf8                /* Could be deleted already */
856                 && --BmUSEFUL(prog->check_utf8) < 0
857                 && (prog->check_utf8 == prog->float_utf8)
858             ) : (
859                 prog->check_substr              /* Could be deleted already */
860                 && --BmUSEFUL(prog->check_substr) < 0
861                 && (prog->check_substr == prog->float_substr)
862             )))
863         {
864             /* If flags & SOMETHING - do not do it many times on the same match */
865             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "... Disabling check substring...\n"));
866             SvREFCNT_dec(do_utf8 ? prog->check_utf8 : prog->check_substr);
867             if (do_utf8 ? prog->check_substr : prog->check_utf8)
868                 SvREFCNT_dec(do_utf8 ? prog->check_substr : prog->check_utf8);
869             prog->check_substr = prog->check_utf8 = NULL;       /* disable */
870             prog->float_substr = prog->float_utf8 = NULL;       /* clear */
871             check = NULL;                       /* abort */
872             s = strpos;
873             /* XXXX This is a remnant of the old implementation.  It
874                     looks wasteful, since now INTUIT can use many
875                     other heuristics. */
876             prog->extflags &= ~RXf_USE_INTUIT;
877         }
878         else
879             s = strpos;
880     }
881
882     /* Last resort... */
883     /* XXXX BmUSEFUL already changed, maybe multiple change is meaningful... */
884     /* trie stclasses are too expensive to use here, we are better off to
885        leave it to regmatch itself */
886     if (progi->regstclass && PL_regkind[OP(progi->regstclass)]!=TRIE) {
887         /* minlen == 0 is possible if regstclass is \b or \B,
888            and the fixed substr is ''$.
889            Since minlen is already taken into account, s+1 is before strend;
890            accidentally, minlen >= 1 guaranties no false positives at s + 1
891            even for \b or \B.  But (minlen? 1 : 0) below assumes that
892            regstclass does not come from lookahead...  */
893         /* If regstclass takes bytelength more than 1: If charlength==1, OK.
894            This leaves EXACTF only, which is dealt with in find_byclass().  */
895         const U8* const str = (U8*)STRING(progi->regstclass);
896         const int cl_l = (PL_regkind[OP(progi->regstclass)] == EXACT
897                     ? CHR_DIST(str+STR_LEN(progi->regstclass), str)
898                     : 1);
899         char * endpos;
900         if (prog->anchored_substr || prog->anchored_utf8 || ml_anch)
901             endpos= HOP3c(s, (prog->minlen ? cl_l : 0), strend);
902         else if (prog->float_substr || prog->float_utf8)
903             endpos= HOP3c(HOP3c(check_at, -start_shift, strbeg), cl_l, strend);
904         else 
905             endpos= strend;
906                     
907         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "start_shift: %"IVdf" check_at: %"IVdf" s: %"IVdf" endpos: %"IVdf"\n",
908                                       (IV)start_shift, (IV)(check_at - strbeg), (IV)(s - strbeg), (IV)(endpos - strbeg)));
909         
910         t = s;
911         s = find_byclass(prog, progi->regstclass, s, endpos, NULL);
912         if (!s) {
913 #ifdef DEBUGGING
914             const char *what = NULL;
915 #endif
916             if (endpos == strend) {
917                 DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
918                                 "Could not match STCLASS...\n") );
919                 goto fail;
920             }
921             DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
922                                    "This position contradicts STCLASS...\n") );
923             if ((prog->extflags & RXf_ANCH) && !ml_anch)
924                 goto fail;
925             /* Contradict one of substrings */
926             if (prog->anchored_substr || prog->anchored_utf8) {
927                 if ((do_utf8 ? prog->anchored_utf8 : prog->anchored_substr) == check) {
928                     DEBUG_EXECUTE_r( what = "anchored" );
929                   hop_and_restart:
930                     s = HOP3c(t, 1, strend);
931                     if (s + start_shift + end_shift > strend) {
932                         /* XXXX Should be taken into account earlier? */
933                         DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
934                                                "Could not match STCLASS...\n") );
935                         goto fail;
936                     }
937                     if (!check)
938                         goto giveup;
939                     DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
940                                 "Looking for %s substr starting at offset %ld...\n",
941                                  what, (long)(s + start_shift - i_strpos)) );
942                     goto restart;
943                 }
944                 /* Have both, check_string is floating */
945                 if (t + start_shift >= check_at) /* Contradicts floating=check */
946                     goto retry_floating_check;
947                 /* Recheck anchored substring, but not floating... */
948                 s = check_at;
949                 if (!check)
950                     goto giveup;
951                 DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
952                           "Looking for anchored substr starting at offset %ld...\n",
953                           (long)(other_last - i_strpos)) );
954                 goto do_other_anchored;
955             }
956             /* Another way we could have checked stclass at the
957                current position only: */
958             if (ml_anch) {
959                 s = t = t + 1;
960                 if (!check)
961                     goto giveup;
962                 DEBUG_EXECUTE_r( PerlIO_printf(Perl_debug_log,
963                           "Looking for /%s^%s/m starting at offset %ld...\n",
964                           PL_colors[0], PL_colors[1], (long)(t - i_strpos)) );
965                 goto try_at_offset;
966             }
967             if (!(do_utf8 ? prog->float_utf8 : prog->float_substr))     /* Could have been deleted */
968                 goto fail;
969             /* Check is floating subtring. */
970           retry_floating_check:
971             t = check_at - start_shift;
972             DEBUG_EXECUTE_r( what = "floating" );
973             goto hop_and_restart;
974         }
975         if (t != s) {
976             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
977                         "By STCLASS: moving %ld --> %ld\n",
978                                   (long)(t - i_strpos), (long)(s - i_strpos))
979                    );
980         }
981         else {
982             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
983                                   "Does not contradict STCLASS...\n"); 
984                    );
985         }
986     }
987   giveup:
988     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "%s%s:%s match at offset %ld\n",
989                           PL_colors[4], (check ? "Guessed" : "Giving up"),
990                           PL_colors[5], (long)(s - i_strpos)) );
991     return s;
992
993   fail_finish:                          /* Substring not found */
994     if (prog->check_substr || prog->check_utf8)         /* could be removed already */
995         BmUSEFUL(do_utf8 ? prog->check_utf8 : prog->check_substr) += 5; /* hooray */
996   fail:
997     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "%sMatch rejected by optimizer%s\n",
998                           PL_colors[4], PL_colors[5]));
999     return NULL;
1000 }
1001
1002 #define DECL_TRIE_TYPE(scan) \
1003     const enum { trie_plain, trie_utf8, trie_utf8_fold, trie_latin_utf8_fold } \
1004                     trie_type = (scan->flags != EXACT) \
1005                               ? (do_utf8 ? trie_utf8_fold : (UTF ? trie_latin_utf8_fold : trie_plain)) \
1006                               : (do_utf8 ? trie_utf8 : trie_plain)
1007
1008 #define REXEC_TRIE_READ_CHAR(trie_type, trie, widecharmap, uc, uscan, len,  \
1009 uvc, charid, foldlen, foldbuf, uniflags) STMT_START {                       \
1010     UV uvc_unfolded = 0;                                                    \
1011     switch (trie_type) {                                                    \
1012     case trie_utf8_fold:                                                    \
1013         if ( foldlen>0 ) {                                                  \
1014             uvc_unfolded = uvc = utf8n_to_uvuni( uscan, UTF8_MAXLEN, &len, uniflags ); \
1015             foldlen -= len;                                                 \
1016             uscan += len;                                                   \
1017             len=0;                                                          \
1018         } else {                                                            \
1019             uvc_unfolded = uvc = utf8n_to_uvuni( (U8*)uc, UTF8_MAXLEN, &len, uniflags ); \
1020             uvc = to_uni_fold( uvc, foldbuf, &foldlen );                    \
1021             foldlen -= UNISKIP( uvc );                                      \
1022             uscan = foldbuf + UNISKIP( uvc );                               \
1023         }                                                                   \
1024         break;                                                              \
1025     case trie_latin_utf8_fold:                                              \
1026         if ( foldlen>0 ) {                                                  \
1027             uvc = utf8n_to_uvuni( uscan, UTF8_MAXLEN, &len, uniflags );     \
1028             foldlen -= len;                                                 \
1029             uscan += len;                                                   \
1030             len=0;                                                          \
1031         } else {                                                            \
1032             len = 1;                                                        \
1033             uvc = to_uni_fold( *(U8*)uc, foldbuf, &foldlen );               \
1034             foldlen -= UNISKIP( uvc );                                      \
1035             uscan = foldbuf + UNISKIP( uvc );                               \
1036         }                                                                   \
1037         break;                                                              \
1038     case trie_utf8:                                                         \
1039         uvc = utf8n_to_uvuni( (U8*)uc, UTF8_MAXLEN, &len, uniflags );       \
1040         break;                                                              \
1041     case trie_plain:                                                        \
1042         uvc = (UV)*uc;                                                      \
1043         len = 1;                                                            \
1044     }                                                                       \
1045                                                                             \
1046     if (uvc < 256) {                                                        \
1047         charid = trie->charmap[ uvc ];                                      \
1048     }                                                                       \
1049     else {                                                                  \
1050         charid = 0;                                                         \
1051         if (widecharmap) {                                                  \
1052             SV** const svpp = hv_fetch(widecharmap,                         \
1053                         (char*)&uvc, sizeof(UV), 0);                        \
1054             if (svpp)                                                       \
1055                 charid = (U16)SvIV(*svpp);                                  \
1056         }                                                                   \
1057     }                                                                       \
1058     if (!charid && trie_type == trie_utf8_fold && !UTF) {                   \
1059         charid = trie->charmap[uvc_unfolded];                               \
1060     }                                                                       \
1061 } STMT_END
1062
1063 #define REXEC_FBC_EXACTISH_CHECK(CoNd)                 \
1064 {                                                      \
1065     char *my_strend= (char *)strend;                   \
1066     if ( (CoNd)                                        \
1067          && (ln == len ||                              \
1068              !ibcmp_utf8(s, &my_strend, 0,  do_utf8,   \
1069                         m, NULL, ln, (bool)UTF))       \
1070          && (!reginfo || regtry(reginfo, &s)) )        \
1071         goto got_it;                                   \
1072     else {                                             \
1073          U8 foldbuf[UTF8_MAXBYTES_CASE+1];             \
1074          uvchr_to_utf8(tmpbuf, c);                     \
1075          f = to_utf8_fold(tmpbuf, foldbuf, &foldlen);  \
1076          if ( f != c                                   \
1077               && (f == c1 || f == c2)                  \
1078               && (ln == len ||                         \
1079                 !ibcmp_utf8(s, &my_strend, 0,  do_utf8,\
1080                               m, NULL, ln, (bool)UTF)) \
1081               && (!reginfo || regtry(reginfo, &s)) )   \
1082               goto got_it;                             \
1083     }                                                  \
1084 }                                                      \
1085 s += len
1086
1087 #define REXEC_FBC_EXACTISH_SCAN(CoNd)                     \
1088 STMT_START {                                              \
1089     while (s <= e) {                                      \
1090         if ( (CoNd)                                       \
1091              && (ln == 1 || !(OP(c) == EXACTF             \
1092                               ? ibcmp(s, m, ln)           \
1093                               : ibcmp_locale(s, m, ln)))  \
1094              && (!reginfo || regtry(reginfo, &s)) )        \
1095             goto got_it;                                  \
1096         s++;                                              \
1097     }                                                     \
1098 } STMT_END
1099
1100 #define REXEC_FBC_UTF8_SCAN(CoDe)                     \
1101 STMT_START {                                          \
1102     while (s + (uskip = UTF8SKIP(s)) <= strend) {     \
1103         CoDe                                          \
1104         s += uskip;                                   \
1105     }                                                 \
1106 } STMT_END
1107
1108 #define REXEC_FBC_SCAN(CoDe)                          \
1109 STMT_START {                                          \
1110     while (s < strend) {                              \
1111         CoDe                                          \
1112         s++;                                          \
1113     }                                                 \
1114 } STMT_END
1115
1116 #define REXEC_FBC_UTF8_CLASS_SCAN(CoNd)               \
1117 REXEC_FBC_UTF8_SCAN(                                  \
1118     if (CoNd) {                                       \
1119         if (tmp && (!reginfo || regtry(reginfo, &s)))  \
1120             goto got_it;                              \
1121         else                                          \
1122             tmp = doevery;                            \
1123     }                                                 \
1124     else                                              \
1125         tmp = 1;                                      \
1126 )
1127
1128 #define REXEC_FBC_CLASS_SCAN(CoNd)                    \
1129 REXEC_FBC_SCAN(                                       \
1130     if (CoNd) {                                       \
1131         if (tmp && (!reginfo || regtry(reginfo, &s)))  \
1132             goto got_it;                              \
1133         else                                          \
1134             tmp = doevery;                            \
1135     }                                                 \
1136     else                                              \
1137         tmp = 1;                                      \
1138 )
1139
1140 #define REXEC_FBC_TRYIT               \
1141 if ((!reginfo || regtry(reginfo, &s))) \
1142     goto got_it
1143
1144 #define REXEC_FBC_CSCAN(CoNdUtF8,CoNd)                         \
1145     if (do_utf8) {                                             \
1146         REXEC_FBC_UTF8_CLASS_SCAN(CoNdUtF8);                   \
1147     }                                                          \
1148     else {                                                     \
1149         REXEC_FBC_CLASS_SCAN(CoNd);                            \
1150     }                                                          \
1151     break
1152     
1153 #define REXEC_FBC_CSCAN_PRELOAD(UtFpReLoAd,CoNdUtF8,CoNd)      \
1154     if (do_utf8) {                                             \
1155         UtFpReLoAd;                                            \
1156         REXEC_FBC_UTF8_CLASS_SCAN(CoNdUtF8);                   \
1157     }                                                          \
1158     else {                                                     \
1159         REXEC_FBC_CLASS_SCAN(CoNd);                            \
1160     }                                                          \
1161     break
1162
1163 #define REXEC_FBC_CSCAN_TAINT(CoNdUtF8,CoNd)                   \
1164     PL_reg_flags |= RF_tainted;                                \
1165     if (do_utf8) {                                             \
1166         REXEC_FBC_UTF8_CLASS_SCAN(CoNdUtF8);                   \
1167     }                                                          \
1168     else {                                                     \
1169         REXEC_FBC_CLASS_SCAN(CoNd);                            \
1170     }                                                          \
1171     break
1172
1173 #define DUMP_EXEC_POS(li,s,doutf8) \
1174     dump_exec_pos(li,s,(PL_regeol),(PL_bostr),(PL_reg_starttry),doutf8)
1175
1176 /* We know what class REx starts with.  Try to find this position... */
1177 /* if reginfo is NULL, its a dryrun */
1178 /* annoyingly all the vars in this routine have different names from their counterparts
1179    in regmatch. /grrr */
1180
1181 STATIC char *
1182 S_find_byclass(pTHX_ regexp * prog, const regnode *c, char *s, 
1183     const char *strend, regmatch_info *reginfo)
1184 {
1185         dVAR;
1186         const I32 doevery = (prog->intflags & PREGf_SKIP) == 0;
1187         char *m;
1188         STRLEN ln;
1189         STRLEN lnc;
1190         register STRLEN uskip;
1191         unsigned int c1;
1192         unsigned int c2;
1193         char *e;
1194         register I32 tmp = 1;   /* Scratch variable? */
1195         register const bool do_utf8 = PL_reg_match_utf8;
1196         RXi_GET_DECL(prog,progi);
1197
1198         PERL_ARGS_ASSERT_FIND_BYCLASS;
1199         
1200         /* We know what class it must start with. */
1201         switch (OP(c)) {
1202         case ANYOF:
1203             if (do_utf8) {
1204                  REXEC_FBC_UTF8_CLASS_SCAN((ANYOF_FLAGS(c) & ANYOF_UNICODE) ||
1205                           !UTF8_IS_INVARIANT((U8)s[0]) ?
1206                           reginclass(prog, c, (U8*)s, 0, do_utf8) :
1207                           REGINCLASS(prog, c, (U8*)s));
1208             }
1209             else {
1210                  while (s < strend) {
1211                       STRLEN skip = 1;
1212
1213                       if (REGINCLASS(prog, c, (U8*)s) ||
1214                           (ANYOF_FOLD_SHARP_S(c, s, strend) &&
1215                            /* The assignment of 2 is intentional:
1216                             * for the folded sharp s, the skip is 2. */
1217                            (skip = SHARP_S_SKIP))) {
1218                            if (tmp && (!reginfo || regtry(reginfo, &s)))
1219                                 goto got_it;
1220                            else
1221                                 tmp = doevery;
1222                       }
1223                       else 
1224                            tmp = 1;
1225                       s += skip;
1226                  }
1227             }
1228             break;
1229         case CANY:
1230             REXEC_FBC_SCAN(
1231                 if (tmp && (!reginfo || regtry(reginfo, &s)))
1232                     goto got_it;
1233                 else
1234                     tmp = doevery;
1235             );
1236             break;
1237         case EXACTF:
1238             m   = STRING(c);
1239             ln  = STR_LEN(c);   /* length to match in octets/bytes */
1240             lnc = (I32) ln;     /* length to match in characters */
1241             if (UTF) {
1242                 STRLEN ulen1, ulen2;
1243                 U8 *sm = (U8 *) m;
1244                 U8 tmpbuf1[UTF8_MAXBYTES_CASE+1];
1245                 U8 tmpbuf2[UTF8_MAXBYTES_CASE+1];
1246                 /* used by commented-out code below */
1247                 /*const U32 uniflags = UTF8_ALLOW_DEFAULT;*/
1248                 
1249                 /* XXX: Since the node will be case folded at compile
1250                    time this logic is a little odd, although im not 
1251                    sure that its actually wrong. --dmq */
1252                    
1253                 c1 = to_utf8_lower((U8*)m, tmpbuf1, &ulen1);
1254                 c2 = to_utf8_upper((U8*)m, tmpbuf2, &ulen2);
1255
1256                 /* XXX: This is kinda strange. to_utf8_XYZ returns the 
1257                    codepoint of the first character in the converted
1258                    form, yet originally we did the extra step. 
1259                    No tests fail by commenting this code out however
1260                    so Ive left it out. -- dmq.
1261                    
1262                 c1 = utf8n_to_uvchr(tmpbuf1, UTF8_MAXBYTES_CASE, 
1263                                     0, uniflags);
1264                 c2 = utf8n_to_uvchr(tmpbuf2, UTF8_MAXBYTES_CASE,
1265                                     0, uniflags);
1266                 */
1267                 
1268                 lnc = 0;
1269                 while (sm < ((U8 *) m + ln)) {
1270                     lnc++;
1271                     sm += UTF8SKIP(sm);
1272                 }
1273             }
1274             else {
1275                 c1 = *(U8*)m;
1276                 c2 = PL_fold[c1];
1277             }
1278             goto do_exactf;
1279         case EXACTFL:
1280             m   = STRING(c);
1281             ln  = STR_LEN(c);
1282             lnc = (I32) ln;
1283             c1 = *(U8*)m;
1284             c2 = PL_fold_locale[c1];
1285           do_exactf:
1286             e = HOP3c(strend, -((I32)lnc), s);
1287
1288             if (!reginfo && e < s)
1289                 e = s;                  /* Due to minlen logic of intuit() */
1290
1291             /* The idea in the EXACTF* cases is to first find the
1292              * first character of the EXACTF* node and then, if
1293              * necessary, case-insensitively compare the full
1294              * text of the node.  The c1 and c2 are the first
1295              * characters (though in Unicode it gets a bit
1296              * more complicated because there are more cases
1297              * than just upper and lower: one needs to use
1298              * the so-called folding case for case-insensitive
1299              * matching (called "loose matching" in Unicode).
1300              * ibcmp_utf8() will do just that. */
1301
1302             if (do_utf8 || UTF) {
1303                 UV c, f;
1304                 U8 tmpbuf [UTF8_MAXBYTES+1];
1305                 STRLEN len = 1;
1306                 STRLEN foldlen;
1307                 const U32 uniflags = UTF8_ALLOW_DEFAULT;
1308                 if (c1 == c2) {
1309                     /* Upper and lower of 1st char are equal -
1310                      * probably not a "letter". */
1311                     while (s <= e) {
1312                         if (do_utf8) {
1313                             c = utf8n_to_uvchr((U8*)s, UTF8_MAXBYTES, &len,
1314                                            uniflags);
1315                         } else {
1316                             c = *((U8*)s);
1317                         }                                         
1318                         REXEC_FBC_EXACTISH_CHECK(c == c1);
1319                     }
1320                 }
1321                 else {
1322                     while (s <= e) {
1323                         if (do_utf8) {
1324                             c = utf8n_to_uvchr((U8*)s, UTF8_MAXBYTES, &len,
1325                                            uniflags);
1326                         } else {
1327                             c = *((U8*)s);
1328                         }
1329
1330                         /* Handle some of the three Greek sigmas cases.
1331                          * Note that not all the possible combinations
1332                          * are handled here: some of them are handled
1333                          * by the standard folding rules, and some of
1334                          * them (the character class or ANYOF cases)
1335                          * are handled during compiletime in
1336                          * regexec.c:S_regclass(). */
1337                         if (c == (UV)UNICODE_GREEK_CAPITAL_LETTER_SIGMA ||
1338                             c == (UV)UNICODE_GREEK_SMALL_LETTER_FINAL_SIGMA)
1339                             c = (UV)UNICODE_GREEK_SMALL_LETTER_SIGMA;
1340
1341                         REXEC_FBC_EXACTISH_CHECK(c == c1 || c == c2);
1342                     }
1343                 }
1344             }
1345             else {
1346                 /* Neither pattern nor string are UTF8 */
1347                 if (c1 == c2)
1348                     REXEC_FBC_EXACTISH_SCAN(*(U8*)s == c1);
1349                 else
1350                     REXEC_FBC_EXACTISH_SCAN(*(U8*)s == c1 || *(U8*)s == c2);
1351             }
1352             break;
1353         case BOUNDL:
1354             PL_reg_flags |= RF_tainted;
1355             /* FALL THROUGH */
1356         case BOUND:
1357             if (do_utf8) {
1358                 if (s == PL_bostr)
1359                     tmp = '\n';
1360                 else {
1361                     U8 * const r = reghop3((U8*)s, -1, (U8*)PL_bostr);
1362                     tmp = utf8n_to_uvchr(r, UTF8SKIP(r), 0, UTF8_ALLOW_DEFAULT);
1363                 }
1364                 tmp = ((OP(c) == BOUND ?
1365                         isALNUM_uni(tmp) : isALNUM_LC_uvchr(UNI_TO_NATIVE(tmp))) != 0);
1366                 LOAD_UTF8_CHARCLASS_ALNUM();
1367                 REXEC_FBC_UTF8_SCAN(
1368                     if (tmp == !(OP(c) == BOUND ?
1369                                  (bool)swash_fetch(PL_utf8_alnum, (U8*)s, do_utf8) :
1370                                  isALNUM_LC_utf8((U8*)s)))
1371                     {
1372                         tmp = !tmp;
1373                         REXEC_FBC_TRYIT;
1374                 }
1375                 );
1376             }
1377             else {
1378                 tmp = (s != PL_bostr) ? UCHARAT(s - 1) : '\n';
1379                 tmp = ((OP(c) == BOUND ? isALNUM(tmp) : isALNUM_LC(tmp)) != 0);
1380                 REXEC_FBC_SCAN(
1381                     if (tmp ==
1382                         !(OP(c) == BOUND ? isALNUM(*s) : isALNUM_LC(*s))) {
1383                         tmp = !tmp;
1384                         REXEC_FBC_TRYIT;
1385                 }
1386                 );
1387             }
1388             if ((!prog->minlen && tmp) && (!reginfo || regtry(reginfo, &s)))
1389                 goto got_it;
1390             break;
1391         case NBOUNDL:
1392             PL_reg_flags |= RF_tainted;
1393             /* FALL THROUGH */
1394         case NBOUND:
1395             if (do_utf8) {
1396                 if (s == PL_bostr)
1397                     tmp = '\n';
1398                 else {
1399                     U8 * const r = reghop3((U8*)s, -1, (U8*)PL_bostr);
1400                     tmp = utf8n_to_uvchr(r, UTF8SKIP(r), 0, UTF8_ALLOW_DEFAULT);
1401                 }
1402                 tmp = ((OP(c) == NBOUND ?
1403                         isALNUM_uni(tmp) : isALNUM_LC_uvchr(UNI_TO_NATIVE(tmp))) != 0);
1404                 LOAD_UTF8_CHARCLASS_ALNUM();
1405                 REXEC_FBC_UTF8_SCAN(
1406                     if (tmp == !(OP(c) == NBOUND ?
1407                                  (bool)swash_fetch(PL_utf8_alnum, (U8*)s, do_utf8) :
1408                                  isALNUM_LC_utf8((U8*)s)))
1409                         tmp = !tmp;
1410                     else REXEC_FBC_TRYIT;
1411                 );
1412             }
1413             else {
1414                 tmp = (s != PL_bostr) ? UCHARAT(s - 1) : '\n';
1415                 tmp = ((OP(c) == NBOUND ?
1416                         isALNUM(tmp) : isALNUM_LC(tmp)) != 0);
1417                 REXEC_FBC_SCAN(
1418                     if (tmp ==
1419                         !(OP(c) == NBOUND ? isALNUM(*s) : isALNUM_LC(*s)))
1420                         tmp = !tmp;
1421                     else REXEC_FBC_TRYIT;
1422                 );
1423             }
1424             if ((!prog->minlen && !tmp) && (!reginfo || regtry(reginfo, &s)))
1425                 goto got_it;
1426             break;
1427         case ALNUM:
1428             REXEC_FBC_CSCAN_PRELOAD(
1429                 LOAD_UTF8_CHARCLASS_ALNUM(),
1430                 swash_fetch(PL_utf8_alnum, (U8*)s, do_utf8),
1431                 isALNUM(*s)
1432             );
1433         case ALNUML:
1434             REXEC_FBC_CSCAN_TAINT(
1435                 isALNUM_LC_utf8((U8*)s),
1436                 isALNUM_LC(*s)
1437             );
1438         case NALNUM:
1439             REXEC_FBC_CSCAN_PRELOAD(
1440                 LOAD_UTF8_CHARCLASS_ALNUM(),
1441                 !swash_fetch(PL_utf8_alnum, (U8*)s, do_utf8),
1442                 !isALNUM(*s)
1443             );
1444         case NALNUML:
1445             REXEC_FBC_CSCAN_TAINT(
1446                 !isALNUM_LC_utf8((U8*)s),
1447                 !isALNUM_LC(*s)
1448             );
1449         case SPACE:
1450             REXEC_FBC_CSCAN_PRELOAD(
1451                 LOAD_UTF8_CHARCLASS_SPACE(),
1452                 *s == ' ' || swash_fetch(PL_utf8_space,(U8*)s, do_utf8),
1453                 isSPACE(*s)
1454             );
1455         case SPACEL:
1456             REXEC_FBC_CSCAN_TAINT(
1457                 *s == ' ' || isSPACE_LC_utf8((U8*)s),
1458                 isSPACE_LC(*s)
1459             );
1460         case NSPACE:
1461             REXEC_FBC_CSCAN_PRELOAD(
1462                 LOAD_UTF8_CHARCLASS_SPACE(),
1463                 !(*s == ' ' || swash_fetch(PL_utf8_space,(U8*)s, do_utf8)),
1464                 !isSPACE(*s)
1465             );
1466         case NSPACEL:
1467             REXEC_FBC_CSCAN_TAINT(
1468                 !(*s == ' ' || isSPACE_LC_utf8((U8*)s)),
1469                 !isSPACE_LC(*s)
1470             );
1471         case DIGIT:
1472             REXEC_FBC_CSCAN_PRELOAD(
1473                 LOAD_UTF8_CHARCLASS_DIGIT(),
1474                 swash_fetch(PL_utf8_digit,(U8*)s, do_utf8),
1475                 isDIGIT(*s)
1476             );
1477         case DIGITL:
1478             REXEC_FBC_CSCAN_TAINT(
1479                 isDIGIT_LC_utf8((U8*)s),
1480                 isDIGIT_LC(*s)
1481             );
1482         case NDIGIT:
1483             REXEC_FBC_CSCAN_PRELOAD(
1484                 LOAD_UTF8_CHARCLASS_DIGIT(),
1485                 !swash_fetch(PL_utf8_digit,(U8*)s, do_utf8),
1486                 !isDIGIT(*s)
1487             );
1488         case NDIGITL:
1489             REXEC_FBC_CSCAN_TAINT(
1490                 !isDIGIT_LC_utf8((U8*)s),
1491                 !isDIGIT_LC(*s)
1492             );
1493         case LNBREAK:
1494             REXEC_FBC_CSCAN(
1495                 is_LNBREAK_utf8(s),
1496                 is_LNBREAK_latin1(s)
1497             );
1498         case VERTWS:
1499             REXEC_FBC_CSCAN(
1500                 is_VERTWS_utf8(s),
1501                 is_VERTWS_latin1(s)
1502             );
1503         case NVERTWS:
1504             REXEC_FBC_CSCAN(
1505                 !is_VERTWS_utf8(s),
1506                 !is_VERTWS_latin1(s)
1507             );
1508         case HORIZWS:
1509             REXEC_FBC_CSCAN(
1510                 is_HORIZWS_utf8(s),
1511                 is_HORIZWS_latin1(s)
1512             );
1513         case NHORIZWS:
1514             REXEC_FBC_CSCAN(
1515                 !is_HORIZWS_utf8(s),
1516                 !is_HORIZWS_latin1(s)
1517             );      
1518         case AHOCORASICKC:
1519         case AHOCORASICK: 
1520             {
1521                 DECL_TRIE_TYPE(c);
1522                 /* what trie are we using right now */
1523                 reg_ac_data *aho
1524                     = (reg_ac_data*)progi->data->data[ ARG( c ) ];
1525                 reg_trie_data *trie
1526                     = (reg_trie_data*)progi->data->data[ aho->trie ];
1527                 HV *widecharmap = MUTABLE_HV(progi->data->data[ aho->trie + 1 ]);
1528
1529                 const char *last_start = strend - trie->minlen;
1530 #ifdef DEBUGGING
1531                 const char *real_start = s;
1532 #endif
1533                 STRLEN maxlen = trie->maxlen;
1534                 SV *sv_points;
1535                 U8 **points; /* map of where we were in the input string
1536                                 when reading a given char. For ASCII this
1537                                 is unnecessary overhead as the relationship
1538                                 is always 1:1, but for Unicode, especially
1539                                 case folded Unicode this is not true. */
1540                 U8 foldbuf[ UTF8_MAXBYTES_CASE + 1 ];
1541                 U8 *bitmap=NULL;
1542
1543
1544                 GET_RE_DEBUG_FLAGS_DECL;
1545
1546                 /* We can't just allocate points here. We need to wrap it in
1547                  * an SV so it gets freed properly if there is a croak while
1548                  * running the match */
1549                 ENTER;
1550                 SAVETMPS;
1551                 sv_points=newSV(maxlen * sizeof(U8 *));
1552                 SvCUR_set(sv_points,
1553                     maxlen * sizeof(U8 *));
1554                 SvPOK_on(sv_points);
1555                 sv_2mortal(sv_points);
1556                 points=(U8**)SvPV_nolen(sv_points );
1557                 if ( trie_type != trie_utf8_fold 
1558                      && (trie->bitmap || OP(c)==AHOCORASICKC) ) 
1559                 {
1560                     if (trie->bitmap) 
1561                         bitmap=(U8*)trie->bitmap;
1562                     else
1563                         bitmap=(U8*)ANYOF_BITMAP(c);
1564                 }
1565                 /* this is the Aho-Corasick algorithm modified a touch
1566                    to include special handling for long "unknown char" 
1567                    sequences. The basic idea being that we use AC as long
1568                    as we are dealing with a possible matching char, when
1569                    we encounter an unknown char (and we have not encountered
1570                    an accepting state) we scan forward until we find a legal 
1571                    starting char. 
1572                    AC matching is basically that of trie matching, except
1573                    that when we encounter a failing transition, we fall back
1574                    to the current states "fail state", and try the current char 
1575                    again, a process we repeat until we reach the root state, 
1576                    state 1, or a legal transition. If we fail on the root state 
1577                    then we can either terminate if we have reached an accepting 
1578                    state previously, or restart the entire process from the beginning 
1579                    if we have not.
1580
1581                  */
1582                 while (s <= last_start) {
1583                     const U32 uniflags = UTF8_ALLOW_DEFAULT;
1584                     U8 *uc = (U8*)s;
1585                     U16 charid = 0;
1586                     U32 base = 1;
1587                     U32 state = 1;
1588                     UV uvc = 0;
1589                     STRLEN len = 0;
1590                     STRLEN foldlen = 0;
1591                     U8 *uscan = (U8*)NULL;
1592                     U8 *leftmost = NULL;
1593 #ifdef DEBUGGING                    
1594                     U32 accepted_word= 0;
1595 #endif
1596                     U32 pointpos = 0;
1597
1598                     while ( state && uc <= (U8*)strend ) {
1599                         int failed=0;
1600                         U32 word = aho->states[ state ].wordnum;
1601
1602                         if( state==1 ) {
1603                             if ( bitmap ) {
1604                                 DEBUG_TRIE_EXECUTE_r(
1605                                     if ( uc <= (U8*)last_start && !BITMAP_TEST(bitmap,*uc) ) {
1606                                         dump_exec_pos( (char *)uc, c, strend, real_start, 
1607                                             (char *)uc, do_utf8 );
1608                                         PerlIO_printf( Perl_debug_log,
1609                                             " Scanning for legal start char...\n");
1610                                     }
1611                                 );            
1612                                 while ( uc <= (U8*)last_start  && !BITMAP_TEST(bitmap,*uc) ) {
1613                                     uc++;
1614                                 }
1615                                 s= (char *)uc;
1616                             }
1617                             if (uc >(U8*)last_start) break;
1618                         }
1619                                             
1620                         if ( word ) {
1621                             U8 *lpos= points[ (pointpos - trie->wordlen[word-1] ) % maxlen ];
1622                             if (!leftmost || lpos < leftmost) {
1623                                 DEBUG_r(accepted_word=word);
1624                                 leftmost= lpos;
1625                             }
1626                             if (base==0) break;
1627                             
1628                         }
1629                         points[pointpos++ % maxlen]= uc;
1630                         REXEC_TRIE_READ_CHAR(trie_type, trie, widecharmap, uc,
1631                                              uscan, len, uvc, charid, foldlen,
1632                                              foldbuf, uniflags);
1633                         DEBUG_TRIE_EXECUTE_r({
1634                             dump_exec_pos( (char *)uc, c, strend, real_start, 
1635                                 s,   do_utf8 );
1636                             PerlIO_printf(Perl_debug_log,
1637                                 " Charid:%3u CP:%4"UVxf" ",
1638                                  charid, uvc);
1639                         });
1640
1641                         do {
1642 #ifdef DEBUGGING
1643                             word = aho->states[ state ].wordnum;
1644 #endif
1645                             base = aho->states[ state ].trans.base;
1646
1647                             DEBUG_TRIE_EXECUTE_r({
1648                                 if (failed) 
1649                                     dump_exec_pos( (char *)uc, c, strend, real_start, 
1650                                         s,   do_utf8 );
1651                                 PerlIO_printf( Perl_debug_log,
1652                                     "%sState: %4"UVxf", word=%"UVxf,
1653                                     failed ? " Fail transition to " : "",
1654                                     (UV)state, (UV)word);
1655                             });
1656                             if ( base ) {
1657                                 U32 tmp;
1658                                 if (charid &&
1659                                      (base + charid > trie->uniquecharcount )
1660                                      && (base + charid - 1 - trie->uniquecharcount
1661                                             < trie->lasttrans)
1662                                      && trie->trans[base + charid - 1 -
1663                                             trie->uniquecharcount].check == state
1664                                      && (tmp=trie->trans[base + charid - 1 -
1665                                         trie->uniquecharcount ].next))
1666                                 {
1667                                     DEBUG_TRIE_EXECUTE_r(
1668                                         PerlIO_printf( Perl_debug_log," - legal\n"));
1669                                     state = tmp;
1670                                     break;
1671                                 }
1672                                 else {
1673                                     DEBUG_TRIE_EXECUTE_r(
1674                                         PerlIO_printf( Perl_debug_log," - fail\n"));
1675                                     failed = 1;
1676                                     state = aho->fail[state];
1677                                 }
1678                             }
1679                             else {
1680                                 /* we must be accepting here */
1681                                 DEBUG_TRIE_EXECUTE_r(
1682                                         PerlIO_printf( Perl_debug_log," - accepting\n"));
1683                                 failed = 1;
1684                                 break;
1685                             }
1686                         } while(state);
1687                         uc += len;
1688                         if (failed) {
1689                             if (leftmost)
1690                                 break;
1691                             if (!state) state = 1;
1692                         }
1693                     }
1694                     if ( aho->states[ state ].wordnum ) {
1695                         U8 *lpos = points[ (pointpos - trie->wordlen[aho->states[ state ].wordnum-1]) % maxlen ];
1696                         if (!leftmost || lpos < leftmost) {
1697                             DEBUG_r(accepted_word=aho->states[ state ].wordnum);
1698                             leftmost = lpos;
1699                         }
1700                     }
1701                     if (leftmost) {
1702                         s = (char*)leftmost;
1703                         DEBUG_TRIE_EXECUTE_r({
1704                             PerlIO_printf( 
1705                                 Perl_debug_log,"Matches word #%"UVxf" at position %"IVdf". Trying full pattern...\n",
1706                                 (UV)accepted_word, (IV)(s - real_start)
1707                             );
1708                         });
1709                         if (!reginfo || regtry(reginfo, &s)) {
1710                             FREETMPS;
1711                             LEAVE;
1712                             goto got_it;
1713                         }
1714                         s = HOPc(s,1);
1715                         DEBUG_TRIE_EXECUTE_r({
1716                             PerlIO_printf( Perl_debug_log,"Pattern failed. Looking for new start point...\n");
1717                         });
1718                     } else {
1719                         DEBUG_TRIE_EXECUTE_r(
1720                             PerlIO_printf( Perl_debug_log,"No match.\n"));
1721                         break;
1722                     }
1723                 }
1724                 FREETMPS;
1725                 LEAVE;
1726             }
1727             break;
1728         default:
1729             Perl_croak(aTHX_ "panic: unknown regstclass %d", (int)OP(c));
1730             break;
1731         }
1732         return 0;
1733       got_it:
1734         return s;
1735 }
1736
1737 static void 
1738 S_swap_match_buff (pTHX_ regexp *prog)
1739 {
1740     regexp_paren_pair *t;
1741
1742     PERL_ARGS_ASSERT_SWAP_MATCH_BUFF;
1743
1744     if (!prog->swap) {
1745     /* We have to be careful. If the previous successful match
1746        was from this regex we don't want a subsequent paritally
1747        successful match to clobber the old results. 
1748        So when we detect this possibility we add a swap buffer
1749        to the re, and switch the buffer each match. If we fail
1750        we switch it back, otherwise we leave it swapped.
1751     */
1752         Newxz(prog->swap, (prog->nparens + 1), regexp_paren_pair);
1753     }
1754     t = prog->swap;
1755     prog->swap = prog->offs;
1756     prog->offs = t;
1757 }    
1758
1759
1760 /*
1761  - regexec_flags - match a regexp against a string
1762  */
1763 I32
1764 Perl_regexec_flags(pTHX_ REGEXP * const rx, char *stringarg, register char *strend,
1765               char *strbeg, I32 minend, SV *sv, void *data, U32 flags)
1766 /* strend: pointer to null at end of string */
1767 /* strbeg: real beginning of string */
1768 /* minend: end of match must be >=minend after stringarg. */
1769 /* data: May be used for some additional optimizations. 
1770          Currently its only used, with a U32 cast, for transmitting 
1771          the ganch offset when doing a /g match. This will change */
1772 /* nosave: For optimizations. */
1773 {
1774     dVAR;
1775     struct regexp *const prog = (struct regexp *)SvANY(rx);
1776     /*register*/ char *s;
1777     register regnode *c;
1778     /*register*/ char *startpos = stringarg;
1779     I32 minlen;         /* must match at least this many chars */
1780     I32 dontbother = 0; /* how many characters not to try at end */
1781     I32 end_shift = 0;                  /* Same for the end. */         /* CC */
1782     I32 scream_pos = -1;                /* Internal iterator of scream. */
1783     char *scream_olds = NULL;
1784     const bool do_utf8 = (bool)DO_UTF8(sv);
1785     I32 multiline;
1786     RXi_GET_DECL(prog,progi);
1787     regmatch_info reginfo;  /* create some info to pass to regtry etc */
1788     bool swap_on_fail = 0;
1789     GET_RE_DEBUG_FLAGS_DECL;
1790
1791     PERL_ARGS_ASSERT_REGEXEC_FLAGS;
1792     PERL_UNUSED_ARG(data);
1793
1794     /* Be paranoid... */
1795     if (prog == NULL || startpos == NULL) {
1796         Perl_croak(aTHX_ "NULL regexp parameter");
1797         return 0;
1798     }
1799
1800     multiline = prog->extflags & RXf_PMf_MULTILINE;
1801     reginfo.prog = rx;   /* Yes, sorry that this is confusing.  */
1802
1803     RX_MATCH_UTF8_set(rx, do_utf8);
1804     DEBUG_EXECUTE_r( 
1805         debug_start_match(rx, do_utf8, startpos, strend, 
1806         "Matching");
1807     );
1808
1809     minlen = prog->minlen;
1810     
1811     if (strend - startpos < (minlen+(prog->check_offset_min<0?prog->check_offset_min:0))) {
1812         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log,
1813                               "String too short [regexec_flags]...\n"));
1814         goto phooey;
1815     }
1816
1817     
1818     /* Check validity of program. */
1819     if (UCHARAT(progi->program) != REG_MAGIC) {
1820         Perl_croak(aTHX_ "corrupted regexp program");
1821     }
1822
1823     PL_reg_flags = 0;
1824     PL_reg_eval_set = 0;
1825     PL_reg_maxiter = 0;
1826
1827     if (RX_UTF8(rx))
1828         PL_reg_flags |= RF_utf8;
1829
1830     /* Mark beginning of line for ^ and lookbehind. */
1831     reginfo.bol = startpos; /* XXX not used ??? */
1832     PL_bostr  = strbeg;
1833     reginfo.sv = sv;
1834
1835     /* Mark end of line for $ (and such) */
1836     PL_regeol = strend;
1837
1838     /* see how far we have to get to not match where we matched before */
1839     reginfo.till = startpos+minend;
1840
1841     /* If there is a "must appear" string, look for it. */
1842     s = startpos;
1843
1844     if (prog->extflags & RXf_GPOS_SEEN) { /* Need to set reginfo->ganch */
1845         MAGIC *mg;
1846
1847         if (flags & REXEC_IGNOREPOS)    /* Means: check only at start */
1848             reginfo.ganch = startpos + prog->gofs;
1849         else if (sv && SvTYPE(sv) >= SVt_PVMG
1850                   && SvMAGIC(sv)
1851                   && (mg = mg_find(sv, PERL_MAGIC_regex_global))
1852                   && mg->mg_len >= 0) {
1853             reginfo.ganch = strbeg + mg->mg_len;        /* Defined pos() */
1854             if (prog->extflags & RXf_ANCH_GPOS) {
1855                 if (s > reginfo.ganch)
1856                     goto phooey;
1857                 s = reginfo.ganch - prog->gofs;
1858             }
1859         }
1860         else if (data) {
1861             reginfo.ganch = strbeg + PTR2UV(data);
1862         } else                          /* pos() not defined */
1863             reginfo.ganch = strbeg;
1864     }
1865     if (PL_curpm && (PM_GETRE(PL_curpm) == rx)) {
1866         swap_on_fail = 1;
1867         swap_match_buff(prog); /* do we need a save destructor here for
1868                                   eval dies? */
1869     }
1870     if (!(flags & REXEC_CHECKED) && (prog->check_substr != NULL || prog->check_utf8 != NULL)) {
1871         re_scream_pos_data d;
1872
1873         d.scream_olds = &scream_olds;
1874         d.scream_pos = &scream_pos;
1875         s = re_intuit_start(rx, sv, s, strend, flags, &d);
1876         if (!s) {
1877             DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Not present...\n"));
1878             goto phooey;        /* not present */
1879         }
1880     }
1881
1882
1883
1884     /* Simplest case:  anchored match need be tried only once. */
1885     /*  [unless only anchor is BOL and multiline is set] */
1886     if (prog->extflags & (RXf_ANCH & ~RXf_ANCH_GPOS)) {
1887         if (s == startpos && regtry(&reginfo, &startpos))
1888             goto got_it;
1889         else if (multiline || (prog->intflags & PREGf_IMPLICIT)
1890                  || (prog->extflags & RXf_ANCH_MBOL)) /* XXXX SBOL? */
1891         {
1892             char *end;
1893
1894             if (minlen)
1895                 dontbother = minlen - 1;
1896             end = HOP3c(strend, -dontbother, strbeg) - 1;
1897             /* for multiline we only have to try after newlines */
1898             if (prog->check_substr || prog->check_utf8) {
1899                 if (s == startpos)
1900                     goto after_try;
1901                 while (1) {
1902                     if (regtry(&reginfo, &s))
1903                         goto got_it;
1904                   after_try:
1905                     if (s > end)
1906                         goto phooey;
1907                     if (prog->extflags & RXf_USE_INTUIT) {
1908                         s = re_intuit_start(rx, sv, s + 1, strend, flags, NULL);
1909                         if (!s)
1910                             goto phooey;
1911                     }
1912                     else
1913                         s++;
1914                 }               
1915             } else {
1916                 if (s > startpos)
1917                     s--;
1918                 while (s < end) {
1919                     if (*s++ == '\n') { /* don't need PL_utf8skip here */
1920                         if (regtry(&reginfo, &s))
1921                             goto got_it;
1922                     }
1923                 }               
1924             }
1925         }
1926         goto phooey;
1927     } else if (RXf_GPOS_CHECK == (prog->extflags & RXf_GPOS_CHECK)) 
1928     {
1929         /* the warning about reginfo.ganch being used without intialization
1930            is bogus -- we set it above, when prog->extflags & RXf_GPOS_SEEN 
1931            and we only enter this block when the same bit is set. */
1932         char *tmp_s = reginfo.ganch - prog->gofs;
1933         if (regtry(&reginfo, &tmp_s))
1934             goto got_it;
1935         goto phooey;
1936     }
1937
1938     /* Messy cases:  unanchored match. */
1939     if ((prog->anchored_substr || prog->anchored_utf8) && prog->intflags & PREGf_SKIP) {
1940         /* we have /x+whatever/ */
1941         /* it must be a one character string (XXXX Except UTF?) */
1942         char ch;
1943 #ifdef DEBUGGING
1944         int did_match = 0;
1945 #endif
1946         if (!(do_utf8 ? prog->anchored_utf8 : prog->anchored_substr))
1947             do_utf8 ? to_utf8_substr(prog) : to_byte_substr(prog);
1948         ch = SvPVX_const(do_utf8 ? prog->anchored_utf8 : prog->anchored_substr)[0];
1949
1950         if (do_utf8) {
1951             REXEC_FBC_SCAN(
1952                 if (*s == ch) {
1953                     DEBUG_EXECUTE_r( did_match = 1 );
1954                     if (regtry(&reginfo, &s)) goto got_it;
1955                     s += UTF8SKIP(s);
1956                     while (s < strend && *s == ch)
1957                         s += UTF8SKIP(s);
1958                 }
1959             );
1960         }
1961         else {
1962             REXEC_FBC_SCAN(
1963                 if (*s == ch) {
1964                     DEBUG_EXECUTE_r( did_match = 1 );
1965                     if (regtry(&reginfo, &s)) goto got_it;
1966                     s++;
1967                     while (s < strend && *s == ch)
1968                         s++;
1969                 }
1970             );
1971         }
1972         DEBUG_EXECUTE_r(if (!did_match)
1973                 PerlIO_printf(Perl_debug_log,
1974                                   "Did not find anchored character...\n")
1975                );
1976     }
1977     else if (prog->anchored_substr != NULL
1978               || prog->anchored_utf8 != NULL
1979               || ((prog->float_substr != NULL || prog->float_utf8 != NULL)
1980                   && prog->float_max_offset < strend - s)) {
1981         SV *must;
1982         I32 back_max;
1983         I32 back_min;
1984         char *last;
1985         char *last1;            /* Last position checked before */
1986 #ifdef DEBUGGING
1987         int did_match = 0;
1988 #endif
1989         if (prog->anchored_substr || prog->anchored_utf8) {
1990             if (!(do_utf8 ? prog->anchored_utf8 : prog->anchored_substr))
1991                 do_utf8 ? to_utf8_substr(prog) : to_byte_substr(prog);
1992             must = do_utf8 ? prog->anchored_utf8 : prog->anchored_substr;
1993             back_max = back_min = prog->anchored_offset;
1994         } else {
1995             if (!(do_utf8 ? prog->float_utf8 : prog->float_substr))
1996                 do_utf8 ? to_utf8_substr(prog) : to_byte_substr(prog);
1997             must = do_utf8 ? prog->float_utf8 : prog->float_substr;
1998             back_max = prog->float_max_offset;
1999             back_min = prog->float_min_offset;
2000         }
2001         
2002             
2003         if (must == &PL_sv_undef)
2004             /* could not downgrade utf8 check substring, so must fail */
2005             goto phooey;
2006
2007         if (back_min<0) {
2008             last = strend;
2009         } else {
2010             last = HOP3c(strend,        /* Cannot start after this */
2011                   -(I32)(CHR_SVLEN(must)
2012                          - (SvTAIL(must) != 0) + back_min), strbeg);
2013         }
2014         if (s > PL_bostr)
2015             last1 = HOPc(s, -1);
2016         else
2017             last1 = s - 1;      /* bogus */
2018
2019         /* XXXX check_substr already used to find "s", can optimize if
2020            check_substr==must. */
2021         scream_pos = -1;
2022         dontbother = end_shift;
2023         strend = HOPc(strend, -dontbother);
2024         while ( (s <= last) &&
2025                 ((flags & REXEC_SCREAM)
2026                  ? (s = screaminstr(sv, must, HOP3c(s, back_min, (back_min<0 ? strbeg : strend)) - strbeg,
2027                                     end_shift, &scream_pos, 0))
2028                  : (s = fbm_instr((unsigned char*)HOP3(s, back_min, (back_min<0 ? strbeg : strend)),
2029                                   (unsigned char*)strend, must,
2030                                   multiline ? FBMrf_MULTILINE : 0))) ) {
2031             /* we may be pointing at the wrong string */
2032             if ((flags & REXEC_SCREAM) && RXp_MATCH_COPIED(prog))
2033                 s = strbeg + (s - SvPVX_const(sv));
2034             DEBUG_EXECUTE_r( did_match = 1 );
2035             if (HOPc(s, -back_max) > last1) {
2036                 last1 = HOPc(s, -back_min);
2037                 s = HOPc(s, -back_max);
2038             }
2039             else {
2040                 char * const t = (last1 >= PL_bostr) ? HOPc(last1, 1) : last1 + 1;
2041
2042                 last1 = HOPc(s, -back_min);
2043                 s = t;
2044             }
2045             if (do_utf8) {
2046                 while (s <= last1) {
2047                     if (regtry(&reginfo, &s))
2048                         goto got_it;
2049                     s += UTF8SKIP(s);
2050                 }
2051             }
2052             else {
2053                 while (s <= last1) {
2054                     if (regtry(&reginfo, &s))
2055                         goto got_it;
2056                     s++;
2057                 }
2058             }
2059         }
2060         DEBUG_EXECUTE_r(if (!did_match) {
2061             RE_PV_QUOTED_DECL(quoted, do_utf8, PERL_DEBUG_PAD_ZERO(0), 
2062                 SvPVX_const(must), RE_SV_DUMPLEN(must), 30);
2063             PerlIO_printf(Perl_debug_log, "Did not find %s substr %s%s...\n",
2064                               ((must == prog->anchored_substr || must == prog->anchored_utf8)
2065                                ? "anchored" : "floating"),
2066                 quoted, RE_SV_TAIL(must));
2067         });                 
2068         goto phooey;
2069     }
2070     else if ( (c = progi->regstclass) ) {
2071         if (minlen) {
2072             const OPCODE op = OP(progi->regstclass);
2073             /* don't bother with what can't match */
2074             if (PL_regkind[op] != EXACT && op != CANY && PL_regkind[op] != TRIE)
2075                 strend = HOPc(strend, -(minlen - 1));
2076         }
2077         DEBUG_EXECUTE_r({
2078             SV * const prop = sv_newmortal();
2079             regprop(prog, prop, c);
2080             {
2081                 RE_PV_QUOTED_DECL(quoted,do_utf8,PERL_DEBUG_PAD_ZERO(1),
2082                     s,strend-s,60);
2083                 PerlIO_printf(Perl_debug_log,
2084                     "Matching stclass %.*s against %s (%d chars)\n",
2085                     (int)SvCUR(prop), SvPVX_const(prop),
2086                      quoted, (int)(strend - s));
2087             }
2088         });
2089         if (find_byclass(prog, c, s, strend, &reginfo))
2090             goto got_it;
2091         DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "Contradicts stclass... [regexec_flags]\n"));
2092     }
2093     else {
2094         dontbother = 0;
2095         if (prog->float_substr != NULL || prog->float_utf8 != NULL) {
2096             /* Trim the end. */
2097             char *last;
2098             SV* float_real;
2099
2100             if (!(do_utf8 ? prog->float_utf8 : prog->float_substr))
2101                 do_utf8 ? to_utf8_substr(prog) : to_byte_substr(prog);
2102             float_real = do_utf8 ? prog->float_utf8 : prog->float_substr;
2103
2104             if (flags & REXEC_SCREAM) {
2105                 last = screaminstr(sv, float_real, s - strbeg,
2106                                    end_shift, &scream_pos, 1); /* last one */
2107                 if (!last)
2108                     last = scream_olds; /* Only one occurrence. */
2109                 /* we may be pointing at the wrong string */
2110                 else if (RXp_MATCH_COPIED(prog))
2111                     s = strbeg + (s - SvPVX_const(sv));
2112             }
2113             else {
2114                 STRLEN len;
2115                 const char * const little = SvPV_const(float_real, len);
2116
2117                 if (SvTAIL(float_real)) {
2118                     if (memEQ(strend - len + 1, little, len - 1))
2119                         last = strend - len + 1;
2120                     else if (!multiline)
2121                         last = memEQ(strend - len, little, len)
2122                             ? strend - len : NULL;
2123                     else
2124                         goto find_last;
2125                 } else {
2126                   find_last:
2127                     if (len)
2128                         last = rninstr(s, strend, little, little + len);
2129                     else
2130                         last = strend;  /* matching "$" */
2131                 }
2132             }
2133             if (last == NULL) {
2134                 DEBUG_EXECUTE_r(
2135                     PerlIO_printf(Perl_debug_log,
2136                         "%sCan't trim the tail, match fails (should not happen)%s\n",
2137                         PL_colors[4], PL_colors[5]));
2138                 goto phooey; /* Should not happen! */
2139             }
2140             dontbother = strend - last + prog->float_min_offset;
2141         }
2142         if (minlen && (dontbother < minlen))
2143             dontbother = minlen - 1;
2144         strend -= dontbother;              /* this one's always in bytes! */
2145         /* We don't know much -- general case. */
2146         if (do_utf8) {
2147             for (;;) {
2148                 if (regtry(&reginfo, &s))
2149                     goto got_it;
2150                 if (s >= strend)
2151                     break;
2152                 s += UTF8SKIP(s);
2153             };
2154         }
2155         else {
2156             do {
2157                 if (regtry(&reginfo, &s))
2158                     goto got_it;
2159             } while (s++ < strend);
2160         }
2161     }
2162
2163     /* Failure. */
2164     goto phooey;
2165
2166 got_it:
2167     RX_MATCH_TAINTED_set(rx, PL_reg_flags & RF_tainted);
2168
2169     if (PL_reg_eval_set)
2170         restore_pos(aTHX_ prog);
2171     if (RXp_PAREN_NAMES(prog)) 
2172         (void)hv_iterinit(RXp_PAREN_NAMES(prog));
2173
2174     /* make sure $`, $&, $', and $digit will work later */
2175     if ( !(flags & REXEC_NOT_FIRST) ) {
2176         RX_MATCH_COPY_FREE(rx);
2177         if (flags & REXEC_COPY_STR) {
2178             const I32 i = PL_regeol - startpos + (stringarg - strbeg);
2179 #ifdef PERL_OLD_COPY_ON_WRITE
2180             if ((SvIsCOW(sv)
2181                  || (SvFLAGS(sv) & CAN_COW_MASK) == CAN_COW_FLAGS)) {
2182                 if (DEBUG_C_TEST) {
2183                     PerlIO_printf(Perl_debug_log,
2184                                   "Copy on write: regexp capture, type %d\n",
2185                                   (int) SvTYPE(sv));
2186                 }
2187                 prog->saved_copy = sv_setsv_cow(prog->saved_copy, sv);
2188                 prog->subbeg = (char *)SvPVX_const(prog->saved_copy);
2189                 assert (SvPOKp(prog->saved_copy));
2190             } else
2191 #endif
2192             {
2193                 RX_MATCH_COPIED_on(rx);
2194                 s = savepvn(strbeg, i);
2195                 prog->subbeg = s;
2196             }
2197             prog->sublen = i;
2198         }
2199         else {
2200             prog->subbeg = strbeg;
2201             prog->sublen = PL_regeol - strbeg;  /* strend may have been modified */
2202         }
2203     }
2204
2205     return 1;
2206
2207 phooey:
2208     DEBUG_EXECUTE_r(PerlIO_printf(Perl_debug_log, "%sMatch failed%s\n",
2209                           PL_colors[4], PL_colors[5]));
2210     if (PL_reg_eval_set)
2211         restore_pos(aTHX_ prog);
2212     if (swap_on_fail) 
2213         /* we failed :-( roll it back */
2214         swap_match_buff(prog);
2215     
2216     return 0;
2217 }
2218
2219
2220 /*
2221  - regtry - try match at specific point
2222  */
2223 STATIC I32                      /* 0 failure, 1 success */
2224 S_regtry(pTHX_ regmatch_info *reginfo, char **startpos)
2225 {
2226     dVAR;
2227     CHECKPOINT lastcp;
2228     REGEXP *const rx = reginfo->prog;
2229     regexp *const prog = (struct regexp *)SvANY(rx);
2230     RXi_GET_DECL(prog,progi);
2231     GET_RE_DEBUG_FLAGS_DECL;
2232
2233     PERL_ARGS_ASSERT_REGTRY;
2234
2235     reginfo->cutpoint=NULL;
2236
2237     if ((prog->extflags & RXf_EVAL_SEEN) && !PL_reg_eval_set) {
2238         MAGIC *mg;
2239
2240         PL_reg_eval_set = RS_init;
2241         DEBUG_EXECUTE_r(DEBUG_s(
2242             PerlIO_printf(Perl_debug_log, "  setting stack tmpbase at %"IVdf"\n",
2243                           (IV)(PL_stack_sp - PL_stack_base));
2244             ));
2245         SAVESTACK_CXPOS();
2246         cxstack[cxstack_ix].blk_oldsp = PL_stack_sp - PL_stack_base;
2247         /* Otherwise OP_NEXTSTATE will free whatever on stack now.  */
2248         SAVETMPS;
2249         /* Apparently this is not needed, judging by wantarray. */
2250         /* SAVEI8(cxstack[cxstack_ix].blk_gimme);
2251            cxstack[cxstack_ix].blk_gimme = G_SCALAR; */
2252
2253         if (reginfo->sv) {
2254             /* Make $_ available to executed code. */
2255             if (reginfo->sv != DEFSV) {
2256                 SAVE_DEFSV;
2257                 DEFSV_set(reginfo->sv);
2258             }
2259         
2260             if (!(SvTYPE(reginfo->sv) >= SVt_PVMG && SvMAGIC(reginfo->sv)
2261                   && (mg = mg_find(reginfo->sv, PERL_MAGIC_regex_global)))) {
2262                 /* prepare for quick setting of pos */
2263 #ifdef PERL_OLD_COPY_ON_WRITE
2264                 if (SvIsCOW(reginfo->sv))
2265                     sv_force_normal_flags(reginfo->sv, 0);
2266 #endif
2267                 mg = sv_magicext(reginfo->sv, NULL, PERL_MAGIC_regex_global,
2268                                  &PL_vtbl_mglob, NULL, 0);
2269                 mg->mg_len = -1;
2270             }
2271             PL_reg_magic    = mg;
2272             PL_reg_oldpos   = mg->mg_len;
2273             SAVEDESTRUCTOR_X(restore_pos, prog);
2274         }
2275         if (!PL_reg_curpm) {
2276             Newxz(PL_reg_curpm, 1, PMOP);
2277 #ifdef USE_ITHREADS
2278             {
2279                 SV* const repointer = &PL_sv_undef;
2280                 /* this regexp is also owned by the new PL_reg_curpm, which
2281                    will try to free it.  */
2282                 av_push(PL_regex_padav, repointer);
2283                 PL_reg_curpm->op_pmoffset = av_len(PL_regex_padav);
2284                 PL_regex_pad = AvARRAY(PL_regex_padav);
2285             }
2286 #endif      
2287         }
2288 #ifdef USE_ITHREADS
2289         /* It seems that non-ithreads works both with and without this code.
2290            So for efficiency reasons it seems best not to have the code
2291            compiled when it is not needed.  */
2292         /* This is safe against NULLs: */
2293         ReREFCNT_dec(PM_GETRE(PL_reg_curpm));
2294         /* PM_reg_curpm owns a reference to this regexp.  */
2295         ReREFCNT_inc(rx);
2296 #endif
2297         PM_SETRE(PL_reg_curpm, rx);
2298         PL_reg_oldcurpm = PL_curpm;
2299         PL_curpm = PL_reg_curpm;
2300         if (RXp_MATCH_COPIED(prog)) {
2301             /*  Here is a serious problem: we cannot rewrite subbeg,
2302                 since it may be needed if this match fails.  Thus
2303                 $` inside (?{}) could fail... */
2304             PL_reg_oldsaved = prog->subbeg;
2305             PL_reg_oldsavedlen = prog->sublen;
2306 #ifdef PERL_OLD_COPY_ON_WRITE
2307             PL_nrs = prog->saved_copy;
2308 #endif
2309             RXp_MATCH_COPIED_off(prog);
2310         }
2311         else
2312             PL_reg_oldsaved = NULL;
2313         prog->subbeg = PL_bostr;
2314         prog->sublen = PL_regeol - PL_bostr; /* strend may have been modified */
2315     }
2316     DEBUG_EXECUTE_r(PL_reg_starttry = *startpos);
2317     prog->offs[0].start = *startpos - PL_bostr;
2318     PL_reginput = *startpos;
2319     PL_reglastparen = &prog->lastparen;
2320     PL_reglastcloseparen = &prog->lastcloseparen;
2321     prog->lastparen = 0;
2322     prog->lastcloseparen = 0;
2323     PL_regsize = 0;
2324     PL_regoffs = prog->offs;
2325     if (PL_reg_start_tmpl <= prog->nparens) {
2326         PL_reg_start_tmpl = prog->nparens*3/2 + 3;
2327         if(PL_reg_start_tmp)
2328             Renew(PL_reg_start_tmp, PL_reg_start_tmpl, char*);
2329         else
2330             Newx(PL_reg_start_tmp, PL_reg_start_tmpl, char*);
2331     }
2332
2333     /* XXXX What this code is doing here?!!!  There should be no need
2334        to do this again and again, PL_reglastparen should take care of
2335        this!  --ilya*/
2336
2337     /* Tests pat.t#187 and split.t#{13,14} seem to depend on this code.
2338      * Actually, the code in regcppop() (which Ilya may be meaning by
2339      * PL_reglastparen), is not needed at all by the test suite
2340      * (op/regexp, op/pat, op/split), but that code is needed otherwise
2341      * this erroneously leaves $1 defined: "1" =~ /^(?:(\d)x)?\d$/
2342      * Meanwhile, this code *is* needed for the
2343      * above-mentioned test suite tests to succeed.  The common theme
2344      * on those tests seems to be returning null fields from matches.
2345      * --jhi updated by dapm */
2346 #if 1
2347     if (prog->nparens) {
2348         regexp_paren_pair *pp = PL_regoffs;
2349         register I32 i;
2350         for (i = prog->nparens; i > (I32)*PL_reglastparen; i--) {
2351             ++pp;
2352             pp->start = -1;
2353             pp->end = -1;
2354         }
2355     }
2356 #endif
2357     REGCP_SET(lastcp);
2358     if (regmatch(reginfo, progi->program + 1)) {
2359         PL_regoffs[0].end = PL_reginput - PL_bostr;
2360         return 1;
2361     }
2362     if (reginfo->cutpoint)
2363         *startpos= reginfo->cutpoint;
2364     REGCP_UNWIND(lastcp);
2365     return 0;
2366 }
2367
2368
2369 #define sayYES goto yes
2370 #define sayNO goto no
2371 #define sayNO_SILENT goto no_silent
2372
2373 /* we dont use STMT_START/END here because it leads to 
2374    "unreachable code" warnings, which are bogus, but distracting. */
2375 #define CACHEsayNO \
2376     if (ST.cache_mask) \
2377        PL_reg_poscache[ST.cache_offset] |= ST.cache_mask; \
2378     sayNO
2379
2380 /* this is used to determine how far from the left messages like
2381    'failed...' are printed. It should be set such that messages 
2382    are inline with the regop output that created them.
2383 */
2384 #define REPORT_CODE_OFF 32
2385
2386
2387 /* Make sure there is a test for this +1 options in re_tests */
2388 #define TRIE_INITAL_ACCEPT_BUFFLEN 4;
2389
2390 #define CHRTEST_UNINIT -1001 /* c1/c2 haven't been calculated yet */
2391 #define CHRTEST_VOID   -1000 /* the c1/c2 "next char" test should be skipped */
2392
2393 #define SLAB_FIRST(s) (&(s)->states[0])
2394 #define SLAB_LAST(s)  (&(s)->states[PERL_REGMATCH_SLAB_SLOTS-1])
2395
2396 /* grab a new slab and return the first slot in it */
2397
2398 STATIC regmatch_state *
2399 S_push_slab(pTHX)
2400 {
2401 #if PERL_VERSION < 9 && !defined(PERL_CORE)
2402     dMY_CXT;
2403 #endif
2404     regmatch_slab *s = PL_regmatch_slab->next;
2405     if (!s) {
2406         Newx(s, 1, regmatch_slab);
2407         s->prev = PL_regmatch_slab;
2408         s->next = NULL;
2409         PL_regmatch_slab->next = s;
2410     }
2411     PL_regmatch_slab = s;
2412     return SLAB_FIRST(s);
2413 }
2414
2415
2416 /* push a new state then goto it */
2417
2418 #define PUSH_STATE_GOTO(state, node) \
2419     scan = node; \
2420     st->resume_state = state; \
2421     goto push_state;
2422
2423 /* push a new state with success backtracking, then goto it */
2424
2425 #define PUSH_YES_STATE_GOTO(state, node) \
2426     scan = node; \
2427     st->resume_state = state; \
2428     goto push_yes_state;
2429
2430
2431
2432 /*
2433
2434 regmatch() - main matching routine
2435
2436 This is basically one big switch statement in a loop. We execute an op,
2437 set 'next' to point the next op, and continue. If we come to a point which
2438 we may need to backtrack to on failure such as (A|B|C), we push a
2439 backtrack state onto the backtrack stack. On failure, we pop the top
2440 state, and re-enter the loop at the state indicated. If there are no more
2441 states to pop, we return failure.
2442
2443 Sometimes we also need to backtrack on success; for example /A+/, where
2444 after successfully matching one A, we need to go back and try to
2445 match another one; similarly for lookahead assertions: if the assertion
2446 completes successfully, we backtrack to the state just before the assertion
2447 and then carry on.  In these cases, the pushed state is marked as
2448 'backtrack on success too'. This marking is in fact done by a chain of
2449 pointers, each pointing to the previous 'yes' state. On success, we pop to
2450 the nearest yes state, discarding any intermediate failure-only states.
2451 Sometimes a yes state is pushed just to force some cleanup code to be
2452 called at the end of a successful match or submatch; e.g. (??{$re}) uses
2453 it to free the inner regex.
2454
2455 Note that failure backtracking rewinds the cursor position, while
2456 success backtracking leaves it alone.
2457
2458 A pattern is complete when the END op is executed, while a subpattern
2459 such as (?=foo) is complete when the SUCCESS op is executed. Both of these
2460 ops trigger the "pop to last yes state if any, otherwise return true"
2461 behaviour.
2462
2463 A common convention in this function is to use A and B to refer to the two
2464 subpatterns (or to the first nodes thereof) in patterns like /A*B/: so A is
2465 the subpattern to be matched possibly multiple times, while B is the entire
2466 rest of the pattern. Variable and state names reflect this convention.
2467
2468 The states in the main switch are the union of ops and failure/success of
2469 substates associated with with that op.  For example, IFMATCH is the op
2470 that does lookahead assertions /(?=A)B/ and so the IFMATCH state means
2471 'execute IFMATCH'; while IFMATCH_A is a state saying that we have just
2472 successfully matched A and IFMATCH_A_fail is a state saying that we have
2473 just failed to match A. Resume states always come in pairs. The backtrack
2474 state we push is marked as 'IFMATCH_A', but when that is popped, we resume
2475 at IFMATCH_A or IFMATCH_A_fail, depending on whether we are backtracking
2476 on success or failure.
2477
2478 The struct that holds a backtracking state is actually a big union, with
2479 one variant for each major type of op. The variable st points to the
2480 top-most backtrack struct. To make the code clearer, within each
2481 block of code we #define ST to alias the relevant union.
2482
2483 Here's a concrete example of a (vastly oversimplified) IFMATCH
2484 implementation:
2485
2486     switch (state) {
2487     ....
2488
2489 #define ST st->u.ifmatch
2490
2491     case IFMATCH: // we are executing the IFMATCH op, (?=A)B
2492         ST.foo = ...; // some state we wish to save
2493         ...
2494         // push a yes backtrack state with a resume value of
2495         // IFMATCH_A/IFMATCH_A_fail, then continue execution at the
2496         // first node of A:
2497         PUSH_YES_STATE_GOTO(IFMATCH_A, A);
2498         // NOTREACHED
2499
2500     case IFMATCH_A: // we have successfully executed A; now continue with B
2501         next = B;
2502         bar = ST.foo; // do something with the preserved value
2503         break;
2504
2505     case IFMATCH_A_fail: // A failed, so the assertion failed
2506         ...;   // do some housekeeping, then ...
2507         sayNO; // propagate the failure
2508
2509 #undef ST
2510
2511     ...
2512     }
2513
2514 For any old-timers reading this who are familiar with the old recursive
2515 approach, the code above is equivalent to:
2516
2517     case IFMATCH: // we are executing the IFMATCH op, (?=A)B
2518     {
2519         int foo = ...
2520         ...
2521         if (regmatch(A)) {
2522             next = B;
2523             bar = foo;
2524             break;
2525         }
2526         ...;   // do some housekeeping, then ...
2527         sayNO; // propagate the failure
2528     }
2529
2530 The topmost backtrack state, pointed to by st, is usually free. If you
2531 want to claim it, populate any ST.foo fields in it with values you wish to
2532 save, then do one of
2533
2534         PUSH_STATE_GOTO(resume_state, node);
2535         PUSH_YES_STATE_GOTO(resume_state, node);
2536
2537 which sets that backtrack state's resume value to 'resume_state', pushes a
2538 new free entry to the top of the backtrack stack, then goes to 'node'.
2539 On backtracking, the free slot is popped, and the saved state becomes the
2540 new free state. An ST.foo field in this new top state can be temporarily
2541 accessed to retrieve values, but once the main loop is re-entered, it
2542 becomes available for reuse.
2543
2544 Note that the depth of the backtrack stack constantly increases during the
2545 left-to-right execution of the pattern, rather than going up and down with
2546 the pattern nesting. For example the stack is at its maximum at Z at the
2547 end of the pattern, rather than at X in the following:
2548
2549     /(((X)+)+)+....(Y)+....Z/
2550
2551 The only exceptions to this are lookahead/behind assertions and the cut,
2552 (?>A), which pop all the backtrack states associated with A before
2553 continuing.
2554  
2555 Bascktrack state structs are allocated in slabs of about 4K in size.
2556 PL_regmatch_state and st always point to the currently active state,
2557 and PL_regmatch_slab points to the slab currently containing
2558 PL_regmatch_state.  The first time regmatch() is called, the first slab is
2559 allocated, and is never freed until interpreter destruction. When the slab
2560 is full, a new one is allocated and chained to the end. At exit from
2561 regmatch(), slabs allocated since entry are freed.
2562
2563 */
2564  
2565
2566 #define DEBUG_STATE_pp(pp)                                  \
2567     DEBUG_STATE_r({                                         \
2568         DUMP_EXEC_POS(locinput, scan, do_utf8);             \
2569         PerlIO_printf(Perl_debug_log,                       \
2570             "    %*s"pp" %s%s%s%s%s\n",                     \
2571             depth*2, "",                                    \
2572             PL_reg_name[st->resume_state],                     \
2573             ((st==yes_state||st==mark_state) ? "[" : ""),   \
2574             ((st==yes_state) ? "Y" : ""),                   \
2575             ((st==mark_state) ? "M" : ""),                  \
2576             ((st==yes_state||st==mark_state) ? "]" : "")    \
2577         );                                                  \
2578     });
2579
2580
2581 #define REG_NODE_NUM(x) ((x) ? (int)((x)-prog) : -1)
2582
2583 #ifdef DEBUGGING
2584
2585 STATIC void
2586 S_debug_start_match(pTHX_ const REGEXP *prog, const bool do_utf8, 
2587     const char *start, const char *end, const char *blurb)
2588 {
2589     const bool utf8_pat = RX_UTF8(prog) ? 1 : 0;
2590
2591     PERL_ARGS_ASSERT_DEBUG_START_MATCH;
2592
2593     if (!PL_colorset)   
2594             reginitcolors();    
2595     {
2596         RE_PV_QUOTED_DECL(s0, utf8_pat, PERL_DEBUG_PAD_ZERO(0), 
2597             RX_PRECOMP_const(prog), RX_PRELEN(prog), 60);   
2598         
2599         RE_PV_QUOTED_DECL(s1, do_utf8, PERL_DEBUG_PAD_ZERO(1), 
2600             start, end - start, 60); 
2601         
2602         PerlIO_printf(Perl_debug_log, 
2603             "%s%s REx%s %s against %s\n", 
2604                        PL_colors[4], blurb, PL_colors[5], s0, s1); 
2605         
2606         if (do_utf8||utf8_pat) 
2607             PerlIO_printf(Perl_debug_log, "UTF-8 %s%s%s...\n",
2608                 utf8_pat ? "pattern" : "",
2609                 utf8_pat && do_utf8 ? " and " : "",
2610                 do_utf8 ? "string" : ""
2611             ); 
2612     }
2613 }
2614
2615 STATIC void
2616 S_dump_exec_pos(pTHX_ const char *locinput, 
2617                       const regnode *scan, 
2618                       const char *loc_regeol, 
2619                       const char *loc_bostr, 
2620                       const char *loc_reg_starttry,
2621                       const bool do_utf8)
2622 {
2623     const int docolor = *PL_colors[0] || *PL_colors[2] || *PL_colors[4];
2624     const int taill = (docolor ? 10 : 7); /* 3 chars for "> <" */
2625     int l = (loc_regeol - locinput) > taill ? taill : (loc_regeol - locinput);
2626     /* The part of the string before starttry has one color
2627        (pref0_len chars), between starttry and current
2628        position another one (pref_len - pref0_len chars),
2629        after the current position the third one.
2630        We assume that pref0_len <= pref_len, otherwise we
2631        decrease pref0_len.  */
2632     int pref_len = (locinput - loc_bostr) > (5 + taill) - l
2633         ? (5 + taill) - l : locinput - loc_bostr;
2634     int pref0_len;
2635
2636     PERL_ARGS_ASSERT_DUMP_EXEC_POS;
2637
2638     while (do_utf8 && UTF8_IS_CONTINUATION(*(U8*)(locinput - pref_len)))
2639         pref_len++;
2640     pref0_len = pref_len  - (locinput - loc_reg_starttry);
2641     if (l + pref_len < (5 + taill) && l < loc_regeol - locinput)
2642         l = ( loc_regeol - locinput > (5 + taill) - pref_len
2643               ? (5 + taill) - pref_len : loc_regeol - locinput);
2644     while (do_utf8 && UTF8_IS_CONTINUATION(*(U8*)(locinput + l)))
2645         l--;
2646     if (pref0_len < 0)
2647         pref0_len = 0;
2648     if (pref0_len > pref_len)
2649         pref0_len = pref_len;
2650     {
2651         const int is_uni = (do_utf8 && OP(scan) != CANY) ? 1 : 0;
2652
2653         RE_PV_COLOR_DECL(s0,len0,is_uni,PERL_DEBUG_PAD(0),
2654             (locinput - pref_len),pref0_len, 60, 4, 5);
2655         
2656         RE_PV_COLOR_DECL(s1,len1,is_uni,PERL_DEBUG_PAD(1),
2657                     (locinput - pref_len + pref0_len),
2658                     pref_len - pref0_len, 60, 2, 3);
2659         
2660         RE_PV_COLOR_DECL(s2,len2,is_uni,PERL_DEBUG_PAD(2),
2661                     locinput, loc_regeol - locinput, 10, 0, 1);
2662
2663         const STRLEN tlen=len0+len1+len2;
2664         PerlIO_printf(Perl_debug_log,
2665                     "%4"IVdf" <%.*s%.*s%s%.*s>%*s|",
2666                     (IV)(locinput - loc_bostr),
2667                     len0, s0,
2668                     len1, s1,
2669                     (docolor ? "" : "> <"),
2670                     len2, s2,
2671                     (int)(tlen > 19 ? 0 :  19 - tlen),
2672                     "");
2673     }
2674 }
2675
2676 #endif
2677
2678 /* reg_check_named_buff_matched()
2679  * Checks to see if a named buffer has matched. The data array of 
2680  * buffer numbers corresponding to the buffer is expected to reside
2681  * in the regexp->data->data array in the slot stored in the ARG() of
2682  * node involved. Note that this routine doesn't actually care about the
2683  * name, that information is not preserved from compilation to execution.
2684  * Returns the index of the leftmost defined buffer with the given name
2685  * or 0 if non of the buffers matched.
2686  */
2687 STATIC I32
2688 S_reg_check_named_buff_matched(pTHX_ const regexp *rex, const regnode *scan)
2689 {
2690     I32 n;
2691     RXi_GET_DECL(rex,rexi);
2692     SV *sv_dat= MUTABLE_SV(rexi->data->data[ ARG( scan ) ]);
2693     I32 *nums=(I32*)SvPVX(sv_dat);
2694
2695     PERL_ARGS_ASSERT_REG_CHECK_NAMED_BUFF_MATCHED;
2696
2697     for ( n=0; n<SvIVX(sv_dat); n++ ) {
2698         if ((I32)*PL_reglastparen >= nums[n] &&
2699             PL_regoffs[nums[n]].end != -1)
2700         {
2701             return nums[n];
2702         }
2703     }
2704     return 0;
2705 }
2706
2707
2708 /* free all slabs above current one  - called during LEAVE_SCOPE */
2709
2710 STATIC void
2711 S_clear_backtrack_stack(pTHX_ void *p)
2712 {
2713     regmatch_slab *s = PL_regmatch_slab->next;
2714     PERL_UNUSED_ARG(p);
2715
2716     if (!s)
2717         return;
2718     PL_regmatch_slab->next = NULL;
2719     while (s) {
2720         regmatch_slab * const osl = s;
2721         s = s->next;
2722         Safefree(osl);
2723     }
2724 }
2725
2726
2727 #define SETREX(Re1,Re2) \
2728     if (PL_reg_eval_set) PM_SETRE((PL_reg_curpm), (Re2)); \
2729     Re1 = (Re2)
2730
2731 STATIC I32                      /* 0 failure, 1 success */
2732 S_regmatch(pTHX_ regmatch_info *reginfo, regnode *prog)
2733 {
2734 #if PERL_VERSION < 9 && !defined(PERL_CORE)
2735     dMY_CXT;
2736 #endif
2737     dVAR;
2738     register const bool do_utf8 = PL_reg_match_utf8;
2739     const U32 uniflags = UTF8_ALLOW_DEFAULT;
2740     REGEXP *rex_sv = reginfo->prog;
2741     regexp *rex = (struct regexp *)SvANY(rex_sv);
2742     RXi_GET_DECL(rex,rexi);
2743     I32 oldsave;
2744     /* the current state. This is a cached copy of PL_regmatch_state */
2745     register regmatch_state *st;
2746     /* cache heavy used fields of st in registers */
2747     register regnode *scan;
2748     register regnode *next;
2749     register U32 n = 0; /* general value; init to avoid compiler warning */
2750     register I32 ln = 0; /* len or last;  init to avoid compiler warning */
2751     register char *locinput = PL_reginput;
2752     register I32 nextchr;   /* is always set to UCHARAT(locinput) */
2753
2754     bool result = 0;        /* return value of S_regmatch */
2755     int depth = 0;          /* depth of backtrack stack */
2756     U32 nochange_depth = 0; /* depth of GOSUB recursion with nochange */
2757     const U32 max_nochange_depth =
2758         (3 * rex->nparens > MAX_RECURSE_EVAL_NOCHANGE_DEPTH) ?
2759         3 * rex->nparens : MAX_RECURSE_EVAL_NOCHANGE_DEPTH;
2760     regmatch_state *yes_state = NULL; /* state to pop to on success of
2761                                                             subpattern */
2762     /* mark_state piggy backs on the yes_state logic so that when we unwind 
2763        the stack on success we can update the mark_state as we go */
2764     regmatch_state *mark_state = NULL; /* last mark state we have seen */
2765     regmatch_state *cur_eval = NULL; /* most recent EVAL_AB state */
2766     struct regmatch_state  *cur_curlyx = NULL; /* most recent curlyx */
2767     U32 state_num;
2768     bool no_final = 0;      /* prevent failure from backtracking? */
2769     bool do_cutgroup = 0;   /* no_final only until next branch/trie entry */
2770     char *startpoint = PL_reginput;
2771     SV *popmark = NULL;     /* are we looking for a mark? */
2772     SV *sv_commit = NULL;   /* last mark name seen in failure */
2773     SV *sv_yes_mark = NULL; /* last mark name we have seen 
2774                                during a successfull match */
2775     U32 lastopen = 0;       /* last open we saw */
2776     bool has_cutgroup = RX_HAS_CUTGROUP(rex) ? 1 : 0;   
2777     SV* const oreplsv = GvSV(PL_replgv);
2778     /* these three flags are set by various ops to signal information to
2779      * the very next op. They have a useful lifetime of exactly one loop
2780      * iteration, and are not preserved or restored by state pushes/pops
2781      */
2782     bool sw = 0;            /* the condition value in (?(cond)a|b) */
2783     bool minmod = 0;        /* the next "{n,m}" is a "{n,m}?" */
2784     int logical = 0;        /* the following EVAL is:
2785                                 0: (?{...})
2786                                 1: (?(?{...})X|Y)
2787                                 2: (??{...})
2788                                or the following IFMATCH/UNLESSM is:
2789                                 false: plain (?=foo)
2790                                 true:  used as a condition: (?(?=foo))
2791                             */
2792 #ifdef DEBUGGING
2793     GET_RE_DEBUG_FLAGS_DECL;
2794 #endif
2795
2796     PERL_ARGS_ASSERT_REGMATCH;
2797
2798     DEBUG_OPTIMISE_r( DEBUG_EXECUTE_r({
2799             PerlIO_printf(Perl_debug_log,"regmatch start\n");
2800     }));
2801     /* on first ever call to regmatch, allocate first slab */
2802     if (!PL_regmatch_slab) {
2803         Newx(PL_regmatch_slab, 1, regmatch_slab);
2804         PL_regmatch_slab->prev = NULL;
2805         PL_regmatch_slab->next = NULL;
2806         PL_regmatch_state = SLAB_FIRST(PL_regmatch_slab);
2807     }
2808
2809     oldsave = PL_savestack_ix;
2810     SAVEDESTRUCTOR_X(S_clear_backtrack_stack, NULL);
2811     SAVEVPTR(PL_regmatch_slab);
2812     SAVEVPTR(PL_regmatch_state);
2813
2814     /* grab next free state slot */
2815     st = ++PL_regmatch_state;
2816     if (st >  SLAB_LAST(PL_regmatch_slab))
2817         st = PL_regmatch_state = S_push_slab(aTHX);
2818
2819     /* Note that nextchr is a byte even in UTF */
2820     nextchr = UCHARAT(locinput);
2821     scan = prog;
2822     while (scan != NULL) {
2823
2824         DEBUG_EXECUTE_r( {
2825             SV * const prop = sv_newmortal();
2826             regnode *rnext=regnext(scan);
2827             DUMP_EXEC_POS( locinput, scan, do_utf8 );
2828             regprop(rex, prop, scan);
2829             
2830             PerlIO_printf(Perl_debug_log,
2831                     "%3"IVdf":%*s%s(%"IVdf")\n",
2832                     (IV)(scan - rexi->program), depth*2, "",
2833                     SvPVX_const(prop),
2834                     (PL_regkind[OP(scan)] == END || !rnext) ? 
2835                         0 : (IV)(rnext - rexi->program));
2836         });
2837
2838         next = scan + NEXT_OFF(scan);
2839         if (next == scan)
2840             next = NULL;
2841         state_num = OP(scan);
2842
2843       reenter_switch:
2844         switch (state_num) {
2845         case BOL:
2846             if (locinput == PL_bostr)
2847             {
2848                 /* reginfo->till = reginfo->bol; */
2849                 break;
2850             }
2851             sayNO;
2852         case MBOL:
2853             if (locinput == PL_bostr ||
2854                 ((nextchr || locinput < PL_regeol) && locinput[-1] == '\n'))
2855             {
2856                 break;
2857             }
2858             sayNO;
2859         case SBOL:
2860             if (locinput == PL_bostr)
2861                 break;
2862             sayNO;
2863         case GPOS:
2864             if (locinput == reginfo->ganch)
2865                 break;
2866             sayNO;
2867
2868         case KEEPS:
2869             /* update the startpoint */
2870             st->u.keeper.val = PL_regoffs[0].start;
2871             PL_reginput = locinput;
2872             PL_regoffs[0].start = locinput - PL_bostr;
2873             PUSH_STATE_GOTO(KEEPS_next, next);
2874             /*NOT-REACHED*/
2875         case KEEPS_next_fail:
2876             /* rollback the start point change */
2877             PL_regoffs[0].start = st->u.keeper.val;
2878             sayNO_SILENT;
2879             /*NOT-REACHED*/
2880         case EOL:
2881                 goto seol;
2882         case MEOL:
2883             if ((nextchr || locinput < PL_regeol) && nextchr != '\n')
2884                 sayNO;
2885             break;
2886         case SEOL:
2887           seol:
2888             if ((nextchr || locinput < PL_regeol) && nextchr != '\n')
2889                 sayNO;
2890             if (PL_regeol - locinput > 1)
2891                 sayNO;
2892             break;
2893         case EOS:
2894             if (PL_regeol != locinput)
2895                 sayNO;
2896             break;
2897         case SANY:
2898             if (!nextchr && locinput >= PL_regeol)
2899                 sayNO;
2900             if (do_utf8) {
2901                 locinput += PL_utf8skip[nextchr];
2902                 if (locinput > PL_regeol)
2903                     sayNO;
2904                 nextchr = UCHARAT(locinput);
2905             }
2906             else
2907                 nextchr = UCHARAT(++locinput);
2908             break;
2909         case CANY:
2910             if (!nextchr && locinput >= PL_regeol)
2911                 sayNO;
2912             nextchr = UCHARAT(++locinput);
2913             break;
2914         case REG_ANY:
2915             if ((!nextchr && locinput >= PL_regeol) || nextchr == '\n')
2916                 sayNO;
2917             if (do_utf8) {
2918                 locinput += PL_utf8skip[nextchr];
2919                 if (locinput > PL_regeol)
2920                     sayNO;
2921                 nextchr = UCHARAT(locinput);
2922             }
2923             else
2924                 nextchr = UCHARAT(++locinput);
2925             break;
2926
2927 #undef  ST
2928 #define ST st->u.trie
2929         case TRIEC:
2930             /* In this case the charclass data is available inline so
2931                we can fail fast without a lot of extra overhead. 
2932              */
2933             if (scan->flags == EXACT || !do_utf8) {
2934                 if(!ANYOF_BITMAP_TEST(scan, *locinput)) {
2935                     DEBUG_EXECUTE_r(
2936                         PerlIO_printf(Perl_debug_log,
2937                                   "%*s  %sfailed to match trie start class...%s\n",
2938                                   REPORT_CODE_OFF+depth*2, "", PL_colors[4], PL_colors[5])
2939                     );
2940                     sayNO_SILENT;
2941                     /* NOTREACHED */
2942                 }                       
2943             }
2944             /* FALL THROUGH */
2945         case TRIE:
2946             {
2947                 /* what type of TRIE am I? (utf8 makes this contextual) */
2948                 DECL_TRIE_TYPE(scan);
2949
2950                 /* what trie are we using right now */
2951                 reg_trie_data * const trie
2952                     = (reg_trie_data*)rexi->data->data[ ARG( scan ) ];
2953                 HV * widecharmap = MUTABLE_HV(rexi->data->data[ ARG( scan ) + 1 ]);
2954                 U32 state = trie->startstate;
2955
2956                 if (trie->bitmap && trie_type != trie_utf8_fold &&
2957                     !TRIE_BITMAP_TEST(trie,*locinput)
2958                 ) {
2959                     if (trie->states[ state ].wordnum) {
2960                          DEBUG_EXECUTE_r(
2961                             PerlIO_printf(Perl_debug_log,
2962                                           "%*s  %smatched empty string...%s\n",
2963                                           REPORT_CODE_OFF+depth*2, "", PL_colors[4], PL_colors[5])
2964                         );
2965                         break;
2966                     } else {
2967                         DEBUG_EXECUTE_r(
2968                             PerlIO_printf(Perl_debug_log,
2969                                           "%*s  %sfailed to match trie start class...%s\n",
2970                                           REPORT_CODE_OFF+depth*2, "", PL_colors[4], PL_colors[5])
2971                         );
2972                         sayNO_SILENT;
2973                    }
2974                 }
2975
2976             { 
2977                 U8 *uc = ( U8* )locinput;
2978
2979                 STRLEN len = 0;
2980                 STRLEN foldlen = 0;
2981                 U8 *uscan = (U8*)NULL;
2982                 STRLEN bufflen=0;
2983                 SV *sv_accept_buff = NULL;
2984                 U8 foldbuf[ UTF8_MAXBYTES_CASE + 1 ];
2985
2986                 ST.accepted = 0; /* how many accepting states we have seen */
2987                 ST.B = next;
2988                 ST.jump = trie->jump;
2989                 ST.me = scan;
2990                 /*
2991                    traverse the TRIE keeping track of all accepting states
2992                    we transition through until we get to a failing node.
2993                 */
2994
2995                 while ( state && uc <= (U8*)PL_regeol ) {
2996                     U32 base = trie->states[ state ].trans.base;
2997                     UV uvc = 0;
2998                     U16 charid;
2999                     /* We use charid to hold the wordnum as we don't use it
3000                        for charid until after we have done the wordnum logic. 
3001                        We define an alias just so that the wordnum logic reads
3002                        more naturally. */
3003
3004 #define got_wordnum charid
3005                     got_wordnum = trie->states[ state ].wordnum;
3006
3007                     if ( got_wordnum ) {
3008                         if ( ! ST.accepted ) {
3009                             ENTER;
3010                             SAVETMPS; /* XXX is this necessary? dmq */
3011                             bufflen = TRIE_INITAL_ACCEPT_BUFFLEN;
3012                             sv_accept_buff=newSV(bufflen *
3013                                             sizeof(reg_trie_accepted) - 1);
3014                             SvCUR_set(sv_accept_buff, 0);
3015                             SvPOK_on(sv_accept_buff);
3016                             sv_2mortal(sv_accept_buff);
3017                             SAVETMPS;
3018                             ST.accept_buff =
3019                                 (reg_trie_accepted*)SvPV_nolen(sv_accept_buff );
3020                         }
3021                         do {
3022                             if (ST.accepted >= bufflen) {
3023                                 bufflen *= 2;
3024                                 ST.accept_buff =(reg_trie_accepted*)
3025                                     SvGROW(sv_accept_buff,
3026                                         bufflen * sizeof(reg_trie_accepted));
3027                             }
3028                             SvCUR_set(sv_accept_buff,SvCUR(sv_accept_buff)
3029                                 + sizeof(reg_trie_accepted));
3030
3031
3032                             ST.accept_buff[ST.accepted].wordnum = got_wordnum;
3033                             ST.accept_buff[ST.accepted].endpos = uc;
3034                             ++ST.accepted;
3035                         } while (trie->nextword && (got_wordnum= trie->nextword[got_wordnum]));
3036                     }
3037 #undef got_wordnum 
3038
3039                     DEBUG_TRIE_EXECUTE_r({
3040                                 DUMP_EXEC_POS( (char *)uc, scan, do_utf8 );
3041                                 PerlIO_printf( Perl_debug_log,
3042                                     "%*s  %sState: %4"UVxf" Accepted: %4"UVxf" ",
3043                                     2+depth * 2, "", PL_colors[4],
3044                                     (UV)state, (UV)ST.accepted );
3045                     });
3046
3047                     if ( base ) {
3048                         REXEC_TRIE_READ_CHAR(trie_type, trie, widecharmap, uc,
3049                                              uscan, len, uvc, charid, foldlen,
3050                                              foldbuf, uniflags);
3051
3052                         if (charid &&
3053                              (base + charid > trie->uniquecharcount )
3054                              && (base + charid - 1 - trie->uniquecharcount
3055                                     < trie->lasttrans)
3056                              && trie->trans[base + charid - 1 -
3057                                     trie->uniquecharcount].check == state)
3058                         {
3059                             state = trie->trans[base + charid - 1 -
3060                                 trie->uniquecharcount ].next;
3061                         }
3062                         else {
3063                             state = 0;
3064                         }
3065                         uc += len;
3066
3067                     }
3068                     else {
3069                         state = 0;
3070                     }
3071                     DEBUG_TRIE_EXECUTE_r(
3072                         PerlIO_printf( Perl_debug_log,
3073                             "Charid:%3x CP:%4"UVxf" After State: %4"UVxf"%s\n",
3074                             charid, uvc, (UV)state, PL_colors[5] );
3075                     );
3076                 }
3077                 if (!ST.accepted )
3078                    sayNO;
3079
3080                 DEBUG_EXECUTE_r(
3081                     PerlIO_printf( Perl_debug_log,
3082                         "%*s  %sgot %"IVdf" possible matches%s\n",
3083                         REPORT_CODE_OFF + depth * 2, "",
3084                         PL_colors[4], (IV)ST.accepted, PL_colors[5] );
3085                 );
3086             }}
3087             goto trie_first_try; /* jump into the fail handler */
3088             /* NOTREACHED */
3089         case TRIE_next_fail: /* we failed - try next alterative */
3090             if ( ST.jump) {
3091                 REGCP_UNWIND(ST.cp);
3092                 for (n = *PL_reglastparen; n > ST.lastparen; n--)
3093                     PL_regoffs[n].end = -1;
3094                 *PL_reglastparen = n;
3095             }
3096           trie_first_try:
3097             if (do_cutgroup) {
3098                 do_cutgroup = 0;
3099                 no_final = 0;
3100             }
3101
3102             if ( ST.jump) {
3103                 ST.lastparen = *PL_reglastparen;
3104                 REGCP_SET(ST.cp);
3105             }           
3106             if ( ST.accepted == 1 ) {
3107                 /* only one choice left - just continue */
3108                 DEBUG_EXECUTE_r({
3109                     AV *const trie_words
3110                         = MUTABLE_AV(rexi->data->data[ARG(ST.me)+TRIE_WORDS_OFFSET]);
3111                     SV ** const tmp = av_fetch( trie_words, 
3112                         ST.accept_buff[ 0 ].wordnum-1, 0 );
3113                     SV *sv= tmp ? sv_newmortal() : NULL;
3114                     
3115                     PerlIO_printf( Perl_debug_log,
3116                         "%*s  %sonly one match left: #%d <%s>%s\n",
3117                         REPORT_CODE_OFF+depth*2, "", PL_colors[4],
3118                         ST.accept_buff[ 0 ].wordnum,
3119                         tmp ? pv_pretty(sv, SvPV_nolen_const(*tmp), SvCUR(*tmp), 0, 
3120                                 PL_colors[0], PL_colors[1],
3121                                 (SvUTF8(*tmp) ? PERL_PV_ESCAPE_UNI : 0)
3122                             ) 
3123                         : "not compiled under -Dr",
3124                         PL_colors[5] );
3125                 });
3126                 PL_reginput = (char *)ST.accept_buff[ 0 ].endpos;
3127                 /* in this case we free tmps/leave before we call regmatch
3128                    as we wont be using accept_buff again. */
3129                 
3130                 locinput = PL_reginput;
3131                 nextchr = UCHARAT(locinput);
3132                 if ( !ST.jump || !ST.jump[ST.accept_buff[0].wordnum]) 
3133                     scan = ST.B;
3134                 else
3135                     scan = ST.me + ST.jump[ST.accept_buff[0].wordnum];
3136                 if (!has_cutgroup) {
3137                     FREETMPS;
3138                     LEAVE;
3139                 } else {
3140                     ST.accepted--;
3141                     PUSH_YES_STATE_GOTO(TRIE_next, scan);
3142                 }
3143                 
3144                 continue; /* execute rest of RE */
3145             }
3146             
3147             if ( !ST.accepted-- ) {
3148                 DEBUG_EXECUTE_r({
3149                     PerlIO_printf( Perl_debug_log,
3150                         "%*s  %sTRIE failed...%s\n",
3151                         REPORT_CODE_OFF+depth*2, "", 
3152                         PL_colors[4],
3153                         PL_colors[5] );
3154                 });
3155                 FREETMPS;
3156                 LEAVE;
3157                 sayNO_SILENT;
3158                 /*NOTREACHED*/
3159             } 
3160
3161             /*
3162                There are at least two accepting states left.  Presumably
3163                the number of accepting states is going to be low,
3164                typically two. So we simply scan through to find the one
3165                with lowest wordnum.  Once we find it, we swap the last
3166                state into its place and decrement the size. We then try to
3167                match the rest of the pattern at the point where the word
3168                ends. If we succeed, control just continues along the
3169                regex; if we fail we return here to try the next accepting
3170                state
3171              */
3172
3173             {
3174                 U32 best = 0;
3175                 U32 cur;
3176                 for( cur = 1 ; cur <= ST.accepted ; cur++ ) {
3177                     DEBUG_TRIE_EXECUTE_r(
3178                         PerlIO_printf( Perl_debug_log,
3179                             "%*s  %sgot %"IVdf" (%d) as best, looking at %"IVdf" (%d)%s\n",
3180                             REPORT_CODE_OFF + depth * 2, "", PL_colors[4],
3181                             (IV)best, ST.accept_buff[ best ].wordnum, (IV)cur,
3182                             ST.accept_buff[ cur ].wordnum, PL_colors[5] );
3183                     );
3184
3185                     if (ST.accept_buff[cur].wordnum <
3186                             ST.accept_buff[best].wordnum)
3187                         best = cur;
3188                 }
3189
3190                 DEBUG_EXECUTE_r({
3191                     AV *const trie_words
3192                         = MUTABLE_AV(rexi->data->data[ARG(ST.me)+TRIE_WORDS_OFFSET]);
3193                     SV ** const tmp = av_fetch( trie_words, 
3194                         ST.accept_buff[ best ].wordnum - 1, 0 );
3195                     regnode *nextop=(!ST.jump || !ST.jump[ST.accept_buff[best].wordnum]) ? 
3196                                     ST.B : 
3197                                     ST.me + ST.jump[ST.accept_buff[best].wordnum];    
3198                     SV *sv= tmp ? sv_newmortal() : NULL;
3199                     
3200                     PerlIO_printf( Perl_debug_log, 
3201                         "%*s  %strying alternation #%d <%s> at node #%d %s\n",
3202                         REPORT_CODE_OFF+depth*2, "", PL_colors[4],
3203                         ST.accept_buff[best].wordnum,
3204                         tmp ? pv_pretty(sv, SvPV_nolen_const(*tmp), SvCUR(*tmp), 0, 
3205                                 PL_colors[0], PL_colors[1],
3206                                 (SvUTF8(*tmp) ? PERL_PV_ESCAPE_UNI : 0)
3207                             ) : "not compiled under -Dr", 
3208                             REG_NODE_NUM(nextop),
3209                         PL_colors[5] );
3210                 });
3211
3212                 if ( best<ST.accepted ) {
3213                     reg_trie_accepted tmp = ST.accept_buff[ best ];
3214                     ST.accept_buff[ best ] = ST.accept_buff[ ST.accepted ];
3215                     ST.accept_buff[ ST.accepted ] = tmp;
3216                     best = ST.accepted;
3217                 }
3218                 PL_reginput = (char *)ST.accept_buff[ best ].endpos;
3219                 if ( !ST.jump || !ST.jump[ST.accept_buff[best].wordnum]) {
3220                     scan = ST.B;
3221                 } else {
3222                     scan = ST.me + ST.jump[ST.accept_buff[best].wordnum];
3223                 }
3224                 PUSH_YES_STATE_GOTO(TRIE_next, scan);    
3225                 /* NOTREACHED */
3226             }
3227             /* NOTREACHED */
3228         case TRIE_next:
3229             /* we dont want to throw this away, see bug 57042*/
3230             if (oreplsv != GvSV(PL_replgv))
3231                 sv_setsv(oreplsv, GvSV(PL_replgv));
3232             FREETMPS;
3233             LEAVE;
3234             sayYES;
3235 #undef  ST
3236
3237         case EXACT: {
3238             char *s = STRING(scan);
3239             ln = STR_LEN(scan);
3240             if (do_utf8 != UTF) {
3241                 /* The target and the pattern have differing utf8ness. */
3242                 char *l = locinput;
3243                 const char * const e = s + ln;
3244
3245                 if (do_utf8) {
3246                     /* The target is utf8, the pattern is not utf8. */
3247                     while (s < e) {
3248                         STRLEN ulen;
3249                         if (l >= PL_regeol)
3250                              sayNO;
3251                         if (NATIVE_TO_UNI(*(U8*)s) !=
3252                             utf8n_to_uvuni((U8*)l, UTF8_MAXBYTES, &ulen,
3253                                             uniflags))
3254                              sayNO;
3255                         l += ulen;
3256                         s ++;
3257                     }
3258                 }
3259                 else {
3260                     /* The target is not utf8, the pattern is utf8. */
3261                     while (s < e) {
3262                         STRLEN ulen;
3263                         if (l >= PL_regeol)
3264                             sayNO;
3265                         if (NATIVE_TO_UNI(*((U8*)l)) !=
3266                             utf8n_to_uvuni((U8*)s, UTF8_MAXBYTES, &ulen,
3267                                            uniflags))
3268                             sayNO;
3269                         s += ulen;
3270                         l ++;
3271                     }
3272                 }
3273                 locinput = l;
3274                 nextchr = UCHARAT(locinput);
3275                 break;
3276             }
3277             /* The target and the pattern have the same utf8ness. */
3278             /* Inline the first character, for speed. */
3279             if (UCHARAT(s) != nextchr)
3280                 sayNO;
3281             if (PL_regeol - locinput < ln)
3282                 sayNO;
3283             if (ln > 1 && memNE(s, locinput, ln))
3284                 sayNO;
3285             locinput += ln;
3286             nextchr = UCHARAT(locinput);
3287             break;
3288             }
3289         case EXACTFL:
3290             PL_reg_flags |= RF_tainted;
3291             /* FALL THROUGH */
3292         case EXACTF: {
3293             char * const s = STRING(scan);
3294             ln = STR_LEN(scan);
3295
3296             if (do_utf8 || UTF) {
3297               /* Either target or the pattern are utf8. */
3298                 const char * const l = locinput;
3299                 char *e = PL_regeol;
3300
3301                 if (ibcmp_utf8(s, 0,  ln, (bool)UTF,
3302                                l, &e, 0,  do_utf8)) {
3303                      /* One more case for the sharp s:
3304                       * pack("U0U*", 0xDF) =~ /ss/i,
3305                       * the 0xC3 0x9F are the UTF-8
3306                       * byte sequence for the U+00DF. */
3307
3308                      if (!(do_utf8 &&
3309                            toLOWER(s[0]) == 's' &&
3310                            ln >= 2 &&
3311                            toLOWER(s[1]) == 's' &&
3312                            (U8)l[0] == 0xC3 &&
3313                            e - l >= 2 &&
3314                            (U8)l[1] == 0x9F))
3315                           sayNO;
3316                 }
3317                 locinput = e;
3318                 nextchr = UCHARAT(locinput);
3319                 break;
3320             }
3321
3322             /* Neither the target and the pattern are utf8. */
3323
3324             /* Inline the first character, for speed. */
3325             if (UCHARAT(s) != nextchr &&
3326                 UCHARAT(s) != ((OP(scan) == EXACTF)
3327                                ? PL_fold : PL_fold_locale)[nextchr])
3328                 sayNO;
3329             if (PL_regeol - locinput < ln)
3330                 sayNO;
3331             if (ln > 1 && (OP(scan) == EXACTF
3332                            ? ibcmp(s, locinput, ln)
3333                            : ibcmp_locale(s, locinput, ln)))
3334                 sayNO;
3335             locinput += ln;
3336             nextchr = UCHARAT(locinput);
3337             break;
3338             }
3339         case ANYOF:
3340             if (do_utf8) {
3341                 STRLEN inclasslen = PL_regeol - locinput;
3342
3343                 if (!reginclass(rex, scan, (U8*)locinput, &inclasslen, do_utf8))
3344                     goto anyof_fail;
3345                 if (locinput >= PL_regeol)
3346                     sayNO;
3347                 locinput += inclasslen ? inclasslen : UTF8SKIP(locinput);
3348                 nextchr = UCHARAT(locinput);
3349                 break;
3350             }
3351             else {
3352                 if (nextchr < 0)
3353                     nextchr = UCHARAT(locinput);
3354                 if (!REGINCLASS(rex, scan, (U8*)locinput))
3355                     goto anyof_fail;
3356                 if (!nextchr && locinput >= PL_regeol)
3357                     sayNO;
3358                 nextchr = UCHARAT(++locinput);
3359                 break;
3360             }
3361         anyof_fail:
3362             /* If we might have the case of the German sharp s
3363              * in a casefolding Unicode character class. */
3364
3365             if (ANYOF_FOLD_SHARP_S(scan, locinput, PL_regeol)) {
3366                  locinput += SHARP_S_SKIP;
3367                  nextchr = UCHARAT(locinput);
3368             }
3369             else
3370                  sayNO;
3371             break;
3372         case ALNUML:
3373             PL_reg_flags |= RF_tainted;
3374             /* FALL THROUGH */
3375         case ALNUM:
3376             if (!nextchr)
3377                 sayNO;
3378             if (do_utf8) {
3379                 LOAD_UTF8_CHARCLASS_ALNUM();
3380                 if (!(OP(scan) == ALNUM
3381                       ? (bool)swash_fetch(PL_utf8_alnum, (U8*)locinput, do_utf8)
3382                       : isALNUM_LC_utf8((U8*)locinput)))
3383                 {
3384                     sayNO;
3385                 }
3386                 locinput += PL_utf8skip[nextchr];
3387                 nextchr = UCHARAT(locinput);
3388                 break;
3389             }
3390             if (!(OP(scan) == ALNUM
3391                   ? isALNUM(nextchr) : isALNUM_LC(nextchr)))
3392                 sayNO;
3393             nextchr = UCHARAT(++locinput);
3394             break;
3395         case NALNUML:
3396             PL_reg_flags |= RF_tainted;
3397             /* FALL THROUGH */
3398         case NALNUM:
3399             if (!nextchr && locinput >= PL_regeol)
3400                 sayNO;
3401             if (do_utf8) {
3402                 LOAD_UTF8_CHARCLASS_ALNUM();
3403                 if (OP(scan) == NALNUM
3404                     ? (bool)swash_fetch(PL_utf8_alnum, (U8*)locinput, do_utf8)
3405                     : isALNUM_LC_utf8((U8*)locinput))
3406                 {
3407                     sayNO;
3408                 }
3409                 locinput += PL_utf8skip[nextchr];
3410                 nextchr = UCHARAT(locinput);
3411                 break;
3412             }
3413             if (OP(scan) == NALNUM
3414                 ? isALNUM(nextchr) : isALNUM_LC(nextchr))
3415                 sayNO;
3416             nextchr = UCHARAT(++locinput);
3417             break;
3418         case BOUNDL:
3419         case NBOUNDL:
3420             PL_reg_flags |= RF_tainted;
3421             /* FALL THROUGH */
3422         case BOUND:
3423         case NBOUND:
3424             /* was last char in word? */
3425             if (do_utf8) {
3426                 if (locinput == PL_bostr)
3427                     ln = '\n';
3428                 else {
3429                     const U8 * const r = reghop3((U8*)locinput, -1, (U8*)PL_bostr);
3430                 
3431                     ln = utf8n_to_uvchr(r, UTF8SKIP(r), 0, uniflags);
3432                 }
3433                 if (OP(scan) == BOUND || OP(scan) == NBOUND) {
3434                     ln = isALNUM_uni(ln);
3435                     LOAD_UTF8_CHARCLASS_ALNUM();
3436                     n = swash_fetch(PL_utf8_alnum, (U8*)locinput, do_utf8);
3437                 }
3438                 else {
3439                     ln = isALNUM_LC_uvchr(UNI_TO_NATIVE(ln));
3440                     n = isALNUM_LC_utf8((U8*)locinput);
3441                 }
3442             }
3443             else {
3444                 ln = (locinput != PL_bostr) ?
3445                     UCHARAT(locinput - 1) : '\n';
3446                 if (OP(scan) == BOUND || OP(scan) == NBOUND) {
3447                     ln = isALNUM(ln);
3448                     n = isALNUM(nextchr);
3449                 }
3450                 else {
3451                     ln = isALNUM_LC(ln);
3452                     n = isALNUM_LC(nextchr);
3453                 }
3454             }
3455             if (((!ln) == (!n)) == (OP(scan) == BOUND ||
3456                                     OP(scan) == BOUNDL))
3457                     sayNO;
3458             break;
3459         case SPACEL:
3460             PL_reg_flags |= RF_tainted;
3461             /* FALL THROUGH */
3462         case SPACE:
3463             if (!nextchr)
3464                 sayNO;
3465             if (do_utf8) {
3466                 if (UTF8_IS_CONTINUED(nextchr)) {
3467                     LOAD_UTF8_CHARCLASS_SPACE();
3468                     if (!(OP(scan) == SPACE
3469                           ? (bool)swash_fetch(PL_utf8_space, (U8*)locinput, do_utf8)
3470                           : isSPACE_LC_utf8((U8*)locinput)))
3471                     {
3472                         sayNO;
3473                     }
3474                     locinput += PL_utf8skip[nextchr];
3475                     nextchr = UCHARAT(locinput);
3476                     break;
3477                 }
3478                 if (!(OP(scan) == SPACE
3479                       ? isSPACE(nextchr) : isSPACE_LC(nextchr)))
3480                     sayNO;
3481                 nextchr = UCHARAT(++locinput);
3482             }
3483             else {
3484                 if (!(OP(scan) == SPACE
3485                       ? isSPACE(nextchr) : isSPACE_LC(nextchr)))
3486                     sayNO;
3487                 nextchr = UCHARAT(++locinput);
3488             }
3489             break;
3490         case NSPACEL:
3491             PL_reg_flags |= RF_tainted;
3492             /* FALL THROUGH */
3493         case NSPACE:
3494             if (!nextchr && locinput >= PL_regeol)
3495                 sayNO;
3496             if (do_utf8) {
3497                 LOAD_UTF8_CHARCLASS_SPACE();
3498                 if (OP(scan) == NSPACE
3499                     ? (bool)swash_fetch(PL_utf8_space, (U8*)locinput, do_utf8)
3500                     : isSPACE_LC_utf8((U8*)locinput))
3501                 {
3502                     sayNO;
3503                 }
3504                 locinput += PL_utf8skip[nextchr];
3505                 nextchr = UCHARAT(locinput);
3506                 break;
3507             }
3508             if (OP(scan) == NSPACE
3509                 ? isSPACE(nextchr) : isSPACE_LC(nextchr))
3510                 sayNO;
3511             nextchr = UCHARAT(++locinput);
3512             break;
3513         case DIGITL:
3514             PL_reg_flags |= RF_tainted;
3515             /* FALL THROUGH */
3516         case DIGIT:
3517             if (!nextchr)
3518                 sayNO;
3519             if (do_utf8) {
3520                 LOAD_UTF8_CHARCLASS_DIGIT();
3521                 if (!(OP(scan) == DIGIT
3522                       ? (bool)swash_fetch(PL_utf8_digit, (U8*)locinput, do_utf8)
3523                       : isDIGIT_LC_utf8((U8*)locinput)))
3524                 {
3525                     sayNO;
3526                 }
3527                 locinput += PL_utf8skip[nextchr];
3528                 nextchr = UCHARAT(locinput);
3529                 break;
3530             }
3531             if (!(OP(scan) == DIGIT
3532                   ? isDIGIT(nextchr) : isDIGIT_LC(nextchr)))
3533                 sayNO;
3534             nextchr = UCHARAT(++locinput);
3535             break;
3536         case NDIGITL:
3537             PL_reg_flags |= RF_tainted;
3538             /* FALL THROUGH */
3539         case NDIGIT:
3540             if (!nextchr && locinput >= PL_regeol)
3541                 sayNO;
3542             if (do_utf8) {
3543                 LOAD_UTF8_CHARCLASS_DIGIT();
3544                 if (OP(scan) == NDIGIT
3545                     ? (bool)swash_fetch(PL_utf8_digit, (U8*)locinput, do_utf8)
3546                     : isDIGIT_LC_utf8((U8*)locinput))
3547                 {
3548                     sayNO;
3549                 }
3550                 locinput += PL_utf8skip[nextchr];
3551                 nextchr = UCHARAT(locinput);
3552                 break;
3553             }
3554             if (OP(scan) == NDIGIT
3555                 ? isDIGIT(nextchr) : isDIGIT_LC(nextchr))
3556                 sayNO;
3557             nextchr = UCHARAT(++locinput);
3558             break;
3559         case CLUMP:
3560             if (locinput >= PL_regeol)
3561                 sayNO;
3562             if  (do_utf8) {
3563                 LOAD_UTF8_CHARCLASS_MARK();
3564                 if (swash_fetch(PL_utf8_mark,(U8*)locinput, do_utf8))
3565                     sayNO;
3566                 locinput += PL_utf8skip[nextchr];
3567                 while (locinput < PL_regeol &&
3568                        swash_fetch(PL_utf8_mark,(U8*)locinput, do_utf8))
3569                     locinput += UTF8SKIP(locinput);
3570                 if (locinput > PL_regeol)
3571                     sayNO;
3572             } 
3573             else
3574                locinput++;
3575             nextchr = UCHARAT(locinput);
3576             break;
3577             
3578         case NREFFL:
3579         {
3580             char *s;
3581             char type;
3582             PL_reg_flags |= RF_tainted;
3583             /* FALL THROUGH */
3584         case NREF:
3585         case NREFF:
3586             type = OP(scan);
3587             n = reg_check_named_buff_matched(rex,scan);
3588
3589             if ( n ) {
3590                 type = REF + ( type - NREF );
3591                 goto do_ref;
3592             } else {
3593                 sayNO;
3594             }
3595             /* unreached */
3596         case REFFL:
3597             PL_reg_flags |= RF_tainted;
3598             /* FALL THROUGH */
3599         case REF:
3600         case REFF: 
3601             n = ARG(scan);  /* which paren pair */
3602             type = OP(scan);
3603           do_ref:  
3604             ln = PL_regoffs[n].start;
3605             PL_reg_leftiter = PL_reg_maxiter;           /* Void cache */
3606             if (*PL_reglastparen < n || ln == -1)
3607                 sayNO;                  /* Do not match unless seen CLOSEn. */
3608             if (ln == PL_regoffs[n].end)
3609                 break;
3610
3611             s = PL_bostr + ln;
3612             if (do_utf8 && type != REF) {       /* REF can do byte comparison */
3613                 char *l = locinput;
3614                 const char *e = PL_bostr + PL_regoffs[n].end;
3615                 /*
3616                  * Note that we can't do the "other character" lookup trick as
3617                  * in the 8-bit case (no pun intended) because in Unicode we
3618                  * have to map both upper and title case to lower case.
3619                  */
3620                 if (type == REFF) {
3621                     while (s < e) {
3622                         STRLEN ulen1, ulen2;
3623                         U8 tmpbuf1[UTF8_MAXBYTES_CASE+1];
3624                         U8 tmpbuf2[UTF8_MAXBYTES_CASE+1];
3625
3626                         if (l >= PL_regeol)
3627                             sayNO;
3628                         toLOWER_utf8((U8*)s, tmpbuf1, &ulen1);
3629                         toLOWER_utf8((U8*)l, tmpbuf2, &ulen2);
3630                         if (ulen1 != ulen2 || memNE((char *)tmpbuf1, (char *)tmpbuf2, ulen1))
3631                             sayNO;
3632                         s += ulen1;
3633                         l += ulen2;
3634                     }
3635                 }
3636                 locinput = l;
3637                 nextchr = UCHARAT(locinput);
3638                 break;
3639             }
3640
3641             /* Inline the first character, for speed. */
3642             if (UCHARAT(s) != nextchr &&
3643                 (type == REF ||
3644                  (UCHARAT(s) != (type == REFF
3645                                   ? PL_fold : PL_fold_locale)[nextchr])))
3646                 sayNO;
3647             ln = PL_regoffs[n].end - ln;
3648             if (locinput + ln > PL_regeol)
3649                 sayNO;
3650             if (ln > 1 && (type == REF
3651                            ? memNE(s, locinput, ln)
3652                            : (type == REFF
3653                               ? ibcmp(s, locinput, ln)
3654                               : ibcmp_locale(s, locinput, ln))))
3655                 sayNO;
3656             locinput += ln;
3657             nextchr = UCHARAT(locinput);
3658             break;
3659         }
3660         case NOTHING:
3661         case TAIL:
3662             break;
3663         case BACK:
3664             break;
3665
3666 #undef  ST
3667 #define ST st->u.eval
3668         {
3669             SV *ret;
3670             REGEXP *re_sv;
3671             regexp *re;
3672             regexp_internal *rei;
3673             regnode *startpoint;
3674
3675         case GOSTART:
3676         case GOSUB: /*    /(...(?1))/   /(...(?&foo))/   */
3677             if (cur_eval && cur_eval->locinput==locinput) {
3678                 if (cur_eval->u.eval.close_paren == (U32)ARG(scan)) 
3679                     Perl_croak(aTHX_ "Infinite recursion in regex");
3680                 if ( ++nochange_depth > max_nochange_depth )
3681                     Perl_croak(aTHX_ 
3682                         "Pattern subroutine nesting without pos change"
3683                         " exceeded limit in regex");
3684             } else {
3685                 nochange_depth = 0;
3686             }
3687             re_sv = rex_sv;
3688             re = rex;
3689             rei = rexi;
3690             (void)ReREFCNT_inc(rex_sv);
3691             if (OP(scan)==GOSUB) {
3692                 startpoint = scan + ARG2L(scan);
3693                 ST.close_paren = ARG(scan);
3694             } else {
3695                 startpoint = rei->program+1;
3696                 ST.close_paren = 0;
3697             }
3698             goto eval_recurse_doit;
3699             /* NOTREACHED */
3700         case EVAL:  /*   /(?{A})B/   /(??{A})B/  and /(?(?{A})X|Y)B/   */        
3701             if (cur_eval && cur_eval->locinput==locinput) {
3702                 if ( ++nochange_depth > max_nochange_depth )
3703                     Perl_croak(aTHX_ "EVAL without pos change exceeded limit in regex");
3704             } else {
3705                 nochange_depth = 0;
3706             }    
3707             {
3708                 /* execute the code in the {...} */
3709                 dSP;
3710                 SV ** const before = SP;
3711                 OP_4tree * const oop = PL_op;
3712                 COP * const ocurcop = PL_curcop;
3713                 PAD *old_comppad;
3714             
3715                 n = ARG(scan);
3716                 PL_op = (OP_4tree*)rexi->data->data[n];
3717                 DEBUG_STATE_r( PerlIO_printf(Perl_debug_log, 
3718                     "  re_eval 0x%"UVxf"\n", PTR2UV(PL_op)) );
3719                 PAD_SAVE_LOCAL(old_comppad, (PAD*)rexi->data->data[n + 2]);
3720                 PL_regoffs[0].end = PL_reg_magic->mg_len = locinput - PL_bostr;
3721
3722                 if (sv_yes_mark) {
3723                     SV *sv_mrk = get_sv("REGMARK", 1);
3724                     sv_setsv(sv_mrk, sv_yes_mark);
3725                 }
3726
3727                 CALLRUNOPS(aTHX);                       /* Scalar context. */
3728                 SPAGAIN;
3729                 if (SP == before)
3730                     ret = &PL_sv_undef;   /* protect against empty (?{}) blocks. */
3731                 else {
3732                     ret = POPs;
3733                     PUTBACK;
3734                 }
3735
3736                 PL_op = oop;
3737                 PAD_RESTORE_LOCAL(old_comppad);
3738                 PL_curcop = ocurcop;
3739                 if (!logical) {
3740                     /* /(?{...})/ */
3741                     sv_setsv(save_scalar(PL_replgv), ret);
3742                     break;
3743                 }
3744             }
3745             if (logical == 2) { /* Postponed subexpression: /(??{...})/ */
3746                 logical = 0;
3747                 {
3748                     /* extract RE object from returned value; compiling if
3749                      * necessary */
3750                     MAGIC *mg = NULL;
3751                     REGEXP *rx = NULL;
3752
3753                     if (SvROK(ret)) {
3754                         SV *const sv = SvRV(ret);
3755
3756                         if (SvTYPE(sv) == SVt_REGEXP) {
3757                             rx = (REGEXP*) sv;
3758                         } else if (SvSMAGICAL(sv)) {
3759                             mg = mg_find(sv, PERL_MAGIC_qr);
3760                             assert(mg);
3761                         }
3762                     } else if (SvTYPE(ret) == SVt_REGEXP) {
3763                         rx = (REGEXP*) ret;
3764                     } else if (SvSMAGICAL(ret)) {
3765                         if (SvGMAGICAL(ret)) {
3766                             /* I don't believe that there is ever qr magic
3767                                here.  */
3768                             assert(!mg_find(ret, PERL_MAGIC_qr));
3769                             sv_unmagic(ret, PERL_MAGIC_qr);
3770                         }
3771                         else {
3772                             mg = mg_find(ret, PERL_MAGIC_qr);
3773                             /* testing suggests mg only ends up non-NULL for
3774                                scalars who were upgraded and compiled in the
3775                                else block below. In turn, this is only
3776                                triggered in the "postponed utf8 string" tests
3777                                in t/op/pat.t  */
3778                         }
3779                     }
3780
3781                     if (mg) {
3782                         rx = (REGEXP *) mg->mg_obj; /*XXX:dmq*/
3783                         assert(rx);
3784                     }
3785                     if (rx) {
3786                         rx = reg_temp_copy(rx);
3787                     }
3788                     else {
3789                         U32 pm_flags = 0;
3790                         const I32 osize = PL_regsize;
3791
3792                         if (DO_UTF8(ret)) {
3793                             assert (SvUTF8(ret));
3794                         } else if (SvUTF8(ret)) {
3795                             /* Not doing UTF-8, despite what the SV says. Is
3796                                this only if we're trapped in use 'bytes'?  */
3797                             /* Make a copy of the octet sequence, but without
3798                                the flag on, as the compiler now honours the
3799                                SvUTF8 flag on ret.  */
3800                             STRLEN len;
3801                             const char *const p = SvPV(ret, len);
3802                             ret = newSVpvn_flags(p, len, SVs_TEMP);
3803                         }
3804                         rx = CALLREGCOMP(ret, pm_flags);
3805                         if (!(SvFLAGS(ret)
3806                               & (SVs_TEMP | SVs_PADTMP | SVf_READONLY
3807                                  | SVs_GMG))) {
3808                             /* This isn't a first class regexp. Instead, it's
3809                                caching a regexp onto an existing, Perl visible
3810                                scalar.  */
3811                             sv_magic(ret, MUTABLE_SV(rx), PERL_MAGIC_qr, 0, 0);
3812                         }
3813                         PL_regsize = osize;
3814                     }
3815                     re_sv = rx;
3816                     re = (struct regexp *)SvANY(rx);
3817                 }
3818                 RXp_MATCH_COPIED_off(re);
3819                 re->subbeg = rex->subbeg;
3820                 re->sublen = rex->sublen;
3821                 rei = RXi_GET(re);
3822                 DEBUG_EXECUTE_r(
3823                     debug_start_match(re_sv, do_utf8, locinput, PL_regeol, 
3824                         "Matching embedded");
3825                 );              
3826                 startpoint = rei->program + 1;
3827                 ST.close_paren = 0; /* only used for GOSUB */
3828                 /* borrowed from regtry */
3829                 if (PL_reg_start_tmpl <= re->nparens) {
3830                     PL_reg_start_tmpl = re->nparens*3/2 + 3;
3831                     if(PL_reg_start_tmp)
3832                         Renew(PL_reg_start_tmp, PL_reg_start_tmpl, char*);
3833                     else
3834                         Newx(PL_reg_start_tmp, PL_reg_start_tmpl, char*);
3835                 }                       
3836
3837         eval_recurse_doit: /* Share code with GOSUB below this line */                          
3838                 /* run the pattern returned from (??{...}) */
3839                 ST.cp = regcppush(0);   /* Save *all* the positions. */
3840                 REGCP_SET(ST.lastcp);
3841                 
3842                 PL_regoffs = re->offs; /* essentially NOOP on GOSUB */
3843                 
3844                 /* see regtry, specifically PL_reglast(?:close)?paren is a pointer! (i dont know why) :dmq */
3845                 PL_reglastparen = &re->lastparen;
3846                 PL_reglastcloseparen = &re->lastcloseparen;
3847                 re->lastparen = 0;
3848                 re->lastcloseparen = 0;
3849
3850                 PL_reginput = locinput;
3851                 PL_regsize = 0;
3852
3853                 /* XXXX This is too dramatic a measure... */
3854                 PL_reg_maxiter = 0;
3855
3856                 ST.toggle_reg_flags = PL_reg_flags;
3857                 if (RX_UTF8(re_sv))
3858                     PL_reg_flags |= RF_utf8;
3859                 else
3860                     PL_reg_flags &= ~RF_utf8;
3861                 ST.toggle_reg_flags ^= PL_reg_flags; /* diff of old and new */
3862
3863                 ST.prev_rex = rex_sv;
3864                 ST.prev_curlyx = cur_curlyx;
3865                 SETREX(rex_sv,re_sv);
3866                 rex = re;
3867                 rexi = rei;
3868                 cur_curlyx = NULL;
3869                 ST.B = next;
3870                 ST.prev_eval = cur_eval;
3871                 cur_eval = st;
3872                 /* now continue from first node in postoned RE */
3873                 PUSH_YES_STATE_GOTO(EVAL_AB, startpoint);
3874                 /* NOTREACHED */
3875             }
3876             /* logical is 1,   /(?(?{...})X|Y)/ */
3877             sw = (bool)SvTRUE(ret);
3878             logical = 0;
3879             break;
3880         }
3881
3882         case EVAL_AB: /* cleanup after a successful (??{A})B */
3883             /* note: this is called twice; first after popping B, then A */
3884             PL_reg_flags ^= ST.toggle_reg_flags; 
3885             ReREFCNT_dec(rex_sv);
3886             SETREX(rex_sv,ST.prev_rex);
3887             rex = (struct regexp *)SvANY(rex_sv);
3888             rexi = RXi_GET(rex);
3889             regcpblow(ST.cp);
3890             cur_eval = ST.prev_eval;
3891             cur_curlyx = ST.prev_curlyx;
3892             
3893             PL_reglastparen = &rex->lastparen;
3894             PL_reglastcloseparen = &rex->lastcloseparen;
3895             
3896             /* XXXX This is too dramatic a measure... */
3897             PL_reg_maxiter = 0;
3898             if ( nochange_depth )
3899                 nochange_depth--;
3900             sayYES;
3901
3902
3903         case EVAL_AB_fail: /* unsuccessfully ran A or B in (??{A})B */
3904             /* note: this is called twice; first after popping B, then A */
3905             PL_reg_flags ^= ST.toggle_reg_flags; 
3906             ReREFCNT_dec(rex_sv);
3907             SETREX(rex_sv,ST.prev_rex);
3908             rex = (struct regexp *)SvANY(rex_sv);
3909             rexi = RXi_GET(rex); 
3910             PL_reglastparen = &rex->lastparen;
3911             PL_reglastcloseparen = &rex->lastcloseparen;
3912
3913             PL_reginput = locinput;
3914             REGCP_UNWIND(ST.lastcp);
3915             regcppop(rex);
3916             cur_eval = ST.prev_eval;
3917             cur_curlyx = ST.prev_curlyx;
3918             /* XXXX This is too dramatic a measure... */
3919             PL_reg_maxiter = 0;
3920             if ( nochange_depth )
3921                 nochange_depth--;
3922             sayNO_SILENT;
3923 #undef ST
3924
3925         case OPEN:
3926             n = ARG(scan);  /* which paren pair */
3927             PL_reg_start_tmp[n] = locinput;
3928             if (n > PL_regsize)
3929                 PL_regsize = n;
3930             lastopen = n;
3931             break;
3932         case CLOSE:
3933             n = ARG(scan);  /* which paren pair */
3934             PL_regoffs[n].start = PL_reg_start_tmp[n] - PL_bostr;
3935             PL_regoffs[n].end = locinput - PL_bostr;
3936             /*if (n > PL_regsize)
3937