regcomp.c

   1 /*    regcomp.c
   2  */
   3
   4 /*
   5  * "A fair jaw-cracker dwarf-language must be."  --Samwise Gamgee
   6  */
   7
   8 /* NOTE: this is derived from Henry Spencer's regexp code, and should not
   9  * confused with the original package (see point 3 below).  Thanks, Henry!
  10  */
  11
  12 /* Additional note: this code is very heavily munged from Henry's version
  13  * in places.  In some spots I've traded clarity for efficiency, so don't
  14  * blame Henry for some of the lack of readability.
  15  */
  16
  17 /* The names of the functions have been changed from regcomp and
  18  * regexec to  pregcomp and pregexec in order to avoid conflicts
  19  * with the POSIX routines of the same names.
  20 */
  21
  22 #ifdef PERL_EXT_RE_BUILD
  23 /* need to replace pregcomp et al, so enable that */
  24 #  ifndef PERL_IN_XSUB_RE
  25 #    define PERL_IN_XSUB_RE
  26 #  endif
  27 /* need access to debugger hooks */
  28 #  if defined(PERL_EXT_RE_DEBUG) && !defined(DEBUGGING)
  29 #    define DEBUGGING
  30 #  endif
  31 #endif
  32
  33 #ifdef PERL_IN_XSUB_RE
  34 /* We *really* need to overwrite these symbols: */
  35 #  define Perl_pregcomp my_regcomp
  36 #  define Perl_regdump my_regdump
  37 #  define Perl_regprop my_regprop
  38 #  define Perl_pregfree my_regfree
  39 #  define Perl_re_intuit_string my_re_intuit_string
  40 /* *These* symbols are masked to allow static link. */
  41 #  define Perl_regnext my_regnext
  42 #  define Perl_save_re_context my_save_re_context
  43 #  define Perl_reginitcolors my_reginitcolors
  44
  45 #  define PERL_NO_GET_CONTEXT
  46 #endif
  47
  48 /*SUPPRESS 112*/
  49 /*
  50  * pregcomp and pregexec -- regsub and regerror are not used in perl
  51  *
  52  *      Copyright (c) 1986 by University of Toronto.
  53  *      Written by Henry Spencer.  Not derived from licensed software.
  54  *
  55  *      Permission is granted to anyone to use this software for any
  56  *      purpose on any computer system, and to redistribute it freely,
  57  *      subject to the following restrictions:
  58  *
  59  *      1. The author is not responsible for the consequences of use of
  60  *              this software, no matter how awful, even if they arise
  61  *              from defects in it.
  62  *
  63  *      2. The origin of this software must not be misrepresented, either
  64  *              by explicit claim or by omission.
  65  *
  66  *      3. Altered versions must be plainly marked as such, and must not
  67  *              be misrepresented as being the original software.
  68  *
  69  *
  70  ****    Alterations to Henry's code are...
  71  ****
  72  ****    Copyright (c) 1991-2000, Larry Wall
  73  ****
  74  ****    You may distribute under the terms of either the GNU General Public
  75  ****    License or the Artistic License, as specified in the README file.
  76
  77  *
  78  * Beware that some of this code is subtly aware of the way operator
  79  * precedence is structured in regular expressions.  Serious changes in
  80  * regular-expression syntax might require a total rethink.
  81  */
  82 #include "EXTERN.h"
  83 #define PERL_IN_REGCOMP_C
  84 #include "perl.h"
  85
  86 #ifdef PERL_IN_XSUB_RE
  87 #  if defined(PERL_CAPI) || defined(PERL_OBJECT)
  88 #    include "XSUB.h"
  89 #  endif
  90 #else
  91 #  include "INTERN.h"
  92 #endif
  93
  94 #define REG_COMP_C
  95 #include "regcomp.h"
  96
  97 #ifdef op
  98 #undef op
  99 #endif /* op */
 100
 101 #ifdef MSDOS
 102 # if defined(BUGGY_MSC6)
 103  /* MSC 6.00A breaks on op/regexp.t test 85 unless we turn this off */
 104  # pragma optimize("a",off)
 105  /* But MSC 6.00A is happy with 'w', for aliases only across function calls*/
 106  # pragma optimize("w",on )
 107 # endif /* BUGGY_MSC6 */
 108 #endif /* MSDOS */
 109
 110 #ifndef STATIC
 111 #define STATIC  static
 112 #endif
 113
 114 #define ISMULT1(c)      ((c) == '*' || (c) == '+' || (c) == '?')
 115 #define ISMULT2(s)      ((*s) == '*' || (*s) == '+' || (*s) == '?' || \
 116         ((*s) == '{' && regcurly(s)))
 117 #ifdef atarist
 118 #define PERL_META       "^$.[()|?+*\\"
 119 #else
 120 #define META    "^$.[()|?+*\\"
 121 #endif
 122
 123 #ifdef SPSTART
 124 #undef SPSTART          /* dratted cpp namespace... */
 125 #endif
 126 /*
 127  * Flags to be passed up and down.
 128  */
 129 #define WORST           0       /* Worst case. */
 130 #define HASWIDTH        0x1     /* Known to match non-null strings. */
 131 #define SIMPLE          0x2     /* Simple enough to be STAR/PLUS operand. */
 132 #define SPSTART         0x4     /* Starts with * or +. */
 133 #define TRYAGAIN        0x8     /* Weeded out a declaration. */
 134
 135 /* Length of a variant. */
 136
 137 typedef struct scan_data_t {
 138     I32 len_min;
 139     I32 len_delta;
 140     I32 pos_min;
 141     I32 pos_delta;
 142     SV *last_found;
 143     I32 last_end;                       /* min value, <0 unless valid. */
 144     I32 last_start_min;
 145     I32 last_start_max;
 146     SV **longest;                       /* Either &l_fixed, or &l_float. */
 147     SV *longest_fixed;
 148     I32 offset_fixed;
 149     SV *longest_float;
 150     I32 offset_float_min;
 151     I32 offset_float_max;
 152     I32 flags;
 153     I32 whilem_c;
 154     struct regnode_charclass_class *start_class;
 155 } scan_data_t;
 156
 157 /*
 158  * Forward declarations for pregcomp()'s friends.
 159  */
 160
 161 static scan_data_t zero_scan_data = { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0,
 162                                       0, 0, 0, 0, 0 };
 163
 164 #define SF_BEFORE_EOL           (SF_BEFORE_SEOL|SF_BEFORE_MEOL)
 165 #define SF_BEFORE_SEOL          0x1
 166 #define SF_BEFORE_MEOL          0x2
 167 #define SF_FIX_BEFORE_EOL       (SF_FIX_BEFORE_SEOL|SF_FIX_BEFORE_MEOL)
 168 #define SF_FL_BEFORE_EOL        (SF_FL_BEFORE_SEOL|SF_FL_BEFORE_MEOL)
 169
 170 #ifdef NO_UNARY_PLUS
 171 #  define SF_FIX_SHIFT_EOL      (0+2)
 172 #  define SF_FL_SHIFT_EOL               (0+4)
 173 #else
 174 #  define SF_FIX_SHIFT_EOL      (+2)
 175 #  define SF_FL_SHIFT_EOL               (+4)
 176 #endif
 177
 178 #define SF_FIX_BEFORE_SEOL      (SF_BEFORE_SEOL << SF_FIX_SHIFT_EOL)
 179 #define SF_FIX_BEFORE_MEOL      (SF_BEFORE_MEOL << SF_FIX_SHIFT_EOL)
 180
 181 #define SF_FL_BEFORE_SEOL       (SF_BEFORE_SEOL << SF_FL_SHIFT_EOL)
 182 #define SF_FL_BEFORE_MEOL       (SF_BEFORE_MEOL << SF_FL_SHIFT_EOL) /* 0x20 */
 183 #define SF_IS_INF               0x40
 184 #define SF_HAS_PAR              0x80
 185 #define SF_IN_PAR               0x100
 186 #define SF_HAS_EVAL             0x200
 187 #define SCF_DO_SUBSTR           0x400
 188 #define SCF_DO_STCLASS_AND      0x0800
 189 #define SCF_DO_STCLASS_OR       0x1000
 190 #define SCF_DO_STCLASS          (SCF_DO_STCLASS_AND|SCF_DO_STCLASS_OR)
 191
 192 #define RF_utf8         8
 193 #define UTF (PL_reg_flags & RF_utf8)
 194 #define LOC (PL_regflags & PMf_LOCALE)
 195 #define FOLD (PL_regflags & PMf_FOLD)
 196
 197 #define OOB_CHAR8               1234
 198 #define OOB_UTF8                123456
 199 #define OOB_NAMEDCLASS          -1
 200
 201 #define CHR_SVLEN(sv) (UTF ? sv_len_utf8(sv) : SvCUR(sv))
 202 #define CHR_DIST(a,b) (UTF ? utf8_distance(a,b) : a - b)
 203
 204
 205 /* length of regex to show in messages that don't mark a position within */
 206 #define RegexLengthToShowInErrorMessages 127
 207
 208 /*
 209  * If MARKER[12] are adjusted, be sure to adjust the constants at the top
 210  * of t/op/regmesg.t, the tests in t/op/re_tests, and those in
 211  * op/pragma/warn/regcomp.
 212  */
 213 #define MARKER1 "HERE"      /* marker as it appears in the description */
 214 #define MARKER2 " << HERE "  /* marker as it appears within the regex */
 215
 216 #define REPORT_LOCATION " before " MARKER1 " mark in regex m/%.*s" MARKER2 "%s/"
 217
 218 /*
 219  * Calls SAVEDESTRUCTOR_X if needed, then calls Perl_croak with the given
 220  * arg. Show regex, up to a maximum length. If it's too long, chop and add
 221  * "...".
 222  */
 223 #define FAIL(msg)                                                             \
 224     STMT_START {                                                             \
 225         char *ellipses = "";                                                 \
 226         unsigned len = strlen(PL_regprecomp);                                \
 227                                                                              \
 228         if (!SIZE_ONLY)                                                      \
 229             SAVEDESTRUCTOR_X(clear_re,(void*)PL_regcomp_rx);                 \
 230                                                                              \
 231         if (len > RegexLengthToShowInErrorMessages) {                        \
 232             /* chop 10 shorter than the max, to ensure meaning of "..." */   \
 233             len = RegexLengthToShowInErrorMessages - 10;                     \
 234             ellipses = "...";                                                \
 235         }                                                                    \
 236         Perl_croak(aTHX_ "%s in regex m/%.*s%s/",                            \
 237                    msg, len, PL_regprecomp, ellipses);                        \
 238     } STMT_END
 239
 240 /*
 241  * Calls SAVEDESTRUCTOR_X if needed, then calls Perl_croak with the given
 242  * args. Show regex, up to a maximum length. If it's too long, chop and add
 243  * "...".
 244  */
 245 #define FAIL2(pat,msg)                                                        \
 246     STMT_START {                                                             \
 247         char *ellipses = "";                                                 \
 248         unsigned len = strlen(PL_regprecomp);                                \
 249                                                                              \
 250         if (!SIZE_ONLY)                                                      \
 251             SAVEDESTRUCTOR_X(clear_re,(void*)PL_regcomp_rx);                 \
 252                                                                              \
 253         if (len > RegexLengthToShowInErrorMessages) {                        \
 254             /* chop 10 shorter than the max, to ensure meaning of "..." */   \
 255             len = RegexLengthToShowInErrorMessages - 10;                     \
 256             ellipses = "...";                                                \
 257         }                                                                    \
 258         S_re_croak2(aTHX_ pat, " in regex m/%.*s%s/",                        \
 259                     msg, len, PL_regprecomp, ellipses);                     \
 260     } STMT_END
 261
 262
 263 /*
 264  * Simple_vFAIL -- like FAIL, but marks the current location in the scan
 265  */
 266 #define Simple_vFAIL(m)                                                      \
 267     STMT_START {                                                             \
 268       unsigned offset = strlen(PL_regprecomp)-(PL_regxend-PL_regcomp_parse); \
 269                                                                              \
 270       Perl_croak(aTHX_ "%s" REPORT_LOCATION,               \
 271                  m, offset, PL_regprecomp, PL_regprecomp + offset);          \
 272     } STMT_END
 273
 274 /*
 275  * Calls SAVEDESTRUCTOR_X if needed, then Simple_vFAIL()
 276  */
 277 #define vFAIL(m)                                                             \
 278     STMT_START {                                                             \
 279       if (!SIZE_ONLY)                                                        \
 280             SAVEDESTRUCTOR_X(clear_re,(void*)PL_regcomp_rx);                 \
 281       Simple_vFAIL(m);                                                       \
 282     } STMT_END
 283
 284 /*
 285  * Like Simple_vFAIL(), but accepts two arguments.
 286  */
 287 #define Simple_vFAIL2(m,a1)                                                  \
 288     STMT_START {                                                             \
 289       unsigned offset = strlen(PL_regprecomp)-(PL_regxend-PL_regcomp_parse); \
 290                                                                              \
 291       S_re_croak2(aTHX_ m, REPORT_LOCATION, a1,       \
 292                   offset, PL_regprecomp, PL_regprecomp + offset);            \
 293     } STMT_END
 294
 295 /*
 296  * Calls SAVEDESTRUCTOR_X if needed, then Simple_vFAIL2().
 297  */
 298 #define vFAIL2(m,a1)                                                         \
 299     STMT_START {                                                             \
 300       if (!SIZE_ONLY)                                                        \
 301             SAVEDESTRUCTOR_X(clear_re,(void*)PL_regcomp_rx);                 \
 302       Simple_vFAIL2(m, a1);                                                  \
 303     } STMT_END
 304
 305
 306 /*
 307  * Like Simple_vFAIL(), but accepts three arguments.
 308  */
 309 #define Simple_vFAIL3(m, a1, a2)                                             \
 310     STMT_START {                                                             \
 311       unsigned offset = strlen(PL_regprecomp)-(PL_regxend-PL_regcomp_parse); \
 312                                                                              \
 313       S_re_croak2(aTHX_ m, REPORT_LOCATION, a1, a2,   \
 314                   offset, PL_regprecomp, PL_regprecomp + offset);            \
 315     } STMT_END
 316
 317 /*
 318  * Calls SAVEDESTRUCTOR_X if needed, then Simple_vFAIL3().
 319  */
 320 #define vFAIL3(m,a1,a2)                                                      \
 321     STMT_START {                                                             \
 322       if (!SIZE_ONLY)                                                        \
 323             SAVEDESTRUCTOR_X(clear_re,(void*)PL_regcomp_rx);                 \
 324       Simple_vFAIL3(m, a1, a2);                                              \
 325     } STMT_END
 326
 327 /*
 328  * Like Simple_vFAIL(), but accepts four arguments.
 329  */
 330 #define Simple_vFAIL4(m, a1, a2, a3)                                         \
 331     STMT_START {                                                             \
 332       unsigned offset = strlen(PL_regprecomp)-(PL_regxend-PL_regcomp_parse); \
 333                                                                              \
 334       S_re_croak2(aTHX_ m, REPORT_LOCATION, a1, a2, a3,\
 335                   offset, PL_regprecomp, PL_regprecomp + offset);            \
 336     } STMT_END
 337
 338 /*
 339  * Like Simple_vFAIL(), but accepts five arguments.
 340  */
 341 #define Simple_vFAIL5(m, a1, a2, a3, a4)                                     \
 342     STMT_START {                                                             \
 343       unsigned offset = strlen(PL_regprecomp)-(PL_regxend-PL_regcomp_parse); \
 344       S_re_croak2(aTHX_ m, REPORT_LOCATION, a1, a2, a3, a4,\
 345                   offset, PL_regprecomp, PL_regprecomp + offset);            \
 346     } STMT_END
 347
 348
 349 #define vWARN(loc,m)                                                         \
 350     STMT_START {                                                             \
 351         unsigned offset = strlen(PL_regprecomp)-(PL_regxend-(loc));          \
 352         Perl_warner(aTHX_ WARN_REGEXP, "%s" REPORT_LOCATION,\
 353                  m, offset, PL_regprecomp, PL_regprecomp + offset);          \
 354     } STMT_END                                                               \
 355
 356
 357 #define vWARN2(loc, m, a1)                                                   \
 358     STMT_START {                                                             \
 359         unsigned offset = strlen(PL_regprecomp)-(PL_regxend-(loc));          \
 360         Perl_warner(aTHX_ WARN_REGEXP, m REPORT_LOCATION,\
 361                  a1,                                                         \
 362                  offset, PL_regprecomp, PL_regprecomp + offset);             \
 363     } STMT_END
 364
 365 #define vWARN3(loc, m, a1, a2)                                               \
 366     STMT_START {                                                             \
 367       unsigned offset = strlen(PL_regprecomp) - (PL_regxend - (loc));        \
 368         Perl_warner(aTHX_ WARN_REGEXP, m REPORT_LOCATION,                    \
 369                  a1, a2,                                                     \
 370                  offset, PL_regprecomp, PL_regprecomp + offset);             \
 371     } STMT_END
 372
 373 #define vWARN4(loc, m, a1, a2, a3)                                           \
 374     STMT_START {                                                             \
 375       unsigned offset = strlen(PL_regprecomp)-(PL_regxend-(loc));            \
 376         Perl_warner(aTHX_ WARN_REGEXP, m REPORT_LOCATION,\
 377                  a1, a2, a3,                                                 \
 378                  offset, PL_regprecomp, PL_regprecomp + offset);             \
 379     } STMT_END
 380
 381
 382
 383 /* Allow for side effects in s */
 384 #define REGC(c,s) STMT_START { if (!SIZE_ONLY) *(s) = (c); else (s);} STMT_END
 385
 386 static void clear_re(pTHXo_ void *r);
 387
 388 /* Mark that we cannot extend a found fixed substring at this point.
 389    Updata the longest found anchored substring and the longest found
 390    floating substrings if needed. */
 391
 392 STATIC void
 393 S_scan_commit(pTHX_ scan_data_t *data)
 394 {
 395     dTHR;
 396     STRLEN l = CHR_SVLEN(data->last_found);
 397     STRLEN old_l = CHR_SVLEN(*data->longest);
 398
 399     if ((l >= old_l) && ((l > old_l) || (data->flags & SF_BEFORE_EOL))) {
 400         sv_setsv(*data->longest, data->last_found);
 401         if (*data->longest == data->longest_fixed) {
 402             data->offset_fixed = l ? data->last_start_min : data->pos_min;
 403             if (data->flags & SF_BEFORE_EOL)
 404                 data->flags
 405                     |= ((data->flags & SF_BEFORE_EOL) << SF_FIX_SHIFT_EOL);
 406             else
 407                 data->flags &= ~SF_FIX_BEFORE_EOL;
 408         }
 409         else {
 410             data->offset_float_min = l ? data->last_start_min : data->pos_min;
 411             data->offset_float_max = (l
 412                                       ? data->last_start_max
 413                                       : data->pos_min + data->pos_delta);
 414             if (data->flags & SF_BEFORE_EOL)
 415                 data->flags
 416                     |= ((data->flags & SF_BEFORE_EOL) << SF_FL_SHIFT_EOL);
 417             else
 418                 data->flags &= ~SF_FL_BEFORE_EOL;
 419         }
 420     }
 421     SvCUR_set(data->last_found, 0);
 422     data->last_end = -1;
 423     data->flags &= ~SF_BEFORE_EOL;
 424 }
 425
 426 /* Can match anything (initialization) */
 427 STATIC void
 428 S_cl_anything(pTHX_ struct regnode_charclass_class *cl)
 429 {
 430     int value;
 431
 432     ANYOF_CLASS_ZERO(cl);
 433     for (value = 0; value < 256; ++value)
 434         ANYOF_BITMAP_SET(cl, value);
 435     cl->flags = ANYOF_EOS;
 436     if (LOC)
 437         cl->flags |= ANYOF_LOCALE;
 438 }
 439
 440 /* Can match anything (initialization) */
 441 STATIC int
 442 S_cl_is_anything(pTHX_ struct regnode_charclass_class *cl)
 443 {
 444     int value;
 445
 446     for (value = 0; value <= ANYOF_MAX; value += 2)
 447         if (ANYOF_CLASS_TEST(cl, value) && ANYOF_CLASS_TEST(cl, value + 1))
 448             return 1;
 449     for (value = 0; value < 256; ++value)
 450         if (!ANYOF_BITMAP_TEST(cl, value))
 451             return 0;
 452     return 1;
 453 }
 454
 455 /* Can match anything (initialization) */
 456 STATIC void
 457 S_cl_init(pTHX_ struct regnode_charclass_class *cl)
 458 {
 459     Zero(cl, 1, struct regnode_charclass_class);
 460     cl->type = ANYOF;
 461     cl_anything(cl);
 462 }
 463
 464 STATIC void
 465 S_cl_init_zero(pTHX_ struct regnode_charclass_class *cl)
 466 {
 467     Zero(cl, 1, struct regnode_charclass_class);
 468     cl->type = ANYOF;
 469     cl_anything(cl);
 470     if (LOC)
 471         cl->flags |= ANYOF_LOCALE;
 472 }
 473
 474 /* 'And' a given class with another one.  Can create false positives */
 475 /* We assume that cl is not inverted */
 476 STATIC void
 477 S_cl_and(pTHX_ struct regnode_charclass_class *cl,
 478          struct regnode_charclass_class *and_with)
 479 {
 480     if (!(and_with->flags & ANYOF_CLASS)
 481         && !(cl->flags & ANYOF_CLASS)
 482         && (and_with->flags & ANYOF_LOCALE) == (cl->flags & ANYOF_LOCALE)
 483         && !(and_with->flags & ANYOF_FOLD)
 484         && !(cl->flags & ANYOF_FOLD)) {
 485         int i;
 486
 487         if (and_with->flags & ANYOF_INVERT)
 488             for (i = 0; i < ANYOF_BITMAP_SIZE; i++)
 489                 cl->bitmap[i] &= ~and_with->bitmap[i];
 490         else
 491             for (i = 0; i < ANYOF_BITMAP_SIZE; i++)
 492                 cl->bitmap[i] &= and_with->bitmap[i];
 493     } /* XXXX: logic is complicated otherwise, leave it along for a moment. */
 494     if (!(and_with->flags & ANYOF_EOS))
 495         cl->flags &= ~ANYOF_EOS;
 496 }
 497
 498 /* 'OR' a given class with another one.  Can create false positives */
 499 /* We assume that cl is not inverted */
 500 STATIC void
 501 S_cl_or(pTHX_ struct regnode_charclass_class *cl, struct regnode_charclass_class *or_with)
 502 {
 503     if (or_with->flags & ANYOF_INVERT) {
 504         /* We do not use
 505          * (B1 | CL1) | (!B2 & !CL2) = (B1 | !B2 & !CL2) | (CL1 | (!B2 & !CL2))
 506          *   <= (B1 | !B2) | (CL1 | !CL2)
 507          * which is wasteful if CL2 is small, but we ignore CL2:
 508          *   (B1 | CL1) | (!B2 & !CL2) <= (B1 | CL1) | !B2 = (B1 | !B2) | CL1
 509          * XXXX Can we handle case-fold?  Unclear:
 510          *   (OK1(i) | OK1(i')) | !(OK1(i) | OK1(i')) =
 511          *   (OK1(i) | OK1(i')) | (!OK1(i) & !OK1(i'))
 512          */
 513         if ( (or_with->flags & ANYOF_LOCALE) == (cl->flags & ANYOF_LOCALE)
 514              && !(or_with->flags & ANYOF_FOLD)
 515              && !(cl->flags & ANYOF_FOLD) ) {
 516             int i;
 517
 518             for (i = 0; i < ANYOF_BITMAP_SIZE; i++)
 519                 cl->bitmap[i] |= ~or_with->bitmap[i];
 520         } /* XXXX: logic is complicated otherwise */
 521         else {
 522             cl_anything(cl);
 523         }
 524     } else {
 525         /* (B1 | CL1) | (B2 | CL2) = (B1 | B2) | (CL1 | CL2)) */
 526         if ( (or_with->flags & ANYOF_LOCALE) == (cl->flags & ANYOF_LOCALE)
 527              && (!(or_with->flags & ANYOF_FOLD)
 528                  || (cl->flags & ANYOF_FOLD)) ) {
 529             int i;
 530
 531             /* OR char bitmap and class bitmap separately */
 532             for (i = 0; i < ANYOF_BITMAP_SIZE; i++)
 533                 cl->bitmap[i] |= or_with->bitmap[i];
 534             if (or_with->flags & ANYOF_CLASS) {
 535                 for (i = 0; i < ANYOF_CLASSBITMAP_SIZE; i++)
 536                     cl->classflags[i] |= or_with->classflags[i];
 537                 cl->flags |= ANYOF_CLASS;
 538             }
 539         }
 540         else { /* XXXX: logic is complicated, leave it along for a moment. */
 541             cl_anything(cl);
 542         }
 543     }
 544     if (or_with->flags & ANYOF_EOS)
 545         cl->flags |= ANYOF_EOS;
 546 }
 547
 548 /* REx optimizer.  Converts nodes into quickier variants "in place".
 549    Finds fixed substrings.  */
 550
 551 /* Stops at toplevel WHILEM as well as at `last'. At end *scanp is set
 552    to the position after last scanned or to NULL. */
 553
 554 STATIC I32
 555 S_study_chunk(pTHX_ regnode **scanp, I32 *deltap, regnode *last, scan_data_t *data, U32 flags)
 556                         /* scanp: Start here (read-write). */
 557                         /* deltap: Write maxlen-minlen here. */
 558                         /* last: Stop before this one. */
 559 {
 560     dTHR;
 561     I32 min = 0, pars = 0, code;
 562     regnode *scan = *scanp, *next;
 563     I32 delta = 0;
 564     int is_inf = (flags & SCF_DO_SUBSTR) && (data->flags & SF_IS_INF);
 565     int is_inf_internal = 0;            /* The studied chunk is infinite */
 566     I32 is_par = OP(scan) == OPEN ? ARG(scan) : 0;
 567     scan_data_t data_fake;
 568     struct regnode_charclass_class and_with; /* Valid if flags & SCF_DO_STCLASS_OR */
 569
 570     while (scan && OP(scan) != END && scan < last) {
 571         /* Peephole optimizer: */
 572
 573         if (PL_regkind[(U8)OP(scan)] == EXACT) {
 574             /* Merge several consecutive EXACTish nodes into one. */
 575             regnode *n = regnext(scan);
 576             U32 stringok = 1;
 577 #ifdef DEBUGGING
 578             regnode *stop = scan;
 579 #endif
 580
 581             next = scan + NODE_SZ_STR(scan);
 582             /* Skip NOTHING, merge EXACT*. */
 583             while (n &&
 584                    ( PL_regkind[(U8)OP(n)] == NOTHING ||
 585                      (stringok && (OP(n) == OP(scan))))
 586                    && NEXT_OFF(n)
 587                    && NEXT_OFF(scan) + NEXT_OFF(n) < I16_MAX) {
 588                 if (OP(n) == TAIL || n > next)
 589                     stringok = 0;
 590                 if (PL_regkind[(U8)OP(n)] == NOTHING) {
 591                     NEXT_OFF(scan) += NEXT_OFF(n);
 592                     next = n + NODE_STEP_REGNODE;
 593 #ifdef DEBUGGING
 594                     if (stringok)
 595                         stop = n;
 596 #endif
 597                     n = regnext(n);
 598                 }
 599                 else {
 600                     int oldl = STR_LEN(scan);
 601                     regnode *nnext = regnext(n);
 602
 603                     if (oldl + STR_LEN(n) > U8_MAX)
 604                         break;
 605                     NEXT_OFF(scan) += NEXT_OFF(n);
 606                     STR_LEN(scan) += STR_LEN(n);
 607                     next = n + NODE_SZ_STR(n);
 608                     /* Now we can overwrite *n : */
 609                     Move(STRING(n), STRING(scan) + oldl,
 610                          STR_LEN(n), char);
 611 #ifdef DEBUGGING
 612                     if (stringok)
 613                         stop = next - 1;
 614 #endif
 615                     n = nnext;
 616                 }
 617             }
 618 #ifdef DEBUGGING
 619             /* Allow dumping */
 620             n = scan + NODE_SZ_STR(scan);
 621             while (n <= stop) {
 622                 if (PL_regkind[(U8)OP(n)] != NOTHING || OP(n) == NOTHING) {
 623                     OP(n) = OPTIMIZED;
 624                     NEXT_OFF(n) = 0;
 625                 }
 626                 n++;
 627             }
 628 #endif
 629         }
 630         /* Follow the next-chain of the current node and optimize
 631            away all the NOTHINGs from it.  */
 632         if (OP(scan) != CURLYX) {
 633             int max = (reg_off_by_arg[OP(scan)]
 634                        ? I32_MAX
 635                        /* I32 may be smaller than U16 on CRAYs! */
 636                        : (I32_MAX < U16_MAX ? I32_MAX : U16_MAX));
 637             int off = (reg_off_by_arg[OP(scan)] ? ARG(scan) : NEXT_OFF(scan));
 638             int noff;
 639             regnode *n = scan;
 640
 641             /* Skip NOTHING and LONGJMP. */
 642             while ((n = regnext(n))
 643                    && ((PL_regkind[(U8)OP(n)] == NOTHING && (noff = NEXT_OFF(n)))
 644                        || ((OP(n) == LONGJMP) && (noff = ARG(n))))
 645                    && off + noff < max)
 646                 off += noff;
 647             if (reg_off_by_arg[OP(scan)])
 648                 ARG(scan) = off;
 649             else
 650                 NEXT_OFF(scan) = off;
 651         }
 652         /* The principal pseudo-switch.  Cannot be a switch, since we
 653            look into several different things.  */
 654         if (OP(scan) == BRANCH || OP(scan) == BRANCHJ
 655                    || OP(scan) == IFTHEN || OP(scan) == SUSPEND) {
 656             next = regnext(scan);
 657             code = OP(scan);
 658
 659             if (OP(next) == code || code == IFTHEN || code == SUSPEND) {
 660                 I32 max1 = 0, min1 = I32_MAX, num = 0;
 661                 struct regnode_charclass_class accum;
 662
 663                 if (flags & SCF_DO_SUBSTR) /* XXXX Add !SUSPEND? */
 664                     scan_commit(data);  /* Cannot merge strings after this. */
 665                 if (flags & SCF_DO_STCLASS)
 666                     cl_init_zero(&accum);
 667                 while (OP(scan) == code) {
 668                     I32 deltanext, minnext, f = 0;
 669                     struct regnode_charclass_class this_class;
 670
 671                     num++;
 672                     data_fake.flags = 0;
 673                     if (data)
 674                         data_fake.whilem_c = data->whilem_c;
 675                     next = regnext(scan);
 676                     scan = NEXTOPER(scan);
 677                     if (code != BRANCH)
 678                         scan = NEXTOPER(scan);
 679                     if (flags & SCF_DO_STCLASS) {
 680                         cl_init(&this_class);
 681                         data_fake.start_class = &this_class;
 682                         f = SCF_DO_STCLASS_AND;
 683                     }
 684                     /* we suppose the run is continuous, last=next...*/
 685                     minnext = study_chunk(&scan, &deltanext, next,
 686                                           &data_fake, f);
 687                     if (min1 > minnext)
 688                         min1 = minnext;
 689                     if (max1 < minnext + deltanext)
 690                         max1 = minnext + deltanext;
 691                     if (deltanext == I32_MAX)
 692                         is_inf = is_inf_internal = 1;
 693                     scan = next;
 694                     if (data_fake.flags & (SF_HAS_PAR|SF_IN_PAR))
 695                         pars++;
 696                     if (data && (data_fake.flags & SF_HAS_EVAL))
 697                         data->flags |= SF_HAS_EVAL;
 698                     if (data)
 699                         data->whilem_c = data_fake.whilem_c;
 700                     if (flags & SCF_DO_STCLASS)
 701                         cl_or(&accum, &this_class);
 702                     if (code == SUSPEND)
 703                         break;
 704                 }
 705                 if (code == IFTHEN && num < 2) /* Empty ELSE branch */
 706                     min1 = 0;
 707                 if (flags & SCF_DO_SUBSTR) {
 708                     data->pos_min += min1;
 709                     data->pos_delta += max1 - min1;
 710                     if (max1 != min1 || is_inf)
 711                         data->longest = &(data->longest_float);
 712                 }
 713                 min += min1;
 714                 delta += max1 - min1;
 715                 if (flags & SCF_DO_STCLASS_OR) {
 716                     cl_or(data->start_class, &accum);
 717                     if (min1) {
 718                         cl_and(data->start_class, &and_with);
 719                         flags &= ~SCF_DO_STCLASS;
 720                     }
 721                 }
 722                 else if (flags & SCF_DO_STCLASS_AND) {
 723                     if (min1) {
 724                         cl_and(data->start_class, &accum);
 725                         flags &= ~SCF_DO_STCLASS;
 726                     }
 727                     else {
 728                         /* Switch to OR mode: cache the old value of
 729                          * data->start_class */
 730                         StructCopy(data->start_class, &and_with,
 731                                    struct regnode_charclass_class);
 732                         flags &= ~SCF_DO_STCLASS_AND;
 733                         StructCopy(&accum, data->start_class,
 734                                    struct regnode_charclass_class);
 735                         flags |= SCF_DO_STCLASS_OR;
 736                         data->start_class->flags |= ANYOF_EOS;
 737                     }
 738                 }
 739             }
 740             else if (code == BRANCHJ)   /* single branch is optimized. */
 741                 scan = NEXTOPER(NEXTOPER(scan));
 742             else                        /* single branch is optimized. */
 743                 scan = NEXTOPER(scan);
 744             continue;
 745         }
 746         else if (OP(scan) == EXACT) {
 747             I32 l = STR_LEN(scan);
 748             if (UTF) {
 749                 unsigned char *s = (unsigned char *)STRING(scan);
 750                 unsigned char *e = s + l;
 751                 I32 newl = 0;
 752                 while (s < e) {
 753                     newl++;
 754                     s += UTF8SKIP(s);
 755                 }
 756                 l = newl;
 757             }
 758             min += l;
 759             if (flags & SCF_DO_SUBSTR) { /* Update longest substr. */
 760                 /* The code below prefers earlier match for fixed
 761                    offset, later match for variable offset.  */
 762                 if (data->last_end == -1) { /* Update the start info. */
 763                     data->last_start_min = data->pos_min;
 764                     data->last_start_max = is_inf
 765                         ? I32_MAX : data->pos_min + data->pos_delta;
 766                 }
 767                 sv_catpvn(data->last_found, STRING(scan), STR_LEN(scan));
 768                 data->last_end = data->pos_min + l;
 769                 data->pos_min += l; /* As in the first entry. */
 770                 data->flags &= ~SF_BEFORE_EOL;
 771             }
 772             if (flags & SCF_DO_STCLASS_AND) {
 773                 /* Check whether it is compatible with what we know already! */
 774                 int compat = 1;
 775
 776                 if (!(data->start_class->flags & (ANYOF_CLASS | ANYOF_LOCALE))
 777                     && !ANYOF_BITMAP_TEST(data->start_class, *STRING(scan))
 778                     && (!(data->start_class->flags & ANYOF_FOLD)
 779                         || !ANYOF_BITMAP_TEST(data->start_class,
 780                                               PL_fold[*(U8*)STRING(scan)])))
 781                     compat = 0;
 782                 ANYOF_CLASS_ZERO(data->start_class);
 783                 ANYOF_BITMAP_ZERO(data->start_class);
 784                 if (compat)
 785                     ANYOF_BITMAP_SET(data->start_class, *STRING(scan));
 786                 data->start_class->flags &= ~ANYOF_EOS;
 787             }
 788             else if (flags & SCF_DO_STCLASS_OR) {
 789                 /* false positive possible if the class is case-folded */
 790                 ANYOF_BITMAP_SET(data->start_class, *STRING(scan));
 791                 data->start_class->flags &= ~ANYOF_EOS;
 792                 cl_and(data->start_class, &and_with);
 793             }
 794             flags &= ~SCF_DO_STCLASS;
 795         }
 796         else if (PL_regkind[(U8)OP(scan)] == EXACT) { /* But OP != EXACT! */
 797             I32 l = STR_LEN(scan);
 798
 799             /* Search for fixed substrings supports EXACT only. */
 800             if (flags & SCF_DO_SUBSTR)
 801                 scan_commit(data);
 802             if (UTF) {
 803                 unsigned char *s = (unsigned char *)STRING(scan);
 804                 unsigned char *e = s + l;
 805                 I32 newl = 0;
 806                 while (s < e) {
 807                     newl++;
 808                     s += UTF8SKIP(s);
 809                 }
 810                 l = newl;
 811             }
 812             min += l;
 813             if (data && (flags & SCF_DO_SUBSTR))
 814                 data->pos_min += l;
 815             if (flags & SCF_DO_STCLASS_AND) {
 816                 /* Check whether it is compatible with what we know already! */
 817                 int compat = 1;
 818
 819                 if (!(data->start_class->flags & (ANYOF_CLASS | ANYOF_LOCALE))
 820                     && !ANYOF_BITMAP_TEST(data->start_class, *STRING(scan))
 821                     && !ANYOF_BITMAP_TEST(data->start_class,
 822                                           PL_fold[*(U8*)STRING(scan)]))
 823                     compat = 0;
 824                 ANYOF_CLASS_ZERO(data->start_class);
 825                 ANYOF_BITMAP_ZERO(data->start_class);
 826                 if (compat) {
 827                     ANYOF_BITMAP_SET(data->start_class, *STRING(scan));
 828                     data->start_class->flags &= ~ANYOF_EOS;
 829                     data->start_class->flags |= ANYOF_FOLD;
 830                     if (OP(scan) == EXACTFL)
 831                         data->start_class->flags |= ANYOF_LOCALE;
 832                 }
 833             }
 834             else if (flags & SCF_DO_STCLASS_OR) {
 835                 if (data->start_class->flags & ANYOF_FOLD) {
 836                     /* false positive possible if the class is case-folded.
 837                        Assume that the locale settings are the same... */
 838                     ANYOF_BITMAP_SET(data->start_class, *STRING(scan));
 839                     data->start_class->flags &= ~ANYOF_EOS;
 840                 }
 841                 cl_and(data->start_class, &and_with);
 842             }
 843             flags &= ~SCF_DO_STCLASS;
 844         }
 845         else if (strchr((char*)PL_varies,OP(scan))) {
 846             I32 mincount, maxcount, minnext, deltanext, pos_before, fl;
 847             I32 f = flags;
 848             regnode *oscan = scan;
 849             struct regnode_charclass_class this_class;
 850             struct regnode_charclass_class *oclass = NULL;
 851
 852             switch (PL_regkind[(U8)OP(scan)]) {
 853             case WHILEM:                /* End of (?:...)* . */
 854                 scan = NEXTOPER(scan);
 855                 goto finish;
 856             case PLUS:
 857                 if (flags & (SCF_DO_SUBSTR | SCF_DO_STCLASS)) {
 858                     next = NEXTOPER(scan);
 859                     if (OP(next) == EXACT || (flags & SCF_DO_STCLASS)) {
 860                         mincount = 1;
 861                         maxcount = REG_INFTY;
 862                         next = regnext(scan);
 863                         scan = NEXTOPER(scan);
 864                         goto do_curly;
 865                     }
 866                 }
 867                 if (flags & SCF_DO_SUBSTR)
 868                     data->pos_min++;
 869                 min++;
 870                 /* Fall through. */
 871             case STAR:
 872                 if (flags & SCF_DO_STCLASS) {
 873                     mincount = 0;
 874                     maxcount = REG_INFTY;
 875                     next = regnext(scan);
 876                     scan = NEXTOPER(scan);
 877                     goto do_curly;
 878                 }
 879                 is_inf = is_inf_internal = 1;
 880                 scan = regnext(scan);
 881                 if (flags & SCF_DO_SUBSTR) {
 882                     scan_commit(data);  /* Cannot extend fixed substrings */
 883                     data->longest = &(data->longest_float);
 884                 }
 885                 goto optimize_curly_tail;
 886             case CURLY:
 887                 mincount = ARG1(scan);
 888                 maxcount = ARG2(scan);
 889                 next = regnext(scan);
 890                 scan = NEXTOPER(scan) + EXTRA_STEP_2ARGS;
 891               do_curly:
 892                 if (flags & SCF_DO_SUBSTR) {
 893                     if (mincount == 0) scan_commit(data); /* Cannot extend fixed substrings */
 894                     pos_before = data->pos_min;
 895                 }
 896                 if (data) {
 897                     fl = data->flags;
 898                     data->flags &= ~(SF_HAS_PAR|SF_IN_PAR|SF_HAS_EVAL);
 899                     if (is_inf)
 900                         data->flags |= SF_IS_INF;
 901                 }
 902                 if (flags & SCF_DO_STCLASS) {
 903                     cl_init(&this_class);
 904                     oclass = data->start_class;
 905                     data->start_class = &this_class;
 906                     f |= SCF_DO_STCLASS_AND;
 907                     f &= ~SCF_DO_STCLASS_OR;
 908                 }
 909
 910                 /* This will finish on WHILEM, setting scan, or on NULL: */
 911                 minnext = study_chunk(&scan, &deltanext, last, data,
 912                                       mincount == 0
 913                                         ? (f & ~SCF_DO_SUBSTR) : f);
 914
 915                 if (flags & SCF_DO_STCLASS)
 916                     data->start_class = oclass;
 917                 if (mincount == 0 || minnext == 0) {
 918                     if (flags & SCF_DO_STCLASS_OR) {
 919                         cl_or(data->start_class, &this_class);
 920                     }
 921                     else if (flags & SCF_DO_STCLASS_AND) {
 922                         /* Switch to OR mode: cache the old value of
 923                          * data->start_class */
 924                         StructCopy(data->start_class, &and_with,
 925                                    struct regnode_charclass_class);
 926                         flags &= ~SCF_DO_STCLASS_AND;
 927                         StructCopy(&this_class, data->start_class,
 928                                    struct regnode_charclass_class);
 929                         flags |= SCF_DO_STCLASS_OR;
 930                         data->start_class->flags |= ANYOF_EOS;
 931                     }
 932                 } else {                /* Non-zero len */
 933                     if (flags & SCF_DO_STCLASS_OR) {
 934                         cl_or(data->start_class, &this_class);
 935                         cl_and(data->start_class, &and_with);
 936                     }
 937                     else if (flags & SCF_DO_STCLASS_AND)
 938                         cl_and(data->start_class, &this_class);
 939                     flags &= ~SCF_DO_STCLASS;
 940                 }
 941                 if (!scan)              /* It was not CURLYX, but CURLY. */
 942                     scan = next;
 943                 if (ckWARN(WARN_REGEXP) && (minnext + deltanext == 0)
 944                     && !(data->flags & (SF_HAS_PAR|SF_IN_PAR))
 945                     && maxcount <= REG_INFTY/3) /* Complement check for big count */
 946                 {
 947                     vWARN(PL_regcomp_parse,
 948                           "Quantifier unexpected on zero-length expression");
 949                 }
 950
 951                 min += minnext * mincount;
 952                 is_inf_internal |= ((maxcount == REG_INFTY
 953                                      && (minnext + deltanext) > 0)
 954                                     || deltanext == I32_MAX);
 955                 is_inf |= is_inf_internal;
 956                 delta += (minnext + deltanext) * maxcount - minnext * mincount;
 957
 958                 /* Try powerful optimization CURLYX => CURLYN. */
 959                 if (  OP(oscan) == CURLYX && data
 960                       && data->flags & SF_IN_PAR
 961                       && !(data->flags & SF_HAS_EVAL)
 962                       && !deltanext && minnext == 1 ) {
 963                     /* Try to optimize to CURLYN.  */
 964                     regnode *nxt = NEXTOPER(oscan) + EXTRA_STEP_2ARGS;
 965                     regnode *nxt1 = nxt, *nxt2;
 966
 967                     /* Skip open. */
 968                     nxt = regnext(nxt);
 969                     if (!strchr((char*)PL_simple,OP(nxt))
 970                         && !(PL_regkind[(U8)OP(nxt)] == EXACT
 971                              && STR_LEN(nxt) == 1))
 972                         goto nogo;
 973                     nxt2 = nxt;
 974                     nxt = regnext(nxt);
 975                     if (OP(nxt) != CLOSE)
 976                         goto nogo;
 977                     /* Now we know that nxt2 is the only contents: */
 978                     oscan->flags = ARG(nxt);
 979                     OP(oscan) = CURLYN;
 980                     OP(nxt1) = NOTHING; /* was OPEN. */
 981 #ifdef DEBUGGING
 982                     OP(nxt1 + 1) = OPTIMIZED; /* was count. */
 983                     NEXT_OFF(nxt1+ 1) = 0; /* just for consistancy. */
 984                     NEXT_OFF(nxt2) = 0; /* just for consistancy with CURLY. */
 985                     OP(nxt) = OPTIMIZED;        /* was CLOSE. */
 986                     OP(nxt + 1) = OPTIMIZED; /* was count. */
 987                     NEXT_OFF(nxt+ 1) = 0; /* just for consistancy. */
 988 #endif
 989                 }
 990               nogo:
 991
 992                 /* Try optimization CURLYX => CURLYM. */
 993                 if (  OP(oscan) == CURLYX && data
 994                       && !(data->flags & SF_HAS_PAR)
 995                       && !(data->flags & SF_HAS_EVAL)
 996                       && !deltanext  ) {
 997                     /* XXXX How to optimize if data == 0? */
 998                     /* Optimize to a simpler form.  */
 999                     regnode *nxt = NEXTOPER(oscan) + EXTRA_STEP_2ARGS; /* OPEN */
1000                     regnode *nxt2;
1001
1002                     OP(oscan) = CURLYM;
1003                     while ( (nxt2 = regnext(nxt)) /* skip over embedded stuff*/
1004                             && (OP(nxt2) != WHILEM))
1005                         nxt = nxt2;
1006                     OP(nxt2)  = SUCCEED; /* Whas WHILEM */
1007                     /* Need to optimize away parenths. */
1008                     if (data->flags & SF_IN_PAR) {
1009                         /* Set the parenth number.  */
1010                         regnode *nxt1 = NEXTOPER(oscan) + EXTRA_STEP_2ARGS; /* OPEN*/
1011
1012                         if (OP(nxt) != CLOSE)
1013                             FAIL("Panic opt close");
1014                         oscan->flags = ARG(nxt);
1015                         OP(nxt1) = OPTIMIZED;   /* was OPEN. */
1016                         OP(nxt) = OPTIMIZED;    /* was CLOSE. */
1017 #ifdef DEBUGGING
1018                         OP(nxt1 + 1) = OPTIMIZED; /* was count. */
1019                         OP(nxt + 1) = OPTIMIZED; /* was count. */
1020                         NEXT_OFF(nxt1 + 1) = 0; /* just for consistancy. */
1021                         NEXT_OFF(nxt + 1) = 0; /* just for consistancy. */
1022 #endif
1023 #if 0
1024                         while ( nxt1 && (OP(nxt1) != WHILEM)) {
1025                             regnode *nnxt = regnext(nxt1);
1026
1027                             if (nnxt == nxt) {
1028                                 if (reg_off_by_arg[OP(nxt1)])
1029                                     ARG_SET(nxt1, nxt2 - nxt1);
1030                                 else if (nxt2 - nxt1 < U16_MAX)
1031                                     NEXT_OFF(nxt1) = nxt2 - nxt1;
1032                                 else
1033                                     OP(nxt) = NOTHING;  /* Cannot beautify */
1034                             }
1035                             nxt1 = nnxt;
1036                         }
1037 #endif
1038                         /* Optimize again: */
1039                         study_chunk(&nxt1, &deltanext, nxt, NULL, 0);
1040                     }
1041                     else
1042                         oscan->flags = 0;
1043                 }
1044                 else if (OP(oscan) == CURLYX && data && ++data->whilem_c < 16) {
1045                     /* This stays as CURLYX, and can put the count/of pair. */
1046                     /* Find WHILEM (as in regexec.c) */
1047                     regnode *nxt = oscan + NEXT_OFF(oscan);
1048
1049                     if (OP(PREVOPER(nxt)) == NOTHING) /* LONGJMP */
1050                         nxt += ARG(nxt);
1051                     PREVOPER(nxt)->flags = data->whilem_c
1052                         | (PL_reg_whilem_seen << 4); /* On WHILEM */
1053                 }
1054                 if (data && fl & (SF_HAS_PAR|SF_IN_PAR))
1055                     pars++;
1056                 if (flags & SCF_DO_SUBSTR) {
1057                     SV *last_str = Nullsv;
1058                     int counted = mincount != 0;
1059
1060                     if (data->last_end > 0 && mincount != 0) { /* Ends with a string. */
1061                         I32 b = pos_before >= data->last_start_min
1062                             ? pos_before : data->last_start_min;
1063                         STRLEN l;
1064                         char *s = SvPV(data->last_found, l);
1065                         I32 old = b - data->last_start_min;
1066
1067                         if (UTF)
1068                             old = utf8_hop((U8*)s, old) - (U8*)s;
1069
1070                         l -= old;
1071                         /* Get the added string: */
1072                         last_str = newSVpvn(s  + old, l);
1073                         if (deltanext == 0 && pos_before == b) {
1074                             /* What was added is a constant string */
1075                             if (mincount > 1) {
1076                                 SvGROW(last_str, (mincount * l) + 1);
1077                                 repeatcpy(SvPVX(last_str) + l,
1078                                           SvPVX(last_str), l, mincount - 1);
1079                                 SvCUR(last_str) *= mincount;
1080                                 /* Add additional parts. */
1081                                 SvCUR_set(data->last_found,
1082                                           SvCUR(data->last_found) - l);
1083                                 sv_catsv(data->last_found, last_str);
1084                                 data->last_end += l * (mincount - 1);
1085                             }
1086                         } else {
1087                             /* start offset must point into the last copy */
1088                             data->last_start_min += minnext * (mincount - 1);
1089                             data->last_start_max += is_inf ? 0 : (maxcount - 1)
1090                                 * (minnext + data->pos_delta);
1091                         }
1092                     }
1093                     /* It is counted once already... */
1094                     data->pos_min += minnext * (mincount - counted);
1095                     data->pos_delta += - counted * deltanext +
1096                         (minnext + deltanext) * maxcount - minnext * mincount;
1097                     if (mincount != maxcount) {
1098                          /* Cannot extend fixed substrings found inside
1099                             the group.  */
1100                         scan_commit(data);
1101                         if (mincount && last_str) {
1102                             sv_setsv(data->last_found, last_str);
1103                             data->last_end = data->pos_min;
1104                             data->last_start_min =
1105                                 data->pos_min - CHR_SVLEN(last_str);
1106                             data->last_start_max = is_inf
1107                                 ? I32_MAX
1108                                 : data->pos_min + data->pos_delta
1109                                 - CHR_SVLEN(last_str);
1110                         }
1111                         data->longest = &(data->longest_float);
1112                     }
1113                     SvREFCNT_dec(last_str);
1114                 }
1115                 if (data && (fl & SF_HAS_EVAL))
1116                     data->flags |= SF_HAS_EVAL;
1117               optimize_curly_tail:
1118                 if (OP(oscan) != CURLYX) {
1119                     while (PL_regkind[(U8)OP(next = regnext(oscan))] == NOTHING
1120                            && NEXT_OFF(next))
1121                         NEXT_OFF(oscan) += NEXT_OFF(next);
1122                 }
1123                 continue;
1124             default:                    /* REF and CLUMP only? */
1125                 if (flags & SCF_DO_SUBSTR) {
1126                     scan_commit(data);  /* Cannot expect anything... */
1127                     data->longest = &(data->longest_float);
1128                 }
1129                 is_inf = is_inf_internal = 1;
1130                 if (flags & SCF_DO_STCLASS_OR)
1131                     cl_anything(data->start_class);
1132                 flags &= ~SCF_DO_STCLASS;
1133                 break;
1134             }
1135         }
1136         else if (strchr((char*)PL_simple,OP(scan)) || PL_regkind[(U8)OP(scan)] == ANYUTF8) {
1137             int value;
1138
1139             if (flags & SCF_DO_SUBSTR) {
1140                 scan_commit(data);
1141                 data->pos_min++;
1142             }
1143             min++;
1144             if (flags & SCF_DO_STCLASS) {
1145                 data->start_class->flags &= ~ANYOF_EOS; /* No match on empty */
1146
1147                 /* Some of the logic below assumes that switching
1148                    locale on will only add false positives. */
1149                 switch (PL_regkind[(U8)OP(scan)]) {
1150                 case ANYUTF8:
1151                 case SANY:
1152                 case SANYUTF8:
1153                 case ALNUMUTF8:
1154                 case ANYOFUTF8:
1155                 case ALNUMLUTF8:
1156                 case NALNUMUTF8:
1157                 case NALNUMLUTF8:
1158                 case SPACEUTF8:
1159                 case NSPACEUTF8:
1160                 case SPACELUTF8:
1161                 case NSPACELUTF8:
1162                 case DIGITUTF8:
1163                 case NDIGITUTF8:
1164                 default:
1165                   do_default:
1166                     /* Perl_croak(aTHX_ "panic: unexpected simple REx opcode %d", OP(scan)); */
1167                     if (flags & SCF_DO_STCLASS_OR) /* Allow everything */
1168                         cl_anything(data->start_class);
1169                     break;
1170                 case REG_ANY:
1171                     if (OP(scan) == SANY)
1172                         goto do_default;
1173                     if (flags & SCF_DO_STCLASS_OR) { /* Everything but \n */
1174                         value = (ANYOF_BITMAP_TEST(data->start_class,'\n')
1175                                  || (data->start_class->flags & ANYOF_CLASS));
1176                         cl_anything(data->start_class);
1177                     }
1178                     if (flags & SCF_DO_STCLASS_AND || !value)
1179                         ANYOF_BITMAP_CLEAR(data->start_class,'\n');
1180                     break;
1181                 case ANYOF:
1182                     if (flags & SCF_DO_STCLASS_AND)
1183                         cl_and(data->start_class,
1184                                (struct regnode_charclass_class*)scan);
1185                     else
1186                         cl_or(data->start_class,
1187                               (struct regnode_charclass_class*)scan);
1188                     break;
1189                 case ALNUM:
1190                     if (flags & SCF_DO_STCLASS_AND) {
1191                         if (!(data->start_class->flags & ANYOF_LOCALE)) {
1192                             ANYOF_CLASS_CLEAR(data->start_class,ANYOF_NALNUM);
1193                             for (value = 0; value < 256; value++)
1194                                 if (!isALNUM(value))
1195                                     ANYOF_BITMAP_CLEAR(data->start_class, value);
1196                         }
1197                     }
1198                     else {
1199                         if (data->start_class->flags & ANYOF_LOCALE)
1200                             ANYOF_CLASS_SET(data->start_class,ANYOF_ALNUM);
1201                         else {
1202                             for (value = 0; value < 256; value++)
1203                                 if (isALNUM(value))
1204                                     ANYOF_BITMAP_SET(data->start_class, value);
1205                         }
1206                     }
1207                     break;
1208                 case ALNUML:
1209                     if (flags & SCF_DO_STCLASS_AND) {
1210                         if (data->start_class->flags & ANYOF_LOCALE)
1211                             ANYOF_CLASS_CLEAR(data->start_class,ANYOF_NALNUM);
1212                     }
1213                     else {
1214                         ANYOF_CLASS_SET(data->start_class,ANYOF_ALNUM);
1215                         data->start_class->flags |= ANYOF_LOCALE;
1216                     }
1217                     break;
1218                 case NALNUM:
1219                     if (flags & SCF_DO_STCLASS_AND) {
1220                         if (!(data->start_class->flags & ANYOF_LOCALE)) {
1221                             ANYOF_CLASS_CLEAR(data->start_class,ANYOF_ALNUM);
1222                             for (value = 0; value < 256; value++)
1223                                 if (isALNUM(value))
1224                                     ANYOF_BITMAP_CLEAR(data->start_class, value);
1225                         }
1226                     }
1227                     else {
1228                         if (data->start_class->flags & ANYOF_LOCALE)
1229                             ANYOF_CLASS_SET(data->start_class,ANYOF_NALNUM);
1230                         else {
1231                             for (value = 0; value < 256; value++)
1232                                 if (!isALNUM(value))
1233                                     ANYOF_BITMAP_SET(data->start_class, value);
1234                         }
1235                     }
1236                     break;
1237                 case NALNUML:
1238                     if (flags & SCF_DO_STCLASS_AND) {
1239                         if (data->start_class->flags & ANYOF_LOCALE)
1240                             ANYOF_CLASS_CLEAR(data->start_class,ANYOF_ALNUM);
1241                     }
1242                     else {
1243                         data->start_class->flags |= ANYOF_LOCALE;
1244                         ANYOF_CLASS_SET(data->start_class,ANYOF_NALNUM);
1245                     }
1246                     break;
1247                 case SPACE:
1248                     if (flags & SCF_DO_STCLASS_AND) {
1249                         if (!(data->start_class->flags & ANYOF_LOCALE)) {
1250                             ANYOF_CLASS_CLEAR(data->start_class,ANYOF_NSPACE);
1251                             for (value = 0; value < 256; value++)
1252                                 if (!isSPACE(value))
1253                                     ANYOF_BITMAP_CLEAR(data->start_class, value);
1254                         }
1255                     }
1256                     else {
1257                         if (data->start_class->flags & ANYOF_LOCALE)
1258                             ANYOF_CLASS_SET(data->start_class,ANYOF_SPACE);
1259                         else {
1260                             for (value = 0; value < 256; value++)
1261                                 if (isSPACE(value))
1262                                     ANYOF_BITMAP_SET(data->start_class, value);
1263                         }
1264                     }
1265                     break;
1266                 case SPACEL:
1267                     if (flags & SCF_DO_STCLASS_AND) {
1268                         if (data->start_class->flags & ANYOF_LOCALE)
1269                             ANYOF_CLASS_CLEAR(data->start_class,ANYOF_NSPACE);
1270                     }
1271                     else {
1272                         data->start_class->flags |= ANYOF_LOCALE;
1273                         ANYOF_CLASS_SET(data->start_class,ANYOF_SPACE);
1274                     }
1275                     break;
1276                 case NSPACE:
1277                     if (flags & SCF_DO_STCLASS_AND) {
1278                         if (!(data->start_class->flags & ANYOF_LOCALE)) {
1279                             ANYOF_CLASS_CLEAR(data->start_class,ANYOF_SPACE);
1280                             for (value = 0; value < 256; value++)
1281                                 if (isSPACE(value))
1282                                     ANYOF_BITMAP_CLEAR(data->start_class, value);
1283                         }
1284                     }
1285                     else {
1286                         if (data->start_class->flags & ANYOF_LOCALE)
1287                             ANYOF_CLASS_SET(data->start_class,ANYOF_NSPACE);
1288                         else {
1289                             for (value = 0; value < 256; value++)
1290                                 if (!isSPACE(value))
1291                                     ANYOF_BITMAP_SET(data->start_class, value);
1292                         }
1293                     }
1294                     break;
1295                 case NSPACEL:
1296                     if (flags & SCF_DO_STCLASS_AND) {
1297                         if (data->start_class->flags & ANYOF_LOCALE) {
1298                             ANYOF_CLASS_CLEAR(data->start_class,ANYOF_SPACE);
1299                             for (value = 0; value < 256; value++)
1300                                 if (!isSPACE(value))
1301                                     ANYOF_BITMAP_CLEAR(data->start_class, value);
1302                         }
1303                     }
1304                     else {
1305                         data->start_class->flags |= ANYOF_LOCALE;
1306                         ANYOF_CLASS_SET(data->start_class,ANYOF_NSPACE);
1307                     }
1308                     break;
1309                 case DIGIT:
1310                     if (flags & SCF_DO_STCLASS_AND) {
1311                         ANYOF_CLASS_CLEAR(data->start_class,ANYOF_NDIGIT);
1312                         for (value = 0; value < 256; value++)
1313                             if (!isDIGIT(value))
1314                                 ANYOF_BITMAP_CLEAR(data->start_class, value);
1315                     }
1316                     else {
1317                         if (data->start_class->flags & ANYOF_LOCALE)
1318                             ANYOF_CLASS_SET(data->start_class,ANYOF_DIGIT);
1319                         else {
1320                             for (value = 0; value < 256; value++)
1321                                 if (isDIGIT(value))
1322                                     ANYOF_BITMAP_SET(data->start_class, value);
1323                         }
1324                     }
1325                     break;
1326                 case NDIGIT:
1327                     if (flags & SCF_DO_STCLASS_AND) {
1328                         ANYOF_CLASS_CLEAR(data->start_class,ANYOF_DIGIT);
1329                         for (value = 0; value < 256; value++)
1330                             if (isDIGIT(value))
1331                                 ANYOF_BITMAP_CLEAR(data->start_class, value);
1332                     }
1333                     else {
1334                         if (data->start_class->flags & ANYOF_LOCALE)
1335                             ANYOF_CLASS_SET(data->start_class,ANYOF_NDIGIT);
1336                         else {
1337                             for (value = 0; value < 256; value++)
1338                                 if (!isDIGIT(value))
1339                                     ANYOF_BITMAP_SET(data->start_class, value);
1340                         }
1341                     }
1342                     break;
1343                 }
1344                 if (flags & SCF_DO_STCLASS_OR)
1345                     cl_and(data->start_class, &and_with);
1346                 flags &= ~SCF_DO_STCLASS;
1347             }
1348         }
1349         else if (PL_regkind[(U8)OP(scan)] == EOL && flags & SCF_DO_SUBSTR) {
1350             data->flags |= (OP(scan) == MEOL
1351                             ? SF_BEFORE_MEOL
1352                             : SF_BEFORE_SEOL);
1353         }
1354         else if (  PL_regkind[(U8)OP(scan)] == BRANCHJ
1355                  /* Lookbehind, or need to calculate parens/evals/stclass: */
1356                    && (scan->flags || data || (flags & SCF_DO_STCLASS))
1357                    && (OP(scan) == IFMATCH || OP(scan) == UNLESSM)) {
1358             /* Lookahead/lookbehind */
1359             I32 deltanext, minnext;
1360             regnode *nscan;
1361             struct regnode_charclass_class intrnl;
1362             int f = 0;
1363
1364             data_fake.flags = 0;
1365             if (data)
1366                 data_fake.whilem_c = data->whilem_c;
1367             if ( flags & SCF_DO_STCLASS && !scan->flags
1368                  && OP(scan) == IFMATCH ) { /* Lookahead */
1369                 cl_init(&intrnl);
1370                 data_fake.start_class = &intrnl;
1371                 f = SCF_DO_STCLASS_AND;
1372             }
1373             next = regnext(scan);
1374             nscan = NEXTOPER(NEXTOPER(scan));
1375             minnext = study_chunk(&nscan, &deltanext, last, &data_fake, f);
1376             if (scan->flags) {
1377                 if (deltanext) {
1378                     vFAIL("Variable length lookbehind not implemented");
1379                 }
1380                 else if (minnext > U8_MAX) {
1381                     vFAIL2("Lookbehind longer than %"UVuf" not implemented", (UV)U8_MAX);
1382                 }
1383                 scan->flags = minnext;
1384             }
1385             if (data && data_fake.flags & (SF_HAS_PAR|SF_IN_PAR))
1386                 pars++;
1387             if (data && (data_fake.flags & SF_HAS_EVAL))
1388                 data->flags |= SF_HAS_EVAL;
1389             if (data)
1390                 data->whilem_c = data_fake.whilem_c;
1391             if (f) {
1392                 int was = (data->start_class->flags & ANYOF_EOS);
1393
1394                 cl_and(data->start_class, &intrnl);
1395                 if (was)
1396                     data->start_class->flags |= ANYOF_EOS;
1397             }
1398         }
1399         else if (OP(scan) == OPEN) {
1400             pars++;
1401         }
1402         else if (OP(scan) == CLOSE && ARG(scan) == is_par) {
1403             next = regnext(scan);
1404
1405             if ( next && (OP(next) != WHILEM) && next < last)
1406                 is_par = 0;             /* Disable optimization */
1407         }
1408         else if (OP(scan) == EVAL) {
1409                 if (data)
1410                     data->flags |= SF_HAS_EVAL;
1411         }
1412         else if (OP(scan) == LOGICAL && scan->flags == 2) { /* Embedded follows */
1413                 if (flags & SCF_DO_SUBSTR) {
1414                     scan_commit(data);
1415                     data->longest = &(data->longest_float);
1416                 }
1417                 is_inf = is_inf_internal = 1;
1418                 if (flags & SCF_DO_STCLASS_OR) /* Allow everything */
1419                     cl_anything(data->start_class);
1420                 flags &= ~SCF_DO_STCLASS;
1421         }
1422         /* Else: zero-length, ignore. */
1423         scan = regnext(scan);
1424     }
1425
1426   finish:
1427     *scanp = scan;
1428     *deltap = is_inf_internal ? I32_MAX : delta;
1429     if (flags & SCF_DO_SUBSTR && is_inf)
1430         data->pos_delta = I32_MAX - data->pos_min;
1431     if (is_par > U8_MAX)
1432         is_par = 0;
1433     if (is_par && pars==1 && data) {
1434         data->flags |= SF_IN_PAR;
1435         data->flags &= ~SF_HAS_PAR;
1436     }
1437     else if (pars && data) {
1438         data->flags |= SF_HAS_PAR;
1439         data->flags &= ~SF_IN_PAR;
1440     }
1441     if (flags & SCF_DO_STCLASS_OR)
1442         cl_and(data->start_class, &and_with);
1443     return min;
1444 }
1445
1446 STATIC I32
1447 S_add_data(pTHX_ I32 n, char *s)
1448 {
1449     dTHR;
1450     if (PL_regcomp_rx->data) {
1451         Renewc(PL_regcomp_rx->data,
1452                sizeof(*PL_regcomp_rx->data) + sizeof(void*) * (PL_regcomp_rx->data->count + n - 1),
1453                char, struct reg_data);
1454         Renew(PL_regcomp_rx->data->what, PL_regcomp_rx->data->count + n, U8);
1455         PL_regcomp_rx->data->count += n;
1456     }
1457     else {
1458         Newc(1207, PL_regcomp_rx->data, sizeof(*PL_regcomp_rx->data) + sizeof(void*) * (n - 1),
1459              char, struct reg_data);
1460         New(1208, PL_regcomp_rx->data->what, n, U8);
1461         PL_regcomp_rx->data->count = n;
1462     }
1463     Copy(s, PL_regcomp_rx->data->what + PL_regcomp_rx->data->count - n, n, U8);
1464     return PL_regcomp_rx->data->count - n;
1465 }
1466
1467 void
1468 Perl_reginitcolors(pTHX)
1469 {
1470     dTHR;
1471     int i = 0;
1472     char *s = PerlEnv_getenv("PERL_RE_COLORS");
1473
1474     if (s) {
1475         PL_colors[0] = s = savepv(s);
1476         while (++i < 6) {
1477             s = strchr(s, '\t');
1478             if (s) {
1479                 *s = '\0';
1480                 PL_colors[i] = ++s;
1481             }
1482             else
1483                 PL_colors[i] = s = "";
1484         }
1485     } else {
1486         while (i < 6)
1487             PL_colors[i++] = "";
1488     }
1489     PL_colorset = 1;
1490 }
1491
1492
1493 /*
1494  - pregcomp - compile a regular expression into internal code
1495  *
1496  * We can't allocate space until we know how big the compiled form will be,
1497  * but we can't compile it (and thus know how big it is) until we've got a
1498  * place to put the code.  So we cheat:  we compile it twice, once with code
1499  * generation turned off and size counting turned on, and once "for real".
1500  * This also means that we don't allocate space until we are sure that the
1501  * thing really will compile successfully, and we never have to move the
1502  * code and thus invalidate pointers into it.  (Note that it has to be in
1503  * one piece because free() must be able to free it all.) [NB: not true in perl]
1504  *
1505  * Beware that the optimization-preparation code in here knows about some
1506  * of the structure of the compiled regexp.  [I'll say.]
1507  */
1508 regexp *
1509 Perl_pregcomp(pTHX_ char *exp, char *xend, PMOP *pm)
1510 {
1511     dTHR;
1512     register regexp *r;
1513     regnode *scan;
1514     regnode *first;
1515     I32 flags;
1516     I32 minlen = 0;
1517     I32 sawplus = 0;
1518     I32 sawopen = 0;
1519     scan_data_t data;
1520
1521     if (exp == NULL)
1522         FAIL("NULL regexp argument");
1523
1524     if (pm->op_pmdynflags & PMdf_UTF8) {
1525         PL_reg_flags |= RF_utf8;
1526     }
1527     else
1528         PL_reg_flags = 0;
1529
1530     PL_regprecomp = savepvn(exp, xend - exp);
1531     DEBUG_r(if (!PL_colorset) reginitcolors());
1532     DEBUG_r(PerlIO_printf(Perl_debug_log, "%sCompiling REx%s `%s%*s%s'\n",
1533                       PL_colors[4],PL_colors[5],PL_colors[0],
1534                       (int)(xend - exp), PL_regprecomp, PL_colors[1]));
1535     PL_regflags = pm->op_pmflags;
1536     PL_regsawback = 0;
1537
1538     PL_regseen = 0;
1539     PL_seen_zerolen = *exp == '^' ? -1 : 0;
1540     PL_seen_evals = 0;
1541     PL_extralen = 0;
1542
1543     /* First pass: determine size, legality. */
1544     PL_regcomp_parse = exp;
1545     PL_regxend = xend;
1546     PL_regnaughty = 0;
1547     PL_regnpar = 1;
1548     PL_regsize = 0L;
1549     PL_regcode = &PL_regdummy;
1550     PL_reg_whilem_seen = 0;
1551 #if 0 /* REGC() is (currently) a NOP at the first pass.
1552        * Clever compilers notice this and complain. --jhi */
1553     REGC((U8)REG_MAGIC, (char*)PL_regcode);
1554 #endif
1555     if (reg(0, &flags) == NULL) {
1556         Safefree(PL_regprecomp);
1557         PL_regprecomp = Nullch;
1558         return(NULL);
1559     }
1560     DEBUG_r(PerlIO_printf(Perl_debug_log, "size %"IVdf" ", (IV)PL_regsize));
1561
1562     /* Small enough for pointer-storage convention?
1563        If extralen==0, this means that we will not need long jumps. */
1564     if (PL_regsize >= 0x10000L && PL_extralen)
1565         PL_regsize += PL_extralen;
1566     else
1567         PL_extralen = 0;
1568     if (PL_reg_whilem_seen > 15)
1569         PL_reg_whilem_seen = 15;
1570
1571     /* Allocate space and initialize. */
1572     Newc(1001, r, sizeof(regexp) + (unsigned)PL_regsize * sizeof(regnode),
1573          char, regexp);
1574     if (r == NULL)
1575         FAIL("Regexp out of space");
1576
1577 #ifdef DEBUGGING
1578     /* avoid reading uninitialized memory in DEBUGGING code in study_chunk() */
1579     Zero(r, sizeof(regexp) + (unsigned)PL_regsize * sizeof(regnode), char);
1580 #endif
1581     r->refcnt = 1;
1582     r->prelen = xend - exp;
1583     r->precomp = PL_regprecomp;
1584     r->subbeg = NULL;
1585     r->reganch = pm->op_pmflags & PMf_COMPILETIME;
1586     r->nparens = PL_regnpar - 1;        /* set early to validate backrefs */
1587
1588     r->substrs = 0;                     /* Useful during FAIL. */
1589     r->startp = 0;                      /* Useful during FAIL. */
1590     r->endp = 0;                        /* Useful during FAIL. */
1591
1592     PL_regcomp_rx = r;
1593
1594     /* Second pass: emit code. */
1595     PL_regcomp_parse = exp;
1596     PL_regxend = xend;
1597     PL_regnaughty = 0;
1598     PL_regnpar = 1;
1599     PL_regcode = r->program;
1600     /* Store the count of eval-groups for security checks: */
1601     PL_regcode->next_off = ((PL_seen_evals > U16_MAX) ? U16_MAX : PL_seen_evals);
1602     REGC((U8)REG_MAGIC, (char*) PL_regcode++);
1603     r->data = 0;
1604     if (reg(0, &flags) == NULL)
1605         return(NULL);
1606
1607     /* Dig out information for optimizations. */
1608     r->reganch = pm->op_pmflags & PMf_COMPILETIME; /* Again? */
1609     pm->op_pmflags = PL_regflags;
1610     if (UTF)
1611         r->reganch |= ROPT_UTF8;
1612     r->regstclass = NULL;
1613     if (PL_regnaughty >= 10)    /* Probably an expensive pattern. */
1614         r->reganch |= ROPT_NAUGHTY;
1615     scan = r->program + 1;              /* First BRANCH. */
1616
1617     /* XXXX To minimize changes to RE engine we always allocate
1618        3-units-long substrs field. */
1619     Newz(1004, r->substrs, 1, struct reg_substr_data);
1620
1621     StructCopy(&zero_scan_data, &data, scan_data_t);
1622     /* XXXX Should not we check for something else?  Usually it is OPEN1... */
1623     if (OP(scan) != BRANCH) {   /* Only one top-level choice. */
1624         I32 fake;
1625         STRLEN longest_float_length, longest_fixed_length;
1626         struct regnode_charclass_class ch_class;
1627         int stclass_flag;
1628
1629         first = scan;
1630         /* Skip introductions and multiplicators >= 1. */
1631         while ((OP(first) == OPEN && (sawopen = 1)) ||
1632                /* An OR of *one* alternative - should not happen now. */
1633             (OP(first) == BRANCH && OP(regnext(first)) != BRANCH) ||
1634             (OP(first) == PLUS) ||
1635             (OP(first) == MINMOD) ||
1636                /* An {n,m} with n>0 */
1637             (PL_regkind[(U8)OP(first)] == CURLY && ARG1(first) > 0) ) {
1638                 if (OP(first) == PLUS)
1639                     sawplus = 1;
1640                 else
1641                     first += regarglen[(U8)OP(first)];
1642                 first = NEXTOPER(first);
1643         }
1644
1645         /* Starting-point info. */
1646       again:
1647         if (PL_regkind[(U8)OP(first)] == EXACT) {
1648             if (OP(first) == EXACT);    /* Empty, get anchored substr later. */
1649             else if ((OP(first) == EXACTF || OP(first) == EXACTFL)
1650                      && !UTF)
1651                 r->regstclass = first;
1652         }
1653         else if (strchr((char*)PL_simple,OP(first)))
1654             r->regstclass = first;
1655         else if (PL_regkind[(U8)OP(first)] == BOUND ||
1656                  PL_regkind[(U8)OP(first)] == NBOUND)
1657             r->regstclass = first;
1658         else if (PL_regkind[(U8)OP(first)] == BOL) {
1659             r->reganch |= (OP(first) == MBOL
1660                            ? ROPT_ANCH_MBOL
1661                            : (OP(first) == SBOL
1662                               ? ROPT_ANCH_SBOL
1663                               : ROPT_ANCH_BOL));
1664             first = NEXTOPER(first);
1665             goto again;
1666         }
1667         else if (OP(first) == GPOS) {
1668             r->reganch |= ROPT_ANCH_GPOS;
1669             first = NEXTOPER(first);
1670             goto again;
1671         }
1672         else if ((OP(first) == STAR &&
1673             PL_regkind[(U8)OP(NEXTOPER(first))] == REG_ANY) &&
1674             !(r->reganch & ROPT_ANCH) )
1675         {
1676             /* turn .* into ^.* with an implied $*=1 */
1677             int type = OP(NEXTOPER(first));
1678
1679             if (type == REG_ANY || type == ANYUTF8)
1680                 type = ROPT_ANCH_MBOL;
1681             else
1682                 type = ROPT_ANCH_SBOL;
1683
1684             r->reganch |= type | ROPT_IMPLICIT;
1685             first = NEXTOPER(first);
1686             goto again;
1687         }
1688         if (sawplus && (!sawopen || !PL_regsawback)
1689             && !(PL_regseen & REG_SEEN_EVAL)) /* May examine pos and $& */
1690             /* x+ must match at the 1st pos of run of x's */
1691             r->reganch |= ROPT_SKIP;
1692
1693         /* Scan is after the zeroth branch, first is atomic matcher. */
1694         DEBUG_r(PerlIO_printf(Perl_debug_log, "first at %"IVdf"\n",
1695                               (IV)(first - scan + 1)));
1696         /*
1697         * If there's something expensive in the r.e., find the
1698         * longest literal string that must appear and make it the
1699         * regmust.  Resolve ties in favor of later strings, since
1700         * the regstart check works with the beginning of the r.e.
1701         * and avoiding duplication strengthens checking.  Not a
1702         * strong reason, but sufficient in the absence of others.
1703         * [Now we resolve ties in favor of the earlier string if
1704         * it happens that c_offset_min has been invalidated, since the
1705         * earlier string may buy us something the later one won't.]
1706         */
1707         minlen = 0;
1708
1709         data.longest_fixed = newSVpvn("",0);
1710         data.longest_float = newSVpvn("",0);
1711         data.last_found = newSVpvn("",0);
1712         data.longest = &(data.longest_fixed);
1713         first = scan;
1714         if (!r->regstclass) {
1715             cl_init(&ch_class);
1716             data.start_class = &ch_class;
1717             stclass_flag = SCF_DO_STCLASS_AND;
1718         } else                          /* XXXX Check for BOUND? */
1719             stclass_flag = 0;
1720
1721         minlen = study_chunk(&first, &fake, scan + PL_regsize, /* Up to end */
1722                              &data, SCF_DO_SUBSTR | stclass_flag);
1723         if ( PL_regnpar == 1 && data.longest == &(data.longest_fixed)
1724              && data.last_start_min == 0 && data.last_end > 0
1725              && !PL_seen_zerolen
1726              && (!(PL_regseen & REG_SEEN_GPOS) || (r->reganch & ROPT_ANCH_GPOS)))
1727             r->reganch |= ROPT_CHECK_ALL;
1728         scan_commit(&data);
1729         SvREFCNT_dec(data.last_found);
1730
1731         longest_float_length = CHR_SVLEN(data.longest_float);
1732         if (longest_float_length
1733             || (data.flags & SF_FL_BEFORE_EOL
1734                 && (!(data.flags & SF_FL_BEFORE_MEOL)
1735                     || (PL_regflags & PMf_MULTILINE)))) {
1736             int t;
1737
1738             if (SvCUR(data.longest_fixed)                       /* ok to leave SvCUR */
1739                 && data.offset_fixed == data.offset_float_min
1740                 && SvCUR(data.longest_fixed) == SvCUR(data.longest_float))
1741                     goto remove_float;          /* As in (a)+. */
1742
1743             r->float_substr = data.longest_float;
1744             r->float_min_offset = data.offset_float_min;
1745             r->float_max_offset = data.offset_float_max;
1746             t = (data.flags & SF_FL_BEFORE_EOL /* Can't have SEOL and MULTI */
1747                        && (!(data.flags & SF_FL_BEFORE_MEOL)
1748                            || (PL_regflags & PMf_MULTILINE)));
1749             fbm_compile(r->float_substr, t ? FBMcf_TAIL : 0);
1750         }
1751         else {
1752           remove_float:
1753             r->float_substr = Nullsv;
1754             SvREFCNT_dec(data.longest_float);
1755             longest_float_length = 0;
1756         }
1757
1758         longest_fixed_length = CHR_SVLEN(data.longest_fixed);
1759         if (longest_fixed_length
1760             || (data.flags & SF_FIX_BEFORE_EOL /* Cannot have SEOL and MULTI */
1761                 && (!(data.flags & SF_FIX_BEFORE_MEOL)
1762                     || (PL_regflags & PMf_MULTILINE)))) {
1763             int t;
1764
1765             r->anchored_substr = data.longest_fixed;
1766             r->anchored_offset = data.offset_fixed;
1767             t = (data.flags & SF_FIX_BEFORE_EOL /* Can't have SEOL and MULTI */
1768                  && (!(data.flags & SF_FIX_BEFORE_MEOL)
1769                      || (PL_regflags & PMf_MULTILINE)));
1770             fbm_compile(r->anchored_substr, t ? FBMcf_TAIL : 0);
1771         }
1772         else {
1773             r->anchored_substr = Nullsv;
1774             SvREFCNT_dec(data.longest_fixed);
1775             longest_fixed_length = 0;
1776         }
1777         if (r->regstclass
1778             && (OP(r->regstclass) == REG_ANY || OP(r->regstclass) == ANYUTF8
1779                 || OP(r->regstclass) == SANYUTF8 || OP(r->regstclass) == SANY))
1780             r->regstclass = NULL;
1781         if ((!r->anchored_substr || r->anchored_offset) && stclass_flag
1782             && !(data.start_class->flags & ANYOF_EOS)
1783             && !cl_is_anything(data.start_class)) {
1784             SV *sv;
1785             I32 n = add_data(1, "f");
1786
1787             New(1006, PL_regcomp_rx->data->data[n], 1,
1788                 struct regnode_charclass_class);
1789             StructCopy(data.start_class,
1790                        (struct regnode_charclass_class*)PL_regcomp_rx->data->data[n],
1791                        struct regnode_charclass_class);
1792             r->regstclass = (regnode*)PL_regcomp_rx->data->data[n];
1793             r->reganch &= ~ROPT_SKIP;   /* Used in find_byclass(). */
1794             DEBUG_r((sv = sv_newmortal(),
1795                      regprop(sv, (regnode*)data.start_class),
1796                      PerlIO_printf(Perl_debug_log, "synthetic stclass `%s'.\n",
1797                                    SvPVX(sv))));
1798         }
1799
1800         /* A temporary algorithm prefers floated substr to fixed one to dig more info. */
1801         if (longest_fixed_length > longest_float_length) {
1802             r->check_substr = r->anchored_substr;
1803             r->check_offset_min = r->check_offset_max = r->anchored_offset;
1804             if (r->reganch & ROPT_ANCH_SINGLE)
1805                 r->reganch |= ROPT_NOSCAN;
1806         }
1807         else {
1808             r->check_substr = r->float_substr;
1809             r->check_offset_min = data.offset_float_min;
1810             r->check_offset_max = data.offset_float_max;
1811         }
1812         /* XXXX Currently intuiting is not compatible with ANCH_GPOS.
1813            This should be changed ASAP!  */
1814         if (r->check_substr && !(r->reganch & ROPT_ANCH_GPOS)) {
1815             r->reganch |= RE_USE_INTUIT;
1816             if (SvTAIL(r->check_substr))
1817                 r->reganch |= RE_INTUIT_TAIL;
1818         }
1819     }
1820     else {
1821         /* Several toplevels. Best we can is to set minlen. */
1822         I32 fake;
1823         struct regnode_charclass_class ch_class;
1824
1825         DEBUG_r(PerlIO_printf(Perl_debug_log, "\n"));
1826         scan = r->program + 1;
1827         cl_init(&ch_class);
1828         data.start_class = &ch_class;
1829         minlen = study_chunk(&scan, &fake, scan + PL_regsize, &data, SCF_DO_STCLASS_AND);
1830         r->check_substr = r->anchored_substr = r->float_substr = Nullsv;
1831         if (!(data.start_class->flags & ANYOF_EOS)
1832             && !cl_is_anything(data.start_class)) {
1833             SV *sv;
1834             I32 n = add_data(1, "f");
1835
1836             New(1006, PL_regcomp_rx->data->data[n], 1,
1837                 struct regnode_charclass_class);
1838             StructCopy(data.start_class,
1839                        (struct regnode_charclass_class*)PL_regcomp_rx->data->data[n],
1840                        struct regnode_charclass_class);
1841             r->regstclass = (regnode*)PL_regcomp_rx->data->data[n];
1842             r->reganch &= ~ROPT_SKIP;   /* Used in find_byclass(). */
1843             DEBUG_r((sv = sv_newmortal(),
1844                      regprop(sv, (regnode*)data.start_class),
1845                      PerlIO_printf(Perl_debug_log, "synthetic stclass `%s'.\n",
1846                                    SvPVX(sv))));
1847         }
1848     }
1849
1850     r->minlen = minlen;
1851     if (PL_regseen & REG_SEEN_GPOS)
1852         r->reganch |= ROPT_GPOS_SEEN;
1853     if (PL_regseen & REG_SEEN_LOOKBEHIND)
1854         r->reganch |= ROPT_LOOKBEHIND_SEEN;
1855     if (PL_regseen & REG_SEEN_EVAL)
1856         r->reganch |= ROPT_EVAL_SEEN;
1857     Newz(1002, r->startp, PL_regnpar, I32);
1858     Newz(1002, r->endp, PL_regnpar, I32);
1859     DEBUG_r(regdump(r));
1860     return(r);
1861 }
1862
1863 /*
1864  - reg - regular expression, i.e. main body or parenthesized thing
1865  *
1866  * Caller must absorb opening parenthesis.
1867  *
1868  * Combining parenthesis handling with the base level of regular expression
1869  * is a trifle forced, but the need to tie the tails of the branches to what
1870  * follows makes it hard to avoid.
1871  */
1872 STATIC regnode *
1873 S_reg(pTHX_ I32 paren, I32 *flagp)
1874     /* paren: Parenthesized? 0=top, 1=(, inside: changed to letter. */
1875 {
1876     dTHR;
1877     register regnode *ret;              /* Will be the head of the group. */
1878     register regnode *br;
1879     register regnode *lastbr;
1880     register regnode *ender = 0;
1881     register I32 parno = 0;
1882     I32 flags, oregflags = PL_regflags, have_branch = 0, open = 0;
1883     char *oregcomp_parse = PL_regcomp_parse;
1884     char c;
1885
1886     *flagp = 0;                         /* Tentatively. */
1887
1888     /* Make an OPEN node, if parenthesized. */
1889     if (paren) {
1890         if (*PL_regcomp_parse == '?') {
1891             U16 posflags = 0, negflags = 0;
1892             U16 *flagsp = &posflags;
1893             int logical = 0;
1894             char *seqstart = PL_regcomp_parse;
1895
1896             PL_regcomp_parse++;
1897             paren = *PL_regcomp_parse++;
1898             ret = NULL;                 /* For look-ahead/behind. */
1899             switch (paren) {
1900             case '<':
1901                 PL_regseen |= REG_SEEN_LOOKBEHIND;
1902                 if (*PL_regcomp_parse == '!')
1903                     paren = ',';
1904                 if (*PL_regcomp_parse != '=' && *PL_regcomp_parse != '!')
1905                     goto unknown;
1906                 PL_regcomp_parse++;
1907             case '=':
1908             case '!':
1909                 PL_seen_zerolen++;
1910             case ':':
1911             case '>':
1912                 break;
1913             case '$':
1914             case '@':
1915                 vFAIL2("Sequence (?%c...) not implemented", (int)paren);
1916                 break;
1917             case '#':
1918                 while (*PL_regcomp_parse && *PL_regcomp_parse != ')')
1919                     PL_regcomp_parse++;
1920                 if (*PL_regcomp_parse != ')')
1921                     FAIL("Sequence (?#... not terminated");
1922                 nextchar();
1923                 *flagp = TRYAGAIN;
1924                 return NULL;
1925             case 'p':
1926                 if (SIZE_ONLY)
1927                     vWARN(PL_regcomp_parse, "(?p{}) is deprecated - use (??{})");
1928                 /* FALL THROUGH*/
1929             case '?':
1930                 logical = 1;
1931                 paren = *PL_regcomp_parse++;
1932                 /* FALL THROUGH */
1933             case '{':
1934             {
1935                 dTHR;
1936                 I32 count = 1, n = 0;
1937                 char c;
1938                 char *s = PL_regcomp_parse;
1939                 SV *sv;
1940                 OP_4tree *sop, *rop;
1941
1942                 PL_seen_zerolen++;
1943                 PL_regseen |= REG_SEEN_EVAL;
1944                 while (count && (c = *PL_regcomp_parse)) {
1945                     if (c == '\\' && PL_regcomp_parse[1])
1946                         PL_regcomp_parse++;
1947                     else if (c == '{')
1948                         count++;
1949                     else if (c == '}')
1950                         count--;
1951                     PL_regcomp_parse++;
1952                 }
1953                 if (*PL_regcomp_parse != ')')
1954                 {
1955                     PL_regcomp_parse = s;
1956                     vFAIL("Sequence (?{...}) not terminated or not {}-balanced");
1957                 }
1958                 if (!SIZE_ONLY) {
1959                     AV *av;
1960
1961                     if (PL_regcomp_parse - 1 - s)
1962                         sv = newSVpvn(s, PL_regcomp_parse - 1 - s);
1963                     else
1964                         sv = newSVpvn("", 0);
1965
1966                     rop = sv_compile_2op(sv, &sop, "re", &av);
1967
1968                     n = add_data(3, "nop");
1969                     PL_regcomp_rx->data->data[n] = (void*)rop;
1970                     PL_regcomp_rx->data->data[n+1] = (void*)sop;
1971                     PL_regcomp_rx->data->data[n+2] = (void*)av;
1972                     SvREFCNT_dec(sv);
1973                 }
1974                 else {                                          /* First pass */
1975                     if (PL_reginterp_cnt < ++PL_seen_evals
1976                         && PL_curcop != &PL_compiling)
1977                         /* No compiled RE interpolated, has runtime
1978                            components ===> unsafe.  */
1979                         FAIL("Eval-group not allowed at runtime, use re 'eval'");
1980                     if (PL_tainted)
1981                         FAIL("Eval-group in insecure regular expression");
1982                 }
1983
1984                 nextchar();
1985                 if (logical) {
1986                     ret = reg_node(LOGICAL);
1987                     if (!SIZE_ONLY)
1988                         ret->flags = 2;
1989                     regtail(ret, reganode(EVAL, n));
1990                     return ret;
1991                 }
1992                 return reganode(EVAL, n);
1993             }
1994             case '(':
1995             {
1996                 if (PL_regcomp_parse[0] == '?') {
1997                     if (PL_regcomp_parse[1] == '=' || PL_regcomp_parse[1] == '!'
1998                         || PL_regcomp_parse[1] == '<'
1999                         || PL_regcomp_parse[1] == '{') { /* Lookahead or eval. */
2000                         I32 flag;
2001
2002                         ret = reg_node(LOGICAL);
2003                         if (!SIZE_ONLY)
2004                             ret->flags = 1;
2005                         regtail(ret, reg(1, &flag));
2006                         goto insert_if;
2007                     }
2008                 }
2009                 else if (PL_regcomp_parse[0] >= '1' && PL_regcomp_parse[0] <= '9' ) {
2010                     parno = atoi(PL_regcomp_parse++);
2011
2012                     while (isDIGIT(*PL_regcomp_parse))
2013                         PL_regcomp_parse++;
2014                     ret = reganode(GROUPP, parno);
2015                     if ((c = *nextchar()) != ')')
2016                         vFAIL("Switch condition not recognized");
2017                   insert_if:
2018                     regtail(ret, reganode(IFTHEN, 0));
2019                     br = regbranch(&flags, 1);
2020                     if (br == NULL)
2021                         br = reganode(LONGJMP, 0);
2022                     else
2023                         regtail(br, reganode(LONGJMP, 0));
2024                     c = *nextchar();
2025                     if (flags&HASWIDTH)
2026                         *flagp |= HASWIDTH;
2027                     if (c == '|') {
2028                         lastbr = reganode(IFTHEN, 0); /* Fake one for optimizer. */
2029                         regbranch(&flags, 1);
2030                         regtail(ret, lastbr);
2031                         if (flags&HASWIDTH)
2032                             *flagp |= HASWIDTH;
2033                         c = *nextchar();
2034                     }
2035                     else
2036                         lastbr = NULL;
2037                     if (c != ')')
2038                         vFAIL("Switch (?(condition)... contains too many branches");
2039                     ender = reg_node(TAIL);
2040                     regtail(br, ender);
2041                     if (lastbr) {
2042                         regtail(lastbr, ender);
2043                         regtail(NEXTOPER(NEXTOPER(lastbr)), ender);
2044                     }
2045                     else
2046                         regtail(ret, ender);
2047                     return ret;
2048                 }
2049                 else {
2050                     vFAIL2("Unknown switch condition (?(%.2s", PL_regcomp_parse);
2051                 }
2052             }
2053             case 0:
2054                 PL_regcomp_parse--; /* for vFAIL to print correctly */
2055                 vFAIL("Sequence (? incomplete");
2056                 break;
2057             default:
2058                 --PL_regcomp_parse;
2059               parse_flags:
2060                 while (*PL_regcomp_parse && strchr("iogcmsx", *PL_regcomp_parse)) {
2061                     if (*PL_regcomp_parse != 'o')
2062                         pmflag(flagsp, *PL_regcomp_parse);
2063                     ++PL_regcomp_parse;
2064                 }
2065                 if (*PL_regcomp_parse == '-') {
2066                     flagsp = &negflags;
2067                     ++PL_regcomp_parse;
2068                     goto parse_flags;
2069                 }
2070                 PL_regflags |= posflags;
2071                 PL_regflags &= ~negflags;
2072                 if (*PL_regcomp_parse == ':') {
2073                     PL_regcomp_parse++;
2074                     paren = ':';
2075                     break;
2076                 }
2077               unknown:
2078                 if (*PL_regcomp_parse != ')') {
2079                     PL_regcomp_parse++;
2080                     vFAIL3("Sequence (%.*s...) not recognized", PL_regcomp_parse-seqstart, seqstart);
2081                 }
2082                 nextchar();
2083                 *flagp = TRYAGAIN;
2084                 return NULL;
2085             }
2086         }
2087         else {
2088             parno = PL_regnpar;
2089             PL_regnpar++;
2090             ret = reganode(OPEN, parno);
2091             open = 1;
2092         }
2093     }
2094     else
2095         ret = NULL;
2096
2097     /* Pick up the branches, linking them together. */
2098     br = regbranch(&flags, 1);
2099     if (br == NULL)
2100         return(NULL);
2101     if (*PL_regcomp_parse == '|') {
2102         if (!SIZE_ONLY && PL_extralen) {
2103             reginsert(BRANCHJ, br);
2104         }
2105         else
2106             reginsert(BRANCH, br);
2107         have_branch = 1;
2108         if (SIZE_ONLY)
2109             PL_extralen += 1;           /* For BRANCHJ-BRANCH. */
2110     }
2111     else if (paren == ':') {
2112         *flagp |= flags&SIMPLE;
2113     }
2114     if (open) {                         /* Starts with OPEN. */
2115         regtail(ret, br);               /* OPEN -> first. */
2116     }
2117     else if (paren != '?')              /* Not Conditional */
2118         ret = br;
2119     if (flags&HASWIDTH)
2120         *flagp |= HASWIDTH;
2121     *flagp |= flags&SPSTART;
2122     lastbr = br;
2123     while (*PL_regcomp_parse == '|') {
2124         if (!SIZE_ONLY && PL_extralen) {
2125             ender = reganode(LONGJMP,0);
2126             regtail(NEXTOPER(NEXTOPER(lastbr)), ender); /* Append to the previous. */
2127         }
2128         if (SIZE_ONLY)
2129             PL_extralen += 2;           /* Account for LONGJMP. */
2130         nextchar();
2131         br = regbranch(&flags, 0);
2132         if (br == NULL)
2133             return(NULL);
2134         regtail(lastbr, br);            /* BRANCH -> BRANCH. */
2135         lastbr = br;
2136         if (flags&HASWIDTH)
2137             *flagp |= HASWIDTH;
2138         *flagp |= flags&SPSTART;
2139     }
2140
2141     if (have_branch || paren != ':') {
2142         /* Make a closing node, and hook it on the end. */
2143         switch (paren) {
2144         case ':':
2145             ender = reg_node(TAIL);
2146             break;
2147         case 1:
2148             ender = reganode(CLOSE, parno);
2149             break;
2150         case '<':
2151         case ',':
2152         case '=':
2153         case '!':
2154             *flagp &= ~HASWIDTH;
2155             /* FALL THROUGH */
2156         case '>':
2157             ender = reg_node(SUCCEED);
2158             break;
2159         case 0:
2160             ender = reg_node(END);
2161             break;
2162         }
2163         regtail(lastbr, ender);
2164
2165         if (have_branch) {
2166             /* Hook the tails of the branches to the closing node. */
2167             for (br = ret; br != NULL; br = regnext(br)) {
2168                 regoptail(br, ender);
2169             }
2170         }
2171     }
2172
2173     {
2174         char *p;
2175         static char parens[] = "=!<,>";
2176
2177         if (paren && (p = strchr(parens, paren))) {
2178             int node = ((p - parens) % 2) ? UNLESSM : IFMATCH;
2179             int flag = (p - parens) > 1;
2180
2181             if (paren == '>')
2182                 node = SUSPEND, flag = 0;
2183             reginsert(node,ret);
2184             ret->flags = flag;
2185             regtail(ret, reg_node(TAIL));
2186         }
2187     }
2188
2189     /* Check for proper termination. */
2190     if (paren) {
2191         PL_regflags = oregflags;
2192         if (PL_regcomp_parse >= PL_regxend || *nextchar() != ')') {
2193             PL_regcomp_parse = oregcomp_parse;
2194             vFAIL("Unmatched (");
2195         }
2196     }
2197     else if (!paren && PL_regcomp_parse < PL_regxend) {
2198         if (*PL_regcomp_parse == ')') {
2199             PL_regcomp_parse++;
2200             vFAIL("Unmatched )");
2201         }
2202         else
2203             FAIL("Junk on end of regexp");      /* "Can't happen". */
2204         /* NOTREACHED */
2205     }
2206
2207     return(ret);
2208 }
2209
2210 /*
2211  - regbranch - one alternative of an | operator
2212  *
2213  * Implements the concatenation operator.
2214  */
2215 STATIC regnode *
2216 S_regbranch(pTHX_ I32 *flagp, I32 first)
2217 {
2218     dTHR;
2219     register regnode *ret;
2220     register regnode *chain = NULL;
2221     register regnode *latest;
2222     I32 flags = 0, c = 0;
2223
2224     if (first)
2225         ret = NULL;
2226     else {
2227         if (!SIZE_ONLY && PL_extralen)
2228             ret = reganode(BRANCHJ,0);
2229         else
2230             ret = reg_node(BRANCH);
2231     }
2232
2233     if (!first && SIZE_ONLY)
2234         PL_extralen += 1;                       /* BRANCHJ */
2235
2236     *flagp = WORST;                     /* Tentatively. */
2237
2238     PL_regcomp_parse--;
2239     nextchar();
2240     while (PL_regcomp_parse < PL_regxend && *PL_regcomp_parse != '|' && *PL_regcomp_parse != ')') {
2241         flags &= ~TRYAGAIN;
2242         latest = regpiece(&flags);
2243         if (latest == NULL) {
2244             if (flags & TRYAGAIN)
2245                 continue;
2246             return(NULL);
2247         }
2248         else if (ret == NULL)
2249             ret = latest;
2250         *flagp |= flags&HASWIDTH;
2251         if (chain == NULL)      /* First piece. */
2252             *flagp |= flags&SPSTART;
2253         else {
2254             PL_regnaughty++;
2255             regtail(chain, latest);
2256         }
2257         chain = latest;
2258         c++;
2259     }
2260     if (chain == NULL) {        /* Loop ran zero times. */
2261         chain = reg_node(NOTHING);
2262         if (ret == NULL)
2263             ret = chain;
2264     }
2265     if (c == 1) {
2266         *flagp |= flags&SIMPLE;
2267     }
2268
2269     return(ret);
2270 }
2271
2272 /*
2273  - regpiece - something followed by possible [*+?]
2274  *
2275  * Note that the branching code sequences used for ? and the general cases
2276  * of * and + are somewhat optimized:  they use the same NOTHING node as
2277  * both the endmarker for their branch list and the body of the last branch.
2278  * It might seem that this node could be dispensed with entirely, but the
2279  * endmarker role is not redundant.
2280  */
2281 STATIC regnode *
2282 S_regpiece(pTHX_ I32 *flagp)
2283 {
2284     dTHR;
2285     register regnode *ret;
2286     register char op;
2287     register char *next;
2288     I32 flags;
2289     char *origparse = PL_regcomp_parse;
2290     char *maxpos;
2291     I32 min;
2292     I32 max = REG_INFTY;
2293
2294     ret = regatom(&flags);
2295     if (ret == NULL) {
2296         if (flags & TRYAGAIN)
2297             *flagp |= TRYAGAIN;
2298         return(NULL);
2299     }
2300
2301     op = *PL_regcomp_parse;
2302
2303     if (op == '{' && regcurly(PL_regcomp_parse)) {
2304         next = PL_regcomp_parse + 1;
2305         maxpos = Nullch;
2306         while (isDIGIT(*next) || *next == ',') {
2307             if (*next == ',') {
2308                 if (maxpos)
2309                     break;
2310                 else
2311                     maxpos = next;
2312             }
2313             next++;
2314         }
2315         if (*next == '}') {             /* got one */
2316             if (!maxpos)
2317                 maxpos = next;
2318             PL_regcomp_parse++;
2319             min = atoi(PL_regcomp_parse);
2320             if (*maxpos == ',')
2321                 maxpos++;
2322             else
2323                 maxpos = PL_regcomp_parse;
2324             max = atoi(maxpos);
2325             if (!max && *maxpos != '0')
2326                 max = REG_INFTY;                /* meaning "infinity" */
2327             else if (max >= REG_INFTY)
2328                 vFAIL2("Quantifier in {,} bigger than %d", REG_INFTY - 1);
2329             PL_regcomp_parse = next;
2330             nextchar();
2331
2332         do_curly:
2333             if ((flags&SIMPLE)) {
2334                 PL_regnaughty += 2 + PL_regnaughty / 2;
2335                 reginsert(CURLY, ret);
2336             }
2337             else {
2338                 regnode *w = reg_node(WHILEM);
2339
2340                 w->flags = 0;
2341                 regtail(ret, w);
2342                 if (!SIZE_ONLY && PL_extralen) {
2343                     reginsert(LONGJMP,ret);
2344                     reginsert(NOTHING,ret);
2345                     NEXT_OFF(ret) = 3;  /* Go over LONGJMP. */
2346                 }
2347                 reginsert(CURLYX,ret);
2348                 if (!SIZE_ONLY && PL_extralen)
2349                     NEXT_OFF(ret) = 3;  /* Go over NOTHING to LONGJMP. */
2350                 regtail(ret, reg_node(NOTHING));
2351                 if (SIZE_ONLY)
2352                     PL_reg_whilem_seen++, PL_extralen += 3;
2353                 PL_regnaughty += 4 + PL_regnaughty;     /* compound interest */
2354             }
2355             ret->flags = 0;
2356
2357             if (min > 0)
2358                 *flagp = WORST;
2359             if (max > 0)
2360                 *flagp |= HASWIDTH;
2361             if (max && max < min)
2362                 vFAIL("Can't do {n,m} with n > m");
2363             if (!SIZE_ONLY) {
2364                 ARG1_SET(ret, min);
2365                 ARG2_SET(ret, max);
2366             }
2367
2368             goto nest_check;
2369         }
2370     }
2371
2372     if (!ISMULT1(op)) {
2373         *flagp = flags;
2374         return(ret);
2375     }
2376
2377 #if 0                           /* Now runtime fix should be reliable. */
2378
2379     /* if this is reinstated, don't forget to put this back into perldiag:
2380
2381             =item Regexp *+ operand could be empty at {#} in regex m/%s/
2382
2383            (F) The part of the regexp subject to either the * or + quantifier
2384            could match an empty string. The {#} shows in the regular
2385            expression about where the problem was discovered.
2386
2387     */
2388
2389     if (!(flags&HASWIDTH) && op != '?')
2390       vFAIL("Regexp *+ operand could be empty");
2391 #endif
2392
2393     nextchar();
2394
2395     *flagp = (op != '+') ? (WORST|SPSTART|HASWIDTH) : (WORST|HASWIDTH);
2396
2397     if (op == '*' && (flags&SIMPLE)) {
2398         reginsert(STAR, ret);
2399         ret->flags = 0;
2400         PL_regnaughty += 4;
2401     }
2402     else if (op == '*') {
2403         min = 0;
2404         goto do_curly;
2405     }
2406     else if (op == '+' && (flags&SIMPLE)) {
2407         reginsert(PLUS, ret);
2408         ret->flags = 0;
2409         PL_regnaughty += 3;
2410     }
2411     else if (op == '+') {
2412         min = 1;
2413         goto do_curly;
2414     }
2415     else if (op == '?') {
2416         min = 0; max = 1;
2417         goto do_curly;
2418     }
2419   nest_check:
2420     if (ckWARN(WARN_REGEXP) && !SIZE_ONLY && !(flags&HASWIDTH) && max > REG_INFTY/3) {
2421         vWARN3(PL_regcomp_parse,
2422                "%.*s matches null string many times",
2423                PL_regcomp_parse - origparse,
2424                origparse);
2425     }
2426
2427     if (*PL_regcomp_parse == '?') {
2428         nextchar();
2429         reginsert(MINMOD, ret);
2430         regtail(ret, ret + NODE_STEP_REGNODE);
2431     }
2432     if (ISMULT2(PL_regcomp_parse)) {
2433         PL_regcomp_parse++;
2434         vFAIL("Nested quantifiers");
2435     }
2436
2437     return(ret);
2438 }
2439
2440 /*
2441  - regatom - the lowest level
2442  *
2443  * Optimization:  gobbles an entire sequence of ordinary characters so that
2444  * it can turn them into a single node, which is smaller to store and
2445  * faster to run.  Backslashed characters are exceptions, each becoming a
2446  * separate node; the code is simpler that way and it's not worth fixing.
2447  *
2448  * [Yes, it is worth fixing, some scripts can run twice the speed.] */
2449 STATIC regnode *
2450 S_regatom(pTHX_ I32 *flagp)
2451 {
2452     dTHR;
2453     register regnode *ret = 0;
2454     I32 flags;
2455
2456     *flagp = WORST;             /* Tentatively. */
2457
2458 tryagain:
2459     switch (*PL_regcomp_parse) {
2460     case '^':
2461         PL_seen_zerolen++;
2462         nextchar();
2463         if (PL_regflags & PMf_MULTILINE)
2464             ret = reg_node(MBOL);
2465         else if (PL_regflags & PMf_SINGLELINE)
2466             ret = reg_node(SBOL);
2467         else
2468             ret = reg_node(BOL);
2469         break;
2470     case '$':
2471         nextchar();
2472         if (*PL_regcomp_parse)
2473             PL_seen_zerolen++;
2474         if (PL_regflags & PMf_MULTILINE)
2475             ret = reg_node(MEOL);
2476         else if (PL_regflags & PMf_SINGLELINE)
2477             ret = reg_node(SEOL);
2478         else
2479             ret = reg_node(EOL);
2480         break;
2481     case '.':
2482         nextchar();
2483         if (UTF) {
2484             if (PL_regflags & PMf_SINGLELINE)
2485                 ret = reg_node(SANYUTF8);
2486             else
2487                 ret = reg_node(ANYUTF8);
2488             *flagp |= HASWIDTH;
2489         }
2490         else {
2491             if (PL_regflags & PMf_SINGLELINE)
2492                 ret = reg_node(SANY);
2493             else
2494                 ret = reg_node(REG_ANY);
2495             *flagp |= HASWIDTH|SIMPLE;
2496         }
2497         PL_regnaughty++;
2498         break;
2499     case '[':
2500     {
2501         char *oregcomp_parse = ++PL_regcomp_parse;
2502         ret = (UTF ? regclassutf8() : regclass());
2503         if (*PL_regcomp_parse != ']') {
2504             PL_regcomp_parse = oregcomp_parse;
2505             vFAIL("Unmatched [");
2506         }
2507         nextchar();
2508         *flagp |= HASWIDTH|SIMPLE;
2509         break;
2510     }
2511     case '(':
2512         nextchar();
2513         ret = reg(1, &flags);
2514         if (ret == NULL) {
2515                 if (flags & TRYAGAIN) {
2516                     if (PL_regcomp_parse == PL_regxend) {
2517                          /* Make parent create an empty node if needed. */
2518                         *flagp |= TRYAGAIN;
2519                         return(NULL);
2520                     }
2521                     goto tryagain;
2522                 }
2523                 return(NULL);
2524         }
2525         *flagp |= flags&(HASWIDTH|SPSTART|SIMPLE);
2526         break;
2527     case '|':
2528     case ')':
2529         if (flags & TRYAGAIN) {
2530             *flagp |= TRYAGAIN;
2531             return NULL;
2532         }
2533         vFAIL("Internal urp");
2534                                 /* Supposed to be caught earlier. */
2535         break;
2536     case '{':
2537         if (!regcurly(PL_regcomp_parse)) {
2538             PL_regcomp_parse++;
2539             goto defchar;
2540         }
2541         /* FALL THROUGH */
2542     case '?':
2543     case '+':
2544     case '*':
2545         PL_regcomp_parse++;
2546         vFAIL("Quantifier follows nothing");
2547         break;
2548     case '\\':
2549         switch (*++PL_regcomp_parse) {
2550         case 'A':
2551             PL_seen_zerolen++;
2552             ret = reg_node(SBOL);
2553             *flagp |= SIMPLE;
2554             nextchar();
2555             break;
2556         case 'G':
2557             ret = reg_node(GPOS);
2558             PL_regseen |= REG_SEEN_GPOS;
2559             *flagp |= SIMPLE;
2560             nextchar();
2561             break;
2562         case 'Z':
2563             ret = reg_node(SEOL);
2564             *flagp |= SIMPLE;
2565             nextchar();
2566             break;
2567         case 'z':
2568             ret = reg_node(EOS);
2569             *flagp |= SIMPLE;
2570             PL_seen_zerolen++;          /* Do not optimize RE away */
2571             nextchar();
2572             break;
2573         case 'C':
2574             ret = reg_node(SANY);
2575             *flagp |= HASWIDTH|SIMPLE;
2576             nextchar();
2577             break;
2578         case 'X':
2579             ret = reg_node(CLUMP);
2580             *flagp |= HASWIDTH;
2581             nextchar();
2582             if (UTF && !PL_utf8_mark)
2583                 is_utf8_mark((U8*)"~");         /* preload table */
2584             break;
2585         case 'w':
2586             ret = reg_node(
2587                 UTF
2588                     ? (LOC ? ALNUMLUTF8 : ALNUMUTF8)
2589                     : (LOC ? ALNUML     : ALNUM));
2590             *flagp |= HASWIDTH|SIMPLE;
2591             nextchar();
2592             if (UTF && !PL_utf8_alnum)
2593                 is_utf8_alnum((U8*)"a");        /* preload table */
2594             break;
2595         case 'W':
2596             ret = reg_node(
2597                 UTF
2598                     ? (LOC ? NALNUMLUTF8 : NALNUMUTF8)
2599                     : (LOC ? NALNUML     : NALNUM));
2600             *flagp |= HASWIDTH|SIMPLE;
2601             nextchar();
2602             if (UTF && !PL_utf8_alnum)
2603                 is_utf8_alnum((U8*)"a");        /* preload table */
2604             break;
2605         case 'b':
2606             PL_seen_zerolen++;
2607             PL_regseen |= REG_SEEN_LOOKBEHIND;
2608             ret = reg_node(
2609                 UTF
2610                     ? (LOC ? BOUNDLUTF8 : BOUNDUTF8)
2611                     : (LOC ? BOUNDL     : BOUND));
2612             *flagp |= SIMPLE;
2613             nextchar();
2614             if (UTF && !PL_utf8_alnum)
2615                 is_utf8_alnum((U8*)"a");        /* preload table */
2616             break;
2617         case 'B':
2618             PL_seen_zerolen++;
2619             PL_regseen |= REG_SEEN_LOOKBEHIND;
2620             ret = reg_node(
2621                 UTF
2622                     ? (LOC ? NBOUNDLUTF8 : NBOUNDUTF8)
2623                     : (LOC ? NBOUNDL     : NBOUND));
2624             *flagp |= SIMPLE;
2625             nextchar();
2626             if (UTF && !PL_utf8_alnum)
2627                 is_utf8_alnum((U8*)"a");        /* preload table */
2628             break;
2629         case 's':
2630             ret = reg_node(
2631                 UTF
2632                     ? (LOC ? SPACELUTF8 : SPACEUTF8)
2633                     : (LOC ? SPACEL     : SPACE));
2634             *flagp |= HASWIDTH|SIMPLE;
2635             nextchar();
2636             if (UTF && !PL_utf8_space)
2637                 is_utf8_space((U8*)" ");        /* preload table */
2638             break;
2639         case 'S':
2640             ret = reg_node(
2641                 UTF
2642                     ? (LOC ? NSPACELUTF8 : NSPACEUTF8)
2643                     : (LOC ? NSPACEL     : NSPACE));
2644             *flagp |= HASWIDTH|SIMPLE;
2645             nextchar();
2646             if (UTF && !PL_utf8_space)
2647                 is_utf8_space((U8*)" ");        /* preload table */
2648             break;
2649         case 'd':
2650             ret = reg_node(UTF ? DIGITUTF8 : DIGIT);
2651             *flagp |= HASWIDTH|SIMPLE;
2652             nextchar();
2653             if (UTF && !PL_utf8_digit)
2654                 is_utf8_digit((U8*)"1");        /* preload table */
2655             break;
2656         case 'D':
2657             ret = reg_node(UTF ? NDIGITUTF8 : NDIGIT);
2658             *flagp |= HASWIDTH|SIMPLE;
2659             nextchar();
2660             if (UTF && !PL_utf8_digit)
2661                 is_utf8_digit((U8*)"1");        /* preload table */
2662             break;
2663         case 'p':
2664         case 'P':
2665             {   /* a lovely hack--pretend we saw [\pX] instead */
2666                 char* oldregxend = PL_regxend;
2667
2668                 if (PL_regcomp_parse[1] == '{') {
2669                     PL_regxend = strchr(PL_regcomp_parse, '}');
2670                     if (!PL_regxend) {
2671                         PL_regcomp_parse += 2;
2672                         PL_regxend = oldregxend;
2673                         vFAIL("Missing right brace on \\p{}");
2674                     }
2675                     PL_regxend++;
2676                 }
2677                 else
2678                     PL_regxend = PL_regcomp_parse + 2;
2679                 PL_regcomp_parse--;
2680
2681                 ret = regclassutf8();
2682
2683                 PL_regxend = oldregxend;
2684                 PL_regcomp_parse--;
2685                 nextchar();
2686                 *flagp |= HASWIDTH|SIMPLE;
2687             }
2688             break;
2689         case 'n':
2690         case 'r':
2691         case 't':
2692         case 'f':
2693         case 'e':
2694         case 'a':
2695         case 'x':
2696         case 'c':
2697         case '0':
2698             goto defchar;
2699         case '1': case '2': case '3': case '4':
2700         case '5': case '6': case '7': case '8': case '9':
2701             {
2702                 I32 num = atoi(PL_regcomp_parse);
2703
2704                 if (num > 9 && num >= PL_regnpar)
2705                     goto defchar;
2706                 else {
2707                     while (isDIGIT(*PL_regcomp_parse))
2708                         PL_regcomp_parse++;
2709
2710                     if (!SIZE_ONLY && num > PL_regcomp_rx->nparens)
2711                         vFAIL("Reference to nonexistent group");
2712                     PL_regsawback = 1;
2713                     ret = reganode(FOLD
2714                                    ? (LOC ? REFFL : REFF)
2715                                    : REF, num);
2716                     *flagp |= HASWIDTH;
2717                     PL_regcomp_parse--;
2718                     nextchar();
2719                 }
2720             }
2721             break;
2722         case '\0':
2723             if (PL_regcomp_parse >= PL_regxend)
2724                 FAIL("Trailing \\");
2725             /* FALL THROUGH */
2726         default:
2727             /* Do not generate `unrecognized' warnings here, we fall
2728                back into the quick-grab loop below */
2729             goto defchar;
2730         }
2731         break;
2732
2733     case '#':
2734         if (PL_regflags & PMf_EXTENDED) {
2735             while (PL_regcomp_parse < PL_regxend && *PL_regcomp_parse != '\n') PL_regcomp_parse++;
2736             if (PL_regcomp_parse < PL_regxend)
2737                 goto tryagain;
2738         }
2739         /* FALL THROUGH */
2740
2741     default: {
2742             register I32 len;
2743             register UV ender;
2744             register char *p;
2745             char *oldp, *s;
2746             I32 numlen;
2747
2748             PL_regcomp_parse++;
2749
2750         defchar:
2751             ret = reg_node(FOLD
2752                           ? (LOC ? EXACTFL : EXACTF)
2753                           : EXACT);
2754             s = STRING(ret);
2755             for (len = 0, p = PL_regcomp_parse - 1;
2756               len < 127 && p < PL_regxend;
2757               len++)
2758             {
2759                 oldp = p;
2760
2761                 if (PL_regflags & PMf_EXTENDED)
2762                     p = regwhite(p, PL_regxend);
2763                 switch (*p) {
2764                 case '^':
2765                 case '$':
2766                 case '.':
2767                 case '[':
2768                 case '(':
2769                 case ')':
2770                 case '|':
2771                     goto loopdone;
2772                 case '\\':
2773                     switch (*++p) {
2774                     case 'A':
2775                     case 'G':
2776                     case 'Z':
2777                     case 'z':
2778                     case 'w':
2779                     case 'W':
2780                     case 'b':
2781                     case 'B':
2782                     case 's':
2783                     case 'S':
2784                     case 'd':
2785                     case 'D':
2786                     case 'p':
2787                     case 'P':
2788                         --p;
2789                         goto loopdone;
2790                     case 'n':
2791                         ender = '\n';
2792                         p++;
2793                         break;
2794                     case 'r':
2795                         ender = '\r';
2796                         p++;
2797                         break;
2798                     case 't':
2799                         ender = '\t';
2800                         p++;
2801                         break;
2802                     case 'f':
2803                         ender = '\f';
2804                         p++;
2805                         break;
2806                     case 'e':
2807 #ifdef ASCIIish
2808                           ender = '\033';
2809 #else
2810                           ender = '\047';
2811 #endif
2812                         p++;
2813                         break;
2814                     case 'a':
2815 #ifdef ASCIIish
2816                           ender = '\007';
2817 #else
2818                           ender = '\057';
2819 #endif
2820                         p++;
2821                         break;
2822                     case 'x':
2823                         if (*++p == '{') {
2824                             char* e = strchr(p, '}');
2825
2826                             if (!e) {
2827                                 PL_regcomp_parse = p + 1;
2828                                 vFAIL("Missing right brace on \\x{}");
2829                             }
2830                             else if (UTF) {
2831                                 numlen = 1;     /* allow underscores */
2832                                 ender = (UV)scan_hex(p + 1, e - p - 1, &numlen);
2833                                 /* numlen is generous */
2834                                 if (numlen + len >= 127) {
2835                                     p--;
2836                                     goto loopdone;
2837                                 }
2838                                 p = e + 1;
2839                             }
2840                             else
2841                             {
2842                                 PL_regcomp_parse = e + 1;
2843                                 vFAIL("Can't use \\x{} without 'use utf8' declaration");
2844                             }
2845
2846                         }
2847                         else {
2848                             numlen = 0;         /* disallow underscores */
2849                             ender = (UV)scan_hex(p, 2, &numlen);
2850                             p += numlen;
2851                         }
2852                         break;
2853                     case 'c':
2854                         p++;
2855                         ender = UCHARAT(p++);
2856                         ender = toCTRL(ender);
2857                         break;
2858                     case '0': case '1': case '2': case '3':case '4':
2859                     case '5': case '6': case '7': case '8':case '9':
2860                         if (*p == '0' ||
2861                           (isDIGIT(p[1]) && atoi(p) >= PL_regnpar) ) {
2862                             numlen = 0;         /* disallow underscores */
2863                             ender = (UV)scan_oct(p, 3, &numlen);
2864                             p += numlen;
2865                         }
2866                         else {
2867                             --p;
2868                             goto loopdone;
2869                         }
2870                         break;
2871                     case '\0':
2872                         if (p >= PL_regxend)
2873                             FAIL("Trailing \\");
2874                         /* FALL THROUGH */
2875                     default:
2876                         if (!SIZE_ONLY && ckWARN(WARN_REGEXP) && isALPHA(*p))
2877                             vWARN2(p +1, "Unrecognized escape \\%c passed through", *p);
2878                         goto normal_default;
2879                     }
2880                     break;
2881                 default:
2882                   normal_default:
2883                     if ((*p & 0xc0) == 0xc0 && UTF) {
2884                         ender = utf8_to_uv((U8*)p, &numlen);
2885                         p += numlen;
2886                     }
2887                     else
2888                         ender = *p++;
2889                     break;
2890                 }
2891                 if (PL_regflags & PMf_EXTENDED)
2892                     p = regwhite(p, PL_regxend);
2893                 if (UTF && FOLD) {
2894                     if (LOC)
2895                         ender = toLOWER_LC_uni(ender);
2896                     else
2897                         ender = toLOWER_uni(ender);
2898                 }
2899                 if (ISMULT2(p)) { /* Back off on ?+*. */
2900                     if (len)
2901                         p = oldp;
2902                     else if (ender >= 0x80 && UTF) {
2903                         reguni(ender, s, &numlen);
2904                         s += numlen;
2905                         len += numlen;
2906                     }
2907                     else {
2908                         len++;
2909                         REGC(ender, s++);
2910                     }
2911                     break;
2912                 }
2913                 if (ender >= 0x80 && UTF) {
2914                     reguni(ender, s, &numlen);
2915                     s += numlen;
2916                     len += numlen - 1;
2917                 }
2918                 else
2919                     REGC(ender, s++);
2920             }
2921         loopdone:
2922             PL_regcomp_parse = p - 1;
2923             nextchar();
2924             if (len < 0)
2925                 vFAIL("Internal disaster");
2926             if (len > 0)
2927                 *flagp |= HASWIDTH;
2928             if (len == 1)
2929                 *flagp |= SIMPLE;
2930             if (!SIZE_ONLY)
2931                 STR_LEN(ret) = len;
2932             if (SIZE_ONLY)
2933                 PL_regsize += STR_SZ(len);
2934             else
2935                 PL_regcode += STR_SZ(len);
2936         }
2937         break;
2938     }
2939
2940     return(ret);
2941 }
2942
2943 STATIC char *
2944 S_regwhite(pTHX_ char *p, char *e)
2945 {
2946     while (p < e) {
2947         if (isSPACE(*p))
2948             ++p;
2949         else if (*p == '#') {
2950             do {
2951                 p++;
2952             } while (p < e && *p != '\n');
2953         }
2954         else
2955             break;
2956     }
2957     return p;
2958 }
2959
2960 /* Parse POSIX character classes: [[:foo:]], [[=foo=]], [[.foo.]].
2961    Character classes ([:foo:]) can also be negated ([:^foo:]).
2962    Returns a named class id (ANYOF_XXX) if successful, -1 otherwise.
2963    Equivalence classes ([=foo=]) and composites ([.foo.]) are parsed,
2964    but trigger warnings because they are currently unimplemented. */
2965 STATIC I32
2966 S_regpposixcc(pTHX_ I32 value)
2967 {
2968     dTHR;
2969     char *posixcc = 0;
2970     I32 namedclass = OOB_NAMEDCLASS;
2971
2972     if (value == '[' && PL_regcomp_parse + 1 < PL_regxend &&
2973         /* I smell either [: or [= or [. -- POSIX has been here, right? */
2974         (*PL_regcomp_parse == ':' ||
2975          *PL_regcomp_parse == '=' ||
2976          *PL_regcomp_parse == '.')) {
2977         char  c = *PL_regcomp_parse;
2978         char* s = PL_regcomp_parse++;
2979
2980         while (PL_regcomp_parse < PL_regxend && *PL_regcomp_parse != c)
2981             PL_regcomp_parse++;
2982         if (PL_regcomp_parse == PL_regxend)
2983             /* Grandfather lone [:, [=, [. */
2984             PL_regcomp_parse = s;
2985         else {
2986             char* t = PL_regcomp_parse++; /* skip over the c */
2987
2988             if (*PL_regcomp_parse == ']') {
2989                 PL_regcomp_parse++; /* skip over the ending ] */
2990                 posixcc = s + 1;
2991                 if (*s == ':') {
2992                     I32 complement = *posixcc == '^' ? *posixcc++ : 0;
2993                     I32 skip = 5; /* the most common skip */
2994
2995                     switch (*posixcc) {
2996                     case 'a':
2997                         if (strnEQ(posixcc, "alnum", 5))
2998                             namedclass =
2999                                 complement ? ANYOF_NALNUMC : ANYOF_ALNUMC;
3000                         else if (strnEQ(posixcc, "alpha", 5))
3001                             namedclass =
3002                                 complement ? ANYOF_NALPHA : ANYOF_ALPHA;
3003                         else if (strnEQ(posixcc, "ascii", 5))
3004                             namedclass =
3005                                 complement ? ANYOF_NASCII : ANYOF_ASCII;
3006                         break;
3007                     case 'b':
3008                         if (strnEQ(posixcc, "blank", 5))
3009                             namedclass =
3010                                 complement ? ANYOF_NBLANK : ANYOF_BLANK;
3011                         break;
3012                     case 'c':
3013                         if (strnEQ(posixcc, "cntrl", 5))
3014                             namedclass =
3015                                 complement ? ANYOF_NCNTRL : ANYOF_CNTRL;
3016                         break;
3017                     case 'd':
3018                         if (strnEQ(posixcc, "digit", 5))
3019                             namedclass =
3020                                 complement ? ANYOF_NDIGIT : ANYOF_DIGIT;
3021                         break;
3022                     case 'g':
3023                         if (strnEQ(posixcc, "graph", 5))
3024                             namedclass =
3025                                 complement ? ANYOF_NGRAPH : ANYOF_GRAPH;
3026                         break;
3027                     case 'l':
3028                         if (strnEQ(posixcc, "lower", 5))
3029                             namedclass =
3030                                 complement ? ANYOF_NLOWER : ANYOF_LOWER;
3031                         break;
3032                     case 'p':
3033                         if (strnEQ(posixcc, "print", 5))
3034                             namedclass =
3035                                 complement ? ANYOF_NPRINT : ANYOF_PRINT;
3036                         else if (strnEQ(posixcc, "punct", 5))
3037                             namedclass =
3038                                 complement ? ANYOF_NPUNCT : ANYOF_PUNCT;
3039                         break;
3040                     case 's':
3041                         if (strnEQ(posixcc, "space", 5))
3042                             namedclass =
3043                                 complement ? ANYOF_NPSXSPC : ANYOF_PSXSPC;
3044                         break;
3045                     case 'u':
3046                         if (strnEQ(posixcc, "upper", 5))
3047                             namedclass =
3048                                 complement ? ANYOF_NUPPER : ANYOF_UPPER;
3049                         break;
3050                     case 'w': /* this is not POSIX, this is the Perl \w */
3051                         if (strnEQ(posixcc, "word", 4)) {
3052                             namedclass =
3053                                 complement ? ANYOF_NALNUM : ANYOF_ALNUM;
3054                             skip = 4;
3055                         }
3056                         break;
3057                     case 'x':
3058                         if (strnEQ(posixcc, "xdigit", 6)) {
3059                             namedclass =
3060                                 complement ? ANYOF_NXDIGIT : ANYOF_XDIGIT;
3061                             skip = 6;
3062                         }
3063                         break;
3064                     }
3065                     if (namedclass == OOB_NAMEDCLASS ||
3066                         posixcc[skip] != ':' ||
3067                         posixcc[skip+1] != ']')
3068                     {
3069                         Simple_vFAIL3("POSIX class [:%.*s:] unknown",
3070                                       t - s - 1, s + 1);
3071                     }
3072                 } else if (!SIZE_ONLY) {
3073                     /* [[=foo=]] and [[.foo.]] are still future. */
3074
3075                     /* adjust PL_regcomp_parse so the warning shows after
3076                        the class closes */
3077                     while (*PL_regcomp_parse && *PL_regcomp_parse != ']')
3078                         PL_regcomp_parse++;
3079                     Simple_vFAIL3("POSIX syntax [%c %c] is reserved for future extensions", c, c);
3080                 }
3081             } else {
3082                 /* Maternal grandfather:
3083                  * "[:" ending in ":" but not in ":]" */
3084                 PL_regcomp_parse = s;
3085             }
3086         }
3087     }
3088
3089     return namedclass;
3090 }
3091
3092 STATIC void
3093 S_checkposixcc(pTHX)
3094 {
3095     if (!SIZE_ONLY && ckWARN(WARN_REGEXP) &&
3096         (*PL_regcomp_parse == ':' ||
3097          *PL_regcomp_parse == '=' ||
3098          *PL_regcomp_parse == '.')) {
3099         char *s = PL_regcomp_parse;
3100         char  c = *s++;
3101
3102         while(*s && isALNUM(*s))
3103             s++;
3104         if (*s && c == *s && s[1] == ']') {
3105             vWARN3(s+2, "POSIX syntax [%c %c] belongs inside character classes", c, c);
3106
3107             /* [[=foo=]] and [[.foo.]] are still future. */
3108             if (c == '=' || c == '.')
3109             {
3110                 /* adjust PL_regcomp_parse so the error shows after
3111                    the class closes */
3112                 while (*PL_regcomp_parse && *PL_regcomp_parse++ != ']')
3113                     ;
3114                 Simple_vFAIL3("POSIX syntax [%c %c] is reserved for future extensions", c, c);
3115             }
3116         }
3117     }
3118 }
3119
3120 STATIC regnode *
3121 S_regclass(pTHX)
3122 {
3123     dTHR;
3124     register U32 value;
3125     register I32 lastvalue = OOB_CHAR8;
3126     register I32 range = 0;
3127     register regnode *ret;
3128     I32 numlen;
3129     I32 namedclass;
3130     char *rangebegin;
3131     bool need_class = 0;
3132
3133     ret = reg_node(ANYOF);
3134     if (SIZE_ONLY)
3135         PL_regsize += ANYOF_SKIP;
3136     else {
3137         ret->flags = 0;
3138         ANYOF_BITMAP_ZERO(ret);
3139         PL_regcode += ANYOF_SKIP;
3140         if (FOLD)
3141             ANYOF_FLAGS(ret) |= ANYOF_FOLD;
3142         if (LOC)
3143             ANYOF_FLAGS(ret) |= ANYOF_LOCALE;
3144     }
3145     if (*PL_regcomp_parse == '^') {     /* Complement of range. */
3146         PL_regnaughty++;
3147         PL_regcomp_parse++;
3148         if (!SIZE_ONLY)
3149             ANYOF_FLAGS(ret) |= ANYOF_INVERT;
3150     }
3151
3152     if (!SIZE_ONLY && ckWARN(WARN_REGEXP))
3153         checkposixcc();
3154
3155     if (*PL_regcomp_parse == ']' || *PL_regcomp_parse == '-')
3156         goto skipcond;          /* allow 1st char to be ] or - */
3157     while (PL_regcomp_parse < PL_regxend && *PL_regcomp_parse != ']') {
3158        skipcond:
3159         namedclass = OOB_NAMEDCLASS;
3160         if (!range)
3161             rangebegin = PL_regcomp_parse;
3162         value = UCHARAT(PL_regcomp_parse++);
3163         if (value == '[')
3164             namedclass = regpposixcc(value);
3165         else if (value == '\\') {
3166             value = UCHARAT(PL_regcomp_parse++);
3167             /* Some compilers cannot handle switching on 64-bit integer
3168              * values, therefore the 'value' cannot be an UV. --jhi */
3169             switch (value) {
3170             case 'w':   namedclass = ANYOF_ALNUM;       break;
3171             case 'W':   namedclass = ANYOF_NALNUM;      break;
3172             case 's':   namedclass = ANYOF_SPACE;       break;
3173             case 'S':   namedclass = ANYOF_NSPACE;      break;
3174             case 'd':   namedclass = ANYOF_DIGIT;       break;
3175             case 'D':   namedclass = ANYOF_NDIGIT;      break;
3176             case 'n':   value = '\n';                   break;
3177             case 'r':   value = '\r';                   break;
3178             case 't':   value = '\t';                   break;
3179             case 'f':   value = '\f';                   break;
3180             case 'b':   value = '\b';                   break;
3181 #ifdef ASCIIish
3182             case 'e':   value = '\033';                 break;
3183             case 'a':   value = '\007';                 break;
3184 #else
3185             case 'e':   value = '\047';                 break;
3186             case 'a':   value = '\057';                 break;
3187 #endif
3188             case 'x':
3189                 numlen = 0;             /* disallow underscores */
3190                 value = (UV)scan_hex(PL_regcomp_parse, 2, &numlen);
3191                 PL_regcomp_parse += numlen;
3192                 break;
3193             case 'c':
3194                 value = UCHARAT(PL_regcomp_parse++);
3195                 value = toCTRL(value);
3196                 break;
3197             case '0': case '1': case '2': case '3': case '4':
3198             case '5': case '6': case '7': case '8': case '9':
3199                 numlen = 0;             /* disallow underscores */
3200                 value = (UV)scan_oct(--PL_regcomp_parse, 3, &numlen);
3201                 PL_regcomp_parse += numlen;
3202                 break;
3203             default:
3204                 if (!SIZE_ONLY && ckWARN(WARN_REGEXP) && isALPHA(value))
3205
3206                     vWARN2(PL_regcomp_parse, "Unrecognized escape \\%c in character class passed through", (int)value);
3207                 break;
3208             }
3209         }
3210         if (namedclass > OOB_NAMEDCLASS) {
3211             if (!need_class && !SIZE_ONLY)
3212                 ANYOF_CLASS_ZERO(ret);
3213             need_class = 1;
3214             if (range) { /* a-\d, a-[:digit:] */
3215                 if (!SIZE_ONLY) {
3216                     if (ckWARN(WARN_REGEXP))
3217                         vWARN4(PL_regcomp_parse,
3218                                "False [] range \"%*.*s\"",
3219                                PL_regcomp_parse - rangebegin,
3220                                PL_regcomp_parse - rangebegin,
3221                                rangebegin);
3222                     ANYOF_BITMAP_SET(ret, lastvalue);
3223                     ANYOF_BITMAP_SET(ret, '-');
3224                 }
3225                 range = 0; /* this is not a true range */
3226             }
3227             if (!SIZE_ONLY) {
3228                 switch (namedclass) {
3229                 case ANYOF_ALNUM:
3230                     if (LOC)
3231                         ANYOF_CLASS_SET(ret, ANYOF_ALNUM);
3232                     else {
3233                         for (value = 0; value < 256; value++)
3234                             if (isALNUM(value))
3235                                 ANYOF_BITMAP_SET(ret, value);
3236                     }
3237                     break;
3238                 case ANYOF_NALNUM:
3239                     if (LOC)
3240                         ANYOF_CLASS_SET(ret, ANYOF_NALNUM);
3241                     else {
3242                         for (value = 0; value < 256; value++)
3243                             if (!isALNUM(value))
3244                                 ANYOF_BITMAP_SET(ret, value);
3245                     }
3246                     break;
3247                 case ANYOF_SPACE:
3248                     if (LOC)
3249                         ANYOF_CLASS_SET(ret, ANYOF_SPACE);
3250                     else {
3251                         for (value = 0; value < 256; value++)
3252                             if (isSPACE(value))
3253                                 ANYOF_BITMAP_SET(ret, value);
3254                     }
3255                     break;
3256                 case ANYOF_NSPACE:
3257                     if (LOC)
3258                         ANYOF_CLASS_SET(ret, ANYOF_NSPACE);
3259                     else {
3260                         for (value = 0; value < 256; value++)
3261                             if (!isSPACE(value))
3262                                 ANYOF_BITMAP_SET(ret, value);
3263                     }
3264                     break;
3265                 case ANYOF_DIGIT:
3266                     if (LOC)
3267                         ANYOF_CLASS_SET(ret, ANYOF_DIGIT);
3268                     else {
3269                         for (value = '0'; value <= '9'; value++)
3270                             ANYOF_BITMAP_SET(ret, value);
3271                     }
3272                     break;
3273                 case ANYOF_NDIGIT:
3274                     if (LOC)
3275                         ANYOF_CLASS_SET(ret, ANYOF_NDIGIT);
3276                     else {
3277                         for (value = 0; value < '0'; value++)
3278                             ANYOF_BITMAP_SET(ret, value);
3279                         for (value = '9' + 1; value < 256; value++)
3280                             ANYOF_BITMAP_SET(ret, value);
3281                     }
3282                     break;
3283                 case ANYOF_NALNUMC:
3284                     if (LOC)
3285                         ANYOF_CLASS_SET(ret, ANYOF_NALNUMC);
3286                     else {
3287                         for (value = 0; value < 256; value++)
3288                             if (!isALNUMC(value))
3289                                 ANYOF_BITMAP_SET(ret, value);
3290                     }
3291                     break;
3292                 case ANYOF_ALNUMC:
3293                     if (LOC)
3294                         ANYOF_CLASS_SET(ret, ANYOF_ALNUMC);
3295                     else {
3296                         for (value = 0; value < 256; value++)
3297                             if (isALNUMC(value))
3298                                 ANYOF_BITMAP_SET(ret, value);
3299                     }
3300                     break;
3301                 case ANYOF_ALPHA:
3302                     if (LOC)
3303                         ANYOF_CLASS_SET(ret, ANYOF_ALPHA);
3304                     else {
3305                         for (value = 0; value < 256; value++)
3306                             if (isALPHA(value))
3307                                 ANYOF_BITMAP_SET(ret, value);
3308                     }
3309                     break;
3310                 case ANYOF_NALPHA:
3311                     if (LOC)
3312                         ANYOF_CLASS_SET(ret, ANYOF_NALPHA);
3313                     else {
3314                         for (value = 0; value < 256; value++)
3315                             if (!isALPHA(value))
3316                                 ANYOF_BITMAP_SET(ret, value);
3317                     }
3318                     break;
3319                 case ANYOF_ASCII:
3320                     if (LOC)
3321                         ANYOF_CLASS_SET(ret, ANYOF_ASCII);
3322                     else {
3323 #ifdef ASCIIish
3324                         for (value = 0; value < 128; value++)
3325                             ANYOF_BITMAP_SET(ret, value);
3326 #else  /* EBCDIC */
3327                         for (value = 0; value < 256; value++)
3328                             if (isASCII(value))
3329                                 ANYOF_BITMAP_SET(ret, value);
3330 #endif /* EBCDIC */
3331                     }
3332                     break;
3333                 case ANYOF_NASCII:
3334                     if (LOC)
3335                         ANYOF_CLASS_SET(ret, ANYOF_NASCII);
3336                     else {
3337 #ifdef ASCIIish
3338                         for (value = 128; value < 256; value++)
3339                             ANYOF_BITMAP_SET(ret, value);
3340 #else  /* EBCDIC */
3341                         for (value = 0; value < 256; value++)
3342                             if (!isASCII(value))
3343                                 ANYOF_BITMAP_SET(ret, value);
3344 #endif /* EBCDIC */
3345                     }
3346                     break;
3347                 case ANYOF_BLANK:
3348                     if (LOC)
3349                         ANYOF_CLASS_SET(ret, ANYOF_BLANK);
3350                     else {
3351                         for (value = 0; value < 256; value++)
3352                             if (isBLANK(value))
3353                                 ANYOF_BITMAP_SET(ret, value);
3354                     }
3355                     break;
3356                 case ANYOF_NBLANK:
3357                     if (LOC)
3358                         ANYOF_CLASS_SET(ret, ANYOF_NBLANK);
3359                     else {
3360                         for (value = 0; value < 256; value++)
3361                             if (!isBLANK(value))
3362                                 ANYOF_BITMAP_SET(ret, value);
3363                     }
3364                     break;
3365                 case ANYOF_CNTRL:
3366                     if (LOC)
3367                         ANYOF_CLASS_SET(ret, ANYOF_CNTRL);
3368                     else {
3369                         for (value = 0; value < 256; value++)
3370                             if (isCNTRL(value))
3371                                 ANYOF_BITMAP_SET(ret, value);
3372                     }
3373                     lastvalue = OOB_CHAR8;
3374                     break;
3375                 case ANYOF_NCNTRL:
3376                     if (LOC)
3377                         ANYOF_CLASS_SET(ret, ANYOF_NCNTRL);
3378                     else {
3379                         for (value = 0; value < 256; value++)
3380                             if (!isCNTRL(value))
3381                                 ANYOF_BITMAP_SET(ret, value);
3382                     }
3383                     break;
3384                 case ANYOF_GRAPH:
3385                     if (LOC)
3386                         ANYOF_CLASS_SET(ret, ANYOF_GRAPH);
3387                     else {
3388                         for (value = 0; value < 256; value++)
3389                             if (isGRAPH(value))
3390                                 ANYOF_BITMAP_SET(ret, value);
3391                     }
3392                     break;
3393                 case ANYOF_NGRAPH:
3394                     if (LOC)
3395                         ANYOF_CLASS_SET(ret, ANYOF_NGRAPH);
3396                     else {
3397                         for (value = 0; value < 256; value++)
3398                             if (!isGRAPH(value))
3399                                 ANYOF_BITMAP_SET(ret, value);
3400                     }
3401                     break;
3402                 case ANYOF_LOWER:
3403                     if (LOC)
3404                         ANYOF_CLASS_SET(ret, ANYOF_LOWER);
3405                     else {
3406                         for (value = 0; value < 256; value++)
3407                             if (isLOWER(value))
3408                                 ANYOF_BITMAP_SET(ret, value);
3409                     }
3410                     break;
3411                 case ANYOF_NLOWER:
3412                     if (LOC)
3413                         ANYOF_CLASS_SET(ret, ANYOF_NLOWER);
3414                     else {
3415                         for (value = 0; value < 256; value++)
3416                             if (!isLOWER(value))
3417                                 ANYOF_BITMAP_SET(ret, value);
3418                     }
3419                     break;
3420                 case ANYOF_PRINT:
3421                     if (LOC)
3422                         ANYOF_CLASS_SET(ret, ANYOF_PRINT);
3423                     else {
3424                         for (value = 0; value < 256; value++)
3425                             if (isPRINT(value))
3426                                 ANYOF_BITMAP_SET(ret, value);
3427                     }
3428                     break;
3429                 case ANYOF_NPRINT:
3430                     if (LOC)
3431                         ANYOF_CLASS_SET(ret, ANYOF_NPRINT);
3432                     else {
3433                         for (value = 0; value < 256; value++)
3434                             if (!isPRINT(value))
3435                                 ANYOF_BITMAP_SET(ret, value);
3436                     }
3437                     break;
3438                 case ANYOF_PSXSPC:
3439                     if (LOC)
3440                         ANYOF_CLASS_SET(ret, ANYOF_PSXSPC);
3441                     else {
3442                         for (value = 0; value < 256; value++)
3443                             if (isPSXSPC(value))
3444                                 ANYOF_BITMAP_SET(ret, value);
3445                     }
3446                     break;
3447                 case ANYOF_NPSXSPC:
3448                     if (LOC)
3449                         ANYOF_CLASS_SET(ret, ANYOF_NPSXSPC);
3450                     else {
3451                         for (value = 0; value < 256; value++)
3452                             if (!isPSXSPC(value))
3453                                 ANYOF_BITMAP_SET(ret, value);
3454                     }
3455                     break;
3456                 case ANYOF_PUNCT:
3457                     if (LOC)
3458                         ANYOF_CLASS_SET(ret, ANYOF_PUNCT);
3459                     else {
3460                         for (value = 0; value < 256; value++)
3461                             if (isPUNCT(value))
3462                                 ANYOF_BITMAP_SET(ret, value);
3463                     }
3464                     break;
3465                 case ANYOF_NPUNCT:
3466                     if (LOC)
3467                         ANYOF_CLASS_SET(ret, ANYOF_NPUNCT);
3468                     else {
3469                         for (value = 0; value < 256; value++)
3470                             if (!isPUNCT(value))
3471                                 ANYOF_BITMAP_SET(ret, value);
3472                     }
3473                     break;
3474                 case ANYOF_UPPER:
3475                     if (LOC)
3476                         ANYOF_CLASS_SET(ret, ANYOF_UPPER);
3477                     else {
3478                         for (value = 0; value < 256; value++)
3479                             if (isUPPER(value))
3480                                 ANYOF_BITMAP_SET(ret, value);
3481                     }
3482                     break;
3483                 case ANYOF_NUPPER:
3484                     if (LOC)
3485                         ANYOF_CLASS_SET(ret, ANYOF_NUPPER);
3486                     else {
3487                         for (value = 0; value < 256; value++)
3488                             if (!isUPPER(value))
3489                                 ANYOF_BITMAP_SET(ret, value);
3490                     }
3491                     break;
3492                 case ANYOF_XDIGIT:
3493                     if (LOC)
3494                         ANYOF_CLASS_SET(ret, ANYOF_XDIGIT);
3495                     else {
3496                         for (value = 0; value < 256; value++)
3497                             if (isXDIGIT(value))
3498                                 ANYOF_BITMAP_SET(ret, value);
3499                     }
3500                     break;
3501                 case ANYOF_NXDIGIT:
3502                     if (LOC)
3503                         ANYOF_CLASS_SET(ret, ANYOF_NXDIGIT);
3504                     else {
3505                         for (value = 0; value < 256; value++)
3506                             if (!isXDIGIT(value))
3507                                 ANYOF_BITMAP_SET(ret, value);
3508                     }
3509                     break;
3510                 default:
3511                     vFAIL("Invalid [::] class");
3512                     break;
3513                 }
3514                 if (LOC)
3515                     ANYOF_FLAGS(ret) |= ANYOF_CLASS;
3516                 continue;
3517             }
3518         }
3519         if (range) {
3520             if (lastvalue > value) /* b-a */ {
3521                 Simple_vFAIL4("Invalid [] range \"%*.*s\"",
3522                               PL_regcomp_parse - rangebegin,
3523                               PL_regcomp_parse - rangebegin,
3524                               rangebegin);
3525             }
3526             range = 0;
3527         }
3528         else {
3529             lastvalue = value;
3530             if (*PL_regcomp_parse == '-' && PL_regcomp_parse+1 < PL_regxend &&
3531                 PL_regcomp_parse[1] != ']') {
3532                 PL_regcomp_parse++;
3533                 if (namedclass > OOB_NAMEDCLASS) { /* \w-, [:word:]- */
3534                     if (ckWARN(WARN_REGEXP))
3535                         vWARN4(PL_regcomp_parse,
3536                                "False [] range \"%*.*s\"",
3537                                PL_regcomp_parse - rangebegin,
3538                                PL_regcomp_parse - rangebegin,
3539                                rangebegin);
3540                     if (!SIZE_ONLY)
3541                         ANYOF_BITMAP_SET(ret, '-');
3542                 } else
3543                     range = 1;
3544                 continue;       /* do it next time */
3545             }
3546         }
3547         /* now is the next time */
3548         if (!SIZE_ONLY) {
3549 #ifndef ASCIIish /* EBCDIC, for example. */
3550             if ((isLOWER(lastvalue) && isLOWER(value)) ||
3551                 (isUPPER(lastvalue) && isUPPER(value)))
3552             {
3553                 I32 i;
3554                 if (isLOWER(lastvalue)) {
3555                     for (i = lastvalue; i <= value; i++)
3556                         if (isLOWER(i))
3557                             ANYOF_BITMAP_SET(ret, i);
3558                 } else {
3559                     for (i = lastvalue; i <= value; i++)
3560                         if (isUPPER(i))
3561                             ANYOF_BITMAP_SET(ret, i);
3562                 }
3563             }
3564             else
3565 #endif
3566                 for ( ; lastvalue <= value; lastvalue++)
3567                     ANYOF_BITMAP_SET(ret, lastvalue);
3568         }
3569         range = 0;
3570     }
3571     if (need_class) {
3572         if (SIZE_ONLY)
3573             PL_regsize += ANYOF_CLASS_ADD_SKIP;
3574         else
3575             PL_regcode += ANYOF_CLASS_ADD_SKIP;
3576     }
3577     /* optimize case-insensitive simple patterns (e.g. /[a-z]/i) */
3578     if (!SIZE_ONLY &&
3579         (ANYOF_FLAGS(ret) & (ANYOF_FLAGS_ALL ^ ANYOF_INVERT)) == ANYOF_FOLD) {
3580         for (value = 0; value < 256; ++value) {
3581             if (ANYOF_BITMAP_TEST(ret, value)) {
3582                 I32 cf = PL_fold[value];
3583                 ANYOF_BITMAP_SET(ret, cf);
3584             }
3585         }
3586         ANYOF_FLAGS(ret) &= ~ANYOF_FOLD;
3587     }
3588     /* optimize inverted simple patterns (e.g. [^a-z]) */
3589     if (!SIZE_ONLY && (ANYOF_FLAGS(ret) & ANYOF_FLAGS_ALL) == ANYOF_INVERT) {
3590         for (value = 0; value < ANYOF_BITMAP_SIZE; ++value)
3591             ANYOF_BITMAP(ret)[value] ^= ANYOF_FLAGS_ALL;
3592         ANYOF_FLAGS(ret) = 0;
3593     }
3594     return ret;
3595 }
3596
3597 STATIC regnode *
3598 S_regclassutf8(pTHX)
3599 {
3600     dTHR;
3601     register char *e;
3602     register U32 value;
3603     register U32 lastvalue = OOB_UTF8;
3604     register I32 range = 0;
3605     register regnode *ret;
3606     I32 numlen;
3607     I32 n;
3608     SV *listsv;
3609     U8 flags = 0;
3610     I32 namedclass;
3611     char *rangebegin;
3612
3613     if (*PL_regcomp_parse == '^') {     /* Complement of range. */
3614         PL_regnaughty++;
3615         PL_regcomp_parse++;
3616         if (!SIZE_ONLY)
3617             flags |= ANYOF_INVERT;
3618     }
3619     if (!SIZE_ONLY) {
3620         if (FOLD)
3621             flags |= ANYOF_FOLD;
3622         if (LOC)
3623             flags |= ANYOF_LOCALE;
3624         listsv = newSVpvn("# comment\n",10);
3625     }
3626
3627     if (!SIZE_ONLY && ckWARN(WARN_REGEXP))
3628         checkposixcc();
3629
3630     if (*PL_regcomp_parse == ']' || *PL_regcomp_parse == '-')
3631         goto skipcond;          /* allow 1st char to be ] or - */
3632
3633     while (PL_regcomp_parse < PL_regxend && *PL_regcomp_parse != ']') {
3634        skipcond:
3635         namedclass = OOB_NAMEDCLASS;
3636         if (!range)
3637             rangebegin = PL_regcomp_parse;
3638         value = utf8_to_uv((U8*)PL_regcomp_parse, &numlen);
3639         PL_regcomp_parse += numlen;
3640         if (value == '[')
3641             namedclass = regpposixcc(value);
3642         else if (value == '\\') {
3643             value = (U32)utf8_to_uv((U8*)PL_regcomp_parse, &numlen);
3644             PL_regcomp_parse += numlen;
3645             /* Some compilers cannot handle switching on 64-bit integer
3646              * values, therefore value cannot be an UV.  Yes, this will
3647              * be a problem later if we want switch on Unicode.  --jhi */
3648             switch (value) {
3649             case 'w':           namedclass = ANYOF_ALNUM;               break;
3650             case 'W':           namedclass = ANYOF_NALNUM;              break;
3651             case 's':           namedclass = ANYOF_SPACE;               break;
3652             case 'S':           namedclass = ANYOF_NSPACE;              break;
3653             case 'd':           namedclass = ANYOF_DIGIT;               break;
3654             case 'D':           namedclass = ANYOF_NDIGIT;              break;
3655             case 'p':
3656             case 'P':
3657                 if (*PL_regcomp_parse == '{') {
3658                     e = strchr(PL_regcomp_parse++, '}');
3659                     if (!e)
3660                         vFAIL("Missing right brace on \\p{}");
3661                     n = e - PL_regcomp_parse;
3662                 }
3663                 else {
3664                     e = PL_regcomp_parse;
3665                     n = 1;
3666                 }
3667                 if (!SIZE_ONLY) {
3668                     if (value == 'p')
3669                         Perl_sv_catpvf(aTHX_ listsv,
3670                                        "+utf8::%.*s\n", (int)n, PL_regcomp_parse);
3671                     else
3672                         Perl_sv_catpvf(aTHX_ listsv,
3673                                        "!utf8::%.*s\n", (int)n, PL_regcomp_parse);
3674                 }
3675                 PL_regcomp_parse = e + 1;
3676                 lastvalue = OOB_UTF8;
3677                 continue;
3678             case 'n':           value = '\n';           break;
3679             case 'r':           value = '\r';           break;
3680             case 't':           value = '\t';           break;
3681             case 'f':           value = '\f';           break;
3682             case 'b':           value = '\b';           break;
3683 #ifdef ASCIIish
3684             case 'e':           value = '\033';         break;
3685             case 'a':           value = '\007';         break;
3686 #else
3687             case 'e':           value = '\047';         break;
3688             case 'a':           value = '\057';         break;
3689 #endif
3690             case 'x':
3691                 if (*PL_regcomp_parse == '{') {
3692                     e = strchr(PL_regcomp_parse++, '}');
3693                     if (!e)
3694                         vFAIL("Missing right brace on \\x{}");
3695                     numlen = 1;         /* allow underscores */
3696                     value = (UV)scan_hex(PL_regcomp_parse,
3697                                      e - PL_regcomp_parse,
3698                                      &numlen);
3699                     PL_regcomp_parse = e + 1;
3700                 }
3701                 else {
3702                     numlen = 0;         /* disallow underscores */
3703                     value = (UV)scan_hex(PL_regcomp_parse, 2, &numlen);
3704                     PL_regcomp_parse += numlen;
3705                 }
3706                 break;
3707             case 'c':
3708                 value = UCHARAT(PL_regcomp_parse++);
3709                 value = toCTRL(value);
3710                 break;
3711             case '0': case '1': case '2': case '3': case '4':
3712             case '5': case '6': case '7': case '8': case '9':
3713                 numlen = 0;             /* disallow underscores */
3714                 value = (UV)scan_oct(--PL_regcomp_parse, 3, &numlen);
3715                 PL_regcomp_parse += numlen;
3716                 break;
3717             default:
3718                 if (!SIZE_ONLY && ckWARN(WARN_REGEXP) && isALPHA(value))
3719                     vWARN2(PL_regcomp_parse,
3720                            "Unrecognized escape \\%c in character class passed through",
3721                            (int)value);
3722                 break;
3723             }
3724         }
3725         if (namedclass > OOB_NAMEDCLASS) {
3726             if (range) { /* a-\d, a-[:digit:] */
3727                 if (!SIZE_ONLY) {
3728                     if (ckWARN(WARN_REGEXP))
3729                         vWARN4(PL_regcomp_parse,
3730                                "False [] range \"%*.*s\"",
3731                                PL_regcomp_parse - rangebegin,
3732                                PL_regcomp_parse - rangebegin,
3733                                rangebegin);
3734                     Perl_sv_catpvf(aTHX_ listsv,
3735                                    /* 0x002D is Unicode for '-' */
3736                                    "%04"UVxf"\n002D\n", (UV)lastvalue);
3737                 }
3738                 range = 0;
3739             }
3740             if (!SIZE_ONLY) {
3741                 switch (namedclass) {
3742                 case ANYOF_ALNUM:
3743                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsWord\n");    break;
3744                 case ANYOF_NALNUM:
3745                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsWord\n");    break;
3746                 case ANYOF_ALNUMC:
3747                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsAlnum\n");   break;
3748                 case ANYOF_NALNUMC:
3749                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsAlnum\n");   break;
3750                 case ANYOF_ALPHA:
3751                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsAlpha\n");   break;
3752                 case ANYOF_NALPHA:
3753                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsAlpha\n");   break;
3754                 case ANYOF_ASCII:
3755                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsASCII\n");   break;
3756                 case ANYOF_NASCII:
3757                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsASCII\n");   break;
3758                 case ANYOF_CNTRL:
3759                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsCntrl\n");   break;
3760                 case ANYOF_NCNTRL:
3761                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsCntrl\n");   break;
3762                 case ANYOF_GRAPH:
3763                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsGraph\n");   break;
3764                 case ANYOF_NGRAPH:
3765                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsGraph\n");   break;
3766                 case ANYOF_DIGIT:
3767                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsDigit\n");   break;
3768                 case ANYOF_NDIGIT:
3769                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsDigit\n");   break;
3770                 case ANYOF_LOWER:
3771                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsLower\n");   break;
3772                 case ANYOF_NLOWER:
3773                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsLower\n");   break;
3774                 case ANYOF_PRINT:
3775                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsPrint\n");   break;
3776                 case ANYOF_NPRINT:
3777                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsPrint\n");   break;
3778                 case ANYOF_PUNCT:
3779                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsPunct\n");   break;
3780                 case ANYOF_NPUNCT:
3781                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsPunct\n");   break;
3782                 case ANYOF_SPACE:
3783                 case ANYOF_PSXSPC:
3784                 case ANYOF_BLANK:
3785                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsSpace\n");   break;
3786                 case ANYOF_NSPACE:
3787                 case ANYOF_NPSXSPC:
3788                 case ANYOF_NBLANK:
3789                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsSpace\n");   break;
3790                 case ANYOF_UPPER:
3791                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsUpper\n");   break;
3792                 case ANYOF_NUPPER:
3793                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsUpper\n");   break;
3794                 case ANYOF_XDIGIT:
3795                     Perl_sv_catpvf(aTHX_ listsv, "+utf8::IsXDigit\n");  break;
3796                 case ANYOF_NXDIGIT:
3797                     Perl_sv_catpvf(aTHX_ listsv, "!utf8::IsXDigit\n");  break;
3798                 }
3799                 continue;
3800             }
3801         }
3802         if (range) {
3803             if (lastvalue > value) { /* b-a */
3804                 Simple_vFAIL4("invalid [] range \"%*.*s\"",
3805                               PL_regcomp_parse - rangebegin,
3806                               PL_regcomp_parse - rangebegin,
3807                               rangebegin);
3808             }
3809             range = 0;
3810         }
3811         else {
3812             lastvalue = value;
3813             if (*PL_regcomp_parse == '-' && PL_regcomp_parse+1 < PL_regxend &&
3814                 PL_regcomp_parse[1] != ']') {
3815                 PL_regcomp_parse++;
3816                 if (namedclass > OOB_NAMEDCLASS) { /* \w-, [:word:]- */
3817                     if (ckWARN(WARN_REGEXP))
3818                         vWARN4(PL_regcomp_parse,
3819                                "False [] range \"%*.*s\"",
3820                                PL_regcomp_parse - rangebegin,
3821                                PL_regcomp_parse - rangebegin,
3822                                rangebegin);
3823                     if (!SIZE_ONLY)
3824                         Perl_sv_catpvf(aTHX_ listsv,
3825                                        /* 0x002D is Unicode for '-' */
3826                                        "002D\n");
3827                 } else
3828                     range = 1;
3829                 continue;       /* do it next time */
3830             }
3831         }
3832         /* now is the next time */
3833         if (!SIZE_ONLY)
3834             Perl_sv_catpvf(aTHX_ listsv, "%04"UVxf"\t%04"UVxf"\n",
3835                            (UV)lastvalue, (UV)value);
3836         range = 0;
3837     }
3838
3839     ret = reganode(ANYOFUTF8, 0);
3840
3841     if (!SIZE_ONLY) {
3842         SV *rv = swash_init("utf8", "", listsv, 1, 0);
3843         SvREFCNT_dec(listsv);
3844         n = add_data(1,"s");
3845         PL_regcomp_rx->data->data[n] = (void*)rv;
3846         ARG1_SET(ret, flags);
3847         ARG2_SET(ret, n);
3848     }
3849
3850     return ret;
3851 }
3852
3853 STATIC char*
3854 S_nextchar(pTHX)
3855 {
3856     dTHR;
3857     char* retval = PL_regcomp_parse++;
3858
3859     for (;;) {
3860         if (*PL_regcomp_parse == '(' && PL_regcomp_parse[1] == '?' &&
3861                 PL_regcomp_parse[2] == '#') {
3862             while (*PL_regcomp_parse && *PL_regcomp_parse != ')')
3863                 PL_regcomp_parse++;
3864             PL_regcomp_parse++;
3865             continue;
3866         }
3867         if (PL_regflags & PMf_EXTENDED) {
3868             if (isSPACE(*PL_regcomp_parse)) {
3869                 PL_regcomp_parse++;
3870                 continue;
3871             }
3872             else if (*PL_regcomp_parse == '#') {
3873                 while (*PL_regcomp_parse && *PL_regcomp_parse != '\n')
3874                     PL_regcomp_parse++;
3875                 PL_regcomp_parse++;
3876                 continue;
3877             }
3878         }
3879         return retval;
3880     }
3881 }
3882
3883 /*
3884 - reg_node - emit a node
3885 */
3886 STATIC regnode *                        /* Location. */
3887 S_reg_node(pTHX_ U8 op)
3888 {
3889     dTHR;
3890     register regnode *ret;
3891     register regnode *ptr;
3892
3893     ret = PL_regcode;
3894     if (SIZE_ONLY) {
3895         SIZE_ALIGN(PL_regsize);
3896         PL_regsize += 1;
3897         return(ret);
3898     }
3899
3900     NODE_ALIGN_FILL(ret);
3901     ptr = ret;
3902     FILL_ADVANCE_NODE(ptr, op);
3903     PL_regcode = ptr;
3904
3905     return(ret);
3906 }
3907
3908 /*
3909 - reganode - emit a node with an argument
3910 */
3911 STATIC regnode *                        /* Location. */
3912 S_reganode(pTHX_ U8 op, U32 arg)
3913 {
3914     dTHR;
3915     register regnode *ret;
3916     register regnode *ptr;
3917
3918     ret = PL_regcode;
3919     if (SIZE_ONLY) {
3920         SIZE_ALIGN(PL_regsize);
3921         PL_regsize += 2;
3922         return(ret);
3923     }
3924
3925     NODE_ALIGN_FILL(ret);
3926     ptr = ret;
3927     FILL_ADVANCE_NODE_ARG(ptr, op, arg);
3928     PL_regcode = ptr;
3929
3930     return(ret);
3931 }
3932
3933 /*
3934 - reguni - emit (if appropriate) a Unicode character
3935 */
3936 STATIC void
3937 S_reguni(pTHX_ UV uv, char* s, I32* lenp)
3938 {
3939     dTHR;
3940     if (SIZE_ONLY) {
3941         U8 tmpbuf[UTF8_MAXLEN];
3942         *lenp = uv_to_utf8(tmpbuf, uv) - tmpbuf;
3943     }
3944     else
3945         *lenp = uv_to_utf8((U8*)s, uv) - (U8*)s;
3946
3947 }
3948
3949 /*
3950 - reginsert - insert an operator in front of already-emitted operand
3951 *
3952 * Means relocating the operand.
3953 */
3954 STATIC void
3955 S_reginsert(pTHX_ U8 op, regnode *opnd)
3956 {
3957     dTHR;
3958     register regnode *src;
3959     register regnode *dst;
3960     register regnode *place;
3961     register int offset = regarglen[(U8)op];
3962
3963 /* (PL_regkind[(U8)op] == CURLY ? EXTRA_STEP_2ARGS : 0); */
3964
3965     if (SIZE_ONLY) {
3966         PL_regsize += NODE_STEP_REGNODE + offset;
3967         return;
3968     }
3969
3970     src = PL_regcode;
3971     PL_regcode += NODE_STEP_REGNODE + offset;
3972     dst = PL_regcode;
3973     while (src > opnd)
3974         StructCopy(--src, --dst, regnode);
3975
3976     place = opnd;               /* Op node, where operand used to be. */
3977     src = NEXTOPER(place);
3978     FILL_ADVANCE_NODE(place, op);
3979     Zero(src, offset, regnode);
3980 }
3981
3982 /*
3983 - regtail - set the next-pointer at the end of a node chain of p to val.
3984 */
3985 STATIC void
3986 S_regtail(pTHX_ regnode *p, regnode *val)
3987 {
3988     dTHR;
3989     register regnode *scan;
3990     register regnode *temp;
3991
3992     if (SIZE_ONLY)
3993         return;
3994
3995     /* Find last node. */
3996     scan = p;
3997     for (;;) {
3998         temp = regnext(scan);
3999         if (temp == NULL)
4000             break;
4001         scan = temp;
4002     }
4003
4004     if (reg_off_by_arg[OP(scan)]) {
4005         ARG_SET(scan, val - scan);
4006     }
4007     else {
4008         NEXT_OFF(scan) = val - scan;
4009     }
4010 }
4011
4012 /*
4013 - regoptail - regtail on operand of first argument; nop if operandless
4014 */
4015 STATIC void
4016 S_regoptail(pTHX_ regnode *p, regnode *val)
4017 {
4018     dTHR;
4019     /* "Operandless" and "op != BRANCH" are synonymous in practice. */
4020     if (p == NULL || SIZE_ONLY)
4021         return;
4022     if (PL_regkind[(U8)OP(p)] == BRANCH) {
4023         regtail(NEXTOPER(p), val);
4024     }
4025     else if ( PL_regkind[(U8)OP(p)] == BRANCHJ) {
4026         regtail(NEXTOPER(NEXTOPER(p)), val);
4027     }
4028     else
4029         return;
4030 }
4031
4032 /*
4033  - regcurly - a little FSA that accepts {\d+,?\d*}
4034  */
4035 STATIC I32
4036 S_regcurly(pTHX_ register char *s)
4037 {
4038     if (*s++ != '{')
4039         return FALSE;
4040     if (!isDIGIT(*s))
4041         return FALSE;
4042     while (isDIGIT(*s))
4043         s++;
4044     if (*s == ',')
4045         s++;
4046     while (isDIGIT(*s))
4047         s++;
4048     if (*s != '}')
4049         return FALSE;
4050     return TRUE;
4051 }
4052
4053
4054 STATIC regnode *
4055 S_dumpuntil(pTHX_ regnode *start, regnode *node, regnode *last, SV* sv, I32 l)
4056 {
4057 #ifdef DEBUGGING
4058     register U8 op = EXACT;     /* Arbitrary non-END op. */
4059     register regnode *next;
4060
4061     while (op != END && (!last || node < last)) {
4062         /* While that wasn't END last time... */
4063
4064         NODE_ALIGN(node);
4065         op = OP(node);
4066         if (op == CLOSE)
4067             l--;
4068         next = regnext(node);
4069         /* Where, what. */
4070         if (OP(node) == OPTIMIZED)
4071             goto after_print;
4072         regprop(sv, node);
4073         PerlIO_printf(Perl_debug_log, "%4"IVdf":%*s%s", (IV)(node - start),
4074                       (int)(2*l + 1), "", SvPVX(sv));
4075         if (next == NULL)               /* Next ptr. */
4076             PerlIO_printf(Perl_debug_log, "(0)");
4077         else
4078             PerlIO_printf(Perl_debug_log, "(%"IVdf")", (IV)(next - start));
4079         (void)PerlIO_putc(Perl_debug_log, '\n');
4080       after_print:
4081         if (PL_regkind[(U8)op] == BRANCHJ) {
4082             register regnode *nnode = (OP(next) == LONGJMP
4083                                        ? regnext(next)
4084                                        : next);
4085             if (last && nnode > last)
4086                 nnode = last;
4087             node = dumpuntil(start, NEXTOPER(NEXTOPER(node)), nnode, sv, l + 1);
4088         }
4089         else if (PL_regkind[(U8)op] == BRANCH) {
4090             node = dumpuntil(start, NEXTOPER(node), next, sv, l + 1);
4091         }
4092         else if ( op == CURLY) {   /* `next' might be very big: optimizer */
4093             node = dumpuntil(start, NEXTOPER(node) + EXTRA_STEP_2ARGS,
4094                              NEXTOPER(node) + EXTRA_STEP_2ARGS + 1, sv, l + 1);
4095         }
4096         else if (PL_regkind[(U8)op] == CURLY && op != CURLYX) {
4097             node = dumpuntil(start, NEXTOPER(node) + EXTRA_STEP_2ARGS,
4098                              next, sv, l + 1);
4099         }
4100         else if ( op == PLUS || op == STAR) {
4101             node = dumpuntil(start, NEXTOPER(node), NEXTOPER(node) + 1, sv, l + 1);
4102         }
4103         else if (op == ANYOF) {
4104             node = NEXTOPER(node);
4105             node += ANYOF_SKIP;
4106         }
4107         else if (PL_regkind[(U8)op] == EXACT) {
4108             /* Literal string, where present. */
4109             node += NODE_SZ_STR(node) - 1;
4110             node = NEXTOPER(node);
4111         }
4112         else {
4113             node = NEXTOPER(node);
4114             node += regarglen[(U8)op];
4115         }
4116         if (op == CURLYX || op == OPEN)
4117             l++;
4118         else if (op == WHILEM)
4119             l--;
4120     }
4121 #endif  /* DEBUGGING */
4122     return node;
4123 }
4124
4125 /*
4126  - regdump - dump a regexp onto Perl_debug_log in vaguely comprehensible form
4127  */
4128 void
4129 Perl_regdump(pTHX_ regexp *r)
4130 {
4131 #ifdef DEBUGGING
4132     dTHR;
4133     SV *sv = sv_newmortal();
4134
4135     (void)dumpuntil(r->program, r->program + 1, NULL, sv, 0);
4136
4137     /* Header fields of interest. */
4138     if (r->anchored_substr)
4139         PerlIO_printf(Perl_debug_log,
4140                       "anchored `%s%.*s%s'%s at %"IVdf" ",
4141                       PL_colors[0],
4142                       (int)(SvCUR(r->anchored_substr) - (SvTAIL(r->anchored_substr)!=0)),
4143                       SvPVX(r->anchored_substr),
4144                       PL_colors[1],
4145                       SvTAIL(r->anchored_substr) ? "$" : "",
4146                       (IV)r->anchored_offset);
4147     if (r->float_substr)
4148         PerlIO_printf(Perl_debug_log,
4149                       "floating `%s%.*s%s'%s at %"IVdf"..%"UVuf" ",
4150                       PL_colors[0],
4151                       (int)(SvCUR(r->float_substr) - (SvTAIL(r->float_substr)!=0)),
4152                       SvPVX(r->float_substr),
4153                       PL_colors[1],
4154                       SvTAIL(r->float_substr) ? "$" : "",
4155                       (IV)r->float_min_offset, (UV)r->float_max_offset);
4156     if (r->check_substr)
4157         PerlIO_printf(Perl_debug_log,
4158                       r->check_substr == r->float_substr
4159                       ? "(checking floating" : "(checking anchored");
4160     if (r->reganch & ROPT_NOSCAN)
4161         PerlIO_printf(Perl_debug_log, " noscan");
4162     if (r->reganch & ROPT_CHECK_ALL)
4163         PerlIO_printf(Perl_debug_log, " isall");
4164     if (r->check_substr)
4165         PerlIO_printf(Perl_debug_log, ") ");
4166
4167     if (r->regstclass) {
4168         regprop(sv, r->regstclass);
4169         PerlIO_printf(Perl_debug_log, "stclass `%s' ", SvPVX(sv));
4170     }
4171     if (r->reganch & ROPT_ANCH) {
4172         PerlIO_printf(Perl_debug_log, "anchored");
4173         if (r->reganch & ROPT_ANCH_BOL)
4174             PerlIO_printf(Perl_debug_log, "(BOL)");
4175         if (r->reganch & ROPT_ANCH_MBOL)
4176             PerlIO_printf(Perl_debug_log, "(MBOL)");
4177         if (r->reganch & ROPT_ANCH_SBOL)
4178             PerlIO_printf(Perl_debug_log, "(SBOL)");
4179         if (r->reganch & ROPT_ANCH_GPOS)
4180             PerlIO_printf(Perl_debug_log, "(GPOS)");
4181         PerlIO_putc(Perl_debug_log, ' ');
4182     }
4183     if (r->reganch & ROPT_GPOS_SEEN)
4184         PerlIO_printf(Perl_debug_log, "GPOS ");
4185     if (r->reganch & ROPT_SKIP)
4186         PerlIO_printf(Perl_debug_log, "plus ");
4187     if (r->reganch & ROPT_IMPLICIT)
4188         PerlIO_printf(Perl_debug_log, "implicit ");
4189     PerlIO_printf(Perl_debug_log, "minlen %ld ", (long) r->minlen);
4190     if (r->reganch & ROPT_EVAL_SEEN)
4191         PerlIO_printf(Perl_debug_log, "with eval ");
4192     PerlIO_printf(Perl_debug_log, "\n");
4193 #endif  /* DEBUGGING */
4194 }
4195
4196 STATIC void
4197 S_put_byte(pTHX_ SV *sv, int c)
4198 {
4199     if (c <= ' ' || c == 127 || c == 255)
4200         Perl_sv_catpvf(aTHX_ sv, "\\%o", c);
4201     else if (c == '-' || c == ']' || c == '\\' || c == '^')
4202         Perl_sv_catpvf(aTHX_ sv, "\\%c", c);
4203     else
4204         Perl_sv_catpvf(aTHX_ sv, "%c", c);
4205 }
4206
4207 /*
4208 - regprop - printable representation of opcode
4209 */
4210 void
4211 Perl_regprop(pTHX_ SV *sv, regnode *o)
4212 {
4213 #ifdef DEBUGGING
4214     dTHR;
4215     register int k;
4216
4217     sv_setpvn(sv, "", 0);
4218     if (OP(o) >= reg_num)               /* regnode.type is unsigned */
4219         FAIL("Corrupted regexp opcode");
4220     sv_catpv(sv, (char*)reg_name[OP(o)]); /* Take off const! */
4221
4222     k = PL_regkind[(U8)OP(o)];
4223
4224     if (k == EXACT)
4225         Perl_sv_catpvf(aTHX_ sv, " <%s%.*s%s>", PL_colors[0],
4226                        STR_LEN(o), STRING(o), PL_colors[1]);
4227     else if (k == CURLY) {
4228         if (OP(o) == CURLYM || OP(o) == CURLYN)
4229             Perl_sv_catpvf(aTHX_ sv, "[%d]", o->flags); /* Parenth number */
4230         Perl_sv_catpvf(aTHX_ sv, " {%d,%d}", ARG1(o), ARG2(o));
4231     }
4232     else if (k == WHILEM && o->flags)                   /* Ordinal/of */
4233         Perl_sv_catpvf(aTHX_ sv, "[%d/%d]", o->flags & 0xf, o->flags>>4);
4234     else if (k == REF || k == OPEN || k == CLOSE || k == GROUPP )
4235         Perl_sv_catpvf(aTHX_ sv, "%d", (int)ARG(o));    /* Parenth number */
4236     else if (k == LOGICAL)
4237         Perl_sv_catpvf(aTHX_ sv, "[%d]", o->flags);     /* 2: embedded, otherwise 1 */
4238     else if (k == ANYOF) {
4239         int i, rangestart = -1;
4240         const char * const out[] = {    /* Should be syncronized with
4241                                            ANYOF_ #xdefines in regcomp.h */
4242             "\\w",
4243             "\\W",
4244             "\\s",
4245             "\\S",
4246             "\\d",
4247             "\\D",
4248             "[:alnum:]",
4249             "[:^alnum:]",
4250             "[:alpha:]",
4251             "[:^alpha:]",
4252             "[:ascii:]",
4253             "[:^ascii:]",
4254             "[:ctrl:]",
4255             "[:^ctrl:]",
4256             "[:graph:]",
4257             "[:^graph:]",
4258             "[:lower:]",
4259             "[:^lower:]",
4260             "[:print:]",
4261             "[:^print:]",
4262             "[:punct:]",
4263             "[:^punct:]",
4264             "[:upper:]",
4265             "[:^upper:]",
4266             "[:xdigit:]",
4267             "[:^xdigit:]",
4268             "[:space:]",
4269             "[:^space:]",
4270             "[:blank:]",
4271             "[:^blank:]"
4272         };
4273
4274         if (o->flags & ANYOF_LOCALE)
4275             sv_catpv(sv, "{loc}");
4276         if (o->flags & ANYOF_FOLD)
4277             sv_catpv(sv, "{i}");
4278         Perl_sv_catpvf(aTHX_ sv, "[%s", PL_colors[0]);
4279         if (o->flags & ANYOF_INVERT)
4280             sv_catpv(sv, "^");
4281         for (i = 0; i <= 256; i++) {
4282             if (i < 256 && ANYOF_BITMAP_TEST(o,i)) {
4283                 if (rangestart == -1)
4284                     rangestart = i;
4285             } else if (rangestart != -1) {
4286                 if (i <= rangestart + 3)
4287                     for (; rangestart < i; rangestart++)
4288                         put_byte(sv, rangestart);
4289                 else {
4290                     put_byte(sv, rangestart);
4291                     sv_catpv(sv, "-");
4292                     put_byte(sv, i - 1);
4293                 }
4294                 rangestart = -1;
4295             }
4296         }
4297         if (o->flags & ANYOF_CLASS)
4298             for (i = 0; i < sizeof(out)/sizeof(char*); i++)
4299                 if (ANYOF_CLASS_TEST(o,i))
4300                     sv_catpv(sv, out[i]);
4301         Perl_sv_catpvf(aTHX_ sv, "%s]", PL_colors[1]);
4302     }
4303     else if (k == BRANCHJ && (OP(o) == UNLESSM || OP(o) == IFMATCH))
4304         Perl_sv_catpvf(aTHX_ sv, "[-%d]", o->flags);
4305 #endif  /* DEBUGGING */
4306 }
4307
4308 SV *
4309 Perl_re_intuit_string(pTHX_ regexp *prog)
4310 {                               /* Assume that RE_INTUIT is set */
4311     DEBUG_r(
4312         {   STRLEN n_a;
4313             char *s = SvPV(prog->check_substr,n_a);
4314
4315             if (!PL_colorset) reginitcolors();
4316             PerlIO_printf(Perl_debug_log,
4317                       "%sUsing REx substr:%s `%s%.60s%s%s'\n",
4318                       PL_colors[4],PL_colors[5],PL_colors[0],
4319                       s,
4320                       PL_colors[1],
4321                       (strlen(s) > 60 ? "..." : ""));
4322         } );
4323
4324     return prog->check_substr;
4325 }
4326
4327 void
4328 Perl_pregfree(pTHX_ struct regexp *r)
4329 {
4330     dTHR;
4331     DEBUG_r(if (!PL_colorset) reginitcolors());
4332
4333     if (!r || (--r->refcnt > 0))
4334         return;
4335     DEBUG_r(PerlIO_printf(Perl_debug_log,
4336                       "%sFreeing REx:%s `%s%.60s%s%s'\n",
4337                       PL_colors[4],PL_colors[5],PL_colors[0],
4338                       r->precomp,
4339                       PL_colors[1],
4340                       (strlen(r->precomp) > 60 ? "..." : "")));
4341
4342     if (r->precomp)
4343         Safefree(r->precomp);
4344     if (RX_MATCH_COPIED(r))
4345         Safefree(r->subbeg);
4346     if (r->substrs) {
4347         if (r->anchored_substr)
4348             SvREFCNT_dec(r->anchored_substr);
4349         if (r->float_substr)
4350             SvREFCNT_dec(r->float_substr);
4351         Safefree(r->substrs);
4352     }
4353     if (r->data) {
4354         int n = r->data->count;
4355         AV* new_comppad = NULL;
4356         AV* old_comppad;
4357         SV** old_curpad;
4358
4359         while (--n >= 0) {
4360             switch (r->data->what[n]) {
4361             case 's':
4362                 SvREFCNT_dec((SV*)r->data->data[n]);
4363                 break;
4364             case 'f':
4365                 Safefree(r->data->data[n]);
4366                 break;
4367             case 'p':
4368                 new_comppad = (AV*)r->data->data[n];
4369                 break;
4370             case 'o':
4371                 if (new_comppad == NULL)
4372                     Perl_croak(aTHX_ "panic: pregfree comppad");
4373                 old_comppad = PL_comppad;
4374                 old_curpad = PL_curpad;
4375                 /* Watch out for global destruction's random ordering. */
4376                 if (SvTYPE(new_comppad) == SVt_PVAV) {
4377                     PL_comppad = new_comppad;
4378                     PL_curpad = AvARRAY(new_comppad);
4379                 }
4380                 else
4381                     PL_curpad = NULL;
4382                 op_free((OP_4tree*)r->data->data[n]);
4383                 PL_comppad = old_comppad;
4384                 PL_curpad = old_curpad;
4385                 SvREFCNT_dec((SV*)new_comppad);
4386                 new_comppad = NULL;
4387                 break;
4388             case 'n':
4389                 break;
4390             default:
4391                 FAIL2("panic: regfree data code '%c'", r->data->what[n]);
4392             }
4393         }
4394         Safefree(r->data->what);
4395         Safefree(r->data);
4396     }
4397     Safefree(r->startp);
4398     Safefree(r->endp);
4399     Safefree(r);
4400 }
4401
4402 /*
4403  - regnext - dig the "next" pointer out of a node
4404  *
4405  * [Note, when REGALIGN is defined there are two places in regmatch()
4406  * that bypass this code for speed.]
4407  */
4408 regnode *
4409 Perl_regnext(pTHX_ register regnode *p)
4410 {
4411     dTHR;
4412     register I32 offset;
4413
4414     if (p == &PL_regdummy)
4415         return(NULL);
4416
4417     offset = (reg_off_by_arg[OP(p)] ? ARG(p) : NEXT_OFF(p));
4418     if (offset == 0)
4419         return(NULL);
4420
4421     return(p+offset);
4422 }
4423
4424 STATIC void
4425 S_re_croak2(pTHX_ const char* pat1,const char* pat2,...)
4426 {
4427     va_list args;
4428     STRLEN l1 = strlen(pat1);
4429     STRLEN l2 = strlen(pat2);
4430     char buf[512];
4431     SV *msv;
4432     char *message;
4433
4434     if (l1 > 510)
4435         l1 = 510;
4436     if (l1 + l2 > 510)
4437         l2 = 510 - l1;
4438     Copy(pat1, buf, l1 , char);
4439     Copy(pat2, buf + l1, l2 , char);
4440     buf[l1 + l2] = '\n';
4441     buf[l1 + l2 + 1] = '\0';
4442 #ifdef I_STDARG
4443     /* ANSI variant takes additional second argument */
4444     va_start(args, pat2);
4445 #else
4446     va_start(args);
4447 #endif
4448     msv = vmess(buf, &args);
4449     va_end(args);
4450     message = SvPV(msv,l1);
4451     if (l1 > 512)
4452         l1 = 512;
4453     Copy(message, buf, l1 , char);
4454     buf[l1] = '\0';                     /* Overwrite \n */
4455     Perl_croak(aTHX_ "%s", buf);
4456 }
4457
4458 /* XXX Here's a total kludge.  But we need to re-enter for swash routines. */
4459
4460 void
4461 Perl_save_re_context(pTHX)
4462 {
4463     dTHR;
4464     SAVEPPTR(PL_bostr);
4465     SAVEPPTR(PL_regprecomp);            /* uncompiled string. */
4466     SAVEI32(PL_regnpar);                /* () count. */
4467     SAVEI32(PL_regsize);                /* Code size. */
4468     SAVEI16(PL_regflags);               /* are we folding, multilining? */
4469     SAVEPPTR(PL_reginput);              /* String-input pointer. */
4470     SAVEPPTR(PL_regbol);                /* Beginning of input, for ^ check. */
4471     SAVEPPTR(PL_regeol);                /* End of input, for $ check. */
4472     SAVEVPTR(PL_regstartp);             /* Pointer to startp array. */
4473     SAVEVPTR(PL_regendp);               /* Ditto for endp. */
4474     SAVEVPTR(PL_reglastparen);          /* Similarly for lastparen. */
4475     SAVEPPTR(PL_regtill);               /* How far we are required to go. */
4476     SAVEI8(PL_regprev);                 /* char before regbol, \n if none */
4477     SAVEVPTR(PL_reg_start_tmp);         /* from regexec.c */
4478     PL_reg_start_tmp = 0;
4479     SAVEFREEPV(PL_reg_start_tmp);
4480     SAVEI32(PL_reg_start_tmpl);         /* from regexec.c */
4481     PL_reg_start_tmpl = 0;
4482     SAVEVPTR(PL_regdata);
4483     SAVEI32(PL_reg_flags);              /* from regexec.c */
4484     SAVEI32(PL_reg_eval_set);           /* from regexec.c */
4485     SAVEI32(PL_regnarrate);             /* from regexec.c */
4486     SAVEVPTR(PL_regprogram);            /* from regexec.c */
4487     SAVEINT(PL_regindent);              /* from regexec.c */
4488     SAVEVPTR(PL_regcc);                 /* from regexec.c */
4489     SAVEVPTR(PL_curcop);
4490     SAVEVPTR(PL_regcomp_rx);            /* from regcomp.c */
4491     SAVEI32(PL_regseen);                /* from regcomp.c */
4492     SAVEI32(PL_regsawback);             /* Did we see \1, ...? */
4493     SAVEI32(PL_regnaughty);             /* How bad is this pattern? */
4494     SAVEVPTR(PL_regcode);               /* Code-emit pointer; &regdummy = don't */
4495     SAVEPPTR(PL_regxend);               /* End of input for compile */
4496     SAVEPPTR(PL_regcomp_parse);         /* Input-scan pointer. */
4497     SAVEVPTR(PL_reg_call_cc);           /* from regexec.c */
4498     SAVEVPTR(PL_reg_re);                /* from regexec.c */
4499     SAVEPPTR(PL_reg_ganch);             /* from regexec.c */
4500     SAVESPTR(PL_reg_sv);                /* from regexec.c */
4501     SAVEVPTR(PL_reg_magic);             /* from regexec.c */
4502     SAVEI32(PL_reg_oldpos);                     /* from regexec.c */
4503     SAVEVPTR(PL_reg_oldcurpm);          /* from regexec.c */
4504     SAVEVPTR(PL_reg_curpm);             /* from regexec.c */
4505 #ifdef DEBUGGING
4506     SAVEPPTR(PL_reg_starttry);          /* from regexec.c */
4507 #endif
4508 }
4509
4510 #ifdef PERL_OBJECT
4511 #include "XSUB.h"
4512 #undef this
4513 #define this pPerl
4514 #endif
4515
4516 static void
4517 clear_re(pTHXo_ void *r)
4518 {
4519     ReREFCNT_dec((regexp *)r);
4520 }
4521