toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
   4  *    2000, 2001, 2002, 2003, 2004, 2005, 2006, 2007, by Larry Wall and others
   5  *
   6  *    You may distribute under the terms of either the GNU General Public
   7  *    License or the Artistic License, as specified in the README file.
   8  *
   9  */
  10
  11 /*
  12  *   "It all comes from here, the stench and the peril."  --Frodo
  13  */
  14
  15 /*
  16  * This file is the lexer for Perl.  It's closely linked to the
  17  * parser, perly.y.
  18  *
  19  * The main routine is yylex(), which returns the next token.
  20  */
  21
  22 #include "EXTERN.h"
  23 #define PERL_IN_TOKE_C
  24 #include "perl.h"
  25
  26 #define new_constant(a,b,c,d,e,f,g)     \
  27         S_new_constant(aTHX_ a,b,STR_WITH_LEN(c),d,e,f, g)
  28
  29 #define yylval  (PL_parser->yylval)
  30
  31 /* YYINITDEPTH -- initial size of the parser's stacks.  */
  32 #define YYINITDEPTH 200
  33
  34 /* XXX temporary backwards compatibility */
  35 #define PL_lex_brackets         (PL_parser->lex_brackets)
  36 #define PL_lex_brackstack       (PL_parser->lex_brackstack)
  37 #define PL_lex_casemods         (PL_parser->lex_casemods)
  38 #define PL_lex_casestack        (PL_parser->lex_casestack)
  39 #define PL_lex_defer            (PL_parser->lex_defer)
  40 #define PL_lex_dojoin           (PL_parser->lex_dojoin)
  41 #define PL_lex_expect           (PL_parser->lex_expect)
  42 #define PL_lex_formbrack        (PL_parser->lex_formbrack)
  43 #define PL_lex_inpat            (PL_parser->lex_inpat)
  44 #define PL_lex_inwhat           (PL_parser->lex_inwhat)
  45 #define PL_lex_op               (PL_parser->lex_op)
  46 #define PL_lex_repl             (PL_parser->lex_repl)
  47 #define PL_lex_starts           (PL_parser->lex_starts)
  48 #define PL_lex_stuff            (PL_parser->lex_stuff)
  49 #define PL_multi_start          (PL_parser->multi_start)
  50 #define PL_multi_open           (PL_parser->multi_open)
  51 #define PL_multi_close          (PL_parser->multi_close)
  52 #define PL_pending_ident        (PL_parser->pending_ident)
  53 #define PL_preambled            (PL_parser->preambled)
  54 #define PL_sublex_info          (PL_parser->sublex_info)
  55 #define PL_linestr              (PL_parser->linestr)
  56 #define PL_expect               (PL_parser->expect)
  57 #define PL_copline              (PL_parser->copline)
  58 #define PL_bufptr               (PL_parser->bufptr)
  59 #define PL_oldbufptr            (PL_parser->oldbufptr)
  60 #define PL_oldoldbufptr         (PL_parser->oldoldbufptr)
  61 #define PL_linestart            (PL_parser->linestart)
  62 #define PL_bufend               (PL_parser->bufend)
  63 #define PL_last_uni             (PL_parser->last_uni)
  64 #define PL_last_lop             (PL_parser->last_lop)
  65 #define PL_last_lop_op          (PL_parser->last_lop_op)
  66 #define PL_lex_state            (PL_parser->lex_state)
  67 #define PL_rsfp                 (PL_parser->rsfp)
  68 #define PL_rsfp_filters         (PL_parser->rsfp_filters)
  69 #define PL_in_my                (PL_parser->in_my)
  70 #define PL_in_my_stash          (PL_parser->in_my_stash)
  71 #define PL_tokenbuf             (PL_parser->tokenbuf)
  72 #define PL_multi_end            (PL_parser->multi_end)
  73 #define PL_error_count          (PL_parser->error_count)
  74
  75 #ifdef PERL_MAD
  76 #  define PL_endwhite           (PL_parser->endwhite)
  77 #  define PL_faketokens         (PL_parser->faketokens)
  78 #  define PL_lasttoke           (PL_parser->lasttoke)
  79 #  define PL_nextwhite          (PL_parser->nextwhite)
  80 #  define PL_realtokenstart     (PL_parser->realtokenstart)
  81 #  define PL_skipwhite          (PL_parser->skipwhite)
  82 #  define PL_thisclose          (PL_parser->thisclose)
  83 #  define PL_thismad            (PL_parser->thismad)
  84 #  define PL_thisopen           (PL_parser->thisopen)
  85 #  define PL_thisstuff          (PL_parser->thisstuff)
  86 #  define PL_thistoken          (PL_parser->thistoken)
  87 #  define PL_thiswhite          (PL_parser->thiswhite)
  88 #  define PL_thiswhite          (PL_parser->thiswhite)
  89 #  define PL_nexttoke           (PL_parser->nexttoke)
  90 #  define PL_curforce           (PL_parser->curforce)
  91 #else
  92 #  define PL_nexttoke           (PL_parser->nexttoke)
  93 #  define PL_nexttype           (PL_parser->nexttype)
  94 #  define PL_nextval            (PL_parser->nextval)
  95 #endif
  96
  97 static int
  98 S_pending_ident(pTHX);
  99
 100 static const char ident_too_long[] = "Identifier too long";
 101 static const char commaless_variable_list[] = "comma-less variable list";
 102
 103 #ifndef PERL_NO_UTF16_FILTER
 104 static I32 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen);
 105 static I32 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen);
 106 #endif
 107
 108 #ifdef PERL_MAD
 109 #  define CURMAD(slot,sv) if (PL_madskills) { curmad(slot,sv); sv = 0; }
 110 #  define NEXTVAL_NEXTTOKE PL_nexttoke[PL_curforce].next_val
 111 #else
 112 #  define CURMAD(slot,sv)
 113 #  define NEXTVAL_NEXTTOKE PL_nextval[PL_nexttoke]
 114 #endif
 115
 116 #define XFAKEBRACK 128
 117 #define XENUMMASK 127
 118
 119 #ifdef USE_UTF8_SCRIPTS
 120 #   define UTF (!IN_BYTES)
 121 #else
 122 #   define UTF ((PL_linestr && DO_UTF8(PL_linestr)) || (PL_hints & HINT_UTF8))
 123 #endif
 124
 125 /* In variables named $^X, these are the legal values for X.
 126  * 1999-02-27 mjd-perl-patch@plover.com */
 127 #define isCONTROLVAR(x) (isUPPER(x) || strchr("[\\]^_?", (x)))
 128
 129 /* On MacOS, respect nonbreaking spaces */
 130 #ifdef MACOS_TRADITIONAL
 131 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\312'||(c)=='\t')
 132 #else
 133 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\t')
 134 #endif
 135
 136 /* LEX_* are values for PL_lex_state, the state of the lexer.
 137  * They are arranged oddly so that the guard on the switch statement
 138  * can get by with a single comparison (if the compiler is smart enough).
 139  */
 140
 141 /* #define LEX_NOTPARSING               11 is done in perl.h. */
 142
 143 #define LEX_NORMAL              10 /* normal code (ie not within "...")     */
 144 #define LEX_INTERPNORMAL         9 /* code within a string, eg "$foo[$x+1]" */
 145 #define LEX_INTERPCASEMOD        8 /* expecting a \U, \Q or \E etc          */
 146 #define LEX_INTERPPUSH           7 /* starting a new sublex parse level     */
 147 #define LEX_INTERPSTART          6 /* expecting the start of a $var         */
 148
 149                                    /* at end of code, eg "$x" followed by:  */
 150 #define LEX_INTERPEND            5 /* ... eg not one of [, { or ->          */
 151 #define LEX_INTERPENDMAYBE       4 /* ... eg one of [, { or ->              */
 152
 153 #define LEX_INTERPCONCAT         3 /* expecting anything, eg at start of
 154                                         string or after \E, $foo, etc       */
 155 #define LEX_INTERPCONST          2 /* NOT USED */
 156 #define LEX_FORMLINE             1 /* expecting a format line               */
 157 #define LEX_KNOWNEXT             0 /* next token known; just return it      */
 158
 159
 160 #ifdef DEBUGGING
 161 static const char* const lex_state_names[] = {
 162     "KNOWNEXT",
 163     "FORMLINE",
 164     "INTERPCONST",
 165     "INTERPCONCAT",
 166     "INTERPENDMAYBE",
 167     "INTERPEND",
 168     "INTERPSTART",
 169     "INTERPPUSH",
 170     "INTERPCASEMOD",
 171     "INTERPNORMAL",
 172     "NORMAL"
 173 };
 174 #endif
 175
 176 #ifdef ff_next
 177 #undef ff_next
 178 #endif
 179
 180 #include "keywords.h"
 181
 182 /* CLINE is a macro that ensures PL_copline has a sane value */
 183
 184 #ifdef CLINE
 185 #undef CLINE
 186 #endif
 187 #define CLINE (PL_copline = (CopLINE(PL_curcop) < PL_copline ? CopLINE(PL_curcop) : PL_copline))
 188
 189 #ifdef PERL_MAD
 190 #  define SKIPSPACE0(s) skipspace0(s)
 191 #  define SKIPSPACE1(s) skipspace1(s)
 192 #  define SKIPSPACE2(s,tsv) skipspace2(s,&tsv)
 193 #  define PEEKSPACE(s) skipspace2(s,0)
 194 #else
 195 #  define SKIPSPACE0(s) skipspace(s)
 196 #  define SKIPSPACE1(s) skipspace(s)
 197 #  define SKIPSPACE2(s,tsv) skipspace(s)
 198 #  define PEEKSPACE(s) skipspace(s)
 199 #endif
 200
 201 /*
 202  * Convenience functions to return different tokens and prime the
 203  * lexer for the next token.  They all take an argument.
 204  *
 205  * TOKEN        : generic token (used for '(', DOLSHARP, etc)
 206  * OPERATOR     : generic operator
 207  * AOPERATOR    : assignment operator
 208  * PREBLOCK     : beginning the block after an if, while, foreach, ...
 209  * PRETERMBLOCK : beginning a non-code-defining {} block (eg, hash ref)
 210  * PREREF       : *EXPR where EXPR is not a simple identifier
 211  * TERM         : expression term
 212  * LOOPX        : loop exiting command (goto, last, dump, etc)
 213  * FTST         : file test operator
 214  * FUN0         : zero-argument function
 215  * FUN1         : not used, except for not, which isn't a UNIOP
 216  * BOop         : bitwise or or xor
 217  * BAop         : bitwise and
 218  * SHop         : shift operator
 219  * PWop         : power operator
 220  * PMop         : pattern-matching operator
 221  * Aop          : addition-level operator
 222  * Mop          : multiplication-level operator
 223  * Eop          : equality-testing operator
 224  * Rop          : relational operator <= != gt
 225  *
 226  * Also see LOP and lop() below.
 227  */
 228
 229 #ifdef DEBUGGING /* Serve -DT. */
 230 #   define REPORT(retval) tokereport((I32)retval)
 231 #else
 232 #   define REPORT(retval) (retval)
 233 #endif
 234
 235 #define TOKEN(retval) return ( PL_bufptr = s, REPORT(retval))
 236 #define OPERATOR(retval) return (PL_expect = XTERM, PL_bufptr = s, REPORT(retval))
 237 #define AOPERATOR(retval) return ao((PL_expect = XTERM, PL_bufptr = s, REPORT(retval)))
 238 #define PREBLOCK(retval) return (PL_expect = XBLOCK,PL_bufptr = s, REPORT(retval))
 239 #define PRETERMBLOCK(retval) return (PL_expect = XTERMBLOCK,PL_bufptr = s, REPORT(retval))
 240 #define PREREF(retval) return (PL_expect = XREF,PL_bufptr = s, REPORT(retval))
 241 #define TERM(retval) return (CLINE, PL_expect = XOPERATOR, PL_bufptr = s, REPORT(retval))
 242 #define LOOPX(f) return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)LOOPEX))
 243 #define FTST(f)  return (yylval.ival=f, PL_expect=XTERMORDORDOR, PL_bufptr=s, REPORT((int)UNIOP))
 244 #define FUN0(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC0))
 245 #define FUN1(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC1))
 246 #define BOop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITOROP)))
 247 #define BAop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITANDOP)))
 248 #define SHop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)SHIFTOP)))
 249 #define PWop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)POWOP)))
 250 #define PMop(f)  return(yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MATCHOP))
 251 #define Aop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)ADDOP)))
 252 #define Mop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MULOP)))
 253 #define Eop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)EQOP))
 254 #define Rop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)RELOP))
 255
 256 /* This bit of chicanery makes a unary function followed by
 257  * a parenthesis into a function with one argument, highest precedence.
 258  * The UNIDOR macro is for unary functions that can be followed by the //
 259  * operator (such as C<shift // 0>).
 260  */
 261 #define UNI2(f,x) { \
 262         yylval.ival = f; \
 263         PL_expect = x; \
 264         PL_bufptr = s; \
 265         PL_last_uni = PL_oldbufptr; \
 266         PL_last_lop_op = f; \
 267         if (*s == '(') \
 268             return REPORT( (int)FUNC1 ); \
 269         s = PEEKSPACE(s); \
 270         return REPORT( *s=='(' ? (int)FUNC1 : (int)UNIOP ); \
 271         }
 272 #define UNI(f)    UNI2(f,XTERM)
 273 #define UNIDOR(f) UNI2(f,XTERMORDORDOR)
 274
 275 #define UNIBRACK(f) { \
 276         yylval.ival = f; \
 277         PL_bufptr = s; \
 278         PL_last_uni = PL_oldbufptr; \
 279         if (*s == '(') \
 280             return REPORT( (int)FUNC1 ); \
 281         s = PEEKSPACE(s); \
 282         return REPORT( (*s == '(') ? (int)FUNC1 : (int)UNIOP ); \
 283         }
 284
 285 /* grandfather return to old style */
 286 #define OLDLOP(f) return(yylval.ival=f,PL_expect = XTERM,PL_bufptr = s,(int)LSTOP)
 287
 288 #ifdef DEBUGGING
 289
 290 /* how to interpret the yylval associated with the token */
 291 enum token_type {
 292     TOKENTYPE_NONE,
 293     TOKENTYPE_IVAL,
 294     TOKENTYPE_OPNUM, /* yylval.ival contains an opcode number */
 295     TOKENTYPE_PVAL,
 296     TOKENTYPE_OPVAL,
 297     TOKENTYPE_GVVAL
 298 };
 299
 300 static struct debug_tokens {
 301     const int token;
 302     enum token_type type;
 303     const char *name;
 304 } const debug_tokens[] =
 305 {
 306     { ADDOP,            TOKENTYPE_OPNUM,        "ADDOP" },
 307     { ANDAND,           TOKENTYPE_NONE,         "ANDAND" },
 308     { ANDOP,            TOKENTYPE_NONE,         "ANDOP" },
 309     { ANONSUB,          TOKENTYPE_IVAL,         "ANONSUB" },
 310     { ARROW,            TOKENTYPE_NONE,         "ARROW" },
 311     { ASSIGNOP,         TOKENTYPE_OPNUM,        "ASSIGNOP" },
 312     { BITANDOP,         TOKENTYPE_OPNUM,        "BITANDOP" },
 313     { BITOROP,          TOKENTYPE_OPNUM,        "BITOROP" },
 314     { COLONATTR,        TOKENTYPE_NONE,         "COLONATTR" },
 315     { CONTINUE,         TOKENTYPE_NONE,         "CONTINUE" },
 316     { DEFAULT,          TOKENTYPE_NONE,         "DEFAULT" },
 317     { DO,               TOKENTYPE_NONE,         "DO" },
 318     { DOLSHARP,         TOKENTYPE_NONE,         "DOLSHARP" },
 319     { DORDOR,           TOKENTYPE_NONE,         "DORDOR" },
 320     { DOROP,            TOKENTYPE_OPNUM,        "DOROP" },
 321     { DOTDOT,           TOKENTYPE_IVAL,         "DOTDOT" },
 322     { ELSE,             TOKENTYPE_NONE,         "ELSE" },
 323     { ELSIF,            TOKENTYPE_IVAL,         "ELSIF" },
 324     { EQOP,             TOKENTYPE_OPNUM,        "EQOP" },
 325     { FOR,              TOKENTYPE_IVAL,         "FOR" },
 326     { FORMAT,           TOKENTYPE_NONE,         "FORMAT" },
 327     { FUNC,             TOKENTYPE_OPNUM,        "FUNC" },
 328     { FUNC0,            TOKENTYPE_OPNUM,        "FUNC0" },
 329     { FUNC0SUB,         TOKENTYPE_OPVAL,        "FUNC0SUB" },
 330     { FUNC1,            TOKENTYPE_OPNUM,        "FUNC1" },
 331     { FUNCMETH,         TOKENTYPE_OPVAL,        "FUNCMETH" },
 332     { GIVEN,            TOKENTYPE_IVAL,         "GIVEN" },
 333     { HASHBRACK,        TOKENTYPE_NONE,         "HASHBRACK" },
 334     { IF,               TOKENTYPE_IVAL,         "IF" },
 335     { LABEL,            TOKENTYPE_PVAL,         "LABEL" },
 336     { LOCAL,            TOKENTYPE_IVAL,         "LOCAL" },
 337     { LOOPEX,           TOKENTYPE_OPNUM,        "LOOPEX" },
 338     { LSTOP,            TOKENTYPE_OPNUM,        "LSTOP" },
 339     { LSTOPSUB,         TOKENTYPE_OPVAL,        "LSTOPSUB" },
 340     { MATCHOP,          TOKENTYPE_OPNUM,        "MATCHOP" },
 341     { METHOD,           TOKENTYPE_OPVAL,        "METHOD" },
 342     { MULOP,            TOKENTYPE_OPNUM,        "MULOP" },
 343     { MY,               TOKENTYPE_IVAL,         "MY" },
 344     { MYSUB,            TOKENTYPE_NONE,         "MYSUB" },
 345     { NOAMP,            TOKENTYPE_NONE,         "NOAMP" },
 346     { NOTOP,            TOKENTYPE_NONE,         "NOTOP" },
 347     { OROP,             TOKENTYPE_IVAL,         "OROP" },
 348     { OROR,             TOKENTYPE_NONE,         "OROR" },
 349     { PACKAGE,          TOKENTYPE_NONE,         "PACKAGE" },
 350     { PMFUNC,           TOKENTYPE_OPVAL,        "PMFUNC" },
 351     { POSTDEC,          TOKENTYPE_NONE,         "POSTDEC" },
 352     { POSTINC,          TOKENTYPE_NONE,         "POSTINC" },
 353     { POWOP,            TOKENTYPE_OPNUM,        "POWOP" },
 354     { PREDEC,           TOKENTYPE_NONE,         "PREDEC" },
 355     { PREINC,           TOKENTYPE_NONE,         "PREINC" },
 356     { PRIVATEREF,       TOKENTYPE_OPVAL,        "PRIVATEREF" },
 357     { REFGEN,           TOKENTYPE_NONE,         "REFGEN" },
 358     { RELOP,            TOKENTYPE_OPNUM,        "RELOP" },
 359     { SHIFTOP,          TOKENTYPE_OPNUM,        "SHIFTOP" },
 360     { SUB,              TOKENTYPE_NONE,         "SUB" },
 361     { THING,            TOKENTYPE_OPVAL,        "THING" },
 362     { UMINUS,           TOKENTYPE_NONE,         "UMINUS" },
 363     { UNIOP,            TOKENTYPE_OPNUM,        "UNIOP" },
 364     { UNIOPSUB,         TOKENTYPE_OPVAL,        "UNIOPSUB" },
 365     { UNLESS,           TOKENTYPE_IVAL,         "UNLESS" },
 366     { UNTIL,            TOKENTYPE_IVAL,         "UNTIL" },
 367     { USE,              TOKENTYPE_IVAL,         "USE" },
 368     { WHEN,             TOKENTYPE_IVAL,         "WHEN" },
 369     { WHILE,            TOKENTYPE_IVAL,         "WHILE" },
 370     { WORD,             TOKENTYPE_OPVAL,        "WORD" },
 371     { 0,                TOKENTYPE_NONE,         NULL }
 372 };
 373
 374 /* dump the returned token in rv, plus any optional arg in yylval */
 375
 376 STATIC int
 377 S_tokereport(pTHX_ I32 rv)
 378 {
 379     dVAR;
 380     if (DEBUG_T_TEST) {
 381         const char *name = NULL;
 382         enum token_type type = TOKENTYPE_NONE;
 383         const struct debug_tokens *p;
 384         SV* const report = newSVpvs("<== ");
 385
 386         for (p = debug_tokens; p->token; p++) {
 387             if (p->token == (int)rv) {
 388                 name = p->name;
 389                 type = p->type;
 390                 break;
 391             }
 392         }
 393         if (name)
 394             Perl_sv_catpv(aTHX_ report, name);
 395         else if ((char)rv > ' ' && (char)rv < '~')
 396             Perl_sv_catpvf(aTHX_ report, "'%c'", (char)rv);
 397         else if (!rv)
 398             sv_catpvs(report, "EOF");
 399         else
 400             Perl_sv_catpvf(aTHX_ report, "?? %"IVdf, (IV)rv);
 401         switch (type) {
 402         case TOKENTYPE_NONE:
 403         case TOKENTYPE_GVVAL: /* doesn't appear to be used */
 404             break;
 405         case TOKENTYPE_IVAL:
 406             Perl_sv_catpvf(aTHX_ report, "(ival=%"IVdf")", (IV)yylval.ival);
 407             break;
 408         case TOKENTYPE_OPNUM:
 409             Perl_sv_catpvf(aTHX_ report, "(ival=op_%s)",
 410                                     PL_op_name[yylval.ival]);
 411             break;
 412         case TOKENTYPE_PVAL:
 413             Perl_sv_catpvf(aTHX_ report, "(pval=\"%s\")", yylval.pval);
 414             break;
 415         case TOKENTYPE_OPVAL:
 416             if (yylval.opval) {
 417                 Perl_sv_catpvf(aTHX_ report, "(opval=op_%s)",
 418                                     PL_op_name[yylval.opval->op_type]);
 419                 if (yylval.opval->op_type == OP_CONST) {
 420                     Perl_sv_catpvf(aTHX_ report, " %s",
 421                         SvPEEK(cSVOPx_sv(yylval.opval)));
 422                 }
 423
 424             }
 425             else
 426                 sv_catpvs(report, "(opval=null)");
 427             break;
 428         }
 429         PerlIO_printf(Perl_debug_log, "### %s\n\n", SvPV_nolen_const(report));
 430     };
 431     return (int)rv;
 432 }
 433
 434
 435 /* print the buffer with suitable escapes */
 436
 437 STATIC void
 438 S_printbuf(pTHX_ const char* fmt, const char* s)
 439 {
 440     SV* const tmp = newSVpvs("");
 441     PerlIO_printf(Perl_debug_log, fmt, pv_display(tmp, s, strlen(s), 0, 60));
 442     SvREFCNT_dec(tmp);
 443 }
 444
 445 #endif
 446
 447 /*
 448  * S_ao
 449  *
 450  * This subroutine detects &&=, ||=, and //= and turns an ANDAND, OROR or DORDOR
 451  * into an OP_ANDASSIGN, OP_ORASSIGN, or OP_DORASSIGN
 452  */
 453
 454 STATIC int
 455 S_ao(pTHX_ int toketype)
 456 {
 457     dVAR;
 458     if (*PL_bufptr == '=') {
 459         PL_bufptr++;
 460         if (toketype == ANDAND)
 461             yylval.ival = OP_ANDASSIGN;
 462         else if (toketype == OROR)
 463             yylval.ival = OP_ORASSIGN;
 464         else if (toketype == DORDOR)
 465             yylval.ival = OP_DORASSIGN;
 466         toketype = ASSIGNOP;
 467     }
 468     return toketype;
 469 }
 470
 471 /*
 472  * S_no_op
 473  * When Perl expects an operator and finds something else, no_op
 474  * prints the warning.  It always prints "<something> found where
 475  * operator expected.  It prints "Missing semicolon on previous line?"
 476  * if the surprise occurs at the start of the line.  "do you need to
 477  * predeclare ..." is printed out for code like "sub bar; foo bar $x"
 478  * where the compiler doesn't know if foo is a method call or a function.
 479  * It prints "Missing operator before end of line" if there's nothing
 480  * after the missing operator, or "... before <...>" if there is something
 481  * after the missing operator.
 482  */
 483
 484 STATIC void
 485 S_no_op(pTHX_ const char *what, char *s)
 486 {
 487     dVAR;
 488     char * const oldbp = PL_bufptr;
 489     const bool is_first = (PL_oldbufptr == PL_linestart);
 490
 491     if (!s)
 492         s = oldbp;
 493     else
 494         PL_bufptr = s;
 495     yywarn(Perl_form(aTHX_ "%s found where operator expected", what));
 496     if (ckWARN_d(WARN_SYNTAX)) {
 497         if (is_first)
 498             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 499                     "\t(Missing semicolon on previous line?)\n");
 500         else if (PL_oldoldbufptr && isIDFIRST_lazy_if(PL_oldoldbufptr,UTF)) {
 501             const char *t;
 502             for (t = PL_oldoldbufptr; (isALNUM_lazy_if(t,UTF) || *t == ':'); t++)
 503                 NOOP;
 504             if (t < PL_bufptr && isSPACE(*t))
 505                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 506                         "\t(Do you need to predeclare %.*s?)\n",
 507                     (int)(t - PL_oldoldbufptr), PL_oldoldbufptr);
 508         }
 509         else {
 510             assert(s >= oldbp);
 511             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 512                     "\t(Missing operator before %.*s?)\n", (int)(s - oldbp), oldbp);
 513         }
 514     }
 515     PL_bufptr = oldbp;
 516 }
 517
 518 /*
 519  * S_missingterm
 520  * Complain about missing quote/regexp/heredoc terminator.
 521  * If it's called with NULL then it cauterizes the line buffer.
 522  * If we're in a delimited string and the delimiter is a control
 523  * character, it's reformatted into a two-char sequence like ^C.
 524  * This is fatal.
 525  */
 526
 527 STATIC void
 528 S_missingterm(pTHX_ char *s)
 529 {
 530     dVAR;
 531     char tmpbuf[3];
 532     char q;
 533     if (s) {
 534         char * const nl = strrchr(s,'\n');
 535         if (nl)
 536             *nl = '\0';
 537     }
 538     else if (
 539 #ifdef EBCDIC
 540         iscntrl(PL_multi_close)
 541 #else
 542         PL_multi_close < 32 || PL_multi_close == 127
 543 #endif
 544         ) {
 545         *tmpbuf = '^';
 546         tmpbuf[1] = (char)toCTRL(PL_multi_close);
 547         tmpbuf[2] = '\0';
 548         s = tmpbuf;
 549     }
 550     else {
 551         *tmpbuf = (char)PL_multi_close;
 552         tmpbuf[1] = '\0';
 553         s = tmpbuf;
 554     }
 555     q = strchr(s,'"') ? '\'' : '"';
 556     Perl_croak(aTHX_ "Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 557 }
 558
 559 #define FEATURE_IS_ENABLED(name)                                        \
 560         ((0 != (PL_hints & HINT_LOCALIZE_HH))                           \
 561             && S_feature_is_enabled(aTHX_ STR_WITH_LEN(name)))
 562 /* The longest string we pass in.  */
 563 #define MAX_FEATURE_LEN (sizeof("switch")-1)
 564
 565 /*
 566  * S_feature_is_enabled
 567  * Check whether the named feature is enabled.
 568  */
 569 STATIC bool
 570 S_feature_is_enabled(pTHX_ const char *name, STRLEN namelen)
 571 {
 572     dVAR;
 573     HV * const hinthv = GvHV(PL_hintgv);
 574     char he_name[8 + MAX_FEATURE_LEN] = "feature_";
 575     assert(namelen <= MAX_FEATURE_LEN);
 576     memcpy(&he_name[8], name, namelen);
 577
 578     return (hinthv && hv_exists(hinthv, he_name, 8 + namelen));
 579 }
 580
 581 /*
 582  * Perl_deprecate
 583  */
 584
 585 void
 586 Perl_deprecate(pTHX_ const char *s)
 587 {
 588     if (ckWARN(WARN_DEPRECATED))
 589         Perl_warner(aTHX_ packWARN(WARN_DEPRECATED), "Use of %s is deprecated", s);
 590 }
 591
 592 void
 593 Perl_deprecate_old(pTHX_ const char *s)
 594 {
 595     /* This function should NOT be called for any new deprecated warnings */
 596     /* Use Perl_deprecate instead                                         */
 597     /*                                                                    */
 598     /* It is here to maintain backward compatibility with the pre-5.8     */
 599     /* warnings category hierarchy. The "deprecated" category used to     */
 600     /* live under the "syntax" category. It is now a top-level category   */
 601     /* in its own right.                                                  */
 602
 603     if (ckWARN2(WARN_DEPRECATED, WARN_SYNTAX))
 604         Perl_warner(aTHX_ packWARN2(WARN_DEPRECATED, WARN_SYNTAX),
 605                         "Use of %s is deprecated", s);
 606 }
 607
 608 /*
 609  * experimental text filters for win32 carriage-returns, utf16-to-utf8 and
 610  * utf16-to-utf8-reversed.
 611  */
 612
 613 #ifdef PERL_CR_FILTER
 614 static void
 615 strip_return(SV *sv)
 616 {
 617     register const char *s = SvPVX_const(sv);
 618     register const char * const e = s + SvCUR(sv);
 619     /* outer loop optimized to do nothing if there are no CR-LFs */
 620     while (s < e) {
 621         if (*s++ == '\r' && *s == '\n') {
 622             /* hit a CR-LF, need to copy the rest */
 623             register char *d = s - 1;
 624             *d++ = *s++;
 625             while (s < e) {
 626                 if (*s == '\r' && s[1] == '\n')
 627                     s++;
 628                 *d++ = *s++;
 629             }
 630             SvCUR(sv) -= s - d;
 631             return;
 632         }
 633     }
 634 }
 635
 636 STATIC I32
 637 S_cr_textfilter(pTHX_ int idx, SV *sv, int maxlen)
 638 {
 639     const I32 count = FILTER_READ(idx+1, sv, maxlen);
 640     if (count > 0 && !maxlen)
 641         strip_return(sv);
 642     return count;
 643 }
 644 #endif
 645
 646
 647
 648 /*
 649  * Perl_lex_start
 650  *
 651  * Create a parser object and initialise its parser and lexer fields
 652  *
 653  * rsfp       is the opened file handle to read from (if any),
 654  *
 655  * line       holds any initial content already read from the file (or in
 656  *            the case of no file, such as an eval, the whole contents);
 657  *
 658  * new_filter indicates that this is a new file and it shouldn't inherit
 659  *            the filters from the current parser (ie require).
 660  */
 661
 662 void
 663 Perl_lex_start(pTHX_ SV *line, PerlIO *rsfp, bool new_filter)
 664 {
 665     dVAR;
 666     const char *s = NULL;
 667     STRLEN len;
 668     yy_parser *parser, *oparser;
 669
 670     /* create and initialise a parser */
 671
 672     Newxz(parser, 1, yy_parser);
 673     parser->old_parser = oparser = PL_parser;
 674     PL_parser = parser;
 675
 676     Newx(parser->stack, YYINITDEPTH, yy_stack_frame);
 677     parser->ps = parser->stack;
 678     parser->stack_size = YYINITDEPTH;
 679
 680     parser->stack->state = 0;
 681     parser->yyerrstatus = 0;
 682     parser->yychar = YYEMPTY;           /* Cause a token to be read.  */
 683
 684     /* on scope exit, free this parser and restore any outer one */
 685     SAVEPARSER(parser);
 686     parser->saved_curcop = PL_curcop;
 687
 688     /* initialise lexer state */
 689
 690 #ifdef PERL_MAD
 691     parser->curforce = -1;
 692 #else
 693     parser->nexttoke = 0;
 694 #endif
 695     parser->copline = NOLINE;
 696     parser->lex_state = LEX_NORMAL;
 697     parser->expect = XSTATE;
 698     parser->rsfp = rsfp;
 699     parser->rsfp_filters = (new_filter || !oparser) ? newAV()
 700                 : (AV*)SvREFCNT_inc(oparser->rsfp_filters);
 701
 702     Newx(parser->lex_brackstack, 120, char);
 703     Newx(parser->lex_casestack, 12, char);
 704     *parser->lex_casestack = '\0';
 705
 706     if (line) {
 707         s = SvPV_const(line, len);
 708     } else {
 709         len = 0;
 710     }
 711
 712     if (!len) {
 713         parser->linestr = newSVpvs("\n;");
 714     } else if (SvREADONLY(line) || s[len-1] != ';') {
 715         parser->linestr = newSVsv(line);
 716         if (s[len-1] != ';')
 717             sv_catpvs(parser->linestr, "\n;");
 718     } else {
 719         SvTEMP_off(line);
 720         SvREFCNT_inc_simple_void_NN(line);
 721         parser->linestr = line;
 722     }
 723     parser->oldoldbufptr =
 724         parser->oldbufptr =
 725         parser->bufptr =
 726         parser->linestart = SvPVX(parser->linestr);
 727     parser->bufend = parser->bufptr + SvCUR(parser->linestr);
 728     parser->last_lop = parser->last_uni = NULL;
 729 }
 730
 731
 732 /* delete a parser object */
 733
 734 void
 735 Perl_parser_free(pTHX_  const yy_parser *parser)
 736 {
 737     PL_curcop = parser->saved_curcop;
 738     SvREFCNT_dec(parser->linestr);
 739
 740     if (parser->rsfp == PerlIO_stdin())
 741         PerlIO_clearerr(parser->rsfp);
 742     else if (parser->rsfp && parser->old_parser
 743                           && parser->rsfp != parser->old_parser->rsfp)
 744         PerlIO_close(parser->rsfp);
 745     SvREFCNT_dec(parser->rsfp_filters);
 746
 747     Safefree(parser->stack);
 748     Safefree(parser->lex_brackstack);
 749     Safefree(parser->lex_casestack);
 750     PL_parser = parser->old_parser;
 751     Safefree(parser);
 752 }
 753
 754
 755 /*
 756  * Perl_lex_end
 757  * Finalizer for lexing operations.  Must be called when the parser is
 758  * done with the lexer.
 759  */
 760
 761 void
 762 Perl_lex_end(pTHX)
 763 {
 764     dVAR;
 765     PL_doextract = FALSE;
 766 }
 767
 768 /*
 769  * S_incline
 770  * This subroutine has nothing to do with tilting, whether at windmills
 771  * or pinball tables.  Its name is short for "increment line".  It
 772  * increments the current line number in CopLINE(PL_curcop) and checks
 773  * to see whether the line starts with a comment of the form
 774  *    # line 500 "foo.pm"
 775  * If so, it sets the current line number and file to the values in the comment.
 776  */
 777
 778 STATIC void
 779 S_incline(pTHX_ const char *s)
 780 {
 781     dVAR;
 782     const char *t;
 783     const char *n;
 784     const char *e;
 785
 786     CopLINE_inc(PL_curcop);
 787     if (*s++ != '#')
 788         return;
 789     while (SPACE_OR_TAB(*s))
 790         s++;
 791     if (strnEQ(s, "line", 4))
 792         s += 4;
 793     else
 794         return;
 795     if (SPACE_OR_TAB(*s))
 796         s++;
 797     else
 798         return;
 799     while (SPACE_OR_TAB(*s))
 800         s++;
 801     if (!isDIGIT(*s))
 802         return;
 803
 804     n = s;
 805     while (isDIGIT(*s))
 806         s++;
 807     while (SPACE_OR_TAB(*s))
 808         s++;
 809     if (*s == '"' && (t = strchr(s+1, '"'))) {
 810         s++;
 811         e = t + 1;
 812     }
 813     else {
 814         t = s;
 815         while (!isSPACE(*t))
 816             t++;
 817         e = t;
 818     }
 819     while (SPACE_OR_TAB(*e) || *e == '\r' || *e == '\f')
 820         e++;
 821     if (*e != '\n' && *e != '\0')
 822         return;         /* false alarm */
 823
 824     if (t - s > 0) {
 825         const STRLEN len = t - s;
 826 #ifndef USE_ITHREADS
 827         const char * const cf = CopFILE(PL_curcop);
 828         STRLEN tmplen = cf ? strlen(cf) : 0;
 829         if (tmplen > 7 && strnEQ(cf, "(eval ", 6)) {
 830             /* must copy *{"::_<(eval N)[oldfilename:L]"}
 831              * to *{"::_<newfilename"} */
 832             /* However, the long form of evals is only turned on by the
 833                debugger - usually they're "(eval %lu)" */
 834             char smallbuf[128];
 835             char *tmpbuf;
 836             GV **gvp;
 837             STRLEN tmplen2 = len;
 838             if (tmplen + 2 <= sizeof smallbuf)
 839                 tmpbuf = smallbuf;
 840             else
 841                 Newx(tmpbuf, tmplen + 2, char);
 842             tmpbuf[0] = '_';
 843             tmpbuf[1] = '<';
 844             memcpy(tmpbuf + 2, cf, tmplen);
 845             tmplen += 2;
 846             gvp = (GV**)hv_fetch(PL_defstash, tmpbuf, tmplen, FALSE);
 847             if (gvp) {
 848                 char *tmpbuf2;
 849                 GV *gv2;
 850
 851                 if (tmplen2 + 2 <= sizeof smallbuf)
 852                     tmpbuf2 = smallbuf;
 853                 else
 854                     Newx(tmpbuf2, tmplen2 + 2, char);
 855
 856                 if (tmpbuf2 != smallbuf || tmpbuf != smallbuf) {
 857                     /* Either they malloc'd it, or we malloc'd it,
 858                        so no prefix is present in ours.  */
 859                     tmpbuf2[0] = '_';
 860                     tmpbuf2[1] = '<';
 861                 }
 862
 863                 memcpy(tmpbuf2 + 2, s, tmplen2);
 864                 tmplen2 += 2;
 865
 866                 gv2 = *(GV**)hv_fetch(PL_defstash, tmpbuf2, tmplen2, TRUE);
 867                 if (!isGV(gv2)) {
 868                     gv_init(gv2, PL_defstash, tmpbuf2, tmplen2, FALSE);
 869                     /* adjust ${"::_<newfilename"} to store the new file name */
 870                     GvSV(gv2) = newSVpvn(tmpbuf2 + 2, tmplen2 - 2);
 871                     GvHV(gv2) = (HV*)SvREFCNT_inc(GvHV(*gvp));
 872                     GvAV(gv2) = (AV*)SvREFCNT_inc(GvAV(*gvp));
 873                 }
 874
 875                 if (tmpbuf2 != smallbuf) Safefree(tmpbuf2);
 876             }
 877             if (tmpbuf != smallbuf) Safefree(tmpbuf);
 878         }
 879 #endif
 880         CopFILE_free(PL_curcop);
 881         CopFILE_setn(PL_curcop, s, len);
 882     }
 883     CopLINE_set(PL_curcop, atoi(n)-1);
 884 }
 885
 886 #ifdef PERL_MAD
 887 /* skip space before PL_thistoken */
 888
 889 STATIC char *
 890 S_skipspace0(pTHX_ register char *s)
 891 {
 892     s = skipspace(s);
 893     if (!PL_madskills)
 894         return s;
 895     if (PL_skipwhite) {
 896         if (!PL_thiswhite)
 897             PL_thiswhite = newSVpvs("");
 898         sv_catsv(PL_thiswhite, PL_skipwhite);
 899         sv_free(PL_skipwhite);
 900         PL_skipwhite = 0;
 901     }
 902     PL_realtokenstart = s - SvPVX(PL_linestr);
 903     return s;
 904 }
 905
 906 /* skip space after PL_thistoken */
 907
 908 STATIC char *
 909 S_skipspace1(pTHX_ register char *s)
 910 {
 911     const char *start = s;
 912     I32 startoff = start - SvPVX(PL_linestr);
 913
 914     s = skipspace(s);
 915     if (!PL_madskills)
 916         return s;
 917     start = SvPVX(PL_linestr) + startoff;
 918     if (!PL_thistoken && PL_realtokenstart >= 0) {
 919         const char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
 920         PL_thistoken = newSVpvn(tstart, start - tstart);
 921     }
 922     PL_realtokenstart = -1;
 923     if (PL_skipwhite) {
 924         if (!PL_nextwhite)
 925             PL_nextwhite = newSVpvs("");
 926         sv_catsv(PL_nextwhite, PL_skipwhite);
 927         sv_free(PL_skipwhite);
 928         PL_skipwhite = 0;
 929     }
 930     return s;
 931 }
 932
 933 STATIC char *
 934 S_skipspace2(pTHX_ register char *s, SV **svp)
 935 {
 936     char *start;
 937     const I32 bufptroff = PL_bufptr - SvPVX(PL_linestr);
 938     const I32 startoff = s - SvPVX(PL_linestr);
 939
 940     s = skipspace(s);
 941     PL_bufptr = SvPVX(PL_linestr) + bufptroff;
 942     if (!PL_madskills || !svp)
 943         return s;
 944     start = SvPVX(PL_linestr) + startoff;
 945     if (!PL_thistoken && PL_realtokenstart >= 0) {
 946         char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
 947         PL_thistoken = newSVpvn(tstart, start - tstart);
 948         PL_realtokenstart = -1;
 949     }
 950     if (PL_skipwhite) {
 951         if (!*svp)
 952             *svp = newSVpvs("");
 953         sv_setsv(*svp, PL_skipwhite);
 954         sv_free(PL_skipwhite);
 955         PL_skipwhite = 0;
 956     }
 957
 958     return s;
 959 }
 960 #endif
 961
 962 STATIC void
 963 S_update_debugger_info(pTHX_ SV *orig_sv, const char *buf, STRLEN len)
 964 {
 965     AV *av = CopFILEAVx(PL_curcop);
 966     if (av) {
 967         SV * const sv = newSV_type(SVt_PVMG);
 968         if (orig_sv)
 969             sv_setsv(sv, orig_sv);
 970         else
 971             sv_setpvn(sv, buf, len);
 972         (void)SvIOK_on(sv);
 973         SvIV_set(sv, 0);
 974         av_store(av, (I32)CopLINE(PL_curcop), sv);
 975     }
 976 }
 977
 978 /*
 979  * S_skipspace
 980  * Called to gobble the appropriate amount and type of whitespace.
 981  * Skips comments as well.
 982  */
 983
 984 STATIC char *
 985 S_skipspace(pTHX_ register char *s)
 986 {
 987     dVAR;
 988 #ifdef PERL_MAD
 989     int curoff;
 990     int startoff = s - SvPVX(PL_linestr);
 991
 992     if (PL_skipwhite) {
 993         sv_free(PL_skipwhite);
 994         PL_skipwhite = 0;
 995     }
 996 #endif
 997
 998     if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
 999         while (s < PL_bufend && SPACE_OR_TAB(*s))
1000             s++;
1001 #ifdef PERL_MAD
1002         goto done;
1003 #else
1004         return s;
1005 #endif
1006     }
1007     for (;;) {
1008         STRLEN prevlen;
1009         SSize_t oldprevlen, oldoldprevlen;
1010         SSize_t oldloplen = 0, oldunilen = 0;
1011         while (s < PL_bufend && isSPACE(*s)) {
1012             if (*s++ == '\n' && PL_in_eval && !PL_rsfp)
1013                 incline(s);
1014         }
1015
1016         /* comment */
1017         if (s < PL_bufend && *s == '#') {
1018             while (s < PL_bufend && *s != '\n')
1019                 s++;
1020             if (s < PL_bufend) {
1021                 s++;
1022                 if (PL_in_eval && !PL_rsfp) {
1023                     incline(s);
1024                     continue;
1025                 }
1026             }
1027         }
1028
1029         /* only continue to recharge the buffer if we're at the end
1030          * of the buffer, we're not reading from a source filter, and
1031          * we're in normal lexing mode
1032          */
1033         if (s < PL_bufend || !PL_rsfp || PL_sublex_info.sub_inwhat ||
1034                 PL_lex_state == LEX_FORMLINE)
1035 #ifdef PERL_MAD
1036             goto done;
1037 #else
1038             return s;
1039 #endif
1040
1041         /* try to recharge the buffer */
1042 #ifdef PERL_MAD
1043         curoff = s - SvPVX(PL_linestr);
1044 #endif
1045
1046         if ((s = filter_gets(PL_linestr, PL_rsfp,
1047                              (prevlen = SvCUR(PL_linestr)))) == NULL)
1048         {
1049 #ifdef PERL_MAD
1050             if (PL_madskills && curoff != startoff) {
1051                 if (!PL_skipwhite)
1052                     PL_skipwhite = newSVpvs("");
1053                 sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
1054                                         curoff - startoff);
1055             }
1056
1057             /* mustn't throw out old stuff yet if madpropping */
1058             SvCUR(PL_linestr) = curoff;
1059             s = SvPVX(PL_linestr) + curoff;
1060             *s = 0;
1061             if (curoff && s[-1] == '\n')
1062                 s[-1] = ' ';
1063 #endif
1064
1065             /* end of file.  Add on the -p or -n magic */
1066             /* XXX these shouldn't really be added here, can't set PL_faketokens */
1067             if (PL_minus_p) {
1068 #ifdef PERL_MAD
1069                 sv_catpvs(PL_linestr,
1070                          ";}continue{print or die qq(-p destination: $!\\n);}");
1071 #else
1072                 sv_setpvs(PL_linestr,
1073                          ";}continue{print or die qq(-p destination: $!\\n);}");
1074 #endif
1075                 PL_minus_n = PL_minus_p = 0;
1076             }
1077             else if (PL_minus_n) {
1078 #ifdef PERL_MAD
1079                 sv_catpvn(PL_linestr, ";}", 2);
1080 #else
1081                 sv_setpvn(PL_linestr, ";}", 2);
1082 #endif
1083                 PL_minus_n = 0;
1084             }
1085             else
1086 #ifdef PERL_MAD
1087                 sv_catpvn(PL_linestr,";", 1);
1088 #else
1089                 sv_setpvn(PL_linestr,";", 1);
1090 #endif
1091
1092             /* reset variables for next time we lex */
1093             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart
1094                 = SvPVX(PL_linestr)
1095 #ifdef PERL_MAD
1096                 + curoff
1097 #endif
1098                 ;
1099             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
1100             PL_last_lop = PL_last_uni = NULL;
1101
1102             /* Close the filehandle.  Could be from -P preprocessor,
1103              * STDIN, or a regular file.  If we were reading code from
1104              * STDIN (because the commandline held no -e or filename)
1105              * then we don't close it, we reset it so the code can
1106              * read from STDIN too.
1107              */
1108
1109             if (PL_preprocess && !PL_in_eval)
1110                 (void)PerlProc_pclose(PL_rsfp);
1111             else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
1112                 PerlIO_clearerr(PL_rsfp);
1113             else
1114                 (void)PerlIO_close(PL_rsfp);
1115             PL_rsfp = NULL;
1116             return s;
1117         }
1118
1119         /* not at end of file, so we only read another line */
1120         /* make corresponding updates to old pointers, for yyerror() */
1121         oldprevlen = PL_oldbufptr - PL_bufend;
1122         oldoldprevlen = PL_oldoldbufptr - PL_bufend;
1123         if (PL_last_uni)
1124             oldunilen = PL_last_uni - PL_bufend;
1125         if (PL_last_lop)
1126             oldloplen = PL_last_lop - PL_bufend;
1127         PL_linestart = PL_bufptr = s + prevlen;
1128         PL_bufend = s + SvCUR(PL_linestr);
1129         s = PL_bufptr;
1130         PL_oldbufptr = s + oldprevlen;
1131         PL_oldoldbufptr = s + oldoldprevlen;
1132         if (PL_last_uni)
1133             PL_last_uni = s + oldunilen;
1134         if (PL_last_lop)
1135             PL_last_lop = s + oldloplen;
1136         incline(s);
1137
1138         /* debugger active and we're not compiling the debugger code,
1139          * so store the line into the debugger's array of lines
1140          */
1141         if (PERLDB_LINE && PL_curstash != PL_debstash)
1142             update_debugger_info(NULL, PL_bufptr, PL_bufend - PL_bufptr);
1143     }
1144
1145 #ifdef PERL_MAD
1146   done:
1147     if (PL_madskills) {
1148         if (!PL_skipwhite)
1149             PL_skipwhite = newSVpvs("");
1150         curoff = s - SvPVX(PL_linestr);
1151         if (curoff - startoff)
1152             sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
1153                                 curoff - startoff);
1154     }
1155     return s;
1156 #endif
1157 }
1158
1159 /*
1160  * S_check_uni
1161  * Check the unary operators to ensure there's no ambiguity in how they're
1162  * used.  An ambiguous piece of code would be:
1163  *     rand + 5
1164  * This doesn't mean rand() + 5.  Because rand() is a unary operator,
1165  * the +5 is its argument.
1166  */
1167
1168 STATIC void
1169 S_check_uni(pTHX)
1170 {
1171     dVAR;
1172     const char *s;
1173     const char *t;
1174
1175     if (PL_oldoldbufptr != PL_last_uni)
1176         return;
1177     while (isSPACE(*PL_last_uni))
1178         PL_last_uni++;
1179     s = PL_last_uni;
1180     while (isALNUM_lazy_if(s,UTF) || *s == '-')
1181         s++;
1182     if ((t = strchr(s, '(')) && t < PL_bufptr)
1183         return;
1184
1185     if (ckWARN_d(WARN_AMBIGUOUS)){
1186         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
1187                    "Warning: Use of \"%.*s\" without parentheses is ambiguous",
1188                    (int)(s - PL_last_uni), PL_last_uni);
1189     }
1190 }
1191
1192 /*
1193  * LOP : macro to build a list operator.  Its behaviour has been replaced
1194  * with a subroutine, S_lop() for which LOP is just another name.
1195  */
1196
1197 #define LOP(f,x) return lop(f,x,s)
1198
1199 /*
1200  * S_lop
1201  * Build a list operator (or something that might be one).  The rules:
1202  *  - if we have a next token, then it's a list operator [why?]
1203  *  - if the next thing is an opening paren, then it's a function
1204  *  - else it's a list operator
1205  */
1206
1207 STATIC I32
1208 S_lop(pTHX_ I32 f, int x, char *s)
1209 {
1210     dVAR;
1211     yylval.ival = f;
1212     CLINE;
1213     PL_expect = x;
1214     PL_bufptr = s;
1215     PL_last_lop = PL_oldbufptr;
1216     PL_last_lop_op = (OPCODE)f;
1217 #ifdef PERL_MAD
1218     if (PL_lasttoke)
1219         return REPORT(LSTOP);
1220 #else
1221     if (PL_nexttoke)
1222         return REPORT(LSTOP);
1223 #endif
1224     if (*s == '(')
1225         return REPORT(FUNC);
1226     s = PEEKSPACE(s);
1227     if (*s == '(')
1228         return REPORT(FUNC);
1229     else
1230         return REPORT(LSTOP);
1231 }
1232
1233 #ifdef PERL_MAD
1234  /*
1235  * S_start_force
1236  * Sets up for an eventual force_next().  start_force(0) basically does
1237  * an unshift, while start_force(-1) does a push.  yylex removes items
1238  * on the "pop" end.
1239  */
1240
1241 STATIC void
1242 S_start_force(pTHX_ int where)
1243 {
1244     int i;
1245
1246     if (where < 0)      /* so people can duplicate start_force(PL_curforce) */
1247         where = PL_lasttoke;
1248     assert(PL_curforce < 0 || PL_curforce == where);
1249     if (PL_curforce != where) {
1250         for (i = PL_lasttoke; i > where; --i) {
1251             PL_nexttoke[i] = PL_nexttoke[i-1];
1252         }
1253         PL_lasttoke++;
1254     }
1255     if (PL_curforce < 0)        /* in case of duplicate start_force() */
1256         Zero(&PL_nexttoke[where], 1, NEXTTOKE);
1257     PL_curforce = where;
1258     if (PL_nextwhite) {
1259         if (PL_madskills)
1260             curmad('^', newSVpvs(""));
1261         CURMAD('_', PL_nextwhite);
1262     }
1263 }
1264
1265 STATIC void
1266 S_curmad(pTHX_ char slot, SV *sv)
1267 {
1268     MADPROP **where;
1269
1270     if (!sv)
1271         return;
1272     if (PL_curforce < 0)
1273         where = &PL_thismad;
1274     else
1275         where = &PL_nexttoke[PL_curforce].next_mad;
1276
1277     if (PL_faketokens)
1278         sv_setpvn(sv, "", 0);
1279     else {
1280         if (!IN_BYTES) {
1281             if (UTF && is_utf8_string((U8*)SvPVX(sv), SvCUR(sv)))
1282                 SvUTF8_on(sv);
1283             else if (PL_encoding) {
1284                 sv_recode_to_utf8(sv, PL_encoding);
1285             }
1286         }
1287     }
1288
1289     /* keep a slot open for the head of the list? */
1290     if (slot != '_' && *where && (*where)->mad_key == '^') {
1291         (*where)->mad_key = slot;
1292         sv_free((SV*)((*where)->mad_val));
1293         (*where)->mad_val = (void*)sv;
1294     }
1295     else
1296         addmad(newMADsv(slot, sv), where, 0);
1297 }
1298 #else
1299 #  define start_force(where)    NOOP
1300 #  define curmad(slot, sv)      NOOP
1301 #endif
1302
1303 /*
1304  * S_force_next
1305  * When the lexer realizes it knows the next token (for instance,
1306  * it is reordering tokens for the parser) then it can call S_force_next
1307  * to know what token to return the next time the lexer is called.  Caller
1308  * will need to set PL_nextval[] (or PL_nexttoke[].next_val with PERL_MAD),
1309  * and possibly PL_expect to ensure the lexer handles the token correctly.
1310  */
1311
1312 STATIC void
1313 S_force_next(pTHX_ I32 type)
1314 {
1315     dVAR;
1316 #ifdef PERL_MAD
1317     if (PL_curforce < 0)
1318         start_force(PL_lasttoke);
1319     PL_nexttoke[PL_curforce].next_type = type;
1320     if (PL_lex_state != LEX_KNOWNEXT)
1321         PL_lex_defer = PL_lex_state;
1322     PL_lex_state = LEX_KNOWNEXT;
1323     PL_lex_expect = PL_expect;
1324     PL_curforce = -1;
1325 #else
1326     PL_nexttype[PL_nexttoke] = type;
1327     PL_nexttoke++;
1328     if (PL_lex_state != LEX_KNOWNEXT) {
1329         PL_lex_defer = PL_lex_state;
1330         PL_lex_expect = PL_expect;
1331         PL_lex_state = LEX_KNOWNEXT;
1332     }
1333 #endif
1334 }
1335
1336 STATIC SV *
1337 S_newSV_maybe_utf8(pTHX_ const char *start, STRLEN len)
1338 {
1339     dVAR;
1340     SV * const sv = newSVpvn(start,len);
1341     if (UTF && !IN_BYTES && is_utf8_string((const U8*)start, len))
1342         SvUTF8_on(sv);
1343     return sv;
1344 }
1345
1346 /*
1347  * S_force_word
1348  * When the lexer knows the next thing is a word (for instance, it has
1349  * just seen -> and it knows that the next char is a word char, then
1350  * it calls S_force_word to stick the next word into the PL_nexttoke/val
1351  * lookahead.
1352  *
1353  * Arguments:
1354  *   char *start : buffer position (must be within PL_linestr)
1355  *   int token   : PL_next* will be this type of bare word (e.g., METHOD,WORD)
1356  *   int check_keyword : if true, Perl checks to make sure the word isn't
1357  *       a keyword (do this if the word is a label, e.g. goto FOO)
1358  *   int allow_pack : if true, : characters will also be allowed (require,
1359  *       use, etc. do this)
1360  *   int allow_initial_tick : used by the "sub" lexer only.
1361  */
1362
1363 STATIC char *
1364 S_force_word(pTHX_ register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
1365 {
1366     dVAR;
1367     register char *s;
1368     STRLEN len;
1369
1370     start = SKIPSPACE1(start);
1371     s = start;
1372     if (isIDFIRST_lazy_if(s,UTF) ||
1373         (allow_pack && *s == ':') ||
1374         (allow_initial_tick && *s == '\'') )
1375     {
1376         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, allow_pack, &len);
1377         if (check_keyword && keyword(PL_tokenbuf, len, 0))
1378             return start;
1379         start_force(PL_curforce);
1380         if (PL_madskills)
1381             curmad('X', newSVpvn(start,s-start));
1382         if (token == METHOD) {
1383             s = SKIPSPACE1(s);
1384             if (*s == '(')
1385                 PL_expect = XTERM;
1386             else {
1387                 PL_expect = XOPERATOR;
1388             }
1389         }
1390         if (PL_madskills)
1391             curmad('g', newSVpvs( "forced" ));
1392         NEXTVAL_NEXTTOKE.opval
1393             = (OP*)newSVOP(OP_CONST,0,
1394                            S_newSV_maybe_utf8(aTHX_ PL_tokenbuf, len));
1395         NEXTVAL_NEXTTOKE.opval->op_private |= OPpCONST_BARE;
1396         force_next(token);
1397     }
1398     return s;
1399 }
1400
1401 /*
1402  * S_force_ident
1403  * Called when the lexer wants $foo *foo &foo etc, but the program
1404  * text only contains the "foo" portion.  The first argument is a pointer
1405  * to the "foo", and the second argument is the type symbol to prefix.
1406  * Forces the next token to be a "WORD".
1407  * Creates the symbol if it didn't already exist (via gv_fetchpv()).
1408  */
1409
1410 STATIC void
1411 S_force_ident(pTHX_ register const char *s, int kind)
1412 {
1413     dVAR;
1414     if (*s) {
1415         const STRLEN len = strlen(s);
1416         OP* const o = (OP*)newSVOP(OP_CONST, 0, newSVpvn(s, len));
1417         start_force(PL_curforce);
1418         NEXTVAL_NEXTTOKE.opval = o;
1419         force_next(WORD);
1420         if (kind) {
1421             o->op_private = OPpCONST_ENTERED;
1422             /* XXX see note in pp_entereval() for why we forgo typo
1423                warnings if the symbol must be introduced in an eval.
1424                GSAR 96-10-12 */
1425             gv_fetchpvn_flags(s, len,
1426                               PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL)
1427                               : GV_ADD,
1428                               kind == '$' ? SVt_PV :
1429                               kind == '@' ? SVt_PVAV :
1430                               kind == '%' ? SVt_PVHV :
1431                               SVt_PVGV
1432                               );
1433         }
1434     }
1435 }
1436
1437 NV
1438 Perl_str_to_version(pTHX_ SV *sv)
1439 {
1440     NV retval = 0.0;
1441     NV nshift = 1.0;
1442     STRLEN len;
1443     const char *start = SvPV_const(sv,len);
1444     const char * const end = start + len;
1445     const bool utf = SvUTF8(sv) ? TRUE : FALSE;
1446     while (start < end) {
1447         STRLEN skip;
1448         UV n;
1449         if (utf)
1450             n = utf8n_to_uvchr((U8*)start, len, &skip, 0);
1451         else {
1452             n = *(U8*)start;
1453             skip = 1;
1454         }
1455         retval += ((NV)n)/nshift;
1456         start += skip;
1457         nshift *= 1000;
1458     }
1459     return retval;
1460 }
1461
1462 /*
1463  * S_force_version
1464  * Forces the next token to be a version number.
1465  * If the next token appears to be an invalid version number, (e.g. "v2b"),
1466  * and if "guessing" is TRUE, then no new token is created (and the caller
1467  * must use an alternative parsing method).
1468  */
1469
1470 STATIC char *
1471 S_force_version(pTHX_ char *s, int guessing)
1472 {
1473     dVAR;
1474     OP *version = NULL;
1475     char *d;
1476 #ifdef PERL_MAD
1477     I32 startoff = s - SvPVX(PL_linestr);
1478 #endif
1479
1480     s = SKIPSPACE1(s);
1481
1482     d = s;
1483     if (*d == 'v')
1484         d++;
1485     if (isDIGIT(*d)) {
1486         while (isDIGIT(*d) || *d == '_' || *d == '.')
1487             d++;
1488 #ifdef PERL_MAD
1489         if (PL_madskills) {
1490             start_force(PL_curforce);
1491             curmad('X', newSVpvn(s,d-s));
1492         }
1493 #endif
1494         if (*d == ';' || isSPACE(*d) || *d == '}' || !*d) {
1495             SV *ver;
1496             s = scan_num(s, &yylval);
1497             version = yylval.opval;
1498             ver = cSVOPx(version)->op_sv;
1499             if (SvPOK(ver) && !SvNIOK(ver)) {
1500                 SvUPGRADE(ver, SVt_PVNV);
1501                 SvNV_set(ver, str_to_version(ver));
1502                 SvNOK_on(ver);          /* hint that it is a version */
1503             }
1504         }
1505         else if (guessing) {
1506 #ifdef PERL_MAD
1507             if (PL_madskills) {
1508                 sv_free(PL_nextwhite);  /* let next token collect whitespace */
1509                 PL_nextwhite = 0;
1510                 s = SvPVX(PL_linestr) + startoff;
1511             }
1512 #endif
1513             return s;
1514         }
1515     }
1516
1517 #ifdef PERL_MAD
1518     if (PL_madskills && !version) {
1519         sv_free(PL_nextwhite);  /* let next token collect whitespace */
1520         PL_nextwhite = 0;
1521         s = SvPVX(PL_linestr) + startoff;
1522     }
1523 #endif
1524     /* NOTE: The parser sees the package name and the VERSION swapped */
1525     start_force(PL_curforce);
1526     NEXTVAL_NEXTTOKE.opval = version;
1527     force_next(WORD);
1528
1529     return s;
1530 }
1531
1532 /*
1533  * S_tokeq
1534  * Tokenize a quoted string passed in as an SV.  It finds the next
1535  * chunk, up to end of string or a backslash.  It may make a new
1536  * SV containing that chunk (if HINT_NEW_STRING is on).  It also
1537  * turns \\ into \.
1538  */
1539
1540 STATIC SV *
1541 S_tokeq(pTHX_ SV *sv)
1542 {
1543     dVAR;
1544     register char *s;
1545     register char *send;
1546     register char *d;
1547     STRLEN len = 0;
1548     SV *pv = sv;
1549
1550     if (!SvLEN(sv))
1551         goto finish;
1552
1553     s = SvPV_force(sv, len);
1554     if (SvTYPE(sv) >= SVt_PVIV && SvIVX(sv) == -1)
1555         goto finish;
1556     send = s + len;
1557     while (s < send && *s != '\\')
1558         s++;
1559     if (s == send)
1560         goto finish;
1561     d = s;
1562     if ( PL_hints & HINT_NEW_STRING ) {
1563         pv = sv_2mortal(newSVpvn(SvPVX_const(pv), len));
1564         if (SvUTF8(sv))
1565             SvUTF8_on(pv);
1566     }
1567     while (s < send) {
1568         if (*s == '\\') {
1569             if (s + 1 < send && (s[1] == '\\'))
1570                 s++;            /* all that, just for this */
1571         }
1572         *d++ = *s++;
1573     }
1574     *d = '\0';
1575     SvCUR_set(sv, d - SvPVX_const(sv));
1576   finish:
1577     if ( PL_hints & HINT_NEW_STRING )
1578        return new_constant(NULL, 0, "q", sv, pv, "q", 1);
1579     return sv;
1580 }
1581
1582 /*
1583  * Now come three functions related to double-quote context,
1584  * S_sublex_start, S_sublex_push, and S_sublex_done.  They're used when
1585  * converting things like "\u\Lgnat" into ucfirst(lc("gnat")).  They
1586  * interact with PL_lex_state, and create fake ( ... ) argument lists
1587  * to handle functions and concatenation.
1588  * They assume that whoever calls them will be setting up a fake
1589  * join call, because each subthing puts a ',' after it.  This lets
1590  *   "lower \luPpEr"
1591  * become
1592  *  join($, , 'lower ', lcfirst( 'uPpEr', ) ,)
1593  *
1594  * (I'm not sure whether the spurious commas at the end of lcfirst's
1595  * arguments and join's arguments are created or not).
1596  */
1597
1598 /*
1599  * S_sublex_start
1600  * Assumes that yylval.ival is the op we're creating (e.g. OP_LCFIRST).
1601  *
1602  * Pattern matching will set PL_lex_op to the pattern-matching op to
1603  * make (we return THING if yylval.ival is OP_NULL, PMFUNC otherwise).
1604  *
1605  * OP_CONST and OP_READLINE are easy--just make the new op and return.
1606  *
1607  * Everything else becomes a FUNC.
1608  *
1609  * Sets PL_lex_state to LEX_INTERPPUSH unless (ival was OP_NULL or we
1610  * had an OP_CONST or OP_READLINE).  This just sets us up for a
1611  * call to S_sublex_push().
1612  */
1613
1614 STATIC I32
1615 S_sublex_start(pTHX)
1616 {
1617     dVAR;
1618     register const I32 op_type = yylval.ival;
1619
1620     if (op_type == OP_NULL) {
1621         yylval.opval = PL_lex_op;
1622         PL_lex_op = NULL;
1623         return THING;
1624     }
1625     if (op_type == OP_CONST || op_type == OP_READLINE) {
1626         SV *sv = tokeq(PL_lex_stuff);
1627
1628         if (SvTYPE(sv) == SVt_PVIV) {
1629             /* Overloaded constants, nothing fancy: Convert to SVt_PV: */
1630             STRLEN len;
1631             const char * const p = SvPV_const(sv, len);
1632             SV * const nsv = newSVpvn(p, len);
1633             if (SvUTF8(sv))
1634                 SvUTF8_on(nsv);
1635             SvREFCNT_dec(sv);
1636             sv = nsv;
1637         }
1638         yylval.opval = (OP*)newSVOP(op_type, 0, sv);
1639         PL_lex_stuff = NULL;
1640         /* Allow <FH> // "foo" */
1641         if (op_type == OP_READLINE)
1642             PL_expect = XTERMORDORDOR;
1643         return THING;
1644     }
1645     else if (op_type == OP_BACKTICK && PL_lex_op) {
1646         /* readpipe() vas overriden */
1647         cSVOPx(cLISTOPx(cUNOPx(PL_lex_op)->op_first)->op_first->op_sibling)->op_sv = tokeq(PL_lex_stuff);
1648         yylval.opval = PL_lex_op;
1649         PL_lex_op = NULL;
1650         PL_lex_stuff = NULL;
1651         return THING;
1652     }
1653
1654     PL_sublex_info.super_state = PL_lex_state;
1655     PL_sublex_info.sub_inwhat = (U16)op_type;
1656     PL_sublex_info.sub_op = PL_lex_op;
1657     PL_lex_state = LEX_INTERPPUSH;
1658
1659     PL_expect = XTERM;
1660     if (PL_lex_op) {
1661         yylval.opval = PL_lex_op;
1662         PL_lex_op = NULL;
1663         return PMFUNC;
1664     }
1665     else
1666         return FUNC;
1667 }
1668
1669 /*
1670  * S_sublex_push
1671  * Create a new scope to save the lexing state.  The scope will be
1672  * ended in S_sublex_done.  Returns a '(', starting the function arguments
1673  * to the uc, lc, etc. found before.
1674  * Sets PL_lex_state to LEX_INTERPCONCAT.
1675  */
1676
1677 STATIC I32
1678 S_sublex_push(pTHX)
1679 {
1680     dVAR;
1681     ENTER;
1682
1683     PL_lex_state = PL_sublex_info.super_state;
1684     SAVEBOOL(PL_lex_dojoin);
1685     SAVEI32(PL_lex_brackets);
1686     SAVEI32(PL_lex_casemods);
1687     SAVEI32(PL_lex_starts);
1688     SAVEI8(PL_lex_state);
1689     SAVEVPTR(PL_lex_inpat);
1690     SAVEI16(PL_lex_inwhat);
1691     SAVECOPLINE(PL_curcop);
1692     SAVEPPTR(PL_bufptr);
1693     SAVEPPTR(PL_bufend);
1694     SAVEPPTR(PL_oldbufptr);
1695     SAVEPPTR(PL_oldoldbufptr);
1696     SAVEPPTR(PL_last_lop);
1697     SAVEPPTR(PL_last_uni);
1698     SAVEPPTR(PL_linestart);
1699     SAVESPTR(PL_linestr);
1700     SAVEGENERICPV(PL_lex_brackstack);
1701     SAVEGENERICPV(PL_lex_casestack);
1702
1703     PL_linestr = PL_lex_stuff;
1704     PL_lex_stuff = NULL;
1705
1706     PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart
1707         = SvPVX(PL_linestr);
1708     PL_bufend += SvCUR(PL_linestr);
1709     PL_last_lop = PL_last_uni = NULL;
1710     SAVEFREESV(PL_linestr);
1711
1712     PL_lex_dojoin = FALSE;
1713     PL_lex_brackets = 0;
1714     Newx(PL_lex_brackstack, 120, char);
1715     Newx(PL_lex_casestack, 12, char);
1716     PL_lex_casemods = 0;
1717     *PL_lex_casestack = '\0';
1718     PL_lex_starts = 0;
1719     PL_lex_state = LEX_INTERPCONCAT;
1720     CopLINE_set(PL_curcop, (line_t)PL_multi_start);
1721
1722     PL_lex_inwhat = PL_sublex_info.sub_inwhat;
1723     if (PL_lex_inwhat == OP_MATCH || PL_lex_inwhat == OP_QR || PL_lex_inwhat == OP_SUBST)
1724         PL_lex_inpat = PL_sublex_info.sub_op;
1725     else
1726         PL_lex_inpat = NULL;
1727
1728     return '(';
1729 }
1730
1731 /*
1732  * S_sublex_done
1733  * Restores lexer state after a S_sublex_push.
1734  */
1735
1736 STATIC I32
1737 S_sublex_done(pTHX)
1738 {
1739     dVAR;
1740     if (!PL_lex_starts++) {
1741         SV * const sv = newSVpvs("");
1742         if (SvUTF8(PL_linestr))
1743             SvUTF8_on(sv);
1744         PL_expect = XOPERATOR;
1745         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1746         return THING;
1747     }
1748
1749     if (PL_lex_casemods) {              /* oops, we've got some unbalanced parens */
1750         PL_lex_state = LEX_INTERPCASEMOD;
1751         return yylex();
1752     }
1753
1754     /* Is there a right-hand side to take care of? (s//RHS/ or tr//RHS/) */
1755     if (PL_lex_repl && (PL_lex_inwhat == OP_SUBST || PL_lex_inwhat == OP_TRANS)) {
1756         PL_linestr = PL_lex_repl;
1757         PL_lex_inpat = 0;
1758         PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart = SvPVX(PL_linestr);
1759         PL_bufend += SvCUR(PL_linestr);
1760         PL_last_lop = PL_last_uni = NULL;
1761         SAVEFREESV(PL_linestr);
1762         PL_lex_dojoin = FALSE;
1763         PL_lex_brackets = 0;
1764         PL_lex_casemods = 0;
1765         *PL_lex_casestack = '\0';
1766         PL_lex_starts = 0;
1767         if (SvEVALED(PL_lex_repl)) {
1768             PL_lex_state = LEX_INTERPNORMAL;
1769             PL_lex_starts++;
1770             /*  we don't clear PL_lex_repl here, so that we can check later
1771                 whether this is an evalled subst; that means we rely on the
1772                 logic to ensure sublex_done() is called again only via the
1773                 branch (in yylex()) that clears PL_lex_repl, else we'll loop */
1774         }
1775         else {
1776             PL_lex_state = LEX_INTERPCONCAT;
1777             PL_lex_repl = NULL;
1778         }
1779         return ',';
1780     }
1781     else {
1782 #ifdef PERL_MAD
1783         if (PL_madskills) {
1784             if (PL_thiswhite) {
1785                 if (!PL_endwhite)
1786                     PL_endwhite = newSVpvs("");
1787                 sv_catsv(PL_endwhite, PL_thiswhite);
1788                 PL_thiswhite = 0;
1789             }
1790             if (PL_thistoken)
1791                 sv_setpvn(PL_thistoken,"",0);
1792             else
1793                 PL_realtokenstart = -1;
1794         }
1795 #endif
1796         LEAVE;
1797         PL_bufend = SvPVX(PL_linestr);
1798         PL_bufend += SvCUR(PL_linestr);
1799         PL_expect = XOPERATOR;
1800         PL_sublex_info.sub_inwhat = 0;
1801         return ')';
1802     }
1803 }
1804
1805 /*
1806   scan_const
1807
1808   Extracts a pattern, double-quoted string, or transliteration.  This
1809   is terrifying code.
1810
1811   It looks at PL_lex_inwhat and PL_lex_inpat to find out whether it's
1812   processing a pattern (PL_lex_inpat is true), a transliteration
1813   (PL_lex_inwhat == OP_TRANS is true), or a double-quoted string.
1814
1815   Returns a pointer to the character scanned up to. If this is
1816   advanced from the start pointer supplied (i.e. if anything was
1817   successfully parsed), will leave an OP for the substring scanned
1818   in yylval. Caller must intuit reason for not parsing further
1819   by looking at the next characters herself.
1820
1821   In patterns:
1822     backslashes:
1823       double-quoted style: \r and \n
1824       regexp special ones: \D \s
1825       constants: \x31
1826       backrefs: \1
1827       case and quoting: \U \Q \E
1828     stops on @ and $, but not for $ as tail anchor
1829
1830   In transliterations:
1831     characters are VERY literal, except for - not at the start or end
1832     of the string, which indicates a range. If the range is in bytes,
1833     scan_const expands the range to the full set of intermediate
1834     characters. If the range is in utf8, the hyphen is replaced with
1835     a certain range mark which will be handled by pmtrans() in op.c.
1836
1837   In double-quoted strings:
1838     backslashes:
1839       double-quoted style: \r and \n
1840       constants: \x31
1841       deprecated backrefs: \1 (in substitution replacements)
1842       case and quoting: \U \Q \E
1843     stops on @ and $
1844
1845   scan_const does *not* construct ops to handle interpolated strings.
1846   It stops processing as soon as it finds an embedded $ or @ variable
1847   and leaves it to the caller to work out what's going on.
1848
1849   embedded arrays (whether in pattern or not) could be:
1850       @foo, @::foo, @'foo, @{foo}, @$foo, @+, @-.
1851
1852   $ in double-quoted strings must be the symbol of an embedded scalar.
1853
1854   $ in pattern could be $foo or could be tail anchor.  Assumption:
1855   it's a tail anchor if $ is the last thing in the string, or if it's
1856   followed by one of "()| \r\n\t"
1857
1858   \1 (backreferences) are turned into $1
1859
1860   The structure of the code is
1861       while (there's a character to process) {
1862           handle transliteration ranges
1863           skip regexp comments /(?#comment)/ and codes /(?{code})/
1864           skip #-initiated comments in //x patterns
1865           check for embedded arrays
1866           check for embedded scalars
1867           if (backslash) {
1868               leave intact backslashes from leaveit (below)
1869               deprecate \1 in substitution replacements
1870               handle string-changing backslashes \l \U \Q \E, etc.
1871               switch (what was escaped) {
1872                   handle \- in a transliteration (becomes a literal -)
1873                   handle \132 (octal characters)
1874                   handle \x15 and \x{1234} (hex characters)
1875                   handle \N{name} (named characters)
1876                   handle \cV (control characters)
1877                   handle printf-style backslashes (\f, \r, \n, etc)
1878               } (end switch)
1879           } (end if backslash)
1880     } (end while character to read)
1881
1882 */
1883
1884 STATIC char *
1885 S_scan_const(pTHX_ char *start)
1886 {
1887     dVAR;
1888     register char *send = PL_bufend;            /* end of the constant */
1889     SV *sv = newSV(send - start);               /* sv for the constant */
1890     register char *s = start;                   /* start of the constant */
1891     register char *d = SvPVX(sv);               /* destination for copies */
1892     bool dorange = FALSE;                       /* are we in a translit range? */
1893     bool didrange = FALSE;                      /* did we just finish a range? */
1894     I32  has_utf8 = FALSE;                      /* Output constant is UTF8 */
1895     I32  this_utf8 = UTF;                       /* The source string is assumed to be UTF8 */
1896     UV uv;
1897 #ifdef EBCDIC
1898     UV literal_endpoint = 0;
1899     bool native_range = TRUE; /* turned to FALSE if the first endpoint is Unicode. */
1900 #endif
1901
1902     if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
1903         /* If we are doing a trans and we know we want UTF8 set expectation */
1904         has_utf8   = PL_sublex_info.sub_op->op_private & (OPpTRANS_FROM_UTF|OPpTRANS_TO_UTF);
1905         this_utf8  = PL_sublex_info.sub_op->op_private & (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
1906     }
1907
1908
1909     while (s < send || dorange) {
1910         /* get transliterations out of the way (they're most literal) */
1911         if (PL_lex_inwhat == OP_TRANS) {
1912             /* expand a range A-Z to the full set of characters.  AIE! */
1913             if (dorange) {
1914                 I32 i;                          /* current expanded character */
1915                 I32 min;                        /* first character in range */
1916                 I32 max;                        /* last character in range */
1917
1918 #ifdef EBCDIC
1919                 UV uvmax = 0;
1920 #endif
1921
1922                 if (has_utf8
1923 #ifdef EBCDIC
1924                     && !native_range
1925 #endif
1926                     ) {
1927                     char * const c = (char*)utf8_hop((U8*)d, -1);
1928                     char *e = d++;
1929                     while (e-- > c)
1930                         *(e + 1) = *e;
1931                     *c = (char)UTF_TO_NATIVE(0xff);
1932                     /* mark the range as done, and continue */
1933                     dorange = FALSE;
1934                     didrange = TRUE;
1935                     continue;
1936                 }
1937
1938                 i = d - SvPVX_const(sv);                /* remember current offset */
1939 #ifdef EBCDIC
1940                 SvGROW(sv,
1941                        SvLEN(sv) + (has_utf8 ?
1942                                     (512 - UTF_CONTINUATION_MARK +
1943                                      UNISKIP(0x100))
1944                                     : 256));
1945                 /* How many two-byte within 0..255: 128 in UTF-8,
1946                  * 96 in UTF-8-mod. */
1947 #else
1948                 SvGROW(sv, SvLEN(sv) + 256);    /* never more than 256 chars in a range */
1949 #endif
1950                 d = SvPVX(sv) + i;              /* refresh d after realloc */
1951 #ifdef EBCDIC
1952                 if (has_utf8) {
1953                     int j;
1954                     for (j = 0; j <= 1; j++) {
1955                         char * const c = (char*)utf8_hop((U8*)d, -1);
1956                         const UV uv    = utf8n_to_uvchr((U8*)c, d - c, NULL, 0);
1957                         if (j)
1958                             min = (U8)uv;
1959                         else if (uv < 256)
1960                             max = (U8)uv;
1961                         else {
1962                             max = (U8)0xff; /* only to \xff */
1963                             uvmax = uv; /* \x{100} to uvmax */
1964                         }
1965                         d = c; /* eat endpoint chars */
1966                      }
1967                 }
1968                else {
1969 #endif
1970                    d -= 2;              /* eat the first char and the - */
1971                    min = (U8)*d;        /* first char in range */
1972                    max = (U8)d[1];      /* last char in range  */
1973 #ifdef EBCDIC
1974                }
1975 #endif
1976
1977                 if (min > max) {
1978                     Perl_croak(aTHX_
1979                                "Invalid range \"%c-%c\" in transliteration operator",
1980                                (char)min, (char)max);
1981                 }
1982
1983 #ifdef EBCDIC
1984                 if (literal_endpoint == 2 &&
1985                     ((isLOWER(min) && isLOWER(max)) ||
1986                      (isUPPER(min) && isUPPER(max)))) {
1987                     if (isLOWER(min)) {
1988                         for (i = min; i <= max; i++)
1989                             if (isLOWER(i))
1990                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1991                     } else {
1992                         for (i = min; i <= max; i++)
1993                             if (isUPPER(i))
1994                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1995                     }
1996                 }
1997                 else
1998 #endif
1999                     for (i = min; i <= max; i++)
2000 #ifdef EBCDIC
2001                         if (has_utf8) {
2002                             const U8 ch = (U8)NATIVE_TO_UTF(i);
2003                             if (UNI_IS_INVARIANT(ch))
2004                                 *d++ = (U8)i;
2005                             else {
2006                                 *d++ = (U8)UTF8_EIGHT_BIT_HI(ch);
2007                                 *d++ = (U8)UTF8_EIGHT_BIT_LO(ch);
2008                             }
2009                         }
2010                         else
2011 #endif
2012                             *d++ = (char)i;
2013
2014 #ifdef EBCDIC
2015                 if (uvmax) {
2016                     d = (char*)uvchr_to_utf8((U8*)d, 0x100);
2017                     if (uvmax > 0x101)
2018                         *d++ = (char)UTF_TO_NATIVE(0xff);
2019                     if (uvmax > 0x100)
2020                         d = (char*)uvchr_to_utf8((U8*)d, uvmax);
2021                 }
2022 #endif
2023
2024                 /* mark the range as done, and continue */
2025                 dorange = FALSE;
2026                 didrange = TRUE;
2027 #ifdef EBCDIC
2028                 literal_endpoint = 0;
2029 #endif
2030                 continue;
2031             }
2032
2033             /* range begins (ignore - as first or last char) */
2034             else if (*s == '-' && s+1 < send  && s != start) {
2035                 if (didrange) {
2036                     Perl_croak(aTHX_ "Ambiguous range in transliteration operator");
2037                 }
2038                 if (has_utf8
2039 #ifdef EBCDIC
2040                     && !native_range
2041 #endif
2042                     ) {
2043                     *d++ = (char)UTF_TO_NATIVE(0xff);   /* use illegal utf8 byte--see pmtrans */
2044                     s++;
2045                     continue;
2046                 }
2047                 dorange = TRUE;
2048                 s++;
2049             }
2050             else {
2051                 didrange = FALSE;
2052 #ifdef EBCDIC
2053                 literal_endpoint = 0;
2054                 native_range = TRUE;
2055 #endif
2056             }
2057         }
2058
2059         /* if we get here, we're not doing a transliteration */
2060
2061         /* skip for regexp comments /(?#comment)/ and code /(?{code})/,
2062            except for the last char, which will be done separately. */
2063         else if (*s == '(' && PL_lex_inpat && s[1] == '?') {
2064             if (s[2] == '#') {
2065                 while (s+1 < send && *s != ')')
2066                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2067             }
2068             else if (s[2] == '{' /* This should match regcomp.c */
2069                     || (s[2] == '?' && s[3] == '{'))
2070             {
2071                 I32 count = 1;
2072                 char *regparse = s + (s[2] == '{' ? 3 : 4);
2073                 char c;
2074
2075                 while (count && (c = *regparse)) {
2076                     if (c == '\\' && regparse[1])
2077                         regparse++;
2078                     else if (c == '{')
2079                         count++;
2080                     else if (c == '}')
2081                         count--;
2082                     regparse++;
2083                 }
2084                 if (*regparse != ')')
2085                     regparse--;         /* Leave one char for continuation. */
2086                 while (s < regparse)
2087                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2088             }
2089         }
2090
2091         /* likewise skip #-initiated comments in //x patterns */
2092         else if (*s == '#' && PL_lex_inpat &&
2093           ((PMOP*)PL_lex_inpat)->op_pmflags & PMf_EXTENDED) {
2094             while (s+1 < send && *s != '\n')
2095                 *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2096         }
2097
2098         /* check for embedded arrays
2099            (@foo, @::foo, @'foo, @{foo}, @$foo, @+, @-)
2100            */
2101         else if (*s == '@' && s[1]) {
2102             if (isALNUM_lazy_if(s+1,UTF))
2103                 break;
2104             if (strchr(":'{$", s[1]))
2105                 break;
2106             if (!PL_lex_inpat && (s[1] == '+' || s[1] == '-'))
2107                 break; /* in regexp, neither @+ nor @- are interpolated */
2108         }
2109
2110         /* check for embedded scalars.  only stop if we're sure it's a
2111            variable.
2112         */
2113         else if (*s == '$') {
2114             if (!PL_lex_inpat)  /* not a regexp, so $ must be var */
2115                 break;
2116             if (s + 1 < send && !strchr("()| \r\n\t", s[1]))
2117                 break;          /* in regexp, $ might be tail anchor */
2118         }
2119
2120         /* End of else if chain - OP_TRANS rejoin rest */
2121
2122         /* backslashes */
2123         if (*s == '\\' && s+1 < send) {
2124             s++;
2125
2126             /* deprecate \1 in strings and substitution replacements */
2127             if (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat &&
2128                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
2129             {
2130                 if (ckWARN(WARN_SYNTAX))
2131                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "\\%c better written as $%c", *s, *s);
2132                 *--s = '$';
2133                 break;
2134             }
2135
2136             /* string-change backslash escapes */
2137             if (PL_lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
2138                 --s;
2139                 break;
2140             }
2141             /* skip any other backslash escapes in a pattern */
2142             else if (PL_lex_inpat) {
2143                 *d++ = NATIVE_TO_NEED(has_utf8,'\\');
2144                 goto default_action;
2145             }
2146
2147             /* if we get here, it's either a quoted -, or a digit */
2148             switch (*s) {
2149
2150             /* quoted - in transliterations */
2151             case '-':
2152                 if (PL_lex_inwhat == OP_TRANS) {
2153                     *d++ = *s++;
2154                     continue;
2155                 }
2156                 /* FALL THROUGH */
2157             default:
2158                 {
2159                     if ((isALPHA(*s) || isDIGIT(*s)) &&
2160                         ckWARN(WARN_MISC))
2161                         Perl_warner(aTHX_ packWARN(WARN_MISC),
2162                                     "Unrecognized escape \\%c passed through",
2163                                     *s);
2164                     /* default action is to copy the quoted character */
2165                     goto default_action;
2166                 }
2167
2168             /* \132 indicates an octal constant */
2169             case '0': case '1': case '2': case '3':
2170             case '4': case '5': case '6': case '7':
2171                 {
2172                     I32 flags = 0;
2173                     STRLEN len = 3;
2174                     uv = grok_oct(s, &len, &flags, NULL);
2175                     s += len;
2176                 }
2177                 goto NUM_ESCAPE_INSERT;
2178
2179             /* \x24 indicates a hex constant */
2180             case 'x':
2181                 ++s;
2182                 if (*s == '{') {
2183                     char* const e = strchr(s, '}');
2184                     I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2185                       PERL_SCAN_DISALLOW_PREFIX;
2186                     STRLEN len;
2187
2188                     ++s;
2189                     if (!e) {
2190                         yyerror("Missing right brace on \\x{}");
2191                         continue;
2192                     }
2193                     len = e - s;
2194                     uv = grok_hex(s, &len, &flags, NULL);
2195                     s = e + 1;
2196                 }
2197                 else {
2198                     {
2199                         STRLEN len = 2;
2200                         I32 flags = PERL_SCAN_DISALLOW_PREFIX;
2201                         uv = grok_hex(s, &len, &flags, NULL);
2202                         s += len;
2203                     }
2204                 }
2205
2206               NUM_ESCAPE_INSERT:
2207                 /* Insert oct or hex escaped character.
2208                  * There will always enough room in sv since such
2209                  * escapes will be longer than any UTF-8 sequence
2210                  * they can end up as. */
2211
2212                 /* We need to map to chars to ASCII before doing the tests
2213                    to cover EBCDIC
2214                 */
2215                 if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(uv))) {
2216                     if (!has_utf8 && uv > 255) {
2217                         /* Might need to recode whatever we have
2218                          * accumulated so far if it contains any
2219                          * hibit chars.
2220                          *
2221                          * (Can't we keep track of that and avoid
2222                          *  this rescan? --jhi)
2223                          */
2224                         int hicount = 0;
2225                         U8 *c;
2226                         for (c = (U8 *) SvPVX(sv); c < (U8 *)d; c++) {
2227                             if (!NATIVE_IS_INVARIANT(*c)) {
2228                                 hicount++;
2229                             }
2230                         }
2231                         if (hicount) {
2232                             const STRLEN offset = d - SvPVX_const(sv);
2233                             U8 *src, *dst;
2234                             d = SvGROW(sv, SvLEN(sv) + hicount + 1) + offset;
2235                             src = (U8 *)d - 1;
2236                             dst = src+hicount;
2237                             d  += hicount;
2238                             while (src >= (const U8 *)SvPVX_const(sv)) {
2239                                 if (!NATIVE_IS_INVARIANT(*src)) {
2240                                     const U8 ch = NATIVE_TO_ASCII(*src);
2241                                     *dst-- = (U8)UTF8_EIGHT_BIT_LO(ch);
2242                                     *dst-- = (U8)UTF8_EIGHT_BIT_HI(ch);
2243                                 }
2244                                 else {
2245                                     *dst-- = *src;
2246                                 }
2247                                 src--;
2248                             }
2249                         }
2250                     }
2251
2252                     if (has_utf8 || uv > 255) {
2253                         d = (char*)uvchr_to_utf8((U8*)d, uv);
2254                         has_utf8 = TRUE;
2255                         if (PL_lex_inwhat == OP_TRANS &&
2256                             PL_sublex_info.sub_op) {
2257                             PL_sublex_info.sub_op->op_private |=
2258                                 (PL_lex_repl ? OPpTRANS_FROM_UTF
2259                                              : OPpTRANS_TO_UTF);
2260                         }
2261 #ifdef EBCDIC
2262                         if (uv > 255 && !dorange)
2263                             native_range = FALSE;
2264 #endif
2265                     }
2266                     else {
2267                         *d++ = (char)uv;
2268                     }
2269                 }
2270                 else {
2271                     *d++ = (char) uv;
2272                 }
2273                 continue;
2274
2275             /* \N{LATIN SMALL LETTER A} is a named character */
2276             case 'N':
2277                 ++s;
2278                 if (*s == '{') {
2279                     char* e = strchr(s, '}');
2280                     SV *res;
2281                     STRLEN len;
2282                     const char *str;
2283
2284                     if (!e) {
2285                         yyerror("Missing right brace on \\N{}");
2286                         e = s - 1;
2287                         goto cont_scan;
2288                     }
2289                     if (e > s + 2 && s[1] == 'U' && s[2] == '+') {
2290                         /* \N{U+...} */
2291                         I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2292                           PERL_SCAN_DISALLOW_PREFIX;
2293                         s += 3;
2294                         len = e - s;
2295                         uv = grok_hex(s, &len, &flags, NULL);
2296                         if ( e > s && len != (STRLEN)(e - s) ) {
2297                             uv = 0xFFFD;
2298                         }
2299                         s = e + 1;
2300                         goto NUM_ESCAPE_INSERT;
2301                     }
2302                     res = newSVpvn(s + 1, e - s - 1);
2303                     res = new_constant( NULL, 0, "charnames",
2304                                         res, NULL, s - 2, e - s + 3 );
2305                     if (has_utf8)
2306                         sv_utf8_upgrade(res);
2307                     str = SvPV_const(res,len);
2308 #ifdef EBCDIC_NEVER_MIND
2309                     /* charnames uses pack U and that has been
2310                      * recently changed to do the below uni->native
2311                      * mapping, so this would be redundant (and wrong,
2312                      * the code point would be doubly converted).
2313                      * But leave this in just in case the pack U change
2314                      * gets revoked, but the semantics is still
2315                      * desireable for charnames. --jhi */
2316                     {
2317                          UV uv = utf8_to_uvchr((const U8*)str, 0);
2318
2319                          if (uv < 0x100) {
2320                               U8 tmpbuf[UTF8_MAXBYTES+1], *d;
2321
2322                               d = uvchr_to_utf8(tmpbuf, UNI_TO_NATIVE(uv));
2323                               sv_setpvn(res, (char *)tmpbuf, d - tmpbuf);
2324                               str = SvPV_const(res, len);
2325                          }
2326                     }
2327 #endif
2328                     if (!has_utf8 && SvUTF8(res)) {
2329                         const char * const ostart = SvPVX_const(sv);
2330                         SvCUR_set(sv, d - ostart);
2331                         SvPOK_on(sv);
2332                         *d = '\0';
2333                         sv_utf8_upgrade(sv);
2334                         /* this just broke our allocation above... */
2335                         SvGROW(sv, (STRLEN)(send - start));
2336                         d = SvPVX(sv) + SvCUR(sv);
2337                         has_utf8 = TRUE;
2338                     }
2339                     if (len > (STRLEN)(e - s + 4)) { /* I _guess_ 4 is \N{} --jhi */
2340                         const char * const odest = SvPVX_const(sv);
2341
2342                         SvGROW(sv, (SvLEN(sv) + len - (e - s + 4)));
2343                         d = SvPVX(sv) + (d - odest);
2344                     }
2345 #ifdef EBCDIC
2346                     if (!dorange)
2347                         native_range = FALSE; /* \N{} is guessed to be Unicode */
2348 #endif
2349                     Copy(str, d, len, char);
2350                     d += len;
2351                     SvREFCNT_dec(res);
2352                   cont_scan:
2353                     s = e + 1;
2354                 }
2355                 else
2356                     yyerror("Missing braces on \\N{}");
2357                 continue;
2358
2359             /* \c is a control character */
2360             case 'c':
2361                 s++;
2362                 if (s < send) {
2363                     U8 c = *s++;
2364 #ifdef EBCDIC
2365                     if (isLOWER(c))
2366                         c = toUPPER(c);
2367 #endif
2368                     *d++ = NATIVE_TO_NEED(has_utf8,toCTRL(c));
2369                 }
2370                 else {
2371                     yyerror("Missing control char name in \\c");
2372                 }
2373                 continue;
2374
2375             /* printf-style backslashes, formfeeds, newlines, etc */
2376             case 'b':
2377                 *d++ = NATIVE_TO_NEED(has_utf8,'\b');
2378                 break;
2379             case 'n':
2380                 *d++ = NATIVE_TO_NEED(has_utf8,'\n');
2381                 break;
2382             case 'r':
2383                 *d++ = NATIVE_TO_NEED(has_utf8,'\r');
2384                 break;
2385             case 'f':
2386                 *d++ = NATIVE_TO_NEED(has_utf8,'\f');
2387                 break;
2388             case 't':
2389                 *d++ = NATIVE_TO_NEED(has_utf8,'\t');
2390                 break;
2391             case 'e':
2392                 *d++ = ASCII_TO_NEED(has_utf8,'\033');
2393                 break;
2394             case 'a':
2395                 *d++ = ASCII_TO_NEED(has_utf8,'\007');
2396                 break;
2397             } /* end switch */
2398
2399             s++;
2400             continue;
2401         } /* end if (backslash) */
2402 #ifdef EBCDIC
2403         else
2404             literal_endpoint++;
2405 #endif
2406
2407     default_action:
2408         /* If we started with encoded form, or already know we want it
2409            and then encode the next character */
2410         if ((has_utf8 || this_utf8) && !NATIVE_IS_INVARIANT((U8)(*s))) {
2411             STRLEN len  = 1;
2412             const UV nextuv   = (this_utf8) ? utf8n_to_uvchr((U8*)s, send - s, &len, 0) : (UV) ((U8) *s);
2413             const STRLEN need = UNISKIP(NATIVE_TO_UNI(nextuv));
2414             s += len;
2415             if (need > len) {
2416                 /* encoded value larger than old, need extra space (NOTE: SvCUR() not set here) */
2417                 const STRLEN off = d - SvPVX_const(sv);
2418                 d = SvGROW(sv, SvLEN(sv) + (need-len)) + off;
2419             }
2420             d = (char*)uvchr_to_utf8((U8*)d, nextuv);
2421             has_utf8 = TRUE;
2422 #ifdef EBCDIC
2423             if (uv > 255 && !dorange)
2424                 native_range = FALSE;
2425 #endif
2426         }
2427         else {
2428             *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2429         }
2430     } /* while loop to process each character */
2431
2432     /* terminate the string and set up the sv */
2433     *d = '\0';
2434     SvCUR_set(sv, d - SvPVX_const(sv));
2435     if (SvCUR(sv) >= SvLEN(sv))
2436         Perl_croak(aTHX_ "panic: constant overflowed allocated space");
2437
2438     SvPOK_on(sv);
2439     if (PL_encoding && !has_utf8) {
2440         sv_recode_to_utf8(sv, PL_encoding);
2441         if (SvUTF8(sv))
2442             has_utf8 = TRUE;
2443     }
2444     if (has_utf8) {
2445         SvUTF8_on(sv);
2446         if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
2447             PL_sublex_info.sub_op->op_private |=
2448                     (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
2449         }
2450     }
2451
2452     /* shrink the sv if we allocated more than we used */
2453     if (SvCUR(sv) + 5 < SvLEN(sv)) {
2454         SvPV_shrink_to_cur(sv);
2455     }
2456
2457     /* return the substring (via yylval) only if we parsed anything */
2458     if (s > PL_bufptr) {
2459         if ( PL_hints & ( PL_lex_inpat ? HINT_NEW_RE : HINT_NEW_STRING ) ) {
2460             const char *const key = PL_lex_inpat ? "qr" : "q";
2461             const STRLEN keylen = PL_lex_inpat ? 2 : 1;
2462             const char *type;
2463             STRLEN typelen;
2464
2465             if (PL_lex_inwhat == OP_TRANS) {
2466                 type = "tr";
2467                 typelen = 2;
2468             } else if (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat) {
2469                 type = "s";
2470                 typelen = 1;
2471             } else  {
2472                 type = "qq";
2473                 typelen = 2;
2474             }
2475
2476             sv = S_new_constant(aTHX_ start, s - start, key, keylen, sv, NULL,
2477                                 type, typelen);
2478         }
2479         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2480     } else
2481         SvREFCNT_dec(sv);
2482     return s;
2483 }
2484
2485 /* S_intuit_more
2486  * Returns TRUE if there's more to the expression (e.g., a subscript),
2487  * FALSE otherwise.
2488  *
2489  * It deals with "$foo[3]" and /$foo[3]/ and /$foo[0123456789$]+/
2490  *
2491  * ->[ and ->{ return TRUE
2492  * { and [ outside a pattern are always subscripts, so return TRUE
2493  * if we're outside a pattern and it's not { or [, then return FALSE
2494  * if we're in a pattern and the first char is a {
2495  *   {4,5} (any digits around the comma) returns FALSE
2496  * if we're in a pattern and the first char is a [
2497  *   [] returns FALSE
2498  *   [SOMETHING] has a funky algorithm to decide whether it's a
2499  *      character class or not.  It has to deal with things like
2500  *      /$foo[-3]/ and /$foo[$bar]/ as well as /$foo[$\d]+/
2501  * anything else returns TRUE
2502  */
2503
2504 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
2505
2506 STATIC int
2507 S_intuit_more(pTHX_ register char *s)
2508 {
2509     dVAR;
2510     if (PL_lex_brackets)
2511         return TRUE;
2512     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
2513         return TRUE;
2514     if (*s != '{' && *s != '[')
2515         return FALSE;
2516     if (!PL_lex_inpat)
2517         return TRUE;
2518
2519     /* In a pattern, so maybe we have {n,m}. */
2520     if (*s == '{') {
2521         s++;
2522         if (!isDIGIT(*s))
2523             return TRUE;
2524         while (isDIGIT(*s))
2525             s++;
2526         if (*s == ',')
2527             s++;
2528         while (isDIGIT(*s))
2529             s++;
2530         if (*s == '}')
2531             return FALSE;
2532         return TRUE;
2533
2534     }
2535
2536     /* On the other hand, maybe we have a character class */
2537
2538     s++;
2539     if (*s == ']' || *s == '^')
2540         return FALSE;
2541     else {
2542         /* this is terrifying, and it works */
2543         int weight = 2;         /* let's weigh the evidence */
2544         char seen[256];
2545         unsigned char un_char = 255, last_un_char;
2546         const char * const send = strchr(s,']');
2547         char tmpbuf[sizeof PL_tokenbuf * 4];
2548
2549         if (!send)              /* has to be an expression */
2550             return TRUE;
2551
2552         Zero(seen,256,char);
2553         if (*s == '$')
2554             weight -= 3;
2555         else if (isDIGIT(*s)) {
2556             if (s[1] != ']') {
2557                 if (isDIGIT(s[1]) && s[2] == ']')
2558                     weight -= 10;
2559             }
2560             else
2561                 weight -= 100;
2562         }
2563         for (; s < send; s++) {
2564             last_un_char = un_char;
2565             un_char = (unsigned char)*s;
2566             switch (*s) {
2567             case '@':
2568             case '&':
2569             case '$':
2570                 weight -= seen[un_char] * 10;
2571                 if (isALNUM_lazy_if(s+1,UTF)) {
2572                     int len;
2573                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
2574                     len = (int)strlen(tmpbuf);
2575                     if (len > 1 && gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PV))
2576                         weight -= 100;
2577                     else
2578                         weight -= 10;
2579                 }
2580                 else if (*s == '$' && s[1] &&
2581                   strchr("[#!%*<>()-=",s[1])) {
2582                     if (/*{*/ strchr("])} =",s[2]))
2583                         weight -= 10;
2584                     else
2585                         weight -= 1;
2586                 }
2587                 break;
2588             case '\\':
2589                 un_char = 254;
2590                 if (s[1]) {
2591                     if (strchr("wds]",s[1]))
2592                         weight += 100;
2593                     else if (seen[(U8)'\''] || seen[(U8)'"'])
2594                         weight += 1;
2595                     else if (strchr("rnftbxcav",s[1]))
2596                         weight += 40;
2597                     else if (isDIGIT(s[1])) {
2598                         weight += 40;
2599                         while (s[1] && isDIGIT(s[1]))
2600                             s++;
2601                     }
2602                 }
2603                 else
2604                     weight += 100;
2605                 break;
2606             case '-':
2607                 if (s[1] == '\\')
2608                     weight += 50;
2609                 if (strchr("aA01! ",last_un_char))
2610                     weight += 30;
2611                 if (strchr("zZ79~",s[1]))
2612                     weight += 30;
2613                 if (last_un_char == 255 && (isDIGIT(s[1]) || s[1] == '$'))
2614                     weight -= 5;        /* cope with negative subscript */
2615                 break;
2616             default:
2617                 if (!isALNUM(last_un_char)
2618                     && !(last_un_char == '$' || last_un_char == '@'
2619                          || last_un_char == '&')
2620                     && isALPHA(*s) && s[1] && isALPHA(s[1])) {
2621                     char *d = tmpbuf;
2622                     while (isALPHA(*s))
2623                         *d++ = *s++;
2624                     *d = '\0';
2625                     if (keyword(tmpbuf, d - tmpbuf, 0))
2626                         weight -= 150;
2627                 }
2628                 if (un_char == last_un_char + 1)
2629                     weight += 5;
2630                 weight -= seen[un_char];
2631                 break;
2632             }
2633             seen[un_char]++;
2634         }
2635         if (weight >= 0)        /* probably a character class */
2636             return FALSE;
2637     }
2638
2639     return TRUE;
2640 }
2641
2642 /*
2643  * S_intuit_method
2644  *
2645  * Does all the checking to disambiguate
2646  *   foo bar
2647  * between foo(bar) and bar->foo.  Returns 0 if not a method, otherwise
2648  * FUNCMETH (bar->foo(args)) or METHOD (bar->foo args).
2649  *
2650  * First argument is the stuff after the first token, e.g. "bar".
2651  *
2652  * Not a method if bar is a filehandle.
2653  * Not a method if foo is a subroutine prototyped to take a filehandle.
2654  * Not a method if it's really "Foo $bar"
2655  * Method if it's "foo $bar"
2656  * Not a method if it's really "print foo $bar"
2657  * Method if it's really "foo package::" (interpreted as package->foo)
2658  * Not a method if bar is known to be a subroutine ("sub bar; foo bar")
2659  * Not a method if bar is a filehandle or package, but is quoted with
2660  *   =>
2661  */
2662
2663 STATIC int
2664 S_intuit_method(pTHX_ char *start, GV *gv, CV *cv)
2665 {
2666     dVAR;
2667     char *s = start + (*start == '$');
2668     char tmpbuf[sizeof PL_tokenbuf];
2669     STRLEN len;
2670     GV* indirgv;
2671 #ifdef PERL_MAD
2672     int soff;
2673 #endif
2674
2675     if (gv) {
2676         if (SvTYPE(gv) == SVt_PVGV && GvIO(gv))
2677             return 0;
2678         if (cv) {
2679             if (SvPOK(cv)) {
2680                 const char *proto = SvPVX_const(cv);
2681                 if (proto) {
2682                     if (*proto == ';')
2683                         proto++;
2684                     if (*proto == '*')
2685                         return 0;
2686                 }
2687             }
2688         } else
2689             gv = NULL;
2690     }
2691     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2692     /* start is the beginning of the possible filehandle/object,
2693      * and s is the end of it
2694      * tmpbuf is a copy of it
2695      */
2696
2697     if (*start == '$') {
2698         if (gv || PL_last_lop_op == OP_PRINT || PL_last_lop_op == OP_SAY ||
2699                 isUPPER(*PL_tokenbuf))
2700             return 0;
2701 #ifdef PERL_MAD
2702         len = start - SvPVX(PL_linestr);
2703 #endif
2704         s = PEEKSPACE(s);
2705 #ifdef PERL_MAD
2706         start = SvPVX(PL_linestr) + len;
2707 #endif
2708         PL_bufptr = start;
2709         PL_expect = XREF;
2710         return *s == '(' ? FUNCMETH : METHOD;
2711     }
2712     if (!keyword(tmpbuf, len, 0)) {
2713         if (len > 2 && tmpbuf[len - 2] == ':' && tmpbuf[len - 1] == ':') {
2714             len -= 2;
2715             tmpbuf[len] = '\0';
2716 #ifdef PERL_MAD
2717             soff = s - SvPVX(PL_linestr);
2718 #endif
2719             goto bare_package;
2720         }
2721         indirgv = gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PVCV);
2722         if (indirgv && GvCVu(indirgv))
2723             return 0;
2724         /* filehandle or package name makes it a method */
2725         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, 0)) {
2726 #ifdef PERL_MAD
2727             soff = s - SvPVX(PL_linestr);
2728 #endif
2729             s = PEEKSPACE(s);
2730             if ((PL_bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
2731                 return 0;       /* no assumptions -- "=>" quotes bearword */
2732       bare_package:
2733             start_force(PL_curforce);
2734             NEXTVAL_NEXTTOKE.opval = (OP*)newSVOP(OP_CONST, 0,
2735                                                    newSVpvn(tmpbuf,len));
2736             NEXTVAL_NEXTTOKE.opval->op_private = OPpCONST_BARE;
2737             if (PL_madskills)
2738                 curmad('X', newSVpvn(start,SvPVX(PL_linestr) + soff - start));
2739             PL_expect = XTERM;
2740             force_next(WORD);
2741             PL_bufptr = s;
2742 #ifdef PERL_MAD
2743             PL_bufptr = SvPVX(PL_linestr) + soff; /* restart before space */
2744 #endif
2745             return *s == '(' ? FUNCMETH : METHOD;
2746         }
2747     }
2748     return 0;
2749 }
2750
2751 /*
2752  * S_incl_perldb
2753  * Return a string of Perl code to load the debugger.  If PERL5DB
2754  * is set, it will return the contents of that, otherwise a
2755  * compile-time require of perl5db.pl.
2756  */
2757
2758 STATIC const char*
2759 S_incl_perldb(pTHX)
2760 {
2761     dVAR;
2762     if (PL_perldb) {
2763         const char * const pdb = PerlEnv_getenv("PERL5DB");
2764
2765         if (pdb)
2766             return pdb;
2767         SETERRNO(0,SS_NORMAL);
2768         return "BEGIN { require 'perl5db.pl' }";
2769     }
2770     return "";
2771 }
2772
2773
2774 /* Encoded script support. filter_add() effectively inserts a
2775  * 'pre-processing' function into the current source input stream.
2776  * Note that the filter function only applies to the current source file
2777  * (e.g., it will not affect files 'require'd or 'use'd by this one).
2778  *
2779  * The datasv parameter (which may be NULL) can be used to pass
2780  * private data to this instance of the filter. The filter function
2781  * can recover the SV using the FILTER_DATA macro and use it to
2782  * store private buffers and state information.
2783  *
2784  * The supplied datasv parameter is upgraded to a PVIO type
2785  * and the IoDIRP/IoANY field is used to store the function pointer,
2786  * and IOf_FAKE_DIRP is enabled on datasv to mark this as such.
2787  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
2788  * private use must be set using malloc'd pointers.
2789  */
2790
2791 SV *
2792 Perl_filter_add(pTHX_ filter_t funcp, SV *datasv)
2793 {
2794     dVAR;
2795     if (!funcp)
2796         return NULL;
2797
2798     if (!PL_parser)
2799         return NULL;
2800
2801     if (!PL_rsfp_filters)
2802         PL_rsfp_filters = newAV();
2803     if (!datasv)
2804         datasv = newSV(0);
2805     SvUPGRADE(datasv, SVt_PVIO);
2806     IoANY(datasv) = FPTR2DPTR(void *, funcp); /* stash funcp into spare field */
2807     IoFLAGS(datasv) |= IOf_FAKE_DIRP;
2808     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_add func %p (%s)\n",
2809                           FPTR2DPTR(void *, IoANY(datasv)),
2810                           SvPV_nolen(datasv)));
2811     av_unshift(PL_rsfp_filters, 1);
2812     av_store(PL_rsfp_filters, 0, datasv) ;
2813     return(datasv);
2814 }
2815
2816
2817 /* Delete most recently added instance of this filter function. */
2818 void
2819 Perl_filter_del(pTHX_ filter_t funcp)
2820 {
2821     dVAR;
2822     SV *datasv;
2823
2824 #ifdef DEBUGGING
2825     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_del func %p",
2826                           FPTR2DPTR(void*, funcp)));
2827 #endif
2828     if (!PL_parser || !PL_rsfp_filters || AvFILLp(PL_rsfp_filters)<0)
2829         return;
2830     /* if filter is on top of stack (usual case) just pop it off */
2831     datasv = FILTER_DATA(AvFILLp(PL_rsfp_filters));
2832     if (IoANY(datasv) == FPTR2DPTR(void *, funcp)) {
2833         IoFLAGS(datasv) &= ~IOf_FAKE_DIRP;
2834         IoANY(datasv) = (void *)NULL;
2835         sv_free(av_pop(PL_rsfp_filters));
2836
2837         return;
2838     }
2839     /* we need to search for the correct entry and clear it     */
2840     Perl_die(aTHX_ "filter_del can only delete in reverse order (currently)");
2841 }
2842
2843
2844 /* Invoke the idxth filter function for the current rsfp.        */
2845 /* maxlen 0 = read one text line */
2846 I32
2847 Perl_filter_read(pTHX_ int idx, SV *buf_sv, int maxlen)
2848 {
2849     dVAR;
2850     filter_t funcp;
2851     SV *datasv = NULL;
2852     /* This API is bad. It should have been using unsigned int for maxlen.
2853        Not sure if we want to change the API, but if not we should sanity
2854        check the value here.  */
2855     const unsigned int correct_length
2856         = maxlen < 0 ?
2857 #ifdef PERL_MICRO
2858         0x7FFFFFFF
2859 #else
2860         INT_MAX
2861 #endif
2862         : maxlen;
2863
2864     if (!PL_parser || !PL_rsfp_filters)
2865         return -1;
2866     if (idx > AvFILLp(PL_rsfp_filters)) {       /* Any more filters?    */
2867         /* Provide a default input filter to make life easy.    */
2868         /* Note that we append to the line. This is handy.      */
2869         DEBUG_P(PerlIO_printf(Perl_debug_log,
2870                               "filter_read %d: from rsfp\n", idx));
2871         if (correct_length) {
2872             /* Want a block */
2873             int len ;
2874             const int old_len = SvCUR(buf_sv);
2875
2876             /* ensure buf_sv is large enough */
2877             SvGROW(buf_sv, (STRLEN)(old_len + correct_length)) ;
2878             if ((len = PerlIO_read(PL_rsfp, SvPVX(buf_sv) + old_len,
2879                                    correct_length)) <= 0) {
2880                 if (PerlIO_error(PL_rsfp))
2881                     return -1;          /* error */
2882                 else
2883                     return 0 ;          /* end of file */
2884             }
2885             SvCUR_set(buf_sv, old_len + len) ;
2886         } else {
2887             /* Want a line */
2888             if (sv_gets(buf_sv, PL_rsfp, SvCUR(buf_sv)) == NULL) {
2889                 if (PerlIO_error(PL_rsfp))
2890                     return -1;          /* error */
2891                 else
2892                     return 0 ;          /* end of file */
2893             }
2894         }
2895         return SvCUR(buf_sv);
2896     }
2897     /* Skip this filter slot if filter has been deleted */
2898     if ( (datasv = FILTER_DATA(idx)) == &PL_sv_undef) {
2899         DEBUG_P(PerlIO_printf(Perl_debug_log,
2900                               "filter_read %d: skipped (filter deleted)\n",
2901                               idx));
2902         return FILTER_READ(idx+1, buf_sv, correct_length); /* recurse */
2903     }
2904     /* Get function pointer hidden within datasv        */
2905     funcp = DPTR2FPTR(filter_t, IoANY(datasv));
2906     DEBUG_P(PerlIO_printf(Perl_debug_log,
2907                           "filter_read %d: via function %p (%s)\n",
2908                           idx, (void*)datasv, SvPV_nolen_const(datasv)));
2909     /* Call function. The function is expected to       */
2910     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
2911     /* Return: <0:error, =0:eof, >0:not eof             */
2912     return (*funcp)(aTHX_ idx, buf_sv, correct_length);
2913 }
2914
2915 STATIC char *
2916 S_filter_gets(pTHX_ register SV *sv, register PerlIO *fp, STRLEN append)
2917 {
2918     dVAR;
2919 #ifdef PERL_CR_FILTER
2920     if (!PL_rsfp_filters) {
2921         filter_add(S_cr_textfilter,NULL);
2922     }
2923 #endif
2924     if (PL_rsfp_filters) {
2925         if (!append)
2926             SvCUR_set(sv, 0);   /* start with empty line        */
2927         if (FILTER_READ(0, sv, 0) > 0)
2928             return ( SvPVX(sv) ) ;
2929         else
2930             return NULL ;
2931     }
2932     else
2933         return (sv_gets(sv, fp, append));
2934 }
2935
2936 STATIC HV *
2937 S_find_in_my_stash(pTHX_ const char *pkgname, STRLEN len)
2938 {
2939     dVAR;
2940     GV *gv;
2941
2942     if (len == 11 && *pkgname == '_' && strEQ(pkgname, "__PACKAGE__"))
2943         return PL_curstash;
2944
2945     if (len > 2 &&
2946         (pkgname[len - 2] == ':' && pkgname[len - 1] == ':') &&
2947         (gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVHV)))
2948     {
2949         return GvHV(gv);                        /* Foo:: */
2950     }
2951
2952     /* use constant CLASS => 'MyClass' */
2953     gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVCV);
2954     if (gv && GvCV(gv)) {
2955         SV * const sv = cv_const_sv(GvCV(gv));
2956         if (sv)
2957             pkgname = SvPV_const(sv, len);
2958     }
2959
2960     return gv_stashpvn(pkgname, len, 0);
2961 }
2962
2963 /*
2964  * S_readpipe_override
2965  * Check whether readpipe() is overriden, and generates the appropriate
2966  * optree, provided sublex_start() is called afterwards.
2967  */
2968 STATIC void
2969 S_readpipe_override(pTHX)
2970 {
2971     GV **gvp;
2972     GV *gv_readpipe = gv_fetchpvs("readpipe", GV_NOTQUAL, SVt_PVCV);
2973     yylval.ival = OP_BACKTICK;
2974     if ((gv_readpipe
2975                 && GvCVu(gv_readpipe) && GvIMPORTED_CV(gv_readpipe))
2976             ||
2977             ((gvp = (GV**)hv_fetchs(PL_globalstash, "readpipe", FALSE))
2978              && (gv_readpipe = *gvp) && isGV_with_GP(gv_readpipe)
2979              && GvCVu(gv_readpipe) && GvIMPORTED_CV(gv_readpipe)))
2980     {
2981         PL_lex_op = (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
2982             append_elem(OP_LIST,
2983                 newSVOP(OP_CONST, 0, &PL_sv_undef), /* value will be read later */
2984                 newCVREF(0, newGVOP(OP_GV, 0, gv_readpipe))));
2985     }
2986 }
2987
2988 #ifdef PERL_MAD
2989  /*
2990  * Perl_madlex
2991  * The intent of this yylex wrapper is to minimize the changes to the
2992  * tokener when we aren't interested in collecting madprops.  It remains
2993  * to be seen how successful this strategy will be...
2994  */
2995
2996 int
2997 Perl_madlex(pTHX)
2998 {
2999     int optype;
3000     char *s = PL_bufptr;
3001
3002     /* make sure PL_thiswhite is initialized */
3003     PL_thiswhite = 0;
3004     PL_thismad = 0;
3005
3006     /* just do what yylex would do on pending identifier; leave PL_thiswhite alone */
3007     if (PL_pending_ident)
3008         return S_pending_ident(aTHX);
3009
3010     /* previous token ate up our whitespace? */
3011     if (!PL_lasttoke && PL_nextwhite) {
3012         PL_thiswhite = PL_nextwhite;
3013         PL_nextwhite = 0;
3014     }
3015
3016     /* isolate the token, and figure out where it is without whitespace */
3017     PL_realtokenstart = -1;
3018     PL_thistoken = 0;
3019     optype = yylex();
3020     s = PL_bufptr;
3021     assert(PL_curforce < 0);
3022
3023     if (!PL_thismad || PL_thismad->mad_key == '^') {    /* not forced already? */
3024         if (!PL_thistoken) {
3025             if (PL_realtokenstart < 0 || !CopLINE(PL_curcop))
3026                 PL_thistoken = newSVpvs("");
3027             else {
3028                 char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
3029                 PL_thistoken = newSVpvn(tstart, s - tstart);
3030             }
3031         }
3032         if (PL_thismad) /* install head */
3033             CURMAD('X', PL_thistoken);
3034     }
3035
3036     /* last whitespace of a sublex? */
3037     if (optype == ')' && PL_endwhite) {
3038         CURMAD('X', PL_endwhite);
3039     }
3040
3041     if (!PL_thismad) {
3042
3043         /* if no whitespace and we're at EOF, bail.  Otherwise fake EOF below. */
3044         if (!PL_thiswhite && !PL_endwhite && !optype) {
3045             sv_free(PL_thistoken);
3046             PL_thistoken = 0;
3047             return 0;
3048         }
3049
3050         /* put off final whitespace till peg */
3051         if (optype == ';' && !PL_rsfp) {
3052             PL_nextwhite = PL_thiswhite;
3053             PL_thiswhite = 0;
3054         }
3055         else if (PL_thisopen) {
3056             CURMAD('q', PL_thisopen);
3057             if (PL_thistoken)
3058                 sv_free(PL_thistoken);
3059             PL_thistoken = 0;
3060         }
3061         else {
3062             /* Store actual token text as madprop X */
3063             CURMAD('X', PL_thistoken);
3064         }
3065
3066         if (PL_thiswhite) {
3067             /* add preceding whitespace as madprop _ */
3068             CURMAD('_', PL_thiswhite);
3069         }
3070
3071         if (PL_thisstuff) {
3072             /* add quoted material as madprop = */
3073             CURMAD('=', PL_thisstuff);
3074         }
3075
3076         if (PL_thisclose) {
3077             /* add terminating quote as madprop Q */
3078             CURMAD('Q', PL_thisclose);
3079         }
3080     }
3081
3082     /* special processing based on optype */
3083
3084     switch (optype) {
3085
3086     /* opval doesn't need a TOKEN since it can already store mp */
3087     case WORD:
3088     case METHOD:
3089     case FUNCMETH:
3090     case THING:
3091     case PMFUNC:
3092     case PRIVATEREF:
3093     case FUNC0SUB:
3094     case UNIOPSUB:
3095     case LSTOPSUB:
3096         if (yylval.opval)
3097             append_madprops(PL_thismad, yylval.opval, 0);
3098         PL_thismad = 0;
3099         return optype;
3100
3101     /* fake EOF */
3102     case 0:
3103         optype = PEG;
3104         if (PL_endwhite) {
3105             addmad(newMADsv('p', PL_endwhite), &PL_thismad, 0);
3106             PL_endwhite = 0;
3107         }
3108         break;
3109
3110     case ']':
3111     case '}':
3112         if (PL_faketokens)
3113             break;
3114         /* remember any fake bracket that lexer is about to discard */
3115         if (PL_lex_brackets == 1 &&
3116             ((expectation)PL_lex_brackstack[0] & XFAKEBRACK))
3117         {
3118             s = PL_bufptr;
3119             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
3120                 s++;
3121             if (*s == '}') {
3122                 PL_thiswhite = newSVpvn(PL_bufptr, ++s - PL_bufptr);
3123                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
3124                 PL_thiswhite = 0;
3125                 PL_bufptr = s - 1;
3126                 break;  /* don't bother looking for trailing comment */
3127             }
3128             else
3129                 s = PL_bufptr;
3130         }
3131         if (optype == ']')
3132             break;
3133         /* FALLTHROUGH */
3134
3135     /* attach a trailing comment to its statement instead of next token */
3136     case ';':
3137         if (PL_faketokens)
3138             break;
3139         if (PL_bufptr > PL_oldbufptr && PL_bufptr[-1] == optype) {
3140             s = PL_bufptr;
3141             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
3142                 s++;
3143             if (*s == '\n' || *s == '#') {
3144                 while (s < PL_bufend && *s != '\n')
3145                     s++;
3146                 if (s < PL_bufend)
3147                     s++;
3148                 PL_thiswhite = newSVpvn(PL_bufptr, s - PL_bufptr);
3149                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
3150                 PL_thiswhite = 0;
3151                 PL_bufptr = s;
3152             }
3153         }
3154         break;
3155
3156     /* pval */
3157     case LABEL:
3158         break;
3159
3160     /* ival */
3161     default:
3162         break;
3163
3164     }
3165
3166     /* Create new token struct.  Note: opvals return early above. */
3167     yylval.tkval = newTOKEN(optype, yylval, PL_thismad);
3168     PL_thismad = 0;
3169     return optype;
3170 }
3171 #endif
3172
3173 STATIC char *
3174 S_tokenize_use(pTHX_ int is_use, char *s) {
3175     dVAR;
3176     if (PL_expect != XSTATE)
3177         yyerror(Perl_form(aTHX_ "\"%s\" not allowed in expression",
3178                     is_use ? "use" : "no"));
3179     s = SKIPSPACE1(s);
3180     if (isDIGIT(*s) || (*s == 'v' && isDIGIT(s[1]))) {
3181         s = force_version(s, TRUE);
3182         if (*s == ';' || (s = SKIPSPACE1(s), *s == ';')) {
3183             start_force(PL_curforce);
3184             NEXTVAL_NEXTTOKE.opval = NULL;
3185             force_next(WORD);
3186         }
3187         else if (*s == 'v') {
3188             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3189             s = force_version(s, FALSE);
3190         }
3191     }
3192     else {
3193         s = force_word(s,WORD,FALSE,TRUE,FALSE);
3194         s = force_version(s, FALSE);
3195     }
3196     yylval.ival = is_use;
3197     return s;
3198 }
3199 #ifdef DEBUGGING
3200     static const char* const exp_name[] =
3201         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "ATTRBLOCK",
3202           "ATTRTERM", "TERMBLOCK", "TERMORDORDOR"
3203         };
3204 #endif
3205
3206 /*
3207   yylex
3208
3209   Works out what to call the token just pulled out of the input
3210   stream.  The yacc parser takes care of taking the ops we return and
3211   stitching them into a tree.
3212
3213   Returns:
3214     PRIVATEREF
3215
3216   Structure:
3217       if read an identifier
3218           if we're in a my declaration
3219               croak if they tried to say my($foo::bar)
3220               build the ops for a my() declaration
3221           if it's an access to a my() variable
3222               are we in a sort block?
3223                   croak if my($a); $a <=> $b
3224               build ops for access to a my() variable
3225           if in a dq string, and they've said @foo and we can't find @foo
3226               croak
3227           build ops for a bareword
3228       if we already built the token before, use it.
3229 */
3230
3231
3232 #ifdef __SC__
3233 #pragma segment Perl_yylex
3234 #endif
3235 int
3236 Perl_yylex(pTHX)
3237 {
3238     dVAR;
3239     register char *s = PL_bufptr;
3240     register char *d;
3241     STRLEN len;
3242     bool bof = FALSE;
3243
3244     /* orig_keyword, gvp, and gv are initialized here because
3245      * jump to the label just_a_word_zero can bypass their
3246      * initialization later. */
3247     I32 orig_keyword = 0;
3248     GV *gv = NULL;
3249     GV **gvp = NULL;
3250
3251     DEBUG_T( {
3252         SV* tmp = newSVpvs("");
3253         PerlIO_printf(Perl_debug_log, "### %"IVdf":LEX_%s/X%s %s\n",
3254             (IV)CopLINE(PL_curcop),
3255             lex_state_names[PL_lex_state],
3256             exp_name[PL_expect],
3257             pv_display(tmp, s, strlen(s), 0, 60));
3258         SvREFCNT_dec(tmp);
3259     } );
3260     /* check if there's an identifier for us to look at */
3261     if (PL_pending_ident)
3262         return REPORT(S_pending_ident(aTHX));
3263
3264     /* no identifier pending identification */
3265
3266     switch (PL_lex_state) {
3267 #ifdef COMMENTARY
3268     case LEX_NORMAL:            /* Some compilers will produce faster */
3269     case LEX_INTERPNORMAL:      /* code if we comment these out. */
3270         break;
3271 #endif
3272
3273     /* when we've already built the next token, just pull it out of the queue */
3274     case LEX_KNOWNEXT:
3275 #ifdef PERL_MAD
3276         PL_lasttoke--;
3277         yylval = PL_nexttoke[PL_lasttoke].next_val;
3278         if (PL_madskills) {
3279             PL_thismad = PL_nexttoke[PL_lasttoke].next_mad;
3280             PL_nexttoke[PL_lasttoke].next_mad = 0;
3281             if (PL_thismad && PL_thismad->mad_key == '_') {
3282                 PL_thiswhite = (SV*)PL_thismad->mad_val;
3283                 PL_thismad->mad_val = 0;
3284                 mad_free(PL_thismad);
3285                 PL_thismad = 0;
3286             }
3287         }
3288         if (!PL_lasttoke) {
3289             PL_lex_state = PL_lex_defer;
3290             PL_expect = PL_lex_expect;
3291             PL_lex_defer = LEX_NORMAL;
3292             if (!PL_nexttoke[PL_lasttoke].next_type)
3293                 return yylex();
3294         }
3295 #else
3296         PL_nexttoke--;
3297         yylval = PL_nextval[PL_nexttoke];
3298         if (!PL_nexttoke) {
3299             PL_lex_state = PL_lex_defer;
3300             PL_expect = PL_lex_expect;
3301             PL_lex_defer = LEX_NORMAL;
3302         }
3303 #endif
3304 #ifdef PERL_MAD
3305         /* FIXME - can these be merged?  */
3306         return(PL_nexttoke[PL_lasttoke].next_type);
3307 #else
3308         return REPORT(PL_nexttype[PL_nexttoke]);
3309 #endif
3310
3311     /* interpolated case modifiers like \L \U, including \Q and \E.
3312        when we get here, PL_bufptr is at the \
3313     */
3314     case LEX_INTERPCASEMOD:
3315 #ifdef DEBUGGING
3316         if (PL_bufptr != PL_bufend && *PL_bufptr != '\\')
3317             Perl_croak(aTHX_ "panic: INTERPCASEMOD");
3318 #endif
3319         /* handle \E or end of string */
3320         if (PL_bufptr == PL_bufend || PL_bufptr[1] == 'E') {
3321             /* if at a \E */
3322             if (PL_lex_casemods) {
3323                 const char oldmod = PL_lex_casestack[--PL_lex_casemods];
3324                 PL_lex_casestack[PL_lex_casemods] = '\0';
3325
3326                 if (PL_bufptr != PL_bufend
3327                     && (oldmod == 'L' || oldmod == 'U' || oldmod == 'Q')) {
3328                     PL_bufptr += 2;
3329                     PL_lex_state = LEX_INTERPCONCAT;
3330 #ifdef PERL_MAD
3331                     if (PL_madskills)
3332                         PL_thistoken = newSVpvs("\\E");
3333 #endif
3334                 }
3335                 return REPORT(')');
3336             }
3337 #ifdef PERL_MAD
3338             while (PL_bufptr != PL_bufend &&
3339               PL_bufptr[0] == '\\' && PL_bufptr[1] == 'E') {
3340                 if (!PL_thiswhite)
3341                     PL_thiswhite = newSVpvs("");
3342                 sv_catpvn(PL_thiswhite, PL_bufptr, 2);
3343                 PL_bufptr += 2;
3344             }
3345 #else
3346             if (PL_bufptr != PL_bufend)
3347                 PL_bufptr += 2;
3348 #endif
3349             PL_lex_state = LEX_INTERPCONCAT;
3350             return yylex();
3351         }
3352         else {
3353             DEBUG_T({ PerlIO_printf(Perl_debug_log,
3354               "### Saw case modifier\n"); });
3355             s = PL_bufptr + 1;
3356             if (s[1] == '\\' && s[2] == 'E') {
3357 #ifdef PERL_MAD
3358                 if (!PL_thiswhite)
3359                     PL_thiswhite = newSVpvs("");
3360                 sv_catpvn(PL_thiswhite, PL_bufptr, 4);
3361 #endif
3362                 PL_bufptr = s + 3;
3363                 PL_lex_state = LEX_INTERPCONCAT;
3364                 return yylex();
3365             }
3366             else {
3367                 I32 tmp;
3368                 if (!PL_madskills) /* when just compiling don't need correct */
3369                     if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
3370                         tmp = *s, *s = s[2], s[2] = (char)tmp;  /* misordered... */
3371                 if ((*s == 'L' || *s == 'U') &&
3372                     (strchr(PL_lex_casestack, 'L') || strchr(PL_lex_casestack, 'U'))) {
3373                     PL_lex_casestack[--PL_lex_casemods] = '\0';
3374                     return REPORT(')');
3375                 }
3376                 if (PL_lex_casemods > 10)
3377                     Renew(PL_lex_casestack, PL_lex_casemods + 2, char);
3378                 PL_lex_casestack[PL_lex_casemods++] = *s;
3379                 PL_lex_casestack[PL_lex_casemods] = '\0';
3380                 PL_lex_state = LEX_INTERPCONCAT;
3381                 start_force(PL_curforce);
3382                 NEXTVAL_NEXTTOKE.ival = 0;
3383                 force_next('(');
3384                 start_force(PL_curforce);
3385                 if (*s == 'l')
3386                     NEXTVAL_NEXTTOKE.ival = OP_LCFIRST;
3387                 else if (*s == 'u')
3388                     NEXTVAL_NEXTTOKE.ival = OP_UCFIRST;
3389                 else if (*s == 'L')
3390                     NEXTVAL_NEXTTOKE.ival = OP_LC;
3391                 else if (*s == 'U')
3392                     NEXTVAL_NEXTTOKE.ival = OP_UC;
3393                 else if (*s == 'Q')
3394                     NEXTVAL_NEXTTOKE.ival = OP_QUOTEMETA;
3395                 else
3396                     Perl_croak(aTHX_ "panic: yylex");
3397                 if (PL_madskills) {
3398                     SV* const tmpsv = newSVpvs("\\ ");
3399                     /* replace the space with the character we want to escape
3400                      */
3401                     SvPVX(tmpsv)[1] = *s;
3402                     curmad('_', tmpsv);
3403                 }
3404                 PL_bufptr = s + 1;
3405             }
3406             force_next(FUNC);
3407             if (PL_lex_starts) {
3408                 s = PL_bufptr;
3409                 PL_lex_starts = 0;
3410 #ifdef PERL_MAD
3411                 if (PL_madskills) {
3412                     if (PL_thistoken)
3413                         sv_free(PL_thistoken);
3414                     PL_thistoken = newSVpvs("");
3415                 }
3416 #endif
3417                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3418                 if (PL_lex_casemods == 1 && PL_lex_inpat)
3419                     OPERATOR(',');
3420                 else
3421                     Aop(OP_CONCAT);
3422             }
3423             else
3424                 return yylex();
3425         }
3426
3427     case LEX_INTERPPUSH:
3428         return REPORT(sublex_push());
3429
3430     case LEX_INTERPSTART:
3431         if (PL_bufptr == PL_bufend)
3432             return REPORT(sublex_done());
3433         DEBUG_T({ PerlIO_printf(Perl_debug_log,
3434               "### Interpolated variable\n"); });
3435         PL_expect = XTERM;
3436         PL_lex_dojoin = (*PL_bufptr == '@');
3437         PL_lex_state = LEX_INTERPNORMAL;
3438         if (PL_lex_dojoin) {
3439             start_force(PL_curforce);
3440             NEXTVAL_NEXTTOKE.ival = 0;
3441             force_next(',');
3442             start_force(PL_curforce);
3443             force_ident("\"", '$');
3444             start_force(PL_curforce);
3445             NEXTVAL_NEXTTOKE.ival = 0;
3446             force_next('$');
3447             start_force(PL_curforce);
3448             NEXTVAL_NEXTTOKE.ival = 0;
3449             force_next('(');
3450             start_force(PL_curforce);
3451             NEXTVAL_NEXTTOKE.ival = OP_JOIN;    /* emulate join($", ...) */
3452             force_next(FUNC);
3453         }
3454         if (PL_lex_starts++) {
3455             s = PL_bufptr;
3456 #ifdef PERL_MAD
3457             if (PL_madskills) {
3458                 if (PL_thistoken)
3459                     sv_free(PL_thistoken);
3460                 PL_thistoken = newSVpvs("");
3461             }
3462 #endif
3463             /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3464             if (!PL_lex_casemods && PL_lex_inpat)
3465                 OPERATOR(',');
3466             else
3467                 Aop(OP_CONCAT);
3468         }
3469         return yylex();
3470
3471     case LEX_INTERPENDMAYBE:
3472         if (intuit_more(PL_bufptr)) {
3473             PL_lex_state = LEX_INTERPNORMAL;    /* false alarm, more expr */
3474             break;
3475         }
3476         /* FALL THROUGH */
3477
3478     case LEX_INTERPEND:
3479         if (PL_lex_dojoin) {
3480             PL_lex_dojoin = FALSE;
3481             PL_lex_state = LEX_INTERPCONCAT;
3482 #ifdef PERL_MAD
3483             if (PL_madskills) {
3484                 if (PL_thistoken)
3485                     sv_free(PL_thistoken);
3486                 PL_thistoken = newSVpvs("");
3487             }
3488 #endif
3489             return REPORT(')');
3490         }
3491         if (PL_lex_inwhat == OP_SUBST && PL_linestr == PL_lex_repl
3492             && SvEVALED(PL_lex_repl))
3493         {
3494             if (PL_bufptr != PL_bufend)
3495                 Perl_croak(aTHX_ "Bad evalled substitution pattern");
3496             PL_lex_repl = NULL;
3497         }
3498         /* FALLTHROUGH */
3499     case LEX_INTERPCONCAT:
3500 #ifdef DEBUGGING
3501         if (PL_lex_brackets)
3502             Perl_croak(aTHX_ "panic: INTERPCONCAT");
3503 #endif
3504         if (PL_bufptr == PL_bufend)
3505             return REPORT(sublex_done());
3506
3507         if (SvIVX(PL_linestr) == '\'') {
3508             SV *sv = newSVsv(PL_linestr);
3509             if (!PL_lex_inpat)
3510                 sv = tokeq(sv);
3511             else if ( PL_hints & HINT_NEW_RE )
3512                 sv = new_constant(NULL, 0, "qr", sv, sv, "q", 1);
3513             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
3514             s = PL_bufend;
3515         }
3516         else {
3517             s = scan_const(PL_bufptr);
3518             if (*s == '\\')
3519                 PL_lex_state = LEX_INTERPCASEMOD;
3520             else
3521                 PL_lex_state = LEX_INTERPSTART;
3522         }
3523
3524         if (s != PL_bufptr) {
3525             start_force(PL_curforce);
3526             if (PL_madskills) {
3527                 curmad('X', newSVpvn(PL_bufptr,s-PL_bufptr));
3528             }
3529             NEXTVAL_NEXTTOKE = yylval;
3530             PL_expect = XTERM;
3531             force_next(THING);
3532             if (PL_lex_starts++) {
3533 #ifdef PERL_MAD
3534                 if (PL_madskills) {
3535                     if (PL_thistoken)
3536                         sv_free(PL_thistoken);
3537                     PL_thistoken = newSVpvs("");
3538                 }
3539 #endif
3540                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3541                 if (!PL_lex_casemods && PL_lex_inpat)
3542                     OPERATOR(',');
3543                 else
3544                     Aop(OP_CONCAT);
3545             }
3546             else {
3547                 PL_bufptr = s;
3548                 return yylex();
3549             }
3550         }
3551
3552         return yylex();
3553     case LEX_FORMLINE:
3554         PL_lex_state = LEX_NORMAL;
3555         s = scan_formline(PL_bufptr);
3556         if (!PL_lex_formbrack)
3557             goto rightbracket;
3558         OPERATOR(';');
3559     }
3560
3561     s = PL_bufptr;
3562     PL_oldoldbufptr = PL_oldbufptr;
3563     PL_oldbufptr = s;
3564
3565   retry:
3566 #ifdef PERL_MAD
3567     if (PL_thistoken) {
3568         sv_free(PL_thistoken);
3569         PL_thistoken = 0;
3570     }
3571     PL_realtokenstart = s - SvPVX(PL_linestr);  /* assume but undo on ws */
3572 #endif
3573     switch (*s) {
3574     default:
3575         if (isIDFIRST_lazy_if(s,UTF))
3576             goto keylookup;
3577         len = UTF ? Perl_utf8_length(aTHX_ (U8 *) PL_linestart, (U8 *) s) : (STRLEN) (s - PL_linestart);
3578         Perl_croak(aTHX_ "Unrecognized character \\x%02X in column %d", *s & 255, (int) len + 1);
3579     case 4:
3580     case 26:
3581         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
3582     case 0:
3583 #ifdef PERL_MAD
3584         if (PL_madskills)
3585             PL_faketokens = 0;
3586 #endif
3587         if (!PL_rsfp) {
3588             PL_last_uni = 0;
3589             PL_last_lop = 0;
3590             if (PL_lex_brackets) {
3591                 yyerror((const char *)
3592                         (PL_lex_formbrack
3593                          ? "Format not terminated"
3594                          : "Missing right curly or square bracket"));
3595             }
3596             DEBUG_T( { PerlIO_printf(Perl_debug_log,
3597                         "### Tokener got EOF\n");
3598             } );
3599             TOKEN(0);
3600         }
3601         if (s++ < PL_bufend)
3602             goto retry;                 /* ignore stray nulls */
3603         PL_last_uni = 0;
3604         PL_last_lop = 0;
3605         if (!PL_in_eval && !PL_preambled) {
3606             PL_preambled = TRUE;
3607 #ifdef PERL_MAD
3608             if (PL_madskills)
3609                 PL_faketokens = 1;
3610 #endif
3611             sv_setpv(PL_linestr,incl_perldb());
3612             if (SvCUR(PL_linestr))
3613                 sv_catpvs(PL_linestr,";");
3614             if (PL_preambleav){
3615                 while(AvFILLp(PL_preambleav) >= 0) {
3616                     SV *tmpsv = av_shift(PL_preambleav);
3617                     sv_catsv(PL_linestr, tmpsv);
3618                     sv_catpvs(PL_linestr, ";");
3619                     sv_free(tmpsv);
3620                 }
3621                 sv_free((SV*)PL_preambleav);
3622                 PL_preambleav = NULL;
3623             }
3624             if (PL_minus_n || PL_minus_p) {
3625                 sv_catpvs(PL_linestr, "LINE: while (<>) {");
3626                 if (PL_minus_l)
3627                     sv_catpvs(PL_linestr,"chomp;");
3628                 if (PL_minus_a) {
3629                     if (PL_minus_F) {
3630                         if ((*PL_splitstr == '/' || *PL_splitstr == '\''
3631                              || *PL_splitstr == '"')
3632                               && strchr(PL_splitstr + 1, *PL_splitstr))
3633                             Perl_sv_catpvf(aTHX_ PL_linestr, "our @F=split(%s);", PL_splitstr);
3634                         else {
3635                             /* "q\0${splitstr}\0" is legal perl. Yes, even NUL
3636                                bytes can be used as quoting characters.  :-) */
3637                             const char *splits = PL_splitstr;
3638                             sv_catpvs(PL_linestr, "our @F=split(q\0");
3639                             do {
3640                                 /* Need to \ \s  */
3641                                 if (*splits == '\\')
3642                                     sv_catpvn(PL_linestr, splits, 1);
3643                                 sv_catpvn(PL_linestr, splits, 1);
3644                             } while (*splits++);
3645                             /* This loop will embed the trailing NUL of
3646                                PL_linestr as the last thing it does before
3647                                terminating.  */
3648                             sv_catpvs(PL_linestr, ");");
3649                         }
3650                     }
3651                     else
3652                         sv_catpvs(PL_linestr,"our @F=split(' ');");
3653                 }
3654             }
3655             if (PL_minus_E)
3656                 sv_catpvs(PL_linestr,"use feature ':5.10';");
3657             sv_catpvs(PL_linestr, "\n");
3658             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3659             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3660             PL_last_lop = PL_last_uni = NULL;
3661             if (PERLDB_LINE && PL_curstash != PL_debstash)
3662                 update_debugger_info(PL_linestr, NULL, 0);
3663             goto retry;
3664         }
3665         do {
3666             bof = PL_rsfp ? TRUE : FALSE;
3667             if ((s = filter_gets(PL_linestr, PL_rsfp, 0)) == NULL) {
3668               fake_eof:
3669 #ifdef PERL_MAD
3670                 PL_realtokenstart = -1;
3671 #endif
3672                 if (PL_rsfp) {
3673                     if (PL_preprocess && !PL_in_eval)
3674                         (void)PerlProc_pclose(PL_rsfp);
3675                     else if ((PerlIO *)PL_rsfp == PerlIO_stdin())
3676                         PerlIO_clearerr(PL_rsfp);
3677                     else
3678                         (void)PerlIO_close(PL_rsfp);
3679                     PL_rsfp = NULL;
3680                     PL_doextract = FALSE;
3681                 }
3682                 if (!PL_in_eval && (PL_minus_n || PL_minus_p)) {
3683 #ifdef PERL_MAD
3684                     if (PL_madskills)
3685                         PL_faketokens = 1;
3686 #endif
3687                     sv_setpv(PL_linestr,
3688                              (const char *)
3689                              (PL_minus_p
3690                               ? ";}continue{print;}" : ";}"));
3691                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3692                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3693                     PL_last_lop = PL_last_uni = NULL;
3694                     PL_minus_n = PL_minus_p = 0;
3695                     goto retry;
3696                 }
3697                 PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3698                 PL_last_lop = PL_last_uni = NULL;
3699                 sv_setpvn(PL_linestr,"",0);
3700                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
3701             }
3702             /* If it looks like the start of a BOM or raw UTF-16,
3703              * check if it in fact is. */
3704             else if (bof &&
3705                      (*s == 0 ||
3706                       *(U8*)s == 0xEF ||
3707                       *(U8*)s >= 0xFE ||
3708                       s[1] == 0)) {
3709 #ifdef PERLIO_IS_STDIO
3710 #  ifdef __GNU_LIBRARY__
3711 #    if __GNU_LIBRARY__ == 1 /* Linux glibc5 */
3712 #      define FTELL_FOR_PIPE_IS_BROKEN
3713 #    endif
3714 #  else
3715 #    ifdef __GLIBC__
3716 #      if __GLIBC__ == 1 /* maybe some glibc5 release had it like this? */
3717 #        define FTELL_FOR_PIPE_IS_BROKEN
3718 #      endif
3719 #    endif
3720 #  endif
3721 #endif
3722 #ifdef FTELL_FOR_PIPE_IS_BROKEN
3723                 /* This loses the possibility to detect the bof
3724                  * situation on perl -P when the libc5 is being used.
3725                  * Workaround?  Maybe attach some extra state to PL_rsfp?
3726                  */
3727                 if (!PL_preprocess)
3728                     bof = PerlIO_tell(PL_rsfp) == SvCUR(PL_linestr);
3729 #else
3730                 bof = PerlIO_tell(PL_rsfp) == (Off_t)SvCUR(PL_linestr);
3731 #endif
3732                 if (bof) {
3733                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3734                     s = swallow_bom((U8*)s);
3735                 }
3736             }
3737             if (PL_doextract) {
3738                 /* Incest with pod. */
3739 #ifdef PERL_MAD
3740                 if (PL_madskills)
3741                     sv_catsv(PL_thiswhite, PL_linestr);
3742 #endif
3743                 if (*s == '=' && strnEQ(s, "=cut", 4) && !isALPHA(s[4])) {
3744                     sv_setpvn(PL_linestr, "", 0);
3745                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3746                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3747                     PL_last_lop = PL_last_uni = NULL;
3748                     PL_doextract = FALSE;
3749                 }
3750             }
3751             incline(s);
3752         } while (PL_doextract);
3753         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = s;
3754         if (PERLDB_LINE && PL_curstash != PL_debstash)
3755             update_debugger_info(PL_linestr, NULL, 0);
3756         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3757         PL_last_lop = PL_last_uni = NULL;
3758         if (CopLINE(PL_curcop) == 1) {
3759             while (s < PL_bufend && isSPACE(*s))
3760                 s++;
3761             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
3762                 s++;
3763 #ifdef PERL_MAD
3764             if (PL_madskills)
3765                 PL_thiswhite = newSVpvn(PL_linestart, s - PL_linestart);
3766 #endif
3767             d = NULL;
3768             if (!PL_in_eval) {
3769                 if (*s == '#' && *(s+1) == '!')
3770                     d = s + 2;
3771 #ifdef ALTERNATE_SHEBANG
3772                 else {
3773                     static char const as[] = ALTERNATE_SHEBANG;
3774                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
3775                         d = s + (sizeof(as) - 1);
3776                 }
3777 #endif /* ALTERNATE_SHEBANG */
3778             }
3779             if (d) {
3780                 char *ipath;
3781                 char *ipathend;
3782
3783                 while (isSPACE(*d))
3784                     d++;
3785                 ipath = d;
3786                 while (*d && !isSPACE(*d))
3787                     d++;
3788                 ipathend = d;
3789
3790 #ifdef ARG_ZERO_IS_SCRIPT
3791                 if (ipathend > ipath) {
3792                     /*
3793                      * HP-UX (at least) sets argv[0] to the script name,
3794                      * which makes $^X incorrect.  And Digital UNIX and Linux,
3795                      * at least, set argv[0] to the basename of the Perl
3796                      * interpreter. So, having found "#!", we'll set it right.
3797                      */
3798                     SV * const x = GvSV(gv_fetchpvs("\030", GV_ADD|GV_NOTQUAL,
3799                                                     SVt_PV)); /* $^X */
3800                     assert(SvPOK(x) || SvGMAGICAL(x));
3801                     if (sv_eq(x, CopFILESV(PL_curcop))) {
3802                         sv_setpvn(x, ipath, ipathend - ipath);
3803                         SvSETMAGIC(x);
3804                     }
3805                     else {
3806                         STRLEN blen;
3807                         STRLEN llen;
3808                         const char *bstart = SvPV_const(CopFILESV(PL_curcop),blen);
3809                         const char * const lstart = SvPV_const(x,llen);
3810                         if (llen < blen) {
3811                             bstart += blen - llen;
3812                             if (strnEQ(bstart, lstart, llen) && bstart[-1] == '/') {
3813                                 sv_setpvn(x, ipath, ipathend - ipath);
3814                                 SvSETMAGIC(x);
3815                             }
3816                         }
3817                     }
3818                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
3819                 }
3820 #endif /* ARG_ZERO_IS_SCRIPT */
3821
3822                 /*
3823                  * Look for options.
3824                  */
3825                 d = instr(s,"perl -");
3826                 if (!d) {
3827                     d = instr(s,"perl");
3828 #if defined(DOSISH)
3829                     /* avoid getting into infinite loops when shebang
3830                      * line contains "Perl" rather than "perl" */
3831                     if (!d) {
3832                         for (d = ipathend-4; d >= ipath; --d) {
3833                             if ((*d == 'p' || *d == 'P')
3834                                 && !ibcmp(d, "perl", 4))
3835                             {
3836                                 break;
3837                             }
3838                         }
3839                         if (d < ipath)
3840                             d = NULL;
3841                     }
3842 #endif
3843                 }
3844 #ifdef ALTERNATE_SHEBANG
3845                 /*
3846                  * If the ALTERNATE_SHEBANG on this system starts with a
3847                  * character that can be part of a Perl expression, then if
3848                  * we see it but not "perl", we're probably looking at the
3849                  * start of Perl code, not a request to hand off to some
3850                  * other interpreter.  Similarly, if "perl" is there, but
3851                  * not in the first 'word' of the line, we assume the line
3852                  * contains the start of the Perl program.
3853                  */
3854                 if (d && *s != '#') {
3855                     const char *c = ipath;
3856                     while (*c && !strchr("; \t\r\n\f\v#", *c))
3857                         c++;
3858                     if (c < d)
3859                         d = NULL;       /* "perl" not in first word; ignore */
3860                     else
3861                         *s = '#';       /* Don't try to parse shebang line */
3862                 }
3863 #endif /* ALTERNATE_SHEBANG */
3864 #ifndef MACOS_TRADITIONAL
3865                 if (!d &&
3866                     *s == '#' &&
3867                     ipathend > ipath &&
3868                     !PL_minus_c &&
3869                     !instr(s,"indir") &&
3870                     instr(PL_origargv[0],"perl"))
3871                 {
3872                     dVAR;
3873                     char **newargv;
3874
3875                     *ipathend = '\0';
3876                     s = ipathend + 1;
3877                     while (s < PL_bufend && isSPACE(*s))
3878                         s++;
3879                     if (s < PL_bufend) {
3880                         Newxz(newargv,PL_origargc+3,char*);
3881                         newargv[1] = s;
3882                         while (s < PL_bufend && !isSPACE(*s))
3883                             s++;
3884                         *s = '\0';
3885                         Copy(PL_origargv+1, newargv+2, PL_origargc+1, char*);
3886                     }
3887                     else
3888                         newargv = PL_origargv;
3889                     newargv[0] = ipath;
3890                     PERL_FPU_PRE_EXEC
3891                     PerlProc_execv(ipath, EXEC_ARGV_CAST(newargv));
3892                     PERL_FPU_POST_EXEC
3893                     Perl_croak(aTHX_ "Can't exec %s", ipath);
3894                 }
3895 #endif
3896                 if (d) {
3897                     while (*d && !isSPACE(*d))
3898                         d++;
3899                     while (SPACE_OR_TAB(*d))
3900                         d++;
3901
3902                     if (*d++ == '-') {
3903                         const bool switches_done = PL_doswitches;
3904                         const U32 oldpdb = PL_perldb;
3905                         const bool oldn = PL_minus_n;
3906                         const bool oldp = PL_minus_p;
3907                         const char *d1 = d;
3908
3909                         do {
3910                             if (*d1 == 'M' || *d1 == 'm' || *d1 == 'C') {
3911                                 const char * const m = d1;
3912                                 while (*d1 && !isSPACE(*d1))
3913                                     d1++;
3914                                 Perl_croak(aTHX_ "Too late for \"-%.*s\" option",
3915                                       (int)(d1 - m), m);
3916                             }
3917                             d1 = moreswitches(d1);
3918                         } while (d1);
3919                         if (PL_doswitches && !switches_done) {
3920                             int argc = PL_origargc;
3921                             char **argv = PL_origargv;
3922                             do {
3923                                 argc--,argv++;
3924                             } while (argc && argv[0][0] == '-' && argv[0][1]);
3925                             init_argv_symbols(argc,argv);
3926                         }
3927                         if ((PERLDB_LINE && !oldpdb) ||
3928                             ((PL_minus_n || PL_minus_p) && !(oldn || oldp)))
3929                               /* if we have already added "LINE: while (<>) {",
3930                                  we must not do it again */
3931                         {
3932                             sv_setpvn(PL_linestr, "", 0);
3933                             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3934                             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3935                             PL_last_lop = PL_last_uni = NULL;
3936                             PL_preambled = FALSE;
3937                             if (PERLDB_LINE)
3938                                 (void)gv_fetchfile(PL_origfilename);
3939                             goto retry;
3940                         }
3941                     }
3942                 }
3943             }
3944         }
3945         if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
3946             PL_bufptr = s;
3947             PL_lex_state = LEX_FORMLINE;
3948             return yylex();
3949         }
3950         goto retry;
3951     case '\r':
3952 #ifdef PERL_STRICT_CR
3953         Perl_warn(aTHX_ "Illegal character \\%03o (carriage return)", '\r');
3954         Perl_croak(aTHX_
3955       "\t(Maybe you didn't strip carriage returns after a network transfer?)\n");
3956 #endif
3957     case ' ': case '\t': case '\f': case 013:
3958 #ifdef MACOS_TRADITIONAL
3959     case '\312':
3960 #endif
3961 #ifdef PERL_MAD
3962         PL_realtokenstart = -1;
3963         if (!PL_thiswhite)
3964             PL_thiswhite = newSVpvs("");
3965         sv_catpvn(PL_thiswhite, s, 1);
3966 #endif
3967         s++;
3968         goto retry;
3969     case '#':
3970     case '\n':
3971 #ifdef PERL_MAD
3972         PL_realtokenstart = -1;
3973         if (PL_madskills)
3974             PL_faketokens = 0;
3975 #endif
3976         if (PL_lex_state != LEX_NORMAL || (PL_in_eval && !PL_rsfp)) {
3977             if (*s == '#' && s == PL_linestart && PL_in_eval && !PL_rsfp) {
3978                 /* handle eval qq[#line 1 "foo"\n ...] */
3979                 CopLINE_dec(PL_curcop);
3980                 incline(s);
3981             }
3982             if (PL_madskills && !PL_lex_formbrack && !PL_in_eval) {
3983                 s = SKIPSPACE0(s);
3984                 if (!PL_in_eval || PL_rsfp)
3985                     incline(s);
3986             }
3987             else {
3988                 d = s;
3989                 while (d < PL_bufend && *d != '\n')
3990                     d++;
3991                 if (d < PL_bufend)
3992                     d++;
3993                 else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
3994                   Perl_croak(aTHX_ "panic: input overflow");
3995 #ifdef PERL_MAD
3996                 if (PL_madskills)
3997                     PL_thiswhite = newSVpvn(s, d - s);
3998 #endif
3999                 s = d;
4000                 incline(s);
4001             }
4002             if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
4003                 PL_bufptr = s;
4004                 PL_lex_state = LEX_FORMLINE;
4005                 return yylex();
4006             }
4007         }
4008         else {
4009 #ifdef PERL_MAD
4010             if (PL_madskills && CopLINE(PL_curcop) >= 1 && !PL_lex_formbrack) {
4011                 if (CopLINE(PL_curcop) == 1 && s[0] == '#' && s[1] == '!') {
4012                     PL_faketokens = 0;
4013                     s = SKIPSPACE0(s);
4014                     TOKEN(PEG); /* make sure any #! line is accessible */
4015                 }
4016                 s = SKIPSPACE0(s);
4017             }
4018             else {
4019 /*              if (PL_madskills && PL_lex_formbrack) { */
4020                     d = s;
4021                     while (d < PL_bufend && *d != '\n')
4022                         d++;
4023                     if (d < PL_bufend)
4024                         d++;
4025                     else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
4026                       Perl_croak(aTHX_ "panic: input overflow");
4027                     if (PL_madskills && CopLINE(PL_curcop) >= 1) {
4028                         if (!PL_thiswhite)
4029                             PL_thiswhite = newSVpvs("");
4030                         if (CopLINE(PL_curcop) == 1) {
4031                             sv_setpvn(PL_thiswhite, "", 0);
4032                             PL_faketokens = 0;
4033                         }
4034                         sv_catpvn(PL_thiswhite, s, d - s);
4035                     }
4036                     s = d;
4037 /*              }
4038                 *s = '\0';
4039                 PL_bufend = s; */
4040             }
4041 #else
4042             *s = '\0';
4043             PL_bufend = s;
4044 #endif
4045         }
4046         goto retry;
4047     case '-':
4048         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
4049             I32 ftst = 0;
4050             char tmp;
4051
4052             s++;
4053             PL_bufptr = s;
4054             tmp = *s++;
4055
4056             while (s < PL_bufend && SPACE_OR_TAB(*s))
4057                 s++;
4058
4059             if (strnEQ(s,"=>",2)) {
4060                 s = force_word(PL_bufptr,WORD,FALSE,FALSE,FALSE);
4061                 DEBUG_T( { printbuf("### Saw unary minus before =>, forcing word %s\n", s); } );
4062                 OPERATOR('-');          /* unary minus */
4063             }
4064             PL_last_uni = PL_oldbufptr;
4065             switch (tmp) {
4066             case 'r': ftst = OP_FTEREAD;        break;
4067             case 'w': ftst = OP_FTEWRITE;       break;
4068             case 'x': ftst = OP_FTEEXEC;        break;
4069             case 'o': ftst = OP_FTEOWNED;       break;
4070             case 'R': ftst = OP_FTRREAD;        break;
4071             case 'W': ftst = OP_FTRWRITE;       break;
4072             case 'X': ftst = OP_FTREXEC;        break;
4073             case 'O': ftst = OP_FTROWNED;       break;
4074             case 'e': ftst = OP_FTIS;           break;
4075             case 'z': ftst = OP_FTZERO;         break;
4076             case 's': ftst = OP_FTSIZE;         break;
4077             case 'f': ftst = OP_FTFILE;         break;
4078             case 'd': ftst = OP_FTDIR;          break;
4079             case 'l': ftst = OP_FTLINK;         break;
4080             case 'p': ftst = OP_FTPIPE;         break;
4081             case 'S': ftst = OP_FTSOCK;         break;
4082             case 'u': ftst = OP_FTSUID;         break;
4083             case 'g': ftst = OP_FTSGID;         break;
4084             case 'k': ftst = OP_FTSVTX;         break;
4085             case 'b': ftst = OP_FTBLK;          break;
4086             case 'c': ftst = OP_FTCHR;          break;
4087             case 't': ftst = OP_FTTTY;          break;
4088             case 'T': ftst = OP_FTTEXT;         break;
4089             case 'B': ftst = OP_FTBINARY;       break;
4090             case 'M': case 'A': case 'C':
4091                 gv_fetchpvs("\024", GV_ADD|GV_NOTQUAL, SVt_PV);
4092                 switch (tmp) {
4093                 case 'M': ftst = OP_FTMTIME;    break;
4094                 case 'A': ftst = OP_FTATIME;    break;
4095                 case 'C': ftst = OP_FTCTIME;    break;
4096                 default:                        break;
4097                 }
4098                 break;
4099             default:
4100                 break;
4101             }
4102             if (ftst) {
4103                 PL_last_lop_op = (OPCODE)ftst;
4104                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
4105                         "### Saw file test %c\n", (int)tmp);
4106                 } );
4107                 FTST(ftst);
4108             }
4109             else {
4110                 /* Assume it was a minus followed by a one-letter named
4111                  * subroutine call (or a -bareword), then. */
4112                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
4113                         "### '-%c' looked like a file test but was not\n",
4114                         (int) tmp);
4115                 } );
4116                 s = --PL_bufptr;
4117             }
4118         }
4119         {
4120             const char tmp = *s++;
4121             if (*s == tmp) {
4122                 s++;
4123                 if (PL_expect == XOPERATOR)
4124                     TERM(POSTDEC);
4125                 else
4126                     OPERATOR(PREDEC);
4127             }
4128             else if (*s == '>') {
4129                 s++;
4130                 s = SKIPSPACE1(s);
4131                 if (isIDFIRST_lazy_if(s,UTF)) {
4132                     s = force_word(s,METHOD,FALSE,TRUE,FALSE);
4133                     TOKEN(ARROW);
4134                 }
4135                 else if (*s == '$')
4136                     OPERATOR(ARROW);
4137                 else
4138                     TERM(ARROW);
4139             }
4140             if (PL_expect == XOPERATOR)
4141                 Aop(OP_SUBTRACT);
4142             else {
4143                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
4144                     check_uni();
4145                 OPERATOR('-');          /* unary minus */
4146             }
4147         }
4148
4149     case '+':
4150         {
4151             const char tmp = *s++;
4152             if (*s == tmp) {
4153                 s++;
4154                 if (PL_expect == XOPERATOR)
4155                     TERM(POSTINC);
4156                 else
4157                     OPERATOR(PREINC);
4158             }
4159             if (PL_expect == XOPERATOR)
4160                 Aop(OP_ADD);
4161             else {
4162                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
4163                     check_uni();
4164                 OPERATOR('+');
4165             }
4166         }
4167
4168     case '*':
4169         if (PL_expect != XOPERATOR) {
4170             s = scan_ident(s, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
4171             PL_expect = XOPERATOR;
4172             force_ident(PL_tokenbuf, '*');
4173             if (!*PL_tokenbuf)
4174                 PREREF('*');
4175             TERM('*');
4176         }
4177         s++;
4178         if (*s == '*') {
4179             s++;
4180             PWop(OP_POW);
4181         }
4182         Mop(OP_MULTIPLY);
4183
4184     case '%':
4185         if (PL_expect == XOPERATOR) {
4186             ++s;
4187             Mop(OP_MODULO);
4188         }
4189         PL_tokenbuf[0] = '%';
4190         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1,
4191                 sizeof PL_tokenbuf - 1, FALSE);
4192         if (!PL_tokenbuf[1]) {
4193             PREREF('%');
4194         }
4195         PL_pending_ident = '%';
4196         TERM('%');
4197
4198     case '^':
4199         s++;
4200         BOop(OP_BIT_XOR);
4201     case '[':
4202         PL_lex_brackets++;
4203         /* FALL THROUGH */
4204     case '~':
4205         if (s[1] == '~'
4206             && (PL_expect == XOPERATOR || PL_expect == XTERMORDORDOR))
4207         {
4208             s += 2;
4209             Eop(OP_SMARTMATCH);
4210         }
4211     case ',':
4212         {
4213             const char tmp = *s++;
4214             OPERATOR(tmp);
4215         }
4216     case ':':
4217         if (s[1] == ':') {
4218             len = 0;
4219             goto just_a_word_zero_gv;
4220         }
4221         s++;
4222         switch (PL_expect) {
4223             OP *attrs;
4224 #ifdef PERL_MAD
4225             I32 stuffstart;
4226 #endif
4227         case XOPERATOR:
4228             if (!PL_in_my || PL_lex_state != LEX_NORMAL)
4229                 break;
4230             PL_bufptr = s;      /* update in case we back off */
4231             goto grabattrs;
4232         case XATTRBLOCK:
4233             PL_expect = XBLOCK;
4234             goto grabattrs;
4235         case XATTRTERM:
4236             PL_expect = XTERMBLOCK;
4237          grabattrs:
4238 #ifdef PERL_MAD
4239             stuffstart = s - SvPVX(PL_linestr) - 1;
4240 #endif
4241             s = PEEKSPACE(s);
4242             attrs = NULL;
4243             while (isIDFIRST_lazy_if(s,UTF)) {
4244                 I32 tmp;
4245                 SV *sv;
4246                 d = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
4247                 if (isLOWER(*s) && (tmp = keyword(PL_tokenbuf, len, 0))) {
4248                     if (tmp < 0) tmp = -tmp;
4249                     switch (tmp) {
4250                     case KEY_or:
4251                     case KEY_and:
4252                     case KEY_for:
4253                     case KEY_unless:
4254                     case KEY_if:
4255                     case KEY_while:
4256                     case KEY_until:
4257                         goto got_attrs;
4258                     default:
4259                         break;
4260                     }
4261                 }
4262                 sv = newSVpvn(s, len);
4263                 if (*d == '(') {
4264                     d = scan_str(d,TRUE,TRUE);
4265                     if (!d) {
4266                         /* MUST advance bufptr here to avoid bogus
4267                            "at end of line" context messages from yyerror().
4268                          */
4269                         PL_bufptr = s + len;
4270                         yyerror("Unterminated attribute parameter in attribute list");
4271                         if (attrs)
4272                             op_free(attrs);
4273                         sv_free(sv);
4274                         return REPORT(0);       /* EOF indicator */
4275                     }
4276                 }
4277                 if (PL_lex_stuff) {
4278                     sv_catsv(sv, PL_lex_stuff);
4279                     attrs = append_elem(OP_LIST, attrs,
4280                                         newSVOP(OP_CONST, 0, sv));
4281                     SvREFCNT_dec(PL_lex_stuff);
4282                     PL_lex_stuff = NULL;
4283                 }
4284                 else {
4285                     if (len == 6 && strnEQ(SvPVX(sv), "unique", len)) {
4286                         sv_free(sv);
4287                         if (PL_in_my == KEY_our) {
4288 #ifdef USE_ITHREADS
4289                             GvUNIQUE_on(cGVOPx_gv(yylval.opval));
4290 #else
4291                             /* skip to avoid loading attributes.pm */
4292 #endif
4293                             deprecate(":unique");
4294                         }
4295                         else
4296                             Perl_croak(aTHX_ "The 'unique' attribute may only be applied to 'our' variables");
4297                     }
4298
4299                     /* NOTE: any CV attrs applied here need to be part of
4300                        the CVf_BUILTIN_ATTRS define in cv.h! */
4301                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "lvalue", len)) {
4302                         sv_free(sv);
4303                         CvLVALUE_on(PL_compcv);
4304                     }
4305                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "locked", len)) {
4306                         sv_free(sv);
4307                         CvLOCKED_on(PL_compcv);
4308                     }
4309                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "method", len)) {
4310                         sv_free(sv);
4311                         CvMETHOD_on(PL_compcv);
4312                     }
4313                     /* After we've set the flags, it could be argued that
4314                        we don't need to do the attributes.pm-based setting
4315                        process, and shouldn't bother appending recognized
4316                        flags.  To experiment with that, uncomment the
4317                        following "else".  (Note that's already been
4318                        uncommented.  That keeps the above-applied built-in
4319                        attributes from being intercepted (and possibly
4320                        rejected) by a package's attribute routines, but is
4321                        justified by the performance win for the common case
4322                        of applying only built-in attributes.) */
4323                     else
4324                         attrs = append_elem(OP_LIST, attrs,
4325                                             newSVOP(OP_CONST, 0,
4326                                                     sv));
4327                 }
4328                 s = PEEKSPACE(d);
4329                 if (*s == ':' && s[1] != ':')
4330                     s = PEEKSPACE(s+1);
4331                 else if (s == d)
4332                     break;      /* require real whitespace or :'s */
4333                 /* XXX losing whitespace on sequential attributes here */
4334             }
4335             {
4336                 const char tmp
4337                     = (PL_expect == XOPERATOR ? '=' : '{'); /*'}(' for vi */
4338                 if (*s != ';' && *s != '}' && *s != tmp
4339                     && (tmp != '=' || *s != ')')) {
4340                     const char q = ((*s == '\'') ? '"' : '\'');
4341                     /* If here for an expression, and parsed no attrs, back
4342                        off. */
4343                     if (tmp == '=' && !attrs) {
4344                         s = PL_bufptr;
4345                         break;
4346                     }
4347                     /* MUST advance bufptr here to avoid bogus "at end of line"
4348                        context messages from yyerror().
4349                     */
4350                     PL_bufptr = s;
4351                     yyerror( (const char *)
4352                              (*s
4353                               ? Perl_form(aTHX_ "Invalid separator character "
4354                                           "%c%c%c in attribute list", q, *s, q)
4355                               : "Unterminated attribute list" ) );
4356                     if (attrs)
4357                         op_free(attrs);
4358                     OPERATOR(':');
4359                 }
4360             }
4361         got_attrs:
4362             if (attrs) {
4363                 start_force(PL_curforce);
4364                 NEXTVAL_NEXTTOKE.opval = attrs;
4365                 CURMAD('_', PL_nextwhite);
4366                 force_next(THING);
4367             }
4368 #ifdef PERL_MAD
4369             if (PL_madskills) {
4370                 PL_thistoken = newSVpvn(SvPVX(PL_linestr) + stuffstart,
4371                                      (s - SvPVX(PL_linestr)) - stuffstart);
4372             }
4373 #endif
4374             TOKEN(COLONATTR);
4375         }
4376         OPERATOR(':');
4377     case '(':
4378         s++;
4379         if (PL_last_lop == PL_oldoldbufptr || PL_last_uni == PL_oldoldbufptr)
4380             PL_oldbufptr = PL_oldoldbufptr;             /* allow print(STDOUT 123) */
4381         else
4382             PL_expect = XTERM;
4383         s = SKIPSPACE1(s);
4384         TOKEN('(');
4385     case ';':
4386         CLINE;
4387         {
4388             const char tmp = *s++;
4389             OPERATOR(tmp);
4390         }
4391     case ')':
4392         {
4393             const char tmp = *s++;
4394             s = SKIPSPACE1(s);
4395             if (*s == '{')
4396                 PREBLOCK(tmp);
4397             TERM(tmp);
4398         }
4399     case ']':
4400         s++;
4401         if (PL_lex_brackets <= 0)
4402             yyerror("Unmatched right square bracket");
4403         else
4404             --PL_lex_brackets;
4405         if (PL_lex_state == LEX_INTERPNORMAL) {
4406             if (PL_lex_brackets == 0) {
4407                 if (*s == '-' && s[1] == '>')
4408                     PL_lex_state = LEX_INTERPENDMAYBE;
4409                 else if (*s != '[' && *s != '{')
4410                     PL_lex_state = LEX_INTERPEND;
4411             }
4412         }
4413         TERM(']');
4414     case '{':
4415       leftbracket:
4416         s++;
4417         if (PL_lex_brackets > 100) {
4418             Renew(PL_lex_brackstack, PL_lex_brackets + 10, char);
4419         }
4420         switch (PL_expect) {
4421         case XTERM:
4422             if (PL_lex_formbrack) {
4423                 s--;
4424                 PRETERMBLOCK(DO);
4425             }
4426             if (PL_oldoldbufptr == PL_last_lop)
4427                 PL_lex_brackstack[PL_lex_brackets++] = XTERM;
4428             else
4429                 PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4430             OPERATOR(HASHBRACK);
4431         case XOPERATOR:
4432             while (s < PL_bufend && SPACE_OR_TAB(*s))
4433                 s++;
4434             d = s;
4435             PL_tokenbuf[0] = '\0';
4436             if (d < PL_bufend && *d == '-') {
4437                 PL_tokenbuf[0] = '-';
4438                 d++;
4439                 while (d < PL_bufend && SPACE_OR_TAB(*d))
4440                     d++;
4441             }
4442             if (d < PL_bufend && isIDFIRST_lazy_if(d,UTF)) {
4443                 d = scan_word(d, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1,
4444                               FALSE, &len);
4445                 while (d < PL_bufend && SPACE_OR_TAB(*d))
4446                     d++;
4447                 if (*d == '}') {
4448                     const char minus = (PL_tokenbuf[0] == '-');
4449                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
4450                     if (minus)
4451                         force_next('-');
4452                 }
4453             }
4454             /* FALL THROUGH */
4455         case XATTRBLOCK:
4456         case XBLOCK:
4457             PL_lex_brackstack[PL_lex_brackets++] = XSTATE;
4458             PL_expect = XSTATE;
4459             break;
4460         case XATTRTERM:
4461         case XTERMBLOCK:
4462             PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4463             PL_expect = XSTATE;
4464             break;
4465         default: {
4466                 const char *t;
4467                 if (PL_oldoldbufptr == PL_last_lop)
4468                     PL_lex_brackstack[PL_lex_brackets++] = XTERM;
4469                 else
4470                     PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4471                 s = SKIPSPACE1(s);
4472                 if (*s == '}') {
4473                     if (PL_expect == XREF && PL_lex_state == LEX_INTERPNORMAL) {
4474                         PL_expect = XTERM;
4475                         /* This hack is to get the ${} in the message. */
4476                         PL_bufptr = s+1;
4477                         yyerror("syntax error");
4478                         break;
4479                     }
4480                     OPERATOR(HASHBRACK);
4481                 }
4482                 /* This hack serves to disambiguate a pair of curlies
4483                  * as being a block or an anon hash.  Normally, expectation
4484                  * determines that, but in cases where we're not in a
4485                  * position to expect anything in particular (like inside
4486                  * eval"") we have to resolve the ambiguity.  This code
4487                  * covers the case where the first term in the curlies is a
4488                  * quoted string.  Most other cases need to be explicitly
4489                  * disambiguated by prepending a "+" before the opening
4490                  * curly in order to force resolution as an anon hash.
4491                  *
4492                  * XXX should probably propagate the outer expectation
4493                  * into eval"" to rely less on this hack, but that could
4494                  * potentially break current behavior of eval"".
4495                  * GSAR 97-07-21
4496                  */
4497                 t = s;
4498                 if (*s == '\'' || *s == '"' || *s == '`') {
4499                     /* common case: get past first string, handling escapes */
4500                     for (t++; t < PL_bufend && *t != *s;)
4501                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
4502                             t++;
4503                     t++;
4504                 }
4505                 else if (*s == 'q') {
4506                     if (++t < PL_bufend
4507                         && (!isALNUM(*t)
4508                             || ((*t == 'q' || *t == 'x') && ++t < PL_bufend
4509                                 && !isALNUM(*t))))
4510                     {
4511                         /* skip q//-like construct */
4512                         const char *tmps;
4513                         char open, close, term;
4514                         I32 brackets = 1;
4515
4516                         while (t < PL_bufend && isSPACE(*t))
4517                             t++;
4518                         /* check for q => */
4519                         if (t+1 < PL_bufend && t[0] == '=' && t[1] == '>') {
4520                             OPERATOR(HASHBRACK);
4521                         }
4522                         term = *t;
4523                         open = term;
4524                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4525                             term = tmps[5];
4526                         close = term;
4527                         if (open == close)
4528                             for (t++; t < PL_bufend; t++) {
4529                                 if (*t == '\\' && t+1 < PL_bufend && open != '\\')
4530                                     t++;
4531                                 else if (*t == open)
4532                                     break;
4533                             }
4534                         else {
4535                             for (t++; t < PL_bufend; t++) {
4536                                 if (*t == '\\' && t+1 < PL_bufend)
4537                                     t++;
4538                                 else if (*t == close && --brackets <= 0)
4539                                     break;
4540                                 else if (*t == open)
4541                                     brackets++;
4542                             }
4543                         }
4544                         t++;
4545                     }
4546                     else
4547                         /* skip plain q word */
4548                         while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
4549                              t += UTF8SKIP(t);
4550                 }
4551                 else if (isALNUM_lazy_if(t,UTF)) {
4552                     t += UTF8SKIP(t);
4553                     while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
4554                          t += UTF8SKIP(t);
4555                 }
4556                 while (t < PL_bufend && isSPACE(*t))
4557                     t++;
4558                 /* if comma follows first term, call it an anon hash */
4559                 /* XXX it could be a comma expression with loop modifiers */
4560                 if (t < PL_bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
4561                                    || (*t == '=' && t[1] == '>')))
4562                     OPERATOR(HASHBRACK);
4563                 if (PL_expect == XREF)
4564                     PL_expect = XTERM;
4565                 else {
4566                     PL_lex_brackstack[PL_lex_brackets-1] = XSTATE;
4567                     PL_expect = XSTATE;
4568                 }
4569             }
4570             break;
4571         }
4572         yylval.ival = CopLINE(PL_curcop);
4573         if (isSPACE(*s) || *s == '#')
4574             PL_copline = NOLINE;   /* invalidate current command line number */
4575         TOKEN('{');
4576     case '}':
4577       rightbracket:
4578         s++;
4579         if (PL_lex_brackets <= 0)
4580             yyerror("Unmatched right curly bracket");
4581         else
4582             PL_expect = (expectation)PL_lex_brackstack[--PL_lex_brackets];
4583         if (PL_lex_brackets < PL_lex_formbrack && PL_lex_state != LEX_INTERPNORMAL)
4584             PL_lex_formbrack = 0;
4585         if (PL_lex_state == LEX_INTERPNORMAL) {
4586             if (PL_lex_brackets == 0) {
4587                 if (PL_expect & XFAKEBRACK) {
4588                     PL_expect &= XENUMMASK;
4589                     PL_lex_state = LEX_INTERPEND;
4590                     PL_bufptr = s;
4591 #if 0
4592                     if (PL_madskills) {
4593                         if (!PL_thiswhite)
4594                             PL_thiswhite = newSVpvs("");
4595                         sv_catpvn(PL_thiswhite,"}",1);
4596                     }
4597 #endif
4598                     return yylex();     /* ignore fake brackets */
4599                 }
4600                 if (*s == '-' && s[1] == '>')
4601                     PL_lex_state = LEX_INTERPENDMAYBE;
4602                 else if (*s != '[' && *s != '{')
4603                     PL_lex_state = LEX_INTERPEND;
4604             }
4605         }
4606         if (PL_expect & XFAKEBRACK) {
4607             PL_expect &= XENUMMASK;
4608             PL_bufptr = s;
4609             return yylex();             /* ignore fake brackets */
4610         }
4611         start_force(PL_curforce);
4612         if (PL_madskills) {
4613             curmad('X', newSVpvn(s-1,1));
4614             CURMAD('_', PL_thiswhite);
4615         }
4616         force_next('}');
4617 #ifdef PERL_MAD
4618         if (!PL_thistoken)
4619             PL_thistoken = newSVpvs("");
4620 #endif
4621         TOKEN(';');
4622     case '&':
4623         s++;
4624         if (*s++ == '&')
4625             AOPERATOR(ANDAND);
4626         s--;
4627         if (PL_expect == XOPERATOR) {
4628             if (PL_bufptr == PL_linestart && ckWARN(WARN_SEMICOLON)
4629                 && isIDFIRST_lazy_if(s,UTF))
4630             {
4631                 CopLINE_dec(PL_curcop);
4632                 Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
4633                 CopLINE_inc(PL_curcop);
4634             }
4635             BAop(OP_BIT_AND);
4636         }
4637
4638         s = scan_ident(s - 1, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
4639         if (*PL_tokenbuf) {
4640             PL_expect = XOPERATOR;
4641             force_ident(PL_tokenbuf, '&');
4642         }
4643         else
4644             PREREF('&');
4645         yylval.ival = (OPpENTERSUB_AMPER<<8);
4646         TERM('&');
4647
4648     case '|':
4649         s++;
4650         if (*s++ == '|')
4651             AOPERATOR(OROR);
4652         s--;
4653         BOop(OP_BIT_OR);
4654     case '=':
4655         s++;
4656         {
4657             const char tmp = *s++;
4658             if (tmp == '=')
4659                 Eop(OP_EQ);
4660             if (tmp == '>')
4661                 OPERATOR(',');
4662             if (tmp == '~')
4663                 PMop(OP_MATCH);
4664             if (tmp && isSPACE(*s) && ckWARN(WARN_SYNTAX)
4665                 && strchr("+-*/%.^&|<",tmp))
4666                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4667                             "Reversed %c= operator",(int)tmp);
4668             s--;
4669             if (PL_expect == XSTATE && isALPHA(tmp) &&
4670                 (s == PL_linestart+1 || s[-2] == '\n') )
4671                 {
4672                     if (PL_in_eval && !PL_rsfp) {
4673                         d = PL_bufend;
4674                         while (s < d) {
4675                             if (*s++ == '\n') {
4676                                 incline(s);
4677                                 if (strnEQ(s,"=cut",4)) {
4678                                     s = strchr(s,'\n');
4679                                     if (s)
4680                                         s++;
4681                                     else
4682                                         s = d;
4683                                     incline(s);
4684                                     goto retry;
4685                                 }
4686                             }
4687                         }
4688                         goto retry;
4689                     }
4690 #ifdef PERL_MAD
4691                     if (PL_madskills) {
4692                         if (!PL_thiswhite)
4693                             PL_thiswhite = newSVpvs("");
4694                         sv_catpvn(PL_thiswhite, PL_linestart,
4695                                   PL_bufend - PL_linestart);
4696                     }
4697 #endif
4698                     s = PL_bufend;
4699                     PL_doextract = TRUE;
4700                     goto retry;
4701                 }
4702         }
4703         if (PL_lex_brackets < PL_lex_formbrack) {
4704             const char *t = s;
4705 #ifdef PERL_STRICT_CR
4706             while (SPACE_OR_TAB(*t))
4707 #else
4708             while (SPACE_OR_TAB(*t) || *t == '\r')
4709 #endif
4710                 t++;
4711             if (*t == '\n' || *t == '#') {
4712                 s--;
4713                 PL_expect = XBLOCK;
4714                 goto leftbracket;
4715             }
4716         }
4717         yylval.ival = 0;
4718         OPERATOR(ASSIGNOP);
4719     case '!':
4720         s++;
4721         {
4722             const char tmp = *s++;
4723             if (tmp == '=') {
4724                 /* was this !=~ where !~ was meant?
4725                  * warn on m:!=~\s+([/?]|[msy]\W|tr\W): */
4726
4727                 if (*s == '~' && ckWARN(WARN_SYNTAX)) {
4728                     const char *t = s+1;
4729
4730                     while (t < PL_bufend && isSPACE(*t))
4731                         ++t;
4732
4733                     if (*t == '/' || *t == '?' ||
4734                         ((*t == 'm' || *t == 's' || *t == 'y')
4735                          && !isALNUM(t[1])) ||
4736                         (*t == 't' && t[1] == 'r' && !isALNUM(t[2])))
4737                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4738                                     "!=~ should be !~");
4739                 }
4740                 Eop(OP_NE);
4741             }
4742             if (tmp == '~')
4743                 PMop(OP_NOT);
4744         }
4745         s--;
4746         OPERATOR('!');
4747     case '<':
4748         if (PL_expect != XOPERATOR) {
4749             if (s[1] != '<' && !strchr(s,'>'))
4750                 check_uni();
4751             if (s[1] == '<')
4752                 s = scan_heredoc(s);
4753             else
4754                 s = scan_inputsymbol(s);
4755             TERM(sublex_start());
4756         }
4757         s++;
4758         {
4759             char tmp = *s++;
4760             if (tmp == '<')
4761                 SHop(OP_LEFT_SHIFT);
4762             if (tmp == '=') {
4763                 tmp = *s++;
4764                 if (tmp == '>')
4765                     Eop(OP_NCMP);
4766                 s--;
4767                 Rop(OP_LE);
4768             }
4769         }
4770         s--;
4771         Rop(OP_LT);
4772     case '>':
4773         s++;
4774         {
4775             const char tmp = *s++;
4776             if (tmp == '>')
4777                 SHop(OP_RIGHT_SHIFT);
4778             else if (tmp == '=')
4779                 Rop(OP_GE);
4780         }
4781         s--;
4782         Rop(OP_GT);
4783
4784     case '$':
4785         CLINE;
4786
4787         if (PL_expect == XOPERATOR) {
4788             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
4789                 PL_expect = XTERM;
4790                 deprecate_old(commaless_variable_list);
4791                 return REPORT(','); /* grandfather non-comma-format format */
4792             }
4793         }
4794
4795         if (s[1] == '#' && (isIDFIRST_lazy_if(s+2,UTF) || strchr("{$:+-", s[2]))) {
4796             PL_tokenbuf[0] = '@';
4797             s = scan_ident(s + 1, PL_bufend, PL_tokenbuf + 1,
4798                            sizeof PL_tokenbuf - 1, FALSE);
4799             if (PL_expect == XOPERATOR)
4800                 no_op("Array length", s);
4801             if (!PL_tokenbuf[1])
4802                 PREREF(DOLSHARP);
4803             PL_expect = XOPERATOR;
4804             PL_pending_ident = '#';
4805             TOKEN(DOLSHARP);
4806         }
4807
4808         PL_tokenbuf[0] = '$';
4809         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1,
4810                        sizeof PL_tokenbuf - 1, FALSE);
4811         if (PL_expect == XOPERATOR)
4812             no_op("Scalar", s);
4813         if (!PL_tokenbuf[1]) {
4814             if (s == PL_bufend)
4815                 yyerror("Final $ should be \\$ or $name");
4816             PREREF('$');
4817         }
4818
4819         /* This kludge not intended to be bulletproof. */
4820         if (PL_tokenbuf[1] == '[' && !PL_tokenbuf[2]) {
4821             yylval.opval = newSVOP(OP_CONST, 0,
4822                                    newSViv(CopARYBASE_get(&PL_compiling)));
4823             yylval.opval->op_private = OPpCONST_ARYBASE;
4824             TERM(THING);
4825         }
4826
4827         d = s;
4828         {
4829             const char tmp = *s;
4830             if (PL_lex_state == LEX_NORMAL)
4831                 s = SKIPSPACE1(s);
4832
4833             if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop)
4834                 && intuit_more(s)) {
4835                 if (*s == '[') {
4836                     PL_tokenbuf[0] = '@';
4837                     if (ckWARN(WARN_SYNTAX)) {
4838                         char *t = s+1;
4839
4840                         while (isSPACE(*t) || isALNUM_lazy_if(t,UTF) || *t == '$')
4841                             t++;
4842                         if (*t++ == ',') {
4843                             PL_bufptr = PEEKSPACE(PL_bufptr); /* XXX can realloc */
4844                             while (t < PL_bufend && *t != ']')
4845                                 t++;
4846                             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4847                                         "Multidimensional syntax %.*s not supported",
4848                                     (int)((t - PL_bufptr) + 1), PL_bufptr);
4849                         }
4850                     }
4851                 }
4852                 else if (*s == '{') {
4853                     char *t;
4854                     PL_tokenbuf[0] = '%';
4855                     if (strEQ(PL_tokenbuf+1, "SIG")  && ckWARN(WARN_SYNTAX)
4856                         && (t = strchr(s, '}')) && (t = strchr(t, '=')))
4857                         {
4858                             char tmpbuf[sizeof PL_tokenbuf];
4859                             do {
4860                                 t++;
4861                             } while (isSPACE(*t));
4862                             if (isIDFIRST_lazy_if(t,UTF)) {
4863                                 STRLEN len;
4864                                 t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE,
4865                                               &len);
4866                                 while (isSPACE(*t))
4867                                     t++;
4868                                 if (*t == ';' && get_cvn_flags(tmpbuf, len, 0))
4869                                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4870                                                 "You need to quote \"%s\"",
4871                                                 tmpbuf);
4872                             }
4873                         }
4874                 }
4875             }
4876
4877             PL_expect = XOPERATOR;
4878             if (PL_lex_state == LEX_NORMAL && isSPACE((char)tmp)) {
4879                 const bool islop = (PL_last_lop == PL_oldoldbufptr);
4880                 if (!islop || PL_last_lop_op == OP_GREPSTART)
4881                     PL_expect = XOPERATOR;
4882                 else if (strchr("$@\"'`q", *s))
4883                     PL_expect = XTERM;          /* e.g. print $fh "foo" */
4884                 else if (strchr("&*<%", *s) && isIDFIRST_lazy_if(s+1,UTF))
4885                     PL_expect = XTERM;          /* e.g. print $fh &sub */
4886                 else if (isIDFIRST_lazy_if(s,UTF)) {
4887                     char tmpbuf[sizeof PL_tokenbuf];
4888                     int t2;
4889                     scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
4890                     if ((t2 = keyword(tmpbuf, len, 0))) {
4891                         /* binary operators exclude handle interpretations */
4892                         switch (t2) {
4893                         case -KEY_x:
4894                         case -KEY_eq:
4895                         case -KEY_ne:
4896                         case -KEY_gt:
4897                         case -KEY_lt:
4898                         case -KEY_ge:
4899                         case -KEY_le:
4900                         case -KEY_cmp:
4901                             break;
4902                         default:
4903                             PL_expect = XTERM;  /* e.g. print $fh length() */
4904                             break;
4905                         }
4906                     }
4907                     else {
4908                         PL_expect = XTERM;      /* e.g. print $fh subr() */
4909                     }
4910                 }
4911                 else if (isDIGIT(*s))
4912                     PL_expect = XTERM;          /* e.g. print $fh 3 */
4913                 else if (*s == '.' && isDIGIT(s[1]))
4914                     PL_expect = XTERM;          /* e.g. print $fh .3 */
4915                 else if ((*s == '?' || *s == '-' || *s == '+')
4916                          && !isSPACE(s[1]) && s[1] != '=')
4917                     PL_expect = XTERM;          /* e.g. print $fh -1 */
4918                 else if (*s == '/' && !isSPACE(s[1]) && s[1] != '='
4919                          && s[1] != '/')
4920                     PL_expect = XTERM;          /* e.g. print $fh /.../
4921                                                    XXX except DORDOR operator
4922                                                 */
4923                 else if (*s == '<' && s[1] == '<' && !isSPACE(s[2])
4924                          && s[2] != '=')
4925                     PL_expect = XTERM;          /* print $fh <<"EOF" */
4926             }
4927         }
4928         PL_pending_ident = '$';
4929         TOKEN('$');
4930
4931     case '@':
4932         if (PL_expect == XOPERATOR)
4933             no_op("Array", s);
4934         PL_tokenbuf[0] = '@';
4935         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1, FALSE);
4936         if (!PL_tokenbuf[1]) {
4937             PREREF('@');
4938         }
4939         if (PL_lex_state == LEX_NORMAL)
4940             s = SKIPSPACE1(s);
4941         if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop) && intuit_more(s)) {
4942             if (*s == '{')
4943                 PL_tokenbuf[0] = '%';
4944
4945             /* Warn about @ where they meant $. */
4946             if (*s == '[' || *s == '{') {
4947                 if (ckWARN(WARN_SYNTAX)) {
4948                     const char *t = s + 1;
4949                     while (*t && (isALNUM_lazy_if(t,UTF) || strchr(" \t$#+-'\"", *t)))
4950                         t++;
4951                     if (*t == '}' || *t == ']') {
4952                         t++;
4953                         PL_bufptr = PEEKSPACE(PL_bufptr); /* XXX can realloc */
4954                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4955                             "Scalar value %.*s better written as $%.*s",
4956                             (int)(t-PL_bufptr), PL_bufptr,
4957                             (int)(t-PL_bufptr-1), PL_bufptr+1);
4958                     }
4959                 }
4960             }
4961         }
4962         PL_pending_ident = '@';
4963         TERM('@');
4964
4965      case '/':                  /* may be division, defined-or, or pattern */
4966         if (PL_expect == XTERMORDORDOR && s[1] == '/') {
4967             s += 2;
4968             AOPERATOR(DORDOR);
4969         }
4970      case '?':                  /* may either be conditional or pattern */
4971          if(PL_expect == XOPERATOR) {
4972              char tmp = *s++;
4973              if(tmp == '?') {
4974                   OPERATOR('?');
4975              }
4976              else {
4977                  tmp = *s++;
4978                  if(tmp == '/') {
4979                      /* A // operator. */
4980                     AOPERATOR(DORDOR);
4981                  }
4982                  else {
4983                      s--;
4984                      Mop(OP_DIVIDE);
4985                  }
4986              }
4987          }
4988          else {
4989              /* Disable warning on "study /blah/" */
4990              if (PL_oldoldbufptr == PL_last_uni
4991               && (*PL_last_uni != 's' || s - PL_last_uni < 5
4992                   || memNE(PL_last_uni, "study", 5)
4993                   || isALNUM_lazy_if(PL_last_uni+5,UTF)
4994               ))
4995                  check_uni();
4996              s = scan_pat(s,OP_MATCH);
4997              TERM(sublex_start());
4998          }
4999
5000     case '.':
5001         if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack
5002 #ifdef PERL_STRICT_CR
5003             && s[1] == '\n'
5004 #else
5005             && (s[1] == '\n' || (s[1] == '\r' && s[2] == '\n'))
5006 #endif
5007             && (s == PL_linestart || s[-1] == '\n') )
5008         {
5009             PL_lex_formbrack = 0;
5010             PL_expect = XSTATE;
5011             goto rightbracket;
5012         }
5013         if (PL_expect == XOPERATOR || !isDIGIT(s[1])) {
5014             char tmp = *s++;
5015             if (*s == tmp) {
5016                 s++;
5017                 if (*s == tmp) {
5018                     s++;
5019                     yylval.ival = OPf_SPECIAL;
5020                 }
5021                 else
5022                     yylval.ival = 0;
5023                 OPERATOR(DOTDOT);
5024             }
5025             if (PL_expect != XOPERATOR)
5026                 check_uni();
5027             Aop(OP_CONCAT);
5028         }
5029         /* FALL THROUGH */
5030     case '0': case '1': case '2': case '3': case '4':
5031     case '5': case '6': case '7': case '8': case '9':
5032         s = scan_num(s, &yylval);
5033         DEBUG_T( { printbuf("### Saw number in %s\n", s); } );
5034         if (PL_expect == XOPERATOR)
5035             no_op("Number",s);
5036         TERM(THING);
5037
5038     case '\'':
5039         s = scan_str(s,!!PL_madskills,FALSE);
5040         DEBUG_T( { printbuf("### Saw string before %s\n", s); } );
5041         if (PL_expect == XOPERATOR) {
5042             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
5043                 PL_expect = XTERM;
5044                 deprecate_old(commaless_variable_list);
5045                 return REPORT(','); /* grandfather non-comma-format format */
5046             }
5047             else
5048                 no_op("String",s);
5049         }
5050         if (!s)
5051             missingterm(NULL);
5052         yylval.ival = OP_CONST;
5053         TERM(sublex_start());
5054
5055     case '"':
5056         s = scan_str(s,!!PL_madskills,FALSE);
5057         DEBUG_T( { printbuf("### Saw string before %s\n", s); } );
5058         if (PL_expect == XOPERATOR) {
5059             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
5060                 PL_expect = XTERM;
5061                 deprecate_old(commaless_variable_list);
5062                 return REPORT(','); /* grandfather non-comma-format format */
5063             }
5064             else
5065                 no_op("String",s);
5066         }
5067         if (!s)
5068             missingterm(NULL);
5069         yylval.ival = OP_CONST;
5070         /* FIXME. I think that this can be const if char *d is replaced by
5071            more localised variables.  */
5072         for (d = SvPV(PL_lex_stuff, len); len; len--, d++) {
5073             if (*d == '$' || *d == '@' || *d == '\\' || !UTF8_IS_INVARIANT((U8)*d)) {
5074                 yylval.ival = OP_STRINGIFY;
5075                 break;
5076             }
5077         }
5078         TERM(sublex_start());
5079
5080     case '`':
5081         s = scan_str(s,!!PL_madskills,FALSE);
5082         DEBUG_T( { printbuf("### Saw backtick string before %s\n", s); } );
5083         if (PL_expect == XOPERATOR)
5084             no_op("Backticks",s);
5085         if (!s)
5086             missingterm(NULL);
5087         readpipe_override();
5088         TERM(sublex_start());
5089
5090     case '\\':
5091         s++;
5092         if (PL_lex_inwhat && isDIGIT(*s) && ckWARN(WARN_SYNTAX))
5093             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),"Can't use \\%c to mean $%c in expression",
5094                         *s, *s);
5095         if (PL_expect == XOPERATOR)
5096             no_op("Backslash",s);
5097         OPERATOR(REFGEN);
5098
5099     case 'v':
5100         if (isDIGIT(s[1]) && PL_expect != XOPERATOR) {
5101             char *start = s + 2;
5102             while (isDIGIT(*start) || *start == '_')
5103                 start++;
5104             if (*start == '.' && isDIGIT(start[1])) {
5105                 s = scan_num(s, &yylval);
5106                 TERM(THING);
5107             }
5108             /* avoid v123abc() or $h{v1}, allow C<print v10;> */
5109             else if (!isALPHA(*start) && (PL_expect == XTERM
5110                         || PL_expect == XREF || PL_expect == XSTATE
5111                         || PL_expect == XTERMORDORDOR)) {
5112                 GV *const gv = gv_fetchpvn_flags(s, start - s, 0, SVt_PVCV);
5113                 if (!gv) {
5114                     s = scan_num(s, &yylval);
5115                     TERM(THING);
5116                 }
5117             }
5118         }
5119         goto keylookup;
5120     case 'x':
5121         if (isDIGIT(s[1]) && PL_expect == XOPERATOR) {
5122             s++;
5123             Mop(OP_REPEAT);
5124         }
5125         goto keylookup;
5126
5127     case '_':
5128     case 'a': case 'A':
5129     case 'b': case 'B':
5130     case 'c': case 'C':
5131     case 'd': case 'D':
5132     case 'e': case 'E':
5133     case 'f': case 'F':
5134     case 'g': case 'G':
5135     case 'h': case 'H':
5136     case 'i': case 'I':
5137     case 'j': case 'J':
5138     case 'k': case 'K':
5139     case 'l': case 'L':
5140     case 'm': case 'M':
5141     case 'n': case 'N':
5142     case 'o': case 'O':
5143     case 'p': case 'P':
5144     case 'q': case 'Q':
5145     case 'r': case 'R':
5146     case 's': case 'S':
5147     case 't': case 'T':
5148     case 'u': case 'U':
5149               case 'V':
5150     case 'w': case 'W':
5151               case 'X':
5152     case 'y': case 'Y':
5153     case 'z': case 'Z':
5154
5155       keylookup: {
5156         I32 tmp;
5157
5158         orig_keyword = 0;
5159         gv = NULL;
5160         gvp = NULL;
5161
5162         PL_bufptr = s;
5163         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
5164
5165         /* Some keywords can be followed by any delimiter, including ':' */
5166         tmp = ((len == 1 && strchr("msyq", PL_tokenbuf[0])) ||
5167                (len == 2 && ((PL_tokenbuf[0] == 't' && PL_tokenbuf[1] == 'r') ||
5168                              (PL_tokenbuf[0] == 'q' &&
5169                               strchr("qwxr", PL_tokenbuf[1])))));
5170
5171         /* x::* is just a word, unless x is "CORE" */
5172         if (!tmp && *s == ':' && s[1] == ':' && strNE(PL_tokenbuf, "CORE"))
5173             goto just_a_word;
5174
5175         d = s;
5176         while (d < PL_bufend && isSPACE(*d))
5177                 d++;    /* no comments skipped here, or s### is misparsed */
5178
5179         /* Is this a label? */
5180         if (!tmp && PL_expect == XSTATE
5181               && d < PL_bufend && *d == ':' && *(d + 1) != ':') {
5182             s = d + 1;
5183             yylval.pval = CopLABEL_alloc(PL_tokenbuf);
5184             CLINE;
5185             TOKEN(LABEL);
5186         }
5187
5188         /* Check for keywords */
5189         tmp = keyword(PL_tokenbuf, len, 0);
5190
5191         /* Is this a word before a => operator? */
5192         if (*d == '=' && d[1] == '>') {
5193             CLINE;
5194             yylval.opval
5195                 = (OP*)newSVOP(OP_CONST, 0,
5196                                S_newSV_maybe_utf8(aTHX_ PL_tokenbuf, len));
5197             yylval.opval->op_private = OPpCONST_BARE;
5198             TERM(WORD);
5199         }
5200
5201         if (tmp < 0) {                  /* second-class keyword? */
5202             GV *ogv = NULL;     /* override (winner) */
5203             GV *hgv = NULL;     /* hidden (loser) */
5204             if (PL_expect != XOPERATOR && (*s != ':' || s[1] != ':')) {
5205                 CV *cv;
5206                 if ((gv = gv_fetchpvn_flags(PL_tokenbuf, len, 0, SVt_PVCV)) &&
5207                     (cv = GvCVu(gv)))
5208                 {
5209                     if (GvIMPORTED_CV(gv))
5210                         ogv = gv;
5211                     else if (! CvMETHOD(cv))
5212                         hgv = gv;
5213                 }
5214                 if (!ogv &&
5215                     (gvp = (GV**)hv_fetch(PL_globalstash,PL_tokenbuf,len,FALSE)) &&
5216                     (gv = *gvp) && isGV_with_GP(gv) &&
5217                     GvCVu(gv) && GvIMPORTED_CV(gv))
5218                 {
5219                     ogv = gv;
5220                 }
5221             }
5222             if (ogv) {
5223                 orig_keyword = tmp;
5224                 tmp = 0;                /* overridden by import or by GLOBAL */
5225             }
5226             else if (gv && !gvp
5227                      && -tmp==KEY_lock  /* XXX generalizable kludge */
5228                      && GvCVu(gv))
5229             {
5230                 tmp = 0;                /* any sub overrides "weak" keyword */
5231             }
5232             else {                      /* no override */
5233                 tmp = -tmp;
5234                 if (tmp == KEY_dump && ckWARN(WARN_MISC)) {
5235                     Perl_warner(aTHX_ packWARN(WARN_MISC),
5236                             "dump() better written as CORE::dump()");
5237                 }
5238                 gv = NULL;
5239                 gvp = 0;
5240                 if (hgv && tmp != KEY_x && tmp != KEY_CORE
5241                         && ckWARN(WARN_AMBIGUOUS))      /* never ambiguous */
5242                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5243                         "Ambiguous call resolved as CORE::%s(), %s",
5244                          GvENAME(hgv), "qualify as such or use &");
5245             }
5246         }
5247
5248       reserved_word:
5249         switch (tmp) {
5250
5251         default:                        /* not a keyword */
5252             /* Trade off - by using this evil construction we can pull the
5253                variable gv into the block labelled keylookup. If not, then
5254                we have to give it function scope so that the goto from the
5255                earlier ':' case doesn't bypass the initialisation.  */
5256             if (0) {
5257             just_a_word_zero_gv:
5258                 gv = NULL;
5259                 gvp = NULL;
5260                 orig_keyword = 0;
5261             }
5262           just_a_word: {
5263                 SV *sv;
5264                 int pkgname = 0;
5265                 const char lastchar = (PL_bufptr == PL_oldoldbufptr ? 0 : PL_bufptr[-1]);
5266                 CV *cv;
5267 #ifdef PERL_MAD
5268                 SV *nextPL_nextwhite = 0;
5269 #endif
5270
5271
5272                 /* Get the rest if it looks like a package qualifier */
5273
5274                 if (*s == '\'' || (*s == ':' && s[1] == ':')) {
5275                     STRLEN morelen;
5276                     s = scan_word(s, PL_tokenbuf + len, sizeof PL_tokenbuf - len,
5277                                   TRUE, &morelen);
5278                     if (!morelen)
5279                         Perl_croak(aTHX_ "Bad name after %s%s", PL_tokenbuf,
5280                                 *s == '\'' ? "'" : "::");
5281                     len += morelen;
5282                     pkgname = 1;
5283                 }
5284
5285                 if (PL_expect == XOPERATOR) {
5286                     if (PL_bufptr == PL_linestart) {
5287                         CopLINE_dec(PL_curcop);
5288                         Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
5289                         CopLINE_inc(PL_curcop);
5290                     }
5291                     else
5292                         no_op("Bareword",s);
5293                 }
5294
5295                 /* Look for a subroutine with this name in current package,
5296                    unless name is "Foo::", in which case Foo is a bearword
5297                    (and a package name). */
5298
5299                 if (len > 2 && !PL_madskills &&
5300                     PL_tokenbuf[len - 2] == ':' && PL_tokenbuf[len - 1] == ':')
5301                 {
5302                     if (ckWARN(WARN_BAREWORD)
5303                         && ! gv_fetchpvn_flags(PL_tokenbuf, len, 0, SVt_PVHV))
5304                         Perl_warner(aTHX_ packWARN(WARN_BAREWORD),
5305                             "Bareword \"%s\" refers to nonexistent package",
5306                              PL_tokenbuf);
5307                     len -= 2;
5308                     PL_tokenbuf[len] = '\0';
5309                     gv = NULL;
5310                     gvp = 0;
5311                 }
5312                 else {
5313                     if (!gv) {
5314                         /* Mustn't actually add anything to a symbol table.
5315                            But also don't want to "initialise" any placeholder
5316                            constants that might already be there into full
5317                            blown PVGVs with attached PVCV.  */
5318                         gv = gv_fetchpvn_flags(PL_tokenbuf, len,
5319                                                GV_NOADD_NOINIT, SVt_PVCV);
5320                     }
5321                     len = 0;
5322                 }
5323
5324                 /* if we saw a global override before, get the right name */
5325
5326                 if (gvp) {
5327                     sv = newSVpvs("CORE::GLOBAL::");
5328                     sv_catpv(sv,PL_tokenbuf);
5329                 }
5330                 else {
5331                     /* If len is 0, newSVpv does strlen(), which is correct.
5332                        If len is non-zero, then it will be the true length,
5333                        and so the scalar will be created correctly.  */
5334                     sv = newSVpv(PL_tokenbuf,len);
5335                 }
5336 #ifdef PERL_MAD
5337                 if (PL_madskills && !PL_thistoken) {
5338                     char *start = SvPVX(PL_linestr) + PL_realtokenstart;
5339                     PL_thistoken = newSVpv(start,s - start);
5340                     PL_realtokenstart = s - SvPVX(PL_linestr);
5341                 }
5342 #endif
5343
5344                 /* Presume this is going to be a bareword of some sort. */
5345
5346                 CLINE;
5347                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
5348                 yylval.opval->op_private = OPpCONST_BARE;
5349                 /* UTF-8 package name? */
5350                 if (UTF && !IN_BYTES &&
5351                     is_utf8_string((U8*)SvPVX_const(sv), SvCUR(sv)))
5352                     SvUTF8_on(sv);
5353
5354                 /* And if "Foo::", then that's what it certainly is. */
5355
5356                 if (len)
5357                     goto safe_bareword;
5358
5359                 /* Do the explicit type check so that we don't need to force
5360                    the initialisation of the symbol table to have a real GV.
5361                    Beware - gv may not really be a PVGV, cv may not really be
5362                    a PVCV, (because of the space optimisations that gv_init
5363                    understands) But they're true if for this symbol there is
5364                    respectively a typeglob and a subroutine.
5365                 */
5366                 cv = gv ? ((SvTYPE(gv) == SVt_PVGV)
5367                     /* Real typeglob, so get the real subroutine: */
5368                            ? GvCVu(gv)
5369                     /* A proxy for a subroutine in this package? */
5370                            : SvOK(gv) ? (CV *) gv : NULL)
5371                     : NULL;
5372
5373                 /* See if it's the indirect object for a list operator. */
5374
5375                 if (PL_oldoldbufptr &&
5376                     PL_oldoldbufptr < PL_bufptr &&
5377                     (PL_oldoldbufptr == PL_last_lop
5378                      || PL_oldoldbufptr == PL_last_uni) &&
5379                     /* NO SKIPSPACE BEFORE HERE! */
5380                     (PL_expect == XREF ||
5381                      ((PL_opargs[PL_last_lop_op] >> OASHIFT)& 7) == OA_FILEREF))
5382                 {
5383                     bool immediate_paren = *s == '(';
5384
5385                     /* (Now we can afford to cross potential line boundary.) */
5386                     s = SKIPSPACE2(s,nextPL_nextwhite);
5387 #ifdef PERL_MAD
5388                     PL_nextwhite = nextPL_nextwhite;    /* assume no & deception */
5389 #endif
5390
5391                     /* Two barewords in a row may indicate method call. */
5392
5393                     if ((isIDFIRST_lazy_if(s,UTF) || *s == '$') &&
5394                         (tmp = intuit_method(s, gv, cv)))
5395                         return REPORT(tmp);
5396
5397                     /* If not a declared subroutine, it's an indirect object. */
5398                     /* (But it's an indir obj regardless for sort.) */
5399                     /* Also, if "_" follows a filetest operator, it's a bareword */
5400
5401                     if (
5402                         ( !immediate_paren && (PL_last_lop_op == OP_SORT ||
5403                          ((!gv || !cv) &&
5404                         (PL_last_lop_op != OP_MAPSTART &&
5405                          PL_last_lop_op != OP_GREPSTART))))
5406                        || (PL_tokenbuf[0] == '_' && PL_tokenbuf[1] == '\0'
5407                             && ((PL_opargs[PL_last_lop_op] & OA_CLASS_MASK) == OA_FILESTATOP))
5408                        )
5409                     {
5410                         PL_expect = (PL_last_lop == PL_oldoldbufptr) ? XTERM : XOPERATOR;
5411                         goto bareword;
5412                     }
5413                 }
5414
5415                 PL_expect = XOPERATOR;
5416 #ifdef PERL_MAD
5417                 if (isSPACE(*s))
5418                     s = SKIPSPACE2(s,nextPL_nextwhite);
5419                 PL_nextwhite = nextPL_nextwhite;
5420 #else
5421                 s = skipspace(s);
5422 #endif
5423
5424                 /* Is this a word before a => operator? */
5425                 if (*s == '=' && s[1] == '>' && !pkgname) {
5426                     CLINE;
5427                     sv_setpv(((SVOP*)yylval.opval)->op_sv, PL_tokenbuf);
5428                     if (UTF && !IN_BYTES && is_utf8_string((U8*)PL_tokenbuf, len))
5429                       SvUTF8_on(((SVOP*)yylval.opval)->op_sv);
5430                     TERM(WORD);
5431                 }
5432
5433                 /* If followed by a paren, it's certainly a subroutine. */
5434                 if (*s == '(') {
5435                     CLINE;
5436                     if (cv) {
5437                         d = s + 1;
5438                         while (SPACE_OR_TAB(*d))
5439                             d++;
5440                         if (*d == ')' && (sv = gv_const_sv(gv))) {
5441                             s = d + 1;
5442                             goto its_constant;
5443                         }
5444                     }
5445 #ifdef PERL_MAD
5446                     if (PL_madskills) {
5447                         PL_nextwhite = PL_thiswhite;
5448                         PL_thiswhite = 0;
5449                     }
5450                     start_force(PL_curforce);
5451 #endif
5452                     NEXTVAL_NEXTTOKE.opval = yylval.opval;
5453                     PL_expect = XOPERATOR;
5454 #ifdef PERL_MAD
5455                     if (PL_madskills) {
5456                         PL_nextwhite = nextPL_nextwhite;
5457                         curmad('X', PL_thistoken);
5458                         PL_thistoken = newSVpvs("");
5459                     }
5460 #endif
5461                     force_next(WORD);
5462                     yylval.ival = 0;
5463                     TOKEN('&');
5464                 }
5465
5466                 /* If followed by var or block, call it a method (unless sub) */
5467
5468                 if ((*s == '$' || *s == '{') && (!gv || !cv)) {
5469                     PL_last_lop = PL_oldbufptr;
5470                     PL_last_lop_op = OP_METHOD;
5471                     PREBLOCK(METHOD);
5472                 }
5473
5474                 /* If followed by a bareword, see if it looks like indir obj. */
5475
5476                 if (!orig_keyword
5477                         && (isIDFIRST_lazy_if(s,UTF) || *s == '$')
5478                         && (tmp = intuit_method(s, gv, cv)))
5479                     return REPORT(tmp);
5480
5481                 /* Not a method, so call it a subroutine (if defined) */
5482
5483                 if (cv) {
5484                     if (lastchar == '-' && ckWARN_d(WARN_AMBIGUOUS))
5485                         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5486                                 "Ambiguous use of -%s resolved as -&%s()",
5487                                 PL_tokenbuf, PL_tokenbuf);
5488                     /* Check for a constant sub */
5489                     if ((sv = gv_const_sv(gv))) {
5490                   its_constant:
5491                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
5492                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc_simple(sv);
5493                         yylval.opval->op_private = 0;
5494                         TOKEN(WORD);
5495                     }
5496
5497                     /* Resolve to GV now. */
5498                     if (SvTYPE(gv) != SVt_PVGV) {
5499                         gv = gv_fetchpv(PL_tokenbuf, 0, SVt_PVCV);
5500                         assert (SvTYPE(gv) == SVt_PVGV);
5501                         /* cv must have been some sort of placeholder, so
5502                            now needs replacing with a real code reference.  */
5503                         cv = GvCV(gv);
5504                     }
5505
5506                     op_free(yylval.opval);
5507                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
5508                     yylval.opval->op_private |= OPpENTERSUB_NOPAREN;
5509                     PL_last_lop = PL_oldbufptr;
5510                     PL_last_lop_op = OP_ENTERSUB;
5511                     /* Is there a prototype? */
5512                     if (
5513 #ifdef PERL_MAD
5514                         cv &&
5515 #endif
5516                         SvPOK(cv))
5517                     {
5518                         STRLEN protolen;
5519                         const char *proto = SvPV_const((SV*)cv, protolen);
5520                         if (!protolen)
5521                             TERM(FUNC0SUB);
5522                         if ((*proto == '$' || *proto == '_') && proto[1] == '\0')
5523                             OPERATOR(UNIOPSUB);
5524                         while (*proto == ';')
5525                             proto++;
5526                         if (*proto == '&' && *s == '{') {
5527                             sv_setpv(PL_subname,
5528                                      (const char *)
5529                                      (PL_curstash ?
5530                                       "__ANON__" : "__ANON__::__ANON__"));
5531                             PREBLOCK(LSTOPSUB);
5532                         }
5533                     }
5534 #ifdef PERL_MAD
5535                     {
5536                         if (PL_madskills) {
5537                             PL_nextwhite = PL_thiswhite;
5538                             PL_thiswhite = 0;
5539                         }
5540                         start_force(PL_curforce);
5541                         NEXTVAL_NEXTTOKE.opval = yylval.opval;
5542                         PL_expect = XTERM;
5543                         if (PL_madskills) {
5544                             PL_nextwhite = nextPL_nextwhite;
5545                             curmad('X', PL_thistoken);
5546                             PL_thistoken = newSVpvs("");
5547                         }
5548                         force_next(WORD);
5549                         TOKEN(NOAMP);
5550                     }
5551                 }
5552
5553                 /* Guess harder when madskills require "best effort". */
5554                 if (PL_madskills && (!gv || !GvCVu(gv))) {
5555                     int probable_sub = 0;
5556                     if (strchr("\"'`$@%0123456789!*+{[<", *s))
5557                         probable_sub = 1;
5558                     else if (isALPHA(*s)) {
5559                         char tmpbuf[1024];
5560                         STRLEN tmplen;
5561                         d = s;
5562                         d = scan_word(d, tmpbuf, sizeof tmpbuf, TRUE, &tmplen);
5563                         if (!keyword(tmpbuf, tmplen, 0))
5564                             probable_sub = 1;
5565                         else {
5566                             while (d < PL_bufend && isSPACE(*d))
5567                                 d++;
5568                             if (*d == '=' && d[1] == '>')
5569                                 probable_sub = 1;
5570                         }
5571                     }
5572                     if (probable_sub) {
5573                         gv = gv_fetchpv(PL_tokenbuf, GV_ADD, SVt_PVCV);
5574                         op_free(yylval.opval);
5575                         yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
5576                         yylval.opval->op_private |= OPpENTERSUB_NOPAREN;
5577                         PL_last_lop = PL_oldbufptr;
5578                         PL_last_lop_op = OP_ENTERSUB;
5579                         PL_nextwhite = PL_thiswhite;
5580                         PL_thiswhite = 0;
5581                         start_force(PL_curforce);
5582                         NEXTVAL_NEXTTOKE.opval = yylval.opval;
5583                         PL_expect = XTERM;
5584                         PL_nextwhite = nextPL_nextwhite;
5585                         curmad('X', PL_thistoken);
5586                         PL_thistoken = newSVpvs("");
5587                         force_next(WORD);
5588                         TOKEN(NOAMP);
5589                     }
5590 #else
5591                     NEXTVAL_NEXTTOKE.opval = yylval.opval;
5592                     PL_expect = XTERM;
5593                     force_next(WORD);
5594                     TOKEN(NOAMP);
5595 #endif
5596                 }
5597
5598                 /* Call it a bare word */
5599
5600                 if (PL_hints & HINT_STRICT_SUBS)
5601                     yylval.opval->op_private |= OPpCONST_STRICT;
5602                 else {
5603                 bareword:
5604                     if (lastchar != '-') {
5605                         if (ckWARN(WARN_RESERVED)) {
5606                             d = PL_tokenbuf;
5607                             while (isLOWER(*d))
5608                                 d++;
5609                             if (!*d && !gv_stashpv(PL_tokenbuf, 0))
5610                                 Perl_warner(aTHX_ packWARN(WARN_RESERVED), PL_warn_reserved,
5611                                        PL_tokenbuf);
5612                         }
5613                     }
5614                 }
5615
5616             safe_bareword:
5617                 if ((lastchar == '*' || lastchar == '%' || lastchar == '&')
5618                     && ckWARN_d(WARN_AMBIGUOUS)) {
5619                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5620                         "Operator or semicolon missing before %c%s",
5621                         lastchar, PL_tokenbuf);
5622                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5623                         "Ambiguous use of %c resolved as operator %c",
5624                         lastchar, lastchar);
5625                 }
5626                 TOKEN(WORD);
5627             }
5628
5629         case KEY___FILE__:
5630             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5631                                         newSVpv(CopFILE(PL_curcop),0));
5632             TERM(THING);
5633
5634         case KEY___LINE__:
5635             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5636                                     Perl_newSVpvf(aTHX_ "%"IVdf, (IV)CopLINE(PL_curcop)));
5637             TERM(THING);
5638
5639         case KEY___PACKAGE__:
5640             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5641                                         (PL_curstash
5642                                          ? newSVhek(HvNAME_HEK(PL_curstash))
5643                                          : &PL_sv_undef));
5644             TERM(THING);
5645
5646         case KEY___DATA__:
5647         case KEY___END__: {
5648             GV *gv;
5649             if (PL_rsfp && (!PL_in_eval || PL_tokenbuf[2] == 'D')) {
5650                 const char *pname = "main";
5651                 if (PL_tokenbuf[2] == 'D')
5652                     pname = HvNAME_get(PL_curstash ? PL_curstash : PL_defstash);
5653                 gv = gv_fetchpv(Perl_form(aTHX_ "%s::DATA", pname), GV_ADD,
5654                                 SVt_PVIO);
5655                 GvMULTI_on(gv);
5656                 if (!GvIO(gv))
5657                     GvIOp(gv) = newIO();
5658                 IoIFP(GvIOp(gv)) = PL_rsfp;
5659 #if defined(HAS_FCNTL) && defined(F_SETFD)
5660                 {
5661                     const int fd = PerlIO_fileno(PL_rsfp);
5662                     fcntl(fd,F_SETFD,fd >= 3);
5663                 }
5664 #endif
5665                 /* Mark this internal pseudo-handle as clean */
5666                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
5667                 if (PL_preprocess)
5668                     IoTYPE(GvIOp(gv)) = IoTYPE_PIPE;
5669                 else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
5670                     IoTYPE(GvIOp(gv)) = IoTYPE_STD;
5671                 else
5672                     IoTYPE(GvIOp(gv)) = IoTYPE_RDONLY;
5673 #if defined(WIN32) && !defined(PERL_TEXTMODE_SCRIPTS)
5674                 /* if the script was opened in binmode, we need to revert
5675                  * it to text mode for compatibility; but only iff it has CRs
5676                  * XXX this is a questionable hack at best. */
5677                 if (PL_bufend-PL_bufptr > 2
5678                     && PL_bufend[-1] == '\n' && PL_bufend[-2] == '\r')
5679                 {
5680                     Off_t loc = 0;
5681                     if (IoTYPE(GvIOp(gv)) == IoTYPE_RDONLY) {
5682                         loc = PerlIO_tell(PL_rsfp);
5683                         (void)PerlIO_seek(PL_rsfp, 0L, 0);
5684                     }
5685 #ifdef NETWARE
5686                         if (PerlLIO_setmode(PL_rsfp, O_TEXT) != -1) {
5687 #else
5688                     if (PerlLIO_setmode(PerlIO_fileno(PL_rsfp), O_TEXT) != -1) {
5689 #endif  /* NETWARE */
5690 #ifdef PERLIO_IS_STDIO /* really? */
5691 #  if defined(__BORLANDC__)
5692                         /* XXX see note in do_binmode() */
5693                         ((FILE*)PL_rsfp)->flags &= ~_F_BIN;
5694 #  endif
5695 #endif
5696                         if (loc > 0)
5697                             PerlIO_seek(PL_rsfp, loc, 0);
5698                     }
5699                 }
5700 #endif
5701 #ifdef PERLIO_LAYERS
5702                 if (!IN_BYTES) {
5703                     if (UTF)
5704                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL, ":utf8");
5705                     else if (PL_encoding) {
5706                         SV *name;
5707                         dSP;
5708                         ENTER;
5709                         SAVETMPS;
5710                         PUSHMARK(sp);
5711                         EXTEND(SP, 1);
5712                         XPUSHs(PL_encoding);
5713                         PUTBACK;
5714                         call_method("name", G_SCALAR);
5715                         SPAGAIN;
5716                         name = POPs;
5717                         PUTBACK;
5718                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL,
5719                                             Perl_form(aTHX_ ":encoding(%"SVf")",
5720                                                       SVfARG(name)));
5721                         FREETMPS;
5722                         LEAVE;
5723                     }
5724                 }
5725 #endif
5726 #ifdef PERL_MAD
5727                 if (PL_madskills) {
5728                     if (PL_realtokenstart >= 0) {
5729                         char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
5730                         if (!PL_endwhite)
5731                             PL_endwhite = newSVpvs("");
5732                         sv_catsv(PL_endwhite, PL_thiswhite);
5733                         PL_thiswhite = 0;
5734                         sv_catpvn(PL_endwhite, tstart, PL_bufend - tstart);
5735                         PL_realtokenstart = -1;
5736                     }
5737                     while ((s = filter_gets(PL_endwhite, PL_rsfp,
5738                                  SvCUR(PL_endwhite))) != NULL) ;
5739                 }
5740 #endif
5741                 PL_rsfp = NULL;
5742             }
5743             goto fake_eof;
5744         }
5745
5746         case KEY_AUTOLOAD:
5747         case KEY_DESTROY:
5748         case KEY_BEGIN:
5749         case KEY_UNITCHECK:
5750         case KEY_CHECK:
5751         case KEY_INIT:
5752         case KEY_END:
5753             if (PL_expect == XSTATE) {
5754                 s = PL_bufptr;
5755                 goto really_sub;
5756             }
5757             goto just_a_word;
5758
5759         case KEY_CORE:
5760             if (*s == ':' && s[1] == ':') {
5761                 s += 2;
5762                 d = s;
5763                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
5764                 if (!(tmp = keyword(PL_tokenbuf, len, 0)))
5765                     Perl_croak(aTHX_ "CORE::%s is not a keyword", PL_tokenbuf);
5766                 if (tmp < 0)
5767                     tmp = -tmp;
5768                 else if (tmp == KEY_require || tmp == KEY_do)
5769                     /* that's a way to remember we saw "CORE::" */
5770                     orig_keyword = tmp;
5771                 goto reserved_word;
5772             }
5773             goto just_a_word;
5774
5775         case KEY_abs:
5776             UNI(OP_ABS);
5777
5778         case KEY_alarm:
5779             UNI(OP_ALARM);
5780
5781         case KEY_accept:
5782             LOP(OP_ACCEPT,XTERM);
5783
5784         case KEY_and:
5785             OPERATOR(ANDOP);
5786
5787         case KEY_atan2:
5788             LOP(OP_ATAN2,XTERM);
5789
5790         case KEY_bind:
5791             LOP(OP_BIND,XTERM);
5792
5793         case KEY_binmode:
5794             LOP(OP_BINMODE,XTERM);
5795
5796         case KEY_bless:
5797             LOP(OP_BLESS,XTERM);
5798
5799         case KEY_break:
5800             FUN0(OP_BREAK);
5801
5802         case KEY_chop:
5803             UNI(OP_CHOP);
5804
5805         case KEY_continue:
5806             /* When 'use switch' is in effect, continue has a dual
5807                life as a control operator. */
5808             {
5809                 if (!FEATURE_IS_ENABLED("switch"))
5810                     PREBLOCK(CONTINUE);
5811                 else {
5812                     /* We have to disambiguate the two senses of
5813                       "continue". If the next token is a '{' then
5814                       treat it as the start of a continue block;
5815                       otherwise treat it as a control operator.
5816                      */
5817                     s = skipspace(s);
5818                     if (*s == '{')
5819             PREBLOCK(CONTINUE);
5820                     else
5821                         FUN0(OP_CONTINUE);
5822                 }
5823             }
5824
5825         case KEY_chdir:
5826             /* may use HOME */
5827             (void)gv_fetchpvs("ENV", GV_ADD|GV_NOTQUAL, SVt_PVHV);
5828             UNI(OP_CHDIR);
5829
5830         case KEY_close:
5831             UNI(OP_CLOSE);
5832
5833         case KEY_closedir:
5834             UNI(OP_CLOSEDIR);
5835
5836         case KEY_cmp:
5837             Eop(OP_SCMP);
5838
5839         case KEY_caller:
5840             UNI(OP_CALLER);
5841
5842         case KEY_crypt:
5843 #ifdef FCRYPT
5844             if (!PL_cryptseen) {
5845                 PL_cryptseen = TRUE;
5846                 init_des();
5847             }
5848 #endif
5849             LOP(OP_CRYPT,XTERM);
5850
5851         case KEY_chmod:
5852             LOP(OP_CHMOD,XTERM);
5853
5854         case KEY_chown:
5855             LOP(OP_CHOWN,XTERM);
5856
5857         case KEY_connect:
5858             LOP(OP_CONNECT,XTERM);
5859
5860         case KEY_chr:
5861             UNI(OP_CHR);
5862
5863         case KEY_cos:
5864             UNI(OP_COS);
5865
5866         case KEY_chroot:
5867             UNI(OP_CHROOT);
5868
5869         case KEY_default:
5870             PREBLOCK(DEFAULT);
5871
5872         case KEY_do:
5873             s = SKIPSPACE1(s);
5874             if (*s == '{')
5875                 PRETERMBLOCK(DO);
5876             if (*s != '\'')
5877                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
5878             if (orig_keyword == KEY_do) {
5879                 orig_keyword = 0;
5880                 yylval.ival = 1;
5881             }
5882             else
5883                 yylval.ival = 0;
5884             OPERATOR(DO);
5885
5886         case KEY_die:
5887             PL_hints |= HINT_BLOCK_SCOPE;
5888             LOP(OP_DIE,XTERM);
5889
5890         case KEY_defined:
5891             UNI(OP_DEFINED);
5892
5893         case KEY_delete:
5894             UNI(OP_DELETE);
5895
5896         case KEY_dbmopen:
5897             gv_fetchpvs("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
5898             LOP(OP_DBMOPEN,XTERM);
5899
5900         case KEY_dbmclose:
5901             UNI(OP_DBMCLOSE);
5902
5903         case KEY_dump:
5904             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5905             LOOPX(OP_DUMP);
5906
5907         case KEY_else:
5908             PREBLOCK(ELSE);
5909
5910         case KEY_elsif:
5911             yylval.ival = CopLINE(PL_curcop);
5912             OPERATOR(ELSIF);
5913
5914         case KEY_eq:
5915             Eop(OP_SEQ);
5916
5917         case KEY_exists:
5918             UNI(OP_EXISTS);
5919
5920         case KEY_exit:
5921             if (PL_madskills)
5922                 UNI(OP_INT);
5923             UNI(OP_EXIT);
5924
5925         case KEY_eval:
5926             s = SKIPSPACE1(s);
5927             PL_expect = (*s == '{') ? XTERMBLOCK : XTERM;
5928             UNIBRACK(OP_ENTEREVAL);
5929
5930         case KEY_eof:
5931             UNI(OP_EOF);
5932
5933         case KEY_exp:
5934             UNI(OP_EXP);
5935
5936         case KEY_each:
5937             UNI(OP_EACH);
5938
5939         case KEY_exec:
5940             LOP(OP_EXEC,XREF);
5941
5942         case KEY_endhostent:
5943             FUN0(OP_EHOSTENT);
5944
5945         case KEY_endnetent:
5946             FUN0(OP_ENETENT);
5947
5948         case KEY_endservent:
5949             FUN0(OP_ESERVENT);
5950
5951         case KEY_endprotoent:
5952             FUN0(OP_EPROTOENT);
5953
5954         case KEY_endpwent:
5955             FUN0(OP_EPWENT);
5956
5957         case KEY_endgrent:
5958             FUN0(OP_EGRENT);
5959
5960         case KEY_for:
5961         case KEY_foreach:
5962             yylval.ival = CopLINE(PL_curcop);
5963             s = SKIPSPACE1(s);
5964             if (PL_expect == XSTATE && isIDFIRST_lazy_if(s,UTF)) {
5965                 char *p = s;
5966 #ifdef PERL_MAD
5967                 int soff = s - SvPVX(PL_linestr); /* for skipspace realloc */
5968 #endif
5969
5970                 if ((PL_bufend - p) >= 3 &&
5971                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
5972                     p += 2;
5973                 else if ((PL_bufend - p) >= 4 &&
5974                     strnEQ(p, "our", 3) && isSPACE(*(p + 3)))
5975                     p += 3;
5976                 p = PEEKSPACE(p);
5977                 if (isIDFIRST_lazy_if(p,UTF)) {
5978                     p = scan_ident(p, PL_bufend,
5979                         PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
5980                     p = PEEKSPACE(p);
5981                 }
5982                 if (*p != '$')
5983                     Perl_croak(aTHX_ "Missing $ on loop variable");
5984 #ifdef PERL_MAD
5985                 s = SvPVX(PL_linestr) + soff;
5986 #endif
5987             }
5988             OPERATOR(FOR);
5989
5990         case KEY_formline:
5991             LOP(OP_FORMLINE,XTERM);
5992
5993         case KEY_fork:
5994             FUN0(OP_FORK);
5995
5996         case KEY_fcntl:
5997             LOP(OP_FCNTL,XTERM);
5998
5999         case KEY_fileno:
6000             UNI(OP_FILENO);
6001
6002         case KEY_flock:
6003             LOP(OP_FLOCK,XTERM);
6004
6005         case KEY_gt:
6006             Rop(OP_SGT);
6007
6008         case KEY_ge:
6009             Rop(OP_SGE);
6010
6011         case KEY_grep:
6012             LOP(OP_GREPSTART, XREF);
6013
6014         case KEY_goto:
6015             s = force_word(s,WORD,TRUE,FALSE,FALSE);
6016             LOOPX(OP_GOTO);
6017
6018         case KEY_gmtime:
6019             UNI(OP_GMTIME);
6020
6021         case KEY_getc:
6022             UNIDOR(OP_GETC);
6023
6024         case KEY_getppid:
6025             FUN0(OP_GETPPID);
6026
6027         case KEY_getpgrp:
6028             UNI(OP_GETPGRP);
6029
6030         case KEY_getpriority:
6031             LOP(OP_GETPRIORITY,XTERM);
6032
6033         case KEY_getprotobyname:
6034             UNI(OP_GPBYNAME);
6035
6036         case KEY_getprotobynumber:
6037             LOP(OP_GPBYNUMBER,XTERM);
6038
6039         case KEY_getprotoent:
6040             FUN0(OP_GPROTOENT);
6041
6042         case KEY_getpwent:
6043             FUN0(OP_GPWENT);
6044
6045         case KEY_getpwnam:
6046             UNI(OP_GPWNAM);
6047
6048         case KEY_getpwuid:
6049             UNI(OP_GPWUID);
6050
6051         case KEY_getpeername:
6052             UNI(OP_GETPEERNAME);
6053
6054         case KEY_gethostbyname:
6055             UNI(OP_GHBYNAME);
6056
6057         case KEY_gethostbyaddr:
6058             LOP(OP_GHBYADDR,XTERM);
6059
6060         case KEY_gethostent:
6061             FUN0(OP_GHOSTENT);
6062
6063         case KEY_getnetbyname:
6064             UNI(OP_GNBYNAME);
6065
6066         case KEY_getnetbyaddr:
6067             LOP(OP_GNBYADDR,XTERM);
6068
6069         case KEY_getnetent:
6070             FUN0(OP_GNETENT);
6071
6072         case KEY_getservbyname:
6073             LOP(OP_GSBYNAME,XTERM);
6074
6075         case KEY_getservbyport:
6076             LOP(OP_GSBYPORT,XTERM);
6077
6078         case KEY_getservent:
6079             FUN0(OP_GSERVENT);
6080
6081         case KEY_getsockname:
6082             UNI(OP_GETSOCKNAME);
6083
6084         case KEY_getsockopt:
6085             LOP(OP_GSOCKOPT,XTERM);
6086
6087         case KEY_getgrent:
6088             FUN0(OP_GGRENT);
6089
6090         case KEY_getgrnam:
6091             UNI(OP_GGRNAM);
6092
6093         case KEY_getgrgid:
6094             UNI(OP_GGRGID);
6095
6096         case KEY_getlogin:
6097             FUN0(OP_GETLOGIN);
6098
6099         case KEY_given:
6100             yylval.ival = CopLINE(PL_curcop);
6101             OPERATOR(GIVEN);
6102
6103         case KEY_glob:
6104             LOP(OP_GLOB,XTERM);
6105
6106         case KEY_hex:
6107             UNI(OP_HEX);
6108
6109         case KEY_if:
6110             yylval.ival = CopLINE(PL_curcop);
6111             OPERATOR(IF);
6112
6113         case KEY_index:
6114             LOP(OP_INDEX,XTERM);
6115
6116         case KEY_int:
6117             UNI(OP_INT);
6118
6119         case KEY_ioctl:
6120             LOP(OP_IOCTL,XTERM);
6121
6122         case KEY_join:
6123             LOP(OP_JOIN,XTERM);
6124
6125         case KEY_keys:
6126             UNI(OP_KEYS);
6127
6128         case KEY_kill:
6129             LOP(OP_KILL,XTERM);
6130
6131         case KEY_last:
6132             s = force_word(s,WORD,TRUE,FALSE,FALSE);
6133             LOOPX(OP_LAST);
6134
6135         case KEY_lc:
6136             UNI(OP_LC);
6137
6138         case KEY_lcfirst:
6139             UNI(OP_LCFIRST);
6140
6141         case KEY_local:
6142             yylval.ival = 0;
6143             OPERATOR(LOCAL);
6144
6145         case KEY_length:
6146             UNI(OP_LENGTH);
6147
6148         case KEY_lt:
6149             Rop(OP_SLT);
6150
6151         case KEY_le:
6152             Rop(OP_SLE);
6153
6154         case KEY_localtime:
6155             UNI(OP_LOCALTIME);
6156
6157         case KEY_log:
6158             UNI(OP_LOG);
6159
6160         case KEY_link:
6161             LOP(OP_LINK,XTERM);
6162
6163         case KEY_listen:
6164             LOP(OP_LISTEN,XTERM);
6165
6166         case KEY_lock:
6167             UNI(OP_LOCK);
6168
6169         case KEY_lstat:
6170             UNI(OP_LSTAT);
6171
6172         case KEY_m:
6173             s = scan_pat(s,OP_MATCH);
6174             TERM(sublex_start());
6175
6176         case KEY_map:
6177             LOP(OP_MAPSTART, XREF);
6178
6179         case KEY_mkdir:
6180             LOP(OP_MKDIR,XTERM);
6181
6182         case KEY_msgctl:
6183             LOP(OP_MSGCTL,XTERM);
6184
6185         case KEY_msgget:
6186             LOP(OP_MSGGET,XTERM);
6187
6188         case KEY_msgrcv:
6189             LOP(OP_MSGRCV,XTERM);
6190
6191         case KEY_msgsnd:
6192             LOP(OP_MSGSND,XTERM);
6193
6194         case KEY_our:
6195         case KEY_my:
6196         case KEY_state:
6197             PL_in_my = (U16)tmp;
6198             s = SKIPSPACE1(s);
6199             if (isIDFIRST_lazy_if(s,UTF)) {
6200 #ifdef PERL_MAD
6201                 char* start = s;
6202 #endif
6203                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, TRUE, &len);
6204                 if (len == 3 && strnEQ(PL_tokenbuf, "sub", 3))
6205                     goto really_sub;
6206                 PL_in_my_stash = find_in_my_stash(PL_tokenbuf, len);
6207                 if (!PL_in_my_stash) {
6208                     char tmpbuf[1024];
6209                     PL_bufptr = s;
6210                     my_snprintf(tmpbuf, sizeof(tmpbuf), "No such class %.1000s", PL_tokenbuf);
6211                     yyerror(tmpbuf);
6212                 }
6213 #ifdef PERL_MAD
6214                 if (PL_madskills) {     /* just add type to declarator token */
6215                     sv_catsv(PL_thistoken, PL_nextwhite);
6216                     PL_nextwhite = 0;
6217                     sv_catpvn(PL_thistoken, start, s - start);
6218                 }
6219 #endif
6220             }
6221             yylval.ival = 1;
6222             OPERATOR(MY);
6223
6224         case KEY_next:
6225             s = force_word(s,WORD,TRUE,FALSE,FALSE);
6226             LOOPX(OP_NEXT);
6227
6228         case KEY_ne:
6229             Eop(OP_SNE);
6230
6231         case KEY_no:
6232             s = tokenize_use(0, s);
6233             OPERATOR(USE);
6234
6235         case KEY_not:
6236             if (*s == '(' || (s = SKIPSPACE1(s), *s == '('))
6237                 FUN1(OP_NOT);
6238             else
6239                 OPERATOR(NOTOP);
6240
6241         case KEY_open:
6242             s = SKIPSPACE1(s);
6243             if (isIDFIRST_lazy_if(s,UTF)) {
6244                 const char *t;
6245                 for (d = s; isALNUM_lazy_if(d,UTF);)
6246                     d++;
6247                 for (t=d; isSPACE(*t);)
6248                     t++;
6249                 if ( *t && strchr("|&*+-=!?:.", *t) && ckWARN_d(WARN_PRECEDENCE)
6250                     /* [perl #16184] */
6251                     && !(t[0] == '=' && t[1] == '>')
6252                 ) {
6253                     int parms_len = (int)(d-s);
6254                     Perl_warner(aTHX_ packWARN(WARN_PRECEDENCE),
6255                            "Precedence problem: open %.*s should be open(%.*s)",
6256                             parms_len, s, parms_len, s);
6257                 }
6258             }
6259             LOP(OP_OPEN,XTERM);
6260
6261         case KEY_or:
6262             yylval.ival = OP_OR;
6263             OPERATOR(OROP);
6264
6265         case KEY_ord:
6266             UNI(OP_ORD);
6267
6268         case KEY_oct:
6269             UNI(OP_OCT);
6270
6271         case KEY_opendir:
6272             LOP(OP_OPEN_DIR,XTERM);
6273
6274         case KEY_print:
6275             checkcomma(s,PL_tokenbuf,"filehandle");
6276             LOP(OP_PRINT,XREF);
6277
6278         case KEY_printf:
6279             checkcomma(s,PL_tokenbuf,"filehandle");
6280             LOP(OP_PRTF,XREF);
6281
6282         case KEY_prototype:
6283             UNI(OP_PROTOTYPE);
6284
6285         case KEY_push:
6286             LOP(OP_PUSH,XTERM);
6287
6288         case KEY_pop:
6289             UNIDOR(OP_POP);
6290
6291         case KEY_pos:
6292             UNIDOR(OP_POS);
6293
6294         case KEY_pack:
6295             LOP(OP_PACK,XTERM);
6296
6297         case KEY_package:
6298             s = force_word(s,WORD,FALSE,TRUE,FALSE);
6299             OPERATOR(PACKAGE);
6300
6301         case KEY_pipe:
6302             LOP(OP_PIPE_OP,XTERM);
6303
6304         case KEY_q:
6305             s = scan_str(s,!!PL_madskills,FALSE);
6306             if (!s)
6307                 missingterm(NULL);
6308             yylval.ival = OP_CONST;
6309             TERM(sublex_start());
6310
6311         case KEY_quotemeta:
6312             UNI(OP_QUOTEMETA);
6313
6314         case KEY_qw:
6315             s = scan_str(s,!!PL_madskills,FALSE);
6316             if (!s)
6317                 missingterm(NULL);
6318             PL_expect = XOPERATOR;
6319             force_next(')');
6320             if (SvCUR(PL_lex_stuff)) {
6321                 OP *words = NULL;
6322                 int warned = 0;
6323                 d = SvPV_force(PL_lex_stuff, len);
6324                 while (len) {
6325                     for (; isSPACE(*d) && len; --len, ++d)
6326                         /**/;
6327                     if (len) {
6328                         SV *sv;
6329                         const char *b = d;
6330                         if (!warned && ckWARN(WARN_QW)) {
6331                             for (; !isSPACE(*d) && len; --len, ++d) {
6332                                 if (*d == ',') {
6333                                     Perl_warner(aTHX_ packWARN(WARN_QW),
6334                                         "Possible attempt to separate words with commas");
6335                                     ++warned;
6336                                 }
6337                                 else if (*d == '#') {
6338                                     Perl_warner(aTHX_ packWARN(WARN_QW),
6339                                         "Possible attempt to put comments in qw() list");
6340                                     ++warned;
6341                                 }
6342                             }
6343                         }
6344                         else {
6345                             for (; !isSPACE(*d) && len; --len, ++d)
6346                                 /**/;
6347                         }
6348                         sv = newSVpvn(b, d-b);
6349                         if (DO_UTF8(PL_lex_stuff))
6350                             SvUTF8_on(sv);
6351                         words = append_elem(OP_LIST, words,
6352                                             newSVOP(OP_CONST, 0, tokeq(sv)));
6353                     }
6354                 }
6355                 if (words) {
6356                     start_force(PL_curforce);
6357                     NEXTVAL_NEXTTOKE.opval = words;
6358                     force_next(THING);
6359                 }
6360             }
6361             if (PL_lex_stuff) {
6362                 SvREFCNT_dec(PL_lex_stuff);
6363                 PL_lex_stuff = NULL;
6364             }
6365             PL_expect = XTERM;
6366             TOKEN('(');
6367
6368         case KEY_qq:
6369             s = scan_str(s,!!PL_madskills,FALSE);
6370             if (!s)
6371                 missingterm(NULL);
6372             yylval.ival = OP_STRINGIFY;
6373             if (SvIVX(PL_lex_stuff) == '\'')
6374                 SvIV_set(PL_lex_stuff, 0);      /* qq'$foo' should intepolate */
6375             TERM(sublex_start());
6376
6377         case KEY_qr:
6378             s = scan_pat(s,OP_QR);
6379             TERM(sublex_start());
6380
6381         case KEY_qx:
6382             s = scan_str(s,!!PL_madskills,FALSE);
6383             if (!s)
6384                 missingterm(NULL);
6385             readpipe_override();
6386             TERM(sublex_start());
6387
6388         case KEY_return:
6389             OLDLOP(OP_RETURN);
6390
6391         case KEY_require:
6392             s = SKIPSPACE1(s);
6393             if (isDIGIT(*s)) {
6394                 s = force_version(s, FALSE);
6395             }
6396             else if (*s != 'v' || !isDIGIT(s[1])
6397                     || (s = force_version(s, TRUE), *s == 'v'))
6398             {
6399                 *PL_tokenbuf = '\0';
6400                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
6401                 if (isIDFIRST_lazy_if(PL_tokenbuf,UTF))
6402                     gv_stashpvn(PL_tokenbuf, strlen(PL_tokenbuf), GV_ADD);
6403                 else if (*s == '<')
6404                     yyerror("<> should be quotes");
6405             }
6406             if (orig_keyword == KEY_require) {
6407                 orig_keyword = 0;
6408                 yylval.ival = 1;
6409             }
6410             else
6411                 yylval.ival = 0;
6412             PL_expect = XTERM;
6413             PL_bufptr = s;
6414             PL_last_uni = PL_oldbufptr;
6415             PL_last_lop_op = OP_REQUIRE;
6416             s = skipspace(s);
6417             return REPORT( (int)REQUIRE );
6418
6419         case KEY_reset:
6420             UNI(OP_RESET);
6421
6422         case KEY_redo:
6423             s = force_word(s,WORD,TRUE,FALSE,FALSE);
6424             LOOPX(OP_REDO);
6425
6426         case KEY_rename:
6427             LOP(OP_RENAME,XTERM);
6428
6429         case KEY_rand:
6430             UNI(OP_RAND);
6431
6432         case KEY_rmdir:
6433             UNI(OP_RMDIR);
6434
6435         case KEY_rindex:
6436             LOP(OP_RINDEX,XTERM);
6437
6438         case KEY_read:
6439             LOP(OP_READ,XTERM);
6440
6441         case KEY_readdir:
6442             UNI(OP_READDIR);
6443
6444         case KEY_readline:
6445             UNIDOR(OP_READLINE);
6446
6447         case KEY_readpipe:
6448             UNIDOR(OP_BACKTICK);
6449
6450         case KEY_rewinddir:
6451             UNI(OP_REWINDDIR);
6452
6453         case KEY_recv:
6454             LOP(OP_RECV,XTERM);
6455
6456         case KEY_reverse:
6457             LOP(OP_REVERSE,XTERM);
6458
6459         case KEY_readlink:
6460             UNIDOR(OP_READLINK);
6461
6462         case KEY_ref:
6463             UNI(OP_REF);
6464
6465         case KEY_s:
6466             s = scan_subst(s);
6467             if (yylval.opval)
6468                 TERM(sublex_start());
6469             else
6470                 TOKEN(1);       /* force error */
6471
6472         case KEY_say:
6473             checkcomma(s,PL_tokenbuf,"filehandle");
6474             LOP(OP_SAY,XREF);
6475
6476         case KEY_chomp:
6477             UNI(OP_CHOMP);
6478
6479         case KEY_scalar:
6480             UNI(OP_SCALAR);
6481
6482         case KEY_select:
6483             LOP(OP_SELECT,XTERM);
6484
6485         case KEY_seek:
6486             LOP(OP_SEEK,XTERM);
6487
6488         case KEY_semctl:
6489             LOP(OP_SEMCTL,XTERM);
6490
6491         case KEY_semget:
6492             LOP(OP_SEMGET,XTERM);
6493
6494         case KEY_semop:
6495             LOP(OP_SEMOP,XTERM);
6496
6497         case KEY_send:
6498             LOP(OP_SEND,XTERM);
6499
6500         case KEY_setpgrp:
6501             LOP(OP_SETPGRP,XTERM);
6502
6503         case KEY_setpriority:
6504             LOP(OP_SETPRIORITY,XTERM);
6505
6506         case KEY_sethostent:
6507             UNI(OP_SHOSTENT);
6508
6509         case KEY_setnetent:
6510             UNI(OP_SNETENT);
6511
6512         case KEY_setservent:
6513             UNI(OP_SSERVENT);
6514
6515         case KEY_setprotoent:
6516             UNI(OP_SPROTOENT);
6517
6518         case KEY_setpwent:
6519             FUN0(OP_SPWENT);
6520
6521         case KEY_setgrent:
6522             FUN0(OP_SGRENT);
6523
6524         case KEY_seekdir:
6525             LOP(OP_SEEKDIR,XTERM);
6526
6527         case KEY_setsockopt:
6528             LOP(OP_SSOCKOPT,XTERM);
6529
6530         case KEY_shift:
6531             UNIDOR(OP_SHIFT);
6532
6533         case KEY_shmctl:
6534             LOP(OP_SHMCTL,XTERM);
6535
6536         case KEY_shmget:
6537             LOP(OP_SHMGET,XTERM);
6538
6539         case KEY_shmread:
6540             LOP(OP_SHMREAD,XTERM);
6541
6542         case KEY_shmwrite:
6543             LOP(OP_SHMWRITE,XTERM);
6544
6545         case KEY_shutdown:
6546             LOP(OP_SHUTDOWN,XTERM);
6547
6548         case KEY_sin:
6549             UNI(OP_SIN);
6550
6551         case KEY_sleep:
6552             UNI(OP_SLEEP);
6553
6554         case KEY_socket:
6555             LOP(OP_SOCKET,XTERM);
6556
6557         case KEY_socketpair:
6558             LOP(OP_SOCKPAIR,XTERM);
6559
6560         case KEY_sort:
6561             checkcomma(s,PL_tokenbuf,"subroutine name");
6562             s = SKIPSPACE1(s);
6563             if (*s == ';' || *s == ')')         /* probably a close */
6564                 Perl_croak(aTHX_ "sort is now a reserved word");
6565             PL_expect = XTERM;
6566             s = force_word(s,WORD,TRUE,TRUE,FALSE);
6567             LOP(OP_SORT,XREF);
6568
6569         case KEY_split:
6570             LOP(OP_SPLIT,XTERM);
6571
6572         case KEY_sprintf:
6573             LOP(OP_SPRINTF,XTERM);
6574
6575         case KEY_splice:
6576             LOP(OP_SPLICE,XTERM);
6577
6578         case KEY_sqrt:
6579             UNI(OP_SQRT);
6580
6581         case KEY_srand:
6582             UNI(OP_SRAND);
6583
6584         case KEY_stat:
6585             UNI(OP_STAT);
6586
6587         case KEY_study:
6588             UNI(OP_STUDY);
6589
6590         case KEY_substr:
6591             LOP(OP_SUBSTR,XTERM);
6592
6593         case KEY_format:
6594         case KEY_sub:
6595           really_sub:
6596             {
6597                 char tmpbuf[sizeof PL_tokenbuf];
6598                 SSize_t tboffset = 0;
6599                 expectation attrful;
6600                 bool have_name, have_proto;
6601                 const int key = tmp;
6602
6603 #ifdef PERL_MAD
6604                 SV *tmpwhite = 0;
6605
6606                 char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
6607                 SV *subtoken = newSVpvn(tstart, s - tstart);
6608                 PL_thistoken = 0;
6609
6610                 d = s;
6611                 s = SKIPSPACE2(s,tmpwhite);
6612 #else
6613                 s = skipspace(s);
6614 #endif
6615
6616                 if (isIDFIRST_lazy_if(s,UTF) || *s == '\'' ||
6617                     (*s == ':' && s[1] == ':'))
6618                 {
6619 #ifdef PERL_MAD
6620                     SV *nametoke;
6621 #endif
6622
6623                     PL_expect = XBLOCK;
6624                     attrful = XATTRBLOCK;
6625                     /* remember buffer pos'n for later force_word */
6626                     tboffset = s - PL_oldbufptr;
6627                     d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
6628 #ifdef PERL_MAD
6629                     if (PL_madskills)
6630                         nametoke = newSVpvn(s, d - s);
6631 #endif
6632                     if (memchr(tmpbuf, ':', len))
6633                         sv_setpvn(PL_subname, tmpbuf, len);
6634                     else {
6635                         sv_setsv(PL_subname,PL_curstname);
6636                         sv_catpvs(PL_subname,"::");
6637                         sv_catpvn(PL_subname,tmpbuf,len);
6638                     }
6639                     have_name = TRUE;
6640
6641 #ifdef PERL_MAD
6642
6643                     start_force(0);
6644                     CURMAD('X', nametoke);
6645                     CURMAD('_', tmpwhite);
6646                     (void) force_word(PL_oldbufptr + tboffset, WORD,
6647                                       FALSE, TRUE, TRUE);
6648
6649                     s = SKIPSPACE2(d,tmpwhite);
6650 #else
6651                     s = skipspace(d);
6652 #endif
6653                 }
6654                 else {
6655                     if (key == KEY_my)
6656                         Perl_croak(aTHX_ "Missing name in \"my sub\"");
6657                     PL_expect = XTERMBLOCK;
6658                     attrful = XATTRTERM;
6659                     sv_setpvn(PL_subname,"?",1);
6660                     have_name = FALSE;
6661                 }
6662
6663                 if (key == KEY_format) {
6664                     if (*s == '=')
6665                         PL_lex_formbrack = PL_lex_brackets + 1;
6666 #ifdef PERL_MAD
6667                     PL_thistoken = subtoken;
6668                     s = d;
6669 #else
6670                     if (have_name)
6671                         (void) force_word(PL_oldbufptr + tboffset, WORD,
6672                                           FALSE, TRUE, TRUE);
6673 #endif
6674                     OPERATOR(FORMAT);
6675                 }
6676
6677                 /* Look for a prototype */
6678                 if (*s == '(') {
6679                     char *p;
6680                     bool bad_proto = FALSE;
6681                     const bool warnsyntax = ckWARN(WARN_SYNTAX);
6682
6683                     s = scan_str(s,!!PL_madskills,FALSE);
6684                     if (!s)
6685                         Perl_croak(aTHX_ "Prototype not terminated");
6686                     /* strip spaces and check for bad characters */
6687                     d = SvPVX(PL_lex_stuff);
6688                     tmp = 0;
6689                     for (p = d; *p; ++p) {
6690                         if (!isSPACE(*p)) {
6691                             d[tmp++] = *p;
6692                             if (warnsyntax && !strchr("$@%*;[]&\\_", *p))
6693                                 bad_proto = TRUE;
6694                         }
6695                     }
6696                     d[tmp] = '\0';
6697                     if (bad_proto)
6698                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
6699                                     "Illegal character in prototype for %"SVf" : %s",
6700                                     SVfARG(PL_subname), d);
6701                     SvCUR_set(PL_lex_stuff, tmp);
6702                     have_proto = TRUE;
6703
6704 #ifdef PERL_MAD
6705                     start_force(0);
6706                     CURMAD('q', PL_thisopen);
6707                     CURMAD('_', tmpwhite);
6708                     CURMAD('=', PL_thisstuff);
6709                     CURMAD('Q', PL_thisclose);
6710                     NEXTVAL_NEXTTOKE.opval =
6711                         (OP*)newSVOP(OP_CONST, 0, PL_lex_stuff);
6712                     PL_lex_stuff = NULL;
6713                     force_next(THING);
6714
6715                     s = SKIPSPACE2(s,tmpwhite);
6716 #else
6717                     s = skipspace(s);
6718 #endif
6719                 }
6720                 else
6721                     have_proto = FALSE;
6722
6723                 if (*s == ':' && s[1] != ':')
6724                     PL_expect = attrful;
6725                 else if (*s != '{' && key == KEY_sub) {
6726                     if (!have_name)
6727                         Perl_croak(aTHX_ "Illegal declaration of anonymous subroutine");
6728                     else if (*s != ';')
6729                         Perl_croak(aTHX_ "Illegal declaration of subroutine %"SVf, SVfARG(PL_subname));
6730                 }
6731
6732 #ifdef PERL_MAD
6733                 start_force(0);
6734                 if (tmpwhite) {
6735                     if (PL_madskills)
6736                         curmad('^', newSVpvs(""));
6737                     CURMAD('_', tmpwhite);
6738                 }
6739                 force_next(0);
6740
6741                 PL_thistoken = subtoken;
6742 #else
6743                 if (have_proto) {
6744                     NEXTVAL_NEXTTOKE.opval =
6745                         (OP*)newSVOP(OP_CONST, 0, PL_lex_stuff);
6746                     PL_lex_stuff = NULL;
6747                     force_next(THING);
6748                 }
6749 #endif
6750                 if (!have_name) {
6751                     sv_setpv(PL_subname,
6752                              (const char *)
6753                              (PL_curstash ? "__ANON__" : "__ANON__::__ANON__"));
6754                     TOKEN(ANONSUB);
6755                 }
6756 #ifndef PERL_MAD
6757                 (void) force_word(PL_oldbufptr + tboffset, WORD,
6758                                   FALSE, TRUE, TRUE);
6759 #endif
6760                 if (key == KEY_my)
6761                     TOKEN(MYSUB);
6762                 TOKEN(SUB);
6763             }
6764
6765         case KEY_system:
6766             LOP(OP_SYSTEM,XREF);
6767
6768         case KEY_symlink:
6769             LOP(OP_SYMLINK,XTERM);
6770
6771         case KEY_syscall:
6772             LOP(OP_SYSCALL,XTERM);
6773
6774         case KEY_sysopen:
6775             LOP(OP_SYSOPEN,XTERM);
6776
6777         case KEY_sysseek:
6778             LOP(OP_SYSSEEK,XTERM);
6779
6780         case KEY_sysread:
6781             LOP(OP_SYSREAD,XTERM);
6782
6783         case KEY_syswrite:
6784             LOP(OP_SYSWRITE,XTERM);
6785
6786         case KEY_tr:
6787             s = scan_trans(s);
6788             TERM(sublex_start());
6789
6790         case KEY_tell:
6791             UNI(OP_TELL);
6792
6793         case KEY_telldir:
6794             UNI(OP_TELLDIR);
6795
6796         case KEY_tie:
6797             LOP(OP_TIE,XTERM);
6798
6799         case KEY_tied:
6800             UNI(OP_TIED);
6801
6802         case KEY_time:
6803             FUN0(OP_TIME);
6804
6805         case KEY_times:
6806             FUN0(OP_TMS);
6807
6808         case KEY_truncate:
6809             LOP(OP_TRUNCATE,XTERM);
6810
6811         case KEY_uc:
6812             UNI(OP_UC);
6813
6814         case KEY_ucfirst:
6815             UNI(OP_UCFIRST);
6816
6817         case KEY_untie:
6818             UNI(OP_UNTIE);
6819
6820         case KEY_until:
6821             yylval.ival = CopLINE(PL_curcop);
6822             OPERATOR(UNTIL);
6823
6824         case KEY_unless:
6825             yylval.ival = CopLINE(PL_curcop);
6826             OPERATOR(UNLESS);
6827
6828         case KEY_unlink:
6829             LOP(OP_UNLINK,XTERM);
6830
6831         case KEY_undef:
6832             UNIDOR(OP_UNDEF);
6833
6834         case KEY_unpack:
6835             LOP(OP_UNPACK,XTERM);
6836
6837         case KEY_utime:
6838             LOP(OP_UTIME,XTERM);
6839
6840         case KEY_umask:
6841             UNIDOR(OP_UMASK);
6842
6843         case KEY_unshift:
6844             LOP(OP_UNSHIFT,XTERM);
6845
6846         case KEY_use:
6847             s = tokenize_use(1, s);
6848             OPERATOR(USE);
6849
6850         case KEY_values:
6851             UNI(OP_VALUES);
6852
6853         case KEY_vec:
6854             LOP(OP_VEC,XTERM);
6855
6856         case KEY_when:
6857             yylval.ival = CopLINE(PL_curcop);
6858             OPERATOR(WHEN);
6859
6860         case KEY_while:
6861             yylval.ival = CopLINE(PL_curcop);
6862             OPERATOR(WHILE);
6863
6864         case KEY_warn:
6865             PL_hints |= HINT_BLOCK_SCOPE;
6866             LOP(OP_WARN,XTERM);
6867
6868         case KEY_wait:
6869             FUN0(OP_WAIT);
6870
6871         case KEY_waitpid:
6872             LOP(OP_WAITPID,XTERM);
6873
6874         case KEY_wantarray:
6875             FUN0(OP_WANTARRAY);
6876
6877         case KEY_write:
6878 #ifdef EBCDIC
6879         {
6880             char ctl_l[2];
6881             ctl_l[0] = toCTRL('L');
6882             ctl_l[1] = '\0';
6883             gv_fetchpvn_flags(ctl_l, 1, GV_ADD|GV_NOTQUAL, SVt_PV);
6884         }
6885 #else
6886             /* Make sure $^L is defined */
6887             gv_fetchpvs("\f", GV_ADD|GV_NOTQUAL, SVt_PV);
6888 #endif
6889             UNI(OP_ENTERWRITE);
6890
6891         case KEY_x:
6892             if (PL_expect == XOPERATOR)
6893                 Mop(OP_REPEAT);
6894             check_uni();
6895             goto just_a_word;
6896
6897         case KEY_xor:
6898             yylval.ival = OP_XOR;
6899             OPERATOR(OROP);
6900
6901         case KEY_y:
6902             s = scan_trans(s);
6903             TERM(sublex_start());
6904         }
6905     }}
6906 }
6907 #ifdef __SC__
6908 #pragma segment Main
6909 #endif
6910
6911 static int
6912 S_pending_ident(pTHX)
6913 {
6914     dVAR;
6915     register char *d;
6916     PADOFFSET tmp = 0;
6917     /* pit holds the identifier we read and pending_ident is reset */
6918     char pit = PL_pending_ident;
6919     const STRLEN tokenbuf_len = strlen(PL_tokenbuf);
6920     /* All routes through this function want to know if there is a colon.  */
6921     const char *const has_colon = memchr (PL_tokenbuf, ':', tokenbuf_len);
6922     PL_pending_ident = 0;
6923
6924     /* PL_realtokenstart = realtokenend = PL_bufptr - SvPVX(PL_linestr); */
6925     DEBUG_T({ PerlIO_printf(Perl_debug_log,
6926           "### Pending identifier '%s'\n", PL_tokenbuf); });
6927
6928     /* if we're in a my(), we can't allow dynamics here.
6929        $foo'bar has already been turned into $foo::bar, so
6930        just check for colons.
6931
6932        if it's a legal name, the OP is a PADANY.
6933     */
6934     if (PL_in_my) {
6935         if (PL_in_my == KEY_our) {      /* "our" is merely analogous to "my" */
6936             if (has_colon)
6937                 yyerror(Perl_form(aTHX_ "No package name allowed for "
6938                                   "variable %s in \"our\"",
6939                                   PL_tokenbuf));
6940             tmp = allocmy(PL_tokenbuf);
6941         }
6942         else {
6943             if (has_colon)
6944                 yyerror(Perl_form(aTHX_ PL_no_myglob,
6945                             PL_in_my == KEY_my ? "my" : "state", PL_tokenbuf));
6946
6947             yylval.opval = newOP(OP_PADANY, 0);
6948             yylval.opval->op_targ = allocmy(PL_tokenbuf);
6949             return PRIVATEREF;
6950         }
6951     }
6952
6953     /*
6954        build the ops for accesses to a my() variable.
6955
6956        Deny my($a) or my($b) in a sort block, *if* $a or $b is
6957        then used in a comparison.  This catches most, but not
6958        all cases.  For instance, it catches
6959            sort { my($a); $a <=> $b }
6960        but not
6961            sort { my($a); $a < $b ? -1 : $a == $b ? 0 : 1; }
6962        (although why you'd do that is anyone's guess).
6963     */
6964
6965     if (!has_colon) {
6966         if (!PL_in_my)
6967             tmp = pad_findmy(PL_tokenbuf);
6968         if (tmp != NOT_IN_PAD) {
6969             /* might be an "our" variable" */
6970             if (PAD_COMPNAME_FLAGS_isOUR(tmp)) {
6971                 /* build ops for a bareword */
6972                 HV *  const stash = PAD_COMPNAME_OURSTASH(tmp);
6973                 HEK * const stashname = HvNAME_HEK(stash);
6974                 SV *  const sym = newSVhek(stashname);
6975                 sv_catpvs(sym, "::");
6976                 sv_catpvn(sym, PL_tokenbuf+1, tokenbuf_len - 1);
6977                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sym);
6978                 yylval.opval->op_private = OPpCONST_ENTERED;
6979                 gv_fetchsv(sym,
6980                     (PL_in_eval
6981                         ? (GV_ADDMULTI | GV_ADDINEVAL)
6982                         : GV_ADDMULTI
6983                     ),
6984                     ((PL_tokenbuf[0] == '$') ? SVt_PV
6985                      : (PL_tokenbuf[0] == '@') ? SVt_PVAV
6986                      : SVt_PVHV));
6987                 return WORD;
6988             }
6989
6990             /* if it's a sort block and they're naming $a or $b */
6991             if (PL_last_lop_op == OP_SORT &&
6992                 PL_tokenbuf[0] == '$' &&
6993                 (PL_tokenbuf[1] == 'a' || PL_tokenbuf[1] == 'b')
6994                 && !PL_tokenbuf[2])
6995             {
6996                 for (d = PL_in_eval ? PL_oldoldbufptr : PL_linestart;
6997                      d < PL_bufend && *d != '\n';
6998                      d++)
6999                 {
7000                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
7001                         Perl_croak(aTHX_ "Can't use \"my %s\" in sort comparison",
7002                               PL_tokenbuf);
7003                     }
7004                 }
7005             }
7006
7007             yylval.opval = newOP(OP_PADANY, 0);
7008             yylval.opval->op_targ = tmp;
7009             return PRIVATEREF;
7010         }
7011     }
7012
7013     /*
7014        Whine if they've said @foo in a doublequoted string,
7015        and @foo isn't a variable we can find in the symbol
7016        table.
7017     */
7018     if (pit == '@' && PL_lex_state != LEX_NORMAL && !PL_lex_brackets) {
7019         GV *const gv = gv_fetchpvn_flags(PL_tokenbuf + 1, tokenbuf_len - 1, 0,
7020                                          SVt_PVAV);
7021         if ((!gv || ((PL_tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
7022                 && ckWARN(WARN_AMBIGUOUS)
7023                 /* DO NOT warn for @- and @+ */
7024                 && !( PL_tokenbuf[2] == '\0' &&
7025                     ( PL_tokenbuf[1] == '-' || PL_tokenbuf[1] == '+' ))
7026            )
7027         {
7028             /* Downgraded from fatal to warning 20000522 mjd */
7029             Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
7030                         "Possible unintended interpolation of %s in string",
7031                          PL_tokenbuf);
7032         }
7033     }
7034
7035     /* build ops for a bareword */
7036     yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpvn(PL_tokenbuf + 1,
7037                                                       tokenbuf_len - 1));
7038     yylval.opval->op_private = OPpCONST_ENTERED;
7039     gv_fetchpvn_flags(
7040             PL_tokenbuf + 1, tokenbuf_len - 1,
7041             /* If the identifier refers to a stash, don't autovivify it.
7042              * Change 24660 had the side effect of causing symbol table
7043              * hashes to always be defined, even if they were freshly
7044              * created and the only reference in the entire program was
7045              * the single statement with the defined %foo::bar:: test.
7046              * It appears that all code in the wild doing this actually
7047              * wants to know whether sub-packages have been loaded, so
7048              * by avoiding auto-vivifying symbol tables, we ensure that
7049              * defined %foo::bar:: continues to be false, and the existing
7050              * tests still give the expected answers, even though what
7051              * they're actually testing has now changed subtly.
7052              */
7053             (*PL_tokenbuf == '%'
7054              && *(d = PL_tokenbuf + tokenbuf_len - 1) == ':'
7055              && d[-1] == ':'
7056              ? 0
7057              : PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL) : GV_ADD),
7058             ((PL_tokenbuf[0] == '$') ? SVt_PV
7059              : (PL_tokenbuf[0] == '@') ? SVt_PVAV
7060              : SVt_PVHV));
7061     return WORD;
7062 }
7063
7064 /*
7065  *  The following code was generated by perl_keyword.pl.
7066  */
7067
7068 I32
7069 Perl_keyword (pTHX_ const char *name, I32 len, bool all_keywords)
7070 {
7071     dVAR;
7072   switch (len)
7073   {
7074     case 1: /* 5 tokens of length 1 */
7075       switch (name[0])
7076       {
7077         case 'm':
7078           {                                       /* m          */
7079             return KEY_m;
7080           }
7081
7082         case 'q':
7083           {                                       /* q          */
7084             return KEY_q;
7085           }
7086
7087         case 's':
7088           {                                       /* s          */
7089             return KEY_s;
7090           }
7091
7092         case 'x':
7093           {                                       /* x          */
7094             return -KEY_x;
7095           }
7096
7097         case 'y':
7098           {                                       /* y          */
7099             return KEY_y;
7100           }
7101
7102         default:
7103           goto unknown;
7104       }
7105
7106     case 2: /* 18 tokens of length 2 */
7107       switch (name[0])
7108       {
7109         case 'd':
7110           if (name[1] == 'o')
7111           {                                       /* do         */
7112             return KEY_do;
7113           }
7114
7115           goto unknown;
7116
7117         case 'e':
7118           if (name[1] == 'q')
7119           {                                       /* eq         */
7120             return -KEY_eq;
7121           }
7122
7123           goto unknown;
7124
7125         case 'g':
7126           switch (name[1])
7127           {
7128             case 'e':
7129               {                                   /* ge         */
7130                 return -KEY_ge;
7131               }
7132
7133             case 't':
7134               {                                   /* gt         */
7135                 return -KEY_gt;
7136               }
7137
7138             default:
7139               goto unknown;
7140           }
7141
7142         case 'i':
7143           if (name[1] == 'f')
7144           {                                       /* if         */
7145             return KEY_if;
7146           }
7147
7148           goto unknown;
7149
7150         case 'l':
7151           switch (name[1])
7152           {
7153             case 'c':
7154               {                                   /* lc         */
7155                 return -KEY_lc;
7156               }
7157
7158             case 'e':
7159               {                                   /* le         */
7160                 return -KEY_le;
7161               }
7162
7163             case 't':
7164               {                                   /* lt         */
7165                 return -KEY_lt;
7166               }
7167
7168             default:
7169               goto unknown;
7170           }
7171
7172         case 'm':
7173           if (name[1] == 'y')
7174           {                                       /* my         */
7175             return KEY_my;
7176           }
7177
7178           goto unknown;
7179
7180         case 'n':
7181           switch (name[1])
7182           {
7183             case 'e':
7184               {                                   /* ne         */
7185                 return -KEY_ne;
7186               }
7187
7188             case 'o':
7189               {                                   /* no         */
7190                 return KEY_no;
7191               }
7192
7193             default:
7194               goto unknown;
7195           }
7196
7197         case 'o':
7198           if (name[1] == 'r')
7199           {                                       /* or         */
7200             return -KEY_or;
7201           }
7202
7203           goto unknown;
7204
7205         case 'q':
7206           switch (name[1])
7207           {
7208             case 'q':
7209               {                                   /* qq         */
7210                 return KEY_qq;
7211               }
7212
7213             case 'r':
7214               {                                   /* qr         */
7215                 return KEY_qr;
7216               }
7217
7218             case 'w':
7219               {                                   /* qw         */
7220                 return KEY_qw;
7221               }
7222
7223             case 'x':
7224               {                                   /* qx         */
7225                 return KEY_qx;
7226               }
7227
7228             default:
7229               goto unknown;
7230           }
7231
7232         case 't':
7233           if (name[1] == 'r')
7234           {                                       /* tr         */
7235             return KEY_tr;
7236           }
7237
7238           goto unknown;
7239
7240         case 'u':
7241           if (name[1] == 'c')
7242           {                                       /* uc         */
7243             return -KEY_uc;
7244           }
7245
7246           goto unknown;
7247
7248         default:
7249           goto unknown;
7250       }
7251
7252     case 3: /* 29 tokens of length 3 */
7253       switch (name[0])
7254       {
7255         case 'E':
7256           if (name[1] == 'N' &&
7257               name[2] == 'D')
7258           {                                       /* END        */
7259             return KEY_END;
7260           }
7261
7262           goto unknown;
7263
7264         case 'a':
7265           switch (name[1])
7266           {
7267             case 'b':
7268               if (name[2] == 's')
7269               {                                   /* abs        */
7270                 return -KEY_abs;
7271               }
7272
7273               goto unknown;
7274
7275             case 'n':
7276               if (name[2] == 'd')
7277               {                                   /* and        */
7278                 return -KEY_and;
7279               }
7280
7281               goto unknown;
7282
7283             default:
7284               goto unknown;
7285           }
7286
7287         case 'c':
7288           switch (name[1])
7289           {
7290             case 'h':
7291               if (name[2] == 'r')
7292               {                                   /* chr        */
7293                 return -KEY_chr;
7294               }
7295
7296               goto unknown;
7297
7298             case 'm':
7299               if (name[2] == 'p')
7300               {                                   /* cmp        */
7301                 return -KEY_cmp;
7302               }
7303
7304               goto unknown;
7305
7306             case 'o':
7307               if (name[2] == 's')
7308               {                                   /* cos        */
7309                 return -KEY_cos;
7310               }
7311
7312               goto unknown;
7313
7314             default:
7315               goto unknown;
7316           }
7317
7318         case 'd':
7319           if (name[1] == 'i' &&
7320               name[2] == 'e')
7321           {                                       /* die        */
7322             return -KEY_die;
7323           }
7324
7325           goto unknown;
7326
7327         case 'e':
7328           switch (name[1])
7329           {
7330             case 'o':
7331               if (name[2] == 'f')
7332               {                                   /* eof        */
7333                 return -KEY_eof;
7334               }
7335
7336               goto unknown;
7337
7338             case 'x':
7339               if (name[2] == 'p')
7340               {                                   /* exp        */
7341                 return -KEY_exp;
7342               }
7343
7344               goto unknown;
7345
7346             default:
7347               goto unknown;
7348           }
7349
7350         case 'f':
7351           if (name[1] == 'o' &&
7352               name[2] == 'r')
7353           {                                       /* for        */
7354             return KEY_for;
7355           }
7356
7357           goto unknown;
7358
7359         case 'h':
7360           if (name[1] == 'e' &&
7361               name[2] == 'x')
7362           {                                       /* hex        */
7363             return -KEY_hex;
7364           }
7365
7366           goto unknown;
7367
7368         case 'i':
7369           if (name[1] == 'n' &&
7370               name[2] == 't')
7371           {                                       /* int        */
7372             return -KEY_int;
7373           }
7374
7375           goto unknown;
7376
7377         case 'l':
7378           if (name[1] == 'o' &&
7379               name[2] == 'g')
7380           {                                       /* log        */
7381             return -KEY_log;
7382           }
7383
7384           goto unknown;
7385
7386         case 'm':
7387           if (name[1] == 'a' &&
7388               name[2] == 'p')
7389           {                                       /* map        */
7390             return KEY_map;
7391           }
7392
7393           goto unknown;
7394
7395         case 'n':
7396           if (name[1] == 'o' &&
7397               name[2] == 't')
7398           {                                       /* not        */
7399             return -KEY_not;
7400           }
7401
7402           goto unknown;
7403
7404         case 'o':
7405           switch (name[1])
7406           {
7407             case 'c':
7408               if (name[2] == 't')
7409               {                                   /* oct        */
7410                 return -KEY_oct;
7411               }
7412
7413               goto unknown;
7414
7415             case 'r':
7416               if (name[2] == 'd')
7417               {                                   /* ord        */
7418                 return -KEY_ord;
7419               }
7420
7421               goto unknown;
7422
7423             case 'u':
7424               if (name[2] == 'r')
7425               {                                   /* our        */
7426                 return KEY_our;
7427               }
7428
7429               goto unknown;
7430
7431             default:
7432               goto unknown;
7433           }
7434
7435         case 'p':
7436           if (name[1] == 'o')
7437           {
7438             switch (name[2])
7439             {
7440               case 'p':
7441                 {                                 /* pop        */
7442                   return -KEY_pop;
7443                 }
7444
7445               case 's':
7446                 {                                 /* pos        */
7447                   return KEY_pos;
7448                 }
7449
7450               default:
7451                 goto unknown;
7452             }
7453           }
7454
7455           goto unknown;
7456
7457         case 'r':
7458           if (name[1] == 'e' &&
7459               name[2] == 'f')
7460           {                                       /* ref        */
7461             return -KEY_ref;
7462           }
7463
7464           goto unknown;
7465
7466         case 's':
7467           switch (name[1])
7468           {
7469             case 'a':
7470               if (name[2] == 'y')
7471               {                                   /* say        */
7472                 return (all_keywords || FEATURE_IS_ENABLED("say") ? KEY_say : 0);
7473               }
7474
7475               goto unknown;
7476
7477             case 'i':
7478               if (name[2] == 'n')
7479               {                                   /* sin        */
7480                 return -KEY_sin;
7481               }
7482
7483               goto unknown;
7484
7485             case 'u':
7486               if (name[2] == 'b')
7487               {                                   /* sub        */
7488                 return KEY_sub;
7489               }
7490
7491               goto unknown;
7492
7493             default:
7494               goto unknown;
7495           }
7496
7497         case 't':
7498           if (name[1] == 'i' &&
7499               name[2] == 'e')
7500           {                                       /* tie        */
7501             return KEY_tie;
7502           }
7503
7504           goto unknown;
7505
7506         case 'u':
7507           if (name[1] == 's' &&
7508               name[2] == 'e')
7509           {                                       /* use        */
7510             return KEY_use;
7511           }
7512
7513           goto unknown;
7514
7515         case 'v':
7516           if (name[1] == 'e' &&
7517               name[2] == 'c')
7518           {                                       /* vec        */
7519             return -KEY_vec;
7520           }
7521
7522           goto unknown;
7523
7524         case 'x':
7525           if (name[1] == 'o' &&
7526               name[2] == 'r')
7527           {                                       /* xor        */
7528             return -KEY_xor;
7529           }
7530
7531           goto unknown;
7532
7533         default:
7534           goto unknown;
7535       }
7536
7537     case 4: /* 41 tokens of length 4 */
7538       switch (name[0])
7539       {
7540         case 'C':
7541           if (name[1] == 'O' &&
7542               name[2] == 'R' &&
7543               name[3] == 'E')
7544           {                                       /* CORE       */
7545             return -KEY_CORE;
7546           }
7547
7548           goto unknown;
7549
7550         case 'I':
7551           if (name[1] == 'N' &&
7552               name[2] == 'I' &&
7553               name[3] == 'T')
7554           {                                       /* INIT       */
7555             return KEY_INIT;
7556           }
7557
7558           goto unknown;
7559
7560         case 'b':
7561           if (name[1] == 'i' &&
7562               name[2] == 'n' &&
7563               name[3] == 'd')
7564           {                                       /* bind       */
7565             return -KEY_bind;
7566           }
7567
7568           goto unknown;
7569
7570         case 'c':
7571           if (name[1] == 'h' &&
7572               name[2] == 'o' &&
7573               name[3] == 'p')
7574           {                                       /* chop       */
7575             return -KEY_chop;
7576           }
7577
7578           goto unknown;
7579
7580         case 'd':
7581           if (name[1] == 'u' &&
7582               name[2] == 'm' &&
7583               name[3] == 'p')
7584           {                                       /* dump       */
7585             return -KEY_dump;
7586           }
7587
7588           goto unknown;
7589
7590         case 'e':
7591           switch (name[1])
7592           {
7593             case 'a':
7594               if (name[2] == 'c' &&
7595                   name[3] == 'h')
7596               {                                   /* each       */
7597                 return -KEY_each;
7598               }
7599
7600               goto unknown;
7601
7602             case 'l':
7603               if (name[2] == 's' &&
7604                   name[3] == 'e')
7605               {                                   /* else       */
7606                 return KEY_else;
7607               }
7608
7609               goto unknown;
7610
7611             case 'v':
7612               if (name[2] == 'a' &&
7613                   name[3] == 'l')
7614               {                                   /* eval       */
7615                 return KEY_eval;
7616               }
7617
7618               goto unknown;
7619
7620             case 'x':
7621               switch (name[2])
7622               {
7623                 case 'e':
7624                   if (name[3] == 'c')
7625                   {                               /* exec       */
7626                     return -KEY_exec;
7627                   }
7628
7629                   goto unknown;
7630
7631                 case 'i':
7632                   if (name[3] == 't')
7633                   {                               /* exit       */
7634                     return -KEY_exit;
7635                   }
7636
7637                   goto unknown;
7638
7639                 default:
7640                   goto unknown;
7641               }
7642
7643             default:
7644               goto unknown;
7645           }
7646
7647         case 'f':
7648           if (name[1] == 'o' &&
7649               name[2] == 'r' &&
7650               name[3] == 'k')
7651           {                                       /* fork       */
7652             return -KEY_fork;
7653           }
7654
7655           goto unknown;
7656
7657         case 'g':
7658           switch (name[1])
7659           {
7660             case 'e':
7661               if (name[2] == 't' &&
7662                   name[3] == 'c')
7663               {                                   /* getc       */
7664                 return -KEY_getc;
7665               }
7666
7667               goto unknown;
7668
7669             case 'l':
7670               if (name[2] == 'o' &&
7671                   name[3] == 'b')
7672               {                                   /* glob       */
7673                 return KEY_glob;
7674               }
7675
7676               goto unknown;
7677
7678             case 'o':
7679               if (name[2] == 't' &&
7680                   name[3] == 'o')
7681               {                                   /* goto       */
7682                 return KEY_goto;
7683               }
7684
7685               goto unknown;
7686
7687             case 'r':
7688               if (name[2] == 'e' &&
7689                   name[3] == 'p')
7690               {                                   /* grep       */
7691                 return KEY_grep;
7692               }
7693
7694               goto unknown;
7695
7696             default:
7697               goto unknown;
7698           }
7699
7700         case 'j':
7701           if (name[1] == 'o' &&
7702               name[2] == 'i' &&
7703               name[3] == 'n')
7704           {                                       /* join       */
7705             return -KEY_join;
7706           }
7707
7708           goto unknown;
7709
7710         case 'k':
7711           switch (name[1])
7712           {
7713             case 'e':
7714               if (name[2] == 'y' &&
7715                   name[3] == 's')
7716               {                                   /* keys       */
7717                 return -KEY_keys;
7718               }
7719
7720               goto unknown;
7721
7722             case 'i':
7723               if (name[2] == 'l' &&
7724                   name[3] == 'l')
7725               {                                   /* kill       */
7726                 return -KEY_kill;
7727               }
7728
7729               goto unknown;
7730
7731             default:
7732               goto unknown;
7733           }
7734
7735         case 'l':
7736           switch (name[1])
7737           {
7738             case 'a':
7739               if (name[2] == 's' &&
7740                   name[3] == 't')
7741               {                                   /* last       */
7742                 return KEY_last;
7743               }
7744
7745               goto unknown;
7746
7747             case 'i':
7748               if (name[2] == 'n' &&
7749                   name[3] == 'k')
7750               {                                   /* link       */
7751                 return -KEY_link;
7752               }
7753
7754               goto unknown;
7755
7756             case 'o':
7757               if (name[2] == 'c' &&
7758                   name[3] == 'k')
7759               {                                   /* lock       */
7760                 return -KEY_lock;
7761               }
7762
7763               goto unknown;
7764
7765             default:
7766               goto unknown;
7767           }
7768
7769         case 'n':
7770           if (name[1] == 'e' &&
7771               name[2] == 'x' &&
7772               name[3] == 't')
7773           {                                       /* next       */
7774             return KEY_next;
7775           }
7776
7777           goto unknown;
7778
7779         case 'o':
7780           if (name[1] == 'p' &&
7781               name[2] == 'e' &&
7782               name[3] == 'n')
7783           {                                       /* open       */
7784             return -KEY_open;
7785           }
7786
7787           goto unknown;
7788
7789         case 'p':
7790           switch (name[1])
7791           {
7792             case 'a':
7793               if (name[2] == 'c' &&
7794                   name[3] == 'k')
7795               {                                   /* pack       */
7796                 return -KEY_pack;
7797               }
7798
7799               goto unknown;
7800
7801             case 'i':
7802               if (name[2] == 'p' &&
7803                   name[3] == 'e')
7804               {                                   /* pipe       */
7805                 return -KEY_pipe;
7806               }
7807
7808               goto unknown;
7809
7810             case 'u':
7811               if (name[2] == 's' &&
7812                   name[3] == 'h')
7813               {                                   /* push       */
7814                 return -KEY_push;
7815               }
7816
7817               goto unknown;
7818
7819             default:
7820               goto unknown;
7821           }
7822
7823         case 'r':
7824           switch (name[1])
7825           {
7826             case 'a':
7827               if (name[2] == 'n' &&
7828                   name[3] == 'd')
7829               {                                   /* rand       */
7830                 return -KEY_rand;
7831               }
7832
7833               goto unknown;
7834
7835             case 'e':
7836               switch (name[2])
7837               {
7838                 case 'a':
7839                   if (name[3] == 'd')
7840                   {                               /* read       */
7841                     return -KEY_read;
7842                   }
7843
7844                   goto unknown;
7845
7846                 case 'c':
7847                   if (name[3] == 'v')
7848                   {                               /* recv       */
7849                     return -KEY_recv;
7850                   }
7851
7852                   goto unknown;
7853
7854                 case 'd':
7855                   if (name[3] == 'o')
7856                   {                               /* redo       */
7857                     return KEY_redo;
7858                   }
7859
7860                   goto unknown;
7861
7862                 default:
7863                   goto unknown;
7864               }
7865
7866             default:
7867               goto unknown;
7868           }
7869
7870         case 's':
7871           switch (name[1])
7872           {
7873             case 'e':
7874               switch (name[2])
7875               {
7876                 case 'e':
7877                   if (name[3] == 'k')
7878                   {                               /* seek       */
7879                     return -KEY_seek;
7880                   }
7881
7882                   goto unknown;
7883
7884                 case 'n':
7885                   if (name[3] == 'd')
7886                   {                               /* send       */
7887                     return -KEY_send;
7888                   }
7889
7890                   goto unknown;
7891
7892                 default:
7893                   goto unknown;
7894               }
7895
7896             case 'o':
7897               if (name[2] == 'r' &&
7898                   name[3] == 't')
7899               {                                   /* sort       */
7900                 return KEY_sort;
7901               }
7902
7903               goto unknown;
7904
7905             case 'q':
7906               if (name[2] == 'r' &&
7907                   name[3] == 't')
7908               {                                   /* sqrt       */
7909                 return -KEY_sqrt;
7910               }
7911
7912               goto unknown;
7913
7914             case 't':
7915               if (name[2] == 'a' &&
7916                   name[3] == 't')
7917               {                                   /* stat       */
7918                 return -KEY_stat;
7919               }
7920
7921               goto unknown;
7922
7923             default:
7924               goto unknown;
7925           }
7926
7927         case 't':
7928           switch (name[1])
7929           {
7930             case 'e':
7931               if (name[2] == 'l' &&
7932                   name[3] == 'l')
7933               {                                   /* tell       */
7934                 return -KEY_tell;
7935               }
7936
7937               goto unknown;
7938
7939             case 'i':
7940               switch (name[2])
7941               {
7942                 case 'e':
7943                   if (name[3] == 'd')
7944                   {                               /* tied       */
7945                     return KEY_tied;
7946                   }
7947
7948                   goto unknown;
7949
7950                 case 'm':
7951                   if (name[3] == 'e')
7952                   {                               /* time       */
7953                     return -KEY_time;
7954                   }
7955
7956                   goto unknown;
7957
7958                 default:
7959                   goto unknown;
7960               }
7961
7962             default:
7963               goto unknown;
7964           }
7965
7966         case 'w':
7967           switch (name[1])
7968           {
7969             case 'a':
7970               switch (name[2])
7971               {
7972                 case 'i':
7973                   if (name[3] == 't')
7974                   {                               /* wait       */
7975                     return -KEY_wait;
7976                   }
7977
7978                   goto unknown;
7979
7980                 case 'r':
7981                   if (name[3] == 'n')
7982                   {                               /* warn       */
7983                     return -KEY_warn;
7984                   }
7985
7986                   goto unknown;
7987
7988                 default:
7989                   goto unknown;
7990               }
7991
7992             case 'h':
7993               if (name[2] == 'e' &&
7994                   name[3] == 'n')
7995               {                                   /* when       */
7996                 return (all_keywords || FEATURE_IS_ENABLED("switch") ? KEY_when : 0);
7997               }
7998
7999               goto unknown;
8000
8001             default:
8002               goto unknown;
8003           }
8004
8005         default:
8006           goto unknown;
8007       }
8008
8009     case 5: /* 39 tokens of length 5 */
8010       switch (name[0])
8011       {
8012         case 'B':
8013           if (name[1] == 'E' &&
8014               name[2] == 'G' &&
8015               name[3] == 'I' &&
8016               name[4] == 'N')
8017           {                                       /* BEGIN      */
8018             return KEY_BEGIN;
8019           }
8020
8021           goto unknown;
8022
8023         case 'C':
8024           if (name[1] == 'H' &&
8025               name[2] == 'E' &&
8026               name[3] == 'C' &&
8027               name[4] == 'K')
8028           {                                       /* CHECK      */
8029             return KEY_CHECK;
8030           }
8031
8032           goto unknown;
8033
8034         case 'a':
8035           switch (name[1])
8036           {
8037             case 'l':
8038               if (name[2] == 'a' &&
8039                   name[3] == 'r' &&
8040                   name[4] == 'm')
8041               {                                   /* alarm      */
8042                 return -KEY_alarm;
8043               }
8044
8045               goto unknown;
8046
8047             case 't':
8048               if (name[2] == 'a' &&
8049                   name[3] == 'n' &&
8050                   name[4] == '2')
8051               {                                   /* atan2      */
8052                 return -KEY_atan2;
8053               }
8054
8055               goto unknown;
8056
8057             default:
8058               goto unknown;
8059           }
8060
8061         case 'b':
8062           switch (name[1])
8063           {
8064             case 'l':
8065               if (name[2] == 'e' &&
8066                   name[3] == 's' &&
8067                   name[4] == 's')
8068               {                                   /* bless      */
8069                 return -KEY_bless;
8070               }
8071
8072               goto unknown;
8073
8074             case 'r':
8075               if (name[2] == 'e' &&
8076                   name[3] == 'a' &&
8077                   name[4] == 'k')
8078               {                                   /* break      */
8079                 return (all_keywords || FEATURE_IS_ENABLED("switch") ? -KEY_break : 0);
8080               }
8081
8082               goto unknown;
8083
8084             default:
8085               goto unknown;
8086           }
8087
8088         case 'c':
8089           switch (name[1])
8090           {
8091             case 'h':
8092               switch (name[2])
8093               {
8094                 case 'd':
8095                   if (name[3] == 'i' &&
8096                       name[4] == 'r')
8097                   {                               /* chdir      */
8098                     return -KEY_chdir;
8099                   }
8100
8101                   goto unknown;
8102
8103                 case 'm':
8104                   if (name[3] == 'o' &&
8105                       name[4] == 'd')
8106                   {                               /* chmod      */
8107                     return -KEY_chmod;
8108                   }
8109
8110                   goto unknown;
8111
8112                 case 'o':
8113                   switch (name[3])
8114                   {
8115                     case 'm':
8116                       if (name[4] == 'p')
8117                       {                           /* chomp      */
8118                         return -KEY_chomp;
8119                       }
8120
8121                       goto unknown;
8122
8123                     case 'w':
8124                       if (name[4] == 'n')
8125                       {                           /* chown      */
8126                         return -KEY_chown;
8127                       }
8128
8129                       goto unknown;
8130
8131                     default:
8132                       goto unknown;
8133                   }
8134
8135                 default:
8136                   goto unknown;
8137               }
8138
8139             case 'l':
8140               if (name[2] == 'o' &&
8141                   name[3] == 's' &&
8142                   name[4] == 'e')
8143               {                                   /* close      */
8144                 return -KEY_close;
8145               }
8146
8147               goto unknown;
8148
8149             case 'r':
8150               if (name[2] == 'y' &&
8151                   name[3] == 'p' &&
8152                   name[4] == 't')
8153               {                                   /* crypt      */
8154                 return -KEY_crypt;
8155               }
8156
8157               goto unknown;
8158
8159             default:
8160               goto unknown;
8161           }
8162
8163         case 'e':
8164           if (name[1] == 'l' &&
8165               name[2] == 's' &&
8166               name[3] == 'i' &&
8167               name[4] == 'f')
8168           {                                       /* elsif      */
8169             return KEY_elsif;
8170           }
8171
8172           goto unknown;
8173
8174         case 'f':
8175           switch (name[1])
8176           {
8177             case 'c':
8178               if (name[2] == 'n' &&
8179                   name[3] == 't' &&
8180                   name[4] == 'l')
8181               {                                   /* fcntl      */
8182                 return -KEY_fcntl;
8183               }
8184
8185               goto unknown;
8186
8187             case 'l':
8188               if (name[2] == 'o' &&
8189                   name[3] == 'c' &&
8190                   name[4] == 'k')
8191               {                                   /* flock      */
8192                 return -KEY_flock;
8193               }
8194
8195               goto unknown;
8196
8197             default:
8198               goto unknown;
8199           }
8200
8201         case 'g':
8202           if (name[1] == 'i' &&
8203               name[2] == 'v' &&
8204               name[3] == 'e' &&
8205               name[4] == 'n')
8206           {                                       /* given      */
8207             return (all_keywords || FEATURE_IS_ENABLED("switch") ? KEY_given : 0);
8208           }
8209
8210           goto unknown;
8211
8212         case 'i':
8213           switch (name[1])
8214           {
8215             case 'n':
8216               if (name[2] == 'd' &&
8217                   name[3] == 'e' &&
8218                   name[4] == 'x')
8219               {                                   /* index      */
8220                 return -KEY_index;
8221               }
8222
8223               goto unknown;
8224
8225             case 'o':
8226               if (name[2] == 'c' &&
8227                   name[3] == 't' &&
8228                   name[4] == 'l')
8229               {                                   /* ioctl      */
8230                 return -KEY_ioctl;
8231               }
8232
8233               goto unknown;
8234
8235             default:
8236               goto unknown;
8237           }
8238
8239         case 'l':
8240           switch (name[1])
8241           {
8242             case 'o':
8243               if (name[2] == 'c' &&
8244                   name[3] == 'a' &&
8245                   name[4] == 'l')
8246               {                                   /* local      */
8247                 return KEY_local;
8248               }
8249
8250               goto unknown;
8251
8252             case 's':
8253               if (name[2] == 't' &&
8254                   name[3] == 'a' &&
8255                   name[4] == 't')
8256               {                                   /* lstat      */
8257                 return -KEY_lstat;
8258               }
8259
8260               goto unknown;
8261
8262             default:
8263               goto unknown;
8264           }
8265
8266         case 'm':
8267           if (name[1] == 'k' &&
8268               name[2] == 'd' &&
8269               name[3] == 'i' &&
8270               name[4] == 'r')
8271           {                                       /* mkdir      */
8272             return -KEY_mkdir;
8273           }
8274
8275           goto unknown;
8276
8277         case 'p':
8278           if (name[1] == 'r' &&
8279               name[2] == 'i' &&
8280               name[3] == 'n' &&
8281               name[4] == 't')
8282           {                                       /* print      */
8283             return KEY_print;
8284           }
8285
8286           goto unknown;
8287
8288         case 'r':
8289           switch (name[1])
8290           {
8291             case 'e':
8292               if (name[2] == 's' &&
8293                   name[3] == 'e' &&
8294                   name[4] == 't')
8295               {                                   /* reset      */
8296                 return -KEY_reset;
8297               }
8298
8299               goto unknown;
8300
8301             case 'm':
8302               if (name[2] == 'd' &&
8303                   name[3] == 'i' &&
8304                   name[4] == 'r')
8305               {                                   /* rmdir      */
8306                 return -KEY_rmdir;
8307               }
8308
8309               goto unknown;
8310
8311             default:
8312               goto unknown;
8313           }
8314
8315         case 's':
8316           switch (name[1])
8317           {
8318             case 'e':
8319               if (name[2] == 'm' &&
8320                   name[3] == 'o' &&
8321                   name[4] == 'p')
8322               {                                   /* semop      */
8323                 return -KEY_semop;
8324               }
8325
8326               goto unknown;
8327
8328             case 'h':
8329               if (name[2] == 'i' &&
8330                   name[3] == 'f' &&
8331                   name[4] == 't')
8332               {                                   /* shift      */
8333                 return -KEY_shift;
8334               }
8335
8336               goto unknown;
8337
8338             case 'l':
8339               if (name[2] == 'e' &&
8340                   name[3] == 'e' &&
8341                   name[4] == 'p')
8342               {                                   /* sleep      */
8343                 return -KEY_sleep;
8344               }
8345
8346               goto unknown;
8347
8348             case 'p':
8349               if (name[2] == 'l' &&
8350                   name[3] == 'i' &&
8351                   name[4] == 't')
8352               {                                   /* split      */
8353                 return KEY_split;
8354               }
8355
8356               goto unknown;
8357
8358             case 'r':
8359               if (name[2] == 'a' &&
8360                   name[3] == 'n' &&
8361                   name[4] == 'd')
8362               {                                   /* srand      */
8363                 return -KEY_srand;
8364               }
8365
8366               goto unknown;
8367
8368             case 't':
8369               switch (name[2])
8370               {
8371                 case 'a':
8372                   if (name[3] == 't' &&
8373                       name[4] == 'e')
8374                   {                               /* state      */
8375                     return (all_keywords || FEATURE_IS_ENABLED("state") ? KEY_state : 0);
8376                   }
8377
8378                   goto unknown;
8379
8380                 case 'u':
8381                   if (name[3] == 'd' &&
8382                       name[4] == 'y')
8383                   {                               /* study      */
8384                     return KEY_study;
8385                   }
8386
8387                   goto unknown;
8388
8389                 default:
8390                   goto unknown;
8391               }
8392
8393             default:
8394               goto unknown;
8395           }
8396
8397         case 't':
8398           if (name[1] == 'i' &&
8399               name[2] == 'm' &&
8400               name[3] == 'e' &&
8401               name[4] == 's')
8402           {                                       /* times      */
8403             return -KEY_times;
8404           }
8405
8406           goto unknown;
8407
8408         case 'u':
8409           switch (name[1])
8410           {
8411             case 'm':
8412               if (name[2] == 'a' &&
8413                   name[3] == 's' &&
8414                   name[4] == 'k')
8415               {                                   /* umask      */
8416                 return -KEY_umask;
8417               }
8418
8419               goto unknown;
8420
8421             case 'n':
8422               switch (name[2])
8423               {
8424                 case 'd':
8425                   if (name[3] == 'e' &&
8426                       name[4] == 'f')
8427                   {                               /* undef      */
8428                     return KEY_undef;
8429                   }
8430
8431                   goto unknown;
8432
8433                 case 't':
8434                   if (name[3] == 'i')
8435                   {
8436                     switch (name[4])
8437                     {
8438                       case 'e':
8439                         {                         /* untie      */
8440                           return KEY_untie;
8441                         }
8442
8443                       case 'l':
8444                         {                         /* until      */
8445                           return KEY_until;
8446                         }
8447
8448                       default:
8449                         goto unknown;
8450                     }
8451                   }
8452
8453                   goto unknown;
8454
8455                 default:
8456                   goto unknown;
8457               }
8458
8459             case 't':
8460               if (name[2] == 'i' &&
8461                   name[3] == 'm' &&
8462                   name[4] == 'e')
8463               {                                   /* utime      */
8464                 return -KEY_utime;
8465               }
8466
8467               goto unknown;
8468
8469             default:
8470               goto unknown;
8471           }
8472
8473         case 'w':
8474           switch (name[1])
8475           {
8476             case 'h':
8477               if (name[2] == 'i' &&
8478                   name[3] == 'l' &&
8479                   name[4] == 'e')
8480               {                                   /* while      */
8481                 return KEY_while;
8482               }
8483
8484               goto unknown;
8485
8486             case 'r':
8487               if (name[2] == 'i' &&
8488                   name[3] == 't' &&
8489                   name[4] == 'e')
8490               {                                   /* write      */
8491                 return -KEY_write;
8492               }
8493
8494               goto unknown;
8495
8496             default:
8497               goto unknown;
8498           }
8499
8500         default:
8501           goto unknown;
8502       }
8503
8504     case 6: /* 33 tokens of length 6 */
8505       switch (name[0])
8506       {
8507         case 'a':
8508           if (name[1] == 'c' &&
8509               name[2] == 'c' &&
8510               name[3] == 'e' &&
8511               name[4] == 'p' &&
8512               name[5] == 't')
8513           {                                       /* accept     */
8514             return -KEY_accept;
8515           }
8516
8517           goto unknown;
8518
8519         case 'c':
8520           switch (name[1])
8521           {
8522             case 'a':
8523               if (name[2] == 'l' &&
8524                   name[3] == 'l' &&
8525                   name[4] == 'e' &&
8526                   name[5] == 'r')
8527               {                                   /* caller     */
8528                 return -KEY_caller;
8529               }
8530
8531               goto unknown;
8532
8533             case 'h':
8534               if (name[2] == 'r' &&
8535                   name[3] == 'o' &&
8536                   name[4] == 'o' &&
8537                   name[5] == 't')
8538               {                                   /* chroot     */
8539                 return -KEY_chroot;
8540               }
8541
8542               goto unknown;
8543
8544             default:
8545               goto unknown;
8546           }
8547
8548         case 'd':
8549           if (name[1] == 'e' &&
8550               name[2] == 'l' &&
8551               name[3] == 'e' &&
8552               name[4] == 't' &&
8553               name[5] == 'e')
8554           {                                       /* delete     */
8555             return KEY_delete;
8556           }
8557
8558           goto unknown;
8559
8560         case 'e':
8561           switch (name[1])
8562           {
8563             case 'l':
8564               if (name[2] == 's' &&
8565                   name[3] == 'e' &&
8566                   name[4] == 'i' &&
8567                   name[5] == 'f')
8568               {                                   /* elseif     */
8569                 if(ckWARN_d(WARN_SYNTAX))
8570                   Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "elseif should be elsif");
8571               }
8572
8573               goto unknown;
8574
8575             case 'x':
8576               if (name[2] == 'i' &&
8577                   name[3] == 's' &&
8578                   name[4] == 't' &&
8579                   name[5] == 's')
8580               {                                   /* exists     */
8581                 return KEY_exists;
8582               }
8583
8584               goto unknown;
8585
8586             default:
8587               goto unknown;
8588           }
8589
8590         case 'f':
8591           switch (name[1])
8592           {
8593             case 'i':
8594               if (name[2] == 'l' &&
8595                   name[3] == 'e' &&
8596                   name[4] == 'n' &&
8597                   name[5] == 'o')
8598               {                                   /* fileno     */
8599                 return -KEY_fileno;
8600               }
8601
8602               goto unknown;
8603
8604             case 'o':
8605               if (name[2] == 'r' &&
8606                   name[3] == 'm' &&
8607                   name[4] == 'a' &&
8608                   name[5] == 't')
8609               {                                   /* format     */
8610                 return KEY_format;
8611               }
8612
8613               goto unknown;
8614
8615             default:
8616               goto unknown;
8617           }
8618
8619         case 'g':
8620           if (name[1] == 'm' &&
8621               name[2] == 't' &&
8622               name[3] == 'i' &&
8623               name[4] == 'm' &&
8624               name[5] == 'e')
8625           {                                       /* gmtime     */
8626             return -KEY_gmtime;
8627           }
8628
8629           goto unknown;
8630
8631         case 'l':
8632           switch (name[1])
8633           {
8634             case 'e':
8635               if (name[2] == 'n' &&
8636                   name[3] == 'g' &&
8637                   name[4] == 't' &&
8638                   name[5] == 'h')
8639               {                                   /* length     */
8640                 return -KEY_length;
8641               }
8642
8643               goto unknown;
8644
8645             case 'i':
8646               if (name[2] == 's' &&
8647                   name[3] == 't' &&
8648                   name[4] == 'e' &&
8649                   name[5] == 'n')
8650               {                                   /* listen     */
8651                 return -KEY_listen;
8652               }
8653
8654               goto unknown;
8655
8656             default:
8657               goto unknown;
8658           }
8659
8660         case 'm':
8661           if (name[1] == 's' &&
8662               name[2] == 'g')
8663           {
8664             switch (name[3])
8665             {
8666               case 'c':
8667                 if (name[4] == 't' &&
8668                     name[5] == 'l')
8669                 {                                 /* msgctl     */
8670                   return -KEY_msgctl;
8671                 }
8672
8673                 goto unknown;
8674
8675               case 'g':
8676                 if (name[4] == 'e' &&
8677                     name[5] == 't')
8678                 {                                 /* msgget     */
8679                   return -KEY_msgget;
8680                 }
8681
8682                 goto unknown;
8683
8684               case 'r':
8685                 if (name[4] == 'c' &&
8686                     name[5] == 'v')
8687                 {                                 /* msgrcv     */
8688                   return -KEY_msgrcv;
8689                 }
8690
8691                 goto unknown;
8692
8693               case 's':
8694                 if (name[4] == 'n' &&
8695                     name[5] == 'd')
8696                 {                                 /* msgsnd     */
8697                   return -KEY_msgsnd;
8698                 }
8699
8700                 goto unknown;
8701
8702               default:
8703                 goto unknown;
8704             }
8705           }
8706
8707           goto unknown;
8708
8709         case 'p':
8710           if (name[1] == 'r' &&
8711               name[2] == 'i' &&
8712               name[3] == 'n' &&
8713               name[4] == 't' &&
8714               name[5] == 'f')
8715           {                                       /* printf     */
8716             return KEY_printf;
8717           }
8718
8719           goto unknown;
8720
8721         case 'r':
8722           switch (name[1])
8723           {
8724             case 'e':
8725               switch (name[2])
8726               {
8727                 case 'n':
8728                   if (name[3] == 'a' &&
8729                       name[4] == 'm' &&
8730                       name[5] == 'e')
8731                   {                               /* rename     */
8732                     return -KEY_rename;
8733                   }
8734
8735                   goto unknown;
8736
8737                 case 't':
8738                   if (name[3] == 'u' &&
8739                       name[4] == 'r' &&
8740                       name[5] == 'n')
8741                   {                               /* return     */
8742                     return KEY_return;
8743                   }
8744
8745                   goto unknown;
8746
8747                 default:
8748                   goto unknown;
8749               }
8750
8751             case 'i':
8752               if (name[2] == 'n' &&
8753                   name[3] == 'd' &&
8754                   name[4] == 'e' &&
8755                   name[5] == 'x')
8756               {                                   /* rindex     */
8757                 return -KEY_rindex;
8758               }
8759
8760               goto unknown;
8761
8762             default:
8763               goto unknown;
8764           }
8765
8766         case 's':
8767           switch (name[1])
8768           {
8769             case 'c':
8770               if (name[2] == 'a' &&
8771                   name[3] == 'l' &&
8772                   name[4] == 'a' &&
8773                   name[5] == 'r')
8774               {                                   /* scalar     */
8775                 return KEY_scalar;
8776               }
8777
8778               goto unknown;
8779
8780             case 'e':
8781               switch (name[2])
8782               {
8783                 case 'l':
8784                   if (name[3] == 'e' &&
8785                       name[4] == 'c' &&
8786                       name[5] == 't')
8787                   {                               /* select     */
8788                     return -KEY_select;
8789                   }
8790
8791                   goto unknown;
8792
8793                 case 'm':
8794                   switch (name[3])
8795                   {
8796                     case 'c':
8797                       if (name[4] == 't' &&
8798                           name[5] == 'l')
8799                       {                           /* semctl     */
8800                         return -KEY_semctl;
8801                       }
8802
8803                       goto unknown;
8804
8805                     case 'g':
8806                       if (name[4] == 'e' &&
8807                           name[5] == 't')
8808                       {                           /* semget     */
8809                         return -KEY_semget;
8810                       }
8811
8812                       goto unknown;
8813
8814                     default:
8815                       goto unknown;
8816                   }
8817
8818                 default:
8819                   goto unknown;
8820               }
8821
8822             case 'h':
8823               if (name[2] == 'm')
8824               {
8825                 switch (name[3])
8826                 {
8827                   case 'c':
8828                     if (name[4] == 't' &&
8829                         name[5] == 'l')
8830                     {                             /* shmctl     */
8831                       return -KEY_shmctl;
8832                     }
8833
8834                     goto unknown;
8835
8836                   case 'g':
8837                     if (name[4] == 'e' &&
8838                         name[5] == 't')
8839                     {                             /* shmget     */
8840                       return -KEY_shmget;
8841                     }
8842
8843                     goto unknown;
8844
8845                   default:
8846                     goto unknown;
8847                 }
8848               }
8849
8850               goto unknown;
8851
8852             case 'o':
8853               if (name[2] == 'c' &&
8854                   name[3] == 'k' &&
8855                   name[4] == 'e' &&
8856                   name[5] == 't')
8857               {                                   /* socket     */
8858                 return -KEY_socket;
8859               }
8860
8861               goto unknown;
8862
8863             case 'p':
8864               if (name[2] == 'l' &&
8865                   name[3] == 'i' &&
8866                   name[4] == 'c' &&
8867                   name[5] == 'e')
8868               {                                   /* splice     */
8869                 return -KEY_splice;
8870               }
8871
8872               goto unknown;
8873
8874             case 'u':
8875               if (name[2] == 'b' &&
8876                   name[3] == 's' &&
8877                   name[4] == 't' &&
8878                   name[5] == 'r')
8879               {                                   /* substr     */
8880                 return -KEY_substr;
8881               }
8882
8883               goto unknown;
8884
8885             case 'y':
8886               if (name[2] == 's' &&
8887                   name[3] == 't' &&
8888                   name[4] == 'e' &&
8889                   name[5] == 'm')
8890               {                                   /* system     */
8891                 return -KEY_system;
8892               }
8893
8894               goto unknown;
8895
8896             default:
8897               goto unknown;
8898           }
8899
8900         case 'u':
8901           if (name[1] == 'n')
8902           {
8903             switch (name[2])
8904             {
8905               case 'l':
8906                 switch (name[3])
8907                 {
8908                   case 'e':
8909                     if (name[4] == 's' &&
8910                         name[5] == 's')
8911                     {                             /* unless     */
8912                       return KEY_unless;
8913                     }
8914
8915                     goto unknown;
8916
8917                   case 'i':
8918                     if (name[4] == 'n' &&
8919                         name[5] == 'k')
8920                     {                             /* unlink     */
8921                       return -KEY_unlink;
8922                     }
8923
8924                     goto unknown;
8925
8926                   default:
8927                     goto unknown;
8928                 }
8929
8930               case 'p':
8931                 if (name[3] == 'a' &&
8932                     name[4] == 'c' &&
8933                     name[5] == 'k')
8934                 {                                 /* unpack     */
8935                   return -KEY_unpack;
8936                 }
8937
8938                 goto unknown;
8939
8940               default:
8941                 goto unknown;
8942             }
8943           }
8944
8945           goto unknown;
8946
8947         case 'v':
8948           if (name[1] == 'a' &&
8949               name[2] == 'l' &&
8950               name[3] == 'u' &&
8951               name[4] == 'e' &&
8952               name[5] == 's')
8953           {                                       /* values     */
8954             return -KEY_values;
8955           }
8956
8957           goto unknown;
8958
8959         default:
8960           goto unknown;
8961       }
8962
8963     case 7: /* 29 tokens of length 7 */
8964       switch (name[0])
8965       {
8966         case 'D':
8967           if (name[1] == 'E' &&
8968               name[2] == 'S' &&
8969               name[3] == 'T' &&
8970               name[4] == 'R' &&
8971               name[5] == 'O' &&
8972               name[6] == 'Y')
8973           {                                       /* DESTROY    */
8974             return KEY_DESTROY;
8975           }
8976
8977           goto unknown;
8978
8979         case '_':
8980           if (name[1] == '_' &&
8981               name[2] == 'E' &&
8982               name[3] == 'N' &&
8983               name[4] == 'D' &&
8984               name[5] == '_' &&
8985               name[6] == '_')
8986           {                                       /* __END__    */
8987             return KEY___END__;
8988           }
8989
8990           goto unknown;
8991
8992         case 'b':
8993           if (name[1] == 'i' &&
8994               name[2] == 'n' &&
8995               name[3] == 'm' &&
8996               name[4] == 'o' &&
8997               name[5] == 'd' &&
8998               name[6] == 'e')
8999           {                                       /* binmode    */
9000             return -KEY_binmode;
9001           }
9002
9003           goto unknown;
9004
9005         case 'c':
9006           if (name[1] == 'o' &&
9007               name[2] == 'n' &&
9008               name[3] == 'n' &&
9009               name[4] == 'e' &&
9010               name[5] == 'c' &&
9011               name[6] == 't')
9012           {                                       /* connect    */
9013             return -KEY_connect;
9014           }
9015
9016           goto unknown;
9017
9018         case 'd':
9019           switch (name[1])
9020           {
9021             case 'b':
9022               if (name[2] == 'm' &&
9023                   name[3] == 'o' &&
9024                   name[4] == 'p' &&
9025                   name[5] == 'e' &&
9026                   name[6] == 'n')
9027               {                                   /* dbmopen    */
9028                 return -KEY_dbmopen;
9029               }
9030
9031               goto unknown;
9032
9033             case 'e':
9034               if (name[2] == 'f')
9035               {
9036                 switch (name[3])
9037                 {
9038                   case 'a':
9039                     if (name[4] == 'u' &&
9040                         name[5] == 'l' &&
9041                         name[6] == 't')
9042                     {                             /* default    */
9043                       return (all_keywords || FEATURE_IS_ENABLED("switch") ? KEY_default : 0);
9044                     }
9045
9046                     goto unknown;
9047
9048                   case 'i':
9049                     if (name[4] == 'n' &&
9050                         name[5] == 'e' &&
9051                         name[6] == 'd')
9052                     {                             /* defined    */
9053                       return KEY_defined;
9054                     }
9055
9056                     goto unknown;
9057
9058                   default:
9059                     goto unknown;
9060                 }
9061               }
9062
9063               goto unknown;
9064
9065             default:
9066               goto unknown;
9067           }
9068
9069         case 'f':
9070           if (name[1] == 'o' &&
9071               name[2] == 'r' &&
9072               name[3] == 'e' &&
9073               name[4] == 'a' &&
9074               name[5] == 'c' &&
9075               name[6] == 'h')
9076           {                                       /* foreach    */
9077             return KEY_foreach;
9078           }
9079
9080           goto unknown;
9081
9082         case 'g':
9083           if (name[1] == 'e' &&
9084               name[2] == 't' &&
9085               name[3] == 'p')
9086           {
9087             switch (name[4])
9088             {
9089               case 'g':
9090                 if (name[5] == 'r' &&
9091                     name[6] == 'p')
9092                 {                                 /* getpgrp    */
9093                   return -KEY_getpgrp;
9094                 }
9095
9096                 goto unknown;
9097
9098               case 'p':
9099                 if (name[5] == 'i' &&
9100                     name[6] == 'd')
9101                 {                                 /* getppid    */
9102                   return -KEY_getppid;
9103                 }
9104
9105                 goto unknown;
9106
9107               default:
9108                 goto unknown;
9109             }
9110           }
9111
9112           goto unknown;
9113
9114         case 'l':
9115           if (name[1] == 'c' &&
9116               name[2] == 'f' &&
9117               name[3] == 'i' &&
9118               name[4] == 'r' &&
9119               name[5] == 's' &&
9120               name[6] == 't')
9121           {                                       /* lcfirst    */
9122             return -KEY_lcfirst;
9123           }
9124
9125           goto unknown;
9126
9127         case 'o':
9128           if (name[1] == 'p' &&
9129               name[2] == 'e' &&
9130               name[3] == 'n' &&
9131               name[4] == 'd' &&
9132               name[5] == 'i' &&
9133               name[6] == 'r')
9134           {                                       /* opendir    */
9135             return -KEY_opendir;
9136           }
9137
9138           goto unknown;
9139
9140         case 'p':
9141           if (name[1] == 'a' &&
9142               name[2] == 'c' &&
9143               name[3] == 'k' &&
9144               name[4] == 'a' &&
9145               name[5] == 'g' &&
9146               name[6] == 'e')
9147           {                                       /* package    */
9148             return KEY_package;
9149           }
9150
9151           goto unknown;
9152
9153         case 'r':
9154           if (name[1] == 'e')
9155           {
9156             switch (name[2])
9157             {
9158               case 'a':
9159                 if (name[3] == 'd' &&
9160                     name[4] == 'd' &&
9161                     name[5] == 'i' &&
9162                     name[6] == 'r')
9163                 {                                 /* readdir    */
9164                   return -KEY_readdir;
9165                 }
9166
9167                 goto unknown;
9168
9169               case 'q':
9170                 if (name[3] == 'u' &&
9171                     name[4] == 'i' &&
9172                     name[5] == 'r' &&
9173                     name[6] == 'e')
9174                 {                                 /* require    */
9175                   return KEY_require;
9176                 }
9177
9178                 goto unknown;
9179
9180               case 'v':
9181                 if (name[3] == 'e' &&
9182                     name[4] == 'r' &&
9183                     name[5] == 's' &&
9184                     name[6] == 'e')
9185                 {                                 /* reverse    */
9186                   return -KEY_reverse;
9187                 }
9188
9189                 goto unknown;
9190
9191               default:
9192                 goto unknown;
9193             }
9194           }
9195
9196           goto unknown;
9197
9198         case 's':
9199           switch (name[1])
9200           {
9201             case 'e':
9202               switch (name[2])
9203               {
9204                 case 'e':
9205                   if (name[3] == 'k' &&
9206                       name[4] == 'd' &&
9207                       name[5] == 'i' &&
9208                       name[6] == 'r')
9209                   {                               /* seekdir    */
9210                     return -KEY_seekdir;
9211                   }
9212
9213                   goto unknown;
9214
9215                 case 't':
9216                   if (name[3] == 'p' &&
9217                       name[4] == 'g' &&
9218                       name[5] == 'r' &&
9219                       name[6] == 'p')
9220                   {                               /* setpgrp    */
9221                     return -KEY_setpgrp;
9222                   }
9223
9224                   goto unknown;
9225
9226                 default:
9227                   goto unknown;
9228               }
9229
9230             case 'h':
9231               if (name[2] == 'm' &&
9232                   name[3] == 'r' &&
9233                   name[4] == 'e' &&
9234                   name[5] == 'a' &&
9235                   name[6] == 'd')
9236               {                                   /* shmread    */
9237                 return -KEY_shmread;
9238               }
9239
9240               goto unknown;
9241
9242             case 'p':
9243               if (name[2] == 'r' &&
9244                   name[3] == 'i' &&
9245                   name[4] == 'n' &&
9246                   name[5] == 't' &&
9247                   name[6] == 'f')
9248               {                                   /* sprintf    */
9249                 return -KEY_sprintf;
9250               }
9251
9252               goto unknown;
9253
9254             case 'y':
9255               switch (name[2])
9256               {
9257                 case 'm':
9258                   if (name[3] == 'l' &&
9259                       name[4] == 'i' &&
9260                       name[5] == 'n' &&
9261                       name[6] == 'k')
9262                   {                               /* symlink    */
9263                     return -KEY_symlink;
9264                   }
9265
9266                   goto unknown;
9267
9268                 case 's':
9269                   switch (name[3])
9270                   {
9271                     case 'c':
9272                       if (name[4] == 'a' &&
9273                           name[5] == 'l' &&
9274                           name[6] == 'l')
9275                       {                           /* syscall    */
9276                         return -KEY_syscall;
9277                       }
9278
9279                       goto unknown;
9280
9281                     case 'o':
9282                       if (name[4] == 'p' &&
9283                           name[5] == 'e' &&
9284                           name[6] == 'n')
9285                       {                           /* sysopen    */
9286                         return -KEY_sysopen;
9287                       }
9288
9289                       goto unknown;
9290
9291                     case 'r':
9292                       if (name[4] == 'e' &&
9293                           name[5] == 'a' &&
9294                           name[6] == 'd')
9295                       {                           /* sysread    */
9296                         return -KEY_sysread;
9297                       }
9298
9299                       goto unknown;
9300
9301                     case 's':
9302                       if (name[4] == 'e' &&
9303                           name[5] == 'e' &&
9304                           name[6] == 'k')
9305                       {                           /* sysseek    */
9306                         return -KEY_sysseek;
9307                       }
9308
9309                       goto unknown;
9310
9311                     default:
9312                       goto unknown;
9313                   }
9314
9315                 default:
9316                   goto unknown;
9317               }
9318
9319             default:
9320               goto unknown;
9321           }
9322
9323         case 't':
9324           if (name[1] == 'e' &&
9325               name[2] == 'l' &&
9326               name[3] == 'l' &&
9327               name[4] == 'd' &&
9328               name[5] == 'i' &&
9329               name[6] == 'r')
9330           {                                       /* telldir    */
9331             return -KEY_telldir;
9332           }
9333
9334           goto unknown;
9335
9336         case 'u':
9337           switch (name[1])
9338           {
9339             case 'c':
9340               if (name[2] == 'f' &&
9341                   name[3] == 'i' &&
9342                   name[4] == 'r' &&
9343                   name[5] == 's' &&
9344                   name[6] == 't')
9345               {                                   /* ucfirst    */
9346                 return -KEY_ucfirst;
9347               }
9348
9349               goto unknown;
9350
9351             case 'n':
9352               if (name[2] == 's' &&
9353                   name[3] == 'h' &&
9354                   name[4] == 'i' &&
9355                   name[5] == 'f' &&
9356                   name[6] == 't')
9357               {                                   /* unshift    */
9358                 return -KEY_unshift;
9359               }
9360
9361               goto unknown;
9362
9363             default:
9364               goto unknown;
9365           }
9366
9367         case 'w':
9368           if (name[1] == 'a' &&
9369               name[2] == 'i' &&
9370               name[3] == 't' &&
9371               name[4] == 'p' &&
9372               name[5] == 'i' &&
9373               name[6] == 'd')
9374           {                                       /* waitpid    */
9375             return -KEY_waitpid;
9376           }
9377
9378           goto unknown;
9379
9380         default:
9381           goto unknown;
9382       }
9383
9384     case 8: /* 26 tokens of length 8 */
9385       switch (name[0])
9386       {
9387         case 'A':
9388           if (name[1] == 'U' &&
9389               name[2] == 'T' &&
9390               name[3] == 'O' &&
9391               name[4] == 'L' &&
9392               name[5] == 'O' &&
9393               name[6] == 'A' &&
9394               name[7] == 'D')
9395           {                                       /* AUTOLOAD   */
9396             return KEY_AUTOLOAD;
9397           }
9398
9399           goto unknown;
9400
9401         case '_':
9402           if (name[1] == '_')
9403           {
9404             switch (name[2])
9405             {
9406               case 'D':
9407                 if (name[3] == 'A' &&
9408                     name[4] == 'T' &&
9409                     name[5] == 'A' &&
9410                     name[6] == '_' &&
9411                     name[7] == '_')
9412                 {                                 /* __DATA__   */
9413                   return KEY___DATA__;
9414                 }
9415
9416                 goto unknown;
9417
9418               case 'F':
9419                 if (name[3] == 'I' &&
9420                     name[4] == 'L' &&
9421                     name[5] == 'E' &&
9422                     name[6] == '_' &&
9423                     name[7] == '_')
9424                 {                                 /* __FILE__   */
9425                   return -KEY___FILE__;
9426                 }
9427
9428                 goto unknown;
9429
9430               case 'L':
9431                 if (name[3] == 'I' &&
9432                     name[4] == 'N' &&
9433                     name[5] == 'E' &&
9434                     name[6] == '_' &&
9435                     name[7] == '_')
9436                 {                                 /* __LINE__   */
9437                   return -KEY___LINE__;
9438                 }
9439
9440                 goto unknown;
9441
9442               default:
9443                 goto unknown;
9444             }
9445           }
9446
9447           goto unknown;
9448
9449         case 'c':
9450           switch (name[1])
9451           {
9452             case 'l':
9453               if (name[2] == 'o' &&
9454                   name[3] == 's' &&
9455                   name[4] == 'e' &&
9456                   name[5] == 'd' &&
9457                   name[6] == 'i' &&
9458                   name[7] == 'r')
9459               {                                   /* closedir   */
9460                 return -KEY_closedir;
9461               }
9462
9463               goto unknown;
9464
9465             case 'o':
9466               if (name[2] == 'n' &&
9467                   name[3] == 't' &&
9468                   name[4] == 'i' &&
9469                   name[5] == 'n' &&
9470                   name[6] == 'u' &&
9471                   name[7] == 'e')
9472               {                                   /* continue   */
9473                 return -KEY_continue;
9474               }
9475
9476               goto unknown;
9477
9478             default:
9479               goto unknown;
9480           }
9481
9482         case 'd':
9483           if (name[1] == 'b' &&
9484               name[2] == 'm' &&
9485               name[3] == 'c' &&
9486               name[4] == 'l' &&
9487               name[5] == 'o' &&
9488               name[6] == 's' &&
9489               name[7] == 'e')
9490           {                                       /* dbmclose   */
9491             return -KEY_dbmclose;
9492           }
9493
9494           goto unknown;
9495
9496         case 'e':
9497           if (name[1] == 'n' &&
9498               name[2] == 'd')
9499           {
9500             switch (name[3])
9501             {
9502               case 'g':
9503                 if (name[4] == 'r' &&
9504                     name[5] == 'e' &&
9505                     name[6] == 'n' &&
9506                     name[7] == 't')
9507                 {                                 /* endgrent   */
9508                   return -KEY_endgrent;
9509                 }
9510
9511                 goto unknown;
9512
9513               case 'p':
9514                 if (name[4] == 'w' &&
9515                     name[5] == 'e' &&
9516                     name[6] == 'n' &&
9517                     name[7] == 't')
9518                 {                                 /* endpwent   */
9519                   return -KEY_endpwent;
9520                 }
9521
9522                 goto unknown;
9523
9524               default:
9525                 goto unknown;
9526             }
9527           }
9528
9529           goto unknown;
9530
9531         case 'f':
9532           if (name[1] == 'o' &&
9533               name[2] == 'r' &&
9534               name[3] == 'm' &&
9535               name[4] == 'l' &&
9536               name[5] == 'i' &&
9537               name[6] == 'n' &&
9538               name[7] == 'e')
9539           {                                       /* formline   */
9540             return -KEY_formline;
9541           }
9542
9543           goto unknown;
9544
9545         case 'g':
9546           if (name[1] == 'e' &&
9547               name[2] == 't')
9548           {
9549             switch (name[3])
9550             {
9551               case 'g':
9552                 if (name[4] == 'r')
9553                 {
9554                   switch (name[5])
9555                   {
9556                     case 'e':
9557                       if (name[6] == 'n' &&
9558                           name[7] == 't')
9559                       {                           /* getgrent   */
9560                         return -KEY_getgrent;
9561                       }
9562
9563                       goto unknown;
9564
9565                     case 'g':
9566                       if (name[6] == 'i' &&
9567                           name[7] == 'd')
9568                       {                           /* getgrgid   */
9569                         return -KEY_getgrgid;
9570                       }
9571
9572                       goto unknown;
9573
9574                     case 'n':
9575                       if (name[6] == 'a' &&
9576                           name[7] == 'm')
9577                       {                           /* getgrnam   */
9578                         return -KEY_getgrnam;
9579                       }
9580
9581                       goto unknown;
9582
9583                     default:
9584                       goto unknown;
9585                   }
9586                 }
9587
9588                 goto unknown;
9589
9590               case 'l':
9591                 if (name[4] == 'o' &&
9592                     name[5] == 'g' &&
9593                     name[6] == 'i' &&
9594                     name[7] == 'n')
9595                 {                                 /* getlogin   */
9596                   return -KEY_getlogin;
9597                 }
9598
9599                 goto unknown;
9600
9601               case 'p':
9602                 if (name[4] == 'w')
9603                 {
9604                   switch (name[5])
9605                   {
9606                     case 'e':
9607                       if (name[6] == 'n' &&
9608                           name[7] == 't')
9609                       {                           /* getpwent   */
9610                         return -KEY_getpwent;
9611                       }
9612
9613                       goto unknown;
9614
9615                     case 'n':
9616                       if (name[6] == 'a' &&
9617                           name[7] == 'm')
9618                       {                           /* getpwnam   */
9619                         return -KEY_getpwnam;
9620                       }
9621
9622                       goto unknown;
9623
9624                     case 'u':
9625                       if (name[6] == 'i' &&
9626                           name[7] == 'd')
9627                       {                           /* getpwuid   */
9628                         return -KEY_getpwuid;
9629                       }
9630
9631                       goto unknown;
9632
9633                     default:
9634                       goto unknown;
9635                   }
9636                 }
9637
9638                 goto unknown;
9639
9640               default:
9641                 goto unknown;
9642             }
9643           }
9644
9645           goto unknown;
9646
9647         case 'r':
9648           if (name[1] == 'e' &&
9649               name[2] == 'a' &&
9650               name[3] == 'd')
9651           {
9652             switch (name[4])
9653             {
9654               case 'l':
9655                 if (name[5] == 'i' &&
9656                     name[6] == 'n')
9657                 {
9658                   switch (name[7])
9659                   {
9660                     case 'e':
9661                       {                           /* readline   */
9662                         return -KEY_readline;
9663                       }
9664
9665                     case 'k':
9666                       {                           /* readlink   */
9667                         return -KEY_readlink;
9668                       }
9669
9670                     default:
9671                       goto unknown;
9672                   }
9673                 }
9674
9675                 goto unknown;
9676
9677               case 'p':
9678                 if (name[5] == 'i' &&
9679                     name[6] == 'p' &&
9680                     name[7] == 'e')
9681                 {                                 /* readpipe   */
9682                   return -KEY_readpipe;
9683                 }
9684
9685                 goto unknown;
9686
9687               default:
9688                 goto unknown;
9689             }
9690           }
9691
9692           goto unknown;
9693
9694         case 's':
9695           switch (name[1])
9696           {
9697             case 'e':
9698               if (name[2] == 't')
9699               {
9700                 switch (name[3])
9701                 {
9702                   case 'g':
9703                     if (name[4] == 'r' &&
9704                         name[5] == 'e' &&
9705                         name[6] == 'n' &&
9706                         name[7] == 't')
9707                     {                             /* setgrent   */
9708                       return -KEY_setgrent;
9709                     }
9710
9711                     goto unknown;
9712
9713                   case 'p':
9714                     if (name[4] == 'w' &&
9715                         name[5] == 'e' &&
9716                         name[6] == 'n' &&
9717                         name[7] == 't')
9718                     {                             /* setpwent   */
9719                       return -KEY_setpwent;
9720                     }
9721
9722                     goto unknown;
9723
9724                   default:
9725                     goto unknown;
9726                 }
9727               }
9728
9729               goto unknown;
9730
9731             case 'h':
9732               switch (name[2])
9733               {
9734                 case 'm':
9735                   if (name[3] == 'w' &&
9736                       name[4] == 'r' &&
9737                       name[5] == 'i' &&
9738                       name[6] == 't' &&
9739                       name[7] == 'e')
9740                   {                               /* shmwrite   */
9741                     return -KEY_shmwrite;
9742                   }
9743
9744                   goto unknown;
9745
9746                 case 'u':
9747                   if (name[3] == 't' &&
9748                       name[4] == 'd' &&
9749                       name[5] == 'o' &&
9750                       name[6] == 'w' &&
9751                       name[7] == 'n')
9752                   {                               /* shutdown   */
9753                     return -KEY_shutdown;
9754                   }
9755
9756                   goto unknown;
9757
9758                 default:
9759                   goto unknown;
9760               }
9761
9762             case 'y':
9763               if (name[2] == 's' &&
9764                   name[3] == 'w' &&
9765                   name[4] == 'r' &&
9766                   name[5] == 'i' &&
9767                   name[6] == 't' &&
9768                   name[7] == 'e')
9769               {                                   /* syswrite   */
9770                 return -KEY_syswrite;
9771               }
9772
9773               goto unknown;
9774
9775             default:
9776               goto unknown;
9777           }
9778
9779         case 't':
9780           if (name[1] == 'r' &&
9781               name[2] == 'u' &&
9782               name[3] == 'n' &&
9783               name[4] == 'c' &&
9784               name[5] == 'a' &&
9785               name[6] == 't' &&
9786               name[7] == 'e')
9787           {                                       /* truncate   */
9788             return -KEY_truncate;
9789           }
9790
9791           goto unknown;
9792
9793         default:
9794           goto unknown;
9795       }
9796
9797     case 9: /* 9 tokens of length 9 */
9798       switch (name[0])
9799       {
9800         case 'U':
9801           if (name[1] == 'N' &&
9802               name[2] == 'I' &&
9803               name[3] == 'T' &&
9804               name[4] == 'C' &&
9805               name[5] == 'H' &&
9806               name[6] == 'E' &&
9807               name[7] == 'C' &&
9808               name[8] == 'K')
9809           {                                       /* UNITCHECK  */
9810             return KEY_UNITCHECK;
9811           }
9812
9813           goto unknown;
9814
9815         case 'e':
9816           if (name[1] == 'n' &&
9817               name[2] == 'd' &&
9818               name[3] == 'n' &&
9819               name[4] == 'e' &&
9820               name[5] == 't' &&
9821               name[6] == 'e' &&
9822               name[7] == 'n' &&
9823               name[8] == 't')
9824           {                                       /* endnetent  */
9825             return -KEY_endnetent;
9826           }
9827
9828           goto unknown;
9829
9830         case 'g':
9831           if (name[1] == 'e' &&
9832               name[2] == 't' &&
9833               name[3] == 'n' &&
9834               name[4] == 'e' &&
9835               name[5] == 't' &&
9836               name[6] == 'e' &&
9837               name[7] == 'n' &&
9838               name[8] == 't')
9839           {                                       /* getnetent  */
9840             return -KEY_getnetent;
9841           }
9842
9843           goto unknown;
9844
9845         case 'l':
9846           if (name[1] == 'o' &&
9847               name[2] == 'c' &&
9848               name[3] == 'a' &&
9849               name[4] == 'l' &&
9850               name[5] == 't' &&
9851               name[6] == 'i' &&
9852               name[7] == 'm' &&
9853               name[8] == 'e')
9854           {                                       /* localtime  */
9855             return -KEY_localtime;
9856           }
9857
9858           goto unknown;
9859
9860         case 'p':
9861           if (name[1] == 'r' &&
9862               name[2] == 'o' &&
9863               name[3] == 't' &&
9864               name[4] == 'o' &&
9865               name[5] == 't' &&
9866               name[6] == 'y' &&
9867               name[7] == 'p' &&
9868               name[8] == 'e')
9869           {                                       /* prototype  */
9870             return KEY_prototype;
9871           }
9872
9873           goto unknown;
9874
9875         case 'q':
9876           if (name[1] == 'u' &&
9877               name[2] == 'o' &&
9878               name[3] == 't' &&
9879               name[4] == 'e' &&
9880               name[5] == 'm' &&
9881               name[6] == 'e' &&
9882               name[7] == 't' &&
9883               name[8] == 'a')
9884           {                                       /* quotemeta  */
9885             return -KEY_quotemeta;
9886           }
9887
9888           goto unknown;
9889
9890         case 'r':
9891           if (name[1] == 'e' &&
9892               name[2] == 'w' &&
9893               name[3] == 'i' &&
9894               name[4] == 'n' &&
9895               name[5] == 'd' &&
9896               name[6] == 'd' &&
9897               name[7] == 'i' &&
9898               name[8] == 'r')
9899           {                                       /* rewinddir  */
9900             return -KEY_rewinddir;
9901           }
9902
9903           goto unknown;
9904
9905         case 's':
9906           if (name[1] == 'e' &&
9907               name[2] == 't' &&
9908               name[3] == 'n' &&
9909               name[4] == 'e' &&
9910               name[5] == 't' &&
9911               name[6] == 'e' &&
9912               name[7] == 'n' &&
9913               name[8] == 't')
9914           {                                       /* setnetent  */
9915             return -KEY_setnetent;
9916           }
9917
9918           goto unknown;
9919
9920         case 'w':
9921           if (name[1] == 'a' &&
9922               name[2] == 'n' &&
9923               name[3] == 't' &&
9924               name[4] == 'a' &&
9925               name[5] == 'r' &&
9926               name[6] == 'r' &&
9927               name[7] == 'a' &&
9928               name[8] == 'y')
9929           {                                       /* wantarray  */
9930             return -KEY_wantarray;
9931           }
9932
9933           goto unknown;
9934
9935         default:
9936           goto unknown;
9937       }
9938
9939     case 10: /* 9 tokens of length 10 */
9940       switch (name[0])
9941       {
9942         case 'e':
9943           if (name[1] == 'n' &&
9944               name[2] == 'd')
9945           {
9946             switch (name[3])
9947             {
9948               case 'h':
9949                 if (name[4] == 'o' &&
9950                     name[5] == 's' &&
9951                     name[6] == 't' &&
9952                     name[7] == 'e' &&
9953                     name[8] == 'n' &&
9954                     name[9] == 't')
9955                 {                                 /* endhostent */
9956                   return -KEY_endhostent;
9957                 }
9958
9959                 goto unknown;
9960
9961               case 's':
9962                 if (name[4] == 'e' &&
9963                     name[5] == 'r' &&
9964                     name[6] == 'v' &&
9965                     name[7] == 'e' &&
9966                     name[8] == 'n' &&
9967                     name[9] == 't')
9968                 {                                 /* endservent */
9969                   return -KEY_endservent;
9970                 }
9971
9972                 goto unknown;
9973
9974               default:
9975                 goto unknown;
9976             }
9977           }
9978
9979           goto unknown;
9980
9981         case 'g':
9982           if (name[1] == 'e' &&
9983               name[2] == 't')
9984           {
9985             switch (name[3])
9986             {
9987               case 'h':
9988                 if (name[4] == 'o' &&
9989                     name[5] == 's' &&
9990                     name[6] == 't' &&
9991                     name[7] == 'e' &&
9992                     name[8] == 'n' &&
9993                     name[9] == 't')
9994                 {                                 /* gethostent */
9995                   return -KEY_gethostent;
9996                 }
9997
9998                 goto unknown;
9999
10000               case 's':
10001                 switch (name[4])
10002                 {
10003                   case 'e':
10004                     if (name[5] == 'r' &&
10005                         name[6] == 'v' &&
10006                         name[7] == 'e' &&
10007                         name[8] == 'n' &&
10008                         name[9] == 't')
10009                     {                             /* getservent */
10010                       return -KEY_getservent;
10011                     }
10012
10013                     goto unknown;
10014
10015                   case 'o':
10016                     if (name[5] == 'c' &&
10017                         name[6] == 'k' &&
10018                         name[7] == 'o' &&
10019                         name[8] == 'p' &&
10020                         name[9] == 't')
10021                     {                             /* getsockopt */
10022                       return -KEY_getsockopt;
10023                     }
10024
10025                     goto unknown;
10026
10027                   default:
10028                     goto unknown;
10029                 }
10030
10031               default:
10032                 goto unknown;
10033             }
10034           }
10035
10036           goto unknown;
10037
10038         case 's':
10039           switch (name[1])
10040           {
10041             case 'e':
10042               if (name[2] == 't')
10043               {
10044                 switch (name[3])
10045                 {
10046                   case 'h':
10047                     if (name[4] == 'o' &&
10048                         name[5] == 's' &&
10049                         name[6] == 't' &&
10050                         name[7] == 'e' &&
10051                         name[8] == 'n' &&
10052                         name[9] == 't')
10053                     {                             /* sethostent */
10054                       return -KEY_sethostent;
10055                     }
10056
10057                     goto unknown;
10058
10059                   case 's':
10060                     switch (name[4])
10061                     {
10062                       case 'e':
10063                         if (name[5] == 'r' &&
10064                             name[6] == 'v' &&
10065                             name[7] == 'e' &&
10066                             name[8] == 'n' &&
10067                             name[9] == 't')
10068                         {                         /* setservent */
10069                           return -KEY_setservent;
10070                         }
10071
10072                         goto unknown;
10073
10074                       case 'o':
10075                         if (name[5] == 'c' &&
10076                             name[6] == 'k' &&
10077                             name[7] == 'o' &&
10078                             name[8] == 'p' &&
10079                             name[9] == 't')
10080                         {                         /* setsockopt */
10081                           return -KEY_setsockopt;
10082                         }
10083
10084                         goto unknown;
10085
10086                       default:
10087                         goto unknown;
10088                     }
10089
10090                   default:
10091                     goto unknown;
10092                 }
10093               }
10094
10095               goto unknown;
10096
10097             case 'o':
10098               if (name[2] == 'c' &&
10099                   name[3] == 'k' &&
10100                   name[4] == 'e' &&
10101                   name[5] == 't' &&
10102                   name[6] == 'p' &&
10103                   name[7] == 'a' &&
10104                   name[8] == 'i' &&
10105                   name[9] == 'r')
10106               {                                   /* socketpair */
10107                 return -KEY_socketpair;
10108               }
10109
10110               goto unknown;
10111
10112             default:
10113               goto unknown;
10114           }
10115
10116         default:
10117           goto unknown;
10118       }
10119
10120     case 11: /* 8 tokens of length 11 */
10121       switch (name[0])
10122       {
10123         case '_':
10124           if (name[1] == '_' &&
10125               name[2] == 'P' &&
10126               name[3] == 'A' &&
10127               name[4] == 'C' &&
10128               name[5] == 'K' &&
10129               name[6] == 'A' &&
10130               name[7] == 'G' &&
10131               name[8] == 'E' &&
10132               name[9] == '_' &&
10133               name[10] == '_')
10134           {                                       /* __PACKAGE__ */
10135             return -KEY___PACKAGE__;
10136           }
10137
10138           goto unknown;
10139
10140         case 'e':
10141           if (name[1] == 'n' &&
10142               name[2] == 'd' &&
10143               name[3] == 'p' &&
10144               name[4] == 'r' &&
10145               name[5] == 'o' &&
10146               name[6] == 't' &&
10147               name[7] == 'o' &&
10148               name[8] == 'e' &&
10149               name[9] == 'n' &&
10150               name[10] == 't')
10151           {                                       /* endprotoent */
10152             return -KEY_endprotoent;
10153           }
10154
10155           goto unknown;
10156
10157         case 'g':
10158           if (name[1] == 'e' &&
10159               name[2] == 't')
10160           {
10161             switch (name[3])
10162             {
10163               case 'p':
10164                 switch (name[4])
10165                 {
10166                   case 'e':
10167                     if (name[5] == 'e' &&
10168                         name[6] == 'r' &&
10169                         name[7] == 'n' &&
10170                         name[8] == 'a' &&
10171                         name[9] == 'm' &&
10172                         name[10] == 'e')
10173                     {                             /* getpeername */
10174                       return -KEY_getpeername;
10175                     }
10176
10177                     goto unknown;
10178
10179                   case 'r':
10180                     switch (name[5])
10181                     {
10182                       case 'i':
10183                         if (name[6] == 'o' &&
10184                             name[7] == 'r' &&
10185                             name[8] == 'i' &&
10186                             name[9] == 't' &&
10187                             name[10] == 'y')
10188                         {                         /* getpriority */
10189                           return -KEY_getpriority;
10190                         }
10191
10192                         goto unknown;
10193
10194                       case 'o':
10195                         if (name[6] == 't' &&
10196                             name[7] == 'o' &&
10197                             name[8] == 'e' &&
10198                             name[9] == 'n' &&
10199                             name[10] == 't')
10200                         {                         /* getprotoent */
10201                           return -KEY_getprotoent;
10202                         }
10203
10204                         goto unknown;
10205
10206                       default:
10207                         goto unknown;
10208                     }
10209
10210                   default:
10211                     goto unknown;
10212                 }
10213
10214               case 's':
10215                 if (name[4] == 'o' &&
10216                     name[5] == 'c' &&
10217                     name[6] == 'k' &&
10218                     name[7] == 'n' &&
10219                     name[8] == 'a' &&
10220                     name[9] == 'm' &&
10221                     name[10] == 'e')
10222                 {                                 /* getsockname */
10223                   return -KEY_getsockname;
10224                 }
10225
10226                 goto unknown;
10227
10228               default:
10229                 goto unknown;
10230             }
10231           }
10232
10233           goto unknown;
10234
10235         case 's':
10236           if (name[1] == 'e' &&
10237               name[2] == 't' &&
10238               name[3] == 'p' &&
10239               name[4] == 'r')
10240           {
10241             switch (name[5])
10242             {
10243               case 'i':
10244                 if (name[6] == 'o' &&
10245                     name[7] == 'r' &&
10246                     name[8] == 'i' &&
10247                     name[9] == 't' &&
10248                     name[10] == 'y')
10249                 {                                 /* setpriority */
10250                   return -KEY_setpriority;
10251                 }
10252
10253                 goto unknown;
10254
10255               case 'o':
10256                 if (name[6] == 't' &&
10257                     name[7] == 'o' &&
10258                     name[8] == 'e' &&
10259                     name[9] == 'n' &&
10260                     name[10] == 't')
10261                 {                                 /* setprotoent */
10262                   return -KEY_setprotoent;
10263                 }
10264
10265                 goto unknown;
10266
10267               default:
10268                 goto unknown;
10269             }
10270           }
10271
10272           goto unknown;
10273
10274         default:
10275           goto unknown;
10276       }
10277
10278     case 12: /* 2 tokens of length 12 */
10279       if (name[0] == 'g' &&
10280           name[1] == 'e' &&
10281           name[2] == 't' &&
10282           name[3] == 'n' &&
10283           name[4] == 'e' &&
10284           name[5] == 't' &&
10285           name[6] == 'b' &&
10286           name[7] == 'y')
10287       {
10288         switch (name[8])
10289         {
10290           case 'a':
10291             if (name[9] == 'd' &&
10292                 name[10] == 'd' &&
10293                 name[11] == 'r')
10294             {                                     /* getnetbyaddr */
10295               return -KEY_getnetbyaddr;
10296             }
10297
10298             goto unknown;
10299
10300           case 'n':
10301             if (name[9] == 'a' &&
10302                 name[10] == 'm' &&
10303                 name[11] == 'e')
10304             {                                     /* getnetbyname */
10305               return -KEY_getnetbyname;
10306             }
10307
10308             goto unknown;
10309
10310           default:
10311             goto unknown;
10312         }
10313       }
10314
10315       goto unknown;
10316
10317     case 13: /* 4 tokens of length 13 */
10318       if (name[0] == 'g' &&
10319           name[1] == 'e' &&
10320           name[2] == 't')
10321       {
10322         switch (name[3])
10323         {
10324           case 'h':
10325             if (name[4] == 'o' &&
10326                 name[5] == 's' &&
10327                 name[6] == 't' &&
10328                 name[7] == 'b' &&
10329                 name[8] == 'y')
10330             {
10331               switch (name[9])
10332               {
10333                 case 'a':
10334                   if (name[10] == 'd' &&
10335                       name[11] == 'd' &&
10336                       name[12] == 'r')
10337                   {                               /* gethostbyaddr */
10338                     return -KEY_gethostbyaddr;
10339                   }
10340
10341                   goto unknown;
10342
10343                 case 'n':
10344                   if (name[10] == 'a' &&
10345                       name[11] == 'm' &&
10346                       name[12] == 'e')
10347                   {                               /* gethostbyname */
10348                     return -KEY_gethostbyname;
10349                   }
10350
10351                   goto unknown;
10352
10353                 default:
10354                   goto unknown;
10355               }
10356             }
10357
10358             goto unknown;
10359
10360           case 's':
10361             if (name[4] == 'e' &&
10362                 name[5] == 'r' &&
10363                 name[6] == 'v' &&
10364                 name[7] == 'b' &&
10365                 name[8] == 'y')
10366             {
10367               switch (name[9])
10368               {
10369                 case 'n':
10370                   if (name[10] == 'a' &&
10371                       name[11] == 'm' &&
10372                       name[12] == 'e')
10373                   {                               /* getservbyname */
10374                     return -KEY_getservbyname;
10375                   }
10376
10377                   goto unknown;
10378
10379                 case 'p':
10380                   if (name[10] == 'o' &&
10381                       name[11] == 'r' &&
10382                       name[12] == 't')
10383                   {                               /* getservbyport */
10384                     return -KEY_getservbyport;
10385                   }
10386
10387                   goto unknown;
10388
10389                 default:
10390                   goto unknown;
10391               }
10392             }
10393
10394             goto unknown;
10395
10396           default:
10397             goto unknown;
10398         }
10399       }
10400
10401       goto unknown;
10402
10403     case 14: /* 1 tokens of length 14 */
10404       if (name[0] == 'g' &&
10405           name[1] == 'e' &&
10406           name[2] == 't' &&
10407           name[3] == 'p' &&
10408           name[4] == 'r' &&
10409           name[5] == 'o' &&
10410           name[6] == 't' &&
10411           name[7] == 'o' &&
10412           name[8] == 'b' &&
10413           name[9] == 'y' &&
10414           name[10] == 'n' &&
10415           name[11] == 'a' &&
10416           name[12] == 'm' &&
10417           name[13] == 'e')
10418       {                                           /* getprotobyname */
10419         return -KEY_getprotobyname;
10420       }
10421
10422       goto unknown;
10423
10424     case 16: /* 1 tokens of length 16 */
10425       if (name[0] == 'g' &&
10426           name[1] == 'e' &&
10427           name[2] == 't' &&
10428           name[3] == 'p' &&
10429           name[4] == 'r' &&
10430           name[5] == 'o' &&
10431           name[6] == 't' &&
10432           name[7] == 'o' &&
10433           name[8] == 'b' &&
10434           name[9] == 'y' &&
10435           name[10] == 'n' &&
10436           name[11] == 'u' &&
10437           name[12] == 'm' &&
10438           name[13] == 'b' &&
10439           name[14] == 'e' &&
10440           name[15] == 'r')
10441       {                                           /* getprotobynumber */
10442         return -KEY_getprotobynumber;
10443       }
10444
10445       goto unknown;
10446
10447     default:
10448       goto unknown;
10449   }
10450
10451 unknown:
10452   return 0;
10453 }
10454
10455 STATIC void
10456 S_checkcomma(pTHX_ const char *s, const char *name, const char *what)
10457 {
10458     dVAR;
10459
10460     if (*s == ' ' && s[1] == '(') {     /* XXX gotta be a better way */
10461         if (ckWARN(WARN_SYNTAX)) {
10462             int level = 1;
10463             const char *w;
10464             for (w = s+2; *w && level; w++) {
10465                 if (*w == '(')
10466                     ++level;
10467                 else if (*w == ')')
10468                     --level;
10469             }
10470             while (isSPACE(*w))
10471                 ++w;
10472             /* the list of chars below is for end of statements or
10473              * block / parens, boolean operators (&&, ||, //) and branch
10474              * constructs (or, and, if, until, unless, while, err, for).
10475              * Not a very solid hack... */
10476             if (!*w || !strchr(";&/|})]oaiuwef!=", *w))
10477                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
10478                             "%s (...) interpreted as function",name);
10479         }
10480     }
10481     while (s < PL_bufend && isSPACE(*s))
10482         s++;
10483     if (*s == '(')
10484         s++;
10485     while (s < PL_bufend && isSPACE(*s))
10486         s++;
10487     if (isIDFIRST_lazy_if(s,UTF)) {
10488         const char * const w = s++;
10489         while (isALNUM_lazy_if(s,UTF))
10490             s++;
10491         while (s < PL_bufend && isSPACE(*s))
10492             s++;
10493         if (*s == ',') {
10494             GV* gv;
10495             if (keyword(w, s - w, 0))
10496                 return;
10497
10498             gv = gv_fetchpvn_flags(w, s - w, 0, SVt_PVCV);
10499             if (gv && GvCVu(gv))
10500                 return;
10501             Perl_croak(aTHX_ "No comma allowed after %s", what);
10502         }
10503     }
10504 }
10505
10506 /* Either returns sv, or mortalizes sv and returns a new SV*.
10507    Best used as sv=new_constant(..., sv, ...).
10508    If s, pv are NULL, calls subroutine with one argument,
10509    and type is used with error messages only. */
10510
10511 STATIC SV *
10512 S_new_constant(pTHX_ const char *s, STRLEN len, const char *key, STRLEN keylen,
10513                SV *sv, SV *pv, const char *type, STRLEN typelen)
10514 {
10515     dVAR; dSP;
10516     HV * const table = GvHV(PL_hintgv);          /* ^H */
10517     SV *res;
10518     SV **cvp;
10519     SV *cv, *typesv;
10520     const char *why1 = "", *why2 = "", *why3 = "";
10521
10522     if (!table || !(PL_hints & HINT_LOCALIZE_HH)) {
10523         SV *msg;
10524
10525         why2 = (const char *)
10526             (strEQ(key,"charnames")
10527              ? "(possibly a missing \"use charnames ...\")"
10528              : "");
10529         msg = Perl_newSVpvf(aTHX_ "Constant(%s) unknown: %s",
10530                             (type ? type: "undef"), why2);
10531
10532         /* This is convoluted and evil ("goto considered harmful")
10533          * but I do not understand the intricacies of all the different
10534          * failure modes of %^H in here.  The goal here is to make
10535          * the most probable error message user-friendly. --jhi */
10536
10537         goto msgdone;
10538
10539     report:
10540         msg = Perl_newSVpvf(aTHX_ "Constant(%s): %s%s%s",
10541                             (type ? type: "undef"), why1, why2, why3);
10542     msgdone:
10543         yyerror(SvPVX_const(msg));
10544         SvREFCNT_dec(msg);
10545         return sv;
10546     }
10547     cvp = hv_fetch(table, key, keylen, FALSE);
10548     if (!cvp || !SvOK(*cvp)) {
10549         why1 = "$^H{";
10550         why2 = key;
10551         why3 = "} is not defined";
10552         goto report;
10553     }
10554     sv_2mortal(sv);                     /* Parent created it permanently */
10555     cv = *cvp;
10556     if (!pv && s)
10557         pv = sv_2mortal(newSVpvn(s, len));
10558     if (type && pv)
10559         typesv = sv_2mortal(newSVpvn(type, typelen));
10560     else
10561         typesv = &PL_sv_undef;
10562
10563     PUSHSTACKi(PERLSI_OVERLOAD);
10564     ENTER ;
10565     SAVETMPS;
10566
10567     PUSHMARK(SP) ;
10568     EXTEND(sp, 3);
10569     if (pv)
10570         PUSHs(pv);
10571     PUSHs(sv);
10572     if (pv)
10573         PUSHs(typesv);
10574     PUTBACK;
10575     call_sv(cv, G_SCALAR | ( PL_in_eval ? 0 : G_EVAL));
10576
10577     SPAGAIN ;
10578
10579     /* Check the eval first */
10580     if (!PL_in_eval && SvTRUE(ERRSV)) {
10581         sv_catpvs(ERRSV, "Propagated");
10582         yyerror(SvPV_nolen_const(ERRSV)); /* Duplicates the message inside eval */
10583         (void)POPs;
10584         res = SvREFCNT_inc_simple(sv);
10585     }
10586     else {
10587         res = POPs;
10588         SvREFCNT_inc_simple_void(res);
10589     }
10590
10591     PUTBACK ;
10592     FREETMPS ;
10593     LEAVE ;
10594     POPSTACK;
10595
10596     if (!SvOK(res)) {
10597         why1 = "Call to &{$^H{";
10598         why2 = key;
10599         why3 = "}} did not return a defined value";
10600         sv = res;
10601         goto report;
10602     }
10603
10604     return res;
10605 }
10606
10607 /* Returns a NUL terminated string, with the length of the string written to
10608    *slp
10609    */
10610 STATIC char *
10611 S_scan_word(pTHX_ register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
10612 {
10613     dVAR;
10614     register char *d = dest;
10615     register char * const e = d + destlen - 3;  /* two-character token, ending NUL */
10616     for (;;) {
10617         if (d >= e)
10618             Perl_croak(aTHX_ ident_too_long);
10619         if (isALNUM(*s))        /* UTF handled below */
10620             *d++ = *s++;
10621         else if (allow_package && (*s == '\'') && isIDFIRST_lazy_if(s+1,UTF)) {
10622             *d++ = ':';
10623             *d++ = ':';
10624             s++;
10625         }
10626         else if (allow_package && (s[0] == ':') && (s[1] == ':') && (s[2] != '$')) {
10627             *d++ = *s++;
10628             *d++ = *s++;
10629         }
10630         else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
10631             char *t = s + UTF8SKIP(s);
10632             size_t len;
10633             while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
10634                 t += UTF8SKIP(t);
10635             len = t - s;
10636             if (d + len > e)
10637                 Perl_croak(aTHX_ ident_too_long);
10638             Copy(s, d, len, char);
10639             d += len;
10640             s = t;
10641         }
10642         else {
10643             *d = '\0';
10644             *slp = d - dest;
10645             return s;
10646         }
10647     }
10648 }
10649
10650 STATIC char *
10651 S_scan_ident(pTHX_ register char *s, register const char *send, char *dest, STRLEN destlen, I32 ck_uni)
10652 {
10653     dVAR;
10654     char *bracket = NULL;
10655     char funny = *s++;
10656     register char *d = dest;
10657     register char * const e = d + destlen + 3;    /* two-character token, ending NUL */
10658
10659     if (isSPACE(*s))
10660         s = PEEKSPACE(s);
10661     if (isDIGIT(*s)) {
10662         while (isDIGIT(*s)) {
10663             if (d >= e)
10664                 Perl_croak(aTHX_ ident_too_long);
10665             *d++ = *s++;
10666         }
10667     }
10668     else {
10669         for (;;) {
10670             if (d >= e)
10671                 Perl_croak(aTHX_ ident_too_long);
10672             if (isALNUM(*s))    /* UTF handled below */
10673                 *d++ = *s++;
10674             else if (*s == '\'' && isIDFIRST_lazy_if(s+1,UTF)) {
10675                 *d++ = ':';
10676                 *d++ = ':';
10677                 s++;
10678             }
10679             else if (*s == ':' && s[1] == ':') {
10680                 *d++ = *s++;
10681                 *d++ = *s++;
10682             }
10683             else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
10684                 char *t = s + UTF8SKIP(s);
10685                 while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
10686                     t += UTF8SKIP(t);
10687                 if (d + (t - s) > e)
10688                     Perl_croak(aTHX_ ident_too_long);
10689                 Copy(s, d, t - s, char);
10690                 d += t - s;
10691                 s = t;
10692             }
10693             else
10694                 break;
10695         }
10696     }
10697     *d = '\0';
10698     d = dest;
10699     if (*d) {
10700         if (PL_lex_state != LEX_NORMAL)
10701             PL_lex_state = LEX_INTERPENDMAYBE;
10702         return s;
10703     }
10704     if (*s == '$' && s[1] &&
10705         (isALNUM_lazy_if(s+1,UTF) || s[1] == '$' || s[1] == '{' || strnEQ(s+1,"::",2)) )
10706     {
10707         return s;
10708     }
10709     if (*s == '{') {
10710         bracket = s;
10711         s++;
10712     }
10713     else if (ck_uni)
10714         check_uni();
10715     if (s < send)
10716         *d = *s++;
10717     d[1] = '\0';
10718     if (*d == '^' && *s && isCONTROLVAR(*s)) {
10719         *d = toCTRL(*s);
10720         s++;
10721     }
10722     if (bracket) {
10723         if (isSPACE(s[-1])) {
10724             while (s < send) {
10725                 const char ch = *s++;
10726                 if (!SPACE_OR_TAB(ch)) {
10727                     *d = ch;
10728                     break;
10729                 }
10730             }
10731         }
10732         if (isIDFIRST_lazy_if(d,UTF)) {
10733             d++;
10734             if (UTF) {
10735                 char *end = s;
10736                 while ((end < send && isALNUM_lazy_if(end,UTF)) || *end == ':') {
10737                     end += UTF8SKIP(end);
10738                     while (end < send && UTF8_IS_CONTINUED(*end) && is_utf8_mark((U8*)end))
10739                         end += UTF8SKIP(end);
10740                 }
10741                 Copy(s, d, end - s, char);
10742                 d += end - s;
10743                 s = end;
10744             }
10745             else {
10746                 while ((isALNUM(*s) || *s == ':') && d < e)
10747                     *d++ = *s++;
10748                 if (d >= e)
10749                     Perl_croak(aTHX_ ident_too_long);
10750             }
10751             *d = '\0';
10752             while (s < send && SPACE_OR_TAB(*s))
10753                 s++;
10754             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
10755                 if (ckWARN(WARN_AMBIGUOUS) && keyword(dest, d - dest, 0)) {
10756                     const char * const brack =
10757                         (const char *)
10758                         ((*s == '[') ? "[...]" : "{...}");
10759                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
10760                         "Ambiguous use of %c{%s%s} resolved to %c%s%s",
10761                         funny, dest, brack, funny, dest, brack);
10762                 }
10763                 bracket++;
10764                 PL_lex_brackstack[PL_lex_brackets++] = (char)(XOPERATOR | XFAKEBRACK);
10765                 return s;
10766             }
10767         }
10768         /* Handle extended ${^Foo} variables
10769          * 1999-02-27 mjd-perl-patch@plover.com */
10770         else if (!isALNUM(*d) && !isPRINT(*d) /* isCTRL(d) */
10771                  && isALNUM(*s))
10772         {
10773             d++;
10774             while (isALNUM(*s) && d < e) {
10775                 *d++ = *s++;
10776             }
10777             if (d >= e)
10778                 Perl_croak(aTHX_ ident_too_long);
10779             *d = '\0';
10780         }
10781         if (*s == '}') {
10782             s++;
10783             if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets) {
10784                 PL_lex_state = LEX_INTERPEND;
10785                 PL_expect = XREF;
10786             }
10787             if (PL_lex_state == LEX_NORMAL) {
10788                 if (ckWARN(WARN_AMBIGUOUS) &&
10789                     (keyword(dest, d - dest, 0)
10790                      || get_cvn_flags(dest, d - dest, 0)))
10791                 {
10792                     if (funny == '#')
10793                         funny = '@';
10794                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
10795                         "Ambiguous use of %c{%s} resolved to %c%s",
10796                         funny, dest, funny, dest);
10797                 }
10798             }
10799         }
10800         else {
10801             s = bracket;                /* let the parser handle it */
10802             *dest = '\0';
10803         }
10804     }
10805     else if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets && !intuit_more(s))
10806         PL_lex_state = LEX_INTERPEND;
10807     return s;
10808 }
10809
10810 void
10811 Perl_pmflag(pTHX_ U32* pmfl, int ch)
10812 {
10813     PERL_UNUSED_CONTEXT;
10814     if (ch<256) {
10815         char c = (char)ch;
10816         switch (c) {
10817             CASE_STD_PMMOD_FLAGS_PARSE_SET(pmfl);
10818             case GLOBAL_PAT_MOD:    *pmfl |= PMf_GLOBAL; break;
10819             case CONTINUE_PAT_MOD:  *pmfl |= PMf_CONTINUE; break;
10820             case ONCE_PAT_MOD:      *pmfl |= PMf_KEEP; break;
10821             case KEEPCOPY_PAT_MOD:  *pmfl |= PMf_KEEPCOPY; break;
10822         }
10823     }
10824 }
10825
10826 STATIC char *
10827 S_scan_pat(pTHX_ char *start, I32 type)
10828 {
10829     dVAR;
10830     PMOP *pm;
10831     char *s = scan_str(start,!!PL_madskills,FALSE);
10832     const char * const valid_flags =
10833         (const char *)((type == OP_QR) ? QR_PAT_MODS : M_PAT_MODS);
10834 #ifdef PERL_MAD
10835     char *modstart;
10836 #endif
10837
10838
10839     if (!s) {
10840         const char * const delimiter = skipspace(start);
10841         Perl_croak(aTHX_
10842                    (const char *)
10843                    (*delimiter == '?'
10844                     ? "Search pattern not terminated or ternary operator parsed as search pattern"
10845                     : "Search pattern not terminated" ));
10846     }
10847
10848     pm = (PMOP*)newPMOP(type, 0);
10849     if (PL_multi_open == '?') {
10850         /* This is the only point in the code that sets PMf_ONCE:  */
10851         pm->op_pmflags |= PMf_ONCE;
10852
10853         /* Hence it's safe to do this bit of PMOP book-keeping here, which
10854            allows us to restrict the list needed by reset to just the ??
10855            matches.  */
10856         assert(type != OP_TRANS);
10857         if (PL_curstash) {
10858             MAGIC *mg = mg_find((SV*)PL_curstash, PERL_MAGIC_symtab);
10859             U32 elements;
10860             if (!mg) {
10861                 mg = sv_magicext((SV*)PL_curstash, 0, PERL_MAGIC_symtab, 0, 0,
10862                                  0);
10863             }
10864             elements = mg->mg_len / sizeof(PMOP**);
10865             Renewc(mg->mg_ptr, elements + 1, PMOP*, char);
10866             ((PMOP**)mg->mg_ptr) [elements++] = pm;
10867             mg->mg_len = elements * sizeof(PMOP**);
10868             PmopSTASH_set(pm,PL_curstash);
10869         }
10870     }
10871 #ifdef PERL_MAD
10872     modstart = s;
10873 #endif
10874     while (*s && strchr(valid_flags, *s))
10875         pmflag(&pm->op_pmflags,*s++);
10876 #ifdef PERL_MAD
10877     if (PL_madskills && modstart != s) {
10878         SV* tmptoken = newSVpvn(modstart, s - modstart);
10879         append_madprops(newMADPROP('m', MAD_SV, tmptoken, 0), (OP*)pm, 0);
10880     }
10881 #endif
10882     /* issue a warning if /c is specified,but /g is not */
10883     if ((pm->op_pmflags & PMf_CONTINUE) && !(pm->op_pmflags & PMf_GLOBAL)
10884             && ckWARN(WARN_REGEXP))
10885     {
10886         Perl_warner(aTHX_ packWARN(WARN_REGEXP),
10887             "Use of /c modifier is meaningless without /g" );
10888     }
10889
10890     PL_lex_op = (OP*)pm;
10891     yylval.ival = OP_MATCH;
10892     return s;
10893 }
10894
10895 STATIC char *
10896 S_scan_subst(pTHX_ char *start)
10897 {
10898     dVAR;
10899     register char *s;
10900     register PMOP *pm;
10901     I32 first_start;
10902     I32 es = 0;
10903 #ifdef PERL_MAD
10904     char *modstart;
10905 #endif
10906
10907     yylval.ival = OP_NULL;
10908
10909     s = scan_str(start,!!PL_madskills,FALSE);
10910
10911     if (!s)
10912         Perl_croak(aTHX_ "Substitution pattern not terminated");
10913
10914     if (s[-1] == PL_multi_open)
10915         s--;
10916 #ifdef PERL_MAD
10917     if (PL_madskills) {
10918         CURMAD('q', PL_thisopen);
10919         CURMAD('_', PL_thiswhite);
10920         CURMAD('E', PL_thisstuff);
10921         CURMAD('Q', PL_thisclose);
10922         PL_realtokenstart = s - SvPVX(PL_linestr);
10923     }
10924 #endif
10925
10926     first_start = PL_multi_start;
10927     s = scan_str(s,!!PL_madskills,FALSE);
10928     if (!s) {
10929         if (PL_lex_stuff) {
10930             SvREFCNT_dec(PL_lex_stuff);
10931             PL_lex_stuff = NULL;
10932         }
10933         Perl_croak(aTHX_ "Substitution replacement not terminated");
10934     }
10935     PL_multi_start = first_start;       /* so whole substitution is taken together */
10936
10937     pm = (PMOP*)newPMOP(OP_SUBST, 0);
10938
10939 #ifdef PERL_MAD
10940     if (PL_madskills) {
10941         CURMAD('z', PL_thisopen);
10942         CURMAD('R', PL_thisstuff);
10943         CURMAD('Z', PL_thisclose);
10944     }
10945     modstart = s;
10946 #endif
10947
10948     while (*s) {
10949         if (*s == EXEC_PAT_MOD) {
10950             s++;
10951             es++;
10952         }
10953         else if (strchr(S_PAT_MODS, *s))
10954             pmflag(&pm->op_pmflags,*s++);
10955         else
10956             break;
10957     }
10958
10959 #ifdef PERL_MAD
10960     if (PL_madskills) {
10961         if (modstart != s)
10962             curmad('m', newSVpvn(modstart, s - modstart));
10963         append_madprops(PL_thismad, (OP*)pm, 0);
10964         PL_thismad = 0;
10965     }
10966 #endif
10967     if ((pm->op_pmflags & PMf_CONTINUE) && ckWARN(WARN_REGEXP)) {
10968         Perl_warner(aTHX_ packWARN(WARN_REGEXP), "Use of /c modifier is meaningless in s///" );
10969     }
10970
10971     if (es) {
10972         SV * const repl = newSVpvs("");
10973
10974         PL_sublex_info.super_bufptr = s;
10975         PL_sublex_info.super_bufend = PL_bufend;
10976         PL_multi_end = 0;
10977         pm->op_pmflags |= PMf_EVAL;
10978         while (es-- > 0) {
10979             if (es)
10980                 sv_catpvs(repl, "eval ");
10981             else
10982                 sv_catpvs(repl, "do ");
10983         }
10984         sv_catpvs(repl, "{");
10985         sv_catsv(repl, PL_lex_repl);
10986         if (strchr(SvPVX(PL_lex_repl), '#'))
10987             sv_catpvs(repl, "\n");
10988         sv_catpvs(repl, "}");
10989         SvEVALED_on(repl);
10990         SvREFCNT_dec(PL_lex_repl);
10991         PL_lex_repl = repl;
10992     }
10993
10994     PL_lex_op = (OP*)pm;
10995     yylval.ival = OP_SUBST;
10996     return s;
10997 }
10998
10999 STATIC char *
11000 S_scan_trans(pTHX_ char *start)
11001 {
11002     dVAR;
11003     register char* s;
11004     OP *o;
11005     short *tbl;
11006     I32 squash;
11007     I32 del;
11008     I32 complement;
11009 #ifdef PERL_MAD
11010     char *modstart;
11011 #endif
11012
11013     yylval.ival = OP_NULL;
11014
11015     s = scan_str(start,!!PL_madskills,FALSE);
11016     if (!s)
11017         Perl_croak(aTHX_ "Transliteration pattern not terminated");
11018
11019     if (s[-1] == PL_multi_open)
11020         s--;
11021 #ifdef PERL_MAD
11022     if (PL_madskills) {
11023         CURMAD('q', PL_thisopen);
11024         CURMAD('_', PL_thiswhite);
11025         CURMAD('E', PL_thisstuff);
11026         CURMAD('Q', PL_thisclose);
11027         PL_realtokenstart = s - SvPVX(PL_linestr);
11028     }
11029 #endif
11030
11031     s = scan_str(s,!!PL_madskills,FALSE);
11032     if (!s) {
11033         if (PL_lex_stuff) {
11034             SvREFCNT_dec(PL_lex_stuff);
11035             PL_lex_stuff = NULL;
11036         }
11037         Perl_croak(aTHX_ "Transliteration replacement not terminated");
11038     }
11039     if (PL_madskills) {
11040         CURMAD('z', PL_thisopen);
11041         CURMAD('R', PL_thisstuff);
11042         CURMAD('Z', PL_thisclose);
11043     }
11044
11045     complement = del = squash = 0;
11046 #ifdef PERL_MAD
11047     modstart = s;
11048 #endif
11049     while (1) {
11050         switch (*s) {
11051         case 'c':
11052             complement = OPpTRANS_COMPLEMENT;
11053             break;
11054         case 'd':
11055             del = OPpTRANS_DELETE;
11056             break;
11057         case 's':
11058             squash = OPpTRANS_SQUASH;
11059             break;
11060         default:
11061             goto no_more;
11062         }
11063         s++;
11064     }
11065   no_more:
11066
11067     tbl = (short *)PerlMemShared_calloc(complement&&!del?258:256, sizeof(short));
11068     o = newPVOP(OP_TRANS, 0, (char*)tbl);
11069     o->op_private &= ~OPpTRANS_ALL;
11070     o->op_private |= del|squash|complement|
11071       (DO_UTF8(PL_lex_stuff)? OPpTRANS_FROM_UTF : 0)|
11072       (DO_UTF8(PL_lex_repl) ? OPpTRANS_TO_UTF   : 0);
11073
11074     PL_lex_op = o;
11075     yylval.ival = OP_TRANS;
11076
11077 #ifdef PERL_MAD
11078     if (PL_madskills) {
11079         if (modstart != s)
11080             curmad('m', newSVpvn(modstart, s - modstart));
11081         append_madprops(PL_thismad, o, 0);
11082         PL_thismad = 0;
11083     }
11084 #endif
11085
11086     return s;
11087 }
11088
11089 STATIC char *
11090 S_scan_heredoc(pTHX_ register char *s)
11091 {
11092     dVAR;
11093     SV *herewas;
11094     I32 op_type = OP_SCALAR;
11095     I32 len;
11096     SV *tmpstr;
11097     char term;
11098     const char *found_newline;
11099     register char *d;
11100     register char *e;
11101     char *peek;
11102     const int outer = (PL_rsfp && !(PL_lex_inwhat == OP_SCALAR));
11103 #ifdef PERL_MAD
11104     I32 stuffstart = s - SvPVX(PL_linestr);
11105     char *tstart;
11106
11107     PL_realtokenstart = -1;
11108 #endif
11109
11110     s += 2;
11111     d = PL_tokenbuf;
11112     e = PL_tokenbuf + sizeof PL_tokenbuf - 1;
11113     if (!outer)
11114         *d++ = '\n';
11115     peek = s;
11116     while (SPACE_OR_TAB(*peek))
11117         peek++;
11118     if (*peek == '`' || *peek == '\'' || *peek =='"') {
11119         s = peek;
11120         term = *s++;
11121         s = delimcpy(d, e, s, PL_bufend, term, &len);
11122         d += len;
11123         if (s < PL_bufend)
11124             s++;
11125     }
11126     else {
11127         if (*s == '\\')
11128             s++, term = '\'';
11129         else
11130             term = '"';
11131         if (!isALNUM_lazy_if(s,UTF))
11132             deprecate_old("bare << to mean <<\"\"");
11133         for (; isALNUM_lazy_if(s,UTF); s++) {
11134             if (d < e)
11135                 *d++ = *s;
11136         }
11137     }
11138     if (d >= PL_tokenbuf + sizeof PL_tokenbuf - 1)
11139         Perl_croak(aTHX_ "Delimiter for here document is too long");
11140     *d++ = '\n';
11141     *d = '\0';
11142     len = d - PL_tokenbuf;
11143
11144 #ifdef PERL_MAD
11145     if (PL_madskills) {
11146         tstart = PL_tokenbuf + !outer;
11147         PL_thisclose = newSVpvn(tstart, len - !outer);
11148         tstart = SvPVX(PL_linestr) + stuffstart;
11149         PL_thisopen = newSVpvn(tstart, s - tstart);
11150         stuffstart = s - SvPVX(PL_linestr);
11151     }
11152 #endif
11153 #ifndef PERL_STRICT_CR
11154     d = strchr(s, '\r');
11155     if (d) {
11156         char * const olds = s;
11157         s = d;
11158         while (s < PL_bufend) {
11159             if (*s == '\r') {
11160                 *d++ = '\n';
11161                 if (*++s == '\n')
11162                     s++;
11163             }
11164             else if (*s == '\n' && s[1] == '\r') {      /* \015\013 on a mac? */
11165                 *d++ = *s++;
11166                 s++;
11167             }
11168             else
11169                 *d++ = *s++;
11170         }
11171         *d = '\0';
11172         PL_bufend = d;
11173         SvCUR_set(PL_linestr, PL_bufend - SvPVX_const(PL_linestr));
11174         s = olds;
11175     }
11176 #endif
11177 #ifdef PERL_MAD
11178     found_newline = 0;
11179 #endif
11180     if ( outer || !(found_newline = (char*)memchr((void*)s, '\n', PL_bufend - s)) ) {
11181         herewas = newSVpvn(s,PL_bufend-s);
11182     }
11183     else {
11184 #ifdef PERL_MAD
11185         herewas = newSVpvn(s-1,found_newline-s+1);
11186 #else
11187         s--;
11188         herewas = newSVpvn(s,found_newline-s);
11189 #endif
11190     }
11191 #ifdef PERL_MAD
11192     if (PL_madskills) {
11193         tstart = SvPVX(PL_linestr) + stuffstart;
11194         if (PL_thisstuff)
11195             sv_catpvn(PL_thisstuff, tstart, s - tstart);
11196         else
11197             PL_thisstuff = newSVpvn(tstart, s - tstart);
11198     }
11199 #endif
11200     s += SvCUR(herewas);
11201
11202 #ifdef PERL_MAD
11203     stuffstart = s - SvPVX(PL_linestr);
11204
11205     if (found_newline)
11206         s--;
11207 #endif
11208
11209     tmpstr = newSV_type(SVt_PVIV);
11210     SvGROW(tmpstr, 80);
11211     if (term == '\'') {
11212         op_type = OP_CONST;
11213         SvIV_set(tmpstr, -1);
11214     }
11215     else if (term == '`') {
11216         op_type = OP_BACKTICK;
11217         SvIV_set(tmpstr, '\\');
11218     }
11219
11220     CLINE;
11221     PL_multi_start = CopLINE(PL_curcop);
11222     PL_multi_open = PL_multi_close = '<';
11223     term = *PL_tokenbuf;
11224     if (PL_lex_inwhat == OP_SUBST && PL_in_eval && !PL_rsfp) {
11225         char * const bufptr = PL_sublex_info.super_bufptr;
11226         char * const bufend = PL_sublex_info.super_bufend;
11227         char * const olds = s - SvCUR(herewas);
11228         s = strchr(bufptr, '\n');
11229         if (!s)
11230             s = bufend;
11231         d = s;
11232         while (s < bufend &&
11233           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
11234             if (*s++ == '\n')
11235                 CopLINE_inc(PL_curcop);
11236         }
11237         if (s >= bufend) {
11238             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11239             missingterm(PL_tokenbuf);
11240         }
11241         sv_setpvn(herewas,bufptr,d-bufptr+1);
11242         sv_setpvn(tmpstr,d+1,s-d);
11243         s += len - 1;
11244         sv_catpvn(herewas,s,bufend-s);
11245         Copy(SvPVX_const(herewas),bufptr,SvCUR(herewas) + 1,char);
11246
11247         s = olds;
11248         goto retval;
11249     }
11250     else if (!outer) {
11251         d = s;
11252         while (s < PL_bufend &&
11253           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
11254             if (*s++ == '\n')
11255                 CopLINE_inc(PL_curcop);
11256         }
11257         if (s >= PL_bufend) {
11258             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11259             missingterm(PL_tokenbuf);
11260         }
11261         sv_setpvn(tmpstr,d+1,s-d);
11262 #ifdef PERL_MAD
11263         if (PL_madskills) {
11264             if (PL_thisstuff)
11265                 sv_catpvn(PL_thisstuff, d + 1, s - d);
11266             else
11267                 PL_thisstuff = newSVpvn(d + 1, s - d);
11268             stuffstart = s - SvPVX(PL_linestr);
11269         }
11270 #endif
11271         s += len - 1;
11272         CopLINE_inc(PL_curcop); /* the preceding stmt passes a newline */
11273
11274         sv_catpvn(herewas,s,PL_bufend-s);
11275         sv_setsv(PL_linestr,herewas);
11276         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart = SvPVX(PL_linestr);
11277         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11278         PL_last_lop = PL_last_uni = NULL;
11279     }
11280     else
11281         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
11282     while (s >= PL_bufend) {    /* multiple line string? */
11283 #ifdef PERL_MAD
11284         if (PL_madskills) {
11285             tstart = SvPVX(PL_linestr) + stuffstart;
11286             if (PL_thisstuff)
11287                 sv_catpvn(PL_thisstuff, tstart, PL_bufend - tstart);
11288             else
11289                 PL_thisstuff = newSVpvn(tstart, PL_bufend - tstart);
11290         }
11291 #endif
11292         if (!outer ||
11293          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
11294             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11295             missingterm(PL_tokenbuf);
11296         }
11297 #ifdef PERL_MAD
11298         stuffstart = s - SvPVX(PL_linestr);
11299 #endif
11300         CopLINE_inc(PL_curcop);
11301         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11302         PL_last_lop = PL_last_uni = NULL;
11303 #ifndef PERL_STRICT_CR
11304         if (PL_bufend - PL_linestart >= 2) {
11305             if ((PL_bufend[-2] == '\r' && PL_bufend[-1] == '\n') ||
11306                 (PL_bufend[-2] == '\n' && PL_bufend[-1] == '\r'))
11307             {
11308                 PL_bufend[-2] = '\n';
11309                 PL_bufend--;
11310                 SvCUR_set(PL_linestr, PL_bufend - SvPVX_const(PL_linestr));
11311             }
11312             else if (PL_bufend[-1] == '\r')
11313                 PL_bufend[-1] = '\n';
11314         }
11315         else if (PL_bufend - PL_linestart == 1 && PL_bufend[-1] == '\r')
11316             PL_bufend[-1] = '\n';
11317 #endif
11318         if (PERLDB_LINE && PL_curstash != PL_debstash)
11319             update_debugger_info(PL_linestr, NULL, 0);
11320         if (*s == term && memEQ(s,PL_tokenbuf,len)) {
11321             STRLEN off = PL_bufend - 1 - SvPVX_const(PL_linestr);
11322             *(SvPVX(PL_linestr) + off ) = ' ';
11323             sv_catsv(PL_linestr,herewas);
11324             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11325             s = SvPVX(PL_linestr) + off; /* In case PV of PL_linestr moved. */
11326         }
11327         else {
11328             s = PL_bufend;
11329             sv_catsv(tmpstr,PL_linestr);
11330         }
11331     }
11332     s++;
11333 retval:
11334     PL_multi_end = CopLINE(PL_curcop);
11335     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
11336         SvPV_shrink_to_cur(tmpstr);
11337     }
11338     SvREFCNT_dec(herewas);
11339     if (!IN_BYTES) {
11340         if (UTF && is_utf8_string((U8*)SvPVX_const(tmpstr), SvCUR(tmpstr)))
11341             SvUTF8_on(tmpstr);
11342         else if (PL_encoding)
11343             sv_recode_to_utf8(tmpstr, PL_encoding);
11344     }
11345     PL_lex_stuff = tmpstr;
11346     yylval.ival = op_type;
11347     return s;
11348 }
11349
11350 /* scan_inputsymbol
11351    takes: current position in input buffer
11352    returns: new position in input buffer
11353    side-effects: yylval and lex_op are set.
11354
11355    This code handles:
11356
11357    <>           read from ARGV
11358    <FH>         read from filehandle
11359    <pkg::FH>    read from package qualified filehandle
11360    <pkg'FH>     read from package qualified filehandle
11361    <$fh>        read from filehandle in $fh
11362    <*.h>        filename glob
11363
11364 */
11365
11366 STATIC char *
11367 S_scan_inputsymbol(pTHX_ char *start)
11368 {
11369     dVAR;
11370     register char *s = start;           /* current position in buffer */
11371     char *end;
11372     I32 len;
11373
11374     char *d = PL_tokenbuf;                                      /* start of temp holding space */
11375     const char * const e = PL_tokenbuf + sizeof PL_tokenbuf;    /* end of temp holding space */
11376
11377     end = strchr(s, '\n');
11378     if (!end)
11379         end = PL_bufend;
11380     s = delimcpy(d, e, s + 1, end, '>', &len);  /* extract until > */
11381
11382     /* die if we didn't have space for the contents of the <>,
11383        or if it didn't end, or if we see a newline
11384     */
11385
11386     if (len >= (I32)sizeof PL_tokenbuf)
11387         Perl_croak(aTHX_ "Excessively long <> operator");
11388     if (s >= end)
11389         Perl_croak(aTHX_ "Unterminated <> operator");
11390
11391     s++;
11392
11393     /* check for <$fh>
11394        Remember, only scalar variables are interpreted as filehandles by
11395        this code.  Anything more complex (e.g., <$fh{$num}>) will be
11396        treated as a glob() call.
11397        This code makes use of the fact that except for the $ at the front,
11398        a scalar variable and a filehandle look the same.
11399     */
11400     if (*d == '$' && d[1]) d++;
11401
11402     /* allow <Pkg'VALUE> or <Pkg::VALUE> */
11403     while (*d && (isALNUM_lazy_if(d,UTF) || *d == '\'' || *d == ':'))
11404         d++;
11405
11406     /* If we've tried to read what we allow filehandles to look like, and
11407        there's still text left, then it must be a glob() and not a getline.
11408        Use scan_str to pull out the stuff between the <> and treat it
11409        as nothing more than a string.
11410     */
11411
11412     if (d - PL_tokenbuf != len) {
11413         yylval.ival = OP_GLOB;
11414         s = scan_str(start,!!PL_madskills,FALSE);
11415         if (!s)
11416            Perl_croak(aTHX_ "Glob not terminated");
11417         return s;
11418     }
11419     else {
11420         bool readline_overriden = FALSE;
11421         GV *gv_readline;
11422         GV **gvp;
11423         /* we're in a filehandle read situation */
11424         d = PL_tokenbuf;
11425
11426         /* turn <> into <ARGV> */
11427         if (!len)
11428             Copy("ARGV",d,5,char);
11429
11430         /* Check whether readline() is overriden */
11431         gv_readline = gv_fetchpvs("readline", GV_NOTQUAL, SVt_PVCV);
11432         if ((gv_readline
11433                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline))
11434                 ||
11435                 ((gvp = (GV**)hv_fetchs(PL_globalstash, "readline", FALSE))
11436                  && (gv_readline = *gvp) && isGV_with_GP(gv_readline)
11437                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline)))
11438             readline_overriden = TRUE;
11439
11440         /* if <$fh>, create the ops to turn the variable into a
11441            filehandle
11442         */
11443         if (*d == '$') {
11444             /* try to find it in the pad for this block, otherwise find
11445                add symbol table ops
11446             */
11447             const PADOFFSET tmp = pad_findmy(d);
11448             if (tmp != NOT_IN_PAD) {
11449                 if (PAD_COMPNAME_FLAGS_isOUR(tmp)) {
11450                     HV * const stash = PAD_COMPNAME_OURSTASH(tmp);
11451                     HEK * const stashname = HvNAME_HEK(stash);
11452                     SV * const sym = sv_2mortal(newSVhek(stashname));
11453                     sv_catpvs(sym, "::");
11454                     sv_catpv(sym, d+1);
11455                     d = SvPVX(sym);
11456                     goto intro_sym;
11457                 }
11458                 else {
11459                     OP * const o = newOP(OP_PADSV, 0);
11460                     o->op_targ = tmp;
11461                     PL_lex_op = readline_overriden
11462                         ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11463                                 append_elem(OP_LIST, o,
11464                                     newCVREF(0, newGVOP(OP_GV,0,gv_readline))))
11465                         : (OP*)newUNOP(OP_READLINE, 0, o);
11466                 }
11467             }
11468             else {
11469                 GV *gv;
11470                 ++d;
11471 intro_sym:
11472                 gv = gv_fetchpv(d,
11473                                 (PL_in_eval
11474                                  ? (GV_ADDMULTI | GV_ADDINEVAL)
11475                                  : GV_ADDMULTI),
11476                                 SVt_PV);
11477                 PL_lex_op = readline_overriden
11478                     ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11479                             append_elem(OP_LIST,
11480                                 newUNOP(OP_RV2SV, 0, newGVOP(OP_GV, 0, gv)),
11481                                 newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
11482                     : (OP*)newUNOP(OP_READLINE, 0,
11483                             newUNOP(OP_RV2SV, 0,
11484                                 newGVOP(OP_GV, 0, gv)));
11485             }
11486             if (!readline_overriden)
11487                 PL_lex_op->op_flags |= OPf_SPECIAL;
11488             /* we created the ops in PL_lex_op, so make yylval.ival a null op */
11489             yylval.ival = OP_NULL;
11490         }
11491
11492         /* If it's none of the above, it must be a literal filehandle
11493            (<Foo::BAR> or <FOO>) so build a simple readline OP */
11494         else {
11495             GV * const gv = gv_fetchpv(d, GV_ADD, SVt_PVIO);
11496             PL_lex_op = readline_overriden
11497                 ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11498                         append_elem(OP_LIST,
11499                             newGVOP(OP_GV, 0, gv),
11500                             newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
11501                 : (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
11502             yylval.ival = OP_NULL;
11503         }
11504     }
11505
11506     return s;
11507 }
11508
11509
11510 /* scan_str
11511    takes: start position in buffer
11512           keep_quoted preserve \ on the embedded delimiter(s)
11513           keep_delims preserve the delimiters around the string
11514    returns: position to continue reading from buffer
11515    side-effects: multi_start, multi_close, lex_repl or lex_stuff, and
11516         updates the read buffer.
11517
11518    This subroutine pulls a string out of the input.  It is called for:
11519         q               single quotes           q(literal text)
11520         '               single quotes           'literal text'
11521         qq              double quotes           qq(interpolate $here please)
11522         "               double quotes           "interpolate $here please"
11523         qx              backticks               qx(/bin/ls -l)
11524         `               backticks               `/bin/ls -l`
11525         qw              quote words             @EXPORT_OK = qw( func() $spam )
11526         m//             regexp match            m/this/
11527         s///            regexp substitute       s/this/that/
11528         tr///           string transliterate    tr/this/that/
11529         y///            string transliterate    y/this/that/
11530         ($*@)           sub prototypes          sub foo ($)
11531         (stuff)         sub attr parameters     sub foo : attr(stuff)
11532         <>              readline or globs       <FOO>, <>, <$fh>, or <*.c>
11533
11534    In most of these cases (all but <>, patterns and transliterate)
11535    yylex() calls scan_str().  m// makes yylex() call scan_pat() which
11536    calls scan_str().  s/// makes yylex() call scan_subst() which calls
11537    scan_str().  tr/// and y/// make yylex() call scan_trans() which
11538    calls scan_str().
11539
11540    It skips whitespace before the string starts, and treats the first
11541    character as the delimiter.  If the delimiter is one of ([{< then
11542    the corresponding "close" character )]}> is used as the closing
11543    delimiter.  It allows quoting of delimiters, and if the string has
11544    balanced delimiters ([{<>}]) it allows nesting.
11545
11546    On success, the SV with the resulting string is put into lex_stuff or,
11547    if that is already non-NULL, into lex_repl. The second case occurs only
11548    when parsing the RHS of the special constructs s/// and tr/// (y///).
11549    For convenience, the terminating delimiter character is stuffed into
11550    SvIVX of the SV.
11551 */
11552
11553 STATIC char *
11554 S_scan_str(pTHX_ char *start, int keep_quoted, int keep_delims)
11555 {
11556     dVAR;
11557     SV *sv;                             /* scalar value: string */
11558     const char *tmps;                   /* temp string, used for delimiter matching */
11559     register char *s = start;           /* current position in the buffer */
11560     register char term;                 /* terminating character */
11561     register char *to;                  /* current position in the sv's data */
11562     I32 brackets = 1;                   /* bracket nesting level */
11563     bool has_utf8 = FALSE;              /* is there any utf8 content? */
11564     I32 termcode;                       /* terminating char. code */
11565     U8 termstr[UTF8_MAXBYTES];          /* terminating string */
11566     STRLEN termlen;                     /* length of terminating string */
11567     int last_off = 0;                   /* last position for nesting bracket */
11568 #ifdef PERL_MAD
11569     int stuffstart;
11570     char *tstart;
11571 #endif
11572
11573     /* skip space before the delimiter */
11574     if (isSPACE(*s)) {
11575         s = PEEKSPACE(s);
11576     }
11577
11578 #ifdef PERL_MAD
11579     if (PL_realtokenstart >= 0) {
11580         stuffstart = PL_realtokenstart;
11581         PL_realtokenstart = -1;
11582     }
11583     else
11584         stuffstart = start - SvPVX(PL_linestr);
11585 #endif
11586     /* mark where we are, in case we need to report errors */
11587     CLINE;
11588
11589     /* after skipping whitespace, the next character is the terminator */
11590     term = *s;
11591     if (!UTF) {
11592         termcode = termstr[0] = term;
11593         termlen = 1;
11594     }
11595     else {
11596         termcode = utf8_to_uvchr((U8*)s, &termlen);
11597         Copy(s, termstr, termlen, U8);
11598         if (!UTF8_IS_INVARIANT(term))
11599             has_utf8 = TRUE;
11600     }
11601
11602     /* mark where we are */
11603     PL_multi_start = CopLINE(PL_curcop);
11604     PL_multi_open = term;
11605
11606     /* find corresponding closing delimiter */
11607     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
11608         termcode = termstr[0] = term = tmps[5];
11609
11610     PL_multi_close = term;
11611
11612     /* create a new SV to hold the contents.  79 is the SV's initial length.
11613        What a random number. */
11614     sv = newSV_type(SVt_PVIV);
11615     SvGROW(sv, 80);
11616     SvIV_set(sv, termcode);
11617     (void)SvPOK_only(sv);               /* validate pointer */
11618
11619     /* move past delimiter and try to read a complete string */
11620     if (keep_delims)
11621         sv_catpvn(sv, s, termlen);
11622     s += termlen;
11623 #ifdef PERL_MAD
11624     tstart = SvPVX(PL_linestr) + stuffstart;
11625     if (!PL_thisopen && !keep_delims) {
11626         PL_thisopen = newSVpvn(tstart, s - tstart);
11627         stuffstart = s - SvPVX(PL_linestr);
11628     }
11629 #endif
11630     for (;;) {
11631         if (PL_encoding && !UTF) {
11632             bool cont = TRUE;
11633
11634             while (cont) {
11635                 int offset = s - SvPVX_const(PL_linestr);
11636                 const bool found = sv_cat_decode(sv, PL_encoding, PL_linestr,
11637                                            &offset, (char*)termstr, termlen);
11638                 const char * const ns = SvPVX_const(PL_linestr) + offset;
11639                 char * const svlast = SvEND(sv) - 1;
11640
11641                 for (; s < ns; s++) {
11642                     if (*s == '\n' && !PL_rsfp)
11643                         CopLINE_inc(PL_curcop);
11644                 }
11645                 if (!found)
11646                     goto read_more_line;
11647                 else {
11648                     /* handle quoted delimiters */
11649                     if (SvCUR(sv) > 1 && *(svlast-1) == '\\') {
11650                         const char *t;
11651                         for (t = svlast-2; t >= SvPVX_const(sv) && *t == '\\';)
11652                             t--;
11653                         if ((svlast-1 - t) % 2) {
11654                             if (!keep_quoted) {
11655                                 *(svlast-1) = term;
11656                                 *svlast = '\0';
11657                                 SvCUR_set(sv, SvCUR(sv) - 1);
11658                             }
11659                             continue;
11660                         }
11661                     }
11662                     if (PL_multi_open == PL_multi_close) {
11663                         cont = FALSE;
11664                     }
11665                     else {
11666                         const char *t;
11667                         char *w;
11668                         for (t = w = SvPVX(sv)+last_off; t < svlast; w++, t++) {
11669                             /* At here, all closes are "was quoted" one,
11670                                so we don't check PL_multi_close. */
11671                             if (*t == '\\') {
11672                                 if (!keep_quoted && *(t+1) == PL_multi_open)
11673                                     t++;
11674                                 else
11675                                     *w++ = *t++;
11676                             }
11677                             else if (*t == PL_multi_open)
11678                                 brackets++;
11679
11680                             *w = *t;
11681                         }
11682                         if (w < t) {
11683                             *w++ = term;
11684                             *w = '\0';
11685                             SvCUR_set(sv, w - SvPVX_const(sv));
11686                         }
11687                         last_off = w - SvPVX(sv);
11688                         if (--brackets <= 0)
11689                             cont = FALSE;
11690                     }
11691                 }
11692             }
11693             if (!keep_delims) {
11694                 SvCUR_set(sv, SvCUR(sv) - 1);
11695                 *SvEND(sv) = '\0';
11696             }
11697             break;
11698         }
11699
11700         /* extend sv if need be */
11701         SvGROW(sv, SvCUR(sv) + (PL_bufend - s) + 1);
11702         /* set 'to' to the next character in the sv's string */
11703         to = SvPVX(sv)+SvCUR(sv);
11704
11705         /* if open delimiter is the close delimiter read unbridle */
11706         if (PL_multi_open == PL_multi_close) {
11707             for (; s < PL_bufend; s++,to++) {
11708                 /* embedded newlines increment the current line number */
11709                 if (*s == '\n' && !PL_rsfp)
11710                     CopLINE_inc(PL_curcop);
11711                 /* handle quoted delimiters */
11712                 if (*s == '\\' && s+1 < PL_bufend && term != '\\') {
11713                     if (!keep_quoted && s[1] == term)
11714                         s++;
11715                 /* any other quotes are simply copied straight through */
11716                     else
11717                         *to++ = *s++;
11718                 }
11719                 /* terminate when run out of buffer (the for() condition), or
11720                    have found the terminator */
11721                 else if (*s == term) {
11722                     if (termlen == 1)
11723                         break;
11724                     if (s+termlen <= PL_bufend && memEQ(s, (char*)termstr, termlen))
11725                         break;
11726                 }
11727                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
11728                     has_utf8 = TRUE;
11729                 *to = *s;
11730             }
11731         }
11732
11733         /* if the terminator isn't the same as the start character (e.g.,
11734            matched brackets), we have to allow more in the quoting, and
11735            be prepared for nested brackets.
11736         */
11737         else {
11738             /* read until we run out of string, or we find the terminator */
11739             for (; s < PL_bufend; s++,to++) {
11740                 /* embedded newlines increment the line count */
11741                 if (*s == '\n' && !PL_rsfp)
11742                     CopLINE_inc(PL_curcop);
11743                 /* backslashes can escape the open or closing characters */
11744                 if (*s == '\\' && s+1 < PL_bufend) {
11745                     if (!keep_quoted &&
11746                         ((s[1] == PL_multi_open) || (s[1] == PL_multi_close)))
11747                         s++;
11748                     else
11749                         *to++ = *s++;
11750                 }
11751                 /* allow nested opens and closes */
11752                 else if (*s == PL_multi_close && --brackets <= 0)
11753                     break;
11754                 else if (*s == PL_multi_open)
11755                     brackets++;
11756                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
11757                     has_utf8 = TRUE;
11758                 *to = *s;
11759             }
11760         }
11761         /* terminate the copied string and update the sv's end-of-string */
11762         *to = '\0';
11763         SvCUR_set(sv, to - SvPVX_const(sv));
11764
11765         /*
11766          * this next chunk reads more into the buffer if we're not done yet
11767          */
11768
11769         if (s < PL_bufend)
11770             break;              /* handle case where we are done yet :-) */
11771
11772 #ifndef PERL_STRICT_CR
11773         if (to - SvPVX_const(sv) >= 2) {
11774             if ((to[-2] == '\r' && to[-1] == '\n') ||
11775                 (to[-2] == '\n' && to[-1] == '\r'))
11776             {
11777                 to[-2] = '\n';
11778                 to--;
11779                 SvCUR_set(sv, to - SvPVX_const(sv));
11780             }
11781             else if (to[-1] == '\r')
11782                 to[-1] = '\n';
11783         }
11784         else if (to - SvPVX_const(sv) == 1 && to[-1] == '\r')
11785             to[-1] = '\n';
11786 #endif
11787
11788      read_more_line:
11789         /* if we're out of file, or a read fails, bail and reset the current
11790            line marker so we can report where the unterminated string began
11791         */
11792 #ifdef PERL_MAD
11793         if (PL_madskills) {
11794             char * const tstart = SvPVX(PL_linestr) + stuffstart;
11795             if (PL_thisstuff)
11796                 sv_catpvn(PL_thisstuff, tstart, PL_bufend - tstart);
11797             else
11798                 PL_thisstuff = newSVpvn(tstart, PL_bufend - tstart);
11799         }
11800 #endif
11801         if (!PL_rsfp ||
11802          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
11803             sv_free(sv);
11804             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11805             return NULL;
11806         }
11807 #ifdef PERL_MAD
11808         stuffstart = 0;
11809 #endif
11810         /* we read a line, so increment our line counter */
11811         CopLINE_inc(PL_curcop);
11812
11813         /* update debugger info */
11814         if (PERLDB_LINE && PL_curstash != PL_debstash)
11815             update_debugger_info(PL_linestr, NULL, 0);
11816
11817         /* having changed the buffer, we must update PL_bufend */
11818         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11819         PL_last_lop = PL_last_uni = NULL;
11820     }
11821
11822     /* at this point, we have successfully read the delimited string */
11823
11824     if (!PL_encoding || UTF) {
11825 #ifdef PERL_MAD
11826         if (PL_madskills) {
11827             char * const tstart = SvPVX(PL_linestr) + stuffstart;
11828             const int len = s - tstart;
11829             if (PL_thisstuff)
11830                 sv_catpvn(PL_thisstuff, tstart, len);
11831             else
11832                 PL_thisstuff = newSVpvn(tstart, len);
11833             if (!PL_thisclose && !keep_delims)
11834                 PL_thisclose = newSVpvn(s,termlen);
11835         }
11836 #endif
11837
11838         if (keep_delims)
11839             sv_catpvn(sv, s, termlen);
11840         s += termlen;
11841     }
11842 #ifdef PERL_MAD
11843     else {
11844         if (PL_madskills) {
11845             char * const tstart = SvPVX(PL_linestr) + stuffstart;
11846             const int len = s - tstart - termlen;
11847             if (PL_thisstuff)
11848                 sv_catpvn(PL_thisstuff, tstart, len);
11849             else
11850                 PL_thisstuff = newSVpvn(tstart, len);
11851             if (!PL_thisclose && !keep_delims)
11852                 PL_thisclose = newSVpvn(s - termlen,termlen);
11853         }
11854     }
11855 #endif
11856     if (has_utf8 || PL_encoding)
11857         SvUTF8_on(sv);
11858
11859     PL_multi_end = CopLINE(PL_curcop);
11860
11861     /* if we allocated too much space, give some back */
11862     if (SvCUR(sv) + 5 < SvLEN(sv)) {
11863         SvLEN_set(sv, SvCUR(sv) + 1);
11864         SvPV_renew(sv, SvLEN(sv));
11865     }
11866
11867     /* decide whether this is the first or second quoted string we've read
11868        for this op
11869     */
11870
11871     if (PL_lex_stuff)
11872         PL_lex_repl = sv;
11873     else
11874         PL_lex_stuff = sv;
11875     return s;
11876 }
11877
11878 /*
11879   scan_num
11880   takes: pointer to position in buffer
11881   returns: pointer to new position in buffer
11882   side-effects: builds ops for the constant in yylval.op
11883
11884   Read a number in any of the formats that Perl accepts:
11885
11886   \d(_?\d)*(\.(\d(_?\d)*)?)?[Ee][\+\-]?(\d(_?\d)*)      12 12.34 12.
11887   \.\d(_?\d)*[Ee][\+\-]?(\d(_?\d)*)                     .34
11888   0b[01](_?[01])*
11889   0[0-7](_?[0-7])*
11890   0x[0-9A-Fa-f](_?[0-9A-Fa-f])*
11891
11892   Like most scan_ routines, it uses the PL_tokenbuf buffer to hold the
11893   thing it reads.
11894
11895   If it reads a number without a decimal point or an exponent, it will
11896   try converting the number to an integer and see if it can do so
11897   without loss of precision.
11898 */
11899
11900 char *
11901 Perl_scan_num(pTHX_ const char *start, YYSTYPE* lvalp)
11902 {
11903     dVAR;
11904     register const char *s = start;     /* current position in buffer */
11905     register char *d;                   /* destination in temp buffer */
11906     register char *e;                   /* end of temp buffer */
11907     NV nv;                              /* number read, as a double */
11908     SV *sv = NULL;                      /* place to put the converted number */
11909     bool floatit;                       /* boolean: int or float? */
11910     const char *lastub = NULL;          /* position of last underbar */
11911     static char const number_too_long[] = "Number too long";
11912
11913     /* We use the first character to decide what type of number this is */
11914
11915     switch (*s) {
11916     default:
11917       Perl_croak(aTHX_ "panic: scan_num");
11918
11919     /* if it starts with a 0, it could be an octal number, a decimal in
11920        0.13 disguise, or a hexadecimal number, or a binary number. */
11921     case '0':
11922         {
11923           /* variables:
11924              u          holds the "number so far"
11925              shift      the power of 2 of the base
11926                         (hex == 4, octal == 3, binary == 1)
11927              overflowed was the number more than we can hold?
11928
11929              Shift is used when we add a digit.  It also serves as an "are
11930              we in octal/hex/binary?" indicator to disallow hex characters
11931              when in octal mode.
11932            */
11933             NV n = 0.0;
11934             UV u = 0;
11935             I32 shift;
11936             bool overflowed = FALSE;
11937             bool just_zero  = TRUE;     /* just plain 0 or binary number? */
11938             static const NV nvshift[5] = { 1.0, 2.0, 4.0, 8.0, 16.0 };
11939             static const char* const bases[5] =
11940               { "", "binary", "", "octal", "hexadecimal" };
11941             static const char* const Bases[5] =
11942               { "", "Binary", "", "Octal", "Hexadecimal" };
11943             static const char* const maxima[5] =
11944               { "",
11945                 "0b11111111111111111111111111111111",
11946                 "",
11947                 "037777777777",
11948                 "0xffffffff" };
11949             const char *base, *Base, *max;
11950
11951             /* check for hex */
11952             if (s[1] == 'x') {
11953                 shift = 4;
11954                 s += 2;
11955                 just_zero = FALSE;
11956             } else if (s[1] == 'b') {
11957                 shift = 1;
11958                 s += 2;
11959                 just_zero = FALSE;
11960             }
11961             /* check for a decimal in disguise */
11962             else if (s[1] == '.' || s[1] == 'e' || s[1] == 'E')
11963                 goto decimal;
11964             /* so it must be octal */
11965             else {
11966                 shift = 3;
11967                 s++;
11968             }
11969
11970             if (*s == '_') {
11971                if (ckWARN(WARN_SYNTAX))
11972                    Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11973                                "Misplaced _ in number");
11974                lastub = s++;
11975             }
11976
11977             base = bases[shift];
11978             Base = Bases[shift];
11979             max  = maxima[shift];
11980
11981             /* read the rest of the number */
11982             for (;;) {
11983                 /* x is used in the overflow test,
11984                    b is the digit we're adding on. */
11985                 UV x, b;
11986
11987                 switch (*s) {
11988
11989                 /* if we don't mention it, we're done */
11990                 default:
11991                     goto out;
11992
11993                 /* _ are ignored -- but warned about if consecutive */
11994                 case '_':
11995                     if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
11996                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11997                                     "Misplaced _ in number");
11998                     lastub = s++;
11999                     break;
12000
12001                 /* 8 and 9 are not octal */
12002                 case '8': case '9':
12003                     if (shift == 3)
12004                         yyerror(Perl_form(aTHX_ "Illegal octal digit '%c'", *s));
12005                     /* FALL THROUGH */
12006
12007                 /* octal digits */
12008                 case '2': case '3': case '4':
12009                 case '5': case '6': case '7':
12010                     if (shift == 1)
12011                         yyerror(Perl_form(aTHX_ "Illegal binary digit '%c'", *s));
12012                     /* FALL THROUGH */
12013
12014                 case '0': case '1':
12015                     b = *s++ & 15;              /* ASCII digit -> value of digit */
12016                     goto digit;
12017
12018                 /* hex digits */
12019                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
12020                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
12021                     /* make sure they said 0x */
12022                     if (shift != 4)
12023                         goto out;
12024                     b = (*s++ & 7) + 9;
12025
12026                     /* Prepare to put the digit we have onto the end
12027                        of the number so far.  We check for overflows.
12028                     */
12029
12030                   digit:
12031                     just_zero = FALSE;
12032                     if (!overflowed) {
12033                         x = u << shift; /* make room for the digit */
12034
12035                         if ((x >> shift) != u
12036                             && !(PL_hints & HINT_NEW_BINARY)) {
12037                             overflowed = TRUE;
12038                             n = (NV) u;
12039                             if (ckWARN_d(WARN_OVERFLOW))
12040                                 Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
12041                                             "Integer overflow in %s number",
12042                                             base);
12043                         } else
12044                             u = x | b;          /* add the digit to the end */
12045                     }
12046                     if (overflowed) {
12047                         n *= nvshift[shift];
12048                         /* If an NV has not enough bits in its
12049                          * mantissa to represent an UV this summing of
12050                          * small low-order numbers is a waste of time
12051                          * (because the NV cannot preserve the
12052                          * low-order bits anyway): we could just
12053                          * remember when did we overflow and in the
12054                          * end just multiply n by the right
12055                          * amount. */
12056                         n += (NV) b;
12057                     }
12058                     break;
12059                 }
12060             }
12061
12062           /* if we get here, we had success: make a scalar value from
12063              the number.
12064           */
12065           out:
12066
12067             /* final misplaced underbar check */
12068             if (s[-1] == '_') {
12069                 if (ckWARN(WARN_SYNTAX))
12070                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
12071             }
12072
12073             sv = newSV(0);
12074             if (overflowed) {
12075                 if (n > 4294967295.0 && ckWARN(WARN_PORTABLE))
12076                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
12077                                 "%s number > %s non-portable",
12078                                 Base, max);
12079                 sv_setnv(sv, n);
12080             }
12081             else {
12082 #if UVSIZE > 4
12083                 if (u > 0xffffffff && ckWARN(WARN_PORTABLE))
12084                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
12085                                 "%s number > %s non-portable",
12086                                 Base, max);
12087 #endif
12088                 sv_setuv(sv, u);
12089             }
12090             if (just_zero && (PL_hints & HINT_NEW_INTEGER))
12091                 sv = new_constant(start, s - start, "integer",
12092                                   sv, NULL, NULL, 0);
12093             else if (PL_hints & HINT_NEW_BINARY)
12094                 sv = new_constant(start, s - start, "binary", sv, NULL, NULL, 0);
12095         }
12096         break;
12097
12098     /*
12099       handle decimal numbers.
12100       we're also sent here when we read a 0 as the first digit
12101     */
12102     case '1': case '2': case '3': case '4': case '5':
12103     case '6': case '7': case '8': case '9': case '.':
12104       decimal:
12105         d = PL_tokenbuf;
12106         e = PL_tokenbuf + sizeof PL_tokenbuf - 6; /* room for various punctuation */
12107         floatit = FALSE;
12108
12109         /* read next group of digits and _ and copy into d */
12110         while (isDIGIT(*s) || *s == '_') {
12111             /* skip underscores, checking for misplaced ones
12112                if -w is on
12113             */
12114             if (*s == '_') {
12115                 if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
12116                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12117                                 "Misplaced _ in number");
12118                 lastub = s++;
12119             }
12120             else {
12121                 /* check for end of fixed-length buffer */
12122                 if (d >= e)
12123                     Perl_croak(aTHX_ number_too_long);
12124                 /* if we're ok, copy the character */
12125                 *d++ = *s++;
12126             }
12127         }
12128
12129         /* final misplaced underbar check */
12130         if (lastub && s == lastub + 1) {
12131             if (ckWARN(WARN_SYNTAX))
12132                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
12133         }
12134
12135         /* read a decimal portion if there is one.  avoid
12136            3..5 being interpreted as the number 3. followed
12137            by .5
12138         */
12139         if (*s == '.' && s[1] != '.') {
12140             floatit = TRUE;
12141             *d++ = *s++;
12142
12143             if (*s == '_') {
12144                 if (ckWARN(WARN_SYNTAX))
12145                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12146                                 "Misplaced _ in number");
12147                 lastub = s;
12148             }
12149
12150             /* copy, ignoring underbars, until we run out of digits.
12151             */
12152             for (; isDIGIT(*s) || *s == '_'; s++) {
12153                 /* fixed length buffer check */
12154                 if (d >= e)
12155                     Perl_croak(aTHX_ number_too_long);
12156                 if (*s == '_') {
12157                    if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
12158                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12159                                    "Misplaced _ in number");
12160                    lastub = s;
12161                 }
12162                 else
12163                     *d++ = *s;
12164             }
12165             /* fractional part ending in underbar? */
12166             if (s[-1] == '_') {
12167                 if (ckWARN(WARN_SYNTAX))
12168                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12169                                 "Misplaced _ in number");
12170             }
12171             if (*s == '.' && isDIGIT(s[1])) {
12172                 /* oops, it's really a v-string, but without the "v" */
12173                 s = start;
12174                 goto vstring;
12175             }
12176         }
12177
12178         /* read exponent part, if present */
12179         if ((*s == 'e' || *s == 'E') && strchr("+-0123456789_", s[1])) {
12180             floatit = TRUE;
12181             s++;
12182
12183             /* regardless of whether user said 3E5 or 3e5, use lower 'e' */
12184             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
12185
12186             /* stray preinitial _ */
12187             if (*s == '_') {
12188                 if (ckWARN(WARN_SYNTAX))
12189                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12190                                 "Misplaced _ in number");
12191                 lastub = s++;
12192             }
12193
12194             /* allow positive or negative exponent */
12195             if (*s == '+' || *s == '-')
12196                 *d++ = *s++;
12197
12198             /* stray initial _ */
12199             if (*s == '_') {
12200                 if (ckWARN(WARN_SYNTAX))
12201                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12202                                 "Misplaced _ in number");
12203                 lastub = s++;
12204             }
12205
12206             /* read digits of exponent */
12207             while (isDIGIT(*s) || *s == '_') {
12208                 if (isDIGIT(*s)) {
12209                     if (d >= e)
12210                         Perl_croak(aTHX_ number_too_long);
12211                     *d++ = *s++;
12212                 }
12213                 else {
12214                    if (((lastub && s == lastub + 1) ||
12215                         (!isDIGIT(s[1]) && s[1] != '_'))
12216                     && ckWARN(WARN_SYNTAX))
12217                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
12218                                    "Misplaced _ in number");
12219                    lastub = s++;
12220                 }
12221             }
12222         }
12223
12224
12225         /* make an sv from the string */
12226         sv = newSV(0);
12227
12228         /*
12229            We try to do an integer conversion first if no characters
12230            indicating "float" have been found.
12231          */
12232
12233         if (!floatit) {
12234             UV uv;
12235             const int flags = grok_number (PL_tokenbuf, d - PL_tokenbuf, &uv);
12236
12237             if (flags == IS_NUMBER_IN_UV) {
12238               if (uv <= IV_MAX)
12239                 sv_setiv(sv, uv); /* Prefer IVs over UVs. */
12240               else
12241                 sv_setuv(sv, uv);
12242             } else if (flags == (IS_NUMBER_IN_UV | IS_NUMBER_NEG)) {
12243               if (uv <= (UV) IV_MIN)
12244                 sv_setiv(sv, -(IV)uv);
12245               else
12246                 floatit = TRUE;
12247             } else
12248               floatit = TRUE;
12249         }
12250         if (floatit) {
12251             /* terminate the string */
12252             *d = '\0';
12253             nv = Atof(PL_tokenbuf);
12254             sv_setnv(sv, nv);
12255         }
12256
12257         if ( floatit
12258              ? (PL_hints & HINT_NEW_FLOAT) : (PL_hints & HINT_NEW_INTEGER) ) {
12259             const char *const key = floatit ? "float" : "integer";
12260             const STRLEN keylen = floatit ? 5 : 7;
12261             sv = S_new_constant(aTHX_ PL_tokenbuf, d - PL_tokenbuf,
12262                                 key, keylen, sv, NULL, NULL, 0);
12263         }
12264         break;
12265
12266     /* if it starts with a v, it could be a v-string */
12267     case 'v':
12268 vstring:
12269                 sv = newSV(5); /* preallocate storage space */
12270                 s = scan_vstring(s, PL_bufend, sv);
12271         break;
12272     }
12273
12274     /* make the op for the constant and return */
12275
12276     if (sv)
12277         lvalp->opval = newSVOP(OP_CONST, 0, sv);
12278     else
12279         lvalp->opval = NULL;
12280
12281     return (char *)s;
12282 }
12283
12284 STATIC char *
12285 S_scan_formline(pTHX_ register char *s)
12286 {
12287     dVAR;
12288     register char *eol;
12289     register char *t;
12290     SV * const stuff = newSVpvs("");
12291     bool needargs = FALSE;
12292     bool eofmt = FALSE;
12293 #ifdef PERL_MAD
12294     char *tokenstart = s;
12295     SV* savewhite;
12296
12297     if (PL_madskills) {
12298         savewhite = PL_thiswhite;
12299         PL_thiswhite = 0;
12300     }
12301 #endif
12302
12303     while (!needargs) {
12304         if (*s == '.') {
12305             t = s+1;
12306 #ifdef PERL_STRICT_CR
12307             while (SPACE_OR_TAB(*t))
12308                 t++;
12309 #else
12310             while (SPACE_OR_TAB(*t) || *t == '\r')
12311                 t++;
12312 #endif
12313             if (*t == '\n' || t == PL_bufend) {
12314                 eofmt = TRUE;
12315                 break;
12316             }
12317         }
12318         if (PL_in_eval && !PL_rsfp) {
12319             eol = (char *) memchr(s,'\n',PL_bufend-s);
12320             if (!eol++)
12321                 eol = PL_bufend;
12322         }
12323         else
12324             eol = PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
12325         if (*s != '#') {
12326             for (t = s; t < eol; t++) {
12327                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
12328                     needargs = FALSE;
12329                     goto enough;        /* ~~ must be first line in formline */
12330                 }
12331                 if (*t == '@' || *t == '^')
12332                     needargs = TRUE;
12333             }
12334             if (eol > s) {
12335                 sv_catpvn(stuff, s, eol-s);
12336 #ifndef PERL_STRICT_CR
12337                 if (eol-s > 1 && eol[-2] == '\r' && eol[-1] == '\n') {
12338                     char *end = SvPVX(stuff) + SvCUR(stuff);
12339                     end[-2] = '\n';
12340                     end[-1] = '\0';
12341                     SvCUR_set(stuff, SvCUR(stuff) - 1);
12342                 }
12343 #endif
12344             }
12345             else
12346               break;
12347         }
12348         s = (char*)eol;
12349         if (PL_rsfp) {
12350 #ifdef PERL_MAD
12351             if (PL_madskills) {
12352                 if (PL_thistoken)
12353                     sv_catpvn(PL_thistoken, tokenstart, PL_bufend - tokenstart);
12354                 else
12355                     PL_thistoken = newSVpvn(tokenstart, PL_bufend - tokenstart);
12356             }
12357 #endif
12358             s = filter_gets(PL_linestr, PL_rsfp, 0);
12359 #ifdef PERL_MAD
12360             tokenstart = PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
12361 #else
12362             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
12363 #endif
12364             PL_bufend = PL_bufptr + SvCUR(PL_linestr);
12365             PL_last_lop = PL_last_uni = NULL;
12366             if (!s) {
12367                 s = PL_bufptr;
12368                 break;
12369             }
12370         }
12371         incline(s);
12372     }
12373   enough:
12374     if (SvCUR(stuff)) {
12375         PL_expect = XTERM;
12376         if (needargs) {
12377             PL_lex_state = LEX_NORMAL;
12378             start_force(PL_curforce);
12379             NEXTVAL_NEXTTOKE.ival = 0;
12380             force_next(',');
12381         }
12382         else
12383             PL_lex_state = LEX_FORMLINE;
12384         if (!IN_BYTES) {
12385             if (UTF && is_utf8_string((U8*)SvPVX_const(stuff), SvCUR(stuff)))
12386                 SvUTF8_on(stuff);
12387             else if (PL_encoding)
12388                 sv_recode_to_utf8(stuff, PL_encoding);
12389         }
12390         start_force(PL_curforce);
12391         NEXTVAL_NEXTTOKE.opval = (OP*)newSVOP(OP_CONST, 0, stuff);
12392         force_next(THING);
12393         start_force(PL_curforce);
12394         NEXTVAL_NEXTTOKE.ival = OP_FORMLINE;
12395         force_next(LSTOP);
12396     }
12397     else {
12398         SvREFCNT_dec(stuff);
12399         if (eofmt)
12400             PL_lex_formbrack = 0;
12401         PL_bufptr = s;
12402     }
12403 #ifdef PERL_MAD
12404     if (PL_madskills) {
12405         if (PL_thistoken)
12406             sv_catpvn(PL_thistoken, tokenstart, s - tokenstart);
12407         else
12408             PL_thistoken = newSVpvn(tokenstart, s - tokenstart);
12409         PL_thiswhite = savewhite;
12410     }
12411 #endif
12412     return s;
12413 }
12414
12415 I32
12416 Perl_start_subparse(pTHX_ I32 is_format, U32 flags)
12417 {
12418     dVAR;
12419     const I32 oldsavestack_ix = PL_savestack_ix;
12420     CV* const outsidecv = PL_compcv;
12421
12422     if (PL_compcv) {
12423         assert(SvTYPE(PL_compcv) == SVt_PVCV);
12424     }
12425     SAVEI32(PL_subline);
12426     save_item(PL_subname);
12427     SAVESPTR(PL_compcv);
12428
12429     PL_compcv = (CV*)newSV_type(is_format ? SVt_PVFM : SVt_PVCV);
12430     CvFLAGS(PL_compcv) |= flags;
12431
12432     PL_subline = CopLINE(PL_curcop);
12433     CvPADLIST(PL_compcv) = pad_new(padnew_SAVE|padnew_SAVESUB);
12434     CvOUTSIDE(PL_compcv) = (CV*)SvREFCNT_inc_simple(outsidecv);
12435     CvOUTSIDE_SEQ(PL_compcv) = PL_cop_seqmax;
12436
12437     return oldsavestack_ix;
12438 }
12439
12440 #ifdef __SC__
12441 #pragma segment Perl_yylex
12442 #endif
12443 int
12444 Perl_yywarn(pTHX_ const char *s)
12445 {
12446     dVAR;
12447     PL_in_eval |= EVAL_WARNONLY;
12448     yyerror(s);
12449     PL_in_eval &= ~EVAL_WARNONLY;
12450     return 0;
12451 }
12452
12453 int
12454 Perl_yyerror(pTHX_ const char *s)
12455 {
12456     dVAR;
12457     const char *where = NULL;
12458     const char *context = NULL;
12459     int contlen = -1;
12460     SV *msg;
12461     int yychar  = PL_parser->yychar;
12462
12463     if (!yychar || (yychar == ';' && !PL_rsfp))
12464         where = "at EOF";
12465     else if (PL_oldoldbufptr && PL_bufptr > PL_oldoldbufptr &&
12466       PL_bufptr - PL_oldoldbufptr < 200 && PL_oldoldbufptr != PL_oldbufptr &&
12467       PL_oldbufptr != PL_bufptr) {
12468         /*
12469                 Only for NetWare:
12470                 The code below is removed for NetWare because it abends/crashes on NetWare
12471                 when the script has error such as not having the closing quotes like:
12472                     if ($var eq "value)
12473                 Checking of white spaces is anyway done in NetWare code.
12474         */
12475 #ifndef NETWARE
12476         while (isSPACE(*PL_oldoldbufptr))
12477             PL_oldoldbufptr++;
12478 #endif
12479         context = PL_oldoldbufptr;
12480         contlen = PL_bufptr - PL_oldoldbufptr;
12481     }
12482     else if (PL_oldbufptr && PL_bufptr > PL_oldbufptr &&
12483       PL_bufptr - PL_oldbufptr < 200 && PL_oldbufptr != PL_bufptr) {
12484         /*
12485                 Only for NetWare:
12486                 The code below is removed for NetWare because it abends/crashes on NetWare
12487                 when the script has error such as not having the closing quotes like:
12488                     if ($var eq "value)
12489                 Checking of white spaces is anyway done in NetWare code.
12490         */
12491 #ifndef NETWARE
12492         while (isSPACE(*PL_oldbufptr))
12493             PL_oldbufptr++;
12494 #endif
12495         context = PL_oldbufptr;
12496         contlen = PL_bufptr - PL_oldbufptr;
12497     }
12498     else if (yychar > 255)
12499         where = "next token ???";
12500     else if (yychar == -2) { /* YYEMPTY */
12501         if (PL_lex_state == LEX_NORMAL ||
12502            (PL_lex_state == LEX_KNOWNEXT && PL_lex_defer == LEX_NORMAL))
12503             where = "at end of line";
12504         else if (PL_lex_inpat)
12505             where = "within pattern";
12506         else
12507             where = "within string";
12508     }
12509     else {
12510         SV * const where_sv = sv_2mortal(newSVpvs("next char "));
12511         if (yychar < 32)
12512             Perl_sv_catpvf(aTHX_ where_sv, "^%c", toCTRL(yychar));
12513         else if (isPRINT_LC(yychar)) {
12514             const char string = yychar;
12515             sv_catpvn(where_sv, &string, 1);
12516         }
12517         else
12518             Perl_sv_catpvf(aTHX_ where_sv, "\\%03o", yychar & 255);
12519         where = SvPVX_const(where_sv);
12520     }
12521     msg = sv_2mortal(newSVpv(s, 0));
12522     Perl_sv_catpvf(aTHX_ msg, " at %s line %"IVdf", ",
12523         OutCopFILE(PL_curcop), (IV)CopLINE(PL_curcop));
12524     if (context)
12525         Perl_sv_catpvf(aTHX_ msg, "near \"%.*s\"\n", contlen, context);
12526     else
12527         Perl_sv_catpvf(aTHX_ msg, "%s\n", where);
12528     if (PL_multi_start < PL_multi_end && (U32)(CopLINE(PL_curcop) - PL_multi_end) <= 1) {
12529         Perl_sv_catpvf(aTHX_ msg,
12530         "  (Might be a runaway multi-line %c%c string starting on line %"IVdf")\n",
12531                 (int)PL_multi_open,(int)PL_multi_close,(IV)PL_multi_start);
12532         PL_multi_end = 0;
12533     }
12534     if (PL_in_eval & EVAL_WARNONLY) {
12535         if (ckWARN_d(WARN_SYNTAX))
12536             Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "%"SVf, SVfARG(msg));
12537     }
12538     else
12539         qerror(msg);
12540     if (PL_error_count >= 10) {
12541         if (PL_in_eval && SvCUR(ERRSV))
12542             Perl_croak(aTHX_ "%"SVf"%s has too many errors.\n",
12543                        SVfARG(ERRSV), OutCopFILE(PL_curcop));
12544         else
12545             Perl_croak(aTHX_ "%s has too many errors.\n",
12546             OutCopFILE(PL_curcop));
12547     }
12548     PL_in_my = 0;
12549     PL_in_my_stash = NULL;
12550     return 0;
12551 }
12552 #ifdef __SC__
12553 #pragma segment Main
12554 #endif
12555
12556 STATIC char*
12557 S_swallow_bom(pTHX_ U8 *s)
12558 {
12559     dVAR;
12560     const STRLEN slen = SvCUR(PL_linestr);
12561     switch (s[0]) {
12562     case 0xFF:
12563         if (s[1] == 0xFE) {
12564             /* UTF-16 little-endian? (or UTF32-LE?) */
12565             if (s[2] == 0 && s[3] == 0)  /* UTF-32 little-endian */
12566                 Perl_croak(aTHX_ "Unsupported script encoding UTF32-LE");
12567 #ifndef PERL_NO_UTF16_FILTER
12568             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF16-LE script encoding (BOM)\n");
12569             s += 2;
12570         utf16le:
12571             if (PL_bufend > (char*)s) {
12572                 U8 *news;
12573                 I32 newlen;
12574
12575                 filter_add(utf16rev_textfilter, NULL);
12576                 Newx(news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
12577                 utf16_to_utf8_reversed(s, news,
12578                                        PL_bufend - (char*)s - 1,
12579                                        &newlen);
12580                 sv_setpvn(PL_linestr, (const char*)news, newlen);
12581 #ifdef PERL_MAD
12582                 s = (U8*)SvPVX(PL_linestr);
12583                 Copy(news, s, newlen, U8);
12584                 s[newlen] = '\0';
12585 #endif
12586                 Safefree(news);
12587                 SvUTF8_on(PL_linestr);
12588                 s = (U8*)SvPVX(PL_linestr);
12589 #ifdef PERL_MAD
12590                 /* FIXME - is this a general bug fix?  */
12591                 s[newlen] = '\0';
12592 #endif
12593                 PL_bufend = SvPVX(PL_linestr) + newlen;
12594             }
12595 #else
12596             Perl_croak(aTHX_ "Unsupported script encoding UTF16-LE");
12597 #endif
12598         }
12599         break;
12600     case 0xFE:
12601         if (s[1] == 0xFF) {   /* UTF-16 big-endian? */
12602 #ifndef PERL_NO_UTF16_FILTER
12603             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (BOM)\n");
12604             s += 2;
12605         utf16be:
12606             if (PL_bufend > (char *)s) {
12607                 U8 *news;
12608                 I32 newlen;
12609
12610                 filter_add(utf16_textfilter, NULL);
12611                 Newx(news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
12612                 utf16_to_utf8(s, news,
12613                               PL_bufend - (char*)s,
12614                               &newlen);
12615                 sv_setpvn(PL_linestr, (const char*)news, newlen);
12616                 Safefree(news);
12617                 SvUTF8_on(PL_linestr);
12618                 s = (U8*)SvPVX(PL_linestr);
12619                 PL_bufend = SvPVX(PL_linestr) + newlen;
12620             }
12621 #else
12622             Perl_croak(aTHX_ "Unsupported script encoding UTF16-BE");
12623 #endif
12624         }
12625         break;
12626     case 0xEF:
12627         if (slen > 2 && s[1] == 0xBB && s[2] == 0xBF) {
12628             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-8 script encoding (BOM)\n");
12629             s += 3;                      /* UTF-8 */
12630         }
12631         break;
12632     case 0:
12633         if (slen > 3) {
12634              if (s[1] == 0) {
12635                   if (s[2] == 0xFE && s[3] == 0xFF) {
12636                        /* UTF-32 big-endian */
12637                        Perl_croak(aTHX_ "Unsupported script encoding UTF32-BE");
12638                   }
12639              }
12640              else if (s[2] == 0 && s[3] != 0) {
12641                   /* Leading bytes
12642                    * 00 xx 00 xx
12643                    * are a good indicator of UTF-16BE. */
12644                   if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (no BOM)\n");
12645                   goto utf16be;
12646              }
12647         }
12648 #ifdef EBCDIC
12649     case 0xDD:
12650         if (slen > 3 && s[1] == 0x73 && s[2] == 0x66 && s[3] == 0x73) {
12651             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-8 script encoding (BOM)\n");
12652             s += 4;                      /* UTF-8 */
12653         }
12654         break;
12655 #endif
12656
12657     default:
12658          if (slen > 3 && s[1] == 0 && s[2] != 0 && s[3] == 0) {
12659                   /* Leading bytes
12660                    * xx 00 xx 00
12661                    * are a good indicator of UTF-16LE. */
12662               if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16LE script encoding (no BOM)\n");
12663               goto utf16le;
12664          }
12665     }
12666     return (char*)s;
12667 }
12668
12669
12670 #ifndef PERL_NO_UTF16_FILTER
12671 static I32
12672 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen)
12673 {
12674     dVAR;
12675     const STRLEN old = SvCUR(sv);
12676     const I32 count = FILTER_READ(idx+1, sv, maxlen);
12677     DEBUG_P(PerlIO_printf(Perl_debug_log,
12678                           "utf16_textfilter(%p): %d %d (%d)\n",
12679                           FPTR2DPTR(void *, utf16_textfilter),
12680                           idx, maxlen, (int) count));
12681     if (count) {
12682         U8* tmps;
12683         I32 newlen;
12684         Newx(tmps, SvCUR(sv) * 3 / 2 + 1, U8);
12685         Copy(SvPVX_const(sv), tmps, old, char);
12686         utf16_to_utf8((U8*)SvPVX_const(sv) + old, tmps + old,
12687                       SvCUR(sv) - old, &newlen);
12688         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
12689     }
12690     DEBUG_P({sv_dump(sv);});
12691     return SvCUR(sv);
12692 }
12693
12694 static I32
12695 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen)
12696 {
12697     dVAR;
12698     const STRLEN old = SvCUR(sv);
12699     const I32 count = FILTER_READ(idx+1, sv, maxlen);
12700     DEBUG_P(PerlIO_printf(Perl_debug_log,
12701                           "utf16rev_textfilter(%p): %d %d (%d)\n",
12702                           FPTR2DPTR(void *, utf16rev_textfilter),
12703                           idx, maxlen, (int) count));
12704     if (count) {
12705         U8* tmps;
12706         I32 newlen;
12707         Newx(tmps, SvCUR(sv) * 3 / 2 + 1, U8);
12708         Copy(SvPVX_const(sv), tmps, old, char);
12709         utf16_to_utf8((U8*)SvPVX_const(sv) + old, tmps + old,
12710                       SvCUR(sv) - old, &newlen);
12711         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
12712     }
12713     DEBUG_P({ sv_dump(sv); });
12714     return count;
12715 }
12716 #endif
12717
12718 /*
12719 Returns a pointer to the next character after the parsed
12720 vstring, as well as updating the passed in sv.
12721
12722 Function must be called like
12723
12724         sv = newSV(5);
12725         s = scan_vstring(s,e,sv);
12726
12727 where s and e are the start and end of the string.
12728 The sv should already be large enough to store the vstring
12729 passed in, for performance reasons.
12730
12731 */
12732
12733 char *
12734 Perl_scan_vstring(pTHX_ const char *s, const char *e, SV *sv)
12735 {
12736     dVAR;
12737     const char *pos = s;
12738     const char *start = s;
12739     if (*pos == 'v') pos++;  /* get past 'v' */
12740     while (pos < e && (isDIGIT(*pos) || *pos == '_'))
12741         pos++;
12742     if ( *pos != '.') {
12743         /* this may not be a v-string if followed by => */
12744         const char *next = pos;
12745         while (next < e && isSPACE(*next))
12746             ++next;
12747         if ((e - next) >= 2 && *next == '=' && next[1] == '>' ) {
12748             /* return string not v-string */
12749             sv_setpvn(sv,(char *)s,pos-s);
12750             return (char *)pos;
12751         }
12752     }
12753
12754     if (!isALPHA(*pos)) {
12755         U8 tmpbuf[UTF8_MAXBYTES+1];
12756
12757         if (*s == 'v')
12758             s++;  /* get past 'v' */
12759
12760         sv_setpvn(sv, "", 0);
12761
12762         for (;;) {
12763             /* this is atoi() that tolerates underscores */
12764             U8 *tmpend;
12765             UV rev = 0;
12766             const char *end = pos;
12767             UV mult = 1;
12768             while (--end >= s) {
12769                 if (*end != '_') {
12770                     const UV orev = rev;
12771                     rev += (*end - '0') * mult;
12772                     mult *= 10;
12773                     if (orev > rev && ckWARN_d(WARN_OVERFLOW))
12774                         Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
12775                                     "Integer overflow in decimal number");
12776                 }
12777             }
12778 #ifdef EBCDIC
12779             if (rev > 0x7FFFFFFF)
12780                  Perl_croak(aTHX_ "In EBCDIC the v-string components cannot exceed 2147483647");
12781 #endif
12782             /* Append native character for the rev point */
12783             tmpend = uvchr_to_utf8(tmpbuf, rev);
12784             sv_catpvn(sv, (const char*)tmpbuf, tmpend - tmpbuf);
12785             if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(rev)))
12786                  SvUTF8_on(sv);
12787             if (pos + 1 < e && *pos == '.' && isDIGIT(pos[1]))
12788                  s = ++pos;
12789             else {
12790                  s = pos;
12791                  break;
12792             }
12793             while (pos < e && (isDIGIT(*pos) || *pos == '_'))
12794                  pos++;
12795         }
12796         SvPOK_on(sv);
12797         sv_magic(sv,NULL,PERL_MAGIC_vstring,(const char*)start, pos-start);
12798         SvRMAGICAL_on(sv);
12799     }
12800     return (char *)s;
12801 }
12802
12803 /*
12804  * Local variables:
12805  * c-indentation-style: bsd
12806  * c-basic-offset: 4
12807  * indent-tabs-mode: t
12808  * End:
12809  *
12810  * ex: set ts=8 sts=4 sw=4 noet:
12811  */