toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (c) 1991-1997, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  *   "It all comes from here, the stench and the peril."  --Frodo
  12  */
  13
  14 #include "EXTERN.h"
  15 #include "perl.h"
  16
  17 static void check_uni _((void));
  18 static void  force_next _((I32 type));
  19 static char *force_version _((char *start));
  20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
  21 static SV *q _((SV *sv));
  22 static char *scan_const _((char *start));
  23 static char *scan_formline _((char *s));
  24 static char *scan_heredoc _((char *s));
  25 static char *scan_ident _((char *s, char *send, char *dest, I32 ck_uni));
  26 static char *scan_inputsymbol _((char *start));
  27 static char *scan_pat _((char *start));
  28 static char *scan_str _((char *start));
  29 static char *scan_subst _((char *start));
  30 static char *scan_trans _((char *start));
  31 static char *scan_word _((char *s, char *dest, int allow_package, STRLEN *slp));
  32 static char *skipspace _((char *s));
  33 static void checkcomma _((char *s, char *name, char *what));
  34 static void force_ident _((char *s, int kind));
  35 static void incline _((char *s));
  36 static int intuit_method _((char *s, GV *gv));
  37 static int intuit_more _((char *s));
  38 static I32 lop _((I32 f, expectation x, char *s));
  39 static void missingterm _((char *s));
  40 static void no_op _((char *what, char *s));
  41 static void set_csh _((void));
  42 static I32 sublex_done _((void));
  43 static I32 sublex_push _((void));
  44 static I32 sublex_start _((void));
  45 #ifdef CRIPPLED_CC
  46 static int uni _((I32 f, char *s));
  47 #endif
  48 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
  49 static void restore_rsfp _((void *f));
  50
  51 static char *linestart;         /* beg. of most recently read line */
  52
  53 static char pending_ident;      /* pending identifier lookup */
  54
  55 static struct {
  56     I32 super_state;    /* lexer state to save */
  57     I32 sub_inwhat;     /* "lex_inwhat" to use */
  58     OP *sub_op;         /* "lex_op" to use */
  59 } sublex_info;
  60
  61 /* The following are arranged oddly so that the guard on the switch statement
  62  * can get by with a single comparison (if the compiler is smart enough).
  63  */
  64
  65 #define LEX_NORMAL              10
  66 #define LEX_INTERPNORMAL         9
  67 #define LEX_INTERPCASEMOD        8
  68 #define LEX_INTERPPUSH           7
  69 #define LEX_INTERPSTART          6
  70 #define LEX_INTERPEND            5
  71 #define LEX_INTERPENDMAYBE       4
  72 #define LEX_INTERPCONCAT         3
  73 #define LEX_INTERPCONST          2
  74 #define LEX_FORMLINE             1
  75 #define LEX_KNOWNEXT             0
  76
  77 #ifdef I_FCNTL
  78 #include <fcntl.h>
  79 #endif
  80 #ifdef I_SYS_FILE
  81 #include <sys/file.h>
  82 #endif
  83
  84 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
  85 #ifdef I_UNISTD
  86 #  include <unistd.h> /* Needed for execv() */
  87 #endif
  88
  89
  90 #ifdef ff_next
  91 #undef ff_next
  92 #endif
  93
  94 #include "keywords.h"
  95
  96 #ifdef CLINE
  97 #undef CLINE
  98 #endif
  99 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
 100
 101 #define TOKEN(retval) return (bufptr = s,(int)retval)
 102 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
 103 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
 104 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
 105 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
 106 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
 107 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
 108 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
 109 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
 110 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
 111 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
 112 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
 113 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
 114 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
 115 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
 116 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
 117 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
 118 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
 119 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
 120 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
 121
 122 /* This bit of chicanery makes a unary function followed by
 123  * a parenthesis into a function with one argument, highest precedence.
 124  */
 125 #define UNI(f) return(yylval.ival = f, \
 126         expect = XTERM, \
 127         bufptr = s, \
 128         last_uni = oldbufptr, \
 129         last_lop_op = f, \
 130         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 131
 132 #define UNIBRACK(f) return(yylval.ival = f, \
 133         bufptr = s, \
 134         last_uni = oldbufptr, \
 135         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 136
 137 /* grandfather return to old style */
 138 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
 139
 140 static int
 141 ao(toketype)
 142 int toketype;
 143 {
 144     if (*bufptr == '=') {
 145         bufptr++;
 146         if (toketype == ANDAND)
 147             yylval.ival = OP_ANDASSIGN;
 148         else if (toketype == OROR)
 149             yylval.ival = OP_ORASSIGN;
 150         toketype = ASSIGNOP;
 151     }
 152     return toketype;
 153 }
 154
 155 static void
 156 no_op(what, s)
 157 char *what;
 158 char *s;
 159 {
 160     char *oldbp = bufptr;
 161     bool is_first = (oldbufptr == linestart);
 162     char *msg;
 163
 164     bufptr = s;
 165     New(890, msg, strlen(what) + 40, char);
 166     sprintf(msg, "%s found where operator expected", what);
 167     yywarn(msg);
 168     Safefree(msg);
 169     if (is_first)
 170         warn("\t(Missing semicolon on previous line?)\n");
 171     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
 172         char *t;
 173         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
 174         if (t < bufptr && isSPACE(*t))
 175             warn("\t(Do you need to predeclare %.*s?)\n",
 176                 t - oldoldbufptr, oldoldbufptr);
 177
 178     }
 179     else
 180         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
 181     bufptr = oldbp;
 182 }
 183
 184 static void
 185 missingterm(s)
 186 char *s;
 187 {
 188     char tmpbuf[3];
 189     char q;
 190     if (s) {
 191         char *nl = strrchr(s,'\n');
 192         if (nl)
 193             *nl = '\0';
 194     }
 195     else if (multi_close < 32 || multi_close == 127) {
 196         *tmpbuf = '^';
 197         tmpbuf[1] = toCTRL(multi_close);
 198         s = "\\n";
 199         tmpbuf[2] = '\0';
 200         s = tmpbuf;
 201     }
 202     else {
 203         *tmpbuf = multi_close;
 204         tmpbuf[1] = '\0';
 205         s = tmpbuf;
 206     }
 207     q = strchr(s,'"') ? '\'' : '"';
 208     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 209 }
 210
 211 void
 212 deprecate(s)
 213 char *s;
 214 {
 215     if (dowarn)
 216         warn("Use of %s is deprecated", s);
 217 }
 218
 219 static void
 220 depcom()
 221 {
 222     deprecate("comma-less variable list");
 223 }
 224
 225 void
 226 lex_start(line)
 227 SV *line;
 228 {
 229     char *s;
 230     STRLEN len;
 231
 232     SAVEI32(lex_dojoin);
 233     SAVEI32(lex_brackets);
 234     SAVEI32(lex_fakebrack);
 235     SAVEI32(lex_casemods);
 236     SAVEI32(lex_starts);
 237     SAVEI32(lex_state);
 238     SAVESPTR(lex_inpat);
 239     SAVEI32(lex_inwhat);
 240     SAVEI16(curcop->cop_line);
 241     SAVEPPTR(bufptr);
 242     SAVEPPTR(bufend);
 243     SAVEPPTR(oldbufptr);
 244     SAVEPPTR(oldoldbufptr);
 245     SAVEPPTR(linestart);
 246     SAVESPTR(linestr);
 247     SAVEPPTR(lex_brackstack);
 248     SAVEPPTR(lex_casestack);
 249     SAVEDESTRUCTOR(restore_rsfp, rsfp);
 250
 251     lex_state = LEX_NORMAL;
 252     lex_defer = 0;
 253     expect = XSTATE;
 254     lex_brackets = 0;
 255     lex_fakebrack = 0;
 256     New(899, lex_brackstack, 120, char);
 257     New(899, lex_casestack, 12, char);
 258     SAVEFREEPV(lex_brackstack);
 259     SAVEFREEPV(lex_casestack);
 260     lex_casemods = 0;
 261     *lex_casestack = '\0';
 262     lex_dojoin = 0;
 263     lex_starts = 0;
 264     if (lex_stuff)
 265         SvREFCNT_dec(lex_stuff);
 266     lex_stuff = Nullsv;
 267     if (lex_repl)
 268         SvREFCNT_dec(lex_repl);
 269     lex_repl = Nullsv;
 270     lex_inpat = 0;
 271     lex_inwhat = 0;
 272     linestr = line;
 273     if (SvREADONLY(linestr))
 274         linestr = sv_2mortal(newSVsv(linestr));
 275     s = SvPV(linestr, len);
 276     if (len && s[len-1] != ';') {
 277         if (!(SvFLAGS(linestr) & SVs_TEMP))
 278             linestr = sv_2mortal(newSVsv(linestr));
 279         sv_catpvn(linestr, "\n;", 2);
 280     }
 281     SvTEMP_off(linestr);
 282     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
 283     bufend = bufptr + SvCUR(linestr);
 284     SvREFCNT_dec(rs);
 285     rs = newSVpv("\n", 1);
 286     rsfp = 0;
 287 }
 288
 289 void
 290 lex_end()
 291 {
 292     doextract = FALSE;
 293 }
 294
 295 static void
 296 restore_rsfp(f)
 297 void *f;
 298 {
 299     PerlIO *fp = (PerlIO*)f;
 300
 301     if (rsfp == PerlIO_stdin())
 302         PerlIO_clearerr(rsfp);
 303     else if (rsfp && (rsfp != fp))
 304         PerlIO_close(rsfp);
 305     rsfp = fp;
 306 }
 307
 308 static void
 309 incline(s)
 310 char *s;
 311 {
 312     char *t;
 313     char *n;
 314     char ch;
 315     int sawline = 0;
 316
 317     curcop->cop_line++;
 318     if (*s++ != '#')
 319         return;
 320     while (*s == ' ' || *s == '\t') s++;
 321     if (strnEQ(s, "line ", 5)) {
 322         s += 5;
 323         sawline = 1;
 324     }
 325     if (!isDIGIT(*s))
 326         return;
 327     n = s;
 328     while (isDIGIT(*s))
 329         s++;
 330     while (*s == ' ' || *s == '\t')
 331         s++;
 332     if (*s == '"' && (t = strchr(s+1, '"')))
 333         s++;
 334     else {
 335         if (!sawline)
 336             return;             /* false alarm */
 337         for (t = s; !isSPACE(*t); t++) ;
 338     }
 339     ch = *t;
 340     *t = '\0';
 341     if (t - s > 0)
 342         curcop->cop_filegv = gv_fetchfile(s);
 343     else
 344         curcop->cop_filegv = gv_fetchfile(origfilename);
 345     *t = ch;
 346     curcop->cop_line = atoi(n)-1;
 347 }
 348
 349 static char *
 350 skipspace(s)
 351 register char *s;
 352 {
 353     if (lex_formbrack && lex_brackets <= lex_formbrack) {
 354         while (s < bufend && (*s == ' ' || *s == '\t'))
 355             s++;
 356         return s;
 357     }
 358     for (;;) {
 359         STRLEN prevlen;
 360         while (s < bufend && isSPACE(*s))
 361             s++;
 362         if (s < bufend && *s == '#') {
 363             while (s < bufend && *s != '\n')
 364                 s++;
 365             if (s < bufend)
 366                 s++;
 367         }
 368         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
 369             return s;
 370         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
 371             if (minus_n || minus_p) {
 372                 sv_setpv(linestr,minus_p ? ";}continue{print" : "");
 373                 sv_catpv(linestr,";}");
 374                 minus_n = minus_p = 0;
 375             }
 376             else
 377                 sv_setpv(linestr,";");
 378             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
 379             bufend = SvPVX(linestr) + SvCUR(linestr);
 380             if (preprocess && !in_eval)
 381                 (void)my_pclose(rsfp);
 382             else if ((PerlIO*)rsfp == PerlIO_stdin())
 383                 PerlIO_clearerr(rsfp);
 384             else
 385                 (void)PerlIO_close(rsfp);
 386             rsfp = Nullfp;
 387             return s;
 388         }
 389         linestart = bufptr = s + prevlen;
 390         bufend = s + SvCUR(linestr);
 391         s = bufptr;
 392         incline(s);
 393         if (perldb && curstash != debstash) {
 394             SV *sv = NEWSV(85,0);
 395
 396             sv_upgrade(sv, SVt_PVMG);
 397             sv_setpvn(sv,bufptr,bufend-bufptr);
 398             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
 399         }
 400     }
 401 }
 402
 403 static void
 404 check_uni() {
 405     char *s;
 406     char ch;
 407     char *t;
 408
 409     if (oldoldbufptr != last_uni)
 410         return;
 411     while (isSPACE(*last_uni))
 412         last_uni++;
 413     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
 414     if ((t = strchr(s, '(')) && t < bufptr)
 415         return;
 416     ch = *s;
 417     *s = '\0';
 418     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
 419     *s = ch;
 420 }
 421
 422 #ifdef CRIPPLED_CC
 423
 424 #undef UNI
 425 #define UNI(f) return uni(f,s)
 426
 427 static int
 428 uni(f,s)
 429 I32 f;
 430 char *s;
 431 {
 432     yylval.ival = f;
 433     expect = XTERM;
 434     bufptr = s;
 435     last_uni = oldbufptr;
 436     last_lop_op = f;
 437     if (*s == '(')
 438         return FUNC1;
 439     s = skipspace(s);
 440     if (*s == '(')
 441         return FUNC1;
 442     else
 443         return UNIOP;
 444 }
 445
 446 #endif /* CRIPPLED_CC */
 447
 448 #define LOP(f,x) return lop(f,x,s)
 449
 450 static I32
 451 lop
 452 #ifdef CAN_PROTOTYPE
 453    (I32 f, expectation x, char *s)
 454 #else
 455    (f,x,s)
 456 I32 f;
 457 expectation x;
 458 char *s;
 459 #endif /* CAN_PROTOTYPE */
 460 {
 461     yylval.ival = f;
 462     CLINE;
 463     expect = x;
 464     bufptr = s;
 465     last_lop = oldbufptr;
 466     last_lop_op = f;
 467     if (nexttoke)
 468         return LSTOP;
 469     if (*s == '(')
 470         return FUNC;
 471     s = skipspace(s);
 472     if (*s == '(')
 473         return FUNC;
 474     else
 475         return LSTOP;
 476 }
 477
 478 static void
 479 force_next(type)
 480 I32 type;
 481 {
 482     nexttype[nexttoke] = type;
 483     nexttoke++;
 484     if (lex_state != LEX_KNOWNEXT) {
 485         lex_defer = lex_state;
 486         lex_expect = expect;
 487         lex_state = LEX_KNOWNEXT;
 488     }
 489 }
 490
 491 static char *
 492 force_word(start,token,check_keyword,allow_pack,allow_tick)
 493 register char *start;
 494 int token;
 495 int check_keyword;
 496 int allow_pack;
 497 int allow_tick;
 498 {
 499     register char *s;
 500     STRLEN len;
 501
 502     start = skipspace(start);
 503     s = start;
 504     if (isIDFIRST(*s) ||
 505         (allow_pack && *s == ':') ||
 506         (allow_tick && *s == '\'') )
 507     {
 508         s = scan_word(s, tokenbuf, allow_pack, &len);
 509         if (check_keyword && keyword(tokenbuf, len))
 510             return start;
 511         if (token == METHOD) {
 512             s = skipspace(s);
 513             if (*s == '(')
 514                 expect = XTERM;
 515             else {
 516                 expect = XOPERATOR;
 517                 force_next(')');
 518                 force_next('(');
 519             }
 520         }
 521         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
 522         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
 523         force_next(token);
 524     }
 525     return s;
 526 }
 527
 528 static void
 529 force_ident(s, kind)
 530 register char *s;
 531 int kind;
 532 {
 533     if (s && *s) {
 534         OP* op = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
 535         nextval[nexttoke].opval = op;
 536         force_next(WORD);
 537         if (kind) {
 538             op->op_private = OPpCONST_ENTERED;
 539             /* XXX see note in pp_entereval() for why we forgo typo
 540                warnings if the symbol must be introduced in an eval.
 541                GSAR 96-10-12 */
 542             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
 543                 kind == '$' ? SVt_PV :
 544                 kind == '@' ? SVt_PVAV :
 545                 kind == '%' ? SVt_PVHV :
 546                               SVt_PVGV
 547                 );
 548         }
 549     }
 550 }
 551
 552 static char *
 553 force_version(s)
 554 char *s;
 555 {
 556     OP *version = Nullop;
 557
 558     s = skipspace(s);
 559
 560     /* default VERSION number -- GBARR */
 561
 562     if(isDIGIT(*s)) {
 563         char *d;
 564         int c;
 565         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
 566         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
 567             s = scan_num(s);
 568             /* real VERSION number -- GBARR */
 569             version = yylval.opval;
 570         }
 571     }
 572
 573     /* NOTE: The parser sees the package name and the VERSION swapped */
 574     nextval[nexttoke].opval = version;
 575     force_next(WORD);
 576
 577     return (s);
 578 }
 579
 580 static SV *
 581 q(sv)
 582 SV *sv;
 583 {
 584     register char *s;
 585     register char *send;
 586     register char *d;
 587     STRLEN len;
 588
 589     if (!SvLEN(sv))
 590         return sv;
 591
 592     s = SvPV_force(sv, len);
 593     if (SvIVX(sv) == -1)
 594         return sv;
 595     send = s + len;
 596     while (s < send && *s != '\\')
 597         s++;
 598     if (s == send)
 599         return sv;
 600     d = s;
 601     while (s < send) {
 602         if (*s == '\\') {
 603             if (s + 1 < send && (s[1] == '\\'))
 604                 s++;            /* all that, just for this */
 605         }
 606         *d++ = *s++;
 607     }
 608     *d = '\0';
 609     SvCUR_set(sv, d - SvPVX(sv));
 610
 611     return sv;
 612 }
 613
 614 static I32
 615 sublex_start()
 616 {
 617     register I32 op_type = yylval.ival;
 618
 619     if (op_type == OP_NULL) {
 620         yylval.opval = lex_op;
 621         lex_op = Nullop;
 622         return THING;
 623     }
 624     if (op_type == OP_CONST || op_type == OP_READLINE) {
 625         SV *sv = q(lex_stuff);
 626         STRLEN len;
 627         char *p = SvPV(sv, len);
 628         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
 629         SvREFCNT_dec(sv);
 630         lex_stuff = Nullsv;
 631         return THING;
 632     }
 633
 634     sublex_info.super_state = lex_state;
 635     sublex_info.sub_inwhat = op_type;
 636     sublex_info.sub_op = lex_op;
 637     lex_state = LEX_INTERPPUSH;
 638
 639     expect = XTERM;
 640     if (lex_op) {
 641         yylval.opval = lex_op;
 642         lex_op = Nullop;
 643         return PMFUNC;
 644     }
 645     else
 646         return FUNC;
 647 }
 648
 649 static I32
 650 sublex_push()
 651 {
 652     push_scope();
 653
 654     lex_state = sublex_info.super_state;
 655     SAVEI32(lex_dojoin);
 656     SAVEI32(lex_brackets);
 657     SAVEI32(lex_fakebrack);
 658     SAVEI32(lex_casemods);
 659     SAVEI32(lex_starts);
 660     SAVEI32(lex_state);
 661     SAVESPTR(lex_inpat);
 662     SAVEI32(lex_inwhat);
 663     SAVEI16(curcop->cop_line);
 664     SAVEPPTR(bufptr);
 665     SAVEPPTR(oldbufptr);
 666     SAVEPPTR(oldoldbufptr);
 667     SAVEPPTR(linestart);
 668     SAVESPTR(linestr);
 669     SAVEPPTR(lex_brackstack);
 670     SAVEPPTR(lex_casestack);
 671
 672     linestr = lex_stuff;
 673     lex_stuff = Nullsv;
 674
 675     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 676     bufend += SvCUR(linestr);
 677     SAVEFREESV(linestr);
 678
 679     lex_dojoin = FALSE;
 680     lex_brackets = 0;
 681     lex_fakebrack = 0;
 682     New(899, lex_brackstack, 120, char);
 683     New(899, lex_casestack, 12, char);
 684     SAVEFREEPV(lex_brackstack);
 685     SAVEFREEPV(lex_casestack);
 686     lex_casemods = 0;
 687     *lex_casestack = '\0';
 688     lex_starts = 0;
 689     lex_state = LEX_INTERPCONCAT;
 690     curcop->cop_line = multi_start;
 691
 692     lex_inwhat = sublex_info.sub_inwhat;
 693     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
 694         lex_inpat = sublex_info.sub_op;
 695     else
 696         lex_inpat = Nullop;
 697
 698     return '(';
 699 }
 700
 701 static I32
 702 sublex_done()
 703 {
 704     if (!lex_starts++) {
 705         expect = XOPERATOR;
 706         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
 707         return THING;
 708     }
 709
 710     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
 711         lex_state = LEX_INTERPCASEMOD;
 712         return yylex();
 713     }
 714
 715     /* Is there a right-hand side to take care of? */
 716     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
 717         linestr = lex_repl;
 718         lex_inpat = 0;
 719         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 720         bufend += SvCUR(linestr);
 721         SAVEFREESV(linestr);
 722         lex_dojoin = FALSE;
 723         lex_brackets = 0;
 724         lex_fakebrack = 0;
 725         lex_casemods = 0;
 726         *lex_casestack = '\0';
 727         lex_starts = 0;
 728         if (SvCOMPILED(lex_repl)) {
 729             lex_state = LEX_INTERPNORMAL;
 730             lex_starts++;
 731         }
 732         else
 733             lex_state = LEX_INTERPCONCAT;
 734         lex_repl = Nullsv;
 735         return ',';
 736     }
 737     else {
 738         pop_scope();
 739         bufend = SvPVX(linestr);
 740         bufend += SvCUR(linestr);
 741         expect = XOPERATOR;
 742         return ')';
 743     }
 744 }
 745
 746 static char *
 747 scan_const(start)
 748 char *start;
 749 {
 750     register char *send = bufend;
 751     SV *sv = NEWSV(93, send - start);
 752     register char *s = start;
 753     register char *d = SvPVX(sv);
 754     bool dorange = FALSE;
 755     I32 len;
 756     char *leave =
 757         lex_inpat
 758             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
 759             : (lex_inwhat & OP_TRANS)
 760                 ? ""
 761                 : "";
 762
 763     while (s < send || dorange) {
 764         if (lex_inwhat == OP_TRANS) {
 765             if (dorange) {
 766                 I32 i;
 767                 I32 max;
 768                 i = d - SvPVX(sv);
 769                 SvGROW(sv, SvLEN(sv) + 256);
 770                 d = SvPVX(sv) + i;
 771                 d -= 2;
 772                 max = (U8)d[1];
 773                 for (i = (U8)*d; i <= max; i++)
 774                     *d++ = i;
 775                 dorange = FALSE;
 776                 continue;
 777             }
 778             else if (*s == '-' && s+1 < send  && s != start) {
 779                 dorange = TRUE;
 780                 s++;
 781             }
 782         }
 783         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
 784             while (s < send && *s != ')')
 785                 *d++ = *s++;
 786         }
 787         else if (*s == '#' && lex_inpat &&
 788           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
 789             while (s+1 < send && *s != '\n')
 790                 *d++ = *s++;
 791         }
 792         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
 793             break;
 794         else if (*s == '$') {
 795             if (!lex_inpat)     /* not a regexp, so $ must be var */
 796                 break;
 797             if (s + 1 < send && !strchr(")| \n\t", s[1]))
 798                 break;          /* in regexp, $ might be tail anchor */
 799         }
 800         if (*s == '\\' && s+1 < send) {
 801             s++;
 802             if (*s && strchr(leave, *s)) {
 803                 *d++ = '\\';
 804                 *d++ = *s++;
 805                 continue;
 806             }
 807             if (lex_inwhat == OP_SUBST && !lex_inpat &&
 808                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
 809             {
 810                 if (dowarn)
 811                     warn("\\%c better written as $%c", *s, *s);
 812                 *--s = '$';
 813                 break;
 814             }
 815             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
 816                 --s;
 817                 break;
 818             }
 819             switch (*s) {
 820             case '-':
 821                 if (lex_inwhat == OP_TRANS) {
 822                     *d++ = *s++;
 823                     continue;
 824                 }
 825                 /* FALL THROUGH */
 826             default:
 827                 *d++ = *s++;
 828                 continue;
 829             case '0': case '1': case '2': case '3':
 830             case '4': case '5': case '6': case '7':
 831                 *d++ = scan_oct(s, 3, &len);
 832                 s += len;
 833                 continue;
 834             case 'x':
 835                 *d++ = scan_hex(++s, 2, &len);
 836                 s += len;
 837                 continue;
 838             case 'c':
 839                 s++;
 840                 len = *s++;
 841                 *d++ = toCTRL(len);
 842                 continue;
 843             case 'b':
 844                 *d++ = '\b';
 845                 break;
 846             case 'n':
 847                 *d++ = '\n';
 848                 break;
 849             case 'r':
 850                 *d++ = '\r';
 851                 break;
 852             case 'f':
 853                 *d++ = '\f';
 854                 break;
 855             case 't':
 856                 *d++ = '\t';
 857                 break;
 858             case 'e':
 859                 *d++ = '\033';
 860                 break;
 861             case 'a':
 862                 *d++ = '\007';
 863                 break;
 864             }
 865             s++;
 866             continue;
 867         }
 868         *d++ = *s++;
 869     }
 870     *d = '\0';
 871     SvCUR_set(sv, d - SvPVX(sv));
 872     SvPOK_on(sv);
 873
 874     if (SvCUR(sv) + 5 < SvLEN(sv)) {
 875         SvLEN_set(sv, SvCUR(sv) + 1);
 876         Renew(SvPVX(sv), SvLEN(sv), char);
 877     }
 878     if (s > bufptr)
 879         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
 880     else
 881         SvREFCNT_dec(sv);
 882     return s;
 883 }
 884
 885 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
 886 static int
 887 intuit_more(s)
 888 register char *s;
 889 {
 890     if (lex_brackets)
 891         return TRUE;
 892     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
 893         return TRUE;
 894     if (*s != '{' && *s != '[')
 895         return FALSE;
 896     if (!lex_inpat)
 897         return TRUE;
 898
 899     /* In a pattern, so maybe we have {n,m}. */
 900     if (*s == '{') {
 901         s++;
 902         if (!isDIGIT(*s))
 903             return TRUE;
 904         while (isDIGIT(*s))
 905             s++;
 906         if (*s == ',')
 907             s++;
 908         while (isDIGIT(*s))
 909             s++;
 910         if (*s == '}')
 911             return FALSE;
 912         return TRUE;
 913
 914     }
 915
 916     /* On the other hand, maybe we have a character class */
 917
 918     s++;
 919     if (*s == ']' || *s == '^')
 920         return FALSE;
 921     else {
 922         int weight = 2;         /* let's weigh the evidence */
 923         char seen[256];
 924         unsigned char un_char = 0, last_un_char;
 925         char *send = strchr(s,']');
 926         char tmpbuf[512];
 927
 928         if (!send)              /* has to be an expression */
 929             return TRUE;
 930
 931         Zero(seen,256,char);
 932         if (*s == '$')
 933             weight -= 3;
 934         else if (isDIGIT(*s)) {
 935             if (s[1] != ']') {
 936                 if (isDIGIT(s[1]) && s[2] == ']')
 937                     weight -= 10;
 938             }
 939             else
 940                 weight -= 100;
 941         }
 942         for (; s < send; s++) {
 943             last_un_char = un_char;
 944             un_char = (unsigned char)*s;
 945             switch (*s) {
 946             case '@':
 947             case '&':
 948             case '$':
 949                 weight -= seen[un_char] * 10;
 950                 if (isALNUM(s[1])) {
 951                     scan_ident(s,send,tmpbuf,FALSE);
 952                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
 953                         weight -= 100;
 954                     else
 955                         weight -= 10;
 956                 }
 957                 else if (*s == '$' && s[1] &&
 958                   strchr("[#!%*<>()-=",s[1])) {
 959                     if (/*{*/ strchr("])} =",s[2]))
 960                         weight -= 10;
 961                     else
 962                         weight -= 1;
 963                 }
 964                 break;
 965             case '\\':
 966                 un_char = 254;
 967                 if (s[1]) {
 968                     if (strchr("wds]",s[1]))
 969                         weight += 100;
 970                     else if (seen['\''] || seen['"'])
 971                         weight += 1;
 972                     else if (strchr("rnftbxcav",s[1]))
 973                         weight += 40;
 974                     else if (isDIGIT(s[1])) {
 975                         weight += 40;
 976                         while (s[1] && isDIGIT(s[1]))
 977                             s++;
 978                     }
 979                 }
 980                 else
 981                     weight += 100;
 982                 break;
 983             case '-':
 984                 if (s[1] == '\\')
 985                     weight += 50;
 986                 if (strchr("aA01! ",last_un_char))
 987                     weight += 30;
 988                 if (strchr("zZ79~",s[1]))
 989                     weight += 30;
 990                 break;
 991             default:
 992                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
 993                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
 994                     char *d = tmpbuf;
 995                     while (isALPHA(*s))
 996                         *d++ = *s++;
 997                     *d = '\0';
 998                     if (keyword(tmpbuf, d - tmpbuf))
 999                         weight -= 150;
1000                 }
1001                 if (un_char == last_un_char + 1)
1002                     weight += 5;
1003                 weight -= seen[un_char];
1004                 break;
1005             }
1006             seen[un_char]++;
1007         }
1008         if (weight >= 0)        /* probably a character class */
1009             return FALSE;
1010     }
1011
1012     return TRUE;
1013 }
1014
1015 static int
1016 intuit_method(start,gv)
1017 char *start;
1018 GV *gv;
1019 {
1020     char *s = start + (*start == '$');
1021     char tmpbuf[1024];
1022     STRLEN len;
1023     GV* indirgv;
1024
1025     if (gv) {
1026         if (GvIO(gv))
1027             return 0;
1028         if (!GvCVu(gv))
1029             gv = 0;
1030     }
1031     s = scan_word(s, tmpbuf, TRUE, &len);
1032     if (*start == '$') {
1033         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1034             return 0;
1035         s = skipspace(s);
1036         bufptr = start;
1037         expect = XREF;
1038         return *s == '(' ? FUNCMETH : METHOD;
1039     }
1040     if (!keyword(tmpbuf, len)) {
1041         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1042         if (indirgv && GvCVu(indirgv))
1043             return 0;
1044         /* filehandle or package name makes it a method */
1045         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1046             s = skipspace(s);
1047             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1048                 return 0;       /* no assumptions -- "=>" quotes bearword */
1049             nextval[nexttoke].opval =
1050                 (OP*)newSVOP(OP_CONST, 0,
1051                             newSVpv(tmpbuf,0));
1052             nextval[nexttoke].opval->op_private =
1053                 OPpCONST_BARE;
1054             expect = XTERM;
1055             force_next(WORD);
1056             bufptr = s;
1057             return *s == '(' ? FUNCMETH : METHOD;
1058         }
1059     }
1060     return 0;
1061 }
1062
1063 static char*
1064 incl_perldb()
1065 {
1066     if (perldb) {
1067         char *pdb = getenv("PERL5DB");
1068
1069         if (pdb)
1070             return pdb;
1071         return "BEGIN { require 'perl5db.pl' }";
1072     }
1073     return "";
1074 }
1075
1076
1077 /* Encoded script support. filter_add() effectively inserts a
1078  * 'pre-processing' function into the current source input stream.
1079  * Note that the filter function only applies to the current source file
1080  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1081  *
1082  * The datasv parameter (which may be NULL) can be used to pass
1083  * private data to this instance of the filter. The filter function
1084  * can recover the SV using the FILTER_DATA macro and use it to
1085  * store private buffers and state information.
1086  *
1087  * The supplied datasv parameter is upgraded to a PVIO type
1088  * and the IoDIRP field is used to store the function pointer.
1089  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1090  * private use must be set using malloc'd pointers.
1091  */
1092 static int filter_debug = 0;
1093
1094 SV *
1095 filter_add(funcp, datasv)
1096     filter_t funcp;
1097     SV *datasv;
1098 {
1099     if (!funcp){ /* temporary handy debugging hack to be deleted */
1100         filter_debug = atoi((char*)datasv);
1101         return NULL;
1102     }
1103     if (!rsfp_filters)
1104         rsfp_filters = newAV();
1105     if (!datasv)
1106         datasv = newSV(0);
1107     if (!SvUPGRADE(datasv, SVt_PVIO))
1108         die("Can't upgrade filter_add data to SVt_PVIO");
1109     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1110     if (filter_debug)
1111         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1112     av_unshift(rsfp_filters, 1);
1113     av_store(rsfp_filters, 0, datasv) ;
1114     return(datasv);
1115 }
1116
1117
1118 /* Delete most recently added instance of this filter function. */
1119 void
1120 filter_del(funcp)
1121     filter_t funcp;
1122 {
1123     if (filter_debug)
1124         warn("filter_del func %p", funcp);
1125     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1126         return;
1127     /* if filter is on top of stack (usual case) just pop it off */
1128     if (IoDIRP(FILTER_DATA(0)) == (void*)funcp){
1129         /* sv_free(av_pop(rsfp_filters)); */
1130         sv_free(av_shift(rsfp_filters));
1131
1132         return;
1133     }
1134     /* we need to search for the correct entry and clear it     */
1135     die("filter_del can only delete in reverse order (currently)");
1136 }
1137
1138
1139 /* Invoke the n'th filter function for the current rsfp.         */
1140 I32
1141 filter_read(idx, buf_sv, maxlen)
1142     int idx;
1143     SV *buf_sv;
1144     int maxlen;         /* 0 = read one text line */
1145 {
1146     filter_t funcp;
1147     SV *datasv = NULL;
1148
1149     if (!rsfp_filters)
1150         return -1;
1151     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1152         /* Provide a default input filter to make life easy.    */
1153         /* Note that we append to the line. This is handy.      */
1154         if (filter_debug)
1155             warn("filter_read %d: from rsfp\n", idx);
1156         if (maxlen) {
1157             /* Want a block */
1158             int len ;
1159             int old_len = SvCUR(buf_sv) ;
1160
1161             /* ensure buf_sv is large enough */
1162             SvGROW(buf_sv, old_len + maxlen) ;
1163             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1164                 if (PerlIO_error(rsfp))
1165                     return -1;          /* error */
1166                 else
1167                     return 0 ;          /* end of file */
1168             }
1169             SvCUR_set(buf_sv, old_len + len) ;
1170         } else {
1171             /* Want a line */
1172             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1173                 if (PerlIO_error(rsfp))
1174                     return -1;          /* error */
1175                 else
1176                     return 0 ;          /* end of file */
1177             }
1178         }
1179         return SvCUR(buf_sv);
1180     }
1181     /* Skip this filter slot if filter has been deleted */
1182     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1183         if (filter_debug)
1184             warn("filter_read %d: skipped (filter deleted)\n", idx);
1185         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1186     }
1187     /* Get function pointer hidden within datasv        */
1188     funcp = (filter_t)IoDIRP(datasv);
1189     if (filter_debug)
1190         warn("filter_read %d: via function %p (%s)\n",
1191                 idx, funcp, SvPV(datasv,na));
1192     /* Call function. The function is expected to       */
1193     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1194     /* Return: <0:error, =0:eof, >0:not eof             */
1195     return (*funcp)(idx, buf_sv, maxlen);
1196 }
1197
1198 static char *
1199 filter_gets(sv,fp, append)
1200 register SV *sv;
1201 register PerlIO *fp;
1202 STRLEN append;
1203 {
1204     if (rsfp_filters) {
1205
1206         if (!append)
1207             SvCUR_set(sv, 0);   /* start with empty line        */
1208         if (FILTER_READ(0, sv, 0) > 0)
1209             return ( SvPVX(sv) ) ;
1210         else
1211             return Nullch ;
1212     }
1213     else
1214         return (sv_gets(sv, fp, append));
1215
1216 }
1217
1218
1219 #ifdef DEBUGGING
1220     static char* exp_name[] =
1221         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1222 #endif
1223
1224 EXT int yychar;         /* last token */
1225
1226 int
1227 yylex()
1228 {
1229     register char *s;
1230     register char *d;
1231     register I32 tmp;
1232     STRLEN len;
1233
1234     if (pending_ident) {
1235         char pit = pending_ident;
1236         pending_ident = 0;
1237
1238         if (in_my) {
1239             if (strchr(tokenbuf,':'))
1240                 croak(no_myglob,tokenbuf);
1241             yylval.opval = newOP(OP_PADANY, 0);
1242             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1243             return PRIVATEREF;
1244         }
1245
1246         if (!strchr(tokenbuf,':') && (tmp = pad_findmy(tokenbuf))) {
1247             if (last_lop_op == OP_SORT &&
1248                 tokenbuf[0] == '$' &&
1249                 (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1250                 && !tokenbuf[2])
1251             {
1252                 for (d = in_eval ? oldoldbufptr : linestart;
1253                      d < bufend && *d != '\n';
1254                      d++)
1255                 {
1256                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1257                         croak("Can't use \"my %s\" in sort comparison",
1258                               tokenbuf);
1259                     }
1260                 }
1261             }
1262
1263             yylval.opval = newOP(OP_PADANY, 0);
1264             yylval.opval->op_targ = tmp;
1265             return PRIVATEREF;
1266         }
1267
1268         /* Force them to make up their mind on "@foo". */
1269         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1270             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1271             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv))) {
1272                 char tmpbuf[1024];
1273                 sprintf(tmpbuf, "In string, %s now must be written as \\%s",
1274                         tokenbuf, tokenbuf);
1275                 yyerror(tmpbuf);
1276             }
1277         }
1278
1279         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1280         yylval.opval->op_private = OPpCONST_ENTERED;
1281         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1282                    ((tokenbuf[0] == '$') ? SVt_PV
1283                     : (tokenbuf[0] == '@') ? SVt_PVAV
1284                     : SVt_PVHV));
1285         return WORD;
1286     }
1287
1288     switch (lex_state) {
1289 #ifdef COMMENTARY
1290     case LEX_NORMAL:            /* Some compilers will produce faster */
1291     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1292         break;
1293 #endif
1294
1295     case LEX_KNOWNEXT:
1296         nexttoke--;
1297         yylval = nextval[nexttoke];
1298         if (!nexttoke) {
1299             lex_state = lex_defer;
1300             expect = lex_expect;
1301             lex_defer = LEX_NORMAL;
1302         }
1303         return(nexttype[nexttoke]);
1304
1305     case LEX_INTERPCASEMOD:
1306 #ifdef DEBUGGING
1307         if (bufptr != bufend && *bufptr != '\\')
1308             croak("panic: INTERPCASEMOD");
1309 #endif
1310         if (bufptr == bufend || bufptr[1] == 'E') {
1311             char oldmod;
1312             if (lex_casemods) {
1313                 oldmod = lex_casestack[--lex_casemods];
1314                 lex_casestack[lex_casemods] = '\0';
1315                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1316                     bufptr += 2;
1317                     lex_state = LEX_INTERPCONCAT;
1318                 }
1319                 return ')';
1320             }
1321             if (bufptr != bufend)
1322                 bufptr += 2;
1323             lex_state = LEX_INTERPCONCAT;
1324             return yylex();
1325         }
1326         else {
1327             s = bufptr + 1;
1328             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1329                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1330             if (strchr("LU", *s) &&
1331                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1332             {
1333                 lex_casestack[--lex_casemods] = '\0';
1334                 return ')';
1335             }
1336             if (lex_casemods > 10) {
1337                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1338                 if (newlb != lex_casestack) {
1339                     SAVEFREEPV(newlb);
1340                     lex_casestack = newlb;
1341                 }
1342             }
1343             lex_casestack[lex_casemods++] = *s;
1344             lex_casestack[lex_casemods] = '\0';
1345             lex_state = LEX_INTERPCONCAT;
1346             nextval[nexttoke].ival = 0;
1347             force_next('(');
1348             if (*s == 'l')
1349                 nextval[nexttoke].ival = OP_LCFIRST;
1350             else if (*s == 'u')
1351                 nextval[nexttoke].ival = OP_UCFIRST;
1352             else if (*s == 'L')
1353                 nextval[nexttoke].ival = OP_LC;
1354             else if (*s == 'U')
1355                 nextval[nexttoke].ival = OP_UC;
1356             else if (*s == 'Q')
1357                 nextval[nexttoke].ival = OP_QUOTEMETA;
1358             else
1359                 croak("panic: yylex");
1360             bufptr = s + 1;
1361             force_next(FUNC);
1362             if (lex_starts) {
1363                 s = bufptr;
1364                 lex_starts = 0;
1365                 Aop(OP_CONCAT);
1366             }
1367             else
1368                 return yylex();
1369         }
1370
1371     case LEX_INTERPPUSH:
1372         return sublex_push();
1373
1374     case LEX_INTERPSTART:
1375         if (bufptr == bufend)
1376             return sublex_done();
1377         expect = XTERM;
1378         lex_dojoin = (*bufptr == '@');
1379         lex_state = LEX_INTERPNORMAL;
1380         if (lex_dojoin) {
1381             nextval[nexttoke].ival = 0;
1382             force_next(',');
1383             force_ident("\"", '$');
1384             nextval[nexttoke].ival = 0;
1385             force_next('$');
1386             nextval[nexttoke].ival = 0;
1387             force_next('(');
1388             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1389             force_next(FUNC);
1390         }
1391         if (lex_starts++) {
1392             s = bufptr;
1393             Aop(OP_CONCAT);
1394         }
1395         return yylex();
1396
1397     case LEX_INTERPENDMAYBE:
1398         if (intuit_more(bufptr)) {
1399             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1400             break;
1401         }
1402         /* FALL THROUGH */
1403
1404     case LEX_INTERPEND:
1405         if (lex_dojoin) {
1406             lex_dojoin = FALSE;
1407             lex_state = LEX_INTERPCONCAT;
1408             return ')';
1409         }
1410         /* FALLTHROUGH */
1411     case LEX_INTERPCONCAT:
1412 #ifdef DEBUGGING
1413         if (lex_brackets)
1414             croak("panic: INTERPCONCAT");
1415 #endif
1416         if (bufptr == bufend)
1417             return sublex_done();
1418
1419         if (SvIVX(linestr) == '\'') {
1420             SV *sv = newSVsv(linestr);
1421             if (!lex_inpat)
1422                 sv = q(sv);
1423             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1424             s = bufend;
1425         }
1426         else {
1427             s = scan_const(bufptr);
1428             if (*s == '\\')
1429                 lex_state = LEX_INTERPCASEMOD;
1430             else
1431                 lex_state = LEX_INTERPSTART;
1432         }
1433
1434         if (s != bufptr) {
1435             nextval[nexttoke] = yylval;
1436             expect = XTERM;
1437             force_next(THING);
1438             if (lex_starts++)
1439                 Aop(OP_CONCAT);
1440             else {
1441                 bufptr = s;
1442                 return yylex();
1443             }
1444         }
1445
1446         return yylex();
1447     case LEX_FORMLINE:
1448         lex_state = LEX_NORMAL;
1449         s = scan_formline(bufptr);
1450         if (!lex_formbrack)
1451             goto rightbracket;
1452         OPERATOR(';');
1453     }
1454
1455     s = bufptr;
1456     oldoldbufptr = oldbufptr;
1457     oldbufptr = s;
1458     DEBUG_p( {
1459         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1460     } )
1461
1462   retry:
1463     switch (*s) {
1464     default:
1465         croak("Unrecognized character \\%03o", *s & 255);
1466     case 4:
1467     case 26:
1468         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1469     case 0:
1470         if (!rsfp) {
1471             last_uni = 0;
1472             last_lop = 0;
1473             if (lex_brackets)
1474                 yyerror("Missing right bracket");
1475             TOKEN(0);
1476         }
1477         if (s++ < bufend)
1478             goto retry;                 /* ignore stray nulls */
1479         last_uni = 0;
1480         last_lop = 0;
1481         if (!in_eval && !preambled) {
1482             preambled = TRUE;
1483             sv_setpv(linestr,incl_perldb());
1484             if (SvCUR(linestr))
1485                 sv_catpv(linestr,";");
1486             if (preambleav){
1487                 while(AvFILL(preambleav) >= 0) {
1488                     SV *tmpsv = av_shift(preambleav);
1489                     sv_catsv(linestr, tmpsv);
1490                     sv_catpv(linestr, ";");
1491                     sv_free(tmpsv);
1492                 }
1493                 sv_free((SV*)preambleav);
1494                 preambleav = NULL;
1495             }
1496             if (minus_n || minus_p) {
1497                 sv_catpv(linestr, "LINE: while (<>) {");
1498                 if (minus_l)
1499                     sv_catpv(linestr,"chomp;");
1500                 if (minus_a) {
1501                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1502                     if (gv)
1503                         GvIMPORTED_AV_on(gv);
1504                     if (minus_F) {
1505                         char *tmpbuf1;
1506                         New(201, tmpbuf1, strlen(splitstr) * 2 + 20, char);
1507                         if (strchr("/'\"", *splitstr)
1508                               && strchr(splitstr + 1, *splitstr))
1509                             sprintf(tmpbuf1, "@F=split(%s);", splitstr);
1510                         else {
1511                             char delim;
1512                             s = "'~#\200\1'"; /* surely one char is unused...*/
1513                             while (s[1] && strchr(splitstr, *s))  s++;
1514                             delim = *s;
1515                             sprintf(tmpbuf1, "@F=split(%s%c",
1516                                     "q" + (delim == '\''), delim);
1517                             d = tmpbuf1 + strlen(tmpbuf1);
1518                             for (s = splitstr; *s; ) {
1519                                 if (*s == '\\')
1520                                     *d++ = '\\';
1521                                 *d++ = *s++;
1522                             }
1523                             sprintf(d, "%c);", delim);
1524                         }
1525                         sv_catpv(linestr,tmpbuf1);
1526                         Safefree(tmpbuf1);
1527                     }
1528                     else
1529                         sv_catpv(linestr,"@F=split(' ');");
1530                 }
1531             }
1532             sv_catpv(linestr, "\n");
1533             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1534             bufend = SvPVX(linestr) + SvCUR(linestr);
1535             if (perldb && curstash != debstash) {
1536                 SV *sv = NEWSV(85,0);
1537
1538                 sv_upgrade(sv, SVt_PVMG);
1539                 sv_setsv(sv,linestr);
1540                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1541             }
1542             goto retry;
1543         }
1544         do {
1545             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1546               fake_eof:
1547                 if (rsfp) {
1548                     if (preprocess && !in_eval)
1549                         (void)my_pclose(rsfp);
1550                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1551                         PerlIO_clearerr(rsfp);
1552                     else
1553                         (void)PerlIO_close(rsfp);
1554                     rsfp = Nullfp;
1555                 }
1556                 if (!in_eval && (minus_n || minus_p)) {
1557                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1558                     sv_catpv(linestr,";}");
1559                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1560                     bufend = SvPVX(linestr) + SvCUR(linestr);
1561                     minus_n = minus_p = 0;
1562                     goto retry;
1563                 }
1564                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1565                 sv_setpv(linestr,"");
1566                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1567             }
1568             if (doextract) {
1569                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1570                     doextract = FALSE;
1571
1572                 /* Incest with pod. */
1573                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1574                     sv_setpv(linestr, "");
1575                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1576                     bufend = SvPVX(linestr) + SvCUR(linestr);
1577                     doextract = FALSE;
1578                 }
1579             }
1580             incline(s);
1581         } while (doextract);
1582         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1583         if (perldb && curstash != debstash) {
1584             SV *sv = NEWSV(85,0);
1585
1586             sv_upgrade(sv, SVt_PVMG);
1587             sv_setsv(sv,linestr);
1588             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1589         }
1590         bufend = SvPVX(linestr) + SvCUR(linestr);
1591         if (curcop->cop_line == 1) {
1592             while (s < bufend && isSPACE(*s))
1593                 s++;
1594             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1595                 s++;
1596             d = Nullch;
1597             if (!in_eval) {
1598                 if (*s == '#' && *(s+1) == '!')
1599                     d = s + 2;
1600 #ifdef ALTERNATE_SHEBANG
1601                 else {
1602                     static char as[] = ALTERNATE_SHEBANG;
1603                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1604                         d = s + (sizeof(as) - 1);
1605                 }
1606 #endif /* ALTERNATE_SHEBANG */
1607             }
1608             if (d) {
1609                 char *ipath;
1610                 char *ipathend;
1611
1612                 while (isSPACE(*d))
1613                     d++;
1614                 ipath = d;
1615                 while (*d && !isSPACE(*d))
1616                     d++;
1617                 ipathend = d;
1618
1619 #ifdef ARG_ZERO_IS_SCRIPT
1620                 if (ipathend > ipath) {
1621                     /*
1622                      * HP-UX (at least) sets argv[0] to the script name,
1623                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1624                      * at least, set argv[0] to the basename of the Perl
1625                      * interpreter. So, having found "#!", we'll set it right.
1626                      */
1627                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1628                     assert(SvPOK(x) || SvGMAGICAL(x));
1629                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1630                         sv_setpvn(x, ipath, ipathend - ipath);
1631                         SvSETMAGIC(x);
1632                     }
1633                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1634                 }
1635 #endif /* ARG_ZERO_IS_SCRIPT */
1636
1637                 /*
1638                  * Look for options.
1639                  */
1640                 d = instr(s,"perl -");
1641                 if (!d)
1642                     d = instr(s,"perl");
1643 #ifdef ALTERNATE_SHEBANG
1644                 /*
1645                  * If the ALTERNATE_SHEBANG on this system starts with a
1646                  * character that can be part of a Perl expression, then if
1647                  * we see it but not "perl", we're probably looking at the
1648                  * start of Perl code, not a request to hand off to some
1649                  * other interpreter.  Similarly, if "perl" is there, but
1650                  * not in the first 'word' of the line, we assume the line
1651                  * contains the start of the Perl program.
1652                  */
1653                 if (d && *s != '#') {
1654                     char *c = ipath;
1655                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1656                         c++;
1657                     if (c < d)
1658                         d = Nullch;     /* "perl" not in first word; ignore */
1659                     else
1660                         *s = '#';       /* Don't try to parse shebang line */
1661                 }
1662 #endif /* ALTERNATE_SHEBANG */
1663                 if (!d &&
1664                     *s == '#' &&
1665                     ipathend > ipath &&
1666                     !minus_c &&
1667                     !instr(s,"indir") &&
1668                     instr(origargv[0],"perl"))
1669                 {
1670                     char **newargv;
1671
1672                     *ipathend = '\0';
1673                     s = ipathend + 1;
1674                     while (s < bufend && isSPACE(*s))
1675                         s++;
1676                     if (s < bufend) {
1677                         Newz(899,newargv,origargc+3,char*);
1678                         newargv[1] = s;
1679                         while (s < bufend && !isSPACE(*s))
1680                             s++;
1681                         *s = '\0';
1682                         Copy(origargv+1, newargv+2, origargc+1, char*);
1683                     }
1684                     else
1685                         newargv = origargv;
1686                     newargv[0] = ipath;
1687                     execv(ipath, newargv);
1688                     croak("Can't exec %s", ipath);
1689                 }
1690                 if (d) {
1691                     U32 oldpdb = perldb;
1692                     bool oldn = minus_n;
1693                     bool oldp = minus_p;
1694
1695                     while (*d && !isSPACE(*d)) d++;
1696                     while (*d == ' ' || *d == '\t') d++;
1697
1698                     if (*d++ == '-') {
1699                         do {
1700                             if (*d == 'M' || *d == 'm') {
1701                                 char *m = d;
1702                                 while (*d && !isSPACE(*d)) d++;
1703                                 croak("Too late for \"-%.*s\" option",
1704                                       (int)(d - m), m);
1705                             }
1706                             d = moreswitches(d);
1707                         } while (d);
1708                         if (perldb && !oldpdb ||
1709                             ( minus_n || minus_p ) && !(oldn || oldp) )
1710                               /* if we have already added "LINE: while (<>) {",
1711                                  we must not do it again */
1712                         {
1713                             sv_setpv(linestr, "");
1714                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1715                             bufend = SvPVX(linestr) + SvCUR(linestr);
1716                             preambled = FALSE;
1717                             if (perldb)
1718                                 (void)gv_fetchfile(origfilename);
1719                             goto retry;
1720                         }
1721                     }
1722                 }
1723             }
1724         }
1725         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1726             bufptr = s;
1727             lex_state = LEX_FORMLINE;
1728             return yylex();
1729         }
1730         goto retry;
1731     case '\r':
1732         warn("Illegal character \\%03o (carriage return)", '\r');
1733         croak(
1734       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1735     case ' ': case '\t': case '\f': case 013:
1736         s++;
1737         goto retry;
1738     case '#':
1739     case '\n':
1740         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1741             d = bufend;
1742             while (s < d && *s != '\n')
1743                 s++;
1744             if (s < d)
1745                 s++;
1746             incline(s);
1747             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1748                 bufptr = s;
1749                 lex_state = LEX_FORMLINE;
1750                 return yylex();
1751             }
1752         }
1753         else {
1754             *s = '\0';
1755             bufend = s;
1756         }
1757         goto retry;
1758     case '-':
1759         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1760             s++;
1761             bufptr = s;
1762             tmp = *s++;
1763
1764             while (s < bufend && (*s == ' ' || *s == '\t'))
1765                 s++;
1766
1767             if (strnEQ(s,"=>",2)) {
1768                 if (dowarn)
1769                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1770                         (int)tmp, (int)tmp);
1771                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1772                 OPERATOR('-');          /* unary minus */
1773             }
1774             last_uni = oldbufptr;
1775             last_lop_op = OP_FTEREAD;   /* good enough */
1776             switch (tmp) {
1777             case 'r': FTST(OP_FTEREAD);
1778             case 'w': FTST(OP_FTEWRITE);
1779             case 'x': FTST(OP_FTEEXEC);
1780             case 'o': FTST(OP_FTEOWNED);
1781             case 'R': FTST(OP_FTRREAD);
1782             case 'W': FTST(OP_FTRWRITE);
1783             case 'X': FTST(OP_FTREXEC);
1784             case 'O': FTST(OP_FTROWNED);
1785             case 'e': FTST(OP_FTIS);
1786             case 'z': FTST(OP_FTZERO);
1787             case 's': FTST(OP_FTSIZE);
1788             case 'f': FTST(OP_FTFILE);
1789             case 'd': FTST(OP_FTDIR);
1790             case 'l': FTST(OP_FTLINK);
1791             case 'p': FTST(OP_FTPIPE);
1792             case 'S': FTST(OP_FTSOCK);
1793             case 'u': FTST(OP_FTSUID);
1794             case 'g': FTST(OP_FTSGID);
1795             case 'k': FTST(OP_FTSVTX);
1796             case 'b': FTST(OP_FTBLK);
1797             case 'c': FTST(OP_FTCHR);
1798             case 't': FTST(OP_FTTTY);
1799             case 'T': FTST(OP_FTTEXT);
1800             case 'B': FTST(OP_FTBINARY);
1801             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1802             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1803             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1804             default:
1805                 croak("Unrecognized file test: -%c", (int)tmp);
1806                 break;
1807             }
1808         }
1809         tmp = *s++;
1810         if (*s == tmp) {
1811             s++;
1812             if (expect == XOPERATOR)
1813                 TERM(POSTDEC);
1814             else
1815                 OPERATOR(PREDEC);
1816         }
1817         else if (*s == '>') {
1818             s++;
1819             s = skipspace(s);
1820             if (isIDFIRST(*s)) {
1821                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1822                 TOKEN(ARROW);
1823             }
1824             else if (*s == '$')
1825                 OPERATOR(ARROW);
1826             else
1827                 TERM(ARROW);
1828         }
1829         if (expect == XOPERATOR)
1830             Aop(OP_SUBTRACT);
1831         else {
1832             if (isSPACE(*s) || !isSPACE(*bufptr))
1833                 check_uni();
1834             OPERATOR('-');              /* unary minus */
1835         }
1836
1837     case '+':
1838         tmp = *s++;
1839         if (*s == tmp) {
1840             s++;
1841             if (expect == XOPERATOR)
1842                 TERM(POSTINC);
1843             else
1844                 OPERATOR(PREINC);
1845         }
1846         if (expect == XOPERATOR)
1847             Aop(OP_ADD);
1848         else {
1849             if (isSPACE(*s) || !isSPACE(*bufptr))
1850                 check_uni();
1851             OPERATOR('+');
1852         }
1853
1854     case '*':
1855         if (expect != XOPERATOR) {
1856             s = scan_ident(s, bufend, tokenbuf, TRUE);
1857             expect = XOPERATOR;
1858             force_ident(tokenbuf, '*');
1859             if (!*tokenbuf)
1860                 PREREF('*');
1861             TERM('*');
1862         }
1863         s++;
1864         if (*s == '*') {
1865             s++;
1866             PWop(OP_POW);
1867         }
1868         Mop(OP_MULTIPLY);
1869
1870     case '%':
1871         if (expect == XOPERATOR) {
1872             ++s;
1873             Mop(OP_MODULO);
1874         }
1875         tokenbuf[0] = '%';
1876         s = scan_ident(s, bufend, tokenbuf+1, TRUE);
1877         if (!tokenbuf[1]) {
1878             if (s == bufend)
1879                 yyerror("Final % should be \\% or %name");
1880             PREREF('%');
1881         }
1882         pending_ident = '%';
1883         TERM('%');
1884
1885     case '^':
1886         s++;
1887         BOop(OP_BIT_XOR);
1888     case '[':
1889         lex_brackets++;
1890         /* FALL THROUGH */
1891     case '~':
1892     case ',':
1893         tmp = *s++;
1894         OPERATOR(tmp);
1895     case ':':
1896         if (s[1] == ':') {
1897             len = 0;
1898             goto just_a_word;
1899         }
1900         s++;
1901         OPERATOR(':');
1902     case '(':
1903         s++;
1904         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1905             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1906         else
1907             expect = XTERM;
1908         TOKEN('(');
1909     case ';':
1910         if (curcop->cop_line < copline)
1911             copline = curcop->cop_line;
1912         tmp = *s++;
1913         OPERATOR(tmp);
1914     case ')':
1915         tmp = *s++;
1916         s = skipspace(s);
1917         if (*s == '{')
1918             PREBLOCK(tmp);
1919         TERM(tmp);
1920     case ']':
1921         s++;
1922         if (lex_brackets <= 0)
1923             yyerror("Unmatched right bracket");
1924         else
1925             --lex_brackets;
1926         if (lex_state == LEX_INTERPNORMAL) {
1927             if (lex_brackets == 0) {
1928                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1929                     lex_state = LEX_INTERPEND;
1930             }
1931         }
1932         TERM(']');
1933     case '{':
1934       leftbracket:
1935         s++;
1936         if (lex_brackets > 100) {
1937             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1938             if (newlb != lex_brackstack) {
1939                 SAVEFREEPV(newlb);
1940                 lex_brackstack = newlb;
1941             }
1942         }
1943         switch (expect) {
1944         case XTERM:
1945             if (lex_formbrack) {
1946                 s--;
1947                 PRETERMBLOCK(DO);
1948             }
1949             if (oldoldbufptr == last_lop)
1950                 lex_brackstack[lex_brackets++] = XTERM;
1951             else
1952                 lex_brackstack[lex_brackets++] = XOPERATOR;
1953             OPERATOR(HASHBRACK);
1954         case XOPERATOR:
1955             while (s < bufend && (*s == ' ' || *s == '\t'))
1956                 s++;
1957             d = s;
1958             tokenbuf[0] = '\0';
1959             if (d < bufend && *d == '-') {
1960                 tokenbuf[0] = '-';
1961                 d++;
1962                 while (d < bufend && (*d == ' ' || *d == '\t'))
1963                     d++;
1964             }
1965             if (d < bufend && isIDFIRST(*d)) {
1966                 d = scan_word(d, tokenbuf + 1, FALSE, &len);
1967                 while (d < bufend && (*d == ' ' || *d == '\t'))
1968                     d++;
1969                 if (*d == '}') {
1970                     char minus = (tokenbuf[0] == '-');
1971                     if (dowarn &&
1972                         (keyword(tokenbuf + 1, len) ||
1973                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
1974                          perl_get_cv(tokenbuf + 1, FALSE) ))
1975                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1976                              tokenbuf + !minus, tokenbuf + !minus);
1977                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
1978                     if (minus)
1979                         force_next('-');
1980                 }
1981             }
1982             /* FALL THROUGH */
1983         case XBLOCK:
1984             lex_brackstack[lex_brackets++] = XSTATE;
1985             expect = XSTATE;
1986             break;
1987         case XTERMBLOCK:
1988             lex_brackstack[lex_brackets++] = XOPERATOR;
1989             expect = XSTATE;
1990             break;
1991         default: {
1992                 char *t;
1993                 if (oldoldbufptr == last_lop)
1994                     lex_brackstack[lex_brackets++] = XTERM;
1995                 else
1996                     lex_brackstack[lex_brackets++] = XOPERATOR;
1997                 s = skipspace(s);
1998                 if (*s == '}')
1999                     OPERATOR(HASHBRACK);
2000                 if (isALPHA(*s)) {
2001                     for (t = s; t < bufend && isALNUM(*t); t++) ;
2002                 }
2003                 else if (*s == '\'' || *s == '"') {
2004                     t = strchr(s+1,*s);
2005                     if (!t++)
2006                         t = s;
2007                 }
2008                 else
2009                     t = s;
2010                 while (t < bufend && isSPACE(*t))
2011                     t++;
2012                 if ((*t == ',' && !isLOWER(*s)) || (*t == '=' && t[1] == '>'))
2013                     OPERATOR(HASHBRACK);
2014                 if (expect == XREF)
2015                     expect = XTERM;
2016                 else {
2017                     lex_brackstack[lex_brackets-1] = XSTATE;
2018                     expect = XSTATE;
2019                 }
2020             }
2021             break;
2022         }
2023         yylval.ival = curcop->cop_line;
2024         if (isSPACE(*s) || *s == '#')
2025             copline = NOLINE;   /* invalidate current command line number */
2026         TOKEN('{');
2027     case '}':
2028       rightbracket:
2029         s++;
2030         if (lex_brackets <= 0)
2031             yyerror("Unmatched right bracket");
2032         else
2033             expect = (expectation)lex_brackstack[--lex_brackets];
2034         if (lex_brackets < lex_formbrack)
2035             lex_formbrack = 0;
2036         if (lex_state == LEX_INTERPNORMAL) {
2037             if (lex_brackets == 0) {
2038                 if (lex_fakebrack) {
2039                     lex_state = LEX_INTERPEND;
2040                     bufptr = s;
2041                     return yylex();             /* ignore fake brackets */
2042                 }
2043                 if (*s == '-' && s[1] == '>')
2044                     lex_state = LEX_INTERPENDMAYBE;
2045                 else if (*s != '[' && *s != '{')
2046                     lex_state = LEX_INTERPEND;
2047             }
2048         }
2049         if (lex_brackets < lex_fakebrack) {
2050             bufptr = s;
2051             lex_fakebrack = 0;
2052             return yylex();             /* ignore fake brackets */
2053         }
2054         force_next('}');
2055         TOKEN(';');
2056     case '&':
2057         s++;
2058         tmp = *s++;
2059         if (tmp == '&')
2060             AOPERATOR(ANDAND);
2061         s--;
2062         if (expect == XOPERATOR) {
2063             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2064                 curcop->cop_line--;
2065                 warn(warn_nosemi);
2066                 curcop->cop_line++;
2067             }
2068             BAop(OP_BIT_AND);
2069         }
2070
2071         s = scan_ident(s-1, bufend, tokenbuf, TRUE);
2072         if (*tokenbuf) {
2073             expect = XOPERATOR;
2074             force_ident(tokenbuf, '&');
2075         }
2076         else
2077             PREREF('&');
2078         yylval.ival = (OPpENTERSUB_AMPER<<8);
2079         TERM('&');
2080
2081     case '|':
2082         s++;
2083         tmp = *s++;
2084         if (tmp == '|')
2085             AOPERATOR(OROR);
2086         s--;
2087         BOop(OP_BIT_OR);
2088     case '=':
2089         s++;
2090         tmp = *s++;
2091         if (tmp == '=')
2092             Eop(OP_EQ);
2093         if (tmp == '>')
2094             OPERATOR(',');
2095         if (tmp == '~')
2096             PMop(OP_MATCH);
2097         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2098             warn("Reversed %c= operator",(int)tmp);
2099         s--;
2100         if (expect == XSTATE && isALPHA(tmp) &&
2101                 (s == linestart+1 || s[-2] == '\n') )
2102         {
2103             if (in_eval && !rsfp) {
2104                 d = bufend;
2105                 while (s < d) {
2106                     if (*s++ == '\n') {
2107                         incline(s);
2108                         if (strnEQ(s,"=cut",4)) {
2109                             s = strchr(s,'\n');
2110                             if (s)
2111                                 s++;
2112                             else
2113                                 s = d;
2114                             incline(s);
2115                             goto retry;
2116                         }
2117                     }
2118                 }
2119                 goto retry;
2120             }
2121             s = bufend;
2122             doextract = TRUE;
2123             goto retry;
2124         }
2125         if (lex_brackets < lex_formbrack) {
2126             char *t;
2127             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2128             if (*t == '\n' || *t == '#') {
2129                 s--;
2130                 expect = XBLOCK;
2131                 goto leftbracket;
2132             }
2133         }
2134         yylval.ival = 0;
2135         OPERATOR(ASSIGNOP);
2136     case '!':
2137         s++;
2138         tmp = *s++;
2139         if (tmp == '=')
2140             Eop(OP_NE);
2141         if (tmp == '~')
2142             PMop(OP_NOT);
2143         s--;
2144         OPERATOR('!');
2145     case '<':
2146         if (expect != XOPERATOR) {
2147             if (s[1] != '<' && !strchr(s,'>'))
2148                 check_uni();
2149             if (s[1] == '<')
2150                 s = scan_heredoc(s);
2151             else
2152                 s = scan_inputsymbol(s);
2153             TERM(sublex_start());
2154         }
2155         s++;
2156         tmp = *s++;
2157         if (tmp == '<')
2158             SHop(OP_LEFT_SHIFT);
2159         if (tmp == '=') {
2160             tmp = *s++;
2161             if (tmp == '>')
2162                 Eop(OP_NCMP);
2163             s--;
2164             Rop(OP_LE);
2165         }
2166         s--;
2167         Rop(OP_LT);
2168     case '>':
2169         s++;
2170         tmp = *s++;
2171         if (tmp == '>')
2172             SHop(OP_RIGHT_SHIFT);
2173         if (tmp == '=')
2174             Rop(OP_GE);
2175         s--;
2176         Rop(OP_GT);
2177
2178     case '$':
2179         CLINE;
2180
2181         if (expect == XOPERATOR) {
2182             if (lex_formbrack && lex_brackets == lex_formbrack) {
2183                 expect = XTERM;
2184                 depcom();
2185                 return ','; /* grandfather non-comma-format format */
2186             }
2187         }
2188
2189         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2190             if (expect == XOPERATOR)
2191                 no_op("Array length", bufptr);
2192             tokenbuf[0] = '@';
2193             s = scan_ident(s+1, bufend, tokenbuf+1, FALSE);
2194             if (!tokenbuf[1])
2195                 PREREF(DOLSHARP);
2196             expect = XOPERATOR;
2197             pending_ident = '#';
2198             TOKEN(DOLSHARP);
2199         }
2200
2201         if (expect == XOPERATOR)
2202             no_op("Scalar", bufptr);
2203         tokenbuf[0] = '$';
2204         s = scan_ident(s, bufend, tokenbuf+1, FALSE);
2205         if (!tokenbuf[1]) {
2206             if (s == bufend)
2207                 yyerror("Final $ should be \\$ or $name");
2208             PREREF('$');
2209         }
2210
2211         /* This kludge not intended to be bulletproof. */
2212         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2213             yylval.opval = newSVOP(OP_CONST, 0,
2214                                    newSViv((IV)compiling.cop_arybase));
2215             yylval.opval->op_private = OPpCONST_ARYBASE;
2216             TERM(THING);
2217         }
2218
2219         d = s;
2220         if (lex_state == LEX_NORMAL)
2221             s = skipspace(s);
2222
2223         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2224             char *t;
2225             if (*s == '[') {
2226                 tokenbuf[0] = '@';
2227                 if (dowarn) {
2228                     for(t = s + 1;
2229                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2230                         t++) ;
2231                     if (*t++ == ',') {
2232                         bufptr = skipspace(bufptr);
2233                         while (t < bufend && *t != ']')
2234                             t++;
2235                         warn("Multidimensional syntax %.*s not supported",
2236                              (t - bufptr) + 1, bufptr);
2237                     }
2238                 }
2239             }
2240             else if (*s == '{') {
2241                 tokenbuf[0] = '%';
2242                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2243                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2244                 {
2245                     char tmpbuf[1024];
2246                     STRLEN len;
2247                     for (t++; isSPACE(*t); t++) ;
2248                     if (isIDFIRST(*t)) {
2249                         t = scan_word(t, tmpbuf, TRUE, &len);
2250                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2251                             warn("You need to quote \"%s\"", tmpbuf);
2252                     }
2253                 }
2254             }
2255         }
2256
2257         expect = XOPERATOR;
2258         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2259             bool islop = (last_lop == oldoldbufptr);
2260             if (!islop || last_lop_op == OP_GREPSTART)
2261                 expect = XOPERATOR;
2262             else if (strchr("$@\"'`q", *s))
2263                 expect = XTERM;         /* e.g. print $fh "foo" */
2264             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2265                 expect = XTERM;         /* e.g. print $fh &sub */
2266             else if (isIDFIRST(*s)) {
2267                 char tmpbuf[1024];
2268                 scan_word(s, tmpbuf, TRUE, &len);
2269                 if (keyword(tmpbuf, len))
2270                     expect = XTERM;     /* e.g. print $fh length() */
2271                 else {
2272                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2273                     if (gv && GvCVu(gv))
2274                         expect = XTERM; /* e.g. print $fh subr() */
2275                 }
2276             }
2277             else if (isDIGIT(*s))
2278                 expect = XTERM;         /* e.g. print $fh 3 */
2279             else if (*s == '.' && isDIGIT(s[1]))
2280                 expect = XTERM;         /* e.g. print $fh .3 */
2281             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2282                 expect = XTERM;         /* e.g. print $fh -1 */
2283             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2284                 expect = XTERM;         /* print $fh <<"EOF" */
2285         }
2286         pending_ident = '$';
2287         TOKEN('$');
2288
2289     case '@':
2290         if (expect == XOPERATOR)
2291             no_op("Array", s);
2292         tokenbuf[0] = '@';
2293         s = scan_ident(s, bufend, tokenbuf+1, FALSE);
2294         if (!tokenbuf[1]) {
2295             if (s == bufend)
2296                 yyerror("Final @ should be \\@ or @name");
2297             PREREF('@');
2298         }
2299         if (lex_state == LEX_NORMAL)
2300             s = skipspace(s);
2301         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2302             if (*s == '{')
2303                 tokenbuf[0] = '%';
2304
2305             /* Warn about @ where they meant $. */
2306             if (dowarn) {
2307                 if (*s == '[' || *s == '{') {
2308                     char *t = s + 1;
2309                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2310                         t++;
2311                     if (*t == '}' || *t == ']') {
2312                         t++;
2313                         bufptr = skipspace(bufptr);
2314                         warn("Scalar value %.*s better written as $%.*s",
2315                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2316                     }
2317                 }
2318             }
2319         }
2320         pending_ident = '@';
2321         TERM('@');
2322
2323     case '/':                   /* may either be division or pattern */
2324     case '?':                   /* may either be conditional or pattern */
2325         if (expect != XOPERATOR) {
2326             check_uni();
2327             s = scan_pat(s);
2328             TERM(sublex_start());
2329         }
2330         tmp = *s++;
2331         if (tmp == '/')
2332             Mop(OP_DIVIDE);
2333         OPERATOR(tmp);
2334
2335     case '.':
2336         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2337                 (s == linestart || s[-1] == '\n') ) {
2338             lex_formbrack = 0;
2339             expect = XSTATE;
2340             goto rightbracket;
2341         }
2342         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2343             tmp = *s++;
2344             if (*s == tmp) {
2345                 s++;
2346                 if (*s == tmp) {
2347                     s++;
2348                     yylval.ival = OPf_SPECIAL;
2349                 }
2350                 else
2351                     yylval.ival = 0;
2352                 OPERATOR(DOTDOT);
2353             }
2354             if (expect != XOPERATOR)
2355                 check_uni();
2356             Aop(OP_CONCAT);
2357         }
2358         /* FALL THROUGH */
2359     case '0': case '1': case '2': case '3': case '4':
2360     case '5': case '6': case '7': case '8': case '9':
2361         s = scan_num(s);
2362         if (expect == XOPERATOR)
2363             no_op("Number",s);
2364         TERM(THING);
2365
2366     case '\'':
2367         s = scan_str(s);
2368         if (expect == XOPERATOR) {
2369             if (lex_formbrack && lex_brackets == lex_formbrack) {
2370                 expect = XTERM;
2371                 depcom();
2372                 return ',';     /* grandfather non-comma-format format */
2373             }
2374             else
2375                 no_op("String",s);
2376         }
2377         if (!s)
2378             missingterm((char*)0);
2379         yylval.ival = OP_CONST;
2380         TERM(sublex_start());
2381
2382     case '"':
2383         s = scan_str(s);
2384         if (expect == XOPERATOR) {
2385             if (lex_formbrack && lex_brackets == lex_formbrack) {
2386                 expect = XTERM;
2387                 depcom();
2388                 return ',';     /* grandfather non-comma-format format */
2389             }
2390             else
2391                 no_op("String",s);
2392         }
2393         if (!s)
2394             missingterm((char*)0);
2395         yylval.ival = OP_CONST;
2396         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2397             if (*d == '$' || *d == '@' || *d == '\\') {
2398                 yylval.ival = OP_STRINGIFY;
2399                 break;
2400             }
2401         }
2402         TERM(sublex_start());
2403
2404     case '`':
2405         s = scan_str(s);
2406         if (expect == XOPERATOR)
2407             no_op("Backticks",s);
2408         if (!s)
2409             missingterm((char*)0);
2410         yylval.ival = OP_BACKTICK;
2411         set_csh();
2412         TERM(sublex_start());
2413
2414     case '\\':
2415         s++;
2416         if (dowarn && lex_inwhat && isDIGIT(*s))
2417             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2418         if (expect == XOPERATOR)
2419             no_op("Backslash",s);
2420         OPERATOR(REFGEN);
2421
2422     case 'x':
2423         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2424             s++;
2425             Mop(OP_REPEAT);
2426         }
2427         goto keylookup;
2428
2429     case '_':
2430     case 'a': case 'A':
2431     case 'b': case 'B':
2432     case 'c': case 'C':
2433     case 'd': case 'D':
2434     case 'e': case 'E':
2435     case 'f': case 'F':
2436     case 'g': case 'G':
2437     case 'h': case 'H':
2438     case 'i': case 'I':
2439     case 'j': case 'J':
2440     case 'k': case 'K':
2441     case 'l': case 'L':
2442     case 'm': case 'M':
2443     case 'n': case 'N':
2444     case 'o': case 'O':
2445     case 'p': case 'P':
2446     case 'q': case 'Q':
2447     case 'r': case 'R':
2448     case 's': case 'S':
2449     case 't': case 'T':
2450     case 'u': case 'U':
2451     case 'v': case 'V':
2452     case 'w': case 'W':
2453               case 'X':
2454     case 'y': case 'Y':
2455     case 'z': case 'Z':
2456
2457       keylookup:
2458         bufptr = s;
2459         s = scan_word(s, tokenbuf, FALSE, &len);
2460
2461         /* Some keywords can be followed by any delimiter, including ':' */
2462         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2463                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2464                             (tokenbuf[0] == 'q' &&
2465                              strchr("qwx", tokenbuf[1]))));
2466
2467         /* x::* is just a word, unless x is "CORE" */
2468         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2469             goto just_a_word;
2470
2471         d = s;
2472         while (d < bufend && isSPACE(*d))
2473                 d++;    /* no comments skipped here, or s### is misparsed */
2474
2475         /* Is this a label? */
2476         if (!tmp && expect == XSTATE
2477               && d < bufend && *d == ':' && *(d + 1) != ':') {
2478             s = d + 1;
2479             yylval.pval = savepv(tokenbuf);
2480             CLINE;
2481             TOKEN(LABEL);
2482         }
2483
2484         /* Check for keywords */
2485         tmp = keyword(tokenbuf, len);
2486
2487         /* Is this a word before a => operator? */
2488         if (strnEQ(d,"=>",2)) {
2489             CLINE;
2490             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2491                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2492                         tokenbuf, tokenbuf);
2493             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2494             yylval.opval->op_private = OPpCONST_BARE;
2495             TERM(WORD);
2496         }
2497
2498         if (tmp < 0) {                  /* second-class keyword? */
2499             GV* gv;
2500             if (expect != XOPERATOR &&
2501                 (*s != ':' || s[1] != ':') &&
2502                 (gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2503                 GvIMPORTED_CV(gv))
2504             {
2505                 tmp = 0;
2506             }
2507             else
2508                 tmp = -tmp;
2509         }
2510
2511       reserved_word:
2512         switch (tmp) {
2513
2514         default:                        /* not a keyword */
2515           just_a_word: {
2516                 GV *gv;
2517                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2518
2519                 /* Get the rest if it looks like a package qualifier */
2520
2521                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2522                     s = scan_word(s, tokenbuf + len, TRUE, &len);
2523                     if (!len)
2524                         croak("Bad name after %s::", tokenbuf);
2525                 }
2526
2527                 if (expect == XOPERATOR) {
2528                     if (bufptr == linestart) {
2529                         curcop->cop_line--;
2530                         warn(warn_nosemi);
2531                         curcop->cop_line++;
2532                     }
2533                     else
2534                         no_op("Bareword",s);
2535                 }
2536
2537                 /* Look for a subroutine with this name in current package. */
2538
2539                 gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2540
2541                 /* Presume this is going to be a bareword of some sort. */
2542
2543                 CLINE;
2544                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2545                 yylval.opval->op_private = OPpCONST_BARE;
2546
2547                 /* See if it's the indirect object for a list operator. */
2548
2549                 if (oldoldbufptr &&
2550                     oldoldbufptr < bufptr &&
2551                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2552                     /* NO SKIPSPACE BEFORE HERE! */
2553                     (expect == XREF ||
2554                      (opargs[last_lop_op] >> OASHIFT & 7) == OA_FILEREF) )
2555                 {
2556                     bool immediate_paren = *s == '(';
2557
2558                     /* (Now we can afford to cross potential line boundary.) */
2559                     s = skipspace(s);
2560
2561                     /* Two barewords in a row may indicate method call. */
2562
2563                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2564                         return tmp;
2565
2566                     /* If not a declared subroutine, it's an indirect object. */
2567                     /* (But it's an indir obj regardless for sort.) */
2568
2569                     if ((last_lop_op == OP_SORT ||
2570                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2571                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2572                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2573                         goto bareword;
2574                     }
2575                 }
2576
2577                 /* If followed by a paren, it's certainly a subroutine. */
2578
2579                 expect = XOPERATOR;
2580                 s = skipspace(s);
2581                 if (*s == '(') {
2582                     CLINE;
2583                     nextval[nexttoke].opval = yylval.opval;
2584                     expect = XOPERATOR;
2585                     force_next(WORD);
2586                     yylval.ival = 0;
2587                     TOKEN('&');
2588                 }
2589
2590                 /* If followed by var or block, call it a method (unless sub) */
2591
2592                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2593                     last_lop = oldbufptr;
2594                     last_lop_op = OP_METHOD;
2595                     PREBLOCK(METHOD);
2596                 }
2597
2598                 /* If followed by a bareword, see if it looks like indir obj. */
2599
2600                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2601                     return tmp;
2602
2603                 /* Not a method, so call it a subroutine (if defined) */
2604
2605                 if (gv && GvCVu(gv)) {
2606                     CV* cv = GvCV(gv);
2607                     if (*s == '(') {
2608                         nextval[nexttoke].opval = yylval.opval;
2609                         expect = XTERM;
2610                         force_next(WORD);
2611                         yylval.ival = 0;
2612                         TOKEN('&');
2613                     }
2614                     if (lastchar == '-')
2615                         warn("Ambiguous use of -%s resolved as -&%s()",
2616                                 tokenbuf, tokenbuf);
2617                     last_lop = oldbufptr;
2618                     last_lop_op = OP_ENTERSUB;
2619                     /* Check for a constant sub */
2620                     {
2621                         SV *sv = cv_const_sv(cv);
2622                         if (sv) {
2623                             SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2624                             ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2625                             yylval.opval->op_private = 0;
2626                             TOKEN(WORD);
2627                         }
2628                     }
2629
2630                     /* Resolve to GV now. */
2631                     op_free(yylval.opval);
2632                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2633                     /* Is there a prototype? */
2634                     if (SvPOK(cv)) {
2635                         STRLEN len;
2636                         char *proto = SvPV((SV*)cv, len);
2637                         if (!len)
2638                             TERM(FUNC0SUB);
2639                         if (strEQ(proto, "$"))
2640                             OPERATOR(UNIOPSUB);
2641                         if (*proto == '&' && *s == '{') {
2642                             sv_setpv(subname,"__ANON__");
2643                             PREBLOCK(LSTOPSUB);
2644                         }
2645                     }
2646                     nextval[nexttoke].opval = yylval.opval;
2647                     expect = XTERM;
2648                     force_next(WORD);
2649                     TOKEN(NOAMP);
2650                 }
2651
2652                 if (hints & HINT_STRICT_SUBS &&
2653                     lastchar != '-' &&
2654                     strnNE(s,"->",2) &&
2655                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2656                     last_lop_op != OP_ACCEPT &&
2657                     last_lop_op != OP_PIPE_OP &&
2658                     last_lop_op != OP_SOCKPAIR)
2659                 {
2660                     warn(
2661                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2662                         tokenbuf);
2663                     ++error_count;
2664                 }
2665
2666                 /* Call it a bare word */
2667
2668             bareword:
2669                 if (dowarn) {
2670                     if (lastchar != '-') {
2671                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2672                         if (!*d)
2673                             warn(warn_reserved, tokenbuf);
2674                     }
2675                 }
2676                 if (lastchar && strchr("*%&", lastchar)) {
2677                     warn("Operator or semicolon missing before %c%s",
2678                         lastchar, tokenbuf);
2679                     warn("Ambiguous use of %c resolved as operator %c",
2680                         lastchar, lastchar);
2681                 }
2682                 TOKEN(WORD);
2683             }
2684
2685         case KEY___FILE__:
2686         case KEY___LINE__:
2687             if (tokenbuf[2] == 'L')
2688                 (void)sprintf(tokenbuf,"%ld",(long)curcop->cop_line);
2689             else
2690                 strcpy(tokenbuf, SvPVX(GvSV(curcop->cop_filegv)));
2691             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2692             TERM(THING);
2693
2694         case KEY___PACKAGE__:
2695             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2696                                         (curstash
2697                                          ? newSVsv(curstname)
2698                                          : &sv_undef));
2699             TERM(THING);
2700
2701         case KEY___DATA__:
2702         case KEY___END__: {
2703             GV *gv;
2704
2705             /*SUPPRESS 560*/
2706             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2707                 char dname[256];
2708                 char *pname = "main";
2709                 if (tokenbuf[2] == 'D')
2710                     pname = HvNAME(curstash ? curstash : defstash);
2711                 sprintf(dname,"%s::DATA", pname);
2712                 gv = gv_fetchpv(dname,TRUE, SVt_PVIO);
2713                 GvMULTI_on(gv);
2714                 if (!GvIO(gv))
2715                     GvIOp(gv) = newIO();
2716                 IoIFP(GvIOp(gv)) = rsfp;
2717 #if defined(HAS_FCNTL) && defined(F_SETFD)
2718                 {
2719                     int fd = PerlIO_fileno(rsfp);
2720                     fcntl(fd,F_SETFD,fd >= 3);
2721                 }
2722 #endif
2723                 /* Mark this internal pseudo-handle as clean */
2724                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2725                 if (preprocess)
2726                     IoTYPE(GvIOp(gv)) = '|';
2727                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2728                     IoTYPE(GvIOp(gv)) = '-';
2729                 else
2730                     IoTYPE(GvIOp(gv)) = '<';
2731                 rsfp = Nullfp;
2732             }
2733             goto fake_eof;
2734         }
2735
2736         case KEY_AUTOLOAD:
2737         case KEY_DESTROY:
2738         case KEY_BEGIN:
2739         case KEY_END:
2740             if (expect == XSTATE) {
2741                 s = bufptr;
2742                 goto really_sub;
2743             }
2744             goto just_a_word;
2745
2746         case KEY_CORE:
2747             if (*s == ':' && s[1] == ':') {
2748                 s += 2;
2749                 d = s;
2750                 s = scan_word(s, tokenbuf, FALSE, &len);
2751                 tmp = keyword(tokenbuf, len);
2752                 if (tmp < 0)
2753                     tmp = -tmp;
2754                 goto reserved_word;
2755             }
2756             goto just_a_word;
2757
2758         case KEY_abs:
2759             UNI(OP_ABS);
2760
2761         case KEY_alarm:
2762             UNI(OP_ALARM);
2763
2764         case KEY_accept:
2765             LOP(OP_ACCEPT,XTERM);
2766
2767         case KEY_and:
2768             OPERATOR(ANDOP);
2769
2770         case KEY_atan2:
2771             LOP(OP_ATAN2,XTERM);
2772
2773         case KEY_bind:
2774             LOP(OP_BIND,XTERM);
2775
2776         case KEY_binmode:
2777             UNI(OP_BINMODE);
2778
2779         case KEY_bless:
2780             LOP(OP_BLESS,XTERM);
2781
2782         case KEY_chop:
2783             UNI(OP_CHOP);
2784
2785         case KEY_continue:
2786             PREBLOCK(CONTINUE);
2787
2788         case KEY_chdir:
2789             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2790             UNI(OP_CHDIR);
2791
2792         case KEY_close:
2793             UNI(OP_CLOSE);
2794
2795         case KEY_closedir:
2796             UNI(OP_CLOSEDIR);
2797
2798         case KEY_cmp:
2799             Eop(OP_SCMP);
2800
2801         case KEY_caller:
2802             UNI(OP_CALLER);
2803
2804         case KEY_crypt:
2805 #ifdef FCRYPT
2806             if (!cryptseen++)
2807                 init_des();
2808 #endif
2809             LOP(OP_CRYPT,XTERM);
2810
2811         case KEY_chmod:
2812             if (dowarn) {
2813                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2814                 if (*d != '0' && isDIGIT(*d))
2815                     yywarn("chmod: mode argument is missing initial 0");
2816             }
2817             LOP(OP_CHMOD,XTERM);
2818
2819         case KEY_chown:
2820             LOP(OP_CHOWN,XTERM);
2821
2822         case KEY_connect:
2823             LOP(OP_CONNECT,XTERM);
2824
2825         case KEY_chr:
2826             UNI(OP_CHR);
2827
2828         case KEY_cos:
2829             UNI(OP_COS);
2830
2831         case KEY_chroot:
2832             UNI(OP_CHROOT);
2833
2834         case KEY_do:
2835             s = skipspace(s);
2836             if (*s == '{')
2837                 PRETERMBLOCK(DO);
2838             if (*s != '\'')
2839                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2840             OPERATOR(DO);
2841
2842         case KEY_die:
2843             hints |= HINT_BLOCK_SCOPE;
2844             LOP(OP_DIE,XTERM);
2845
2846         case KEY_defined:
2847             UNI(OP_DEFINED);
2848
2849         case KEY_delete:
2850             UNI(OP_DELETE);
2851
2852         case KEY_dbmopen:
2853             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2854             LOP(OP_DBMOPEN,XTERM);
2855
2856         case KEY_dbmclose:
2857             UNI(OP_DBMCLOSE);
2858
2859         case KEY_dump:
2860             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2861             LOOPX(OP_DUMP);
2862
2863         case KEY_else:
2864             PREBLOCK(ELSE);
2865
2866         case KEY_elsif:
2867             yylval.ival = curcop->cop_line;
2868             OPERATOR(ELSIF);
2869
2870         case KEY_eq:
2871             Eop(OP_SEQ);
2872
2873         case KEY_exists:
2874             UNI(OP_EXISTS);
2875
2876         case KEY_exit:
2877             UNI(OP_EXIT);
2878
2879         case KEY_eval:
2880             s = skipspace(s);
2881             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2882             UNIBRACK(OP_ENTEREVAL);
2883
2884         case KEY_eof:
2885             UNI(OP_EOF);
2886
2887         case KEY_exp:
2888             UNI(OP_EXP);
2889
2890         case KEY_each:
2891             UNI(OP_EACH);
2892
2893         case KEY_exec:
2894             set_csh();
2895             LOP(OP_EXEC,XREF);
2896
2897         case KEY_endhostent:
2898             FUN0(OP_EHOSTENT);
2899
2900         case KEY_endnetent:
2901             FUN0(OP_ENETENT);
2902
2903         case KEY_endservent:
2904             FUN0(OP_ESERVENT);
2905
2906         case KEY_endprotoent:
2907             FUN0(OP_EPROTOENT);
2908
2909         case KEY_endpwent:
2910             FUN0(OP_EPWENT);
2911
2912         case KEY_endgrent:
2913             FUN0(OP_EGRENT);
2914
2915         case KEY_for:
2916         case KEY_foreach:
2917             yylval.ival = curcop->cop_line;
2918             s = skipspace(s);
2919             if (isIDFIRST(*s)) {
2920                 char *p = s;
2921                 if ((bufend - p) >= 3 &&
2922                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
2923                     p += 2;
2924                 p = skipspace(p);
2925                 if (isIDFIRST(*p))
2926                     croak("Missing $ on loop variable");
2927             }
2928             OPERATOR(FOR);
2929
2930         case KEY_formline:
2931             LOP(OP_FORMLINE,XTERM);
2932
2933         case KEY_fork:
2934             FUN0(OP_FORK);
2935
2936         case KEY_fcntl:
2937             LOP(OP_FCNTL,XTERM);
2938
2939         case KEY_fileno:
2940             UNI(OP_FILENO);
2941
2942         case KEY_flock:
2943             LOP(OP_FLOCK,XTERM);
2944
2945         case KEY_gt:
2946             Rop(OP_SGT);
2947
2948         case KEY_ge:
2949             Rop(OP_SGE);
2950
2951         case KEY_grep:
2952             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
2953
2954         case KEY_goto:
2955             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2956             LOOPX(OP_GOTO);
2957
2958         case KEY_gmtime:
2959             UNI(OP_GMTIME);
2960
2961         case KEY_getc:
2962             UNI(OP_GETC);
2963
2964         case KEY_getppid:
2965             FUN0(OP_GETPPID);
2966
2967         case KEY_getpgrp:
2968             UNI(OP_GETPGRP);
2969
2970         case KEY_getpriority:
2971             LOP(OP_GETPRIORITY,XTERM);
2972
2973         case KEY_getprotobyname:
2974             UNI(OP_GPBYNAME);
2975
2976         case KEY_getprotobynumber:
2977             LOP(OP_GPBYNUMBER,XTERM);
2978
2979         case KEY_getprotoent:
2980             FUN0(OP_GPROTOENT);
2981
2982         case KEY_getpwent:
2983             FUN0(OP_GPWENT);
2984
2985         case KEY_getpwnam:
2986             UNI(OP_GPWNAM);
2987
2988         case KEY_getpwuid:
2989             UNI(OP_GPWUID);
2990
2991         case KEY_getpeername:
2992             UNI(OP_GETPEERNAME);
2993
2994         case KEY_gethostbyname:
2995             UNI(OP_GHBYNAME);
2996
2997         case KEY_gethostbyaddr:
2998             LOP(OP_GHBYADDR,XTERM);
2999
3000         case KEY_gethostent:
3001             FUN0(OP_GHOSTENT);
3002
3003         case KEY_getnetbyname:
3004             UNI(OP_GNBYNAME);
3005
3006         case KEY_getnetbyaddr:
3007             LOP(OP_GNBYADDR,XTERM);
3008
3009         case KEY_getnetent:
3010             FUN0(OP_GNETENT);
3011
3012         case KEY_getservbyname:
3013             LOP(OP_GSBYNAME,XTERM);
3014
3015         case KEY_getservbyport:
3016             LOP(OP_GSBYPORT,XTERM);
3017
3018         case KEY_getservent:
3019             FUN0(OP_GSERVENT);
3020
3021         case KEY_getsockname:
3022             UNI(OP_GETSOCKNAME);
3023
3024         case KEY_getsockopt:
3025             LOP(OP_GSOCKOPT,XTERM);
3026
3027         case KEY_getgrent:
3028             FUN0(OP_GGRENT);
3029
3030         case KEY_getgrnam:
3031             UNI(OP_GGRNAM);
3032
3033         case KEY_getgrgid:
3034             UNI(OP_GGRGID);
3035
3036         case KEY_getlogin:
3037             FUN0(OP_GETLOGIN);
3038
3039         case KEY_glob:
3040             set_csh();
3041             LOP(OP_GLOB,XTERM);
3042
3043         case KEY_hex:
3044             UNI(OP_HEX);
3045
3046         case KEY_if:
3047             yylval.ival = curcop->cop_line;
3048             OPERATOR(IF);
3049
3050         case KEY_index:
3051             LOP(OP_INDEX,XTERM);
3052
3053         case KEY_int:
3054             UNI(OP_INT);
3055
3056         case KEY_ioctl:
3057             LOP(OP_IOCTL,XTERM);
3058
3059         case KEY_join:
3060             LOP(OP_JOIN,XTERM);
3061
3062         case KEY_keys:
3063             UNI(OP_KEYS);
3064
3065         case KEY_kill:
3066             LOP(OP_KILL,XTERM);
3067
3068         case KEY_last:
3069             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3070             LOOPX(OP_LAST);
3071
3072         case KEY_lc:
3073             UNI(OP_LC);
3074
3075         case KEY_lcfirst:
3076             UNI(OP_LCFIRST);
3077
3078         case KEY_local:
3079             OPERATOR(LOCAL);
3080
3081         case KEY_length:
3082             UNI(OP_LENGTH);
3083
3084         case KEY_lt:
3085             Rop(OP_SLT);
3086
3087         case KEY_le:
3088             Rop(OP_SLE);
3089
3090         case KEY_localtime:
3091             UNI(OP_LOCALTIME);
3092
3093         case KEY_log:
3094             UNI(OP_LOG);
3095
3096         case KEY_link:
3097             LOP(OP_LINK,XTERM);
3098
3099         case KEY_listen:
3100             LOP(OP_LISTEN,XTERM);
3101
3102         case KEY_lstat:
3103             UNI(OP_LSTAT);
3104
3105         case KEY_m:
3106             s = scan_pat(s);
3107             TERM(sublex_start());
3108
3109         case KEY_map:
3110             LOP(OP_MAPSTART,XREF);
3111
3112         case KEY_mkdir:
3113             LOP(OP_MKDIR,XTERM);
3114
3115         case KEY_msgctl:
3116             LOP(OP_MSGCTL,XTERM);
3117
3118         case KEY_msgget:
3119             LOP(OP_MSGGET,XTERM);
3120
3121         case KEY_msgrcv:
3122             LOP(OP_MSGRCV,XTERM);
3123
3124         case KEY_msgsnd:
3125             LOP(OP_MSGSND,XTERM);
3126
3127         case KEY_my:
3128             in_my = TRUE;
3129             OPERATOR(MY);
3130
3131         case KEY_next:
3132             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3133             LOOPX(OP_NEXT);
3134
3135         case KEY_ne:
3136             Eop(OP_SNE);
3137
3138         case KEY_no:
3139             if (expect != XSTATE)
3140                 yyerror("\"no\" not allowed in expression");
3141             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3142             s = force_version(s);
3143             yylval.ival = 0;
3144             OPERATOR(USE);
3145
3146         case KEY_not:
3147             OPERATOR(NOTOP);
3148
3149         case KEY_open:
3150             s = skipspace(s);
3151             if (isIDFIRST(*s)) {
3152                 char *t;
3153                 for (d = s; isALNUM(*d); d++) ;
3154                 t = skipspace(d);
3155                 if (strchr("|&*+-=!?:.", *t))
3156                     warn("Precedence problem: open %.*s should be open(%.*s)",
3157                         d-s,s, d-s,s);
3158             }
3159             LOP(OP_OPEN,XTERM);
3160
3161         case KEY_or:
3162             yylval.ival = OP_OR;
3163             OPERATOR(OROP);
3164
3165         case KEY_ord:
3166             UNI(OP_ORD);
3167
3168         case KEY_oct:
3169             UNI(OP_OCT);
3170
3171         case KEY_opendir:
3172             LOP(OP_OPEN_DIR,XTERM);
3173
3174         case KEY_print:
3175             checkcomma(s,tokenbuf,"filehandle");
3176             LOP(OP_PRINT,XREF);
3177
3178         case KEY_printf:
3179             checkcomma(s,tokenbuf,"filehandle");
3180             LOP(OP_PRTF,XREF);
3181
3182         case KEY_prototype:
3183             UNI(OP_PROTOTYPE);
3184
3185         case KEY_push:
3186             LOP(OP_PUSH,XTERM);
3187
3188         case KEY_pop:
3189             UNI(OP_POP);
3190
3191         case KEY_pos:
3192             UNI(OP_POS);
3193
3194         case KEY_pack:
3195             LOP(OP_PACK,XTERM);
3196
3197         case KEY_package:
3198             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3199             OPERATOR(PACKAGE);
3200
3201         case KEY_pipe:
3202             LOP(OP_PIPE_OP,XTERM);
3203
3204         case KEY_q:
3205             s = scan_str(s);
3206             if (!s)
3207                 missingterm((char*)0);
3208             yylval.ival = OP_CONST;
3209             TERM(sublex_start());
3210
3211         case KEY_quotemeta:
3212             UNI(OP_QUOTEMETA);
3213
3214         case KEY_qw:
3215             s = scan_str(s);
3216             if (!s)
3217                 missingterm((char*)0);
3218             if (dowarn && SvLEN(lex_stuff)) {
3219                 d = SvPV_force(lex_stuff, len);
3220                 for (; len; --len, ++d) {
3221                     if (*d == ',') {
3222                         warn("Possible attempt to separate words with commas");
3223                         break;
3224                     }
3225                     if (*d == '#') {
3226                         warn("Possible attempt to put comments in qw() list");
3227                         break;
3228                     }
3229                 }
3230             }
3231             force_next(')');
3232             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3233             lex_stuff = Nullsv;
3234             force_next(THING);
3235             force_next(',');
3236             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3237             force_next(THING);
3238             force_next('(');
3239             yylval.ival = OP_SPLIT;
3240             CLINE;
3241             expect = XTERM;
3242             bufptr = s;
3243             last_lop = oldbufptr;
3244             last_lop_op = OP_SPLIT;
3245             return FUNC;
3246
3247         case KEY_qq:
3248             s = scan_str(s);
3249             if (!s)
3250                 missingterm((char*)0);
3251             yylval.ival = OP_STRINGIFY;
3252             if (SvIVX(lex_stuff) == '\'')
3253                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3254             TERM(sublex_start());
3255
3256         case KEY_qx:
3257             s = scan_str(s);
3258             if (!s)
3259                 missingterm((char*)0);
3260             yylval.ival = OP_BACKTICK;
3261             set_csh();
3262             TERM(sublex_start());
3263
3264         case KEY_return:
3265             OLDLOP(OP_RETURN);
3266
3267         case KEY_require:
3268             *tokenbuf = '\0';
3269             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3270             if (isIDFIRST(*tokenbuf))
3271                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3272             else if (*s == '<')
3273                 yyerror("<> should be quotes");
3274             UNI(OP_REQUIRE);
3275
3276         case KEY_reset:
3277             UNI(OP_RESET);
3278
3279         case KEY_redo:
3280             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3281             LOOPX(OP_REDO);
3282
3283         case KEY_rename:
3284             LOP(OP_RENAME,XTERM);
3285
3286         case KEY_rand:
3287             UNI(OP_RAND);
3288
3289         case KEY_rmdir:
3290             UNI(OP_RMDIR);
3291
3292         case KEY_rindex:
3293             LOP(OP_RINDEX,XTERM);
3294
3295         case KEY_read:
3296             LOP(OP_READ,XTERM);
3297
3298         case KEY_readdir:
3299             UNI(OP_READDIR);
3300
3301         case KEY_readline:
3302             set_csh();
3303             UNI(OP_READLINE);
3304
3305         case KEY_readpipe:
3306             set_csh();
3307             UNI(OP_BACKTICK);
3308
3309         case KEY_rewinddir:
3310             UNI(OP_REWINDDIR);
3311
3312         case KEY_recv:
3313             LOP(OP_RECV,XTERM);
3314
3315         case KEY_reverse:
3316             LOP(OP_REVERSE,XTERM);
3317
3318         case KEY_readlink:
3319             UNI(OP_READLINK);
3320
3321         case KEY_ref:
3322             UNI(OP_REF);
3323
3324         case KEY_s:
3325             s = scan_subst(s);
3326             if (yylval.opval)
3327                 TERM(sublex_start());
3328             else
3329                 TOKEN(1);       /* force error */
3330
3331         case KEY_chomp:
3332             UNI(OP_CHOMP);
3333
3334         case KEY_scalar:
3335             UNI(OP_SCALAR);
3336
3337         case KEY_select:
3338             LOP(OP_SELECT,XTERM);
3339
3340         case KEY_seek:
3341             LOP(OP_SEEK,XTERM);
3342
3343         case KEY_semctl:
3344             LOP(OP_SEMCTL,XTERM);
3345
3346         case KEY_semget:
3347             LOP(OP_SEMGET,XTERM);
3348
3349         case KEY_semop:
3350             LOP(OP_SEMOP,XTERM);
3351
3352         case KEY_send:
3353             LOP(OP_SEND,XTERM);
3354
3355         case KEY_setpgrp:
3356             LOP(OP_SETPGRP,XTERM);
3357
3358         case KEY_setpriority:
3359             LOP(OP_SETPRIORITY,XTERM);
3360
3361         case KEY_sethostent:
3362             UNI(OP_SHOSTENT);
3363
3364         case KEY_setnetent:
3365             UNI(OP_SNETENT);
3366
3367         case KEY_setservent:
3368             UNI(OP_SSERVENT);
3369
3370         case KEY_setprotoent:
3371             UNI(OP_SPROTOENT);
3372
3373         case KEY_setpwent:
3374             FUN0(OP_SPWENT);
3375
3376         case KEY_setgrent:
3377             FUN0(OP_SGRENT);
3378
3379         case KEY_seekdir:
3380             LOP(OP_SEEKDIR,XTERM);
3381
3382         case KEY_setsockopt:
3383             LOP(OP_SSOCKOPT,XTERM);
3384
3385         case KEY_shift:
3386             UNI(OP_SHIFT);
3387
3388         case KEY_shmctl:
3389             LOP(OP_SHMCTL,XTERM);
3390
3391         case KEY_shmget:
3392             LOP(OP_SHMGET,XTERM);
3393
3394         case KEY_shmread:
3395             LOP(OP_SHMREAD,XTERM);
3396
3397         case KEY_shmwrite:
3398             LOP(OP_SHMWRITE,XTERM);
3399
3400         case KEY_shutdown:
3401             LOP(OP_SHUTDOWN,XTERM);
3402
3403         case KEY_sin:
3404             UNI(OP_SIN);
3405
3406         case KEY_sleep:
3407             UNI(OP_SLEEP);
3408
3409         case KEY_socket:
3410             LOP(OP_SOCKET,XTERM);
3411
3412         case KEY_socketpair:
3413             LOP(OP_SOCKPAIR,XTERM);
3414
3415         case KEY_sort:
3416             checkcomma(s,tokenbuf,"subroutine name");
3417             s = skipspace(s);
3418             if (*s == ';' || *s == ')')         /* probably a close */
3419                 croak("sort is now a reserved word");
3420             expect = XTERM;
3421             s = force_word(s,WORD,TRUE,TRUE,TRUE);
3422             LOP(OP_SORT,XREF);
3423
3424         case KEY_split:
3425             LOP(OP_SPLIT,XTERM);
3426
3427         case KEY_sprintf:
3428             LOP(OP_SPRINTF,XTERM);
3429
3430         case KEY_splice:
3431             LOP(OP_SPLICE,XTERM);
3432
3433         case KEY_sqrt:
3434             UNI(OP_SQRT);
3435
3436         case KEY_srand:
3437             UNI(OP_SRAND);
3438
3439         case KEY_stat:
3440             UNI(OP_STAT);
3441
3442         case KEY_study:
3443             sawstudy++;
3444             UNI(OP_STUDY);
3445
3446         case KEY_substr:
3447             LOP(OP_SUBSTR,XTERM);
3448
3449         case KEY_format:
3450         case KEY_sub:
3451           really_sub:
3452             s = skipspace(s);
3453
3454             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3455                 char tmpbuf[128];
3456                 expect = XBLOCK;
3457                 d = scan_word(s, tmpbuf, TRUE, &len);
3458                 if (strchr(tmpbuf, ':'))
3459                     sv_setpv(subname, tmpbuf);
3460                 else {
3461                     sv_setsv(subname,curstname);
3462                     sv_catpvn(subname,"::",2);
3463                     sv_catpvn(subname,tmpbuf,len);
3464                 }
3465                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3466                 s = skipspace(s);
3467             }
3468             else {
3469                 expect = XTERMBLOCK;
3470                 sv_setpv(subname,"?");
3471             }
3472
3473             if (tmp == KEY_format) {
3474                 s = skipspace(s);
3475                 if (*s == '=')
3476                     lex_formbrack = lex_brackets + 1;
3477                 OPERATOR(FORMAT);
3478             }
3479
3480             /* Look for a prototype */
3481             if (*s == '(') {
3482                 char *p;
3483
3484                 s = scan_str(s);
3485                 if (!s) {
3486                     if (lex_stuff)
3487                         SvREFCNT_dec(lex_stuff);
3488                     lex_stuff = Nullsv;
3489                     croak("Prototype not terminated");
3490                 }
3491                 /* strip spaces */
3492                 d = SvPVX(lex_stuff);
3493                 tmp = 0;
3494                 for (p = d; *p; ++p) {
3495                     if (!isSPACE(*p))
3496                         d[tmp++] = *p;
3497                 }
3498                 d[tmp] = '\0';
3499                 SvCUR(lex_stuff) = tmp;
3500
3501                 nexttoke++;
3502                 nextval[1] = nextval[0];
3503                 nexttype[1] = nexttype[0];
3504                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3505                 nexttype[0] = THING;
3506                 if (nexttoke == 1) {
3507                     lex_defer = lex_state;
3508                     lex_expect = expect;
3509                     lex_state = LEX_KNOWNEXT;
3510                 }
3511                 lex_stuff = Nullsv;
3512             }
3513
3514             if (*SvPV(subname,na) == '?') {
3515                 sv_setpv(subname,"__ANON__");
3516                 TOKEN(ANONSUB);
3517             }
3518             PREBLOCK(SUB);
3519
3520         case KEY_system:
3521             set_csh();
3522             LOP(OP_SYSTEM,XREF);
3523
3524         case KEY_symlink:
3525             LOP(OP_SYMLINK,XTERM);
3526
3527         case KEY_syscall:
3528             LOP(OP_SYSCALL,XTERM);
3529
3530         case KEY_sysopen:
3531             LOP(OP_SYSOPEN,XTERM);
3532
3533         case KEY_sysread:
3534             LOP(OP_SYSREAD,XTERM);
3535
3536         case KEY_sysseek:
3537             LOP(OP_SYSSEEK,XTERM);
3538
3539         case KEY_syswrite:
3540             LOP(OP_SYSWRITE,XTERM);
3541
3542         case KEY_tr:
3543             s = scan_trans(s);
3544             TERM(sublex_start());
3545
3546         case KEY_tell:
3547             UNI(OP_TELL);
3548
3549         case KEY_telldir:
3550             UNI(OP_TELLDIR);
3551
3552         case KEY_tie:
3553             LOP(OP_TIE,XTERM);
3554
3555         case KEY_tied:
3556             UNI(OP_TIED);
3557
3558         case KEY_time:
3559             FUN0(OP_TIME);
3560
3561         case KEY_times:
3562             FUN0(OP_TMS);
3563
3564         case KEY_truncate:
3565             LOP(OP_TRUNCATE,XTERM);
3566
3567         case KEY_uc:
3568             UNI(OP_UC);
3569
3570         case KEY_ucfirst:
3571             UNI(OP_UCFIRST);
3572
3573         case KEY_untie:
3574             UNI(OP_UNTIE);
3575
3576         case KEY_until:
3577             yylval.ival = curcop->cop_line;
3578             OPERATOR(UNTIL);
3579
3580         case KEY_unless:
3581             yylval.ival = curcop->cop_line;
3582             OPERATOR(UNLESS);
3583
3584         case KEY_unlink:
3585             LOP(OP_UNLINK,XTERM);
3586
3587         case KEY_undef:
3588             UNI(OP_UNDEF);
3589
3590         case KEY_unpack:
3591             LOP(OP_UNPACK,XTERM);
3592
3593         case KEY_utime:
3594             LOP(OP_UTIME,XTERM);
3595
3596         case KEY_umask:
3597             if (dowarn) {
3598                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3599                 if (*d != '0' && isDIGIT(*d))
3600                     yywarn("umask: argument is missing initial 0");
3601             }
3602             UNI(OP_UMASK);
3603
3604         case KEY_unshift:
3605             LOP(OP_UNSHIFT,XTERM);
3606
3607         case KEY_use:
3608             if (expect != XSTATE)
3609                 yyerror("\"use\" not allowed in expression");
3610             s = skipspace(s);
3611             if(isDIGIT(*s)) {
3612                 s = force_version(s);
3613                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3614                     nextval[nexttoke].opval = Nullop;
3615                     force_next(WORD);
3616                 }
3617             }
3618             else {
3619                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3620                 s = force_version(s);
3621             }
3622             yylval.ival = 1;
3623             OPERATOR(USE);
3624
3625         case KEY_values:
3626             UNI(OP_VALUES);
3627
3628         case KEY_vec:
3629             sawvec = TRUE;
3630             LOP(OP_VEC,XTERM);
3631
3632         case KEY_while:
3633             yylval.ival = curcop->cop_line;
3634             OPERATOR(WHILE);
3635
3636         case KEY_warn:
3637             hints |= HINT_BLOCK_SCOPE;
3638             LOP(OP_WARN,XTERM);
3639
3640         case KEY_wait:
3641             FUN0(OP_WAIT);
3642
3643         case KEY_waitpid:
3644             LOP(OP_WAITPID,XTERM);
3645
3646         case KEY_wantarray:
3647             FUN0(OP_WANTARRAY);
3648
3649         case KEY_write:
3650             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3651             UNI(OP_ENTERWRITE);
3652
3653         case KEY_x:
3654             if (expect == XOPERATOR)
3655                 Mop(OP_REPEAT);
3656             check_uni();
3657             goto just_a_word;
3658
3659         case KEY_xor:
3660             yylval.ival = OP_XOR;
3661             OPERATOR(OROP);
3662
3663         case KEY_y:
3664             s = scan_trans(s);
3665             TERM(sublex_start());
3666         }
3667     }
3668 }
3669
3670 I32
3671 keyword(d, len)
3672 register char *d;
3673 I32 len;
3674 {
3675     switch (*d) {
3676     case '_':
3677         if (d[1] == '_') {
3678             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3679             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3680             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3681             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3682             if (strEQ(d,"__END__"))             return KEY___END__;
3683         }
3684         break;
3685     case 'A':
3686         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3687         break;
3688     case 'a':
3689         switch (len) {
3690         case 3:
3691             if (strEQ(d,"and"))                 return -KEY_and;
3692             if (strEQ(d,"abs"))                 return -KEY_abs;
3693             break;
3694         case 5:
3695             if (strEQ(d,"alarm"))               return -KEY_alarm;
3696             if (strEQ(d,"atan2"))               return -KEY_atan2;
3697             break;
3698         case 6:
3699             if (strEQ(d,"accept"))              return -KEY_accept;
3700             break;
3701         }
3702         break;
3703     case 'B':
3704         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3705         break;
3706     case 'b':
3707         if (strEQ(d,"bless"))                   return -KEY_bless;
3708         if (strEQ(d,"bind"))                    return -KEY_bind;
3709         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3710         break;
3711     case 'C':
3712         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3713         break;
3714     case 'c':
3715         switch (len) {
3716         case 3:
3717             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3718             if (strEQ(d,"chr"))                 return -KEY_chr;
3719             if (strEQ(d,"cos"))                 return -KEY_cos;
3720             break;
3721         case 4:
3722             if (strEQ(d,"chop"))                return KEY_chop;
3723             break;
3724         case 5:
3725             if (strEQ(d,"close"))               return -KEY_close;
3726             if (strEQ(d,"chdir"))               return -KEY_chdir;
3727             if (strEQ(d,"chomp"))               return KEY_chomp;
3728             if (strEQ(d,"chmod"))               return -KEY_chmod;
3729             if (strEQ(d,"chown"))               return -KEY_chown;
3730             if (strEQ(d,"crypt"))               return -KEY_crypt;
3731             break;
3732         case 6:
3733             if (strEQ(d,"chroot"))              return -KEY_chroot;
3734             if (strEQ(d,"caller"))              return -KEY_caller;
3735             break;
3736         case 7:
3737             if (strEQ(d,"connect"))             return -KEY_connect;
3738             break;
3739         case 8:
3740             if (strEQ(d,"closedir"))            return -KEY_closedir;
3741             if (strEQ(d,"continue"))            return -KEY_continue;
3742             break;
3743         }
3744         break;
3745     case 'D':
3746         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3747         break;
3748     case 'd':
3749         switch (len) {
3750         case 2:
3751             if (strEQ(d,"do"))                  return KEY_do;
3752             break;
3753         case 3:
3754             if (strEQ(d,"die"))                 return -KEY_die;
3755             break;
3756         case 4:
3757             if (strEQ(d,"dump"))                return -KEY_dump;
3758             break;
3759         case 6:
3760             if (strEQ(d,"delete"))              return KEY_delete;
3761             break;
3762         case 7:
3763             if (strEQ(d,"defined"))             return KEY_defined;
3764             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3765             break;
3766         case 8:
3767             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3768             break;
3769         }
3770         break;
3771     case 'E':
3772         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3773         if (strEQ(d,"END"))                     return KEY_END;
3774         break;
3775     case 'e':
3776         switch (len) {
3777         case 2:
3778             if (strEQ(d,"eq"))                  return -KEY_eq;
3779             break;
3780         case 3:
3781             if (strEQ(d,"eof"))                 return -KEY_eof;
3782             if (strEQ(d,"exp"))                 return -KEY_exp;
3783             break;
3784         case 4:
3785             if (strEQ(d,"else"))                return KEY_else;
3786             if (strEQ(d,"exit"))                return -KEY_exit;
3787             if (strEQ(d,"eval"))                return KEY_eval;
3788             if (strEQ(d,"exec"))                return -KEY_exec;
3789             if (strEQ(d,"each"))                return KEY_each;
3790             break;
3791         case 5:
3792             if (strEQ(d,"elsif"))               return KEY_elsif;
3793             break;
3794         case 6:
3795             if (strEQ(d,"exists"))              return KEY_exists;
3796             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3797             break;
3798         case 8:
3799             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3800             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3801             break;
3802         case 9:
3803             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3804             break;
3805         case 10:
3806             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3807             if (strEQ(d,"endservent"))          return -KEY_endservent;
3808             break;
3809         case 11:
3810             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3811             break;
3812         }
3813         break;
3814     case 'f':
3815         switch (len) {
3816         case 3:
3817             if (strEQ(d,"for"))                 return KEY_for;
3818             break;
3819         case 4:
3820             if (strEQ(d,"fork"))                return -KEY_fork;
3821             break;
3822         case 5:
3823             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3824             if (strEQ(d,"flock"))               return -KEY_flock;
3825             break;
3826         case 6:
3827             if (strEQ(d,"format"))              return KEY_format;
3828             if (strEQ(d,"fileno"))              return -KEY_fileno;
3829             break;
3830         case 7:
3831             if (strEQ(d,"foreach"))             return KEY_foreach;
3832             break;
3833         case 8:
3834             if (strEQ(d,"formline"))            return -KEY_formline;
3835             break;
3836         }
3837         break;
3838     case 'G':
3839         if (len == 2) {
3840             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3841             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3842         }
3843         break;
3844     case 'g':
3845         if (strnEQ(d,"get",3)) {
3846             d += 3;
3847             if (*d == 'p') {
3848                 switch (len) {
3849                 case 7:
3850                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3851                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3852                     break;
3853                 case 8:
3854                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3855                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3856                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3857                     break;
3858                 case 11:
3859                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3860                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3861                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3862                     break;
3863                 case 14:
3864                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3865                     break;
3866                 case 16:
3867                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3868                     break;
3869                 }
3870             }
3871             else if (*d == 'h') {
3872                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3873                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3874                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
3875             }
3876             else if (*d == 'n') {
3877                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
3878                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
3879                 if (strEQ(d,"netent"))          return -KEY_getnetent;
3880             }
3881             else if (*d == 's') {
3882                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
3883                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
3884                 if (strEQ(d,"servent"))         return -KEY_getservent;
3885                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
3886                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
3887             }
3888             else if (*d == 'g') {
3889                 if (strEQ(d,"grent"))           return -KEY_getgrent;
3890                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
3891                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
3892             }
3893             else if (*d == 'l') {
3894                 if (strEQ(d,"login"))           return -KEY_getlogin;
3895             }
3896             else if (strEQ(d,"c"))              return -KEY_getc;
3897             break;
3898         }
3899         switch (len) {
3900         case 2:
3901             if (strEQ(d,"gt"))                  return -KEY_gt;
3902             if (strEQ(d,"ge"))                  return -KEY_ge;
3903             break;
3904         case 4:
3905             if (strEQ(d,"grep"))                return KEY_grep;
3906             if (strEQ(d,"goto"))                return KEY_goto;
3907             if (strEQ(d,"glob"))                return -KEY_glob;
3908             break;
3909         case 6:
3910             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
3911             break;
3912         }
3913         break;
3914     case 'h':
3915         if (strEQ(d,"hex"))                     return -KEY_hex;
3916         break;
3917     case 'i':
3918         switch (len) {
3919         case 2:
3920             if (strEQ(d,"if"))                  return KEY_if;
3921             break;
3922         case 3:
3923             if (strEQ(d,"int"))                 return -KEY_int;
3924             break;
3925         case 5:
3926             if (strEQ(d,"index"))               return -KEY_index;
3927             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
3928             break;
3929         }
3930         break;
3931     case 'j':
3932         if (strEQ(d,"join"))                    return -KEY_join;
3933         break;
3934     case 'k':
3935         if (len == 4) {
3936             if (strEQ(d,"keys"))                return KEY_keys;
3937             if (strEQ(d,"kill"))                return -KEY_kill;
3938         }
3939         break;
3940     case 'L':
3941         if (len == 2) {
3942             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
3943             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
3944         }
3945         break;
3946     case 'l':
3947         switch (len) {
3948         case 2:
3949             if (strEQ(d,"lt"))                  return -KEY_lt;
3950             if (strEQ(d,"le"))                  return -KEY_le;
3951             if (strEQ(d,"lc"))                  return -KEY_lc;
3952             break;
3953         case 3:
3954             if (strEQ(d,"log"))                 return -KEY_log;
3955             break;
3956         case 4:
3957             if (strEQ(d,"last"))                return KEY_last;
3958             if (strEQ(d,"link"))                return -KEY_link;
3959             break;
3960         case 5:
3961             if (strEQ(d,"local"))               return KEY_local;
3962             if (strEQ(d,"lstat"))               return -KEY_lstat;
3963             break;
3964         case 6:
3965             if (strEQ(d,"length"))              return -KEY_length;
3966             if (strEQ(d,"listen"))              return -KEY_listen;
3967             break;
3968         case 7:
3969             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
3970             break;
3971         case 9:
3972             if (strEQ(d,"localtime"))           return -KEY_localtime;
3973             break;
3974         }
3975         break;
3976     case 'm':
3977         switch (len) {
3978         case 1:                                 return KEY_m;
3979         case 2:
3980             if (strEQ(d,"my"))                  return KEY_my;
3981             break;
3982         case 3:
3983             if (strEQ(d,"map"))                 return KEY_map;
3984             break;
3985         case 5:
3986             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
3987             break;
3988         case 6:
3989             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
3990             if (strEQ(d,"msgget"))              return -KEY_msgget;
3991             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
3992             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
3993             break;
3994         }
3995         break;
3996     case 'N':
3997         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
3998         break;
3999     case 'n':
4000         if (strEQ(d,"next"))                    return KEY_next;
4001         if (strEQ(d,"ne"))                      return -KEY_ne;
4002         if (strEQ(d,"not"))                     return -KEY_not;
4003         if (strEQ(d,"no"))                      return KEY_no;
4004         break;
4005     case 'o':
4006         switch (len) {
4007         case 2:
4008             if (strEQ(d,"or"))                  return -KEY_or;
4009             break;
4010         case 3:
4011             if (strEQ(d,"ord"))                 return -KEY_ord;
4012             if (strEQ(d,"oct"))                 return -KEY_oct;
4013             break;
4014         case 4:
4015             if (strEQ(d,"open"))                return -KEY_open;
4016             break;
4017         case 7:
4018             if (strEQ(d,"opendir"))             return -KEY_opendir;
4019             break;
4020         }
4021         break;
4022     case 'p':
4023         switch (len) {
4024         case 3:
4025             if (strEQ(d,"pop"))                 return KEY_pop;
4026             if (strEQ(d,"pos"))                 return KEY_pos;
4027             break;
4028         case 4:
4029             if (strEQ(d,"push"))                return KEY_push;
4030             if (strEQ(d,"pack"))                return -KEY_pack;
4031             if (strEQ(d,"pipe"))                return -KEY_pipe;
4032             break;
4033         case 5:
4034             if (strEQ(d,"print"))               return KEY_print;
4035             break;
4036         case 6:
4037             if (strEQ(d,"printf"))              return KEY_printf;
4038             break;
4039         case 7:
4040             if (strEQ(d,"package"))             return KEY_package;
4041             break;
4042         case 9:
4043             if (strEQ(d,"prototype"))           return KEY_prototype;
4044         }
4045         break;
4046     case 'q':
4047         if (len <= 2) {
4048             if (strEQ(d,"q"))                   return KEY_q;
4049             if (strEQ(d,"qq"))                  return KEY_qq;
4050             if (strEQ(d,"qw"))                  return KEY_qw;
4051             if (strEQ(d,"qx"))                  return KEY_qx;
4052         }
4053         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4054         break;
4055     case 'r':
4056         switch (len) {
4057         case 3:
4058             if (strEQ(d,"ref"))                 return -KEY_ref;
4059             break;
4060         case 4:
4061             if (strEQ(d,"read"))                return -KEY_read;
4062             if (strEQ(d,"rand"))                return -KEY_rand;
4063             if (strEQ(d,"recv"))                return -KEY_recv;
4064             if (strEQ(d,"redo"))                return KEY_redo;
4065             break;
4066         case 5:
4067             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4068             if (strEQ(d,"reset"))               return -KEY_reset;
4069             break;
4070         case 6:
4071             if (strEQ(d,"return"))              return KEY_return;
4072             if (strEQ(d,"rename"))              return -KEY_rename;
4073             if (strEQ(d,"rindex"))              return -KEY_rindex;
4074             break;
4075         case 7:
4076             if (strEQ(d,"require"))             return -KEY_require;
4077             if (strEQ(d,"reverse"))             return -KEY_reverse;
4078             if (strEQ(d,"readdir"))             return -KEY_readdir;
4079             break;
4080         case 8:
4081             if (strEQ(d,"readlink"))            return -KEY_readlink;
4082             if (strEQ(d,"readline"))            return -KEY_readline;
4083             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4084             break;
4085         case 9:
4086             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4087             break;
4088         }
4089         break;
4090     case 's':
4091         switch (d[1]) {
4092         case 0:                                 return KEY_s;
4093         case 'c':
4094             if (strEQ(d,"scalar"))              return KEY_scalar;
4095             break;
4096         case 'e':
4097             switch (len) {
4098             case 4:
4099                 if (strEQ(d,"seek"))            return -KEY_seek;
4100                 if (strEQ(d,"send"))            return -KEY_send;
4101                 break;
4102             case 5:
4103                 if (strEQ(d,"semop"))           return -KEY_semop;
4104                 break;
4105             case 6:
4106                 if (strEQ(d,"select"))          return -KEY_select;
4107                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4108                 if (strEQ(d,"semget"))          return -KEY_semget;
4109                 break;
4110             case 7:
4111                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4112                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4113                 break;
4114             case 8:
4115                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4116                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4117                 break;
4118             case 9:
4119                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4120                 break;
4121             case 10:
4122                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4123                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4124                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4125                 break;
4126             case 11:
4127                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4128                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4129                 break;
4130             }
4131             break;
4132         case 'h':
4133             switch (len) {
4134             case 5:
4135                 if (strEQ(d,"shift"))           return KEY_shift;
4136                 break;
4137             case 6:
4138                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4139                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4140                 break;
4141             case 7:
4142                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4143                 break;
4144             case 8:
4145                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4146                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4147                 break;
4148             }
4149             break;
4150         case 'i':
4151             if (strEQ(d,"sin"))                 return -KEY_sin;
4152             break;
4153         case 'l':
4154             if (strEQ(d,"sleep"))               return -KEY_sleep;
4155             break;
4156         case 'o':
4157             if (strEQ(d,"sort"))                return KEY_sort;
4158             if (strEQ(d,"socket"))              return -KEY_socket;
4159             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4160             break;
4161         case 'p':
4162             if (strEQ(d,"split"))               return KEY_split;
4163             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4164             if (strEQ(d,"splice"))              return KEY_splice;
4165             break;
4166         case 'q':
4167             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4168             break;
4169         case 'r':
4170             if (strEQ(d,"srand"))               return -KEY_srand;
4171             break;
4172         case 't':
4173             if (strEQ(d,"stat"))                return -KEY_stat;
4174             if (strEQ(d,"study"))               return KEY_study;
4175             break;
4176         case 'u':
4177             if (strEQ(d,"substr"))              return -KEY_substr;
4178             if (strEQ(d,"sub"))                 return KEY_sub;
4179             break;
4180         case 'y':
4181             switch (len) {
4182             case 6:
4183                 if (strEQ(d,"system"))          return -KEY_system;
4184                 break;
4185             case 7:
4186                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4187                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4188                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4189                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4190                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4191                 break;
4192             case 8:
4193                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4194                 break;
4195             }
4196             break;
4197         }
4198         break;
4199     case 't':
4200         switch (len) {
4201         case 2:
4202             if (strEQ(d,"tr"))                  return KEY_tr;
4203             break;
4204         case 3:
4205             if (strEQ(d,"tie"))                 return KEY_tie;
4206             break;
4207         case 4:
4208             if (strEQ(d,"tell"))                return -KEY_tell;
4209             if (strEQ(d,"tied"))                return KEY_tied;
4210             if (strEQ(d,"time"))                return -KEY_time;
4211             break;
4212         case 5:
4213             if (strEQ(d,"times"))               return -KEY_times;
4214             break;
4215         case 7:
4216             if (strEQ(d,"telldir"))             return -KEY_telldir;
4217             break;
4218         case 8:
4219             if (strEQ(d,"truncate"))            return -KEY_truncate;
4220             break;
4221         }
4222         break;
4223     case 'u':
4224         switch (len) {
4225         case 2:
4226             if (strEQ(d,"uc"))                  return -KEY_uc;
4227             break;
4228         case 3:
4229             if (strEQ(d,"use"))                 return KEY_use;
4230             break;
4231         case 5:
4232             if (strEQ(d,"undef"))               return KEY_undef;
4233             if (strEQ(d,"until"))               return KEY_until;
4234             if (strEQ(d,"untie"))               return KEY_untie;
4235             if (strEQ(d,"utime"))               return -KEY_utime;
4236             if (strEQ(d,"umask"))               return -KEY_umask;
4237             break;
4238         case 6:
4239             if (strEQ(d,"unless"))              return KEY_unless;
4240             if (strEQ(d,"unpack"))              return -KEY_unpack;
4241             if (strEQ(d,"unlink"))              return -KEY_unlink;
4242             break;
4243         case 7:
4244             if (strEQ(d,"unshift"))             return KEY_unshift;
4245             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4246             break;
4247         }
4248         break;
4249     case 'v':
4250         if (strEQ(d,"values"))                  return -KEY_values;
4251         if (strEQ(d,"vec"))                     return -KEY_vec;
4252         break;
4253     case 'w':
4254         switch (len) {
4255         case 4:
4256             if (strEQ(d,"warn"))                return -KEY_warn;
4257             if (strEQ(d,"wait"))                return -KEY_wait;
4258             break;
4259         case 5:
4260             if (strEQ(d,"while"))               return KEY_while;
4261             if (strEQ(d,"write"))               return -KEY_write;
4262             break;
4263         case 7:
4264             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4265             break;
4266         case 9:
4267             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4268             break;
4269         }
4270         break;
4271     case 'x':
4272         if (len == 1)                           return -KEY_x;
4273         if (strEQ(d,"xor"))                     return -KEY_xor;
4274         break;
4275     case 'y':
4276         if (len == 1)                           return KEY_y;
4277         break;
4278     case 'z':
4279         break;
4280     }
4281     return 0;
4282 }
4283
4284 static void
4285 checkcomma(s,name,what)
4286 register char *s;
4287 char *name;
4288 char *what;
4289 {
4290     char *w;
4291
4292     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4293         int level = 1;
4294         for (w = s+2; *w && level; w++) {
4295             if (*w == '(')
4296                 ++level;
4297             else if (*w == ')')
4298                 --level;
4299         }
4300         if (*w)
4301             for (; *w && isSPACE(*w); w++) ;
4302         if (!*w || !strchr(";|})]oa!=", *w))    /* an advisory hack only... */
4303             warn("%s (...) interpreted as function",name);
4304     }
4305     while (s < bufend && isSPACE(*s))
4306         s++;
4307     if (*s == '(')
4308         s++;
4309     while (s < bufend && isSPACE(*s))
4310         s++;
4311     if (isIDFIRST(*s)) {
4312         w = s++;
4313         while (isALNUM(*s))
4314             s++;
4315         while (s < bufend && isSPACE(*s))
4316             s++;
4317         if (*s == ',') {
4318             int kw;
4319             *s = '\0';
4320             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4321             *s = ',';
4322             if (kw)
4323                 return;
4324             croak("No comma allowed after %s", what);
4325         }
4326     }
4327 }
4328
4329 static char *
4330 scan_word(s, dest, allow_package, slp)
4331 register char *s;
4332 char *dest;
4333 int allow_package;
4334 STRLEN *slp;
4335 {
4336     register char *d = dest;
4337     for (;;) {
4338         if (isALNUM(*s))
4339             *d++ = *s++;
4340         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4341             *d++ = ':';
4342             *d++ = ':';
4343             s++;
4344         }
4345         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4346             *d++ = *s++;
4347             *d++ = *s++;
4348         }
4349         else {
4350             *d = '\0';
4351             *slp = d - dest;
4352             return s;
4353         }
4354     }
4355 }
4356
4357 static char *
4358 scan_ident(s,send,dest,ck_uni)
4359 register char *s;
4360 register char *send;
4361 char *dest;
4362 I32 ck_uni;
4363 {
4364     register char *d;
4365     char *bracket = 0;
4366     char funny = *s++;
4367
4368     if (lex_brackets == 0)
4369         lex_fakebrack = 0;
4370     if (isSPACE(*s))
4371         s = skipspace(s);
4372     d = dest;
4373     if (isDIGIT(*s)) {
4374         while (isDIGIT(*s))
4375             *d++ = *s++;
4376     }
4377     else {
4378         for (;;) {
4379             if (isALNUM(*s))
4380                 *d++ = *s++;
4381             else if (*s == '\'' && isIDFIRST(s[1])) {
4382                 *d++ = ':';
4383                 *d++ = ':';
4384                 s++;
4385             }
4386             else if (*s == ':' && s[1] == ':') {
4387                 *d++ = *s++;
4388                 *d++ = *s++;
4389             }
4390             else
4391                 break;
4392         }
4393     }
4394     *d = '\0';
4395     d = dest;
4396     if (*d) {
4397         if (lex_state != LEX_NORMAL)
4398             lex_state = LEX_INTERPENDMAYBE;
4399         return s;
4400     }
4401     if (*s == '$' && s[1] &&
4402       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4403     {
4404         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4405             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4406         else
4407             return s;
4408     }
4409     if (*s == '{') {
4410         bracket = s;
4411         s++;
4412     }
4413     else if (ck_uni)
4414         check_uni();
4415     if (s < send)
4416         *d = *s++;
4417     d[1] = '\0';
4418     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4419         *d = toCTRL(*s);
4420         s++;
4421     }
4422     if (bracket) {
4423         if (isSPACE(s[-1])) {
4424             while (s < send) {
4425                 char ch = *s++;
4426                 if (ch != ' ' && ch != '\t') {
4427                     *d = ch;
4428                     break;
4429                 }
4430             }
4431         }
4432         if (isIDFIRST(*d)) {
4433             d++;
4434             while (isALNUM(*s) || *s == ':')
4435                 *d++ = *s++;
4436             *d = '\0';
4437             while (s < send && (*s == ' ' || *s == '\t')) s++;
4438             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4439                 if (dowarn && keyword(dest, d - dest)) {
4440                     char *brack = *s == '[' ? "[...]" : "{...}";
4441                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4442                         funny, dest, brack, funny, dest, brack);
4443                 }
4444                 lex_fakebrack = lex_brackets+1;
4445                 bracket++;
4446                 lex_brackstack[lex_brackets++] = XOPERATOR;
4447                 return s;
4448             }
4449         }
4450         if (*s == '}') {
4451             s++;
4452             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4453                 lex_state = LEX_INTERPEND;
4454             if (funny == '#')
4455                 funny = '@';
4456             if (dowarn &&
4457               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4458                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4459                     funny, dest, funny, dest);
4460         }
4461         else {
4462             s = bracket;                /* let the parser handle it */
4463             *dest = '\0';
4464         }
4465     }
4466     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4467         lex_state = LEX_INTERPEND;
4468     return s;
4469 }
4470
4471 void pmflag(pmfl,ch)
4472 U16* pmfl;
4473 int ch;
4474 {
4475     if (ch == 'i')
4476         *pmfl |= PMf_FOLD;
4477     else if (ch == 'g')
4478         *pmfl |= PMf_GLOBAL;
4479     else if (ch == 'o')
4480         *pmfl |= PMf_KEEP;
4481     else if (ch == 'm')
4482         *pmfl |= PMf_MULTILINE;
4483     else if (ch == 's')
4484         *pmfl |= PMf_SINGLELINE;
4485     else if (ch == 'x')
4486         *pmfl |= PMf_EXTENDED;
4487 }
4488
4489 static char *
4490 scan_pat(start)
4491 char *start;
4492 {
4493     PMOP *pm;
4494     char *s;
4495
4496     s = scan_str(start);
4497     if (!s) {
4498         if (lex_stuff)
4499             SvREFCNT_dec(lex_stuff);
4500         lex_stuff = Nullsv;
4501         croak("Search pattern not terminated");
4502     }
4503
4504     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4505     if (multi_open == '?')
4506         pm->op_pmflags |= PMf_ONCE;
4507     while (*s && strchr("iogmsx", *s))
4508         pmflag(&pm->op_pmflags,*s++);
4509     pm->op_pmpermflags = pm->op_pmflags;
4510
4511     lex_op = (OP*)pm;
4512     yylval.ival = OP_MATCH;
4513     return s;
4514 }
4515
4516 static char *
4517 scan_subst(start)
4518 char *start;
4519 {
4520     register char *s;
4521     register PMOP *pm;
4522     I32 first_start;
4523     I32 es = 0;
4524
4525     yylval.ival = OP_NULL;
4526
4527     s = scan_str(start);
4528
4529     if (!s) {
4530         if (lex_stuff)
4531             SvREFCNT_dec(lex_stuff);
4532         lex_stuff = Nullsv;
4533         croak("Substitution pattern not terminated");
4534     }
4535
4536     if (s[-1] == multi_open)
4537         s--;
4538
4539     first_start = multi_start;
4540     s = scan_str(s);
4541     if (!s) {
4542         if (lex_stuff)
4543             SvREFCNT_dec(lex_stuff);
4544         lex_stuff = Nullsv;
4545         if (lex_repl)
4546             SvREFCNT_dec(lex_repl);
4547         lex_repl = Nullsv;
4548         croak("Substitution replacement not terminated");
4549     }
4550     multi_start = first_start;  /* so whole substitution is taken together */
4551
4552     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4553     while (*s && strchr("iogmsex", *s)) {
4554         if (*s == 'e') {
4555             s++;
4556             es++;
4557         }
4558         else
4559             pmflag(&pm->op_pmflags,*s++);
4560     }
4561
4562     if (es) {
4563         SV *repl;
4564         pm->op_pmflags |= PMf_EVAL;
4565         repl = newSVpv("",0);
4566         while (es-- > 0)
4567             sv_catpv(repl, es ? "eval " : "do ");
4568         sv_catpvn(repl, "{ ", 2);
4569         sv_catsv(repl, lex_repl);
4570         sv_catpvn(repl, " };", 2);
4571         SvCOMPILED_on(repl);
4572         SvREFCNT_dec(lex_repl);
4573         lex_repl = repl;
4574     }
4575
4576     pm->op_pmpermflags = pm->op_pmflags;
4577     lex_op = (OP*)pm;
4578     yylval.ival = OP_SUBST;
4579     return s;
4580 }
4581
4582 void
4583 hoistmust(pm)
4584 register PMOP *pm;
4585 {
4586     if (!pm->op_pmshort && pm->op_pmregexp->regstart &&
4587         (!pm->op_pmregexp->regmust || pm->op_pmregexp->reganch & ROPT_ANCH)
4588        ) {
4589         if (!(pm->op_pmregexp->reganch & ROPT_ANCH))
4590             pm->op_pmflags |= PMf_SCANFIRST;
4591         pm->op_pmshort = SvREFCNT_inc(pm->op_pmregexp->regstart);
4592         pm->op_pmslen = SvCUR(pm->op_pmshort);
4593     }
4594     else if (pm->op_pmregexp->regmust) {/* is there a better short-circuit? */
4595         if (pm->op_pmshort &&
4596           sv_eq(pm->op_pmshort,pm->op_pmregexp->regmust))
4597         {
4598             if (pm->op_pmflags & PMf_SCANFIRST) {
4599                 SvREFCNT_dec(pm->op_pmshort);
4600                 pm->op_pmshort = Nullsv;
4601             }
4602             else {
4603                 SvREFCNT_dec(pm->op_pmregexp->regmust);
4604                 pm->op_pmregexp->regmust = Nullsv;
4605                 return;
4606             }
4607         }
4608         /* promote the better string */
4609         if ((!pm->op_pmshort &&
4610              !(pm->op_pmregexp->reganch & ROPT_ANCH_GPOS)) ||
4611             ((pm->op_pmflags & PMf_SCANFIRST) &&
4612              (SvCUR(pm->op_pmshort) < SvCUR(pm->op_pmregexp->regmust)))) {
4613             SvREFCNT_dec(pm->op_pmshort);               /* ok if null */
4614             pm->op_pmshort = pm->op_pmregexp->regmust;
4615             pm->op_pmslen = SvCUR(pm->op_pmshort);
4616             pm->op_pmregexp->regmust = Nullsv;
4617             pm->op_pmflags |= PMf_SCANFIRST;
4618         }
4619     }
4620 }
4621
4622 static char *
4623 scan_trans(start)
4624 char *start;
4625 {
4626     register char* s;
4627     OP *op;
4628     short *tbl;
4629     I32 squash;
4630     I32 delete;
4631     I32 complement;
4632
4633     yylval.ival = OP_NULL;
4634
4635     s = scan_str(start);
4636     if (!s) {
4637         if (lex_stuff)
4638             SvREFCNT_dec(lex_stuff);
4639         lex_stuff = Nullsv;
4640         croak("Translation pattern not terminated");
4641     }
4642     if (s[-1] == multi_open)
4643         s--;
4644
4645     s = scan_str(s);
4646     if (!s) {
4647         if (lex_stuff)
4648             SvREFCNT_dec(lex_stuff);
4649         lex_stuff = Nullsv;
4650         if (lex_repl)
4651             SvREFCNT_dec(lex_repl);
4652         lex_repl = Nullsv;
4653         croak("Translation replacement not terminated");
4654     }
4655
4656     New(803,tbl,256,short);
4657     op = newPVOP(OP_TRANS, 0, (char*)tbl);
4658
4659     complement = delete = squash = 0;
4660     while (*s == 'c' || *s == 'd' || *s == 's') {
4661         if (*s == 'c')
4662             complement = OPpTRANS_COMPLEMENT;
4663         else if (*s == 'd')
4664             delete = OPpTRANS_DELETE;
4665         else
4666             squash = OPpTRANS_SQUASH;
4667         s++;
4668     }
4669     op->op_private = delete|squash|complement;
4670
4671     lex_op = op;
4672     yylval.ival = OP_TRANS;
4673     return s;
4674 }
4675
4676 static char *
4677 scan_heredoc(s)
4678 register char *s;
4679 {
4680     SV *herewas;
4681     I32 op_type = OP_SCALAR;
4682     I32 len;
4683     SV *tmpstr;
4684     char term;
4685     register char *d;
4686     char *peek;
4687     int outer = (rsfp && !lex_inwhat);
4688
4689     s += 2;
4690     d = tokenbuf;
4691     if (!outer)
4692         *d++ = '\n';
4693     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4694     if (*peek && strchr("`'\"",*peek)) {
4695         s = peek;
4696         term = *s++;
4697         s = cpytill(d,s,bufend,term,&len);
4698         if (s < bufend)
4699             s++;
4700         d += len;
4701     }
4702     else {
4703         if (*s == '\\')
4704             s++, term = '\'';
4705         else
4706             term = '"';
4707         if (!isALNUM(*s))
4708             deprecate("bare << to mean <<\"\"");
4709         while (isALNUM(*s))
4710             *d++ = *s++;
4711     }                           /* assuming tokenbuf won't clobber */
4712     *d++ = '\n';
4713     *d = '\0';
4714     len = d - tokenbuf;
4715     d = "\n";
4716     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4717         herewas = newSVpv(s,bufend-s);
4718     else
4719         s--, herewas = newSVpv(s,d-s);
4720     s += SvCUR(herewas);
4721
4722     tmpstr = NEWSV(87,80);
4723     sv_upgrade(tmpstr, SVt_PVIV);
4724     if (term == '\'') {
4725         op_type = OP_CONST;
4726         SvIVX(tmpstr) = -1;
4727     }
4728     else if (term == '`') {
4729         op_type = OP_BACKTICK;
4730         SvIVX(tmpstr) = '\\';
4731     }
4732
4733     CLINE;
4734     multi_start = curcop->cop_line;
4735     multi_open = multi_close = '<';
4736     term = *tokenbuf;
4737     if (!outer) {
4738         d = s;
4739         while (s < bufend &&
4740           (*s != term || memNE(s,tokenbuf,len)) ) {
4741             if (*s++ == '\n')
4742                 curcop->cop_line++;
4743         }
4744         if (s >= bufend) {
4745             curcop->cop_line = multi_start;
4746             missingterm(tokenbuf);
4747         }
4748         sv_setpvn(tmpstr,d+1,s-d);
4749         s += len - 1;
4750         sv_catpvn(herewas,s,bufend-s);
4751         sv_setsv(linestr,herewas);
4752         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4753         bufend = SvPVX(linestr) + SvCUR(linestr);
4754     }
4755     else
4756         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4757     while (s >= bufend) {       /* multiple line string? */
4758         if (!outer ||
4759          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4760             curcop->cop_line = multi_start;
4761             missingterm(tokenbuf);
4762         }
4763         curcop->cop_line++;
4764         if (perldb && curstash != debstash) {
4765             SV *sv = NEWSV(88,0);
4766
4767             sv_upgrade(sv, SVt_PVMG);
4768             sv_setsv(sv,linestr);
4769             av_store(GvAV(curcop->cop_filegv),
4770               (I32)curcop->cop_line,sv);
4771         }
4772         bufend = SvPVX(linestr) + SvCUR(linestr);
4773         if (*s == term && memEQ(s,tokenbuf,len)) {
4774             s = bufend - 1;
4775             *s = ' ';
4776             sv_catsv(linestr,herewas);
4777             bufend = SvPVX(linestr) + SvCUR(linestr);
4778         }
4779         else {
4780             s = bufend;
4781             sv_catsv(tmpstr,linestr);
4782         }
4783     }
4784     multi_end = curcop->cop_line;
4785     s++;
4786     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4787         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4788         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4789     }
4790     SvREFCNT_dec(herewas);
4791     lex_stuff = tmpstr;
4792     yylval.ival = op_type;
4793     return s;
4794 }
4795
4796 static char *
4797 scan_inputsymbol(start)
4798 char *start;
4799 {
4800     register char *s = start;
4801     register char *d;
4802     I32 len;
4803
4804     d = tokenbuf;
4805     s = cpytill(d, s+1, bufend, '>', &len);
4806     if (s < bufend)
4807         s++;
4808     else
4809         croak("Unterminated <> operator");
4810
4811     if (*d == '$' && d[1]) d++;
4812     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4813         d++;
4814     if (d - tokenbuf != len) {
4815         yylval.ival = OP_GLOB;
4816         set_csh();
4817         s = scan_str(start);
4818         if (!s)
4819             croak("Glob not terminated");
4820         return s;
4821     }
4822     else {
4823         d = tokenbuf;
4824         if (!len)
4825             (void)strcpy(d,"ARGV");
4826         if (*d == '$') {
4827             I32 tmp;
4828             if (tmp = pad_findmy(d)) {
4829                 OP *op = newOP(OP_PADSV, 0);
4830                 op->op_targ = tmp;
4831                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, op));
4832             }
4833             else {
4834                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4835                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4836                                         newUNOP(OP_RV2GV, 0,
4837                                             newUNOP(OP_RV2SV, 0,
4838                                                 newGVOP(OP_GV, 0, gv))));
4839             }
4840             yylval.ival = OP_NULL;
4841         }
4842         else {
4843             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4844             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4845             yylval.ival = OP_NULL;
4846         }
4847     }
4848     return s;
4849 }
4850
4851 static char *
4852 scan_str(start)
4853 char *start;
4854 {
4855     SV *sv;
4856     char *tmps;
4857     register char *s = start;
4858     register char term;
4859     register char *to;
4860     I32 brackets = 1;
4861
4862     if (isSPACE(*s))
4863         s = skipspace(s);
4864     CLINE;
4865     term = *s;
4866     multi_start = curcop->cop_line;
4867     multi_open = term;
4868     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4869         term = tmps[5];
4870     multi_close = term;
4871
4872     sv = NEWSV(87,80);
4873     sv_upgrade(sv, SVt_PVIV);
4874     SvIVX(sv) = term;
4875     (void)SvPOK_only(sv);               /* validate pointer */
4876     s++;
4877     for (;;) {
4878         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
4879         to = SvPVX(sv)+SvCUR(sv);
4880         if (multi_open == multi_close) {
4881             for (; s < bufend; s++,to++) {
4882                 if (*s == '\n' && !rsfp)
4883                     curcop->cop_line++;
4884                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4885                     if (s[1] == term)
4886                         s++;
4887                     else
4888                         *to++ = *s++;
4889                 }
4890                 else if (*s == term)
4891                     break;
4892                 *to = *s;
4893             }
4894         }
4895         else {
4896             for (; s < bufend; s++,to++) {
4897                 if (*s == '\n' && !rsfp)
4898                     curcop->cop_line++;
4899                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4900                     if (s[1] == term)
4901                         s++;
4902                     else
4903                         *to++ = *s++;
4904                 }
4905                 else if (*s == term && --brackets <= 0)
4906                     break;
4907                 else if (*s == multi_open)
4908                     brackets++;
4909                 *to = *s;
4910             }
4911         }
4912         *to = '\0';
4913         SvCUR_set(sv, to - SvPVX(sv));
4914
4915     if (s < bufend) break;      /* string ends on this line? */
4916
4917         if (!rsfp ||
4918          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4919             sv_free(sv);
4920             curcop->cop_line = multi_start;
4921             return Nullch;
4922         }
4923         curcop->cop_line++;
4924         if (perldb && curstash != debstash) {
4925             SV *sv = NEWSV(88,0);
4926
4927             sv_upgrade(sv, SVt_PVMG);
4928             sv_setsv(sv,linestr);
4929             av_store(GvAV(curcop->cop_filegv),
4930               (I32)curcop->cop_line, sv);
4931         }
4932         bufend = SvPVX(linestr) + SvCUR(linestr);
4933     }
4934     multi_end = curcop->cop_line;
4935     s++;
4936     if (SvCUR(sv) + 5 < SvLEN(sv)) {
4937         SvLEN_set(sv, SvCUR(sv) + 1);
4938         Renew(SvPVX(sv), SvLEN(sv), char);
4939     }
4940     if (lex_stuff)
4941         lex_repl = sv;
4942     else
4943         lex_stuff = sv;
4944     return s;
4945 }
4946
4947 char *
4948 scan_num(start)
4949 char *start;
4950 {
4951     register char *s = start;
4952     register char *d;
4953     I32 tryiv;
4954     double value;
4955     SV *sv;
4956     I32 floatit;
4957     char *lastub = 0;
4958
4959     switch (*s) {
4960     default:
4961         croak("panic: scan_num");
4962     case '0':
4963         {
4964             UV u;
4965             I32 shift;
4966             bool overflowed = FALSE;
4967
4968             if (s[1] == 'x') {
4969                 shift = 4;
4970                 s += 2;
4971             }
4972             else if (s[1] == '.')
4973                 goto decimal;
4974             else
4975                 shift = 3;
4976             u = 0;
4977             for (;;) {
4978                 UV n, b;
4979
4980                 switch (*s) {
4981                 default:
4982                     goto out;
4983                 case '_':
4984                     s++;
4985                     break;
4986                 case '8': case '9':
4987                     if (shift != 4)
4988                         yyerror("Illegal octal digit");
4989                     /* FALL THROUGH */
4990                 case '0': case '1': case '2': case '3': case '4':
4991                 case '5': case '6': case '7':
4992                     b = *s++ & 15;
4993                     goto digit;
4994                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
4995                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
4996                     if (shift != 4)
4997                         goto out;
4998                     b = (*s++ & 7) + 9;
4999                   digit:
5000                     n = u << shift;
5001                     if (!overflowed && (n >> shift) != u) {
5002                         warn("Integer overflow in %s number",
5003                              (shift == 4) ? "hex" : "octal");
5004                         overflowed = TRUE;
5005                     }
5006                     u = n | b;
5007                     break;
5008                 }
5009             }
5010           out:
5011             sv = NEWSV(92,0);
5012             sv_setuv(sv, u);
5013         }
5014         break;
5015     case '1': case '2': case '3': case '4': case '5':
5016     case '6': case '7': case '8': case '9': case '.':
5017       decimal:
5018         d = tokenbuf;
5019         floatit = FALSE;
5020         while (isDIGIT(*s) || *s == '_') {
5021             if (*s == '_') {
5022                 if (dowarn && lastub && s - lastub != 3)
5023                     warn("Misplaced _ in number");
5024                 lastub = ++s;
5025             }
5026             else
5027                 *d++ = *s++;
5028         }
5029         if (dowarn && lastub && s - lastub != 3)
5030             warn("Misplaced _ in number");
5031         if (*s == '.' && s[1] != '.') {
5032             floatit = TRUE;
5033             *d++ = *s++;
5034             while (isDIGIT(*s) || *s == '_') {
5035                 if (*s == '_')
5036                     s++;
5037                 else
5038                     *d++ = *s++;
5039             }
5040         }
5041         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5042             floatit = TRUE;
5043             s++;
5044             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5045             if (*s == '+' || *s == '-')
5046                 *d++ = *s++;
5047             while (isDIGIT(*s))
5048                 *d++ = *s++;
5049         }
5050         *d = '\0';
5051         sv = NEWSV(92,0);
5052         SET_NUMERIC_STANDARD();
5053         value = atof(tokenbuf);
5054         tryiv = I_V(value);
5055         if (!floatit && (double)tryiv == value)
5056             sv_setiv(sv, tryiv);
5057         else
5058             sv_setnv(sv, value);
5059         break;
5060     }
5061
5062     yylval.opval = newSVOP(OP_CONST, 0, sv);
5063
5064     return s;
5065 }
5066
5067 static char *
5068 scan_formline(s)
5069 register char *s;
5070 {
5071     register char *eol;
5072     register char *t;
5073     SV *stuff = newSVpv("",0);
5074     bool needargs = FALSE;
5075
5076     while (!needargs) {
5077         if (*s == '.' || *s == '}') {
5078             /*SUPPRESS 530*/
5079             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5080             if (*t == '\n')
5081                 break;
5082         }
5083         if (in_eval && !rsfp) {
5084             eol = strchr(s,'\n');
5085             if (!eol++)
5086                 eol = bufend;
5087         }
5088         else
5089             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5090         if (*s != '#') {
5091             for (t = s; t < eol; t++) {
5092                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5093                     needargs = FALSE;
5094                     goto enough;        /* ~~ must be first line in formline */
5095                 }
5096                 if (*t == '@' || *t == '^')
5097                     needargs = TRUE;
5098             }
5099             sv_catpvn(stuff, s, eol-s);
5100         }
5101         s = eol;
5102         if (rsfp) {
5103             s = filter_gets(linestr, rsfp, 0);
5104             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5105             bufend = bufptr + SvCUR(linestr);
5106             if (!s) {
5107                 s = bufptr;
5108                 yyerror("Format not terminated");
5109                 break;
5110             }
5111         }
5112         incline(s);
5113     }
5114   enough:
5115     if (SvCUR(stuff)) {
5116         expect = XTERM;
5117         if (needargs) {
5118             lex_state = LEX_NORMAL;
5119             nextval[nexttoke].ival = 0;
5120             force_next(',');
5121         }
5122         else
5123             lex_state = LEX_FORMLINE;
5124         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5125         force_next(THING);
5126         nextval[nexttoke].ival = OP_FORMLINE;
5127         force_next(LSTOP);
5128     }
5129     else {
5130         SvREFCNT_dec(stuff);
5131         lex_formbrack = 0;
5132         bufptr = s;
5133     }
5134     return s;
5135 }
5136
5137 static void
5138 set_csh()
5139 {
5140 #ifdef CSH
5141     if (!cshlen)
5142         cshlen = strlen(cshname);
5143 #endif
5144 }
5145
5146 I32
5147 start_subparse(is_format, flags)
5148 I32 is_format;
5149 U32 flags;
5150 {
5151     I32 oldsavestack_ix = savestack_ix;
5152     CV* outsidecv = compcv;
5153     AV* comppadlist;
5154
5155     if (compcv) {
5156         assert(SvTYPE(compcv) == SVt_PVCV);
5157     }
5158     save_I32(&subline);
5159     save_item(subname);
5160     SAVEI32(padix);
5161     SAVESPTR(curpad);
5162     SAVESPTR(comppad);
5163     SAVESPTR(comppad_name);
5164     SAVESPTR(compcv);
5165     SAVEI32(comppad_name_fill);
5166     SAVEI32(min_intro_pending);
5167     SAVEI32(max_intro_pending);
5168     SAVEI32(pad_reset_pending);
5169
5170     compcv = (CV*)NEWSV(1104,0);
5171     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5172     CvFLAGS(compcv) |= flags;
5173
5174     comppad = newAV();
5175     comppad_name = newAV();
5176     comppad_name_fill = 0;
5177     min_intro_pending = 0;
5178     av_push(comppad, Nullsv);
5179     curpad = AvARRAY(comppad);
5180     padix = 0;
5181     subline = curcop->cop_line;
5182
5183     comppadlist = newAV();
5184     AvREAL_off(comppadlist);
5185     av_store(comppadlist, 0, (SV*)comppad_name);
5186     av_store(comppadlist, 1, (SV*)comppad);
5187
5188     CvPADLIST(compcv) = comppadlist;
5189     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc((SV*)outsidecv);
5190
5191     return oldsavestack_ix;
5192 }
5193
5194 int
5195 yywarn(s)
5196 char *s;
5197 {
5198     --error_count;
5199     in_eval |= 2;
5200     yyerror(s);
5201     in_eval &= ~2;
5202     return 0;
5203 }
5204
5205 int
5206 yyerror(s)
5207 char *s;
5208 {
5209     char wbuf[40];
5210     char *where = NULL;
5211     char *context = NULL;
5212     int contlen = -1;
5213
5214     if (!yychar || (yychar == ';' && !rsfp))
5215         where = "at EOF";
5216     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5217       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5218         while (isSPACE(*oldoldbufptr))
5219             oldoldbufptr++;
5220         context = oldoldbufptr;
5221         contlen = bufptr - oldoldbufptr;
5222     }
5223     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5224       oldbufptr != bufptr) {
5225         while (isSPACE(*oldbufptr))
5226             oldbufptr++;
5227         context = oldbufptr;
5228         contlen = bufptr - oldbufptr;
5229     }
5230     else if (yychar > 255)
5231         where = "next token ???";
5232     else if ((yychar & 127) == 127) {
5233         if (lex_state == LEX_NORMAL ||
5234            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5235             where = "at end of line";
5236         else if (lex_inpat)
5237             where = "within pattern";
5238         else
5239             where = "within string";
5240     }
5241     else if (yychar < 32)
5242         (void)sprintf(where = wbuf, "next char ^%c", toCTRL(yychar));
5243     else if (isPRINT_LC(yychar))
5244         (void)sprintf(where = wbuf, "next char %c", yychar);
5245     else
5246         (void)sprintf(where = wbuf, "next char \\%03o", yychar & 255);
5247     if (contlen == -1)
5248         contlen = strlen(where);
5249     (void)sprintf(buf, "%s at %s line %d, ",
5250                   s, SvPVX(GvSV(curcop->cop_filegv)), curcop->cop_line);
5251     if (context)
5252         (void)sprintf(buf+strlen(buf), "near \"%.*s\"\n", contlen, context);
5253     else
5254         (void)sprintf(buf+strlen(buf), "%s\n", where);
5255     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5256         sprintf(buf+strlen(buf),
5257         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5258                 (int)multi_open,(int)multi_close,(long)multi_start);
5259         multi_end = 0;
5260     }
5261     if (in_eval & 2)
5262         warn("%s",buf);
5263     else if (in_eval)
5264         sv_catpv(GvSV(errgv),buf);
5265     else
5266         PerlIO_printf(PerlIO_stderr(), "%s",buf);
5267     if (++error_count >= 10)
5268         croak("%s has too many errors.\n",
5269         SvPVX(GvSV(curcop->cop_filegv)));
5270     in_my = 0;
5271     return 0;
5272 }