This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
perl5db.pl POD cleanup
[perl5.git] / toke.c
1 /*    toke.c
2  *
3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
4  *    2000, 2001, 2002, 2003, 2004, by Larry Wall and others
5  *
6  *    You may distribute under the terms of either the GNU General Public
7  *    License or the Artistic License, as specified in the README file.
8  *
9  */
10
11 /*
12  *   "It all comes from here, the stench and the peril."  --Frodo
13  */
14
15 /*
16  * This file is the lexer for Perl.  It's closely linked to the
17  * parser, perly.y.
18  *
19  * The main routine is yylex(), which returns the next token.
20  */
21
22 #include "EXTERN.h"
23 #define PERL_IN_TOKE_C
24 #include "perl.h"
25
26 #define yychar  (*PL_yycharp)
27 #define yylval  (*PL_yylvalp)
28
29 static char ident_too_long[] = "Identifier too long";
30 static char c_without_g[] = "Use of /c modifier is meaningless without /g";
31 static char c_in_subst[] = "Use of /c modifier is meaningless in s///";
32
33 static void restore_rsfp(pTHX_ void *f);
34 #ifndef PERL_NO_UTF16_FILTER
35 static I32 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen);
36 static I32 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen);
37 #endif
38
39 #define XFAKEBRACK 128
40 #define XENUMMASK 127
41
42 #ifdef USE_UTF8_SCRIPTS
43 #   define UTF (!IN_BYTES)
44 #else
45 #   define UTF ((PL_linestr && DO_UTF8(PL_linestr)) || (PL_hints & HINT_UTF8))
46 #endif
47
48 /* In variables named $^X, these are the legal values for X.
49  * 1999-02-27 mjd-perl-patch@plover.com */
50 #define isCONTROLVAR(x) (isUPPER(x) || strchr("[\\]^_?", (x)))
51
52 /* On MacOS, respect nonbreaking spaces */
53 #ifdef MACOS_TRADITIONAL
54 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\312'||(c)=='\t')
55 #else
56 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\t')
57 #endif
58
59 /* LEX_* are values for PL_lex_state, the state of the lexer.
60  * They are arranged oddly so that the guard on the switch statement
61  * can get by with a single comparison (if the compiler is smart enough).
62  */
63
64 /* #define LEX_NOTPARSING               11 is done in perl.h. */
65
66 #define LEX_NORMAL              10
67 #define LEX_INTERPNORMAL         9
68 #define LEX_INTERPCASEMOD        8
69 #define LEX_INTERPPUSH           7
70 #define LEX_INTERPSTART          6
71 #define LEX_INTERPEND            5
72 #define LEX_INTERPENDMAYBE       4
73 #define LEX_INTERPCONCAT         3
74 #define LEX_INTERPCONST          2
75 #define LEX_FORMLINE             1
76 #define LEX_KNOWNEXT             0
77
78 #ifdef DEBUGGING
79 static char* lex_state_names[] = {
80     "KNOWNEXT",
81     "FORMLINE",
82     "INTERPCONST",
83     "INTERPCONCAT",
84     "INTERPENDMAYBE",
85     "INTERPEND",
86     "INTERPSTART",
87     "INTERPPUSH",
88     "INTERPCASEMOD",
89     "INTERPNORMAL",
90     "NORMAL"
91 };
92 #endif
93
94 #ifdef ff_next
95 #undef ff_next
96 #endif
97
98 #include "keywords.h"
99
100 /* CLINE is a macro that ensures PL_copline has a sane value */
101
102 #ifdef CLINE
103 #undef CLINE
104 #endif
105 #define CLINE (PL_copline = (CopLINE(PL_curcop) < PL_copline ? CopLINE(PL_curcop) : PL_copline))
106
107 /*
108  * Convenience functions to return different tokens and prime the
109  * lexer for the next token.  They all take an argument.
110  *
111  * TOKEN        : generic token (used for '(', DOLSHARP, etc)
112  * OPERATOR     : generic operator
113  * AOPERATOR    : assignment operator
114  * PREBLOCK     : beginning the block after an if, while, foreach, ...
115  * PRETERMBLOCK : beginning a non-code-defining {} block (eg, hash ref)
116  * PREREF       : *EXPR where EXPR is not a simple identifier
117  * TERM         : expression term
118  * LOOPX        : loop exiting command (goto, last, dump, etc)
119  * FTST         : file test operator
120  * FUN0         : zero-argument function
121  * FUN1         : not used, except for not, which isn't a UNIOP
122  * BOop         : bitwise or or xor
123  * BAop         : bitwise and
124  * SHop         : shift operator
125  * PWop         : power operator
126  * PMop         : pattern-matching operator
127  * Aop          : addition-level operator
128  * Mop          : multiplication-level operator
129  * Eop          : equality-testing operator
130  * Rop          : relational operator <= != gt
131  *
132  * Also see LOP and lop() below.
133  */
134
135 #ifdef DEBUGGING /* Serve -DT. */
136 #   define REPORT(retval) tokereport(s,(int)retval)
137 #else
138 #   define REPORT(retval) (retval)
139 #endif
140
141 #define TOKEN(retval) return ( PL_bufptr = s, REPORT(retval))
142 #define OPERATOR(retval) return (PL_expect = XTERM, PL_bufptr = s, REPORT(retval))
143 #define AOPERATOR(retval) return ao((PL_expect = XTERM, PL_bufptr = s, REPORT(retval)))
144 #define PREBLOCK(retval) return (PL_expect = XBLOCK,PL_bufptr = s, REPORT(retval))
145 #define PRETERMBLOCK(retval) return (PL_expect = XTERMBLOCK,PL_bufptr = s, REPORT(retval))
146 #define PREREF(retval) return (PL_expect = XREF,PL_bufptr = s, REPORT(retval))
147 #define TERM(retval) return (CLINE, PL_expect = XOPERATOR, PL_bufptr = s, REPORT(retval))
148 #define LOOPX(f) return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)LOOPEX))
149 #define FTST(f)  return (yylval.ival=f, PL_expect=XTERMORDORDOR, PL_bufptr=s, REPORT((int)UNIOP))
150 #define FUN0(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC0))
151 #define FUN1(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC1))
152 #define BOop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITOROP)))
153 #define BAop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITANDOP)))
154 #define SHop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)SHIFTOP)))
155 #define PWop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)POWOP)))
156 #define PMop(f)  return(yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MATCHOP))
157 #define Aop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)ADDOP)))
158 #define Mop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MULOP)))
159 #define Eop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)EQOP))
160 #define Rop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)RELOP))
161
162 /* This bit of chicanery makes a unary function followed by
163  * a parenthesis into a function with one argument, highest precedence.
164  * The UNIDOR macro is for unary functions that can be followed by the //
165  * operator (such as C<shift // 0>).
166  */
167 #define UNI2(f,x) return ( \
168         yylval.ival = f, \
169         PL_expect = x, \
170         PL_bufptr = s, \
171         PL_last_uni = PL_oldbufptr, \
172         PL_last_lop_op = f, \
173         REPORT( \
174             (*s == '(' || (s = skipspace(s), *s == '(')  \
175             ? (int)FUNC1 : (int)UNIOP)))
176 #define UNI(f)    UNI2(f,XTERM)
177 #define UNIDOR(f) UNI2(f,XTERMORDORDOR)
178
179 #define UNIBRACK(f) return ( \
180         yylval.ival = f, \
181         PL_bufptr = s, \
182         PL_last_uni = PL_oldbufptr, \
183         REPORT( \
184             (*s == '(' || (s = skipspace(s), *s == '(') \
185         ? (int)FUNC1 : (int)UNIOP)))
186
187 /* grandfather return to old style */
188 #define OLDLOP(f) return(yylval.ival=f,PL_expect = XTERM,PL_bufptr = s,(int)LSTOP)
189
190 #ifdef DEBUGGING
191
192 /* how to interpret the yylval associated with the token */
193 enum token_type {
194     TOKENTYPE_NONE,
195     TOKENTYPE_IVAL,
196     TOKENTYPE_OPNUM, /* yylval.ival contains an opcode number */
197     TOKENTYPE_PVAL,
198     TOKENTYPE_OPVAL,
199     TOKENTYPE_GVVAL
200 };
201
202 static struct debug_tokens { int token, type; char *name;} debug_tokens[] =
203 {
204     { ADDOP,            TOKENTYPE_OPNUM,        "ADDOP" },
205     { ANDAND,           TOKENTYPE_NONE,         "ANDAND" },
206     { ANDOP,            TOKENTYPE_NONE,         "ANDOP" },
207     { ANONSUB,          TOKENTYPE_IVAL,         "ANONSUB" },
208     { ARROW,            TOKENTYPE_NONE,         "ARROW" },
209     { ASSIGNOP,         TOKENTYPE_OPNUM,        "ASSIGNOP" },
210     { BITANDOP,         TOKENTYPE_OPNUM,        "BITANDOP" },
211     { BITOROP,          TOKENTYPE_OPNUM,        "BITOROP" },
212     { COLONATTR,        TOKENTYPE_NONE,         "COLONATTR" },
213     { CONTINUE,         TOKENTYPE_NONE,         "CONTINUE" },
214     { DO,               TOKENTYPE_NONE,         "DO" },
215     { DOLSHARP,         TOKENTYPE_NONE,         "DOLSHARP" },
216     { DORDOR,           TOKENTYPE_NONE,         "DORDOR" },
217     { DOROP,            TOKENTYPE_OPNUM,        "DOROP" },
218     { DOTDOT,           TOKENTYPE_IVAL,         "DOTDOT" },
219     { ELSE,             TOKENTYPE_NONE,         "ELSE" },
220     { ELSIF,            TOKENTYPE_IVAL,         "ELSIF" },
221     { EQOP,             TOKENTYPE_OPNUM,        "EQOP" },
222     { FOR,              TOKENTYPE_IVAL,         "FOR" },
223     { FORMAT,           TOKENTYPE_NONE,         "FORMAT" },
224     { FUNC,             TOKENTYPE_OPNUM,        "FUNC" },
225     { FUNC0,            TOKENTYPE_OPNUM,        "FUNC0" },
226     { FUNC0SUB,         TOKENTYPE_OPVAL,        "FUNC0SUB" },
227     { FUNC1,            TOKENTYPE_OPNUM,        "FUNC1" },
228     { FUNCMETH,         TOKENTYPE_OPVAL,        "FUNCMETH" },
229     { HASHBRACK,        TOKENTYPE_NONE,         "HASHBRACK" },
230     { IF,               TOKENTYPE_IVAL,         "IF" },
231     { LABEL,            TOKENTYPE_PVAL,         "LABEL" },
232     { LOCAL,            TOKENTYPE_IVAL,         "LOCAL" },
233     { LOOPEX,           TOKENTYPE_OPNUM,        "LOOPEX" },
234     { LSTOP,            TOKENTYPE_OPNUM,        "LSTOP" },
235     { LSTOPSUB,         TOKENTYPE_OPVAL,        "LSTOPSUB" },
236     { MATCHOP,          TOKENTYPE_OPNUM,        "MATCHOP" },
237     { METHOD,           TOKENTYPE_OPVAL,        "METHOD" },
238     { MULOP,            TOKENTYPE_OPNUM,        "MULOP" },
239     { MY,               TOKENTYPE_IVAL,         "MY" },
240     { MYSUB,            TOKENTYPE_NONE,         "MYSUB" },
241     { NOAMP,            TOKENTYPE_NONE,         "NOAMP" },
242     { NOTOP,            TOKENTYPE_NONE,         "NOTOP" },
243     { OROP,             TOKENTYPE_IVAL,         "OROP" },
244     { OROR,             TOKENTYPE_NONE,         "OROR" },
245     { PACKAGE,          TOKENTYPE_NONE,         "PACKAGE" },
246     { PMFUNC,           TOKENTYPE_OPVAL,        "PMFUNC" },
247     { POSTDEC,          TOKENTYPE_NONE,         "POSTDEC" },
248     { POSTINC,          TOKENTYPE_NONE,         "POSTINC" },
249     { POWOP,            TOKENTYPE_OPNUM,        "POWOP" },
250     { PREDEC,           TOKENTYPE_NONE,         "PREDEC" },
251     { PREINC,           TOKENTYPE_NONE,         "PREINC" },
252     { PRIVATEREF,       TOKENTYPE_OPVAL,        "PRIVATEREF" },
253     { REFGEN,           TOKENTYPE_NONE,         "REFGEN" },
254     { RELOP,            TOKENTYPE_OPNUM,        "RELOP" },
255     { SHIFTOP,          TOKENTYPE_OPNUM,        "SHIFTOP" },
256     { SUB,              TOKENTYPE_NONE,         "SUB" },
257     { THING,            TOKENTYPE_OPVAL,        "THING" },
258     { UMINUS,           TOKENTYPE_NONE,         "UMINUS" },
259     { UNIOP,            TOKENTYPE_OPNUM,        "UNIOP" },
260     { UNIOPSUB,         TOKENTYPE_OPVAL,        "UNIOPSUB" },
261     { UNLESS,           TOKENTYPE_IVAL,         "UNLESS" },
262     { UNTIL,            TOKENTYPE_IVAL,         "UNTIL" },
263     { USE,              TOKENTYPE_IVAL,         "USE" },
264     { WHILE,            TOKENTYPE_IVAL,         "WHILE" },
265     { WORD,             TOKENTYPE_OPVAL,        "WORD" },
266     { 0,                TOKENTYPE_NONE,         0 }
267 };
268
269 /* dump the returned token in rv, plus any optional arg in yylval */
270
271 STATIC int
272 S_tokereport(pTHX_ char* s, I32 rv)
273 {
274     if (DEBUG_T_TEST) {
275         char *name = Nullch;
276         enum token_type type = TOKENTYPE_NONE;
277         struct debug_tokens *p;
278         SV* report = NEWSV(0, 60);
279
280         Perl_sv_catpvf(aTHX_ report, "<== ");
281
282         for (p = debug_tokens; p->token; p++) {
283             if (p->token == (int)rv) {
284                 name = p->name;
285                 type = p->type;
286                 break;
287             }
288         }
289         if (name)
290             Perl_sv_catpvf(aTHX_ report, "%s", name);
291         else if ((char)rv > ' ' && (char)rv < '~')
292             Perl_sv_catpvf(aTHX_ report, "'%c'", (char)rv);
293         else if (!rv)
294             Perl_sv_catpvf(aTHX_ report, "EOF");
295         else
296             Perl_sv_catpvf(aTHX_ report, "?? %"IVdf, (IV)rv);
297         switch (type) {
298         case TOKENTYPE_NONE:
299         case TOKENTYPE_GVVAL: /* doesn't appear to be used */
300             break;
301         case TOKENTYPE_IVAL:
302             Perl_sv_catpvf(aTHX_ report, "(ival=%"IVdf")", yylval.ival);
303             break;
304         case TOKENTYPE_OPNUM:
305             Perl_sv_catpvf(aTHX_ report, "(ival=op_%s)",
306                                     PL_op_name[yylval.ival]);
307             break;
308         case TOKENTYPE_PVAL:
309             Perl_sv_catpvf(aTHX_ report, "(pval=\"%s\")", yylval.pval);
310             break;
311         case TOKENTYPE_OPVAL:
312             if (yylval.opval)
313                 Perl_sv_catpvf(aTHX_ report, "(opval=op_%s)",
314                                     PL_op_name[yylval.opval->op_type]);
315             else
316                 Perl_sv_catpv(aTHX_ report, "(opval=null)");
317             break;
318         }
319         Perl_sv_catpvf(aTHX_ report, " at line %d [", CopLINE(PL_curcop));
320         if (s - PL_bufptr > 0)
321             sv_catpvn(report, PL_bufptr, s - PL_bufptr);
322         else {
323             if (PL_oldbufptr && *PL_oldbufptr)
324                 sv_catpv(report, PL_tokenbuf);
325         }
326         PerlIO_printf(Perl_debug_log, "### %s]\n", SvPV_nolen(report));
327     };
328     return (int)rv;
329 }
330
331 #endif
332
333 /*
334  * S_ao
335  *
336  * This subroutine detects &&=, ||=, and //= and turns an ANDAND, OROR or DORDOR
337  * into an OP_ANDASSIGN, OP_ORASSIGN, or OP_DORASSIGN
338  */
339
340 STATIC int
341 S_ao(pTHX_ int toketype)
342 {
343     if (*PL_bufptr == '=') {
344         PL_bufptr++;
345         if (toketype == ANDAND)
346             yylval.ival = OP_ANDASSIGN;
347         else if (toketype == OROR)
348             yylval.ival = OP_ORASSIGN;
349         else if (toketype == DORDOR)
350             yylval.ival = OP_DORASSIGN;
351         toketype = ASSIGNOP;
352     }
353     return toketype;
354 }
355
356 /*
357  * S_no_op
358  * When Perl expects an operator and finds something else, no_op
359  * prints the warning.  It always prints "<something> found where
360  * operator expected.  It prints "Missing semicolon on previous line?"
361  * if the surprise occurs at the start of the line.  "do you need to
362  * predeclare ..." is printed out for code like "sub bar; foo bar $x"
363  * where the compiler doesn't know if foo is a method call or a function.
364  * It prints "Missing operator before end of line" if there's nothing
365  * after the missing operator, or "... before <...>" if there is something
366  * after the missing operator.
367  */
368
369 STATIC void
370 S_no_op(pTHX_ char *what, char *s)
371 {
372     char *oldbp = PL_bufptr;
373     bool is_first = (PL_oldbufptr == PL_linestart);
374
375     if (!s)
376         s = oldbp;
377     else
378         PL_bufptr = s;
379     yywarn(Perl_form(aTHX_ "%s found where operator expected", what));
380     if (ckWARN_d(WARN_SYNTAX)) {
381         if (is_first)
382             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
383                     "\t(Missing semicolon on previous line?)\n");
384         else if (PL_oldoldbufptr && isIDFIRST_lazy_if(PL_oldoldbufptr,UTF)) {
385             char *t;
386             for (t = PL_oldoldbufptr; *t && (isALNUM_lazy_if(t,UTF) || *t == ':'); t++) ;
387             if (t < PL_bufptr && isSPACE(*t))
388                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
389                         "\t(Do you need to predeclare %.*s?)\n",
390                     t - PL_oldoldbufptr, PL_oldoldbufptr);
391         }
392         else {
393             assert(s >= oldbp);
394             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
395                     "\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
396         }
397     }
398     PL_bufptr = oldbp;
399 }
400
401 /*
402  * S_missingterm
403  * Complain about missing quote/regexp/heredoc terminator.
404  * If it's called with (char *)NULL then it cauterizes the line buffer.
405  * If we're in a delimited string and the delimiter is a control
406  * character, it's reformatted into a two-char sequence like ^C.
407  * This is fatal.
408  */
409
410 STATIC void
411 S_missingterm(pTHX_ char *s)
412 {
413     char tmpbuf[3];
414     char q;
415     if (s) {
416         char *nl = strrchr(s,'\n');
417         if (nl)
418             *nl = '\0';
419     }
420     else if (
421 #ifdef EBCDIC
422         iscntrl(PL_multi_close)
423 #else
424         PL_multi_close < 32 || PL_multi_close == 127
425 #endif
426         ) {
427         *tmpbuf = '^';
428         tmpbuf[1] = toCTRL(PL_multi_close);
429         s = "\\n";
430         tmpbuf[2] = '\0';
431         s = tmpbuf;
432     }
433     else {
434         *tmpbuf = (char)PL_multi_close;
435         tmpbuf[1] = '\0';
436         s = tmpbuf;
437     }
438     q = strchr(s,'"') ? '\'' : '"';
439     Perl_croak(aTHX_ "Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
440 }
441
442 /*
443  * Perl_deprecate
444  */
445
446 void
447 Perl_deprecate(pTHX_ char *s)
448 {
449     if (ckWARN(WARN_DEPRECATED))
450         Perl_warner(aTHX_ packWARN(WARN_DEPRECATED), "Use of %s is deprecated", s);
451 }
452
453 void
454 Perl_deprecate_old(pTHX_ char *s)
455 {
456     /* This function should NOT be called for any new deprecated warnings */
457     /* Use Perl_deprecate instead                                         */
458     /*                                                                    */
459     /* It is here to maintain backward compatibility with the pre-5.8     */
460     /* warnings category hierarchy. The "deprecated" category used to     */
461     /* live under the "syntax" category. It is now a top-level category   */
462     /* in its own right.                                                  */
463
464     if (ckWARN2(WARN_DEPRECATED, WARN_SYNTAX))
465         Perl_warner(aTHX_ packWARN2(WARN_DEPRECATED, WARN_SYNTAX), 
466                         "Use of %s is deprecated", s);
467 }
468
469 /*
470  * depcom
471  * Deprecate a comma-less variable list.
472  */
473
474 STATIC void
475 S_depcom(pTHX)
476 {
477     deprecate_old("comma-less variable list");
478 }
479
480 /*
481  * experimental text filters for win32 carriage-returns, utf16-to-utf8 and
482  * utf16-to-utf8-reversed.
483  */
484
485 #ifdef PERL_CR_FILTER
486 static void
487 strip_return(SV *sv)
488 {
489     register char *s = SvPVX(sv);
490     register char *e = s + SvCUR(sv);
491     /* outer loop optimized to do nothing if there are no CR-LFs */
492     while (s < e) {
493         if (*s++ == '\r' && *s == '\n') {
494             /* hit a CR-LF, need to copy the rest */
495             register char *d = s - 1;
496             *d++ = *s++;
497             while (s < e) {
498                 if (*s == '\r' && s[1] == '\n')
499                     s++;
500                 *d++ = *s++;
501             }
502             SvCUR(sv) -= s - d;
503             return;
504         }
505     }
506 }
507
508 STATIC I32
509 S_cr_textfilter(pTHX_ int idx, SV *sv, int maxlen)
510 {
511     I32 count = FILTER_READ(idx+1, sv, maxlen);
512     if (count > 0 && !maxlen)
513         strip_return(sv);
514     return count;
515 }
516 #endif
517
518 /*
519  * Perl_lex_start
520  * Initialize variables.  Uses the Perl save_stack to save its state (for
521  * recursive calls to the parser).
522  */
523
524 void
525 Perl_lex_start(pTHX_ SV *line)
526 {
527     char *s;
528     STRLEN len;
529
530     SAVEI32(PL_lex_dojoin);
531     SAVEI32(PL_lex_brackets);
532     SAVEI32(PL_lex_casemods);
533     SAVEI32(PL_lex_starts);
534     SAVEI32(PL_lex_state);
535     SAVEVPTR(PL_lex_inpat);
536     SAVEI32(PL_lex_inwhat);
537     if (PL_lex_state == LEX_KNOWNEXT) {
538         I32 toke = PL_nexttoke;
539         while (--toke >= 0) {
540             SAVEI32(PL_nexttype[toke]);
541             SAVEVPTR(PL_nextval[toke]);
542         }
543         SAVEI32(PL_nexttoke);
544     }
545     SAVECOPLINE(PL_curcop);
546     SAVEPPTR(PL_bufptr);
547     SAVEPPTR(PL_bufend);
548     SAVEPPTR(PL_oldbufptr);
549     SAVEPPTR(PL_oldoldbufptr);
550     SAVEPPTR(PL_last_lop);
551     SAVEPPTR(PL_last_uni);
552     SAVEPPTR(PL_linestart);
553     SAVESPTR(PL_linestr);
554     SAVEGENERICPV(PL_lex_brackstack);
555     SAVEGENERICPV(PL_lex_casestack);
556     SAVEDESTRUCTOR_X(restore_rsfp, PL_rsfp);
557     SAVESPTR(PL_lex_stuff);
558     SAVEI32(PL_lex_defer);
559     SAVEI32(PL_sublex_info.sub_inwhat);
560     SAVESPTR(PL_lex_repl);
561     SAVEINT(PL_expect);
562     SAVEINT(PL_lex_expect);
563
564     PL_lex_state = LEX_NORMAL;
565     PL_lex_defer = 0;
566     PL_expect = XSTATE;
567     PL_lex_brackets = 0;
568     New(899, PL_lex_brackstack, 120, char);
569     New(899, PL_lex_casestack, 12, char);
570     PL_lex_casemods = 0;
571     *PL_lex_casestack = '\0';
572     PL_lex_dojoin = 0;
573     PL_lex_starts = 0;
574     PL_lex_stuff = Nullsv;
575     PL_lex_repl = Nullsv;
576     PL_lex_inpat = 0;
577     PL_nexttoke = 0;
578     PL_lex_inwhat = 0;
579     PL_sublex_info.sub_inwhat = 0;
580     PL_linestr = line;
581     if (SvREADONLY(PL_linestr))
582         PL_linestr = sv_2mortal(newSVsv(PL_linestr));
583     s = SvPV(PL_linestr, len);
584     if (!len || s[len-1] != ';') {
585         if (!(SvFLAGS(PL_linestr) & SVs_TEMP))
586             PL_linestr = sv_2mortal(newSVsv(PL_linestr));
587         sv_catpvn(PL_linestr, "\n;", 2);
588     }
589     SvTEMP_off(PL_linestr);
590     PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
591     PL_bufend = PL_bufptr + SvCUR(PL_linestr);
592     PL_last_lop = PL_last_uni = Nullch;
593     PL_rsfp = 0;
594 }
595
596 /*
597  * Perl_lex_end
598  * Finalizer for lexing operations.  Must be called when the parser is
599  * done with the lexer.
600  */
601
602 void
603 Perl_lex_end(pTHX)
604 {
605     PL_doextract = FALSE;
606 }
607
608 /*
609  * S_incline
610  * This subroutine has nothing to do with tilting, whether at windmills
611  * or pinball tables.  Its name is short for "increment line".  It
612  * increments the current line number in CopLINE(PL_curcop) and checks
613  * to see whether the line starts with a comment of the form
614  *    # line 500 "foo.pm"
615  * If so, it sets the current line number and file to the values in the comment.
616  */
617
618 STATIC void
619 S_incline(pTHX_ char *s)
620 {
621     char *t;
622     char *n;
623     char *e;
624     char ch;
625
626     CopLINE_inc(PL_curcop);
627     if (*s++ != '#')
628         return;
629     while (SPACE_OR_TAB(*s)) s++;
630     if (strnEQ(s, "line", 4))
631         s += 4;
632     else
633         return;
634     if (SPACE_OR_TAB(*s))
635         s++;
636     else
637         return;
638     while (SPACE_OR_TAB(*s)) s++;
639     if (!isDIGIT(*s))
640         return;
641     n = s;
642     while (isDIGIT(*s))
643         s++;
644     while (SPACE_OR_TAB(*s))
645         s++;
646     if (*s == '"' && (t = strchr(s+1, '"'))) {
647         s++;
648         e = t + 1;
649     }
650     else {
651         for (t = s; !isSPACE(*t); t++) ;
652         e = t;
653     }
654     while (SPACE_OR_TAB(*e) || *e == '\r' || *e == '\f')
655         e++;
656     if (*e != '\n' && *e != '\0')
657         return;         /* false alarm */
658
659     ch = *t;
660     *t = '\0';
661     if (t - s > 0) {
662         CopFILE_free(PL_curcop);
663         CopFILE_set(PL_curcop, s);
664     }
665     *t = ch;
666     CopLINE_set(PL_curcop, atoi(n)-1);
667 }
668
669 /*
670  * S_skipspace
671  * Called to gobble the appropriate amount and type of whitespace.
672  * Skips comments as well.
673  */
674
675 STATIC char *
676 S_skipspace(pTHX_ register char *s)
677 {
678     if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
679         while (s < PL_bufend && SPACE_OR_TAB(*s))
680             s++;
681         return s;
682     }
683     for (;;) {
684         STRLEN prevlen;
685         SSize_t oldprevlen, oldoldprevlen;
686         SSize_t oldloplen = 0, oldunilen = 0;
687         while (s < PL_bufend && isSPACE(*s)) {
688             if (*s++ == '\n' && PL_in_eval && !PL_rsfp)
689                 incline(s);
690         }
691
692         /* comment */
693         if (s < PL_bufend && *s == '#') {
694             while (s < PL_bufend && *s != '\n')
695                 s++;
696             if (s < PL_bufend) {
697                 s++;
698                 if (PL_in_eval && !PL_rsfp) {
699                     incline(s);
700                     continue;
701                 }
702             }
703         }
704
705         /* only continue to recharge the buffer if we're at the end
706          * of the buffer, we're not reading from a source filter, and
707          * we're in normal lexing mode
708          */
709         if (s < PL_bufend || !PL_rsfp || PL_sublex_info.sub_inwhat ||
710                 PL_lex_state == LEX_FORMLINE)
711             return s;
712
713         /* try to recharge the buffer */
714         if ((s = filter_gets(PL_linestr, PL_rsfp,
715                              (prevlen = SvCUR(PL_linestr)))) == Nullch)
716         {
717             /* end of file.  Add on the -p or -n magic */
718             if (PL_minus_n || PL_minus_p) {
719                 sv_setpv(PL_linestr,PL_minus_p ?
720                          ";}continue{print or die qq(-p destination: $!\\n)" :
721                          "");
722                 sv_catpv(PL_linestr,";}");
723                 PL_minus_n = PL_minus_p = 0;
724             }
725             else
726                 sv_setpv(PL_linestr,";");
727
728             /* reset variables for next time we lex */
729             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart
730                 = SvPVX(PL_linestr);
731             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
732             PL_last_lop = PL_last_uni = Nullch;
733
734             /* Close the filehandle.  Could be from -P preprocessor,
735              * STDIN, or a regular file.  If we were reading code from
736              * STDIN (because the commandline held no -e or filename)
737              * then we don't close it, we reset it so the code can
738              * read from STDIN too.
739              */
740
741             if (PL_preprocess && !PL_in_eval)
742                 (void)PerlProc_pclose(PL_rsfp);
743             else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
744                 PerlIO_clearerr(PL_rsfp);
745             else
746                 (void)PerlIO_close(PL_rsfp);
747             PL_rsfp = Nullfp;
748             return s;
749         }
750
751         /* not at end of file, so we only read another line */
752         /* make corresponding updates to old pointers, for yyerror() */
753         oldprevlen = PL_oldbufptr - PL_bufend;
754         oldoldprevlen = PL_oldoldbufptr - PL_bufend;
755         if (PL_last_uni)
756             oldunilen = PL_last_uni - PL_bufend;
757         if (PL_last_lop)
758             oldloplen = PL_last_lop - PL_bufend;
759         PL_linestart = PL_bufptr = s + prevlen;
760         PL_bufend = s + SvCUR(PL_linestr);
761         s = PL_bufptr;
762         PL_oldbufptr = s + oldprevlen;
763         PL_oldoldbufptr = s + oldoldprevlen;
764         if (PL_last_uni)
765             PL_last_uni = s + oldunilen;
766         if (PL_last_lop)
767             PL_last_lop = s + oldloplen;
768         incline(s);
769
770         /* debugger active and we're not compiling the debugger code,
771          * so store the line into the debugger's array of lines
772          */
773         if (PERLDB_LINE && PL_curstash != PL_debstash) {
774             SV *sv = NEWSV(85,0);
775
776             sv_upgrade(sv, SVt_PVMG);
777             sv_setpvn(sv,PL_bufptr,PL_bufend-PL_bufptr);
778             (void)SvIOK_on(sv);
779             SvIVX(sv) = 0;
780             av_store(CopFILEAV(PL_curcop),(I32)CopLINE(PL_curcop),sv);
781         }
782     }
783 }
784
785 /*
786  * S_check_uni
787  * Check the unary operators to ensure there's no ambiguity in how they're
788  * used.  An ambiguous piece of code would be:
789  *     rand + 5
790  * This doesn't mean rand() + 5.  Because rand() is a unary operator,
791  * the +5 is its argument.
792  */
793
794 STATIC void
795 S_check_uni(pTHX)
796 {
797     char *s;
798     char *t;
799
800     if (PL_oldoldbufptr != PL_last_uni)
801         return;
802     while (isSPACE(*PL_last_uni))
803         PL_last_uni++;
804     for (s = PL_last_uni; isALNUM_lazy_if(s,UTF) || *s == '-'; s++) ;
805     if ((t = strchr(s, '(')) && t < PL_bufptr)
806         return;
807     if (ckWARN_d(WARN_AMBIGUOUS)){
808         char ch = *s;
809         *s = '\0';
810         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
811                    "Warning: Use of \"%s\" without parentheses is ambiguous",
812                    PL_last_uni);
813         *s = ch;
814     }
815 }
816
817 /*
818  * LOP : macro to build a list operator.  Its behaviour has been replaced
819  * with a subroutine, S_lop() for which LOP is just another name.
820  */
821
822 #define LOP(f,x) return lop(f,x,s)
823
824 /*
825  * S_lop
826  * Build a list operator (or something that might be one).  The rules:
827  *  - if we have a next token, then it's a list operator [why?]
828  *  - if the next thing is an opening paren, then it's a function
829  *  - else it's a list operator
830  */
831
832 STATIC I32
833 S_lop(pTHX_ I32 f, int x, char *s)
834 {
835     yylval.ival = f;
836     CLINE;
837     PL_expect = x;
838     PL_bufptr = s;
839     PL_last_lop = PL_oldbufptr;
840     PL_last_lop_op = (OPCODE)f;
841     if (PL_nexttoke)
842         return REPORT(LSTOP);
843     if (*s == '(')
844         return REPORT(FUNC);
845     s = skipspace(s);
846     if (*s == '(')
847         return REPORT(FUNC);
848     else
849         return REPORT(LSTOP);
850 }
851
852 /*
853  * S_force_next
854  * When the lexer realizes it knows the next token (for instance,
855  * it is reordering tokens for the parser) then it can call S_force_next
856  * to know what token to return the next time the lexer is called.  Caller
857  * will need to set PL_nextval[], and possibly PL_expect to ensure the lexer
858  * handles the token correctly.
859  */
860
861 STATIC void
862 S_force_next(pTHX_ I32 type)
863 {
864     PL_nexttype[PL_nexttoke] = type;
865     PL_nexttoke++;
866     if (PL_lex_state != LEX_KNOWNEXT) {
867         PL_lex_defer = PL_lex_state;
868         PL_lex_expect = PL_expect;
869         PL_lex_state = LEX_KNOWNEXT;
870     }
871 }
872
873 /*
874  * S_force_word
875  * When the lexer knows the next thing is a word (for instance, it has
876  * just seen -> and it knows that the next char is a word char, then
877  * it calls S_force_word to stick the next word into the PL_next lookahead.
878  *
879  * Arguments:
880  *   char *start : buffer position (must be within PL_linestr)
881  *   int token   : PL_next will be this type of bare word (e.g., METHOD,WORD)
882  *   int check_keyword : if true, Perl checks to make sure the word isn't
883  *       a keyword (do this if the word is a label, e.g. goto FOO)
884  *   int allow_pack : if true, : characters will also be allowed (require,
885  *       use, etc. do this)
886  *   int allow_initial_tick : used by the "sub" lexer only.
887  */
888
889 STATIC char *
890 S_force_word(pTHX_ register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
891 {
892     register char *s;
893     STRLEN len;
894
895     start = skipspace(start);
896     s = start;
897     if (isIDFIRST_lazy_if(s,UTF) ||
898         (allow_pack && *s == ':') ||
899         (allow_initial_tick && *s == '\'') )
900     {
901         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, allow_pack, &len);
902         if (check_keyword && keyword(PL_tokenbuf, len))
903             return start;
904         if (token == METHOD) {
905             s = skipspace(s);
906             if (*s == '(')
907                 PL_expect = XTERM;
908             else {
909                 PL_expect = XOPERATOR;
910             }
911         }
912         PL_nextval[PL_nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(PL_tokenbuf,0));
913         PL_nextval[PL_nexttoke].opval->op_private |= OPpCONST_BARE;
914         if (UTF && !IN_BYTES && is_utf8_string((U8*)PL_tokenbuf, len))
915             SvUTF8_on(((SVOP*)PL_nextval[PL_nexttoke].opval)->op_sv);
916         force_next(token);
917     }
918     return s;
919 }
920
921 /*
922  * S_force_ident
923  * Called when the lexer wants $foo *foo &foo etc, but the program
924  * text only contains the "foo" portion.  The first argument is a pointer
925  * to the "foo", and the second argument is the type symbol to prefix.
926  * Forces the next token to be a "WORD".
927  * Creates the symbol if it didn't already exist (via gv_fetchpv()).
928  */
929
930 STATIC void
931 S_force_ident(pTHX_ register char *s, int kind)
932 {
933     if (s && *s) {
934         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
935         PL_nextval[PL_nexttoke].opval = o;
936         force_next(WORD);
937         if (kind) {
938             o->op_private = OPpCONST_ENTERED;
939             /* XXX see note in pp_entereval() for why we forgo typo
940                warnings if the symbol must be introduced in an eval.
941                GSAR 96-10-12 */
942             gv_fetchpv(s, PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL) : TRUE,
943                 kind == '$' ? SVt_PV :
944                 kind == '@' ? SVt_PVAV :
945                 kind == '%' ? SVt_PVHV :
946                               SVt_PVGV
947                 );
948         }
949     }
950 }
951
952 NV
953 Perl_str_to_version(pTHX_ SV *sv)
954 {
955     NV retval = 0.0;
956     NV nshift = 1.0;
957     STRLEN len;
958     char *start = SvPVx(sv,len);
959     bool utf = SvUTF8(sv) ? TRUE : FALSE;
960     char *end = start + len;
961     while (start < end) {
962         STRLEN skip;
963         UV n;
964         if (utf)
965             n = utf8n_to_uvchr((U8*)start, len, &skip, 0);
966         else {
967             n = *(U8*)start;
968             skip = 1;
969         }
970         retval += ((NV)n)/nshift;
971         start += skip;
972         nshift *= 1000;
973     }
974     return retval;
975 }
976
977 /*
978  * S_force_version
979  * Forces the next token to be a version number.
980  * If the next token appears to be an invalid version number, (e.g. "v2b"),
981  * and if "guessing" is TRUE, then no new token is created (and the caller
982  * must use an alternative parsing method).
983  */
984
985 STATIC char *
986 S_force_version(pTHX_ char *s, int guessing)
987 {
988     OP *version = Nullop;
989     char *d;
990
991     s = skipspace(s);
992
993     d = s;
994     if (*d == 'v')
995         d++;
996     if (isDIGIT(*d)) {
997         while (isDIGIT(*d) || *d == '_' || *d == '.')
998             d++;
999         if (*d == ';' || isSPACE(*d) || *d == '}' || !*d) {
1000             SV *ver;
1001             s = scan_num(s, &yylval);
1002             version = yylval.opval;
1003             ver = cSVOPx(version)->op_sv;
1004             if (SvPOK(ver) && !SvNIOK(ver)) {
1005                 (void)SvUPGRADE(ver, SVt_PVNV);
1006                 SvNVX(ver) = str_to_version(ver);
1007                 SvNOK_on(ver);          /* hint that it is a version */
1008             }
1009         }
1010         else if (guessing)
1011             return s;
1012     }
1013
1014     /* NOTE: The parser sees the package name and the VERSION swapped */
1015     PL_nextval[PL_nexttoke].opval = version;
1016     force_next(WORD);
1017
1018     return s;
1019 }
1020
1021 /*
1022  * S_tokeq
1023  * Tokenize a quoted string passed in as an SV.  It finds the next
1024  * chunk, up to end of string or a backslash.  It may make a new
1025  * SV containing that chunk (if HINT_NEW_STRING is on).  It also
1026  * turns \\ into \.
1027  */
1028
1029 STATIC SV *
1030 S_tokeq(pTHX_ SV *sv)
1031 {
1032     register char *s;
1033     register char *send;
1034     register char *d;
1035     STRLEN len = 0;
1036     SV *pv = sv;
1037
1038     if (!SvLEN(sv))
1039         goto finish;
1040
1041     s = SvPV_force(sv, len);
1042     if (SvTYPE(sv) >= SVt_PVIV && SvIVX(sv) == -1)
1043         goto finish;
1044     send = s + len;
1045     while (s < send && *s != '\\')
1046         s++;
1047     if (s == send)
1048         goto finish;
1049     d = s;
1050     if ( PL_hints & HINT_NEW_STRING ) {
1051         pv = sv_2mortal(newSVpvn(SvPVX(pv), len));
1052         if (SvUTF8(sv))
1053             SvUTF8_on(pv);
1054     }
1055     while (s < send) {
1056         if (*s == '\\') {
1057             if (s + 1 < send && (s[1] == '\\'))
1058                 s++;            /* all that, just for this */
1059         }
1060         *d++ = *s++;
1061     }
1062     *d = '\0';
1063     SvCUR_set(sv, d - SvPVX(sv));
1064   finish:
1065     if ( PL_hints & HINT_NEW_STRING )
1066        return new_constant(NULL, 0, "q", sv, pv, "q");
1067     return sv;
1068 }
1069
1070 /*
1071  * Now come three functions related to double-quote context,
1072  * S_sublex_start, S_sublex_push, and S_sublex_done.  They're used when
1073  * converting things like "\u\Lgnat" into ucfirst(lc("gnat")).  They
1074  * interact with PL_lex_state, and create fake ( ... ) argument lists
1075  * to handle functions and concatenation.
1076  * They assume that whoever calls them will be setting up a fake
1077  * join call, because each subthing puts a ',' after it.  This lets
1078  *   "lower \luPpEr"
1079  * become
1080  *  join($, , 'lower ', lcfirst( 'uPpEr', ) ,)
1081  *
1082  * (I'm not sure whether the spurious commas at the end of lcfirst's
1083  * arguments and join's arguments are created or not).
1084  */
1085
1086 /*
1087  * S_sublex_start
1088  * Assumes that yylval.ival is the op we're creating (e.g. OP_LCFIRST).
1089  *
1090  * Pattern matching will set PL_lex_op to the pattern-matching op to
1091  * make (we return THING if yylval.ival is OP_NULL, PMFUNC otherwise).
1092  *
1093  * OP_CONST and OP_READLINE are easy--just make the new op and return.
1094  *
1095  * Everything else becomes a FUNC.
1096  *
1097  * Sets PL_lex_state to LEX_INTERPPUSH unless (ival was OP_NULL or we
1098  * had an OP_CONST or OP_READLINE).  This just sets us up for a
1099  * call to S_sublex_push().
1100  */
1101
1102 STATIC I32
1103 S_sublex_start(pTHX)
1104 {
1105     register I32 op_type = yylval.ival;
1106
1107     if (op_type == OP_NULL) {
1108         yylval.opval = PL_lex_op;
1109         PL_lex_op = Nullop;
1110         return THING;
1111     }
1112     if (op_type == OP_CONST || op_type == OP_READLINE) {
1113         SV *sv = tokeq(PL_lex_stuff);
1114
1115         if (SvTYPE(sv) == SVt_PVIV) {
1116             /* Overloaded constants, nothing fancy: Convert to SVt_PV: */
1117             STRLEN len;
1118             char *p;
1119             SV *nsv;
1120
1121             p = SvPV(sv, len);
1122             nsv = newSVpvn(p, len);
1123             if (SvUTF8(sv))
1124                 SvUTF8_on(nsv);
1125             SvREFCNT_dec(sv);
1126             sv = nsv;
1127         }
1128         yylval.opval = (OP*)newSVOP(op_type, 0, sv);
1129         PL_lex_stuff = Nullsv;
1130         /* Allow <FH> // "foo" */
1131         if (op_type == OP_READLINE)
1132             PL_expect = XTERMORDORDOR;
1133         return THING;
1134     }
1135
1136     PL_sublex_info.super_state = PL_lex_state;
1137     PL_sublex_info.sub_inwhat = op_type;
1138     PL_sublex_info.sub_op = PL_lex_op;
1139     PL_lex_state = LEX_INTERPPUSH;
1140
1141     PL_expect = XTERM;
1142     if (PL_lex_op) {
1143         yylval.opval = PL_lex_op;
1144         PL_lex_op = Nullop;
1145         return PMFUNC;
1146     }
1147     else
1148         return FUNC;
1149 }
1150
1151 /*
1152  * S_sublex_push
1153  * Create a new scope to save the lexing state.  The scope will be
1154  * ended in S_sublex_done.  Returns a '(', starting the function arguments
1155  * to the uc, lc, etc. found before.
1156  * Sets PL_lex_state to LEX_INTERPCONCAT.
1157  */
1158
1159 STATIC I32
1160 S_sublex_push(pTHX)
1161 {
1162     ENTER;
1163
1164     PL_lex_state = PL_sublex_info.super_state;
1165     SAVEI32(PL_lex_dojoin);
1166     SAVEI32(PL_lex_brackets);
1167     SAVEI32(PL_lex_casemods);
1168     SAVEI32(PL_lex_starts);
1169     SAVEI32(PL_lex_state);
1170     SAVEVPTR(PL_lex_inpat);
1171     SAVEI32(PL_lex_inwhat);
1172     SAVECOPLINE(PL_curcop);
1173     SAVEPPTR(PL_bufptr);
1174     SAVEPPTR(PL_bufend);
1175     SAVEPPTR(PL_oldbufptr);
1176     SAVEPPTR(PL_oldoldbufptr);
1177     SAVEPPTR(PL_last_lop);
1178     SAVEPPTR(PL_last_uni);
1179     SAVEPPTR(PL_linestart);
1180     SAVESPTR(PL_linestr);
1181     SAVEGENERICPV(PL_lex_brackstack);
1182     SAVEGENERICPV(PL_lex_casestack);
1183
1184     PL_linestr = PL_lex_stuff;
1185     PL_lex_stuff = Nullsv;
1186
1187     PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart
1188         = SvPVX(PL_linestr);
1189     PL_bufend += SvCUR(PL_linestr);
1190     PL_last_lop = PL_last_uni = Nullch;
1191     SAVEFREESV(PL_linestr);
1192
1193     PL_lex_dojoin = FALSE;
1194     PL_lex_brackets = 0;
1195     New(899, PL_lex_brackstack, 120, char);
1196     New(899, PL_lex_casestack, 12, char);
1197     PL_lex_casemods = 0;
1198     *PL_lex_casestack = '\0';
1199     PL_lex_starts = 0;
1200     PL_lex_state = LEX_INTERPCONCAT;
1201     CopLINE_set(PL_curcop, (line_t)PL_multi_start);
1202
1203     PL_lex_inwhat = PL_sublex_info.sub_inwhat;
1204     if (PL_lex_inwhat == OP_MATCH || PL_lex_inwhat == OP_QR || PL_lex_inwhat == OP_SUBST)
1205         PL_lex_inpat = PL_sublex_info.sub_op;
1206     else
1207         PL_lex_inpat = Nullop;
1208
1209     return '(';
1210 }
1211
1212 /*
1213  * S_sublex_done
1214  * Restores lexer state after a S_sublex_push.
1215  */
1216
1217 STATIC I32
1218 S_sublex_done(pTHX)
1219 {
1220     if (!PL_lex_starts++) {
1221         SV *sv = newSVpvn("",0);
1222         if (SvUTF8(PL_linestr))
1223             SvUTF8_on(sv);
1224         PL_expect = XOPERATOR;
1225         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1226         return THING;
1227     }
1228
1229     if (PL_lex_casemods) {              /* oops, we've got some unbalanced parens */
1230         PL_lex_state = LEX_INTERPCASEMOD;
1231         return yylex();
1232     }
1233
1234     /* Is there a right-hand side to take care of? (s//RHS/ or tr//RHS/) */
1235     if (PL_lex_repl && (PL_lex_inwhat == OP_SUBST || PL_lex_inwhat == OP_TRANS)) {
1236         PL_linestr = PL_lex_repl;
1237         PL_lex_inpat = 0;
1238         PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart = SvPVX(PL_linestr);
1239         PL_bufend += SvCUR(PL_linestr);
1240         PL_last_lop = PL_last_uni = Nullch;
1241         SAVEFREESV(PL_linestr);
1242         PL_lex_dojoin = FALSE;
1243         PL_lex_brackets = 0;
1244         PL_lex_casemods = 0;
1245         *PL_lex_casestack = '\0';
1246         PL_lex_starts = 0;
1247         if (SvEVALED(PL_lex_repl)) {
1248             PL_lex_state = LEX_INTERPNORMAL;
1249             PL_lex_starts++;
1250             /*  we don't clear PL_lex_repl here, so that we can check later
1251                 whether this is an evalled subst; that means we rely on the
1252                 logic to ensure sublex_done() is called again only via the
1253                 branch (in yylex()) that clears PL_lex_repl, else we'll loop */
1254         }
1255         else {
1256             PL_lex_state = LEX_INTERPCONCAT;
1257             PL_lex_repl = Nullsv;
1258         }
1259         return ',';
1260     }
1261     else {
1262         LEAVE;
1263         PL_bufend = SvPVX(PL_linestr);
1264         PL_bufend += SvCUR(PL_linestr);
1265         PL_expect = XOPERATOR;
1266         PL_sublex_info.sub_inwhat = 0;
1267         return ')';
1268     }
1269 }
1270
1271 /*
1272   scan_const
1273
1274   Extracts a pattern, double-quoted string, or transliteration.  This
1275   is terrifying code.
1276
1277   It looks at lex_inwhat and PL_lex_inpat to find out whether it's
1278   processing a pattern (PL_lex_inpat is true), a transliteration
1279   (lex_inwhat & OP_TRANS is true), or a double-quoted string.
1280
1281   Returns a pointer to the character scanned up to. Iff this is
1282   advanced from the start pointer supplied (ie if anything was
1283   successfully parsed), will leave an OP for the substring scanned
1284   in yylval. Caller must intuit reason for not parsing further
1285   by looking at the next characters herself.
1286
1287   In patterns:
1288     backslashes:
1289       double-quoted style: \r and \n
1290       regexp special ones: \D \s
1291       constants: \x3
1292       backrefs: \1 (deprecated in substitution replacements)
1293       case and quoting: \U \Q \E
1294     stops on @ and $, but not for $ as tail anchor
1295
1296   In transliterations:
1297     characters are VERY literal, except for - not at the start or end
1298     of the string, which indicates a range.  scan_const expands the
1299     range to the full set of intermediate characters.
1300
1301   In double-quoted strings:
1302     backslashes:
1303       double-quoted style: \r and \n
1304       constants: \x3
1305       backrefs: \1 (deprecated)
1306       case and quoting: \U \Q \E
1307     stops on @ and $
1308
1309   scan_const does *not* construct ops to handle interpolated strings.
1310   It stops processing as soon as it finds an embedded $ or @ variable
1311   and leaves it to the caller to work out what's going on.
1312
1313   @ in pattern could be: @foo, @{foo}, @$foo, @'foo, @::foo.
1314
1315   $ in pattern could be $foo or could be tail anchor.  Assumption:
1316   it's a tail anchor if $ is the last thing in the string, or if it's
1317   followed by one of ")| \n\t"
1318
1319   \1 (backreferences) are turned into $1
1320
1321   The structure of the code is
1322       while (there's a character to process) {
1323           handle transliteration ranges
1324           skip regexp comments
1325           skip # initiated comments in //x patterns
1326           check for embedded @foo
1327           check for embedded scalars
1328           if (backslash) {
1329               leave intact backslashes from leave (below)
1330               deprecate \1 in strings and sub replacements
1331               handle string-changing backslashes \l \U \Q \E, etc.
1332               switch (what was escaped) {
1333                   handle - in a transliteration (becomes a literal -)
1334                   handle \132 octal characters
1335                   handle 0x15 hex characters
1336                   handle \cV (control V)
1337                   handle printf backslashes (\f, \r, \n, etc)
1338               } (end switch)
1339           } (end if backslash)
1340     } (end while character to read)
1341                 
1342 */
1343
1344 STATIC char *
1345 S_scan_const(pTHX_ char *start)
1346 {
1347     register char *send = PL_bufend;            /* end of the constant */
1348     SV *sv = NEWSV(93, send - start);           /* sv for the constant */
1349     register char *s = start;                   /* start of the constant */
1350     register char *d = SvPVX(sv);               /* destination for copies */
1351     bool dorange = FALSE;                       /* are we in a translit range? */
1352     bool didrange = FALSE;                      /* did we just finish a range? */
1353     I32  has_utf8 = FALSE;                      /* Output constant is UTF8 */
1354     I32  this_utf8 = UTF;                       /* The source string is assumed to be UTF8 */
1355     UV uv;
1356
1357     const char *leaveit =       /* set of acceptably-backslashed characters */
1358         PL_lex_inpat
1359             ? "\\.^$@AGZdDwWsSbBpPXC+*?|()-nrtfeaxz0123456789[{]} \t\n\r\f\v#"
1360             : "";
1361
1362     if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
1363         /* If we are doing a trans and we know we want UTF8 set expectation */
1364         has_utf8   = PL_sublex_info.sub_op->op_private & (OPpTRANS_FROM_UTF|OPpTRANS_TO_UTF);
1365         this_utf8  = PL_sublex_info.sub_op->op_private & (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
1366     }
1367
1368
1369     while (s < send || dorange) {
1370         /* get transliterations out of the way (they're most literal) */
1371         if (PL_lex_inwhat == OP_TRANS) {
1372             /* expand a range A-Z to the full set of characters.  AIE! */
1373             if (dorange) {
1374                 I32 i;                          /* current expanded character */
1375                 I32 min;                        /* first character in range */
1376                 I32 max;                        /* last character in range */
1377
1378                 if (has_utf8) {
1379                     char *c = (char*)utf8_hop((U8*)d, -1);
1380                     char *e = d++;
1381                     while (e-- > c)
1382                         *(e + 1) = *e;
1383                     *c = (char)UTF_TO_NATIVE(0xff);
1384                     /* mark the range as done, and continue */
1385                     dorange = FALSE;
1386                     didrange = TRUE;
1387                     continue;
1388                 }
1389
1390                 i = d - SvPVX(sv);              /* remember current offset */
1391                 SvGROW(sv, SvLEN(sv) + 256);    /* never more than 256 chars in a range */
1392                 d = SvPVX(sv) + i;              /* refresh d after realloc */
1393                 d -= 2;                         /* eat the first char and the - */
1394
1395                 min = (U8)*d;                   /* first char in range */
1396                 max = (U8)d[1];                 /* last char in range  */
1397
1398                 if (min > max) {
1399                     Perl_croak(aTHX_
1400                                "Invalid range \"%c-%c\" in transliteration operator",
1401                                (char)min, (char)max);
1402                 }
1403
1404 #ifdef EBCDIC
1405                 if ((isLOWER(min) && isLOWER(max)) ||
1406                     (isUPPER(min) && isUPPER(max))) {
1407                     if (isLOWER(min)) {
1408                         for (i = min; i <= max; i++)
1409                             if (isLOWER(i))
1410                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1411                     } else {
1412                         for (i = min; i <= max; i++)
1413                             if (isUPPER(i))
1414                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1415                     }
1416                 }
1417                 else
1418 #endif
1419                     for (i = min; i <= max; i++)
1420                         *d++ = (char)i;
1421
1422                 /* mark the range as done, and continue */
1423                 dorange = FALSE;
1424                 didrange = TRUE;
1425                 continue;
1426             }
1427
1428             /* range begins (ignore - as first or last char) */
1429             else if (*s == '-' && s+1 < send  && s != start) {
1430                 if (didrange) {
1431                     Perl_croak(aTHX_ "Ambiguous range in transliteration operator");
1432                 }
1433                 if (has_utf8) {
1434                     *d++ = (char)UTF_TO_NATIVE(0xff);   /* use illegal utf8 byte--see pmtrans */
1435                     s++;
1436                     continue;
1437                 }
1438                 dorange = TRUE;
1439                 s++;
1440             }
1441             else {
1442                 didrange = FALSE;
1443             }
1444         }
1445
1446         /* if we get here, we're not doing a transliteration */
1447
1448         /* skip for regexp comments /(?#comment)/ and code /(?{code})/,
1449            except for the last char, which will be done separately. */
1450         else if (*s == '(' && PL_lex_inpat && s[1] == '?') {
1451             if (s[2] == '#') {
1452                 while (s+1 < send && *s != ')')
1453                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1454             }
1455             else if (s[2] == '{' /* This should match regcomp.c */
1456                      || ((s[2] == 'p' || s[2] == '?') && s[3] == '{'))
1457             {
1458                 I32 count = 1;
1459                 char *regparse = s + (s[2] == '{' ? 3 : 4);
1460                 char c;
1461
1462                 while (count && (c = *regparse)) {
1463                     if (c == '\\' && regparse[1])
1464                         regparse++;
1465                     else if (c == '{')
1466                         count++;
1467                     else if (c == '}')
1468                         count--;
1469                     regparse++;
1470                 }
1471                 if (*regparse != ')')
1472                     regparse--;         /* Leave one char for continuation. */
1473                 while (s < regparse)
1474                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1475             }
1476         }
1477
1478         /* likewise skip #-initiated comments in //x patterns */
1479         else if (*s == '#' && PL_lex_inpat &&
1480           ((PMOP*)PL_lex_inpat)->op_pmflags & PMf_EXTENDED) {
1481             while (s+1 < send && *s != '\n')
1482                 *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1483         }
1484
1485         /* check for embedded arrays
1486            (@foo, @::foo, @'foo, @{foo}, @$foo, @+, @-)
1487            */
1488         else if (*s == '@' && s[1]
1489                  && (isALNUM_lazy_if(s+1,UTF) || strchr(":'{$+-", s[1])))
1490             break;
1491
1492         /* check for embedded scalars.  only stop if we're sure it's a
1493            variable.
1494         */
1495         else if (*s == '$') {
1496             if (!PL_lex_inpat)  /* not a regexp, so $ must be var */
1497                 break;
1498             if (s + 1 < send && !strchr("()| \r\n\t", s[1]))
1499                 break;          /* in regexp, $ might be tail anchor */
1500         }
1501
1502         /* End of else if chain - OP_TRANS rejoin rest */
1503
1504         /* backslashes */
1505         if (*s == '\\' && s+1 < send) {
1506             s++;
1507
1508             /* some backslashes we leave behind */
1509             if (*leaveit && *s && strchr(leaveit, *s)) {
1510                 *d++ = NATIVE_TO_NEED(has_utf8,'\\');
1511                 *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1512                 continue;
1513             }
1514
1515             /* deprecate \1 in strings and substitution replacements */
1516             if (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat &&
1517                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
1518             {
1519                 if (ckWARN(WARN_SYNTAX))
1520                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "\\%c better written as $%c", *s, *s);
1521                 *--s = '$';
1522                 break;
1523             }
1524
1525             /* string-change backslash escapes */
1526             if (PL_lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
1527                 --s;
1528                 break;
1529             }
1530
1531             /* if we get here, it's either a quoted -, or a digit */
1532             switch (*s) {
1533
1534             /* quoted - in transliterations */
1535             case '-':
1536                 if (PL_lex_inwhat == OP_TRANS) {
1537                     *d++ = *s++;
1538                     continue;
1539                 }
1540                 /* FALL THROUGH */
1541             default:
1542                 {
1543                     if (ckWARN(WARN_MISC) &&
1544                         isALNUM(*s) && 
1545                         *s != '_')
1546                         Perl_warner(aTHX_ packWARN(WARN_MISC),
1547                                "Unrecognized escape \\%c passed through",
1548                                *s);
1549                     /* default action is to copy the quoted character */
1550                     goto default_action;
1551                 }
1552
1553             /* \132 indicates an octal constant */
1554             case '0': case '1': case '2': case '3':
1555             case '4': case '5': case '6': case '7':
1556                 {
1557                     I32 flags = 0;
1558                     STRLEN len = 3;
1559                     uv = grok_oct(s, &len, &flags, NULL);
1560                     s += len;
1561                 }
1562                 goto NUM_ESCAPE_INSERT;
1563
1564             /* \x24 indicates a hex constant */
1565             case 'x':
1566                 ++s;
1567                 if (*s == '{') {
1568                     char* e = strchr(s, '}');
1569                     I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
1570                       PERL_SCAN_DISALLOW_PREFIX;
1571                     STRLEN len;
1572
1573                     ++s;
1574                     if (!e) {
1575                         yyerror("Missing right brace on \\x{}");
1576                         continue;
1577                     }
1578                     len = e - s;
1579                     uv = grok_hex(s, &len, &flags, NULL);
1580                     s = e + 1;
1581                 }
1582                 else {
1583                     {
1584                         STRLEN len = 2;
1585                         I32 flags = PERL_SCAN_DISALLOW_PREFIX;
1586                         uv = grok_hex(s, &len, &flags, NULL);
1587                         s += len;
1588                     }
1589                 }
1590
1591               NUM_ESCAPE_INSERT:
1592                 /* Insert oct or hex escaped character.
1593                  * There will always enough room in sv since such
1594                  * escapes will be longer than any UTF-8 sequence
1595                  * they can end up as. */
1596                 
1597                 /* We need to map to chars to ASCII before doing the tests
1598                    to cover EBCDIC
1599                 */
1600                 if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(uv))) {
1601                     if (!has_utf8 && uv > 255) {
1602                         /* Might need to recode whatever we have
1603                          * accumulated so far if it contains any
1604                          * hibit chars.
1605                          *
1606                          * (Can't we keep track of that and avoid
1607                          *  this rescan? --jhi)
1608                          */
1609                         int hicount = 0;
1610                         U8 *c;
1611                         for (c = (U8 *) SvPVX(sv); c < (U8 *)d; c++) {
1612                             if (!NATIVE_IS_INVARIANT(*c)) {
1613                                 hicount++;
1614                             }
1615                         }
1616                         if (hicount) {
1617                             STRLEN offset = d - SvPVX(sv);
1618                             U8 *src, *dst;
1619                             d = SvGROW(sv, SvLEN(sv) + hicount + 1) + offset;
1620                             src = (U8 *)d - 1;
1621                             dst = src+hicount;
1622                             d  += hicount;
1623                             while (src >= (U8 *)SvPVX(sv)) {
1624                                 if (!NATIVE_IS_INVARIANT(*src)) {
1625                                     U8 ch = NATIVE_TO_ASCII(*src);
1626                                     *dst-- = (U8)UTF8_EIGHT_BIT_LO(ch);
1627                                     *dst-- = (U8)UTF8_EIGHT_BIT_HI(ch);
1628                                 }
1629                                 else {
1630                                     *dst-- = *src;
1631                                 }
1632                                 src--;
1633                             }
1634                         }
1635                     }
1636
1637                     if (has_utf8 || uv > 255) {
1638                         d = (char*)uvchr_to_utf8((U8*)d, uv);
1639                         has_utf8 = TRUE;
1640                         if (PL_lex_inwhat == OP_TRANS &&
1641                             PL_sublex_info.sub_op) {
1642                             PL_sublex_info.sub_op->op_private |=
1643                                 (PL_lex_repl ? OPpTRANS_FROM_UTF
1644                                              : OPpTRANS_TO_UTF);
1645                         }
1646                     }
1647                     else {
1648                         *d++ = (char)uv;
1649                     }
1650                 }
1651                 else {
1652                     *d++ = (char) uv;
1653                 }
1654                 continue;
1655
1656             /* \N{LATIN SMALL LETTER A} is a named character */
1657             case 'N':
1658                 ++s;
1659                 if (*s == '{') {
1660                     char* e = strchr(s, '}');
1661                     SV *res;
1662                     STRLEN len;
1663                     char *str;
1664
1665                     if (!e) {
1666                         yyerror("Missing right brace on \\N{}");
1667                         e = s - 1;
1668                         goto cont_scan;
1669                     }
1670                     if (e > s + 2 && s[1] == 'U' && s[2] == '+') {
1671                         /* \N{U+...} */
1672                         I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
1673                           PERL_SCAN_DISALLOW_PREFIX;
1674                         s += 3;
1675                         len = e - s;
1676                         uv = grok_hex(s, &len, &flags, NULL);
1677                         s = e + 1;
1678                         goto NUM_ESCAPE_INSERT;
1679                     }
1680                     res = newSVpvn(s + 1, e - s - 1);
1681                     res = new_constant( Nullch, 0, "charnames",
1682                                         res, Nullsv, "\\N{...}" );
1683                     if (has_utf8)
1684                         sv_utf8_upgrade(res);
1685                     str = SvPV(res,len);
1686 #ifdef EBCDIC_NEVER_MIND
1687                     /* charnames uses pack U and that has been
1688                      * recently changed to do the below uni->native
1689                      * mapping, so this would be redundant (and wrong,
1690                      * the code point would be doubly converted).
1691                      * But leave this in just in case the pack U change
1692                      * gets revoked, but the semantics is still
1693                      * desireable for charnames. --jhi */
1694                     {
1695                          UV uv = utf8_to_uvchr((U8*)str, 0);
1696
1697                          if (uv < 0x100) {
1698                               U8 tmpbuf[UTF8_MAXLEN+1], *d;
1699
1700                               d = uvchr_to_utf8(tmpbuf, UNI_TO_NATIVE(uv));
1701                               sv_setpvn(res, (char *)tmpbuf, d - tmpbuf);
1702                               str = SvPV(res, len);
1703                          }
1704                     }
1705 #endif
1706                     if (!has_utf8 && SvUTF8(res)) {
1707                         char *ostart = SvPVX(sv);
1708                         SvCUR_set(sv, d - ostart);
1709                         SvPOK_on(sv);
1710                         *d = '\0';
1711                         sv_utf8_upgrade(sv);
1712                         /* this just broke our allocation above... */
1713                         SvGROW(sv, (STRLEN)(send - start));
1714                         d = SvPVX(sv) + SvCUR(sv);
1715                         has_utf8 = TRUE;
1716                     }
1717                     if (len > (STRLEN)(e - s + 4)) { /* I _guess_ 4 is \N{} --jhi */
1718                         char *odest = SvPVX(sv);
1719
1720                         SvGROW(sv, (SvLEN(sv) + len - (e - s + 4)));
1721                         d = SvPVX(sv) + (d - odest);
1722                     }
1723                     Copy(str, d, len, char);
1724                     d += len;
1725                     SvREFCNT_dec(res);
1726                   cont_scan:
1727                     s = e + 1;
1728                 }
1729                 else
1730                     yyerror("Missing braces on \\N{}");
1731                 continue;
1732
1733             /* \c is a control character */
1734             case 'c':
1735                 s++;
1736                 if (s < send) {
1737                     U8 c = *s++;
1738 #ifdef EBCDIC
1739                     if (isLOWER(c))
1740                         c = toUPPER(c);
1741 #endif
1742                     *d++ = NATIVE_TO_NEED(has_utf8,toCTRL(c));
1743                 }
1744                 else {
1745                     yyerror("Missing control char name in \\c");
1746                 }
1747                 continue;
1748
1749             /* printf-style backslashes, formfeeds, newlines, etc */
1750             case 'b':
1751                 *d++ = NATIVE_TO_NEED(has_utf8,'\b');
1752                 break;
1753             case 'n':
1754                 *d++ = NATIVE_TO_NEED(has_utf8,'\n');
1755                 break;
1756             case 'r':
1757                 *d++ = NATIVE_TO_NEED(has_utf8,'\r');
1758                 break;
1759             case 'f':
1760                 *d++ = NATIVE_TO_NEED(has_utf8,'\f');
1761                 break;
1762             case 't':
1763                 *d++ = NATIVE_TO_NEED(has_utf8,'\t');
1764                 break;
1765             case 'e':
1766                 *d++ = ASCII_TO_NEED(has_utf8,'\033');
1767                 break;
1768             case 'a':
1769                 *d++ = ASCII_TO_NEED(has_utf8,'\007');
1770                 break;
1771             } /* end switch */
1772
1773             s++;
1774             continue;
1775         } /* end if (backslash) */
1776
1777     default_action:
1778         /* If we started with encoded form, or already know we want it
1779            and then encode the next character */
1780         if ((has_utf8 || this_utf8) && !NATIVE_IS_INVARIANT((U8)(*s))) {
1781             STRLEN len  = 1;
1782             UV uv       = (this_utf8) ? utf8n_to_uvchr((U8*)s, send - s, &len, 0) : (UV) ((U8) *s);
1783             STRLEN need = UNISKIP(NATIVE_TO_UNI(uv));
1784             s += len;
1785             if (need > len) {
1786                 /* encoded value larger than old, need extra space (NOTE: SvCUR() not set here) */
1787                 STRLEN off = d - SvPVX(sv);
1788                 d = SvGROW(sv, SvLEN(sv) + (need-len)) + off;
1789             }
1790             d = (char*)uvchr_to_utf8((U8*)d, uv);
1791             has_utf8 = TRUE;
1792         }
1793         else {
1794             *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1795         }
1796     } /* while loop to process each character */
1797
1798     /* terminate the string and set up the sv */
1799     *d = '\0';
1800     SvCUR_set(sv, d - SvPVX(sv));
1801     if (SvCUR(sv) >= SvLEN(sv))
1802         Perl_croak(aTHX_ "panic: constant overflowed allocated space");
1803
1804     SvPOK_on(sv);
1805     if (PL_encoding && !has_utf8) {
1806         sv_recode_to_utf8(sv, PL_encoding);
1807         if (SvUTF8(sv))
1808             has_utf8 = TRUE;
1809     }
1810     if (has_utf8) {
1811         SvUTF8_on(sv);
1812         if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
1813             PL_sublex_info.sub_op->op_private |=
1814                     (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
1815         }
1816     }
1817
1818     /* shrink the sv if we allocated more than we used */
1819     if (SvCUR(sv) + 5 < SvLEN(sv)) {
1820         SvLEN_set(sv, SvCUR(sv) + 1);
1821         Renew(SvPVX(sv), SvLEN(sv), char);
1822     }
1823
1824     /* return the substring (via yylval) only if we parsed anything */
1825     if (s > PL_bufptr) {
1826         if ( PL_hints & ( PL_lex_inpat ? HINT_NEW_RE : HINT_NEW_STRING ) )
1827             sv = new_constant(start, s - start, (PL_lex_inpat ? "qr" : "q"),
1828                               sv, Nullsv,
1829                               ( PL_lex_inwhat == OP_TRANS
1830                                 ? "tr"
1831                                 : ( (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat)
1832                                     ? "s"
1833                                     : "qq")));
1834         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1835     } else
1836         SvREFCNT_dec(sv);
1837     return s;
1838 }
1839
1840 /* S_intuit_more
1841  * Returns TRUE if there's more to the expression (e.g., a subscript),
1842  * FALSE otherwise.
1843  *
1844  * It deals with "$foo[3]" and /$foo[3]/ and /$foo[0123456789$]+/
1845  *
1846  * ->[ and ->{ return TRUE
1847  * { and [ outside a pattern are always subscripts, so return TRUE
1848  * if we're outside a pattern and it's not { or [, then return FALSE
1849  * if we're in a pattern and the first char is a {
1850  *   {4,5} (any digits around the comma) returns FALSE
1851  * if we're in a pattern and the first char is a [
1852  *   [] returns FALSE
1853  *   [SOMETHING] has a funky algorithm to decide whether it's a
1854  *      character class or not.  It has to deal with things like
1855  *      /$foo[-3]/ and /$foo[$bar]/ as well as /$foo[$\d]+/
1856  * anything else returns TRUE
1857  */
1858
1859 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
1860
1861 STATIC int
1862 S_intuit_more(pTHX_ register char *s)
1863 {
1864     if (PL_lex_brackets)
1865         return TRUE;
1866     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
1867         return TRUE;
1868     if (*s != '{' && *s != '[')
1869         return FALSE;
1870     if (!PL_lex_inpat)
1871         return TRUE;
1872
1873     /* In a pattern, so maybe we have {n,m}. */
1874     if (*s == '{') {
1875         s++;
1876         if (!isDIGIT(*s))
1877             return TRUE;
1878         while (isDIGIT(*s))
1879             s++;
1880         if (*s == ',')
1881             s++;
1882         while (isDIGIT(*s))
1883             s++;
1884         if (*s == '}')
1885             return FALSE;
1886         return TRUE;
1887         
1888     }
1889
1890     /* On the other hand, maybe we have a character class */
1891
1892     s++;
1893     if (*s == ']' || *s == '^')
1894         return FALSE;
1895     else {
1896         /* this is terrifying, and it works */
1897         int weight = 2;         /* let's weigh the evidence */
1898         char seen[256];
1899         unsigned char un_char = 255, last_un_char;
1900         char *send = strchr(s,']');
1901         char tmpbuf[sizeof PL_tokenbuf * 4];
1902
1903         if (!send)              /* has to be an expression */
1904             return TRUE;
1905
1906         Zero(seen,256,char);
1907         if (*s == '$')
1908             weight -= 3;
1909         else if (isDIGIT(*s)) {
1910             if (s[1] != ']') {
1911                 if (isDIGIT(s[1]) && s[2] == ']')
1912                     weight -= 10;
1913             }
1914             else
1915                 weight -= 100;
1916         }
1917         for (; s < send; s++) {
1918             last_un_char = un_char;
1919             un_char = (unsigned char)*s;
1920             switch (*s) {
1921             case '@':
1922             case '&':
1923             case '$':
1924                 weight -= seen[un_char] * 10;
1925                 if (isALNUM_lazy_if(s+1,UTF)) {
1926                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
1927                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
1928                         weight -= 100;
1929                     else
1930                         weight -= 10;
1931                 }
1932                 else if (*s == '$' && s[1] &&
1933                   strchr("[#!%*<>()-=",s[1])) {
1934                     if (/*{*/ strchr("])} =",s[2]))
1935                         weight -= 10;
1936                     else
1937                         weight -= 1;
1938                 }
1939                 break;
1940             case '\\':
1941                 un_char = 254;
1942                 if (s[1]) {
1943                     if (strchr("wds]",s[1]))
1944                         weight += 100;
1945                     else if (seen['\''] || seen['"'])
1946                         weight += 1;
1947                     else if (strchr("rnftbxcav",s[1]))
1948                         weight += 40;
1949                     else if (isDIGIT(s[1])) {
1950                         weight += 40;
1951                         while (s[1] && isDIGIT(s[1]))
1952                             s++;
1953                     }
1954                 }
1955                 else
1956                     weight += 100;
1957                 break;
1958             case '-':
1959                 if (s[1] == '\\')
1960                     weight += 50;
1961                 if (strchr("aA01! ",last_un_char))
1962                     weight += 30;
1963                 if (strchr("zZ79~",s[1]))
1964                     weight += 30;
1965                 if (last_un_char == 255 && (isDIGIT(s[1]) || s[1] == '$'))
1966                     weight -= 5;        /* cope with negative subscript */
1967                 break;
1968             default:
1969                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
1970                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
1971                     char *d = tmpbuf;
1972                     while (isALPHA(*s))
1973                         *d++ = *s++;
1974                     *d = '\0';
1975                     if (keyword(tmpbuf, d - tmpbuf))
1976                         weight -= 150;
1977                 }
1978                 if (un_char == last_un_char + 1)
1979                     weight += 5;
1980                 weight -= seen[un_char];
1981                 break;
1982             }
1983             seen[un_char]++;
1984         }
1985         if (weight >= 0)        /* probably a character class */
1986             return FALSE;
1987     }
1988
1989     return TRUE;
1990 }
1991
1992 /*
1993  * S_intuit_method
1994  *
1995  * Does all the checking to disambiguate
1996  *   foo bar
1997  * between foo(bar) and bar->foo.  Returns 0 if not a method, otherwise
1998  * FUNCMETH (bar->foo(args)) or METHOD (bar->foo args).
1999  *
2000  * First argument is the stuff after the first token, e.g. "bar".
2001  *
2002  * Not a method if bar is a filehandle.
2003  * Not a method if foo is a subroutine prototyped to take a filehandle.
2004  * Not a method if it's really "Foo $bar"
2005  * Method if it's "foo $bar"
2006  * Not a method if it's really "print foo $bar"
2007  * Method if it's really "foo package::" (interpreted as package->foo)
2008  * Not a method if bar is known to be a subroutine ("sub bar; foo bar")
2009  * Not a method if bar is a filehandle or package, but is quoted with
2010  *   =>
2011  */
2012
2013 STATIC int
2014 S_intuit_method(pTHX_ char *start, GV *gv)
2015 {
2016     char *s = start + (*start == '$');
2017     char tmpbuf[sizeof PL_tokenbuf];
2018     STRLEN len;
2019     GV* indirgv;
2020
2021     if (gv) {
2022         CV *cv;
2023         if (GvIO(gv))
2024             return 0;
2025         if ((cv = GvCVu(gv))) {
2026             char *proto = SvPVX(cv);
2027             if (proto) {
2028                 if (*proto == ';')
2029                     proto++;
2030                 if (*proto == '*')
2031                     return 0;
2032             }
2033         } else
2034             gv = 0;
2035     }
2036     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2037     /* start is the beginning of the possible filehandle/object,
2038      * and s is the end of it
2039      * tmpbuf is a copy of it
2040      */
2041
2042     if (*start == '$') {
2043         if (gv || PL_last_lop_op == OP_PRINT || isUPPER(*PL_tokenbuf))
2044             return 0;
2045         s = skipspace(s);
2046         PL_bufptr = start;
2047         PL_expect = XREF;
2048         return *s == '(' ? FUNCMETH : METHOD;
2049     }
2050     if (!keyword(tmpbuf, len)) {
2051         if (len > 2 && tmpbuf[len - 2] == ':' && tmpbuf[len - 1] == ':') {
2052             len -= 2;
2053             tmpbuf[len] = '\0';
2054             goto bare_package;
2055         }
2056         indirgv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2057         if (indirgv && GvCVu(indirgv))
2058             return 0;
2059         /* filehandle or package name makes it a method */
2060         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
2061             s = skipspace(s);
2062             if ((PL_bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
2063                 return 0;       /* no assumptions -- "=>" quotes bearword */
2064       bare_package:
2065             PL_nextval[PL_nexttoke].opval = (OP*)newSVOP(OP_CONST, 0,
2066                                                    newSVpvn(tmpbuf,len));
2067             PL_nextval[PL_nexttoke].opval->op_private = OPpCONST_BARE;
2068             PL_expect = XTERM;
2069             force_next(WORD);
2070             PL_bufptr = s;
2071             return *s == '(' ? FUNCMETH : METHOD;
2072         }
2073     }
2074     return 0;
2075 }
2076
2077 /*
2078  * S_incl_perldb
2079  * Return a string of Perl code to load the debugger.  If PERL5DB
2080  * is set, it will return the contents of that, otherwise a
2081  * compile-time require of perl5db.pl.
2082  */
2083
2084 STATIC char*
2085 S_incl_perldb(pTHX)
2086 {
2087     if (PL_perldb) {
2088         char *pdb = PerlEnv_getenv("PERL5DB");
2089
2090         if (pdb)
2091             return pdb;
2092         SETERRNO(0,SS_NORMAL);
2093         return "BEGIN { require 'perl5db.pl' }";
2094     }
2095     return "";
2096 }
2097
2098
2099 /* Encoded script support. filter_add() effectively inserts a
2100  * 'pre-processing' function into the current source input stream.
2101  * Note that the filter function only applies to the current source file
2102  * (e.g., it will not affect files 'require'd or 'use'd by this one).
2103  *
2104  * The datasv parameter (which may be NULL) can be used to pass
2105  * private data to this instance of the filter. The filter function
2106  * can recover the SV using the FILTER_DATA macro and use it to
2107  * store private buffers and state information.
2108  *
2109  * The supplied datasv parameter is upgraded to a PVIO type
2110  * and the IoDIRP/IoANY field is used to store the function pointer,
2111  * and IOf_FAKE_DIRP is enabled on datasv to mark this as such.
2112  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
2113  * private use must be set using malloc'd pointers.
2114  */
2115
2116 SV *
2117 Perl_filter_add(pTHX_ filter_t funcp, SV *datasv)
2118 {
2119     if (!funcp)
2120         return Nullsv;
2121
2122     if (!PL_rsfp_filters)
2123         PL_rsfp_filters = newAV();
2124     if (!datasv)
2125         datasv = NEWSV(255,0);
2126     if (!SvUPGRADE(datasv, SVt_PVIO))
2127         Perl_die(aTHX_ "Can't upgrade filter_add data to SVt_PVIO");
2128     IoANY(datasv) = (void *)funcp; /* stash funcp into spare field */
2129     IoFLAGS(datasv) |= IOf_FAKE_DIRP;
2130     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_add func %p (%s)\n",
2131                           (void*)funcp, SvPV_nolen(datasv)));
2132     av_unshift(PL_rsfp_filters, 1);
2133     av_store(PL_rsfp_filters, 0, datasv) ;
2134     return(datasv);
2135 }
2136
2137
2138 /* Delete most recently added instance of this filter function. */
2139 void
2140 Perl_filter_del(pTHX_ filter_t funcp)
2141 {
2142     SV *datasv;
2143     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_del func %p", (void*)funcp));
2144     if (!PL_rsfp_filters || AvFILLp(PL_rsfp_filters)<0)
2145         return;
2146     /* if filter is on top of stack (usual case) just pop it off */
2147     datasv = FILTER_DATA(AvFILLp(PL_rsfp_filters));
2148     if (IoANY(datasv) == (void *)funcp) {
2149         IoFLAGS(datasv) &= ~IOf_FAKE_DIRP;
2150         IoANY(datasv) = (void *)NULL;
2151         sv_free(av_pop(PL_rsfp_filters));
2152
2153         return;
2154     }
2155     /* we need to search for the correct entry and clear it     */
2156     Perl_die(aTHX_ "filter_del can only delete in reverse order (currently)");
2157 }
2158
2159
2160 /* Invoke the idxth filter function for the current rsfp.        */
2161 /* maxlen 0 = read one text line */
2162 I32
2163 Perl_filter_read(pTHX_ int idx, SV *buf_sv, int maxlen)
2164 {
2165     filter_t funcp;
2166     SV *datasv = NULL;
2167
2168     if (!PL_rsfp_filters)
2169         return -1;
2170     if (idx > AvFILLp(PL_rsfp_filters)) {       /* Any more filters?    */
2171         /* Provide a default input filter to make life easy.    */
2172         /* Note that we append to the line. This is handy.      */
2173         DEBUG_P(PerlIO_printf(Perl_debug_log,
2174                               "filter_read %d: from rsfp\n", idx));
2175         if (maxlen) {
2176             /* Want a block */
2177             int len ;
2178             int old_len = SvCUR(buf_sv) ;
2179
2180             /* ensure buf_sv is large enough */
2181             SvGROW(buf_sv, (STRLEN)(old_len + maxlen)) ;
2182             if ((len = PerlIO_read(PL_rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
2183                 if (PerlIO_error(PL_rsfp))
2184                     return -1;          /* error */
2185                 else
2186                     return 0 ;          /* end of file */
2187             }
2188             SvCUR_set(buf_sv, old_len + len) ;
2189         } else {
2190             /* Want a line */
2191             if (sv_gets(buf_sv, PL_rsfp, SvCUR(buf_sv)) == NULL) {
2192                 if (PerlIO_error(PL_rsfp))
2193                     return -1;          /* error */
2194                 else
2195                     return 0 ;          /* end of file */
2196             }
2197         }
2198         return SvCUR(buf_sv);
2199     }
2200     /* Skip this filter slot if filter has been deleted */
2201     if ( (datasv = FILTER_DATA(idx)) == &PL_sv_undef) {
2202         DEBUG_P(PerlIO_printf(Perl_debug_log,
2203                               "filter_read %d: skipped (filter deleted)\n",
2204                               idx));
2205         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
2206     }
2207     /* Get function pointer hidden within datasv        */
2208     funcp = (filter_t)IoANY(datasv);
2209     DEBUG_P(PerlIO_printf(Perl_debug_log,
2210                           "filter_read %d: via function %p (%s)\n",
2211                           idx, (void*)funcp, SvPV_nolen(datasv)));
2212     /* Call function. The function is expected to       */
2213     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
2214     /* Return: <0:error, =0:eof, >0:not eof             */
2215     return (*funcp)(aTHX_ idx, buf_sv, maxlen);
2216 }
2217
2218 STATIC char *
2219 S_filter_gets(pTHX_ register SV *sv, register PerlIO *fp, STRLEN append)
2220 {
2221 #ifdef PERL_CR_FILTER
2222     if (!PL_rsfp_filters) {
2223         filter_add(S_cr_textfilter,NULL);
2224     }
2225 #endif
2226     if (PL_rsfp_filters) {
2227         if (!append)
2228             SvCUR_set(sv, 0);   /* start with empty line        */
2229         if (FILTER_READ(0, sv, 0) > 0)
2230             return ( SvPVX(sv) ) ;
2231         else
2232             return Nullch ;
2233     }
2234     else
2235         return (sv_gets(sv, fp, append));
2236 }
2237
2238 STATIC HV *
2239 S_find_in_my_stash(pTHX_ char *pkgname, I32 len)
2240 {
2241     GV *gv;
2242
2243     if (len == 11 && *pkgname == '_' && strEQ(pkgname, "__PACKAGE__"))
2244         return PL_curstash;
2245
2246     if (len > 2 &&
2247         (pkgname[len - 2] == ':' && pkgname[len - 1] == ':') &&
2248         (gv = gv_fetchpv(pkgname, FALSE, SVt_PVHV)))
2249     {
2250         return GvHV(gv);                        /* Foo:: */
2251     }
2252
2253     /* use constant CLASS => 'MyClass' */
2254     if ((gv = gv_fetchpv(pkgname, FALSE, SVt_PVCV))) {
2255         SV *sv;
2256         if (GvCV(gv) && (sv = cv_const_sv(GvCV(gv)))) {
2257             pkgname = SvPV_nolen(sv);
2258         }
2259     }
2260
2261     return gv_stashpv(pkgname, FALSE);
2262 }
2263
2264 #ifdef DEBUGGING
2265     static char* exp_name[] =
2266         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "ATTRBLOCK",
2267           "ATTRTERM", "TERMBLOCK", "TERMORDORDOR"
2268         };
2269 #endif
2270
2271 /*
2272   yylex
2273
2274   Works out what to call the token just pulled out of the input
2275   stream.  The yacc parser takes care of taking the ops we return and
2276   stitching them into a tree.
2277
2278   Returns:
2279     PRIVATEREF
2280
2281   Structure:
2282       if read an identifier
2283           if we're in a my declaration
2284               croak if they tried to say my($foo::bar)
2285               build the ops for a my() declaration
2286           if it's an access to a my() variable
2287               are we in a sort block?
2288                   croak if my($a); $a <=> $b
2289               build ops for access to a my() variable
2290           if in a dq string, and they've said @foo and we can't find @foo
2291               croak
2292           build ops for a bareword
2293       if we already built the token before, use it.
2294 */
2295
2296
2297 #ifdef __SC__
2298 #pragma segment Perl_yylex
2299 #endif
2300 int
2301 Perl_yylex(pTHX)
2302 {
2303     register char *s = PL_bufptr;
2304     register char *d;
2305     register I32 tmp;
2306     STRLEN len;
2307     GV *gv = Nullgv;
2308     GV **gvp = 0;
2309     bool bof = FALSE;
2310     I32 orig_keyword = 0;
2311
2312     DEBUG_T( {
2313         PerlIO_printf(Perl_debug_log, "### LEX_%s\n",
2314                                         lex_state_names[PL_lex_state]);
2315     } );
2316     /* check if there's an identifier for us to look at */
2317     if (PL_pending_ident)
2318         return REPORT(S_pending_ident(aTHX));
2319
2320     /* no identifier pending identification */
2321
2322     switch (PL_lex_state) {
2323 #ifdef COMMENTARY
2324     case LEX_NORMAL:            /* Some compilers will produce faster */
2325     case LEX_INTERPNORMAL:      /* code if we comment these out. */
2326         break;
2327 #endif
2328
2329     /* when we've already built the next token, just pull it out of the queue */
2330     case LEX_KNOWNEXT:
2331         PL_nexttoke--;
2332         yylval = PL_nextval[PL_nexttoke];
2333         if (!PL_nexttoke) {
2334             PL_lex_state = PL_lex_defer;
2335             PL_expect = PL_lex_expect;
2336             PL_lex_defer = LEX_NORMAL;
2337         }
2338         DEBUG_T({ PerlIO_printf(Perl_debug_log,
2339               "### Next token after '%s' was known, type %"IVdf"\n", PL_bufptr,
2340               (IV)PL_nexttype[PL_nexttoke]); });
2341
2342         return REPORT(PL_nexttype[PL_nexttoke]);
2343
2344     /* interpolated case modifiers like \L \U, including \Q and \E.
2345        when we get here, PL_bufptr is at the \
2346     */
2347     case LEX_INTERPCASEMOD:
2348 #ifdef DEBUGGING
2349         if (PL_bufptr != PL_bufend && *PL_bufptr != '\\')
2350             Perl_croak(aTHX_ "panic: INTERPCASEMOD");
2351 #endif
2352         /* handle \E or end of string */
2353         if (PL_bufptr == PL_bufend || PL_bufptr[1] == 'E') {
2354             char oldmod;
2355
2356             /* if at a \E */
2357             if (PL_lex_casemods) {
2358                 oldmod = PL_lex_casestack[--PL_lex_casemods];
2359                 PL_lex_casestack[PL_lex_casemods] = '\0';
2360
2361                 if (PL_bufptr != PL_bufend && strchr("LUQ", oldmod)) {
2362                     PL_bufptr += 2;
2363                     PL_lex_state = LEX_INTERPCONCAT;
2364                 }
2365                 return REPORT(')');
2366             }
2367             if (PL_bufptr != PL_bufend)
2368                 PL_bufptr += 2;
2369             PL_lex_state = LEX_INTERPCONCAT;
2370             return yylex();
2371         }
2372         else {
2373             DEBUG_T({ PerlIO_printf(Perl_debug_log,
2374               "### Saw case modifier at '%s'\n", PL_bufptr); });
2375             s = PL_bufptr + 1;
2376             if (s[1] == '\\' && s[2] == 'E') {
2377                 PL_bufptr = s + 3;
2378                 PL_lex_state = LEX_INTERPCONCAT;
2379                 return yylex();
2380             }
2381             else {
2382                 if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
2383                     tmp = *s, *s = s[2], s[2] = (char)tmp;      /* misordered... */
2384                 if (strchr("LU", *s) &&
2385                     (strchr(PL_lex_casestack, 'L') || strchr(PL_lex_casestack, 'U'))) {
2386                     PL_lex_casestack[--PL_lex_casemods] = '\0';
2387                     return REPORT(')');
2388                 }
2389                 if (PL_lex_casemods > 10)
2390                     Renew(PL_lex_casestack, PL_lex_casemods + 2, char);
2391                 PL_lex_casestack[PL_lex_casemods++] = *s;
2392                 PL_lex_casestack[PL_lex_casemods] = '\0';
2393                 PL_lex_state = LEX_INTERPCONCAT;
2394                 PL_nextval[PL_nexttoke].ival = 0;
2395                 force_next('(');
2396                 if (*s == 'l')
2397                     PL_nextval[PL_nexttoke].ival = OP_LCFIRST;
2398                 else if (*s == 'u')
2399                     PL_nextval[PL_nexttoke].ival = OP_UCFIRST;
2400                 else if (*s == 'L')
2401                     PL_nextval[PL_nexttoke].ival = OP_LC;
2402                 else if (*s == 'U')
2403                     PL_nextval[PL_nexttoke].ival = OP_UC;
2404                 else if (*s == 'Q')
2405                     PL_nextval[PL_nexttoke].ival = OP_QUOTEMETA;
2406                 else
2407                     Perl_croak(aTHX_ "panic: yylex");
2408                 PL_bufptr = s + 1;
2409             }
2410             force_next(FUNC);
2411             if (PL_lex_starts) {
2412                 s = PL_bufptr;
2413                 PL_lex_starts = 0;
2414                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
2415                 if (PL_lex_casemods == 1 && PL_lex_inpat)
2416                     OPERATOR(',');
2417                 else
2418                     Aop(OP_CONCAT);
2419             }
2420             else
2421                 return yylex();
2422         }
2423
2424     case LEX_INTERPPUSH:
2425         return REPORT(sublex_push());
2426
2427     case LEX_INTERPSTART:
2428         if (PL_bufptr == PL_bufend)
2429             return REPORT(sublex_done());
2430         DEBUG_T({ PerlIO_printf(Perl_debug_log,
2431               "### Interpolated variable at '%s'\n", PL_bufptr); });
2432         PL_expect = XTERM;
2433         PL_lex_dojoin = (*PL_bufptr == '@');
2434         PL_lex_state = LEX_INTERPNORMAL;
2435         if (PL_lex_dojoin) {
2436             PL_nextval[PL_nexttoke].ival = 0;
2437             force_next(',');
2438             force_ident("\"", '$');
2439             PL_nextval[PL_nexttoke].ival = 0;
2440             force_next('$');
2441             PL_nextval[PL_nexttoke].ival = 0;
2442             force_next('(');
2443             PL_nextval[PL_nexttoke].ival = OP_JOIN;     /* emulate join($", ...) */
2444             force_next(FUNC);
2445         }
2446         if (PL_lex_starts++) {
2447             s = PL_bufptr;
2448             /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
2449             if (!PL_lex_casemods && PL_lex_inpat)
2450                 OPERATOR(',');
2451             else
2452                 Aop(OP_CONCAT);
2453         }
2454         return yylex();
2455
2456     case LEX_INTERPENDMAYBE:
2457         if (intuit_more(PL_bufptr)) {
2458             PL_lex_state = LEX_INTERPNORMAL;    /* false alarm, more expr */
2459             break;
2460         }
2461         /* FALL THROUGH */
2462
2463     case LEX_INTERPEND:
2464         if (PL_lex_dojoin) {
2465             PL_lex_dojoin = FALSE;
2466             PL_lex_state = LEX_INTERPCONCAT;
2467             return REPORT(')');
2468         }
2469         if (PL_lex_inwhat == OP_SUBST && PL_linestr == PL_lex_repl
2470             && SvEVALED(PL_lex_repl))
2471         {
2472             if (PL_bufptr != PL_bufend)
2473                 Perl_croak(aTHX_ "Bad evalled substitution pattern");
2474             PL_lex_repl = Nullsv;
2475         }
2476         /* FALLTHROUGH */
2477     case LEX_INTERPCONCAT:
2478 #ifdef DEBUGGING
2479         if (PL_lex_brackets)
2480             Perl_croak(aTHX_ "panic: INTERPCONCAT");
2481 #endif
2482         if (PL_bufptr == PL_bufend)
2483             return REPORT(sublex_done());
2484
2485         if (SvIVX(PL_linestr) == '\'') {
2486             SV *sv = newSVsv(PL_linestr);
2487             if (!PL_lex_inpat)
2488                 sv = tokeq(sv);
2489             else if ( PL_hints & HINT_NEW_RE )
2490                 sv = new_constant(NULL, 0, "qr", sv, sv, "q");
2491             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2492             s = PL_bufend;
2493         }
2494         else {
2495             s = scan_const(PL_bufptr);
2496             if (*s == '\\')
2497                 PL_lex_state = LEX_INTERPCASEMOD;
2498             else
2499                 PL_lex_state = LEX_INTERPSTART;
2500         }
2501
2502         if (s != PL_bufptr) {
2503             PL_nextval[PL_nexttoke] = yylval;
2504             PL_expect = XTERM;
2505             force_next(THING);
2506             if (PL_lex_starts++) {
2507                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
2508                 if (!PL_lex_casemods && PL_lex_inpat)
2509                     OPERATOR(',');
2510                 else
2511                     Aop(OP_CONCAT);
2512             }
2513             else {
2514                 PL_bufptr = s;
2515                 return yylex();
2516             }
2517         }
2518
2519         return yylex();
2520     case LEX_FORMLINE:
2521         PL_lex_state = LEX_NORMAL;
2522         s = scan_formline(PL_bufptr);
2523         if (!PL_lex_formbrack)
2524             goto rightbracket;
2525         OPERATOR(';');
2526     }
2527
2528     s = PL_bufptr;
2529     PL_oldoldbufptr = PL_oldbufptr;
2530     PL_oldbufptr = s;
2531     DEBUG_T( {
2532         PerlIO_printf(Perl_debug_log, "### Tokener expecting %s at [%s]\n",
2533                       exp_name[PL_expect], s);
2534     } );
2535
2536   retry:
2537     switch (*s) {
2538     default:
2539         if (isIDFIRST_lazy_if(s,UTF))
2540             goto keylookup;
2541         Perl_croak(aTHX_ "Unrecognized character \\x%02X", *s & 255);
2542     case 4:
2543     case 26:
2544         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
2545     case 0:
2546         if (!PL_rsfp) {
2547             PL_last_uni = 0;
2548             PL_last_lop = 0;
2549             if (PL_lex_brackets) {
2550                 if (PL_lex_formbrack)
2551                     yyerror("Format not terminated");
2552                 else
2553                     yyerror("Missing right curly or square bracket");
2554             }
2555             DEBUG_T( { PerlIO_printf(Perl_debug_log,
2556                         "### Tokener got EOF\n");
2557             } );
2558             TOKEN(0);
2559         }
2560         if (s++ < PL_bufend)
2561             goto retry;                 /* ignore stray nulls */
2562         PL_last_uni = 0;
2563         PL_last_lop = 0;
2564         if (!PL_in_eval && !PL_preambled) {
2565             PL_preambled = TRUE;
2566             sv_setpv(PL_linestr,incl_perldb());
2567             if (SvCUR(PL_linestr))
2568                 sv_catpv(PL_linestr,";");
2569             if (PL_preambleav){
2570                 while(AvFILLp(PL_preambleav) >= 0) {
2571                     SV *tmpsv = av_shift(PL_preambleav);
2572                     sv_catsv(PL_linestr, tmpsv);
2573                     sv_catpv(PL_linestr, ";");
2574                     sv_free(tmpsv);
2575                 }
2576                 sv_free((SV*)PL_preambleav);
2577                 PL_preambleav = NULL;
2578             }
2579             if (PL_minus_n || PL_minus_p) {
2580                 sv_catpv(PL_linestr, "LINE: while (<>) {");
2581                 if (PL_minus_l)
2582                     sv_catpv(PL_linestr,"chomp;");
2583                 if (PL_minus_a) {
2584                     if (PL_minus_F) {
2585                         if (strchr("/'\"", *PL_splitstr)
2586                               && strchr(PL_splitstr + 1, *PL_splitstr))
2587                             Perl_sv_catpvf(aTHX_ PL_linestr, "our @F=split(%s);", PL_splitstr);
2588                         else {
2589                             char delim;
2590                             s = "'~#\200\1'"; /* surely one char is unused...*/
2591                             while (s[1] && strchr(PL_splitstr, *s))  s++;
2592                             delim = *s;
2593                             Perl_sv_catpvf(aTHX_ PL_linestr, "our @F=split(%s%c",
2594                                       "q" + (delim == '\''), delim);
2595                             for (s = PL_splitstr; *s; s++) {
2596                                 if (*s == '\\')
2597                                     sv_catpvn(PL_linestr, "\\", 1);
2598                                 sv_catpvn(PL_linestr, s, 1);
2599                             }
2600                             Perl_sv_catpvf(aTHX_ PL_linestr, "%c);", delim);
2601                         }
2602                     }
2603                     else
2604                         sv_catpv(PL_linestr,"our @F=split(' ');");
2605                 }
2606             }
2607             sv_catpv(PL_linestr, "\n");
2608             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
2609             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
2610             PL_last_lop = PL_last_uni = Nullch;
2611             if (PERLDB_LINE && PL_curstash != PL_debstash) {
2612                 SV *sv = NEWSV(85,0);
2613
2614                 sv_upgrade(sv, SVt_PVMG);
2615                 sv_setsv(sv,PL_linestr);
2616                 (void)SvIOK_on(sv);
2617                 SvIVX(sv) = 0;
2618                 av_store(CopFILEAV(PL_curcop),(I32)CopLINE(PL_curcop),sv);
2619             }
2620             goto retry;
2621         }
2622         do {
2623             bof = PL_rsfp ? TRUE : FALSE;
2624             if ((s = filter_gets(PL_linestr, PL_rsfp, 0)) == Nullch) {
2625               fake_eof:
2626                 if (PL_rsfp) {
2627                     if (PL_preprocess && !PL_in_eval)
2628                         (void)PerlProc_pclose(PL_rsfp);
2629                     else if ((PerlIO *)PL_rsfp == PerlIO_stdin())
2630                         PerlIO_clearerr(PL_rsfp);
2631                     else
2632                         (void)PerlIO_close(PL_rsfp);
2633                     PL_rsfp = Nullfp;
2634                     PL_doextract = FALSE;
2635                 }
2636                 if (!PL_in_eval && (PL_minus_n || PL_minus_p)) {
2637                     sv_setpv(PL_linestr,PL_minus_p ? ";}continue{print" : "");
2638                     sv_catpv(PL_linestr,";}");
2639                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
2640                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
2641                     PL_last_lop = PL_last_uni = Nullch;
2642                     PL_minus_n = PL_minus_p = 0;
2643                     goto retry;
2644                 }
2645                 PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
2646                 PL_last_lop = PL_last_uni = Nullch;
2647                 sv_setpv(PL_linestr,"");
2648                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
2649             }
2650             /* If it looks like the start of a BOM or raw UTF-16,
2651              * check if it in fact is. */
2652             else if (bof &&
2653                      (*s == 0 ||
2654                       *(U8*)s == 0xEF ||
2655                       *(U8*)s >= 0xFE ||
2656                       s[1] == 0)) {
2657 #ifdef PERLIO_IS_STDIO
2658 #  ifdef __GNU_LIBRARY__
2659 #    if __GNU_LIBRARY__ == 1 /* Linux glibc5 */
2660 #      define FTELL_FOR_PIPE_IS_BROKEN
2661 #    endif
2662 #  else
2663 #    ifdef __GLIBC__
2664 #      if __GLIBC__ == 1 /* maybe some glibc5 release had it like this? */
2665 #        define FTELL_FOR_PIPE_IS_BROKEN
2666 #      endif
2667 #    endif
2668 #  endif
2669 #endif
2670 #ifdef FTELL_FOR_PIPE_IS_BROKEN
2671                 /* This loses the possibility to detect the bof
2672                  * situation on perl -P when the libc5 is being used.
2673                  * Workaround?  Maybe attach some extra state to PL_rsfp?
2674                  */
2675                 if (!PL_preprocess)
2676                     bof = PerlIO_tell(PL_rsfp) == SvCUR(PL_linestr);
2677 #else
2678                 bof = PerlIO_tell(PL_rsfp) == (Off_t)SvCUR(PL_linestr);
2679 #endif
2680                 if (bof) {
2681                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
2682                     s = swallow_bom((U8*)s);
2683                 }
2684             }
2685             if (PL_doextract) {
2686                 /* Incest with pod. */
2687                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
2688                     sv_setpv(PL_linestr, "");
2689                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
2690                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
2691                     PL_last_lop = PL_last_uni = Nullch;
2692                     PL_doextract = FALSE;
2693                 }
2694             }
2695             incline(s);
2696         } while (PL_doextract);
2697         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = s;
2698         if (PERLDB_LINE && PL_curstash != PL_debstash) {
2699             SV *sv = NEWSV(85,0);
2700
2701             sv_upgrade(sv, SVt_PVMG);
2702             sv_setsv(sv,PL_linestr);
2703             (void)SvIOK_on(sv);
2704             SvIVX(sv) = 0;
2705             av_store(CopFILEAV(PL_curcop),(I32)CopLINE(PL_curcop),sv);
2706         }
2707         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
2708         PL_last_lop = PL_last_uni = Nullch;
2709         if (CopLINE(PL_curcop) == 1) {
2710             while (s < PL_bufend && isSPACE(*s))
2711                 s++;
2712             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
2713                 s++;
2714             d = Nullch;
2715             if (!PL_in_eval) {
2716                 if (*s == '#' && *(s+1) == '!')
2717                     d = s + 2;
2718 #ifdef ALTERNATE_SHEBANG
2719                 else {
2720                     static char as[] = ALTERNATE_SHEBANG;
2721                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
2722                         d = s + (sizeof(as) - 1);
2723                 }
2724 #endif /* ALTERNATE_SHEBANG */
2725             }
2726             if (d) {
2727                 char *ipath;
2728                 char *ipathend;
2729
2730                 while (isSPACE(*d))
2731                     d++;
2732                 ipath = d;
2733                 while (*d && !isSPACE(*d))
2734                     d++;
2735                 ipathend = d;
2736
2737 #ifdef ARG_ZERO_IS_SCRIPT
2738                 if (ipathend > ipath) {
2739                     /*
2740                      * HP-UX (at least) sets argv[0] to the script name,
2741                      * which makes $^X incorrect.  And Digital UNIX and Linux,
2742                      * at least, set argv[0] to the basename of the Perl
2743                      * interpreter. So, having found "#!", we'll set it right.
2744                      */
2745                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV)); /* $^X */
2746                     assert(SvPOK(x) || SvGMAGICAL(x));
2747                     if (sv_eq(x, CopFILESV(PL_curcop))) {
2748                         sv_setpvn(x, ipath, ipathend - ipath);
2749                         SvSETMAGIC(x);
2750                     }
2751                     else {
2752                         STRLEN blen;
2753                         STRLEN llen;
2754                         char *bstart = SvPV(CopFILESV(PL_curcop),blen);
2755                         char *lstart = SvPV(x,llen);
2756                         if (llen < blen) {
2757                             bstart += blen - llen;
2758                             if (strnEQ(bstart, lstart, llen) && bstart[-1] == '/') {
2759                                 sv_setpvn(x, ipath, ipathend - ipath);
2760                                 SvSETMAGIC(x);
2761                             }
2762                         }
2763                     }
2764                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
2765                 }
2766 #endif /* ARG_ZERO_IS_SCRIPT */
2767
2768                 /*
2769                  * Look for options.
2770                  */
2771                 d = instr(s,"perl -");
2772                 if (!d) {
2773                     d = instr(s,"perl");
2774 #if defined(DOSISH)
2775                     /* avoid getting into infinite loops when shebang
2776                      * line contains "Perl" rather than "perl" */
2777                     if (!d) {
2778                         for (d = ipathend-4; d >= ipath; --d) {
2779                             if ((*d == 'p' || *d == 'P')
2780                                 && !ibcmp(d, "perl", 4))
2781                             {
2782                                 break;
2783                             }
2784                         }
2785                         if (d < ipath)
2786                             d = Nullch;
2787                     }
2788 #endif
2789                 }
2790 #ifdef ALTERNATE_SHEBANG
2791                 /*
2792                  * If the ALTERNATE_SHEBANG on this system starts with a
2793                  * character that can be part of a Perl expression, then if
2794                  * we see it but not "perl", we're probably looking at the
2795                  * start of Perl code, not a request to hand off to some
2796                  * other interpreter.  Similarly, if "perl" is there, but
2797                  * not in the first 'word' of the line, we assume the line
2798                  * contains the start of the Perl program.
2799                  */
2800                 if (d && *s != '#') {
2801                     char *c = ipath;
2802                     while (*c && !strchr("; \t\r\n\f\v#", *c))
2803                         c++;
2804                     if (c < d)
2805                         d = Nullch;     /* "perl" not in first word; ignore */
2806                     else
2807                         *s = '#';       /* Don't try to parse shebang line */
2808                 }
2809 #endif /* ALTERNATE_SHEBANG */
2810 #ifndef MACOS_TRADITIONAL
2811                 if (!d &&
2812                     *s == '#' &&
2813                     ipathend > ipath &&
2814                     !PL_minus_c &&
2815                     !instr(s,"indir") &&
2816                     instr(PL_origargv[0],"perl"))
2817                 {
2818                     char **newargv;
2819
2820                     *ipathend = '\0';
2821                     s = ipathend + 1;
2822                     while (s < PL_bufend && isSPACE(*s))
2823                         s++;
2824                     if (s < PL_bufend) {
2825                         Newz(899,newargv,PL_origargc+3,char*);
2826                         newargv[1] = s;
2827                         while (s < PL_bufend && !isSPACE(*s))
2828                             s++;
2829                         *s = '\0';
2830                         Copy(PL_origargv+1, newargv+2, PL_origargc+1, char*);
2831                     }
2832                     else
2833                         newargv = PL_origargv;
2834                     newargv[0] = ipath;
2835                     PERL_FPU_PRE_EXEC
2836                     PerlProc_execv(ipath, EXEC_ARGV_CAST(newargv));
2837                     PERL_FPU_POST_EXEC
2838                     Perl_croak(aTHX_ "Can't exec %s", ipath);
2839                 }
2840 #endif
2841                 if (d) {
2842                     U32 oldpdb = PL_perldb;
2843                     bool oldn = PL_minus_n;
2844                     bool oldp = PL_minus_p;
2845
2846                     while (*d && !isSPACE(*d)) d++;
2847                     while (SPACE_OR_TAB(*d)) d++;
2848
2849                     if (*d++ == '-') {
2850                         bool switches_done = PL_doswitches;
2851                         do {
2852                             if (*d == 'M' || *d == 'm') {
2853                                 char *m = d;
2854                                 while (*d && !isSPACE(*d)) d++;
2855                                 Perl_croak(aTHX_ "Too late for \"-%.*s\" option",
2856                                       (int)(d - m), m);
2857                             }
2858                             d = moreswitches(d);
2859                         } while (d);
2860                         if (PL_doswitches && !switches_done) {
2861                             int argc = PL_origargc;
2862                             char **argv = PL_origargv;
2863                             do {
2864                                 argc--,argv++;
2865                             } while (argc && argv[0][0] == '-' && argv[0][1]);
2866                             init_argv_symbols(argc,argv);
2867                         }
2868                         if ((PERLDB_LINE && !oldpdb) ||
2869                             ((PL_minus_n || PL_minus_p) && !(oldn || oldp)))
2870                               /* if we have already added "LINE: while (<>) {",
2871                                  we must not do it again */
2872                         {
2873                             sv_setpv(PL_linestr, "");
2874                             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
2875                             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
2876                             PL_last_lop = PL_last_uni = Nullch;
2877                             PL_preambled = FALSE;
2878                             if (PERLDB_LINE)
2879                                 (void)gv_fetchfile(PL_origfilename);
2880                             goto retry;
2881                         }
2882                         if (PL_doswitches && !switches_done) {
2883                             int argc = PL_origargc;
2884                             char **argv = PL_origargv;
2885                             do {
2886                                 argc--,argv++;
2887                             } while (argc && argv[0][0] == '-' && argv[0][1]);
2888                             init_argv_symbols(argc,argv);
2889                         }
2890                     }
2891                 }
2892             }
2893         }
2894         if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
2895             PL_bufptr = s;
2896             PL_lex_state = LEX_FORMLINE;
2897             return yylex();
2898         }
2899         goto retry;
2900     case '\r':
2901 #ifdef PERL_STRICT_CR
2902         Perl_warn(aTHX_ "Illegal character \\%03o (carriage return)", '\r');
2903         Perl_croak(aTHX_
2904       "\t(Maybe you didn't strip carriage returns after a network transfer?)\n");
2905 #endif
2906     case ' ': case '\t': case '\f': case 013:
2907 #ifdef MACOS_TRADITIONAL
2908     case '\312':
2909 #endif
2910         s++;
2911         goto retry;
2912     case '#':
2913     case '\n':
2914         if (PL_lex_state != LEX_NORMAL || (PL_in_eval && !PL_rsfp)) {
2915             if (*s == '#' && s == PL_linestart && PL_in_eval && !PL_rsfp) {
2916                 /* handle eval qq[#line 1 "foo"\n ...] */
2917                 CopLINE_dec(PL_curcop);
2918                 incline(s);
2919             }
2920             d = PL_bufend;
2921             while (s < d && *s != '\n')
2922                 s++;
2923             if (s < d)
2924                 s++;
2925             else if (s > d) /* Found by Ilya: feed random input to Perl. */
2926               Perl_croak(aTHX_ "panic: input overflow");
2927             incline(s);
2928             if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
2929                 PL_bufptr = s;
2930                 PL_lex_state = LEX_FORMLINE;
2931                 return yylex();
2932             }
2933         }
2934         else {
2935             *s = '\0';
2936             PL_bufend = s;
2937         }
2938         goto retry;
2939     case '-':
2940         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
2941             I32 ftst = 0;
2942
2943             s++;
2944             PL_bufptr = s;
2945             tmp = *s++;
2946
2947             while (s < PL_bufend && SPACE_OR_TAB(*s))
2948                 s++;
2949
2950             if (strnEQ(s,"=>",2)) {
2951                 s = force_word(PL_bufptr,WORD,FALSE,FALSE,FALSE);
2952                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
2953                             "### Saw unary minus before =>, forcing word '%s'\n", s);
2954                 } );
2955                 OPERATOR('-');          /* unary minus */
2956             }
2957             PL_last_uni = PL_oldbufptr;
2958             switch (tmp) {
2959             case 'r': ftst = OP_FTEREAD;        break;
2960             case 'w': ftst = OP_FTEWRITE;       break;
2961             case 'x': ftst = OP_FTEEXEC;        break;
2962             case 'o': ftst = OP_FTEOWNED;       break;
2963             case 'R': ftst = OP_FTRREAD;        break;
2964             case 'W': ftst = OP_FTRWRITE;       break;
2965             case 'X': ftst = OP_FTREXEC;        break;
2966             case 'O': ftst = OP_FTROWNED;       break;
2967             case 'e': ftst = OP_FTIS;           break;
2968             case 'z': ftst = OP_FTZERO;         break;
2969             case 's': ftst = OP_FTSIZE;         break;
2970             case 'f': ftst = OP_FTFILE;         break;
2971             case 'd': ftst = OP_FTDIR;          break;
2972             case 'l': ftst = OP_FTLINK;         break;
2973             case 'p': ftst = OP_FTPIPE;         break;
2974             case 'S': ftst = OP_FTSOCK;         break;
2975             case 'u': ftst = OP_FTSUID;         break;
2976             case 'g': ftst = OP_FTSGID;         break;
2977             case 'k': ftst = OP_FTSVTX;         break;
2978             case 'b': ftst = OP_FTBLK;          break;
2979             case 'c': ftst = OP_FTCHR;          break;
2980             case 't': ftst = OP_FTTTY;          break;
2981             case 'T': ftst = OP_FTTEXT;         break;
2982             case 'B': ftst = OP_FTBINARY;       break;
2983             case 'M': case 'A': case 'C':
2984                 gv_fetchpv("\024",TRUE, SVt_PV);
2985                 switch (tmp) {
2986                 case 'M': ftst = OP_FTMTIME;    break;
2987                 case 'A': ftst = OP_FTATIME;    break;
2988                 case 'C': ftst = OP_FTCTIME;    break;
2989                 default:                        break;
2990                 }
2991                 break;
2992             default:
2993                 break;
2994             }
2995             if (ftst) {
2996                 PL_last_lop_op = (OPCODE)ftst;
2997                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
2998                         "### Saw file test %c\n", (int)ftst);
2999                 } );
3000                 FTST(ftst);
3001             }
3002             else {
3003                 /* Assume it was a minus followed by a one-letter named
3004                  * subroutine call (or a -bareword), then. */
3005                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
3006                         "### '-%c' looked like a file test but was not\n",
3007                         tmp);
3008                 } );
3009                 s = --PL_bufptr;
3010             }
3011         }
3012         tmp = *s++;
3013         if (*s == tmp) {
3014             s++;
3015             if (PL_expect == XOPERATOR)
3016                 TERM(POSTDEC);
3017             else
3018                 OPERATOR(PREDEC);
3019         }
3020         else if (*s == '>') {
3021             s++;
3022             s = skipspace(s);
3023             if (isIDFIRST_lazy_if(s,UTF)) {
3024                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
3025                 TOKEN(ARROW);
3026             }
3027             else if (*s == '$')
3028                 OPERATOR(ARROW);
3029             else
3030                 TERM(ARROW);
3031         }
3032         if (PL_expect == XOPERATOR)
3033             Aop(OP_SUBTRACT);
3034         else {
3035             if (isSPACE(*s) || !isSPACE(*PL_bufptr))
3036                 check_uni();
3037             OPERATOR('-');              /* unary minus */
3038         }
3039
3040     case '+':
3041         tmp = *s++;
3042         if (*s == tmp) {
3043             s++;
3044             if (PL_expect == XOPERATOR)
3045                 TERM(POSTINC);
3046             else
3047                 OPERATOR(PREINC);
3048         }
3049         if (PL_expect == XOPERATOR)
3050             Aop(OP_ADD);
3051         else {
3052             if (isSPACE(*s) || !isSPACE(*PL_bufptr))
3053                 check_uni();
3054             OPERATOR('+');
3055         }
3056
3057     case '*':
3058         if (PL_expect != XOPERATOR) {
3059             s = scan_ident(s, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
3060             PL_expect = XOPERATOR;
3061             force_ident(PL_tokenbuf, '*');
3062             if (!*PL_tokenbuf)
3063                 PREREF('*');
3064             TERM('*');
3065         }
3066         s++;
3067         if (*s == '*') {
3068             s++;
3069             PWop(OP_POW);
3070         }
3071         Mop(OP_MULTIPLY);
3072
3073     case '%':
3074         if (PL_expect == XOPERATOR) {
3075             ++s;
3076             Mop(OP_MODULO);
3077         }
3078         PL_tokenbuf[0] = '%';
3079         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1, TRUE);
3080         if (!PL_tokenbuf[1]) {
3081             PREREF('%');
3082         }
3083         PL_pending_ident = '%';
3084         TERM('%');
3085
3086     case '^':
3087         s++;
3088         BOop(OP_BIT_XOR);
3089     case '[':
3090         PL_lex_brackets++;
3091         /* FALL THROUGH */
3092     case '~':
3093     case ',':
3094         tmp = *s++;
3095         OPERATOR(tmp);
3096     case ':':
3097         if (s[1] == ':') {
3098             len = 0;
3099             goto just_a_word;
3100         }
3101         s++;
3102         switch (PL_expect) {
3103             OP *attrs;
3104         case XOPERATOR:
3105             if (!PL_in_my || PL_lex_state != LEX_NORMAL)
3106                 break;
3107             PL_bufptr = s;      /* update in case we back off */
3108             goto grabattrs;
3109         case XATTRBLOCK:
3110             PL_expect = XBLOCK;
3111             goto grabattrs;
3112         case XATTRTERM:
3113             PL_expect = XTERMBLOCK;
3114          grabattrs:
3115             s = skipspace(s);
3116             attrs = Nullop;
3117             while (isIDFIRST_lazy_if(s,UTF)) {
3118                 d = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
3119                 if (isLOWER(*s) && (tmp = keyword(PL_tokenbuf, len))) {
3120                     if (tmp < 0) tmp = -tmp;
3121                     switch (tmp) {
3122                     case KEY_or:
3123                     case KEY_and:
3124                     case KEY_err:
3125                     case KEY_for:
3126                     case KEY_unless:
3127                     case KEY_if:
3128                     case KEY_while:
3129                     case KEY_until:
3130                         goto got_attrs;
3131                     default:
3132                         break;
3133                     }
3134                 }
3135                 if (*d == '(') {
3136                     d = scan_str(d,TRUE,TRUE);
3137                     if (!d) {
3138                         /* MUST advance bufptr here to avoid bogus
3139                            "at end of line" context messages from yyerror().
3140                          */
3141                         PL_bufptr = s + len;
3142                         yyerror("Unterminated attribute parameter in attribute list");
3143                         if (attrs)
3144                             op_free(attrs);
3145                         return REPORT(0);       /* EOF indicator */
3146                     }
3147                 }
3148                 if (PL_lex_stuff) {
3149                     SV *sv = newSVpvn(s, len);
3150                     sv_catsv(sv, PL_lex_stuff);
3151                     attrs = append_elem(OP_LIST, attrs,
3152                                         newSVOP(OP_CONST, 0, sv));
3153                     SvREFCNT_dec(PL_lex_stuff);
3154                     PL_lex_stuff = Nullsv;
3155                 }
3156                 else {
3157                     if (len == 6 && strnEQ(s, "unique", len)) {
3158                         if (PL_in_my == KEY_our)
3159 #ifdef USE_ITHREADS
3160                             GvUNIQUE_on(cGVOPx_gv(yylval.opval));
3161 #else
3162                             ; /* skip to avoid loading attributes.pm */
3163 #endif
3164                         else 
3165                             Perl_croak(aTHX_ "The 'unique' attribute may only be applied to 'our' variables");
3166                     }
3167
3168                     /* NOTE: any CV attrs applied here need to be part of
3169                        the CVf_BUILTIN_ATTRS define in cv.h! */
3170                     else if (!PL_in_my && len == 6 && strnEQ(s, "lvalue", len))
3171                         CvLVALUE_on(PL_compcv);
3172                     else if (!PL_in_my && len == 6 && strnEQ(s, "locked", len))
3173                         CvLOCKED_on(PL_compcv);
3174                     else if (!PL_in_my && len == 6 && strnEQ(s, "method", len))
3175                         CvMETHOD_on(PL_compcv);
3176                     else if (!PL_in_my && len == 9 && strnEQ(s, "assertion", len))
3177                         CvASSERTION_on(PL_compcv);
3178                     /* After we've set the flags, it could be argued that
3179                        we don't need to do the attributes.pm-based setting
3180                        process, and shouldn't bother appending recognized
3181                        flags.  To experiment with that, uncomment the
3182                        following "else".  (Note that's already been
3183                        uncommented.  That keeps the above-applied built-in
3184                        attributes from being intercepted (and possibly
3185                        rejected) by a package's attribute routines, but is
3186                        justified by the performance win for the common case
3187                        of applying only built-in attributes.) */
3188                     else
3189                         attrs = append_elem(OP_LIST, attrs,
3190                                             newSVOP(OP_CONST, 0,
3191                                                     newSVpvn(s, len)));
3192                 }
3193                 s = skipspace(d);
3194                 if (*s == ':' && s[1] != ':')
3195                     s = skipspace(s+1);
3196                 else if (s == d)
3197                     break;      /* require real whitespace or :'s */
3198             }
3199             tmp = (PL_expect == XOPERATOR ? '=' : '{'); /*'}(' for vi */
3200             if (*s != ';' && *s != '}' && *s != tmp && (tmp != '=' || *s != ')')) {
3201                 char q = ((*s == '\'') ? '"' : '\'');
3202                 /* If here for an expression, and parsed no attrs, back off. */
3203                 if (tmp == '=' && !attrs) {
3204                     s = PL_bufptr;
3205                     break;
3206                 }
3207                 /* MUST advance bufptr here to avoid bogus "at end of line"
3208                    context messages from yyerror().
3209                  */
3210                 PL_bufptr = s;
3211                 if (!*s)
3212                     yyerror("Unterminated attribute list");
3213                 else
3214                     yyerror(Perl_form(aTHX_ "Invalid separator character %c%c%c in attribute list",
3215                                       q, *s, q));
3216                 if (attrs)
3217                     op_free(attrs);
3218                 OPERATOR(':');
3219             }
3220         got_attrs:
3221             if (attrs) {
3222                 PL_nextval[PL_nexttoke].opval = attrs;
3223                 force_next(THING);
3224             }
3225             TOKEN(COLONATTR);
3226         }
3227         OPERATOR(':');
3228     case '(':
3229         s++;
3230         if (PL_last_lop == PL_oldoldbufptr || PL_last_uni == PL_oldoldbufptr)
3231             PL_oldbufptr = PL_oldoldbufptr;             /* allow print(STDOUT 123) */
3232         else
3233             PL_expect = XTERM;
3234         s = skipspace(s);
3235         TOKEN('(');
3236     case ';':
3237         CLINE;
3238         tmp = *s++;
3239         OPERATOR(tmp);
3240     case ')':
3241         tmp = *s++;
3242         s = skipspace(s);
3243         if (*s == '{')
3244             PREBLOCK(tmp);
3245         TERM(tmp);
3246     case ']':
3247         s++;
3248         if (PL_lex_brackets <= 0)
3249             yyerror("Unmatched right square bracket");
3250         else
3251             --PL_lex_brackets;
3252         if (PL_lex_state == LEX_INTERPNORMAL) {
3253             if (PL_lex_brackets == 0) {
3254                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
3255                     PL_lex_state = LEX_INTERPEND;
3256             }
3257         }
3258         TERM(']');
3259     case '{':
3260       leftbracket:
3261         s++;
3262         if (PL_lex_brackets > 100) {
3263             Renew(PL_lex_brackstack, PL_lex_brackets + 10, char);
3264         }
3265         switch (PL_expect) {
3266         case XTERM:
3267             if (PL_lex_formbrack) {
3268                 s--;
3269                 PRETERMBLOCK(DO);
3270             }
3271             if (PL_oldoldbufptr == PL_last_lop)
3272                 PL_lex_brackstack[PL_lex_brackets++] = XTERM;
3273             else
3274                 PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
3275             OPERATOR(HASHBRACK);
3276         case XOPERATOR:
3277             while (s < PL_bufend && SPACE_OR_TAB(*s))
3278                 s++;
3279             d = s;
3280             PL_tokenbuf[0] = '\0';
3281             if (d < PL_bufend && *d == '-') {
3282                 PL_tokenbuf[0] = '-';
3283                 d++;
3284                 while (d < PL_bufend && SPACE_OR_TAB(*d))
3285                     d++;
3286             }
3287             if (d < PL_bufend && isIDFIRST_lazy_if(d,UTF)) {
3288                 d = scan_word(d, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1,
3289                               FALSE, &len);
3290                 while (d < PL_bufend && SPACE_OR_TAB(*d))
3291                     d++;
3292                 if (*d == '}') {
3293                     char minus = (PL_tokenbuf[0] == '-');
3294                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
3295                     if (minus)
3296                         force_next('-');
3297                 }
3298             }
3299             /* FALL THROUGH */
3300         case XATTRBLOCK:
3301         case XBLOCK:
3302             PL_lex_brackstack[PL_lex_brackets++] = XSTATE;
3303             PL_expect = XSTATE;
3304             break;
3305         case XATTRTERM:
3306         case XTERMBLOCK:
3307             PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
3308             PL_expect = XSTATE;
3309             break;
3310         default: {
3311                 char *t;
3312                 if (PL_oldoldbufptr == PL_last_lop)
3313                     PL_lex_brackstack[PL_lex_brackets++] = XTERM;
3314                 else
3315                     PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
3316                 s = skipspace(s);
3317                 if (*s == '}') {
3318                     if (PL_expect == XREF && PL_lex_state == LEX_INTERPNORMAL) {
3319                         PL_expect = XTERM;
3320                         /* This hack is to get the ${} in the message. */
3321                         PL_bufptr = s+1;
3322                         yyerror("syntax error");
3323                         break;
3324                     }
3325                     OPERATOR(HASHBRACK);
3326                 }
3327                 /* This hack serves to disambiguate a pair of curlies
3328                  * as being a block or an anon hash.  Normally, expectation
3329                  * determines that, but in cases where we're not in a
3330                  * position to expect anything in particular (like inside
3331                  * eval"") we have to resolve the ambiguity.  This code
3332                  * covers the case where the first term in the curlies is a
3333                  * quoted string.  Most other cases need to be explicitly
3334                  * disambiguated by prepending a `+' before the opening
3335                  * curly in order to force resolution as an anon hash.
3336                  *
3337                  * XXX should probably propagate the outer expectation
3338                  * into eval"" to rely less on this hack, but that could
3339                  * potentially break current behavior of eval"".
3340                  * GSAR 97-07-21
3341                  */
3342                 t = s;
3343                 if (*s == '\'' || *s == '"' || *s == '`') {
3344                     /* common case: get past first string, handling escapes */
3345                     for (t++; t < PL_bufend && *t != *s;)
3346                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
3347                             t++;
3348                     t++;
3349                 }
3350                 else if (*s == 'q') {
3351                     if (++t < PL_bufend
3352                         && (!isALNUM(*t)
3353                             || ((*t == 'q' || *t == 'x') && ++t < PL_bufend
3354                                 && !isALNUM(*t))))
3355                     {
3356                         /* skip q//-like construct */
3357                         char *tmps;
3358                         char open, close, term;
3359                         I32 brackets = 1;
3360
3361                         while (t < PL_bufend && isSPACE(*t))
3362                             t++;
3363                         /* check for q => */
3364                         if (t+1 < PL_bufend && t[0] == '=' && t[1] == '>') {
3365                             OPERATOR(HASHBRACK);
3366                         }
3367                         term = *t;
3368                         open = term;
3369                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
3370                             term = tmps[5];
3371                         close = term;
3372                         if (open == close)
3373                             for (t++; t < PL_bufend; t++) {
3374                                 if (*t == '\\' && t+1 < PL_bufend && open != '\\')
3375                                     t++;
3376                                 else if (*t == open)
3377                                     break;
3378                             }
3379                         else {
3380                             for (t++; t < PL_bufend; t++) {
3381                                 if (*t == '\\' && t+1 < PL_bufend)
3382                                     t++;
3383                                 else if (*t == close && --brackets <= 0)
3384                                     break;
3385                                 else if (*t == open)
3386                                     brackets++;
3387                             }
3388                         }
3389                         t++;
3390                     }
3391                     else
3392                         /* skip plain q word */
3393                         while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
3394                              t += UTF8SKIP(t);
3395                 }
3396                 else if (isALNUM_lazy_if(t,UTF)) {
3397                     t += UTF8SKIP(t);
3398                     while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
3399                          t += UTF8SKIP(t);
3400                 }
3401                 while (t < PL_bufend && isSPACE(*t))
3402                     t++;
3403                 /* if comma follows first term, call it an anon hash */
3404                 /* XXX it could be a comma expression with loop modifiers */
3405                 if (t < PL_bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
3406                                    || (*t == '=' && t[1] == '>')))
3407                     OPERATOR(HASHBRACK);
3408                 if (PL_expect == XREF)
3409                     PL_expect = XTERM;
3410                 else {
3411                     PL_lex_brackstack[PL_lex_brackets-1] = XSTATE;
3412                     PL_expect = XSTATE;
3413                 }
3414             }
3415             break;
3416         }
3417         yylval.ival = CopLINE(PL_curcop);
3418         if (isSPACE(*s) || *s == '#')
3419             PL_copline = NOLINE;   /* invalidate current command line number */
3420         TOKEN('{');
3421     case '}':
3422       rightbracket:
3423         s++;
3424         if (PL_lex_brackets <= 0)
3425             yyerror("Unmatched right curly bracket");
3426         else
3427             PL_expect = (expectation)PL_lex_brackstack[--PL_lex_brackets];
3428         if (PL_lex_brackets < PL_lex_formbrack && PL_lex_state != LEX_INTERPNORMAL)
3429             PL_lex_formbrack = 0;
3430         if (PL_lex_state == LEX_INTERPNORMAL) {
3431             if (PL_lex_brackets == 0) {
3432                 if (PL_expect & XFAKEBRACK) {
3433                     PL_expect &= XENUMMASK;
3434                     PL_lex_state = LEX_INTERPEND;
3435                     PL_bufptr = s;
3436                     return yylex();     /* ignore fake brackets */
3437                 }
3438                 if (*s == '-' && s[1] == '>')
3439                     PL_lex_state = LEX_INTERPENDMAYBE;
3440                 else if (*s != '[' && *s != '{')
3441                     PL_lex_state = LEX_INTERPEND;
3442             }
3443         }
3444         if (PL_expect & XFAKEBRACK) {
3445             PL_expect &= XENUMMASK;
3446             PL_bufptr = s;
3447             return yylex();             /* ignore fake brackets */
3448         }
3449         force_next('}');
3450         TOKEN(';');
3451     case '&':
3452         s++;
3453         tmp = *s++;
3454         if (tmp == '&')
3455             AOPERATOR(ANDAND);
3456         s--;
3457         if (PL_expect == XOPERATOR) {
3458             if (ckWARN(WARN_SEMICOLON)
3459                 && isIDFIRST_lazy_if(s,UTF) && PL_bufptr == PL_linestart)
3460             {
3461                 CopLINE_dec(PL_curcop);
3462                 Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
3463                 CopLINE_inc(PL_curcop);
3464             }
3465             BAop(OP_BIT_AND);
3466         }
3467
3468         s = scan_ident(s - 1, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
3469         if (*PL_tokenbuf) {
3470             PL_expect = XOPERATOR;
3471             force_ident(PL_tokenbuf, '&');
3472         }
3473         else
3474             PREREF('&');
3475         yylval.ival = (OPpENTERSUB_AMPER<<8);
3476         TERM('&');
3477
3478     case '|':
3479         s++;
3480         tmp = *s++;
3481         if (tmp == '|')
3482             AOPERATOR(OROR);
3483         s--;
3484         BOop(OP_BIT_OR);
3485     case '=':
3486         s++;
3487         tmp = *s++;
3488         if (tmp == '=')
3489             Eop(OP_EQ);
3490         if (tmp == '>')
3491             OPERATOR(',');
3492         if (tmp == '~')
3493             PMop(OP_MATCH);
3494         if (ckWARN(WARN_SYNTAX) && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
3495             Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Reversed %c= operator",(int)tmp);
3496         s--;
3497         if (PL_expect == XSTATE && isALPHA(tmp) &&
3498                 (s == PL_linestart+1 || s[-2] == '\n') )
3499         {
3500             if (PL_in_eval && !PL_rsfp) {
3501                 d = PL_bufend;
3502                 while (s < d) {
3503                     if (*s++ == '\n') {
3504                         incline(s);
3505                         if (strnEQ(s,"=cut",4)) {
3506                             s = strchr(s,'\n');
3507                             if (s)
3508                                 s++;
3509                             else
3510                                 s = d;
3511                             incline(s);
3512                             goto retry;
3513                         }
3514                     }
3515                 }
3516                 goto retry;
3517             }
3518             s = PL_bufend;
3519             PL_doextract = TRUE;
3520             goto retry;
3521         }
3522         if (PL_lex_brackets < PL_lex_formbrack) {
3523             char *t;
3524 #ifdef PERL_STRICT_CR
3525             for (t = s; SPACE_OR_TAB(*t); t++) ;
3526 #else
3527             for (t = s; SPACE_OR_TAB(*t) || *t == '\r'; t++) ;
3528 #endif
3529             if (*t == '\n' || *t == '#') {
3530                 s--;
3531                 PL_expect = XBLOCK;
3532                 goto leftbracket;
3533             }
3534         }
3535         yylval.ival = 0;
3536         OPERATOR(ASSIGNOP);
3537     case '!':
3538         s++;
3539         tmp = *s++;
3540         if (tmp == '=') {
3541             /* was this !=~ where !~ was meant?
3542              * warn on m:!=~\s+([/?]|[msy]\W|tr\W): */
3543
3544             if (*s == '~' && ckWARN(WARN_SYNTAX)) {
3545                 char *t = s+1;
3546
3547                 while (t < PL_bufend && isSPACE(*t))
3548                     ++t;
3549
3550                 if (*t == '/' || *t == '?' ||
3551                     ((*t == 'm' || *t == 's' || *t == 'y') && !isALNUM(t[1])) ||
3552                     (*t == 't' && t[1] == 'r' && !isALNUM(t[2])))
3553                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
3554                                 "!=~ should be !~");
3555             }
3556             Eop(OP_NE);
3557         }
3558         if (tmp == '~')
3559             PMop(OP_NOT);
3560         s--;
3561         OPERATOR('!');
3562     case '<':
3563         if (PL_expect != XOPERATOR) {
3564             if (s[1] != '<' && !strchr(s,'>'))
3565                 check_uni();
3566             if (s[1] == '<')
3567                 s = scan_heredoc(s);
3568             else
3569                 s = scan_inputsymbol(s);
3570             TERM(sublex_start());
3571         }
3572         s++;
3573         tmp = *s++;
3574         if (tmp == '<')
3575             SHop(OP_LEFT_SHIFT);
3576         if (tmp == '=') {
3577             tmp = *s++;
3578             if (tmp == '>')
3579                 Eop(OP_NCMP);
3580             s--;
3581             Rop(OP_LE);
3582         }
3583         s--;
3584         Rop(OP_LT);
3585     case '>':
3586         s++;
3587         tmp = *s++;
3588         if (tmp == '>')
3589             SHop(OP_RIGHT_SHIFT);
3590         if (tmp == '=')
3591             Rop(OP_GE);
3592         s--;
3593         Rop(OP_GT);
3594
3595     case '$':
3596         CLINE;
3597
3598         if (PL_expect == XOPERATOR) {
3599             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
3600                 PL_expect = XTERM;
3601                 depcom();
3602                 return REPORT(','); /* grandfather non-comma-format format */
3603             }
3604         }
3605
3606         if (s[1] == '#' && (isIDFIRST_lazy_if(s+2,UTF) || strchr("{$:+-", s[2]))) {
3607             PL_tokenbuf[0] = '@';
3608             s = scan_ident(s + 1, PL_bufend, PL_tokenbuf + 1,
3609                            sizeof PL_tokenbuf - 1, FALSE);
3610             if (PL_expect == XOPERATOR)
3611                 no_op("Array length", s);
3612             if (!PL_tokenbuf[1])
3613                 PREREF(DOLSHARP);
3614             PL_expect = XOPERATOR;
3615             PL_pending_ident = '#';
3616             TOKEN(DOLSHARP);
3617         }
3618
3619         PL_tokenbuf[0] = '$';
3620         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1,
3621                        sizeof PL_tokenbuf - 1, FALSE);
3622         if (PL_expect == XOPERATOR)
3623             no_op("Scalar", s);
3624         if (!PL_tokenbuf[1]) {
3625             if (s == PL_bufend)
3626                 yyerror("Final $ should be \\$ or $name");
3627             PREREF('$');
3628         }
3629
3630         /* This kludge not intended to be bulletproof. */
3631         if (PL_tokenbuf[1] == '[' && !PL_tokenbuf[2]) {
3632             yylval.opval = newSVOP(OP_CONST, 0,
3633                                    newSViv(PL_compiling.cop_arybase));
3634             yylval.opval->op_private = OPpCONST_ARYBASE;
3635             TERM(THING);
3636         }
3637
3638         d = s;
3639         tmp = (I32)*s;
3640         if (PL_lex_state == LEX_NORMAL)
3641             s = skipspace(s);
3642
3643         if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop) && intuit_more(s)) {
3644             char *t;
3645             if (*s == '[') {
3646                 PL_tokenbuf[0] = '@';
3647                 if (ckWARN(WARN_SYNTAX)) {
3648                     for(t = s + 1;
3649                         isSPACE(*t) || isALNUM_lazy_if(t,UTF) || *t == '$';
3650                         t++) ;
3651                     if (*t++ == ',') {
3652                         PL_bufptr = skipspace(PL_bufptr);
3653                         while (t < PL_bufend && *t != ']')
3654                             t++;
3655                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
3656                                 "Multidimensional syntax %.*s not supported",
3657                                 (t - PL_bufptr) + 1, PL_bufptr);
3658                     }
3659                 }
3660             }
3661             else if (*s == '{') {
3662                 PL_tokenbuf[0] = '%';
3663                 if (ckWARN(WARN_SYNTAX) && strEQ(PL_tokenbuf+1, "SIG") &&
3664                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
3665                 {
3666                     char tmpbuf[sizeof PL_tokenbuf];
3667                     STRLEN len;
3668                     for (t++; isSPACE(*t); t++) ;
3669                     if (isIDFIRST_lazy_if(t,UTF)) {
3670                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
3671                         for (; isSPACE(*t); t++) ;
3672                         if (*t == ';' && get_cv(tmpbuf, FALSE))
3673                             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
3674                                 "You need to quote \"%s\"", tmpbuf);
3675                     }
3676                 }
3677             }
3678         }
3679
3680         PL_expect = XOPERATOR;
3681         if (PL_lex_state == LEX_NORMAL && isSPACE((char)tmp)) {
3682             bool islop = (PL_last_lop == PL_oldoldbufptr);
3683             if (!islop || PL_last_lop_op == OP_GREPSTART)
3684                 PL_expect = XOPERATOR;
3685             else if (strchr("$@\"'`q", *s))
3686                 PL_expect = XTERM;              /* e.g. print $fh "foo" */
3687             else if (strchr("&*<%", *s) && isIDFIRST_lazy_if(s+1,UTF))
3688                 PL_expect = XTERM;              /* e.g. print $fh &sub */
3689             else if (isIDFIRST_lazy_if(s,UTF)) {
3690                 char tmpbuf[sizeof PL_tokenbuf];
3691                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3692                 if ((tmp = keyword(tmpbuf, len))) {
3693                     /* binary operators exclude handle interpretations */
3694                     switch (tmp) {
3695                     case -KEY_x:
3696                     case -KEY_eq:
3697                     case -KEY_ne:
3698                     case -KEY_gt:
3699                     case -KEY_lt:
3700                     case -KEY_ge:
3701                     case -KEY_le:
3702                     case -KEY_cmp:
3703                         break;
3704                     default:
3705                         PL_expect = XTERM;      /* e.g. print $fh length() */
3706                         break;
3707                     }
3708                 }
3709                 else {
3710                     PL_expect = XTERM;          /* e.g. print $fh subr() */
3711                 }
3712             }
3713             else if (isDIGIT(*s))
3714                 PL_expect = XTERM;              /* e.g. print $fh 3 */
3715             else if (*s == '.' && isDIGIT(s[1]))
3716                 PL_expect = XTERM;              /* e.g. print $fh .3 */
3717             else if (strchr("?-+", *s) && !isSPACE(s[1]) && s[1] != '=')
3718                 PL_expect = XTERM;              /* e.g. print $fh -1 */
3719             else if (*s == '/' && !isSPACE(s[1]) && s[1] != '=' && s[1] != '/')
3720                 PL_expect = XTERM;              /* e.g. print $fh /.../
3721                                                  XXX except DORDOR operator */
3722             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]) && s[2] != '=')
3723                 PL_expect = XTERM;              /* print $fh <<"EOF" */
3724         }
3725         PL_pending_ident = '$';
3726         TOKEN('$');
3727
3728     case '@':
3729         if (PL_expect == XOPERATOR)
3730             no_op("Array", s);
3731         PL_tokenbuf[0] = '@';
3732         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1, FALSE);
3733         if (!PL_tokenbuf[1]) {
3734             PREREF('@');
3735         }
3736         if (PL_lex_state == LEX_NORMAL)
3737             s = skipspace(s);
3738         if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop) && intuit_more(s)) {
3739             if (*s == '{')
3740                 PL_tokenbuf[0] = '%';
3741
3742             /* Warn about @ where they meant $. */
3743             if (ckWARN(WARN_SYNTAX)) {
3744                 if (*s == '[' || *s == '{') {
3745                     char *t = s + 1;
3746                     while (*t && (isALNUM_lazy_if(t,UTF) || strchr(" \t$#+-'\"", *t)))
3747                         t++;
3748                     if (*t == '}' || *t == ']') {
3749                         t++;
3750                         PL_bufptr = skipspace(PL_bufptr);
3751                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
3752                             "Scalar value %.*s better written as $%.*s",
3753                             t-PL_bufptr, PL_bufptr, t-PL_bufptr-1, PL_bufptr+1);
3754                     }
3755                 }
3756             }
3757         }
3758         PL_pending_ident = '@';
3759         TERM('@');
3760
3761      case '/':                  /* may be division, defined-or, or pattern */
3762         if (PL_expect == XTERMORDORDOR && s[1] == '/') {
3763             s += 2;
3764             AOPERATOR(DORDOR);
3765         }
3766      case '?':                  /* may either be conditional or pattern */
3767          if(PL_expect == XOPERATOR) {
3768              tmp = *s++;
3769              if(tmp == '?') {
3770                   OPERATOR('?');
3771              }
3772              else {
3773                  tmp = *s++;
3774                  if(tmp == '/') {
3775                      /* A // operator. */
3776                     AOPERATOR(DORDOR);
3777                  }
3778                  else {
3779                      s--;
3780                      Mop(OP_DIVIDE);
3781                  }
3782              }
3783          }
3784          else {
3785              /* Disable warning on "study /blah/" */
3786              if (PL_oldoldbufptr == PL_last_uni
3787               && (*PL_last_uni != 's' || s - PL_last_uni < 5
3788                   || memNE(PL_last_uni, "study", 5)
3789                   || isALNUM_lazy_if(PL_last_uni+5,UTF)
3790               ))
3791                  check_uni();
3792              s = scan_pat(s,OP_MATCH);
3793              TERM(sublex_start());
3794          }
3795
3796     case '.':
3797         if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack
3798 #ifdef PERL_STRICT_CR
3799             && s[1] == '\n'
3800 #else
3801             && (s[1] == '\n' || (s[1] == '\r' && s[2] == '\n'))
3802 #endif
3803             && (s == PL_linestart || s[-1] == '\n') )
3804         {
3805             PL_lex_formbrack = 0;
3806             PL_expect = XSTATE;
3807             goto rightbracket;
3808         }
3809         if (PL_expect == XOPERATOR || !isDIGIT(s[1])) {
3810             tmp = *s++;
3811             if (*s == tmp) {
3812                 s++;
3813                 if (*s == tmp) {
3814                     s++;
3815                     yylval.ival = OPf_SPECIAL;
3816                 }
3817                 else
3818                     yylval.ival = 0;
3819                 OPERATOR(DOTDOT);
3820             }
3821             if (PL_expect != XOPERATOR)
3822                 check_uni();
3823             Aop(OP_CONCAT);
3824         }
3825         /* FALL THROUGH */
3826     case '0': case '1': case '2': case '3': case '4':
3827     case '5': case '6': case '7': case '8': case '9':
3828         s = scan_num(s, &yylval);
3829         DEBUG_T( { PerlIO_printf(Perl_debug_log,
3830                     "### Saw number in '%s'\n", s);
3831         } );
3832         if (PL_expect == XOPERATOR)
3833             no_op("Number",s);
3834         TERM(THING);
3835
3836     case '\'':
3837         s = scan_str(s,FALSE,FALSE);
3838         DEBUG_T( { PerlIO_printf(Perl_debug_log,
3839                     "### Saw string before '%s'\n", s);
3840         } );
3841         if (PL_expect == XOPERATOR) {
3842             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
3843                 PL_expect = XTERM;
3844                 depcom();
3845                 return REPORT(','); /* grandfather non-comma-format format */
3846             }
3847             else
3848                 no_op("String",s);
3849         }
3850         if (!s)
3851             missingterm((char*)0);
3852         yylval.ival = OP_CONST;
3853         TERM(sublex_start());
3854
3855     case '"':
3856         s = scan_str(s,FALSE,FALSE);
3857         DEBUG_T( { PerlIO_printf(Perl_debug_log,
3858                     "### Saw string before '%s'\n", s);
3859         } );
3860         if (PL_expect == XOPERATOR) {
3861             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
3862                 PL_expect = XTERM;
3863                 depcom();
3864                 return REPORT(','); /* grandfather non-comma-format format */
3865             }
3866             else
3867                 no_op("String",s);
3868         }
3869         if (!s)
3870             missingterm((char*)0);
3871         yylval.ival = OP_CONST;
3872         for (d = SvPV(PL_lex_stuff, len); len; len--, d++) {
3873             if (*d == '$' || *d == '@' || *d == '\\' || !UTF8_IS_INVARIANT((U8)*d)) {
3874                 yylval.ival = OP_STRINGIFY;
3875                 break;
3876             }
3877         }
3878         TERM(sublex_start());
3879
3880     case '`':
3881         s = scan_str(s,FALSE,FALSE);
3882         DEBUG_T( { PerlIO_printf(Perl_debug_log,
3883                     "### Saw backtick string before '%s'\n", s);
3884         } );
3885         if (PL_expect == XOPERATOR)
3886             no_op("Backticks",s);
3887         if (!s)
3888             missingterm((char*)0);
3889         yylval.ival = OP_BACKTICK;
3890         set_csh();
3891         TERM(sublex_start());
3892
3893     case '\\':
3894         s++;
3895         if (ckWARN(WARN_SYNTAX) && PL_lex_inwhat && isDIGIT(*s))
3896             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),"Can't use \\%c to mean $%c in expression",
3897                         *s, *s);
3898         if (PL_expect == XOPERATOR)
3899             no_op("Backslash",s);
3900         OPERATOR(REFGEN);
3901
3902     case 'v':
3903         if (isDIGIT(s[1]) && PL_expect != XOPERATOR) {
3904             char *start = s;
3905             start++;
3906             start++;
3907             while (isDIGIT(*start) || *start == '_')
3908                 start++;
3909             if (*start == '.' && isDIGIT(start[1])) {
3910                 s = scan_num(s, &yylval);
3911                 TERM(THING);
3912             }
3913             /* avoid v123abc() or $h{v1}, allow C<print v10;> */
3914             else if (!isALPHA(*start) && (PL_expect == XTERM
3915                         || PL_expect == XREF || PL_expect == XSTATE
3916                         || PL_expect == XTERMORDORDOR)) {
3917                 char c = *start;
3918                 GV *gv;
3919                 *start = '\0';
3920                 gv = gv_fetchpv(s, FALSE, SVt_PVCV);
3921                 *start = c;
3922                 if (!gv) {
3923                     s = scan_num(s, &yylval);
3924                     TERM(THING);
3925                 }
3926             }
3927         }
3928         goto keylookup;
3929     case 'x':
3930         if (isDIGIT(s[1]) && PL_expect == XOPERATOR) {
3931             s++;
3932             Mop(OP_REPEAT);
3933         }
3934         goto keylookup;
3935
3936     case '_':
3937     case 'a': case 'A':
3938     case 'b': case 'B':
3939     case 'c': case 'C':
3940     case 'd': case 'D':
3941     case 'e': case 'E':
3942     case 'f': case 'F':
3943     case 'g': case 'G':
3944     case 'h': case 'H':
3945     case 'i': case 'I':
3946     case 'j': case 'J':
3947     case 'k': case 'K':
3948     case 'l': case 'L':
3949     case 'm': case 'M':
3950     case 'n': case 'N':
3951     case 'o': case 'O':
3952     case 'p': case 'P':
3953     case 'q': case 'Q':
3954     case 'r': case 'R':
3955     case 's': case 'S':
3956     case 't': case 'T':
3957     case 'u': case 'U':
3958               case 'V':
3959     case 'w': case 'W':
3960               case 'X':
3961     case 'y': case 'Y':
3962     case 'z': case 'Z':
3963
3964       keylookup: {
3965         orig_keyword = 0;
3966         gv = Nullgv;
3967         gvp = 0;
3968
3969         PL_bufptr = s;
3970         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
3971
3972         /* Some keywords can be followed by any delimiter, including ':' */
3973         tmp = ((len == 1 && strchr("msyq", PL_tokenbuf[0])) ||
3974                (len == 2 && ((PL_tokenbuf[0] == 't' && PL_tokenbuf[1] == 'r') ||
3975                              (PL_tokenbuf[0] == 'q' &&
3976                               strchr("qwxr", PL_tokenbuf[1])))));
3977
3978         /* x::* is just a word, unless x is "CORE" */
3979         if (!tmp && *s == ':' && s[1] == ':' && strNE(PL_tokenbuf, "CORE"))
3980             goto just_a_word;
3981
3982         d = s;
3983         while (d < PL_bufend && isSPACE(*d))
3984                 d++;    /* no comments skipped here, or s### is misparsed */
3985
3986         /* Is this a label? */
3987         if (!tmp && PL_expect == XSTATE
3988               && d < PL_bufend && *d == ':' && *(d + 1) != ':') {
3989             s = d + 1;
3990             yylval.pval = savepv(PL_tokenbuf);
3991             CLINE;
3992             TOKEN(LABEL);
3993         }
3994
3995         /* Check for keywords */
3996         tmp = keyword(PL_tokenbuf, len);
3997
3998         /* Is this a word before a => operator? */
3999         if (*d == '=' && d[1] == '>') {
4000             CLINE;
4001             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(PL_tokenbuf,0));
4002             yylval.opval->op_private = OPpCONST_BARE;
4003             if (UTF && !IN_BYTES && is_utf8_string((U8*)PL_tokenbuf, len))
4004               SvUTF8_on(((SVOP*)yylval.opval)->op_sv);
4005             TERM(WORD);
4006         }
4007
4008         if (tmp < 0) {                  /* second-class keyword? */
4009             GV *ogv = Nullgv;   /* override (winner) */
4010             GV *hgv = Nullgv;   /* hidden (loser) */
4011             if (PL_expect != XOPERATOR && (*s != ':' || s[1] != ':')) {
4012                 CV *cv;
4013                 if ((gv = gv_fetchpv(PL_tokenbuf, FALSE, SVt_PVCV)) &&
4014                     (cv = GvCVu(gv)))
4015                 {
4016                     if (GvIMPORTED_CV(gv))
4017                         ogv = gv;
4018                     else if (! CvMETHOD(cv))
4019                         hgv = gv;
4020                 }
4021                 if (!ogv &&
4022                     (gvp = (GV**)hv_fetch(PL_globalstash,PL_tokenbuf,len,FALSE)) &&
4023                     (gv = *gvp) != (GV*)&PL_sv_undef &&
4024                     GvCVu(gv) && GvIMPORTED_CV(gv))
4025                 {
4026                     ogv = gv;
4027                 }
4028             }
4029             if (ogv) {
4030                 orig_keyword = tmp;
4031                 tmp = 0;                /* overridden by import or by GLOBAL */
4032             }
4033             else if (gv && !gvp
4034                      && -tmp==KEY_lock  /* XXX generalizable kludge */
4035                      && GvCVu(gv)
4036                      && !hv_fetch(GvHVn(PL_incgv), "Thread.pm", 9, FALSE))
4037             {
4038                 tmp = 0;                /* any sub overrides "weak" keyword */
4039             }
4040             else {                      /* no override */
4041                 tmp = -tmp;
4042                 if (tmp == KEY_dump && ckWARN(WARN_MISC)) {
4043                     Perl_warner(aTHX_ packWARN(WARN_MISC),
4044                             "dump() better written as CORE::dump()");
4045                 }
4046                 gv = Nullgv;
4047                 gvp = 0;
4048                 if (ckWARN(WARN_AMBIGUOUS) && hgv
4049                     && tmp != KEY_x && tmp != KEY_CORE) /* never ambiguous */
4050                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
4051                         "Ambiguous call resolved as CORE::%s(), %s",
4052                          GvENAME(hgv), "qualify as such or use &");
4053             }
4054         }
4055
4056       reserved_word:
4057         switch (tmp) {
4058
4059         default:                        /* not a keyword */
4060           just_a_word: {
4061                 SV *sv;
4062                 int pkgname = 0;
4063                 char lastchar = (PL_bufptr == PL_oldoldbufptr ? 0 : PL_bufptr[-1]);
4064
4065                 /* Get the rest if it looks like a package qualifier */
4066
4067                 if (*s == '\'' || (*s == ':' && s[1] == ':')) {
4068                     STRLEN morelen;
4069                     s = scan_word(s, PL_tokenbuf + len, sizeof PL_tokenbuf - len,
4070                                   TRUE, &morelen);
4071                     if (!morelen)
4072                         Perl_croak(aTHX_ "Bad name after %s%s", PL_tokenbuf,
4073                                 *s == '\'' ? "'" : "::");
4074                     len += morelen;
4075                     pkgname = 1;
4076                 }
4077
4078                 if (PL_expect == XOPERATOR) {
4079                     if (PL_bufptr == PL_linestart) {
4080                         CopLINE_dec(PL_curcop);
4081                         Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
4082                         CopLINE_inc(PL_curcop);
4083                     }
4084                     else
4085                         no_op("Bareword",s);
4086                 }
4087
4088                 /* Look for a subroutine with this name in current package,
4089                    unless name is "Foo::", in which case Foo is a bearword
4090                    (and a package name). */
4091
4092                 if (len > 2 &&
4093                     PL_tokenbuf[len - 2] == ':' && PL_tokenbuf[len - 1] == ':')
4094                 {
4095                     if (ckWARN(WARN_BAREWORD) && ! gv_fetchpv(PL_tokenbuf, FALSE, SVt_PVHV))
4096                         Perl_warner(aTHX_ packWARN(WARN_BAREWORD),
4097                             "Bareword \"%s\" refers to nonexistent package",
4098                              PL_tokenbuf);
4099                     len -= 2;
4100                     PL_tokenbuf[len] = '\0';
4101                     gv = Nullgv;
4102                     gvp = 0;
4103                 }
4104                 else {
4105                     len = 0;
4106                     if (!gv)
4107                         gv = gv_fetchpv(PL_tokenbuf, FALSE, SVt_PVCV);
4108                 }
4109
4110                 /* if we saw a global override before, get the right name */
4111
4112                 if (gvp) {
4113                     sv = newSVpvn("CORE::GLOBAL::",14);
4114                     sv_catpv(sv,PL_tokenbuf);
4115                 }
4116                 else
4117                     sv = newSVpv(PL_tokenbuf,0);
4118
4119                 /* Presume this is going to be a bareword of some sort. */
4120
4121                 CLINE;
4122                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
4123                 yylval.opval->op_private = OPpCONST_BARE;
4124                 /* UTF-8 package name? */
4125                 if (UTF && !IN_BYTES &&
4126                     is_utf8_string((U8*)SvPVX(sv), SvCUR(sv)))
4127                     SvUTF8_on(sv);
4128
4129                 /* And if "Foo::", then that's what it certainly is. */
4130
4131                 if (len)
4132                     goto safe_bareword;
4133
4134                 /* See if it's the indirect object for a list operator. */
4135
4136                 if (PL_oldoldbufptr &&
4137                     PL_oldoldbufptr < PL_bufptr &&
4138                     (PL_oldoldbufptr == PL_last_lop
4139                      || PL_oldoldbufptr == PL_last_uni) &&
4140                     /* NO SKIPSPACE BEFORE HERE! */
4141                     (PL_expect == XREF ||
4142                      ((PL_opargs[PL_last_lop_op] >> OASHIFT)& 7) == OA_FILEREF))
4143                 {
4144                     bool immediate_paren = *s == '(';
4145
4146                     /* (Now we can afford to cross potential line boundary.) */
4147                     s = skipspace(s);
4148
4149                     /* Two barewords in a row may indicate method call. */
4150
4151                     if ((isIDFIRST_lazy_if(s,UTF) || *s == '$') && (tmp=intuit_method(s,gv)))
4152                         return REPORT(tmp);
4153
4154                     /* If not a declared subroutine, it's an indirect object. */
4155                     /* (But it's an indir obj regardless for sort.) */
4156
4157                     if ( !immediate_paren && (PL_last_lop_op == OP_SORT ||
4158                          ((!gv || !GvCVu(gv)) &&
4159                         (PL_last_lop_op != OP_MAPSTART &&
4160                          PL_last_lop_op != OP_GREPSTART))))
4161                     {
4162                         PL_expect = (PL_last_lop == PL_oldoldbufptr) ? XTERM : XOPERATOR;
4163                         goto bareword;
4164                     }
4165                 }
4166
4167                 PL_expect = XOPERATOR;
4168                 s = skipspace(s);
4169
4170                 /* Is this a word before a => operator? */
4171                 if (*s == '=' && s[1] == '>' && !pkgname) {
4172                     CLINE;
4173                     sv_setpv(((SVOP*)yylval.opval)->op_sv, PL_tokenbuf);
4174                     if (UTF && !IN_BYTES && is_utf8_string((U8*)PL_tokenbuf, len))
4175                       SvUTF8_on(((SVOP*)yylval.opval)->op_sv);
4176                     TERM(WORD);
4177                 }
4178
4179                 /* If followed by a paren, it's certainly a subroutine. */
4180                 if (*s == '(') {
4181                     CLINE;
4182                     if (gv && GvCVu(gv)) {
4183                         for (d = s + 1; SPACE_OR_TAB(*d); d++) ;
4184                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
4185                             s = d + 1;
4186                             goto its_constant;
4187                         }
4188                     }
4189                     PL_nextval[PL_nexttoke].opval = yylval.opval;
4190                     PL_expect = XOPERATOR;
4191                     force_next(WORD);
4192                     yylval.ival = 0;
4193                     TOKEN('&');
4194                 }
4195
4196                 /* If followed by var or block, call it a method (unless sub) */
4197
4198                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
4199                     PL_last_lop = PL_oldbufptr;
4200                     PL_last_lop_op = OP_METHOD;
4201                     PREBLOCK(METHOD);
4202                 }
4203
4204                 /* If followed by a bareword, see if it looks like indir obj. */
4205
4206                 if (!orig_keyword
4207                         && (isIDFIRST_lazy_if(s,UTF) || *s == '$')
4208                         && (tmp = intuit_method(s,gv)))
4209                     return REPORT(tmp);
4210
4211                 /* Not a method, so call it a subroutine (if defined) */
4212
4213                 if (gv && GvCVu(gv)) {
4214                     CV* cv;
4215                     if (lastchar == '-' && ckWARN_d(WARN_AMBIGUOUS))
4216                         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
4217                                 "Ambiguous use of -%s resolved as -&%s()",
4218                                 PL_tokenbuf, PL_tokenbuf);
4219                     /* Check for a constant sub */
4220                     cv = GvCV(gv);
4221                     if ((sv = cv_const_sv(cv))) {
4222                   its_constant:
4223                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
4224                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
4225                         yylval.opval->op_private = 0;
4226                         TOKEN(WORD);
4227                     }
4228
4229                     /* Resolve to GV now. */
4230                     op_free(yylval.opval);
4231                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
4232                     yylval.opval->op_private |= OPpENTERSUB_NOPAREN;
4233                     PL_last_lop = PL_oldbufptr;
4234                     PL_last_lop_op = OP_ENTERSUB;
4235                     /* Is there a prototype? */
4236                     if (SvPOK(cv)) {
4237                         STRLEN len;
4238                         char *proto = SvPV((SV*)cv, len);
4239                         if (!len)
4240                             TERM(FUNC0SUB);
4241                         if (strEQ(proto, "$"))
4242                             OPERATOR(UNIOPSUB);
4243                         while (*proto == ';')
4244                             proto++;
4245                         if (*proto == '&' && *s == '{') {
4246                             sv_setpv(PL_subname, PL_curstash ? 
4247                                         "__ANON__" : "__ANON__::__ANON__");
4248                             PREBLOCK(LSTOPSUB);
4249                         }
4250                     }
4251                     PL_nextval[PL_nexttoke].opval = yylval.opval;
4252                     PL_expect = XTERM;
4253                     force_next(WORD);
4254                     TOKEN(NOAMP);
4255                 }
4256
4257                 /* Call it a bare word */
4258
4259                 if (PL_hints & HINT_STRICT_SUBS)
4260                     yylval.opval->op_private |= OPpCONST_STRICT;
4261                 else {
4262                 bareword:
4263                     if (ckWARN(WARN_RESERVED)) {
4264                         if (lastchar != '-') {
4265                             for (d = PL_tokenbuf; *d && isLOWER(*d); d++) ;
4266                             if (!*d && !gv_stashpv(PL_tokenbuf,FALSE))
4267                                 Perl_warner(aTHX_ packWARN(WARN_RESERVED), PL_warn_reserved,
4268                                        PL_tokenbuf);
4269                         }
4270                     }
4271                 }
4272
4273             safe_bareword:
4274                 if (lastchar && strchr("*%&", lastchar) && ckWARN_d(WARN_AMBIGUOUS)) {
4275                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
4276                         "Operator or semicolon missing before %c%s",
4277                         lastchar, PL_tokenbuf);
4278                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
4279                         "Ambiguous use of %c resolved as operator %c",
4280                         lastchar, lastchar);
4281                 }
4282                 TOKEN(WORD);
4283             }
4284
4285         case KEY___FILE__:
4286             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
4287                                         newSVpv(CopFILE(PL_curcop),0));
4288             TERM(THING);
4289
4290         case KEY___LINE__:
4291             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
4292                                     Perl_newSVpvf(aTHX_ "%"IVdf, (IV)CopLINE(PL_curcop)));
4293             TERM(THING);
4294
4295         case KEY___PACKAGE__:
4296             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
4297                                         (PL_curstash
4298                                          ? newSVsv(PL_curstname)
4299                                          : &PL_sv_undef));
4300             TERM(THING);
4301
4302         case KEY___DATA__:
4303         case KEY___END__: {
4304             GV *gv;
4305
4306             /*SUPPRESS 560*/
4307             if (PL_rsfp && (!PL_in_eval || PL_tokenbuf[2] == 'D')) {
4308                 char *pname = "main";
4309                 if (PL_tokenbuf[2] == 'D')
4310                     pname = HvNAME(PL_curstash ? PL_curstash : PL_defstash);
4311                 gv = gv_fetchpv(Perl_form(aTHX_ "%s::DATA", pname), TRUE, SVt_PVIO);
4312                 GvMULTI_on(gv);
4313                 if (!GvIO(gv))
4314                     GvIOp(gv) = newIO();
4315                 IoIFP(GvIOp(gv)) = PL_rsfp;
4316 #if defined(HAS_FCNTL) && defined(F_SETFD)
4317                 {
4318                     int fd = PerlIO_fileno(PL_rsfp);
4319                     fcntl(fd,F_SETFD,fd >= 3);
4320                 }
4321 #endif
4322                 /* Mark this internal pseudo-handle as clean */
4323                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
4324                 if (PL_preprocess)
4325                     IoTYPE(GvIOp(gv)) = IoTYPE_PIPE;
4326                 else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
4327                     IoTYPE(GvIOp(gv)) = IoTYPE_STD;
4328                 else
4329                     IoTYPE(GvIOp(gv)) = IoTYPE_RDONLY;
4330 #if defined(WIN32) && !defined(PERL_TEXTMODE_SCRIPTS)
4331                 /* if the script was opened in binmode, we need to revert
4332                  * it to text mode for compatibility; but only iff it has CRs
4333                  * XXX this is a questionable hack at best. */
4334                 if (PL_bufend-PL_bufptr > 2
4335                     && PL_bufend[-1] == '\n' && PL_bufend[-2] == '\r')
4336                 {
4337                     Off_t loc = 0;
4338                     if (IoTYPE(GvIOp(gv)) == IoTYPE_RDONLY) {
4339                         loc = PerlIO_tell(PL_rsfp);
4340                         (void)PerlIO_seek(PL_rsfp, 0L, 0);
4341                     }
4342 #ifdef NETWARE
4343                         if (PerlLIO_setmode(PL_rsfp, O_TEXT) != -1) {
4344 #else
4345                     if (PerlLIO_setmode(PerlIO_fileno(PL_rsfp), O_TEXT) != -1) {
4346 #endif  /* NETWARE */
4347 #ifdef PERLIO_IS_STDIO /* really? */
4348 #  if defined(__BORLANDC__)
4349                         /* XXX see note in do_binmode() */
4350                         ((FILE*)PL_rsfp)->flags &= ~_F_BIN;
4351 #  endif
4352 #endif
4353                         if (loc > 0)
4354                             PerlIO_seek(PL_rsfp, loc, 0);
4355                     }
4356                 }
4357 #endif
4358 #ifdef PERLIO_LAYERS
4359                 if (!IN_BYTES) {
4360                     if (UTF)
4361                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL, ":utf8");
4362                     else if (PL_encoding) {
4363                         SV *name;
4364                         dSP;
4365                         ENTER;
4366                         SAVETMPS;
4367                         PUSHMARK(sp);
4368                         EXTEND(SP, 1);
4369                         XPUSHs(PL_encoding);
4370                         PUTBACK;
4371                         call_method("name", G_SCALAR);
4372                         SPAGAIN;
4373                         name = POPs;
4374                         PUTBACK;
4375                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL, 
4376                                             Perl_form(aTHX_ ":encoding(%"SVf")",
4377                                                       name));
4378                         FREETMPS;
4379                         LEAVE;
4380                     }
4381                 }
4382 #endif
4383                 PL_rsfp = Nullfp;
4384             }
4385             goto fake_eof;
4386         }
4387
4388         case KEY_AUTOLOAD:
4389         case KEY_DESTROY:
4390         case KEY_BEGIN:
4391         case KEY_CHECK:
4392         case KEY_INIT:
4393         case KEY_END:
4394             if (PL_expect == XSTATE) {
4395                 s = PL_bufptr;
4396                 goto really_sub;
4397             }
4398             goto just_a_word;
4399
4400         case KEY_CORE:
4401             if (*s == ':' && s[1] == ':') {
4402                 s += 2;
4403                 d = s;
4404                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
4405                 if (!(tmp = keyword(PL_tokenbuf, len)))
4406                     Perl_croak(aTHX_ "CORE::%s is not a keyword", PL_tokenbuf);
4407                 if (tmp < 0)
4408                     tmp = -tmp;
4409                 goto reserved_word;
4410             }
4411             goto just_a_word;
4412
4413         case KEY_abs:
4414             UNI(OP_ABS);
4415
4416         case KEY_alarm:
4417             UNI(OP_ALARM);
4418
4419         case KEY_accept:
4420             LOP(OP_ACCEPT,XTERM);
4421
4422         case KEY_and:
4423             OPERATOR(ANDOP);
4424
4425         case KEY_atan2:
4426             LOP(OP_ATAN2,XTERM);
4427
4428         case KEY_bind:
4429             LOP(OP_BIND,XTERM);
4430
4431         case KEY_binmode:
4432             LOP(OP_BINMODE,XTERM);
4433
4434         case KEY_bless:
4435             LOP(OP_BLESS,XTERM);
4436
4437         case KEY_chop:
4438             UNI(OP_CHOP);
4439
4440         case KEY_continue:
4441             PREBLOCK(CONTINUE);
4442
4443         case KEY_chdir:
4444             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
4445             UNI(OP_CHDIR);
4446
4447         case KEY_close:
4448             UNI(OP_CLOSE);
4449
4450         case KEY_closedir:
4451             UNI(OP_CLOSEDIR);
4452
4453         case KEY_cmp:
4454             Eop(OP_SCMP);
4455
4456         case KEY_caller:
4457             UNI(OP_CALLER);
4458
4459         case KEY_crypt:
4460 #ifdef FCRYPT
4461             if (!PL_cryptseen) {
4462                 PL_cryptseen = TRUE;
4463                 init_des();
4464             }
4465 #endif
4466             LOP(OP_CRYPT,XTERM);
4467
4468         case KEY_chmod:
4469             LOP(OP_CHMOD,XTERM);
4470
4471         case KEY_chown:
4472             LOP(OP_CHOWN,XTERM);
4473
4474         case KEY_connect:
4475             LOP(OP_CONNECT,XTERM);
4476
4477         case KEY_chr:
4478             UNI(OP_CHR);
4479
4480         case KEY_cos:
4481             UNI(OP_COS);
4482
4483         case KEY_chroot:
4484             UNI(OP_CHROOT);
4485
4486         case KEY_do:
4487             s = skipspace(s);
4488             if (*s == '{')
4489                 PRETERMBLOCK(DO);
4490             if (*s != '\'')
4491                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
4492             OPERATOR(DO);
4493
4494         case KEY_die:
4495             PL_hints |= HINT_BLOCK_SCOPE;
4496             LOP(OP_DIE,XTERM);
4497
4498         case KEY_defined:
4499             UNI(OP_DEFINED);
4500
4501         case KEY_delete:
4502             UNI(OP_DELETE);
4503
4504         case KEY_dbmopen:
4505             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
4506             LOP(OP_DBMOPEN,XTERM);
4507
4508         case KEY_dbmclose:
4509             UNI(OP_DBMCLOSE);
4510
4511         case KEY_dump:
4512             s = force_word(s,WORD,TRUE,FALSE,FALSE);
4513             LOOPX(OP_DUMP);
4514
4515         case KEY_else:
4516             PREBLOCK(ELSE);
4517
4518         case KEY_elsif:
4519             yylval.ival = CopLINE(PL_curcop);
4520             OPERATOR(ELSIF);
4521
4522         case KEY_eq:
4523             Eop(OP_SEQ);
4524
4525         case KEY_exists:
4526             UNI(OP_EXISTS);
4527         
4528         case KEY_exit:
4529             UNI(OP_EXIT);
4530
4531         case KEY_eval:
4532             s = skipspace(s);
4533             PL_expect = (*s == '{') ? XTERMBLOCK : XTERM;
4534             UNIBRACK(OP_ENTEREVAL);
4535
4536         case KEY_eof:
4537             UNI(OP_EOF);
4538
4539         case KEY_err:
4540             OPERATOR(DOROP);
4541
4542         case KEY_exp:
4543             UNI(OP_EXP);
4544
4545         case KEY_each:
4546             UNI(OP_EACH);
4547
4548         case KEY_exec:
4549             set_csh();
4550             LOP(OP_EXEC,XREF);
4551
4552         case KEY_endhostent:
4553             FUN0(OP_EHOSTENT);
4554
4555         case KEY_endnetent:
4556             FUN0(OP_ENETENT);
4557
4558         case KEY_endservent:
4559             FUN0(OP_ESERVENT);
4560
4561         case KEY_endprotoent:
4562             FUN0(OP_EPROTOENT);
4563
4564         case KEY_endpwent:
4565             FUN0(OP_EPWENT);
4566
4567         case KEY_endgrent:
4568             FUN0(OP_EGRENT);
4569
4570         case KEY_for:
4571         case KEY_foreach:
4572             yylval.ival = CopLINE(PL_curcop);
4573             s = skipspace(s);
4574             if (PL_expect == XSTATE && isIDFIRST_lazy_if(s,UTF)) {
4575                 char *p = s;
4576                 if ((PL_bufend - p) >= 3 &&
4577                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
4578                     p += 2;
4579                 else if ((PL_bufend - p) >= 4 &&
4580                     strnEQ(p, "our", 3) && isSPACE(*(p + 3)))
4581                     p += 3;
4582                 p = skipspace(p);
4583                 if (isIDFIRST_lazy_if(p,UTF)) {
4584                     p = scan_ident(p, PL_bufend,
4585                         PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
4586                     p = skipspace(p);
4587                 }
4588                 if (*p != '$')
4589                     Perl_croak(aTHX_ "Missing $ on loop variable");
4590             }
4591             OPERATOR(FOR);
4592
4593         case KEY_formline:
4594             LOP(OP_FORMLINE,XTERM);
4595
4596         case KEY_fork:
4597             FUN0(OP_FORK);
4598
4599         case KEY_fcntl:
4600             LOP(OP_FCNTL,XTERM);
4601
4602         case KEY_fileno:
4603             UNI(OP_FILENO);
4604
4605         case KEY_flock:
4606             LOP(OP_FLOCK,XTERM);
4607
4608         case KEY_gt:
4609             Rop(OP_SGT);
4610
4611         case KEY_ge:
4612             Rop(OP_SGE);
4613
4614         case KEY_grep:
4615             LOP(OP_GREPSTART, XREF);
4616
4617         case KEY_goto:
4618             s = force_word(s,WORD,TRUE,FALSE,FALSE);
4619             LOOPX(OP_GOTO);
4620
4621         case KEY_gmtime:
4622             UNI(OP_GMTIME);
4623
4624         case KEY_getc:
4625             UNIDOR(OP_GETC);
4626
4627         case KEY_getppid:
4628             FUN0(OP_GETPPID);
4629
4630         case KEY_getpgrp:
4631             UNI(OP_GETPGRP);
4632
4633         case KEY_getpriority:
4634             LOP(OP_GETPRIORITY,XTERM);
4635
4636         case KEY_getprotobyname:
4637             UNI(OP_GPBYNAME);
4638
4639         case KEY_getprotobynumber:
4640             LOP(OP_GPBYNUMBER,XTERM);
4641
4642         case KEY_getprotoent:
4643             FUN0(OP_GPROTOENT);
4644
4645         case KEY_getpwent:
4646             FUN0(OP_GPWENT);
4647
4648         case KEY_getpwnam:
4649             UNI(OP_GPWNAM);
4650
4651         case KEY_getpwuid:
4652             UNI(OP_GPWUID);
4653
4654         case KEY_getpeername:
4655             UNI(OP_GETPEERNAME);
4656
4657         case KEY_gethostbyname:
4658             UNI(OP_GHBYNAME);
4659
4660         case KEY_gethostbyaddr:
4661             LOP(OP_GHBYADDR,XTERM);
4662
4663         case KEY_gethostent:
4664             FUN0(OP_GHOSTENT);
4665
4666         case KEY_getnetbyname:
4667             UNI(OP_GNBYNAME);
4668
4669         case KEY_getnetbyaddr:
4670             LOP(OP_GNBYADDR,XTERM);
4671
4672         case KEY_getnetent:
4673             FUN0(OP_GNETENT);
4674
4675         case KEY_getservbyname:
4676             LOP(OP_GSBYNAME,XTERM);
4677
4678         case KEY_getservbyport:
4679             LOP(OP_GSBYPORT,XTERM);
4680
4681         case KEY_getservent:
4682             FUN0(OP_GSERVENT);
4683
4684         case KEY_getsockname:
4685             UNI(OP_GETSOCKNAME);
4686
4687         case KEY_getsockopt:
4688             LOP(OP_GSOCKOPT,XTERM);
4689
4690         case KEY_getgrent:
4691             FUN0(OP_GGRENT);
4692
4693         case KEY_getgrnam:
4694             UNI(OP_GGRNAM);
4695
4696         case KEY_getgrgid:
4697             UNI(OP_GGRGID);
4698
4699         case KEY_getlogin:
4700             FUN0(OP_GETLOGIN);
4701
4702         case KEY_glob:
4703             set_csh();
4704             LOP(OP_GLOB,XTERM);
4705
4706         case KEY_hex:
4707             UNI(OP_HEX);
4708
4709         case KEY_if:
4710             yylval.ival = CopLINE(PL_curcop);
4711             OPERATOR(IF);
4712
4713         case KEY_index:
4714             LOP(OP_INDEX,XTERM);
4715
4716         case KEY_int:
4717             UNI(OP_INT);
4718
4719         case KEY_ioctl:
4720             LOP(OP_IOCTL,XTERM);
4721
4722         case KEY_join:
4723             LOP(OP_JOIN,XTERM);
4724
4725         case KEY_keys:
4726             UNI(OP_KEYS);
4727
4728         case KEY_kill:
4729             LOP(OP_KILL,XTERM);
4730
4731         case KEY_last:
4732             s = force_word(s,WORD,TRUE,FALSE,FALSE);
4733             LOOPX(OP_LAST);
4734         
4735         case KEY_lc:
4736             UNI(OP_LC);
4737
4738         case KEY_lcfirst:
4739             UNI(OP_LCFIRST);
4740
4741         case KEY_local:
4742             yylval.ival = 0;
4743             OPERATOR(LOCAL);
4744
4745         case KEY_length:
4746             UNI(OP_LENGTH);
4747
4748         case KEY_lt:
4749             Rop(OP_SLT);
4750
4751         case KEY_le:
4752             Rop(OP_SLE);
4753
4754         case KEY_localtime:
4755             UNI(OP_LOCALTIME);
4756
4757         case KEY_log:
4758             UNI(OP_LOG);
4759
4760         case KEY_link:
4761             LOP(OP_LINK,XTERM);
4762
4763         case KEY_listen:
4764             LOP(OP_LISTEN,XTERM);
4765
4766         case KEY_lock:
4767             UNI(OP_LOCK);
4768
4769         case KEY_lstat:
4770             UNI(OP_LSTAT);
4771
4772         case KEY_m:
4773             s = scan_pat(s,OP_MATCH);
4774             TERM(sublex_start());
4775
4776         case KEY_map:
4777             LOP(OP_MAPSTART, XREF);
4778
4779         case KEY_mkdir:
4780             LOP(OP_MKDIR,XTERM);
4781
4782         case KEY_msgctl:
4783             LOP(OP_MSGCTL,XTERM);
4784
4785         case KEY_msgget:
4786             LOP(OP_MSGGET,XTERM);
4787
4788         case KEY_msgrcv:
4789             LOP(OP_MSGRCV,XTERM);
4790
4791         case KEY_msgsnd:
4792             LOP(OP_MSGSND,XTERM);
4793
4794         case KEY_our:
4795         case KEY_my:
4796             PL_in_my = tmp;
4797             s = skipspace(s);
4798             if (isIDFIRST_lazy_if(s,UTF)) {
4799                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, TRUE, &len);
4800                 if (len == 3 && strnEQ(PL_tokenbuf, "sub", 3))
4801                     goto really_sub;
4802                 PL_in_my_stash = find_in_my_stash(PL_tokenbuf, len);
4803                 if (!PL_in_my_stash) {
4804                     char tmpbuf[1024];
4805                     PL_bufptr = s;
4806                     sprintf(tmpbuf, "No such class %.1000s", PL_tokenbuf);
4807                     yyerror(tmpbuf);
4808                 }
4809             }
4810             yylval.ival = 1;
4811             OPERATOR(MY);
4812
4813         case KEY_next:
4814             s = force_word(s,WORD,TRUE,FALSE,FALSE);
4815             LOOPX(OP_NEXT);
4816
4817         case KEY_ne:
4818             Eop(OP_SNE);
4819
4820         case KEY_no:
4821             if (PL_expect != XSTATE)
4822                 yyerror("\"no\" not allowed in expression");
4823             s = force_word(s,WORD,FALSE,TRUE,FALSE);
4824             s = force_version(s, FALSE);
4825             yylval.ival = 0;
4826             OPERATOR(USE);
4827
4828         case KEY_not:
4829             if (*s == '(' || (s = skipspace(s), *s == '('))
4830                 FUN1(OP_NOT);
4831             else
4832                 OPERATOR(NOTOP);
4833
4834         case KEY_open:
4835             s = skipspace(s);
4836             if (isIDFIRST_lazy_if(s,UTF)) {
4837                 char *t;
4838                 for (d = s; isALNUM_lazy_if(d,UTF); d++) ;
4839                 for (t=d; *t && isSPACE(*t); t++) ;
4840                 if ( *t && strchr("|&*+-=!?:.", *t) && ckWARN_d(WARN_PRECEDENCE)
4841                     /* [perl #16184] */
4842                     && !(t[0] == '=' && t[1] == '>')
4843                 ) {
4844                     Perl_warner(aTHX_ packWARN(WARN_PRECEDENCE),
4845                            "Precedence problem: open %.*s should be open(%.*s)",
4846                             d - s, s, d - s, s);
4847                 }
4848             }
4849             LOP(OP_OPEN,XTERM);
4850
4851         case KEY_or:
4852             yylval.ival = OP_OR;
4853             OPERATOR(OROP);
4854
4855         case KEY_ord:
4856             UNI(OP_ORD);
4857
4858         case KEY_oct:
4859             UNI(OP_OCT);
4860
4861         case KEY_opendir:
4862             LOP(OP_OPEN_DIR,XTERM);
4863
4864         case KEY_print:
4865             checkcomma(s,PL_tokenbuf,"filehandle");
4866             LOP(OP_PRINT,XREF);
4867
4868         case KEY_printf:
4869             checkcomma(s,PL_tokenbuf,"filehandle");
4870             LOP(OP_PRTF,XREF);
4871
4872         case KEY_prototype:
4873             UNI(OP_PROTOTYPE);
4874
4875         case KEY_push:
4876             LOP(OP_PUSH,XTERM);
4877
4878         case KEY_pop:
4879             UNIDOR(OP_POP);
4880
4881         case KEY_pos:
4882             UNIDOR(OP_POS);
4883         
4884         case KEY_pack:
4885             LOP(OP_PACK,XTERM);
4886
4887         case KEY_package:
4888             s = force_word(s,WORD,FALSE,TRUE,FALSE);
4889             OPERATOR(PACKAGE);
4890
4891         case KEY_pipe:
4892             LOP(OP_PIPE_OP,XTERM);
4893
4894         case KEY_q:
4895             s = scan_str(s,FALSE,FALSE);
4896             if (!s)
4897                 missingterm((char*)0);
4898             yylval.ival = OP_CONST;
4899             TERM(sublex_start());
4900
4901         case KEY_quotemeta:
4902             UNI(OP_QUOTEMETA);
4903
4904         case KEY_qw:
4905             s = scan_str(s,FALSE,FALSE);
4906             if (!s)
4907                 missingterm((char*)0);
4908             force_next(')');
4909             if (SvCUR(PL_lex_stuff)) {
4910                 OP *words = Nullop;
4911                 int warned = 0;
4912                 d = SvPV_force(PL_lex_stuff, len);
4913                 while (len) {
4914                     SV *sv;
4915                     for (; isSPACE(*d) && len; --len, ++d) ;
4916                     if (len) {
4917                         char *b = d;
4918                         if (!warned && ckWARN(WARN_QW)) {
4919                             for (; !isSPACE(*d) && len; --len, ++d) {
4920                                 if (*d == ',') {
4921                                     Perl_warner(aTHX_ packWARN(WARN_QW),
4922                                         "Possible attempt to separate words with commas");
4923                                     ++warned;
4924                                 }
4925                                 else if (*d == '#') {
4926                                     Perl_warner(aTHX_ packWARN(WARN_QW),
4927                                         "Possible attempt to put comments in qw() list");
4928                                     ++warned;
4929                                 }
4930                             }
4931                         }
4932                         else {
4933                             for (; !isSPACE(*d) && len; --len, ++d) ;
4934                         }
4935                         sv = newSVpvn(b, d-b);
4936                         if (DO_UTF8(PL_lex_stuff))
4937                             SvUTF8_on(sv);
4938                         words = append_elem(OP_LIST, words,
4939                                             newSVOP(OP_CONST, 0, tokeq(sv)));
4940                     }
4941                 }
4942                 if (words) {
4943                     PL_nextval[PL_nexttoke].opval = words;
4944                     force_next(THING);
4945                 }
4946             }
4947             if (PL_lex_stuff) {
4948                 SvREFCNT_dec(PL_lex_stuff);
4949                 PL_lex_stuff = Nullsv;
4950             }
4951             PL_expect = XTERM;
4952             TOKEN('(');
4953
4954         case KEY_qq:
4955             s = scan_str(s,FALSE,FALSE);
4956             if (!s)
4957                 missingterm((char*)0);
4958             yylval.ival = OP_STRINGIFY;
4959             if (SvIVX(PL_lex_stuff) == '\'')
4960                 SvIVX(PL_lex_stuff) = 0;        /* qq'$foo' should intepolate */
4961             TERM(sublex_start());
4962
4963         case KEY_qr:
4964             s = scan_pat(s,OP_QR);
4965             TERM(sublex_start());
4966
4967         case KEY_qx:
4968             s = scan_str(s,FALSE,FALSE);
4969             if (!s)
4970                 missingterm((char*)0);
4971             yylval.ival = OP_BACKTICK;
4972             set_csh();
4973             TERM(sublex_start());
4974
4975         case KEY_return:
4976             OLDLOP(OP_RETURN);
4977
4978         case KEY_require:
4979             s = skipspace(s);
4980             if (isDIGIT(*s)) {
4981                 s = force_version(s, FALSE);
4982             }
4983             else if (*s != 'v' || !isDIGIT(s[1])
4984                     || (s = force_version(s, TRUE), *s == 'v'))
4985             {
4986                 *PL_tokenbuf = '\0';
4987                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
4988                 if (isIDFIRST_lazy_if(PL_tokenbuf,UTF))
4989                     gv_stashpvn(PL_tokenbuf, strlen(PL_tokenbuf), TRUE);
4990                 else if (*s == '<')
4991                     yyerror("<> should be quotes");
4992             }
4993             UNI(OP_REQUIRE);
4994
4995         case KEY_reset:
4996             UNI(OP_RESET);
4997
4998         case KEY_redo:
4999             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5000             LOOPX(OP_REDO);
5001
5002         case KEY_rename:
5003             LOP(OP_RENAME,XTERM);
5004
5005         case KEY_rand:
5006             UNI(OP_RAND);
5007
5008         case KEY_rmdir:
5009             UNI(OP_RMDIR);
5010
5011         case KEY_rindex:
5012             LOP(OP_RINDEX,XTERM);
5013
5014         case KEY_read:
5015             LOP(OP_READ,XTERM);
5016
5017         case KEY_readdir:
5018             UNI(OP_READDIR);
5019
5020         case KEY_readline:
5021             set_csh();
5022             UNIDOR(OP_READLINE);
5023
5024         case KEY_readpipe:
5025             set_csh();
5026             UNI(OP_BACKTICK);
5027
5028         case KEY_rewinddir:
5029             UNI(OP_REWINDDIR);
5030
5031         case KEY_recv:
5032             LOP(OP_RECV,XTERM);
5033
5034         case KEY_reverse:
5035             LOP(OP_REVERSE,XTERM);
5036
5037         case KEY_readlink:
5038             UNIDOR(OP_READLINK);
5039
5040         case KEY_ref:
5041             UNI(OP_REF);
5042
5043         case KEY_s:
5044             s = scan_subst(s);
5045             if (yylval.opval)
5046                 TERM(sublex_start());
5047             else
5048                 TOKEN(1);       /* force error */
5049
5050         case KEY_chomp:
5051             UNI(OP_CHOMP);
5052         
5053         case KEY_scalar:
5054             UNI(OP_SCALAR);
5055
5056         case KEY_select:
5057             LOP(OP_SELECT,XTERM);
5058
5059         case KEY_seek:
5060             LOP(OP_SEEK,XTERM);
5061
5062         case KEY_semctl:
5063             LOP(OP_SEMCTL,XTERM);
5064
5065         case KEY_semget:
5066             LOP(OP_SEMGET,XTERM);
5067
5068         case KEY_semop:
5069             LOP(OP_SEMOP,XTERM);
5070
5071         case KEY_send:
5072             LOP(OP_SEND,XTERM);
5073
5074         case KEY_setpgrp:
5075             LOP(OP_SETPGRP,XTERM);
5076
5077         case KEY_setpriority:
5078             LOP(OP_SETPRIORITY,XTERM);
5079
5080         case KEY_sethostent:
5081             UNI(OP_SHOSTENT);
5082
5083         case KEY_setnetent:
5084             UNI(OP_SNETENT);
5085
5086         case KEY_setservent:
5087             UNI(OP_SSERVENT);
5088
5089         case KEY_setprotoent:
5090             UNI(OP_SPROTOENT);
5091
5092         case KEY_setpwent:
5093             FUN0(OP_SPWENT);
5094
5095         case KEY_setgrent:
5096             FUN0(OP_SGRENT);
5097
5098         case KEY_seekdir:
5099             LOP(OP_SEEKDIR,XTERM);
5100
5101         case KEY_setsockopt:
5102             LOP(OP_SSOCKOPT,XTERM);
5103
5104         case KEY_shift:
5105             UNIDOR(OP_SHIFT);
5106
5107         case KEY_shmctl:
5108             LOP(OP_SHMCTL,XTERM);
5109
5110         case KEY_shmget:
5111             LOP(OP_SHMGET,XTERM);
5112
5113         case KEY_shmread:
5114             LOP(OP_SHMREAD,XTERM);
5115
5116         case KEY_shmwrite:
5117             LOP(OP_SHMWRITE,XTERM);
5118
5119         case KEY_shutdown:
5120             LOP(OP_SHUTDOWN,XTERM);
5121
5122         case KEY_sin:
5123             UNI(OP_SIN);
5124
5125         case KEY_sleep:
5126             UNI(OP_SLEEP);
5127
5128         case KEY_socket:
5129             LOP(OP_SOCKET,XTERM);
5130
5131         case KEY_socketpair:
5132             LOP(OP_SOCKPAIR,XTERM);
5133
5134         case KEY_sort:
5135             checkcomma(s,PL_tokenbuf,"subroutine name");
5136             s = skipspace(s);
5137             if (*s == ';' || *s == ')')         /* probably a close */
5138                 Perl_croak(aTHX_ "sort is now a reserved word");
5139             PL_expect = XTERM;
5140             s = force_word(s,WORD,TRUE,TRUE,FALSE);
5141             LOP(OP_SORT,XREF);
5142
5143         case KEY_split:
5144             LOP(OP_SPLIT,XTERM);
5145
5146         case KEY_sprintf:
5147             LOP(OP_SPRINTF,XTERM);
5148
5149         case KEY_splice:
5150             LOP(OP_SPLICE,XTERM);
5151
5152         case KEY_sqrt:
5153             UNI(OP_SQRT);
5154
5155         case KEY_srand:
5156             UNI(OP_SRAND);
5157
5158         case KEY_stat:
5159             UNI(OP_STAT);
5160
5161         case KEY_study:
5162             UNI(OP_STUDY);
5163
5164         case KEY_substr:
5165             LOP(OP_SUBSTR,XTERM);
5166
5167         case KEY_format:
5168         case KEY_sub:
5169           really_sub:
5170             {
5171                 char tmpbuf[sizeof PL_tokenbuf];
5172                 SSize_t tboffset = 0;
5173                 expectation attrful;
5174                 bool have_name, have_proto, bad_proto;
5175                 int key = tmp;
5176
5177                 s = skipspace(s);
5178
5179                 if (isIDFIRST_lazy_if(s,UTF) || *s == '\'' ||
5180                     (*s == ':' && s[1] == ':'))
5181                 {
5182                     PL_expect = XBLOCK;
5183                     attrful = XATTRBLOCK;
5184                     /* remember buffer pos'n for later force_word */
5185                     tboffset = s - PL_oldbufptr;
5186                     d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
5187                     if (strchr(tmpbuf, ':'))
5188                         sv_setpv(PL_subname, tmpbuf);
5189                     else {
5190                         sv_setsv(PL_subname,PL_curstname);
5191                         sv_catpvn(PL_subname,"::",2);
5192                         sv_catpvn(PL_subname,tmpbuf,len);
5193                     }
5194                     s = skipspace(d);
5195                     have_name = TRUE;
5196                 }
5197                 else {
5198                     if (key == KEY_my)
5199                         Perl_croak(aTHX_ "Missing name in \"my sub\"");
5200                     PL_expect = XTERMBLOCK;
5201                     attrful = XATTRTERM;
5202                     sv_setpv(PL_subname,"?");
5203                     have_name = FALSE;
5204                 }
5205
5206                 if (key == KEY_format) {
5207                     if (*s == '=')
5208                         PL_lex_formbrack = PL_lex_brackets + 1;
5209                     if (have_name)
5210                         (void) force_word(PL_oldbufptr + tboffset, WORD,
5211                                           FALSE, TRUE, TRUE);
5212                     OPERATOR(FORMAT);
5213                 }
5214
5215                 /* Look for a prototype */
5216                 if (*s == '(') {
5217                     char *p;
5218
5219                     s = scan_str(s,FALSE,FALSE);
5220                     if (!s)
5221                         Perl_croak(aTHX_ "Prototype not terminated");
5222                     /* strip spaces and check for bad characters */
5223                     d = SvPVX(PL_lex_stuff);
5224                     tmp = 0;
5225                     bad_proto = FALSE;
5226                     for (p = d; *p; ++p) {
5227                         if (!isSPACE(*p)) {
5228                             d[tmp++] = *p;
5229                             if (!strchr("$@%*;[]&\\", *p))
5230                                 bad_proto = TRUE;
5231                         }
5232                     }
5233                     d[tmp] = '\0';
5234                     if (bad_proto && ckWARN(WARN_SYNTAX))
5235                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
5236                                     "Illegal character in prototype for %"SVf" : %s",
5237                                     PL_subname, d);
5238                     SvCUR(PL_lex_stuff) = tmp;
5239                     have_proto = TRUE;
5240
5241                     s = skipspace(s);
5242                 }
5243                 else
5244                     have_proto = FALSE;
5245
5246                 if (*s == ':' && s[1] != ':')
5247                     PL_expect = attrful;
5248                 else if (*s != '{' && key == KEY_sub) {
5249                     if (!have_name)
5250                         Perl_croak(aTHX_ "Illegal declaration of anonymous subroutine");
5251                     else if (*s != ';')
5252                         Perl_croak(aTHX_ "Illegal declaration of subroutine %"SVf, PL_subname);
5253                 }
5254
5255                 if (have_proto) {
5256                     PL_nextval[PL_nexttoke].opval =
5257                         (OP*)newSVOP(OP_CONST, 0, PL_lex_stuff);
5258                     PL_lex_stuff = Nullsv;
5259                     force_next(THING);
5260                 }
5261                 if (!have_name) {
5262                     sv_setpv(PL_subname,
5263                         PL_curstash ? "__ANON__" : "__ANON__::__ANON__");
5264                     TOKEN(ANONSUB);
5265                 }
5266                 (void) force_word(PL_oldbufptr + tboffset, WORD,
5267                                   FALSE, TRUE, TRUE);
5268                 if (key == KEY_my)
5269                     TOKEN(MYSUB);
5270                 TOKEN(SUB);
5271             }
5272
5273         case KEY_system:
5274             set_csh();
5275             LOP(OP_SYSTEM,XREF);
5276
5277         case KEY_symlink:
5278             LOP(OP_SYMLINK,XTERM);
5279
5280         case KEY_syscall:
5281             LOP(OP_SYSCALL,XTERM);
5282
5283         case KEY_sysopen:
5284             LOP(OP_SYSOPEN,XTERM);
5285
5286         case KEY_sysseek:
5287             LOP(OP_SYSSEEK,XTERM);
5288
5289         case KEY_sysread:
5290             LOP(OP_SYSREAD,XTERM);
5291
5292         case KEY_syswrite:
5293             LOP(OP_SYSWRITE,XTERM);
5294
5295         case KEY_tr:
5296             s = scan_trans(s);
5297             TERM(sublex_start());
5298
5299         case KEY_tell:
5300             UNI(OP_TELL);
5301
5302         case KEY_telldir:
5303             UNI(OP_TELLDIR);
5304
5305         case KEY_tie:
5306             LOP(OP_TIE,XTERM);
5307
5308         case KEY_tied:
5309             UNI(OP_TIED);
5310
5311         case KEY_time:
5312             FUN0(OP_TIME);
5313
5314         case KEY_times:
5315             FUN0(OP_TMS);
5316
5317         case KEY_truncate:
5318             LOP(OP_TRUNCATE,XTERM);
5319
5320         case KEY_uc:
5321             UNI(OP_UC);
5322
5323         case KEY_ucfirst:
5324             UNI(OP_UCFIRST);
5325
5326         case KEY_untie:
5327             UNI(OP_UNTIE);
5328
5329         case KEY_until:
5330             yylval.ival = CopLINE(PL_curcop);
5331             OPERATOR(UNTIL);
5332
5333         case KEY_unless:
5334             yylval.ival = CopLINE(PL_curcop);
5335             OPERATOR(UNLESS);
5336
5337         case KEY_unlink:
5338             LOP(OP_UNLINK,XTERM);
5339
5340         case KEY_undef:
5341             UNIDOR(OP_UNDEF);
5342
5343         case KEY_unpack:
5344             LOP(OP_UNPACK,XTERM);
5345
5346         case KEY_utime:
5347             LOP(OP_UTIME,XTERM);
5348
5349         case KEY_umask:
5350             UNIDOR(OP_UMASK);
5351
5352         case KEY_unshift:
5353             LOP(OP_UNSHIFT,XTERM);
5354
5355         case KEY_use:
5356             if (PL_expect != XSTATE)
5357                 yyerror("\"use\" not allowed in expression");
5358             s = skipspace(s);
5359             if (isDIGIT(*s) || (*s == 'v' && isDIGIT(s[1]))) {
5360                 s = force_version(s, TRUE);
5361                 if (*s == ';' || (s = skipspace(s), *s == ';')) {
5362                     PL_nextval[PL_nexttoke].opval = Nullop;
5363                     force_next(WORD);
5364                 }
5365                 else if (*s == 'v') {
5366                     s = force_word(s,WORD,FALSE,TRUE,FALSE);
5367                     s = force_version(s, FALSE);
5368                 }
5369             }
5370             else {
5371                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
5372                 s = force_version(s, FALSE);
5373             }
5374             yylval.ival = 1;
5375             OPERATOR(USE);
5376
5377         case KEY_values:
5378             UNI(OP_VALUES);
5379
5380         case KEY_vec:
5381             LOP(OP_VEC,XTERM);
5382
5383         case KEY_while:
5384             yylval.ival = CopLINE(PL_curcop);
5385             OPERATOR(WHILE);
5386
5387         case KEY_warn:
5388             PL_hints |= HINT_BLOCK_SCOPE;
5389             LOP(OP_WARN,XTERM);
5390
5391         case KEY_wait:
5392             FUN0(OP_WAIT);
5393
5394         case KEY_waitpid:
5395             LOP(OP_WAITPID,XTERM);
5396
5397         case KEY_wantarray:
5398             FUN0(OP_WANTARRAY);
5399
5400         case KEY_write:
5401 #ifdef EBCDIC
5402         {
5403             char ctl_l[2];
5404             ctl_l[0] = toCTRL('L');
5405             ctl_l[1] = '\0';
5406             gv_fetchpv(ctl_l,TRUE, SVt_PV);
5407         }
5408 #else
5409             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
5410 #endif
5411             UNI(OP_ENTERWRITE);
5412
5413         case KEY_x:
5414             if (PL_expect == XOPERATOR)
5415                 Mop(OP_REPEAT);
5416             check_uni();
5417             goto just_a_word;
5418
5419         case KEY_xor:
5420             yylval.ival = OP_XOR;
5421             OPERATOR(OROP);
5422
5423         case KEY_y:
5424             s = scan_trans(s);
5425             TERM(sublex_start());
5426         }
5427     }}
5428 }
5429 #ifdef __SC__
5430 #pragma segment Main
5431 #endif
5432
5433 static int
5434 S_pending_ident(pTHX)
5435 {
5436     register char *d;
5437     register I32 tmp = 0;
5438     /* pit holds the identifier we read and pending_ident is reset */
5439     char pit = PL_pending_ident;
5440     PL_pending_ident = 0;
5441
5442     DEBUG_T({ PerlIO_printf(Perl_debug_log,
5443           "### Tokener saw identifier '%s'\n", PL_tokenbuf); });
5444
5445     /* if we're in a my(), we can't allow dynamics here.
5446        $foo'bar has already been turned into $foo::bar, so
5447        just check for colons.
5448
5449        if it's a legal name, the OP is a PADANY.
5450     */
5451     if (PL_in_my) {
5452         if (PL_in_my == KEY_our) {      /* "our" is merely analogous to "my" */
5453             if (strchr(PL_tokenbuf,':'))
5454                 yyerror(Perl_form(aTHX_ "No package name allowed for "
5455                                   "variable %s in \"our\"",
5456                                   PL_tokenbuf));
5457             tmp = allocmy(PL_tokenbuf);
5458         }
5459         else {
5460             if (strchr(PL_tokenbuf,':'))
5461                 yyerror(Perl_form(aTHX_ PL_no_myglob,PL_tokenbuf));
5462
5463             yylval.opval = newOP(OP_PADANY, 0);
5464             yylval.opval->op_targ = allocmy(PL_tokenbuf);
5465             return PRIVATEREF;
5466         }
5467     }
5468
5469     /*
5470        build the ops for accesses to a my() variable.
5471
5472        Deny my($a) or my($b) in a sort block, *if* $a or $b is
5473        then used in a comparison.  This catches most, but not
5474        all cases.  For instance, it catches
5475            sort { my($a); $a <=> $b }
5476        but not
5477            sort { my($a); $a < $b ? -1 : $a == $b ? 0 : 1; }
5478        (although why you'd do that is anyone's guess).
5479     */
5480
5481     if (!strchr(PL_tokenbuf,':')) {
5482         if (!PL_in_my)
5483             tmp = pad_findmy(PL_tokenbuf);
5484         if (tmp != NOT_IN_PAD) {
5485             /* might be an "our" variable" */
5486             if (PAD_COMPNAME_FLAGS(tmp) & SVpad_OUR) {
5487                 /* build ops for a bareword */
5488                 SV *sym = newSVpv(HvNAME(PAD_COMPNAME_OURSTASH(tmp)), 0);
5489                 sv_catpvn(sym, "::", 2);
5490                 sv_catpv(sym, PL_tokenbuf+1);
5491                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sym);
5492                 yylval.opval->op_private = OPpCONST_ENTERED;
5493                 gv_fetchpv(SvPVX(sym),
5494                     (PL_in_eval
5495                         ? (GV_ADDMULTI | GV_ADDINEVAL)
5496                         : GV_ADDMULTI
5497                     ),
5498                     ((PL_tokenbuf[0] == '$') ? SVt_PV
5499                      : (PL_tokenbuf[0] == '@') ? SVt_PVAV
5500                      : SVt_PVHV));
5501                 return WORD;
5502             }
5503
5504             /* if it's a sort block and they're naming $a or $b */
5505             if (PL_last_lop_op == OP_SORT &&
5506                 PL_tokenbuf[0] == '$' &&
5507                 (PL_tokenbuf[1] == 'a' || PL_tokenbuf[1] == 'b')
5508                 && !PL_tokenbuf[2])
5509             {
5510                 for (d = PL_in_eval ? PL_oldoldbufptr : PL_linestart;
5511                      d < PL_bufend && *d != '\n';
5512                      d++)
5513                 {
5514                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
5515                         Perl_croak(aTHX_ "Can't use \"my %s\" in sort comparison",
5516                               PL_tokenbuf);
5517                     }
5518                 }
5519             }
5520
5521             yylval.opval = newOP(OP_PADANY, 0);
5522             yylval.opval->op_targ = tmp;
5523             return PRIVATEREF;
5524         }
5525     }
5526
5527     /*
5528        Whine if they've said @foo in a doublequoted string,
5529        and @foo isn't a variable we can find in the symbol
5530        table.
5531     */
5532     if (pit == '@' && PL_lex_state != LEX_NORMAL && !PL_lex_brackets) {
5533         GV *gv = gv_fetchpv(PL_tokenbuf+1, FALSE, SVt_PVAV);
5534         if ((!gv || ((PL_tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
5535              && ckWARN(WARN_AMBIGUOUS))
5536         {
5537             /* Downgraded from fatal to warning 20000522 mjd */
5538             Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5539                         "Possible unintended interpolation of %s in string",
5540                          PL_tokenbuf);
5541         }
5542     }
5543
5544     /* build ops for a bareword */
5545     yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(PL_tokenbuf+1, 0));
5546     yylval.opval->op_private = OPpCONST_ENTERED;
5547     gv_fetchpv(PL_tokenbuf+1, PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL) : TRUE,
5548                ((PL_tokenbuf[0] == '$') ? SVt_PV
5549                 : (PL_tokenbuf[0] == '@') ? SVt_PVAV
5550                 : SVt_PVHV));
5551     return WORD;
5552 }
5553
5554 I32
5555 Perl_keyword(pTHX_ register char *d, I32 len)
5556 {
5557     switch (*d) {
5558     case '_':
5559         if (d[1] == '_') {
5560             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
5561             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
5562             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
5563             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
5564             if (strEQ(d,"__END__"))             return KEY___END__;
5565         }
5566         break;
5567     case 'A':
5568         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
5569         break;
5570     case 'a':
5571         switch (len) {
5572         case 3:
5573             if (strEQ(d,"and"))                 return -KEY_and;
5574             if (strEQ(d,"abs"))                 return -KEY_abs;
5575             break;
5576         case 5:
5577             if (strEQ(d,"alarm"))               return -KEY_alarm;
5578             if (strEQ(d,"atan2"))               return -KEY_atan2;
5579             break;
5580         case 6:
5581             if (strEQ(d,"accept"))              return -KEY_accept;
5582             break;
5583         }
5584         break;
5585     case 'B':
5586         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
5587         break;
5588     case 'b':
5589         if (strEQ(d,"bless"))                   return -KEY_bless;
5590         if (strEQ(d,"bind"))                    return -KEY_bind;
5591         if (strEQ(d,"binmode"))                 return -KEY_binmode;
5592         break;
5593     case 'C':
5594         if (strEQ(d,"CORE"))                    return -KEY_CORE;
5595         if (strEQ(d,"CHECK"))                   return KEY_CHECK;
5596         break;
5597     case 'c':
5598         switch (len) {
5599         case 3:
5600             if (strEQ(d,"cmp"))                 return -KEY_cmp;
5601             if (strEQ(d,"chr"))                 return -KEY_chr;
5602             if (strEQ(d,"cos"))                 return -KEY_cos;
5603             break;
5604         case 4:
5605             if (strEQ(d,"chop"))                return -KEY_chop;
5606             break;
5607         case 5:
5608             if (strEQ(d,"close"))               return -KEY_close;
5609             if (strEQ(d,"chdir"))               return -KEY_chdir;
5610             if (strEQ(d,"chomp"))               return -KEY_chomp;
5611             if (strEQ(d,"chmod"))               return -KEY_chmod;
5612             if (strEQ(d,"chown"))               return -KEY_chown;
5613             if (strEQ(d,"crypt"))               return -KEY_crypt;
5614             break;
5615         case 6:
5616             if (strEQ(d,"chroot"))              return -KEY_chroot;
5617             if (strEQ(d,"caller"))              return -KEY_caller;
5618             break;
5619         case 7:
5620             if (strEQ(d,"connect"))             return -KEY_connect;
5621             break;
5622         case 8:
5623             if (strEQ(d,"closedir"))            return -KEY_closedir;
5624             if (strEQ(d,"continue"))            return -KEY_continue;
5625             break;
5626         }
5627         break;
5628     case 'D':
5629         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
5630         break;
5631     case 'd':
5632         switch (len) {
5633         case 2:
5634             if (strEQ(d,"do"))                  return KEY_do;
5635             break;
5636         case 3:
5637             if (strEQ(d,"die"))                 return -KEY_die;
5638             break;
5639         case 4:
5640             if (strEQ(d,"dump"))                return -KEY_dump;
5641             break;
5642         case 6:
5643             if (strEQ(d,"delete"))              return KEY_delete;
5644             break;
5645         case 7:
5646             if (strEQ(d,"defined"))             return KEY_defined;
5647             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
5648             break;
5649         case 8:
5650             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
5651             break;
5652         }
5653         break;
5654     case 'E':
5655         if (strEQ(d,"END"))                     return KEY_END;
5656         break;
5657     case 'e':
5658         switch (len) {
5659         case 2:
5660             if (strEQ(d,"eq"))                  return -KEY_eq;
5661             break;
5662         case 3:
5663             if (strEQ(d,"eof"))                 return -KEY_eof;
5664             if (strEQ(d,"err"))                 return -KEY_err;
5665             if (strEQ(d,"exp"))                 return -KEY_exp;
5666             break;
5667         case 4:
5668             if (strEQ(d,"else"))                return KEY_else;
5669             if (strEQ(d,"exit"))                return -KEY_exit;
5670             if (strEQ(d,"eval"))                return KEY_eval;
5671             if (strEQ(d,"exec"))                return -KEY_exec;
5672            if (strEQ(d,"each"))                return -KEY_each;
5673             break;
5674         case 5:
5675             if (strEQ(d,"elsif"))               return KEY_elsif;
5676             break;
5677         case 6:
5678             if (strEQ(d,"exists"))              return KEY_exists;
5679             if (strEQ(d,"elseif") && ckWARN_d(WARN_SYNTAX))
5680                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
5681                         "elseif should be elsif");
5682             break;
5683         case 8:
5684             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
5685             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
5686             break;
5687         case 9:
5688             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
5689             break;
5690         case 10:
5691             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
5692             if (strEQ(d,"endservent"))          return -KEY_endservent;
5693             break;
5694         case 11:
5695             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
5696             break;
5697         }
5698         break;
5699     case 'f':
5700         switch (len) {
5701         case 3:
5702             if (strEQ(d,"for"))                 return KEY_for;
5703             break;
5704         case 4:
5705             if (strEQ(d,"fork"))                return -KEY_fork;
5706             break;
5707         case 5:
5708             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
5709             if (strEQ(d,"flock"))               return -KEY_flock;
5710             break;
5711         case 6:
5712             if (strEQ(d,"format"))              return KEY_format;
5713             if (strEQ(d,"fileno"))              return -KEY_fileno;
5714             break;
5715         case 7:
5716             if (strEQ(d,"foreach"))             return KEY_foreach;
5717             break;
5718         case 8:
5719             if (strEQ(d,"formline"))            return -KEY_formline;
5720             break;
5721         }
5722         break;
5723     case 'g':
5724         if (strnEQ(d,"get",3)) {
5725             d += 3;
5726             if (*d == 'p') {
5727                 switch (len) {
5728                 case 7:
5729                     if (strEQ(d,"ppid"))        return -KEY_getppid;
5730                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
5731                     break;
5732                 case 8:
5733                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
5734                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
5735                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
5736                     break;
5737                 case 11:
5738                     if (strEQ(d,"peername"))    return -KEY_getpeername;
5739                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
5740                     if (strEQ(d,"priority"))    return -KEY_getpriority;
5741                     break;
5742                 case 14:
5743                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
5744                     break;
5745                 case 16:
5746                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
5747                     break;
5748                 }
5749             }
5750             else if (*d == 'h') {
5751                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
5752                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
5753                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
5754             }
5755             else if (*d == 'n') {
5756                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
5757                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
5758                 if (strEQ(d,"netent"))          return -KEY_getnetent;
5759             }
5760             else if (*d == 's') {
5761                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
5762                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
5763                 if (strEQ(d,"servent"))         return -KEY_getservent;
5764                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
5765                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
5766             }
5767             else if (*d == 'g') {
5768                 if (strEQ(d,"grent"))           return -KEY_getgrent;
5769                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
5770                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
5771             }
5772             else if (*d == 'l') {
5773                 if (strEQ(d,"login"))           return -KEY_getlogin;
5774             }
5775             else if (strEQ(d,"c"))              return -KEY_getc;
5776             break;
5777         }
5778         switch (len) {
5779         case 2:
5780             if (strEQ(d,"gt"))                  return -KEY_gt;
5781             if (strEQ(d,"ge"))                  return -KEY_ge;
5782             break;
5783         case 4:
5784             if (strEQ(d,"grep"))                return KEY_grep;
5785             if (strEQ(d,"goto"))                return KEY_goto;
5786             if (strEQ(d,"glob"))                return KEY_glob;
5787             break;
5788         case 6:
5789             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
5790             break;
5791         }
5792         break;
5793     case 'h':
5794         if (strEQ(d,"hex"))                     return -KEY_hex;
5795         break;
5796     case 'I':
5797         if (strEQ(d,"INIT"))                    return KEY_INIT;
5798         break;
5799     case 'i':
5800         switch (len) {
5801         case 2:
5802             if (strEQ(d,"if"))                  return KEY_if;
5803             break;
5804         case 3:
5805             if (strEQ(d,"int"))                 return -KEY_int;
5806             break;
5807         case 5:
5808             if (strEQ(d,"index"))               return -KEY_index;
5809             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
5810             break;
5811         }
5812         break;
5813     case 'j':
5814         if (strEQ(d,"join"))                    return -KEY_join;
5815         break;
5816     case 'k':
5817         if (len == 4) {
5818            if (strEQ(d,"keys"))                return -KEY_keys;
5819             if (strEQ(d,"kill"))                return -KEY_kill;
5820         }
5821         break;
5822     case 'l':
5823         switch (len) {
5824         case 2:
5825             if (strEQ(d,"lt"))                  return -KEY_lt;
5826             if (strEQ(d,"le"))                  return -KEY_le;
5827             if (strEQ(d,"lc"))                  return -KEY_lc;
5828             break;
5829         case 3:
5830             if (strEQ(d,"log"))                 return -KEY_log;
5831             break;
5832         case 4:
5833             if (strEQ(d,"last"))                return KEY_last;
5834             if (strEQ(d,"link"))                return -KEY_link;
5835             if (strEQ(d,"lock"))                return -KEY_lock;
5836             break;
5837         case 5:
5838             if (strEQ(d,"local"))               return KEY_local;
5839             if (strEQ(d,"lstat"))               return -KEY_lstat;
5840             break;
5841         case 6:
5842             if (strEQ(d,"length"))              return -KEY_length;
5843             if (strEQ(d,"listen"))              return -KEY_listen;
5844             break;
5845         case 7:
5846             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
5847             break;
5848         case 9:
5849             if (strEQ(d,"localtime"))           return -KEY_localtime;
5850             break;
5851         }
5852         break;
5853     case 'm':
5854         switch (len) {
5855         case 1:                                 return KEY_m;
5856         case 2:
5857             if (strEQ(d,"my"))                  return KEY_my;
5858             break;
5859         case 3:
5860             if (strEQ(d,"map"))                 return KEY_map;
5861             break;
5862         case 5:
5863             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
5864             break;
5865         case 6:
5866             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
5867             if (strEQ(d,"msgget"))              return -KEY_msgget;
5868             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
5869             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
5870             break;
5871         }
5872         break;
5873     case 'n':
5874         if (strEQ(d,"next"))                    return KEY_next;
5875         if (strEQ(d,"ne"))                      return -KEY_ne;
5876         if (strEQ(d,"not"))                     return -KEY_not;
5877         if (strEQ(d,"no"))                      return KEY_no;
5878         break;
5879     case 'o':
5880         switch (len) {
5881         case 2:
5882             if (strEQ(d,"or"))                  return -KEY_or;
5883             break;
5884         case 3:
5885             if (strEQ(d,"ord"))                 return -KEY_ord;
5886             if (strEQ(d,"oct"))                 return -KEY_oct;
5887             if (strEQ(d,"our"))                 return KEY_our;
5888             break;
5889         case 4:
5890             if (strEQ(d,"open"))                return -KEY_open;
5891             break;
5892         case 7:
5893             if (strEQ(d,"opendir"))             return -KEY_opendir;
5894             break;
5895         }
5896         break;
5897     case 'p':
5898         switch (len) {
5899         case 3:
5900            if (strEQ(d,"pop"))                 return -KEY_pop;
5901             if (strEQ(d,"pos"))                 return KEY_pos;
5902             break;
5903         case 4:
5904            if (strEQ(d,"push"))                return -KEY_push;
5905             if (strEQ(d,"pack"))                return -KEY_pack;
5906             if (strEQ(d,"pipe"))                return -KEY_pipe;
5907             break;
5908         case 5:
5909             if (strEQ(d,"print"))               return KEY_print;
5910             break;
5911         case 6:
5912             if (strEQ(d,"printf"))              return KEY_printf;
5913             break;
5914         case 7:
5915             if (strEQ(d,"package"))             return KEY_package;
5916             break;
5917         case 9:
5918             if (strEQ(d,"prototype"))           return KEY_prototype;
5919         }
5920         break;
5921     case 'q':
5922         if (len <= 2) {
5923             if (strEQ(d,"q"))                   return KEY_q;
5924             if (strEQ(d,"qr"))                  return KEY_qr;
5925             if (strEQ(d,"qq"))                  return KEY_qq;
5926             if (strEQ(d,"qw"))                  return KEY_qw;
5927             if (strEQ(d,"qx"))                  return KEY_qx;
5928         }
5929         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
5930         break;
5931     case 'r':
5932         switch (len) {
5933         case 3:
5934             if (strEQ(d,"ref"))                 return -KEY_ref;
5935             break;
5936         case 4:
5937             if (strEQ(d,"read"))                return -KEY_read;
5938             if (strEQ(d,"rand"))                return -KEY_rand;
5939             if (strEQ(d,"recv"))                return -KEY_recv;
5940             if (strEQ(d,"redo"))                return KEY_redo;
5941             break;
5942         case 5:
5943             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
5944             if (strEQ(d,"reset"))               return -KEY_reset;
5945             break;
5946         case 6:
5947             if (strEQ(d,"return"))              return KEY_return;
5948             if (strEQ(d,"rename"))              return -KEY_rename;
5949             if (strEQ(d,"rindex"))              return -KEY_rindex;
5950             break;
5951         case 7:
5952             if (strEQ(d,"require"))             return KEY_require;
5953             if (strEQ(d,"reverse"))             return -KEY_reverse;
5954             if (strEQ(d,"readdir"))             return -KEY_readdir;
5955             break;
5956         case 8:
5957             if (strEQ(d,"readlink"))            return -KEY_readlink;
5958             if (strEQ(d,"readline"))            return -KEY_readline;
5959             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
5960             break;
5961         case 9:
5962             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
5963             break;
5964         }
5965         break;
5966     case 's':
5967         switch (d[1]) {
5968         case 0:                                 return KEY_s;
5969         case 'c':
5970             if (strEQ(d,"scalar"))              return KEY_scalar;
5971             break;
5972         case 'e':
5973             switch (len) {
5974             case 4:
5975                 if (strEQ(d,"seek"))            return -KEY_seek;
5976                 if (strEQ(d,"send"))            return -KEY_send;
5977                 break;
5978             case 5:
5979                 if (strEQ(d,"semop"))           return -KEY_semop;
5980                 break;
5981             case 6:
5982                 if (strEQ(d,"select"))          return -KEY_select;
5983                 if (strEQ(d,"semctl"))          return -KEY_semctl;
5984                 if (strEQ(d,"semget"))          return -KEY_semget;
5985                 break;
5986             case 7:
5987                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
5988                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
5989                 break;
5990             case 8:
5991                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
5992                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
5993                 break;
5994             case 9:
5995                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
5996                 break;
5997             case 10:
5998                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
5999                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
6000                 if (strEQ(d,"setservent"))      return -KEY_setservent;
6001                 break;
6002             case 11:
6003                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
6004                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
6005                 break;
6006             }
6007             break;
6008         case 'h':
6009             switch (len) {
6010             case 5:
6011                if (strEQ(d,"shift"))           return -KEY_shift;
6012                 break;
6013             case 6:
6014                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
6015                 if (strEQ(d,"shmget"))          return -KEY_shmget;
6016                 break;
6017             case 7:
6018                 if (strEQ(d,"shmread"))         return -KEY_shmread;
6019                 break;
6020             case 8:
6021                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
6022                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
6023                 break;
6024             }
6025             break;
6026         case 'i':
6027             if (strEQ(d,"sin"))                 return -KEY_sin;
6028             break;
6029         case 'l':
6030             if (strEQ(d,"sleep"))               return -KEY_sleep;
6031             break;
6032         case 'o':
6033             if (strEQ(d,"sort"))                return KEY_sort;
6034             if (strEQ(d,"socket"))              return -KEY_socket;
6035             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
6036             break;
6037         case 'p':
6038             if (strEQ(d,"split"))               return KEY_split;
6039             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
6040            if (strEQ(d,"splice"))              return -KEY_splice;
6041             break;
6042         case 'q':
6043             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
6044             break;
6045         case 'r':
6046             if (strEQ(d,"srand"))               return -KEY_srand;
6047             break;
6048         case 't':
6049             if (strEQ(d,"stat"))                return -KEY_stat;
6050             if (strEQ(d,"study"))               return KEY_study;
6051             break;
6052         case 'u':
6053             if (strEQ(d,"substr"))              return -KEY_substr;
6054             if (strEQ(d,"sub"))                 return KEY_sub;
6055             break;
6056         case 'y':
6057             switch (len) {
6058             case 6:
6059                 if (strEQ(d,"system"))          return -KEY_system;
6060                 break;
6061             case 7:
6062                 if (strEQ(d,"symlink"))         return -KEY_symlink;
6063                 if (strEQ(d,"syscall"))         return -KEY_syscall;
6064                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
6065                 if (strEQ(d,"sysread"))         return -KEY_sysread;
6066                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
6067                 break;
6068             case 8:
6069                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
6070                 break;
6071             }
6072             break;
6073         }
6074         break;
6075     case 't':
6076         switch (len) {
6077         case 2:
6078             if (strEQ(d,"tr"))                  return KEY_tr;
6079             break;
6080         case 3:
6081             if (strEQ(d,"tie"))                 return KEY_tie;
6082             break;
6083         case 4:
6084             if (strEQ(d,"tell"))                return -KEY_tell;
6085             if (strEQ(d,"tied"))                return KEY_tied;
6086             if (strEQ(d,"time"))                return -KEY_time;
6087             break;
6088         case 5:
6089             if (strEQ(d,"times"))               return -KEY_times;
6090             break;
6091         case 7:
6092             if (strEQ(d,"telldir"))             return -KEY_telldir;
6093             break;
6094         case 8:
6095             if (strEQ(d,"truncate"))            return -KEY_truncate;
6096             break;
6097         }
6098         break;
6099     case 'u':
6100         switch (len) {
6101         case 2:
6102             if (strEQ(d,"uc"))                  return -KEY_uc;
6103             break;
6104         case 3:
6105             if (strEQ(d,"use"))                 return KEY_use;
6106             break;
6107         case 5:
6108             if (strEQ(d,"undef"))               return KEY_undef;
6109             if (strEQ(d,"until"))               return KEY_until;
6110             if (strEQ(d,"untie"))               return KEY_untie;
6111             if (strEQ(d,"utime"))               return -KEY_utime;
6112             if (strEQ(d,"umask"))               return -KEY_umask;
6113             break;
6114         case 6:
6115             if (strEQ(d,"unless"))              return KEY_unless;
6116             if (strEQ(d,"unpack"))              return -KEY_unpack;
6117             if (strEQ(d,"unlink"))              return -KEY_unlink;
6118             break;
6119         case 7:
6120            if (strEQ(d,"unshift"))             return -KEY_unshift;
6121             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
6122             break;
6123         }
6124         break;
6125     case 'v':
6126         if (strEQ(d,"values"))                  return -KEY_values;
6127         if (strEQ(d,"vec"))                     return -KEY_vec;
6128         break;
6129     case 'w':
6130         switch (len) {
6131         case 4:
6132             if (strEQ(d,"warn"))                return -KEY_warn;
6133             if (strEQ(d,"wait"))                return -KEY_wait;
6134             break;
6135         case 5:
6136             if (strEQ(d,"while"))               return KEY_while;
6137             if (strEQ(d,"write"))               return -KEY_write;
6138             break;
6139         case 7:
6140             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
6141             break;
6142         case 9:
6143             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
6144             break;
6145         }
6146         break;
6147     case 'x':
6148         if (len == 1)                           return -KEY_x;
6149         if (strEQ(d,"xor"))                     return -KEY_xor;
6150         break;
6151     case 'y':
6152         if (len == 1)                           return KEY_y;
6153         break;
6154     case 'z':
6155         break;
6156     }
6157     return 0;
6158 }
6159
6160 STATIC void
6161 S_checkcomma(pTHX_ register char *s, char *name, char *what)
6162 {
6163     char *w;
6164
6165     if (*s == ' ' && s[1] == '(') {     /* XXX gotta be a better way */
6166         if (ckWARN(WARN_SYNTAX)) {
6167             int level = 1;
6168             for (w = s+2; *w && level; w++) {
6169                 if (*w == '(')
6170                     ++level;
6171                 else if (*w == ')')
6172                     --level;
6173             }
6174             if (*w)
6175                 for (; *w && isSPACE(*w); w++) ;
6176             if (!*w || !strchr(";|})]oaiuw!=", *w))     /* an advisory hack only... */
6177                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
6178                             "%s (...) interpreted as function",name);
6179         }
6180     }
6181     while (s < PL_bufend && isSPACE(*s))
6182         s++;
6183     if (*s == '(')
6184         s++;
6185     while (s < PL_bufend && isSPACE(*s))
6186         s++;
6187     if (isIDFIRST_lazy_if(s,UTF)) {
6188         w = s++;
6189         while (isALNUM_lazy_if(s,UTF))
6190             s++;
6191         while (s < PL_bufend && isSPACE(*s))
6192             s++;
6193         if (*s == ',') {
6194             int kw;
6195             *s = '\0';
6196             kw = keyword(w, s - w) || get_cv(w, FALSE) != 0;
6197             *s = ',';
6198             if (kw)
6199                 return;
6200             Perl_croak(aTHX_ "No comma allowed after %s", what);
6201         }
6202     }
6203 }
6204
6205 /* Either returns sv, or mortalizes sv and returns a new SV*.
6206    Best used as sv=new_constant(..., sv, ...).
6207    If s, pv are NULL, calls subroutine with one argument,
6208    and type is used with error messages only. */
6209
6210 STATIC SV *
6211 S_new_constant(pTHX_ char *s, STRLEN len, const char *key, SV *sv, SV *pv,
6212                const char *type)
6213 {
6214     dSP;
6215     HV *table = GvHV(PL_hintgv);                 /* ^H */
6216     SV *res;
6217     SV **cvp;
6218     SV *cv, *typesv;
6219     const char *why1, *why2, *why3;
6220
6221     if (!table || !(PL_hints & HINT_LOCALIZE_HH)) {
6222         SV *msg;
6223         
6224         why2 = strEQ(key,"charnames")
6225                ? "(possibly a missing \"use charnames ...\")"
6226                : "";
6227         msg = Perl_newSVpvf(aTHX_ "Constant(%s) unknown: %s",
6228                             (type ? type: "undef"), why2);
6229
6230         /* This is convoluted and evil ("goto considered harmful")
6231          * but I do not understand the intricacies of all the different
6232          * failure modes of %^H in here.  The goal here is to make
6233          * the most probable error message user-friendly. --jhi */
6234
6235         goto msgdone;
6236
6237     report:
6238         msg = Perl_newSVpvf(aTHX_ "Constant(%s): %s%s%s",
6239                             (type ? type: "undef"), why1, why2, why3);
6240     msgdone:
6241         yyerror(SvPVX(msg));
6242         SvREFCNT_dec(msg);
6243         return sv;
6244     }
6245     cvp = hv_fetch(table, key, strlen(key), FALSE);
6246     if (!cvp || !SvOK(*cvp)) {
6247         why1 = "$^H{";
6248         why2 = key;
6249         why3 = "} is not defined";
6250         goto report;
6251     }
6252     sv_2mortal(sv);                     /* Parent created it permanently */
6253     cv = *cvp;
6254     if (!pv && s)
6255         pv = sv_2mortal(newSVpvn(s, len));
6256     if (type && pv)
6257         typesv = sv_2mortal(newSVpv(type, 0));
6258     else
6259         typesv = &PL_sv_undef;
6260
6261     PUSHSTACKi(PERLSI_OVERLOAD);
6262     ENTER ;
6263     SAVETMPS;
6264
6265     PUSHMARK(SP) ;
6266     EXTEND(sp, 3);
6267     if (pv)
6268         PUSHs(pv);
6269     PUSHs(sv);
6270     if (pv)
6271         PUSHs(typesv);
6272     PUTBACK;
6273     call_sv(cv, G_SCALAR | ( PL_in_eval ? 0 : G_EVAL));
6274
6275     SPAGAIN ;
6276
6277     /* Check the eval first */
6278     if (!PL_in_eval && SvTRUE(ERRSV)) {
6279         STRLEN n_a;
6280         sv_catpv(ERRSV, "Propagated");
6281         yyerror(SvPV(ERRSV, n_a)); /* Duplicates the message inside eval */
6282         (void)POPs;
6283         res = SvREFCNT_inc(sv);
6284     }
6285     else {
6286         res = POPs;
6287         (void)SvREFCNT_inc(res);
6288     }
6289
6290     PUTBACK ;
6291     FREETMPS ;
6292     LEAVE ;
6293     POPSTACK;
6294
6295     if (!SvOK(res)) {
6296         why1 = "Call to &{$^H{";
6297         why2 = key;
6298         why3 = "}} did not return a defined value";
6299         sv = res;
6300         goto report;
6301     }
6302
6303     return res;
6304 }
6305
6306 STATIC char *
6307 S_scan_word(pTHX_ register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
6308 {
6309     register char *d = dest;
6310     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
6311     for (;;) {
6312         if (d >= e)
6313             Perl_croak(aTHX_ ident_too_long);
6314         if (isALNUM(*s))        /* UTF handled below */
6315             *d++ = *s++;
6316         else if (*s == '\'' && allow_package && isIDFIRST_lazy_if(s+1,UTF)) {
6317             *d++ = ':';
6318             *d++ = ':';
6319             s++;
6320         }
6321         else if (*s == ':' && s[1] == ':' && allow_package && s[2] != '$') {
6322             *d++ = *s++;
6323             *d++ = *s++;
6324         }
6325         else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
6326             char *t = s + UTF8SKIP(s);
6327             while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
6328                 t += UTF8SKIP(t);
6329             if (d + (t - s) > e)
6330                 Perl_croak(aTHX_ ident_too_long);
6331             Copy(s, d, t - s, char);
6332             d += t - s;
6333             s = t;
6334         }
6335         else {
6336             *d = '\0';
6337             *slp = d - dest;
6338             return s;
6339         }
6340     }
6341 }
6342
6343 STATIC char *
6344 S_scan_ident(pTHX_ register char *s, register char *send, char *dest, STRLEN destlen, I32 ck_uni)
6345 {
6346     register char *d;
6347     register char *e;
6348     char *bracket = 0;
6349     char funny = *s++;
6350
6351     if (isSPACE(*s))
6352         s = skipspace(s);
6353     d = dest;
6354     e = d + destlen - 3;        /* two-character token, ending NUL */
6355     if (isDIGIT(*s)) {
6356         while (isDIGIT(*s)) {
6357             if (d >= e)
6358                 Perl_croak(aTHX_ ident_too_long);
6359             *d++ = *s++;
6360         }
6361     }
6362     else {
6363         for (;;) {
6364             if (d >= e)
6365                 Perl_croak(aTHX_ ident_too_long);
6366             if (isALNUM(*s))    /* UTF handled below */
6367                 *d++ = *s++;
6368             else if (*s == '\'' && isIDFIRST_lazy_if(s+1,UTF)) {
6369                 *d++ = ':';
6370                 *d++ = ':';
6371                 s++;
6372             }
6373             else if (*s == ':' && s[1] == ':') {
6374                 *d++ = *s++;
6375                 *d++ = *s++;
6376             }
6377             else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
6378                 char *t = s + UTF8SKIP(s);
6379                 while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
6380                     t += UTF8SKIP(t);
6381                 if (d + (t - s) > e)
6382                     Perl_croak(aTHX_ ident_too_long);
6383                 Copy(s, d, t - s, char);
6384                 d += t - s;
6385                 s = t;
6386             }
6387             else
6388                 break;
6389         }
6390     }
6391     *d = '\0';
6392     d = dest;
6393     if (*d) {
6394         if (PL_lex_state != LEX_NORMAL)
6395             PL_lex_state = LEX_INTERPENDMAYBE;
6396         return s;
6397     }
6398     if (*s == '$' && s[1] &&
6399         (isALNUM_lazy_if(s+1,UTF) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
6400     {
6401         return s;
6402     }
6403     if (*s == '{') {
6404         bracket = s;
6405         s++;
6406     }
6407     else if (ck_uni)
6408         check_uni();
6409     if (s < send)
6410         *d = *s++;
6411     d[1] = '\0';
6412     if (*d == '^' && *s && isCONTROLVAR(*s)) {
6413         *d = toCTRL(*s);
6414         s++;
6415     }
6416     if (bracket) {
6417         if (isSPACE(s[-1])) {
6418             while (s < send) {
6419                 char ch = *s++;
6420                 if (!SPACE_OR_TAB(ch)) {
6421                     *d = ch;
6422                     break;
6423                 }
6424             }
6425         }
6426         if (isIDFIRST_lazy_if(d,UTF)) {
6427             d++;
6428             if (UTF) {
6429                 e = s;
6430                 while ((e < send && isALNUM_lazy_if(e,UTF)) || *e == ':') {
6431                     e += UTF8SKIP(e);
6432                     while (e < send && UTF8_IS_CONTINUED(*e) && is_utf8_mark((U8*)e))
6433                         e += UTF8SKIP(e);
6434                 }
6435                 Copy(s, d, e - s, char);
6436                 d += e - s;
6437                 s = e;
6438             }
6439             else {
6440                 while ((isALNUM(*s) || *s == ':') && d < e)
6441                     *d++ = *s++;
6442                 if (d >= e)
6443                     Perl_croak(aTHX_ ident_too_long);
6444             }
6445             *d = '\0';
6446             while (s < send && SPACE_OR_TAB(*s)) s++;
6447             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
6448                 if (ckWARN(WARN_AMBIGUOUS) && keyword(dest, d - dest)) {
6449                     const char *brack = *s == '[' ? "[...]" : "{...}";
6450                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
6451                         "Ambiguous use of %c{%s%s} resolved to %c%s%s",
6452                         funny, dest, brack, funny, dest, brack);
6453                 }
6454                 bracket++;
6455                 PL_lex_brackstack[PL_lex_brackets++] = (char)(XOPERATOR | XFAKEBRACK);
6456                 return s;
6457             }
6458         }
6459         /* Handle extended ${^Foo} variables
6460          * 1999-02-27 mjd-perl-patch@plover.com */
6461         else if (!isALNUM(*d) && !isPRINT(*d) /* isCTRL(d) */
6462                  && isALNUM(*s))
6463         {
6464             d++;
6465             while (isALNUM(*s) && d < e) {
6466                 *d++ = *s++;
6467             }
6468             if (d >= e)
6469                 Perl_croak(aTHX_ ident_too_long);
6470             *d = '\0';
6471         }
6472         if (*s == '}') {
6473             s++;
6474             if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets) {
6475                 PL_lex_state = LEX_INTERPEND;
6476                 PL_expect = XREF;
6477             }
6478             if (funny == '#')
6479                 funny = '@';
6480             if (PL_lex_state == LEX_NORMAL) {
6481                 if (ckWARN(WARN_AMBIGUOUS) &&
6482                     (keyword(dest, d - dest) || get_cv(dest, FALSE)))
6483                 {
6484                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
6485                         "Ambiguous use of %c{%s} resolved to %c%s",
6486                         funny, dest, funny, dest);
6487                 }
6488             }
6489         }
6490         else {
6491             s = bracket;                /* let the parser handle it */
6492             *dest = '\0';
6493         }
6494     }
6495     else if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets && !intuit_more(s))
6496         PL_lex_state = LEX_INTERPEND;
6497     return s;
6498 }
6499
6500 void
6501 Perl_pmflag(pTHX_ U32* pmfl, int ch)
6502 {
6503     if (ch == 'i')
6504         *pmfl |= PMf_FOLD;
6505     else if (ch == 'g')
6506         *pmfl |= PMf_GLOBAL;
6507     else if (ch == 'c')
6508         *pmfl |= PMf_CONTINUE;
6509     else if (ch == 'o')
6510         *pmfl |= PMf_KEEP;
6511     else if (ch == 'm')
6512         *pmfl |= PMf_MULTILINE;
6513     else if (ch == 's')
6514         *pmfl |= PMf_SINGLELINE;
6515     else if (ch == 'x')
6516         *pmfl |= PMf_EXTENDED;
6517 }
6518
6519 STATIC char *
6520 S_scan_pat(pTHX_ char *start, I32 type)
6521 {
6522     PMOP *pm;
6523     char *s;
6524
6525     s = scan_str(start,FALSE,FALSE);
6526     if (!s)
6527         Perl_croak(aTHX_ "Search pattern not terminated");
6528
6529     pm = (PMOP*)newPMOP(type, 0);
6530     if (PL_multi_open == '?')
6531         pm->op_pmflags |= PMf_ONCE;
6532     if(type == OP_QR) {
6533         while (*s && strchr("iomsx", *s))
6534             pmflag(&pm->op_pmflags,*s++);
6535     }
6536     else {
6537         while (*s && strchr("iogcmsx", *s))
6538             pmflag(&pm->op_pmflags,*s++);
6539     }
6540     /* issue a warning if /c is specified,but /g is not */
6541     if (ckWARN(WARN_REGEXP) && 
6542         (pm->op_pmflags & PMf_CONTINUE) && !(pm->op_pmflags & PMf_GLOBAL))
6543     {
6544         Perl_warner(aTHX_ packWARN(WARN_REGEXP), c_without_g);
6545     }
6546
6547     pm->op_pmpermflags = pm->op_pmflags;
6548
6549     PL_lex_op = (OP*)pm;
6550     yylval.ival = OP_MATCH;
6551     return s;
6552 }
6553
6554 STATIC char *
6555 S_scan_subst(pTHX_ char *start)
6556 {
6557     register char *s;
6558     register PMOP *pm;
6559     I32 first_start;
6560     I32 es = 0;
6561
6562     yylval.ival = OP_NULL;
6563
6564     s = scan_str(start,FALSE,FALSE);
6565
6566     if (!s)
6567         Perl_croak(aTHX_ "Substitution pattern not terminated");
6568
6569     if (s[-1] == PL_multi_open)
6570         s--;
6571
6572     first_start = PL_multi_start;
6573     s = scan_str(s,FALSE,FALSE);
6574     if (!s) {
6575         if (PL_lex_stuff) {
6576             SvREFCNT_dec(PL_lex_stuff);
6577             PL_lex_stuff = Nullsv;
6578         }
6579         Perl_croak(aTHX_ "Substitution replacement not terminated");
6580     }
6581     PL_multi_start = first_start;       /* so whole substitution is taken together */
6582
6583     pm = (PMOP*)newPMOP(OP_SUBST, 0);
6584     while (*s) {
6585         if (*s == 'e') {
6586             s++;
6587             es++;
6588         }
6589         else if (strchr("iogcmsx", *s))
6590             pmflag(&pm->op_pmflags,*s++);
6591         else
6592             break;
6593     }
6594
6595     /* /c is not meaningful with s/// */
6596     if (ckWARN(WARN_REGEXP) && (pm->op_pmflags & PMf_CONTINUE))
6597     {
6598         Perl_warner(aTHX_ packWARN(WARN_REGEXP), c_in_subst);
6599     }
6600
6601     if (es) {
6602         SV *repl;
6603         PL_sublex_info.super_bufptr = s;
6604         PL_sublex_info.super_bufend = PL_bufend;
6605         PL_multi_end = 0;
6606         pm->op_pmflags |= PMf_EVAL;
6607         repl = newSVpvn("",0);
6608         while (es-- > 0)
6609             sv_catpv(repl, es ? "eval " : "do ");
6610         sv_catpvn(repl, "{ ", 2);
6611         sv_catsv(repl, PL_lex_repl);
6612         sv_catpvn(repl, " };", 2);
6613         SvEVALED_on(repl);
6614         SvREFCNT_dec(PL_lex_repl);
6615         PL_lex_repl = repl;
6616     }
6617
6618     pm->op_pmpermflags = pm->op_pmflags;
6619     PL_lex_op = (OP*)pm;
6620     yylval.ival = OP_SUBST;
6621     return s;
6622 }
6623
6624 STATIC char *
6625 S_scan_trans(pTHX_ char *start)
6626 {
6627     register char* s;
6628     OP *o;
6629     short *tbl;
6630     I32 squash;
6631     I32 del;
6632     I32 complement;
6633
6634     yylval.ival = OP_NULL;
6635
6636     s = scan_str(start,FALSE,FALSE);
6637     if (!s)
6638         Perl_croak(aTHX_ "Transliteration pattern not terminated");
6639     if (s[-1] == PL_multi_open)
6640         s--;
6641
6642     s = scan_str(s,FALSE,FALSE);
6643     if (!s) {
6644         if (PL_lex_stuff) {
6645             SvREFCNT_dec(PL_lex_stuff);
6646             PL_lex_stuff = Nullsv;
6647         }
6648         Perl_croak(aTHX_ "Transliteration replacement not terminated");
6649     }
6650
6651     complement = del = squash = 0;
6652     while (strchr("cds", *s)) {
6653         if (*s == 'c')
6654             complement = OPpTRANS_COMPLEMENT;
6655         else if (*s == 'd')
6656             del = OPpTRANS_DELETE;
6657         else if (*s == 's')
6658             squash = OPpTRANS_SQUASH;
6659         s++;
6660     }
6661
6662     New(803, tbl, complement&&!del?258:256, short);
6663     o = newPVOP(OP_TRANS, 0, (char*)tbl);
6664     o->op_private &= ~OPpTRANS_ALL;
6665     o->op_private |= del|squash|complement|
6666       (DO_UTF8(PL_lex_stuff)? OPpTRANS_FROM_UTF : 0)|
6667       (DO_UTF8(PL_lex_repl) ? OPpTRANS_TO_UTF   : 0);
6668
6669     PL_lex_op = o;
6670     yylval.ival = OP_TRANS;
6671     return s;
6672 }
6673
6674 STATIC char *
6675 S_scan_heredoc(pTHX_ register char *s)
6676 {
6677     SV *herewas;
6678     I32 op_type = OP_SCALAR;
6679     I32 len;
6680     SV *tmpstr;
6681     char term;
6682     register char *d;
6683     register char *e;
6684     char *peek;
6685     int outer = (PL_rsfp && !(PL_lex_inwhat == OP_SCALAR));
6686
6687     s += 2;
6688     d = PL_tokenbuf;
6689     e = PL_tokenbuf + sizeof PL_tokenbuf - 1;
6690     if (!outer)
6691         *d++ = '\n';
6692     for (peek = s; SPACE_OR_TAB(*peek); peek++) ;
6693     if (*peek && strchr("`'\"",*peek)) {
6694         s = peek;
6695         term = *s++;
6696         s = delimcpy(d, e, s, PL_bufend, term, &len);
6697         d += len;
6698         if (s < PL_bufend)
6699             s++;
6700     }
6701     else {
6702         if (*s == '\\')
6703             s++, term = '\'';
6704         else
6705             term = '"';
6706         if (!isALNUM_lazy_if(s,UTF))
6707             deprecate_old("bare << to mean <<\"\"");
6708         for (; isALNUM_lazy_if(s,UTF); s++) {
6709             if (d < e)
6710                 *d++ = *s;
6711         }
6712     }
6713     if (d >= PL_tokenbuf + sizeof PL_tokenbuf - 1)
6714         Perl_croak(aTHX_ "Delimiter for here document is too long");
6715     *d++ = '\n';
6716     *d = '\0';
6717     len = d - PL_tokenbuf;
6718 #ifndef PERL_STRICT_CR
6719     d = strchr(s, '\r');
6720     if (d) {
6721         char *olds = s;
6722         s = d;
6723         while (s < PL_bufend) {
6724             if (*s == '\r') {
6725                 *d++ = '\n';
6726                 if (*++s == '\n')
6727                     s++;
6728             }
6729             else if (*s == '\n' && s[1] == '\r') {      /* \015\013 on a mac? */
6730                 *d++ = *s++;
6731                 s++;
6732             }
6733             else
6734                 *d++ = *s++;
6735         }
6736         *d = '\0';
6737         PL_bufend = d;
6738         SvCUR_set(PL_linestr, PL_bufend - SvPVX(PL_linestr));
6739         s = olds;
6740     }
6741 #endif
6742     d = "\n";
6743     if (outer || !(d=ninstr(s,PL_bufend,d,d+1)))
6744         herewas = newSVpvn(s,PL_bufend-s);
6745     else
6746         s--, herewas = newSVpvn(s,d-s);
6747     s += SvCUR(herewas);
6748
6749     tmpstr = NEWSV(87,79);
6750     sv_upgrade(tmpstr, SVt_PVIV);
6751     if (term == '\'') {
6752         op_type = OP_CONST;
6753         SvIVX(tmpstr) = -1;
6754     }
6755     else if (term == '`') {
6756         op_type = OP_BACKTICK;
6757         SvIVX(tmpstr) = '\\';
6758     }
6759
6760     CLINE;
6761     PL_multi_start = CopLINE(PL_curcop);
6762     PL_multi_open = PL_multi_close = '<';
6763     term = *PL_tokenbuf;
6764     if (PL_lex_inwhat == OP_SUBST && PL_in_eval && !PL_rsfp) {
6765         char *bufptr = PL_sublex_info.super_bufptr;
6766         char *bufend = PL_sublex_info.super_bufend;
6767         char *olds = s - SvCUR(herewas);
6768         s = strchr(bufptr, '\n');
6769         if (!s)
6770             s = bufend;
6771         d = s;
6772         while (s < bufend &&
6773           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
6774             if (*s++ == '\n')
6775                 CopLINE_inc(PL_curcop);
6776         }
6777         if (s >= bufend) {
6778             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
6779             missingterm(PL_tokenbuf);
6780         }
6781         sv_setpvn(herewas,bufptr,d-bufptr+1);
6782         sv_setpvn(tmpstr,d+1,s-d);
6783         s += len - 1;
6784         sv_catpvn(herewas,s,bufend-s);
6785         Copy(SvPVX(herewas),bufptr,SvCUR(herewas) + 1,char);
6786
6787         s = olds;
6788         goto retval;
6789     }
6790     else if (!outer) {
6791         d = s;
6792         while (s < PL_bufend &&
6793           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
6794             if (*s++ == '\n')
6795                 CopLINE_inc(PL_curcop);
6796         }
6797         if (s >= PL_bufend) {
6798             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
6799             missingterm(PL_tokenbuf);
6800         }
6801         sv_setpvn(tmpstr,d+1,s-d);
6802         s += len - 1;
6803         CopLINE_inc(PL_curcop); /* the preceding stmt passes a newline */
6804
6805         sv_catpvn(herewas,s,PL_bufend-s);
6806         sv_setsv(PL_linestr,herewas);
6807         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart = SvPVX(PL_linestr);
6808         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
6809         PL_last_lop = PL_last_uni = Nullch;
6810     }
6811     else
6812         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
6813     while (s >= PL_bufend) {    /* multiple line string? */
6814         if (!outer ||
6815          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
6816             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
6817             missingterm(PL_tokenbuf);
6818         }
6819         CopLINE_inc(PL_curcop);
6820         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
6821         PL_last_lop = PL_last_uni = Nullch;
6822 #ifndef PERL_STRICT_CR
6823         if (PL_bufend - PL_linestart >= 2) {
6824             if ((PL_bufend[-2] == '\r' && PL_bufend[-1] == '\n') ||
6825                 (PL_bufend[-2] == '\n' && PL_bufend[-1] == '\r'))
6826             {
6827                 PL_bufend[-2] = '\n';
6828                 PL_bufend--;
6829                 SvCUR_set(PL_linestr, PL_bufend - SvPVX(PL_linestr));
6830             }
6831             else if (PL_bufend[-1] == '\r')
6832                 PL_bufend[-1] = '\n';
6833         }
6834         else if (PL_bufend - PL_linestart == 1 && PL_bufend[-1] == '\r')
6835             PL_bufend[-1] = '\n';
6836 #endif
6837         if (PERLDB_LINE && PL_curstash != PL_debstash) {
6838             SV *sv = NEWSV(88,0);
6839
6840             sv_upgrade(sv, SVt_PVMG);
6841             sv_setsv(sv,PL_linestr);
6842             (void)SvIOK_on(sv);
6843             SvIVX(sv) = 0;
6844             av_store(CopFILEAV(PL_curcop), (I32)CopLINE(PL_curcop),sv);
6845         }
6846         if (*s == term && memEQ(s,PL_tokenbuf,len)) {
6847             STRLEN off = PL_bufend - 1 - SvPVX(PL_linestr);
6848             *(SvPVX(PL_linestr) + off ) = ' ';
6849             sv_catsv(PL_linestr,herewas);
6850             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
6851             s = SvPVX(PL_linestr) + off; /* In case PV of PL_linestr moved. */
6852         }
6853         else {
6854             s = PL_bufend;
6855             sv_catsv(tmpstr,PL_linestr);
6856         }
6857     }
6858     s++;
6859 retval:
6860     PL_multi_end = CopLINE(PL_curcop);
6861     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
6862         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
6863         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
6864     }
6865     SvREFCNT_dec(herewas);
6866     if (!IN_BYTES) {
6867         if (UTF && is_utf8_string((U8*)SvPVX(tmpstr), SvCUR(tmpstr)))
6868             SvUTF8_on(tmpstr);
6869         else if (PL_encoding)
6870             sv_recode_to_utf8(tmpstr, PL_encoding);
6871     }
6872     PL_lex_stuff = tmpstr;
6873     yylval.ival = op_type;
6874     return s;
6875 }
6876
6877 /* scan_inputsymbol
6878    takes: current position in input buffer
6879    returns: new position in input buffer
6880    side-effects: yylval and lex_op are set.
6881
6882    This code handles:
6883
6884    <>           read from ARGV
6885    <FH>         read from filehandle
6886    <pkg::FH>    read from package qualified filehandle
6887    <pkg'FH>     read from package qualified filehandle
6888    <$fh>        read from filehandle in $fh
6889    <*.h>        filename glob
6890
6891 */
6892
6893 STATIC char *
6894 S_scan_inputsymbol(pTHX_ char *start)
6895 {
6896     register char *s = start;           /* current position in buffer */
6897     register char *d;
6898     register char *e;
6899     char *end;
6900     I32 len;
6901
6902     d = PL_tokenbuf;                    /* start of temp holding space */
6903     e = PL_tokenbuf + sizeof PL_tokenbuf;       /* end of temp holding space */
6904     end = strchr(s, '\n');
6905     if (!end)
6906         end = PL_bufend;
6907     s = delimcpy(d, e, s + 1, end, '>', &len);  /* extract until > */
6908
6909     /* die if we didn't have space for the contents of the <>,
6910        or if it didn't end, or if we see a newline
6911     */
6912
6913     if (len >= sizeof PL_tokenbuf)
6914         Perl_croak(aTHX_ "Excessively long <> operator");
6915     if (s >= end)
6916         Perl_croak(aTHX_ "Unterminated <> operator");
6917
6918     s++;
6919
6920     /* check for <$fh>
6921        Remember, only scalar variables are interpreted as filehandles by
6922        this code.  Anything more complex (e.g., <$fh{$num}>) will be
6923        treated as a glob() call.
6924        This code makes use of the fact that except for the $ at the front,
6925        a scalar variable and a filehandle look the same.
6926     */
6927     if (*d == '$' && d[1]) d++;
6928
6929     /* allow <Pkg'VALUE> or <Pkg::VALUE> */
6930     while (*d && (isALNUM_lazy_if(d,UTF) || *d == '\'' || *d == ':'))
6931         d++;
6932
6933     /* If we've tried to read what we allow filehandles to look like, and
6934        there's still text left, then it must be a glob() and not a getline.
6935        Use scan_str to pull out the stuff between the <> and treat it
6936        as nothing more than a string.
6937     */
6938
6939     if (d - PL_tokenbuf != len) {
6940         yylval.ival = OP_GLOB;
6941         set_csh();
6942         s = scan_str(start,FALSE,FALSE);
6943         if (!s)
6944            Perl_croak(aTHX_ "Glob not terminated");
6945         return s;
6946     }
6947     else {
6948         bool readline_overriden = FALSE;
6949         GV *gv_readline = Nullgv;
6950         GV **gvp;
6951         /* we're in a filehandle read situation */
6952         d = PL_tokenbuf;
6953
6954         /* turn <> into <ARGV> */
6955         if (!len)
6956             Copy("ARGV",d,5,char);
6957
6958         /* Check whether readline() is overriden */
6959         if (((gv_readline = gv_fetchpv("readline", FALSE, SVt_PVCV))
6960                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline))
6961                 ||
6962                 ((gvp = (GV**)hv_fetch(PL_globalstash, "readline", 8, FALSE))
6963                 && (gv_readline = *gvp) != (GV*)&PL_sv_undef
6964                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline)))
6965             readline_overriden = TRUE;
6966
6967         /* if <$fh>, create the ops to turn the variable into a
6968            filehandle
6969         */
6970         if (*d == '$') {
6971             I32 tmp;
6972
6973             /* try to find it in the pad for this block, otherwise find
6974                add symbol table ops
6975             */
6976             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
6977                 if (PAD_COMPNAME_FLAGS(tmp) & SVpad_OUR) {
6978                     SV *sym = sv_2mortal(
6979                             newSVpv(HvNAME(PAD_COMPNAME_OURSTASH(tmp)),0));
6980                     sv_catpvn(sym, "::", 2);
6981                     sv_catpv(sym, d+1);
6982                     d = SvPVX(sym);
6983                     goto intro_sym;
6984                 }
6985                 else {
6986                     OP *o = newOP(OP_PADSV, 0);
6987                     o->op_targ = tmp;
6988                     PL_lex_op = readline_overriden
6989                         ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
6990                                 append_elem(OP_LIST, o,
6991                                     newCVREF(0, newGVOP(OP_GV,0,gv_readline))))
6992                         : (OP*)newUNOP(OP_READLINE, 0, o);
6993                 }
6994             }
6995             else {
6996                 GV *gv;
6997                 ++d;
6998 intro_sym:
6999                 gv = gv_fetchpv(d,
7000                                 (PL_in_eval
7001                                  ? (GV_ADDMULTI | GV_ADDINEVAL)
7002                                  : GV_ADDMULTI),
7003                                 SVt_PV);
7004                 PL_lex_op = readline_overriden
7005                     ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
7006                             append_elem(OP_LIST,
7007                                 newUNOP(OP_RV2SV, 0, newGVOP(OP_GV, 0, gv)),
7008                                 newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
7009                     : (OP*)newUNOP(OP_READLINE, 0,
7010                             newUNOP(OP_RV2SV, 0,
7011                                 newGVOP(OP_GV, 0, gv)));
7012             }
7013             if (!readline_overriden)
7014                 PL_lex_op->op_flags |= OPf_SPECIAL;
7015             /* we created the ops in PL_lex_op, so make yylval.ival a null op */
7016             yylval.ival = OP_NULL;
7017         }
7018
7019         /* If it's none of the above, it must be a literal filehandle
7020            (<Foo::BAR> or <FOO>) so build a simple readline OP */
7021         else {
7022             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
7023             PL_lex_op = readline_overriden
7024                 ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
7025                         append_elem(OP_LIST,
7026                             newGVOP(OP_GV, 0, gv),
7027                             newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
7028                 : (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
7029             yylval.ival = OP_NULL;
7030         }
7031     }
7032
7033     return s;
7034 }
7035
7036
7037 /* scan_str
7038    takes: start position in buffer
7039           keep_quoted preserve \ on the embedded delimiter(s)
7040           keep_delims preserve the delimiters around the string
7041    returns: position to continue reading from buffer
7042    side-effects: multi_start, multi_close, lex_repl or lex_stuff, and
7043         updates the read buffer.
7044
7045    This subroutine pulls a string out of the input.  It is called for:
7046         q               single quotes           q(literal text)
7047         '               single quotes           'literal text'
7048         qq              double quotes           qq(interpolate $here please)
7049         "               double quotes           "interpolate $here please"
7050         qx              backticks               qx(/bin/ls -l)
7051         `               backticks               `/bin/ls -l`
7052         qw              quote words             @EXPORT_OK = qw( func() $spam )
7053         m//             regexp match            m/this/
7054         s///            regexp substitute       s/this/that/
7055         tr///           string transliterate    tr/this/that/
7056         y///            string transliterate    y/this/that/
7057         ($*@)           sub prototypes          sub foo ($)
7058         (stuff)         sub attr parameters     sub foo : attr(stuff)
7059         <>              readline or globs       <FOO>, <>, <$fh>, or <*.c>
7060         
7061    In most of these cases (all but <>, patterns and transliterate)
7062    yylex() calls scan_str().  m// makes yylex() call scan_pat() which
7063    calls scan_str().  s/// makes yylex() call scan_subst() which calls
7064    scan_str().  tr/// and y/// make yylex() call scan_trans() which
7065    calls scan_str().
7066
7067    It skips whitespace before the string starts, and treats the first
7068    character as the delimiter.  If the delimiter is one of ([{< then
7069    the corresponding "close" character )]}> is used as the closing
7070    delimiter.  It allows quoting of delimiters, and if the string has
7071    balanced delimiters ([{<>}]) it allows nesting.
7072
7073    On success, the SV with the resulting string is put into lex_stuff or,
7074    if that is already non-NULL, into lex_repl. The second case occurs only
7075    when parsing the RHS of the special constructs s/// and tr/// (y///).
7076    For convenience, the terminating delimiter character is stuffed into
7077    SvIVX of the SV.
7078 */
7079
7080 STATIC char *
7081 S_scan_str(pTHX_ char *start, int keep_quoted, int keep_delims)
7082 {
7083     SV *sv;                             /* scalar value: string */
7084     char *tmps;                         /* temp string, used for delimiter matching */
7085     register char *s = start;           /* current position in the buffer */
7086     register char term;                 /* terminating character */
7087     register char *to;                  /* current position in the sv's data */
7088     I32 brackets = 1;                   /* bracket nesting level */
7089     bool has_utf8 = FALSE;              /* is there any utf8 content? */
7090     I32 termcode;                       /* terminating char. code */
7091     U8 termstr[UTF8_MAXLEN];            /* terminating string */
7092     STRLEN termlen;                     /* length of terminating string */
7093     char *last = NULL;                  /* last position for nesting bracket */
7094
7095     /* skip space before the delimiter */
7096     if (isSPACE(*s))
7097         s = skipspace(s);
7098
7099     /* mark where we are, in case we need to report errors */
7100     CLINE;
7101
7102     /* after skipping whitespace, the next character is the terminator */
7103     term = *s;
7104     if (!UTF) {
7105         termcode = termstr[0] = term;
7106         termlen = 1;
7107     }
7108     else {
7109         termcode = utf8_to_uvchr((U8*)s, &termlen);
7110         Copy(s, termstr, termlen, U8);
7111         if (!UTF8_IS_INVARIANT(term))
7112             has_utf8 = TRUE;
7113     }
7114
7115     /* mark where we are */
7116     PL_multi_start = CopLINE(PL_curcop);
7117     PL_multi_open = term;
7118
7119     /* find corresponding closing delimiter */
7120     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
7121         termcode = termstr[0] = term = tmps[5];
7122
7123     PL_multi_close = term;
7124
7125     /* create a new SV to hold the contents.  87 is leak category, I'm
7126        assuming.  79 is the SV's initial length.  What a random number. */
7127     sv = NEWSV(87,79);
7128     sv_upgrade(sv, SVt_PVIV);
7129     SvIVX(sv) = termcode;
7130     (void)SvPOK_only(sv);               /* validate pointer */
7131
7132     /* move past delimiter and try to read a complete string */
7133     if (keep_delims)
7134         sv_catpvn(sv, s, termlen);
7135     s += termlen;
7136     for (;;) {
7137         if (PL_encoding && !UTF) {
7138             bool cont = TRUE;
7139
7140             while (cont) {
7141                 int offset = s - SvPVX(PL_linestr);
7142                 bool found = sv_cat_decode(sv, PL_encoding, PL_linestr,
7143                                            &offset, (char*)termstr, termlen);
7144                 char *ns = SvPVX(PL_linestr) + offset;
7145                 char *svlast = SvEND(sv) - 1;
7146
7147                 for (; s < ns; s++) {
7148                     if (*s == '\n' && !PL_rsfp)
7149                         CopLINE_inc(PL_curcop);
7150                 }
7151                 if (!found)
7152                     goto read_more_line;
7153                 else {
7154                     /* handle quoted delimiters */
7155                     if (SvCUR(sv) > 1 && *(svlast-1) == '\\') {
7156                         char *t;
7157                         for (t = svlast-2; t >= SvPVX(sv) && *t == '\\';)
7158                             t--;
7159                         if ((svlast-1 - t) % 2) {
7160                             if (!keep_quoted) {
7161                                 *(svlast-1) = term;
7162                                 *svlast = '\0';
7163                                 SvCUR_set(sv, SvCUR(sv) - 1);
7164                             }
7165                             continue;
7166                         }
7167                     }
7168                     if (PL_multi_open == PL_multi_close) {
7169                         cont = FALSE;
7170                     }
7171                     else {
7172                         char *t, *w;
7173                         if (!last)
7174                             last = SvPVX(sv);
7175                         for (w = t = last; t < svlast; w++, t++) {
7176                             /* At here, all closes are "was quoted" one,
7177                                so we don't check PL_multi_close. */
7178                             if (*t == '\\') {
7179                                 if (!keep_quoted && *(t+1) == PL_multi_open)
7180                                     t++;
7181                                 else
7182                                     *w++ = *t++;
7183                             }
7184                             else if (*t == PL_multi_open)
7185                                 brackets++;
7186
7187                             *w = *t;
7188                         }
7189                         if (w < t) {
7190                             *w++ = term;
7191                             *w = '\0';
7192                             SvCUR_set(sv, w - SvPVX(sv));
7193                         }
7194                         last = w;
7195                         if (--brackets <= 0)
7196                             cont = FALSE;
7197                     }
7198                 }
7199             }
7200             if (!keep_delims) {
7201                 SvCUR_set(sv, SvCUR(sv) - 1);
7202                 *SvEND(sv) = '\0';
7203             }
7204             break;
7205         }
7206
7207         /* extend sv if need be */
7208         SvGROW(sv, SvCUR(sv) + (PL_bufend - s) + 1);
7209         /* set 'to' to the next character in the sv's string */
7210         to = SvPVX(sv)+SvCUR(sv);
7211
7212         /* if open delimiter is the close delimiter read unbridle */
7213         if (PL_multi_open == PL_multi_close) {
7214             for (; s < PL_bufend; s++,to++) {
7215                 /* embedded newlines increment the current line number */
7216                 if (*s == '\n' && !PL_rsfp)
7217                     CopLINE_inc(PL_curcop);
7218                 /* handle quoted delimiters */
7219                 if (*s == '\\' && s+1 < PL_bufend && term != '\\') {
7220                     if (!keep_quoted && s[1] == term)
7221                         s++;
7222                 /* any other quotes are simply copied straight through */
7223                     else
7224                         *to++ = *s++;
7225                 }
7226                 /* terminate when run out of buffer (the for() condition), or
7227                    have found the terminator */
7228                 else if (*s == term) {
7229                     if (termlen == 1)
7230                         break;
7231                     if (s+termlen <= PL_bufend && memEQ(s, (char*)termstr, termlen))
7232                         break;
7233                 }
7234                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
7235                     has_utf8 = TRUE;
7236                 *to = *s;
7237             }
7238         }
7239         
7240         /* if the terminator isn't the same as the start character (e.g.,
7241            matched brackets), we have to allow more in the quoting, and
7242            be prepared for nested brackets.
7243         */
7244         else {
7245             /* read until we run out of string, or we find the terminator */
7246             for (; s < PL_bufend; s++,to++) {
7247                 /* embedded newlines increment the line count */
7248                 if (*s == '\n' && !PL_rsfp)
7249                     CopLINE_inc(PL_curcop);
7250                 /* backslashes can escape the open or closing characters */
7251                 if (*s == '\\' && s+1 < PL_bufend) {
7252                     if (!keep_quoted &&
7253                         ((s[1] == PL_multi_open) || (s[1] == PL_multi_close)))
7254                         s++;
7255                     else
7256                         *to++ = *s++;
7257                 }
7258                 /* allow nested opens and closes */
7259                 else if (*s == PL_multi_close && --brackets <= 0)
7260                     break;
7261                 else if (*s == PL_multi_open)
7262                     brackets++;
7263                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
7264                     has_utf8 = TRUE;
7265                 *to = *s;
7266             }
7267         }
7268         /* terminate the copied string and update the sv's end-of-string */
7269         *to = '\0';
7270         SvCUR_set(sv, to - SvPVX(sv));
7271
7272         /*
7273          * this next chunk reads more into the buffer if we're not done yet
7274          */
7275
7276         if (s < PL_bufend)
7277             break;              /* handle case where we are done yet :-) */
7278
7279 #ifndef PERL_STRICT_CR
7280         if (to - SvPVX(sv) >= 2) {
7281             if ((to[-2] == '\r' && to[-1] == '\n') ||
7282                 (to[-2] == '\n' && to[-1] == '\r'))
7283             {
7284                 to[-2] = '\n';
7285                 to--;
7286                 SvCUR_set(sv, to - SvPVX(sv));
7287             }
7288             else if (to[-1] == '\r')
7289                 to[-1] = '\n';
7290         }
7291         else if (to - SvPVX(sv) == 1 && to[-1] == '\r')
7292             to[-1] = '\n';
7293 #endif
7294         
7295      read_more_line:
7296         /* if we're out of file, or a read fails, bail and reset the current
7297            line marker so we can report where the unterminated string began
7298         */
7299         if (!PL_rsfp ||
7300          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
7301             sv_free(sv);
7302             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
7303             return Nullch;
7304         }
7305         /* we read a line, so increment our line counter */
7306         CopLINE_inc(PL_curcop);
7307
7308         /* update debugger info */
7309         if (PERLDB_LINE && PL_curstash != PL_debstash) {
7310             SV *sv = NEWSV(88,0);
7311
7312             sv_upgrade(sv, SVt_PVMG);
7313             sv_setsv(sv,PL_linestr);
7314             (void)SvIOK_on(sv);
7315             SvIVX(sv) = 0;
7316             av_store(CopFILEAV(PL_curcop), (I32)CopLINE(PL_curcop), sv);
7317         }
7318
7319         /* having changed the buffer, we must update PL_bufend */
7320         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
7321         PL_last_lop = PL_last_uni = Nullch;
7322     }
7323
7324     /* at this point, we have successfully read the delimited string */
7325
7326     if (!PL_encoding || UTF) {
7327         if (keep_delims)
7328             sv_catpvn(sv, s, termlen);
7329         s += termlen;
7330     }
7331     if (has_utf8 || PL_encoding)
7332         SvUTF8_on(sv);
7333
7334     PL_multi_end = CopLINE(PL_curcop);
7335
7336     /* if we allocated too much space, give some back */
7337     if (SvCUR(sv) + 5 < SvLEN(sv)) {
7338         SvLEN_set(sv, SvCUR(sv) + 1);
7339         Renew(SvPVX(sv), SvLEN(sv), char);
7340     }
7341
7342     /* decide whether this is the first or second quoted string we've read
7343        for this op
7344     */
7345
7346     if (PL_lex_stuff)
7347         PL_lex_repl = sv;
7348     else
7349         PL_lex_stuff = sv;
7350     return s;
7351 }
7352
7353 /*
7354   scan_num
7355   takes: pointer to position in buffer
7356   returns: pointer to new position in buffer
7357   side-effects: builds ops for the constant in yylval.op
7358
7359   Read a number in any of the formats that Perl accepts:
7360
7361   \d(_?\d)*(\.(\d(_?\d)*)?)?[Ee][\+\-]?(\d(_?\d)*)      12 12.34 12.
7362   \.\d(_?\d)*[Ee][\+\-]?(\d(_?\d)*)                     .34
7363   0b[01](_?[01])*
7364   0[0-7](_?[0-7])*
7365   0x[0-9A-Fa-f](_?[0-9A-Fa-f])*
7366
7367   Like most scan_ routines, it uses the PL_tokenbuf buffer to hold the
7368   thing it reads.
7369
7370   If it reads a number without a decimal point or an exponent, it will
7371   try converting the number to an integer and see if it can do so
7372   without loss of precision.
7373 */
7374
7375 char *
7376 Perl_scan_num(pTHX_ char *start, YYSTYPE* lvalp)
7377 {
7378     register char *s = start;           /* current position in buffer */
7379     register char *d;                   /* destination in temp buffer */
7380     register char *e;                   /* end of temp buffer */
7381     NV nv;                              /* number read, as a double */
7382     SV *sv = Nullsv;                    /* place to put the converted number */
7383     bool floatit;                       /* boolean: int or float? */
7384     char *lastub = 0;                   /* position of last underbar */
7385     static char number_too_long[] = "Number too long";
7386
7387     /* We use the first character to decide what type of number this is */
7388
7389     switch (*s) {
7390     default:
7391       Perl_croak(aTHX_ "panic: scan_num");
7392
7393     /* if it starts with a 0, it could be an octal number, a decimal in
7394        0.13 disguise, or a hexadecimal number, or a binary number. */
7395     case '0':
7396         {
7397           /* variables:
7398              u          holds the "number so far"
7399              shift      the power of 2 of the base
7400                         (hex == 4, octal == 3, binary == 1)
7401              overflowed was the number more than we can hold?
7402
7403              Shift is used when we add a digit.  It also serves as an "are
7404              we in octal/hex/binary?" indicator to disallow hex characters
7405              when in octal mode.
7406            */
7407             NV n = 0.0;
7408             UV u = 0;
7409             I32 shift;
7410             bool overflowed = FALSE;
7411             bool just_zero  = TRUE;     /* just plain 0 or binary number? */
7412             static NV nvshift[5] = { 1.0, 2.0, 4.0, 8.0, 16.0 };
7413             static char* bases[5] = { "", "binary", "", "octal",
7414                                       "hexadecimal" };
7415             static char* Bases[5] = { "", "Binary", "", "Octal",
7416                                       "Hexadecimal" };
7417             static char *maxima[5] = { "",
7418                                        "0b11111111111111111111111111111111",
7419                                        "",
7420                                        "037777777777",
7421                                        "0xffffffff" };
7422             char *base, *Base, *max;
7423
7424             /* check for hex */
7425             if (s[1] == 'x') {
7426                 shift = 4;
7427                 s += 2;
7428                 just_zero = FALSE;
7429             } else if (s[1] == 'b') {
7430                 shift = 1;
7431                 s += 2;
7432                 just_zero = FALSE;
7433             }
7434             /* check for a decimal in disguise */
7435             else if (s[1] == '.' || s[1] == 'e' || s[1] == 'E')
7436                 goto decimal;
7437             /* so it must be octal */
7438             else {
7439                 shift = 3;
7440                 s++;
7441             }
7442
7443             if (*s == '_') {
7444                if (ckWARN(WARN_SYNTAX))
7445                    Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
7446                                "Misplaced _ in number");
7447                lastub = s++;
7448             }
7449
7450             base = bases[shift];
7451             Base = Bases[shift];
7452             max  = maxima[shift];
7453
7454             /* read the rest of the number */
7455             for (;;) {
7456                 /* x is used in the overflow test,
7457                    b is the digit we're adding on. */
7458                 UV x, b;
7459
7460                 switch (*s) {
7461
7462                 /* if we don't mention it, we're done */
7463                 default:
7464                     goto out;
7465
7466                 /* _ are ignored -- but warned about if consecutive */
7467                 case '_':
7468                     if (ckWARN(WARN_SYNTAX) && lastub && s == lastub + 1)
7469                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
7470                                     "Misplaced _ in number");
7471                     lastub = s++;
7472                     break;
7473
7474                 /* 8 and 9 are not octal */
7475                 case '8': case '9':
7476                     if (shift == 3)
7477                         yyerror(Perl_form(aTHX_ "Illegal octal digit '%c'", *s));
7478                     /* FALL THROUGH */
7479
7480                 /* octal digits */
7481                 case '2': case '3': case '4':
7482                 case '5': case '6': case '7':
7483                     if (shift == 1)
7484                         yyerror(Perl_form(aTHX_ "Illegal binary digit '%c'", *s));
7485                     /* FALL THROUGH */
7486
7487                 case '0': case '1':
7488                     b = *s++ & 15;              /* ASCII digit -> value of digit */
7489                     goto digit;
7490
7491                 /* hex digits */
7492                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
7493                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
7494                     /* make sure they said 0x */
7495                     if (shift != 4)
7496                         goto out;
7497                     b = (*s++ & 7) + 9;
7498
7499                     /* Prepare to put the digit we have onto the end
7500                        of the number so far.  We check for overflows.
7501                     */
7502
7503                   digit:
7504                     just_zero = FALSE;
7505                     if (!overflowed) {
7506                         x = u << shift; /* make room for the digit */
7507
7508                         if ((x >> shift) != u
7509                             && !(PL_hints & HINT_NEW_BINARY)) {
7510                             overflowed = TRUE;
7511                             n = (NV) u;
7512                             if (ckWARN_d(WARN_OVERFLOW))
7513                                 Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
7514                                             "Integer overflow in %s number",
7515                                             base);
7516                         } else
7517                             u = x | b;          /* add the digit to the end */
7518                     }
7519                     if (overflowed) {
7520                         n *= nvshift[shift];
7521                         /* If an NV has not enough bits in its
7522                          * mantissa to represent an UV this summing of
7523                          * small low-order numbers is a waste of time
7524                          * (because the NV cannot preserve the
7525                          * low-order bits anyway): we could just
7526                          * remember when did we overflow and in the
7527                          * end just multiply n by the right
7528                          * amount. */
7529                         n += (NV) b;
7530                     }
7531                     break;
7532                 }
7533             }
7534
7535           /* if we get here, we had success: make a scalar value from
7536              the number.
7537           */
7538           out:
7539
7540             /* final misplaced underbar check */
7541             if (s[-1] == '_') {
7542                 if (ckWARN(WARN_SYNTAX))
7543                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
7544             }
7545
7546             sv = NEWSV(92,0);
7547             if (overflowed) {
7548                 if (ckWARN(WARN_PORTABLE) && n > 4294967295.0)
7549                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
7550                                 "%s number > %s non-portable",
7551                                 Base, max);
7552                 sv_setnv(sv, n);
7553             }
7554             else {
7555 #if UVSIZE > 4
7556                 if (ckWARN(WARN_PORTABLE) && u > 0xffffffff)
7557                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
7558                                 "%s number > %s non-portable",
7559                                 Base, max);
7560 #endif
7561                 sv_setuv(sv, u);
7562             }
7563             if (just_zero && (PL_hints & HINT_NEW_INTEGER))
7564                 sv = new_constant(start, s - start, "integer", 
7565                                   sv, Nullsv, NULL);
7566             else if (PL_hints & HINT_NEW_BINARY)
7567                 sv = new_constant(start, s - start, "binary", sv, Nullsv, NULL);
7568         }
7569         break;
7570
7571     /*
7572       handle decimal numbers.
7573       we're also sent here when we read a 0 as the first digit
7574     */
7575     case '1': case '2': case '3': case '4': case '5':
7576     case '6': case '7': case '8': case '9': case '.':
7577       decimal:
7578         d = PL_tokenbuf;
7579         e = PL_tokenbuf + sizeof PL_tokenbuf - 6; /* room for various punctuation */
7580         floatit = FALSE;
7581
7582         /* read next group of digits and _ and copy into d */
7583         while (isDIGIT(*s) || *s == '_') {
7584             /* skip underscores, checking for misplaced ones
7585                if -w is on
7586             */
7587             if (*s == '_') {
7588                 if (ckWARN(WARN_SYNTAX) && lastub && s == lastub + 1)
7589                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
7590                                 "Misplaced _ in number");
7591                 lastub = s++;
7592             }
7593             else {
7594                 /* check for end of fixed-length buffer */
7595                 if (d >= e)
7596                     Perl_croak(aTHX_ number_too_long);
7597                 /* if we're ok, copy the character */
7598                 *d++ = *s++;
7599             }
7600         }
7601
7602         /* final misplaced underbar check */
7603         if (lastub && s == lastub + 1) {
7604             if (ckWARN(WARN_SYNTAX))
7605                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
7606         }
7607
7608         /* read a decimal portion if there is one.  avoid
7609            3..5 being interpreted as the number 3. followed
7610            by .5
7611         */
7612         if (*s == '.' && s[1] != '.') {
7613             floatit = TRUE;
7614             *d++ = *s++;
7615
7616             if (*s == '_') {
7617                 if (ckWARN(WARN_SYNTAX))
7618                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
7619                                 "Misplaced _ in number");
7620                 lastub = s;
7621             }
7622
7623             /* copy, ignoring underbars, until we run out of digits.
7624             */
7625             for (; isDIGIT(*s) || *s == '_'; s++) {
7626                 /* fixed length buffer check */
7627                 if (d >= e)
7628                     Perl_croak(aTHX_ number_too_long);
7629                 if (*s == '_') {
7630                    if (ckWARN(WARN_SYNTAX) && lastub && s == lastub + 1)
7631                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
7632                                    "Misplaced _ in number");
7633                    lastub = s;
7634                 }
7635                 else
7636                     *d++ = *s;
7637             }
7638             /* fractional part ending in underbar? */
7639             if (s[-1] == '_') {
7640                 if (ckWARN(WARN_SYNTAX))
7641                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
7642                                 "Misplaced _ in number");
7643             }
7644             if (*s == '.' && isDIGIT(s[1])) {
7645                 /* oops, it's really a v-string, but without the "v" */
7646                 s = start;
7647                 goto vstring;
7648             }
7649         }
7650
7651         /* read exponent part, if present */
7652         if (*s && strchr("eE",*s) && strchr("+-0123456789_", s[1])) {
7653             floatit = TRUE;
7654             s++;
7655
7656             /* regardless of whether user said 3E5 or 3e5, use lower 'e' */
7657             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
7658
7659             /* stray preinitial _ */
7660             if (*s == '_') {
7661                 if (ckWARN(WARN_SYNTAX))
7662                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
7663                                 "Misplaced _ in number");
7664                 lastub = s++;
7665             }
7666
7667             /* allow positive or negative exponent */
7668             if (*s == '+' || *s == '-')
7669                 *d++ = *s++;
7670
7671             /* stray initial _ */
7672             if (*s == '_') {
7673                 if (ckWARN(WARN_SYNTAX))
7674                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
7675                                 "Misplaced _ in number");
7676                 lastub = s++;
7677             }
7678
7679             /* read digits of exponent */
7680             while (isDIGIT(*s) || *s == '_') {
7681                 if (isDIGIT(*s)) {
7682                     if (d >= e)
7683                         Perl_croak(aTHX_ number_too_long);
7684                     *d++ = *s++;
7685                 }
7686                 else {
7687                    if (ckWARN(WARN_SYNTAX) &&
7688                        ((lastub && s == lastub + 1) ||
7689                         (!isDIGIT(s[1]) && s[1] != '_')))
7690                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
7691                                    "Misplaced _ in number");
7692                    lastub = s++;
7693                 }
7694             }
7695         }
7696
7697
7698         /* make an sv from the string */
7699         sv = NEWSV(92,0);
7700
7701         /*
7702            We try to do an integer conversion first if no characters
7703            indicating "float" have been found.
7704          */
7705
7706         if (!floatit) {
7707             UV uv;
7708             int flags = grok_number (PL_tokenbuf, d - PL_tokenbuf, &uv);
7709
7710             if (flags == IS_NUMBER_IN_UV) {
7711               if (uv <= IV_MAX)
7712                 sv_setiv(sv, uv); /* Prefer IVs over UVs. */
7713               else
7714                 sv_setuv(sv, uv);
7715             } else if (flags == (IS_NUMBER_IN_UV | IS_NUMBER_NEG)) {
7716               if (uv <= (UV) IV_MIN)
7717                 sv_setiv(sv, -(IV)uv);
7718               else
7719                 floatit = TRUE;
7720             } else
7721               floatit = TRUE;
7722         }
7723         if (floatit) {
7724             /* terminate the string */
7725             *d = '\0';
7726             nv = Atof(PL_tokenbuf);
7727             sv_setnv(sv, nv);
7728         }
7729
7730         if ( floatit ? (PL_hints & HINT_NEW_FLOAT) :
7731                        (PL_hints & HINT_NEW_INTEGER) )
7732             sv = new_constant(PL_tokenbuf, d - PL_tokenbuf,
7733                               (floatit ? "float" : "integer"),
7734                               sv, Nullsv, NULL);
7735         break;
7736
7737     /* if it starts with a v, it could be a v-string */
7738     case 'v':
7739 vstring:
7740                 sv = NEWSV(92,5); /* preallocate storage space */
7741                 s = scan_vstring(s,sv);
7742         break;
7743     }
7744
7745     /* make the op for the constant and return */
7746
7747     if (sv)
7748         lvalp->opval = newSVOP(OP_CONST, 0, sv);
7749     else
7750         lvalp->opval = Nullop;
7751
7752     return s;
7753 }
7754
7755 STATIC char *
7756 S_scan_formline(pTHX_ register char *s)
7757 {
7758     register char *eol;
7759     register char *t;
7760     SV *stuff = newSVpvn("",0);
7761     bool needargs = FALSE;
7762     bool eofmt = FALSE;
7763
7764     while (!needargs) {
7765         if (*s == '.') {
7766             /*SUPPRESS 530*/
7767 #ifdef PERL_STRICT_CR
7768             for (t = s+1;SPACE_OR_TAB(*t); t++) ;
7769 #else
7770             for (t = s+1;SPACE_OR_TAB(*t) || *t == '\r'; t++) ;
7771 #endif
7772             if (*t == '\n' || t == PL_bufend) {
7773                 eofmt = TRUE;
7774                 break;
7775             }
7776         }
7777         if (PL_in_eval && !PL_rsfp) {
7778             eol = memchr(s,'\n',PL_bufend-s);
7779             if (!eol++)
7780                 eol = PL_bufend;
7781         }
7782         else
7783             eol = PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
7784         if (*s != '#') {
7785             for (t = s; t < eol; t++) {
7786                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
7787                     needargs = FALSE;
7788                     goto enough;        /* ~~ must be first line in formline */
7789                 }
7790                 if (*t == '@' || *t == '^')
7791                     needargs = TRUE;
7792             }
7793             if (eol > s) {
7794                 sv_catpvn(stuff, s, eol-s);
7795 #ifndef PERL_STRICT_CR
7796                 if (eol-s > 1 && eol[-2] == '\r' && eol[-1] == '\n') {
7797                     char *end = SvPVX(stuff) + SvCUR(stuff);
7798                     end[-2] = '\n';
7799                     end[-1] = '\0';
7800                     SvCUR(stuff)--;
7801                 }
7802 #endif
7803             }
7804             else
7805               break;
7806         }
7807         s = eol;
7808         if (PL_rsfp) {
7809             s = filter_gets(PL_linestr, PL_rsfp, 0);
7810             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
7811             PL_bufend = PL_bufptr + SvCUR(PL_linestr);
7812             PL_last_lop = PL_last_uni = Nullch;
7813             if (!s) {
7814                 s = PL_bufptr;
7815                 break;
7816             }
7817         }
7818         incline(s);
7819     }
7820   enough:
7821     if (SvCUR(stuff)) {
7822         PL_expect = XTERM;
7823         if (needargs) {
7824             PL_lex_state = LEX_NORMAL;
7825             PL_nextval[PL_nexttoke].ival = 0;
7826             force_next(',');
7827         }
7828         else
7829             PL_lex_state = LEX_FORMLINE;
7830         if (!IN_BYTES) {
7831             if (UTF && is_utf8_string((U8*)SvPVX(stuff), SvCUR(stuff)))
7832                 SvUTF8_on(stuff);
7833             else if (PL_encoding)
7834                 sv_recode_to_utf8(stuff, PL_encoding);
7835         }
7836         PL_nextval[PL_nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
7837         force_next(THING);
7838         PL_nextval[PL_nexttoke].ival = OP_FORMLINE;
7839         force_next(LSTOP);
7840     }
7841     else {
7842         SvREFCNT_dec(stuff);
7843         if (eofmt)
7844             PL_lex_formbrack = 0;
7845         PL_bufptr = s;
7846     }
7847     return s;
7848 }
7849
7850 STATIC void
7851 S_set_csh(pTHX)
7852 {
7853 #ifdef CSH
7854     if (!PL_cshlen)
7855         PL_cshlen = strlen(PL_cshname);
7856 #endif
7857 }
7858
7859 I32
7860 Perl_start_subparse(pTHX_ I32 is_format, U32 flags)
7861 {
7862     I32 oldsavestack_ix = PL_savestack_ix;
7863     CV* outsidecv = PL_compcv;
7864
7865     if (PL_compcv) {
7866         assert(SvTYPE(PL_compcv) == SVt_PVCV);
7867     }
7868     SAVEI32(PL_subline);
7869     save_item(PL_subname);
7870     SAVESPTR(PL_compcv);
7871
7872     PL_compcv = (CV*)NEWSV(1104,0);
7873     sv_upgrade((SV *)PL_compcv, is_format ? SVt_PVFM : SVt_PVCV);
7874     CvFLAGS(PL_compcv) |= flags;
7875
7876     PL_subline = CopLINE(PL_curcop);
7877     CvPADLIST(PL_compcv) = pad_new(padnew_SAVE|padnew_SAVESUB);
7878     CvOUTSIDE(PL_compcv) = (CV*)SvREFCNT_inc(outsidecv);
7879     CvOUTSIDE_SEQ(PL_compcv) = PL_cop_seqmax;
7880
7881     return oldsavestack_ix;
7882 }
7883
7884 #ifdef __SC__
7885 #pragma segment Perl_yylex
7886 #endif
7887 int
7888 Perl_yywarn(pTHX_ char *s)
7889 {
7890     PL_in_eval |= EVAL_WARNONLY;
7891     yyerror(s);
7892     PL_in_eval &= ~EVAL_WARNONLY;
7893     return 0;
7894 }
7895
7896 int
7897 Perl_yyerror(pTHX_ char *s)
7898 {
7899     char *where = NULL;
7900     char *context = NULL;
7901     int contlen = -1;
7902     SV *msg;
7903
7904     if (!yychar || (yychar == ';' && !PL_rsfp))
7905         where = "at EOF";
7906     else if (PL_bufptr > PL_oldoldbufptr && PL_bufptr - PL_oldoldbufptr < 200 &&
7907       PL_oldoldbufptr != PL_oldbufptr && PL_oldbufptr != PL_bufptr) {
7908         /*
7909                 Only for NetWare:
7910                 The code below is removed for NetWare because it abends/crashes on NetWare
7911                 when the script has error such as not having the closing quotes like:
7912                     if ($var eq "value)
7913                 Checking of white spaces is anyway done in NetWare code.
7914         */
7915 #ifndef NETWARE
7916         while (isSPACE(*PL_oldoldbufptr))
7917             PL_oldoldbufptr++;
7918 #endif
7919         context = PL_oldoldbufptr;
7920         contlen = PL_bufptr - PL_oldoldbufptr;
7921     }
7922     else if (PL_bufptr > PL_oldbufptr && PL_bufptr - PL_oldbufptr < 200 &&
7923       PL_oldbufptr != PL_bufptr) {
7924         /*
7925                 Only for NetWare:
7926                 The code below is removed for NetWare because it abends/crashes on NetWare
7927                 when the script has error such as not having the closing quotes like:
7928                     if ($var eq "value)
7929                 Checking of white spaces is anyway done in NetWare code.
7930         */
7931 #ifndef NETWARE
7932         while (isSPACE(*PL_oldbufptr))
7933             PL_oldbufptr++;
7934 #endif
7935         context = PL_oldbufptr;
7936         contlen = PL_bufptr - PL_oldbufptr;
7937     }
7938     else if (yychar > 255)
7939         where = "next token ???";
7940     else if (yychar == -2) { /* YYEMPTY */
7941         if (PL_lex_state == LEX_NORMAL ||
7942            (PL_lex_state == LEX_KNOWNEXT && PL_lex_defer == LEX_NORMAL))
7943             where = "at end of line";
7944         else if (PL_lex_inpat)
7945             where = "within pattern";
7946         else
7947             where = "within string";
7948     }
7949     else {
7950         SV *where_sv = sv_2mortal(newSVpvn("next char ", 10));
7951         if (yychar < 32)
7952             Perl_sv_catpvf(aTHX_ where_sv, "^%c", toCTRL(yychar));
7953         else if (isPRINT_LC(yychar))
7954             Perl_sv_catpvf(aTHX_ where_sv, "%c", yychar);
7955         else
7956             Perl_sv_catpvf(aTHX_ where_sv, "\\%03o", yychar & 255);
7957         where = SvPVX(where_sv);
7958     }
7959     msg = sv_2mortal(newSVpv(s, 0));
7960     Perl_sv_catpvf(aTHX_ msg, " at %s line %"IVdf", ",
7961         OutCopFILE(PL_curcop), (IV)CopLINE(PL_curcop));
7962     if (context)
7963         Perl_sv_catpvf(aTHX_ msg, "near \"%.*s\"\n", contlen, context);
7964     else
7965         Perl_sv_catpvf(aTHX_ msg, "%s\n", where);
7966     if (PL_multi_start < PL_multi_end && (U32)(CopLINE(PL_curcop) - PL_multi_end) <= 1) {
7967         Perl_sv_catpvf(aTHX_ msg,
7968         "  (Might be a runaway multi-line %c%c string starting on line %"IVdf")\n",
7969                 (int)PL_multi_open,(int)PL_multi_close,(IV)PL_multi_start);
7970         PL_multi_end = 0;
7971     }
7972     if (PL_in_eval & EVAL_WARNONLY && ckWARN_d(WARN_SYNTAX))
7973         Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "%"SVf, msg);
7974     else
7975         qerror(msg);
7976     if (PL_error_count >= 10) {
7977         if (PL_in_eval && SvCUR(ERRSV))
7978             Perl_croak(aTHX_ "%"SVf"%s has too many errors.\n",
7979             ERRSV, OutCopFILE(PL_curcop));
7980         else
7981             Perl_croak(aTHX_ "%s has too many errors.\n",
7982             OutCopFILE(PL_curcop));
7983     }
7984     PL_in_my = 0;
7985     PL_in_my_stash = Nullhv;
7986     return 0;
7987 }
7988 #ifdef __SC__
7989 #pragma segment Main
7990 #endif
7991
7992 STATIC char*
7993 S_swallow_bom(pTHX_ U8 *s)
7994 {
7995     STRLEN slen;
7996     slen = SvCUR(PL_linestr);
7997     switch (s[0]) {
7998     case 0xFF:
7999         if (s[1] == 0xFE) {
8000             /* UTF-16 little-endian? (or UTF32-LE?) */
8001             if (s[2] == 0 && s[3] == 0)  /* UTF-32 little-endian */
8002                 Perl_croak(aTHX_ "Unsupported script encoding UTF32-LE");
8003 #ifndef PERL_NO_UTF16_FILTER
8004             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF16-LE script encoding (BOM)\n");
8005             s += 2;
8006         utf16le:
8007             if (PL_bufend > (char*)s) {
8008                 U8 *news;
8009                 I32 newlen;
8010
8011                 filter_add(utf16rev_textfilter, NULL);
8012                 New(898, news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
8013                 utf16_to_utf8_reversed(s, news,
8014                                        PL_bufend - (char*)s - 1,
8015                                        &newlen);
8016                 sv_setpvn(PL_linestr, (const char*)news, newlen);
8017                 Safefree(news);
8018                 SvUTF8_on(PL_linestr);
8019                 s = (U8*)SvPVX(PL_linestr);
8020                 PL_bufend = SvPVX(PL_linestr) + newlen;
8021             }
8022 #else
8023             Perl_croak(aTHX_ "Unsupported script encoding UTF16-LE");
8024 #endif
8025         }
8026         break;
8027     case 0xFE:
8028         if (s[1] == 0xFF) {   /* UTF-16 big-endian? */
8029 #ifndef PERL_NO_UTF16_FILTER
8030             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (BOM)\n");
8031             s += 2;
8032         utf16be:
8033             if (PL_bufend > (char *)s) {
8034                 U8 *news;
8035                 I32 newlen;
8036
8037                 filter_add(utf16_textfilter, NULL);
8038                 New(898, news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
8039                 utf16_to_utf8(s, news,
8040                               PL_bufend - (char*)s,
8041                               &newlen);
8042                 sv_setpvn(PL_linestr, (const char*)news, newlen);
8043                 Safefree(news);
8044                 SvUTF8_on(PL_linestr);
8045                 s = (U8*)SvPVX(PL_linestr);
8046                 PL_bufend = SvPVX(PL_linestr) + newlen;
8047             }
8048 #else
8049             Perl_croak(aTHX_ "Unsupported script encoding UTF16-BE");
8050 #endif
8051         }
8052         break;
8053     case 0xEF:
8054         if (slen > 2 && s[1] == 0xBB && s[2] == 0xBF) {
8055             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-8 script encoding (BOM)\n");
8056             s += 3;                      /* UTF-8 */
8057         }
8058         break;
8059     case 0:
8060         if (slen > 3) {
8061              if (s[1] == 0) {
8062                   if (s[2] == 0xFE && s[3] == 0xFF) {
8063                        /* UTF-32 big-endian */
8064                        Perl_croak(aTHX_ "Unsupported script encoding UTF32-BE");
8065                   }
8066              }
8067              else if (s[2] == 0 && s[3] != 0) {
8068                   /* Leading bytes
8069                    * 00 xx 00 xx
8070                    * are a good indicator of UTF-16BE. */
8071                   if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (no BOM)\n");
8072                   goto utf16be;
8073              }
8074         }
8075     default:
8076          if (slen > 3 && s[1] == 0 && s[2] != 0 && s[3] == 0) {
8077                   /* Leading bytes
8078                    * xx 00 xx 00
8079                    * are a good indicator of UTF-16LE. */
8080               if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16LE script encoding (no BOM)\n");
8081               goto utf16le;
8082          }
8083     }
8084     return (char*)s;
8085 }
8086
8087 /*
8088  * restore_rsfp
8089  * Restore a source filter.
8090  */
8091
8092 static void
8093 restore_rsfp(pTHX_ void *f)
8094 {
8095     PerlIO *fp = (PerlIO*)f;
8096
8097     if (PL_rsfp == PerlIO_stdin())
8098         PerlIO_clearerr(PL_rsfp);
8099     else if (PL_rsfp && (PL_rsfp != fp))
8100         PerlIO_close(PL_rsfp);
8101     PL_rsfp = fp;
8102 }
8103
8104 #ifndef PERL_NO_UTF16_FILTER
8105 static I32
8106 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen)
8107 {
8108     STRLEN old = SvCUR(sv);
8109     I32 count = FILTER_READ(idx+1, sv, maxlen);
8110     DEBUG_P(PerlIO_printf(Perl_debug_log,
8111                           "utf16_textfilter(%p): %d %d (%d)\n",
8112                           utf16_textfilter, idx, maxlen, count));
8113     if (count) {
8114         U8* tmps;
8115         I32 newlen;
8116         New(898, tmps, SvCUR(sv) * 3 / 2 + 1, U8);
8117         Copy(SvPVX(sv), tmps, old, char);
8118         utf16_to_utf8((U8*)SvPVX(sv) + old, tmps + old,
8119                       SvCUR(sv) - old, &newlen);
8120         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
8121     }
8122     DEBUG_P({sv_dump(sv);});
8123     return SvCUR(sv);
8124 }
8125
8126 static I32
8127 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen)
8128 {
8129     STRLEN old = SvCUR(sv);
8130     I32 count = FILTER_READ(idx+1, sv, maxlen);
8131     DEBUG_P(PerlIO_printf(Perl_debug_log,
8132                           "utf16rev_textfilter(%p): %d %d (%d)\n",
8133                           utf16rev_textfilter, idx, maxlen, count));
8134     if (count) {
8135         U8* tmps;
8136         I32 newlen;
8137         New(898, tmps, SvCUR(sv) * 3 / 2 + 1, U8);
8138         Copy(SvPVX(sv), tmps, old, char);
8139         utf16_to_utf8((U8*)SvPVX(sv) + old, tmps + old,
8140                       SvCUR(sv) - old, &newlen);
8141         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
8142     }
8143     DEBUG_P({ sv_dump(sv); });
8144     return count;
8145 }
8146 #endif
8147
8148 /*
8149 Returns a pointer to the next character after the parsed
8150 vstring, as well as updating the passed in sv.
8151
8152 Function must be called like
8153
8154         sv = NEWSV(92,5);
8155         s = scan_vstring(s,sv);
8156
8157 The sv should already be large enough to store the vstring
8158 passed in, for performance reasons.
8159
8160 */
8161
8162 char *
8163 Perl_scan_vstring(pTHX_ char *s, SV *sv)
8164 {
8165     char *pos = s;
8166     char *start = s;
8167     if (*pos == 'v') pos++;  /* get past 'v' */
8168     while (pos < PL_bufend && (isDIGIT(*pos) || *pos == '_'))
8169         pos++;
8170     if ( *pos != '.') {
8171         /* this may not be a v-string if followed by => */
8172         char *next = pos;
8173         while (next < PL_bufend && isSPACE(*next))
8174             ++next;
8175         if ((PL_bufend - next) >= 2 && *next == '=' && next[1] == '>' ) {
8176             /* return string not v-string */
8177             sv_setpvn(sv,(char *)s,pos-s);
8178             return pos;
8179         }
8180     }
8181
8182     if (!isALPHA(*pos)) {
8183         UV rev;
8184         U8 tmpbuf[UTF8_MAXLEN+1];
8185         U8 *tmpend;
8186
8187         if (*s == 'v') s++;  /* get past 'v' */
8188
8189         sv_setpvn(sv, "", 0);
8190
8191         for (;;) {
8192             rev = 0;
8193             {
8194                 /* this is atoi() that tolerates underscores */
8195                 char *end = pos;
8196                 UV mult = 1;
8197                 while (--end >= s) {
8198                     UV orev;
8199                     if (*end == '_')
8200                         continue;
8201                     orev = rev;
8202                     rev += (*end - '0') * mult;
8203                     mult *= 10;
8204                     if (orev > rev && ckWARN_d(WARN_OVERFLOW))
8205                         Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
8206                                     "Integer overflow in decimal number");
8207                 }
8208             }
8209 #ifdef EBCDIC
8210             if (rev > 0x7FFFFFFF)
8211                  Perl_croak(aTHX_ "In EBCDIC the v-string components cannot exceed 2147483647");
8212 #endif
8213             /* Append native character for the rev point */
8214             tmpend = uvchr_to_utf8(tmpbuf, rev);
8215             sv_catpvn(sv, (const char*)tmpbuf, tmpend - tmpbuf);
8216             if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(rev)))
8217                  SvUTF8_on(sv);
8218             if (pos + 1 < PL_bufend && *pos == '.' && isDIGIT(pos[1]))
8219                  s = ++pos;
8220             else {
8221                  s = pos;
8222                  break;
8223             }
8224             while (pos < PL_bufend && (isDIGIT(*pos) || *pos == '_'))
8225                  pos++;
8226         }
8227         SvPOK_on(sv);
8228         sv_magic(sv,NULL,PERL_MAGIC_vstring,(const char*)start, pos-start);
8229         SvRMAGICAL_on(sv);
8230     }
8231     return s;
8232 }
8233