This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
eb785cc35e6d517f25608cc87269afce7761569b
[perl5.git] / toke.c
1 /*    toke.c
2  *
3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
4  *    2000, 2001, 2002, 2003, 2004, 2005, 2006, 2007, by Larry Wall and others
5  *
6  *    You may distribute under the terms of either the GNU General Public
7  *    License or the Artistic License, as specified in the README file.
8  *
9  */
10
11 /*
12  *   "It all comes from here, the stench and the peril."  --Frodo
13  */
14
15 /*
16  * This file is the lexer for Perl.  It's closely linked to the
17  * parser, perly.y.
18  *
19  * The main routine is yylex(), which returns the next token.
20  */
21
22 #include "EXTERN.h"
23 #define PERL_IN_TOKE_C
24 #include "perl.h"
25
26 #define new_constant(a,b,c,d,e,f,g)     \
27         S_new_constant(aTHX_ a,b,STR_WITH_LEN(c),d,e,f, g)
28
29 #define yylval  (PL_parser->yylval)
30
31 /* YYINITDEPTH -- initial size of the parser's stacks.  */
32 #define YYINITDEPTH 200
33
34 /* XXX temporary backwards compatibility */
35 #define PL_lex_brackets         (PL_parser->lex_brackets)
36 #define PL_lex_brackstack       (PL_parser->lex_brackstack)
37 #define PL_lex_casemods         (PL_parser->lex_casemods)
38 #define PL_lex_casestack        (PL_parser->lex_casestack)
39 #define PL_lex_defer            (PL_parser->lex_defer)
40 #define PL_lex_dojoin           (PL_parser->lex_dojoin)
41 #define PL_lex_expect           (PL_parser->lex_expect)
42 #define PL_lex_formbrack        (PL_parser->lex_formbrack)
43 #define PL_lex_inpat            (PL_parser->lex_inpat)
44 #define PL_lex_inwhat           (PL_parser->lex_inwhat)
45 #define PL_lex_op               (PL_parser->lex_op)
46 #define PL_lex_repl             (PL_parser->lex_repl)
47 #define PL_lex_starts           (PL_parser->lex_starts)
48 #define PL_lex_stuff            (PL_parser->lex_stuff)
49 #define PL_multi_start          (PL_parser->multi_start)
50 #define PL_multi_open           (PL_parser->multi_open)
51 #define PL_multi_close          (PL_parser->multi_close)
52 #define PL_pending_ident        (PL_parser->pending_ident)
53 #define PL_preambled            (PL_parser->preambled)
54 #define PL_sublex_info          (PL_parser->sublex_info)
55 #define PL_linestr              (PL_parser->linestr)
56 #define PL_expect               (PL_parser->expect)
57 #define PL_copline              (PL_parser->copline)
58 #define PL_bufptr               (PL_parser->bufptr)
59 #define PL_oldbufptr            (PL_parser->oldbufptr)
60 #define PL_oldoldbufptr         (PL_parser->oldoldbufptr)
61 #define PL_linestart            (PL_parser->linestart)
62 #define PL_bufend               (PL_parser->bufend)
63 #define PL_last_uni             (PL_parser->last_uni)
64 #define PL_last_lop             (PL_parser->last_lop)
65 #define PL_last_lop_op          (PL_parser->last_lop_op)
66 #define PL_lex_state            (PL_parser->lex_state)
67 #define PL_rsfp                 (PL_parser->rsfp)
68 #define PL_rsfp_filters         (PL_parser->rsfp_filters)
69 #define PL_in_my                (PL_parser->in_my)
70 #define PL_in_my_stash          (PL_parser->in_my_stash)
71 #define PL_tokenbuf             (PL_parser->tokenbuf)
72 #define PL_multi_end            (PL_parser->multi_end)
73 #define PL_error_count          (PL_parser->error_count)
74
75 #ifdef PERL_MAD
76 #  define PL_endwhite           (PL_parser->endwhite)
77 #  define PL_faketokens         (PL_parser->faketokens)
78 #  define PL_lasttoke           (PL_parser->lasttoke)
79 #  define PL_nextwhite          (PL_parser->nextwhite)
80 #  define PL_realtokenstart     (PL_parser->realtokenstart)
81 #  define PL_skipwhite          (PL_parser->skipwhite)
82 #  define PL_thisclose          (PL_parser->thisclose)
83 #  define PL_thismad            (PL_parser->thismad)
84 #  define PL_thisopen           (PL_parser->thisopen)
85 #  define PL_thisstuff          (PL_parser->thisstuff)
86 #  define PL_thistoken          (PL_parser->thistoken)
87 #  define PL_thiswhite          (PL_parser->thiswhite)
88 #  define PL_thiswhite          (PL_parser->thiswhite)
89 #  define PL_nexttoke           (PL_parser->nexttoke)
90 #  define PL_curforce           (PL_parser->curforce)
91 #else
92 #  define PL_nexttoke           (PL_parser->nexttoke)
93 #  define PL_nexttype           (PL_parser->nexttype)
94 #  define PL_nextval            (PL_parser->nextval)
95 #endif
96
97 static int
98 S_pending_ident(pTHX);
99
100 static const char ident_too_long[] = "Identifier too long";
101 static const char commaless_variable_list[] = "comma-less variable list";
102
103 #ifndef PERL_NO_UTF16_FILTER
104 static I32 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen);
105 static I32 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen);
106 #endif
107
108 #ifdef PERL_MAD
109 #  define CURMAD(slot,sv) if (PL_madskills) { curmad(slot,sv); sv = 0; }
110 #  define NEXTVAL_NEXTTOKE PL_nexttoke[PL_curforce].next_val
111 #else
112 #  define CURMAD(slot,sv)
113 #  define NEXTVAL_NEXTTOKE PL_nextval[PL_nexttoke]
114 #endif
115
116 #define XFAKEBRACK 128
117 #define XENUMMASK 127
118
119 #ifdef USE_UTF8_SCRIPTS
120 #   define UTF (!IN_BYTES)
121 #else
122 #   define UTF ((PL_linestr && DO_UTF8(PL_linestr)) || (PL_hints & HINT_UTF8))
123 #endif
124
125 /* In variables named $^X, these are the legal values for X.
126  * 1999-02-27 mjd-perl-patch@plover.com */
127 #define isCONTROLVAR(x) (isUPPER(x) || strchr("[\\]^_?", (x)))
128
129 /* On MacOS, respect nonbreaking spaces */
130 #ifdef MACOS_TRADITIONAL
131 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\312'||(c)=='\t')
132 #else
133 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\t')
134 #endif
135
136 /* LEX_* are values for PL_lex_state, the state of the lexer.
137  * They are arranged oddly so that the guard on the switch statement
138  * can get by with a single comparison (if the compiler is smart enough).
139  */
140
141 /* #define LEX_NOTPARSING               11 is done in perl.h. */
142
143 #define LEX_NORMAL              10 /* normal code (ie not within "...")     */
144 #define LEX_INTERPNORMAL         9 /* code within a string, eg "$foo[$x+1]" */
145 #define LEX_INTERPCASEMOD        8 /* expecting a \U, \Q or \E etc          */
146 #define LEX_INTERPPUSH           7 /* starting a new sublex parse level     */
147 #define LEX_INTERPSTART          6 /* expecting the start of a $var         */
148
149                                    /* at end of code, eg "$x" followed by:  */
150 #define LEX_INTERPEND            5 /* ... eg not one of [, { or ->          */
151 #define LEX_INTERPENDMAYBE       4 /* ... eg one of [, { or ->              */
152
153 #define LEX_INTERPCONCAT         3 /* expecting anything, eg at start of
154                                         string or after \E, $foo, etc       */
155 #define LEX_INTERPCONST          2 /* NOT USED */
156 #define LEX_FORMLINE             1 /* expecting a format line               */
157 #define LEX_KNOWNEXT             0 /* next token known; just return it      */
158
159
160 #ifdef DEBUGGING
161 static const char* const lex_state_names[] = {
162     "KNOWNEXT",
163     "FORMLINE",
164     "INTERPCONST",
165     "INTERPCONCAT",
166     "INTERPENDMAYBE",
167     "INTERPEND",
168     "INTERPSTART",
169     "INTERPPUSH",
170     "INTERPCASEMOD",
171     "INTERPNORMAL",
172     "NORMAL"
173 };
174 #endif
175
176 #ifdef ff_next
177 #undef ff_next
178 #endif
179
180 #include "keywords.h"
181
182 /* CLINE is a macro that ensures PL_copline has a sane value */
183
184 #ifdef CLINE
185 #undef CLINE
186 #endif
187 #define CLINE (PL_copline = (CopLINE(PL_curcop) < PL_copline ? CopLINE(PL_curcop) : PL_copline))
188
189 #ifdef PERL_MAD
190 #  define SKIPSPACE0(s) skipspace0(s)
191 #  define SKIPSPACE1(s) skipspace1(s)
192 #  define SKIPSPACE2(s,tsv) skipspace2(s,&tsv)
193 #  define PEEKSPACE(s) skipspace2(s,0)
194 #else
195 #  define SKIPSPACE0(s) skipspace(s)
196 #  define SKIPSPACE1(s) skipspace(s)
197 #  define SKIPSPACE2(s,tsv) skipspace(s)
198 #  define PEEKSPACE(s) skipspace(s)
199 #endif
200
201 /*
202  * Convenience functions to return different tokens and prime the
203  * lexer for the next token.  They all take an argument.
204  *
205  * TOKEN        : generic token (used for '(', DOLSHARP, etc)
206  * OPERATOR     : generic operator
207  * AOPERATOR    : assignment operator
208  * PREBLOCK     : beginning the block after an if, while, foreach, ...
209  * PRETERMBLOCK : beginning a non-code-defining {} block (eg, hash ref)
210  * PREREF       : *EXPR where EXPR is not a simple identifier
211  * TERM         : expression term
212  * LOOPX        : loop exiting command (goto, last, dump, etc)
213  * FTST         : file test operator
214  * FUN0         : zero-argument function
215  * FUN1         : not used, except for not, which isn't a UNIOP
216  * BOop         : bitwise or or xor
217  * BAop         : bitwise and
218  * SHop         : shift operator
219  * PWop         : power operator
220  * PMop         : pattern-matching operator
221  * Aop          : addition-level operator
222  * Mop          : multiplication-level operator
223  * Eop          : equality-testing operator
224  * Rop          : relational operator <= != gt
225  *
226  * Also see LOP and lop() below.
227  */
228
229 #ifdef DEBUGGING /* Serve -DT. */
230 #   define REPORT(retval) tokereport((I32)retval)
231 #else
232 #   define REPORT(retval) (retval)
233 #endif
234
235 #define TOKEN(retval) return ( PL_bufptr = s, REPORT(retval))
236 #define OPERATOR(retval) return (PL_expect = XTERM, PL_bufptr = s, REPORT(retval))
237 #define AOPERATOR(retval) return ao((PL_expect = XTERM, PL_bufptr = s, REPORT(retval)))
238 #define PREBLOCK(retval) return (PL_expect = XBLOCK,PL_bufptr = s, REPORT(retval))
239 #define PRETERMBLOCK(retval) return (PL_expect = XTERMBLOCK,PL_bufptr = s, REPORT(retval))
240 #define PREREF(retval) return (PL_expect = XREF,PL_bufptr = s, REPORT(retval))
241 #define TERM(retval) return (CLINE, PL_expect = XOPERATOR, PL_bufptr = s, REPORT(retval))
242 #define LOOPX(f) return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)LOOPEX))
243 #define FTST(f)  return (yylval.ival=f, PL_expect=XTERMORDORDOR, PL_bufptr=s, REPORT((int)UNIOP))
244 #define FUN0(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC0))
245 #define FUN1(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC1))
246 #define BOop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITOROP)))
247 #define BAop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITANDOP)))
248 #define SHop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)SHIFTOP)))
249 #define PWop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)POWOP)))
250 #define PMop(f)  return(yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MATCHOP))
251 #define Aop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)ADDOP)))
252 #define Mop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MULOP)))
253 #define Eop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)EQOP))
254 #define Rop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)RELOP))
255
256 /* This bit of chicanery makes a unary function followed by
257  * a parenthesis into a function with one argument, highest precedence.
258  * The UNIDOR macro is for unary functions that can be followed by the //
259  * operator (such as C<shift // 0>).
260  */
261 #define UNI2(f,x) { \
262         yylval.ival = f; \
263         PL_expect = x; \
264         PL_bufptr = s; \
265         PL_last_uni = PL_oldbufptr; \
266         PL_last_lop_op = f; \
267         if (*s == '(') \
268             return REPORT( (int)FUNC1 ); \
269         s = PEEKSPACE(s); \
270         return REPORT( *s=='(' ? (int)FUNC1 : (int)UNIOP ); \
271         }
272 #define UNI(f)    UNI2(f,XTERM)
273 #define UNIDOR(f) UNI2(f,XTERMORDORDOR)
274
275 #define UNIBRACK(f) { \
276         yylval.ival = f; \
277         PL_bufptr = s; \
278         PL_last_uni = PL_oldbufptr; \
279         if (*s == '(') \
280             return REPORT( (int)FUNC1 ); \
281         s = PEEKSPACE(s); \
282         return REPORT( (*s == '(') ? (int)FUNC1 : (int)UNIOP ); \
283         }
284
285 /* grandfather return to old style */
286 #define OLDLOP(f) return(yylval.ival=f,PL_expect = XTERM,PL_bufptr = s,(int)LSTOP)
287
288 #ifdef DEBUGGING
289
290 /* how to interpret the yylval associated with the token */
291 enum token_type {
292     TOKENTYPE_NONE,
293     TOKENTYPE_IVAL,
294     TOKENTYPE_OPNUM, /* yylval.ival contains an opcode number */
295     TOKENTYPE_PVAL,
296     TOKENTYPE_OPVAL,
297     TOKENTYPE_GVVAL
298 };
299
300 static struct debug_tokens {
301     const int token;
302     enum token_type type;
303     const char *name;
304 } const debug_tokens[] =
305 {
306     { ADDOP,            TOKENTYPE_OPNUM,        "ADDOP" },
307     { ANDAND,           TOKENTYPE_NONE,         "ANDAND" },
308     { ANDOP,            TOKENTYPE_NONE,         "ANDOP" },
309     { ANONSUB,          TOKENTYPE_IVAL,         "ANONSUB" },
310     { ARROW,            TOKENTYPE_NONE,         "ARROW" },
311     { ASSIGNOP,         TOKENTYPE_OPNUM,        "ASSIGNOP" },
312     { BITANDOP,         TOKENTYPE_OPNUM,        "BITANDOP" },
313     { BITOROP,          TOKENTYPE_OPNUM,        "BITOROP" },
314     { COLONATTR,        TOKENTYPE_NONE,         "COLONATTR" },
315     { CONTINUE,         TOKENTYPE_NONE,         "CONTINUE" },
316     { DEFAULT,          TOKENTYPE_NONE,         "DEFAULT" },
317     { DO,               TOKENTYPE_NONE,         "DO" },
318     { DOLSHARP,         TOKENTYPE_NONE,         "DOLSHARP" },
319     { DORDOR,           TOKENTYPE_NONE,         "DORDOR" },
320     { DOROP,            TOKENTYPE_OPNUM,        "DOROP" },
321     { DOTDOT,           TOKENTYPE_IVAL,         "DOTDOT" },
322     { ELSE,             TOKENTYPE_NONE,         "ELSE" },
323     { ELSIF,            TOKENTYPE_IVAL,         "ELSIF" },
324     { EQOP,             TOKENTYPE_OPNUM,        "EQOP" },
325     { FOR,              TOKENTYPE_IVAL,         "FOR" },
326     { FORMAT,           TOKENTYPE_NONE,         "FORMAT" },
327     { FUNC,             TOKENTYPE_OPNUM,        "FUNC" },
328     { FUNC0,            TOKENTYPE_OPNUM,        "FUNC0" },
329     { FUNC0SUB,         TOKENTYPE_OPVAL,        "FUNC0SUB" },
330     { FUNC1,            TOKENTYPE_OPNUM,        "FUNC1" },
331     { FUNCMETH,         TOKENTYPE_OPVAL,        "FUNCMETH" },
332     { GIVEN,            TOKENTYPE_IVAL,         "GIVEN" },
333     { HASHBRACK,        TOKENTYPE_NONE,         "HASHBRACK" },
334     { IF,               TOKENTYPE_IVAL,         "IF" },
335     { LABEL,            TOKENTYPE_PVAL,         "LABEL" },
336     { LOCAL,            TOKENTYPE_IVAL,         "LOCAL" },
337     { LOOPEX,           TOKENTYPE_OPNUM,        "LOOPEX" },
338     { LSTOP,            TOKENTYPE_OPNUM,        "LSTOP" },
339     { LSTOPSUB,         TOKENTYPE_OPVAL,        "LSTOPSUB" },
340     { MATCHOP,          TOKENTYPE_OPNUM,        "MATCHOP" },
341     { METHOD,           TOKENTYPE_OPVAL,        "METHOD" },
342     { MULOP,            TOKENTYPE_OPNUM,        "MULOP" },
343     { MY,               TOKENTYPE_IVAL,         "MY" },
344     { MYSUB,            TOKENTYPE_NONE,         "MYSUB" },
345     { NOAMP,            TOKENTYPE_NONE,         "NOAMP" },
346     { NOTOP,            TOKENTYPE_NONE,         "NOTOP" },
347     { OROP,             TOKENTYPE_IVAL,         "OROP" },
348     { OROR,             TOKENTYPE_NONE,         "OROR" },
349     { PACKAGE,          TOKENTYPE_NONE,         "PACKAGE" },
350     { PMFUNC,           TOKENTYPE_OPVAL,        "PMFUNC" },
351     { POSTDEC,          TOKENTYPE_NONE,         "POSTDEC" },
352     { POSTINC,          TOKENTYPE_NONE,         "POSTINC" },
353     { POWOP,            TOKENTYPE_OPNUM,        "POWOP" },
354     { PREDEC,           TOKENTYPE_NONE,         "PREDEC" },
355     { PREINC,           TOKENTYPE_NONE,         "PREINC" },
356     { PRIVATEREF,       TOKENTYPE_OPVAL,        "PRIVATEREF" },
357     { REFGEN,           TOKENTYPE_NONE,         "REFGEN" },
358     { RELOP,            TOKENTYPE_OPNUM,        "RELOP" },
359     { SHIFTOP,          TOKENTYPE_OPNUM,        "SHIFTOP" },
360     { SUB,              TOKENTYPE_NONE,         "SUB" },
361     { THING,            TOKENTYPE_OPVAL,        "THING" },
362     { UMINUS,           TOKENTYPE_NONE,         "UMINUS" },
363     { UNIOP,            TOKENTYPE_OPNUM,        "UNIOP" },
364     { UNIOPSUB,         TOKENTYPE_OPVAL,        "UNIOPSUB" },
365     { UNLESS,           TOKENTYPE_IVAL,         "UNLESS" },
366     { UNTIL,            TOKENTYPE_IVAL,         "UNTIL" },
367     { USE,              TOKENTYPE_IVAL,         "USE" },
368     { WHEN,             TOKENTYPE_IVAL,         "WHEN" },
369     { WHILE,            TOKENTYPE_IVAL,         "WHILE" },
370     { WORD,             TOKENTYPE_OPVAL,        "WORD" },
371     { 0,                TOKENTYPE_NONE,         NULL }
372 };
373
374 /* dump the returned token in rv, plus any optional arg in yylval */
375
376 STATIC int
377 S_tokereport(pTHX_ I32 rv)
378 {
379     dVAR;
380     if (DEBUG_T_TEST) {
381         const char *name = NULL;
382         enum token_type type = TOKENTYPE_NONE;
383         const struct debug_tokens *p;
384         SV* const report = newSVpvs("<== ");
385
386         for (p = debug_tokens; p->token; p++) {
387             if (p->token == (int)rv) {
388                 name = p->name;
389                 type = p->type;
390                 break;
391             }
392         }
393         if (name)
394             Perl_sv_catpv(aTHX_ report, name);
395         else if ((char)rv > ' ' && (char)rv < '~')
396             Perl_sv_catpvf(aTHX_ report, "'%c'", (char)rv);
397         else if (!rv)
398             sv_catpvs(report, "EOF");
399         else
400             Perl_sv_catpvf(aTHX_ report, "?? %"IVdf, (IV)rv);
401         switch (type) {
402         case TOKENTYPE_NONE:
403         case TOKENTYPE_GVVAL: /* doesn't appear to be used */
404             break;
405         case TOKENTYPE_IVAL:
406             Perl_sv_catpvf(aTHX_ report, "(ival=%"IVdf")", (IV)yylval.ival);
407             break;
408         case TOKENTYPE_OPNUM:
409             Perl_sv_catpvf(aTHX_ report, "(ival=op_%s)",
410                                     PL_op_name[yylval.ival]);
411             break;
412         case TOKENTYPE_PVAL:
413             Perl_sv_catpvf(aTHX_ report, "(pval=\"%s\")", yylval.pval);
414             break;
415         case TOKENTYPE_OPVAL:
416             if (yylval.opval) {
417                 Perl_sv_catpvf(aTHX_ report, "(opval=op_%s)",
418                                     PL_op_name[yylval.opval->op_type]);
419                 if (yylval.opval->op_type == OP_CONST) {
420                     Perl_sv_catpvf(aTHX_ report, " %s",
421                         SvPEEK(cSVOPx_sv(yylval.opval)));
422                 }
423
424             }
425             else
426                 sv_catpvs(report, "(opval=null)");
427             break;
428         }
429         PerlIO_printf(Perl_debug_log, "### %s\n\n", SvPV_nolen_const(report));
430     };
431     return (int)rv;
432 }
433
434
435 /* print the buffer with suitable escapes */
436
437 STATIC void
438 S_printbuf(pTHX_ const char* fmt, const char* s)
439 {
440     SV* const tmp = newSVpvs("");
441     PerlIO_printf(Perl_debug_log, fmt, pv_display(tmp, s, strlen(s), 0, 60));
442     SvREFCNT_dec(tmp);
443 }
444
445 #endif
446
447 /*
448  * S_ao
449  *
450  * This subroutine detects &&=, ||=, and //= and turns an ANDAND, OROR or DORDOR
451  * into an OP_ANDASSIGN, OP_ORASSIGN, or OP_DORASSIGN
452  */
453
454 STATIC int
455 S_ao(pTHX_ int toketype)
456 {
457     dVAR;
458     if (*PL_bufptr == '=') {
459         PL_bufptr++;
460         if (toketype == ANDAND)
461             yylval.ival = OP_ANDASSIGN;
462         else if (toketype == OROR)
463             yylval.ival = OP_ORASSIGN;
464         else if (toketype == DORDOR)
465             yylval.ival = OP_DORASSIGN;
466         toketype = ASSIGNOP;
467     }
468     return toketype;
469 }
470
471 /*
472  * S_no_op
473  * When Perl expects an operator and finds something else, no_op
474  * prints the warning.  It always prints "<something> found where
475  * operator expected.  It prints "Missing semicolon on previous line?"
476  * if the surprise occurs at the start of the line.  "do you need to
477  * predeclare ..." is printed out for code like "sub bar; foo bar $x"
478  * where the compiler doesn't know if foo is a method call or a function.
479  * It prints "Missing operator before end of line" if there's nothing
480  * after the missing operator, or "... before <...>" if there is something
481  * after the missing operator.
482  */
483
484 STATIC void
485 S_no_op(pTHX_ const char *what, char *s)
486 {
487     dVAR;
488     char * const oldbp = PL_bufptr;
489     const bool is_first = (PL_oldbufptr == PL_linestart);
490
491     if (!s)
492         s = oldbp;
493     else
494         PL_bufptr = s;
495     yywarn(Perl_form(aTHX_ "%s found where operator expected", what));
496     if (ckWARN_d(WARN_SYNTAX)) {
497         if (is_first)
498             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
499                     "\t(Missing semicolon on previous line?)\n");
500         else if (PL_oldoldbufptr && isIDFIRST_lazy_if(PL_oldoldbufptr,UTF)) {
501             const char *t;
502             for (t = PL_oldoldbufptr; (isALNUM_lazy_if(t,UTF) || *t == ':'); t++)
503                 NOOP;
504             if (t < PL_bufptr && isSPACE(*t))
505                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
506                         "\t(Do you need to predeclare %.*s?)\n",
507                     (int)(t - PL_oldoldbufptr), PL_oldoldbufptr);
508         }
509         else {
510             assert(s >= oldbp);
511             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
512                     "\t(Missing operator before %.*s?)\n", (int)(s - oldbp), oldbp);
513         }
514     }
515     PL_bufptr = oldbp;
516 }
517
518 /*
519  * S_missingterm
520  * Complain about missing quote/regexp/heredoc terminator.
521  * If it's called with NULL then it cauterizes the line buffer.
522  * If we're in a delimited string and the delimiter is a control
523  * character, it's reformatted into a two-char sequence like ^C.
524  * This is fatal.
525  */
526
527 STATIC void
528 S_missingterm(pTHX_ char *s)
529 {
530     dVAR;
531     char tmpbuf[3];
532     char q;
533     if (s) {
534         char * const nl = strrchr(s,'\n');
535         if (nl)
536             *nl = '\0';
537     }
538     else if (
539 #ifdef EBCDIC
540         iscntrl(PL_multi_close)
541 #else
542         PL_multi_close < 32 || PL_multi_close == 127
543 #endif
544         ) {
545         *tmpbuf = '^';
546         tmpbuf[1] = (char)toCTRL(PL_multi_close);
547         tmpbuf[2] = '\0';
548         s = tmpbuf;
549     }
550     else {
551         *tmpbuf = (char)PL_multi_close;
552         tmpbuf[1] = '\0';
553         s = tmpbuf;
554     }
555     q = strchr(s,'"') ? '\'' : '"';
556     Perl_croak(aTHX_ "Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
557 }
558
559 #define FEATURE_IS_ENABLED(name)                                        \
560         ((0 != (PL_hints & HINT_LOCALIZE_HH))                           \
561             && S_feature_is_enabled(aTHX_ STR_WITH_LEN(name)))
562 /* The longest string we pass in.  */
563 #define MAX_FEATURE_LEN (sizeof("switch")-1)
564
565 /*
566  * S_feature_is_enabled
567  * Check whether the named feature is enabled.
568  */
569 STATIC bool
570 S_feature_is_enabled(pTHX_ const char *name, STRLEN namelen)
571 {
572     dVAR;
573     HV * const hinthv = GvHV(PL_hintgv);
574     char he_name[8 + MAX_FEATURE_LEN] = "feature_";
575     assert(namelen <= MAX_FEATURE_LEN);
576     memcpy(&he_name[8], name, namelen);
577
578     return (hinthv && hv_exists(hinthv, he_name, 8 + namelen));
579 }
580
581 /*
582  * Perl_deprecate
583  */
584
585 void
586 Perl_deprecate(pTHX_ const char *s)
587 {
588     if (ckWARN(WARN_DEPRECATED))
589         Perl_warner(aTHX_ packWARN(WARN_DEPRECATED), "Use of %s is deprecated", s);
590 }
591
592 void
593 Perl_deprecate_old(pTHX_ const char *s)
594 {
595     /* This function should NOT be called for any new deprecated warnings */
596     /* Use Perl_deprecate instead                                         */
597     /*                                                                    */
598     /* It is here to maintain backward compatibility with the pre-5.8     */
599     /* warnings category hierarchy. The "deprecated" category used to     */
600     /* live under the "syntax" category. It is now a top-level category   */
601     /* in its own right.                                                  */
602
603     if (ckWARN2(WARN_DEPRECATED, WARN_SYNTAX))
604         Perl_warner(aTHX_ packWARN2(WARN_DEPRECATED, WARN_SYNTAX),
605                         "Use of %s is deprecated", s);
606 }
607
608 /*
609  * experimental text filters for win32 carriage-returns, utf16-to-utf8 and
610  * utf16-to-utf8-reversed.
611  */
612
613 #ifdef PERL_CR_FILTER
614 static void
615 strip_return(SV *sv)
616 {
617     register const char *s = SvPVX_const(sv);
618     register const char * const e = s + SvCUR(sv);
619     /* outer loop optimized to do nothing if there are no CR-LFs */
620     while (s < e) {
621         if (*s++ == '\r' && *s == '\n') {
622             /* hit a CR-LF, need to copy the rest */
623             register char *d = s - 1;
624             *d++ = *s++;
625             while (s < e) {
626                 if (*s == '\r' && s[1] == '\n')
627                     s++;
628                 *d++ = *s++;
629             }
630             SvCUR(sv) -= s - d;
631             return;
632         }
633     }
634 }
635
636 STATIC I32
637 S_cr_textfilter(pTHX_ int idx, SV *sv, int maxlen)
638 {
639     const I32 count = FILTER_READ(idx+1, sv, maxlen);
640     if (count > 0 && !maxlen)
641         strip_return(sv);
642     return count;
643 }
644 #endif
645
646
647
648 /*
649  * Perl_lex_start
650  *
651  * Create a parser object and initialise its parser and lexer fields
652  *
653  * rsfp       is the opened file handle to read from (if any),
654  *
655  * line       holds any initial content already read from the file (or in
656  *            the case of no file, such as an eval, the whole contents);
657  *
658  * new_filter indicates that this is a new file and it shouldn't inherit
659  *            the filters from the current parser (ie require).
660  */
661
662 void
663 Perl_lex_start(pTHX_ SV *line, PerlIO *rsfp, bool new_filter)
664 {
665     dVAR;
666     const char *s = NULL;
667     STRLEN len;
668     yy_parser *parser, *oparser;
669
670     /* create and initialise a parser */
671
672     Newxz(parser, 1, yy_parser);
673     parser->old_parser = oparser = PL_parser;
674     PL_parser = parser;
675
676     Newx(parser->stack, YYINITDEPTH, yy_stack_frame);
677     parser->ps = parser->stack;
678     parser->stack_size = YYINITDEPTH;
679
680     parser->stack->state = 0;
681     parser->yyerrstatus = 0;
682     parser->yychar = YYEMPTY;           /* Cause a token to be read.  */
683
684     /* on scope exit, free this parser and restore any outer one */
685     SAVEPARSER(parser);
686     parser->saved_curcop = PL_curcop;
687
688     /* initialise lexer state */
689
690 #ifdef PERL_MAD
691     parser->curforce = -1;
692 #else
693     parser->nexttoke = 0;
694 #endif
695     parser->copline = NOLINE;
696     parser->lex_state = LEX_NORMAL;
697     parser->expect = XSTATE;
698     parser->rsfp = rsfp;
699     parser->rsfp_filters = (new_filter || !oparser) ? newAV()
700                 : (AV*)SvREFCNT_inc(oparser->rsfp_filters);
701
702     Newx(parser->lex_brackstack, 120, char);
703     Newx(parser->lex_casestack, 12, char);
704     *parser->lex_casestack = '\0';
705
706     if (line) {
707         s = SvPV_const(line, len);
708     } else {
709         len = 0;
710     }
711
712     if (!len) {
713         parser->linestr = newSVpvs("\n;");
714     } else if (SvREADONLY(line) || s[len-1] != ';') {
715         parser->linestr = newSVsv(line);
716         if (s[len-1] != ';')
717             sv_catpvs(parser->linestr, "\n;");
718     } else {
719         SvTEMP_off(line);
720         SvREFCNT_inc_simple_void_NN(line);
721         parser->linestr = line;
722     }
723     parser->oldoldbufptr =
724         parser->oldbufptr =
725         parser->bufptr =
726         parser->linestart = SvPVX(parser->linestr);
727     parser->bufend = parser->bufptr + SvCUR(parser->linestr);
728     parser->last_lop = parser->last_uni = NULL;
729 }
730
731
732 /* delete a parser object */
733
734 void
735 Perl_parser_free(pTHX_  const yy_parser *parser)
736 {
737     PL_curcop = parser->saved_curcop;
738     SvREFCNT_dec(parser->linestr);
739
740     if (parser->rsfp == PerlIO_stdin())
741         PerlIO_clearerr(parser->rsfp);
742     else if (parser->rsfp && parser->old_parser
743                           && parser->rsfp != parser->old_parser->rsfp)
744         PerlIO_close(parser->rsfp);
745     SvREFCNT_dec(parser->rsfp_filters);
746
747     Safefree(parser->stack);
748     Safefree(parser->lex_brackstack);
749     Safefree(parser->lex_casestack);
750     PL_parser = parser->old_parser;
751     Safefree(parser);
752 }
753
754
755 /*
756  * Perl_lex_end
757  * Finalizer for lexing operations.  Must be called when the parser is
758  * done with the lexer.
759  */
760
761 void
762 Perl_lex_end(pTHX)
763 {
764     dVAR;
765     PL_doextract = FALSE;
766 }
767
768 /*
769  * S_incline
770  * This subroutine has nothing to do with tilting, whether at windmills
771  * or pinball tables.  Its name is short for "increment line".  It
772  * increments the current line number in CopLINE(PL_curcop) and checks
773  * to see whether the line starts with a comment of the form
774  *    # line 500 "foo.pm"
775  * If so, it sets the current line number and file to the values in the comment.
776  */
777
778 STATIC void
779 S_incline(pTHX_ const char *s)
780 {
781     dVAR;
782     const char *t;
783     const char *n;
784     const char *e;
785
786     CopLINE_inc(PL_curcop);
787     if (*s++ != '#')
788         return;
789     while (SPACE_OR_TAB(*s))
790         s++;
791     if (strnEQ(s, "line", 4))
792         s += 4;
793     else
794         return;
795     if (SPACE_OR_TAB(*s))
796         s++;
797     else
798         return;
799     while (SPACE_OR_TAB(*s))
800         s++;
801     if (!isDIGIT(*s))
802         return;
803
804     n = s;
805     while (isDIGIT(*s))
806         s++;
807     while (SPACE_OR_TAB(*s))
808         s++;
809     if (*s == '"' && (t = strchr(s+1, '"'))) {
810         s++;
811         e = t + 1;
812     }
813     else {
814         t = s;
815         while (!isSPACE(*t))
816             t++;
817         e = t;
818     }
819     while (SPACE_OR_TAB(*e) || *e == '\r' || *e == '\f')
820         e++;
821     if (*e != '\n' && *e != '\0')
822         return;         /* false alarm */
823
824     if (t - s > 0) {
825         const STRLEN len = t - s;
826 #ifndef USE_ITHREADS
827         const char * const cf = CopFILE(PL_curcop);
828         STRLEN tmplen = cf ? strlen(cf) : 0;
829         if (tmplen > 7 && strnEQ(cf, "(eval ", 6)) {
830             /* must copy *{"::_<(eval N)[oldfilename:L]"}
831              * to *{"::_<newfilename"} */
832             /* However, the long form of evals is only turned on by the
833                debugger - usually they're "(eval %lu)" */
834             char smallbuf[128];
835             char *tmpbuf;
836             GV **gvp;
837             STRLEN tmplen2 = len;
838             if (tmplen + 2 <= sizeof smallbuf)
839                 tmpbuf = smallbuf;
840             else
841                 Newx(tmpbuf, tmplen + 2, char);
842             tmpbuf[0] = '_';
843             tmpbuf[1] = '<';
844             memcpy(tmpbuf + 2, cf, tmplen);
845             tmplen += 2;
846             gvp = (GV**)hv_fetch(PL_defstash, tmpbuf, tmplen, FALSE);
847             if (gvp) {
848                 char *tmpbuf2;
849                 GV *gv2;
850
851                 if (tmplen2 + 2 <= sizeof smallbuf)
852                     tmpbuf2 = smallbuf;
853                 else
854                     Newx(tmpbuf2, tmplen2 + 2, char);
855
856                 if (tmpbuf2 != smallbuf || tmpbuf != smallbuf) {
857                     /* Either they malloc'd it, or we malloc'd it,
858                        so no prefix is present in ours.  */
859                     tmpbuf2[0] = '_';
860                     tmpbuf2[1] = '<';
861                 }
862
863                 memcpy(tmpbuf2 + 2, s, tmplen2);
864                 tmplen2 += 2;
865
866                 gv2 = *(GV**)hv_fetch(PL_defstash, tmpbuf2, tmplen2, TRUE);
867                 if (!isGV(gv2)) {
868                     gv_init(gv2, PL_defstash, tmpbuf2, tmplen2, FALSE);
869                     /* adjust ${"::_<newfilename"} to store the new file name */
870                     GvSV(gv2) = newSVpvn(tmpbuf2 + 2, tmplen2 - 2);
871                     GvHV(gv2) = (HV*)SvREFCNT_inc(GvHV(*gvp));
872                     GvAV(gv2) = (AV*)SvREFCNT_inc(GvAV(*gvp));
873                 }
874
875                 if (tmpbuf2 != smallbuf) Safefree(tmpbuf2);
876             }
877             if (tmpbuf != smallbuf) Safefree(tmpbuf);
878         }
879 #endif
880         CopFILE_free(PL_curcop);
881         CopFILE_setn(PL_curcop, s, len);
882     }
883     CopLINE_set(PL_curcop, atoi(n)-1);
884 }
885
886 #ifdef PERL_MAD
887 /* skip space before PL_thistoken */
888
889 STATIC char *
890 S_skipspace0(pTHX_ register char *s)
891 {
892     s = skipspace(s);
893     if (!PL_madskills)
894         return s;
895     if (PL_skipwhite) {
896         if (!PL_thiswhite)
897             PL_thiswhite = newSVpvs("");
898         sv_catsv(PL_thiswhite, PL_skipwhite);
899         sv_free(PL_skipwhite);
900         PL_skipwhite = 0;
901     }
902     PL_realtokenstart = s - SvPVX(PL_linestr);
903     return s;
904 }
905
906 /* skip space after PL_thistoken */
907
908 STATIC char *
909 S_skipspace1(pTHX_ register char *s)
910 {
911     const char *start = s;
912     I32 startoff = start - SvPVX(PL_linestr);
913
914     s = skipspace(s);
915     if (!PL_madskills)
916         return s;
917     start = SvPVX(PL_linestr) + startoff;
918     if (!PL_thistoken && PL_realtokenstart >= 0) {
919         const char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
920         PL_thistoken = newSVpvn(tstart, start - tstart);
921     }
922     PL_realtokenstart = -1;
923     if (PL_skipwhite) {
924         if (!PL_nextwhite)
925             PL_nextwhite = newSVpvs("");
926         sv_catsv(PL_nextwhite, PL_skipwhite);
927         sv_free(PL_skipwhite);
928         PL_skipwhite = 0;
929     }
930     return s;
931 }
932
933 STATIC char *
934 S_skipspace2(pTHX_ register char *s, SV **svp)
935 {
936     char *start;
937     const I32 bufptroff = PL_bufptr - SvPVX(PL_linestr);
938     const I32 startoff = s - SvPVX(PL_linestr);
939
940     s = skipspace(s);
941     PL_bufptr = SvPVX(PL_linestr) + bufptroff;
942     if (!PL_madskills || !svp)
943         return s;
944     start = SvPVX(PL_linestr) + startoff;
945     if (!PL_thistoken && PL_realtokenstart >= 0) {
946         char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
947         PL_thistoken = newSVpvn(tstart, start - tstart);
948         PL_realtokenstart = -1;
949     }
950     if (PL_skipwhite) {
951         if (!*svp)
952             *svp = newSVpvs("");
953         sv_setsv(*svp, PL_skipwhite);
954         sv_free(PL_skipwhite);
955         PL_skipwhite = 0;
956     }
957     
958     return s;
959 }
960 #endif
961
962 STATIC void
963 S_update_debugger_info(pTHX_ SV *orig_sv, const char *buf, STRLEN len)
964 {
965     AV *av = CopFILEAVx(PL_curcop);
966     if (av) {
967         SV * const sv = newSV_type(SVt_PVMG);
968         if (orig_sv)
969             sv_setsv(sv, orig_sv);
970         else
971             sv_setpvn(sv, buf, len);
972         (void)SvIOK_on(sv);
973         SvIV_set(sv, 0);
974         av_store(av, (I32)CopLINE(PL_curcop), sv);
975     }
976 }
977
978 /*
979  * S_skipspace
980  * Called to gobble the appropriate amount and type of whitespace.
981  * Skips comments as well.
982  */
983
984 STATIC char *
985 S_skipspace(pTHX_ register char *s)
986 {
987     dVAR;
988 #ifdef PERL_MAD
989     int curoff;
990     int startoff = s - SvPVX(PL_linestr);
991
992     if (PL_skipwhite) {
993         sv_free(PL_skipwhite);
994         PL_skipwhite = 0;
995     }
996 #endif
997
998     if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
999         while (s < PL_bufend && SPACE_OR_TAB(*s))
1000             s++;
1001 #ifdef PERL_MAD
1002         goto done;
1003 #else
1004         return s;
1005 #endif
1006     }
1007     for (;;) {
1008         STRLEN prevlen;
1009         SSize_t oldprevlen, oldoldprevlen;
1010         SSize_t oldloplen = 0, oldunilen = 0;
1011         while (s < PL_bufend && isSPACE(*s)) {
1012             if (*s++ == '\n' && PL_in_eval && !PL_rsfp)
1013                 incline(s);
1014         }
1015
1016         /* comment */
1017         if (s < PL_bufend && *s == '#') {
1018             while (s < PL_bufend && *s != '\n')
1019                 s++;
1020             if (s < PL_bufend) {
1021                 s++;
1022                 if (PL_in_eval && !PL_rsfp) {
1023                     incline(s);
1024                     continue;
1025                 }
1026             }
1027         }
1028
1029         /* only continue to recharge the buffer if we're at the end
1030          * of the buffer, we're not reading from a source filter, and
1031          * we're in normal lexing mode
1032          */
1033         if (s < PL_bufend || !PL_rsfp || PL_sublex_info.sub_inwhat ||
1034                 PL_lex_state == LEX_FORMLINE)
1035 #ifdef PERL_MAD
1036             goto done;
1037 #else
1038             return s;
1039 #endif
1040
1041         /* try to recharge the buffer */
1042 #ifdef PERL_MAD
1043         curoff = s - SvPVX(PL_linestr);
1044 #endif
1045
1046         if ((s = filter_gets(PL_linestr, PL_rsfp,
1047                              (prevlen = SvCUR(PL_linestr)))) == NULL)
1048         {
1049 #ifdef PERL_MAD
1050             if (PL_madskills && curoff != startoff) {
1051                 if (!PL_skipwhite)
1052                     PL_skipwhite = newSVpvs("");
1053                 sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
1054                                         curoff - startoff);
1055             }
1056
1057             /* mustn't throw out old stuff yet if madpropping */
1058             SvCUR(PL_linestr) = curoff;
1059             s = SvPVX(PL_linestr) + curoff;
1060             *s = 0;
1061             if (curoff && s[-1] == '\n')
1062                 s[-1] = ' ';
1063 #endif
1064
1065             /* end of file.  Add on the -p or -n magic */
1066             /* XXX these shouldn't really be added here, can't set PL_faketokens */
1067             if (PL_minus_p) {
1068 #ifdef PERL_MAD
1069                 sv_catpvs(PL_linestr,
1070                          ";}continue{print or die qq(-p destination: $!\\n);}");
1071 #else
1072                 sv_setpvs(PL_linestr,
1073                          ";}continue{print or die qq(-p destination: $!\\n);}");
1074 #endif
1075                 PL_minus_n = PL_minus_p = 0;
1076             }
1077             else if (PL_minus_n) {
1078 #ifdef PERL_MAD
1079                 sv_catpvn(PL_linestr, ";}", 2);
1080 #else
1081                 sv_setpvn(PL_linestr, ";}", 2);
1082 #endif
1083                 PL_minus_n = 0;
1084             }
1085             else
1086 #ifdef PERL_MAD
1087                 sv_catpvn(PL_linestr,";", 1);
1088 #else
1089                 sv_setpvn(PL_linestr,";", 1);
1090 #endif
1091
1092             /* reset variables for next time we lex */
1093             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart
1094                 = SvPVX(PL_linestr)
1095 #ifdef PERL_MAD
1096                 + curoff
1097 #endif
1098                 ;
1099             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
1100             PL_last_lop = PL_last_uni = NULL;
1101
1102             /* Close the filehandle.  Could be from -P preprocessor,
1103              * STDIN, or a regular file.  If we were reading code from
1104              * STDIN (because the commandline held no -e or filename)
1105              * then we don't close it, we reset it so the code can
1106              * read from STDIN too.
1107              */
1108
1109             if (PL_preprocess && !PL_in_eval)
1110                 (void)PerlProc_pclose(PL_rsfp);
1111             else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
1112                 PerlIO_clearerr(PL_rsfp);
1113             else
1114                 (void)PerlIO_close(PL_rsfp);
1115             PL_rsfp = NULL;
1116             return s;
1117         }
1118
1119         /* not at end of file, so we only read another line */
1120         /* make corresponding updates to old pointers, for yyerror() */
1121         oldprevlen = PL_oldbufptr - PL_bufend;
1122         oldoldprevlen = PL_oldoldbufptr - PL_bufend;
1123         if (PL_last_uni)
1124             oldunilen = PL_last_uni - PL_bufend;
1125         if (PL_last_lop)
1126             oldloplen = PL_last_lop - PL_bufend;
1127         PL_linestart = PL_bufptr = s + prevlen;
1128         PL_bufend = s + SvCUR(PL_linestr);
1129         s = PL_bufptr;
1130         PL_oldbufptr = s + oldprevlen;
1131         PL_oldoldbufptr = s + oldoldprevlen;
1132         if (PL_last_uni)
1133             PL_last_uni = s + oldunilen;
1134         if (PL_last_lop)
1135             PL_last_lop = s + oldloplen;
1136         incline(s);
1137
1138         /* debugger active and we're not compiling the debugger code,
1139          * so store the line into the debugger's array of lines
1140          */
1141         if (PERLDB_LINE && PL_curstash != PL_debstash)
1142             update_debugger_info(NULL, PL_bufptr, PL_bufend - PL_bufptr);
1143     }
1144
1145 #ifdef PERL_MAD
1146   done:
1147     if (PL_madskills) {
1148         if (!PL_skipwhite)
1149             PL_skipwhite = newSVpvs("");
1150         curoff = s - SvPVX(PL_linestr);
1151         if (curoff - startoff)
1152             sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
1153                                 curoff - startoff);
1154     }
1155     return s;
1156 #endif
1157 }
1158
1159 /*
1160  * S_check_uni
1161  * Check the unary operators to ensure there's no ambiguity in how they're
1162  * used.  An ambiguous piece of code would be:
1163  *     rand + 5
1164  * This doesn't mean rand() + 5.  Because rand() is a unary operator,
1165  * the +5 is its argument.
1166  */
1167
1168 STATIC void
1169 S_check_uni(pTHX)
1170 {
1171     dVAR;
1172     const char *s;
1173     const char *t;
1174
1175     if (PL_oldoldbufptr != PL_last_uni)
1176         return;
1177     while (isSPACE(*PL_last_uni))
1178         PL_last_uni++;
1179     s = PL_last_uni;
1180     while (isALNUM_lazy_if(s,UTF) || *s == '-')
1181         s++;
1182     if ((t = strchr(s, '(')) && t < PL_bufptr)
1183         return;
1184
1185     if (ckWARN_d(WARN_AMBIGUOUS)){
1186         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
1187                    "Warning: Use of \"%.*s\" without parentheses is ambiguous",
1188                    (int)(s - PL_last_uni), PL_last_uni);
1189     }
1190 }
1191
1192 /*
1193  * LOP : macro to build a list operator.  Its behaviour has been replaced
1194  * with a subroutine, S_lop() for which LOP is just another name.
1195  */
1196
1197 #define LOP(f,x) return lop(f,x,s)
1198
1199 /*
1200  * S_lop
1201  * Build a list operator (or something that might be one).  The rules:
1202  *  - if we have a next token, then it's a list operator [why?]
1203  *  - if the next thing is an opening paren, then it's a function
1204  *  - else it's a list operator
1205  */
1206
1207 STATIC I32
1208 S_lop(pTHX_ I32 f, int x, char *s)
1209 {
1210     dVAR;
1211     yylval.ival = f;
1212     CLINE;
1213     PL_expect = x;
1214     PL_bufptr = s;
1215     PL_last_lop = PL_oldbufptr;
1216     PL_last_lop_op = (OPCODE)f;
1217 #ifdef PERL_MAD
1218     if (PL_lasttoke)
1219         return REPORT(LSTOP);
1220 #else
1221     if (PL_nexttoke)
1222         return REPORT(LSTOP);
1223 #endif
1224     if (*s == '(')
1225         return REPORT(FUNC);
1226     s = PEEKSPACE(s);
1227     if (*s == '(')
1228         return REPORT(FUNC);
1229     else
1230         return REPORT(LSTOP);
1231 }
1232
1233 #ifdef PERL_MAD
1234  /*
1235  * S_start_force
1236  * Sets up for an eventual force_next().  start_force(0) basically does
1237  * an unshift, while start_force(-1) does a push.  yylex removes items
1238  * on the "pop" end.
1239  */
1240
1241 STATIC void
1242 S_start_force(pTHX_ int where)
1243 {
1244     int i;
1245
1246     if (where < 0)      /* so people can duplicate start_force(PL_curforce) */
1247         where = PL_lasttoke;
1248     assert(PL_curforce < 0 || PL_curforce == where);
1249     if (PL_curforce != where) {
1250         for (i = PL_lasttoke; i > where; --i) {
1251             PL_nexttoke[i] = PL_nexttoke[i-1];
1252         }
1253         PL_lasttoke++;
1254     }
1255     if (PL_curforce < 0)        /* in case of duplicate start_force() */
1256         Zero(&PL_nexttoke[where], 1, NEXTTOKE);
1257     PL_curforce = where;
1258     if (PL_nextwhite) {
1259         if (PL_madskills)
1260             curmad('^', newSVpvs(""));
1261         CURMAD('_', PL_nextwhite);
1262     }
1263 }
1264
1265 STATIC void
1266 S_curmad(pTHX_ char slot, SV *sv)
1267 {
1268     MADPROP **where;
1269
1270     if (!sv)
1271         return;
1272     if (PL_curforce < 0)
1273         where = &PL_thismad;
1274     else
1275         where = &PL_nexttoke[PL_curforce].next_mad;
1276
1277     if (PL_faketokens)
1278         sv_setpvn(sv, "", 0);
1279     else {
1280         if (!IN_BYTES) {
1281             if (UTF && is_utf8_string((U8*)SvPVX(sv), SvCUR(sv)))
1282                 SvUTF8_on(sv);
1283             else if (PL_encoding) {
1284                 sv_recode_to_utf8(sv, PL_encoding);
1285             }
1286         }
1287     }
1288
1289     /* keep a slot open for the head of the list? */
1290     if (slot != '_' && *where && (*where)->mad_key == '^') {
1291         (*where)->mad_key = slot;
1292         sv_free((SV*)((*where)->mad_val));
1293         (*where)->mad_val = (void*)sv;
1294     }
1295     else
1296         addmad(newMADsv(slot, sv), where, 0);
1297 }
1298 #else
1299 #  define start_force(where)    NOOP
1300 #  define curmad(slot, sv)      NOOP
1301 #endif
1302
1303 /*
1304  * S_force_next
1305  * When the lexer realizes it knows the next token (for instance,
1306  * it is reordering tokens for the parser) then it can call S_force_next
1307  * to know what token to return the next time the lexer is called.  Caller
1308  * will need to set PL_nextval[] (or PL_nexttoke[].next_val with PERL_MAD),
1309  * and possibly PL_expect to ensure the lexer handles the token correctly.
1310  */
1311
1312 STATIC void
1313 S_force_next(pTHX_ I32 type)
1314 {
1315     dVAR;
1316 #ifdef PERL_MAD
1317     if (PL_curforce < 0)
1318         start_force(PL_lasttoke);
1319     PL_nexttoke[PL_curforce].next_type = type;
1320     if (PL_lex_state != LEX_KNOWNEXT)
1321         PL_lex_defer = PL_lex_state;
1322     PL_lex_state = LEX_KNOWNEXT;
1323     PL_lex_expect = PL_expect;
1324     PL_curforce = -1;
1325 #else
1326     PL_nexttype[PL_nexttoke] = type;
1327     PL_nexttoke++;
1328     if (PL_lex_state != LEX_KNOWNEXT) {
1329         PL_lex_defer = PL_lex_state;
1330         PL_lex_expect = PL_expect;
1331         PL_lex_state = LEX_KNOWNEXT;
1332     }
1333 #endif
1334 }
1335
1336 STATIC SV *
1337 S_newSV_maybe_utf8(pTHX_ const char *start, STRLEN len)
1338 {
1339     dVAR;
1340     SV * const sv = newSVpvn(start,len);
1341     if (UTF && !IN_BYTES && is_utf8_string((const U8*)start, len))
1342         SvUTF8_on(sv);
1343     return sv;
1344 }
1345
1346 /*
1347  * S_force_word
1348  * When the lexer knows the next thing is a word (for instance, it has
1349  * just seen -> and it knows that the next char is a word char, then
1350  * it calls S_force_word to stick the next word into the PL_nexttoke/val
1351  * lookahead.
1352  *
1353  * Arguments:
1354  *   char *start : buffer position (must be within PL_linestr)
1355  *   int token   : PL_next* will be this type of bare word (e.g., METHOD,WORD)
1356  *   int check_keyword : if true, Perl checks to make sure the word isn't
1357  *       a keyword (do this if the word is a label, e.g. goto FOO)
1358  *   int allow_pack : if true, : characters will also be allowed (require,
1359  *       use, etc. do this)
1360  *   int allow_initial_tick : used by the "sub" lexer only.
1361  */
1362
1363 STATIC char *
1364 S_force_word(pTHX_ register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
1365 {
1366     dVAR;
1367     register char *s;
1368     STRLEN len;
1369
1370     start = SKIPSPACE1(start);
1371     s = start;
1372     if (isIDFIRST_lazy_if(s,UTF) ||
1373         (allow_pack && *s == ':') ||
1374         (allow_initial_tick && *s == '\'') )
1375     {
1376         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, allow_pack, &len);
1377         if (check_keyword && keyword(PL_tokenbuf, len, 0))
1378             return start;
1379         start_force(PL_curforce);
1380         if (PL_madskills)
1381             curmad('X', newSVpvn(start,s-start));
1382         if (token == METHOD) {
1383             s = SKIPSPACE1(s);
1384             if (*s == '(')
1385                 PL_expect = XTERM;
1386             else {
1387                 PL_expect = XOPERATOR;
1388             }
1389         }
1390         if (PL_madskills)
1391             curmad('g', newSVpvs( "forced" ));
1392         NEXTVAL_NEXTTOKE.opval
1393             = (OP*)newSVOP(OP_CONST,0,
1394                            S_newSV_maybe_utf8(aTHX_ PL_tokenbuf, len));
1395         NEXTVAL_NEXTTOKE.opval->op_private |= OPpCONST_BARE;
1396         force_next(token);
1397     }
1398     return s;
1399 }
1400
1401 /*
1402  * S_force_ident
1403  * Called when the lexer wants $foo *foo &foo etc, but the program
1404  * text only contains the "foo" portion.  The first argument is a pointer
1405  * to the "foo", and the second argument is the type symbol to prefix.
1406  * Forces the next token to be a "WORD".
1407  * Creates the symbol if it didn't already exist (via gv_fetchpv()).
1408  */
1409
1410 STATIC void
1411 S_force_ident(pTHX_ register const char *s, int kind)
1412 {
1413     dVAR;
1414     if (*s) {
1415         const STRLEN len = strlen(s);
1416         OP* const o = (OP*)newSVOP(OP_CONST, 0, newSVpvn(s, len));
1417         start_force(PL_curforce);
1418         NEXTVAL_NEXTTOKE.opval = o;
1419         force_next(WORD);
1420         if (kind) {
1421             o->op_private = OPpCONST_ENTERED;
1422             /* XXX see note in pp_entereval() for why we forgo typo
1423                warnings if the symbol must be introduced in an eval.
1424                GSAR 96-10-12 */
1425             gv_fetchpvn_flags(s, len,
1426                               PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL)
1427                               : GV_ADD,
1428                               kind == '$' ? SVt_PV :
1429                               kind == '@' ? SVt_PVAV :
1430                               kind == '%' ? SVt_PVHV :
1431                               SVt_PVGV
1432                               );
1433         }
1434     }
1435 }
1436
1437 NV
1438 Perl_str_to_version(pTHX_ SV *sv)
1439 {
1440     NV retval = 0.0;
1441     NV nshift = 1.0;
1442     STRLEN len;
1443     const char *start = SvPV_const(sv,len);
1444     const char * const end = start + len;
1445     const bool utf = SvUTF8(sv) ? TRUE : FALSE;
1446     while (start < end) {
1447         STRLEN skip;
1448         UV n;
1449         if (utf)
1450             n = utf8n_to_uvchr((U8*)start, len, &skip, 0);
1451         else {
1452             n = *(U8*)start;
1453             skip = 1;
1454         }
1455         retval += ((NV)n)/nshift;
1456         start += skip;
1457         nshift *= 1000;
1458     }
1459     return retval;
1460 }
1461
1462 /*
1463  * S_force_version
1464  * Forces the next token to be a version number.
1465  * If the next token appears to be an invalid version number, (e.g. "v2b"),
1466  * and if "guessing" is TRUE, then no new token is created (and the caller
1467  * must use an alternative parsing method).
1468  */
1469
1470 STATIC char *
1471 S_force_version(pTHX_ char *s, int guessing)
1472 {
1473     dVAR;
1474     OP *version = NULL;
1475     char *d;
1476 #ifdef PERL_MAD
1477     I32 startoff = s - SvPVX(PL_linestr);
1478 #endif
1479
1480     s = SKIPSPACE1(s);
1481
1482     d = s;
1483     if (*d == 'v')
1484         d++;
1485     if (isDIGIT(*d)) {
1486         while (isDIGIT(*d) || *d == '_' || *d == '.')
1487             d++;
1488 #ifdef PERL_MAD
1489         if (PL_madskills) {
1490             start_force(PL_curforce);
1491             curmad('X', newSVpvn(s,d-s));
1492         }
1493 #endif
1494         if (*d == ';' || isSPACE(*d) || *d == '}' || !*d) {
1495             SV *ver;
1496             s = scan_num(s, &yylval);
1497             version = yylval.opval;
1498             ver = cSVOPx(version)->op_sv;
1499             if (SvPOK(ver) && !SvNIOK(ver)) {
1500                 SvUPGRADE(ver, SVt_PVNV);
1501                 SvNV_set(ver, str_to_version(ver));
1502                 SvNOK_on(ver);          /* hint that it is a version */
1503             }
1504         }
1505         else if (guessing) {
1506 #ifdef PERL_MAD
1507             if (PL_madskills) {
1508                 sv_free(PL_nextwhite);  /* let next token collect whitespace */
1509                 PL_nextwhite = 0;
1510                 s = SvPVX(PL_linestr) + startoff;
1511             }
1512 #endif
1513             return s;
1514         }
1515     }
1516
1517 #ifdef PERL_MAD
1518     if (PL_madskills && !version) {
1519         sv_free(PL_nextwhite);  /* let next token collect whitespace */
1520         PL_nextwhite = 0;
1521         s = SvPVX(PL_linestr) + startoff;
1522     }
1523 #endif
1524     /* NOTE: The parser sees the package name and the VERSION swapped */
1525     start_force(PL_curforce);
1526     NEXTVAL_NEXTTOKE.opval = version;
1527     force_next(WORD);
1528
1529     return s;
1530 }
1531
1532 /*
1533  * S_tokeq
1534  * Tokenize a quoted string passed in as an SV.  It finds the next
1535  * chunk, up to end of string or a backslash.  It may make a new
1536  * SV containing that chunk (if HINT_NEW_STRING is on).  It also
1537  * turns \\ into \.
1538  */
1539
1540 STATIC SV *
1541 S_tokeq(pTHX_ SV *sv)
1542 {
1543     dVAR;
1544     register char *s;
1545     register char *send;
1546     register char *d;
1547     STRLEN len = 0;
1548     SV *pv = sv;
1549
1550     if (!SvLEN(sv))
1551         goto finish;
1552
1553     s = SvPV_force(sv, len);
1554     if (SvTYPE(sv) >= SVt_PVIV && SvIVX(sv) == -1)
1555         goto finish;
1556     send = s + len;
1557     while (s < send && *s != '\\')
1558         s++;
1559     if (s == send)
1560         goto finish;
1561     d = s;
1562     if ( PL_hints & HINT_NEW_STRING ) {
1563         pv = sv_2mortal(newSVpvn(SvPVX_const(pv), len));
1564         if (SvUTF8(sv))
1565             SvUTF8_on(pv);
1566     }
1567     while (s < send) {
1568         if (*s == '\\') {
1569             if (s + 1 < send && (s[1] == '\\'))
1570                 s++;            /* all that, just for this */
1571         }
1572         *d++ = *s++;
1573     }
1574     *d = '\0';
1575     SvCUR_set(sv, d - SvPVX_const(sv));
1576   finish:
1577     if ( PL_hints & HINT_NEW_STRING )
1578        return new_constant(NULL, 0, "q", sv, pv, "q", 1);
1579     return sv;
1580 }
1581
1582 /*
1583  * Now come three functions related to double-quote context,
1584  * S_sublex_start, S_sublex_push, and S_sublex_done.  They're used when
1585  * converting things like "\u\Lgnat" into ucfirst(lc("gnat")).  They
1586  * interact with PL_lex_state, and create fake ( ... ) argument lists
1587  * to handle functions and concatenation.
1588  * They assume that whoever calls them will be setting up a fake
1589  * join call, because each subthing puts a ',' after it.  This lets
1590  *   "lower \luPpEr"
1591  * become
1592  *  join($, , 'lower ', lcfirst( 'uPpEr', ) ,)
1593  *
1594  * (I'm not sure whether the spurious commas at the end of lcfirst's
1595  * arguments and join's arguments are created or not).
1596  */
1597
1598 /*
1599  * S_sublex_start
1600  * Assumes that yylval.ival is the op we're creating (e.g. OP_LCFIRST).
1601  *
1602  * Pattern matching will set PL_lex_op to the pattern-matching op to
1603  * make (we return THING if yylval.ival is OP_NULL, PMFUNC otherwise).
1604  *
1605  * OP_CONST and OP_READLINE are easy--just make the new op and return.
1606  *
1607  * Everything else becomes a FUNC.
1608  *
1609  * Sets PL_lex_state to LEX_INTERPPUSH unless (ival was OP_NULL or we
1610  * had an OP_CONST or OP_READLINE).  This just sets us up for a
1611  * call to S_sublex_push().
1612  */
1613
1614 STATIC I32
1615 S_sublex_start(pTHX)
1616 {
1617     dVAR;
1618     register const I32 op_type = yylval.ival;
1619
1620     if (op_type == OP_NULL) {
1621         yylval.opval = PL_lex_op;
1622         PL_lex_op = NULL;
1623         return THING;
1624     }
1625     if (op_type == OP_CONST || op_type == OP_READLINE) {
1626         SV *sv = tokeq(PL_lex_stuff);
1627
1628         if (SvTYPE(sv) == SVt_PVIV) {
1629             /* Overloaded constants, nothing fancy: Convert to SVt_PV: */
1630             STRLEN len;
1631             const char * const p = SvPV_const(sv, len);
1632             SV * const nsv = newSVpvn(p, len);
1633             if (SvUTF8(sv))
1634                 SvUTF8_on(nsv);
1635             SvREFCNT_dec(sv);
1636             sv = nsv;
1637         }
1638         yylval.opval = (OP*)newSVOP(op_type, 0, sv);
1639         PL_lex_stuff = NULL;
1640         /* Allow <FH> // "foo" */
1641         if (op_type == OP_READLINE)
1642             PL_expect = XTERMORDORDOR;
1643         return THING;
1644     }
1645     else if (op_type == OP_BACKTICK && PL_lex_op) {
1646         /* readpipe() vas overriden */
1647         cSVOPx(cLISTOPx(cUNOPx(PL_lex_op)->op_first)->op_first->op_sibling)->op_sv = tokeq(PL_lex_stuff);
1648         yylval.opval = PL_lex_op;
1649         PL_lex_op = NULL;
1650         PL_lex_stuff = NULL;
1651         return THING;
1652     }
1653
1654     PL_sublex_info.super_state = PL_lex_state;
1655     PL_sublex_info.sub_inwhat = (U16)op_type;
1656     PL_sublex_info.sub_op = PL_lex_op;
1657     PL_lex_state = LEX_INTERPPUSH;
1658
1659     PL_expect = XTERM;
1660     if (PL_lex_op) {
1661         yylval.opval = PL_lex_op;
1662         PL_lex_op = NULL;
1663         return PMFUNC;
1664     }
1665     else
1666         return FUNC;
1667 }
1668
1669 /*
1670  * S_sublex_push
1671  * Create a new scope to save the lexing state.  The scope will be
1672  * ended in S_sublex_done.  Returns a '(', starting the function arguments
1673  * to the uc, lc, etc. found before.
1674  * Sets PL_lex_state to LEX_INTERPCONCAT.
1675  */
1676
1677 STATIC I32
1678 S_sublex_push(pTHX)
1679 {
1680     dVAR;
1681     ENTER;
1682
1683     PL_lex_state = PL_sublex_info.super_state;
1684     SAVEBOOL(PL_lex_dojoin);
1685     SAVEI32(PL_lex_brackets);
1686     SAVEI32(PL_lex_casemods);
1687     SAVEI32(PL_lex_starts);
1688     SAVEI8(PL_lex_state);
1689     SAVEVPTR(PL_lex_inpat);
1690     SAVEI16(PL_lex_inwhat);
1691     SAVECOPLINE(PL_curcop);
1692     SAVEPPTR(PL_bufptr);
1693     SAVEPPTR(PL_bufend);
1694     SAVEPPTR(PL_oldbufptr);
1695     SAVEPPTR(PL_oldoldbufptr);
1696     SAVEPPTR(PL_last_lop);
1697     SAVEPPTR(PL_last_uni);
1698     SAVEPPTR(PL_linestart);
1699     SAVESPTR(PL_linestr);
1700     SAVEGENERICPV(PL_lex_brackstack);
1701     SAVEGENERICPV(PL_lex_casestack);
1702
1703     PL_linestr = PL_lex_stuff;
1704     PL_lex_stuff = NULL;
1705
1706     PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart
1707         = SvPVX(PL_linestr);
1708     PL_bufend += SvCUR(PL_linestr);
1709     PL_last_lop = PL_last_uni = NULL;
1710     SAVEFREESV(PL_linestr);
1711
1712     PL_lex_dojoin = FALSE;
1713     PL_lex_brackets = 0;
1714     Newx(PL_lex_brackstack, 120, char);
1715     Newx(PL_lex_casestack, 12, char);
1716     PL_lex_casemods = 0;
1717     *PL_lex_casestack = '\0';
1718     PL_lex_starts = 0;
1719     PL_lex_state = LEX_INTERPCONCAT;
1720     CopLINE_set(PL_curcop, (line_t)PL_multi_start);
1721
1722     PL_lex_inwhat = PL_sublex_info.sub_inwhat;
1723     if (PL_lex_inwhat == OP_MATCH || PL_lex_inwhat == OP_QR || PL_lex_inwhat == OP_SUBST)
1724         PL_lex_inpat = PL_sublex_info.sub_op;
1725     else
1726         PL_lex_inpat = NULL;
1727
1728     return '(';
1729 }
1730
1731 /*
1732  * S_sublex_done
1733  * Restores lexer state after a S_sublex_push.
1734  */
1735
1736 STATIC I32
1737 S_sublex_done(pTHX)
1738 {
1739     dVAR;
1740     if (!PL_lex_starts++) {
1741         SV * const sv = newSVpvs("");
1742         if (SvUTF8(PL_linestr))
1743             SvUTF8_on(sv);
1744         PL_expect = XOPERATOR;
1745         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1746         return THING;
1747     }
1748
1749     if (PL_lex_casemods) {              /* oops, we've got some unbalanced parens */
1750         PL_lex_state = LEX_INTERPCASEMOD;
1751         return yylex();
1752     }
1753
1754     /* Is there a right-hand side to take care of? (s//RHS/ or tr//RHS/) */
1755     if (PL_lex_repl && (PL_lex_inwhat == OP_SUBST || PL_lex_inwhat == OP_TRANS)) {
1756         PL_linestr = PL_lex_repl;
1757         PL_lex_inpat = 0;
1758         PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart = SvPVX(PL_linestr);
1759         PL_bufend += SvCUR(PL_linestr);
1760         PL_last_lop = PL_last_uni = NULL;
1761         SAVEFREESV(PL_linestr);
1762         PL_lex_dojoin = FALSE;
1763         PL_lex_brackets = 0;
1764         PL_lex_casemods = 0;
1765         *PL_lex_casestack = '\0';
1766         PL_lex_starts = 0;
1767         if (SvEVALED(PL_lex_repl)) {
1768             PL_lex_state = LEX_INTERPNORMAL;
1769             PL_lex_starts++;
1770             /*  we don't clear PL_lex_repl here, so that we can check later
1771                 whether this is an evalled subst; that means we rely on the
1772                 logic to ensure sublex_done() is called again only via the
1773                 branch (in yylex()) that clears PL_lex_repl, else we'll loop */
1774         }
1775         else {
1776             PL_lex_state = LEX_INTERPCONCAT;
1777             PL_lex_repl = NULL;
1778         }
1779         return ',';
1780     }
1781     else {
1782 #ifdef PERL_MAD
1783         if (PL_madskills) {
1784             if (PL_thiswhite) {
1785                 if (!PL_endwhite)
1786                     PL_endwhite = newSVpvs("");
1787                 sv_catsv(PL_endwhite, PL_thiswhite);
1788                 PL_thiswhite = 0;
1789             }
1790             if (PL_thistoken)
1791                 sv_setpvn(PL_thistoken,"",0);
1792             else
1793                 PL_realtokenstart = -1;
1794         }
1795 #endif
1796         LEAVE;
1797         PL_bufend = SvPVX(PL_linestr);
1798         PL_bufend += SvCUR(PL_linestr);
1799         PL_expect = XOPERATOR;
1800         PL_sublex_info.sub_inwhat = 0;
1801         return ')';
1802     }
1803 }
1804
1805 /*
1806   scan_const
1807
1808   Extracts a pattern, double-quoted string, or transliteration.  This
1809   is terrifying code.
1810
1811   It looks at PL_lex_inwhat and PL_lex_inpat to find out whether it's
1812   processing a pattern (PL_lex_inpat is true), a transliteration
1813   (PL_lex_inwhat == OP_TRANS is true), or a double-quoted string.
1814
1815   Returns a pointer to the character scanned up to. If this is
1816   advanced from the start pointer supplied (i.e. if anything was
1817   successfully parsed), will leave an OP for the substring scanned
1818   in yylval. Caller must intuit reason for not parsing further
1819   by looking at the next characters herself.
1820
1821   In patterns:
1822     backslashes:
1823       double-quoted style: \r and \n
1824       regexp special ones: \D \s
1825       constants: \x31
1826       backrefs: \1
1827       case and quoting: \U \Q \E
1828     stops on @ and $, but not for $ as tail anchor
1829
1830   In transliterations:
1831     characters are VERY literal, except for - not at the start or end
1832     of the string, which indicates a range. If the range is in bytes,
1833     scan_const expands the range to the full set of intermediate
1834     characters. If the range is in utf8, the hyphen is replaced with
1835     a certain range mark which will be handled by pmtrans() in op.c.
1836
1837   In double-quoted strings:
1838     backslashes:
1839       double-quoted style: \r and \n
1840       constants: \x31
1841       deprecated backrefs: \1 (in substitution replacements)
1842       case and quoting: \U \Q \E
1843     stops on @ and $
1844
1845   scan_const does *not* construct ops to handle interpolated strings.
1846   It stops processing as soon as it finds an embedded $ or @ variable
1847   and leaves it to the caller to work out what's going on.
1848
1849   embedded arrays (whether in pattern or not) could be:
1850       @foo, @::foo, @'foo, @{foo}, @$foo, @+, @-.
1851
1852   $ in double-quoted strings must be the symbol of an embedded scalar.
1853
1854   $ in pattern could be $foo or could be tail anchor.  Assumption:
1855   it's a tail anchor if $ is the last thing in the string, or if it's
1856   followed by one of "()| \r\n\t"
1857
1858   \1 (backreferences) are turned into $1
1859
1860   The structure of the code is
1861       while (there's a character to process) {
1862           handle transliteration ranges
1863           skip regexp comments /(?#comment)/ and codes /(?{code})/
1864           skip #-initiated comments in //x patterns
1865           check for embedded arrays
1866           check for embedded scalars
1867           if (backslash) {
1868               leave intact backslashes from leaveit (below)
1869               deprecate \1 in substitution replacements
1870               handle string-changing backslashes \l \U \Q \E, etc.
1871               switch (what was escaped) {
1872                   handle \- in a transliteration (becomes a literal -)
1873                   handle \132 (octal characters)
1874                   handle \x15 and \x{1234} (hex characters)
1875                   handle \N{name} (named characters)
1876                   handle \cV (control characters)
1877                   handle printf-style backslashes (\f, \r, \n, etc)
1878               } (end switch)
1879           } (end if backslash)
1880     } (end while character to read)
1881                 
1882 */
1883
1884 STATIC char *
1885 S_scan_const(pTHX_ char *start)
1886 {
1887     dVAR;
1888     register char *send = PL_bufend;            /* end of the constant */
1889     SV *sv = newSV(send - start);               /* sv for the constant */
1890     register char *s = start;                   /* start of the constant */
1891     register char *d = SvPVX(sv);               /* destination for copies */
1892     bool dorange = FALSE;                       /* are we in a translit range? */
1893     bool didrange = FALSE;                      /* did we just finish a range? */
1894     I32  has_utf8 = FALSE;                      /* Output constant is UTF8 */
1895     I32  this_utf8 = UTF;                       /* The source string is assumed to be UTF8 */
1896     UV uv;
1897 #ifdef EBCDIC
1898     UV literal_endpoint = 0;
1899     bool native_range = TRUE; /* turned to FALSE if the first endpoint is Unicode. */
1900 #endif
1901
1902     if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
1903         /* If we are doing a trans and we know we want UTF8 set expectation */
1904         has_utf8   = PL_sublex_info.sub_op->op_private & (OPpTRANS_FROM_UTF|OPpTRANS_TO_UTF);
1905         this_utf8  = PL_sublex_info.sub_op->op_private & (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
1906     }
1907
1908
1909     while (s < send || dorange) {
1910         /* get transliterations out of the way (they're most literal) */
1911         if (PL_lex_inwhat == OP_TRANS) {
1912             /* expand a range A-Z to the full set of characters.  AIE! */
1913             if (dorange) {
1914                 I32 i;                          /* current expanded character */
1915                 I32 min;                        /* first character in range */
1916                 I32 max;                        /* last character in range */
1917
1918 #ifdef EBCDIC
1919                 UV uvmax = 0;
1920 #endif
1921
1922                 if (has_utf8
1923 #ifdef EBCDIC
1924                     && !native_range
1925 #endif
1926                     ) {
1927                     char * const c = (char*)utf8_hop((U8*)d, -1);
1928                     char *e = d++;
1929                     while (e-- > c)
1930                         *(e + 1) = *e;
1931                     *c = (char)UTF_TO_NATIVE(0xff);
1932                     /* mark the range as done, and continue */
1933                     dorange = FALSE;
1934                     didrange = TRUE;
1935                     continue;
1936                 }
1937
1938                 i = d - SvPVX_const(sv);                /* remember current offset */
1939 #ifdef EBCDIC
1940                 SvGROW(sv,
1941                        SvLEN(sv) + (has_utf8 ?
1942                                     (512 - UTF_CONTINUATION_MARK +
1943                                      UNISKIP(0x100))
1944                                     : 256));
1945                 /* How many two-byte within 0..255: 128 in UTF-8,
1946                  * 96 in UTF-8-mod. */
1947 #else
1948                 SvGROW(sv, SvLEN(sv) + 256);    /* never more than 256 chars in a range */
1949 #endif
1950                 d = SvPVX(sv) + i;              /* refresh d after realloc */
1951 #ifdef EBCDIC
1952                 if (has_utf8) {
1953                     int j;
1954                     for (j = 0; j <= 1; j++) {
1955                         char * const c = (char*)utf8_hop((U8*)d, -1);
1956                         const UV uv    = utf8n_to_uvchr((U8*)c, d - c, NULL, 0);
1957                         if (j)
1958                             min = (U8)uv;
1959                         else if (uv < 256)
1960                             max = (U8)uv;
1961                         else {
1962                             max = (U8)0xff; /* only to \xff */
1963                             uvmax = uv; /* \x{100} to uvmax */
1964                         }
1965                         d = c; /* eat endpoint chars */
1966                      }
1967                 }
1968                else {
1969 #endif
1970                    d -= 2;              /* eat the first char and the - */
1971                    min = (U8)*d;        /* first char in range */
1972                    max = (U8)d[1];      /* last char in range  */
1973 #ifdef EBCDIC
1974                }
1975 #endif
1976
1977                 if (min > max) {
1978                     Perl_croak(aTHX_
1979                                "Invalid range \"%c-%c\" in transliteration operator",
1980                                (char)min, (char)max);
1981                 }
1982
1983 #ifdef EBCDIC
1984                 if (literal_endpoint == 2 &&
1985                     ((isLOWER(min) && isLOWER(max)) ||
1986                      (isUPPER(min) && isUPPER(max)))) {
1987                     if (isLOWER(min)) {
1988                         for (i = min; i <= max; i++)
1989                             if (isLOWER(i))
1990                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1991                     } else {
1992                         for (i = min; i <= max; i++)
1993                             if (isUPPER(i))
1994                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1995                     }
1996                 }
1997                 else
1998 #endif
1999                     for (i = min; i <= max; i++)
2000 #ifdef EBCDIC
2001                         if (has_utf8) {
2002                             const U8 ch = (U8)NATIVE_TO_UTF(i);
2003                             if (UNI_IS_INVARIANT(ch))
2004                                 *d++ = (U8)i;
2005                             else {
2006                                 *d++ = (U8)UTF8_EIGHT_BIT_HI(ch);
2007                                 *d++ = (U8)UTF8_EIGHT_BIT_LO(ch);
2008                             }
2009                         }
2010                         else
2011 #endif
2012                             *d++ = (char)i;
2013  
2014 #ifdef EBCDIC
2015                 if (uvmax) {
2016                     d = (char*)uvchr_to_utf8((U8*)d, 0x100);
2017                     if (uvmax > 0x101)
2018                         *d++ = (char)UTF_TO_NATIVE(0xff);
2019                     if (uvmax > 0x100)
2020                         d = (char*)uvchr_to_utf8((U8*)d, uvmax);
2021                 }
2022 #endif
2023
2024                 /* mark the range as done, and continue */
2025                 dorange = FALSE;
2026                 didrange = TRUE;
2027 #ifdef EBCDIC
2028                 literal_endpoint = 0;
2029 #endif
2030                 continue;
2031             }
2032
2033             /* range begins (ignore - as first or last char) */
2034             else if (*s == '-' && s+1 < send  && s != start) {
2035                 if (didrange) {
2036                     Perl_croak(aTHX_ "Ambiguous range in transliteration operator");
2037                 }
2038                 if (has_utf8
2039 #ifdef EBCDIC
2040                     && !native_range
2041 #endif
2042                     ) {
2043                     *d++ = (char)UTF_TO_NATIVE(0xff);   /* use illegal utf8 byte--see pmtrans */
2044                     s++;
2045                     continue;
2046                 }
2047                 dorange = TRUE;
2048                 s++;
2049             }
2050             else {
2051                 didrange = FALSE;
2052 #ifdef EBCDIC
2053                 literal_endpoint = 0;
2054                 native_range = TRUE;
2055 #endif
2056             }
2057         }
2058
2059         /* if we get here, we're not doing a transliteration */
2060
2061         /* skip for regexp comments /(?#comment)/ and code /(?{code})/,
2062            except for the last char, which will be done separately. */
2063         else if (*s == '(' && PL_lex_inpat && s[1] == '?') {
2064             if (s[2] == '#') {
2065                 while (s+1 < send && *s != ')')
2066                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2067             }
2068             else if (s[2] == '{' /* This should match regcomp.c */
2069                     || (s[2] == '?' && s[3] == '{'))
2070             {
2071                 I32 count = 1;
2072                 char *regparse = s + (s[2] == '{' ? 3 : 4);
2073                 char c;
2074
2075                 while (count && (c = *regparse)) {
2076                     if (c == '\\' && regparse[1])
2077                         regparse++;
2078                     else if (c == '{')
2079                         count++;
2080                     else if (c == '}')
2081                         count--;
2082                     regparse++;
2083                 }
2084                 if (*regparse != ')')
2085                     regparse--;         /* Leave one char for continuation. */
2086                 while (s < regparse)
2087                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2088             }
2089         }
2090
2091         /* likewise skip #-initiated comments in //x patterns */
2092         else if (*s == '#' && PL_lex_inpat &&
2093           ((PMOP*)PL_lex_inpat)->op_pmflags & PMf_EXTENDED) {
2094             while (s+1 < send && *s != '\n')
2095                 *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2096         }
2097
2098         /* check for embedded arrays
2099            (@foo, @::foo, @'foo, @{foo}, @$foo, @+, @-)
2100            */
2101         else if (*s == '@' && s[1]) {
2102             if (isALNUM_lazy_if(s+1,UTF))
2103                 break;
2104             if (strchr(":'{$", s[1]))
2105                 break;
2106             if (!PL_lex_inpat && (s[1] == '+' || s[1] == '-'))
2107                 break; /* in regexp, neither @+ nor @- are interpolated */
2108         }
2109
2110         /* check for embedded scalars.  only stop if we're sure it's a
2111            variable.
2112         */
2113         else if (*s == '$') {
2114             if (!PL_lex_inpat)  /* not a regexp, so $ must be var */
2115                 break;
2116             if (s + 1 < send && !strchr("()| \r\n\t", s[1]))
2117                 break;          /* in regexp, $ might be tail anchor */
2118         }
2119
2120         /* End of else if chain - OP_TRANS rejoin rest */
2121
2122         /* backslashes */
2123         if (*s == '\\' && s+1 < send) {
2124             s++;
2125
2126             /* deprecate \1 in strings and substitution replacements */
2127             if (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat &&
2128                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
2129             {
2130                 if (ckWARN(WARN_SYNTAX))
2131                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "\\%c better written as $%c", *s, *s);
2132                 *--s = '$';
2133                 break;
2134             }
2135
2136             /* string-change backslash escapes */
2137             if (PL_lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
2138                 --s;
2139                 break;
2140             }
2141             /* skip any other backslash escapes in a pattern */
2142             else if (PL_lex_inpat) {
2143                 *d++ = NATIVE_TO_NEED(has_utf8,'\\');
2144                 goto default_action;
2145             }
2146
2147             /* if we get here, it's either a quoted -, or a digit */
2148             switch (*s) {
2149
2150             /* quoted - in transliterations */
2151             case '-':
2152                 if (PL_lex_inwhat == OP_TRANS) {
2153                     *d++ = *s++;
2154                     continue;
2155                 }
2156                 /* FALL THROUGH */
2157             default:
2158                 {
2159                     if ((isALPHA(*s) || isDIGIT(*s)) &&
2160                         ckWARN(WARN_MISC))
2161                         Perl_warner(aTHX_ packWARN(WARN_MISC),
2162                                     "Unrecognized escape \\%c passed through",
2163                                     *s);
2164                     /* default action is to copy the quoted character */
2165                     goto default_action;
2166                 }
2167
2168             /* \132 indicates an octal constant */
2169             case '0': case '1': case '2': case '3':
2170             case '4': case '5': case '6': case '7':
2171                 {
2172                     I32 flags = 0;
2173                     STRLEN len = 3;
2174                     uv = grok_oct(s, &len, &flags, NULL);
2175                     s += len;
2176                 }
2177                 goto NUM_ESCAPE_INSERT;
2178
2179             /* \x24 indicates a hex constant */
2180             case 'x':
2181                 ++s;
2182                 if (*s == '{') {
2183                     char* const e = strchr(s, '}');
2184                     I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2185                       PERL_SCAN_DISALLOW_PREFIX;
2186                     STRLEN len;
2187
2188                     ++s;
2189                     if (!e) {
2190                         yyerror("Missing right brace on \\x{}");
2191                         continue;
2192                     }
2193                     len = e - s;
2194                     uv = grok_hex(s, &len, &flags, NULL);
2195                     s = e + 1;
2196                 }
2197                 else {
2198                     {
2199                         STRLEN len = 2;
2200                         I32 flags = PERL_SCAN_DISALLOW_PREFIX;
2201                         uv = grok_hex(s, &len, &flags, NULL);
2202                         s += len;
2203                     }
2204                 }
2205
2206               NUM_ESCAPE_INSERT:
2207                 /* Insert oct or hex escaped character.
2208                  * There will always enough room in sv since such
2209                  * escapes will be longer than any UTF-8 sequence
2210                  * they can end up as. */
2211                 
2212                 /* We need to map to chars to ASCII before doing the tests
2213                    to cover EBCDIC
2214                 */
2215                 if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(uv))) {
2216                     if (!has_utf8 && uv > 255) {
2217                         /* Might need to recode whatever we have
2218                          * accumulated so far if it contains any
2219                          * hibit chars.
2220                          *
2221                          * (Can't we keep track of that and avoid
2222                          *  this rescan? --jhi)
2223                          */
2224                         int hicount = 0;
2225                         U8 *c;
2226                         for (c = (U8 *) SvPVX(sv); c < (U8 *)d; c++) {
2227                             if (!NATIVE_IS_INVARIANT(*c)) {
2228                                 hicount++;
2229                             }
2230                         }
2231                         if (hicount) {
2232                             const STRLEN offset = d - SvPVX_const(sv);
2233                             U8 *src, *dst;
2234                             d = SvGROW(sv, SvLEN(sv) + hicount + 1) + offset;
2235                             src = (U8 *)d - 1;
2236                             dst = src+hicount;
2237                             d  += hicount;
2238                             while (src >= (const U8 *)SvPVX_const(sv)) {
2239                                 if (!NATIVE_IS_INVARIANT(*src)) {
2240                                     const U8 ch = NATIVE_TO_ASCII(*src);
2241                                     *dst-- = (U8)UTF8_EIGHT_BIT_LO(ch);
2242                                     *dst-- = (U8)UTF8_EIGHT_BIT_HI(ch);
2243                                 }
2244                                 else {
2245                                     *dst-- = *src;
2246                                 }
2247                                 src--;
2248                             }
2249                         }
2250                     }
2251
2252                     if (has_utf8 || uv > 255) {
2253                         d = (char*)uvchr_to_utf8((U8*)d, uv);
2254                         has_utf8 = TRUE;
2255                         if (PL_lex_inwhat == OP_TRANS &&
2256                             PL_sublex_info.sub_op) {
2257                             PL_sublex_info.sub_op->op_private |=
2258                                 (PL_lex_repl ? OPpTRANS_FROM_UTF
2259                                              : OPpTRANS_TO_UTF);
2260                         }
2261 #ifdef EBCDIC
2262                         if (uv > 255 && !dorange)
2263                             native_range = FALSE;
2264 #endif
2265                     }
2266                     else {
2267                         *d++ = (char)uv;
2268                     }
2269                 }
2270                 else {
2271                     *d++ = (char) uv;
2272                 }
2273                 continue;
2274
2275             /* \N{LATIN SMALL LETTER A} is a named character */
2276             case 'N':
2277                 ++s;
2278                 if (*s == '{') {
2279                     char* e = strchr(s, '}');
2280                     SV *res;
2281                     STRLEN len;
2282                     const char *str;
2283
2284                     if (!e) {
2285                         yyerror("Missing right brace on \\N{}");
2286                         e = s - 1;
2287                         goto cont_scan;
2288                     }
2289                     if (e > s + 2 && s[1] == 'U' && s[2] == '+') {
2290                         /* \N{U+...} */
2291                         I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2292                           PERL_SCAN_DISALLOW_PREFIX;
2293                         s += 3;
2294                         len = e - s;
2295                         uv = grok_hex(s, &len, &flags, NULL);
2296                         if ( e > s && len != (STRLEN)(e - s) ) {
2297                             uv = 0xFFFD;
2298                         }
2299                         s = e + 1;
2300                         goto NUM_ESCAPE_INSERT;
2301                     }
2302                     res = newSVpvn(s + 1, e - s - 1);
2303                     res = new_constant( NULL, 0, "charnames",
2304                                         res, NULL, s - 2, e - s + 3 );
2305                     if (has_utf8)
2306                         sv_utf8_upgrade(res);
2307                     str = SvPV_const(res,len);
2308 #ifdef EBCDIC_NEVER_MIND
2309                     /* charnames uses pack U and that has been
2310                      * recently changed to do the below uni->native
2311                      * mapping, so this would be redundant (and wrong,
2312                      * the code point would be doubly converted).
2313                      * But leave this in just in case the pack U change
2314                      * gets revoked, but the semantics is still
2315                      * desireable for charnames. --jhi */
2316                     {
2317                          UV uv = utf8_to_uvchr((const U8*)str, 0);
2318
2319                          if (uv < 0x100) {
2320                               U8 tmpbuf[UTF8_MAXBYTES+1], *d;
2321
2322                               d = uvchr_to_utf8(tmpbuf, UNI_TO_NATIVE(uv));
2323                               sv_setpvn(res, (char *)tmpbuf, d - tmpbuf);
2324                               str = SvPV_const(res, len);
2325                          }
2326                     }
2327 #endif
2328                     if (!has_utf8 && SvUTF8(res)) {
2329                         const char * const ostart = SvPVX_const(sv);
2330                         SvCUR_set(sv, d - ostart);
2331                         SvPOK_on(sv);
2332                         *d = '\0';
2333                         sv_utf8_upgrade(sv);
2334                         /* this just broke our allocation above... */
2335                         SvGROW(sv, (STRLEN)(send - start));
2336                         d = SvPVX(sv) + SvCUR(sv);
2337                         has_utf8 = TRUE;
2338                     }
2339                     if (len > (STRLEN)(e - s + 4)) { /* I _guess_ 4 is \N{} --jhi */
2340                         const char * const odest = SvPVX_const(sv);
2341
2342                         SvGROW(sv, (SvLEN(sv) + len - (e - s + 4)));
2343                         d = SvPVX(sv) + (d - odest);
2344                     }
2345 #ifdef EBCDIC
2346                     if (!dorange)
2347                         native_range = FALSE; /* \N{} is guessed to be Unicode */
2348 #endif
2349                     Copy(str, d, len, char);
2350                     d += len;
2351                     SvREFCNT_dec(res);
2352                   cont_scan:
2353                     s = e + 1;
2354                 }
2355                 else
2356                     yyerror("Missing braces on \\N{}");
2357                 continue;
2358
2359             /* \c is a control character */
2360             case 'c':
2361                 s++;
2362                 if (s < send) {
2363                     U8 c = *s++;
2364 #ifdef EBCDIC
2365                     if (isLOWER(c))
2366                         c = toUPPER(c);
2367 #endif
2368                     *d++ = NATIVE_TO_NEED(has_utf8,toCTRL(c));
2369                 }
2370                 else {
2371                     yyerror("Missing control char name in \\c");
2372                 }
2373                 continue;
2374
2375             /* printf-style backslashes, formfeeds, newlines, etc */
2376             case 'b':
2377                 *d++ = NATIVE_TO_NEED(has_utf8,'\b');
2378                 break;
2379             case 'n':
2380                 *d++ = NATIVE_TO_NEED(has_utf8,'\n');
2381                 break;
2382             case 'r':
2383                 *d++ = NATIVE_TO_NEED(has_utf8,'\r');
2384                 break;
2385             case 'f':
2386                 *d++ = NATIVE_TO_NEED(has_utf8,'\f');
2387                 break;
2388             case 't':
2389                 *d++ = NATIVE_TO_NEED(has_utf8,'\t');
2390                 break;
2391             case 'e':
2392                 *d++ = ASCII_TO_NEED(has_utf8,'\033');
2393                 break;
2394             case 'a':
2395                 *d++ = ASCII_TO_NEED(has_utf8,'\007');
2396                 break;
2397             } /* end switch */
2398
2399             s++;
2400             continue;
2401         } /* end if (backslash) */
2402 #ifdef EBCDIC
2403         else
2404             literal_endpoint++;
2405 #endif
2406
2407     default_action:
2408         /* If we started with encoded form, or already know we want it
2409            and then encode the next character */
2410         if ((has_utf8 || this_utf8) && !NATIVE_IS_INVARIANT((U8)(*s))) {
2411             STRLEN len  = 1;
2412             const UV nextuv   = (this_utf8) ? utf8n_to_uvchr((U8*)s, send - s, &len, 0) : (UV) ((U8) *s);
2413             const STRLEN need = UNISKIP(NATIVE_TO_UNI(nextuv));
2414             s += len;
2415             if (need > len) {
2416                 /* encoded value larger than old, need extra space (NOTE: SvCUR() not set here) */
2417                 const STRLEN off = d - SvPVX_const(sv);
2418                 d = SvGROW(sv, SvLEN(sv) + (need-len)) + off;
2419             }
2420             d = (char*)uvchr_to_utf8((U8*)d, nextuv);
2421             has_utf8 = TRUE;
2422 #ifdef EBCDIC
2423             if (uv > 255 && !dorange)
2424                 native_range = FALSE;
2425 #endif
2426         }
2427         else {
2428             *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2429         }
2430     } /* while loop to process each character */
2431
2432     /* terminate the string and set up the sv */
2433     *d = '\0';
2434     SvCUR_set(sv, d - SvPVX_const(sv));
2435     if (SvCUR(sv) >= SvLEN(sv))
2436         Perl_croak(aTHX_ "panic: constant overflowed allocated space");
2437
2438     SvPOK_on(sv);
2439     if (PL_encoding && !has_utf8) {
2440         sv_recode_to_utf8(sv, PL_encoding);
2441         if (SvUTF8(sv))
2442             has_utf8 = TRUE;
2443     }
2444     if (has_utf8) {
2445         SvUTF8_on(sv);
2446         if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
2447             PL_sublex_info.sub_op->op_private |=
2448                     (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
2449         }
2450     }
2451
2452     /* shrink the sv if we allocated more than we used */
2453     if (SvCUR(sv) + 5 < SvLEN(sv)) {
2454         SvPV_shrink_to_cur(sv);
2455     }
2456
2457     /* return the substring (via yylval) only if we parsed anything */
2458     if (s > PL_bufptr) {
2459         if ( PL_hints & ( PL_lex_inpat ? HINT_NEW_RE : HINT_NEW_STRING ) ) {
2460             const char *const key = PL_lex_inpat ? "qr" : "q";
2461             const STRLEN keylen = PL_lex_inpat ? 2 : 1;
2462             const char *type;
2463             STRLEN typelen;
2464
2465             if (PL_lex_inwhat == OP_TRANS) {
2466                 type = "tr";
2467                 typelen = 2;
2468             } else if (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat) {
2469                 type = "s";
2470                 typelen = 1;
2471             } else  {
2472                 type = "qq";
2473                 typelen = 2;
2474             }
2475
2476             sv = S_new_constant(aTHX_ start, s - start, key, keylen, sv, NULL,
2477                                 type, typelen);
2478         }
2479         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2480     } else
2481         SvREFCNT_dec(sv);
2482     return s;
2483 }
2484
2485 /* S_intuit_more
2486  * Returns TRUE if there's more to the expression (e.g., a subscript),
2487  * FALSE otherwise.
2488  *
2489  * It deals with "$foo[3]" and /$foo[3]/ and /$foo[0123456789$]+/
2490  *
2491  * ->[ and ->{ return TRUE
2492  * { and [ outside a pattern are always subscripts, so return TRUE
2493  * if we're outside a pattern and it's not { or [, then return FALSE
2494  * if we're in a pattern and the first char is a {
2495  *   {4,5} (any digits around the comma) returns FALSE
2496  * if we're in a pattern and the first char is a [
2497  *   [] returns FALSE
2498  *   [SOMETHING] has a funky algorithm to decide whether it's a
2499  *      character class or not.  It has to deal with things like
2500  *      /$foo[-3]/ and /$foo[$bar]/ as well as /$foo[$\d]+/
2501  * anything else returns TRUE
2502  */
2503
2504 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
2505
2506 STATIC int
2507 S_intuit_more(pTHX_ register char *s)
2508 {
2509     dVAR;
2510     if (PL_lex_brackets)
2511         return TRUE;
2512     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
2513         return TRUE;
2514     if (*s != '{' && *s != '[')
2515         return FALSE;
2516     if (!PL_lex_inpat)
2517         return TRUE;
2518
2519     /* In a pattern, so maybe we have {n,m}. */
2520     if (*s == '{') {
2521         s++;
2522         if (!isDIGIT(*s))
2523             return TRUE;
2524         while (isDIGIT(*s))
2525             s++;
2526         if (*s == ',')
2527             s++;
2528         while (isDIGIT(*s))
2529             s++;
2530         if (*s == '}')
2531             return FALSE;
2532         return TRUE;
2533         
2534     }
2535
2536     /* On the other hand, maybe we have a character class */
2537
2538     s++;
2539     if (*s == ']' || *s == '^')
2540         return FALSE;
2541     else {
2542         /* this is terrifying, and it works */
2543         int weight = 2;         /* let's weigh the evidence */
2544         char seen[256];
2545         unsigned char un_char = 255, last_un_char;
2546         const char * const send = strchr(s,']');
2547         char tmpbuf[sizeof PL_tokenbuf * 4];
2548
2549         if (!send)              /* has to be an expression */
2550             return TRUE;
2551
2552         Zero(seen,256,char);
2553         if (*s == '$')
2554             weight -= 3;
2555         else if (isDIGIT(*s)) {
2556             if (s[1] != ']') {
2557                 if (isDIGIT(s[1]) && s[2] == ']')
2558                     weight -= 10;
2559             }
2560             else
2561                 weight -= 100;
2562         }
2563         for (; s < send; s++) {
2564             last_un_char = un_char;
2565             un_char = (unsigned char)*s;
2566             switch (*s) {
2567             case '@':
2568             case '&':
2569             case '$':
2570                 weight -= seen[un_char] * 10;
2571                 if (isALNUM_lazy_if(s+1,UTF)) {
2572                     int len;
2573                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
2574                     len = (int)strlen(tmpbuf);
2575                     if (len > 1 && gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PV))
2576                         weight -= 100;
2577                     else
2578                         weight -= 10;
2579                 }
2580                 else if (*s == '$' && s[1] &&
2581                   strchr("[#!%*<>()-=",s[1])) {
2582                     if (/*{*/ strchr("])} =",s[2]))
2583                         weight -= 10;
2584                     else
2585                         weight -= 1;
2586                 }
2587                 break;
2588             case '\\':
2589                 un_char = 254;
2590                 if (s[1]) {
2591                     if (strchr("wds]",s[1]))
2592                         weight += 100;
2593                     else if (seen[(U8)'\''] || seen[(U8)'"'])
2594                         weight += 1;
2595                     else if (strchr("rnftbxcav",s[1]))
2596                         weight += 40;
2597                     else if (isDIGIT(s[1])) {
2598                         weight += 40;
2599                         while (s[1] && isDIGIT(s[1]))
2600                             s++;
2601                     }
2602                 }
2603                 else
2604                     weight += 100;
2605                 break;
2606             case '-':
2607                 if (s[1] == '\\')
2608                     weight += 50;
2609                 if (strchr("aA01! ",last_un_char))
2610                     weight += 30;
2611                 if (strchr("zZ79~",s[1]))
2612                     weight += 30;
2613                 if (last_un_char == 255 && (isDIGIT(s[1]) || s[1] == '$'))
2614                     weight -= 5;        /* cope with negative subscript */
2615                 break;
2616             default:
2617                 if (!isALNUM(last_un_char)
2618                     && !(last_un_char == '$' || last_un_char == '@'
2619                          || last_un_char == '&')
2620                     && isALPHA(*s) && s[1] && isALPHA(s[1])) {
2621                     char *d = tmpbuf;
2622                     while (isALPHA(*s))
2623                         *d++ = *s++;
2624                     *d = '\0';
2625                     if (keyword(tmpbuf, d - tmpbuf, 0))
2626                         weight -= 150;
2627                 }
2628                 if (un_char == last_un_char + 1)
2629                     weight += 5;
2630                 weight -= seen[un_char];
2631                 break;
2632             }
2633             seen[un_char]++;
2634         }
2635         if (weight >= 0)        /* probably a character class */
2636             return FALSE;
2637     }
2638
2639     return TRUE;
2640 }
2641
2642 /*
2643  * S_intuit_method
2644  *
2645  * Does all the checking to disambiguate
2646  *   foo bar
2647  * between foo(bar) and bar->foo.  Returns 0 if not a method, otherwise
2648  * FUNCMETH (bar->foo(args)) or METHOD (bar->foo args).
2649  *
2650  * First argument is the stuff after the first token, e.g. "bar".
2651  *
2652  * Not a method if bar is a filehandle.
2653  * Not a method if foo is a subroutine prototyped to take a filehandle.
2654  * Not a method if it's really "Foo $bar"
2655  * Method if it's "foo $bar"
2656  * Not a method if it's really "print foo $bar"
2657  * Method if it's really "foo package::" (interpreted as package->foo)
2658  * Not a method if bar is known to be a subroutine ("sub bar; foo bar")
2659  * Not a method if bar is a filehandle or package, but is quoted with
2660  *   =>
2661  */
2662
2663 STATIC int
2664 S_intuit_method(pTHX_ char *start, GV *gv, CV *cv)
2665 {
2666     dVAR;
2667     char *s = start + (*start == '$');
2668     char tmpbuf[sizeof PL_tokenbuf];
2669     STRLEN len;
2670     GV* indirgv;
2671 #ifdef PERL_MAD
2672     int soff;
2673 #endif
2674
2675     if (gv) {
2676         if (SvTYPE(gv) == SVt_PVGV && GvIO(gv))
2677             return 0;
2678         if (cv) {
2679             if (SvPOK(cv)) {
2680                 const char *proto = SvPVX_const(cv);
2681                 if (proto) {
2682                     if (*proto == ';')
2683                         proto++;
2684                     if (*proto == '*')
2685                         return 0;
2686                 }
2687             }
2688         } else
2689             gv = NULL;
2690     }
2691     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2692     /* start is the beginning of the possible filehandle/object,
2693      * and s is the end of it
2694      * tmpbuf is a copy of it
2695      */
2696
2697     if (*start == '$') {
2698         if (gv || PL_last_lop_op == OP_PRINT || PL_last_lop_op == OP_SAY ||
2699                 isUPPER(*PL_tokenbuf))
2700             return 0;
2701 #ifdef PERL_MAD
2702         len = start - SvPVX(PL_linestr);
2703 #endif
2704         s = PEEKSPACE(s);
2705 #ifdef PERL_MAD
2706         start = SvPVX(PL_linestr) + len;
2707 #endif
2708         PL_bufptr = start;
2709         PL_expect = XREF;
2710         return *s == '(' ? FUNCMETH : METHOD;
2711     }
2712     if (!keyword(tmpbuf, len, 0)) {
2713         if (len > 2 && tmpbuf[len - 2] == ':' && tmpbuf[len - 1] == ':') {
2714             len -= 2;
2715             tmpbuf[len] = '\0';
2716 #ifdef PERL_MAD
2717             soff = s - SvPVX(PL_linestr);
2718 #endif
2719             goto bare_package;
2720         }
2721         indirgv = gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PVCV);
2722         if (indirgv && GvCVu(indirgv))
2723             return 0;
2724         /* filehandle or package name makes it a method */
2725         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, 0)) {
2726 #ifdef PERL_MAD
2727             soff = s - SvPVX(PL_linestr);
2728 #endif
2729             s = PEEKSPACE(s);
2730             if ((PL_bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
2731                 return 0;       /* no assumptions -- "=>" quotes bearword */
2732       bare_package:
2733             start_force(PL_curforce);
2734             NEXTVAL_NEXTTOKE.opval = (OP*)newSVOP(OP_CONST, 0,
2735                                                    newSVpvn(tmpbuf,len));
2736             NEXTVAL_NEXTTOKE.opval->op_private = OPpCONST_BARE;
2737             if (PL_madskills)
2738                 curmad('X', newSVpvn(start,SvPVX(PL_linestr) + soff - start));
2739             PL_expect = XTERM;
2740             force_next(WORD);
2741             PL_bufptr = s;
2742 #ifdef PERL_MAD
2743             PL_bufptr = SvPVX(PL_linestr) + soff; /* restart before space */
2744 #endif
2745             return *s == '(' ? FUNCMETH : METHOD;
2746         }
2747     }
2748     return 0;
2749 }
2750
2751 /*
2752  * S_incl_perldb
2753  * Return a string of Perl code to load the debugger.  If PERL5DB
2754  * is set, it will return the contents of that, otherwise a
2755  * compile-time require of perl5db.pl.
2756  */
2757
2758 STATIC const char*
2759 S_incl_perldb(pTHX)
2760 {
2761     dVAR;
2762     if (PL_perldb) {
2763         const char * const pdb = PerlEnv_getenv("PERL5DB");
2764
2765         if (pdb)
2766             return pdb;
2767         SETERRNO(0,SS_NORMAL);
2768         return "BEGIN { require 'perl5db.pl' }";
2769     }
2770     return "";
2771 }
2772
2773
2774 /* Encoded script support. filter_add() effectively inserts a
2775  * 'pre-processing' function into the current source input stream.
2776  * Note that the filter function only applies to the current source file
2777  * (e.g., it will not affect files 'require'd or 'use'd by this one).
2778  *
2779  * The datasv parameter (which may be NULL) can be used to pass
2780  * private data to this instance of the filter. The filter function
2781  * can recover the SV using the FILTER_DATA macro and use it to
2782  * store private buffers and state information.
2783  *
2784  * The supplied datasv parameter is upgraded to a PVIO type
2785  * and the IoDIRP/IoANY field is used to store the function pointer,
2786  * and IOf_FAKE_DIRP is enabled on datasv to mark this as such.
2787  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
2788  * private use must be set using malloc'd pointers.
2789  */
2790
2791 SV *
2792 Perl_filter_add(pTHX_ filter_t funcp, SV *datasv)
2793 {
2794     dVAR;
2795     if (!funcp)
2796         return NULL;
2797
2798     if (!PL_parser)
2799         return NULL;
2800
2801     if (!PL_rsfp_filters)
2802         PL_rsfp_filters = newAV();
2803     if (!datasv)
2804         datasv = newSV(0);
2805     SvUPGRADE(datasv, SVt_PVIO);
2806     IoANY(datasv) = FPTR2DPTR(void *, funcp); /* stash funcp into spare field */
2807     IoFLAGS(datasv) |= IOf_FAKE_DIRP;
2808     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_add func %p (%s)\n",
2809                           FPTR2DPTR(void *, IoANY(datasv)),
2810                           SvPV_nolen(datasv)));
2811     av_unshift(PL_rsfp_filters, 1);
2812     av_store(PL_rsfp_filters, 0, datasv) ;
2813     return(datasv);
2814 }
2815
2816
2817 /* Delete most recently added instance of this filter function. */
2818 void
2819 Perl_filter_del(pTHX_ filter_t funcp)
2820 {
2821     dVAR;
2822     SV *datasv;
2823
2824 #ifdef DEBUGGING
2825     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_del func %p",
2826                           FPTR2DPTR(void*, funcp)));
2827 #endif
2828     if (!PL_parser || !PL_rsfp_filters || AvFILLp(PL_rsfp_filters)<0)
2829         return;
2830     /* if filter is on top of stack (usual case) just pop it off */
2831     datasv = FILTER_DATA(AvFILLp(PL_rsfp_filters));
2832     if (IoANY(datasv) == FPTR2DPTR(void *, funcp)) {
2833         IoFLAGS(datasv) &= ~IOf_FAKE_DIRP;
2834         IoANY(datasv) = (void *)NULL;
2835         sv_free(av_pop(PL_rsfp_filters));
2836
2837         return;
2838     }
2839     /* we need to search for the correct entry and clear it     */
2840     Perl_die(aTHX_ "filter_del can only delete in reverse order (currently)");
2841 }
2842
2843
2844 /* Invoke the idxth filter function for the current rsfp.        */
2845 /* maxlen 0 = read one text line */
2846 I32
2847 Perl_filter_read(pTHX_ int idx, SV *buf_sv, int maxlen)
2848 {
2849     dVAR;
2850     filter_t funcp;
2851     SV *datasv = NULL;
2852     /* This API is bad. It should have been using unsigned int for maxlen.
2853        Not sure if we want to change the API, but if not we should sanity
2854        check the value here.  */
2855     const unsigned int correct_length
2856         = maxlen < 0 ?
2857 #ifdef PERL_MICRO
2858         0x7FFFFFFF
2859 #else
2860         INT_MAX
2861 #endif
2862         : maxlen;
2863
2864     if (!PL_parser || !PL_rsfp_filters)
2865         return -1;
2866     if (idx > AvFILLp(PL_rsfp_filters)) {       /* Any more filters?    */
2867         /* Provide a default input filter to make life easy.    */
2868         /* Note that we append to the line. This is handy.      */
2869         DEBUG_P(PerlIO_printf(Perl_debug_log,
2870                               "filter_read %d: from rsfp\n", idx));
2871         if (correct_length) {
2872             /* Want a block */
2873             int len ;
2874             const int old_len = SvCUR(buf_sv);
2875
2876             /* ensure buf_sv is large enough */
2877             SvGROW(buf_sv, (STRLEN)(old_len + correct_length)) ;
2878             if ((len = PerlIO_read(PL_rsfp, SvPVX(buf_sv) + old_len,
2879                                    correct_length)) <= 0) {
2880                 if (PerlIO_error(PL_rsfp))
2881                     return -1;          /* error */
2882                 else
2883                     return 0 ;          /* end of file */
2884             }
2885             SvCUR_set(buf_sv, old_len + len) ;
2886         } else {
2887             /* Want a line */
2888             if (sv_gets(buf_sv, PL_rsfp, SvCUR(buf_sv)) == NULL) {
2889                 if (PerlIO_error(PL_rsfp))
2890                     return -1;          /* error */
2891                 else
2892                     return 0 ;          /* end of file */
2893             }
2894         }
2895         return SvCUR(buf_sv);
2896     }
2897     /* Skip this filter slot if filter has been deleted */
2898     if ( (datasv = FILTER_DATA(idx)) == &PL_sv_undef) {
2899         DEBUG_P(PerlIO_printf(Perl_debug_log,
2900                               "filter_read %d: skipped (filter deleted)\n",
2901                               idx));
2902         return FILTER_READ(idx+1, buf_sv, correct_length); /* recurse */
2903     }
2904     /* Get function pointer hidden within datasv        */
2905     funcp = DPTR2FPTR(filter_t, IoANY(datasv));
2906     DEBUG_P(PerlIO_printf(Perl_debug_log,
2907                           "filter_read %d: via function %p (%s)\n",
2908                           idx, (void*)datasv, SvPV_nolen_const(datasv)));
2909     /* Call function. The function is expected to       */
2910     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
2911     /* Return: <0:error, =0:eof, >0:not eof             */
2912     return (*funcp)(aTHX_ idx, buf_sv, correct_length);
2913 }
2914
2915 STATIC char *
2916 S_filter_gets(pTHX_ register SV *sv, register PerlIO *fp, STRLEN append)
2917 {
2918     dVAR;
2919 #ifdef PERL_CR_FILTER
2920     if (!PL_rsfp_filters) {
2921         filter_add(S_cr_textfilter,NULL);
2922     }
2923 #endif
2924     if (PL_rsfp_filters) {
2925         if (!append)
2926             SvCUR_set(sv, 0);   /* start with empty line        */
2927         if (FILTER_READ(0, sv, 0) > 0)
2928             return ( SvPVX(sv) ) ;
2929         else
2930             return NULL ;
2931     }
2932     else
2933         return (sv_gets(sv, fp, append));
2934 }
2935
2936 STATIC HV *
2937 S_find_in_my_stash(pTHX_ const char *pkgname, I32 len)
2938 {
2939     dVAR;
2940     GV *gv;
2941
2942     if (len == 11 && *pkgname == '_' && strEQ(pkgname, "__PACKAGE__"))
2943         return PL_curstash;
2944
2945     if (len > 2 &&
2946         (pkgname[len - 2] == ':' && pkgname[len - 1] == ':') &&
2947         (gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVHV)))
2948     {
2949         return GvHV(gv);                        /* Foo:: */
2950     }
2951
2952     /* use constant CLASS => 'MyClass' */
2953     gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVCV);
2954     if (gv && GvCV(gv)) {
2955         SV * const sv = cv_const_sv(GvCV(gv));
2956         if (sv)
2957             pkgname = SvPV_nolen_const(sv);
2958     }
2959
2960     return gv_stashpv(pkgname, 0);
2961 }
2962
2963 /*
2964  * S_readpipe_override
2965  * Check whether readpipe() is overriden, and generates the appropriate
2966  * optree, provided sublex_start() is called afterwards.
2967  */
2968 STATIC void
2969 S_readpipe_override(pTHX)
2970 {
2971     GV **gvp;
2972     GV *gv_readpipe = gv_fetchpvs("readpipe", GV_NOTQUAL, SVt_PVCV);
2973     yylval.ival = OP_BACKTICK;
2974     if ((gv_readpipe
2975                 && GvCVu(gv_readpipe) && GvIMPORTED_CV(gv_readpipe))
2976             ||
2977             ((gvp = (GV**)hv_fetchs(PL_globalstash, "readpipe", FALSE))
2978              && (gv_readpipe = *gvp) && isGV_with_GP(gv_readpipe)
2979              && GvCVu(gv_readpipe) && GvIMPORTED_CV(gv_readpipe)))
2980     {
2981         PL_lex_op = (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
2982             append_elem(OP_LIST,
2983                 newSVOP(OP_CONST, 0, &PL_sv_undef), /* value will be read later */
2984                 newCVREF(0, newGVOP(OP_GV, 0, gv_readpipe))));
2985     }
2986 }
2987
2988 #ifdef PERL_MAD 
2989  /*
2990  * Perl_madlex
2991  * The intent of this yylex wrapper is to minimize the changes to the
2992  * tokener when we aren't interested in collecting madprops.  It remains
2993  * to be seen how successful this strategy will be...
2994  */
2995
2996 int
2997 Perl_madlex(pTHX)
2998 {
2999     int optype;
3000     char *s = PL_bufptr;
3001
3002     /* make sure PL_thiswhite is initialized */
3003     PL_thiswhite = 0;
3004     PL_thismad = 0;
3005
3006     /* just do what yylex would do on pending identifier; leave PL_thiswhite alone */
3007     if (PL_pending_ident)
3008         return S_pending_ident(aTHX);
3009
3010     /* previous token ate up our whitespace? */
3011     if (!PL_lasttoke && PL_nextwhite) {
3012         PL_thiswhite = PL_nextwhite;
3013         PL_nextwhite = 0;
3014     }
3015
3016     /* isolate the token, and figure out where it is without whitespace */
3017     PL_realtokenstart = -1;
3018     PL_thistoken = 0;
3019     optype = yylex();
3020     s = PL_bufptr;
3021     assert(PL_curforce < 0);
3022
3023     if (!PL_thismad || PL_thismad->mad_key == '^') {    /* not forced already? */
3024         if (!PL_thistoken) {
3025             if (PL_realtokenstart < 0 || !CopLINE(PL_curcop))
3026                 PL_thistoken = newSVpvs("");
3027             else {
3028                 char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
3029                 PL_thistoken = newSVpvn(tstart, s - tstart);
3030             }
3031         }
3032         if (PL_thismad) /* install head */
3033             CURMAD('X', PL_thistoken);
3034     }
3035
3036     /* last whitespace of a sublex? */
3037     if (optype == ')' && PL_endwhite) {
3038         CURMAD('X', PL_endwhite);
3039     }
3040
3041     if (!PL_thismad) {
3042
3043         /* if no whitespace and we're at EOF, bail.  Otherwise fake EOF below. */
3044         if (!PL_thiswhite && !PL_endwhite && !optype) {
3045             sv_free(PL_thistoken);
3046             PL_thistoken = 0;
3047             return 0;
3048         }
3049
3050         /* put off final whitespace till peg */
3051         if (optype == ';' && !PL_rsfp) {
3052             PL_nextwhite = PL_thiswhite;
3053             PL_thiswhite = 0;
3054         }
3055         else if (PL_thisopen) {
3056             CURMAD('q', PL_thisopen);
3057             if (PL_thistoken)
3058                 sv_free(PL_thistoken);
3059             PL_thistoken = 0;
3060         }
3061         else {
3062             /* Store actual token text as madprop X */
3063             CURMAD('X', PL_thistoken);
3064         }
3065
3066         if (PL_thiswhite) {
3067             /* add preceding whitespace as madprop _ */
3068             CURMAD('_', PL_thiswhite);
3069         }
3070
3071         if (PL_thisstuff) {
3072             /* add quoted material as madprop = */
3073             CURMAD('=', PL_thisstuff);
3074         }
3075
3076         if (PL_thisclose) {
3077             /* add terminating quote as madprop Q */
3078             CURMAD('Q', PL_thisclose);
3079         }
3080     }
3081
3082     /* special processing based on optype */
3083
3084     switch (optype) {
3085
3086     /* opval doesn't need a TOKEN since it can already store mp */
3087     case WORD:
3088     case METHOD:
3089     case FUNCMETH:
3090     case THING:
3091     case PMFUNC:
3092     case PRIVATEREF:
3093     case FUNC0SUB:
3094     case UNIOPSUB:
3095     case LSTOPSUB:
3096         if (yylval.opval)
3097             append_madprops(PL_thismad, yylval.opval, 0);
3098         PL_thismad = 0;
3099         return optype;
3100
3101     /* fake EOF */
3102     case 0:
3103         optype = PEG;
3104         if (PL_endwhite) {
3105             addmad(newMADsv('p', PL_endwhite), &PL_thismad, 0);
3106             PL_endwhite = 0;
3107         }
3108         break;
3109
3110     case ']':
3111     case '}':
3112         if (PL_faketokens)
3113             break;
3114         /* remember any fake bracket that lexer is about to discard */ 
3115         if (PL_lex_brackets == 1 &&
3116             ((expectation)PL_lex_brackstack[0] & XFAKEBRACK))
3117         {
3118             s = PL_bufptr;
3119             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
3120                 s++;
3121             if (*s == '}') {
3122                 PL_thiswhite = newSVpvn(PL_bufptr, ++s - PL_bufptr);
3123                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
3124                 PL_thiswhite = 0;
3125                 PL_bufptr = s - 1;
3126                 break;  /* don't bother looking for trailing comment */
3127             }
3128             else
3129                 s = PL_bufptr;
3130         }
3131         if (optype == ']')
3132             break;
3133         /* FALLTHROUGH */
3134
3135     /* attach a trailing comment to its statement instead of next token */
3136     case ';':
3137         if (PL_faketokens)
3138             break;
3139         if (PL_bufptr > PL_oldbufptr && PL_bufptr[-1] == optype) {
3140             s = PL_bufptr;
3141             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
3142                 s++;
3143             if (*s == '\n' || *s == '#') {
3144                 while (s < PL_bufend && *s != '\n')
3145                     s++;
3146                 if (s < PL_bufend)
3147                     s++;
3148                 PL_thiswhite = newSVpvn(PL_bufptr, s - PL_bufptr);
3149                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
3150                 PL_thiswhite = 0;
3151                 PL_bufptr = s;
3152             }
3153         }
3154         break;
3155
3156     /* pval */
3157     case LABEL:
3158         break;
3159
3160     /* ival */
3161     default:
3162         break;
3163
3164     }
3165
3166     /* Create new token struct.  Note: opvals return early above. */
3167     yylval.tkval = newTOKEN(optype, yylval, PL_thismad);
3168     PL_thismad = 0;
3169     return optype;
3170 }
3171 #endif
3172
3173 STATIC char *
3174 S_tokenize_use(pTHX_ int is_use, char *s) {
3175     dVAR;
3176     if (PL_expect != XSTATE)
3177         yyerror(Perl_form(aTHX_ "\"%s\" not allowed in expression",
3178                     is_use ? "use" : "no"));
3179     s = SKIPSPACE1(s);
3180     if (isDIGIT(*s) || (*s == 'v' && isDIGIT(s[1]))) {
3181         s = force_version(s, TRUE);
3182         if (*s == ';' || (s = SKIPSPACE1(s), *s == ';')) {
3183             start_force(PL_curforce);
3184             NEXTVAL_NEXTTOKE.opval = NULL;
3185             force_next(WORD);
3186         }
3187         else if (*s == 'v') {
3188             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3189             s = force_version(s, FALSE);
3190         }
3191     }
3192     else {
3193         s = force_word(s,WORD,FALSE,TRUE,FALSE);
3194         s = force_version(s, FALSE);
3195     }
3196     yylval.ival = is_use;
3197     return s;
3198 }
3199 #ifdef DEBUGGING
3200     static const char* const exp_name[] =
3201         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "ATTRBLOCK",
3202           "ATTRTERM", "TERMBLOCK", "TERMORDORDOR"
3203         };
3204 #endif
3205
3206 /*
3207   yylex
3208
3209   Works out what to call the token just pulled out of the input
3210   stream.  The yacc parser takes care of taking the ops we return and
3211   stitching them into a tree.
3212
3213   Returns:
3214     PRIVATEREF
3215
3216   Structure:
3217       if read an identifier
3218           if we're in a my declaration
3219               croak if they tried to say my($foo::bar)
3220               build the ops for a my() declaration
3221           if it's an access to a my() variable
3222               are we in a sort block?
3223                   croak if my($a); $a <=> $b
3224               build ops for access to a my() variable
3225           if in a dq string, and they've said @foo and we can't find @foo
3226               croak
3227           build ops for a bareword
3228       if we already built the token before, use it.
3229 */
3230
3231
3232 #ifdef __SC__
3233 #pragma segment Perl_yylex
3234 #endif
3235 int
3236 Perl_yylex(pTHX)
3237 {
3238     dVAR;
3239     register char *s = PL_bufptr;
3240     register char *d;
3241     STRLEN len;
3242     bool bof = FALSE;
3243
3244     /* orig_keyword, gvp, and gv are initialized here because
3245      * jump to the label just_a_word_zero can bypass their
3246      * initialization later. */
3247     I32 orig_keyword = 0;
3248     GV *gv = NULL;
3249     GV **gvp = NULL;
3250
3251     DEBUG_T( {
3252         SV* tmp = newSVpvs("");
3253         PerlIO_printf(Perl_debug_log, "### %"IVdf":LEX_%s/X%s %s\n",
3254             (IV)CopLINE(PL_curcop),
3255             lex_state_names[PL_lex_state],
3256             exp_name[PL_expect],
3257             pv_display(tmp, s, strlen(s), 0, 60));
3258         SvREFCNT_dec(tmp);
3259     } );
3260     /* check if there's an identifier for us to look at */
3261     if (PL_pending_ident)
3262         return REPORT(S_pending_ident(aTHX));
3263
3264     /* no identifier pending identification */
3265
3266     switch (PL_lex_state) {
3267 #ifdef COMMENTARY
3268     case LEX_NORMAL:            /* Some compilers will produce faster */
3269     case LEX_INTERPNORMAL:      /* code if we comment these out. */
3270         break;
3271 #endif
3272
3273     /* when we've already built the next token, just pull it out of the queue */
3274     case LEX_KNOWNEXT:
3275 #ifdef PERL_MAD
3276         PL_lasttoke--;
3277         yylval = PL_nexttoke[PL_lasttoke].next_val;
3278         if (PL_madskills) {
3279             PL_thismad = PL_nexttoke[PL_lasttoke].next_mad;
3280             PL_nexttoke[PL_lasttoke].next_mad = 0;
3281             if (PL_thismad && PL_thismad->mad_key == '_') {
3282                 PL_thiswhite = (SV*)PL_thismad->mad_val;
3283                 PL_thismad->mad_val = 0;
3284                 mad_free(PL_thismad);
3285                 PL_thismad = 0;
3286             }
3287         }
3288         if (!PL_lasttoke) {
3289             PL_lex_state = PL_lex_defer;
3290             PL_expect = PL_lex_expect;
3291             PL_lex_defer = LEX_NORMAL;
3292             if (!PL_nexttoke[PL_lasttoke].next_type)
3293                 return yylex();
3294         }
3295 #else
3296         PL_nexttoke--;
3297         yylval = PL_nextval[PL_nexttoke];
3298         if (!PL_nexttoke) {
3299             PL_lex_state = PL_lex_defer;
3300             PL_expect = PL_lex_expect;
3301             PL_lex_defer = LEX_NORMAL;
3302         }
3303 #endif
3304 #ifdef PERL_MAD
3305         /* FIXME - can these be merged?  */
3306         return(PL_nexttoke[PL_lasttoke].next_type);
3307 #else
3308         return REPORT(PL_nexttype[PL_nexttoke]);
3309 #endif
3310
3311     /* interpolated case modifiers like \L \U, including \Q and \E.
3312        when we get here, PL_bufptr is at the \
3313     */
3314     case LEX_INTERPCASEMOD:
3315 #ifdef DEBUGGING
3316         if (PL_bufptr != PL_bufend && *PL_bufptr != '\\')
3317             Perl_croak(aTHX_ "panic: INTERPCASEMOD");
3318 #endif
3319         /* handle \E or end of string */
3320         if (PL_bufptr == PL_bufend || PL_bufptr[1] == 'E') {
3321             /* if at a \E */
3322             if (PL_lex_casemods) {
3323                 const char oldmod = PL_lex_casestack[--PL_lex_casemods];
3324                 PL_lex_casestack[PL_lex_casemods] = '\0';
3325
3326                 if (PL_bufptr != PL_bufend
3327                     && (oldmod == 'L' || oldmod == 'U' || oldmod == 'Q')) {
3328                     PL_bufptr += 2;
3329                     PL_lex_state = LEX_INTERPCONCAT;
3330 #ifdef PERL_MAD
3331                     if (PL_madskills)
3332                         PL_thistoken = newSVpvs("\\E");
3333 #endif
3334                 }
3335                 return REPORT(')');
3336             }
3337 #ifdef PERL_MAD
3338             while (PL_bufptr != PL_bufend &&
3339               PL_bufptr[0] == '\\' && PL_bufptr[1] == 'E') {
3340                 if (!PL_thiswhite)
3341                     PL_thiswhite = newSVpvs("");
3342                 sv_catpvn(PL_thiswhite, PL_bufptr, 2);
3343                 PL_bufptr += 2;
3344             }
3345 #else
3346             if (PL_bufptr != PL_bufend)
3347                 PL_bufptr += 2;
3348 #endif
3349             PL_lex_state = LEX_INTERPCONCAT;
3350             return yylex();
3351         }
3352         else {
3353             DEBUG_T({ PerlIO_printf(Perl_debug_log,
3354               "### Saw case modifier\n"); });
3355             s = PL_bufptr + 1;
3356             if (s[1] == '\\' && s[2] == 'E') {
3357 #ifdef PERL_MAD
3358                 if (!PL_thiswhite)
3359                     PL_thiswhite = newSVpvs("");
3360                 sv_catpvn(PL_thiswhite, PL_bufptr, 4);
3361 #endif
3362                 PL_bufptr = s + 3;
3363                 PL_lex_state = LEX_INTERPCONCAT;
3364                 return yylex();
3365             }
3366             else {
3367                 I32 tmp;
3368                 if (!PL_madskills) /* when just compiling don't need correct */
3369                     if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
3370                         tmp = *s, *s = s[2], s[2] = (char)tmp;  /* misordered... */
3371                 if ((*s == 'L' || *s == 'U') &&
3372                     (strchr(PL_lex_casestack, 'L') || strchr(PL_lex_casestack, 'U'))) {
3373                     PL_lex_casestack[--PL_lex_casemods] = '\0';
3374                     return REPORT(')');
3375                 }
3376                 if (PL_lex_casemods > 10)
3377                     Renew(PL_lex_casestack, PL_lex_casemods + 2, char);
3378                 PL_lex_casestack[PL_lex_casemods++] = *s;
3379                 PL_lex_casestack[PL_lex_casemods] = '\0';
3380                 PL_lex_state = LEX_INTERPCONCAT;
3381                 start_force(PL_curforce);
3382                 NEXTVAL_NEXTTOKE.ival = 0;
3383                 force_next('(');
3384                 start_force(PL_curforce);
3385                 if (*s == 'l')
3386                     NEXTVAL_NEXTTOKE.ival = OP_LCFIRST;
3387                 else if (*s == 'u')
3388                     NEXTVAL_NEXTTOKE.ival = OP_UCFIRST;
3389                 else if (*s == 'L')
3390                     NEXTVAL_NEXTTOKE.ival = OP_LC;
3391                 else if (*s == 'U')
3392                     NEXTVAL_NEXTTOKE.ival = OP_UC;
3393                 else if (*s == 'Q')
3394                     NEXTVAL_NEXTTOKE.ival = OP_QUOTEMETA;
3395                 else
3396                     Perl_croak(aTHX_ "panic: yylex");
3397                 if (PL_madskills) {
3398                     SV* const tmpsv = newSVpvs("\\ ");
3399                     /* replace the space with the character we want to escape
3400                      */
3401                     SvPVX(tmpsv)[1] = *s;
3402                     curmad('_', tmpsv);
3403                 }
3404                 PL_bufptr = s + 1;
3405             }
3406             force_next(FUNC);
3407             if (PL_lex_starts) {
3408                 s = PL_bufptr;
3409                 PL_lex_starts = 0;
3410 #ifdef PERL_MAD
3411                 if (PL_madskills) {
3412                     if (PL_thistoken)
3413                         sv_free(PL_thistoken);
3414                     PL_thistoken = newSVpvs("");
3415                 }
3416 #endif
3417                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3418                 if (PL_lex_casemods == 1 && PL_lex_inpat)
3419                     OPERATOR(',');
3420                 else
3421                     Aop(OP_CONCAT);
3422             }
3423             else
3424                 return yylex();
3425         }
3426
3427     case LEX_INTERPPUSH:
3428         return REPORT(sublex_push());
3429
3430     case LEX_INTERPSTART:
3431         if (PL_bufptr == PL_bufend)
3432             return REPORT(sublex_done());
3433         DEBUG_T({ PerlIO_printf(Perl_debug_log,
3434               "### Interpolated variable\n"); });
3435         PL_expect = XTERM;
3436         PL_lex_dojoin = (*PL_bufptr == '@');
3437         PL_lex_state = LEX_INTERPNORMAL;
3438         if (PL_lex_dojoin) {
3439             start_force(PL_curforce);
3440             NEXTVAL_NEXTTOKE.ival = 0;
3441             force_next(',');
3442             start_force(PL_curforce);
3443             force_ident("\"", '$');
3444             start_force(PL_curforce);
3445             NEXTVAL_NEXTTOKE.ival = 0;
3446             force_next('$');
3447             start_force(PL_curforce);
3448             NEXTVAL_NEXTTOKE.ival = 0;
3449             force_next('(');
3450             start_force(PL_curforce);
3451             NEXTVAL_NEXTTOKE.ival = OP_JOIN;    /* emulate join($", ...) */
3452             force_next(FUNC);
3453         }
3454         if (PL_lex_starts++) {
3455             s = PL_bufptr;
3456 #ifdef PERL_MAD
3457             if (PL_madskills) {
3458                 if (PL_thistoken)
3459                     sv_free(PL_thistoken);
3460                 PL_thistoken = newSVpvs("");
3461             }
3462 #endif
3463             /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3464             if (!PL_lex_casemods && PL_lex_inpat)
3465                 OPERATOR(',');
3466             else
3467                 Aop(OP_CONCAT);
3468         }
3469         return yylex();
3470
3471     case LEX_INTERPENDMAYBE:
3472         if (intuit_more(PL_bufptr)) {
3473             PL_lex_state = LEX_INTERPNORMAL;    /* false alarm, more expr */
3474             break;
3475         }
3476         /* FALL THROUGH */
3477
3478     case LEX_INTERPEND:
3479         if (PL_lex_dojoin) {
3480             PL_lex_dojoin = FALSE;
3481             PL_lex_state = LEX_INTERPCONCAT;
3482 #ifdef PERL_MAD
3483             if (PL_madskills) {
3484                 if (PL_thistoken)
3485                     sv_free(PL_thistoken);
3486                 PL_thistoken = newSVpvs("");
3487             }
3488 #endif
3489             return REPORT(')');
3490         }
3491         if (PL_lex_inwhat == OP_SUBST && PL_linestr == PL_lex_repl
3492             && SvEVALED(PL_lex_repl))
3493         {
3494             if (PL_bufptr != PL_bufend)
3495                 Perl_croak(aTHX_ "Bad evalled substitution pattern");
3496             PL_lex_repl = NULL;
3497         }
3498         /* FALLTHROUGH */
3499     case LEX_INTERPCONCAT:
3500 #ifdef DEBUGGING
3501         if (PL_lex_brackets)
3502             Perl_croak(aTHX_ "panic: INTERPCONCAT");
3503 #endif
3504         if (PL_bufptr == PL_bufend)
3505             return REPORT(sublex_done());
3506
3507         if (SvIVX(PL_linestr) == '\'') {
3508             SV *sv = newSVsv(PL_linestr);
3509             if (!PL_lex_inpat)
3510                 sv = tokeq(sv);
3511             else if ( PL_hints & HINT_NEW_RE )
3512                 sv = new_constant(NULL, 0, "qr", sv, sv, "q", 1);
3513             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
3514             s = PL_bufend;
3515         }
3516         else {
3517             s = scan_const(PL_bufptr);
3518             if (*s == '\\')
3519                 PL_lex_state = LEX_INTERPCASEMOD;
3520             else
3521                 PL_lex_state = LEX_INTERPSTART;
3522         }
3523
3524         if (s != PL_bufptr) {
3525             start_force(PL_curforce);
3526             if (PL_madskills) {
3527                 curmad('X', newSVpvn(PL_bufptr,s-PL_bufptr));
3528             }
3529             NEXTVAL_NEXTTOKE = yylval;
3530             PL_expect = XTERM;
3531             force_next(THING);
3532             if (PL_lex_starts++) {
3533 #ifdef PERL_MAD
3534                 if (PL_madskills) {
3535                     if (PL_thistoken)
3536                         sv_free(PL_thistoken);
3537                     PL_thistoken = newSVpvs("");
3538                 }
3539 #endif
3540                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3541                 if (!PL_lex_casemods && PL_lex_inpat)
3542                     OPERATOR(',');
3543                 else
3544                     Aop(OP_CONCAT);
3545             }
3546             else {
3547                 PL_bufptr = s;
3548                 return yylex();
3549             }
3550         }
3551
3552         return yylex();
3553     case LEX_FORMLINE:
3554         PL_lex_state = LEX_NORMAL;
3555         s = scan_formline(PL_bufptr);
3556         if (!PL_lex_formbrack)
3557             goto rightbracket;
3558         OPERATOR(';');
3559     }
3560
3561     s = PL_bufptr;
3562     PL_oldoldbufptr = PL_oldbufptr;
3563     PL_oldbufptr = s;
3564
3565   retry:
3566 #ifdef PERL_MAD
3567     if (PL_thistoken) {
3568         sv_free(PL_thistoken);
3569         PL_thistoken = 0;
3570     }
3571     PL_realtokenstart = s - SvPVX(PL_linestr);  /* assume but undo on ws */
3572 #endif
3573     switch (*s) {
3574     default:
3575         if (isIDFIRST_lazy_if(s,UTF))
3576             goto keylookup;
3577         len = UTF ? Perl_utf8_length(aTHX_ (U8 *) PL_linestart, (U8 *) s) : (STRLEN) (s - PL_linestart);
3578         Perl_croak(aTHX_ "Unrecognized character \\x%02X in column %d", *s & 255, (int) len + 1);
3579     case 4:
3580     case 26:
3581         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
3582     case 0:
3583 #ifdef PERL_MAD
3584         if (PL_madskills)
3585             PL_faketokens = 0;
3586 #endif
3587         if (!PL_rsfp) {
3588             PL_last_uni = 0;
3589             PL_last_lop = 0;
3590             if (PL_lex_brackets) {
3591                 yyerror((const char *)
3592                         (PL_lex_formbrack
3593                          ? "Format not terminated"
3594                          : "Missing right curly or square bracket"));
3595             }
3596             DEBUG_T( { PerlIO_printf(Perl_debug_log,
3597                         "### Tokener got EOF\n");
3598             } );
3599             TOKEN(0);
3600         }
3601         if (s++ < PL_bufend)
3602             goto retry;                 /* ignore stray nulls */
3603         PL_last_uni = 0;
3604         PL_last_lop = 0;
3605         if (!PL_in_eval && !PL_preambled) {
3606             PL_preambled = TRUE;
3607 #ifdef PERL_MAD
3608             if (PL_madskills)
3609                 PL_faketokens = 1;
3610 #endif
3611             sv_setpv(PL_linestr,incl_perldb());
3612             if (SvCUR(PL_linestr))
3613                 sv_catpvs(PL_linestr,";");
3614             if (PL_preambleav){
3615                 while(AvFILLp(PL_preambleav) >= 0) {
3616                     SV *tmpsv = av_shift(PL_preambleav);
3617                     sv_catsv(PL_linestr, tmpsv);
3618                     sv_catpvs(PL_linestr, ";");
3619                     sv_free(tmpsv);
3620                 }
3621                 sv_free((SV*)PL_preambleav);
3622                 PL_preambleav = NULL;
3623             }
3624             if (PL_minus_n || PL_minus_p) {
3625                 sv_catpvs(PL_linestr, "LINE: while (<>) {");
3626                 if (PL_minus_l)
3627                     sv_catpvs(PL_linestr,"chomp;");
3628                 if (PL_minus_a) {
3629                     if (PL_minus_F) {
3630                         if ((*PL_splitstr == '/' || *PL_splitstr == '\''
3631                              || *PL_splitstr == '"')
3632                               && strchr(PL_splitstr + 1, *PL_splitstr))
3633                             Perl_sv_catpvf(aTHX_ PL_linestr, "our @F=split(%s);", PL_splitstr);
3634                         else {
3635                             /* "q\0${splitstr}\0" is legal perl. Yes, even NUL
3636                                bytes can be used as quoting characters.  :-) */
3637                             const char *splits = PL_splitstr;
3638                             sv_catpvs(PL_linestr, "our @F=split(q\0");
3639                             do {
3640                                 /* Need to \ \s  */
3641                                 if (*splits == '\\')
3642                                     sv_catpvn(PL_linestr, splits, 1);
3643                                 sv_catpvn(PL_linestr, splits, 1);
3644                             } while (*splits++);
3645                             /* This loop will embed the trailing NUL of
3646                                PL_linestr as the last thing it does before
3647                                terminating.  */
3648                             sv_catpvs(PL_linestr, ");");
3649                         }
3650                     }
3651                     else
3652                         sv_catpvs(PL_linestr,"our @F=split(' ');");
3653                 }
3654             }
3655             if (PL_minus_E)
3656                 sv_catpvs(PL_linestr,"use feature ':5.10';");
3657             sv_catpvs(PL_linestr, "\n");
3658             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3659             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3660             PL_last_lop = PL_last_uni = NULL;
3661             if (PERLDB_LINE && PL_curstash != PL_debstash)
3662                 update_debugger_info(PL_linestr, NULL, 0);
3663             goto retry;
3664         }
3665         do {
3666             bof = PL_rsfp ? TRUE : FALSE;
3667             if ((s = filter_gets(PL_linestr, PL_rsfp, 0)) == NULL) {
3668               fake_eof:
3669 #ifdef PERL_MAD
3670                 PL_realtokenstart = -1;
3671 #endif
3672                 if (PL_rsfp) {
3673                     if (PL_preprocess && !PL_in_eval)
3674                         (void)PerlProc_pclose(PL_rsfp);
3675                     else if ((PerlIO *)PL_rsfp == PerlIO_stdin())
3676                         PerlIO_clearerr(PL_rsfp);
3677                     else
3678                         (void)PerlIO_close(PL_rsfp);
3679                     PL_rsfp = NULL;
3680                     PL_doextract = FALSE;
3681                 }
3682                 if (!PL_in_eval && (PL_minus_n || PL_minus_p)) {
3683 #ifdef PERL_MAD
3684                     if (PL_madskills)
3685                         PL_faketokens = 1;
3686 #endif
3687                     sv_setpv(PL_linestr,
3688                              (const char *)
3689                              (PL_minus_p
3690                               ? ";}continue{print;}" : ";}"));
3691                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3692                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3693                     PL_last_lop = PL_last_uni = NULL;
3694                     PL_minus_n = PL_minus_p = 0;
3695                     goto retry;
3696                 }
3697                 PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3698                 PL_last_lop = PL_last_uni = NULL;
3699                 sv_setpvn(PL_linestr,"",0);
3700                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
3701             }
3702             /* If it looks like the start of a BOM or raw UTF-16,
3703              * check if it in fact is. */
3704             else if (bof &&
3705                      (*s == 0 ||
3706                       *(U8*)s == 0xEF ||
3707                       *(U8*)s >= 0xFE ||
3708                       s[1] == 0)) {
3709 #ifdef PERLIO_IS_STDIO
3710 #  ifdef __GNU_LIBRARY__
3711 #    if __GNU_LIBRARY__ == 1 /* Linux glibc5 */
3712 #      define FTELL_FOR_PIPE_IS_BROKEN
3713 #    endif
3714 #  else
3715 #    ifdef __GLIBC__
3716 #      if __GLIBC__ == 1 /* maybe some glibc5 release had it like this? */
3717 #        define FTELL_FOR_PIPE_IS_BROKEN
3718 #      endif
3719 #    endif
3720 #  endif
3721 #endif
3722 #ifdef FTELL_FOR_PIPE_IS_BROKEN
3723                 /* This loses the possibility to detect the bof
3724                  * situation on perl -P when the libc5 is being used.
3725                  * Workaround?  Maybe attach some extra state to PL_rsfp?
3726                  */
3727                 if (!PL_preprocess)
3728                     bof = PerlIO_tell(PL_rsfp) == SvCUR(PL_linestr);
3729 #else
3730                 bof = PerlIO_tell(PL_rsfp) == (Off_t)SvCUR(PL_linestr);
3731 #endif
3732                 if (bof) {
3733                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3734                     s = swallow_bom((U8*)s);
3735                 }
3736             }
3737             if (PL_doextract) {
3738                 /* Incest with pod. */
3739 #ifdef PERL_MAD
3740                 if (PL_madskills)
3741                     sv_catsv(PL_thiswhite, PL_linestr);
3742 #endif
3743                 if (*s == '=' && strnEQ(s, "=cut", 4) && !isALPHA(s[4])) {
3744                     sv_setpvn(PL_linestr, "", 0);
3745                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3746                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3747                     PL_last_lop = PL_last_uni = NULL;
3748                     PL_doextract = FALSE;
3749                 }
3750             }
3751             incline(s);
3752         } while (PL_doextract);
3753         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = s;
3754         if (PERLDB_LINE && PL_curstash != PL_debstash)
3755             update_debugger_info(PL_linestr, NULL, 0);
3756         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3757         PL_last_lop = PL_last_uni = NULL;
3758         if (CopLINE(PL_curcop) == 1) {
3759             while (s < PL_bufend && isSPACE(*s))
3760                 s++;
3761             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
3762                 s++;
3763 #ifdef PERL_MAD
3764             if (PL_madskills)
3765                 PL_thiswhite = newSVpvn(PL_linestart, s - PL_linestart);
3766 #endif
3767             d = NULL;
3768             if (!PL_in_eval) {
3769                 if (*s == '#' && *(s+1) == '!')
3770                     d = s + 2;
3771 #ifdef ALTERNATE_SHEBANG
3772                 else {
3773                     static char const as[] = ALTERNATE_SHEBANG;
3774                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
3775                         d = s + (sizeof(as) - 1);
3776                 }
3777 #endif /* ALTERNATE_SHEBANG */
3778             }
3779             if (d) {
3780                 char *ipath;
3781                 char *ipathend;
3782
3783                 while (isSPACE(*d))
3784                     d++;
3785                 ipath = d;
3786                 while (*d && !isSPACE(*d))
3787                     d++;
3788                 ipathend = d;
3789
3790 #ifdef ARG_ZERO_IS_SCRIPT
3791                 if (ipathend > ipath) {
3792                     /*
3793                      * HP-UX (at least) sets argv[0] to the script name,
3794                      * which makes $^X incorrect.  And Digital UNIX and Linux,
3795                      * at least, set argv[0] to the basename of the Perl
3796                      * interpreter. So, having found "#!", we'll set it right.
3797                      */
3798                     SV * const x = GvSV(gv_fetchpvs("\030", GV_ADD|GV_NOTQUAL,
3799                                                     SVt_PV)); /* $^X */
3800                     assert(SvPOK(x) || SvGMAGICAL(x));
3801                     if (sv_eq(x, CopFILESV(PL_curcop))) {
3802                         sv_setpvn(x, ipath, ipathend - ipath);
3803                         SvSETMAGIC(x);
3804                     }
3805                     else {
3806                         STRLEN blen;
3807                         STRLEN llen;
3808                         const char *bstart = SvPV_const(CopFILESV(PL_curcop),blen);
3809                         const char * const lstart = SvPV_const(x,llen);
3810                         if (llen < blen) {
3811                             bstart += blen - llen;
3812                             if (strnEQ(bstart, lstart, llen) && bstart[-1] == '/') {
3813                                 sv_setpvn(x, ipath, ipathend - ipath);
3814                                 SvSETMAGIC(x);
3815                             }
3816                         }
3817                     }
3818                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
3819                 }
3820 #endif /* ARG_ZERO_IS_SCRIPT */
3821
3822                 /*
3823                  * Look for options.
3824                  */
3825                 d = instr(s,"perl -");
3826                 if (!d) {
3827                     d = instr(s,"perl");
3828 #if defined(DOSISH)
3829                     /* avoid getting into infinite loops when shebang
3830                      * line contains "Perl" rather than "perl" */
3831                     if (!d) {
3832                         for (d = ipathend-4; d >= ipath; --d) {
3833                             if ((*d == 'p' || *d == 'P')
3834                                 && !ibcmp(d, "perl", 4))
3835                             {
3836                                 break;
3837                             }
3838                         }
3839                         if (d < ipath)
3840                             d = NULL;
3841                     }
3842 #endif
3843                 }
3844 #ifdef ALTERNATE_SHEBANG
3845                 /*
3846                  * If the ALTERNATE_SHEBANG on this system starts with a
3847                  * character that can be part of a Perl expression, then if
3848                  * we see it but not "perl", we're probably looking at the
3849                  * start of Perl code, not a request to hand off to some
3850                  * other interpreter.  Similarly, if "perl" is there, but
3851                  * not in the first 'word' of the line, we assume the line
3852                  * contains the start of the Perl program.
3853                  */
3854                 if (d && *s != '#') {
3855                     const char *c = ipath;
3856                     while (*c && !strchr("; \t\r\n\f\v#", *c))
3857                         c++;
3858                     if (c < d)
3859                         d = NULL;       /* "perl" not in first word; ignore */
3860                     else
3861                         *s = '#';       /* Don't try to parse shebang line */
3862                 }
3863 #endif /* ALTERNATE_SHEBANG */
3864 #ifndef MACOS_TRADITIONAL
3865                 if (!d &&
3866                     *s == '#' &&
3867                     ipathend > ipath &&
3868                     !PL_minus_c &&
3869                     !instr(s,"indir") &&
3870                     instr(PL_origargv[0],"perl"))
3871                 {
3872                     dVAR;
3873                     char **newargv;
3874
3875                     *ipathend = '\0';
3876                     s = ipathend + 1;
3877                     while (s < PL_bufend && isSPACE(*s))
3878                         s++;
3879                     if (s < PL_bufend) {
3880                         Newxz(newargv,PL_origargc+3,char*);
3881                         newargv[1] = s;
3882                         while (s < PL_bufend && !isSPACE(*s))
3883                             s++;
3884                         *s = '\0';
3885                         Copy(PL_origargv+1, newargv+2, PL_origargc+1, char*);
3886                     }
3887                     else
3888                         newargv = PL_origargv;
3889                     newargv[0] = ipath;
3890                     PERL_FPU_PRE_EXEC
3891                     PerlProc_execv(ipath, EXEC_ARGV_CAST(newargv));
3892                     PERL_FPU_POST_EXEC
3893                     Perl_croak(aTHX_ "Can't exec %s", ipath);
3894                 }
3895 #endif
3896                 if (d) {
3897                     while (*d && !isSPACE(*d))
3898                         d++;
3899                     while (SPACE_OR_TAB(*d))
3900                         d++;
3901
3902                     if (*d++ == '-') {
3903                         const bool switches_done = PL_doswitches;
3904                         const U32 oldpdb = PL_perldb;
3905                         const bool oldn = PL_minus_n;
3906                         const bool oldp = PL_minus_p;
3907                         const char *d1 = d;
3908
3909                         do {
3910                             if (*d1 == 'M' || *d1 == 'm' || *d1 == 'C') {
3911                                 const char * const m = d1;
3912                                 while (*d1 && !isSPACE(*d1))
3913                                     d1++;
3914                                 Perl_croak(aTHX_ "Too late for \"-%.*s\" option",
3915                                       (int)(d1 - m), m);
3916                             }
3917                             d1 = moreswitches(d1);
3918                         } while (d1);
3919                         if (PL_doswitches && !switches_done) {
3920                             int argc = PL_origargc;
3921                             char **argv = PL_origargv;
3922                             do {
3923                                 argc--,argv++;
3924                             } while (argc && argv[0][0] == '-' && argv[0][1]);
3925                             init_argv_symbols(argc,argv);
3926                         }
3927                         if ((PERLDB_LINE && !oldpdb) ||
3928                             ((PL_minus_n || PL_minus_p) && !(oldn || oldp)))
3929                               /* if we have already added "LINE: while (<>) {",
3930                                  we must not do it again */
3931                         {
3932                             sv_setpvn(PL_linestr, "", 0);
3933                             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3934                             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3935                             PL_last_lop = PL_last_uni = NULL;
3936                             PL_preambled = FALSE;
3937                             if (PERLDB_LINE)
3938                                 (void)gv_fetchfile(PL_origfilename);
3939                             goto retry;
3940                         }
3941                     }
3942                 }
3943             }
3944         }
3945         if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
3946             PL_bufptr = s;
3947             PL_lex_state = LEX_FORMLINE;
3948             return yylex();
3949         }
3950         goto retry;
3951     case '\r':
3952 #ifdef PERL_STRICT_CR
3953         Perl_warn(aTHX_ "Illegal character \\%03o (carriage return)", '\r');
3954         Perl_croak(aTHX_
3955       "\t(Maybe you didn't strip carriage returns after a network transfer?)\n");
3956 #endif
3957     case ' ': case '\t': case '\f': case 013:
3958 #ifdef MACOS_TRADITIONAL
3959     case '\312':
3960 #endif
3961 #ifdef PERL_MAD
3962         PL_realtokenstart = -1;
3963         if (!PL_thiswhite)
3964             PL_thiswhite = newSVpvs("");
3965         sv_catpvn(PL_thiswhite, s, 1);
3966 #endif
3967         s++;
3968         goto retry;
3969     case '#':
3970     case '\n':
3971 #ifdef PERL_MAD
3972         PL_realtokenstart = -1;
3973         if (PL_madskills)
3974             PL_faketokens = 0;
3975 #endif
3976         if (PL_lex_state != LEX_NORMAL || (PL_in_eval && !PL_rsfp)) {
3977             if (*s == '#' && s == PL_linestart && PL_in_eval && !PL_rsfp) {
3978                 /* handle eval qq[#line 1 "foo"\n ...] */
3979                 CopLINE_dec(PL_curcop);
3980                 incline(s);
3981             }
3982             if (PL_madskills && !PL_lex_formbrack && !PL_in_eval) {
3983                 s = SKIPSPACE0(s);
3984                 if (!PL_in_eval || PL_rsfp)
3985                     incline(s);
3986             }
3987             else {
3988                 d = s;
3989                 while (d < PL_bufend && *d != '\n')
3990                     d++;
3991                 if (d < PL_bufend)
3992                     d++;
3993                 else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
3994                   Perl_croak(aTHX_ "panic: input overflow");
3995 #ifdef PERL_MAD
3996                 if (PL_madskills)
3997                     PL_thiswhite = newSVpvn(s, d - s);
3998 #endif
3999                 s = d;
4000                 incline(s);
4001             }
4002             if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
4003                 PL_bufptr = s;
4004                 PL_lex_state = LEX_FORMLINE;
4005                 return yylex();
4006             }
4007         }
4008         else {
4009 #ifdef PERL_MAD
4010             if (PL_madskills && CopLINE(PL_curcop) >= 1 && !PL_lex_formbrack) {
4011                 if (CopLINE(PL_curcop) == 1 && s[0] == '#' && s[1] == '!') {
4012                     PL_faketokens = 0;
4013                     s = SKIPSPACE0(s);
4014                     TOKEN(PEG); /* make sure any #! line is accessible */
4015                 }
4016                 s = SKIPSPACE0(s);
4017             }
4018             else {
4019 /*              if (PL_madskills && PL_lex_formbrack) { */
4020                     d = s;
4021                     while (d < PL_bufend && *d != '\n')
4022                         d++;
4023                     if (d < PL_bufend)
4024                         d++;
4025                     else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
4026                       Perl_croak(aTHX_ "panic: input overflow");
4027                     if (PL_madskills && CopLINE(PL_curcop) >= 1) {
4028                         if (!PL_thiswhite)
4029                             PL_thiswhite = newSVpvs("");
4030                         if (CopLINE(PL_curcop) == 1) {
4031                             sv_setpvn(PL_thiswhite, "", 0);
4032                             PL_faketokens = 0;
4033                         }
4034                         sv_catpvn(PL_thiswhite, s, d - s);
4035                     }
4036                     s = d;
4037 /*              }
4038                 *s = '\0';
4039                 PL_bufend = s; */
4040             }
4041 #else
4042             *s = '\0';
4043             PL_bufend = s;
4044 #endif
4045         }
4046         goto retry;
4047     case '-':
4048         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
4049             I32 ftst = 0;
4050             char tmp;
4051
4052             s++;
4053             PL_bufptr = s;
4054             tmp = *s++;
4055
4056             while (s < PL_bufend && SPACE_OR_TAB(*s))
4057                 s++;
4058
4059             if (strnEQ(s,"=>",2)) {
4060                 s = force_word(PL_bufptr,WORD,FALSE,FALSE,FALSE);
4061                 DEBUG_T( { printbuf("### Saw unary minus before =>, forcing word %s\n", s); } );
4062                 OPERATOR('-');          /* unary minus */
4063             }
4064             PL_last_uni = PL_oldbufptr;
4065             switch (tmp) {
4066             case 'r': ftst = OP_FTEREAD;        break;
4067             case 'w': ftst = OP_FTEWRITE;       break;
4068             case 'x': ftst = OP_FTEEXEC;        break;
4069             case 'o': ftst = OP_FTEOWNED;       break;
4070             case 'R': ftst = OP_FTRREAD;        break;
4071             case 'W': ftst = OP_FTRWRITE;       break;
4072             case 'X': ftst = OP_FTREXEC;        break;
4073             case 'O': ftst = OP_FTROWNED;       break;
4074             case 'e': ftst = OP_FTIS;           break;
4075             case 'z': ftst = OP_FTZERO;         break;
4076             case 's': ftst = OP_FTSIZE;         break;
4077             case 'f': ftst = OP_FTFILE;         break;
4078             case 'd': ftst = OP_FTDIR;          break;
4079             case 'l': ftst = OP_FTLINK;         break;
4080             case 'p': ftst = OP_FTPIPE;         break;
4081             case 'S': ftst = OP_FTSOCK;         break;
4082             case 'u': ftst = OP_FTSUID;         break;
4083             case 'g': ftst = OP_FTSGID;         break;
4084             case 'k': ftst = OP_FTSVTX;         break;
4085             case 'b': ftst = OP_FTBLK;          break;
4086             case 'c': ftst = OP_FTCHR;          break;
4087             case 't': ftst = OP_FTTTY;          break;
4088             case 'T': ftst = OP_FTTEXT;         break;
4089             case 'B': ftst = OP_FTBINARY;       break;
4090             case 'M': case 'A': case 'C':
4091                 gv_fetchpvs("\024", GV_ADD|GV_NOTQUAL, SVt_PV);
4092                 switch (tmp) {
4093                 case 'M': ftst = OP_FTMTIME;    break;
4094                 case 'A': ftst = OP_FTATIME;    break;
4095                 case 'C': ftst = OP_FTCTIME;    break;
4096                 default:                        break;
4097                 }
4098                 break;
4099             default:
4100                 break;
4101             }
4102             if (ftst) {
4103                 PL_last_lop_op = (OPCODE)ftst;
4104                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
4105                         "### Saw file test %c\n", (int)tmp);
4106                 } );
4107                 FTST(ftst);
4108             }
4109             else {
4110                 /* Assume it was a minus followed by a one-letter named
4111                  * subroutine call (or a -bareword), then. */
4112                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
4113                         "### '-%c' looked like a file test but was not\n",
4114                         (int) tmp);
4115                 } );
4116                 s = --PL_bufptr;
4117             }
4118         }
4119         {
4120             const char tmp = *s++;
4121             if (*s == tmp) {
4122                 s++;
4123                 if (PL_expect == XOPERATOR)
4124                     TERM(POSTDEC);
4125                 else
4126                     OPERATOR(PREDEC);
4127             }
4128             else if (*s == '>') {
4129                 s++;
4130                 s = SKIPSPACE1(s);
4131                 if (isIDFIRST_lazy_if(s,UTF)) {
4132                     s = force_word(s,METHOD,FALSE,TRUE,FALSE);
4133                     TOKEN(ARROW);
4134                 }
4135                 else if (*s == '$')
4136                     OPERATOR(ARROW);
4137                 else
4138                     TERM(ARROW);
4139             }
4140             if (PL_expect == XOPERATOR)
4141                 Aop(OP_SUBTRACT);
4142             else {
4143                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
4144                     check_uni();
4145                 OPERATOR('-');          /* unary minus */
4146             }
4147         }
4148
4149     case '+':
4150         {
4151             const char tmp = *s++;
4152             if (*s == tmp) {
4153                 s++;
4154                 if (PL_expect == XOPERATOR)
4155                     TERM(POSTINC);
4156                 else
4157                     OPERATOR(PREINC);
4158             }
4159             if (PL_expect == XOPERATOR)
4160                 Aop(OP_ADD);
4161             else {
4162                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
4163                     check_uni();
4164                 OPERATOR('+');
4165             }
4166         }
4167
4168     case '*':
4169         if (PL_expect != XOPERATOR) {
4170             s = scan_ident(s, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
4171             PL_expect = XOPERATOR;
4172             force_ident(PL_tokenbuf, '*');
4173             if (!*PL_tokenbuf)
4174                 PREREF('*');
4175             TERM('*');
4176         }
4177         s++;
4178         if (*s == '*') {
4179             s++;
4180             PWop(OP_POW);
4181         }
4182         Mop(OP_MULTIPLY);
4183
4184     case '%':
4185         if (PL_expect == XOPERATOR) {
4186             ++s;
4187             Mop(OP_MODULO);
4188         }
4189         PL_tokenbuf[0] = '%';
4190         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1,
4191                 sizeof PL_tokenbuf - 1, FALSE);
4192         if (!PL_tokenbuf[1]) {
4193             PREREF('%');
4194         }
4195         PL_pending_ident = '%';
4196         TERM('%');
4197
4198     case '^':
4199         s++;
4200         BOop(OP_BIT_XOR);
4201     case '[':
4202         PL_lex_brackets++;
4203         /* FALL THROUGH */
4204     case '~':
4205         if (s[1] == '~'
4206             && (PL_expect == XOPERATOR || PL_expect == XTERMORDORDOR))
4207         {
4208             s += 2;
4209             Eop(OP_SMARTMATCH);
4210         }
4211     case ',':
4212         {
4213             const char tmp = *s++;
4214             OPERATOR(tmp);
4215         }
4216     case ':':
4217         if (s[1] == ':') {
4218             len = 0;
4219             goto just_a_word_zero_gv;
4220         }
4221         s++;
4222         switch (PL_expect) {
4223             OP *attrs;
4224 #ifdef PERL_MAD
4225             I32 stuffstart;
4226 #endif
4227         case XOPERATOR:
4228             if (!PL_in_my || PL_lex_state != LEX_NORMAL)
4229                 break;
4230             PL_bufptr = s;      /* update in case we back off */
4231             goto grabattrs;
4232         case XATTRBLOCK:
4233             PL_expect = XBLOCK;
4234             goto grabattrs;
4235         case XATTRTERM:
4236             PL_expect = XTERMBLOCK;
4237          grabattrs:
4238 #ifdef PERL_MAD
4239             stuffstart = s - SvPVX(PL_linestr) - 1;
4240 #endif
4241             s = PEEKSPACE(s);
4242             attrs = NULL;
4243             while (isIDFIRST_lazy_if(s,UTF)) {
4244                 I32 tmp;
4245                 SV *sv;
4246                 d = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
4247                 if (isLOWER(*s) && (tmp = keyword(PL_tokenbuf, len, 0))) {
4248                     if (tmp < 0) tmp = -tmp;
4249                     switch (tmp) {
4250                     case KEY_or:
4251                     case KEY_and:
4252                     case KEY_for:
4253                     case KEY_unless:
4254                     case KEY_if:
4255                     case KEY_while:
4256                     case KEY_until:
4257                         goto got_attrs;
4258                     default:
4259                         break;
4260                     }
4261                 }
4262                 sv = newSVpvn(s, len);
4263                 if (*d == '(') {
4264                     d = scan_str(d,TRUE,TRUE);
4265                     if (!d) {
4266                         /* MUST advance bufptr here to avoid bogus
4267                            "at end of line" context messages from yyerror().
4268                          */
4269                         PL_bufptr = s + len;
4270                         yyerror("Unterminated attribute parameter in attribute list");
4271                         if (attrs)
4272                             op_free(attrs);
4273                         sv_free(sv);
4274                         return REPORT(0);       /* EOF indicator */
4275                     }
4276                 }
4277                 if (PL_lex_stuff) {
4278                     sv_catsv(sv, PL_lex_stuff);
4279                     attrs = append_elem(OP_LIST, attrs,
4280                                         newSVOP(OP_CONST, 0, sv));
4281                     SvREFCNT_dec(PL_lex_stuff);
4282                     PL_lex_stuff = NULL;
4283                 }
4284                 else {
4285                     if (len == 6 && strnEQ(SvPVX(sv), "unique", len)) {
4286                         sv_free(sv);
4287                         if (PL_in_my == KEY_our) {
4288 #ifdef USE_ITHREADS
4289                             GvUNIQUE_on(cGVOPx_gv(yylval.opval));
4290 #else
4291                             /* skip to avoid loading attributes.pm */
4292 #endif
4293                             deprecate(":unique");
4294                         }
4295                         else
4296                             Perl_croak(aTHX_ "The 'unique' attribute may only be applied to 'our' variables");
4297                     }
4298
4299                     /* NOTE: any CV attrs applied here need to be part of
4300                        the CVf_BUILTIN_ATTRS define in cv.h! */
4301                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "lvalue", len)) {
4302                         sv_free(sv);
4303                         CvLVALUE_on(PL_compcv);
4304                     }
4305                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "locked", len)) {
4306                         sv_free(sv);
4307                         CvLOCKED_on(PL_compcv);
4308                     }
4309                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "method", len)) {
4310                         sv_free(sv);
4311                         CvMETHOD_on(PL_compcv);
4312                     }
4313                     /* After we've set the flags, it could be argued that
4314                        we don't need to do the attributes.pm-based setting
4315                        process, and shouldn't bother appending recognized
4316                        flags.  To experiment with that, uncomment the
4317                        following "else".  (Note that's already been
4318                        uncommented.  That keeps the above-applied built-in
4319                        attributes from being intercepted (and possibly
4320                        rejected) by a package's attribute routines, but is
4321                        justified by the performance win for the common case
4322                        of applying only built-in attributes.) */
4323                     else
4324                         attrs = append_elem(OP_LIST, attrs,
4325                                             newSVOP(OP_CONST, 0,
4326                                                     sv));
4327                 }
4328                 s = PEEKSPACE(d);
4329                 if (*s == ':' && s[1] != ':')
4330                     s = PEEKSPACE(s+1);
4331                 else if (s == d)
4332                     break;      /* require real whitespace or :'s */
4333                 /* XXX losing whitespace on sequential attributes here */
4334             }
4335             {
4336                 const char tmp
4337                     = (PL_expect == XOPERATOR ? '=' : '{'); /*'}(' for vi */
4338                 if (*s != ';' && *s != '}' && *s != tmp
4339                     && (tmp != '=' || *s != ')')) {
4340                     const char q = ((*s == '\'') ? '"' : '\'');
4341                     /* If here for an expression, and parsed no attrs, back
4342                        off. */
4343                     if (tmp == '=' && !attrs) {
4344                         s = PL_bufptr;
4345                         break;
4346                     }
4347                     /* MUST advance bufptr here to avoid bogus "at end of line"
4348                        context messages from yyerror().
4349                     */
4350                     PL_bufptr = s;
4351                     yyerror( (const char *)
4352                              (*s
4353                               ? Perl_form(aTHX_ "Invalid separator character "
4354                                           "%c%c%c in attribute list", q, *s, q)
4355                               : "Unterminated attribute list" ) );
4356                     if (attrs)
4357                         op_free(attrs);
4358                     OPERATOR(':');
4359                 }
4360             }
4361         got_attrs:
4362             if (attrs) {
4363                 start_force(PL_curforce);
4364                 NEXTVAL_NEXTTOKE.opval = attrs;
4365                 CURMAD('_', PL_nextwhite);
4366                 force_next(THING);
4367             }
4368 #ifdef PERL_MAD
4369             if (PL_madskills) {
4370                 PL_thistoken = newSVpvn(SvPVX(PL_linestr) + stuffstart,
4371                                      (s - SvPVX(PL_linestr)) - stuffstart);
4372             }
4373 #endif
4374             TOKEN(COLONATTR);
4375         }
4376         OPERATOR(':');
4377     case '(':
4378         s++;
4379         if (PL_last_lop == PL_oldoldbufptr || PL_last_uni == PL_oldoldbufptr)
4380             PL_oldbufptr = PL_oldoldbufptr;             /* allow print(STDOUT 123) */
4381         else
4382             PL_expect = XTERM;
4383         s = SKIPSPACE1(s);
4384         TOKEN('(');
4385     case ';':
4386         CLINE;
4387         {
4388             const char tmp = *s++;
4389             OPERATOR(tmp);
4390         }
4391     case ')':
4392         {
4393             const char tmp = *s++;
4394             s = SKIPSPACE1(s);
4395             if (*s == '{')
4396                 PREBLOCK(tmp);
4397             TERM(tmp);
4398         }
4399     case ']':
4400         s++;
4401         if (PL_lex_brackets <= 0)
4402             yyerror("Unmatched right square bracket");
4403         else
4404             --PL_lex_brackets;
4405         if (PL_lex_state == LEX_INTERPNORMAL) {
4406             if (PL_lex_brackets == 0) {
4407                 if (*s == '-' && s[1] == '>')
4408                     PL_lex_state = LEX_INTERPENDMAYBE;
4409                 else if (*s != '[' && *s !=&nb