perl5.002beta3
[perl.git] / toke.c
1 /*    toke.c
2  *
3  *    Copyright (c) 1991-1994, Larry Wall
4  *
5  *    You may distribute under the terms of either the GNU General Public
6  *    License or the Artistic License, as specified in the README file.
7  *
8  */
9
10 /*
11  *   "It all comes from here, the stench and the peril."  --Frodo
12  */
13
14 #include "EXTERN.h"
15 #include "perl.h"
16
17 static void check_uni _((void));
18 static void  force_next _((I32 type));
19 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
20 static SV *q _((SV *sv));
21 static char *scan_const _((char *start));
22 static char *scan_formline _((char *s));
23 static char *scan_heredoc _((char *s));
24 static char *scan_ident _((char *s, char *send, char *dest, I32 ck_uni));
25 static char *scan_inputsymbol _((char *start));
26 static char *scan_pat _((char *start));
27 static char *scan_str _((char *start));
28 static char *scan_subst _((char *start));
29 static char *scan_trans _((char *start));
30 static char *scan_word _((char *s, char *dest, int allow_package, STRLEN *slp));
31 static char *skipspace _((char *s));
32 static void checkcomma _((char *s, char *name, char *what));
33 static void force_ident _((char *s, int kind));
34 static void incline _((char *s));
35 static int intuit_method _((char *s, GV *gv));
36 static int intuit_more _((char *s));
37 static I32 lop _((I32 f, expectation x, char *s));
38 static void missingterm _((char *s));
39 static void no_op _((char *what, char *s));
40 static void set_csh _((void));
41 static I32 sublex_done _((void));
42 static I32 sublex_start _((void));
43 #ifdef CRIPPLED_CC
44 static int uni _((I32 f, char *s));
45 #endif
46 static char * filter_gets _((SV *sv, FILE *fp));
47
48 /* The following are arranged oddly so that the guard on the switch statement
49  * can get by with a single comparison (if the compiler is smart enough).
50  */
51
52 #define LEX_NORMAL              9
53 #define LEX_INTERPNORMAL        8
54 #define LEX_INTERPCASEMOD       7
55 #define LEX_INTERPSTART         6
56 #define LEX_INTERPEND           5
57 #define LEX_INTERPENDMAYBE      4
58 #define LEX_INTERPCONCAT        3
59 #define LEX_INTERPCONST         2
60 #define LEX_FORMLINE            1
61 #define LEX_KNOWNEXT            0
62
63 #ifdef I_FCNTL
64 #include <fcntl.h>
65 #endif
66 #ifdef I_SYS_FILE
67 #include <sys/file.h>
68 #endif
69
70 #ifdef ff_next
71 #undef ff_next
72 #endif
73
74 #include "keywords.h"
75
76 #ifdef CLINE
77 #undef CLINE
78 #endif
79 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
80
81 #define TOKEN(retval) return (bufptr = s,(int)retval)
82 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
83 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
84 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
85 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
86 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
87 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
88 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
89 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
90 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
91 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
92 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
93 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
94 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
95 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
96 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
97 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
98 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
99 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
100 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
101
102 /* This bit of chicanery makes a unary function followed by
103  * a parenthesis into a function with one argument, highest precedence.
104  */
105 #define UNI(f) return(yylval.ival = f, \
106         expect = XTERM, \
107         bufptr = s, \
108         last_uni = oldbufptr, \
109         last_lop_op = f, \
110         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
111
112 #define UNIBRACK(f) return(yylval.ival = f, \
113         bufptr = s, \
114         last_uni = oldbufptr, \
115         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
116
117 /* grandfather return to old style */
118 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
119
120 static int
121 ao(toketype)
122 int toketype;
123 {
124     if (*bufptr == '=') {
125         bufptr++;
126         if (toketype == ANDAND)
127             yylval.ival = OP_ANDASSIGN;
128         else if (toketype == OROR)
129             yylval.ival = OP_ORASSIGN;
130         toketype = ASSIGNOP;
131     }
132     return toketype;
133 }
134
135 static void
136 no_op(what, s)
137 char *what;
138 char *s;
139 {
140     char tmpbuf[128];
141     char *oldbp = bufptr;
142     bool is_first = (oldbufptr == SvPVX(linestr));
143     bufptr = s;
144     sprintf(tmpbuf, "%s found where operator expected", what);
145     yywarn(tmpbuf);
146     if (is_first)
147         warn("\t(Missing semicolon on previous line?)\n");
148     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
149         char *t;
150         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
151         if (t < bufptr && isSPACE(*t))
152             warn("\t(Do you need to predeclare %.*s?)\n",
153                 t - oldoldbufptr, oldoldbufptr);
154
155     }
156     else
157         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
158     bufptr = oldbp;
159 }
160
161 static void
162 missingterm(s)
163 char *s;
164 {
165     char tmpbuf[3];
166     char q;
167     if (s) {
168         char *nl = strrchr(s,'\n');
169         if (nl)
170             *nl = '\0';
171     }
172     else if (multi_close < 32 || multi_close == 127) {
173         *tmpbuf = '^';
174         tmpbuf[1] = multi_close ^ 64;
175         s = "\\n";
176         tmpbuf[2] = '\0';
177         s = tmpbuf;
178     }
179     else {
180         *tmpbuf = multi_close;
181         tmpbuf[1] = '\0';
182         s = tmpbuf;
183     }
184     q = strchr(s,'"') ? '\'' : '"';
185     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
186 }
187
188 void
189 deprecate(s)
190 char *s;
191 {
192     if (dowarn)
193         warn("Use of %s is deprecated", s);
194 }
195
196 static void
197 depcom()
198 {
199     deprecate("comma-less variable list");
200 }
201
202 void
203 lex_start(line)
204 SV *line;
205 {
206     char *s;
207     STRLEN len;
208
209     SAVEINT(lex_dojoin);
210     SAVEINT(lex_brackets);
211     SAVEINT(lex_fakebrack);
212     SAVEINT(lex_casemods);
213     SAVEINT(lex_starts);
214     SAVEINT(lex_state);
215     SAVESPTR(lex_inpat);
216     SAVEINT(lex_inwhat);
217     SAVEINT(curcop->cop_line);
218     SAVEPPTR(bufptr);
219     SAVEPPTR(bufend);
220     SAVEPPTR(oldbufptr);
221     SAVEPPTR(oldoldbufptr);
222     SAVESPTR(linestr);
223     SAVEPPTR(lex_brackstack);
224     SAVEPPTR(lex_casestack);
225     SAVESPTR(rsfp);
226
227     lex_state = LEX_NORMAL;
228     lex_defer = 0;
229     expect = XSTATE;
230     lex_brackets = 0;
231     lex_fakebrack = 0;
232     New(899, lex_brackstack, 120, char);
233     New(899, lex_casestack, 12, char);
234     SAVEFREEPV(lex_brackstack);
235     SAVEFREEPV(lex_casestack);
236     lex_casemods = 0;
237     *lex_casestack = '\0';
238     lex_dojoin = 0;
239     lex_starts = 0;
240     if (lex_stuff)
241         SvREFCNT_dec(lex_stuff);
242     lex_stuff = Nullsv;
243     if (lex_repl)
244         SvREFCNT_dec(lex_repl);
245     lex_repl = Nullsv;
246     lex_inpat = 0;
247     lex_inwhat = 0;
248     linestr = line;
249     if (SvREADONLY(linestr))
250         linestr = sv_2mortal(newSVsv(linestr));
251     s = SvPV(linestr, len);
252     if (len && s[len-1] != ';') {
253         if (!(SvFLAGS(linestr) & SVs_TEMP))
254             linestr = sv_2mortal(newSVsv(linestr));
255         sv_catpvn(linestr, "\n;", 2);
256     }
257     SvTEMP_off(linestr);
258     oldoldbufptr = oldbufptr = bufptr = SvPVX(linestr);
259     bufend = bufptr + SvCUR(linestr);
260     SvREFCNT_dec(rs);
261     rs = newSVpv("\n", 1);
262     rsfp = 0;
263 }
264
265 void
266 lex_end()
267 {
268 }
269
270 static void
271 incline(s)
272 char *s;
273 {
274     char *t;
275     char *n;
276     char ch;
277     int sawline = 0;
278
279     curcop->cop_line++;
280     if (*s++ != '#')
281         return;
282     while (*s == ' ' || *s == '\t') s++;
283     if (strnEQ(s, "line ", 5)) {
284         s += 5;
285         sawline = 1;
286     }
287     if (!isDIGIT(*s))
288         return;
289     n = s;
290     while (isDIGIT(*s))
291         s++;
292     while (*s == ' ' || *s == '\t')
293         s++;
294     if (*s == '"' && (t = strchr(s+1, '"')))
295         s++;
296     else {
297         if (!sawline)
298             return;             /* false alarm */
299         for (t = s; !isSPACE(*t); t++) ;
300     }
301     ch = *t;
302     *t = '\0';
303     if (t - s > 0)
304         curcop->cop_filegv = gv_fetchfile(s);
305     else
306         curcop->cop_filegv = gv_fetchfile(origfilename);
307     *t = ch;
308     curcop->cop_line = atoi(n)-1;
309 }
310
311 static char *
312 skipspace(s)
313 register char *s;
314 {
315     if (lex_formbrack && lex_brackets <= lex_formbrack) {
316         while (s < bufend && (*s == ' ' || *s == '\t'))
317             s++;
318         return s;
319     }
320     for (;;) {
321         while (s < bufend && isSPACE(*s))
322             s++;
323         if (s < bufend && *s == '#') {
324             while (s < bufend && *s != '\n')
325                 s++;
326             if (s < bufend)
327                 s++;
328         }
329         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
330             return s;
331         if ((s = filter_gets(linestr, rsfp)) == Nullch) {
332             if (minus_n || minus_p) {
333                 sv_setpv(linestr,minus_p ? ";}continue{print" : "");
334                 sv_catpv(linestr,";}");
335                 minus_n = minus_p = 0;
336             }
337             else
338                 sv_setpv(linestr,";");
339             oldoldbufptr = oldbufptr = bufptr = s = SvPVX(linestr);
340             bufend = SvPVX(linestr) + SvCUR(linestr);
341             if (preprocess && !in_eval)
342                 (void)my_pclose(rsfp);
343             else if ((FILE*)rsfp == stdin)
344                 clearerr(stdin);
345             else
346                 (void)fclose(rsfp);
347             rsfp = Nullfp;
348             return s;
349         }
350         oldoldbufptr = oldbufptr = bufptr = s;
351         bufend = bufptr + SvCUR(linestr);
352         incline(s);
353         if (perldb && curstash != debstash) {
354             SV *sv = NEWSV(85,0);
355
356             sv_upgrade(sv, SVt_PVMG);
357             sv_setsv(sv,linestr);
358             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
359         }
360     }
361 }
362
363 static void
364 check_uni() {
365     char *s;
366     char ch;
367     char *t;
368
369     if (oldoldbufptr != last_uni)
370         return;
371     while (isSPACE(*last_uni))
372         last_uni++;
373     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
374     if ((t = strchr(s, '(')) && t < bufptr)
375         return;
376     ch = *s;
377     *s = '\0';
378     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
379     *s = ch;
380 }
381
382 #ifdef CRIPPLED_CC
383
384 #undef UNI
385 #define UNI(f) return uni(f,s)
386
387 static int
388 uni(f,s)
389 I32 f;
390 char *s;
391 {
392     yylval.ival = f;
393     expect = XTERM;
394     bufptr = s;
395     last_uni = oldbufptr;
396     last_lop_op = f;
397     if (*s == '(')
398         return FUNC1;
399     s = skipspace(s);
400     if (*s == '(')
401         return FUNC1;
402     else
403         return UNIOP;
404 }
405
406 #endif /* CRIPPLED_CC */
407
408 #define LOP(f,x) return lop(f,x,s)
409
410 static I32
411 lop(f,x,s)
412 I32 f;
413 expectation x;
414 char *s;
415 {
416     yylval.ival = f;
417     CLINE;
418     expect = x;
419     bufptr = s;
420     last_lop = oldbufptr;
421     last_lop_op = f;
422     if (nexttoke)
423         return LSTOP;
424     if (*s == '(')
425         return FUNC;
426     s = skipspace(s);
427     if (*s == '(')
428         return FUNC;
429     else
430         return LSTOP;
431 }
432
433 static void 
434 force_next(type)
435 I32 type;
436 {
437     nexttype[nexttoke] = type;
438     nexttoke++;
439     if (lex_state != LEX_KNOWNEXT) {
440         lex_defer = lex_state;
441         lex_expect = expect;
442         lex_state = LEX_KNOWNEXT;
443     }
444 }
445
446 static char *
447 force_word(start,token,check_keyword,allow_pack,allow_tick)
448 register char *start;
449 int token;
450 int check_keyword;
451 int allow_pack;
452 int allow_tick;
453 {
454     register char *s;
455     STRLEN len;
456     
457     start = skipspace(start);
458     s = start;
459     if (isIDFIRST(*s) ||
460         (allow_pack && *s == ':') ||
461         (allow_tick && *s == '\'') )
462     {
463         s = scan_word(s, tokenbuf, allow_pack, &len);
464         if (check_keyword && keyword(tokenbuf, len))
465             return start;
466         if (token == METHOD) {
467             s = skipspace(s);
468             if (*s == '(')
469                 expect = XTERM;
470             else {
471                 expect = XOPERATOR;
472                 force_next(')');
473                 force_next('(');
474             }
475         }
476         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
477         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
478         force_next(token);
479     }
480     return s;
481 }
482
483 static void
484 force_ident(s, kind)
485 register char *s;
486 int kind;
487 {
488     if (s && *s) {
489         OP* op = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
490         nextval[nexttoke].opval = op;
491         force_next(WORD);
492         if (kind) {
493             op->op_private = OPpCONST_ENTERED;
494             gv_fetchpv(s, TRUE,
495                 kind == '$' ? SVt_PV :
496                 kind == '@' ? SVt_PVAV :
497                 kind == '%' ? SVt_PVHV :
498                               SVt_PVGV
499                 );
500         }
501     }
502 }
503
504 static SV *
505 q(sv)
506 SV *sv;
507 {
508     register char *s;
509     register char *send;
510     register char *d;
511     STRLEN len;
512
513     if (!SvLEN(sv))
514         return sv;
515
516     s = SvPV_force(sv, len);
517     if (SvIVX(sv) == -1)
518         return sv;
519     send = s + len;
520     while (s < send && *s != '\\')
521         s++;
522     if (s == send)
523         return sv;
524     d = s;
525     while (s < send) {
526         if (*s == '\\') {
527             if (s + 1 < send && (s[1] == '\\'))
528                 s++;            /* all that, just for this */
529         }
530         *d++ = *s++;
531     }
532     *d = '\0';
533     SvCUR_set(sv, d - SvPVX(sv));
534
535     return sv;
536 }
537
538 static I32
539 sublex_start()
540 {
541     register I32 op_type = yylval.ival;
542
543     if (op_type == OP_NULL) {
544         yylval.opval = lex_op;
545         lex_op = Nullop;
546         return THING;
547     }
548     if (op_type == OP_CONST || op_type == OP_READLINE) {
549         yylval.opval = (OP*)newSVOP(op_type, 0, q(lex_stuff));
550         lex_stuff = Nullsv;
551         return THING;
552     }
553
554     push_scope();
555     SAVEINT(lex_dojoin);
556     SAVEINT(lex_brackets);
557     SAVEINT(lex_fakebrack);
558     SAVEINT(lex_casemods);
559     SAVEINT(lex_starts);
560     SAVEINT(lex_state);
561     SAVESPTR(lex_inpat);
562     SAVEINT(lex_inwhat);
563     SAVEINT(curcop->cop_line);
564     SAVEPPTR(bufptr);
565     SAVEPPTR(oldbufptr);
566     SAVEPPTR(oldoldbufptr);
567     SAVESPTR(linestr);
568     SAVEPPTR(lex_brackstack);
569     SAVEPPTR(lex_casestack);
570
571     linestr = lex_stuff;
572     lex_stuff = Nullsv;
573
574     bufend = bufptr = oldbufptr = oldoldbufptr = SvPVX(linestr);
575     bufend += SvCUR(linestr);
576     SAVEFREESV(linestr);
577
578     lex_dojoin = FALSE;
579     lex_brackets = 0;
580     lex_fakebrack = 0;
581     New(899, lex_brackstack, 120, char);
582     New(899, lex_casestack, 12, char);
583     SAVEFREEPV(lex_brackstack);
584     SAVEFREEPV(lex_casestack);
585     lex_casemods = 0;
586     *lex_casestack = '\0';
587     lex_starts = 0;
588     lex_state = LEX_INTERPCONCAT;
589     curcop->cop_line = multi_start;
590
591     lex_inwhat = op_type;
592     if (op_type == OP_MATCH || op_type == OP_SUBST)
593         lex_inpat = lex_op;
594     else
595         lex_inpat = 0;
596
597     expect = XTERM;
598     force_next('(');
599     if (lex_op) {
600         yylval.opval = lex_op;
601         lex_op = Nullop;
602         return PMFUNC;
603     }
604     else
605         return FUNC;
606 }
607
608 static I32
609 sublex_done()
610 {
611     if (!lex_starts++) {
612         expect = XOPERATOR;
613         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
614         return THING;
615     }
616
617     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
618         lex_state = LEX_INTERPCASEMOD;
619         return yylex();
620     }
621
622     /* Is there a right-hand side to take care of? */
623     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
624         linestr = lex_repl;
625         lex_inpat = 0;
626         bufend = bufptr = oldbufptr = oldoldbufptr = SvPVX(linestr);
627         bufend += SvCUR(linestr);
628         SAVEFREESV(linestr);
629         lex_dojoin = FALSE;
630         lex_brackets = 0;
631         lex_fakebrack = 0;
632         lex_casemods = 0;
633         *lex_casestack = '\0';
634         lex_starts = 0;
635         if (SvCOMPILED(lex_repl)) {
636             lex_state = LEX_INTERPNORMAL;
637             lex_starts++;
638         }
639         else
640             lex_state = LEX_INTERPCONCAT;
641         lex_repl = Nullsv;
642         return ',';
643     }
644     else {
645         pop_scope();
646         bufend = SvPVX(linestr);
647         bufend += SvCUR(linestr);
648         expect = XOPERATOR;
649         return ')';
650     }
651 }
652
653 static char *
654 scan_const(start)
655 char *start;
656 {
657     register char *send = bufend;
658     SV *sv = NEWSV(93, send - start);
659     register char *s = start;
660     register char *d = SvPVX(sv);
661     bool dorange = FALSE;
662     I32 len;
663     char *leave =
664         lex_inpat
665             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
666             : (lex_inwhat & OP_TRANS)
667                 ? ""
668                 : "";
669
670     while (s < send || dorange) {
671         if (lex_inwhat == OP_TRANS) {
672             if (dorange) {
673                 I32 i;
674                 I32 max;
675                 i = d - SvPVX(sv);
676                 SvGROW(sv, SvLEN(sv) + 256);
677                 d = SvPVX(sv) + i;
678                 d -= 2;
679                 max = (U8)d[1];
680                 for (i = (U8)*d; i <= max; i++)
681                     *d++ = i;
682                 dorange = FALSE;
683                 continue;
684             }
685             else if (*s == '-' && s+1 < send  && s != start) {
686                 dorange = TRUE;
687                 s++;
688             }
689         }
690         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
691             while (s < send && *s != ')')
692                 *d++ = *s++;
693         }
694         else if (*s == '#' && lex_inpat &&
695           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
696             while (s+1 < send && *s != '\n')
697                 *d++ = *s++;
698         }
699         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
700             break;
701         else if (*s == '$') {
702             if (!lex_inpat)     /* not a regexp, so $ must be var */
703                 break;
704             if (s + 1 < send && !strchr(")| \n\t", s[1]))
705                 break;          /* in regexp, $ might be tail anchor */
706         }
707         if (*s == '\\' && s+1 < send) {
708             s++;
709             if (*s && strchr(leave, *s)) {
710                 *d++ = '\\';
711                 *d++ = *s++;
712                 continue;
713             }
714             if (lex_inwhat == OP_SUBST && !lex_inpat &&
715                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
716             {
717                 if (dowarn)
718                     warn("\\%c better written as $%c", *s, *s);
719                 *--s = '$';
720                 break;
721             }
722             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
723                 --s;
724                 break;
725             }
726             switch (*s) {
727             case '-':
728                 if (lex_inwhat == OP_TRANS) {
729                     *d++ = *s++;
730                     continue;
731                 }
732                 /* FALL THROUGH */
733             default:
734                 *d++ = *s++;
735                 continue;
736             case '0': case '1': case '2': case '3':
737             case '4': case '5': case '6': case '7':
738                 *d++ = scan_oct(s, 3, &len);
739                 s += len;
740                 continue;
741             case 'x':
742                 *d++ = scan_hex(++s, 2, &len);
743                 s += len;
744                 continue;
745             case 'c':
746                 s++;
747                 *d = *s++;
748                 if (isLOWER(*d))
749                     *d = toUPPER(*d);
750                 *d++ ^= 64;
751                 continue;
752             case 'b':
753                 *d++ = '\b';
754                 break;
755             case 'n':
756                 *d++ = '\n';
757                 break;
758             case 'r':
759                 *d++ = '\r';
760                 break;
761             case 'f':
762                 *d++ = '\f';
763                 break;
764             case 't':
765                 *d++ = '\t';
766                 break;
767             case 'e':
768                 *d++ = '\033';
769                 break;
770             case 'a':
771                 *d++ = '\007';
772                 break;
773             }
774             s++;
775             continue;
776         }
777         *d++ = *s++;
778     }
779     *d = '\0';
780     SvCUR_set(sv, d - SvPVX(sv));
781     SvPOK_on(sv);
782
783     if (SvCUR(sv) + 5 < SvLEN(sv)) {
784         SvLEN_set(sv, SvCUR(sv) + 1);
785         Renew(SvPVX(sv), SvLEN(sv), char);
786     }
787     if (s > bufptr)
788         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
789     else
790         SvREFCNT_dec(sv);
791     return s;
792 }
793
794 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
795 static int
796 intuit_more(s)
797 register char *s;
798 {
799     if (lex_brackets)
800         return TRUE;
801     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
802         return TRUE;
803     if (*s != '{' && *s != '[')
804         return FALSE;
805     if (!lex_inpat)
806         return TRUE;
807
808     /* In a pattern, so maybe we have {n,m}. */
809     if (*s == '{') {
810         s++;
811         if (!isDIGIT(*s))
812             return TRUE;
813         while (isDIGIT(*s))
814             s++;
815         if (*s == ',')
816             s++;
817         while (isDIGIT(*s))
818             s++;
819         if (*s == '}')
820             return FALSE;
821         return TRUE;
822         
823     }
824
825     /* On the other hand, maybe we have a character class */
826
827     s++;
828     if (*s == ']' || *s == '^')
829         return FALSE;
830     else {
831         int weight = 2;         /* let's weigh the evidence */
832         char seen[256];
833         unsigned char un_char = 0, last_un_char;
834         char *send = strchr(s,']');
835         char tmpbuf[512];
836
837         if (!send)              /* has to be an expression */
838             return TRUE;
839
840         Zero(seen,256,char);
841         if (*s == '$')
842             weight -= 3;
843         else if (isDIGIT(*s)) {
844             if (s[1] != ']') {
845                 if (isDIGIT(s[1]) && s[2] == ']')
846                     weight -= 10;
847             }
848             else
849                 weight -= 100;
850         }
851         for (; s < send; s++) {
852             last_un_char = un_char;
853             un_char = (unsigned char)*s;
854             switch (*s) {
855             case '@':
856             case '&':
857             case '$':
858                 weight -= seen[un_char] * 10;
859                 if (isALNUM(s[1])) {
860                     scan_ident(s,send,tmpbuf,FALSE);
861                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
862                         weight -= 100;
863                     else
864                         weight -= 10;
865                 }
866                 else if (*s == '$' && s[1] &&
867                   strchr("[#!%*<>()-=",s[1])) {
868                     if (/*{*/ strchr("])} =",s[2]))
869                         weight -= 10;
870                     else
871                         weight -= 1;
872                 }
873                 break;
874             case '\\':
875                 un_char = 254;
876                 if (s[1]) {
877                     if (strchr("wds]",s[1]))
878                         weight += 100;
879                     else if (seen['\''] || seen['"'])
880                         weight += 1;
881                     else if (strchr("rnftbxcav",s[1]))
882                         weight += 40;
883                     else if (isDIGIT(s[1])) {
884                         weight += 40;
885                         while (s[1] && isDIGIT(s[1]))
886                             s++;
887                     }
888                 }
889                 else
890                     weight += 100;
891                 break;
892             case '-':
893                 if (s[1] == '\\')
894                     weight += 50;
895                 if (strchr("aA01! ",last_un_char))
896                     weight += 30;
897                 if (strchr("zZ79~",s[1]))
898                     weight += 30;
899                 break;
900             default:
901                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
902                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
903                     char *d = tmpbuf;
904                     while (isALPHA(*s))
905                         *d++ = *s++;
906                     *d = '\0';
907                     if (keyword(tmpbuf, d - tmpbuf))
908                         weight -= 150;
909                 }
910                 if (un_char == last_un_char + 1)
911                     weight += 5;
912                 weight -= seen[un_char];
913                 break;
914             }
915             seen[un_char]++;
916         }
917         if (weight >= 0)        /* probably a character class */
918             return FALSE;
919     }
920
921     return TRUE;
922 }
923
924 static int
925 intuit_method(start,gv)
926 char *start;
927 GV *gv;
928 {
929     char *s = start + (*start == '$');
930     char tmpbuf[1024];
931     STRLEN len;
932     GV* indirgv;
933
934     if (gv) {
935         if (GvIO(gv))
936             return 0;
937         if (!GvCV(gv))
938             gv = 0;
939     }
940     s = scan_word(s, tmpbuf, TRUE, &len);
941     if (*start == '$') {
942         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
943             return 0;
944         s = skipspace(s);
945         bufptr = start;
946         expect = XREF;
947         return *s == '(' ? FUNCMETH : METHOD;
948     }
949     if (!keyword(tmpbuf, len)) {
950         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
951         if (indirgv && GvCV(indirgv))
952             return 0;
953         /* filehandle or package name makes it a method */
954         if (!gv || GvIO(indirgv) || gv_stashpv(tmpbuf, FALSE)) {
955             s = skipspace(s);
956             nextval[nexttoke].opval =
957                 (OP*)newSVOP(OP_CONST, 0,
958                             newSVpv(tmpbuf,0));
959             nextval[nexttoke].opval->op_private =
960                 OPpCONST_BARE;
961             expect = XTERM;
962             force_next(WORD);
963             bufptr = s;
964             return *s == '(' ? FUNCMETH : METHOD;
965         }
966     }
967     return 0;
968 }
969
970 static char*
971 incl_perldb()
972 {
973     if (perldb) {
974         char *pdb = getenv("PERL5DB");
975
976         if (pdb)
977             return pdb;
978         return "BEGIN { require 'perl5db.pl' }";
979     }
980     return "";
981 }
982
983
984 /* Encoded script support. filter_add() effectively inserts a
985  * 'pre-processing' function into the current source input stream. 
986  * Note that the filter function only applies to the current source file
987  * (e.g., it will not affect files 'require'd or 'use'd by this one).
988  *
989  * The datasv parameter (which may be NULL) can be used to pass
990  * private data to this instance of the filter. The filter function
991  * can recover the SV using the FILTER_DATA macro and use it to
992  * store private buffers and state information.
993  *
994  * The supplied datasv parameter is upgraded to a PVIO type
995  * and the IoDIRP field is used to store the function pointer.
996  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
997  * private use must be set using malloc'd pointers.
998  */
999 static int filter_debug = 0;
1000
1001 SV *
1002 filter_add(funcp, datasv)
1003     filter_t funcp;
1004     SV *datasv;
1005 {
1006     if (!funcp){ /* temporary handy debugging hack to be deleted */
1007         filter_debug = atoi((char*)datasv);
1008         return NULL;
1009     }
1010     if (!rsfp_filters)
1011         rsfp_filters = newAV();
1012     if (!datasv)
1013         datasv = newSV(0);
1014     if (!SvUPGRADE(datasv, SVt_PVIO))
1015         die("Can't upgrade filter_add data to SVt_PVIO");
1016     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1017     if (filter_debug)
1018         warn("filter_add func %lx (%s)", funcp, SvPV(datasv,na));
1019     av_unshift(rsfp_filters, 1);
1020     av_store(rsfp_filters, 0, datasv) ;
1021     return(datasv);
1022 }
1023  
1024
1025 /* Delete most recently added instance of this filter function. */
1026 void
1027 filter_del(funcp)
1028     filter_t funcp;
1029 {
1030     if (filter_debug)
1031         warn("filter_del func %lx", funcp);
1032     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1033         return;
1034     /* if filter is on top of stack (usual case) just pop it off */
1035     if (IoDIRP(FILTER_DATA(0)) == (void*)funcp){
1036         /* sv_free(av_pop(rsfp_filters)); */
1037         sv_free(av_shift(rsfp_filters));
1038
1039         return;
1040     }
1041     /* we need to search for the correct entry and clear it     */
1042     die("filter_del can only delete in reverse order (currently)");
1043 }
1044
1045
1046 /* Invoke the n'th filter function for the current rsfp.         */
1047 I32
1048 filter_read(idx, buf_sv, maxlen)
1049     int idx;
1050     SV *buf_sv;
1051     int maxlen;         /* 0 = read one text line */
1052 {
1053     filter_t funcp;
1054     SV *datasv = NULL;
1055
1056     if (!rsfp_filters)
1057         return -1;
1058     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1059         /* Provide a default input filter to make life easy.    */
1060         /* Note that we append to the line. This is handy.      */
1061         if (filter_debug)
1062             warn("filter_read %d: from rsfp\n", idx);
1063         if (maxlen) { 
1064             /* Want a block */
1065             int len ;
1066             int old_len = SvCUR(buf_sv) ;
1067
1068             /* ensure buf_sv is large enough */
1069             SvGROW(buf_sv, old_len + maxlen) ;
1070             if ((len = fread(SvPVX(buf_sv) + old_len, 1, maxlen, rsfp)) <= 0){
1071                 if (ferror(rsfp))
1072                     return -1;          /* error */
1073                 else
1074                     return 0 ;          /* end of file */
1075             }
1076             SvCUR_set(buf_sv, old_len + len) ;
1077         } else {
1078             /* Want a line */
1079             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1080                 if (ferror(rsfp))
1081                     return -1;          /* error */
1082                 else
1083                     return 0 ;          /* end of file */
1084             }
1085         }
1086         return SvCUR(buf_sv);
1087     }
1088     /* Skip this filter slot if filter has been deleted */
1089     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1090         if (filter_debug)
1091             warn("filter_read %d: skipped (filter deleted)\n", idx);
1092         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1093     }
1094     /* Get function pointer hidden within datasv        */
1095     funcp = (filter_t)IoDIRP(datasv);
1096     if (filter_debug)
1097         warn("filter_read %d: via function %lx (%s)\n",
1098                 idx, funcp, SvPV(datasv,na));
1099     /* Call function. The function is expected to       */
1100     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1101     /* Return: <0:error, =0:eof, >0:not eof             */
1102     return (*funcp)(idx, buf_sv, maxlen);
1103 }
1104
1105 static char *
1106 filter_gets(sv,fp)
1107 register SV *sv;
1108 register FILE *fp;
1109 {
1110     if (rsfp_filters) {
1111
1112         SvCUR_set(sv, 0);       /* start with empty line        */
1113         if (FILTER_READ(0, sv, 0) > 0)
1114             return ( SvPVX(sv) ) ;
1115         else
1116             return Nullch ;
1117     }
1118     else 
1119         return (sv_gets(sv, fp, 0)) ;
1120     
1121 }
1122
1123
1124 #ifdef DEBUGGING
1125     static char* exp_name[] =
1126         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1127 #endif
1128
1129 extern int yychar;              /* last token */
1130
1131 int
1132 yylex()
1133 {
1134     register char *s;
1135     register char *d;
1136     register I32 tmp;
1137     STRLEN len;
1138
1139     switch (lex_state) {
1140 #ifdef COMMENTARY
1141     case LEX_NORMAL:            /* Some compilers will produce faster */
1142     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1143         break;
1144 #endif
1145
1146     case LEX_KNOWNEXT:
1147         nexttoke--;
1148         yylval = nextval[nexttoke];
1149         if (!nexttoke) {
1150             lex_state = lex_defer;
1151             expect = lex_expect;
1152             lex_defer = LEX_NORMAL;
1153         }
1154         return(nexttype[nexttoke]);
1155
1156     case LEX_INTERPCASEMOD:
1157 #ifdef DEBUGGING
1158         if (bufptr != bufend && *bufptr != '\\')
1159             croak("panic: INTERPCASEMOD");
1160 #endif
1161         if (bufptr == bufend || bufptr[1] == 'E') {
1162             char oldmod;
1163             if (lex_casemods) {
1164                 oldmod = lex_casestack[--lex_casemods];
1165                 lex_casestack[lex_casemods] = '\0';
1166                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1167                     bufptr += 2;
1168                     lex_state = LEX_INTERPCONCAT;
1169                 }
1170                 return ')';
1171             }
1172             if (bufptr != bufend)
1173                 bufptr += 2;
1174             lex_state = LEX_INTERPCONCAT;
1175             return yylex();
1176         }
1177         else {
1178             s = bufptr + 1;
1179             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1180                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1181             if (strchr("LU", *s) &&
1182                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1183             {
1184                 lex_casestack[--lex_casemods] = '\0';
1185                 return ')';
1186             }
1187             if (lex_casemods > 10) {
1188                 char* newlb = (char*)realloc(lex_casestack, lex_casemods + 2);
1189                 if (newlb != lex_casestack) {
1190                     SAVEFREEPV(newlb);
1191                     lex_casestack = newlb;
1192                 }
1193             }
1194             lex_casestack[lex_casemods++] = *s;
1195             lex_casestack[lex_casemods] = '\0';
1196             lex_state = LEX_INTERPCONCAT;
1197             nextval[nexttoke].ival = 0;
1198             force_next('(');
1199             if (*s == 'l')
1200                 nextval[nexttoke].ival = OP_LCFIRST;
1201             else if (*s == 'u')
1202                 nextval[nexttoke].ival = OP_UCFIRST;
1203             else if (*s == 'L')
1204                 nextval[nexttoke].ival = OP_LC;
1205             else if (*s == 'U')
1206                 nextval[nexttoke].ival = OP_UC;
1207             else if (*s == 'Q')
1208                 nextval[nexttoke].ival = OP_QUOTEMETA;
1209             else
1210                 croak("panic: yylex");
1211             bufptr = s + 1;
1212             force_next(FUNC);
1213             if (lex_starts) {
1214                 s = bufptr;
1215                 lex_starts = 0;
1216                 Aop(OP_CONCAT);
1217             }
1218             else
1219                 return yylex();
1220         }
1221
1222     case LEX_INTERPSTART:
1223         if (bufptr == bufend)
1224             return sublex_done();
1225         expect = XTERM;
1226         lex_dojoin = (*bufptr == '@');
1227         lex_state = LEX_INTERPNORMAL;
1228         if (lex_dojoin) {
1229             nextval[nexttoke].ival = 0;
1230             force_next(',');
1231             force_ident("\"", '$');
1232             nextval[nexttoke].ival = 0;
1233             force_next('$');
1234             nextval[nexttoke].ival = 0;
1235             force_next('(');
1236             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1237             force_next(FUNC);
1238         }
1239         if (lex_starts++) {
1240             s = bufptr;
1241             Aop(OP_CONCAT);
1242         }
1243         else
1244             return yylex();
1245         break;
1246
1247     case LEX_INTERPENDMAYBE:
1248         if (intuit_more(bufptr)) {
1249             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1250             break;
1251         }
1252         /* FALL THROUGH */
1253
1254     case LEX_INTERPEND:
1255         if (lex_dojoin) {
1256             lex_dojoin = FALSE;
1257             lex_state = LEX_INTERPCONCAT;
1258             return ')';
1259         }
1260         /* FALLTHROUGH */
1261     case LEX_INTERPCONCAT:
1262 #ifdef DEBUGGING
1263         if (lex_brackets)
1264             croak("panic: INTERPCONCAT");
1265 #endif
1266         if (bufptr == bufend)
1267             return sublex_done();
1268
1269         if (SvIVX(linestr) == '\'') {
1270             SV *sv = newSVsv(linestr);
1271             if (!lex_inpat)
1272                 sv = q(sv);
1273             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1274             s = bufend;
1275         }
1276         else {
1277             s = scan_const(bufptr);
1278             if (*s == '\\')
1279                 lex_state = LEX_INTERPCASEMOD;
1280             else
1281                 lex_state = LEX_INTERPSTART;
1282         }
1283
1284         if (s != bufptr) {
1285             nextval[nexttoke] = yylval;
1286             expect = XTERM;
1287             force_next(THING);
1288             if (lex_starts++)
1289                 Aop(OP_CONCAT);
1290             else {
1291                 bufptr = s;
1292                 return yylex();
1293             }
1294         }
1295
1296         return yylex();
1297     case LEX_FORMLINE:
1298         lex_state = LEX_NORMAL;
1299         s = scan_formline(bufptr);
1300         if (!lex_formbrack)
1301             goto rightbracket;
1302         OPERATOR(';');
1303     }
1304
1305     s = bufptr;
1306     oldoldbufptr = oldbufptr;
1307     oldbufptr = s;
1308     DEBUG_p( {
1309         fprintf(stderr,"### Tokener expecting %s at %s\n", exp_name[expect], s);
1310     } )
1311
1312   retry:
1313     switch (*s) {
1314     default:
1315         warn("Unrecognized character \\%03o ignored", *s++ & 255);
1316         goto retry;
1317     case 4:
1318     case 26:
1319         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1320     case 0:
1321         if (!rsfp) {
1322             if (lex_brackets)
1323                 yyerror("Missing right bracket");
1324             TOKEN(0);
1325         }
1326         if (s++ < bufend)
1327             goto retry;                 /* ignore stray nulls */
1328         last_uni = 0;
1329         last_lop = 0;
1330         if (!in_eval && !preambled) {
1331             preambled = TRUE;
1332             sv_setpv(linestr,incl_perldb());
1333             if (SvCUR(linestr))
1334                 sv_catpv(linestr,";");
1335             if (preambleav){
1336                 while(AvFILL(preambleav) >= 0) {
1337                     SV *tmpsv = av_shift(preambleav);
1338                     sv_catsv(linestr, tmpsv);
1339                     sv_catpv(linestr, ";");
1340                     sv_free(tmpsv);
1341                 }
1342                 sv_free((SV*)preambleav);
1343                 preambleav = NULL;
1344             }
1345             if (minus_n || minus_p) {
1346                 sv_catpv(linestr, "LINE: while (<>) {");
1347                 if (minus_l)
1348                     sv_catpv(linestr,"chomp;");
1349                 if (minus_a){
1350                     if (minus_F){
1351                       char tmpbuf1[50];
1352                       if ( splitstr[0] == '/' || 
1353                            splitstr[0] == '\'' || 
1354                            splitstr[0] == '"' )
1355                             sprintf( tmpbuf1, "@F=split(%s);", splitstr );
1356                         else
1357                             sprintf( tmpbuf1, "@F=split('%s');", splitstr );
1358                         sv_catpv(linestr,tmpbuf1);
1359                     }
1360                     else
1361                         sv_catpv(linestr,"@F=split(' ');");
1362                 }
1363             }
1364             sv_catpv(linestr, "\n");
1365             oldoldbufptr = oldbufptr = s = SvPVX(linestr);
1366             bufend = SvPVX(linestr) + SvCUR(linestr);
1367             if (perldb && curstash != debstash) {
1368                 SV *sv = NEWSV(85,0);
1369
1370                 sv_upgrade(sv, SVt_PVMG);
1371                 sv_setsv(sv,linestr);
1372                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1373             }
1374             goto retry;
1375         }
1376         do {
1377             if ((s = filter_gets(linestr, rsfp)) == Nullch) {
1378               fake_eof:
1379                 if (rsfp) {
1380                     if (preprocess && !in_eval)
1381                         (void)my_pclose(rsfp);
1382                     else if ((FILE*)rsfp == stdin)
1383                         clearerr(stdin);
1384                     else
1385                         (void)fclose(rsfp);
1386                     rsfp = Nullfp;
1387                 }
1388                 if (!in_eval && (minus_n || minus_p)) {
1389                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1390                     sv_catpv(linestr,";}");
1391                     oldoldbufptr = oldbufptr = s = SvPVX(linestr);
1392                     bufend = SvPVX(linestr) + SvCUR(linestr);
1393                     minus_n = minus_p = 0;
1394                     goto retry;
1395                 }
1396                 oldoldbufptr = oldbufptr = s = SvPVX(linestr);
1397                 sv_setpv(linestr,"");
1398                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1399             }
1400             if (doextract) {
1401                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1402                     doextract = FALSE;
1403
1404                 /* Incest with pod. */
1405                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1406                     sv_setpv(linestr, "");
1407                     oldoldbufptr = oldbufptr = s = SvPVX(linestr);
1408                     bufend = SvPVX(linestr) + SvCUR(linestr);
1409                     doextract = FALSE;
1410                 }
1411             }
1412             incline(s);
1413         } while (doextract);
1414         oldoldbufptr = oldbufptr = bufptr = s;
1415         if (perldb && curstash != debstash) {
1416             SV *sv = NEWSV(85,0);
1417
1418             sv_upgrade(sv, SVt_PVMG);
1419             sv_setsv(sv,linestr);
1420             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1421         }
1422         bufend = SvPVX(linestr) + SvCUR(linestr);
1423         if (curcop->cop_line == 1) {
1424             while (s < bufend && isSPACE(*s))
1425                 s++;
1426             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1427                 s++;
1428             if (!in_eval && *s == '#' && s[1] == '!') {
1429                 d = instr(s,"perl -");
1430                 if (!d)
1431                     d = instr(s,"perl");
1432                 if (!d &&
1433                     !minus_c &&
1434                     !instr(s,"indir") &&
1435                     instr(origargv[0],"perl"))
1436                 {
1437                     char **newargv;
1438                     char *cmd;
1439
1440                     s += 2;
1441                     if (*s == ' ')
1442                         s++;
1443                     cmd = s;
1444                     while (s < bufend && !isSPACE(*s))
1445                         s++;
1446                     *s++ = '\0';
1447                     while (s < bufend && isSPACE(*s))
1448                         s++;
1449                     if (s < bufend) {
1450                         Newz(899,newargv,origargc+3,char*);
1451                         newargv[1] = s;
1452                         while (s < bufend && !isSPACE(*s))
1453                             s++;
1454                         *s = '\0';
1455                         Copy(origargv+1, newargv+2, origargc+1, char*);
1456                     }
1457                     else
1458                         newargv = origargv;
1459                     newargv[0] = cmd;
1460                     execv(cmd,newargv);
1461                     croak("Can't exec %s", cmd);
1462                 }
1463                 if (d) {
1464                     int oldpdb = perldb;
1465                     int oldn = minus_n;
1466                     int oldp = minus_p;
1467
1468                     while (*d && !isSPACE(*d)) d++;
1469                     while (*d == ' ') d++;
1470
1471                     if (*d++ == '-') {
1472                         while (d = moreswitches(d)) ;
1473                         if (perldb && !oldpdb ||
1474                             minus_n && !oldn ||
1475                             minus_p && !oldp)
1476                         {
1477                             sv_setpv(linestr, "");
1478                             oldoldbufptr = oldbufptr = s = SvPVX(linestr);
1479                             bufend = SvPVX(linestr) + SvCUR(linestr);
1480                             preambled = FALSE;
1481                             if (perldb)
1482                                 (void)gv_fetchfile(origfilename);
1483                             goto retry;
1484                         }
1485                     }
1486                 }
1487             }
1488         }
1489         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1490             bufptr = s;
1491             lex_state = LEX_FORMLINE;
1492             return yylex();
1493         }
1494         goto retry;
1495     case ' ': case '\t': case '\f': case '\r': case 013:
1496         s++;
1497         goto retry;
1498     case '#':
1499     case '\n':
1500         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1501             d = bufend;
1502             while (s < d && *s != '\n')
1503                 s++;
1504             if (s < d)
1505                 s++;
1506             incline(s);
1507             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1508                 bufptr = s;
1509                 lex_state = LEX_FORMLINE;
1510                 return yylex();
1511             }
1512         }
1513         else {
1514             *s = '\0';
1515             bufend = s;
1516         }
1517         goto retry;
1518     case '-':
1519         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1520             s++;
1521             bufptr = s;
1522             tmp = *s++;
1523
1524             while (s < bufend && (*s == ' ' || *s == '\t'))
1525                 s++;
1526
1527             if (strnEQ(s,"=>",2)) {
1528                 if (dowarn)
1529                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1530                         tmp, tmp);
1531                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1532                 OPERATOR('-');          /* unary minus */
1533             }
1534             last_uni = oldbufptr;
1535             last_lop_op = OP_FTEREAD;   /* good enough */
1536             switch (tmp) {
1537             case 'r': FTST(OP_FTEREAD);
1538             case 'w': FTST(OP_FTEWRITE);
1539             case 'x': FTST(OP_FTEEXEC);
1540             case 'o': FTST(OP_FTEOWNED);
1541             case 'R': FTST(OP_FTRREAD);
1542             case 'W': FTST(OP_FTRWRITE);
1543             case 'X': FTST(OP_FTREXEC);
1544             case 'O': FTST(OP_FTROWNED);
1545             case 'e': FTST(OP_FTIS);
1546             case 'z': FTST(OP_FTZERO);
1547             case 's': FTST(OP_FTSIZE);
1548             case 'f': FTST(OP_FTFILE);
1549             case 'd': FTST(OP_FTDIR);
1550             case 'l': FTST(OP_FTLINK);
1551             case 'p': FTST(OP_FTPIPE);
1552             case 'S': FTST(OP_FTSOCK);
1553             case 'u': FTST(OP_FTSUID);
1554             case 'g': FTST(OP_FTSGID);
1555             case 'k': FTST(OP_FTSVTX);
1556             case 'b': FTST(OP_FTBLK);
1557             case 'c': FTST(OP_FTCHR);
1558             case 't': FTST(OP_FTTTY);
1559             case 'T': FTST(OP_FTTEXT);
1560             case 'B': FTST(OP_FTBINARY);
1561             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1562             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1563             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1564             default:
1565                 croak("Unrecognized file test: -%c", tmp);
1566                 break;
1567             }
1568         }
1569         tmp = *s++;
1570         if (*s == tmp) {
1571             s++;
1572             if (expect == XOPERATOR)
1573                 TERM(POSTDEC);
1574             else
1575                 OPERATOR(PREDEC);
1576         }
1577         else if (*s == '>') {
1578             s++;
1579             s = skipspace(s);
1580             if (isIDFIRST(*s)) {
1581                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1582                 TOKEN(ARROW);
1583             }
1584             else if (*s == '$')
1585                 OPERATOR(ARROW);
1586             else
1587                 TERM(ARROW);
1588         }
1589         if (expect == XOPERATOR)
1590             Aop(OP_SUBTRACT);
1591         else {
1592             if (isSPACE(*s) || !isSPACE(*bufptr))
1593                 check_uni();
1594             OPERATOR('-');              /* unary minus */
1595         }
1596
1597     case '+':
1598         tmp = *s++;
1599         if (*s == tmp) {
1600             s++;
1601             if (expect == XOPERATOR)
1602                 TERM(POSTINC);
1603             else
1604                 OPERATOR(PREINC);
1605         }
1606         if (expect == XOPERATOR)
1607             Aop(OP_ADD);
1608         else {
1609             if (isSPACE(*s) || !isSPACE(*bufptr))
1610                 check_uni();
1611             OPERATOR('+');
1612         }
1613
1614     case '*':
1615         if (expect != XOPERATOR) {
1616             s = scan_ident(s, bufend, tokenbuf, TRUE);
1617             expect = XOPERATOR;
1618             force_ident(tokenbuf, '*');
1619             if (!*tokenbuf)
1620                 PREREF('*');
1621             TERM('*');
1622         }
1623         s++;
1624         if (*s == '*') {
1625             s++;
1626             PWop(OP_POW);
1627         }
1628         Mop(OP_MULTIPLY);
1629
1630     case '%':
1631         if (expect != XOPERATOR) {
1632             s = scan_ident(s, bufend, tokenbuf + 1, TRUE);
1633             if (tokenbuf[1]) {
1634                 expect = XOPERATOR;
1635                 tokenbuf[0] = '%';
1636                 if (in_my) {
1637                     if (strchr(tokenbuf,':'))
1638                         croak(no_myglob,tokenbuf);
1639                     nextval[nexttoke].opval = newOP(OP_PADANY, 0);
1640                     nextval[nexttoke].opval->op_targ = pad_allocmy(tokenbuf);
1641                     force_next(PRIVATEREF);
1642                     TERM('%');
1643                 }
1644                 if (!strchr(tokenbuf,':')) {
1645                     if (tmp = pad_findmy(tokenbuf)) {
1646                         nextval[nexttoke].opval = newOP(OP_PADANY, 0);
1647                         nextval[nexttoke].opval->op_targ = tmp;
1648                         force_next(PRIVATEREF);
1649                         TERM('%');
1650                     }
1651                 }
1652                 force_ident(tokenbuf + 1, *tokenbuf);
1653             }
1654             else
1655                 PREREF('%');
1656             TERM('%');
1657         }
1658         ++s;
1659         Mop(OP_MODULO);
1660
1661     case '^':
1662         s++;
1663         BOop(OP_BIT_XOR);
1664     case '[':
1665         lex_brackets++;
1666         /* FALL THROUGH */
1667     case '~':
1668     case ',':
1669         tmp = *s++;
1670         OPERATOR(tmp);
1671     case ':':
1672         if (s[1] == ':') {
1673             len = 0;
1674             goto just_a_word;
1675         }
1676         s++;
1677         OPERATOR(':');
1678     case '(':
1679         s++;
1680         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1681             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1682         else
1683             expect = XTERM;
1684         TOKEN('(');
1685     case ';':
1686         if (curcop->cop_line < copline)
1687             copline = curcop->cop_line;
1688         tmp = *s++;
1689         OPERATOR(tmp);
1690     case ')':
1691         tmp = *s++;
1692         s = skipspace(s);
1693         if (*s == '{')
1694             PREBLOCK(tmp);
1695         TERM(tmp);
1696     case ']':
1697         s++;
1698         if (lex_brackets <= 0)
1699             yyerror("Unmatched right bracket");
1700         else
1701             --lex_brackets;
1702         if (lex_state == LEX_INTERPNORMAL) {
1703             if (lex_brackets == 0) {
1704                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1705                     lex_state = LEX_INTERPEND;
1706             }
1707         }
1708         TERM(']');
1709     case '{':
1710       leftbracket:
1711         s++;
1712         if (lex_brackets > 100) {
1713             char* newlb = (char*)realloc(lex_brackstack, lex_brackets + 1);
1714             if (newlb != lex_brackstack) {
1715                 SAVEFREEPV(newlb);
1716                 lex_brackstack = newlb;
1717             }
1718         }
1719         switch (expect) {
1720         case XTERM:
1721             if (lex_formbrack) {
1722                 s--;
1723                 PRETERMBLOCK(DO);
1724             }
1725             if (oldoldbufptr == last_lop)
1726                 lex_brackstack[lex_brackets++] = XTERM;
1727             else
1728                 lex_brackstack[lex_brackets++] = XOPERATOR;
1729             OPERATOR(HASHBRACK);
1730             break;
1731         case XOPERATOR:
1732             while (s < bufend && (*s == ' ' || *s == '\t'))
1733                 s++;
1734             if (s < bufend && isALPHA(*s)) {
1735                 d = scan_word(s, tokenbuf, FALSE, &len);
1736                 while (d < bufend && (*d == ' ' || *d == '\t'))
1737                     d++;
1738                 if (*d == '}') {
1739                     if (dowarn &&
1740                       (keyword(tokenbuf, len) ||
1741                        perl_get_cv(tokenbuf, FALSE) ))
1742                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1743                             tokenbuf, tokenbuf);
1744                     s = force_word(s,WORD,FALSE,TRUE,FALSE);
1745                 }
1746             }
1747             /* FALL THROUGH */
1748         case XBLOCK:
1749             lex_brackstack[lex_brackets++] = XSTATE;
1750             expect = XSTATE;
1751             break;
1752         case XTERMBLOCK:
1753             lex_brackstack[lex_brackets++] = XOPERATOR;
1754             expect = XSTATE;
1755             break;
1756         default: {
1757                 char *t;
1758                 if (oldoldbufptr == last_lop)
1759                     lex_brackstack[lex_brackets++] = XTERM;
1760                 else
1761                     lex_brackstack[lex_brackets++] = XOPERATOR;
1762                 s = skipspace(s);
1763                 if (*s == '}')
1764                     OPERATOR(HASHBRACK);
1765                 if (isALPHA(*s)) {
1766                     for (t = s; t < bufend && isALNUM(*t); t++) ;
1767                 }
1768                 else if (*s == '\'' || *s == '"') {
1769                     t = strchr(s+1,*s);
1770                     if (!t++)
1771                         t = s;
1772                 }
1773                 else
1774                     t = s;
1775                 while (t < bufend && isSPACE(*t))
1776                     t++;
1777                 if ((*t == ',' && !isLOWER(*s)) || (*t == '=' && t[1] == '>'))
1778                     OPERATOR(HASHBRACK);
1779                 if (expect == XREF)
1780                     expect = XTERM;
1781                 else {
1782                     lex_brackstack[lex_brackets-1] = XSTATE;
1783                     expect = XSTATE;
1784                 }
1785             }
1786             break;
1787         }
1788         yylval.ival = curcop->cop_line;
1789         if (isSPACE(*s) || *s == '#')
1790             copline = NOLINE;   /* invalidate current command line number */
1791         TOKEN('{');
1792     case '}':
1793       rightbracket:
1794         s++;
1795         if (lex_brackets <= 0)
1796             yyerror("Unmatched right bracket");
1797         else
1798             expect = (expectation)lex_brackstack[--lex_brackets];
1799         if (lex_brackets < lex_formbrack)
1800             lex_formbrack = 0;
1801         if (lex_state == LEX_INTERPNORMAL) {
1802             if (lex_brackets == 0) {
1803                 if (lex_fakebrack) {
1804                     lex_state = LEX_INTERPEND;
1805                     bufptr = s;
1806                     return yylex();             /* ignore fake brackets */
1807                 }
1808                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1809                     lex_state = LEX_INTERPEND;
1810             }
1811         }
1812         if (lex_brackets < lex_fakebrack) {
1813             bufptr = s;
1814             lex_fakebrack = 0;
1815             return yylex();             /* ignore fake brackets */
1816         }
1817         force_next('}');
1818         TOKEN(';');
1819     case '&':
1820         s++;
1821         tmp = *s++;
1822         if (tmp == '&')
1823             AOPERATOR(ANDAND);
1824         s--;
1825         if (expect == XOPERATOR) {
1826             if (dowarn && isALPHA(*s) && bufptr == SvPVX(linestr)) {
1827                 curcop->cop_line--;
1828                 warn(warn_nosemi);
1829                 curcop->cop_line++;
1830             }
1831             BAop(OP_BIT_AND);
1832         }
1833
1834         s = scan_ident(s-1, bufend, tokenbuf, TRUE);
1835         if (*tokenbuf) {
1836             expect = XOPERATOR;
1837             force_ident(tokenbuf, '&');
1838         }
1839         else
1840             PREREF('&');
1841         yylval.ival = (OPpENTERSUB_AMPER<<8);
1842         TERM('&');
1843
1844     case '|':
1845         s++;
1846         tmp = *s++;
1847         if (tmp == '|')
1848             AOPERATOR(OROR);
1849         s--;
1850         BOop(OP_BIT_OR);
1851     case '=':
1852         s++;
1853         tmp = *s++;
1854         if (tmp == '=')
1855             Eop(OP_EQ);
1856         if (tmp == '>')
1857             OPERATOR(',');
1858         if (tmp == '~')
1859             PMop(OP_MATCH);
1860         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
1861             warn("Reversed %c= operator",tmp);
1862         s--;
1863         if (expect == XSTATE && isALPHA(tmp) &&
1864                 (s == SvPVX(linestr)+1 || s[-2] == '\n') )
1865         {
1866             s = bufend;
1867             doextract = TRUE;
1868             goto retry;
1869         }
1870         if (lex_brackets < lex_formbrack) {
1871             char *t;
1872             for (t = s; *t == ' ' || *t == '\t'; t++) ;
1873             if (*t == '\n' || *t == '#') {
1874                 s--;
1875                 expect = XBLOCK;
1876                 goto leftbracket;
1877             }
1878         }
1879         yylval.ival = 0;
1880         OPERATOR(ASSIGNOP);
1881     case '!':
1882         s++;
1883         tmp = *s++;
1884         if (tmp == '=')
1885             Eop(OP_NE);
1886         if (tmp == '~')
1887             PMop(OP_NOT);
1888         s--;
1889         OPERATOR('!');
1890     case '<':
1891         if (expect != XOPERATOR) {
1892             if (s[1] != '<' && !strchr(s,'>'))
1893                 check_uni();
1894             if (s[1] == '<')
1895                 s = scan_heredoc(s);
1896             else
1897                 s = scan_inputsymbol(s);
1898             TERM(sublex_start());
1899         }
1900         s++;
1901         tmp = *s++;
1902         if (tmp == '<')
1903             SHop(OP_LEFT_SHIFT);
1904         if (tmp == '=') {
1905             tmp = *s++;
1906             if (tmp == '>')
1907                 Eop(OP_NCMP);
1908             s--;
1909             Rop(OP_LE);
1910         }
1911         s--;
1912         Rop(OP_LT);
1913     case '>':
1914         s++;
1915         tmp = *s++;
1916         if (tmp == '>')
1917             SHop(OP_RIGHT_SHIFT);
1918         if (tmp == '=')
1919             Rop(OP_GE);
1920         s--;
1921         Rop(OP_GT);
1922
1923     case '$':
1924         if (s[1] == '#'  && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
1925             s = scan_ident(s+1, bufend, tokenbuf+1, FALSE);
1926             if (expect == XOPERATOR) {
1927                 if (lex_formbrack && lex_brackets == lex_formbrack) {
1928                     expect = XTERM;
1929                     depcom();
1930                     return ','; /* grandfather non-comma-format format */
1931                 }
1932                 else
1933                     no_op("Array length",s);
1934             }
1935             else if (!tokenbuf[1])
1936                 PREREF(DOLSHARP);
1937             if (!strchr(tokenbuf+1,':')) {
1938                 tokenbuf[0] = '@';
1939                 if (tmp = pad_findmy(tokenbuf)) {
1940                     nextval[nexttoke].opval = newOP(OP_PADANY, 0);
1941                     nextval[nexttoke].opval->op_targ = tmp;
1942                     expect = XOPERATOR;
1943                     force_next(PRIVATEREF);
1944                     TOKEN(DOLSHARP);
1945                 }
1946             }
1947             expect = XOPERATOR;
1948             force_ident(tokenbuf+1, *tokenbuf);
1949             TOKEN(DOLSHARP);
1950         }
1951         s = scan_ident(s, bufend, tokenbuf+1, FALSE);
1952         if (expect == XOPERATOR) {
1953             if (lex_formbrack && lex_brackets == lex_formbrack) {
1954                 expect = XTERM;
1955                 depcom();
1956                 return ',';     /* grandfather non-comma-format format */
1957             }
1958             else
1959                 no_op("Scalar",s);
1960         }
1961         if (tokenbuf[1]) {
1962             expectation oldexpect = expect;
1963
1964             /* This kludge not intended to be bulletproof. */
1965             if (tokenbuf[1] == '[' && !tokenbuf[2]) {
1966                 yylval.opval = newSVOP(OP_CONST, 0,
1967                                         newSViv((IV)compiling.cop_arybase));
1968                 yylval.opval->op_private = OPpCONST_ARYBASE;
1969                 TERM(THING);
1970             }
1971             tokenbuf[0] = '$';
1972             if (dowarn) {
1973                 char *t;
1974                 if (*s == '[' && oldexpect != XREF) {
1975                     for (t = s+1; isSPACE(*t) || isALNUM(*t) || *t == '$'; t++) ;
1976                     if (*t++ == ',') {
1977                         bufptr = skipspace(bufptr);
1978                         while (t < bufend && *t != ']') t++;
1979                         warn("Multidimensional syntax %.*s not supported",
1980                             t-bufptr+1, bufptr);
1981                     }
1982                 }
1983                 if (*s == '{' && strEQ(tokenbuf, "$SIG") &&
1984                   (t = strchr(s,'}')) && (t = strchr(t,'='))) {
1985                     char tmpbuf[1024];
1986                     STRLEN len;
1987                     for (t++; isSPACE(*t); t++) ;
1988                     if (isIDFIRST(*t)) {
1989                         t = scan_word(t, tmpbuf, TRUE, &len);
1990                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
1991                             warn("You need to quote \"%s\"", tmpbuf);
1992                     }
1993                 }
1994             }
1995             expect = XOPERATOR;
1996             if (lex_state == LEX_NORMAL && isSPACE(*s)) {
1997                 bool islop = (last_lop == oldoldbufptr);
1998                 s = skipspace(s);
1999                 if (!islop || last_lop_op == OP_GREPSTART)
2000                     expect = XOPERATOR;
2001                 else if (strchr("$@\"'`q", *s))
2002                     expect = XTERM;             /* e.g. print $fh "foo" */
2003                 else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2004                     expect = XTERM;             /* e.g. print $fh &sub */
2005                 else if (isDIGIT(*s))
2006                     expect = XTERM;             /* e.g. print $fh 3 */
2007                 else if (*s == '.' && isDIGIT(s[1]))
2008                     expect = XTERM;             /* e.g. print $fh .3 */
2009                 else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2010                     expect = XTERM;             /* e.g. print $fh -1 */
2011                 else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2012                     expect = XTERM;             /* print $fh <<"EOF" */
2013             }
2014             if (in_my) {
2015                 if (strchr(tokenbuf,':'))
2016                     croak(no_myglob,tokenbuf);
2017                 nextval[nexttoke].opval = newOP(OP_PADANY, 0);
2018                 nextval[nexttoke].opval->op_targ = pad_allocmy(tokenbuf);
2019                 force_next(PRIVATEREF);
2020             }
2021             else if (!strchr(tokenbuf,':')) {
2022                 if (oldexpect != XREF || oldoldbufptr == last_lop) {
2023                     if (intuit_more(s)) {
2024                         if (*s == '[')
2025                             tokenbuf[0] = '@';
2026                         else if (*s == '{')
2027                             tokenbuf[0] = '%';
2028                     }
2029                 }
2030                 if (tmp = pad_findmy(tokenbuf)) {
2031                     if (!tokenbuf[2] && *tokenbuf =='$' &&
2032                         tokenbuf[1] <= 'b' && tokenbuf[1] >= 'a')
2033                     {
2034                         for (d = in_eval ? oldoldbufptr : SvPVX(linestr);
2035                             d < bufend && *d != '\n';
2036                             d++)
2037                         {
2038                             if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
2039                                 croak("Can't use \"my %s\" in sort comparison",
2040                                     tokenbuf);
2041                             }
2042                         }
2043                     }
2044                     nextval[nexttoke].opval = newOP(OP_PADANY, 0);
2045                     nextval[nexttoke].opval->op_targ = tmp;
2046                     force_next(PRIVATEREF);
2047                 }
2048                 else
2049                     force_ident(tokenbuf+1, *tokenbuf);
2050             }
2051             else
2052                 force_ident(tokenbuf+1, *tokenbuf);
2053         }
2054         else {
2055             if (s == bufend)
2056                 yyerror("Final $ should be \\$ or $name");
2057             PREREF('$');
2058         }
2059         TOKEN('$');
2060
2061     case '@':
2062         s = scan_ident(s, bufend, tokenbuf+1, FALSE);
2063         if (expect == XOPERATOR)
2064             no_op("Array",s);
2065         if (tokenbuf[1]) {
2066             GV* gv;
2067
2068             tokenbuf[0] = '@';
2069             expect = XOPERATOR;
2070             if (in_my) {
2071                 if (strchr(tokenbuf,':'))
2072                     croak(no_myglob,tokenbuf);
2073                 nextval[nexttoke].opval = newOP(OP_PADANY, 0);
2074                 nextval[nexttoke].opval->op_targ = pad_allocmy(tokenbuf);
2075                 force_next(PRIVATEREF);
2076                 TERM('@');
2077             }
2078             else if (!strchr(tokenbuf,':')) {
2079                 if (intuit_more(s)) {
2080                     if (*s == '{')
2081                         tokenbuf[0] = '%';
2082                 }
2083                 if (tmp = pad_findmy(tokenbuf)) {
2084                     nextval[nexttoke].opval = newOP(OP_PADANY, 0);
2085                     nextval[nexttoke].opval->op_targ = tmp;
2086                     force_next(PRIVATEREF);
2087                     TERM('@');
2088                 }
2089             }
2090
2091             /* Force them to make up their mind on "@foo". */
2092             if (lex_state != LEX_NORMAL && !lex_brackets &&
2093                     ( !(gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV)) ||
2094                       (*tokenbuf == '@'
2095                         ? !GvAV(gv)
2096                         : !GvHV(gv) )))
2097             {
2098                 char tmpbuf[1024];
2099                 sprintf(tmpbuf, "Literal @%s now requires backslash",tokenbuf+1);
2100                 yyerror(tmpbuf);
2101             }
2102
2103             /* Warn about @ where they meant $. */
2104             if (dowarn) {
2105                 if (*s == '[' || *s == '{') {
2106                     char *t = s + 1;
2107                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2108                         t++;
2109                     if (*t == '}' || *t == ']') {
2110                         t++;
2111                         bufptr = skipspace(bufptr);
2112                         warn("Scalar value %.*s better written as $%.*s",
2113                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2114                     }
2115                 }
2116             }
2117             force_ident(tokenbuf+1, *tokenbuf);
2118         }
2119         else {
2120             if (s == bufend)
2121                 yyerror("Final @ should be \\@ or @name");
2122             PREREF('@');
2123         }
2124         TERM('@');
2125
2126     case '/':                   /* may either be division or pattern */
2127     case '?':                   /* may either be conditional or pattern */
2128         if (expect != XOPERATOR) {
2129             check_uni();
2130             s = scan_pat(s);
2131             TERM(sublex_start());
2132         }
2133         tmp = *s++;
2134         if (tmp == '/')
2135             Mop(OP_DIVIDE);
2136         OPERATOR(tmp);
2137
2138     case '.':
2139         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2140                 (s == SvPVX(linestr) || s[-1] == '\n') ) {
2141             lex_formbrack = 0;
2142             expect = XSTATE;
2143             goto rightbracket;
2144         }
2145         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2146             tmp = *s++;
2147             if (*s == tmp) {
2148                 s++;
2149                 if (*s == tmp) {
2150                     s++;
2151                     yylval.ival = OPf_SPECIAL;
2152                 }
2153                 else
2154                     yylval.ival = 0;
2155                 OPERATOR(DOTDOT);
2156             }
2157             if (expect != XOPERATOR)
2158                 check_uni();
2159             Aop(OP_CONCAT);
2160         }
2161         /* FALL THROUGH */
2162     case '0': case '1': case '2': case '3': case '4':
2163     case '5': case '6': case '7': case '8': case '9':
2164         s = scan_num(s);
2165         if (expect == XOPERATOR)
2166             no_op("Number",s);
2167         TERM(THING);
2168
2169     case '\'':
2170         s = scan_str(s);
2171         if (expect == XOPERATOR) {
2172             if (lex_formbrack && lex_brackets == lex_formbrack) {
2173                 expect = XTERM;
2174                 depcom();
2175                 return ',';     /* grandfather non-comma-format format */
2176             }
2177             else
2178                 no_op("String",s);
2179         }
2180         if (!s)
2181             missingterm((char*)0);
2182         yylval.ival = OP_CONST;
2183         TERM(sublex_start());
2184
2185     case '"':
2186         s = scan_str(s);
2187         if (expect == XOPERATOR) {
2188             if (lex_formbrack && lex_brackets == lex_formbrack) {
2189                 expect = XTERM;
2190                 depcom();
2191                 return ',';     /* grandfather non-comma-format format */
2192             }
2193             else
2194                 no_op("String",s);
2195         }
2196         if (!s)
2197             missingterm((char*)0);
2198         yylval.ival = OP_CONST;
2199         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2200             if (*d == '$' || *d == '@' || *d == '\\') {
2201                 yylval.ival = OP_STRINGIFY;
2202                 break;
2203             }
2204         }
2205         TERM(sublex_start());
2206
2207     case '`':
2208         s = scan_str(s);
2209         if (expect == XOPERATOR)
2210             no_op("Backticks",s);
2211         if (!s)
2212             missingterm((char*)0);
2213         yylval.ival = OP_BACKTICK;
2214         set_csh();
2215         TERM(sublex_start());
2216
2217     case '\\':
2218         s++;
2219         if (dowarn && lex_inwhat && isDIGIT(*s))
2220             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2221         if (expect == XOPERATOR)
2222             no_op("Backslash",s);
2223         OPERATOR(REFGEN);
2224
2225     case 'x':
2226         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2227             s++;
2228             Mop(OP_REPEAT);
2229         }
2230         goto keylookup;
2231
2232     case '_':
2233     case 'a': case 'A':
2234     case 'b': case 'B':
2235     case 'c': case 'C':
2236     case 'd': case 'D':
2237     case 'e': case 'E':
2238     case 'f': case 'F':
2239     case 'g': case 'G':
2240     case 'h': case 'H':
2241     case 'i': case 'I':
2242     case 'j': case 'J':
2243     case 'k': case 'K':
2244     case 'l': case 'L':
2245     case 'm': case 'M':
2246     case 'n': case 'N':
2247     case 'o': case 'O':
2248     case 'p': case 'P':
2249     case 'q': case 'Q':
2250     case 'r': case 'R':
2251     case 's': case 'S':
2252     case 't': case 'T':
2253     case 'u': case 'U':
2254     case 'v': case 'V':
2255     case 'w': case 'W':
2256               case 'X':
2257     case 'y': case 'Y':
2258     case 'z': case 'Z':
2259
2260       keylookup:
2261         bufptr = s;
2262         s = scan_word(s, tokenbuf, FALSE, &len);
2263         
2264         if (*s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2265             goto just_a_word;
2266
2267         tmp = keyword(tokenbuf, len);
2268
2269         /* Is this a word before a => operator? */
2270         d = s;
2271         while (d < bufend && (*d == ' ' || *d == '\t'))
2272                 d++;    /* no comments skipped here, or s### is misparsed */
2273         if (strnEQ(d,"=>",2)) {
2274             CLINE;
2275             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2276                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2277                         tokenbuf, tokenbuf);
2278             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2279             yylval.opval->op_private = OPpCONST_BARE;
2280             TERM(WORD);
2281         }
2282
2283         if (tmp < 0) {                  /* second-class keyword? */
2284             GV* gv;
2285             if (expect != XOPERATOR &&
2286               (*s != ':' || s[1] != ':') &&
2287               (gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV)) &&
2288               (GvFLAGS(gv) & GVf_IMPORTED) &&
2289               GvCV(gv))
2290             {
2291                 tmp = 0;
2292             }
2293             else
2294                 tmp = -tmp;
2295         }
2296
2297       reserved_word:
2298         switch (tmp) {
2299
2300         default:                        /* not a keyword */
2301           just_a_word: {
2302                 GV *gv;
2303                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2304
2305                 /* Get the rest if it looks like a package qualifier */
2306
2307                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2308                     s = scan_word(s, tokenbuf + len, TRUE, &len);
2309                     if (!len)
2310                         croak("Bad name after %s::", tokenbuf);
2311                 }
2312
2313                 /* Do special processing at start of statement. */
2314
2315                 if (expect == XSTATE) {
2316                     while (isSPACE(*s)) s++;
2317                     if (*s == ':') {    /* It's a label. */
2318                         yylval.pval = savepv(tokenbuf);
2319                         s++;
2320                         CLINE;
2321                         TOKEN(LABEL);
2322                     }
2323                 }
2324                 else if (expect == XOPERATOR) {
2325                     if (bufptr == SvPVX(linestr)) {
2326                         curcop->cop_line--;
2327                         warn(warn_nosemi);
2328                         curcop->cop_line++;
2329                     }
2330                     else
2331                         no_op("Bare word",s);
2332                 }
2333
2334                 /* Look for a subroutine with this name in current package. */
2335
2336                 gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2337
2338                 /* Presume this is going to be a bareword of some sort. */
2339
2340                 CLINE;
2341                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2342                 yylval.opval->op_private = OPpCONST_BARE;
2343
2344                 /* See if it's the indirect object for a list operator. */
2345
2346                 if (oldoldbufptr &&
2347                     oldoldbufptr < bufptr &&
2348                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2349                     /* NO SKIPSPACE BEFORE HERE! */
2350                     (expect == XREF ||
2351                      (opargs[last_lop_op] >> OASHIFT & 7) == OA_FILEREF) )
2352                 {
2353                     bool immediate_paren = *s == '(';
2354
2355                     /* (Now we can afford to cross potential line boundary.) */
2356                     s = skipspace(s);
2357
2358                     /* Two barewords in a row may indicate method call. */
2359
2360                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2361                         return tmp;
2362
2363                     /* If not a declared subroutine, it's an indirect object. */
2364                     /* (But it's an indir obj regardless for sort.) */
2365
2366                     if ((last_lop_op == OP_SORT ||
2367                          (!immediate_paren && (!gv || !GvCV(gv))) ) &&
2368                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2369                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2370                         goto bareword;
2371                     }
2372                 }
2373
2374                 /* If followed by a paren, it's certainly a subroutine. */
2375
2376                 expect = XOPERATOR;
2377                 s = skipspace(s);
2378                 if (*s == '(') {
2379                     CLINE;
2380                     nextval[nexttoke].opval = yylval.opval;
2381                     expect = XOPERATOR;
2382                     force_next(WORD);
2383                     yylval.ival = 0;
2384                     TOKEN('&');
2385                 }
2386
2387                 /* If followed by var or block, call it a method (unless sub) */
2388
2389                 if ((*s == '$' || *s == '{') && (!gv || !GvCV(gv))) {
2390                     last_lop = oldbufptr;
2391                     last_lop_op = OP_METHOD;
2392                     PREBLOCK(METHOD);
2393                 }
2394
2395                 /* If followed by a bareword, see if it looks like indir obj. */
2396
2397                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2398                     return tmp;
2399
2400                 /* Not a method, so call it a subroutine (if defined) */
2401
2402                 if (gv && GvCV(gv)) {
2403                     CV* cv = GvCV(gv);
2404                     nextval[nexttoke].opval = yylval.opval;
2405                     if (*s == '(') {
2406                         expect = XTERM;
2407                         force_next(WORD);
2408                         yylval.ival = 0;
2409                         TOKEN('&');
2410                     }
2411                     if (lastchar == '-')
2412                         warn("Ambiguous use of -%s resolved as -&%s()",
2413                                 tokenbuf, tokenbuf);
2414                     last_lop = oldbufptr;
2415                     last_lop_op = OP_ENTERSUB;
2416                     /* Is there a prototype? */
2417                     if (SvPOK(cv)) {
2418                         STRLEN len;
2419                         char *proto = SvPV((SV*)cv, len);
2420                         if (!len)
2421                             TERM(FUNC0SUB);
2422                         if (strEQ(proto, "$"))
2423                             OPERATOR(UNIOPSUB);
2424                         if (*proto == '&' && *s == '{') {
2425                             sv_setpv(subname,"__ANON__");
2426                             PREBLOCK(LSTOPSUB);
2427                         }
2428                     }
2429                     expect = XTERM;
2430                     force_next(WORD);
2431                     TOKEN(NOAMP);
2432                 }
2433
2434                 if (hints & HINT_STRICT_SUBS &&
2435                     lastchar != '-' &&
2436                     strnNE(s,"->",2) &&
2437                     last_lop_op != OP_ACCEPT &&
2438                     last_lop_op != OP_PIPE_OP &&
2439                     last_lop_op != OP_SOCKPAIR)
2440                 {
2441                     warn(
2442                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2443                         tokenbuf);
2444                     ++error_count;
2445                 }
2446
2447                 /* Call it a bare word */
2448
2449             bareword:
2450                 if (dowarn) {
2451                     if (lastchar != '-') {
2452                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2453                         if (!*d)
2454                             warn(warn_reserved, tokenbuf);
2455                     }
2456                 }
2457                 if (lastchar && strchr("*%&", lastchar)) {
2458                     warn("Operator or semicolon missing before %c%s",
2459                         lastchar, tokenbuf);
2460                     warn("Ambiguous use of %c resolved as operator %c",
2461                         lastchar, lastchar);
2462                 }
2463                 TOKEN(WORD);
2464             }
2465
2466         case KEY___LINE__:
2467         case KEY___FILE__: {
2468             if (tokenbuf[2] == 'L')
2469                 (void)sprintf(tokenbuf,"%ld",(long)curcop->cop_line);
2470             else
2471                 strcpy(tokenbuf, SvPVX(GvSV(curcop->cop_filegv)));
2472             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2473             TERM(THING);
2474         }
2475
2476         case KEY___DATA__:
2477         case KEY___END__: {
2478             GV *gv;
2479
2480             /*SUPPRESS 560*/
2481             if (!in_eval || tokenbuf[2] == 'D') {
2482                 char dname[256];
2483                 char *pname = "main";
2484                 if (tokenbuf[2] == 'D')
2485                     pname = HvNAME(curstash ? curstash : defstash);
2486                 sprintf(dname,"%s::DATA", pname);
2487                 gv = gv_fetchpv(dname,TRUE, SVt_PVIO);
2488                 SvMULTI_on(gv);
2489                 if (!GvIO(gv))
2490                     GvIOp(gv) = newIO();
2491                 IoIFP(GvIOp(gv)) = rsfp;
2492 #if defined(HAS_FCNTL) && defined(F_SETFD)
2493                 {
2494                     int fd = fileno(rsfp);
2495                     fcntl(fd,F_SETFD,fd >= 3);
2496                 }
2497 #endif
2498                 if (preprocess)
2499                     IoTYPE(GvIOp(gv)) = '|';
2500                 else if ((FILE*)rsfp == stdin)
2501                     IoTYPE(GvIOp(gv)) = '-';
2502                 else
2503                     IoTYPE(GvIOp(gv)) = '<';
2504                 rsfp = Nullfp;
2505             }
2506             goto fake_eof;
2507         }
2508
2509         case KEY_AUTOLOAD:
2510         case KEY_DESTROY:
2511         case KEY_BEGIN:
2512         case KEY_END:
2513             if (expect == XSTATE) {
2514                 s = bufptr;
2515                 goto really_sub;
2516             }
2517             goto just_a_word;
2518
2519         case KEY_CORE:
2520             if (*s == ':' && s[1] == ':') {
2521                 s += 2;
2522                 d = s;
2523                 s = scan_word(s, tokenbuf, FALSE, &len);
2524                 tmp = keyword(tokenbuf, len);
2525                 if (tmp < 0)
2526                     tmp = -tmp;
2527                 goto reserved_word;
2528             }
2529             goto just_a_word;
2530
2531         case KEY_abs:
2532             UNI(OP_ABS);
2533
2534         case KEY_alarm:
2535             UNI(OP_ALARM);
2536
2537         case KEY_accept:
2538             LOP(OP_ACCEPT,XTERM);
2539
2540         case KEY_and:
2541             OPERATOR(ANDOP);
2542
2543         case KEY_atan2:
2544             LOP(OP_ATAN2,XTERM);
2545
2546         case KEY_bind:
2547             LOP(OP_BIND,XTERM);
2548
2549         case KEY_binmode:
2550             UNI(OP_BINMODE);
2551
2552         case KEY_bless:
2553             LOP(OP_BLESS,XTERM);
2554
2555         case KEY_chop:
2556             UNI(OP_CHOP);
2557
2558         case KEY_continue:
2559             PREBLOCK(CONTINUE);
2560
2561         case KEY_chdir:
2562             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2563             UNI(OP_CHDIR);
2564
2565         case KEY_close:
2566             UNI(OP_CLOSE);
2567
2568         case KEY_closedir:
2569             UNI(OP_CLOSEDIR);
2570
2571         case KEY_cmp:
2572             Eop(OP_SCMP);
2573
2574         case KEY_caller:
2575             UNI(OP_CALLER);
2576
2577         case KEY_crypt:
2578 #ifdef FCRYPT
2579             if (!cryptseen++)
2580                 init_des();
2581 #endif
2582             LOP(OP_CRYPT,XTERM);
2583
2584         case KEY_chmod:
2585             if (dowarn) {
2586                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2587                 if (*d != '0' && isDIGIT(*d))
2588                     yywarn("chmod: mode argument is missing initial 0");
2589             }
2590             LOP(OP_CHMOD,XTERM);
2591
2592         case KEY_chown:
2593             LOP(OP_CHOWN,XTERM);
2594
2595         case KEY_connect:
2596             LOP(OP_CONNECT,XTERM);
2597
2598         case KEY_chr:
2599             UNI(OP_CHR);
2600
2601         case KEY_cos:
2602             UNI(OP_COS);
2603
2604         case KEY_chroot:
2605             UNI(OP_CHROOT);
2606
2607         case KEY_do:
2608             s = skipspace(s);
2609             if (*s == '{')
2610                 PRETERMBLOCK(DO);
2611             if (*s != '\'')
2612                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2613             OPERATOR(DO);
2614
2615         case KEY_die:
2616             hints |= HINT_BLOCK_SCOPE;
2617             LOP(OP_DIE,XTERM);
2618
2619         case KEY_defined:
2620             UNI(OP_DEFINED);
2621
2622         case KEY_delete:
2623             UNI(OP_DELETE);
2624
2625         case KEY_dbmopen:
2626             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2627             LOP(OP_DBMOPEN,XTERM);
2628
2629         case KEY_dbmclose:
2630             UNI(OP_DBMCLOSE);
2631
2632         case KEY_dump:
2633             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2634             LOOPX(OP_DUMP);
2635
2636         case KEY_else:
2637             PREBLOCK(ELSE);
2638
2639         case KEY_elsif:
2640             yylval.ival = curcop->cop_line;
2641             OPERATOR(ELSIF);
2642
2643         case KEY_eq:
2644             Eop(OP_SEQ);
2645
2646         case KEY_exists:
2647             UNI(OP_EXISTS);
2648             
2649         case KEY_exit:
2650             UNI(OP_EXIT);
2651
2652         case KEY_eval:
2653             s = skipspace(s);
2654             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2655             UNIBRACK(OP_ENTEREVAL);
2656
2657         case KEY_eof:
2658             UNI(OP_EOF);
2659
2660         case KEY_exp:
2661             UNI(OP_EXP);
2662
2663         case KEY_each:
2664             UNI(OP_EACH);
2665
2666         case KEY_exec:
2667             set_csh();
2668             LOP(OP_EXEC,XREF);
2669
2670         case KEY_endhostent:
2671             FUN0(OP_EHOSTENT);
2672
2673         case KEY_endnetent:
2674             FUN0(OP_ENETENT);
2675
2676         case KEY_endservent:
2677             FUN0(OP_ESERVENT);
2678
2679         case KEY_endprotoent:
2680             FUN0(OP_EPROTOENT);
2681
2682         case KEY_endpwent:
2683             FUN0(OP_EPWENT);
2684
2685         case KEY_endgrent:
2686             FUN0(OP_EGRENT);
2687
2688         case KEY_for:
2689         case KEY_foreach:
2690             yylval.ival = curcop->cop_line;
2691             while (s < bufend && isSPACE(*s))
2692                 s++;
2693             if (isIDFIRST(*s))
2694                 croak("Missing $ on loop variable");
2695             OPERATOR(FOR);
2696
2697         case KEY_formline:
2698             LOP(OP_FORMLINE,XTERM);
2699
2700         case KEY_fork:
2701             FUN0(OP_FORK);
2702
2703         case KEY_fcntl:
2704             LOP(OP_FCNTL,XTERM);
2705
2706         case KEY_fileno:
2707             UNI(OP_FILENO);
2708
2709         case KEY_flock:
2710             LOP(OP_FLOCK,XTERM);
2711
2712         case KEY_gt:
2713             Rop(OP_SGT);
2714
2715         case KEY_ge:
2716             Rop(OP_SGE);
2717
2718         case KEY_grep:
2719             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
2720
2721         case KEY_goto:
2722             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2723             LOOPX(OP_GOTO);
2724
2725         case KEY_gmtime:
2726             UNI(OP_GMTIME);
2727
2728         case KEY_getc:
2729             UNI(OP_GETC);
2730
2731         case KEY_getppid:
2732             FUN0(OP_GETPPID);
2733
2734         case KEY_getpgrp:
2735             UNI(OP_GETPGRP);
2736
2737         case KEY_getpriority:
2738             LOP(OP_GETPRIORITY,XTERM);
2739
2740         case KEY_getprotobyname:
2741             UNI(OP_GPBYNAME);
2742
2743         case KEY_getprotobynumber:
2744             LOP(OP_GPBYNUMBER,XTERM);
2745
2746         case KEY_getprotoent:
2747             FUN0(OP_GPROTOENT);
2748
2749         case KEY_getpwent:
2750             FUN0(OP_GPWENT);
2751
2752         case KEY_getpwnam:
2753             FUN1(OP_GPWNAM);
2754
2755         case KEY_getpwuid:
2756             FUN1(OP_GPWUID);
2757
2758         case KEY_getpeername:
2759             UNI(OP_GETPEERNAME);
2760
2761         case KEY_gethostbyname:
2762             UNI(OP_GHBYNAME);
2763
2764         case KEY_gethostbyaddr:
2765             LOP(OP_GHBYADDR,XTERM);
2766
2767         case KEY_gethostent:
2768             FUN0(OP_GHOSTENT);
2769
2770         case KEY_getnetbyname:
2771             UNI(OP_GNBYNAME);
2772
2773         case KEY_getnetbyaddr:
2774             LOP(OP_GNBYADDR,XTERM);
2775
2776         case KEY_getnetent:
2777             FUN0(OP_GNETENT);
2778
2779         case KEY_getservbyname:
2780             LOP(OP_GSBYNAME,XTERM);
2781
2782         case KEY_getservbyport:
2783             LOP(OP_GSBYPORT,XTERM);
2784
2785         case KEY_getservent:
2786             FUN0(OP_GSERVENT);
2787
2788         case KEY_getsockname:
2789             UNI(OP_GETSOCKNAME);
2790
2791         case KEY_getsockopt:
2792             LOP(OP_GSOCKOPT,XTERM);
2793
2794         case KEY_getgrent:
2795             FUN0(OP_GGRENT);
2796
2797         case KEY_getgrnam:
2798             FUN1(OP_GGRNAM);
2799
2800         case KEY_getgrgid:
2801             FUN1(OP_GGRGID);
2802
2803         case KEY_getlogin:
2804             FUN0(OP_GETLOGIN);
2805
2806         case KEY_glob:
2807             set_csh();
2808             LOP(OP_GLOB,XTERM);
2809
2810         case KEY_hex:
2811             UNI(OP_HEX);
2812
2813         case KEY_if:
2814             yylval.ival = curcop->cop_line;
2815             OPERATOR(IF);
2816
2817         case KEY_index:
2818             LOP(OP_INDEX,XTERM);
2819
2820         case KEY_int:
2821             UNI(OP_INT);
2822
2823         case KEY_ioctl:
2824             LOP(OP_IOCTL,XTERM);
2825
2826         case KEY_join:
2827             LOP(OP_JOIN,XTERM);
2828
2829         case KEY_keys:
2830             UNI(OP_KEYS);
2831
2832         case KEY_kill:
2833             LOP(OP_KILL,XTERM);
2834
2835         case KEY_last:
2836             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2837             LOOPX(OP_LAST);
2838             
2839         case KEY_lc:
2840             UNI(OP_LC);
2841
2842         case KEY_lcfirst:
2843             UNI(OP_LCFIRST);
2844
2845         case KEY_local:
2846             yylval.ival = 0;
2847             OPERATOR(LOCAL);
2848
2849         case KEY_length:
2850             UNI(OP_LENGTH);
2851
2852         case KEY_lt:
2853             Rop(OP_SLT);
2854
2855         case KEY_le:
2856             Rop(OP_SLE);
2857
2858         case KEY_localtime:
2859             UNI(OP_LOCALTIME);
2860
2861         case KEY_log:
2862             UNI(OP_LOG);
2863
2864         case KEY_link:
2865             LOP(OP_LINK,XTERM);
2866
2867         case KEY_listen:
2868             LOP(OP_LISTEN,XTERM);
2869
2870         case KEY_lstat:
2871             UNI(OP_LSTAT);
2872
2873         case KEY_m:
2874             s = scan_pat(s);
2875             TERM(sublex_start());
2876
2877         case KEY_map:
2878             LOP(OP_MAPSTART,XREF);
2879             
2880         case KEY_mkdir:
2881             LOP(OP_MKDIR,XTERM);
2882
2883         case KEY_msgctl:
2884             LOP(OP_MSGCTL,XTERM);
2885
2886         case KEY_msgget:
2887             LOP(OP_MSGGET,XTERM);
2888
2889         case KEY_msgrcv:
2890             LOP(OP_MSGRCV,XTERM);
2891
2892         case KEY_msgsnd:
2893             LOP(OP_MSGSND,XTERM);
2894
2895         case KEY_my:
2896             in_my = TRUE;
2897             yylval.ival = 1;
2898             OPERATOR(LOCAL);
2899
2900         case KEY_next:
2901             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2902             LOOPX(OP_NEXT);
2903
2904         case KEY_ne:
2905             Eop(OP_SNE);
2906
2907         case KEY_no:
2908             if (expect != XSTATE)
2909                 yyerror("\"no\" not allowed in expression");
2910             s = force_word(s,WORD,FALSE,TRUE,FALSE);
2911             yylval.ival = 0;
2912             OPERATOR(USE);
2913
2914         case KEY_not:
2915             OPERATOR(NOTOP);
2916
2917         case KEY_open:
2918             s = skipspace(s);
2919             if (isIDFIRST(*s)) {
2920                 char *t;
2921                 for (d = s; isALNUM(*d); d++) ;
2922                 t = skipspace(d);
2923                 if (strchr("|&*+-=!?:.", *t))
2924                     warn("Precedence problem: open %.*s should be open(%.*s)",
2925                         d-s,s, d-s,s);
2926             }
2927             LOP(OP_OPEN,XTERM);
2928
2929         case KEY_or:
2930             yylval.ival = OP_OR;
2931             OPERATOR(OROP);
2932
2933         case KEY_ord:
2934             UNI(OP_ORD);
2935
2936         case KEY_oct:
2937             UNI(OP_OCT);
2938
2939         case KEY_opendir:
2940             LOP(OP_OPEN_DIR,XTERM);
2941
2942         case KEY_print:
2943             checkcomma(s,tokenbuf,"filehandle");
2944             LOP(OP_PRINT,XREF);
2945
2946         case KEY_printf:
2947             checkcomma(s,tokenbuf,"filehandle");
2948             LOP(OP_PRTF,XREF);
2949
2950         case KEY_prototype:
2951             UNI(OP_PROTOTYPE);
2952
2953         case KEY_push:
2954             LOP(OP_PUSH,XTERM);
2955
2956         case KEY_pop:
2957             UNI(OP_POP);
2958
2959         case KEY_pos:
2960             UNI(OP_POS);
2961             
2962         case KEY_pack:
2963             LOP(OP_PACK,XTERM);
2964
2965         case KEY_package:
2966             s = force_word(s,WORD,FALSE,TRUE,FALSE);
2967             OPERATOR(PACKAGE);
2968
2969         case KEY_pipe:
2970             LOP(OP_PIPE_OP,XTERM);
2971
2972         case KEY_q:
2973             s = scan_str(s);
2974             if (!s)
2975                 missingterm((char*)0);
2976             yylval.ival = OP_CONST;
2977             TERM(sublex_start());
2978
2979         case KEY_quotemeta:
2980             UNI(OP_QUOTEMETA);
2981
2982         case KEY_qw:
2983             s = scan_str(s);
2984             if (!s)
2985                 missingterm((char*)0);
2986             force_next(')');
2987             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
2988             lex_stuff = Nullsv;
2989             force_next(THING);
2990             force_next(',');
2991             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
2992             force_next(THING);
2993             force_next('(');
2994             yylval.ival = OP_SPLIT;
2995             CLINE;
2996             expect = XTERM;
2997             bufptr = s;
2998             last_lop = oldbufptr;
2999             last_lop_op = OP_SPLIT;
3000             return FUNC;
3001
3002         case KEY_qq:
3003             s = scan_str(s);
3004             if (!s)
3005                 missingterm((char*)0);
3006             yylval.ival = OP_STRINGIFY;
3007             if (SvIVX(lex_stuff) == '\'')
3008                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3009             TERM(sublex_start());
3010
3011         case KEY_qx:
3012             s = scan_str(s);
3013             if (!s)
3014                 missingterm((char*)0);
3015             yylval.ival = OP_BACKTICK;
3016             set_csh();
3017             TERM(sublex_start());
3018
3019         case KEY_return:
3020             OLDLOP(OP_RETURN);
3021
3022         case KEY_require:
3023             *tokenbuf = '\0';
3024             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3025             if (isIDFIRST(*tokenbuf))
3026                 gv_stashpv(tokenbuf, TRUE);
3027             else if (*s == '<')
3028                 yyerror("<> should be quotes");
3029             UNI(OP_REQUIRE);
3030
3031         case KEY_reset:
3032             UNI(OP_RESET);
3033
3034         case KEY_redo:
3035             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3036             LOOPX(OP_REDO);
3037
3038         case KEY_rename:
3039             LOP(OP_RENAME,XTERM);
3040
3041         case KEY_rand:
3042             UNI(OP_RAND);
3043
3044         case KEY_rmdir:
3045             UNI(OP_RMDIR);
3046
3047         case KEY_rindex:
3048             LOP(OP_RINDEX,XTERM);
3049
3050         case KEY_read:
3051             LOP(OP_READ,XTERM);
3052
3053         case KEY_readdir:
3054             UNI(OP_READDIR);
3055
3056         case KEY_readline:
3057             set_csh();
3058             UNI(OP_READLINE);
3059
3060         case KEY_readpipe:
3061             set_csh();
3062             UNI(OP_BACKTICK);
3063
3064         case KEY_rewinddir:
3065             UNI(OP_REWINDDIR);
3066
3067         case KEY_recv:
3068             LOP(OP_RECV,XTERM);
3069
3070         case KEY_reverse:
3071             LOP(OP_REVERSE,XTERM);
3072
3073         case KEY_readlink:
3074             UNI(OP_READLINK);
3075
3076         case KEY_ref:
3077             UNI(OP_REF);
3078
3079         case KEY_s:
3080             s = scan_subst(s);
3081             if (yylval.opval)
3082                 TERM(sublex_start());
3083             else
3084                 TOKEN(1);       /* force error */
3085
3086         case KEY_chomp:
3087             UNI(OP_CHOMP);
3088             
3089         case KEY_scalar:
3090             UNI(OP_SCALAR);
3091
3092         case KEY_select:
3093             LOP(OP_SELECT,XTERM);
3094
3095         case KEY_seek:
3096             LOP(OP_SEEK,XTERM);
3097
3098         case KEY_semctl:
3099             LOP(OP_SEMCTL,XTERM);
3100
3101         case KEY_semget:
3102             LOP(OP_SEMGET,XTERM);
3103
3104         case KEY_semop:
3105             LOP(OP_SEMOP,XTERM);
3106
3107         case KEY_send:
3108             LOP(OP_SEND,XTERM);
3109
3110         case KEY_setpgrp:
3111             LOP(OP_SETPGRP,XTERM);
3112
3113         case KEY_setpriority:
3114             LOP(OP_SETPRIORITY,XTERM);
3115
3116         case KEY_sethostent:
3117             FUN1(OP_SHOSTENT);
3118
3119         case KEY_setnetent:
3120             FUN1(OP_SNETENT);
3121
3122         case KEY_setservent:
3123             FUN1(OP_SSERVENT);
3124
3125         case KEY_setprotoent:
3126             FUN1(OP_SPROTOENT);
3127
3128         case KEY_setpwent:
3129             FUN0(OP_SPWENT);
3130
3131         case KEY_setgrent:
3132             FUN0(OP_SGRENT);
3133
3134         case KEY_seekdir:
3135             LOP(OP_SEEKDIR,XTERM);
3136
3137         case KEY_setsockopt:
3138             LOP(OP_SSOCKOPT,XTERM);
3139
3140         case KEY_shift:
3141             UNI(OP_SHIFT);
3142
3143         case KEY_shmctl:
3144             LOP(OP_SHMCTL,XTERM);
3145
3146         case KEY_shmget:
3147             LOP(OP_SHMGET,XTERM);
3148
3149         case KEY_shmread:
3150             LOP(OP_SHMREAD,XTERM);
3151
3152         case KEY_shmwrite:
3153             LOP(OP_SHMWRITE,XTERM);
3154
3155         case KEY_shutdown:
3156             LOP(OP_SHUTDOWN,XTERM);
3157
3158         case KEY_sin:
3159             UNI(OP_SIN);
3160
3161         case KEY_sleep:
3162             UNI(OP_SLEEP);
3163
3164         case KEY_socket:
3165             LOP(OP_SOCKET,XTERM);
3166
3167         case KEY_socketpair:
3168             LOP(OP_SOCKPAIR,XTERM);
3169
3170         case KEY_sort:
3171             checkcomma(s,tokenbuf,"subroutine name");
3172             s = skipspace(s);
3173             if (*s == ';' || *s == ')')         /* probably a close */
3174                 croak("sort is now a reserved word");
3175             expect = XTERM;
3176             s = force_word(s,WORD,TRUE,TRUE,TRUE);
3177             LOP(OP_SORT,XREF);
3178
3179         case KEY_split:
3180             LOP(OP_SPLIT,XTERM);
3181
3182         case KEY_sprintf:
3183             LOP(OP_SPRINTF,XTERM);
3184
3185         case KEY_splice:
3186             LOP(OP_SPLICE,XTERM);
3187
3188         case KEY_sqrt:
3189             UNI(OP_SQRT);
3190
3191         case KEY_srand:
3192             UNI(OP_SRAND);
3193
3194         case KEY_stat:
3195             UNI(OP_STAT);
3196
3197         case KEY_study:
3198             sawstudy++;
3199             UNI(OP_STUDY);
3200
3201         case KEY_substr:
3202             LOP(OP_SUBSTR,XTERM);
3203
3204         case KEY_format:
3205         case KEY_sub:
3206           really_sub:
3207             s = skipspace(s);
3208
3209             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3210                 char tmpbuf[128];
3211                 expect = XBLOCK;
3212                 d = scan_word(s, tmpbuf, TRUE, &len);
3213                 if (strchr(tmpbuf, ':'))
3214                     sv_setpv(subname, tmpbuf);
3215                 else {
3216                     sv_setsv(subname,curstname);
3217                     sv_catpvn(subname,"::",2);
3218                     sv_catpvn(subname,tmpbuf,len);
3219                 }
3220                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3221                 s = skipspace(s);
3222             }
3223             else {
3224                 expect = XTERMBLOCK;
3225                 sv_setpv(subname,"?");
3226             }
3227
3228             if (tmp == KEY_format) {
3229                 s = skipspace(s);
3230                 if (*s == '=')
3231                     lex_formbrack = lex_brackets + 1;
3232                 OPERATOR(FORMAT);
3233             }
3234
3235             /* Look for a prototype */
3236             if (*s == '(') {
3237                 s = scan_str(s);
3238                 if (!s) {
3239                     if (lex_stuff)
3240                         SvREFCNT_dec(lex_stuff);
3241                     lex_stuff = Nullsv;
3242                     croak("Prototype not terminated");
3243                 }
3244                 nexttoke++;
3245                 nextval[1] = nextval[0];
3246                 nexttype[1] = nexttype[0];
3247                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3248                 nexttype[0] = THING;
3249                 if (nexttoke == 1) {
3250                     lex_defer = lex_state;
3251                     lex_expect = expect;
3252                     lex_state = LEX_KNOWNEXT;
3253                 }
3254                 lex_stuff = Nullsv;
3255             }
3256
3257             if (*SvPV(subname,na) == '?') {
3258                 sv_setpv(subname,"__ANON__");
3259                 TOKEN(ANONSUB);
3260             }
3261             PREBLOCK(SUB);
3262
3263         case KEY_system:
3264             set_csh();
3265             LOP(OP_SYSTEM,XREF);
3266
3267         case KEY_symlink:
3268             LOP(OP_SYMLINK,XTERM);
3269
3270         case KEY_syscall:
3271             LOP(OP_SYSCALL,XTERM);
3272
3273         case KEY_sysopen:
3274             LOP(OP_SYSOPEN,XTERM);
3275
3276         case KEY_sysread:
3277             LOP(OP_SYSREAD,XTERM);
3278
3279         case KEY_syswrite:
3280             LOP(OP_SYSWRITE,XTERM);
3281
3282         case KEY_tr:
3283             s = scan_trans(s);
3284             TERM(sublex_start());
3285
3286         case KEY_tell:
3287             UNI(OP_TELL);
3288
3289         case KEY_telldir:
3290             UNI(OP_TELLDIR);
3291
3292         case KEY_tie:
3293             LOP(OP_TIE,XTERM);
3294
3295         case KEY_tied:
3296             UNI(OP_TIED);
3297
3298         case KEY_time:
3299             FUN0(OP_TIME);
3300
3301         case KEY_times:
3302             FUN0(OP_TMS);
3303
3304         case KEY_truncate:
3305             LOP(OP_TRUNCATE,XTERM);
3306
3307         case KEY_uc:
3308             UNI(OP_UC);
3309
3310         case KEY_ucfirst:
3311             UNI(OP_UCFIRST);
3312
3313         case KEY_untie:
3314             UNI(OP_UNTIE);
3315
3316         case KEY_until:
3317             yylval.ival = curcop->cop_line;
3318             OPERATOR(UNTIL);
3319
3320         case KEY_unless:
3321             yylval.ival = curcop->cop_line;
3322             OPERATOR(UNLESS);
3323
3324         case KEY_unlink:
3325             LOP(OP_UNLINK,XTERM);
3326
3327         case KEY_undef:
3328             UNI(OP_UNDEF);
3329
3330         case KEY_unpack:
3331             LOP(OP_UNPACK,XTERM);
3332
3333         case KEY_utime:
3334             LOP(OP_UTIME,XTERM);
3335
3336         case KEY_umask:
3337             if (dowarn) {
3338                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3339                 if (*d != '0' && isDIGIT(*d))
3340                     yywarn("umask: argument is missing initial 0");
3341             }
3342             UNI(OP_UMASK);
3343
3344         case KEY_unshift:
3345             LOP(OP_UNSHIFT,XTERM);
3346
3347         case KEY_use:
3348             if (expect != XSTATE)
3349                 yyerror("\"use\" not allowed in expression");
3350             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3351             yylval.ival = 1;
3352             OPERATOR(USE);
3353
3354         case KEY_values:
3355             UNI(OP_VALUES);
3356
3357         case KEY_vec:
3358             sawvec = TRUE;
3359             LOP(OP_VEC,XTERM);
3360
3361         case KEY_while:
3362             yylval.ival = curcop->cop_line;
3363             OPERATOR(WHILE);
3364
3365         case KEY_warn:
3366             hints |= HINT_BLOCK_SCOPE;
3367             LOP(OP_WARN,XTERM);
3368
3369         case KEY_wait:
3370             FUN0(OP_WAIT);
3371
3372         case KEY_waitpid:
3373             LOP(OP_WAITPID,XTERM);
3374
3375         case KEY_wantarray:
3376             FUN0(OP_WANTARRAY);
3377
3378         case KEY_write:
3379             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3380             UNI(OP_ENTERWRITE);
3381
3382         case KEY_x:
3383             if (expect == XOPERATOR)
3384                 Mop(OP_REPEAT);
3385             check_uni();
3386             goto just_a_word;
3387
3388         case KEY_xor:
3389             yylval.ival = OP_XOR;
3390             OPERATOR(OROP);
3391
3392         case KEY_y:
3393             s = scan_trans(s);
3394             TERM(sublex_start());
3395         }
3396     }
3397 }
3398
3399 I32
3400 keyword(d, len)
3401 register char *d;
3402 I32 len;
3403 {
3404     switch (*d) {
3405     case '_':
3406         if (d[1] == '_') {
3407             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3408             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3409             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3410             if (strEQ(d,"__END__"))             return KEY___END__;
3411         }
3412         break;
3413     case 'A':
3414         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3415         break;
3416     case 'a':
3417         switch (len) {
3418         case 3:
3419             if (strEQ(d,"and"))                 return -KEY_and;
3420             if (strEQ(d,"abs"))                 return -KEY_abs;
3421             break;
3422         case 5:
3423             if (strEQ(d,"alarm"))               return -KEY_alarm;
3424             if (strEQ(d,"atan2"))               return -KEY_atan2;
3425             break;
3426         case 6:
3427             if (strEQ(d,"accept"))              return -KEY_accept;
3428             break;
3429         }
3430         break;
3431     case 'B':
3432         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3433         break;
3434     case 'b':
3435         if (strEQ(d,"bless"))                   return -KEY_bless;
3436         if (strEQ(d,"bind"))                    return -KEY_bind;
3437         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3438         break;
3439     case 'C':
3440         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3441         break;
3442     case 'c':
3443         switch (len) {
3444         case 3:
3445             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3446             if (strEQ(d,"chr"))                 return -KEY_chr;
3447             if (strEQ(d,"cos"))                 return -KEY_cos;
3448             break;
3449         case 4:
3450             if (strEQ(d,"chop"))                return KEY_chop;
3451             break;
3452         case 5:
3453             if (strEQ(d,"close"))               return -KEY_close;
3454             if (strEQ(d,"chdir"))               return -KEY_chdir;
3455             if (strEQ(d,"chomp"))               return KEY_chomp;
3456             if (strEQ(d,"chmod"))               return -KEY_chmod;
3457             if (strEQ(d,"chown"))               return -KEY_chown;
3458             if (strEQ(d,"crypt"))               return -KEY_crypt;
3459             break;
3460         case 6:
3461             if (strEQ(d,"chroot"))              return -KEY_chroot;
3462             if (strEQ(d,"caller"))              return -KEY_caller;
3463             break;
3464         case 7:
3465             if (strEQ(d,"connect"))             return -KEY_connect;
3466             break;
3467         case 8:
3468             if (strEQ(d,"closedir"))            return -KEY_closedir;
3469             if (strEQ(d,"continue"))            return -KEY_continue;
3470             break;
3471         }
3472         break;
3473     case 'D':
3474         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3475         break;
3476     case 'd':
3477         switch (len) {
3478         case 2:
3479             if (strEQ(d,"do"))                  return KEY_do;
3480             break;
3481         case 3:
3482             if (strEQ(d,"die"))                 return -KEY_die;
3483             break;
3484         case 4:
3485             if (strEQ(d,"dump"))                return -KEY_dump;
3486             break;
3487         case 6:
3488             if (strEQ(d,"delete"))              return KEY_delete;
3489             break;
3490         case 7:
3491             if (strEQ(d,"defined"))             return KEY_defined;
3492             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3493             break;
3494         case 8:
3495             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3496             break;
3497         }
3498         break;
3499     case 'E':
3500         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3501         if (strEQ(d,"END"))                     return KEY_END;
3502         break;
3503     case 'e':
3504         switch (len) {
3505         case 2:
3506             if (strEQ(d,"eq"))                  return -KEY_eq;
3507             break;
3508         case 3:
3509             if (strEQ(d,"eof"))                 return -KEY_eof;
3510             if (strEQ(d,"exp"))                 return -KEY_exp;
3511             break;
3512         case 4:
3513             if (strEQ(d,"else"))                return KEY_else;
3514             if (strEQ(d,"exit"))                return -KEY_exit;
3515             if (strEQ(d,"eval"))                return KEY_eval;
3516             if (strEQ(d,"exec"))                return -KEY_exec;
3517             if (strEQ(d,"each"))                return KEY_each;
3518             break;
3519         case 5:
3520             if (strEQ(d,"elsif"))               return KEY_elsif;
3521             break;
3522         case 6:
3523             if (strEQ(d,"exists"))              return KEY_exists;
3524             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3525             break;
3526         case 8:
3527             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3528             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3529             break;
3530         case 9:
3531             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3532             break;
3533         case 10:
3534             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3535             if (strEQ(d,"endservent"))          return -KEY_endservent;
3536             break;
3537         case 11:
3538             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3539             break;
3540         }
3541         break;
3542     case 'f':
3543         switch (len) {
3544         case 3:
3545             if (strEQ(d,"for"))                 return KEY_for;
3546             break;
3547         case 4:
3548             if (strEQ(d,"fork"))                return -KEY_fork;
3549             break;
3550         case 5:
3551             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3552             if (strEQ(d,"flock"))               return -KEY_flock;
3553             break;
3554         case 6:
3555             if (strEQ(d,"format"))              return KEY_format;
3556             if (strEQ(d,"fileno"))              return -KEY_fileno;
3557             break;
3558         case 7:
3559             if (strEQ(d,"foreach"))             return KEY_foreach;
3560             break;
3561         case 8:
3562             if (strEQ(d,"formline"))            return -KEY_formline;
3563             break;
3564         }
3565         break;
3566     case 'G':
3567         if (len == 2) {
3568             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3569             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3570         }
3571         break;
3572     case 'g':
3573         if (strnEQ(d,"get",3)) {
3574             d += 3;
3575             if (*d == 'p') {
3576                 switch (len) {
3577                 case 7:
3578                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3579                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3580                     break;
3581                 case 8:
3582                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3583                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3584                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3585                     break;
3586                 case 11:
3587                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3588                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3589                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3590                     break;
3591                 case 14:
3592                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3593                     break;
3594                 case 16:
3595                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3596                     break;
3597                 }
3598             }
3599             else if (*d == 'h') {
3600                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3601                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3602                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
3603             }
3604             else if (*d == 'n') {
3605                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
3606                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
3607                 if (strEQ(d,"netent"))          return -KEY_getnetent;
3608             }
3609             else if (*d == 's') {
3610                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
3611                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
3612                 if (strEQ(d,"servent"))         return -KEY_getservent;
3613                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
3614                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
3615             }
3616             else if (*d == 'g') {
3617                 if (strEQ(d,"grent"))           return -KEY_getgrent;
3618                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
3619                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
3620             }
3621             else if (*d == 'l') {
3622                 if (strEQ(d,"login"))           return -KEY_getlogin;
3623             }
3624             else if (strEQ(d,"c"))              return -KEY_getc;
3625             break;
3626         }
3627         switch (len) {
3628         case 2:
3629             if (strEQ(d,"gt"))                  return -KEY_gt;
3630             if (strEQ(d,"ge"))                  return -KEY_ge;
3631             break;
3632         case 4:
3633             if (strEQ(d,"grep"))                return KEY_grep;
3634             if (strEQ(d,"goto"))                return KEY_goto;
3635             if (strEQ(d,"glob"))                return -KEY_glob;
3636             break;
3637         case 6:
3638             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
3639             break;
3640         }
3641         break;
3642     case 'h':
3643         if (strEQ(d,"hex"))                     return -KEY_hex;
3644         break;
3645     case 'i':
3646         switch (len) {
3647         case 2:
3648             if (strEQ(d,"if"))                  return KEY_if;
3649             break;
3650         case 3:
3651             if (strEQ(d,"int"))                 return -KEY_int;
3652             break;
3653         case 5:
3654             if (strEQ(d,"index"))               return -KEY_index;
3655             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
3656             break;
3657         }
3658         break;
3659     case 'j':
3660         if (strEQ(d,"join"))                    return -KEY_join;
3661         break;
3662     case 'k':
3663         if (len == 4) {
3664             if (strEQ(d,"keys"))                return KEY_keys;
3665             if (strEQ(d,"kill"))                return -KEY_kill;
3666         }
3667         break;
3668     case 'L':
3669         if (len == 2) {
3670             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
3671             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
3672         }
3673         break;
3674     case 'l':
3675         switch (len) {
3676         case 2:
3677             if (strEQ(d,"lt"))                  return -KEY_lt;
3678             if (strEQ(d,"le"))                  return -KEY_le;
3679             if (strEQ(d,"lc"))                  return -KEY_lc;
3680             break;
3681         case 3:
3682             if (strEQ(d,"log"))                 return -KEY_log;
3683             break;
3684         case 4:
3685             if (strEQ(d,"last"))                return KEY_last;
3686             if (strEQ(d,"link"))                return -KEY_link;
3687             break;
3688         case 5:
3689             if (strEQ(d,"local"))               return KEY_local;
3690             if (strEQ(d,"lstat"))               return -KEY_lstat;
3691             break;
3692         case 6:
3693             if (strEQ(d,"length"))              return -KEY_length;
3694             if (strEQ(d,"listen"))              return -KEY_listen;
3695             break;
3696         case 7:
3697             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
3698             break;
3699         case 9:
3700             if (strEQ(d,"localtime"))           return -KEY_localtime;
3701             break;
3702         }
3703         break;
3704     case 'm':
3705         switch (len) {
3706         case 1:                                 return KEY_m;
3707         case 2:
3708             if (strEQ(d,"my"))                  return KEY_my;
3709             break;
3710         case 3:
3711             if (strEQ(d,"map"))                 return KEY_map;
3712             break;
3713         case 5:
3714             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
3715             break;
3716         case 6:
3717             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
3718             if (strEQ(d,"msgget"))              return -KEY_msgget;
3719             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
3720             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
3721             break;
3722         }
3723         break;
3724     case 'N':
3725         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
3726         break;
3727     case 'n':
3728         if (strEQ(d,"next"))                    return KEY_next;
3729         if (strEQ(d,"ne"))                      return -KEY_ne;
3730         if (strEQ(d,"not"))                     return -KEY_not;
3731         if (strEQ(d,"no"))                      return KEY_no;
3732         break;
3733     case 'o':
3734         switch (len) {
3735         case 2:
3736             if (strEQ(d,"or"))                  return -KEY_or;
3737             break;
3738         case 3:
3739             if (strEQ(d,"ord"))                 return -KEY_ord;
3740             if (strEQ(d,"oct"))                 return -KEY_oct;
3741             break;
3742         case 4:
3743             if (strEQ(d,"open"))                return -KEY_open;
3744             break;
3745         case 7:
3746             if (strEQ(d,"opendir"))             return -KEY_opendir;
3747             break;
3748         }
3749         break;
3750     case 'p':
3751         switch (len) {
3752         case 3:
3753             if (strEQ(d,"pop"))                 return KEY_pop;
3754             if (strEQ(d,"pos"))                 return KEY_pos;
3755             break;
3756         case 4:
3757             if (strEQ(d,"push"))                return KEY_push;
3758             if (strEQ(d,"pack"))                return -KEY_pack;
3759             if (strEQ(d,"pipe"))                return -KEY_pipe;
3760             break;
3761         case 5:
3762             if (strEQ(d,"print"))               return KEY_print;
3763             break;
3764         case 6:
3765             if (strEQ(d,"printf"))              return KEY_printf;
3766             break;
3767         case 7:
3768             if (strEQ(d,"package"))             return KEY_package;
3769             break;
3770         case 9:
3771             if (strEQ(d,"prototype"))           return KEY_prototype;
3772         }
3773         break;
3774     case 'q':
3775         if (len <= 2) {
3776             if (strEQ(d,"q"))                   return KEY_q;
3777             if (strEQ(d,"qq"))                  return KEY_qq;
3778             if (strEQ(d,"qw"))                  return KEY_qw;
3779             if (strEQ(d,"qx"))                  return KEY_qx;
3780         }
3781         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
3782         break;
3783     case 'r':
3784         switch (len) {
3785         case 3:
3786             if (strEQ(d,"ref"))                 return -KEY_ref;
3787             break;
3788         case 4:
3789             if (strEQ(d,"read"))                return -KEY_read;
3790             if (strEQ(d,"rand"))                return -KEY_rand;
3791             if (strEQ(d,"recv"))                return -KEY_recv;
3792             if (strEQ(d,"redo"))                return KEY_redo;
3793             break;
3794         case 5:
3795             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
3796             if (strEQ(d,"reset"))               return -KEY_reset;
3797             break;
3798         case 6:
3799             if (strEQ(d,"return"))              return KEY_return;
3800             if (strEQ(d,"rename"))              return -KEY_rename;
3801             if (strEQ(d,"rindex"))              return -KEY_rindex;
3802             break;
3803         case 7:
3804             if (strEQ(d,"require"))             return -KEY_require;
3805             if (strEQ(d,"reverse"))             return -KEY_reverse;
3806             if (strEQ(d,"readdir"))             return -KEY_readdir;
3807             break;
3808         case 8:
3809             if (strEQ(d,"readlink"))            return -KEY_readlink;
3810             if (strEQ(d,"readline"))            return -KEY_readline;
3811             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
3812             break;
3813         case 9:
3814             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
3815             break;
3816         }
3817         break;
3818     case 's':
3819         switch (d[1]) {
3820         case 0:                                 return KEY_s;
3821         case 'c':
3822             if (strEQ(d,"scalar"))              return KEY_scalar;
3823             break;
3824         case 'e':
3825             switch (len) {
3826             case 4:
3827                 if (strEQ(d,"seek"))            return -KEY_seek;
3828                 if (strEQ(d,"send"))            return -KEY_send;
3829                 break;
3830             case 5:
3831                 if (strEQ(d,"semop"))           return -KEY_semop;
3832                 break;
3833             case 6:
3834                 if (strEQ(d,"select"))          return -KEY_select;
3835                 if (strEQ(d,"semctl"))          return -KEY_semctl;
3836                 if (strEQ(d,"semget"))          return -KEY_semget;
3837                 break;
3838             case 7:
3839                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
3840                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
3841                 break;
3842             case 8:
3843                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
3844                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
3845                 break;
3846             case 9:
3847                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
3848                 break;
3849             case 10:
3850                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
3851                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
3852                 if (strEQ(d,"setservent"))      return -KEY_setservent;
3853                 break;
3854             case 11:
3855                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
3856                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
3857                 break;
3858             }
3859             break;
3860         case 'h':
3861             switch (len) {
3862             case 5:
3863                 if (strEQ(d,"shift"))           return KEY_shift;
3864                 break;
3865             case 6:
3866                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
3867                 if (strEQ(d,"shmget"))          return -KEY_shmget;
3868                 break;
3869             case 7:
3870                 if (strEQ(d,"shmread"))         return -KEY_shmread;
3871                 break;
3872             case 8:
3873                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
3874                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
3875                 break;
3876             }
3877             break;
3878         case 'i':
3879             if (strEQ(d,"sin"))                 return -KEY_sin;
3880             break;
3881         case 'l':
3882             if (strEQ(d,"sleep"))               return -KEY_sleep;
3883             break;
3884         case 'o':
3885             if (strEQ(d,"sort"))                return KEY_sort;
3886             if (strEQ(d,"socket"))              return -KEY_socket;
3887             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
3888             break;
3889         case 'p':
3890             if (strEQ(d,"split"))               return KEY_split;
3891             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
3892             if (strEQ(d,"splice"))              return KEY_splice;
3893             break;
3894         case 'q':
3895             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
3896             break;
3897         case 'r':
3898             if (strEQ(d,"srand"))               return -KEY_srand;
3899             break;
3900         case 't':
3901             if (strEQ(d,"stat"))                return -KEY_stat;
3902             if (strEQ(d,"study"))               return KEY_study;
3903             break;
3904         case 'u':
3905             if (strEQ(d,"substr"))              return -KEY_substr;
3906             if (strEQ(d,"sub"))                 return KEY_sub;
3907             break;
3908         case 'y':
3909             switch (len) {
3910             case 6:
3911                 if (strEQ(d,"system"))          return -KEY_system;
3912                 break;
3913             case 7:
3914                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
3915                 if (strEQ(d,"sysread"))         return -KEY_sysread;
3916                 if (strEQ(d,"symlink"))         return -KEY_symlink;
3917                 if (strEQ(d,"syscall"))         return -KEY_syscall;
3918                 break;
3919             case 8:
3920                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
3921                 break;
3922             }
3923             break;
3924         }
3925         break;
3926     case 't':
3927         switch (len) {
3928         case 2:
3929             if (strEQ(d,"tr"))                  return KEY_tr;
3930             break;
3931         case 3:
3932             if (strEQ(d,"tie"))                 return KEY_tie;
3933             break;
3934         case 4:
3935             if (strEQ(d,"tell"))                return -KEY_tell;
3936             if (strEQ(d,"tied"))                return KEY_tied;
3937             if (strEQ(d,"time"))                return -KEY_time;
3938             break;
3939         case 5:
3940             if (strEQ(d,"times"))               return -KEY_times;
3941             break;
3942         case 7:
3943             if (strEQ(d,"telldir"))             return -KEY_telldir;
3944             break;
3945         case 8:
3946             if (strEQ(d,"truncate"))            return -KEY_truncate;
3947             break;
3948         }
3949         break;
3950     case 'u':
3951         switch (len) {
3952         case 2:
3953             if (strEQ(d,"uc"))                  return -KEY_uc;
3954             break;
3955         case 3:
3956             if (strEQ(d,"use"))                 return KEY_use;
3957             break;
3958         case 5:
3959             if (strEQ(d,"undef"))               return KEY_undef;
3960             if (strEQ(d,"until"))               return KEY_until;
3961             if (strEQ(d,"untie"))               return KEY_untie;
3962             if (strEQ(d,"utime"))               return -KEY_utime;
3963             if (strEQ(d,"umask"))               return -KEY_umask;
3964             break;
3965         case 6:
3966             if (strEQ(d,"unless"))              return KEY_unless;
3967             if (strEQ(d,"unpack"))              return -KEY_unpack;
3968             if (strEQ(d,"unlink"))              return -KEY_unlink;
3969             break;
3970         case 7:
3971             if (strEQ(d,"unshift"))             return KEY_unshift;
3972             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
3973             break;
3974         }
3975         break;
3976     case 'v':
3977         if (strEQ(d,"values"))                  return -KEY_values;
3978         if (strEQ(d,"vec"))                     return -KEY_vec;
3979         break;
3980     case 'w':
3981         switch (len) {
3982         case 4:
3983             if (strEQ(d,"warn"))                return -KEY_warn;
3984             if (strEQ(d,"wait"))                return -KEY_wait;
3985             break;
3986         case 5:
3987             if (strEQ(d,"while"))               return KEY_while;
3988             if (strEQ(d,"write"))               return -KEY_write;
3989             break;
3990         case 7:
3991             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
3992             break;
3993         case 9:
3994             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
3995             break;
3996         }
3997         break;
3998     case 'x':
3999         if (len == 1)                           return -KEY_x;
4000         if (strEQ(d,"xor"))                     return -KEY_xor;
4001         break;
4002     case 'y':
4003         if (len == 1)                           return KEY_y;
4004         break;
4005     case 'z':
4006         break;
4007     }
4008     return 0;
4009 }
4010
4011 static void
4012 checkcomma(s,name,what)
4013 register char *s;
4014 char *name;
4015 char *what;
4016 {
4017     char *w;
4018
4019     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4020         int level = 1;
4021         for (w = s+2; *w && level; w++) {
4022             if (*w == '(')
4023                 ++level;
4024             else if (*w == ')')
4025                 --level;
4026         }
4027         if (*w)
4028             for (; *w && isSPACE(*w); w++) ;
4029         if (!*w || !strchr(";|})]oa!=", *w))    /* an advisory hack only... */
4030             warn("%s (...) interpreted as function",name);
4031     }
4032     while (s < bufend && isSPACE(*s))
4033         s++;
4034     if (*s == '(')
4035         s++;
4036     while (s < bufend && isSPACE(*s))
4037         s++;
4038     if (isIDFIRST(*s)) {
4039         w = s++;
4040         while (isALNUM(*s))
4041             s++;
4042         while (s < bufend && isSPACE(*s))
4043             s++;
4044         if (*s == ',') {
4045             int kw;
4046             *s = '\0';
4047             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4048             *s = ',';
4049             if (kw)
4050                 return;
4051             croak("No comma allowed after %s", what);
4052         }
4053     }
4054 }
4055
4056 static char *
4057 scan_word(s, dest, allow_package, slp)
4058 register char *s;
4059 char *dest;
4060 int allow_package;
4061 STRLEN *slp;
4062 {
4063     register char *d = dest;
4064     for (;;) {
4065         if (isALNUM(*s))
4066             *d++ = *s++;
4067         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4068             *d++ = ':';
4069             *d++ = ':';
4070             s++;
4071         }
4072         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4073             *d++ = *s++;
4074             *d++ = *s++;
4075         }
4076         else {
4077             *d = '\0';
4078             *slp = d - dest;
4079             return s;
4080         }
4081     }
4082 }
4083
4084 static char *
4085 scan_ident(s,send,dest,ck_uni)
4086 register char *s;
4087 register char *send;
4088 char *dest;
4089 I32 ck_uni;
4090 {
4091     register char *d;
4092     char *bracket = 0;
4093     char funny = *s++;
4094
4095     if (lex_brackets == 0)
4096         lex_fakebrack = 0;
4097     if (isSPACE(*s))
4098         s = skipspace(s);
4099     d = dest;
4100     if (isDIGIT(*s)) {
4101         while (isDIGIT(*s))
4102             *d++ = *s++;
4103     }
4104     else {
4105         for (;;) {
4106             if (isALNUM(*s))
4107                 *d++ = *s++;
4108             else if (*s == '\'' && isIDFIRST(s[1])) {
4109                 *d++ = ':';
4110                 *d++ = ':';
4111                 s++;
4112             }
4113             else if (*s == ':' && s[1] == ':') {
4114                 *d++ = *s++;
4115                 *d++ = *s++;
4116             }
4117             else
4118                 break;
4119         }
4120     }
4121     *d = '\0';
4122     d = dest;
4123     if (*d) {
4124         if (lex_state != LEX_NORMAL)
4125             lex_state = LEX_INTERPENDMAYBE;
4126         return s;
4127     }
4128     if (*s == '$' && s[1] &&
4129       (isALPHA(s[1]) || strchr("$_{", s[1]) || strnEQ(s+1,"::",2)) )
4130         return s;
4131     if (*s == '{') {
4132         bracket = s;
4133         s++;
4134     }
4135     else if (ck_uni)
4136         check_uni();
4137     if (s < send)
4138         *d = *s++;
4139     d[1] = '\0';
4140     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4141         *d = *s++ ^ 64;
4142     }
4143     if (bracket) {
4144         if (isSPACE(s[-1])) {
4145             while (s < send && (*s == ' ' || *s == '\t')) s++;
4146             *d = *s;
4147         }
4148         if (isALPHA(*d) || *d == '_') {
4149             d++;
4150             while (isALNUM(*s) || *s == ':')
4151                 *d++ = *s++;
4152             *d = '\0';
4153             while (s < send && (*s == ' ' || *s == '\t')) s++;
4154             if ((*s == '[' || *s == '{')) {
4155                 if (dowarn && keyword(dest, d - dest)) {
4156                     char *brack = *s == '[' ? "[...]" : "{...}";
4157                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4158                         funny, dest, brack, funny, dest, brack);
4159                 }
4160                 lex_fakebrack = lex_brackets+1;
4161                 bracket++;
4162                 lex_brackstack[lex_brackets++] = XOPERATOR;
4163                 return s;
4164             }
4165         }
4166         if (*s == '}') {
4167             s++;
4168             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4169                 lex_state = LEX_INTERPEND;
4170             if (funny == '#')
4171                 funny = '@';
4172             if (dowarn &&
4173               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4174                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4175                     funny, dest, funny, dest);
4176         }
4177         else {
4178             s = bracket;                /* let the parser handle it */
4179             *dest = '\0';
4180         }
4181     }
4182     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4183         lex_state = LEX_INTERPEND;
4184     return s;
4185 }
4186
4187 void pmflag(pmfl,ch)
4188 U16* pmfl;
4189 int ch;
4190 {
4191     if (ch == 'i') {
4192         sawi = TRUE;
4193         *pmfl |= PMf_FOLD;
4194     }
4195     else if (ch == 'g')
4196         *pmfl |= PMf_GLOBAL;
4197     else if (ch == 'o')
4198         *pmfl |= PMf_KEEP;
4199     else if (ch == 'm')
4200         *pmfl |= PMf_MULTILINE;
4201     else if (ch == 's')
4202         *pmfl |= PMf_SINGLELINE;
4203     else if (ch == 'x')
4204         *pmfl |= PMf_EXTENDED;
4205 }
4206
4207 static char *
4208 scan_pat(start)
4209 char *start;
4210 {
4211     PMOP *pm;
4212     char *s;
4213
4214     s = scan_str(start);
4215     if (!s) {
4216         if (lex_stuff)
4217             SvREFCNT_dec(lex_stuff);
4218         lex_stuff = Nullsv;
4219         croak("Search pattern not terminated");
4220     }
4221     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4222     if (multi_open == '?')
4223         pm->op_pmflags |= PMf_ONCE;
4224
4225     while (*s && strchr("iogmsx", *s))
4226         pmflag(&pm->op_pmflags,*s++);
4227
4228     pm->op_pmpermflags = pm->op_pmflags;
4229     lex_op = (OP*)pm;
4230     yylval.ival = OP_MATCH;
4231     return s;
4232 }
4233
4234 static char *
4235 scan_subst(start)
4236 char *start;
4237 {
4238     register char *s;
4239     register PMOP *pm;
4240     I32 es = 0;
4241
4242     yylval.ival = OP_NULL;
4243
4244     s = scan_str(start);
4245
4246     if (!s) {
4247         if (lex_stuff)
4248             SvREFCNT_dec(lex_stuff);
4249         lex_stuff = Nullsv;
4250         croak("Substitution pattern not terminated");
4251     }
4252
4253     if (s[-1] == multi_open)
4254         s--;
4255
4256     s = scan_str(s);
4257     if (!s) {
4258         if (lex_stuff)
4259             SvREFCNT_dec(lex_stuff);
4260         lex_stuff = Nullsv;
4261         if (lex_repl)
4262             SvREFCNT_dec(lex_repl);
4263         lex_repl = Nullsv;
4264         croak("Substitution replacement not terminated");
4265     }
4266
4267     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4268     while (*s && strchr("iogmsex", *s)) {
4269         if (*s == 'e') {
4270             s++;
4271             es++;
4272         }
4273         else
4274             pmflag(&pm->op_pmflags,*s++);
4275     }
4276
4277     if (es) {
4278         SV *repl;
4279         pm->op_pmflags |= PMf_EVAL;
4280         repl = newSVpv("",0);
4281         while (es-- > 0)
4282             sv_catpv(repl, es ? "eval " : "do ");
4283         sv_catpvn(repl, "{ ", 2);
4284         sv_catsv(repl, lex_repl);
4285         sv_catpvn(repl, " };", 2);
4286         SvCOMPILED_on(repl);
4287         SvREFCNT_dec(lex_repl);
4288         lex_repl = repl;
4289     }
4290
4291     pm->op_pmpermflags = pm->op_pmflags;
4292     lex_op = (OP*)pm;
4293     yylval.ival = OP_SUBST;
4294     return s;
4295 }
4296
4297 void
4298 hoistmust(pm)
4299 register PMOP *pm;
4300 {
4301     if (!pm->op_pmshort && pm->op_pmregexp->regstart &&
4302         (!pm->op_pmregexp->regmust || pm->op_pmregexp->reganch & ROPT_ANCH)
4303        ) {
4304         if (!(pm->op_pmregexp->reganch & ROPT_ANCH))
4305             pm->op_pmflags |= PMf_SCANFIRST;
4306         else if (pm->op_pmflags & PMf_FOLD)
4307             return;
4308         pm->op_pmshort = SvREFCNT_inc(pm->op_pmregexp->regstart);
4309         pm->op_pmslen = SvCUR(pm->op_pmshort);
4310     }
4311     else if (pm->op_pmregexp->regmust) {/* is there a better short-circuit? */
4312         if (pm->op_pmshort &&
4313           sv_eq(pm->op_pmshort,pm->op_pmregexp->regmust))
4314         {
4315             if (pm->op_pmflags & PMf_SCANFIRST) {
4316                 SvREFCNT_dec(pm->op_pmshort);
4317                 pm->op_pmshort = Nullsv;
4318             }
4319             else {
4320                 SvREFCNT_dec(pm->op_pmregexp->regmust);
4321                 pm->op_pmregexp->regmust = Nullsv;
4322                 return;
4323             }
4324         }
4325         if (!pm->op_pmshort ||  /* promote the better string */
4326           ((pm->op_pmflags & PMf_SCANFIRST) &&
4327            (SvCUR(pm->op_pmshort) < SvCUR(pm->op_pmregexp->regmust)) )){
4328             SvREFCNT_dec(pm->op_pmshort);               /* ok if null */
4329             pm->op_pmshort = pm->op_pmregexp->regmust;
4330             pm->op_pmslen = SvCUR(pm->op_pmshort);
4331             pm->op_pmregexp->regmust = Nullsv;
4332             pm->op_pmflags |= PMf_SCANFIRST;
4333         }
4334     }
4335 }
4336
4337 static char *
4338 scan_trans(start)
4339 char *start;
4340 {
4341     register char* s;
4342     OP *op;
4343     short *tbl;
4344     I32 squash;
4345     I32 delete;
4346     I32 complement;
4347
4348     yylval.ival = OP_NULL;
4349
4350     s = scan_str(start);
4351     if (!s) {
4352         if (lex_stuff)
4353             SvREFCNT_dec(lex_stuff);
4354         lex_stuff = Nullsv;
4355         croak("Translation pattern not terminated");
4356     }
4357     if (s[-1] == multi_open)
4358         s--;
4359
4360     s = scan_str(s);
4361     if (!s) {
4362         if (lex_stuff)
4363             SvREFCNT_dec(lex_stuff);
4364         lex_stuff = Nullsv;
4365         if (lex_repl)
4366             SvREFCNT_dec(lex_repl);
4367         lex_repl = Nullsv;
4368         croak("Translation replacement not terminated");
4369     }
4370
4371     New(803,tbl,256,short);
4372     op = newPVOP(OP_TRANS, 0, (char*)tbl);
4373
4374     complement = delete = squash = 0;
4375     while (*s == 'c' || *s == 'd' || *s == 's') {
4376         if (*s == 'c')
4377             complement = OPpTRANS_COMPLEMENT;
4378         else if (*s == 'd')
4379             delete = OPpTRANS_DELETE;
4380         else
4381             squash = OPpTRANS_SQUASH;
4382         s++;
4383     }
4384     op->op_private = delete|squash|complement;
4385
4386     lex_op = op;
4387     yylval.ival = OP_TRANS;
4388     return s;
4389 }
4390
4391 static char *
4392 scan_heredoc(s)
4393 register char *s;
4394 {
4395     SV *herewas;
4396     I32 op_type = OP_SCALAR;
4397     I32 len;
4398     SV *tmpstr;
4399     char term;
4400     register char *d;
4401     char *peek;
4402
4403     s += 2;
4404     d = tokenbuf;
4405     if (!rsfp)
4406         *d++ = '\n';
4407     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4408     if (*peek && strchr("`'\"",*peek)) {
4409         s = peek;
4410         term = *s++;
4411         s = cpytill(d,s,bufend,term,&len);
4412         if (s < bufend)
4413             s++;
4414         d += len;
4415     }
4416     else {
4417         if (*s == '\\')
4418             s++, term = '\'';
4419         else
4420             term = '"';
4421         if (!isALNUM(*s))
4422             deprecate("bare << to mean <<\"\"");
4423         while (isALNUM(*s))
4424             *d++ = *s++;
4425     }                           /* assuming tokenbuf won't clobber */
4426     *d++ = '\n';
4427     *d = '\0';
4428     len = d - tokenbuf;
4429     d = "\n";
4430     if (rsfp || !(d=ninstr(s,bufend,d,d+1)))
4431         herewas = newSVpv(s,bufend-s);
4432     else
4433         s--, herewas = newSVpv(s,d-s);
4434     s += SvCUR(herewas);
4435
4436     tmpstr = NEWSV(87,80);
4437     sv_upgrade(tmpstr, SVt_PVIV);
4438     if (term == '\'') {
4439         op_type = OP_CONST;
4440         SvIVX(tmpstr) = -1;
4441     }
4442     else if (term == '`') {
4443         op_type = OP_BACKTICK;
4444         SvIVX(tmpstr) = '\\';
4445     }
4446
4447     CLINE;
4448     multi_start = curcop->cop_line;
4449     multi_open = multi_close = '<';
4450     term = *tokenbuf;
4451     if (!rsfp) {
4452         d = s;
4453         while (s < bufend &&
4454           (*s != term || bcmp(s,tokenbuf,len) != 0) ) {
4455             if (*s++ == '\n')
4456                 curcop->cop_line++;
4457         }
4458         if (s >= bufend) {
4459             curcop->cop_line = multi_start;
4460             missingterm(tokenbuf);
4461         }
4462         sv_setpvn(tmpstr,d+1,s-d);
4463         s += len - 1;
4464         sv_catpvn(herewas,s,bufend-s);
4465         sv_setsv(linestr,herewas);
4466         oldoldbufptr = oldbufptr = bufptr = s = SvPVX(linestr);
4467         bufend = SvPVX(linestr) + SvCUR(linestr);
4468     }
4469     else
4470         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4471     while (s >= bufend) {       /* multiple line string? */
4472         if (!rsfp ||
4473          !(oldoldbufptr = oldbufptr = s = filter_gets(linestr, rsfp))) {
4474             curcop->cop_line = multi_start;
4475             missingterm(tokenbuf);
4476         }
4477         curcop->cop_line++;
4478         if (perldb && curstash != debstash) {
4479             SV *sv = NEWSV(88,0);
4480
4481             sv_upgrade(sv, SVt_PVMG);
4482             sv_setsv(sv,linestr);
4483             av_store(GvAV(curcop->cop_filegv),
4484               (I32)curcop->cop_line,sv);
4485         }
4486         bufend = SvPVX(linestr) + SvCUR(linestr);
4487         if (*s == term && bcmp(s,tokenbuf,len) == 0) {
4488             s = bufend - 1;
4489             *s = ' ';
4490             sv_catsv(linestr,herewas);
4491             bufend = SvPVX(linestr) + SvCUR(linestr);
4492         }
4493         else {
4494             s = bufend;
4495             sv_catsv(tmpstr,linestr);
4496         }
4497     }
4498     multi_end = curcop->cop_line;
4499     s++;
4500     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4501         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4502         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4503     }
4504     SvREFCNT_dec(herewas);
4505     lex_stuff = tmpstr;
4506     yylval.ival = op_type;
4507     return s;
4508 }
4509
4510 static char *
4511 scan_inputsymbol(start)
4512 char *start;
4513 {
4514     register char *s = start;
4515     register char *d;
4516     I32 len;
4517
4518     d = tokenbuf;
4519     s = cpytill(d, s+1, bufend, '>', &len);
4520     if (s < bufend)
4521         s++;
4522     else
4523         croak("Unterminated <> operator");
4524
4525     if (*d == '$' && d[1]) d++;
4526     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4527         d++;
4528     if (d - tokenbuf != len) {
4529         yylval.ival = OP_GLOB;
4530         set_csh();
4531         s = scan_str(start);
4532         if (!s)
4533             croak("Glob not terminated");
4534         return s;
4535     }
4536     else {
4537         d = tokenbuf;
4538         if (!len)
4539             (void)strcpy(d,"ARGV");
4540         if (*d == '$') {
4541             I32 tmp;
4542             if (tmp = pad_findmy(d)) {
4543                 OP *op = newOP(OP_PADSV, 0);
4544                 op->op_targ = tmp;
4545                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, op));
4546             }
4547             else {
4548                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4549                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4550                                         newUNOP(OP_RV2GV, 0,
4551                                             newUNOP(OP_RV2SV, 0,
4552                                                 newGVOP(OP_GV, 0, gv))));
4553             }
4554             yylval.ival = OP_NULL;
4555         }
4556         else {
4557             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4558             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4559             yylval.ival = OP_NULL;
4560         }
4561     }
4562     return s;
4563 }
4564
4565 static char *
4566 scan_str(start)
4567 char *start;
4568 {
4569     SV *sv;
4570     char *tmps;
4571     register char *s = start;
4572     register char term;
4573     register char *to;
4574     I32 brackets = 1;
4575
4576     if (isSPACE(*s))
4577         s = skipspace(s);
4578     CLINE;
4579     term = *s;
4580     multi_start = curcop->cop_line;
4581     multi_open = term;
4582     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4583