doop.c

   1 /*    doop.c
   2  *
   3  *    Copyright (c) 1991-2000, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  * "'So that was the job I felt I had to do when I started,' thought Sam."
  12  */
  13
  14 #include "EXTERN.h"
  15 #define PERL_IN_DOOP_C
  16 #include "perl.h"
  17
  18 #ifndef PERL_MICRO
  19 #if !defined(NSIG) || defined(M_UNIX) || defined(M_XENIX)
  20 #include <signal.h>
  21 #endif
  22 #endif
  23
  24 #define HALF_UTF8_UPGRADE(start,end) \
  25     STMT_START {                                \
  26       if ((start)<(end)) {                      \
  27         U8* NeWsTr;                             \
  28         STRLEN LeN = (end) - (start);           \
  29         NeWsTr = bytes_to_utf8(start, &LeN);    \
  30         Safefree(start);                        \
  31         (start) = NeWsTr;                       \
  32         (end) = (start) + LeN;                  \
  33       }                                         \
  34     } STMT_END
  35
  36 STATIC I32
  37 S_do_trans_simple(pTHX_ SV *sv)
  38 {
  39     dTHR;
  40     U8 *s;
  41     U8 *d;
  42     U8 *send;
  43     U8 *dstart;
  44     I32 matches = 0;
  45     I32 sutf = SvUTF8(sv);
  46     STRLEN len;
  47     short *tbl;
  48     I32 ch;
  49
  50     tbl = (short*)cPVOP->op_pv;
  51     if (!tbl)
  52         Perl_croak(aTHX_ "panic: do_trans");
  53
  54     s = (U8*)SvPV(sv, len);
  55     send = s + len;
  56
  57     /* First, take care of non-UTF8 input strings, because they're easy */
  58     if (!sutf) {
  59         while (s < send) {
  60             if ((ch = tbl[*s]) >= 0) {
  61                 matches++;
  62                 *s++ = ch;
  63             }
  64             else
  65                 s++;
  66         }
  67         SvSETMAGIC(sv);
  68         return matches;
  69     }
  70
  71     /* Allow for expansion: $_="a".chr(400); tr/a/\xFE/, FE needs encoding */
  72     Newz(0, d, len*2+1, U8);
  73     dstart = d;
  74     while (s < send) {
  75         I32 ulen;
  76         short c;
  77
  78         ulen = 1;
  79         /* Need to check this, otherwise 128..255 won't match */
  80         c = utf8_to_uv_chk(s, &ulen, 0);
  81         if (c < 0x100 && (ch = tbl[(short)c]) >= 0) {
  82             matches++;
  83             if (ch < 0x80)
  84                 *d++ = ch;
  85             else
  86                 d = uv_to_utf8(d,ch);
  87             s += ulen;
  88         }
  89         else { /* No match -> copy */
  90             while (ulen--)
  91                 *d++ = *s++;
  92         }
  93     }
  94     *d = '\0';
  95     sv_setpvn(sv, (const char*)dstart, d - dstart);
  96     Safefree(dstart);
  97     SvUTF8_on(sv);
  98     SvSETMAGIC(sv);
  99     return matches;
 100 }
 101
 102 STATIC I32
 103 S_do_trans_count(pTHX_ SV *sv)/* SPC - OK */
 104 {
 105     dTHR;
 106     U8 *s;
 107     U8 *send;
 108     I32 matches = 0;
 109     I32 hasutf = SvUTF8(sv);
 110     STRLEN len;
 111     short *tbl;
 112
 113     tbl = (short*)cPVOP->op_pv;
 114     if (!tbl)
 115         Perl_croak(aTHX_ "panic: do_trans");
 116
 117     s = (U8*)SvPV(sv, len);
 118     send = s + len;
 119
 120     while (s < send) {
 121         if (hasutf && *s & 0x80)
 122             s += UTF8SKIP(s);
 123         else {
 124             UV c;
 125             I32 ulen;
 126             ulen = 1;
 127             if (hasutf)
 128                 c = utf8_to_uv_chk(s,&ulen, 0);
 129             else
 130                 c = *s;
 131             if (c < 0x100 && tbl[c] >= 0)
 132                 matches++;
 133             s += ulen;
 134         }
 135     }
 136
 137     return matches;
 138 }
 139
 140 STATIC I32
 141 S_do_trans_complex(pTHX_ SV *sv)/* SPC - NOT OK */
 142 {
 143     dTHR;
 144     U8 *s;
 145     U8 *send;
 146     U8 *d;
 147     I32 hasutf = SvUTF8(sv);
 148     I32 matches = 0;
 149     STRLEN len;
 150     short *tbl;
 151     I32 ch;
 152
 153     tbl = (short*)cPVOP->op_pv;
 154     if (!tbl)
 155         Perl_croak(aTHX_ "panic: do_trans");
 156
 157     s = (U8*)SvPV(sv, len);
 158     send = s + len;
 159
 160     d = s;
 161     if (PL_op->op_private & OPpTRANS_SQUASH) {
 162         U8* p = send;
 163
 164         while (s < send) {
 165             if (hasutf && *s & 0x80)
 166                 s += UTF8SKIP(s);
 167             else {
 168                 if ((ch = tbl[*s]) >= 0) {
 169                     *d = ch;
 170                     matches++;
 171                     if (p == d - 1 && *p == *d)
 172                         matches--;
 173                     else
 174                         p = d++;
 175                 }
 176                 else if (ch == -1)      /* -1 is unmapped character */
 177                     *d++ = *s;          /* -2 is delete character */
 178                 s++;
 179             }
 180         }
 181     }
 182     else {
 183         while (s < send) {
 184             if (hasutf && *s & 0x80)
 185                 s += UTF8SKIP(s);
 186             else {
 187                 if ((ch = tbl[*s]) >= 0) {
 188                     *d = ch;
 189                     matches++;
 190                     d++;
 191                 }
 192                 else if (ch == -1)      /* -1 is unmapped character */
 193                     *d++ = *s;          /* -2 is delete character */
 194                 s++;
 195             }
 196         }
 197     }
 198     matches += send - d;                /* account for disappeared chars */
 199     *d = '\0';
 200     SvCUR_set(sv, d - (U8*)SvPVX(sv));
 201     SvSETMAGIC(sv);
 202
 203     return matches;
 204 }
 205
 206 STATIC I32
 207 S_do_trans_simple_utf8(pTHX_ SV *sv)/* SPC - OK */
 208 {
 209     dTHR;
 210     U8 *s;
 211     U8 *send;
 212     U8 *d;
 213     U8 *start;
 214     U8 *dstart;
 215     I32 matches = 0;
 216     STRLEN len;
 217
 218     SV* rv = (SV*)cSVOP->op_sv;
 219     HV* hv = (HV*)SvRV(rv);
 220     SV** svp = hv_fetch(hv, "NONE", 4, FALSE);
 221     UV none = svp ? SvUV(*svp) : 0x7fffffff;
 222     UV extra = none + 1;
 223     UV final;
 224     UV uv;
 225     I32 isutf;
 226     I32 howmany;
 227
 228     isutf = SvUTF8(sv);
 229     s = (U8*)SvPV(sv, len);
 230     send = s + len;
 231     start = s;
 232
 233     svp = hv_fetch(hv, "FINAL", 5, FALSE);
 234     if (svp)
 235         final = SvUV(*svp);
 236
 237     /* d needs to be bigger than s, in case e.g. upgrading is required */
 238     Newz(0, d, len*2+1, U8);
 239     dstart = d;
 240     while (s < send) {
 241         if ((uv = swash_fetch(rv, s)) < none) {
 242             s += UTF8SKIP(s);
 243             matches++;
 244             if ((uv & 0x80) && !isutf++)
 245                 HALF_UTF8_UPGRADE(dstart,d);
 246             d = uv_to_utf8(d, uv);
 247         }
 248         else if (uv == none) {
 249             int i;
 250             i = UTF8SKIP(s);
 251             if (i > 1 && !isutf++)
 252                 HALF_UTF8_UPGRADE(dstart,d);
 253             while(i--)
 254                 *d++ = *s++;
 255         }
 256         else if (uv == extra) {
 257             int i;
 258             i = UTF8SKIP(s);
 259             s += i;
 260             matches++;
 261             if (i > 1 && !isutf++)
 262                 HALF_UTF8_UPGRADE(dstart,d);
 263             d = uv_to_utf8(d, final);
 264         }
 265         else
 266             s += UTF8SKIP(s);
 267     }
 268     *d = '\0';
 269     sv_setpvn(sv, (const char*)dstart, d - dstart);
 270     SvSETMAGIC(sv);
 271     if (isutf)
 272         SvUTF8_on(sv);
 273
 274     return matches;
 275 }
 276
 277 STATIC I32
 278 S_do_trans_count_utf8(pTHX_ SV *sv)/* SPC - OK */
 279 {
 280     dTHR;
 281     U8 *s;
 282     U8 *send;
 283     I32 matches = 0;
 284     STRLEN len;
 285
 286     SV* rv = (SV*)cSVOP->op_sv;
 287     HV* hv = (HV*)SvRV(rv);
 288     SV** svp = hv_fetch(hv, "NONE", 4, FALSE);
 289     UV none = svp ? SvUV(*svp) : 0x7fffffff;
 290     UV uv;
 291
 292     s = (U8*)SvPV(sv, len);
 293     if (!SvUTF8(sv))
 294         s = bytes_to_utf8(s, &len);
 295     send = s + len;
 296
 297     while (s < send) {
 298         if ((uv = swash_fetch(rv, s)) < none)
 299             matches++;
 300         s += UTF8SKIP(s);
 301     }
 302
 303     return matches;
 304 }
 305
 306 STATIC I32
 307 S_do_trans_complex_utf8(pTHX_ SV *sv) /* SPC - NOT OK */
 308 {
 309     dTHR;
 310     U8 *s;
 311     U8 *send;
 312     U8 *d;
 313     I32 matches = 0;
 314     I32 squash   = PL_op->op_private & OPpTRANS_SQUASH;
 315     I32 del      = PL_op->op_private & OPpTRANS_DELETE;
 316     SV* rv = (SV*)cSVOP->op_sv;
 317     HV* hv = (HV*)SvRV(rv);
 318     SV** svp = hv_fetch(hv, "NONE", 4, FALSE);
 319     UV none = svp ? SvUV(*svp) : 0x7fffffff;
 320     UV extra = none + 1;
 321     UV final;
 322     UV uv;
 323     STRLEN len;
 324     U8 *dst;
 325     I32 isutf = SvUTF8(sv);
 326
 327     s = (U8*)SvPV(sv, len);
 328     send = s + len;
 329
 330     svp = hv_fetch(hv, "FINAL", 5, FALSE);
 331     if (svp)
 332         final = SvUV(*svp);
 333
 334     Newz(0, d, len*2+1, U8);
 335         dst = d;
 336
 337     if (squash) {
 338         UV puv = 0xfeedface;
 339         while (s < send) {
 340             if (SvUTF8(sv))
 341                 uv = swash_fetch(rv, s);
 342             else {
 343                 U8 tmpbuf[2];
 344                 uv = *s++;
 345                 if (uv < 0x80)
 346                     tmpbuf[0] = uv;
 347                 else {
 348                     tmpbuf[0] = (( uv >>  6)         | 0xc0);
 349                     tmpbuf[1] = (( uv        & 0x3f) | 0x80);
 350                 }
 351                 uv = swash_fetch(rv, tmpbuf);
 352             }
 353
 354             if (uv < none) {
 355                 matches++;
 356                 if (uv != puv) {
 357                     if ((uv & 0x80) && !isutf++)
 358                         HALF_UTF8_UPGRADE(dst,d);
 359                     d = uv_to_utf8(d, uv);
 360                     puv = uv;
 361                 }
 362                 s += UTF8SKIP(s);
 363                 continue;
 364             }
 365             else if (uv == none) {      /* "none" is unmapped character */
 366                 I32 ulen;
 367                 *d++ = (U8)utf8_to_uv_chk(s, &ulen, 0);
 368                 s += ulen;
 369                 puv = 0xfeedface;
 370                 continue;
 371             }
 372             else if (uv == extra && !del) {
 373                 matches++;
 374                 if (uv != puv) {
 375                     d = uv_to_utf8(d, final);
 376                     puv = final;
 377                 }
 378                 s += UTF8SKIP(s);
 379                 continue;
 380             }
 381             matches++;                  /* "none+1" is delete character */
 382             s += UTF8SKIP(s);
 383         }
 384     }
 385     else {
 386         while (s < send) {
 387             if (SvUTF8(sv))
 388                 uv = swash_fetch(rv, s);
 389             else {
 390                 U8 tmpbuf[2];
 391                 uv = *s++;
 392                 if (uv < 0x80)
 393                     tmpbuf[0] = uv;
 394                 else {
 395                     tmpbuf[0] = (( uv >>  6)         | 0xc0);
 396                     tmpbuf[1] = (( uv        & 0x3f) | 0x80);
 397                 }
 398                 uv = swash_fetch(rv, tmpbuf);
 399             }
 400             if (uv < none) {
 401                 matches++;
 402                 d = uv_to_utf8(d, uv);
 403                 s += UTF8SKIP(s);
 404                 continue;
 405             }
 406             else if (uv == none) {      /* "none" is unmapped character */
 407                 I32 ulen;
 408                 *d++ = (U8)utf8_to_uv_chk(s, &ulen, 0);
 409                 s += ulen;
 410                 continue;
 411             }
 412             else if (uv == extra && !del) {
 413                 matches++;
 414                 d = uv_to_utf8(d, final);
 415                 s += UTF8SKIP(s);
 416                 continue;
 417             }
 418             matches++;                  /* "none+1" is delete character */
 419             s += UTF8SKIP(s);
 420         }
 421     }
 422     if (dst)
 423         sv_usepvn(sv, (char*)dst, d - dst);
 424     else {
 425         *d = '\0';
 426         SvCUR_set(sv, d - (U8*)SvPVX(sv));
 427     }
 428     SvSETMAGIC(sv);
 429
 430     return matches;
 431 }
 432
 433 I32
 434 Perl_do_trans(pTHX_ SV *sv)
 435 {
 436     dTHR;
 437     STRLEN len;
 438     I32 hasutf = (PL_op->op_private &
 439                     (OPpTRANS_FROM_UTF|OPpTRANS_TO_UTF));
 440
 441     if (SvREADONLY(sv) && !(PL_op->op_private & OPpTRANS_IDENTICAL))
 442         Perl_croak(aTHX_ PL_no_modify);
 443
 444     (void)SvPV(sv, len);
 445     if (!len)
 446         return 0;
 447     if (!SvPOKp(sv))
 448         (void)SvPV_force(sv, len);
 449     if (!(PL_op->op_private & OPpTRANS_IDENTICAL))
 450         (void)SvPOK_only_UTF8(sv);
 451
 452     DEBUG_t( Perl_deb(aTHX_ "2.TBL\n"));
 453
 454     switch (PL_op->op_private & ~hasutf & 63) {
 455     case 0:
 456         if (hasutf)
 457             return do_trans_simple_utf8(sv);
 458         else
 459             return do_trans_simple(sv);
 460
 461     case OPpTRANS_IDENTICAL:
 462         if (hasutf)
 463             return do_trans_count_utf8(sv);
 464         else
 465             return do_trans_count(sv);
 466
 467     default:
 468         if (hasutf)
 469             return do_trans_complex_utf8(sv);
 470         else
 471             return do_trans_complex(sv);
 472     }
 473 }
 474
 475 void
 476 Perl_do_join(pTHX_ register SV *sv, SV *del, register SV **mark, register SV **sp)
 477 {
 478     SV **oldmark = mark;
 479     register I32 items = sp - mark;
 480     register STRLEN len;
 481     STRLEN delimlen;
 482     register char *delim = SvPV(del, delimlen);
 483     STRLEN tmplen;
 484
 485     mark++;
 486     len = (items > 0 ? (delimlen * (items - 1) ) : 0);
 487     (void)SvUPGRADE(sv, SVt_PV);
 488     if (SvLEN(sv) < len + items) {      /* current length is way too short */
 489         while (items-- > 0) {
 490             if (*mark && !SvGAMAGIC(*mark) && SvOK(*mark)) {
 491                 SvPV(*mark, tmplen);
 492                 len += tmplen;
 493             }
 494             mark++;
 495         }
 496         SvGROW(sv, len + 1);            /* so try to pre-extend */
 497
 498         mark = oldmark;
 499         items = sp - mark;
 500         ++mark;
 501     }
 502
 503     if (items-- > 0) {
 504         char *s;
 505
 506         sv_setpv(sv, "");
 507         if (*mark)
 508             sv_catsv(sv, *mark);
 509         mark++;
 510     }
 511     else
 512         sv_setpv(sv,"");
 513     len = delimlen;
 514     if (len) {
 515         for (; items > 0; items--,mark++) {
 516             sv_catpvn(sv,delim,len);
 517             sv_catsv(sv,*mark);
 518         }
 519     }
 520     else {
 521         for (; items > 0; items--,mark++)
 522             sv_catsv(sv,*mark);
 523     }
 524     SvSETMAGIC(sv);
 525 }
 526
 527 void
 528 Perl_do_sprintf(pTHX_ SV *sv, I32 len, SV **sarg)
 529 {
 530     STRLEN patlen;
 531     char *pat = SvPV(*sarg, patlen);
 532     bool do_taint = FALSE;
 533
 534     sv_vsetpvfn(sv, pat, patlen, Null(va_list*), sarg + 1, len - 1, &do_taint);
 535     SvSETMAGIC(sv);
 536     if (do_taint)
 537         SvTAINTED_on(sv);
 538 }
 539
 540 /* currently converts input to bytes if possible, but doesn't sweat failure */
 541 UV
 542 Perl_do_vecget(pTHX_ SV *sv, I32 offset, I32 size)
 543 {
 544     STRLEN srclen, len;
 545     unsigned char *s = (unsigned char *) SvPV(sv, srclen);
 546     UV retnum = 0;
 547
 548     if (offset < 0)
 549         return retnum;
 550     if (size < 1 || (size & (size-1))) /* size < 1 or not a power of two */
 551         Perl_croak(aTHX_ "Illegal number of bits in vec");
 552
 553     if (SvUTF8(sv)) {
 554         (void) Perl_sv_utf8_downgrade(aTHX_ sv, TRUE);
 555     }
 556
 557     offset *= size;     /* turn into bit offset */
 558     len = (offset + size + 7) / 8;      /* required number of bytes */
 559     if (len > srclen) {
 560         if (size <= 8)
 561             retnum = 0;
 562         else {
 563             offset >>= 3;       /* turn into byte offset */
 564             if (size == 16) {
 565                 if (offset >= srclen)
 566                     retnum = 0;
 567                 else
 568                     retnum = (UV) s[offset] <<  8;
 569             }
 570             else if (size == 32) {
 571                 if (offset >= srclen)
 572                     retnum = 0;
 573                 else if (offset + 1 >= srclen)
 574                     retnum =
 575                         ((UV) s[offset    ] << 24);
 576                 else if (offset + 2 >= srclen)
 577                     retnum =
 578                         ((UV) s[offset    ] << 24) +
 579                         ((UV) s[offset + 1] << 16);
 580                 else
 581                     retnum =
 582                         ((UV) s[offset    ] << 24) +
 583                         ((UV) s[offset + 1] << 16) +
 584                         (     s[offset + 2] <<  8);
 585             }
 586 #ifdef UV_IS_QUAD
 587             else if (size == 64) {
 588                 dTHR;
 589                 if (ckWARN(WARN_PORTABLE))
 590                     Perl_warner(aTHX_ WARN_PORTABLE,
 591                                 "Bit vector size > 32 non-portable");
 592                 if (offset >= srclen)
 593                     retnum = 0;
 594                 else if (offset + 1 >= srclen)
 595                     retnum =
 596                         (UV) s[offset     ] << 56;
 597                 else if (offset + 2 >= srclen)
 598                     retnum =
 599                         ((UV) s[offset    ] << 56) +
 600                         ((UV) s[offset + 1] << 48);
 601                 else if (offset + 3 >= srclen)
 602                     retnum =
 603                         ((UV) s[offset    ] << 56) +
 604                         ((UV) s[offset + 1] << 48) +
 605                         ((UV) s[offset + 2] << 40);
 606                 else if (offset + 4 >= srclen)
 607                     retnum =
 608                         ((UV) s[offset    ] << 56) +
 609                         ((UV) s[offset + 1] << 48) +
 610                         ((UV) s[offset + 2] << 40) +
 611                         ((UV) s[offset + 3] << 32);
 612                 else if (offset + 5 >= srclen)
 613                     retnum =
 614                         ((UV) s[offset    ] << 56) +
 615                         ((UV) s[offset + 1] << 48) +
 616                         ((UV) s[offset + 2] << 40) +
 617                         ((UV) s[offset + 3] << 32) +
 618                         (     s[offset + 4] << 24);
 619                 else if (offset + 6 >= srclen)
 620                     retnum =
 621                         ((UV) s[offset    ] << 56) +
 622                         ((UV) s[offset + 1] << 48) +
 623                         ((UV) s[offset + 2] << 40) +
 624                         ((UV) s[offset + 3] << 32) +
 625                         ((UV) s[offset + 4] << 24) +
 626                         ((UV) s[offset + 5] << 16);
 627                 else
 628                     retnum =
 629                         ((UV) s[offset    ] << 56) +
 630                         ((UV) s[offset + 1] << 48) +
 631                         ((UV) s[offset + 2] << 40) +
 632                         ((UV) s[offset + 3] << 32) +
 633                         ((UV) s[offset + 4] << 24) +
 634                         ((UV) s[offset + 5] << 16) +
 635                         (     s[offset + 6] <<  8);
 636             }
 637 #endif
 638         }
 639     }
 640     else if (size < 8)
 641         retnum = (s[offset >> 3] >> (offset & 7)) & ((1 << size) - 1);
 642     else {
 643         offset >>= 3;   /* turn into byte offset */
 644         if (size == 8)
 645             retnum = s[offset];
 646         else if (size == 16)
 647             retnum =
 648                 ((UV) s[offset] <<      8) +
 649                       s[offset + 1];
 650         else if (size == 32)
 651             retnum =
 652                 ((UV) s[offset    ] << 24) +
 653                 ((UV) s[offset + 1] << 16) +
 654                 (     s[offset + 2] <<  8) +
 655                       s[offset + 3];
 656 #ifdef UV_IS_QUAD
 657         else if (size == 64) {
 658             dTHR;
 659             if (ckWARN(WARN_PORTABLE))
 660                 Perl_warner(aTHX_ WARN_PORTABLE,
 661                             "Bit vector size > 32 non-portable");
 662             retnum =
 663                 ((UV) s[offset    ] << 56) +
 664                 ((UV) s[offset + 1] << 48) +
 665                 ((UV) s[offset + 2] << 40) +
 666                 ((UV) s[offset + 3] << 32) +
 667                 ((UV) s[offset + 4] << 24) +
 668                 ((UV) s[offset + 5] << 16) +
 669                 (     s[offset + 6] <<  8) +
 670                       s[offset + 7];
 671         }
 672 #endif
 673     }
 674
 675     return retnum;
 676 }
 677
 678 /* currently converts input to bytes if possible but doesn't sweat failures,
 679  * although it does ensure that the string it clobbers is not marked as
 680  * utf8-valid any more
 681  */
 682 void
 683 Perl_do_vecset(pTHX_ SV *sv)
 684 {
 685     SV *targ = LvTARG(sv);
 686     register I32 offset;
 687     register I32 size;
 688     register unsigned char *s;
 689     register UV lval;
 690     I32 mask;
 691     STRLEN targlen;
 692     STRLEN len;
 693
 694     if (!targ)
 695         return;
 696     s = (unsigned char*)SvPV_force(targ, targlen);
 697     if (SvUTF8(targ)) {
 698         /* This is handled by the SvPOK_only below...
 699         if (!Perl_sv_utf8_downgrade(aTHX_ targ, TRUE))
 700             SvUTF8_off(targ);
 701          */
 702         (void) Perl_sv_utf8_downgrade(aTHX_ targ, TRUE);
 703     }
 704
 705     (void)SvPOK_only(targ);
 706     lval = SvUV(sv);
 707     offset = LvTARGOFF(sv);
 708     if (offset < 0)
 709         Perl_croak(aTHX_ "Assigning to negative offset in vec");
 710     size = LvTARGLEN(sv);
 711     if (size < 1 || (size & (size-1))) /* size < 1 or not a power of two */
 712         Perl_croak(aTHX_ "Illegal number of bits in vec");
 713
 714     offset *= size;                     /* turn into bit offset */
 715     len = (offset + size + 7) / 8;      /* required number of bytes */
 716     if (len > targlen) {
 717         s = (unsigned char*)SvGROW(targ, len + 1);
 718         (void)memzero((char *)(s + targlen), len - targlen + 1);
 719         SvCUR_set(targ, len);
 720     }
 721
 722     if (size < 8) {
 723         mask = (1 << size) - 1;
 724         size = offset & 7;
 725         lval &= mask;
 726         offset >>= 3;                   /* turn into byte offset */
 727         s[offset] &= ~(mask << size);
 728         s[offset] |= lval << size;
 729     }
 730     else {
 731         offset >>= 3;                   /* turn into byte offset */
 732         if (size == 8)
 733             s[offset  ] = lval         & 0xff;
 734         else if (size == 16) {
 735             s[offset  ] = (lval >>  8) & 0xff;
 736             s[offset+1] = lval         & 0xff;
 737         }
 738         else if (size == 32) {
 739             s[offset  ] = (lval >> 24) & 0xff;
 740             s[offset+1] = (lval >> 16) & 0xff;
 741             s[offset+2] = (lval >>  8) & 0xff;
 742             s[offset+3] =  lval        & 0xff;
 743         }
 744 #ifdef UV_IS_QUAD
 745         else if (size == 64) {
 746             dTHR;
 747             if (ckWARN(WARN_PORTABLE))
 748                 Perl_warner(aTHX_ WARN_PORTABLE,
 749                             "Bit vector size > 32 non-portable");
 750             s[offset  ] = (lval >> 56) & 0xff;
 751             s[offset+1] = (lval >> 48) & 0xff;
 752             s[offset+2] = (lval >> 40) & 0xff;
 753             s[offset+3] = (lval >> 32) & 0xff;
 754             s[offset+4] = (lval >> 24) & 0xff;
 755             s[offset+5] = (lval >> 16) & 0xff;
 756             s[offset+6] = (lval >>  8) & 0xff;
 757             s[offset+7] =  lval        & 0xff;
 758         }
 759 #endif
 760     }
 761     SvSETMAGIC(targ);
 762 }
 763
 764 void
 765 Perl_do_chop(pTHX_ register SV *astr, register SV *sv)
 766 {
 767     STRLEN len;
 768     char *s;
 769     dTHR;
 770
 771     if (SvTYPE(sv) == SVt_PVAV) {
 772         register I32 i;
 773         I32 max;
 774         AV* av = (AV*)sv;
 775         max = AvFILL(av);
 776         for (i = 0; i <= max; i++) {
 777             sv = (SV*)av_fetch(av, i, FALSE);
 778             if (sv && ((sv = *(SV**)sv), sv != &PL_sv_undef))
 779                 do_chop(astr, sv);
 780         }
 781         return;
 782     }
 783     else if (SvTYPE(sv) == SVt_PVHV) {
 784         HV* hv = (HV*)sv;
 785         HE* entry;
 786         (void)hv_iterinit(hv);
 787         /*SUPPRESS 560*/
 788         while ((entry = hv_iternext(hv)))
 789             do_chop(astr,hv_iterval(hv,entry));
 790         return;
 791     }
 792     else if (SvREADONLY(sv))
 793         Perl_croak(aTHX_ PL_no_modify);
 794     s = SvPV(sv, len);
 795     if (len && !SvPOK(sv))
 796         s = SvPV_force(sv, len);
 797     if (DO_UTF8(sv)) {
 798         if (s && len) {
 799             char *send = s + len;
 800             char *start = s;
 801             s = send - 1;
 802             while ((*s & 0xc0) == 0x80)
 803                 --s;
 804             if (UTF8SKIP(s) != send - s && ckWARN_d(WARN_UTF8))
 805                 Perl_warner(aTHX_ WARN_UTF8, "Malformed UTF-8 character");
 806             sv_setpvn(astr, s, send - s);
 807             *s = '\0';
 808             SvCUR_set(sv, s - start);
 809             SvNIOK_off(sv);
 810             SvUTF8_on(astr);
 811         }
 812         else
 813             sv_setpvn(astr, "", 0);
 814     }
 815     else if (s && len) {
 816         s += --len;
 817         sv_setpvn(astr, s, 1);
 818         *s = '\0';
 819         SvCUR_set(sv, len);
 820         SvUTF8_off(sv);
 821         SvNIOK_off(sv);
 822     }
 823     else
 824         sv_setpvn(astr, "", 0);
 825     SvSETMAGIC(sv);
 826 }
 827
 828 I32
 829 Perl_do_chomp(pTHX_ register SV *sv)
 830 {
 831     dTHR;
 832     register I32 count;
 833     STRLEN len;
 834     char *s;
 835
 836     if (RsSNARF(PL_rs))
 837         return 0;
 838     if (RsRECORD(PL_rs))
 839       return 0;
 840     count = 0;
 841     if (SvTYPE(sv) == SVt_PVAV) {
 842         register I32 i;
 843         I32 max;
 844         AV* av = (AV*)sv;
 845         max = AvFILL(av);
 846         for (i = 0; i <= max; i++) {
 847             sv = (SV*)av_fetch(av, i, FALSE);
 848             if (sv && ((sv = *(SV**)sv), sv != &PL_sv_undef))
 849                 count += do_chomp(sv);
 850         }
 851         return count;
 852     }
 853     else if (SvTYPE(sv) == SVt_PVHV) {
 854         HV* hv = (HV*)sv;
 855         HE* entry;
 856         (void)hv_iterinit(hv);
 857         /*SUPPRESS 560*/
 858         while ((entry = hv_iternext(hv)))
 859             count += do_chomp(hv_iterval(hv,entry));
 860         return count;
 861     }
 862     else if (SvREADONLY(sv))
 863         Perl_croak(aTHX_ PL_no_modify);
 864     s = SvPV(sv, len);
 865     if (len && !SvPOKp(sv))
 866         s = SvPV_force(sv, len);
 867     if (s && len) {
 868         s += --len;
 869         if (RsPARA(PL_rs)) {
 870             if (*s != '\n')
 871                 goto nope;
 872             ++count;
 873             while (len && s[-1] == '\n') {
 874                 --len;
 875                 --s;
 876                 ++count;
 877             }
 878         }
 879         else {
 880             STRLEN rslen;
 881             char *rsptr = SvPV(PL_rs, rslen);
 882             if (rslen == 1) {
 883                 if (*s != *rsptr)
 884                     goto nope;
 885                 ++count;
 886             }
 887             else {
 888                 if (len < rslen - 1)
 889                     goto nope;
 890                 len -= rslen - 1;
 891                 s -= rslen - 1;
 892                 if (memNE(s, rsptr, rslen))
 893                     goto nope;
 894                 count += rslen;
 895             }
 896         }
 897         *s = '\0';
 898         SvCUR_set(sv, len);
 899         SvNIOK_off(sv);
 900     }
 901   nope:
 902     SvSETMAGIC(sv);
 903     return count;
 904 }
 905
 906 void
 907 Perl_do_vop(pTHX_ I32 optype, SV *sv, SV *left, SV *right)
 908 {
 909     dTHR;       /* just for taint */
 910 #ifdef LIBERAL
 911     register long *dl;
 912     register long *ll;
 913     register long *rl;
 914 #endif
 915     register char *dc;
 916     STRLEN leftlen;
 917     STRLEN rightlen;
 918     register char *lc;
 919     register char *rc;
 920     register I32 len;
 921     I32 lensave;
 922     char *lsave;
 923     char *rsave;
 924     bool left_utf = DO_UTF8(left);
 925     bool right_utf = DO_UTF8(right);
 926     I32 needlen;
 927
 928     if (left_utf && !right_utf)
 929         sv_utf8_upgrade(right);
 930     if (!left_utf && right_utf)
 931         sv_utf8_upgrade(left);
 932
 933     if (sv != left || (optype != OP_BIT_AND && !SvOK(sv) && !SvGMAGICAL(sv)))
 934         sv_setpvn(sv, "", 0);   /* avoid undef warning on |= and ^= */
 935     lsave = lc = SvPV(left, leftlen);
 936     rsave = rc = SvPV(right, rightlen);
 937     len = leftlen < rightlen ? leftlen : rightlen;
 938     lensave = len;
 939     if ((left_utf || right_utf) && (sv == left || sv == right)) {
 940         needlen = optype == OP_BIT_AND ? len : leftlen + rightlen;
 941         Newz(801, dc, needlen + 1, char);
 942     }
 943     else if (SvOK(sv) || SvTYPE(sv) > SVt_PVMG) {
 944         STRLEN n_a;
 945         dc = SvPV_force(sv, n_a);
 946         if (SvCUR(sv) < len) {
 947             dc = SvGROW(sv, len + 1);
 948             (void)memzero(dc + SvCUR(sv), len - SvCUR(sv) + 1);
 949         }
 950         if (optype != OP_BIT_AND && (left_utf || right_utf))
 951             dc = SvGROW(sv, leftlen + rightlen + 1);
 952     }
 953     else {
 954         needlen = ((optype == OP_BIT_AND)
 955                     ? len : (leftlen > rightlen ? leftlen : rightlen));
 956         Newz(801, dc, needlen + 1, char);
 957         (void)sv_usepvn(sv, dc, needlen);
 958         dc = SvPVX(sv);         /* sv_usepvn() calls Renew() */
 959     }
 960     SvCUR_set(sv, len);
 961     (void)SvPOK_only(sv);
 962     if (left_utf || right_utf) {
 963         UV duc, luc, ruc;
 964         char *dcsave = dc;
 965         STRLEN lulen = leftlen;
 966         STRLEN rulen = rightlen;
 967         I32 ulen;
 968
 969         switch (optype) {
 970         case OP_BIT_AND:
 971             while (lulen && rulen) {
 972                 luc = utf8_to_uv_chk((U8*)lc, &ulen, 0);
 973                 lc += ulen;
 974                 lulen -= ulen;
 975                 ruc = utf8_to_uv_chk((U8*)rc, &ulen, 0);
 976                 rc += ulen;
 977                 rulen -= ulen;
 978                 duc = luc & ruc;
 979                 dc = (char*)uv_to_utf8((U8*)dc, duc);
 980             }
 981             if (sv == left || sv == right)
 982                 (void)sv_usepvn(sv, dcsave, needlen);
 983             SvCUR_set(sv, dc - dcsave);
 984             break;
 985         case OP_BIT_XOR:
 986             while (lulen && rulen) {
 987                 luc = utf8_to_uv_chk((U8*)lc, &ulen, 0);
 988                 lc += ulen;
 989                 lulen -= ulen;
 990                 ruc = utf8_to_uv_chk((U8*)rc, &ulen, 0);
 991                 rc += ulen;
 992                 rulen -= ulen;
 993                 duc = luc ^ ruc;
 994                 dc = (char*)uv_to_utf8((U8*)dc, duc);
 995             }
 996             goto mop_up_utf;
 997         case OP_BIT_OR:
 998             while (lulen && rulen) {
 999                 luc = utf8_to_uv_chk((U8*)lc, &ulen, 0);
1000                 lc += ulen;
1001                 lulen -= ulen;
1002                 ruc = utf8_to_uv_chk((U8*)rc, &ulen, 0);
1003                 rc += ulen;
1004                 rulen -= ulen;
1005                 duc = luc | ruc;
1006                 dc = (char*)uv_to_utf8((U8*)dc, duc);
1007             }
1008           mop_up_utf:
1009             if (sv == left || sv == right)
1010                 (void)sv_usepvn(sv, dcsave, needlen);
1011             SvCUR_set(sv, dc - dcsave);
1012             if (rulen)
1013                 sv_catpvn(sv, rc, rulen);
1014             else if (lulen)
1015                 sv_catpvn(sv, lc, lulen);
1016             else
1017                 *SvEND(sv) = '\0';
1018             break;
1019         }
1020         SvUTF8_on(sv);
1021         goto finish;
1022     }
1023     else
1024 #ifdef LIBERAL
1025     if (len >= sizeof(long)*4 &&
1026         !((long)dc % sizeof(long)) &&
1027         !((long)lc % sizeof(long)) &&
1028         !((long)rc % sizeof(long)))     /* It's almost always aligned... */
1029     {
1030         I32 remainder = len % (sizeof(long)*4);
1031         len /= (sizeof(long)*4);
1032
1033         dl = (long*)dc;
1034         ll = (long*)lc;
1035         rl = (long*)rc;
1036
1037         switch (optype) {
1038         case OP_BIT_AND:
1039             while (len--) {
1040                 *dl++ = *ll++ & *rl++;
1041                 *dl++ = *ll++ & *rl++;
1042                 *dl++ = *ll++ & *rl++;
1043                 *dl++ = *ll++ & *rl++;
1044             }
1045             break;
1046         case OP_BIT_XOR:
1047             while (len--) {
1048                 *dl++ = *ll++ ^ *rl++;
1049                 *dl++ = *ll++ ^ *rl++;
1050                 *dl++ = *ll++ ^ *rl++;
1051                 *dl++ = *ll++ ^ *rl++;
1052             }
1053             break;
1054         case OP_BIT_OR:
1055             while (len--) {
1056                 *dl++ = *ll++ | *rl++;
1057                 *dl++ = *ll++ | *rl++;
1058                 *dl++ = *ll++ | *rl++;
1059                 *dl++ = *ll++ | *rl++;
1060             }
1061         }
1062
1063         dc = (char*)dl;
1064         lc = (char*)ll;
1065         rc = (char*)rl;
1066
1067         len = remainder;
1068     }
1069 #endif
1070     {
1071         switch (optype) {
1072         case OP_BIT_AND:
1073             while (len--)
1074                 *dc++ = *lc++ & *rc++;
1075             break;
1076         case OP_BIT_XOR:
1077             while (len--)
1078                 *dc++ = *lc++ ^ *rc++;
1079             goto mop_up;
1080         case OP_BIT_OR:
1081             while (len--)
1082                 *dc++ = *lc++ | *rc++;
1083           mop_up:
1084             len = lensave;
1085             if (rightlen > len)
1086                 sv_catpvn(sv, rsave + len, rightlen - len);
1087             else if (leftlen > len)
1088                 sv_catpvn(sv, lsave + len, leftlen - len);
1089             else
1090                 *SvEND(sv) = '\0';
1091             break;
1092         }
1093     }
1094 finish:
1095     SvTAINT(sv);
1096 }
1097
1098 OP *
1099 Perl_do_kv(pTHX)
1100 {
1101     djSP;
1102     HV *hv = (HV*)POPs;
1103     HV *keys;
1104     register HE *entry;
1105     SV *tmpstr;
1106     I32 gimme = GIMME_V;
1107     I32 dokeys =   (PL_op->op_type == OP_KEYS);
1108     I32 dovalues = (PL_op->op_type == OP_VALUES);
1109     I32 realhv = (SvTYPE(hv) == SVt_PVHV);
1110
1111     if (PL_op->op_type == OP_RV2HV || PL_op->op_type == OP_PADHV)
1112         dokeys = dovalues = TRUE;
1113
1114     if (!hv) {
1115         if (PL_op->op_flags & OPf_MOD) {        /* lvalue */
1116             dTARGET;            /* make sure to clear its target here */
1117             if (SvTYPE(TARG) == SVt_PVLV)
1118                 LvTARG(TARG) = Nullsv;
1119             PUSHs(TARG);
1120         }
1121         RETURN;
1122     }
1123
1124     keys = realhv ? hv : avhv_keys((AV*)hv);
1125     (void)hv_iterinit(keys);    /* always reset iterator regardless */
1126
1127     if (gimme == G_VOID)
1128         RETURN;
1129
1130     if (gimme == G_SCALAR) {
1131         IV i;
1132         dTARGET;
1133
1134         if (PL_op->op_flags & OPf_MOD) {        /* lvalue */
1135             if (SvTYPE(TARG) < SVt_PVLV) {
1136                 sv_upgrade(TARG, SVt_PVLV);
1137                 sv_magic(TARG, Nullsv, 'k', Nullch, 0);
1138             }
1139             LvTYPE(TARG) = 'k';
1140             if (LvTARG(TARG) != (SV*)keys) {
1141                 if (LvTARG(TARG))
1142                     SvREFCNT_dec(LvTARG(TARG));
1143                 LvTARG(TARG) = SvREFCNT_inc(keys);
1144             }
1145             PUSHs(TARG);
1146             RETURN;
1147         }
1148
1149         if (! SvTIED_mg((SV*)keys, 'P'))
1150             i = HvKEYS(keys);
1151         else {
1152             i = 0;
1153             /*SUPPRESS 560*/
1154             while (hv_iternext(keys)) i++;
1155         }
1156         PUSHi( i );
1157         RETURN;
1158     }
1159
1160     EXTEND(SP, HvKEYS(keys) * (dokeys + dovalues));
1161
1162     PUTBACK;    /* hv_iternext and hv_iterval might clobber stack_sp */
1163     while ((entry = hv_iternext(keys))) {
1164         SPAGAIN;
1165         if (dokeys)
1166             XPUSHs(hv_iterkeysv(entry));        /* won't clobber stack_sp */
1167         if (dovalues) {
1168             PUTBACK;
1169             tmpstr = realhv ?
1170                      hv_iterval(hv,entry) : avhv_iterval((AV*)hv,entry);
1171             DEBUG_H(Perl_sv_setpvf(aTHX_ tmpstr, "%lu%%%d=%lu",
1172                             (unsigned long)HeHASH(entry),
1173                             HvMAX(keys)+1,
1174                             (unsigned long)(HeHASH(entry) & HvMAX(keys))));
1175             SPAGAIN;
1176             XPUSHs(tmpstr);
1177         }
1178         PUTBACK;
1179     }
1180     return NORMAL;
1181 }
1182