This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
S_do_trans_complex(): outdent a block of code
[perl5.git] / doop.c
diff --git a/doop.c b/doop.c
index 9b525ae..54c7bb6 100644 (file)
--- a/doop.c
+++ b/doop.c
 #include <signal.h>
 #endif
 
-STATIC I32
+
+/* Helper function for do_trans().
+ * Handles non-utf8 cases(*) not involving the /c, /d, /s flags,
+ * and where search and replacement charlists aren't identical.
+ * (*) i.e. where the search and replacement charlists are non-utf8. sv may
+ * or may not be utf8.
+ */
+
+STATIC Size_t
 S_do_trans_simple(pTHX_ SV * const sv)
 {
-    I32 matches = 0;
+    Size_t matches = 0;
     STRLEN len;
     U8 *s = (U8*)SvPV_nomg(sv,len);
     U8 * const send = s+len;
-    const short * const tbl = (short*)cPVOP->op_pv;
+    const OPtrans_map * const tbl = (OPtrans_map*)cPVOP->op_pv;
 
     PERL_ARGS_ASSERT_DO_TRANS_SIMPLE;
 
@@ -44,7 +52,7 @@ S_do_trans_simple(pTHX_ SV * const sv)
     /* First, take care of non-UTF-8 input strings, because they're easy */
     if (!SvUTF8(sv)) {
        while (s < send) {
-           const I32 ch = tbl[*s];
+           const short ch = tbl->map[*s];
            if (ch >= 0) {
                matches++;
                *s = (U8)ch;
@@ -54,7 +62,7 @@ S_do_trans_simple(pTHX_ SV * const sv)
        SvSETMAGIC(sv);
     }
     else {
-       const I32 grows = PL_op->op_private & OPpTRANS_GROWS;
+       const bool grows = cBOOL(PL_op->op_private & OPpTRANS_GROWS);
        U8 *d;
        U8 *dstart;
 
@@ -66,13 +74,13 @@ S_do_trans_simple(pTHX_ SV * const sv)
        dstart = d;
        while (s < send) {
            STRLEN ulen;
-           I32 ch;
+           short ch;
 
            /* Need to check this, otherwise 128..255 won't match */
            const UV c = utf8n_to_uvchr(s, send - s, &ulen, UTF8_ALLOW_DEFAULT);
-           if (c < 0x100 && (ch = tbl[c]) >= 0) {
+           if (c < 0x100 && (ch = tbl->map[c]) >= 0) {
                matches++;
-               d = uvchr_to_utf8(d, ch);
+               d = uvchr_to_utf8(d, (UV)ch);
                s += ulen;
            }
            else { /* No match -> copy */
@@ -95,14 +103,25 @@ S_do_trans_simple(pTHX_ SV * const sv)
     return matches;
 }
 
-STATIC I32
+
+/* Helper function for do_trans().
+ * Handles non-utf8 cases(*) where search and replacement charlists are
+ * identical: so the string isn't modified, and only a count of modifiable
+ * chars is needed.
+ * Note that it doesn't handle /d or /s, since these modify the string
+ * even if the replacement list is empty.
+ * (*) i.e. where the search and replacement charlists are non-utf8. sv may
+ * or may not be utf8.
+ */
+
+STATIC Size_t
 S_do_trans_count(pTHX_ SV * const sv)
 {
     STRLEN len;
     const U8 *s = (const U8*)SvPV_nomg_const(sv, len);
     const U8 * const send = s + len;
-    I32 matches = 0;
-    const short * const tbl = (short*)cPVOP->op_pv;
+    Size_t matches = 0;
+    const OPtrans_map * const tbl = (OPtrans_map*)cPVOP->op_pv;
 
     PERL_ARGS_ASSERT_DO_TRANS_COUNT;
 
@@ -111,17 +130,17 @@ S_do_trans_count(pTHX_ SV * const sv)
 
     if (!SvUTF8(sv)) {
        while (s < send) {
-            if (tbl[*s++] >= 0)
+            if (tbl->map[*s++] >= 0)
                 matches++;
        }
     }
     else {
-       const I32 complement = PL_op->op_private & OPpTRANS_COMPLEMENT;
+       const bool complement = cBOOL(PL_op->op_private & OPpTRANS_COMPLEMENT);
        while (s < send) {
            STRLEN ulen;
            const UV c = utf8n_to_uvchr(s, send - s, &ulen, UTF8_ALLOW_DEFAULT);
            if (c < 0x100) {
-               if (tbl[c] >= 0)
+               if (tbl->map[c] >= 0)
                    matches++;
            } else if (complement)
                matches++;
@@ -132,14 +151,22 @@ S_do_trans_count(pTHX_ SV * const sv)
     return matches;
 }
 
-STATIC I32
+
+/* Helper function for do_trans().
+ * Handles non-utf8 cases(*) involving the /c, /d, /s flags,
+ * and where search and replacement charlists aren't identical.
+ * (*) i.e. where the search and replacement charlists are non-utf8. sv may
+ * or may not be utf8.
+ */
+
+STATIC Size_t
 S_do_trans_complex(pTHX_ SV * const sv)
 {
     STRLEN len;
     U8 *s = (U8*)SvPV_nomg(sv, len);
     U8 * const send = s+len;
-    I32 matches = 0;
-    const short * const tbl = (short*)cPVOP->op_pv;
+    Size_t matches = 0;
+    const OPtrans_map * const tbl = (OPtrans_map*)cPVOP->op_pv;
 
     PERL_ARGS_ASSERT_DO_TRANS_COMPLEX;
 
@@ -153,7 +180,7 @@ S_do_trans_complex(pTHX_ SV * const sv)
        if (PL_op->op_private & OPpTRANS_SQUASH) {
            const U8* p = send;
            while (s < send) {
-               const I32 ch = tbl[*s];
+               const short ch = tbl->map[*s];
                if (ch >= 0) {
                    *d = (U8)ch;
                    matches++;
@@ -169,7 +196,7 @@ S_do_trans_complex(pTHX_ SV * const sv)
        }
        else {
            while (s < send) {
-               const I32 ch = tbl[*s];
+               const short ch = tbl->map[*s];
                if (ch >= 0) {
                    matches++;
                    *d++ = (U8)ch;
@@ -185,102 +212,55 @@ S_do_trans_complex(pTHX_ SV * const sv)
        SvCUR_set(sv, d - dstart);
     }
     else { /* is utf8 */
-       const I32 complement = PL_op->op_private & OPpTRANS_COMPLEMENT;
-       const I32 grows = PL_op->op_private & OPpTRANS_GROWS;
-       const I32 del = PL_op->op_private & OPpTRANS_DELETE;
+       const bool squash = cBOOL(PL_op->op_private & OPpTRANS_SQUASH);
+       const bool grows  = cBOOL(PL_op->op_private & OPpTRANS_GROWS);
        U8 *d;
        U8 *dstart;
-       STRLEN rlen = 0;
+       Size_t size = tbl->size;
+        UV pch = 0xfeedface;
 
        if (grows)
            Newx(d, len*2+1, U8);
        else
            d = s;
        dstart = d;
-       if (complement && !del)
-           rlen = tbl[0x100];
 
-       if (PL_op->op_private & OPpTRANS_SQUASH) {
-           UV pch = 0xfeedface;
-           while (s < send) {
-               STRLEN len;
-               const UV comp = utf8n_to_uvchr(s, send - s, &len,
-                                              UTF8_ALLOW_DEFAULT);
-               I32 ch;
+        while (s < send) {
+            STRLEN len;
+            const UV comp = utf8n_to_uvchr(s, send - s, &len,
+                                           UTF8_ALLOW_DEFAULT);
+            UV     ch;
+            short sch;
+
+            sch = tbl->map[comp >= size ? size : comp];
+
+            if (sch >= 0) {
+                ch = (UV)sch;
+              replace:
+                matches++;
+                if (LIKELY(!squash || ch != pch)) {
+                    d = uvchr_to_utf8(d, ch);
+                    pch = ch;
+                }
+                s += len;
+                continue;
+            }
+            else if (sch == -1) {      /* -1 is unmapped character */
+                Move(s, d, len, U8);
+                d += len;
+            }
+            else if (sch == -2)     /* -2 is delete character */
+                matches++;
+            else {
+                assert(sch == -3);  /* -3 is empty replacement */
+                ch = comp;
+                goto replace;
+            }
+
+            s += len;
+            pch = 0xfeedface;
+        }
 
-               if (comp > 0xff) {
-                   if (!complement) {
-                       Move(s, d, len, U8);
-                       d += len;
-                   }
-                   else {
-                       matches++;
-                       if (!del) {
-                           ch = (rlen == 0) ? (I32)comp :
-                               (comp - 0x100 < rlen) ?
-                               tbl[comp+1] : tbl[0x100+rlen];
-                           if ((UV)ch != pch) {
-                               d = uvchr_to_utf8(d, ch);
-                               pch = (UV)ch;
-                           }
-                           s += len;
-                           continue;
-                       }
-                   }
-               }
-               else if ((ch = tbl[comp]) >= 0) {
-                   matches++;
-                   if ((UV)ch != pch) {
-                       d = uvchr_to_utf8(d, ch);
-                       pch = (UV)ch;
-                   }
-                   s += len;
-                   continue;
-               }
-               else if (ch == -1) {    /* -1 is unmapped character */
-                   Move(s, d, len, U8);
-                   d += len;
-               }
-               else if (ch == -2)      /* -2 is delete character */
-                   matches++;
-               s += len;
-               pch = 0xfeedface;
-           }
-       }
-       else {
-           while (s < send) {
-               STRLEN len;
-               const UV comp = utf8n_to_uvchr(s, send - s, &len,
-                                              UTF8_ALLOW_DEFAULT);
-               I32 ch;
-               if (comp > 0xff) {
-                   if (!complement) {
-                       Move(s, d, len, U8);
-                       d += len;
-                   }
-                   else {
-                       matches++;
-                       if (!del) {
-                           if (comp - 0x100 < rlen)
-                               d = uvchr_to_utf8(d, tbl[comp+1]);
-                           else
-                               d = uvchr_to_utf8(d, tbl[0x100+rlen]);
-                       }
-                   }
-               }
-               else if ((ch = tbl[comp]) >= 0) {
-                   d = uvchr_to_utf8(d, ch);
-                   matches++;
-               }
-               else if (ch == -1) {    /* -1 is unmapped character */
-                   Move(s, d, len, U8);
-                   d += len;
-               }
-               else if (ch == -2)      /* -2 is delete character */
-                   matches++;
-               s += len;
-           }
-       }
        if (grows) {
            sv_setpvn(sv, (char*)dstart, d - dstart);
            Safefree(dstart);
@@ -295,7 +275,15 @@ S_do_trans_complex(pTHX_ SV * const sv)
     return matches;
 }
 
-STATIC I32
+
+/* Helper function for do_trans().
+ * Handles utf8 cases(*) not involving the /c, /d, /s flags,
+ * and where search and replacement charlists aren't identical.
+ * (*) i.e. where the search or replacement charlists are utf8. sv may
+ * or may not be utf8.
+ */
+
+STATIC Size_t
 S_do_trans_simple_utf8(pTHX_ SV * const sv)
 {
     U8 *s;
@@ -303,8 +291,8 @@ S_do_trans_simple_utf8(pTHX_ SV * const sv)
     U8 *d;
     U8 *start;
     U8 *dstart, *dend;
-    I32 matches = 0;
-    const I32 grows = PL_op->op_private & OPpTRANS_GROWS;
+    Size_t matches = 0;
+    const bool grows = cBOOL(PL_op->op_private & OPpTRANS_GROWS);
     STRLEN len;
     SV* const  rv =
 #ifdef USE_ITHREADS
@@ -323,15 +311,9 @@ S_do_trans_simple_utf8(pTHX_ SV * const sv)
 
     s = (U8*)SvPV_nomg(sv, len);
     if (!SvUTF8(sv)) {
-       const U8 *t = s;
-       const U8 * const e = s + len;
-       while (t < e) {
-           const U8 ch = *t++;
-           hibit = !NATIVE_BYTE_IS_INVARIANT(ch);
-           if (hibit) {
-               s = bytes_to_utf8(s, &len);
-               break;
-           }
+        hibit = ! is_utf8_invariant_string(s, len);
+        if (hibit) {
+            s = bytes_to_utf8(s, &len);
        }
     }
     send = s + len;
@@ -399,13 +381,24 @@ S_do_trans_simple_utf8(pTHX_ SV * const sv)
     return matches;
 }
 
-STATIC I32
+
+/* Helper function for do_trans().
+ * Handles utf8 cases(*) where search and replacement charlists are
+ * identical: so the string isn't modified, and only a count of modifiable
+ * chars is needed.
+ * Note that it doesn't handle /d or /s, since these modify the string
+ * even if the replacement charlist is empty.
+ * (*) i.e. where the search or replacement charlists are utf8. sv may
+ * or may not be utf8.
+ */
+
+STATIC Size_t
 S_do_trans_count_utf8(pTHX_ SV * const sv)
 {
     const U8 *s;
     const U8 *start = NULL;
     const U8 *send;
-    I32 matches = 0;
+    Size_t matches = 0;
     STRLEN len;
     SV* const  rv =
 #ifdef USE_ITHREADS
@@ -423,15 +416,9 @@ S_do_trans_count_utf8(pTHX_ SV * const sv)
 
     s = (const U8*)SvPV_nomg_const(sv, len);
     if (!SvUTF8(sv)) {
-       const U8 *t = s;
-       const U8 * const e = s + len;
-       while (t < e) {
-           const U8 ch = *t++;
-           hibit = !NATIVE_BYTE_IS_INVARIANT(ch);
-           if (hibit) {
-               start = s = bytes_to_utf8(s, &len);
-               break;
-           }
+        hibit = ! is_utf8_invariant_string(s, len);
+        if (hibit) {
+            start = s = bytes_to_utf8(s, &len);
        }
     }
     send = s + len;
@@ -448,15 +435,23 @@ S_do_trans_count_utf8(pTHX_ SV * const sv)
     return matches;
 }
 
-STATIC I32
+
+/* Helper function for do_trans().
+ * Handles utf8 cases(*) involving the /c, /d, /s flags,
+ * and where search and replacement charlists aren't identical.
+ * (*) i.e. where the search or replacement charlists are utf8. sv may
+ * or may not be utf8.
+ */
+
+STATIC Size_t
 S_do_trans_complex_utf8(pTHX_ SV * const sv)
 {
     U8 *start, *send;
     U8 *d;
-    I32 matches = 0;
-    const I32 squash   = PL_op->op_private & OPpTRANS_SQUASH;
-    const I32 del      = PL_op->op_private & OPpTRANS_DELETE;
-    const I32 grows    = PL_op->op_private & OPpTRANS_GROWS;
+    Size_t matches = 0;
+    const bool squash   = cBOOL(PL_op->op_private & OPpTRANS_SQUASH);
+    const bool del      = cBOOL(PL_op->op_private & OPpTRANS_DELETE);
+    const bool grows    = cBOOL(PL_op->op_private & OPpTRANS_GROWS);
     SV* const  rv =
 #ifdef USE_ITHREADS
                    PAD_SVl(cPADOP->op_padix);
@@ -477,15 +472,9 @@ S_do_trans_complex_utf8(pTHX_ SV * const sv)
     PERL_ARGS_ASSERT_DO_TRANS_COMPLEX_UTF8;
 
     if (!SvUTF8(sv)) {
-       const U8 *t = s;
-       const U8 * const e = s + len;
-       while (t < e) {
-           const U8 ch = *t++;
-           hibit = !NATIVE_BYTE_IS_INVARIANT(ch);
-           if (hibit) {
-               s = bytes_to_utf8(s, &len);
-               break;
-           }
+        hibit = ! is_utf8_invariant_string(s, len);
+        if (hibit) {
+            s = bytes_to_utf8(s, &len);
        }
     }
     send = s + len;
@@ -615,12 +604,19 @@ S_do_trans_complex_utf8(pTHX_ SV * const sv)
     return matches;
 }
 
-I32
+
+/* Execute a tr//. sv is the value to be translated, while PL_op
+ * should be an OP_TRANS or OP_TRANSR op, whose op_pv field contains a
+ * translation table or whose op_sv field contains a swash.
+ * Returns a count of number of characters translated
+ */
+
+Size_t
 Perl_do_trans(pTHX_ SV *sv)
 {
     STRLEN len;
-    const I32 flags = PL_op->op_private;
-    const I32 hasutf = flags & (OPpTRANS_FROM_UTF | OPpTRANS_TO_UTF);
+    const U8 flags = PL_op->op_private;
+    const U8 hasutf = flags & (OPpTRANS_FROM_UTF | OPpTRANS_TO_UTF);
 
     PERL_ARGS_ASSERT_DO_TRANS;
 
@@ -636,8 +632,6 @@ Perl_do_trans(pTHX_ SV *sv)
        (void)SvPOK_only_UTF8(sv);
     }
 
-    DEBUG_t( Perl_deb(aTHX_ "2.TBL\n"));
-
     /* If we use only OPpTRANS_IDENTICAL to bypass the READONLY check,
      * we must also rely on it to choose the readonly strategy.
      */
@@ -1024,65 +1018,116 @@ Perl_do_vop(pTHX_ I32 optype, SV *sv, SV *left, SV *right)
     STRLEN rightlen;
     const char *lc;
     const char *rc;
-    STRLEN len;
+    STRLEN len = 0;
     STRLEN lensave;
     const char *lsave;
     const char *rsave;
-    bool left_utf;
-    bool right_utf;
     STRLEN needlen = 0;
+    bool result_needs_to_be_utf8 = FALSE;
+    bool left_utf8 = FALSE;
+    bool right_utf8 = FALSE;
+    U8 * left_non_downgraded = NULL;
+    U8 * right_non_downgraded = NULL;
+    Size_t left_non_downgraded_len = 0;
+    Size_t right_non_downgraded_len = 0;
+    char * non_downgraded = NULL;
+    Size_t non_downgraded_len = 0;
 
     PERL_ARGS_ASSERT_DO_VOP;
 
     if (sv != left || (optype != OP_BIT_AND && !SvOK(sv)))
         SvPVCLEAR(sv);        /* avoid undef warning on |= and ^= */
     if (sv == left) {
-       lsave = lc = SvPV_force_nomg(left, leftlen);
+       lc = SvPV_force_nomg(left, leftlen);
     }
     else {
-       lsave = lc = SvPV_nomg_const(left, leftlen);
+       lc = SvPV_nomg_const(left, leftlen);
        SvPV_force_nomg_nolen(sv);
     }
-    rsave = rc = SvPV_nomg_const(right, rightlen);
+    rc = SvPV_nomg_const(right, rightlen);
 
     /* This needs to come after SvPV to ensure that string overloading has
        fired off.  */
 
-    left_utf = DO_UTF8(left);
-    right_utf = DO_UTF8(right);
-
-    if (left_utf && !right_utf) {
-       /* Avoid triggering overloading again by using temporaries.
-          Maybe there should be a variant of sv_utf8_upgrade that takes pvn
-       */
-       right = newSVpvn_flags(rsave, rightlen, SVs_TEMP);
-       sv_utf8_upgrade(right);
-       rsave = rc = SvPV_nomg_const(right, rightlen);
-       right_utf = TRUE;
+    /* Create downgraded temporaries of any UTF-8 encoded operands */
+    if (DO_UTF8(left)) {
+        const U8 * save_lc = (U8 *) lc;
+
+        left_utf8 = TRUE;
+        result_needs_to_be_utf8 = TRUE;
+
+        left_non_downgraded_len = leftlen;
+        lc = (char *) bytes_from_utf8_loc((const U8 *) lc, &leftlen,
+                                          &left_utf8,
+                                          (const U8 **) &left_non_downgraded);
+        /* Calculate the number of trailing unconvertible bytes.  This quantity
+         * is the original length minus the length of the converted portion. */
+        left_non_downgraded_len -= left_non_downgraded - save_lc;
+        SAVEFREEPV(lc);
+    }
+    if (DO_UTF8(right)) {
+        const U8 * save_rc = (U8 *) rc;
+
+        right_utf8 = TRUE;
+        result_needs_to_be_utf8 = TRUE;
+
+        right_non_downgraded_len = rightlen;
+        rc = (char *) bytes_from_utf8_loc((const U8 *) rc, &rightlen,
+                                          &right_utf8,
+                                          (const U8 **) &right_non_downgraded);
+        right_non_downgraded_len -= right_non_downgraded - save_rc;
+        SAVEFREEPV(rc);
+    }
+
+    /* We set 'len' to the length that the operation actually operates on.  The
+     * dangling part of the longer operand doesn't actually participate in the
+     * operation.  What happens is that we pretend that the shorter operand has
+     * been extended to the right by enough imaginary zeros to match the length
+     * of the longer one.  But we know in advance the result of the operation
+     * on zeros without having to do it.  In the case of '&', the result is
+     * zero, and the dangling portion is simply discarded.  For '|' and '^', the
+     * result is the same as the other operand, so the dangling part is just
+     * appended to the final result, unchanged.  We currently accept above-FF
+     * code points in the dangling portion, as that's how it has long worked,
+     * and code depends on it staying that way.  But it is now fatal for
+     * above-FF to appear in the portion that does get operated on.  Hence, any
+     * above-FF must come only in the longer operand, and only in its dangling
+     * portion.  That means that at least one of the operands has to be
+     * entirely non-UTF-8, and the length of that operand has to be before the
+     * first above-FF in the other */
+    if (left_utf8 || right_utf8) {
+        if (left_utf8) {
+            if (right_utf8 || rightlen > leftlen) {
+                Perl_croak(aTHX_ fatal_above_ff_msg, PL_op_desc[optype]);
+            }
+            len = rightlen;
+        }
+        else if (right_utf8) {
+            if (leftlen > rightlen) {
+                Perl_croak(aTHX_ fatal_above_ff_msg, PL_op_desc[optype]);
+            }
+            len = leftlen;
+        }
+
+        Perl_ck_warner_d(aTHX_ packWARN(WARN_DEPRECATED),
+                               deprecated_above_ff_msg, PL_op_desc[optype]);
     }
-    else if (!left_utf && right_utf) {
-       left = newSVpvn_flags(lsave, leftlen, SVs_TEMP);
-       sv_utf8_upgrade(left);
-       lsave = lc = SvPV_nomg_const(left, leftlen);
-       left_utf = TRUE;
+    else {  /* Neither is UTF-8 */
+        len = MIN(leftlen, rightlen);
     }
 
-    len = leftlen < rightlen ? leftlen : rightlen;
     lensave = len;
+    lsave = lc;
+    rsave = rc;
+
     SvCUR_set(sv, len);
     (void)SvPOK_only(sv);
-    if ((left_utf || right_utf) && (sv == left || sv == right)) {
-       needlen = optype == OP_BIT_AND ? len : leftlen + rightlen;
-       Newxz(dc, needlen + 1, char);
-    }
-    else if (SvOK(sv) || SvTYPE(sv) > SVt_PVMG) {
+    if (SvOK(sv) || SvTYPE(sv) > SVt_PVMG) {
        dc = SvPV_force_nomg_nolen(sv);
        if (SvLEN(sv) < len + 1) {
            dc = SvGROW(sv, len + 1);
            (void)memzero(dc + SvCUR(sv), len - SvCUR(sv) + 1);
        }
-       if (optype != OP_BIT_AND && (left_utf || right_utf))
-           dc = SvGROW(sv, leftlen + rightlen + 1);
     }
     else {
        needlen = optype == OP_BIT_AND
@@ -1091,93 +1136,7 @@ Perl_do_vop(pTHX_ I32 optype, SV *sv, SV *left, SV *right)
        sv_usepvn_flags(sv, dc, needlen, SV_HAS_TRAILING_NUL);
        dc = SvPVX(sv);         /* sv_usepvn() calls Renew() */
     }
-    if (left_utf || right_utf) {
-       char *dcorig = dc;
-       char *dcsave = NULL;
-       STRLEN lulen = leftlen;
-       STRLEN rulen = rightlen;
 
-       switch (optype) {
-       case OP_BIT_AND:
-           while (lulen && rulen) {
-                UV duc, luc, ruc;
-                STRLEN ulen;
-               luc = utf8n_to_uvchr((U8*)lc, lulen, &ulen, UTF8_ALLOW_ANYUV);
-               lc += ulen;
-               lulen -= ulen;
-               ruc = utf8n_to_uvchr((U8*)rc, rulen, &ulen, UTF8_ALLOW_ANYUV);
-               rc += ulen;
-               rulen -= ulen;
-               duc = luc & ruc;
-               dc = (char*)uvchr_to_utf8((U8*)dc, duc);
-                if (luc > 0xff || ruc > 0xff) {
-                    Perl_croak(aTHX_ fatal_above_ff_msg, PL_op_desc[optype]);
-                }
-           }
-           if (sv == left || sv == right)
-               (void)sv_usepvn(sv, dcorig, needlen);
-           SvCUR_set(sv, dc - dcorig);
-           *SvEND(sv) = 0;
-           break;
-       case OP_BIT_XOR:
-           while (lulen && rulen) {
-                UV duc, luc, ruc;
-                STRLEN ulen;
-               luc = utf8n_to_uvchr((U8*)lc, lulen, &ulen, UTF8_ALLOW_ANYUV);
-               lc += ulen;
-               lulen -= ulen;
-               ruc = utf8n_to_uvchr((U8*)rc, rulen, &ulen, UTF8_ALLOW_ANYUV);
-               rc += ulen;
-               rulen -= ulen;
-               duc = luc ^ ruc;
-               dc = (char*)uvchr_to_utf8((U8*)dc, duc);
-                if (luc > 0xff || ruc > 0xff) {
-                    Perl_croak(aTHX_ fatal_above_ff_msg, PL_op_desc[optype]);
-                }
-           }
-           goto mop_up_utf;
-       case OP_BIT_OR:
-           while (lulen && rulen) {
-                UV duc, luc, ruc;
-                STRLEN ulen;
-               luc = utf8n_to_uvchr((U8*)lc, lulen, &ulen, UTF8_ALLOW_ANYUV);
-               lc += ulen;
-               lulen -= ulen;
-               ruc = utf8n_to_uvchr((U8*)rc, rulen, &ulen, UTF8_ALLOW_ANYUV);
-               rc += ulen;
-               rulen -= ulen;
-               duc = luc | ruc;
-               dc = (char*)uvchr_to_utf8((U8*)dc, duc);
-                if (luc > 0xff || ruc > 0xff) {
-                    Perl_croak(aTHX_ fatal_above_ff_msg, PL_op_desc[optype]);
-                }
-           }
-         mop_up_utf:
-           if (rulen)
-               dcsave = savepvn(rc, rulen);
-           else if (lulen)
-               dcsave = savepvn(lc, lulen);
-           if (sv == left || sv == right)
-               (void)sv_usepvn(sv, dcorig, needlen); /* uses Renew(); defaults to nomg */
-           SvCUR_set(sv, dc - dcorig);
-           if (rulen)
-               sv_catpvn_nomg(sv, dcsave, rulen);
-           else if (lulen)
-               sv_catpvn_nomg(sv, dcsave, lulen);
-           else
-               *SvEND(sv) = '\0';
-           Safefree(dcsave);
-           break;
-       default:
-           if (sv == left || sv == right)
-               Safefree(dcorig);
-           Perl_croak(aTHX_ "panic: do_vop called for op %u (%s)",
-                       (unsigned)optype, PL_op_name[optype]);
-       }
-       SvUTF8_on(sv);
-       goto finish;
-    }
-    else
 #ifdef LIBERAL
     if (len >= sizeof(long)*4 &&
        !((unsigned long)dc % sizeof(long)) &&
@@ -1224,62 +1183,95 @@ Perl_do_vop(pTHX_ I32 optype, SV *sv, SV *left, SV *right)
        len = remainder;
     }
 #endif
-    {
-       switch (optype) {
-       case OP_BIT_AND:
-           while (len--)
-               *dc++ = *lc++ & *rc++;
-           *dc = '\0';
-           break;
-       case OP_BIT_XOR:
-           while (len--)
-               *dc++ = *lc++ ^ *rc++;
-           goto mop_up;
-       case OP_BIT_OR:
-           while (len--)
-               *dc++ = *lc++ | *rc++;
-         mop_up:
-           len = lensave;
-           if (rightlen > len) {
-                if (dc == rc)
-                    SvCUR(sv) = rightlen;
-                else
-                    sv_catpvn_nomg(sv, rsave + len, rightlen - len);
-            }
-            else if (leftlen > len) {
-                if (dc == lc)
-                    SvCUR(sv) = leftlen;
-                else
-                    sv_catpvn_nomg(sv, lsave + len, leftlen - len);
-            }
-            *SvEND(sv) = '\0';
+    switch (optype) {
+    case OP_BIT_AND:
+        while (len--)
+            *dc++ = *lc++ & *rc++;
+        *dc = '\0';
+        break;
+    case OP_BIT_XOR:
+        while (len--)
+            *dc++ = *lc++ ^ *rc++;
+        goto mop_up;
+    case OP_BIT_OR:
+        while (len--)
+            *dc++ = *lc++ | *rc++;
+      mop_up:
+        len = lensave;
+        if (rightlen > len) {
+            if (dc == rc)
+                SvCUR(sv) = rightlen;
+            else
+                sv_catpvn_nomg(sv, rsave + len, rightlen - len);
+        }
+        else if (leftlen > len) {
+            if (dc == lc)
+                SvCUR(sv) = leftlen;
+            else
+                sv_catpvn_nomg(sv, lsave + len, leftlen - len);
+        }
+        *SvEND(sv) = '\0';
+
+        /* If there is trailing stuff that couldn't be converted from UTF-8, it
+         * is appended as-is for the ^ and | operators.  This preserves
+         * backwards compatibility */
+        if (right_non_downgraded) {
+            non_downgraded = (char *) right_non_downgraded;
+            non_downgraded_len = right_non_downgraded_len;
+        }
+        else if (left_non_downgraded) {
+            non_downgraded = (char *) left_non_downgraded;
+            non_downgraded_len = left_non_downgraded_len;
+        }
 
-           break;
-       }
+        break;
     }
-  finish:
+
+    if (result_needs_to_be_utf8) {
+        sv_utf8_upgrade_nomg(sv);
+
+        /* Append any trailing UTF-8 as-is. */
+        if (non_downgraded) {
+            sv_catpvn_nomg(sv, non_downgraded, non_downgraded_len);
+        }
+    }
+
     SvTAINT(sv);
 }
 
 
-/* used for: pp_keys(), pp_values() */
+/* Perl_do_kv() may be:
+ *  * called directly as the pp function for pp_keys() and pp_values();
+ *  * It may also be called directly when the op is OP_AVHVSWITCH, to
+ *       implement CORE::keys(), CORE::values().
+ *
+ * In all cases it expects an HV on the stack and returns a list of keys,
+ * values, or key-value pairs, depending on PL_op.
+ */
 
 OP *
 Perl_do_kv(pTHX)
 {
     dSP;
     HV * const keys = MUTABLE_HV(POPs);
-    HE *entry;
-    SSize_t extend_size;
     const U8 gimme = GIMME_V;
-    const I32 dokv =     (PL_op->op_type == OP_RV2HV || PL_op->op_type == OP_PADHV);
-    /* op_type is OP_RKEYS/OP_RVALUES if pp_rkeys delegated to here */
-    const I32 dokeys =   dokv || (PL_op->op_type == OP_KEYS)
-       || (  PL_op->op_type == OP_AVHVSWITCH
-          && (PL_op->op_private & 3) + OP_EACH == OP_KEYS  );
-    const I32 dovalues = dokv || (PL_op->op_type == OP_VALUES)
-       || (  PL_op->op_type == OP_AVHVSWITCH
-          && (PL_op->op_private & 3) + OP_EACH == OP_VALUES  );
+
+    const I32 dokeys   =     (PL_op->op_type == OP_KEYS)
+                          || (    PL_op->op_type == OP_AVHVSWITCH
+                              && (PL_op->op_private & OPpAVHVSWITCH_MASK)
+                                    + OP_EACH == OP_KEYS);
+
+    const I32 dovalues =     (PL_op->op_type == OP_VALUES)
+                          || (    PL_op->op_type == OP_AVHVSWITCH
+                              && (PL_op->op_private & OPpAVHVSWITCH_MASK)
+                                     + OP_EACH == OP_VALUES);
+
+    assert(   PL_op->op_type == OP_KEYS
+           || PL_op->op_type == OP_VALUES
+           || PL_op->op_type == OP_AVHVSWITCH);
+
+    assert(!(    PL_op->op_type == OP_VALUES
+             && (PL_op->op_private & OPpMAYBE_LVSUB)));
 
     (void)hv_iterinit(keys);   /* always reset iterator regardless */
 
@@ -1298,6 +1290,11 @@ Perl_do_kv(pTHX)
            IV i;
            dTARGET;
 
+            /* note that in 'scalar(keys %h)' the OP_KEYS is usually
+             * optimised away and the action is performed directly by the
+             * padhv or rv2hv op. We now only get here via OP_AVHVSWITCH
+             * and \&CORE::keys
+             */
            if (! SvTIED_mg((const SV *)keys, PERL_MAGIC_tied) ) {
                i = HvUSEDKEYS(keys);
            }
@@ -1317,22 +1314,9 @@ Perl_do_kv(pTHX)
            Perl_croak(aTHX_ "Can't modify keys in list assignment");
     }
 
-    /* 2*HvUSEDKEYS() should never be big enough to truncate or wrap */
-    assert(HvUSEDKEYS(keys) <= (SSize_t_MAX >> 1));
-    extend_size = (SSize_t)HvUSEDKEYS(keys) * (dokeys + dovalues);
-    EXTEND(SP, extend_size);
-
-    while ((entry = hv_iternext(keys))) {
-       if (dokeys) {
-           SV* const sv = hv_iterkeysv(entry);
-           XPUSHs(sv);
-       }
-       if (dovalues) {
-           SV *const sv = hv_iterval(keys,entry);
-           XPUSHs(sv);
-       }
-    }
-    RETURN;
+    PUTBACK;
+    hv_pushkv(keys, (dokeys | (dovalues << 1)));
+    return NORMAL;
 }
 
 /*