This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
in dump_sub() handle CV ref used as GV
[perl5.git] / sv.c
1 /*    sv.c
2  *
3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999, 2000,
4  *    2001, 2002, 2003, 2004, 2005, 2006, 2007, 2008, 2009 by Larry Wall
5  *    and others
6  *
7  *    You may distribute under the terms of either the GNU General Public
8  *    License or the Artistic License, as specified in the README file.
9  *
10  */
11
12 /*
13  * 'I wonder what the Entish is for "yes" and "no",' he thought.
14  *                                                      --Pippin
15  *
16  *     [p.480 of _The Lord of the Rings_, III/iv: "Treebeard"]
17  */
18
19 /*
20  *
21  *
22  * This file contains the code that creates, manipulates and destroys
23  * scalar values (SVs). The other types (AV, HV, GV, etc.) reuse the
24  * structure of an SV, so their creation and destruction is handled
25  * here; higher-level functions are in av.c, hv.c, and so on. Opcode
26  * level functions (eg. substr, split, join) for each of the types are
27  * in the pp*.c files.
28  */
29
30 #include "EXTERN.h"
31 #define PERL_IN_SV_C
32 #include "perl.h"
33 #include "regcomp.h"
34 #ifdef __VMS
35 # include <rms.h>
36 #endif
37
38 #ifdef __Lynx__
39 /* Missing proto on LynxOS */
40   char *gconvert(double, int, int,  char *);
41 #endif
42
43 #ifdef USE_QUADMATH
44 #  define SNPRINTF_G(nv, buffer, size, ndig) \
45     quadmath_snprintf(buffer, size, "%.*Qg", (int)ndig, (NV)(nv))
46 #else
47 #  define SNPRINTF_G(nv, buffer, size, ndig) \
48     PERL_UNUSED_RESULT(Gconvert((NV)(nv), (int)ndig, 0, buffer))
49 #endif
50
51 #ifndef SV_COW_THRESHOLD
52 #    define SV_COW_THRESHOLD                    0   /* COW iff len > K */
53 #endif
54 #ifndef SV_COWBUF_THRESHOLD
55 #    define SV_COWBUF_THRESHOLD                 1250 /* COW iff len > K */
56 #endif
57 #ifndef SV_COW_MAX_WASTE_THRESHOLD
58 #    define SV_COW_MAX_WASTE_THRESHOLD          80   /* COW iff (len - cur) < K */
59 #endif
60 #ifndef SV_COWBUF_WASTE_THRESHOLD
61 #    define SV_COWBUF_WASTE_THRESHOLD           80   /* COW iff (len - cur) < K */
62 #endif
63 #ifndef SV_COW_MAX_WASTE_FACTOR_THRESHOLD
64 #    define SV_COW_MAX_WASTE_FACTOR_THRESHOLD   2    /* COW iff len < (cur * K) */
65 #endif
66 #ifndef SV_COWBUF_WASTE_FACTOR_THRESHOLD
67 #    define SV_COWBUF_WASTE_FACTOR_THRESHOLD    2    /* COW iff len < (cur * K) */
68 #endif
69 /* Work around compiler warnings about unsigned >= THRESHOLD when thres-
70    hold is 0. */
71 #if SV_COW_THRESHOLD
72 # define GE_COW_THRESHOLD(cur) ((cur) >= SV_COW_THRESHOLD)
73 #else
74 # define GE_COW_THRESHOLD(cur) 1
75 #endif
76 #if SV_COWBUF_THRESHOLD
77 # define GE_COWBUF_THRESHOLD(cur) ((cur) >= SV_COWBUF_THRESHOLD)
78 #else
79 # define GE_COWBUF_THRESHOLD(cur) 1
80 #endif
81 #if SV_COW_MAX_WASTE_THRESHOLD
82 # define GE_COW_MAX_WASTE_THRESHOLD(cur,len) (((len)-(cur)) < SV_COW_MAX_WASTE_THRESHOLD)
83 #else
84 # define GE_COW_MAX_WASTE_THRESHOLD(cur,len) 1
85 #endif
86 #if SV_COWBUF_WASTE_THRESHOLD
87 # define GE_COWBUF_WASTE_THRESHOLD(cur,len) (((len)-(cur)) < SV_COWBUF_WASTE_THRESHOLD)
88 #else
89 # define GE_COWBUF_WASTE_THRESHOLD(cur,len) 1
90 #endif
91 #if SV_COW_MAX_WASTE_FACTOR_THRESHOLD
92 # define GE_COW_MAX_WASTE_FACTOR_THRESHOLD(cur,len) ((len) < SV_COW_MAX_WASTE_FACTOR_THRESHOLD * (cur))
93 #else
94 # define GE_COW_MAX_WASTE_FACTOR_THRESHOLD(cur,len) 1
95 #endif
96 #if SV_COWBUF_WASTE_FACTOR_THRESHOLD
97 # define GE_COWBUF_WASTE_FACTOR_THRESHOLD(cur,len) ((len) < SV_COWBUF_WASTE_FACTOR_THRESHOLD * (cur))
98 #else
99 # define GE_COWBUF_WASTE_FACTOR_THRESHOLD(cur,len) 1
100 #endif
101
102 #define CHECK_COW_THRESHOLD(cur,len) (\
103     GE_COW_THRESHOLD((cur)) && \
104     GE_COW_MAX_WASTE_THRESHOLD((cur),(len)) && \
105     GE_COW_MAX_WASTE_FACTOR_THRESHOLD((cur),(len)) \
106 )
107 #define CHECK_COWBUF_THRESHOLD(cur,len) (\
108     GE_COWBUF_THRESHOLD((cur)) && \
109     GE_COWBUF_WASTE_THRESHOLD((cur),(len)) && \
110     GE_COWBUF_WASTE_FACTOR_THRESHOLD((cur),(len)) \
111 )
112
113 #ifdef PERL_UTF8_CACHE_ASSERT
114 /* if adding more checks watch out for the following tests:
115  *   t/op/index.t t/op/length.t t/op/pat.t t/op/substr.t
116  *   lib/utf8.t lib/Unicode/Collate/t/index.t
117  * --jhi
118  */
119 #   define ASSERT_UTF8_CACHE(cache) \
120     STMT_START { if (cache) { assert((cache)[0] <= (cache)[1]); \
121                               assert((cache)[2] <= (cache)[3]); \
122                               assert((cache)[3] <= (cache)[1]);} \
123                               } STMT_END
124 #else
125 #   define ASSERT_UTF8_CACHE(cache) NOOP
126 #endif
127
128 static const char S_destroy[] = "DESTROY";
129 #define S_destroy_len (sizeof(S_destroy)-1)
130
131 /* ============================================================================
132
133 =head1 Allocation and deallocation of SVs.
134 An SV (or AV, HV, etc.) is allocated in two parts: the head (struct
135 sv, av, hv...) contains type and reference count information, and for
136 many types, a pointer to the body (struct xrv, xpv, xpviv...), which
137 contains fields specific to each type.  Some types store all they need
138 in the head, so don't have a body.
139
140 In all but the most memory-paranoid configurations (ex: PURIFY), heads
141 and bodies are allocated out of arenas, which by default are
142 approximately 4K chunks of memory parcelled up into N heads or bodies.
143 Sv-bodies are allocated by their sv-type, guaranteeing size
144 consistency needed to allocate safely from arrays.
145
146 For SV-heads, the first slot in each arena is reserved, and holds a
147 link to the next arena, some flags, and a note of the number of slots.
148 Snaked through each arena chain is a linked list of free items; when
149 this becomes empty, an extra arena is allocated and divided up into N
150 items which are threaded into the free list.
151
152 SV-bodies are similar, but they use arena-sets by default, which
153 separate the link and info from the arena itself, and reclaim the 1st
154 slot in the arena.  SV-bodies are further described later.
155
156 The following global variables are associated with arenas:
157
158  PL_sv_arenaroot     pointer to list of SV arenas
159  PL_sv_root          pointer to list of free SV structures
160
161  PL_body_arenas      head of linked-list of body arenas
162  PL_body_roots[]     array of pointers to list of free bodies of svtype
163                      arrays are indexed by the svtype needed
164
165 A few special SV heads are not allocated from an arena, but are
166 instead directly created in the interpreter structure, eg PL_sv_undef.
167 The size of arenas can be changed from the default by setting
168 PERL_ARENA_SIZE appropriately at compile time.
169
170 The SV arena serves the secondary purpose of allowing still-live SVs
171 to be located and destroyed during final cleanup.
172
173 At the lowest level, the macros new_SV() and del_SV() grab and free
174 an SV head.  (If debugging with -DD, del_SV() calls the function S_del_sv()
175 to return the SV to the free list with error checking.) new_SV() calls
176 more_sv() / sv_add_arena() to add an extra arena if the free list is empty.
177 SVs in the free list have their SvTYPE field set to all ones.
178
179 At the time of very final cleanup, sv_free_arenas() is called from
180 perl_destruct() to physically free all the arenas allocated since the
181 start of the interpreter.
182
183 The function visit() scans the SV arenas list, and calls a specified
184 function for each SV it finds which is still live - ie which has an SvTYPE
185 other than all 1's, and a non-zero SvREFCNT. visit() is used by the
186 following functions (specified as [function that calls visit()] / [function
187 called by visit() for each SV]):
188
189     sv_report_used() / do_report_used()
190                         dump all remaining SVs (debugging aid)
191
192     sv_clean_objs() / do_clean_objs(),do_clean_named_objs(),
193                       do_clean_named_io_objs(),do_curse()
194                         Attempt to free all objects pointed to by RVs,
195                         try to do the same for all objects indir-
196                         ectly referenced by typeglobs too, and
197                         then do a final sweep, cursing any
198                         objects that remain.  Called once from
199                         perl_destruct(), prior to calling sv_clean_all()
200                         below.
201
202     sv_clean_all() / do_clean_all()
203                         SvREFCNT_dec(sv) each remaining SV, possibly
204                         triggering an sv_free(). It also sets the
205                         SVf_BREAK flag on the SV to indicate that the
206                         refcnt has been artificially lowered, and thus
207                         stopping sv_free() from giving spurious warnings
208                         about SVs which unexpectedly have a refcnt
209                         of zero.  called repeatedly from perl_destruct()
210                         until there are no SVs left.
211
212 =head2 Arena allocator API Summary
213
214 Private API to rest of sv.c
215
216     new_SV(),  del_SV(),
217
218     new_XPVNV(), del_XPVGV(),
219     etc
220
221 Public API:
222
223     sv_report_used(), sv_clean_objs(), sv_clean_all(), sv_free_arenas()
224
225 =cut
226
227  * ========================================================================= */
228
229 /*
230  * "A time to plant, and a time to uproot what was planted..."
231  */
232
233 #ifdef PERL_MEM_LOG
234 #  define MEM_LOG_NEW_SV(sv, file, line, func)  \
235             Perl_mem_log_new_sv(sv, file, line, func)
236 #  define MEM_LOG_DEL_SV(sv, file, line, func)  \
237             Perl_mem_log_del_sv(sv, file, line, func)
238 #else
239 #  define MEM_LOG_NEW_SV(sv, file, line, func)  NOOP
240 #  define MEM_LOG_DEL_SV(sv, file, line, func)  NOOP
241 #endif
242
243 #ifdef DEBUG_LEAKING_SCALARS
244 #  define FREE_SV_DEBUG_FILE(sv) STMT_START { \
245         if ((sv)->sv_debug_file) PerlMemShared_free((sv)->sv_debug_file); \
246     } STMT_END
247 #  define DEBUG_SV_SERIAL(sv)                                               \
248     DEBUG_m(PerlIO_printf(Perl_debug_log, "0x%" UVxf ": (%05ld) del_SV\n",    \
249             PTR2UV(sv), (long)(sv)->sv_debug_serial))
250 #else
251 #  define FREE_SV_DEBUG_FILE(sv)
252 #  define DEBUG_SV_SERIAL(sv)   NOOP
253 #endif
254
255 #ifdef PERL_POISON
256 #  define SvARENA_CHAIN(sv)     ((sv)->sv_u.svu_rv)
257 #  define SvARENA_CHAIN_SET(sv,val)     (sv)->sv_u.svu_rv = MUTABLE_SV((val))
258 /* Whilst I'd love to do this, it seems that things like to check on
259    unreferenced scalars
260 #  define POISON_SV_HEAD(sv)    PoisonNew(sv, 1, struct STRUCT_SV)
261 */
262 #  define POISON_SV_HEAD(sv)    PoisonNew(&SvANY(sv), 1, void *), \
263                                 PoisonNew(&SvREFCNT(sv), 1, U32)
264 #else
265 #  define SvARENA_CHAIN(sv)     SvANY(sv)
266 #  define SvARENA_CHAIN_SET(sv,val)     SvANY(sv) = (void *)(val)
267 #  define POISON_SV_HEAD(sv)
268 #endif
269
270 /* Mark an SV head as unused, and add to free list.
271  *
272  * If SVf_BREAK is set, skip adding it to the free list, as this SV had
273  * its refcount artificially decremented during global destruction, so
274  * there may be dangling pointers to it. The last thing we want in that
275  * case is for it to be reused. */
276
277 #define plant_SV(p) \
278     STMT_START {                                        \
279         const U32 old_flags = SvFLAGS(p);                       \
280         MEM_LOG_DEL_SV(p, __FILE__, __LINE__, FUNCTION__);  \
281         DEBUG_SV_SERIAL(p);                             \
282         FREE_SV_DEBUG_FILE(p);                          \
283         POISON_SV_HEAD(p);                              \
284         SvFLAGS(p) = SVTYPEMASK;                        \
285         if (!(old_flags & SVf_BREAK)) {         \
286             SvARENA_CHAIN_SET(p, PL_sv_root);   \
287             PL_sv_root = (p);                           \
288         }                                               \
289         --PL_sv_count;                                  \
290     } STMT_END
291
292 #define uproot_SV(p) \
293     STMT_START {                                        \
294         (p) = PL_sv_root;                               \
295         PL_sv_root = MUTABLE_SV(SvARENA_CHAIN(p));              \
296         ++PL_sv_count;                                  \
297     } STMT_END
298
299
300 /* make some more SVs by adding another arena */
301
302 STATIC SV*
303 S_more_sv(pTHX)
304 {
305     SV* sv;
306     char *chunk;                /* must use New here to match call to */
307     Newx(chunk,PERL_ARENA_SIZE,char);  /* Safefree() in sv_free_arenas() */
308     sv_add_arena(chunk, PERL_ARENA_SIZE, 0);
309     uproot_SV(sv);
310     return sv;
311 }
312
313 /* new_SV(): return a new, empty SV head */
314
315 #ifdef DEBUG_LEAKING_SCALARS
316 /* provide a real function for a debugger to play with */
317 STATIC SV*
318 S_new_SV(pTHX_ const char *file, int line, const char *func)
319 {
320     SV* sv;
321
322     if (PL_sv_root)
323         uproot_SV(sv);
324     else
325         sv = S_more_sv(aTHX);
326     SvANY(sv) = 0;
327     SvREFCNT(sv) = 1;
328     SvFLAGS(sv) = 0;
329     sv->sv_debug_optype = PL_op ? PL_op->op_type : 0;
330     sv->sv_debug_line = (U16) (PL_parser && PL_parser->copline != NOLINE
331                 ? PL_parser->copline
332                 :  PL_curcop
333                     ? CopLINE(PL_curcop)
334                     : 0
335             );
336     sv->sv_debug_inpad = 0;
337     sv->sv_debug_parent = NULL;
338     sv->sv_debug_file = PL_curcop ? savesharedpv(CopFILE(PL_curcop)): NULL;
339
340     sv->sv_debug_serial = PL_sv_serial++;
341
342     MEM_LOG_NEW_SV(sv, file, line, func);
343     DEBUG_m(PerlIO_printf(Perl_debug_log, "0x%" UVxf ": (%05ld) new_SV (from %s:%d [%s])\n",
344             PTR2UV(sv), (long)sv->sv_debug_serial, file, line, func));
345
346     return sv;
347 }
348 #  define new_SV(p) (p)=S_new_SV(aTHX_ __FILE__, __LINE__, FUNCTION__)
349
350 #else
351 #  define new_SV(p) \
352     STMT_START {                                        \
353         if (PL_sv_root)                                 \
354             uproot_SV(p);                               \
355         else                                            \
356             (p) = S_more_sv(aTHX);                      \
357         SvANY(p) = 0;                                   \
358         SvREFCNT(p) = 1;                                \
359         SvFLAGS(p) = 0;                                 \
360         MEM_LOG_NEW_SV(p, __FILE__, __LINE__, FUNCTION__);  \
361     } STMT_END
362 #endif
363
364
365 /* del_SV(): return an empty SV head to the free list */
366
367 #ifdef DEBUGGING
368
369 #define del_SV(p) \
370     STMT_START {                                        \
371         if (DEBUG_D_TEST)                               \
372             del_sv(p);                                  \
373         else                                            \
374             plant_SV(p);                                \
375     } STMT_END
376
377 STATIC void
378 S_del_sv(pTHX_ SV *p)
379 {
380     PERL_ARGS_ASSERT_DEL_SV;
381
382     if (DEBUG_D_TEST) {
383         SV* sva;
384         bool ok = 0;
385         for (sva = PL_sv_arenaroot; sva; sva = MUTABLE_SV(SvANY(sva))) {
386             const SV * const sv = sva + 1;
387             const SV * const svend = &sva[SvREFCNT(sva)];
388             if (p >= sv && p < svend) {
389                 ok = 1;
390                 break;
391             }
392         }
393         if (!ok) {
394             Perl_ck_warner_d(aTHX_ packWARN(WARN_INTERNAL),
395                              "Attempt to free non-arena SV: 0x%" UVxf
396                              pTHX__FORMAT, PTR2UV(p) pTHX__VALUE);
397             return;
398         }
399     }
400     plant_SV(p);
401 }
402
403 #else /* ! DEBUGGING */
404
405 #define del_SV(p)   plant_SV(p)
406
407 #endif /* DEBUGGING */
408
409
410 /*
411 =head1 SV Manipulation Functions
412
413 =for apidoc sv_add_arena
414
415 Given a chunk of memory, link it to the head of the list of arenas,
416 and split it into a list of free SVs.
417
418 =cut
419 */
420
421 static void
422 S_sv_add_arena(pTHX_ char *const ptr, const U32 size, const U32 flags)
423 {
424     SV *const sva = MUTABLE_SV(ptr);
425     SV* sv;
426     SV* svend;
427
428     PERL_ARGS_ASSERT_SV_ADD_ARENA;
429
430     /* The first SV in an arena isn't an SV. */
431     SvANY(sva) = (void *) PL_sv_arenaroot;              /* ptr to next arena */
432     SvREFCNT(sva) = size / sizeof(SV);          /* number of SV slots */
433     SvFLAGS(sva) = flags;                       /* FAKE if not to be freed */
434
435     PL_sv_arenaroot = sva;
436     PL_sv_root = sva + 1;
437
438     svend = &sva[SvREFCNT(sva) - 1];
439     sv = sva + 1;
440     while (sv < svend) {
441         SvARENA_CHAIN_SET(sv, (sv + 1));
442 #ifdef DEBUGGING
443         SvREFCNT(sv) = 0;
444 #endif
445         /* Must always set typemask because it's always checked in on cleanup
446            when the arenas are walked looking for objects.  */
447         SvFLAGS(sv) = SVTYPEMASK;
448         sv++;
449     }
450     SvARENA_CHAIN_SET(sv, 0);
451 #ifdef DEBUGGING
452     SvREFCNT(sv) = 0;
453 #endif
454     SvFLAGS(sv) = SVTYPEMASK;
455 }
456
457 /* visit(): call the named function for each non-free SV in the arenas
458  * whose flags field matches the flags/mask args. */
459
460 STATIC I32
461 S_visit(pTHX_ SVFUNC_t f, const U32 flags, const U32 mask)
462 {
463     SV* sva;
464     I32 visited = 0;
465
466     PERL_ARGS_ASSERT_VISIT;
467
468     for (sva = PL_sv_arenaroot; sva; sva = MUTABLE_SV(SvANY(sva))) {
469         const SV * const svend = &sva[SvREFCNT(sva)];
470         SV* sv;
471         for (sv = sva + 1; sv < svend; ++sv) {
472             if (SvTYPE(sv) != (svtype)SVTYPEMASK
473                     && (sv->sv_flags & mask) == flags
474                     && SvREFCNT(sv))
475             {
476                 (*f)(aTHX_ sv);
477                 ++visited;
478             }
479         }
480     }
481     return visited;
482 }
483
484 #ifdef DEBUGGING
485
486 /* called by sv_report_used() for each live SV */
487
488 static void
489 do_report_used(pTHX_ SV *const sv)
490 {
491     if (SvTYPE(sv) != (svtype)SVTYPEMASK) {
492         PerlIO_printf(Perl_debug_log, "****\n");
493         sv_dump(sv);
494     }
495 }
496 #endif
497
498 /*
499 =for apidoc sv_report_used
500
501 Dump the contents of all SVs not yet freed (debugging aid).
502
503 =cut
504 */
505
506 void
507 Perl_sv_report_used(pTHX)
508 {
509 #ifdef DEBUGGING
510     visit(do_report_used, 0, 0);
511 #else
512     PERL_UNUSED_CONTEXT;
513 #endif
514 }
515
516 /* called by sv_clean_objs() for each live SV */
517
518 static void
519 do_clean_objs(pTHX_ SV *const ref)
520 {
521     assert (SvROK(ref));
522     {
523         SV * const target = SvRV(ref);
524         if (SvOBJECT(target)) {
525             DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning object ref:\n "), sv_dump(ref)));
526             if (SvWEAKREF(ref)) {
527                 sv_del_backref(target, ref);
528                 SvWEAKREF_off(ref);
529                 SvRV_set(ref, NULL);
530             } else {
531                 SvROK_off(ref);
532                 SvRV_set(ref, NULL);
533                 SvREFCNT_dec_NN(target);
534             }
535         }
536     }
537 }
538
539
540 /* clear any slots in a GV which hold objects - except IO;
541  * called by sv_clean_objs() for each live GV */
542
543 static void
544 do_clean_named_objs(pTHX_ SV *const sv)
545 {
546     SV *obj;
547     assert(SvTYPE(sv) == SVt_PVGV);
548     assert(isGV_with_GP(sv));
549     if (!GvGP(sv))
550         return;
551
552     /* freeing GP entries may indirectly free the current GV;
553      * hold onto it while we mess with the GP slots */
554     SvREFCNT_inc(sv);
555
556     if ( ((obj = GvSV(sv) )) && SvOBJECT(obj)) {
557         DEBUG_D((PerlIO_printf(Perl_debug_log,
558                 "Cleaning named glob SV object:\n "), sv_dump(obj)));
559         GvSV(sv) = NULL;
560         SvREFCNT_dec_NN(obj);
561     }
562     if ( ((obj = MUTABLE_SV(GvAV(sv)) )) && SvOBJECT(obj)) {
563         DEBUG_D((PerlIO_printf(Perl_debug_log,
564                 "Cleaning named glob AV object:\n "), sv_dump(obj)));
565         GvAV(sv) = NULL;
566         SvREFCNT_dec_NN(obj);
567     }
568     if ( ((obj = MUTABLE_SV(GvHV(sv)) )) && SvOBJECT(obj)) {
569         DEBUG_D((PerlIO_printf(Perl_debug_log,
570                 "Cleaning named glob HV object:\n "), sv_dump(obj)));
571         GvHV(sv) = NULL;
572         SvREFCNT_dec_NN(obj);
573     }
574     if ( ((obj = MUTABLE_SV(GvCV(sv)) )) && SvOBJECT(obj)) {
575         DEBUG_D((PerlIO_printf(Perl_debug_log,
576                 "Cleaning named glob CV object:\n "), sv_dump(obj)));
577         GvCV_set(sv, NULL);
578         SvREFCNT_dec_NN(obj);
579     }
580     SvREFCNT_dec_NN(sv); /* undo the inc above */
581 }
582
583 /* clear any IO slots in a GV which hold objects (except stderr, defout);
584  * called by sv_clean_objs() for each live GV */
585
586 static void
587 do_clean_named_io_objs(pTHX_ SV *const sv)
588 {
589     SV *obj;
590     assert(SvTYPE(sv) == SVt_PVGV);
591     assert(isGV_with_GP(sv));
592     if (!GvGP(sv) || sv == (SV*)PL_stderrgv || sv == (SV*)PL_defoutgv)
593         return;
594
595     SvREFCNT_inc(sv);
596     if ( ((obj = MUTABLE_SV(GvIO(sv)) )) && SvOBJECT(obj)) {
597         DEBUG_D((PerlIO_printf(Perl_debug_log,
598                 "Cleaning named glob IO object:\n "), sv_dump(obj)));
599         GvIOp(sv) = NULL;
600         SvREFCNT_dec_NN(obj);
601     }
602     SvREFCNT_dec_NN(sv); /* undo the inc above */
603 }
604
605 /* Void wrapper to pass to visit() */
606 static void
607 do_curse(pTHX_ SV * const sv) {
608     if ((PL_stderrgv && GvGP(PL_stderrgv) && (SV*)GvIO(PL_stderrgv) == sv)
609      || (PL_defoutgv && GvGP(PL_defoutgv) && (SV*)GvIO(PL_defoutgv) == sv))
610         return;
611     (void)curse(sv, 0);
612 }
613
614 /*
615 =for apidoc sv_clean_objs
616
617 Attempt to destroy all objects not yet freed.
618
619 =cut
620 */
621
622 void
623 Perl_sv_clean_objs(pTHX)
624 {
625     GV *olddef, *olderr;
626     PL_in_clean_objs = TRUE;
627     visit(do_clean_objs, SVf_ROK, SVf_ROK);
628     /* Some barnacles may yet remain, clinging to typeglobs.
629      * Run the non-IO destructors first: they may want to output
630      * error messages, close files etc */
631     visit(do_clean_named_objs, SVt_PVGV|SVpgv_GP, SVTYPEMASK|SVp_POK|SVpgv_GP);
632     visit(do_clean_named_io_objs, SVt_PVGV|SVpgv_GP, SVTYPEMASK|SVp_POK|SVpgv_GP);
633     /* And if there are some very tenacious barnacles clinging to arrays,
634        closures, or what have you.... */
635     visit(do_curse, SVs_OBJECT, SVs_OBJECT);
636     olddef = PL_defoutgv;
637     PL_defoutgv = NULL; /* disable skip of PL_defoutgv */
638     if (olddef && isGV_with_GP(olddef))
639         do_clean_named_io_objs(aTHX_ MUTABLE_SV(olddef));
640     olderr = PL_stderrgv;
641     PL_stderrgv = NULL; /* disable skip of PL_stderrgv */
642     if (olderr && isGV_with_GP(olderr))
643         do_clean_named_io_objs(aTHX_ MUTABLE_SV(olderr));
644     SvREFCNT_dec(olddef);
645     PL_in_clean_objs = FALSE;
646 }
647
648 /* called by sv_clean_all() for each live SV */
649
650 static void
651 do_clean_all(pTHX_ SV *const sv)
652 {
653     if (sv == (const SV *) PL_fdpid || sv == (const SV *)PL_strtab) {
654         /* don't clean pid table and strtab */
655         return;
656     }
657     DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning loops: SV at 0x%" UVxf "\n", PTR2UV(sv)) ));
658     SvFLAGS(sv) |= SVf_BREAK;
659     SvREFCNT_dec_NN(sv);
660 }
661
662 /*
663 =for apidoc sv_clean_all
664
665 Decrement the refcnt of each remaining SV, possibly triggering a
666 cleanup.  This function may have to be called multiple times to free
667 SVs which are in complex self-referential hierarchies.
668
669 =cut
670 */
671
672 I32
673 Perl_sv_clean_all(pTHX)
674 {
675     I32 cleaned;
676     PL_in_clean_all = TRUE;
677     cleaned = visit(do_clean_all, 0,0);
678     return cleaned;
679 }
680
681 /*
682   ARENASETS: a meta-arena implementation which separates arena-info
683   into struct arena_set, which contains an array of struct
684   arena_descs, each holding info for a single arena.  By separating
685   the meta-info from the arena, we recover the 1st slot, formerly
686   borrowed for list management.  The arena_set is about the size of an
687   arena, avoiding the needless malloc overhead of a naive linked-list.
688
689   The cost is 1 arena-set malloc per ~320 arena-mallocs, + the unused
690   memory in the last arena-set (1/2 on average).  In trade, we get
691   back the 1st slot in each arena (ie 1.7% of a CV-arena, less for
692   smaller types).  The recovery of the wasted space allows use of
693   small arenas for large, rare body types, by changing array* fields
694   in body_details_by_type[] below.
695 */
696 struct arena_desc {
697     char       *arena;          /* the raw storage, allocated aligned */
698     size_t      size;           /* its size ~4k typ */
699     svtype      utype;          /* bodytype stored in arena */
700 };
701
702 struct arena_set;
703
704 /* Get the maximum number of elements in set[] such that struct arena_set
705    will fit within PERL_ARENA_SIZE, which is probably just under 4K, and
706    therefore likely to be 1 aligned memory page.  */
707
708 #define ARENAS_PER_SET  ((PERL_ARENA_SIZE - sizeof(struct arena_set*) \
709                           - 2 * sizeof(int)) / sizeof (struct arena_desc))
710
711 struct arena_set {
712     struct arena_set* next;
713     unsigned int   set_size;    /* ie ARENAS_PER_SET */
714     unsigned int   curr;        /* index of next available arena-desc */
715     struct arena_desc set[ARENAS_PER_SET];
716 };
717
718 /*
719 =for apidoc sv_free_arenas
720
721 Deallocate the memory used by all arenas.  Note that all the individual SV
722 heads and bodies within the arenas must already have been freed.
723
724 =cut
725
726 */
727 void
728 Perl_sv_free_arenas(pTHX)
729 {
730     SV* sva;
731     SV* svanext;
732     unsigned int i;
733
734     /* Free arenas here, but be careful about fake ones.  (We assume
735        contiguity of the fake ones with the corresponding real ones.) */
736
737     for (sva = PL_sv_arenaroot; sva; sva = svanext) {
738         svanext = MUTABLE_SV(SvANY(sva));
739         while (svanext && SvFAKE(svanext))
740             svanext = MUTABLE_SV(SvANY(svanext));
741
742         if (!SvFAKE(sva))
743             Safefree(sva);
744     }
745
746     {
747         struct arena_set *aroot = (struct arena_set*) PL_body_arenas;
748
749         while (aroot) {
750             struct arena_set *current = aroot;
751             i = aroot->curr;
752             while (i--) {
753                 assert(aroot->set[i].arena);
754                 Safefree(aroot->set[i].arena);
755             }
756             aroot = aroot->next;
757             Safefree(current);
758         }
759     }
760     PL_body_arenas = 0;
761
762     i = PERL_ARENA_ROOTS_SIZE;
763     while (i--)
764         PL_body_roots[i] = 0;
765
766     PL_sv_arenaroot = 0;
767     PL_sv_root = 0;
768 }
769
770 /*
771   Here are mid-level routines that manage the allocation of bodies out
772   of the various arenas.  There are 5 kinds of arenas:
773
774   1. SV-head arenas, which are discussed and handled above
775   2. regular body arenas
776   3. arenas for reduced-size bodies
777   4. Hash-Entry arenas
778
779   Arena types 2 & 3 are chained by body-type off an array of
780   arena-root pointers, which is indexed by svtype.  Some of the
781   larger/less used body types are malloced singly, since a large
782   unused block of them is wasteful.  Also, several svtypes dont have
783   bodies; the data fits into the sv-head itself.  The arena-root
784   pointer thus has a few unused root-pointers (which may be hijacked
785   later for arena types 4,5)
786
787   3 differs from 2 as an optimization; some body types have several
788   unused fields in the front of the structure (which are kept in-place
789   for consistency).  These bodies can be allocated in smaller chunks,
790   because the leading fields arent accessed.  Pointers to such bodies
791   are decremented to point at the unused 'ghost' memory, knowing that
792   the pointers are used with offsets to the real memory.
793
794
795 =head1 SV-Body Allocation
796
797 =cut
798
799 Allocation of SV-bodies is similar to SV-heads, differing as follows;
800 the allocation mechanism is used for many body types, so is somewhat
801 more complicated, it uses arena-sets, and has no need for still-live
802 SV detection.
803
804 At the outermost level, (new|del)_X*V macros return bodies of the
805 appropriate type.  These macros call either (new|del)_body_type or
806 (new|del)_body_allocated macro pairs, depending on specifics of the
807 type.  Most body types use the former pair, the latter pair is used to
808 allocate body types with "ghost fields".
809
810 "ghost fields" are fields that are unused in certain types, and
811 consequently don't need to actually exist.  They are declared because
812 they're part of a "base type", which allows use of functions as
813 methods.  The simplest examples are AVs and HVs, 2 aggregate types
814 which don't use the fields which support SCALAR semantics.
815
816 For these types, the arenas are carved up into appropriately sized
817 chunks, we thus avoid wasted memory for those unaccessed members.
818 When bodies are allocated, we adjust the pointer back in memory by the
819 size of the part not allocated, so it's as if we allocated the full
820 structure.  (But things will all go boom if you write to the part that
821 is "not there", because you'll be overwriting the last members of the
822 preceding structure in memory.)
823
824 We calculate the correction using the STRUCT_OFFSET macro on the first
825 member present.  If the allocated structure is smaller (no initial NV
826 actually allocated) then the net effect is to subtract the size of the NV
827 from the pointer, to return a new pointer as if an initial NV were actually
828 allocated.  (We were using structures named *_allocated for this, but
829 this turned out to be a subtle bug, because a structure without an NV
830 could have a lower alignment constraint, but the compiler is allowed to
831 optimised accesses based on the alignment constraint of the actual pointer
832 to the full structure, for example, using a single 64 bit load instruction
833 because it "knows" that two adjacent 32 bit members will be 8-byte aligned.)
834
835 This is the same trick as was used for NV and IV bodies.  Ironically it
836 doesn't need to be used for NV bodies any more, because NV is now at
837 the start of the structure.  IV bodies, and also in some builds NV bodies,
838 don't need it either, because they are no longer allocated.
839
840 In turn, the new_body_* allocators call S_new_body(), which invokes
841 new_body_inline macro, which takes a lock, and takes a body off the
842 linked list at PL_body_roots[sv_type], calling Perl_more_bodies() if
843 necessary to refresh an empty list.  Then the lock is released, and
844 the body is returned.
845
846 Perl_more_bodies allocates a new arena, and carves it up into an array of N
847 bodies, which it strings into a linked list.  It looks up arena-size
848 and body-size from the body_details table described below, thus
849 supporting the multiple body-types.
850
851 If PURIFY is defined, or PERL_ARENA_SIZE=0, arenas are not used, and
852 the (new|del)_X*V macros are mapped directly to malloc/free.
853
854 For each sv-type, struct body_details bodies_by_type[] carries
855 parameters which control these aspects of SV handling:
856
857 Arena_size determines whether arenas are used for this body type, and if
858 so, how big they are.  PURIFY or PERL_ARENA_SIZE=0 set this field to
859 zero, forcing individual mallocs and frees.
860
861 Body_size determines how big a body is, and therefore how many fit into
862 each arena.  Offset carries the body-pointer adjustment needed for
863 "ghost fields", and is used in *_allocated macros.
864
865 But its main purpose is to parameterize info needed in
866 Perl_sv_upgrade().  The info here dramatically simplifies the function
867 vs the implementation in 5.8.8, making it table-driven.  All fields
868 are used for this, except for arena_size.
869
870 For the sv-types that have no bodies, arenas are not used, so those
871 PL_body_roots[sv_type] are unused, and can be overloaded.  In
872 something of a special case, SVt_NULL is borrowed for HE arenas;
873 PL_body_roots[HE_SVSLOT=SVt_NULL] is filled by S_more_he, but the
874 bodies_by_type[SVt_NULL] slot is not used, as the table is not
875 available in hv.c.
876
877 */
878
879 struct body_details {
880     U8 body_size;       /* Size to allocate  */
881     U8 copy;            /* Size of structure to copy (may be shorter)  */
882     U8 offset;          /* Size of unalloced ghost fields to first alloced field*/
883     PERL_BITFIELD8 type : 4;        /* We have space for a sanity check. */
884     PERL_BITFIELD8 cant_upgrade : 1;/* Cannot upgrade this type */
885     PERL_BITFIELD8 zero_nv : 1;     /* zero the NV when upgrading from this */
886     PERL_BITFIELD8 arena : 1;       /* Allocated from an arena */
887     U32 arena_size;                 /* Size of arena to allocate */
888 };
889
890 #define HADNV FALSE
891 #define NONV TRUE
892
893
894 #ifdef PURIFY
895 /* With -DPURFIY we allocate everything directly, and don't use arenas.
896    This seems a rather elegant way to simplify some of the code below.  */
897 #define HASARENA FALSE
898 #else
899 #define HASARENA TRUE
900 #endif
901 #define NOARENA FALSE
902
903 /* Size the arenas to exactly fit a given number of bodies.  A count
904    of 0 fits the max number bodies into a PERL_ARENA_SIZE.block,
905    simplifying the default.  If count > 0, the arena is sized to fit
906    only that many bodies, allowing arenas to be used for large, rare
907    bodies (XPVFM, XPVIO) without undue waste.  The arena size is
908    limited by PERL_ARENA_SIZE, so we can safely oversize the
909    declarations.
910  */
911 #define FIT_ARENA0(body_size)                           \
912     ((size_t)(PERL_ARENA_SIZE / body_size) * body_size)
913 #define FIT_ARENAn(count,body_size)                     \
914     ( count * body_size <= PERL_ARENA_SIZE)             \
915     ? count * body_size                                 \
916     : FIT_ARENA0 (body_size)
917 #define FIT_ARENA(count,body_size)                      \
918    (U32)(count                                          \
919     ? FIT_ARENAn (count, body_size)                     \
920     : FIT_ARENA0 (body_size))
921
922 /* Calculate the length to copy. Specifically work out the length less any
923    final padding the compiler needed to add.  See the comment in sv_upgrade
924    for why copying the padding proved to be a bug.  */
925
926 #define copy_length(type, last_member) \
927         STRUCT_OFFSET(type, last_member) \
928         + sizeof (((type*)SvANY((const SV *)0))->last_member)
929
930 static const struct body_details bodies_by_type[] = {
931     /* HEs use this offset for their arena.  */
932     { 0, 0, 0, SVt_NULL, FALSE, NONV, NOARENA, 0 },
933
934     /* IVs are in the head, so the allocation size is 0.  */
935     { 0,
936       sizeof(IV), /* This is used to copy out the IV body.  */
937       STRUCT_OFFSET(XPVIV, xiv_iv), SVt_IV, FALSE, NONV,
938       NOARENA /* IVS don't need an arena  */, 0
939     },
940
941 #if NVSIZE <= IVSIZE
942     { 0, sizeof(NV),
943       STRUCT_OFFSET(XPVNV, xnv_u),
944       SVt_NV, FALSE, HADNV, NOARENA, 0 },
945 #else
946     { sizeof(NV), sizeof(NV),
947       STRUCT_OFFSET(XPVNV, xnv_u),
948       SVt_NV, FALSE, HADNV, HASARENA, FIT_ARENA(0, sizeof(NV)) },
949 #endif
950
951     { sizeof(XPV) - STRUCT_OFFSET(XPV, xpv_cur),
952       copy_length(XPV, xpv_len) - STRUCT_OFFSET(XPV, xpv_cur),
953       + STRUCT_OFFSET(XPV, xpv_cur),
954       SVt_PV, FALSE, NONV, HASARENA,
955       FIT_ARENA(0, sizeof(XPV) - STRUCT_OFFSET(XPV, xpv_cur)) },
956
957     { sizeof(XINVLIST) - STRUCT_OFFSET(XPV, xpv_cur),
958       copy_length(XINVLIST, is_offset) - STRUCT_OFFSET(XPV, xpv_cur),
959       + STRUCT_OFFSET(XPV, xpv_cur),
960       SVt_INVLIST, TRUE, NONV, HASARENA,
961       FIT_ARENA(0, sizeof(XINVLIST) - STRUCT_OFFSET(XPV, xpv_cur)) },
962
963     { sizeof(XPVIV) - STRUCT_OFFSET(XPV, xpv_cur),
964       copy_length(XPVIV, xiv_u) - STRUCT_OFFSET(XPV, xpv_cur),
965       + STRUCT_OFFSET(XPV, xpv_cur),
966       SVt_PVIV, FALSE, NONV, HASARENA,
967       FIT_ARENA(0, sizeof(XPVIV) - STRUCT_OFFSET(XPV, xpv_cur)) },
968
969     { sizeof(XPVNV) - STRUCT_OFFSET(XPV, xpv_cur),
970       copy_length(XPVNV, xnv_u) - STRUCT_OFFSET(XPV, xpv_cur),
971       + STRUCT_OFFSET(XPV, xpv_cur),
972       SVt_PVNV, FALSE, HADNV, HASARENA,
973       FIT_ARENA(0, sizeof(XPVNV) - STRUCT_OFFSET(XPV, xpv_cur)) },
974
975     { sizeof(XPVMG), copy_length(XPVMG, xnv_u), 0, SVt_PVMG, FALSE, HADNV,
976       HASARENA, FIT_ARENA(0, sizeof(XPVMG)) },
977
978     { sizeof(regexp),
979       sizeof(regexp),
980       0,
981       SVt_REGEXP, TRUE, NONV, HASARENA,
982       FIT_ARENA(0, sizeof(regexp))
983     },
984
985     { sizeof(XPVGV), sizeof(XPVGV), 0, SVt_PVGV, TRUE, HADNV,
986       HASARENA, FIT_ARENA(0, sizeof(XPVGV)) },
987     
988     { sizeof(XPVLV), sizeof(XPVLV), 0, SVt_PVLV, TRUE, HADNV,
989       HASARENA, FIT_ARENA(0, sizeof(XPVLV)) },
990
991     { sizeof(XPVAV),
992       copy_length(XPVAV, xav_alloc),
993       0,
994       SVt_PVAV, TRUE, NONV, HASARENA,
995       FIT_ARENA(0, sizeof(XPVAV)) },
996
997     { sizeof(XPVHV),
998       copy_length(XPVHV, xhv_max),
999       0,
1000       SVt_PVHV, TRUE, NONV, HASARENA,
1001       FIT_ARENA(0, sizeof(XPVHV)) },
1002
1003     { sizeof(XPVCV),
1004       sizeof(XPVCV),
1005       0,
1006       SVt_PVCV, TRUE, NONV, HASARENA,
1007       FIT_ARENA(0, sizeof(XPVCV)) },
1008
1009     { sizeof(XPVFM),
1010       sizeof(XPVFM),
1011       0,
1012       SVt_PVFM, TRUE, NONV, NOARENA,
1013       FIT_ARENA(20, sizeof(XPVFM)) },
1014
1015     { sizeof(XPVIO),
1016       sizeof(XPVIO),
1017       0,
1018       SVt_PVIO, TRUE, NONV, HASARENA,
1019       FIT_ARENA(24, sizeof(XPVIO)) },
1020 };
1021
1022 #define new_body_allocated(sv_type)             \
1023     (void *)((char *)S_new_body(aTHX_ sv_type)  \
1024              - bodies_by_type[sv_type].offset)
1025
1026 /* return a thing to the free list */
1027
1028 #define del_body(thing, root)                           \
1029     STMT_START {                                        \
1030         void ** const thing_copy = (void **)thing;      \
1031         *thing_copy = *root;                            \
1032         *root = (void*)thing_copy;                      \
1033     } STMT_END
1034
1035 #ifdef PURIFY
1036 #if !(NVSIZE <= IVSIZE)
1037 #  define new_XNV()     safemalloc(sizeof(XPVNV))
1038 #endif
1039 #define new_XPVNV()     safemalloc(sizeof(XPVNV))
1040 #define new_XPVMG()     safemalloc(sizeof(XPVMG))
1041
1042 #define del_XPVGV(p)    safefree(p)
1043
1044 #else /* !PURIFY */
1045
1046 #if !(NVSIZE <= IVSIZE)
1047 #  define new_XNV()     new_body_allocated(SVt_NV)
1048 #endif
1049 #define new_XPVNV()     new_body_allocated(SVt_PVNV)
1050 #define new_XPVMG()     new_body_allocated(SVt_PVMG)
1051
1052 #define del_XPVGV(p)    del_body(p + bodies_by_type[SVt_PVGV].offset,   \
1053                                  &PL_body_roots[SVt_PVGV])
1054
1055 #endif /* PURIFY */
1056
1057 /* no arena for you! */
1058
1059 #define new_NOARENA(details) \
1060         safemalloc((details)->body_size + (details)->offset)
1061 #define new_NOARENAZ(details) \
1062         safecalloc((details)->body_size + (details)->offset, 1)
1063
1064 void *
1065 Perl_more_bodies (pTHX_ const svtype sv_type, const size_t body_size,
1066                   const size_t arena_size)
1067 {
1068     void ** const root = &PL_body_roots[sv_type];
1069     struct arena_desc *adesc;
1070     struct arena_set *aroot = (struct arena_set *) PL_body_arenas;
1071     unsigned int curr;
1072     char *start;
1073     const char *end;
1074     const size_t good_arena_size = Perl_malloc_good_size(arena_size);
1075 #if defined(DEBUGGING) && defined(PERL_GLOBAL_STRUCT)
1076     dVAR;
1077 #endif
1078 #if defined(DEBUGGING) && !defined(PERL_GLOBAL_STRUCT_PRIVATE)
1079     static bool done_sanity_check;
1080
1081     /* PERL_GLOBAL_STRUCT_PRIVATE cannot coexist with global
1082      * variables like done_sanity_check. */
1083     if (!done_sanity_check) {
1084         unsigned int i = SVt_LAST;
1085
1086         done_sanity_check = TRUE;
1087
1088         while (i--)
1089             assert (bodies_by_type[i].type == i);
1090     }
1091 #endif
1092
1093     assert(arena_size);
1094
1095     /* may need new arena-set to hold new arena */
1096     if (!aroot || aroot->curr >= aroot->set_size) {
1097         struct arena_set *newroot;
1098         Newxz(newroot, 1, struct arena_set);
1099         newroot->set_size = ARENAS_PER_SET;
1100         newroot->next = aroot;
1101         aroot = newroot;
1102         PL_body_arenas = (void *) newroot;
1103         DEBUG_m(PerlIO_printf(Perl_debug_log, "new arenaset %p\n", (void*)aroot));
1104     }
1105
1106     /* ok, now have arena-set with at least 1 empty/available arena-desc */
1107     curr = aroot->curr++;
1108     adesc = &(aroot->set[curr]);
1109     assert(!adesc->arena);
1110     
1111     Newx(adesc->arena, good_arena_size, char);
1112     adesc->size = good_arena_size;
1113     adesc->utype = sv_type;
1114     DEBUG_m(PerlIO_printf(Perl_debug_log, "arena %d added: %p size %" UVuf "\n",
1115                           curr, (void*)adesc->arena, (UV)good_arena_size));
1116
1117     start = (char *) adesc->arena;
1118
1119     /* Get the address of the byte after the end of the last body we can fit.
1120        Remember, this is integer division:  */
1121     end = start + good_arena_size / body_size * body_size;
1122
1123     /* computed count doesn't reflect the 1st slot reservation */
1124 #if defined(MYMALLOC) || defined(HAS_MALLOC_GOOD_SIZE)
1125     DEBUG_m(PerlIO_printf(Perl_debug_log,
1126                           "arena %p end %p arena-size %d (from %d) type %d "
1127                           "size %d ct %d\n",
1128                           (void*)start, (void*)end, (int)good_arena_size,
1129                           (int)arena_size, sv_type, (int)body_size,
1130                           (int)good_arena_size / (int)body_size));
1131 #else
1132     DEBUG_m(PerlIO_printf(Perl_debug_log,
1133                           "arena %p end %p arena-size %d type %d size %d ct %d\n",
1134                           (void*)start, (void*)end,
1135                           (int)arena_size, sv_type, (int)body_size,
1136                           (int)good_arena_size / (int)body_size));
1137 #endif
1138     *root = (void *)start;
1139
1140     while (1) {
1141         /* Where the next body would start:  */
1142         char * const next = start + body_size;
1143
1144         if (next >= end) {
1145             /* This is the last body:  */
1146             assert(next == end);
1147
1148             *(void **)start = 0;
1149             return *root;
1150         }
1151
1152         *(void**) start = (void *)next;
1153         start = next;
1154     }
1155 }
1156
1157 /* grab a new thing from the free list, allocating more if necessary.
1158    The inline version is used for speed in hot routines, and the
1159    function using it serves the rest (unless PURIFY).
1160 */
1161 #define new_body_inline(xpv, sv_type) \
1162     STMT_START { \
1163         void ** const r3wt = &PL_body_roots[sv_type]; \
1164         xpv = (PTR_TBL_ENT_t*) (*((void **)(r3wt))      \
1165           ? *((void **)(r3wt)) : Perl_more_bodies(aTHX_ sv_type, \
1166                                              bodies_by_type[sv_type].body_size,\
1167                                              bodies_by_type[sv_type].arena_size)); \
1168         *(r3wt) = *(void**)(xpv); \
1169     } STMT_END
1170
1171 #ifndef PURIFY
1172
1173 STATIC void *
1174 S_new_body(pTHX_ const svtype sv_type)
1175 {
1176     void *xpv;
1177     new_body_inline(xpv, sv_type);
1178     return xpv;
1179 }
1180
1181 #endif
1182
1183 static const struct body_details fake_rv =
1184     { 0, 0, 0, SVt_IV, FALSE, NONV, NOARENA, 0 };
1185
1186 /*
1187 =for apidoc sv_upgrade
1188
1189 Upgrade an SV to a more complex form.  Generally adds a new body type to the
1190 SV, then copies across as much information as possible from the old body.
1191 It croaks if the SV is already in a more complex form than requested.  You
1192 generally want to use the C<SvUPGRADE> macro wrapper, which checks the type
1193 before calling C<sv_upgrade>, and hence does not croak.  See also
1194 C<L</svtype>>.
1195
1196 =cut
1197 */
1198
1199 void
1200 Perl_sv_upgrade(pTHX_ SV *const sv, svtype new_type)
1201 {
1202     void*       old_body;
1203     void*       new_body;
1204     const svtype old_type = SvTYPE(sv);
1205     const struct body_details *new_type_details;
1206     const struct body_details *old_type_details
1207         = bodies_by_type + old_type;
1208     SV *referent = NULL;
1209
1210     PERL_ARGS_ASSERT_SV_UPGRADE;
1211
1212     if (old_type == new_type)
1213         return;
1214
1215     /* This clause was purposefully added ahead of the early return above to
1216        the shared string hackery for (sort {$a <=> $b} keys %hash), with the
1217        inference by Nick I-S that it would fix other troublesome cases. See
1218        changes 7162, 7163 (f130fd4589cf5fbb24149cd4db4137c8326f49c1 and parent)
1219
1220        Given that shared hash key scalars are no longer PVIV, but PV, there is
1221        no longer need to unshare so as to free up the IVX slot for its proper
1222        purpose. So it's safe to move the early return earlier.  */
1223
1224     if (new_type > SVt_PVMG && SvIsCOW(sv)) {
1225         sv_force_normal_flags(sv, 0);
1226     }
1227
1228     old_body = SvANY(sv);
1229
1230     /* Copying structures onto other structures that have been neatly zeroed
1231        has a subtle gotcha. Consider XPVMG
1232
1233        +------+------+------+------+------+-------+-------+
1234        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH |
1235        +------+------+------+------+------+-------+-------+
1236        0      4      8     12     16     20      24      28
1237
1238        where NVs are aligned to 8 bytes, so that sizeof that structure is
1239        actually 32 bytes long, with 4 bytes of padding at the end:
1240
1241        +------+------+------+------+------+-------+-------+------+
1242        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH | ???  |
1243        +------+------+------+------+------+-------+-------+------+
1244        0      4      8     12     16     20      24      28     32
1245
1246        so what happens if you allocate memory for this structure:
1247
1248        +------+------+------+------+------+-------+-------+------+------+...
1249        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH |  GP  | NAME |
1250        +------+------+------+------+------+-------+-------+------+------+...
1251        0      4      8     12     16     20      24      28     32     36
1252
1253        zero it, then copy sizeof(XPVMG) bytes on top of it? Not quite what you
1254        expect, because you copy the area marked ??? onto GP. Now, ??? may have
1255        started out as zero once, but it's quite possible that it isn't. So now,
1256        rather than a nicely zeroed GP, you have it pointing somewhere random.
1257        Bugs ensue.
1258
1259        (In fact, GP ends up pointing at a previous GP structure, because the
1260        principle cause of the padding in XPVMG getting garbage is a copy of
1261        sizeof(XPVMG) bytes from a XPVGV structure in sv_unglob. Right now
1262        this happens to be moot because XPVGV has been re-ordered, with GP
1263        no longer after STASH)
1264
1265        So we are careful and work out the size of used parts of all the
1266        structures.  */
1267
1268     switch (old_type) {
1269     case SVt_NULL:
1270         break;
1271     case SVt_IV:
1272         if (SvROK(sv)) {
1273             referent = SvRV(sv);
1274             old_type_details = &fake_rv;
1275             if (new_type == SVt_NV)
1276                 new_type = SVt_PVNV;
1277         } else {
1278             if (new_type < SVt_PVIV) {
1279                 new_type = (new_type == SVt_NV)
1280                     ? SVt_PVNV : SVt_PVIV;
1281             }
1282         }
1283         break;
1284     case SVt_NV:
1285         if (new_type < SVt_PVNV) {
1286             new_type = SVt_PVNV;
1287         }
1288         break;
1289     case SVt_PV:
1290         assert(new_type > SVt_PV);
1291         STATIC_ASSERT_STMT(SVt_IV < SVt_PV);
1292         STATIC_ASSERT_STMT(SVt_NV < SVt_PV);
1293         break;
1294     case SVt_PVIV:
1295         break;
1296     case SVt_PVNV:
1297         break;
1298     case SVt_PVMG:
1299         /* Because the XPVMG of PL_mess_sv isn't allocated from the arena,
1300            there's no way that it can be safely upgraded, because perl.c
1301            expects to Safefree(SvANY(PL_mess_sv))  */
1302         assert(sv != PL_mess_sv);
1303         break;
1304     default:
1305         if (UNLIKELY(old_type_details->cant_upgrade))
1306             Perl_croak(aTHX_ "Can't upgrade %s (%" UVuf ") to %" UVuf,
1307                        sv_reftype(sv, 0), (UV) old_type, (UV) new_type);
1308     }
1309
1310     if (UNLIKELY(old_type > new_type))
1311         Perl_croak(aTHX_ "sv_upgrade from type %d down to type %d",
1312                 (int)old_type, (int)new_type);
1313
1314     new_type_details = bodies_by_type + new_type;
1315
1316     SvFLAGS(sv) &= ~SVTYPEMASK;
1317     SvFLAGS(sv) |= new_type;
1318
1319     /* This can't happen, as SVt_NULL is <= all values of new_type, so one of
1320        the return statements above will have triggered.  */
1321     assert (new_type != SVt_NULL);
1322     switch (new_type) {
1323     case SVt_IV:
1324         assert(old_type == SVt_NULL);
1325         SET_SVANY_FOR_BODYLESS_IV(sv);
1326         SvIV_set(sv, 0);
1327         return;
1328     case SVt_NV:
1329         assert(old_type == SVt_NULL);
1330 #if NVSIZE <= IVSIZE
1331         SET_SVANY_FOR_BODYLESS_NV(sv);
1332 #else
1333         SvANY(sv) = new_XNV();
1334 #endif
1335         SvNV_set(sv, 0);
1336         return;
1337     case SVt_PVHV:
1338     case SVt_PVAV:
1339         assert(new_type_details->body_size);
1340
1341 #ifndef PURIFY  
1342         assert(new_type_details->arena);
1343         assert(new_type_details->arena_size);
1344         /* This points to the start of the allocated area.  */
1345         new_body_inline(new_body, new_type);
1346         Zero(new_body, new_type_details->body_size, char);
1347         new_body = ((char *)new_body) - new_type_details->offset;
1348 #else
1349         /* We always allocated the full length item with PURIFY. To do this
1350            we fake things so that arena is false for all 16 types..  */
1351         new_body = new_NOARENAZ(new_type_details);
1352 #endif
1353         SvANY(sv) = new_body;
1354         if (new_type == SVt_PVAV) {
1355             AvMAX(sv)   = -1;
1356             AvFILLp(sv) = -1;
1357             AvREAL_only(sv);
1358             if (old_type_details->body_size) {
1359                 AvALLOC(sv) = 0;
1360             } else {
1361                 /* It will have been zeroed when the new body was allocated.
1362                    Lets not write to it, in case it confuses a write-back
1363                    cache.  */
1364             }
1365         } else {
1366             assert(!SvOK(sv));
1367             SvOK_off(sv);
1368 #ifndef NODEFAULT_SHAREKEYS
1369             HvSHAREKEYS_on(sv);         /* key-sharing on by default */
1370 #endif
1371             /* start with PERL_HASH_DEFAULT_HvMAX+1 buckets: */
1372             HvMAX(sv) = PERL_HASH_DEFAULT_HvMAX;
1373         }
1374
1375         /* SVt_NULL isn't the only thing upgraded to AV or HV.
1376            The target created by newSVrv also is, and it can have magic.
1377            However, it never has SvPVX set.
1378         */
1379         if (old_type == SVt_IV) {
1380             assert(!SvROK(sv));
1381         } else if (old_type >= SVt_PV) {
1382             assert(SvPVX_const(sv) == 0);
1383         }
1384
1385         if (old_type >= SVt_PVMG) {
1386             SvMAGIC_set(sv, ((XPVMG*)old_body)->xmg_u.xmg_magic);
1387             SvSTASH_set(sv, ((XPVMG*)old_body)->xmg_stash);
1388         } else {
1389             sv->sv_u.svu_array = NULL; /* or svu_hash  */
1390         }
1391         break;
1392
1393     case SVt_PVIV:
1394         /* XXX Is this still needed?  Was it ever needed?   Surely as there is
1395            no route from NV to PVIV, NOK can never be true  */
1396         assert(!SvNOKp(sv));
1397         assert(!SvNOK(sv));
1398         /* FALLTHROUGH */
1399     case SVt_PVIO:
1400     case SVt_PVFM:
1401     case SVt_PVGV:
1402     case SVt_PVCV:
1403     case SVt_PVLV:
1404     case SVt_INVLIST:
1405     case SVt_REGEXP:
1406     case SVt_PVMG:
1407     case SVt_PVNV:
1408     case SVt_PV:
1409
1410         assert(new_type_details->body_size);
1411         /* We always allocated the full length item with PURIFY. To do this
1412            we fake things so that arena is false for all 16 types..  */
1413         if(new_type_details->arena) {
1414             /* This points to the start of the allocated area.  */
1415             new_body_inline(new_body, new_type);
1416             Zero(new_body, new_type_details->body_size, char);
1417             new_body = ((char *)new_body) - new_type_details->offset;
1418         } else {
1419             new_body = new_NOARENAZ(new_type_details);
1420         }
1421         SvANY(sv) = new_body;
1422
1423         if (old_type_details->copy) {
1424             /* There is now the potential for an upgrade from something without
1425                an offset (PVNV or PVMG) to something with one (PVCV, PVFM)  */
1426             int offset = old_type_details->offset;
1427             int length = old_type_details->copy;
1428
1429             if (new_type_details->offset > old_type_details->offset) {
1430                 const int difference
1431                     = new_type_details->offset - old_type_details->offset;
1432                 offset += difference;
1433                 length -= difference;
1434             }
1435             assert (length >= 0);
1436                 
1437             Copy((char *)old_body + offset, (char *)new_body + offset, length,
1438                  char);
1439         }
1440
1441 #ifndef NV_ZERO_IS_ALLBITS_ZERO
1442         /* If NV 0.0 is stores as all bits 0 then Zero() already creates a
1443          * correct 0.0 for us.  Otherwise, if the old body didn't have an
1444          * NV slot, but the new one does, then we need to initialise the
1445          * freshly created NV slot with whatever the correct bit pattern is
1446          * for 0.0  */
1447         if (old_type_details->zero_nv && !new_type_details->zero_nv
1448             && !isGV_with_GP(sv))
1449             SvNV_set(sv, 0);
1450 #endif
1451
1452         if (UNLIKELY(new_type == SVt_PVIO)) {
1453             IO * const io = MUTABLE_IO(sv);
1454             GV *iogv = gv_fetchpvs("IO::File::", GV_ADD, SVt_PVHV);
1455
1456             SvOBJECT_on(io);
1457             /* Clear the stashcache because a new IO could overrule a package
1458                name */
1459             DEBUG_o(Perl_deb(aTHX_ "sv_upgrade clearing PL_stashcache\n"));
1460             hv_clear(PL_stashcache);
1461
1462             SvSTASH_set(io, MUTABLE_HV(SvREFCNT_inc(GvHV(iogv))));
1463             IoPAGE_LEN(sv) = 60;
1464         }
1465         if (UNLIKELY(new_type == SVt_REGEXP))
1466             sv->sv_u.svu_rx = (regexp *)new_body;
1467         else if (old_type < SVt_PV) {
1468             /* referent will be NULL unless the old type was SVt_IV emulating
1469                SVt_RV */
1470             sv->sv_u.svu_rv = referent;
1471         }
1472         break;
1473     default:
1474         Perl_croak(aTHX_ "panic: sv_upgrade to unknown type %lu",
1475                    (unsigned long)new_type);
1476     }
1477
1478     /* if this is zero, this is a body-less SVt_NULL, SVt_IV/SVt_RV,
1479        and sometimes SVt_NV */
1480     if (old_type_details->body_size) {
1481 #ifdef PURIFY
1482         safefree(old_body);
1483 #else
1484         /* Note that there is an assumption that all bodies of types that
1485            can be upgraded came from arenas. Only the more complex non-
1486            upgradable types are allowed to be directly malloc()ed.  */
1487         assert(old_type_details->arena);
1488         del_body((void*)((char*)old_body + old_type_details->offset),
1489                  &PL_body_roots[old_type]);
1490 #endif
1491     }
1492 }
1493
1494 /*
1495 =for apidoc sv_backoff
1496
1497 Remove any string offset.  You should normally use the C<SvOOK_off> macro
1498 wrapper instead.
1499
1500 =cut
1501 */
1502
1503 /* prior to 5.000 stable, this function returned the new OOK-less SvFLAGS
1504    prior to 5.23.4 this function always returned 0
1505 */
1506
1507 void
1508 Perl_sv_backoff(SV *const sv)
1509 {
1510     STRLEN delta;
1511     const char * const s = SvPVX_const(sv);
1512
1513     PERL_ARGS_ASSERT_SV_BACKOFF;
1514
1515     assert(SvOOK(sv));
1516     assert(SvTYPE(sv) != SVt_PVHV);
1517     assert(SvTYPE(sv) != SVt_PVAV);
1518
1519     SvOOK_offset(sv, delta);
1520     
1521     SvLEN_set(sv, SvLEN(sv) + delta);
1522     SvPV_set(sv, SvPVX(sv) - delta);
1523     SvFLAGS(sv) &= ~SVf_OOK;
1524     Move(s, SvPVX(sv), SvCUR(sv)+1, char);
1525     return;
1526 }
1527
1528 /*
1529 =for apidoc sv_grow
1530
1531 Expands the character buffer in the SV.  If necessary, uses C<sv_unref> and
1532 upgrades the SV to C<SVt_PV>.  Returns a pointer to the character buffer.
1533 Use the C<SvGROW> wrapper instead.
1534
1535 =cut
1536 */
1537
1538 static void S_sv_uncow(pTHX_ SV * const sv, const U32 flags);
1539
1540 char *
1541 Perl_sv_grow(pTHX_ SV *const sv, STRLEN newlen)
1542 {
1543     char *s;
1544
1545     PERL_ARGS_ASSERT_SV_GROW;
1546
1547     if (SvROK(sv))
1548         sv_unref(sv);
1549     if (SvTYPE(sv) < SVt_PV) {
1550         sv_upgrade(sv, SVt_PV);
1551         s = SvPVX_mutable(sv);
1552     }
1553     else if (SvOOK(sv)) {       /* pv is offset? */
1554         sv_backoff(sv);
1555         s = SvPVX_mutable(sv);
1556         if (newlen > SvLEN(sv))
1557             newlen += 10 * (newlen - SvCUR(sv)); /* avoid copy each time */
1558     }
1559     else
1560     {
1561         if (SvIsCOW(sv)) S_sv_uncow(aTHX_ sv, 0);
1562         s = SvPVX_mutable(sv);
1563     }
1564
1565 #ifdef PERL_COPY_ON_WRITE
1566     /* the new COW scheme uses SvPVX(sv)[SvLEN(sv)-1] (if spare)
1567      * to store the COW count. So in general, allocate one more byte than
1568      * asked for, to make it likely this byte is always spare: and thus
1569      * make more strings COW-able.
1570      *
1571      * Only increment if the allocation isn't MEM_SIZE_MAX,
1572      * otherwise it will wrap to 0.
1573      */
1574     if ( newlen != MEM_SIZE_MAX )
1575         newlen++;
1576 #endif
1577
1578 #if defined(PERL_USE_MALLOC_SIZE) && defined(Perl_safesysmalloc_size)
1579 #define PERL_UNWARANTED_CHUMMINESS_WITH_MALLOC
1580 #endif
1581
1582     if (newlen > SvLEN(sv)) {           /* need more room? */
1583         STRLEN minlen = SvCUR(sv);
1584         minlen += (minlen >> PERL_STRLEN_EXPAND_SHIFT) + 10;
1585         if (newlen < minlen)
1586             newlen = minlen;
1587 #ifndef PERL_UNWARANTED_CHUMMINESS_WITH_MALLOC
1588
1589         /* Don't round up on the first allocation, as odds are pretty good that
1590          * the initial request is accurate as to what is really needed */
1591         if (SvLEN(sv)) {
1592             STRLEN rounded = PERL_STRLEN_ROUNDUP(newlen);
1593             if (rounded > newlen)
1594                 newlen = rounded;
1595         }
1596 #endif
1597         if (SvLEN(sv) && s) {
1598             s = (char*)saferealloc(s, newlen);
1599         }
1600         else {
1601             s = (char*)safemalloc(newlen);
1602             if (SvPVX_const(sv) && SvCUR(sv)) {
1603                 Move(SvPVX_const(sv), s, SvCUR(sv), char);
1604             }
1605         }
1606         SvPV_set(sv, s);
1607 #ifdef PERL_UNWARANTED_CHUMMINESS_WITH_MALLOC
1608         /* Do this here, do it once, do it right, and then we will never get
1609            called back into sv_grow() unless there really is some growing
1610            needed.  */
1611         SvLEN_set(sv, Perl_safesysmalloc_size(s));
1612 #else
1613         SvLEN_set(sv, newlen);
1614 #endif
1615     }
1616     return s;
1617 }
1618
1619 /*
1620 =for apidoc sv_setiv
1621
1622 Copies an integer into the given SV, upgrading first if necessary.
1623 Does not handle 'set' magic.  See also C<L</sv_setiv_mg>>.
1624
1625 =cut
1626 */
1627
1628 void
1629 Perl_sv_setiv(pTHX_ SV *const sv, const IV i)
1630 {
1631     PERL_ARGS_ASSERT_SV_SETIV;
1632
1633     SV_CHECK_THINKFIRST_COW_DROP(sv);
1634     switch (SvTYPE(sv)) {
1635     case SVt_NULL:
1636     case SVt_NV:
1637         sv_upgrade(sv, SVt_IV);
1638         break;
1639     case SVt_PV:
1640         sv_upgrade(sv, SVt_PVIV);
1641         break;
1642
1643     case SVt_PVGV:
1644         if (!isGV_with_GP(sv))
1645             break;
1646     case SVt_PVAV:
1647     case SVt_PVHV:
1648     case SVt_PVCV:
1649     case SVt_PVFM:
1650     case SVt_PVIO:
1651         /* diag_listed_as: Can't coerce %s to %s in %s */
1652         Perl_croak(aTHX_ "Can't coerce %s to integer in %s", sv_reftype(sv,0),
1653                    OP_DESC(PL_op));
1654         break;
1655     default: NOOP;
1656     }
1657     (void)SvIOK_only(sv);                       /* validate number */
1658     SvIV_set(sv, i);
1659     SvTAINT(sv);
1660 }
1661
1662 /*
1663 =for apidoc sv_setiv_mg
1664
1665 Like C<sv_setiv>, but also handles 'set' magic.
1666
1667 =cut
1668 */
1669
1670 void
1671 Perl_sv_setiv_mg(pTHX_ SV *const sv, const IV i)
1672 {
1673     PERL_ARGS_ASSERT_SV_SETIV_MG;
1674
1675     sv_setiv(sv,i);
1676     SvSETMAGIC(sv);
1677 }
1678
1679 /*
1680 =for apidoc sv_setuv
1681
1682 Copies an unsigned integer into the given SV, upgrading first if necessary.
1683 Does not handle 'set' magic.  See also C<L</sv_setuv_mg>>.
1684
1685 =cut
1686 */
1687
1688 void
1689 Perl_sv_setuv(pTHX_ SV *const sv, const UV u)
1690 {
1691     PERL_ARGS_ASSERT_SV_SETUV;
1692
1693     /* With the if statement to ensure that integers are stored as IVs whenever
1694        possible:
1695        u=1.49  s=0.52  cu=72.49  cs=10.64  scripts=270  tests=20865
1696
1697        without
1698        u=1.35  s=0.47  cu=73.45  cs=11.43  scripts=270  tests=20865
1699
1700        If you wish to remove the following if statement, so that this routine
1701        (and its callers) always return UVs, please benchmark to see what the
1702        effect is. Modern CPUs may be different. Or may not :-)
1703     */
1704     if (u <= (UV)IV_MAX) {
1705        sv_setiv(sv, (IV)u);
1706        return;
1707     }
1708     sv_setiv(sv, 0);
1709     SvIsUV_on(sv);
1710     SvUV_set(sv, u);
1711 }
1712
1713 /*
1714 =for apidoc sv_setuv_mg
1715
1716 Like C<sv_setuv>, but also handles 'set' magic.
1717
1718 =cut
1719 */
1720
1721 void
1722 Perl_sv_setuv_mg(pTHX_ SV *const sv, const UV u)
1723 {
1724     PERL_ARGS_ASSERT_SV_SETUV_MG;
1725
1726     sv_setuv(sv,u);
1727     SvSETMAGIC(sv);
1728 }
1729
1730 /*
1731 =for apidoc sv_setnv
1732
1733 Copies a double into the given SV, upgrading first if necessary.
1734 Does not handle 'set' magic.  See also C<L</sv_setnv_mg>>.
1735
1736 =cut
1737 */
1738
1739 void
1740 Perl_sv_setnv(pTHX_ SV *const sv, const NV num)
1741 {
1742     PERL_ARGS_ASSERT_SV_SETNV;
1743
1744     SV_CHECK_THINKFIRST_COW_DROP(sv);
1745     switch (SvTYPE(sv)) {
1746     case SVt_NULL:
1747     case SVt_IV:
1748         sv_upgrade(sv, SVt_NV);
1749         break;
1750     case SVt_PV:
1751     case SVt_PVIV:
1752         sv_upgrade(sv, SVt_PVNV);
1753         break;
1754
1755     case SVt_PVGV:
1756         if (!isGV_with_GP(sv))
1757             break;
1758     case SVt_PVAV:
1759     case SVt_PVHV:
1760     case SVt_PVCV:
1761     case SVt_PVFM:
1762     case SVt_PVIO:
1763         /* diag_listed_as: Can't coerce %s to %s in %s */
1764         Perl_croak(aTHX_ "Can't coerce %s to number in %s", sv_reftype(sv,0),
1765                    OP_DESC(PL_op));
1766         break;
1767     default: NOOP;
1768     }
1769     SvNV_set(sv, num);
1770     (void)SvNOK_only(sv);                       /* validate number */
1771     SvTAINT(sv);
1772 }
1773
1774 /*
1775 =for apidoc sv_setnv_mg
1776
1777 Like C<sv_setnv>, but also handles 'set' magic.
1778
1779 =cut
1780 */
1781
1782 void
1783 Perl_sv_setnv_mg(pTHX_ SV *const sv, const NV num)
1784 {
1785     PERL_ARGS_ASSERT_SV_SETNV_MG;
1786
1787     sv_setnv(sv,num);
1788     SvSETMAGIC(sv);
1789 }
1790
1791 /* Return a cleaned-up, printable version of sv, for non-numeric, or
1792  * not incrementable warning display.
1793  * Originally part of S_not_a_number().
1794  * The return value may be != tmpbuf.
1795  */
1796
1797 STATIC const char *
1798 S_sv_display(pTHX_ SV *const sv, char *tmpbuf, STRLEN tmpbuf_size) {
1799     const char *pv;
1800
1801      PERL_ARGS_ASSERT_SV_DISPLAY;
1802
1803      if (DO_UTF8(sv)) {
1804           SV *dsv = newSVpvs_flags("", SVs_TEMP);
1805           pv = sv_uni_display(dsv, sv, 32, UNI_DISPLAY_ISPRINT);
1806      } else {
1807           char *d = tmpbuf;
1808           const char * const limit = tmpbuf + tmpbuf_size - 8;
1809           /* each *s can expand to 4 chars + "...\0",
1810              i.e. need room for 8 chars */
1811         
1812           const char *s = SvPVX_const(sv);
1813           const char * const end = s + SvCUR(sv);
1814           for ( ; s < end && d < limit; s++ ) {
1815                int ch = *s & 0xFF;
1816                if (! isASCII(ch) && !isPRINT_LC(ch)) {
1817                     *d++ = 'M';
1818                     *d++ = '-';
1819
1820                     /* Map to ASCII "equivalent" of Latin1 */
1821                     ch = LATIN1_TO_NATIVE(NATIVE_TO_LATIN1(ch) & 127);
1822                }
1823                if (ch == '\n') {
1824                     *d++ = '\\';
1825                     *d++ = 'n';
1826                }
1827                else if (ch == '\r') {
1828                     *d++ = '\\';
1829                     *d++ = 'r';
1830                }
1831                else if (ch == '\f') {
1832                     *d++ = '\\';
1833                     *d++ = 'f';
1834                }
1835                else if (ch == '\\') {
1836                     *d++ = '\\';
1837                     *d++ = '\\';
1838                }
1839                else if (ch == '\0') {
1840                     *d++ = '\\';
1841                     *d++ = '0';
1842                }
1843                else if (isPRINT_LC(ch))
1844                     *d++ = ch;
1845                else {
1846                     *d++ = '^';
1847                     *d++ = toCTRL(ch);
1848                }
1849           }
1850           if (s < end) {
1851                *d++ = '.';
1852                *d++ = '.';
1853                *d++ = '.';
1854           }
1855           *d = '\0';
1856           pv = tmpbuf;
1857     }
1858
1859     return pv;
1860 }
1861
1862 /* Print an "isn't numeric" warning, using a cleaned-up,
1863  * printable version of the offending string
1864  */
1865
1866 STATIC void
1867 S_not_a_number(pTHX_ SV *const sv)
1868 {
1869      char tmpbuf[64];
1870      const char *pv;
1871
1872      PERL_ARGS_ASSERT_NOT_A_NUMBER;
1873
1874      pv = sv_display(sv, tmpbuf, sizeof(tmpbuf));
1875
1876     if (PL_op)
1877         Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1878                     /* diag_listed_as: Argument "%s" isn't numeric%s */
1879                     "Argument \"%s\" isn't numeric in %s", pv,
1880                     OP_DESC(PL_op));
1881     else
1882         Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1883                     /* diag_listed_as: Argument "%s" isn't numeric%s */
1884                     "Argument \"%s\" isn't numeric", pv);
1885 }
1886
1887 STATIC void
1888 S_not_incrementable(pTHX_ SV *const sv) {
1889      char tmpbuf[64];
1890      const char *pv;
1891
1892      PERL_ARGS_ASSERT_NOT_INCREMENTABLE;
1893
1894      pv = sv_display(sv, tmpbuf, sizeof(tmpbuf));
1895
1896      Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1897                  "Argument \"%s\" treated as 0 in increment (++)", pv);
1898 }
1899
1900 /*
1901 =for apidoc looks_like_number
1902
1903 Test if the content of an SV looks like a number (or is a number).
1904 C<Inf> and C<Infinity> are treated as numbers (so will not issue a
1905 non-numeric warning), even if your C<atof()> doesn't grok them.  Get-magic is
1906 ignored.
1907
1908 =cut
1909 */
1910
1911 I32
1912 Perl_looks_like_number(pTHX_ SV *const sv)
1913 {
1914     const char *sbegin;
1915     STRLEN len;
1916     int numtype;
1917
1918     PERL_ARGS_ASSERT_LOOKS_LIKE_NUMBER;
1919
1920     if (SvPOK(sv) || SvPOKp(sv)) {
1921         sbegin = SvPV_nomg_const(sv, len);
1922     }
1923     else
1924         return SvFLAGS(sv) & (SVf_NOK|SVp_NOK|SVf_IOK|SVp_IOK);
1925     numtype = grok_number(sbegin, len, NULL);
1926     return ((numtype & IS_NUMBER_TRAILING)) ? 0 : numtype;
1927 }
1928
1929 STATIC bool
1930 S_glob_2number(pTHX_ GV * const gv)
1931 {
1932     PERL_ARGS_ASSERT_GLOB_2NUMBER;
1933
1934     /* We know that all GVs stringify to something that is not-a-number,
1935         so no need to test that.  */
1936     if (ckWARN(WARN_NUMERIC))
1937     {
1938         SV *const buffer = sv_newmortal();
1939         gv_efullname3(buffer, gv, "*");
1940         not_a_number(buffer);
1941     }
1942     /* We just want something true to return, so that S_sv_2iuv_common
1943         can tail call us and return true.  */
1944     return TRUE;
1945 }
1946
1947 /* Actually, ISO C leaves conversion of UV to IV undefined, but
1948    until proven guilty, assume that things are not that bad... */
1949
1950 /*
1951    NV_PRESERVES_UV:
1952
1953    As 64 bit platforms often have an NV that doesn't preserve all bits of
1954    an IV (an assumption perl has been based on to date) it becomes necessary
1955    to remove the assumption that the NV always carries enough precision to
1956    recreate the IV whenever needed, and that the NV is the canonical form.
1957    Instead, IV/UV and NV need to be given equal rights. So as to not lose
1958    precision as a side effect of conversion (which would lead to insanity
1959    and the dragon(s) in t/op/numconvert.t getting very angry) the intent is
1960    1) to distinguish between IV/UV/NV slots that have a valid conversion cached
1961       where precision was lost, and IV/UV/NV slots that have a valid conversion
1962       which has lost no precision
1963    2) to ensure that if a numeric conversion to one form is requested that
1964       would lose precision, the precise conversion (or differently
1965       imprecise conversion) is also performed and cached, to prevent
1966       requests for different numeric formats on the same SV causing
1967       lossy conversion chains. (lossless conversion chains are perfectly
1968       acceptable (still))
1969
1970
1971    flags are used:
1972    SvIOKp is true if the IV slot contains a valid value
1973    SvIOK  is true only if the IV value is accurate (UV if SvIOK_UV true)
1974    SvNOKp is true if the NV slot contains a valid value
1975    SvNOK  is true only if the NV value is accurate
1976
1977    so
1978    while converting from PV to NV, check to see if converting that NV to an
1979    IV(or UV) would lose accuracy over a direct conversion from PV to
1980    IV(or UV). If it would, cache both conversions, return NV, but mark
1981    SV as IOK NOKp (ie not NOK).
1982
1983    While converting from PV to IV, check to see if converting that IV to an
1984    NV would lose accuracy over a direct conversion from PV to NV. If it
1985    would, cache both conversions, flag similarly.
1986
1987    Before, the SV value "3.2" could become NV=3.2 IV=3 NOK, IOK quite
1988    correctly because if IV & NV were set NV *always* overruled.
1989    Now, "3.2" will become NV=3.2 IV=3 NOK, IOKp, because the flag's meaning
1990    changes - now IV and NV together means that the two are interchangeable:
1991    SvIVX == (IV) SvNVX && SvNVX == (NV) SvIVX;
1992
1993    The benefit of this is that operations such as pp_add know that if
1994    SvIOK is true for both left and right operands, then integer addition
1995    can be used instead of floating point (for cases where the result won't
1996    overflow). Before, floating point was always used, which could lead to
1997    loss of precision compared with integer addition.
1998
1999    * making IV and NV equal status should make maths accurate on 64 bit
2000      platforms
2001    * may speed up maths somewhat if pp_add and friends start to use
2002      integers when possible instead of fp. (Hopefully the overhead in
2003      looking for SvIOK and checking for overflow will not outweigh the
2004      fp to integer speedup)
2005    * will slow down integer operations (callers of SvIV) on "inaccurate"
2006      values, as the change from SvIOK to SvIOKp will cause a call into
2007      sv_2iv each time rather than a macro access direct to the IV slot
2008    * should speed up number->string conversion on integers as IV is
2009      favoured when IV and NV are equally accurate
2010
2011    ####################################################################
2012    You had better be using SvIOK_notUV if you want an IV for arithmetic:
2013    SvIOK is true if (IV or UV), so you might be getting (IV)SvUV.
2014    On the other hand, SvUOK is true iff UV.
2015    ####################################################################
2016
2017    Your mileage will vary depending your CPU's relative fp to integer
2018    performance ratio.
2019 */
2020
2021 #ifndef NV_PRESERVES_UV
2022 #  define IS_NUMBER_UNDERFLOW_IV 1
2023 #  define IS_NUMBER_UNDERFLOW_UV 2
2024 #  define IS_NUMBER_IV_AND_UV    2
2025 #  define IS_NUMBER_OVERFLOW_IV  4
2026 #  define IS_NUMBER_OVERFLOW_UV  5
2027
2028 /* sv_2iuv_non_preserve(): private routine for use by sv_2iv() and sv_2uv() */
2029
2030 /* For sv_2nv these three cases are "SvNOK and don't bother casting"  */
2031 STATIC int
2032 S_sv_2iuv_non_preserve(pTHX_ SV *const sv
2033 #  ifdef DEBUGGING
2034                        , I32 numtype
2035 #  endif
2036                        )
2037 {
2038     PERL_ARGS_ASSERT_SV_2IUV_NON_PRESERVE;
2039     PERL_UNUSED_CONTEXT;
2040
2041     DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_2iuv_non '%s', IV=0x%" UVxf " NV=%" NVgf " inttype=%" UVXf "\n", SvPVX_const(sv), SvIVX(sv), SvNVX(sv), (UV)numtype));
2042     if (SvNVX(sv) < (NV)IV_MIN) {
2043         (void)SvIOKp_on(sv);
2044         (void)SvNOK_on(sv);
2045         SvIV_set(sv, IV_MIN);
2046         return IS_NUMBER_UNDERFLOW_IV;
2047     }
2048     if (SvNVX(sv) > (NV)UV_MAX) {
2049         (void)SvIOKp_on(sv);
2050         (void)SvNOK_on(sv);
2051         SvIsUV_on(sv);
2052         SvUV_set(sv, UV_MAX);
2053         return IS_NUMBER_OVERFLOW_UV;
2054     }
2055     (void)SvIOKp_on(sv);
2056     (void)SvNOK_on(sv);
2057     /* Can't use strtol etc to convert this string.  (See truth table in
2058        sv_2iv  */
2059     if (SvNVX(sv) <= (UV)IV_MAX) {
2060         SvIV_set(sv, I_V(SvNVX(sv)));
2061         if ((NV)(SvIVX(sv)) == SvNVX(sv)) {
2062             SvIOK_on(sv); /* Integer is precise. NOK, IOK */
2063         } else {
2064             /* Integer is imprecise. NOK, IOKp */
2065         }
2066         return SvNVX(sv) < 0 ? IS_NUMBER_UNDERFLOW_UV : IS_NUMBER_IV_AND_UV;
2067     }
2068     SvIsUV_on(sv);
2069     SvUV_set(sv, U_V(SvNVX(sv)));
2070     if ((NV)(SvUVX(sv)) == SvNVX(sv)) {
2071         if (SvUVX(sv) == UV_MAX) {
2072             /* As we know that NVs don't preserve UVs, UV_MAX cannot
2073                possibly be preserved by NV. Hence, it must be overflow.
2074                NOK, IOKp */
2075             return IS_NUMBER_OVERFLOW_UV;
2076         }
2077         SvIOK_on(sv); /* Integer is precise. NOK, UOK */
2078     } else {
2079         /* Integer is imprecise. NOK, IOKp */
2080     }
2081     return IS_NUMBER_OVERFLOW_IV;
2082 }
2083 #endif /* !NV_PRESERVES_UV*/
2084
2085 /* If numtype is infnan, set the NV of the sv accordingly.
2086  * If numtype is anything else, try setting the NV using Atof(PV). */
2087 #ifdef USING_MSVC6
2088 #  pragma warning(push)
2089 #  pragma warning(disable:4756;disable:4056)
2090 #endif
2091 static void
2092 S_sv_setnv(pTHX_ SV* sv, int numtype)
2093 {
2094     bool pok = cBOOL(SvPOK(sv));
2095     bool nok = FALSE;
2096 #ifdef NV_INF
2097     if ((numtype & IS_NUMBER_INFINITY)) {
2098         SvNV_set(sv, (numtype & IS_NUMBER_NEG) ? -NV_INF : NV_INF);
2099         nok = TRUE;
2100     } else
2101 #endif
2102 #ifdef NV_NAN
2103     if ((numtype & IS_NUMBER_NAN)) {
2104         SvNV_set(sv, NV_NAN);
2105         nok = TRUE;
2106     } else
2107 #endif
2108     if (pok) {
2109         SvNV_set(sv, Atof(SvPVX_const(sv)));
2110         /* Purposefully no true nok here, since we don't want to blow
2111          * away the possible IOK/UV of an existing sv. */
2112     }
2113     if (nok) {
2114         SvNOK_only(sv); /* No IV or UV please, this is pure infnan. */
2115         if (pok)
2116             SvPOK_on(sv); /* PV is okay, though. */
2117     }
2118 }
2119 #ifdef USING_MSVC6
2120 #  pragma warning(pop)
2121 #endif
2122
2123 STATIC bool
2124 S_sv_2iuv_common(pTHX_ SV *const sv)
2125 {
2126     PERL_ARGS_ASSERT_SV_2IUV_COMMON;
2127
2128     if (SvNOKp(sv)) {
2129         /* erm. not sure. *should* never get NOKp (without NOK) from sv_2nv
2130          * without also getting a cached IV/UV from it at the same time
2131          * (ie PV->NV conversion should detect loss of accuracy and cache
2132          * IV or UV at same time to avoid this. */
2133         /* IV-over-UV optimisation - choose to cache IV if possible */
2134
2135         if (SvTYPE(sv) == SVt_NV)
2136             sv_upgrade(sv, SVt_PVNV);
2137
2138         (void)SvIOKp_on(sv);    /* Must do this first, to clear any SvOOK */
2139         /* < not <= as for NV doesn't preserve UV, ((NV)IV_MAX+1) will almost
2140            certainly cast into the IV range at IV_MAX, whereas the correct
2141            answer is the UV IV_MAX +1. Hence < ensures that dodgy boundary
2142            cases go to UV */
2143 #if defined(NAN_COMPARE_BROKEN) && defined(Perl_isnan)
2144         if (Perl_isnan(SvNVX(sv))) {
2145             SvUV_set(sv, 0);
2146             SvIsUV_on(sv);
2147             return FALSE;
2148         }
2149 #endif
2150         if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2151             SvIV_set(sv, I_V(SvNVX(sv)));
2152             if (SvNVX(sv) == (NV) SvIVX(sv)
2153 #ifndef NV_PRESERVES_UV
2154                 && SvIVX(sv) != IV_MIN /* avoid negating IV_MIN below */
2155                 && (((UV)1 << NV_PRESERVES_UV_BITS) >
2156                     (UV)(SvIVX(sv) > 0 ? SvIVX(sv) : -SvIVX(sv)))
2157                 /* Don't flag it as "accurately an integer" if the number
2158                    came from a (by definition imprecise) NV operation, and
2159                    we're outside the range of NV integer precision */
2160 #endif
2161                 ) {
2162                 if (SvNOK(sv))
2163                     SvIOK_on(sv);  /* Can this go wrong with rounding? NWC */
2164                 else {
2165                     /* scalar has trailing garbage, eg "42a" */
2166                 }
2167                 DEBUG_c(PerlIO_printf(Perl_debug_log,
2168                                       "0x%" UVxf " iv(%" NVgf " => %" IVdf ") (precise)\n",
2169                                       PTR2UV(sv),
2170                                       SvNVX(sv),
2171                                       SvIVX(sv)));
2172
2173             } else {
2174                 /* IV not precise.  No need to convert from PV, as NV
2175                    conversion would already have cached IV if it detected
2176                    that PV->IV would be better than PV->NV->IV
2177                    flags already correct - don't set public IOK.  */
2178                 DEBUG_c(PerlIO_printf(Perl_debug_log,
2179                                       "0x%" UVxf " iv(%" NVgf " => %" IVdf ") (imprecise)\n",
2180                                       PTR2UV(sv),
2181                                       SvNVX(sv),
2182                                       SvIVX(sv)));
2183             }
2184             /* Can the above go wrong if SvIVX == IV_MIN and SvNVX < IV_MIN,
2185                but the cast (NV)IV_MIN rounds to a the value less (more
2186                negative) than IV_MIN which happens to be equal to SvNVX ??
2187                Analogous to 0xFFFFFFFFFFFFFFFF rounding up to NV (2**64) and
2188                NV rounding back to 0xFFFFFFFFFFFFFFFF, so UVX == UV(NVX) and
2189                (NV)UVX == NVX are both true, but the values differ. :-(
2190                Hopefully for 2s complement IV_MIN is something like
2191                0x8000000000000000 which will be exact. NWC */
2192         }
2193         else {
2194             SvUV_set(sv, U_V(SvNVX(sv)));
2195             if (
2196                 (SvNVX(sv) == (NV) SvUVX(sv))
2197 #ifndef  NV_PRESERVES_UV
2198                 /* Make sure it's not 0xFFFFFFFFFFFFFFFF */
2199                 /*&& (SvUVX(sv) != UV_MAX) irrelevant with code below */
2200                 && (((UV)1 << NV_PRESERVES_UV_BITS) > SvUVX(sv))
2201                 /* Don't flag it as "accurately an integer" if the number
2202                    came from a (by definition imprecise) NV operation, and
2203                    we're outside the range of NV integer precision */
2204 #endif
2205                 && SvNOK(sv)
2206                 )
2207                 SvIOK_on(sv);
2208             SvIsUV_on(sv);
2209             DEBUG_c(PerlIO_printf(Perl_debug_log,
2210                                   "0x%" UVxf " 2iv(%" UVuf " => %" IVdf ") (as unsigned)\n",
2211                                   PTR2UV(sv),
2212                                   SvUVX(sv),
2213                                   SvUVX(sv)));
2214         }
2215     }
2216     else if (SvPOKp(sv)) {
2217         UV value;
2218         int numtype;
2219         const char *s = SvPVX_const(sv);
2220         const STRLEN cur = SvCUR(sv);
2221
2222         /* short-cut for a single digit string like "1" */
2223
2224         if (cur == 1) {
2225             char c = *s;
2226             if (isDIGIT(c)) {
2227                 if (SvTYPE(sv) < SVt_PVIV)
2228                     sv_upgrade(sv, SVt_PVIV);
2229                 (void)SvIOK_on(sv);
2230                 SvIV_set(sv, (IV)(c - '0'));
2231                 return FALSE;
2232             }
2233         }
2234
2235         numtype = grok_number(s, cur, &value);
2236         /* We want to avoid a possible problem when we cache an IV/ a UV which
2237            may be later translated to an NV, and the resulting NV is not
2238            the same as the direct translation of the initial string
2239            (eg 123.456 can shortcut to the IV 123 with atol(), but we must
2240            be careful to ensure that the value with the .456 is around if the
2241            NV value is requested in the future).
2242         
2243            This means that if we cache such an IV/a UV, we need to cache the
2244            NV as well.  Moreover, we trade speed for space, and do not
2245            cache the NV if we are sure it's not needed.
2246          */
2247
2248         /* SVt_PVNV is one higher than SVt_PVIV, hence this order  */
2249         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2250              == IS_NUMBER_IN_UV) {
2251             /* It's definitely an integer, only upgrade to PVIV */
2252             if (SvTYPE(sv) < SVt_PVIV)
2253                 sv_upgrade(sv, SVt_PVIV);
2254             (void)SvIOK_on(sv);
2255         } else if (SvTYPE(sv) < SVt_PVNV)
2256             sv_upgrade(sv, SVt_PVNV);
2257
2258         if ((numtype & (IS_NUMBER_INFINITY | IS_NUMBER_NAN))) {
2259             if (ckWARN(WARN_NUMERIC) && ((numtype & IS_NUMBER_TRAILING)))
2260                 not_a_number(sv);
2261             S_sv_setnv(aTHX_ sv, numtype);
2262             return FALSE;
2263         }
2264
2265         /* If NVs preserve UVs then we only use the UV value if we know that
2266            we aren't going to call atof() below. If NVs don't preserve UVs
2267            then the value returned may have more precision than atof() will
2268            return, even though value isn't perfectly accurate.  */
2269         if ((numtype & (IS_NUMBER_IN_UV
2270 #ifdef NV_PRESERVES_UV
2271                         | IS_NUMBER_NOT_INT
2272 #endif
2273             )) == IS_NUMBER_IN_UV) {
2274             /* This won't turn off the public IOK flag if it was set above  */
2275             (void)SvIOKp_on(sv);
2276
2277             if (!(numtype & IS_NUMBER_NEG)) {
2278                 /* positive */;
2279                 if (value <= (UV)IV_MAX) {
2280                     SvIV_set(sv, (IV)value);
2281                 } else {
2282                     /* it didn't overflow, and it was positive. */
2283                     SvUV_set(sv, value);
2284                     SvIsUV_on(sv);
2285                 }
2286             } else {
2287                 /* 2s complement assumption  */
2288                 if (value <= (UV)IV_MIN) {
2289                     SvIV_set(sv, value == (UV)IV_MIN
2290                                     ? IV_MIN : -(IV)value);
2291                 } else {
2292                     /* Too negative for an IV.  This is a double upgrade, but
2293                        I'm assuming it will be rare.  */
2294                     if (SvTYPE(sv) < SVt_PVNV)
2295                         sv_upgrade(sv, SVt_PVNV);
2296                     SvNOK_on(sv);
2297                     SvIOK_off(sv);
2298                     SvIOKp_on(sv);
2299                     SvNV_set(sv, -(NV)value);
2300                     SvIV_set(sv, IV_MIN);
2301                 }
2302             }
2303         }
2304         /* For !NV_PRESERVES_UV and IS_NUMBER_IN_UV and IS_NUMBER_NOT_INT we
2305            will be in the previous block to set the IV slot, and the next
2306            block to set the NV slot.  So no else here.  */
2307         
2308         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2309             != IS_NUMBER_IN_UV) {
2310             /* It wasn't an (integer that doesn't overflow the UV). */
2311             S_sv_setnv(aTHX_ sv, numtype);
2312
2313             if (! numtype && ckWARN(WARN_NUMERIC))
2314                 not_a_number(sv);
2315
2316             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2iv(%" NVgf ")\n",
2317                                   PTR2UV(sv), SvNVX(sv)));
2318
2319 #ifdef NV_PRESERVES_UV
2320             (void)SvIOKp_on(sv);
2321             (void)SvNOK_on(sv);
2322 #if defined(NAN_COMPARE_BROKEN) && defined(Perl_isnan)
2323             if (Perl_isnan(SvNVX(sv))) {
2324                 SvUV_set(sv, 0);
2325                 SvIsUV_on(sv);
2326                 return FALSE;
2327             }
2328 #endif
2329             if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2330                 SvIV_set(sv, I_V(SvNVX(sv)));
2331                 if ((NV)(SvIVX(sv)) == SvNVX(sv)) {
2332                     SvIOK_on(sv);
2333                 } else {
2334                     NOOP;  /* Integer is imprecise. NOK, IOKp */
2335                 }
2336                 /* UV will not work better than IV */
2337             } else {
2338                 if (SvNVX(sv) > (NV)UV_MAX) {
2339                     SvIsUV_on(sv);
2340                     /* Integer is inaccurate. NOK, IOKp, is UV */
2341                     SvUV_set(sv, UV_MAX);
2342                 } else {
2343                     SvUV_set(sv, U_V(SvNVX(sv)));
2344                     /* 0xFFFFFFFFFFFFFFFF not an issue in here, NVs
2345                        NV preservse UV so can do correct comparison.  */
2346                     if ((NV)(SvUVX(sv)) == SvNVX(sv)) {
2347                         SvIOK_on(sv);
2348                     } else {
2349                         NOOP;   /* Integer is imprecise. NOK, IOKp, is UV */
2350                     }
2351                 }
2352                 SvIsUV_on(sv);
2353             }
2354 #else /* NV_PRESERVES_UV */
2355             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2356                 == (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT)) {
2357                 /* The IV/UV slot will have been set from value returned by
2358                    grok_number above.  The NV slot has just been set using
2359                    Atof.  */
2360                 SvNOK_on(sv);
2361                 assert (SvIOKp(sv));
2362             } else {
2363                 if (((UV)1 << NV_PRESERVES_UV_BITS) >
2364                     U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))) {
2365                     /* Small enough to preserve all bits. */
2366                     (void)SvIOKp_on(sv);
2367                     SvNOK_on(sv);
2368                     SvIV_set(sv, I_V(SvNVX(sv)));
2369                     if ((NV)(SvIVX(sv)) == SvNVX(sv))
2370                         SvIOK_on(sv);
2371                     /* Assumption: first non-preserved integer is < IV_MAX,
2372                        this NV is in the preserved range, therefore: */
2373                     if (!(U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))
2374                           < (UV)IV_MAX)) {
2375                         Perl_croak(aTHX_ "sv_2iv assumed (U_V(fabs((double)SvNVX(sv))) < (UV)IV_MAX) but SvNVX(sv)=%" NVgf " U_V is 0x%" UVxf ", IV_MAX is 0x%" UVxf "\n", SvNVX(sv), U_V(SvNVX(sv)), (UV)IV_MAX);
2376                     }
2377                 } else {
2378                     /* IN_UV NOT_INT
2379                          0      0       already failed to read UV.
2380                          0      1       already failed to read UV.
2381                          1      0       you won't get here in this case. IV/UV
2382                                         slot set, public IOK, Atof() unneeded.
2383                          1      1       already read UV.
2384                        so there's no point in sv_2iuv_non_preserve() attempting
2385                        to use atol, strtol, strtoul etc.  */
2386 #  ifdef DEBUGGING
2387                     sv_2iuv_non_preserve (sv, numtype);
2388 #  else
2389                     sv_2iuv_non_preserve (sv);
2390 #  endif
2391                 }
2392             }
2393 #endif /* NV_PRESERVES_UV */
2394         /* It might be more code efficient to go through the entire logic above
2395            and conditionally set with SvIOKp_on() rather than SvIOK(), but it
2396            gets complex and potentially buggy, so more programmer efficient
2397            to do it this way, by turning off the public flags:  */
2398         if (!numtype)
2399             SvFLAGS(sv) &= ~(SVf_IOK|SVf_NOK);
2400         }
2401     }
2402     else  {
2403         if (isGV_with_GP(sv))
2404             return glob_2number(MUTABLE_GV(sv));
2405
2406         if (!PL_localizing && ckWARN(WARN_UNINITIALIZED))
2407                 report_uninit(sv);
2408         if (SvTYPE(sv) < SVt_IV)
2409             /* Typically the caller expects that sv_any is not NULL now.  */
2410             sv_upgrade(sv, SVt_IV);
2411         /* Return 0 from the caller.  */
2412         return TRUE;
2413     }
2414     return FALSE;
2415 }
2416
2417 /*
2418 =for apidoc sv_2iv_flags
2419
2420 Return the integer value of an SV, doing any necessary string
2421 conversion.  If C<flags> has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.
2422 Normally used via the C<SvIV(sv)> and C<SvIVx(sv)> macros.
2423
2424 =cut
2425 */
2426
2427 IV
2428 Perl_sv_2iv_flags(pTHX_ SV *const sv, const I32 flags)
2429 {
2430     PERL_ARGS_ASSERT_SV_2IV_FLAGS;
2431
2432     assert (SvTYPE(sv) != SVt_PVAV && SvTYPE(sv) != SVt_PVHV
2433          && SvTYPE(sv) != SVt_PVFM);
2434
2435     if (SvGMAGICAL(sv) && (flags & SV_GMAGIC))
2436         mg_get(sv);
2437
2438     if (SvROK(sv)) {
2439         if (SvAMAGIC(sv)) {
2440             SV * tmpstr;
2441             if (flags & SV_SKIP_OVERLOAD)
2442                 return 0;
2443             tmpstr = AMG_CALLunary(sv, numer_amg);
2444             if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2445                 return SvIV(tmpstr);
2446             }
2447         }
2448         return PTR2IV(SvRV(sv));
2449     }
2450
2451     if (SvVALID(sv) || isREGEXP(sv)) {
2452         /* FBMs use the space for SvIVX and SvNVX for other purposes, so
2453            must not let them cache IVs.
2454            In practice they are extremely unlikely to actually get anywhere
2455            accessible by user Perl code - the only way that I'm aware of is when
2456            a constant subroutine which is used as the second argument to index.
2457
2458            Regexps have no SvIVX and SvNVX fields.
2459         */
2460         assert(isREGEXP(sv) || SvPOKp(sv));
2461         {
2462             UV value;
2463             const char * const ptr =
2464                 isREGEXP(sv) ? RX_WRAPPED((REGEXP*)sv) : SvPVX_const(sv);
2465             const int numtype
2466                 = grok_number(ptr, SvCUR(sv), &value);
2467
2468             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2469                 == IS_NUMBER_IN_UV) {
2470                 /* It's definitely an integer */
2471                 if (numtype & IS_NUMBER_NEG) {
2472                     if (value < (UV)IV_MIN)
2473                         return -(IV)value;
2474                 } else {
2475                     if (value < (UV)IV_MAX)
2476                         return (IV)value;
2477                 }
2478             }
2479
2480             /* Quite wrong but no good choices. */
2481             if ((numtype & IS_NUMBER_INFINITY)) {
2482                 return (numtype & IS_NUMBER_NEG) ? IV_MIN : IV_MAX;
2483             } else if ((numtype & IS_NUMBER_NAN)) {
2484                 return 0; /* So wrong. */
2485             }
2486
2487             if (!numtype) {
2488                 if (ckWARN(WARN_NUMERIC))
2489                     not_a_number(sv);
2490             }
2491             return I_V(Atof(ptr));
2492         }
2493     }
2494
2495     if (SvTHINKFIRST(sv)) {
2496         if (SvREADONLY(sv) && !SvOK(sv)) {
2497             if (ckWARN(WARN_UNINITIALIZED))
2498                 report_uninit(sv);
2499             return 0;
2500         }
2501     }
2502
2503     if (!SvIOKp(sv)) {
2504         if (S_sv_2iuv_common(aTHX_ sv))
2505             return 0;
2506     }
2507
2508     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2iv(%" IVdf ")\n",
2509         PTR2UV(sv),SvIVX(sv)));
2510     return SvIsUV(sv) ? (IV)SvUVX(sv) : SvIVX(sv);
2511 }
2512
2513 /*
2514 =for apidoc sv_2uv_flags
2515
2516 Return the unsigned integer value of an SV, doing any necessary string
2517 conversion.  If C<flags> has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.
2518 Normally used via the C<SvUV(sv)> and C<SvUVx(sv)> macros.
2519
2520 =cut
2521 */
2522
2523 UV
2524 Perl_sv_2uv_flags(pTHX_ SV *const sv, const I32 flags)
2525 {
2526     PERL_ARGS_ASSERT_SV_2UV_FLAGS;
2527
2528     if (SvGMAGICAL(sv) && (flags & SV_GMAGIC))
2529         mg_get(sv);
2530
2531     if (SvROK(sv)) {
2532         if (SvAMAGIC(sv)) {
2533             SV *tmpstr;
2534             if (flags & SV_SKIP_OVERLOAD)
2535                 return 0;
2536             tmpstr = AMG_CALLunary(sv, numer_amg);
2537             if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2538                 return SvUV(tmpstr);
2539             }
2540         }
2541         return PTR2UV(SvRV(sv));
2542     }
2543
2544     if (SvVALID(sv) || isREGEXP(sv)) {
2545         /* FBMs use the space for SvIVX and SvNVX for other purposes, and use
2546            the same flag bit as SVf_IVisUV, so must not let them cache IVs.  
2547            Regexps have no SvIVX and SvNVX fields. */
2548         assert(isREGEXP(sv) || SvPOKp(sv));
2549         {
2550             UV value;
2551             const char * const ptr =
2552                 isREGEXP(sv) ? RX_WRAPPED((REGEXP*)sv) : SvPVX_const(sv);
2553             const int numtype
2554                 = grok_number(ptr, SvCUR(sv), &value);
2555
2556             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2557                 == IS_NUMBER_IN_UV) {
2558                 /* It's definitely an integer */
2559                 if (!(numtype & IS_NUMBER_NEG))
2560                     return value;
2561             }
2562
2563             /* Quite wrong but no good choices. */
2564             if ((numtype & IS_NUMBER_INFINITY)) {
2565                 return UV_MAX; /* So wrong. */
2566             } else if ((numtype & IS_NUMBER_NAN)) {
2567                 return 0; /* So wrong. */
2568             }
2569
2570             if (!numtype) {
2571                 if (ckWARN(WARN_NUMERIC))
2572                     not_a_number(sv);
2573             }
2574             return U_V(Atof(ptr));
2575         }
2576     }
2577
2578     if (SvTHINKFIRST(sv)) {
2579         if (SvREADONLY(sv) && !SvOK(sv)) {
2580             if (ckWARN(WARN_UNINITIALIZED))
2581                 report_uninit(sv);
2582             return 0;
2583         }
2584     }
2585
2586     if (!SvIOKp(sv)) {
2587         if (S_sv_2iuv_common(aTHX_ sv))
2588             return 0;
2589     }
2590
2591     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2uv(%" UVuf ")\n",
2592                           PTR2UV(sv),SvUVX(sv)));
2593     return SvIsUV(sv) ? SvUVX(sv) : (UV)SvIVX(sv);
2594 }
2595
2596 /*
2597 =for apidoc sv_2nv_flags
2598
2599 Return the num value of an SV, doing any necessary string or integer
2600 conversion.  If C<flags> has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.
2601 Normally used via the C<SvNV(sv)> and C<SvNVx(sv)> macros.
2602
2603 =cut
2604 */
2605
2606 NV
2607 Perl_sv_2nv_flags(pTHX_ SV *const sv, const I32 flags)
2608 {
2609     PERL_ARGS_ASSERT_SV_2NV_FLAGS;
2610
2611     assert (SvTYPE(sv) != SVt_PVAV && SvTYPE(sv) != SVt_PVHV
2612          && SvTYPE(sv) != SVt_PVFM);
2613     if (SvGMAGICAL(sv) || SvVALID(sv) || isREGEXP(sv)) {
2614         /* FBMs use the space for SvIVX and SvNVX for other purposes, and use
2615            the same flag bit as SVf_IVisUV, so must not let them cache NVs.
2616            Regexps have no SvIVX and SvNVX fields.  */
2617         const char *ptr;
2618         if (flags & SV_GMAGIC)
2619             mg_get(sv);
2620         if (SvNOKp(sv))
2621             return SvNVX(sv);
2622         if (SvPOKp(sv) && !SvIOKp(sv)) {
2623             ptr = SvPVX_const(sv);
2624           grokpv:
2625             if (!SvIOKp(sv) && ckWARN(WARN_NUMERIC) &&
2626                 !grok_number(ptr, SvCUR(sv), NULL))
2627                 not_a_number(sv);
2628             return Atof(ptr);
2629         }
2630         if (SvIOKp(sv)) {
2631             if (SvIsUV(sv))
2632                 return (NV)SvUVX(sv);
2633             else
2634                 return (NV)SvIVX(sv);
2635         }
2636         if (SvROK(sv)) {
2637             goto return_rok;
2638         }
2639         if (isREGEXP(sv)) {
2640             ptr = RX_WRAPPED((REGEXP *)sv);
2641             goto grokpv;
2642         }
2643         assert(SvTYPE(sv) >= SVt_PVMG);
2644         /* This falls through to the report_uninit near the end of the
2645            function. */
2646     } else if (SvTHINKFIRST(sv)) {
2647         if (SvROK(sv)) {
2648         return_rok:
2649             if (SvAMAGIC(sv)) {
2650                 SV *tmpstr;
2651                 if (flags & SV_SKIP_OVERLOAD)
2652                     return 0;
2653                 tmpstr = AMG_CALLunary(sv, numer_amg);
2654                 if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2655                     return SvNV(tmpstr);
2656                 }
2657             }
2658             return PTR2NV(SvRV(sv));
2659         }
2660         if (SvREADONLY(sv) && !SvOK(sv)) {
2661             if (ckWARN(WARN_UNINITIALIZED))
2662                 report_uninit(sv);
2663             return 0.0;
2664         }
2665     }
2666     if (SvTYPE(sv) < SVt_NV) {
2667         /* The logic to use SVt_PVNV if necessary is in sv_upgrade.  */
2668         sv_upgrade(sv, SVt_NV);
2669         DEBUG_c({
2670             STORE_NUMERIC_LOCAL_SET_STANDARD();
2671             PerlIO_printf(Perl_debug_log,
2672                           "0x%" UVxf " num(%" NVgf ")\n",
2673                           PTR2UV(sv), SvNVX(sv));
2674             RESTORE_NUMERIC_LOCAL();
2675         });
2676     }
2677     else if (SvTYPE(sv) < SVt_PVNV)
2678         sv_upgrade(sv, SVt_PVNV);
2679     if (SvNOKp(sv)) {
2680         return SvNVX(sv);
2681     }
2682     if (SvIOKp(sv)) {
2683         SvNV_set(sv, SvIsUV(sv) ? (NV)SvUVX(sv) : (NV)SvIVX(sv));
2684 #ifdef NV_PRESERVES_UV
2685         if (SvIOK(sv))
2686             SvNOK_on(sv);
2687         else
2688             SvNOKp_on(sv);
2689 #else
2690         /* Only set the public NV OK flag if this NV preserves the IV  */
2691         /* Check it's not 0xFFFFFFFFFFFFFFFF */
2692         if (SvIOK(sv) &&
2693             SvIsUV(sv) ? ((SvUVX(sv) != UV_MAX)&&(SvUVX(sv) == U_V(SvNVX(sv))))
2694                        : (SvIVX(sv) == I_V(SvNVX(sv))))
2695             SvNOK_on(sv);
2696         else
2697             SvNOKp_on(sv);
2698 #endif
2699     }
2700     else if (SvPOKp(sv)) {
2701         UV value;
2702         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), &value);
2703         if (!SvIOKp(sv) && !numtype && ckWARN(WARN_NUMERIC))
2704             not_a_number(sv);
2705 #ifdef NV_PRESERVES_UV
2706         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2707             == IS_NUMBER_IN_UV) {
2708             /* It's definitely an integer */
2709             SvNV_set(sv, (numtype & IS_NUMBER_NEG) ? -(NV)value : (NV)value);
2710         } else {
2711             S_sv_setnv(aTHX_ sv, numtype);
2712         }
2713         if (numtype)
2714             SvNOK_on(sv);
2715         else
2716             SvNOKp_on(sv);
2717 #else
2718         SvNV_set(sv, Atof(SvPVX_const(sv)));
2719         /* Only set the public NV OK flag if this NV preserves the value in
2720            the PV at least as well as an IV/UV would.
2721            Not sure how to do this 100% reliably. */
2722         /* if that shift count is out of range then Configure's test is
2723            wonky. We shouldn't be in here with NV_PRESERVES_UV_BITS ==
2724            UV_BITS */
2725         if (((UV)1 << NV_PRESERVES_UV_BITS) >
2726             U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))) {
2727             SvNOK_on(sv); /* Definitely small enough to preserve all bits */
2728         } else if (!(numtype & IS_NUMBER_IN_UV)) {
2729             /* Can't use strtol etc to convert this string, so don't try.
2730                sv_2iv and sv_2uv will use the NV to convert, not the PV.  */
2731             SvNOK_on(sv);
2732         } else {
2733             /* value has been set.  It may not be precise.  */
2734             if ((numtype & IS_NUMBER_NEG) && (value >= (UV)IV_MIN)) {
2735                 /* 2s complement assumption for (UV)IV_MIN  */
2736                 SvNOK_on(sv); /* Integer is too negative.  */
2737             } else {
2738                 SvNOKp_on(sv);
2739                 SvIOKp_on(sv);
2740
2741                 if (numtype & IS_NUMBER_NEG) {
2742                     /* -IV_MIN is undefined, but we should never reach
2743                      * this point with both IS_NUMBER_NEG and value ==
2744                      * (UV)IV_MIN */
2745                     assert(value != (UV)IV_MIN);
2746                     SvIV_set(sv, -(IV)value);
2747                 } else if (value <= (UV)IV_MAX) {
2748                     SvIV_set(sv, (IV)value);
2749                 } else {
2750                     SvUV_set(sv, value);
2751                     SvIsUV_on(sv);
2752                 }
2753
2754                 if (numtype & IS_NUMBER_NOT_INT) {
2755                     /* I believe that even if the original PV had decimals,
2756                        they are lost beyond the limit of the FP precision.
2757                        However, neither is canonical, so both only get p
2758                        flags.  NWC, 2000/11/25 */
2759                     /* Both already have p flags, so do nothing */
2760                 } else {
2761                     const NV nv = SvNVX(sv);
2762                     /* XXX should this spot have NAN_COMPARE_BROKEN, too? */
2763                     if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2764                         if (SvIVX(sv) == I_V(nv)) {
2765                             SvNOK_on(sv);
2766                         } else {
2767                             /* It had no "." so it must be integer.  */
2768                         }
2769                         SvIOK_on(sv);
2770                     } else {
2771                         /* between IV_MAX and NV(UV_MAX).
2772                            Could be slightly > UV_MAX */
2773
2774                         if (numtype & IS_NUMBER_NOT_INT) {
2775                             /* UV and NV both imprecise.  */
2776                         } else {
2777                             const UV nv_as_uv = U_V(nv);
2778
2779                             if (value == nv_as_uv && SvUVX(sv) != UV_MAX) {
2780                                 SvNOK_on(sv);
2781                             }
2782                             SvIOK_on(sv);
2783                         }
2784                     }
2785                 }
2786             }
2787         }
2788         /* It might be more code efficient to go through the entire logic above
2789            and conditionally set with SvNOKp_on() rather than SvNOK(), but it
2790            gets complex and potentially buggy, so more programmer efficient
2791            to do it this way, by turning off the public flags:  */
2792         if (!numtype)
2793             SvFLAGS(sv) &= ~(SVf_IOK|SVf_NOK);
2794 #endif /* NV_PRESERVES_UV */
2795     }
2796     else  {
2797         if (isGV_with_GP(sv)) {
2798             glob_2number(MUTABLE_GV(sv));
2799             return 0.0;
2800         }
2801
2802         if (!PL_localizing && ckWARN(WARN_UNINITIALIZED))
2803             report_uninit(sv);
2804         assert (SvTYPE(sv) >= SVt_NV);
2805         /* Typically the caller expects that sv_any is not NULL now.  */
2806         /* XXX Ilya implies that this is a bug in callers that assume this
2807            and ideally should be fixed.  */
2808         return 0.0;
2809     }
2810     DEBUG_c({
2811         STORE_NUMERIC_LOCAL_SET_STANDARD();
2812         PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2nv(%" NVgf ")\n",
2813                       PTR2UV(sv), SvNVX(sv));
2814         RESTORE_NUMERIC_LOCAL();
2815     });
2816     return SvNVX(sv);
2817 }
2818
2819 /*
2820 =for apidoc sv_2num
2821
2822 Return an SV with the numeric value of the source SV, doing any necessary
2823 reference or overload conversion.  The caller is expected to have handled
2824 get-magic already.
2825
2826 =cut
2827 */
2828
2829 SV *
2830 Perl_sv_2num(pTHX_ SV *const sv)
2831 {
2832     PERL_ARGS_ASSERT_SV_2NUM;
2833
2834     if (!SvROK(sv))
2835         return sv;
2836     if (SvAMAGIC(sv)) {
2837         SV * const tmpsv = AMG_CALLunary(sv, numer_amg);
2838         TAINT_IF(tmpsv && SvTAINTED(tmpsv));
2839         if (tmpsv && (!SvROK(tmpsv) || (SvRV(tmpsv) != SvRV(sv))))
2840             return sv_2num(tmpsv);
2841     }
2842     return sv_2mortal(newSVuv(PTR2UV(SvRV(sv))));
2843 }
2844
2845 /* uiv_2buf(): private routine for use by sv_2pv_flags(): print an IV or
2846  * UV as a string towards the end of buf, and return pointers to start and
2847  * end of it.
2848  *
2849  * We assume that buf is at least TYPE_CHARS(UV) long.
2850  */
2851
2852 static char *
2853 S_uiv_2buf(char *const buf, const IV iv, UV uv, const int is_uv, char **const peob)
2854 {
2855     char *ptr = buf + TYPE_CHARS(UV);
2856     char * const ebuf = ptr;
2857     int sign;
2858
2859     PERL_ARGS_ASSERT_UIV_2BUF;
2860
2861     if (is_uv)
2862         sign = 0;
2863     else if (iv >= 0) {
2864         uv = iv;
2865         sign = 0;
2866     } else {
2867         uv = (iv == IV_MIN) ? (UV)iv : (UV)(-iv);
2868         sign = 1;
2869     }
2870     do {
2871         *--ptr = '0' + (char)(uv % 10);
2872     } while (uv /= 10);
2873     if (sign)
2874         *--ptr = '-';
2875     *peob = ebuf;
2876     return ptr;
2877 }
2878
2879 /* Helper for sv_2pv_flags and sv_vcatpvfn_flags.  If the NV is an
2880  * infinity or a not-a-number, writes the appropriate strings to the
2881  * buffer, including a zero byte.  On success returns the written length,
2882  * excluding the zero byte, on failure (not an infinity, not a nan)
2883  * returns zero, assert-fails on maxlen being too short.
2884  *
2885  * XXX for "Inf", "-Inf", and "NaN", we could have three read-only
2886  * shared string constants we point to, instead of generating a new
2887  * string for each instance. */
2888 STATIC size_t
2889 S_infnan_2pv(NV nv, char* buffer, size_t maxlen, char plus) {
2890     char* s = buffer;
2891     assert(maxlen >= 4);
2892     if (Perl_isinf(nv)) {
2893         if (nv < 0) {
2894             if (maxlen < 5) /* "-Inf\0"  */
2895                 return 0;
2896             *s++ = '-';
2897         } else if (plus) {
2898             *s++ = '+';
2899         }
2900         *s++ = 'I';
2901         *s++ = 'n';
2902         *s++ = 'f';
2903     }
2904     else if (Perl_isnan(nv)) {
2905         *s++ = 'N';
2906         *s++ = 'a';
2907         *s++ = 'N';
2908         /* XXX optionally output the payload mantissa bits as
2909          * "(unsigned)" (to match the nan("...") C99 function,
2910          * or maybe as "(0xhhh...)"  would make more sense...
2911          * provide a format string so that the user can decide?
2912          * NOTE: would affect the maxlen and assert() logic.*/
2913     }
2914     else {
2915       return 0;
2916     }
2917     assert((s == buffer + 3) || (s == buffer + 4));
2918     *s = 0;
2919     return s - buffer;
2920 }
2921
2922 /*
2923 =for apidoc sv_2pv_flags
2924
2925 Returns a pointer to the string value of an SV, and sets C<*lp> to its length.
2926 If flags has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.  Coerces C<sv> to a
2927 string if necessary.  Normally invoked via the C<SvPV_flags> macro.
2928 C<sv_2pv()> and C<sv_2pv_nomg> usually end up here too.
2929
2930 =cut
2931 */
2932
2933 char *
2934 Perl_sv_2pv_flags(pTHX_ SV *const sv, STRLEN *const lp, const I32 flags)
2935 {
2936     char *s;
2937
2938     PERL_ARGS_ASSERT_SV_2PV_FLAGS;
2939
2940     assert (SvTYPE(sv) != SVt_PVAV && SvTYPE(sv) != SVt_PVHV
2941          && SvTYPE(sv) != SVt_PVFM);
2942     if (SvGMAGICAL(sv) && (flags & SV_GMAGIC))
2943         mg_get(sv);
2944     if (SvROK(sv)) {
2945         if (SvAMAGIC(sv)) {
2946             SV *tmpstr;
2947             if (flags & SV_SKIP_OVERLOAD)
2948                 return NULL;
2949             tmpstr = AMG_CALLunary(sv, string_amg);
2950             TAINT_IF(tmpstr && SvTAINTED(tmpstr));
2951             if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2952                 /* Unwrap this:  */
2953                 /* char *pv = lp ? SvPV(tmpstr, *lp) : SvPV_nolen(tmpstr);
2954                  */
2955
2956                 char *pv;
2957                 if ((SvFLAGS(tmpstr) & (SVf_POK)) == SVf_POK) {
2958                     if (flags & SV_CONST_RETURN) {
2959                         pv = (char *) SvPVX_const(tmpstr);
2960                     } else {
2961                         pv = (flags & SV_MUTABLE_RETURN)
2962                             ? SvPVX_mutable(tmpstr) : SvPVX(tmpstr);
2963                     }
2964                     if (lp)
2965                         *lp = SvCUR(tmpstr);
2966                 } else {
2967                     pv = sv_2pv_flags(tmpstr, lp, flags);
2968                 }
2969                 if (SvUTF8(tmpstr))
2970                     SvUTF8_on(sv);
2971                 else
2972                     SvUTF8_off(sv);
2973                 return pv;
2974             }
2975         }
2976         {
2977             STRLEN len;
2978             char *retval;
2979             char *buffer;
2980             SV *const referent = SvRV(sv);
2981
2982             if (!referent) {
2983                 len = 7;
2984                 retval = buffer = savepvn("NULLREF", len);
2985             } else if (SvTYPE(referent) == SVt_REGEXP &&
2986                        (!(PL_curcop->cop_hints & HINT_NO_AMAGIC) ||
2987                         amagic_is_enabled(string_amg))) {
2988                 REGEXP * const re = (REGEXP *)MUTABLE_PTR(referent);
2989
2990                 assert(re);
2991                         
2992                 /* If the regex is UTF-8 we want the containing scalar to
2993                    have an UTF-8 flag too */
2994                 if (RX_UTF8(re))
2995                     SvUTF8_on(sv);
2996                 else
2997                     SvUTF8_off(sv);     
2998
2999                 if (lp)
3000                     *lp = RX_WRAPLEN(re);
3001  
3002                 return RX_WRAPPED(re);
3003             } else {
3004                 const char *const typestr = sv_reftype(referent, 0);
3005                 const STRLEN typelen = strlen(typestr);
3006                 UV addr = PTR2UV(referent);
3007                 const char *stashname = NULL;
3008                 STRLEN stashnamelen = 0; /* hush, gcc */
3009                 const char *buffer_end;
3010
3011                 if (SvOBJECT(referent)) {
3012                     const HEK *const name = HvNAME_HEK(SvSTASH(referent));
3013
3014                     if (name) {
3015                         stashname = HEK_KEY(name);
3016                         stashnamelen = HEK_LEN(name);
3017
3018                         if (HEK_UTF8(name)) {
3019                             SvUTF8_on(sv);
3020                         } else {
3021                             SvUTF8_off(sv);
3022                         }
3023                     } else {
3024                         stashname = "__ANON__";
3025                         stashnamelen = 8;
3026                     }
3027                     len = stashnamelen + 1 /* = */ + typelen + 3 /* (0x */
3028                         + 2 * sizeof(UV) + 2 /* )\0 */;
3029                 } else {
3030                     len = typelen + 3 /* (0x */
3031                         + 2 * sizeof(UV) + 2 /* )\0 */;
3032                 }
3033
3034                 Newx(buffer, len, char);
3035                 buffer_end = retval = buffer + len;
3036
3037                 /* Working backwards  */
3038                 *--retval = '\0';
3039                 *--retval = ')';
3040                 do {
3041                     *--retval = PL_hexdigit[addr & 15];
3042                 } while (addr >>= 4);
3043                 *--retval = 'x';
3044                 *--retval = '0';
3045                 *--retval = '(';
3046
3047                 retval -= typelen;
3048                 memcpy(retval, typestr, typelen);
3049
3050                 if (stashname) {
3051                     *--retval = '=';
3052                     retval -= stashnamelen;
3053                     memcpy(retval, stashname, stashnamelen);
3054                 }
3055                 /* retval may not necessarily have reached the start of the
3056                    buffer here.  */
3057                 assert (retval >= buffer);
3058
3059                 len = buffer_end - retval - 1; /* -1 for that \0  */
3060             }
3061             if (lp)
3062                 *lp = len;
3063             SAVEFREEPV(buffer);
3064             return retval;
3065         }
3066     }
3067
3068     if (SvPOKp(sv)) {
3069         if (lp)
3070             *lp = SvCUR(sv);
3071         if (flags & SV_MUTABLE_RETURN)
3072             return SvPVX_mutable(sv);
3073         if (flags & SV_CONST_RETURN)
3074             return (char *)SvPVX_const(sv);
3075         return SvPVX(sv);
3076     }
3077
3078     if (SvIOK(sv)) {
3079         /* I'm assuming that if both IV and NV are equally valid then
3080            converting the IV is going to be more efficient */
3081         const U32 isUIOK = SvIsUV(sv);
3082         char buf[TYPE_CHARS(UV)];
3083         char *ebuf, *ptr;
3084         STRLEN len;
3085
3086         if (SvTYPE(sv) < SVt_PVIV)
3087             sv_upgrade(sv, SVt_PVIV);
3088         ptr = uiv_2buf(buf, SvIVX(sv), SvUVX(sv), isUIOK, &ebuf);
3089         len = ebuf - ptr;
3090         /* inlined from sv_setpvn */
3091         s = SvGROW_mutable(sv, len + 1);
3092         Move(ptr, s, len, char);
3093         s += len;
3094         *s = '\0';
3095         SvPOK_on(sv);
3096     }
3097     else if (SvNOK(sv)) {
3098         if (SvTYPE(sv) < SVt_PVNV)
3099             sv_upgrade(sv, SVt_PVNV);
3100         if (SvNVX(sv) == 0.0
3101 #if defined(NAN_COMPARE_BROKEN) && defined(Perl_isnan)
3102             && !Perl_isnan(SvNVX(sv))
3103 #endif
3104         ) {
3105             s = SvGROW_mutable(sv, 2);
3106             *s++ = '0';
3107             *s = '\0';
3108         } else {
3109             STRLEN len;
3110             STRLEN size = 5; /* "-Inf\0" */
3111
3112             s = SvGROW_mutable(sv, size);
3113             len = S_infnan_2pv(SvNVX(sv), s, size, 0);
3114             if (len > 0) {
3115                 s += len;
3116                 SvPOK_on(sv);
3117             }
3118             else {
3119                 /* some Xenix systems wipe out errno here */
3120                 dSAVE_ERRNO;
3121
3122                 size =
3123                     1 + /* sign */
3124                     1 + /* "." */
3125                     NV_DIG +
3126                     1 + /* "e" */
3127                     1 + /* sign */
3128                     5 + /* exponent digits */
3129                     1 + /* \0 */
3130                     2; /* paranoia */
3131
3132                 s = SvGROW_mutable(sv, size);
3133 #ifndef USE_LOCALE_NUMERIC
3134                 SNPRINTF_G(SvNVX(sv), s, SvLEN(sv), NV_DIG);
3135
3136                 SvPOK_on(sv);
3137 #else
3138                 {
3139                     bool local_radix;
3140                     DECLARATION_FOR_LC_NUMERIC_MANIPULATION;
3141                     STORE_LC_NUMERIC_SET_TO_NEEDED();
3142
3143                     local_radix = PL_numeric_local && PL_numeric_radix_sv;
3144                     if (local_radix && SvLEN(PL_numeric_radix_sv) > 1) {
3145                         size += SvLEN(PL_numeric_radix_sv) - 1;
3146                         s = SvGROW_mutable(sv, size);
3147                     }
3148
3149                     SNPRINTF_G(SvNVX(sv), s, SvLEN(sv), NV_DIG);
3150
3151                     /* If the radix character is UTF-8, and actually is in the
3152                      * output, turn on the UTF-8 flag for the scalar */
3153                     if (   local_radix
3154                         && SvUTF8(PL_numeric_radix_sv)
3155                         && instr(s, SvPVX_const(PL_numeric_radix_sv)))
3156                     {
3157                         SvUTF8_on(sv);
3158                     }
3159
3160                     RESTORE_LC_NUMERIC();
3161                 }
3162
3163                 /* We don't call SvPOK_on(), because it may come to
3164                  * pass that the locale changes so that the
3165                  * stringification we just did is no longer correct.  We
3166                  * will have to re-stringify every time it is needed */
3167 #endif
3168                 RESTORE_ERRNO;
3169             }
3170             while (*s) s++;
3171         }
3172     }
3173     else if (isGV_with_GP(sv)) {
3174         GV *const gv = MUTABLE_GV(sv);
3175         SV *const buffer = sv_newmortal();
3176
3177         gv_efullname3(buffer, gv, "*");
3178
3179         assert(SvPOK(buffer));
3180         if (SvUTF8(buffer))
3181             SvUTF8_on(sv);
3182         if (lp)
3183             *lp = SvCUR(buffer);
3184         return SvPVX(buffer);
3185     }
3186     else if (isREGEXP(sv)) {
3187         if (lp) *lp = RX_WRAPLEN((REGEXP *)sv);
3188         return RX_WRAPPED((REGEXP *)sv);
3189     }
3190     else {
3191         if (lp)
3192             *lp = 0;
3193         if (flags & SV_UNDEF_RETURNS_NULL)
3194             return NULL;
3195         if (!PL_localizing && ckWARN(WARN_UNINITIALIZED))
3196             report_uninit(sv);
3197         /* Typically the caller expects that sv_any is not NULL now.  */
3198         if (!SvREADONLY(sv) && SvTYPE(sv) < SVt_PV)
3199             sv_upgrade(sv, SVt_PV);
3200         return (char *)"";
3201     }
3202
3203     {
3204         const STRLEN len = s - SvPVX_const(sv);
3205         if (lp) 
3206             *lp = len;
3207         SvCUR_set(sv, len);
3208     }
3209     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2pv(%s)\n",
3210                           PTR2UV(sv),SvPVX_const(sv)));
3211     if (flags & SV_CONST_RETURN)
3212         return (char *)SvPVX_const(sv);
3213     if (flags & SV_MUTABLE_RETURN)
3214         return SvPVX_mutable(sv);
3215     return SvPVX(sv);
3216 }
3217
3218 /*
3219 =for apidoc sv_copypv
3220
3221 Copies a stringified representation of the source SV into the
3222 destination SV.  Automatically performs any necessary C<mg_get> and
3223 coercion of numeric values into strings.  Guaranteed to preserve
3224 C<UTF8> flag even from overloaded objects.  Similar in nature to
3225 C<sv_2pv[_flags]> but operates directly on an SV instead of just the
3226 string.  Mostly uses C<sv_2pv_flags> to do its work, except when that
3227 would lose the UTF-8'ness of the PV.
3228
3229 =for apidoc sv_copypv_nomg
3230
3231 Like C<sv_copypv>, but doesn't invoke get magic first.
3232
3233 =for apidoc sv_copypv_flags
3234
3235 Implementation of C<sv_copypv> and C<sv_copypv_nomg>.  Calls get magic iff flags
3236 has the C<SV_GMAGIC> bit set.
3237
3238 =cut
3239 */
3240
3241 void
3242 Perl_sv_copypv_flags(pTHX_ SV *const dsv, SV *const ssv, const I32 flags)
3243 {
3244     STRLEN len;
3245     const char *s;
3246
3247     PERL_ARGS_ASSERT_SV_COPYPV_FLAGS;
3248
3249     s = SvPV_flags_const(ssv,len,(flags & SV_GMAGIC));
3250     sv_setpvn(dsv,s,len);
3251     if (SvUTF8(ssv))
3252         SvUTF8_on(dsv);
3253     else
3254         SvUTF8_off(dsv);
3255 }
3256
3257 /*
3258 =for apidoc sv_2pvbyte
3259
3260 Return a pointer to the byte-encoded representation of the SV, and set C<*lp>
3261 to its length.  May cause the SV to be downgraded from UTF-8 as a
3262 side-effect.
3263
3264 Usually accessed via the C<SvPVbyte> macro.
3265
3266 =cut
3267 */
3268
3269 char *
3270 Perl_sv_2pvbyte(pTHX_ SV *sv, STRLEN *const lp)
3271 {
3272     PERL_ARGS_ASSERT_SV_2PVBYTE;
3273
3274     SvGETMAGIC(sv);
3275     if (((SvREADONLY(sv) || SvFAKE(sv)) && !SvIsCOW(sv))
3276      || isGV_with_GP(sv) || SvROK(sv)) {
3277         SV *sv2 = sv_newmortal();
3278         sv_copypv_nomg(sv2,sv);
3279         sv = sv2;
3280     }
3281     sv_utf8_downgrade(sv,0);
3282     return lp ? SvPV_nomg(sv,*lp) : SvPV_nomg_nolen(sv);
3283 }
3284
3285 /*
3286 =for apidoc sv_2pvutf8
3287
3288 Return a pointer to the UTF-8-encoded representation of the SV, and set C<*lp>
3289 to its length.  May cause the SV to be upgraded to UTF-8 as a side-effect.
3290
3291 Usually accessed via the C<SvPVutf8> macro.
3292
3293 =cut
3294 */
3295
3296 char *
3297 Perl_sv_2pvutf8(pTHX_ SV *sv, STRLEN *const lp)
3298 {
3299     PERL_ARGS_ASSERT_SV_2PVUTF8;
3300
3301     if (((SvREADONLY(sv) || SvFAKE(sv)) && !SvIsCOW(sv))
3302      || isGV_with_GP(sv) || SvROK(sv))
3303         sv = sv_mortalcopy(sv);
3304     else
3305         SvGETMAGIC(sv);
3306     sv_utf8_upgrade_nomg(sv);
3307     return lp ? SvPV_nomg(sv,*lp) : SvPV_nomg_nolen(sv);
3308 }
3309
3310
3311 /*
3312 =for apidoc sv_2bool
3313
3314 This macro is only used by C<sv_true()> or its macro equivalent, and only if
3315 the latter's argument is neither C<SvPOK>, C<SvIOK> nor C<SvNOK>.
3316 It calls C<sv_2bool_flags> with the C<SV_GMAGIC> flag.
3317
3318 =for apidoc sv_2bool_flags
3319
3320 This function is only used by C<sv_true()> and friends,  and only if
3321 the latter's argument is neither C<SvPOK>, C<SvIOK> nor C<SvNOK>.  If the flags
3322 contain C<SV_GMAGIC>, then it does an C<mg_get()> first.
3323
3324
3325 =cut
3326 */
3327
3328 bool
3329 Perl_sv_2bool_flags(pTHX_ SV *sv, I32 flags)
3330 {
3331     PERL_ARGS_ASSERT_SV_2BOOL_FLAGS;
3332
3333     restart:
3334     if(flags & SV_GMAGIC) SvGETMAGIC(sv);
3335
3336     if (!SvOK(sv))
3337         return 0;
3338     if (SvROK(sv)) {
3339         if (SvAMAGIC(sv)) {
3340             SV * const tmpsv = AMG_CALLunary(sv, bool__amg);
3341             if (tmpsv && (!SvROK(tmpsv) || (SvRV(tmpsv) != SvRV(sv)))) {
3342                 bool svb;
3343                 sv = tmpsv;
3344                 if(SvGMAGICAL(sv)) {
3345                     flags = SV_GMAGIC;
3346                     goto restart; /* call sv_2bool */
3347                 }
3348                 /* expanded SvTRUE_common(sv, (flags = 0, goto restart)) */
3349                 else if(!SvOK(sv)) {
3350                     svb = 0;
3351                 }
3352                 else if(SvPOK(sv)) {
3353                     svb = SvPVXtrue(sv);
3354                 }
3355                 else if((SvFLAGS(sv) & (SVf_IOK|SVf_NOK))) {
3356                     svb = (SvIOK(sv) && SvIVX(sv) != 0)
3357                         || (SvNOK(sv) && SvNVX(sv) != 0.0);
3358                 }
3359                 else {
3360                     flags = 0;
3361                     goto restart; /* call sv_2bool_nomg */
3362                 }
3363                 return cBOOL(svb);
3364             }
3365         }
3366         return SvRV(sv) != 0;
3367     }
3368     if (isREGEXP(sv))
3369         return
3370           RX_WRAPLEN(sv) > 1 || (RX_WRAPLEN(sv) && *RX_WRAPPED(sv) != '0');
3371     return SvTRUE_common(sv, isGV_with_GP(sv) ? 1 : 0);
3372 }
3373
3374 /*
3375 =for apidoc sv_utf8_upgrade
3376
3377 Converts the PV of an SV to its UTF-8-encoded form.
3378 Forces the SV to string form if it is not already.
3379 Will C<mg_get> on C<sv> if appropriate.
3380 Always sets the C<SvUTF8> flag to avoid future validity checks even
3381 if the whole string is the same in UTF-8 as not.
3382 Returns the number of bytes in the converted string
3383
3384 This is not a general purpose byte encoding to Unicode interface:
3385 use the Encode extension for that.
3386
3387 =for apidoc sv_utf8_upgrade_nomg
3388
3389 Like C<sv_utf8_upgrade>, but doesn't do magic on C<sv>.
3390
3391 =for apidoc sv_utf8_upgrade_flags
3392
3393 Converts the PV of an SV to its UTF-8-encoded form.
3394 Forces the SV to string form if it is not already.
3395 Always sets the SvUTF8 flag to avoid future validity checks even
3396 if all the bytes are invariant in UTF-8.
3397 If C<flags> has C<SV_GMAGIC> bit set,
3398 will C<mg_get> on C<sv> if appropriate, else not.
3399
3400 If C<flags> has C<SV_FORCE_UTF8_UPGRADE> set, this function assumes that the PV
3401 will expand when converted to UTF-8, and skips the extra work of checking for
3402 that.  Typically this flag is used by a routine that has already parsed the
3403 string and found such characters, and passes this information on so that the
3404 work doesn't have to be repeated.
3405
3406 Returns the number of bytes in the converted string.
3407
3408 This is not a general purpose byte encoding to Unicode interface:
3409 use the Encode extension for that.
3410
3411 =for apidoc sv_utf8_upgrade_flags_grow
3412
3413 Like C<sv_utf8_upgrade_flags>, but has an additional parameter C<extra>, which is
3414 the number of unused bytes the string of C<sv> is guaranteed to have free after
3415 it upon return.  This allows the caller to reserve extra space that it intends
3416 to fill, to avoid extra grows.
3417
3418 C<sv_utf8_upgrade>, C<sv_utf8_upgrade_nomg>, and C<sv_utf8_upgrade_flags>
3419 are implemented in terms of this function.
3420
3421 Returns the number of bytes in the converted string (not including the spares).
3422
3423 =cut
3424
3425 (One might think that the calling routine could pass in the position of the
3426 first variant character when it has set SV_FORCE_UTF8_UPGRADE, so it wouldn't
3427 have to be found again.  But that is not the case, because typically when the
3428 caller is likely to use this flag, it won't be calling this routine unless it
3429 finds something that won't fit into a byte.  Otherwise it tries to not upgrade
3430 and just use bytes.  But some things that do fit into a byte are variants in
3431 utf8, and the caller may not have been keeping track of these.)
3432
3433 If the routine itself changes the string, it adds a trailing C<NUL>.  Such a
3434 C<NUL> isn't guaranteed due to having other routines do the work in some input
3435 cases, or if the input is already flagged as being in utf8.
3436
3437 The speed of this could perhaps be improved for many cases if someone wanted to
3438 write a fast function that counts the number of variant characters in a string,
3439 especially if it could return the position of the first one.
3440
3441 */
3442
3443 STRLEN
3444 Perl_sv_utf8_upgrade_flags_grow(pTHX_ SV *const sv, const I32 flags, STRLEN extra)
3445 {
3446     PERL_ARGS_ASSERT_SV_UTF8_UPGRADE_FLAGS_GROW;
3447
3448     if (sv == &PL_sv_undef)
3449         return 0;
3450     if (!SvPOK_nog(sv)) {
3451         STRLEN len = 0;
3452         if (SvREADONLY(sv) && (SvPOKp(sv) || SvIOKp(sv) || SvNOKp(sv))) {
3453             (void) sv_2pv_flags(sv,&len, flags);
3454             if (SvUTF8(sv)) {
3455                 if (extra) SvGROW(sv, SvCUR(sv) + extra);
3456                 return len;
3457             }
3458         } else {
3459             (void) SvPV_force_flags(sv,len,flags & SV_GMAGIC);
3460         }
3461     }
3462
3463     if (SvUTF8(sv)) {
3464         if (extra) SvGROW(sv, SvCUR(sv) + extra);
3465         return SvCUR(sv);
3466     }
3467
3468     if (SvIsCOW(sv)) {
3469         S_sv_uncow(aTHX_ sv, 0);
3470     }
3471
3472     if (SvCUR(sv) == 0) {
3473         if (extra) SvGROW(sv, extra);
3474     } else { /* Assume Latin-1/EBCDIC */
3475         /* This function could be much more efficient if we
3476          * had a FLAG in SVs to signal if there are any variant
3477          * chars in the PV.  Given that there isn't such a flag
3478          * make the loop as fast as possible (although there are certainly ways
3479          * to speed this up, eg. through vectorization) */
3480         U8 * s = (U8 *) SvPVX_const(sv);
3481         U8 * e = (U8 *) SvEND(sv);
3482         U8 *t = s;
3483         STRLEN two_byte_count = 0;
3484         
3485         if (flags & SV_FORCE_UTF8_UPGRADE) goto must_be_utf8;
3486
3487         /* See if really will need to convert to utf8.  We mustn't rely on our
3488          * incoming SV being well formed and having a trailing '\0', as certain
3489          * code in pp_formline can send us partially built SVs. */
3490
3491         while (t < e) {
3492             const U8 ch = *t++;
3493             if (NATIVE_BYTE_IS_INVARIANT(ch)) continue;
3494
3495             t--;    /* t already incremented; re-point to first variant */
3496             two_byte_count = 1;
3497             goto must_be_utf8;
3498         }
3499
3500         /* utf8 conversion not needed because all are invariants.  Mark as
3501          * UTF-8 even if no variant - saves scanning loop */
3502         SvUTF8_on(sv);
3503         if (extra) SvGROW(sv, SvCUR(sv) + extra);
3504         return SvCUR(sv);
3505
3506       must_be_utf8:
3507
3508         /* Here, the string should be converted to utf8, either because of an
3509          * input flag (two_byte_count = 0), or because a character that
3510          * requires 2 bytes was found (two_byte_count = 1).  t points either to
3511          * the beginning of the string (if we didn't examine anything), or to
3512          * the first variant.  In either case, everything from s to t - 1 will
3513          * occupy only 1 byte each on output.
3514          *
3515          * There are two main ways to convert.  One is to create a new string
3516          * and go through the input starting from the beginning, appending each
3517          * converted value onto the new string as we go along.  It's probably
3518          * best to allocate enough space in the string for the worst possible
3519          * case rather than possibly running out of space and having to
3520          * reallocate and then copy what we've done so far.  Since everything
3521          * from s to t - 1 is invariant, the destination can be initialized
3522          * with these using a fast memory copy
3523          *
3524          * The other way is to figure out exactly how big the string should be
3525          * by parsing the entire input.  Then you don't have to make it big
3526          * enough to handle the worst possible case, and more importantly, if
3527          * the string you already have is large enough, you don't have to
3528          * allocate a new string, you can copy the last character in the input
3529          * string to the final position(s) that will be occupied by the
3530          * converted string and go backwards, stopping at t, since everything
3531          * before that is invariant.
3532          *
3533          * There are advantages and disadvantages to each method.
3534          *
3535          * In the first method, we can allocate a new string, do the memory
3536          * copy from the s to t - 1, and then proceed through the rest of the
3537          * string byte-by-byte.
3538          *
3539          * In the second method, we proceed through the rest of the input
3540          * string just calculating how big the converted string will be.  Then
3541          * there are two cases:
3542          *  1)  if the string has enough extra space to handle the converted
3543          *      value.  We go backwards through the string, converting until we
3544          *      get to the position we are at now, and then stop.  If this
3545          *      position is far enough along in the string, this method is
3546          *      faster than the other method.  If the memory copy were the same
3547          *      speed as the byte-by-byte loop, that position would be about
3548          *      half-way, as at the half-way mark, parsing to the end and back
3549          *      is one complete string's parse, the same amount as starting
3550          *      over and going all the way through.  Actually, it would be
3551          *      somewhat less than half-way, as it's faster to just count bytes
3552          *      than to also copy, and we don't have the overhead of allocating
3553          *      a new string, changing the scalar to use it, and freeing the
3554          *      existing one.  But if the memory copy is fast, the break-even
3555          *      point is somewhere after half way.  The counting loop could be
3556          *      sped up by vectorization, etc, to move the break-even point
3557          *      further towards the beginning.
3558          *  2)  if the string doesn't have enough space to handle the converted
3559          *      value.  A new string will have to be allocated, and one might
3560          *      as well, given that, start from the beginning doing the first
3561          *      method.  We've spent extra time parsing the string and in
3562          *      exchange all we've gotten is that we know precisely how big to
3563          *      make the new one.  Perl is more optimized for time than space,
3564          *      so this case is a loser.
3565          * So what I've decided to do is not use the 2nd method unless it is
3566          * guaranteed that a new string won't have to be allocated, assuming
3567          * the worst case.  I also decided not to put any more conditions on it
3568          * than this, for now.  It seems likely that, since the worst case is
3569          * twice as big as the unknown portion of the string (plus 1), we won't
3570          * be guaranteed enough space, causing us to go to the first method,
3571          * unless the string is short, or the first variant character is near
3572          * the end of it.  In either of these cases, it seems best to use the
3573          * 2nd method.  The only circumstance I can think of where this would
3574          * be really slower is if the string had once had much more data in it
3575          * than it does now, but there is still a substantial amount in it  */
3576
3577         {
3578             STRLEN invariant_head = t - s;
3579             STRLEN size = invariant_head + (e - t) * 2 + 1 + extra;
3580             if (SvLEN(sv) < size) {
3581
3582                 /* Here, have decided to allocate a new string */
3583
3584                 U8 *dst;
3585                 U8 *d;
3586
3587                 Newx(dst, size, U8);
3588
3589                 /* If no known invariants at the beginning of the input string,
3590                  * set so starts from there.  Otherwise, can use memory copy to
3591                  * get up to where we are now, and then start from here */
3592
3593                 if (invariant_head == 0) {
3594                     d = dst;
3595                 } else {
3596                     Copy(s, dst, invariant_head, char);
3597                     d = dst + invariant_head;
3598                 }
3599
3600                 while (t < e) {
3601                     append_utf8_from_native_byte(*t, &d);
3602                     t++;
3603                 }
3604                 *d = '\0';
3605                 SvPV_free(sv); /* No longer using pre-existing string */
3606                 SvPV_set(sv, (char*)dst);
3607                 SvCUR_set(sv, d - dst);
3608                 SvLEN_set(sv, size);
3609             } else {
3610
3611                 /* Here, have decided to get the exact size of the string.
3612                  * Currently this happens only when we know that there is
3613                  * guaranteed enough space to fit the converted string, so
3614                  * don't have to worry about growing.  If two_byte_count is 0,
3615                  * then t points to the first byte of the string which hasn't
3616                  * been examined yet.  Otherwise two_byte_count is 1, and t
3617                  * points to the first byte in the string that will expand to
3618                  * two.  Depending on this, start examining at t or 1 after t.
3619                  * */
3620
3621                 U8 *d = t + two_byte_count;
3622
3623
3624                 /* Count up the remaining bytes that expand to two */
3625
3626                 while (d < e) {
3627                     const U8 chr = *d++;
3628                     if (! NATIVE_BYTE_IS_INVARIANT(chr)) two_byte_count++;
3629                 }
3630
3631                 /* The string will expand by just the number of bytes that
3632                  * occupy two positions.  But we are one afterwards because of
3633                  * the increment just above.  This is the place to put the
3634                  * trailing NUL, and to set the length before we decrement */
3635
3636                 d += two_byte_count;
3637                 SvCUR_set(sv, d - s);
3638                 *d-- = '\0';
3639
3640
3641                 /* Having decremented d, it points to the position to put the
3642                  * very last byte of the expanded string.  Go backwards through
3643                  * the string, copying and expanding as we go, stopping when we
3644                  * get to the part that is invariant the rest of the way down */
3645
3646                 e--;
3647                 while (e >= t) {
3648                     if (NATIVE_BYTE_IS_INVARIANT(*e)) {
3649                         *d-- = *e;
3650                     } else {
3651                         *d-- = UTF8_EIGHT_BIT_LO(*e);
3652                         *d-- = UTF8_EIGHT_BIT_HI(*e);
3653                     }
3654                     e--;
3655                 }
3656             }
3657
3658             if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
3659                 /* Update pos. We do it at the end rather than during
3660                  * the upgrade, to avoid slowing down the common case
3661                  * (upgrade without pos).
3662                  * pos can be stored as either bytes or characters.  Since
3663                  * this was previously a byte string we can just turn off
3664                  * the bytes flag. */
3665                 MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
3666                 if (mg) {
3667                     mg->mg_flags &= ~MGf_BYTES;
3668                 }
3669                 if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
3670                     magic_setutf8(sv,mg); /* clear UTF8 cache */
3671             }
3672         }
3673     }
3674
3675     /* Mark as UTF-8 even if no variant - saves scanning loop */
3676     SvUTF8_on(sv);
3677     return SvCUR(sv);
3678 }
3679
3680 /*
3681 =for apidoc sv_utf8_downgrade
3682
3683 Attempts to convert the PV of an SV from characters to bytes.
3684 If the PV contains a character that cannot fit
3685 in a byte, this conversion will fail;
3686 in this case, either returns false or, if C<fail_ok> is not
3687 true, croaks.
3688
3689 This is not a general purpose Unicode to byte encoding interface:
3690 use the C<Encode> extension for that.
3691
3692 =cut
3693 */
3694
3695 bool
3696 Perl_sv_utf8_downgrade(pTHX_ SV *const sv, const bool fail_ok)
3697 {
3698     PERL_ARGS_ASSERT_SV_UTF8_DOWNGRADE;
3699
3700     if (SvPOKp(sv) && SvUTF8(sv)) {
3701         if (SvCUR(sv)) {
3702             U8 *s;
3703             STRLEN len;
3704             int mg_flags = SV_GMAGIC;
3705
3706             if (SvIsCOW(sv)) {
3707                 S_sv_uncow(aTHX_ sv, 0);
3708             }
3709             if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
3710                 /* update pos */
3711                 MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
3712                 if (mg && mg->mg_len > 0 && mg->mg_flags & MGf_BYTES) {
3713                         mg->mg_len = sv_pos_b2u_flags(sv, mg->mg_len,
3714                                                 SV_GMAGIC|SV_CONST_RETURN);
3715                         mg_flags = 0; /* sv_pos_b2u does get magic */
3716                 }
3717                 if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
3718                     magic_setutf8(sv,mg); /* clear UTF8 cache */
3719
3720             }
3721             s = (U8 *) SvPV_flags(sv, len, mg_flags);
3722
3723             if (!utf8_to_bytes(s, &len)) {
3724                 if (fail_ok)
3725                     return FALSE;
3726                 else {
3727                     if (PL_op)
3728                         Perl_croak(aTHX_ "Wide character in %s",
3729                                    OP_DESC(PL_op));
3730                     else
3731                         Perl_croak(aTHX_ "Wide character");
3732                 }
3733             }
3734             SvCUR_set(sv, len);
3735         }
3736     }
3737     SvUTF8_off(sv);
3738     return TRUE;
3739 }
3740
3741 /*
3742 =for apidoc sv_utf8_encode
3743
3744 Converts the PV of an SV to UTF-8, but then turns the C<SvUTF8>
3745 flag off so that it looks like octets again.
3746
3747 =cut
3748 */
3749
3750 void
3751 Perl_sv_utf8_encode(pTHX_ SV *const sv)
3752 {
3753     PERL_ARGS_ASSERT_SV_UTF8_ENCODE;
3754
3755     if (SvREADONLY(sv)) {
3756         sv_force_normal_flags(sv, 0);
3757     }
3758     (void) sv_utf8_upgrade(sv);
3759     SvUTF8_off(sv);
3760 }
3761
3762 /*
3763 =for apidoc sv_utf8_decode
3764
3765 If the PV of the SV is an octet sequence in Perl's extended UTF-8
3766 and contains a multiple-byte character, the C<SvUTF8> flag is turned on
3767 so that it looks like a character.  If the PV contains only single-byte
3768 characters, the C<SvUTF8> flag stays off.
3769 Scans PV for validity and returns FALSE if the PV is invalid UTF-8.
3770
3771 =cut
3772 */
3773
3774 bool
3775 Perl_sv_utf8_decode(pTHX_ SV *const sv)
3776 {
3777     PERL_ARGS_ASSERT_SV_UTF8_DECODE;
3778
3779     if (SvPOKp(sv)) {
3780         const U8 *start, *c;
3781
3782         /* The octets may have got themselves encoded - get them back as
3783          * bytes
3784          */
3785         if (!sv_utf8_downgrade(sv, TRUE))
3786             return FALSE;
3787
3788         /* it is actually just a matter of turning the utf8 flag on, but
3789          * we want to make sure everything inside is valid utf8 first.
3790          */
3791         c = start = (const U8 *) SvPVX_const(sv);
3792         if (!is_utf8_string(c, SvCUR(sv)))
3793             return FALSE;
3794         if (! is_utf8_invariant_string(c, SvCUR(sv))) {
3795             SvUTF8_on(sv);
3796         }
3797         if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
3798             /* XXX Is this dead code?  XS_utf8_decode calls SvSETMAGIC
3799                    after this, clearing pos.  Does anything on CPAN
3800                    need this? */
3801             /* adjust pos to the start of a UTF8 char sequence */
3802             MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
3803             if (mg) {
3804                 I32 pos = mg->mg_len;
3805                 if (pos > 0) {
3806                     for (c = start + pos; c > start; c--) {
3807                         if (UTF8_IS_START(*c))
3808                             break;
3809                     }
3810                     mg->mg_len  = c - start;
3811                 }
3812             }
3813             if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
3814                 magic_setutf8(sv,mg); /* clear UTF8 cache */
3815         }
3816     }
3817     return TRUE;
3818 }
3819
3820 /*
3821 =for apidoc sv_setsv
3822
3823 Copies the contents of the source SV C<ssv> into the destination SV
3824 C<dsv>.  The source SV may be destroyed if it is mortal, so don't use this
3825 function if the source SV needs to be reused.  Does not handle 'set' magic on
3826 destination SV.  Calls 'get' magic on source SV.  Loosely speaking, it
3827 performs a copy-by-value, obliterating any previous content of the
3828 destination.
3829
3830 You probably want to use one of the assortment of wrappers, such as
3831 C<SvSetSV>, C<SvSetSV_nosteal>, C<SvSetMagicSV> and
3832 C<SvSetMagicSV_nosteal>.
3833
3834 =for apidoc sv_setsv_flags
3835
3836 Copies the contents of the source SV C<ssv> into the destination SV
3837 C<dsv>.  The source SV may be destroyed if it is mortal, so don't use this
3838 function if the source SV needs to be reused.  Does not handle 'set' magic.
3839 Loosely speaking, it performs a copy-by-value, obliterating any previous
3840 content of the destination.
3841 If the C<flags> parameter has the C<SV_GMAGIC> bit set, will C<mg_get> on
3842 C<ssv> if appropriate, else not.  If the C<flags>
3843 parameter has the C<SV_NOSTEAL> bit set then the
3844 buffers of temps will not be stolen.  C<sv_setsv>
3845 and C<sv_setsv_nomg> are implemented in terms of this function.
3846
3847 You probably want to use one of the assortment of wrappers, such as
3848 C<SvSetSV>, C<SvSetSV_nosteal>, C<SvSetMagicSV> and
3849 C<SvSetMagicSV_nosteal>.
3850
3851 This is the primary function for copying scalars, and most other
3852 copy-ish functions and macros use this underneath.
3853
3854 =cut
3855 */
3856
3857 static void
3858 S_glob_assign_glob(pTHX_ SV *const dstr, SV *const sstr, const int dtype)
3859 {
3860     I32 mro_changes = 0; /* 1 = method, 2 = isa, 3 = recursive isa */
3861     HV *old_stash = NULL;
3862
3863     PERL_ARGS_ASSERT_GLOB_ASSIGN_GLOB;
3864
3865     if (dtype != SVt_PVGV && !isGV_with_GP(dstr)) {
3866         const char * const name = GvNAME(sstr);
3867         const STRLEN len = GvNAMELEN(sstr);
3868         {
3869             if (dtype >= SVt_PV) {
3870                 SvPV_free(dstr);
3871                 SvPV_set(dstr, 0);
3872                 SvLEN_set(dstr, 0);
3873                 SvCUR_set(dstr, 0);
3874             }
3875             SvUPGRADE(dstr, SVt_PVGV);
3876             (void)SvOK_off(dstr);
3877             isGV_with_GP_on(dstr);
3878         }
3879         GvSTASH(dstr) = GvSTASH(sstr);
3880         if (GvSTASH(dstr))
3881             Perl_sv_add_backref(aTHX_ MUTABLE_SV(GvSTASH(dstr)), dstr);
3882         gv_name_set(MUTABLE_GV(dstr), name, len,
3883                         GV_ADD | (GvNAMEUTF8(sstr) ? SVf_UTF8 : 0 ));
3884         SvFAKE_on(dstr);        /* can coerce to non-glob */
3885     }
3886
3887     if(GvGP(MUTABLE_GV(sstr))) {
3888         /* If source has method cache entry, clear it */
3889         if(GvCVGEN(sstr)) {
3890             SvREFCNT_dec(GvCV(sstr));
3891             GvCV_set(sstr, NULL);
3892             GvCVGEN(sstr) = 0;
3893         }
3894         /* If source has a real method, then a method is
3895            going to change */
3896         else if(
3897          GvCV((const GV *)sstr) && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
3898         ) {
3899             mro_changes = 1;
3900         }
3901     }
3902
3903     /* If dest already had a real method, that's a change as well */
3904     if(
3905         !mro_changes && GvGP(MUTABLE_GV(dstr)) && GvCVu((const GV *)dstr)
3906      && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
3907     ) {
3908         mro_changes = 1;
3909     }
3910
3911     /* We don't need to check the name of the destination if it was not a
3912        glob to begin with. */
3913     if(dtype == SVt_PVGV) {
3914         const char * const name = GvNAME((const GV *)dstr);
3915         if(
3916             strEQ(name,"ISA")
3917          /* The stash may have been detached from the symbol table, so
3918             check its name. */
3919          && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
3920         )
3921             mro_changes = 2;
3922         else {
3923             const STRLEN len = GvNAMELEN(dstr);
3924             if ((len > 1 && name[len-2] == ':' && name[len-1] == ':')
3925              || (len == 1 && name[0] == ':')) {
3926                 mro_changes = 3;
3927
3928                 /* Set aside the old stash, so we can reset isa caches on
3929                    its subclasses. */
3930                 if((old_stash = GvHV(dstr)))
3931                     /* Make sure we do not lose it early. */
3932                     SvREFCNT_inc_simple_void_NN(
3933                      sv_2mortal((SV *)old_stash)
3934                     );
3935             }
3936         }
3937
3938         SvREFCNT_inc_simple_void_NN(sv_2mortal(dstr));
3939     }
3940
3941     /* freeing dstr's GP might free sstr (e.g. *x = $x),
3942      * so temporarily protect it */
3943     ENTER;
3944     SAVEFREESV(SvREFCNT_inc_simple_NN(sstr));
3945     gp_free(MUTABLE_GV(dstr));
3946     GvINTRO_off(dstr);          /* one-shot flag */
3947     GvGP_set(dstr, gp_ref(GvGP(sstr)));
3948     LEAVE;
3949
3950     if (SvTAINTED(sstr))
3951         SvTAINT(dstr);
3952     if (GvIMPORTED(dstr) != GVf_IMPORTED
3953         && CopSTASH_ne(PL_curcop, GvSTASH(dstr)))
3954         {
3955             GvIMPORTED_on(dstr);
3956         }
3957     GvMULTI_on(dstr);
3958     if(mro_changes == 2) {
3959       if (GvAV((const GV *)sstr)) {
3960         MAGIC *mg;
3961         SV * const sref = (SV *)GvAV((const GV *)dstr);
3962         if (SvSMAGICAL(sref) && (mg = mg_find(sref, PERL_MAGIC_isa))) {
3963             if (SvTYPE(mg->mg_obj) != SVt_PVAV) {
3964                 AV * const ary = newAV();
3965                 av_push(ary, mg->mg_obj); /* takes the refcount */
3966                 mg->mg_obj = (SV *)ary;
3967             }
3968             av_push((AV *)mg->mg_obj, SvREFCNT_inc_simple_NN(dstr));
3969         }
3970         else sv_magic(sref, dstr, PERL_MAGIC_isa, NULL, 0);
3971       }
3972       mro_isa_changed_in(GvSTASH(dstr));
3973     }
3974     else if(mro_changes == 3) {
3975         HV * const stash = GvHV(dstr);
3976         if(old_stash ? (HV *)HvENAME_get(old_stash) : stash)
3977             mro_package_moved(
3978                 stash, old_stash,
3979                 (GV *)dstr, 0
3980             );
3981     }
3982     else if(mro_changes) mro_method_changed_in(GvSTASH(dstr));
3983     if (GvIO(dstr) && dtype == SVt_PVGV) {
3984         DEBUG_o(Perl_deb(aTHX_
3985                         "glob_assign_glob clearing PL_stashcache\n"));
3986         /* It's a cache. It will rebuild itself quite happily.
3987            It's a lot of effort to work out exactly which key (or keys)
3988            might be invalidated by the creation of the this file handle.
3989          */
3990         hv_clear(PL_stashcache);
3991     }
3992     return;
3993 }
3994
3995 void
3996 Perl_gv_setref(pTHX_ SV *const dstr, SV *const sstr)
3997 {
3998     SV * const sref = SvRV(sstr);
3999     SV *dref;
4000     const int intro = GvINTRO(dstr);
4001     SV **location;
4002     U8 import_flag = 0;
4003     const U32 stype = SvTYPE(sref);
4004
4005     PERL_ARGS_ASSERT_GV_SETREF;
4006
4007     if (intro) {
4008         GvINTRO_off(dstr);      /* one-shot flag */
4009         GvLINE(dstr) = CopLINE(PL_curcop);
4010         GvEGV(dstr) = MUTABLE_GV(dstr);
4011     }
4012     GvMULTI_on(dstr);
4013     switch (stype) {
4014     case SVt_PVCV:
4015         location = (SV **) &(GvGP(dstr)->gp_cv); /* XXX bypassing GvCV_set */
4016         import_flag = GVf_IMPORTED_CV;
4017         goto common;
4018     case SVt_PVHV:
4019         location = (SV **) &GvHV(dstr);
4020         import_flag = GVf_IMPORTED_HV;
4021         goto common;
4022     case SVt_PVAV:
4023         location = (SV **) &GvAV(dstr);
4024         import_flag = GVf_IMPORTED_AV;
4025         goto common;
4026     case SVt_PVIO:
4027         location = (SV **) &GvIOp(dstr);
4028         goto common;
4029     case SVt_PVFM:
4030         location = (SV **) &GvFORM(dstr);
4031         goto common;
4032     default:
4033         location = &GvSV(dstr);
4034         import_flag = GVf_IMPORTED_SV;
4035     common:
4036         if (intro) {
4037             if (stype == SVt_PVCV) {
4038                 /*if (GvCVGEN(dstr) && (GvCV(dstr) != (const CV *)sref || GvCVGEN(dstr))) {*/
4039                 if (GvCVGEN(dstr)) {
4040                     SvREFCNT_dec(GvCV(dstr));
4041                     GvCV_set(dstr, NULL);
4042                     GvCVGEN(dstr) = 0; /* Switch off cacheness. */
4043                 }
4044             }
4045             /* SAVEt_GVSLOT takes more room on the savestack and has more
4046                overhead in leave_scope than SAVEt_GENERIC_SV.  But for CVs
4047                leave_scope needs access to the GV so it can reset method
4048                caches.  We must use SAVEt_GVSLOT whenever the type is
4049                SVt_PVCV, even if the stash is anonymous, as the stash may
4050                gain a name somehow before leave_scope. */
4051             if (stype == SVt_PVCV) {
4052                 /* There is no save_pushptrptrptr.  Creating it for this
4053                    one call site would be overkill.  So inline the ss add
4054                    routines here. */
4055                 dSS_ADD;
4056                 SS_ADD_PTR(dstr);
4057                 SS_ADD_PTR(location);
4058                 SS_ADD_PTR(SvREFCNT_inc(*location));
4059                 SS_ADD_UV(SAVEt_GVSLOT);
4060                 SS_ADD_END(4);
4061             }
4062             else SAVEGENERICSV(*location);
4063         }
4064         dref = *location;
4065         if (stype == SVt_PVCV && (*location != sref || GvCVGEN(dstr))) {
4066             CV* const cv = MUTABLE_CV(*location);
4067             if (cv) {
4068                 if (!GvCVGEN((const GV *)dstr) &&
4069                     (CvROOT(cv) || CvXSUB(cv)) &&
4070                     /* redundant check that avoids creating the extra SV
4071                        most of the time: */
4072                     (CvCONST(cv) || ckWARN(WARN_REDEFINE)))
4073                     {
4074                         SV * const new_const_sv =
4075                             CvCONST((const CV *)sref)
4076                                  ? cv_const_sv((const CV *)sref)
4077                                  : NULL;
4078                         HV * const stash = GvSTASH((const GV *)dstr);
4079                         report_redefined_cv(
4080                            sv_2mortal(
4081                              stash
4082                                ? Perl_newSVpvf(aTHX_
4083                                     "%" HEKf "::%" HEKf,
4084                                     HEKfARG(HvNAME_HEK(stash)),
4085                                     HEKfARG(GvENAME_HEK(MUTABLE_GV(dstr))))
4086                                : Perl_newSVpvf(aTHX_
4087                                     "%" HEKf,
4088                                     HEKfARG(GvENAME_HEK(MUTABLE_GV(dstr))))
4089                            ),
4090                            cv,
4091                            CvCONST((const CV *)sref) ? &new_const_sv : NULL
4092                         );
4093                     }
4094                 if (!intro)
4095                     cv_ckproto_len_flags(cv, (const GV *)dstr,
4096                                    SvPOK(sref) ? CvPROTO(sref) : NULL,
4097                                    SvPOK(sref) ? CvPROTOLEN(sref) : 0,
4098                                    SvPOK(sref) ? SvUTF8(sref) : 0);
4099             }
4100             GvCVGEN(dstr) = 0; /* Switch off cacheness. */
4101             GvASSUMECV_on(dstr);
4102             if(GvSTASH(dstr)) { /* sub foo { 1 } sub bar { 2 } *bar = \&foo */
4103                 if (intro && GvREFCNT(dstr) > 1) {
4104                     /* temporary remove extra savestack's ref */
4105                     --GvREFCNT(dstr);
4106                     gv_method_changed(dstr);
4107                     ++GvREFCNT(dstr);
4108                 }
4109                 else gv_method_changed(dstr);
4110             }
4111         }
4112         *location = SvREFCNT_inc_simple_NN(sref);
4113         if (import_flag && !(GvFLAGS(dstr) & import_flag)
4114             && CopSTASH_ne(PL_curcop, GvSTASH(dstr))) {
4115             GvFLAGS(dstr) |= import_flag;
4116         }
4117
4118         if (stype == SVt_PVHV) {
4119             const char * const name = GvNAME((GV*)dstr);
4120             const STRLEN len = GvNAMELEN(dstr);
4121             if (
4122                 (
4123                    (len > 1 && name[len-2] == ':' && name[len-1] == ':')
4124                 || (len == 1 && name[0] == ':')
4125                 )
4126              && (!dref || HvENAME_get(dref))
4127             ) {
4128                 mro_package_moved(
4129                     (HV *)sref, (HV *)dref,
4130                     (GV *)dstr, 0
4131                 );
4132             }
4133         }
4134         else if (
4135             stype == SVt_PVAV && sref != dref
4136          && strEQ(GvNAME((GV*)dstr), "ISA")
4137          /* The stash may have been detached from the symbol table, so
4138             check its name before doing anything. */
4139          && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
4140         ) {
4141             MAGIC *mg;
4142             MAGIC * const omg = dref && SvSMAGICAL(dref)
4143                                  ? mg_find(dref, PERL_MAGIC_isa)
4144                                  : NULL;
4145             if (SvSMAGICAL(sref) && (mg = mg_find(sref, PERL_MAGIC_isa))) {
4146                 if (SvTYPE(mg->mg_obj) != SVt_PVAV) {
4147                     AV * const ary = newAV();
4148                     av_push(ary, mg->mg_obj); /* takes the refcount */
4149                     mg->mg_obj = (SV *)ary;
4150                 }
4151                 if (omg) {
4152                     if (SvTYPE(omg->mg_obj) == SVt_PVAV) {
4153                         SV **svp = AvARRAY((AV *)omg->mg_obj);
4154                         I32 items = AvFILLp((AV *)omg->mg_obj) + 1;
4155                         while (items--)
4156                             av_push(
4157                              (AV *)mg->mg_obj,
4158                              SvREFCNT_inc_simple_NN(*svp++)
4159                             );
4160                     }
4161                     else
4162                         av_push(
4163                          (AV *)mg->mg_obj,
4164                          SvREFCNT_inc_simple_NN(omg->mg_obj)
4165                         );
4166                 }
4167                 else
4168                     av_push((AV *)mg->mg_obj,SvREFCNT_inc_simple_NN(dstr));
4169             }
4170             else
4171             {
4172                 SSize_t i;
4173                 sv_magic(
4174                  sref, omg ? omg->mg_obj : dstr, PERL_MAGIC_isa, NULL, 0
4175                 );
4176                 for (i = 0; i <= AvFILL(sref); ++i) {
4177                     SV **elem = av_fetch ((AV*)sref, i, 0);
4178                     if (elem) {
4179                         sv_magic(
4180                           *elem, sref, PERL_MAGIC_isaelem, NULL, i
4181                         );
4182                     }
4183                 }
4184                 mg = mg_find(sref, PERL_MAGIC_isa);
4185             }
4186             /* Since the *ISA assignment could have affected more than
4187                one stash, don't call mro_isa_changed_in directly, but let
4188                magic_clearisa do it for us, as it already has the logic for
4189                dealing with globs vs arrays of globs. */
4190             assert(mg);
4191             Perl_magic_clearisa(aTHX_ NULL, mg);
4192         }
4193         else if (stype == SVt_PVIO) {
4194             DEBUG_o(Perl_deb(aTHX_ "gv_setref clearing PL_stashcache\n"));
4195             /* It's a cache. It will rebuild itself quite happily.
4196                It's a lot of effort to work out exactly which key (or keys)
4197                might be invalidated by the creation of the this file handle.
4198             */
4199             hv_clear(PL_stashcache);
4200         }
4201         break;
4202     }
4203     if (!intro) SvREFCNT_dec(dref);
4204     if (SvTAINTED(sstr))
4205         SvTAINT(dstr);
4206     return;
4207 }
4208
4209
4210
4211
4212 #ifdef PERL_DEBUG_READONLY_COW
4213 # include <sys/mman.h>
4214
4215 # ifndef PERL_MEMORY_DEBUG_HEADER_SIZE
4216 #  define PERL_MEMORY_DEBUG_HEADER_SIZE 0
4217 # endif
4218
4219 void
4220 Perl_sv_buf_to_ro(pTHX_ SV *sv)
4221 {
4222     struct perl_memory_debug_header * const header =
4223         (struct perl_memory_debug_header *)(SvPVX(sv)-PERL_MEMORY_DEBUG_HEADER_SIZE);
4224     const MEM_SIZE len = header->size;
4225     PERL_ARGS_ASSERT_SV_BUF_TO_RO;
4226 # ifdef PERL_TRACK_MEMPOOL
4227     if (!header->readonly) header->readonly = 1;
4228 # endif
4229     if (mprotect(header, len, PROT_READ))
4230         Perl_warn(aTHX_ "mprotect RW for COW string %p %lu failed with %d",
4231                          header, len, errno);
4232 }
4233
4234 static void
4235 S_sv_buf_to_rw(pTHX_ SV *sv)
4236 {
4237     struct perl_memory_debug_header * const header =
4238         (struct perl_memory_debug_header *)(SvPVX(sv)-PERL_MEMORY_DEBUG_HEADER_SIZE);
4239     const MEM_SIZE len = header->size;
4240     PERL_ARGS_ASSERT_SV_BUF_TO_RW;
4241     if (mprotect(header, len, PROT_READ|PROT_WRITE))
4242         Perl_warn(aTHX_ "mprotect for COW string %p %lu failed with %d",
4243                          header, len, errno);
4244 # ifdef PERL_TRACK_MEMPOOL
4245     header->readonly = 0;
4246 # endif
4247 }
4248
4249 #else
4250 # define sv_buf_to_ro(sv)       NOOP
4251 # define sv_buf_to_rw(sv)       NOOP
4252 #endif
4253
4254 void
4255 Perl_sv_setsv_flags(pTHX_ SV *dstr, SV* sstr, const I32 flags)
4256 {
4257     U32 sflags;
4258     int dtype;
4259     svtype stype;
4260     unsigned int both_type;
4261
4262     PERL_ARGS_ASSERT_SV_SETSV_FLAGS;
4263
4264     if (UNLIKELY( sstr == dstr ))
4265         return;
4266
4267     if (UNLIKELY( !sstr ))
4268         sstr = &PL_sv_undef;
4269
4270     stype = SvTYPE(sstr);
4271     dtype = SvTYPE(dstr);
4272     both_type = (stype | dtype);
4273
4274     /* with these values, we can check that both SVs are NULL/IV (and not
4275      * freed) just by testing the or'ed types */
4276     STATIC_ASSERT_STMT(SVt_NULL == 0);
4277     STATIC_ASSERT_STMT(SVt_IV   == 1);
4278     if (both_type <= 1) {
4279         /* both src and dst are UNDEF/IV/RV, so we can do a lot of
4280          * special-casing */
4281         U32 sflags;
4282         U32 new_dflags;
4283         SV *old_rv = NULL;
4284
4285         /* minimal subset of SV_CHECK_THINKFIRST_COW_DROP(dstr) */
4286         if (SvREADONLY(dstr))
4287             Perl_croak_no_modify();
4288         if (SvROK(dstr)) {
4289             if (SvWEAKREF(dstr))
4290                 sv_unref_flags(dstr, 0);
4291             else
4292                 old_rv = SvRV(dstr);
4293         }
4294
4295         assert(!SvGMAGICAL(sstr));
4296         assert(!SvGMAGICAL(dstr));
4297
4298         sflags = SvFLAGS(sstr);
4299         if (sflags & (SVf_IOK|SVf_ROK)) {
4300             SET_SVANY_FOR_BODYLESS_IV(dstr);
4301             new_dflags = SVt_IV;
4302
4303             if (sflags & SVf_ROK) {
4304                 dstr->sv_u.svu_rv = SvREFCNT_inc(SvRV(sstr));
4305                 new_dflags |= SVf_ROK;
4306             }
4307             else {
4308                 /* both src and dst are <= SVt_IV, so sv_any points to the
4309                  * head; so access the head directly
4310                  */
4311                 assert(    &(sstr->sv_u.svu_iv)
4312                         == &(((XPVIV*) SvANY(sstr))->xiv_iv));
4313                 assert(    &(dstr->sv_u.svu_iv)
4314                         == &(((XPVIV*) SvANY(dstr))->xiv_iv));
4315                 dstr->sv_u.svu_iv = sstr->sv_u.svu_iv;
4316                 new_dflags |= (SVf_IOK|SVp_IOK|(sflags & SVf_IVisUV));
4317             }
4318         }
4319         else {
4320             new_dflags = dtype; /* turn off everything except the type */
4321         }
4322         SvFLAGS(dstr) = new_dflags;
4323         SvREFCNT_dec(old_rv);
4324
4325         return;
4326     }
4327
4328     if (UNLIKELY(both_type == SVTYPEMASK)) {
4329         if (SvIS_FREED(dstr)) {
4330             Perl_croak(aTHX_ "panic: attempt to copy value %" SVf
4331                        " to a freed scalar %p", SVfARG(sstr), (void *)dstr);
4332         }
4333         if (SvIS_FREED(sstr)) {
4334             Perl_croak(aTHX_ "panic: attempt to copy freed scalar %p to %p",
4335                        (void*)sstr, (void*)dstr);
4336         }
4337     }
4338
4339
4340
4341     SV_CHECK_THINKFIRST_COW_DROP(dstr);
4342     dtype = SvTYPE(dstr); /* THINKFIRST may have changed type */
4343
4344     /* There's a lot of redundancy below but we're going for speed here */
4345
4346     switch (stype) {
4347     case SVt_NULL:
4348       undef_sstr:
4349         if (LIKELY( dtype != SVt_PVGV && dtype != SVt_PVLV )) {
4350             (void)SvOK_off(dstr);
4351             return;
4352         }
4353         break;
4354     case SVt_IV:
4355         if (SvIOK(sstr)) {
4356             switch (dtype) {
4357             case SVt_NULL:
4358                 /* For performance, we inline promoting to type SVt_IV. */
4359                 /* We're starting from SVt_NULL, so provided that define is
4360                  * actual 0, we don't have to unset any SV type flags
4361                  * to promote to SVt_IV. */
4362                 STATIC_ASSERT_STMT(SVt_NULL == 0);
4363                 SET_SVANY_FOR_BODYLESS_IV(dstr);
4364                 SvFLAGS(dstr) |= SVt_IV;
4365                 break;
4366             case SVt_NV:
4367             case SVt_PV:
4368                 sv_upgrade(dstr, SVt_PVIV);
4369                 break;
4370             case SVt_PVGV:
4371             case SVt_PVLV:
4372                 goto end_of_first_switch;
4373             }
4374             (void)SvIOK_only(dstr);
4375             SvIV_set(dstr,  SvIVX(sstr));
4376             if (SvIsUV(sstr))
4377                 SvIsUV_on(dstr);
4378             /* SvTAINTED can only be true if the SV has taint magic, which in
4379                turn means that the SV type is PVMG (or greater). This is the
4380                case statement for SVt_IV, so this cannot be true (whatever gcov
4381                may say).  */
4382             assert(!SvTAINTED(sstr));
4383             return;
4384         }
4385         if (!SvROK(sstr))
4386             goto undef_sstr;
4387         if (dtype < SVt_PV && dtype != SVt_IV)
4388             sv_upgrade(dstr, SVt_IV);
4389         break;
4390
4391     case SVt_NV:
4392         if (LIKELY( SvNOK(sstr) )) {
4393             switch (dtype) {
4394             case SVt_NULL:
4395             case SVt_IV:
4396                 sv_upgrade(dstr, SVt_NV);
4397                 break;
4398             case SVt_PV:
4399             case SVt_PVIV:
4400                 sv_upgrade(dstr, SVt_PVNV);
4401                 break;
4402             case SVt_PVGV:
4403             case SVt_PVLV:
4404                 goto end_of_first_switch;
4405             }
4406             SvNV_set(dstr, SvNVX(sstr));
4407             (void)SvNOK_only(dstr);
4408             /* SvTAINTED can only be true if the SV has taint magic, which in
4409                turn means that the SV type is PVMG (or greater). This is the
4410                case statement for SVt_NV, so this cannot be true (whatever gcov
4411                may say).  */
4412             assert(!SvTAINTED(sstr));
4413             return;
4414         }
4415         goto undef_sstr;
4416
4417     case SVt_PV:
4418         if (dtype < SVt_PV)
4419             sv_upgrade(dstr, SVt_PV);
4420         break;
4421     case SVt_PVIV:
4422         if (dtype < SVt_PVIV)
4423             sv_upgrade(dstr, SVt_PVIV);
4424         break;
4425     case SVt_PVNV:
4426         if (dtype < SVt_PVNV)
4427             sv_upgrade(dstr, SVt_PVNV);
4428         break;
4429     default:
4430         {
4431         const char * const type = sv_reftype(sstr,0);
4432         if (PL_op)
4433             /* diag_listed_as: Bizarre copy of %s */
4434             Perl_croak(aTHX_ "Bizarre copy of %s in %s", type, OP_DESC(PL_op));
4435         else
4436             Perl_croak(aTHX_ "Bizarre copy of %s", type);
4437         }
4438         NOT_REACHED; /* NOTREACHED */
4439
4440     case SVt_REGEXP:
4441       upgregexp:
4442         if (dtype < SVt_REGEXP)
4443         {
4444             if (dtype >= SVt_PV) {
4445                 SvPV_free(dstr);
4446                 SvPV_set(dstr, 0);
4447                 SvLEN_set(dstr, 0);
4448                 SvCUR_set(dstr, 0);
4449             }
4450             sv_upgrade(dstr, SVt_REGEXP);
4451         }
4452         break;
4453
4454         case SVt_INVLIST:
4455     case SVt_PVLV:
4456     case SVt_PVGV:
4457     case SVt_PVMG:
4458         if (SvGMAGICAL(sstr) && (flags & SV_GMAGIC)) {
4459             mg_get(sstr);
4460             if (SvTYPE(sstr) != stype)
4461                 stype = SvTYPE(sstr);
4462         }
4463         if (isGV_with_GP(sstr) && dtype <= SVt_PVLV) {
4464                     glob_assign_glob(dstr, sstr, dtype);
4465                     return;
4466         }
4467         if (stype == SVt_PVLV)
4468         {
4469             if (isREGEXP(sstr)) goto upgregexp;
4470             SvUPGRADE(dstr, SVt_PVNV);
4471         }
4472         else
4473             SvUPGRADE(dstr, (svtype)stype);
4474     }
4475  end_of_first_switch:
4476
4477     /* dstr may have been upgraded.  */
4478     dtype = SvTYPE(dstr);
4479     sflags = SvFLAGS(sstr);
4480
4481     if (UNLIKELY( dtype == SVt_PVCV )) {
4482         /* Assigning to a subroutine sets the prototype.  */
4483         if (SvOK(sstr)) {
4484             STRLEN len;
4485             const char *const ptr = SvPV_const(sstr, len);
4486
4487             SvGROW(dstr, len + 1);
4488             Copy(ptr, SvPVX(dstr), len + 1, char);
4489             SvCUR_set(dstr, len);
4490             SvPOK_only(dstr);
4491             SvFLAGS(dstr) |= sflags & SVf_UTF8;
4492             CvAUTOLOAD_off(dstr);
4493         } else {
4494             SvOK_off(dstr);
4495         }
4496     }
4497     else if (UNLIKELY(dtype == SVt_PVAV || dtype == SVt_PVHV
4498              || dtype == SVt_PVFM))
4499     {
4500         const char * const type = sv_reftype(dstr,0);
4501         if (PL_op)
4502             /* diag_listed_as: Cannot copy to %s */
4503             Perl_croak(aTHX_ "Cannot copy to %s in %s", type, OP_DESC(PL_op));
4504         else
4505             Perl_croak(aTHX_ "Cannot copy to %s", type);
4506     } else if (sflags & SVf_ROK) {
4507         if (isGV_with_GP(dstr)
4508             && SvTYPE(SvRV(sstr)) == SVt_PVGV && isGV_with_GP(SvRV(sstr))) {
4509             sstr = SvRV(sstr);
4510             if (sstr == dstr) {
4511                 if (GvIMPORTED(dstr) != GVf_IMPORTED
4512                     && CopSTASH_ne(PL_curcop, GvSTASH(dstr)))
4513                 {
4514                     GvIMPORTED_on(dstr);
4515                 }
4516                 GvMULTI_on(dstr);
4517                 return;
4518             }
4519             glob_assign_glob(dstr, sstr, dtype);
4520             return;
4521         }
4522
4523         if (dtype >= SVt_PV) {
4524             if (isGV_with_GP(dstr)) {
4525                 gv_setref(dstr, sstr);
4526                 return;
4527             }
4528             if (SvPVX_const(dstr)) {
4529                 SvPV_free(dstr);
4530                 SvLEN_set(dstr, 0);
4531                 SvCUR_set(dstr, 0);
4532             }
4533         }
4534         (void)SvOK_off(dstr);
4535         SvRV_set(dstr, SvREFCNT_inc(SvRV(sstr)));
4536         SvFLAGS(dstr) |= sflags & SVf_ROK;
4537         assert(!(sflags & SVp_NOK));
4538         assert(!(sflags & SVp_IOK));
4539         assert(!(sflags & SVf_NOK));
4540         assert(!(sflags & SVf_IOK));
4541     }
4542     else if (isGV_with_GP(dstr)) {
4543         if (!(sflags & SVf_OK)) {
4544             Perl_ck_warner(aTHX_ packWARN(WARN_MISC),
4545                            "Undefined value assigned to typeglob");
4546         }
4547         else {
4548             GV *gv = gv_fetchsv_nomg(sstr, GV_ADD, SVt_PVGV);
4549             if (dstr != (const SV *)gv) {
4550                 const char * const name = GvNAME((const GV *)dstr);
4551                 const STRLEN len = GvNAMELEN(dstr);
4552                 HV *old_stash = NULL;
4553                 bool reset_isa = FALSE;
4554                 if ((len > 1 && name[len-2] == ':' && name[len-1] == ':')
4555                  || (len == 1 && name[0] == ':')) {
4556                     /* Set aside the old stash, so we can reset isa caches
4557                        on its subclasses. */
4558                     if((old_stash = GvHV(dstr))) {
4559                         /* Make sure we do not lose it early. */
4560                         SvREFCNT_inc_simple_void_NN(
4561                          sv_2mortal((SV *)old_stash)
4562                         );
4563                     }
4564                     reset_isa = TRUE;
4565                 }
4566
4567                 if (GvGP(dstr)) {
4568                     SvREFCNT_inc_simple_void_NN(sv_2mortal(dstr));
4569                     gp_free(MUTABLE_GV(dstr));
4570                 }
4571                 GvGP_set(dstr, gp_ref(GvGP(gv)));
4572
4573                 if (reset_isa) {
4574                     HV * const stash = GvHV(dstr);
4575                     if(
4576                         old_stash ? (HV *)HvENAME_get(old_stash) : stash
4577                     )
4578                         mro_package_moved(
4579                          stash, old_stash,
4580                          (GV *)dstr, 0
4581                         );
4582                 }
4583             }
4584         }
4585     }
4586     else if ((dtype == SVt_REGEXP || dtype == SVt_PVLV)
4587           && (stype == SVt_REGEXP || isREGEXP(sstr))) {
4588         reg_temp_copy((REGEXP*)dstr, (REGEXP*)sstr);
4589     }
4590     else if (sflags & SVp_POK) {
4591         const STRLEN cur = SvCUR(sstr);
4592         const STRLEN len = SvLEN(sstr);
4593
4594         /*
4595          * We have three basic ways to copy the string:
4596          *
4597          *  1. Swipe
4598          *  2. Copy-on-write
4599          *  3. Actual copy
4600          * 
4601          * Which we choose is based on various factors.  The following
4602          * things are listed in order of speed, fastest to slowest:
4603          *  - Swipe
4604          *  - Copying a short string
4605          *  - Copy-on-write bookkeeping
4606          *  - malloc
4607          *  - Copying a long string
4608          * 
4609          * We swipe the string (steal the string buffer) if the SV on the
4610          * rhs is about to be freed anyway (TEMP and refcnt==1).  This is a
4611          * big win on long strings.  It should be a win on short strings if
4612          * SvPVX_const(dstr) has to be allocated.  If not, it should not 
4613          * slow things down, as SvPVX_const(sstr) would have been freed
4614          * soon anyway.
4615          * 
4616          * We also steal the buffer from a PADTMP (operator target) if it
4617          * is â€˜long enough’.  For short strings, a swipe does not help
4618          * here, as it causes more malloc calls the next time the target
4619          * is used.  Benchmarks show that even if SvPVX_const(dstr) has to
4620          * be allocated it is still not worth swiping PADTMPs for short
4621          * strings, as the savings here are small.
4622          * 
4623          * If swiping is not an option, then we see whether it is
4624          * worth using copy-on-write.  If the lhs already has a buf-
4625          * fer big enough and the string is short, we skip it and fall back
4626          * to method 3, since memcpy is faster for short strings than the
4627          * later bookkeeping overhead that copy-on-write entails.
4628
4629          * If the rhs is not a copy-on-write string yet, then we also
4630          * consider whether the buffer is too large relative to the string
4631          * it holds.  Some operations such as readline allocate a large
4632          * buffer in the expectation of reusing it.  But turning such into
4633          * a COW buffer is counter-productive because it increases memory
4634          * usage by making readline allocate a new large buffer the sec-
4635          * ond time round.  So, if the buffer is too large, again, we use
4636          * method 3 (copy).
4637          * 
4638          * Finally, if there is no buffer on the left, or the buffer is too 
4639          * small, then we use copy-on-write and make both SVs share the
4640          * string buffer.
4641          *
4642          */
4643
4644         /* Whichever path we take through the next code, we want this true,
4645            and doing it now facilitates the COW check.  */
4646         (void)SvPOK_only(dstr);
4647
4648         if (
4649                  (              /* Either ... */
4650                                 /* slated for free anyway (and not COW)? */
4651                     (sflags & (SVs_TEMP|SVf_IsCOW)) == SVs_TEMP
4652                                 /* or a swipable TARG */
4653                  || ((sflags &
4654                            (SVs_PADTMP|SVf_READONLY|SVf_PROTECT|SVf_IsCOW))
4655                        == SVs_PADTMP
4656                                 /* whose buffer is worth stealing */
4657                      && CHECK_COWBUF_THRESHOLD(cur,len)
4658                     )
4659                  ) &&
4660                  !(sflags & SVf_OOK) &&   /* and not involved in OOK hack? */
4661                  (!(flags & SV_NOSTEAL)) &&
4662                                         /* and we're allowed to steal temps */
4663                  SvREFCNT(sstr) == 1 &&   /* and no other references to it? */
4664                  len)             /* and really is a string */
4665         {       /* Passes the swipe test.  */
4666             if (SvPVX_const(dstr))      /* we know that dtype >= SVt_PV */
4667                 SvPV_free(dstr);
4668             SvPV_set(dstr, SvPVX_mutable(sstr));
4669             SvLEN_set(dstr, SvLEN(sstr));
4670             SvCUR_set(dstr, SvCUR(sstr));
4671
4672             SvTEMP_off(dstr);
4673             (void)SvOK_off(sstr);       /* NOTE: nukes most SvFLAGS on sstr */
4674             SvPV_set(sstr, NULL);
4675             SvLEN_set(sstr, 0);
4676             SvCUR_set(sstr, 0);
4677             SvTEMP_off(sstr);
4678         }
4679         else if (flags & SV_COW_SHARED_HASH_KEYS
4680               &&
4681 #ifdef PERL_COPY_ON_WRITE
4682                  (sflags & SVf_IsCOW
4683                    ? (!len ||
4684                        (  (CHECK_COWBUF_THRESHOLD(cur,len) || SvLEN(dstr) < cur+1)
4685                           /* If this is a regular (non-hek) COW, only so
4686                              many COW "copies" are possible. */
4687                        && CowREFCNT(sstr) != SV_COW_REFCNT_MAX  ))
4688                    : (  (sflags & CAN_COW_MASK) == CAN_COW_FLAGS
4689                      && !(SvFLAGS(dstr) & SVf_BREAK)
4690                      && CHECK_COW_THRESHOLD(cur,len) && cur+1 < len
4691                      && (CHECK_COWBUF_THRESHOLD(cur,len) || SvLEN(dstr) < cur+1)
4692                     ))
4693 #else
4694                  sflags & SVf_IsCOW
4695               && !(SvFLAGS(dstr) & SVf_BREAK)
4696 #endif
4697             ) {
4698             /* Either it's a shared hash key, or it's suitable for
4699                copy-on-write.  */
4700             if (DEBUG_C_TEST) {
4701                 PerlIO_printf(Perl_debug_log, "Copy on write: sstr --> dstr\n");
4702                 sv_dump(sstr);
4703                 sv_dump(dstr);
4704             }
4705 #ifdef PERL_ANY_COW
4706             if (!(sflags & SVf_IsCOW)) {
4707                     SvIsCOW_on(sstr);
4708                     CowREFCNT(sstr) = 0;
4709             }
4710 #endif
4711             if (SvPVX_const(dstr)) {    /* we know that dtype >= SVt_PV */
4712                 SvPV_free(dstr);
4713             }
4714
4715 #ifdef PERL_ANY_COW
4716             if (len) {
4717                     if (sflags & SVf_IsCOW) {
4718                         sv_buf_to_rw(sstr);
4719                     }
4720                     CowREFCNT(sstr)++;
4721                     SvPV_set(dstr, SvPVX_mutable(sstr));
4722                     sv_buf_to_ro(sstr);
4723             } else
4724 #endif
4725             {
4726                     /* SvIsCOW_shared_hash */
4727                     DEBUG_C(PerlIO_printf(Perl_debug_log,
4728                                           "Copy on write: Sharing hash\n"));
4729
4730                     assert (SvTYPE(dstr) >= SVt_PV);
4731                     SvPV_set(dstr,
4732                              HEK_KEY(share_hek_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr)))));
4733             }
4734             SvLEN_set(dstr, len);
4735             SvCUR_set(dstr, cur);
4736             SvIsCOW_on(dstr);
4737         } else {
4738             /* Failed the swipe test, and we cannot do copy-on-write either.
4739                Have to copy the string.  */
4740             SvGROW(dstr, cur + 1);      /* inlined from sv_setpvn */
4741             Move(SvPVX_const(sstr),SvPVX(dstr),cur,char);
4742             SvCUR_set(dstr, cur);
4743             *SvEND(dstr) = '\0';
4744         }
4745         if (sflags & SVp_NOK) {
4746             SvNV_set(dstr, SvNVX(sstr));
4747         }
4748         if (sflags & SVp_IOK) {
4749             SvIV_set(dstr, SvIVX(sstr));
4750             if (sflags & SVf_IVisUV)
4751                 SvIsUV_on(dstr);
4752         }
4753         SvFLAGS(dstr) |= sflags & (SVf_IOK|SVp_IOK|SVf_NOK|SVp_NOK|SVf_UTF8);
4754         {
4755             const MAGIC * const smg = SvVSTRING_mg(sstr);
4756             if (smg) {
4757                 sv_magic(dstr, NULL, PERL_MAGIC_vstring,
4758                          smg->mg_ptr, smg->mg_len);
4759                 SvRMAGICAL_on(dstr);
4760             }
4761         }
4762     }
4763     else if (sflags & (SVp_IOK|SVp_NOK)) {
4764         (void)SvOK_off(dstr);
4765         SvFLAGS(dstr) |= sflags & (SVf_IOK|SVp_IOK|SVf_IVisUV|SVf_NOK|SVp_NOK);
4766         if (sflags & SVp_IOK) {
4767             /* XXXX Do we want to set IsUV for IV(ROK)?  Be extra safe... */
4768             SvIV_set(dstr, SvIVX(sstr));
4769         }
4770         if (sflags & SVp_NOK) {
4771             SvNV_set(dstr, SvNVX(sstr));
4772         }
4773     }
4774     else {
4775         if (isGV_with_GP(sstr)) {
4776             gv_efullname3(dstr, MUTABLE_GV(sstr), "*");
4777         }
4778         else
4779             (void)SvOK_off(dstr);
4780     }
4781     if (SvTAINTED(sstr))
4782         SvTAINT(dstr);
4783 }
4784
4785
4786 /*
4787 =for apidoc sv_set_undef
4788
4789 Equivalent to C<sv_setsv(sv, &PL_sv_undef)>, but more efficient.
4790 Doesn't handle set magic.
4791
4792 The perl equivalent is C<$sv = undef;>. Note that it doesn't free any string
4793 buffer, unlike C<undef $sv>.
4794
4795 Introduced in perl 5.26.0.
4796
4797 =cut
4798 */
4799
4800 void
4801 Perl_sv_set_undef(pTHX_ SV *sv)
4802 {
4803     U32 type = SvTYPE(sv);
4804
4805     PERL_ARGS_ASSERT_SV_SET_UNDEF;
4806
4807     /* shortcut, NULL, IV, RV */
4808
4809     if (type <= SVt_IV) {
4810         assert(!SvGMAGICAL(sv));
4811         if (SvREADONLY(sv)) {
4812             /* does undeffing PL_sv_undef count as modifying a read-only
4813              * variable? Some XS code does this */
4814             if (sv == &PL_sv_undef)
4815                 return;
4816             Perl_croak_no_modify();
4817         }
4818
4819         if (SvROK(sv)) {
4820             if (SvWEAKREF(sv))
4821                 sv_unref_flags(sv, 0);
4822             else {
4823                 SV *rv = SvRV(sv);
4824                 SvFLAGS(sv) = type; /* quickly turn off all flags */
4825                 SvREFCNT_dec_NN(rv);
4826                 return;
4827             }
4828         }
4829         SvFLAGS(sv) = type; /* quickly turn off all flags */
4830         return;
4831     }
4832
4833     if (SvIS_FREED(sv))
4834         Perl_croak(aTHX_ "panic: attempt to undefine a freed scalar %p",
4835             (void *)sv);
4836
4837     SV_CHECK_THINKFIRST_COW_DROP(sv);
4838
4839     if (isGV_with_GP(sv))
4840         Perl_ck_warner(aTHX_ packWARN(WARN_MISC),
4841                        "Undefined value assigned to typeglob");
4842     else
4843         SvOK_off(sv);
4844 }
4845
4846
4847
4848 /*
4849 =for apidoc sv_setsv_mg
4850
4851 Like C<sv_setsv>, but also handles 'set' magic.
4852
4853 =cut
4854 */
4855
4856 void
4857 Perl_sv_setsv_mg(pTHX_ SV *const dstr, SV *const sstr)
4858 {
4859     PERL_ARGS_ASSERT_SV_SETSV_MG;
4860
4861     sv_setsv(dstr,sstr);
4862     SvSETMAGIC(dstr);
4863 }
4864
4865 #ifdef PERL_ANY_COW
4866 #  define SVt_COW SVt_PV
4867 SV *
4868 Perl_sv_setsv_cow(pTHX_ SV *dstr, SV *sstr)
4869 {
4870     STRLEN cur = SvCUR(sstr);
4871     STRLEN len = SvLEN(sstr);
4872     char *new_pv;
4873 #if defined(PERL_DEBUG_READONLY_COW) && defined(PERL_COPY_ON_WRITE)
4874     const bool already = cBOOL(SvIsCOW(sstr));
4875 #endif
4876
4877     PERL_ARGS_ASSERT_SV_SETSV_COW;
4878
4879     if (DEBUG_C_TEST) {
4880         PerlIO_printf(Perl_debug_log, "Fast copy on write: %p -> %p\n",
4881                       (void*)sstr, (void*)dstr);
4882         sv_dump(sstr);
4883         if (dstr)
4884                     sv_dump(dstr);
4885     }
4886
4887     if (dstr) {
4888         if (SvTHINKFIRST(dstr))
4889             sv_force_normal_flags(dstr, SV_COW_DROP_PV);
4890         else if (SvPVX_const(dstr))
4891             Safefree(SvPVX_mutable(dstr));
4892     }
4893     else
4894         new_SV(dstr);
4895     SvUPGRADE(dstr, SVt_COW);
4896
4897     assert (SvPOK(sstr));
4898     assert (SvPOKp(sstr));
4899
4900     if (SvIsCOW(sstr)) {
4901
4902         if (SvLEN(sstr) == 0) {
4903             /* source is a COW shared hash key.  */
4904             DEBUG_C(PerlIO_printf(Perl_debug_log,
4905                                   "Fast copy on write: Sharing hash\n"));
4906             new_pv = HEK_KEY(share_hek_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr))));
4907             goto common_exit;
4908         }
4909         assert(SvCUR(sstr)+1 < SvLEN(sstr));
4910         assert(CowREFCNT(sstr) < SV_COW_REFCNT_MAX);
4911     } else {
4912         assert ((SvFLAGS(sstr) & CAN_COW_MASK) == CAN_COW_FLAGS);
4913         SvUPGRADE(sstr, SVt_COW);
4914         SvIsCOW_on(sstr);
4915         DEBUG_C(PerlIO_printf(Perl_debug_log,
4916                               "Fast copy on write: Converting sstr to COW\n"));
4917         CowREFCNT(sstr) = 0;    
4918     }
4919 #  ifdef PERL_DEBUG_READONLY_COW
4920     if (already) sv_buf_to_rw(sstr);
4921 #  endif
4922     CowREFCNT(sstr)++;  
4923     new_pv = SvPVX_mutable(sstr);
4924     sv_buf_to_ro(sstr);
4925
4926   common_exit:
4927     SvPV_set(dstr, new_pv);
4928     SvFLAGS(dstr) = (SVt_COW|SVf_POK|SVp_POK|SVf_IsCOW);
4929     if (SvUTF8(sstr))
4930         SvUTF8_on(dstr);
4931     SvLEN_set(dstr, len);
4932     SvCUR_set(dstr, cur);
4933     if (DEBUG_C_TEST) {
4934         sv_dump(dstr);
4935     }
4936     return dstr;
4937 }
4938 #endif
4939
4940 /*
4941 =for apidoc sv_setpv_bufsize
4942
4943 Sets the SV to be a string of cur bytes length, with at least
4944 len bytes available. Ensures that there is a null byte at SvEND.
4945 Returns a char * pointer to the SvPV buffer.
4946
4947 =cut
4948 */
4949
4950 char *
4951 Perl_sv_setpv_bufsize(pTHX_ SV *const sv, const STRLEN cur, const STRLEN len)
4952 {
4953     char *pv;
4954
4955     PERL_ARGS_ASSERT_SV_SETPV_BUFSIZE;
4956
4957     SV_CHECK_THINKFIRST_COW_DROP(sv);
4958     SvUPGRADE(sv, SVt_PV);
4959     pv = SvGROW(sv, len + 1);
4960     SvCUR_set(sv, cur);
4961     *(SvEND(sv))= '\0';
4962     (void)SvPOK_only_UTF8(sv);                /* validate pointer */
4963
4964     SvTAINT(sv);
4965     if (SvTYPE(sv) == SVt_PVCV) CvAUTOLOAD_off(sv);
4966     return pv;
4967 }
4968
4969 /*
4970 =for apidoc sv_setpvn
4971
4972 Copies a string (possibly containing embedded C<NUL> characters) into an SV.
4973 The C<len> parameter indicates the number of
4974 bytes to be copied.  If the C<ptr> argument is NULL the SV will become
4975 undefined.  Does not handle 'set' magic.  See C<L</sv_setpvn_mg>>.
4976
4977 =cut
4978 */
4979
4980 void
4981 Perl_sv_setpvn(pTHX_ SV *const sv, const char *const ptr, const STRLEN len)
4982 {
4983     char *dptr;
4984
4985     PERL_ARGS_ASSERT_SV_SETPVN;
4986
4987     SV_CHECK_THINKFIRST_COW_DROP(sv);
4988     if (isGV_with_GP(sv))
4989         Perl_croak_no_modify();
4990     if (!ptr) {
4991         (void)SvOK_off(sv);
4992         return;
4993     }
4994     else {
4995         /* len is STRLEN which is unsigned, need to copy to signed */
4996         const IV iv = len;
4997         if (iv < 0)
4998             Perl_croak(aTHX_ "panic: sv_setpvn called with negative strlen %"
4999                        IVdf, iv);
5000     }
5001     SvUPGRADE(sv, SVt_PV);
5002
5003     dptr = SvGROW(sv, len + 1);
5004     Move(ptr,dptr,len,char);
5005     dptr[len] = '\0';
5006     SvCUR_set(sv, len);
5007     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
5008     SvTAINT(sv);
5009     if (SvTYPE(sv) == SVt_PVCV) CvAUTOLOAD_off(sv);
5010 }
5011
5012 /*
5013 =for apidoc sv_setpvn_mg
5014
5015 Like C<sv_setpvn>, but also handles 'set' magic.
5016
5017 =cut
5018 */
5019
5020 void
5021 Perl_sv_setpvn_mg(pTHX_ SV *const sv, const char *const ptr, const STRLEN len)
5022 {
5023     PERL_ARGS_ASSERT_SV_SETPVN_MG;
5024
5025     sv_setpvn(sv,ptr,len);
5026     SvSETMAGIC(sv);
5027 }
5028
5029 /*
5030 =for apidoc sv_setpv
5031
5032 Copies a string into an SV.  The string must be terminated with a C<NUL>
5033 character, and not contain embeded C<NUL>'s.
5034 Does not handle 'set' magic.  See C<L</sv_setpv_mg>>.
5035
5036 =cut
5037 */
5038
5039 void
5040 Perl_sv_setpv(pTHX_ SV *const sv, const char *const ptr)
5041 {
5042     STRLEN len;
5043
5044     PERL_ARGS_ASSERT_SV_SETPV;
5045
5046     SV_CHECK_THINKFIRST_COW_DROP(sv);
5047     if (!ptr) {
5048         (void)SvOK_off(sv);
5049         return;
5050     }
5051     len = strlen(ptr);
5052     SvUPGRADE(sv, SVt_PV);
5053
5054     SvGROW(sv, len + 1);
5055     Move(ptr,SvPVX(sv),len+1,char);
5056     SvCUR_set(sv, len);
5057     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
5058     SvTAINT(sv);
5059     if (SvTYPE(sv) == SVt_PVCV) CvAUTOLOAD_off(sv);
5060 }
5061
5062 /*
5063 =for apidoc sv_setpv_mg
5064
5065 Like C<sv_setpv>, but also handles 'set' magic.
5066
5067 =cut
5068 */
5069
5070 void
5071 Perl_sv_setpv_mg(pTHX_ SV *const sv, const char *const ptr)
5072 {
5073     PERL_ARGS_ASSERT_SV_SETPV_MG;
5074
5075     sv_setpv(sv,ptr);
5076     SvSETMAGIC(sv);
5077 }
5078
5079 void
5080 Perl_sv_sethek(pTHX_ SV *const sv, const HEK *const hek)
5081 {
5082     PERL_ARGS_ASSERT_SV_SETHEK;
5083
5084     if (!hek) {
5085         return;
5086     }
5087
5088     if (HEK_LEN(hek) == HEf_SVKEY) {
5089         sv_setsv(sv, *(SV**)HEK_KEY(hek));
5090         return;
5091     } else {
5092         const int flags = HEK_FLAGS(hek);
5093         if (flags & HVhek_WASUTF8) {
5094             STRLEN utf8_len = HEK_LEN(hek);
5095             char *as_utf8 = (char *)bytes_to_utf8((U8*)HEK_KEY(hek), &utf8_len);
5096             sv_usepvn_flags(sv, as_utf8, utf8_len, SV_HAS_TRAILING_NUL);
5097             SvUTF8_on(sv);
5098             return;
5099         } else if (flags & HVhek_UNSHARED) {
5100             sv_setpvn(sv, HEK_KEY(hek), HEK_LEN(hek));
5101             if (HEK_UTF8(hek))
5102                 SvUTF8_on(sv);
5103             else SvUTF8_off(sv);
5104             return;
5105         }
5106         {
5107             SV_CHECK_THINKFIRST_COW_DROP(sv);
5108             SvUPGRADE(sv, SVt_PV);
5109             SvPV_free(sv);
5110             SvPV_set(sv,(char *)HEK_KEY(share_hek_hek(hek)));
5111             SvCUR_set(sv, HEK_LEN(hek));
5112             SvLEN_set(sv, 0);
5113             SvIsCOW_on(sv);
5114             SvPOK_on(sv);
5115             if (HEK_UTF8(hek))
5116                 SvUTF8_on(sv);
5117             else SvUTF8_off(sv);
5118             return;
5119         }
5120     }
5121 }
5122
5123
5124 /*
5125 =for apidoc sv_usepvn_flags
5126
5127 Tells an SV to use C<ptr> to find its string value.  Normally the
5128 string is stored inside the SV, but sv_usepvn allows the SV to use an
5129 outside string.  C<ptr> should point to memory that was allocated
5130 by L<C<Newx>|perlclib/Memory Management and String Handling>.  It must be
5131 the start of a C<Newx>-ed block of memory, and not a pointer to the
5132 middle of it (beware of L<C<OOK>|perlguts/Offsets> and copy-on-write),
5133 and not be from a non-C<Newx> memory allocator like C<malloc>.  The
5134 string length, C<len>, must be supplied.  By default this function
5135 will C<Renew> (i.e. realloc, move) the memory pointed to by C<ptr>,
5136 so that pointer should not be freed or used by the programmer after
5137 giving it to C<sv_usepvn>, and neither should any pointers from "behind"
5138 that pointer (e.g. ptr + 1) be used.
5139
5140 If S<C<flags & SV_SMAGIC>> is true, will call C<SvSETMAGIC>.  If
5141 S<C<flags> & SV_HAS_TRAILING_NUL>> is true, then C<ptr[len]> must be C<NUL>,
5142 and the realloc
5143 will be skipped (i.e. the buffer is actually at least 1 byte longer than
5144 C<len>, and already meets the requirements for storing in C<SvPVX>).
5145
5146 =cut
5147 */
5148
5149 void
5150 Perl_sv_usepvn_flags(pTHX_ SV *const sv, char *ptr, const STRLEN len, const U32 flags)
5151 {
5152     STRLEN allocate;
5153
5154     PERL_ARGS_ASSERT_SV_USEPVN_FLAGS;
5155
5156     SV_CHECK_THINKFIRST_COW_DROP(sv);
5157     SvUPGRADE(sv, SVt_PV);
5158     if (!ptr) {
5159         (void)SvOK_off(sv);
5160         if (flags & SV_SMAGIC)
5161             SvSETMAGIC(sv);
5162         return;
5163     }
5164     if (SvPVX_const(sv))
5165         SvPV_free(sv);
5166
5167 #ifdef DEBUGGING
5168     if (flags & SV_HAS_TRAILING_NUL)
5169         assert(ptr[len] == '\0');
5170 #endif
5171
5172     allocate = (flags & SV_HAS_TRAILING_NUL)
5173         ? len + 1 :
5174 #ifdef Perl_safesysmalloc_size
5175         len + 1;
5176 #else 
5177         PERL_STRLEN_ROUNDUP(len + 1);
5178 #endif
5179     if (flags & SV_HAS_TRAILING_NUL) {
5180         /* It's long enough - do nothing.
5181            Specifically Perl_newCONSTSUB is relying on this.  */
5182     } else {
5183 #ifdef DEBUGGING
5184         /* Force a move to shake out bugs in callers.  */
5185         char *new_ptr = (char*)safemalloc(allocate);
5186         Copy(ptr, new_ptr, len, char);
5187         PoisonFree(ptr,len,char);
5188         Safefree(ptr);
5189         ptr = new_ptr;
5190 #else
5191         ptr = (char*) saferealloc (ptr, allocate);
5192 #endif
5193     }
5194 #ifdef Perl_safesysmalloc_size
5195     SvLEN_set(sv, Perl_safesysmalloc_size(ptr));
5196 #else
5197     SvLEN_set(sv, allocate);
5198 #endif
5199     SvCUR_set(sv, len);
5200     SvPV_set(sv, ptr);
5201     if (!(flags & SV_HAS_TRAILING_NUL)) {
5202         ptr[len] = '\0';
5203     }
5204     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
5205     SvTAINT(sv);
5206     if (flags & SV_SMAGIC)
5207         SvSETMAGIC(sv);
5208 }
5209
5210 /*
5211 =for apidoc sv_force_normal_flags
5212
5213 Undo various types of fakery on an SV, where fakery means
5214 "more than" a string: if the PV is a shared string, make
5215 a private copy; if we're a ref, stop refing; if we're a glob, downgrade to
5216 an C<xpvmg>; if we're a copy-on-write scalar, this is the on-write time when
5217 we do the copy, and is also used locally; if this is a
5218 vstring, drop the vstring magic.  If C<SV_COW_DROP_PV> is set
5219 then a copy-on-write scalar drops its PV buffer (if any) and becomes
5220 C<SvPOK_off> rather than making a copy.  (Used where this
5221 scalar is about to be set to some other value.)  In addition,
5222 the C<flags> parameter gets passed to C<sv_unref_flags()>
5223 when unreffing.  C<sv_force_normal> calls this function
5224 with flags set to 0.
5225
5226 This function is expected to be used to signal to perl that this SV is
5227 about to be written to, and any extra book-keeping needs to be taken care
5228 of.  Hence, it croaks on read-only values.
5229
5230 =cut
5231 */
5232
5233 static void
5234 S_sv_uncow(pTHX_ SV * const sv, const U32 flags)
5235 {
5236     assert(SvIsCOW(sv));
5237     {
5238 #ifdef PERL_ANY_COW
5239         const char * const pvx = SvPVX_const(sv);
5240         const STRLEN len = SvLEN(sv);
5241         const STRLEN cur = SvCUR(sv);
5242
5243         if (DEBUG_C_TEST) {
5244                 PerlIO_printf(Perl_debug_log,
5245                               "Copy on write: Force normal %ld\n",
5246                               (long) flags);
5247                 sv_dump(sv);
5248         }
5249         SvIsCOW_off(sv);
5250 # ifdef PERL_COPY_ON_WRITE
5251         if (len) {
5252             /* Must do this first, since the CowREFCNT uses SvPVX and
5253             we need to write to CowREFCNT, or de-RO the whole buffer if we are
5254             the only owner left of the buffer. */
5255             sv_buf_to_rw(sv); /* NOOP if RO-ing not supported */
5256             {
5257                 U8 cowrefcnt = CowREFCNT(sv);
5258                 if(cowrefcnt != 0) {
5259                     cowrefcnt--;
5260                     CowREFCNT(sv) = cowrefcnt;
5261                     sv_buf_to_ro(sv);
5262                     goto copy_over;
5263                 }
5264             }
5265             /* Else we are the only owner of the buffer. */
5266         }
5267         else
5268 # endif
5269         {
5270             /* This SV doesn't own the buffer, so need to Newx() a new one:  */
5271             copy_over:
5272             SvPV_set(sv, NULL);
5273             SvCUR_set(sv, 0);
5274             SvLEN_set(sv, 0);
5275             if (flags & SV_COW_DROP_PV) {
5276                 /* OK, so we don't need to copy our buffer.  */
5277                 SvPOK_off(sv);
5278             } else {
5279                 SvGROW(sv, cur + 1);
5280                 Move(pvx,SvPVX(sv),cur,char);
5281                 SvCUR_set(sv, cur);
5282                 *SvEND(sv) = '\0';
5283             }
5284             if (len) {
5285             } else {
5286                 unshare_hek(SvSHARED_HEK_FROM_PV(pvx));
5287             }
5288             if (DEBUG_C_TEST) {
5289                 sv_dump(sv);
5290             }
5291         }
5292 #else
5293             const char * const pvx = SvPVX_const(sv);
5294             const STRLEN len = SvCUR(sv);
5295             SvIsCOW_off(sv);
5296             SvPV_set(sv, NULL);
5297             SvLEN_set(sv, 0);
5298             if (flags & SV_COW_DROP_PV) {
5299                 /* OK, so we don't need to copy our buffer.  */
5300                 SvPOK_off(sv);
5301             } else {
5302                 SvGROW(sv, len + 1);
5303                 Move(pvx,SvPVX(sv),len,char);
5304                 *SvEND(sv) = '\0';
5305             }
5306             unshare_hek(SvSHARED_HEK_FROM_PV(pvx));
5307 #endif
5308     }
5309 }
5310
5311 void
5312 Perl_sv_force_normal_flags(pTHX_ SV *const sv, const U32 flags)
5313 {
5314     PERL_ARGS_ASSERT_SV_FORCE_NORMAL_FLAGS;
5315
5316     if (SvREADONLY(sv))
5317         Perl_croak_no_modify();
5318     else if (SvIsCOW(sv) && LIKELY(SvTYPE(sv) != SVt_PVHV))
5319         S_sv_uncow(aTHX_ sv, flags);
5320     if (SvROK(sv))
5321         sv_unref_flags(sv, flags);
5322     else if (SvFAKE(sv) && isGV_with_GP(sv))
5323         sv_unglob(sv, flags);
5324     else if (SvFAKE(sv) && isREGEXP(sv)) {
5325         /* Need to downgrade the REGEXP to a simple(r) scalar. This is analogous
5326            to sv_unglob. We only need it here, so inline it.  */
5327         const bool islv = SvTYPE(sv) == SVt_PVLV;
5328         const svtype new_type =
5329           islv ? SVt_NULL : SvMAGIC(sv) || SvSTASH(sv) ? SVt_PVMG : SVt_PV;
5330         SV *const temp = newSV_type(new_type);
5331         regexp *const temp_p = ReANY((REGEXP *)sv);
5332
5333         if (new_type == SVt_PVMG) {
5334             SvMAGIC_set(temp, SvMAGIC(sv));
5335             SvMAGIC_set(sv, NULL);
5336             SvSTASH_set(temp, SvSTASH(sv));
5337             SvSTASH_set(sv, NULL);
5338         }
5339         if (!islv) SvCUR_set(temp, SvCUR(sv));
5340         /* Remember that SvPVX is in the head, not the body.  But
5341            RX_WRAPPED is in the body. */
5342         assert(ReANY((REGEXP *)sv)->mother_re);
5343         /* Their buffer is already owned by someone else. */
5344         if (flags & SV_COW_DROP_PV) {
5345             /* SvLEN is already 0.  For SVt_REGEXP, we have a brand new
5346                zeroed body.  For SVt_PVLV, it should have been set to 0
5347                before turning into a regexp. */
5348             assert(!SvLEN(islv ? sv : temp));
5349             sv->sv_u.svu_pv = 0;
5350         }
5351         else {
5352             sv->sv_u.svu_pv = savepvn(RX_WRAPPED((REGEXP *)sv), SvCUR(sv));
5353             SvLEN_set(islv ? sv : temp, SvCUR(sv)+1);
5354             SvPOK_on(sv);
5355         }
5356
5357         /* Now swap the rest of the bodies. */
5358
5359         SvFAKE_off(sv);
5360         if (!islv) {
5361             SvFLAGS(sv) &= ~SVTYPEMASK;
5362             SvFLAGS(sv) |= new_type;
5363             SvANY(sv) = SvANY(temp);
5364         }
5365
5366         SvFLAGS(temp) &= ~(SVTYPEMASK);
5367         SvFLAGS(temp) |= SVt_REGEXP|SVf_FAKE;
5368         SvANY(temp) = temp_p;
5369         temp->sv_u.svu_rx = (regexp *)temp_p;
5370
5371         SvREFCNT_dec_NN(temp);
5372     }
5373     else if (SvVOK(sv)) sv_unmagic(sv, PERL_MAGIC_vstring);
5374 }
5375
5376 /*
5377 =for apidoc sv_chop
5378
5379 Efficient removal of characters from the beginning of the string buffer.
5380 C<SvPOK(sv)>, or at least C<SvPOKp(sv)>, must be true and C<ptr> must be a
5381 pointer to somewhere inside the string buffer.  C<ptr> becomes the first
5382 character of the adjusted string.  Uses the C<OOK> hack.  On return, only
5383 C<SvPOK(sv)> and C<SvPOKp(sv)> among the C<OK> flags will be true.
5384
5385 Beware: after this function returns, C<ptr> and SvPVX_const(sv) may no longer
5386 refer to the same chunk of data.
5387
5388 The unfortunate similarity of this function's name to that of Perl's C<chop>
5389 operator is strictly coincidental.  This function works from the left;
5390 C<chop> works from the right.
5391
5392 =cut
5393 */
5394
5395 void
5396 Perl_sv_chop(pTHX_ SV *const sv, const char *const ptr)
5397 {
5398     STRLEN delta;
5399     STRLEN old_delta;
5400     U8 *p;
5401 #ifdef DEBUGGING
5402     const U8 *evacp;
5403     STRLEN evacn;
5404 #endif
5405     STRLEN max_delta;
5406
5407     PERL_ARGS_ASSERT_SV_CHOP;
5408
5409     if (!ptr || !SvPOKp(sv))
5410         return;
5411     delta = ptr - SvPVX_const(sv);
5412     if (!delta) {
5413         /* Nothing to do.  */
5414         return;
5415     }
5416     max_delta = SvLEN(sv) ? SvLEN(sv) : SvCUR(sv);
5417     if (delta > max_delta)
5418         Perl_croak(aTHX_ "panic: sv_chop ptr=%p, start=%p, end=%p",
5419                    ptr, SvPVX_const(sv), SvPVX_const(sv) + max_delta);
5420     /* SvPVX(sv) may move in SV_CHECK_THINKFIRST(sv), so don't use ptr any more */
5421     SV_CHECK_THINKFIRST(sv);
5422     SvPOK_only_UTF8(sv);
5423
5424     if (!SvOOK(sv)) {
5425         if (!SvLEN(sv)) { /* make copy of shared string */
5426             const char *pvx = SvPVX_const(sv);
5427             const STRLEN len = SvCUR(sv);
5428             SvGROW(sv, len + 1);
5429             Move(pvx,SvPVX(sv),len,char);
5430             *SvEND(sv) = '\0';
5431         }
5432         SvOOK_on(sv);
5433         old_delta = 0;
5434     } else {
5435         SvOOK_offset(sv, old_delta);
5436     }
5437     SvLEN_set(sv, SvLEN(sv) - delta);
5438     SvCUR_set(sv, SvCUR(sv) - delta);
5439     SvPV_set(sv, SvPVX(sv) + delta);
5440
5441     p = (U8 *)SvPVX_const(sv);
5442
5443 #ifdef DEBUGGING
5444     /* how many bytes were evacuated?  we will fill them with sentinel
5445        bytes, except for the part holding the new offset of course. */
5446     evacn = delta;
5447     if (old_delta)
5448         evacn += (old_delta < 0x100 ? 1 : 1 + sizeof(STRLEN));
5449     assert(evacn);
5450     assert(evacn <= delta + old_delta);
5451     evacp = p - evacn;
5452 #endif
5453
5454     /* This sets 'delta' to the accumulated value of all deltas so far */
5455     delta += old_delta;
5456     assert(delta);
5457
5458     /* If 'delta' fits in a byte, store it just prior to the new beginning of
5459      * the string; otherwise store a 0 byte there and store 'delta' just prior
5460      * to that, using as many bytes as a STRLEN occupies.  Thus it overwrites a
5461      * portion of the chopped part of the string */
5462     if (delta < 0x100) {
5463         *--p = (U8) delta;
5464     } else {
5465         *--p = 0;
5466         p -= sizeof(STRLEN);
5467         Copy((U8*)&delta, p, sizeof(STRLEN), U8);
5468     }
5469
5470 #ifdef DEBUGGING
5471     /* Fill the preceding buffer with sentinals to verify that no-one is
5472        using it.  */
5473     while (p > evacp) {
5474         --p;
5475         *p = (U8)PTR2UV(p);
5476     }
5477 #endif
5478 }
5479
5480 /*
5481 =for apidoc sv_catpvn
5482
5483 Concatenates the string onto the end of the string which is in the SV.
5484 C<len> indicates number of bytes to copy.  If the SV has the UTF-8
5485 status set, then the bytes appended should be valid UTF-8.
5486 Handles 'get' magic, but not 'set' magic.  See C<L</sv_catpvn_mg>>.
5487
5488 =for apidoc sv_catpvn_flags
5489
5490 Concatenates the string onto the end of the string which is in the SV.  The
5491 C<len> indicates number of bytes to copy.
5492
5493 By default, the string appended is assumed to be valid UTF-8 if the SV has
5494 the UTF-8 status set, and a string of bytes otherwise.  One can force the
5495 appended string to be interpreted as UTF-8 by supplying the C<SV_CATUTF8>
5496 flag, and as bytes by supplying the C<SV_CATBYTES> flag; the SV or the
5497 string appended will be upgraded to UTF-8 if necessary.
5498
5499 If C<flags> has the C<SV_SMAGIC> bit set, will
5500 C<mg_set> on C<dsv> afterwards if appropriate.
5501 C<sv_catpvn> and C<sv_catpvn_nomg> are implemented
5502 in terms of this function.
5503
5504 =cut
5505 */
5506
5507 void
5508 Perl_sv_catpvn_flags(pTHX_ SV *const dsv, const char *sstr, const STRLEN slen, const I32 flags)
5509 {
5510     STRLEN dlen;
5511     const char * const dstr = SvPV_force_flags(dsv, dlen, flags);
5512
5513     PERL_ARGS_ASSERT_SV_CATPVN_FLAGS;
5514     assert((flags & (SV_CATBYTES|SV_CATUTF8)) != (SV_CATBYTES|SV_CATUTF8));
5515
5516     if (!(flags & SV_CATBYTES) || !SvUTF8(dsv)) {
5517       if (flags & SV_CATUTF8 && !SvUTF8(dsv)) {
5518          sv_utf8_upgrade_flags_grow(dsv, 0, slen + 1);
5519          dlen = SvCUR(dsv);
5520       }
5521       else SvGROW(dsv, dlen + slen + 3);
5522       if (sstr == dstr)
5523         sstr = SvPVX_const(dsv);
5524       Move(sstr, SvPVX(dsv) + dlen, slen, char);
5525       SvCUR_set(dsv, SvCUR(dsv) + slen);
5526     }
5527     else {
5528         /* We inline bytes_to_utf8, to avoid an extra malloc. */
5529         const char * const send = sstr + slen;
5530         U8 *d;
5531
5532         /* Something this code does not account for, which I think is
5533            impossible; it would require the same pv to be treated as
5534            bytes *and* utf8, which would indicate a bug elsewhere. */
5535         assert(sstr != dstr);
5536
5537         SvGROW(dsv, dlen + slen * 2 + 3);
5538         d = (U8 *)SvPVX(dsv) + dlen;
5539
5540         while (sstr < send) {
5541             append_utf8_from_native_byte(*sstr, &d);
5542             sstr++;
5543         }
5544         SvCUR_set(dsv, d-(const U8 *)SvPVX(dsv));
5545     }
5546     *SvEND(dsv) = '\0';
5547     (void)SvPOK_only_UTF8(dsv);         /* validate pointer */
5548     SvTAINT(dsv);
5549     if (flags & SV_SMAGIC)
5550         SvSETMAGIC(dsv);
5551 }
5552
5553 /*
5554 =for apidoc sv_catsv
5555
5556 Concatenates the string from SV C<ssv> onto the end of the string in SV
5557 C<dsv>.  If C<ssv> is null, does nothing; otherwise modifies only C<dsv>.
5558 Handles 'get' magic on both SVs, but no 'set' magic.  See C<L</sv_catsv_mg>>
5559 and C<L</sv_catsv_nomg>>.
5560
5561 =for apidoc sv_catsv_flags
5562
5563 Concatenates the string from SV C<ssv> onto the end of the string in SV
5564 C<dsv>.  If C<ssv> is null, does nothing; otherwise modifies only C<dsv>.
5565 If C<flags> has the C<SV_GMAGIC> bit set, will call C<mg_get> on both SVs if
5566 appropriate.  If C<flags> has the C<SV_SMAGIC> bit set, C<mg_set> will be called on
5567 the modified SV afterward, if appropriate.  C<sv_catsv>, C<sv_catsv_nomg>,
5568 and C<sv_catsv_mg> are implemented in terms of this function.
5569
5570 =cut */
5571
5572 void
5573 Perl_sv_catsv_flags(pTHX_ SV *const dsv, SV *const ssv, const I32 flags)
5574 {
5575     PERL_ARGS_ASSERT_SV_CATSV_FLAGS;
5576
5577     if (ssv) {
5578         STRLEN slen;
5579         const char *spv = SvPV_flags_const(ssv, slen, flags);
5580         if (flags & SV_GMAGIC)
5581                 SvGETMAGIC(dsv);
5582         sv_catpvn_flags(dsv, spv, slen,
5583                             DO_UTF8(ssv) ? SV_CATUTF8 : SV_CATBYTES);
5584         if (flags & SV_SMAGIC)
5585                 SvSETMAGIC(dsv);
5586     }
5587 }
5588
5589 /*
5590 =for apidoc sv_catpv
5591
5592 Concatenates the C<NUL>-terminated string onto the end of the string which is
5593 in the SV.
5594 If the SV has the UTF-8 status set, then the bytes appended should be
5595 valid UTF-8.  Handles 'get' magic, but not 'set' magic.  See
5596 C<L</sv_catpv_mg>>.
5597
5598 =cut */
5599
5600 void
5601 Perl_sv_catpv(pTHX_ SV *const sv, const char *ptr)
5602 {
5603     STRLEN len;
5604     STRLEN tlen;
5605     char *junk;
5606
5607     PERL_ARGS_ASSERT_SV_CATPV;
5608
5609     if (!ptr)
5610         return;
5611     junk = SvPV_force(sv, tlen);
5612     len = strlen(ptr);
5613     SvGROW(sv, tlen + len + 1);
5614     if (ptr == junk)
5615         ptr = SvPVX_const(sv);
5616     Move(ptr,SvPVX(sv)+tlen,len+1,char);
5617     SvCUR_set(sv, SvCUR(sv) + len);
5618     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
5619     SvTAINT(sv);
5620 }
5621
5622 /*
5623 =for apidoc sv_catpv_flags
5624
5625 Concatenates the C<NUL>-terminated string onto the end of the string which is
5626 in the SV.
5627 If the SV has the UTF-8 status set, then the bytes appended should
5628 be valid UTF-8.  If C<flags> has the C<SV_SMAGIC> bit set, will C<mg_set>
5629 on the modified SV if appropriate.
5630
5631 =cut
5632 */
5633
5634 void
5635 Perl_sv_catpv_flags(pTHX_ SV *dstr, const char *sstr, const I32 flags)
5636 {
5637     PERL_ARGS_ASSERT_SV_CATPV_FLAGS;
5638     sv_catpvn_flags(dstr, sstr, strlen(sstr), flags);
5639 }
5640
5641 /*
5642 =for apidoc sv_catpv_mg
5643
5644 Like C<sv_catpv>, but also handles 'set' magic.
5645
5646 =cut
5647 */
5648
5649 void
5650 Perl_sv_catpv_mg(pTHX_ SV *const sv, const char *const ptr)
5651 {
5652     PERL_ARGS_ASSERT_SV_CATPV_MG;
5653
5654     sv_catpv(sv,ptr);
5655     SvSETMAGIC(sv);
5656 }
5657
5658 /*
5659 =for apidoc newSV
5660
5661 Creates a new SV.  A non-zero C<len> parameter indicates the number of
5662 bytes of preallocated string space the SV should have.  An extra byte for a
5663 trailing C<NUL> is also reserved.  (C<SvPOK> is not set for the SV even if string
5664 space is allocated.)  The reference count for the new SV is set to 1.
5665
5666 In 5.9.3, C<newSV()> replaces the older C<NEWSV()> API, and drops the first
5667 parameter, I<x>, a debug aid which allowed callers to identify themselves.
5668 This aid has been superseded by a new build option, C<PERL_MEM_LOG> (see
5669 L<perlhacktips/PERL_MEM_LOG>).  The older API is still there for use in XS
5670 modules supporting older perls.
5671
5672 =cut
5673 */
5674
5675 SV *
5676 Perl_newSV(pTHX_ const STRLEN len)
5677 {
5678     SV *sv;
5679
5680     new_SV(sv);
5681     if (len) {
5682         sv_grow(sv, len + 1);
5683     }
5684     return sv;
5685 }
5686 /*
5687 =for apidoc sv_magicext
5688
5689 Adds magic to an SV, upgrading it if necessary.  Applies the
5690 supplied C<vtable> and returns a pointer to the magic added.
5691
5692 Note that C<sv_magicext> will allow things that C<sv_magic> will not.
5693 In particular, you can add magic to C<SvREADONLY> SVs, and add more than
5694 one instance of the same C<how>.
5695
5696 If C<namlen> is greater than zero then a C<savepvn> I<copy> of C<name> is
5697 stored, if C<namlen> is zero then C<name> is stored as-is and - as another
5698 special case - if C<(name && namlen == HEf_SVKEY)> then C<name> is assumed
5699 to contain an SV* and is stored as-is with its C<REFCNT> incremented.
5700
5701 (This is now used as a subroutine by C<sv_magic>.)
5702
5703 =cut
5704 */
5705 MAGIC * 
5706 Perl_sv_magicext(pTHX_ SV *const sv, SV *const obj, const int how, 
5707                 const MGVTBL *const vtable, const char *const name, const I32 namlen)
5708 {
5709     MAGIC* mg;
5710
5711     PERL_ARGS_ASSERT_SV_MAGICEXT;
5712
5713     SvUPGRADE(sv, SVt_PVMG);
5714     Newxz(mg, 1, MAGIC);
5715     mg->mg_moremagic = SvMAGIC(sv);
5716     SvMAGIC_set(sv, mg);
5717
5718     /* Sometimes a magic contains a reference loop, where the sv and
5719        object refer to each other.  To prevent a reference loop that
5720        would prevent such objects being freed, we look for such loops
5721        and if we find one we avoid incrementing the object refcount.
5722
5723        Note we cannot do this to avoid self-tie loops as intervening RV must
5724        have its REFCNT incremented to keep it in existence.
5725
5726     */
5727     if (!obj || obj == sv ||
5728         how == PERL_MAGIC_arylen ||
5729         how == PERL_MAGIC_regdata ||
5730         how == PERL_MAGIC_regdatum ||
5731         how == PERL_MAGIC_symtab ||
5732         (SvTYPE(obj) == SVt_PVGV &&
5733             (GvSV(obj) == sv || GvHV(obj) == (const HV *)sv
5734              || GvAV(obj) == (const AV *)sv || GvCV(obj) == (const CV *)sv
5735              || GvIOp(obj) == (const IO *)sv || GvFORM(obj) == (const CV *)sv)))
5736     {
5737         mg->mg_obj = obj;
5738     }
5739     else {
5740         mg->mg_obj = SvREFCNT_inc_simple(obj);
5741         mg->mg_flags |= MGf_REFCOUNTED;
5742     }
5743
5744     /* Normal self-ties simply pass a null object, and instead of
5745        using mg_obj directly, use the SvTIED_obj macro to produce a
5746        new RV as needed.  For glob "self-ties", we are tieing the PVIO
5747        with an RV obj pointing to the glob containing the PVIO.  In
5748        this case, to avoid a reference loop, we need to weaken the
5749        reference.
5750     */
5751
5752     if (how == PERL_MAGIC_tiedscalar && SvTYPE(sv) == SVt_PVIO &&
5753         obj && SvROK(obj) && GvIO(SvRV(obj)) == (const IO *)sv)
5754     {
5755       sv_rvweaken(obj);
5756     }
5757
5758     mg->mg_type = how;
5759     mg->mg_len = namlen;
5760     if (name) {
5761         if (namlen > 0)
5762             mg->mg_ptr = savepvn(name, namlen);
5763         else if (namlen == HEf_SVKEY) {
5764             /* Yes, this is casting away const. This is only for the case of
5765                HEf_SVKEY. I think we need to document this aberation of the
5766                constness of the API, rather than making name non-const, as
5767                that change propagating outwards a long way.  */
5768             mg->mg_ptr = (char*)SvREFCNT_inc_simple_NN((SV *)name);
5769         } else
5770             mg->mg_ptr = (char *) name;
5771     }
5772     mg->mg_virtual = (MGVTBL *) vtable;
5773
5774     mg_magical(sv);
5775     return mg;
5776 }
5777
5778 MAGIC *
5779 Perl_sv_magicext_mglob(pTHX_ SV *sv)
5780 {
5781     PERL_ARGS_ASSERT_SV_MAGICEXT_MGLOB;
5782     if (SvTYPE(sv) == SVt_PVLV && LvTYPE(sv) == 'y') {
5783         /* This sv is only a delegate.  //g magic must be attached to
5784            its target. */
5785         vivify_defelem(sv);
5786         sv = LvTARG(sv);
5787     }
5788     return sv_magicext(sv, NULL, PERL_MAGIC_regex_global,
5789                        &PL_vtbl_mglob, 0, 0);
5790 }
5791
5792 /*
5793 =for apidoc sv_magic
5794
5795 Adds magic to an SV.  First upgrades C<sv> to type C<SVt_PVMG> if
5796 necessary, then adds a new magic item of type C<how> to the head of the
5797 magic list.
5798
5799 See C<L</sv_magicext>> (which C<sv_magic> now calls) for a description of the
5800 handling of the C<name> and C<namlen> arguments.
5801
5802 You need to use C<sv_magicext> to add magic to C<SvREADONLY> SVs and also
5803 to add more than one instance of the same C<how>.
5804
5805 =cut
5806 */
5807
5808 void
5809 Perl_sv_magic(pTHX_ SV *const sv, SV *const obj, const int how,
5810              const char *const name, const I32 namlen)
5811 {
5812     const MGVTBL *vtable;
5813     MAGIC* mg;
5814     unsigned int flags;
5815     unsigned int vtable_index;
5816
5817     PERL_ARGS_ASSERT_SV_MAGIC;
5818
5819     if (how < 0 || (unsigned)how >= C_ARRAY_LENGTH(PL_magic_data)
5820         || ((flags = PL_magic_data[how]),
5821             (vtable_index = flags & PERL_MAGIC_VTABLE_MASK)
5822             > magic_vtable_max))
5823         Perl_croak(aTHX_ "Don't know how to handle magic of type \\%o", how);
5824
5825     /* PERL_MAGIC_ext is reserved for use by extensions not perl internals.
5826        Useful for attaching extension internal data to perl vars.
5827        Note that multiple extensions may clash if magical scalars
5828        etc holding private data from one are passed to another. */
5829
5830     vtable = (vtable_index == magic_vtable_max)
5831         ? NULL : PL_magic_vtables + vtable_index;
5832
5833     if (SvREADONLY(sv)) {
5834         if (
5835             !PERL_MAGIC_TYPE_READONLY_ACCEPTABLE(how)
5836            )
5837         {
5838             Perl_croak_no_modify();
5839         }
5840     }
5841     if (SvMAGICAL(sv) || (how == PERL_MAGIC_taint && SvTYPE(sv) >= SVt_PVMG)) {
5842         if (SvMAGIC(sv) && (mg = mg_find(sv, how))) {
5843             /* sv_magic() refuses to add a magic of the same 'how' as an
5844                existing one
5845              */
5846             if (how == PERL_MAGIC_taint)
5847                 mg->mg_len |= 1;
5848             return;
5849         }
5850     }
5851
5852     /* Force pos to be stored as characters, not bytes. */
5853     if (SvMAGICAL(sv) && DO_UTF8(sv)
5854       && (mg = mg_find(sv, PERL_MAGIC_regex_global))
5855       && mg->mg_len != -1
5856       && mg->mg_flags & MGf_BYTES) {
5857         mg->mg_len = (SSize_t)sv_pos_b2u_flags(sv, (STRLEN)mg->mg_len,
5858                                                SV_CONST_RETURN);
5859         mg->mg_flags &= ~MGf_BYTES;
5860     }
5861
5862     /* Rest of work is done else where */
5863     mg = sv_magicext(sv,obj,how,vtable,name,namlen);
5864
5865     switch (how) {
5866     case PERL_MAGIC_taint:
5867         mg->mg_len = 1;
5868         break;
5869     case PERL_MAGIC_ext:
5870     case PERL_MAGIC_dbfile:
5871         SvRMAGICAL_on(sv);
5872         break;
5873     }
5874 }
5875
5876 static int
5877 S_sv_unmagicext_flags(pTHX_ SV *const sv, const int type, MGVTBL *vtbl, const U32 flags)
5878 {
5879     MAGIC* mg;
5880     MAGIC** mgp;
5881
5882     assert(flags <= 1);
5883
5884     if (SvTYPE(sv) < SVt_PVMG || !SvMAGIC(sv))
5885         return 0;
5886     mgp = &(((XPVMG*) SvANY(sv))->xmg_u.xmg_magic);
5887     for (mg = *mgp; mg; mg = *mgp) {
5888         const MGVTBL* const virt = mg->mg_virtual;
5889         if (mg->mg_type == type && (!flags || virt == vtbl)) {
5890             *mgp = mg->mg_moremagic;
5891             if (virt && virt->svt_free)
5892                 virt->svt_free(aTHX_ sv, mg);
5893             if (mg->mg_ptr && mg->mg_type != PERL_MAGIC_regex_global) {
5894                 if (mg->mg_len > 0)
5895                     Safefree(mg->mg_ptr);
5896                 else if (mg->mg_len == HEf_SVKEY)
5897                     SvREFCNT_dec(MUTABLE_SV(mg->mg_ptr));
5898                 else if (mg->mg_type == PERL_MAGIC_utf8)
5899                     Safefree(mg->mg_ptr);
5900             }
5901             if (mg->mg_flags & MGf_REFCOUNTED)
5902                 SvREFCNT_dec(mg->mg_obj);
5903             Safefree(mg);
5904         }
5905         else
5906             mgp = &mg->mg_moremagic;
5907     }
5908     if (SvMAGIC(sv)) {
5909         if (SvMAGICAL(sv))      /* if we're under save_magic, wait for restore_magic; */
5910             mg_magical(sv);     /*    else fix the flags now */
5911     }
5912     else
5913         SvMAGICAL_off(sv);
5914
5915     return 0;
5916 }
5917
5918 /*
5919 =for apidoc sv_unmagic
5920
5921 Removes all magic of type C<type> from an SV.
5922
5923 =cut
5924 */
5925
5926 int
5927 Perl_sv_unmagic(pTHX_ SV *const sv, const int type)
5928 {
5929     PERL_ARGS_ASSERT_SV_UNMAGIC;
5930     return S_sv_unmagicext_flags(aTHX_ sv, type, NULL, 0);
5931 }
5932
5933 /*
5934 =for apidoc sv_unmagicext
5935
5936 Removes all magic of type C<type> with the specified C<vtbl> from an SV.
5937
5938 =cut
5939 */
5940
5941 int
5942 Perl_sv_unmagicext(pTHX_ SV *const sv, const int type, MGVTBL *vtbl)
5943 {
5944     PERL_ARGS_ASSERT_SV_UNMAGICEXT;
5945     return S_sv_unmagicext_flags(aTHX_ sv, type, vtbl, 1);
5946 }
5947
5948 /*
5949 =for apidoc sv_rvweaken
5950
5951 Weaken a reference: set the C<SvWEAKREF> flag on this RV; give the
5952 referred-to SV C<PERL_MAGIC_backref> magic if it hasn't already; and
5953 push a back-reference to this RV onto the array of backreferences
5954 associated with that magic.  If the RV is magical, set magic will be
5955 called after the RV is cleared.
5956
5957 =cut
5958 */
5959
5960 SV *
5961 Perl_sv_rvweaken(pTHX_ SV *const sv)
5962 {
5963     SV *tsv;
5964
5965     PERL_ARGS_ASSERT_SV_RVWEAKEN;
5966
5967     if (!SvOK(sv))  /* let undefs pass */
5968         return sv;
5969     if (!SvROK(sv))
5970         Perl_croak(aTHX_ "Can't weaken a nonreference");
5971     else if (SvWEAKREF(sv)) {
5972         Perl_ck_warner(aTHX_ packWARN(WARN_MISC), "Reference is already weak");
5973         return sv;
5974     }
5975     else if (SvREADONLY(sv)) croak_no_modify();
5976     tsv = SvRV(sv);
5977     Perl_sv_add_backref(aTHX_ tsv, sv);
5978     SvWEAKREF_on(sv);
5979     SvREFCNT_dec_NN(tsv);
5980     return sv;
5981 }
5982
5983 /*
5984 =for apidoc sv_get_backrefs
5985
5986 If C<sv> is the target of a weak reference then it returns the back
5987 references structure associated with the sv; otherwise return C<NULL>.
5988
5989 When returning a non-null result the type of the return is relevant. If it
5990 is an AV then the elements of the AV are the weak reference RVs which
5991 point at this item. If it is any other type then the item itself is the
5992 weak reference.
5993
5994 See also C<Perl_sv_add_backref()>, C<Perl_sv_del_backref()>,
5995 C<Perl_sv_kill_backrefs()>
5996
5997 =cut
5998 */
5999
6000 SV *
6001 Perl_sv_get_backrefs(SV *const sv)
6002 {
6003     SV *backrefs= NULL;
6004
6005     PERL_ARGS_ASSERT_SV_GET_BACKREFS;
6006
6007     /* find slot to store array or singleton backref */
6008
6009     if (SvTYPE(sv) == SVt_PVHV) {
6010         if (SvOOK(sv)) {
6011             struct xpvhv_aux * const iter = HvAUX((HV *)sv);
6012             backrefs = (SV *)iter->xhv_backreferences;
6013         }
6014     } else if (SvMAGICAL(sv)) {
6015         MAGIC *mg = mg_find(sv, PERL_MAGIC_backref);
6016         if (mg)
6017             backrefs = mg->mg_obj;
6018     }
6019     return backrefs;
6020 }
6021
6022 /* Give tsv backref magic if it hasn't already got it, then push a
6023  * back-reference to sv onto the array associated with the backref magic.
6024  *
6025  * As an optimisation, if there's only one backref and it's not an AV,
6026  * store it directly in the HvAUX or mg_obj slot, avoiding the need to
6027  * allocate an AV. (Whether the slot holds an AV tells us whether this is
6028  * active.)
6029  */
6030
6031 /* A discussion about the backreferences array and its refcount:
6032  *
6033  * The AV holding the backreferences is pointed to either as the mg_obj of
6034  * PERL_MAGIC_backref, or in the specific case of a HV, from the
6035  * xhv_backreferences field. The array is created with a refcount
6036  * of 2. This means that if during global destruction the array gets
6037  * picked on before its parent to have its refcount decremented by the
6038  * random zapper, it won't actually be freed, meaning it's still there for
6039  * when its parent gets freed.
6040  *
6041  * When the parent SV is freed, the extra ref is killed by
6042  * Perl_sv_kill_backrefs.  The other ref is killed, in the case of magic,
6043  * by mg_free() / MGf_REFCOUNTED, or for a hash, by Perl_hv_kill_backrefs.
6044  *
6045  * When a single backref SV is stored directly, it is not reference
6046  * counted.
6047  */
6048
6049 void
6050 Perl_sv_add_backref(pTHX_ SV *const tsv, SV *const sv)
6051 {
6052     SV **svp;
6053     AV *av = NULL;
6054     MAGIC *mg = NULL;
6055
6056     PERL_ARGS_ASSERT_SV_ADD_BACKREF;
6057
6058     /* find slot to store array or singleton backref */
6059
6060     if (SvTYPE(tsv) == SVt_PVHV) {
6061         svp = (SV**)Perl_hv_backreferences_p(aTHX_ MUTABLE_HV(tsv));
6062     } else {
6063         if (SvMAGICAL(tsv))
6064             mg = mg_find(tsv, PERL_MAGIC_backref);
6065         if (!mg)
6066             mg = sv_magicext(tsv, NULL, PERL_MAGIC_backref, &PL_vtbl_backref, NULL, 0);
6067         svp = &(mg->mg_obj);
6068     }
6069
6070     /* create or retrieve the array */
6071
6072     if (   (!*svp && SvTYPE(sv) == SVt_PVAV)
6073         || (*svp && SvTYPE(*svp) != SVt_PVAV)
6074     ) {
6075         /* create array */
6076         if (mg)
6077             mg->mg_flags |= MGf_REFCOUNTED;
6078         av = newAV();
6079         AvREAL_off(av);
6080         SvREFCNT_inc_simple_void_NN(av);
6081         /* av now has a refcnt of 2; see discussion above */
6082         av_extend(av, *svp ? 2 : 1);
6083         if (*svp) {
6084             /* move single existing backref to the array */
6085             AvARRAY(av)[++AvFILLp(av)] = *svp; /* av_push() */
6086         }
6087         *svp = (SV*)av;
6088     }
6089     else {
6090         av = MUTABLE_AV(*svp);
6091         if (!av) {
6092             /* optimisation: store single backref directly in HvAUX or mg_obj */
6093             *svp = sv;
6094             return;
6095         }
6096         assert(SvTYPE(av) == SVt_PVAV);
6097         if (AvFILLp(av) >= AvMAX(av)) {
6098             av_extend(av, AvFILLp(av)+1);
6099         }
6100     }
6101     /* push new backref */
6102     AvARRAY(av)[++AvFILLp(av)] = sv; /* av_push() */
6103 }
6104
6105 /* delete a back-reference to ourselves from the backref magic associated
6106  * with the SV we point to.
6107  */
6108
6109 void
6110 Perl_sv_del_backref(pTHX_ SV *const tsv, SV *const sv)
6111 {
6112     SV **svp = NULL;
6113
6114     PERL_ARGS_ASSERT_SV_DEL_BACKREF;
6115
6116     if (SvTYPE(tsv) == SVt_PVHV) {
6117         if (SvOOK(tsv))
6118             svp = (SV**)Perl_hv_backreferences_p(aTHX_ MUTABLE_HV(tsv));
6119     }
6120     else if (SvIS_FREED(tsv) && PL_phase == PERL_PHASE_DESTRUCT) {
6121         /* It's possible for the the last (strong) reference to tsv to have
6122            become freed *before* the last thing holding a weak reference.
6123            If both survive longer than the backreferences array, then when
6124            the referent's reference count drops to 0 and it is freed, it's
6125            not able to chase the backreferences, so they aren't NULLed.
6126
6127            For example, a CV holds a weak reference to its stash. If both the
6128            CV and the stash survive longer than the backreferences array,
6129            and the CV gets picked for the SvBREAK() treatment first,
6130            *and* it turns out that the stash is only being kept alive because
6131            of an our variable in the pad of the CV, then midway during CV
6132            destruction the stash gets freed, but CvSTASH() isn't set to NULL.
6133            It ends up pointing to the freed HV. Hence it's chased in here, and
6134            if this block wasn't here, it would hit the !svp panic just below.
6135
6136            I don't believe that "better" destruction ordering is going to help
6137            here - during global destruction there's always going to be the
6138            chance that something goes out of order. We've tried to make it
6139            foolproof before, and it only resulted in evolutionary pressure on
6140            fools. Which made us look foolish for our hubris. :-(
6141         */
6142         return;
6143     }
6144     else {
6145         MAGIC *const mg
6146             = SvMAGICAL(tsv) ? mg_find(tsv, PERL_MAGIC_backref) : NULL;
6147         svp =  mg ? &(mg->mg_obj) : NULL;
6148     }
6149
6150     if (!svp)
6151         Perl_croak(aTHX_ "panic: del_backref, svp=0");
6152     if (!*svp) {
6153         /* It's possible that sv is being freed recursively part way through the
6154            freeing of tsv. If this happens, the backreferences array of tsv has
6155            already been freed, and so svp will be NULL. If this is the case,
6156            we should not panic. Instead, nothing needs doing, so return.  */
6157         if (PL_phase == PERL_PHASE_DESTRUCT && SvREFCNT(tsv) == 0)
6158             return;
6159         Perl_croak(aTHX_ "panic: del_backref, *svp=%p phase=%s refcnt=%" UVuf,
6160                    (void*)*svp, PL_phase_names[PL_phase], (UV)SvREFCNT(tsv));
6161     }
6162
6163     if (SvTYPE(*svp) == SVt_PVAV) {
6164 #ifdef DEBUGGING
6165         int count = 1;
6166 #endif
6167         AV * const av = (AV*)*svp;
6168         SSize_t fill;
6169         assert(!SvIS_FREED(av));
6170         fill = AvFILLp(av);
6171         assert(fill > -1);
6172         svp = AvARRAY(av);
6173         /* for an SV with N weak references to it, if all those
6174          * weak refs are deleted, then sv_del_backref will be called
6175          * N times and O(N^2) compares will be done within the backref
6176          * array. To ameliorate this potential slowness, we:
6177          * 1) make sure this code is as tight as possible;
6178          * 2) when looking for SV, look for it at both the head and tail of the
6179          *    array first before searching the rest, since some create/destroy
6180          *    patterns will cause the backrefs to be freed in order.
6181          */
6182         if (*svp == sv) {
6183             AvARRAY(av)++;
6184             AvMAX(av)--;
6185         }
6186         else {
6187             SV **p = &svp[fill];
6188             SV *const topsv = *p;
6189             if (topsv != sv) {
6190 #ifdef DEBUGGING
6191                 count = 0;
6192 #endif
6193                 while (--p > svp) {
6194                     if (*p == sv) {
6195                         /* We weren't the last entry.
6196                            An unordered list has this property that you
6197                            can take the last element off the end to fill
6198                            the hole, and it's still an unordered list :-)
6199                         */
6200                         *p = topsv;
6201 #ifdef DEBUGGING
6202                         count++;
6203 #else
6204                         break; /* should only be one */
6205 #endif
6206                     }
6207                 }
6208             }
6209         }
6210         assert(count ==1);
6211         AvFILLp(av) = fill-1;
6212     }
6213     else if (SvIS_FREED(*svp) && PL_phase == PERL_PHASE_DESTRUCT) {
6214         /* freed AV; skip */
6215     }
6216     else {
6217         /* optimisation: only a single backref, stored directly */
6218         if (*svp != sv)
6219             Perl_croak(aTHX_ "panic: del_backref, *svp=%p, sv=%p",
6220                        (void*)*svp, (void*)sv);
6221         *svp = NULL;
6222     }
6223
6224 }
6225
6226 void
6227 Perl_sv_kill_backrefs(pTHX_ SV *const sv, AV *const av)
6228 {
6229     SV **svp;
6230     SV **last;
6231     bool is_array;
6232
6233     PERL_ARGS_ASSERT_SV_KILL_BACKREFS;
6234
6235     if (!av)
6236         return;
6237
6238     /* after multiple passes through Perl_sv_clean_all() for a thingy
6239      * that has badly leaked, the backref array may have gotten freed,
6240      * since we only protect it against 1 round of cleanup */
6241     if (SvIS_FREED(av)) {
6242         if (PL_in_clean_all) /* All is fair */
6243             return;
6244         Perl_croak(aTHX_
6245                    "panic: magic_killbackrefs (freed backref AV/SV)");
6246     }
6247
6248
6249     is_array = (SvTYPE(av) == SVt_PVAV);
6250     if (is_array) {
6251         assert(!SvIS_FREED(av));
6252         svp = AvARRAY(av);
6253         if (svp)
6254             last = svp + AvFILLp(av);
6255     }
6256     else {
6257         /* optimisation: only a single backref, stored directly */
6258         svp = (SV**)&av;
6259         last = svp;
6260     }
6261
6262     if (svp) {
6263         while (svp <= last) {
6264             if (*svp) {
6265                 SV *const referrer = *svp;
6266                 if (SvWEAKREF(referrer)) {
6267                     /* XXX Should we check that it hasn't changed? */
6268                     assert(SvROK(referrer));
6269                     SvRV_set(referrer, 0);
6270                     SvOK_off(referrer);
6271                     SvWEAKREF_off(referrer);
6272                     SvSETMAGIC(referrer);
6273                 } else if (SvTYPE(referrer) == SVt_PVGV ||
6274                            SvTYPE(referrer) == SVt_PVLV) {
6275                     assert(SvTYPE(sv) == SVt_PVHV); /* stash backref */
6276                     /* You lookin' at me?  */
6277                     assert(GvSTASH(referrer));
6278                     assert(GvSTASH(referrer) == (const HV *)sv);
6279                     GvSTASH(referrer) = 0;
6280                 } else if (SvTYPE(referrer) == SVt_PVCV ||
6281                            SvTYPE(referrer) == SVt_PVFM) {
6282                     if (SvTYPE(sv) == SVt_PVHV) { /* stash backref */
6283                         /* You lookin' at me?  */
6284                         assert(CvSTASH(referrer));
6285                         assert(CvSTASH(referrer) == (const HV *)sv);
6286                         SvANY(MUTABLE_CV(referrer))->xcv_stash = 0;
6287                     }
6288                     else {
6289                         assert(SvTYPE(sv) == SVt_PVGV);
6290                         /* You lookin' at me?  */
6291                         assert(CvGV(referrer));
6292                         assert(CvGV(referrer) == (const GV *)sv);
6293                         anonymise_cv_maybe(MUTABLE_GV(sv),
6294                                                 MUTABLE_CV(referrer));
6295                     }
6296
6297                 } else {
6298                     Perl_croak(aTHX_
6299                                "panic: magic_killbackrefs (flags=%" UVxf ")",
6300                                (UV)SvFLAGS(referrer));
6301                 }
6302
6303                 if (is_array)
6304                     *svp = NULL;
6305             }
6306             svp++;
6307         }
6308     }
6309     if (is_array) {
6310         AvFILLp(av) = -1;
6311         SvREFCNT_dec_NN(av); /* remove extra count added by sv_add_backref() */
6312     }
6313     return;
6314 }
6315
6316 /*
6317 =for apidoc sv_insert
6318
6319 Inserts a string at the specified offset/length within the SV.  Similar to
6320 the Perl C<substr()> function.  Handles get magic.
6321
6322 =for apidoc sv_insert_flags
6323
6324 Same as C<sv_insert>, but the extra C<flags> are passed to the
6325 C<SvPV_force_flags> that applies to C<bigstr>.
6326
6327 =cut
6328 */
6329
6330 void
6331 Perl_sv_insert_flags(pTHX_ SV *const bigstr, const STRLEN offset, const STRLEN len, const char *const little, const STRLEN littlelen, const U32 flags)
6332 {
6333     char *big;
6334     char *mid;
6335     char *midend;
6336     char *bigend;
6337     SSize_t i;          /* better be sizeof(STRLEN) or bad things happen */
6338     STRLEN curlen;
6339
6340     PERL_ARGS_ASSERT_SV_INSERT_FLAGS;
6341
6342     SvPV_force_flags(bigstr, curlen, flags);
6343     (void)SvPOK_only_UTF8(bigstr);
6344     if (offset + len > curlen) {
6345         SvGROW(bigstr, offset+len+1);
6346         Zero(SvPVX(bigstr)+curlen, offset+len-curlen, char);
6347         SvCUR_set(bigstr, offset+len);
6348     }
6349
6350     SvTAINT(bigstr);
6351     i = littlelen - len;
6352     if (i > 0) {                        /* string might grow */
6353         big = SvGROW(bigstr, SvCUR(bigstr) + i + 1);
6354         mid = big + offset + len;
6355         midend = bigend = big + SvCUR(bigstr);
6356         bigend += i;
6357         *bigend = '\0';
6358         while (midend > mid)            /* shove everything down */
6359             *--bigend = *--midend;
6360         Move(little,big+offset,littlelen,char);
6361         SvCUR_set(bigstr, SvCUR(bigstr) + i);
6362         SvSETMAGIC(bigstr);
6363         return;
6364     }
6365     else if (i == 0) {
6366         Move(little,SvPVX(bigstr)+offset,len,char);
6367         SvSETMAGIC(bigstr);
6368         return;
6369     }
6370
6371     big = SvPVX(bigstr);
6372     mid = big + offset;
6373     midend = mid + len;
6374     bigend = big + SvCUR(bigstr);
6375
6376     if (midend > bigend)
6377         Perl_croak(aTHX_ "panic: sv_insert, midend=%p, bigend=%p",
6378                    midend, bigend);
6379
6380     if (mid - big > bigend - midend) {  /* faster to shorten from end */
6381         if (littlelen) {
6382             Move(little, mid, littlelen,char);
6383             mid += littlelen;
6384         }
6385         i = bigend - midend;
6386         if (i > 0) {
6387             Move(midend, mid, i,char);
6388             mid += i;
6389         }
6390         *mid = '\0';
6391         SvCUR_set(bigstr, mid - big);
6392     }
6393     else if ((i = mid - big)) { /* faster from front */
6394         midend -= littlelen;
6395         mid = midend;
6396         Move(big, midend - i, i, char);
6397         sv_chop(bigstr,midend-i);
6398         if (littlelen)
6399             Move(little, mid, littlelen,char);
6400     }
6401     else if (littlelen) {
6402         midend -= littlelen;
6403         sv_chop(bigstr,midend);
6404         Move(little,midend,littlelen,char);
6405     }
6406     else {
6407         sv_chop(bigstr,midend);
6408     }
6409     SvSETMAGIC(bigstr);
6410 }
6411
6412 /*
6413 =for apidoc sv_replace
6414
6415 Make the first argument a copy of the second, then delete the original.
6416 The target SV physically takes over ownership of the body of the source SV
6417 and inherits its flags; however, the target keeps any magic it owns,
6418 and any magic in the source is discarded.
6419 Note that this is a rather specialist SV copying operation; most of the
6420 time you'll want to use C<sv_setsv> or one of its many macro front-ends.
6421
6422 =cut
6423 */
6424
6425 void
6426 Perl_sv_replace(pTHX_ SV *const sv, SV *const nsv)
6427 {
6428     const U32 refcnt = SvREFCNT(sv);
6429
6430     PERL_ARGS_ASSERT_SV_REPLACE;
6431
6432     SV_CHECK_THINKFIRST_COW_DROP(sv);
6433     if (SvREFCNT(nsv) != 1) {
6434         Perl_croak(aTHX_ "panic: reference miscount on nsv in sv_replace()"
6435                    " (%" UVuf " != 1)", (UV) SvREFCNT(nsv));
6436     }
6437     if (SvMAGICAL(sv)) {
6438         if (SvMAGICAL(nsv))
6439             mg_free(nsv);
6440         else
6441             sv_upgrade(nsv, SVt_PVMG);
6442         SvMAGIC_set(nsv, SvMAGIC(sv));
6443         SvFLAGS(nsv) |= SvMAGICAL(sv);
6444         SvMAGICAL_off(sv);
6445         SvMAGIC_set(sv, NULL);
6446     }
6447     SvREFCNT(sv) = 0;
6448     sv_clear(sv);
6449     assert(!SvREFCNT(sv));
6450 #ifdef DEBUG_LEAKING_SCALARS
6451     sv->sv_flags  = nsv->sv_flags;
6452     sv->sv_any    = nsv->sv_any;
6453     sv->sv_refcnt = nsv->sv_refcnt;
6454     sv->sv_u      = nsv->sv_u;
6455 #else
6456     StructCopy(nsv,sv,SV);
6457 #endif
6458     if(SvTYPE(sv) == SVt_IV) {
6459         SET_SVANY_FOR_BODYLESS_IV(sv);
6460     }
6461         
6462
6463     SvREFCNT(sv) = refcnt;
6464     SvFLAGS(nsv) |= SVTYPEMASK;         /* Mark as freed */
6465     SvREFCNT(nsv) = 0;
6466     del_SV(nsv);
6467 }
6468
6469 /* We're about to free a GV which has a CV that refers back to us.
6470  * If that CV will outlive us, make it anonymous (i.e. fix up its CvGV
6471  * field) */
6472
6473 STATIC void
6474 S_anonymise_cv_maybe(pTHX_ GV *gv, CV* cv)
6475 {
6476     SV *gvname;
6477     GV *anongv;
6478
6479     PERL_ARGS_ASSERT_ANONYMISE_CV_MAYBE;
6480
6481     /* be assertive! */
6482     assert(SvREFCNT(gv) == 0);
6483     assert(isGV(gv) && isGV_with_GP(gv));
6484     assert(GvGP(gv));
6485     assert(!CvANON(cv));
6486     assert(CvGV(cv) == gv);
6487     assert(!CvNAMED(cv));
6488
6489     /* will the CV shortly be freed by gp_free() ? */
6490     if (GvCV(gv) == cv && GvGP(gv)->gp_refcnt < 2 && SvREFCNT(cv) < 2) {
6491         SvANY(cv)->xcv_gv_u.xcv_gv = NULL;
6492         return;
6493     }
6494
6495     /* if not, anonymise: */
6496     gvname = (GvSTASH(gv) && HvNAME(GvSTASH(gv)) && HvENAME(GvSTASH(gv)))
6497                     ? newSVhek(HvENAME_HEK(GvSTASH(gv)))
6498                     : newSVpvn_flags( "__ANON__", 8, 0 );
6499     sv_catpvs(gvname, "::__ANON__");
6500     anongv = gv_fetchsv(gvname, GV_ADDMULTI, SVt_PVCV);
6501     SvREFCNT_dec_NN(gvname);
6502
6503     CvANON_on(cv);
6504     CvCVGV_RC_on(cv);
6505     SvANY(cv)->xcv_gv_u.xcv_gv = MUTABLE_GV(SvREFCNT_inc(anongv));
6506 }
6507
6508
6509 /*
6510 =for apidoc sv_clear
6511
6512 Clear an SV: call any destructors, free up any memory used by the body,
6513 and free the body itself.  The SV's head is I<not> freed, although
6514 its type is set to all 1's so that it won't inadvertently be assumed
6515 to be live during global destruction etc.
6516 This function should only be called when C<REFCNT> is zero.  Most of the time
6517 you'll want to call C<sv_free()> (or its macro wrapper C<SvREFCNT_dec>)
6518 instead.
6519
6520 =cut
6521 */
6522
6523 void
6524 Perl_sv_clear(pTHX_ SV *const orig_sv)
6525 {
6526     dVAR;
6527     HV *stash;
6528     U32 type;
6529     const struct body_details *sv_type_details;
6530     SV* iter_sv = NULL;
6531     SV* next_sv = NULL;
6532     SV *sv = orig_sv;
6533     STRLEN hash_index = 0; /* initialise to make Coverity et al happy.
6534                               Not strictly necessary */
6535
6536     PERL_ARGS_ASSERT_SV_CLEAR;
6537
6538     /* within this loop, sv is the SV currently being freed, and
6539      * iter_sv is the most recent AV or whatever that's being iterated
6540      * over to provide more SVs */
6541
6542     while (sv) {
6543
6544         type = SvTYPE(sv);
6545
6546         assert(SvREFCNT(sv) == 0);
6547         assert(SvTYPE(sv) != (svtype)SVTYPEMASK);
6548
6549         if (type <= SVt_IV) {
6550             /* See the comment in sv.h about the collusion between this
6551              * early return and the overloading of the NULL slots in the
6552              * size table.  */
6553             if (SvROK(sv))
6554                 goto free_rv;
6555             SvFLAGS(sv) &= SVf_BREAK;
6556             SvFLAGS(sv) |= SVTYPEMASK;
6557             goto free_head;
6558         }
6559
6560         /* objs are always >= MG, but pad names use the SVs_OBJECT flag
6561            for another purpose  */
6562         assert(!SvOBJECT(sv) || type >= SVt_PVMG);
6563
6564         if (type >= SVt_PVMG) {
6565             if (SvOBJECT(sv)) {
6566                 if (!curse(sv, 1)) goto get_next_sv;
6567                 type = SvTYPE(sv); /* destructor may have changed it */
6568             }
6569             /* Free back-references before magic, in case the magic calls
6570              * Perl code that has weak references to sv. */
6571             if (type == SVt_PVHV) {
6572                 Perl_hv_kill_backrefs(aTHX_ MUTABLE_HV(sv));
6573                 if (SvMAGIC(sv))
6574                     mg_free(sv);
6575             }
6576             else if (SvMAGIC(sv)) {
6577                 /* Free back-references before other types of magic. */
6578                 sv_unmagic(sv, PERL_MAGIC_backref);
6579                 mg_free(sv);
6580             }
6581             SvMAGICAL_off(sv);
6582         }
6583         switch (type) {
6584             /* case SVt_INVLIST: */
6585         case SVt_PVIO:
6586             if (IoIFP(sv) &&
6587                 IoIFP(sv) != PerlIO_stdin() &&
6588                 IoIFP(sv) != PerlIO_stdout() &&
6589                 IoIFP(sv) != PerlIO_stderr() &&
6590                 !(IoFLAGS(sv) & IOf_FAKE_DIRP))
6591             {
6592                 io_close(MUTABLE_IO(sv), NULL, FALSE,
6593                          (IoTYPE(sv) == IoTYPE_WRONLY ||
6594                           IoTYPE(sv) == IoTYPE_RDWR   ||
6595                           IoTYPE(sv) == IoTYPE_APPEND));
6596             }
6597             if (IoDIRP(sv) && !(IoFLAGS(sv) & IOf_FAKE_DIRP))
6598                 PerlDir_close(IoDIRP(sv));
6599             IoDIRP(sv) = (DIR*)NULL;
6600             Safefree(IoTOP_NAME(sv));
6601             Safefree(IoFMT_NAME(sv));
6602             Safefree(IoBOTTOM_NAME(sv));
6603             if ((const GV *)sv == PL_statgv)
6604                 PL_statgv = NULL;
6605             goto freescalar;
6606         case SVt_REGEXP:
6607             /* FIXME for plugins */
6608           freeregexp:
6609             pregfree2((REGEXP*) sv);
6610             goto freescalar;
6611         case SVt_PVCV:
6612         case SVt_PVFM:
6613             cv_undef(MUTABLE_CV(sv));
6614             /* If we're in a stash, we don't own a reference to it.
6615              * However it does have a back reference to us, which needs to
6616              * be cleared.  */
6617             if ((stash = CvSTASH(sv)))
6618                 sv_del_backref(MUTABLE_SV(stash), sv);
6619             goto freescalar;
6620         case SVt_PVHV:
6621             if (PL_last_swash_hv == (const HV *)sv) {
6622                 PL_last_swash_hv = NULL;
6623             }
6624             if (HvTOTALKEYS((HV*)sv) > 0) {
6625                 const HEK *hek;
6626                 /* this statement should match the one at the beginning of
6627                  * hv_undef_flags() */
6628                 if (   PL_phase != PERL_PHASE_DESTRUCT
6629                     && (hek = HvNAME_HEK((HV*)sv)))
6630                 {
6631                     if (PL_stashcache) {
6632                         DEBUG_o(Perl_deb(aTHX_
6633                             "sv_clear clearing PL_stashcache for '%" HEKf
6634                             "'\n",
6635                              HEKfARG(hek)));
6636                         (void)hv_deletehek(PL_stashcache,
6637                                            hek, G_DISCARD);
6638                     }
6639                     hv_name_set((HV*)sv, NULL, 0, 0);
6640                 }
6641
6642                 /* save old iter_sv in unused SvSTASH field */
6643                 assert(!SvOBJECT(sv));
6644                 SvSTASH(sv) = (HV*)iter_sv;
6645                 iter_sv = sv;
6646
6647                 /* save old hash_index in unused SvMAGIC field */
6648                 assert(!SvMAGICAL(sv));
6649                 assert(!SvMAGIC(sv));
6650                 ((XPVMG*) SvANY(sv))->xmg_u.xmg_hash_index = hash_index;
6651                 hash_index = 0;
6652
6653                 next_sv = Perl_hfree_next_entry(aTHX_ (HV*)sv, &hash_index);
6654                 goto get_next_sv; /* process this new sv */
6655             }
6656             /* free empty hash */
6657             Perl_hv_undef_flags(aTHX_ MUTABLE_HV(sv), HV_NAME_SETALL);
6658             assert(!HvARRAY((HV*)sv));
6659             break;
6660         case SVt_PVAV:
6661             {
6662                 AV* av = MUTABLE_AV(sv);
6663                 if (PL_comppad == av) {
6664                     PL_comppad = NULL;
6665                     PL_curpad = NULL;
6666                 }
6667                 if (AvREAL(av) && AvFILLp(av) > -1) {
6668                     next_sv = AvARRAY(av)[AvFILLp(av)--];
6669                     /* save old iter_sv in top-most slot of AV,
6670                      * and pray that it doesn't get wiped in the meantime */
6671                     AvARRAY(av)[AvMAX(av)] = iter_sv;
6672                     iter_sv = sv;
6673                     goto get_next_sv; /* process this new sv */
6674                 }
6675                 Safefree(AvALLOC(av));
6676             }
6677
6678             break;
6679         case SVt_PVLV:
6680             if (LvTYPE(sv) == 'T') { /* for tie: return HE to pool */
6681                 SvREFCNT_dec(HeKEY_sv((HE*)LvTARG(sv)));
6682                 HeNEXT((HE*)LvTARG(sv)) = PL_hv_fetch_ent_mh;
6683                 PL_hv_fetch_ent_mh = (HE*)LvTARG(sv);
6684             }
6685             else if (LvTYPE(sv) != 't') /* unless tie: unrefcnted fake SV**  */
6686                 SvREFCNT_dec(LvTARG(sv));
6687             if (isREGEXP(sv)) goto freeregexp;
6688             /* FALLTHROUGH */
6689         case SVt_PVGV:
6690             if (isGV_with_GP(sv)) {
6691                 if(GvCVu((const GV *)sv) && (stash = GvSTASH(MUTABLE_GV(sv)))
6692                    && HvENAME_get(stash))
6693                     mro_method_changed_in(stash);
6694                 gp_free(MUTABLE_GV(sv));
6695                 if (GvNAME_HEK(sv))
6696                     unshare_hek(GvNAME_HEK(sv));
6697                 /* If we're in a stash, we don't own a reference to it.
6698                  * However it does have a back reference to us, which
6699                  * needs to be cleared.  */
6700                 if ((stash = GvSTASH(sv)))
6701                         sv_del_backref(MUTABLE_SV(stash), sv);
6702             }
6703             /* FIXME. There are probably more unreferenced pointers to SVs
6704              * in the interpreter struct that we should check and tidy in
6705              * a similar fashion to this:  */
6706             /* See also S_sv_unglob, which does the same thing. */
6707             if ((const GV *)sv == PL_last_in_gv)
6708                 PL_last_in_gv = NULL;
6709             else if ((const GV *)sv == PL_statgv)
6710                 PL_statgv = NULL;
6711             else if ((const GV *)sv == PL_stderrgv)
6712                 PL_stderrgv = NULL;
6713             /* FALLTHROUGH */
6714         case SVt_PVMG:
6715         case SVt_PVNV:
6716         case SVt_PVIV:
6717         case SVt_INVLIST:
6718         case SVt_PV:
6719           freescalar:
6720             /* Don't bother with SvOOK_off(sv); as we're only going to
6721              * free it.  */
6722             if (SvOOK(sv)) {
6723                 STRLEN offset;
6724                 SvOOK_offset(sv, offset);
6725                 SvPV_set(sv, SvPVX_mutable(sv) - offset);
6726                 /* Don't even bother with turning off the OOK flag.  */
6727             }
6728             if (SvROK(sv)) {
6729             free_rv:
6730                 {
6731                     SV * const target = SvRV(sv);
6732                     if (SvWEAKREF(sv))
6733                         sv_del_backref(target, sv);
6734                     else
6735                         next_sv = target;
6736                 }
6737             }
6738 #ifdef PERL_ANY_COW
6739             else if (SvPVX_const(sv)
6740                      && !(SvTYPE(sv) == SVt_PVIO
6741                      && !(IoFLAGS(sv) & IOf_FAKE_DIRP)))
6742             {
6743                 if (SvIsCOW(sv)) {
6744                     if (DEBUG_C_TEST) {
6745                         PerlIO_printf(Perl_debug_log, "Copy on write: clear\n");
6746                         sv_dump(sv);
6747                     }
6748                     if (SvLEN(sv)) {
6749                         if (CowREFCNT(sv)) {
6750                             sv_buf_to_rw(sv);
6751                             CowREFCNT(sv)--;
6752                             sv_buf_to_ro(sv);
6753                             SvLEN_set(sv, 0);
6754                         }
6755                     } else {
6756                         unshare_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sv)));
6757                     }
6758
6759                 }
6760                 if (SvLEN(sv)) {
6761                     Safefree(SvPVX_mutable(sv));
6762                 }
6763             }
6764 #else
6765             else if (SvPVX_const(sv) && SvLEN(sv)
6766                      && !(SvTYPE(sv) == SVt_PVIO
6767                      && !(IoFLAGS(sv) & IOf_FAKE_DIRP)))
6768                 Safefree(SvPVX_mutable(sv));
6769             else if (SvPVX_const(sv) && SvIsCOW(sv)) {
6770                 unshare_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sv)));
6771             }
6772 #endif
6773             break;
6774         case SVt_NV:
6775             break;
6776         }
6777
6778       free_body:
6779
6780         SvFLAGS(sv) &= SVf_BREAK;
6781         SvFLAGS(sv) |= SVTYPEMASK;
6782
6783         sv_type_details = bodies_by_type + type;
6784         if (sv_type_details->arena) {
6785             del_body(((char *)SvANY(sv) + sv_type_details->offset),
6786                      &PL_body_roots[type]);
6787         }
6788         else if (sv_type_details->body_size) {
6789             safefree(SvANY(sv));
6790         }
6791
6792       free_head:
6793         /* caller is responsible for freeing the head of the original sv */
6794         if (sv != orig_sv && !SvREFCNT(sv))
6795             del_SV(sv);
6796
6797         /* grab and free next sv, if any */
6798       get_next_sv:
6799         while (1) {
6800             sv = NULL;
6801             if (next_sv) {
6802                 sv = next_sv;
6803                 next_sv = NULL;
6804             }
6805             else if (!iter_sv) {
6806                 break;
6807             } else if (SvTYPE(iter_sv) == SVt_PVAV) {
6808                 AV *const av = (AV*)iter_sv;
6809                 if (AvFILLp(av) > -1) {
6810                     sv = AvARRAY(av)[AvFILLp(av)--];
6811                 }
6812                 else { /* no more elements of current AV to free */
6813                     sv = iter_sv;
6814                     type = SvTYPE(sv);
6815                     /* restore previous value, squirrelled away */
6816                     iter_sv = AvARRAY(av)[AvMAX(av)];
6817                     Safefree(AvALLOC(av));
6818                     goto free_body;
6819                 }
6820             } else if (SvTYPE(iter_sv) == SVt_PVHV) {
6821                 sv = Perl_hfree_next_entry(aTHX_ (HV*)iter_sv, &hash_index);
6822                 if (!sv && !HvTOTALKEYS((HV *)iter_sv)) {
6823                     /* no more elements of current HV to free */
6824                     sv = iter_sv;
6825                     type = SvTYPE(sv);
6826                     /* Restore previous values of iter_sv and hash_index,
6827                      * squirrelled away */
6828                     assert(!SvOBJECT(sv));
6829                     iter_sv = (SV*)SvSTASH(sv);
6830                     assert(!SvMAGICAL(sv));
6831                     hash_index = ((XPVMG*) SvANY(sv))->xmg_u.xmg_hash_index;
6832 #ifdef DEBUGGING
6833                     /* perl -DA does not like rubbish in SvMAGIC. */
6834                     SvMAGIC_set(sv, 0);
6835 #endif
6836
6837                     /* free any remaining detritus from the hash struct */
6838                     Perl_hv_undef_flags(aTHX_ MUTABLE_HV(sv), HV_NAME_SETALL);
6839                     assert(!HvARRAY((HV*)sv));
6840                     goto free_body;
6841                 }
6842             }
6843
6844             /* unrolled SvREFCNT_dec and sv_free2 follows: */
6845
6846             if (!sv)
6847                 continue;
6848             if (!SvREFCNT(sv)) {
6849                 sv_free(sv);
6850                 continue;
6851             }
6852             if (--(SvREFCNT(sv)))
6853                 continue;
6854 #ifdef DEBUGGING
6855             if (SvTEMP(sv)) {
6856                 Perl_ck_warner_d(aTHX_ packWARN(WARN_DEBUGGING),
6857                          "Attempt to free temp prematurely: SV 0x%" UVxf
6858                          pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
6859                 continue;
6860             }
6861 #endif
6862             if (SvIMMORTAL(sv)) {
6863                 /* make sure SvREFCNT(sv)==0 happens very seldom */
6864                 SvREFCNT(sv) = SvREFCNT_IMMORTAL;
6865                 continue;
6866             }
6867             break;
6868         } /* while 1 */
6869
6870     } /* while sv */
6871 }
6872
6873 /* This routine curses the sv itself, not the object referenced by sv. So
6874    sv does not have to be ROK. */
6875
6876 static bool
6877 S_curse(pTHX_ SV * const sv, const bool check_refcnt) {
6878     PERL_ARGS_ASSERT_CURSE;
6879     assert(SvOBJECT(sv));
6880
6881     if (PL_defstash &&  /* Still have a symbol table? */
6882         SvDESTROYABLE(sv))
6883     {
6884         dSP;
6885         HV* stash;
6886         do {
6887           stash = SvSTASH(sv);
6888           assert(SvTYPE(stash) == SVt_PVHV);
6889           if (HvNAME(stash)) {
6890             CV* destructor = NULL;
6891             struct mro_meta *meta;
6892
6893             assert (SvOOK(stash));
6894
6895             DEBUG_o( Perl_deb(aTHX_ "Looking for DESTROY method for %s\n",
6896                          HvNAME(stash)) );
6897
6898             /* don't make this an initialization above the assert, since it needs
6899                an AUX structure */
6900             meta = HvMROMETA(stash);
6901             if (meta->destroy_gen && meta->destroy_gen == PL_sub_generation) {
6902                 destructor = meta->destroy;
6903                 DEBUG_o( Perl_deb(aTHX_ "Using cached DESTROY method %p for %s\n",
6904                              (void *)destructor, HvNAME(stash)) );
6905             }
6906             else {
6907                 bool autoload = FALSE;
6908                 GV *gv =
6909                     gv_fetchmeth_pvn(stash, S_destroy, S_destroy_len, -1, 0);
6910                 if (gv)
6911                     destructor = GvCV(gv);
6912                 if (!destructor) {
6913                     gv = gv_autoload_pvn(stash, S_destroy, S_destroy_len,
6914                                          GV_AUTOLOAD_ISMETHOD);
6915                     if (gv)
6916                         destructor = GvCV(gv);
6917                     if (destructor)
6918                         autoload = TRUE;
6919                 }
6920                 /* we don't cache AUTOLOAD for DESTROY, since this code
6921                    would then need to set $__PACKAGE__::AUTOLOAD, or the
6922                    equivalent for XS AUTOLOADs */
6923                 if (!autoload) {
6924                     meta->destroy_gen = PL_sub_generation;
6925                     meta->destroy = destructor;
6926
6927                     DEBUG_o( Perl_deb(aTHX_ "Set cached DESTROY method %p for %s\n",
6928                                       (void *)destructor, HvNAME(stash)) );
6929                 }
6930                 else {
6931                     DEBUG_o( Perl_deb(aTHX_ "Not caching AUTOLOAD for DESTROY method for %s\n",
6932                                       HvNAME(stash)) );
6933                 }
6934             }
6935             assert(!destructor || SvTYPE(destructor) == SVt_PVCV);
6936             if (destructor
6937                 /* A constant subroutine can have no side effects, so
6938                    don't bother calling it.  */
6939                 && !CvCONST(destructor)
6940                 /* Don't bother calling an empty destructor or one that
6941                    returns immediately. */
6942                 && (CvISXSUB(destructor)
6943                 || (CvSTART(destructor)
6944                     && (CvSTART(destructor)->op_next->op_type
6945                                         != OP_LEAVESUB)
6946                     && (CvSTART(destructor)->op_next->op_type
6947                                         != OP_PUSHMARK
6948                         || CvSTART(destructor)->op_next->op_next->op_type
6949                                         != OP_RETURN
6950                        )
6951                    ))
6952                )
6953             {
6954                 SV* const tmpref = newRV(sv);
6955                 SvREADONLY_on(tmpref); /* DESTROY() could be naughty */
6956                 ENTER;
6957                 PUSHSTACKi(PERLSI_DESTROY);
6958                 EXTEND(SP, 2);
6959                 PUSHMARK(SP);
6960                 PUSHs(tmpref);
6961                 PUTBACK;
6962                 call_sv(MUTABLE_SV(destructor),
6963                             G_DISCARD|G_EVAL|G_KEEPERR|G_VOID);
6964                 POPSTACK;
6965                 SPAGAIN;
6966                 LEAVE;
6967                 if(SvREFCNT(tmpref) < 2) {
6968                     /* tmpref is not kept alive! */
6969                     SvREFCNT(sv)--;
6970                     SvRV_set(tmpref, NULL);
6971                     SvROK_off(tmpref);
6972                 }
6973                 SvREFCNT_dec_NN(tmpref);
6974             }
6975           }
6976         } while (SvOBJECT(sv) && SvSTASH(sv) != stash);
6977
6978
6979         if (check_refcnt && SvREFCNT(sv)) {
6980             if (PL_in_clean_objs)
6981                 Perl_croak(aTHX_
6982                   "DESTROY created new reference to dead object '%" HEKf "'",
6983                    HEKfARG(HvNAME_HEK(stash)));
6984             /* DESTROY gave object new lease on life */
6985             return FALSE;
6986         }
6987     }
6988
6989     if (SvOBJECT(sv)) {
6990         HV * const stash = SvSTASH(sv);
6991         /* Curse before freeing the stash, as freeing the stash could cause
6992            a recursive call into S_curse. */
6993         SvOBJECT_off(sv);       /* Curse the object. */
6994         SvSTASH_set(sv,0);      /* SvREFCNT_dec may try to read this */
6995         SvREFCNT_dec(stash); /* possibly of changed persuasion */
6996     }
6997     return TRUE;
6998 }
6999
7000 /*
7001 =for apidoc sv_newref
7002
7003 Increment an SV's reference count.  Use the C<SvREFCNT_inc()> wrapper
7004 instead.
7005
7006 =cut
7007 */
7008
7009 SV *
7010 Perl_sv_newref(pTHX_ SV *const sv)
7011 {
7012     PERL_UNUSED_CONTEXT;
7013     if (sv)
7014         (SvREFCNT(sv))++;
7015     return sv;
7016 }
7017
7018 /*
7019 =for apidoc sv_free
7020
7021 Decrement an SV's reference count, and if it drops to zero, call
7022 C<sv_clear> to invoke destructors and free up any memory used by
7023 the body; finally, deallocating the SV's head itself.
7024 Normally called via a wrapper macro C<SvREFCNT_dec>.
7025
7026 =cut
7027 */
7028
7029 void
7030 Perl_sv_free(pTHX_ SV *const sv)
7031 {
7032     SvREFCNT_dec(sv);
7033 }
7034
7035
7036 /* Private helper function for SvREFCNT_dec().
7037  * Called with rc set to original SvREFCNT(sv), where rc == 0 or 1 */
7038
7039 void
7040 Perl_sv_free2(pTHX_ SV *const sv, const U32 rc)
7041 {
7042     dVAR;
7043
7044     PERL_ARGS_ASSERT_SV_FREE2;
7045
7046     if (LIKELY( rc == 1 )) {
7047         /* normal case */
7048         SvREFCNT(sv) = 0;
7049
7050 #ifdef DEBUGGING
7051         if (SvTEMP(sv)) {
7052             Perl_ck_warner_d(aTHX_ packWARN(WARN_DEBUGGING),
7053                              "Attempt to free temp prematurely: SV 0x%" UVxf
7054                              pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
7055             return;
7056         }
7057 #endif
7058         if (SvIMMORTAL(sv)) {
7059             /* make sure SvREFCNT(sv)==0 happens very seldom */
7060             SvREFCNT(sv) = SvREFCNT_IMMORTAL;
7061             return;
7062         }
7063         sv_clear(sv);
7064         if (! SvREFCNT(sv)) /* may have have been resurrected */
7065             del_SV(sv);
7066         return;
7067     }
7068
7069     /* handle exceptional cases */
7070
7071     assert(rc == 0);
7072
7073     if (SvFLAGS(sv) & SVf_BREAK)
7074         /* this SV's refcnt has been artificially decremented to
7075          * trigger cleanup */
7076         return;
7077     if (PL_in_clean_all) /* All is fair */
7078         return;
7079     if (SvIMMORTAL(sv)) {
7080         /* make sure SvREFCNT(sv)==0 happens very seldom */
7081         SvREFCNT(sv) = SvREFCNT_IMMORTAL;
7082         return;
7083     }
7084     if (ckWARN_d(WARN_INTERNAL)) {
7085 #ifdef DEBUG_LEAKING_SCALARS_FORK_DUMP
7086         Perl_dump_sv_child(aTHX_ sv);
7087 #else
7088     #ifdef DEBUG_LEAKING_SCALARS
7089         sv_dump(sv);
7090     #endif
7091 #ifdef DEBUG_LEAKING_SCALARS_ABORT
7092         if (PL_warnhook == PERL_WARNHOOK_FATAL
7093             || ckDEAD(packWARN(WARN_INTERNAL))) {
7094             /* Don't let Perl_warner cause us to escape our fate:  */
7095             abort();
7096         }
7097 #endif
7098         /* This may not return:  */
7099         Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
7100                     "Attempt to free unreferenced scalar: SV 0x%" UVxf
7101                     pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
7102 #endif
7103     }
7104 #ifdef DEBUG_LEAKING_SCALARS_ABORT
7105     abort();
7106 #endif
7107
7108 }
7109
7110
7111 /*
7112 =for apidoc sv_len
7113
7114 Returns the length of the string in the SV.  Handles magic and type
7115 coercion and sets the UTF8 flag appropriately.  See also C<L</SvCUR>>, which
7116 gives raw access to the C<xpv_cur> slot.
7117
7118 =cut
7119 */
7120
7121 STRLEN
7122 Perl_sv_len(pTHX_ SV *const sv)
7123 {
7124     STRLEN len;
7125
7126     if (!sv)
7127         return 0;
7128
7129     (void)SvPV_const(sv, len);
7130     return len;
7131 }
7132
7133 /*
7134 =for apidoc sv_len_utf8
7135
7136 Returns the number of characters in the string in an SV, counting wide
7137 UTF-8 bytes as a single character.  Handles magic and type coercion.
7138
7139 =cut
7140 */
7141
7142 /*
7143  * The length is cached in PERL_MAGIC_utf8, in the mg_len field.  Also the
7144  * mg_ptr is used, by sv_pos_u2b() and sv_pos_b2u() - see the comments below.
7145  * (Note that the mg_len is not the length of the mg_ptr field.
7146  * This allows the cache to store the character length of the string without
7147  * needing to malloc() extra storage to attach to the mg_ptr.)
7148  *
7149  */
7150
7151 STRLEN
7152 Perl_sv_len_utf8(pTHX_ SV *const sv)
7153 {
7154     if (!sv)
7155         return 0;
7156
7157     SvGETMAGIC(sv);
7158     return sv_len_utf8_nomg(sv);
7159 }
7160
7161 STRLEN
7162 Perl_sv_len_utf8_nomg(pTHX_ SV * const sv)
7163 {
7164     STRLEN len;
7165     const U8 *s = (U8*)SvPV_nomg_const(sv, len);
7166
7167     PERL_ARGS_ASSERT_SV_LEN_UTF8_NOMG;
7168
7169     if (PL_utf8cache && SvUTF8(sv)) {
7170             STRLEN ulen;
7171             MAGIC *mg = SvMAGICAL(sv) ? mg_find(sv, PERL_MAGIC_utf8) : NULL;
7172
7173             if (mg && (mg->mg_len != -1 || mg->mg_ptr)) {
7174                 if (mg->mg_len != -1)
7175                     ulen = mg->mg_len;
7176                 else {
7177                     /* We can use the offset cache for a headstart.
7178                        The longer value is stored in the first pair.  */
7179                     STRLEN *cache = (STRLEN *) mg->mg_ptr;
7180
7181                     ulen = cache[0] + Perl_utf8_length(aTHX_ s + cache[1],
7182                                                        s + len);
7183                 }
7184                 
7185                 if (PL_utf8cache < 0) {
7186                     const STRLEN real = Perl_utf8_length(aTHX_ s, s + len);
7187                     assert_uft8_cache_coherent("sv_len_utf8", ulen, real, sv);
7188                 }
7189             }
7190             else {
7191                 ulen = Perl_utf8_length(aTHX_ s, s + len);
7192                 utf8_mg_len_cache_update(sv, &mg, ulen);
7193             }
7194             return ulen;
7195     }
7196     return SvUTF8(sv) ? Perl_utf8_length(aTHX_ s, s + len) : len;
7197 }
7198
7199 /* Walk forwards to find the byte corresponding to the passed in UTF-8
7200    offset.  */
7201 static STRLEN
7202 S_sv_pos_u2b_forwards(const U8 *const start, const U8 *const send,
7203                       STRLEN *const uoffset_p, bool *const at_end)
7204 {
7205     const U8 *s = start;
7206     STRLEN uoffset = *uoffset_p;
7207
7208     PERL_ARGS_ASSERT_SV_POS_U2B_FORWARDS;
7209
7210     while (s < send && uoffset) {
7211         --uoffset;
7212         s += UTF8SKIP(s);
7213     }
7214     if (s == send) {
7215         *at_end = TRUE;
7216     }
7217     else if (s > send) {
7218         *at_end = TRUE;
7219         /* This is the existing behaviour. Possibly it should be a croak, as
7220            it's actually a bounds error  */
7221         s = send;
7222     }
7223     *uoffset_p -= uoffset;
7224     return s - start;
7225 }
7226
7227 /* Given the length of the string in both bytes and UTF-8 characters, decide
7228    whether to walk forwards or backwards to find the byte corresponding to
7229    the passed in UTF-8 offset.  */
7230 static STRLEN
7231 S_sv_pos_u2b_midway(const U8 *const start, const U8 *send,
7232                     STRLEN uoffset, const STRLEN uend)
7233 {
7234     STRLEN backw = uend - uoffset;
7235
7236     PERL_ARGS_ASSERT_SV_POS_U2B_MIDWAY;
7237
7238     if (uoffset < 2 * backw) {
7239         /* The assumption is that going forwards is twice the speed of going
7240            forward (that's where the 2 * backw comes from).
7241            (The real figure of course depends on the UTF-8 data.)  */
7242         const U8 *s = start;
7243
7244         while (s < send && uoffset--)
7245             s += UTF8SKIP(s);
7246         assert (s <= send);
7247         if (s > send)
7248             s = send;
7249         return s - start;
7250     }
7251
7252     while (backw--) {
7253         send--;
7254         while (UTF8_IS_CONTINUATION(*send))
7255             send--;
7256     }
7257     return send - start;
7258 }
7259
7260 /* For the string representation of the given scalar, find the byte
7261    corresponding to the passed in UTF-8 offset.  uoffset0 and boffset0
7262    give another position in the string, *before* the sought offset, which
7263    (which is always true, as 0, 0 is a valid pair of positions), which should
7264    help reduce the amount of linear searching.
7265    If *mgp is non-NULL, it should point to the UTF-8 cache magic, which
7266    will be used to reduce the amount of linear searching. The cache will be
7267    created if necessary, and the found value offered to it for update.  */
7268 static STRLEN
7269 S_sv_pos_u2b_cached(pTHX_ SV *const sv, MAGIC **const mgp, const U8 *const start,
7270                     const U8 *const send, STRLEN uoffset,
7271                     STRLEN uoffset0, STRLEN boffset0)
7272 {
7273     STRLEN boffset = 0; /* Actually always set, but let's keep gcc happy.  */
7274     bool found = FALSE;
7275     bool at_end = FALSE;
7276
7277     PERL_ARGS_ASSERT_SV_POS_U2B_CACHED;
7278
7279     assert (uoffset >= uoffset0);
7280
7281     if (!uoffset)
7282         return 0;
7283
7284     if (!SvREADONLY(sv) && !SvGMAGICAL(sv) && SvPOK(sv)
7285         && PL_utf8cache
7286         && (*mgp || (SvTYPE(sv) >= SVt_PVMG &&
7287                      (*mgp = mg_find(sv, PERL_MAGIC_utf8))))) {
7288         if ((*mgp)->mg_ptr) {
7289             STRLEN *cache = (STRLEN *) (*mgp)->mg_ptr;
7290             if (cache[0] == uoffset) {
7291                 /* An exact match. */
7292                 return cache[1];
7293             }
7294             if (cache[2] == uoffset) {
7295                 /* An exact match. */
7296                 return cache[3];
7297             }
7298
7299             if (cache[0] < uoffset) {
7300                 /* The cache already knows part of the way.   */
7301                 if (cache[0] > uoffset0) {
7302                     /* The cache knows more than the passed in pair  */
7303                     uoffset0 = cache[0];
7304                     boffset0 = cache[1];
7305                 }
7306                 if ((*mgp)->mg_len != -1) {
7307                     /* And we know the end too.  */
7308                     boffset = boffset0
7309                         + sv_pos_u2b_midway(start + boffset0, send,
7310                                               uoffset - uoffset0,
7311                                               (*mgp)->mg_len - uoffset0);
7312                 } else {
7313                     uoffset -= uoffset0;
7314                     boffset = boffset0
7315                         + sv_pos_u2b_forwards(start + boffset0,
7316                                               send, &uoffset, &at_end);
7317                     uoffset += uoffset0;
7318                 }
7319             }
7320             else if (cache[2] < uoffset) {
7321                 /* We're between the two cache entries.  */
7322                 if (cache[2] > uoffset0) {
7323                     /* and the cache knows more than the passed in pair  */
7324                     uoffset0 = cache[2];
7325                     boffset0 = cache[3];
7326                 }
7327
7328                 boffset = boffset0
7329                     + sv_pos_u2b_midway(start + boffset0,
7330                                           start + cache[1],
7331                                           uoffset - uoffset0,
7332                                           cache[0] - uoffset0);
7333             } else {
7334                 boffset = boffset0
7335                     + sv_pos_u2b_midway(start + boffset0,
7336                                           start + cache[3],
7337                                           uoffset - uoffset0,
7338                                           cache[2] - uoffset0);
7339             }
7340             found = TRUE;
7341         }
7342         else if ((*mgp)->mg_len != -1) {
7343             /* If we can take advantage of a passed in offset, do so.  */
7344             /* In fact, offset0 is either 0, or less than offset, so don't
7345                need to worry about the other possibility.  */
7346             boffset = boffset0
7347                 + sv_pos_u2b_midway(start + boffset0, send,
7348                                       uoffset - uoffset0,
7349                                       (*mgp)->mg_len - uoffset0);
7350             found = TRUE;
7351         }
7352     }
7353
7354     if (!found || PL_utf8cache < 0) {
7355         STRLEN real_boffset;
7356         uoffset -= uoffset0;
7357         real_boffset = boffset0 + sv_pos_u2b_forwards(start + boffset0,
7358                                                       send, &uoffset, &at_end);
7359         uoffset += uoffset0;
7360
7361         if (found && PL_utf8cache < 0)
7362             assert_uft8_cache_coherent("sv_pos_u2b_cache", boffset,
7363                                        real_boffset, sv);
7364         boffset = real_boffset;
7365     }
7366
7367     if (PL_utf8cache && !SvGMAGICAL(sv) && SvPOK(sv)) {
7368         if (at_end)
7369             utf8_mg_len_cache_update(sv, mgp, uoffset);
7370         else
7371             utf8_mg_pos_cache_update(sv, mgp, boffset, uoffset, send - start);
7372     }
7373     return boffset;
7374 }
7375
7376
7377 /*
7378 =for apidoc sv_pos_u2b_flags
7379
7380 Converts the offset from a count of UTF-8 chars from
7381 the start of the string, to a count of the equivalent number of bytes; if
7382 C<lenp> is non-zero, it does the same to C<lenp>, but this time starting from
7383 C<offset>, rather than from the start
7384 of the string.  Handles type coercion.
7385 C<flags> is passed to C<SvPV_flags>, and usually should be
7386 C<SV_GMAGIC|SV_CONST_RETURN> to handle magic.
7387
7388 =cut
7389 */
7390
7391 /*
7392  * sv_pos_u2b_flags() uses, like sv_pos_b2u(), the mg_ptr of the potential
7393  * PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8 and
7394  * byte offsets.  See also the comments of S_utf8_mg_pos_cache_update().
7395  *
7396  */
7397
7398 STRLEN
7399 Perl_sv_pos_u2b_flags(pTHX_ SV *const sv, STRLEN uoffset, STRLEN *const lenp,
7400                       U32 flags)
7401 {
7402     const U8 *start;
7403     STRLEN len;
7404     STRLEN boffset;
7405
7406     PERL_ARGS_ASSERT_SV_POS_U2B_FLAGS;
7407
7408     start = (U8*)SvPV_flags(sv, len, flags);
7409     if (len) {
7410         const U8 * const send = start + len;
7411         MAGIC *mg = NULL;
7412         boffset = sv_pos_u2b_cached(sv, &mg, start, send, uoffset, 0, 0);
7413
7414         if (lenp
7415             && *lenp /* don't bother doing work for 0, as its bytes equivalent
7416                         is 0, and *lenp is already set to that.  */) {
7417             /* Convert the relative offset to absolute.  */
7418             const STRLEN uoffset2 = uoffset + *lenp;
7419             const STRLEN boffset2
7420                 = sv_pos_u2b_cached(sv, &mg, start, send, uoffset2,
7421                                       uoffset, boffset) - boffset;
7422
7423             *lenp = boffset2;
7424         }
7425     } else {
7426         if (lenp)
7427             *lenp = 0;
7428         boffset = 0;
7429     }
7430
7431     return boffset;
7432 }
7433
7434 /*
7435 =for apidoc sv_pos_u2b
7436
7437 Converts the value pointed to by C<offsetp> from a count of UTF-8 chars from
7438 the start of the string, to a count of the equivalent number of bytes; if
7439 C<lenp> is non-zero, it does the same to C<lenp>, but this time starting from
7440 the offset, rather than from the start of the string.  Handles magic and
7441 type coercion.
7442
7443 Use C<sv_pos_u2b_flags> in preference, which correctly handles strings longer
7444 than 2Gb.
7445
7446 =cut
7447 */
7448
7449 /*
7450  * sv_pos_u2b() uses, like sv_pos_b2u(), the mg_ptr of the potential
7451  * PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8 and
7452  * byte offsets.  See also the comments of S_utf8_mg_pos_cache_update().
7453  *
7454  */
7455
7456 /* This function is subject to size and sign problems */
7457
7458 void
7459 Perl_sv_pos_u2b(pTHX_ SV *const sv, I32 *const offsetp, I32 *const lenp)
7460 {
7461     PERL_ARGS_ASSERT_SV_POS_U2B;
7462
7463     if (lenp) {
7464         STRLEN ulen = (STRLEN)*lenp;
7465         *offsetp = (I32)sv_pos_u2b_flags(sv, (STRLEN)*offsetp, &ulen,
7466                                          SV_GMAGIC|SV_CONST_RETURN);
7467         *lenp = (I32)ulen;
7468     } else {
7469         *offsetp = (I32)sv_pos_u2b_flags(sv, (STRLEN)*offsetp, NULL,
7470                                          SV_GMAGIC|SV_CONST_RETURN);
7471     }
7472 }
7473
7474 static void
7475 S_utf8_mg_len_cache_update(pTHX_ SV *const sv, MAGIC **const mgp,
7476                            const STRLEN ulen)
7477 {
7478     PERL_ARGS_ASSERT_UTF8_MG_LEN_CACHE_UPDATE;
7479     if (SvREADONLY(sv) || SvGMAGICAL(sv) || !SvPOK(sv))
7480         return;
7481
7482     if (!*mgp && (SvTYPE(sv) < SVt_PVMG ||
7483                   !(*mgp = mg_find(sv, PERL_MAGIC_utf8)))) {
7484         *mgp = sv_magicext(sv, 0, PERL_MAGIC_utf8, &PL_vtbl_utf8, 0, 0);
7485     }
7486     assert(*mgp);
7487
7488     (*mgp)->mg_len = ulen;
7489 }
7490
7491 /* Create and update the UTF8 magic offset cache, with the proffered utf8/
7492    byte length pairing. The (byte) length of the total SV is passed in too,
7493    as blen, because for some (more esoteric) SVs, the call to SvPV_const()
7494    may not have updated SvCUR, so we can't rely on reading it directly.
7495
7496    The proffered utf8/byte length pairing isn't used if the cache already has
7497    two pairs, and swapping either for the proffered pair would increase the
7498    RMS of the intervals between known byte offsets.
7499
7500    The cache itself consists of 4 STRLEN values
7501    0: larger UTF-8 offset
7502    1: corresponding byte offset
7503    2: smaller UTF-8 offset
7504    3: corresponding byte offset
7505
7506    Unused cache pairs have the value 0, 0.
7507    Keeping the cache "backwards" means that the invariant of
7508    cache[0] >= cache[2] is maintained even with empty slots, which means that
7509    the code that uses it doesn't need to worry if only 1 entry has actually
7510    been set to non-zero.  It also makes the "position beyond the end of the
7511    cache" logic much simpler, as the first slot is always the one to start
7512    from.   
7513 */
7514 static void
7515 S_utf8_mg_pos_cache_update(pTHX_ SV *const sv, MAGIC **const mgp, const STRLEN byte,
7516                            const STRLEN utf8, const STRLEN blen)
7517 {
7518     STRLEN *cache;
7519
7520     PERL_ARGS_ASSERT_UTF8_MG_POS_CACHE_UPDATE;
7521
7522     if (SvREADONLY(sv))
7523         return;
7524
7525     if (!*mgp && (SvTYPE(sv) < SVt_PVMG ||
7526                   !(*mgp = mg_find(sv, PERL_MAGIC_utf8)))) {
7527         *mgp = sv_magicext(sv, 0, PERL_MAGIC_utf8, (MGVTBL*)&PL_vtbl_utf8, 0,
7528                            0);
7529         (*mgp)->mg_len = -1;
7530     }
7531     assert(*mgp);
7532
7533     if (!(cache = (STRLEN *)(*mgp)->mg_ptr)) {
7534         Newxz(cache, PERL_MAGIC_UTF8_CACHESIZE * 2, STRLEN);
7535         (*mgp)->mg_ptr = (char *) cache;
7536     }
7537     assert(cache);
7538
7539     if (PL_utf8cache < 0 && SvPOKp(sv)) {
7540         /* SvPOKp() because, if sv is a reference, then SvPVX() is actually
7541            a pointer.  Note that we no longer cache utf8 offsets on refer-
7542            ences, but this check is still a good idea, for robustness.  */
7543         const U8 *start = (const U8 *) SvPVX_const(sv);
7544         const STRLEN realutf8 = utf8_length(start, start + byte);
7545
7546         assert_uft8_cache_coherent("utf8_mg_pos_cache_update", utf8, realutf8,
7547                                    sv);
7548     }
7549
7550     /* Cache is held with the later position first, to simplify the code
7551        that deals with unbounded ends.  */
7552        
7553     ASSERT_UTF8_CACHE(cache);
7554     if (cache[1] == 0) {
7555         /* Cache is totally empty  */
7556         cache[0] = utf8;
7557         cache[1] = byte;
7558     } else if (cache[3] == 0) {
7559         if (byte > cache[1]) {
7560             /* New one is larger, so goes first.  */
7561             cache[2] = cache[0];
7562             cache[3] = cache[1];
7563             cache[0] = utf8;
7564             cache[1] = byte;
7565         } else {
7566             cache[2] = utf8;
7567             cache[3] = byte;
7568         }
7569     } else {
7570 /* float casts necessary? XXX */
7571 #define THREEWAY_SQUARE(a,b,c,d) \
7572             ((float)((d) - (c))) * ((float)((d) - (c))) \
7573             + ((float)((c) - (b))) * ((float)((c) - (b))) \
7574                + ((float)((b) - (a))) * ((float)((b) - (a)))
7575
7576         /* Cache has 2 slots in use, and we know three potential pairs.
7577            Keep the two that give the lowest RMS distance. Do the
7578            calculation in bytes simply because we always know the byte
7579            length.  squareroot has the same ordering as the positive value,
7580            so don't bother with the actual square root.  */
7581         if (byte > cache[1]) {
7582             /* New position is after the existing pair of pairs.  */
7583             const float keep_earlier
7584                 = THREEWAY_SQUARE(0, cache[3], byte, blen);
7585             const float keep_later
7586                 = THREEWAY_SQUARE(0, cache[1], byte, blen);
7587
7588             if (keep_later < keep_earlier) {
7589                 cache[2] = cache[0];
7590                 cache[3] = cache[1];
7591             }
7592             cache[0] = utf8;
7593             cache[1] = byte;
7594         }
7595         else {
7596             const float keep_later = THREEWAY_SQUARE(0, byte, cache[1], blen);
7597             float b, c, keep_earlier;
7598             if (byte > cache[3]) {
7599                 /* New position is between the existing pair of pairs.  */
7600                 b = (float)cache[3];
7601                 c = (float)byte;
7602             } else {
7603                 /* New position is before the existing pair of pairs.  */
7604                 b = (float)byte;
7605                 c = (float)cache[3];
7606             }
7607             keep_earlier = THREEWAY_SQUARE(0, b, c, blen);
7608             if (byte > cache[3]) {
7609                 if (keep_later < keep_earlier) {
7610                     cache[2] = utf8;
7611                     cache[3] = byte;
7612                 }
7613                 else {
7614                     cache[0] = utf8;
7615                     cache[1] = byte;
7616                 }
7617             }
7618             else {
7619                 if (! (keep_later < keep_earlier)) {
7620                     cache[0] = cache[2];
7621                     cache[1] = cache[3];
7622                 }
7623                 cache[2] = utf8;
7624                 cache[3] = byte;
7625             }
7626         }
7627     }
7628     ASSERT_UTF8_CACHE(cache);
7629 }
7630
7631 /* We already know all of the way, now we may be able to walk back.  The same
7632    assumption is made as in S_sv_pos_u2b_midway(), namely that walking
7633    backward is half the speed of walking forward. */
7634 static STRLEN
7635 S_sv_pos_b2u_midway(pTHX_ const U8 *const s, const U8 *const target,
7636                     const U8 *end, STRLEN endu)
7637 {
7638     const STRLEN forw = target - s;
7639     STRLEN backw = end - target;
7640
7641     PERL_ARGS_ASSERT_SV_POS_B2U_MIDWAY;
7642
7643     if (forw < 2 * backw) {
7644         return utf8_length(s, target);
7645     }
7646
7647     while (end > target) {
7648         end--;
7649         while (UTF8_IS_CONTINUATION(*end)) {
7650             end--;
7651         }
7652         endu--;
7653     }
7654     return endu;
7655 }
7656
7657 /*
7658 =for apidoc sv_pos_b2u_flags
7659
7660 Converts C<offset> from a count of bytes from the start of the string, to
7661 a count of the equivalent number of UTF-8 chars.  Handles type coercion.
7662 C<flags> is passed to C<SvPV_flags>, and usually should be
7663 C<SV_GMAGIC|SV_CONST_RETURN> to handle magic.
7664
7665 =cut
7666 */
7667
7668 /*
7669  * sv_pos_b2u_flags() uses, like sv_pos_u2b_flags(), the mg_ptr of the
7670  * potential PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8
7671  * and byte offsets.
7672  *
7673  */
7674 STRLEN
7675 Perl_sv_pos_b2u_flags(pTHX_ SV *const sv, STRLEN const offset, U32 flags)
7676 {
7677     const U8* s;
7678     STRLEN len = 0; /* Actually always set, but let's keep gcc happy.  */
7679     STRLEN blen;
7680     MAGIC* mg = NULL;
7681     const U8* send;
7682     bool found = FALSE;
7683
7684     PERL_ARGS_ASSERT_SV_POS_B2U_FLAGS;
7685
7686     s = (const U8*)SvPV_flags(sv, blen, flags);
7687
7688     if (blen < offset)
7689         Perl_croak(aTHX_ "panic: sv_pos_b2u: bad byte offset, blen=%" UVuf
7690                    ", byte=%" UVuf, (UV)blen, (UV)offset);
7691
7692     send = s + offset;
7693
7694     if (!SvREADONLY(sv)
7695         && PL_utf8cache
7696         && SvTYPE(sv) >= SVt_PVMG
7697         && (mg = mg_find(sv, PERL_MAGIC_utf8)))
7698     {
7699         if (mg->mg_ptr) {
7700             STRLEN * const cache = (STRLEN *) mg->mg_ptr;
7701             if (cache[1] == offset) {
7702                 /* An exact match. */
7703                 return cache[0];
7704             }
7705             if (cache[3] == offset) {
7706                 /* An exact match. */
7707                 return cache[2];
7708             }
7709
7710             if (cache[1] < offset) {
7711                 /* We already know part of the way. */
7712                 if (mg->mg_len != -1) {
7713                     /* Actually, we know the end too.  */
7714                     len = cache[0]
7715                         + S_sv_pos_b2u_midway(aTHX_ s + cache[1], send,
7716                                               s + blen, mg->mg_len - cache[0]);
7717                 } else {
7718                     len = cache[0] + utf8_length(s + cache[1], send);
7719                 }
7720             }
7721             else if (cache[3] < offset) {
7722                 /* We're between the two cached pairs, so we do the calculation
7723                    offset by the byte/utf-8 positions for the earlier pair,
7724                    then add the utf-8 characters from the string start to
7725                    there.  */
7726                 len = S_sv_pos_b2u_midway(aTHX_ s + cache[3], send,
7727                                           s + cache[1], cache[0] - cache[2])
7728                     + cache[2];
7729
7730             }
7731             else { /* cache[3] > offset */
7732                 len = S_sv_pos_b2u_midway(aTHX_ s, send, s + cache[3],
7733                                           cache[2]);
7734
7735             }
7736             ASSERT_UTF8_CACHE(cache);
7737             found = TRUE;
7738         } else if (mg->mg_len != -1) {
7739             len = S_sv_pos_b2u_midway(aTHX_ s, send, s + blen, mg->mg_len);
7740             found = TRUE;
7741         }
7742     }
7743     if (!found || PL_utf8cache < 0) {
7744         const STRLEN real_len = utf8_length(s, send);
7745
7746         if (found && PL_utf8cache < 0)
7747             assert_uft8_cache_coherent("sv_pos_b2u", len, real_len, sv);
7748         len = real_len;
7749     }
7750
7751     if (PL_utf8cache) {
7752         if (blen == offset)
7753             utf8_mg_len_cache_update(sv, &mg, len);
7754         else
7755             utf8_mg_pos_cache_update(sv, &mg, offset, len, blen);
7756     }
7757
7758     return len;
7759 }
7760
7761 /*
7762 =for apidoc sv_pos_b2u
7763
7764 Converts the value pointed to by C<offsetp> from a count of bytes from the
7765 start of the string, to a count of the equivalent number of UTF-8 chars.
7766 Handles magic and type coercion.
7767
7768 Use C<sv_pos_b2u_flags> in preference, which correctly handles strings
7769 longer than 2Gb.
7770
7771 =cut
7772 */
7773
7774 /*
7775  * sv_pos_b2u() uses, like sv_pos_u2b(), the mg_ptr of the potential
7776  * PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8 and
7777  * byte offsets.
7778  *
7779  */
7780 void
7781 Perl_sv_pos_b2u(pTHX_ SV *const sv, I32 *const offsetp)
7782 {
7783     PERL_ARGS_ASSERT_SV_POS_B2U;
7784
7785     if (!sv)
7786         return;
7787
7788     *offsetp = (I32)sv_pos_b2u_flags(sv, (STRLEN)*offsetp,
7789                                      SV_GMAGIC|SV_CONST_RETURN);
7790 }
7791
7792 static void
7793 S_assert_uft8_cache_coherent(pTHX_ const char *const func, STRLEN from_cache,
7794                              STRLEN real, SV *const sv)
7795 {
7796     PERL_ARGS_ASSERT_ASSERT_UFT8_CACHE_COHERENT;
7797
7798     /* As this is debugging only code, save space by keeping this test here,
7799        rather than inlining it in all the callers.  */
7800     if (from_cache == real)
7801         return;
7802
7803     /* Need to turn the assertions off otherwise we may recurse infinitely
7804        while printing error messages.  */
7805     SAVEI8(PL_utf8cache);
7806     PL_utf8cache = 0;
7807     Perl_croak(aTHX_ "panic: %s cache %" UVuf " real %" UVuf " for %" SVf,
7808                func, (UV) from_cache, (UV) real, SVfARG(sv));
7809 }
7810
7811 /*
7812 =for apidoc sv_eq
7813
7814 Returns a boolean indicating whether the strings in the two SVs are
7815 identical.  Is UTF-8 and S<C<'use bytes'>> aware, handles get magic, and will
7816 coerce its args to strings if necessary.
7817
7818 =for apidoc sv_eq_flags
7819
7820 Returns a boolean indicating whether the strings in the two SVs are
7821 identical.  Is UTF-8 and S<C<'use bytes'>> aware and coerces its args to strings
7822 if necessary.  If the flags has the C<SV_GMAGIC> bit set, it handles get-magic, too.
7823
7824 =cut
7825 */
7826
7827 I32
7828 Perl_sv_eq_flags(pTHX_ SV *sv1, SV *sv2, const U32 flags)
7829 {
7830     const char *pv1;
7831     STRLEN cur1;
7832     const char *pv2;
7833     STRLEN cur2;
7834     I32  eq     = 0;
7835     SV* svrecode = NULL;
7836
7837     if (!sv1) {
7838         pv1 = "";
7839         cur1 = 0;
7840     }
7841     else {
7842         /* if pv1 and pv2 are the same, second SvPV_const call may
7843          * invalidate pv1 (if we are handling magic), so we may need to
7844          * make a copy */
7845         if (sv1 == sv2 && flags & SV_GMAGIC
7846          && (SvTHINKFIRST(sv1) || SvGMAGICAL(sv1))) {
7847             pv1 = SvPV_const(sv1, cur1);
7848             sv1 = newSVpvn_flags(pv1, cur1, SVs_TEMP | SvUTF8(sv2));
7849         }
7850         pv1 = SvPV_flags_const(sv1, cur1, flags);
7851     }
7852
7853     if (!sv2){
7854         pv2 = "";
7855         cur2 = 0;
7856     }
7857     else
7858         pv2 = SvPV_flags_const(sv2, cur2, flags);
7859
7860     if (cur1 && cur2 && SvUTF8(sv1) != SvUTF8(sv2) && !IN_BYTES) {
7861         /* Differing utf8ness.  */
7862         if (SvUTF8(sv1)) {
7863                   /* sv1 is the UTF-8 one  */
7864                   return bytes_cmp_utf8((const U8*)pv2, cur2,
7865                                         (const U8*)pv1, cur1) == 0;
7866         }
7867         else {
7868                   /* sv2 is the UTF-8 one  */
7869                   return bytes_cmp_utf8((const U8*)pv1, cur1,
7870                                         (const U8*)pv2, cur2) == 0;
7871         }
7872     }
7873
7874     if (cur1 == cur2)
7875         eq = (pv1 == pv2) || memEQ(pv1, pv2, cur1);
7876         
7877     SvREFCNT_dec(svrecode);
7878
7879     return eq;
7880 }
7881
7882 /*
7883 =for apidoc sv_cmp
7884
7885 Compares the strings in two SVs.  Returns -1, 0, or 1 indicating whether the
7886 string in C<sv1> is less than, equal to, or greater than the string in
7887 C<sv2>.  Is UTF-8 and S<C<'use bytes'>> aware, handles get magic, and will
7888 coerce its args to strings if necessary.  See also C<L</sv_cmp_locale>>.
7889
7890 =for apidoc sv_cmp_flags
7891
7892 Compares the strings in two SVs.  Returns -1, 0, or 1 indicating whether the
7893 string in C<sv1> is less than, equal to, or greater than the string in
7894 C<sv2>.  Is UTF-8 and S<C<'use bytes'>> aware and will coerce its args to strings
7895 if necessary.  If the flags has the C<SV_GMAGIC> bit set, it handles get magic.  See
7896 also C<L</sv_cmp_locale_flags>>.
7897
7898 =cut
7899 */
7900
7901 I32
7902 Perl_sv_cmp(pTHX_ SV *const sv1, SV *const sv2)
7903 {
7904     return sv_cmp_flags(sv1, sv2, SV_GMAGIC);
7905 }
7906
7907 I32
7908 Perl_sv_cmp_flags(pTHX_ SV *const sv1, SV *const sv2,
7909                   const U32 flags)
7910 {
7911     STRLEN cur1, cur2;
7912     const char *pv1, *pv2;
7913     I32  cmp;
7914     SV *svrecode = NULL;
7915
7916     if (!sv1) {
7917         pv1 = "";
7918         cur1 = 0;
7919     }
7920     else
7921         pv1 = SvPV_flags_const(sv1, cur1, flags);
7922
7923     if (!sv2) {
7924         pv2 = "";
7925         cur2 = 0;
7926     }
7927     else
7928         pv2 = SvPV_flags_const(sv2, cur2, flags);
7929
7930     if (cur1 && cur2 && SvUTF8(sv1) != SvUTF8(sv2) && !IN_BYTES) {
7931         /* Differing utf8ness.  */
7932         if (SvUTF8(sv1)) {
7933                 const int retval = -bytes_cmp_utf8((const U8*)pv2, cur2,
7934                                                    (const U8*)pv1, cur1);
7935                 return retval ? retval < 0 ? -1 : +1 : 0;
7936         }
7937         else {
7938                 const int retval = bytes_cmp_utf8((const U8*)pv1, cur1,
7939                                                   (const U8*)pv2, cur2);
7940                 return retval ? retval < 0 ? -1 : +1 : 0;
7941         }
7942     }
7943
7944     /* Here, if both are non-NULL, then they have the same UTF8ness. */
7945
7946     if (!cur1) {
7947         cmp = cur2 ? -1 : 0;
7948     } else if (!cur2) {
7949         cmp = 1;
7950     } else {
7951         STRLEN shortest_len = cur1 < cur2 ? cur1 : cur2;
7952
7953 #ifdef EBCDIC
7954         if (! DO_UTF8(sv1)) {
7955 #endif
7956             const I32 retval = memcmp((const void*)pv1,
7957                                       (const void*)pv2,
7958                                       shortest_len);
7959             if (retval) {
7960                 cmp = retval < 0 ? -1 : 1;
7961             } else if (cur1 == cur2) {
7962                 cmp = 0;
7963             } else {
7964                 cmp = cur1 < cur2 ? -1 : 1;
7965             }
7966 #ifdef EBCDIC
7967         }
7968         else {  /* Both are to be treated as UTF-EBCDIC */
7969
7970             /* EBCDIC UTF-8 is complicated by the fact that it is based on I8
7971              * which remaps code points 0-255.  We therefore generally have to
7972              * unmap back to the original values to get an accurate comparison.
7973              * But we don't have to do that for UTF-8 invariants, as by
7974              * definition, they aren't remapped, nor do we have to do it for
7975              * above-latin1 code points, as they also aren't remapped.  (This
7976              * code also works on ASCII platforms, but the memcmp() above is
7977              * much faster). */
7978
7979             const char *e = pv1 + shortest_len;
7980
7981             /* Find the first bytes that differ between the two strings */
7982             while (pv1 < e && *pv1 == *pv2) {
7983                 pv1++;
7984                 pv2++;
7985             }
7986
7987
7988             if (pv1 == e) { /* Are the same all the way to the end */
7989                 if (cur1 == cur2) {
7990                     cmp = 0;
7991                 } else {
7992                     cmp = cur1 < cur2 ? -1 : 1;
7993                 }
7994             }
7995             else   /* Here *pv1 and *pv2 are not equal, but all bytes earlier
7996                     * in the strings were.  The current bytes may or may not be
7997                     * at the beginning of a character.  But neither or both are
7998                     * (or else earlier bytes would have been different).  And
7999                     * if we are in the middle of a character, the two
8000                     * characters are comprised of the same number of bytes
8001                     * (because in this case the start bytes are the same, and
8002                     * the start bytes encode the character's length). */
8003                  if (UTF8_IS_INVARIANT(*pv1))
8004             {
8005                 /* If both are invariants; can just compare directly */
8006                 if (UTF8_IS_INVARIANT(*pv2)) {
8007                     cmp = ((U8) *pv1 < (U8) *pv2) ? -1 : 1;
8008                 }
8009                 else   /* Since *pv1 is invariant, it is the whole character,
8010                           which means it is at the beginning of a character.
8011                           That means pv2 is also at the beginning of a
8012                           character (see earlier comment).  Since it isn't
8013                           invariant, it must be a start byte.  If it starts a
8014                           character whose code point is above 255, that
8015                           character is greater than any single-byte char, which
8016                           *pv1 is */
8017                       if (UTF8_IS_ABOVE_LATIN1_START(*pv2))
8018                 {
8019                     cmp = -1;
8020                 }
8021                 else {
8022                     /* Here, pv2 points to a character composed of 2 bytes
8023                      * whose code point is < 256.  Get its code point and
8024                      * compare with *pv1 */
8025                     cmp = ((U8) *pv1 < EIGHT_BIT_UTF8_TO_NATIVE(*pv2, *(pv2 + 1)))
8026                            ?  -1
8027                            : 1;
8028                 }
8029             }
8030             else   /* The code point starting at pv1 isn't a single byte */
8031                  if (UTF8_IS_INVARIANT(*pv2))
8032             {
8033                 /* But here, the code point starting at *pv2 is a single byte,
8034                  * and so *pv1 must begin a character, hence is a start byte.
8035                  * If that character is above 255, it is larger than any
8036                  * single-byte char, which *pv2 is */
8037                 if (UTF8_IS_ABOVE_LATIN1_START(*pv1)) {
8038                     cmp = 1;
8039                 }
8040                 else {
8041                     /* Here, pv1 points to a character composed of 2 bytes
8042                      * whose code point is < 256.  Get its code point and
8043                      * compare with the single byte character *pv2 */
8044                     cmp = (EIGHT_BIT_UTF8_TO_NATIVE(*pv1, *(pv1 + 1)) < (U8) *pv2)
8045                           ?  -1
8046                           : 1;
8047                 }
8048             }
8049             else   /* Here, we've ruled out either *pv1 and *pv2 being
8050                       invariant.  That means both are part of variants, but not
8051                       necessarily at the start of a character */
8052                  if (   UTF8_IS_ABOVE_LATIN1_START(*pv1)
8053                      || UTF8_IS_ABOVE_LATIN1_START(*pv2))
8054             {
8055                 /* Here, at least one is the start of a character, which means
8056                  * the other is also a start byte.  And the code point of at
8057                  * least one of the characters is above 255.  It is a
8058                  * characteristic of UTF-EBCDIC that all start bytes for
8059                  * above-latin1 code points are well behaved as far as code
8060                  * point comparisons go, and all are larger than all other
8061                  * start bytes, so the comparison with those is also well
8062                  * behaved */
8063                 cmp = ((U8) *pv1 < (U8) *pv2) ? -1 : 1;
8064             }
8065             else {
8066                 /* Here both *pv1 and *pv2 are part of variant characters.
8067                  * They could be both continuations, or both start characters.
8068                  * (One or both could even be an illegal start character (for
8069                  * an overlong) which for the purposes of sorting we treat as
8070                  * legal. */
8071                 if (UTF8_IS_CONTINUATION(*pv1)) {
8072
8073                     /* If they are continuations for code points above 255,
8074                      * then comparing the current byte is sufficient, as there
8075                      * is no remapping of these and so the comparison is
8076                      * well-behaved.   We determine if they are such
8077                      * continuations by looking at the preceding byte.  It
8078                      * could be a start byte, from which we can tell if it is
8079                      * for an above 255 code point.  Or it could be a
8080                      * continuation, which means the character occupies at
8081                      * least 3 bytes, so must be above 255.  */
8082                     if (   UTF8_IS_CONTINUATION(*(pv2 - 1))
8083                         || UTF8_IS_ABOVE_LATIN1_START(*(pv2 -1)))
8084                     {
8085                         cmp = ((U8) *pv1 < (U8) *pv2) ? -1 : 1;
8086                         goto cmp_done;
8087                     }
8088
8089                     /* Here, the continuations are for code points below 256;
8090                      * back up one to get to the start byte */
8091                     pv1--;
8092                     pv2--;
8093                 }
8094
8095                 /* We need to get the actual native code point of each of these
8096                  * variants in order to compare them */
8097                 cmp =  (  EIGHT_BIT_UTF8_TO_NATIVE(*pv1, *(pv1 + 1))
8098                         < EIGHT_BIT_UTF8_TO_NATIVE(*pv2, *(pv2 + 1)))
8099                         ? -1
8100                         : 1;
8101             }
8102         }
8103       cmp_done: ;
8104 #endif
8105     }
8106
8107     SvREFCNT_dec(svrecode);
8108
8109     return cmp;
8110 }
8111
8112 /*
8113 =for apidoc sv_cmp_locale
8114
8115 Compares the strings in two SVs in a locale-aware manner.  Is UTF-8 and
8116 S<C<'use bytes'>> aware, handles get magic, and will coerce its args to strings
8117 if necessary.  See also C<L</sv_cmp>>.
8118
8119 =for apidoc sv_cmp_locale_flags
8120
8121 Compares the strings in two SVs in a locale-aware manner.  Is UTF-8 and
8122 S<C<'use bytes'>> aware and will coerce its args to strings if necessary.  If
8123 the flags contain C<SV_GMAGIC>, it handles get magic.  See also
8124 C<L</sv_cmp_flags>>.
8125
8126 =cut
8127 */
8128
8129 I32
8130 Perl_sv_cmp_locale(pTHX_ SV *const sv1, SV *const sv2)
8131 {
8132     return sv_cmp_locale_flags(sv1, sv2, SV_GMAGIC);
8133 }
8134
8135 I32
8136 Perl_sv_cmp_locale_flags(pTHX_ SV *const sv1, SV *const sv2,
8137                          const U32 flags)
8138 {
8139 #ifdef USE_LOCALE_COLLATE
8140
8141     char *pv1, *pv2;
8142     STRLEN len1, len2;
8143     I32 retval;
8144
8145     if (PL_collation_standard)
8146         goto raw_compare;
8147
8148     len1 = len2 = 0;
8149
8150     /* Revert to using raw compare if both operands exist, but either one
8151      * doesn't transform properly for collation */
8152     if (sv1 && sv2) {
8153         pv1 = sv_collxfrm_flags(sv1, &len1, flags);
8154         if (! pv1) {
8155             goto raw_compare;
8156         }
8157         pv2 = sv_collxfrm_flags(sv2, &len2, flags);
8158         if (! pv2) {
8159             goto raw_compare;
8160         }
8161     }
8162     else {
8163         pv1 = sv1 ? sv_collxfrm_flags(sv1, &len1, flags) : (char *) NULL;
8164         pv2 = sv2 ? sv_collxfrm_flags(sv2, &len2, flags) : (char *) NULL;
8165     }
8166
8167     if (!pv1 || !len1) {
8168         if (pv2 && len2)
8169             return -1;
8170         else
8171             goto raw_compare;
8172     }
8173     else {
8174         if (!pv2 || !len2)
8175             return 1;
8176     }
8177
8178     retval = memcmp((void*)pv1, (void*)pv2, len1 < len2 ? len1 : len2);
8179
8180     if (retval)
8181         return retval < 0 ? -1 : 1;
8182
8183     /*
8184      * When the result of collation is equality, that doesn't mean
8185      * that there are no differences -- some locales exclude some
8186      * characters from consideration.  So to avoid false equalities,
8187      * we use the raw string as a tiebreaker.
8188      */
8189
8190   raw_compare:
8191     /* FALLTHROUGH */
8192
8193 #else
8194     PERL_UNUSED_ARG(flags);
8195 #endif /* USE_LOCALE_COLLATE */
8196
8197     return sv_cmp(sv1, sv2);
8198 }
8199
8200
8201 #ifdef USE_LOCALE_COLLATE
8202
8203 /*
8204 =for apidoc sv_collxfrm
8205
8206 This calls C<sv_collxfrm_flags> with the SV_GMAGIC flag.  See
8207 C<L</sv_collxfrm_flags>>.
8208
8209 =for apidoc sv_collxfrm_flags
8210
8211 Add Collate Transform magic to an SV if it doesn't already have it.  If the
8212 flags contain C<SV_GMAGIC>, it handles get-magic.
8213
8214 Any scalar variable may carry C<PERL_MAGIC_collxfrm> magic that contains the
8215 scalar data of the variable, but transformed to such a format that a normal
8216 memory comparison can be used to compare the data according to the locale
8217 settings.
8218
8219 =cut
8220 */
8221
8222 char *
8223 Perl_sv_collxfrm_flags(pTHX_ SV *const sv, STRLEN *const nxp, const I32 flags)
8224 {
8225     MAGIC *mg;
8226
8227     PERL_ARGS_ASSERT_SV_COLLXFRM_FLAGS;
8228
8229     mg = SvMAGICAL(sv) ? mg_find(sv, PERL_MAGIC_collxfrm) : (MAGIC *) NULL;
8230
8231     /* If we don't have collation magic on 'sv', or the locale has changed
8232      * since the last time we calculated it, get it and save it now */
8233     if (!mg || !mg->mg_ptr || *(U32*)mg->mg_ptr != PL_collation_ix) {
8234         const char *s;
8235         char *xf;
8236         STRLEN len, xlen;
8237
8238         /* Free the old space */
8239         if (mg)
8240             Safefree(mg->mg_ptr);
8241
8242         s = SvPV_flags_const(sv, len, flags);
8243         if ((xf = _mem_collxfrm(s, len, &xlen, cBOOL(SvUTF8(sv))))) {
8244             if (! mg) {
8245                 mg = sv_magicext(sv, 0, PERL_MAGIC_collxfrm, &PL_vtbl_collxfrm,
8246                                  0, 0);
8247                 assert(mg);
8248             }
8249             mg->mg_ptr = xf;
8250             mg->mg_len = xlen;
8251         }
8252         else {
8253             if (mg) {
8254                 mg->mg_ptr = NULL;
8255                 mg->mg_len = -1;
8256             }
8257         }
8258     }
8259
8260     if (mg && mg->mg_ptr) {
8261         *nxp = mg->mg_len;
8262         return mg->mg_ptr + sizeof(PL_collation_ix);
8263     }
8264     else {
8265         *nxp = 0;
8266         return NULL;
8267     }
8268 }
8269
8270 #endif /* USE_LOCALE_COLLATE */
8271
8272 static char *
8273 S_sv_gets_append_to_utf8(pTHX_ SV *const sv, PerlIO *const fp, I32 append)
8274 {
8275     SV * const tsv = newSV(0);
8276     ENTER;
8277     SAVEFREESV(tsv);
8278     sv_gets(tsv, fp, 0);
8279     sv_utf8_upgrade_nomg(tsv);
8280     SvCUR_set(sv,append);
8281     sv_catsv(sv,tsv);
8282     LEAVE;
8283     return (SvCUR(sv) - append) ? SvPVX(sv) : NULL;
8284 }
8285
8286 static char *
8287 S_sv_gets_read_record(pTHX_ SV *const sv, PerlIO *const fp, I32 append)
8288 {
8289     SSize_t bytesread;
8290     const STRLEN recsize = SvUV(SvRV(PL_rs)); /* RsRECORD() guarantees > 0. */
8291       /* Grab the size of the record we're getting */
8292     char *buffer = SvGROW(sv, (STRLEN)(recsize + append + 1)) + append;
8293     
8294     /* Go yank in */
8295 #ifdef __VMS
8296     int fd;
8297     Stat_t st;
8298
8299     /* With a true, record-oriented file on VMS, we need to use read directly
8300      * to ensure that we respect RMS record boundaries.  The user is responsible
8301      * for providing a PL_rs value that corresponds to the FAB$W_MRS (maximum
8302      * record size) field.  N.B. This is likely to produce invalid results on
8303      * varying-width character data when a record ends mid-character.
8304      */
8305     fd = PerlIO_fileno(fp);
8306     if (fd != -1
8307         && PerlLIO_fstat(fd, &st) == 0
8308         && (st.st_fab_rfm == FAB$C_VAR
8309             || st.st_fab_rfm == FAB$C_VFC
8310             || st.st_fab_rfm == FAB$C_FIX)) {
8311
8312         bytesread = PerlLIO_read(fd, buffer, recsize);
8313     }
8314     else /* in-memory file from PerlIO::Scalar
8315           * or not a record-oriented file
8316           */
8317 #endif
8318     {
8319         bytesread = PerlIO_read(fp, buffer, recsize);
8320
8321         /* At this point, the logic in sv_get() means that sv will
8322            be treated as utf-8 if the handle is utf8.
8323         */
8324         if (PerlIO_isutf8(fp) && bytesread > 0) {
8325             char *bend = buffer + bytesread;
8326             char *bufp = buffer;
8327             size_t charcount = 0;
8328             bool charstart = TRUE;
8329             STRLEN skip = 0;
8330
8331             while (charcount < recsize) {
8332                 /* count accumulated characters */
8333                 while (bufp < bend) {
8334                     if (charstart) {
8335                         skip = UTF8SKIP(bufp);
8336                     }
8337                     if (bufp + skip > bend) {
8338                         /* partial at the end */
8339                         charstart = FALSE;
8340                         break;
8341                     }
8342                     else {
8343                         ++charcount;
8344                         bufp += skip;
8345                         charstart = TRUE;
8346                     }
8347                 }
8348
8349                 if (charcount < recsize) {
8350                     STRLEN readsize;
8351                     STRLEN bufp_offset = bufp - buffer;
8352                     SSize_t morebytesread;
8353
8354                     /* originally I read enough to fill any incomplete
8355                        character and the first byte of the next
8356                        character if needed, but if there's many
8357                        multi-byte encoded characters we're going to be
8358                        making a read call for every character beyond
8359                        the original read size.
8360
8361                        So instead, read the rest of the character if
8362                        any, and enough bytes to match at least the
8363                        start bytes for each character we're going to
8364                        read.
8365                     */
8366                     if (charstart)
8367                         readsize = recsize - charcount;
8368                     else 
8369                         readsize = skip - (bend - bufp) + recsize - charcount - 1;
8370                     buffer = SvGROW(sv, append + bytesread + readsize + 1) + append;
8371                     bend = buffer + bytesread;
8372                     morebytesread = PerlIO_read(fp, bend, readsize);
8373                     if (morebytesread <= 0) {
8374                         /* we're done, if we still have incomplete
8375                            characters the check code in sv_gets() will
8376                            warn about them.
8377
8378                            I'd originally considered doing
8379                            PerlIO_ungetc() on all but the lead
8380                            character of the incomplete character, but
8381                            read() doesn't do that, so I don't.
8382                         */
8383                         break;
8384                     }
8385
8386                     /* prepare to scan some more */
8387                     bytesread += morebytesread;
8388                     bend = buffer + bytesread;
8389                     bufp = buffer + bufp_offset;
8390                 }
8391             }
8392         }
8393     }
8394
8395     if (bytesread < 0)
8396         bytesread = 0;
8397     SvCUR_set(sv, bytesread + append);
8398     buffer[bytesread] = '\0';
8399     return (SvCUR(sv) - append) ? SvPVX(sv) : NULL;
8400 }
8401
8402 /*
8403 =for apidoc sv_gets
8404
8405 Get a line from the filehandle and store it into the SV, optionally
8406 appending to the currently-stored string.  If C<append> is not 0, the
8407 line is appended to the SV instead of overwriting it.  C<append> should
8408 be set to the byte offset that the appended string should start at
8409 in the SV (typically, C<SvCUR(sv)> is a suitable choice).
8410
8411 =cut
8412 */
8413
8414 char *
8415 Perl_sv_gets(pTHX_ SV *const sv, PerlIO *const fp, I32 append)
8416 {
8417     const char *rsptr;
8418     STRLEN rslen;
8419     STDCHAR rslast;
8420     STDCHAR *bp;
8421     SSize_t cnt;
8422     int i = 0;
8423     int rspara = 0;
8424
8425     PERL_ARGS_ASSERT_SV_GETS;
8426
8427     if (SvTHINKFIRST(sv))
8428         sv_force_normal_flags(sv, append ? 0 : SV_COW_DROP_PV);
8429     /* XXX. If you make this PVIV, then copy on write can copy scalars read
8430        from <>.
8431        However, perlbench says it's slower, because the existing swipe code
8432        is faster than copy on write.
8433        Swings and roundabouts.  */
8434     SvUPGRADE(sv, SVt_PV);
8435
8436     if (append) {
8437         /* line is going to be appended to the existing buffer in the sv */
8438         if (PerlIO_isutf8(fp)) {
8439             if (!SvUTF8(sv)) {
8440                 sv_utf8_upgrade_nomg(sv);
8441                 sv_pos_u2b(sv,&append,0);
8442             }
8443         } else if (SvUTF8(sv)) {
8444             return S_sv_gets_append_to_utf8(aTHX_ sv, fp, append);
8445         }
8446     }
8447
8448     SvPOK_only(sv);
8449     if (!append) {
8450         /* not appending - "clear" the string by setting SvCUR to 0,
8451          * the pv is still avaiable. */
8452         SvCUR_set(sv,0);
8453     }
8454     if (PerlIO_isutf8(fp))
8455         SvUTF8_on(sv);
8456
8457     if (IN_PERL_COMPILETIME) {
8458         /* we always read code in line mode */
8459         rsptr = "\n";
8460         rslen = 1;
8461     }
8462     else if (RsSNARF(PL_rs)) {
8463         /* If it is a regular disk file use size from stat() as estimate
8464            of amount we are going to read -- may result in mallocing
8465            more memory than we really need if the layers below reduce
8466            the size we read (e.g. CRLF or a gzip layer).
8467          */
8468         Stat_t st;
8469         int fd = PerlIO_fileno(fp);
8470         if (fd >= 0 && (PerlLIO_fstat(fd, &st) == 0) && S_ISREG(st.st_mode))  {
8471             const Off_t offset = PerlIO_tell(fp);
8472             if (offset != (Off_t) -1 && st.st_size + append > offset) {
8473 #ifdef PERL_COPY_ON_WRITE
8474                 /* Add an extra byte for the sake of copy-on-write's
8475                  * buffer reference count. */
8476                 (void) SvGROW(sv, (STRLEN)((st.st_size - offset) + append + 2));
8477 #else
8478                 (void) SvGROW(sv, (STRLEN)((st.st_size - offset) + append + 1));
8479 #endif
8480             }
8481         }
8482         rsptr = NULL;
8483         rslen = 0;
8484     }
8485     else if (RsRECORD(PL_rs)) {
8486         return S_sv_gets_read_record(aTHX_ sv, fp, append);
8487     }
8488     else if (RsPARA(PL_rs)) {
8489         rsptr = "\n\n";
8490         rslen = 2;
8491         rspara = 1;
8492     }
8493     else {
8494         /* Get $/ i.e. PL_rs into same encoding as stream wants */
8495         if (PerlIO_isutf8(fp)) {
8496             rsptr = SvPVutf8(PL_rs, rslen);
8497         }
8498         else {
8499             if (SvUTF8(PL_rs)) {
8500                 if (!sv_utf8_downgrade(PL_rs, TRUE)) {
8501                     Perl_croak(aTHX_ "Wide character in $/");
8502                 }
8503             }
8504             /* extract the raw pointer to the record separator */
8505             rsptr = SvPV_const(PL_rs, rslen);
8506         }
8507     }
8508
8509     /* rslast is the last character in the record separator
8510      * note we don't use rslast except when rslen is true, so the
8511      * null assign is a placeholder. */
8512     rslast = rslen ? rsptr[rslen - 1] : '\0';
8513
8514     if (rspara) {               /* have to do this both before and after */
8515         do {                    /* to make sure file boundaries work right */
8516             if (PerlIO_eof(fp))
8517                 return 0;
8518             i = PerlIO_getc(fp);
8519             if (i != '\n') {
8520                 if (i == -1)
8521                     return 0;
8522                 PerlIO_ungetc(fp,i);
8523                 break;
8524             }
8525         } while (i != EOF);
8526     }
8527
8528     /* See if we know enough about I/O mechanism to cheat it ! */
8529
8530     /* This used to be #ifdef test - it is made run-time test for ease
8531        of abstracting out stdio interface. One call should be cheap
8532        enough here - and may even be a macro allowing compile
8533        time optimization.
8534      */
8535
8536     if (PerlIO_fast_gets(fp)) {
8537     /*
8538      * We can do buffer based IO operations on this filehandle.
8539      *
8540      * This means we can bypass a lot of subcalls and process
8541      * the buffer directly, it also means we know the upper bound
8542      * on the amount of data we might read of the current buffer
8543      * into our sv. Knowing this allows us to preallocate the pv
8544      * to be able to hold that maximum, which allows us to simplify
8545      * a lot of logic. */
8546
8547     /*
8548      * We're going to steal some values from the stdio struct
8549      * and put EVERYTHING in the innermost loop into registers.
8550      */
8551     STDCHAR *ptr;       /* pointer into fp's read-ahead buffer */
8552     STRLEN bpx;         /* length of the data in the target sv
8553                            used to fix pointers after a SvGROW */
8554     I32 shortbuffered;  /* If the pv buffer is shorter than the amount
8555                            of data left in the read-ahead buffer.
8556                            If 0 then the pv buffer can hold the full
8557                            amount left, otherwise this is the amount it
8558                            can hold. */
8559
8560     /* Here is some breathtakingly efficient cheating */
8561
8562     /* When you read the following logic resist the urge to think
8563      * of record separators that are 1 byte long. They are an
8564      * uninteresting special (simple) case.
8565      *
8566      * Instead think of record separators which are at least 2 bytes
8567      * long, and keep in mind that we need to deal with such
8568      * separators when they cross a read-ahead buffer boundary.
8569      *
8570      * Also consider that we need to gracefully deal with separators
8571      * that may be longer than a single read ahead buffer.
8572      *
8573      * Lastly do not forget we want to copy the delimiter as well. We
8574      * are copying all data in the file _up_to_and_including_ the separator
8575      * itself.
8576      *
8577      * Now that you have all that in mind here is what is happening below:
8578      *
8579      * 1. When we first enter the loop we do some memory book keeping to see
8580      * how much free space there is in the target SV. (This sub assumes that
8581      * it is operating on the same SV most of the time via $_ and that it is
8582      * going to be able to reuse the same pv buffer each call.) If there is
8583      * "enough" room then we set "shortbuffered" to how much space there is
8584      * and start reading forward.
8585      *
8586      * 2. When we scan forward we copy from the read-ahead buffer to the target
8587      * SV's pv buffer. While we go we watch for the end of the read-ahead buffer,
8588      * and the end of the of pv, as well as for the "rslast", which is the last
8589      * char of the separator.
8590      *
8591      * 3. When scanning forward if we see rslast then we jump backwards in *pv*
8592      * (which has a "complete" record up to the point we saw rslast) and check
8593      * it to see if it matches the separator. If it does we are done. If it doesn't
8594      * we continue on with the scan/copy.
8595      *
8596      * 4. If we run out of read-ahead buffer (cnt goes to 0) then we have to get
8597      * the IO system to read the next buffer. We do this by doing a getc(), which
8598      * returns a single char read (or EOF), and prefills the buffer, and also
8599      * allows us to find out how full the buffer is.  We use this information to
8600      * SvGROW() the sv to the size remaining in the buffer, after which we copy
8601      * the returned single char into the target sv, and then go back into scan
8602      * forward mode.
8603      *
8604      * 5. If we run out of write-buffer then we SvGROW() it by the size of the
8605      * remaining space in the read-buffer.
8606      *
8607      * Note that this code despite its twisty-turny nature is pretty darn slick.
8608      * It manages single byte separators, multi-byte cross boundary separators,
8609      * and cross-read-buffer separators cleanly and efficiently at the cost
8610      * of potentially greatly overallocating the target SV.
8611      *
8612      * Yves
8613      */
8614
8615
8616     /* get the number of bytes remaining in the read-ahead buffer
8617      * on first call on a given fp this will return 0.*/
8618     cnt = PerlIO_get_cnt(fp);
8619
8620     /* make sure we have the room */
8621     if ((I32)(SvLEN(sv) - append) <= cnt + 1) {
8622         /* Not room for all of it
8623            if we are looking for a separator and room for some
8624          */
8625         if (rslen && cnt > 80 && (I32)SvLEN(sv) > append) {
8626             /* just process what we have room for */
8627             shortbuffered = cnt - SvLEN(sv) + append + 1;
8628             cnt -= shortbuffered;
8629         }
8630         else {
8631             /* ensure that the target sv has enough room to hold
8632              * the rest of the read-ahead buffer */
8633             shortbuffered = 0;
8634             /* remember that cnt can be negative */
8635             SvGROW(sv, (STRLEN)(append + (cnt <= 0 ? 2 : (cnt + 1))));
8636         }
8637     }
8638     else {
8639         /* we have enough room to hold the full buffer, lets scream */
8640         shortbuffered = 0;
8641     }
8642
8643     /* extract the pointer to sv's string buffer, offset by append as necessary */
8644     bp = (STDCHAR*)SvPVX_const(sv) + append;  /* move these two too to registers */
8645     /* extract the point to the read-ahead buffer */
8646     ptr = (STDCHAR*)PerlIO_get_ptr(fp);
8647
8648     /* some trace debug output */
8649     DEBUG_P(PerlIO_printf(Perl_debug_log,
8650         "Screamer: entering, ptr=%" UVuf ", cnt=%ld\n",PTR2UV(ptr),(long)cnt));
8651     DEBUG_P(PerlIO_printf(Perl_debug_log,
8652         "Screamer: entering: PerlIO * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%"
8653          UVuf "\n",
8654                PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8655                PTR2UV(PerlIO_has_base(fp) ? PerlIO_get_base(fp) : 0)));
8656
8657     for (;;) {
8658       screamer:
8659         /* if there is stuff left in the read-ahead buffer */
8660         if (cnt > 0) {
8661             /* if there is a separator */
8662             if (rslen) {
8663                 /* find next rslast */
8664                 STDCHAR *p;
8665
8666                 /* shortcut common case of blank line */
8667                 cnt--;
8668                 if ((*bp++ = *ptr++) == rslast)
8669                     goto thats_all_folks;
8670
8671                 p = (STDCHAR *)memchr(ptr, rslast, cnt);
8672                 if (p) {
8673                     SSize_t got = p - ptr + 1;
8674                     Copy(ptr, bp, got, STDCHAR);
8675                     ptr += got;
8676                     bp  += got;
8677                     cnt -= got;
8678                     goto thats_all_folks;
8679                 }
8680                 Copy(ptr, bp, cnt, STDCHAR);
8681                 ptr += cnt;
8682                 bp  += cnt;
8683                 cnt = 0;
8684             }
8685             else {
8686                 /* no separator, slurp the full buffer */
8687                 Copy(ptr, bp, cnt, char);            /* this     |  eat */
8688                 bp += cnt;                           /* screams  |  dust */
8689                 ptr += cnt;                          /* louder   |  sed :-) */
8690                 cnt = 0;
8691                 assert (!shortbuffered);
8692                 goto cannot_be_shortbuffered;
8693             }
8694         }
8695         
8696         if (shortbuffered) {            /* oh well, must extend */
8697             /* we didnt have enough room to fit the line into the target buffer
8698              * so we must extend the target buffer and keep going */
8699             cnt = shortbuffered;
8700             shortbuffered = 0;
8701             bpx = bp - (STDCHAR*)SvPVX_const(sv); /* box up before relocation */
8702             SvCUR_set(sv, bpx);
8703             /* extned the target sv's buffer so it can hold the full read-ahead buffer */
8704             SvGROW(sv, SvLEN(sv) + append + cnt + 2);
8705             bp = (STDCHAR*)SvPVX_const(sv) + bpx; /* unbox after relocation */
8706             continue;
8707         }
8708
8709     cannot_be_shortbuffered:
8710         /* we need to refill the read-ahead buffer if possible */
8711
8712         DEBUG_P(PerlIO_printf(Perl_debug_log,
8713                              "Screamer: going to getc, ptr=%" UVuf ", cnt=%" IVdf "\n",
8714                               PTR2UV(ptr),(IV)cnt));
8715         PerlIO_set_ptrcnt(fp, (STDCHAR*)ptr, cnt); /* deregisterize cnt and ptr */
8716
8717         DEBUG_Pv(PerlIO_printf(Perl_debug_log,
8718            "Screamer: pre: FILE * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%" UVuf "\n",
8719             PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8720             PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
8721
8722         /*
8723             call PerlIO_getc() to let it prefill the lookahead buffer
8724
8725             This used to call 'filbuf' in stdio form, but as that behaves like
8726             getc when cnt <= 0 we use PerlIO_getc here to avoid introducing
8727             another abstraction.
8728
8729             Note we have to deal with the char in 'i' if we are not at EOF
8730         */
8731         i   = PerlIO_getc(fp);          /* get more characters */
8732
8733         DEBUG_Pv(PerlIO_printf(Perl_debug_log,
8734            "Screamer: post: FILE * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%" UVuf "\n",
8735             PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8736             PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
8737
8738         /* find out how much is left in the read-ahead buffer, and rextract its pointer */
8739         cnt = PerlIO_get_cnt(fp);
8740         ptr = (STDCHAR*)PerlIO_get_ptr(fp);     /* reregisterize cnt and ptr */
8741         DEBUG_P(PerlIO_printf(Perl_debug_log,
8742             "Screamer: after getc, ptr=%" UVuf ", cnt=%" IVdf "\n",
8743             PTR2UV(ptr),(IV)cnt));
8744
8745         if (i == EOF)                   /* all done for ever? */
8746             goto thats_really_all_folks;
8747
8748         /* make sure we have enough space in the target sv */
8749         bpx = bp - (STDCHAR*)SvPVX_const(sv);   /* box up before relocation */
8750         SvCUR_set(sv, bpx);
8751         SvGROW(sv, bpx + cnt + 2);
8752         bp = (STDCHAR*)SvPVX_const(sv) + bpx;   /* unbox after relocation */
8753
8754         /* copy of the char we got from getc() */
8755         *bp++ = (STDCHAR)i;             /* store character from PerlIO_getc */
8756
8757         /* make sure we deal with the i being the last character of a separator */
8758         if (rslen && (STDCHAR)i == rslast)  /* all done for now? */
8759             goto thats_all_folks;
8760     }
8761
8762   thats_all_folks:
8763     /* check if we have actually found the separator - only really applies
8764      * when rslen > 1 */
8765     if ((rslen > 1 && (STRLEN)(bp - (STDCHAR*)SvPVX_const(sv)) < rslen) ||
8766           memNE((char*)bp - rslen, rsptr, rslen))
8767         goto screamer;                          /* go back to the fray */
8768   thats_really_all_folks:
8769     if (shortbuffered)
8770         cnt += shortbuffered;
8771         DEBUG_P(PerlIO_printf(Perl_debug_log,
8772              "Screamer: quitting, ptr=%" UVuf ", cnt=%" IVdf "\n",PTR2UV(ptr),(IV)cnt));
8773     PerlIO_set_ptrcnt(fp, (STDCHAR*)ptr, cnt);  /* put these back or we're in trouble */
8774     DEBUG_P(PerlIO_printf(Perl_debug_log,
8775         "Screamer: end: FILE * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%" UVuf
8776         "\n",
8777         PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8778         PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
8779     *bp = '\0';
8780     SvCUR_set(sv, bp - (STDCHAR*)SvPVX_const(sv));      /* set length */
8781     DEBUG_P(PerlIO_printf(Perl_debug_log,
8782         "Screamer: done, len=%ld, string=|%.*s|\n",
8783         (long)SvCUR(sv),(int)SvCUR(sv),SvPVX_const(sv)));
8784     }
8785    else
8786     {
8787        /*The big, slow, and stupid way. */
8788 #ifdef USE_HEAP_INSTEAD_OF_STACK        /* Even slower way. */
8789         STDCHAR *buf = NULL;
8790         Newx(buf, 8192, STDCHAR);
8791         assert(buf);
8792 #else
8793         STDCHAR buf[8192];
8794 #endif
8795
8796       screamer2:
8797         if (rslen) {
8798             const STDCHAR * const bpe = buf + sizeof(buf);
8799             bp = buf;
8800             while ((i = PerlIO_getc(fp)) != EOF && (*bp++ = (STDCHAR)i) != rslast && bp < bpe)
8801                 ; /* keep reading */
8802             cnt = bp - buf;
8803         }
8804         else {
8805             cnt = PerlIO_read(fp,(char*)buf, sizeof(buf));
8806             /* Accommodate broken VAXC compiler, which applies U8 cast to
8807              * both args of ?: operator, causing EOF to change into 255
8808              */
8809             if (cnt > 0)
8810                  i = (U8)buf[cnt - 1];
8811             else
8812                  i = EOF;
8813         }
8814
8815         if (cnt < 0)
8816             cnt = 0;  /* we do need to re-set the sv even when cnt <= 0 */
8817         if (append)
8818             sv_catpvn_nomg(sv, (char *) buf, cnt);
8819         else
8820             sv_setpvn(sv, (char *) buf, cnt);   /* "nomg" is implied */
8821
8822         if (i != EOF &&                 /* joy */
8823             (!rslen ||
8824              SvCUR(sv) < rslen ||
8825              memNE(SvPVX_const(sv) + SvCUR(sv) - rslen, rsptr, rslen)))
8826         {
8827             append = -1;
8828             /*
8829              * If we're reading from a TTY and we get a short read,
8830              * indicating that the user hit his EOF character, we need
8831              * to notice it now, because if we try to read from the TTY
8832              * again, the EOF condition will disappear.
8833              *
8834              * The comparison of cnt to sizeof(buf) is an optimization
8835              * that prevents unnecessary calls to feof().
8836              *
8837              * - jik 9/25/96
8838              */
8839             if (!(cnt < (I32)sizeof(buf) && PerlIO_eof(fp)))
8840                 goto screamer2;
8841         }
8842
8843 #ifdef USE_HEAP_INSTEAD_OF_STACK
8844         Safefree(buf);
8845 #endif
8846     }
8847
8848     if (rspara) {               /* have to do this both before and after */
8849         while (i != EOF) {      /* to make sure file boundaries work right */
8850             i = PerlIO_getc(fp);
8851             if (i != '\n') {
8852                 PerlIO_ungetc(fp,i);
8853                 break;
8854             }
8855         }
8856     }
8857
8858     return (SvCUR(sv) - append) ? SvPVX(sv) : NULL;
8859 }
8860
8861 /*
8862 =for apidoc sv_inc
8863
8864 Auto-increment of the value in the SV, doing string to numeric conversion
8865 if necessary.  Handles 'get' magic and operator overloading.
8866
8867 =cut
8868 */
8869
8870 void
8871 Perl_sv_inc(pTHX_ SV *const sv)
8872 {
8873     if (!sv)
8874         return;
8875     SvGETMAGIC(sv);
8876     sv_inc_nomg(sv);
8877 }
8878
8879 /*
8880 =for apidoc sv_inc_nomg
8881
8882 Auto-increment of the value in the SV, doing string to numeric conversion
8883 if necessary.  Handles operator overloading.  Skips handling 'get' magic.
8884
8885 =cut
8886 */
8887
8888 void
8889 Perl_sv_inc_nomg(pTHX_ SV *const sv)
8890 {
8891     char *d;
8892     int flags;
8893
8894     if (!sv)
8895         return;
8896     if (SvTHINKFIRST(sv)) {
8897         if (SvREADONLY(sv)) {
8898                 Perl_croak_no_modify();
8899         }
8900         if (SvROK(sv)) {
8901             IV i;
8902             if (SvAMAGIC(sv) && AMG_CALLunary(sv, inc_amg))
8903                 return;
8904             i = PTR2IV(SvRV(sv));
8905             sv_unref(sv);
8906             sv_setiv(sv, i);
8907         }
8908         else sv_force_normal_flags(sv, 0);
8909     }
8910     flags = SvFLAGS(sv);
8911     if ((flags & (SVp_NOK|SVp_IOK)) == SVp_NOK) {
8912         /* It's (privately or publicly) a float, but not tested as an
8913            integer, so test it to see. */
8914         (void) SvIV(sv);
8915         flags = SvFLAGS(sv);
8916     }
8917     if ((flags & SVf_IOK) || ((flags & (SVp_IOK | SVp_NOK)) == SVp_IOK)) {
8918         /* It's publicly an integer, or privately an integer-not-float */
8919 #ifdef PERL_PRESERVE_IVUV
8920       oops_its_int:
8921 #endif
8922         if (SvIsUV(sv)) {
8923             if (SvUVX(sv) == UV_MAX)
8924                 sv_setnv(sv, UV_MAX_P1);
8925             else
8926                 (void)SvIOK_only_UV(sv);
8927                 SvUV_set(sv, SvUVX(sv) + 1);
8928         } else {
8929             if (SvIVX(sv) == IV_MAX)
8930                 sv_setuv(sv, (UV)IV_MAX + 1);
8931             else {
8932                 (void)SvIOK_only(sv);
8933                 SvIV_set(sv, SvIVX(sv) + 1);
8934             }   
8935         }
8936         return;
8937     }
8938     if (flags & SVp_NOK) {
8939         const NV was = SvNVX(sv);
8940         if (LIKELY(!Perl_isinfnan(was)) &&
8941             NV_OVERFLOWS_INTEGERS_AT &&
8942             was >= NV_OVERFLOWS_INTEGERS_AT) {
8943             /* diag_listed_as: Lost precision when %s %f by 1 */
8944             Perl_ck_warner(aTHX_ packWARN(WARN_IMPRECISION),
8945                            "Lost precision when incrementing %" NVff " by 1",
8946                            was);
8947         }
8948         (void)SvNOK_only(sv);
8949         SvNV_set(sv, was + 1.0);
8950         return;
8951     }
8952
8953     /* treat AV/HV/CV/FM/IO and non-fake GVs as immutable */
8954     if (SvTYPE(sv) >= SVt_PVAV || (isGV_with_GP(sv) && !SvFAKE(sv)))
8955         Perl_croak_no_modify();
8956
8957     if (!(flags & SVp_POK) || !*SvPVX_const(sv)) {
8958         if ((flags & SVTYPEMASK) < SVt_PVIV)
8959             sv_upgrade(sv, ((flags & SVTYPEMASK) > SVt_IV ? SVt_PVIV : SVt_IV));
8960         (void)SvIOK_only(sv);
8961         SvIV_set(sv, 1);
8962         return;
8963     }
8964     d = SvPVX(sv);
8965     while (isALPHA(*d)) d++;
8966     while (isDIGIT(*d)) d++;
8967     if (d < SvEND(sv)) {
8968         const int numtype = grok_number_flags(SvPVX_const(sv), SvCUR(sv), NULL, PERL_SCAN_TRAILING);
8969 #ifdef PERL_PRESERVE_IVUV
8970         /* Got to punt this as an integer if needs be, but we don't issue
8971            warnings. Probably ought to make the sv_iv_please() that does
8972            the conversion if possible, and silently.  */
8973         if (numtype && !(numtype & IS_NUMBER_INFINITY)) {
8974             /* Need to try really hard to see if it's an integer.
8975                9.22337203685478e+18 is an integer.
8976                but "9.22337203685478e+18" + 0 is UV=9223372036854779904
8977                so $a="9.22337203685478e+18"; $a+0; $a++
8978                needs to be the same as $a="9.22337203685478e+18"; $a++
8979                or we go insane. */
8980         
8981             (void) sv_2iv(sv);
8982             if (SvIOK(sv))
8983                 goto oops_its_int;
8984
8985             /* sv_2iv *should* have made this an NV */
8986             if (flags & SVp_NOK) {
8987                 (void)SvNOK_only(sv);
8988                 SvNV_set(sv, SvNVX(sv) + 1.0);
8989                 return;
8990             }
8991             /* I don't think we can get here. Maybe I should assert this
8992                And if we do get here I suspect that sv_setnv will croak. NWC
8993                Fall through. */
8994             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_inc punt failed to convert '%s' to IOK or NOKp, UV=0x%" UVxf " NV=%" NVgf "\n",
8995                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
8996         }
8997 #endif /* PERL_PRESERVE_IVUV */
8998         if (!numtype && ckWARN(WARN_NUMERIC))
8999             not_incrementable(sv);
9000         sv_setnv(sv,Atof(SvPVX_const(sv)) + 1.0);
9001         return;
9002     }
9003     d--;
9004     while (d >= SvPVX_const(sv)) {
9005         if (isDIGIT(*d)) {
9006             if (++*d <= '9')
9007                 return;
9008             *(d--) = '0';
9009         }
9010         else {
9011 #ifdef EBCDIC
9012             /* MKS: The original code here died if letters weren't consecutive.
9013              * at least it didn't have to worry about non-C locales.  The
9014              * new code assumes that ('z'-'a')==('Z'-'A'), letters are
9015              * arranged in order (although not consecutively) and that only
9016              * [A-Za-z] are accepted by isALPHA in the C locale.
9017              */
9018             if (isALPHA_FOLD_NE(*d, 'z')) {
9019                 do { ++*d; } while (!isALPHA(*d));
9020                 return;
9021             }
9022             *(d--) -= 'z' - 'a';
9023 #else
9024             ++*d;
9025             if (isALPHA(*d))
9026                 return;
9027             *(d--) -= 'z' - 'a' + 1;
9028 #endif
9029         }
9030     }
9031     /* oh,oh, the number grew */
9032     SvGROW(sv, SvCUR(sv) + 2);
9033     SvCUR_set(sv, SvCUR(sv) + 1);
9034     for (d = SvPVX(sv) + SvCUR(sv); d > SvPVX_const(sv); d--)
9035         *d = d[-1];
9036     if (isDIGIT(d[1]))
9037         *d = '1';
9038     else
9039         *d = d[1];
9040 }
9041
9042 /*
9043 =for apidoc sv_dec
9044
9045 Auto-decrement of the value in the SV, doing string to numeric conversion
9046 if necessary.  Handles 'get' magic and operator overloading.
9047
9048 =cut
9049 */
9050
9051 void
9052 Perl_sv_dec(pTHX_ SV *const sv)
9053 {
9054     if (!sv)
9055         return;
9056     SvGETMAGIC(sv);
9057     sv_dec_nomg(sv);
9058 }
9059
9060 /*
9061 =for apidoc sv_dec_nomg
9062
9063 Auto-decrement of the value in the SV, doing string to numeric conversion
9064 if necessary.  Handles operator overloading.  Skips handling 'get' magic.
9065
9066 =cut
9067 */
9068
9069 void
9070 Perl_sv_dec_nomg(pTHX_ SV *const sv)
9071 {
9072     int flags;
9073
9074     if (!sv)
9075         return;
9076     if (SvTHINKFIRST(sv)) {
9077         if (SvREADONLY(sv)) {
9078                 Perl_croak_no_modify();
9079         }
9080         if (SvROK(sv)) {
9081             IV i;
9082             if (SvAMAGIC(sv) && AMG_CALLunary(sv, dec_amg))
9083                 return;
9084             i = PTR2IV(SvRV(sv));
9085             sv_unref(sv);
9086             sv_setiv(sv, i);
9087         }
9088         else sv_force_normal_flags(sv, 0);
9089     }
9090     /* Unlike sv_inc we don't have to worry about string-never-numbers
9091        and keeping them magic. But we mustn't warn on punting */
9092     flags = SvFLAGS(sv);
9093     if ((flags & SVf_IOK) || ((flags & (SVp_IOK | SVp_NOK)) == SVp_IOK)) {
9094         /* It's publicly an integer, or privately an integer-not-float */
9095 #ifdef PERL_PRESERVE_IVUV
9096       oops_its_int:
9097 #endif
9098         if (SvIsUV(sv)) {
9099             if (SvUVX(sv) == 0) {
9100                 (void)SvIOK_only(sv);
9101                 SvIV_set(sv, -1);
9102             }
9103             else {
9104                 (void)SvIOK_only_UV(sv);
9105                 SvUV_set(sv, SvUVX(sv) - 1);
9106             }   
9107         } else {
9108             if (SvIVX(sv) == IV_MIN) {
9109                 sv_setnv(sv, (NV)IV_MIN);
9110                 goto oops_its_num;
9111             }
9112             else {
9113                 (void)SvIOK_only(sv);
9114                 SvIV_set(sv, SvIVX(sv) - 1);
9115             }   
9116         }
9117         return;
9118     }
9119     if (flags & SVp_NOK) {
9120     oops_its_num:
9121         {
9122             const NV was = SvNVX(sv);
9123             if (LIKELY(!Perl_isinfnan(was)) &&
9124                 NV_OVERFLOWS_INTEGERS_AT &&
9125                 was <= -NV_OVERFLOWS_INTEGERS_AT) {
9126                 /* diag_listed_as: Lost precision when %s %f by 1 */
9127                 Perl_ck_warner(aTHX_ packWARN(WARN_IMPRECISION),
9128                                "Lost precision when decrementing %" NVff " by 1",
9129                                was);
9130             }
9131             (void)SvNOK_only(sv);
9132             SvNV_set(sv, was - 1.0);
9133             return;
9134         }
9135     }
9136
9137     /* treat AV/HV/CV/FM/IO and non-fake GVs as immutable */
9138     if (SvTYPE(sv) >= SVt_PVAV || (isGV_with_GP(sv) && !SvFAKE(sv)))
9139         Perl_croak_no_modify();
9140
9141     if (!(flags & SVp_POK)) {
9142         if ((flags & SVTYPEMASK) < SVt_PVIV)
9143             sv_upgrade(sv, ((flags & SVTYPEMASK) > SVt_IV) ? SVt_PVIV : SVt_IV);
9144         SvIV_set(sv, -1);
9145         (void)SvIOK_only(sv);
9146         return;
9147     }
9148 #ifdef PERL_PRESERVE_IVUV
9149     {
9150         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), NULL);
9151         if (numtype && !(numtype & IS_NUMBER_INFINITY)) {
9152             /* Need to try really hard to see if it's an integer.
9153                9.22337203685478e+18 is an integer.
9154                but "9.22337203685478e+18" + 0 is UV=9223372036854779904
9155                so $a="9.22337203685478e+18"; $a+0; $a--
9156                needs to be the same as $a="9.22337203685478e+18"; $a--
9157                or we go insane. */
9158         
9159             (void) sv_2iv(sv);
9160             if (SvIOK(sv))
9161                 goto oops_its_int;
9162
9163             /* sv_2iv *should* have made this an NV */
9164             if (flags & SVp_NOK) {
9165                 (void)SvNOK_only(sv);
9166                 SvNV_set(sv, SvNVX(sv) - 1.0);
9167                 return;
9168             }
9169             /* I don't think we can get here. Maybe I should assert this
9170                And if we do get here I suspect that sv_setnv will croak. NWC
9171                Fall through. */
9172             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_dec punt failed to convert '%s' to IOK or NOKp, UV=0x%" UVxf " NV=%" NVgf "\n",
9173                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
9174         }
9175     }
9176 #endif /* PERL_PRESERVE_IVUV */
9177     sv_setnv(sv,Atof(SvPVX_const(sv)) - 1.0);   /* punt */
9178 }
9179
9180 /* this define is used to eliminate a chunk of duplicated but shared logic
9181  * it has the suffix __SV_C to signal that it isnt API, and isnt meant to be
9182  * used anywhere but here - yves
9183  */
9184 #define PUSH_EXTEND_MORTAL__SV_C(AnSv) \
9185     STMT_START {      \
9186         SSize_t ix = ++PL_tmps_ix;              \
9187         if (UNLIKELY(ix >= PL_tmps_max))        \
9188             ix = tmps_grow_p(ix);                       \
9189         PL_tmps_stack[ix] = (AnSv); \
9190     } STMT_END
9191
9192 /*
9193 =for apidoc sv_mortalcopy
9194
9195 Creates a new SV which is a copy of the original SV (using C<sv_setsv>).
9196 The new SV is marked as mortal.  It will be destroyed "soon", either by an
9197 explicit call to C<FREETMPS>, or by an implicit call at places such as
9198 statement boundaries.  See also C<L</sv_newmortal>> and C<L</sv_2mortal>>.
9199
9200 =cut
9201 */
9202
9203 /* Make a string that will exist for the duration of the expression
9204  * evaluation.  Actually, it may have to last longer than that, but
9205  * hopefully we won't free it until it has been assigned to a
9206  * permanent location. */
9207
9208 SV *
9209 Perl_sv_mortalcopy_flags(pTHX_ SV *const oldstr, U32 flags)
9210 {
9211     SV *sv;
9212
9213     if (flags & SV_GMAGIC)
9214         SvGETMAGIC(oldstr); /* before new_SV, in case it dies */
9215     new_SV(sv);
9216     sv_setsv_flags(sv,oldstr,flags & ~SV_GMAGIC);
9217     PUSH_EXTEND_MORTAL__SV_C(sv);
9218     SvTEMP_on(sv);
9219     return sv;
9220 }
9221
9222 /*
9223 =for apidoc sv_newmortal
9224
9225 Creates a new null SV which is mortal.  The reference count of the SV is
9226 set to 1.  It will be destroyed "soon", either by an explicit call to
9227 C<FREETMPS>, or by an implicit call at places such as statement boundaries.
9228 See also C<L</sv_mortalcopy>> and C<L</sv_2mortal>>.
9229
9230 =cut
9231 */
9232
9233 SV *
9234 Perl_sv_newmortal(pTHX)
9235 {
9236     SV *sv;
9237
9238     new_SV(sv);
9239     SvFLAGS(sv) = SVs_TEMP;
9240     PUSH_EXTEND_MORTAL__SV_C(sv);
9241     return sv;
9242 }
9243
9244
9245 /*
9246 =for apidoc newSVpvn_flags
9247
9248 Creates a new SV and copies a string (which may contain C<NUL> (C<\0>)
9249 characters) into it.  The reference count for the
9250 SV is set to 1.  Note that if C<len> is zero, Perl will create a zero length
9251 string.  You are responsible for ensuring that the source string is at least
9252 C<len> bytes long.  If the C<s> argument is NULL the new SV will be undefined.
9253 Currently the only flag bits accepted are C<SVf_UTF8> and C<SVs_TEMP>.
9254 If C<SVs_TEMP> is set, then C<sv_2mortal()> is called on the result before
9255 returning.  If C<SVf_UTF8> is set, C<s>
9256 is considered to be in UTF-8 and the
9257 C<SVf_UTF8> flag will be set on the new SV.
9258 C<newSVpvn_utf8()> is a convenience wrapper for this function, defined as
9259
9260     #define newSVpvn_utf8(s, len, u)                    \
9261         newSVpvn_flags((s), (len), (u) ? SVf_UTF8 : 0)
9262
9263 =cut
9264 */
9265
9266 SV *
9267 Perl_newSVpvn_flags(pTHX_ const char *const s, const STRLEN len, const U32 flags)
9268 {
9269     SV *sv;
9270
9271     /* All the flags we don't support must be zero.
9272        And we're new code so I'm going to assert this from the start.  */
9273     assert(!(flags & ~(SVf_UTF8|SVs_TEMP)));
9274     new_SV(sv);
9275     sv_setpvn(sv,s,len);
9276
9277     /* This code used to do a sv_2mortal(), however we now unroll the call to
9278      * sv_2mortal() and do what it does ourselves here.  Since we have asserted
9279      * that flags can only have the SVf_UTF8 and/or SVs_TEMP flags set above we
9280      * can use it to enable the sv flags directly (bypassing SvTEMP_on), which
9281      * in turn means we dont need to mask out the SVf_UTF8 flag below, which
9282      * means that we eliminate quite a few steps than it looks - Yves
9283      * (explaining patch by gfx) */
9284
9285     SvFLAGS(sv) |= flags;
9286
9287     if(flags & SVs_TEMP){
9288         PUSH_EXTEND_MORTAL__SV_C(sv);
9289     }
9290
9291     return sv;
9292 }
9293
9294 /*
9295 =for apidoc sv_2mortal
9296
9297 Marks an existing SV as mortal.  The SV will be destroyed "soon", either
9298 by an explicit call to C<FREETMPS>, or by an implicit call at places such as
9299 statement boundaries.  C<SvTEMP()> is turned on which means that the SV's
9300 string buffer can be "stolen" if this SV is copied.  See also
9301 C<L</sv_newmortal>> and C<L</sv_mortalcopy>>.
9302
9303 =cut
9304 */
9305
9306 SV *
9307 Perl_sv_2mortal(pTHX_ SV *const sv)
9308 {
9309     dVAR;
9310     if (!sv)
9311         return sv;
9312     if (SvIMMORTAL(sv))
9313         return sv;
9314     PUSH_EXTEND_MORTAL__SV_C(sv);
9315     SvTEMP_on(sv);
9316     return sv;
9317 }
9318
9319 /*
9320 =for apidoc newSVpv
9321
9322 Creates a new SV and copies a string (which may contain C<NUL> (C<\0>)
9323 characters) into it.  The reference count for the
9324 SV is set to 1.  If C<len> is zero, Perl will compute the length using
9325 C<strlen()>, (which means if you use this option, that C<s> can't have embedded
9326 C<NUL> characters and has to have a terminating C<NUL> byte).
9327
9328 This function can cause reliability issues if you are likely to pass in
9329 empty strings that are not null terminated, because it will run
9330 strlen on the string and potentially run past valid memory.
9331
9332 Using L</newSVpvn> is a safer alternative for non C<NUL> terminated strings.
9333 For string literals use L</newSVpvs> instead.  This function will work fine for
9334 C<NUL> terminated strings, but if you want to avoid the if statement on whether
9335 to call C<strlen> use C<newSVpvn> instead (calling C<strlen> yourself).
9336
9337 =cut
9338 */
9339
9340 SV *
9341 Perl_newSVpv(pTHX_ const char *const s, const STRLEN len)
9342 {
9343     SV *sv;
9344
9345     new_SV(sv);
9346     sv_setpvn(sv, s, len || s == NULL ? len : strlen(s));
9347     return sv;
9348 }
9349
9350 /*
9351 =for apidoc newSVpvn
9352
9353 Creates a new SV and copies a string into it, which may contain C<NUL> characters
9354 (C<\0>) and other binary data.  The reference count for the SV is set to 1.
9355 Note that if C<len> is zero, Perl will create a zero length (Perl) string.  You
9356 are responsible for ensuring that the source buffer is at least
9357 C<len> bytes long.  If the C<buffer> argument is NULL the new SV will be
9358 undefined.
9359
9360 =cut
9361 */
9362
9363 SV *
9364 Perl_newSVpvn(pTHX_ const char *const buffer, const STRLEN len)
9365 {
9366     SV *sv;
9367     new_SV(sv);
9368     sv_setpvn(sv,buffer,len);
9369     return sv;
9370 }
9371
9372 /*
9373 =for apidoc newSVhek
9374
9375 Creates a new SV from the hash key structure.  It will generate scalars that
9376 point to the shared string table where possible.  Returns a new (undefined)
9377 SV if C<hek> is NULL.
9378
9379 =cut
9380 */
9381
9382 SV *
9383 Perl_newSVhek(pTHX_ const HEK *const hek)
9384 {
9385     if (!hek) {
9386         SV *sv;
9387
9388         new_SV(sv);
9389         return sv;
9390     }
9391
9392     if (HEK_LEN(hek) == HEf_SVKEY) {
9393         return newSVsv(*(SV**)HEK_KEY(hek));
9394     } else {
9395         const int flags = HEK_FLAGS(hek);
9396         if (flags & HVhek_WASUTF8) {
9397             /* Trouble :-)
9398                Andreas would like keys he put in as utf8 to come back as utf8
9399             */
9400             STRLEN utf8_len = HEK_LEN(hek);
9401             SV * const sv = newSV_type(SVt_PV);
9402             char *as_utf8 = (char *)bytes_to_utf8 ((U8*)HEK_KEY(hek), &utf8_len);
9403             /* bytes_to_utf8() allocates a new string, which we can repurpose: */
9404             sv_usepvn_flags(sv, as_utf8, utf8_len, SV_HAS_TRAILING_NUL);
9405             SvUTF8_on (sv);
9406             return sv;
9407         } else if (flags & HVhek_UNSHARED) {
9408             /* A hash that isn't using shared hash keys has to have
9409                the flag in every key so that we know not to try to call
9410                share_hek_hek on it.  */
9411
9412             SV * const sv = newSVpvn (HEK_KEY(hek), HEK_LEN(hek));
9413             if (HEK_UTF8(hek))
9414                 SvUTF8_on (sv);
9415             return sv;
9416         }
9417         /* This will be overwhelminly the most common case.  */
9418         {
9419             /* Inline most of newSVpvn_share(), because share_hek_hek() is far
9420                more efficient than sharepvn().  */
9421             SV *sv;
9422
9423             new_SV(sv);
9424             sv_upgrade(sv, SVt_PV);
9425             SvPV_set(sv, (char *)HEK_KEY(share_hek_hek(hek)));
9426             SvCUR_set(sv, HEK_LEN(hek));
9427             SvLEN_set(sv, 0);
9428             SvIsCOW_on(sv);
9429             SvPOK_on(sv);
9430             if (HEK_UTF8(hek))
9431                 SvUTF8_on(sv);
9432             return sv;
9433         }
9434     }
9435 }
9436
9437 /*
9438 =for apidoc newSVpvn_share
9439
9440 Creates a new SV with its C<SvPVX_const> pointing to a shared string in the string
9441 table.  If the string does not already exist in the table, it is
9442 created first.  Turns on the C<SvIsCOW> flag (or C<READONLY>
9443 and C<FAKE> in 5.16 and earlier).  If the C<hash> parameter
9444 is non-zero, that value is used; otherwise the hash is computed.
9445 The string's hash can later be retrieved from the SV
9446 with the C<SvSHARED_HASH()> macro.  The idea here is
9447 that as the string table is used for shared hash keys these strings will have
9448 C<SvPVX_const == HeKEY> and hash lookup will avoid string compare.
9449
9450 =cut
9451 */
9452
9453 SV *
9454 Perl_newSVpvn_share(pTHX_ const char *src, I32 len, U32 hash)
9455 {
9456     dVAR;
9457     SV *sv;
9458     bool is_utf8 = FALSE;
9459     const char *const orig_src = src;
9460
9461     if (len < 0) {
9462         STRLEN tmplen = -len;
9463         is_utf8 = TRUE;
9464         /* See the note in hv.c:hv_fetch() --jhi */
9465         src = (char*)bytes_from_utf8((const U8*)src, &tmplen, &is_utf8);
9466         len = tmplen;
9467     }
9468     if (!hash)
9469         PERL_HASH(hash, src, len);
9470     new_SV(sv);
9471     /* The logic for this is inlined in S_mro_get_linear_isa_dfs(), so if it
9472        changes here, update it there too.  */
9473     sv_upgrade(sv, SVt_PV);
9474     SvPV_set(sv, sharepvn(src, is_utf8?-len:len, hash));
9475     SvCUR_set(sv, len);
9476     SvLEN_set(sv, 0);
9477     SvIsCOW_on(sv);
9478     SvPOK_on(sv);
9479     if (is_utf8)
9480         SvUTF8_on(sv);
9481     if (src != orig_src)
9482         Safefree(src);
9483     return sv;
9484 }
9485
9486 /*
9487 =for apidoc newSVpv_share
9488
9489 Like C<newSVpvn_share>, but takes a C<NUL>-terminated string instead of a
9490 string/length pair.
9491
9492 =cut
9493 */
9494
9495 SV *
9496 Perl_newSVpv_share(pTHX_ const char *src, U32 hash)
9497 {
9498     return newSVpvn_share(src, strlen(src), hash);
9499 }
9500
9501 #if defined(PERL_IMPLICIT_CONTEXT)
9502
9503 /* pTHX_ magic can't cope with varargs, so this is a no-context
9504  * version of the main function, (which may itself be aliased to us).
9505  * Don't access this version directly.
9506  */
9507
9508 SV *
9509 Perl_newSVpvf_nocontext(const char *const pat, ...)
9510 {
9511     dTHX;
9512     SV *sv;
9513     va_list args;
9514
9515     PERL_ARGS_ASSERT_NEWSVPVF_NOCONTEXT;
9516
9517     va_start(args, pat);
9518     sv = vnewSVpvf(pat, &args);
9519     va_end(args);
9520     return sv;
9521 }
9522 #endif
9523
9524 /*
9525 =for apidoc newSVpvf
9526
9527 Creates a new SV and initializes it with the string formatted like
9528 C<sv_catpvf>.
9529
9530 =cut
9531 */
9532
9533 SV *
9534 Perl_newSVpvf(pTHX_ const char *const pat, ...)
9535 {
9536     SV *sv;
9537     va_list args;
9538
9539     PERL_ARGS_ASSERT_NEWSVPVF;
9540
9541     va_start(args, pat);
9542     sv = vnewSVpvf(pat, &args);
9543     va_end(args);
9544     return sv;
9545 }
9546
9547 /* backend for newSVpvf() and newSVpvf_nocontext() */
9548
9549 SV *
9550 Perl_vnewSVpvf(pTHX_ const char *const pat, va_list *const args)
9551 {
9552     SV *sv;
9553
9554     PERL_ARGS_ASSERT_VNEWSVPVF;
9555
9556     new_SV(sv);
9557     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
9558     return sv;
9559 }
9560
9561 /*
9562 =for apidoc newSVnv
9563
9564 Creates a new SV and copies a floating point value into it.
9565 The reference count for the SV is set to 1.
9566
9567 =cut
9568 */
9569
9570 SV *
9571 Perl_newSVnv(pTHX_ const NV n)
9572 {
9573     SV *sv;
9574
9575     new_SV(sv);
9576     sv_setnv(sv,n);
9577     return sv;
9578 }
9579
9580 /*
9581 =for apidoc newSViv
9582
9583 Creates a new SV and copies an integer into it.  The reference count for the
9584 SV is set to 1.
9585
9586 =cut
9587 */
9588
9589 SV *
9590 Perl_newSViv(pTHX_ const IV i)
9591 {
9592     SV *sv;
9593
9594     new_SV(sv);
9595
9596     /* Inlining ONLY the small relevant subset of sv_setiv here
9597      * for performance. Makes a significant difference. */
9598
9599     /* We're starting from SVt_FIRST, so provided that's
9600      * actual 0, we don't have to unset any SV type flags
9601      * to promote to SVt_IV. */
9602     STATIC_ASSERT_STMT(SVt_FIRST == 0);
9603
9604     SET_SVANY_FOR_BODYLESS_IV(sv);
9605     SvFLAGS(sv) |= SVt_IV;
9606     (void)SvIOK_on(sv);
9607
9608     SvIV_set(sv, i);
9609     SvTAINT(sv);
9610
9611     return sv;
9612 }
9613
9614 /*
9615 =for apidoc newSVuv
9616
9617 Creates a new SV and copies an unsigned integer into it.
9618 The reference count for the SV is set to 1.
9619
9620 =cut
9621 */
9622
9623 SV *
9624 Perl_newSVuv(pTHX_ const UV u)
9625 {
9626     SV *sv;
9627
9628     /* Inlining ONLY the small relevant subset of sv_setuv here
9629      * for performance. Makes a significant difference. */
9630
9631     /* Using ivs is more efficient than using uvs - see sv_setuv */
9632     if (u <= (UV)IV_MAX) {
9633         return newSViv((IV)u);
9634     }
9635
9636     new_SV(sv);
9637
9638     /* We're starting from SVt_FIRST, so provided that's
9639      * actual 0, we don't have to unset any SV type flags
9640      * to promote to SVt_IV. */
9641     STATIC_ASSERT_STMT(SVt_FIRST == 0);
9642
9643     SET_SVANY_FOR_BODYLESS_IV(sv);
9644     SvFLAGS(sv) |= SVt_IV;
9645     (void)SvIOK_on(sv);
9646     (void)SvIsUV_on(sv);
9647
9648     SvUV_set(sv, u);
9649     SvTAINT(sv);
9650
9651     return sv;
9652 }
9653
9654 /*
9655 =for apidoc newSV_type
9656
9657 Creates a new SV, of the type specified.  The reference count for the new SV
9658 is set to 1.
9659
9660 =cut
9661 */
9662
9663 SV *
9664 Perl_newSV_type(pTHX_ const svtype type)
9665 {
9666     SV *sv;
9667
9668     new_SV(sv);
9669     ASSUME(SvTYPE(sv) == SVt_FIRST);
9670     if(type != SVt_FIRST)
9671         sv_upgrade(sv, type);
9672     return sv;
9673 }
9674
9675 /*
9676 =for apidoc newRV_noinc
9677
9678 Creates an RV wrapper for an SV.  The reference count for the original
9679 SV is B<not> incremented.
9680
9681 =cut
9682 */
9683
9684 SV *
9685 Perl_newRV_noinc(pTHX_ SV *const tmpRef)
9686 {
9687     SV *sv;
9688
9689     PERL_ARGS_ASSERT_NEWRV_NOINC;
9690
9691     new_SV(sv);
9692
9693     /* We're starting from SVt_FIRST, so provided that's
9694      * actual 0, we don't have to unset any SV type flags
9695      * to promote to SVt_IV. */
9696     STATIC_ASSERT_STMT(SVt_FIRST == 0);
9697
9698     SET_SVANY_FOR_BODYLESS_IV(sv);
9699     SvFLAGS(sv) |= SVt_IV;
9700     SvROK_on(sv);
9701     SvIV_set(sv, 0);
9702
9703     SvTEMP_off(tmpRef);
9704     SvRV_set(sv, tmpRef);
9705
9706     return sv;
9707 }
9708
9709 /* newRV_inc is the official function name to use now.
9710  * newRV_inc is in fact #defined to newRV in sv.h
9711  */
9712
9713 SV *
9714 Perl_newRV(pTHX_ SV *const sv)
9715 {
9716     PERL_ARGS_ASSERT_NEWRV;
9717
9718     return newRV_noinc(SvREFCNT_inc_simple_NN(sv));
9719 }
9720
9721 /*
9722 =for apidoc newSVsv
9723
9724 Creates a new SV which is an exact duplicate of the original SV.
9725 (Uses C<sv_setsv>.)
9726
9727 =cut
9728 */
9729
9730 SV *
9731 Perl_newSVsv(pTHX_ SV *const old)
9732 {
9733     SV *sv;
9734
9735     if (!old)
9736         return NULL;
9737     if (SvTYPE(old) == (svtype)SVTYPEMASK) {
9738         Perl_ck_warner_d(aTHX_ packWARN(WARN_INTERNAL), "semi-panic: attempt to dup freed string");
9739         return NULL;
9740     }
9741     /* Do this here, otherwise we leak the new SV if this croaks. */
9742     SvGETMAGIC(old);
9743     new_SV(sv);
9744     /* SV_NOSTEAL prevents TEMP buffers being, well, stolen, and saves games
9745        with SvTEMP_off and SvTEMP_on round a call to sv_setsv.  */
9746     sv_setsv_flags(sv, old, SV_NOSTEAL);
9747     return sv;
9748 }
9749
9750 /*
9751 =for apidoc sv_reset
9752
9753 Underlying implementation for the C<reset> Perl function.
9754 Note that the perl-level function is vaguely deprecated.
9755
9756 =cut
9757 */
9758
9759 void
9760 Perl_sv_reset(pTHX_ const char *s, HV *const stash)
9761 {
9762     PERL_ARGS_ASSERT_SV_RESET;
9763
9764     sv_resetpvn(*s ? s : NULL, strlen(s), stash);
9765 }
9766
9767 void
9768 Perl_sv_resetpvn(pTHX_ const char *s, STRLEN len, HV * const stash)
9769 {
9770     char todo[PERL_UCHAR_MAX+1];
9771     const char *send;
9772
9773     if (!stash || SvTYPE(stash) != SVt_PVHV)
9774         return;
9775
9776     if (!s) {           /* reset ?? searches */
9777         MAGIC * const mg = mg_find((const SV *)stash, PERL_MAGIC_symtab);
9778         if (mg) {
9779             const U32 count = mg->mg_len / sizeof(PMOP**);
9780             PMOP **pmp = (PMOP**) mg->mg_ptr;
9781             PMOP *const *const end = pmp + count;
9782
9783             while (pmp < end) {
9784 #ifdef USE_ITHREADS
9785                 SvREADONLY_off(PL_regex_pad[(*pmp)->op_pmoffset]);
9786 #else
9787                 (*pmp)->op_pmflags &= ~PMf_USED;
9788 #endif
9789                 ++pmp;
9790             }
9791         }
9792         return;
9793     }
9794
9795     /* reset variables */
9796
9797     if (!HvARRAY(stash))
9798         return;
9799
9800     Zero(todo, 256, char);
9801     send = s + len;
9802     while (s < send) {
9803         I32 max;
9804         I32 i = (unsigned char)*s;
9805         if (s[1] == '-') {
9806             s += 2;
9807         }
9808         max = (unsigned char)*s++;
9809         for ( ; i <= max; i++) {
9810             todo[i] = 1;
9811         }
9812         for (i = 0; i <= (I32) HvMAX(stash); i++) {
9813             HE *entry;
9814             for (entry = HvARRAY(stash)[i];
9815                  entry;
9816                  entry = HeNEXT(entry))
9817             {
9818                 GV *gv;
9819                 SV *sv;
9820
9821                 if (!todo[(U8)*HeKEY(entry)])
9822                     continue;
9823                 gv = MUTABLE_GV(HeVAL(entry));
9824                 if (!isGV(gv))
9825                     continue;
9826                 sv = GvSV(gv);
9827                 if (sv && !SvREADONLY(sv)) {
9828                     SV_CHECK_THINKFIRST_COW_DROP(sv);
9829                     if (!isGV(sv)) SvOK_off(sv);
9830                 }
9831                 if (GvAV(gv)) {
9832                     av_clear(GvAV(gv));
9833                 }
9834                 if (GvHV(gv) && !HvNAME_get(GvHV(gv))) {
9835                     hv_clear(GvHV(gv));
9836                 }
9837             }
9838         }
9839     }
9840 }
9841
9842 /*
9843 =for apidoc sv_2io
9844
9845 Using various gambits, try to get an IO from an SV: the IO slot if its a
9846 GV; or the recursive result if we're an RV; or the IO slot of the symbol
9847 named after the PV if we're a string.
9848
9849 'Get' magic is ignored on the C<sv> passed in, but will be called on
9850 C<SvRV(sv)> if C<sv> is an RV.
9851
9852 =cut
9853 */
9854
9855 IO*
9856 Perl_sv_2io(pTHX_ SV *const sv)
9857 {
9858     IO* io;
9859     GV* gv;
9860
9861     PERL_ARGS_ASSERT_SV_2IO;
9862
9863     switch (SvTYPE(sv)) {
9864     case SVt_PVIO:
9865         io = MUTABLE_IO(sv);
9866         break;
9867     case SVt_PVGV:
9868     case SVt_PVLV:
9869         if (isGV_with_GP(sv)) {
9870             gv = MUTABLE_GV(sv);
9871             io = GvIO(gv);
9872             if (!io)
9873                 Perl_croak(aTHX_ "Bad filehandle: %" HEKf,
9874                                     HEKfARG(GvNAME_HEK(gv)));
9875             break;
9876         }
9877         /* FALLTHROUGH */
9878     default:
9879         if (!SvOK(sv))
9880             Perl_croak(aTHX_ PL_no_usym, "filehandle");
9881         if (SvROK(sv)) {
9882             SvGETMAGIC(SvRV(sv));
9883             return sv_2io(SvRV(sv));
9884         }
9885         gv = gv_fetchsv_nomg(sv, 0, SVt_PVIO);
9886         if (gv)
9887             io = GvIO(gv);
9888         else
9889             io = 0;
9890         if (!io) {
9891             SV *newsv = sv;
9892             if (SvGMAGICAL(sv)) {
9893                 newsv = sv_newmortal();
9894                 sv_setsv_nomg(newsv, sv);
9895             }
9896             Perl_croak(aTHX_ "Bad filehandle: %" SVf, SVfARG(newsv));
9897         }
9898         break;
9899     }
9900     return io;
9901 }
9902
9903 /*
9904 =for apidoc sv_2cv
9905
9906 Using various gambits, try to get a CV from an SV; in addition, try if
9907 possible to set C<*st> and C<*gvp> to the stash and GV associated with it.
9908 The flags in C<lref> are passed to C<gv_fetchsv>.
9909
9910 =cut
9911 */
9912
9913 CV *
9914 Perl_sv_2cv(pTHX_ SV *sv, HV **const st, GV **const gvp, const I32 lref)
9915 {
9916     GV *gv = NULL;
9917     CV *cv = NULL;
9918
9919     PERL_ARGS_ASSERT_SV_2CV;
9920
9921     if (!sv) {
9922         *st = NULL;
9923         *gvp = NULL;
9924         return NULL;
9925     }
9926     switch (SvTYPE(sv)) {
9927     case SVt_PVCV:
9928         *st = CvSTASH(sv);
9929         *gvp = NULL;
9930         return MUTABLE_CV(sv);
9931     case SVt_PVHV:
9932     case SVt_PVAV:
9933         *st = NULL;
9934         *gvp = NULL;
9935         return NULL;
9936     default:
9937         SvGETMAGIC(sv);
9938         if (SvROK(sv)) {
9939             if (SvAMAGIC(sv))
9940                 sv = amagic_deref_call(sv, to_cv_amg);
9941
9942             sv = SvRV(sv);
9943             if (SvTYPE(sv) == SVt_PVCV) {
9944                 cv = MUTABLE_CV(sv);
9945                 *gvp = NULL;
9946                 *st = CvSTASH(cv);
9947                 return cv;
9948             }
9949             else if(SvGETMAGIC(sv), isGV_with_GP(sv))
9950                 gv = MUTABLE_GV(sv);
9951             else
9952                 Perl_croak(aTHX_ "Not a subroutine reference");
9953         }
9954         else if (isGV_with_GP(sv)) {
9955             gv = MUTABLE_GV(sv);
9956         }
9957         else {
9958             gv = gv_fetchsv_nomg(sv, lref, SVt_PVCV);
9959         }
9960         *gvp = gv;
9961         if (!gv) {
9962             *st = NULL;
9963             return NULL;
9964         }
9965         /* Some flags to gv_fetchsv mean don't really create the GV  */
9966         if (!isGV_with_GP(gv)) {
9967             *st = NULL;
9968             return NULL;
9969         }
9970         *st = GvESTASH(gv);
9971         if (lref & ~GV_ADDMG && !GvCVu(gv)) {
9972             /* XXX this is probably not what they think they're getting.
9973              * It has the same effect as "sub name;", i.e. just a forward
9974              * declaration! */
9975             newSTUB(gv,0);
9976         }
9977         return GvCVu(gv);
9978     }
9979 }
9980
9981 /*
9982 =for apidoc sv_true
9983
9984 Returns true if the SV has a true value by Perl's rules.
9985 Use the C<SvTRUE> macro instead, which may call C<sv_true()> or may
9986 instead use an in-line version.
9987
9988 =cut
9989 */
9990
9991 I32
9992 Perl_sv_true(pTHX_ SV *const sv)
9993 {
9994     if (!sv)
9995         return 0;
9996     if (SvPOK(sv)) {
9997         const XPV* const tXpv = (XPV*)SvANY(sv);
9998         if (tXpv &&
9999                 (tXpv->xpv_cur > 1 ||
10000                 (tXpv->xpv_cur && *sv->sv_u.svu_pv != '0')))
10001             return 1;
10002         else
10003             return 0;
10004     }
10005     else {
10006         if (SvIOK(sv))
10007             return SvIVX(sv) != 0;
10008         else {
10009             if (SvNOK(sv))
10010                 return SvNVX(sv) != 0.0;
10011             else
10012                 return sv_2bool(sv);
10013         }
10014     }
10015 }
10016
10017 /*
10018 =for apidoc sv_pvn_force
10019
10020 Get a sensible string out of the SV somehow.
10021 A private implementation of the C<SvPV_force> macro for compilers which
10022 can't cope with complex macro expressions.  Always use the macro instead.
10023
10024 =for apidoc sv_pvn_force_flags
10025
10026 Get a sensible string out of the SV somehow.
10027 If C<flags> has the C<SV_GMAGIC> bit set, will C<mg_get> on C<sv> if
10028 appropriate, else not.  C<sv_pvn_force> and C<sv_pvn_force_nomg> are
10029 implemented in terms of this function.
10030 You normally want to use the various wrapper macros instead: see
10031 C<L</SvPV_force>> and C<L</SvPV_force_nomg>>.
10032
10033 =cut
10034 */
10035
10036 char *
10037 Perl_sv_pvn_force_flags(pTHX_ SV *const sv, STRLEN *const lp, const I32 flags)
10038 {
10039     PERL_ARGS_ASSERT_SV_PVN_FORCE_FLAGS;
10040
10041     if (flags & SV_GMAGIC) SvGETMAGIC(sv);
10042     if (SvTHINKFIRST(sv) && (!SvROK(sv) || SvREADONLY(sv)))
10043         sv_force_normal_flags(sv, 0);
10044
10045     if (SvPOK(sv)) {
10046         if (lp)
10047             *lp = SvCUR(sv);
10048     }
10049     else {
10050         char *s;
10051         STRLEN len;
10052  
10053         if (SvTYPE(sv) > SVt_PVLV
10054             || isGV_with_GP(sv))
10055             /* diag_listed_as: Can't coerce %s to %s in %s */
10056             Perl_croak(aTHX_ "Can't coerce %s to string in %s", sv_reftype(sv,0),
10057                 OP_DESC(PL_op));
10058         s = sv_2pv_flags(sv, &len, flags &~ SV_GMAGIC);
10059         if (!s) {
10060           s = (char *)"";
10061         }
10062         if (lp)
10063             *lp = len;
10064
10065         if (SvTYPE(sv) < SVt_PV ||
10066             s != SvPVX_const(sv)) {     /* Almost, but not quite, sv_setpvn() */
10067             if (SvROK(sv))
10068                 sv_unref(sv);
10069             SvUPGRADE(sv, SVt_PV);              /* Never FALSE */
10070             SvGROW(sv, len + 1);
10071             Move(s,SvPVX(sv),len,char);
10072             SvCUR_set(sv, len);
10073             SvPVX(sv)[len] = '\0';
10074         }
10075         if (!SvPOK(sv)) {
10076             SvPOK_on(sv);               /* validate pointer */
10077             SvTAINT(sv);
10078             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2pv(%s)\n",
10079                                   PTR2UV(sv),SvPVX_const(sv)));
10080         }
10081     }
10082     (void)SvPOK_only_UTF8(sv);
10083     return SvPVX_mutable(sv);
10084 }
10085
10086 /*
10087 =for apidoc sv_pvbyten_force
10088
10089 The backend for the C<SvPVbytex_force> macro.  Always use the macro
10090 instead.
10091
10092 =cut
10093 */
10094
10095 char *
10096 Perl_sv_pvbyten_force(pTHX_ SV *const sv, STRLEN *const lp)
10097 {
10098     PERL_ARGS_ASSERT_SV_PVBYTEN_FORCE;
10099
10100     sv_pvn_force(sv,lp);
10101     sv_utf8_downgrade(sv,0);
10102     *lp = SvCUR(sv);
10103     return SvPVX(sv);
10104 }
10105
10106 /*
10107 =for apidoc sv_pvutf8n_force
10108
10109 The backend for the C<SvPVutf8x_force> macro.  Always use the macro
10110 instead.
10111
10112 =cut
10113 */
10114
10115 char *
10116 Perl_sv_pvutf8n_force(pTHX_ SV *const sv, STRLEN *const lp)
10117 {
10118     PERL_ARGS_ASSERT_SV_PVUTF8N_FORCE;
10119
10120     sv_pvn_force(sv,0);
10121     sv_utf8_upgrade_nomg(sv);
10122     *lp = SvCUR(sv);
10123     return SvPVX(sv);
10124 }
10125
10126 /*
10127 =for apidoc sv_reftype
10128
10129 Returns a string describing what the SV is a reference to.
10130
10131 If ob is true and the SV is blessed, the string is the class name,
10132 otherwise it is the type of the SV, "SCALAR", "ARRAY" etc.
10133
10134 =cut
10135 */
10136
10137 const char *
10138 Perl_sv_reftype(pTHX_ const SV *const sv, const int ob)
10139 {
10140     PERL_ARGS_ASSERT_SV_REFTYPE;
10141     if (ob && SvOBJECT(sv)) {
10142         return SvPV_nolen_const(sv_ref(NULL, sv, ob));
10143     }
10144     else {
10145         /* WARNING - There is code, for instance in mg.c, that assumes that
10146          * the only reason that sv_reftype(sv,0) would return a string starting
10147          * with 'L' or 'S' is that it is a LVALUE or a SCALAR.
10148          * Yes this a dodgy way to do type checking, but it saves practically reimplementing
10149          * this routine inside other subs, and it saves time.
10150          * Do not change this assumption without searching for "dodgy type check" in
10151          * the code.
10152          * - Yves */
10153         switch (SvTYPE(sv)) {
10154         case SVt_NULL:
10155         case SVt_IV:
10156         case SVt_NV:
10157         case SVt_PV:
10158         case SVt_PVIV:
10159         case SVt_PVNV:
10160         case SVt_PVMG:
10161                                 if (SvVOK(sv))
10162                                     return "VSTRING";
10163                                 if (SvROK(sv))
10164                                     return "REF";
10165                                 else
10166                                     return "SCALAR";
10167
10168         case SVt_PVLV:          return (char *)  (SvROK(sv) ? "REF"
10169                                 /* tied lvalues should appear to be
10170                                  * scalars for backwards compatibility */
10171                                 : (isALPHA_FOLD_EQ(LvTYPE(sv), 't'))
10172                                     ? "SCALAR" : "LVALUE");
10173         case SVt_PVAV:          return "ARRAY";
10174         case SVt_PVHV:          return "HASH";
10175         case SVt_PVCV:          return "CODE";
10176         case SVt_PVGV:          return (char *) (isGV_with_GP(sv)
10177                                     ? "GLOB" : "SCALAR");
10178         case SVt_PVFM:          return "FORMAT";
10179         case SVt_PVIO:          return "IO";
10180         case SVt_INVLIST:       return "INVLIST";
10181         case SVt_REGEXP:        return "REGEXP";
10182         default:                return "UNKNOWN";
10183         }
10184     }
10185 }
10186
10187 /*
10188 =for apidoc sv_ref
10189
10190 Returns a SV describing what the SV passed in is a reference to.
10191
10192 dst can be a SV to be set to the description or NULL, in which case a
10193 mortal SV is returned.
10194
10195 If ob is true and the SV is blessed, the description is the class
10196 name, otherwise it is the type of the SV, "SCALAR", "ARRAY" etc.
10197
10198 =cut
10199 */
10200
10201 SV *
10202 Perl_sv_ref(pTHX_ SV *dst, const SV *const sv, const int ob)
10203 {
10204     PERL_ARGS_ASSERT_SV_REF;
10205
10206     if (!dst)
10207         dst = sv_newmortal();
10208
10209     if (ob && SvOBJECT(sv)) {
10210         HvNAME_get(SvSTASH(sv))
10211                     ? sv_sethek(dst, HvNAME_HEK(SvSTASH(sv)))
10212                     : sv_setpvs(dst, "__ANON__");
10213     }
10214     else {
10215         const char * reftype = sv_reftype(sv, 0);
10216         sv_setpv(dst, reftype);
10217     }
10218     return dst;
10219 }
10220
10221 /*
10222 =for apidoc sv_isobject
10223
10224 Returns a boolean indicating whether the SV is an RV pointing to a blessed
10225 object.  If the SV is not an RV, or if the object is not blessed, then this
10226 will return false.
10227
10228 =cut
10229 */
10230
10231 int
10232 Perl_sv_isobject(pTHX_ SV *sv)
10233 {
10234     if (!sv)
10235         return 0;
10236     SvGETMAGIC(sv);
10237     if (!SvROK(sv))
10238         return 0;
10239     sv = SvRV(sv);
10240     if (!SvOBJECT(sv))
10241         return 0;
10242     return 1;
10243 }
10244
10245 /*
10246 =for apidoc sv_isa
10247
10248 Returns a boolean indicating whether the SV is blessed into the specified
10249 class.  This does not check for subtypes; use C<sv_derived_from> to verify
10250 an inheritance relationship.
10251
10252 =cut
10253 */
10254
10255 int
10256 Perl_sv_isa(pTHX_ SV *sv, const char *const name)
10257 {
10258     const char *hvname;
10259
10260     PERL_ARGS_ASSERT_SV_ISA;
10261
10262     if (!sv)
10263         return 0;
10264     SvGETMAGIC(sv);
10265     if (!SvROK(sv))
10266         return 0;
10267     sv = SvRV(sv);
10268     if (!SvOBJECT(sv))
10269         return 0;
10270     hvname = HvNAME_get(SvSTASH(sv));
10271     if (!hvname)
10272         return 0;
10273
10274     return strEQ(hvname, name);
10275 }
10276
10277 /*
10278 =for apidoc newSVrv
10279
10280 Creates a new SV for the existing RV, C<rv>, to point to.  If C<rv> is not an
10281 RV then it will be upgraded to one.  If C<classname> is non-null then the new
10282 SV will be blessed in the specified package.  The new SV is returned and its
10283 reference count is 1.  The reference count 1 is owned by C<rv>.
10284
10285 =cut
10286 */
10287
10288 SV*
10289 Perl_newSVrv(pTHX_ SV *const rv, const char *const classname)
10290 {
10291     SV *sv;
10292
10293     PERL_ARGS_ASSERT_NEWSVRV;
10294
10295     new_SV(sv);
10296
10297     SV_CHECK_THINKFIRST_COW_DROP(rv);
10298
10299     if (UNLIKELY( SvTYPE(rv) >= SVt_PVMG )) {
10300         const U32 refcnt = SvREFCNT(rv);
10301         SvREFCNT(rv) = 0;
10302         sv_clear(rv);
10303         SvFLAGS(rv) = 0;
10304         SvREFCNT(rv) = refcnt;
10305
10306         sv_upgrade(rv, SVt_IV);
10307     } else if (SvROK(rv)) {
10308         SvREFCNT_dec(SvRV(rv));
10309     } else {
10310         prepare_SV_for_RV(rv);
10311     }
10312
10313     SvOK_off(rv);
10314     SvRV_set(rv, sv);
10315     SvROK_on(rv);
10316
10317     if (classname) {
10318         HV* const stash = gv_stashpv(classname, GV_ADD);
10319         (void)sv_bless(rv, stash);
10320     }
10321     return sv;
10322 }
10323
10324 SV *
10325 Perl_newSVavdefelem(pTHX_ AV *av, SSize_t ix, bool extendible)
10326 {
10327     SV * const lv = newSV_type(SVt_PVLV);
10328     PERL_ARGS_ASSERT_NEWSVAVDEFELEM;
10329     LvTYPE(lv) = 'y';
10330     sv_magic(lv, NULL, PERL_MAGIC_defelem, NULL, 0);
10331     LvTARG(lv) = SvREFCNT_inc_simple_NN(av);
10332     LvSTARGOFF(lv) = ix;
10333     LvTARGLEN(lv) = extendible ? 1 : (STRLEN)UV_MAX;
10334     return lv;
10335 }
10336
10337 /*
10338 =for apidoc sv_setref_pv
10339
10340 Copies a pointer into a new SV, optionally blessing the SV.  The C<rv>
10341 argument will be upgraded to an RV.  That RV will be modified to point to
10342 the new SV.  If the C<pv> argument is C<NULL>, then C<PL_sv_undef> will be placed
10343 into the SV.  The C<classname> argument indicates the package for the
10344 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10345 will have a reference count of 1, and the RV will be returned.
10346
10347 Do not use with other Perl types such as HV, AV, SV, CV, because those
10348 objects will become corrupted by the pointer copy process.
10349
10350 Note that C<sv_setref_pvn> copies the string while this copies the pointer.
10351
10352 =cut
10353 */
10354
10355 SV*
10356 Perl_sv_setref_pv(pTHX_ SV *const rv, const char *const classname, void *const pv)
10357 {
10358     PERL_ARGS_ASSERT_SV_SETREF_PV;
10359
10360     if (!pv) {
10361         sv_set_undef(rv);
10362         SvSETMAGIC(rv);
10363     }
10364     else
10365         sv_setiv(newSVrv(rv,classname), PTR2IV(pv));
10366     return rv;
10367 }
10368
10369 /*
10370 =for apidoc sv_setref_iv
10371
10372 Copies an integer into a new SV, optionally blessing the SV.  The C<rv>
10373 argument will be upgraded to an RV.  That RV will be modified to point to
10374 the new SV.  The C<classname> argument indicates the package for the
10375 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10376 will have a reference count of 1, and the RV will be returned.
10377
10378 =cut
10379 */
10380
10381 SV*
10382 Perl_sv_setref_iv(pTHX_ SV *const rv, const char *const classname, const IV iv)
10383 {
10384     PERL_ARGS_ASSERT_SV_SETREF_IV;
10385
10386     sv_setiv(newSVrv(rv,classname), iv);
10387     return rv;
10388 }
10389
10390 /*
10391 =for apidoc sv_setref_uv
10392
10393 Copies an unsigned integer into a new SV, optionally blessing the SV.  The C<rv>
10394 argument will be upgraded to an RV.  That RV will be modified to point to
10395 the new SV.  The C<classname> argument indicates the package for the
10396 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10397 will have a reference count of 1, and the RV will be returned.
10398
10399 =cut
10400 */
10401
10402 SV*
10403 Perl_sv_setref_uv(pTHX_ SV *const rv, const char *const classname, const UV uv)
10404 {
10405     PERL_ARGS_ASSERT_SV_SETREF_UV;
10406
10407     sv_setuv(newSVrv(rv,classname), uv);
10408     return rv;
10409 }
10410
10411 /*
10412 =for apidoc sv_setref_nv
10413
10414 Copies a double into a new SV, optionally blessing the SV.  The C<rv>
10415 argument will be upgraded to an RV.  That RV will be modified to point to
10416 the new SV.  The C<classname> argument indicates the package for the
10417 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10418 will have a reference count of 1, and the RV will be returned.
10419
10420 =cut
10421 */
10422
10423 SV*
10424 Perl_sv_setref_nv(pTHX_ SV *const rv, const char *const classname, const NV nv)
10425 {
10426     PERL_ARGS_ASSERT_SV_SETREF_NV;
10427
10428     sv_setnv(newSVrv(rv,classname), nv);
10429     return rv;
10430 }
10431
10432 /*
10433 =for apidoc sv_setref_pvn
10434
10435 Copies a string into a new SV, optionally blessing the SV.  The length of the
10436 string must be specified with C<n>.  The C<rv> argument will be upgraded to
10437 an RV.  That RV will be modified to point to the new SV.  The C<classname>
10438 argument indicates the package for the blessing.  Set C<classname> to
10439 C<NULL> to avoid the blessing.  The new SV will have a reference count
10440 of 1, and the RV will be returned.
10441
10442 Note that C<sv_setref_pv> copies the pointer while this copies the string.
10443
10444 =cut
10445 */
10446
10447 SV*
10448 Perl_sv_setref_pvn(pTHX_ SV *const rv, const char *const classname,
10449                    const char *const pv, const STRLEN n)
10450 {
10451     PERL_ARGS_ASSERT_SV_SETREF_PVN;
10452
10453     sv_setpvn(newSVrv(rv,classname), pv, n);
10454     return rv;
10455 }
10456
10457 /*
10458 =for apidoc sv_bless
10459
10460 Blesses an SV into a specified package.  The SV must be an RV.  The package
10461 must be designated by its stash (see C<L</gv_stashpv>>).  The reference count
10462 of the SV is unaffected.
10463
10464 =cut
10465 */
10466
10467 SV*
10468 Perl_sv_bless(pTHX_ SV *const sv, HV *const stash)
10469 {
10470     SV *tmpRef;
10471     HV *oldstash = NULL;
10472
10473     PERL_ARGS_ASSERT_SV_BLESS;
10474
10475     SvGETMAGIC(sv);
10476     if (!SvROK(sv))
10477         Perl_croak(aTHX_ "Can't bless non-reference value");
10478     tmpRef = SvRV(sv);
10479     if (SvFLAGS(tmpRef) & (SVs_OBJECT|SVf_READONLY|SVf_PROTECT)) {
10480         if (SvREADONLY(tmpRef))
10481             Perl_croak_no_modify();
10482         if (SvOBJECT(tmpRef)) {
10483             oldstash = SvSTASH(tmpRef);
10484         }
10485     }
10486     SvOBJECT_on(tmpRef);
10487     SvUPGRADE(tmpRef, SVt_PVMG);
10488     SvSTASH_set(tmpRef, MUTABLE_HV(SvREFCNT_inc_simple(stash)));
10489     SvREFCNT_dec(oldstash);
10490
10491     if(SvSMAGICAL(tmpRef))
10492         if(mg_find(tmpRef, PERL_MAGIC_ext) || mg_find(tmpRef, PERL_MAGIC_uvar))
10493             mg_set(tmpRef);
10494
10495
10496
10497     return sv;
10498 }
10499
10500 /* Downgrades a PVGV to a PVMG. If it's actually a PVLV, we leave the type
10501  * as it is after unglobbing it.
10502  */
10503
10504 PERL_STATIC_INLINE void
10505 S_sv_unglob(pTHX_ SV *const sv, U32 flags)
10506 {
10507     void *xpvmg;
10508     HV *stash;
10509     SV * const temp = flags & SV_COW_DROP_PV ? NULL : sv_newmortal();
10510
10511     PERL_ARGS_ASSERT_SV_UNGLOB;
10512
10513     assert(SvTYPE(sv) == SVt_PVGV || SvTYPE(sv) == SVt_PVLV);
10514     SvFAKE_off(sv);
10515     if (!(flags & SV_COW_DROP_PV))
10516         gv_efullname3(temp, MUTABLE_GV(sv), "*");
10517
10518     SvREFCNT_inc_simple_void_NN(sv_2mortal(sv));
10519     if (GvGP(sv)) {
10520         if(GvCVu((const GV *)sv) && (stash = GvSTASH(MUTABLE_GV(sv)))
10521            && HvNAME_get(stash))
10522             mro_method_changed_in(stash);
10523         gp_free(MUTABLE_GV(sv));
10524     }
10525     if (GvSTASH(sv)) {
10526         sv_del_backref(MUTABLE_SV(GvSTASH(sv)), sv);
10527         GvSTASH(sv) = NULL;
10528     }
10529     GvMULTI_off(sv);
10530     if (GvNAME_HEK(sv)) {
10531         unshare_hek(GvNAME_HEK(sv));
10532     }
10533     isGV_with_GP_off(sv);
10534
10535     if(SvTYPE(sv) == SVt_PVGV) {
10536         /* need to keep SvANY(sv) in the right arena */
10537         xpvmg = new_XPVMG();
10538         StructCopy(SvANY(sv), xpvmg, XPVMG);
10539         del_XPVGV(SvANY(sv));
10540         SvANY(sv) = xpvmg;
10541
10542         SvFLAGS(sv) &= ~SVTYPEMASK;
10543         SvFLAGS(sv) |= SVt_PVMG;
10544     }
10545
10546     /* Intentionally not calling any local SET magic, as this isn't so much a
10547        set operation as merely an internal storage change.  */
10548     if (flags & SV_COW_DROP_PV) SvOK_off(sv);
10549     else sv_setsv_flags(sv, temp, 0);
10550
10551     if ((const GV *)sv == PL_last_in_gv)
10552         PL_last_in_gv = NULL;
10553     else if ((const GV *)sv == PL_statgv)
10554         PL_statgv = NULL;
10555 }
10556
10557 /*
10558 =for apidoc sv_unref_flags
10559
10560 Unsets the RV status of the SV, and decrements the reference count of
10561 whatever was being referenced by the RV.  This can almost be thought of
10562 as a reversal of C<newSVrv>.  The C<cflags> argument can contain
10563 C<SV_IMMEDIATE_UNREF> to force the reference count to be decremented
10564 (otherwise the decrementing is conditional on the reference count being
10565 different from one or the reference being a readonly SV).
10566 See C<L</SvROK_off>>.
10567
10568 =cut
10569 */
10570
10571 void
10572 Perl_sv_unref_flags(pTHX_ SV *const ref, const U32 flags)
10573 {
10574     SV* const target = SvRV(ref);
10575
10576     PERL_ARGS_ASSERT_SV_UNREF_FLAGS;
10577
10578     if (SvWEAKREF(ref)) {
10579         sv_del_backref(target, ref);
10580         SvWEAKREF_off(ref);
10581         SvRV_set(ref, NULL);
10582         return;
10583     }
10584     SvRV_set(ref, NULL);
10585     SvROK_off(ref);
10586     /* You can't have a || SvREADONLY(target) here, as $a = $$a, where $a was
10587        assigned to as BEGIN {$a = \"Foo"} will fail.  */
10588     if (SvREFCNT(target) != 1 || (flags & SV_IMMEDIATE_UNREF))
10589         SvREFCNT_dec_NN(target);
10590     else /* XXX Hack, but hard to make $a=$a->[1] work otherwise */
10591         sv_2mortal(target);     /* Schedule for freeing later */
10592 }
10593
10594 /*
10595 =for apidoc sv_untaint
10596
10597 Untaint an SV.  Use C<SvTAINTED_off> instead.
10598
10599 =cut
10600 */
10601
10602 void
10603 Perl_sv_untaint(pTHX_ SV *const sv)
10604 {
10605     PERL_ARGS_ASSERT_SV_UNTAINT;
10606     PERL_UNUSED_CONTEXT;
10607
10608     if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
10609         MAGIC * const mg = mg_find(sv, PERL_MAGIC_taint);
10610         if (mg)
10611             mg->mg_len &= ~1;
10612     }
10613 }
10614
10615 /*
10616 =for apidoc sv_tainted
10617
10618 Test an SV for taintedness.  Use C<SvTAINTED> instead.
10619
10620 =cut
10621 */
10622
10623 bool
10624 Perl_sv_tainted(pTHX_ SV *const sv)
10625 {
10626     PERL_ARGS_ASSERT_SV_TAINTED;
10627     PERL_UNUSED_CONTEXT;
10628
10629     if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
10630         const MAGIC * const mg = mg_find(sv, PERL_MAGIC_taint);
10631         if (mg && (mg->mg_len & 1) )
10632             return TRUE;
10633     }
10634     return FALSE;
10635 }
10636
10637 #ifndef NO_MATHOMS  /* Can't move these to mathoms.c because call uiv_2buf(),
10638                        private to this file */
10639
10640 /*
10641 =for apidoc sv_setpviv
10642
10643 Copies an integer into the given SV, also updating its string value.
10644 Does not handle 'set' magic.  See C<L</sv_setpviv_mg>>.
10645
10646 =cut
10647 */
10648
10649 void
10650 Perl_sv_setpviv(pTHX_ SV *const sv, const IV iv)
10651 {
10652     char buf[TYPE_CHARS(UV)];
10653     char *ebuf;
10654     char * const ptr = uiv_2buf(buf, iv, 0, 0, &ebuf);
10655
10656     PERL_ARGS_ASSERT_SV_SETPVIV;
10657
10658     sv_setpvn(sv, ptr, ebuf - ptr);
10659 }
10660
10661 /*
10662 =for apidoc sv_setpviv_mg
10663
10664 Like C<sv_setpviv>, but also handles 'set' magic.
10665
10666 =cut
10667 */
10668
10669 void
10670 Perl_sv_setpviv_mg(pTHX_ SV *const sv, const IV iv)
10671 {
10672     PERL_ARGS_ASSERT_SV_SETPVIV_MG;
10673
10674     sv_setpviv(sv, iv);
10675     SvSETMAGIC(sv);
10676 }
10677
10678 #endif  /* NO_MATHOMS */
10679
10680 #if defined(PERL_IMPLICIT_CONTEXT)
10681
10682 /* pTHX_ magic can't cope with varargs, so this is a no-context
10683  * version of the main function, (which may itself be aliased to us).
10684  * Don't access this version directly.
10685  */
10686
10687 void
10688 Perl_sv_setpvf_nocontext(SV *const sv, const char *const pat, ...)
10689 {
10690     dTHX;
10691     va_list args;
10692
10693     PERL_ARGS_ASSERT_SV_SETPVF_NOCONTEXT;
10694
10695     va_start(args, pat);
10696     sv_vsetpvf(sv, pat, &args);
10697     va_end(args);
10698 }
10699
10700 /* pTHX_ magic can't cope with varargs, so this is a no-context
10701  * version of the main function, (which may itself be aliased to us).
10702  * Don't access this version directly.
10703  */
10704
10705 void
10706 Perl_sv_setpvf_mg_nocontext(SV *const sv, const char *const pat, ...)
10707 {
10708     dTHX;
10709     va_list args;
10710
10711     PERL_ARGS_ASSERT_SV_SETPVF_MG_NOCONTEXT;
10712
10713     va_start(args, pat);
10714     sv_vsetpvf_mg(sv, pat, &args);
10715     va_end(args);
10716 }
10717 #endif
10718
10719 /*
10720 =for apidoc sv_setpvf
10721
10722 Works like C<sv_catpvf> but copies the text into the SV instead of
10723 appending it.  Does not handle 'set' magic.  See C<L</sv_setpvf_mg>>.
10724
10725 =cut
10726 */
10727
10728 void
10729 Perl_sv_setpvf(pTHX_ SV *const sv, const char *const pat, ...)
10730 {
10731     va_list args;
10732
10733     PERL_ARGS_ASSERT_SV_SETPVF;
10734
10735     va_start(args, pat);
10736     sv_vsetpvf(sv, pat, &args);
10737     va_end(args);
10738 }
10739
10740 /*
10741 =for apidoc sv_vsetpvf
10742
10743 Works like C<sv_vcatpvf> but copies the text into the SV instead of
10744 appending it.  Does not handle 'set' magic.  See C<L</sv_vsetpvf_mg>>.
10745
10746 Usually used via its frontend C<sv_setpvf>.
10747
10748 =cut
10749 */
10750
10751 void
10752 Perl_sv_vsetpvf(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10753 {
10754     PERL_ARGS_ASSERT_SV_VSETPVF;
10755
10756     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
10757 }
10758
10759 /*
10760 =for apidoc sv_setpvf_mg
10761
10762 Like C<sv_setpvf>, but also handles 'set' magic.
10763
10764 =cut
10765 */
10766
10767 void
10768 Perl_sv_setpvf_mg(pTHX_ SV *const sv, const char *const pat, ...)
10769 {
10770     va_list args;
10771
10772     PERL_ARGS_ASSERT_SV_SETPVF_MG;
10773
10774     va_start(args, pat);
10775     sv_vsetpvf_mg(sv, pat, &args);
10776     va_end(args);
10777 }
10778
10779 /*
10780 =for apidoc sv_vsetpvf_mg
10781
10782 Like C<sv_vsetpvf>, but also handles 'set' magic.
10783
10784 Usually used via its frontend C<sv_setpvf_mg>.
10785
10786 =cut
10787 */
10788
10789 void
10790 Perl_sv_vsetpvf_mg(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10791 {
10792     PERL_ARGS_ASSERT_SV_VSETPVF_MG;
10793
10794     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
10795     SvSETMAGIC(sv);
10796 }
10797
10798 #if defined(PERL_IMPLICIT_CONTEXT)
10799
10800 /* pTHX_ magic can't cope with varargs, so this is a no-context
10801  * version of the main function, (which may itself be aliased to us).
10802  * Don't access this version directly.
10803  */
10804
10805 void
10806 Perl_sv_catpvf_nocontext(SV *const sv, const char *const pat, ...)
10807 {
10808     dTHX;
10809     va_list args;
10810
10811     PERL_ARGS_ASSERT_SV_CATPVF_NOCONTEXT;
10812
10813     va_start(args, pat);
10814     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10815     va_end(args);
10816 }
10817
10818 /* pTHX_ magic can't cope with varargs, so this is a no-context
10819  * version of the main function, (which may itself be aliased to us).
10820  * Don't access this version directly.
10821  */
10822
10823 void
10824 Perl_sv_catpvf_mg_nocontext(SV *const sv, const char *const pat, ...)
10825 {
10826     dTHX;
10827     va_list args;
10828
10829     PERL_ARGS_ASSERT_SV_CATPVF_MG_NOCONTEXT;
10830
10831     va_start(args, pat);
10832     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10833     SvSETMAGIC(sv);
10834     va_end(args);
10835 }
10836 #endif
10837
10838 /*
10839 =for apidoc sv_catpvf
10840
10841 Processes its arguments like C<sv_catpvfn>, and appends the formatted
10842 output to an SV.  As with C<sv_catpvfn> called with a non-null C-style
10843 variable argument list, argument reordering is not supported.
10844 If the appended data contains "wide" characters
10845 (including, but not limited to, SVs with a UTF-8 PV formatted with C<%s>,
10846 and characters >255 formatted with C<%c>), the original SV might get
10847 upgraded to UTF-8.  Handles 'get' magic, but not 'set' magic.  See
10848 C<L</sv_catpvf_mg>>.  If the original SV was UTF-8, the pattern should be
10849 valid UTF-8; if the original SV was bytes, the pattern should be too.
10850
10851 =cut */
10852
10853 void
10854 Perl_sv_catpvf(pTHX_ SV *const sv, const char *const pat, ...)
10855 {
10856     va_list args;
10857
10858     PERL_ARGS_ASSERT_SV_CATPVF;
10859
10860     va_start(args, pat);
10861     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10862     va_end(args);
10863 }
10864
10865 /*
10866 =for apidoc sv_vcatpvf
10867
10868 Processes its arguments like C<sv_catpvfn> called with a non-null C-style
10869 variable argument list, and appends the formatted output
10870 to an SV.  Does not handle 'set' magic.  See C<L</sv_vcatpvf_mg>>.
10871
10872 Usually used via its frontend C<sv_catpvf>.
10873
10874 =cut
10875 */
10876
10877 void
10878 Perl_sv_vcatpvf(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10879 {
10880     PERL_ARGS_ASSERT_SV_VCATPVF;
10881
10882     sv_vcatpvfn_flags(sv, pat, strlen(pat), args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10883 }
10884
10885 /*
10886 =for apidoc sv_catpvf_mg
10887
10888 Like C<sv_catpvf>, but also handles 'set' magic.
10889
10890 =cut
10891 */
10892
10893 void
10894 Perl_sv_catpvf_mg(pTHX_ SV *const sv, const char *const pat, ...)
10895 {
10896     va_list args;
10897
10898     PERL_ARGS_ASSERT_SV_CATPVF_MG;
10899
10900     va_start(args, pat);
10901     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10902     SvSETMAGIC(sv);
10903     va_end(args);
10904 }
10905
10906 /*
10907 =for apidoc sv_vcatpvf_mg
10908
10909 Like C<sv_vcatpvf>, but also handles 'set' magic.
10910
10911 Usually used via its frontend C<sv_catpvf_mg>.
10912
10913 =cut
10914 */
10915
10916 void
10917 Perl_sv_vcatpvf_mg(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10918 {
10919     PERL_ARGS_ASSERT_SV_VCATPVF_MG;
10920
10921     sv_vcatpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
10922     SvSETMAGIC(sv);
10923 }
10924
10925 /*
10926 =for apidoc sv_vsetpvfn
10927
10928 Works like C<sv_vcatpvfn> but copies the text into the SV instead of
10929 appending it.
10930
10931 Usually used via one of its frontends C<sv_vsetpvf> and C<sv_vsetpvf_mg>.
10932
10933 =cut
10934 */
10935
10936 void
10937 Perl_sv_vsetpvfn(pTHX_ SV *const sv, const char *const pat, const STRLEN patlen,
10938                  va_list *const args, SV **const svargs, const I32 svmax, bool *const maybe_tainted)
10939 {
10940     PERL_ARGS_ASSERT_SV_VSETPVFN;
10941
10942     SvPVCLEAR(sv);
10943     sv_vcatpvfn_flags(sv, pat, patlen, args, svargs, svmax, maybe_tainted, 0);
10944 }
10945
10946
10947 /*
10948  * Warn of missing argument to sprintf. The value used in place of such
10949  * arguments should be &PL_sv_no; an undefined value would yield
10950  * inappropriate "use of uninit" warnings [perl #71000].
10951  */
10952 STATIC void
10953 S_warn_vcatpvfn_missing_argument(pTHX) {
10954     if (ckWARN(WARN_MISSING)) {
10955         Perl_warner(aTHX_ packWARN(WARN_MISSING), "Missing argument in %s",
10956                 PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
10957     }
10958 }
10959
10960
10961 STATIC I32
10962 S_expect_number(pTHX_ char **const pattern)
10963 {
10964     I32 var = 0;
10965
10966     PERL_ARGS_ASSERT_EXPECT_NUMBER;
10967
10968     switch (**pattern) {
10969     case '1': case '2': case '3':
10970     case '4': case '5': case '6':
10971     case '7': case '8': case '9':
10972         var = *(*pattern)++ - '0';
10973         while (isDIGIT(**pattern)) {
10974             const I32 tmp = var * 10 + (*(*pattern)++ - '0');
10975             if (tmp < var)
10976                 Perl_croak(aTHX_ "Integer overflow in format string for %s", (PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn"));
10977             var = tmp;
10978         }
10979     }
10980     return var;
10981 }
10982
10983 STATIC char *
10984 S_F0convert(NV nv, char *const endbuf, STRLEN *const len)
10985 {
10986     const int neg = nv < 0;
10987     UV uv;
10988
10989     PERL_ARGS_ASSERT_F0CONVERT;
10990
10991     if (UNLIKELY(Perl_isinfnan(nv))) {
10992         STRLEN n = S_infnan_2pv(nv, endbuf - *len, *len, 0);
10993         *len = n;
10994         return endbuf - n;
10995     }
10996     if (neg)
10997         nv = -nv;
10998     if (nv < UV_MAX) {
10999         char *p = endbuf;
11000         nv += 0.5;
11001         uv = (UV)nv;
11002         if (uv & 1 && uv == nv)
11003             uv--;                       /* Round to even */
11004         do {
11005             const unsigned dig = uv % 10;
11006             *--p = '0' + dig;
11007         } while (uv /= 10);
11008         if (neg)
11009             *--p = '-';
11010         *len = endbuf - p;
11011         return p;
11012     }
11013     return NULL;
11014 }
11015
11016
11017 /*
11018 =for apidoc sv_vcatpvfn
11019
11020 =for apidoc sv_vcatpvfn_flags
11021
11022 Processes its arguments like C<vsprintf> and appends the formatted output
11023 to an SV.  Uses an array of SVs if the C-style variable argument list is
11024 missing (C<NULL>). Argument reordering (using format specifiers like C<%2$d>
11025 or C<%*2$d>) is supported only when using an array of SVs; using a C-style
11026 C<va_list> argument list with a format string that uses argument reordering
11027 will yield an exception.
11028
11029 When running with taint checks enabled, indicates via
11030 C<maybe_tainted> if results are untrustworthy (often due to the use of
11031 locales).
11032
11033 If called as C<sv_vcatpvfn> or flags has the C<SV_GMAGIC> bit set, calls get magic.
11034
11035 Usually used via one of its frontends C<sv_vcatpvf> and C<sv_vcatpvf_mg>.
11036
11037 =cut
11038 */
11039
11040 #define VECTORIZE_ARGS  vecsv = va_arg(*args, SV*);\
11041                         vecstr = (U8*)SvPV_const(vecsv,veclen);\
11042                         vec_utf8 = DO_UTF8(vecsv);
11043
11044 /* XXX maybe_tainted is never assigned to, so the doc above is lying. */
11045
11046 void
11047 Perl_sv_vcatpvfn(pTHX_ SV *const sv, const char *const pat, const STRLEN patlen,
11048                  va_list *const args, SV **const svargs, const I32 svmax, bool *const maybe_tainted)
11049 {
11050     PERL_ARGS_ASSERT_SV_VCATPVFN;
11051
11052     sv_vcatpvfn_flags(sv, pat, patlen, args, svargs, svmax, maybe_tainted, SV_GMAGIC|SV_SMAGIC);
11053 }
11054
11055 #ifdef LONGDOUBLE_DOUBLEDOUBLE
11056 /* The first double can be as large as 2**1023, or '1' x '0' x 1023.
11057  * The second double can be as small as 2**-1074, or '0' x 1073 . '1'.
11058  * The sum of them can be '1' . '0' x 2096 . '1', with implied radix point
11059  * after the first 1023 zero bits.
11060  *
11061  * XXX The 2098 is quite large (262.25 bytes) and therefore some sort
11062  * of dynamically growing buffer might be better, start at just 16 bytes
11063  * (for example) and grow only when necessary.  Or maybe just by looking
11064  * at the exponents of the two doubles? */
11065 #  define DOUBLEDOUBLE_MAXBITS 2098
11066 #endif
11067
11068 /* vhex will contain the values (0..15) of the hex digits ("nybbles"
11069  * of 4 bits); 1 for the implicit 1, and the mantissa bits, four bits
11070  * per xdigit.  For the double-double case, this can be rather many.
11071  * The non-double-double-long-double overshoots since all bits of NV
11072  * are not mantissa bits, there are also exponent bits. */
11073 #ifdef LONGDOUBLE_DOUBLEDOUBLE
11074 #  define VHEX_SIZE (3+DOUBLEDOUBLE_MAXBITS/4)
11075 #else
11076 #  define VHEX_SIZE (1+(NVSIZE * 8)/4)
11077 #endif
11078
11079 /* If we do not have a known long double format, (including not using
11080  * long doubles, or long doubles being equal to doubles) then we will
11081  * fall back to the ldexp/frexp route, with which we can retrieve at
11082  * most as many bits as our widest unsigned integer type is.  We try
11083  * to get a 64-bit unsigned integer even if we are not using a 64-bit UV.
11084  *
11085  * (If you want to test the case of UVSIZE == 4, NVSIZE == 8,
11086  *  set the MANTISSATYPE to int and the MANTISSASIZE to 4.)
11087  */
11088 #if defined(HAS_QUAD) && defined(Uquad_t)
11089 #  define MANTISSATYPE Uquad_t
11090 #  define MANTISSASIZE 8
11091 #else
11092 #  define MANTISSATYPE UV
11093 #  define MANTISSASIZE UVSIZE
11094 #endif
11095
11096 #if defined(DOUBLE_LITTLE_ENDIAN) || defined(LONGDOUBLE_LITTLE_ENDIAN)
11097 #  define HEXTRACT_LITTLE_ENDIAN
11098 #elif defined(DOUBLE_BIG_ENDIAN) || defined(LONGDOUBLE_BIG_ENDIAN)
11099 #  define HEXTRACT_BIG_ENDIAN
11100 #else
11101 #  define HEXTRACT_MIX_ENDIAN
11102 #endif
11103
11104 /* S_hextract() is a helper for Perl_sv_vcatpvfn_flags, for extracting
11105  * the hexadecimal values (for %a/%A).  The nv is the NV where the value
11106  * are being extracted from (either directly from the long double in-memory
11107  * presentation, or from the uquad computed via frexp+ldexp).  frexp also
11108  * is used to update the exponent.  The subnormal is set to true
11109  * for IEEE 754 subnormals/denormals (including the x86 80-bit format).
11110  * The vhex is the pointer to the beginning of the output buffer of VHEX_SIZE.
11111  *
11112  * The tricky part is that S_hextract() needs to be called twice:
11113  * the first time with vend as NULL, and the second time with vend as
11114  * the pointer returned by the first call.  What happens is that on
11115  * the first round the output size is computed, and the intended
11116  * extraction sanity checked.  On the second round the actual output
11117  * (the extraction of the hexadecimal values) takes place.
11118  * Sanity failures cause fatal failures during both rounds. */
11119 STATIC U8*
11120 S_hextract(pTHX_ const NV nv, int* exponent, bool *subnormal,
11121            U8* vhex, U8* vend)
11122 {
11123     U8* v = vhex;
11124     int ix;
11125     int ixmin = 0, ixmax = 0;
11126
11127     /* XXX Inf/NaN are not handled here, since it is
11128      * assumed they are to be output as "Inf" and "NaN". */
11129
11130     /* These macros are just to reduce typos, they have multiple
11131      * repetitions below, but usually only one (or sometimes two)
11132      * of them is really being used. */
11133     /* HEXTRACT_OUTPUT() extracts the high nybble first. */
11134 #define HEXTRACT_OUTPUT_HI(ix) (*v++ = nvp[ix] >> 4)
11135 #define HEXTRACT_OUTPUT_LO(ix) (*v++ = nvp[ix] & 0xF)
11136 #define HEXTRACT_OUTPUT(ix) \
11137     STMT_START { \
11138       HEXTRACT_OUTPUT_HI(ix); HEXTRACT_OUTPUT_LO(ix); \
11139    } STMT_END
11140 #define HEXTRACT_COUNT(ix, c) \
11141     STMT_START { \
11142       v += c; if (ix < ixmin) ixmin = ix; else if (ix > ixmax) ixmax = ix; \
11143    } STMT_END
11144 #define HEXTRACT_BYTE(ix) \
11145     STMT_START { \
11146       if (vend) HEXTRACT_OUTPUT(ix); else HEXTRACT_COUNT(ix, 2); \
11147    } STMT_END
11148 #define HEXTRACT_LO_NYBBLE(ix) \
11149     STMT_START { \
11150       if (vend) HEXTRACT_OUTPUT_LO(ix); else HEXTRACT_COUNT(ix, 1); \
11151    } STMT_END
11152     /* HEXTRACT_TOP_NYBBLE is just convenience disguise,
11153      * to make it look less odd when the top bits of a NV
11154      * are extracted using HEXTRACT_LO_NYBBLE: the highest
11155      * order bits can be in the "low nybble" of a byte. */
11156 #define HEXTRACT_TOP_NYBBLE(ix) HEXTRACT_LO_NYBBLE(ix)
11157 #define HEXTRACT_BYTES_LE(a, b) \
11158     for (ix = a; ix >= b; ix--) { HEXTRACT_BYTE(ix); }
11159 #define HEXTRACT_BYTES_BE(a, b) \
11160     for (ix = a; ix <= b; ix++) { HEXTRACT_BYTE(ix); }
11161 #define HEXTRACT_GET_SUBNORMAL(nv) *subnormal = Perl_fp_class_denorm(nv)
11162 #define HEXTRACT_IMPLICIT_BIT(nv) \
11163     STMT_START { \
11164         if (!*subnormal) { \
11165             if (vend) *v++ = ((nv) == 0.0) ? 0 : 1; else v++; \
11166         } \
11167    } STMT_END
11168
11169 /* Most formats do.  Those which don't should undef this.
11170  *
11171  * But also note that IEEE 754 subnormals do not have it, or,
11172  * expressed alternatively, their implicit bit is zero. */
11173 #define HEXTRACT_HAS_IMPLICIT_BIT
11174
11175 /* Many formats do.  Those which don't should undef this. */
11176 #define HEXTRACT_HAS_TOP_NYBBLE
11177
11178     /* HEXTRACTSIZE is the maximum number of xdigits. */
11179 #if defined(USE_LONG_DOUBLE) && defined(LONGDOUBLE_DOUBLEDOUBLE)
11180 #  define HEXTRACTSIZE (2+DOUBLEDOUBLE_MAXBITS/4)
11181 #else
11182 #  define HEXTRACTSIZE 2 * NVSIZE
11183 #endif
11184
11185     const U8* vmaxend = vhex + HEXTRACTSIZE;
11186     PERL_UNUSED_VAR(ix); /* might happen */
11187     (void)Perl_frexp(PERL_ABS(nv), exponent);
11188     *subnormal = FALSE;
11189     if (vend && (vend <= vhex || vend > vmaxend)) {
11190         /* diag_listed_as: Hexadecimal float: internal error (%s) */
11191         Perl_croak(aTHX_ "Hexadecimal float: internal error (entry)");
11192     }
11193     {
11194         /* First check if using long doubles. */
11195 #if defined(USE_LONG_DOUBLE) && (NVSIZE > DOUBLESIZE)
11196 #  if LONG_DOUBLEKIND == LONG_DOUBLE_IS_IEEE_754_128_BIT_LITTLE_ENDIAN
11197         /* Used in e.g. VMS and HP-UX IA-64, e.g. -0.1L:
11198          * 9a 99 99 99 99 99 99 99 99 99 99 99 99 99 fb bf */
11199         /* The bytes 13..0 are the mantissa/fraction,
11200          * the 15,14 are the sign+exponent. */
11201         const U8* nvp = (const U8*)(&nv);
11202         HEXTRACT_GET_SUBNORMAL(nv);
11203         HEXTRACT_IMPLICIT_BIT(nv);
11204 #   undef HEXTRACT_HAS_TOP_NYBBLE
11205         HEXTRACT_BYTES_LE(13, 0);
11206 #  elif LONG_DOUBLEKIND == LONG_DOUBLE_IS_IEEE_754_128_BIT_BIG_ENDIAN
11207         /* Used in e.g. Solaris Sparc and HP-UX PA-RISC, e.g. -0.1L:
11208          * bf fb 99 99 99 99 99 99 99 99 99 99 99 99 99 9a */
11209         /* The bytes 2..15 are the mantissa/fraction,
11210          * the 0,1 are the sign+exponent. */
11211         const U8* nvp = (const U8*)(&nv);
11212         HEXTRACT_GET_SUBNORMAL(nv);
11213         HEXTRACT_IMPLICIT_BIT(nv);
11214 #   undef HEXTRACT_HAS_TOP_NYBBLE
11215         HEXTRACT_BYTES_BE(2, 15);
11216 #  elif LONG_DOUBLEKIND == LONG_DOUBLE_IS_X86_80_BIT_LITTLE_ENDIAN
11217         /* x86 80-bit "extended precision", 64 bits of mantissa / fraction /
11218          * significand, 15 bits of exponent, 1 bit of sign.  No implicit bit.
11219          * NVSIZE can be either 12 (ILP32, Solaris x86) or 16 (LP64, Linux
11220          * and OS X), meaning that 2 or 6 bytes are empty padding. */
11221         /* The bytes 0..1 are the sign+exponent,
11222          * the bytes 2..9 are the mantissa/fraction. */
11223         const U8* nvp = (const U8*)(&nv);
11224 #    undef HEXTRACT_HAS_IMPLICIT_BIT
11225 #    undef HEXTRACT_HAS_TOP_NYBBLE
11226         HEXTRACT_GET_SUBNORMAL(nv);
11227         HEXTRACT_BYTES_LE(7, 0);
11228 #  elif LONG_DOUBLEKIND == LONG_DOUBLE_IS_X86_80_BIT_BIG_ENDIAN
11229         /* Does this format ever happen? (Wikipedia says the Motorola
11230          * 6888x math coprocessors used format _like_ this but padded
11231          * to 96 bits with 16 unused bits between the exponent and the
11232          * mantissa.) */
11233         const U8* nvp = (const U8*)(&nv);
11234 #    undef HEXTRACT_HAS_IMPLICIT_BIT
11235 #    undef HEXTRACT_HAS_TOP_NYBBLE
11236         HEXTRACT_GET_SUBNORMAL(nv);
11237         HEXTRACT_BYTES_BE(0, 7);
11238 #  else
11239 #    define HEXTRACT_FALLBACK
11240         /* Double-double format: two doubles next to each other.
11241          * The first double is the high-order one, exactly like
11242          * it would be for a "lone" double.  The second double
11243          * is shifted down using the exponent so that that there
11244          * are no common bits.  The tricky part is that the value
11245          * of the double-double is the SUM of the two doubles and
11246          * the second one can be also NEGATIVE.
11247          *
11248          * Because of this tricky construction the bytewise extraction we
11249          * use for the other long double formats doesn't work, we must
11250          * extract the values bit by bit.
11251          *
11252          * The little-endian double-double is used .. somewhere?
11253          *
11254          * The big endian double-double is used in e.g. PPC/Power (AIX)
11255          * and MIPS (SGI).
11256          *
11257          * The mantissa bits are in two separate stretches, e.g. for -0.1L:
11258          * 9a 99 99 99 99 99 59 bc 9a 99 99 99 99 99 b9 3f (LE)
11259          * 3f b9 99 99 99 99 99 9a bc 59 99 99 99 99 99 9a (BE)
11260          */
11261 #  endif
11262 #else /* #if defined(USE_LONG_DOUBLE) && (NVSIZE > DOUBLESIZE) */
11263         /* Using normal doubles, not long doubles.
11264          *
11265          * We generate 4-bit xdigits (nybble/nibble) instead of 8-bit
11266          * bytes, since we might need to handle printf precision, and
11267          * also need to insert the radix. */
11268 #  if NVSIZE == 8
11269 #    ifdef HEXTRACT_LITTLE_ENDIAN
11270         /* 0 1 2 3 4 5 6 7 (MSB = 7, LSB = 0, 6+7 = exponent+sign) */
11271         const U8* nvp = (const U8*)(&nv);
11272         HEXTRACT_GET_SUBNORMAL(nv);
11273         HEXTRACT_IMPLICIT_BIT(nv);
11274         HEXTRACT_TOP_NYBBLE(6);
11275         HEXTRACT_BYTES_LE(5, 0);
11276 #    elif defined(HEXTRACT_BIG_ENDIAN)
11277         /* 7 6 5 4 3 2 1 0 (MSB = 7, LSB = 0, 6+7 = exponent+sign) */
11278         const U8* nvp = (const U8*)(&nv);
11279         HEXTRACT_GET_SUBNORMAL(nv);
11280         HEXTRACT_IMPLICIT_BIT(nv);
11281         HEXTRACT_TOP_NYBBLE(1);
11282         HEXTRACT_BYTES_BE(2, 7);
11283 #    elif DOUBLEKIND == DOUBLE_IS_IEEE_754_64_BIT_MIXED_ENDIAN_LE_BE
11284         /* 4 5 6 7 0 1 2 3 (MSB = 7, LSB = 0, 6:7 = nybble:exponent:sign) */
11285         const U8* nvp = (const U8*)(&nv);
11286         HEXTRACT_GET_SUBNORMAL(nv);
11287         HEXTRACT_IMPLICIT_BIT(nv);
11288         HEXTRACT_TOP_NYBBLE(2); /* 6 */
11289         HEXTRACT_BYTE(1); /* 5 */
11290         HEXTRACT_BYTE(0); /* 4 */
11291         HEXTRACT_BYTE(7); /* 3 */
11292         HEXTRACT_BYTE(6); /* 2 */
11293         HEXTRACT_BYTE(5); /* 1 */
11294         HEXTRACT_BYTE(4); /* 0 */
11295 #    elif DOUBLEKIND == DOUBLE_IS_IEEE_754_64_BIT_MIXED_ENDIAN_BE_LE
11296         /* 3 2 1 0 7 6 5 4 (MSB = 7, LSB = 0, 7:6 = sign:exponent:nybble) */
11297         const U8* nvp = (const U8*)(&nv);
11298         HEXTRACT_GET_SUBNORMAL(nv);
11299         HEXTRACT_IMPLICIT_BIT(nv);
11300         HEXTRACT_TOP_NYBBLE(5); /* 6 */
11301         HEXTRACT_BYTE(6); /* 5 */
11302         HEXTRACT_BYTE(7); /* 4 */
11303         HEXTRACT_BYTE(0); /* 3 */
11304         HEXTRACT_BYTE(1); /* 2 */
11305         HEXTRACT_BYTE(2); /* 1 */
11306         HEXTRACT_BYTE(3); /* 0 */
11307 #    else
11308 #      define HEXTRACT_FALLBACK
11309 #    endif
11310 #  else
11311 #    define HEXTRACT_FALLBACK
11312 #  endif
11313 #endif /* #if defined(USE_LONG_DOUBLE) && (NVSIZE > DOUBLESIZE) #else */
11314 #  ifdef HEXTRACT_FALLBACK
11315         HEXTRACT_GET_SUBNORMAL(nv);
11316 #    undef HEXTRACT_HAS_TOP_NYBBLE /* Meaningless, but consistent. */
11317         /* The fallback is used for the double-double format, and
11318          * for unknown long double formats, and for unknown double
11319          * formats, or in general unknown NV formats. */
11320         if (nv == (NV)0.0) {
11321             if (vend)
11322                 *v++ = 0;
11323             else
11324                 v++;
11325             *exponent = 0;
11326         }
11327         else {
11328             NV d = nv < 0 ? -nv : nv;
11329             NV e = (NV)1.0;
11330             U8 ha = 0x0; /* hexvalue accumulator */
11331             U8 hd = 0x8; /* hexvalue digit */
11332
11333             /* Shift d and e (and update exponent) so that e <= d < 2*e,
11334              * this is essentially manual frexp(). Multiplying by 0.5 and
11335              * doubling should be lossless in binary floating point. */
11336
11337             *exponent = 1;
11338
11339             while (e > d) {
11340                 e *= (NV)0.5;
11341                 (*exponent)--;
11342             }
11343             /* Now d >= e */
11344
11345             while (d >= e + e) {
11346                 e += e;
11347                 (*exponent)++;
11348             }
11349             /* Now e <= d < 2*e */
11350
11351             /* First extract the leading hexdigit (the implicit bit). */
11352             if (d >= e) {
11353                 d -= e;
11354                 if (vend)
11355                     *v++ = 1;
11356                 else
11357                     v++;
11358             }
11359             else {
11360                 if (vend)
11361                     *v++ = 0;
11362                 else
11363                     v++;
11364             }
11365             e *= (NV)0.5;
11366
11367             /* Then extract the remaining hexdigits. */
11368             while (d > (NV)0.0) {
11369                 if (d >= e) {
11370                     ha |= hd;
11371                     d -= e;
11372                 }
11373                 if (hd == 1) {
11374                     /* Output or count in groups of four bits,
11375                      * that is, when the hexdigit is down to one. */
11376                     if (vend)
11377                         *v++ = ha;
11378                     else
11379                         v++;
11380                     /* Reset the hexvalue. */
11381                     ha = 0x0;
11382                     hd = 0x8;
11383                 }
11384                 else
11385                     hd >>= 1;
11386                 e *= (NV)0.5;
11387             }
11388
11389             /* Flush possible pending hexvalue. */
11390             if (ha) {
11391                 if (vend)
11392                     *v++ = ha;
11393                 else
11394                     v++;
11395             }
11396         }
11397 #  endif
11398     }
11399     /* Croak for various reasons: if the output pointer escaped the
11400      * output buffer, if the extraction index escaped the extraction
11401      * buffer, or if the ending output pointer didn't match the
11402      * previously computed value. */
11403     if (v <= vhex || v - vhex >= VHEX_SIZE ||
11404         /* For double-double the ixmin and ixmax stay at zero,
11405          * which is convenient since the HEXTRACTSIZE is tricky
11406          * for double-double. */
11407         ixmin < 0 || ixmax >= NVSIZE ||
11408         (vend && v != vend)) {
11409         /* diag_listed_as: Hexadecimal float: internal error (%s) */
11410         Perl_croak(aTHX_ "Hexadecimal float: internal error (overflow)");
11411     }
11412     return v;
11413 }
11414
11415 /* Helper for sv_vcatpvfn_flags().  */
11416 #define FETCH_VCATPVFN_ARGUMENT(var, in_range, expr)   \
11417     STMT_START {                                       \
11418         if (in_range)                                  \
11419             (var) = (expr);                            \
11420         else {                                         \
11421             (var) = &PL_sv_no; /* [perl #71000] */     \
11422             arg_missing = TRUE;                        \
11423         }                                              \
11424     } STMT_END
11425
11426 void
11427 Perl_sv_vcatpvfn_flags(pTHX_ SV *const sv, const char *const pat, const STRLEN patlen,
11428                        va_list *const args, SV **const svargs, const I32 svmax, bool *const maybe_tainted,
11429                        const U32 flags)
11430 {
11431     char *p;
11432     char *q;
11433     const char *patend;
11434     STRLEN origlen;
11435     I32 svix = 0;
11436     static const char nullstr[] = "(null)";
11437     SV *argsv = NULL;
11438     bool has_utf8 = DO_UTF8(sv);    /* has the result utf8? */
11439     const bool pat_utf8 = has_utf8; /* the pattern is in utf8? */
11440     SV *nsv = NULL;
11441     /* Times 4: a decimal digit takes more than 3 binary digits.
11442      * NV_DIG: mantissa takes than many decimal digits.
11443      * Plus 32: Playing safe. */
11444     char ebuf[IV_DIG * 4 + NV_DIG + 32];
11445     bool no_redundant_warning = FALSE; /* did we use any explicit format parameter index? */
11446     bool hexfp = FALSE; /* hexadecimal floating point? */
11447
11448     DECLARATION_FOR_LC_NUMERIC_MANIPULATION;
11449
11450     PERL_ARGS_ASSERT_SV_VCATPVFN_FLAGS;
11451     PERL_UNUSED_ARG(maybe_tainted);
11452
11453     if (flags & SV_GMAGIC)
11454         SvGETMAGIC(sv);
11455
11456     /* no matter what, this is a string now */
11457     (void)SvPV_force_nomg(sv, origlen);
11458
11459     /* special-case "", "%s", and "%-p" (SVf - see below) */
11460     if (patlen == 0) {
11461         if (svmax && ckWARN(WARN_REDUNDANT))
11462             Perl_warner(aTHX_ packWARN(WARN_REDUNDANT), "Redundant argument in %s",
11463                         PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
11464         return;
11465     }
11466     if (patlen == 2 && pat[0] == '%' && pat[1] == 's') {
11467         if (svmax > 1 && ckWARN(WARN_REDUNDANT))
11468             Perl_warner(aTHX_ packWARN(WARN_REDUNDANT), "Redundant argument in %s",
11469                         PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
11470
11471         if (args) {
11472             const char * const s = va_arg(*args, char*);
11473             sv_catpv_nomg(sv, s ? s : nullstr);
11474         }
11475         else if (svix < svmax) {
11476             /* we want get magic on the source but not the target. sv_catsv can't do that, though */
11477             SvGETMAGIC(*svargs);
11478             sv_catsv_nomg(sv, *svargs);
11479         }
11480         else
11481             S_warn_vcatpvfn_missing_argument(aTHX);
11482         return;
11483     }
11484     if (args && patlen == 3 && pat[0] == '%' &&
11485                 pat[1] == '-' && pat[2] == 'p') {
11486         if (svmax > 1 && ckWARN(WARN_REDUNDANT))
11487             Perl_warner(aTHX_ packWARN(WARN_REDUNDANT), "Redundant argument in %s",
11488                         PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
11489         argsv = MUTABLE_SV(va_arg(*args, void*));
11490         sv_catsv_nomg(sv, argsv);
11491         return;
11492     }
11493
11494 #if !defined(USE_LONG_DOUBLE) && !defined(USE_QUADMATH)
11495     /* special-case "%.<number>[gf]" */
11496     if ( !args && patlen <= 5 && pat[0] == '%' && pat[1] == '.'
11497          && (pat[patlen-1] == 'g' || pat[patlen-1] == 'f') ) {
11498         unsigned digits = 0;
11499         const char *pp;
11500
11501         pp = pat + 2;
11502         while (*pp >= '0' && *pp <= '9')
11503             digits = 10 * digits + (*pp++ - '0');
11504
11505         /* XXX: Why do this `svix < svmax` test? Couldn't we just
11506            format the first argument and WARN_REDUNDANT if svmax > 1?
11507            Munged by Nicholas Clark in v5.13.0-209-g95ea86d */
11508         if (pp - pat == (int)patlen - 1 && svix < svmax) {
11509             const NV nv = SvNV(*svargs);
11510             if (LIKELY(!Perl_isinfnan(nv))) {
11511                 if (*pp == 'g') {
11512                     /* Add check for digits != 0 because it seems that some
11513                        gconverts are buggy in this case, and we don't yet have
11514                        a Configure test for this.  */
11515                     if (digits && digits < sizeof(ebuf) - NV_DIG - 10) {
11516                         /* 0, point, slack */
11517                         STORE_LC_NUMERIC_SET_TO_NEEDED();
11518                         SNPRINTF_G(nv, ebuf, size, digits);
11519                         sv_catpv_nomg(sv, ebuf);
11520                         if (*ebuf)      /* May return an empty string for digits==0 */
11521                             return;
11522                     }
11523                 } else if (!digits) {
11524                     STRLEN l;
11525
11526                     if ((p = F0convert(nv, ebuf + sizeof ebuf, &l))) {
11527                         sv_catpvn_nomg(sv, p, l);
11528                         return;
11529                     }
11530                 }
11531             }
11532         }
11533     }
11534 #endif /* !USE_LONG_DOUBLE */
11535
11536     if (!args && svix < svmax && DO_UTF8(*svargs))
11537         has_utf8 = TRUE;
11538
11539     patend = (char*)pat + patlen;
11540     for (p = (char*)pat; p < patend; p = q) {
11541         bool alt = FALSE;
11542         bool left = FALSE;
11543         bool vectorize = FALSE;
11544         bool vectorarg = FALSE;
11545         bool vec_utf8 = FALSE;
11546         char fill = ' ';
11547         char plus = 0;
11548         char intsize = 0;
11549         STRLEN width = 0;
11550         STRLEN zeros = 0;
11551         bool has_precis = FALSE;
11552         STRLEN precis = 0;
11553         const I32 osvix = svix;
11554         bool is_utf8 = FALSE;  /* is this item utf8?   */
11555         bool used_explicit_ix = FALSE;
11556         bool arg_missing = FALSE;
11557 #ifdef HAS_LDBL_SPRINTF_BUG
11558         /* This is to try to fix a bug with irix/nonstop-ux/powerux and
11559            with sfio - Allen <allens@cpan.org> */
11560         bool fix_ldbl_sprintf_bug = FALSE;
11561 #endif
11562
11563         char esignbuf[4];
11564         U8 utf8buf[UTF8_MAXBYTES+1];
11565         STRLEN esignlen = 0;
11566
11567         const char *eptr = NULL;
11568         const char *fmtstart;
11569         STRLEN elen = 0;
11570         SV *vecsv = NULL;
11571         const U8 *vecstr = NULL;
11572         STRLEN veclen = 0;
11573         char c = 0;
11574         int i;
11575         unsigned base = 0;
11576         IV iv = 0;
11577         UV uv = 0;
11578         /* We need a long double target in case HAS_LONG_DOUBLE,
11579          * even without USE_LONG_DOUBLE, so that we can printf with
11580          * long double formats, even without NV being long double.
11581          * But we call the target 'fv' instead of 'nv', since most of
11582          * the time it is not (most compilers these days recognize
11583          * "long double", even if only as a synonym for "double").
11584         */
11585 #if defined(HAS_LONG_DOUBLE) && LONG_DOUBLESIZE > DOUBLESIZE && \
11586         defined(PERL_PRIgldbl) && !defined(USE_QUADMATH)
11587         long double fv;
11588 #  ifdef Perl_isfinitel
11589 #    define FV_ISFINITE(x) Perl_isfinitel(x)
11590 #  endif
11591 #  define FV_GF PERL_PRIgldbl
11592 #    if defined(__VMS) && defined(__ia64) && defined(__IEEE_FLOAT)
11593        /* Work around breakage in OTS$CVT_FLOAT_T_X */
11594 #      define NV_TO_FV(nv,fv) STMT_START {                   \
11595                                            double _dv = nv;  \
11596                                            fv = Perl_isnan(_dv) ? LDBL_QNAN : _dv; \
11597                               } STMT_END
11598 #    else
11599 #      define NV_TO_FV(nv,fv) (fv)=(nv)
11600 #    endif
11601 #else
11602         NV fv;
11603 #  define FV_GF NVgf
11604 #  define NV_TO_FV(nv,fv) (fv)=(nv)
11605 #endif
11606 #ifndef FV_ISFINITE
11607 #  define FV_ISFINITE(x) Perl_isfinite((NV)(x))
11608 #endif
11609         NV nv;
11610         STRLEN have;
11611         STRLEN need;
11612         STRLEN gap;
11613         const char *dotstr = ".";
11614         STRLEN dotstrlen = 1;
11615         I32 efix = 0; /* explicit format parameter index */
11616         I32 ewix = 0; /* explicit width index */
11617         I32 epix = 0; /* explicit precision index */
11618         I32 evix = 0; /* explicit vector index */
11619         bool asterisk = FALSE;
11620         bool infnan = FALSE;
11621
11622         /* echo everything up to the next format specification */
11623         for (q = p; q < patend && *q != '%'; ++q) ;
11624         if (q > p) {
11625             if (has_utf8 && !pat_utf8)
11626                 sv_catpvn_nomg_utf8_upgrade(sv, p, q - p, nsv);
11627             else
11628                 sv_catpvn_nomg(sv, p, q - p);
11629             p = q;
11630         }
11631         if (q++ >= patend)
11632             break;
11633
11634         fmtstart = q;
11635
11636 /*
11637     We allow format specification elements in this order:
11638         \d+\$              explicit format parameter index
11639         [-+ 0#]+           flags
11640         v|\*(\d+\$)?v      vector with optional (optionally specified) arg
11641         0                  flag (as above): repeated to allow "v02"     
11642         \d+|\*(\d+\$)?     width using optional (optionally specified) arg
11643         \.(\d*|\*(\d+\$)?) precision using optional (optionally specified) arg
11644         [hlqLV]            size
11645     [%bcdefginopsuxDFOUX] format (mandatory)
11646 */
11647
11648         if (args) {
11649 /*  
11650         As of perl5.9.3, printf format checking is on by default.
11651         Internally, perl uses %p formats to provide an escape to
11652         some extended formatting.  This block deals with those
11653         extensions: if it does not match, (char*)q is reset and
11654         the normal format processing code is used.
11655
11656         Currently defined extensions are:
11657                 %p              include pointer address (standard)      
11658                 %-p     (SVf)   include an SV (previously %_)
11659                 %-<num>p        include an SV with precision <num>      
11660                 %2p             include a HEK
11661                 %3p             include a HEK with precision of 256
11662                 %4p             char* preceded by utf8 flag and length
11663                 %<num>p         (where num is 1 or > 4) reserved for future
11664                                 extensions
11665
11666         Robin Barker 2005-07-14 (but modified since)
11667
11668                 %1p     (VDf)   removed.  RMB 2007-10-19
11669 */
11670             char* r = q; 
11671             bool sv = FALSE;    
11672             STRLEN n = 0;
11673             if (*q == '-')
11674                 sv = *q++;
11675             else if (strnEQ(q, UTF8f, sizeof(UTF8f)-1)) { /* UTF8f */
11676                 /* The argument has already gone through cBOOL, so the cast
11677                    is safe. */
11678                 is_utf8 = (bool)va_arg(*args, int);
11679                 elen = va_arg(*args, UV);
11680                 /* if utf8 length is larger than 0x7ffff..., then it might
11681                  * have been a signed value that wrapped */
11682                 if (elen  > ((~(STRLEN)0) >> 1)) {
11683                     assert(0); /* in DEBUGGING build we want to crash */
11684                     elen= 0; /* otherwise we want to treat this as an empty string */
11685                 }
11686                 eptr = va_arg(*args, char *);
11687                 q += sizeof(UTF8f)-1;
11688                 goto string;
11689             }
11690             n = expect_number(&q);
11691             if (*q++ == 'p') {
11692                 if (sv) {                       /* SVf */
11693                     if (n) {
11694                         precis = n;
11695                         has_precis = TRUE;
11696                     }
11697                     argsv = MUTABLE_SV(va_arg(*args, void*));
11698                     eptr = SvPV_const(argsv, elen);
11699                     if (DO_UTF8(argsv))
11700                         is_utf8 = TRUE;
11701                     goto string;
11702                 }
11703                 else if (n==2 || n==3) {        /* HEKf */
11704                     HEK * const hek = va_arg(*args, HEK *);
11705                     eptr = HEK_KEY(hek);
11706                     elen = HEK_LEN(hek);
11707                     if (HEK_UTF8(hek)) is_utf8 = TRUE;
11708                     if (n==3) precis = 256, has_precis = TRUE;
11709                     goto string;
11710                 }
11711                 else if (n) {
11712                     Perl_ck_warner_d(aTHX_ packWARN(WARN_INTERNAL),
11713                                      "internal %%<num>p might conflict with future printf extensions");
11714                 }
11715             }
11716             q = r; 
11717         }
11718
11719         if ( (width = expect_number(&q)) ) {
11720             if (*q == '$') {
11721                 if (args)
11722                     Perl_croak_nocontext(
11723                         "Cannot yet reorder sv_catpvfn() arguments from va_list");
11724                 ++q;
11725                 efix = width;
11726                 used_explicit_ix = TRUE;
11727             } else {
11728                 goto gotwidth;
11729             }
11730         }
11731
11732         /* FLAGS */
11733
11734         while (*q) {
11735             switch (*q) {
11736             case ' ':
11737             case '+':
11738                 if (plus == '+' && *q == ' ') /* '+' over ' ' */
11739                     q++;
11740                 else
11741                     plus = *q++;
11742                 continue;
11743
11744             case '-':
11745                 left = TRUE;
11746                 q++;
11747                 continue;
11748
11749             case '0':
11750                 fill = *q++;
11751                 continue;
11752
11753             case '#':
11754                 alt = TRUE;
11755                 q++;
11756                 continue;
11757
11758             default:
11759                 break;
11760             }
11761             break;
11762         }
11763
11764       tryasterisk:
11765         if (*q == '*') {
11766             q++;
11767             if ( (ewix = expect_number(&q)) ) {
11768                 if (*q++ == '$') {
11769                     if (args)
11770                         Perl_croak_nocontext(
11771                             "Cannot yet reorder sv_catpvfn() arguments from va_list");
11772                     used_explicit_ix = TRUE;
11773                 } else
11774                     goto unknown;
11775             }
11776             asterisk = TRUE;
11777         }
11778         if (*q == 'v') {
11779             q++;
11780             if (vectorize)
11781                 goto unknown;
11782             if ((vectorarg = asterisk)) {
11783                 evix = ewix;
11784                 ewix = 0;
11785                 asterisk = FALSE;
11786             }
11787             vectorize = TRUE;
11788             goto tryasterisk;
11789         }
11790
11791         if (!asterisk)
11792         {
11793             if( *q == '0' )
11794                 fill = *q++;
11795             width = expect_number(&q);
11796         }
11797
11798         if (vectorize && vectorarg) {
11799             /* vectorizing, but not with the default "." */
11800             if (args)
11801                 vecsv = va_arg(*args, SV*);
11802             else if (evix) {
11803                 FETCH_VCATPVFN_ARGUMENT(
11804                     vecsv, evix > 0 && evix <= svmax, svargs[evix-1]);
11805             } else {
11806                 FETCH_VCATPVFN_ARGUMENT(
11807                     vecsv, svix < svmax, svargs[svix++]);
11808             }
11809             dotstr = SvPV_const(vecsv, dotstrlen);
11810             /* Keep the DO_UTF8 test *after* the SvPV call, else things go
11811                bad with tied or overloaded values that return UTF8.  */
11812             if (DO_UTF8(vecsv))
11813                 is_utf8 = TRUE;
11814             else if (has_utf8) {
11815                 vecsv = sv_mortalcopy(vecsv);
11816                 sv_utf8_upgrade(vecsv);
11817                 dotstr = SvPV_const(vecsv, dotstrlen);
11818                 is_utf8 = TRUE;
11819             }               
11820         }
11821
11822         if (asterisk) {
11823             if (args)
11824                 i = va_arg(*args, int);
11825             else
11826                 i = (ewix ? ewix <= svmax : svix < svmax) ?
11827                     SvIVx(svargs[ewix ? ewix-1 : svix++]) : 0;
11828             left |= (i < 0);
11829             width = (i < 0) ? -i : i;
11830         }
11831       gotwidth:
11832
11833         /* PRECISION */
11834
11835         if (*q == '.') {
11836             q++;
11837             if (*q == '*') {
11838                 q++;
11839                 if ( (epix = expect_number(&q)) ) {
11840                     if (*q++ == '$') {
11841                         if (args)
11842                             Perl_croak_nocontext(
11843                                 "Cannot yet reorder sv_catpvfn() arguments from va_list");
11844                         used_explicit_ix = TRUE;
11845                     } else
11846                         goto unknown;
11847                 }
11848                 if (args)
11849                     i = va_arg(*args, int);
11850                 else {
11851                     SV *precsv;
11852                     if (epix)
11853                         FETCH_VCATPVFN_ARGUMENT(
11854                             precsv, epix > 0 && epix <= svmax, svargs[epix-1]);
11855                     else
11856                         FETCH_VCATPVFN_ARGUMENT(
11857                             precsv, svix < svmax, svargs[svix++]);
11858                     i = precsv == &PL_sv_no ? 0 : SvIVx(precsv);
11859                 }
11860                 precis = i;
11861                 has_precis = !(i < 0);
11862             }
11863             else {
11864                 precis = 0;
11865                 while (isDIGIT(*q))
11866                     precis = precis * 10 + (*q++ - '0');
11867                 has_precis = TRUE;
11868             }
11869         }
11870
11871         if (vectorize) {
11872             if (args) {
11873                 VECTORIZE_ARGS
11874             }
11875             else if (efix ? (efix > 0 && efix <= svmax) : svix < svmax) {
11876                 vecsv = svargs[efix ? efix-1 : svix++];
11877                 vecstr = (U8*)SvPV_const(vecsv,veclen);
11878                 vec_utf8 = DO_UTF8(vecsv);
11879
11880                 /* if this is a version object, we need to convert
11881                  * back into v-string notation and then let the
11882                  * vectorize happen normally
11883                  */
11884                 if (sv_isobject(vecsv) && sv_derived_from(vecsv, "version")) {
11885                     if ( hv_existss(MUTABLE_HV(SvRV(vecsv)), "alpha") ) {
11886                         Perl_ck_warner_d(aTHX_ packWARN(WARN_PRINTF),
11887                         "vector argument not supported with alpha versions");
11888                         goto vdblank;
11889                     }
11890                     vecsv = sv_newmortal();
11891                     scan_vstring((char *)vecstr, (char *)vecstr + veclen,
11892                                  vecsv);
11893                     vecstr = (U8*)SvPV_const(vecsv, veclen);
11894                     vec_utf8 = DO_UTF8(vecsv);
11895                 }
11896             }
11897             else {
11898               vdblank:
11899                 vecstr = (U8*)"";
11900                 veclen = 0;
11901             }
11902         }
11903
11904         /* SIZE */
11905
11906         switch (*q) {
11907 #ifdef WIN32
11908         case 'I':                       /* Ix, I32x, and I64x */
11909 #  ifdef USE_64_BIT_INT
11910             if (q[1] == '6' && q[2] == '4') {
11911                 q += 3;
11912                 intsize = 'q';
11913                 break;
11914             }
11915 #  endif
11916             if (q[1] == '3' && q[2] == '2') {
11917                 q += 3;
11918                 break;
11919             }
11920 #  ifdef USE_64_BIT_INT
11921             intsize = 'q';
11922 #  endif
11923             q++;
11924             break;
11925 #endif
11926 #if (IVSIZE >= 8 || defined(HAS_LONG_DOUBLE)) || \
11927     (IVSIZE == 4 && !defined(HAS_LONG_DOUBLE))
11928         case 'L':                       /* Ld */
11929             /* FALLTHROUGH */
11930 #  ifdef USE_QUADMATH
11931         case 'Q':
11932             /* FALLTHROUGH */
11933 #  endif
11934 #  if IVSIZE >= 8
11935         case 'q':                       /* qd */
11936 #  endif
11937             intsize = 'q';
11938             q++;
11939             break;
11940 #endif
11941         case 'l':
11942             ++q;
11943 #if (IVSIZE >= 8 || defined(HAS_LONG_DOUBLE)) || \
11944     (IVSIZE == 4 && !defined(HAS_LONG_DOUBLE))
11945             if (*q == 'l') {    /* lld, llf */
11946                 intsize = 'q';
11947                 ++q;
11948             }
11949             else
11950 #endif
11951                 intsize = 'l';
11952             break;
11953         case 'h':
11954             if (*++q == 'h') {  /* hhd, hhu */
11955                 intsize = 'c';
11956                 ++q;
11957             }
11958             else
11959                 intsize = 'h';
11960             break;
11961         case 'V':
11962         case 'z':
11963         case 't':
11964 #ifdef I_STDINT
11965         case 'j':
11966 #endif
11967             intsize = *q++;
11968             break;
11969         }
11970
11971         /* CONVERSION */
11972
11973         if (*q == '%') {
11974             eptr = q++;
11975             elen = 1;
11976             if (vectorize) {
11977                 c = '%';
11978                 goto unknown;
11979             }
11980             goto string;
11981         }
11982
11983         if (!vectorize && !args) {
11984             if (efix) {
11985                 const I32 i = efix-1;
11986                 FETCH_VCATPVFN_ARGUMENT(argsv, i >= 0 && i < svmax, svargs[i]);
11987             } else {
11988                 FETCH_VCATPVFN_ARGUMENT(argsv, svix >= 0 && svix < svmax,
11989                                         svargs[svix++]);
11990             }
11991         }
11992
11993         if (argsv && strchr("BbcDdiOopuUXx",*q)) {
11994             /* XXX va_arg(*args) case? need peek, use va_copy? */
11995             SvGETMAGIC(argsv);
11996             if (UNLIKELY(SvAMAGIC(argsv)))
11997                 argsv = sv_2num(argsv);
11998             infnan = UNLIKELY(isinfnansv(argsv));
11999         }
12000
12001         switch (c = *q++) {
12002
12003             /* STRINGS */
12004
12005         case 'c':
12006             if (vectorize)
12007                 goto unknown;
12008             if (infnan)
12009                 Perl_croak(aTHX_ "Cannot printf %" NVgf " with '%c'",
12010                            /* no va_arg() case */
12011                            SvNV_nomg(argsv), (int)c);
12012             uv = (args) ? va_arg(*args, int) : SvIV_nomg(argsv);
12013             if ((uv > 255 ||
12014                  (!UVCHR_IS_INVARIANT(uv) && SvUTF8(sv)))
12015                 && !IN_BYTES) {
12016                 eptr = (char*)utf8buf;
12017                 elen = uvchr_to_utf8((U8*)eptr, uv) - utf8buf;
12018                 is_utf8 = TRUE;
12019             }
12020             else {
12021                 c = (char)uv;
12022                 eptr = &c;
12023                 elen = 1;
12024             }
12025             goto string;
12026
12027         case 's':
12028             if (vectorize)
12029                 goto unknown;
12030             if (args) {
12031                 eptr = va_arg(*args, char*);
12032                 if (eptr)
12033                     elen = strlen(eptr);
12034                 else {
12035                     eptr = (char *)nullstr;
12036                     elen = sizeof nullstr - 1;
12037                 }
12038             }
12039             else {
12040                 eptr = SvPV_const(argsv, elen);
12041                 if (DO_UTF8(argsv)) {
12042                     STRLEN old_precis = precis;
12043                     if (has_precis && precis < elen) {
12044                         STRLEN ulen = sv_or_pv_len_utf8(argsv, eptr, elen);
12045                         STRLEN p = precis > ulen ? ulen : precis;
12046                         precis = sv_or_pv_pos_u2b(argsv, eptr, p, 0);
12047                                                         /* sticks at end */
12048                     }
12049                     if (width) { /* fudge width (can't fudge elen) */
12050                         if (has_precis && precis < elen)
12051                             width += precis - old_precis;
12052                         else
12053                             width +=
12054                                 elen - sv_or_pv_len_utf8(argsv,eptr,elen);
12055                     }
12056                     is_utf8 = TRUE;
12057                 }
12058             }
12059
12060         string:
12061             if (has_precis && precis < elen)
12062                 elen = precis;
12063             break;
12064
12065             /* INTEGERS */
12066
12067         case 'p':
12068             if (infnan) {
12069                 goto floating_point;
12070             }
12071             if (alt || vectorize)
12072                 goto unknown;
12073             uv = PTR2UV(args ? va_arg(*args, void*) : argsv);
12074             base = 16;
12075             goto integer;
12076
12077         case 'D':
12078 #ifdef IV_IS_QUAD
12079             intsize = 'q';
12080 #else
12081             intsize = 'l';
12082 #endif
12083             /* FALLTHROUGH */
12084         case 'd':
12085         case 'i':
12086             if (infnan) {
12087                 goto floating_point;
12088             }
12089             if (vectorize) {
12090                 STRLEN ulen;
12091                 if (!veclen)
12092                     goto donevalidconversion;
12093                 if (vec_utf8)
12094                     uv = utf8n_to_uvchr(vecstr, veclen, &ulen,
12095                                         UTF8_ALLOW_ANYUV);
12096                 else {
12097                     uv = *vecstr;
12098                     ulen = 1;
12099                 }
12100                 vecstr += ulen;
12101                 veclen -= ulen;
12102                 if (plus)
12103                      esignbuf[esignlen++] = plus;
12104             }
12105             else if (args) {
12106                 switch (intsize) {
12107                 case 'c':       iv = (char)va_arg(*args, int); break;
12108                 case 'h':       iv = (short)va_arg(*args, int); break;
12109                 case 'l':       iv = va_arg(*args, long); break;
12110                 case 'V':       iv = va_arg(*args, IV); break;
12111                 case 'z':       iv = va_arg(*args, SSize_t); break;
12112 #ifdef HAS_PTRDIFF_T
12113                 case 't':       iv = va_arg(*args, ptrdiff_t); break;
12114 #endif
12115                 default:        iv = va_arg(*args, int); break;
12116 #ifdef I_STDINT
12117                 case 'j':       iv = va_arg(*args, intmax_t); break;
12118 #endif
12119                 case 'q':
12120 #if IVSIZE >= 8
12121                                 iv = va_arg(*args, Quad_t); break;
12122 #else
12123                                 goto unknown;
12124 #endif
12125                 }
12126             }
12127             else {
12128                 IV tiv = SvIV_nomg(argsv); /* work around GCC bug #13488 */
12129                 switch (intsize) {
12130                 case 'c':       iv = (char)tiv; break;
12131                 case 'h':       iv = (short)tiv; break;
12132                 case 'l':       iv = (long)tiv; break;
12133                 case 'V':
12134                 default:        iv = tiv; break;
12135                 case 'q':
12136 #if IVSIZE >= 8
12137                                 iv = (Quad_t)tiv; break;
12138 #else
12139                                 goto unknown;
12140 #endif
12141                 }
12142             }
12143             if ( !vectorize )   /* we already set uv above */
12144             {
12145                 if (iv >= 0) {
12146                     uv = iv;
12147                     if (plus)
12148                         esignbuf[esignlen++] = plus;
12149                 }
12150                 else {
12151                     uv = (iv == IV_MIN) ? (UV)iv : (UV)(-iv);
12152                     esignbuf[esignlen++] = '-';
12153                 }
12154             }
12155             base = 10;
12156             goto integer;
12157
12158         case 'U':
12159 #ifdef IV_IS_QUAD
12160             intsize = 'q';
12161 #else
12162             intsize = 'l';
12163 #endif
12164             /* FALLTHROUGH */
12165         case 'u':
12166             base = 10;
12167             goto uns_integer;
12168
12169         case 'B':
12170         case 'b':
12171             base = 2;
12172             goto uns_integer;
12173
12174         case 'O':
12175 #ifdef IV_IS_QUAD
12176             intsize = 'q';
12177 #else
12178             intsize = 'l';
12179 #endif
12180             /* FALLTHROUGH */
12181         case 'o':
12182             base = 8;
12183             goto uns_integer;
12184
12185         case 'X':
12186         case 'x':
12187             base = 16;
12188
12189         uns_integer:
12190             if (infnan) {
12191                 goto floating_point;
12192             }
12193             if (vectorize) {
12194                 STRLEN ulen;
12195         vector:
12196                 if (!veclen)
12197                     goto donevalidconversion;
12198                 if (vec_utf8)
12199                     uv = utf8n_to_uvchr(vecstr, veclen, &ulen,
12200                                         UTF8_ALLOW_ANYUV);
12201                 else {
12202                     uv = *vecstr;
12203                     ulen = 1;
12204                 }
12205                 vecstr += ulen;
12206                 veclen -= ulen;
12207             }
12208             else if (args) {
12209                 switch (intsize) {
12210                 case 'c':  uv = (unsigned char)va_arg(*args, unsigned); break;
12211                 case 'h':  uv = (unsigned short)va_arg(*args, unsigned); break;
12212                 case 'l':  uv = va_arg(*args, unsigned long); break;
12213                 case 'V':  uv = va_arg(*args, UV); break;
12214                 case 'z':  uv = va_arg(*args, Size_t); break;
12215 #ifdef HAS_PTRDIFF_T
12216                 case 't':  uv = va_arg(*args, ptrdiff_t); break; /* will sign extend, but there is no uptrdiff_t, so oh well */
12217 #endif
12218 #ifdef I_STDINT
12219                 case 'j':  uv = va_arg(*args, uintmax_t); break;
12220 #endif
12221                 default:   uv = va_arg(*args, unsigned); break;
12222                 case 'q':
12223 #if IVSIZE >= 8
12224                            uv = va_arg(*args, Uquad_t); break;
12225 #else
12226                            goto unknown;
12227 #endif
12228                 }
12229             }
12230             else {
12231                 UV tuv = SvUV_nomg(argsv); /* work around GCC bug #13488 */
12232                 switch (intsize) {
12233                 case 'c':       uv = (unsigned char)tuv; break;
12234                 case 'h':       uv = (unsigned short)tuv; break;
12235                 case 'l':       uv = (unsigned long)tuv; break;
12236                 case 'V':
12237                 default:        uv = tuv; break;
12238                 case 'q':
12239 #if IVSIZE >= 8
12240                                 uv = (Uquad_t)tuv; break;
12241 #else
12242                                 goto unknown;
12243 #endif
12244                 }
12245             }
12246
12247         integer:
12248             {
12249                 char *ptr = ebuf + sizeof ebuf;
12250                 bool tempalt = uv ? alt : FALSE; /* Vectors can't change alt */
12251                 unsigned dig;
12252                 zeros = 0;
12253
12254                 switch (base) {
12255                 case 16:
12256                     p = (char *)((c == 'X') ? PL_hexdigit + 16 : PL_hexdigit);
12257                     do {
12258                         dig = uv & 15;
12259                         *--ptr = p[dig];
12260                     } while (uv >>= 4);
12261                     if (tempalt) {
12262                         esignbuf[esignlen++] = '0';
12263                         esignbuf[esignlen++] = c;  /* 'x' or 'X' */
12264                     }
12265                     break;
12266                 case 8:
12267                     do {
12268                         dig = uv & 7;
12269                         *--ptr = '0' + dig;
12270                     } while (uv >>= 3);
12271                     if (alt && *ptr != '0')
12272                         *--ptr = '0';
12273                     break;
12274                 case 2:
12275                     do {
12276                         dig = uv & 1;
12277                         *--ptr = '0' + dig;
12278                     } while (uv >>= 1);
12279                     if (tempalt) {
12280                         esignbuf[esignlen++] = '0';
12281                         esignbuf[esignlen++] = c;
12282                     }
12283                     break;
12284                 default:                /* it had better be ten or less */
12285                     do {
12286                         dig = uv % base;
12287                         *--ptr = '0' + dig;
12288                     } while (uv /= base);
12289                     break;
12290                 }
12291                 elen = (ebuf + sizeof ebuf) - ptr;
12292                 eptr = ptr;
12293                 if (has_precis) {
12294                     if (precis > elen)
12295                         zeros = precis - elen;
12296                     else if (precis == 0 && elen == 1 && *eptr == '0'
12297                              && !(base == 8 && alt)) /* "%#.0o" prints "0" */
12298                         elen = 0;
12299
12300                 /* a precision nullifies the 0 flag. */
12301                     if (fill == '0')
12302                         fill = ' ';
12303                 }
12304             }
12305             break;
12306
12307             /* FLOATING POINT */
12308
12309         floating_point:
12310
12311         case 'F':
12312             c = 'f';            /* maybe %F isn't supported here */
12313             /* FALLTHROUGH */
12314         case 'e': case 'E':
12315         case 'f':
12316         case 'g': case 'G':
12317         case 'a': case 'A':
12318             if (vectorize)
12319                 goto unknown;
12320
12321             /* This is evil, but floating point is even more evil */
12322
12323             /* for SV-style calling, we can only get NV
12324                for C-style calling, we assume %f is double;
12325                for simplicity we allow any of %Lf, %llf, %qf for long double
12326             */
12327             switch (intsize) {
12328             case 'V':
12329 #if defined(USE_LONG_DOUBLE) || defined(USE_QUADMATH)
12330                 intsize = 'q';
12331 #endif
12332                 break;
12333 /* [perl #20339] - we should accept and ignore %lf rather than die */
12334             case 'l':
12335                 /* FALLTHROUGH */
12336             default:
12337 #if defined(USE_LONG_DOUBLE) || defined(USE_QUADMATH)
12338                 intsize = args ? 0 : 'q';
12339 #endif
12340                 break;
12341             case 'q':
12342 #if defined(HAS_LONG_DOUBLE)
12343                 break;
12344 #else
12345                 /* FALLTHROUGH */
12346 #endif
12347             case 'c':
12348             case 'h':
12349             case 'z':
12350             case 't':
12351             case 'j':
12352                 goto unknown;
12353             }
12354
12355             /* Now we need (long double) if intsize == 'q', else (double). */
12356             if (args) {
12357                 /* Note: do not pull NVs off the va_list with va_arg()
12358                  * (pull doubles instead) because if you have a build
12359                  * with long doubles, you would always be pulling long
12360                  * doubles, which would badly break anyone using only
12361                  * doubles (i.e. the majority of builds). In other
12362                  * words, you cannot mix doubles and long doubles.
12363                  * The only case where you can pull off long doubles
12364                  * is when the format specifier explicitly asks so with
12365                  * e.g. "%Lg". */
12366 #ifdef USE_QUADMATH
12367                 fv = intsize == 'q' ?
12368                     va_arg(*args, NV) : va_arg(*args, double);
12369                 nv = fv;
12370 #elif LONG_DOUBLESIZE > DOUBLESIZE
12371                 if (intsize == 'q') {
12372                     fv = va_arg(*args, long double);
12373                     nv = fv;
12374                 } else {
12375                     nv = va_arg(*args, double);
12376                     NV_TO_FV(nv, fv);
12377                 }
12378 #else
12379                 nv = va_arg(*args, double);
12380                 fv = nv;
12381 #endif
12382             }
12383             else
12384             {
12385                 if (!infnan) SvGETMAGIC(argsv);
12386                 nv = SvNV_nomg(argsv);
12387                 NV_TO_FV(nv, fv);
12388             }
12389
12390             need = 0;
12391             /* frexp() (or frexpl) has some unspecified behaviour for
12392              * nan/inf/-inf, so let's avoid calling that on non-finites. */
12393             if (isALPHA_FOLD_NE(c, 'e') && FV_ISFINITE(fv)) {
12394                 i = PERL_INT_MIN;
12395                 (void)Perl_frexp((NV)fv, &i);
12396                 if (i == PERL_INT_MIN)
12397                     Perl_die(aTHX_ "panic: frexp: %" FV_GF, fv);
12398                 /* Do not set hexfp earlier since we want to printf
12399                  * Inf/NaN for Inf/NaN, not their hexfp. */
12400                 hexfp = isALPHA_FOLD_EQ(c, 'a');
12401                 if (UNLIKELY(hexfp)) {
12402                     /* This seriously overshoots in most cases, but
12403                      * better the undershooting.  Firstly, all bytes
12404                      * of the NV are not mantissa, some of them are
12405                      * exponent.  Secondly, for the reasonably common
12406                      * long doubles case, the "80-bit extended", two
12407                      * or six bytes of the NV are unused. */
12408                     need +=
12409                         (fv < 0) ? 1 : 0 + /* possible unary minus */
12410                         2 + /* "0x" */
12411                         1 + /* the very unlikely carry */
12412                         1 + /* "1" */
12413                         1 + /* "." */
12414                         2 * NVSIZE + /* 2 hexdigits for each byte */
12415                         2 + /* "p+" */
12416                         6 + /* exponent: sign, plus up to 16383 (quad fp) */
12417                         1;   /* \0 */
12418 #ifdef LONGDOUBLE_DOUBLEDOUBLE
12419                     /* However, for the "double double", we need more.
12420                      * Since each double has their own exponent, the
12421                      * doubles may float (haha) rather far from each
12422                      * other, and the number of required bits is much
12423                      * larger, up to total of DOUBLEDOUBLE_MAXBITS bits.
12424                      * See the definition of DOUBLEDOUBLE_MAXBITS.
12425                      *
12426                      * Need 2 hexdigits for each byte. */
12427                     need += (DOUBLEDOUBLE_MAXBITS/8 + 1) * 2;
12428                     /* the size for the exponent already added */
12429 #endif
12430 #ifdef USE_LOCALE_NUMERIC
12431                         STORE_LC_NUMERIC_SET_TO_NEEDED();
12432                         if (PL_numeric_radix_sv && IN_LC(LC_NUMERIC))
12433                             need += SvLEN(PL_numeric_radix_sv);
12434                         RESTORE_LC_NUMERIC();
12435 #endif
12436                 }
12437                 else if (i > 0) {
12438                     need = BIT_DIGITS(i);
12439                 } /* if i < 0, the number of digits is hard to predict. */
12440             }
12441             need += has_precis ? precis : 6; /* known default */
12442
12443             if (need < width)
12444                 need = width;
12445
12446 #ifdef HAS_LDBL_SPRINTF_BUG
12447             /* This is to try to fix a bug with irix/nonstop-ux/powerux and
12448                with sfio - Allen <allens@cpan.org> */
12449
12450 #  ifdef DBL_MAX
12451 #    define MY_DBL_MAX DBL_MAX
12452 #  else /* XXX guessing! HUGE_VAL may be defined as infinity, so not using */
12453 #    if DOUBLESIZE >= 8
12454 #      define MY_DBL_MAX 1.7976931348623157E+308L
12455 #    else
12456 #      define MY_DBL_MAX 3.40282347E+38L
12457 #    endif
12458 #  endif
12459
12460 #  ifdef HAS_LDBL_SPRINTF_BUG_LESS1 /* only between -1L & 1L - Allen */
12461 #    define MY_DBL_MAX_BUG 1L
12462 #  else
12463 #    define MY_DBL_MAX_BUG MY_DBL_MAX
12464 #  endif
12465
12466 #  ifdef DBL_MIN
12467 #    define MY_DBL_MIN DBL_MIN
12468 #  else  /* XXX guessing! -Allen */
12469 #    if DOUBLESIZE >= 8
12470 #      define MY_DBL_MIN 2.2250738585072014E-308L
12471 #    else
12472 #      define MY_DBL_MIN 1.17549435E-38L
12473 #    endif
12474 #  endif
12475
12476             if ((intsize == 'q') && (c == 'f') &&
12477                 ((fv < MY_DBL_MAX_BUG) && (fv > -MY_DBL_MAX_BUG)) &&
12478                 (need < DBL_DIG)) {
12479                 /* it's going to be short enough that
12480                  * long double precision is not needed */
12481
12482                 if ((fv <= 0L) && (fv >= -0L))
12483                     fix_ldbl_sprintf_bug = TRUE; /* 0 is 0 - easiest */
12484                 else {
12485                     /* would use Perl_fp_class as a double-check but not
12486                      * functional on IRIX - see perl.h comments */
12487
12488                     if ((fv >= MY_DBL_MIN) || (fv <= -MY_DBL_MIN)) {
12489                         /* It's within the range that a double can represent */
12490 #if defined(DBL_MAX) && !defined(DBL_MIN)
12491                         if ((fv >= ((long double)1/DBL_MAX)) ||
12492                             (fv <= (-(long double)1/DBL_MAX)))
12493 #endif
12494                         fix_ldbl_sprintf_bug = TRUE;
12495                     }
12496                 }
12497                 if (fix_ldbl_sprintf_bug == TRUE) {
12498                     double temp;
12499
12500                     intsize = 0;
12501                     temp = (double)fv;
12502                     fv = (NV)temp;
12503                 }
12504             }
12505
12506 #  undef MY_DBL_MAX
12507 #  undef MY_DBL_MAX_BUG
12508 #  undef MY_DBL_MIN
12509
12510 #endif /* HAS_LDBL_SPRINTF_BUG */
12511
12512             need += 20; /* fudge factor */
12513             if (PL_efloatsize < need) {
12514                 Safefree(PL_efloatbuf);
12515                 PL_efloatsize = need + 20; /* more fudge */
12516                 Newx(PL_efloatbuf, PL_efloatsize, char);
12517                 PL_efloatbuf[0] = '\0';
12518             }
12519
12520             if ( !(width || left || plus || alt) && fill != '0'
12521                  && has_precis && intsize != 'q'        /* Shortcuts */
12522                  && LIKELY(!Perl_isinfnan((NV)fv)) ) {
12523                 /* See earlier comment about buggy Gconvert when digits,
12524                    aka precis is 0  */
12525                 if ( c == 'g' && precis ) {
12526                     STORE_LC_NUMERIC_SET_TO_NEEDED();
12527                     SNPRINTF_G(fv, PL_efloatbuf, PL_efloatsize, precis);
12528                     /* May return an empty string for digits==0 */
12529                     if (*PL_efloatbuf) {
12530                         elen = strlen(PL_efloatbuf);
12531                         goto float_converted;
12532                     }
12533                 } else if ( c == 'f' && !precis ) {
12534                     if ((eptr = F0convert(nv, ebuf + sizeof ebuf, &elen)))
12535                         break;
12536                 }
12537             }
12538
12539             if (UNLIKELY(hexfp)) {
12540                 /* Hexadecimal floating point. */
12541                 char* p = PL_efloatbuf;
12542                 U8 vhex[VHEX_SIZE];
12543                 U8* v = vhex; /* working pointer to vhex */
12544                 U8* vend; /* pointer to one beyond last digit of vhex */
12545                 U8* vfnz = NULL; /* first non-zero */
12546                 U8* vlnz = NULL; /* last non-zero */
12547                 U8* v0 = NULL; /* first output */
12548                 const bool lower = (c == 'a');
12549                 /* At output the values of vhex (up to vend) will
12550                  * be mapped through the xdig to get the actual
12551                  * human-readable xdigits. */
12552                 const char* xdig = PL_hexdigit;
12553                 int zerotail = 0; /* how many extra zeros to append */
12554                 int exponent = 0; /* exponent of the floating point input */
12555                 bool hexradix = FALSE; /* should we output the radix */
12556                 bool subnormal = FALSE; /* IEEE 754 subnormal/denormal */
12557                 bool negative = FALSE;
12558
12559                 /* XXX: NaN, Inf -- though they are printed as "NaN" and "Inf".
12560                  *
12561                  * For example with denormals, (assuming the vanilla
12562                  * 64-bit double): the exponent is zero. 1xp-1074 is
12563                  * the smallest denormal and the smallest double, it
12564                  * could be output also as 0x0.0000000000001p-1022 to
12565                  * match its internal structure. */
12566
12567                 vend = S_hextract(aTHX_ nv, &exponent, &subnormal, vhex, NULL);
12568                 S_hextract(aTHX_ nv, &exponent, &subnormal, vhex, vend);
12569
12570 #if NVSIZE > DOUBLESIZE
12571 #  ifdef HEXTRACT_HAS_IMPLICIT_BIT
12572                 /* In this case there is an implicit bit,
12573                  * and therefore the exponent is shifted by one. */
12574                 exponent--;
12575 #  else
12576 #   ifdef NV_X86_80_BIT
12577                 if (subnormal) {
12578                     /* The subnormals of the x86-80 have a base exponent of -16382,
12579                      * (while the physical exponent bits are zero) but the frexp()
12580                      * returned the scientific-style floating exponent.  We want
12581                      * to map the last one as:
12582                      * -16831..-16384 -> -16382 (the last normal is 0x1p-16382)
12583                      * -16835..-16388 -> -16384
12584                      * since we want to keep the first hexdigit
12585                      * as one of the [8421]. */
12586                     exponent = -4 * ( (exponent + 1) / -4) - 2;
12587                 } else {
12588                     exponent -= 4;
12589                 }
12590 #   endif
12591                 /* TBD: other non-implicit-bit platforms than the x86-80. */
12592 #  endif
12593 #endif
12594
12595                 negative = fv < 0 || Perl_signbit(nv);
12596                 if (negative)
12597                     *p++ = '-';
12598                 else if (plus)
12599                     *p++ = plus;
12600                 *p++ = '0';
12601                 if (lower) {
12602                     *p++ = 'x';
12603                 }
12604                 else {
12605                     *p++ = 'X';
12606                     xdig += 16; /* Use uppercase hex. */
12607                 }
12608
12609                 /* Find the first non-zero xdigit. */
12610                 for (v = vhex; v < vend; v++) {
12611                     if (*v) {
12612                         vfnz = v;
12613                         break;
12614                     }
12615                 }
12616
12617                 if (vfnz) {
12618                     /* Find the last non-zero xdigit. */
12619                     for (v = vend - 1; v >= vhex; v--) {
12620                         if (*v) {
12621                             vlnz = v;
12622                             break;
12623                         }
12624                     }
12625
12626 #if NVSIZE == DOUBLESIZE
12627                     if (fv != 0.0)
12628                         exponent--;
12629 #endif
12630
12631                     if (subnormal) {
12632 #ifndef NV_X86_80_BIT
12633                       if (vfnz[0] > 1) {
12634                         /* IEEE 754 subnormals (but not the x86 80-bit):
12635                          * we want "normalize" the subnormal,
12636                          * so we need to right shift the hex nybbles
12637                          * so that the output of the subnormal starts
12638                          * from the first true bit.  (Another, equally
12639                          * valid, policy would be to dump the subnormal
12640                          * nybbles as-is, to display the "physical" layout.) */
12641                         int i, n;
12642                         U8 *vshr;
12643                         /* Find the ceil(log2(v[0])) of
12644                          * the top non-zero nybble. */
12645                         for (i = vfnz[0], n = 0; i > 1; i >>= 1, n++) { }
12646                         assert(n < 4);
12647                         vlnz[1] = 0;
12648                         for (vshr = vlnz; vshr >= vfnz; vshr--) {
12649                           vshr[1] |= (vshr[0] & (0xF >> (4 - n))) << (4 - n);
12650                           vshr[0] >>= n;
12651                         }
12652                         if (vlnz[1]) {
12653                           vlnz++;
12654                         }
12655                       }
12656 #endif
12657                       v0 = vfnz;
12658                     } else {
12659                       v0 = vhex;
12660                     }
12661
12662                     if (has_precis) {
12663                         U8* ve = (subnormal ? vlnz + 1 : vend);
12664                         SSize_t vn = ve - (subnormal ? vfnz : vhex);
12665                         if ((SSize_t)(precis + 1) < vn) {
12666                             bool overflow = FALSE;
12667                             if (v0[precis + 1] < 0x8) {
12668                                 /* Round down, nothing to do. */
12669                             } else if (v0[precis + 1] > 0x8) {
12670                                 /* Round up. */
12671                                 v0[precis]++;
12672                                 overflow = v0[precis] > 0xF;
12673                                 v0[precis] &= 0xF;
12674                             } else { /* v0[precis] == 0x8 */
12675                                 /* Half-point: round towards the one
12676                                  * with the even least-significant digit:
12677                                  * 08 -> 0  88 -> 8
12678                                  * 18 -> 2  98 -> a
12679                                  * 28 -> 2  a8 -> a
12680                                  * 38 -> 4  b8 -> c
12681                                  * 48 -> 4  c8 -> c
12682                                  * 58 -> 6  d8 -> e
12683                                  * 68 -> 6  e8 -> e
12684                                  * 78 -> 8  f8 -> 10 */
12685                                 if ((v0[precis] & 0x1)) {
12686                                     v0[precis]++;
12687                                 }
12688                                 overflow = v0[precis] > 0xF;
12689                                 v0[precis] &= 0xF;
12690                             }
12691
12692                             if (overflow) {
12693                                 for (v = v0 + precis - 1; v >= v0; v--) {
12694                                     (*v)++;
12695                                     overflow = *v > 0xF;
12696                                     (*v) &= 0xF;
12697                                     if (!overflow) {
12698                                         break;
12699                                     }
12700                                 }
12701                                 if (v == v0 - 1 && overflow) {
12702                                     /* If the overflow goes all the
12703                                      * way to the front, we need to
12704                                      * insert 0x1 in front, and adjust
12705                                      * the exponent. */
12706                                     Move(v0, v0 + 1, vn, char);
12707                                     *v0 = 0x1;
12708                                     exponent += 4;
12709                                 }
12710                             }
12711
12712                             /* The new effective "last non zero". */
12713                             vlnz = v0 + precis;
12714                         }
12715                         else {
12716                             zerotail =
12717                               subnormal ? precis - vn + 1 :
12718                               precis - (vlnz - vhex);
12719                         }
12720                     }
12721
12722                     v = v0;
12723                     *p++ = xdig[*v++];
12724
12725                     /* If there are non-zero xdigits, the radix
12726                      * is output after the first one. */
12727                     if (vfnz < vlnz) {
12728                       hexradix = TRUE;
12729                     }
12730                 }
12731                 else {
12732                     *p++ = '0';
12733                     exponent = 0;
12734                     zerotail = precis;
12735                 }
12736
12737                 /* The radix is always output if precis, or if alt. */
12738                 if (precis > 0 || alt) {
12739                   hexradix = TRUE;
12740                 }
12741
12742                 if (hexradix) {
12743 #ifndef USE_LOCALE_NUMERIC
12744                         *p++ = '.';
12745 #else
12746                         STORE_LC_NUMERIC_SET_TO_NEEDED();
12747                         if (PL_numeric_radix_sv && IN_LC(LC_NUMERIC)) {
12748                             STRLEN n;
12749                             const char* r = SvPV(PL_numeric_radix_sv, n);
12750                             Copy(r, p, n, char);
12751                             p += n;
12752                         }
12753                         else {
12754                             *p++ = '.';
12755                         }
12756                         RESTORE_LC_NUMERIC();
12757 #endif
12758                 }
12759
12760                 if (vlnz) {
12761                     while (v <= vlnz)
12762                         *p++ = xdig[*v++];
12763                 }
12764
12765                 if (zerotail > 0) {
12766                   while (zerotail--) {
12767                     *p++ = '0';
12768                   }
12769                 }
12770
12771                 elen = p - PL_efloatbuf;
12772                 elen += my_snprintf(p, PL_efloatsize - elen,
12773                                     "%c%+d", lower ? 'p' : 'P',
12774                                     exponent);
12775
12776                 if (elen < width) {
12777                     if (left) {
12778                         /* Pad the back with spaces. */
12779                         memset(PL_efloatbuf + elen, ' ', width - elen);
12780                     }
12781                     else if (fill == '0') {
12782                         /* Insert the zeros after the "0x" and the
12783                          * the potential sign, but before the digits,
12784                          * otherwise we end up with "0000xH.HHH...",
12785                          * when we want "0x000H.HHH..."  */
12786                         STRLEN nzero = width - elen;
12787                         char* zerox = PL_efloatbuf + 2;
12788                         STRLEN nmove = elen - 2;
12789                         if (negative || plus) {
12790                             zerox++;
12791                             nmove--;
12792                         }
12793                         Move(zerox, zerox + nzero, nmove, char);
12794                         memset(zerox, fill, nzero);
12795                     }
12796                     else {
12797                         /* Move it to the right. */
12798                         Move(PL_efloatbuf, PL_efloatbuf + width - elen,
12799                              elen, char);
12800                         /* Pad the front with spaces. */
12801                         memset(PL_efloatbuf, ' ', width - elen);
12802                     }
12803                     elen = width;
12804                 }
12805             }
12806             else {
12807                 elen = S_infnan_2pv(nv, PL_efloatbuf, PL_efloatsize, plus);
12808                 if (elen) {
12809                     /* Not affecting infnan output: precision, alt, fill. */
12810                     if (elen < width) {
12811                         if (left) {
12812                             /* Pack the back with spaces. */
12813                             memset(PL_efloatbuf + elen, ' ', width - elen);
12814                         } else {
12815                             /* Move it to the right. */
12816                             Move(PL_efloatbuf, PL_efloatbuf + width - elen,
12817                                  elen, char);
12818                             /* Pad the front with spaces. */
12819                             memset(PL_efloatbuf, ' ', width - elen);
12820                         }
12821                         elen = width;
12822                     }
12823                 }
12824             }
12825
12826             if (elen == 0) {
12827                 char *ptr = ebuf + sizeof ebuf;
12828                 *--ptr = '\0';
12829                 *--ptr = c;
12830 #if defined(USE_QUADMATH)
12831                 if (intsize == 'q') {
12832                     /* "g" -> "Qg" */
12833                     *--ptr = 'Q';
12834                 }
12835                 /* FIXME: what to do if HAS_LONG_DOUBLE but not PERL_PRIfldbl? */
12836 #elif defined(HAS_LONG_DOUBLE) && defined(PERL_PRIfldbl)
12837                 /* Note that this is HAS_LONG_DOUBLE and PERL_PRIfldbl,
12838                  * not USE_LONG_DOUBLE and NVff.  In other words,
12839                  * this needs to work without USE_LONG_DOUBLE. */
12840                 if (intsize == 'q') {
12841                     /* Copy the one or more characters in a long double
12842                      * format before the 'base' ([efgEFG]) character to
12843                      * the format string. */
12844                     static char const ldblf[] = PERL_PRIfldbl;
12845                     char const *p = ldblf + sizeof(ldblf) - 3;
12846                     while (p >= ldblf) { *--ptr = *p--; }
12847                 }
12848 #endif
12849                 if (has_precis) {
12850                     base = precis;
12851                     do { *--ptr = '0' + (base % 10); } while (base /= 10);
12852                     *--ptr = '.';
12853                 }
12854                 if (width) {
12855                     base = width;
12856                     do { *--ptr = '0' + (base % 10); } while (base /= 10);
12857                 }
12858                 if (fill == '0')
12859                     *--ptr = fill;
12860                 if (left)
12861                     *--ptr = '-';
12862                 if (plus)
12863                     *--ptr = plus;
12864                 if (alt)
12865                     *--ptr = '#';
12866                 *--ptr = '%';
12867
12868                 /* No taint.  Otherwise we are in the strange situation
12869                  * where printf() taints but print($float) doesn't.
12870                  * --jhi */
12871
12872                 STORE_LC_NUMERIC_SET_TO_NEEDED();
12873
12874                 /* hopefully the above makes ptr a very constrained format
12875                  * that is safe to use, even though it's not literal */
12876                 GCC_DIAG_IGNORE(-Wformat-nonliteral);
12877 #ifdef USE_QUADMATH
12878                 {
12879                     const char* qfmt = quadmath_format_single(ptr);
12880                     if (!qfmt)
12881                         Perl_croak_nocontext("panic: quadmath invalid format \"%s\"", ptr);
12882                     elen = quadmath_snprintf(PL_efloatbuf, PL_efloatsize,
12883                                              qfmt, nv);
12884                     if ((IV)elen == -1)
12885                         Perl_croak_nocontext("panic: quadmath_snprintf failed, format \"%s\"", qfmt);
12886                     if (qfmt != ptr)
12887                         Safefree(qfmt);
12888                 }
12889 #elif defined(HAS_LONG_DOUBLE)
12890                 elen = ((intsize == 'q')
12891                         ? my_snprintf(PL_efloatbuf, PL_efloatsize, ptr, fv)
12892                         : my_snprintf(PL_efloatbuf, PL_efloatsize, ptr, (double)fv));
12893 #else
12894                 elen = my_sprintf(PL_efloatbuf, ptr, fv);
12895 #endif
12896                 GCC_DIAG_RESTORE;
12897             }
12898
12899         float_converted:
12900             eptr = PL_efloatbuf;
12901             assert((IV)elen > 0); /* here zero elen is bad */
12902
12903 #ifdef USE_LOCALE_NUMERIC
12904             /* If the decimal point character in the string is UTF-8, make the
12905              * output utf8 */
12906             if (PL_numeric_radix_sv && SvUTF8(PL_numeric_radix_sv)
12907                 && instr(eptr, SvPVX_const(PL_numeric_radix_sv)))
12908             {
12909                 is_utf8 = TRUE;
12910             }
12911 #endif
12912
12913             break;
12914
12915             /* SPECIAL */
12916
12917         case 'n':
12918             if (vectorize)
12919                 goto unknown;
12920             i = SvCUR(sv) - origlen;
12921             if (args) {
12922                 switch (intsize) {
12923                 case 'c':       *(va_arg(*args, char*)) = i; break;
12924                 case 'h':       *(va_arg(*args, short*)) = i; break;
12925                 default:        *(va_arg(*args, int*)) = i; break;
12926                 case 'l':       *(va_arg(*args, long*)) = i; break;
12927                 case 'V':       *(va_arg(*args, IV*)) = i; break;
12928                 case 'z':       *(va_arg(*args, SSize_t*)) = i; break;
12929 #ifdef HAS_PTRDIFF_T
12930                 case 't':       *(va_arg(*args, ptrdiff_t*)) = i; break;
12931 #endif
12932 #ifdef I_STDINT
12933                 case 'j':       *(va_arg(*args, intmax_t*)) = i; break;
12934 #endif
12935                 case 'q':
12936 #if IVSIZE >= 8
12937                                 *(va_arg(*args, Quad_t*)) = i; break;
12938 #else
12939                                 goto unknown;
12940 #endif
12941                 }
12942             }
12943             else
12944                 sv_setuv_mg(argsv, has_utf8 ? (UV)sv_len_utf8(sv) : (UV)i);
12945             goto donevalidconversion;
12946
12947             /* UNKNOWN */
12948
12949         default:
12950       unknown:
12951             if (!args
12952                 && (PL_op->op_type == OP_PRTF || PL_op->op_type == OP_SPRINTF)
12953                 && ckWARN(WARN_PRINTF))
12954             {
12955                 SV * const msg = sv_newmortal();
12956                 Perl_sv_setpvf(aTHX_ msg, "Invalid conversion in %sprintf: ",
12957                           (PL_op->op_type == OP_PRTF) ? "" : "s");
12958                 if (fmtstart < patend) {
12959                     const char * const fmtend = q < patend ? q : patend;
12960                     const char * f;
12961                     sv_catpvs(msg, "\"%");
12962                     for (f = fmtstart; f < fmtend; f++) {
12963                         if (isPRINT(*f)) {
12964                             sv_catpvn_nomg(msg, f, 1);
12965                         } else {
12966                             Perl_sv_catpvf(aTHX_ msg,
12967                                            "\\%03" UVof, (UV)*f & 0xFF);
12968                         }
12969                     }
12970                     sv_catpvs(msg, "\"");
12971                 } else {
12972                     sv_catpvs(msg, "end of string");
12973                 }
12974                 Perl_warner(aTHX_ packWARN(WARN_PRINTF), "%" SVf, SVfARG(msg)); /* yes, this is reentrant */
12975             }
12976
12977             /* output mangled stuff ... */
12978             if (c == '\0')
12979                 --q;
12980             eptr = p;
12981             elen = q - p;
12982
12983             /* ... right here, because formatting flags should not apply */
12984             SvGROW(sv, SvCUR(sv) + elen + 1);
12985             p = SvEND(sv);
12986             Copy(eptr, p, elen, char);
12987             p += elen;
12988             *p = '\0';
12989             SvCUR_set(sv, p - SvPVX_const(sv));
12990             svix = osvix;
12991             continue;   /* not "break" */
12992         }
12993
12994         if (is_utf8 != has_utf8) {
12995             if (is_utf8) {
12996                 if (SvCUR(sv))
12997                     sv_utf8_upgrade(sv);
12998             }
12999             else {
13000                 const STRLEN old_elen = elen;
13001                 SV * const nsv = newSVpvn_flags(eptr, elen, SVs_TEMP);
13002                 sv_utf8_upgrade(nsv);
13003                 eptr = SvPVX_const(nsv);
13004                 elen = SvCUR(nsv);
13005
13006                 if (width) { /* fudge width (can't fudge elen) */
13007                     width += elen - old_elen;
13008                 }
13009                 is_utf8 = TRUE;
13010             }
13011         }
13012
13013         /* signed value that's wrapped? */
13014         assert(elen  <= ((~(STRLEN)0) >> 1));
13015         have = esignlen + zeros + elen;
13016         if (have < zeros)
13017             croak_memory_wrap();
13018
13019         need = (have > width ? have : width);
13020         gap = need - have;
13021
13022         if (need >= (((STRLEN)~0) - SvCUR(sv) - dotstrlen - 1))
13023             croak_memory_wrap();
13024         SvGROW(sv, SvCUR(sv) + need + dotstrlen + 1);
13025         p = SvEND(sv);
13026         if (esignlen && fill == '0') {
13027             int i;
13028             for (i = 0; i < (int)esignlen; i++)
13029                 *p++ = esignbuf[i];
13030         }
13031         if (gap && !left) {
13032             memset(p, fill, gap);
13033             p += gap;
13034         }
13035         if (esignlen && fill != '0') {
13036             int i;
13037             for (i = 0; i < (int)esignlen; i++)
13038                 *p++ = esignbuf[i];
13039         }
13040         if (zeros) {
13041             int i;
13042             for (i = zeros; i; i--)
13043                 *p++ = '0';
13044         }
13045         if (elen) {
13046             Copy(eptr, p, elen, char);
13047             p += elen;
13048         }
13049         if (gap && left) {
13050             memset(p, ' ', gap);
13051             p += gap;
13052         }
13053         if (vectorize) {
13054             if (veclen) {
13055                 Copy(dotstr, p, dotstrlen, char);
13056                 p += dotstrlen;
13057             }
13058             else
13059                 vectorize = FALSE;              /* done iterating over vecstr */
13060         }
13061         if (is_utf8)
13062             has_utf8 = TRUE;
13063         if (has_utf8)
13064             SvUTF8_on(sv);
13065         *p = '\0';
13066         SvCUR_set(sv, p - SvPVX_const(sv));
13067         if (vectorize) {
13068             esignlen = 0;
13069             goto vector;
13070         }
13071
13072       donevalidconversion:
13073         if (used_explicit_ix)
13074             no_redundant_warning = TRUE;
13075         if (arg_missing)
13076             S_warn_vcatpvfn_missing_argument(aTHX);
13077     }
13078
13079     /* Now that we've consumed all our printf format arguments (svix)
13080      * do we have things left on the stack that we didn't use?
13081      */
13082     if (!no_redundant_warning && svmax >= svix + 1 && ckWARN(WARN_REDUNDANT)) {
13083         Perl_warner(aTHX_ packWARN(WARN_REDUNDANT), "Redundant argument in %s",
13084                 PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
13085     }
13086
13087     SvTAINT(sv);
13088
13089     RESTORE_LC_NUMERIC();   /* Done outside loop, so don't have to save/restore
13090                                each iteration. */
13091 }
13092
13093 /* =========================================================================
13094
13095 =head1 Cloning an interpreter
13096
13097 =cut
13098
13099 All the macros and functions in this section are for the private use of
13100 the main function, perl_clone().
13101
13102 The foo_dup() functions make an exact copy of an existing foo thingy.
13103 During the course of a cloning, a hash table is used to map old addresses
13104 to new addresses.  The table is created and manipulated with the
13105 ptr_table_* functions.
13106
13107  * =========================================================================*/
13108
13109
13110 #if defined(USE_ITHREADS)
13111
13112 /* XXX Remove this so it doesn't have to go thru the macro and return for nothing */
13113 #ifndef GpREFCNT_inc
13114 #  define GpREFCNT_inc(gp)      ((gp) ? (++(gp)->gp_refcnt, (gp)) : (GP*)NULL)
13115 #endif
13116
13117
13118 /* Certain cases in Perl_ss_dup have been merged, by relying on the fact
13119    that currently av_dup, gv_dup and hv_dup are the same as sv_dup.
13120    If this changes, please unmerge ss_dup.
13121    Likewise, sv_dup_inc_multiple() relies on this fact.  */
13122 #define sv_dup_inc_NN(s,t)      SvREFCNT_inc_NN(sv_dup_inc(s,t))
13123 #define av_dup(s,t)     MUTABLE_AV(sv_dup((const SV *)s,t))
13124 #define av_dup_inc(s,t) MUTABLE_AV(sv_dup_inc((const SV *)s,t))
13125 #define hv_dup(s,t)     MUTABLE_HV(sv_dup((const SV *)s,t))
13126 #define hv_dup_inc(s,t) MUTABLE_HV(sv_dup_inc((const SV *)s,t))
13127 #define cv_dup(s,t)     MUTABLE_CV(sv_dup((const SV *)s,t))
13128 #define cv_dup_inc(s,t) MUTABLE_CV(sv_dup_inc((const SV *)s,t))
13129 #define io_dup(s,t)     MUTABLE_IO(sv_dup((const SV *)s,t))
13130 #define io_dup_inc(s,t) MUTABLE_IO(sv_dup_inc((const SV *)s,t))
13131 #define gv_dup(s,t)     MUTABLE_GV(sv_dup((const SV *)s,t))
13132 #define gv_dup_inc(s,t) MUTABLE_GV(sv_dup_inc((const SV *)s,t))
13133 #define SAVEPV(p)       ((p) ? savepv(p) : NULL)
13134 #define SAVEPVN(p,n)    ((p) ? savepvn(p,n) : NULL)
13135
13136 /* clone a parser */
13137
13138 yy_parser *
13139 Perl_parser_dup(pTHX_ const yy_parser *const proto, CLONE_PARAMS *const param)
13140 {
13141     yy_parser *parser;
13142
13143     PERL_ARGS_ASSERT_PARSER_DUP;
13144
13145     if (!proto)
13146         return NULL;
13147
13148     /* look for it in the table first */
13149     parser = (yy_parser *)ptr_table_fetch(PL_ptr_table, proto);
13150     if (parser)
13151         return parser;
13152
13153     /* create anew and remember what it is */
13154     Newxz(parser, 1, yy_parser);
13155     ptr_table_store(PL_ptr_table, proto, parser);
13156
13157     /* XXX these not yet duped */
13158     parser->old_parser = NULL;
13159     parser->stack = NULL;
13160     parser->ps = NULL;
13161     parser->stack_max1 = 0;
13162     /* XXX parser->stack->state = 0; */
13163
13164     /* XXX eventually, just Copy() most of the parser struct ? */
13165
13166     parser->lex_brackets = proto->lex_brackets;
13167     parser->lex_casemods = proto->lex_casemods;
13168     parser->lex_brackstack = savepvn(proto->lex_brackstack,
13169                     (proto->lex_brackets < 120 ? 120 : proto->lex_brackets));
13170     parser->lex_casestack = savepvn(proto->lex_casestack,
13171                     (proto->lex_casemods < 12 ? 12 : proto->lex_casemods));
13172     parser->lex_defer   = proto->lex_defer;
13173     parser->lex_dojoin  = proto->lex_dojoin;
13174     parser->lex_formbrack = proto->lex_formbrack;
13175     parser->lex_inpat   = proto->lex_inpat;
13176     parser->lex_inwhat  = proto->lex_inwhat;
13177     parser->lex_op      = proto->lex_op;
13178     parser->lex_repl    = sv_dup_inc(proto->lex_repl, param);
13179     parser->lex_starts  = proto->lex_starts;
13180     parser->lex_stuff   = sv_dup_inc(proto->lex_stuff, param);
13181     parser->multi_close = proto->multi_close;
13182     parser->multi_open  = proto->multi_open;
13183     parser->multi_start = proto->multi_start;
13184     parser->multi_end   = proto->multi_end;
13185     parser->preambled   = proto->preambled;
13186     parser->lex_super_state = proto->lex_super_state;
13187     parser->lex_sub_inwhat  = proto->lex_sub_inwhat;
13188     parser->lex_sub_op  = proto->lex_sub_op;
13189     parser->lex_sub_repl= sv_dup_inc(proto->lex_sub_repl, param);
13190     parser->linestr     = sv_dup_inc(proto->linestr, param);
13191     parser->expect      = proto->expect;
13192     parser->copline     = proto->copline;
13193     parser->last_lop_op = proto->last_lop_op;
13194     parser->lex_state   = proto->lex_state;
13195     parser->rsfp        = fp_dup(proto->rsfp, '<', param);
13196     /* rsfp_filters entries have fake IoDIRP() */
13197     parser->rsfp_filters= av_dup_inc(proto->rsfp_filters, param);
13198     parser->in_my       = proto->in_my;
13199     parser->in_my_stash = hv_dup(proto->in_my_stash, param);
13200     parser->error_count = proto->error_count;
13201     parser->sig_elems   = proto->sig_elems;
13202     parser->sig_optelems= proto->sig_optelems;
13203     parser->sig_slurpy  = proto->sig_slurpy;
13204     parser->linestr     = sv_dup_inc(proto->linestr, param);
13205
13206     {
13207         char * const ols = SvPVX(proto->linestr);
13208         char * const ls  = SvPVX(parser->linestr);
13209
13210         parser->bufptr      = ls + (proto->bufptr >= ols ?
13211                                     proto->bufptr -  ols : 0);
13212         parser->oldbufptr   = ls + (proto->oldbufptr >= ols ?
13213                                     proto->oldbufptr -  ols : 0);
13214         parser->oldoldbufptr= ls + (proto->oldoldbufptr >= ols ?
13215                                     proto->oldoldbufptr -  ols : 0);
13216         parser->linestart   = ls + (proto->linestart >= ols ?
13217                                     proto->linestart -  ols : 0);
13218         parser->last_uni    = ls + (proto->last_uni >= ols ?
13219                                     proto->last_uni -  ols : 0);
13220         parser->last_lop    = ls + (proto->last_lop >= ols ?
13221                                     proto->last_lop -  ols : 0);
13222
13223         parser->bufend      = ls + SvCUR(parser->linestr);
13224     }
13225
13226     Copy(proto->tokenbuf, parser->tokenbuf, 256, char);
13227
13228
13229     Copy(proto->nextval, parser->nextval, 5, YYSTYPE);
13230     Copy(proto->nexttype, parser->nexttype, 5,  I32);
13231     parser->nexttoke    = proto->nexttoke;
13232
13233     /* XXX should clone saved_curcop here, but we aren't passed
13234      * proto_perl; so do it in perl_clone_using instead */
13235
13236     return parser;
13237 }
13238
13239
13240 /* duplicate a file handle */
13241
13242 PerlIO *
13243 Perl_fp_dup(pTHX_ PerlIO *const fp, const char type, CLONE_PARAMS *const param)
13244 {
13245     PerlIO *ret;
13246
13247     PERL_ARGS_ASSERT_FP_DUP;
13248     PERL_UNUSED_ARG(type);
13249
13250     if (!fp)
13251         return (PerlIO*)NULL;
13252
13253     /* look for it in the table first */
13254     ret = (PerlIO*)ptr_table_fetch(PL_ptr_table, fp);
13255     if (ret)
13256         return ret;
13257
13258     /* create anew and remember what it is */
13259 #ifdef __amigaos4__
13260     ret = PerlIO_fdupopen(aTHX_ fp, param, PERLIO_DUP_CLONE|PERLIO_DUP_FD);
13261 #else
13262     ret = PerlIO_fdupopen(aTHX_ fp, param, PERLIO_DUP_CLONE);
13263 #endif
13264     ptr_table_store(PL_ptr_table, fp, ret);
13265     return ret;
13266 }
13267
13268 /* duplicate a directory handle */
13269
13270 DIR *
13271 Perl_dirp_dup(pTHX_ DIR *const dp, CLONE_PARAMS *const param)
13272 {
13273     DIR *ret;
13274
13275 #if defined(HAS_FCHDIR) && defined(HAS_TELLDIR) && defined(HAS_SEEKDIR)
13276     DIR *pwd;
13277     const Direntry_t *dirent;
13278     char smallbuf[256]; /* XXX MAXPATHLEN, surely? */
13279     char *name = NULL;
13280     STRLEN len = 0;
13281     long pos;
13282 #endif
13283
13284     PERL_UNUSED_CONTEXT;
13285     PERL_ARGS_ASSERT_DIRP_DUP;
13286
13287     if (!dp)
13288         return (DIR*)NULL;
13289
13290     /* look for it in the table first */
13291     ret = (DIR*)ptr_table_fetch(PL_ptr_table, dp);
13292     if (ret)
13293         return ret;
13294
13295 #if defined(HAS_FCHDIR) && defined(HAS_TELLDIR) && defined(HAS_SEEKDIR)
13296
13297     PERL_UNUSED_ARG(param);
13298
13299     /* create anew */
13300
13301     /* open the current directory (so we can switch back) */
13302     if (!(pwd = PerlDir_open("."))) return (DIR *)NULL;
13303
13304     /* chdir to our dir handle and open the present working directory */
13305     if (fchdir(my_dirfd(dp)) < 0 || !(ret = PerlDir_open("."))) {
13306         PerlDir_close(pwd);
13307         return (DIR *)NULL;
13308     }
13309     /* Now we should have two dir handles pointing to the same dir. */
13310
13311     /* Be nice to the calling code and chdir back to where we were. */
13312     /* XXX If this fails, then what? */
13313     PERL_UNUSED_RESULT(fchdir(my_dirfd(pwd)));
13314
13315     /* We have no need of the pwd handle any more. */
13316     PerlDir_close(pwd);
13317
13318 #ifdef DIRNAMLEN
13319 # define d_namlen(d) (d)->d_namlen
13320 #else
13321 # define d_namlen(d) strlen((d)->d_name)
13322 #endif
13323     /* Iterate once through dp, to get the file name at the current posi-
13324        tion. Then step back. */
13325     pos = PerlDir_tell(dp);
13326     if ((dirent = PerlDir_read(dp))) {
13327         len = d_namlen(dirent);
13328         if (len > sizeof(dirent->d_name) && sizeof(dirent->d_name) > PTRSIZE) {
13329             /* If the len is somehow magically longer than the
13330              * maximum length of the directory entry, even though
13331              * we could fit it in a buffer, we could not copy it
13332              * from the dirent.  Bail out. */
13333             PerlDir_close(ret);
13334             return (DIR*)NULL;
13335         }
13336         if (len <= sizeof smallbuf) name = smallbuf;
13337         else Newx(name, len, char);
13338         Move(dirent->d_name, name, len, char);
13339     }
13340     PerlDir_seek(dp, pos);
13341
13342     /* Iterate through the new dir handle, till we find a file with the
13343        right name. */
13344     if (!dirent) /* just before the end */
13345         for(;;) {
13346             pos = PerlDir_tell(ret);
13347             if (PerlDir_read(ret)) continue; /* not there yet */
13348             PerlDir_seek(ret, pos); /* step back */
13349             break;
13350         }
13351     else {
13352         const long pos0 = PerlDir_tell(ret);
13353         for(;;) {
13354             pos = PerlDir_tell(ret);
13355             if ((dirent = PerlDir_read(ret))) {
13356                 if (len == (STRLEN)d_namlen(dirent)
13357                     && memEQ(name, dirent->d_name, len)) {
13358                     /* found it */
13359                     PerlDir_seek(ret, pos); /* step back */
13360                     break;
13361                 }
13362                 /* else we are not there yet; keep iterating */
13363             }
13364             else { /* This is not meant to happen. The best we can do is
13365                       reset the iterator to the beginning. */
13366                 PerlDir_seek(ret, pos0);
13367                 break;
13368             }
13369         }
13370     }
13371 #undef d_namlen
13372
13373     if (name && name != smallbuf)
13374         Safefree(name);
13375 #endif
13376
13377 #ifdef WIN32
13378     ret = win32_dirp_dup(dp, param);
13379 #endif
13380
13381     /* pop it in the pointer table */
13382     if (ret)
13383         ptr_table_store(PL_ptr_table, dp, ret);
13384
13385     return ret;
13386 }
13387
13388 /* duplicate a typeglob */
13389
13390 GP *
13391 Perl_gp_dup(pTHX_ GP *const gp, CLONE_PARAMS *const param)
13392 {
13393     GP *ret;
13394
13395     PERL_ARGS_ASSERT_GP_DUP;
13396
13397     if (!gp)
13398         return (GP*)NULL;
13399     /* look for it in the table first */
13400     ret = (GP*)ptr_table_fetch(PL_ptr_table, gp);
13401     if (ret)
13402         return ret;
13403
13404     /* create anew and remember what it is */
13405     Newxz(ret, 1, GP);
13406     ptr_table_store(PL_ptr_table, gp, ret);
13407
13408     /* clone */
13409     /* ret->gp_refcnt must be 0 before any other dups are called. We're relying
13410        on Newxz() to do this for us.  */
13411     ret->gp_sv          = sv_dup_inc(gp->gp_sv, param);
13412     ret->gp_io          = io_dup_inc(gp->gp_io, param);
13413     ret->gp_form        = cv_dup_inc(gp->gp_form, param);
13414     ret->gp_av          = av_dup_inc(gp->gp_av, param);
13415     ret->gp_hv          = hv_dup_inc(gp->gp_hv, param);
13416     ret->gp_egv = gv_dup(gp->gp_egv, param);/* GvEGV is not refcounted */
13417     ret->gp_cv          = cv_dup_inc(gp->gp_cv, param);
13418     ret->gp_cvgen       = gp->gp_cvgen;
13419     ret->gp_line        = gp->gp_line;
13420     ret->gp_file_hek    = hek_dup(gp->gp_file_hek, param);
13421     return ret;
13422 }
13423
13424 /* duplicate a chain of magic */
13425
13426 MAGIC *
13427 Perl_mg_dup(pTHX_ MAGIC *mg, CLONE_PARAMS *const param)
13428 {
13429     MAGIC *mgret = NULL;
13430     MAGIC **mgprev_p = &mgret;
13431
13432     PERL_ARGS_ASSERT_MG_DUP;
13433
13434     for (; mg; mg = mg->mg_moremagic) {
13435         MAGIC *nmg;
13436
13437         if ((param->flags & CLONEf_JOIN_IN)
13438                 && mg->mg_type == PERL_MAGIC_backref)
13439             /* when joining, we let the individual SVs add themselves to
13440              * backref as needed. */
13441             continue;
13442
13443         Newx(nmg, 1, MAGIC);
13444         *mgprev_p = nmg;
13445         mgprev_p = &(nmg->mg_moremagic);
13446
13447         /* There was a comment "XXX copy dynamic vtable?" but as we don't have
13448            dynamic vtables, I'm not sure why Sarathy wrote it. The comment dates
13449            from the original commit adding Perl_mg_dup() - revision 4538.
13450            Similarly there is the annotation "XXX random ptr?" next to the
13451            assignment to nmg->mg_ptr.  */
13452         *nmg = *mg;
13453
13454         /* FIXME for plugins
13455         if (nmg->mg_type == PERL_MAGIC_qr) {
13456             nmg->mg_obj = MUTABLE_SV(CALLREGDUPE((REGEXP*)nmg->mg_obj, param));
13457         }
13458         else
13459         */
13460         nmg->mg_obj = (nmg->mg_flags & MGf_REFCOUNTED)
13461                           ? nmg->mg_type == PERL_MAGIC_backref
13462                                 /* The backref AV has its reference
13463                                  * count deliberately bumped by 1 */
13464                                 ? SvREFCNT_inc(av_dup_inc((const AV *)
13465                                                     nmg->mg_obj, param))
13466                                 : sv_dup_inc(nmg->mg_obj, param)
13467                           : (nmg->mg_type == PERL_MAGIC_regdatum ||
13468                              nmg->mg_type == PERL_MAGIC_regdata)
13469                                   ? nmg->mg_obj
13470                                   : sv_dup(nmg->mg_obj, param);
13471
13472         if (nmg->mg_ptr && nmg->mg_type != PERL_MAGIC_regex_global) {
13473             if (nmg->mg_len > 0) {
13474                 nmg->mg_ptr     = SAVEPVN(nmg->mg_ptr, nmg->mg_len);
13475                 if (nmg->mg_type == PERL_MAGIC_overload_table &&
13476                         AMT_AMAGIC((AMT*)nmg->mg_ptr))
13477                 {
13478                     AMT * const namtp = (AMT*)nmg->mg_ptr;
13479                     sv_dup_inc_multiple((SV**)(namtp->table),
13480                                         (SV**)(namtp->table), NofAMmeth, param);
13481                 }
13482             }
13483             else if (nmg->mg_len == HEf_SVKEY)
13484                 nmg->mg_ptr = (char*)sv_dup_inc((const SV *)nmg->mg_ptr, param);
13485         }
13486         if ((nmg->mg_flags & MGf_DUP) && nmg->mg_virtual && nmg->mg_virtual->svt_dup) {
13487             nmg->mg_virtual->svt_dup(aTHX_ nmg, param);
13488         }
13489     }
13490     return mgret;
13491 }
13492
13493 #endif /* USE_ITHREADS */
13494
13495 struct ptr_tbl_arena {
13496     struct ptr_tbl_arena *next;
13497     struct ptr_tbl_ent array[1023/3]; /* as ptr_tbl_ent has 3 pointers.  */
13498 };
13499
13500 /* create a new pointer-mapping table */
13501
13502 PTR_TBL_t *
13503 Perl_ptr_table_new(pTHX)
13504 {
13505     PTR_TBL_t *tbl;
13506     PERL_UNUSED_CONTEXT;
13507
13508     Newx(tbl, 1, PTR_TBL_t);
13509     tbl->tbl_max        = 511;
13510     tbl->tbl_items      = 0;
13511     tbl->tbl_arena      = NULL;
13512     tbl->tbl_arena_next = NULL;
13513     tbl->tbl_arena_end  = NULL;
13514     Newxz(tbl->tbl_ary, tbl->tbl_max + 1, PTR_TBL_ENT_t*);
13515     return tbl;
13516 }
13517
13518 #define PTR_TABLE_HASH(ptr) \
13519   ((PTR2UV(ptr) >> 3) ^ (PTR2UV(ptr) >> (3 + 7)) ^ (PTR2UV(ptr) >> (3 + 17)))
13520
13521 /* map an existing pointer using a table */
13522
13523 STATIC PTR_TBL_ENT_t *
13524 S_ptr_table_find(PTR_TBL_t *const tbl, const void *const sv)
13525 {
13526     PTR_TBL_ENT_t *tblent;
13527     const UV hash = PTR_TABLE_HASH(sv);
13528
13529     PERL_ARGS_ASSERT_PTR_TABLE_FIND;
13530
13531     tblent = tbl->tbl_ary[hash & tbl->tbl_max];
13532     for (; tblent; tblent = tblent->next) {
13533         if (tblent->oldval == sv)
13534             return tblent;
13535     }
13536     return NULL;
13537 }
13538
13539 void *
13540 Perl_ptr_table_fetch(pTHX_ PTR_TBL_t *const tbl, const void *const sv)
13541 {
13542     PTR_TBL_ENT_t const *const tblent = ptr_table_find(tbl, sv);
13543
13544     PERL_ARGS_ASSERT_PTR_TABLE_FETCH;
13545     PERL_UNUSED_CONTEXT;
13546
13547     return tblent ? tblent->newval : NULL;
13548 }
13549
13550 /* add a new entry to a pointer-mapping table 'tbl'.  In hash terms, 'oldsv' is
13551  * the key; 'newsv' is the value.  The names "old" and "new" are specific to
13552  * the core's typical use of ptr_tables in thread cloning. */
13553
13554 void
13555 Perl_ptr_table_store(pTHX_ PTR_TBL_t *const tbl, const void *const oldsv, void *const newsv)
13556 {
13557     PTR_TBL_ENT_t *tblent = ptr_table_find(tbl, oldsv);
13558
13559     PERL_ARGS_ASSERT_PTR_TABLE_STORE;
13560     PERL_UNUSED_CONTEXT;
13561
13562     if (tblent) {
13563         tblent->newval = newsv;
13564     } else {
13565         const UV entry = PTR_TABLE_HASH(oldsv) & tbl->tbl_max;
13566
13567         if (tbl->tbl_arena_next == tbl->tbl_arena_end) {
13568             struct ptr_tbl_arena *new_arena;
13569
13570             Newx(new_arena, 1, struct ptr_tbl_arena);
13571             new_arena->next = tbl->tbl_arena;
13572             tbl->tbl_arena = new_arena;
13573             tbl->tbl_arena_next = new_arena->array;
13574             tbl->tbl_arena_end = C_ARRAY_END(new_arena->array);
13575         }
13576
13577         tblent = tbl->tbl_arena_next++;
13578
13579         tblent->oldval = oldsv;
13580         tblent->newval = newsv;
13581         tblent->next = tbl->tbl_ary[entry];
13582         tbl->tbl_ary[entry] = tblent;
13583         tbl->tbl_items++;
13584         if (tblent->next && tbl->tbl_items > tbl->tbl_max)
13585             ptr_table_split(tbl);
13586     }
13587 }
13588
13589 /* double the hash bucket size of an existing ptr table */
13590
13591 void
13592 Perl_ptr_table_split(pTHX_ PTR_TBL_t *const tbl)
13593 {
13594     PTR_TBL_ENT_t **ary = tbl->tbl_ary;
13595     const UV oldsize = tbl->tbl_max + 1;
13596     UV newsize = oldsize * 2;
13597     UV i;
13598
13599     PERL_ARGS_ASSERT_PTR_TABLE_SPLIT;
13600     PERL_UNUSED_CONTEXT;
13601
13602     Renew(ary, newsize, PTR_TBL_ENT_t*);
13603     Zero(&ary[oldsize], newsize-oldsize, PTR_TBL_ENT_t*);
13604     tbl->tbl_max = --newsize;
13605     tbl->tbl_ary = ary;
13606     for (i=0; i < oldsize; i++, ary++) {
13607         PTR_TBL_ENT_t **entp = ary;
13608         PTR_TBL_ENT_t *ent = *ary;
13609         PTR_TBL_ENT_t **curentp;
13610         if (!ent)
13611             continue;
13612         curentp = ary + oldsize;
13613         do {
13614             if ((newsize & PTR_TABLE_HASH(ent->oldval)) != i) {
13615                 *entp = ent->next;
13616                 ent->next = *curentp;
13617                 *curentp = ent;
13618             }
13619             else
13620                 entp = &ent->next;
13621             ent = *entp;
13622         } while (ent);
13623     }
13624 }
13625
13626 /* remove all the entries from a ptr table */
13627 /* Deprecated - will be removed post 5.14 */
13628
13629 void
13630 Perl_ptr_table_clear(pTHX_ PTR_TBL_t *const tbl)
13631 {
13632     PERL_UNUSED_CONTEXT;
13633     if (tbl && tbl->tbl_items) {
13634         struct ptr_tbl_arena *arena = tbl->tbl_arena;
13635
13636         Zero(tbl->tbl_ary, tbl->tbl_max + 1, struct ptr_tbl_ent *);
13637
13638         while (arena) {
13639             struct ptr_tbl_arena *next = arena->next;
13640
13641             Safefree(arena);
13642             arena = next;
13643         };
13644
13645         tbl->tbl_items = 0;
13646         tbl->tbl_arena = NULL;
13647         tbl->tbl_arena_next = NULL;
13648         tbl->tbl_arena_end = NULL;
13649     }
13650 }
13651
13652 /* clear and free a ptr table */
13653
13654 void
13655 Perl_ptr_table_free(pTHX_ PTR_TBL_t *const tbl)
13656 {
13657     struct ptr_tbl_arena *arena;
13658
13659     PERL_UNUSED_CONTEXT;
13660
13661     if (!tbl) {
13662         return;
13663     }
13664
13665     arena = tbl->tbl_arena;
13666
13667     while (arena) {
13668         struct ptr_tbl_arena *next = arena->next;
13669
13670         Safefree(arena);
13671         arena = next;
13672     }
13673
13674     Safefree(tbl->tbl_ary);
13675     Safefree(tbl);
13676 }
13677
13678 #if defined(USE_ITHREADS)
13679
13680 void
13681 Perl_rvpv_dup(pTHX_ SV *const dstr, const SV *const sstr, CLONE_PARAMS *const param)
13682 {
13683     PERL_ARGS_ASSERT_RVPV_DUP;
13684
13685     assert(!isREGEXP(sstr));
13686     if (SvROK(sstr)) {
13687         if (SvWEAKREF(sstr)) {
13688             SvRV_set(dstr, sv_dup(SvRV_const(sstr), param));
13689             if (param->flags & CLONEf_JOIN_IN) {
13690                 /* if joining, we add any back references individually rather
13691                  * than copying the whole backref array */
13692                 Perl_sv_add_backref(aTHX_ SvRV(dstr), dstr);
13693             }
13694         }
13695         else
13696             SvRV_set(dstr, sv_dup_inc(SvRV_const(sstr), param));
13697     }
13698     else if (SvPVX_const(sstr)) {
13699         /* Has something there */
13700         if (SvLEN(sstr)) {
13701             /* Normal PV - clone whole allocated space */
13702             SvPV_set(dstr, SAVEPVN(SvPVX_const(sstr), SvLEN(sstr)-1));
13703             /* sstr may not be that normal, but actually copy on write.
13704                But we are a true, independent SV, so:  */
13705             SvIsCOW_off(dstr);
13706         }
13707         else {
13708             /* Special case - not normally malloced for some reason */
13709             if (isGV_with_GP(sstr)) {
13710                 /* Don't need to do anything here.  */
13711             }
13712             else if ((SvIsCOW(sstr))) {
13713                 /* A "shared" PV - clone it as "shared" PV */
13714                 SvPV_set(dstr,
13715                          HEK_KEY(hek_dup(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr)),
13716                                          param)));
13717             }
13718             else {
13719                 /* Some other special case - random pointer */
13720                 SvPV_set(dstr, (char *) SvPVX_const(sstr));             
13721             }
13722         }
13723     }
13724     else {
13725         /* Copy the NULL */
13726         SvPV_set(dstr, NULL);
13727     }
13728 }
13729
13730 /* duplicate a list of SVs. source and dest may point to the same memory.  */
13731 static SV **
13732 S_sv_dup_inc_multiple(pTHX_ SV *const *source, SV **dest,
13733                       SSize_t items, CLONE_PARAMS *const param)
13734 {
13735     PERL_ARGS_ASSERT_SV_DUP_INC_MULTIPLE;
13736
13737     while (items-- > 0) {
13738         *dest++ = sv_dup_inc(*source++, param);
13739     }
13740
13741     return dest;
13742 }
13743
13744 /* duplicate an SV of any type (including AV, HV etc) */
13745
13746 static SV *
13747 S_sv_dup_common(pTHX_ const SV *const sstr, CLONE_PARAMS *const param)
13748 {
13749     dVAR;
13750     SV *dstr;
13751
13752     PERL_ARGS_ASSERT_SV_DUP_COMMON;
13753
13754     if (SvTYPE(sstr) == (svtype)SVTYPEMASK) {
13755 #ifdef DEBUG_LEAKING_SCALARS_ABORT
13756         abort();
13757 #endif
13758         return NULL;
13759     }
13760     /* look for it in the table first */
13761     dstr = MUTABLE_SV(ptr_table_fetch(PL_ptr_table, sstr));
13762     if (dstr)
13763         return dstr;
13764
13765     if(param->flags & CLONEf_JOIN_IN) {
13766         /** We are joining here so we don't want do clone
13767             something that is bad **/
13768         if (SvTYPE(sstr) == SVt_PVHV) {
13769             const HEK * const hvname = HvNAME_HEK(sstr);
13770             if (hvname) {
13771                 /** don't clone stashes if they already exist **/
13772                 dstr = MUTABLE_SV(gv_stashpvn(HEK_KEY(hvname), HEK_LEN(hvname),
13773                                                 HEK_UTF8(hvname) ? SVf_UTF8 : 0));
13774                 ptr_table_store(PL_ptr_table, sstr, dstr);
13775                 return dstr;
13776             }
13777         }
13778         else if (SvTYPE(sstr) == SVt_PVGV && !SvFAKE(sstr)) {
13779             HV *stash = GvSTASH(sstr);
13780             const HEK * hvname;
13781             if (stash && (hvname = HvNAME_HEK(stash))) {
13782                 /** don't clone GVs if they already exist **/
13783                 SV **svp;
13784                 stash = gv_stashpvn(HEK_KEY(hvname), HEK_LEN(hvname),
13785                                     HEK_UTF8(hvname) ? SVf_UTF8 : 0);
13786                 svp = hv_fetch(
13787                         stash, GvNAME(sstr),
13788                         GvNAMEUTF8(sstr)
13789                             ? -GvNAMELEN(sstr)
13790                             :  GvNAMELEN(sstr),
13791                         0
13792                       );
13793                 if (svp && *svp && SvTYPE(*svp) == SVt_PVGV) {
13794                     ptr_table_store(PL_ptr_table, sstr, *svp);
13795                     return *svp;
13796                 }
13797             }
13798         }
13799     }
13800
13801     /* create anew and remember what it is */
13802     new_SV(dstr);
13803
13804 #ifdef DEBUG_LEAKING_SCALARS
13805     dstr->sv_debug_optype = sstr->sv_debug_optype;
13806     dstr->sv_debug_line = sstr->sv_debug_line;
13807     dstr->sv_debug_inpad = sstr->sv_debug_inpad;
13808     dstr->sv_debug_parent = (SV*)sstr;
13809     FREE_SV_DEBUG_FILE(dstr);
13810     dstr->sv_debug_file = savesharedpv(sstr->sv_debug_file);
13811 #endif
13812
13813     ptr_table_store(PL_ptr_table, sstr, dstr);
13814
13815     /* clone */
13816     SvFLAGS(dstr)       = SvFLAGS(sstr);
13817     SvFLAGS(dstr)       &= ~SVf_OOK;            /* don't propagate OOK hack */
13818     SvREFCNT(dstr)      = 0;                    /* must be before any other dups! */
13819
13820 #ifdef DEBUGGING
13821     if (SvANY(sstr) && PL_watch_pvx && SvPVX_const(sstr) == PL_watch_pvx)
13822         PerlIO_printf(Perl_debug_log, "watch at %p hit, found string \"%s\"\n",
13823                       (void*)PL_watch_pvx, SvPVX_const(sstr));
13824 #endif
13825
13826     /* don't clone objects whose class has asked us not to */
13827     if (SvOBJECT(sstr)
13828      && ! (SvFLAGS(SvSTASH(sstr)) & SVphv_CLONEABLE))
13829     {
13830         SvFLAGS(dstr) = 0;
13831         return dstr;
13832     }
13833
13834     switch (SvTYPE(sstr)) {
13835     case SVt_NULL:
13836         SvANY(dstr)     = NULL;
13837         break;
13838     case SVt_IV:
13839         SET_SVANY_FOR_BODYLESS_IV(dstr);
13840         if(SvROK(sstr)) {
13841             Perl_rvpv_dup(aTHX_ dstr, sstr, param);
13842         } else {
13843             SvIV_set(dstr, SvIVX(sstr));
13844         }
13845         break;
13846     case SVt_NV:
13847 #if NVSIZE <= IVSIZE
13848         SET_SVANY_FOR_BODYLESS_NV(dstr);
13849 #else
13850         SvANY(dstr)     = new_XNV();
13851 #endif
13852         SvNV_set(dstr, SvNVX(sstr));
13853         break;
13854     default:
13855         {
13856             /* These are all the types that need complex bodies allocating.  */
13857             void *new_body;
13858             const svtype sv_type = SvTYPE(sstr);
13859             const struct body_details *const sv_type_details
13860                 = bodies_by_type + sv_type;
13861
13862             switch (sv_type) {
13863             default:
13864                 Perl_croak(aTHX_ "Bizarre SvTYPE [%" IVdf "]", (IV)SvTYPE(sstr));
13865                 break;
13866
13867             case SVt_PVGV:
13868             case SVt_PVIO:
13869             case SVt_PVFM:
13870             case SVt_PVHV:
13871             case SVt_PVAV:
13872             case SVt_PVCV:
13873             case SVt_PVLV:
13874             case SVt_REGEXP:
13875             case SVt_PVMG:
13876             case SVt_PVNV:
13877             case SVt_PVIV:
13878             case SVt_INVLIST:
13879             case SVt_PV:
13880                 assert(sv_type_details->body_size);
13881                 if (sv_type_details->arena) {
13882                     new_body_inline(new_body, sv_type);
13883                     new_body
13884                         = (void*)((char*)new_body - sv_type_details->offset);
13885                 } else {
13886                     new_body = new_NOARENA(sv_type_details);
13887                 }
13888             }
13889             assert(new_body);
13890             SvANY(dstr) = new_body;
13891
13892 #ifndef PURIFY
13893             Copy(((char*)SvANY(sstr)) + sv_type_details->offset,
13894                  ((char*)SvANY(dstr)) + sv_type_details->offset,
13895                  sv_type_details->copy, char);
13896 #else
13897             Copy(((char*)SvANY(sstr)),
13898                  ((char*)SvANY(dstr)),
13899                  sv_type_details->body_size + sv_type_details->offset, char);
13900 #endif
13901
13902             if (sv_type != SVt_PVAV && sv_type != SVt_PVHV
13903                 && !isGV_with_GP(dstr)
13904                 && !isREGEXP(dstr)
13905                 && !(sv_type == SVt_PVIO && !(IoFLAGS(dstr) & IOf_FAKE_DIRP)))
13906                 Perl_rvpv_dup(aTHX_ dstr, sstr, param);
13907
13908             /* The Copy above means that all the source (unduplicated) pointers
13909                are now in the destination.  We can check the flags and the
13910                pointers in either, but it's possible that there's less cache
13911                missing by always going for the destination.
13912                FIXME - instrument and check that assumption  */
13913             if (sv_type >= SVt_PVMG) {
13914                 if (SvMAGIC(dstr))
13915                     SvMAGIC_set(dstr, mg_dup(SvMAGIC(dstr), param));
13916                 if (SvOBJECT(dstr) && SvSTASH(dstr))
13917                     SvSTASH_set(dstr, hv_dup_inc(SvSTASH(dstr), param));
13918                 else SvSTASH_set(dstr, 0); /* don't copy DESTROY cache */
13919             }
13920
13921             /* The cast silences a GCC warning about unhandled types.  */
13922             switch ((int)sv_type) {
13923             case SVt_PV:
13924                 break;
13925             case SVt_PVIV:
13926                 break;
13927             case SVt_PVNV:
13928                 break;
13929             case SVt_PVMG:
13930                 break;
13931             case SVt_REGEXP:
13932               duprex:
13933                 /* FIXME for plugins */
13934                 dstr->sv_u.svu_rx = ((REGEXP *)dstr)->sv_any;
13935                 re_dup_guts((REGEXP*) sstr, (REGEXP*) dstr, param);
13936                 break;
13937             case SVt_PVLV:
13938                 /* XXX LvTARGOFF sometimes holds PMOP* when DEBUGGING */
13939                 if (LvTYPE(dstr) == 't') /* for tie: unrefcnted fake (SV**) */
13940                     LvTARG(dstr) = dstr;
13941                 else if (LvTYPE(dstr) == 'T') /* for tie: fake HE */
13942                     LvTARG(dstr) = MUTABLE_SV(he_dup((HE*)LvTARG(dstr), 0, param));
13943                 else
13944                     LvTARG(dstr) = sv_dup_inc(LvTARG(dstr), param);
13945                 if (isREGEXP(sstr)) goto duprex;
13946             case SVt_PVGV:
13947                 /* non-GP case already handled above */
13948                 if(isGV_with_GP(sstr)) {
13949                     GvNAME_HEK(dstr) = hek_dup(GvNAME_HEK(dstr), param);
13950                     /* Don't call sv_add_backref here as it's going to be
13951                        created as part of the magic cloning of the symbol
13952                        table--unless this is during a join and the stash
13953                        is not actually being cloned.  */
13954                     /* Danger Will Robinson - GvGP(dstr) isn't initialised
13955                        at the point of this comment.  */
13956                     GvSTASH(dstr) = hv_dup(GvSTASH(dstr), param);
13957                     if (param->flags & CLONEf_JOIN_IN)
13958                         Perl_sv_add_backref(aTHX_ MUTABLE_SV(GvSTASH(dstr)), dstr);
13959                     GvGP_set(dstr, gp_dup(GvGP(sstr), param));
13960                     (void)GpREFCNT_inc(GvGP(dstr));
13961                 }
13962                 break;
13963             case SVt_PVIO:
13964                 /* PL_parser->rsfp_filters entries have fake IoDIRP() */
13965                 if(IoFLAGS(dstr) & IOf_FAKE_DIRP) {
13966                     /* I have no idea why fake dirp (rsfps)
13967                        should be treated differently but otherwise
13968                        we end up with leaks -- sky*/
13969                     IoTOP_GV(dstr)      = gv_dup_inc(IoTOP_GV(dstr), param);
13970                     IoFMT_GV(dstr)      = gv_dup_inc(IoFMT_GV(dstr), param);
13971                     IoBOTTOM_GV(dstr)   = gv_dup_inc(IoBOTTOM_GV(dstr), param);
13972                 } else {
13973                     IoTOP_GV(dstr)      = gv_dup(IoTOP_GV(dstr), param);
13974                     IoFMT_GV(dstr)      = gv_dup(IoFMT_GV(dstr), param);
13975                     IoBOTTOM_GV(dstr)   = gv_dup(IoBOTTOM_GV(dstr), param);
13976                     if (IoDIRP(dstr)) {
13977                         IoDIRP(dstr)    = dirp_dup(IoDIRP(dstr), param);
13978                     } else {
13979                         NOOP;
13980                         /* IoDIRP(dstr) is already a copy of IoDIRP(sstr)  */
13981                     }
13982                     IoIFP(dstr) = fp_dup(IoIFP(sstr), IoTYPE(dstr), param);
13983                 }
13984                 if (IoOFP(dstr) == IoIFP(sstr))
13985                     IoOFP(dstr) = IoIFP(dstr);
13986                 else
13987                     IoOFP(dstr) = fp_dup(IoOFP(dstr), IoTYPE(dstr), param);
13988                 IoTOP_NAME(dstr)        = SAVEPV(IoTOP_NAME(dstr));
13989                 IoFMT_NAME(dstr)        = SAVEPV(IoFMT_NAME(dstr));
13990                 IoBOTTOM_NAME(dstr)     = SAVEPV(IoBOTTOM_NAME(dstr));
13991                 break;
13992             case SVt_PVAV:
13993                 /* avoid cloning an empty array */
13994                 if (AvARRAY((const AV *)sstr) && AvFILLp((const AV *)sstr) >= 0) {
13995                     SV **dst_ary, **src_ary;
13996                     SSize_t items = AvFILLp((const AV *)sstr) + 1;
13997
13998                     src_ary = AvARRAY((const AV *)sstr);
13999                     Newxz(dst_ary, AvMAX((const AV *)sstr)+1, SV*);
14000                     ptr_table_store(PL_ptr_table, src_ary, dst_ary);
14001                     AvARRAY(MUTABLE_AV(dstr)) = dst_ary;
14002                     AvALLOC((const AV *)dstr) = dst_ary;
14003                     if (AvREAL((const AV *)sstr)) {
14004                         dst_ary = sv_dup_inc_multiple(src_ary, dst_ary, items,
14005                                                       param);
14006                     }
14007                     else {
14008                         while (items-- > 0)
14009                             *dst_ary++ = sv_dup(*src_ary++, param);
14010                     }
14011                     items = AvMAX((const AV *)sstr) - AvFILLp((const AV *)sstr);
14012                     while (items-- > 0) {
14013                         *dst_ary++ = NULL;
14014                     }
14015                 }
14016                 else {
14017                     AvARRAY(MUTABLE_AV(dstr))   = NULL;
14018                     AvALLOC((const AV *)dstr)   = (SV**)NULL;
14019                     AvMAX(  (const AV *)dstr)   = -1;
14020                     AvFILLp((const AV *)dstr)   = -1;
14021                 }
14022                 break;
14023             case SVt_PVHV:
14024                 if (HvARRAY((const HV *)sstr)) {
14025                     STRLEN i = 0;
14026                     const bool sharekeys = !!HvSHAREKEYS(sstr);
14027                     XPVHV * const dxhv = (XPVHV*)SvANY(dstr);
14028                     XPVHV * const sxhv = (XPVHV*)SvANY(sstr);
14029                     char *darray;
14030                     Newx(darray, PERL_HV_ARRAY_ALLOC_BYTES(dxhv->xhv_max+1)
14031                         + (SvOOK(sstr) ? sizeof(struct xpvhv_aux) : 0),
14032                         char);
14033                     HvARRAY(dstr) = (HE**)darray;
14034                     while (i <= sxhv->xhv_max) {
14035                         const HE * const source = HvARRAY(sstr)[i];
14036                         HvARRAY(dstr)[i] = source
14037                             ? he_dup(source, sharekeys, param) : 0;
14038                         ++i;
14039                     }
14040                     if (SvOOK(sstr)) {
14041                         const struct xpvhv_aux * const saux = HvAUX(sstr);
14042                         struct xpvhv_aux * const daux = HvAUX(dstr);
14043                         /* This flag isn't copied.  */
14044                         SvOOK_on(dstr);
14045
14046                         if (saux->xhv_name_count) {
14047                             HEK ** const sname = saux->xhv_name_u.xhvnameu_names;
14048                             const I32 count
14049                              = saux->xhv_name_count < 0
14050                                 ? -saux->xhv_name_count
14051                                 :  saux->xhv_name_count;
14052                             HEK **shekp = sname + count;
14053                             HEK **dhekp;
14054                             Newx(daux->xhv_name_u.xhvnameu_names, count, HEK *);
14055                             dhekp = daux->xhv_name_u.xhvnameu_names + count;
14056                             while (shekp-- > sname) {
14057                                 dhekp--;
14058                                 *dhekp = hek_dup(*shekp, param);
14059                             }
14060                         }
14061                         else {
14062                             daux->xhv_name_u.xhvnameu_name
14063                                 = hek_dup(saux->xhv_name_u.xhvnameu_name,
14064                                           param);
14065                         }
14066                         daux->xhv_name_count = saux->xhv_name_count;
14067
14068                         daux->xhv_aux_flags = saux->xhv_aux_flags;
14069 #ifdef PERL_HASH_RANDOMIZE_KEYS
14070                         daux->xhv_rand = saux->xhv_rand;
14071                         daux->xhv_last_rand = saux->xhv_last_rand;
14072 #endif
14073                         daux->xhv_riter = saux->xhv_riter;
14074                         daux->xhv_eiter = saux->xhv_eiter
14075                             ? he_dup(saux->xhv_eiter,
14076                                         cBOOL(HvSHAREKEYS(sstr)), param) : 0;
14077                         /* backref array needs refcnt=2; see sv_add_backref */
14078                         daux->xhv_backreferences =
14079                             (param->flags & CLONEf_JOIN_IN)
14080                                 /* when joining, we let the individual GVs and
14081                                  * CVs add themselves to backref as
14082                                  * needed. This avoids pulling in stuff
14083                                  * that isn't required, and simplifies the
14084                                  * case where stashes aren't cloned back
14085                                  * if they already exist in the parent
14086                                  * thread */
14087                             ? NULL
14088                             : saux->xhv_backreferences
14089                                 ? (SvTYPE(saux->xhv_backreferences) == SVt_PVAV)
14090                                     ? MUTABLE_AV(SvREFCNT_inc(
14091                                           sv_dup_inc((const SV *)
14092                                             saux->xhv_backreferences, param)))
14093                                     : MUTABLE_AV(sv_dup((const SV *)
14094                                             saux->xhv_backreferences, param))
14095                                 : 0;
14096
14097                         daux->xhv_mro_meta = saux->xhv_mro_meta
14098                             ? mro_meta_dup(saux->xhv_mro_meta, param)
14099                             : 0;
14100
14101                         /* Record stashes for possible cloning in Perl_clone(). */
14102                         if (HvNAME(sstr))
14103                             av_push(param->stashes, dstr);
14104                     }
14105                 }
14106                 else
14107                     HvARRAY(MUTABLE_HV(dstr)) = NULL;
14108                 break;
14109             case SVt_PVCV:
14110                 if (!(param->flags & CLONEf_COPY_STACKS)) {
14111                     CvDEPTH(dstr) = 0;
14112                 }
14113                 /* FALLTHROUGH */
14114             case SVt_PVFM:
14115                 /* NOTE: not refcounted */
14116                 SvANY(MUTABLE_CV(dstr))->xcv_stash =
14117                     hv_dup(CvSTASH(dstr), param);
14118                 if ((param->flags & CLONEf_JOIN_IN) && CvSTASH(dstr))
14119                     Perl_sv_add_backref(aTHX_ MUTABLE_SV(CvSTASH(dstr)), dstr);
14120                 if (!CvISXSUB(dstr)) {
14121                     OP_REFCNT_LOCK;
14122                     CvROOT(dstr) = OpREFCNT_inc(CvROOT(dstr));
14123                     OP_REFCNT_UNLOCK;
14124                     CvSLABBED_off(dstr);
14125                 } else if (CvCONST(dstr)) {
14126                     CvXSUBANY(dstr).any_ptr =
14127                         sv_dup_inc((const SV *)CvXSUBANY(dstr).any_ptr, param);
14128                 }
14129                 assert(!CvSLABBED(dstr));
14130                 if (CvDYNFILE(dstr)) CvFILE(dstr) = SAVEPV(CvFILE(dstr));
14131                 if (CvNAMED(dstr))
14132                     SvANY((CV *)dstr)->xcv_gv_u.xcv_hek =
14133                         hek_dup(CvNAME_HEK((CV *)sstr), param);
14134                 /* don't dup if copying back - CvGV isn't refcounted, so the
14135                  * duped GV may never be freed. A bit of a hack! DAPM */
14136                 else
14137                   SvANY(MUTABLE_CV(dstr))->xcv_gv_u.xcv_gv =
14138                     CvCVGV_RC(dstr)
14139                     ? gv_dup_inc(CvGV(sstr), param)
14140                     : (param->flags & CLONEf_JOIN_IN)
14141                         ? NULL
14142                         : gv_dup(CvGV(sstr), param);
14143
14144                 if (!CvISXSUB(sstr)) {
14145                     PADLIST * padlist = CvPADLIST(sstr);
14146                     if(padlist)
14147                         padlist = padlist_dup(padlist, param);
14148                     CvPADLIST_set(dstr, padlist);
14149                 } else
14150 /* unthreaded perl can't sv_dup so we dont support unthreaded's CvHSCXT */
14151                     PoisonPADLIST(dstr);
14152
14153                 CvOUTSIDE(dstr) =
14154                     CvWEAKOUTSIDE(sstr)
14155                     ? cv_dup(    CvOUTSIDE(dstr), param)
14156                     : cv_dup_inc(CvOUTSIDE(dstr), param);
14157                 break;
14158             }
14159         }
14160     }
14161
14162     return dstr;
14163  }
14164
14165 SV *
14166 Perl_sv_dup_inc(pTHX_ const SV *const sstr, CLONE_PARAMS *const param)
14167 {
14168     PERL_ARGS_ASSERT_SV_DUP_INC;
14169     return sstr ? SvREFCNT_inc(sv_dup_common(sstr, param)) : NULL;
14170 }
14171
14172 SV *
14173 Perl_sv_dup(pTHX_ const SV *const sstr, CLONE_PARAMS *const param)
14174 {
14175     SV *dstr = sstr ? sv_dup_common(sstr, param) : NULL;
14176     PERL_ARGS_ASSERT_SV_DUP;
14177
14178     /* Track every SV that (at least initially) had a reference count of 0.
14179        We need to do this by holding an actual reference to it in this array.
14180        If we attempt to cheat, turn AvREAL_off(), and store only pointers
14181        (akin to the stashes hash, and the perl stack), we come unstuck if
14182        a weak reference (or other SV legitimately SvREFCNT() == 0 for this
14183        thread) is manipulated in a CLONE method, because CLONE runs before the
14184        unreferenced array is walked to find SVs still with SvREFCNT() == 0
14185        (and fix things up by giving each a reference via the temps stack).
14186        Instead, during CLONE, if the 0-referenced SV has SvREFCNT_inc() and
14187        then SvREFCNT_dec(), it will be cleaned up (and added to the free list)
14188        before the walk of unreferenced happens and a reference to that is SV
14189        added to the temps stack. At which point we have the same SV considered
14190        to be in use, and free to be re-used. Not good.
14191     */
14192     if (dstr && !(param->flags & CLONEf_COPY_STACKS) && !SvREFCNT(dstr)) {
14193         assert(param->unreferenced);
14194         av_push(param->unreferenced, SvREFCNT_inc(dstr));
14195     }
14196
14197     return dstr;
14198 }
14199
14200 /* duplicate a context */
14201
14202 PERL_CONTEXT *
14203 Perl_cx_dup(pTHX_ PERL_CONTEXT *cxs, I32 ix, I32 max, CLONE_PARAMS* param)
14204 {
14205     PERL_CONTEXT *ncxs;
14206
14207     PERL_ARGS_ASSERT_CX_DUP;
14208
14209     if (!cxs)
14210         return (PERL_CONTEXT*)NULL;
14211
14212     /* look for it in the table first */
14213     ncxs = (PERL_CONTEXT*)ptr_table_fetch(PL_ptr_table, cxs);
14214     if (ncxs)
14215         return ncxs;
14216
14217     /* create anew and remember what it is */
14218     Newx(ncxs, max + 1, PERL_CONTEXT);
14219     ptr_table_store(PL_ptr_table, cxs, ncxs);
14220     Copy(cxs, ncxs, max + 1, PERL_CONTEXT);
14221
14222     while (ix >= 0) {
14223         PERL_CONTEXT * const ncx = &ncxs[ix];
14224         if (CxTYPE(ncx) == CXt_SUBST) {
14225             Perl_croak(aTHX_ "Cloning substitution context is unimplemented");
14226         }
14227         else {
14228             ncx->blk_oldcop = (COP*)any_dup(ncx->blk_oldcop, param->proto_perl);
14229             switch (CxTYPE(ncx)) {
14230             case CXt_SUB:
14231                 ncx->blk_sub.cv         = cv_dup_inc(ncx->blk_sub.cv, param);
14232                 if(CxHASARGS(ncx)){
14233                     ncx->blk_sub.savearray = av_dup_inc(ncx->blk_sub.savearray,param);
14234                 } else {
14235                     ncx->blk_sub.savearray = NULL;
14236                 }
14237                 ncx->blk_sub.prevcomppad = (PAD*)ptr_table_fetch(PL_ptr_table,
14238                                            ncx->blk_sub.prevcomppad);
14239                 break;
14240             case CXt_EVAL:
14241                 ncx->blk_eval.old_namesv = sv_dup_inc(ncx->blk_eval.old_namesv,
14242                                                       param);
14243                 /* XXX should this sv_dup_inc? Or only if CxEVAL_TXT_REFCNTED ???? */
14244                 ncx->blk_eval.cur_text  = sv_dup(ncx->blk_eval.cur_text, param);
14245                 ncx->blk_eval.cv = cv_dup(ncx->blk_eval.cv, param);
14246                 /* XXX what do do with cur_top_env ???? */
14247                 break;
14248             case CXt_LOOP_LAZYSV:
14249                 ncx->blk_loop.state_u.lazysv.end
14250                     = sv_dup_inc(ncx->blk_loop.state_u.lazysv.end, param);
14251                 /* Fallthrough: duplicate lazysv.cur by using the ary.ary
14252                    duplication code instead.
14253                    We are taking advantage of (1) av_dup_inc and sv_dup_inc
14254                    actually being the same function, and (2) order
14255                    equivalence of the two unions.
14256                    We can assert the later [but only at run time :-(]  */
14257                 assert ((void *) &ncx->blk_loop.state_u.ary.ary ==
14258                         (void *) &ncx->blk_loop.state_u.lazysv.cur);
14259                 /* FALLTHROUGH */
14260             case CXt_LOOP_ARY:
14261                 ncx->blk_loop.state_u.ary.ary
14262                     = av_dup_inc(ncx->blk_loop.state_u.ary.ary, param);
14263                 /* FALLTHROUGH */
14264             case CXt_LOOP_LIST:
14265             case CXt_LOOP_LAZYIV:
14266                 /* code common to all 'for' CXt_LOOP_* types */
14267                 ncx->blk_loop.itersave =
14268                                     sv_dup_inc(ncx->blk_loop.itersave, param);
14269                 if (CxPADLOOP(ncx)) {
14270                     PADOFFSET off = ncx->blk_loop.itervar_u.svp
14271                                     - &CX_CURPAD_SV(ncx->blk_loop, 0);
14272                     ncx->blk_loop.oldcomppad =
14273                                     (PAD*)ptr_table_fetch(PL_ptr_table,
14274                                                 ncx->blk_loop.oldcomppad);
14275                     ncx->blk_loop.itervar_u.svp =
14276                                     &CX_CURPAD_SV(ncx->blk_loop, off);
14277                 }
14278                 else {
14279                     /* this copies the GV if CXp_FOR_GV, or the SV for an
14280                      * alias (for \$x (...)) - relies on gv_dup being the
14281                      * same as sv_dup */
14282                     ncx->blk_loop.itervar_u.gv
14283                         = gv_dup((const GV *)ncx->blk_loop.itervar_u.gv,
14284                                     param);
14285                 }
14286                 break;
14287             case CXt_LOOP_PLAIN:
14288                 break;
14289             case CXt_FORMAT:
14290                 ncx->blk_format.prevcomppad =
14291                         (PAD*)ptr_table_fetch(PL_ptr_table,
14292                                            ncx->blk_format.prevcomppad);
14293                 ncx->blk_format.cv      = cv_dup_inc(ncx->blk_format.cv, param);
14294                 ncx->blk_format.gv      = gv_dup(ncx->blk_format.gv, param);
14295                 ncx->blk_format.dfoutgv = gv_dup_inc(ncx->blk_format.dfoutgv,
14296                                                      param);
14297                 break;
14298             case CXt_GIVEN:
14299                 ncx->blk_givwhen.defsv_save =
14300                                 sv_dup_inc(ncx->blk_givwhen.defsv_save, param);
14301                 break;
14302             case CXt_BLOCK:
14303             case CXt_NULL:
14304             case CXt_WHEN:
14305                 break;
14306             }
14307         }
14308         --ix;
14309     }
14310     return ncxs;
14311 }
14312
14313 /* duplicate a stack info structure */
14314
14315 PERL_SI *
14316 Perl_si_dup(pTHX_ PERL_SI *si, CLONE_PARAMS* param)
14317 {
14318     PERL_SI *nsi;
14319
14320     PERL_ARGS_ASSERT_SI_DUP;
14321
14322     if (!si)
14323         return (PERL_SI*)NULL;
14324
14325     /* look for it in the table first */
14326     nsi = (PERL_SI*)ptr_table_fetch(PL_ptr_table, si);
14327     if (nsi)
14328         return nsi;
14329
14330     /* create anew and remember what it is */
14331     Newxz(nsi, 1, PERL_SI);
14332     ptr_table_store(PL_ptr_table, si, nsi);
14333
14334     nsi->si_stack       = av_dup_inc(si->si_stack, param);
14335     nsi->si_cxix        = si->si_cxix;
14336     nsi->si_cxmax       = si->si_cxmax;
14337     nsi->si_cxstack     = cx_dup(si->si_cxstack, si->si_cxix, si->si_cxmax, param);
14338     nsi->si_type        = si->si_type;
14339     nsi->si_prev        = si_dup(si->si_prev, param);
14340     nsi->si_next        = si_dup(si->si_next, param);
14341     nsi->si_markoff     = si->si_markoff;
14342
14343     return nsi;
14344 }
14345
14346 #define POPINT(ss,ix)   ((ss)[--(ix)].any_i32)
14347 #define TOPINT(ss,ix)   ((ss)[ix].any_i32)
14348 #define POPLONG(ss,ix)  ((ss)[--(ix)].any_long)
14349 #define TOPLONG(ss,ix)  ((ss)[ix].any_long)
14350 #define POPIV(ss,ix)    ((ss)[--(ix)].any_iv)
14351 #define TOPIV(ss,ix)    ((ss)[ix].any_iv)
14352 #define POPUV(ss,ix)    ((ss)[--(ix)].any_uv)
14353 #define TOPUV(ss,ix)    ((ss)[ix].any_uv)
14354 #define POPBOOL(ss,ix)  ((ss)[--(ix)].any_bool)
14355 #define TOPBOOL(ss,ix)  ((ss)[ix].any_bool)
14356 #define POPPTR(ss,ix)   ((ss)[--(ix)].any_ptr)
14357 #define TOPPTR(ss,ix)   ((ss)[ix].any_ptr)
14358 #define POPDPTR(ss,ix)  ((ss)[--(ix)].any_dptr)
14359 #define TOPDPTR(ss,ix)  ((ss)[ix].any_dptr)
14360 #define POPDXPTR(ss,ix) ((ss)[--(ix)].any_dxptr)
14361 #define TOPDXPTR(ss,ix) ((ss)[ix].any_dxptr)
14362
14363 /* XXXXX todo */
14364 #define pv_dup_inc(p)   SAVEPV(p)
14365 #define pv_dup(p)       SAVEPV(p)
14366 #define svp_dup_inc(p,pp)       any_dup(p,pp)
14367
14368 /* map any object to the new equivent - either something in the
14369  * ptr table, or something in the interpreter structure
14370  */
14371
14372 void *
14373 Perl_any_dup(pTHX_ void *v, const PerlInterpreter *proto_perl)
14374 {
14375     void *ret;
14376
14377     PERL_ARGS_ASSERT_ANY_DUP;
14378
14379     if (!v)
14380         return (void*)NULL;
14381
14382     /* look for it in the table first */
14383     ret = ptr_table_fetch(PL_ptr_table, v);
14384     if (ret)
14385         return ret;
14386
14387     /* see if it is part of the interpreter structure */
14388     if (v >= (void*)proto_perl && v < (void*)(proto_perl+1))
14389         ret = (void*)(((char*)aTHX) + (((char*)v) - (char*)proto_perl));
14390     else {
14391         ret = v;
14392     }
14393
14394     return ret;
14395 }
14396
14397 /* duplicate the save stack */
14398
14399 ANY *
14400 Perl_ss_dup(pTHX_ PerlInterpreter *proto_perl, CLONE_PARAMS* param)
14401 {
14402     dVAR;
14403     ANY * const ss      = proto_perl->Isavestack;
14404     const I32 max       = proto_perl->Isavestack_max + SS_MAXPUSH;
14405     I32 ix              = proto_perl->Isavestack_ix;
14406     ANY *nss;
14407     const SV *sv;
14408     const GV *gv;
14409     const AV *av;
14410     const HV *hv;
14411     void* ptr;
14412     int intval;
14413     long longval;
14414     GP *gp;
14415     IV iv;
14416     I32 i;
14417     char *c = NULL;
14418     void (*dptr) (void*);
14419     void (*dxptr) (pTHX_ void*);
14420
14421     PERL_ARGS_ASSERT_SS_DUP;
14422
14423     Newxz(nss, max, ANY);
14424
14425     while (ix > 0) {
14426         const UV uv = POPUV(ss,ix);
14427         const U8 type = (U8)uv & SAVE_MASK;
14428
14429         TOPUV(nss,ix) = uv;
14430         switch (type) {
14431         case SAVEt_CLEARSV:
14432         case SAVEt_CLEARPADRANGE:
14433             break;
14434         case SAVEt_HELEM:               /* hash element */
14435         case SAVEt_SV:                  /* scalar reference */
14436             sv = (const SV *)POPPTR(ss,ix);
14437             TOPPTR(nss,ix) = SvREFCNT_inc(sv_dup_inc(sv, param));
14438             /* FALLTHROUGH */
14439         case SAVEt_ITEM:                        /* normal string */
14440         case SAVEt_GVSV:                        /* scalar slot in GV */
14441             sv = (const SV *)POPPTR(ss,ix);
14442             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14443             if (type == SAVEt_SV)
14444                 break;
14445             /* FALLTHROUGH */
14446         case SAVEt_FREESV:
14447         case SAVEt_MORTALIZESV:
14448         case SAVEt_READONLY_OFF:
14449             sv = (const SV *)POPPTR(ss,ix);
14450             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14451             break;
14452         case SAVEt_FREEPADNAME:
14453             ptr = POPPTR(ss,ix);
14454             TOPPTR(nss,ix) = padname_dup((PADNAME *)ptr, param);
14455             PadnameREFCNT((PADNAME *)TOPPTR(nss,ix))++;
14456             break;
14457         case SAVEt_SHARED_PVREF:                /* char* in shared space */
14458             c = (char*)POPPTR(ss,ix);
14459             TOPPTR(nss,ix) = savesharedpv(c);
14460             ptr = POPPTR(ss,ix);
14461             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14462             break;
14463         case SAVEt_GENERIC_SVREF:               /* generic sv */
14464         case SAVEt_SVREF:                       /* scalar reference */
14465             sv = (const SV *)POPPTR(ss,ix);
14466             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14467             if (type == SAVEt_SVREF)
14468                 SvREFCNT_inc_simple_void((SV *)TOPPTR(nss,ix));
14469             ptr = POPPTR(ss,ix);
14470             TOPPTR(nss,ix) = svp_dup_inc((SV**)ptr, proto_perl);/* XXXXX */
14471             break;
14472         case SAVEt_GVSLOT:              /* any slot in GV */
14473             sv = (const SV *)POPPTR(ss,ix);
14474             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14475             ptr = POPPTR(ss,ix);
14476             TOPPTR(nss,ix) = svp_dup_inc((SV**)ptr, proto_perl);/* XXXXX */
14477             sv = (const SV *)POPPTR(ss,ix);
14478             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14479             break;
14480         case SAVEt_HV:                          /* hash reference */
14481         case SAVEt_AV:                          /* array reference */
14482             sv = (const SV *) POPPTR(ss,ix);
14483             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14484             /* FALLTHROUGH */
14485         case SAVEt_COMPPAD:
14486         case SAVEt_NSTAB:
14487             sv = (const SV *) POPPTR(ss,ix);
14488             TOPPTR(nss,ix) = sv_dup(sv, param);
14489             break;
14490         case SAVEt_INT:                         /* int reference */
14491             ptr = POPPTR(ss,ix);
14492             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14493             intval = (int)POPINT(ss,ix);
14494             TOPINT(nss,ix) = intval;
14495             break;
14496         case SAVEt_LONG:                        /* long reference */
14497             ptr = POPPTR(ss,ix);
14498             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14499             longval = (long)POPLONG(ss,ix);
14500             TOPLONG(nss,ix) = longval;
14501             break;
14502         case SAVEt_I32:                         /* I32 reference */
14503             ptr = POPPTR(ss,ix);
14504             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14505             i = POPINT(ss,ix);
14506             TOPINT(nss,ix) = i;
14507             break;
14508         case SAVEt_IV:                          /* IV reference */
14509         case SAVEt_STRLEN:                      /* STRLEN/size_t ref */
14510             ptr = POPPTR(ss,ix);
14511             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14512             iv = POPIV(ss,ix);
14513             TOPIV(nss,ix) = iv;
14514             break;
14515         case SAVEt_TMPSFLOOR:
14516             iv = POPIV(ss,ix);
14517             TOPIV(nss,ix) = iv;
14518             break;
14519         case SAVEt_HPTR:                        /* HV* reference */
14520         case SAVEt_APTR:                        /* AV* reference */
14521         case SAVEt_SPTR:                        /* SV* reference */
14522             ptr = POPPTR(ss,ix);
14523             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14524             sv = (const SV *)POPPTR(ss,ix);
14525             TOPPTR(nss,ix) = sv_dup(sv, param);
14526             break;
14527         case SAVEt_VPTR:                        /* random* reference */
14528             ptr = POPPTR(ss,ix);
14529             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14530             /* FALLTHROUGH */
14531         case SAVEt_INT_SMALL:
14532         case SAVEt_I32_SMALL:
14533         case SAVEt_I16:                         /* I16 reference */
14534         case SAVEt_I8:                          /* I8 reference */
14535         case SAVEt_BOOL:
14536             ptr = POPPTR(ss,ix);
14537             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14538             break;
14539         case SAVEt_GENERIC_PVREF:               /* generic char* */
14540         case SAVEt_PPTR:                        /* char* reference */
14541             ptr = POPPTR(ss,ix);
14542             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14543             c = (char*)POPPTR(ss,ix);
14544             TOPPTR(nss,ix) = pv_dup(c);
14545             break;
14546         case SAVEt_GP:                          /* scalar reference */
14547             gp = (GP*)POPPTR(ss,ix);
14548             TOPPTR(nss,ix) = gp = gp_dup(gp, param);
14549             (void)GpREFCNT_inc(gp);
14550             gv = (const GV *)POPPTR(ss,ix);
14551             TOPPTR(nss,ix) = gv_dup_inc(gv, param);
14552             break;
14553         case SAVEt_FREEOP:
14554             ptr = POPPTR(ss,ix);
14555             if (ptr && (((OP*)ptr)->op_private & OPpREFCOUNTED)) {
14556                 /* these are assumed to be refcounted properly */
14557                 OP *o;
14558                 switch (((OP*)ptr)->op_type) {
14559                 case OP_LEAVESUB:
14560                 case OP_LEAVESUBLV:
14561                 case OP_LEAVEEVAL:
14562                 case OP_LEAVE:
14563                 case OP_SCOPE:
14564                 case OP_LEAVEWRITE:
14565                     TOPPTR(nss,ix) = ptr;
14566                     o = (OP*)ptr;
14567                     OP_REFCNT_LOCK;
14568                     (void) OpREFCNT_inc(o);
14569                     OP_REFCNT_UNLOCK;
14570                     break;
14571                 default:
14572                     TOPPTR(nss,ix) = NULL;
14573                     break;
14574                 }
14575             }
14576             else
14577                 TOPPTR(nss,ix) = NULL;
14578             break;
14579         case SAVEt_FREECOPHH:
14580             ptr = POPPTR(ss,ix);
14581             TOPPTR(nss,ix) = cophh_copy((COPHH *)ptr);
14582             break;
14583         case SAVEt_ADELETE:
14584             av = (const AV *)POPPTR(ss,ix);
14585             TOPPTR(nss,ix) = av_dup_inc(av, param);
14586             i = POPINT(ss,ix);
14587             TOPINT(nss,ix) = i;
14588             break;
14589         case SAVEt_DELETE:
14590             hv = (const HV *)POPPTR(ss,ix);
14591             TOPPTR(nss,ix) = hv_dup_inc(hv, param);
14592             i = POPINT(ss,ix);
14593             TOPINT(nss,ix) = i;
14594             /* FALLTHROUGH */
14595         case SAVEt_FREEPV:
14596             c = (char*)POPPTR(ss,ix);
14597             TOPPTR(nss,ix) = pv_dup_inc(c);
14598             break;
14599         case SAVEt_STACK_POS:           /* Position on Perl stack */
14600             i = POPINT(ss,ix);
14601             TOPINT(nss,ix) = i;
14602             break;
14603         case SAVEt_DESTRUCTOR:
14604             ptr = POPPTR(ss,ix);
14605             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);  /* XXX quite arbitrary */
14606             dptr = POPDPTR(ss,ix);
14607             TOPDPTR(nss,ix) = DPTR2FPTR(void (*)(void*),
14608                                         any_dup(FPTR2DPTR(void *, dptr),
14609                                                 proto_perl));
14610             break;
14611         case SAVEt_DESTRUCTOR_X:
14612             ptr = POPPTR(ss,ix);
14613             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);  /* XXX quite arbitrary */
14614             dxptr = POPDXPTR(ss,ix);
14615             TOPDXPTR(nss,ix) = DPTR2FPTR(void (*)(pTHX_ void*),
14616                                          any_dup(FPTR2DPTR(void *, dxptr),
14617                                                  proto_perl));
14618             break;
14619         case SAVEt_REGCONTEXT:
14620         case SAVEt_ALLOC:
14621             ix -= uv >> SAVE_TIGHT_SHIFT;
14622             break;
14623         case SAVEt_AELEM:               /* array element */
14624             sv = (const SV *)POPPTR(ss,ix);
14625             TOPPTR(nss,ix) = SvREFCNT_inc(sv_dup_inc(sv, param));
14626             i = POPINT(ss,ix);
14627             TOPINT(nss,ix) = i;
14628             av = (const AV *)POPPTR(ss,ix);
14629             TOPPTR(nss,ix) = av_dup_inc(av, param);
14630             break;
14631         case SAVEt_OP:
14632             ptr = POPPTR(ss,ix);
14633             TOPPTR(nss,ix) = ptr;
14634             break;
14635         case SAVEt_HINTS:
14636             ptr = POPPTR(ss,ix);
14637             ptr = cophh_copy((COPHH*)ptr);
14638             TOPPTR(nss,ix) = ptr;
14639             i = POPINT(ss,ix);
14640             TOPINT(nss,ix) = i;
14641             if (i & HINT_LOCALIZE_HH) {
14642                 hv = (const HV *)POPPTR(ss,ix);
14643                 TOPPTR(nss,ix) = hv_dup_inc(hv, param);
14644             }
14645             break;
14646         case SAVEt_PADSV_AND_MORTALIZE:
14647             longval = (long)POPLONG(ss,ix);
14648             TOPLONG(nss,ix) = longval;
14649             ptr = POPPTR(ss,ix);
14650             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14651             sv = (const SV *)POPPTR(ss,ix);
14652             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14653             break;
14654         case SAVEt_SET_SVFLAGS:
14655             i = POPINT(ss,ix);
14656             TOPINT(nss,ix) = i;
14657             i = POPINT(ss,ix);
14658             TOPINT(nss,ix) = i;
14659             sv = (const SV *)POPPTR(ss,ix);
14660             TOPPTR(nss,ix) = sv_dup(sv, param);
14661             break;
14662         case SAVEt_COMPILE_WARNINGS:
14663             ptr = POPPTR(ss,ix);
14664             TOPPTR(nss,ix) = DUP_WARNINGS((STRLEN*)ptr);
14665             break;
14666         case SAVEt_PARSER:
14667             ptr = POPPTR(ss,ix);
14668             TOPPTR(nss,ix) = parser_dup((const yy_parser*)ptr, param);
14669             break;
14670         default:
14671             Perl_croak(aTHX_
14672                        "panic: ss_dup inconsistency (%" IVdf ")", (IV) type);
14673         }
14674     }
14675
14676     return nss;
14677 }
14678
14679
14680 /* if sv is a stash, call $class->CLONE_SKIP(), and set the SVphv_CLONEABLE
14681  * flag to the result. This is done for each stash before cloning starts,
14682  * so we know which stashes want their objects cloned */
14683
14684 static void
14685 do_mark_cloneable_stash(pTHX_ SV *const sv)
14686 {
14687     const HEK * const hvname = HvNAME_HEK((const HV *)sv);
14688     if (hvname) {
14689         GV* const cloner = gv_fetchmethod_autoload(MUTABLE_HV(sv), "CLONE_SKIP", 0);
14690         SvFLAGS(sv) |= SVphv_CLONEABLE; /* clone objects by default */
14691         if (cloner && GvCV(cloner)) {
14692             dSP;
14693             UV status;
14694
14695             ENTER;
14696             SAVETMPS;
14697             PUSHMARK(SP);
14698             mXPUSHs(newSVhek(hvname));
14699             PUTBACK;
14700             call_sv(MUTABLE_SV(GvCV(cloner)), G_SCALAR);
14701             SPAGAIN;
14702             status = POPu;
14703             PUTBACK;
14704             FREETMPS;
14705             LEAVE;
14706             if (status)
14707                 SvFLAGS(sv) &= ~SVphv_CLONEABLE;
14708         }
14709     }
14710 }
14711
14712
14713
14714 /*
14715 =for apidoc perl_clone
14716
14717 Create and return a new interpreter by cloning the current one.
14718
14719 C<perl_clone> takes these flags as parameters:
14720
14721 C<CLONEf_COPY_STACKS> - is used to, well, copy the stacks also,
14722 without it we only clone the data and zero the stacks,
14723 with it we copy the stacks and the new perl interpreter is
14724 ready to run at the exact same point as the previous one.
14725 The pseudo-fork code uses C<COPY_STACKS> while the
14726 threads->create doesn't.
14727
14728 C<CLONEf_KEEP_PTR_TABLE> -
14729 C<perl_clone> keeps a ptr_table with the pointer of the old
14730 variable as a key and the new variable as a value,
14731 this allows it to check if something has been cloned and not
14732 clone it again but rather just use the value and increase the
14733 refcount.  If C<KEEP_PTR_TABLE> is not set then C<perl_clone> will kill
14734 the ptr_table using the function
14735 C<ptr_table_free(PL_ptr_table); PL_ptr_table = NULL;>,
14736 reason to keep it around is if you want to dup some of your own
14737 variable who are outside the graph perl scans, an example of this
14738 code is in F<threads.xs> create.
14739
14740 C<CLONEf_CLONE_HOST> -
14741 This is a win32 thing, it is ignored on unix, it tells perls
14742 win32host code (which is c++) to clone itself, this is needed on
14743 win32 if you want to run two threads at the same time,
14744 if you just want to do some stuff in a separate perl interpreter
14745 and then throw it away and return to the original one,
14746 you don't need to do anything.
14747
14748 =cut
14749 */
14750
14751 /* XXX the above needs expanding by someone who actually understands it ! */
14752 EXTERN_C PerlInterpreter *
14753 perl_clone_host(PerlInterpreter* proto_perl, UV flags);
14754
14755 PerlInterpreter *
14756 perl_clone(PerlInterpreter *proto_perl, UV flags)
14757 {
14758    dVAR;
14759 #ifdef PERL_IMPLICIT_SYS
14760
14761     PERL_ARGS_ASSERT_PERL_CLONE;
14762
14763    /* perlhost.h so we need to call into it
14764    to clone the host, CPerlHost should have a c interface, sky */
14765
14766 #ifndef __amigaos4__
14767    if (flags & CLONEf_CLONE_HOST) {
14768        return perl_clone_host(proto_perl,flags);
14769    }
14770 #endif
14771    return perl_clone_using(proto_perl, flags,
14772                             proto_perl->IMem,
14773                             proto_perl->IMemShared,
14774                             proto_perl->IMemParse,
14775                             proto_perl->IEnv,
14776                             proto_perl->IStdIO,
14777                             proto_perl->ILIO,
14778                             proto_perl->IDir,
14779                             proto_perl->ISock,
14780                             proto_perl->IProc);
14781 }
14782
14783 PerlInterpreter *
14784 perl_clone_using(PerlInterpreter *proto_perl, UV flags,
14785                  struct IPerlMem* ipM, struct IPerlMem* ipMS,
14786                  struct IPerlMem* ipMP, struct IPerlEnv* ipE,
14787                  struct IPerlStdIO* ipStd, struct IPerlLIO* ipLIO,
14788                  struct IPerlDir* ipD, struct IPerlSock* ipS,
14789                  struct IPerlProc* ipP)
14790 {
14791     /* XXX many of the string copies here can be optimized if they're
14792      * constants; they need to be allocated as common memory and just
14793      * their pointers copied. */
14794
14795     IV i;
14796     CLONE_PARAMS clone_params;
14797     CLONE_PARAMS* const param = &clone_params;
14798
14799     PerlInterpreter * const my_perl = (PerlInterpreter*)(*ipM->pMalloc)(ipM, sizeof(PerlInterpreter));
14800
14801     PERL_ARGS_ASSERT_PERL_CLONE_USING;
14802 #else           /* !PERL_IMPLICIT_SYS */
14803     IV i;
14804     CLONE_PARAMS clone_params;
14805     CLONE_PARAMS* param = &clone_params;
14806     PerlInterpreter * const my_perl = (PerlInterpreter*)PerlMem_malloc(sizeof(PerlInterpreter));
14807
14808     PERL_ARGS_ASSERT_PERL_CLONE;
14809 #endif          /* PERL_IMPLICIT_SYS */
14810
14811     /* for each stash, determine whether its objects should be cloned */
14812     S_visit(proto_perl, do_mark_cloneable_stash, SVt_PVHV, SVTYPEMASK);
14813     PERL_SET_THX(my_perl);
14814
14815 #ifdef DEBUGGING
14816     PoisonNew(my_perl, 1, PerlInterpreter);
14817     PL_op = NULL;
14818     PL_curcop = NULL;
14819     PL_defstash = NULL; /* may be used by perl malloc() */
14820     PL_markstack = 0;
14821     PL_scopestack = 0;
14822     PL_scopestack_name = 0;
14823     PL_savestack = 0;
14824     PL_savestack_ix = 0;
14825     PL_savestack_max = -1;
14826     PL_sig_pending = 0;
14827     PL_parser = NULL;
14828     Zero(&PL_debug_pad, 1, struct perl_debug_pad);
14829     Zero(&PL_padname_undef, 1, PADNAME);
14830     Zero(&PL_padname_const, 1, PADNAME);
14831 #  ifdef DEBUG_LEAKING_SCALARS
14832     PL_sv_serial = (((UV)my_perl >> 2) & 0xfff) * 1000000;
14833 #  endif
14834 #  ifdef PERL_TRACE_OPS
14835     Zero(PL_op_exec_cnt, OP_max+2, UV);
14836 #  endif
14837 #else   /* !DEBUGGING */
14838     Zero(my_perl, 1, PerlInterpreter);
14839 #endif  /* DEBUGGING */
14840
14841 #ifdef PERL_IMPLICIT_SYS
14842     /* host pointers */
14843     PL_Mem              = ipM;
14844     PL_MemShared        = ipMS;
14845     PL_MemParse         = ipMP;
14846     PL_Env              = ipE;
14847     PL_StdIO            = ipStd;
14848     PL_LIO              = ipLIO;
14849     PL_Dir              = ipD;
14850     PL_Sock             = ipS;
14851     PL_Proc             = ipP;
14852 #endif          /* PERL_IMPLICIT_SYS */
14853
14854
14855     param->flags = flags;
14856     /* Nothing in the core code uses this, but we make it available to
14857        extensions (using mg_dup).  */
14858     param->proto_perl = proto_perl;
14859     /* Likely nothing will use this, but it is initialised to be consistent
14860        with Perl_clone_params_new().  */
14861     param->new_perl = my_perl;
14862     param->unreferenced = NULL;
14863
14864
14865     INIT_TRACK_MEMPOOL(my_perl->Imemory_debug_header, my_perl);
14866
14867     PL_body_arenas = NULL;
14868     Zero(&PL_body_roots, 1, PL_body_roots);
14869     
14870     PL_sv_count         = 0;
14871     PL_sv_root          = NULL;
14872     PL_sv_arenaroot     = NULL;
14873
14874     PL_debug            = proto_perl->Idebug;
14875
14876     /* dbargs array probably holds garbage */
14877     PL_dbargs           = NULL;
14878
14879     PL_compiling = proto_perl->Icompiling;
14880
14881     /* pseudo environmental stuff */
14882     PL_origargc         = proto_perl->Iorigargc;
14883     PL_origargv         = proto_perl->Iorigargv;
14884
14885 #ifndef NO_TAINT_SUPPORT
14886     /* Set tainting stuff before PerlIO_debug can possibly get called */
14887     PL_tainting         = proto_perl->Itainting;
14888     PL_taint_warn       = proto_perl->Itaint_warn;
14889 #else
14890     PL_tainting         = FALSE;
14891     PL_taint_warn       = FALSE;
14892 #endif
14893
14894     PL_minus_c          = proto_perl->Iminus_c;
14895
14896     PL_localpatches     = proto_perl->Ilocalpatches;
14897     PL_splitstr         = proto_perl->Isplitstr;
14898     PL_minus_n          = proto_perl->Iminus_n;
14899     PL_minus_p          = proto_perl->Iminus_p;
14900     PL_minus_l          = proto_perl->Iminus_l;
14901     PL_minus_a          = proto_perl->Iminus_a;
14902     PL_minus_E          = proto_perl->Iminus_E;
14903     PL_minus_F          = proto_perl->Iminus_F;
14904     PL_doswitches       = proto_perl->Idoswitches;
14905     PL_dowarn           = proto_perl->Idowarn;
14906 #ifdef PERL_SAWAMPERSAND
14907     PL_sawampersand     = proto_perl->Isawampersand;
14908 #endif
14909     PL_unsafe           = proto_perl->Iunsafe;
14910     PL_perldb           = proto_perl->Iperldb;
14911     PL_perl_destruct_level = proto_perl->Iperl_destruct_level;
14912     PL_exit_flags       = proto_perl->Iexit_flags;
14913
14914     /* XXX time(&PL_basetime) when asked for? */
14915     PL_basetime         = proto_perl->Ibasetime;
14916
14917     PL_maxsysfd         = proto_perl->Imaxsysfd;
14918     PL_statusvalue      = proto_perl->Istatusvalue;
14919 #ifdef __VMS
14920     PL_statusvalue_vms  = proto_perl->Istatusvalue_vms;
14921 #else
14922     PL_statusvalue_posix = proto_perl->Istatusvalue_posix;
14923 #endif
14924
14925     /* RE engine related */
14926     PL_regmatch_slab    = NULL;
14927     PL_reg_curpm        = NULL;
14928
14929     PL_sub_generation   = proto_perl->Isub_generation;
14930
14931     /* funky return mechanisms */
14932     PL_forkprocess      = proto_perl->Iforkprocess;
14933
14934     /* internal state */
14935     PL_main_start       = proto_perl->Imain_start;
14936     PL_eval_root        = proto_perl->Ieval_root;
14937     PL_eval_start       = proto_perl->Ieval_start;
14938
14939     PL_filemode         = proto_perl->Ifilemode;
14940     PL_lastfd           = proto_perl->Ilastfd;
14941     PL_oldname          = proto_perl->Ioldname;         /* XXX not quite right */
14942     PL_Argv             = NULL;
14943     PL_Cmd              = NULL;
14944     PL_gensym           = proto_perl->Igensym;
14945
14946     PL_laststatval      = proto_perl->Ilaststatval;
14947     PL_laststype        = proto_perl->Ilaststype;
14948     PL_mess_sv          = NULL;
14949
14950     PL_profiledata      = NULL;
14951
14952     PL_generation       = proto_perl->Igeneration;
14953
14954     PL_in_clean_objs    = proto_perl->Iin_clean_objs;
14955     PL_in_clean_all     = proto_perl->Iin_clean_all;
14956
14957     PL_delaymagic_uid   = proto_perl->Idelaymagic_uid;
14958     PL_delaymagic_euid  = proto_perl->Idelaymagic_euid;
14959     PL_delaymagic_gid   = proto_perl->Idelaymagic_gid;
14960     PL_delaymagic_egid  = proto_perl->Idelaymagic_egid;
14961     PL_nomemok          = proto_perl->Inomemok;
14962     PL_an               = proto_perl->Ian;
14963     PL_evalseq          = proto_perl->Ievalseq;
14964     PL_origenviron      = proto_perl->Iorigenviron;     /* XXX not quite right */
14965     PL_origalen         = proto_perl->Iorigalen;
14966
14967     PL_sighandlerp      = proto_perl->Isighandlerp;
14968
14969     PL_runops           = proto_perl->Irunops;
14970
14971     PL_subline          = proto_perl->Isubline;
14972
14973     PL_cv_has_eval      = proto_perl->Icv_has_eval;
14974
14975 #ifdef FCRYPT
14976     PL_cryptseen        = proto_perl->Icryptseen;
14977 #endif
14978
14979 #ifdef USE_LOCALE_COLLATE
14980     PL_collation_ix     = proto_perl->Icollation_ix;
14981     PL_collation_standard       = proto_perl->Icollation_standard;
14982     PL_collxfrm_base    = proto_perl->Icollxfrm_base;
14983     PL_collxfrm_mult    = proto_perl->Icollxfrm_mult;
14984     PL_strxfrm_max_cp   = proto_perl->Istrxfrm_max_cp;
14985 #endif /* USE_LOCALE_COLLATE */
14986
14987 #ifdef USE_LOCALE_NUMERIC
14988     PL_numeric_standard = proto_perl->Inumeric_standard;
14989     PL_numeric_local    = proto_perl->Inumeric_local;
14990 #endif /* !USE_LOCALE_NUMERIC */
14991
14992     /* Did the locale setup indicate UTF-8? */
14993     PL_utf8locale       = proto_perl->Iutf8locale;
14994     PL_in_utf8_CTYPE_locale = proto_perl->Iin_utf8_CTYPE_locale;
14995     PL_in_utf8_COLLATE_locale = proto_perl->Iin_utf8_COLLATE_locale;
14996     /* Unicode features (see perlrun/-C) */
14997     PL_unicode          = proto_perl->Iunicode;
14998
14999     /* Pre-5.8 signals control */
15000     PL_signals          = proto_perl->Isignals;
15001
15002     /* times() ticks per second */
15003     PL_clocktick        = proto_perl->Iclocktick;
15004
15005     /* Recursion stopper for PerlIO_find_layer */
15006     PL_in_load_module   = proto_perl->Iin_load_module;
15007
15008     /* sort() routine */
15009     PL_sort_RealCmp     = proto_perl->Isort_RealCmp;
15010
15011     /* Not really needed/useful since the reenrant_retint is "volatile",
15012      * but do it for consistency's sake. */
15013     PL_reentrant_retint = proto_perl->Ireentrant_retint;
15014
15015     /* Hooks to shared SVs and locks. */
15016     PL_sharehook        = proto_perl->Isharehook;
15017     PL_lockhook         = proto_perl->Ilockhook;
15018     PL_unlockhook       = proto_perl->Iunlockhook;
15019     PL_threadhook       = proto_perl->Ithreadhook;
15020     PL_destroyhook      = proto_perl->Idestroyhook;
15021     PL_signalhook       = proto_perl->Isignalhook;
15022
15023     PL_globhook         = proto_perl->Iglobhook;
15024
15025     /* swatch cache */
15026     PL_last_swash_hv    = NULL; /* reinits on demand */
15027     PL_last_swash_klen  = 0;
15028     PL_last_swash_key[0]= '\0';
15029     PL_last_swash_tmps  = (U8*)NULL;
15030     PL_last_swash_slen  = 0;
15031
15032     PL_srand_called     = proto_perl->Isrand_called;
15033     Copy(&(proto_perl->Irandom_state), &PL_random_state, 1, PL_RANDOM_STATE_TYPE);
15034
15035     if (flags & CLONEf_COPY_STACKS) {
15036         /* next allocation will be PL_tmps_stack[PL_tmps_ix+1] */
15037         PL_tmps_ix              = proto_perl->Itmps_ix;
15038         PL_tmps_max             = proto_perl->Itmps_max;
15039         PL_tmps_floor           = proto_perl->Itmps_floor;
15040
15041         /* next push_scope()/ENTER sets PL_scopestack[PL_scopestack_ix]
15042          * NOTE: unlike the others! */
15043         PL_scopestack_ix        = proto_perl->Iscopestack_ix;
15044         PL_scopestack_max       = proto_perl->Iscopestack_max;
15045
15046         /* next SSPUSHFOO() sets PL_savestack[PL_savestack_ix]
15047          * NOTE: unlike the others! */
15048         PL_savestack_ix         = proto_perl->Isavestack_ix;
15049         PL_savestack_max        = proto_perl->Isavestack_max;
15050     }
15051
15052     PL_start_env        = proto_perl->Istart_env;       /* XXXXXX */
15053     PL_top_env          = &PL_start_env;
15054
15055     PL_op               = proto_perl->Iop;
15056
15057     PL_Sv               = NULL;
15058     PL_Xpv              = (XPV*)NULL;
15059     my_perl->Ina        = proto_perl->Ina;
15060
15061     PL_statbuf          = proto_perl->Istatbuf;
15062     PL_statcache        = proto_perl->Istatcache;
15063
15064 #ifndef NO_TAINT_SUPPORT
15065     PL_tainted          = proto_perl->Itainted;
15066 #else
15067     PL_tainted          = FALSE;
15068 #endif
15069     PL_curpm            = proto_perl->Icurpm;   /* XXX No PMOP ref count */
15070
15071     PL_chopset          = proto_perl->Ichopset; /* XXX never deallocated */
15072
15073     PL_restartjmpenv    = proto_perl->Irestartjmpenv;
15074     PL_restartop        = proto_perl->Irestartop;
15075     PL_in_eval          = proto_perl->Iin_eval;
15076     PL_delaymagic       = proto_perl->Idelaymagic;
15077     PL_phase            = proto_perl->Iphase;
15078     PL_localizing       = proto_perl->Ilocalizing;
15079
15080     PL_hv_fetch_ent_mh  = NULL;
15081     PL_modcount         = proto_perl->Imodcount;
15082     PL_lastgotoprobe    = NULL;
15083     PL_dumpindent       = proto_perl->Idumpindent;
15084
15085     PL_efloatbuf        = NULL;         /* reinits on demand */
15086     PL_efloatsize       = 0;                    /* reinits on demand */
15087
15088     /* regex stuff */
15089
15090     PL_colorset         = 0;            /* reinits PL_colors[] */
15091     /*PL_colors[6]      = {0,0,0,0,0,0};*/
15092
15093     /* Pluggable optimizer */
15094     PL_peepp            = proto_perl->Ipeepp;
15095     PL_rpeepp           = proto_perl->Irpeepp;
15096     /* op_free() hook */
15097     PL_opfreehook       = proto_perl->Iopfreehook;
15098
15099 #ifdef USE_REENTRANT_API
15100     /* XXX: things like -Dm will segfault here in perlio, but doing
15101      *  PERL_SET_CONTEXT(proto_perl);
15102      * breaks too many other things
15103      */
15104     Perl_reentrant_init(aTHX);
15105 #endif
15106
15107     /* create SV map for pointer relocation */
15108     PL_ptr_table = ptr_table_new();
15109
15110     /* initialize these special pointers as early as possible */
15111     init_constants();
15112     ptr_table_store(PL_ptr_table, &proto_perl->Isv_undef, &PL_sv_undef);
15113     ptr_table_store(PL_ptr_table, &proto_perl->Isv_no, &PL_sv_no);
15114     ptr_table_store(PL_ptr_table, &proto_perl->Isv_yes, &PL_sv_yes);
15115     ptr_table_store(PL_ptr_table, &proto_perl->Ipadname_const,
15116                     &PL_padname_const);
15117
15118     /* create (a non-shared!) shared string table */
15119     PL_strtab           = newHV();
15120     HvSHAREKEYS_off(PL_strtab);
15121     hv_ksplit(PL_strtab, HvTOTALKEYS(proto_perl->Istrtab));
15122     ptr_table_store(PL_ptr_table, proto_perl->Istrtab, PL_strtab);
15123
15124     Zero(PL_sv_consts, SV_CONSTS_COUNT, SV*);
15125
15126     /* This PV will be free'd special way so must set it same way op.c does */
15127     PL_compiling.cop_file    = savesharedpv(PL_compiling.cop_file);
15128     ptr_table_store(PL_ptr_table, proto_perl->Icompiling.cop_file, PL_compiling.cop_file);
15129
15130     ptr_table_store(PL_ptr_table, &proto_perl->Icompiling, &PL_compiling);
15131     PL_compiling.cop_warnings = DUP_WARNINGS(PL_compiling.cop_warnings);
15132     CopHINTHASH_set(&PL_compiling, cophh_copy(CopHINTHASH_get(&PL_compiling)));
15133     PL_curcop           = (COP*)any_dup(proto_perl->Icurcop, proto_perl);
15134
15135     param->stashes      = newAV();  /* Setup array of objects to call clone on */
15136     /* This makes no difference to the implementation, as it always pushes
15137        and shifts pointers to other SVs without changing their reference
15138        count, with the array becoming empty before it is freed. However, it
15139        makes it conceptually clear what is going on, and will avoid some
15140        work inside av.c, filling slots between AvFILL() and AvMAX() with
15141        &PL_sv_undef, and SvREFCNT_dec()ing those.  */
15142     AvREAL_off(param->stashes);
15143
15144     if (!(flags & CLONEf_COPY_STACKS)) {
15145         param->unreferenced = newAV();
15146     }
15147
15148 #ifdef PERLIO_LAYERS
15149     /* Clone PerlIO tables as soon as we can handle general xx_dup() */
15150     PerlIO_clone(aTHX_ proto_perl, param);
15151 #endif
15152
15153     PL_envgv            = gv_dup_inc(proto_perl->Ienvgv, param);
15154     PL_incgv            = gv_dup_inc(proto_perl->Iincgv, param);
15155     PL_hintgv           = gv_dup_inc(proto_perl->Ihintgv, param);
15156     PL_origfilename     = SAVEPV(proto_perl->Iorigfilename);
15157     PL_xsubfilename     = proto_perl->Ixsubfilename;
15158     PL_diehook          = sv_dup_inc(proto_perl->Idiehook, param);
15159     PL_warnhook         = sv_dup_inc(proto_perl->Iwarnhook, param);
15160
15161     /* switches */
15162     PL_patchlevel       = sv_dup_inc(proto_perl->Ipatchlevel, param);
15163     PL_inplace          = SAVEPV(proto_perl->Iinplace);
15164     PL_e_script         = sv_dup_inc(proto_perl->Ie_script, param);
15165
15166     /* magical thingies */
15167
15168     SvPVCLEAR(PERL_DEBUG_PAD(0));        /* For regex debugging. */
15169     SvPVCLEAR(PERL_DEBUG_PAD(1));        /* ext/re needs these */
15170     SvPVCLEAR(PERL_DEBUG_PAD(2));        /* even without DEBUGGING. */
15171
15172    
15173     /* Clone the regex array */
15174     /* ORANGE FIXME for plugins, probably in the SV dup code.
15175        newSViv(PTR2IV(CALLREGDUPE(
15176        INT2PTR(REGEXP *, SvIVX(regex)), param))))
15177     */
15178     PL_regex_padav = av_dup_inc(proto_perl->Iregex_padav, param);
15179     PL_regex_pad = AvARRAY(PL_regex_padav);
15180
15181     PL_stashpadmax      = proto_perl->Istashpadmax;
15182     PL_stashpadix       = proto_perl->Istashpadix ;
15183     Newx(PL_stashpad, PL_stashpadmax, HV *);
15184     {
15185         PADOFFSET o = 0;
15186         for (; o < PL_stashpadmax; ++o)
15187             PL_stashpad[o] = hv_dup(proto_perl->Istashpad[o], param);
15188     }
15189
15190     /* shortcuts to various I/O objects */
15191     PL_ofsgv            = gv_dup_inc(proto_perl->Iofsgv, param);
15192     PL_stdingv          = gv_dup(proto_perl->Istdingv, param);
15193     PL_stderrgv         = gv_dup(proto_perl->Istderrgv, param);
15194     PL_defgv            = gv_dup(proto_perl->Idefgv, param);
15195     PL_argvgv           = gv_dup_inc(proto_perl->Iargvgv, param);
15196     PL_argvoutgv        = gv_dup(proto_perl->Iargvoutgv, param);
15197     PL_argvout_stack    = av_dup_inc(proto_perl->Iargvout_stack, param);
15198
15199     /* shortcuts to regexp stuff */
15200     PL_replgv           = gv_dup_inc(proto_perl->Ireplgv, param);
15201
15202     /* shortcuts to misc objects */
15203     PL_errgv            = gv_dup(proto_perl->Ierrgv, param);
15204
15205     /* shortcuts to debugging objects */
15206     PL_DBgv             = gv_dup_inc(proto_perl->IDBgv, param);
15207     PL_DBline           = gv_dup_inc(proto_perl->IDBline, param);
15208     PL_DBsub            = gv_dup_inc(proto_perl->IDBsub, param);
15209     PL_DBsingle         = sv_dup(proto_perl->IDBsingle, param);
15210     PL_DBtrace          = sv_dup(proto_perl->IDBtrace, param);
15211     PL_DBsignal         = sv_dup(proto_perl->IDBsignal, param);
15212     Copy(proto_perl->IDBcontrol, PL_DBcontrol, DBVARMG_COUNT, IV);
15213
15214     /* symbol tables */
15215     PL_defstash         = hv_dup_inc(proto_perl->Idefstash, param);
15216     PL_curstash         = hv_dup_inc(proto_perl->Icurstash, param);
15217     PL_debstash         = hv_dup(proto_perl->Idebstash, param);
15218     PL_globalstash      = hv_dup(proto_perl->Iglobalstash, param);
15219     PL_curstname        = sv_dup_inc(proto_perl->Icurstname, param);
15220
15221     PL_beginav          = av_dup_inc(proto_perl->Ibeginav, param);
15222     PL_beginav_save     = av_dup_inc(proto_perl->Ibeginav_save, param);
15223     PL_checkav_save     = av_dup_inc(proto_perl->Icheckav_save, param);
15224     PL_unitcheckav      = av_dup_inc(proto_perl->Iunitcheckav, param);
15225     PL_unitcheckav_save = av_dup_inc(proto_perl->Iunitcheckav_save, param);
15226     PL_endav            = av_dup_inc(proto_perl->Iendav, param);
15227     PL_checkav          = av_dup_inc(proto_perl->Icheckav, param);
15228     PL_initav           = av_dup_inc(proto_perl->Iinitav, param);
15229     PL_savebegin        = proto_perl->Isavebegin;
15230
15231     PL_isarev           = hv_dup_inc(proto_perl->Iisarev, param);
15232
15233     /* subprocess state */
15234     PL_fdpid            = av_dup_inc(proto_perl->Ifdpid, param);
15235
15236     if (proto_perl->Iop_mask)
15237         PL_op_mask      = SAVEPVN(proto_perl->Iop_mask, PL_maxo);
15238     else
15239         PL_op_mask      = NULL;
15240     /* PL_asserting        = proto_perl->Iasserting; */
15241
15242     /* current interpreter roots */
15243     PL_main_cv          = cv_dup_inc(proto_perl->Imain_cv, param);
15244     OP_REFCNT_LOCK;
15245     PL_main_root        = OpREFCNT_inc(proto_perl->Imain_root);
15246     OP_REFCNT_UNLOCK;
15247
15248     /* runtime control stuff */
15249     PL_curcopdb         = (COP*)any_dup(proto_perl->Icurcopdb, proto_perl);
15250
15251     PL_preambleav       = av_dup_inc(proto_perl->Ipreambleav, param);
15252
15253     PL_ors_sv           = sv_dup_inc(proto_perl->Iors_sv, param);
15254
15255     /* interpreter atexit processing */
15256     PL_exitlistlen      = proto_perl->Iexitlistlen;
15257     if (PL_exitlistlen) {
15258         Newx(PL_exitlist, PL_exitlistlen, PerlExitListEntry);
15259         Copy(proto_perl->Iexitlist, PL_exitlist, PL_exitlistlen, PerlExitListEntry);
15260     }
15261     else
15262         PL_exitlist     = (PerlExitListEntry*)NULL;
15263
15264     PL_my_cxt_size = proto_perl->Imy_cxt_size;
15265     if (PL_my_cxt_size) {
15266         Newx(PL_my_cxt_list, PL_my_cxt_size, void *);
15267         Copy(proto_perl->Imy_cxt_list, PL_my_cxt_list, PL_my_cxt_size, void *);
15268 #ifdef PERL_GLOBAL_STRUCT_PRIVATE
15269         Newx(PL_my_cxt_keys, PL_my_cxt_size, const char *);
15270         Copy(proto_perl->Imy_cxt_keys, PL_my_cxt_keys, PL_my_cxt_size, char *);
15271 #endif
15272     }
15273     else {
15274         PL_my_cxt_list  = (void**)NULL;
15275 #ifdef PERL_GLOBAL_STRUCT_PRIVATE
15276         PL_my_cxt_keys  = (const char**)NULL;
15277 #endif
15278     }
15279     PL_modglobal        = hv_dup_inc(proto_perl->Imodglobal, param);
15280     PL_custom_op_names  = hv_dup_inc(proto_perl->Icustom_op_names,param);
15281     PL_custom_op_descs  = hv_dup_inc(proto_perl->Icustom_op_descs,param);
15282     PL_custom_ops       = hv_dup_inc(proto_perl->Icustom_ops, param);
15283
15284     PL_compcv                   = cv_dup(proto_perl->Icompcv, param);
15285
15286     PAD_CLONE_VARS(proto_perl, param);
15287
15288 #ifdef HAVE_INTERP_INTERN
15289     sys_intern_dup(&proto_perl->Isys_intern, &PL_sys_intern);
15290 #endif
15291
15292     PL_DBcv             = cv_dup(proto_perl->IDBcv, param);
15293
15294 #ifdef PERL_USES_PL_PIDSTATUS
15295     PL_pidstatus        = newHV();                      /* XXX flag for cloning? */
15296 #endif
15297     PL_osname           = SAVEPV(proto_perl->Iosname);
15298     PL_parser           = parser_dup(proto_perl->Iparser, param);
15299
15300     /* XXX this only works if the saved cop has already been cloned */
15301     if (proto_perl->Iparser) {
15302         PL_parser->saved_curcop = (COP*)any_dup(
15303                                     proto_perl->Iparser->saved_curcop,
15304                                     proto_perl);
15305     }
15306
15307     PL_subname          = sv_dup_inc(proto_perl->Isubname, param);
15308
15309 #ifdef USE_LOCALE_CTYPE
15310     /* Should we warn if uses locale? */
15311     PL_warn_locale      = sv_dup_inc(proto_perl->Iwarn_locale, param);
15312 #endif
15313
15314 #ifdef USE_LOCALE_COLLATE
15315     PL_collation_name   = SAVEPV(proto_perl->Icollation_name);
15316 #endif /* USE_LOCALE_COLLATE */
15317
15318 #ifdef USE_LOCALE_NUMERIC
15319     PL_numeric_name     = SAVEPV(proto_perl->Inumeric_name);
15320     PL_numeric_radix_sv = sv_dup_inc(proto_perl->Inumeric_radix_sv, param);
15321 #endif /* !USE_LOCALE_NUMERIC */
15322
15323     /* Unicode inversion lists */
15324     PL_Latin1           = sv_dup_inc(proto_perl->ILatin1, param);
15325     PL_UpperLatin1      = sv_dup_inc(proto_perl->IUpperLatin1, param);
15326     PL_AboveLatin1      = sv_dup_inc(proto_perl->IAboveLatin1, param);
15327     PL_InBitmap         = sv_dup_inc(proto_perl->IInBitmap, param);
15328
15329     PL_NonL1NonFinalFold = sv_dup_inc(proto_perl->INonL1NonFinalFold, param);
15330     PL_HasMultiCharFold = sv_dup_inc(proto_perl->IHasMultiCharFold, param);
15331
15332     /* utf8 character class swashes */
15333     for (i = 0; i < POSIX_SWASH_COUNT; i++) {
15334         PL_utf8_swash_ptrs[i] = sv_dup_inc(proto_perl->Iutf8_swash_ptrs[i], param);
15335     }
15336     for (i = 0; i < POSIX_CC_COUNT; i++) {
15337         PL_XPosix_ptrs[i] = sv_dup_inc(proto_perl->IXPosix_ptrs[i], param);
15338     }
15339     PL_GCB_invlist = sv_dup_inc(proto_perl->IGCB_invlist, param);
15340     PL_SB_invlist = sv_dup_inc(proto_perl->ISB_invlist, param);
15341     PL_WB_invlist = sv_dup_inc(proto_perl->IWB_invlist, param);
15342     PL_seen_deprecated_macro = hv_dup_inc(proto_perl->Iseen_deprecated_macro, param);
15343     PL_utf8_mark        = sv_dup_inc(proto_perl->Iutf8_mark, param);
15344     PL_utf8_toupper     = sv_dup_inc(proto_perl->Iutf8_toupper, param);
15345     PL_utf8_totitle     = sv_dup_inc(proto_perl->Iutf8_totitle, param);
15346     PL_utf8_tolower     = sv_dup_inc(proto_perl->Iutf8_tolower, param);
15347     PL_utf8_tofold      = sv_dup_inc(proto_perl->Iutf8_tofold, param);
15348     PL_utf8_idstart     = sv_dup_inc(proto_perl->Iutf8_idstart, param);
15349     PL_utf8_xidstart    = sv_dup_inc(proto_perl->Iutf8_xidstart, param);
15350     PL_utf8_perl_idstart = sv_dup_inc(proto_perl->Iutf8_perl_idstart, param);
15351     PL_utf8_perl_idcont = sv_dup_inc(proto_perl->Iutf8_perl_idcont, param);
15352     PL_utf8_idcont      = sv_dup_inc(proto_perl->Iutf8_idcont, param);
15353     PL_utf8_xidcont     = sv_dup_inc(proto_perl->Iutf8_xidcont, param);
15354     PL_utf8_foldable    = sv_dup_inc(proto_perl->Iutf8_foldable, param);
15355     PL_utf8_charname_begin = sv_dup_inc(proto_perl->Iutf8_charname_begin, param);
15356     PL_utf8_charname_continue = sv_dup_inc(proto_perl->Iutf8_charname_continue, param);
15357
15358     if (proto_perl->Ipsig_pend) {
15359         Newxz(PL_psig_pend, SIG_SIZE, int);
15360     }
15361     else {
15362         PL_psig_pend    = (int*)NULL;
15363     }
15364
15365     if (proto_perl->Ipsig_name) {
15366         Newx(PL_psig_name, 2 * SIG_SIZE, SV*);
15367         sv_dup_inc_multiple(proto_perl->Ipsig_name, PL_psig_name, 2 * SIG_SIZE,
15368                             param);
15369         PL_psig_ptr = PL_psig_name + SIG_SIZE;
15370     }
15371     else {
15372         PL_psig_ptr     = (SV**)NULL;
15373         PL_psig_name    = (SV**)NULL;
15374     }
15375
15376     if (flags & CLONEf_COPY_STACKS) {
15377         Newx(PL_tmps_stack, PL_tmps_max, SV*);
15378         sv_dup_inc_multiple(proto_perl->Itmps_stack, PL_tmps_stack,
15379                             PL_tmps_ix+1, param);
15380
15381         /* next PUSHMARK() sets *(PL_markstack_ptr+1) */
15382         i = proto_perl->Imarkstack_max - proto_perl->Imarkstack;
15383         Newxz(PL_markstack, i, I32);
15384         PL_markstack_max        = PL_markstack + (proto_perl->Imarkstack_max
15385                                                   - proto_perl->Imarkstack);
15386         PL_markstack_ptr        = PL_markstack + (proto_perl->Imarkstack_ptr
15387                                                   - proto_perl->Imarkstack);
15388         Copy(proto_perl->Imarkstack, PL_markstack,
15389              PL_markstack_ptr - PL_markstack + 1, I32);
15390
15391         /* next push_scope()/ENTER sets PL_scopestack[PL_scopestack_ix]
15392          * NOTE: unlike the others! */
15393         Newxz(PL_scopestack, PL_scopestack_max, I32);
15394         Copy(proto_perl->Iscopestack, PL_scopestack, PL_scopestack_ix, I32);
15395
15396 #ifdef DEBUGGING
15397         Newxz(PL_scopestack_name, PL_scopestack_max, const char *);
15398         Copy(proto_perl->Iscopestack_name, PL_scopestack_name, PL_scopestack_ix, const char *);
15399 #endif
15400         /* reset stack AV to correct length before its duped via
15401          * PL_curstackinfo */
15402         AvFILLp(proto_perl->Icurstack) =
15403                             proto_perl->Istack_sp - proto_perl->Istack_base;
15404
15405         /* NOTE: si_dup() looks at PL_markstack */
15406         PL_curstackinfo         = si_dup(proto_perl->Icurstackinfo, param);
15407
15408         /* PL_curstack          = PL_curstackinfo->si_stack; */
15409         PL_curstack             = av_dup(proto_perl->Icurstack, param);
15410         PL_mainstack            = av_dup(proto_perl->Imainstack, param);
15411
15412         /* next PUSHs() etc. set *(PL_stack_sp+1) */
15413         PL_stack_base           = AvARRAY(PL_curstack);
15414         PL_stack_sp             = PL_stack_base + (proto_perl->Istack_sp
15415                                                    - proto_perl->Istack_base);
15416         PL_stack_max            = PL_stack_base + AvMAX(PL_curstack);
15417
15418         /*Newxz(PL_savestack, PL_savestack_max, ANY);*/
15419         PL_savestack            = ss_dup(proto_perl, param);
15420     }
15421     else {
15422         init_stacks();
15423         ENTER;                  /* perl_destruct() wants to LEAVE; */
15424     }
15425
15426     PL_statgv           = gv_dup(proto_perl->Istatgv, param);
15427     PL_statname         = sv_dup_inc(proto_perl->Istatname, param);
15428
15429     PL_rs               = sv_dup_inc(proto_perl->Irs, param);
15430     PL_last_in_gv       = gv_dup(proto_perl->Ilast_in_gv, param);
15431     PL_defoutgv         = gv_dup_inc(proto_perl->Idefoutgv, param);
15432     PL_toptarget        = sv_dup_inc(proto_perl->Itoptarget, param);
15433     PL_bodytarget       = sv_dup_inc(proto_perl->Ibodytarget, param);
15434     PL_formtarget       = sv_dup(proto_perl->Iformtarget, param);
15435
15436     PL_errors           = sv_dup_inc(proto_perl->Ierrors, param);
15437
15438     PL_sortcop          = (OP*)any_dup(proto_perl->Isortcop, proto_perl);
15439     PL_firstgv          = gv_dup_inc(proto_perl->Ifirstgv, param);
15440     PL_secondgv         = gv_dup_inc(proto_perl->Isecondgv, param);
15441
15442     PL_stashcache       = newHV();
15443
15444     PL_watchaddr        = (char **) ptr_table_fetch(PL_ptr_table,
15445                                             proto_perl->Iwatchaddr);
15446     PL_watchok          = PL_watchaddr ? * PL_watchaddr : NULL;
15447     if (PL_debug && PL_watchaddr) {
15448         PerlIO_printf(Perl_debug_log,
15449           "WATCHING: %" UVxf " cloned as %" UVxf " with value %" UVxf "\n",
15450           PTR2UV(proto_perl->Iwatchaddr), PTR2UV(PL_watchaddr),
15451           PTR2UV(PL_watchok));
15452     }
15453
15454     PL_registered_mros  = hv_dup_inc(proto_perl->Iregistered_mros, param);
15455     PL_blockhooks       = av_dup_inc(proto_perl->Iblockhooks, param);
15456     PL_utf8_foldclosures = hv_dup_inc(proto_perl->Iutf8_foldclosures, param);
15457
15458     /* Call the ->CLONE method, if it exists, for each of the stashes
15459        identified by sv_dup() above.
15460     */
15461     while(av_tindex(param->stashes) != -1) {
15462         HV* const stash = MUTABLE_HV(av_shift(param->stashes));
15463         GV* const cloner = gv_fetchmethod_autoload(stash, "CLONE", 0);
15464         if (cloner && GvCV(cloner)) {
15465             dSP;
15466             ENTER;
15467             SAVETMPS;
15468             PUSHMARK(SP);
15469             mXPUSHs(newSVhek(HvNAME_HEK(stash)));
15470             PUTBACK;
15471             call_sv(MUTABLE_SV(GvCV(cloner)), G_DISCARD);
15472             FREETMPS;
15473             LEAVE;
15474         }
15475     }
15476
15477     if (!(flags & CLONEf_KEEP_PTR_TABLE)) {
15478         ptr_table_free(PL_ptr_table);
15479         PL_ptr_table = NULL;
15480     }
15481
15482     if (!(flags & CLONEf_COPY_STACKS)) {
15483         unreferenced_to_tmp_stack(param->unreferenced);
15484     }
15485
15486     SvREFCNT_dec(param->stashes);
15487
15488     /* orphaned? eg threads->new inside BEGIN or use */
15489     if (PL_compcv && ! SvREFCNT(PL_compcv)) {
15490         SvREFCNT_inc_simple_void(PL_compcv);
15491         SAVEFREESV(PL_compcv);
15492     }
15493
15494     return my_perl;
15495 }
15496
15497 static void
15498 S_unreferenced_to_tmp_stack(pTHX_ AV *const unreferenced)
15499 {
15500     PERL_ARGS_ASSERT_UNREFERENCED_TO_TMP_STACK;
15501     
15502     if (AvFILLp(unreferenced) > -1) {
15503         SV **svp = AvARRAY(unreferenced);
15504         SV **const last = svp + AvFILLp(unreferenced);
15505         SSize_t count = 0;
15506
15507         do {
15508             if (SvREFCNT(*svp) == 1)
15509                 ++count;
15510         } while (++svp <= last);
15511
15512         EXTEND_MORTAL(count);
15513         svp = AvARRAY(unreferenced);
15514
15515         do {
15516             if (SvREFCNT(*svp) == 1) {
15517                 /* Our reference is the only one to this SV. This means that
15518                    in this thread, the scalar effectively has a 0 reference.
15519                    That doesn't work (cleanup never happens), so donate our
15520                    reference to it onto the save stack. */
15521                 PL_tmps_stack[++PL_tmps_ix] = *svp;
15522             } else {
15523                 /* As an optimisation, because we are already walking the
15524                    entire array, instead of above doing either
15525                    SvREFCNT_inc(*svp) or *svp = &PL_sv_undef, we can instead
15526                    release our reference to the scalar, so that at the end of
15527                    the array owns zero references to the scalars it happens to
15528                    point to. We are effectively converting the array from
15529                    AvREAL() on to AvREAL() off. This saves the av_clear()
15530                    (triggered by the SvREFCNT_dec(unreferenced) below) from
15531                    walking the array a second time.  */
15532                 SvREFCNT_dec(*svp);
15533             }
15534
15535         } while (++svp <= last);
15536         AvREAL_off(unreferenced);
15537     }
15538     SvREFCNT_dec_NN(unreferenced);
15539 }
15540
15541 void
15542 Perl_clone_params_del(CLONE_PARAMS *param)
15543 {
15544     /* This seemingly funky ordering keeps the build with PERL_GLOBAL_STRUCT
15545        happy: */
15546     PerlInterpreter *const to = param->new_perl;
15547     dTHXa(to);
15548     PerlInterpreter *const was = PERL_GET_THX;
15549
15550     PERL_ARGS_ASSERT_CLONE_PARAMS_DEL;
15551
15552     if (was != to) {
15553         PERL_SET_THX(to);
15554     }
15555
15556     SvREFCNT_dec(param->stashes);
15557     if (param->unreferenced)
15558         unreferenced_to_tmp_stack(param->unreferenced);
15559
15560     Safefree(param);
15561
15562     if (was != to) {
15563         PERL_SET_THX(was);
15564     }
15565 }
15566
15567 CLONE_PARAMS *
15568 Perl_clone_params_new(PerlInterpreter *const from, PerlInterpreter *const to)
15569 {
15570     dVAR;
15571     /* Need to play this game, as newAV() can call safesysmalloc(), and that
15572        does a dTHX; to get the context from thread local storage.
15573        FIXME - under PERL_CORE Newx(), Safefree() and friends should expand to
15574        a version that passes in my_perl.  */
15575     PerlInterpreter *const was = PERL_GET_THX;
15576     CLONE_PARAMS *param;
15577
15578     PERL_ARGS_ASSERT_CLONE_PARAMS_NEW;
15579
15580     if (was != to) {
15581         PERL_SET_THX(to);
15582     }
15583
15584     /* Given that we've set the context, we can do this unshared.  */
15585     Newx(param, 1, CLONE_PARAMS);
15586
15587     param->flags = 0;
15588     param->proto_perl = from;
15589     param->new_perl = to;
15590     param->stashes = (AV *)Perl_newSV_type(to, SVt_PVAV);
15591     AvREAL_off(param->stashes);
15592     param->unreferenced = (AV *)Perl_newSV_type(to, SVt_PVAV);
15593
15594     if (was != to) {
15595         PERL_SET_THX(was);
15596     }
15597     return param;
15598 }
15599
15600 #endif /* USE_ITHREADS */
15601
15602 void
15603 Perl_init_constants(pTHX)
15604 {
15605     SvREFCNT(&PL_sv_undef)      = SvREFCNT_IMMORTAL;
15606     SvFLAGS(&PL_sv_undef)       = SVf_READONLY|SVf_PROTECT|SVt_NULL;
15607     SvANY(&PL_sv_undef)         = NULL;
15608
15609     SvANY(&PL_sv_no)            = new_XPVNV();
15610     SvREFCNT(&PL_sv_no)         = SvREFCNT_IMMORTAL;
15611     SvFLAGS(&PL_sv_no)          = SVt_PVNV|SVf_READONLY|SVf_PROTECT
15612                                   |SVp_IOK|SVf_IOK|SVp_NOK|SVf_NOK
15613                                   |SVp_POK|SVf_POK;
15614
15615     SvANY(&PL_sv_yes)           = new_XPVNV();
15616     SvREFCNT(&PL_sv_yes)        = SvREFCNT_IMMORTAL;
15617     SvFLAGS(&PL_sv_yes)         = SVt_PVNV|SVf_READONLY|SVf_PROTECT
15618                                   |SVp_IOK|SVf_IOK|SVp_NOK|SVf_NOK
15619                                   |SVp_POK|SVf_POK;
15620
15621     SvPV_set(&PL_sv_no, (char*)PL_No);
15622     SvCUR_set(&PL_sv_no, 0);
15623     SvLEN_set(&PL_sv_no, 0);
15624     SvIV_set(&PL_sv_no, 0);
15625     SvNV_set(&PL_sv_no, 0);
15626
15627     SvPV_set(&PL_sv_yes, (char*)PL_Yes);
15628     SvCUR_set(&PL_sv_yes, 1);
15629     SvLEN_set(&PL_sv_yes, 0);
15630     SvIV_set(&PL_sv_yes, 1);
15631     SvNV_set(&PL_sv_yes, 1);
15632
15633     PadnamePV(&PL_padname_const) = (char *)PL_No;
15634 }
15635
15636 /*
15637 =head1 Unicode Support
15638
15639 =for apidoc sv_recode_to_utf8
15640
15641 C<encoding> is assumed to be an C<Encode> object, on entry the PV
15642 of C<sv> is assumed to be octets in that encoding, and C<sv>
15643 will be converted into Unicode (and UTF-8).
15644
15645 If C<sv> already is UTF-8 (or if it is not C<POK>), or if C<encoding>
15646 is not a reference, nothing is done to C<sv>.  If C<encoding> is not
15647 an C<Encode::XS> Encoding object, bad things will happen.
15648 (See F<cpan/Encode/encoding.pm> and L<Encode>.)
15649
15650 The PV of C<sv> is returned.
15651
15652 =cut */
15653
15654 char *
15655 Perl_sv_recode_to_utf8(pTHX_ SV *sv, SV *encoding)
15656 {
15657     PERL_ARGS_ASSERT_SV_RECODE_TO_UTF8;
15658
15659     if (SvPOK(sv) && !SvUTF8(sv) && !IN_BYTES && SvROK(encoding)) {
15660         SV *uni;
15661         STRLEN len;
15662         const char *s;
15663         dSP;
15664         SV *nsv = sv;
15665         ENTER;
15666         PUSHSTACK;
15667         SAVETMPS;
15668         if (SvPADTMP(nsv)) {
15669             nsv = sv_newmortal();
15670             SvSetSV_nosteal(nsv, sv);
15671         }
15672         save_re_context();
15673         PUSHMARK(sp);
15674         EXTEND(SP, 3);
15675         PUSHs(encoding);
15676         PUSHs(nsv);
15677 /*
15678   NI-S 2002/07/09
15679   Passing sv_yes is wrong - it needs to be or'ed set of constants
15680   for Encode::XS, while UTf-8 decode (currently) assumes a true value means
15681   remove converted chars from source.
15682
15683   Both will default the value - let them.
15684
15685         XPUSHs(&PL_sv_yes);
15686 */
15687         PUTBACK;
15688         call_method("decode", G_SCALAR);
15689         SPAGAIN;
15690         uni = POPs;
15691         PUTBACK;
15692         s = SvPV_const(uni, len);
15693         if (s != SvPVX_const(sv)) {
15694             SvGROW(sv, len + 1);
15695             Move(s, SvPVX(sv), len + 1, char);
15696             SvCUR_set(sv, len);
15697         }
15698         FREETMPS;
15699         POPSTACK;
15700         LEAVE;
15701         if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
15702             /* clear pos and any utf8 cache */
15703             MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
15704             if (mg)
15705                 mg->mg_len = -1;
15706             if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
15707                 magic_setutf8(sv,mg); /* clear UTF8 cache */
15708         }
15709         SvUTF8_on(sv);
15710         return SvPVX(sv);
15711     }
15712     return SvPOKp(sv) ? SvPVX(sv) : NULL;
15713 }
15714
15715 /*
15716 =for apidoc sv_cat_decode
15717
15718 C<encoding> is assumed to be an C<Encode> object, the PV of C<ssv> is
15719 assumed to be octets in that encoding and decoding the input starts
15720 from the position which S<C<(PV + *offset)>> pointed to.  C<dsv> will be
15721 concatenated with the decoded UTF-8 string from C<ssv>.  Decoding will terminate
15722 when the string C<tstr> appears in decoding output or the input ends on
15723 the PV of C<ssv>.  The value which C<offset> points will be modified
15724 to the last input position on C<ssv>.
15725
15726 Returns TRUE if the terminator was found, else returns FALSE.
15727
15728 =cut */
15729
15730 bool
15731 Perl_sv_cat_decode(pTHX_ SV *dsv, SV *encoding,
15732                    SV *ssv, int *offset, char *tstr, int tlen)
15733 {
15734     bool ret = FALSE;
15735
15736     PERL_ARGS_ASSERT_SV_CAT_DECODE;
15737
15738     if (SvPOK(ssv) && SvPOK(dsv) && SvROK(encoding)) {
15739         SV *offsv;
15740         dSP;
15741         ENTER;
15742         SAVETMPS;
15743         save_re_context();
15744         PUSHMARK(sp);
15745         EXTEND(SP, 6);
15746         PUSHs(encoding);
15747         PUSHs(dsv);
15748         PUSHs(ssv);
15749         offsv = newSViv(*offset);
15750         mPUSHs(offsv);
15751         mPUSHp(tstr, tlen);
15752         PUTBACK;
15753         call_method("cat_decode", G_SCALAR);
15754         SPAGAIN;
15755         ret = SvTRUE(TOPs);
15756         *offset = SvIV(offsv);
15757         PUTBACK;
15758         FREETMPS;
15759         LEAVE;
15760     }
15761     else
15762         Perl_croak(aTHX_ "Invalid argument to sv_cat_decode");
15763     return ret;
15764
15765 }
15766
15767 /* ---------------------------------------------------------------------
15768  *
15769  * support functions for report_uninit()
15770  */
15771
15772 /* the maxiumum size of array or hash where we will scan looking
15773  * for the undefined element that triggered the warning */
15774
15775 #define FUV_MAX_SEARCH_SIZE 1000
15776
15777 /* Look for an entry in the hash whose value has the same SV as val;
15778  * If so, return a mortal copy of the key. */
15779
15780 STATIC SV*
15781 S_find_hash_subscript(pTHX_ const HV *const hv, const SV *const val)
15782 {
15783     dVAR;
15784     HE **array;
15785     I32 i;
15786
15787     PERL_ARGS_ASSERT_FIND_HASH_SUBSCRIPT;
15788
15789     if (!hv || SvMAGICAL(hv) || !HvARRAY(hv) ||
15790                         (HvTOTALKEYS(hv) > FUV_MAX_SEARCH_SIZE))
15791         return NULL;
15792
15793     array = HvARRAY(hv);
15794
15795     for (i=HvMAX(hv); i>=0; i--) {
15796         HE *entry;
15797         for (entry = array[i]; entry; entry = HeNEXT(entry)) {
15798             if (HeVAL(entry) != val)
15799                 continue;
15800             if (    HeVAL(entry) == &PL_sv_undef ||
15801                     HeVAL(entry) == &PL_sv_placeholder)
15802                 continue;
15803             if (!HeKEY(entry))
15804                 return NULL;
15805             if (HeKLEN(entry) == HEf_SVKEY)
15806                 return sv_mortalcopy(HeKEY_sv(entry));
15807             return sv_2mortal(newSVhek(HeKEY_hek(entry)));
15808         }
15809     }
15810     return NULL;
15811 }
15812
15813 /* Look for an entry in the array whose value has the same SV as val;
15814  * If so, return the index, otherwise return -1. */
15815
15816 STATIC SSize_t
15817 S_find_array_subscript(pTHX_ const AV *const av, const SV *const val)
15818 {
15819     PERL_ARGS_ASSERT_FIND_ARRAY_SUBSCRIPT;
15820
15821     if (!av || SvMAGICAL(av) || !AvARRAY(av) ||
15822                         (AvFILLp(av) > FUV_MAX_SEARCH_SIZE))
15823         return -1;
15824
15825     if (val != &PL_sv_undef) {
15826         SV ** const svp = AvARRAY(av);
15827         SSize_t i;
15828
15829         for (i=AvFILLp(av); i>=0; i--)
15830             if (svp[i] == val)
15831                 return i;
15832     }
15833     return -1;
15834 }
15835
15836 /* varname(): return the name of a variable, optionally with a subscript.
15837  * If gv is non-zero, use the name of that global, along with gvtype (one
15838  * of "$", "@", "%"); otherwise use the name of the lexical at pad offset
15839  * targ.  Depending on the value of the subscript_type flag, return:
15840  */
15841
15842 #define FUV_SUBSCRIPT_NONE      1       /* "@foo"          */
15843 #define FUV_SUBSCRIPT_ARRAY     2       /* "$foo[aindex]"  */
15844 #define FUV_SUBSCRIPT_HASH      3       /* "$foo{keyname}" */
15845 #define FUV_SUBSCRIPT_WITHIN    4       /* "within @foo"   */
15846
15847 SV*
15848 Perl_varname(pTHX_ const GV *const gv, const char gvtype, PADOFFSET targ,
15849         const SV *const keyname, SSize_t aindex, int subscript_type)
15850 {
15851
15852     SV * const name = sv_newmortal();
15853     if (gv && isGV(gv)) {
15854         char buffer[2];
15855         buffer[0] = gvtype;
15856         buffer[1] = 0;
15857
15858         /* as gv_fullname4(), but add literal '^' for $^FOO names  */
15859
15860         gv_fullname4(name, gv, buffer, 0);
15861
15862         if ((unsigned int)SvPVX(name)[1] <= 26) {
15863             buffer[0] = '^';
15864             buffer[1] = SvPVX(name)[1] + 'A' - 1;
15865
15866             /* Swap the 1 unprintable control character for the 2 byte pretty
15867                version - ie substr($name, 1, 1) = $buffer; */
15868             sv_insert(name, 1, 1, buffer, 2);
15869         }
15870     }
15871     else {
15872         CV * const cv = gv ? ((CV *)gv) : find_runcv(NULL);
15873         PADNAME *sv;
15874
15875         assert(!cv || SvTYPE(cv) == SVt_PVCV || SvTYPE(cv) == SVt_PVFM);
15876
15877         if (!cv || !CvPADLIST(cv))
15878             return NULL;
15879         sv = padnamelist_fetch(PadlistNAMES(CvPADLIST(cv)), targ);
15880         sv_setpvn(name, PadnamePV(sv), PadnameLEN(sv));
15881         SvUTF8_on(name);
15882     }
15883
15884     if (subscript_type == FUV_SUBSCRIPT_HASH) {
15885         SV * const sv = newSV(0);
15886         STRLEN len;
15887         const char * const pv = SvPV_nomg_const((SV*)keyname, len);
15888
15889         *SvPVX(name) = '$';
15890         Perl_sv_catpvf(aTHX_ name, "{%s}",
15891             pv_pretty(sv, pv, len, 32, NULL, NULL,
15892                     PERL_PV_PRETTY_DUMP | PERL_PV_ESCAPE_UNI_DETECT ));
15893         SvREFCNT_dec_NN(sv);
15894     }
15895     else if (subscript_type == FUV_SUBSCRIPT_ARRAY) {
15896         *SvPVX(name) = '$';
15897         Perl_sv_catpvf(aTHX_ name, "[%" IVdf "]", (IV)aindex);
15898     }
15899     else if (subscript_type == FUV_SUBSCRIPT_WITHIN) {
15900         /* We know that name has no magic, so can use 0 instead of SV_GMAGIC */
15901         Perl_sv_insert_flags(aTHX_ name, 0, 0,  STR_WITH_LEN("within "), 0);
15902     }
15903
15904     return name;
15905 }
15906
15907
15908 /*
15909 =for apidoc find_uninit_var
15910
15911 Find the name of the undefined variable (if any) that caused the operator
15912 to issue a "Use of uninitialized value" warning.
15913 If match is true, only return a name if its value matches C<uninit_sv>.
15914 So roughly speaking, if a unary operator (such as C<OP_COS>) generates a
15915 warning, then following the direct child of the op may yield an
15916 C<OP_PADSV> or C<OP_GV> that gives the name of the undefined variable.  On the
15917 other hand, with C<OP_ADD> there are two branches to follow, so we only print
15918 the variable name if we get an exact match.
15919 C<desc_p> points to a string pointer holding the description of the op.
15920 This may be updated if needed.
15921
15922 The name is returned as a mortal SV.
15923
15924 Assumes that C<PL_op> is the OP that originally triggered the error, and that
15925 C<PL_comppad>/C<PL_curpad> points to the currently executing pad.
15926
15927 =cut
15928 */
15929
15930 STATIC SV *
15931 S_find_uninit_var(pTHX_ const OP *const obase, const SV *const uninit_sv,
15932                   bool match, const char **desc_p)
15933 {
15934     dVAR;
15935     SV *sv;
15936     const GV *gv;
15937     const OP *o, *o2, *kid;
15938
15939     PERL_ARGS_ASSERT_FIND_UNINIT_VAR;
15940
15941     if (!obase || (match && (!uninit_sv || uninit_sv == &PL_sv_undef ||
15942                             uninit_sv == &PL_sv_placeholder)))
15943         return NULL;
15944
15945     switch (obase->op_type) {
15946
15947     case OP_UNDEF:
15948         /* undef should care if its args are undef - any warnings
15949          * will be from tied/magic vars */
15950         break;
15951
15952     case OP_RV2AV:
15953     case OP_RV2HV:
15954     case OP_PADAV:
15955     case OP_PADHV:
15956       {
15957         const bool pad  = (    obase->op_type == OP_PADAV
15958                             || obase->op_type == OP_PADHV
15959                             || obase->op_type == OP_PADRANGE
15960                           );
15961
15962         const bool hash = (    obase->op_type == OP_PADHV
15963                             || obase->op_type == OP_RV2HV
15964                             || (obase->op_type == OP_PADRANGE
15965                                 && SvTYPE(PAD_SVl(obase->op_targ)) == SVt_PVHV)
15966                           );
15967         SSize_t index = 0;
15968         SV *keysv = NULL;
15969         int subscript_type = FUV_SUBSCRIPT_WITHIN;
15970
15971         if (pad) { /* @lex, %lex */
15972             sv = PAD_SVl(obase->op_targ);
15973             gv = NULL;
15974         }
15975         else {
15976             if (cUNOPx(obase)->op_first->op_type == OP_GV) {
15977             /* @global, %global */
15978                 gv = cGVOPx_gv(cUNOPx(obase)->op_first);
15979                 if (!gv)
15980                     break;
15981                 sv = hash ? MUTABLE_SV(GvHV(gv)): MUTABLE_SV(GvAV(gv));
15982             }
15983             else if (obase == PL_op) /* @{expr}, %{expr} */
15984                 return find_uninit_var(cUNOPx(obase)->op_first,
15985                                                 uninit_sv, match, desc_p);
15986             else /* @{expr}, %{expr} as a sub-expression */
15987                 return NULL;
15988         }
15989
15990         /* attempt to find a match within the aggregate */
15991         if (hash) {
15992             keysv = find_hash_subscript((const HV*)sv, uninit_sv);
15993             if (keysv)
15994                 subscript_type = FUV_SUBSCRIPT_HASH;
15995         }
15996         else {
15997             index = find_array_subscript((const AV *)sv, uninit_sv);
15998             if (index >= 0)
15999                 subscript_type = FUV_SUBSCRIPT_ARRAY;
16000         }
16001
16002         if (match && subscript_type == FUV_SUBSCRIPT_WITHIN)
16003             break;
16004
16005         return varname(gv, (char)(hash ? '%' : '@'), obase->op_targ,
16006                                     keysv, index, subscript_type);
16007       }
16008
16009     case OP_RV2SV:
16010         if (cUNOPx(obase)->op_first->op_type == OP_GV) {
16011             /* $global */
16012             gv = cGVOPx_gv(cUNOPx(obase)->op_first);
16013             if (!gv || !GvSTASH(gv))
16014                 break;
16015             if (match && (GvSV(gv) != uninit_sv))
16016                 break;
16017             return varname(gv, '$', 0, NULL, 0, FUV_SUBSCRIPT_NONE);
16018         }
16019         /* ${expr} */
16020         return find_uninit_var(cUNOPx(obase)->op_first, uninit_sv, 1, desc_p);
16021
16022     case OP_PADSV:
16023         if (match && PAD_SVl(obase->op_targ) != uninit_sv)
16024             break;
16025         return varname(NULL, '$', obase->op_targ,
16026                                     NULL, 0, FUV_SUBSCRIPT_NONE);
16027
16028     case OP_GVSV:
16029         gv = cGVOPx_gv(obase);
16030         if (!gv || (match && GvSV(gv) != uninit_sv) || !GvSTASH(gv))
16031             break;
16032         return varname(gv, '$', 0, NULL, 0, FUV_SUBSCRIPT_NONE);
16033
16034     case OP_AELEMFAST_LEX:
16035         if (match) {
16036             SV **svp;
16037             AV *av = MUTABLE_AV(PAD_SV(obase->op_targ));
16038             if (!av || SvRMAGICAL(av))
16039                 break;
16040             svp = av_fetch(av, (I8)obase->op_private, FALSE);
16041             if (!svp || *svp != uninit_sv)
16042                 break;
16043         }
16044         return varname(NULL, '$', obase->op_targ,
16045                        NULL, (I8)obase->op_private, FUV_SUBSCRIPT_ARRAY);
16046     case OP_AELEMFAST:
16047         {
16048             gv = cGVOPx_gv(obase);
16049             if (!gv)
16050                 break;
16051             if (match) {
16052                 SV **svp;
16053                 AV *const av = GvAV(gv);
16054                 if (!av || SvRMAGICAL(av))
16055                     break;
16056                 svp = av_fetch(av, (I8)obase->op_private, FALSE);
16057                 if (!svp || *svp != uninit_sv)
16058                     break;
16059             }
16060             return varname(gv, '$', 0,
16061                     NULL, (I8)obase->op_private, FUV_SUBSCRIPT_ARRAY);
16062         }
16063         NOT_REACHED; /* NOTREACHED */
16064
16065     case OP_EXISTS:
16066         o = cUNOPx(obase)->op_first;
16067         if (!o || o->op_type != OP_NULL ||
16068                 ! (o->op_targ == OP_AELEM || o->op_targ == OP_HELEM))
16069             break;
16070         return find_uninit_var(cBINOPo->op_last, uninit_sv, match, desc_p);
16071
16072     case OP_AELEM:
16073     case OP_HELEM:
16074     {
16075         bool negate = FALSE;
16076
16077         if (PL_op == obase)
16078             /* $a[uninit_expr] or $h{uninit_expr} */
16079             return find_uninit_var(cBINOPx(obase)->op_last,
16080                                                 uninit_sv, match, desc_p);
16081
16082         gv = NULL;
16083         o = cBINOPx(obase)->op_first;
16084         kid = cBINOPx(obase)->op_last;
16085
16086         /* get the av or hv, and optionally the gv */
16087         sv = NULL;
16088         if  (o->op_type == OP_PADAV || o->op_type == OP_PADHV) {
16089             sv = PAD_SV(o->op_targ);
16090         }
16091         else if ((o->op_type == OP_RV2AV || o->op_type == OP_RV2HV)
16092                 && cUNOPo->op_first->op_type == OP_GV)
16093         {
16094             gv = cGVOPx_gv(cUNOPo->op_first);
16095             if (!gv)
16096                 break;
16097             sv = o->op_type
16098                 == OP_RV2HV ? MUTABLE_SV(GvHV(gv)) : MUTABLE_SV(GvAV(gv));
16099         }
16100         if (!sv)
16101             break;
16102
16103         if (kid && kid->op_type == OP_NEGATE) {
16104             negate = TRUE;
16105             kid = cUNOPx(kid)->op_first;
16106         }
16107
16108         if (kid && kid->op_type == OP_CONST && SvOK(cSVOPx_sv(kid))) {
16109             /* index is constant */
16110             SV* kidsv;
16111             if (negate) {
16112                 kidsv = newSVpvs_flags("-", SVs_TEMP);
16113                 sv_catsv(kidsv, cSVOPx_sv(kid));
16114             }
16115             else
16116                 kidsv = cSVOPx_sv(kid);
16117             if (match) {
16118                 if (SvMAGICAL(sv))
16119                     break;
16120                 if (obase->op_type == OP_HELEM) {
16121                     HE* he = hv_fetch_ent(MUTABLE_HV(sv), kidsv, 0, 0);
16122                     if (!he || HeVAL(he) != uninit_sv)
16123                         break;
16124                 }
16125                 else {
16126                     SV * const  opsv = cSVOPx_sv(kid);
16127                     const IV  opsviv = SvIV(opsv);
16128                     SV * const * const svp = av_fetch(MUTABLE_AV(sv),
16129                         negate ? - opsviv : opsviv,
16130                         FALSE);
16131                     if (!svp || *svp != uninit_sv)
16132                         break;
16133                 }
16134             }
16135             if (obase->op_type == OP_HELEM)
16136                 return varname(gv, '%', o->op_targ,
16137                             kidsv, 0, FUV_SUBSCRIPT_HASH);
16138             else
16139                 return varname(gv, '@', o->op_targ, NULL,
16140                     negate ? - SvIV(cSVOPx_sv(kid)) : SvIV(cSVOPx_sv(kid)),
16141                     FUV_SUBSCRIPT_ARRAY);
16142         }
16143         else  {
16144             /* index is an expression;
16145              * attempt to find a match within the aggregate */
16146             if (obase->op_type == OP_HELEM) {
16147                 SV * const keysv = find_hash_subscript((const HV*)sv, uninit_sv);
16148                 if (keysv)
16149                     return varname(gv, '%', o->op_targ,
16150                                                 keysv, 0, FUV_SUBSCRIPT_HASH);
16151             }
16152             else {
16153                 const SSize_t index
16154                     = find_array_subscript((const AV *)sv, uninit_sv);
16155                 if (index >= 0)
16156                     return varname(gv, '@', o->op_targ,
16157                                         NULL, index, FUV_SUBSCRIPT_ARRAY);
16158             }
16159             if (match)
16160                 break;
16161             return varname(gv,
16162                 (char)((o->op_type == OP_PADAV || o->op_type == OP_RV2AV)
16163                 ? '@' : '%'),
16164                 o->op_targ, NULL, 0, FUV_SUBSCRIPT_WITHIN);
16165         }
16166         NOT_REACHED; /* NOTREACHED */
16167     }
16168
16169     case OP_MULTIDEREF: {
16170         /* If we were executing OP_MULTIDEREF when the undef warning
16171          * triggered, then it must be one of the index values within
16172          * that triggered it. If not, then the only possibility is that
16173          * the value retrieved by the last aggregate index might be the
16174          * culprit. For the former, we set PL_multideref_pc each time before
16175          * using an index, so work though the item list until we reach
16176          * that point. For the latter, just work through the entire item
16177          * list; the last aggregate retrieved will be the candidate.
16178          * There is a third rare possibility: something triggered
16179          * magic while fetching an array/hash element. Just display
16180          * nothing in this case.
16181          */
16182
16183         /* the named aggregate, if any */
16184         PADOFFSET agg_targ = 0;
16185         GV       *agg_gv   = NULL;
16186         /* the last-seen index */
16187         UV        index_type;
16188         PADOFFSET index_targ;
16189         GV       *index_gv;
16190         IV        index_const_iv = 0; /* init for spurious compiler warn */
16191         SV       *index_const_sv;
16192         int       depth = 0;  /* how many array/hash lookups we've done */
16193
16194         UNOP_AUX_item *items = cUNOP_AUXx(obase)->op_aux;
16195         UNOP_AUX_item *last = NULL;
16196         UV actions = items->uv;
16197         bool is_hv;
16198
16199         if (PL_op == obase) {
16200             last = PL_multideref_pc;
16201             assert(last >= items && last <= items + items[-1].uv);
16202         }
16203
16204         assert(actions);
16205
16206         while (1) {
16207             is_hv = FALSE;
16208             switch (actions & MDEREF_ACTION_MASK) {
16209
16210             case MDEREF_reload:
16211                 actions = (++items)->uv;
16212                 continue;
16213
16214             case MDEREF_HV_padhv_helem:               /* $lex{...} */
16215                 is_hv = TRUE;
16216                 /* FALLTHROUGH */
16217             case MDEREF_AV_padav_aelem:               /* $lex[...] */
16218                 agg_targ = (++items)->pad_offset;
16219                 agg_gv = NULL;
16220                 break;
16221
16222             case MDEREF_HV_gvhv_helem:                /* $pkg{...} */
16223                 is_hv = TRUE;
16224                 /* FALLTHROUGH */
16225             case MDEREF_AV_gvav_aelem:                /* $pkg[...] */
16226                 agg_targ = 0;
16227                 agg_gv = (GV*)UNOP_AUX_item_sv(++items);
16228                 assert(isGV_with_GP(agg_gv));
16229                 break;
16230
16231             case MDEREF_HV_gvsv_vivify_rv2hv_helem:   /* $pkg->{...} */
16232             case MDEREF_HV_padsv_vivify_rv2hv_helem:  /* $lex->{...} */
16233                 ++items;
16234                 /* FALLTHROUGH */
16235             case MDEREF_HV_pop_rv2hv_helem:           /* expr->{...} */
16236             case MDEREF_HV_vivify_rv2hv_helem:        /* vivify, ->{...} */
16237                 agg_targ = 0;
16238                 agg_gv   = NULL;
16239                 is_hv    = TRUE;
16240                 break;
16241
16242             case MDEREF_AV_gvsv_vivify_rv2av_aelem:   /* $pkg->[...] */
16243             case MDEREF_AV_padsv_vivify_rv2av_aelem:  /* $lex->[...] */
16244                 ++items;
16245                 /* FALLTHROUGH */
16246             case MDEREF_AV_pop_rv2av_aelem:           /* expr->[...] */
16247             case MDEREF_AV_vivify_rv2av_aelem:        /* vivify, ->[...] */
16248                 agg_targ = 0;
16249                 agg_gv   = NULL;
16250             } /* switch */
16251
16252             index_targ     = 0;
16253             index_gv       = NULL;
16254             index_const_sv = NULL;
16255
16256             index_type = (actions & MDEREF_INDEX_MASK);
16257             switch (index_type) {
16258             case MDEREF_INDEX_none:
16259                 break;
16260             case MDEREF_INDEX_const:
16261                 if (is_hv)
16262                     index_const_sv = UNOP_AUX_item_sv(++items)
16263                 else
16264                     index_const_iv = (++items)->iv;
16265                 break;
16266             case MDEREF_INDEX_padsv:
16267                 index_targ = (++items)->pad_offset;
16268                 break;
16269             case MDEREF_INDEX_gvsv:
16270                 index_gv = (GV*)UNOP_AUX_item_sv(++items);
16271                 assert(isGV_with_GP(index_gv));
16272                 break;
16273             }
16274
16275             if (index_type != MDEREF_INDEX_none)
16276                 depth++;
16277
16278             if (   index_type == MDEREF_INDEX_none
16279                 || (actions & MDEREF_FLAG_last)
16280                 || (last && items >= last)
16281             )
16282                 break;
16283
16284             actions >>= MDEREF_SHIFT;
16285         } /* while */
16286
16287         if (PL_op == obase) {
16288             /* most likely index was undef */
16289
16290             *desc_p = (    (actions & MDEREF_FLAG_last)
16291                         && (obase->op_private
16292                                 & (OPpMULTIDEREF_EXISTS|OPpMULTIDEREF_DELETE)))
16293                         ?
16294                             (obase->op_private & OPpMULTIDEREF_EXISTS)
16295                                 ? "exists"
16296                                 : "delete"
16297                         : is_hv ? "hash element" : "array element";
16298             assert(index_type != MDEREF_INDEX_none);
16299             if (index_gv) {
16300                 if (GvSV(index_gv) == uninit_sv)
16301                     return varname(index_gv, '$', 0, NULL, 0,
16302                                                     FUV_SUBSCRIPT_NONE);
16303                 else
16304                     return NULL;
16305             }
16306             if (index_targ) {
16307                 if (PL_curpad[index_targ] == uninit_sv)
16308                     return varname(NULL, '$', index_targ,
16309                                     NULL, 0, FUV_SUBSCRIPT_NONE);
16310                 else
16311                     return NULL;
16312             }
16313             /* If we got to this point it was undef on a const subscript,
16314              * so magic probably involved, e.g. $ISA[0]. Give up. */
16315             return NULL;
16316         }
16317
16318         /* the SV returned by pp_multideref() was undef, if anything was */
16319
16320         if (depth != 1)
16321             break;
16322
16323         if (agg_targ)
16324             sv = PAD_SV(agg_targ);
16325         else if (agg_gv)
16326             sv = is_hv ? MUTABLE_SV(GvHV(agg_gv)) : MUTABLE_SV(GvAV(agg_gv));
16327         else
16328             break;
16329
16330         if (index_type == MDEREF_INDEX_const) {
16331             if (match) {
16332                 if (SvMAGICAL(sv))
16333                     break;
16334                 if (is_hv) {
16335                     HE* he = hv_fetch_ent(MUTABLE_HV(sv), index_const_sv, 0, 0);
16336                     if (!he || HeVAL(he) != uninit_sv)
16337                         break;
16338                 }
16339                 else {
16340                     SV * const * const svp =
16341                             av_fetch(MUTABLE_AV(sv), index_const_iv, FALSE);
16342                     if (!svp || *svp != uninit_sv)
16343                         break;
16344                 }
16345             }
16346             return is_hv
16347                 ? varname(agg_gv, '%', agg_targ,
16348                                 index_const_sv, 0,    FUV_SUBSCRIPT_HASH)
16349                 : varname(agg_gv, '@', agg_targ,
16350                                 NULL, index_const_iv, FUV_SUBSCRIPT_ARRAY);
16351         }
16352         else  {
16353             /* index is an var */
16354             if (is_hv) {
16355                 SV * const keysv = find_hash_subscript((const HV*)sv, uninit_sv);
16356                 if (keysv)
16357                     return varname(agg_gv, '%', agg_targ,
16358                                                 keysv, 0, FUV_SUBSCRIPT_HASH);
16359             }
16360             else {
16361                 const SSize_t index
16362                     = find_array_subscript((const AV *)sv, uninit_sv);
16363                 if (index >= 0)
16364                     return varname(agg_gv, '@', agg_targ,
16365                                         NULL, index, FUV_SUBSCRIPT_ARRAY);
16366             }
16367             if (match)
16368                 break;
16369             return varname(agg_gv,
16370                 is_hv ? '%' : '@',
16371                 agg_targ, NULL, 0, FUV_SUBSCRIPT_WITHIN);
16372         }
16373         NOT_REACHED; /* NOTREACHED */
16374     }
16375
16376     case OP_AASSIGN:
16377         /* only examine RHS */
16378         return find_uninit_var(cBINOPx(obase)->op_first, uninit_sv,
16379                                                                 match, desc_p);
16380
16381     case OP_OPEN:
16382         o = cUNOPx(obase)->op_first;
16383         if (   o->op_type == OP_PUSHMARK
16384            || (o->op_type == OP_NULL && o->op_targ == OP_PUSHMARK)
16385         )
16386             o = OpSIBLING(o);
16387
16388         if (!OpHAS_SIBLING(o)) {
16389             /* one-arg version of open is highly magical */
16390
16391             if (o->op_type == OP_GV) { /* open FOO; */
16392                 gv = cGVOPx_gv(o);
16393                 if (match && GvSV(gv) != uninit_sv)
16394                     break;
16395                 return varname(gv, '$', 0,
16396                             NULL, 0, FUV_SUBSCRIPT_NONE);
16397             }
16398             /* other possibilities not handled are:
16399              * open $x; or open my $x;  should return '${*$x}'
16400              * open expr;               should return '$'.expr ideally
16401              */
16402              break;
16403         }
16404         match = 1;
16405         goto do_op;
16406
16407     /* ops where $_ may be an implicit arg */
16408     case OP_TRANS:
16409     case OP_TRANSR:
16410     case OP_SUBST:
16411     case OP_MATCH:
16412         if ( !(obase->op_flags & OPf_STACKED)) {
16413             if (uninit_sv == DEFSV)
16414                 return newSVpvs_flags("$_", SVs_TEMP);
16415             else if (obase->op_targ
16416                   && uninit_sv == PAD_SVl(obase->op_targ))
16417                 return varname(NULL, '$', obase->op_targ, NULL, 0,
16418                                FUV_SUBSCRIPT_NONE);
16419         }
16420         goto do_op;
16421
16422     case OP_PRTF:
16423     case OP_PRINT:
16424     case OP_SAY:
16425         match = 1; /* print etc can return undef on defined args */
16426         /* skip filehandle as it can't produce 'undef' warning  */
16427         o = cUNOPx(obase)->op_first;
16428         if ((obase->op_flags & OPf_STACKED)
16429             &&
16430                (   o->op_type == OP_PUSHMARK
16431                || (o->op_type == OP_NULL && o->op_targ == OP_PUSHMARK)))
16432             o = OpSIBLING(OpSIBLING(o));
16433         goto do_op2;
16434
16435
16436     case OP_ENTEREVAL: /* could be eval $undef or $x='$undef'; eval $x */
16437     case OP_CUSTOM: /* XS or custom code could trigger random warnings */
16438
16439         /* the following ops are capable of returning PL_sv_undef even for
16440          * defined arg(s) */
16441
16442     case OP_BACKTICK:
16443     case OP_PIPE_OP:
16444     case OP_FILENO:
16445     case OP_BINMODE:
16446     case OP_TIED:
16447     case OP_GETC:
16448     case OP_SYSREAD:
16449     case OP_SEND:
16450     case OP_IOCTL:
16451     case OP_SOCKET:
16452     case OP_SOCKPAIR:
16453     case OP_BIND:
16454     case OP_CONNECT:
16455     case OP_LISTEN:
16456     case OP_ACCEPT:
16457     case OP_SHUTDOWN:
16458     case OP_SSOCKOPT:
16459     case OP_GETPEERNAME:
16460     case OP_FTRREAD:
16461     case OP_FTRWRITE:
16462     case OP_FTREXEC:
16463     case OP_FTROWNED:
16464     case OP_FTEREAD:
16465     case OP_FTEWRITE:
16466     case OP_FTEEXEC:
16467     case OP_FTEOWNED:
16468     case OP_FTIS:
16469     case OP_FTZERO:
16470     case OP_FTSIZE:
16471     case OP_FTFILE:
16472     case OP_FTDIR:
16473     case OP_FTLINK:
16474     case OP_FTPIPE:
16475     case OP_FTSOCK:
16476     case OP_FTBLK:
16477     case OP_FTCHR:
16478     case OP_FTTTY:
16479     case OP_FTSUID:
16480     case OP_FTSGID:
16481     case OP_FTSVTX:
16482     case OP_FTTEXT:
16483     case OP_FTBINARY:
16484     case OP_FTMTIME:
16485     case OP_FTATIME:
16486     case OP_FTCTIME:
16487     case OP_READLINK:
16488     case OP_OPEN_DIR:
16489     case OP_READDIR:
16490     case OP_TELLDIR:
16491     case OP_SEEKDIR:
16492     case OP_REWINDDIR:
16493     case OP_CLOSEDIR:
16494     case OP_GMTIME:
16495     case OP_ALARM:
16496     case OP_SEMGET:
16497     case OP_GETLOGIN:
16498     case OP_SUBSTR:
16499     case OP_AEACH:
16500     case OP_EACH:
16501     case OP_SORT:
16502     case OP_CALLER:
16503     case OP_DOFILE:
16504     case OP_PROTOTYPE:
16505     case OP_NCMP:
16506     case OP_SMARTMATCH:
16507     case OP_UNPACK:
16508     case OP_SYSOPEN:
16509     case OP_SYSSEEK:
16510         match = 1;
16511         goto do_op;
16512
16513     case OP_ENTERSUB:
16514     case OP_GOTO:
16515         /* XXX tmp hack: these two may call an XS sub, and currently
16516           XS subs don't have a SUB entry on the context stack, so CV and
16517           pad determination goes wrong, and BAD things happen. So, just
16518           don't try to determine the value under those circumstances.
16519           Need a better fix at dome point. DAPM 11/2007 */
16520         break;
16521
16522     case OP_FLIP:
16523     case OP_FLOP:
16524     {
16525         GV * const gv = gv_fetchpvs(".", GV_NOTQUAL, SVt_PV);
16526         if (gv && GvSV(gv) == uninit_sv)
16527             return newSVpvs_flags("$.", SVs_TEMP);
16528         goto do_op;
16529     }
16530
16531     case OP_POS:
16532         /* def-ness of rval pos() is independent of the def-ness of its arg */
16533         if ( !(obase->op_flags & OPf_MOD))
16534             break;
16535
16536     case OP_SCHOMP:
16537     case OP_CHOMP:
16538         if (SvROK(PL_rs) && uninit_sv == SvRV(PL_rs))
16539             return newSVpvs_flags("${$/}", SVs_TEMP);
16540         /* FALLTHROUGH */
16541
16542     default:
16543     do_op:
16544         if (!(obase->op_flags & OPf_KIDS))
16545             break;
16546         o = cUNOPx(obase)->op_first;
16547         
16548     do_op2:
16549         if (!o)
16550             break;
16551
16552         /* This loop checks all the kid ops, skipping any that cannot pos-
16553          * sibly be responsible for the uninitialized value; i.e., defined
16554          * constants and ops that return nothing.  If there is only one op
16555          * left that is not skipped, then we *know* it is responsible for
16556          * the uninitialized value.  If there is more than one op left, we
16557          * have to look for an exact match in the while() loop below.
16558          * Note that we skip padrange, because the individual pad ops that
16559          * it replaced are still in the tree, so we work on them instead.
16560          */
16561         o2 = NULL;
16562         for (kid=o; kid; kid = OpSIBLING(kid)) {
16563             const OPCODE type = kid->op_type;
16564             if ( (type == OP_CONST && SvOK(cSVOPx_sv(kid)))
16565               || (type == OP_NULL  && ! (kid->op_flags & OPf_KIDS))
16566               || (type == OP_PUSHMARK)
16567               || (type == OP_PADRANGE)
16568             )
16569             continue;
16570
16571             if (o2) { /* more than one found */
16572                 o2 = NULL;
16573                 break;
16574             }
16575             o2 = kid;
16576         }
16577         if (o2)
16578             return find_uninit_var(o2, uninit_sv, match, desc_p);
16579
16580         /* scan all args */
16581         while (o) {
16582             sv = find_uninit_var(o, uninit_sv, 1, desc_p);
16583             if (sv)
16584                 return sv;
16585             o = OpSIBLING(o);
16586         }
16587         break;
16588     }
16589     return NULL;
16590 }
16591
16592
16593 /*
16594 =for apidoc report_uninit
16595
16596 Print appropriate "Use of uninitialized variable" warning.
16597
16598 =cut
16599 */
16600
16601 void
16602 Perl_report_uninit(pTHX_ const SV *uninit_sv)
16603 {
16604     const char *desc = NULL;
16605     SV* varname = NULL;
16606
16607     if (PL_op) {
16608         desc = PL_op->op_type == OP_STRINGIFY && PL_op->op_folded
16609                 ? "join or string"
16610                 : OP_DESC(PL_op);
16611         if (uninit_sv && PL_curpad) {
16612             varname = find_uninit_var(PL_op, uninit_sv, 0, &desc);
16613             if (varname)
16614                 sv_insert(varname, 0, 0, " ", 1);
16615         }
16616     }
16617     else if (PL_curstackinfo->si_type == PERLSI_SORT && cxstack_ix == 0)
16618         /* we've reached the end of a sort block or sub,
16619          * and the uninit value is probably what that code returned */
16620         desc = "sort";
16621
16622     /* PL_warn_uninit_sv is constant */
16623     GCC_DIAG_IGNORE(-Wformat-nonliteral);
16624     if (desc)
16625         /* diag_listed_as: Use of uninitialized value%s */
16626         Perl_warner(aTHX_ packWARN(WARN_UNINITIALIZED), PL_warn_uninit_sv,
16627                 SVfARG(varname ? varname : &PL_sv_no),
16628                 " in ", desc);
16629     else
16630         Perl_warner(aTHX_ packWARN(WARN_UNINITIALIZED), PL_warn_uninit,
16631                 "", "", "");
16632     GCC_DIAG_RESTORE;
16633 }
16634
16635 /*
16636  * ex: set ts=8 sts=4 sw=4 et:
16637  */