This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
sv.c: move some pod blocks
[perl5.git] / sv.c
1 /*    sv.c
2  *
3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999, 2000,
4  *    2001, 2002, 2003, 2004, 2005, 2006, 2007, 2008, 2009 by Larry Wall
5  *    and others
6  *
7  *    You may distribute under the terms of either the GNU General Public
8  *    License or the Artistic License, as specified in the README file.
9  *
10  */
11
12 /*
13  * 'I wonder what the Entish is for "yes" and "no",' he thought.
14  *                                                      --Pippin
15  *
16  *     [p.480 of _The Lord of the Rings_, III/iv: "Treebeard"]
17  */
18
19 /*
20  *
21  *
22  * This file contains the code that creates, manipulates and destroys
23  * scalar values (SVs). The other types (AV, HV, GV, etc.) reuse the
24  * structure of an SV, so their creation and destruction is handled
25  * here; higher-level functions are in av.c, hv.c, and so on. Opcode
26  * level functions (eg. substr, split, join) for each of the types are
27  * in the pp*.c files.
28  */
29
30 #include "EXTERN.h"
31 #define PERL_IN_SV_C
32 #include "perl.h"
33 #include "regcomp.h"
34 #ifdef __VMS
35 # include <rms.h>
36 #endif
37
38 #ifdef __Lynx__
39 /* Missing proto on LynxOS */
40   char *gconvert(double, int, int,  char *);
41 #endif
42
43 #ifdef USE_QUADMATH
44 #  define SNPRINTF_G(nv, buffer, size, ndig) \
45     quadmath_snprintf(buffer, size, "%.*Qg", (int)ndig, (NV)(nv))
46 #else
47 #  define SNPRINTF_G(nv, buffer, size, ndig) \
48     PERL_UNUSED_RESULT(Gconvert((NV)(nv), (int)ndig, 0, buffer))
49 #endif
50
51 #ifndef SV_COW_THRESHOLD
52 #    define SV_COW_THRESHOLD                    0   /* COW iff len > K */
53 #endif
54 #ifndef SV_COWBUF_THRESHOLD
55 #    define SV_COWBUF_THRESHOLD                 1250 /* COW iff len > K */
56 #endif
57 #ifndef SV_COW_MAX_WASTE_THRESHOLD
58 #    define SV_COW_MAX_WASTE_THRESHOLD          80   /* COW iff (len - cur) < K */
59 #endif
60 #ifndef SV_COWBUF_WASTE_THRESHOLD
61 #    define SV_COWBUF_WASTE_THRESHOLD           80   /* COW iff (len - cur) < K */
62 #endif
63 #ifndef SV_COW_MAX_WASTE_FACTOR_THRESHOLD
64 #    define SV_COW_MAX_WASTE_FACTOR_THRESHOLD   2    /* COW iff len < (cur * K) */
65 #endif
66 #ifndef SV_COWBUF_WASTE_FACTOR_THRESHOLD
67 #    define SV_COWBUF_WASTE_FACTOR_THRESHOLD    2    /* COW iff len < (cur * K) */
68 #endif
69 /* Work around compiler warnings about unsigned >= THRESHOLD when thres-
70    hold is 0. */
71 #if SV_COW_THRESHOLD
72 # define GE_COW_THRESHOLD(cur) ((cur) >= SV_COW_THRESHOLD)
73 #else
74 # define GE_COW_THRESHOLD(cur) 1
75 #endif
76 #if SV_COWBUF_THRESHOLD
77 # define GE_COWBUF_THRESHOLD(cur) ((cur) >= SV_COWBUF_THRESHOLD)
78 #else
79 # define GE_COWBUF_THRESHOLD(cur) 1
80 #endif
81 #if SV_COW_MAX_WASTE_THRESHOLD
82 # define GE_COW_MAX_WASTE_THRESHOLD(cur,len) (((len)-(cur)) < SV_COW_MAX_WASTE_THRESHOLD)
83 #else
84 # define GE_COW_MAX_WASTE_THRESHOLD(cur,len) 1
85 #endif
86 #if SV_COWBUF_WASTE_THRESHOLD
87 # define GE_COWBUF_WASTE_THRESHOLD(cur,len) (((len)-(cur)) < SV_COWBUF_WASTE_THRESHOLD)
88 #else
89 # define GE_COWBUF_WASTE_THRESHOLD(cur,len) 1
90 #endif
91 #if SV_COW_MAX_WASTE_FACTOR_THRESHOLD
92 # define GE_COW_MAX_WASTE_FACTOR_THRESHOLD(cur,len) ((len) < SV_COW_MAX_WASTE_FACTOR_THRESHOLD * (cur))
93 #else
94 # define GE_COW_MAX_WASTE_FACTOR_THRESHOLD(cur,len) 1
95 #endif
96 #if SV_COWBUF_WASTE_FACTOR_THRESHOLD
97 # define GE_COWBUF_WASTE_FACTOR_THRESHOLD(cur,len) ((len) < SV_COWBUF_WASTE_FACTOR_THRESHOLD * (cur))
98 #else
99 # define GE_COWBUF_WASTE_FACTOR_THRESHOLD(cur,len) 1
100 #endif
101
102 #define CHECK_COW_THRESHOLD(cur,len) (\
103     GE_COW_THRESHOLD((cur)) && \
104     GE_COW_MAX_WASTE_THRESHOLD((cur),(len)) && \
105     GE_COW_MAX_WASTE_FACTOR_THRESHOLD((cur),(len)) \
106 )
107 #define CHECK_COWBUF_THRESHOLD(cur,len) (\
108     GE_COWBUF_THRESHOLD((cur)) && \
109     GE_COWBUF_WASTE_THRESHOLD((cur),(len)) && \
110     GE_COWBUF_WASTE_FACTOR_THRESHOLD((cur),(len)) \
111 )
112
113 #ifdef PERL_UTF8_CACHE_ASSERT
114 /* if adding more checks watch out for the following tests:
115  *   t/op/index.t t/op/length.t t/op/pat.t t/op/substr.t
116  *   lib/utf8.t lib/Unicode/Collate/t/index.t
117  * --jhi
118  */
119 #   define ASSERT_UTF8_CACHE(cache) \
120     STMT_START { if (cache) { assert((cache)[0] <= (cache)[1]); \
121                               assert((cache)[2] <= (cache)[3]); \
122                               assert((cache)[3] <= (cache)[1]);} \
123                               } STMT_END
124 #else
125 #   define ASSERT_UTF8_CACHE(cache) NOOP
126 #endif
127
128 static const char S_destroy[] = "DESTROY";
129 #define S_destroy_len (sizeof(S_destroy)-1)
130
131 /* ============================================================================
132
133 =head1 Allocation and deallocation of SVs.
134 An SV (or AV, HV, etc.) is allocated in two parts: the head (struct
135 sv, av, hv...) contains type and reference count information, and for
136 many types, a pointer to the body (struct xrv, xpv, xpviv...), which
137 contains fields specific to each type.  Some types store all they need
138 in the head, so don't have a body.
139
140 In all but the most memory-paranoid configurations (ex: PURIFY), heads
141 and bodies are allocated out of arenas, which by default are
142 approximately 4K chunks of memory parcelled up into N heads or bodies.
143 Sv-bodies are allocated by their sv-type, guaranteeing size
144 consistency needed to allocate safely from arrays.
145
146 For SV-heads, the first slot in each arena is reserved, and holds a
147 link to the next arena, some flags, and a note of the number of slots.
148 Snaked through each arena chain is a linked list of free items; when
149 this becomes empty, an extra arena is allocated and divided up into N
150 items which are threaded into the free list.
151
152 SV-bodies are similar, but they use arena-sets by default, which
153 separate the link and info from the arena itself, and reclaim the 1st
154 slot in the arena.  SV-bodies are further described later.
155
156 The following global variables are associated with arenas:
157
158  PL_sv_arenaroot     pointer to list of SV arenas
159  PL_sv_root          pointer to list of free SV structures
160
161  PL_body_arenas      head of linked-list of body arenas
162  PL_body_roots[]     array of pointers to list of free bodies of svtype
163                      arrays are indexed by the svtype needed
164
165 A few special SV heads are not allocated from an arena, but are
166 instead directly created in the interpreter structure, eg PL_sv_undef.
167 The size of arenas can be changed from the default by setting
168 PERL_ARENA_SIZE appropriately at compile time.
169
170 The SV arena serves the secondary purpose of allowing still-live SVs
171 to be located and destroyed during final cleanup.
172
173 At the lowest level, the macros new_SV() and del_SV() grab and free
174 an SV head.  (If debugging with -DD, del_SV() calls the function S_del_sv()
175 to return the SV to the free list with error checking.) new_SV() calls
176 more_sv() / sv_add_arena() to add an extra arena if the free list is empty.
177 SVs in the free list have their SvTYPE field set to all ones.
178
179 At the time of very final cleanup, sv_free_arenas() is called from
180 perl_destruct() to physically free all the arenas allocated since the
181 start of the interpreter.
182
183 The function visit() scans the SV arenas list, and calls a specified
184 function for each SV it finds which is still live - ie which has an SvTYPE
185 other than all 1's, and a non-zero SvREFCNT. visit() is used by the
186 following functions (specified as [function that calls visit()] / [function
187 called by visit() for each SV]):
188
189     sv_report_used() / do_report_used()
190                         dump all remaining SVs (debugging aid)
191
192     sv_clean_objs() / do_clean_objs(),do_clean_named_objs(),
193                       do_clean_named_io_objs(),do_curse()
194                         Attempt to free all objects pointed to by RVs,
195                         try to do the same for all objects indir-
196                         ectly referenced by typeglobs too, and
197                         then do a final sweep, cursing any
198                         objects that remain.  Called once from
199                         perl_destruct(), prior to calling sv_clean_all()
200                         below.
201
202     sv_clean_all() / do_clean_all()
203                         SvREFCNT_dec(sv) each remaining SV, possibly
204                         triggering an sv_free(). It also sets the
205                         SVf_BREAK flag on the SV to indicate that the
206                         refcnt has been artificially lowered, and thus
207                         stopping sv_free() from giving spurious warnings
208                         about SVs which unexpectedly have a refcnt
209                         of zero.  called repeatedly from perl_destruct()
210                         until there are no SVs left.
211
212 =head2 Arena allocator API Summary
213
214 Private API to rest of sv.c
215
216     new_SV(),  del_SV(),
217
218     new_XPVNV(), del_XPVGV(),
219     etc
220
221 Public API:
222
223     sv_report_used(), sv_clean_objs(), sv_clean_all(), sv_free_arenas()
224
225 =cut
226
227  * ========================================================================= */
228
229 /*
230  * "A time to plant, and a time to uproot what was planted..."
231  */
232
233 #ifdef PERL_MEM_LOG
234 #  define MEM_LOG_NEW_SV(sv, file, line, func)  \
235             Perl_mem_log_new_sv(sv, file, line, func)
236 #  define MEM_LOG_DEL_SV(sv, file, line, func)  \
237             Perl_mem_log_del_sv(sv, file, line, func)
238 #else
239 #  define MEM_LOG_NEW_SV(sv, file, line, func)  NOOP
240 #  define MEM_LOG_DEL_SV(sv, file, line, func)  NOOP
241 #endif
242
243 #ifdef DEBUG_LEAKING_SCALARS
244 #  define FREE_SV_DEBUG_FILE(sv) STMT_START { \
245         if ((sv)->sv_debug_file) PerlMemShared_free((sv)->sv_debug_file); \
246     } STMT_END
247 #  define DEBUG_SV_SERIAL(sv)                                               \
248     DEBUG_m(PerlIO_printf(Perl_debug_log, "0x%" UVxf ": (%05ld) del_SV\n",    \
249             PTR2UV(sv), (long)(sv)->sv_debug_serial))
250 #else
251 #  define FREE_SV_DEBUG_FILE(sv)
252 #  define DEBUG_SV_SERIAL(sv)   NOOP
253 #endif
254
255 #ifdef PERL_POISON
256 #  define SvARENA_CHAIN(sv)     ((sv)->sv_u.svu_rv)
257 #  define SvARENA_CHAIN_SET(sv,val)     (sv)->sv_u.svu_rv = MUTABLE_SV((val))
258 /* Whilst I'd love to do this, it seems that things like to check on
259    unreferenced scalars
260 #  define POISON_SV_HEAD(sv)    PoisonNew(sv, 1, struct STRUCT_SV)
261 */
262 #  define POISON_SV_HEAD(sv)    PoisonNew(&SvANY(sv), 1, void *), \
263                                 PoisonNew(&SvREFCNT(sv), 1, U32)
264 #else
265 #  define SvARENA_CHAIN(sv)     SvANY(sv)
266 #  define SvARENA_CHAIN_SET(sv,val)     SvANY(sv) = (void *)(val)
267 #  define POISON_SV_HEAD(sv)
268 #endif
269
270 /* Mark an SV head as unused, and add to free list.
271  *
272  * If SVf_BREAK is set, skip adding it to the free list, as this SV had
273  * its refcount artificially decremented during global destruction, so
274  * there may be dangling pointers to it. The last thing we want in that
275  * case is for it to be reused. */
276
277 #define plant_SV(p) \
278     STMT_START {                                        \
279         const U32 old_flags = SvFLAGS(p);                       \
280         MEM_LOG_DEL_SV(p, __FILE__, __LINE__, FUNCTION__);  \
281         DEBUG_SV_SERIAL(p);                             \
282         FREE_SV_DEBUG_FILE(p);                          \
283         POISON_SV_HEAD(p);                              \
284         SvFLAGS(p) = SVTYPEMASK;                        \
285         if (!(old_flags & SVf_BREAK)) {         \
286             SvARENA_CHAIN_SET(p, PL_sv_root);   \
287             PL_sv_root = (p);                           \
288         }                                               \
289         --PL_sv_count;                                  \
290     } STMT_END
291
292 #define uproot_SV(p) \
293     STMT_START {                                        \
294         (p) = PL_sv_root;                               \
295         PL_sv_root = MUTABLE_SV(SvARENA_CHAIN(p));              \
296         ++PL_sv_count;                                  \
297     } STMT_END
298
299
300 /* make some more SVs by adding another arena */
301
302 STATIC SV*
303 S_more_sv(pTHX)
304 {
305     SV* sv;
306     char *chunk;                /* must use New here to match call to */
307     Newx(chunk,PERL_ARENA_SIZE,char);  /* Safefree() in sv_free_arenas() */
308     sv_add_arena(chunk, PERL_ARENA_SIZE, 0);
309     uproot_SV(sv);
310     return sv;
311 }
312
313 /* new_SV(): return a new, empty SV head */
314
315 #ifdef DEBUG_LEAKING_SCALARS
316 /* provide a real function for a debugger to play with */
317 STATIC SV*
318 S_new_SV(pTHX_ const char *file, int line, const char *func)
319 {
320     SV* sv;
321
322     if (PL_sv_root)
323         uproot_SV(sv);
324     else
325         sv = S_more_sv(aTHX);
326     SvANY(sv) = 0;
327     SvREFCNT(sv) = 1;
328     SvFLAGS(sv) = 0;
329     sv->sv_debug_optype = PL_op ? PL_op->op_type : 0;
330     sv->sv_debug_line = (U16) (PL_parser && PL_parser->copline != NOLINE
331                 ? PL_parser->copline
332                 :  PL_curcop
333                     ? CopLINE(PL_curcop)
334                     : 0
335             );
336     sv->sv_debug_inpad = 0;
337     sv->sv_debug_parent = NULL;
338     sv->sv_debug_file = PL_curcop ? savesharedpv(CopFILE(PL_curcop)): NULL;
339
340     sv->sv_debug_serial = PL_sv_serial++;
341
342     MEM_LOG_NEW_SV(sv, file, line, func);
343     DEBUG_m(PerlIO_printf(Perl_debug_log, "0x%" UVxf ": (%05ld) new_SV (from %s:%d [%s])\n",
344             PTR2UV(sv), (long)sv->sv_debug_serial, file, line, func));
345
346     return sv;
347 }
348 #  define new_SV(p) (p)=S_new_SV(aTHX_ __FILE__, __LINE__, FUNCTION__)
349
350 #else
351 #  define new_SV(p) \
352     STMT_START {                                        \
353         if (PL_sv_root)                                 \
354             uproot_SV(p);                               \
355         else                                            \
356             (p) = S_more_sv(aTHX);                      \
357         SvANY(p) = 0;                                   \
358         SvREFCNT(p) = 1;                                \
359         SvFLAGS(p) = 0;                                 \
360         MEM_LOG_NEW_SV(p, __FILE__, __LINE__, FUNCTION__);  \
361     } STMT_END
362 #endif
363
364
365 /* del_SV(): return an empty SV head to the free list */
366
367 #ifdef DEBUGGING
368
369 #define del_SV(p) \
370     STMT_START {                                        \
371         if (DEBUG_D_TEST)                               \
372             del_sv(p);                                  \
373         else                                            \
374             plant_SV(p);                                \
375     } STMT_END
376
377 STATIC void
378 S_del_sv(pTHX_ SV *p)
379 {
380     PERL_ARGS_ASSERT_DEL_SV;
381
382     if (DEBUG_D_TEST) {
383         SV* sva;
384         bool ok = 0;
385         for (sva = PL_sv_arenaroot; sva; sva = MUTABLE_SV(SvANY(sva))) {
386             const SV * const sv = sva + 1;
387             const SV * const svend = &sva[SvREFCNT(sva)];
388             if (p >= sv && p < svend) {
389                 ok = 1;
390                 break;
391             }
392         }
393         if (!ok) {
394             Perl_ck_warner_d(aTHX_ packWARN(WARN_INTERNAL),
395                              "Attempt to free non-arena SV: 0x%" UVxf
396                              pTHX__FORMAT, PTR2UV(p) pTHX__VALUE);
397             return;
398         }
399     }
400     plant_SV(p);
401 }
402
403 #else /* ! DEBUGGING */
404
405 #define del_SV(p)   plant_SV(p)
406
407 #endif /* DEBUGGING */
408
409
410 /*
411 =head1 SV Manipulation Functions
412
413 =for apidoc sv_add_arena
414
415 Given a chunk of memory, link it to the head of the list of arenas,
416 and split it into a list of free SVs.
417
418 =cut
419 */
420
421 static void
422 S_sv_add_arena(pTHX_ char *const ptr, const U32 size, const U32 flags)
423 {
424     SV *const sva = MUTABLE_SV(ptr);
425     SV* sv;
426     SV* svend;
427
428     PERL_ARGS_ASSERT_SV_ADD_ARENA;
429
430     /* The first SV in an arena isn't an SV. */
431     SvANY(sva) = (void *) PL_sv_arenaroot;              /* ptr to next arena */
432     SvREFCNT(sva) = size / sizeof(SV);          /* number of SV slots */
433     SvFLAGS(sva) = flags;                       /* FAKE if not to be freed */
434
435     PL_sv_arenaroot = sva;
436     PL_sv_root = sva + 1;
437
438     svend = &sva[SvREFCNT(sva) - 1];
439     sv = sva + 1;
440     while (sv < svend) {
441         SvARENA_CHAIN_SET(sv, (sv + 1));
442 #ifdef DEBUGGING
443         SvREFCNT(sv) = 0;
444 #endif
445         /* Must always set typemask because it's always checked in on cleanup
446            when the arenas are walked looking for objects.  */
447         SvFLAGS(sv) = SVTYPEMASK;
448         sv++;
449     }
450     SvARENA_CHAIN_SET(sv, 0);
451 #ifdef DEBUGGING
452     SvREFCNT(sv) = 0;
453 #endif
454     SvFLAGS(sv) = SVTYPEMASK;
455 }
456
457 /* visit(): call the named function for each non-free SV in the arenas
458  * whose flags field matches the flags/mask args. */
459
460 STATIC I32
461 S_visit(pTHX_ SVFUNC_t f, const U32 flags, const U32 mask)
462 {
463     SV* sva;
464     I32 visited = 0;
465
466     PERL_ARGS_ASSERT_VISIT;
467
468     for (sva = PL_sv_arenaroot; sva; sva = MUTABLE_SV(SvANY(sva))) {
469         const SV * const svend = &sva[SvREFCNT(sva)];
470         SV* sv;
471         for (sv = sva + 1; sv < svend; ++sv) {
472             if (SvTYPE(sv) != (svtype)SVTYPEMASK
473                     && (sv->sv_flags & mask) == flags
474                     && SvREFCNT(sv))
475             {
476                 (*f)(aTHX_ sv);
477                 ++visited;
478             }
479         }
480     }
481     return visited;
482 }
483
484 #ifdef DEBUGGING
485
486 /* called by sv_report_used() for each live SV */
487
488 static void
489 do_report_used(pTHX_ SV *const sv)
490 {
491     if (SvTYPE(sv) != (svtype)SVTYPEMASK) {
492         PerlIO_printf(Perl_debug_log, "****\n");
493         sv_dump(sv);
494     }
495 }
496 #endif
497
498 /*
499 =for apidoc sv_report_used
500
501 Dump the contents of all SVs not yet freed (debugging aid).
502
503 =cut
504 */
505
506 void
507 Perl_sv_report_used(pTHX)
508 {
509 #ifdef DEBUGGING
510     visit(do_report_used, 0, 0);
511 #else
512     PERL_UNUSED_CONTEXT;
513 #endif
514 }
515
516 /* called by sv_clean_objs() for each live SV */
517
518 static void
519 do_clean_objs(pTHX_ SV *const ref)
520 {
521     assert (SvROK(ref));
522     {
523         SV * const target = SvRV(ref);
524         if (SvOBJECT(target)) {
525             DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning object ref:\n "), sv_dump(ref)));
526             if (SvWEAKREF(ref)) {
527                 sv_del_backref(target, ref);
528                 SvWEAKREF_off(ref);
529                 SvRV_set(ref, NULL);
530             } else {
531                 SvROK_off(ref);
532                 SvRV_set(ref, NULL);
533                 SvREFCNT_dec_NN(target);
534             }
535         }
536     }
537 }
538
539
540 /* clear any slots in a GV which hold objects - except IO;
541  * called by sv_clean_objs() for each live GV */
542
543 static void
544 do_clean_named_objs(pTHX_ SV *const sv)
545 {
546     SV *obj;
547     assert(SvTYPE(sv) == SVt_PVGV);
548     assert(isGV_with_GP(sv));
549     if (!GvGP(sv))
550         return;
551
552     /* freeing GP entries may indirectly free the current GV;
553      * hold onto it while we mess with the GP slots */
554     SvREFCNT_inc(sv);
555
556     if ( ((obj = GvSV(sv) )) && SvOBJECT(obj)) {
557         DEBUG_D((PerlIO_printf(Perl_debug_log,
558                 "Cleaning named glob SV object:\n "), sv_dump(obj)));
559         GvSV(sv) = NULL;
560         SvREFCNT_dec_NN(obj);
561     }
562     if ( ((obj = MUTABLE_SV(GvAV(sv)) )) && SvOBJECT(obj)) {
563         DEBUG_D((PerlIO_printf(Perl_debug_log,
564                 "Cleaning named glob AV object:\n "), sv_dump(obj)));
565         GvAV(sv) = NULL;
566         SvREFCNT_dec_NN(obj);
567     }
568     if ( ((obj = MUTABLE_SV(GvHV(sv)) )) && SvOBJECT(obj)) {
569         DEBUG_D((PerlIO_printf(Perl_debug_log,
570                 "Cleaning named glob HV object:\n "), sv_dump(obj)));
571         GvHV(sv) = NULL;
572         SvREFCNT_dec_NN(obj);
573     }
574     if ( ((obj = MUTABLE_SV(GvCV(sv)) )) && SvOBJECT(obj)) {
575         DEBUG_D((PerlIO_printf(Perl_debug_log,
576                 "Cleaning named glob CV object:\n "), sv_dump(obj)));
577         GvCV_set(sv, NULL);
578         SvREFCNT_dec_NN(obj);
579     }
580     SvREFCNT_dec_NN(sv); /* undo the inc above */
581 }
582
583 /* clear any IO slots in a GV which hold objects (except stderr, defout);
584  * called by sv_clean_objs() for each live GV */
585
586 static void
587 do_clean_named_io_objs(pTHX_ SV *const sv)
588 {
589     SV *obj;
590     assert(SvTYPE(sv) == SVt_PVGV);
591     assert(isGV_with_GP(sv));
592     if (!GvGP(sv) || sv == (SV*)PL_stderrgv || sv == (SV*)PL_defoutgv)
593         return;
594
595     SvREFCNT_inc(sv);
596     if ( ((obj = MUTABLE_SV(GvIO(sv)) )) && SvOBJECT(obj)) {
597         DEBUG_D((PerlIO_printf(Perl_debug_log,
598                 "Cleaning named glob IO object:\n "), sv_dump(obj)));
599         GvIOp(sv) = NULL;
600         SvREFCNT_dec_NN(obj);
601     }
602     SvREFCNT_dec_NN(sv); /* undo the inc above */
603 }
604
605 /* Void wrapper to pass to visit() */
606 static void
607 do_curse(pTHX_ SV * const sv) {
608     if ((PL_stderrgv && GvGP(PL_stderrgv) && (SV*)GvIO(PL_stderrgv) == sv)
609      || (PL_defoutgv && GvGP(PL_defoutgv) && (SV*)GvIO(PL_defoutgv) == sv))
610         return;
611     (void)curse(sv, 0);
612 }
613
614 /*
615 =for apidoc sv_clean_objs
616
617 Attempt to destroy all objects not yet freed.
618
619 =cut
620 */
621
622 void
623 Perl_sv_clean_objs(pTHX)
624 {
625     GV *olddef, *olderr;
626     PL_in_clean_objs = TRUE;
627     visit(do_clean_objs, SVf_ROK, SVf_ROK);
628     /* Some barnacles may yet remain, clinging to typeglobs.
629      * Run the non-IO destructors first: they may want to output
630      * error messages, close files etc */
631     visit(do_clean_named_objs, SVt_PVGV|SVpgv_GP, SVTYPEMASK|SVp_POK|SVpgv_GP);
632     visit(do_clean_named_io_objs, SVt_PVGV|SVpgv_GP, SVTYPEMASK|SVp_POK|SVpgv_GP);
633     /* And if there are some very tenacious barnacles clinging to arrays,
634        closures, or what have you.... */
635     visit(do_curse, SVs_OBJECT, SVs_OBJECT);
636     olddef = PL_defoutgv;
637     PL_defoutgv = NULL; /* disable skip of PL_defoutgv */
638     if (olddef && isGV_with_GP(olddef))
639         do_clean_named_io_objs(aTHX_ MUTABLE_SV(olddef));
640     olderr = PL_stderrgv;
641     PL_stderrgv = NULL; /* disable skip of PL_stderrgv */
642     if (olderr && isGV_with_GP(olderr))
643         do_clean_named_io_objs(aTHX_ MUTABLE_SV(olderr));
644     SvREFCNT_dec(olddef);
645     PL_in_clean_objs = FALSE;
646 }
647
648 /* called by sv_clean_all() for each live SV */
649
650 static void
651 do_clean_all(pTHX_ SV *const sv)
652 {
653     if (sv == (const SV *) PL_fdpid || sv == (const SV *)PL_strtab) {
654         /* don't clean pid table and strtab */
655         return;
656     }
657     DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning loops: SV at 0x%" UVxf "\n", PTR2UV(sv)) ));
658     SvFLAGS(sv) |= SVf_BREAK;
659     SvREFCNT_dec_NN(sv);
660 }
661
662 /*
663 =for apidoc sv_clean_all
664
665 Decrement the refcnt of each remaining SV, possibly triggering a
666 cleanup.  This function may have to be called multiple times to free
667 SVs which are in complex self-referential hierarchies.
668
669 =cut
670 */
671
672 I32
673 Perl_sv_clean_all(pTHX)
674 {
675     I32 cleaned;
676     PL_in_clean_all = TRUE;
677     cleaned = visit(do_clean_all, 0,0);
678     return cleaned;
679 }
680
681 /*
682   ARENASETS: a meta-arena implementation which separates arena-info
683   into struct arena_set, which contains an array of struct
684   arena_descs, each holding info for a single arena.  By separating
685   the meta-info from the arena, we recover the 1st slot, formerly
686   borrowed for list management.  The arena_set is about the size of an
687   arena, avoiding the needless malloc overhead of a naive linked-list.
688
689   The cost is 1 arena-set malloc per ~320 arena-mallocs, + the unused
690   memory in the last arena-set (1/2 on average).  In trade, we get
691   back the 1st slot in each arena (ie 1.7% of a CV-arena, less for
692   smaller types).  The recovery of the wasted space allows use of
693   small arenas for large, rare body types, by changing array* fields
694   in body_details_by_type[] below.
695 */
696 struct arena_desc {
697     char       *arena;          /* the raw storage, allocated aligned */
698     size_t      size;           /* its size ~4k typ */
699     svtype      utype;          /* bodytype stored in arena */
700 };
701
702 struct arena_set;
703
704 /* Get the maximum number of elements in set[] such that struct arena_set
705    will fit within PERL_ARENA_SIZE, which is probably just under 4K, and
706    therefore likely to be 1 aligned memory page.  */
707
708 #define ARENAS_PER_SET  ((PERL_ARENA_SIZE - sizeof(struct arena_set*) \
709                           - 2 * sizeof(int)) / sizeof (struct arena_desc))
710
711 struct arena_set {
712     struct arena_set* next;
713     unsigned int   set_size;    /* ie ARENAS_PER_SET */
714     unsigned int   curr;        /* index of next available arena-desc */
715     struct arena_desc set[ARENAS_PER_SET];
716 };
717
718 /*
719 =for apidoc sv_free_arenas
720
721 Deallocate the memory used by all arenas.  Note that all the individual SV
722 heads and bodies within the arenas must already have been freed.
723
724 =cut
725
726 */
727 void
728 Perl_sv_free_arenas(pTHX)
729 {
730     SV* sva;
731     SV* svanext;
732     unsigned int i;
733
734     /* Free arenas here, but be careful about fake ones.  (We assume
735        contiguity of the fake ones with the corresponding real ones.) */
736
737     for (sva = PL_sv_arenaroot; sva; sva = svanext) {
738         svanext = MUTABLE_SV(SvANY(sva));
739         while (svanext && SvFAKE(svanext))
740             svanext = MUTABLE_SV(SvANY(svanext));
741
742         if (!SvFAKE(sva))
743             Safefree(sva);
744     }
745
746     {
747         struct arena_set *aroot = (struct arena_set*) PL_body_arenas;
748
749         while (aroot) {
750             struct arena_set *current = aroot;
751             i = aroot->curr;
752             while (i--) {
753                 assert(aroot->set[i].arena);
754                 Safefree(aroot->set[i].arena);
755             }
756             aroot = aroot->next;
757             Safefree(current);
758         }
759     }
760     PL_body_arenas = 0;
761
762     i = PERL_ARENA_ROOTS_SIZE;
763     while (i--)
764         PL_body_roots[i] = 0;
765
766     PL_sv_arenaroot = 0;
767     PL_sv_root = 0;
768 }
769
770 /*
771   Here are mid-level routines that manage the allocation of bodies out
772   of the various arenas.  There are 5 kinds of arenas:
773
774   1. SV-head arenas, which are discussed and handled above
775   2. regular body arenas
776   3. arenas for reduced-size bodies
777   4. Hash-Entry arenas
778
779   Arena types 2 & 3 are chained by body-type off an array of
780   arena-root pointers, which is indexed by svtype.  Some of the
781   larger/less used body types are malloced singly, since a large
782   unused block of them is wasteful.  Also, several svtypes dont have
783   bodies; the data fits into the sv-head itself.  The arena-root
784   pointer thus has a few unused root-pointers (which may be hijacked
785   later for arena types 4,5)
786
787   3 differs from 2 as an optimization; some body types have several
788   unused fields in the front of the structure (which are kept in-place
789   for consistency).  These bodies can be allocated in smaller chunks,
790   because the leading fields arent accessed.  Pointers to such bodies
791   are decremented to point at the unused 'ghost' memory, knowing that
792   the pointers are used with offsets to the real memory.
793
794
795 =head1 SV-Body Allocation
796
797 =cut
798
799 Allocation of SV-bodies is similar to SV-heads, differing as follows;
800 the allocation mechanism is used for many body types, so is somewhat
801 more complicated, it uses arena-sets, and has no need for still-live
802 SV detection.
803
804 At the outermost level, (new|del)_X*V macros return bodies of the
805 appropriate type.  These macros call either (new|del)_body_type or
806 (new|del)_body_allocated macro pairs, depending on specifics of the
807 type.  Most body types use the former pair, the latter pair is used to
808 allocate body types with "ghost fields".
809
810 "ghost fields" are fields that are unused in certain types, and
811 consequently don't need to actually exist.  They are declared because
812 they're part of a "base type", which allows use of functions as
813 methods.  The simplest examples are AVs and HVs, 2 aggregate types
814 which don't use the fields which support SCALAR semantics.
815
816 For these types, the arenas are carved up into appropriately sized
817 chunks, we thus avoid wasted memory for those unaccessed members.
818 When bodies are allocated, we adjust the pointer back in memory by the
819 size of the part not allocated, so it's as if we allocated the full
820 structure.  (But things will all go boom if you write to the part that
821 is "not there", because you'll be overwriting the last members of the
822 preceding structure in memory.)
823
824 We calculate the correction using the STRUCT_OFFSET macro on the first
825 member present.  If the allocated structure is smaller (no initial NV
826 actually allocated) then the net effect is to subtract the size of the NV
827 from the pointer, to return a new pointer as if an initial NV were actually
828 allocated.  (We were using structures named *_allocated for this, but
829 this turned out to be a subtle bug, because a structure without an NV
830 could have a lower alignment constraint, but the compiler is allowed to
831 optimised accesses based on the alignment constraint of the actual pointer
832 to the full structure, for example, using a single 64 bit load instruction
833 because it "knows" that two adjacent 32 bit members will be 8-byte aligned.)
834
835 This is the same trick as was used for NV and IV bodies.  Ironically it
836 doesn't need to be used for NV bodies any more, because NV is now at
837 the start of the structure.  IV bodies, and also in some builds NV bodies,
838 don't need it either, because they are no longer allocated.
839
840 In turn, the new_body_* allocators call S_new_body(), which invokes
841 new_body_inline macro, which takes a lock, and takes a body off the
842 linked list at PL_body_roots[sv_type], calling Perl_more_bodies() if
843 necessary to refresh an empty list.  Then the lock is released, and
844 the body is returned.
845
846 Perl_more_bodies allocates a new arena, and carves it up into an array of N
847 bodies, which it strings into a linked list.  It looks up arena-size
848 and body-size from the body_details table described below, thus
849 supporting the multiple body-types.
850
851 If PURIFY is defined, or PERL_ARENA_SIZE=0, arenas are not used, and
852 the (new|del)_X*V macros are mapped directly to malloc/free.
853
854 For each sv-type, struct body_details bodies_by_type[] carries
855 parameters which control these aspects of SV handling:
856
857 Arena_size determines whether arenas are used for this body type, and if
858 so, how big they are.  PURIFY or PERL_ARENA_SIZE=0 set this field to
859 zero, forcing individual mallocs and frees.
860
861 Body_size determines how big a body is, and therefore how many fit into
862 each arena.  Offset carries the body-pointer adjustment needed for
863 "ghost fields", and is used in *_allocated macros.
864
865 But its main purpose is to parameterize info needed in
866 Perl_sv_upgrade().  The info here dramatically simplifies the function
867 vs the implementation in 5.8.8, making it table-driven.  All fields
868 are used for this, except for arena_size.
869
870 For the sv-types that have no bodies, arenas are not used, so those
871 PL_body_roots[sv_type] are unused, and can be overloaded.  In
872 something of a special case, SVt_NULL is borrowed for HE arenas;
873 PL_body_roots[HE_SVSLOT=SVt_NULL] is filled by S_more_he, but the
874 bodies_by_type[SVt_NULL] slot is not used, as the table is not
875 available in hv.c.
876
877 */
878
879 struct body_details {
880     U8 body_size;       /* Size to allocate  */
881     U8 copy;            /* Size of structure to copy (may be shorter)  */
882     U8 offset;          /* Size of unalloced ghost fields to first alloced field*/
883     PERL_BITFIELD8 type : 4;        /* We have space for a sanity check. */
884     PERL_BITFIELD8 cant_upgrade : 1;/* Cannot upgrade this type */
885     PERL_BITFIELD8 zero_nv : 1;     /* zero the NV when upgrading from this */
886     PERL_BITFIELD8 arena : 1;       /* Allocated from an arena */
887     U32 arena_size;                 /* Size of arena to allocate */
888 };
889
890 #define HADNV FALSE
891 #define NONV TRUE
892
893
894 #ifdef PURIFY
895 /* With -DPURFIY we allocate everything directly, and don't use arenas.
896    This seems a rather elegant way to simplify some of the code below.  */
897 #define HASARENA FALSE
898 #else
899 #define HASARENA TRUE
900 #endif
901 #define NOARENA FALSE
902
903 /* Size the arenas to exactly fit a given number of bodies.  A count
904    of 0 fits the max number bodies into a PERL_ARENA_SIZE.block,
905    simplifying the default.  If count > 0, the arena is sized to fit
906    only that many bodies, allowing arenas to be used for large, rare
907    bodies (XPVFM, XPVIO) without undue waste.  The arena size is
908    limited by PERL_ARENA_SIZE, so we can safely oversize the
909    declarations.
910  */
911 #define FIT_ARENA0(body_size)                           \
912     ((size_t)(PERL_ARENA_SIZE / body_size) * body_size)
913 #define FIT_ARENAn(count,body_size)                     \
914     ( count * body_size <= PERL_ARENA_SIZE)             \
915     ? count * body_size                                 \
916     : FIT_ARENA0 (body_size)
917 #define FIT_ARENA(count,body_size)                      \
918    (U32)(count                                          \
919     ? FIT_ARENAn (count, body_size)                     \
920     : FIT_ARENA0 (body_size))
921
922 /* Calculate the length to copy. Specifically work out the length less any
923    final padding the compiler needed to add.  See the comment in sv_upgrade
924    for why copying the padding proved to be a bug.  */
925
926 #define copy_length(type, last_member) \
927         STRUCT_OFFSET(type, last_member) \
928         + sizeof (((type*)SvANY((const SV *)0))->last_member)
929
930 static const struct body_details bodies_by_type[] = {
931     /* HEs use this offset for their arena.  */
932     { 0, 0, 0, SVt_NULL, FALSE, NONV, NOARENA, 0 },
933
934     /* IVs are in the head, so the allocation size is 0.  */
935     { 0,
936       sizeof(IV), /* This is used to copy out the IV body.  */
937       STRUCT_OFFSET(XPVIV, xiv_iv), SVt_IV, FALSE, NONV,
938       NOARENA /* IVS don't need an arena  */, 0
939     },
940
941 #if NVSIZE <= IVSIZE
942     { 0, sizeof(NV),
943       STRUCT_OFFSET(XPVNV, xnv_u),
944       SVt_NV, FALSE, HADNV, NOARENA, 0 },
945 #else
946     { sizeof(NV), sizeof(NV),
947       STRUCT_OFFSET(XPVNV, xnv_u),
948       SVt_NV, FALSE, HADNV, HASARENA, FIT_ARENA(0, sizeof(NV)) },
949 #endif
950
951     { sizeof(XPV) - STRUCT_OFFSET(XPV, xpv_cur),
952       copy_length(XPV, xpv_len) - STRUCT_OFFSET(XPV, xpv_cur),
953       + STRUCT_OFFSET(XPV, xpv_cur),
954       SVt_PV, FALSE, NONV, HASARENA,
955       FIT_ARENA(0, sizeof(XPV) - STRUCT_OFFSET(XPV, xpv_cur)) },
956
957     { sizeof(XINVLIST) - STRUCT_OFFSET(XPV, xpv_cur),
958       copy_length(XINVLIST, is_offset) - STRUCT_OFFSET(XPV, xpv_cur),
959       + STRUCT_OFFSET(XPV, xpv_cur),
960       SVt_INVLIST, TRUE, NONV, HASARENA,
961       FIT_ARENA(0, sizeof(XINVLIST) - STRUCT_OFFSET(XPV, xpv_cur)) },
962
963     { sizeof(XPVIV) - STRUCT_OFFSET(XPV, xpv_cur),
964       copy_length(XPVIV, xiv_u) - STRUCT_OFFSET(XPV, xpv_cur),
965       + STRUCT_OFFSET(XPV, xpv_cur),
966       SVt_PVIV, FALSE, NONV, HASARENA,
967       FIT_ARENA(0, sizeof(XPVIV) - STRUCT_OFFSET(XPV, xpv_cur)) },
968
969     { sizeof(XPVNV) - STRUCT_OFFSET(XPV, xpv_cur),
970       copy_length(XPVNV, xnv_u) - STRUCT_OFFSET(XPV, xpv_cur),
971       + STRUCT_OFFSET(XPV, xpv_cur),
972       SVt_PVNV, FALSE, HADNV, HASARENA,
973       FIT_ARENA(0, sizeof(XPVNV) - STRUCT_OFFSET(XPV, xpv_cur)) },
974
975     { sizeof(XPVMG), copy_length(XPVMG, xnv_u), 0, SVt_PVMG, FALSE, HADNV,
976       HASARENA, FIT_ARENA(0, sizeof(XPVMG)) },
977
978     { sizeof(regexp),
979       sizeof(regexp),
980       0,
981       SVt_REGEXP, TRUE, NONV, HASARENA,
982       FIT_ARENA(0, sizeof(regexp))
983     },
984
985     { sizeof(XPVGV), sizeof(XPVGV), 0, SVt_PVGV, TRUE, HADNV,
986       HASARENA, FIT_ARENA(0, sizeof(XPVGV)) },
987     
988     { sizeof(XPVLV), sizeof(XPVLV), 0, SVt_PVLV, TRUE, HADNV,
989       HASARENA, FIT_ARENA(0, sizeof(XPVLV)) },
990
991     { sizeof(XPVAV),
992       copy_length(XPVAV, xav_alloc),
993       0,
994       SVt_PVAV, TRUE, NONV, HASARENA,
995       FIT_ARENA(0, sizeof(XPVAV)) },
996
997     { sizeof(XPVHV),
998       copy_length(XPVHV, xhv_max),
999       0,
1000       SVt_PVHV, TRUE, NONV, HASARENA,
1001       FIT_ARENA(0, sizeof(XPVHV)) },
1002
1003     { sizeof(XPVCV),
1004       sizeof(XPVCV),
1005       0,
1006       SVt_PVCV, TRUE, NONV, HASARENA,
1007       FIT_ARENA(0, sizeof(XPVCV)) },
1008
1009     { sizeof(XPVFM),
1010       sizeof(XPVFM),
1011       0,
1012       SVt_PVFM, TRUE, NONV, NOARENA,
1013       FIT_ARENA(20, sizeof(XPVFM)) },
1014
1015     { sizeof(XPVIO),
1016       sizeof(XPVIO),
1017       0,
1018       SVt_PVIO, TRUE, NONV, HASARENA,
1019       FIT_ARENA(24, sizeof(XPVIO)) },
1020 };
1021
1022 #define new_body_allocated(sv_type)             \
1023     (void *)((char *)S_new_body(aTHX_ sv_type)  \
1024              - bodies_by_type[sv_type].offset)
1025
1026 /* return a thing to the free list */
1027
1028 #define del_body(thing, root)                           \
1029     STMT_START {                                        \
1030         void ** const thing_copy = (void **)thing;      \
1031         *thing_copy = *root;                            \
1032         *root = (void*)thing_copy;                      \
1033     } STMT_END
1034
1035 #ifdef PURIFY
1036 #if !(NVSIZE <= IVSIZE)
1037 #  define new_XNV()     safemalloc(sizeof(XPVNV))
1038 #endif
1039 #define new_XPVNV()     safemalloc(sizeof(XPVNV))
1040 #define new_XPVMG()     safemalloc(sizeof(XPVMG))
1041
1042 #define del_XPVGV(p)    safefree(p)
1043
1044 #else /* !PURIFY */
1045
1046 #if !(NVSIZE <= IVSIZE)
1047 #  define new_XNV()     new_body_allocated(SVt_NV)
1048 #endif
1049 #define new_XPVNV()     new_body_allocated(SVt_PVNV)
1050 #define new_XPVMG()     new_body_allocated(SVt_PVMG)
1051
1052 #define del_XPVGV(p)    del_body(p + bodies_by_type[SVt_PVGV].offset,   \
1053                                  &PL_body_roots[SVt_PVGV])
1054
1055 #endif /* PURIFY */
1056
1057 /* no arena for you! */
1058
1059 #define new_NOARENA(details) \
1060         safemalloc((details)->body_size + (details)->offset)
1061 #define new_NOARENAZ(details) \
1062         safecalloc((details)->body_size + (details)->offset, 1)
1063
1064 void *
1065 Perl_more_bodies (pTHX_ const svtype sv_type, const size_t body_size,
1066                   const size_t arena_size)
1067 {
1068     void ** const root = &PL_body_roots[sv_type];
1069     struct arena_desc *adesc;
1070     struct arena_set *aroot = (struct arena_set *) PL_body_arenas;
1071     unsigned int curr;
1072     char *start;
1073     const char *end;
1074     const size_t good_arena_size = Perl_malloc_good_size(arena_size);
1075 #if defined(DEBUGGING) && defined(PERL_GLOBAL_STRUCT)
1076     dVAR;
1077 #endif
1078 #if defined(DEBUGGING) && !defined(PERL_GLOBAL_STRUCT_PRIVATE)
1079     static bool done_sanity_check;
1080
1081     /* PERL_GLOBAL_STRUCT_PRIVATE cannot coexist with global
1082      * variables like done_sanity_check. */
1083     if (!done_sanity_check) {
1084         unsigned int i = SVt_LAST;
1085
1086         done_sanity_check = TRUE;
1087
1088         while (i--)
1089             assert (bodies_by_type[i].type == i);
1090     }
1091 #endif
1092
1093     assert(arena_size);
1094
1095     /* may need new arena-set to hold new arena */
1096     if (!aroot || aroot->curr >= aroot->set_size) {
1097         struct arena_set *newroot;
1098         Newxz(newroot, 1, struct arena_set);
1099         newroot->set_size = ARENAS_PER_SET;
1100         newroot->next = aroot;
1101         aroot = newroot;
1102         PL_body_arenas = (void *) newroot;
1103         DEBUG_m(PerlIO_printf(Perl_debug_log, "new arenaset %p\n", (void*)aroot));
1104     }
1105
1106     /* ok, now have arena-set with at least 1 empty/available arena-desc */
1107     curr = aroot->curr++;
1108     adesc = &(aroot->set[curr]);
1109     assert(!adesc->arena);
1110     
1111     Newx(adesc->arena, good_arena_size, char);
1112     adesc->size = good_arena_size;
1113     adesc->utype = sv_type;
1114     DEBUG_m(PerlIO_printf(Perl_debug_log, "arena %d added: %p size %" UVuf "\n",
1115                           curr, (void*)adesc->arena, (UV)good_arena_size));
1116
1117     start = (char *) adesc->arena;
1118
1119     /* Get the address of the byte after the end of the last body we can fit.
1120        Remember, this is integer division:  */
1121     end = start + good_arena_size / body_size * body_size;
1122
1123     /* computed count doesn't reflect the 1st slot reservation */
1124 #if defined(MYMALLOC) || defined(HAS_MALLOC_GOOD_SIZE)
1125     DEBUG_m(PerlIO_printf(Perl_debug_log,
1126                           "arena %p end %p arena-size %d (from %d) type %d "
1127                           "size %d ct %d\n",
1128                           (void*)start, (void*)end, (int)good_arena_size,
1129                           (int)arena_size, sv_type, (int)body_size,
1130                           (int)good_arena_size / (int)body_size));
1131 #else
1132     DEBUG_m(PerlIO_printf(Perl_debug_log,
1133                           "arena %p end %p arena-size %d type %d size %d ct %d\n",
1134                           (void*)start, (void*)end,
1135                           (int)arena_size, sv_type, (int)body_size,
1136                           (int)good_arena_size / (int)body_size));
1137 #endif
1138     *root = (void *)start;
1139
1140     while (1) {
1141         /* Where the next body would start:  */
1142         char * const next = start + body_size;
1143
1144         if (next >= end) {
1145             /* This is the last body:  */
1146             assert(next == end);
1147
1148             *(void **)start = 0;
1149             return *root;
1150         }
1151
1152         *(void**) start = (void *)next;
1153         start = next;
1154     }
1155 }
1156
1157 /* grab a new thing from the free list, allocating more if necessary.
1158    The inline version is used for speed in hot routines, and the
1159    function using it serves the rest (unless PURIFY).
1160 */
1161 #define new_body_inline(xpv, sv_type) \
1162     STMT_START { \
1163         void ** const r3wt = &PL_body_roots[sv_type]; \
1164         xpv = (PTR_TBL_ENT_t*) (*((void **)(r3wt))      \
1165           ? *((void **)(r3wt)) : Perl_more_bodies(aTHX_ sv_type, \
1166                                              bodies_by_type[sv_type].body_size,\
1167                                              bodies_by_type[sv_type].arena_size)); \
1168         *(r3wt) = *(void**)(xpv); \
1169     } STMT_END
1170
1171 #ifndef PURIFY
1172
1173 STATIC void *
1174 S_new_body(pTHX_ const svtype sv_type)
1175 {
1176     void *xpv;
1177     new_body_inline(xpv, sv_type);
1178     return xpv;
1179 }
1180
1181 #endif
1182
1183 static const struct body_details fake_rv =
1184     { 0, 0, 0, SVt_IV, FALSE, NONV, NOARENA, 0 };
1185
1186 /*
1187 =for apidoc sv_upgrade
1188
1189 Upgrade an SV to a more complex form.  Generally adds a new body type to the
1190 SV, then copies across as much information as possible from the old body.
1191 It croaks if the SV is already in a more complex form than requested.  You
1192 generally want to use the C<SvUPGRADE> macro wrapper, which checks the type
1193 before calling C<sv_upgrade>, and hence does not croak.  See also
1194 C<L</svtype>>.
1195
1196 =cut
1197 */
1198
1199 void
1200 Perl_sv_upgrade(pTHX_ SV *const sv, svtype new_type)
1201 {
1202     void*       old_body;
1203     void*       new_body;
1204     const svtype old_type = SvTYPE(sv);
1205     const struct body_details *new_type_details;
1206     const struct body_details *old_type_details
1207         = bodies_by_type + old_type;
1208     SV *referent = NULL;
1209
1210     PERL_ARGS_ASSERT_SV_UPGRADE;
1211
1212     if (old_type == new_type)
1213         return;
1214
1215     /* This clause was purposefully added ahead of the early return above to
1216        the shared string hackery for (sort {$a <=> $b} keys %hash), with the
1217        inference by Nick I-S that it would fix other troublesome cases. See
1218        changes 7162, 7163 (f130fd4589cf5fbb24149cd4db4137c8326f49c1 and parent)
1219
1220        Given that shared hash key scalars are no longer PVIV, but PV, there is
1221        no longer need to unshare so as to free up the IVX slot for its proper
1222        purpose. So it's safe to move the early return earlier.  */
1223
1224     if (new_type > SVt_PVMG && SvIsCOW(sv)) {
1225         sv_force_normal_flags(sv, 0);
1226     }
1227
1228     old_body = SvANY(sv);
1229
1230     /* Copying structures onto other structures that have been neatly zeroed
1231        has a subtle gotcha. Consider XPVMG
1232
1233        +------+------+------+------+------+-------+-------+
1234        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH |
1235        +------+------+------+------+------+-------+-------+
1236        0      4      8     12     16     20      24      28
1237
1238        where NVs are aligned to 8 bytes, so that sizeof that structure is
1239        actually 32 bytes long, with 4 bytes of padding at the end:
1240
1241        +------+------+------+------+------+-------+-------+------+
1242        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH | ???  |
1243        +------+------+------+------+------+-------+-------+------+
1244        0      4      8     12     16     20      24      28     32
1245
1246        so what happens if you allocate memory for this structure:
1247
1248        +------+------+------+------+------+-------+-------+------+------+...
1249        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH |  GP  | NAME |
1250        +------+------+------+------+------+-------+-------+------+------+...
1251        0      4      8     12     16     20      24      28     32     36
1252
1253        zero it, then copy sizeof(XPVMG) bytes on top of it? Not quite what you
1254        expect, because you copy the area marked ??? onto GP. Now, ??? may have
1255        started out as zero once, but it's quite possible that it isn't. So now,
1256        rather than a nicely zeroed GP, you have it pointing somewhere random.
1257        Bugs ensue.
1258
1259        (In fact, GP ends up pointing at a previous GP structure, because the
1260        principle cause of the padding in XPVMG getting garbage is a copy of
1261        sizeof(XPVMG) bytes from a XPVGV structure in sv_unglob. Right now
1262        this happens to be moot because XPVGV has been re-ordered, with GP
1263        no longer after STASH)
1264
1265        So we are careful and work out the size of used parts of all the
1266        structures.  */
1267
1268     switch (old_type) {
1269     case SVt_NULL:
1270         break;
1271     case SVt_IV:
1272         if (SvROK(sv)) {
1273             referent = SvRV(sv);
1274             old_type_details = &fake_rv;
1275             if (new_type == SVt_NV)
1276                 new_type = SVt_PVNV;
1277         } else {
1278             if (new_type < SVt_PVIV) {
1279                 new_type = (new_type == SVt_NV)
1280                     ? SVt_PVNV : SVt_PVIV;
1281             }
1282         }
1283         break;
1284     case SVt_NV:
1285         if (new_type < SVt_PVNV) {
1286             new_type = SVt_PVNV;
1287         }
1288         break;
1289     case SVt_PV:
1290         assert(new_type > SVt_PV);
1291         STATIC_ASSERT_STMT(SVt_IV < SVt_PV);
1292         STATIC_ASSERT_STMT(SVt_NV < SVt_PV);
1293         break;
1294     case SVt_PVIV:
1295         break;
1296     case SVt_PVNV:
1297         break;
1298     case SVt_PVMG:
1299         /* Because the XPVMG of PL_mess_sv isn't allocated from the arena,
1300            there's no way that it can be safely upgraded, because perl.c
1301            expects to Safefree(SvANY(PL_mess_sv))  */
1302         assert(sv != PL_mess_sv);
1303         break;
1304     default:
1305         if (UNLIKELY(old_type_details->cant_upgrade))
1306             Perl_croak(aTHX_ "Can't upgrade %s (%" UVuf ") to %" UVuf,
1307                        sv_reftype(sv, 0), (UV) old_type, (UV) new_type);
1308     }
1309
1310     if (UNLIKELY(old_type > new_type))
1311         Perl_croak(aTHX_ "sv_upgrade from type %d down to type %d",
1312                 (int)old_type, (int)new_type);
1313
1314     new_type_details = bodies_by_type + new_type;
1315
1316     SvFLAGS(sv) &= ~SVTYPEMASK;
1317     SvFLAGS(sv) |= new_type;
1318
1319     /* This can't happen, as SVt_NULL is <= all values of new_type, so one of
1320        the return statements above will have triggered.  */
1321     assert (new_type != SVt_NULL);
1322     switch (new_type) {
1323     case SVt_IV:
1324         assert(old_type == SVt_NULL);
1325         SET_SVANY_FOR_BODYLESS_IV(sv);
1326         SvIV_set(sv, 0);
1327         return;
1328     case SVt_NV:
1329         assert(old_type == SVt_NULL);
1330 #if NVSIZE <= IVSIZE
1331         SET_SVANY_FOR_BODYLESS_NV(sv);
1332 #else
1333         SvANY(sv) = new_XNV();
1334 #endif
1335         SvNV_set(sv, 0);
1336         return;
1337     case SVt_PVHV:
1338     case SVt_PVAV:
1339         assert(new_type_details->body_size);
1340
1341 #ifndef PURIFY  
1342         assert(new_type_details->arena);
1343         assert(new_type_details->arena_size);
1344         /* This points to the start of the allocated area.  */
1345         new_body_inline(new_body, new_type);
1346         Zero(new_body, new_type_details->body_size, char);
1347         new_body = ((char *)new_body) - new_type_details->offset;
1348 #else
1349         /* We always allocated the full length item with PURIFY. To do this
1350            we fake things so that arena is false for all 16 types..  */
1351         new_body = new_NOARENAZ(new_type_details);
1352 #endif
1353         SvANY(sv) = new_body;
1354         if (new_type == SVt_PVAV) {
1355             AvMAX(sv)   = -1;
1356             AvFILLp(sv) = -1;
1357             AvREAL_only(sv);
1358             if (old_type_details->body_size) {
1359                 AvALLOC(sv) = 0;
1360             } else {
1361                 /* It will have been zeroed when the new body was allocated.
1362                    Lets not write to it, in case it confuses a write-back
1363                    cache.  */
1364             }
1365         } else {
1366             assert(!SvOK(sv));
1367             SvOK_off(sv);
1368 #ifndef NODEFAULT_SHAREKEYS
1369             HvSHAREKEYS_on(sv);         /* key-sharing on by default */
1370 #endif
1371             /* start with PERL_HASH_DEFAULT_HvMAX+1 buckets: */
1372             HvMAX(sv) = PERL_HASH_DEFAULT_HvMAX;
1373         }
1374
1375         /* SVt_NULL isn't the only thing upgraded to AV or HV.
1376            The target created by newSVrv also is, and it can have magic.
1377            However, it never has SvPVX set.
1378         */
1379         if (old_type == SVt_IV) {
1380             assert(!SvROK(sv));
1381         } else if (old_type >= SVt_PV) {
1382             assert(SvPVX_const(sv) == 0);
1383         }
1384
1385         if (old_type >= SVt_PVMG) {
1386             SvMAGIC_set(sv, ((XPVMG*)old_body)->xmg_u.xmg_magic);
1387             SvSTASH_set(sv, ((XPVMG*)old_body)->xmg_stash);
1388         } else {
1389             sv->sv_u.svu_array = NULL; /* or svu_hash  */
1390         }
1391         break;
1392
1393     case SVt_PVIV:
1394         /* XXX Is this still needed?  Was it ever needed?   Surely as there is
1395            no route from NV to PVIV, NOK can never be true  */
1396         assert(!SvNOKp(sv));
1397         assert(!SvNOK(sv));
1398         /* FALLTHROUGH */
1399     case SVt_PVIO:
1400     case SVt_PVFM:
1401     case SVt_PVGV:
1402     case SVt_PVCV:
1403     case SVt_PVLV:
1404     case SVt_INVLIST:
1405     case SVt_REGEXP:
1406     case SVt_PVMG:
1407     case SVt_PVNV:
1408     case SVt_PV:
1409
1410         assert(new_type_details->body_size);
1411         /* We always allocated the full length item with PURIFY. To do this
1412            we fake things so that arena is false for all 16 types..  */
1413         if(new_type_details->arena) {
1414             /* This points to the start of the allocated area.  */
1415             new_body_inline(new_body, new_type);
1416             Zero(new_body, new_type_details->body_size, char);
1417             new_body = ((char *)new_body) - new_type_details->offset;
1418         } else {
1419             new_body = new_NOARENAZ(new_type_details);
1420         }
1421         SvANY(sv) = new_body;
1422
1423         if (old_type_details->copy) {
1424             /* There is now the potential for an upgrade from something without
1425                an offset (PVNV or PVMG) to something with one (PVCV, PVFM)  */
1426             int offset = old_type_details->offset;
1427             int length = old_type_details->copy;
1428
1429             if (new_type_details->offset > old_type_details->offset) {
1430                 const int difference
1431                     = new_type_details->offset - old_type_details->offset;
1432                 offset += difference;
1433                 length -= difference;
1434             }
1435             assert (length >= 0);
1436                 
1437             Copy((char *)old_body + offset, (char *)new_body + offset, length,
1438                  char);
1439         }
1440
1441 #ifndef NV_ZERO_IS_ALLBITS_ZERO
1442         /* If NV 0.0 is stores as all bits 0 then Zero() already creates a
1443          * correct 0.0 for us.  Otherwise, if the old body didn't have an
1444          * NV slot, but the new one does, then we need to initialise the
1445          * freshly created NV slot with whatever the correct bit pattern is
1446          * for 0.0  */
1447         if (old_type_details->zero_nv && !new_type_details->zero_nv
1448             && !isGV_with_GP(sv))
1449             SvNV_set(sv, 0);
1450 #endif
1451
1452         if (UNLIKELY(new_type == SVt_PVIO)) {
1453             IO * const io = MUTABLE_IO(sv);
1454             GV *iogv = gv_fetchpvs("IO::File::", GV_ADD, SVt_PVHV);
1455
1456             SvOBJECT_on(io);
1457             /* Clear the stashcache because a new IO could overrule a package
1458                name */
1459             DEBUG_o(Perl_deb(aTHX_ "sv_upgrade clearing PL_stashcache\n"));
1460             hv_clear(PL_stashcache);
1461
1462             SvSTASH_set(io, MUTABLE_HV(SvREFCNT_inc(GvHV(iogv))));
1463             IoPAGE_LEN(sv) = 60;
1464         }
1465         if (UNLIKELY(new_type == SVt_REGEXP))
1466             sv->sv_u.svu_rx = (regexp *)new_body;
1467         else if (old_type < SVt_PV) {
1468             /* referent will be NULL unless the old type was SVt_IV emulating
1469                SVt_RV */
1470             sv->sv_u.svu_rv = referent;
1471         }
1472         break;
1473     default:
1474         Perl_croak(aTHX_ "panic: sv_upgrade to unknown type %lu",
1475                    (unsigned long)new_type);
1476     }
1477
1478     /* if this is zero, this is a body-less SVt_NULL, SVt_IV/SVt_RV,
1479        and sometimes SVt_NV */
1480     if (old_type_details->body_size) {
1481 #ifdef PURIFY
1482         safefree(old_body);
1483 #else
1484         /* Note that there is an assumption that all bodies of types that
1485            can be upgraded came from arenas. Only the more complex non-
1486            upgradable types are allowed to be directly malloc()ed.  */
1487         assert(old_type_details->arena);
1488         del_body((void*)((char*)old_body + old_type_details->offset),
1489                  &PL_body_roots[old_type]);
1490 #endif
1491     }
1492 }
1493
1494 /*
1495 =for apidoc sv_backoff
1496
1497 Remove any string offset.  You should normally use the C<SvOOK_off> macro
1498 wrapper instead.
1499
1500 =cut
1501 */
1502
1503 /* prior to 5.000 stable, this function returned the new OOK-less SvFLAGS
1504    prior to 5.23.4 this function always returned 0
1505 */
1506
1507 void
1508 Perl_sv_backoff(SV *const sv)
1509 {
1510     STRLEN delta;
1511     const char * const s = SvPVX_const(sv);
1512
1513     PERL_ARGS_ASSERT_SV_BACKOFF;
1514
1515     assert(SvOOK(sv));
1516     assert(SvTYPE(sv) != SVt_PVHV);
1517     assert(SvTYPE(sv) != SVt_PVAV);
1518
1519     SvOOK_offset(sv, delta);
1520     
1521     SvLEN_set(sv, SvLEN(sv) + delta);
1522     SvPV_set(sv, SvPVX(sv) - delta);
1523     SvFLAGS(sv) &= ~SVf_OOK;
1524     Move(s, SvPVX(sv), SvCUR(sv)+1, char);
1525     return;
1526 }
1527
1528
1529 /* forward declaration */
1530 static void S_sv_uncow(pTHX_ SV * const sv, const U32 flags);
1531
1532
1533 /*
1534 =for apidoc sv_grow
1535
1536 Expands the character buffer in the SV.  If necessary, uses C<sv_unref> and
1537 upgrades the SV to C<SVt_PV>.  Returns a pointer to the character buffer.
1538 Use the C<SvGROW> wrapper instead.
1539
1540 =cut
1541 */
1542
1543
1544 char *
1545 Perl_sv_grow(pTHX_ SV *const sv, STRLEN newlen)
1546 {
1547     char *s;
1548
1549     PERL_ARGS_ASSERT_SV_GROW;
1550
1551     if (SvROK(sv))
1552         sv_unref(sv);
1553     if (SvTYPE(sv) < SVt_PV) {
1554         sv_upgrade(sv, SVt_PV);
1555         s = SvPVX_mutable(sv);
1556     }
1557     else if (SvOOK(sv)) {       /* pv is offset? */
1558         sv_backoff(sv);
1559         s = SvPVX_mutable(sv);
1560         if (newlen > SvLEN(sv))
1561             newlen += 10 * (newlen - SvCUR(sv)); /* avoid copy each time */
1562     }
1563     else
1564     {
1565         if (SvIsCOW(sv)) S_sv_uncow(aTHX_ sv, 0);
1566         s = SvPVX_mutable(sv);
1567     }
1568
1569 #ifdef PERL_COPY_ON_WRITE
1570     /* the new COW scheme uses SvPVX(sv)[SvLEN(sv)-1] (if spare)
1571      * to store the COW count. So in general, allocate one more byte than
1572      * asked for, to make it likely this byte is always spare: and thus
1573      * make more strings COW-able.
1574      *
1575      * Only increment if the allocation isn't MEM_SIZE_MAX,
1576      * otherwise it will wrap to 0.
1577      */
1578     if ( newlen != MEM_SIZE_MAX )
1579         newlen++;
1580 #endif
1581
1582 #if defined(PERL_USE_MALLOC_SIZE) && defined(Perl_safesysmalloc_size)
1583 #define PERL_UNWARANTED_CHUMMINESS_WITH_MALLOC
1584 #endif
1585
1586     if (newlen > SvLEN(sv)) {           /* need more room? */
1587         STRLEN minlen = SvCUR(sv);
1588         minlen += (minlen >> PERL_STRLEN_EXPAND_SHIFT) + 10;
1589         if (newlen < minlen)
1590             newlen = minlen;
1591 #ifndef PERL_UNWARANTED_CHUMMINESS_WITH_MALLOC
1592
1593         /* Don't round up on the first allocation, as odds are pretty good that
1594          * the initial request is accurate as to what is really needed */
1595         if (SvLEN(sv)) {
1596             STRLEN rounded = PERL_STRLEN_ROUNDUP(newlen);
1597             if (rounded > newlen)
1598                 newlen = rounded;
1599         }
1600 #endif
1601         if (SvLEN(sv) && s) {
1602             s = (char*)saferealloc(s, newlen);
1603         }
1604         else {
1605             s = (char*)safemalloc(newlen);
1606             if (SvPVX_const(sv) && SvCUR(sv)) {
1607                 Move(SvPVX_const(sv), s, SvCUR(sv), char);
1608             }
1609         }
1610         SvPV_set(sv, s);
1611 #ifdef PERL_UNWARANTED_CHUMMINESS_WITH_MALLOC
1612         /* Do this here, do it once, do it right, and then we will never get
1613            called back into sv_grow() unless there really is some growing
1614            needed.  */
1615         SvLEN_set(sv, Perl_safesysmalloc_size(s));
1616 #else
1617         SvLEN_set(sv, newlen);
1618 #endif
1619     }
1620     return s;
1621 }
1622
1623 /*
1624 =for apidoc sv_setiv
1625
1626 Copies an integer into the given SV, upgrading first if necessary.
1627 Does not handle 'set' magic.  See also C<L</sv_setiv_mg>>.
1628
1629 =cut
1630 */
1631
1632 void
1633 Perl_sv_setiv(pTHX_ SV *const sv, const IV i)
1634 {
1635     PERL_ARGS_ASSERT_SV_SETIV;
1636
1637     SV_CHECK_THINKFIRST_COW_DROP(sv);
1638     switch (SvTYPE(sv)) {
1639     case SVt_NULL:
1640     case SVt_NV:
1641         sv_upgrade(sv, SVt_IV);
1642         break;
1643     case SVt_PV:
1644         sv_upgrade(sv, SVt_PVIV);
1645         break;
1646
1647     case SVt_PVGV:
1648         if (!isGV_with_GP(sv))
1649             break;
1650     case SVt_PVAV:
1651     case SVt_PVHV:
1652     case SVt_PVCV:
1653     case SVt_PVFM:
1654     case SVt_PVIO:
1655         /* diag_listed_as: Can't coerce %s to %s in %s */
1656         Perl_croak(aTHX_ "Can't coerce %s to integer in %s", sv_reftype(sv,0),
1657                    OP_DESC(PL_op));
1658         NOT_REACHED; /* NOTREACHED */
1659         break;
1660     default: NOOP;
1661     }
1662     (void)SvIOK_only(sv);                       /* validate number */
1663     SvIV_set(sv, i);
1664     SvTAINT(sv);
1665 }
1666
1667 /*
1668 =for apidoc sv_setiv_mg
1669
1670 Like C<sv_setiv>, but also handles 'set' magic.
1671
1672 =cut
1673 */
1674
1675 void
1676 Perl_sv_setiv_mg(pTHX_ SV *const sv, const IV i)
1677 {
1678     PERL_ARGS_ASSERT_SV_SETIV_MG;
1679
1680     sv_setiv(sv,i);
1681     SvSETMAGIC(sv);
1682 }
1683
1684 /*
1685 =for apidoc sv_setuv
1686
1687 Copies an unsigned integer into the given SV, upgrading first if necessary.
1688 Does not handle 'set' magic.  See also C<L</sv_setuv_mg>>.
1689
1690 =cut
1691 */
1692
1693 void
1694 Perl_sv_setuv(pTHX_ SV *const sv, const UV u)
1695 {
1696     PERL_ARGS_ASSERT_SV_SETUV;
1697
1698     /* With the if statement to ensure that integers are stored as IVs whenever
1699        possible:
1700        u=1.49  s=0.52  cu=72.49  cs=10.64  scripts=270  tests=20865
1701
1702        without
1703        u=1.35  s=0.47  cu=73.45  cs=11.43  scripts=270  tests=20865
1704
1705        If you wish to remove the following if statement, so that this routine
1706        (and its callers) always return UVs, please benchmark to see what the
1707        effect is. Modern CPUs may be different. Or may not :-)
1708     */
1709     if (u <= (UV)IV_MAX) {
1710        sv_setiv(sv, (IV)u);
1711        return;
1712     }
1713     sv_setiv(sv, 0);
1714     SvIsUV_on(sv);
1715     SvUV_set(sv, u);
1716 }
1717
1718 /*
1719 =for apidoc sv_setuv_mg
1720
1721 Like C<sv_setuv>, but also handles 'set' magic.
1722
1723 =cut
1724 */
1725
1726 void
1727 Perl_sv_setuv_mg(pTHX_ SV *const sv, const UV u)
1728 {
1729     PERL_ARGS_ASSERT_SV_SETUV_MG;
1730
1731     sv_setuv(sv,u);
1732     SvSETMAGIC(sv);
1733 }
1734
1735 /*
1736 =for apidoc sv_setnv
1737
1738 Copies a double into the given SV, upgrading first if necessary.
1739 Does not handle 'set' magic.  See also C<L</sv_setnv_mg>>.
1740
1741 =cut
1742 */
1743
1744 void
1745 Perl_sv_setnv(pTHX_ SV *const sv, const NV num)
1746 {
1747     PERL_ARGS_ASSERT_SV_SETNV;
1748
1749     SV_CHECK_THINKFIRST_COW_DROP(sv);
1750     switch (SvTYPE(sv)) {
1751     case SVt_NULL:
1752     case SVt_IV:
1753         sv_upgrade(sv, SVt_NV);
1754         break;
1755     case SVt_PV:
1756     case SVt_PVIV:
1757         sv_upgrade(sv, SVt_PVNV);
1758         break;
1759
1760     case SVt_PVGV:
1761         if (!isGV_with_GP(sv))
1762             break;
1763     case SVt_PVAV:
1764     case SVt_PVHV:
1765     case SVt_PVCV:
1766     case SVt_PVFM:
1767     case SVt_PVIO:
1768         /* diag_listed_as: Can't coerce %s to %s in %s */
1769         Perl_croak(aTHX_ "Can't coerce %s to number in %s", sv_reftype(sv,0),
1770                    OP_DESC(PL_op));
1771         NOT_REACHED; /* NOTREACHED */
1772         break;
1773     default: NOOP;
1774     }
1775     SvNV_set(sv, num);
1776     (void)SvNOK_only(sv);                       /* validate number */
1777     SvTAINT(sv);
1778 }
1779
1780 /*
1781 =for apidoc sv_setnv_mg
1782
1783 Like C<sv_setnv>, but also handles 'set' magic.
1784
1785 =cut
1786 */
1787
1788 void
1789 Perl_sv_setnv_mg(pTHX_ SV *const sv, const NV num)
1790 {
1791     PERL_ARGS_ASSERT_SV_SETNV_MG;
1792
1793     sv_setnv(sv,num);
1794     SvSETMAGIC(sv);
1795 }
1796
1797 /* Return a cleaned-up, printable version of sv, for non-numeric, or
1798  * not incrementable warning display.
1799  * Originally part of S_not_a_number().
1800  * The return value may be != tmpbuf.
1801  */
1802
1803 STATIC const char *
1804 S_sv_display(pTHX_ SV *const sv, char *tmpbuf, STRLEN tmpbuf_size) {
1805     const char *pv;
1806
1807      PERL_ARGS_ASSERT_SV_DISPLAY;
1808
1809      if (DO_UTF8(sv)) {
1810           SV *dsv = newSVpvs_flags("", SVs_TEMP);
1811           pv = sv_uni_display(dsv, sv, 32, UNI_DISPLAY_ISPRINT);
1812      } else {
1813           char *d = tmpbuf;
1814           const char * const limit = tmpbuf + tmpbuf_size - 8;
1815           /* each *s can expand to 4 chars + "...\0",
1816              i.e. need room for 8 chars */
1817         
1818           const char *s = SvPVX_const(sv);
1819           const char * const end = s + SvCUR(sv);
1820           for ( ; s < end && d < limit; s++ ) {
1821                int ch = *s & 0xFF;
1822                if (! isASCII(ch) && !isPRINT_LC(ch)) {
1823                     *d++ = 'M';
1824                     *d++ = '-';
1825
1826                     /* Map to ASCII "equivalent" of Latin1 */
1827                     ch = LATIN1_TO_NATIVE(NATIVE_TO_LATIN1(ch) & 127);
1828                }
1829                if (ch == '\n') {
1830                     *d++ = '\\';
1831                     *d++ = 'n';
1832                }
1833                else if (ch == '\r') {
1834                     *d++ = '\\';
1835                     *d++ = 'r';
1836                }
1837                else if (ch == '\f') {
1838                     *d++ = '\\';
1839                     *d++ = 'f';
1840                }
1841                else if (ch == '\\') {
1842                     *d++ = '\\';
1843                     *d++ = '\\';
1844                }
1845                else if (ch == '\0') {
1846                     *d++ = '\\';
1847                     *d++ = '0';
1848                }
1849                else if (isPRINT_LC(ch))
1850                     *d++ = ch;
1851                else {
1852                     *d++ = '^';
1853                     *d++ = toCTRL(ch);
1854                }
1855           }
1856           if (s < end) {
1857                *d++ = '.';
1858                *d++ = '.';
1859                *d++ = '.';
1860           }
1861           *d = '\0';
1862           pv = tmpbuf;
1863     }
1864
1865     return pv;
1866 }
1867
1868 /* Print an "isn't numeric" warning, using a cleaned-up,
1869  * printable version of the offending string
1870  */
1871
1872 STATIC void
1873 S_not_a_number(pTHX_ SV *const sv)
1874 {
1875      char tmpbuf[64];
1876      const char *pv;
1877
1878      PERL_ARGS_ASSERT_NOT_A_NUMBER;
1879
1880      pv = sv_display(sv, tmpbuf, sizeof(tmpbuf));
1881
1882     if (PL_op)
1883         Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1884                     /* diag_listed_as: Argument "%s" isn't numeric%s */
1885                     "Argument \"%s\" isn't numeric in %s", pv,
1886                     OP_DESC(PL_op));
1887     else
1888         Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1889                     /* diag_listed_as: Argument "%s" isn't numeric%s */
1890                     "Argument \"%s\" isn't numeric", pv);
1891 }
1892
1893 STATIC void
1894 S_not_incrementable(pTHX_ SV *const sv) {
1895      char tmpbuf[64];
1896      const char *pv;
1897
1898      PERL_ARGS_ASSERT_NOT_INCREMENTABLE;
1899
1900      pv = sv_display(sv, tmpbuf, sizeof(tmpbuf));
1901
1902      Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1903                  "Argument \"%s\" treated as 0 in increment (++)", pv);
1904 }
1905
1906 /*
1907 =for apidoc looks_like_number
1908
1909 Test if the content of an SV looks like a number (or is a number).
1910 C<Inf> and C<Infinity> are treated as numbers (so will not issue a
1911 non-numeric warning), even if your C<atof()> doesn't grok them.  Get-magic is
1912 ignored.
1913
1914 =cut
1915 */
1916
1917 I32
1918 Perl_looks_like_number(pTHX_ SV *const sv)
1919 {
1920     const char *sbegin;
1921     STRLEN len;
1922     int numtype;
1923
1924     PERL_ARGS_ASSERT_LOOKS_LIKE_NUMBER;
1925
1926     if (SvPOK(sv) || SvPOKp(sv)) {
1927         sbegin = SvPV_nomg_const(sv, len);
1928     }
1929     else
1930         return SvFLAGS(sv) & (SVf_NOK|SVp_NOK|SVf_IOK|SVp_IOK);
1931     numtype = grok_number(sbegin, len, NULL);
1932     return ((numtype & IS_NUMBER_TRAILING)) ? 0 : numtype;
1933 }
1934
1935 STATIC bool
1936 S_glob_2number(pTHX_ GV * const gv)
1937 {
1938     PERL_ARGS_ASSERT_GLOB_2NUMBER;
1939
1940     /* We know that all GVs stringify to something that is not-a-number,
1941         so no need to test that.  */
1942     if (ckWARN(WARN_NUMERIC))
1943     {
1944         SV *const buffer = sv_newmortal();
1945         gv_efullname3(buffer, gv, "*");
1946         not_a_number(buffer);
1947     }
1948     /* We just want something true to return, so that S_sv_2iuv_common
1949         can tail call us and return true.  */
1950     return TRUE;
1951 }
1952
1953 /* Actually, ISO C leaves conversion of UV to IV undefined, but
1954    until proven guilty, assume that things are not that bad... */
1955
1956 /*
1957    NV_PRESERVES_UV:
1958
1959    As 64 bit platforms often have an NV that doesn't preserve all bits of
1960    an IV (an assumption perl has been based on to date) it becomes necessary
1961    to remove the assumption that the NV always carries enough precision to
1962    recreate the IV whenever needed, and that the NV is the canonical form.
1963    Instead, IV/UV and NV need to be given equal rights. So as to not lose
1964    precision as a side effect of conversion (which would lead to insanity
1965    and the dragon(s) in t/op/numconvert.t getting very angry) the intent is
1966    1) to distinguish between IV/UV/NV slots that have a valid conversion cached
1967       where precision was lost, and IV/UV/NV slots that have a valid conversion
1968       which has lost no precision
1969    2) to ensure that if a numeric conversion to one form is requested that
1970       would lose precision, the precise conversion (or differently
1971       imprecise conversion) is also performed and cached, to prevent
1972       requests for different numeric formats on the same SV causing
1973       lossy conversion chains. (lossless conversion chains are perfectly
1974       acceptable (still))
1975
1976
1977    flags are used:
1978    SvIOKp is true if the IV slot contains a valid value
1979    SvIOK  is true only if the IV value is accurate (UV if SvIOK_UV true)
1980    SvNOKp is true if the NV slot contains a valid value
1981    SvNOK  is true only if the NV value is accurate
1982
1983    so
1984    while converting from PV to NV, check to see if converting that NV to an
1985    IV(or UV) would lose accuracy over a direct conversion from PV to
1986    IV(or UV). If it would, cache both conversions, return NV, but mark
1987    SV as IOK NOKp (ie not NOK).
1988
1989    While converting from PV to IV, check to see if converting that IV to an
1990    NV would lose accuracy over a direct conversion from PV to NV. If it
1991    would, cache both conversions, flag similarly.
1992
1993    Before, the SV value "3.2" could become NV=3.2 IV=3 NOK, IOK quite
1994    correctly because if IV & NV were set NV *always* overruled.
1995    Now, "3.2" will become NV=3.2 IV=3 NOK, IOKp, because the flag's meaning
1996    changes - now IV and NV together means that the two are interchangeable:
1997    SvIVX == (IV) SvNVX && SvNVX == (NV) SvIVX;
1998
1999    The benefit of this is that operations such as pp_add know that if
2000    SvIOK is true for both left and right operands, then integer addition
2001    can be used instead of floating point (for cases where the result won't
2002    overflow). Before, floating point was always used, which could lead to
2003    loss of precision compared with integer addition.
2004
2005    * making IV and NV equal status should make maths accurate on 64 bit
2006      platforms
2007    * may speed up maths somewhat if pp_add and friends start to use
2008      integers when possible instead of fp. (Hopefully the overhead in
2009      looking for SvIOK and checking for overflow will not outweigh the
2010      fp to integer speedup)
2011    * will slow down integer operations (callers of SvIV) on "inaccurate"
2012      values, as the change from SvIOK to SvIOKp will cause a call into
2013      sv_2iv each time rather than a macro access direct to the IV slot
2014    * should speed up number->string conversion on integers as IV is
2015      favoured when IV and NV are equally accurate
2016
2017    ####################################################################
2018    You had better be using SvIOK_notUV if you want an IV for arithmetic:
2019    SvIOK is true if (IV or UV), so you might be getting (IV)SvUV.
2020    On the other hand, SvUOK is true iff UV.
2021    ####################################################################
2022
2023    Your mileage will vary depending your CPU's relative fp to integer
2024    performance ratio.
2025 */
2026
2027 #ifndef NV_PRESERVES_UV
2028 #  define IS_NUMBER_UNDERFLOW_IV 1
2029 #  define IS_NUMBER_UNDERFLOW_UV 2
2030 #  define IS_NUMBER_IV_AND_UV    2
2031 #  define IS_NUMBER_OVERFLOW_IV  4
2032 #  define IS_NUMBER_OVERFLOW_UV  5
2033
2034 /* sv_2iuv_non_preserve(): private routine for use by sv_2iv() and sv_2uv() */
2035
2036 /* For sv_2nv these three cases are "SvNOK and don't bother casting"  */
2037 STATIC int
2038 S_sv_2iuv_non_preserve(pTHX_ SV *const sv
2039 #  ifdef DEBUGGING
2040                        , I32 numtype
2041 #  endif
2042                        )
2043 {
2044     PERL_ARGS_ASSERT_SV_2IUV_NON_PRESERVE;
2045     PERL_UNUSED_CONTEXT;
2046
2047     DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_2iuv_non '%s', IV=0x%" UVxf " NV=%" NVgf " inttype=%" UVXf "\n", SvPVX_const(sv), SvIVX(sv), SvNVX(sv), (UV)numtype));
2048     if (SvNVX(sv) < (NV)IV_MIN) {
2049         (void)SvIOKp_on(sv);
2050         (void)SvNOK_on(sv);
2051         SvIV_set(sv, IV_MIN);
2052         return IS_NUMBER_UNDERFLOW_IV;
2053     }
2054     if (SvNVX(sv) > (NV)UV_MAX) {
2055         (void)SvIOKp_on(sv);
2056         (void)SvNOK_on(sv);
2057         SvIsUV_on(sv);
2058         SvUV_set(sv, UV_MAX);
2059         return IS_NUMBER_OVERFLOW_UV;
2060     }
2061     (void)SvIOKp_on(sv);
2062     (void)SvNOK_on(sv);
2063     /* Can't use strtol etc to convert this string.  (See truth table in
2064        sv_2iv  */
2065     if (SvNVX(sv) <= (UV)IV_MAX) {
2066         SvIV_set(sv, I_V(SvNVX(sv)));
2067         if ((NV)(SvIVX(sv)) == SvNVX(sv)) {
2068             SvIOK_on(sv); /* Integer is precise. NOK, IOK */
2069         } else {
2070             /* Integer is imprecise. NOK, IOKp */
2071         }
2072         return SvNVX(sv) < 0 ? IS_NUMBER_UNDERFLOW_UV : IS_NUMBER_IV_AND_UV;
2073     }
2074     SvIsUV_on(sv);
2075     SvUV_set(sv, U_V(SvNVX(sv)));
2076     if ((NV)(SvUVX(sv)) == SvNVX(sv)) {
2077         if (SvUVX(sv) == UV_MAX) {
2078             /* As we know that NVs don't preserve UVs, UV_MAX cannot
2079                possibly be preserved by NV. Hence, it must be overflow.
2080                NOK, IOKp */
2081             return IS_NUMBER_OVERFLOW_UV;
2082         }
2083         SvIOK_on(sv); /* Integer is precise. NOK, UOK */
2084     } else {
2085         /* Integer is imprecise. NOK, IOKp */
2086     }
2087     return IS_NUMBER_OVERFLOW_IV;
2088 }
2089 #endif /* !NV_PRESERVES_UV*/
2090
2091 /* If numtype is infnan, set the NV of the sv accordingly.
2092  * If numtype is anything else, try setting the NV using Atof(PV). */
2093 #ifdef USING_MSVC6
2094 #  pragma warning(push)
2095 #  pragma warning(disable:4756;disable:4056)
2096 #endif
2097 static void
2098 S_sv_setnv(pTHX_ SV* sv, int numtype)
2099 {
2100     bool pok = cBOOL(SvPOK(sv));
2101     bool nok = FALSE;
2102 #ifdef NV_INF
2103     if ((numtype & IS_NUMBER_INFINITY)) {
2104         SvNV_set(sv, (numtype & IS_NUMBER_NEG) ? -NV_INF : NV_INF);
2105         nok = TRUE;
2106     } else
2107 #endif
2108 #ifdef NV_NAN
2109     if ((numtype & IS_NUMBER_NAN)) {
2110         SvNV_set(sv, NV_NAN);
2111         nok = TRUE;
2112     } else
2113 #endif
2114     if (pok) {
2115         SvNV_set(sv, Atof(SvPVX_const(sv)));
2116         /* Purposefully no true nok here, since we don't want to blow
2117          * away the possible IOK/UV of an existing sv. */
2118     }
2119     if (nok) {
2120         SvNOK_only(sv); /* No IV or UV please, this is pure infnan. */
2121         if (pok)
2122             SvPOK_on(sv); /* PV is okay, though. */
2123     }
2124 }
2125 #ifdef USING_MSVC6
2126 #  pragma warning(pop)
2127 #endif
2128
2129 STATIC bool
2130 S_sv_2iuv_common(pTHX_ SV *const sv)
2131 {
2132     PERL_ARGS_ASSERT_SV_2IUV_COMMON;
2133
2134     if (SvNOKp(sv)) {
2135         /* erm. not sure. *should* never get NOKp (without NOK) from sv_2nv
2136          * without also getting a cached IV/UV from it at the same time
2137          * (ie PV->NV conversion should detect loss of accuracy and cache
2138          * IV or UV at same time to avoid this. */
2139         /* IV-over-UV optimisation - choose to cache IV if possible */
2140
2141         if (SvTYPE(sv) == SVt_NV)
2142             sv_upgrade(sv, SVt_PVNV);
2143
2144         (void)SvIOKp_on(sv);    /* Must do this first, to clear any SvOOK */
2145         /* < not <= as for NV doesn't preserve UV, ((NV)IV_MAX+1) will almost
2146            certainly cast into the IV range at IV_MAX, whereas the correct
2147            answer is the UV IV_MAX +1. Hence < ensures that dodgy boundary
2148            cases go to UV */
2149 #if defined(NAN_COMPARE_BROKEN) && defined(Perl_isnan)
2150         if (Perl_isnan(SvNVX(sv))) {
2151             SvUV_set(sv, 0);
2152             SvIsUV_on(sv);
2153             return FALSE;
2154         }
2155 #endif
2156         if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2157             SvIV_set(sv, I_V(SvNVX(sv)));
2158             if (SvNVX(sv) == (NV) SvIVX(sv)
2159 #ifndef NV_PRESERVES_UV
2160                 && SvIVX(sv) != IV_MIN /* avoid negating IV_MIN below */
2161                 && (((UV)1 << NV_PRESERVES_UV_BITS) >
2162                     (UV)(SvIVX(sv) > 0 ? SvIVX(sv) : -SvIVX(sv)))
2163                 /* Don't flag it as "accurately an integer" if the number
2164                    came from a (by definition imprecise) NV operation, and
2165                    we're outside the range of NV integer precision */
2166 #endif
2167                 ) {
2168                 if (SvNOK(sv))
2169                     SvIOK_on(sv);  /* Can this go wrong with rounding? NWC */
2170                 else {
2171                     /* scalar has trailing garbage, eg "42a" */
2172                 }
2173                 DEBUG_c(PerlIO_printf(Perl_debug_log,
2174                                       "0x%" UVxf " iv(%" NVgf " => %" IVdf ") (precise)\n",
2175                                       PTR2UV(sv),
2176                                       SvNVX(sv),
2177                                       SvIVX(sv)));
2178
2179             } else {
2180                 /* IV not precise.  No need to convert from PV, as NV
2181                    conversion would already have cached IV if it detected
2182                    that PV->IV would be better than PV->NV->IV
2183                    flags already correct - don't set public IOK.  */
2184                 DEBUG_c(PerlIO_printf(Perl_debug_log,
2185                                       "0x%" UVxf " iv(%" NVgf " => %" IVdf ") (imprecise)\n",
2186                                       PTR2UV(sv),
2187                                       SvNVX(sv),
2188                                       SvIVX(sv)));
2189             }
2190             /* Can the above go wrong if SvIVX == IV_MIN and SvNVX < IV_MIN,
2191                but the cast (NV)IV_MIN rounds to a the value less (more
2192                negative) than IV_MIN which happens to be equal to SvNVX ??
2193                Analogous to 0xFFFFFFFFFFFFFFFF rounding up to NV (2**64) and
2194                NV rounding back to 0xFFFFFFFFFFFFFFFF, so UVX == UV(NVX) and
2195                (NV)UVX == NVX are both true, but the values differ. :-(
2196                Hopefully for 2s complement IV_MIN is something like
2197                0x8000000000000000 which will be exact. NWC */
2198         }
2199         else {
2200             SvUV_set(sv, U_V(SvNVX(sv)));
2201             if (
2202                 (SvNVX(sv) == (NV) SvUVX(sv))
2203 #ifndef  NV_PRESERVES_UV
2204                 /* Make sure it's not 0xFFFFFFFFFFFFFFFF */
2205                 /*&& (SvUVX(sv) != UV_MAX) irrelevant with code below */
2206                 && (((UV)1 << NV_PRESERVES_UV_BITS) > SvUVX(sv))
2207                 /* Don't flag it as "accurately an integer" if the number
2208                    came from a (by definition imprecise) NV operation, and
2209                    we're outside the range of NV integer precision */
2210 #endif
2211                 && SvNOK(sv)
2212                 )
2213                 SvIOK_on(sv);
2214             SvIsUV_on(sv);
2215             DEBUG_c(PerlIO_printf(Perl_debug_log,
2216                                   "0x%" UVxf " 2iv(%" UVuf " => %" IVdf ") (as unsigned)\n",
2217                                   PTR2UV(sv),
2218                                   SvUVX(sv),
2219                                   SvUVX(sv)));
2220         }
2221     }
2222     else if (SvPOKp(sv)) {
2223         UV value;
2224         int numtype;
2225         const char *s = SvPVX_const(sv);
2226         const STRLEN cur = SvCUR(sv);
2227
2228         /* short-cut for a single digit string like "1" */
2229
2230         if (cur == 1) {
2231             char c = *s;
2232             if (isDIGIT(c)) {
2233                 if (SvTYPE(sv) < SVt_PVIV)
2234                     sv_upgrade(sv, SVt_PVIV);
2235                 (void)SvIOK_on(sv);
2236                 SvIV_set(sv, (IV)(c - '0'));
2237                 return FALSE;
2238             }
2239         }
2240
2241         numtype = grok_number(s, cur, &value);
2242         /* We want to avoid a possible problem when we cache an IV/ a UV which
2243            may be later translated to an NV, and the resulting NV is not
2244            the same as the direct translation of the initial string
2245            (eg 123.456 can shortcut to the IV 123 with atol(), but we must
2246            be careful to ensure that the value with the .456 is around if the
2247            NV value is requested in the future).
2248         
2249            This means that if we cache such an IV/a UV, we need to cache the
2250            NV as well.  Moreover, we trade speed for space, and do not
2251            cache the NV if we are sure it's not needed.
2252          */
2253
2254         /* SVt_PVNV is one higher than SVt_PVIV, hence this order  */
2255         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2256              == IS_NUMBER_IN_UV) {
2257             /* It's definitely an integer, only upgrade to PVIV */
2258             if (SvTYPE(sv) < SVt_PVIV)
2259                 sv_upgrade(sv, SVt_PVIV);
2260             (void)SvIOK_on(sv);
2261         } else if (SvTYPE(sv) < SVt_PVNV)
2262             sv_upgrade(sv, SVt_PVNV);
2263
2264         if ((numtype & (IS_NUMBER_INFINITY | IS_NUMBER_NAN))) {
2265             if (ckWARN(WARN_NUMERIC) && ((numtype & IS_NUMBER_TRAILING)))
2266                 not_a_number(sv);
2267             S_sv_setnv(aTHX_ sv, numtype);
2268             return FALSE;
2269         }
2270
2271         /* If NVs preserve UVs then we only use the UV value if we know that
2272            we aren't going to call atof() below. If NVs don't preserve UVs
2273            then the value returned may have more precision than atof() will
2274            return, even though value isn't perfectly accurate.  */
2275         if ((numtype & (IS_NUMBER_IN_UV
2276 #ifdef NV_PRESERVES_UV
2277                         | IS_NUMBER_NOT_INT
2278 #endif
2279             )) == IS_NUMBER_IN_UV) {
2280             /* This won't turn off the public IOK flag if it was set above  */
2281             (void)SvIOKp_on(sv);
2282
2283             if (!(numtype & IS_NUMBER_NEG)) {
2284                 /* positive */;
2285                 if (value <= (UV)IV_MAX) {
2286                     SvIV_set(sv, (IV)value);
2287                 } else {
2288                     /* it didn't overflow, and it was positive. */
2289                     SvUV_set(sv, value);
2290                     SvIsUV_on(sv);
2291                 }
2292             } else {
2293                 /* 2s complement assumption  */
2294                 if (value <= (UV)IV_MIN) {
2295                     SvIV_set(sv, value == (UV)IV_MIN
2296                                     ? IV_MIN : -(IV)value);
2297                 } else {
2298                     /* Too negative for an IV.  This is a double upgrade, but
2299                        I'm assuming it will be rare.  */
2300                     if (SvTYPE(sv) < SVt_PVNV)
2301                         sv_upgrade(sv, SVt_PVNV);
2302                     SvNOK_on(sv);
2303                     SvIOK_off(sv);
2304                     SvIOKp_on(sv);
2305                     SvNV_set(sv, -(NV)value);
2306                     SvIV_set(sv, IV_MIN);
2307                 }
2308             }
2309         }
2310         /* For !NV_PRESERVES_UV and IS_NUMBER_IN_UV and IS_NUMBER_NOT_INT we
2311            will be in the previous block to set the IV slot, and the next
2312            block to set the NV slot.  So no else here.  */
2313         
2314         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2315             != IS_NUMBER_IN_UV) {
2316             /* It wasn't an (integer that doesn't overflow the UV). */
2317             S_sv_setnv(aTHX_ sv, numtype);
2318
2319             if (! numtype && ckWARN(WARN_NUMERIC))
2320                 not_a_number(sv);
2321
2322             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2iv(%" NVgf ")\n",
2323                                   PTR2UV(sv), SvNVX(sv)));
2324
2325 #ifdef NV_PRESERVES_UV
2326             (void)SvIOKp_on(sv);
2327             (void)SvNOK_on(sv);
2328 #if defined(NAN_COMPARE_BROKEN) && defined(Perl_isnan)
2329             if (Perl_isnan(SvNVX(sv))) {
2330                 SvUV_set(sv, 0);
2331                 SvIsUV_on(sv);
2332                 return FALSE;
2333             }
2334 #endif
2335             if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2336                 SvIV_set(sv, I_V(SvNVX(sv)));
2337                 if ((NV)(SvIVX(sv)) == SvNVX(sv)) {
2338                     SvIOK_on(sv);
2339                 } else {
2340                     NOOP;  /* Integer is imprecise. NOK, IOKp */
2341                 }
2342                 /* UV will not work better than IV */
2343             } else {
2344                 if (SvNVX(sv) > (NV)UV_MAX) {
2345                     SvIsUV_on(sv);
2346                     /* Integer is inaccurate. NOK, IOKp, is UV */
2347                     SvUV_set(sv, UV_MAX);
2348                 } else {
2349                     SvUV_set(sv, U_V(SvNVX(sv)));
2350                     /* 0xFFFFFFFFFFFFFFFF not an issue in here, NVs
2351                        NV preservse UV so can do correct comparison.  */
2352                     if ((NV)(SvUVX(sv)) == SvNVX(sv)) {
2353                         SvIOK_on(sv);
2354                     } else {
2355                         NOOP;   /* Integer is imprecise. NOK, IOKp, is UV */
2356                     }
2357                 }
2358                 SvIsUV_on(sv);
2359             }
2360 #else /* NV_PRESERVES_UV */
2361             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2362                 == (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT)) {
2363                 /* The IV/UV slot will have been set from value returned by
2364                    grok_number above.  The NV slot has just been set using
2365                    Atof.  */
2366                 SvNOK_on(sv);
2367                 assert (SvIOKp(sv));
2368             } else {
2369                 if (((UV)1 << NV_PRESERVES_UV_BITS) >
2370                     U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))) {
2371                     /* Small enough to preserve all bits. */
2372                     (void)SvIOKp_on(sv);
2373                     SvNOK_on(sv);
2374                     SvIV_set(sv, I_V(SvNVX(sv)));
2375                     if ((NV)(SvIVX(sv)) == SvNVX(sv))
2376                         SvIOK_on(sv);
2377                     /* Assumption: first non-preserved integer is < IV_MAX,
2378                        this NV is in the preserved range, therefore: */
2379                     if (!(U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))
2380                           < (UV)IV_MAX)) {
2381                         Perl_croak(aTHX_ "sv_2iv assumed (U_V(fabs((double)SvNVX(sv))) < (UV)IV_MAX) but SvNVX(sv)=%" NVgf " U_V is 0x%" UVxf ", IV_MAX is 0x%" UVxf "\n", SvNVX(sv), U_V(SvNVX(sv)), (UV)IV_MAX);
2382                     }
2383                 } else {
2384                     /* IN_UV NOT_INT
2385                          0      0       already failed to read UV.
2386                          0      1       already failed to read UV.
2387                          1      0       you won't get here in this case. IV/UV
2388                                         slot set, public IOK, Atof() unneeded.
2389                          1      1       already read UV.
2390                        so there's no point in sv_2iuv_non_preserve() attempting
2391                        to use atol, strtol, strtoul etc.  */
2392 #  ifdef DEBUGGING
2393                     sv_2iuv_non_preserve (sv, numtype);
2394 #  else
2395                     sv_2iuv_non_preserve (sv);
2396 #  endif
2397                 }
2398             }
2399 #endif /* NV_PRESERVES_UV */
2400         /* It might be more code efficient to go through the entire logic above
2401            and conditionally set with SvIOKp_on() rather than SvIOK(), but it
2402            gets complex and potentially buggy, so more programmer efficient
2403            to do it this way, by turning off the public flags:  */
2404         if (!numtype)
2405             SvFLAGS(sv) &= ~(SVf_IOK|SVf_NOK);
2406         }
2407     }
2408     else  {
2409         if (isGV_with_GP(sv))
2410             return glob_2number(MUTABLE_GV(sv));
2411
2412         if (!PL_localizing && ckWARN(WARN_UNINITIALIZED))
2413                 report_uninit(sv);
2414         if (SvTYPE(sv) < SVt_IV)
2415             /* Typically the caller expects that sv_any is not NULL now.  */
2416             sv_upgrade(sv, SVt_IV);
2417         /* Return 0 from the caller.  */
2418         return TRUE;
2419     }
2420     return FALSE;
2421 }
2422
2423 /*
2424 =for apidoc sv_2iv_flags
2425
2426 Return the integer value of an SV, doing any necessary string
2427 conversion.  If C<flags> has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.
2428 Normally used via the C<SvIV(sv)> and C<SvIVx(sv)> macros.
2429
2430 =cut
2431 */
2432
2433 IV
2434 Perl_sv_2iv_flags(pTHX_ SV *const sv, const I32 flags)
2435 {
2436     PERL_ARGS_ASSERT_SV_2IV_FLAGS;
2437
2438     assert (SvTYPE(sv) != SVt_PVAV && SvTYPE(sv) != SVt_PVHV
2439          && SvTYPE(sv) != SVt_PVFM);
2440
2441     if (SvGMAGICAL(sv) && (flags & SV_GMAGIC))
2442         mg_get(sv);
2443
2444     if (SvROK(sv)) {
2445         if (SvAMAGIC(sv)) {
2446             SV * tmpstr;
2447             if (flags & SV_SKIP_OVERLOAD)
2448                 return 0;
2449             tmpstr = AMG_CALLunary(sv, numer_amg);
2450             if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2451                 return SvIV(tmpstr);
2452             }
2453         }
2454         return PTR2IV(SvRV(sv));
2455     }
2456
2457     if (SvVALID(sv) || isREGEXP(sv)) {
2458         /* FBMs use the space for SvIVX and SvNVX for other purposes, so
2459            must not let them cache IVs.
2460            In practice they are extremely unlikely to actually get anywhere
2461            accessible by user Perl code - the only way that I'm aware of is when
2462            a constant subroutine which is used as the second argument to index.
2463
2464            Regexps have no SvIVX and SvNVX fields.
2465         */
2466         assert(isREGEXP(sv) || SvPOKp(sv));
2467         {
2468             UV value;
2469             const char * const ptr =
2470                 isREGEXP(sv) ? RX_WRAPPED((REGEXP*)sv) : SvPVX_const(sv);
2471             const int numtype
2472                 = grok_number(ptr, SvCUR(sv), &value);
2473
2474             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2475                 == IS_NUMBER_IN_UV) {
2476                 /* It's definitely an integer */
2477                 if (numtype & IS_NUMBER_NEG) {
2478                     if (value < (UV)IV_MIN)
2479                         return -(IV)value;
2480                 } else {
2481                     if (value < (UV)IV_MAX)
2482                         return (IV)value;
2483                 }
2484             }
2485
2486             /* Quite wrong but no good choices. */
2487             if ((numtype & IS_NUMBER_INFINITY)) {
2488                 return (numtype & IS_NUMBER_NEG) ? IV_MIN : IV_MAX;
2489             } else if ((numtype & IS_NUMBER_NAN)) {
2490                 return 0; /* So wrong. */
2491             }
2492
2493             if (!numtype) {
2494                 if (ckWARN(WARN_NUMERIC))
2495                     not_a_number(sv);
2496             }
2497             return I_V(Atof(ptr));
2498         }
2499     }
2500
2501     if (SvTHINKFIRST(sv)) {
2502         if (SvREADONLY(sv) && !SvOK(sv)) {
2503             if (ckWARN(WARN_UNINITIALIZED))
2504                 report_uninit(sv);
2505             return 0;
2506         }
2507     }
2508
2509     if (!SvIOKp(sv)) {
2510         if (S_sv_2iuv_common(aTHX_ sv))
2511             return 0;
2512     }
2513
2514     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2iv(%" IVdf ")\n",
2515         PTR2UV(sv),SvIVX(sv)));
2516     return SvIsUV(sv) ? (IV)SvUVX(sv) : SvIVX(sv);
2517 }
2518
2519 /*
2520 =for apidoc sv_2uv_flags
2521
2522 Return the unsigned integer value of an SV, doing any necessary string
2523 conversion.  If C<flags> has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.
2524 Normally used via the C<SvUV(sv)> and C<SvUVx(sv)> macros.
2525
2526 =cut
2527 */
2528
2529 UV
2530 Perl_sv_2uv_flags(pTHX_ SV *const sv, const I32 flags)
2531 {
2532     PERL_ARGS_ASSERT_SV_2UV_FLAGS;
2533
2534     if (SvGMAGICAL(sv) && (flags & SV_GMAGIC))
2535         mg_get(sv);
2536
2537     if (SvROK(sv)) {
2538         if (SvAMAGIC(sv)) {
2539             SV *tmpstr;
2540             if (flags & SV_SKIP_OVERLOAD)
2541                 return 0;
2542             tmpstr = AMG_CALLunary(sv, numer_amg);
2543             if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2544                 return SvUV(tmpstr);
2545             }
2546         }
2547         return PTR2UV(SvRV(sv));
2548     }
2549
2550     if (SvVALID(sv) || isREGEXP(sv)) {
2551         /* FBMs use the space for SvIVX and SvNVX for other purposes, and use
2552            the same flag bit as SVf_IVisUV, so must not let them cache IVs.  
2553            Regexps have no SvIVX and SvNVX fields. */
2554         assert(isREGEXP(sv) || SvPOKp(sv));
2555         {
2556             UV value;
2557             const char * const ptr =
2558                 isREGEXP(sv) ? RX_WRAPPED((REGEXP*)sv) : SvPVX_const(sv);
2559             const int numtype
2560                 = grok_number(ptr, SvCUR(sv), &value);
2561
2562             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2563                 == IS_NUMBER_IN_UV) {
2564                 /* It's definitely an integer */
2565                 if (!(numtype & IS_NUMBER_NEG))
2566                     return value;
2567             }
2568
2569             /* Quite wrong but no good choices. */
2570             if ((numtype & IS_NUMBER_INFINITY)) {
2571                 return UV_MAX; /* So wrong. */
2572             } else if ((numtype & IS_NUMBER_NAN)) {
2573                 return 0; /* So wrong. */
2574             }
2575
2576             if (!numtype) {
2577                 if (ckWARN(WARN_NUMERIC))
2578                     not_a_number(sv);
2579             }
2580             return U_V(Atof(ptr));
2581         }
2582     }
2583
2584     if (SvTHINKFIRST(sv)) {
2585         if (SvREADONLY(sv) && !SvOK(sv)) {
2586             if (ckWARN(WARN_UNINITIALIZED))
2587                 report_uninit(sv);
2588             return 0;
2589         }
2590     }
2591
2592     if (!SvIOKp(sv)) {
2593         if (S_sv_2iuv_common(aTHX_ sv))
2594             return 0;
2595     }
2596
2597     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2uv(%" UVuf ")\n",
2598                           PTR2UV(sv),SvUVX(sv)));
2599     return SvIsUV(sv) ? SvUVX(sv) : (UV)SvIVX(sv);
2600 }
2601
2602 /*
2603 =for apidoc sv_2nv_flags
2604
2605 Return the num value of an SV, doing any necessary string or integer
2606 conversion.  If C<flags> has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.
2607 Normally used via the C<SvNV(sv)> and C<SvNVx(sv)> macros.
2608
2609 =cut
2610 */
2611
2612 NV
2613 Perl_sv_2nv_flags(pTHX_ SV *const sv, const I32 flags)
2614 {
2615     PERL_ARGS_ASSERT_SV_2NV_FLAGS;
2616
2617     assert (SvTYPE(sv) != SVt_PVAV && SvTYPE(sv) != SVt_PVHV
2618          && SvTYPE(sv) != SVt_PVFM);
2619     if (SvGMAGICAL(sv) || SvVALID(sv) || isREGEXP(sv)) {
2620         /* FBMs use the space for SvIVX and SvNVX for other purposes, and use
2621            the same flag bit as SVf_IVisUV, so must not let them cache NVs.
2622            Regexps have no SvIVX and SvNVX fields.  */
2623         const char *ptr;
2624         if (flags & SV_GMAGIC)
2625             mg_get(sv);
2626         if (SvNOKp(sv))
2627             return SvNVX(sv);
2628         if (SvPOKp(sv) && !SvIOKp(sv)) {
2629             ptr = SvPVX_const(sv);
2630           grokpv:
2631             if (!SvIOKp(sv) && ckWARN(WARN_NUMERIC) &&
2632                 !grok_number(ptr, SvCUR(sv), NULL))
2633                 not_a_number(sv);
2634             return Atof(ptr);
2635         }
2636         if (SvIOKp(sv)) {
2637             if (SvIsUV(sv))
2638                 return (NV)SvUVX(sv);
2639             else
2640                 return (NV)SvIVX(sv);
2641         }
2642         if (SvROK(sv)) {
2643             goto return_rok;
2644         }
2645         if (isREGEXP(sv)) {
2646             ptr = RX_WRAPPED((REGEXP *)sv);
2647             goto grokpv;
2648         }
2649         assert(SvTYPE(sv) >= SVt_PVMG);
2650         /* This falls through to the report_uninit near the end of the
2651            function. */
2652     } else if (SvTHINKFIRST(sv)) {
2653         if (SvROK(sv)) {
2654         return_rok:
2655             if (SvAMAGIC(sv)) {
2656                 SV *tmpstr;
2657                 if (flags & SV_SKIP_OVERLOAD)
2658                     return 0;
2659                 tmpstr = AMG_CALLunary(sv, numer_amg);
2660                 if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2661                     return SvNV(tmpstr);
2662                 }
2663             }
2664             return PTR2NV(SvRV(sv));
2665         }
2666         if (SvREADONLY(sv) && !SvOK(sv)) {
2667             if (ckWARN(WARN_UNINITIALIZED))
2668                 report_uninit(sv);
2669             return 0.0;
2670         }
2671     }
2672     if (SvTYPE(sv) < SVt_NV) {
2673         /* The logic to use SVt_PVNV if necessary is in sv_upgrade.  */
2674         sv_upgrade(sv, SVt_NV);
2675         DEBUG_c({
2676             STORE_NUMERIC_LOCAL_SET_STANDARD();
2677             PerlIO_printf(Perl_debug_log,
2678                           "0x%" UVxf " num(%" NVgf ")\n",
2679                           PTR2UV(sv), SvNVX(sv));
2680             RESTORE_NUMERIC_LOCAL();
2681         });
2682     }
2683     else if (SvTYPE(sv) < SVt_PVNV)
2684         sv_upgrade(sv, SVt_PVNV);
2685     if (SvNOKp(sv)) {
2686         return SvNVX(sv);
2687     }
2688     if (SvIOKp(sv)) {
2689         SvNV_set(sv, SvIsUV(sv) ? (NV)SvUVX(sv) : (NV)SvIVX(sv));
2690 #ifdef NV_PRESERVES_UV
2691         if (SvIOK(sv))
2692             SvNOK_on(sv);
2693         else
2694             SvNOKp_on(sv);
2695 #else
2696         /* Only set the public NV OK flag if this NV preserves the IV  */
2697         /* Check it's not 0xFFFFFFFFFFFFFFFF */
2698         if (SvIOK(sv) &&
2699             SvIsUV(sv) ? ((SvUVX(sv) != UV_MAX)&&(SvUVX(sv) == U_V(SvNVX(sv))))
2700                        : (SvIVX(sv) == I_V(SvNVX(sv))))
2701             SvNOK_on(sv);
2702         else
2703             SvNOKp_on(sv);
2704 #endif
2705     }
2706     else if (SvPOKp(sv)) {
2707         UV value;
2708         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), &value);
2709         if (!SvIOKp(sv) && !numtype && ckWARN(WARN_NUMERIC))
2710             not_a_number(sv);
2711 #ifdef NV_PRESERVES_UV
2712         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2713             == IS_NUMBER_IN_UV) {
2714             /* It's definitely an integer */
2715             SvNV_set(sv, (numtype & IS_NUMBER_NEG) ? -(NV)value : (NV)value);
2716         } else {
2717             S_sv_setnv(aTHX_ sv, numtype);
2718         }
2719         if (numtype)
2720             SvNOK_on(sv);
2721         else
2722             SvNOKp_on(sv);
2723 #else
2724         SvNV_set(sv, Atof(SvPVX_const(sv)));
2725         /* Only set the public NV OK flag if this NV preserves the value in
2726            the PV at least as well as an IV/UV would.
2727            Not sure how to do this 100% reliably. */
2728         /* if that shift count is out of range then Configure's test is
2729            wonky. We shouldn't be in here with NV_PRESERVES_UV_BITS ==
2730            UV_BITS */
2731         if (((UV)1 << NV_PRESERVES_UV_BITS) >
2732             U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))) {
2733             SvNOK_on(sv); /* Definitely small enough to preserve all bits */
2734         } else if (!(numtype & IS_NUMBER_IN_UV)) {
2735             /* Can't use strtol etc to convert this string, so don't try.
2736                sv_2iv and sv_2uv will use the NV to convert, not the PV.  */
2737             SvNOK_on(sv);
2738         } else {
2739             /* value has been set.  It may not be precise.  */
2740             if ((numtype & IS_NUMBER_NEG) && (value >= (UV)IV_MIN)) {
2741                 /* 2s complement assumption for (UV)IV_MIN  */
2742                 SvNOK_on(sv); /* Integer is too negative.  */
2743             } else {
2744                 SvNOKp_on(sv);
2745                 SvIOKp_on(sv);
2746
2747                 if (numtype & IS_NUMBER_NEG) {
2748                     /* -IV_MIN is undefined, but we should never reach
2749                      * this point with both IS_NUMBER_NEG and value ==
2750                      * (UV)IV_MIN */
2751                     assert(value != (UV)IV_MIN);
2752                     SvIV_set(sv, -(IV)value);
2753                 } else if (value <= (UV)IV_MAX) {
2754                     SvIV_set(sv, (IV)value);
2755                 } else {
2756                     SvUV_set(sv, value);
2757                     SvIsUV_on(sv);
2758                 }
2759
2760                 if (numtype & IS_NUMBER_NOT_INT) {
2761                     /* I believe that even if the original PV had decimals,
2762                        they are lost beyond the limit of the FP precision.
2763                        However, neither is canonical, so both only get p
2764                        flags.  NWC, 2000/11/25 */
2765                     /* Both already have p flags, so do nothing */
2766                 } else {
2767                     const NV nv = SvNVX(sv);
2768                     /* XXX should this spot have NAN_COMPARE_BROKEN, too? */
2769                     if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2770                         if (SvIVX(sv) == I_V(nv)) {
2771                             SvNOK_on(sv);
2772                         } else {
2773                             /* It had no "." so it must be integer.  */
2774                         }
2775                         SvIOK_on(sv);
2776                     } else {
2777                         /* between IV_MAX and NV(UV_MAX).
2778                            Could be slightly > UV_MAX */
2779
2780                         if (numtype & IS_NUMBER_NOT_INT) {
2781                             /* UV and NV both imprecise.  */
2782                         } else {
2783                             const UV nv_as_uv = U_V(nv);
2784
2785                             if (value == nv_as_uv && SvUVX(sv) != UV_MAX) {
2786                                 SvNOK_on(sv);
2787                             }
2788                             SvIOK_on(sv);
2789                         }
2790                     }
2791                 }
2792             }
2793         }
2794         /* It might be more code efficient to go through the entire logic above
2795            and conditionally set with SvNOKp_on() rather than SvNOK(), but it
2796            gets complex and potentially buggy, so more programmer efficient
2797            to do it this way, by turning off the public flags:  */
2798         if (!numtype)
2799             SvFLAGS(sv) &= ~(SVf_IOK|SVf_NOK);
2800 #endif /* NV_PRESERVES_UV */
2801     }
2802     else  {
2803         if (isGV_with_GP(sv)) {
2804             glob_2number(MUTABLE_GV(sv));
2805             return 0.0;
2806         }
2807
2808         if (!PL_localizing && ckWARN(WARN_UNINITIALIZED))
2809             report_uninit(sv);
2810         assert (SvTYPE(sv) >= SVt_NV);
2811         /* Typically the caller expects that sv_any is not NULL now.  */
2812         /* XXX Ilya implies that this is a bug in callers that assume this
2813            and ideally should be fixed.  */
2814         return 0.0;
2815     }
2816     DEBUG_c({
2817         STORE_NUMERIC_LOCAL_SET_STANDARD();
2818         PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2nv(%" NVgf ")\n",
2819                       PTR2UV(sv), SvNVX(sv));
2820         RESTORE_NUMERIC_LOCAL();
2821     });
2822     return SvNVX(sv);
2823 }
2824
2825 /*
2826 =for apidoc sv_2num
2827
2828 Return an SV with the numeric value of the source SV, doing any necessary
2829 reference or overload conversion.  The caller is expected to have handled
2830 get-magic already.
2831
2832 =cut
2833 */
2834
2835 SV *
2836 Perl_sv_2num(pTHX_ SV *const sv)
2837 {
2838     PERL_ARGS_ASSERT_SV_2NUM;
2839
2840     if (!SvROK(sv))
2841         return sv;
2842     if (SvAMAGIC(sv)) {
2843         SV * const tmpsv = AMG_CALLunary(sv, numer_amg);
2844         TAINT_IF(tmpsv && SvTAINTED(tmpsv));
2845         if (tmpsv && (!SvROK(tmpsv) || (SvRV(tmpsv) != SvRV(sv))))
2846             return sv_2num(tmpsv);
2847     }
2848     return sv_2mortal(newSVuv(PTR2UV(SvRV(sv))));
2849 }
2850
2851 /* uiv_2buf(): private routine for use by sv_2pv_flags(): print an IV or
2852  * UV as a string towards the end of buf, and return pointers to start and
2853  * end of it.
2854  *
2855  * We assume that buf is at least TYPE_CHARS(UV) long.
2856  */
2857
2858 static char *
2859 S_uiv_2buf(char *const buf, const IV iv, UV uv, const int is_uv, char **const peob)
2860 {
2861     char *ptr = buf + TYPE_CHARS(UV);
2862     char * const ebuf = ptr;
2863     int sign;
2864
2865     PERL_ARGS_ASSERT_UIV_2BUF;
2866
2867     if (is_uv)
2868         sign = 0;
2869     else if (iv >= 0) {
2870         uv = iv;
2871         sign = 0;
2872     } else {
2873         uv = (iv == IV_MIN) ? (UV)iv : (UV)(-iv);
2874         sign = 1;
2875     }
2876     do {
2877         *--ptr = '0' + (char)(uv % 10);
2878     } while (uv /= 10);
2879     if (sign)
2880         *--ptr = '-';
2881     *peob = ebuf;
2882     return ptr;
2883 }
2884
2885 /* Helper for sv_2pv_flags and sv_vcatpvfn_flags.  If the NV is an
2886  * infinity or a not-a-number, writes the appropriate strings to the
2887  * buffer, including a zero byte.  On success returns the written length,
2888  * excluding the zero byte, on failure (not an infinity, not a nan)
2889  * returns zero, assert-fails on maxlen being too short.
2890  *
2891  * XXX for "Inf", "-Inf", and "NaN", we could have three read-only
2892  * shared string constants we point to, instead of generating a new
2893  * string for each instance. */
2894 STATIC size_t
2895 S_infnan_2pv(NV nv, char* buffer, size_t maxlen, char plus) {
2896     char* s = buffer;
2897     assert(maxlen >= 4);
2898     if (Perl_isinf(nv)) {
2899         if (nv < 0) {
2900             if (maxlen < 5) /* "-Inf\0"  */
2901                 return 0;
2902             *s++ = '-';
2903         } else if (plus) {
2904             *s++ = '+';
2905         }
2906         *s++ = 'I';
2907         *s++ = 'n';
2908         *s++ = 'f';
2909     }
2910     else if (Perl_isnan(nv)) {
2911         *s++ = 'N';
2912         *s++ = 'a';
2913         *s++ = 'N';
2914         /* XXX optionally output the payload mantissa bits as
2915          * "(unsigned)" (to match the nan("...") C99 function,
2916          * or maybe as "(0xhhh...)"  would make more sense...
2917          * provide a format string so that the user can decide?
2918          * NOTE: would affect the maxlen and assert() logic.*/
2919     }
2920     else {
2921       return 0;
2922     }
2923     assert((s == buffer + 3) || (s == buffer + 4));
2924     *s = 0;
2925     return s - buffer;
2926 }
2927
2928 /*
2929 =for apidoc sv_2pv_flags
2930
2931 Returns a pointer to the string value of an SV, and sets C<*lp> to its length.
2932 If flags has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.  Coerces C<sv> to a
2933 string if necessary.  Normally invoked via the C<SvPV_flags> macro.
2934 C<sv_2pv()> and C<sv_2pv_nomg> usually end up here too.
2935
2936 =cut
2937 */
2938
2939 char *
2940 Perl_sv_2pv_flags(pTHX_ SV *const sv, STRLEN *const lp, const I32 flags)
2941 {
2942     char *s;
2943
2944     PERL_ARGS_ASSERT_SV_2PV_FLAGS;
2945
2946     assert (SvTYPE(sv) != SVt_PVAV && SvTYPE(sv) != SVt_PVHV
2947          && SvTYPE(sv) != SVt_PVFM);
2948     if (SvGMAGICAL(sv) && (flags & SV_GMAGIC))
2949         mg_get(sv);
2950     if (SvROK(sv)) {
2951         if (SvAMAGIC(sv)) {
2952             SV *tmpstr;
2953             if (flags & SV_SKIP_OVERLOAD)
2954                 return NULL;
2955             tmpstr = AMG_CALLunary(sv, string_amg);
2956             TAINT_IF(tmpstr && SvTAINTED(tmpstr));
2957             if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2958                 /* Unwrap this:  */
2959                 /* char *pv = lp ? SvPV(tmpstr, *lp) : SvPV_nolen(tmpstr);
2960                  */
2961
2962                 char *pv;
2963                 if ((SvFLAGS(tmpstr) & (SVf_POK)) == SVf_POK) {
2964                     if (flags & SV_CONST_RETURN) {
2965                         pv = (char *) SvPVX_const(tmpstr);
2966                     } else {
2967                         pv = (flags & SV_MUTABLE_RETURN)
2968                             ? SvPVX_mutable(tmpstr) : SvPVX(tmpstr);
2969                     }
2970                     if (lp)
2971                         *lp = SvCUR(tmpstr);
2972                 } else {
2973                     pv = sv_2pv_flags(tmpstr, lp, flags);
2974                 }
2975                 if (SvUTF8(tmpstr))
2976                     SvUTF8_on(sv);
2977                 else
2978                     SvUTF8_off(sv);
2979                 return pv;
2980             }
2981         }
2982         {
2983             STRLEN len;
2984             char *retval;
2985             char *buffer;
2986             SV *const referent = SvRV(sv);
2987
2988             if (!referent) {
2989                 len = 7;
2990                 retval = buffer = savepvn("NULLREF", len);
2991             } else if (SvTYPE(referent) == SVt_REGEXP &&
2992                        (!(PL_curcop->cop_hints & HINT_NO_AMAGIC) ||
2993                         amagic_is_enabled(string_amg))) {
2994                 REGEXP * const re = (REGEXP *)MUTABLE_PTR(referent);
2995
2996                 assert(re);
2997                         
2998                 /* If the regex is UTF-8 we want the containing scalar to
2999                    have an UTF-8 flag too */
3000                 if (RX_UTF8(re))
3001                     SvUTF8_on(sv);
3002                 else
3003                     SvUTF8_off(sv);     
3004
3005                 if (lp)
3006                     *lp = RX_WRAPLEN(re);
3007  
3008                 return RX_WRAPPED(re);
3009             } else {
3010                 const char *const typestr = sv_reftype(referent, 0);
3011                 const STRLEN typelen = strlen(typestr);
3012                 UV addr = PTR2UV(referent);
3013                 const char *stashname = NULL;
3014                 STRLEN stashnamelen = 0; /* hush, gcc */
3015                 const char *buffer_end;
3016
3017                 if (SvOBJECT(referent)) {
3018                     const HEK *const name = HvNAME_HEK(SvSTASH(referent));
3019
3020                     if (name) {
3021                         stashname = HEK_KEY(name);
3022                         stashnamelen = HEK_LEN(name);
3023
3024                         if (HEK_UTF8(name)) {
3025                             SvUTF8_on(sv);
3026                         } else {
3027                             SvUTF8_off(sv);
3028                         }
3029                     } else {
3030                         stashname = "__ANON__";
3031                         stashnamelen = 8;
3032                     }
3033                     len = stashnamelen + 1 /* = */ + typelen + 3 /* (0x */
3034                         + 2 * sizeof(UV) + 2 /* )\0 */;
3035                 } else {
3036                     len = typelen + 3 /* (0x */
3037                         + 2 * sizeof(UV) + 2 /* )\0 */;
3038                 }
3039
3040                 Newx(buffer, len, char);
3041                 buffer_end = retval = buffer + len;
3042
3043                 /* Working backwards  */
3044                 *--retval = '\0';
3045                 *--retval = ')';
3046                 do {
3047                     *--retval = PL_hexdigit[addr & 15];
3048                 } while (addr >>= 4);
3049                 *--retval = 'x';
3050                 *--retval = '0';
3051                 *--retval = '(';
3052
3053                 retval -= typelen;
3054                 memcpy(retval, typestr, typelen);
3055
3056                 if (stashname) {
3057                     *--retval = '=';
3058                     retval -= stashnamelen;
3059                     memcpy(retval, stashname, stashnamelen);
3060                 }
3061                 /* retval may not necessarily have reached the start of the
3062                    buffer here.  */
3063                 assert (retval >= buffer);
3064
3065                 len = buffer_end - retval - 1; /* -1 for that \0  */
3066             }
3067             if (lp)
3068                 *lp = len;
3069             SAVEFREEPV(buffer);
3070             return retval;
3071         }
3072     }
3073
3074     if (SvPOKp(sv)) {
3075         if (lp)
3076             *lp = SvCUR(sv);
3077         if (flags & SV_MUTABLE_RETURN)
3078             return SvPVX_mutable(sv);
3079         if (flags & SV_CONST_RETURN)
3080             return (char *)SvPVX_const(sv);
3081         return SvPVX(sv);
3082     }
3083
3084     if (SvIOK(sv)) {
3085         /* I'm assuming that if both IV and NV are equally valid then
3086            converting the IV is going to be more efficient */
3087         const U32 isUIOK = SvIsUV(sv);
3088         char buf[TYPE_CHARS(UV)];
3089         char *ebuf, *ptr;
3090         STRLEN len;
3091
3092         if (SvTYPE(sv) < SVt_PVIV)
3093             sv_upgrade(sv, SVt_PVIV);
3094         ptr = uiv_2buf(buf, SvIVX(sv), SvUVX(sv), isUIOK, &ebuf);
3095         len = ebuf - ptr;
3096         /* inlined from sv_setpvn */
3097         s = SvGROW_mutable(sv, len + 1);
3098         Move(ptr, s, len, char);
3099         s += len;
3100         *s = '\0';
3101         SvPOK_on(sv);
3102     }
3103     else if (SvNOK(sv)) {
3104         if (SvTYPE(sv) < SVt_PVNV)
3105             sv_upgrade(sv, SVt_PVNV);
3106         if (SvNVX(sv) == 0.0
3107 #if defined(NAN_COMPARE_BROKEN) && defined(Perl_isnan)
3108             && !Perl_isnan(SvNVX(sv))
3109 #endif
3110         ) {
3111             s = SvGROW_mutable(sv, 2);
3112             *s++ = '0';
3113             *s = '\0';
3114         } else {
3115             STRLEN len;
3116             STRLEN size = 5; /* "-Inf\0" */
3117
3118             s = SvGROW_mutable(sv, size);
3119             len = S_infnan_2pv(SvNVX(sv), s, size, 0);
3120             if (len > 0) {
3121                 s += len;
3122                 SvPOK_on(sv);
3123             }
3124             else {
3125                 /* some Xenix systems wipe out errno here */
3126                 dSAVE_ERRNO;
3127
3128                 size =
3129                     1 + /* sign */
3130                     1 + /* "." */
3131                     NV_DIG +
3132                     1 + /* "e" */
3133                     1 + /* sign */
3134                     5 + /* exponent digits */
3135                     1 + /* \0 */
3136                     2; /* paranoia */
3137
3138                 s = SvGROW_mutable(sv, size);
3139 #ifndef USE_LOCALE_NUMERIC
3140                 SNPRINTF_G(SvNVX(sv), s, SvLEN(sv), NV_DIG);
3141
3142                 SvPOK_on(sv);
3143 #else
3144                 {
3145                     bool local_radix;
3146                     DECLARATION_FOR_LC_NUMERIC_MANIPULATION;
3147                     STORE_LC_NUMERIC_SET_TO_NEEDED();
3148
3149                     local_radix = PL_numeric_local && PL_numeric_radix_sv;
3150                     if (local_radix && SvLEN(PL_numeric_radix_sv) > 1) {
3151                         size += SvLEN(PL_numeric_radix_sv) - 1;
3152                         s = SvGROW_mutable(sv, size);
3153                     }
3154
3155                     SNPRINTF_G(SvNVX(sv), s, SvLEN(sv), NV_DIG);
3156
3157                     /* If the radix character is UTF-8, and actually is in the
3158                      * output, turn on the UTF-8 flag for the scalar */
3159                     if (   local_radix
3160                         && SvUTF8(PL_numeric_radix_sv)
3161                         && instr(s, SvPVX_const(PL_numeric_radix_sv)))
3162                     {
3163                         SvUTF8_on(sv);
3164                     }
3165
3166                     RESTORE_LC_NUMERIC();
3167                 }
3168
3169                 /* We don't call SvPOK_on(), because it may come to
3170                  * pass that the locale changes so that the
3171                  * stringification we just did is no longer correct.  We
3172                  * will have to re-stringify every time it is needed */
3173 #endif
3174                 RESTORE_ERRNO;
3175             }
3176             while (*s) s++;
3177         }
3178     }
3179     else if (isGV_with_GP(sv)) {
3180         GV *const gv = MUTABLE_GV(sv);
3181         SV *const buffer = sv_newmortal();
3182
3183         gv_efullname3(buffer, gv, "*");
3184
3185         assert(SvPOK(buffer));
3186         if (SvUTF8(buffer))
3187             SvUTF8_on(sv);
3188         if (lp)
3189             *lp = SvCUR(buffer);
3190         return SvPVX(buffer);
3191     }
3192     else if (isREGEXP(sv)) {
3193         if (lp) *lp = RX_WRAPLEN((REGEXP *)sv);
3194         return RX_WRAPPED((REGEXP *)sv);
3195     }
3196     else {
3197         if (lp)
3198             *lp = 0;
3199         if (flags & SV_UNDEF_RETURNS_NULL)
3200             return NULL;
3201         if (!PL_localizing && ckWARN(WARN_UNINITIALIZED))
3202             report_uninit(sv);
3203         /* Typically the caller expects that sv_any is not NULL now.  */
3204         if (!SvREADONLY(sv) && SvTYPE(sv) < SVt_PV)
3205             sv_upgrade(sv, SVt_PV);
3206         return (char *)"";
3207     }
3208
3209     {
3210         const STRLEN len = s - SvPVX_const(sv);
3211         if (lp) 
3212             *lp = len;
3213         SvCUR_set(sv, len);
3214     }
3215     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2pv(%s)\n",
3216                           PTR2UV(sv),SvPVX_const(sv)));
3217     if (flags & SV_CONST_RETURN)
3218         return (char *)SvPVX_const(sv);
3219     if (flags & SV_MUTABLE_RETURN)
3220         return SvPVX_mutable(sv);
3221     return SvPVX(sv);
3222 }
3223
3224 /*
3225 =for apidoc sv_copypv
3226
3227 Copies a stringified representation of the source SV into the
3228 destination SV.  Automatically performs any necessary C<mg_get> and
3229 coercion of numeric values into strings.  Guaranteed to preserve
3230 C<UTF8> flag even from overloaded objects.  Similar in nature to
3231 C<sv_2pv[_flags]> but operates directly on an SV instead of just the
3232 string.  Mostly uses C<sv_2pv_flags> to do its work, except when that
3233 would lose the UTF-8'ness of the PV.
3234
3235 =for apidoc sv_copypv_nomg
3236
3237 Like C<sv_copypv>, but doesn't invoke get magic first.
3238
3239 =for apidoc sv_copypv_flags
3240
3241 Implementation of C<sv_copypv> and C<sv_copypv_nomg>.  Calls get magic iff flags
3242 has the C<SV_GMAGIC> bit set.
3243
3244 =cut
3245 */
3246
3247 void
3248 Perl_sv_copypv_flags(pTHX_ SV *const dsv, SV *const ssv, const I32 flags)
3249 {
3250     STRLEN len;
3251     const char *s;
3252
3253     PERL_ARGS_ASSERT_SV_COPYPV_FLAGS;
3254
3255     s = SvPV_flags_const(ssv,len,(flags & SV_GMAGIC));
3256     sv_setpvn(dsv,s,len);
3257     if (SvUTF8(ssv))
3258         SvUTF8_on(dsv);
3259     else
3260         SvUTF8_off(dsv);
3261 }
3262
3263 /*
3264 =for apidoc sv_2pvbyte
3265
3266 Return a pointer to the byte-encoded representation of the SV, and set C<*lp>
3267 to its length.  May cause the SV to be downgraded from UTF-8 as a
3268 side-effect.
3269
3270 Usually accessed via the C<SvPVbyte> macro.
3271
3272 =cut
3273 */
3274
3275 char *
3276 Perl_sv_2pvbyte(pTHX_ SV *sv, STRLEN *const lp)
3277 {
3278     PERL_ARGS_ASSERT_SV_2PVBYTE;
3279
3280     SvGETMAGIC(sv);
3281     if (((SvREADONLY(sv) || SvFAKE(sv)) && !SvIsCOW(sv))
3282      || isGV_with_GP(sv) || SvROK(sv)) {
3283         SV *sv2 = sv_newmortal();
3284         sv_copypv_nomg(sv2,sv);
3285         sv = sv2;
3286     }
3287     sv_utf8_downgrade(sv,0);
3288     return lp ? SvPV_nomg(sv,*lp) : SvPV_nomg_nolen(sv);
3289 }
3290
3291 /*
3292 =for apidoc sv_2pvutf8
3293
3294 Return a pointer to the UTF-8-encoded representation of the SV, and set C<*lp>
3295 to its length.  May cause the SV to be upgraded to UTF-8 as a side-effect.
3296
3297 Usually accessed via the C<SvPVutf8> macro.
3298
3299 =cut
3300 */
3301
3302 char *
3303 Perl_sv_2pvutf8(pTHX_ SV *sv, STRLEN *const lp)
3304 {
3305     PERL_ARGS_ASSERT_SV_2PVUTF8;
3306
3307     if (((SvREADONLY(sv) || SvFAKE(sv)) && !SvIsCOW(sv))
3308      || isGV_with_GP(sv) || SvROK(sv))
3309         sv = sv_mortalcopy(sv);
3310     else
3311         SvGETMAGIC(sv);
3312     sv_utf8_upgrade_nomg(sv);
3313     return lp ? SvPV_nomg(sv,*lp) : SvPV_nomg_nolen(sv);
3314 }
3315
3316
3317 /*
3318 =for apidoc sv_2bool
3319
3320 This macro is only used by C<sv_true()> or its macro equivalent, and only if
3321 the latter's argument is neither C<SvPOK>, C<SvIOK> nor C<SvNOK>.
3322 It calls C<sv_2bool_flags> with the C<SV_GMAGIC> flag.
3323
3324 =for apidoc sv_2bool_flags
3325
3326 This function is only used by C<sv_true()> and friends,  and only if
3327 the latter's argument is neither C<SvPOK>, C<SvIOK> nor C<SvNOK>.  If the flags
3328 contain C<SV_GMAGIC>, then it does an C<mg_get()> first.
3329
3330
3331 =cut
3332 */
3333
3334 bool
3335 Perl_sv_2bool_flags(pTHX_ SV *sv, I32 flags)
3336 {
3337     PERL_ARGS_ASSERT_SV_2BOOL_FLAGS;
3338
3339     restart:
3340     if(flags & SV_GMAGIC) SvGETMAGIC(sv);
3341
3342     if (!SvOK(sv))
3343         return 0;
3344     if (SvROK(sv)) {
3345         if (SvAMAGIC(sv)) {
3346             SV * const tmpsv = AMG_CALLunary(sv, bool__amg);
3347             if (tmpsv && (!SvROK(tmpsv) || (SvRV(tmpsv) != SvRV(sv)))) {
3348                 bool svb;
3349                 sv = tmpsv;
3350                 if(SvGMAGICAL(sv)) {
3351                     flags = SV_GMAGIC;
3352                     goto restart; /* call sv_2bool */
3353                 }
3354                 /* expanded SvTRUE_common(sv, (flags = 0, goto restart)) */
3355                 else if(!SvOK(sv)) {
3356                     svb = 0;
3357                 }
3358                 else if(SvPOK(sv)) {
3359                     svb = SvPVXtrue(sv);
3360                 }
3361                 else if((SvFLAGS(sv) & (SVf_IOK|SVf_NOK))) {
3362                     svb = (SvIOK(sv) && SvIVX(sv) != 0)
3363                         || (SvNOK(sv) && SvNVX(sv) != 0.0);
3364                 }
3365                 else {
3366                     flags = 0;
3367                     goto restart; /* call sv_2bool_nomg */
3368                 }
3369                 return cBOOL(svb);
3370             }
3371         }
3372         return SvRV(sv) != 0;
3373     }
3374     if (isREGEXP(sv))
3375         return
3376           RX_WRAPLEN(sv) > 1 || (RX_WRAPLEN(sv) && *RX_WRAPPED(sv) != '0');
3377     return SvTRUE_common(sv, isGV_with_GP(sv) ? 1 : 0);
3378 }
3379
3380 /*
3381 =for apidoc sv_utf8_upgrade
3382
3383 Converts the PV of an SV to its UTF-8-encoded form.
3384 Forces the SV to string form if it is not already.
3385 Will C<mg_get> on C<sv> if appropriate.
3386 Always sets the C<SvUTF8> flag to avoid future validity checks even
3387 if the whole string is the same in UTF-8 as not.
3388 Returns the number of bytes in the converted string
3389
3390 This is not a general purpose byte encoding to Unicode interface:
3391 use the Encode extension for that.
3392
3393 =for apidoc sv_utf8_upgrade_nomg
3394
3395 Like C<sv_utf8_upgrade>, but doesn't do magic on C<sv>.
3396
3397 =for apidoc sv_utf8_upgrade_flags
3398
3399 Converts the PV of an SV to its UTF-8-encoded form.
3400 Forces the SV to string form if it is not already.
3401 Always sets the SvUTF8 flag to avoid future validity checks even
3402 if all the bytes are invariant in UTF-8.
3403 If C<flags> has C<SV_GMAGIC> bit set,
3404 will C<mg_get> on C<sv> if appropriate, else not.
3405
3406 If C<flags> has C<SV_FORCE_UTF8_UPGRADE> set, this function assumes that the PV
3407 will expand when converted to UTF-8, and skips the extra work of checking for
3408 that.  Typically this flag is used by a routine that has already parsed the
3409 string and found such characters, and passes this information on so that the
3410 work doesn't have to be repeated.
3411
3412 Returns the number of bytes in the converted string.
3413
3414 This is not a general purpose byte encoding to Unicode interface:
3415 use the Encode extension for that.
3416
3417 =for apidoc sv_utf8_upgrade_flags_grow
3418
3419 Like C<sv_utf8_upgrade_flags>, but has an additional parameter C<extra>, which is
3420 the number of unused bytes the string of C<sv> is guaranteed to have free after
3421 it upon return.  This allows the caller to reserve extra space that it intends
3422 to fill, to avoid extra grows.
3423
3424 C<sv_utf8_upgrade>, C<sv_utf8_upgrade_nomg>, and C<sv_utf8_upgrade_flags>
3425 are implemented in terms of this function.
3426
3427 Returns the number of bytes in the converted string (not including the spares).
3428
3429 =cut
3430
3431 (One might think that the calling routine could pass in the position of the
3432 first variant character when it has set SV_FORCE_UTF8_UPGRADE, so it wouldn't
3433 have to be found again.  But that is not the case, because typically when the
3434 caller is likely to use this flag, it won't be calling this routine unless it
3435 finds something that won't fit into a byte.  Otherwise it tries to not upgrade
3436 and just use bytes.  But some things that do fit into a byte are variants in
3437 utf8, and the caller may not have been keeping track of these.)
3438
3439 If the routine itself changes the string, it adds a trailing C<NUL>.  Such a
3440 C<NUL> isn't guaranteed due to having other routines do the work in some input
3441 cases, or if the input is already flagged as being in utf8.
3442
3443 The speed of this could perhaps be improved for many cases if someone wanted to
3444 write a fast function that counts the number of variant characters in a string,
3445 especially if it could return the position of the first one.
3446
3447 */
3448
3449 STRLEN
3450 Perl_sv_utf8_upgrade_flags_grow(pTHX_ SV *const sv, const I32 flags, STRLEN extra)
3451 {
3452     PERL_ARGS_ASSERT_SV_UTF8_UPGRADE_FLAGS_GROW;
3453
3454     if (sv == &PL_sv_undef)
3455         return 0;
3456     if (!SvPOK_nog(sv)) {
3457         STRLEN len = 0;
3458         if (SvREADONLY(sv) && (SvPOKp(sv) || SvIOKp(sv) || SvNOKp(sv))) {
3459             (void) sv_2pv_flags(sv,&len, flags);
3460             if (SvUTF8(sv)) {
3461                 if (extra) SvGROW(sv, SvCUR(sv) + extra);
3462                 return len;
3463             }
3464         } else {
3465             (void) SvPV_force_flags(sv,len,flags & SV_GMAGIC);
3466         }
3467     }
3468
3469     if (SvUTF8(sv)) {
3470         if (extra) SvGROW(sv, SvCUR(sv) + extra);
3471         return SvCUR(sv);
3472     }
3473
3474     if (SvIsCOW(sv)) {
3475         S_sv_uncow(aTHX_ sv, 0);
3476     }
3477
3478     if (SvCUR(sv) == 0) {
3479         if (extra) SvGROW(sv, extra);
3480     } else { /* Assume Latin-1/EBCDIC */
3481         /* This function could be much more efficient if we
3482          * had a FLAG in SVs to signal if there are any variant
3483          * chars in the PV.  Given that there isn't such a flag
3484          * make the loop as fast as possible (although there are certainly ways
3485          * to speed this up, eg. through vectorization) */
3486         U8 * s = (U8 *) SvPVX_const(sv);
3487         U8 * e = (U8 *) SvEND(sv);
3488         U8 *t = s;
3489         STRLEN two_byte_count = 0;
3490         
3491         if (flags & SV_FORCE_UTF8_UPGRADE) goto must_be_utf8;
3492
3493         /* See if really will need to convert to utf8.  We mustn't rely on our
3494          * incoming SV being well formed and having a trailing '\0', as certain
3495          * code in pp_formline can send us partially built SVs. */
3496
3497         while (t < e) {
3498             const U8 ch = *t++;
3499             if (NATIVE_BYTE_IS_INVARIANT(ch)) continue;
3500
3501             t--;    /* t already incremented; re-point to first variant */
3502             two_byte_count = 1;
3503             goto must_be_utf8;
3504         }
3505
3506         /* utf8 conversion not needed because all are invariants.  Mark as
3507          * UTF-8 even if no variant - saves scanning loop */
3508         SvUTF8_on(sv);
3509         if (extra) SvGROW(sv, SvCUR(sv) + extra);
3510         return SvCUR(sv);
3511
3512       must_be_utf8:
3513
3514         /* Here, the string should be converted to utf8, either because of an
3515          * input flag (two_byte_count = 0), or because a character that
3516          * requires 2 bytes was found (two_byte_count = 1).  t points either to
3517          * the beginning of the string (if we didn't examine anything), or to
3518          * the first variant.  In either case, everything from s to t - 1 will
3519          * occupy only 1 byte each on output.
3520          *
3521          * There are two main ways to convert.  One is to create a new string
3522          * and go through the input starting from the beginning, appending each
3523          * converted value onto the new string as we go along.  It's probably
3524          * best to allocate enough space in the string for the worst possible
3525          * case rather than possibly running out of space and having to
3526          * reallocate and then copy what we've done so far.  Since everything
3527          * from s to t - 1 is invariant, the destination can be initialized
3528          * with these using a fast memory copy
3529          *
3530          * The other way is to figure out exactly how big the string should be
3531          * by parsing the entire input.  Then you don't have to make it big
3532          * enough to handle the worst possible case, and more importantly, if
3533          * the string you already have is large enough, you don't have to
3534          * allocate a new string, you can copy the last character in the input
3535          * string to the final position(s) that will be occupied by the
3536          * converted string and go backwards, stopping at t, since everything
3537          * before that is invariant.
3538          *
3539          * There are advantages and disadvantages to each method.
3540          *
3541          * In the first method, we can allocate a new string, do the memory
3542          * copy from the s to t - 1, and then proceed through the rest of the
3543          * string byte-by-byte.
3544          *
3545          * In the second method, we proceed through the rest of the input
3546          * string just calculating how big the converted string will be.  Then
3547          * there are two cases:
3548          *  1)  if the string has enough extra space to handle the converted
3549          *      value.  We go backwards through the string, converting until we
3550          *      get to the position we are at now, and then stop.  If this
3551          *      position is far enough along in the string, this method is
3552          *      faster than the other method.  If the memory copy were the same
3553          *      speed as the byte-by-byte loop, that position would be about
3554          *      half-way, as at the half-way mark, parsing to the end and back
3555          *      is one complete string's parse, the same amount as starting
3556          *      over and going all the way through.  Actually, it would be
3557          *      somewhat less than half-way, as it's faster to just count bytes
3558          *      than to also copy, and we don't have the overhead of allocating
3559          *      a new string, changing the scalar to use it, and freeing the
3560          *      existing one.  But if the memory copy is fast, the break-even
3561          *      point is somewhere after half way.  The counting loop could be
3562          *      sped up by vectorization, etc, to move the break-even point
3563          *      further towards the beginning.
3564          *  2)  if the string doesn't have enough space to handle the converted
3565          *      value.  A new string will have to be allocated, and one might
3566          *      as well, given that, start from the beginning doing the first
3567          *      method.  We've spent extra time parsing the string and in
3568          *      exchange all we've gotten is that we know precisely how big to
3569          *      make the new one.  Perl is more optimized for time than space,
3570          *      so this case is a loser.
3571          * So what I've decided to do is not use the 2nd method unless it is
3572          * guaranteed that a new string won't have to be allocated, assuming
3573          * the worst case.  I also decided not to put any more conditions on it
3574          * than this, for now.  It seems likely that, since the worst case is
3575          * twice as big as the unknown portion of the string (plus 1), we won't
3576          * be guaranteed enough space, causing us to go to the first method,
3577          * unless the string is short, or the first variant character is near
3578          * the end of it.  In either of these cases, it seems best to use the
3579          * 2nd method.  The only circumstance I can think of where this would
3580          * be really slower is if the string had once had much more data in it
3581          * than it does now, but there is still a substantial amount in it  */
3582
3583         {
3584             STRLEN invariant_head = t - s;
3585             STRLEN size = invariant_head + (e - t) * 2 + 1 + extra;
3586             if (SvLEN(sv) < size) {
3587
3588                 /* Here, have decided to allocate a new string */
3589
3590                 U8 *dst;
3591                 U8 *d;
3592
3593                 Newx(dst, size, U8);
3594
3595                 /* If no known invariants at the beginning of the input string,
3596                  * set so starts from there.  Otherwise, can use memory copy to
3597                  * get up to where we are now, and then start from here */
3598
3599                 if (invariant_head == 0) {
3600                     d = dst;
3601                 } else {
3602                     Copy(s, dst, invariant_head, char);
3603                     d = dst + invariant_head;
3604                 }
3605
3606                 while (t < e) {
3607                     append_utf8_from_native_byte(*t, &d);
3608                     t++;
3609                 }
3610                 *d = '\0';
3611                 SvPV_free(sv); /* No longer using pre-existing string */
3612                 SvPV_set(sv, (char*)dst);
3613                 SvCUR_set(sv, d - dst);
3614                 SvLEN_set(sv, size);
3615             } else {
3616
3617                 /* Here, have decided to get the exact size of the string.
3618                  * Currently this happens only when we know that there is
3619                  * guaranteed enough space to fit the converted string, so
3620                  * don't have to worry about growing.  If two_byte_count is 0,
3621                  * then t points to the first byte of the string which hasn't
3622                  * been examined yet.  Otherwise two_byte_count is 1, and t
3623                  * points to the first byte in the string that will expand to
3624                  * two.  Depending on this, start examining at t or 1 after t.
3625                  * */
3626
3627                 U8 *d = t + two_byte_count;
3628
3629
3630                 /* Count up the remaining bytes that expand to two */
3631
3632                 while (d < e) {
3633                     const U8 chr = *d++;
3634                     if (! NATIVE_BYTE_IS_INVARIANT(chr)) two_byte_count++;
3635                 }
3636
3637                 /* The string will expand by just the number of bytes that
3638                  * occupy two positions.  But we are one afterwards because of
3639                  * the increment just above.  This is the place to put the
3640                  * trailing NUL, and to set the length before we decrement */
3641
3642                 d += two_byte_count;
3643                 SvCUR_set(sv, d - s);
3644                 *d-- = '\0';
3645
3646
3647                 /* Having decremented d, it points to the position to put the
3648                  * very last byte of the expanded string.  Go backwards through
3649                  * the string, copying and expanding as we go, stopping when we
3650                  * get to the part that is invariant the rest of the way down */
3651
3652                 e--;
3653                 while (e >= t) {
3654                     if (NATIVE_BYTE_IS_INVARIANT(*e)) {
3655                         *d-- = *e;
3656                     } else {
3657                         *d-- = UTF8_EIGHT_BIT_LO(*e);
3658                         *d-- = UTF8_EIGHT_BIT_HI(*e);
3659                     }
3660                     e--;
3661                 }
3662             }
3663
3664             if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
3665                 /* Update pos. We do it at the end rather than during
3666                  * the upgrade, to avoid slowing down the common case
3667                  * (upgrade without pos).
3668                  * pos can be stored as either bytes or characters.  Since
3669                  * this was previously a byte string we can just turn off
3670                  * the bytes flag. */
3671                 MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
3672                 if (mg) {
3673                     mg->mg_flags &= ~MGf_BYTES;
3674                 }
3675                 if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
3676                     magic_setutf8(sv,mg); /* clear UTF8 cache */
3677             }
3678         }
3679     }
3680
3681     /* Mark as UTF-8 even if no variant - saves scanning loop */
3682     SvUTF8_on(sv);
3683     return SvCUR(sv);
3684 }
3685
3686 /*
3687 =for apidoc sv_utf8_downgrade
3688
3689 Attempts to convert the PV of an SV from characters to bytes.
3690 If the PV contains a character that cannot fit
3691 in a byte, this conversion will fail;
3692 in this case, either returns false or, if C<fail_ok> is not
3693 true, croaks.
3694
3695 This is not a general purpose Unicode to byte encoding interface:
3696 use the C<Encode> extension for that.
3697
3698 =cut
3699 */
3700
3701 bool
3702 Perl_sv_utf8_downgrade(pTHX_ SV *const sv, const bool fail_ok)
3703 {
3704     PERL_ARGS_ASSERT_SV_UTF8_DOWNGRADE;
3705
3706     if (SvPOKp(sv) && SvUTF8(sv)) {
3707         if (SvCUR(sv)) {
3708             U8 *s;
3709             STRLEN len;
3710             int mg_flags = SV_GMAGIC;
3711
3712             if (SvIsCOW(sv)) {
3713                 S_sv_uncow(aTHX_ sv, 0);
3714             }
3715             if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
3716                 /* update pos */
3717                 MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
3718                 if (mg && mg->mg_len > 0 && mg->mg_flags & MGf_BYTES) {
3719                         mg->mg_len = sv_pos_b2u_flags(sv, mg->mg_len,
3720                                                 SV_GMAGIC|SV_CONST_RETURN);
3721                         mg_flags = 0; /* sv_pos_b2u does get magic */
3722                 }
3723                 if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
3724                     magic_setutf8(sv,mg); /* clear UTF8 cache */
3725
3726             }
3727             s = (U8 *) SvPV_flags(sv, len, mg_flags);
3728
3729             if (!utf8_to_bytes(s, &len)) {
3730                 if (fail_ok)
3731                     return FALSE;
3732                 else {
3733                     if (PL_op)
3734                         Perl_croak(aTHX_ "Wide character in %s",
3735                                    OP_DESC(PL_op));
3736                     else
3737                         Perl_croak(aTHX_ "Wide character");
3738                 }
3739             }
3740             SvCUR_set(sv, len);
3741         }
3742     }
3743     SvUTF8_off(sv);
3744     return TRUE;
3745 }
3746
3747 /*
3748 =for apidoc sv_utf8_encode
3749
3750 Converts the PV of an SV to UTF-8, but then turns the C<SvUTF8>
3751 flag off so that it looks like octets again.
3752
3753 =cut
3754 */
3755
3756 void
3757 Perl_sv_utf8_encode(pTHX_ SV *const sv)
3758 {
3759     PERL_ARGS_ASSERT_SV_UTF8_ENCODE;
3760
3761     if (SvREADONLY(sv)) {
3762         sv_force_normal_flags(sv, 0);
3763     }
3764     (void) sv_utf8_upgrade(sv);
3765     SvUTF8_off(sv);
3766 }
3767
3768 /*
3769 =for apidoc sv_utf8_decode
3770
3771 If the PV of the SV is an octet sequence in Perl's extended UTF-8
3772 and contains a multiple-byte character, the C<SvUTF8> flag is turned on
3773 so that it looks like a character.  If the PV contains only single-byte
3774 characters, the C<SvUTF8> flag stays off.
3775 Scans PV for validity and returns FALSE if the PV is invalid UTF-8.
3776
3777 =cut
3778 */
3779
3780 bool
3781 Perl_sv_utf8_decode(pTHX_ SV *const sv)
3782 {
3783     PERL_ARGS_ASSERT_SV_UTF8_DECODE;
3784
3785     if (SvPOKp(sv)) {
3786         const U8 *start, *c;
3787
3788         /* The octets may have got themselves encoded - get them back as
3789          * bytes
3790          */
3791         if (!sv_utf8_downgrade(sv, TRUE))
3792             return FALSE;
3793
3794         /* it is actually just a matter of turning the utf8 flag on, but
3795          * we want to make sure everything inside is valid utf8 first.
3796          */
3797         c = start = (const U8 *) SvPVX_const(sv);
3798         if (!is_utf8_string(c, SvCUR(sv)))
3799             return FALSE;
3800         if (! is_utf8_invariant_string(c, SvCUR(sv))) {
3801             SvUTF8_on(sv);
3802         }
3803         if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
3804             /* XXX Is this dead code?  XS_utf8_decode calls SvSETMAGIC
3805                    after this, clearing pos.  Does anything on CPAN
3806                    need this? */
3807             /* adjust pos to the start of a UTF8 char sequence */
3808             MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
3809             if (mg) {
3810                 I32 pos = mg->mg_len;
3811                 if (pos > 0) {
3812                     for (c = start + pos; c > start; c--) {
3813                         if (UTF8_IS_START(*c))
3814                             break;
3815                     }
3816                     mg->mg_len  = c - start;
3817                 }
3818             }
3819             if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
3820                 magic_setutf8(sv,mg); /* clear UTF8 cache */
3821         }
3822     }
3823     return TRUE;
3824 }
3825
3826 /*
3827 =for apidoc sv_setsv
3828
3829 Copies the contents of the source SV C<ssv> into the destination SV
3830 C<dsv>.  The source SV may be destroyed if it is mortal, so don't use this
3831 function if the source SV needs to be reused.  Does not handle 'set' magic on
3832 destination SV.  Calls 'get' magic on source SV.  Loosely speaking, it
3833 performs a copy-by-value, obliterating any previous content of the
3834 destination.
3835
3836 You probably want to use one of the assortment of wrappers, such as
3837 C<SvSetSV>, C<SvSetSV_nosteal>, C<SvSetMagicSV> and
3838 C<SvSetMagicSV_nosteal>.
3839
3840 =for apidoc sv_setsv_flags
3841
3842 Copies the contents of the source SV C<ssv> into the destination SV
3843 C<dsv>.  The source SV may be destroyed if it is mortal, so don't use this
3844 function if the source SV needs to be reused.  Does not handle 'set' magic.
3845 Loosely speaking, it performs a copy-by-value, obliterating any previous
3846 content of the destination.
3847 If the C<flags> parameter has the C<SV_GMAGIC> bit set, will C<mg_get> on
3848 C<ssv> if appropriate, else not.  If the C<flags>
3849 parameter has the C<SV_NOSTEAL> bit set then the
3850 buffers of temps will not be stolen.  C<sv_setsv>
3851 and C<sv_setsv_nomg> are implemented in terms of this function.
3852
3853 You probably want to use one of the assortment of wrappers, such as
3854 C<SvSetSV>, C<SvSetSV_nosteal>, C<SvSetMagicSV> and
3855 C<SvSetMagicSV_nosteal>.
3856
3857 This is the primary function for copying scalars, and most other
3858 copy-ish functions and macros use this underneath.
3859
3860 =cut
3861 */
3862
3863 static void
3864 S_glob_assign_glob(pTHX_ SV *const dstr, SV *const sstr, const int dtype)
3865 {
3866     I32 mro_changes = 0; /* 1 = method, 2 = isa, 3 = recursive isa */
3867     HV *old_stash = NULL;
3868
3869     PERL_ARGS_ASSERT_GLOB_ASSIGN_GLOB;
3870
3871     if (dtype != SVt_PVGV && !isGV_with_GP(dstr)) {
3872         const char * const name = GvNAME(sstr);
3873         const STRLEN len = GvNAMELEN(sstr);
3874         {
3875             if (dtype >= SVt_PV) {
3876                 SvPV_free(dstr);
3877                 SvPV_set(dstr, 0);
3878                 SvLEN_set(dstr, 0);
3879                 SvCUR_set(dstr, 0);
3880             }
3881             SvUPGRADE(dstr, SVt_PVGV);
3882             (void)SvOK_off(dstr);
3883             isGV_with_GP_on(dstr);
3884         }
3885         GvSTASH(dstr) = GvSTASH(sstr);
3886         if (GvSTASH(dstr))
3887             Perl_sv_add_backref(aTHX_ MUTABLE_SV(GvSTASH(dstr)), dstr);
3888         gv_name_set(MUTABLE_GV(dstr), name, len,
3889                         GV_ADD | (GvNAMEUTF8(sstr) ? SVf_UTF8 : 0 ));
3890         SvFAKE_on(dstr);        /* can coerce to non-glob */
3891     }
3892
3893     if(GvGP(MUTABLE_GV(sstr))) {
3894         /* If source has method cache entry, clear it */
3895         if(GvCVGEN(sstr)) {
3896             SvREFCNT_dec(GvCV(sstr));
3897             GvCV_set(sstr, NULL);
3898             GvCVGEN(sstr) = 0;
3899         }
3900         /* If source has a real method, then a method is
3901            going to change */
3902         else if(
3903          GvCV((const GV *)sstr) && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
3904         ) {
3905             mro_changes = 1;
3906         }
3907     }
3908
3909     /* If dest already had a real method, that's a change as well */
3910     if(
3911         !mro_changes && GvGP(MUTABLE_GV(dstr)) && GvCVu((const GV *)dstr)
3912      && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
3913     ) {
3914         mro_changes = 1;
3915     }
3916
3917     /* We don't need to check the name of the destination if it was not a
3918        glob to begin with. */
3919     if(dtype == SVt_PVGV) {
3920         const char * const name = GvNAME((const GV *)dstr);
3921         if(
3922             strEQ(name,"ISA")
3923          /* The stash may have been detached from the symbol table, so
3924             check its name. */
3925          && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
3926         )
3927             mro_changes = 2;
3928         else {
3929             const STRLEN len = GvNAMELEN(dstr);
3930             if ((len > 1 && name[len-2] == ':' && name[len-1] == ':')
3931              || (len == 1 && name[0] == ':')) {
3932                 mro_changes = 3;
3933
3934                 /* Set aside the old stash, so we can reset isa caches on
3935                    its subclasses. */
3936                 if((old_stash = GvHV(dstr)))
3937                     /* Make sure we do not lose it early. */
3938                     SvREFCNT_inc_simple_void_NN(
3939                      sv_2mortal((SV *)old_stash)
3940                     );
3941             }
3942         }
3943
3944         SvREFCNT_inc_simple_void_NN(sv_2mortal(dstr));
3945     }
3946
3947     /* freeing dstr's GP might free sstr (e.g. *x = $x),
3948      * so temporarily protect it */
3949     ENTER;
3950     SAVEFREESV(SvREFCNT_inc_simple_NN(sstr));
3951     gp_free(MUTABLE_GV(dstr));
3952     GvINTRO_off(dstr);          /* one-shot flag */
3953     GvGP_set(dstr, gp_ref(GvGP(sstr)));
3954     LEAVE;
3955
3956     if (SvTAINTED(sstr))
3957         SvTAINT(dstr);
3958     if (GvIMPORTED(dstr) != GVf_IMPORTED
3959         && CopSTASH_ne(PL_curcop, GvSTASH(dstr)))
3960         {
3961             GvIMPORTED_on(dstr);
3962         }
3963     GvMULTI_on(dstr);
3964     if(mro_changes == 2) {
3965       if (GvAV((const GV *)sstr)) {
3966         MAGIC *mg;
3967         SV * const sref = (SV *)GvAV((const GV *)dstr);
3968         if (SvSMAGICAL(sref) && (mg = mg_find(sref, PERL_MAGIC_isa))) {
3969             if (SvTYPE(mg->mg_obj) != SVt_PVAV) {
3970                 AV * const ary = newAV();
3971                 av_push(ary, mg->mg_obj); /* takes the refcount */
3972                 mg->mg_obj = (SV *)ary;
3973             }
3974             av_push((AV *)mg->mg_obj, SvREFCNT_inc_simple_NN(dstr));
3975         }
3976         else sv_magic(sref, dstr, PERL_MAGIC_isa, NULL, 0);
3977       }
3978       mro_isa_changed_in(GvSTASH(dstr));
3979     }
3980     else if(mro_changes == 3) {
3981         HV * const stash = GvHV(dstr);
3982         if(old_stash ? (HV *)HvENAME_get(old_stash) : stash)
3983             mro_package_moved(
3984                 stash, old_stash,
3985                 (GV *)dstr, 0
3986             );
3987     }
3988     else if(mro_changes) mro_method_changed_in(GvSTASH(dstr));
3989     if (GvIO(dstr) && dtype == SVt_PVGV) {
3990         DEBUG_o(Perl_deb(aTHX_
3991                         "glob_assign_glob clearing PL_stashcache\n"));
3992         /* It's a cache. It will rebuild itself quite happily.
3993            It's a lot of effort to work out exactly which key (or keys)
3994            might be invalidated by the creation of the this file handle.
3995          */
3996         hv_clear(PL_stashcache);
3997     }
3998     return;
3999 }
4000
4001 void
4002 Perl_gv_setref(pTHX_ SV *const dstr, SV *const sstr)
4003 {
4004     SV * const sref = SvRV(sstr);
4005     SV *dref;
4006     const int intro = GvINTRO(dstr);
4007     SV **location;
4008     U8 import_flag = 0;
4009     const U32 stype = SvTYPE(sref);
4010
4011     PERL_ARGS_ASSERT_GV_SETREF;
4012
4013     if (intro) {
4014         GvINTRO_off(dstr);      /* one-shot flag */
4015         GvLINE(dstr) = CopLINE(PL_curcop);
4016         GvEGV(dstr) = MUTABLE_GV(dstr);
4017     }
4018     GvMULTI_on(dstr);
4019     switch (stype) {
4020     case SVt_PVCV:
4021         location = (SV **) &(GvGP(dstr)->gp_cv); /* XXX bypassing GvCV_set */
4022         import_flag = GVf_IMPORTED_CV;
4023         goto common;
4024     case SVt_PVHV:
4025         location = (SV **) &GvHV(dstr);
4026         import_flag = GVf_IMPORTED_HV;
4027         goto common;
4028     case SVt_PVAV:
4029         location = (SV **) &GvAV(dstr);
4030         import_flag = GVf_IMPORTED_AV;
4031         goto common;
4032     case SVt_PVIO:
4033         location = (SV **) &GvIOp(dstr);
4034         goto common;
4035     case SVt_PVFM:
4036         location = (SV **) &GvFORM(dstr);
4037         goto common;
4038     default:
4039         location = &GvSV(dstr);
4040         import_flag = GVf_IMPORTED_SV;
4041     common:
4042         if (intro) {
4043             if (stype == SVt_PVCV) {
4044                 /*if (GvCVGEN(dstr) && (GvCV(dstr) != (const CV *)sref || GvCVGEN(dstr))) {*/
4045                 if (GvCVGEN(dstr)) {
4046                     SvREFCNT_dec(GvCV(dstr));
4047                     GvCV_set(dstr, NULL);
4048                     GvCVGEN(dstr) = 0; /* Switch off cacheness. */
4049                 }
4050             }
4051             /* SAVEt_GVSLOT takes more room on the savestack and has more
4052                overhead in leave_scope than SAVEt_GENERIC_SV.  But for CVs
4053                leave_scope needs access to the GV so it can reset method
4054                caches.  We must use SAVEt_GVSLOT whenever the type is
4055                SVt_PVCV, even if the stash is anonymous, as the stash may
4056                gain a name somehow before leave_scope. */
4057             if (stype == SVt_PVCV) {
4058                 /* There is no save_pushptrptrptr.  Creating it for this
4059                    one call site would be overkill.  So inline the ss add
4060                    routines here. */
4061                 dSS_ADD;
4062                 SS_ADD_PTR(dstr);
4063                 SS_ADD_PTR(location);
4064                 SS_ADD_PTR(SvREFCNT_inc(*location));
4065                 SS_ADD_UV(SAVEt_GVSLOT);
4066                 SS_ADD_END(4);
4067             }
4068             else SAVEGENERICSV(*location);
4069         }
4070         dref = *location;
4071         if (stype == SVt_PVCV && (*location != sref || GvCVGEN(dstr))) {
4072             CV* const cv = MUTABLE_CV(*location);
4073             if (cv) {
4074                 if (!GvCVGEN((const GV *)dstr) &&
4075                     (CvROOT(cv) || CvXSUB(cv)) &&
4076                     /* redundant check that avoids creating the extra SV
4077                        most of the time: */
4078                     (CvCONST(cv) || ckWARN(WARN_REDEFINE)))
4079                     {
4080                         SV * const new_const_sv =
4081                             CvCONST((const CV *)sref)
4082                                  ? cv_const_sv((const CV *)sref)
4083                                  : NULL;
4084                         HV * const stash = GvSTASH((const GV *)dstr);
4085                         report_redefined_cv(
4086                            sv_2mortal(
4087                              stash
4088                                ? Perl_newSVpvf(aTHX_
4089                                     "%" HEKf "::%" HEKf,
4090                                     HEKfARG(HvNAME_HEK(stash)),
4091                                     HEKfARG(GvENAME_HEK(MUTABLE_GV(dstr))))
4092                                : Perl_newSVpvf(aTHX_
4093                                     "%" HEKf,
4094                                     HEKfARG(GvENAME_HEK(MUTABLE_GV(dstr))))
4095                            ),
4096                            cv,
4097                            CvCONST((const CV *)sref) ? &new_const_sv : NULL
4098                         );
4099                     }
4100                 if (!intro)
4101                     cv_ckproto_len_flags(cv, (const GV *)dstr,
4102                                    SvPOK(sref) ? CvPROTO(sref) : NULL,
4103                                    SvPOK(sref) ? CvPROTOLEN(sref) : 0,
4104                                    SvPOK(sref) ? SvUTF8(sref) : 0);
4105             }
4106             GvCVGEN(dstr) = 0; /* Switch off cacheness. */
4107             GvASSUMECV_on(dstr);
4108             if(GvSTASH(dstr)) { /* sub foo { 1 } sub bar { 2 } *bar = \&foo */
4109                 if (intro && GvREFCNT(dstr) > 1) {
4110                     /* temporary remove extra savestack's ref */
4111                     --GvREFCNT(dstr);
4112                     gv_method_changed(dstr);
4113                     ++GvREFCNT(dstr);
4114                 }
4115                 else gv_method_changed(dstr);
4116             }
4117         }
4118         *location = SvREFCNT_inc_simple_NN(sref);
4119         if (import_flag && !(GvFLAGS(dstr) & import_flag)
4120             && CopSTASH_ne(PL_curcop, GvSTASH(dstr))) {
4121             GvFLAGS(dstr) |= import_flag;
4122         }
4123
4124         if (stype == SVt_PVHV) {
4125             const char * const name = GvNAME((GV*)dstr);
4126             const STRLEN len = GvNAMELEN(dstr);
4127             if (
4128                 (
4129                    (len > 1 && name[len-2] == ':' && name[len-1] == ':')
4130                 || (len == 1 && name[0] == ':')
4131                 )
4132              && (!dref || HvENAME_get(dref))
4133             ) {
4134                 mro_package_moved(
4135                     (HV *)sref, (HV *)dref,
4136                     (GV *)dstr, 0
4137                 );
4138             }
4139         }
4140         else if (
4141             stype == SVt_PVAV && sref != dref
4142          && strEQ(GvNAME((GV*)dstr), "ISA")
4143          /* The stash may have been detached from the symbol table, so
4144             check its name before doing anything. */
4145          && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
4146         ) {
4147             MAGIC *mg;
4148             MAGIC * const omg = dref && SvSMAGICAL(dref)
4149                                  ? mg_find(dref, PERL_MAGIC_isa)
4150                                  : NULL;
4151             if (SvSMAGICAL(sref) && (mg = mg_find(sref, PERL_MAGIC_isa))) {
4152                 if (SvTYPE(mg->mg_obj) != SVt_PVAV) {
4153                     AV * const ary = newAV();
4154                     av_push(ary, mg->mg_obj); /* takes the refcount */
4155                     mg->mg_obj = (SV *)ary;
4156                 }
4157                 if (omg) {
4158                     if (SvTYPE(omg->mg_obj) == SVt_PVAV) {
4159                         SV **svp = AvARRAY((AV *)omg->mg_obj);
4160                         I32 items = AvFILLp((AV *)omg->mg_obj) + 1;
4161                         while (items--)
4162                             av_push(
4163                              (AV *)mg->mg_obj,
4164                              SvREFCNT_inc_simple_NN(*svp++)
4165                             );
4166                     }
4167                     else
4168                         av_push(
4169                          (AV *)mg->mg_obj,
4170                          SvREFCNT_inc_simple_NN(omg->mg_obj)
4171                         );
4172                 }
4173                 else
4174                     av_push((AV *)mg->mg_obj,SvREFCNT_inc_simple_NN(dstr));
4175             }
4176             else
4177             {
4178                 SSize_t i;
4179                 sv_magic(
4180                  sref, omg ? omg->mg_obj : dstr, PERL_MAGIC_isa, NULL, 0
4181                 );
4182                 for (i = 0; i <= AvFILL(sref); ++i) {
4183                     SV **elem = av_fetch ((AV*)sref, i, 0);
4184                     if (elem) {
4185                         sv_magic(
4186                           *elem, sref, PERL_MAGIC_isaelem, NULL, i
4187                         );
4188                     }
4189                 }
4190                 mg = mg_find(sref, PERL_MAGIC_isa);
4191             }
4192             /* Since the *ISA assignment could have affected more than
4193                one stash, don't call mro_isa_changed_in directly, but let
4194                magic_clearisa do it for us, as it already has the logic for
4195                dealing with globs vs arrays of globs. */
4196             assert(mg);
4197             Perl_magic_clearisa(aTHX_ NULL, mg);
4198         }
4199         else if (stype == SVt_PVIO) {
4200             DEBUG_o(Perl_deb(aTHX_ "gv_setref clearing PL_stashcache\n"));
4201             /* It's a cache. It will rebuild itself quite happily.
4202                It's a lot of effort to work out exactly which key (or keys)
4203                might be invalidated by the creation of the this file handle.
4204             */
4205             hv_clear(PL_stashcache);
4206         }
4207         break;
4208     }
4209     if (!intro) SvREFCNT_dec(dref);
4210     if (SvTAINTED(sstr))
4211         SvTAINT(dstr);
4212     return;
4213 }
4214
4215
4216
4217
4218 #ifdef PERL_DEBUG_READONLY_COW
4219 # include <sys/mman.h>
4220
4221 # ifndef PERL_MEMORY_DEBUG_HEADER_SIZE
4222 #  define PERL_MEMORY_DEBUG_HEADER_SIZE 0
4223 # endif
4224
4225 void
4226 Perl_sv_buf_to_ro(pTHX_ SV *sv)
4227 {
4228     struct perl_memory_debug_header * const header =
4229         (struct perl_memory_debug_header *)(SvPVX(sv)-PERL_MEMORY_DEBUG_HEADER_SIZE);
4230     const MEM_SIZE len = header->size;
4231     PERL_ARGS_ASSERT_SV_BUF_TO_RO;
4232 # ifdef PERL_TRACK_MEMPOOL
4233     if (!header->readonly) header->readonly = 1;
4234 # endif
4235     if (mprotect(header, len, PROT_READ))
4236         Perl_warn(aTHX_ "mprotect RW for COW string %p %lu failed with %d",
4237                          header, len, errno);
4238 }
4239
4240 static void
4241 S_sv_buf_to_rw(pTHX_ SV *sv)
4242 {
4243     struct perl_memory_debug_header * const header =
4244         (struct perl_memory_debug_header *)(SvPVX(sv)-PERL_MEMORY_DEBUG_HEADER_SIZE);
4245     const MEM_SIZE len = header->size;
4246     PERL_ARGS_ASSERT_SV_BUF_TO_RW;
4247     if (mprotect(header, len, PROT_READ|PROT_WRITE))
4248         Perl_warn(aTHX_ "mprotect for COW string %p %lu failed with %d",
4249                          header, len, errno);
4250 # ifdef PERL_TRACK_MEMPOOL
4251     header->readonly = 0;
4252 # endif
4253 }
4254
4255 #else
4256 # define sv_buf_to_ro(sv)       NOOP
4257 # define sv_buf_to_rw(sv)       NOOP
4258 #endif
4259
4260 void
4261 Perl_sv_setsv_flags(pTHX_ SV *dstr, SV* sstr, const I32 flags)
4262 {
4263     U32 sflags;
4264     int dtype;
4265     svtype stype;
4266     unsigned int both_type;
4267
4268     PERL_ARGS_ASSERT_SV_SETSV_FLAGS;
4269
4270     if (UNLIKELY( sstr == dstr ))
4271         return;
4272
4273     if (UNLIKELY( !sstr ))
4274         sstr = &PL_sv_undef;
4275
4276     stype = SvTYPE(sstr);
4277     dtype = SvTYPE(dstr);
4278     both_type = (stype | dtype);
4279
4280     /* with these values, we can check that both SVs are NULL/IV (and not
4281      * freed) just by testing the or'ed types */
4282     STATIC_ASSERT_STMT(SVt_NULL == 0);
4283     STATIC_ASSERT_STMT(SVt_IV   == 1);
4284     if (both_type <= 1) {
4285         /* both src and dst are UNDEF/IV/RV, so we can do a lot of
4286          * special-casing */
4287         U32 sflags;
4288         U32 new_dflags;
4289         SV *old_rv = NULL;
4290
4291         /* minimal subset of SV_CHECK_THINKFIRST_COW_DROP(dstr) */
4292         if (SvREADONLY(dstr))
4293             Perl_croak_no_modify();
4294         if (SvROK(dstr)) {
4295             if (SvWEAKREF(dstr))
4296                 sv_unref_flags(dstr, 0);
4297             else
4298                 old_rv = SvRV(dstr);
4299         }
4300
4301         assert(!SvGMAGICAL(sstr));
4302         assert(!SvGMAGICAL(dstr));
4303
4304         sflags = SvFLAGS(sstr);
4305         if (sflags & (SVf_IOK|SVf_ROK)) {
4306             SET_SVANY_FOR_BODYLESS_IV(dstr);
4307             new_dflags = SVt_IV;
4308
4309             if (sflags & SVf_ROK) {
4310                 dstr->sv_u.svu_rv = SvREFCNT_inc(SvRV(sstr));
4311                 new_dflags |= SVf_ROK;
4312             }
4313             else {
4314                 /* both src and dst are <= SVt_IV, so sv_any points to the
4315                  * head; so access the head directly
4316                  */
4317                 assert(    &(sstr->sv_u.svu_iv)
4318                         == &(((XPVIV*) SvANY(sstr))->xiv_iv));
4319                 assert(    &(dstr->sv_u.svu_iv)
4320                         == &(((XPVIV*) SvANY(dstr))->xiv_iv));
4321                 dstr->sv_u.svu_iv = sstr->sv_u.svu_iv;
4322                 new_dflags |= (SVf_IOK|SVp_IOK|(sflags & SVf_IVisUV));
4323             }
4324         }
4325         else {
4326             new_dflags = dtype; /* turn off everything except the type */
4327         }
4328         SvFLAGS(dstr) = new_dflags;
4329         SvREFCNT_dec(old_rv);
4330
4331         return;
4332     }
4333
4334     if (UNLIKELY(both_type == SVTYPEMASK)) {
4335         if (SvIS_FREED(dstr)) {
4336             Perl_croak(aTHX_ "panic: attempt to copy value %" SVf
4337                        " to a freed scalar %p", SVfARG(sstr), (void *)dstr);
4338         }
4339         if (SvIS_FREED(sstr)) {
4340             Perl_croak(aTHX_ "panic: attempt to copy freed scalar %p to %p",
4341                        (void*)sstr, (void*)dstr);
4342         }
4343     }
4344
4345
4346
4347     SV_CHECK_THINKFIRST_COW_DROP(dstr);
4348     dtype = SvTYPE(dstr); /* THINKFIRST may have changed type */
4349
4350     /* There's a lot of redundancy below but we're going for speed here */
4351
4352     switch (stype) {
4353     case SVt_NULL:
4354       undef_sstr:
4355         if (LIKELY( dtype != SVt_PVGV && dtype != SVt_PVLV )) {
4356             (void)SvOK_off(dstr);
4357             return;
4358         }
4359         break;
4360     case SVt_IV:
4361         if (SvIOK(sstr)) {
4362             switch (dtype) {
4363             case SVt_NULL:
4364                 /* For performance, we inline promoting to type SVt_IV. */
4365                 /* We're starting from SVt_NULL, so provided that define is
4366                  * actual 0, we don't have to unset any SV type flags
4367                  * to promote to SVt_IV. */
4368                 STATIC_ASSERT_STMT(SVt_NULL == 0);
4369                 SET_SVANY_FOR_BODYLESS_IV(dstr);
4370                 SvFLAGS(dstr) |= SVt_IV;
4371                 break;
4372             case SVt_NV:
4373             case SVt_PV:
4374                 sv_upgrade(dstr, SVt_PVIV);
4375                 break;
4376             case SVt_PVGV:
4377             case SVt_PVLV:
4378                 goto end_of_first_switch;
4379             }
4380             (void)SvIOK_only(dstr);
4381             SvIV_set(dstr,  SvIVX(sstr));
4382             if (SvIsUV(sstr))
4383                 SvIsUV_on(dstr);
4384             /* SvTAINTED can only be true if the SV has taint magic, which in
4385                turn means that the SV type is PVMG (or greater). This is the
4386                case statement for SVt_IV, so this cannot be true (whatever gcov
4387                may say).  */
4388             assert(!SvTAINTED(sstr));
4389             return;
4390         }
4391         if (!SvROK(sstr))
4392             goto undef_sstr;
4393         if (dtype < SVt_PV && dtype != SVt_IV)
4394             sv_upgrade(dstr, SVt_IV);
4395         break;
4396
4397     case SVt_NV:
4398         if (LIKELY( SvNOK(sstr) )) {
4399             switch (dtype) {
4400             case SVt_NULL:
4401             case SVt_IV:
4402                 sv_upgrade(dstr, SVt_NV);
4403                 break;
4404             case SVt_PV:
4405             case SVt_PVIV:
4406                 sv_upgrade(dstr, SVt_PVNV);
4407                 break;
4408             case SVt_PVGV:
4409             case SVt_PVLV:
4410                 goto end_of_first_switch;
4411             }
4412             SvNV_set(dstr, SvNVX(sstr));
4413             (void)SvNOK_only(dstr);
4414             /* SvTAINTED can only be true if the SV has taint magic, which in
4415                turn means that the SV type is PVMG (or greater). This is the
4416                case statement for SVt_NV, so this cannot be true (whatever gcov
4417                may say).  */
4418             assert(!SvTAINTED(sstr));
4419             return;
4420         }
4421         goto undef_sstr;
4422
4423     case SVt_PV:
4424         if (dtype < SVt_PV)
4425             sv_upgrade(dstr, SVt_PV);
4426         break;
4427     case SVt_PVIV:
4428         if (dtype < SVt_PVIV)
4429             sv_upgrade(dstr, SVt_PVIV);
4430         break;
4431     case SVt_PVNV:
4432         if (dtype < SVt_PVNV)
4433             sv_upgrade(dstr, SVt_PVNV);
4434         break;
4435     default:
4436         {
4437         const char * const type = sv_reftype(sstr,0);
4438         if (PL_op)
4439             /* diag_listed_as: Bizarre copy of %s */
4440             Perl_croak(aTHX_ "Bizarre copy of %s in %s", type, OP_DESC(PL_op));
4441         else
4442             Perl_croak(aTHX_ "Bizarre copy of %s", type);
4443         }
4444         NOT_REACHED; /* NOTREACHED */
4445
4446     case SVt_REGEXP:
4447       upgregexp:
4448         if (dtype < SVt_REGEXP)
4449         {
4450             if (dtype >= SVt_PV) {
4451                 SvPV_free(dstr);
4452                 SvPV_set(dstr, 0);
4453                 SvLEN_set(dstr, 0);
4454                 SvCUR_set(dstr, 0);
4455             }
4456             sv_upgrade(dstr, SVt_REGEXP);
4457         }
4458         break;
4459
4460         case SVt_INVLIST:
4461     case SVt_PVLV:
4462     case SVt_PVGV:
4463     case SVt_PVMG:
4464         if (SvGMAGICAL(sstr) && (flags & SV_GMAGIC)) {
4465             mg_get(sstr);
4466             if (SvTYPE(sstr) != stype)
4467                 stype = SvTYPE(sstr);
4468         }
4469         if (isGV_with_GP(sstr) && dtype <= SVt_PVLV) {
4470                     glob_assign_glob(dstr, sstr, dtype);
4471                     return;
4472         }
4473         if (stype == SVt_PVLV)
4474         {
4475             if (isREGEXP(sstr)) goto upgregexp;
4476             SvUPGRADE(dstr, SVt_PVNV);
4477         }
4478         else
4479             SvUPGRADE(dstr, (svtype)stype);
4480     }
4481  end_of_first_switch:
4482
4483     /* dstr may have been upgraded.  */
4484     dtype = SvTYPE(dstr);
4485     sflags = SvFLAGS(sstr);
4486
4487     if (UNLIKELY( dtype == SVt_PVCV )) {
4488         /* Assigning to a subroutine sets the prototype.  */
4489         if (SvOK(sstr)) {
4490             STRLEN len;
4491             const char *const ptr = SvPV_const(sstr, len);
4492
4493             SvGROW(dstr, len + 1);
4494             Copy(ptr, SvPVX(dstr), len + 1, char);
4495             SvCUR_set(dstr, len);
4496             SvPOK_only(dstr);
4497             SvFLAGS(dstr) |= sflags & SVf_UTF8;
4498             CvAUTOLOAD_off(dstr);
4499         } else {
4500             SvOK_off(dstr);
4501         }
4502     }
4503     else if (UNLIKELY(dtype == SVt_PVAV || dtype == SVt_PVHV
4504              || dtype == SVt_PVFM))
4505     {
4506         const char * const type = sv_reftype(dstr,0);
4507         if (PL_op)
4508             /* diag_listed_as: Cannot copy to %s */
4509             Perl_croak(aTHX_ "Cannot copy to %s in %s", type, OP_DESC(PL_op));
4510         else
4511             Perl_croak(aTHX_ "Cannot copy to %s", type);
4512     } else if (sflags & SVf_ROK) {
4513         if (isGV_with_GP(dstr)
4514             && SvTYPE(SvRV(sstr)) == SVt_PVGV && isGV_with_GP(SvRV(sstr))) {
4515             sstr = SvRV(sstr);
4516             if (sstr == dstr) {
4517                 if (GvIMPORTED(dstr) != GVf_IMPORTED
4518                     && CopSTASH_ne(PL_curcop, GvSTASH(dstr)))
4519                 {
4520                     GvIMPORTED_on(dstr);
4521                 }
4522                 GvMULTI_on(dstr);
4523                 return;
4524             }
4525             glob_assign_glob(dstr, sstr, dtype);
4526             return;
4527         }
4528
4529         if (dtype >= SVt_PV) {
4530             if (isGV_with_GP(dstr)) {
4531                 gv_setref(dstr, sstr);
4532                 return;
4533             }
4534             if (SvPVX_const(dstr)) {
4535                 SvPV_free(dstr);
4536                 SvLEN_set(dstr, 0);
4537                 SvCUR_set(dstr, 0);
4538             }
4539         }
4540         (void)SvOK_off(dstr);
4541         SvRV_set(dstr, SvREFCNT_inc(SvRV(sstr)));
4542         SvFLAGS(dstr) |= sflags & SVf_ROK;
4543         assert(!(sflags & SVp_NOK));
4544         assert(!(sflags & SVp_IOK));
4545         assert(!(sflags & SVf_NOK));
4546         assert(!(sflags & SVf_IOK));
4547     }
4548     else if (isGV_with_GP(dstr)) {
4549         if (!(sflags & SVf_OK)) {
4550             Perl_ck_warner(aTHX_ packWARN(WARN_MISC),
4551                            "Undefined value assigned to typeglob");
4552         }
4553         else {
4554             GV *gv = gv_fetchsv_nomg(sstr, GV_ADD, SVt_PVGV);
4555             if (dstr != (const SV *)gv) {
4556                 const char * const name = GvNAME((const GV *)dstr);
4557                 const STRLEN len = GvNAMELEN(dstr);
4558                 HV *old_stash = NULL;
4559                 bool reset_isa = FALSE;
4560                 if ((len > 1 && name[len-2] == ':' && name[len-1] == ':')
4561                  || (len == 1 && name[0] == ':')) {
4562                     /* Set aside the old stash, so we can reset isa caches
4563                        on its subclasses. */
4564                     if((old_stash = GvHV(dstr))) {
4565                         /* Make sure we do not lose it early. */
4566                         SvREFCNT_inc_simple_void_NN(
4567                          sv_2mortal((SV *)old_stash)
4568                         );
4569                     }
4570                     reset_isa = TRUE;
4571                 }
4572
4573                 if (GvGP(dstr)) {
4574                     SvREFCNT_inc_simple_void_NN(sv_2mortal(dstr));
4575                     gp_free(MUTABLE_GV(dstr));
4576                 }
4577                 GvGP_set(dstr, gp_ref(GvGP(gv)));
4578
4579                 if (reset_isa) {
4580                     HV * const stash = GvHV(dstr);
4581                     if(
4582                         old_stash ? (HV *)HvENAME_get(old_stash) : stash
4583                     )
4584                         mro_package_moved(
4585                          stash, old_stash,
4586                          (GV *)dstr, 0
4587                         );
4588                 }
4589             }
4590         }
4591     }
4592     else if ((dtype == SVt_REGEXP || dtype == SVt_PVLV)
4593           && (stype == SVt_REGEXP || isREGEXP(sstr))) {
4594         reg_temp_copy((REGEXP*)dstr, (REGEXP*)sstr);
4595     }
4596     else if (sflags & SVp_POK) {
4597         const STRLEN cur = SvCUR(sstr);
4598         const STRLEN len = SvLEN(sstr);
4599
4600         /*
4601          * We have three basic ways to copy the string:
4602          *
4603          *  1. Swipe
4604          *  2. Copy-on-write
4605          *  3. Actual copy
4606          * 
4607          * Which we choose is based on various factors.  The following
4608          * things are listed in order of speed, fastest to slowest:
4609          *  - Swipe
4610          *  - Copying a short string
4611          *  - Copy-on-write bookkeeping
4612          *  - malloc
4613          *  - Copying a long string
4614          * 
4615          * We swipe the string (steal the string buffer) if the SV on the
4616          * rhs is about to be freed anyway (TEMP and refcnt==1).  This is a
4617          * big win on long strings.  It should be a win on short strings if
4618          * SvPVX_const(dstr) has to be allocated.  If not, it should not 
4619          * slow things down, as SvPVX_const(sstr) would have been freed
4620          * soon anyway.
4621          * 
4622          * We also steal the buffer from a PADTMP (operator target) if it
4623          * is â€˜long enough’.  For short strings, a swipe does not help
4624          * here, as it causes more malloc calls the next time the target
4625          * is used.  Benchmarks show that even if SvPVX_const(dstr) has to
4626          * be allocated it is still not worth swiping PADTMPs for short
4627          * strings, as the savings here are small.
4628          * 
4629          * If swiping is not an option, then we see whether it is
4630          * worth using copy-on-write.  If the lhs already has a buf-
4631          * fer big enough and the string is short, we skip it and fall back
4632          * to method 3, since memcpy is faster for short strings than the
4633          * later bookkeeping overhead that copy-on-write entails.
4634
4635          * If the rhs is not a copy-on-write string yet, then we also
4636          * consider whether the buffer is too large relative to the string
4637          * it holds.  Some operations such as readline allocate a large
4638          * buffer in the expectation of reusing it.  But turning such into
4639          * a COW buffer is counter-productive because it increases memory
4640          * usage by making readline allocate a new large buffer the sec-
4641          * ond time round.  So, if the buffer is too large, again, we use
4642          * method 3 (copy).
4643          * 
4644          * Finally, if there is no buffer on the left, or the buffer is too 
4645          * small, then we use copy-on-write and make both SVs share the
4646          * string buffer.
4647          *
4648          */
4649
4650         /* Whichever path we take through the next code, we want this true,
4651            and doing it now facilitates the COW check.  */
4652         (void)SvPOK_only(dstr);
4653
4654         if (
4655                  (              /* Either ... */
4656                                 /* slated for free anyway (and not COW)? */
4657                     (sflags & (SVs_TEMP|SVf_IsCOW)) == SVs_TEMP
4658                                 /* or a swipable TARG */
4659                  || ((sflags &
4660                            (SVs_PADTMP|SVf_READONLY|SVf_PROTECT|SVf_IsCOW))
4661                        == SVs_PADTMP
4662                                 /* whose buffer is worth stealing */
4663                      && CHECK_COWBUF_THRESHOLD(cur,len)
4664                     )
4665                  ) &&
4666                  !(sflags & SVf_OOK) &&   /* and not involved in OOK hack? */
4667                  (!(flags & SV_NOSTEAL)) &&
4668                                         /* and we're allowed to steal temps */
4669                  SvREFCNT(sstr) == 1 &&   /* and no other references to it? */
4670                  len)             /* and really is a string */
4671         {       /* Passes the swipe test.  */
4672             if (SvPVX_const(dstr))      /* we know that dtype >= SVt_PV */
4673                 SvPV_free(dstr);
4674             SvPV_set(dstr, SvPVX_mutable(sstr));
4675             SvLEN_set(dstr, SvLEN(sstr));
4676             SvCUR_set(dstr, SvCUR(sstr));
4677
4678             SvTEMP_off(dstr);
4679             (void)SvOK_off(sstr);       /* NOTE: nukes most SvFLAGS on sstr */
4680             SvPV_set(sstr, NULL);
4681             SvLEN_set(sstr, 0);
4682             SvCUR_set(sstr, 0);
4683             SvTEMP_off(sstr);
4684         }
4685         else if (flags & SV_COW_SHARED_HASH_KEYS
4686               &&
4687 #ifdef PERL_COPY_ON_WRITE
4688                  (sflags & SVf_IsCOW
4689                    ? (!len ||
4690                        (  (CHECK_COWBUF_THRESHOLD(cur,len) || SvLEN(dstr) < cur+1)
4691                           /* If this is a regular (non-hek) COW, only so
4692                              many COW "copies" are possible. */
4693                        && CowREFCNT(sstr) != SV_COW_REFCNT_MAX  ))
4694                    : (  (sflags & CAN_COW_MASK) == CAN_COW_FLAGS
4695                      && !(SvFLAGS(dstr) & SVf_BREAK)
4696                      && CHECK_COW_THRESHOLD(cur,len) && cur+1 < len
4697                      && (CHECK_COWBUF_THRESHOLD(cur,len) || SvLEN(dstr) < cur+1)
4698                     ))
4699 #else
4700                  sflags & SVf_IsCOW
4701               && !(SvFLAGS(dstr) & SVf_BREAK)
4702 #endif
4703             ) {
4704             /* Either it's a shared hash key, or it's suitable for
4705                copy-on-write.  */
4706             if (DEBUG_C_TEST) {
4707                 PerlIO_printf(Perl_debug_log, "Copy on write: sstr --> dstr\n");
4708                 sv_dump(sstr);
4709                 sv_dump(dstr);
4710             }
4711 #ifdef PERL_ANY_COW
4712             if (!(sflags & SVf_IsCOW)) {
4713                     SvIsCOW_on(sstr);
4714                     CowREFCNT(sstr) = 0;
4715             }
4716 #endif
4717             if (SvPVX_const(dstr)) {    /* we know that dtype >= SVt_PV */
4718                 SvPV_free(dstr);
4719             }
4720
4721 #ifdef PERL_ANY_COW
4722             if (len) {
4723                     if (sflags & SVf_IsCOW) {
4724                         sv_buf_to_rw(sstr);
4725                     }
4726                     CowREFCNT(sstr)++;
4727                     SvPV_set(dstr, SvPVX_mutable(sstr));
4728                     sv_buf_to_ro(sstr);
4729             } else
4730 #endif
4731             {
4732                     /* SvIsCOW_shared_hash */
4733                     DEBUG_C(PerlIO_printf(Perl_debug_log,
4734                                           "Copy on write: Sharing hash\n"));
4735
4736                     assert (SvTYPE(dstr) >= SVt_PV);
4737                     SvPV_set(dstr,
4738                              HEK_KEY(share_hek_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr)))));
4739             }
4740             SvLEN_set(dstr, len);
4741             SvCUR_set(dstr, cur);
4742             SvIsCOW_on(dstr);
4743         } else {
4744             /* Failed the swipe test, and we cannot do copy-on-write either.
4745                Have to copy the string.  */
4746             SvGROW(dstr, cur + 1);      /* inlined from sv_setpvn */
4747             Move(SvPVX_const(sstr),SvPVX(dstr),cur,char);
4748             SvCUR_set(dstr, cur);
4749             *SvEND(dstr) = '\0';
4750         }
4751         if (sflags & SVp_NOK) {
4752             SvNV_set(dstr, SvNVX(sstr));
4753         }
4754         if (sflags & SVp_IOK) {
4755             SvIV_set(dstr, SvIVX(sstr));
4756             if (sflags & SVf_IVisUV)
4757                 SvIsUV_on(dstr);
4758         }
4759         SvFLAGS(dstr) |= sflags & (SVf_IOK|SVp_IOK|SVf_NOK|SVp_NOK|SVf_UTF8);
4760         {
4761             const MAGIC * const smg = SvVSTRING_mg(sstr);
4762             if (smg) {
4763                 sv_magic(dstr, NULL, PERL_MAGIC_vstring,
4764                          smg->mg_ptr, smg->mg_len);
4765                 SvRMAGICAL_on(dstr);
4766             }
4767         }
4768     }
4769     else if (sflags & (SVp_IOK|SVp_NOK)) {
4770         (void)SvOK_off(dstr);
4771         SvFLAGS(dstr) |= sflags & (SVf_IOK|SVp_IOK|SVf_IVisUV|SVf_NOK|SVp_NOK);
4772         if (sflags & SVp_IOK) {
4773             /* XXXX Do we want to set IsUV for IV(ROK)?  Be extra safe... */
4774             SvIV_set(dstr, SvIVX(sstr));
4775         }
4776         if (sflags & SVp_NOK) {
4777             SvNV_set(dstr, SvNVX(sstr));
4778         }
4779     }
4780     else {
4781         if (isGV_with_GP(sstr)) {
4782             gv_efullname3(dstr, MUTABLE_GV(sstr), "*");
4783         }
4784         else
4785             (void)SvOK_off(dstr);
4786     }
4787     if (SvTAINTED(sstr))
4788         SvTAINT(dstr);
4789 }
4790
4791
4792 /*
4793 =for apidoc sv_set_undef
4794
4795 Equivalent to C<sv_setsv(sv, &PL_sv_undef)>, but more efficient.
4796 Doesn't handle set magic.
4797
4798 The perl equivalent is C<$sv = undef;>. Note that it doesn't free any string
4799 buffer, unlike C<undef $sv>.
4800
4801 Introduced in perl 5.25.12.
4802
4803 =cut
4804 */
4805
4806 void
4807 Perl_sv_set_undef(pTHX_ SV *sv)
4808 {
4809     U32 type = SvTYPE(sv);
4810
4811     PERL_ARGS_ASSERT_SV_SET_UNDEF;
4812
4813     /* shortcut, NULL, IV, RV */
4814
4815     if (type <= SVt_IV) {
4816         assert(!SvGMAGICAL(sv));
4817         if (SvREADONLY(sv)) {
4818             /* does undeffing PL_sv_undef count as modifying a read-only
4819              * variable? Some XS code does this */
4820             if (sv == &PL_sv_undef)
4821                 return;
4822             Perl_croak_no_modify();
4823         }
4824
4825         if (SvROK(sv)) {
4826             if (SvWEAKREF(sv))
4827                 sv_unref_flags(sv, 0);
4828             else {
4829                 SV *rv = SvRV(sv);
4830                 SvFLAGS(sv) = type; /* quickly turn off all flags */
4831                 SvREFCNT_dec_NN(rv);
4832                 return;
4833             }
4834         }
4835         SvFLAGS(sv) = type; /* quickly turn off all flags */
4836         return;
4837     }
4838
4839     if (SvIS_FREED(sv))
4840         Perl_croak(aTHX_ "panic: attempt to undefine a freed scalar %p",
4841             (void *)sv);
4842
4843     SV_CHECK_THINKFIRST_COW_DROP(sv);
4844
4845     if (isGV_with_GP(sv))
4846         Perl_ck_warner(aTHX_ packWARN(WARN_MISC),
4847                        "Undefined value assigned to typeglob");
4848     else
4849         SvOK_off(sv);
4850 }
4851
4852
4853
4854 /*
4855 =for apidoc sv_setsv_mg
4856
4857 Like C<sv_setsv>, but also handles 'set' magic.
4858
4859 =cut
4860 */
4861
4862 void
4863 Perl_sv_setsv_mg(pTHX_ SV *const dstr, SV *const sstr)
4864 {
4865     PERL_ARGS_ASSERT_SV_SETSV_MG;
4866
4867     sv_setsv(dstr,sstr);
4868     SvSETMAGIC(dstr);
4869 }
4870
4871 #ifdef PERL_ANY_COW
4872 #  define SVt_COW SVt_PV
4873 SV *
4874 Perl_sv_setsv_cow(pTHX_ SV *dstr, SV *sstr)
4875 {
4876     STRLEN cur = SvCUR(sstr);
4877     STRLEN len = SvLEN(sstr);
4878     char *new_pv;
4879 #if defined(PERL_DEBUG_READONLY_COW) && defined(PERL_COPY_ON_WRITE)
4880     const bool already = cBOOL(SvIsCOW(sstr));
4881 #endif
4882
4883     PERL_ARGS_ASSERT_SV_SETSV_COW;
4884
4885     if (DEBUG_C_TEST) {
4886         PerlIO_printf(Perl_debug_log, "Fast copy on write: %p -> %p\n",
4887                       (void*)sstr, (void*)dstr);
4888         sv_dump(sstr);
4889         if (dstr)
4890                     sv_dump(dstr);
4891     }
4892
4893     if (dstr) {
4894         if (SvTHINKFIRST(dstr))
4895             sv_force_normal_flags(dstr, SV_COW_DROP_PV);
4896         else if (SvPVX_const(dstr))
4897             Safefree(SvPVX_mutable(dstr));
4898     }
4899     else
4900         new_SV(dstr);
4901     SvUPGRADE(dstr, SVt_COW);
4902
4903     assert (SvPOK(sstr));
4904     assert (SvPOKp(sstr));
4905
4906     if (SvIsCOW(sstr)) {
4907
4908         if (SvLEN(sstr) == 0) {
4909             /* source is a COW shared hash key.  */
4910             DEBUG_C(PerlIO_printf(Perl_debug_log,
4911                                   "Fast copy on write: Sharing hash\n"));
4912             new_pv = HEK_KEY(share_hek_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr))));
4913             goto common_exit;
4914         }
4915         assert(SvCUR(sstr)+1 < SvLEN(sstr));
4916         assert(CowREFCNT(sstr) < SV_COW_REFCNT_MAX);
4917     } else {
4918         assert ((SvFLAGS(sstr) & CAN_COW_MASK) == CAN_COW_FLAGS);
4919         SvUPGRADE(sstr, SVt_COW);
4920         SvIsCOW_on(sstr);
4921         DEBUG_C(PerlIO_printf(Perl_debug_log,
4922                               "Fast copy on write: Converting sstr to COW\n"));
4923         CowREFCNT(sstr) = 0;    
4924     }
4925 #  ifdef PERL_DEBUG_READONLY_COW
4926     if (already) sv_buf_to_rw(sstr);
4927 #  endif
4928     CowREFCNT(sstr)++;  
4929     new_pv = SvPVX_mutable(sstr);
4930     sv_buf_to_ro(sstr);
4931
4932   common_exit:
4933     SvPV_set(dstr, new_pv);
4934     SvFLAGS(dstr) = (SVt_COW|SVf_POK|SVp_POK|SVf_IsCOW);
4935     if (SvUTF8(sstr))
4936         SvUTF8_on(dstr);
4937     SvLEN_set(dstr, len);
4938     SvCUR_set(dstr, cur);
4939     if (DEBUG_C_TEST) {
4940         sv_dump(dstr);
4941     }
4942     return dstr;
4943 }
4944 #endif
4945
4946 /*
4947 =for apidoc sv_setpv_bufsize
4948
4949 Sets the SV to be a string of cur bytes length, with at least
4950 len bytes available. Ensures that there is a null byte at SvEND.
4951 Returns a char * pointer to the SvPV buffer.
4952
4953 =cut
4954 */
4955
4956 char *
4957 Perl_sv_setpv_bufsize(pTHX_ SV *const sv, const STRLEN cur, const STRLEN len)
4958 {
4959     char *pv;
4960
4961     PERL_ARGS_ASSERT_SV_SETPV_BUFSIZE;
4962
4963     SV_CHECK_THINKFIRST_COW_DROP(sv);
4964     SvUPGRADE(sv, SVt_PV);
4965     pv = SvGROW(sv, len + 1);
4966     SvCUR_set(sv, cur);
4967     *(SvEND(sv))= '\0';
4968     (void)SvPOK_only_UTF8(sv);                /* validate pointer */
4969
4970     SvTAINT(sv);
4971     if (SvTYPE(sv) == SVt_PVCV) CvAUTOLOAD_off(sv);
4972     return pv;
4973 }
4974
4975 /*
4976 =for apidoc sv_setpvn
4977
4978 Copies a string (possibly containing embedded C<NUL> characters) into an SV.
4979 The C<len> parameter indicates the number of
4980 bytes to be copied.  If the C<ptr> argument is NULL the SV will become
4981 undefined.  Does not handle 'set' magic.  See C<L</sv_setpvn_mg>>.
4982
4983 =cut
4984 */
4985
4986 void
4987 Perl_sv_setpvn(pTHX_ SV *const sv, const char *const ptr, const STRLEN len)
4988 {
4989     char *dptr;
4990
4991     PERL_ARGS_ASSERT_SV_SETPVN;
4992
4993     SV_CHECK_THINKFIRST_COW_DROP(sv);
4994     if (isGV_with_GP(sv))
4995         Perl_croak_no_modify();
4996     if (!ptr) {
4997         (void)SvOK_off(sv);
4998         return;
4999     }
5000     else {
5001         /* len is STRLEN which is unsigned, need to copy to signed */
5002         const IV iv = len;
5003         if (iv < 0)
5004             Perl_croak(aTHX_ "panic: sv_setpvn called with negative strlen %"
5005                        IVdf, iv);
5006     }
5007     SvUPGRADE(sv, SVt_PV);
5008
5009     dptr = SvGROW(sv, len + 1);
5010     Move(ptr,dptr,len,char);
5011     dptr[len] = '\0';
5012     SvCUR_set(sv, len);
5013     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
5014     SvTAINT(sv);
5015     if (SvTYPE(sv) == SVt_PVCV) CvAUTOLOAD_off(sv);
5016 }
5017
5018 /*
5019 =for apidoc sv_setpvn_mg
5020
5021 Like C<sv_setpvn>, but also handles 'set' magic.
5022
5023 =cut
5024 */
5025
5026 void
5027 Perl_sv_setpvn_mg(pTHX_ SV *const sv, const char *const ptr, const STRLEN len)
5028 {
5029     PERL_ARGS_ASSERT_SV_SETPVN_MG;
5030
5031     sv_setpvn(sv,ptr,len);
5032     SvSETMAGIC(sv);
5033 }
5034
5035 /*
5036 =for apidoc sv_setpv
5037
5038 Copies a string into an SV.  The string must be terminated with a C<NUL>
5039 character, and not contain embeded C<NUL>'s.
5040 Does not handle 'set' magic.  See C<L</sv_setpv_mg>>.
5041
5042 =cut
5043 */
5044
5045 void
5046 Perl_sv_setpv(pTHX_ SV *const sv, const char *const ptr)
5047 {
5048     STRLEN len;
5049
5050     PERL_ARGS_ASSERT_SV_SETPV;
5051
5052     SV_CHECK_THINKFIRST_COW_DROP(sv);
5053     if (!ptr) {
5054         (void)SvOK_off(sv);
5055         return;
5056     }
5057     len = strlen(ptr);
5058     SvUPGRADE(sv, SVt_PV);
5059
5060     SvGROW(sv, len + 1);
5061     Move(ptr,SvPVX(sv),len+1,char);
5062     SvCUR_set(sv, len);
5063     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
5064     SvTAINT(sv);
5065     if (SvTYPE(sv) == SVt_PVCV) CvAUTOLOAD_off(sv);
5066 }
5067
5068 /*
5069 =for apidoc sv_setpv_mg
5070
5071 Like C<sv_setpv>, but also handles 'set' magic.
5072
5073 =cut
5074 */
5075
5076 void
5077 Perl_sv_setpv_mg(pTHX_ SV *const sv, const char *const ptr)
5078 {
5079     PERL_ARGS_ASSERT_SV_SETPV_MG;
5080
5081     sv_setpv(sv,ptr);
5082     SvSETMAGIC(sv);
5083 }
5084
5085 void
5086 Perl_sv_sethek(pTHX_ SV *const sv, const HEK *const hek)
5087 {
5088     PERL_ARGS_ASSERT_SV_SETHEK;
5089
5090     if (!hek) {
5091         return;
5092     }
5093
5094     if (HEK_LEN(hek) == HEf_SVKEY) {
5095         sv_setsv(sv, *(SV**)HEK_KEY(hek));
5096         return;
5097     } else {
5098         const int flags = HEK_FLAGS(hek);
5099         if (flags & HVhek_WASUTF8) {
5100             STRLEN utf8_len = HEK_LEN(hek);
5101             char *as_utf8 = (char *)bytes_to_utf8((U8*)HEK_KEY(hek), &utf8_len);
5102             sv_usepvn_flags(sv, as_utf8, utf8_len, SV_HAS_TRAILING_NUL);
5103             SvUTF8_on(sv);
5104             return;
5105         } else if (flags & HVhek_UNSHARED) {
5106             sv_setpvn(sv, HEK_KEY(hek), HEK_LEN(hek));
5107             if (HEK_UTF8(hek))
5108                 SvUTF8_on(sv);
5109             else SvUTF8_off(sv);
5110             return;
5111         }
5112         {
5113             SV_CHECK_THINKFIRST_COW_DROP(sv);
5114             SvUPGRADE(sv, SVt_PV);
5115             SvPV_free(sv);
5116             SvPV_set(sv,(char *)HEK_KEY(share_hek_hek(hek)));
5117             SvCUR_set(sv, HEK_LEN(hek));
5118             SvLEN_set(sv, 0);
5119             SvIsCOW_on(sv);
5120             SvPOK_on(sv);
5121             if (HEK_UTF8(hek))
5122                 SvUTF8_on(sv);
5123             else SvUTF8_off(sv);
5124             return;
5125         }
5126     }
5127 }
5128
5129
5130 /*
5131 =for apidoc sv_usepvn_flags
5132
5133 Tells an SV to use C<ptr> to find its string value.  Normally the
5134 string is stored inside the SV, but sv_usepvn allows the SV to use an
5135 outside string.  C<ptr> should point to memory that was allocated
5136 by L<C<Newx>|perlclib/Memory Management and String Handling>.  It must be
5137 the start of a C<Newx>-ed block of memory, and not a pointer to the
5138 middle of it (beware of L<C<OOK>|perlguts/Offsets> and copy-on-write),
5139 and not be from a non-C<Newx> memory allocator like C<malloc>.  The
5140 string length, C<len>, must be supplied.  By default this function
5141 will C<Renew> (i.e. realloc, move) the memory pointed to by C<ptr>,
5142 so that pointer should not be freed or used by the programmer after
5143 giving it to C<sv_usepvn>, and neither should any pointers from "behind"
5144 that pointer (e.g. ptr + 1) be used.
5145
5146 If S<C<flags & SV_SMAGIC>> is true, will call C<SvSETMAGIC>.  If
5147 S<C<flags> & SV_HAS_TRAILING_NUL>> is true, then C<ptr[len]> must be C<NUL>,
5148 and the realloc
5149 will be skipped (i.e. the buffer is actually at least 1 byte longer than
5150 C<len>, and already meets the requirements for storing in C<SvPVX>).
5151
5152 =cut
5153 */
5154
5155 void
5156 Perl_sv_usepvn_flags(pTHX_ SV *const sv, char *ptr, const STRLEN len, const U32 flags)
5157 {
5158     STRLEN allocate;
5159
5160     PERL_ARGS_ASSERT_SV_USEPVN_FLAGS;
5161
5162     SV_CHECK_THINKFIRST_COW_DROP(sv);
5163     SvUPGRADE(sv, SVt_PV);
5164     if (!ptr) {
5165         (void)SvOK_off(sv);
5166         if (flags & SV_SMAGIC)
5167             SvSETMAGIC(sv);
5168         return;
5169     }
5170     if (SvPVX_const(sv))
5171         SvPV_free(sv);
5172
5173 #ifdef DEBUGGING
5174     if (flags & SV_HAS_TRAILING_NUL)
5175         assert(ptr[len] == '\0');
5176 #endif
5177
5178     allocate = (flags & SV_HAS_TRAILING_NUL)
5179         ? len + 1 :
5180 #ifdef Perl_safesysmalloc_size
5181         len + 1;
5182 #else 
5183         PERL_STRLEN_ROUNDUP(len + 1);
5184 #endif
5185     if (flags & SV_HAS_TRAILING_NUL) {
5186         /* It's long enough - do nothing.
5187            Specifically Perl_newCONSTSUB is relying on this.  */
5188     } else {
5189 #ifdef DEBUGGING
5190         /* Force a move to shake out bugs in callers.  */
5191         char *new_ptr = (char*)safemalloc(allocate);
5192         Copy(ptr, new_ptr, len, char);
5193         PoisonFree(ptr,len,char);
5194         Safefree(ptr);
5195         ptr = new_ptr;
5196 #else
5197         ptr = (char*) saferealloc (ptr, allocate);
5198 #endif
5199     }
5200 #ifdef Perl_safesysmalloc_size
5201     SvLEN_set(sv, Perl_safesysmalloc_size(ptr));
5202 #else
5203     SvLEN_set(sv, allocate);
5204 #endif
5205     SvCUR_set(sv, len);
5206     SvPV_set(sv, ptr);
5207     if (!(flags & SV_HAS_TRAILING_NUL)) {
5208         ptr[len] = '\0';
5209     }
5210     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
5211     SvTAINT(sv);
5212     if (flags & SV_SMAGIC)
5213         SvSETMAGIC(sv);
5214 }
5215
5216
5217 static void
5218 S_sv_uncow(pTHX_ SV * const sv, const U32 flags)
5219 {
5220     assert(SvIsCOW(sv));
5221     {
5222 #ifdef PERL_ANY_COW
5223         const char * const pvx = SvPVX_const(sv);
5224         const STRLEN len = SvLEN(sv);
5225         const STRLEN cur = SvCUR(sv);
5226
5227         if (DEBUG_C_TEST) {
5228                 PerlIO_printf(Perl_debug_log,
5229                               "Copy on write: Force normal %ld\n",
5230                               (long) flags);
5231                 sv_dump(sv);
5232         }
5233         SvIsCOW_off(sv);
5234 # ifdef PERL_COPY_ON_WRITE
5235         if (len) {
5236             /* Must do this first, since the CowREFCNT uses SvPVX and
5237             we need to write to CowREFCNT, or de-RO the whole buffer if we are
5238             the only owner left of the buffer. */
5239             sv_buf_to_rw(sv); /* NOOP if RO-ing not supported */
5240             {
5241                 U8 cowrefcnt = CowREFCNT(sv);
5242                 if(cowrefcnt != 0) {
5243                     cowrefcnt--;
5244                     CowREFCNT(sv) = cowrefcnt;
5245                     sv_buf_to_ro(sv);
5246                     goto copy_over;
5247                 }
5248             }
5249             /* Else we are the only owner of the buffer. */
5250         }
5251         else
5252 # endif
5253         {
5254             /* This SV doesn't own the buffer, so need to Newx() a new one:  */
5255             copy_over:
5256             SvPV_set(sv, NULL);
5257             SvCUR_set(sv, 0);
5258             SvLEN_set(sv, 0);
5259             if (flags & SV_COW_DROP_PV) {
5260                 /* OK, so we don't need to copy our buffer.  */
5261                 SvPOK_off(sv);
5262             } else {
5263                 SvGROW(sv, cur + 1);
5264                 Move(pvx,SvPVX(sv),cur,char);
5265                 SvCUR_set(sv, cur);
5266                 *SvEND(sv) = '\0';
5267             }
5268             if (len) {
5269             } else {
5270                 unshare_hek(SvSHARED_HEK_FROM_PV(pvx));
5271             }
5272             if (DEBUG_C_TEST) {
5273                 sv_dump(sv);
5274             }
5275         }
5276 #else
5277             const char * const pvx = SvPVX_const(sv);
5278             const STRLEN len = SvCUR(sv);
5279             SvIsCOW_off(sv);
5280             SvPV_set(sv, NULL);
5281             SvLEN_set(sv, 0);
5282             if (flags & SV_COW_DROP_PV) {
5283                 /* OK, so we don't need to copy our buffer.  */
5284                 SvPOK_off(sv);
5285             } else {
5286                 SvGROW(sv, len + 1);
5287                 Move(pvx,SvPVX(sv),len,char);
5288                 *SvEND(sv) = '\0';
5289             }
5290             unshare_hek(SvSHARED_HEK_FROM_PV(pvx));
5291 #endif
5292     }
5293 }
5294
5295
5296 /*
5297 =for apidoc sv_force_normal_flags
5298
5299 Undo various types of fakery on an SV, where fakery means
5300 "more than" a string: if the PV is a shared string, make
5301 a private copy; if we're a ref, stop refing; if we're a glob, downgrade to
5302 an C<xpvmg>; if we're a copy-on-write scalar, this is the on-write time when
5303 we do the copy, and is also used locally; if this is a
5304 vstring, drop the vstring magic.  If C<SV_COW_DROP_PV> is set
5305 then a copy-on-write scalar drops its PV buffer (if any) and becomes
5306 C<SvPOK_off> rather than making a copy.  (Used where this
5307 scalar is about to be set to some other value.)  In addition,
5308 the C<flags> parameter gets passed to C<sv_unref_flags()>
5309 when unreffing.  C<sv_force_normal> calls this function
5310 with flags set to 0.
5311
5312 This function is expected to be used to signal to perl that this SV is
5313 about to be written to, and any extra book-keeping needs to be taken care
5314 of.  Hence, it croaks on read-only values.
5315
5316 =cut
5317 */
5318
5319 void
5320 Perl_sv_force_normal_flags(pTHX_ SV *const sv, const U32 flags)
5321 {
5322     PERL_ARGS_ASSERT_SV_FORCE_NORMAL_FLAGS;
5323
5324     if (SvREADONLY(sv))
5325         Perl_croak_no_modify();
5326     else if (SvIsCOW(sv) && LIKELY(SvTYPE(sv) != SVt_PVHV))
5327         S_sv_uncow(aTHX_ sv, flags);
5328     if (SvROK(sv))
5329         sv_unref_flags(sv, flags);
5330     else if (SvFAKE(sv) && isGV_with_GP(sv))
5331         sv_unglob(sv, flags);
5332     else if (SvFAKE(sv) && isREGEXP(sv)) {
5333         /* Need to downgrade the REGEXP to a simple(r) scalar. This is analogous
5334            to sv_unglob. We only need it here, so inline it.  */
5335         const bool islv = SvTYPE(sv) == SVt_PVLV;
5336         const svtype new_type =
5337           islv ? SVt_NULL : SvMAGIC(sv) || SvSTASH(sv) ? SVt_PVMG : SVt_PV;
5338         SV *const temp = newSV_type(new_type);
5339         regexp *const temp_p = ReANY((REGEXP *)sv);
5340
5341         if (new_type == SVt_PVMG) {
5342             SvMAGIC_set(temp, SvMAGIC(sv));
5343             SvMAGIC_set(sv, NULL);
5344             SvSTASH_set(temp, SvSTASH(sv));
5345             SvSTASH_set(sv, NULL);
5346         }
5347         if (!islv) SvCUR_set(temp, SvCUR(sv));
5348         /* Remember that SvPVX is in the head, not the body.  But
5349            RX_WRAPPED is in the body. */
5350         assert(ReANY((REGEXP *)sv)->mother_re);
5351         /* Their buffer is already owned by someone else. */
5352         if (flags & SV_COW_DROP_PV) {
5353             /* SvLEN is already 0.  For SVt_REGEXP, we have a brand new
5354                zeroed body.  For SVt_PVLV, it should have been set to 0
5355                before turning into a regexp. */
5356             assert(!SvLEN(islv ? sv : temp));
5357             sv->sv_u.svu_pv = 0;
5358         }
5359         else {
5360             sv->sv_u.svu_pv = savepvn(RX_WRAPPED((REGEXP *)sv), SvCUR(sv));
5361             SvLEN_set(islv ? sv : temp, SvCUR(sv)+1);
5362             SvPOK_on(sv);
5363         }
5364
5365         /* Now swap the rest of the bodies. */
5366
5367         SvFAKE_off(sv);
5368         if (!islv) {
5369             SvFLAGS(sv) &= ~SVTYPEMASK;
5370             SvFLAGS(sv) |= new_type;
5371             SvANY(sv) = SvANY(temp);
5372         }
5373
5374         SvFLAGS(temp) &= ~(SVTYPEMASK);
5375         SvFLAGS(temp) |= SVt_REGEXP|SVf_FAKE;
5376         SvANY(temp) = temp_p;
5377         temp->sv_u.svu_rx = (regexp *)temp_p;
5378
5379         SvREFCNT_dec_NN(temp);
5380     }
5381     else if (SvVOK(sv)) sv_unmagic(sv, PERL_MAGIC_vstring);
5382 }
5383
5384 /*
5385 =for apidoc sv_chop
5386
5387 Efficient removal of characters from the beginning of the string buffer.
5388 C<SvPOK(sv)>, or at least C<SvPOKp(sv)>, must be true and C<ptr> must be a
5389 pointer to somewhere inside the string buffer.  C<ptr> becomes the first
5390 character of the adjusted string.  Uses the C<OOK> hack.  On return, only
5391 C<SvPOK(sv)> and C<SvPOKp(sv)> among the C<OK> flags will be true.
5392
5393 Beware: after this function returns, C<ptr> and SvPVX_const(sv) may no longer
5394 refer to the same chunk of data.
5395
5396 The unfortunate similarity of this function's name to that of Perl's C<chop>
5397 operator is strictly coincidental.  This function works from the left;
5398 C<chop> works from the right.
5399
5400 =cut
5401 */
5402
5403 void
5404 Perl_sv_chop(pTHX_ SV *const sv, const char *const ptr)
5405 {
5406     STRLEN delta;
5407     STRLEN old_delta;
5408     U8 *p;
5409 #ifdef DEBUGGING
5410     const U8 *evacp;
5411     STRLEN evacn;
5412 #endif
5413     STRLEN max_delta;
5414
5415     PERL_ARGS_ASSERT_SV_CHOP;
5416
5417     if (!ptr || !SvPOKp(sv))
5418         return;
5419     delta = ptr - SvPVX_const(sv);
5420     if (!delta) {
5421         /* Nothing to do.  */
5422         return;
5423     }
5424     max_delta = SvLEN(sv) ? SvLEN(sv) : SvCUR(sv);
5425     if (delta > max_delta)
5426         Perl_croak(aTHX_ "panic: sv_chop ptr=%p, start=%p, end=%p",
5427                    ptr, SvPVX_const(sv), SvPVX_const(sv) + max_delta);
5428     /* SvPVX(sv) may move in SV_CHECK_THINKFIRST(sv), so don't use ptr any more */
5429     SV_CHECK_THINKFIRST(sv);
5430     SvPOK_only_UTF8(sv);
5431
5432     if (!SvOOK(sv)) {
5433         if (!SvLEN(sv)) { /* make copy of shared string */
5434             const char *pvx = SvPVX_const(sv);
5435             const STRLEN len = SvCUR(sv);
5436             SvGROW(sv, len + 1);
5437             Move(pvx,SvPVX(sv),len,char);
5438             *SvEND(sv) = '\0';
5439         }
5440         SvOOK_on(sv);
5441         old_delta = 0;
5442     } else {
5443         SvOOK_offset(sv, old_delta);
5444     }
5445     SvLEN_set(sv, SvLEN(sv) - delta);
5446     SvCUR_set(sv, SvCUR(sv) - delta);
5447     SvPV_set(sv, SvPVX(sv) + delta);
5448
5449     p = (U8 *)SvPVX_const(sv);
5450
5451 #ifdef DEBUGGING
5452     /* how many bytes were evacuated?  we will fill them with sentinel
5453        bytes, except for the part holding the new offset of course. */
5454     evacn = delta;
5455     if (old_delta)
5456         evacn += (old_delta < 0x100 ? 1 : 1 + sizeof(STRLEN));
5457     assert(evacn);
5458     assert(evacn <= delta + old_delta);
5459     evacp = p - evacn;
5460 #endif
5461
5462     /* This sets 'delta' to the accumulated value of all deltas so far */
5463     delta += old_delta;
5464     assert(delta);
5465
5466     /* If 'delta' fits in a byte, store it just prior to the new beginning of
5467      * the string; otherwise store a 0 byte there and store 'delta' just prior
5468      * to that, using as many bytes as a STRLEN occupies.  Thus it overwrites a
5469      * portion of the chopped part of the string */
5470     if (delta < 0x100) {
5471         *--p = (U8) delta;
5472     } else {
5473         *--p = 0;
5474         p -= sizeof(STRLEN);
5475         Copy((U8*)&delta, p, sizeof(STRLEN), U8);
5476     }
5477
5478 #ifdef DEBUGGING
5479     /* Fill the preceding buffer with sentinals to verify that no-one is
5480        using it.  */
5481     while (p > evacp) {
5482         --p;
5483         *p = (U8)PTR2UV(p);
5484     }
5485 #endif
5486 }
5487
5488 /*
5489 =for apidoc sv_catpvn
5490
5491 Concatenates the string onto the end of the string which is in the SV.
5492 C<len> indicates number of bytes to copy.  If the SV has the UTF-8
5493 status set, then the bytes appended should be valid UTF-8.
5494 Handles 'get' magic, but not 'set' magic.  See C<L</sv_catpvn_mg>>.
5495
5496 =for apidoc sv_catpvn_flags
5497
5498 Concatenates the string onto the end of the string which is in the SV.  The
5499 C<len> indicates number of bytes to copy.
5500
5501 By default, the string appended is assumed to be valid UTF-8 if the SV has
5502 the UTF-8 status set, and a string of bytes otherwise.  One can force the
5503 appended string to be interpreted as UTF-8 by supplying the C<SV_CATUTF8>
5504 flag, and as bytes by supplying the C<SV_CATBYTES> flag; the SV or the
5505 string appended will be upgraded to UTF-8 if necessary.
5506
5507 If C<flags> has the C<SV_SMAGIC> bit set, will
5508 C<mg_set> on C<dsv> afterwards if appropriate.
5509 C<sv_catpvn> and C<sv_catpvn_nomg> are implemented
5510 in terms of this function.
5511
5512 =cut
5513 */
5514
5515 void
5516 Perl_sv_catpvn_flags(pTHX_ SV *const dsv, const char *sstr, const STRLEN slen, const I32 flags)
5517 {
5518     STRLEN dlen;
5519     const char * const dstr = SvPV_force_flags(dsv, dlen, flags);
5520
5521     PERL_ARGS_ASSERT_SV_CATPVN_FLAGS;
5522     assert((flags & (SV_CATBYTES|SV_CATUTF8)) != (SV_CATBYTES|SV_CATUTF8));
5523
5524     if (!(flags & SV_CATBYTES) || !SvUTF8(dsv)) {
5525       if (flags & SV_CATUTF8 && !SvUTF8(dsv)) {
5526          sv_utf8_upgrade_flags_grow(dsv, 0, slen + 1);
5527          dlen = SvCUR(dsv);
5528       }
5529       else SvGROW(dsv, dlen + slen + 3);
5530       if (sstr == dstr)
5531         sstr = SvPVX_const(dsv);
5532       Move(sstr, SvPVX(dsv) + dlen, slen, char);
5533       SvCUR_set(dsv, SvCUR(dsv) + slen);
5534     }
5535     else {
5536         /* We inline bytes_to_utf8, to avoid an extra malloc. */
5537         const char * const send = sstr + slen;
5538         U8 *d;
5539
5540         /* Something this code does not account for, which I think is
5541            impossible; it would require the same pv to be treated as
5542            bytes *and* utf8, which would indicate a bug elsewhere. */
5543         assert(sstr != dstr);
5544
5545         SvGROW(dsv, dlen + slen * 2 + 3);
5546         d = (U8 *)SvPVX(dsv) + dlen;
5547
5548         while (sstr < send) {
5549             append_utf8_from_native_byte(*sstr, &d);
5550             sstr++;
5551         }
5552         SvCUR_set(dsv, d-(const U8 *)SvPVX(dsv));
5553     }
5554     *SvEND(dsv) = '\0';
5555     (void)SvPOK_only_UTF8(dsv);         /* validate pointer */
5556     SvTAINT(dsv);
5557     if (flags & SV_SMAGIC)
5558         SvSETMAGIC(dsv);
5559 }
5560
5561 /*
5562 =for apidoc sv_catsv
5563
5564 Concatenates the string from SV C<ssv> onto the end of the string in SV
5565 C<dsv>.  If C<ssv> is null, does nothing; otherwise modifies only C<dsv>.
5566 Handles 'get' magic on both SVs, but no 'set' magic.  See C<L</sv_catsv_mg>>
5567 and C<L</sv_catsv_nomg>>.
5568
5569 =for apidoc sv_catsv_flags
5570
5571 Concatenates the string from SV C<ssv> onto the end of the string in SV
5572 C<dsv>.  If C<ssv> is null, does nothing; otherwise modifies only C<dsv>.
5573 If C<flags> has the C<SV_GMAGIC> bit set, will call C<mg_get> on both SVs if
5574 appropriate.  If C<flags> has the C<SV_SMAGIC> bit set, C<mg_set> will be called on
5575 the modified SV afterward, if appropriate.  C<sv_catsv>, C<sv_catsv_nomg>,
5576 and C<sv_catsv_mg> are implemented in terms of this function.
5577
5578 =cut */
5579
5580 void
5581 Perl_sv_catsv_flags(pTHX_ SV *const dsv, SV *const ssv, const I32 flags)
5582 {
5583     PERL_ARGS_ASSERT_SV_CATSV_FLAGS;
5584
5585     if (ssv) {
5586         STRLEN slen;
5587         const char *spv = SvPV_flags_const(ssv, slen, flags);
5588         if (flags & SV_GMAGIC)
5589                 SvGETMAGIC(dsv);
5590         sv_catpvn_flags(dsv, spv, slen,
5591                             DO_UTF8(ssv) ? SV_CATUTF8 : SV_CATBYTES);
5592         if (flags & SV_SMAGIC)
5593                 SvSETMAGIC(dsv);
5594     }
5595 }
5596
5597 /*
5598 =for apidoc sv_catpv
5599
5600 Concatenates the C<NUL>-terminated string onto the end of the string which is
5601 in the SV.
5602 If the SV has the UTF-8 status set, then the bytes appended should be
5603 valid UTF-8.  Handles 'get' magic, but not 'set' magic.  See
5604 C<L</sv_catpv_mg>>.
5605
5606 =cut */
5607
5608 void
5609 Perl_sv_catpv(pTHX_ SV *const sv, const char *ptr)
5610 {
5611     STRLEN len;
5612     STRLEN tlen;
5613     char *junk;
5614
5615     PERL_ARGS_ASSERT_SV_CATPV;
5616
5617     if (!ptr)
5618         return;
5619     junk = SvPV_force(sv, tlen);
5620     len = strlen(ptr);
5621     SvGROW(sv, tlen + len + 1);
5622     if (ptr == junk)
5623         ptr = SvPVX_const(sv);
5624     Move(ptr,SvPVX(sv)+tlen,len+1,char);
5625     SvCUR_set(sv, SvCUR(sv) + len);
5626     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
5627     SvTAINT(sv);
5628 }
5629
5630 /*
5631 =for apidoc sv_catpv_flags
5632
5633 Concatenates the C<NUL>-terminated string onto the end of the string which is
5634 in the SV.
5635 If the SV has the UTF-8 status set, then the bytes appended should
5636 be valid UTF-8.  If C<flags> has the C<SV_SMAGIC> bit set, will C<mg_set>
5637 on the modified SV if appropriate.
5638
5639 =cut
5640 */
5641
5642 void
5643 Perl_sv_catpv_flags(pTHX_ SV *dstr, const char *sstr, const I32 flags)
5644 {
5645     PERL_ARGS_ASSERT_SV_CATPV_FLAGS;
5646     sv_catpvn_flags(dstr, sstr, strlen(sstr), flags);
5647 }
5648
5649 /*
5650 =for apidoc sv_catpv_mg
5651
5652 Like C<sv_catpv>, but also handles 'set' magic.
5653
5654 =cut
5655 */
5656
5657 void
5658 Perl_sv_catpv_mg(pTHX_ SV *const sv, const char *const ptr)
5659 {
5660     PERL_ARGS_ASSERT_SV_CATPV_MG;
5661
5662     sv_catpv(sv,ptr);
5663     SvSETMAGIC(sv);
5664 }
5665
5666 /*
5667 =for apidoc newSV
5668
5669 Creates a new SV.  A non-zero C<len> parameter indicates the number of
5670 bytes of preallocated string space the SV should have.  An extra byte for a
5671 trailing C<NUL> is also reserved.  (C<SvPOK> is not set for the SV even if string
5672 space is allocated.)  The reference count for the new SV is set to 1.
5673
5674 In 5.9.3, C<newSV()> replaces the older C<NEWSV()> API, and drops the first
5675 parameter, I<x>, a debug aid which allowed callers to identify themselves.
5676 This aid has been superseded by a new build option, C<PERL_MEM_LOG> (see
5677 L<perlhacktips/PERL_MEM_LOG>).  The older API is still there for use in XS
5678 modules supporting older perls.
5679
5680 =cut
5681 */
5682
5683 SV *
5684 Perl_newSV(pTHX_ const STRLEN len)
5685 {
5686     SV *sv;
5687
5688     new_SV(sv);
5689     if (len) {
5690         sv_grow(sv, len + 1);
5691     }
5692     return sv;
5693 }
5694 /*
5695 =for apidoc sv_magicext
5696
5697 Adds magic to an SV, upgrading it if necessary.  Applies the
5698 supplied C<vtable> and returns a pointer to the magic added.
5699
5700 Note that C<sv_magicext> will allow things that C<sv_magic> will not.
5701 In particular, you can add magic to C<SvREADONLY> SVs, and add more than
5702 one instance of the same C<how>.
5703
5704 If C<namlen> is greater than zero then a C<savepvn> I<copy> of C<name> is
5705 stored, if C<namlen> is zero then C<name> is stored as-is and - as another
5706 special case - if C<(name && namlen == HEf_SVKEY)> then C<name> is assumed
5707 to contain an SV* and is stored as-is with its C<REFCNT> incremented.
5708
5709 (This is now used as a subroutine by C<sv_magic>.)
5710
5711 =cut
5712 */
5713 MAGIC * 
5714 Perl_sv_magicext(pTHX_ SV *const sv, SV *const obj, const int how, 
5715                 const MGVTBL *const vtable, const char *const name, const I32 namlen)
5716 {
5717     MAGIC* mg;
5718
5719     PERL_ARGS_ASSERT_SV_MAGICEXT;
5720
5721     SvUPGRADE(sv, SVt_PVMG);
5722     Newxz(mg, 1, MAGIC);
5723     mg->mg_moremagic = SvMAGIC(sv);
5724     SvMAGIC_set(sv, mg);
5725
5726     /* Sometimes a magic contains a reference loop, where the sv and
5727        object refer to each other.  To prevent a reference loop that
5728        would prevent such objects being freed, we look for such loops
5729        and if we find one we avoid incrementing the object refcount.
5730
5731        Note we cannot do this to avoid self-tie loops as intervening RV must
5732        have its REFCNT incremented to keep it in existence.
5733
5734     */
5735     if (!obj || obj == sv ||
5736         how == PERL_MAGIC_arylen ||
5737         how == PERL_MAGIC_regdata ||
5738         how == PERL_MAGIC_regdatum ||
5739         how == PERL_MAGIC_symtab ||
5740         (SvTYPE(obj) == SVt_PVGV &&
5741             (GvSV(obj) == sv || GvHV(obj) == (const HV *)sv
5742              || GvAV(obj) == (const AV *)sv || GvCV(obj) == (const CV *)sv
5743              || GvIOp(obj) == (const IO *)sv || GvFORM(obj) == (const CV *)sv)))
5744     {
5745         mg->mg_obj = obj;
5746     }
5747     else {
5748         mg->mg_obj = SvREFCNT_inc_simple(obj);
5749         mg->mg_flags |= MGf_REFCOUNTED;
5750     }
5751
5752     /* Normal self-ties simply pass a null object, and instead of
5753        using mg_obj directly, use the SvTIED_obj macro to produce a
5754        new RV as needed.  For glob "self-ties", we are tieing the PVIO
5755        with an RV obj pointing to the glob containing the PVIO.  In
5756        this case, to avoid a reference loop, we need to weaken the
5757        reference.
5758     */
5759
5760     if (how == PERL_MAGIC_tiedscalar && SvTYPE(sv) == SVt_PVIO &&
5761         obj && SvROK(obj) && GvIO(SvRV(obj)) == (const IO *)sv)
5762     {
5763       sv_rvweaken(obj);
5764     }
5765
5766     mg->mg_type = how;
5767     mg->mg_len = namlen;
5768     if (name) {
5769         if (namlen > 0)
5770             mg->mg_ptr = savepvn(name, namlen);
5771         else if (namlen == HEf_SVKEY) {
5772             /* Yes, this is casting away const. This is only for the case of
5773                HEf_SVKEY. I think we need to document this aberation of the
5774                constness of the API, rather than making name non-const, as
5775                that change propagating outwards a long way.  */
5776             mg->mg_ptr = (char*)SvREFCNT_inc_simple_NN((SV *)name);
5777         } else
5778             mg->mg_ptr = (char *) name;
5779     }
5780     mg->mg_virtual = (MGVTBL *) vtable;
5781
5782     mg_magical(sv);
5783     return mg;
5784 }
5785
5786 MAGIC *
5787 Perl_sv_magicext_mglob(pTHX_ SV *sv)
5788 {
5789     PERL_ARGS_ASSERT_SV_MAGICEXT_MGLOB;
5790     if (SvTYPE(sv) == SVt_PVLV && LvTYPE(sv) == 'y') {
5791         /* This sv is only a delegate.  //g magic must be attached to
5792            its target. */
5793         vivify_defelem(sv);
5794         sv = LvTARG(sv);
5795     }
5796     return sv_magicext(sv, NULL, PERL_MAGIC_regex_global,
5797                        &PL_vtbl_mglob, 0, 0);
5798 }
5799
5800 /*
5801 =for apidoc sv_magic
5802
5803 Adds magic to an SV.  First upgrades C<sv> to type C<SVt_PVMG> if
5804 necessary, then adds a new magic item of type C<how> to the head of the
5805 magic list.
5806
5807 See C<L</sv_magicext>> (which C<sv_magic> now calls) for a description of the
5808 handling of the C<name> and C<namlen> arguments.
5809
5810 You need to use C<sv_magicext> to add magic to C<SvREADONLY> SVs and also
5811 to add more than one instance of the same C<how>.
5812
5813 =cut
5814 */
5815
5816 void
5817 Perl_sv_magic(pTHX_ SV *const sv, SV *const obj, const int how,
5818              const char *const name, const I32 namlen)
5819 {
5820     const MGVTBL *vtable;
5821     MAGIC* mg;
5822     unsigned int flags;
5823     unsigned int vtable_index;
5824
5825     PERL_ARGS_ASSERT_SV_MAGIC;
5826
5827     if (how < 0 || (unsigned)how >= C_ARRAY_LENGTH(PL_magic_data)
5828         || ((flags = PL_magic_data[how]),
5829             (vtable_index = flags & PERL_MAGIC_VTABLE_MASK)
5830             > magic_vtable_max))
5831         Perl_croak(aTHX_ "Don't know how to handle magic of type \\%o", how);
5832
5833     /* PERL_MAGIC_ext is reserved for use by extensions not perl internals.
5834        Useful for attaching extension internal data to perl vars.
5835        Note that multiple extensions may clash if magical scalars
5836        etc holding private data from one are passed to another. */
5837
5838     vtable = (vtable_index == magic_vtable_max)
5839         ? NULL : PL_magic_vtables + vtable_index;
5840
5841     if (SvREADONLY(sv)) {
5842         if (
5843             !PERL_MAGIC_TYPE_READONLY_ACCEPTABLE(how)
5844            )
5845         {
5846             Perl_croak_no_modify();
5847         }
5848     }
5849     if (SvMAGICAL(sv) || (how == PERL_MAGIC_taint && SvTYPE(sv) >= SVt_PVMG)) {
5850         if (SvMAGIC(sv) && (mg = mg_find(sv, how))) {
5851             /* sv_magic() refuses to add a magic of the same 'how' as an
5852                existing one
5853              */
5854             if (how == PERL_MAGIC_taint)
5855                 mg->mg_len |= 1;
5856             return;
5857         }
5858     }
5859
5860     /* Force pos to be stored as characters, not bytes. */
5861     if (SvMAGICAL(sv) && DO_UTF8(sv)
5862       && (mg = mg_find(sv, PERL_MAGIC_regex_global))
5863       && mg->mg_len != -1
5864       && mg->mg_flags & MGf_BYTES) {
5865         mg->mg_len = (SSize_t)sv_pos_b2u_flags(sv, (STRLEN)mg->mg_len,
5866                                                SV_CONST_RETURN);
5867         mg->mg_flags &= ~MGf_BYTES;
5868     }
5869
5870     /* Rest of work is done else where */
5871     mg = sv_magicext(sv,obj,how,vtable,name,namlen);
5872
5873     switch (how) {
5874     case PERL_MAGIC_taint:
5875         mg->mg_len = 1;
5876         break;
5877     case PERL_MAGIC_ext:
5878     case PERL_MAGIC_dbfile:
5879         SvRMAGICAL_on(sv);
5880         break;
5881     }
5882 }
5883
5884 static int
5885 S_sv_unmagicext_flags(pTHX_ SV *const sv, const int type, MGVTBL *vtbl, const U32 flags)
5886 {
5887     MAGIC* mg;
5888     MAGIC** mgp;
5889
5890     assert(flags <= 1);
5891
5892     if (SvTYPE(sv) < SVt_PVMG || !SvMAGIC(sv))
5893         return 0;
5894     mgp = &(((XPVMG*) SvANY(sv))->xmg_u.xmg_magic);
5895     for (mg = *mgp; mg; mg = *mgp) {
5896         const MGVTBL* const virt = mg->mg_virtual;
5897         if (mg->mg_type == type && (!flags || virt == vtbl)) {
5898             *mgp = mg->mg_moremagic;
5899             if (virt && virt->svt_free)
5900                 virt->svt_free(aTHX_ sv, mg);
5901             if (mg->mg_ptr && mg->mg_type != PERL_MAGIC_regex_global) {
5902                 if (mg->mg_len > 0)
5903                     Safefree(mg->mg_ptr);
5904                 else if (mg->mg_len == HEf_SVKEY)
5905                     SvREFCNT_dec(MUTABLE_SV(mg->mg_ptr));
5906                 else if (mg->mg_type == PERL_MAGIC_utf8)
5907                     Safefree(mg->mg_ptr);
5908             }
5909             if (mg->mg_flags & MGf_REFCOUNTED)
5910                 SvREFCNT_dec(mg->mg_obj);
5911             Safefree(mg);
5912         }
5913         else
5914             mgp = &mg->mg_moremagic;
5915     }
5916     if (SvMAGIC(sv)) {
5917         if (SvMAGICAL(sv))      /* if we're under save_magic, wait for restore_magic; */
5918             mg_magical(sv);     /*    else fix the flags now */
5919     }
5920     else
5921         SvMAGICAL_off(sv);
5922
5923     return 0;
5924 }
5925
5926 /*
5927 =for apidoc sv_unmagic
5928
5929 Removes all magic of type C<type> from an SV.
5930
5931 =cut
5932 */
5933
5934 int
5935 Perl_sv_unmagic(pTHX_ SV *const sv, const int type)
5936 {
5937     PERL_ARGS_ASSERT_SV_UNMAGIC;
5938     return S_sv_unmagicext_flags(aTHX_ sv, type, NULL, 0);
5939 }
5940
5941 /*
5942 =for apidoc sv_unmagicext
5943
5944 Removes all magic of type C<type> with the specified C<vtbl> from an SV.
5945
5946 =cut
5947 */
5948
5949 int
5950 Perl_sv_unmagicext(pTHX_ SV *const sv, const int type, MGVTBL *vtbl)
5951 {
5952     PERL_ARGS_ASSERT_SV_UNMAGICEXT;
5953     return S_sv_unmagicext_flags(aTHX_ sv, type, vtbl, 1);
5954 }
5955
5956 /*
5957 =for apidoc sv_rvweaken
5958
5959 Weaken a reference: set the C<SvWEAKREF> flag on this RV; give the
5960 referred-to SV C<PERL_MAGIC_backref> magic if it hasn't already; and
5961 push a back-reference to this RV onto the array of backreferences
5962 associated with that magic.  If the RV is magical, set magic will be
5963 called after the RV is cleared.
5964
5965 =cut
5966 */
5967
5968 SV *
5969 Perl_sv_rvweaken(pTHX_ SV *const sv)
5970 {
5971     SV *tsv;
5972
5973     PERL_ARGS_ASSERT_SV_RVWEAKEN;
5974
5975     if (!SvOK(sv))  /* let undefs pass */
5976         return sv;
5977     if (!SvROK(sv))
5978         Perl_croak(aTHX_ "Can't weaken a nonreference");
5979     else if (SvWEAKREF(sv)) {
5980         Perl_ck_warner(aTHX_ packWARN(WARN_MISC), "Reference is already weak");
5981         return sv;
5982     }
5983     else if (SvREADONLY(sv)) croak_no_modify();
5984     tsv = SvRV(sv);
5985     Perl_sv_add_backref(aTHX_ tsv, sv);
5986     SvWEAKREF_on(sv);
5987     SvREFCNT_dec_NN(tsv);
5988     return sv;
5989 }
5990
5991 /*
5992 =for apidoc sv_get_backrefs
5993
5994 If C<sv> is the target of a weak reference then it returns the back
5995 references structure associated with the sv; otherwise return C<NULL>.
5996
5997 When returning a non-null result the type of the return is relevant. If it
5998 is an AV then the elements of the AV are the weak reference RVs which
5999 point at this item. If it is any other type then the item itself is the
6000 weak reference.
6001
6002 See also C<Perl_sv_add_backref()>, C<Perl_sv_del_backref()>,
6003 C<Perl_sv_kill_backrefs()>
6004
6005 =cut
6006 */
6007
6008 SV *
6009 Perl_sv_get_backrefs(SV *const sv)
6010 {
6011     SV *backrefs= NULL;
6012
6013     PERL_ARGS_ASSERT_SV_GET_BACKREFS;
6014
6015     /* find slot to store array or singleton backref */
6016
6017     if (SvTYPE(sv) == SVt_PVHV) {
6018         if (SvOOK(sv)) {
6019             struct xpvhv_aux * const iter = HvAUX((HV *)sv);
6020             backrefs = (SV *)iter->xhv_backreferences;
6021         }
6022     } else if (SvMAGICAL(sv)) {
6023         MAGIC *mg = mg_find(sv, PERL_MAGIC_backref);
6024         if (mg)
6025             backrefs = mg->mg_obj;
6026     }
6027     return backrefs;
6028 }
6029
6030 /* Give tsv backref magic if it hasn't already got it, then push a
6031  * back-reference to sv onto the array associated with the backref magic.
6032  *
6033  * As an optimisation, if there's only one backref and it's not an AV,
6034  * store it directly in the HvAUX or mg_obj slot, avoiding the need to
6035  * allocate an AV. (Whether the slot holds an AV tells us whether this is
6036  * active.)
6037  */
6038
6039 /* A discussion about the backreferences array and its refcount:
6040  *
6041  * The AV holding the backreferences is pointed to either as the mg_obj of
6042  * PERL_MAGIC_backref, or in the specific case of a HV, from the
6043  * xhv_backreferences field. The array is created with a refcount
6044  * of 2. This means that if during global destruction the array gets
6045  * picked on before its parent to have its refcount decremented by the
6046  * random zapper, it won't actually be freed, meaning it's still there for
6047  * when its parent gets freed.
6048  *
6049  * When the parent SV is freed, the extra ref is killed by
6050  * Perl_sv_kill_backrefs.  The other ref is killed, in the case of magic,
6051  * by mg_free() / MGf_REFCOUNTED, or for a hash, by Perl_hv_kill_backrefs.
6052  *
6053  * When a single backref SV is stored directly, it is not reference
6054  * counted.
6055  */
6056
6057 void
6058 Perl_sv_add_backref(pTHX_ SV *const tsv, SV *const sv)
6059 {
6060     SV **svp;
6061     AV *av = NULL;
6062     MAGIC *mg = NULL;
6063
6064     PERL_ARGS_ASSERT_SV_ADD_BACKREF;
6065
6066     /* find slot to store array or singleton backref */
6067
6068     if (SvTYPE(tsv) == SVt_PVHV) {
6069         svp = (SV**)Perl_hv_backreferences_p(aTHX_ MUTABLE_HV(tsv));
6070     } else {
6071         if (SvMAGICAL(tsv))
6072             mg = mg_find(tsv, PERL_MAGIC_backref);
6073         if (!mg)
6074             mg = sv_magicext(tsv, NULL, PERL_MAGIC_backref, &PL_vtbl_backref, NULL, 0);
6075         svp = &(mg->mg_obj);
6076     }
6077
6078     /* create or retrieve the array */
6079
6080     if (   (!*svp && SvTYPE(sv) == SVt_PVAV)
6081         || (*svp && SvTYPE(*svp) != SVt_PVAV)
6082     ) {
6083         /* create array */
6084         if (mg)
6085             mg->mg_flags |= MGf_REFCOUNTED;
6086         av = newAV();
6087         AvREAL_off(av);
6088         SvREFCNT_inc_simple_void_NN(av);
6089         /* av now has a refcnt of 2; see discussion above */
6090         av_extend(av, *svp ? 2 : 1);
6091         if (*svp) {
6092             /* move single existing backref to the array */
6093             AvARRAY(av)[++AvFILLp(av)] = *svp; /* av_push() */
6094         }
6095         *svp = (SV*)av;
6096     }
6097     else {
6098         av = MUTABLE_AV(*svp);
6099         if (!av) {
6100             /* optimisation: store single backref directly in HvAUX or mg_obj */
6101             *svp = sv;
6102             return;
6103         }
6104         assert(SvTYPE(av) == SVt_PVAV);
6105         if (AvFILLp(av) >= AvMAX(av)) {
6106             av_extend(av, AvFILLp(av)+1);
6107         }
6108     }
6109     /* push new backref */
6110     AvARRAY(av)[++AvFILLp(av)] = sv; /* av_push() */
6111 }
6112
6113 /* delete a back-reference to ourselves from the backref magic associated
6114  * with the SV we point to.
6115  */
6116
6117 void
6118 Perl_sv_del_backref(pTHX_ SV *const tsv, SV *const sv)
6119 {
6120     SV **svp = NULL;
6121
6122     PERL_ARGS_ASSERT_SV_DEL_BACKREF;
6123
6124     if (SvTYPE(tsv) == SVt_PVHV) {
6125         if (SvOOK(tsv))
6126             svp = (SV**)Perl_hv_backreferences_p(aTHX_ MUTABLE_HV(tsv));
6127     }
6128     else if (SvIS_FREED(tsv) && PL_phase == PERL_PHASE_DESTRUCT) {
6129         /* It's possible for the the last (strong) reference to tsv to have
6130            become freed *before* the last thing holding a weak reference.
6131            If both survive longer than the backreferences array, then when
6132            the referent's reference count drops to 0 and it is freed, it's
6133            not able to chase the backreferences, so they aren't NULLed.
6134
6135            For example, a CV holds a weak reference to its stash. If both the
6136            CV and the stash survive longer than the backreferences array,
6137            and the CV gets picked for the SvBREAK() treatment first,
6138            *and* it turns out that the stash is only being kept alive because
6139            of an our variable in the pad of the CV, then midway during CV
6140            destruction the stash gets freed, but CvSTASH() isn't set to NULL.
6141            It ends up pointing to the freed HV. Hence it's chased in here, and
6142            if this block wasn't here, it would hit the !svp panic just below.
6143
6144            I don't believe that "better" destruction ordering is going to help
6145            here - during global destruction there's always going to be the
6146            chance that something goes out of order. We've tried to make it
6147            foolproof before, and it only resulted in evolutionary pressure on
6148            fools. Which made us look foolish for our hubris. :-(
6149         */
6150         return;
6151     }
6152     else {
6153         MAGIC *const mg
6154             = SvMAGICAL(tsv) ? mg_find(tsv, PERL_MAGIC_backref) : NULL;
6155         svp =  mg ? &(mg->mg_obj) : NULL;
6156     }
6157
6158     if (!svp)
6159         Perl_croak(aTHX_ "panic: del_backref, svp=0");
6160     if (!*svp) {
6161         /* It's possible that sv is being freed recursively part way through the
6162            freeing of tsv. If this happens, the backreferences array of tsv has
6163            already been freed, and so svp will be NULL. If this is the case,
6164            we should not panic. Instead, nothing needs doing, so return.  */
6165         if (PL_phase == PERL_PHASE_DESTRUCT && SvREFCNT(tsv) == 0)
6166             return;
6167         Perl_croak(aTHX_ "panic: del_backref, *svp=%p phase=%s refcnt=%" UVuf,
6168                    (void*)*svp, PL_phase_names[PL_phase], (UV)SvREFCNT(tsv));
6169     }
6170
6171     if (SvTYPE(*svp) == SVt_PVAV) {
6172 #ifdef DEBUGGING
6173         int count = 1;
6174 #endif
6175         AV * const av = (AV*)*svp;
6176         SSize_t fill;
6177         assert(!SvIS_FREED(av));
6178         fill = AvFILLp(av);
6179         assert(fill > -1);
6180         svp = AvARRAY(av);
6181         /* for an SV with N weak references to it, if all those
6182          * weak refs are deleted, then sv_del_backref will be called
6183          * N times and O(N^2) compares will be done within the backref
6184          * array. To ameliorate this potential slowness, we:
6185          * 1) make sure this code is as tight as possible;
6186          * 2) when looking for SV, look for it at both the head and tail of the
6187          *    array first before searching the rest, since some create/destroy
6188          *    patterns will cause the backrefs to be freed in order.
6189          */
6190         if (*svp == sv) {
6191             AvARRAY(av)++;
6192             AvMAX(av)--;
6193         }
6194         else {
6195             SV **p = &svp[fill];
6196             SV *const topsv = *p;
6197             if (topsv != sv) {
6198 #ifdef DEBUGGING
6199                 count = 0;
6200 #endif
6201                 while (--p > svp) {
6202                     if (*p == sv) {
6203                         /* We weren't the last entry.
6204                            An unordered list has this property that you
6205                            can take the last element off the end to fill
6206                            the hole, and it's still an unordered list :-)
6207                         */
6208                         *p = topsv;
6209 #ifdef DEBUGGING
6210                         count++;
6211 #else
6212                         break; /* should only be one */
6213 #endif
6214                     }
6215                 }
6216             }
6217         }
6218         assert(count ==1);
6219         AvFILLp(av) = fill-1;
6220     }
6221     else if (SvIS_FREED(*svp) && PL_phase == PERL_PHASE_DESTRUCT) {
6222         /* freed AV; skip */
6223     }
6224     else {
6225         /* optimisation: only a single backref, stored directly */
6226         if (*svp != sv)
6227             Perl_croak(aTHX_ "panic: del_backref, *svp=%p, sv=%p",
6228                        (void*)*svp, (void*)sv);
6229         *svp = NULL;
6230     }
6231
6232 }
6233
6234 void
6235 Perl_sv_kill_backrefs(pTHX_ SV *const sv, AV *const av)
6236 {
6237     SV **svp;
6238     SV **last;
6239     bool is_array;
6240
6241     PERL_ARGS_ASSERT_SV_KILL_BACKREFS;
6242
6243     if (!av)
6244         return;
6245
6246     /* after multiple passes through Perl_sv_clean_all() for a thingy
6247      * that has badly leaked, the backref array may have gotten freed,
6248      * since we only protect it against 1 round of cleanup */
6249     if (SvIS_FREED(av)) {
6250         if (PL_in_clean_all) /* All is fair */
6251             return;
6252         Perl_croak(aTHX_
6253                    "panic: magic_killbackrefs (freed backref AV/SV)");
6254     }
6255
6256
6257     is_array = (SvTYPE(av) == SVt_PVAV);
6258     if (is_array) {
6259         assert(!SvIS_FREED(av));
6260         svp = AvARRAY(av);
6261         if (svp)
6262             last = svp + AvFILLp(av);
6263     }
6264     else {
6265         /* optimisation: only a single backref, stored directly */
6266         svp = (SV**)&av;
6267         last = svp;
6268     }
6269
6270     if (svp) {
6271         while (svp <= last) {
6272             if (*svp) {
6273                 SV *const referrer = *svp;
6274                 if (SvWEAKREF(referrer)) {
6275                     /* XXX Should we check that it hasn't changed? */
6276                     assert(SvROK(referrer));
6277                     SvRV_set(referrer, 0);
6278                     SvOK_off(referrer);
6279                     SvWEAKREF_off(referrer);
6280                     SvSETMAGIC(referrer);
6281                 } else if (SvTYPE(referrer) == SVt_PVGV ||
6282                            SvTYPE(referrer) == SVt_PVLV) {
6283                     assert(SvTYPE(sv) == SVt_PVHV); /* stash backref */
6284                     /* You lookin' at me?  */
6285                     assert(GvSTASH(referrer));
6286                     assert(GvSTASH(referrer) == (const HV *)sv);
6287                     GvSTASH(referrer) = 0;
6288                 } else if (SvTYPE(referrer) == SVt_PVCV ||
6289                            SvTYPE(referrer) == SVt_PVFM) {
6290                     if (SvTYPE(sv) == SVt_PVHV) { /* stash backref */
6291                         /* You lookin' at me?  */
6292                         assert(CvSTASH(referrer));
6293                         assert(CvSTASH(referrer) == (const HV *)sv);
6294                         SvANY(MUTABLE_CV(referrer))->xcv_stash = 0;
6295                     }
6296                     else {
6297                         assert(SvTYPE(sv) == SVt_PVGV);
6298                         /* You lookin' at me?  */
6299                         assert(CvGV(referrer));
6300                         assert(CvGV(referrer) == (const GV *)sv);
6301                         anonymise_cv_maybe(MUTABLE_GV(sv),
6302                                                 MUTABLE_CV(referrer));
6303                     }
6304
6305                 } else {
6306                     Perl_croak(aTHX_
6307                                "panic: magic_killbackrefs (flags=%" UVxf ")",
6308                                (UV)SvFLAGS(referrer));
6309                 }
6310
6311                 if (is_array)
6312                     *svp = NULL;
6313             }
6314             svp++;
6315         }
6316     }
6317     if (is_array) {
6318         AvFILLp(av) = -1;
6319         SvREFCNT_dec_NN(av); /* remove extra count added by sv_add_backref() */
6320     }
6321     return;
6322 }
6323
6324 /*
6325 =for apidoc sv_insert
6326
6327 Inserts a string at the specified offset/length within the SV.  Similar to
6328 the Perl C<substr()> function.  Handles get magic.
6329
6330 =for apidoc sv_insert_flags
6331
6332 Same as C<sv_insert>, but the extra C<flags> are passed to the
6333 C<SvPV_force_flags> that applies to C<bigstr>.
6334
6335 =cut
6336 */
6337
6338 void
6339 Perl_sv_insert_flags(pTHX_ SV *const bigstr, const STRLEN offset, const STRLEN len, const char *little, const STRLEN littlelen, const U32 flags)
6340 {
6341     char *big;
6342     char *mid;
6343     char *midend;
6344     char *bigend;
6345     SSize_t i;          /* better be sizeof(STRLEN) or bad things happen */
6346     STRLEN curlen;
6347
6348     PERL_ARGS_ASSERT_SV_INSERT_FLAGS;
6349
6350     SvPV_force_flags(bigstr, curlen, flags);
6351     (void)SvPOK_only_UTF8(bigstr);
6352
6353     if (little >= SvPVX(bigstr) &&
6354         little < SvPVX(bigstr) + (SvLEN(bigstr) ? SvLEN(bigstr) : SvCUR(bigstr))) {
6355         /* little is a pointer to within bigstr, since we can reallocate bigstr,
6356            or little...little+littlelen might overlap offset...offset+len we make a copy
6357         */
6358         little = savepvn(little, littlelen);
6359         SAVEFREEPV(little);
6360     }
6361
6362     if (offset + len > curlen) {
6363         SvGROW(bigstr, offset+len+1);
6364         Zero(SvPVX(bigstr)+curlen, offset+len-curlen, char);
6365         SvCUR_set(bigstr, offset+len);
6366     }
6367
6368     SvTAINT(bigstr);
6369     i = littlelen - len;
6370     if (i > 0) {                        /* string might grow */
6371         big = SvGROW(bigstr, SvCUR(bigstr) + i + 1);
6372         mid = big + offset + len;
6373         midend = bigend = big + SvCUR(bigstr);
6374         bigend += i;
6375         *bigend = '\0';
6376         while (midend > mid)            /* shove everything down */
6377             *--bigend = *--midend;
6378         Move(little,big+offset,littlelen,char);
6379         SvCUR_set(bigstr, SvCUR(bigstr) + i);
6380         SvSETMAGIC(bigstr);
6381         return;
6382     }
6383     else if (i == 0) {
6384         Move(little,SvPVX(bigstr)+offset,len,char);
6385         SvSETMAGIC(bigstr);
6386         return;
6387     }
6388
6389     big = SvPVX(bigstr);
6390     mid = big + offset;
6391     midend = mid + len;
6392     bigend = big + SvCUR(bigstr);
6393
6394     if (midend > bigend)
6395         Perl_croak(aTHX_ "panic: sv_insert, midend=%p, bigend=%p",
6396                    midend, bigend);
6397
6398     if (mid - big > bigend - midend) {  /* faster to shorten from end */
6399         if (littlelen) {
6400             Move(little, mid, littlelen,char);
6401             mid += littlelen;
6402         }
6403         i = bigend - midend;
6404         if (i > 0) {
6405             Move(midend, mid, i,char);
6406             mid += i;
6407         }
6408         *mid = '\0';
6409         SvCUR_set(bigstr, mid - big);
6410     }
6411     else if ((i = mid - big)) { /* faster from front */
6412         midend -= littlelen;
6413         mid = midend;
6414         Move(big, midend - i, i, char);
6415         sv_chop(bigstr,midend-i);
6416         if (littlelen)
6417             Move(little, mid, littlelen,char);
6418     }
6419     else if (littlelen) {
6420         midend -= littlelen;
6421         sv_chop(bigstr,midend);
6422         Move(little,midend,littlelen,char);
6423     }
6424     else {
6425         sv_chop(bigstr,midend);
6426     }
6427     SvSETMAGIC(bigstr);
6428 }
6429
6430 /*
6431 =for apidoc sv_replace
6432
6433 Make the first argument a copy of the second, then delete the original.
6434 The target SV physically takes over ownership of the body of the source SV
6435 and inherits its flags; however, the target keeps any magic it owns,
6436 and any magic in the source is discarded.
6437 Note that this is a rather specialist SV copying operation; most of the
6438 time you'll want to use C<sv_setsv> or one of its many macro front-ends.
6439
6440 =cut
6441 */
6442
6443 void
6444 Perl_sv_replace(pTHX_ SV *const sv, SV *const nsv)
6445 {
6446     const U32 refcnt = SvREFCNT(sv);
6447
6448     PERL_ARGS_ASSERT_SV_REPLACE;
6449
6450     SV_CHECK_THINKFIRST_COW_DROP(sv);
6451     if (SvREFCNT(nsv) != 1) {
6452         Perl_croak(aTHX_ "panic: reference miscount on nsv in sv_replace()"
6453                    " (%" UVuf " != 1)", (UV) SvREFCNT(nsv));
6454     }
6455     if (SvMAGICAL(sv)) {
6456         if (SvMAGICAL(nsv))
6457             mg_free(nsv);
6458         else
6459             sv_upgrade(nsv, SVt_PVMG);
6460         SvMAGIC_set(nsv, SvMAGIC(sv));
6461         SvFLAGS(nsv) |= SvMAGICAL(sv);
6462         SvMAGICAL_off(sv);
6463         SvMAGIC_set(sv, NULL);
6464     }
6465     SvREFCNT(sv) = 0;
6466     sv_clear(sv);
6467     assert(!SvREFCNT(sv));
6468 #ifdef DEBUG_LEAKING_SCALARS
6469     sv->sv_flags  = nsv->sv_flags;
6470     sv->sv_any    = nsv->sv_any;
6471     sv->sv_refcnt = nsv->sv_refcnt;
6472     sv->sv_u      = nsv->sv_u;
6473 #else
6474     StructCopy(nsv,sv,SV);
6475 #endif
6476     if(SvTYPE(sv) == SVt_IV) {
6477         SET_SVANY_FOR_BODYLESS_IV(sv);
6478     }
6479         
6480
6481     SvREFCNT(sv) = refcnt;
6482     SvFLAGS(nsv) |= SVTYPEMASK;         /* Mark as freed */
6483     SvREFCNT(nsv) = 0;
6484     del_SV(nsv);
6485 }
6486
6487 /* We're about to free a GV which has a CV that refers back to us.
6488  * If that CV will outlive us, make it anonymous (i.e. fix up its CvGV
6489  * field) */
6490
6491 STATIC void
6492 S_anonymise_cv_maybe(pTHX_ GV *gv, CV* cv)
6493 {
6494     SV *gvname;
6495     GV *anongv;
6496
6497     PERL_ARGS_ASSERT_ANONYMISE_CV_MAYBE;
6498
6499     /* be assertive! */
6500     assert(SvREFCNT(gv) == 0);
6501     assert(isGV(gv) && isGV_with_GP(gv));
6502     assert(GvGP(gv));
6503     assert(!CvANON(cv));
6504     assert(CvGV(cv) == gv);
6505     assert(!CvNAMED(cv));
6506
6507     /* will the CV shortly be freed by gp_free() ? */
6508     if (GvCV(gv) == cv && GvGP(gv)->gp_refcnt < 2 && SvREFCNT(cv) < 2) {
6509         SvANY(cv)->xcv_gv_u.xcv_gv = NULL;
6510         return;
6511     }
6512
6513     /* if not, anonymise: */
6514     gvname = (GvSTASH(gv) && HvNAME(GvSTASH(gv)) && HvENAME(GvSTASH(gv)))
6515                     ? newSVhek(HvENAME_HEK(GvSTASH(gv)))
6516                     : newSVpvn_flags( "__ANON__", 8, 0 );
6517     sv_catpvs(gvname, "::__ANON__");
6518     anongv = gv_fetchsv(gvname, GV_ADDMULTI, SVt_PVCV);
6519     SvREFCNT_dec_NN(gvname);
6520
6521     CvANON_on(cv);
6522     CvCVGV_RC_on(cv);
6523     SvANY(cv)->xcv_gv_u.xcv_gv = MUTABLE_GV(SvREFCNT_inc(anongv));
6524 }
6525
6526
6527 /*
6528 =for apidoc sv_clear
6529
6530 Clear an SV: call any destructors, free up any memory used by the body,
6531 and free the body itself.  The SV's head is I<not> freed, although
6532 its type is set to all 1's so that it won't inadvertently be assumed
6533 to be live during global destruction etc.
6534 This function should only be called when C<REFCNT> is zero.  Most of the time
6535 you'll want to call C<sv_free()> (or its macro wrapper C<SvREFCNT_dec>)
6536 instead.
6537
6538 =cut
6539 */
6540
6541 void
6542 Perl_sv_clear(pTHX_ SV *const orig_sv)
6543 {
6544     dVAR;
6545     HV *stash;
6546     U32 type;
6547     const struct body_details *sv_type_details;
6548     SV* iter_sv = NULL;
6549     SV* next_sv = NULL;
6550     SV *sv = orig_sv;
6551     STRLEN hash_index = 0; /* initialise to make Coverity et al happy.
6552                               Not strictly necessary */
6553
6554     PERL_ARGS_ASSERT_SV_CLEAR;
6555
6556     /* within this loop, sv is the SV currently being freed, and
6557      * iter_sv is the most recent AV or whatever that's being iterated
6558      * over to provide more SVs */
6559
6560     while (sv) {
6561
6562         type = SvTYPE(sv);
6563
6564         assert(SvREFCNT(sv) == 0);
6565         assert(SvTYPE(sv) != (svtype)SVTYPEMASK);
6566
6567         if (type <= SVt_IV) {
6568             /* See the comment in sv.h about the collusion between this
6569              * early return and the overloading of the NULL slots in the
6570              * size table.  */
6571             if (SvROK(sv))
6572                 goto free_rv;
6573             SvFLAGS(sv) &= SVf_BREAK;
6574             SvFLAGS(sv) |= SVTYPEMASK;
6575             goto free_head;
6576         }
6577
6578         /* objs are always >= MG, but pad names use the SVs_OBJECT flag
6579            for another purpose  */
6580         assert(!SvOBJECT(sv) || type >= SVt_PVMG);
6581
6582         if (type >= SVt_PVMG) {
6583             if (SvOBJECT(sv)) {
6584                 if (!curse(sv, 1)) goto get_next_sv;
6585                 type = SvTYPE(sv); /* destructor may have changed it */
6586             }
6587             /* Free back-references before magic, in case the magic calls
6588              * Perl code that has weak references to sv. */
6589             if (type == SVt_PVHV) {
6590                 Perl_hv_kill_backrefs(aTHX_ MUTABLE_HV(sv));
6591                 if (SvMAGIC(sv))
6592                     mg_free(sv);
6593             }
6594             else if (SvMAGIC(sv)) {
6595                 /* Free back-references before other types of magic. */
6596                 sv_unmagic(sv, PERL_MAGIC_backref);
6597                 mg_free(sv);
6598             }
6599             SvMAGICAL_off(sv);
6600         }
6601         switch (type) {
6602             /* case SVt_INVLIST: */
6603         case SVt_PVIO:
6604             if (IoIFP(sv) &&
6605                 IoIFP(sv) != PerlIO_stdin() &&
6606                 IoIFP(sv) != PerlIO_stdout() &&
6607                 IoIFP(sv) != PerlIO_stderr() &&
6608                 !(IoFLAGS(sv) & IOf_FAKE_DIRP))
6609             {
6610                 io_close(MUTABLE_IO(sv), NULL, FALSE,
6611                          (IoTYPE(sv) == IoTYPE_WRONLY ||
6612                           IoTYPE(sv) == IoTYPE_RDWR   ||
6613                           IoTYPE(sv) == IoTYPE_APPEND));
6614             }
6615             if (IoDIRP(sv) && !(IoFLAGS(sv) & IOf_FAKE_DIRP))
6616                 PerlDir_close(IoDIRP(sv));
6617             IoDIRP(sv) = (DIR*)NULL;
6618             Safefree(IoTOP_NAME(sv));
6619             Safefree(IoFMT_NAME(sv));
6620             Safefree(IoBOTTOM_NAME(sv));
6621             if ((const GV *)sv == PL_statgv)
6622                 PL_statgv = NULL;
6623             goto freescalar;
6624         case SVt_REGEXP:
6625             /* FIXME for plugins */
6626           freeregexp:
6627             pregfree2((REGEXP*) sv);
6628             goto freescalar;
6629         case SVt_PVCV:
6630         case SVt_PVFM:
6631             cv_undef(MUTABLE_CV(sv));
6632             /* If we're in a stash, we don't own a reference to it.
6633              * However it does have a back reference to us, which needs to
6634              * be cleared.  */
6635             if ((stash = CvSTASH(sv)))
6636                 sv_del_backref(MUTABLE_SV(stash), sv);
6637             goto freescalar;
6638         case SVt_PVHV:
6639             if (PL_last_swash_hv == (const HV *)sv) {
6640                 PL_last_swash_hv = NULL;
6641             }
6642             if (HvTOTALKEYS((HV*)sv) > 0) {
6643                 const HEK *hek;
6644                 /* this statement should match the one at the beginning of
6645                  * hv_undef_flags() */
6646                 if (   PL_phase != PERL_PHASE_DESTRUCT
6647                     && (hek = HvNAME_HEK((HV*)sv)))
6648                 {
6649                     if (PL_stashcache) {
6650                         DEBUG_o(Perl_deb(aTHX_
6651                             "sv_clear clearing PL_stashcache for '%" HEKf
6652                             "'\n",
6653                              HEKfARG(hek)));
6654                         (void)hv_deletehek(PL_stashcache,
6655                                            hek, G_DISCARD);
6656                     }
6657                     hv_name_set((HV*)sv, NULL, 0, 0);
6658                 }
6659
6660                 /* save old iter_sv in unused SvSTASH field */
6661                 assert(!SvOBJECT(sv));
6662                 SvSTASH(sv) = (HV*)iter_sv;
6663                 iter_sv = sv;
6664
6665                 /* save old hash_index in unused SvMAGIC field */
6666                 assert(!SvMAGICAL(sv));
6667                 assert(!SvMAGIC(sv));
6668                 ((XPVMG*) SvANY(sv))->xmg_u.xmg_hash_index = hash_index;
6669                 hash_index = 0;
6670
6671                 next_sv = Perl_hfree_next_entry(aTHX_ (HV*)sv, &hash_index);
6672                 goto get_next_sv; /* process this new sv */
6673             }
6674             /* free empty hash */
6675             Perl_hv_undef_flags(aTHX_ MUTABLE_HV(sv), HV_NAME_SETALL);
6676             assert(!HvARRAY((HV*)sv));
6677             break;
6678         case SVt_PVAV:
6679             {
6680                 AV* av = MUTABLE_AV(sv);
6681                 if (PL_comppad == av) {
6682                     PL_comppad = NULL;
6683                     PL_curpad = NULL;
6684                 }
6685                 if (AvREAL(av) && AvFILLp(av) > -1) {
6686                     next_sv = AvARRAY(av)[AvFILLp(av)--];
6687                     /* save old iter_sv in top-most slot of AV,
6688                      * and pray that it doesn't get wiped in the meantime */
6689                     AvARRAY(av)[AvMAX(av)] = iter_sv;
6690                     iter_sv = sv;
6691                     goto get_next_sv; /* process this new sv */
6692                 }
6693                 Safefree(AvALLOC(av));
6694             }
6695
6696             break;
6697         case SVt_PVLV:
6698             if (LvTYPE(sv) == 'T') { /* for tie: return HE to pool */
6699                 SvREFCNT_dec(HeKEY_sv((HE*)LvTARG(sv)));
6700                 HeNEXT((HE*)LvTARG(sv)) = PL_hv_fetch_ent_mh;
6701                 PL_hv_fetch_ent_mh = (HE*)LvTARG(sv);
6702             }
6703             else if (LvTYPE(sv) != 't') /* unless tie: unrefcnted fake SV**  */
6704                 SvREFCNT_dec(LvTARG(sv));
6705             if (isREGEXP(sv)) goto freeregexp;
6706             /* FALLTHROUGH */
6707         case SVt_PVGV:
6708             if (isGV_with_GP(sv)) {
6709                 if(GvCVu((const GV *)sv) && (stash = GvSTASH(MUTABLE_GV(sv)))
6710                    && HvENAME_get(stash))
6711                     mro_method_changed_in(stash);
6712                 gp_free(MUTABLE_GV(sv));
6713                 if (GvNAME_HEK(sv))
6714                     unshare_hek(GvNAME_HEK(sv));
6715                 /* If we're in a stash, we don't own a reference to it.
6716                  * However it does have a back reference to us, which
6717                  * needs to be cleared.  */
6718                 if ((stash = GvSTASH(sv)))
6719                         sv_del_backref(MUTABLE_SV(stash), sv);
6720             }
6721             /* FIXME. There are probably more unreferenced pointers to SVs
6722              * in the interpreter struct that we should check and tidy in
6723              * a similar fashion to this:  */
6724             /* See also S_sv_unglob, which does the same thing. */
6725             if ((const GV *)sv == PL_last_in_gv)
6726                 PL_last_in_gv = NULL;
6727             else if ((const GV *)sv == PL_statgv)
6728                 PL_statgv = NULL;
6729             else if ((const GV *)sv == PL_stderrgv)
6730                 PL_stderrgv = NULL;
6731             /* FALLTHROUGH */
6732         case SVt_PVMG:
6733         case SVt_PVNV:
6734         case SVt_PVIV:
6735         case SVt_INVLIST:
6736         case SVt_PV:
6737           freescalar:
6738             /* Don't bother with SvOOK_off(sv); as we're only going to
6739              * free it.  */
6740             if (SvOOK(sv)) {
6741                 STRLEN offset;
6742                 SvOOK_offset(sv, offset);
6743                 SvPV_set(sv, SvPVX_mutable(sv) - offset);
6744                 /* Don't even bother with turning off the OOK flag.  */
6745             }
6746             if (SvROK(sv)) {
6747             free_rv:
6748                 {
6749                     SV * const target = SvRV(sv);
6750                     if (SvWEAKREF(sv))
6751                         sv_del_backref(target, sv);
6752                     else
6753                         next_sv = target;
6754                 }
6755             }
6756 #ifdef PERL_ANY_COW
6757             else if (SvPVX_const(sv)
6758                      && !(SvTYPE(sv) == SVt_PVIO
6759                      && !(IoFLAGS(sv) & IOf_FAKE_DIRP)))
6760             {
6761                 if (SvIsCOW(sv)) {
6762                     if (DEBUG_C_TEST) {
6763                         PerlIO_printf(Perl_debug_log, "Copy on write: clear\n");
6764                         sv_dump(sv);
6765                     }
6766                     if (SvLEN(sv)) {
6767                         if (CowREFCNT(sv)) {
6768                             sv_buf_to_rw(sv);
6769                             CowREFCNT(sv)--;
6770                             sv_buf_to_ro(sv);
6771                             SvLEN_set(sv, 0);
6772                         }
6773                     } else {
6774                         unshare_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sv)));
6775                     }
6776
6777                 }
6778                 if (SvLEN(sv)) {
6779                     Safefree(SvPVX_mutable(sv));
6780                 }
6781             }
6782 #else
6783             else if (SvPVX_const(sv) && SvLEN(sv)
6784                      && !(SvTYPE(sv) == SVt_PVIO
6785                      && !(IoFLAGS(sv) & IOf_FAKE_DIRP)))
6786                 Safefree(SvPVX_mutable(sv));
6787             else if (SvPVX_const(sv) && SvIsCOW(sv)) {
6788                 unshare_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sv)));
6789             }
6790 #endif
6791             break;
6792         case SVt_NV:
6793             break;
6794         }
6795
6796       free_body:
6797
6798         SvFLAGS(sv) &= SVf_BREAK;
6799         SvFLAGS(sv) |= SVTYPEMASK;
6800
6801         sv_type_details = bodies_by_type + type;
6802         if (sv_type_details->arena) {
6803             del_body(((char *)SvANY(sv) + sv_type_details->offset),
6804                      &PL_body_roots[type]);
6805         }
6806         else if (sv_type_details->body_size) {
6807             safefree(SvANY(sv));
6808         }
6809
6810       free_head:
6811         /* caller is responsible for freeing the head of the original sv */
6812         if (sv != orig_sv && !SvREFCNT(sv))
6813             del_SV(sv);
6814
6815         /* grab and free next sv, if any */
6816       get_next_sv:
6817         while (1) {
6818             sv = NULL;
6819             if (next_sv) {
6820                 sv = next_sv;
6821                 next_sv = NULL;
6822             }
6823             else if (!iter_sv) {
6824                 break;
6825             } else if (SvTYPE(iter_sv) == SVt_PVAV) {
6826                 AV *const av = (AV*)iter_sv;
6827                 if (AvFILLp(av) > -1) {
6828                     sv = AvARRAY(av)[AvFILLp(av)--];
6829                 }
6830                 else { /* no more elements of current AV to free */
6831                     sv = iter_sv;
6832                     type = SvTYPE(sv);
6833                     /* restore previous value, squirrelled away */
6834                     iter_sv = AvARRAY(av)[AvMAX(av)];
6835                     Safefree(AvALLOC(av));
6836                     goto free_body;
6837                 }
6838             } else if (SvTYPE(iter_sv) == SVt_PVHV) {
6839                 sv = Perl_hfree_next_entry(aTHX_ (HV*)iter_sv, &hash_index);
6840                 if (!sv && !HvTOTALKEYS((HV *)iter_sv)) {
6841                     /* no more elements of current HV to free */
6842                     sv = iter_sv;
6843                     type = SvTYPE(sv);
6844                     /* Restore previous values of iter_sv and hash_index,
6845                      * squirrelled away */
6846                     assert(!SvOBJECT(sv));
6847                     iter_sv = (SV*)SvSTASH(sv);
6848                     assert(!SvMAGICAL(sv));
6849                     hash_index = ((XPVMG*) SvANY(sv))->xmg_u.xmg_hash_index;
6850 #ifdef DEBUGGING
6851                     /* perl -DA does not like rubbish in SvMAGIC. */
6852                     SvMAGIC_set(sv, 0);
6853 #endif
6854
6855                     /* free any remaining detritus from the hash struct */
6856                     Perl_hv_undef_flags(aTHX_ MUTABLE_HV(sv), HV_NAME_SETALL);
6857                     assert(!HvARRAY((HV*)sv));
6858                     goto free_body;
6859                 }
6860             }
6861
6862             /* unrolled SvREFCNT_dec and sv_free2 follows: */
6863
6864             if (!sv)
6865                 continue;
6866             if (!SvREFCNT(sv)) {
6867                 sv_free(sv);
6868                 continue;
6869             }
6870             if (--(SvREFCNT(sv)))
6871                 continue;
6872 #ifdef DEBUGGING
6873             if (SvTEMP(sv)) {
6874                 Perl_ck_warner_d(aTHX_ packWARN(WARN_DEBUGGING),
6875                          "Attempt to free temp prematurely: SV 0x%" UVxf
6876                          pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
6877                 continue;
6878             }
6879 #endif
6880             if (SvIMMORTAL(sv)) {
6881                 /* make sure SvREFCNT(sv)==0 happens very seldom */
6882                 SvREFCNT(sv) = SvREFCNT_IMMORTAL;
6883                 continue;
6884             }
6885             break;
6886         } /* while 1 */
6887
6888     } /* while sv */
6889 }
6890
6891 /* This routine curses the sv itself, not the object referenced by sv. So
6892    sv does not have to be ROK. */
6893
6894 static bool
6895 S_curse(pTHX_ SV * const sv, const bool check_refcnt) {
6896     PERL_ARGS_ASSERT_CURSE;
6897     assert(SvOBJECT(sv));
6898
6899     if (PL_defstash &&  /* Still have a symbol table? */
6900         SvDESTROYABLE(sv))
6901     {
6902         dSP;
6903         HV* stash;
6904         do {
6905           stash = SvSTASH(sv);
6906           assert(SvTYPE(stash) == SVt_PVHV);
6907           if (HvNAME(stash)) {
6908             CV* destructor = NULL;
6909             struct mro_meta *meta;
6910
6911             assert (SvOOK(stash));
6912
6913             DEBUG_o( Perl_deb(aTHX_ "Looking for DESTROY method for %s\n",
6914                          HvNAME(stash)) );
6915
6916             /* don't make this an initialization above the assert, since it needs
6917                an AUX structure */
6918             meta = HvMROMETA(stash);
6919             if (meta->destroy_gen && meta->destroy_gen == PL_sub_generation) {
6920                 destructor = meta->destroy;
6921                 DEBUG_o( Perl_deb(aTHX_ "Using cached DESTROY method %p for %s\n",
6922                              (void *)destructor, HvNAME(stash)) );
6923             }
6924             else {
6925                 bool autoload = FALSE;
6926                 GV *gv =
6927                     gv_fetchmeth_pvn(stash, S_destroy, S_destroy_len, -1, 0);
6928                 if (gv)
6929                     destructor = GvCV(gv);
6930                 if (!destructor) {
6931                     gv = gv_autoload_pvn(stash, S_destroy, S_destroy_len,
6932                                          GV_AUTOLOAD_ISMETHOD);
6933                     if (gv)
6934                         destructor = GvCV(gv);
6935                     if (destructor)
6936                         autoload = TRUE;
6937                 }
6938                 /* we don't cache AUTOLOAD for DESTROY, since this code
6939                    would then need to set $__PACKAGE__::AUTOLOAD, or the
6940                    equivalent for XS AUTOLOADs */
6941                 if (!autoload) {
6942                     meta->destroy_gen = PL_sub_generation;
6943                     meta->destroy = destructor;
6944
6945                     DEBUG_o( Perl_deb(aTHX_ "Set cached DESTROY method %p for %s\n",
6946                                       (void *)destructor, HvNAME(stash)) );
6947                 }
6948                 else {
6949                     DEBUG_o( Perl_deb(aTHX_ "Not caching AUTOLOAD for DESTROY method for %s\n",
6950                                       HvNAME(stash)) );
6951                 }
6952             }
6953             assert(!destructor || SvTYPE(destructor) == SVt_PVCV);
6954             if (destructor
6955                 /* A constant subroutine can have no side effects, so
6956                    don't bother calling it.  */
6957                 && !CvCONST(destructor)
6958                 /* Don't bother calling an empty destructor or one that
6959                    returns immediately. */
6960                 && (CvISXSUB(destructor)
6961                 || (CvSTART(destructor)
6962                     && (CvSTART(destructor)->op_next->op_type
6963                                         != OP_LEAVESUB)
6964                     && (CvSTART(destructor)->op_next->op_type
6965                                         != OP_PUSHMARK
6966                         || CvSTART(destructor)->op_next->op_next->op_type
6967                                         != OP_RETURN
6968                        )
6969                    ))
6970                )
6971             {
6972                 SV* const tmpref = newRV(sv);
6973                 SvREADONLY_on(tmpref); /* DESTROY() could be naughty */
6974                 ENTER;
6975                 PUSHSTACKi(PERLSI_DESTROY);
6976                 EXTEND(SP, 2);
6977                 PUSHMARK(SP);
6978                 PUSHs(tmpref);
6979                 PUTBACK;
6980                 call_sv(MUTABLE_SV(destructor),
6981                             G_DISCARD|G_EVAL|G_KEEPERR|G_VOID);
6982                 POPSTACK;
6983                 SPAGAIN;
6984                 LEAVE;
6985                 if(SvREFCNT(tmpref) < 2) {
6986                     /* tmpref is not kept alive! */
6987                     SvREFCNT(sv)--;
6988                     SvRV_set(tmpref, NULL);
6989                     SvROK_off(tmpref);
6990                 }
6991                 SvREFCNT_dec_NN(tmpref);
6992             }
6993           }
6994         } while (SvOBJECT(sv) && SvSTASH(sv) != stash);
6995
6996
6997         if (check_refcnt && SvREFCNT(sv)) {
6998             if (PL_in_clean_objs)
6999                 Perl_croak(aTHX_
7000                   "DESTROY created new reference to dead object '%" HEKf "'",
7001                    HEKfARG(HvNAME_HEK(stash)));
7002             /* DESTROY gave object new lease on life */
7003             return FALSE;
7004         }
7005     }
7006
7007     if (SvOBJECT(sv)) {
7008         HV * const stash = SvSTASH(sv);
7009         /* Curse before freeing the stash, as freeing the stash could cause
7010            a recursive call into S_curse. */
7011         SvOBJECT_off(sv);       /* Curse the object. */
7012         SvSTASH_set(sv,0);      /* SvREFCNT_dec may try to read this */
7013         SvREFCNT_dec(stash); /* possibly of changed persuasion */
7014     }
7015     return TRUE;
7016 }
7017
7018 /*
7019 =for apidoc sv_newref
7020
7021 Increment an SV's reference count.  Use the C<SvREFCNT_inc()> wrapper
7022 instead.
7023
7024 =cut
7025 */
7026
7027 SV *
7028 Perl_sv_newref(pTHX_ SV *const sv)
7029 {
7030     PERL_UNUSED_CONTEXT;
7031     if (sv)
7032         (SvREFCNT(sv))++;
7033     return sv;
7034 }
7035
7036 /*
7037 =for apidoc sv_free
7038
7039 Decrement an SV's reference count, and if it drops to zero, call
7040 C<sv_clear> to invoke destructors and free up any memory used by
7041 the body; finally, deallocating the SV's head itself.
7042 Normally called via a wrapper macro C<SvREFCNT_dec>.
7043
7044 =cut
7045 */
7046
7047 void
7048 Perl_sv_free(pTHX_ SV *const sv)
7049 {
7050     SvREFCNT_dec(sv);
7051 }
7052
7053
7054 /* Private helper function for SvREFCNT_dec().
7055  * Called with rc set to original SvREFCNT(sv), where rc == 0 or 1 */
7056
7057 void
7058 Perl_sv_free2(pTHX_ SV *const sv, const U32 rc)
7059 {
7060     dVAR;
7061
7062     PERL_ARGS_ASSERT_SV_FREE2;
7063
7064     if (LIKELY( rc == 1 )) {
7065         /* normal case */
7066         SvREFCNT(sv) = 0;
7067
7068 #ifdef DEBUGGING
7069         if (SvTEMP(sv)) {
7070             Perl_ck_warner_d(aTHX_ packWARN(WARN_DEBUGGING),
7071                              "Attempt to free temp prematurely: SV 0x%" UVxf
7072                              pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
7073             return;
7074         }
7075 #endif
7076         if (SvIMMORTAL(sv)) {
7077             /* make sure SvREFCNT(sv)==0 happens very seldom */
7078             SvREFCNT(sv) = SvREFCNT_IMMORTAL;
7079             return;
7080         }
7081         sv_clear(sv);
7082         if (! SvREFCNT(sv)) /* may have have been resurrected */
7083             del_SV(sv);
7084         return;
7085     }
7086
7087     /* handle exceptional cases */
7088
7089     assert(rc == 0);
7090
7091     if (SvFLAGS(sv) & SVf_BREAK)
7092         /* this SV's refcnt has been artificially decremented to
7093          * trigger cleanup */
7094         return;
7095     if (PL_in_clean_all) /* All is fair */
7096         return;
7097     if (SvIMMORTAL(sv)) {
7098         /* make sure SvREFCNT(sv)==0 happens very seldom */
7099         SvREFCNT(sv) = SvREFCNT_IMMORTAL;
7100         return;
7101     }
7102     if (ckWARN_d(WARN_INTERNAL)) {
7103 #ifdef DEBUG_LEAKING_SCALARS_FORK_DUMP
7104         Perl_dump_sv_child(aTHX_ sv);
7105 #else
7106     #ifdef DEBUG_LEAKING_SCALARS
7107         sv_dump(sv);
7108     #endif
7109 #ifdef DEBUG_LEAKING_SCALARS_ABORT
7110         if (PL_warnhook == PERL_WARNHOOK_FATAL
7111             || ckDEAD(packWARN(WARN_INTERNAL))) {
7112             /* Don't let Perl_warner cause us to escape our fate:  */
7113             abort();
7114         }
7115 #endif
7116         /* This may not return:  */
7117         Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
7118                     "Attempt to free unreferenced scalar: SV 0x%" UVxf
7119                     pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
7120 #endif
7121     }
7122 #ifdef DEBUG_LEAKING_SCALARS_ABORT
7123     abort();
7124 #endif
7125
7126 }
7127
7128
7129 /*
7130 =for apidoc sv_len
7131
7132 Returns the length of the string in the SV.  Handles magic and type
7133 coercion and sets the UTF8 flag appropriately.  See also C<L</SvCUR>>, which
7134 gives raw access to the C<xpv_cur> slot.
7135
7136 =cut
7137 */
7138
7139 STRLEN
7140 Perl_sv_len(pTHX_ SV *const sv)
7141 {
7142     STRLEN len;
7143
7144     if (!sv)
7145         return 0;
7146
7147     (void)SvPV_const(sv, len);
7148     return len;
7149 }
7150
7151 /*
7152 =for apidoc sv_len_utf8
7153
7154 Returns the number of characters in the string in an SV, counting wide
7155 UTF-8 bytes as a single character.  Handles magic and type coercion.
7156
7157 =cut
7158 */
7159
7160 /*
7161  * The length is cached in PERL_MAGIC_utf8, in the mg_len field.  Also the
7162  * mg_ptr is used, by sv_pos_u2b() and sv_pos_b2u() - see the comments below.
7163  * (Note that the mg_len is not the length of the mg_ptr field.
7164  * This allows the cache to store the character length of the string without
7165  * needing to malloc() extra storage to attach to the mg_ptr.)
7166  *
7167  */
7168
7169 STRLEN
7170 Perl_sv_len_utf8(pTHX_ SV *const sv)
7171 {
7172     if (!sv)
7173         return 0;
7174
7175     SvGETMAGIC(sv);
7176     return sv_len_utf8_nomg(sv);
7177 }
7178
7179 STRLEN
7180 Perl_sv_len_utf8_nomg(pTHX_ SV * const sv)
7181 {
7182     STRLEN len;
7183     const U8 *s = (U8*)SvPV_nomg_const(sv, len);
7184
7185     PERL_ARGS_ASSERT_SV_LEN_UTF8_NOMG;
7186
7187     if (PL_utf8cache && SvUTF8(sv)) {
7188             STRLEN ulen;
7189             MAGIC *mg = SvMAGICAL(sv) ? mg_find(sv, PERL_MAGIC_utf8) : NULL;
7190
7191             if (mg && (mg->mg_len != -1 || mg->mg_ptr)) {
7192                 if (mg->mg_len != -1)
7193                     ulen = mg->mg_len;
7194                 else {
7195                     /* We can use the offset cache for a headstart.
7196                        The longer value is stored in the first pair.  */
7197                     STRLEN *cache = (STRLEN *) mg->mg_ptr;
7198
7199                     ulen = cache[0] + Perl_utf8_length(aTHX_ s + cache[1],
7200                                                        s + len);
7201                 }
7202                 
7203                 if (PL_utf8cache < 0) {
7204                     const STRLEN real = Perl_utf8_length(aTHX_ s, s + len);
7205                     assert_uft8_cache_coherent("sv_len_utf8", ulen, real, sv);
7206                 }
7207             }
7208             else {
7209                 ulen = Perl_utf8_length(aTHX_ s, s + len);
7210                 utf8_mg_len_cache_update(sv, &mg, ulen);
7211             }
7212             return ulen;
7213     }
7214     return SvUTF8(sv) ? Perl_utf8_length(aTHX_ s, s + len) : len;
7215 }
7216
7217 /* Walk forwards to find the byte corresponding to the passed in UTF-8
7218    offset.  */
7219 static STRLEN
7220 S_sv_pos_u2b_forwards(const U8 *const start, const U8 *const send,
7221                       STRLEN *const uoffset_p, bool *const at_end)
7222 {
7223     const U8 *s = start;
7224     STRLEN uoffset = *uoffset_p;
7225
7226     PERL_ARGS_ASSERT_SV_POS_U2B_FORWARDS;
7227
7228     while (s < send && uoffset) {
7229         --uoffset;
7230         s += UTF8SKIP(s);
7231     }
7232     if (s == send) {
7233         *at_end = TRUE;
7234     }
7235     else if (s > send) {
7236         *at_end = TRUE;
7237         /* This is the existing behaviour. Possibly it should be a croak, as
7238            it's actually a bounds error  */
7239         s = send;
7240     }
7241     *uoffset_p -= uoffset;
7242     return s - start;
7243 }
7244
7245 /* Given the length of the string in both bytes and UTF-8 characters, decide
7246    whether to walk forwards or backwards to find the byte corresponding to
7247    the passed in UTF-8 offset.  */
7248 static STRLEN
7249 S_sv_pos_u2b_midway(const U8 *const start, const U8 *send,
7250                     STRLEN uoffset, const STRLEN uend)
7251 {
7252     STRLEN backw = uend - uoffset;
7253
7254     PERL_ARGS_ASSERT_SV_POS_U2B_MIDWAY;
7255
7256     if (uoffset < 2 * backw) {
7257         /* The assumption is that going forwards is twice the speed of going
7258            forward (that's where the 2 * backw comes from).
7259            (The real figure of course depends on the UTF-8 data.)  */
7260         const U8 *s = start;
7261
7262         while (s < send && uoffset--)
7263             s += UTF8SKIP(s);
7264         assert (s <= send);
7265         if (s > send)
7266             s = send;
7267         return s - start;
7268     }
7269
7270     while (backw--) {
7271         send--;
7272         while (UTF8_IS_CONTINUATION(*send))
7273             send--;
7274     }
7275     return send - start;
7276 }
7277
7278 /* For the string representation of the given scalar, find the byte
7279    corresponding to the passed in UTF-8 offset.  uoffset0 and boffset0
7280    give another position in the string, *before* the sought offset, which
7281    (which is always true, as 0, 0 is a valid pair of positions), which should
7282    help reduce the amount of linear searching.
7283    If *mgp is non-NULL, it should point to the UTF-8 cache magic, which
7284    will be used to reduce the amount of linear searching. The cache will be
7285    created if necessary, and the found value offered to it for update.  */
7286 static STRLEN
7287 S_sv_pos_u2b_cached(pTHX_ SV *const sv, MAGIC **const mgp, const U8 *const start,
7288                     const U8 *const send, STRLEN uoffset,
7289                     STRLEN uoffset0, STRLEN boffset0)
7290 {
7291     STRLEN boffset = 0; /* Actually always set, but let's keep gcc happy.  */
7292     bool found = FALSE;
7293     bool at_end = FALSE;
7294
7295     PERL_ARGS_ASSERT_SV_POS_U2B_CACHED;
7296
7297     assert (uoffset >= uoffset0);
7298
7299     if (!uoffset)
7300         return 0;
7301
7302     if (!SvREADONLY(sv) && !SvGMAGICAL(sv) && SvPOK(sv)
7303         && PL_utf8cache
7304         && (*mgp || (SvTYPE(sv) >= SVt_PVMG &&
7305                      (*mgp = mg_find(sv, PERL_MAGIC_utf8))))) {
7306         if ((*mgp)->mg_ptr) {
7307             STRLEN *cache = (STRLEN *) (*mgp)->mg_ptr;
7308             if (cache[0] == uoffset) {
7309                 /* An exact match. */
7310                 return cache[1];
7311             }
7312             if (cache[2] == uoffset) {
7313                 /* An exact match. */
7314                 return cache[3];
7315             }
7316
7317             if (cache[0] < uoffset) {
7318                 /* The cache already knows part of the way.   */
7319                 if (cache[0] > uoffset0) {
7320                     /* The cache knows more than the passed in pair  */
7321                     uoffset0 = cache[0];
7322                     boffset0 = cache[1];
7323                 }
7324                 if ((*mgp)->mg_len != -1) {
7325                     /* And we know the end too.  */
7326                     boffset = boffset0
7327                         + sv_pos_u2b_midway(start + boffset0, send,
7328                                               uoffset - uoffset0,
7329                                               (*mgp)->mg_len - uoffset0);
7330                 } else {
7331                     uoffset -= uoffset0;
7332                     boffset = boffset0
7333                         + sv_pos_u2b_forwards(start + boffset0,
7334                                               send, &uoffset, &at_end);
7335                     uoffset += uoffset0;
7336                 }
7337             }
7338             else if (cache[2] < uoffset) {
7339                 /* We're between the two cache entries.  */
7340                 if (cache[2] > uoffset0) {
7341                     /* and the cache knows more than the passed in pair  */
7342                     uoffset0 = cache[2];
7343                     boffset0 = cache[3];
7344                 }
7345
7346                 boffset = boffset0
7347                     + sv_pos_u2b_midway(start + boffset0,
7348                                           start + cache[1],
7349                                           uoffset - uoffset0,
7350                                           cache[0] - uoffset0);
7351             } else {
7352                 boffset = boffset0
7353                     + sv_pos_u2b_midway(start + boffset0,
7354                                           start + cache[3],
7355                                           uoffset - uoffset0,
7356                                           cache[2] - uoffset0);
7357             }
7358             found = TRUE;
7359         }
7360         else if ((*mgp)->mg_len != -1) {
7361             /* If we can take advantage of a passed in offset, do so.  */
7362             /* In fact, offset0 is either 0, or less than offset, so don't
7363                need to worry about the other possibility.  */
7364             boffset = boffset0
7365                 + sv_pos_u2b_midway(start + boffset0, send,
7366                                       uoffset - uoffset0,
7367                                       (*mgp)->mg_len - uoffset0);
7368             found = TRUE;
7369         }
7370     }
7371
7372     if (!found || PL_utf8cache < 0) {
7373         STRLEN real_boffset;
7374         uoffset -= uoffset0;
7375         real_boffset = boffset0 + sv_pos_u2b_forwards(start + boffset0,
7376                                                       send, &uoffset, &at_end);
7377         uoffset += uoffset0;
7378
7379         if (found && PL_utf8cache < 0)
7380             assert_uft8_cache_coherent("sv_pos_u2b_cache", boffset,
7381                                        real_boffset, sv);
7382         boffset = real_boffset;
7383     }
7384
7385     if (PL_utf8cache && !SvGMAGICAL(sv) && SvPOK(sv)) {
7386         if (at_end)
7387             utf8_mg_len_cache_update(sv, mgp, uoffset);
7388         else
7389             utf8_mg_pos_cache_update(sv, mgp, boffset, uoffset, send - start);
7390     }
7391     return boffset;
7392 }
7393
7394
7395 /*
7396 =for apidoc sv_pos_u2b_flags
7397
7398 Converts the offset from a count of UTF-8 chars from
7399 the start of the string, to a count of the equivalent number of bytes; if
7400 C<lenp> is non-zero, it does the same to C<lenp>, but this time starting from
7401 C<offset>, rather than from the start
7402 of the string.  Handles type coercion.
7403 C<flags> is passed to C<SvPV_flags>, and usually should be
7404 C<SV_GMAGIC|SV_CONST_RETURN> to handle magic.
7405
7406 =cut
7407 */
7408
7409 /*
7410  * sv_pos_u2b_flags() uses, like sv_pos_b2u(), the mg_ptr of the potential
7411  * PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8 and
7412  * byte offsets.  See also the comments of S_utf8_mg_pos_cache_update().
7413  *
7414  */
7415
7416 STRLEN
7417 Perl_sv_pos_u2b_flags(pTHX_ SV *const sv, STRLEN uoffset, STRLEN *const lenp,
7418                       U32 flags)
7419 {
7420     const U8 *start;
7421     STRLEN len;
7422     STRLEN boffset;
7423
7424     PERL_ARGS_ASSERT_SV_POS_U2B_FLAGS;
7425
7426     start = (U8*)SvPV_flags(sv, len, flags);
7427     if (len) {
7428         const U8 * const send = start + len;
7429         MAGIC *mg = NULL;
7430         boffset = sv_pos_u2b_cached(sv, &mg, start, send, uoffset, 0, 0);
7431
7432         if (lenp
7433             && *lenp /* don't bother doing work for 0, as its bytes equivalent
7434                         is 0, and *lenp is already set to that.  */) {
7435             /* Convert the relative offset to absolute.  */
7436             const STRLEN uoffset2 = uoffset + *lenp;
7437             const STRLEN boffset2
7438                 = sv_pos_u2b_cached(sv, &mg, start, send, uoffset2,
7439                                       uoffset, boffset) - boffset;
7440
7441             *lenp = boffset2;
7442         }
7443     } else {
7444         if (lenp)
7445             *lenp = 0;
7446         boffset = 0;
7447     }
7448
7449     return boffset;
7450 }
7451
7452 /*
7453 =for apidoc sv_pos_u2b
7454
7455 Converts the value pointed to by C<offsetp> from a count of UTF-8 chars from
7456 the start of the string, to a count of the equivalent number of bytes; if
7457 C<lenp> is non-zero, it does the same to C<lenp>, but this time starting from
7458 the offset, rather than from the start of the string.  Handles magic and
7459 type coercion.
7460
7461 Use C<sv_pos_u2b_flags> in preference, which correctly handles strings longer
7462 than 2Gb.
7463
7464 =cut
7465 */
7466
7467 /*
7468  * sv_pos_u2b() uses, like sv_pos_b2u(), the mg_ptr of the potential
7469  * PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8 and
7470  * byte offsets.  See also the comments of S_utf8_mg_pos_cache_update().
7471  *
7472  */
7473
7474 /* This function is subject to size and sign problems */
7475
7476 void
7477 Perl_sv_pos_u2b(pTHX_ SV *const sv, I32 *const offsetp, I32 *const lenp)
7478 {
7479     PERL_ARGS_ASSERT_SV_POS_U2B;
7480
7481     if (lenp) {
7482         STRLEN ulen = (STRLEN)*lenp;
7483         *offsetp = (I32)sv_pos_u2b_flags(sv, (STRLEN)*offsetp, &ulen,
7484                                          SV_GMAGIC|SV_CONST_RETURN);
7485         *lenp = (I32)ulen;
7486     } else {
7487         *offsetp = (I32)sv_pos_u2b_flags(sv, (STRLEN)*offsetp, NULL,
7488                                          SV_GMAGIC|SV_CONST_RETURN);
7489     }
7490 }
7491
7492 static void
7493 S_utf8_mg_len_cache_update(pTHX_ SV *const sv, MAGIC **const mgp,
7494                            const STRLEN ulen)
7495 {
7496     PERL_ARGS_ASSERT_UTF8_MG_LEN_CACHE_UPDATE;
7497     if (SvREADONLY(sv) || SvGMAGICAL(sv) || !SvPOK(sv))
7498         return;
7499
7500     if (!*mgp && (SvTYPE(sv) < SVt_PVMG ||
7501                   !(*mgp = mg_find(sv, PERL_MAGIC_utf8)))) {
7502         *mgp = sv_magicext(sv, 0, PERL_MAGIC_utf8, &PL_vtbl_utf8, 0, 0);
7503     }
7504     assert(*mgp);
7505
7506     (*mgp)->mg_len = ulen;
7507 }
7508
7509 /* Create and update the UTF8 magic offset cache, with the proffered utf8/
7510    byte length pairing. The (byte) length of the total SV is passed in too,
7511    as blen, because for some (more esoteric) SVs, the call to SvPV_const()
7512    may not have updated SvCUR, so we can't rely on reading it directly.
7513
7514    The proffered utf8/byte length pairing isn't used if the cache already has
7515    two pairs, and swapping either for the proffered pair would increase the
7516    RMS of the intervals between known byte offsets.
7517
7518    The cache itself consists of 4 STRLEN values
7519    0: larger UTF-8 offset
7520    1: corresponding byte offset
7521    2: smaller UTF-8 offset
7522    3: corresponding byte offset
7523
7524    Unused cache pairs have the value 0, 0.
7525    Keeping the cache "backwards" means that the invariant of
7526    cache[0] >= cache[2] is maintained even with empty slots, which means that
7527    the code that uses it doesn't need to worry if only 1 entry has actually
7528    been set to non-zero.  It also makes the "position beyond the end of the
7529    cache" logic much simpler, as the first slot is always the one to start
7530    from.   
7531 */
7532 static void
7533 S_utf8_mg_pos_cache_update(pTHX_ SV *const sv, MAGIC **const mgp, const STRLEN byte,
7534                            const STRLEN utf8, const STRLEN blen)
7535 {
7536     STRLEN *cache;
7537
7538     PERL_ARGS_ASSERT_UTF8_MG_POS_CACHE_UPDATE;
7539
7540     if (SvREADONLY(sv))
7541         return;
7542
7543     if (!*mgp && (SvTYPE(sv) < SVt_PVMG ||
7544                   !(*mgp = mg_find(sv, PERL_MAGIC_utf8)))) {
7545         *mgp = sv_magicext(sv, 0, PERL_MAGIC_utf8, (MGVTBL*)&PL_vtbl_utf8, 0,
7546                            0);
7547         (*mgp)->mg_len = -1;
7548     }
7549     assert(*mgp);
7550
7551     if (!(cache = (STRLEN *)(*mgp)->mg_ptr)) {
7552         Newxz(cache, PERL_MAGIC_UTF8_CACHESIZE * 2, STRLEN);
7553         (*mgp)->mg_ptr = (char *) cache;
7554     }
7555     assert(cache);
7556
7557     if (PL_utf8cache < 0 && SvPOKp(sv)) {
7558         /* SvPOKp() because, if sv is a reference, then SvPVX() is actually
7559            a pointer.  Note that we no longer cache utf8 offsets on refer-
7560            ences, but this check is still a good idea, for robustness.  */
7561         const U8 *start = (const U8 *) SvPVX_const(sv);
7562         const STRLEN realutf8 = utf8_length(start, start + byte);
7563
7564         assert_uft8_cache_coherent("utf8_mg_pos_cache_update", utf8, realutf8,
7565                                    sv);
7566     }
7567
7568     /* Cache is held with the later position first, to simplify the code
7569        that deals with unbounded ends.  */
7570        
7571     ASSERT_UTF8_CACHE(cache);
7572     if (cache[1] == 0) {
7573         /* Cache is totally empty  */
7574         cache[0] = utf8;
7575         cache[1] = byte;
7576     } else if (cache[3] == 0) {
7577         if (byte > cache[1]) {
7578             /* New one is larger, so goes first.  */
7579             cache[2] = cache[0];
7580             cache[3] = cache[1];
7581             cache[0] = utf8;
7582             cache[1] = byte;
7583         } else {
7584             cache[2] = utf8;
7585             cache[3] = byte;
7586         }
7587     } else {
7588 /* float casts necessary? XXX */
7589 #define THREEWAY_SQUARE(a,b,c,d) \
7590             ((float)((d) - (c))) * ((float)((d) - (c))) \
7591             + ((float)((c) - (b))) * ((float)((c) - (b))) \
7592                + ((float)((b) - (a))) * ((float)((b) - (a)))
7593
7594         /* Cache has 2 slots in use, and we know three potential pairs.
7595            Keep the two that give the lowest RMS distance. Do the
7596            calculation in bytes simply because we always know the byte
7597            length.  squareroot has the same ordering as the positive value,
7598            so don't bother with the actual square root.  */
7599         if (byte > cache[1]) {
7600             /* New position is after the existing pair of pairs.  */
7601             const float keep_earlier
7602                 = THREEWAY_SQUARE(0, cache[3], byte, blen);
7603             const float keep_later
7604                 = THREEWAY_SQUARE(0, cache[1], byte, blen);
7605
7606             if (keep_later < keep_earlier) {
7607                 cache[2] = cache[0];
7608                 cache[3] = cache[1];
7609             }
7610             cache[0] = utf8;
7611             cache[1] = byte;
7612         }
7613         else {
7614             const float keep_later = THREEWAY_SQUARE(0, byte, cache[1], blen);
7615             float b, c, keep_earlier;
7616             if (byte > cache[3]) {
7617                 /* New position is between the existing pair of pairs.  */
7618                 b = (float)cache[3];
7619                 c = (float)byte;
7620             } else {
7621                 /* New position is before the existing pair of pairs.  */
7622                 b = (float)byte;
7623                 c = (float)cache[3];
7624             }
7625             keep_earlier = THREEWAY_SQUARE(0, b, c, blen);
7626             if (byte > cache[3]) {
7627                 if (keep_later < keep_earlier) {
7628                     cache[2] = utf8;
7629                     cache[3] = byte;
7630                 }
7631                 else {
7632                     cache[0] = utf8;
7633                     cache[1] = byte;
7634                 }
7635             }
7636             else {
7637                 if (! (keep_later < keep_earlier)) {
7638                     cache[0] = cache[2];
7639                     cache[1] = cache[3];
7640                 }
7641                 cache[2] = utf8;
7642                 cache[3] = byte;
7643             }
7644         }
7645     }
7646     ASSERT_UTF8_CACHE(cache);
7647 }
7648
7649 /* We already know all of the way, now we may be able to walk back.  The same
7650    assumption is made as in S_sv_pos_u2b_midway(), namely that walking
7651    backward is half the speed of walking forward. */
7652 static STRLEN
7653 S_sv_pos_b2u_midway(pTHX_ const U8 *const s, const U8 *const target,
7654                     const U8 *end, STRLEN endu)
7655 {
7656     const STRLEN forw = target - s;
7657     STRLEN backw = end - target;
7658
7659     PERL_ARGS_ASSERT_SV_POS_B2U_MIDWAY;
7660
7661     if (forw < 2 * backw) {
7662         return utf8_length(s, target);
7663     }
7664
7665     while (end > target) {
7666         end--;
7667         while (UTF8_IS_CONTINUATION(*end)) {
7668             end--;
7669         }
7670         endu--;
7671     }
7672     return endu;
7673 }
7674
7675 /*
7676 =for apidoc sv_pos_b2u_flags
7677
7678 Converts C<offset> from a count of bytes from the start of the string, to
7679 a count of the equivalent number of UTF-8 chars.  Handles type coercion.
7680 C<flags> is passed to C<SvPV_flags>, and usually should be
7681 C<SV_GMAGIC|SV_CONST_RETURN> to handle magic.
7682
7683 =cut
7684 */
7685
7686 /*
7687  * sv_pos_b2u_flags() uses, like sv_pos_u2b_flags(), the mg_ptr of the
7688  * potential PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8
7689  * and byte offsets.
7690  *
7691  */
7692 STRLEN
7693 Perl_sv_pos_b2u_flags(pTHX_ SV *const sv, STRLEN const offset, U32 flags)
7694 {
7695     const U8* s;
7696     STRLEN len = 0; /* Actually always set, but let's keep gcc happy.  */
7697     STRLEN blen;
7698     MAGIC* mg = NULL;
7699     const U8* send;
7700     bool found = FALSE;
7701
7702     PERL_ARGS_ASSERT_SV_POS_B2U_FLAGS;
7703
7704     s = (const U8*)SvPV_flags(sv, blen, flags);
7705
7706     if (blen < offset)
7707         Perl_croak(aTHX_ "panic: sv_pos_b2u: bad byte offset, blen=%" UVuf
7708                    ", byte=%" UVuf, (UV)blen, (UV)offset);
7709
7710     send = s + offset;
7711
7712     if (!SvREADONLY(sv)
7713         && PL_utf8cache
7714         && SvTYPE(sv) >= SVt_PVMG
7715         && (mg = mg_find(sv, PERL_MAGIC_utf8)))
7716     {
7717         if (mg->mg_ptr) {
7718             STRLEN * const cache = (STRLEN *) mg->mg_ptr;
7719             if (cache[1] == offset) {
7720                 /* An exact match. */
7721                 return cache[0];
7722             }
7723             if (cache[3] == offset) {
7724                 /* An exact match. */
7725                 return cache[2];
7726             }
7727
7728             if (cache[1] < offset) {
7729                 /* We already know part of the way. */
7730                 if (mg->mg_len != -1) {
7731                     /* Actually, we know the end too.  */
7732                     len = cache[0]
7733                         + S_sv_pos_b2u_midway(aTHX_ s + cache[1], send,
7734                                               s + blen, mg->mg_len - cache[0]);
7735                 } else {
7736                     len = cache[0] + utf8_length(s + cache[1], send);
7737                 }
7738             }
7739             else if (cache[3] < offset) {
7740                 /* We're between the two cached pairs, so we do the calculation
7741                    offset by the byte/utf-8 positions for the earlier pair,
7742                    then add the utf-8 characters from the string start to
7743                    there.  */
7744                 len = S_sv_pos_b2u_midway(aTHX_ s + cache[3], send,
7745                                           s + cache[1], cache[0] - cache[2])
7746                     + cache[2];
7747
7748             }
7749             else { /* cache[3] > offset */
7750                 len = S_sv_pos_b2u_midway(aTHX_ s, send, s + cache[3],
7751                                           cache[2]);
7752
7753             }
7754             ASSERT_UTF8_CACHE(cache);
7755             found = TRUE;
7756         } else if (mg->mg_len != -1) {
7757             len = S_sv_pos_b2u_midway(aTHX_ s, send, s + blen, mg->mg_len);
7758             found = TRUE;
7759         }
7760     }
7761     if (!found || PL_utf8cache < 0) {
7762         const STRLEN real_len = utf8_length(s, send);
7763
7764         if (found && PL_utf8cache < 0)
7765             assert_uft8_cache_coherent("sv_pos_b2u", len, real_len, sv);
7766         len = real_len;
7767     }
7768
7769     if (PL_utf8cache) {
7770         if (blen == offset)
7771             utf8_mg_len_cache_update(sv, &mg, len);
7772         else
7773             utf8_mg_pos_cache_update(sv, &mg, offset, len, blen);
7774     }
7775
7776     return len;
7777 }
7778
7779 /*
7780 =for apidoc sv_pos_b2u
7781
7782 Converts the value pointed to by C<offsetp> from a count of bytes from the
7783 start of the string, to a count of the equivalent number of UTF-8 chars.
7784 Handles magic and type coercion.
7785
7786 Use C<sv_pos_b2u_flags> in preference, which correctly handles strings
7787 longer than 2Gb.
7788
7789 =cut
7790 */
7791
7792 /*
7793  * sv_pos_b2u() uses, like sv_pos_u2b(), the mg_ptr of the potential
7794  * PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8 and
7795  * byte offsets.
7796  *
7797  */
7798 void
7799 Perl_sv_pos_b2u(pTHX_ SV *const sv, I32 *const offsetp)
7800 {
7801     PERL_ARGS_ASSERT_SV_POS_B2U;
7802
7803     if (!sv)
7804         return;
7805
7806     *offsetp = (I32)sv_pos_b2u_flags(sv, (STRLEN)*offsetp,
7807                                      SV_GMAGIC|SV_CONST_RETURN);
7808 }
7809
7810 static void
7811 S_assert_uft8_cache_coherent(pTHX_ const char *const func, STRLEN from_cache,
7812                              STRLEN real, SV *const sv)
7813 {
7814     PERL_ARGS_ASSERT_ASSERT_UFT8_CACHE_COHERENT;
7815
7816     /* As this is debugging only code, save space by keeping this test here,
7817        rather than inlining it in all the callers.  */
7818     if (from_cache == real)
7819         return;
7820
7821     /* Need to turn the assertions off otherwise we may recurse infinitely
7822        while printing error messages.  */
7823     SAVEI8(PL_utf8cache);
7824     PL_utf8cache = 0;
7825     Perl_croak(aTHX_ "panic: %s cache %" UVuf " real %" UVuf " for %" SVf,
7826                func, (UV) from_cache, (UV) real, SVfARG(sv));
7827 }
7828
7829 /*
7830 =for apidoc sv_eq
7831
7832 Returns a boolean indicating whether the strings in the two SVs are
7833 identical.  Is UTF-8 and S<C<'use bytes'>> aware, handles get magic, and will
7834 coerce its args to strings if necessary.
7835
7836 =for apidoc sv_eq_flags
7837
7838 Returns a boolean indicating whether the strings in the two SVs are
7839 identical.  Is UTF-8 and S<C<'use bytes'>> aware and coerces its args to strings
7840 if necessary.  If the flags has the C<SV_GMAGIC> bit set, it handles get-magic, too.
7841
7842 =cut
7843 */
7844
7845 I32
7846 Perl_sv_eq_flags(pTHX_ SV *sv1, SV *sv2, const U32 flags)
7847 {
7848     const char *pv1;
7849     STRLEN cur1;
7850     const char *pv2;
7851     STRLEN cur2;
7852     I32  eq     = 0;
7853     SV* svrecode = NULL;
7854
7855     if (!sv1) {
7856         pv1 = "";
7857         cur1 = 0;
7858     }
7859     else {
7860         /* if pv1 and pv2 are the same, second SvPV_const call may
7861          * invalidate pv1 (if we are handling magic), so we may need to
7862          * make a copy */
7863         if (sv1 == sv2 && flags & SV_GMAGIC
7864          && (SvTHINKFIRST(sv1) || SvGMAGICAL(sv1))) {
7865             pv1 = SvPV_const(sv1, cur1);
7866             sv1 = newSVpvn_flags(pv1, cur1, SVs_TEMP | SvUTF8(sv2));
7867         }
7868         pv1 = SvPV_flags_const(sv1, cur1, flags);
7869     }
7870
7871     if (!sv2){
7872         pv2 = "";
7873         cur2 = 0;
7874     }
7875     else
7876         pv2 = SvPV_flags_const(sv2, cur2, flags);
7877
7878     if (cur1 && cur2 && SvUTF8(sv1) != SvUTF8(sv2) && !IN_BYTES) {
7879         /* Differing utf8ness.  */
7880         if (SvUTF8(sv1)) {
7881                   /* sv1 is the UTF-8 one  */
7882                   return bytes_cmp_utf8((const U8*)pv2, cur2,
7883                                         (const U8*)pv1, cur1) == 0;
7884         }
7885         else {
7886                   /* sv2 is the UTF-8 one  */
7887                   return bytes_cmp_utf8((const U8*)pv1, cur1,
7888                                         (const U8*)pv2, cur2) == 0;
7889         }
7890     }
7891
7892     if (cur1 == cur2)
7893         eq = (pv1 == pv2) || memEQ(pv1, pv2, cur1);
7894         
7895     SvREFCNT_dec(svrecode);
7896
7897     return eq;
7898 }
7899
7900 /*
7901 =for apidoc sv_cmp
7902
7903 Compares the strings in two SVs.  Returns -1, 0, or 1 indicating whether the
7904 string in C<sv1> is less than, equal to, or greater than the string in
7905 C<sv2>.  Is UTF-8 and S<C<'use bytes'>> aware, handles get magic, and will
7906 coerce its args to strings if necessary.  See also C<L</sv_cmp_locale>>.
7907
7908 =for apidoc sv_cmp_flags
7909
7910 Compares the strings in two SVs.  Returns -1, 0, or 1 indicating whether the
7911 string in C<sv1> is less than, equal to, or greater than the string in
7912 C<sv2>.  Is UTF-8 and S<C<'use bytes'>> aware and will coerce its args to strings
7913 if necessary.  If the flags has the C<SV_GMAGIC> bit set, it handles get magic.  See
7914 also C<L</sv_cmp_locale_flags>>.
7915
7916 =cut
7917 */
7918
7919 I32
7920 Perl_sv_cmp(pTHX_ SV *const sv1, SV *const sv2)
7921 {
7922     return sv_cmp_flags(sv1, sv2, SV_GMAGIC);
7923 }
7924
7925 I32
7926 Perl_sv_cmp_flags(pTHX_ SV *const sv1, SV *const sv2,
7927                   const U32 flags)
7928 {
7929     STRLEN cur1, cur2;
7930     const char *pv1, *pv2;
7931     I32  cmp;
7932     SV *svrecode = NULL;
7933
7934     if (!sv1) {
7935         pv1 = "";
7936         cur1 = 0;
7937     }
7938     else
7939         pv1 = SvPV_flags_const(sv1, cur1, flags);
7940
7941     if (!sv2) {
7942         pv2 = "";
7943         cur2 = 0;
7944     }
7945     else
7946         pv2 = SvPV_flags_const(sv2, cur2, flags);
7947
7948     if (cur1 && cur2 && SvUTF8(sv1) != SvUTF8(sv2) && !IN_BYTES) {
7949         /* Differing utf8ness.  */
7950         if (SvUTF8(sv1)) {
7951                 const int retval = -bytes_cmp_utf8((const U8*)pv2, cur2,
7952                                                    (const U8*)pv1, cur1);
7953                 return retval ? retval < 0 ? -1 : +1 : 0;
7954         }
7955         else {
7956                 const int retval = bytes_cmp_utf8((const U8*)pv1, cur1,
7957                                                   (const U8*)pv2, cur2);
7958                 return retval ? retval < 0 ? -1 : +1 : 0;
7959         }
7960     }
7961
7962     /* Here, if both are non-NULL, then they have the same UTF8ness. */
7963
7964     if (!cur1) {
7965         cmp = cur2 ? -1 : 0;
7966     } else if (!cur2) {
7967         cmp = 1;
7968     } else {
7969         STRLEN shortest_len = cur1 < cur2 ? cur1 : cur2;
7970
7971 #ifdef EBCDIC
7972         if (! DO_UTF8(sv1)) {
7973 #endif
7974             const I32 retval = memcmp((const void*)pv1,
7975                                       (const void*)pv2,
7976                                       shortest_len);
7977             if (retval) {
7978                 cmp = retval < 0 ? -1 : 1;
7979             } else if (cur1 == cur2) {
7980                 cmp = 0;
7981             } else {
7982                 cmp = cur1 < cur2 ? -1 : 1;
7983             }
7984 #ifdef EBCDIC
7985         }
7986         else {  /* Both are to be treated as UTF-EBCDIC */
7987
7988             /* EBCDIC UTF-8 is complicated by the fact that it is based on I8
7989              * which remaps code points 0-255.  We therefore generally have to
7990              * unmap back to the original values to get an accurate comparison.
7991              * But we don't have to do that for UTF-8 invariants, as by
7992              * definition, they aren't remapped, nor do we have to do it for
7993              * above-latin1 code points, as they also aren't remapped.  (This
7994              * code also works on ASCII platforms, but the memcmp() above is
7995              * much faster). */
7996
7997             const char *e = pv1 + shortest_len;
7998
7999             /* Find the first bytes that differ between the two strings */
8000             while (pv1 < e && *pv1 == *pv2) {
8001                 pv1++;
8002                 pv2++;
8003             }
8004
8005
8006             if (pv1 == e) { /* Are the same all the way to the end */
8007                 if (cur1 == cur2) {
8008                     cmp = 0;
8009                 } else {
8010                     cmp = cur1 < cur2 ? -1 : 1;
8011                 }
8012             }
8013             else   /* Here *pv1 and *pv2 are not equal, but all bytes earlier
8014                     * in the strings were.  The current bytes may or may not be
8015                     * at the beginning of a character.  But neither or both are
8016                     * (or else earlier bytes would have been different).  And
8017                     * if we are in the middle of a character, the two
8018                     * characters are comprised of the same number of bytes
8019                     * (because in this case the start bytes are the same, and
8020                     * the start bytes encode the character's length). */
8021                  if (UTF8_IS_INVARIANT(*pv1))
8022             {
8023                 /* If both are invariants; can just compare directly */
8024                 if (UTF8_IS_INVARIANT(*pv2)) {
8025                     cmp = ((U8) *pv1 < (U8) *pv2) ? -1 : 1;
8026                 }
8027                 else   /* Since *pv1 is invariant, it is the whole character,
8028                           which means it is at the beginning of a character.
8029                           That means pv2 is also at the beginning of a
8030                           character (see earlier comment).  Since it isn't
8031                           invariant, it must be a start byte.  If it starts a
8032                           character whose code point is above 255, that
8033                           character is greater than any single-byte char, which
8034                           *pv1 is */
8035                       if (UTF8_IS_ABOVE_LATIN1_START(*pv2))
8036                 {
8037                     cmp = -1;
8038                 }
8039                 else {
8040                     /* Here, pv2 points to a character composed of 2 bytes
8041                      * whose code point is < 256.  Get its code point and
8042                      * compare with *pv1 */
8043                     cmp = ((U8) *pv1 < EIGHT_BIT_UTF8_TO_NATIVE(*pv2, *(pv2 + 1)))
8044                            ?  -1
8045                            : 1;
8046                 }
8047             }
8048             else   /* The code point starting at pv1 isn't a single byte */
8049                  if (UTF8_IS_INVARIANT(*pv2))
8050             {
8051                 /* But here, the code point starting at *pv2 is a single byte,
8052                  * and so *pv1 must begin a character, hence is a start byte.
8053                  * If that character is above 255, it is larger than any
8054                  * single-byte char, which *pv2 is */
8055                 if (UTF8_IS_ABOVE_LATIN1_START(*pv1)) {
8056                     cmp = 1;
8057                 }
8058                 else {
8059                     /* Here, pv1 points to a character composed of 2 bytes
8060                      * whose code point is < 256.  Get its code point and
8061                      * compare with the single byte character *pv2 */
8062                     cmp = (EIGHT_BIT_UTF8_TO_NATIVE(*pv1, *(pv1 + 1)) < (U8) *pv2)
8063                           ?  -1
8064                           : 1;
8065                 }
8066             }
8067             else   /* Here, we've ruled out either *pv1 and *pv2 being
8068                       invariant.  That means both are part of variants, but not
8069                       necessarily at the start of a character */
8070                  if (   UTF8_IS_ABOVE_LATIN1_START(*pv1)
8071                      || UTF8_IS_ABOVE_LATIN1_START(*pv2))
8072             {
8073                 /* Here, at least one is the start of a character, which means
8074                  * the other is also a start byte.  And the code point of at
8075                  * least one of the characters is above 255.  It is a
8076                  * characteristic of UTF-EBCDIC that all start bytes for
8077                  * above-latin1 code points are well behaved as far as code
8078                  * point comparisons go, and all are larger than all other
8079                  * start bytes, so the comparison with those is also well
8080                  * behaved */
8081                 cmp = ((U8) *pv1 < (U8) *pv2) ? -1 : 1;
8082             }
8083             else {
8084                 /* Here both *pv1 and *pv2 are part of variant characters.
8085                  * They could be both continuations, or both start characters.
8086                  * (One or both could even be an illegal start character (for
8087                  * an overlong) which for the purposes of sorting we treat as
8088                  * legal. */
8089                 if (UTF8_IS_CONTINUATION(*pv1)) {
8090
8091                     /* If they are continuations for code points above 255,
8092                      * then comparing the current byte is sufficient, as there
8093                      * is no remapping of these and so the comparison is
8094                      * well-behaved.   We determine if they are such
8095                      * continuations by looking at the preceding byte.  It
8096                      * could be a start byte, from which we can tell if it is
8097                      * for an above 255 code point.  Or it could be a
8098                      * continuation, which means the character occupies at
8099                      * least 3 bytes, so must be above 255.  */
8100                     if (   UTF8_IS_CONTINUATION(*(pv2 - 1))
8101                         || UTF8_IS_ABOVE_LATIN1_START(*(pv2 -1)))
8102                     {
8103                         cmp = ((U8) *pv1 < (U8) *pv2) ? -1 : 1;
8104                         goto cmp_done;
8105                     }
8106
8107                     /* Here, the continuations are for code points below 256;
8108                      * back up one to get to the start byte */
8109                     pv1--;
8110                     pv2--;
8111                 }
8112
8113                 /* We need to get the actual native code point of each of these
8114                  * variants in order to compare them */
8115                 cmp =  (  EIGHT_BIT_UTF8_TO_NATIVE(*pv1, *(pv1 + 1))
8116                         < EIGHT_BIT_UTF8_TO_NATIVE(*pv2, *(pv2 + 1)))
8117                         ? -1
8118                         : 1;
8119             }
8120         }
8121       cmp_done: ;
8122 #endif
8123     }
8124
8125     SvREFCNT_dec(svrecode);
8126
8127     return cmp;
8128 }
8129
8130 /*
8131 =for apidoc sv_cmp_locale
8132
8133 Compares the strings in two SVs in a locale-aware manner.  Is UTF-8 and
8134 S<C<'use bytes'>> aware, handles get magic, and will coerce its args to strings
8135 if necessary.  See also C<L</sv_cmp>>.
8136
8137 =for apidoc sv_cmp_locale_flags
8138
8139 Compares the strings in two SVs in a locale-aware manner.  Is UTF-8 and
8140 S<C<'use bytes'>> aware and will coerce its args to strings if necessary.  If
8141 the flags contain C<SV_GMAGIC>, it handles get magic.  See also
8142 C<L</sv_cmp_flags>>.
8143
8144 =cut
8145 */
8146
8147 I32
8148 Perl_sv_cmp_locale(pTHX_ SV *const sv1, SV *const sv2)
8149 {
8150     return sv_cmp_locale_flags(sv1, sv2, SV_GMAGIC);
8151 }
8152
8153 I32
8154 Perl_sv_cmp_locale_flags(pTHX_ SV *const sv1, SV *const sv2,
8155                          const U32 flags)
8156 {
8157 #ifdef USE_LOCALE_COLLATE
8158
8159     char *pv1, *pv2;
8160     STRLEN len1, len2;
8161     I32 retval;
8162
8163     if (PL_collation_standard)
8164         goto raw_compare;
8165
8166     len1 = len2 = 0;
8167
8168     /* Revert to using raw compare if both operands exist, but either one
8169      * doesn't transform properly for collation */
8170     if (sv1 && sv2) {
8171         pv1 = sv_collxfrm_flags(sv1, &len1, flags);
8172         if (! pv1) {
8173             goto raw_compare;
8174         }
8175         pv2 = sv_collxfrm_flags(sv2, &len2, flags);
8176         if (! pv2) {
8177             goto raw_compare;
8178         }
8179     }
8180     else {
8181         pv1 = sv1 ? sv_collxfrm_flags(sv1, &len1, flags) : (char *) NULL;
8182         pv2 = sv2 ? sv_collxfrm_flags(sv2, &len2, flags) : (char *) NULL;
8183     }
8184
8185     if (!pv1 || !len1) {
8186         if (pv2 && len2)
8187             return -1;
8188         else
8189             goto raw_compare;
8190     }
8191     else {
8192         if (!pv2 || !len2)
8193             return 1;
8194     }
8195
8196     retval = memcmp((void*)pv1, (void*)pv2, len1 < len2 ? len1 : len2);
8197
8198     if (retval)
8199         return retval < 0 ? -1 : 1;
8200
8201     /*
8202      * When the result of collation is equality, that doesn't mean
8203      * that there are no differences -- some locales exclude some
8204      * characters from consideration.  So to avoid false equalities,
8205      * we use the raw string as a tiebreaker.
8206      */
8207
8208   raw_compare:
8209     /* FALLTHROUGH */
8210
8211 #else
8212     PERL_UNUSED_ARG(flags);
8213 #endif /* USE_LOCALE_COLLATE */
8214
8215     return sv_cmp(sv1, sv2);
8216 }
8217
8218
8219 #ifdef USE_LOCALE_COLLATE
8220
8221 /*
8222 =for apidoc sv_collxfrm
8223
8224 This calls C<sv_collxfrm_flags> with the SV_GMAGIC flag.  See
8225 C<L</sv_collxfrm_flags>>.
8226
8227 =for apidoc sv_collxfrm_flags
8228
8229 Add Collate Transform magic to an SV if it doesn't already have it.  If the
8230 flags contain C<SV_GMAGIC>, it handles get-magic.
8231
8232 Any scalar variable may carry C<PERL_MAGIC_collxfrm> magic that contains the
8233 scalar data of the variable, but transformed to such a format that a normal
8234 memory comparison can be used to compare the data according to the locale
8235 settings.
8236
8237 =cut
8238 */
8239
8240 char *
8241 Perl_sv_collxfrm_flags(pTHX_ SV *const sv, STRLEN *const nxp, const I32 flags)
8242 {
8243     MAGIC *mg;
8244
8245     PERL_ARGS_ASSERT_SV_COLLXFRM_FLAGS;
8246
8247     mg = SvMAGICAL(sv) ? mg_find(sv, PERL_MAGIC_collxfrm) : (MAGIC *) NULL;
8248
8249     /* If we don't have collation magic on 'sv', or the locale has changed
8250      * since the last time we calculated it, get it and save it now */
8251     if (!mg || !mg->mg_ptr || *(U32*)mg->mg_ptr != PL_collation_ix) {
8252         const char *s;
8253         char *xf;
8254         STRLEN len, xlen;
8255
8256         /* Free the old space */
8257         if (mg)
8258             Safefree(mg->mg_ptr);
8259
8260         s = SvPV_flags_const(sv, len, flags);
8261         if ((xf = _mem_collxfrm(s, len, &xlen, cBOOL(SvUTF8(sv))))) {
8262             if (! mg) {
8263                 mg = sv_magicext(sv, 0, PERL_MAGIC_collxfrm, &PL_vtbl_collxfrm,
8264                                  0, 0);
8265                 assert(mg);
8266             }
8267             mg->mg_ptr = xf;
8268             mg->mg_len = xlen;
8269         }
8270         else {
8271             if (mg) {
8272                 mg->mg_ptr = NULL;
8273                 mg->mg_len = -1;
8274             }
8275         }
8276     }
8277
8278     if (mg && mg->mg_ptr) {
8279         *nxp = mg->mg_len;
8280         return mg->mg_ptr + sizeof(PL_collation_ix);
8281     }
8282     else {
8283         *nxp = 0;
8284         return NULL;
8285     }
8286 }
8287
8288 #endif /* USE_LOCALE_COLLATE */
8289
8290 static char *
8291 S_sv_gets_append_to_utf8(pTHX_ SV *const sv, PerlIO *const fp, I32 append)
8292 {
8293     SV * const tsv = newSV(0);
8294     ENTER;
8295     SAVEFREESV(tsv);
8296     sv_gets(tsv, fp, 0);
8297     sv_utf8_upgrade_nomg(tsv);
8298     SvCUR_set(sv,append);
8299     sv_catsv(sv,tsv);
8300     LEAVE;
8301     return (SvCUR(sv) - append) ? SvPVX(sv) : NULL;
8302 }
8303
8304 static char *
8305 S_sv_gets_read_record(pTHX_ SV *const sv, PerlIO *const fp, I32 append)
8306 {
8307     SSize_t bytesread;
8308     const STRLEN recsize = SvUV(SvRV(PL_rs)); /* RsRECORD() guarantees > 0. */
8309       /* Grab the size of the record we're getting */
8310     char *buffer = SvGROW(sv, (STRLEN)(recsize + append + 1)) + append;
8311     
8312     /* Go yank in */
8313 #ifdef __VMS
8314     int fd;
8315     Stat_t st;
8316
8317     /* With a true, record-oriented file on VMS, we need to use read directly
8318      * to ensure that we respect RMS record boundaries.  The user is responsible
8319      * for providing a PL_rs value that corresponds to the FAB$W_MRS (maximum
8320      * record size) field.  N.B. This is likely to produce invalid results on
8321      * varying-width character data when a record ends mid-character.
8322      */
8323     fd = PerlIO_fileno(fp);
8324     if (fd != -1
8325         && PerlLIO_fstat(fd, &st) == 0
8326         && (st.st_fab_rfm == FAB$C_VAR
8327             || st.st_fab_rfm == FAB$C_VFC
8328             || st.st_fab_rfm == FAB$C_FIX)) {
8329
8330         bytesread = PerlLIO_read(fd, buffer, recsize);
8331     }
8332     else /* in-memory file from PerlIO::Scalar
8333           * or not a record-oriented file
8334           */
8335 #endif
8336     {
8337         bytesread = PerlIO_read(fp, buffer, recsize);
8338
8339         /* At this point, the logic in sv_get() means that sv will
8340            be treated as utf-8 if the handle is utf8.
8341         */
8342         if (PerlIO_isutf8(fp) && bytesread > 0) {
8343             char *bend = buffer + bytesread;
8344             char *bufp = buffer;
8345             size_t charcount = 0;
8346             bool charstart = TRUE;
8347             STRLEN skip = 0;
8348
8349             while (charcount < recsize) {
8350                 /* count accumulated characters */
8351                 while (bufp < bend) {
8352                     if (charstart) {
8353                         skip = UTF8SKIP(bufp);
8354                     }
8355                     if (bufp + skip > bend) {
8356                         /* partial at the end */
8357                         charstart = FALSE;
8358                         break;
8359                     }
8360                     else {
8361                         ++charcount;
8362                         bufp += skip;
8363                         charstart = TRUE;
8364                     }
8365                 }
8366
8367                 if (charcount < recsize) {
8368                     STRLEN readsize;
8369                     STRLEN bufp_offset = bufp - buffer;
8370                     SSize_t morebytesread;
8371
8372                     /* originally I read enough to fill any incomplete
8373                        character and the first byte of the next
8374                        character if needed, but if there's many
8375                        multi-byte encoded characters we're going to be
8376                        making a read call for every character beyond
8377                        the original read size.
8378
8379                        So instead, read the rest of the character if
8380                        any, and enough bytes to match at least the
8381                        start bytes for each character we're going to
8382                        read.
8383                     */
8384                     if (charstart)
8385                         readsize = recsize - charcount;
8386                     else 
8387                         readsize = skip - (bend - bufp) + recsize - charcount - 1;
8388                     buffer = SvGROW(sv, append + bytesread + readsize + 1) + append;
8389                     bend = buffer + bytesread;
8390                     morebytesread = PerlIO_read(fp, bend, readsize);
8391                     if (morebytesread <= 0) {
8392                         /* we're done, if we still have incomplete
8393                            characters the check code in sv_gets() will
8394                            warn about them.
8395
8396                            I'd originally considered doing
8397                            PerlIO_ungetc() on all but the lead
8398                            character of the incomplete character, but
8399                            read() doesn't do that, so I don't.
8400                         */
8401                         break;
8402                     }
8403
8404                     /* prepare to scan some more */
8405                     bytesread += morebytesread;
8406                     bend = buffer + bytesread;
8407                     bufp = buffer + bufp_offset;
8408                 }
8409             }
8410         }
8411     }
8412
8413     if (bytesread < 0)
8414         bytesread = 0;
8415     SvCUR_set(sv, bytesread + append);
8416     buffer[bytesread] = '\0';
8417     return (SvCUR(sv) - append) ? SvPVX(sv) : NULL;
8418 }
8419
8420 /*
8421 =for apidoc sv_gets
8422
8423 Get a line from the filehandle and store it into the SV, optionally
8424 appending to the currently-stored string.  If C<append> is not 0, the
8425 line is appended to the SV instead of overwriting it.  C<append> should
8426 be set to the byte offset that the appended string should start at
8427 in the SV (typically, C<SvCUR(sv)> is a suitable choice).
8428
8429 =cut
8430 */
8431
8432 char *
8433 Perl_sv_gets(pTHX_ SV *const sv, PerlIO *const fp, I32 append)
8434 {
8435     const char *rsptr;
8436     STRLEN rslen;
8437     STDCHAR rslast;
8438     STDCHAR *bp;
8439     SSize_t cnt;
8440     int i = 0;
8441     int rspara = 0;
8442
8443     PERL_ARGS_ASSERT_SV_GETS;
8444
8445     if (SvTHINKFIRST(sv))
8446         sv_force_normal_flags(sv, append ? 0 : SV_COW_DROP_PV);
8447     /* XXX. If you make this PVIV, then copy on write can copy scalars read
8448        from <>.
8449        However, perlbench says it's slower, because the existing swipe code
8450        is faster than copy on write.
8451        Swings and roundabouts.  */
8452     SvUPGRADE(sv, SVt_PV);
8453
8454     if (append) {
8455         /* line is going to be appended to the existing buffer in the sv */
8456         if (PerlIO_isutf8(fp)) {
8457             if (!SvUTF8(sv)) {
8458                 sv_utf8_upgrade_nomg(sv);
8459                 sv_pos_u2b(sv,&append,0);
8460             }
8461         } else if (SvUTF8(sv)) {
8462             return S_sv_gets_append_to_utf8(aTHX_ sv, fp, append);
8463         }
8464     }
8465
8466     SvPOK_only(sv);
8467     if (!append) {
8468         /* not appending - "clear" the string by setting SvCUR to 0,
8469          * the pv is still avaiable. */
8470         SvCUR_set(sv,0);
8471     }
8472     if (PerlIO_isutf8(fp))
8473         SvUTF8_on(sv);
8474
8475     if (IN_PERL_COMPILETIME) {
8476         /* we always read code in line mode */
8477         rsptr = "\n";
8478         rslen = 1;
8479     }
8480     else if (RsSNARF(PL_rs)) {
8481         /* If it is a regular disk file use size from stat() as estimate
8482            of amount we are going to read -- may result in mallocing
8483            more memory than we really need if the layers below reduce
8484            the size we read (e.g. CRLF or a gzip layer).
8485          */
8486         Stat_t st;
8487         int fd = PerlIO_fileno(fp);
8488         if (fd >= 0 && (PerlLIO_fstat(fd, &st) == 0) && S_ISREG(st.st_mode))  {
8489             const Off_t offset = PerlIO_tell(fp);
8490             if (offset != (Off_t) -1 && st.st_size + append > offset) {
8491 #ifdef PERL_COPY_ON_WRITE
8492                 /* Add an extra byte for the sake of copy-on-write's
8493                  * buffer reference count. */
8494                 (void) SvGROW(sv, (STRLEN)((st.st_size - offset) + append + 2));
8495 #else
8496                 (void) SvGROW(sv, (STRLEN)((st.st_size - offset) + append + 1));
8497 #endif
8498             }
8499         }
8500         rsptr = NULL;
8501         rslen = 0;
8502     }
8503     else if (RsRECORD(PL_rs)) {
8504         return S_sv_gets_read_record(aTHX_ sv, fp, append);
8505     }
8506     else if (RsPARA(PL_rs)) {
8507         rsptr = "\n\n";
8508         rslen = 2;
8509         rspara = 1;
8510     }
8511     else {
8512         /* Get $/ i.e. PL_rs into same encoding as stream wants */
8513         if (PerlIO_isutf8(fp)) {
8514             rsptr = SvPVutf8(PL_rs, rslen);
8515         }
8516         else {
8517             if (SvUTF8(PL_rs)) {
8518                 if (!sv_utf8_downgrade(PL_rs, TRUE)) {
8519                     Perl_croak(aTHX_ "Wide character in $/");
8520                 }
8521             }
8522             /* extract the raw pointer to the record separator */
8523             rsptr = SvPV_const(PL_rs, rslen);
8524         }
8525     }
8526
8527     /* rslast is the last character in the record separator
8528      * note we don't use rslast except when rslen is true, so the
8529      * null assign is a placeholder. */
8530     rslast = rslen ? rsptr[rslen - 1] : '\0';
8531
8532     if (rspara) {               /* have to do this both before and after */
8533         do {                    /* to make sure file boundaries work right */
8534             if (PerlIO_eof(fp))
8535                 return 0;
8536             i = PerlIO_getc(fp);
8537             if (i != '\n') {
8538                 if (i == -1)
8539                     return 0;
8540                 PerlIO_ungetc(fp,i);
8541                 break;
8542             }
8543         } while (i != EOF);
8544     }
8545
8546     /* See if we know enough about I/O mechanism to cheat it ! */
8547
8548     /* This used to be #ifdef test - it is made run-time test for ease
8549        of abstracting out stdio interface. One call should be cheap
8550        enough here - and may even be a macro allowing compile
8551        time optimization.
8552      */
8553
8554     if (PerlIO_fast_gets(fp)) {
8555     /*
8556      * We can do buffer based IO operations on this filehandle.
8557      *
8558      * This means we can bypass a lot of subcalls and process
8559      * the buffer directly, it also means we know the upper bound
8560      * on the amount of data we might read of the current buffer
8561      * into our sv. Knowing this allows us to preallocate the pv
8562      * to be able to hold that maximum, which allows us to simplify
8563      * a lot of logic. */
8564
8565     /*
8566      * We're going to steal some values from the stdio struct
8567      * and put EVERYTHING in the innermost loop into registers.
8568      */
8569     STDCHAR *ptr;       /* pointer into fp's read-ahead buffer */
8570     STRLEN bpx;         /* length of the data in the target sv
8571                            used to fix pointers after a SvGROW */
8572     I32 shortbuffered;  /* If the pv buffer is shorter than the amount
8573                            of data left in the read-ahead buffer.
8574                            If 0 then the pv buffer can hold the full
8575                            amount left, otherwise this is the amount it
8576                            can hold. */
8577
8578     /* Here is some breathtakingly efficient cheating */
8579
8580     /* When you read the following logic resist the urge to think
8581      * of record separators that are 1 byte long. They are an
8582      * uninteresting special (simple) case.
8583      *
8584      * Instead think of record separators which are at least 2 bytes
8585      * long, and keep in mind that we need to deal with such
8586      * separators when they cross a read-ahead buffer boundary.
8587      *
8588      * Also consider that we need to gracefully deal with separators
8589      * that may be longer than a single read ahead buffer.
8590      *
8591      * Lastly do not forget we want to copy the delimiter as well. We
8592      * are copying all data in the file _up_to_and_including_ the separator
8593      * itself.
8594      *
8595      * Now that you have all that in mind here is what is happening below:
8596      *
8597      * 1. When we first enter the loop we do some memory book keeping to see
8598      * how much free space there is in the target SV. (This sub assumes that
8599      * it is operating on the same SV most of the time via $_ and that it is
8600      * going to be able to reuse the same pv buffer each call.) If there is
8601      * "enough" room then we set "shortbuffered" to how much space there is
8602      * and start reading forward.
8603      *
8604      * 2. When we scan forward we copy from the read-ahead buffer to the target
8605      * SV's pv buffer. While we go we watch for the end of the read-ahead buffer,
8606      * and the end of the of pv, as well as for the "rslast", which is the last
8607      * char of the separator.
8608      *
8609      * 3. When scanning forward if we see rslast then we jump backwards in *pv*
8610      * (which has a "complete" record up to the point we saw rslast) and check
8611      * it to see if it matches the separator. If it does we are done. If it doesn't
8612      * we continue on with the scan/copy.
8613      *
8614      * 4. If we run out of read-ahead buffer (cnt goes to 0) then we have to get
8615      * the IO system to read the next buffer. We do this by doing a getc(), which
8616      * returns a single char read (or EOF), and prefills the buffer, and also
8617      * allows us to find out how full the buffer is.  We use this information to
8618      * SvGROW() the sv to the size remaining in the buffer, after which we copy
8619      * the returned single char into the target sv, and then go back into scan
8620      * forward mode.
8621      *
8622      * 5. If we run out of write-buffer then we SvGROW() it by the size of the
8623      * remaining space in the read-buffer.
8624      *
8625      * Note that this code despite its twisty-turny nature is pretty darn slick.
8626      * It manages single byte separators, multi-byte cross boundary separators,
8627      * and cross-read-buffer separators cleanly and efficiently at the cost
8628      * of potentially greatly overallocating the target SV.
8629      *
8630      * Yves
8631      */
8632
8633
8634     /* get the number of bytes remaining in the read-ahead buffer
8635      * on first call on a given fp this will return 0.*/
8636     cnt = PerlIO_get_cnt(fp);
8637
8638     /* make sure we have the room */
8639     if ((I32)(SvLEN(sv) - append) <= cnt + 1) {
8640         /* Not room for all of it
8641            if we are looking for a separator and room for some
8642          */
8643         if (rslen && cnt > 80 && (I32)SvLEN(sv) > append) {
8644             /* just process what we have room for */
8645             shortbuffered = cnt - SvLEN(sv) + append + 1;
8646             cnt -= shortbuffered;
8647         }
8648         else {
8649             /* ensure that the target sv has enough room to hold
8650              * the rest of the read-ahead buffer */
8651             shortbuffered = 0;
8652             /* remember that cnt can be negative */
8653             SvGROW(sv, (STRLEN)(append + (cnt <= 0 ? 2 : (cnt + 1))));
8654         }
8655     }
8656     else {
8657         /* we have enough room to hold the full buffer, lets scream */
8658         shortbuffered = 0;
8659     }
8660
8661     /* extract the pointer to sv's string buffer, offset by append as necessary */
8662     bp = (STDCHAR*)SvPVX_const(sv) + append;  /* move these two too to registers */
8663     /* extract the point to the read-ahead buffer */
8664     ptr = (STDCHAR*)PerlIO_get_ptr(fp);
8665
8666     /* some trace debug output */
8667     DEBUG_P(PerlIO_printf(Perl_debug_log,
8668         "Screamer: entering, ptr=%" UVuf ", cnt=%ld\n",PTR2UV(ptr),(long)cnt));
8669     DEBUG_P(PerlIO_printf(Perl_debug_log,
8670         "Screamer: entering: PerlIO * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%"
8671          UVuf "\n",
8672                PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8673                PTR2UV(PerlIO_has_base(fp) ? PerlIO_get_base(fp) : 0)));
8674
8675     for (;;) {
8676       screamer:
8677         /* if there is stuff left in the read-ahead buffer */
8678         if (cnt > 0) {
8679             /* if there is a separator */
8680             if (rslen) {
8681                 /* find next rslast */
8682                 STDCHAR *p;
8683
8684                 /* shortcut common case of blank line */
8685                 cnt--;
8686                 if ((*bp++ = *ptr++) == rslast)
8687                     goto thats_all_folks;
8688
8689                 p = (STDCHAR *)memchr(ptr, rslast, cnt);
8690                 if (p) {
8691                     SSize_t got = p - ptr + 1;
8692                     Copy(ptr, bp, got, STDCHAR);
8693                     ptr += got;
8694                     bp  += got;
8695                     cnt -= got;
8696                     goto thats_all_folks;
8697                 }
8698                 Copy(ptr, bp, cnt, STDCHAR);
8699                 ptr += cnt;
8700                 bp  += cnt;
8701                 cnt = 0;
8702             }
8703             else {
8704                 /* no separator, slurp the full buffer */
8705                 Copy(ptr, bp, cnt, char);            /* this     |  eat */
8706                 bp += cnt;                           /* screams  |  dust */
8707                 ptr += cnt;                          /* louder   |  sed :-) */
8708                 cnt = 0;
8709                 assert (!shortbuffered);
8710                 goto cannot_be_shortbuffered;
8711             }
8712         }
8713         
8714         if (shortbuffered) {            /* oh well, must extend */
8715             /* we didnt have enough room to fit the line into the target buffer
8716              * so we must extend the target buffer and keep going */
8717             cnt = shortbuffered;
8718             shortbuffered = 0;
8719             bpx = bp - (STDCHAR*)SvPVX_const(sv); /* box up before relocation */
8720             SvCUR_set(sv, bpx);
8721             /* extned the target sv's buffer so it can hold the full read-ahead buffer */
8722             SvGROW(sv, SvLEN(sv) + append + cnt + 2);
8723             bp = (STDCHAR*)SvPVX_const(sv) + bpx; /* unbox after relocation */
8724             continue;
8725         }
8726
8727     cannot_be_shortbuffered:
8728         /* we need to refill the read-ahead buffer if possible */
8729
8730         DEBUG_P(PerlIO_printf(Perl_debug_log,
8731                              "Screamer: going to getc, ptr=%" UVuf ", cnt=%" IVdf "\n",
8732                               PTR2UV(ptr),(IV)cnt));
8733         PerlIO_set_ptrcnt(fp, (STDCHAR*)ptr, cnt); /* deregisterize cnt and ptr */
8734
8735         DEBUG_Pv(PerlIO_printf(Perl_debug_log,
8736            "Screamer: pre: FILE * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%" UVuf "\n",
8737             PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8738             PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
8739
8740         /*
8741             call PerlIO_getc() to let it prefill the lookahead buffer
8742
8743             This used to call 'filbuf' in stdio form, but as that behaves like
8744             getc when cnt <= 0 we use PerlIO_getc here to avoid introducing
8745             another abstraction.
8746
8747             Note we have to deal with the char in 'i' if we are not at EOF
8748         */
8749         i   = PerlIO_getc(fp);          /* get more characters */
8750
8751         DEBUG_Pv(PerlIO_printf(Perl_debug_log,
8752            "Screamer: post: FILE * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%" UVuf "\n",
8753             PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8754             PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
8755
8756         /* find out how much is left in the read-ahead buffer, and rextract its pointer */
8757         cnt = PerlIO_get_cnt(fp);
8758         ptr = (STDCHAR*)PerlIO_get_ptr(fp);     /* reregisterize cnt and ptr */
8759         DEBUG_P(PerlIO_printf(Perl_debug_log,
8760             "Screamer: after getc, ptr=%" UVuf ", cnt=%" IVdf "\n",
8761             PTR2UV(ptr),(IV)cnt));
8762
8763         if (i == EOF)                   /* all done for ever? */
8764             goto thats_really_all_folks;
8765
8766         /* make sure we have enough space in the target sv */
8767         bpx = bp - (STDCHAR*)SvPVX_const(sv);   /* box up before relocation */
8768         SvCUR_set(sv, bpx);
8769         SvGROW(sv, bpx + cnt + 2);
8770         bp = (STDCHAR*)SvPVX_const(sv) + bpx;   /* unbox after relocation */
8771
8772         /* copy of the char we got from getc() */
8773         *bp++ = (STDCHAR)i;             /* store character from PerlIO_getc */
8774
8775         /* make sure we deal with the i being the last character of a separator */
8776         if (rslen && (STDCHAR)i == rslast)  /* all done for now? */
8777             goto thats_all_folks;
8778     }
8779
8780   thats_all_folks:
8781     /* check if we have actually found the separator - only really applies
8782      * when rslen > 1 */
8783     if ((rslen > 1 && (STRLEN)(bp - (STDCHAR*)SvPVX_const(sv)) < rslen) ||
8784           memNE((char*)bp - rslen, rsptr, rslen))
8785         goto screamer;                          /* go back to the fray */
8786   thats_really_all_folks:
8787     if (shortbuffered)
8788         cnt += shortbuffered;
8789         DEBUG_P(PerlIO_printf(Perl_debug_log,
8790              "Screamer: quitting, ptr=%" UVuf ", cnt=%" IVdf "\n",PTR2UV(ptr),(IV)cnt));
8791     PerlIO_set_ptrcnt(fp, (STDCHAR*)ptr, cnt);  /* put these back or we're in trouble */
8792     DEBUG_P(PerlIO_printf(Perl_debug_log,
8793         "Screamer: end: FILE * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%" UVuf
8794         "\n",
8795         PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8796         PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
8797     *bp = '\0';
8798     SvCUR_set(sv, bp - (STDCHAR*)SvPVX_const(sv));      /* set length */
8799     DEBUG_P(PerlIO_printf(Perl_debug_log,
8800         "Screamer: done, len=%ld, string=|%.*s|\n",
8801         (long)SvCUR(sv),(int)SvCUR(sv),SvPVX_const(sv)));
8802     }
8803    else
8804     {
8805        /*The big, slow, and stupid way. */
8806 #ifdef USE_HEAP_INSTEAD_OF_STACK        /* Even slower way. */
8807         STDCHAR *buf = NULL;
8808         Newx(buf, 8192, STDCHAR);
8809         assert(buf);
8810 #else
8811         STDCHAR buf[8192];
8812 #endif
8813
8814       screamer2:
8815         if (rslen) {
8816             const STDCHAR * const bpe = buf + sizeof(buf);
8817             bp = buf;
8818             while ((i = PerlIO_getc(fp)) != EOF && (*bp++ = (STDCHAR)i) != rslast && bp < bpe)
8819                 ; /* keep reading */
8820             cnt = bp - buf;
8821         }
8822         else {
8823             cnt = PerlIO_read(fp,(char*)buf, sizeof(buf));
8824             /* Accommodate broken VAXC compiler, which applies U8 cast to
8825              * both args of ?: operator, causing EOF to change into 255
8826              */
8827             if (cnt > 0)
8828                  i = (U8)buf[cnt - 1];
8829             else
8830                  i = EOF;
8831         }
8832
8833         if (cnt < 0)
8834             cnt = 0;  /* we do need to re-set the sv even when cnt <= 0 */
8835         if (append)
8836             sv_catpvn_nomg(sv, (char *) buf, cnt);
8837         else
8838             sv_setpvn(sv, (char *) buf, cnt);   /* "nomg" is implied */
8839
8840         if (i != EOF &&                 /* joy */
8841             (!rslen ||
8842              SvCUR(sv) < rslen ||
8843              memNE(SvPVX_const(sv) + SvCUR(sv) - rslen, rsptr, rslen)))
8844         {
8845             append = -1;
8846             /*
8847              * If we're reading from a TTY and we get a short read,
8848              * indicating that the user hit his EOF character, we need
8849              * to notice it now, because if we try to read from the TTY
8850              * again, the EOF condition will disappear.
8851              *
8852              * The comparison of cnt to sizeof(buf) is an optimization
8853              * that prevents unnecessary calls to feof().
8854              *
8855              * - jik 9/25/96
8856              */
8857             if (!(cnt < (I32)sizeof(buf) && PerlIO_eof(fp)))
8858                 goto screamer2;
8859         }
8860
8861 #ifdef USE_HEAP_INSTEAD_OF_STACK
8862         Safefree(buf);
8863 #endif
8864     }
8865
8866     if (rspara) {               /* have to do this both before and after */
8867         while (i != EOF) {      /* to make sure file boundaries work right */
8868             i = PerlIO_getc(fp);
8869             if (i != '\n') {
8870                 PerlIO_ungetc(fp,i);
8871                 break;
8872             }
8873         }
8874     }
8875
8876     return (SvCUR(sv) - append) ? SvPVX(sv) : NULL;
8877 }
8878
8879 /*
8880 =for apidoc sv_inc
8881
8882 Auto-increment of the value in the SV, doing string to numeric conversion
8883 if necessary.  Handles 'get' magic and operator overloading.
8884
8885 =cut
8886 */
8887
8888 void
8889 Perl_sv_inc(pTHX_ SV *const sv)
8890 {
8891     if (!sv)
8892         return;
8893     SvGETMAGIC(sv);
8894     sv_inc_nomg(sv);
8895 }
8896
8897 /*
8898 =for apidoc sv_inc_nomg
8899
8900 Auto-increment of the value in the SV, doing string to numeric conversion
8901 if necessary.  Handles operator overloading.  Skips handling 'get' magic.
8902
8903 =cut
8904 */
8905
8906 void
8907 Perl_sv_inc_nomg(pTHX_ SV *const sv)
8908 {
8909     char *d;
8910     int flags;
8911
8912     if (!sv)
8913         return;
8914     if (SvTHINKFIRST(sv)) {
8915         if (SvREADONLY(sv)) {
8916                 Perl_croak_no_modify();
8917         }
8918         if (SvROK(sv)) {
8919             IV i;
8920             if (SvAMAGIC(sv) && AMG_CALLunary(sv, inc_amg))
8921                 return;
8922             i = PTR2IV(SvRV(sv));
8923             sv_unref(sv);
8924             sv_setiv(sv, i);
8925         }
8926         else sv_force_normal_flags(sv, 0);
8927     }
8928     flags = SvFLAGS(sv);
8929     if ((flags & (SVp_NOK|SVp_IOK)) == SVp_NOK) {
8930         /* It's (privately or publicly) a float, but not tested as an
8931            integer, so test it to see. */
8932         (void) SvIV(sv);
8933         flags = SvFLAGS(sv);
8934     }
8935     if ((flags & SVf_IOK) || ((flags & (SVp_IOK | SVp_NOK)) == SVp_IOK)) {
8936         /* It's publicly an integer, or privately an integer-not-float */
8937 #ifdef PERL_PRESERVE_IVUV
8938       oops_its_int:
8939 #endif
8940         if (SvIsUV(sv)) {
8941             if (SvUVX(sv) == UV_MAX)
8942                 sv_setnv(sv, UV_MAX_P1);
8943             else
8944                 (void)SvIOK_only_UV(sv);
8945                 SvUV_set(sv, SvUVX(sv) + 1);
8946         } else {
8947             if (SvIVX(sv) == IV_MAX)
8948                 sv_setuv(sv, (UV)IV_MAX + 1);
8949             else {
8950                 (void)SvIOK_only(sv);
8951                 SvIV_set(sv, SvIVX(sv) + 1);
8952             }   
8953         }
8954         return;
8955     }
8956     if (flags & SVp_NOK) {
8957         const NV was = SvNVX(sv);
8958         if (LIKELY(!Perl_isinfnan(was)) &&
8959             NV_OVERFLOWS_INTEGERS_AT &&
8960             was >= NV_OVERFLOWS_INTEGERS_AT) {
8961             /* diag_listed_as: Lost precision when %s %f by 1 */
8962             Perl_ck_warner(aTHX_ packWARN(WARN_IMPRECISION),
8963                            "Lost precision when incrementing %" NVff " by 1",
8964                            was);
8965         }
8966         (void)SvNOK_only(sv);
8967         SvNV_set(sv, was + 1.0);
8968         return;
8969     }
8970
8971     /* treat AV/HV/CV/FM/IO and non-fake GVs as immutable */
8972     if (SvTYPE(sv) >= SVt_PVAV || (isGV_with_GP(sv) && !SvFAKE(sv)))
8973         Perl_croak_no_modify();
8974
8975     if (!(flags & SVp_POK) || !*SvPVX_const(sv)) {
8976         if ((flags & SVTYPEMASK) < SVt_PVIV)
8977             sv_upgrade(sv, ((flags & SVTYPEMASK) > SVt_IV ? SVt_PVIV : SVt_IV));
8978         (void)SvIOK_only(sv);
8979         SvIV_set(sv, 1);
8980         return;
8981     }
8982     d = SvPVX(sv);
8983     while (isALPHA(*d)) d++;
8984     while (isDIGIT(*d)) d++;
8985     if (d < SvEND(sv)) {
8986         const int numtype = grok_number_flags(SvPVX_const(sv), SvCUR(sv), NULL, PERL_SCAN_TRAILING);
8987 #ifdef PERL_PRESERVE_IVUV
8988         /* Got to punt this as an integer if needs be, but we don't issue
8989            warnings. Probably ought to make the sv_iv_please() that does
8990            the conversion if possible, and silently.  */
8991         if (numtype && !(numtype & IS_NUMBER_INFINITY)) {
8992             /* Need to try really hard to see if it's an integer.
8993                9.22337203685478e+18 is an integer.
8994                but "9.22337203685478e+18" + 0 is UV=9223372036854779904
8995                so $a="9.22337203685478e+18"; $a+0; $a++
8996                needs to be the same as $a="9.22337203685478e+18"; $a++
8997                or we go insane. */
8998         
8999             (void) sv_2iv(sv);
9000             if (SvIOK(sv))
9001                 goto oops_its_int;
9002
9003             /* sv_2iv *should* have made this an NV */
9004             if (flags & SVp_NOK) {
9005                 (void)SvNOK_only(sv);
9006                 SvNV_set(sv, SvNVX(sv) + 1.0);
9007                 return;
9008             }
9009             /* I don't think we can get here. Maybe I should assert this
9010                And if we do get here I suspect that sv_setnv will croak. NWC
9011                Fall through. */
9012             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_inc punt failed to convert '%s' to IOK or NOKp, UV=0x%" UVxf " NV=%" NVgf "\n",
9013                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
9014         }
9015 #endif /* PERL_PRESERVE_IVUV */
9016         if (!numtype && ckWARN(WARN_NUMERIC))
9017             not_incrementable(sv);
9018         sv_setnv(sv,Atof(SvPVX_const(sv)) + 1.0);
9019         return;
9020     }
9021     d--;
9022     while (d >= SvPVX_const(sv)) {
9023         if (isDIGIT(*d)) {
9024             if (++*d <= '9')
9025                 return;
9026             *(d--) = '0';
9027         }
9028         else {
9029 #ifdef EBCDIC
9030             /* MKS: The original code here died if letters weren't consecutive.
9031              * at least it didn't have to worry about non-C locales.  The
9032              * new code assumes that ('z'-'a')==('Z'-'A'), letters are
9033              * arranged in order (although not consecutively) and that only
9034              * [A-Za-z] are accepted by isALPHA in the C locale.
9035              */
9036             if (isALPHA_FOLD_NE(*d, 'z')) {
9037                 do { ++*d; } while (!isALPHA(*d));
9038                 return;
9039             }
9040             *(d--) -= 'z' - 'a';
9041 #else
9042             ++*d;
9043             if (isALPHA(*d))
9044                 return;
9045             *(d--) -= 'z' - 'a' + 1;
9046 #endif
9047         }
9048     }
9049     /* oh,oh, the number grew */
9050     SvGROW(sv, SvCUR(sv) + 2);
9051     SvCUR_set(sv, SvCUR(sv) + 1);
9052     for (d = SvPVX(sv) + SvCUR(sv); d > SvPVX_const(sv); d--)
9053         *d = d[-1];
9054     if (isDIGIT(d[1]))
9055         *d = '1';
9056     else
9057         *d = d[1];
9058 }
9059
9060 /*
9061 =for apidoc sv_dec
9062
9063 Auto-decrement of the value in the SV, doing string to numeric conversion
9064 if necessary.  Handles 'get' magic and operator overloading.
9065
9066 =cut
9067 */
9068
9069 void
9070 Perl_sv_dec(pTHX_ SV *const sv)
9071 {
9072     if (!sv)
9073         return;
9074     SvGETMAGIC(sv);
9075     sv_dec_nomg(sv);
9076 }
9077
9078 /*
9079 =for apidoc sv_dec_nomg
9080
9081 Auto-decrement of the value in the SV, doing string to numeric conversion
9082 if necessary.  Handles operator overloading.  Skips handling 'get' magic.
9083
9084 =cut
9085 */
9086
9087 void
9088 Perl_sv_dec_nomg(pTHX_ SV *const sv)
9089 {
9090     int flags;
9091
9092     if (!sv)
9093         return;
9094     if (SvTHINKFIRST(sv)) {
9095         if (SvREADONLY(sv)) {
9096                 Perl_croak_no_modify();
9097         }
9098         if (SvROK(sv)) {
9099             IV i;
9100             if (SvAMAGIC(sv) && AMG_CALLunary(sv, dec_amg))
9101                 return;
9102             i = PTR2IV(SvRV(sv));
9103             sv_unref(sv);
9104             sv_setiv(sv, i);
9105         }
9106         else sv_force_normal_flags(sv, 0);
9107     }
9108     /* Unlike sv_inc we don't have to worry about string-never-numbers
9109        and keeping them magic. But we mustn't warn on punting */
9110     flags = SvFLAGS(sv);
9111     if ((flags & SVf_IOK) || ((flags & (SVp_IOK | SVp_NOK)) == SVp_IOK)) {
9112         /* It's publicly an integer, or privately an integer-not-float */
9113 #ifdef PERL_PRESERVE_IVUV
9114       oops_its_int:
9115 #endif
9116         if (SvIsUV(sv)) {
9117             if (SvUVX(sv) == 0) {
9118                 (void)SvIOK_only(sv);
9119                 SvIV_set(sv, -1);
9120             }
9121             else {
9122                 (void)SvIOK_only_UV(sv);
9123                 SvUV_set(sv, SvUVX(sv) - 1);
9124             }   
9125         } else {
9126             if (SvIVX(sv) == IV_MIN) {
9127                 sv_setnv(sv, (NV)IV_MIN);
9128                 goto oops_its_num;
9129             }
9130             else {
9131                 (void)SvIOK_only(sv);
9132                 SvIV_set(sv, SvIVX(sv) - 1);
9133             }   
9134         }
9135         return;
9136     }
9137     if (flags & SVp_NOK) {
9138     oops_its_num:
9139         {
9140             const NV was = SvNVX(sv);
9141             if (LIKELY(!Perl_isinfnan(was)) &&
9142                 NV_OVERFLOWS_INTEGERS_AT &&
9143                 was <= -NV_OVERFLOWS_INTEGERS_AT) {
9144                 /* diag_listed_as: Lost precision when %s %f by 1 */
9145                 Perl_ck_warner(aTHX_ packWARN(WARN_IMPRECISION),
9146                                "Lost precision when decrementing %" NVff " by 1",
9147                                was);
9148             }
9149             (void)SvNOK_only(sv);
9150             SvNV_set(sv, was - 1.0);
9151             return;
9152         }
9153     }
9154
9155     /* treat AV/HV/CV/FM/IO and non-fake GVs as immutable */
9156     if (SvTYPE(sv) >= SVt_PVAV || (isGV_with_GP(sv) && !SvFAKE(sv)))
9157         Perl_croak_no_modify();
9158
9159     if (!(flags & SVp_POK)) {
9160         if ((flags & SVTYPEMASK) < SVt_PVIV)
9161             sv_upgrade(sv, ((flags & SVTYPEMASK) > SVt_IV) ? SVt_PVIV : SVt_IV);
9162         SvIV_set(sv, -1);
9163         (void)SvIOK_only(sv);
9164         return;
9165     }
9166 #ifdef PERL_PRESERVE_IVUV
9167     {
9168         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), NULL);
9169         if (numtype && !(numtype & IS_NUMBER_INFINITY)) {
9170             /* Need to try really hard to see if it's an integer.
9171                9.22337203685478e+18 is an integer.
9172                but "9.22337203685478e+18" + 0 is UV=9223372036854779904
9173                so $a="9.22337203685478e+18"; $a+0; $a--
9174                needs to be the same as $a="9.22337203685478e+18"; $a--
9175                or we go insane. */
9176         
9177             (void) sv_2iv(sv);
9178             if (SvIOK(sv))
9179                 goto oops_its_int;
9180
9181             /* sv_2iv *should* have made this an NV */
9182             if (flags & SVp_NOK) {
9183                 (void)SvNOK_only(sv);
9184                 SvNV_set(sv, SvNVX(sv) - 1.0);
9185                 return;
9186             }
9187             /* I don't think we can get here. Maybe I should assert this
9188                And if we do get here I suspect that sv_setnv will croak. NWC
9189                Fall through. */
9190             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_dec punt failed to convert '%s' to IOK or NOKp, UV=0x%" UVxf " NV=%" NVgf "\n",
9191                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
9192         }
9193     }
9194 #endif /* PERL_PRESERVE_IVUV */
9195     sv_setnv(sv,Atof(SvPVX_const(sv)) - 1.0);   /* punt */
9196 }
9197
9198 /* this define is used to eliminate a chunk of duplicated but shared logic
9199  * it has the suffix __SV_C to signal that it isnt API, and isnt meant to be
9200  * used anywhere but here - yves
9201  */
9202 #define PUSH_EXTEND_MORTAL__SV_C(AnSv) \
9203     STMT_START {      \
9204         SSize_t ix = ++PL_tmps_ix;              \
9205         if (UNLIKELY(ix >= PL_tmps_max))        \
9206             ix = tmps_grow_p(ix);                       \
9207         PL_tmps_stack[ix] = (AnSv); \
9208     } STMT_END
9209
9210 /*
9211 =for apidoc sv_mortalcopy
9212
9213 Creates a new SV which is a copy of the original SV (using C<sv_setsv>).
9214 The new SV is marked as mortal.  It will be destroyed "soon", either by an
9215 explicit call to C<FREETMPS>, or by an implicit call at places such as
9216 statement boundaries.  See also C<L</sv_newmortal>> and C<L</sv_2mortal>>.
9217
9218 =cut
9219 */
9220
9221 /* Make a string that will exist for the duration of the expression
9222  * evaluation.  Actually, it may have to last longer than that, but
9223  * hopefully we won't free it until it has been assigned to a
9224  * permanent location. */
9225
9226 SV *
9227 Perl_sv_mortalcopy_flags(pTHX_ SV *const oldstr, U32 flags)
9228 {
9229     SV *sv;
9230
9231     if (flags & SV_GMAGIC)
9232         SvGETMAGIC(oldstr); /* before new_SV, in case it dies */
9233     new_SV(sv);
9234     sv_setsv_flags(sv,oldstr,flags & ~SV_GMAGIC);
9235     PUSH_EXTEND_MORTAL__SV_C(sv);
9236     SvTEMP_on(sv);
9237     return sv;
9238 }
9239
9240 /*
9241 =for apidoc sv_newmortal
9242
9243 Creates a new null SV which is mortal.  The reference count of the SV is
9244 set to 1.  It will be destroyed "soon", either by an explicit call to
9245 C<FREETMPS>, or by an implicit call at places such as statement boundaries.
9246 See also C<L</sv_mortalcopy>> and C<L</sv_2mortal>>.
9247
9248 =cut
9249 */
9250
9251 SV *
9252 Perl_sv_newmortal(pTHX)
9253 {
9254     SV *sv;
9255
9256     new_SV(sv);
9257     SvFLAGS(sv) = SVs_TEMP;
9258     PUSH_EXTEND_MORTAL__SV_C(sv);
9259     return sv;
9260 }
9261
9262
9263 /*
9264 =for apidoc newSVpvn_flags
9265
9266 Creates a new SV and copies a string (which may contain C<NUL> (C<\0>)
9267 characters) into it.  The reference count for the
9268 SV is set to 1.  Note that if C<len> is zero, Perl will create a zero length
9269 string.  You are responsible for ensuring that the source string is at least
9270 C<len> bytes long.  If the C<s> argument is NULL the new SV will be undefined.
9271 Currently the only flag bits accepted are C<SVf_UTF8> and C<SVs_TEMP>.
9272 If C<SVs_TEMP> is set, then C<sv_2mortal()> is called on the result before
9273 returning.  If C<SVf_UTF8> is set, C<s>
9274 is considered to be in UTF-8 and the
9275 C<SVf_UTF8> flag will be set on the new SV.
9276 C<newSVpvn_utf8()> is a convenience wrapper for this function, defined as
9277
9278     #define newSVpvn_utf8(s, len, u)                    \
9279         newSVpvn_flags((s), (len), (u) ? SVf_UTF8 : 0)
9280
9281 =cut
9282 */
9283
9284 SV *
9285 Perl_newSVpvn_flags(pTHX_ const char *const s, const STRLEN len, const U32 flags)
9286 {
9287     SV *sv;
9288
9289     /* All the flags we don't support must be zero.
9290        And we're new code so I'm going to assert this from the start.  */
9291     assert(!(flags & ~(SVf_UTF8|SVs_TEMP)));
9292     new_SV(sv);
9293     sv_setpvn(sv,s,len);
9294
9295     /* This code used to do a sv_2mortal(), however we now unroll the call to
9296      * sv_2mortal() and do what it does ourselves here.  Since we have asserted
9297      * that flags can only have the SVf_UTF8 and/or SVs_TEMP flags set above we
9298      * can use it to enable the sv flags directly (bypassing SvTEMP_on), which
9299      * in turn means we dont need to mask out the SVf_UTF8 flag below, which
9300      * means that we eliminate quite a few steps than it looks - Yves
9301      * (explaining patch by gfx) */
9302
9303     SvFLAGS(sv) |= flags;
9304
9305     if(flags & SVs_TEMP){
9306         PUSH_EXTEND_MORTAL__SV_C(sv);
9307     }
9308
9309     return sv;
9310 }
9311
9312 /*
9313 =for apidoc sv_2mortal
9314
9315 Marks an existing SV as mortal.  The SV will be destroyed "soon", either
9316 by an explicit call to C<FREETMPS>, or by an implicit call at places such as
9317 statement boundaries.  C<SvTEMP()> is turned on which means that the SV's
9318 string buffer can be "stolen" if this SV is copied.  See also
9319 C<L</sv_newmortal>> and C<L</sv_mortalcopy>>.
9320
9321 =cut
9322 */
9323
9324 SV *
9325 Perl_sv_2mortal(pTHX_ SV *const sv)
9326 {
9327     dVAR;
9328     if (!sv)
9329         return sv;
9330     if (SvIMMORTAL(sv))
9331         return sv;
9332     PUSH_EXTEND_MORTAL__SV_C(sv);
9333     SvTEMP_on(sv);
9334     return sv;
9335 }
9336
9337 /*
9338 =for apidoc newSVpv
9339
9340 Creates a new SV and copies a string (which may contain C<NUL> (C<\0>)
9341 characters) into it.  The reference count for the
9342 SV is set to 1.  If C<len> is zero, Perl will compute the length using
9343 C<strlen()>, (which means if you use this option, that C<s> can't have embedded
9344 C<NUL> characters and has to have a terminating C<NUL> byte).
9345
9346 This function can cause reliability issues if you are likely to pass in
9347 empty strings that are not null terminated, because it will run
9348 strlen on the string and potentially run past valid memory.
9349
9350 Using L</newSVpvn> is a safer alternative for non C<NUL> terminated strings.
9351 For string literals use L</newSVpvs> instead.  This function will work fine for
9352 C<NUL> terminated strings, but if you want to avoid the if statement on whether
9353 to call C<strlen> use C<newSVpvn> instead (calling C<strlen> yourself).
9354
9355 =cut
9356 */
9357
9358 SV *
9359 Perl_newSVpv(pTHX_ const char *const s, const STRLEN len)
9360 {
9361     SV *sv;
9362
9363     new_SV(sv);
9364     sv_setpvn(sv, s, len || s == NULL ? len : strlen(s));
9365     return sv;
9366 }
9367
9368 /*
9369 =for apidoc newSVpvn
9370
9371 Creates a new SV and copies a string into it, which may contain C<NUL> characters
9372 (C<\0>) and other binary data.  The reference count for the SV is set to 1.
9373 Note that if C<len> is zero, Perl will create a zero length (Perl) string.  You
9374 are responsible for ensuring that the source buffer is at least
9375 C<len> bytes long.  If the C<buffer> argument is NULL the new SV will be
9376 undefined.
9377
9378 =cut
9379 */
9380
9381 SV *
9382 Perl_newSVpvn(pTHX_ const char *const buffer, const STRLEN len)
9383 {
9384     SV *sv;
9385     new_SV(sv);
9386     sv_setpvn(sv,buffer,len);
9387     return sv;
9388 }
9389
9390 /*
9391 =for apidoc newSVhek
9392
9393 Creates a new SV from the hash key structure.  It will generate scalars that
9394 point to the shared string table where possible.  Returns a new (undefined)
9395 SV if C<hek> is NULL.
9396
9397 =cut
9398 */
9399
9400 SV *
9401 Perl_newSVhek(pTHX_ const HEK *const hek)
9402 {
9403     if (!hek) {
9404         SV *sv;
9405
9406         new_SV(sv);
9407         return sv;
9408     }
9409
9410     if (HEK_LEN(hek) == HEf_SVKEY) {
9411         return newSVsv(*(SV**)HEK_KEY(hek));
9412     } else {
9413         const int flags = HEK_FLAGS(hek);
9414         if (flags & HVhek_WASUTF8) {
9415             /* Trouble :-)
9416                Andreas would like keys he put in as utf8 to come back as utf8
9417             */
9418             STRLEN utf8_len = HEK_LEN(hek);
9419             SV * const sv = newSV_type(SVt_PV);
9420             char *as_utf8 = (char *)bytes_to_utf8 ((U8*)HEK_KEY(hek), &utf8_len);
9421             /* bytes_to_utf8() allocates a new string, which we can repurpose: */
9422             sv_usepvn_flags(sv, as_utf8, utf8_len, SV_HAS_TRAILING_NUL);
9423             SvUTF8_on (sv);
9424             return sv;
9425         } else if (flags & HVhek_UNSHARED) {
9426             /* A hash that isn't using shared hash keys has to have
9427                the flag in every key so that we know not to try to call
9428                share_hek_hek on it.  */
9429
9430             SV * const sv = newSVpvn (HEK_KEY(hek), HEK_LEN(hek));
9431             if (HEK_UTF8(hek))
9432                 SvUTF8_on (sv);
9433             return sv;
9434         }
9435         /* This will be overwhelminly the most common case.  */
9436         {
9437             /* Inline most of newSVpvn_share(), because share_hek_hek() is far
9438                more efficient than sharepvn().  */
9439             SV *sv;
9440
9441             new_SV(sv);
9442             sv_upgrade(sv, SVt_PV);
9443             SvPV_set(sv, (char *)HEK_KEY(share_hek_hek(hek)));
9444             SvCUR_set(sv, HEK_LEN(hek));
9445             SvLEN_set(sv, 0);
9446             SvIsCOW_on(sv);
9447             SvPOK_on(sv);
9448             if (HEK_UTF8(hek))
9449                 SvUTF8_on(sv);
9450             return sv;
9451         }
9452     }
9453 }
9454
9455 /*
9456 =for apidoc newSVpvn_share
9457
9458 Creates a new SV with its C<SvPVX_const> pointing to a shared string in the string
9459 table.  If the string does not already exist in the table, it is
9460 created first.  Turns on the C<SvIsCOW> flag (or C<READONLY>
9461 and C<FAKE> in 5.16 and earlier).  If the C<hash> parameter
9462 is non-zero, that value is used; otherwise the hash is computed.
9463 The string's hash can later be retrieved from the SV
9464 with the C<SvSHARED_HASH()> macro.  The idea here is
9465 that as the string table is used for shared hash keys these strings will have
9466 C<SvPVX_const == HeKEY> and hash lookup will avoid string compare.
9467
9468 =cut
9469 */
9470
9471 SV *
9472 Perl_newSVpvn_share(pTHX_ const char *src, I32 len, U32 hash)
9473 {
9474     dVAR;
9475     SV *sv;
9476     bool is_utf8 = FALSE;
9477     const char *const orig_src = src;
9478
9479     if (len < 0) {
9480         STRLEN tmplen = -len;
9481         is_utf8 = TRUE;
9482         /* See the note in hv.c:hv_fetch() --jhi */
9483         src = (char*)bytes_from_utf8((const U8*)src, &tmplen, &is_utf8);
9484         len = tmplen;
9485     }
9486     if (!hash)
9487         PERL_HASH(hash, src, len);
9488     new_SV(sv);
9489     /* The logic for this is inlined in S_mro_get_linear_isa_dfs(), so if it
9490        changes here, update it there too.  */
9491     sv_upgrade(sv, SVt_PV);
9492     SvPV_set(sv, sharepvn(src, is_utf8?-len:len, hash));
9493     SvCUR_set(sv, len);
9494     SvLEN_set(sv, 0);
9495     SvIsCOW_on(sv);
9496     SvPOK_on(sv);
9497     if (is_utf8)
9498         SvUTF8_on(sv);
9499     if (src != orig_src)
9500         Safefree(src);
9501     return sv;
9502 }
9503
9504 /*
9505 =for apidoc newSVpv_share
9506
9507 Like C<newSVpvn_share>, but takes a C<NUL>-terminated string instead of a
9508 string/length pair.
9509
9510 =cut
9511 */
9512
9513 SV *
9514 Perl_newSVpv_share(pTHX_ const char *src, U32 hash)
9515 {
9516     return newSVpvn_share(src, strlen(src), hash);
9517 }
9518
9519 #if defined(PERL_IMPLICIT_CONTEXT)
9520
9521 /* pTHX_ magic can't cope with varargs, so this is a no-context
9522  * version of the main function, (which may itself be aliased to us).
9523  * Don't access this version directly.
9524  */
9525
9526 SV *
9527 Perl_newSVpvf_nocontext(const char *const pat, ...)
9528 {
9529     dTHX;
9530     SV *sv;
9531     va_list args;
9532
9533     PERL_ARGS_ASSERT_NEWSVPVF_NOCONTEXT;
9534
9535     va_start(args, pat);
9536     sv = vnewSVpvf(pat, &args);
9537     va_end(args);
9538     return sv;
9539 }
9540 #endif
9541
9542 /*
9543 =for apidoc newSVpvf
9544
9545 Creates a new SV and initializes it with the string formatted like
9546 C<sv_catpvf>.
9547
9548 =cut
9549 */
9550
9551 SV *
9552 Perl_newSVpvf(pTHX_ const char *const pat, ...)
9553 {
9554     SV *sv;
9555     va_list args;
9556
9557     PERL_ARGS_ASSERT_NEWSVPVF;
9558
9559     va_start(args, pat);
9560     sv = vnewSVpvf(pat, &args);
9561     va_end(args);
9562     return sv;
9563 }
9564
9565 /* backend for newSVpvf() and newSVpvf_nocontext() */
9566
9567 SV *
9568 Perl_vnewSVpvf(pTHX_ const char *const pat, va_list *const args)
9569 {
9570     SV *sv;
9571
9572     PERL_ARGS_ASSERT_VNEWSVPVF;
9573
9574     new_SV(sv);
9575     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
9576     return sv;
9577 }
9578
9579 /*
9580 =for apidoc newSVnv
9581
9582 Creates a new SV and copies a floating point value into it.
9583 The reference count for the SV is set to 1.
9584
9585 =cut
9586 */
9587
9588 SV *
9589 Perl_newSVnv(pTHX_ const NV n)
9590 {
9591     SV *sv;
9592
9593     new_SV(sv);
9594     sv_setnv(sv,n);
9595     return sv;
9596 }
9597
9598 /*
9599 =for apidoc newSViv
9600
9601 Creates a new SV and copies an integer into it.  The reference count for the
9602 SV is set to 1.
9603
9604 =cut
9605 */
9606
9607 SV *
9608 Perl_newSViv(pTHX_ const IV i)
9609 {
9610     SV *sv;
9611
9612     new_SV(sv);
9613
9614     /* Inlining ONLY the small relevant subset of sv_setiv here
9615      * for performance. Makes a significant difference. */
9616
9617     /* We're starting from SVt_FIRST, so provided that's
9618      * actual 0, we don't have to unset any SV type flags
9619      * to promote to SVt_IV. */
9620     STATIC_ASSERT_STMT(SVt_FIRST == 0);
9621
9622     SET_SVANY_FOR_BODYLESS_IV(sv);
9623     SvFLAGS(sv) |= SVt_IV;
9624     (void)SvIOK_on(sv);
9625
9626     SvIV_set(sv, i);
9627     SvTAINT(sv);
9628
9629     return sv;
9630 }
9631
9632 /*
9633 =for apidoc newSVuv
9634
9635 Creates a new SV and copies an unsigned integer into it.
9636 The reference count for the SV is set to 1.
9637
9638 =cut
9639 */
9640
9641 SV *
9642 Perl_newSVuv(pTHX_ const UV u)
9643 {
9644     SV *sv;
9645
9646     /* Inlining ONLY the small relevant subset of sv_setuv here
9647      * for performance. Makes a significant difference. */
9648
9649     /* Using ivs is more efficient than using uvs - see sv_setuv */
9650     if (u <= (UV)IV_MAX) {
9651         return newSViv((IV)u);
9652     }
9653
9654     new_SV(sv);
9655
9656     /* We're starting from SVt_FIRST, so provided that's
9657      * actual 0, we don't have to unset any SV type flags
9658      * to promote to SVt_IV. */
9659     STATIC_ASSERT_STMT(SVt_FIRST == 0);
9660
9661     SET_SVANY_FOR_BODYLESS_IV(sv);
9662     SvFLAGS(sv) |= SVt_IV;
9663     (void)SvIOK_on(sv);
9664     (void)SvIsUV_on(sv);
9665
9666     SvUV_set(sv, u);
9667     SvTAINT(sv);
9668
9669     return sv;
9670 }
9671
9672 /*
9673 =for apidoc newSV_type
9674
9675 Creates a new SV, of the type specified.  The reference count for the new SV
9676 is set to 1.
9677
9678 =cut
9679 */
9680
9681 SV *
9682 Perl_newSV_type(pTHX_ const svtype type)
9683 {
9684     SV *sv;
9685
9686     new_SV(sv);
9687     ASSUME(SvTYPE(sv) == SVt_FIRST);
9688     if(type != SVt_FIRST)
9689         sv_upgrade(sv, type);
9690     return sv;
9691 }
9692
9693 /*
9694 =for apidoc newRV_noinc
9695
9696 Creates an RV wrapper for an SV.  The reference count for the original
9697 SV is B<not> incremented.
9698
9699 =cut
9700 */
9701
9702 SV *
9703 Perl_newRV_noinc(pTHX_ SV *const tmpRef)
9704 {
9705     SV *sv;
9706
9707     PERL_ARGS_ASSERT_NEWRV_NOINC;
9708
9709     new_SV(sv);
9710
9711     /* We're starting from SVt_FIRST, so provided that's
9712      * actual 0, we don't have to unset any SV type flags
9713      * to promote to SVt_IV. */
9714     STATIC_ASSERT_STMT(SVt_FIRST == 0);
9715
9716     SET_SVANY_FOR_BODYLESS_IV(sv);
9717     SvFLAGS(sv) |= SVt_IV;
9718     SvROK_on(sv);
9719     SvIV_set(sv, 0);
9720
9721     SvTEMP_off(tmpRef);
9722     SvRV_set(sv, tmpRef);
9723
9724     return sv;
9725 }
9726
9727 /* newRV_inc is the official function name to use now.
9728  * newRV_inc is in fact #defined to newRV in sv.h
9729  */
9730
9731 SV *
9732 Perl_newRV(pTHX_ SV *const sv)
9733 {
9734     PERL_ARGS_ASSERT_NEWRV;
9735
9736     return newRV_noinc(SvREFCNT_inc_simple_NN(sv));
9737 }
9738
9739 /*
9740 =for apidoc newSVsv
9741
9742 Creates a new SV which is an exact duplicate of the original SV.
9743 (Uses C<sv_setsv>.)
9744
9745 =cut
9746 */
9747
9748 SV *
9749 Perl_newSVsv(pTHX_ SV *const old)
9750 {
9751     SV *sv;
9752
9753     if (!old)
9754         return NULL;
9755     if (SvTYPE(old) == (svtype)SVTYPEMASK) {
9756         Perl_ck_warner_d(aTHX_ packWARN(WARN_INTERNAL), "semi-panic: attempt to dup freed string");
9757         return NULL;
9758     }
9759     /* Do this here, otherwise we leak the new SV if this croaks. */
9760     SvGETMAGIC(old);
9761     new_SV(sv);
9762     /* SV_NOSTEAL prevents TEMP buffers being, well, stolen, and saves games
9763        with SvTEMP_off and SvTEMP_on round a call to sv_setsv.  */
9764     sv_setsv_flags(sv, old, SV_NOSTEAL);
9765     return sv;
9766 }
9767
9768 /*
9769 =for apidoc sv_reset
9770
9771 Underlying implementation for the C<reset> Perl function.
9772 Note that the perl-level function is vaguely deprecated.
9773
9774 =cut
9775 */
9776
9777 void
9778 Perl_sv_reset(pTHX_ const char *s, HV *const stash)
9779 {
9780     PERL_ARGS_ASSERT_SV_RESET;
9781
9782     sv_resetpvn(*s ? s : NULL, strlen(s), stash);
9783 }
9784
9785 void
9786 Perl_sv_resetpvn(pTHX_ const char *s, STRLEN len, HV * const stash)
9787 {
9788     char todo[PERL_UCHAR_MAX+1];
9789     const char *send;
9790
9791     if (!stash || SvTYPE(stash) != SVt_PVHV)
9792         return;
9793
9794     if (!s) {           /* reset ?? searches */
9795         MAGIC * const mg = mg_find((const SV *)stash, PERL_MAGIC_symtab);
9796         if (mg) {
9797             const U32 count = mg->mg_len / sizeof(PMOP**);
9798             PMOP **pmp = (PMOP**) mg->mg_ptr;
9799             PMOP *const *const end = pmp + count;
9800
9801             while (pmp < end) {
9802 #ifdef USE_ITHREADS
9803                 SvREADONLY_off(PL_regex_pad[(*pmp)->op_pmoffset]);
9804 #else
9805                 (*pmp)->op_pmflags &= ~PMf_USED;
9806 #endif
9807                 ++pmp;
9808             }
9809         }
9810         return;
9811     }
9812
9813     /* reset variables */
9814
9815     if (!HvARRAY(stash))
9816         return;
9817
9818     Zero(todo, 256, char);
9819     send = s + len;
9820     while (s < send) {
9821         I32 max;
9822         I32 i = (unsigned char)*s;
9823         if (s[1] == '-') {
9824             s += 2;
9825         }
9826         max = (unsigned char)*s++;
9827         for ( ; i <= max; i++) {
9828             todo[i] = 1;
9829         }
9830         for (i = 0; i <= (I32) HvMAX(stash); i++) {
9831             HE *entry;
9832             for (entry = HvARRAY(stash)[i];
9833                  entry;
9834                  entry = HeNEXT(entry))
9835             {
9836                 GV *gv;
9837                 SV *sv;
9838
9839                 if (!todo[(U8)*HeKEY(entry)])
9840                     continue;
9841                 gv = MUTABLE_GV(HeVAL(entry));
9842                 if (!isGV(gv))
9843                     continue;
9844                 sv = GvSV(gv);
9845                 if (sv && !SvREADONLY(sv)) {
9846                     SV_CHECK_THINKFIRST_COW_DROP(sv);
9847                     if (!isGV(sv)) SvOK_off(sv);
9848                 }
9849                 if (GvAV(gv)) {
9850                     av_clear(GvAV(gv));
9851                 }
9852                 if (GvHV(gv) && !HvNAME_get(GvHV(gv))) {
9853                     hv_clear(GvHV(gv));
9854                 }
9855             }
9856         }
9857     }
9858 }
9859
9860 /*
9861 =for apidoc sv_2io
9862
9863 Using various gambits, try to get an IO from an SV: the IO slot if its a
9864 GV; or the recursive result if we're an RV; or the IO slot of the symbol
9865 named after the PV if we're a string.
9866
9867 'Get' magic is ignored on the C<sv> passed in, but will be called on
9868 C<SvRV(sv)> if C<sv> is an RV.
9869
9870 =cut
9871 */
9872
9873 IO*
9874 Perl_sv_2io(pTHX_ SV *const sv)
9875 {
9876     IO* io;
9877     GV* gv;
9878
9879     PERL_ARGS_ASSERT_SV_2IO;
9880
9881     switch (SvTYPE(sv)) {
9882     case SVt_PVIO:
9883         io = MUTABLE_IO(sv);
9884         break;
9885     case SVt_PVGV:
9886     case SVt_PVLV:
9887         if (isGV_with_GP(sv)) {
9888             gv = MUTABLE_GV(sv);
9889             io = GvIO(gv);
9890             if (!io)
9891                 Perl_croak(aTHX_ "Bad filehandle: %" HEKf,
9892                                     HEKfARG(GvNAME_HEK(gv)));
9893             break;
9894         }
9895         /* FALLTHROUGH */
9896     default:
9897         if (!SvOK(sv))
9898             Perl_croak(aTHX_ PL_no_usym, "filehandle");
9899         if (SvROK(sv)) {
9900             SvGETMAGIC(SvRV(sv));
9901             return sv_2io(SvRV(sv));
9902         }
9903         gv = gv_fetchsv_nomg(sv, 0, SVt_PVIO);
9904         if (gv)
9905             io = GvIO(gv);
9906         else
9907             io = 0;
9908         if (!io) {
9909             SV *newsv = sv;
9910             if (SvGMAGICAL(sv)) {
9911                 newsv = sv_newmortal();
9912                 sv_setsv_nomg(newsv, sv);
9913             }
9914             Perl_croak(aTHX_ "Bad filehandle: %" SVf, SVfARG(newsv));
9915         }
9916         break;
9917     }
9918     return io;
9919 }
9920
9921 /*
9922 =for apidoc sv_2cv
9923
9924 Using various gambits, try to get a CV from an SV; in addition, try if
9925 possible to set C<*st> and C<*gvp> to the stash and GV associated with it.
9926 The flags in C<lref> are passed to C<gv_fetchsv>.
9927
9928 =cut
9929 */
9930
9931 CV *
9932 Perl_sv_2cv(pTHX_ SV *sv, HV **const st, GV **const gvp, const I32 lref)
9933 {
9934     GV *gv = NULL;
9935     CV *cv = NULL;
9936
9937     PERL_ARGS_ASSERT_SV_2CV;
9938
9939     if (!sv) {
9940         *st = NULL;
9941         *gvp = NULL;
9942         return NULL;
9943     }
9944     switch (SvTYPE(sv)) {
9945     case SVt_PVCV:
9946         *st = CvSTASH(sv);
9947         *gvp = NULL;
9948         return MUTABLE_CV(sv);
9949     case SVt_PVHV:
9950     case SVt_PVAV:
9951         *st = NULL;
9952         *gvp = NULL;
9953         return NULL;
9954     default:
9955         SvGETMAGIC(sv);
9956         if (SvROK(sv)) {
9957             if (SvAMAGIC(sv))
9958                 sv = amagic_deref_call(sv, to_cv_amg);
9959
9960             sv = SvRV(sv);
9961             if (SvTYPE(sv) == SVt_PVCV) {
9962                 cv = MUTABLE_CV(sv);
9963                 *gvp = NULL;
9964                 *st = CvSTASH(cv);
9965                 return cv;
9966             }
9967             else if(SvGETMAGIC(sv), isGV_with_GP(sv))
9968                 gv = MUTABLE_GV(sv);
9969             else
9970                 Perl_croak(aTHX_ "Not a subroutine reference");
9971         }
9972         else if (isGV_with_GP(sv)) {
9973             gv = MUTABLE_GV(sv);
9974         }
9975         else {
9976             gv = gv_fetchsv_nomg(sv, lref, SVt_PVCV);
9977         }
9978         *gvp = gv;
9979         if (!gv) {
9980             *st = NULL;
9981             return NULL;
9982         }
9983         /* Some flags to gv_fetchsv mean don't really create the GV  */
9984         if (!isGV_with_GP(gv)) {
9985             *st = NULL;
9986             return NULL;
9987         }
9988         *st = GvESTASH(gv);
9989         if (lref & ~GV_ADDMG && !GvCVu(gv)) {
9990             /* XXX this is probably not what they think they're getting.
9991              * It has the same effect as "sub name;", i.e. just a forward
9992              * declaration! */
9993             newSTUB(gv,0);
9994         }
9995         return GvCVu(gv);
9996     }
9997 }
9998
9999 /*
10000 =for apidoc sv_true
10001
10002 Returns true if the SV has a true value by Perl's rules.
10003 Use the C<SvTRUE> macro instead, which may call C<sv_true()> or may
10004 instead use an in-line version.
10005
10006 =cut
10007 */
10008
10009 I32
10010 Perl_sv_true(pTHX_ SV *const sv)
10011 {
10012     if (!sv)
10013         return 0;
10014     if (SvPOK(sv)) {
10015         const XPV* const tXpv = (XPV*)SvANY(sv);
10016         if (tXpv &&
10017                 (tXpv->xpv_cur > 1 ||
10018                 (tXpv->xpv_cur && *sv->sv_u.svu_pv != '0')))
10019             return 1;
10020         else
10021             return 0;
10022     }
10023     else {
10024         if (SvIOK(sv))
10025             return SvIVX(sv) != 0;
10026         else {
10027             if (SvNOK(sv))
10028                 return SvNVX(sv) != 0.0;
10029             else
10030                 return sv_2bool(sv);
10031         }
10032     }
10033 }
10034
10035 /*
10036 =for apidoc sv_pvn_force
10037
10038 Get a sensible string out of the SV somehow.
10039 A private implementation of the C<SvPV_force> macro for compilers which
10040 can't cope with complex macro expressions.  Always use the macro instead.
10041
10042 =for apidoc sv_pvn_force_flags
10043
10044 Get a sensible string out of the SV somehow.
10045 If C<flags> has the C<SV_GMAGIC> bit set, will C<mg_get> on C<sv> if
10046 appropriate, else not.  C<sv_pvn_force> and C<sv_pvn_force_nomg> are
10047 implemented in terms of this function.
10048 You normally want to use the various wrapper macros instead: see
10049 C<L</SvPV_force>> and C<L</SvPV_force_nomg>>.
10050
10051 =cut
10052 */
10053
10054 char *
10055 Perl_sv_pvn_force_flags(pTHX_ SV *const sv, STRLEN *const lp, const I32 flags)
10056 {
10057     PERL_ARGS_ASSERT_SV_PVN_FORCE_FLAGS;
10058
10059     if (flags & SV_GMAGIC) SvGETMAGIC(sv);
10060     if (SvTHINKFIRST(sv) && (!SvROK(sv) || SvREADONLY(sv)))
10061         sv_force_normal_flags(sv, 0);
10062
10063     if (SvPOK(sv)) {
10064         if (lp)
10065             *lp = SvCUR(sv);
10066     }
10067     else {
10068         char *s;
10069         STRLEN len;
10070  
10071         if (SvTYPE(sv) > SVt_PVLV
10072             || isGV_with_GP(sv))
10073             /* diag_listed_as: Can't coerce %s to %s in %s */
10074             Perl_croak(aTHX_ "Can't coerce %s to string in %s", sv_reftype(sv,0),
10075                 OP_DESC(PL_op));
10076         s = sv_2pv_flags(sv, &len, flags &~ SV_GMAGIC);
10077         if (!s) {
10078           s = (char *)"";
10079         }
10080         if (lp)
10081             *lp = len;
10082
10083         if (SvTYPE(sv) < SVt_PV ||
10084             s != SvPVX_const(sv)) {     /* Almost, but not quite, sv_setpvn() */
10085             if (SvROK(sv))
10086                 sv_unref(sv);
10087             SvUPGRADE(sv, SVt_PV);              /* Never FALSE */
10088             SvGROW(sv, len + 1);
10089             Move(s,SvPVX(sv),len,char);
10090             SvCUR_set(sv, len);
10091             SvPVX(sv)[len] = '\0';
10092         }
10093         if (!SvPOK(sv)) {
10094             SvPOK_on(sv);               /* validate pointer */
10095             SvTAINT(sv);
10096             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2pv(%s)\n",
10097                                   PTR2UV(sv),SvPVX_const(sv)));
10098         }
10099     }
10100     (void)SvPOK_only_UTF8(sv);
10101     return SvPVX_mutable(sv);
10102 }
10103
10104 /*
10105 =for apidoc sv_pvbyten_force
10106
10107 The backend for the C<SvPVbytex_force> macro.  Always use the macro
10108 instead.
10109
10110 =cut
10111 */
10112
10113 char *
10114 Perl_sv_pvbyten_force(pTHX_ SV *const sv, STRLEN *const lp)
10115 {
10116     PERL_ARGS_ASSERT_SV_PVBYTEN_FORCE;
10117
10118     sv_pvn_force(sv,lp);
10119     sv_utf8_downgrade(sv,0);
10120     *lp = SvCUR(sv);
10121     return SvPVX(sv);
10122 }
10123
10124 /*
10125 =for apidoc sv_pvutf8n_force
10126
10127 The backend for the C<SvPVutf8x_force> macro.  Always use the macro
10128 instead.
10129
10130 =cut
10131 */
10132
10133 char *
10134 Perl_sv_pvutf8n_force(pTHX_ SV *const sv, STRLEN *const lp)
10135 {
10136     PERL_ARGS_ASSERT_SV_PVUTF8N_FORCE;
10137
10138     sv_pvn_force(sv,0);
10139     sv_utf8_upgrade_nomg(sv);
10140     *lp = SvCUR(sv);
10141     return SvPVX(sv);
10142 }
10143
10144 /*
10145 =for apidoc sv_reftype
10146
10147 Returns a string describing what the SV is a reference to.
10148
10149 If ob is true and the SV is blessed, the string is the class name,
10150 otherwise it is the type of the SV, "SCALAR", "ARRAY" etc.
10151
10152 =cut
10153 */
10154
10155 const char *
10156 Perl_sv_reftype(pTHX_ const SV *const sv, const int ob)
10157 {
10158     PERL_ARGS_ASSERT_SV_REFTYPE;
10159     if (ob && SvOBJECT(sv)) {
10160         return SvPV_nolen_const(sv_ref(NULL, sv, ob));
10161     }
10162     else {
10163         /* WARNING - There is code, for instance in mg.c, that assumes that
10164          * the only reason that sv_reftype(sv,0) would return a string starting
10165          * with 'L' or 'S' is that it is a LVALUE or a SCALAR.
10166          * Yes this a dodgy way to do type checking, but it saves practically reimplementing
10167          * this routine inside other subs, and it saves time.
10168          * Do not change this assumption without searching for "dodgy type check" in
10169          * the code.
10170          * - Yves */
10171         switch (SvTYPE(sv)) {
10172         case SVt_NULL:
10173         case SVt_IV:
10174         case SVt_NV:
10175         case SVt_PV:
10176         case SVt_PVIV:
10177         case SVt_PVNV:
10178         case SVt_PVMG:
10179                                 if (SvVOK(sv))
10180                                     return "VSTRING";
10181                                 if (SvROK(sv))
10182                                     return "REF";
10183                                 else
10184                                     return "SCALAR";
10185
10186         case SVt_PVLV:          return (char *)  (SvROK(sv) ? "REF"
10187                                 /* tied lvalues should appear to be
10188                                  * scalars for backwards compatibility */
10189                                 : (isALPHA_FOLD_EQ(LvTYPE(sv), 't'))
10190                                     ? "SCALAR" : "LVALUE");
10191         case SVt_PVAV:          return "ARRAY";
10192         case SVt_PVHV:          return "HASH";
10193         case SVt_PVCV:          return "CODE";
10194         case SVt_PVGV:          return (char *) (isGV_with_GP(sv)
10195                                     ? "GLOB" : "SCALAR");
10196         case SVt_PVFM:          return "FORMAT";
10197         case SVt_PVIO:          return "IO";
10198         case SVt_INVLIST:       return "INVLIST";
10199         case SVt_REGEXP:        return "REGEXP";
10200         default:                return "UNKNOWN";
10201         }
10202     }
10203 }
10204
10205 /*
10206 =for apidoc sv_ref
10207
10208 Returns a SV describing what the SV passed in is a reference to.
10209
10210 dst can be a SV to be set to the description or NULL, in which case a
10211 mortal SV is returned.
10212
10213 If ob is true and the SV is blessed, the description is the class
10214 name, otherwise it is the type of the SV, "SCALAR", "ARRAY" etc.
10215
10216 =cut
10217 */
10218
10219 SV *
10220 Perl_sv_ref(pTHX_ SV *dst, const SV *const sv, const int ob)
10221 {
10222     PERL_ARGS_ASSERT_SV_REF;
10223
10224     if (!dst)
10225         dst = sv_newmortal();
10226
10227     if (ob && SvOBJECT(sv)) {
10228         HvNAME_get(SvSTASH(sv))
10229                     ? sv_sethek(dst, HvNAME_HEK(SvSTASH(sv)))
10230                     : sv_setpvs(dst, "__ANON__");
10231     }
10232     else {
10233         const char * reftype = sv_reftype(sv, 0);
10234         sv_setpv(dst, reftype);
10235     }
10236     return dst;
10237 }
10238
10239 /*
10240 =for apidoc sv_isobject
10241
10242 Returns a boolean indicating whether the SV is an RV pointing to a blessed
10243 object.  If the SV is not an RV, or if the object is not blessed, then this
10244 will return false.
10245
10246 =cut
10247 */
10248
10249 int
10250 Perl_sv_isobject(pTHX_ SV *sv)
10251 {
10252     if (!sv)
10253         return 0;
10254     SvGETMAGIC(sv);
10255     if (!SvROK(sv))
10256         return 0;
10257     sv = SvRV(sv);
10258     if (!SvOBJECT(sv))
10259         return 0;
10260     return 1;
10261 }
10262
10263 /*
10264 =for apidoc sv_isa
10265
10266 Returns a boolean indicating whether the SV is blessed into the specified
10267 class.  This does not check for subtypes; use C<sv_derived_from> to verify
10268 an inheritance relationship.
10269
10270 =cut
10271 */
10272
10273 int
10274 Perl_sv_isa(pTHX_ SV *sv, const char *const name)
10275 {
10276     const char *hvname;
10277
10278     PERL_ARGS_ASSERT_SV_ISA;
10279
10280     if (!sv)
10281         return 0;
10282     SvGETMAGIC(sv);
10283     if (!SvROK(sv))
10284         return 0;
10285     sv = SvRV(sv);
10286     if (!SvOBJECT(sv))
10287         return 0;
10288     hvname = HvNAME_get(SvSTASH(sv));
10289     if (!hvname)
10290         return 0;
10291
10292     return strEQ(hvname, name);
10293 }
10294
10295 /*
10296 =for apidoc newSVrv
10297
10298 Creates a new SV for the existing RV, C<rv>, to point to.  If C<rv> is not an
10299 RV then it will be upgraded to one.  If C<classname> is non-null then the new
10300 SV will be blessed in the specified package.  The new SV is returned and its
10301 reference count is 1.  The reference count 1 is owned by C<rv>.
10302
10303 =cut
10304 */
10305
10306 SV*
10307 Perl_newSVrv(pTHX_ SV *const rv, const char *const classname)
10308 {
10309     SV *sv;
10310
10311     PERL_ARGS_ASSERT_NEWSVRV;
10312
10313     new_SV(sv);
10314
10315     SV_CHECK_THINKFIRST_COW_DROP(rv);
10316
10317     if (UNLIKELY( SvTYPE(rv) >= SVt_PVMG )) {
10318         const U32 refcnt = SvREFCNT(rv);
10319         SvREFCNT(rv) = 0;
10320         sv_clear(rv);
10321         SvFLAGS(rv) = 0;
10322         SvREFCNT(rv) = refcnt;
10323
10324         sv_upgrade(rv, SVt_IV);
10325     } else if (SvROK(rv)) {
10326         SvREFCNT_dec(SvRV(rv));
10327     } else {
10328         prepare_SV_for_RV(rv);
10329     }
10330
10331     SvOK_off(rv);
10332     SvRV_set(rv, sv);
10333     SvROK_on(rv);
10334
10335     if (classname) {
10336         HV* const stash = gv_stashpv(classname, GV_ADD);
10337         (void)sv_bless(rv, stash);
10338     }
10339     return sv;
10340 }
10341
10342 SV *
10343 Perl_newSVavdefelem(pTHX_ AV *av, SSize_t ix, bool extendible)
10344 {
10345     SV * const lv = newSV_type(SVt_PVLV);
10346     PERL_ARGS_ASSERT_NEWSVAVDEFELEM;
10347     LvTYPE(lv) = 'y';
10348     sv_magic(lv, NULL, PERL_MAGIC_defelem, NULL, 0);
10349     LvTARG(lv) = SvREFCNT_inc_simple_NN(av);
10350     LvSTARGOFF(lv) = ix;
10351     LvTARGLEN(lv) = extendible ? 1 : (STRLEN)UV_MAX;
10352     return lv;
10353 }
10354
10355 /*
10356 =for apidoc sv_setref_pv
10357
10358 Copies a pointer into a new SV, optionally blessing the SV.  The C<rv>
10359 argument will be upgraded to an RV.  That RV will be modified to point to
10360 the new SV.  If the C<pv> argument is C<NULL>, then C<PL_sv_undef> will be placed
10361 into the SV.  The C<classname> argument indicates the package for the
10362 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10363 will have a reference count of 1, and the RV will be returned.
10364
10365 Do not use with other Perl types such as HV, AV, SV, CV, because those
10366 objects will become corrupted by the pointer copy process.
10367
10368 Note that C<sv_setref_pvn> copies the string while this copies the pointer.
10369
10370 =cut
10371 */
10372
10373 SV*
10374 Perl_sv_setref_pv(pTHX_ SV *const rv, const char *const classname, void *const pv)
10375 {
10376     PERL_ARGS_ASSERT_SV_SETREF_PV;
10377
10378     if (!pv) {
10379         sv_set_undef(rv);
10380         SvSETMAGIC(rv);
10381     }
10382     else
10383         sv_setiv(newSVrv(rv,classname), PTR2IV(pv));
10384     return rv;
10385 }
10386
10387 /*
10388 =for apidoc sv_setref_iv
10389
10390 Copies an integer into a new SV, optionally blessing the SV.  The C<rv>
10391 argument will be upgraded to an RV.  That RV will be modified to point to
10392 the new SV.  The C<classname> argument indicates the package for the
10393 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10394 will have a reference count of 1, and the RV will be returned.
10395
10396 =cut
10397 */
10398
10399 SV*
10400 Perl_sv_setref_iv(pTHX_ SV *const rv, const char *const classname, const IV iv)
10401 {
10402     PERL_ARGS_ASSERT_SV_SETREF_IV;
10403
10404     sv_setiv(newSVrv(rv,classname), iv);
10405     return rv;
10406 }
10407
10408 /*
10409 =for apidoc sv_setref_uv
10410
10411 Copies an unsigned integer into a new SV, optionally blessing the SV.  The C<rv>
10412 argument will be upgraded to an RV.  That RV will be modified to point to
10413 the new SV.  The C<classname> argument indicates the package for the
10414 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10415 will have a reference count of 1, and the RV will be returned.
10416
10417 =cut
10418 */
10419
10420 SV*
10421 Perl_sv_setref_uv(pTHX_ SV *const rv, const char *const classname, const UV uv)
10422 {
10423     PERL_ARGS_ASSERT_SV_SETREF_UV;
10424
10425     sv_setuv(newSVrv(rv,classname), uv);
10426     return rv;
10427 }
10428
10429 /*
10430 =for apidoc sv_setref_nv
10431
10432 Copies a double into a new SV, optionally blessing the SV.  The C<rv>
10433 argument will be upgraded to an RV.  That RV will be modified to point to
10434 the new SV.  The C<classname> argument indicates the package for the
10435 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10436 will have a reference count of 1, and the RV will be returned.
10437
10438 =cut
10439 */
10440
10441 SV*
10442 Perl_sv_setref_nv(pTHX_ SV *const rv, const char *const classname, const NV nv)
10443 {
10444     PERL_ARGS_ASSERT_SV_SETREF_NV;
10445
10446     sv_setnv(newSVrv(rv,classname), nv);
10447     return rv;
10448 }
10449
10450 /*
10451 =for apidoc sv_setref_pvn
10452
10453 Copies a string into a new SV, optionally blessing the SV.  The length of the
10454 string must be specified with C<n>.  The C<rv> argument will be upgraded to
10455 an RV.  That RV will be modified to point to the new SV.  The C<classname>
10456 argument indicates the package for the blessing.  Set C<classname> to
10457 C<NULL> to avoid the blessing.  The new SV will have a reference count
10458 of 1, and the RV will be returned.
10459
10460 Note that C<sv_setref_pv> copies the pointer while this copies the string.
10461
10462 =cut
10463 */
10464
10465 SV*
10466 Perl_sv_setref_pvn(pTHX_ SV *const rv, const char *const classname,
10467                    const char *const pv, const STRLEN n)
10468 {
10469     PERL_ARGS_ASSERT_SV_SETREF_PVN;
10470
10471     sv_setpvn(newSVrv(rv,classname), pv, n);
10472     return rv;
10473 }
10474
10475 /*
10476 =for apidoc sv_bless
10477
10478 Blesses an SV into a specified package.  The SV must be an RV.  The package
10479 must be designated by its stash (see C<L</gv_stashpv>>).  The reference count
10480 of the SV is unaffected.
10481
10482 =cut
10483 */
10484
10485 SV*
10486 Perl_sv_bless(pTHX_ SV *const sv, HV *const stash)
10487 {
10488     SV *tmpRef;
10489     HV *oldstash = NULL;
10490
10491     PERL_ARGS_ASSERT_SV_BLESS;
10492
10493     SvGETMAGIC(sv);
10494     if (!SvROK(sv))
10495         Perl_croak(aTHX_ "Can't bless non-reference value");
10496     tmpRef = SvRV(sv);
10497     if (SvFLAGS(tmpRef) & (SVs_OBJECT|SVf_READONLY|SVf_PROTECT)) {
10498         if (SvREADONLY(tmpRef))
10499             Perl_croak_no_modify();
10500         if (SvOBJECT(tmpRef)) {
10501             oldstash = SvSTASH(tmpRef);
10502         }
10503     }
10504     SvOBJECT_on(tmpRef);
10505     SvUPGRADE(tmpRef, SVt_PVMG);
10506     SvSTASH_set(tmpRef, MUTABLE_HV(SvREFCNT_inc_simple(stash)));
10507     SvREFCNT_dec(oldstash);
10508
10509     if(SvSMAGICAL(tmpRef))
10510         if(mg_find(tmpRef, PERL_MAGIC_ext) || mg_find(tmpRef, PERL_MAGIC_uvar))
10511             mg_set(tmpRef);
10512
10513
10514
10515     return sv;
10516 }
10517
10518 /* Downgrades a PVGV to a PVMG. If it's actually a PVLV, we leave the type
10519  * as it is after unglobbing it.
10520  */
10521
10522 PERL_STATIC_INLINE void
10523 S_sv_unglob(pTHX_ SV *const sv, U32 flags)
10524 {
10525     void *xpvmg;
10526     HV *stash;
10527     SV * const temp = flags & SV_COW_DROP_PV ? NULL : sv_newmortal();
10528
10529     PERL_ARGS_ASSERT_SV_UNGLOB;
10530
10531     assert(SvTYPE(sv) == SVt_PVGV || SvTYPE(sv) == SVt_PVLV);
10532     SvFAKE_off(sv);
10533     if (!(flags & SV_COW_DROP_PV))
10534         gv_efullname3(temp, MUTABLE_GV(sv), "*");
10535
10536     SvREFCNT_inc_simple_void_NN(sv_2mortal(sv));
10537     if (GvGP(sv)) {
10538         if(GvCVu((const GV *)sv) && (stash = GvSTASH(MUTABLE_GV(sv)))
10539            && HvNAME_get(stash))
10540             mro_method_changed_in(stash);
10541         gp_free(MUTABLE_GV(sv));
10542     }
10543     if (GvSTASH(sv)) {
10544         sv_del_backref(MUTABLE_SV(GvSTASH(sv)), sv);
10545         GvSTASH(sv) = NULL;
10546     }
10547     GvMULTI_off(sv);
10548     if (GvNAME_HEK(sv)) {
10549         unshare_hek(GvNAME_HEK(sv));
10550     }
10551     isGV_with_GP_off(sv);
10552
10553     if(SvTYPE(sv) == SVt_PVGV) {
10554         /* need to keep SvANY(sv) in the right arena */
10555         xpvmg = new_XPVMG();
10556         StructCopy(SvANY(sv), xpvmg, XPVMG);
10557         del_XPVGV(SvANY(sv));
10558         SvANY(sv) = xpvmg;
10559
10560         SvFLAGS(sv) &= ~SVTYPEMASK;
10561         SvFLAGS(sv) |= SVt_PVMG;
10562     }
10563
10564     /* Intentionally not calling any local SET magic, as this isn't so much a
10565        set operation as merely an internal storage change.  */
10566     if (flags & SV_COW_DROP_PV) SvOK_off(sv);
10567     else sv_setsv_flags(sv, temp, 0);
10568
10569     if ((const GV *)sv == PL_last_in_gv)
10570         PL_last_in_gv = NULL;
10571     else if ((const GV *)sv == PL_statgv)
10572         PL_statgv = NULL;
10573 }
10574
10575 /*
10576 =for apidoc sv_unref_flags
10577
10578 Unsets the RV status of the SV, and decrements the reference count of
10579 whatever was being referenced by the RV.  This can almost be thought of
10580 as a reversal of C<newSVrv>.  The C<cflags> argument can contain
10581 C<SV_IMMEDIATE_UNREF> to force the reference count to be decremented
10582 (otherwise the decrementing is conditional on the reference count being
10583 different from one or the reference being a readonly SV).
10584 See C<L</SvROK_off>>.
10585
10586 =cut
10587 */
10588
10589 void
10590 Perl_sv_unref_flags(pTHX_ SV *const ref, const U32 flags)
10591 {
10592     SV* const target = SvRV(ref);
10593
10594     PERL_ARGS_ASSERT_SV_UNREF_FLAGS;
10595
10596     if (SvWEAKREF(ref)) {
10597         sv_del_backref(target, ref);
10598         SvWEAKREF_off(ref);
10599         SvRV_set(ref, NULL);
10600         return;
10601     }
10602     SvRV_set(ref, NULL);
10603     SvROK_off(ref);
10604     /* You can't have a || SvREADONLY(target) here, as $a = $$a, where $a was
10605        assigned to as BEGIN {$a = \"Foo"} will fail.  */
10606     if (SvREFCNT(target) != 1 || (flags & SV_IMMEDIATE_UNREF))
10607         SvREFCNT_dec_NN(target);
10608     else /* XXX Hack, but hard to make $a=$a->[1] work otherwise */
10609         sv_2mortal(target);     /* Schedule for freeing later */
10610 }
10611
10612 /*
10613 =for apidoc sv_untaint
10614
10615 Untaint an SV.  Use C<SvTAINTED_off> instead.
10616
10617 =cut
10618 */
10619
10620 void
10621 Perl_sv_untaint(pTHX_ SV *const sv)
10622 {
10623     PERL_ARGS_ASSERT_SV_UNTAINT;
10624     PERL_UNUSED_CONTEXT;
10625
10626     if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
10627         MAGIC * const mg = mg_find(sv, PERL_MAGIC_taint);
10628         if (mg)
10629             mg->mg_len &= ~1;
10630     }
10631 }
10632
10633 /*
10634 =for apidoc sv_tainted
10635
10636 Test an SV for taintedness.  Use C<SvTAINTED> instead.
10637
10638 =cut
10639 */
10640
10641 bool
10642 Perl_sv_tainted(pTHX_ SV *const sv)
10643 {
10644     PERL_ARGS_ASSERT_SV_TAINTED;
10645     PERL_UNUSED_CONTEXT;
10646
10647     if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
10648         const MAGIC * const mg = mg_find(sv, PERL_MAGIC_taint);
10649         if (mg && (mg->mg_len & 1) )
10650             return TRUE;
10651     }
10652     return FALSE;
10653 }
10654
10655 #ifndef NO_MATHOMS  /* Can't move these to mathoms.c because call uiv_2buf(),
10656                        private to this file */
10657
10658 /*
10659 =for apidoc sv_setpviv
10660
10661 Copies an integer into the given SV, also updating its string value.
10662 Does not handle 'set' magic.  See C<L</sv_setpviv_mg>>.
10663
10664 =cut
10665 */
10666
10667 void
10668 Perl_sv_setpviv(pTHX_ SV *const sv, const IV iv)
10669 {
10670     char buf[TYPE_CHARS(UV)];
10671     char *ebuf;
10672     char * const ptr = uiv_2buf(buf, iv, 0, 0, &ebuf);
10673
10674     PERL_ARGS_ASSERT_SV_SETPVIV;
10675
10676     sv_setpvn(sv, ptr, ebuf - ptr);
10677 }
10678
10679 /*
10680 =for apidoc sv_setpviv_mg
10681
10682 Like C<sv_setpviv>, but also handles 'set' magic.
10683
10684 =cut
10685 */
10686
10687 void
10688 Perl_sv_setpviv_mg(pTHX_ SV *const sv, const IV iv)
10689 {
10690     PERL_ARGS_ASSERT_SV_SETPVIV_MG;
10691
10692     sv_setpviv(sv, iv);
10693     SvSETMAGIC(sv);
10694 }
10695
10696 #endif  /* NO_MATHOMS */
10697
10698 #if defined(PERL_IMPLICIT_CONTEXT)
10699
10700 /* pTHX_ magic can't cope with varargs, so this is a no-context
10701  * version of the main function, (which may itself be aliased to us).
10702  * Don't access this version directly.
10703  */
10704
10705 void
10706 Perl_sv_setpvf_nocontext(SV *const sv, const char *const pat, ...)
10707 {
10708     dTHX;
10709     va_list args;
10710
10711     PERL_ARGS_ASSERT_SV_SETPVF_NOCONTEXT;
10712
10713     va_start(args, pat);
10714     sv_vsetpvf(sv, pat, &args);
10715     va_end(args);
10716 }
10717
10718 /* pTHX_ magic can't cope with varargs, so this is a no-context
10719  * version of the main function, (which may itself be aliased to us).
10720  * Don't access this version directly.
10721  */
10722
10723 void
10724 Perl_sv_setpvf_mg_nocontext(SV *const sv, const char *const pat, ...)
10725 {
10726     dTHX;
10727     va_list args;
10728
10729     PERL_ARGS_ASSERT_SV_SETPVF_MG_NOCONTEXT;
10730
10731     va_start(args, pat);
10732     sv_vsetpvf_mg(sv, pat, &args);
10733     va_end(args);
10734 }
10735 #endif
10736
10737 /*
10738 =for apidoc sv_setpvf
10739
10740 Works like C<sv_catpvf> but copies the text into the SV instead of
10741 appending it.  Does not handle 'set' magic.  See C<L</sv_setpvf_mg>>.
10742
10743 =cut
10744 */
10745
10746 void
10747 Perl_sv_setpvf(pTHX_ SV *const sv, const char *const pat, ...)
10748 {
10749     va_list args;
10750
10751     PERL_ARGS_ASSERT_SV_SETPVF;
10752
10753     va_start(args, pat);
10754     sv_vsetpvf(sv, pat, &args);
10755     va_end(args);
10756 }
10757
10758 /*
10759 =for apidoc sv_vsetpvf
10760
10761 Works like C<sv_vcatpvf> but copies the text into the SV instead of
10762 appending it.  Does not handle 'set' magic.  See C<L</sv_vsetpvf_mg>>.
10763
10764 Usually used via its frontend C<sv_setpvf>.
10765
10766 =cut
10767 */
10768
10769 void
10770 Perl_sv_vsetpvf(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10771 {
10772     PERL_ARGS_ASSERT_SV_VSETPVF;
10773
10774     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
10775 }
10776
10777 /*
10778 =for apidoc sv_setpvf_mg
10779
10780 Like C<sv_setpvf>, but also handles 'set' magic.
10781
10782 =cut
10783 */
10784
10785 void
10786 Perl_sv_setpvf_mg(pTHX_ SV *const sv, const char *const pat, ...)
10787 {
10788     va_list args;
10789
10790     PERL_ARGS_ASSERT_SV_SETPVF_MG;
10791
10792     va_start(args, pat);
10793     sv_vsetpvf_mg(sv, pat, &args);
10794     va_end(args);
10795 }
10796
10797 /*
10798 =for apidoc sv_vsetpvf_mg
10799
10800 Like C<sv_vsetpvf>, but also handles 'set' magic.
10801
10802 Usually used via its frontend C<sv_setpvf_mg>.
10803
10804 =cut
10805 */
10806
10807 void
10808 Perl_sv_vsetpvf_mg(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10809 {
10810     PERL_ARGS_ASSERT_SV_VSETPVF_MG;
10811
10812     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
10813     SvSETMAGIC(sv);
10814 }
10815
10816 #if defined(PERL_IMPLICIT_CONTEXT)
10817
10818 /* pTHX_ magic can't cope with varargs, so this is a no-context
10819  * version of the main function, (which may itself be aliased to us).
10820  * Don't access this version directly.
10821  */
10822
10823 void
10824 Perl_sv_catpvf_nocontext(SV *const sv, const char *const pat, ...)
10825 {
10826     dTHX;
10827     va_list args;
10828
10829     PERL_ARGS_ASSERT_SV_CATPVF_NOCONTEXT;
10830
10831     va_start(args, pat);
10832     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10833     va_end(args);
10834 }
10835
10836 /* pTHX_ magic can't cope with varargs, so this is a no-context
10837  * version of the main function, (which may itself be aliased to us).
10838  * Don't access this version directly.
10839  */
10840
10841 void
10842 Perl_sv_catpvf_mg_nocontext(SV *const sv, const char *const pat, ...)
10843 {
10844     dTHX;
10845     va_list args;
10846
10847     PERL_ARGS_ASSERT_SV_CATPVF_MG_NOCONTEXT;
10848
10849     va_start(args, pat);
10850     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10851     SvSETMAGIC(sv);
10852     va_end(args);
10853 }
10854 #endif
10855
10856 /*
10857 =for apidoc sv_catpvf
10858
10859 Processes its arguments like C<sv_catpvfn>, and appends the formatted
10860 output to an SV.  As with C<sv_catpvfn> called with a non-null C-style
10861 variable argument list, argument reordering is not supported.
10862 If the appended data contains "wide" characters
10863 (including, but not limited to, SVs with a UTF-8 PV formatted with C<%s>,
10864 and characters >255 formatted with C<%c>), the original SV might get
10865 upgraded to UTF-8.  Handles 'get' magic, but not 'set' magic.  See
10866 C<L</sv_catpvf_mg>>.  If the original SV was UTF-8, the pattern should be
10867 valid UTF-8; if the original SV was bytes, the pattern should be too.
10868
10869 =cut */
10870
10871 void
10872 Perl_sv_catpvf(pTHX_ SV *const sv, const char *const pat, ...)
10873 {
10874     va_list args;
10875
10876     PERL_ARGS_ASSERT_SV_CATPVF;
10877
10878     va_start(args, pat);
10879     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10880     va_end(args);
10881 }
10882
10883 /*
10884 =for apidoc sv_vcatpvf
10885
10886 Processes its arguments like C<sv_catpvfn> called with a non-null C-style
10887 variable argument list, and appends the formatted output
10888 to an SV.  Does not handle 'set' magic.  See C<L</sv_vcatpvf_mg>>.
10889
10890 Usually used via its frontend C<sv_catpvf>.
10891
10892 =cut
10893 */
10894
10895 void
10896 Perl_sv_vcatpvf(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10897 {
10898     PERL_ARGS_ASSERT_SV_VCATPVF;
10899
10900     sv_vcatpvfn_flags(sv, pat, strlen(pat), args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10901 }
10902
10903 /*
10904 =for apidoc sv_catpvf_mg
10905
10906 Like C<sv_catpvf>, but also handles 'set' magic.
10907
10908 =cut
10909 */
10910
10911 void
10912 Perl_sv_catpvf_mg(pTHX_ SV *const sv, const char *const pat, ...)
10913 {
10914     va_list args;
10915
10916     PERL_ARGS_ASSERT_SV_CATPVF_MG;
10917
10918     va_start(args, pat);
10919     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10920     SvSETMAGIC(sv);
10921     va_end(args);
10922 }
10923
10924 /*
10925 =for apidoc sv_vcatpvf_mg
10926
10927 Like C<sv_vcatpvf>, but also handles 'set' magic.
10928
10929 Usually used via its frontend C<sv_catpvf_mg>.
10930
10931 =cut
10932 */
10933
10934 void
10935 Perl_sv_vcatpvf_mg(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10936 {
10937     PERL_ARGS_ASSERT_SV_VCATPVF_MG;
10938
10939     sv_vcatpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
10940     SvSETMAGIC(sv);
10941 }
10942
10943 /*
10944 =for apidoc sv_vsetpvfn
10945
10946 Works like C<sv_vcatpvfn> but copies the text into the SV instead of
10947 appending it.
10948
10949 Usually used via one of its frontends C<sv_vsetpvf> and C<sv_vsetpvf_mg>.
10950
10951 =cut
10952 */
10953
10954 void
10955 Perl_sv_vsetpvfn(pTHX_ SV *const sv, const char *const pat, const STRLEN patlen,
10956                  va_list *const args, SV **const svargs, const I32 svmax, bool *const maybe_tainted)
10957 {
10958     PERL_ARGS_ASSERT_SV_VSETPVFN;
10959
10960     SvPVCLEAR(sv);
10961     sv_vcatpvfn_flags(sv, pat, patlen, args, svargs, svmax, maybe_tainted, 0);
10962 }
10963
10964
10965 /*
10966  * Warn of missing argument to sprintf. The value used in place of such
10967  * arguments should be &PL_sv_no; an undefined value would yield
10968  * inappropriate "use of uninit" warnings [perl #71000].
10969  */
10970 STATIC void
10971 S_warn_vcatpvfn_missing_argument(pTHX) {
10972     if (ckWARN(WARN_MISSING)) {
10973         Perl_warner(aTHX_ packWARN(WARN_MISSING), "Missing argument in %s",
10974                 PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
10975     }
10976 }
10977
10978
10979 STATIC I32
10980 S_expect_number(pTHX_ char **const pattern)
10981 {
10982     I32 var = 0;
10983
10984     PERL_ARGS_ASSERT_EXPECT_NUMBER;
10985
10986     switch (**pattern) {
10987     case '1': case '2': case '3':
10988     case '4': case '5': case '6':
10989     case '7': case '8': case '9':
10990         var = *(*pattern)++ - '0';
10991         while (isDIGIT(**pattern)) {
10992             const I32 tmp = var * 10 + (*(*pattern)++ - '0');
10993             if (tmp < var)
10994                 Perl_croak(aTHX_ "Integer overflow in format string for %s", (PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn"));
10995             var = tmp;
10996         }
10997     }
10998     return var;
10999 }
11000
11001 STATIC char *
11002 S_F0convert(NV nv, char *const endbuf, STRLEN *const len)
11003 {
11004     const int neg = nv < 0;
11005     UV uv;
11006
11007     PERL_ARGS_ASSERT_F0CONVERT;
11008
11009     if (UNLIKELY(Perl_isinfnan(nv))) {
11010         STRLEN n = S_infnan_2pv(nv, endbuf - *len, *len, 0);
11011         *len = n;
11012         return endbuf - n;
11013     }
11014     if (neg)
11015         nv = -nv;
11016     if (nv < UV_MAX) {
11017         char *p = endbuf;
11018         nv += 0.5;
11019         uv = (UV)nv;
11020         if (uv & 1 && uv == nv)
11021             uv--;                       /* Round to even */
11022         do {
11023             const unsigned dig = uv % 10;
11024             *--p = '0' + dig;
11025         } while (uv /= 10);
11026         if (neg)
11027             *--p = '-';
11028         *len = endbuf - p;
11029         return p;
11030     }
11031     return NULL;
11032 }
11033
11034
11035 /*
11036 =for apidoc sv_vcatpvfn
11037
11038 =for apidoc sv_vcatpvfn_flags
11039
11040 Processes its arguments like C<vsprintf> and appends the formatted output
11041 to an SV.  Uses an array of SVs if the C-style variable argument list is
11042 missing (C<NULL>). Argument reordering (using format specifiers like C<%2$d>
11043 or C<%*2$d>) is supported only when using an array of SVs; using a C-style
11044 C<va_list> argument list with a format string that uses argument reordering
11045 will yield an exception.
11046
11047 When running with taint checks enabled, indicates via
11048 C<maybe_tainted> if results are untrustworthy (often due to the use of
11049 locales).
11050
11051 If called as C<sv_vcatpvfn> or flags has the C<SV_GMAGIC> bit set, calls get magic.
11052
11053 Usually used via one of its frontends C<sv_vcatpvf> and C<sv_vcatpvf_mg>.
11054
11055 =cut
11056 */
11057
11058 #define VECTORIZE_ARGS  vecsv = va_arg(*args, SV*);\
11059                         vecstr = (U8*)SvPV_const(vecsv,veclen);\
11060                         vec_utf8 = DO_UTF8(vecsv);
11061
11062 /* XXX maybe_tainted is never assigned to, so the doc above is lying. */
11063
11064 void
11065 Perl_sv_vcatpvfn(pTHX_ SV *const sv, const char *const pat, const STRLEN patlen,
11066                  va_list *const args, SV **const svargs, const I32 svmax, bool *const maybe_tainted)
11067 {
11068     PERL_ARGS_ASSERT_SV_VCATPVFN;
11069
11070     sv_vcatpvfn_flags(sv, pat, patlen, args, svargs, svmax, maybe_tainted, SV_GMAGIC|SV_SMAGIC);
11071 }
11072
11073 #ifdef LONGDOUBLE_DOUBLEDOUBLE
11074 /* The first double can be as large as 2**1023, or '1' x '0' x 1023.
11075  * The second double can be as small as 2**-1074, or '0' x 1073 . '1'.
11076  * The sum of them can be '1' . '0' x 2096 . '1', with implied radix point
11077  * after the first 1023 zero bits.
11078  *
11079  * XXX The 2098 is quite large (262.25 bytes) and therefore some sort
11080  * of dynamically growing buffer might be better, start at just 16 bytes
11081  * (for example) and grow only when necessary.  Or maybe just by looking
11082  * at the exponents of the two doubles? */
11083 #  define DOUBLEDOUBLE_MAXBITS 2098
11084 #endif
11085
11086 /* vhex will contain the values (0..15) of the hex digits ("nybbles"
11087  * of 4 bits); 1 for the implicit 1, and the mantissa bits, four bits
11088  * per xdigit.  For the double-double case, this can be rather many.
11089  * The non-double-double-long-double overshoots since all bits of NV
11090  * are not mantissa bits, there are also exponent bits. */
11091 #ifdef LONGDOUBLE_DOUBLEDOUBLE
11092 #  define VHEX_SIZE (3+DOUBLEDOUBLE_MAXBITS/4)
11093 #else
11094 #  define VHEX_SIZE (1+(NVSIZE * 8)/4)
11095 #endif
11096
11097 /* If we do not have a known long double format, (including not using
11098  * long doubles, or long doubles being equal to doubles) then we will
11099  * fall back to the ldexp/frexp route, with which we can retrieve at
11100  * most as many bits as our widest unsigned integer type is.  We try
11101  * to get a 64-bit unsigned integer even if we are not using a 64-bit UV.
11102  *
11103  * (If you want to test the case of UVSIZE == 4, NVSIZE == 8,
11104  *  set the MANTISSATYPE to int and the MANTISSASIZE to 4.)
11105  */
11106 #if defined(HAS_QUAD) && defined(Uquad_t)
11107 #  define MANTISSATYPE Uquad_t
11108 #  define MANTISSASIZE 8
11109 #else
11110 #  define MANTISSATYPE UV
11111 #  define MANTISSASIZE UVSIZE
11112 #endif
11113
11114 #if defined(DOUBLE_LITTLE_ENDIAN) || defined(LONGDOUBLE_LITTLE_ENDIAN)
11115 #  define HEXTRACT_LITTLE_ENDIAN
11116 #elif defined(DOUBLE_BIG_ENDIAN) || defined(LONGDOUBLE_BIG_ENDIAN)
11117 #  define HEXTRACT_BIG_ENDIAN
11118 #else
11119 #  define HEXTRACT_MIX_ENDIAN
11120 #endif
11121
11122 /* S_hextract() is a helper for Perl_sv_vcatpvfn_flags, for extracting
11123  * the hexadecimal values (for %a/%A).  The nv is the NV where the value
11124  * are being extracted from (either directly from the long double in-memory
11125  * presentation, or from the uquad computed via frexp+ldexp).  frexp also
11126  * is used to update the exponent.  The subnormal is set to true
11127  * for IEEE 754 subnormals/denormals (including the x86 80-bit format).
11128  * The vhex is the pointer to the beginning of the output buffer of VHEX_SIZE.
11129  *
11130  * The tricky part is that S_hextract() needs to be called twice:
11131  * the first time with vend as NULL, and the second time with vend as
11132  * the pointer returned by the first call.  What happens is that on
11133  * the first round the output size is computed, and the intended
11134  * extraction sanity checked.  On the second round the actual output
11135  * (the extraction of the hexadecimal values) takes place.
11136  * Sanity failures cause fatal failures during both rounds. */
11137 STATIC U8*
11138 S_hextract(pTHX_ const NV nv, int* exponent, bool *subnormal,
11139            U8* vhex, U8* vend)
11140 {
11141     U8* v = vhex;
11142     int ix;
11143     int ixmin = 0, ixmax = 0;
11144
11145     /* XXX Inf/NaN are not handled here, since it is
11146      * assumed they are to be output as "Inf" and "NaN". */
11147
11148     /* These macros are just to reduce typos, they have multiple
11149      * repetitions below, but usually only one (or sometimes two)
11150      * of them is really being used. */
11151     /* HEXTRACT_OUTPUT() extracts the high nybble first. */
11152 #define HEXTRACT_OUTPUT_HI(ix) (*v++ = nvp[ix] >> 4)
11153 #define HEXTRACT_OUTPUT_LO(ix) (*v++ = nvp[ix] & 0xF)
11154 #define HEXTRACT_OUTPUT(ix) \
11155     STMT_START { \
11156       HEXTRACT_OUTPUT_HI(ix); HEXTRACT_OUTPUT_LO(ix); \
11157    } STMT_END
11158 #define HEXTRACT_COUNT(ix, c) \
11159     STMT_START { \
11160       v += c; if (ix < ixmin) ixmin = ix; else if (ix > ixmax) ixmax = ix; \
11161    } STMT_END
11162 #define HEXTRACT_BYTE(ix) \
11163     STMT_START { \
11164       if (vend) HEXTRACT_OUTPUT(ix); else HEXTRACT_COUNT(ix, 2); \
11165    } STMT_END
11166 #define HEXTRACT_LO_NYBBLE(ix) \
11167     STMT_START { \
11168       if (vend) HEXTRACT_OUTPUT_LO(ix); else HEXTRACT_COUNT(ix, 1); \
11169    } STMT_END
11170     /* HEXTRACT_TOP_NYBBLE is just convenience disguise,
11171      * to make it look less odd when the top bits of a NV
11172      * are extracted using HEXTRACT_LO_NYBBLE: the highest
11173      * order bits can be in the "low nybble" of a byte. */
11174 #define HEXTRACT_TOP_NYBBLE(ix) HEXTRACT_LO_NYBBLE(ix)
11175 #define HEXTRACT_BYTES_LE(a, b) \
11176     for (ix = a; ix >= b; ix--) { HEXTRACT_BYTE(ix); }
11177 #define HEXTRACT_BYTES_BE(a, b) \
11178     for (ix = a; ix <= b; ix++) { HEXTRACT_BYTE(ix); }
11179 #define HEXTRACT_GET_SUBNORMAL(nv) *subnormal = Perl_fp_class_denorm(nv)
11180 #define HEXTRACT_IMPLICIT_BIT(nv) \
11181     STMT_START { \
11182         if (!*subnormal) { \
11183             if (vend) *v++ = ((nv) == 0.0) ? 0 : 1; else v++; \
11184         } \
11185    } STMT_END
11186
11187 /* Most formats do.  Those which don't should undef this.
11188  *
11189  * But also note that IEEE 754 subnormals do not have it, or,
11190  * expressed alternatively, their implicit bit is zero. */
11191 #define HEXTRACT_HAS_IMPLICIT_BIT
11192
11193 /* Many formats do.  Those which don't should undef this. */
11194 #define HEXTRACT_HAS_TOP_NYBBLE
11195
11196     /* HEXTRACTSIZE is the maximum number of xdigits. */
11197 #if defined(USE_LONG_DOUBLE) && defined(LONGDOUBLE_DOUBLEDOUBLE)
11198 #  define HEXTRACTSIZE (2+DOUBLEDOUBLE_MAXBITS/4)
11199 #else
11200 #  define HEXTRACTSIZE 2 * NVSIZE
11201 #endif
11202
11203     const U8* vmaxend = vhex + HEXTRACTSIZE;
11204     PERL_UNUSED_VAR(ix); /* might happen */
11205     (void)Perl_frexp(PERL_ABS(nv), exponent);
11206     *subnormal = FALSE;
11207     if (vend && (vend <= vhex || vend > vmaxend)) {
11208         /* diag_listed_as: Hexadecimal float: internal error (%s) */
11209         Perl_croak(aTHX_ "Hexadecimal float: internal error (entry)");
11210     }
11211     {
11212         /* First check if using long doubles. */
11213 #if defined(USE_LONG_DOUBLE) && (NVSIZE > DOUBLESIZE)
11214 #  if LONG_DOUBLEKIND == LONG_DOUBLE_IS_IEEE_754_128_BIT_LITTLE_ENDIAN
11215         /* Used in e.g. VMS and HP-UX IA-64, e.g. -0.1L:
11216          * 9a 99 99 99 99 99 99 99 99 99 99 99 99 99 fb bf */
11217         /* The bytes 13..0 are the mantissa/fraction,
11218          * the 15,14 are the sign+exponent. */
11219         const U8* nvp = (const U8*)(&nv);
11220         HEXTRACT_GET_SUBNORMAL(nv);
11221         HEXTRACT_IMPLICIT_BIT(nv);
11222 #   undef HEXTRACT_HAS_TOP_NYBBLE
11223         HEXTRACT_BYTES_LE(13, 0);
11224 #  elif LONG_DOUBLEKIND == LONG_DOUBLE_IS_IEEE_754_128_BIT_BIG_ENDIAN
11225         /* Used in e.g. Solaris Sparc and HP-UX PA-RISC, e.g. -0.1L:
11226          * bf fb 99 99 99 99 99 99 99 99 99 99 99 99 99 9a */
11227         /* The bytes 2..15 are the mantissa/fraction,
11228          * the 0,1 are the sign+exponent. */
11229         const U8* nvp = (const U8*)(&nv);
11230         HEXTRACT_GET_SUBNORMAL(nv);
11231         HEXTRACT_IMPLICIT_BIT(nv);
11232 #   undef HEXTRACT_HAS_TOP_NYBBLE
11233         HEXTRACT_BYTES_BE(2, 15);
11234 #  elif LONG_DOUBLEKIND == LONG_DOUBLE_IS_X86_80_BIT_LITTLE_ENDIAN
11235         /* x86 80-bit "extended precision", 64 bits of mantissa / fraction /
11236          * significand, 15 bits of exponent, 1 bit of sign.  No implicit bit.
11237          * NVSIZE can be either 12 (ILP32, Solaris x86) or 16 (LP64, Linux
11238          * and OS X), meaning that 2 or 6 bytes are empty padding. */
11239         /* The bytes 0..1 are the sign+exponent,
11240          * the bytes 2..9 are the mantissa/fraction. */
11241         const U8* nvp = (const U8*)(&nv);
11242 #    undef HEXTRACT_HAS_IMPLICIT_BIT
11243 #    undef HEXTRACT_HAS_TOP_NYBBLE
11244         HEXTRACT_GET_SUBNORMAL(nv);
11245         HEXTRACT_BYTES_LE(7, 0);
11246 #  elif LONG_DOUBLEKIND == LONG_DOUBLE_IS_X86_80_BIT_BIG_ENDIAN
11247         /* Does this format ever happen? (Wikipedia says the Motorola
11248          * 6888x math coprocessors used format _like_ this but padded
11249          * to 96 bits with 16 unused bits between the exponent and the
11250          * mantissa.) */
11251         const U8* nvp = (const U8*)(&nv);
11252 #    undef HEXTRACT_HAS_IMPLICIT_BIT
11253 #    undef HEXTRACT_HAS_TOP_NYBBLE
11254         HEXTRACT_GET_SUBNORMAL(nv);
11255         HEXTRACT_BYTES_BE(0, 7);
11256 #  else
11257 #    define HEXTRACT_FALLBACK
11258         /* Double-double format: two doubles next to each other.
11259          * The first double is the high-order one, exactly like
11260          * it would be for a "lone" double.  The second double
11261          * is shifted down using the exponent so that that there
11262          * are no common bits.  The tricky part is that the value
11263          * of the double-double is the SUM of the two doubles and
11264          * the second one can be also NEGATIVE.
11265          *
11266          * Because of this tricky construction the bytewise extraction we
11267          * use for the other long double formats doesn't work, we must
11268          * extract the values bit by bit.
11269          *
11270          * The little-endian double-double is used .. somewhere?
11271          *
11272          * The big endian double-double is used in e.g. PPC/Power (AIX)
11273          * and MIPS (SGI).
11274          *
11275          * The mantissa bits are in two separate stretches, e.g. for -0.1L:
11276          * 9a 99 99 99 99 99 59 bc 9a 99 99 99 99 99 b9 3f (LE)
11277          * 3f b9 99 99 99 99 99 9a bc 59 99 99 99 99 99 9a (BE)
11278          */
11279 #  endif
11280 #else /* #if defined(USE_LONG_DOUBLE) && (NVSIZE > DOUBLESIZE) */
11281         /* Using normal doubles, not long doubles.
11282          *
11283          * We generate 4-bit xdigits (nybble/nibble) instead of 8-bit
11284          * bytes, since we might need to handle printf precision, and
11285          * also need to insert the radix. */
11286 #  if NVSIZE == 8
11287 #    ifdef HEXTRACT_LITTLE_ENDIAN
11288         /* 0 1 2 3 4 5 6 7 (MSB = 7, LSB = 0, 6+7 = exponent+sign) */
11289         const U8* nvp = (const U8*)(&nv);
11290         HEXTRACT_GET_SUBNORMAL(nv);
11291         HEXTRACT_IMPLICIT_BIT(nv);
11292         HEXTRACT_TOP_NYBBLE(6);
11293         HEXTRACT_BYTES_LE(5, 0);
11294 #    elif defined(HEXTRACT_BIG_ENDIAN)
11295         /* 7 6 5 4 3 2 1 0 (MSB = 7, LSB = 0, 6+7 = exponent+sign) */
11296         const U8* nvp = (const U8*)(&nv);
11297         HEXTRACT_GET_SUBNORMAL(nv);
11298         HEXTRACT_IMPLICIT_BIT(nv);
11299         HEXTRACT_TOP_NYBBLE(1);
11300         HEXTRACT_BYTES_BE(2, 7);
11301 #    elif DOUBLEKIND == DOUBLE_IS_IEEE_754_64_BIT_MIXED_ENDIAN_LE_BE
11302         /* 4 5 6 7 0 1 2 3 (MSB = 7, LSB = 0, 6:7 = nybble:exponent:sign) */
11303         const U8* nvp = (const U8*)(&nv);
11304         HEXTRACT_GET_SUBNORMAL(nv);
11305         HEXTRACT_IMPLICIT_BIT(nv);
11306         HEXTRACT_TOP_NYBBLE(2); /* 6 */
11307         HEXTRACT_BYTE(1); /* 5 */
11308         HEXTRACT_BYTE(0); /* 4 */
11309         HEXTRACT_BYTE(7); /* 3 */
11310         HEXTRACT_BYTE(6); /* 2 */
11311         HEXTRACT_BYTE(5); /* 1 */
11312         HEXTRACT_BYTE(4); /* 0 */
11313 #    elif DOUBLEKIND == DOUBLE_IS_IEEE_754_64_BIT_MIXED_ENDIAN_BE_LE
11314         /* 3 2 1 0 7 6 5 4 (MSB = 7, LSB = 0, 7:6 = sign:exponent:nybble) */
11315         const U8* nvp = (const U8*)(&nv);
11316         HEXTRACT_GET_SUBNORMAL(nv);
11317         HEXTRACT_IMPLICIT_BIT(nv);
11318         HEXTRACT_TOP_NYBBLE(5); /* 6 */
11319         HEXTRACT_BYTE(6); /* 5 */
11320         HEXTRACT_BYTE(7); /* 4 */
11321         HEXTRACT_BYTE(0); /* 3 */
11322         HEXTRACT_BYTE(1); /* 2 */
11323         HEXTRACT_BYTE(2); /* 1 */
11324         HEXTRACT_BYTE(3); /* 0 */
11325 #    else
11326 #      define HEXTRACT_FALLBACK
11327 #    endif
11328 #  else
11329 #    define HEXTRACT_FALLBACK
11330 #  endif
11331 #endif /* #if defined(USE_LONG_DOUBLE) && (NVSIZE > DOUBLESIZE) #else */
11332 #  ifdef HEXTRACT_FALLBACK
11333         HEXTRACT_GET_SUBNORMAL(nv);
11334 #    undef HEXTRACT_HAS_TOP_NYBBLE /* Meaningless, but consistent. */
11335         /* The fallback is used for the double-double format, and
11336          * for unknown long double formats, and for unknown double
11337          * formats, or in general unknown NV formats. */
11338         if (nv == (NV)0.0) {
11339             if (vend)
11340                 *v++ = 0;
11341             else
11342                 v++;
11343             *exponent = 0;
11344         }
11345         else {
11346             NV d = nv < 0 ? -nv : nv;
11347             NV e = (NV)1.0;
11348             U8 ha = 0x0; /* hexvalue accumulator */
11349             U8 hd = 0x8; /* hexvalue digit */
11350
11351             /* Shift d and e (and update exponent) so that e <= d < 2*e,
11352              * this is essentially manual frexp(). Multiplying by 0.5 and
11353              * doubling should be lossless in binary floating point. */
11354
11355             *exponent = 1;
11356
11357             while (e > d) {
11358                 e *= (NV)0.5;
11359                 (*exponent)--;
11360             }
11361             /* Now d >= e */
11362
11363             while (d >= e + e) {
11364                 e += e;
11365                 (*exponent)++;
11366             }
11367             /* Now e <= d < 2*e */
11368
11369             /* First extract the leading hexdigit (the implicit bit). */
11370             if (d >= e) {
11371                 d -= e;
11372                 if (vend)
11373                     *v++ = 1;
11374                 else
11375                     v++;
11376             }
11377             else {
11378                 if (vend)
11379                     *v++ = 0;
11380                 else
11381                     v++;
11382             }
11383             e *= (NV)0.5;
11384
11385             /* Then extract the remaining hexdigits. */
11386             while (d > (NV)0.0) {
11387                 if (d >= e) {
11388                     ha |= hd;
11389                     d -= e;
11390                 }
11391                 if (hd == 1) {
11392                     /* Output or count in groups of four bits,
11393                      * that is, when the hexdigit is down to one. */
11394                     if (vend)
11395                         *v++ = ha;
11396                     else
11397                         v++;
11398                     /* Reset the hexvalue. */
11399                     ha = 0x0;
11400                     hd = 0x8;
11401                 }
11402                 else
11403                     hd >>= 1;
11404                 e *= (NV)0.5;
11405             }
11406
11407             /* Flush possible pending hexvalue. */
11408             if (ha) {
11409                 if (vend)
11410                     *v++ = ha;
11411                 else
11412                     v++;
11413             }
11414         }
11415 #  endif
11416     }
11417     /* Croak for various reasons: if the output pointer escaped the
11418      * output buffer, if the extraction index escaped the extraction
11419      * buffer, or if the ending output pointer didn't match the
11420      * previously computed value. */
11421     if (v <= vhex || v - vhex >= VHEX_SIZE ||
11422         /* For double-double the ixmin and ixmax stay at zero,
11423          * which is convenient since the HEXTRACTSIZE is tricky
11424          * for double-double. */
11425         ixmin < 0 || ixmax >= NVSIZE ||
11426         (vend && v != vend)) {
11427         /* diag_listed_as: Hexadecimal float: internal error (%s) */
11428         Perl_croak(aTHX_ "Hexadecimal float: internal error (overflow)");
11429     }
11430     return v;
11431 }
11432
11433 /* Helper for sv_vcatpvfn_flags().  */
11434 #define FETCH_VCATPVFN_ARGUMENT(var, in_range, expr)   \
11435     STMT_START {                                       \
11436         if (in_range)                                  \
11437             (var) = (expr);                            \
11438         else {                                         \
11439             (var) = &PL_sv_no; /* [perl #71000] */     \
11440             arg_missing = TRUE;                        \
11441         }                                              \
11442     } STMT_END
11443
11444 void
11445 Perl_sv_vcatpvfn_flags(pTHX_ SV *const sv, const char *const pat, const STRLEN patlen,
11446                        va_list *const args, SV **const svargs, const I32 svmax, bool *const maybe_tainted,
11447                        const U32 flags)
11448 {
11449     char *p;
11450     char *q;
11451     const char *patend;
11452     STRLEN origlen;
11453     I32 svix = 0;
11454     static const char nullstr[] = "(null)";
11455     SV *argsv = NULL;
11456     bool has_utf8 = DO_UTF8(sv);    /* has the result utf8? */
11457     const bool pat_utf8 = has_utf8; /* the pattern is in utf8? */
11458     SV *nsv = NULL;
11459     /* Times 4: a decimal digit takes more than 3 binary digits.
11460      * NV_DIG: mantissa takes than many decimal digits.
11461      * Plus 32: Playing safe. */
11462     char ebuf[IV_DIG * 4 + NV_DIG + 32];
11463     bool no_redundant_warning = FALSE; /* did we use any explicit format parameter index? */
11464     bool hexfp = FALSE; /* hexadecimal floating point? */
11465
11466     DECLARATION_FOR_LC_NUMERIC_MANIPULATION;
11467
11468     PERL_ARGS_ASSERT_SV_VCATPVFN_FLAGS;
11469     PERL_UNUSED_ARG(maybe_tainted);
11470
11471     if (flags & SV_GMAGIC)
11472         SvGETMAGIC(sv);
11473
11474     /* no matter what, this is a string now */
11475     (void)SvPV_force_nomg(sv, origlen);
11476
11477     /* special-case "", "%s", and "%-p" (SVf - see below) */
11478     if (patlen == 0) {
11479         if (svmax && ckWARN(WARN_REDUNDANT))
11480             Perl_warner(aTHX_ packWARN(WARN_REDUNDANT), "Redundant argument in %s",
11481                         PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
11482         return;
11483     }
11484     if (patlen == 2 && pat[0] == '%' && pat[1] == 's') {
11485         if (svmax > 1 && ckWARN(WARN_REDUNDANT))
11486             Perl_warner(aTHX_ packWARN(WARN_REDUNDANT), "Redundant argument in %s",
11487                         PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
11488
11489         if (args) {
11490             const char * const s = va_arg(*args, char*);
11491             sv_catpv_nomg(sv, s ? s : nullstr);
11492         }
11493         else if (svix < svmax) {
11494             /* we want get magic on the source but not the target. sv_catsv can't do that, though */
11495             SvGETMAGIC(*svargs);
11496             sv_catsv_nomg(sv, *svargs);
11497         }
11498         else
11499             S_warn_vcatpvfn_missing_argument(aTHX);
11500         return;
11501     }
11502     if (args && patlen == 3 && pat[0] == '%' &&
11503                 pat[1] == '-' && pat[2] == 'p') {
11504         if (svmax > 1 && ckWARN(WARN_REDUNDANT))
11505             Perl_warner(aTHX_ packWARN(WARN_REDUNDANT), "Redundant argument in %s",
11506                         PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
11507         argsv = MUTABLE_SV(va_arg(*args, void*));
11508         sv_catsv_nomg(sv, argsv);
11509         return;
11510     }
11511
11512 #if !defined(USE_LONG_DOUBLE) && !defined(USE_QUADMATH)
11513     /* special-case "%.<number>[gf]" */
11514     if ( !args && patlen <= 5 && pat[0] == '%' && pat[1] == '.'
11515          && (pat[patlen-1] == 'g' || pat[patlen-1] == 'f') ) {
11516         unsigned digits = 0;
11517         const char *pp;
11518
11519         pp = pat + 2;
11520         while (*pp >= '0' && *pp <= '9')
11521             digits = 10 * digits + (*pp++ - '0');
11522
11523         /* XXX: Why do this `svix < svmax` test? Couldn't we just
11524            format the first argument and WARN_REDUNDANT if svmax > 1?
11525            Munged by Nicholas Clark in v5.13.0-209-g95ea86d */
11526         if (pp - pat == (int)patlen - 1 && svix < svmax) {
11527             const NV nv = SvNV(*svargs);
11528             if (LIKELY(!Perl_isinfnan(nv))) {
11529                 if (*pp == 'g') {
11530                     /* Add check for digits != 0 because it seems that some
11531                        gconverts are buggy in this case, and we don't yet have
11532                        a Configure test for this.  */
11533                     if (digits && digits < sizeof(ebuf) - NV_DIG - 10) {
11534                         /* 0, point, slack */
11535                         STORE_LC_NUMERIC_SET_TO_NEEDED();
11536                         SNPRINTF_G(nv, ebuf, size, digits);
11537                         sv_catpv_nomg(sv, ebuf);
11538                         if (*ebuf)      /* May return an empty string for digits==0 */
11539                             return;
11540                     }
11541                 } else if (!digits) {
11542                     STRLEN l;
11543
11544                     if ((p = F0convert(nv, ebuf + sizeof ebuf, &l))) {
11545                         sv_catpvn_nomg(sv, p, l);
11546                         return;
11547                     }
11548                 }
11549             }
11550         }
11551     }
11552 #endif /* !USE_LONG_DOUBLE */
11553
11554     if (!args && svix < svmax && DO_UTF8(*svargs))
11555         has_utf8 = TRUE;
11556
11557     patend = (char*)pat + patlen;
11558     for (p = (char*)pat; p < patend; p = q) {
11559         bool alt = FALSE;
11560         bool left = FALSE;
11561         bool vectorize = FALSE;
11562         bool vectorarg = FALSE;
11563         bool vec_utf8 = FALSE;
11564         char fill = ' ';
11565         char plus = 0;
11566         char intsize = 0;
11567         STRLEN width = 0;
11568         STRLEN zeros = 0;
11569         bool has_precis = FALSE;
11570         STRLEN precis = 0;
11571         const I32 osvix = svix;
11572         bool is_utf8 = FALSE;  /* is this item utf8?   */
11573         bool used_explicit_ix = FALSE;
11574         bool arg_missing = FALSE;
11575 #ifdef HAS_LDBL_SPRINTF_BUG
11576         /* This is to try to fix a bug with irix/nonstop-ux/powerux and
11577            with sfio - Allen <allens@cpan.org> */
11578         bool fix_ldbl_sprintf_bug = FALSE;
11579 #endif
11580
11581         char esignbuf[4];
11582         U8 utf8buf[UTF8_MAXBYTES+1];
11583         STRLEN esignlen = 0;
11584
11585         const char *eptr = NULL;
11586         const char *fmtstart;
11587         STRLEN elen = 0;
11588         SV *vecsv = NULL;
11589         const U8 *vecstr = NULL;
11590         STRLEN veclen = 0;
11591         char c = 0;
11592         int i;
11593         unsigned base = 0;
11594         IV iv = 0;
11595         UV uv = 0;
11596         /* We need a long double target in case HAS_LONG_DOUBLE,
11597          * even without USE_LONG_DOUBLE, so that we can printf with
11598          * long double formats, even without NV being long double.
11599          * But we call the target 'fv' instead of 'nv', since most of
11600          * the time it is not (most compilers these days recognize
11601          * "long double", even if only as a synonym for "double").
11602         */
11603 #if defined(HAS_LONG_DOUBLE) && LONG_DOUBLESIZE > DOUBLESIZE && \
11604         defined(PERL_PRIgldbl) && !defined(USE_QUADMATH)
11605         long double fv;
11606 #  ifdef Perl_isfinitel
11607 #    define FV_ISFINITE(x) Perl_isfinitel(x)
11608 #  endif
11609 #  define FV_GF PERL_PRIgldbl
11610 #    if defined(__VMS) && defined(__ia64) && defined(__IEEE_FLOAT)
11611        /* Work around breakage in OTS$CVT_FLOAT_T_X */
11612 #      define NV_TO_FV(nv,fv) STMT_START {                   \
11613                                            double _dv = nv;  \
11614                                            fv = Perl_isnan(_dv) ? LDBL_QNAN : _dv; \
11615                               } STMT_END
11616 #    else
11617 #      define NV_TO_FV(nv,fv) (fv)=(nv)
11618 #    endif
11619 #else
11620         NV fv;
11621 #  define FV_GF NVgf
11622 #  define NV_TO_FV(nv,fv) (fv)=(nv)
11623 #endif
11624 #ifndef FV_ISFINITE
11625 #  define FV_ISFINITE(x) Perl_isfinite((NV)(x))
11626 #endif
11627         NV nv;
11628         STRLEN have;
11629         STRLEN need;
11630         STRLEN gap;
11631         const char *dotstr = ".";
11632         STRLEN dotstrlen = 1;
11633         I32 efix = 0; /* explicit format parameter index */
11634         I32 ewix = 0; /* explicit width index */
11635         I32 epix = 0; /* explicit precision index */
11636         I32 evix = 0; /* explicit vector index */
11637         bool asterisk = FALSE;
11638         bool infnan = FALSE;
11639
11640         /* echo everything up to the next format specification */
11641         for (q = p; q < patend && *q != '%'; ++q) ;
11642         if (q > p) {
11643             if (has_utf8 && !pat_utf8)
11644                 sv_catpvn_nomg_utf8_upgrade(sv, p, q - p, nsv);
11645             else
11646                 sv_catpvn_nomg(sv, p, q - p);
11647             p = q;
11648         }
11649         if (q++ >= patend)
11650             break;
11651
11652         fmtstart = q;
11653
11654 /*
11655     We allow format specification elements in this order:
11656         \d+\$              explicit format parameter index
11657         [-+ 0#]+           flags
11658         v|\*(\d+\$)?v      vector with optional (optionally specified) arg
11659         0                  flag (as above): repeated to allow "v02"     
11660         \d+|\*(\d+\$)?     width using optional (optionally specified) arg
11661         \.(\d*|\*(\d+\$)?) precision using optional (optionally specified) arg
11662         [hlqLV]            size
11663     [%bcdefginopsuxDFOUX] format (mandatory)
11664 */
11665
11666         if (args) {
11667 /*  
11668         As of perl5.9.3, printf format checking is on by default.
11669         Internally, perl uses %p formats to provide an escape to
11670         some extended formatting.  This block deals with those
11671         extensions: if it does not match, (char*)q is reset and
11672         the normal format processing code is used.
11673
11674         Currently defined extensions are:
11675                 %p              include pointer address (standard)      
11676                 %-p     (SVf)   include an SV (previously %_)
11677                 %-<num>p        include an SV with precision <num>      
11678                 %2p             include a HEK
11679                 %3p             include a HEK with precision of 256
11680                 %4p             char* preceded by utf8 flag and length
11681                 %<num>p         (where num is 1 or > 4) reserved for future
11682                                 extensions
11683
11684         Robin Barker 2005-07-14 (but modified since)
11685
11686                 %1p     (VDf)   removed.  RMB 2007-10-19
11687 */
11688             char* r = q; 
11689             bool sv = FALSE;    
11690             STRLEN n = 0;
11691             if (*q == '-')
11692                 sv = *q++;
11693             else if (strnEQ(q, UTF8f, sizeof(UTF8f)-1)) { /* UTF8f */
11694                 /* The argument has already gone through cBOOL, so the cast
11695                    is safe. */
11696                 is_utf8 = (bool)va_arg(*args, int);
11697                 elen = va_arg(*args, UV);
11698                 /* if utf8 length is larger than 0x7ffff..., then it might
11699                  * have been a signed value that wrapped */
11700                 if (elen  > ((~(STRLEN)0) >> 1)) {
11701                     assert(0); /* in DEBUGGING build we want to crash */
11702                     elen= 0; /* otherwise we want to treat this as an empty string */
11703                 }
11704                 eptr = va_arg(*args, char *);
11705                 q += sizeof(UTF8f)-1;
11706                 goto string;
11707             }
11708             n = expect_number(&q);
11709             if (*q++ == 'p') {
11710                 if (sv) {                       /* SVf */
11711                     if (n) {
11712                         precis = n;
11713                         has_precis = TRUE;
11714                     }
11715                     argsv = MUTABLE_SV(va_arg(*args, void*));
11716                     eptr = SvPV_const(argsv, elen);
11717                     if (DO_UTF8(argsv))
11718                         is_utf8 = TRUE;
11719                     goto string;
11720                 }
11721                 else if (n==2 || n==3) {        /* HEKf */
11722                     HEK * const hek = va_arg(*args, HEK *);
11723                     eptr = HEK_KEY(hek);
11724                     elen = HEK_LEN(hek);
11725                     if (HEK_UTF8(hek)) is_utf8 = TRUE;
11726                     if (n==3) precis = 256, has_precis = TRUE;
11727                     goto string;
11728                 }
11729                 else if (n) {
11730                     Perl_ck_warner_d(aTHX_ packWARN(WARN_INTERNAL),
11731                                      "internal %%<num>p might conflict with future printf extensions");
11732                 }
11733             }
11734             q = r; 
11735         }
11736
11737         if ( (width = expect_number(&q)) ) {
11738             if (*q == '$') {
11739                 if (args)
11740                     Perl_croak_nocontext(
11741                         "Cannot yet reorder sv_catpvfn() arguments from va_list");
11742                 ++q;
11743                 efix = width;
11744                 used_explicit_ix = TRUE;
11745             } else {
11746                 goto gotwidth;
11747             }
11748         }
11749
11750         /* FLAGS */
11751
11752         while (*q) {
11753             switch (*q) {
11754             case ' ':
11755             case '+':
11756                 if (plus == '+' && *q == ' ') /* '+' over ' ' */
11757                     q++;
11758                 else
11759                     plus = *q++;
11760                 continue;
11761
11762             case '-':
11763                 left = TRUE;
11764                 q++;
11765                 continue;
11766
11767             case '0':
11768                 fill = *q++;
11769                 continue;
11770
11771             case '#':
11772                 alt = TRUE;
11773                 q++;
11774                 continue;
11775
11776             default:
11777                 break;
11778             }
11779             break;
11780         }
11781
11782       tryasterisk:
11783         if (*q == '*') {
11784             q++;
11785             if ( (ewix = expect_number(&q)) ) {
11786                 if (*q++ == '$') {
11787                     if (args)
11788                         Perl_croak_nocontext(
11789                             "Cannot yet reorder sv_catpvfn() arguments from va_list");
11790                     used_explicit_ix = TRUE;
11791                 } else
11792                     goto unknown;
11793             }
11794             asterisk = TRUE;
11795         }
11796         if (*q == 'v') {
11797             q++;
11798             if (vectorize)
11799                 goto unknown;
11800             if ((vectorarg = asterisk)) {
11801                 evix = ewix;
11802                 ewix = 0;
11803                 asterisk = FALSE;
11804             }
11805             vectorize = TRUE;
11806             goto tryasterisk;
11807         }
11808
11809         if (!asterisk)
11810         {
11811             if( *q == '0' )
11812                 fill = *q++;
11813             width = expect_number(&q);
11814         }
11815
11816         if (vectorize && vectorarg) {
11817             /* vectorizing, but not with the default "." */
11818             if (args)
11819                 vecsv = va_arg(*args, SV*);
11820             else if (evix) {
11821                 FETCH_VCATPVFN_ARGUMENT(
11822                     vecsv, evix > 0 && evix <= svmax, svargs[evix-1]);
11823             } else {
11824                 FETCH_VCATPVFN_ARGUMENT(
11825                     vecsv, svix < svmax, svargs[svix++]);
11826             }
11827             dotstr = SvPV_const(vecsv, dotstrlen);
11828             /* Keep the DO_UTF8 test *after* the SvPV call, else things go
11829                bad with tied or overloaded values that return UTF8.  */
11830             if (DO_UTF8(vecsv))
11831                 is_utf8 = TRUE;
11832             else if (has_utf8) {
11833                 vecsv = sv_mortalcopy(vecsv);
11834                 sv_utf8_upgrade(vecsv);
11835                 dotstr = SvPV_const(vecsv, dotstrlen);
11836                 is_utf8 = TRUE;
11837             }               
11838         }
11839
11840         if (asterisk) {
11841             if (args)
11842                 i = va_arg(*args, int);
11843             else
11844                 i = (ewix ? ewix <= svmax : svix < svmax) ?
11845                     SvIVx(svargs[ewix ? ewix-1 : svix++]) : 0;
11846             left |= (i < 0);
11847             width = (i < 0) ? -i : i;
11848         }
11849       gotwidth:
11850
11851         /* PRECISION */
11852
11853         if (*q == '.') {
11854             q++;
11855             if (*q == '*') {
11856                 q++;
11857                 if ( (epix = expect_number(&q)) ) {
11858                     if (*q++ == '$') {
11859                         if (args)
11860                             Perl_croak_nocontext(
11861                                 "Cannot yet reorder sv_catpvfn() arguments from va_list");
11862                         used_explicit_ix = TRUE;
11863                     } else
11864                         goto unknown;
11865                 }
11866                 if (args)
11867                     i = va_arg(*args, int);
11868                 else {
11869                     SV *precsv;
11870                     if (epix)
11871                         FETCH_VCATPVFN_ARGUMENT(
11872                             precsv, epix > 0 && epix <= svmax, svargs[epix-1]);
11873                     else
11874                         FETCH_VCATPVFN_ARGUMENT(
11875                             precsv, svix < svmax, svargs[svix++]);
11876                     i = precsv == &PL_sv_no ? 0 : SvIVx(precsv);
11877                 }
11878                 precis = i;
11879                 has_precis = !(i < 0);
11880             }
11881             else {
11882                 precis = 0;
11883                 while (isDIGIT(*q))
11884                     precis = precis * 10 + (*q++ - '0');
11885                 has_precis = TRUE;
11886             }
11887         }
11888
11889         if (vectorize) {
11890             if (args) {
11891                 VECTORIZE_ARGS
11892             }
11893             else if (efix ? (efix > 0 && efix <= svmax) : svix < svmax) {
11894                 vecsv = svargs[efix ? efix-1 : svix++];
11895                 vecstr = (U8*)SvPV_const(vecsv,veclen);
11896                 vec_utf8 = DO_UTF8(vecsv);
11897
11898                 /* if this is a version object, we need to convert
11899                  * back into v-string notation and then let the
11900                  * vectorize happen normally
11901                  */
11902                 if (sv_isobject(vecsv) && sv_derived_from(vecsv, "version")) {
11903                     if ( hv_existss(MUTABLE_HV(SvRV(vecsv)), "alpha") ) {
11904                         Perl_ck_warner_d(aTHX_ packWARN(WARN_PRINTF),
11905                         "vector argument not supported with alpha versions");
11906                         goto vdblank;
11907                     }
11908                     vecsv = sv_newmortal();
11909                     scan_vstring((char *)vecstr, (char *)vecstr + veclen,
11910                                  vecsv);
11911                     vecstr = (U8*)SvPV_const(vecsv, veclen);
11912                     vec_utf8 = DO_UTF8(vecsv);
11913                 }
11914             }
11915             else {
11916               vdblank:
11917                 vecstr = (U8*)"";
11918                 veclen = 0;
11919             }
11920         }
11921
11922         /* SIZE */
11923
11924         switch (*q) {
11925 #ifdef WIN32
11926         case 'I':                       /* Ix, I32x, and I64x */
11927 #  ifdef USE_64_BIT_INT
11928             if (q[1] == '6' && q[2] == '4') {
11929                 q += 3;
11930                 intsize = 'q';
11931                 break;
11932             }
11933 #  endif
11934             if (q[1] == '3' && q[2] == '2') {
11935                 q += 3;
11936                 break;
11937             }
11938 #  ifdef USE_64_BIT_INT
11939             intsize = 'q';
11940 #  endif
11941             q++;
11942             break;
11943 #endif
11944 #if (IVSIZE >= 8 || defined(HAS_LONG_DOUBLE)) || \
11945     (IVSIZE == 4 && !defined(HAS_LONG_DOUBLE))
11946         case 'L':                       /* Ld */
11947             /* FALLTHROUGH */
11948 #  ifdef USE_QUADMATH
11949         case 'Q':
11950             /* FALLTHROUGH */
11951 #  endif
11952 #  if IVSIZE >= 8
11953         case 'q':                       /* qd */
11954 #  endif
11955             intsize = 'q';
11956             q++;
11957             break;
11958 #endif
11959         case 'l':
11960             ++q;
11961 #if (IVSIZE >= 8 || defined(HAS_LONG_DOUBLE)) || \
11962     (IVSIZE == 4 && !defined(HAS_LONG_DOUBLE))
11963             if (*q == 'l') {    /* lld, llf */
11964                 intsize = 'q';
11965                 ++q;
11966             }
11967             else
11968 #endif
11969                 intsize = 'l';
11970             break;
11971         case 'h':
11972             if (*++q == 'h') {  /* hhd, hhu */
11973                 intsize = 'c';
11974                 ++q;
11975             }
11976             else
11977                 intsize = 'h';
11978             break;
11979         case 'V':
11980         case 'z':
11981         case 't':
11982 #ifdef I_STDINT
11983         case 'j':
11984 #endif
11985             intsize = *q++;
11986             break;
11987         }
11988
11989         /* CONVERSION */
11990
11991         if (*q == '%') {
11992             eptr = q++;
11993             elen = 1;
11994             if (vectorize) {
11995                 c = '%';
11996                 goto unknown;
11997             }
11998             goto string;
11999         }
12000
12001         if (!vectorize && !args) {
12002             if (efix) {
12003                 const I32 i = efix-1;
12004                 FETCH_VCATPVFN_ARGUMENT(argsv, i >= 0 && i < svmax, svargs[i]);
12005             } else {
12006                 FETCH_VCATPVFN_ARGUMENT(argsv, svix >= 0 && svix < svmax,
12007                                         svargs[svix++]);
12008             }
12009         }
12010
12011         if (argsv && strchr("BbcDdiOopuUXx",*q)) {
12012             /* XXX va_arg(*args) case? need peek, use va_copy? */
12013             SvGETMAGIC(argsv);
12014             if (UNLIKELY(SvAMAGIC(argsv)))
12015                 argsv = sv_2num(argsv);
12016             infnan = UNLIKELY(isinfnansv(argsv));
12017         }
12018
12019         switch (c = *q++) {
12020
12021             /* STRINGS */
12022
12023         case 'c':
12024             if (vectorize)
12025                 goto unknown;
12026             if (infnan)
12027                 Perl_croak(aTHX_ "Cannot printf %" NVgf " with '%c'",
12028                            /* no va_arg() case */
12029                            SvNV_nomg(argsv), (int)c);
12030             uv = (args) ? va_arg(*args, int) : SvIV_nomg(argsv);
12031             if ((uv > 255 ||
12032                  (!UVCHR_IS_INVARIANT(uv) && SvUTF8(sv)))
12033                 && !IN_BYTES) {
12034                 eptr = (char*)utf8buf;
12035                 elen = uvchr_to_utf8((U8*)eptr, uv) - utf8buf;
12036                 is_utf8 = TRUE;
12037             }
12038             else {
12039                 c = (char)uv;
12040                 eptr = &c;
12041                 elen = 1;
12042             }
12043             goto string;
12044
12045         case 's':
12046             if (vectorize)
12047                 goto unknown;
12048             if (args) {
12049                 eptr = va_arg(*args, char*);
12050                 if (eptr)
12051                     elen = strlen(eptr);
12052                 else {
12053                     eptr = (char *)nullstr;
12054                     elen = sizeof nullstr - 1;
12055                 }
12056             }
12057             else {
12058                 eptr = SvPV_const(argsv, elen);
12059                 if (DO_UTF8(argsv)) {
12060                     STRLEN old_precis = precis;
12061                     if (has_precis && precis < elen) {
12062                         STRLEN ulen = sv_or_pv_len_utf8(argsv, eptr, elen);
12063                         STRLEN p = precis > ulen ? ulen : precis;
12064                         precis = sv_or_pv_pos_u2b(argsv, eptr, p, 0);
12065                                                         /* sticks at end */
12066                     }
12067                     if (width) { /* fudge width (can't fudge elen) */
12068                         if (has_precis && precis < elen)
12069                             width += precis - old_precis;
12070                         else
12071                             width +=
12072                                 elen - sv_or_pv_len_utf8(argsv,eptr,elen);
12073                     }
12074                     is_utf8 = TRUE;
12075                 }
12076             }
12077
12078         string:
12079             if (has_precis && precis < elen)
12080                 elen = precis;
12081             break;
12082
12083             /* INTEGERS */
12084
12085         case 'p':
12086             if (infnan) {
12087                 goto floating_point;
12088             }
12089             if (alt || vectorize)
12090                 goto unknown;
12091             uv = PTR2UV(args ? va_arg(*args, void*) : argsv);
12092             base = 16;
12093             goto integer;
12094
12095         case 'D':
12096 #ifdef IV_IS_QUAD
12097             intsize = 'q';
12098 #else
12099             intsize = 'l';
12100 #endif
12101             /* FALLTHROUGH */
12102         case 'd':
12103         case 'i':
12104             if (infnan) {
12105                 goto floating_point;
12106             }
12107             if (vectorize) {
12108                 STRLEN ulen;
12109                 if (!veclen)
12110                     goto donevalidconversion;
12111                 if (vec_utf8)
12112                     uv = utf8n_to_uvchr(vecstr, veclen, &ulen,
12113                                         UTF8_ALLOW_ANYUV);
12114                 else {
12115                     uv = *vecstr;
12116                     ulen = 1;
12117                 }
12118                 vecstr += ulen;
12119                 veclen -= ulen;
12120                 if (plus)
12121                      esignbuf[esignlen++] = plus;
12122             }
12123             else if (args) {
12124                 switch (intsize) {
12125                 case 'c':       iv = (char)va_arg(*args, int); break;
12126                 case 'h':       iv = (short)va_arg(*args, int); break;
12127                 case 'l':       iv = va_arg(*args, long); break;
12128                 case 'V':       iv = va_arg(*args, IV); break;
12129                 case 'z':       iv = va_arg(*args, SSize_t); break;
12130 #ifdef HAS_PTRDIFF_T
12131                 case 't':       iv = va_arg(*args, ptrdiff_t); break;
12132 #endif
12133                 default:        iv = va_arg(*args, int); break;
12134 #ifdef I_STDINT
12135                 case 'j':       iv = va_arg(*args, intmax_t); break;
12136 #endif
12137                 case 'q':
12138 #if IVSIZE >= 8
12139                                 iv = va_arg(*args, Quad_t); break;
12140 #else
12141                                 goto unknown;
12142 #endif
12143                 }
12144             }
12145             else {
12146                 IV tiv = SvIV_nomg(argsv); /* work around GCC bug #13488 */
12147                 switch (intsize) {
12148                 case 'c':       iv = (char)tiv; break;
12149                 case 'h':       iv = (short)tiv; break;
12150                 case 'l':       iv = (long)tiv; break;
12151                 case 'V':
12152                 default:        iv = tiv; break;
12153                 case 'q':
12154 #if IVSIZE >= 8
12155                                 iv = (Quad_t)tiv; break;
12156 #else
12157                                 goto unknown;
12158 #endif
12159                 }
12160             }
12161             if ( !vectorize )   /* we already set uv above */
12162             {
12163                 if (iv >= 0) {
12164                     uv = iv;
12165                     if (plus)
12166                         esignbuf[esignlen++] = plus;
12167                 }
12168                 else {
12169                     uv = (iv == IV_MIN) ? (UV)iv : (UV)(-iv);
12170                     esignbuf[esignlen++] = '-';
12171                 }
12172             }
12173             base = 10;
12174             goto integer;
12175
12176         case 'U':
12177 #ifdef IV_IS_QUAD
12178             intsize = 'q';
12179 #else
12180             intsize = 'l';
12181 #endif
12182             /* FALLTHROUGH */
12183         case 'u':
12184             base = 10;
12185             goto uns_integer;
12186
12187         case 'B':
12188         case 'b':
12189             base = 2;
12190             goto uns_integer;
12191
12192         case 'O':
12193 #ifdef IV_IS_QUAD
12194             intsize = 'q';
12195 #else
12196             intsize = 'l';
12197 #endif
12198             /* FALLTHROUGH */
12199         case 'o':
12200             base = 8;
12201             goto uns_integer;
12202
12203         case 'X':
12204         case 'x':
12205             base = 16;
12206
12207         uns_integer:
12208             if (infnan) {
12209                 goto floating_point;
12210             }
12211             if (vectorize) {
12212                 STRLEN ulen;
12213         vector:
12214                 if (!veclen)
12215                     goto donevalidconversion;
12216                 if (vec_utf8)
12217                     uv = utf8n_to_uvchr(vecstr, veclen, &ulen,
12218                                         UTF8_ALLOW_ANYUV);
12219                 else {
12220                     uv = *vecstr;
12221                     ulen = 1;
12222                 }
12223                 vecstr += ulen;
12224                 veclen -= ulen;
12225             }
12226             else if (args) {
12227                 switch (intsize) {
12228                 case 'c':  uv = (unsigned char)va_arg(*args, unsigned); break;
12229                 case 'h':  uv = (unsigned short)va_arg(*args, unsigned); break;
12230                 case 'l':  uv = va_arg(*args, unsigned long); break;
12231                 case 'V':  uv = va_arg(*args, UV); break;
12232                 case 'z':  uv = va_arg(*args, Size_t); break;
12233 #ifdef HAS_PTRDIFF_T
12234                 case 't':  uv = va_arg(*args, ptrdiff_t); break; /* will sign extend, but there is no uptrdiff_t, so oh well */
12235 #endif
12236 #ifdef I_STDINT
12237                 case 'j':  uv = va_arg(*args, uintmax_t); break;
12238 #endif
12239                 default:   uv = va_arg(*args, unsigned); break;
12240                 case 'q':
12241 #if IVSIZE >= 8
12242                            uv = va_arg(*args, Uquad_t); break;
12243 #else
12244                            goto unknown;
12245 #endif
12246                 }
12247             }
12248             else {
12249                 UV tuv = SvUV_nomg(argsv); /* work around GCC bug #13488 */
12250                 switch (intsize) {
12251                 case 'c':       uv = (unsigned char)tuv; break;
12252                 case 'h':       uv = (unsigned short)tuv; break;
12253                 case 'l':       uv = (unsigned long)tuv; break;
12254                 case 'V':
12255                 default:        uv = tuv; break;
12256                 case 'q':
12257 #if IVSIZE >= 8
12258                                 uv = (Uquad_t)tuv; break;
12259 #else
12260                                 goto unknown;
12261 #endif
12262                 }
12263             }
12264
12265         integer:
12266             {
12267                 char *ptr = ebuf + sizeof ebuf;
12268                 bool tempalt = uv ? alt : FALSE; /* Vectors can't change alt */
12269                 unsigned dig;
12270                 zeros = 0;
12271
12272                 switch (base) {
12273                 case 16:
12274                     p = (char *)((c == 'X') ? PL_hexdigit + 16 : PL_hexdigit);
12275                     do {
12276                         dig = uv & 15;
12277                         *--ptr = p[dig];
12278                     } while (uv >>= 4);
12279                     if (tempalt) {
12280                         esignbuf[esignlen++] = '0';
12281                         esignbuf[esignlen++] = c;  /* 'x' or 'X' */
12282                     }
12283                     break;
12284                 case 8:
12285                     do {
12286                         dig = uv & 7;
12287                         *--ptr = '0' + dig;
12288                     } while (uv >>= 3);
12289                     if (alt && *ptr != '0')
12290                         *--ptr = '0';
12291                     break;
12292                 case 2:
12293                     do {
12294                         dig = uv & 1;
12295                         *--ptr = '0' + dig;
12296                     } while (uv >>= 1);
12297                     if (tempalt) {
12298                         esignbuf[esignlen++] = '0';
12299                         esignbuf[esignlen++] = c;
12300                     }
12301                     break;
12302                 default:                /* it had better be ten or less */
12303                     do {
12304                         dig = uv % base;
12305                         *--ptr = '0' + dig;
12306                     } while (uv /= base);
12307                     break;
12308                 }
12309                 elen = (ebuf + sizeof ebuf) - ptr;
12310                 eptr = ptr;
12311                 if (has_precis) {
12312                     if (precis > elen)
12313                         zeros = precis - elen;
12314                     else if (precis == 0 && elen == 1 && *eptr == '0'
12315                              && !(base == 8 && alt)) /* "%#.0o" prints "0" */
12316                         elen = 0;
12317
12318                 /* a precision nullifies the 0 flag. */
12319                     if (fill == '0')
12320                         fill = ' ';
12321                 }
12322             }
12323             break;
12324
12325             /* FLOATING POINT */
12326
12327         floating_point:
12328
12329         case 'F':
12330             c = 'f';            /* maybe %F isn't supported here */
12331             /* FALLTHROUGH */
12332         case 'e': case 'E':
12333         case 'f':
12334         case 'g': case 'G':
12335         case 'a': case 'A':
12336             if (vectorize)
12337                 goto unknown;
12338
12339             /* This is evil, but floating point is even more evil */
12340
12341             /* for SV-style calling, we can only get NV
12342                for C-style calling, we assume %f is double;
12343                for simplicity we allow any of %Lf, %llf, %qf for long double
12344             */
12345             switch (intsize) {
12346             case 'V':
12347 #if defined(USE_LONG_DOUBLE) || defined(USE_QUADMATH)
12348                 intsize = 'q';
12349 #endif
12350                 break;
12351 /* [perl #20339] - we should accept and ignore %lf rather than die */
12352             case 'l':
12353                 /* FALLTHROUGH */
12354             default:
12355 #if defined(USE_LONG_DOUBLE) || defined(USE_QUADMATH)
12356                 intsize = args ? 0 : 'q';
12357 #endif
12358                 break;
12359             case 'q':
12360 #if defined(HAS_LONG_DOUBLE)
12361                 break;
12362 #else
12363                 /* FALLTHROUGH */
12364 #endif
12365             case 'c':
12366             case 'h':
12367             case 'z':
12368             case 't':
12369             case 'j':
12370                 goto unknown;
12371             }
12372
12373             /* Now we need (long double) if intsize == 'q', else (double). */
12374             if (args) {
12375                 /* Note: do not pull NVs off the va_list with va_arg()
12376                  * (pull doubles instead) because if you have a build
12377                  * with long doubles, you would always be pulling long
12378                  * doubles, which would badly break anyone using only
12379                  * doubles (i.e. the majority of builds). In other
12380                  * words, you cannot mix doubles and long doubles.
12381                  * The only case where you can pull off long doubles
12382                  * is when the format specifier explicitly asks so with
12383                  * e.g. "%Lg". */
12384 #ifdef USE_QUADMATH
12385                 fv = intsize == 'q' ?
12386                     va_arg(*args, NV) : va_arg(*args, double);
12387                 nv = fv;
12388 #elif LONG_DOUBLESIZE > DOUBLESIZE
12389                 if (intsize == 'q') {
12390                     fv = va_arg(*args, long double);
12391                     nv = fv;
12392                 } else {
12393                     nv = va_arg(*args, double);
12394                     NV_TO_FV(nv, fv);
12395                 }
12396 #else
12397                 nv = va_arg(*args, double);
12398                 fv = nv;
12399 #endif
12400             }
12401             else
12402             {
12403                 if (!infnan) SvGETMAGIC(argsv);
12404                 nv = SvNV_nomg(argsv);
12405                 NV_TO_FV(nv, fv);
12406             }
12407
12408             need = 0;
12409             /* frexp() (or frexpl) has some unspecified behaviour for
12410              * nan/inf/-inf, so let's avoid calling that on non-finites. */
12411             if (isALPHA_FOLD_NE(c, 'e') && FV_ISFINITE(fv)) {
12412                 i = PERL_INT_MIN;
12413                 (void)Perl_frexp((NV)fv, &i);
12414                 if (i == PERL_INT_MIN)
12415                     Perl_die(aTHX_ "panic: frexp: %" FV_GF, fv);
12416                 /* Do not set hexfp earlier since we want to printf
12417                  * Inf/NaN for Inf/NaN, not their hexfp. */
12418                 hexfp = isALPHA_FOLD_EQ(c, 'a');
12419                 if (UNLIKELY(hexfp)) {
12420                     /* This seriously overshoots in most cases, but
12421                      * better the undershooting.  Firstly, all bytes
12422                      * of the NV are not mantissa, some of them are
12423                      * exponent.  Secondly, for the reasonably common
12424                      * long doubles case, the "80-bit extended", two
12425                      * or six bytes of the NV are unused. */
12426                     need +=
12427                         (fv < 0) ? 1 : 0 + /* possible unary minus */
12428                         2 + /* "0x" */
12429                         1 + /* the very unlikely carry */
12430                         1 + /* "1" */
12431                         1 + /* "." */
12432                         2 * NVSIZE + /* 2 hexdigits for each byte */
12433                         2 + /* "p+" */
12434                         6 + /* exponent: sign, plus up to 16383 (quad fp) */
12435                         1;   /* \0 */
12436 #ifdef LONGDOUBLE_DOUBLEDOUBLE
12437                     /* However, for the "double double", we need more.
12438                      * Since each double has their own exponent, the
12439                      * doubles may float (haha) rather far from each
12440                      * other, and the number of required bits is much
12441                      * larger, up to total of DOUBLEDOUBLE_MAXBITS bits.
12442                      * See the definition of DOUBLEDOUBLE_MAXBITS.
12443                      *
12444                      * Need 2 hexdigits for each byte. */
12445                     need += (DOUBLEDOUBLE_MAXBITS/8 + 1) * 2;
12446                     /* the size for the exponent already added */
12447 #endif
12448 #ifdef USE_LOCALE_NUMERIC
12449                         STORE_LC_NUMERIC_SET_TO_NEEDED();
12450                         if (PL_numeric_radix_sv && IN_LC(LC_NUMERIC))
12451                             need += SvLEN(PL_numeric_radix_sv);
12452                         RESTORE_LC_NUMERIC();
12453 #endif
12454                 }
12455                 else if (i > 0) {
12456                     need = BIT_DIGITS(i);
12457                 } /* if i < 0, the number of digits is hard to predict. */
12458             }
12459
12460             {
12461                 STRLEN pr = has_precis ? precis : 6; /* known default */
12462                 if (need >= ((STRLEN)~0) - pr)
12463                     croak_memory_wrap();
12464                 need += pr;
12465             }
12466
12467             if (need < width)
12468                 need = width;
12469
12470 #ifdef HAS_LDBL_SPRINTF_BUG
12471             /* This is to try to fix a bug with irix/nonstop-ux/powerux and
12472                with sfio - Allen <allens@cpan.org> */
12473
12474 #  ifdef DBL_MAX
12475 #    define MY_DBL_MAX DBL_MAX
12476 #  else /* XXX guessing! HUGE_VAL may be defined as infinity, so not using */
12477 #    if DOUBLESIZE >= 8
12478 #      define MY_DBL_MAX 1.7976931348623157E+308L
12479 #    else
12480 #      define MY_DBL_MAX 3.40282347E+38L
12481 #    endif
12482 #  endif
12483
12484 #  ifdef HAS_LDBL_SPRINTF_BUG_LESS1 /* only between -1L & 1L - Allen */
12485 #    define MY_DBL_MAX_BUG 1L
12486 #  else
12487 #    define MY_DBL_MAX_BUG MY_DBL_MAX
12488 #  endif
12489
12490 #  ifdef DBL_MIN
12491 #    define MY_DBL_MIN DBL_MIN
12492 #  else  /* XXX guessing! -Allen */
12493 #    if DOUBLESIZE >= 8
12494 #      define MY_DBL_MIN 2.2250738585072014E-308L
12495 #    else
12496 #      define MY_DBL_MIN 1.17549435E-38L
12497 #    endif
12498 #  endif
12499
12500             if ((intsize == 'q') && (c == 'f') &&
12501                 ((fv < MY_DBL_MAX_BUG) && (fv > -MY_DBL_MAX_BUG)) &&
12502                 (need < DBL_DIG)) {
12503                 /* it's going to be short enough that
12504                  * long double precision is not needed */
12505
12506                 if ((fv <= 0L) && (fv >= -0L))
12507                     fix_ldbl_sprintf_bug = TRUE; /* 0 is 0 - easiest */
12508                 else {
12509                     /* would use Perl_fp_class as a double-check but not
12510                      * functional on IRIX - see perl.h comments */
12511
12512                     if ((fv >= MY_DBL_MIN) || (fv <= -MY_DBL_MIN)) {
12513                         /* It's within the range that a double can represent */
12514 #if defined(DBL_MAX) && !defined(DBL_MIN)
12515                         if ((fv >= ((long double)1/DBL_MAX)) ||
12516                             (fv <= (-(long double)1/DBL_MAX)))
12517 #endif
12518                         fix_ldbl_sprintf_bug = TRUE;
12519                     }
12520                 }
12521                 if (fix_ldbl_sprintf_bug == TRUE) {
12522                     double temp;
12523
12524                     intsize = 0;
12525                     temp = (double)fv;
12526                     fv = (NV)temp;
12527                 }
12528             }
12529
12530 #  undef MY_DBL_MAX
12531 #  undef MY_DBL_MAX_BUG
12532 #  undef MY_DBL_MIN
12533
12534 #endif /* HAS_LDBL_SPRINTF_BUG */
12535
12536             if (need >= ((STRLEN)~0) - 40)
12537                 croak_memory_wrap();
12538             need += 40; /* fudge factor */
12539             if (PL_efloatsize < need) {
12540                 Safefree(PL_efloatbuf);
12541                 PL_efloatsize = need;
12542                 Newx(PL_efloatbuf, PL_efloatsize, char);
12543                 PL_efloatbuf[0] = '\0';
12544             }
12545
12546             if ( !(width || left || plus || alt) && fill != '0'
12547                  && has_precis && intsize != 'q'        /* Shortcuts */
12548                  && LIKELY(!Perl_isinfnan((NV)fv)) ) {
12549                 /* See earlier comment about buggy Gconvert when digits,
12550                    aka precis is 0  */
12551                 if ( c == 'g' && precis ) {
12552                     STORE_LC_NUMERIC_SET_TO_NEEDED();
12553                     SNPRINTF_G(fv, PL_efloatbuf, PL_efloatsize, precis);
12554                     /* May return an empty string for digits==0 */
12555                     if (*PL_efloatbuf) {
12556                         elen = strlen(PL_efloatbuf);
12557                         goto float_converted;
12558                     }
12559                 } else if ( c == 'f' && !precis ) {
12560                     if ((eptr = F0convert(nv, ebuf + sizeof ebuf, &elen)))
12561                         break;
12562                 }
12563             }
12564
12565             if (UNLIKELY(hexfp)) {
12566                 /* Hexadecimal floating point. */
12567                 char* p = PL_efloatbuf;
12568                 U8 vhex[VHEX_SIZE];
12569                 U8* v = vhex; /* working pointer to vhex */
12570                 U8* vend; /* pointer to one beyond last digit of vhex */
12571                 U8* vfnz = NULL; /* first non-zero */
12572                 U8* vlnz = NULL; /* last non-zero */
12573                 U8* v0 = NULL; /* first output */
12574                 const bool lower = (c == 'a');
12575                 /* At output the values of vhex (up to vend) will
12576                  * be mapped through the xdig to get the actual
12577                  * human-readable xdigits. */
12578                 const char* xdig = PL_hexdigit;
12579                 int zerotail = 0; /* how many extra zeros to append */
12580                 int exponent = 0; /* exponent of the floating point input */
12581                 bool hexradix = FALSE; /* should we output the radix */
12582                 bool subnormal = FALSE; /* IEEE 754 subnormal/denormal */
12583                 bool negative = FALSE;
12584
12585                 /* XXX: NaN, Inf -- though they are printed as "NaN" and "Inf".
12586                  *
12587                  * For example with denormals, (assuming the vanilla
12588                  * 64-bit double): the exponent is zero. 1xp-1074 is
12589                  * the smallest denormal and the smallest double, it
12590                  * could be output also as 0x0.0000000000001p-1022 to
12591                  * match its internal structure. */
12592
12593                 vend = S_hextract(aTHX_ nv, &exponent, &subnormal, vhex, NULL);
12594                 S_hextract(aTHX_ nv, &exponent, &subnormal, vhex, vend);
12595
12596 #if NVSIZE > DOUBLESIZE
12597 #  ifdef HEXTRACT_HAS_IMPLICIT_BIT
12598                 /* In this case there is an implicit bit,
12599                  * and therefore the exponent is shifted by one. */
12600                 exponent--;
12601 #  else
12602 #   ifdef NV_X86_80_BIT
12603                 if (subnormal) {
12604                     /* The subnormals of the x86-80 have a base exponent of -16382,
12605                      * (while the physical exponent bits are zero) but the frexp()
12606                      * returned the scientific-style floating exponent.  We want
12607                      * to map the last one as:
12608                      * -16831..-16384 -> -16382 (the last normal is 0x1p-16382)
12609                      * -16835..-16388 -> -16384
12610                      * since we want to keep the first hexdigit
12611                      * as one of the [8421]. */
12612                     exponent = -4 * ( (exponent + 1) / -4) - 2;
12613                 } else {
12614                     exponent -= 4;
12615                 }
12616 #   endif
12617                 /* TBD: other non-implicit-bit platforms than the x86-80. */
12618 #  endif
12619 #endif
12620
12621                 negative = fv < 0 || Perl_signbit(nv);
12622                 if (negative)
12623                     *p++ = '-';
12624                 else if (plus)
12625                     *p++ = plus;
12626                 *p++ = '0';
12627                 if (lower) {
12628                     *p++ = 'x';
12629                 }
12630                 else {
12631                     *p++ = 'X';
12632                     xdig += 16; /* Use uppercase hex. */
12633                 }
12634
12635                 /* Find the first non-zero xdigit. */
12636                 for (v = vhex; v < vend; v++) {
12637                     if (*v) {
12638                         vfnz = v;
12639                         break;
12640                     }
12641                 }
12642
12643                 if (vfnz) {
12644                     /* Find the last non-zero xdigit. */
12645                     for (v = vend - 1; v >= vhex; v--) {
12646                         if (*v) {
12647                             vlnz = v;
12648                             break;
12649                         }
12650                     }
12651
12652 #if NVSIZE == DOUBLESIZE
12653                     if (fv != 0.0)
12654                         exponent--;
12655 #endif
12656
12657                     if (subnormal) {
12658 #ifndef NV_X86_80_BIT
12659                       if (vfnz[0] > 1) {
12660                         /* IEEE 754 subnormals (but not the x86 80-bit):
12661                          * we want "normalize" the subnormal,
12662                          * so we need to right shift the hex nybbles
12663                          * so that the output of the subnormal starts
12664                          * from the first true bit.  (Another, equally
12665                          * valid, policy would be to dump the subnormal
12666                          * nybbles as-is, to display the "physical" layout.) */
12667                         int i, n;
12668                         U8 *vshr;
12669                         /* Find the ceil(log2(v[0])) of
12670                          * the top non-zero nybble. */
12671                         for (i = vfnz[0], n = 0; i > 1; i >>= 1, n++) { }
12672                         assert(n < 4);
12673                         vlnz[1] = 0;
12674                         for (vshr = vlnz; vshr >= vfnz; vshr--) {
12675                           vshr[1] |= (vshr[0] & (0xF >> (4 - n))) << (4 - n);
12676                           vshr[0] >>= n;
12677                         }
12678                         if (vlnz[1]) {
12679                           vlnz++;
12680                         }
12681                       }
12682 #endif
12683                       v0 = vfnz;
12684                     } else {
12685                       v0 = vhex;
12686                     }
12687
12688                     if (has_precis) {
12689                         U8* ve = (subnormal ? vlnz + 1 : vend);
12690                         SSize_t vn = ve - (subnormal ? vfnz : vhex);
12691                         if ((SSize_t)(precis + 1) < vn) {
12692                             bool overflow = FALSE;
12693                             if (v0[precis + 1] < 0x8) {
12694                                 /* Round down, nothing to do. */
12695                             } else if (v0[precis + 1] > 0x8) {
12696                                 /* Round up. */
12697                                 v0[precis]++;
12698                                 overflow = v0[precis] > 0xF;
12699                                 v0[precis] &= 0xF;
12700                             } else { /* v0[precis] == 0x8 */
12701                                 /* Half-point: round towards the one
12702                                  * with the even least-significant digit:
12703                                  * 08 -> 0  88 -> 8
12704                                  * 18 -> 2  98 -> a
12705                                  * 28 -> 2  a8 -> a
12706                                  * 38 -> 4  b8 -> c
12707                                  * 48 -> 4  c8 -> c
12708                                  * 58 -> 6  d8 -> e
12709                                  * 68 -> 6  e8 -> e
12710                                  * 78 -> 8  f8 -> 10 */
12711                                 if ((v0[precis] & 0x1)) {
12712                                     v0[precis]++;
12713                                 }
12714                                 overflow = v0[precis] > 0xF;
12715                                 v0[precis] &= 0xF;
12716                             }
12717
12718                             if (overflow) {
12719                                 for (v = v0 + precis - 1; v >= v0; v--) {
12720                                     (*v)++;
12721                                     overflow = *v > 0xF;
12722                                     (*v) &= 0xF;
12723                                     if (!overflow) {
12724                                         break;
12725                                     }
12726                                 }
12727                                 if (v == v0 - 1 && overflow) {
12728                                     /* If the overflow goes all the
12729                                      * way to the front, we need to
12730                                      * insert 0x1 in front, and adjust
12731                                      * the exponent. */
12732                                     Move(v0, v0 + 1, vn, char);
12733                                     *v0 = 0x1;
12734                                     exponent += 4;
12735                                 }
12736                             }
12737
12738                             /* The new effective "last non zero". */
12739                             vlnz = v0 + precis;
12740                         }
12741                         else {
12742                             zerotail =
12743                               subnormal ? precis - vn + 1 :
12744                               precis - (vlnz - vhex);
12745                         }
12746                     }
12747
12748                     v = v0;
12749                     *p++ = xdig[*v++];
12750
12751                     /* If there are non-zero xdigits, the radix
12752                      * is output after the first one. */
12753                     if (vfnz < vlnz) {
12754                       hexradix = TRUE;
12755                     }
12756                 }
12757                 else {
12758                     *p++ = '0';
12759                     exponent = 0;
12760                     zerotail = precis;
12761                 }
12762
12763                 /* The radix is always output if precis, or if alt. */
12764                 if (precis > 0 || alt) {
12765                   hexradix = TRUE;
12766                 }
12767
12768                 if (hexradix) {
12769 #ifndef USE_LOCALE_NUMERIC
12770                         *p++ = '.';
12771 #else
12772                         STORE_LC_NUMERIC_SET_TO_NEEDED();
12773                         if (PL_numeric_radix_sv && IN_LC(LC_NUMERIC)) {
12774                             STRLEN n;
12775                             const char* r = SvPV(PL_numeric_radix_sv, n);
12776                             Copy(r, p, n, char);
12777                             p += n;
12778                         }
12779                         else {
12780                             *p++ = '.';
12781                         }
12782                         RESTORE_LC_NUMERIC();
12783 #endif
12784                 }
12785
12786                 if (vlnz) {
12787                     while (v <= vlnz)
12788                         *p++ = xdig[*v++];
12789                 }
12790
12791                 if (zerotail > 0) {
12792                   while (zerotail--) {
12793                     *p++ = '0';
12794                   }
12795                 }
12796
12797                 elen = p - PL_efloatbuf;
12798                 elen += my_snprintf(p, PL_efloatsize - elen,
12799                                     "%c%+d", lower ? 'p' : 'P',
12800                                     exponent);
12801
12802                 if (elen < width) {
12803                     if (left) {
12804                         /* Pad the back with spaces. */
12805                         memset(PL_efloatbuf + elen, ' ', width - elen);
12806                     }
12807                     else if (fill == '0') {
12808                         /* Insert the zeros after the "0x" and the
12809                          * the potential sign, but before the digits,
12810                          * otherwise we end up with "0000xH.HHH...",
12811                          * when we want "0x000H.HHH..."  */
12812                         STRLEN nzero = width - elen;
12813                         char* zerox = PL_efloatbuf + 2;
12814                         STRLEN nmove = elen - 2;
12815                         if (negative || plus) {
12816                             zerox++;
12817                             nmove--;
12818                         }
12819                         Move(zerox, zerox + nzero, nmove, char);
12820                         memset(zerox, fill, nzero);
12821                     }
12822                     else {
12823                         /* Move it to the right. */
12824                         Move(PL_efloatbuf, PL_efloatbuf + width - elen,
12825                              elen, char);
12826                         /* Pad the front with spaces. */
12827                         memset(PL_efloatbuf, ' ', width - elen);
12828                     }
12829                     elen = width;
12830                 }
12831             }
12832             else {
12833                 elen = S_infnan_2pv(nv, PL_efloatbuf, PL_efloatsize, plus);
12834                 if (elen) {
12835                     /* Not affecting infnan output: precision, alt, fill. */
12836                     if (elen < width) {
12837                         if (left) {
12838                             /* Pack the back with spaces. */
12839                             memset(PL_efloatbuf + elen, ' ', width - elen);
12840                         } else {
12841                             /* Move it to the right. */
12842                             Move(PL_efloatbuf, PL_efloatbuf + width - elen,
12843                                  elen, char);
12844                             /* Pad the front with spaces. */
12845                             memset(PL_efloatbuf, ' ', width - elen);
12846                         }
12847                         elen = width;
12848                     }
12849                 }
12850             }
12851
12852             if (elen == 0) {
12853                 char *ptr = ebuf + sizeof ebuf;
12854                 *--ptr = '\0';
12855                 *--ptr = c;
12856 #if defined(USE_QUADMATH)
12857                 if (intsize == 'q') {
12858                     /* "g" -> "Qg" */
12859                     *--ptr = 'Q';
12860                 }
12861                 /* FIXME: what to do if HAS_LONG_DOUBLE but not PERL_PRIfldbl? */
12862 #elif defined(HAS_LONG_DOUBLE) && defined(PERL_PRIfldbl)
12863                 /* Note that this is HAS_LONG_DOUBLE and PERL_PRIfldbl,
12864                  * not USE_LONG_DOUBLE and NVff.  In other words,
12865                  * this needs to work without USE_LONG_DOUBLE. */
12866                 if (intsize == 'q') {
12867                     /* Copy the one or more characters in a long double
12868                      * format before the 'base' ([efgEFG]) character to
12869                      * the format string. */
12870                     static char const ldblf[] = PERL_PRIfldbl;
12871                     char const *p = ldblf + sizeof(ldblf) - 3;
12872                     while (p >= ldblf) { *--ptr = *p--; }
12873                 }
12874 #endif
12875                 if (has_precis) {
12876                     base = precis;
12877                     do { *--ptr = '0' + (base % 10); } while (base /= 10);
12878                     *--ptr = '.';
12879                 }
12880                 if (width) {
12881                     base = width;
12882                     do { *--ptr = '0' + (base % 10); } while (base /= 10);
12883                 }
12884                 if (fill == '0')
12885                     *--ptr = fill;
12886                 if (left)
12887                     *--ptr = '-';
12888                 if (plus)
12889                     *--ptr = plus;
12890                 if (alt)
12891                     *--ptr = '#';
12892                 *--ptr = '%';
12893
12894                 /* No taint.  Otherwise we are in the strange situation
12895                  * where printf() taints but print($float) doesn't.
12896                  * --jhi */
12897
12898                 STORE_LC_NUMERIC_SET_TO_NEEDED();
12899
12900                 /* hopefully the above makes ptr a very constrained format
12901                  * that is safe to use, even though it's not literal */
12902                 GCC_DIAG_IGNORE(-Wformat-nonliteral);
12903 #ifdef USE_QUADMATH
12904                 {
12905                     const char* qfmt = quadmath_format_single(ptr);
12906                     if (!qfmt)
12907                         Perl_croak_nocontext("panic: quadmath invalid format \"%s\"", ptr);
12908                     elen = quadmath_snprintf(PL_efloatbuf, PL_efloatsize,
12909                                              qfmt, nv);
12910                     if ((IV)elen == -1) {
12911                         if (qfmt != ptr)
12912                             SAVEFREEPV(qfmt);
12913                         Perl_croak_nocontext("panic: quadmath_snprintf failed, format \"%s\"", qfmt);
12914                     }
12915                     if (qfmt != ptr)
12916                         Safefree(qfmt);
12917                 }
12918 #elif defined(HAS_LONG_DOUBLE)
12919                 elen = ((intsize == 'q')
12920                         ? my_snprintf(PL_efloatbuf, PL_efloatsize, ptr, fv)
12921                         : my_snprintf(PL_efloatbuf, PL_efloatsize, ptr, (double)fv));
12922 #else
12923                 elen = my_sprintf(PL_efloatbuf, ptr, fv);
12924 #endif
12925                 GCC_DIAG_RESTORE;
12926             }
12927
12928         float_converted:
12929             eptr = PL_efloatbuf;
12930             assert((IV)elen > 0); /* here zero elen is bad */
12931
12932 #ifdef USE_LOCALE_NUMERIC
12933             /* If the decimal point character in the string is UTF-8, make the
12934              * output utf8 */
12935             if (PL_numeric_radix_sv && SvUTF8(PL_numeric_radix_sv)
12936                 && instr(eptr, SvPVX_const(PL_numeric_radix_sv)))
12937             {
12938                 is_utf8 = TRUE;
12939             }
12940 #endif
12941
12942             break;
12943
12944             /* SPECIAL */
12945
12946         case 'n':
12947             if (vectorize)
12948                 goto unknown;
12949             i = SvCUR(sv) - origlen;
12950             if (args) {
12951                 switch (intsize) {
12952                 case 'c':       *(va_arg(*args, char*)) = i; break;
12953                 case 'h':       *(va_arg(*args, short*)) = i; break;
12954                 default:        *(va_arg(*args, int*)) = i; break;
12955                 case 'l':       *(va_arg(*args, long*)) = i; break;
12956                 case 'V':       *(va_arg(*args, IV*)) = i; break;
12957                 case 'z':       *(va_arg(*args, SSize_t*)) = i; break;
12958 #ifdef HAS_PTRDIFF_T
12959                 case 't':       *(va_arg(*args, ptrdiff_t*)) = i; break;
12960 #endif
12961 #ifdef I_STDINT
12962                 case 'j':       *(va_arg(*args, intmax_t*)) = i; break;
12963 #endif
12964                 case 'q':
12965 #if IVSIZE >= 8
12966                                 *(va_arg(*args, Quad_t*)) = i; break;
12967 #else
12968                                 goto unknown;
12969 #endif
12970                 }
12971             }
12972             else
12973                 sv_setuv_mg(argsv, has_utf8 ? (UV)sv_len_utf8(sv) : (UV)i);
12974             goto donevalidconversion;
12975
12976             /* UNKNOWN */
12977
12978         default:
12979       unknown:
12980             if (!args
12981                 && (PL_op->op_type == OP_PRTF || PL_op->op_type == OP_SPRINTF)
12982                 && ckWARN(WARN_PRINTF))
12983             {
12984                 SV * const msg = sv_newmortal();
12985                 Perl_sv_setpvf(aTHX_ msg, "Invalid conversion in %sprintf: ",
12986                           (PL_op->op_type == OP_PRTF) ? "" : "s");
12987                 if (fmtstart < patend) {
12988                     const char * const fmtend = q < patend ? q : patend;
12989                     const char * f;
12990                     sv_catpvs(msg, "\"%");
12991                     for (f = fmtstart; f < fmtend; f++) {
12992                         if (isPRINT(*f)) {
12993                             sv_catpvn_nomg(msg, f, 1);
12994                         } else {
12995                             Perl_sv_catpvf(aTHX_ msg,
12996                                            "\\%03" UVof, (UV)*f & 0xFF);
12997                         }
12998                     }
12999                     sv_catpvs(msg, "\"");
13000                 } else {
13001                     sv_catpvs(msg, "end of string");
13002                 }
13003                 Perl_warner(aTHX_ packWARN(WARN_PRINTF), "%" SVf, SVfARG(msg)); /* yes, this is reentrant */
13004             }
13005
13006             /* output mangled stuff ... */
13007             if (c == '\0')
13008                 --q;
13009             eptr = p;
13010             elen = q - p;
13011
13012             /* ... right here, because formatting flags should not apply */
13013             SvGROW(sv, SvCUR(sv) + elen + 1);
13014             p = SvEND(sv);
13015             Copy(eptr, p, elen, char);
13016             p += elen;
13017             *p = '\0';
13018             SvCUR_set(sv, p - SvPVX_const(sv));
13019             svix = osvix;
13020             continue;   /* not "break" */
13021         }
13022
13023         if (is_utf8 != has_utf8) {
13024             if (is_utf8) {
13025                 if (SvCUR(sv))
13026                     sv_utf8_upgrade(sv);
13027             }
13028             else {
13029                 const STRLEN old_elen = elen;
13030                 SV * const nsv = newSVpvn_flags(eptr, elen, SVs_TEMP);
13031                 sv_utf8_upgrade(nsv);
13032                 eptr = SvPVX_const(nsv);
13033                 elen = SvCUR(nsv);
13034
13035                 if (width) { /* fudge width (can't fudge elen) */
13036                     width += elen - old_elen;
13037                 }
13038                 is_utf8 = TRUE;
13039             }
13040         }
13041
13042         /* signed value that's wrapped? */
13043         assert(elen  <= ((~(STRLEN)0) >> 1));
13044         have = esignlen + zeros + elen;
13045         if (have < zeros)
13046             croak_memory_wrap();
13047
13048         need = (have > width ? have : width);
13049         gap = need - have;
13050
13051         if (need >= (((STRLEN)~0) - SvCUR(sv) - dotstrlen - 1))
13052             croak_memory_wrap();
13053         SvGROW(sv, SvCUR(sv) + need + dotstrlen + 1);
13054         p = SvEND(sv);
13055         if (esignlen && fill == '0') {
13056             int i;
13057             for (i = 0; i < (int)esignlen; i++)
13058                 *p++ = esignbuf[i];
13059         }
13060         if (gap && !left) {
13061             memset(p, fill, gap);
13062             p += gap;
13063         }
13064         if (esignlen && fill != '0') {
13065             int i;
13066             for (i = 0; i < (int)esignlen; i++)
13067                 *p++ = esignbuf[i];
13068         }
13069         if (zeros) {
13070             int i;
13071             for (i = zeros; i; i--)
13072                 *p++ = '0';
13073         }
13074         if (elen) {
13075             Copy(eptr, p, elen, char);
13076             p += elen;
13077         }
13078         if (gap && left) {
13079             memset(p, ' ', gap);
13080             p += gap;
13081         }
13082         if (vectorize) {
13083             if (veclen) {
13084                 Copy(dotstr, p, dotstrlen, char);
13085                 p += dotstrlen;
13086             }
13087             else
13088                 vectorize = FALSE;              /* done iterating over vecstr */
13089         }
13090         if (is_utf8)
13091             has_utf8 = TRUE;
13092         if (has_utf8)
13093             SvUTF8_on(sv);
13094         *p = '\0';
13095         SvCUR_set(sv, p - SvPVX_const(sv));
13096         if (vectorize) {
13097             esignlen = 0;
13098             goto vector;
13099         }
13100
13101       donevalidconversion:
13102         if (used_explicit_ix)
13103             no_redundant_warning = TRUE;
13104         if (arg_missing)
13105             S_warn_vcatpvfn_missing_argument(aTHX);
13106     }
13107
13108     /* Now that we've consumed all our printf format arguments (svix)
13109      * do we have things left on the stack that we didn't use?
13110      */
13111     if (!no_redundant_warning && svmax >= svix + 1 && ckWARN(WARN_REDUNDANT)) {
13112         Perl_warner(aTHX_ packWARN(WARN_REDUNDANT), "Redundant argument in %s",
13113                 PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
13114     }
13115
13116     SvTAINT(sv);
13117
13118     RESTORE_LC_NUMERIC();   /* Done outside loop, so don't have to save/restore
13119                                each iteration. */
13120 }
13121
13122 /* =========================================================================
13123
13124 =head1 Cloning an interpreter
13125
13126 =cut
13127
13128 All the macros and functions in this section are for the private use of
13129 the main function, perl_clone().
13130
13131 The foo_dup() functions make an exact copy of an existing foo thingy.
13132 During the course of a cloning, a hash table is used to map old addresses
13133 to new addresses.  The table is created and manipulated with the
13134 ptr_table_* functions.
13135
13136  * =========================================================================*/
13137
13138
13139 #if defined(USE_ITHREADS)
13140
13141 /* XXX Remove this so it doesn't have to go thru the macro and return for nothing */
13142 #ifndef GpREFCNT_inc
13143 #  define GpREFCNT_inc(gp)      ((gp) ? (++(gp)->gp_refcnt, (gp)) : (GP*)NULL)
13144 #endif
13145
13146
13147 /* Certain cases in Perl_ss_dup have been merged, by relying on the fact
13148    that currently av_dup, gv_dup and hv_dup are the same as sv_dup.
13149    If this changes, please unmerge ss_dup.
13150    Likewise, sv_dup_inc_multiple() relies on this fact.  */
13151 #define sv_dup_inc_NN(s,t)      SvREFCNT_inc_NN(sv_dup_inc(s,t))
13152 #define av_dup(s,t)     MUTABLE_AV(sv_dup((const SV *)s,t))
13153 #define av_dup_inc(s,t) MUTABLE_AV(sv_dup_inc((const SV *)s,t))
13154 #define hv_dup(s,t)     MUTABLE_HV(sv_dup((const SV *)s,t))
13155 #define hv_dup_inc(s,t) MUTABLE_HV(sv_dup_inc((const SV *)s,t))
13156 #define cv_dup(s,t)     MUTABLE_CV(sv_dup((const SV *)s,t))
13157 #define cv_dup_inc(s,t) MUTABLE_CV(sv_dup_inc((const SV *)s,t))
13158 #define io_dup(s,t)     MUTABLE_IO(sv_dup((const SV *)s,t))
13159 #define io_dup_inc(s,t) MUTABLE_IO(sv_dup_inc((const SV *)s,t))
13160 #define gv_dup(s,t)     MUTABLE_GV(sv_dup((const SV *)s,t))
13161 #define gv_dup_inc(s,t) MUTABLE_GV(sv_dup_inc((const SV *)s,t))
13162 #define SAVEPV(p)       ((p) ? savepv(p) : NULL)
13163 #define SAVEPVN(p,n)    ((p) ? savepvn(p,n) : NULL)
13164
13165 /* clone a parser */
13166
13167 yy_parser *
13168 Perl_parser_dup(pTHX_ const yy_parser *const proto, CLONE_PARAMS *const param)
13169 {
13170     yy_parser *parser;
13171
13172     PERL_ARGS_ASSERT_PARSER_DUP;
13173
13174     if (!proto)
13175         return NULL;
13176
13177     /* look for it in the table first */
13178     parser = (yy_parser *)ptr_table_fetch(PL_ptr_table, proto);
13179     if (parser)
13180         return parser;
13181
13182     /* create anew and remember what it is */
13183     Newxz(parser, 1, yy_parser);
13184     ptr_table_store(PL_ptr_table, proto, parser);
13185
13186     /* XXX these not yet duped */
13187     parser->old_parser = NULL;
13188     parser->stack = NULL;
13189     parser->ps = NULL;
13190     parser->stack_max1 = 0;
13191     /* XXX parser->stack->state = 0; */
13192
13193     /* XXX eventually, just Copy() most of the parser struct ? */
13194
13195     parser->lex_brackets = proto->lex_brackets;
13196     parser->lex_casemods = proto->lex_casemods;
13197     parser->lex_brackstack = savepvn(proto->lex_brackstack,
13198                     (proto->lex_brackets < 120 ? 120 : proto->lex_brackets));
13199     parser->lex_casestack = savepvn(proto->lex_casestack,
13200                     (proto->lex_casemods < 12 ? 12 : proto->lex_casemods));
13201     parser->lex_defer   = proto->lex_defer;
13202     parser->lex_dojoin  = proto->lex_dojoin;
13203     parser->lex_formbrack = proto->lex_formbrack;
13204     parser->lex_inpat   = proto->lex_inpat;
13205     parser->lex_inwhat  = proto->lex_inwhat;
13206     parser->lex_op      = proto->lex_op;
13207     parser->lex_repl    = sv_dup_inc(proto->lex_repl, param);
13208     parser->lex_starts  = proto->lex_starts;
13209     parser->lex_stuff   = sv_dup_inc(proto->lex_stuff, param);
13210     parser->multi_close = proto->multi_close;
13211     parser->multi_open  = proto->multi_open;
13212     parser->multi_start = proto->multi_start;
13213     parser->multi_end   = proto->multi_end;
13214     parser->preambled   = proto->preambled;
13215     parser->lex_super_state = proto->lex_super_state;
13216     parser->lex_sub_inwhat  = proto->lex_sub_inwhat;
13217     parser->lex_sub_op  = proto->lex_sub_op;
13218     parser->lex_sub_repl= sv_dup_inc(proto->lex_sub_repl, param);
13219     parser->linestr     = sv_dup_inc(proto->linestr, param);
13220     parser->expect      = proto->expect;
13221     parser->copline     = proto->copline;
13222     parser->last_lop_op = proto->last_lop_op;
13223     parser->lex_state   = proto->lex_state;
13224     parser->rsfp        = fp_dup(proto->rsfp, '<', param);
13225     /* rsfp_filters entries have fake IoDIRP() */
13226     parser->rsfp_filters= av_dup_inc(proto->rsfp_filters, param);
13227     parser->in_my       = proto->in_my;
13228     parser->in_my_stash = hv_dup(proto->in_my_stash, param);
13229     parser->error_count = proto->error_count;
13230     parser->sig_elems   = proto->sig_elems;
13231     parser->sig_optelems= proto->sig_optelems;
13232     parser->sig_slurpy  = proto->sig_slurpy;
13233     parser->recheck_utf8_validity = proto->recheck_utf8_validity;
13234     parser->linestr     = sv_dup_inc(proto->linestr, param);
13235
13236     {
13237         char * const ols = SvPVX(proto->linestr);
13238         char * const ls  = SvPVX(parser->linestr);
13239
13240         parser->bufptr      = ls + (proto->bufptr >= ols ?
13241                                     proto->bufptr -  ols : 0);
13242         parser->oldbufptr   = ls + (proto->oldbufptr >= ols ?
13243                                     proto->oldbufptr -  ols : 0);
13244         parser->oldoldbufptr= ls + (proto->oldoldbufptr >= ols ?
13245                                     proto->oldoldbufptr -  ols : 0);
13246         parser->linestart   = ls + (proto->linestart >= ols ?
13247                                     proto->linestart -  ols : 0);
13248         parser->last_uni    = ls + (proto->last_uni >= ols ?
13249                                     proto->last_uni -  ols : 0);
13250         parser->last_lop    = ls + (proto->last_lop >= ols ?
13251                                     proto->last_lop -  ols : 0);
13252
13253         parser->bufend      = ls + SvCUR(parser->linestr);
13254     }
13255
13256     Copy(proto->tokenbuf, parser->tokenbuf, 256, char);
13257
13258
13259     Copy(proto->nextval, parser->nextval, 5, YYSTYPE);
13260     Copy(proto->nexttype, parser->nexttype, 5,  I32);
13261     parser->nexttoke    = proto->nexttoke;
13262
13263     /* XXX should clone saved_curcop here, but we aren't passed
13264      * proto_perl; so do it in perl_clone_using instead */
13265
13266     return parser;
13267 }
13268
13269
13270 /* duplicate a file handle */
13271
13272 PerlIO *
13273 Perl_fp_dup(pTHX_ PerlIO *const fp, const char type, CLONE_PARAMS *const param)
13274 {
13275     PerlIO *ret;
13276
13277     PERL_ARGS_ASSERT_FP_DUP;
13278     PERL_UNUSED_ARG(type);
13279
13280     if (!fp)
13281         return (PerlIO*)NULL;
13282
13283     /* look for it in the table first */
13284     ret = (PerlIO*)ptr_table_fetch(PL_ptr_table, fp);
13285     if (ret)
13286         return ret;
13287
13288     /* create anew and remember what it is */
13289 #ifdef __amigaos4__
13290     ret = PerlIO_fdupopen(aTHX_ fp, param, PERLIO_DUP_CLONE|PERLIO_DUP_FD);
13291 #else
13292     ret = PerlIO_fdupopen(aTHX_ fp, param, PERLIO_DUP_CLONE);
13293 #endif
13294     ptr_table_store(PL_ptr_table, fp, ret);
13295     return ret;
13296 }
13297
13298 /* duplicate a directory handle */
13299
13300 DIR *
13301 Perl_dirp_dup(pTHX_ DIR *const dp, CLONE_PARAMS *const param)
13302 {
13303     DIR *ret;
13304
13305 #if defined(HAS_FCHDIR) && defined(HAS_TELLDIR) && defined(HAS_SEEKDIR)
13306     DIR *pwd;
13307     const Direntry_t *dirent;
13308     char smallbuf[256]; /* XXX MAXPATHLEN, surely? */
13309     char *name = NULL;
13310     STRLEN len = 0;
13311     long pos;
13312 #endif
13313
13314     PERL_UNUSED_CONTEXT;
13315     PERL_ARGS_ASSERT_DIRP_DUP;
13316
13317     if (!dp)
13318         return (DIR*)NULL;
13319
13320     /* look for it in the table first */
13321     ret = (DIR*)ptr_table_fetch(PL_ptr_table, dp);
13322     if (ret)
13323         return ret;
13324
13325 #if defined(HAS_FCHDIR) && defined(HAS_TELLDIR) && defined(HAS_SEEKDIR)
13326
13327     PERL_UNUSED_ARG(param);
13328
13329     /* create anew */
13330
13331     /* open the current directory (so we can switch back) */
13332     if (!(pwd = PerlDir_open("."))) return (DIR *)NULL;
13333
13334     /* chdir to our dir handle and open the present working directory */
13335     if (fchdir(my_dirfd(dp)) < 0 || !(ret = PerlDir_open("."))) {
13336         PerlDir_close(pwd);
13337         return (DIR *)NULL;
13338     }
13339     /* Now we should have two dir handles pointing to the same dir. */
13340
13341     /* Be nice to the calling code and chdir back to where we were. */
13342     /* XXX If this fails, then what? */
13343     PERL_UNUSED_RESULT(fchdir(my_dirfd(pwd)));
13344
13345     /* We have no need of the pwd handle any more. */
13346     PerlDir_close(pwd);
13347
13348 #ifdef DIRNAMLEN
13349 # define d_namlen(d) (d)->d_namlen
13350 #else
13351 # define d_namlen(d) strlen((d)->d_name)
13352 #endif
13353     /* Iterate once through dp, to get the file name at the current posi-
13354        tion. Then step back. */
13355     pos = PerlDir_tell(dp);
13356     if ((dirent = PerlDir_read(dp))) {
13357         len = d_namlen(dirent);
13358         if (len > sizeof(dirent->d_name) && sizeof(dirent->d_name) > PTRSIZE) {
13359             /* If the len is somehow magically longer than the
13360              * maximum length of the directory entry, even though
13361              * we could fit it in a buffer, we could not copy it
13362              * from the dirent.  Bail out. */
13363             PerlDir_close(ret);
13364             return (DIR*)NULL;
13365         }
13366         if (len <= sizeof smallbuf) name = smallbuf;
13367         else Newx(name, len, char);
13368         Move(dirent->d_name, name, len, char);
13369     }
13370     PerlDir_seek(dp, pos);
13371
13372     /* Iterate through the new dir handle, till we find a file with the
13373        right name. */
13374     if (!dirent) /* just before the end */
13375         for(;;) {
13376             pos = PerlDir_tell(ret);
13377             if (PerlDir_read(ret)) continue; /* not there yet */
13378             PerlDir_seek(ret, pos); /* step back */
13379             break;
13380         }
13381     else {
13382         const long pos0 = PerlDir_tell(ret);
13383         for(;;) {
13384             pos = PerlDir_tell(ret);
13385             if ((dirent = PerlDir_read(ret))) {
13386                 if (len == (STRLEN)d_namlen(dirent)
13387                     && memEQ(name, dirent->d_name, len)) {
13388                     /* found it */
13389                     PerlDir_seek(ret, pos); /* step back */
13390                     break;
13391                 }
13392                 /* else we are not there yet; keep iterating */
13393             }
13394             else { /* This is not meant to happen. The best we can do is
13395                       reset the iterator to the beginning. */
13396                 PerlDir_seek(ret, pos0);
13397                 break;
13398             }
13399         }
13400     }
13401 #undef d_namlen
13402
13403     if (name && name != smallbuf)
13404         Safefree(name);
13405 #endif
13406
13407 #ifdef WIN32
13408     ret = win32_dirp_dup(dp, param);
13409 #endif
13410
13411     /* pop it in the pointer table */
13412     if (ret)
13413         ptr_table_store(PL_ptr_table, dp, ret);
13414
13415     return ret;
13416 }
13417
13418 /* duplicate a typeglob */
13419
13420 GP *
13421 Perl_gp_dup(pTHX_ GP *const gp, CLONE_PARAMS *const param)
13422 {
13423     GP *ret;
13424
13425     PERL_ARGS_ASSERT_GP_DUP;
13426
13427     if (!gp)
13428         return (GP*)NULL;
13429     /* look for it in the table first */
13430     ret = (GP*)ptr_table_fetch(PL_ptr_table, gp);
13431     if (ret)
13432         return ret;
13433
13434     /* create anew and remember what it is */
13435     Newxz(ret, 1, GP);
13436     ptr_table_store(PL_ptr_table, gp, ret);
13437
13438     /* clone */
13439     /* ret->gp_refcnt must be 0 before any other dups are called. We're relying
13440        on Newxz() to do this for us.  */
13441     ret->gp_sv          = sv_dup_inc(gp->gp_sv, param);
13442     ret->gp_io          = io_dup_inc(gp->gp_io, param);
13443     ret->gp_form        = cv_dup_inc(gp->gp_form, param);
13444     ret->gp_av          = av_dup_inc(gp->gp_av, param);
13445     ret->gp_hv          = hv_dup_inc(gp->gp_hv, param);
13446     ret->gp_egv = gv_dup(gp->gp_egv, param);/* GvEGV is not refcounted */
13447     ret->gp_cv          = cv_dup_inc(gp->gp_cv, param);
13448     ret->gp_cvgen       = gp->gp_cvgen;
13449     ret->gp_line        = gp->gp_line;
13450     ret->gp_file_hek    = hek_dup(gp->gp_file_hek, param);
13451     return ret;
13452 }
13453
13454 /* duplicate a chain of magic */
13455
13456 MAGIC *
13457 Perl_mg_dup(pTHX_ MAGIC *mg, CLONE_PARAMS *const param)
13458 {
13459     MAGIC *mgret = NULL;
13460     MAGIC **mgprev_p = &mgret;
13461
13462     PERL_ARGS_ASSERT_MG_DUP;
13463
13464     for (; mg; mg = mg->mg_moremagic) {
13465         MAGIC *nmg;
13466
13467         if ((param->flags & CLONEf_JOIN_IN)
13468                 && mg->mg_type == PERL_MAGIC_backref)
13469             /* when joining, we let the individual SVs add themselves to
13470              * backref as needed. */
13471             continue;
13472
13473         Newx(nmg, 1, MAGIC);
13474         *mgprev_p = nmg;
13475         mgprev_p = &(nmg->mg_moremagic);
13476
13477         /* There was a comment "XXX copy dynamic vtable?" but as we don't have
13478            dynamic vtables, I'm not sure why Sarathy wrote it. The comment dates
13479            from the original commit adding Perl_mg_dup() - revision 4538.
13480            Similarly there is the annotation "XXX random ptr?" next to the
13481            assignment to nmg->mg_ptr.  */
13482         *nmg = *mg;
13483
13484         /* FIXME for plugins
13485         if (nmg->mg_type == PERL_MAGIC_qr) {
13486             nmg->mg_obj = MUTABLE_SV(CALLREGDUPE((REGEXP*)nmg->mg_obj, param));
13487         }
13488         else
13489         */
13490         nmg->mg_obj = (nmg->mg_flags & MGf_REFCOUNTED)
13491                           ? nmg->mg_type == PERL_MAGIC_backref
13492                                 /* The backref AV has its reference
13493                                  * count deliberately bumped by 1 */
13494                                 ? SvREFCNT_inc(av_dup_inc((const AV *)
13495                                                     nmg->mg_obj, param))
13496                                 : sv_dup_inc(nmg->mg_obj, param)
13497                           : (nmg->mg_type == PERL_MAGIC_regdatum ||
13498                              nmg->mg_type == PERL_MAGIC_regdata)
13499                                   ? nmg->mg_obj
13500                                   : sv_dup(nmg->mg_obj, param);
13501
13502         if (nmg->mg_ptr && nmg->mg_type != PERL_MAGIC_regex_global) {
13503             if (nmg->mg_len > 0) {
13504                 nmg->mg_ptr     = SAVEPVN(nmg->mg_ptr, nmg->mg_len);
13505                 if (nmg->mg_type == PERL_MAGIC_overload_table &&
13506                         AMT_AMAGIC((AMT*)nmg->mg_ptr))
13507                 {
13508                     AMT * const namtp = (AMT*)nmg->mg_ptr;
13509                     sv_dup_inc_multiple((SV**)(namtp->table),
13510                                         (SV**)(namtp->table), NofAMmeth, param);
13511                 }
13512             }
13513             else if (nmg->mg_len == HEf_SVKEY)
13514                 nmg->mg_ptr = (char*)sv_dup_inc((const SV *)nmg->mg_ptr, param);
13515         }
13516         if ((nmg->mg_flags & MGf_DUP) && nmg->mg_virtual && nmg->mg_virtual->svt_dup) {
13517             nmg->mg_virtual->svt_dup(aTHX_ nmg, param);
13518         }
13519     }
13520     return mgret;
13521 }
13522
13523 #endif /* USE_ITHREADS */
13524
13525 struct ptr_tbl_arena {
13526     struct ptr_tbl_arena *next;
13527     struct ptr_tbl_ent array[1023/3]; /* as ptr_tbl_ent has 3 pointers.  */
13528 };
13529
13530 /* create a new pointer-mapping table */
13531
13532 PTR_TBL_t *
13533 Perl_ptr_table_new(pTHX)
13534 {
13535     PTR_TBL_t *tbl;
13536     PERL_UNUSED_CONTEXT;
13537
13538     Newx(tbl, 1, PTR_TBL_t);
13539     tbl->tbl_max        = 511;
13540     tbl->tbl_items      = 0;
13541     tbl->tbl_arena      = NULL;
13542     tbl->tbl_arena_next = NULL;
13543     tbl->tbl_arena_end  = NULL;
13544     Newxz(tbl->tbl_ary, tbl->tbl_max + 1, PTR_TBL_ENT_t*);
13545     return tbl;
13546 }
13547
13548 #define PTR_TABLE_HASH(ptr) \
13549   ((PTR2UV(ptr) >> 3) ^ (PTR2UV(ptr) >> (3 + 7)) ^ (PTR2UV(ptr) >> (3 + 17)))
13550
13551 /* map an existing pointer using a table */
13552
13553 STATIC PTR_TBL_ENT_t *
13554 S_ptr_table_find(PTR_TBL_t *const tbl, const void *const sv)
13555 {
13556     PTR_TBL_ENT_t *tblent;
13557     const UV hash = PTR_TABLE_HASH(sv);
13558
13559     PERL_ARGS_ASSERT_PTR_TABLE_FIND;
13560
13561     tblent = tbl->tbl_ary[hash & tbl->tbl_max];
13562     for (; tblent; tblent = tblent->next) {
13563         if (tblent->oldval == sv)
13564             return tblent;
13565     }
13566     return NULL;
13567 }
13568
13569 void *
13570 Perl_ptr_table_fetch(pTHX_ PTR_TBL_t *const tbl, const void *const sv)
13571 {
13572     PTR_TBL_ENT_t const *const tblent = ptr_table_find(tbl, sv);
13573
13574     PERL_ARGS_ASSERT_PTR_TABLE_FETCH;
13575     PERL_UNUSED_CONTEXT;
13576
13577     return tblent ? tblent->newval : NULL;
13578 }
13579
13580 /* add a new entry to a pointer-mapping table 'tbl'.  In hash terms, 'oldsv' is
13581  * the key; 'newsv' is the value.  The names "old" and "new" are specific to
13582  * the core's typical use of ptr_tables in thread cloning. */
13583
13584 void
13585 Perl_ptr_table_store(pTHX_ PTR_TBL_t *const tbl, const void *const oldsv, void *const newsv)
13586 {
13587     PTR_TBL_ENT_t *tblent = ptr_table_find(tbl, oldsv);
13588
13589     PERL_ARGS_ASSERT_PTR_TABLE_STORE;
13590     PERL_UNUSED_CONTEXT;
13591
13592     if (tblent) {
13593         tblent->newval = newsv;
13594     } else {
13595         const UV entry = PTR_TABLE_HASH(oldsv) & tbl->tbl_max;
13596
13597         if (tbl->tbl_arena_next == tbl->tbl_arena_end) {
13598             struct ptr_tbl_arena *new_arena;
13599
13600             Newx(new_arena, 1, struct ptr_tbl_arena);
13601             new_arena->next = tbl->tbl_arena;
13602             tbl->tbl_arena = new_arena;
13603             tbl->tbl_arena_next = new_arena->array;
13604             tbl->tbl_arena_end = C_ARRAY_END(new_arena->array);
13605         }
13606
13607         tblent = tbl->tbl_arena_next++;
13608
13609         tblent->oldval = oldsv;
13610         tblent->newval = newsv;
13611         tblent->next = tbl->tbl_ary[entry];
13612         tbl->tbl_ary[entry] = tblent;
13613         tbl->tbl_items++;
13614         if (tblent->next && tbl->tbl_items > tbl->tbl_max)
13615             ptr_table_split(tbl);
13616     }
13617 }
13618
13619 /* double the hash bucket size of an existing ptr table */
13620
13621 void
13622 Perl_ptr_table_split(pTHX_ PTR_TBL_t *const tbl)
13623 {
13624     PTR_TBL_ENT_t **ary = tbl->tbl_ary;
13625     const UV oldsize = tbl->tbl_max + 1;
13626     UV newsize = oldsize * 2;
13627     UV i;
13628
13629     PERL_ARGS_ASSERT_PTR_TABLE_SPLIT;
13630     PERL_UNUSED_CONTEXT;
13631
13632     Renew(ary, newsize, PTR_TBL_ENT_t*);
13633     Zero(&ary[oldsize], newsize-oldsize, PTR_TBL_ENT_t*);
13634     tbl->tbl_max = --newsize;
13635     tbl->tbl_ary = ary;
13636     for (i=0; i < oldsize; i++, ary++) {
13637         PTR_TBL_ENT_t **entp = ary;
13638         PTR_TBL_ENT_t *ent = *ary;
13639         PTR_TBL_ENT_t **curentp;
13640         if (!ent)
13641             continue;
13642         curentp = ary + oldsize;
13643         do {
13644             if ((newsize & PTR_TABLE_HASH(ent->oldval)) != i) {
13645                 *entp = ent->next;
13646                 ent->next = *curentp;
13647                 *curentp = ent;
13648             }
13649             else
13650                 entp = &ent->next;
13651             ent = *entp;
13652         } while (ent);
13653     }
13654 }
13655
13656 /* remove all the entries from a ptr table */
13657 /* Deprecated - will be removed post 5.14 */
13658
13659 void
13660 Perl_ptr_table_clear(pTHX_ PTR_TBL_t *const tbl)
13661 {
13662     PERL_UNUSED_CONTEXT;
13663     if (tbl && tbl->tbl_items) {
13664         struct ptr_tbl_arena *arena = tbl->tbl_arena;
13665
13666         Zero(tbl->tbl_ary, tbl->tbl_max + 1, struct ptr_tbl_ent *);
13667
13668         while (arena) {
13669             struct ptr_tbl_arena *next = arena->next;
13670
13671             Safefree(arena);
13672             arena = next;
13673         };
13674
13675         tbl->tbl_items = 0;
13676         tbl->tbl_arena = NULL;
13677         tbl->tbl_arena_next = NULL;
13678         tbl->tbl_arena_end = NULL;
13679     }
13680 }
13681
13682 /* clear and free a ptr table */
13683
13684 void
13685 Perl_ptr_table_free(pTHX_ PTR_TBL_t *const tbl)
13686 {
13687     struct ptr_tbl_arena *arena;
13688
13689     PERL_UNUSED_CONTEXT;
13690
13691     if (!tbl) {
13692         return;
13693     }
13694
13695     arena = tbl->tbl_arena;
13696
13697     while (arena) {
13698         struct ptr_tbl_arena *next = arena->next;
13699
13700         Safefree(arena);
13701         arena = next;
13702     }
13703
13704     Safefree(tbl->tbl_ary);
13705     Safefree(tbl);
13706 }
13707
13708 #if defined(USE_ITHREADS)
13709
13710 void
13711 Perl_rvpv_dup(pTHX_ SV *const dstr, const SV *const sstr, CLONE_PARAMS *const param)
13712 {
13713     PERL_ARGS_ASSERT_RVPV_DUP;
13714
13715     assert(!isREGEXP(sstr));
13716     if (SvROK(sstr)) {
13717         if (SvWEAKREF(sstr)) {
13718             SvRV_set(dstr, sv_dup(SvRV_const(sstr), param));
13719             if (param->flags & CLONEf_JOIN_IN) {
13720                 /* if joining, we add any back references individually rather
13721                  * than copying the whole backref array */
13722                 Perl_sv_add_backref(aTHX_ SvRV(dstr), dstr);
13723             }
13724         }
13725         else
13726             SvRV_set(dstr, sv_dup_inc(SvRV_const(sstr), param));
13727     }
13728     else if (SvPVX_const(sstr)) {
13729         /* Has something there */
13730         if (SvLEN(sstr)) {
13731             /* Normal PV - clone whole allocated space */
13732             SvPV_set(dstr, SAVEPVN(SvPVX_const(sstr), SvLEN(sstr)-1));
13733             /* sstr may not be that normal, but actually copy on write.
13734                But we are a true, independent SV, so:  */
13735             SvIsCOW_off(dstr);
13736         }
13737         else {
13738             /* Special case - not normally malloced for some reason */
13739             if (isGV_with_GP(sstr)) {
13740                 /* Don't need to do anything here.  */
13741             }
13742             else if ((SvIsCOW(sstr))) {
13743                 /* A "shared" PV - clone it as "shared" PV */
13744                 SvPV_set(dstr,
13745                          HEK_KEY(hek_dup(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr)),
13746                                          param)));
13747             }
13748             else {
13749                 /* Some other special case - random pointer */
13750                 SvPV_set(dstr, (char *) SvPVX_const(sstr));             
13751             }
13752         }
13753     }
13754     else {
13755         /* Copy the NULL */
13756         SvPV_set(dstr, NULL);
13757     }
13758 }
13759
13760 /* duplicate a list of SVs. source and dest may point to the same memory.  */
13761 static SV **
13762 S_sv_dup_inc_multiple(pTHX_ SV *const *source, SV **dest,
13763                       SSize_t items, CLONE_PARAMS *const param)
13764 {
13765     PERL_ARGS_ASSERT_SV_DUP_INC_MULTIPLE;
13766
13767     while (items-- > 0) {
13768         *dest++ = sv_dup_inc(*source++, param);
13769     }
13770
13771     return dest;
13772 }
13773
13774 /* duplicate an SV of any type (including AV, HV etc) */
13775
13776 static SV *
13777 S_sv_dup_common(pTHX_ const SV *const sstr, CLONE_PARAMS *const param)
13778 {
13779     dVAR;
13780     SV *dstr;
13781
13782     PERL_ARGS_ASSERT_SV_DUP_COMMON;
13783
13784     if (SvTYPE(sstr) == (svtype)SVTYPEMASK) {
13785 #ifdef DEBUG_LEAKING_SCALARS_ABORT
13786         abort();
13787 #endif
13788         return NULL;
13789     }
13790     /* look for it in the table first */
13791     dstr = MUTABLE_SV(ptr_table_fetch(PL_ptr_table, sstr));
13792     if (dstr)
13793         return dstr;
13794
13795     if(param->flags & CLONEf_JOIN_IN) {
13796         /** We are joining here so we don't want do clone
13797             something that is bad **/
13798         if (SvTYPE(sstr) == SVt_PVHV) {
13799             const HEK * const hvname = HvNAME_HEK(sstr);
13800             if (hvname) {
13801                 /** don't clone stashes if they already exist **/
13802                 dstr = MUTABLE_SV(gv_stashpvn(HEK_KEY(hvname), HEK_LEN(hvname),
13803                                                 HEK_UTF8(hvname) ? SVf_UTF8 : 0));
13804                 ptr_table_store(PL_ptr_table, sstr, dstr);
13805                 return dstr;
13806             }
13807         }
13808         else if (SvTYPE(sstr) == SVt_PVGV && !SvFAKE(sstr)) {
13809             HV *stash = GvSTASH(sstr);
13810             const HEK * hvname;
13811             if (stash && (hvname = HvNAME_HEK(stash))) {
13812                 /** don't clone GVs if they already exist **/
13813                 SV **svp;
13814                 stash = gv_stashpvn(HEK_KEY(hvname), HEK_LEN(hvname),
13815                                     HEK_UTF8(hvname) ? SVf_UTF8 : 0);
13816                 svp = hv_fetch(
13817                         stash, GvNAME(sstr),
13818                         GvNAMEUTF8(sstr)
13819                             ? -GvNAMELEN(sstr)
13820                             :  GvNAMELEN(sstr),
13821                         0
13822                       );
13823                 if (svp && *svp && SvTYPE(*svp) == SVt_PVGV) {
13824                     ptr_table_store(PL_ptr_table, sstr, *svp);
13825                     return *svp;
13826                 }
13827             }
13828         }
13829     }
13830
13831     /* create anew and remember what it is */
13832     new_SV(dstr);
13833
13834 #ifdef DEBUG_LEAKING_SCALARS
13835     dstr->sv_debug_optype = sstr->sv_debug_optype;
13836     dstr->sv_debug_line = sstr->sv_debug_line;
13837     dstr->sv_debug_inpad = sstr->sv_debug_inpad;
13838     dstr->sv_debug_parent = (SV*)sstr;
13839     FREE_SV_DEBUG_FILE(dstr);
13840     dstr->sv_debug_file = savesharedpv(sstr->sv_debug_file);
13841 #endif
13842
13843     ptr_table_store(PL_ptr_table, sstr, dstr);
13844
13845     /* clone */
13846     SvFLAGS(dstr)       = SvFLAGS(sstr);
13847     SvFLAGS(dstr)       &= ~SVf_OOK;            /* don't propagate OOK hack */
13848     SvREFCNT(dstr)      = 0;                    /* must be before any other dups! */
13849
13850 #ifdef DEBUGGING
13851     if (SvANY(sstr) && PL_watch_pvx && SvPVX_const(sstr) == PL_watch_pvx)
13852         PerlIO_printf(Perl_debug_log, "watch at %p hit, found string \"%s\"\n",
13853                       (void*)PL_watch_pvx, SvPVX_const(sstr));
13854 #endif
13855
13856     /* don't clone objects whose class has asked us not to */
13857     if (SvOBJECT(sstr)
13858      && ! (SvFLAGS(SvSTASH(sstr)) & SVphv_CLONEABLE))
13859     {
13860         SvFLAGS(dstr) = 0;
13861         return dstr;
13862     }
13863
13864     switch (SvTYPE(sstr)) {
13865     case SVt_NULL:
13866         SvANY(dstr)     = NULL;
13867         break;
13868     case SVt_IV:
13869         SET_SVANY_FOR_BODYLESS_IV(dstr);
13870         if(SvROK(sstr)) {
13871             Perl_rvpv_dup(aTHX_ dstr, sstr, param);
13872         } else {
13873             SvIV_set(dstr, SvIVX(sstr));
13874         }
13875         break;
13876     case SVt_NV:
13877 #if NVSIZE <= IVSIZE
13878         SET_SVANY_FOR_BODYLESS_NV(dstr);
13879 #else
13880         SvANY(dstr)     = new_XNV();
13881 #endif
13882         SvNV_set(dstr, SvNVX(sstr));
13883         break;
13884     default:
13885         {
13886             /* These are all the types that need complex bodies allocating.  */
13887             void *new_body;
13888             const svtype sv_type = SvTYPE(sstr);
13889             const struct body_details *const sv_type_details
13890                 = bodies_by_type + sv_type;
13891
13892             switch (sv_type) {
13893             default:
13894                 Perl_croak(aTHX_ "Bizarre SvTYPE [%" IVdf "]", (IV)SvTYPE(sstr));
13895                 NOT_REACHED; /* NOTREACHED */
13896                 break;
13897
13898             case SVt_PVGV:
13899             case SVt_PVIO:
13900             case SVt_PVFM:
13901             case SVt_PVHV:
13902             case SVt_PVAV:
13903             case SVt_PVCV:
13904             case SVt_PVLV:
13905             case SVt_REGEXP:
13906             case SVt_PVMG:
13907             case SVt_PVNV:
13908             case SVt_PVIV:
13909             case SVt_INVLIST:
13910             case SVt_PV:
13911                 assert(sv_type_details->body_size);
13912                 if (sv_type_details->arena) {
13913                     new_body_inline(new_body, sv_type);
13914                     new_body
13915                         = (void*)((char*)new_body - sv_type_details->offset);
13916                 } else {
13917                     new_body = new_NOARENA(sv_type_details);
13918                 }
13919             }
13920             assert(new_body);
13921             SvANY(dstr) = new_body;
13922
13923 #ifndef PURIFY
13924             Copy(((char*)SvANY(sstr)) + sv_type_details->offset,
13925                  ((char*)SvANY(dstr)) + sv_type_details->offset,
13926                  sv_type_details->copy, char);
13927 #else
13928             Copy(((char*)SvANY(sstr)),
13929                  ((char*)SvANY(dstr)),
13930                  sv_type_details->body_size + sv_type_details->offset, char);
13931 #endif
13932
13933             if (sv_type != SVt_PVAV && sv_type != SVt_PVHV
13934                 && !isGV_with_GP(dstr)
13935                 && !isREGEXP(dstr)
13936                 && !(sv_type == SVt_PVIO && !(IoFLAGS(dstr) & IOf_FAKE_DIRP)))
13937                 Perl_rvpv_dup(aTHX_ dstr, sstr, param);
13938
13939             /* The Copy above means that all the source (unduplicated) pointers
13940                are now in the destination.  We can check the flags and the
13941                pointers in either, but it's possible that there's less cache
13942                missing by always going for the destination.
13943                FIXME - instrument and check that assumption  */
13944             if (sv_type >= SVt_PVMG) {
13945                 if (SvMAGIC(dstr))
13946                     SvMAGIC_set(dstr, mg_dup(SvMAGIC(dstr), param));
13947                 if (SvOBJECT(dstr) && SvSTASH(dstr))
13948                     SvSTASH_set(dstr, hv_dup_inc(SvSTASH(dstr), param));
13949                 else SvSTASH_set(dstr, 0); /* don't copy DESTROY cache */
13950             }
13951
13952             /* The cast silences a GCC warning about unhandled types.  */
13953             switch ((int)sv_type) {
13954             case SVt_PV:
13955                 break;
13956             case SVt_PVIV:
13957                 break;
13958             case SVt_PVNV:
13959                 break;
13960             case SVt_PVMG:
13961                 break;
13962             case SVt_REGEXP:
13963               duprex:
13964                 /* FIXME for plugins */
13965                 dstr->sv_u.svu_rx = ((REGEXP *)dstr)->sv_any;
13966                 re_dup_guts((REGEXP*) sstr, (REGEXP*) dstr, param);
13967                 break;
13968             case SVt_PVLV:
13969                 /* XXX LvTARGOFF sometimes holds PMOP* when DEBUGGING */
13970                 if (LvTYPE(dstr) == 't') /* for tie: unrefcnted fake (SV**) */
13971                     LvTARG(dstr) = dstr;
13972                 else if (LvTYPE(dstr) == 'T') /* for tie: fake HE */
13973                     LvTARG(dstr) = MUTABLE_SV(he_dup((HE*)LvTARG(dstr), 0, param));
13974                 else
13975                     LvTARG(dstr) = sv_dup_inc(LvTARG(dstr), param);
13976                 if (isREGEXP(sstr)) goto duprex;
13977             case SVt_PVGV:
13978                 /* non-GP case already handled above */
13979                 if(isGV_with_GP(sstr)) {
13980                     GvNAME_HEK(dstr) = hek_dup(GvNAME_HEK(dstr), param);
13981                     /* Don't call sv_add_backref here as it's going to be
13982                        created as part of the magic cloning of the symbol
13983                        table--unless this is during a join and the stash
13984                        is not actually being cloned.  */
13985                     /* Danger Will Robinson - GvGP(dstr) isn't initialised
13986                        at the point of this comment.  */
13987                     GvSTASH(dstr) = hv_dup(GvSTASH(dstr), param);
13988                     if (param->flags & CLONEf_JOIN_IN)
13989                         Perl_sv_add_backref(aTHX_ MUTABLE_SV(GvSTASH(dstr)), dstr);
13990                     GvGP_set(dstr, gp_dup(GvGP(sstr), param));
13991                     (void)GpREFCNT_inc(GvGP(dstr));
13992                 }
13993                 break;
13994             case SVt_PVIO:
13995                 /* PL_parser->rsfp_filters entries have fake IoDIRP() */
13996                 if(IoFLAGS(dstr) & IOf_FAKE_DIRP) {
13997                     /* I have no idea why fake dirp (rsfps)
13998                        should be treated differently but otherwise
13999                        we end up with leaks -- sky*/
14000                     IoTOP_GV(dstr)      = gv_dup_inc(IoTOP_GV(dstr), param);
14001                     IoFMT_GV(dstr)      = gv_dup_inc(IoFMT_GV(dstr), param);
14002                     IoBOTTOM_GV(dstr)   = gv_dup_inc(IoBOTTOM_GV(dstr), param);
14003                 } else {
14004                     IoTOP_GV(dstr)      = gv_dup(IoTOP_GV(dstr), param);
14005                     IoFMT_GV(dstr)      = gv_dup(IoFMT_GV(dstr), param);
14006                     IoBOTTOM_GV(dstr)   = gv_dup(IoBOTTOM_GV(dstr), param);
14007                     if (IoDIRP(dstr)) {
14008                         IoDIRP(dstr)    = dirp_dup(IoDIRP(dstr), param);
14009                     } else {
14010                         NOOP;
14011                         /* IoDIRP(dstr) is already a copy of IoDIRP(sstr)  */
14012                     }
14013                     IoIFP(dstr) = fp_dup(IoIFP(sstr), IoTYPE(dstr), param);
14014                 }
14015                 if (IoOFP(dstr) == IoIFP(sstr))
14016                     IoOFP(dstr) = IoIFP(dstr);
14017                 else
14018                     IoOFP(dstr) = fp_dup(IoOFP(dstr), IoTYPE(dstr), param);
14019                 IoTOP_NAME(dstr)        = SAVEPV(IoTOP_NAME(dstr));
14020                 IoFMT_NAME(dstr)        = SAVEPV(IoFMT_NAME(dstr));
14021                 IoBOTTOM_NAME(dstr)     = SAVEPV(IoBOTTOM_NAME(dstr));
14022                 break;
14023             case SVt_PVAV:
14024                 /* avoid cloning an empty array */
14025                 if (AvARRAY((const AV *)sstr) && AvFILLp((const AV *)sstr) >= 0) {
14026                     SV **dst_ary, **src_ary;
14027                     SSize_t items = AvFILLp((const AV *)sstr) + 1;
14028
14029                     src_ary = AvARRAY((const AV *)sstr);
14030                     Newxz(dst_ary, AvMAX((const AV *)sstr)+1, SV*);
14031                     ptr_table_store(PL_ptr_table, src_ary, dst_ary);
14032                     AvARRAY(MUTABLE_AV(dstr)) = dst_ary;
14033                     AvALLOC((const AV *)dstr) = dst_ary;
14034                     if (AvREAL((const AV *)sstr)) {
14035                         dst_ary = sv_dup_inc_multiple(src_ary, dst_ary, items,
14036                                                       param);
14037                     }
14038                     else {
14039                         while (items-- > 0)
14040                             *dst_ary++ = sv_dup(*src_ary++, param);
14041                     }
14042                     items = AvMAX((const AV *)sstr) - AvFILLp((const AV *)sstr);
14043                     while (items-- > 0) {
14044                         *dst_ary++ = NULL;
14045                     }
14046                 }
14047                 else {
14048                     AvARRAY(MUTABLE_AV(dstr))   = NULL;
14049                     AvALLOC((const AV *)dstr)   = (SV**)NULL;
14050                     AvMAX(  (const AV *)dstr)   = -1;
14051                     AvFILLp((const AV *)dstr)   = -1;
14052                 }
14053                 break;
14054             case SVt_PVHV:
14055                 if (HvARRAY((const HV *)sstr)) {
14056                     STRLEN i = 0;
14057                     const bool sharekeys = !!HvSHAREKEYS(sstr);
14058                     XPVHV * const dxhv = (XPVHV*)SvANY(dstr);
14059                     XPVHV * const sxhv = (XPVHV*)SvANY(sstr);
14060                     char *darray;
14061                     Newx(darray, PERL_HV_ARRAY_ALLOC_BYTES(dxhv->xhv_max+1)
14062                         + (SvOOK(sstr) ? sizeof(struct xpvhv_aux) : 0),
14063                         char);
14064                     HvARRAY(dstr) = (HE**)darray;
14065                     while (i <= sxhv->xhv_max) {
14066                         const HE * const source = HvARRAY(sstr)[i];
14067                         HvARRAY(dstr)[i] = source
14068                             ? he_dup(source, sharekeys, param) : 0;
14069                         ++i;
14070                     }
14071                     if (SvOOK(sstr)) {
14072                         const struct xpvhv_aux * const saux = HvAUX(sstr);
14073                         struct xpvhv_aux * const daux = HvAUX(dstr);
14074                         /* This flag isn't copied.  */
14075                         SvOOK_on(dstr);
14076
14077                         if (saux->xhv_name_count) {
14078                             HEK ** const sname = saux->xhv_name_u.xhvnameu_names;
14079                             const I32 count
14080                              = saux->xhv_name_count < 0
14081                                 ? -saux->xhv_name_count
14082                                 :  saux->xhv_name_count;
14083                             HEK **shekp = sname + count;
14084                             HEK **dhekp;
14085                             Newx(daux->xhv_name_u.xhvnameu_names, count, HEK *);
14086                             dhekp = daux->xhv_name_u.xhvnameu_names + count;
14087                             while (shekp-- > sname) {
14088                                 dhekp--;
14089                                 *dhekp = hek_dup(*shekp, param);
14090                             }
14091                         }
14092                         else {
14093                             daux->xhv_name_u.xhvnameu_name
14094                                 = hek_dup(saux->xhv_name_u.xhvnameu_name,
14095                                           param);
14096                         }
14097                         daux->xhv_name_count = saux->xhv_name_count;
14098
14099                         daux->xhv_aux_flags = saux->xhv_aux_flags;
14100 #ifdef PERL_HASH_RANDOMIZE_KEYS
14101                         daux->xhv_rand = saux->xhv_rand;
14102                         daux->xhv_last_rand = saux->xhv_last_rand;
14103 #endif
14104                         daux->xhv_riter = saux->xhv_riter;
14105                         daux->xhv_eiter = saux->xhv_eiter
14106                             ? he_dup(saux->xhv_eiter,
14107                                         cBOOL(HvSHAREKEYS(sstr)), param) : 0;
14108                         /* backref array needs refcnt=2; see sv_add_backref */
14109                         daux->xhv_backreferences =
14110                             (param->flags & CLONEf_JOIN_IN)
14111                                 /* when joining, we let the individual GVs and
14112                                  * CVs add themselves to backref as
14113                                  * needed. This avoids pulling in stuff
14114                                  * that isn't required, and simplifies the
14115                                  * case where stashes aren't cloned back
14116                                  * if they already exist in the parent
14117                                  * thread */
14118                             ? NULL
14119                             : saux->xhv_backreferences
14120                                 ? (SvTYPE(saux->xhv_backreferences) == SVt_PVAV)
14121                                     ? MUTABLE_AV(SvREFCNT_inc(
14122                                           sv_dup_inc((const SV *)
14123                                             saux->xhv_backreferences, param)))
14124                                     : MUTABLE_AV(sv_dup((const SV *)
14125                                             saux->xhv_backreferences, param))
14126                                 : 0;
14127
14128                         daux->xhv_mro_meta = saux->xhv_mro_meta
14129                             ? mro_meta_dup(saux->xhv_mro_meta, param)
14130                             : 0;
14131
14132                         /* Record stashes for possible cloning in Perl_clone(). */
14133                         if (HvNAME(sstr))
14134                             av_push(param->stashes, dstr);
14135                     }
14136                 }
14137                 else
14138                     HvARRAY(MUTABLE_HV(dstr)) = NULL;
14139                 break;
14140             case SVt_PVCV:
14141                 if (!(param->flags & CLONEf_COPY_STACKS)) {
14142                     CvDEPTH(dstr) = 0;
14143                 }
14144                 /* FALLTHROUGH */
14145             case SVt_PVFM:
14146                 /* NOTE: not refcounted */
14147                 SvANY(MUTABLE_CV(dstr))->xcv_stash =
14148                     hv_dup(CvSTASH(dstr), param);
14149                 if ((param->flags & CLONEf_JOIN_IN) && CvSTASH(dstr))
14150                     Perl_sv_add_backref(aTHX_ MUTABLE_SV(CvSTASH(dstr)), dstr);
14151                 if (!CvISXSUB(dstr)) {
14152                     OP_REFCNT_LOCK;
14153                     CvROOT(dstr) = OpREFCNT_inc(CvROOT(dstr));
14154                     OP_REFCNT_UNLOCK;
14155                     CvSLABBED_off(dstr);
14156                 } else if (CvCONST(dstr)) {
14157                     CvXSUBANY(dstr).any_ptr =
14158                         sv_dup_inc((const SV *)CvXSUBANY(dstr).any_ptr, param);
14159                 }
14160                 assert(!CvSLABBED(dstr));
14161                 if (CvDYNFILE(dstr)) CvFILE(dstr) = SAVEPV(CvFILE(dstr));
14162                 if (CvNAMED(dstr))
14163                     SvANY((CV *)dstr)->xcv_gv_u.xcv_hek =
14164                         hek_dup(CvNAME_HEK((CV *)sstr), param);
14165                 /* don't dup if copying back - CvGV isn't refcounted, so the
14166                  * duped GV may never be freed. A bit of a hack! DAPM */
14167                 else
14168                   SvANY(MUTABLE_CV(dstr))->xcv_gv_u.xcv_gv =
14169                     CvCVGV_RC(dstr)
14170                     ? gv_dup_inc(CvGV(sstr), param)
14171                     : (param->flags & CLONEf_JOIN_IN)
14172                         ? NULL
14173                         : gv_dup(CvGV(sstr), param);
14174
14175                 if (!CvISXSUB(sstr)) {
14176                     PADLIST * padlist = CvPADLIST(sstr);
14177                     if(padlist)
14178                         padlist = padlist_dup(padlist, param);
14179                     CvPADLIST_set(dstr, padlist);
14180                 } else
14181 /* unthreaded perl can't sv_dup so we dont support unthreaded's CvHSCXT */
14182                     PoisonPADLIST(dstr);
14183
14184                 CvOUTSIDE(dstr) =
14185                     CvWEAKOUTSIDE(sstr)
14186                     ? cv_dup(    CvOUTSIDE(dstr), param)
14187                     : cv_dup_inc(CvOUTSIDE(dstr), param);
14188                 break;
14189             }
14190         }
14191     }
14192
14193     return dstr;
14194  }
14195
14196 SV *
14197 Perl_sv_dup_inc(pTHX_ const SV *const sstr, CLONE_PARAMS *const param)
14198 {
14199     PERL_ARGS_ASSERT_SV_DUP_INC;
14200     return sstr ? SvREFCNT_inc(sv_dup_common(sstr, param)) : NULL;
14201 }
14202
14203 SV *
14204 Perl_sv_dup(pTHX_ const SV *const sstr, CLONE_PARAMS *const param)
14205 {
14206     SV *dstr = sstr ? sv_dup_common(sstr, param) : NULL;
14207     PERL_ARGS_ASSERT_SV_DUP;
14208
14209     /* Track every SV that (at least initially) had a reference count of 0.
14210        We need to do this by holding an actual reference to it in this array.
14211        If we attempt to cheat, turn AvREAL_off(), and store only pointers
14212        (akin to the stashes hash, and the perl stack), we come unstuck if
14213        a weak reference (or other SV legitimately SvREFCNT() == 0 for this
14214        thread) is manipulated in a CLONE method, because CLONE runs before the
14215        unreferenced array is walked to find SVs still with SvREFCNT() == 0
14216        (and fix things up by giving each a reference via the temps stack).
14217        Instead, during CLONE, if the 0-referenced SV has SvREFCNT_inc() and
14218        then SvREFCNT_dec(), it will be cleaned up (and added to the free list)
14219        before the walk of unreferenced happens and a reference to that is SV
14220        added to the temps stack. At which point we have the same SV considered
14221        to be in use, and free to be re-used. Not good.
14222     */
14223     if (dstr && !(param->flags & CLONEf_COPY_STACKS) && !SvREFCNT(dstr)) {
14224         assert(param->unreferenced);
14225         av_push(param->unreferenced, SvREFCNT_inc(dstr));
14226     }
14227
14228     return dstr;
14229 }
14230
14231 /* duplicate a context */
14232
14233 PERL_CONTEXT *
14234 Perl_cx_dup(pTHX_ PERL_CONTEXT *cxs, I32 ix, I32 max, CLONE_PARAMS* param)
14235 {
14236     PERL_CONTEXT *ncxs;
14237
14238     PERL_ARGS_ASSERT_CX_DUP;
14239
14240     if (!cxs)
14241         return (PERL_CONTEXT*)NULL;
14242
14243     /* look for it in the table first */
14244     ncxs = (PERL_CONTEXT*)ptr_table_fetch(PL_ptr_table, cxs);
14245     if (ncxs)
14246         return ncxs;
14247
14248     /* create anew and remember what it is */
14249     Newx(ncxs, max + 1, PERL_CONTEXT);
14250     ptr_table_store(PL_ptr_table, cxs, ncxs);
14251     Copy(cxs, ncxs, max + 1, PERL_CONTEXT);
14252
14253     while (ix >= 0) {
14254         PERL_CONTEXT * const ncx = &ncxs[ix];
14255         if (CxTYPE(ncx) == CXt_SUBST) {
14256             Perl_croak(aTHX_ "Cloning substitution context is unimplemented");
14257         }
14258         else {
14259             ncx->blk_oldcop = (COP*)any_dup(ncx->blk_oldcop, param->proto_perl);
14260             switch (CxTYPE(ncx)) {
14261             case CXt_SUB:
14262                 ncx->blk_sub.cv         = cv_dup_inc(ncx->blk_sub.cv, param);
14263                 if(CxHASARGS(ncx)){
14264                     ncx->blk_sub.savearray = av_dup_inc(ncx->blk_sub.savearray,param);
14265                 } else {
14266                     ncx->blk_sub.savearray = NULL;
14267                 }
14268                 ncx->blk_sub.prevcomppad = (PAD*)ptr_table_fetch(PL_ptr_table,
14269                                            ncx->blk_sub.prevcomppad);
14270                 break;
14271             case CXt_EVAL:
14272                 ncx->blk_eval.old_namesv = sv_dup_inc(ncx->blk_eval.old_namesv,
14273                                                       param);
14274                 /* XXX should this sv_dup_inc? Or only if CxEVAL_TXT_REFCNTED ???? */
14275                 ncx->blk_eval.cur_text  = sv_dup(ncx->blk_eval.cur_text, param);
14276                 ncx->blk_eval.cv = cv_dup(ncx->blk_eval.cv, param);
14277                 /* XXX what do do with cur_top_env ???? */
14278                 break;
14279             case CXt_LOOP_LAZYSV:
14280                 ncx->blk_loop.state_u.lazysv.end
14281                     = sv_dup_inc(ncx->blk_loop.state_u.lazysv.end, param);
14282                 /* Fallthrough: duplicate lazysv.cur by using the ary.ary
14283                    duplication code instead.
14284                    We are taking advantage of (1) av_dup_inc and sv_dup_inc
14285                    actually being the same function, and (2) order
14286                    equivalence of the two unions.
14287                    We can assert the later [but only at run time :-(]  */
14288                 assert ((void *) &ncx->blk_loop.state_u.ary.ary ==
14289                         (void *) &ncx->blk_loop.state_u.lazysv.cur);
14290                 /* FALLTHROUGH */
14291             case CXt_LOOP_ARY:
14292                 ncx->blk_loop.state_u.ary.ary
14293                     = av_dup_inc(ncx->blk_loop.state_u.ary.ary, param);
14294                 /* FALLTHROUGH */
14295             case CXt_LOOP_LIST:
14296             case CXt_LOOP_LAZYIV:
14297                 /* code common to all 'for' CXt_LOOP_* types */
14298                 ncx->blk_loop.itersave =
14299                                     sv_dup_inc(ncx->blk_loop.itersave, param);
14300                 if (CxPADLOOP(ncx)) {
14301                     PADOFFSET off = ncx->blk_loop.itervar_u.svp
14302                                     - &CX_CURPAD_SV(ncx->blk_loop, 0);
14303                     ncx->blk_loop.oldcomppad =
14304                                     (PAD*)ptr_table_fetch(PL_ptr_table,
14305                                                 ncx->blk_loop.oldcomppad);
14306                     ncx->blk_loop.itervar_u.svp =
14307                                     &CX_CURPAD_SV(ncx->blk_loop, off);
14308                 }
14309                 else {
14310                     /* this copies the GV if CXp_FOR_GV, or the SV for an
14311                      * alias (for \$x (...)) - relies on gv_dup being the
14312                      * same as sv_dup */
14313                     ncx->blk_loop.itervar_u.gv
14314                         = gv_dup((const GV *)ncx->blk_loop.itervar_u.gv,
14315                                     param);
14316                 }
14317                 break;
14318             case CXt_LOOP_PLAIN:
14319                 break;
14320             case CXt_FORMAT:
14321                 ncx->blk_format.prevcomppad =
14322                         (PAD*)ptr_table_fetch(PL_ptr_table,
14323                                            ncx->blk_format.prevcomppad);
14324                 ncx->blk_format.cv      = cv_dup_inc(ncx->blk_format.cv, param);
14325                 ncx->blk_format.gv      = gv_dup(ncx->blk_format.gv, param);
14326                 ncx->blk_format.dfoutgv = gv_dup_inc(ncx->blk_format.dfoutgv,
14327                                                      param);
14328                 break;
14329             case CXt_GIVEN:
14330                 ncx->blk_givwhen.defsv_save =
14331                                 sv_dup_inc(ncx->blk_givwhen.defsv_save, param);
14332                 break;
14333             case CXt_BLOCK:
14334             case CXt_NULL:
14335             case CXt_WHEN:
14336                 break;
14337             }
14338         }
14339         --ix;
14340     }
14341     return ncxs;
14342 }
14343
14344 /* duplicate a stack info structure */
14345
14346 PERL_SI *
14347 Perl_si_dup(pTHX_ PERL_SI *si, CLONE_PARAMS* param)
14348 {
14349     PERL_SI *nsi;
14350
14351     PERL_ARGS_ASSERT_SI_DUP;
14352
14353     if (!si)
14354         return (PERL_SI*)NULL;
14355
14356     /* look for it in the table first */
14357     nsi = (PERL_SI*)ptr_table_fetch(PL_ptr_table, si);
14358     if (nsi)
14359         return nsi;
14360
14361     /* create anew and remember what it is */
14362     Newxz(nsi, 1, PERL_SI);
14363     ptr_table_store(PL_ptr_table, si, nsi);
14364
14365     nsi->si_stack       = av_dup_inc(si->si_stack, param);
14366     nsi->si_cxix        = si->si_cxix;
14367     nsi->si_cxmax       = si->si_cxmax;
14368     nsi->si_cxstack     = cx_dup(si->si_cxstack, si->si_cxix, si->si_cxmax, param);
14369     nsi->si_type        = si->si_type;
14370     nsi->si_prev        = si_dup(si->si_prev, param);
14371     nsi->si_next        = si_dup(si->si_next, param);
14372     nsi->si_markoff     = si->si_markoff;
14373
14374     return nsi;
14375 }
14376
14377 #define POPINT(ss,ix)   ((ss)[--(ix)].any_i32)
14378 #define TOPINT(ss,ix)   ((ss)[ix].any_i32)
14379 #define POPLONG(ss,ix)  ((ss)[--(ix)].any_long)
14380 #define TOPLONG(ss,ix)  ((ss)[ix].any_long)
14381 #define POPIV(ss,ix)    ((ss)[--(ix)].any_iv)
14382 #define TOPIV(ss,ix)    ((ss)[ix].any_iv)
14383 #define POPUV(ss,ix)    ((ss)[--(ix)].any_uv)
14384 #define TOPUV(ss,ix)    ((ss)[ix].any_uv)
14385 #define POPBOOL(ss,ix)  ((ss)[--(ix)].any_bool)
14386 #define TOPBOOL(ss,ix)  ((ss)[ix].any_bool)
14387 #define POPPTR(ss,ix)   ((ss)[--(ix)].any_ptr)
14388 #define TOPPTR(ss,ix)   ((ss)[ix].any_ptr)
14389 #define POPDPTR(ss,ix)  ((ss)[--(ix)].any_dptr)
14390 #define TOPDPTR(ss,ix)  ((ss)[ix].any_dptr)
14391 #define POPDXPTR(ss,ix) ((ss)[--(ix)].any_dxptr)
14392 #define TOPDXPTR(ss,ix) ((ss)[ix].any_dxptr)
14393
14394 /* XXXXX todo */
14395 #define pv_dup_inc(p)   SAVEPV(p)
14396 #define pv_dup(p)       SAVEPV(p)
14397 #define svp_dup_inc(p,pp)       any_dup(p,pp)
14398
14399 /* map any object to the new equivent - either something in the
14400  * ptr table, or something in the interpreter structure
14401  */
14402
14403 void *
14404 Perl_any_dup(pTHX_ void *v, const PerlInterpreter *proto_perl)
14405 {
14406     void *ret;
14407
14408     PERL_ARGS_ASSERT_ANY_DUP;
14409
14410     if (!v)
14411         return (void*)NULL;
14412
14413     /* look for it in the table first */
14414     ret = ptr_table_fetch(PL_ptr_table, v);
14415     if (ret)
14416         return ret;
14417
14418     /* see if it is part of the interpreter structure */
14419     if (v >= (void*)proto_perl && v < (void*)(proto_perl+1))
14420         ret = (void*)(((char*)aTHX) + (((char*)v) - (char*)proto_perl));
14421     else {
14422         ret = v;
14423     }
14424
14425     return ret;
14426 }
14427
14428 /* duplicate the save stack */
14429
14430 ANY *
14431 Perl_ss_dup(pTHX_ PerlInterpreter *proto_perl, CLONE_PARAMS* param)
14432 {
14433     dVAR;
14434     ANY * const ss      = proto_perl->Isavestack;
14435     const I32 max       = proto_perl->Isavestack_max + SS_MAXPUSH;
14436     I32 ix              = proto_perl->Isavestack_ix;
14437     ANY *nss;
14438     const SV *sv;
14439     const GV *gv;
14440     const AV *av;
14441     const HV *hv;
14442     void* ptr;
14443     int intval;
14444     long longval;
14445     GP *gp;
14446     IV iv;
14447     I32 i;
14448     char *c = NULL;
14449     void (*dptr) (void*);
14450     void (*dxptr) (pTHX_ void*);
14451
14452     PERL_ARGS_ASSERT_SS_DUP;
14453
14454     Newxz(nss, max, ANY);
14455
14456     while (ix > 0) {
14457         const UV uv = POPUV(ss,ix);
14458         const U8 type = (U8)uv & SAVE_MASK;
14459
14460         TOPUV(nss,ix) = uv;
14461         switch (type) {
14462         case SAVEt_CLEARSV:
14463         case SAVEt_CLEARPADRANGE:
14464             break;
14465         case SAVEt_HELEM:               /* hash element */
14466         case SAVEt_SV:                  /* scalar reference */
14467             sv = (const SV *)POPPTR(ss,ix);
14468             TOPPTR(nss,ix) = SvREFCNT_inc(sv_dup_inc(sv, param));
14469             /* FALLTHROUGH */
14470         case SAVEt_ITEM:                        /* normal string */
14471         case SAVEt_GVSV:                        /* scalar slot in GV */
14472             sv = (const SV *)POPPTR(ss,ix);
14473             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14474             if (type == SAVEt_SV)
14475                 break;
14476             /* FALLTHROUGH */
14477         case SAVEt_FREESV:
14478         case SAVEt_MORTALIZESV:
14479         case SAVEt_READONLY_OFF:
14480             sv = (const SV *)POPPTR(ss,ix);
14481             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14482             break;
14483         case SAVEt_FREEPADNAME:
14484             ptr = POPPTR(ss,ix);
14485             TOPPTR(nss,ix) = padname_dup((PADNAME *)ptr, param);
14486             PadnameREFCNT((PADNAME *)TOPPTR(nss,ix))++;
14487             break;
14488         case SAVEt_SHARED_PVREF:                /* char* in shared space */
14489             c = (char*)POPPTR(ss,ix);
14490             TOPPTR(nss,ix) = savesharedpv(c);
14491             ptr = POPPTR(ss,ix);
14492             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14493             break;
14494         case SAVEt_GENERIC_SVREF:               /* generic sv */
14495         case SAVEt_SVREF:                       /* scalar reference */
14496             sv = (const SV *)POPPTR(ss,ix);
14497             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14498             if (type == SAVEt_SVREF)
14499                 SvREFCNT_inc_simple_void((SV *)TOPPTR(nss,ix));
14500             ptr = POPPTR(ss,ix);
14501             TOPPTR(nss,ix) = svp_dup_inc((SV**)ptr, proto_perl);/* XXXXX */
14502             break;
14503         case SAVEt_GVSLOT:              /* any slot in GV */
14504             sv = (const SV *)POPPTR(ss,ix);
14505             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14506             ptr = POPPTR(ss,ix);
14507             TOPPTR(nss,ix) = svp_dup_inc((SV**)ptr, proto_perl);/* XXXXX */
14508             sv = (const SV *)POPPTR(ss,ix);
14509             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14510             break;
14511         case SAVEt_HV:                          /* hash reference */
14512         case SAVEt_AV:                          /* array reference */
14513             sv = (const SV *) POPPTR(ss,ix);
14514             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14515             /* FALLTHROUGH */
14516         case SAVEt_COMPPAD:
14517         case SAVEt_NSTAB:
14518             sv = (const SV *) POPPTR(ss,ix);
14519             TOPPTR(nss,ix) = sv_dup(sv, param);
14520             break;
14521         case SAVEt_INT:                         /* int reference */
14522             ptr = POPPTR(ss,ix);
14523             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14524             intval = (int)POPINT(ss,ix);
14525             TOPINT(nss,ix) = intval;
14526             break;
14527         case SAVEt_LONG:                        /* long reference */
14528             ptr = POPPTR(ss,ix);
14529             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14530             longval = (long)POPLONG(ss,ix);
14531             TOPLONG(nss,ix) = longval;
14532             break;
14533         case SAVEt_I32:                         /* I32 reference */
14534             ptr = POPPTR(ss,ix);
14535             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14536             i = POPINT(ss,ix);
14537             TOPINT(nss,ix) = i;
14538             break;
14539         case SAVEt_IV:                          /* IV reference */
14540         case SAVEt_STRLEN:                      /* STRLEN/size_t ref */
14541             ptr = POPPTR(ss,ix);
14542             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14543             iv = POPIV(ss,ix);
14544             TOPIV(nss,ix) = iv;
14545             break;
14546         case SAVEt_TMPSFLOOR:
14547             iv = POPIV(ss,ix);
14548             TOPIV(nss,ix) = iv;
14549             break;
14550         case SAVEt_HPTR:                        /* HV* reference */
14551         case SAVEt_APTR:                        /* AV* reference */
14552         case SAVEt_SPTR:                        /* SV* reference */
14553             ptr = POPPTR(ss,ix);
14554             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14555             sv = (const SV *)POPPTR(ss,ix);
14556             TOPPTR(nss,ix) = sv_dup(sv, param);
14557             break;
14558         case SAVEt_VPTR:                        /* random* reference */
14559             ptr = POPPTR(ss,ix);
14560             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14561             /* FALLTHROUGH */
14562         case SAVEt_INT_SMALL:
14563         case SAVEt_I32_SMALL:
14564         case SAVEt_I16:                         /* I16 reference */
14565         case SAVEt_I8:                          /* I8 reference */
14566         case SAVEt_BOOL:
14567             ptr = POPPTR(ss,ix);
14568             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14569             break;
14570         case SAVEt_GENERIC_PVREF:               /* generic char* */
14571         case SAVEt_PPTR:                        /* char* reference */
14572             ptr = POPPTR(ss,ix);
14573             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14574             c = (char*)POPPTR(ss,ix);
14575             TOPPTR(nss,ix) = pv_dup(c);
14576             break;
14577         case SAVEt_GP:                          /* scalar reference */
14578             gp = (GP*)POPPTR(ss,ix);
14579             TOPPTR(nss,ix) = gp = gp_dup(gp, param);
14580             (void)GpREFCNT_inc(gp);
14581             gv = (const GV *)POPPTR(ss,ix);
14582             TOPPTR(nss,ix) = gv_dup_inc(gv, param);
14583             break;
14584         case SAVEt_FREEOP:
14585             ptr = POPPTR(ss,ix);
14586             if (ptr && (((OP*)ptr)->op_private & OPpREFCOUNTED)) {
14587                 /* these are assumed to be refcounted properly */
14588                 OP *o;
14589                 switch (((OP*)ptr)->op_type) {
14590                 case OP_LEAVESUB:
14591                 case OP_LEAVESUBLV:
14592                 case OP_LEAVEEVAL:
14593                 case OP_LEAVE:
14594                 case OP_SCOPE:
14595                 case OP_LEAVEWRITE:
14596                     TOPPTR(nss,ix) = ptr;
14597                     o = (OP*)ptr;
14598                     OP_REFCNT_LOCK;
14599                     (void) OpREFCNT_inc(o);
14600                     OP_REFCNT_UNLOCK;
14601                     break;
14602                 default:
14603                     TOPPTR(nss,ix) = NULL;
14604                     break;
14605                 }
14606             }
14607             else
14608                 TOPPTR(nss,ix) = NULL;
14609             break;
14610         case SAVEt_FREECOPHH:
14611             ptr = POPPTR(ss,ix);
14612             TOPPTR(nss,ix) = cophh_copy((COPHH *)ptr);
14613             break;
14614         case SAVEt_ADELETE:
14615             av = (const AV *)POPPTR(ss,ix);
14616             TOPPTR(nss,ix) = av_dup_inc(av, param);
14617             i = POPINT(ss,ix);
14618             TOPINT(nss,ix) = i;
14619             break;
14620         case SAVEt_DELETE:
14621             hv = (const HV *)POPPTR(ss,ix);
14622             TOPPTR(nss,ix) = hv_dup_inc(hv, param);
14623             i = POPINT(ss,ix);
14624             TOPINT(nss,ix) = i;
14625             /* FALLTHROUGH */
14626         case SAVEt_FREEPV:
14627             c = (char*)POPPTR(ss,ix);
14628             TOPPTR(nss,ix) = pv_dup_inc(c);
14629             break;
14630         case SAVEt_STACK_POS:           /* Position on Perl stack */
14631             i = POPINT(ss,ix);
14632             TOPINT(nss,ix) = i;
14633             break;
14634         case SAVEt_DESTRUCTOR:
14635             ptr = POPPTR(ss,ix);
14636             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);  /* XXX quite arbitrary */
14637             dptr = POPDPTR(ss,ix);
14638             TOPDPTR(nss,ix) = DPTR2FPTR(void (*)(void*),
14639                                         any_dup(FPTR2DPTR(void *, dptr),
14640                                                 proto_perl));
14641             break;
14642         case SAVEt_DESTRUCTOR_X:
14643             ptr = POPPTR(ss,ix);
14644             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);  /* XXX quite arbitrary */
14645             dxptr = POPDXPTR(ss,ix);
14646             TOPDXPTR(nss,ix) = DPTR2FPTR(void (*)(pTHX_ void*),
14647                                          any_dup(FPTR2DPTR(void *, dxptr),
14648                                                  proto_perl));
14649             break;
14650         case SAVEt_REGCONTEXT:
14651         case SAVEt_ALLOC:
14652             ix -= uv >> SAVE_TIGHT_SHIFT;
14653             break;
14654         case SAVEt_AELEM:               /* array element */
14655             sv = (const SV *)POPPTR(ss,ix);
14656             TOPPTR(nss,ix) = SvREFCNT_inc(sv_dup_inc(sv, param));
14657             i = POPINT(ss,ix);
14658             TOPINT(nss,ix) = i;
14659             av = (const AV *)POPPTR(ss,ix);
14660             TOPPTR(nss,ix) = av_dup_inc(av, param);
14661             break;
14662         case SAVEt_OP:
14663             ptr = POPPTR(ss,ix);
14664             TOPPTR(nss,ix) = ptr;
14665             break;
14666         case SAVEt_HINTS:
14667             ptr = POPPTR(ss,ix);
14668             ptr = cophh_copy((COPHH*)ptr);
14669             TOPPTR(nss,ix) = ptr;
14670             i = POPINT(ss,ix);
14671             TOPINT(nss,ix) = i;
14672             if (i & HINT_LOCALIZE_HH) {
14673                 hv = (const HV *)POPPTR(ss,ix);
14674                 TOPPTR(nss,ix) = hv_dup_inc(hv, param);
14675             }
14676             break;
14677         case SAVEt_PADSV_AND_MORTALIZE:
14678             longval = (long)POPLONG(ss,ix);
14679             TOPLONG(nss,ix) = longval;
14680             ptr = POPPTR(ss,ix);
14681             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14682             sv = (const SV *)POPPTR(ss,ix);
14683             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14684             break;
14685         case SAVEt_SET_SVFLAGS:
14686             i = POPINT(ss,ix);
14687             TOPINT(nss,ix) = i;
14688             i = POPINT(ss,ix);
14689             TOPINT(nss,ix) = i;
14690             sv = (const SV *)POPPTR(ss,ix);
14691             TOPPTR(nss,ix) = sv_dup(sv, param);
14692             break;
14693         case SAVEt_COMPILE_WARNINGS:
14694             ptr = POPPTR(ss,ix);
14695             TOPPTR(nss,ix) = DUP_WARNINGS((STRLEN*)ptr);
14696             break;
14697         case SAVEt_PARSER:
14698             ptr = POPPTR(ss,ix);
14699             TOPPTR(nss,ix) = parser_dup((const yy_parser*)ptr, param);
14700             break;
14701         default:
14702             Perl_croak(aTHX_
14703                        "panic: ss_dup inconsistency (%" IVdf ")", (IV) type);
14704         }
14705     }
14706
14707     return nss;
14708 }
14709
14710
14711 /* if sv is a stash, call $class->CLONE_SKIP(), and set the SVphv_CLONEABLE
14712  * flag to the result. This is done for each stash before cloning starts,
14713  * so we know which stashes want their objects cloned */
14714
14715 static void
14716 do_mark_cloneable_stash(pTHX_ SV *const sv)
14717 {
14718     const HEK * const hvname = HvNAME_HEK((const HV *)sv);
14719     if (hvname) {
14720         GV* const cloner = gv_fetchmethod_autoload(MUTABLE_HV(sv), "CLONE_SKIP", 0);
14721         SvFLAGS(sv) |= SVphv_CLONEABLE; /* clone objects by default */
14722         if (cloner && GvCV(cloner)) {
14723             dSP;
14724             UV status;
14725
14726             ENTER;
14727             SAVETMPS;
14728             PUSHMARK(SP);
14729             mXPUSHs(newSVhek(hvname));
14730             PUTBACK;
14731             call_sv(MUTABLE_SV(GvCV(cloner)), G_SCALAR);
14732             SPAGAIN;
14733             status = POPu;
14734             PUTBACK;
14735             FREETMPS;
14736             LEAVE;
14737             if (status)
14738                 SvFLAGS(sv) &= ~SVphv_CLONEABLE;
14739         }
14740     }
14741 }
14742
14743
14744
14745 /*
14746 =for apidoc perl_clone
14747
14748 Create and return a new interpreter by cloning the current one.
14749
14750 C<perl_clone> takes these flags as parameters:
14751
14752 C<CLONEf_COPY_STACKS> - is used to, well, copy the stacks also,
14753 without it we only clone the data and zero the stacks,
14754 with it we copy the stacks and the new perl interpreter is
14755 ready to run at the exact same point as the previous one.
14756 The pseudo-fork code uses C<COPY_STACKS> while the
14757 threads->create doesn't.
14758
14759 C<CLONEf_KEEP_PTR_TABLE> -
14760 C<perl_clone> keeps a ptr_table with the pointer of the old
14761 variable as a key and the new variable as a value,
14762 this allows it to check if something has been cloned and not
14763 clone it again but rather just use the value and increase the
14764 refcount.  If C<KEEP_PTR_TABLE> is not set then C<perl_clone> will kill
14765 the ptr_table using the function
14766 C<ptr_table_free(PL_ptr_table); PL_ptr_table = NULL;>,
14767 reason to keep it around is if you want to dup some of your own
14768 variable who are outside the graph perl scans, an example of this
14769 code is in F<threads.xs> create.
14770
14771 C<CLONEf_CLONE_HOST> -
14772 This is a win32 thing, it is ignored on unix, it tells perls
14773 win32host code (which is c++) to clone itself, this is needed on
14774 win32 if you want to run two threads at the same time,
14775 if you just want to do some stuff in a separate perl interpreter
14776 and then throw it away and return to the original one,
14777 you don't need to do anything.
14778
14779 =cut
14780 */
14781
14782 /* XXX the above needs expanding by someone who actually understands it ! */
14783 EXTERN_C PerlInterpreter *
14784 perl_clone_host(PerlInterpreter* proto_perl, UV flags);
14785
14786 PerlInterpreter *
14787 perl_clone(PerlInterpreter *proto_perl, UV flags)
14788 {
14789    dVAR;
14790 #ifdef PERL_IMPLICIT_SYS
14791
14792     PERL_ARGS_ASSERT_PERL_CLONE;
14793
14794    /* perlhost.h so we need to call into it
14795    to clone the host, CPerlHost should have a c interface, sky */
14796
14797 #ifndef __amigaos4__
14798    if (flags & CLONEf_CLONE_HOST) {
14799        return perl_clone_host(proto_perl,flags);
14800    }
14801 #endif
14802    return perl_clone_using(proto_perl, flags,
14803                             proto_perl->IMem,
14804                             proto_perl->IMemShared,
14805                             proto_perl->IMemParse,
14806                             proto_perl->IEnv,
14807                             proto_perl->IStdIO,
14808                             proto_perl->ILIO,
14809                             proto_perl->IDir,
14810                             proto_perl->ISock,
14811                             proto_perl->IProc);
14812 }
14813
14814 PerlInterpreter *
14815 perl_clone_using(PerlInterpreter *proto_perl, UV flags,
14816                  struct IPerlMem* ipM, struct IPerlMem* ipMS,
14817                  struct IPerlMem* ipMP, struct IPerlEnv* ipE,
14818                  struct IPerlStdIO* ipStd, struct IPerlLIO* ipLIO,
14819                  struct IPerlDir* ipD, struct IPerlSock* ipS,
14820                  struct IPerlProc* ipP)
14821 {
14822     /* XXX many of the string copies here can be optimized if they're
14823      * constants; they need to be allocated as common memory and just
14824      * their pointers copied. */
14825
14826     IV i;
14827     CLONE_PARAMS clone_params;
14828     CLONE_PARAMS* const param = &clone_params;
14829
14830     PerlInterpreter * const my_perl = (PerlInterpreter*)(*ipM->pMalloc)(ipM, sizeof(PerlInterpreter));
14831
14832     PERL_ARGS_ASSERT_PERL_CLONE_USING;
14833 #else           /* !PERL_IMPLICIT_SYS */
14834     IV i;
14835     CLONE_PARAMS clone_params;
14836     CLONE_PARAMS* param = &clone_params;
14837     PerlInterpreter * const my_perl = (PerlInterpreter*)PerlMem_malloc(sizeof(PerlInterpreter));
14838
14839     PERL_ARGS_ASSERT_PERL_CLONE;
14840 #endif          /* PERL_IMPLICIT_SYS */
14841
14842     /* for each stash, determine whether its objects should be cloned */
14843     S_visit(proto_perl, do_mark_cloneable_stash, SVt_PVHV, SVTYPEMASK);
14844     PERL_SET_THX(my_perl);
14845
14846 #ifdef DEBUGGING
14847     PoisonNew(my_perl, 1, PerlInterpreter);
14848     PL_op = NULL;
14849     PL_curcop = NULL;
14850     PL_defstash = NULL; /* may be used by perl malloc() */
14851     PL_markstack = 0;
14852     PL_scopestack = 0;
14853     PL_scopestack_name = 0;
14854     PL_savestack = 0;
14855     PL_savestack_ix = 0;
14856     PL_savestack_max = -1;
14857     PL_sig_pending = 0;
14858     PL_parser = NULL;
14859     Zero(&PL_debug_pad, 1, struct perl_debug_pad);
14860     Zero(&PL_padname_undef, 1, PADNAME);
14861     Zero(&PL_padname_const, 1, PADNAME);
14862 #  ifdef DEBUG_LEAKING_SCALARS
14863     PL_sv_serial = (((UV)my_perl >> 2) & 0xfff) * 1000000;
14864 #  endif
14865 #  ifdef PERL_TRACE_OPS
14866     Zero(PL_op_exec_cnt, OP_max+2, UV);
14867 #  endif
14868 #else   /* !DEBUGGING */
14869     Zero(my_perl, 1, PerlInterpreter);
14870 #endif  /* DEBUGGING */
14871
14872 #ifdef PERL_IMPLICIT_SYS
14873     /* host pointers */
14874     PL_Mem              = ipM;
14875     PL_MemShared        = ipMS;
14876     PL_MemParse         = ipMP;
14877     PL_Env              = ipE;
14878     PL_StdIO            = ipStd;
14879     PL_LIO              = ipLIO;
14880     PL_Dir              = ipD;
14881     PL_Sock             = ipS;
14882     PL_Proc             = ipP;
14883 #endif          /* PERL_IMPLICIT_SYS */
14884
14885
14886     param->flags = flags;
14887     /* Nothing in the core code uses this, but we make it available to
14888        extensions (using mg_dup).  */
14889     param->proto_perl = proto_perl;
14890     /* Likely nothing will use this, but it is initialised to be consistent
14891        with Perl_clone_params_new().  */
14892     param->new_perl = my_perl;
14893     param->unreferenced = NULL;
14894
14895
14896     INIT_TRACK_MEMPOOL(my_perl->Imemory_debug_header, my_perl);
14897
14898     PL_body_arenas = NULL;
14899     Zero(&PL_body_roots, 1, PL_body_roots);
14900     
14901     PL_sv_count         = 0;
14902     PL_sv_root          = NULL;
14903     PL_sv_arenaroot     = NULL;
14904
14905     PL_debug            = proto_perl->Idebug;
14906
14907     /* dbargs array probably holds garbage */
14908     PL_dbargs           = NULL;
14909
14910     PL_compiling = proto_perl->Icompiling;
14911
14912     /* pseudo environmental stuff */
14913     PL_origargc         = proto_perl->Iorigargc;
14914     PL_origargv         = proto_perl->Iorigargv;
14915
14916 #ifndef NO_TAINT_SUPPORT
14917     /* Set tainting stuff before PerlIO_debug can possibly get called */
14918     PL_tainting         = proto_perl->Itainting;
14919     PL_taint_warn       = proto_perl->Itaint_warn;
14920 #else
14921     PL_tainting         = FALSE;
14922     PL_taint_warn       = FALSE;
14923 #endif
14924
14925     PL_minus_c          = proto_perl->Iminus_c;
14926
14927     PL_localpatches     = proto_perl->Ilocalpatches;
14928     PL_splitstr         = proto_perl->Isplitstr;
14929     PL_minus_n          = proto_perl->Iminus_n;
14930     PL_minus_p          = proto_perl->Iminus_p;
14931     PL_minus_l          = proto_perl->Iminus_l;
14932     PL_minus_a          = proto_perl->Iminus_a;
14933     PL_minus_E          = proto_perl->Iminus_E;
14934     PL_minus_F          = proto_perl->Iminus_F;
14935     PL_doswitches       = proto_perl->Idoswitches;
14936     PL_dowarn           = proto_perl->Idowarn;
14937 #ifdef PERL_SAWAMPERSAND
14938     PL_sawampersand     = proto_perl->Isawampersand;
14939 #endif
14940     PL_unsafe           = proto_perl->Iunsafe;
14941     PL_perldb           = proto_perl->Iperldb;
14942     PL_perl_destruct_level = proto_perl->Iperl_destruct_level;
14943     PL_exit_flags       = proto_perl->Iexit_flags;
14944
14945     /* XXX time(&PL_basetime) when asked for? */
14946     PL_basetime         = proto_perl->Ibasetime;
14947
14948     PL_maxsysfd         = proto_perl->Imaxsysfd;
14949     PL_statusvalue      = proto_perl->Istatusvalue;
14950 #ifdef __VMS
14951     PL_statusvalue_vms  = proto_perl->Istatusvalue_vms;
14952 #else
14953     PL_statusvalue_posix = proto_perl->Istatusvalue_posix;
14954 #endif
14955
14956     /* RE engine related */
14957     PL_regmatch_slab    = NULL;
14958     PL_reg_curpm        = NULL;
14959
14960     PL_sub_generation   = proto_perl->Isub_generation;
14961
14962     /* funky return mechanisms */
14963     PL_forkprocess      = proto_perl->Iforkprocess;
14964
14965     /* internal state */
14966     PL_main_start       = proto_perl->Imain_start;
14967     PL_eval_root        = proto_perl->Ieval_root;
14968     PL_eval_start       = proto_perl->Ieval_start;
14969
14970     PL_filemode         = proto_perl->Ifilemode;
14971     PL_lastfd           = proto_perl->Ilastfd;
14972     PL_oldname          = proto_perl->Ioldname;         /* XXX not quite right */
14973     PL_Argv             = NULL;
14974     PL_Cmd              = NULL;
14975     PL_gensym           = proto_perl->Igensym;
14976
14977     PL_laststatval      = proto_perl->Ilaststatval;
14978     PL_laststype        = proto_perl->Ilaststype;
14979     PL_mess_sv          = NULL;
14980
14981     PL_profiledata      = NULL;
14982
14983     PL_generation       = proto_perl->Igeneration;
14984
14985     PL_in_clean_objs    = proto_perl->Iin_clean_objs;
14986     PL_in_clean_all     = proto_perl->Iin_clean_all;
14987
14988     PL_delaymagic_uid   = proto_perl->Idelaymagic_uid;
14989     PL_delaymagic_euid  = proto_perl->Idelaymagic_euid;
14990     PL_delaymagic_gid   = proto_perl->Idelaymagic_gid;
14991     PL_delaymagic_egid  = proto_perl->Idelaymagic_egid;
14992     PL_nomemok          = proto_perl->Inomemok;
14993     PL_an               = proto_perl->Ian;
14994     PL_evalseq          = proto_perl->Ievalseq;
14995     PL_origenviron      = proto_perl->Iorigenviron;     /* XXX not quite right */
14996     PL_origalen         = proto_perl->Iorigalen;
14997
14998     PL_sighandlerp      = proto_perl->Isighandlerp;
14999
15000     PL_runops           = proto_perl->Irunops;
15001
15002     PL_subline          = proto_perl->Isubline;
15003
15004     PL_cv_has_eval      = proto_perl->Icv_has_eval;
15005
15006 #ifdef FCRYPT
15007     PL_cryptseen        = proto_perl->Icryptseen;
15008 #endif
15009
15010 #ifdef USE_LOCALE_COLLATE
15011     PL_collation_ix     = proto_perl->Icollation_ix;
15012     PL_collation_standard       = proto_perl->Icollation_standard;
15013     PL_collxfrm_base    = proto_perl->Icollxfrm_base;
15014     PL_collxfrm_mult    = proto_perl->Icollxfrm_mult;
15015     PL_strxfrm_max_cp   = proto_perl->Istrxfrm_max_cp;
15016 #endif /* USE_LOCALE_COLLATE */
15017
15018 #ifdef USE_LOCALE_NUMERIC
15019     PL_numeric_standard = proto_perl->Inumeric_standard;
15020     PL_numeric_local    = proto_perl->Inumeric_local;
15021 #endif /* !USE_LOCALE_NUMERIC */
15022
15023     /* Did the locale setup indicate UTF-8? */
15024     PL_utf8locale       = proto_perl->Iutf8locale;
15025     PL_in_utf8_CTYPE_locale = proto_perl->Iin_utf8_CTYPE_locale;
15026     PL_in_utf8_COLLATE_locale = proto_perl->Iin_utf8_COLLATE_locale;
15027     /* Unicode features (see perlrun/-C) */
15028     PL_unicode          = proto_perl->Iunicode;
15029
15030     /* Pre-5.8 signals control */
15031     PL_signals          = proto_perl->Isignals;
15032
15033     /* times() ticks per second */
15034     PL_clocktick        = proto_perl->Iclocktick;
15035
15036     /* Recursion stopper for PerlIO_find_layer */
15037     PL_in_load_module   = proto_perl->Iin_load_module;
15038
15039     /* sort() routine */
15040     PL_sort_RealCmp     = proto_perl->Isort_RealCmp;
15041
15042     /* Not really needed/useful since the reenrant_retint is "volatile",
15043      * but do it for consistency's sake. */
15044     PL_reentrant_retint = proto_perl->Ireentrant_retint;
15045
15046     /* Hooks to shared SVs and locks. */
15047     PL_sharehook        = proto_perl->Isharehook;
15048     PL_lockhook         = proto_perl->Ilockhook;
15049     PL_unlockhook       = proto_perl->Iunlockhook;
15050     PL_threadhook       = proto_perl->Ithreadhook;
15051     PL_destroyhook      = proto_perl->Idestroyhook;
15052     PL_signalhook       = proto_perl->Isignalhook;
15053
15054     PL_globhook         = proto_perl->Iglobhook;
15055
15056     /* swatch cache */
15057     PL_last_swash_hv    = NULL; /* reinits on demand */
15058     PL_last_swash_klen  = 0;
15059     PL_last_swash_key[0]= '\0';
15060     PL_last_swash_tmps  = (U8*)NULL;
15061     PL_last_swash_slen  = 0;
15062
15063     PL_srand_called     = proto_perl->Isrand_called;
15064     Copy(&(proto_perl->Irandom_state), &PL_random_state, 1, PL_RANDOM_STATE_TYPE);
15065
15066     if (flags & CLONEf_COPY_STACKS) {
15067         /* next allocation will be PL_tmps_stack[PL_tmps_ix+1] */
15068         PL_tmps_ix              = proto_perl->Itmps_ix;
15069         PL_tmps_max             = proto_perl->Itmps_max;
15070         PL_tmps_floor           = proto_perl->Itmps_floor;
15071
15072         /* next push_scope()/ENTER sets PL_scopestack[PL_scopestack_ix]
15073          * NOTE: unlike the others! */
15074         PL_scopestack_ix        = proto_perl->Iscopestack_ix;
15075         PL_scopestack_max       = proto_perl->Iscopestack_max;
15076
15077         /* next SSPUSHFOO() sets PL_savestack[PL_savestack_ix]
15078          * NOTE: unlike the others! */
15079         PL_savestack_ix         = proto_perl->Isavestack_ix;
15080         PL_savestack_max        = proto_perl->Isavestack_max;
15081     }
15082
15083     PL_start_env        = proto_perl->Istart_env;       /* XXXXXX */
15084     PL_top_env          = &PL_start_env;
15085
15086     PL_op               = proto_perl->Iop;
15087
15088     PL_Sv               = NULL;
15089     PL_Xpv              = (XPV*)NULL;
15090     my_perl->Ina        = proto_perl->Ina;
15091
15092     PL_statcache        = proto_perl->Istatcache;
15093
15094 #ifndef NO_TAINT_SUPPORT
15095     PL_tainted          = proto_perl->Itainted;
15096 #else
15097     PL_tainted          = FALSE;
15098 #endif
15099     PL_curpm            = proto_perl->Icurpm;   /* XXX No PMOP ref count */
15100
15101     PL_chopset          = proto_perl->Ichopset; /* XXX never deallocated */
15102
15103     PL_restartjmpenv    = proto_perl->Irestartjmpenv;
15104     PL_restartop        = proto_perl->Irestartop;
15105     PL_in_eval          = proto_perl->Iin_eval;
15106     PL_delaymagic       = proto_perl->Idelaymagic;
15107     PL_phase            = proto_perl->Iphase;
15108     PL_localizing       = proto_perl->Ilocalizing;
15109
15110     PL_hv_fetch_ent_mh  = NULL;
15111     PL_modcount         = proto_perl->Imodcount;
15112     PL_lastgotoprobe    = NULL;
15113     PL_dumpindent       = proto_perl->Idumpindent;
15114
15115     PL_efloatbuf        = NULL;         /* reinits on demand */
15116     PL_efloatsize       = 0;                    /* reinits on demand */
15117
15118     /* regex stuff */
15119
15120     PL_colorset         = 0;            /* reinits PL_colors[] */
15121     /*PL_colors[6]      = {0,0,0,0,0,0};*/
15122
15123     /* Pluggable optimizer */
15124     PL_peepp            = proto_perl->Ipeepp;
15125     PL_rpeepp           = proto_perl->Irpeepp;
15126     /* op_free() hook */
15127     PL_opfreehook       = proto_perl->Iopfreehook;
15128
15129 #ifdef USE_REENTRANT_API
15130     /* XXX: things like -Dm will segfault here in perlio, but doing
15131      *  PERL_SET_CONTEXT(proto_perl);
15132      * breaks too many other things
15133      */
15134     Perl_reentrant_init(aTHX);
15135 #endif
15136
15137     /* create SV map for pointer relocation */
15138     PL_ptr_table = ptr_table_new();
15139
15140     /* initialize these special pointers as early as possible */
15141     init_constants();
15142     ptr_table_store(PL_ptr_table, &proto_perl->Isv_undef, &PL_sv_undef);
15143     ptr_table_store(PL_ptr_table, &proto_perl->Isv_no, &PL_sv_no);
15144     ptr_table_store(PL_ptr_table, &proto_perl->Isv_yes, &PL_sv_yes);
15145     ptr_table_store(PL_ptr_table, &proto_perl->Ipadname_const,
15146                     &PL_padname_const);
15147
15148     /* create (a non-shared!) shared string table */
15149     PL_strtab           = newHV();
15150     HvSHAREKEYS_off(PL_strtab);
15151     hv_ksplit(PL_strtab, HvTOTALKEYS(proto_perl->Istrtab));
15152     ptr_table_store(PL_ptr_table, proto_perl->Istrtab, PL_strtab);
15153
15154     Zero(PL_sv_consts, SV_CONSTS_COUNT, SV*);
15155
15156     /* This PV will be free'd special way so must set it same way op.c does */
15157     PL_compiling.cop_file    = savesharedpv(PL_compiling.cop_file);
15158     ptr_table_store(PL_ptr_table, proto_perl->Icompiling.cop_file, PL_compiling.cop_file);
15159
15160     ptr_table_store(PL_ptr_table, &proto_perl->Icompiling, &PL_compiling);
15161     PL_compiling.cop_warnings = DUP_WARNINGS(PL_compiling.cop_warnings);
15162     CopHINTHASH_set(&PL_compiling, cophh_copy(CopHINTHASH_get(&PL_compiling)));
15163     PL_curcop           = (COP*)any_dup(proto_perl->Icurcop, proto_perl);
15164
15165     param->stashes      = newAV();  /* Setup array of objects to call clone on */
15166     /* This makes no difference to the implementation, as it always pushes
15167        and shifts pointers to other SVs without changing their reference
15168        count, with the array becoming empty before it is freed. However, it
15169        makes it conceptually clear what is going on, and will avoid some
15170        work inside av.c, filling slots between AvFILL() and AvMAX() with
15171        &PL_sv_undef, and SvREFCNT_dec()ing those.  */
15172     AvREAL_off(param->stashes);
15173
15174     if (!(flags & CLONEf_COPY_STACKS)) {
15175         param->unreferenced = newAV();
15176     }
15177
15178 #ifdef PERLIO_LAYERS
15179     /* Clone PerlIO tables as soon as we can handle general xx_dup() */
15180     PerlIO_clone(aTHX_ proto_perl, param);
15181 #endif
15182
15183     PL_envgv            = gv_dup_inc(proto_perl->Ienvgv, param);
15184     PL_incgv            = gv_dup_inc(proto_perl->Iincgv, param);
15185     PL_hintgv           = gv_dup_inc(proto_perl->Ihintgv, param);
15186     PL_origfilename     = SAVEPV(proto_perl->Iorigfilename);
15187     PL_xsubfilename     = proto_perl->Ixsubfilename;
15188     PL_diehook          = sv_dup_inc(proto_perl->Idiehook, param);
15189     PL_warnhook         = sv_dup_inc(proto_perl->Iwarnhook, param);
15190
15191     /* switches */
15192     PL_patchlevel       = sv_dup_inc(proto_perl->Ipatchlevel, param);
15193     PL_inplace          = SAVEPV(proto_perl->Iinplace);
15194     PL_e_script         = sv_dup_inc(proto_perl->Ie_script, param);
15195
15196     /* magical thingies */
15197
15198     SvPVCLEAR(PERL_DEBUG_PAD(0));        /* For regex debugging. */
15199     SvPVCLEAR(PERL_DEBUG_PAD(1));        /* ext/re needs these */
15200     SvPVCLEAR(PERL_DEBUG_PAD(2));        /* even without DEBUGGING. */
15201
15202    
15203     /* Clone the regex array */
15204     /* ORANGE FIXME for plugins, probably in the SV dup code.
15205        newSViv(PTR2IV(CALLREGDUPE(
15206        INT2PTR(REGEXP *, SvIVX(regex)), param))))
15207     */
15208     PL_regex_padav = av_dup_inc(proto_perl->Iregex_padav, param);
15209     PL_regex_pad = AvARRAY(PL_regex_padav);
15210
15211     PL_stashpadmax      = proto_perl->Istashpadmax;
15212     PL_stashpadix       = proto_perl->Istashpadix ;
15213     Newx(PL_stashpad, PL_stashpadmax, HV *);
15214     {
15215         PADOFFSET o = 0;
15216         for (; o < PL_stashpadmax; ++o)
15217             PL_stashpad[o] = hv_dup(proto_perl->Istashpad[o], param);
15218     }
15219
15220     /* shortcuts to various I/O objects */
15221     PL_ofsgv            = gv_dup_inc(proto_perl->Iofsgv, param);
15222     PL_stdingv          = gv_dup(proto_perl->Istdingv, param);
15223     PL_stderrgv         = gv_dup(proto_perl->Istderrgv, param);
15224     PL_defgv            = gv_dup(proto_perl->Idefgv, param);
15225     PL_argvgv           = gv_dup_inc(proto_perl->Iargvgv, param);
15226     PL_argvoutgv        = gv_dup(proto_perl->Iargvoutgv, param);
15227     PL_argvout_stack    = av_dup_inc(proto_perl->Iargvout_stack, param);
15228
15229     /* shortcuts to regexp stuff */
15230     PL_replgv           = gv_dup_inc(proto_perl->Ireplgv, param);
15231
15232     /* shortcuts to misc objects */
15233     PL_errgv            = gv_dup(proto_perl->Ierrgv, param);
15234
15235     /* shortcuts to debugging objects */
15236     PL_DBgv             = gv_dup_inc(proto_perl->IDBgv, param);
15237     PL_DBline           = gv_dup_inc(proto_perl->IDBline, param);
15238     PL_DBsub            = gv_dup_inc(proto_perl->IDBsub, param);
15239     PL_DBsingle         = sv_dup(proto_perl->IDBsingle, param);
15240     PL_DBtrace          = sv_dup(proto_perl->IDBtrace, param);
15241     PL_DBsignal         = sv_dup(proto_perl->IDBsignal, param);
15242     Copy(proto_perl->IDBcontrol, PL_DBcontrol, DBVARMG_COUNT, IV);
15243
15244     /* symbol tables */
15245     PL_defstash         = hv_dup_inc(proto_perl->Idefstash, param);
15246     PL_curstash         = hv_dup_inc(proto_perl->Icurstash, param);
15247     PL_debstash         = hv_dup(proto_perl->Idebstash, param);
15248     PL_globalstash      = hv_dup(proto_perl->Iglobalstash, param);
15249     PL_curstname        = sv_dup_inc(proto_perl->Icurstname, param);
15250
15251     PL_beginav          = av_dup_inc(proto_perl->Ibeginav, param);
15252     PL_beginav_save     = av_dup_inc(proto_perl->Ibeginav_save, param);
15253     PL_checkav_save     = av_dup_inc(proto_perl->Icheckav_save, param);
15254     PL_unitcheckav      = av_dup_inc(proto_perl->Iunitcheckav, param);
15255     PL_unitcheckav_save = av_dup_inc(proto_perl->Iunitcheckav_save, param);
15256     PL_endav            = av_dup_inc(proto_perl->Iendav, param);
15257     PL_checkav          = av_dup_inc(proto_perl->Icheckav, param);
15258     PL_initav           = av_dup_inc(proto_perl->Iinitav, param);
15259     PL_savebegin        = proto_perl->Isavebegin;
15260
15261     PL_isarev           = hv_dup_inc(proto_perl->Iisarev, param);
15262
15263     /* subprocess state */
15264     PL_fdpid            = av_dup_inc(proto_perl->Ifdpid, param);
15265
15266     if (proto_perl->Iop_mask)
15267         PL_op_mask      = SAVEPVN(proto_perl->Iop_mask, PL_maxo);
15268     else
15269         PL_op_mask      = NULL;
15270     /* PL_asserting        = proto_perl->Iasserting; */
15271
15272     /* current interpreter roots */
15273     PL_main_cv          = cv_dup_inc(proto_perl->Imain_cv, param);
15274     OP_REFCNT_LOCK;
15275     PL_main_root        = OpREFCNT_inc(proto_perl->Imain_root);
15276     OP_REFCNT_UNLOCK;
15277
15278     /* runtime control stuff */
15279     PL_curcopdb         = (COP*)any_dup(proto_perl->Icurcopdb, proto_perl);
15280
15281     PL_preambleav       = av_dup_inc(proto_perl->Ipreambleav, param);
15282
15283     PL_ors_sv           = sv_dup_inc(proto_perl->Iors_sv, param);
15284
15285     /* interpreter atexit processing */
15286     PL_exitlistlen      = proto_perl->Iexitlistlen;
15287     if (PL_exitlistlen) {
15288         Newx(PL_exitlist, PL_exitlistlen, PerlExitListEntry);
15289         Copy(proto_perl->Iexitlist, PL_exitlist, PL_exitlistlen, PerlExitListEntry);
15290     }
15291     else
15292         PL_exitlist     = (PerlExitListEntry*)NULL;
15293
15294     PL_my_cxt_size = proto_perl->Imy_cxt_size;
15295     if (PL_my_cxt_size) {
15296         Newx(PL_my_cxt_list, PL_my_cxt_size, void *);
15297         Copy(proto_perl->Imy_cxt_list, PL_my_cxt_list, PL_my_cxt_size, void *);
15298 #ifdef PERL_GLOBAL_STRUCT_PRIVATE
15299         Newx(PL_my_cxt_keys, PL_my_cxt_size, const char *);
15300         Copy(proto_perl->Imy_cxt_keys, PL_my_cxt_keys, PL_my_cxt_size, char *);
15301 #endif
15302     }
15303     else {
15304         PL_my_cxt_list  = (void**)NULL;
15305 #ifdef PERL_GLOBAL_STRUCT_PRIVATE
15306         PL_my_cxt_keys  = (const char**)NULL;
15307 #endif
15308     }
15309     PL_modglobal        = hv_dup_inc(proto_perl->Imodglobal, param);
15310     PL_custom_op_names  = hv_dup_inc(proto_perl->Icustom_op_names,param);
15311     PL_custom_op_descs  = hv_dup_inc(proto_perl->Icustom_op_descs,param);
15312     PL_custom_ops       = hv_dup_inc(proto_perl->Icustom_ops, param);
15313
15314     PL_compcv                   = cv_dup(proto_perl->Icompcv, param);
15315
15316     PAD_CLONE_VARS(proto_perl, param);
15317
15318 #ifdef HAVE_INTERP_INTERN
15319     sys_intern_dup(&proto_perl->Isys_intern, &PL_sys_intern);
15320 #endif
15321
15322     PL_DBcv             = cv_dup(proto_perl->IDBcv, param);
15323
15324 #ifdef PERL_USES_PL_PIDSTATUS
15325     PL_pidstatus        = newHV();                      /* XXX flag for cloning? */
15326 #endif
15327     PL_osname           = SAVEPV(proto_perl->Iosname);
15328     PL_parser           = parser_dup(proto_perl->Iparser, param);
15329
15330     /* XXX this only works if the saved cop has already been cloned */
15331     if (proto_perl->Iparser) {
15332         PL_parser->saved_curcop = (COP*)any_dup(
15333                                     proto_perl->Iparser->saved_curcop,
15334                                     proto_perl);
15335     }
15336
15337     PL_subname          = sv_dup_inc(proto_perl->Isubname, param);
15338
15339 #ifdef USE_LOCALE_CTYPE
15340     /* Should we warn if uses locale? */
15341     PL_warn_locale      = sv_dup_inc(proto_perl->Iwarn_locale, param);
15342 #endif
15343
15344 #ifdef USE_LOCALE_COLLATE
15345     PL_collation_name   = SAVEPV(proto_perl->Icollation_name);
15346 #endif /* USE_LOCALE_COLLATE */
15347
15348 #ifdef USE_LOCALE_NUMERIC
15349     PL_numeric_name     = SAVEPV(proto_perl->Inumeric_name);
15350     PL_numeric_radix_sv = sv_dup_inc(proto_perl->Inumeric_radix_sv, param);
15351 #endif /* !USE_LOCALE_NUMERIC */
15352
15353     /* Unicode inversion lists */
15354     PL_Latin1           = sv_dup_inc(proto_perl->ILatin1, param);
15355     PL_UpperLatin1      = sv_dup_inc(proto_perl->IUpperLatin1, param);
15356     PL_AboveLatin1      = sv_dup_inc(proto_perl->IAboveLatin1, param);
15357     PL_InBitmap         = sv_dup_inc(proto_perl->IInBitmap, param);
15358
15359     PL_NonL1NonFinalFold = sv_dup_inc(proto_perl->INonL1NonFinalFold, param);
15360     PL_HasMultiCharFold = sv_dup_inc(proto_perl->IHasMultiCharFold, param);
15361
15362     /* utf8 character class swashes */
15363     for (i = 0; i < POSIX_SWASH_COUNT; i++) {
15364         PL_utf8_swash_ptrs[i] = sv_dup_inc(proto_perl->Iutf8_swash_ptrs[i], param);
15365     }
15366     for (i = 0; i < POSIX_CC_COUNT; i++) {
15367         PL_XPosix_ptrs[i] = sv_dup_inc(proto_perl->IXPosix_ptrs[i], param);
15368     }
15369     PL_GCB_invlist = sv_dup_inc(proto_perl->IGCB_invlist, param);
15370     PL_SB_invlist = sv_dup_inc(proto_perl->ISB_invlist, param);
15371     PL_WB_invlist = sv_dup_inc(proto_perl->IWB_invlist, param);
15372     PL_seen_deprecated_macro = hv_dup_inc(proto_perl->Iseen_deprecated_macro, param);
15373     PL_utf8_mark        = sv_dup_inc(proto_perl->Iutf8_mark, param);
15374     PL_utf8_toupper     = sv_dup_inc(proto_perl->Iutf8_toupper, param);
15375     PL_utf8_totitle     = sv_dup_inc(proto_perl->Iutf8_totitle, param);
15376     PL_utf8_tolower     = sv_dup_inc(proto_perl->Iutf8_tolower, param);
15377     PL_utf8_tofold      = sv_dup_inc(proto_perl->Iutf8_tofold, param);
15378     PL_utf8_idstart     = sv_dup_inc(proto_perl->Iutf8_idstart, param);
15379     PL_utf8_xidstart    = sv_dup_inc(proto_perl->Iutf8_xidstart, param);
15380     PL_utf8_perl_idstart = sv_dup_inc(proto_perl->Iutf8_perl_idstart, param);
15381     PL_utf8_perl_idcont = sv_dup_inc(proto_perl->Iutf8_perl_idcont, param);
15382     PL_utf8_idcont      = sv_dup_inc(proto_perl->Iutf8_idcont, param);
15383     PL_utf8_xidcont     = sv_dup_inc(proto_perl->Iutf8_xidcont, param);
15384     PL_utf8_foldable    = sv_dup_inc(proto_perl->Iutf8_foldable, param);
15385     PL_utf8_charname_begin = sv_dup_inc(proto_perl->Iutf8_charname_begin, param);
15386     PL_utf8_charname_continue = sv_dup_inc(proto_perl->Iutf8_charname_continue, param);
15387
15388     if (proto_perl->Ipsig_pend) {
15389         Newxz(PL_psig_pend, SIG_SIZE, int);
15390     }
15391     else {
15392         PL_psig_pend    = (int*)NULL;
15393     }
15394
15395     if (proto_perl->Ipsig_name) {
15396         Newx(PL_psig_name, 2 * SIG_SIZE, SV*);
15397         sv_dup_inc_multiple(proto_perl->Ipsig_name, PL_psig_name, 2 * SIG_SIZE,
15398                             param);
15399         PL_psig_ptr = PL_psig_name + SIG_SIZE;
15400     }
15401     else {
15402         PL_psig_ptr     = (SV**)NULL;
15403         PL_psig_name    = (SV**)NULL;
15404     }
15405
15406     if (flags & CLONEf_COPY_STACKS) {
15407         Newx(PL_tmps_stack, PL_tmps_max, SV*);
15408         sv_dup_inc_multiple(proto_perl->Itmps_stack, PL_tmps_stack,
15409                             PL_tmps_ix+1, param);
15410
15411         /* next PUSHMARK() sets *(PL_markstack_ptr+1) */
15412         i = proto_perl->Imarkstack_max - proto_perl->Imarkstack;
15413         Newxz(PL_markstack, i, I32);
15414         PL_markstack_max        = PL_markstack + (proto_perl->Imarkstack_max
15415                                                   - proto_perl->Imarkstack);
15416         PL_markstack_ptr        = PL_markstack + (proto_perl->Imarkstack_ptr
15417                                                   - proto_perl->Imarkstack);
15418         Copy(proto_perl->Imarkstack, PL_markstack,
15419              PL_markstack_ptr - PL_markstack + 1, I32);
15420
15421         /* next push_scope()/ENTER sets PL_scopestack[PL_scopestack_ix]
15422          * NOTE: unlike the others! */
15423         Newxz(PL_scopestack, PL_scopestack_max, I32);
15424         Copy(proto_perl->Iscopestack, PL_scopestack, PL_scopestack_ix, I32);
15425
15426 #ifdef DEBUGGING
15427         Newxz(PL_scopestack_name, PL_scopestack_max, const char *);
15428         Copy(proto_perl->Iscopestack_name, PL_scopestack_name, PL_scopestack_ix, const char *);
15429 #endif
15430         /* reset stack AV to correct length before its duped via
15431          * PL_curstackinfo */
15432         AvFILLp(proto_perl->Icurstack) =
15433                             proto_perl->Istack_sp - proto_perl->Istack_base;
15434
15435         /* NOTE: si_dup() looks at PL_markstack */
15436         PL_curstackinfo         = si_dup(proto_perl->Icurstackinfo, param);
15437
15438         /* PL_curstack          = PL_curstackinfo->si_stack; */
15439         PL_curstack             = av_dup(proto_perl->Icurstack, param);
15440         PL_mainstack            = av_dup(proto_perl->Imainstack, param);
15441
15442         /* next PUSHs() etc. set *(PL_stack_sp+1) */
15443         PL_stack_base           = AvARRAY(PL_curstack);
15444         PL_stack_sp             = PL_stack_base + (proto_perl->Istack_sp
15445                                                    - proto_perl->Istack_base);
15446         PL_stack_max            = PL_stack_base + AvMAX(PL_curstack);
15447
15448         /*Newxz(PL_savestack, PL_savestack_max, ANY);*/
15449         PL_savestack            = ss_dup(proto_perl, param);
15450     }
15451     else {
15452         init_stacks();
15453         ENTER;                  /* perl_destruct() wants to LEAVE; */
15454     }
15455
15456     PL_statgv           = gv_dup(proto_perl->Istatgv, param);
15457     PL_statname         = sv_dup_inc(proto_perl->Istatname, param);
15458
15459     PL_rs               = sv_dup_inc(proto_perl->Irs, param);
15460     PL_last_in_gv       = gv_dup(proto_perl->Ilast_in_gv, param);
15461     PL_defoutgv         = gv_dup_inc(proto_perl->Idefoutgv, param);
15462     PL_toptarget        = sv_dup_inc(proto_perl->Itoptarget, param);
15463     PL_bodytarget       = sv_dup_inc(proto_perl->Ibodytarget, param);
15464     PL_formtarget       = sv_dup(proto_perl->Iformtarget, param);
15465
15466     PL_errors           = sv_dup_inc(proto_perl->Ierrors, param);
15467
15468     PL_sortcop          = (OP*)any_dup(proto_perl->Isortcop, proto_perl);
15469     PL_firstgv          = gv_dup_inc(proto_perl->Ifirstgv, param);
15470     PL_secondgv         = gv_dup_inc(proto_perl->Isecondgv, param);
15471
15472     PL_stashcache       = newHV();
15473
15474     PL_watchaddr        = (char **) ptr_table_fetch(PL_ptr_table,
15475                                             proto_perl->Iwatchaddr);
15476     PL_watchok          = PL_watchaddr ? * PL_watchaddr : NULL;
15477     if (PL_debug && PL_watchaddr) {
15478         PerlIO_printf(Perl_debug_log,
15479           "WATCHING: %" UVxf " cloned as %" UVxf " with value %" UVxf "\n",
15480           PTR2UV(proto_perl->Iwatchaddr), PTR2UV(PL_watchaddr),
15481           PTR2UV(PL_watchok));
15482     }
15483
15484     PL_registered_mros  = hv_dup_inc(proto_perl->Iregistered_mros, param);
15485     PL_blockhooks       = av_dup_inc(proto_perl->Iblockhooks, param);
15486     PL_utf8_foldclosures = hv_dup_inc(proto_perl->Iutf8_foldclosures, param);
15487
15488     /* Call the ->CLONE method, if it exists, for each of the stashes
15489        identified by sv_dup() above.
15490     */
15491     while(av_tindex(param->stashes) != -1) {
15492         HV* const stash = MUTABLE_HV(av_shift(param->stashes));
15493         GV* const cloner = gv_fetchmethod_autoload(stash, "CLONE", 0);
15494         if (cloner && GvCV(cloner)) {
15495             dSP;
15496             ENTER;
15497             SAVETMPS;
15498             PUSHMARK(SP);
15499             mXPUSHs(newSVhek(HvNAME_HEK(stash)));
15500             PUTBACK;
15501             call_sv(MUTABLE_SV(GvCV(cloner)), G_DISCARD);
15502             FREETMPS;
15503             LEAVE;
15504         }
15505     }
15506
15507     if (!(flags & CLONEf_KEEP_PTR_TABLE)) {
15508         ptr_table_free(PL_ptr_table);
15509         PL_ptr_table = NULL;
15510     }
15511
15512     if (!(flags & CLONEf_COPY_STACKS)) {
15513         unreferenced_to_tmp_stack(param->unreferenced);
15514     }
15515
15516     SvREFCNT_dec(param->stashes);
15517
15518     /* orphaned? eg threads->new inside BEGIN or use */
15519     if (PL_compcv && ! SvREFCNT(PL_compcv)) {
15520         SvREFCNT_inc_simple_void(PL_compcv);
15521         SAVEFREESV(PL_compcv);
15522     }
15523
15524     return my_perl;
15525 }
15526
15527 static void
15528 S_unreferenced_to_tmp_stack(pTHX_ AV *const unreferenced)
15529 {
15530     PERL_ARGS_ASSERT_UNREFERENCED_TO_TMP_STACK;
15531     
15532     if (AvFILLp(unreferenced) > -1) {
15533         SV **svp = AvARRAY(unreferenced);
15534         SV **const last = svp + AvFILLp(unreferenced);
15535         SSize_t count = 0;
15536
15537         do {
15538             if (SvREFCNT(*svp) == 1)
15539                 ++count;
15540         } while (++svp <= last);
15541
15542         EXTEND_MORTAL(count);
15543         svp = AvARRAY(unreferenced);
15544
15545         do {
15546             if (SvREFCNT(*svp) == 1) {
15547                 /* Our reference is the only one to this SV. This means that
15548                    in this thread, the scalar effectively has a 0 reference.
15549                    That doesn't work (cleanup never happens), so donate our
15550                    reference to it onto the save stack. */
15551                 PL_tmps_stack[++PL_tmps_ix] = *svp;
15552             } else {
15553                 /* As an optimisation, because we are already walking the
15554                    entire array, instead of above doing either
15555                    SvREFCNT_inc(*svp) or *svp = &PL_sv_undef, we can instead
15556                    release our reference to the scalar, so that at the end of
15557                    the array owns zero references to the scalars it happens to
15558                    point to. We are effectively converting the array from
15559                    AvREAL() on to AvREAL() off. This saves the av_clear()
15560                    (triggered by the SvREFCNT_dec(unreferenced) below) from
15561                    walking the array a second time.  */
15562                 SvREFCNT_dec(*svp);
15563             }
15564
15565         } while (++svp <= last);
15566         AvREAL_off(unreferenced);
15567     }
15568     SvREFCNT_dec_NN(unreferenced);
15569 }
15570
15571 void
15572 Perl_clone_params_del(CLONE_PARAMS *param)
15573 {
15574     /* This seemingly funky ordering keeps the build with PERL_GLOBAL_STRUCT
15575        happy: */
15576     PerlInterpreter *const to = param->new_perl;
15577     dTHXa(to);
15578     PerlInterpreter *const was = PERL_GET_THX;
15579
15580     PERL_ARGS_ASSERT_CLONE_PARAMS_DEL;
15581
15582     if (was != to) {
15583         PERL_SET_THX(to);
15584     }
15585
15586     SvREFCNT_dec(param->stashes);
15587     if (param->unreferenced)
15588         unreferenced_to_tmp_stack(param->unreferenced);
15589
15590     Safefree(param);
15591
15592     if (was != to) {
15593         PERL_SET_THX(was);
15594     }
15595 }
15596
15597 CLONE_PARAMS *
15598 Perl_clone_params_new(PerlInterpreter *const from, PerlInterpreter *const to)
15599 {
15600     dVAR;
15601     /* Need to play this game, as newAV() can call safesysmalloc(), and that
15602        does a dTHX; to get the context from thread local storage.
15603        FIXME - under PERL_CORE Newx(), Safefree() and friends should expand to
15604        a version that passes in my_perl.  */
15605     PerlInterpreter *const was = PERL_GET_THX;
15606     CLONE_PARAMS *param;
15607
15608     PERL_ARGS_ASSERT_CLONE_PARAMS_NEW;
15609
15610     if (was != to) {
15611         PERL_SET_THX(to);
15612     }
15613
15614     /* Given that we've set the context, we can do this unshared.  */
15615     Newx(param, 1, CLONE_PARAMS);
15616
15617     param->flags = 0;
15618     param->proto_perl = from;
15619     param->new_perl = to;
15620     param->stashes = (AV *)Perl_newSV_type(to, SVt_PVAV);
15621     AvREAL_off(param->stashes);
15622     param->unreferenced = (AV *)Perl_newSV_type(to, SVt_PVAV);
15623
15624     if (was != to) {
15625         PERL_SET_THX(was);
15626     }
15627     return param;
15628 }
15629
15630 #endif /* USE_ITHREADS */
15631
15632 void
15633 Perl_init_constants(pTHX)
15634 {
15635     SvREFCNT(&PL_sv_undef)      = SvREFCNT_IMMORTAL;
15636     SvFLAGS(&PL_sv_undef)       = SVf_READONLY|SVf_PROTECT|SVt_NULL;
15637     SvANY(&PL_sv_undef)         = NULL;
15638
15639     SvANY(&PL_sv_no)            = new_XPVNV();
15640     SvREFCNT(&PL_sv_no)         = SvREFCNT_IMMORTAL;
15641     SvFLAGS(&PL_sv_no)          = SVt_PVNV|SVf_READONLY|SVf_PROTECT
15642                                   |SVp_IOK|SVf_IOK|SVp_NOK|SVf_NOK
15643                                   |SVp_POK|SVf_POK;
15644
15645     SvANY(&PL_sv_yes)           = new_XPVNV();
15646     SvREFCNT(&PL_sv_yes)        = SvREFCNT_IMMORTAL;
15647     SvFLAGS(&PL_sv_yes)         = SVt_PVNV|SVf_READONLY|SVf_PROTECT
15648                                   |SVp_IOK|SVf_IOK|SVp_NOK|SVf_NOK
15649                                   |SVp_POK|SVf_POK;
15650
15651     SvPV_set(&PL_sv_no, (char*)PL_No);
15652     SvCUR_set(&PL_sv_no, 0);
15653     SvLEN_set(&PL_sv_no, 0);
15654     SvIV_set(&PL_sv_no, 0);
15655     SvNV_set(&PL_sv_no, 0);
15656
15657     SvPV_set(&PL_sv_yes, (char*)PL_Yes);
15658     SvCUR_set(&PL_sv_yes, 1);
15659     SvLEN_set(&PL_sv_yes, 0);
15660     SvIV_set(&PL_sv_yes, 1);
15661     SvNV_set(&PL_sv_yes, 1);
15662
15663     PadnamePV(&PL_padname_const) = (char *)PL_No;
15664 }
15665
15666 /*
15667 =head1 Unicode Support
15668
15669 =for apidoc sv_recode_to_utf8
15670
15671 C<encoding> is assumed to be an C<Encode> object, on entry the PV
15672 of C<sv> is assumed to be octets in that encoding, and C<sv>
15673 will be converted into Unicode (and UTF-8).
15674
15675 If C<sv> already is UTF-8 (or if it is not C<POK>), or if C<encoding>
15676 is not a reference, nothing is done to C<sv>.  If C<encoding> is not
15677 an C<Encode::XS> Encoding object, bad things will happen.
15678 (See F<cpan/Encode/encoding.pm> and L<Encode>.)
15679
15680 The PV of C<sv> is returned.
15681
15682 =cut */
15683
15684 char *
15685 Perl_sv_recode_to_utf8(pTHX_ SV *sv, SV *encoding)
15686 {
15687     PERL_ARGS_ASSERT_SV_RECODE_TO_UTF8;
15688
15689     if (SvPOK(sv) && !SvUTF8(sv) && !IN_BYTES && SvROK(encoding)) {
15690         SV *uni;
15691         STRLEN len;
15692         const char *s;
15693         dSP;
15694         SV *nsv = sv;
15695         ENTER;
15696         PUSHSTACK;
15697         SAVETMPS;
15698         if (SvPADTMP(nsv)) {
15699             nsv = sv_newmortal();
15700             SvSetSV_nosteal(nsv, sv);
15701         }
15702         save_re_context();
15703         PUSHMARK(sp);
15704         EXTEND(SP, 3);
15705         PUSHs(encoding);
15706         PUSHs(nsv);
15707 /*
15708   NI-S 2002/07/09
15709   Passing sv_yes is wrong - it needs to be or'ed set of constants
15710   for Encode::XS, while UTf-8 decode (currently) assumes a true value means
15711   remove converted chars from source.
15712
15713   Both will default the value - let them.
15714
15715         XPUSHs(&PL_sv_yes);
15716 */
15717         PUTBACK;
15718         call_method("decode", G_SCALAR);
15719         SPAGAIN;
15720         uni = POPs;
15721         PUTBACK;
15722         s = SvPV_const(uni, len);
15723         if (s != SvPVX_const(sv)) {
15724             SvGROW(sv, len + 1);
15725             Move(s, SvPVX(sv), len + 1, char);
15726             SvCUR_set(sv, len);
15727         }
15728         FREETMPS;
15729         POPSTACK;
15730         LEAVE;
15731         if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
15732             /* clear pos and any utf8 cache */
15733             MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
15734             if (mg)
15735                 mg->mg_len = -1;
15736             if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
15737                 magic_setutf8(sv,mg); /* clear UTF8 cache */
15738         }
15739         SvUTF8_on(sv);
15740         return SvPVX(sv);
15741     }
15742     return SvPOKp(sv) ? SvPVX(sv) : NULL;
15743 }
15744
15745 /*
15746 =for apidoc sv_cat_decode
15747
15748 C<encoding> is assumed to be an C<Encode> object, the PV of C<ssv> is
15749 assumed to be octets in that encoding and decoding the input starts
15750 from the position which S<C<(PV + *offset)>> pointed to.  C<dsv> will be
15751 concatenated with the decoded UTF-8 string from C<ssv>.  Decoding will terminate
15752 when the string C<tstr> appears in decoding output or the input ends on
15753 the PV of C<ssv>.  The value which C<offset> points will be modified
15754 to the last input position on C<ssv>.
15755
15756 Returns TRUE if the terminator was found, else returns FALSE.
15757
15758 =cut */
15759
15760 bool
15761 Perl_sv_cat_decode(pTHX_ SV *dsv, SV *encoding,
15762                    SV *ssv, int *offset, char *tstr, int tlen)
15763 {
15764     bool ret = FALSE;
15765
15766     PERL_ARGS_ASSERT_SV_CAT_DECODE;
15767
15768     if (SvPOK(ssv) && SvPOK(dsv) && SvROK(encoding)) {
15769         SV *offsv;
15770         dSP;
15771         ENTER;
15772         SAVETMPS;
15773         save_re_context();
15774         PUSHMARK(sp);
15775         EXTEND(SP, 6);
15776         PUSHs(encoding);
15777         PUSHs(dsv);
15778         PUSHs(ssv);
15779         offsv = newSViv(*offset);
15780         mPUSHs(offsv);
15781         mPUSHp(tstr, tlen);
15782         PUTBACK;
15783         call_method("cat_decode", G_SCALAR);
15784         SPAGAIN;
15785         ret = SvTRUE(TOPs);
15786         *offset = SvIV(offsv);
15787         PUTBACK;
15788         FREETMPS;
15789         LEAVE;
15790     }
15791     else
15792         Perl_croak(aTHX_ "Invalid argument to sv_cat_decode");
15793     return ret;
15794
15795 }
15796
15797 /* ---------------------------------------------------------------------
15798  *
15799  * support functions for report_uninit()
15800  */
15801
15802 /* the maxiumum size of array or hash where we will scan looking
15803  * for the undefined element that triggered the warning */
15804
15805 #define FUV_MAX_SEARCH_SIZE 1000
15806
15807 /* Look for an entry in the hash whose value has the same SV as val;
15808  * If so, return a mortal copy of the key. */
15809
15810 STATIC SV*
15811 S_find_hash_subscript(pTHX_ const HV *const hv, const SV *const val)
15812 {
15813     dVAR;
15814     HE **array;
15815     I32 i;
15816
15817     PERL_ARGS_ASSERT_FIND_HASH_SUBSCRIPT;
15818
15819     if (!hv || SvMAGICAL(hv) || !HvARRAY(hv) ||
15820                         (HvTOTALKEYS(hv) > FUV_MAX_SEARCH_SIZE))
15821         return NULL;
15822
15823     array = HvARRAY(hv);
15824
15825     for (i=HvMAX(hv); i>=0; i--) {
15826         HE *entry;
15827         for (entry = array[i]; entry; entry = HeNEXT(entry)) {
15828             if (HeVAL(entry) != val)
15829                 continue;
15830             if (    HeVAL(entry) == &PL_sv_undef ||
15831                     HeVAL(entry) == &PL_sv_placeholder)
15832                 continue;
15833             if (!HeKEY(entry))
15834                 return NULL;
15835             if (HeKLEN(entry) == HEf_SVKEY)
15836                 return sv_mortalcopy(HeKEY_sv(entry));
15837             return sv_2mortal(newSVhek(HeKEY_hek(entry)));
15838         }
15839     }
15840     return NULL;
15841 }
15842
15843 /* Look for an entry in the array whose value has the same SV as val;
15844  * If so, return the index, otherwise return -1. */
15845
15846 STATIC SSize_t
15847 S_find_array_subscript(pTHX_ const AV *const av, const SV *const val)
15848 {
15849     PERL_ARGS_ASSERT_FIND_ARRAY_SUBSCRIPT;
15850
15851     if (!av || SvMAGICAL(av) || !AvARRAY(av) ||
15852                         (AvFILLp(av) > FUV_MAX_SEARCH_SIZE))
15853         return -1;
15854
15855     if (val != &PL_sv_undef) {
15856         SV ** const svp = AvARRAY(av);
15857         SSize_t i;
15858
15859         for (i=AvFILLp(av); i>=0; i--)
15860             if (svp[i] == val)
15861                 return i;
15862     }
15863     return -1;
15864 }
15865
15866 /* varname(): return the name of a variable, optionally with a subscript.
15867  * If gv is non-zero, use the name of that global, along with gvtype (one
15868  * of "$", "@", "%"); otherwise use the name of the lexical at pad offset
15869  * targ.  Depending on the value of the subscript_type flag, return:
15870  */
15871
15872 #define FUV_SUBSCRIPT_NONE      1       /* "@foo"          */
15873 #define FUV_SUBSCRIPT_ARRAY     2       /* "$foo[aindex]"  */
15874 #define FUV_SUBSCRIPT_HASH      3       /* "$foo{keyname}" */
15875 #define FUV_SUBSCRIPT_WITHIN    4       /* "within @foo"   */
15876
15877 SV*
15878 Perl_varname(pTHX_ const GV *const gv, const char gvtype, PADOFFSET targ,
15879         const SV *const keyname, SSize_t aindex, int subscript_type)
15880 {
15881
15882     SV * const name = sv_newmortal();
15883     if (gv && isGV(gv)) {
15884         char buffer[2];
15885         buffer[0] = gvtype;
15886         buffer[1] = 0;
15887
15888         /* as gv_fullname4(), but add literal '^' for $^FOO names  */
15889
15890         gv_fullname4(name, gv, buffer, 0);
15891
15892         if ((unsigned int)SvPVX(name)[1] <= 26) {
15893             buffer[0] = '^';
15894             buffer[1] = SvPVX(name)[1] + 'A' - 1;
15895
15896             /* Swap the 1 unprintable control character for the 2 byte pretty
15897                version - ie substr($name, 1, 1) = $buffer; */
15898             sv_insert(name, 1, 1, buffer, 2);
15899         }
15900     }
15901     else {
15902         CV * const cv = gv ? ((CV *)gv) : find_runcv(NULL);
15903         PADNAME *sv;
15904
15905         assert(!cv || SvTYPE(cv) == SVt_PVCV || SvTYPE(cv) == SVt_PVFM);
15906
15907         if (!cv || !CvPADLIST(cv))
15908             return NULL;
15909         sv = padnamelist_fetch(PadlistNAMES(CvPADLIST(cv)), targ);
15910         sv_setpvn(name, PadnamePV(sv), PadnameLEN(sv));
15911         SvUTF8_on(name);
15912     }
15913
15914     if (subscript_type == FUV_SUBSCRIPT_HASH) {
15915         SV * const sv = newSV(0);
15916         STRLEN len;
15917         const char * const pv = SvPV_nomg_const((SV*)keyname, len);
15918
15919         *SvPVX(name) = '$';
15920         Perl_sv_catpvf(aTHX_ name, "{%s}",
15921             pv_pretty(sv, pv, len, 32, NULL, NULL,
15922                     PERL_PV_PRETTY_DUMP | PERL_PV_ESCAPE_UNI_DETECT ));
15923         SvREFCNT_dec_NN(sv);
15924     }
15925     else if (subscript_type == FUV_SUBSCRIPT_ARRAY) {
15926         *SvPVX(name) = '$';
15927         Perl_sv_catpvf(aTHX_ name, "[%" IVdf "]", (IV)aindex);
15928     }
15929     else if (subscript_type == FUV_SUBSCRIPT_WITHIN) {
15930         /* We know that name has no magic, so can use 0 instead of SV_GMAGIC */
15931         Perl_sv_insert_flags(aTHX_ name, 0, 0,  STR_WITH_LEN("within "), 0);
15932     }
15933
15934     return name;
15935 }
15936
15937
15938 /*
15939 =for apidoc find_uninit_var
15940
15941 Find the name of the undefined variable (if any) that caused the operator
15942 to issue a "Use of uninitialized value" warning.
15943 If match is true, only return a name if its value matches C<uninit_sv>.
15944 So roughly speaking, if a unary operator (such as C<OP_COS>) generates a
15945 warning, then following the direct child of the op may yield an
15946 C<OP_PADSV> or C<OP_GV> that gives the name of the undefined variable.  On the
15947 other hand, with C<OP_ADD> there are two branches to follow, so we only print
15948 the variable name if we get an exact match.
15949 C<desc_p> points to a string pointer holding the description of the op.
15950 This may be updated if needed.
15951
15952 The name is returned as a mortal SV.
15953
15954 Assumes that C<PL_op> is the OP that originally triggered the error, and that
15955 C<PL_comppad>/C<PL_curpad> points to the currently executing pad.
15956
15957 =cut
15958 */
15959
15960 STATIC SV *
15961 S_find_uninit_var(pTHX_ const OP *const obase, const SV *const uninit_sv,
15962                   bool match, const char **desc_p)
15963 {
15964     dVAR;
15965     SV *sv;
15966     const GV *gv;
15967     const OP *o, *o2, *kid;
15968
15969     PERL_ARGS_ASSERT_FIND_UNINIT_VAR;
15970
15971     if (!obase || (match && (!uninit_sv || uninit_sv == &PL_sv_undef ||
15972                             uninit_sv == &PL_sv_placeholder)))
15973         return NULL;
15974
15975     switch (obase->op_type) {
15976
15977     case OP_UNDEF:
15978         /* undef should care if its args are undef - any warnings
15979          * will be from tied/magic vars */
15980         break;
15981
15982     case OP_RV2AV:
15983     case OP_RV2HV:
15984     case OP_PADAV:
15985     case OP_PADHV:
15986       {
15987         const bool pad  = (    obase->op_type == OP_PADAV
15988                             || obase->op_type == OP_PADHV
15989                             || obase->op_type == OP_PADRANGE
15990                           );
15991
15992         const bool hash = (    obase->op_type == OP_PADHV
15993                             || obase->op_type == OP_RV2HV
15994                             || (obase->op_type == OP_PADRANGE
15995                                 && SvTYPE(PAD_SVl(obase->op_targ)) == SVt_PVHV)
15996                           );
15997         SSize_t index = 0;
15998         SV *keysv = NULL;
15999         int subscript_type = FUV_SUBSCRIPT_WITHIN;
16000
16001         if (pad) { /* @lex, %lex */
16002             sv = PAD_SVl(obase->op_targ);
16003             gv = NULL;
16004         }
16005         else {
16006             if (cUNOPx(obase)->op_first->op_type == OP_GV) {
16007             /* @global, %global */
16008                 gv = cGVOPx_gv(cUNOPx(obase)->op_first);
16009                 if (!gv)
16010                     break;
16011                 sv = hash ? MUTABLE_SV(GvHV(gv)): MUTABLE_SV(GvAV(gv));
16012             }
16013             else if (obase == PL_op) /* @{expr}, %{expr} */
16014                 return find_uninit_var(cUNOPx(obase)->op_first,
16015                                                 uninit_sv, match, desc_p);
16016             else /* @{expr}, %{expr} as a sub-expression */
16017                 return NULL;
16018         }
16019
16020         /* attempt to find a match within the aggregate */
16021         if (hash) {
16022             keysv = find_hash_subscript((const HV*)sv, uninit_sv);
16023             if (keysv)
16024                 subscript_type = FUV_SUBSCRIPT_HASH;
16025         }
16026         else {
16027             index = find_array_subscript((const AV *)sv, uninit_sv);
16028             if (index >= 0)
16029                 subscript_type = FUV_SUBSCRIPT_ARRAY;
16030         }
16031
16032         if (match && subscript_type == FUV_SUBSCRIPT_WITHIN)
16033             break;
16034
16035         return varname(gv, (char)(hash ? '%' : '@'), obase->op_targ,
16036                                     keysv, index, subscript_type);
16037       }
16038
16039     case OP_RV2SV:
16040         if (cUNOPx(obase)->op_first->op_type == OP_GV) {
16041             /* $global */
16042             gv = cGVOPx_gv(cUNOPx(obase)->op_first);
16043             if (!gv || !GvSTASH(gv))
16044                 break;
16045             if (match && (GvSV(gv) != uninit_sv))
16046                 break;
16047             return varname(gv, '$', 0, NULL, 0, FUV_SUBSCRIPT_NONE);
16048         }
16049         /* ${expr} */
16050         return find_uninit_var(cUNOPx(obase)->op_first, uninit_sv, 1, desc_p);
16051
16052     case OP_PADSV:
16053         if (match && PAD_SVl(obase->op_targ) != uninit_sv)
16054             break;
16055         return varname(NULL, '$', obase->op_targ,
16056                                     NULL, 0, FUV_SUBSCRIPT_NONE);
16057
16058     case OP_GVSV:
16059         gv = cGVOPx_gv(obase);
16060         if (!gv || (match && GvSV(gv) != uninit_sv) || !GvSTASH(gv))
16061             break;
16062         return varname(gv, '$', 0, NULL, 0, FUV_SUBSCRIPT_NONE);
16063
16064     case OP_AELEMFAST_LEX:
16065         if (match) {
16066             SV **svp;
16067             AV *av = MUTABLE_AV(PAD_SV(obase->op_targ));
16068             if (!av || SvRMAGICAL(av))
16069                 break;
16070             svp = av_fetch(av, (I8)obase->op_private, FALSE);
16071             if (!svp || *svp != uninit_sv)
16072                 break;
16073         }
16074         return varname(NULL, '$', obase->op_targ,
16075                        NULL, (I8)obase->op_private, FUV_SUBSCRIPT_ARRAY);
16076     case OP_AELEMFAST:
16077         {
16078             gv = cGVOPx_gv(obase);
16079             if (!gv)
16080                 break;
16081             if (match) {
16082                 SV **svp;
16083                 AV *const av = GvAV(gv);
16084                 if (!av || SvRMAGICAL(av))
16085                     break;
16086                 svp = av_fetch(av, (I8)obase->op_private, FALSE);
16087                 if (!svp || *svp != uninit_sv)
16088                     break;
16089             }
16090             return varname(gv, '$', 0,
16091                     NULL, (I8)obase->op_private, FUV_SUBSCRIPT_ARRAY);
16092         }
16093         NOT_REACHED; /* NOTREACHED */
16094
16095     case OP_EXISTS:
16096         o = cUNOPx(obase)->op_first;
16097         if (!o || o->op_type != OP_NULL ||
16098                 ! (o->op_targ == OP_AELEM || o->op_targ == OP_HELEM))
16099             break;
16100         return find_uninit_var(cBINOPo->op_last, uninit_sv, match, desc_p);
16101
16102     case OP_AELEM:
16103     case OP_HELEM:
16104     {
16105         bool negate = FALSE;
16106
16107         if (PL_op == obase)
16108             /* $a[uninit_expr] or $h{uninit_expr} */
16109             return find_uninit_var(cBINOPx(obase)->op_last,
16110                                                 uninit_sv, match, desc_p);
16111
16112         gv = NULL;
16113         o = cBINOPx(obase)->op_first;
16114         kid = cBINOPx(obase)->op_last;
16115
16116         /* get the av or hv, and optionally the gv */
16117         sv = NULL;
16118         if  (o->op_type == OP_PADAV || o->op_type == OP_PADHV) {
16119             sv = PAD_SV(o->op_targ);
16120         }
16121         else if ((o->op_type == OP_RV2AV || o->op_type == OP_RV2HV)
16122                 && cUNOPo->op_first->op_type == OP_GV)
16123         {
16124             gv = cGVOPx_gv(cUNOPo->op_first);
16125             if (!gv)
16126                 break;
16127             sv = o->op_type
16128                 == OP_RV2HV ? MUTABLE_SV(GvHV(gv)) : MUTABLE_SV(GvAV(gv));
16129         }
16130         if (!sv)
16131             break;
16132
16133         if (kid && kid->op_type == OP_NEGATE) {
16134             negate = TRUE;
16135             kid = cUNOPx(kid)->op_first;
16136         }
16137
16138         if (kid && kid->op_type == OP_CONST && SvOK(cSVOPx_sv(kid))) {
16139             /* index is constant */
16140             SV* kidsv;
16141             if (negate) {
16142                 kidsv = newSVpvs_flags("-", SVs_TEMP);
16143                 sv_catsv(kidsv, cSVOPx_sv(kid));
16144             }
16145             else
16146                 kidsv = cSVOPx_sv(kid);
16147             if (match) {
16148                 if (SvMAGICAL(sv))
16149                     break;
16150                 if (obase->op_type == OP_HELEM) {
16151                     HE* he = hv_fetch_ent(MUTABLE_HV(sv), kidsv, 0, 0);
16152                     if (!he || HeVAL(he) != uninit_sv)
16153                         break;
16154                 }
16155                 else {
16156                     SV * const  opsv = cSVOPx_sv(kid);
16157                     const IV  opsviv = SvIV(opsv);
16158                     SV * const * const svp = av_fetch(MUTABLE_AV(sv),
16159                         negate ? - opsviv : opsviv,
16160                         FALSE);
16161                     if (!svp || *svp != uninit_sv)
16162                         break;
16163                 }
16164             }
16165             if (obase->op_type == OP_HELEM)
16166                 return varname(gv, '%', o->op_targ,
16167                             kidsv, 0, FUV_SUBSCRIPT_HASH);
16168             else
16169                 return varname(gv, '@', o->op_targ, NULL,
16170                     negate ? - SvIV(cSVOPx_sv(kid)) : SvIV(cSVOPx_sv(kid)),
16171                     FUV_SUBSCRIPT_ARRAY);
16172         }
16173         else  {
16174             /* index is an expression;
16175              * attempt to find a match within the aggregate */
16176             if (obase->op_type == OP_HELEM) {
16177                 SV * const keysv = find_hash_subscript((const HV*)sv, uninit_sv);
16178                 if (keysv)
16179                     return varname(gv, '%', o->op_targ,
16180                                                 keysv, 0, FUV_SUBSCRIPT_HASH);
16181             }
16182             else {
16183                 const SSize_t index
16184                     = find_array_subscript((const AV *)sv, uninit_sv);
16185                 if (index >= 0)
16186                     return varname(gv, '@', o->op_targ,
16187                                         NULL, index, FUV_SUBSCRIPT_ARRAY);
16188             }
16189             if (match)
16190                 break;
16191             return varname(gv,
16192                 (char)((o->op_type == OP_PADAV || o->op_type == OP_RV2AV)
16193                 ? '@' : '%'),
16194                 o->op_targ, NULL, 0, FUV_SUBSCRIPT_WITHIN);
16195         }
16196         NOT_REACHED; /* NOTREACHED */
16197     }
16198
16199     case OP_MULTIDEREF: {
16200         /* If we were executing OP_MULTIDEREF when the undef warning
16201          * triggered, then it must be one of the index values within
16202          * that triggered it. If not, then the only possibility is that
16203          * the value retrieved by the last aggregate index might be the
16204          * culprit. For the former, we set PL_multideref_pc each time before
16205          * using an index, so work though the item list until we reach
16206          * that point. For the latter, just work through the entire item
16207          * list; the last aggregate retrieved will be the candidate.
16208          * There is a third rare possibility: something triggered
16209          * magic while fetching an array/hash element. Just display
16210          * nothing in this case.
16211          */
16212
16213         /* the named aggregate, if any */
16214         PADOFFSET agg_targ = 0;
16215         GV       *agg_gv   = NULL;
16216         /* the last-seen index */
16217         UV        index_type;
16218         PADOFFSET index_targ;
16219         GV       *index_gv;
16220         IV        index_const_iv = 0; /* init for spurious compiler warn */
16221         SV       *index_const_sv;
16222         int       depth = 0;  /* how many array/hash lookups we've done */
16223
16224         UNOP_AUX_item *items = cUNOP_AUXx(obase)->op_aux;
16225         UNOP_AUX_item *last = NULL;
16226         UV actions = items->uv;
16227         bool is_hv;
16228
16229         if (PL_op == obase) {
16230             last = PL_multideref_pc;
16231             assert(last >= items && last <= items + items[-1].uv);
16232         }
16233
16234         assert(actions);
16235
16236         while (1) {
16237             is_hv = FALSE;
16238             switch (actions & MDEREF_ACTION_MASK) {
16239
16240             case MDEREF_reload:
16241                 actions = (++items)->uv;
16242                 continue;
16243
16244             case MDEREF_HV_padhv_helem:               /* $lex{...} */
16245                 is_hv = TRUE;
16246                 /* FALLTHROUGH */
16247             case MDEREF_AV_padav_aelem:               /* $lex[...] */
16248                 agg_targ = (++items)->pad_offset;
16249                 agg_gv = NULL;
16250                 break;
16251
16252             case MDEREF_HV_gvhv_helem:                /* $pkg{...} */
16253                 is_hv = TRUE;
16254                 /* FALLTHROUGH */
16255             case MDEREF_AV_gvav_aelem:                /* $pkg[...] */
16256                 agg_targ = 0;
16257                 agg_gv = (GV*)UNOP_AUX_item_sv(++items);
16258                 assert(isGV_with_GP(agg_gv));
16259                 break;
16260
16261             case MDEREF_HV_gvsv_vivify_rv2hv_helem:   /* $pkg->{...} */
16262             case MDEREF_HV_padsv_vivify_rv2hv_helem:  /* $lex->{...} */
16263                 ++items;
16264                 /* FALLTHROUGH */
16265             case MDEREF_HV_pop_rv2hv_helem:           /* expr->{...} */
16266             case MDEREF_HV_vivify_rv2hv_helem:        /* vivify, ->{...} */
16267                 agg_targ = 0;
16268                 agg_gv   = NULL;
16269                 is_hv    = TRUE;
16270                 break;
16271
16272             case MDEREF_AV_gvsv_vivify_rv2av_aelem:   /* $pkg->[...] */
16273             case MDEREF_AV_padsv_vivify_rv2av_aelem:  /* $lex->[...] */
16274                 ++items;
16275                 /* FALLTHROUGH */
16276             case MDEREF_AV_pop_rv2av_aelem:           /* expr->[...] */
16277             case MDEREF_AV_vivify_rv2av_aelem:        /* vivify, ->[...] */
16278                 agg_targ = 0;
16279                 agg_gv   = NULL;
16280             } /* switch */
16281
16282             index_targ     = 0;
16283             index_gv       = NULL;
16284             index_const_sv = NULL;
16285
16286             index_type = (actions & MDEREF_INDEX_MASK);
16287             switch (index_type) {
16288             case MDEREF_INDEX_none:
16289                 break;
16290             case MDEREF_INDEX_const:
16291                 if (is_hv)
16292                     index_const_sv = UNOP_AUX_item_sv(++items)
16293                 else
16294                     index_const_iv = (++items)->iv;
16295                 break;
16296             case MDEREF_INDEX_padsv:
16297                 index_targ = (++items)->pad_offset;
16298                 break;
16299             case MDEREF_INDEX_gvsv:
16300                 index_gv = (GV*)UNOP_AUX_item_sv(++items);
16301                 assert(isGV_with_GP(index_gv));
16302                 break;
16303             }
16304
16305             if (index_type != MDEREF_INDEX_none)
16306                 depth++;
16307
16308             if (   index_type == MDEREF_INDEX_none
16309                 || (actions & MDEREF_FLAG_last)
16310                 || (last && items >= last)
16311             )
16312                 break;
16313
16314             actions >>= MDEREF_SHIFT;
16315         } /* while */
16316
16317         if (PL_op == obase) {
16318             /* most likely index was undef */
16319
16320             *desc_p = (    (actions & MDEREF_FLAG_last)
16321                         && (obase->op_private
16322                                 & (OPpMULTIDEREF_EXISTS|OPpMULTIDEREF_DELETE)))
16323                         ?
16324                             (obase->op_private & OPpMULTIDEREF_EXISTS)
16325                                 ? "exists"
16326                                 : "delete"
16327                         : is_hv ? "hash element" : "array element";
16328             assert(index_type != MDEREF_INDEX_none);
16329             if (index_gv) {
16330                 if (GvSV(index_gv) == uninit_sv)
16331                     return varname(index_gv, '$', 0, NULL, 0,
16332                                                     FUV_SUBSCRIPT_NONE);
16333                 else
16334                     return NULL;
16335             }
16336             if (index_targ) {
16337                 if (PL_curpad[index_targ] == uninit_sv)
16338                     return varname(NULL, '$', index_targ,
16339                                     NULL, 0, FUV_SUBSCRIPT_NONE);
16340                 else
16341                     return NULL;
16342             }
16343             /* If we got to this point it was undef on a const subscript,
16344              * so magic probably involved, e.g. $ISA[0]. Give up. */
16345             return NULL;
16346         }
16347
16348         /* the SV returned by pp_multideref() was undef, if anything was */
16349
16350         if (depth != 1)
16351             break;
16352
16353         if (agg_targ)
16354             sv = PAD_SV(agg_targ);
16355         else if (agg_gv)
16356             sv = is_hv ? MUTABLE_SV(GvHV(agg_gv)) : MUTABLE_SV(GvAV(agg_gv));
16357         else
16358             break;
16359
16360         if (index_type == MDEREF_INDEX_const) {
16361             if (match) {
16362                 if (SvMAGICAL(sv))
16363                     break;
16364                 if (is_hv) {
16365                     HE* he = hv_fetch_ent(MUTABLE_HV(sv), index_const_sv, 0, 0);
16366                     if (!he || HeVAL(he) != uninit_sv)
16367                         break;
16368                 }
16369                 else {
16370                     SV * const * const svp =
16371                             av_fetch(MUTABLE_AV(sv), index_const_iv, FALSE);
16372                     if (!svp || *svp != uninit_sv)
16373                         break;
16374                 }
16375             }
16376             return is_hv
16377                 ? varname(agg_gv, '%', agg_targ,
16378                                 index_const_sv, 0,    FUV_SUBSCRIPT_HASH)
16379                 : varname(agg_gv, '@', agg_targ,
16380                                 NULL, index_const_iv, FUV_SUBSCRIPT_ARRAY);
16381         }
16382         else  {
16383             /* index is an var */
16384             if (is_hv) {
16385                 SV * const keysv = find_hash_subscript((const HV*)sv, uninit_sv);
16386                 if (keysv)
16387                     return varname(agg_gv, '%', agg_targ,
16388                                                 keysv, 0, FUV_SUBSCRIPT_HASH);
16389             }
16390             else {
16391                 const SSize_t index
16392                     = find_array_subscript((const AV *)sv, uninit_sv);
16393                 if (index >= 0)
16394                     return varname(agg_gv, '@', agg_targ,
16395                                         NULL, index, FUV_SUBSCRIPT_ARRAY);
16396             }
16397             if (match)
16398                 break;
16399             return varname(agg_gv,
16400                 is_hv ? '%' : '@',
16401                 agg_targ, NULL, 0, FUV_SUBSCRIPT_WITHIN);
16402         }
16403         NOT_REACHED; /* NOTREACHED */
16404     }
16405
16406     case OP_AASSIGN:
16407         /* only examine RHS */
16408         return find_uninit_var(cBINOPx(obase)->op_first, uninit_sv,
16409                                                                 match, desc_p);
16410
16411     case OP_OPEN:
16412         o = cUNOPx(obase)->op_first;
16413         if (   o->op_type == OP_PUSHMARK
16414            || (o->op_type == OP_NULL && o->op_targ == OP_PUSHMARK)
16415         )
16416             o = OpSIBLING(o);
16417
16418         if (!OpHAS_SIBLING(o)) {
16419             /* one-arg version of open is highly magical */
16420
16421             if (o->op_type == OP_GV) { /* open FOO; */
16422                 gv = cGVOPx_gv(o);
16423                 if (match && GvSV(gv) != uninit_sv)
16424                     break;
16425                 return varname(gv, '$', 0,
16426                             NULL, 0, FUV_SUBSCRIPT_NONE);
16427             }
16428             /* other possibilities not handled are:
16429              * open $x; or open my $x;  should return '${*$x}'
16430              * open expr;               should return '$'.expr ideally
16431              */
16432              break;
16433         }
16434         match = 1;
16435         goto do_op;
16436
16437     /* ops where $_ may be an implicit arg */
16438     case OP_TRANS:
16439     case OP_TRANSR:
16440     case OP_SUBST:
16441     case OP_MATCH:
16442         if ( !(obase->op_flags & OPf_STACKED)) {
16443             if (uninit_sv == DEFSV)
16444                 return newSVpvs_flags("$_", SVs_TEMP);
16445             else if (obase->op_targ
16446                   && uninit_sv == PAD_SVl(obase->op_targ))
16447                 return varname(NULL, '$', obase->op_targ, NULL, 0,
16448                                FUV_SUBSCRIPT_NONE);
16449         }
16450         goto do_op;
16451
16452     case OP_PRTF:
16453     case OP_PRINT:
16454     case OP_SAY:
16455         match = 1; /* print etc can return undef on defined args */
16456         /* skip filehandle as it can't produce 'undef' warning  */
16457         o = cUNOPx(obase)->op_first;
16458         if ((obase->op_flags & OPf_STACKED)
16459             &&
16460                (   o->op_type == OP_PUSHMARK
16461                || (o->op_type == OP_NULL && o->op_targ == OP_PUSHMARK)))
16462             o = OpSIBLING(OpSIBLING(o));
16463         goto do_op2;
16464
16465
16466     case OP_ENTEREVAL: /* could be eval $undef or $x='$undef'; eval $x */
16467     case OP_CUSTOM: /* XS or custom code could trigger random warnings */
16468
16469         /* the following ops are capable of returning PL_sv_undef even for
16470          * defined arg(s) */
16471
16472     case OP_BACKTICK:
16473     case OP_PIPE_OP:
16474     case OP_FILENO:
16475     case OP_BINMODE:
16476     case OP_TIED:
16477     case OP_GETC:
16478     case OP_SYSREAD:
16479     case OP_SEND:
16480     case OP_IOCTL:
16481     case OP_SOCKET:
16482     case OP_SOCKPAIR:
16483     case OP_BIND:
16484     case OP_CONNECT:
16485     case OP_LISTEN:
16486     case OP_ACCEPT:
16487     case OP_SHUTDOWN:
16488     case OP_SSOCKOPT:
16489     case OP_GETPEERNAME:
16490     case OP_FTRREAD:
16491     case OP_FTRWRITE:
16492     case OP_FTREXEC:
16493     case OP_FTROWNED:
16494     case OP_FTEREAD:
16495     case OP_FTEWRITE:
16496     case OP_FTEEXEC:
16497     case OP_FTEOWNED:
16498     case OP_FTIS:
16499     case OP_FTZERO:
16500     case OP_FTSIZE:
16501     case OP_FTFILE:
16502     case OP_FTDIR:
16503     case OP_FTLINK:
16504     case OP_FTPIPE:
16505     case OP_FTSOCK:
16506     case OP_FTBLK:
16507     case OP_FTCHR:
16508     case OP_FTTTY:
16509     case OP_FTSUID:
16510     case OP_FTSGID:
16511     case OP_FTSVTX:
16512     case OP_FTTEXT:
16513     case OP_FTBINARY:
16514     case OP_FTMTIME:
16515     case OP_FTATIME:
16516     case OP_FTCTIME:
16517     case OP_READLINK:
16518     case OP_OPEN_DIR:
16519     case OP_READDIR:
16520     case OP_TELLDIR:
16521     case OP_SEEKDIR:
16522     case OP_REWINDDIR:
16523     case OP_CLOSEDIR:
16524     case OP_GMTIME:
16525     case OP_ALARM:
16526     case OP_SEMGET:
16527     case OP_GETLOGIN:
16528     case OP_SUBSTR:
16529     case OP_AEACH:
16530     case OP_EACH:
16531     case OP_SORT:
16532     case OP_CALLER:
16533     case OP_DOFILE:
16534     case OP_PROTOTYPE:
16535     case OP_NCMP:
16536     case OP_SMARTMATCH:
16537     case OP_UNPACK:
16538     case OP_SYSOPEN:
16539     case OP_SYSSEEK:
16540         match = 1;
16541         goto do_op;
16542
16543     case OP_ENTERSUB:
16544     case OP_GOTO:
16545         /* XXX tmp hack: these two may call an XS sub, and currently
16546           XS subs don't have a SUB entry on the context stack, so CV and
16547           pad determination goes wrong, and BAD things happen. So, just
16548           don't try to determine the value under those circumstances.
16549           Need a better fix at dome point. DAPM 11/2007 */
16550         break;
16551
16552     case OP_FLIP:
16553     case OP_FLOP:
16554     {
16555         GV * const gv = gv_fetchpvs(".", GV_NOTQUAL, SVt_PV);
16556         if (gv && GvSV(gv) == uninit_sv)
16557             return newSVpvs_flags("$.", SVs_TEMP);
16558         goto do_op;
16559     }
16560
16561     case OP_POS:
16562         /* def-ness of rval pos() is independent of the def-ness of its arg */
16563         if ( !(obase->op_flags & OPf_MOD))
16564             break;
16565
16566     case OP_SCHOMP:
16567     case OP_CHOMP:
16568         if (SvROK(PL_rs) && uninit_sv == SvRV(PL_rs))
16569             return newSVpvs_flags("${$/}", SVs_TEMP);
16570         /* FALLTHROUGH */
16571
16572     default:
16573     do_op:
16574         if (!(obase->op_flags & OPf_KIDS))
16575             break;
16576         o = cUNOPx(obase)->op_first;
16577         
16578     do_op2:
16579         if (!o)
16580             break;
16581
16582         /* This loop checks all the kid ops, skipping any that cannot pos-
16583          * sibly be responsible for the uninitialized value; i.e., defined
16584          * constants and ops that return nothing.  If there is only one op
16585          * left that is not skipped, then we *know* it is responsible for
16586          * the uninitialized value.  If there is more than one op left, we
16587          * have to look for an exact match in the while() loop below.
16588          * Note that we skip padrange, because the individual pad ops that
16589          * it replaced are still in the tree, so we work on them instead.
16590          */
16591         o2 = NULL;
16592         for (kid=o; kid; kid = OpSIBLING(kid)) {
16593             const OPCODE type = kid->op_type;
16594             if ( (type == OP_CONST && SvOK(cSVOPx_sv(kid)))
16595               || (type == OP_NULL  && ! (kid->op_flags & OPf_KIDS))
16596               || (type == OP_PUSHMARK)
16597               || (type == OP_PADRANGE)
16598             )
16599             continue;
16600
16601             if (o2) { /* more than one found */
16602                 o2 = NULL;
16603                 break;
16604             }
16605             o2 = kid;
16606         }
16607         if (o2)
16608             return find_uninit_var(o2, uninit_sv, match, desc_p);
16609
16610         /* scan all args */
16611         while (o) {
16612             sv = find_uninit_var(o, uninit_sv, 1, desc_p);
16613             if (sv)
16614                 return sv;
16615             o = OpSIBLING(o);
16616         }
16617         break;
16618     }
16619     return NULL;
16620 }
16621
16622
16623 /*
16624 =for apidoc report_uninit
16625
16626 Print appropriate "Use of uninitialized variable" warning.
16627
16628 =cut
16629 */
16630
16631 void
16632 Perl_report_uninit(pTHX_ const SV *uninit_sv)
16633 {
16634     const char *desc = NULL;
16635     SV* varname = NULL;
16636
16637     if (PL_op) {
16638         desc = PL_op->op_type == OP_STRINGIFY && PL_op->op_folded
16639                 ? "join or string"
16640                 : OP_DESC(PL_op);
16641         if (uninit_sv && PL_curpad) {
16642             varname = find_uninit_var(PL_op, uninit_sv, 0, &desc);
16643             if (varname)
16644                 sv_insert(varname, 0, 0, " ", 1);
16645         }
16646     }
16647     else if (PL_curstackinfo->si_type == PERLSI_SORT && cxstack_ix == 0)
16648         /* we've reached the end of a sort block or sub,
16649          * and the uninit value is probably what that code returned */
16650         desc = "sort";
16651
16652     /* PL_warn_uninit_sv is constant */
16653     GCC_DIAG_IGNORE(-Wformat-nonliteral);
16654     if (desc)
16655         /* diag_listed_as: Use of uninitialized value%s */
16656         Perl_warner(aTHX_ packWARN(WARN_UNINITIALIZED), PL_warn_uninit_sv,
16657                 SVfARG(varname ? varname : &PL_sv_no),
16658                 " in ", desc);
16659     else
16660         Perl_warner(aTHX_ packWARN(WARN_UNINITIALIZED), PL_warn_uninit,
16661                 "", "", "");
16662     GCC_DIAG_RESTORE;
16663 }
16664
16665 /*
16666  * ex: set ts=8 sts=4 sw=4 et:
16667  */