This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
remove leak in tr/ascii/utf8/
[perl5.git] / sv.c
1 /*    sv.c
2  *
3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999, 2000,
4  *    2001, 2002, 2003, 2004, 2005, 2006, 2007, 2008, 2009 by Larry Wall
5  *    and others
6  *
7  *    You may distribute under the terms of either the GNU General Public
8  *    License or the Artistic License, as specified in the README file.
9  *
10  */
11
12 /*
13  * 'I wonder what the Entish is for "yes" and "no",' he thought.
14  *                                                      --Pippin
15  *
16  *     [p.480 of _The Lord of the Rings_, III/iv: "Treebeard"]
17  */
18
19 /*
20  *
21  *
22  * This file contains the code that creates, manipulates and destroys
23  * scalar values (SVs). The other types (AV, HV, GV, etc.) reuse the
24  * structure of an SV, so their creation and destruction is handled
25  * here; higher-level functions are in av.c, hv.c, and so on. Opcode
26  * level functions (eg. substr, split, join) for each of the types are
27  * in the pp*.c files.
28  */
29
30 #include "EXTERN.h"
31 #define PERL_IN_SV_C
32 #include "perl.h"
33 #include "regcomp.h"
34 #ifdef __VMS
35 # include <rms.h>
36 #endif
37
38 #ifdef __Lynx__
39 /* Missing proto on LynxOS */
40   char *gconvert(double, int, int,  char *);
41 #endif
42
43 #ifdef USE_QUADMATH
44 #  define SNPRINTF_G(nv, buffer, size, ndig) \
45     quadmath_snprintf(buffer, size, "%.*Qg", (int)ndig, (NV)(nv))
46 #else
47 #  define SNPRINTF_G(nv, buffer, size, ndig) \
48     PERL_UNUSED_RESULT(Gconvert((NV)(nv), (int)ndig, 0, buffer))
49 #endif
50
51 #ifndef SV_COW_THRESHOLD
52 #    define SV_COW_THRESHOLD                    0   /* COW iff len > K */
53 #endif
54 #ifndef SV_COWBUF_THRESHOLD
55 #    define SV_COWBUF_THRESHOLD                 1250 /* COW iff len > K */
56 #endif
57 #ifndef SV_COW_MAX_WASTE_THRESHOLD
58 #    define SV_COW_MAX_WASTE_THRESHOLD          80   /* COW iff (len - cur) < K */
59 #endif
60 #ifndef SV_COWBUF_WASTE_THRESHOLD
61 #    define SV_COWBUF_WASTE_THRESHOLD           80   /* COW iff (len - cur) < K */
62 #endif
63 #ifndef SV_COW_MAX_WASTE_FACTOR_THRESHOLD
64 #    define SV_COW_MAX_WASTE_FACTOR_THRESHOLD   2    /* COW iff len < (cur * K) */
65 #endif
66 #ifndef SV_COWBUF_WASTE_FACTOR_THRESHOLD
67 #    define SV_COWBUF_WASTE_FACTOR_THRESHOLD    2    /* COW iff len < (cur * K) */
68 #endif
69 /* Work around compiler warnings about unsigned >= THRESHOLD when thres-
70    hold is 0. */
71 #if SV_COW_THRESHOLD
72 # define GE_COW_THRESHOLD(cur) ((cur) >= SV_COW_THRESHOLD)
73 #else
74 # define GE_COW_THRESHOLD(cur) 1
75 #endif
76 #if SV_COWBUF_THRESHOLD
77 # define GE_COWBUF_THRESHOLD(cur) ((cur) >= SV_COWBUF_THRESHOLD)
78 #else
79 # define GE_COWBUF_THRESHOLD(cur) 1
80 #endif
81 #if SV_COW_MAX_WASTE_THRESHOLD
82 # define GE_COW_MAX_WASTE_THRESHOLD(cur,len) (((len)-(cur)) < SV_COW_MAX_WASTE_THRESHOLD)
83 #else
84 # define GE_COW_MAX_WASTE_THRESHOLD(cur,len) 1
85 #endif
86 #if SV_COWBUF_WASTE_THRESHOLD
87 # define GE_COWBUF_WASTE_THRESHOLD(cur,len) (((len)-(cur)) < SV_COWBUF_WASTE_THRESHOLD)
88 #else
89 # define GE_COWBUF_WASTE_THRESHOLD(cur,len) 1
90 #endif
91 #if SV_COW_MAX_WASTE_FACTOR_THRESHOLD
92 # define GE_COW_MAX_WASTE_FACTOR_THRESHOLD(cur,len) ((len) < SV_COW_MAX_WASTE_FACTOR_THRESHOLD * (cur))
93 #else
94 # define GE_COW_MAX_WASTE_FACTOR_THRESHOLD(cur,len) 1
95 #endif
96 #if SV_COWBUF_WASTE_FACTOR_THRESHOLD
97 # define GE_COWBUF_WASTE_FACTOR_THRESHOLD(cur,len) ((len) < SV_COWBUF_WASTE_FACTOR_THRESHOLD * (cur))
98 #else
99 # define GE_COWBUF_WASTE_FACTOR_THRESHOLD(cur,len) 1
100 #endif
101
102 #define CHECK_COW_THRESHOLD(cur,len) (\
103     GE_COW_THRESHOLD((cur)) && \
104     GE_COW_MAX_WASTE_THRESHOLD((cur),(len)) && \
105     GE_COW_MAX_WASTE_FACTOR_THRESHOLD((cur),(len)) \
106 )
107 #define CHECK_COWBUF_THRESHOLD(cur,len) (\
108     GE_COWBUF_THRESHOLD((cur)) && \
109     GE_COWBUF_WASTE_THRESHOLD((cur),(len)) && \
110     GE_COWBUF_WASTE_FACTOR_THRESHOLD((cur),(len)) \
111 )
112
113 #ifdef PERL_UTF8_CACHE_ASSERT
114 /* if adding more checks watch out for the following tests:
115  *   t/op/index.t t/op/length.t t/op/pat.t t/op/substr.t
116  *   lib/utf8.t lib/Unicode/Collate/t/index.t
117  * --jhi
118  */
119 #   define ASSERT_UTF8_CACHE(cache) \
120     STMT_START { if (cache) { assert((cache)[0] <= (cache)[1]); \
121                               assert((cache)[2] <= (cache)[3]); \
122                               assert((cache)[3] <= (cache)[1]);} \
123                               } STMT_END
124 #else
125 #   define ASSERT_UTF8_CACHE(cache) NOOP
126 #endif
127
128 static const char S_destroy[] = "DESTROY";
129 #define S_destroy_len (sizeof(S_destroy)-1)
130
131 /* ============================================================================
132
133 =head1 Allocation and deallocation of SVs.
134
135 An SV (or AV, HV, etc.) is allocated in two parts: the head (struct
136 sv, av, hv...) contains type and reference count information, and for
137 many types, a pointer to the body (struct xrv, xpv, xpviv...), which
138 contains fields specific to each type.  Some types store all they need
139 in the head, so don't have a body.
140
141 In all but the most memory-paranoid configurations (ex: PURIFY), heads
142 and bodies are allocated out of arenas, which by default are
143 approximately 4K chunks of memory parcelled up into N heads or bodies.
144 Sv-bodies are allocated by their sv-type, guaranteeing size
145 consistency needed to allocate safely from arrays.
146
147 For SV-heads, the first slot in each arena is reserved, and holds a
148 link to the next arena, some flags, and a note of the number of slots.
149 Snaked through each arena chain is a linked list of free items; when
150 this becomes empty, an extra arena is allocated and divided up into N
151 items which are threaded into the free list.
152
153 SV-bodies are similar, but they use arena-sets by default, which
154 separate the link and info from the arena itself, and reclaim the 1st
155 slot in the arena.  SV-bodies are further described later.
156
157 The following global variables are associated with arenas:
158
159  PL_sv_arenaroot     pointer to list of SV arenas
160  PL_sv_root          pointer to list of free SV structures
161
162  PL_body_arenas      head of linked-list of body arenas
163  PL_body_roots[]     array of pointers to list of free bodies of svtype
164                      arrays are indexed by the svtype needed
165
166 A few special SV heads are not allocated from an arena, but are
167 instead directly created in the interpreter structure, eg PL_sv_undef.
168 The size of arenas can be changed from the default by setting
169 PERL_ARENA_SIZE appropriately at compile time.
170
171 The SV arena serves the secondary purpose of allowing still-live SVs
172 to be located and destroyed during final cleanup.
173
174 At the lowest level, the macros new_SV() and del_SV() grab and free
175 an SV head.  (If debugging with -DD, del_SV() calls the function S_del_sv()
176 to return the SV to the free list with error checking.) new_SV() calls
177 more_sv() / sv_add_arena() to add an extra arena if the free list is empty.
178 SVs in the free list have their SvTYPE field set to all ones.
179
180 At the time of very final cleanup, sv_free_arenas() is called from
181 perl_destruct() to physically free all the arenas allocated since the
182 start of the interpreter.
183
184 The function visit() scans the SV arenas list, and calls a specified
185 function for each SV it finds which is still live - ie which has an SvTYPE
186 other than all 1's, and a non-zero SvREFCNT. visit() is used by the
187 following functions (specified as [function that calls visit()] / [function
188 called by visit() for each SV]):
189
190     sv_report_used() / do_report_used()
191                         dump all remaining SVs (debugging aid)
192
193     sv_clean_objs() / do_clean_objs(),do_clean_named_objs(),
194                       do_clean_named_io_objs(),do_curse()
195                         Attempt to free all objects pointed to by RVs,
196                         try to do the same for all objects indir-
197                         ectly referenced by typeglobs too, and
198                         then do a final sweep, cursing any
199                         objects that remain.  Called once from
200                         perl_destruct(), prior to calling sv_clean_all()
201                         below.
202
203     sv_clean_all() / do_clean_all()
204                         SvREFCNT_dec(sv) each remaining SV, possibly
205                         triggering an sv_free(). It also sets the
206                         SVf_BREAK flag on the SV to indicate that the
207                         refcnt has been artificially lowered, and thus
208                         stopping sv_free() from giving spurious warnings
209                         about SVs which unexpectedly have a refcnt
210                         of zero.  called repeatedly from perl_destruct()
211                         until there are no SVs left.
212
213 =head2 Arena allocator API Summary
214
215 Private API to rest of sv.c
216
217     new_SV(),  del_SV(),
218
219     new_XPVNV(), del_XPVGV(),
220     etc
221
222 Public API:
223
224     sv_report_used(), sv_clean_objs(), sv_clean_all(), sv_free_arenas()
225
226 =cut
227
228  * ========================================================================= */
229
230 /*
231  * "A time to plant, and a time to uproot what was planted..."
232  */
233
234 #ifdef PERL_MEM_LOG
235 #  define MEM_LOG_NEW_SV(sv, file, line, func)  \
236             Perl_mem_log_new_sv(sv, file, line, func)
237 #  define MEM_LOG_DEL_SV(sv, file, line, func)  \
238             Perl_mem_log_del_sv(sv, file, line, func)
239 #else
240 #  define MEM_LOG_NEW_SV(sv, file, line, func)  NOOP
241 #  define MEM_LOG_DEL_SV(sv, file, line, func)  NOOP
242 #endif
243
244 #ifdef DEBUG_LEAKING_SCALARS
245 #  define FREE_SV_DEBUG_FILE(sv) STMT_START { \
246         if ((sv)->sv_debug_file) PerlMemShared_free((sv)->sv_debug_file); \
247     } STMT_END
248 #  define DEBUG_SV_SERIAL(sv)                                               \
249     DEBUG_m(PerlIO_printf(Perl_debug_log, "0x%" UVxf ": (%05ld) del_SV\n",    \
250             PTR2UV(sv), (long)(sv)->sv_debug_serial))
251 #else
252 #  define FREE_SV_DEBUG_FILE(sv)
253 #  define DEBUG_SV_SERIAL(sv)   NOOP
254 #endif
255
256 #ifdef PERL_POISON
257 #  define SvARENA_CHAIN(sv)     ((sv)->sv_u.svu_rv)
258 #  define SvARENA_CHAIN_SET(sv,val)     (sv)->sv_u.svu_rv = MUTABLE_SV((val))
259 /* Whilst I'd love to do this, it seems that things like to check on
260    unreferenced scalars
261 #  define POISON_SV_HEAD(sv)    PoisonNew(sv, 1, struct STRUCT_SV)
262 */
263 #  define POISON_SV_HEAD(sv)    PoisonNew(&SvANY(sv), 1, void *), \
264                                 PoisonNew(&SvREFCNT(sv), 1, U32)
265 #else
266 #  define SvARENA_CHAIN(sv)     SvANY(sv)
267 #  define SvARENA_CHAIN_SET(sv,val)     SvANY(sv) = (void *)(val)
268 #  define POISON_SV_HEAD(sv)
269 #endif
270
271 /* Mark an SV head as unused, and add to free list.
272  *
273  * If SVf_BREAK is set, skip adding it to the free list, as this SV had
274  * its refcount artificially decremented during global destruction, so
275  * there may be dangling pointers to it. The last thing we want in that
276  * case is for it to be reused. */
277
278 #define plant_SV(p) \
279     STMT_START {                                        \
280         const U32 old_flags = SvFLAGS(p);                       \
281         MEM_LOG_DEL_SV(p, __FILE__, __LINE__, FUNCTION__);  \
282         DEBUG_SV_SERIAL(p);                             \
283         FREE_SV_DEBUG_FILE(p);                          \
284         POISON_SV_HEAD(p);                              \
285         SvFLAGS(p) = SVTYPEMASK;                        \
286         if (!(old_flags & SVf_BREAK)) {         \
287             SvARENA_CHAIN_SET(p, PL_sv_root);   \
288             PL_sv_root = (p);                           \
289         }                                               \
290         --PL_sv_count;                                  \
291     } STMT_END
292
293 #define uproot_SV(p) \
294     STMT_START {                                        \
295         (p) = PL_sv_root;                               \
296         PL_sv_root = MUTABLE_SV(SvARENA_CHAIN(p));              \
297         ++PL_sv_count;                                  \
298     } STMT_END
299
300
301 /* make some more SVs by adding another arena */
302
303 STATIC SV*
304 S_more_sv(pTHX)
305 {
306     SV* sv;
307     char *chunk;                /* must use New here to match call to */
308     Newx(chunk,PERL_ARENA_SIZE,char);  /* Safefree() in sv_free_arenas() */
309     sv_add_arena(chunk, PERL_ARENA_SIZE, 0);
310     uproot_SV(sv);
311     return sv;
312 }
313
314 /* new_SV(): return a new, empty SV head */
315
316 #ifdef DEBUG_LEAKING_SCALARS
317 /* provide a real function for a debugger to play with */
318 STATIC SV*
319 S_new_SV(pTHX_ const char *file, int line, const char *func)
320 {
321     SV* sv;
322
323     if (PL_sv_root)
324         uproot_SV(sv);
325     else
326         sv = S_more_sv(aTHX);
327     SvANY(sv) = 0;
328     SvREFCNT(sv) = 1;
329     SvFLAGS(sv) = 0;
330     sv->sv_debug_optype = PL_op ? PL_op->op_type : 0;
331     sv->sv_debug_line = (U16) (PL_parser && PL_parser->copline != NOLINE
332                 ? PL_parser->copline
333                 :  PL_curcop
334                     ? CopLINE(PL_curcop)
335                     : 0
336             );
337     sv->sv_debug_inpad = 0;
338     sv->sv_debug_parent = NULL;
339     sv->sv_debug_file = PL_curcop ? savesharedpv(CopFILE(PL_curcop)): NULL;
340
341     sv->sv_debug_serial = PL_sv_serial++;
342
343     MEM_LOG_NEW_SV(sv, file, line, func);
344     DEBUG_m(PerlIO_printf(Perl_debug_log, "0x%" UVxf ": (%05ld) new_SV (from %s:%d [%s])\n",
345             PTR2UV(sv), (long)sv->sv_debug_serial, file, line, func));
346
347     return sv;
348 }
349 #  define new_SV(p) (p)=S_new_SV(aTHX_ __FILE__, __LINE__, FUNCTION__)
350
351 #else
352 #  define new_SV(p) \
353     STMT_START {                                        \
354         if (PL_sv_root)                                 \
355             uproot_SV(p);                               \
356         else                                            \
357             (p) = S_more_sv(aTHX);                      \
358         SvANY(p) = 0;                                   \
359         SvREFCNT(p) = 1;                                \
360         SvFLAGS(p) = 0;                                 \
361         MEM_LOG_NEW_SV(p, __FILE__, __LINE__, FUNCTION__);  \
362     } STMT_END
363 #endif
364
365
366 /* del_SV(): return an empty SV head to the free list */
367
368 #ifdef DEBUGGING
369
370 #define del_SV(p) \
371     STMT_START {                                        \
372         if (DEBUG_D_TEST)                               \
373             del_sv(p);                                  \
374         else                                            \
375             plant_SV(p);                                \
376     } STMT_END
377
378 STATIC void
379 S_del_sv(pTHX_ SV *p)
380 {
381     PERL_ARGS_ASSERT_DEL_SV;
382
383     if (DEBUG_D_TEST) {
384         SV* sva;
385         bool ok = 0;
386         for (sva = PL_sv_arenaroot; sva; sva = MUTABLE_SV(SvANY(sva))) {
387             const SV * const sv = sva + 1;
388             const SV * const svend = &sva[SvREFCNT(sva)];
389             if (p >= sv && p < svend) {
390                 ok = 1;
391                 break;
392             }
393         }
394         if (!ok) {
395             Perl_ck_warner_d(aTHX_ packWARN(WARN_INTERNAL),
396                              "Attempt to free non-arena SV: 0x%" UVxf
397                              pTHX__FORMAT, PTR2UV(p) pTHX__VALUE);
398             return;
399         }
400     }
401     plant_SV(p);
402 }
403
404 #else /* ! DEBUGGING */
405
406 #define del_SV(p)   plant_SV(p)
407
408 #endif /* DEBUGGING */
409
410
411 /*
412 =head1 SV Manipulation Functions
413
414 =for apidoc sv_add_arena
415
416 Given a chunk of memory, link it to the head of the list of arenas,
417 and split it into a list of free SVs.
418
419 =cut
420 */
421
422 static void
423 S_sv_add_arena(pTHX_ char *const ptr, const U32 size, const U32 flags)
424 {
425     SV *const sva = MUTABLE_SV(ptr);
426     SV* sv;
427     SV* svend;
428
429     PERL_ARGS_ASSERT_SV_ADD_ARENA;
430
431     /* The first SV in an arena isn't an SV. */
432     SvANY(sva) = (void *) PL_sv_arenaroot;              /* ptr to next arena */
433     SvREFCNT(sva) = size / sizeof(SV);          /* number of SV slots */
434     SvFLAGS(sva) = flags;                       /* FAKE if not to be freed */
435
436     PL_sv_arenaroot = sva;
437     PL_sv_root = sva + 1;
438
439     svend = &sva[SvREFCNT(sva) - 1];
440     sv = sva + 1;
441     while (sv < svend) {
442         SvARENA_CHAIN_SET(sv, (sv + 1));
443 #ifdef DEBUGGING
444         SvREFCNT(sv) = 0;
445 #endif
446         /* Must always set typemask because it's always checked in on cleanup
447            when the arenas are walked looking for objects.  */
448         SvFLAGS(sv) = SVTYPEMASK;
449         sv++;
450     }
451     SvARENA_CHAIN_SET(sv, 0);
452 #ifdef DEBUGGING
453     SvREFCNT(sv) = 0;
454 #endif
455     SvFLAGS(sv) = SVTYPEMASK;
456 }
457
458 /* visit(): call the named function for each non-free SV in the arenas
459  * whose flags field matches the flags/mask args. */
460
461 STATIC I32
462 S_visit(pTHX_ SVFUNC_t f, const U32 flags, const U32 mask)
463 {
464     SV* sva;
465     I32 visited = 0;
466
467     PERL_ARGS_ASSERT_VISIT;
468
469     for (sva = PL_sv_arenaroot; sva; sva = MUTABLE_SV(SvANY(sva))) {
470         const SV * const svend = &sva[SvREFCNT(sva)];
471         SV* sv;
472         for (sv = sva + 1; sv < svend; ++sv) {
473             if (SvTYPE(sv) != (svtype)SVTYPEMASK
474                     && (sv->sv_flags & mask) == flags
475                     && SvREFCNT(sv))
476             {
477                 (*f)(aTHX_ sv);
478                 ++visited;
479             }
480         }
481     }
482     return visited;
483 }
484
485 #ifdef DEBUGGING
486
487 /* called by sv_report_used() for each live SV */
488
489 static void
490 do_report_used(pTHX_ SV *const sv)
491 {
492     if (SvTYPE(sv) != (svtype)SVTYPEMASK) {
493         PerlIO_printf(Perl_debug_log, "****\n");
494         sv_dump(sv);
495     }
496 }
497 #endif
498
499 /*
500 =for apidoc sv_report_used
501
502 Dump the contents of all SVs not yet freed (debugging aid).
503
504 =cut
505 */
506
507 void
508 Perl_sv_report_used(pTHX)
509 {
510 #ifdef DEBUGGING
511     visit(do_report_used, 0, 0);
512 #else
513     PERL_UNUSED_CONTEXT;
514 #endif
515 }
516
517 /* called by sv_clean_objs() for each live SV */
518
519 static void
520 do_clean_objs(pTHX_ SV *const ref)
521 {
522     assert (SvROK(ref));
523     {
524         SV * const target = SvRV(ref);
525         if (SvOBJECT(target)) {
526             DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning object ref:\n "), sv_dump(ref)));
527             if (SvWEAKREF(ref)) {
528                 sv_del_backref(target, ref);
529                 SvWEAKREF_off(ref);
530                 SvRV_set(ref, NULL);
531             } else {
532                 SvROK_off(ref);
533                 SvRV_set(ref, NULL);
534                 SvREFCNT_dec_NN(target);
535             }
536         }
537     }
538 }
539
540
541 /* clear any slots in a GV which hold objects - except IO;
542  * called by sv_clean_objs() for each live GV */
543
544 static void
545 do_clean_named_objs(pTHX_ SV *const sv)
546 {
547     SV *obj;
548     assert(SvTYPE(sv) == SVt_PVGV);
549     assert(isGV_with_GP(sv));
550     if (!GvGP(sv))
551         return;
552
553     /* freeing GP entries may indirectly free the current GV;
554      * hold onto it while we mess with the GP slots */
555     SvREFCNT_inc(sv);
556
557     if ( ((obj = GvSV(sv) )) && SvOBJECT(obj)) {
558         DEBUG_D((PerlIO_printf(Perl_debug_log,
559                 "Cleaning named glob SV object:\n "), sv_dump(obj)));
560         GvSV(sv) = NULL;
561         SvREFCNT_dec_NN(obj);
562     }
563     if ( ((obj = MUTABLE_SV(GvAV(sv)) )) && SvOBJECT(obj)) {
564         DEBUG_D((PerlIO_printf(Perl_debug_log,
565                 "Cleaning named glob AV object:\n "), sv_dump(obj)));
566         GvAV(sv) = NULL;
567         SvREFCNT_dec_NN(obj);
568     }
569     if ( ((obj = MUTABLE_SV(GvHV(sv)) )) && SvOBJECT(obj)) {
570         DEBUG_D((PerlIO_printf(Perl_debug_log,
571                 "Cleaning named glob HV object:\n "), sv_dump(obj)));
572         GvHV(sv) = NULL;
573         SvREFCNT_dec_NN(obj);
574     }
575     if ( ((obj = MUTABLE_SV(GvCV(sv)) )) && SvOBJECT(obj)) {
576         DEBUG_D((PerlIO_printf(Perl_debug_log,
577                 "Cleaning named glob CV object:\n "), sv_dump(obj)));
578         GvCV_set(sv, NULL);
579         SvREFCNT_dec_NN(obj);
580     }
581     SvREFCNT_dec_NN(sv); /* undo the inc above */
582 }
583
584 /* clear any IO slots in a GV which hold objects (except stderr, defout);
585  * called by sv_clean_objs() for each live GV */
586
587 static void
588 do_clean_named_io_objs(pTHX_ SV *const sv)
589 {
590     SV *obj;
591     assert(SvTYPE(sv) == SVt_PVGV);
592     assert(isGV_with_GP(sv));
593     if (!GvGP(sv) || sv == (SV*)PL_stderrgv || sv == (SV*)PL_defoutgv)
594         return;
595
596     SvREFCNT_inc(sv);
597     if ( ((obj = MUTABLE_SV(GvIO(sv)) )) && SvOBJECT(obj)) {
598         DEBUG_D((PerlIO_printf(Perl_debug_log,
599                 "Cleaning named glob IO object:\n "), sv_dump(obj)));
600         GvIOp(sv) = NULL;
601         SvREFCNT_dec_NN(obj);
602     }
603     SvREFCNT_dec_NN(sv); /* undo the inc above */
604 }
605
606 /* Void wrapper to pass to visit() */
607 static void
608 do_curse(pTHX_ SV * const sv) {
609     if ((PL_stderrgv && GvGP(PL_stderrgv) && (SV*)GvIO(PL_stderrgv) == sv)
610      || (PL_defoutgv && GvGP(PL_defoutgv) && (SV*)GvIO(PL_defoutgv) == sv))
611         return;
612     (void)curse(sv, 0);
613 }
614
615 /*
616 =for apidoc sv_clean_objs
617
618 Attempt to destroy all objects not yet freed.
619
620 =cut
621 */
622
623 void
624 Perl_sv_clean_objs(pTHX)
625 {
626     GV *olddef, *olderr;
627     PL_in_clean_objs = TRUE;
628     visit(do_clean_objs, SVf_ROK, SVf_ROK);
629     /* Some barnacles may yet remain, clinging to typeglobs.
630      * Run the non-IO destructors first: they may want to output
631      * error messages, close files etc */
632     visit(do_clean_named_objs, SVt_PVGV|SVpgv_GP, SVTYPEMASK|SVp_POK|SVpgv_GP);
633     visit(do_clean_named_io_objs, SVt_PVGV|SVpgv_GP, SVTYPEMASK|SVp_POK|SVpgv_GP);
634     /* And if there are some very tenacious barnacles clinging to arrays,
635        closures, or what have you.... */
636     visit(do_curse, SVs_OBJECT, SVs_OBJECT);
637     olddef = PL_defoutgv;
638     PL_defoutgv = NULL; /* disable skip of PL_defoutgv */
639     if (olddef && isGV_with_GP(olddef))
640         do_clean_named_io_objs(aTHX_ MUTABLE_SV(olddef));
641     olderr = PL_stderrgv;
642     PL_stderrgv = NULL; /* disable skip of PL_stderrgv */
643     if (olderr && isGV_with_GP(olderr))
644         do_clean_named_io_objs(aTHX_ MUTABLE_SV(olderr));
645     SvREFCNT_dec(olddef);
646     PL_in_clean_objs = FALSE;
647 }
648
649 /* called by sv_clean_all() for each live SV */
650
651 static void
652 do_clean_all(pTHX_ SV *const sv)
653 {
654     if (sv == (const SV *) PL_fdpid || sv == (const SV *)PL_strtab) {
655         /* don't clean pid table and strtab */
656         return;
657     }
658     DEBUG_D((PerlIO_printf(Perl_debug_log, "Cleaning loops: SV at 0x%" UVxf "\n", PTR2UV(sv)) ));
659     SvFLAGS(sv) |= SVf_BREAK;
660     SvREFCNT_dec_NN(sv);
661 }
662
663 /*
664 =for apidoc sv_clean_all
665
666 Decrement the refcnt of each remaining SV, possibly triggering a
667 cleanup.  This function may have to be called multiple times to free
668 SVs which are in complex self-referential hierarchies.
669
670 =cut
671 */
672
673 I32
674 Perl_sv_clean_all(pTHX)
675 {
676     I32 cleaned;
677     PL_in_clean_all = TRUE;
678     cleaned = visit(do_clean_all, 0,0);
679     return cleaned;
680 }
681
682 /*
683   ARENASETS: a meta-arena implementation which separates arena-info
684   into struct arena_set, which contains an array of struct
685   arena_descs, each holding info for a single arena.  By separating
686   the meta-info from the arena, we recover the 1st slot, formerly
687   borrowed for list management.  The arena_set is about the size of an
688   arena, avoiding the needless malloc overhead of a naive linked-list.
689
690   The cost is 1 arena-set malloc per ~320 arena-mallocs, + the unused
691   memory in the last arena-set (1/2 on average).  In trade, we get
692   back the 1st slot in each arena (ie 1.7% of a CV-arena, less for
693   smaller types).  The recovery of the wasted space allows use of
694   small arenas for large, rare body types, by changing array* fields
695   in body_details_by_type[] below.
696 */
697 struct arena_desc {
698     char       *arena;          /* the raw storage, allocated aligned */
699     size_t      size;           /* its size ~4k typ */
700     svtype      utype;          /* bodytype stored in arena */
701 };
702
703 struct arena_set;
704
705 /* Get the maximum number of elements in set[] such that struct arena_set
706    will fit within PERL_ARENA_SIZE, which is probably just under 4K, and
707    therefore likely to be 1 aligned memory page.  */
708
709 #define ARENAS_PER_SET  ((PERL_ARENA_SIZE - sizeof(struct arena_set*) \
710                           - 2 * sizeof(int)) / sizeof (struct arena_desc))
711
712 struct arena_set {
713     struct arena_set* next;
714     unsigned int   set_size;    /* ie ARENAS_PER_SET */
715     unsigned int   curr;        /* index of next available arena-desc */
716     struct arena_desc set[ARENAS_PER_SET];
717 };
718
719 /*
720 =for apidoc sv_free_arenas
721
722 Deallocate the memory used by all arenas.  Note that all the individual SV
723 heads and bodies within the arenas must already have been freed.
724
725 =cut
726
727 */
728 void
729 Perl_sv_free_arenas(pTHX)
730 {
731     SV* sva;
732     SV* svanext;
733     unsigned int i;
734
735     /* Free arenas here, but be careful about fake ones.  (We assume
736        contiguity of the fake ones with the corresponding real ones.) */
737
738     for (sva = PL_sv_arenaroot; sva; sva = svanext) {
739         svanext = MUTABLE_SV(SvANY(sva));
740         while (svanext && SvFAKE(svanext))
741             svanext = MUTABLE_SV(SvANY(svanext));
742
743         if (!SvFAKE(sva))
744             Safefree(sva);
745     }
746
747     {
748         struct arena_set *aroot = (struct arena_set*) PL_body_arenas;
749
750         while (aroot) {
751             struct arena_set *current = aroot;
752             i = aroot->curr;
753             while (i--) {
754                 assert(aroot->set[i].arena);
755                 Safefree(aroot->set[i].arena);
756             }
757             aroot = aroot->next;
758             Safefree(current);
759         }
760     }
761     PL_body_arenas = 0;
762
763     i = PERL_ARENA_ROOTS_SIZE;
764     while (i--)
765         PL_body_roots[i] = 0;
766
767     PL_sv_arenaroot = 0;
768     PL_sv_root = 0;
769 }
770
771 /*
772   Here are mid-level routines that manage the allocation of bodies out
773   of the various arenas.  There are 4 kinds of arenas:
774
775   1. SV-head arenas, which are discussed and handled above
776   2. regular body arenas
777   3. arenas for reduced-size bodies
778   4. Hash-Entry arenas
779
780   Arena types 2 & 3 are chained by body-type off an array of
781   arena-root pointers, which is indexed by svtype.  Some of the
782   larger/less used body types are malloced singly, since a large
783   unused block of them is wasteful.  Also, several svtypes dont have
784   bodies; the data fits into the sv-head itself.  The arena-root
785   pointer thus has a few unused root-pointers (which may be hijacked
786   later for arena type 4)
787
788   3 differs from 2 as an optimization; some body types have several
789   unused fields in the front of the structure (which are kept in-place
790   for consistency).  These bodies can be allocated in smaller chunks,
791   because the leading fields arent accessed.  Pointers to such bodies
792   are decremented to point at the unused 'ghost' memory, knowing that
793   the pointers are used with offsets to the real memory.
794
795 Allocation of SV-bodies is similar to SV-heads, differing as follows;
796 the allocation mechanism is used for many body types, so is somewhat
797 more complicated, it uses arena-sets, and has no need for still-live
798 SV detection.
799
800 At the outermost level, (new|del)_X*V macros return bodies of the
801 appropriate type.  These macros call either (new|del)_body_type or
802 (new|del)_body_allocated macro pairs, depending on specifics of the
803 type.  Most body types use the former pair, the latter pair is used to
804 allocate body types with "ghost fields".
805
806 "ghost fields" are fields that are unused in certain types, and
807 consequently don't need to actually exist.  They are declared because
808 they're part of a "base type", which allows use of functions as
809 methods.  The simplest examples are AVs and HVs, 2 aggregate types
810 which don't use the fields which support SCALAR semantics.
811
812 For these types, the arenas are carved up into appropriately sized
813 chunks, we thus avoid wasted memory for those unaccessed members.
814 When bodies are allocated, we adjust the pointer back in memory by the
815 size of the part not allocated, so it's as if we allocated the full
816 structure.  (But things will all go boom if you write to the part that
817 is "not there", because you'll be overwriting the last members of the
818 preceding structure in memory.)
819
820 We calculate the correction using the STRUCT_OFFSET macro on the first
821 member present.  If the allocated structure is smaller (no initial NV
822 actually allocated) then the net effect is to subtract the size of the NV
823 from the pointer, to return a new pointer as if an initial NV were actually
824 allocated.  (We were using structures named *_allocated for this, but
825 this turned out to be a subtle bug, because a structure without an NV
826 could have a lower alignment constraint, but the compiler is allowed to
827 optimised accesses based on the alignment constraint of the actual pointer
828 to the full structure, for example, using a single 64 bit load instruction
829 because it "knows" that two adjacent 32 bit members will be 8-byte aligned.)
830
831 This is the same trick as was used for NV and IV bodies.  Ironically it
832 doesn't need to be used for NV bodies any more, because NV is now at
833 the start of the structure.  IV bodies, and also in some builds NV bodies,
834 don't need it either, because they are no longer allocated.
835
836 In turn, the new_body_* allocators call S_new_body(), which invokes
837 new_body_inline macro, which takes a lock, and takes a body off the
838 linked list at PL_body_roots[sv_type], calling Perl_more_bodies() if
839 necessary to refresh an empty list.  Then the lock is released, and
840 the body is returned.
841
842 Perl_more_bodies allocates a new arena, and carves it up into an array of N
843 bodies, which it strings into a linked list.  It looks up arena-size
844 and body-size from the body_details table described below, thus
845 supporting the multiple body-types.
846
847 If PURIFY is defined, or PERL_ARENA_SIZE=0, arenas are not used, and
848 the (new|del)_X*V macros are mapped directly to malloc/free.
849
850 For each sv-type, struct body_details bodies_by_type[] carries
851 parameters which control these aspects of SV handling:
852
853 Arena_size determines whether arenas are used for this body type, and if
854 so, how big they are.  PURIFY or PERL_ARENA_SIZE=0 set this field to
855 zero, forcing individual mallocs and frees.
856
857 Body_size determines how big a body is, and therefore how many fit into
858 each arena.  Offset carries the body-pointer adjustment needed for
859 "ghost fields", and is used in *_allocated macros.
860
861 But its main purpose is to parameterize info needed in
862 Perl_sv_upgrade().  The info here dramatically simplifies the function
863 vs the implementation in 5.8.8, making it table-driven.  All fields
864 are used for this, except for arena_size.
865
866 For the sv-types that have no bodies, arenas are not used, so those
867 PL_body_roots[sv_type] are unused, and can be overloaded.  In
868 something of a special case, SVt_NULL is borrowed for HE arenas;
869 PL_body_roots[HE_SVSLOT=SVt_NULL] is filled by S_more_he, but the
870 bodies_by_type[SVt_NULL] slot is not used, as the table is not
871 available in hv.c.
872
873 */
874
875 struct body_details {
876     U8 body_size;       /* Size to allocate  */
877     U8 copy;            /* Size of structure to copy (may be shorter)  */
878     U8 offset;          /* Size of unalloced ghost fields to first alloced field*/
879     PERL_BITFIELD8 type : 4;        /* We have space for a sanity check. */
880     PERL_BITFIELD8 cant_upgrade : 1;/* Cannot upgrade this type */
881     PERL_BITFIELD8 zero_nv : 1;     /* zero the NV when upgrading from this */
882     PERL_BITFIELD8 arena : 1;       /* Allocated from an arena */
883     U32 arena_size;                 /* Size of arena to allocate */
884 };
885
886 #define HADNV FALSE
887 #define NONV TRUE
888
889
890 #ifdef PURIFY
891 /* With -DPURFIY we allocate everything directly, and don't use arenas.
892    This seems a rather elegant way to simplify some of the code below.  */
893 #define HASARENA FALSE
894 #else
895 #define HASARENA TRUE
896 #endif
897 #define NOARENA FALSE
898
899 /* Size the arenas to exactly fit a given number of bodies.  A count
900    of 0 fits the max number bodies into a PERL_ARENA_SIZE.block,
901    simplifying the default.  If count > 0, the arena is sized to fit
902    only that many bodies, allowing arenas to be used for large, rare
903    bodies (XPVFM, XPVIO) without undue waste.  The arena size is
904    limited by PERL_ARENA_SIZE, so we can safely oversize the
905    declarations.
906  */
907 #define FIT_ARENA0(body_size)                           \
908     ((size_t)(PERL_ARENA_SIZE / body_size) * body_size)
909 #define FIT_ARENAn(count,body_size)                     \
910     ( count * body_size <= PERL_ARENA_SIZE)             \
911     ? count * body_size                                 \
912     : FIT_ARENA0 (body_size)
913 #define FIT_ARENA(count,body_size)                      \
914    (U32)(count                                          \
915     ? FIT_ARENAn (count, body_size)                     \
916     : FIT_ARENA0 (body_size))
917
918 /* Calculate the length to copy. Specifically work out the length less any
919    final padding the compiler needed to add.  See the comment in sv_upgrade
920    for why copying the padding proved to be a bug.  */
921
922 #define copy_length(type, last_member) \
923         STRUCT_OFFSET(type, last_member) \
924         + sizeof (((type*)SvANY((const SV *)0))->last_member)
925
926 static const struct body_details bodies_by_type[] = {
927     /* HEs use this offset for their arena.  */
928     { 0, 0, 0, SVt_NULL, FALSE, NONV, NOARENA, 0 },
929
930     /* IVs are in the head, so the allocation size is 0.  */
931     { 0,
932       sizeof(IV), /* This is used to copy out the IV body.  */
933       STRUCT_OFFSET(XPVIV, xiv_iv), SVt_IV, FALSE, NONV,
934       NOARENA /* IVS don't need an arena  */, 0
935     },
936
937 #if NVSIZE <= IVSIZE
938     { 0, sizeof(NV),
939       STRUCT_OFFSET(XPVNV, xnv_u),
940       SVt_NV, FALSE, HADNV, NOARENA, 0 },
941 #else
942     { sizeof(NV), sizeof(NV),
943       STRUCT_OFFSET(XPVNV, xnv_u),
944       SVt_NV, FALSE, HADNV, HASARENA, FIT_ARENA(0, sizeof(NV)) },
945 #endif
946
947     { sizeof(XPV) - STRUCT_OFFSET(XPV, xpv_cur),
948       copy_length(XPV, xpv_len) - STRUCT_OFFSET(XPV, xpv_cur),
949       + STRUCT_OFFSET(XPV, xpv_cur),
950       SVt_PV, FALSE, NONV, HASARENA,
951       FIT_ARENA(0, sizeof(XPV) - STRUCT_OFFSET(XPV, xpv_cur)) },
952
953     { sizeof(XINVLIST) - STRUCT_OFFSET(XPV, xpv_cur),
954       copy_length(XINVLIST, is_offset) - STRUCT_OFFSET(XPV, xpv_cur),
955       + STRUCT_OFFSET(XPV, xpv_cur),
956       SVt_INVLIST, TRUE, NONV, HASARENA,
957       FIT_ARENA(0, sizeof(XINVLIST) - STRUCT_OFFSET(XPV, xpv_cur)) },
958
959     { sizeof(XPVIV) - STRUCT_OFFSET(XPV, xpv_cur),
960       copy_length(XPVIV, xiv_u) - STRUCT_OFFSET(XPV, xpv_cur),
961       + STRUCT_OFFSET(XPV, xpv_cur),
962       SVt_PVIV, FALSE, NONV, HASARENA,
963       FIT_ARENA(0, sizeof(XPVIV) - STRUCT_OFFSET(XPV, xpv_cur)) },
964
965     { sizeof(XPVNV) - STRUCT_OFFSET(XPV, xpv_cur),
966       copy_length(XPVNV, xnv_u) - STRUCT_OFFSET(XPV, xpv_cur),
967       + STRUCT_OFFSET(XPV, xpv_cur),
968       SVt_PVNV, FALSE, HADNV, HASARENA,
969       FIT_ARENA(0, sizeof(XPVNV) - STRUCT_OFFSET(XPV, xpv_cur)) },
970
971     { sizeof(XPVMG), copy_length(XPVMG, xnv_u), 0, SVt_PVMG, FALSE, HADNV,
972       HASARENA, FIT_ARENA(0, sizeof(XPVMG)) },
973
974     { sizeof(regexp),
975       sizeof(regexp),
976       0,
977       SVt_REGEXP, TRUE, NONV, HASARENA,
978       FIT_ARENA(0, sizeof(regexp))
979     },
980
981     { sizeof(XPVGV), sizeof(XPVGV), 0, SVt_PVGV, TRUE, HADNV,
982       HASARENA, FIT_ARENA(0, sizeof(XPVGV)) },
983     
984     { sizeof(XPVLV), sizeof(XPVLV), 0, SVt_PVLV, TRUE, HADNV,
985       HASARENA, FIT_ARENA(0, sizeof(XPVLV)) },
986
987     { sizeof(XPVAV),
988       copy_length(XPVAV, xav_alloc),
989       0,
990       SVt_PVAV, TRUE, NONV, HASARENA,
991       FIT_ARENA(0, sizeof(XPVAV)) },
992
993     { sizeof(XPVHV),
994       copy_length(XPVHV, xhv_max),
995       0,
996       SVt_PVHV, TRUE, NONV, HASARENA,
997       FIT_ARENA(0, sizeof(XPVHV)) },
998
999     { sizeof(XPVCV),
1000       sizeof(XPVCV),
1001       0,
1002       SVt_PVCV, TRUE, NONV, HASARENA,
1003       FIT_ARENA(0, sizeof(XPVCV)) },
1004
1005     { sizeof(XPVFM),
1006       sizeof(XPVFM),
1007       0,
1008       SVt_PVFM, TRUE, NONV, NOARENA,
1009       FIT_ARENA(20, sizeof(XPVFM)) },
1010
1011     { sizeof(XPVIO),
1012       sizeof(XPVIO),
1013       0,
1014       SVt_PVIO, TRUE, NONV, HASARENA,
1015       FIT_ARENA(24, sizeof(XPVIO)) },
1016 };
1017
1018 #define new_body_allocated(sv_type)             \
1019     (void *)((char *)S_new_body(aTHX_ sv_type)  \
1020              - bodies_by_type[sv_type].offset)
1021
1022 /* return a thing to the free list */
1023
1024 #define del_body(thing, root)                           \
1025     STMT_START {                                        \
1026         void ** const thing_copy = (void **)thing;      \
1027         *thing_copy = *root;                            \
1028         *root = (void*)thing_copy;                      \
1029     } STMT_END
1030
1031 #ifdef PURIFY
1032 #if !(NVSIZE <= IVSIZE)
1033 #  define new_XNV()     safemalloc(sizeof(XPVNV))
1034 #endif
1035 #define new_XPVNV()     safemalloc(sizeof(XPVNV))
1036 #define new_XPVMG()     safemalloc(sizeof(XPVMG))
1037
1038 #define del_XPVGV(p)    safefree(p)
1039
1040 #else /* !PURIFY */
1041
1042 #if !(NVSIZE <= IVSIZE)
1043 #  define new_XNV()     new_body_allocated(SVt_NV)
1044 #endif
1045 #define new_XPVNV()     new_body_allocated(SVt_PVNV)
1046 #define new_XPVMG()     new_body_allocated(SVt_PVMG)
1047
1048 #define del_XPVGV(p)    del_body(p + bodies_by_type[SVt_PVGV].offset,   \
1049                                  &PL_body_roots[SVt_PVGV])
1050
1051 #endif /* PURIFY */
1052
1053 /* no arena for you! */
1054
1055 #define new_NOARENA(details) \
1056         safemalloc((details)->body_size + (details)->offset)
1057 #define new_NOARENAZ(details) \
1058         safecalloc((details)->body_size + (details)->offset, 1)
1059
1060 void *
1061 Perl_more_bodies (pTHX_ const svtype sv_type, const size_t body_size,
1062                   const size_t arena_size)
1063 {
1064     void ** const root = &PL_body_roots[sv_type];
1065     struct arena_desc *adesc;
1066     struct arena_set *aroot = (struct arena_set *) PL_body_arenas;
1067     unsigned int curr;
1068     char *start;
1069     const char *end;
1070     const size_t good_arena_size = Perl_malloc_good_size(arena_size);
1071 #if defined(DEBUGGING) && defined(PERL_GLOBAL_STRUCT)
1072     dVAR;
1073 #endif
1074 #if defined(DEBUGGING) && !defined(PERL_GLOBAL_STRUCT)
1075     static bool done_sanity_check;
1076
1077     /* PERL_GLOBAL_STRUCT cannot coexist with global
1078      * variables like done_sanity_check. */
1079     if (!done_sanity_check) {
1080         unsigned int i = SVt_LAST;
1081
1082         done_sanity_check = TRUE;
1083
1084         while (i--)
1085             assert (bodies_by_type[i].type == i);
1086     }
1087 #endif
1088
1089     assert(arena_size);
1090
1091     /* may need new arena-set to hold new arena */
1092     if (!aroot || aroot->curr >= aroot->set_size) {
1093         struct arena_set *newroot;
1094         Newxz(newroot, 1, struct arena_set);
1095         newroot->set_size = ARENAS_PER_SET;
1096         newroot->next = aroot;
1097         aroot = newroot;
1098         PL_body_arenas = (void *) newroot;
1099         DEBUG_m(PerlIO_printf(Perl_debug_log, "new arenaset %p\n", (void*)aroot));
1100     }
1101
1102     /* ok, now have arena-set with at least 1 empty/available arena-desc */
1103     curr = aroot->curr++;
1104     adesc = &(aroot->set[curr]);
1105     assert(!adesc->arena);
1106     
1107     Newx(adesc->arena, good_arena_size, char);
1108     adesc->size = good_arena_size;
1109     adesc->utype = sv_type;
1110     DEBUG_m(PerlIO_printf(Perl_debug_log, "arena %d added: %p size %" UVuf "\n",
1111                           curr, (void*)adesc->arena, (UV)good_arena_size));
1112
1113     start = (char *) adesc->arena;
1114
1115     /* Get the address of the byte after the end of the last body we can fit.
1116        Remember, this is integer division:  */
1117     end = start + good_arena_size / body_size * body_size;
1118
1119     /* computed count doesn't reflect the 1st slot reservation */
1120 #if defined(MYMALLOC) || defined(HAS_MALLOC_GOOD_SIZE)
1121     DEBUG_m(PerlIO_printf(Perl_debug_log,
1122                           "arena %p end %p arena-size %d (from %d) type %d "
1123                           "size %d ct %d\n",
1124                           (void*)start, (void*)end, (int)good_arena_size,
1125                           (int)arena_size, sv_type, (int)body_size,
1126                           (int)good_arena_size / (int)body_size));
1127 #else
1128     DEBUG_m(PerlIO_printf(Perl_debug_log,
1129                           "arena %p end %p arena-size %d type %d size %d ct %d\n",
1130                           (void*)start, (void*)end,
1131                           (int)arena_size, sv_type, (int)body_size,
1132                           (int)good_arena_size / (int)body_size));
1133 #endif
1134     *root = (void *)start;
1135
1136     while (1) {
1137         /* Where the next body would start:  */
1138         char * const next = start + body_size;
1139
1140         if (next >= end) {
1141             /* This is the last body:  */
1142             assert(next == end);
1143
1144             *(void **)start = 0;
1145             return *root;
1146         }
1147
1148         *(void**) start = (void *)next;
1149         start = next;
1150     }
1151 }
1152
1153 /* grab a new thing from the free list, allocating more if necessary.
1154    The inline version is used for speed in hot routines, and the
1155    function using it serves the rest (unless PURIFY).
1156 */
1157 #define new_body_inline(xpv, sv_type) \
1158     STMT_START { \
1159         void ** const r3wt = &PL_body_roots[sv_type]; \
1160         xpv = (PTR_TBL_ENT_t*) (*((void **)(r3wt))      \
1161           ? *((void **)(r3wt)) : Perl_more_bodies(aTHX_ sv_type, \
1162                                              bodies_by_type[sv_type].body_size,\
1163                                              bodies_by_type[sv_type].arena_size)); \
1164         *(r3wt) = *(void**)(xpv); \
1165     } STMT_END
1166
1167 #ifndef PURIFY
1168
1169 STATIC void *
1170 S_new_body(pTHX_ const svtype sv_type)
1171 {
1172     void *xpv;
1173     new_body_inline(xpv, sv_type);
1174     return xpv;
1175 }
1176
1177 #endif
1178
1179 static const struct body_details fake_rv =
1180     { 0, 0, 0, SVt_IV, FALSE, NONV, NOARENA, 0 };
1181
1182 /*
1183 =for apidoc sv_upgrade
1184
1185 Upgrade an SV to a more complex form.  Generally adds a new body type to the
1186 SV, then copies across as much information as possible from the old body.
1187 It croaks if the SV is already in a more complex form than requested.  You
1188 generally want to use the C<SvUPGRADE> macro wrapper, which checks the type
1189 before calling C<sv_upgrade>, and hence does not croak.  See also
1190 C<L</svtype>>.
1191
1192 =cut
1193 */
1194
1195 void
1196 Perl_sv_upgrade(pTHX_ SV *const sv, svtype new_type)
1197 {
1198     void*       old_body;
1199     void*       new_body;
1200     const svtype old_type = SvTYPE(sv);
1201     const struct body_details *new_type_details;
1202     const struct body_details *old_type_details
1203         = bodies_by_type + old_type;
1204     SV *referent = NULL;
1205
1206     PERL_ARGS_ASSERT_SV_UPGRADE;
1207
1208     if (old_type == new_type)
1209         return;
1210
1211     /* This clause was purposefully added ahead of the early return above to
1212        the shared string hackery for (sort {$a <=> $b} keys %hash), with the
1213        inference by Nick I-S that it would fix other troublesome cases. See
1214        changes 7162, 7163 (f130fd4589cf5fbb24149cd4db4137c8326f49c1 and parent)
1215
1216        Given that shared hash key scalars are no longer PVIV, but PV, there is
1217        no longer need to unshare so as to free up the IVX slot for its proper
1218        purpose. So it's safe to move the early return earlier.  */
1219
1220     if (new_type > SVt_PVMG && SvIsCOW(sv)) {
1221         sv_force_normal_flags(sv, 0);
1222     }
1223
1224     old_body = SvANY(sv);
1225
1226     /* Copying structures onto other structures that have been neatly zeroed
1227        has a subtle gotcha. Consider XPVMG
1228
1229        +------+------+------+------+------+-------+-------+
1230        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH |
1231        +------+------+------+------+------+-------+-------+
1232        0      4      8     12     16     20      24      28
1233
1234        where NVs are aligned to 8 bytes, so that sizeof that structure is
1235        actually 32 bytes long, with 4 bytes of padding at the end:
1236
1237        +------+------+------+------+------+-------+-------+------+
1238        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH | ???  |
1239        +------+------+------+------+------+-------+-------+------+
1240        0      4      8     12     16     20      24      28     32
1241
1242        so what happens if you allocate memory for this structure:
1243
1244        +------+------+------+------+------+-------+-------+------+------+...
1245        |     NV      | CUR  | LEN  |  IV  | MAGIC | STASH |  GP  | NAME |
1246        +------+------+------+------+------+-------+-------+------+------+...
1247        0      4      8     12     16     20      24      28     32     36
1248
1249        zero it, then copy sizeof(XPVMG) bytes on top of it? Not quite what you
1250        expect, because you copy the area marked ??? onto GP. Now, ??? may have
1251        started out as zero once, but it's quite possible that it isn't. So now,
1252        rather than a nicely zeroed GP, you have it pointing somewhere random.
1253        Bugs ensue.
1254
1255        (In fact, GP ends up pointing at a previous GP structure, because the
1256        principle cause of the padding in XPVMG getting garbage is a copy of
1257        sizeof(XPVMG) bytes from a XPVGV structure in sv_unglob. Right now
1258        this happens to be moot because XPVGV has been re-ordered, with GP
1259        no longer after STASH)
1260
1261        So we are careful and work out the size of used parts of all the
1262        structures.  */
1263
1264     switch (old_type) {
1265     case SVt_NULL:
1266         break;
1267     case SVt_IV:
1268         if (SvROK(sv)) {
1269             referent = SvRV(sv);
1270             old_type_details = &fake_rv;
1271             if (new_type == SVt_NV)
1272                 new_type = SVt_PVNV;
1273         } else {
1274             if (new_type < SVt_PVIV) {
1275                 new_type = (new_type == SVt_NV)
1276                     ? SVt_PVNV : SVt_PVIV;
1277             }
1278         }
1279         break;
1280     case SVt_NV:
1281         if (new_type < SVt_PVNV) {
1282             new_type = SVt_PVNV;
1283         }
1284         break;
1285     case SVt_PV:
1286         assert(new_type > SVt_PV);
1287         STATIC_ASSERT_STMT(SVt_IV < SVt_PV);
1288         STATIC_ASSERT_STMT(SVt_NV < SVt_PV);
1289         break;
1290     case SVt_PVIV:
1291         break;
1292     case SVt_PVNV:
1293         break;
1294     case SVt_PVMG:
1295         /* Because the XPVMG of PL_mess_sv isn't allocated from the arena,
1296            there's no way that it can be safely upgraded, because perl.c
1297            expects to Safefree(SvANY(PL_mess_sv))  */
1298         assert(sv != PL_mess_sv);
1299         break;
1300     default:
1301         if (UNLIKELY(old_type_details->cant_upgrade))
1302             Perl_croak(aTHX_ "Can't upgrade %s (%" UVuf ") to %" UVuf,
1303                        sv_reftype(sv, 0), (UV) old_type, (UV) new_type);
1304     }
1305
1306     if (UNLIKELY(old_type > new_type))
1307         Perl_croak(aTHX_ "sv_upgrade from type %d down to type %d",
1308                 (int)old_type, (int)new_type);
1309
1310     new_type_details = bodies_by_type + new_type;
1311
1312     SvFLAGS(sv) &= ~SVTYPEMASK;
1313     SvFLAGS(sv) |= new_type;
1314
1315     /* This can't happen, as SVt_NULL is <= all values of new_type, so one of
1316        the return statements above will have triggered.  */
1317     assert (new_type != SVt_NULL);
1318     switch (new_type) {
1319     case SVt_IV:
1320         assert(old_type == SVt_NULL);
1321         SET_SVANY_FOR_BODYLESS_IV(sv);
1322         SvIV_set(sv, 0);
1323         return;
1324     case SVt_NV:
1325         assert(old_type == SVt_NULL);
1326 #if NVSIZE <= IVSIZE
1327         SET_SVANY_FOR_BODYLESS_NV(sv);
1328 #else
1329         SvANY(sv) = new_XNV();
1330 #endif
1331         SvNV_set(sv, 0);
1332         return;
1333     case SVt_PVHV:
1334     case SVt_PVAV:
1335         assert(new_type_details->body_size);
1336
1337 #ifndef PURIFY  
1338         assert(new_type_details->arena);
1339         assert(new_type_details->arena_size);
1340         /* This points to the start of the allocated area.  */
1341         new_body_inline(new_body, new_type);
1342         Zero(new_body, new_type_details->body_size, char);
1343         new_body = ((char *)new_body) - new_type_details->offset;
1344 #else
1345         /* We always allocated the full length item with PURIFY. To do this
1346            we fake things so that arena is false for all 16 types..  */
1347         new_body = new_NOARENAZ(new_type_details);
1348 #endif
1349         SvANY(sv) = new_body;
1350         if (new_type == SVt_PVAV) {
1351             AvMAX(sv)   = -1;
1352             AvFILLp(sv) = -1;
1353             AvREAL_only(sv);
1354             if (old_type_details->body_size) {
1355                 AvALLOC(sv) = 0;
1356             } else {
1357                 /* It will have been zeroed when the new body was allocated.
1358                    Lets not write to it, in case it confuses a write-back
1359                    cache.  */
1360             }
1361         } else {
1362             assert(!SvOK(sv));
1363             SvOK_off(sv);
1364 #ifndef NODEFAULT_SHAREKEYS
1365             HvSHAREKEYS_on(sv);         /* key-sharing on by default */
1366 #endif
1367             /* start with PERL_HASH_DEFAULT_HvMAX+1 buckets: */
1368             HvMAX(sv) = PERL_HASH_DEFAULT_HvMAX;
1369         }
1370
1371         /* SVt_NULL isn't the only thing upgraded to AV or HV.
1372            The target created by newSVrv also is, and it can have magic.
1373            However, it never has SvPVX set.
1374         */
1375         if (old_type == SVt_IV) {
1376             assert(!SvROK(sv));
1377         } else if (old_type >= SVt_PV) {
1378             assert(SvPVX_const(sv) == 0);
1379         }
1380
1381         if (old_type >= SVt_PVMG) {
1382             SvMAGIC_set(sv, ((XPVMG*)old_body)->xmg_u.xmg_magic);
1383             SvSTASH_set(sv, ((XPVMG*)old_body)->xmg_stash);
1384         } else {
1385             sv->sv_u.svu_array = NULL; /* or svu_hash  */
1386         }
1387         break;
1388
1389     case SVt_PVIV:
1390         /* XXX Is this still needed?  Was it ever needed?   Surely as there is
1391            no route from NV to PVIV, NOK can never be true  */
1392         assert(!SvNOKp(sv));
1393         assert(!SvNOK(sv));
1394         /* FALLTHROUGH */
1395     case SVt_PVIO:
1396     case SVt_PVFM:
1397     case SVt_PVGV:
1398     case SVt_PVCV:
1399     case SVt_PVLV:
1400     case SVt_INVLIST:
1401     case SVt_REGEXP:
1402     case SVt_PVMG:
1403     case SVt_PVNV:
1404     case SVt_PV:
1405
1406         assert(new_type_details->body_size);
1407         /* We always allocated the full length item with PURIFY. To do this
1408            we fake things so that arena is false for all 16 types..  */
1409         if(new_type_details->arena) {
1410             /* This points to the start of the allocated area.  */
1411             new_body_inline(new_body, new_type);
1412             Zero(new_body, new_type_details->body_size, char);
1413             new_body = ((char *)new_body) - new_type_details->offset;
1414         } else {
1415             new_body = new_NOARENAZ(new_type_details);
1416         }
1417         SvANY(sv) = new_body;
1418
1419         if (old_type_details->copy) {
1420             /* There is now the potential for an upgrade from something without
1421                an offset (PVNV or PVMG) to something with one (PVCV, PVFM)  */
1422             int offset = old_type_details->offset;
1423             int length = old_type_details->copy;
1424
1425             if (new_type_details->offset > old_type_details->offset) {
1426                 const int difference
1427                     = new_type_details->offset - old_type_details->offset;
1428                 offset += difference;
1429                 length -= difference;
1430             }
1431             assert (length >= 0);
1432                 
1433             Copy((char *)old_body + offset, (char *)new_body + offset, length,
1434                  char);
1435         }
1436
1437 #ifndef NV_ZERO_IS_ALLBITS_ZERO
1438         /* If NV 0.0 is stores as all bits 0 then Zero() already creates a
1439          * correct 0.0 for us.  Otherwise, if the old body didn't have an
1440          * NV slot, but the new one does, then we need to initialise the
1441          * freshly created NV slot with whatever the correct bit pattern is
1442          * for 0.0  */
1443         if (old_type_details->zero_nv && !new_type_details->zero_nv
1444             && !isGV_with_GP(sv))
1445             SvNV_set(sv, 0);
1446 #endif
1447
1448         if (UNLIKELY(new_type == SVt_PVIO)) {
1449             IO * const io = MUTABLE_IO(sv);
1450             GV *iogv = gv_fetchpvs("IO::File::", GV_ADD, SVt_PVHV);
1451
1452             SvOBJECT_on(io);
1453             /* Clear the stashcache because a new IO could overrule a package
1454                name */
1455             DEBUG_o(Perl_deb(aTHX_ "sv_upgrade clearing PL_stashcache\n"));
1456             hv_clear(PL_stashcache);
1457
1458             SvSTASH_set(io, MUTABLE_HV(SvREFCNT_inc(GvHV(iogv))));
1459             IoPAGE_LEN(sv) = 60;
1460         }
1461         if (old_type < SVt_PV) {
1462             /* referent will be NULL unless the old type was SVt_IV emulating
1463                SVt_RV */
1464             sv->sv_u.svu_rv = referent;
1465         }
1466         break;
1467     default:
1468         Perl_croak(aTHX_ "panic: sv_upgrade to unknown type %lu",
1469                    (unsigned long)new_type);
1470     }
1471
1472     /* if this is zero, this is a body-less SVt_NULL, SVt_IV/SVt_RV,
1473        and sometimes SVt_NV */
1474     if (old_type_details->body_size) {
1475 #ifdef PURIFY
1476         safefree(old_body);
1477 #else
1478         /* Note that there is an assumption that all bodies of types that
1479            can be upgraded came from arenas. Only the more complex non-
1480            upgradable types are allowed to be directly malloc()ed.  */
1481         assert(old_type_details->arena);
1482         del_body((void*)((char*)old_body + old_type_details->offset),
1483                  &PL_body_roots[old_type]);
1484 #endif
1485     }
1486 }
1487
1488 /*
1489 =for apidoc sv_backoff
1490
1491 Remove any string offset.  You should normally use the C<SvOOK_off> macro
1492 wrapper instead.
1493
1494 =cut
1495 */
1496
1497 /* prior to 5.000 stable, this function returned the new OOK-less SvFLAGS
1498    prior to 5.23.4 this function always returned 0
1499 */
1500
1501 void
1502 Perl_sv_backoff(SV *const sv)
1503 {
1504     STRLEN delta;
1505     const char * const s = SvPVX_const(sv);
1506
1507     PERL_ARGS_ASSERT_SV_BACKOFF;
1508
1509     assert(SvOOK(sv));
1510     assert(SvTYPE(sv) != SVt_PVHV);
1511     assert(SvTYPE(sv) != SVt_PVAV);
1512
1513     SvOOK_offset(sv, delta);
1514     
1515     SvLEN_set(sv, SvLEN(sv) + delta);
1516     SvPV_set(sv, SvPVX(sv) - delta);
1517     SvFLAGS(sv) &= ~SVf_OOK;
1518     Move(s, SvPVX(sv), SvCUR(sv)+1, char);
1519     return;
1520 }
1521
1522
1523 /* forward declaration */
1524 static void S_sv_uncow(pTHX_ SV * const sv, const U32 flags);
1525
1526
1527 /*
1528 =for apidoc sv_grow
1529
1530 Expands the character buffer in the SV.  If necessary, uses C<sv_unref> and
1531 upgrades the SV to C<SVt_PV>.  Returns a pointer to the character buffer.
1532 Use the C<SvGROW> wrapper instead.
1533
1534 =cut
1535 */
1536
1537
1538 char *
1539 Perl_sv_grow(pTHX_ SV *const sv, STRLEN newlen)
1540 {
1541     char *s;
1542
1543     PERL_ARGS_ASSERT_SV_GROW;
1544
1545     if (SvROK(sv))
1546         sv_unref(sv);
1547     if (SvTYPE(sv) < SVt_PV) {
1548         sv_upgrade(sv, SVt_PV);
1549         s = SvPVX_mutable(sv);
1550     }
1551     else if (SvOOK(sv)) {       /* pv is offset? */
1552         sv_backoff(sv);
1553         s = SvPVX_mutable(sv);
1554         if (newlen > SvLEN(sv))
1555             newlen += 10 * (newlen - SvCUR(sv)); /* avoid copy each time */
1556     }
1557     else
1558     {
1559         if (SvIsCOW(sv)) S_sv_uncow(aTHX_ sv, 0);
1560         s = SvPVX_mutable(sv);
1561     }
1562
1563 #ifdef PERL_COPY_ON_WRITE
1564     /* the new COW scheme uses SvPVX(sv)[SvLEN(sv)-1] (if spare)
1565      * to store the COW count. So in general, allocate one more byte than
1566      * asked for, to make it likely this byte is always spare: and thus
1567      * make more strings COW-able.
1568      *
1569      * Only increment if the allocation isn't MEM_SIZE_MAX,
1570      * otherwise it will wrap to 0.
1571      */
1572     if ( newlen != MEM_SIZE_MAX )
1573         newlen++;
1574 #endif
1575
1576 #if defined(PERL_USE_MALLOC_SIZE) && defined(Perl_safesysmalloc_size)
1577 #define PERL_UNWARANTED_CHUMMINESS_WITH_MALLOC
1578 #endif
1579
1580     if (newlen > SvLEN(sv)) {           /* need more room? */
1581         STRLEN minlen = SvCUR(sv);
1582         minlen += (minlen >> PERL_STRLEN_EXPAND_SHIFT) + 10;
1583         if (newlen < minlen)
1584             newlen = minlen;
1585 #ifndef PERL_UNWARANTED_CHUMMINESS_WITH_MALLOC
1586
1587         /* Don't round up on the first allocation, as odds are pretty good that
1588          * the initial request is accurate as to what is really needed */
1589         if (SvLEN(sv)) {
1590             STRLEN rounded = PERL_STRLEN_ROUNDUP(newlen);
1591             if (rounded > newlen)
1592                 newlen = rounded;
1593         }
1594 #endif
1595         if (SvLEN(sv) && s) {
1596             s = (char*)saferealloc(s, newlen);
1597         }
1598         else {
1599             s = (char*)safemalloc(newlen);
1600             if (SvPVX_const(sv) && SvCUR(sv)) {
1601                 Move(SvPVX_const(sv), s, SvCUR(sv), char);
1602             }
1603         }
1604         SvPV_set(sv, s);
1605 #ifdef PERL_UNWARANTED_CHUMMINESS_WITH_MALLOC
1606         /* Do this here, do it once, do it right, and then we will never get
1607            called back into sv_grow() unless there really is some growing
1608            needed.  */
1609         SvLEN_set(sv, Perl_safesysmalloc_size(s));
1610 #else
1611         SvLEN_set(sv, newlen);
1612 #endif
1613     }
1614     return s;
1615 }
1616
1617 /*
1618 =for apidoc sv_setiv
1619
1620 Copies an integer into the given SV, upgrading first if necessary.
1621 Does not handle 'set' magic.  See also C<L</sv_setiv_mg>>.
1622
1623 =cut
1624 */
1625
1626 void
1627 Perl_sv_setiv(pTHX_ SV *const sv, const IV i)
1628 {
1629     PERL_ARGS_ASSERT_SV_SETIV;
1630
1631     SV_CHECK_THINKFIRST_COW_DROP(sv);
1632     switch (SvTYPE(sv)) {
1633     case SVt_NULL:
1634     case SVt_NV:
1635         sv_upgrade(sv, SVt_IV);
1636         break;
1637     case SVt_PV:
1638         sv_upgrade(sv, SVt_PVIV);
1639         break;
1640
1641     case SVt_PVGV:
1642         if (!isGV_with_GP(sv))
1643             break;
1644         /* FALLTHROUGH */
1645     case SVt_PVAV:
1646     case SVt_PVHV:
1647     case SVt_PVCV:
1648     case SVt_PVFM:
1649     case SVt_PVIO:
1650         /* diag_listed_as: Can't coerce %s to %s in %s */
1651         Perl_croak(aTHX_ "Can't coerce %s to integer in %s", sv_reftype(sv,0),
1652                    OP_DESC(PL_op));
1653         NOT_REACHED; /* NOTREACHED */
1654         break;
1655     default: NOOP;
1656     }
1657     (void)SvIOK_only(sv);                       /* validate number */
1658     SvIV_set(sv, i);
1659     SvTAINT(sv);
1660 }
1661
1662 /*
1663 =for apidoc sv_setiv_mg
1664
1665 Like C<sv_setiv>, but also handles 'set' magic.
1666
1667 =cut
1668 */
1669
1670 void
1671 Perl_sv_setiv_mg(pTHX_ SV *const sv, const IV i)
1672 {
1673     PERL_ARGS_ASSERT_SV_SETIV_MG;
1674
1675     sv_setiv(sv,i);
1676     SvSETMAGIC(sv);
1677 }
1678
1679 /*
1680 =for apidoc sv_setuv
1681
1682 Copies an unsigned integer into the given SV, upgrading first if necessary.
1683 Does not handle 'set' magic.  See also C<L</sv_setuv_mg>>.
1684
1685 =cut
1686 */
1687
1688 void
1689 Perl_sv_setuv(pTHX_ SV *const sv, const UV u)
1690 {
1691     PERL_ARGS_ASSERT_SV_SETUV;
1692
1693     /* With the if statement to ensure that integers are stored as IVs whenever
1694        possible:
1695        u=1.49  s=0.52  cu=72.49  cs=10.64  scripts=270  tests=20865
1696
1697        without
1698        u=1.35  s=0.47  cu=73.45  cs=11.43  scripts=270  tests=20865
1699
1700        If you wish to remove the following if statement, so that this routine
1701        (and its callers) always return UVs, please benchmark to see what the
1702        effect is. Modern CPUs may be different. Or may not :-)
1703     */
1704     if (u <= (UV)IV_MAX) {
1705        sv_setiv(sv, (IV)u);
1706        return;
1707     }
1708     sv_setiv(sv, 0);
1709     SvIsUV_on(sv);
1710     SvUV_set(sv, u);
1711 }
1712
1713 /*
1714 =for apidoc sv_setuv_mg
1715
1716 Like C<sv_setuv>, but also handles 'set' magic.
1717
1718 =cut
1719 */
1720
1721 void
1722 Perl_sv_setuv_mg(pTHX_ SV *const sv, const UV u)
1723 {
1724     PERL_ARGS_ASSERT_SV_SETUV_MG;
1725
1726     sv_setuv(sv,u);
1727     SvSETMAGIC(sv);
1728 }
1729
1730 /*
1731 =for apidoc sv_setnv
1732
1733 Copies a double into the given SV, upgrading first if necessary.
1734 Does not handle 'set' magic.  See also C<L</sv_setnv_mg>>.
1735
1736 =cut
1737 */
1738
1739 void
1740 Perl_sv_setnv(pTHX_ SV *const sv, const NV num)
1741 {
1742     PERL_ARGS_ASSERT_SV_SETNV;
1743
1744     SV_CHECK_THINKFIRST_COW_DROP(sv);
1745     switch (SvTYPE(sv)) {
1746     case SVt_NULL:
1747     case SVt_IV:
1748         sv_upgrade(sv, SVt_NV);
1749         break;
1750     case SVt_PV:
1751     case SVt_PVIV:
1752         sv_upgrade(sv, SVt_PVNV);
1753         break;
1754
1755     case SVt_PVGV:
1756         if (!isGV_with_GP(sv))
1757             break;
1758         /* FALLTHROUGH */
1759     case SVt_PVAV:
1760     case SVt_PVHV:
1761     case SVt_PVCV:
1762     case SVt_PVFM:
1763     case SVt_PVIO:
1764         /* diag_listed_as: Can't coerce %s to %s in %s */
1765         Perl_croak(aTHX_ "Can't coerce %s to number in %s", sv_reftype(sv,0),
1766                    OP_DESC(PL_op));
1767         NOT_REACHED; /* NOTREACHED */
1768         break;
1769     default: NOOP;
1770     }
1771     SvNV_set(sv, num);
1772     (void)SvNOK_only(sv);                       /* validate number */
1773     SvTAINT(sv);
1774 }
1775
1776 /*
1777 =for apidoc sv_setnv_mg
1778
1779 Like C<sv_setnv>, but also handles 'set' magic.
1780
1781 =cut
1782 */
1783
1784 void
1785 Perl_sv_setnv_mg(pTHX_ SV *const sv, const NV num)
1786 {
1787     PERL_ARGS_ASSERT_SV_SETNV_MG;
1788
1789     sv_setnv(sv,num);
1790     SvSETMAGIC(sv);
1791 }
1792
1793 /* Return a cleaned-up, printable version of sv, for non-numeric, or
1794  * not incrementable warning display.
1795  * Originally part of S_not_a_number().
1796  * The return value may be != tmpbuf.
1797  */
1798
1799 STATIC const char *
1800 S_sv_display(pTHX_ SV *const sv, char *tmpbuf, STRLEN tmpbuf_size) {
1801     const char *pv;
1802
1803      PERL_ARGS_ASSERT_SV_DISPLAY;
1804
1805      if (DO_UTF8(sv)) {
1806           SV *dsv = newSVpvs_flags("", SVs_TEMP);
1807           pv = sv_uni_display(dsv, sv, 32, UNI_DISPLAY_ISPRINT);
1808      } else {
1809           char *d = tmpbuf;
1810           const char * const limit = tmpbuf + tmpbuf_size - 8;
1811           /* each *s can expand to 4 chars + "...\0",
1812              i.e. need room for 8 chars */
1813         
1814           const char *s = SvPVX_const(sv);
1815           const char * const end = s + SvCUR(sv);
1816           for ( ; s < end && d < limit; s++ ) {
1817                int ch = *s & 0xFF;
1818                if (! isASCII(ch) && !isPRINT_LC(ch)) {
1819                     *d++ = 'M';
1820                     *d++ = '-';
1821
1822                     /* Map to ASCII "equivalent" of Latin1 */
1823                     ch = LATIN1_TO_NATIVE(NATIVE_TO_LATIN1(ch) & 127);
1824                }
1825                if (ch == '\n') {
1826                     *d++ = '\\';
1827                     *d++ = 'n';
1828                }
1829                else if (ch == '\r') {
1830                     *d++ = '\\';
1831                     *d++ = 'r';
1832                }
1833                else if (ch == '\f') {
1834                     *d++ = '\\';
1835                     *d++ = 'f';
1836                }
1837                else if (ch == '\\') {
1838                     *d++ = '\\';
1839                     *d++ = '\\';
1840                }
1841                else if (ch == '\0') {
1842                     *d++ = '\\';
1843                     *d++ = '0';
1844                }
1845                else if (isPRINT_LC(ch))
1846                     *d++ = ch;
1847                else {
1848                     *d++ = '^';
1849                     *d++ = toCTRL(ch);
1850                }
1851           }
1852           if (s < end) {
1853                *d++ = '.';
1854                *d++ = '.';
1855                *d++ = '.';
1856           }
1857           *d = '\0';
1858           pv = tmpbuf;
1859     }
1860
1861     return pv;
1862 }
1863
1864 /* Print an "isn't numeric" warning, using a cleaned-up,
1865  * printable version of the offending string
1866  */
1867
1868 STATIC void
1869 S_not_a_number(pTHX_ SV *const sv)
1870 {
1871      char tmpbuf[64];
1872      const char *pv;
1873
1874      PERL_ARGS_ASSERT_NOT_A_NUMBER;
1875
1876      pv = sv_display(sv, tmpbuf, sizeof(tmpbuf));
1877
1878     if (PL_op)
1879         Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1880                     /* diag_listed_as: Argument "%s" isn't numeric%s */
1881                     "Argument \"%s\" isn't numeric in %s", pv,
1882                     OP_DESC(PL_op));
1883     else
1884         Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1885                     /* diag_listed_as: Argument "%s" isn't numeric%s */
1886                     "Argument \"%s\" isn't numeric", pv);
1887 }
1888
1889 STATIC void
1890 S_not_incrementable(pTHX_ SV *const sv) {
1891      char tmpbuf[64];
1892      const char *pv;
1893
1894      PERL_ARGS_ASSERT_NOT_INCREMENTABLE;
1895
1896      pv = sv_display(sv, tmpbuf, sizeof(tmpbuf));
1897
1898      Perl_warner(aTHX_ packWARN(WARN_NUMERIC),
1899                  "Argument \"%s\" treated as 0 in increment (++)", pv);
1900 }
1901
1902 /*
1903 =for apidoc looks_like_number
1904
1905 Test if the content of an SV looks like a number (or is a number).
1906 C<Inf> and C<Infinity> are treated as numbers (so will not issue a
1907 non-numeric warning), even if your C<atof()> doesn't grok them.  Get-magic is
1908 ignored.
1909
1910 =cut
1911 */
1912
1913 I32
1914 Perl_looks_like_number(pTHX_ SV *const sv)
1915 {
1916     const char *sbegin;
1917     STRLEN len;
1918     int numtype;
1919
1920     PERL_ARGS_ASSERT_LOOKS_LIKE_NUMBER;
1921
1922     if (SvPOK(sv) || SvPOKp(sv)) {
1923         sbegin = SvPV_nomg_const(sv, len);
1924     }
1925     else
1926         return SvFLAGS(sv) & (SVf_NOK|SVp_NOK|SVf_IOK|SVp_IOK);
1927     numtype = grok_number(sbegin, len, NULL);
1928     return ((numtype & IS_NUMBER_TRAILING)) ? 0 : numtype;
1929 }
1930
1931 STATIC bool
1932 S_glob_2number(pTHX_ GV * const gv)
1933 {
1934     PERL_ARGS_ASSERT_GLOB_2NUMBER;
1935
1936     /* We know that all GVs stringify to something that is not-a-number,
1937         so no need to test that.  */
1938     if (ckWARN(WARN_NUMERIC))
1939     {
1940         SV *const buffer = sv_newmortal();
1941         gv_efullname3(buffer, gv, "*");
1942         not_a_number(buffer);
1943     }
1944     /* We just want something true to return, so that S_sv_2iuv_common
1945         can tail call us and return true.  */
1946     return TRUE;
1947 }
1948
1949 /* Actually, ISO C leaves conversion of UV to IV undefined, but
1950    until proven guilty, assume that things are not that bad... */
1951
1952 /*
1953    NV_PRESERVES_UV:
1954
1955    As 64 bit platforms often have an NV that doesn't preserve all bits of
1956    an IV (an assumption perl has been based on to date) it becomes necessary
1957    to remove the assumption that the NV always carries enough precision to
1958    recreate the IV whenever needed, and that the NV is the canonical form.
1959    Instead, IV/UV and NV need to be given equal rights. So as to not lose
1960    precision as a side effect of conversion (which would lead to insanity
1961    and the dragon(s) in t/op/numconvert.t getting very angry) the intent is
1962    1) to distinguish between IV/UV/NV slots that have a valid conversion cached
1963       where precision was lost, and IV/UV/NV slots that have a valid conversion
1964       which has lost no precision
1965    2) to ensure that if a numeric conversion to one form is requested that
1966       would lose precision, the precise conversion (or differently
1967       imprecise conversion) is also performed and cached, to prevent
1968       requests for different numeric formats on the same SV causing
1969       lossy conversion chains. (lossless conversion chains are perfectly
1970       acceptable (still))
1971
1972
1973    flags are used:
1974    SvIOKp is true if the IV slot contains a valid value
1975    SvIOK  is true only if the IV value is accurate (UV if SvIOK_UV true)
1976    SvNOKp is true if the NV slot contains a valid value
1977    SvNOK  is true only if the NV value is accurate
1978
1979    so
1980    while converting from PV to NV, check to see if converting that NV to an
1981    IV(or UV) would lose accuracy over a direct conversion from PV to
1982    IV(or UV). If it would, cache both conversions, return NV, but mark
1983    SV as IOK NOKp (ie not NOK).
1984
1985    While converting from PV to IV, check to see if converting that IV to an
1986    NV would lose accuracy over a direct conversion from PV to NV. If it
1987    would, cache both conversions, flag similarly.
1988
1989    Before, the SV value "3.2" could become NV=3.2 IV=3 NOK, IOK quite
1990    correctly because if IV & NV were set NV *always* overruled.
1991    Now, "3.2" will become NV=3.2 IV=3 NOK, IOKp, because the flag's meaning
1992    changes - now IV and NV together means that the two are interchangeable:
1993    SvIVX == (IV) SvNVX && SvNVX == (NV) SvIVX;
1994
1995    The benefit of this is that operations such as pp_add know that if
1996    SvIOK is true for both left and right operands, then integer addition
1997    can be used instead of floating point (for cases where the result won't
1998    overflow). Before, floating point was always used, which could lead to
1999    loss of precision compared with integer addition.
2000
2001    * making IV and NV equal status should make maths accurate on 64 bit
2002      platforms
2003    * may speed up maths somewhat if pp_add and friends start to use
2004      integers when possible instead of fp. (Hopefully the overhead in
2005      looking for SvIOK and checking for overflow will not outweigh the
2006      fp to integer speedup)
2007    * will slow down integer operations (callers of SvIV) on "inaccurate"
2008      values, as the change from SvIOK to SvIOKp will cause a call into
2009      sv_2iv each time rather than a macro access direct to the IV slot
2010    * should speed up number->string conversion on integers as IV is
2011      favoured when IV and NV are equally accurate
2012
2013    ####################################################################
2014    You had better be using SvIOK_notUV if you want an IV for arithmetic:
2015    SvIOK is true if (IV or UV), so you might be getting (IV)SvUV.
2016    On the other hand, SvUOK is true iff UV.
2017    ####################################################################
2018
2019    Your mileage will vary depending your CPU's relative fp to integer
2020    performance ratio.
2021 */
2022
2023 #ifndef NV_PRESERVES_UV
2024 #  define IS_NUMBER_UNDERFLOW_IV 1
2025 #  define IS_NUMBER_UNDERFLOW_UV 2
2026 #  define IS_NUMBER_IV_AND_UV    2
2027 #  define IS_NUMBER_OVERFLOW_IV  4
2028 #  define IS_NUMBER_OVERFLOW_UV  5
2029
2030 /* sv_2iuv_non_preserve(): private routine for use by sv_2iv() and sv_2uv() */
2031
2032 /* For sv_2nv these three cases are "SvNOK and don't bother casting"  */
2033 STATIC int
2034 S_sv_2iuv_non_preserve(pTHX_ SV *const sv
2035 #  ifdef DEBUGGING
2036                        , I32 numtype
2037 #  endif
2038                        )
2039 {
2040     PERL_ARGS_ASSERT_SV_2IUV_NON_PRESERVE;
2041     PERL_UNUSED_CONTEXT;
2042
2043     DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_2iuv_non '%s', IV=0x%" UVxf " NV=%" NVgf " inttype=%" UVXf "\n", SvPVX_const(sv), SvIVX(sv), SvNVX(sv), (UV)numtype));
2044     if (SvNVX(sv) < (NV)IV_MIN) {
2045         (void)SvIOKp_on(sv);
2046         (void)SvNOK_on(sv);
2047         SvIV_set(sv, IV_MIN);
2048         return IS_NUMBER_UNDERFLOW_IV;
2049     }
2050     if (SvNVX(sv) > (NV)UV_MAX) {
2051         (void)SvIOKp_on(sv);
2052         (void)SvNOK_on(sv);
2053         SvIsUV_on(sv);
2054         SvUV_set(sv, UV_MAX);
2055         return IS_NUMBER_OVERFLOW_UV;
2056     }
2057     (void)SvIOKp_on(sv);
2058     (void)SvNOK_on(sv);
2059     /* Can't use strtol etc to convert this string.  (See truth table in
2060        sv_2iv  */
2061     if (SvNVX(sv) <= (UV)IV_MAX) {
2062         SvIV_set(sv, I_V(SvNVX(sv)));
2063         if ((NV)(SvIVX(sv)) == SvNVX(sv)) {
2064             SvIOK_on(sv); /* Integer is precise. NOK, IOK */
2065         } else {
2066             /* Integer is imprecise. NOK, IOKp */
2067         }
2068         return SvNVX(sv) < 0 ? IS_NUMBER_UNDERFLOW_UV : IS_NUMBER_IV_AND_UV;
2069     }
2070     SvIsUV_on(sv);
2071     SvUV_set(sv, U_V(SvNVX(sv)));
2072     if ((NV)(SvUVX(sv)) == SvNVX(sv)) {
2073         if (SvUVX(sv) == UV_MAX) {
2074             /* As we know that NVs don't preserve UVs, UV_MAX cannot
2075                possibly be preserved by NV. Hence, it must be overflow.
2076                NOK, IOKp */
2077             return IS_NUMBER_OVERFLOW_UV;
2078         }
2079         SvIOK_on(sv); /* Integer is precise. NOK, UOK */
2080     } else {
2081         /* Integer is imprecise. NOK, IOKp */
2082     }
2083     return IS_NUMBER_OVERFLOW_IV;
2084 }
2085 #endif /* !NV_PRESERVES_UV*/
2086
2087 /* If numtype is infnan, set the NV of the sv accordingly.
2088  * If numtype is anything else, try setting the NV using Atof(PV). */
2089 static void
2090 S_sv_setnv(pTHX_ SV* sv, int numtype)
2091 {
2092     bool pok = cBOOL(SvPOK(sv));
2093     bool nok = FALSE;
2094 #ifdef NV_INF
2095     if ((numtype & IS_NUMBER_INFINITY)) {
2096         SvNV_set(sv, (numtype & IS_NUMBER_NEG) ? -NV_INF : NV_INF);
2097         nok = TRUE;
2098     } else
2099 #endif
2100 #ifdef NV_NAN
2101     if ((numtype & IS_NUMBER_NAN)) {
2102         SvNV_set(sv, NV_NAN);
2103         nok = TRUE;
2104     } else
2105 #endif
2106     if (pok) {
2107         SvNV_set(sv, Atof(SvPVX_const(sv)));
2108         /* Purposefully no true nok here, since we don't want to blow
2109          * away the possible IOK/UV of an existing sv. */
2110     }
2111     if (nok) {
2112         SvNOK_only(sv); /* No IV or UV please, this is pure infnan. */
2113         if (pok)
2114             SvPOK_on(sv); /* PV is okay, though. */
2115     }
2116 }
2117
2118 STATIC bool
2119 S_sv_2iuv_common(pTHX_ SV *const sv)
2120 {
2121     PERL_ARGS_ASSERT_SV_2IUV_COMMON;
2122
2123     if (SvNOKp(sv)) {
2124         /* erm. not sure. *should* never get NOKp (without NOK) from sv_2nv
2125          * without also getting a cached IV/UV from it at the same time
2126          * (ie PV->NV conversion should detect loss of accuracy and cache
2127          * IV or UV at same time to avoid this. */
2128         /* IV-over-UV optimisation - choose to cache IV if possible */
2129
2130         if (SvTYPE(sv) == SVt_NV)
2131             sv_upgrade(sv, SVt_PVNV);
2132
2133         (void)SvIOKp_on(sv);    /* Must do this first, to clear any SvOOK */
2134         /* < not <= as for NV doesn't preserve UV, ((NV)IV_MAX+1) will almost
2135            certainly cast into the IV range at IV_MAX, whereas the correct
2136            answer is the UV IV_MAX +1. Hence < ensures that dodgy boundary
2137            cases go to UV */
2138 #if defined(NAN_COMPARE_BROKEN) && defined(Perl_isnan)
2139         if (Perl_isnan(SvNVX(sv))) {
2140             SvUV_set(sv, 0);
2141             SvIsUV_on(sv);
2142             return FALSE;
2143         }
2144 #endif
2145         if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2146             SvIV_set(sv, I_V(SvNVX(sv)));
2147             if (SvNVX(sv) == (NV) SvIVX(sv)
2148 #ifndef NV_PRESERVES_UV
2149                 && SvIVX(sv) != IV_MIN /* avoid negating IV_MIN below */
2150                 && (((UV)1 << NV_PRESERVES_UV_BITS) >
2151                     (UV)(SvIVX(sv) > 0 ? SvIVX(sv) : -SvIVX(sv)))
2152                 /* Don't flag it as "accurately an integer" if the number
2153                    came from a (by definition imprecise) NV operation, and
2154                    we're outside the range of NV integer precision */
2155 #endif
2156                 ) {
2157                 if (SvNOK(sv))
2158                     SvIOK_on(sv);  /* Can this go wrong with rounding? NWC */
2159                 else {
2160                     /* scalar has trailing garbage, eg "42a" */
2161                 }
2162                 DEBUG_c(PerlIO_printf(Perl_debug_log,
2163                                       "0x%" UVxf " iv(%" NVgf " => %" IVdf ") (precise)\n",
2164                                       PTR2UV(sv),
2165                                       SvNVX(sv),
2166                                       SvIVX(sv)));
2167
2168             } else {
2169                 /* IV not precise.  No need to convert from PV, as NV
2170                    conversion would already have cached IV if it detected
2171                    that PV->IV would be better than PV->NV->IV
2172                    flags already correct - don't set public IOK.  */
2173                 DEBUG_c(PerlIO_printf(Perl_debug_log,
2174                                       "0x%" UVxf " iv(%" NVgf " => %" IVdf ") (imprecise)\n",
2175                                       PTR2UV(sv),
2176                                       SvNVX(sv),
2177                                       SvIVX(sv)));
2178             }
2179             /* Can the above go wrong if SvIVX == IV_MIN and SvNVX < IV_MIN,
2180                but the cast (NV)IV_MIN rounds to a the value less (more
2181                negative) than IV_MIN which happens to be equal to SvNVX ??
2182                Analogous to 0xFFFFFFFFFFFFFFFF rounding up to NV (2**64) and
2183                NV rounding back to 0xFFFFFFFFFFFFFFFF, so UVX == UV(NVX) and
2184                (NV)UVX == NVX are both true, but the values differ. :-(
2185                Hopefully for 2s complement IV_MIN is something like
2186                0x8000000000000000 which will be exact. NWC */
2187         }
2188         else {
2189             SvUV_set(sv, U_V(SvNVX(sv)));
2190             if (
2191                 (SvNVX(sv) == (NV) SvUVX(sv))
2192 #ifndef  NV_PRESERVES_UV
2193                 /* Make sure it's not 0xFFFFFFFFFFFFFFFF */
2194                 /*&& (SvUVX(sv) != UV_MAX) irrelevant with code below */
2195                 && (((UV)1 << NV_PRESERVES_UV_BITS) > SvUVX(sv))
2196                 /* Don't flag it as "accurately an integer" if the number
2197                    came from a (by definition imprecise) NV operation, and
2198                    we're outside the range of NV integer precision */
2199 #endif
2200                 && SvNOK(sv)
2201                 )
2202                 SvIOK_on(sv);
2203             SvIsUV_on(sv);
2204             DEBUG_c(PerlIO_printf(Perl_debug_log,
2205                                   "0x%" UVxf " 2iv(%" UVuf " => %" IVdf ") (as unsigned)\n",
2206                                   PTR2UV(sv),
2207                                   SvUVX(sv),
2208                                   SvUVX(sv)));
2209         }
2210     }
2211     else if (SvPOKp(sv)) {
2212         UV value;
2213         int numtype;
2214         const char *s = SvPVX_const(sv);
2215         const STRLEN cur = SvCUR(sv);
2216
2217         /* short-cut for a single digit string like "1" */
2218
2219         if (cur == 1) {
2220             char c = *s;
2221             if (isDIGIT(c)) {
2222                 if (SvTYPE(sv) < SVt_PVIV)
2223                     sv_upgrade(sv, SVt_PVIV);
2224                 (void)SvIOK_on(sv);
2225                 SvIV_set(sv, (IV)(c - '0'));
2226                 return FALSE;
2227             }
2228         }
2229
2230         numtype = grok_number(s, cur, &value);
2231         /* We want to avoid a possible problem when we cache an IV/ a UV which
2232            may be later translated to an NV, and the resulting NV is not
2233            the same as the direct translation of the initial string
2234            (eg 123.456 can shortcut to the IV 123 with atol(), but we must
2235            be careful to ensure that the value with the .456 is around if the
2236            NV value is requested in the future).
2237         
2238            This means that if we cache such an IV/a UV, we need to cache the
2239            NV as well.  Moreover, we trade speed for space, and do not
2240            cache the NV if we are sure it's not needed.
2241          */
2242
2243         /* SVt_PVNV is one higher than SVt_PVIV, hence this order  */
2244         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2245              == IS_NUMBER_IN_UV) {
2246             /* It's definitely an integer, only upgrade to PVIV */
2247             if (SvTYPE(sv) < SVt_PVIV)
2248                 sv_upgrade(sv, SVt_PVIV);
2249             (void)SvIOK_on(sv);
2250         } else if (SvTYPE(sv) < SVt_PVNV)
2251             sv_upgrade(sv, SVt_PVNV);
2252
2253         if ((numtype & (IS_NUMBER_INFINITY | IS_NUMBER_NAN))) {
2254             if (ckWARN(WARN_NUMERIC) && ((numtype & IS_NUMBER_TRAILING)))
2255                 not_a_number(sv);
2256             S_sv_setnv(aTHX_ sv, numtype);
2257             return FALSE;
2258         }
2259
2260         /* If NVs preserve UVs then we only use the UV value if we know that
2261            we aren't going to call atof() below. If NVs don't preserve UVs
2262            then the value returned may have more precision than atof() will
2263            return, even though value isn't perfectly accurate.  */
2264         if ((numtype & (IS_NUMBER_IN_UV
2265 #ifdef NV_PRESERVES_UV
2266                         | IS_NUMBER_NOT_INT
2267 #endif
2268             )) == IS_NUMBER_IN_UV) {
2269             /* This won't turn off the public IOK flag if it was set above  */
2270             (void)SvIOKp_on(sv);
2271
2272             if (!(numtype & IS_NUMBER_NEG)) {
2273                 /* positive */;
2274                 if (value <= (UV)IV_MAX) {
2275                     SvIV_set(sv, (IV)value);
2276                 } else {
2277                     /* it didn't overflow, and it was positive. */
2278                     SvUV_set(sv, value);
2279                     SvIsUV_on(sv);
2280                 }
2281             } else {
2282                 /* 2s complement assumption  */
2283                 if (value <= (UV)IV_MIN) {
2284                     SvIV_set(sv, value == (UV)IV_MIN
2285                                     ? IV_MIN : -(IV)value);
2286                 } else {
2287                     /* Too negative for an IV.  This is a double upgrade, but
2288                        I'm assuming it will be rare.  */
2289                     if (SvTYPE(sv) < SVt_PVNV)
2290                         sv_upgrade(sv, SVt_PVNV);
2291                     SvNOK_on(sv);
2292                     SvIOK_off(sv);
2293                     SvIOKp_on(sv);
2294                     SvNV_set(sv, -(NV)value);
2295                     SvIV_set(sv, IV_MIN);
2296                 }
2297             }
2298         }
2299         /* For !NV_PRESERVES_UV and IS_NUMBER_IN_UV and IS_NUMBER_NOT_INT we
2300            will be in the previous block to set the IV slot, and the next
2301            block to set the NV slot.  So no else here.  */
2302         
2303         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2304             != IS_NUMBER_IN_UV) {
2305             /* It wasn't an (integer that doesn't overflow the UV). */
2306             S_sv_setnv(aTHX_ sv, numtype);
2307
2308             if (! numtype && ckWARN(WARN_NUMERIC))
2309                 not_a_number(sv);
2310
2311             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2iv(%" NVgf ")\n",
2312                                   PTR2UV(sv), SvNVX(sv)));
2313
2314 #ifdef NV_PRESERVES_UV
2315             (void)SvIOKp_on(sv);
2316             (void)SvNOK_on(sv);
2317 #if defined(NAN_COMPARE_BROKEN) && defined(Perl_isnan)
2318             if (Perl_isnan(SvNVX(sv))) {
2319                 SvUV_set(sv, 0);
2320                 SvIsUV_on(sv);
2321                 return FALSE;
2322             }
2323 #endif
2324             if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2325                 SvIV_set(sv, I_V(SvNVX(sv)));
2326                 if ((NV)(SvIVX(sv)) == SvNVX(sv)) {
2327                     SvIOK_on(sv);
2328                 } else {
2329                     NOOP;  /* Integer is imprecise. NOK, IOKp */
2330                 }
2331                 /* UV will not work better than IV */
2332             } else {
2333                 if (SvNVX(sv) > (NV)UV_MAX) {
2334                     SvIsUV_on(sv);
2335                     /* Integer is inaccurate. NOK, IOKp, is UV */
2336                     SvUV_set(sv, UV_MAX);
2337                 } else {
2338                     SvUV_set(sv, U_V(SvNVX(sv)));
2339                     /* 0xFFFFFFFFFFFFFFFF not an issue in here, NVs
2340                        NV preservse UV so can do correct comparison.  */
2341                     if ((NV)(SvUVX(sv)) == SvNVX(sv)) {
2342                         SvIOK_on(sv);
2343                     } else {
2344                         NOOP;   /* Integer is imprecise. NOK, IOKp, is UV */
2345                     }
2346                 }
2347                 SvIsUV_on(sv);
2348             }
2349 #else /* NV_PRESERVES_UV */
2350             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2351                 == (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT)) {
2352                 /* The IV/UV slot will have been set from value returned by
2353                    grok_number above.  The NV slot has just been set using
2354                    Atof.  */
2355                 SvNOK_on(sv);
2356                 assert (SvIOKp(sv));
2357             } else {
2358                 if (((UV)1 << NV_PRESERVES_UV_BITS) >
2359                     U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))) {
2360                     /* Small enough to preserve all bits. */
2361                     (void)SvIOKp_on(sv);
2362                     SvNOK_on(sv);
2363                     SvIV_set(sv, I_V(SvNVX(sv)));
2364                     if ((NV)(SvIVX(sv)) == SvNVX(sv))
2365                         SvIOK_on(sv);
2366                     /* Assumption: first non-preserved integer is < IV_MAX,
2367                        this NV is in the preserved range, therefore: */
2368                     if (!(U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))
2369                           < (UV)IV_MAX)) {
2370                         Perl_croak(aTHX_ "sv_2iv assumed (U_V(fabs((double)SvNVX(sv))) < (UV)IV_MAX) but SvNVX(sv)=%" NVgf " U_V is 0x%" UVxf ", IV_MAX is 0x%" UVxf "\n", SvNVX(sv), U_V(SvNVX(sv)), (UV)IV_MAX);
2371                     }
2372                 } else {
2373                     /* IN_UV NOT_INT
2374                          0      0       already failed to read UV.
2375                          0      1       already failed to read UV.
2376                          1      0       you won't get here in this case. IV/UV
2377                                         slot set, public IOK, Atof() unneeded.
2378                          1      1       already read UV.
2379                        so there's no point in sv_2iuv_non_preserve() attempting
2380                        to use atol, strtol, strtoul etc.  */
2381 #  ifdef DEBUGGING
2382                     sv_2iuv_non_preserve (sv, numtype);
2383 #  else
2384                     sv_2iuv_non_preserve (sv);
2385 #  endif
2386                 }
2387             }
2388 #endif /* NV_PRESERVES_UV */
2389         /* It might be more code efficient to go through the entire logic above
2390            and conditionally set with SvIOKp_on() rather than SvIOK(), but it
2391            gets complex and potentially buggy, so more programmer efficient
2392            to do it this way, by turning off the public flags:  */
2393         if (!numtype)
2394             SvFLAGS(sv) &= ~(SVf_IOK|SVf_NOK);
2395         }
2396     }
2397     else  {
2398         if (isGV_with_GP(sv))
2399             return glob_2number(MUTABLE_GV(sv));
2400
2401         if (!PL_localizing && ckWARN(WARN_UNINITIALIZED))
2402                 report_uninit(sv);
2403         if (SvTYPE(sv) < SVt_IV)
2404             /* Typically the caller expects that sv_any is not NULL now.  */
2405             sv_upgrade(sv, SVt_IV);
2406         /* Return 0 from the caller.  */
2407         return TRUE;
2408     }
2409     return FALSE;
2410 }
2411
2412 /*
2413 =for apidoc sv_2iv_flags
2414
2415 Return the integer value of an SV, doing any necessary string
2416 conversion.  If C<flags> has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.
2417 Normally used via the C<SvIV(sv)> and C<SvIVx(sv)> macros.
2418
2419 =cut
2420 */
2421
2422 IV
2423 Perl_sv_2iv_flags(pTHX_ SV *const sv, const I32 flags)
2424 {
2425     PERL_ARGS_ASSERT_SV_2IV_FLAGS;
2426
2427     assert (SvTYPE(sv) != SVt_PVAV && SvTYPE(sv) != SVt_PVHV
2428          && SvTYPE(sv) != SVt_PVFM);
2429
2430     if (SvGMAGICAL(sv) && (flags & SV_GMAGIC))
2431         mg_get(sv);
2432
2433     if (SvROK(sv)) {
2434         if (SvAMAGIC(sv)) {
2435             SV * tmpstr;
2436             if (flags & SV_SKIP_OVERLOAD)
2437                 return 0;
2438             tmpstr = AMG_CALLunary(sv, numer_amg);
2439             if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2440                 return SvIV(tmpstr);
2441             }
2442         }
2443         return PTR2IV(SvRV(sv));
2444     }
2445
2446     if (SvVALID(sv) || isREGEXP(sv)) {
2447         /* FBMs use the space for SvIVX and SvNVX for other purposes, so
2448            must not let them cache IVs.
2449            In practice they are extremely unlikely to actually get anywhere
2450            accessible by user Perl code - the only way that I'm aware of is when
2451            a constant subroutine which is used as the second argument to index.
2452
2453            Regexps have no SvIVX and SvNVX fields.
2454         */
2455         assert(SvPOKp(sv));
2456         {
2457             UV value;
2458             const char * const ptr =
2459                 isREGEXP(sv) ? RX_WRAPPED((REGEXP*)sv) : SvPVX_const(sv);
2460             const int numtype
2461                 = grok_number(ptr, SvCUR(sv), &value);
2462
2463             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2464                 == IS_NUMBER_IN_UV) {
2465                 /* It's definitely an integer */
2466                 if (numtype & IS_NUMBER_NEG) {
2467                     if (value < (UV)IV_MIN)
2468                         return -(IV)value;
2469                 } else {
2470                     if (value < (UV)IV_MAX)
2471                         return (IV)value;
2472                 }
2473             }
2474
2475             /* Quite wrong but no good choices. */
2476             if ((numtype & IS_NUMBER_INFINITY)) {
2477                 return (numtype & IS_NUMBER_NEG) ? IV_MIN : IV_MAX;
2478             } else if ((numtype & IS_NUMBER_NAN)) {
2479                 return 0; /* So wrong. */
2480             }
2481
2482             if (!numtype) {
2483                 if (ckWARN(WARN_NUMERIC))
2484                     not_a_number(sv);
2485             }
2486             return I_V(Atof(ptr));
2487         }
2488     }
2489
2490     if (SvTHINKFIRST(sv)) {
2491         if (SvREADONLY(sv) && !SvOK(sv)) {
2492             if (ckWARN(WARN_UNINITIALIZED))
2493                 report_uninit(sv);
2494             return 0;
2495         }
2496     }
2497
2498     if (!SvIOKp(sv)) {
2499         if (S_sv_2iuv_common(aTHX_ sv))
2500             return 0;
2501     }
2502
2503     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2iv(%" IVdf ")\n",
2504         PTR2UV(sv),SvIVX(sv)));
2505     return SvIsUV(sv) ? (IV)SvUVX(sv) : SvIVX(sv);
2506 }
2507
2508 /*
2509 =for apidoc sv_2uv_flags
2510
2511 Return the unsigned integer value of an SV, doing any necessary string
2512 conversion.  If C<flags> has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.
2513 Normally used via the C<SvUV(sv)> and C<SvUVx(sv)> macros.
2514
2515 =for apidoc Amnh||SV_GMAGIC
2516
2517 =cut
2518 */
2519
2520 UV
2521 Perl_sv_2uv_flags(pTHX_ SV *const sv, const I32 flags)
2522 {
2523     PERL_ARGS_ASSERT_SV_2UV_FLAGS;
2524
2525     if (SvGMAGICAL(sv) && (flags & SV_GMAGIC))
2526         mg_get(sv);
2527
2528     if (SvROK(sv)) {
2529         if (SvAMAGIC(sv)) {
2530             SV *tmpstr;
2531             if (flags & SV_SKIP_OVERLOAD)
2532                 return 0;
2533             tmpstr = AMG_CALLunary(sv, numer_amg);
2534             if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2535                 return SvUV(tmpstr);
2536             }
2537         }
2538         return PTR2UV(SvRV(sv));
2539     }
2540
2541     if (SvVALID(sv) || isREGEXP(sv)) {
2542         /* FBMs use the space for SvIVX and SvNVX for other purposes, and use
2543            the same flag bit as SVf_IVisUV, so must not let them cache IVs.  
2544            Regexps have no SvIVX and SvNVX fields. */
2545         assert(SvPOKp(sv));
2546         {
2547             UV value;
2548             const char * const ptr =
2549                 isREGEXP(sv) ? RX_WRAPPED((REGEXP*)sv) : SvPVX_const(sv);
2550             const int numtype
2551                 = grok_number(ptr, SvCUR(sv), &value);
2552
2553             if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2554                 == IS_NUMBER_IN_UV) {
2555                 /* It's definitely an integer */
2556                 if (!(numtype & IS_NUMBER_NEG))
2557                     return value;
2558             }
2559
2560             /* Quite wrong but no good choices. */
2561             if ((numtype & IS_NUMBER_INFINITY)) {
2562                 return UV_MAX; /* So wrong. */
2563             } else if ((numtype & IS_NUMBER_NAN)) {
2564                 return 0; /* So wrong. */
2565             }
2566
2567             if (!numtype) {
2568                 if (ckWARN(WARN_NUMERIC))
2569                     not_a_number(sv);
2570             }
2571             return U_V(Atof(ptr));
2572         }
2573     }
2574
2575     if (SvTHINKFIRST(sv)) {
2576         if (SvREADONLY(sv) && !SvOK(sv)) {
2577             if (ckWARN(WARN_UNINITIALIZED))
2578                 report_uninit(sv);
2579             return 0;
2580         }
2581     }
2582
2583     if (!SvIOKp(sv)) {
2584         if (S_sv_2iuv_common(aTHX_ sv))
2585             return 0;
2586     }
2587
2588     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2uv(%" UVuf ")\n",
2589                           PTR2UV(sv),SvUVX(sv)));
2590     return SvIsUV(sv) ? SvUVX(sv) : (UV)SvIVX(sv);
2591 }
2592
2593 /*
2594 =for apidoc sv_2nv_flags
2595
2596 Return the num value of an SV, doing any necessary string or integer
2597 conversion.  If C<flags> has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.
2598 Normally used via the C<SvNV(sv)> and C<SvNVx(sv)> macros.
2599
2600 =cut
2601 */
2602
2603 NV
2604 Perl_sv_2nv_flags(pTHX_ SV *const sv, const I32 flags)
2605 {
2606     PERL_ARGS_ASSERT_SV_2NV_FLAGS;
2607
2608     assert (SvTYPE(sv) != SVt_PVAV && SvTYPE(sv) != SVt_PVHV
2609          && SvTYPE(sv) != SVt_PVFM);
2610     if (SvGMAGICAL(sv) || SvVALID(sv) || isREGEXP(sv)) {
2611         /* FBMs use the space for SvIVX and SvNVX for other purposes, and use
2612            the same flag bit as SVf_IVisUV, so must not let them cache NVs.
2613            Regexps have no SvIVX and SvNVX fields.  */
2614         const char *ptr;
2615         if (flags & SV_GMAGIC)
2616             mg_get(sv);
2617         if (SvNOKp(sv))
2618             return SvNVX(sv);
2619         if (SvPOKp(sv) && !SvIOKp(sv)) {
2620             ptr = SvPVX_const(sv);
2621             if (!SvIOKp(sv) && ckWARN(WARN_NUMERIC) &&
2622                 !grok_number(ptr, SvCUR(sv), NULL))
2623                 not_a_number(sv);
2624             return Atof(ptr);
2625         }
2626         if (SvIOKp(sv)) {
2627             if (SvIsUV(sv))
2628                 return (NV)SvUVX(sv);
2629             else
2630                 return (NV)SvIVX(sv);
2631         }
2632         if (SvROK(sv)) {
2633             goto return_rok;
2634         }
2635         assert(SvTYPE(sv) >= SVt_PVMG);
2636         /* This falls through to the report_uninit near the end of the
2637            function. */
2638     } else if (SvTHINKFIRST(sv)) {
2639         if (SvROK(sv)) {
2640         return_rok:
2641             if (SvAMAGIC(sv)) {
2642                 SV *tmpstr;
2643                 if (flags & SV_SKIP_OVERLOAD)
2644                     return 0;
2645                 tmpstr = AMG_CALLunary(sv, numer_amg);
2646                 if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2647                     return SvNV(tmpstr);
2648                 }
2649             }
2650             return PTR2NV(SvRV(sv));
2651         }
2652         if (SvREADONLY(sv) && !SvOK(sv)) {
2653             if (ckWARN(WARN_UNINITIALIZED))
2654                 report_uninit(sv);
2655             return 0.0;
2656         }
2657     }
2658     if (SvTYPE(sv) < SVt_NV) {
2659         /* The logic to use SVt_PVNV if necessary is in sv_upgrade.  */
2660         sv_upgrade(sv, SVt_NV);
2661         CLANG_DIAG_IGNORE_STMT(-Wthread-safety);
2662         DEBUG_c({
2663             DECLARATION_FOR_LC_NUMERIC_MANIPULATION;
2664             STORE_LC_NUMERIC_SET_STANDARD();
2665             PerlIO_printf(Perl_debug_log,
2666                           "0x%" UVxf " num(%" NVgf ")\n",
2667                           PTR2UV(sv), SvNVX(sv));
2668             RESTORE_LC_NUMERIC();
2669         });
2670         CLANG_DIAG_RESTORE_STMT;
2671
2672     }
2673     else if (SvTYPE(sv) < SVt_PVNV)
2674         sv_upgrade(sv, SVt_PVNV);
2675     if (SvNOKp(sv)) {
2676         return SvNVX(sv);
2677     }
2678     if (SvIOKp(sv)) {
2679         SvNV_set(sv, SvIsUV(sv) ? (NV)SvUVX(sv) : (NV)SvIVX(sv));
2680 #ifdef NV_PRESERVES_UV
2681         if (SvIOK(sv))
2682             SvNOK_on(sv);
2683         else
2684             SvNOKp_on(sv);
2685 #else
2686         /* Only set the public NV OK flag if this NV preserves the IV  */
2687         /* Check it's not 0xFFFFFFFFFFFFFFFF */
2688         if (SvIOK(sv) &&
2689             SvIsUV(sv) ? ((SvUVX(sv) != UV_MAX)&&(SvUVX(sv) == U_V(SvNVX(sv))))
2690                        : (SvIVX(sv) == I_V(SvNVX(sv))))
2691             SvNOK_on(sv);
2692         else
2693             SvNOKp_on(sv);
2694 #endif
2695     }
2696     else if (SvPOKp(sv)) {
2697         UV value;
2698         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), &value);
2699         if (!SvIOKp(sv) && !numtype && ckWARN(WARN_NUMERIC))
2700             not_a_number(sv);
2701 #ifdef NV_PRESERVES_UV
2702         if ((numtype & (IS_NUMBER_IN_UV | IS_NUMBER_NOT_INT))
2703             == IS_NUMBER_IN_UV) {
2704             /* It's definitely an integer */
2705             SvNV_set(sv, (numtype & IS_NUMBER_NEG) ? -(NV)value : (NV)value);
2706         } else {
2707             S_sv_setnv(aTHX_ sv, numtype);
2708         }
2709         if (numtype)
2710             SvNOK_on(sv);
2711         else
2712             SvNOKp_on(sv);
2713 #else
2714         SvNV_set(sv, Atof(SvPVX_const(sv)));
2715         /* Only set the public NV OK flag if this NV preserves the value in
2716            the PV at least as well as an IV/UV would.
2717            Not sure how to do this 100% reliably. */
2718         /* if that shift count is out of range then Configure's test is
2719            wonky. We shouldn't be in here with NV_PRESERVES_UV_BITS ==
2720            UV_BITS */
2721         if (((UV)1 << NV_PRESERVES_UV_BITS) >
2722             U_V(SvNVX(sv) > 0 ? SvNVX(sv) : -SvNVX(sv))) {
2723             SvNOK_on(sv); /* Definitely small enough to preserve all bits */
2724         } else if (!(numtype & IS_NUMBER_IN_UV)) {
2725             /* Can't use strtol etc to convert this string, so don't try.
2726                sv_2iv and sv_2uv will use the NV to convert, not the PV.  */
2727             SvNOK_on(sv);
2728         } else {
2729             /* value has been set.  It may not be precise.  */
2730             if ((numtype & IS_NUMBER_NEG) && (value >= (UV)IV_MIN)) {
2731                 /* 2s complement assumption for (UV)IV_MIN  */
2732                 SvNOK_on(sv); /* Integer is too negative.  */
2733             } else {
2734                 SvNOKp_on(sv);
2735                 SvIOKp_on(sv);
2736
2737                 if (numtype & IS_NUMBER_NEG) {
2738                     /* -IV_MIN is undefined, but we should never reach
2739                      * this point with both IS_NUMBER_NEG and value ==
2740                      * (UV)IV_MIN */
2741                     assert(value != (UV)IV_MIN);
2742                     SvIV_set(sv, -(IV)value);
2743                 } else if (value <= (UV)IV_MAX) {
2744                     SvIV_set(sv, (IV)value);
2745                 } else {
2746                     SvUV_set(sv, value);
2747                     SvIsUV_on(sv);
2748                 }
2749
2750                 if (numtype & IS_NUMBER_NOT_INT) {
2751                     /* I believe that even if the original PV had decimals,
2752                        they are lost beyond the limit of the FP precision.
2753                        However, neither is canonical, so both only get p
2754                        flags.  NWC, 2000/11/25 */
2755                     /* Both already have p flags, so do nothing */
2756                 } else {
2757                     const NV nv = SvNVX(sv);
2758                     /* XXX should this spot have NAN_COMPARE_BROKEN, too? */
2759                     if (SvNVX(sv) < (NV)IV_MAX + 0.5) {
2760                         if (SvIVX(sv) == I_V(nv)) {
2761                             SvNOK_on(sv);
2762                         } else {
2763                             /* It had no "." so it must be integer.  */
2764                         }
2765                         SvIOK_on(sv);
2766                     } else {
2767                         /* between IV_MAX and NV(UV_MAX).
2768                            Could be slightly > UV_MAX */
2769
2770                         if (numtype & IS_NUMBER_NOT_INT) {
2771                             /* UV and NV both imprecise.  */
2772                         } else {
2773                             const UV nv_as_uv = U_V(nv);
2774
2775                             if (value == nv_as_uv && SvUVX(sv) != UV_MAX) {
2776                                 SvNOK_on(sv);
2777                             }
2778                             SvIOK_on(sv);
2779                         }
2780                     }
2781                 }
2782             }
2783         }
2784         /* It might be more code efficient to go through the entire logic above
2785            and conditionally set with SvNOKp_on() rather than SvNOK(), but it
2786            gets complex and potentially buggy, so more programmer efficient
2787            to do it this way, by turning off the public flags:  */
2788         if (!numtype)
2789             SvFLAGS(sv) &= ~(SVf_IOK|SVf_NOK);
2790 #endif /* NV_PRESERVES_UV */
2791     }
2792     else  {
2793         if (isGV_with_GP(sv)) {
2794             glob_2number(MUTABLE_GV(sv));
2795             return 0.0;
2796         }
2797
2798         if (!PL_localizing && ckWARN(WARN_UNINITIALIZED))
2799             report_uninit(sv);
2800         assert (SvTYPE(sv) >= SVt_NV);
2801         /* Typically the caller expects that sv_any is not NULL now.  */
2802         /* XXX Ilya implies that this is a bug in callers that assume this
2803            and ideally should be fixed.  */
2804         return 0.0;
2805     }
2806     CLANG_DIAG_IGNORE_STMT(-Wthread-safety);
2807     DEBUG_c({
2808         DECLARATION_FOR_LC_NUMERIC_MANIPULATION;
2809         STORE_LC_NUMERIC_SET_STANDARD();
2810         PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2nv(%" NVgf ")\n",
2811                       PTR2UV(sv), SvNVX(sv));
2812         RESTORE_LC_NUMERIC();
2813     });
2814     CLANG_DIAG_RESTORE_STMT;
2815     return SvNVX(sv);
2816 }
2817
2818 /*
2819 =for apidoc sv_2num
2820
2821 Return an SV with the numeric value of the source SV, doing any necessary
2822 reference or overload conversion.  The caller is expected to have handled
2823 get-magic already.
2824
2825 =cut
2826 */
2827
2828 SV *
2829 Perl_sv_2num(pTHX_ SV *const sv)
2830 {
2831     PERL_ARGS_ASSERT_SV_2NUM;
2832
2833     if (!SvROK(sv))
2834         return sv;
2835     if (SvAMAGIC(sv)) {
2836         SV * const tmpsv = AMG_CALLunary(sv, numer_amg);
2837         TAINT_IF(tmpsv && SvTAINTED(tmpsv));
2838         if (tmpsv && (!SvROK(tmpsv) || (SvRV(tmpsv) != SvRV(sv))))
2839             return sv_2num(tmpsv);
2840     }
2841     return sv_2mortal(newSVuv(PTR2UV(SvRV(sv))));
2842 }
2843
2844 /* int2str_table: lookup table containing string representations of all
2845  * two digit numbers. For example, int2str_table.arr[0] is "00" and
2846  * int2str_table.arr[12*2] is "12".
2847  *
2848  * We are going to read two bytes at a time, so we have to ensure that
2849  * the array is aligned to a 2 byte boundary. That's why it was made a
2850  * union with a dummy U16 member. */
2851 static const union {
2852     char arr[200];
2853     U16 dummy;
2854 } int2str_table = {{
2855     '0', '0', '0', '1', '0', '2', '0', '3', '0', '4', '0', '5', '0', '6',
2856     '0', '7', '0', '8', '0', '9', '1', '0', '1', '1', '1', '2', '1', '3',
2857     '1', '4', '1', '5', '1', '6', '1', '7', '1', '8', '1', '9', '2', '0',
2858     '2', '1', '2', '2', '2', '3', '2', '4', '2', '5', '2', '6', '2', '7',
2859     '2', '8', '2', '9', '3', '0', '3', '1', '3', '2', '3', '3', '3', '4',
2860     '3', '5', '3', '6', '3', '7', '3', '8', '3', '9', '4', '0', '4', '1',
2861     '4', '2', '4', '3', '4', '4', '4', '5', '4', '6', '4', '7', '4', '8',
2862     '4', '9', '5', '0', '5', '1', '5', '2', '5', '3', '5', '4', '5', '5',
2863     '5', '6', '5', '7', '5', '8', '5', '9', '6', '0', '6', '1', '6', '2',
2864     '6', '3', '6', '4', '6', '5', '6', '6', '6', '7', '6', '8', '6', '9',
2865     '7', '0', '7', '1', '7', '2', '7', '3', '7', '4', '7', '5', '7', '6',
2866     '7', '7', '7', '8', '7', '9', '8', '0', '8', '1', '8', '2', '8', '3',
2867     '8', '4', '8', '5', '8', '6', '8', '7', '8', '8', '8', '9', '9', '0',
2868     '9', '1', '9', '2', '9', '3', '9', '4', '9', '5', '9', '6', '9', '7',
2869     '9', '8', '9', '9'
2870 }};
2871
2872 /* uiv_2buf(): private routine for use by sv_2pv_flags(): print an IV or
2873  * UV as a string towards the end of buf, and return pointers to start and
2874  * end of it.
2875  *
2876  * We assume that buf is at least TYPE_CHARS(UV) long.
2877  */
2878
2879 PERL_STATIC_INLINE char *
2880 S_uiv_2buf(char *const buf, const IV iv, UV uv, const int is_uv, char **const peob)
2881 {
2882     char *ptr = buf + TYPE_CHARS(UV);
2883     char * const ebuf = ptr;
2884     int sign;
2885     U16 *word_ptr, *word_table;
2886
2887     PERL_ARGS_ASSERT_UIV_2BUF;
2888
2889     /* ptr has to be properly aligned, because we will cast it to U16* */
2890     assert(PTR2nat(ptr) % 2 == 0);
2891     /* we are going to read/write two bytes at a time */
2892     word_ptr = (U16*)ptr;
2893     word_table = (U16*)int2str_table.arr;
2894
2895     if (UNLIKELY(is_uv))
2896         sign = 0;
2897     else if (iv >= 0) {
2898         uv = iv;
2899         sign = 0;
2900     } else {
2901         /* Using 0- here to silence bogus warning from MS VC */
2902         uv = (UV) (0 - (UV) iv);
2903         sign = 1;
2904     }
2905
2906     while (uv > 99) {
2907         *--word_ptr = word_table[uv % 100];
2908         uv /= 100;
2909     }
2910     ptr = (char*)word_ptr;
2911
2912     if (uv < 10)
2913         *--ptr = (char)uv + '0';
2914     else {
2915         *--word_ptr = word_table[uv];
2916         ptr = (char*)word_ptr;
2917     }
2918
2919     if (sign)
2920         *--ptr = '-';
2921
2922     *peob = ebuf;
2923     return ptr;
2924 }
2925
2926 /* Helper for sv_2pv_flags and sv_vcatpvfn_flags.  If the NV is an
2927  * infinity or a not-a-number, writes the appropriate strings to the
2928  * buffer, including a zero byte.  On success returns the written length,
2929  * excluding the zero byte, on failure (not an infinity, not a nan)
2930  * returns zero, assert-fails on maxlen being too short.
2931  *
2932  * XXX for "Inf", "-Inf", and "NaN", we could have three read-only
2933  * shared string constants we point to, instead of generating a new
2934  * string for each instance. */
2935 STATIC size_t
2936 S_infnan_2pv(NV nv, char* buffer, size_t maxlen, char plus) {
2937     char* s = buffer;
2938     assert(maxlen >= 4);
2939     if (Perl_isinf(nv)) {
2940         if (nv < 0) {
2941             if (maxlen < 5) /* "-Inf\0"  */
2942                 return 0;
2943             *s++ = '-';
2944         } else if (plus) {
2945             *s++ = '+';
2946         }
2947         *s++ = 'I';
2948         *s++ = 'n';
2949         *s++ = 'f';
2950     }
2951     else if (Perl_isnan(nv)) {
2952         *s++ = 'N';
2953         *s++ = 'a';
2954         *s++ = 'N';
2955         /* XXX optionally output the payload mantissa bits as
2956          * "(unsigned)" (to match the nan("...") C99 function,
2957          * or maybe as "(0xhhh...)"  would make more sense...
2958          * provide a format string so that the user can decide?
2959          * NOTE: would affect the maxlen and assert() logic.*/
2960     }
2961     else {
2962       return 0;
2963     }
2964     assert((s == buffer + 3) || (s == buffer + 4));
2965     *s = 0;
2966     return s - buffer;
2967 }
2968
2969 /*
2970 =for apidoc sv_2pv_flags
2971
2972 Returns a pointer to the string value of an SV, and sets C<*lp> to its length.
2973 If flags has the C<SV_GMAGIC> bit set, does an C<mg_get()> first.  Coerces C<sv> to a
2974 string if necessary.  Normally invoked via the C<SvPV_flags> macro.
2975 C<sv_2pv()> and C<sv_2pv_nomg> usually end up here too.
2976
2977 =cut
2978 */
2979
2980 char *
2981 Perl_sv_2pv_flags(pTHX_ SV *const sv, STRLEN *const lp, const I32 flags)
2982 {
2983     char *s;
2984
2985     PERL_ARGS_ASSERT_SV_2PV_FLAGS;
2986
2987     assert (SvTYPE(sv) != SVt_PVAV && SvTYPE(sv) != SVt_PVHV
2988          && SvTYPE(sv) != SVt_PVFM);
2989     if (SvGMAGICAL(sv) && (flags & SV_GMAGIC))
2990         mg_get(sv);
2991     if (SvROK(sv)) {
2992         if (SvAMAGIC(sv)) {
2993             SV *tmpstr;
2994             if (flags & SV_SKIP_OVERLOAD)
2995                 return NULL;
2996             tmpstr = AMG_CALLunary(sv, string_amg);
2997             TAINT_IF(tmpstr && SvTAINTED(tmpstr));
2998             if (tmpstr && (!SvROK(tmpstr) || (SvRV(tmpstr) != SvRV(sv)))) {
2999                 /* Unwrap this:  */
3000                 /* char *pv = lp ? SvPV(tmpstr, *lp) : SvPV_nolen(tmpstr);
3001                  */
3002
3003                 char *pv;
3004                 if ((SvFLAGS(tmpstr) & (SVf_POK)) == SVf_POK) {
3005                     if (flags & SV_CONST_RETURN) {
3006                         pv = (char *) SvPVX_const(tmpstr);
3007                     } else {
3008                         pv = (flags & SV_MUTABLE_RETURN)
3009                             ? SvPVX_mutable(tmpstr) : SvPVX(tmpstr);
3010                     }
3011                     if (lp)
3012                         *lp = SvCUR(tmpstr);
3013                 } else {
3014                     pv = sv_2pv_flags(tmpstr, lp, flags);
3015                 }
3016                 if (SvUTF8(tmpstr))
3017                     SvUTF8_on(sv);
3018                 else
3019                     SvUTF8_off(sv);
3020                 return pv;
3021             }
3022         }
3023         {
3024             STRLEN len;
3025             char *retval;
3026             char *buffer;
3027             SV *const referent = SvRV(sv);
3028
3029             if (!referent) {
3030                 len = 7;
3031                 retval = buffer = savepvn("NULLREF", len);
3032             } else if (SvTYPE(referent) == SVt_REGEXP &&
3033                        (!(PL_curcop->cop_hints & HINT_NO_AMAGIC) ||
3034                         amagic_is_enabled(string_amg))) {
3035                 REGEXP * const re = (REGEXP *)MUTABLE_PTR(referent);
3036
3037                 assert(re);
3038                         
3039                 /* If the regex is UTF-8 we want the containing scalar to
3040                    have an UTF-8 flag too */
3041                 if (RX_UTF8(re))
3042                     SvUTF8_on(sv);
3043                 else
3044                     SvUTF8_off(sv);     
3045
3046                 if (lp)
3047                     *lp = RX_WRAPLEN(re);
3048  
3049                 return RX_WRAPPED(re);
3050             } else {
3051                 const char *const typestr = sv_reftype(referent, 0);
3052                 const STRLEN typelen = strlen(typestr);
3053                 UV addr = PTR2UV(referent);
3054                 const char *stashname = NULL;
3055                 STRLEN stashnamelen = 0; /* hush, gcc */
3056                 const char *buffer_end;
3057
3058                 if (SvOBJECT(referent)) {
3059                     const HEK *const name = HvNAME_HEK(SvSTASH(referent));
3060
3061                     if (name) {
3062                         stashname = HEK_KEY(name);
3063                         stashnamelen = HEK_LEN(name);
3064
3065                         if (HEK_UTF8(name)) {
3066                             SvUTF8_on(sv);
3067                         } else {
3068                             SvUTF8_off(sv);
3069                         }
3070                     } else {
3071                         stashname = "__ANON__";
3072                         stashnamelen = 8;
3073                     }
3074                     len = stashnamelen + 1 /* = */ + typelen + 3 /* (0x */
3075                         + 2 * sizeof(UV) + 2 /* )\0 */;
3076                 } else {
3077                     len = typelen + 3 /* (0x */
3078                         + 2 * sizeof(UV) + 2 /* )\0 */;
3079                 }
3080
3081                 Newx(buffer, len, char);
3082                 buffer_end = retval = buffer + len;
3083
3084                 /* Working backwards  */
3085                 *--retval = '\0';
3086                 *--retval = ')';
3087                 do {
3088                     *--retval = PL_hexdigit[addr & 15];
3089                 } while (addr >>= 4);
3090                 *--retval = 'x';
3091                 *--retval = '0';
3092                 *--retval = '(';
3093
3094                 retval -= typelen;
3095                 memcpy(retval, typestr, typelen);
3096
3097                 if (stashname) {
3098                     *--retval = '=';
3099                     retval -= stashnamelen;
3100                     memcpy(retval, stashname, stashnamelen);
3101                 }
3102                 /* retval may not necessarily have reached the start of the
3103                    buffer here.  */
3104                 assert (retval >= buffer);
3105
3106                 len = buffer_end - retval - 1; /* -1 for that \0  */
3107             }
3108             if (lp)
3109                 *lp = len;
3110             SAVEFREEPV(buffer);
3111             return retval;
3112         }
3113     }
3114
3115     if (SvPOKp(sv)) {
3116         if (lp)
3117             *lp = SvCUR(sv);
3118         if (flags & SV_MUTABLE_RETURN)
3119             return SvPVX_mutable(sv);
3120         if (flags & SV_CONST_RETURN)
3121             return (char *)SvPVX_const(sv);
3122         return SvPVX(sv);
3123     }
3124
3125     if (SvIOK(sv)) {
3126         /* I'm assuming that if both IV and NV are equally valid then
3127            converting the IV is going to be more efficient */
3128         const U32 isUIOK = SvIsUV(sv);
3129         /* The purpose of this union is to ensure that arr is aligned on
3130            a 2 byte boundary, because that is what uiv_2buf() requires */
3131         union {
3132             char arr[TYPE_CHARS(UV)];
3133             U16 dummy;
3134         } buf;
3135         char *ebuf, *ptr;
3136         STRLEN len;
3137
3138         if (SvTYPE(sv) < SVt_PVIV)
3139             sv_upgrade(sv, SVt_PVIV);
3140         ptr = uiv_2buf(buf.arr, SvIVX(sv), SvUVX(sv), isUIOK, &ebuf);
3141         len = ebuf - ptr;
3142         /* inlined from sv_setpvn */
3143         s = SvGROW_mutable(sv, len + 1);
3144         Move(ptr, s, len, char);
3145         s += len;
3146         *s = '\0';
3147         SvPOK_on(sv);
3148     }
3149     else if (SvNOK(sv)) {
3150         if (SvTYPE(sv) < SVt_PVNV)
3151             sv_upgrade(sv, SVt_PVNV);
3152         if (SvNVX(sv) == 0.0
3153 #if defined(NAN_COMPARE_BROKEN) && defined(Perl_isnan)
3154             && !Perl_isnan(SvNVX(sv))
3155 #endif
3156         ) {
3157             s = SvGROW_mutable(sv, 2);
3158             *s++ = '0';
3159             *s = '\0';
3160         } else {
3161             STRLEN len;
3162             STRLEN size = 5; /* "-Inf\0" */
3163
3164             s = SvGROW_mutable(sv, size);
3165             len = S_infnan_2pv(SvNVX(sv), s, size, 0);
3166             if (len > 0) {
3167                 s += len;
3168                 SvPOK_on(sv);
3169             }
3170             else {
3171                 /* some Xenix systems wipe out errno here */
3172                 dSAVE_ERRNO;
3173
3174                 size =
3175                     1 + /* sign */
3176                     1 + /* "." */
3177                     NV_DIG +
3178                     1 + /* "e" */
3179                     1 + /* sign */
3180                     5 + /* exponent digits */
3181                     1 + /* \0 */
3182                     2; /* paranoia */
3183
3184                 s = SvGROW_mutable(sv, size);
3185 #ifndef USE_LOCALE_NUMERIC
3186                 SNPRINTF_G(SvNVX(sv), s, SvLEN(sv), NV_DIG);
3187
3188                 SvPOK_on(sv);
3189 #else
3190                 {
3191                     bool local_radix;
3192                     DECLARATION_FOR_LC_NUMERIC_MANIPULATION;
3193                     STORE_LC_NUMERIC_SET_TO_NEEDED();
3194
3195                     local_radix = _NOT_IN_NUMERIC_STANDARD;
3196                     if (local_radix && SvCUR(PL_numeric_radix_sv) > 1) {
3197                         size += SvCUR(PL_numeric_radix_sv) - 1;
3198                         s = SvGROW_mutable(sv, size);
3199                     }
3200
3201                     SNPRINTF_G(SvNVX(sv), s, SvLEN(sv), NV_DIG);
3202
3203                     /* If the radix character is UTF-8, and actually is in the
3204                      * output, turn on the UTF-8 flag for the scalar */
3205                     if (   local_radix
3206                         && SvUTF8(PL_numeric_radix_sv)
3207                         && instr(s, SvPVX_const(PL_numeric_radix_sv)))
3208                     {
3209                         SvUTF8_on(sv);
3210                     }
3211
3212                     RESTORE_LC_NUMERIC();
3213                 }
3214
3215                 /* We don't call SvPOK_on(), because it may come to
3216                  * pass that the locale changes so that the
3217                  * stringification we just did is no longer correct.  We
3218                  * will have to re-stringify every time it is needed */
3219 #endif
3220                 RESTORE_ERRNO;
3221             }
3222             while (*s) s++;
3223         }
3224     }
3225     else if (isGV_with_GP(sv)) {
3226         GV *const gv = MUTABLE_GV(sv);
3227         SV *const buffer = sv_newmortal();
3228
3229         gv_efullname3(buffer, gv, "*");
3230
3231         assert(SvPOK(buffer));
3232         if (SvUTF8(buffer))
3233             SvUTF8_on(sv);
3234         else
3235             SvUTF8_off(sv);
3236         if (lp)
3237             *lp = SvCUR(buffer);
3238         return SvPVX(buffer);
3239     }
3240     else {
3241         if (lp)
3242             *lp = 0;
3243         if (flags & SV_UNDEF_RETURNS_NULL)
3244             return NULL;
3245         if (!PL_localizing && ckWARN(WARN_UNINITIALIZED))
3246             report_uninit(sv);
3247         /* Typically the caller expects that sv_any is not NULL now.  */
3248         if (!SvREADONLY(sv) && SvTYPE(sv) < SVt_PV)
3249             sv_upgrade(sv, SVt_PV);
3250         return (char *)"";
3251     }
3252
3253     {
3254         const STRLEN len = s - SvPVX_const(sv);
3255         if (lp) 
3256             *lp = len;
3257         SvCUR_set(sv, len);
3258     }
3259     DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2pv(%s)\n",
3260                           PTR2UV(sv),SvPVX_const(sv)));
3261     if (flags & SV_CONST_RETURN)
3262         return (char *)SvPVX_const(sv);
3263     if (flags & SV_MUTABLE_RETURN)
3264         return SvPVX_mutable(sv);
3265     return SvPVX(sv);
3266 }
3267
3268 /*
3269 =for apidoc sv_copypv
3270
3271 Copies a stringified representation of the source SV into the
3272 destination SV.  Automatically performs any necessary C<mg_get> and
3273 coercion of numeric values into strings.  Guaranteed to preserve
3274 C<UTF8> flag even from overloaded objects.  Similar in nature to
3275 C<sv_2pv[_flags]> but operates directly on an SV instead of just the
3276 string.  Mostly uses C<sv_2pv_flags> to do its work, except when that
3277 would lose the UTF-8'ness of the PV.
3278
3279 =for apidoc sv_copypv_nomg
3280
3281 Like C<sv_copypv>, but doesn't invoke get magic first.
3282
3283 =for apidoc sv_copypv_flags
3284
3285 Implementation of C<sv_copypv> and C<sv_copypv_nomg>.  Calls get magic iff flags
3286 has the C<SV_GMAGIC> bit set.
3287
3288 =cut
3289 */
3290
3291 void
3292 Perl_sv_copypv_flags(pTHX_ SV *const dsv, SV *const ssv, const I32 flags)
3293 {
3294     STRLEN len;
3295     const char *s;
3296
3297     PERL_ARGS_ASSERT_SV_COPYPV_FLAGS;
3298
3299     s = SvPV_flags_const(ssv,len,(flags & SV_GMAGIC));
3300     sv_setpvn(dsv,s,len);
3301     if (SvUTF8(ssv))
3302         SvUTF8_on(dsv);
3303     else
3304         SvUTF8_off(dsv);
3305 }
3306
3307 /*
3308 =for apidoc sv_2pvbyte
3309
3310 Return a pointer to the byte-encoded representation of the SV, and set C<*lp>
3311 to its length.  May cause the SV to be downgraded from UTF-8 as a
3312 side-effect.
3313
3314 Usually accessed via the C<SvPVbyte> macro.
3315
3316 =cut
3317 */
3318
3319 char *
3320 Perl_sv_2pvbyte_flags(pTHX_ SV *sv, STRLEN *const lp, const U32 flags)
3321 {
3322     PERL_ARGS_ASSERT_SV_2PVBYTE_FLAGS;
3323
3324     if (SvGMAGICAL(sv) && (flags & SV_GMAGIC))
3325         mg_get(sv);
3326     if (((SvREADONLY(sv) || SvFAKE(sv)) && !SvIsCOW(sv))
3327      || isGV_with_GP(sv) || SvROK(sv)) {
3328         SV *sv2 = sv_newmortal();
3329         sv_copypv_nomg(sv2,sv);
3330         sv = sv2;
3331     }
3332     sv_utf8_downgrade_nomg(sv,0);
3333     return lp ? SvPV_nomg(sv,*lp) : SvPV_nomg_nolen(sv);
3334 }
3335
3336 /*
3337 =for apidoc sv_2pvutf8
3338
3339 Return a pointer to the UTF-8-encoded representation of the SV, and set C<*lp>
3340 to its length.  May cause the SV to be upgraded to UTF-8 as a side-effect.
3341
3342 Usually accessed via the C<SvPVutf8> macro.
3343
3344 =cut
3345 */
3346
3347 char *
3348 Perl_sv_2pvutf8_flags(pTHX_ SV *sv, STRLEN *const lp, const U32 flags)
3349 {
3350     PERL_ARGS_ASSERT_SV_2PVUTF8_FLAGS;
3351
3352     if (SvGMAGICAL(sv) && (flags & SV_GMAGIC))
3353         mg_get(sv);
3354     if (((SvREADONLY(sv) || SvFAKE(sv)) && !SvIsCOW(sv))
3355      || isGV_with_GP(sv) || SvROK(sv)) {
3356         SV *sv2 = sv_newmortal();
3357         sv_copypv_nomg(sv2,sv);
3358         sv = sv2;
3359     }
3360     sv_utf8_upgrade_nomg(sv);
3361     return lp ? SvPV_nomg(sv,*lp) : SvPV_nomg_nolen(sv);
3362 }
3363
3364
3365 /*
3366 =for apidoc sv_2bool
3367
3368 This macro is only used by C<sv_true()> or its macro equivalent, and only if
3369 the latter's argument is neither C<SvPOK>, C<SvIOK> nor C<SvNOK>.
3370 It calls C<sv_2bool_flags> with the C<SV_GMAGIC> flag.
3371
3372 =for apidoc sv_2bool_flags
3373
3374 This function is only used by C<sv_true()> and friends,  and only if
3375 the latter's argument is neither C<SvPOK>, C<SvIOK> nor C<SvNOK>.  If the flags
3376 contain C<SV_GMAGIC>, then it does an C<mg_get()> first.
3377
3378
3379 =cut
3380 */
3381
3382 bool
3383 Perl_sv_2bool_flags(pTHX_ SV *sv, I32 flags)
3384 {
3385     PERL_ARGS_ASSERT_SV_2BOOL_FLAGS;
3386
3387     restart:
3388     if(flags & SV_GMAGIC) SvGETMAGIC(sv);
3389
3390     if (!SvOK(sv))
3391         return 0;
3392     if (SvROK(sv)) {
3393         if (SvAMAGIC(sv)) {
3394             SV * const tmpsv = AMG_CALLunary(sv, bool__amg);
3395             if (tmpsv && (!SvROK(tmpsv) || (SvRV(tmpsv) != SvRV(sv)))) {
3396                 bool svb;
3397                 sv = tmpsv;
3398                 if(SvGMAGICAL(sv)) {
3399                     flags = SV_GMAGIC;
3400                     goto restart; /* call sv_2bool */
3401                 }
3402                 /* expanded SvTRUE_common(sv, (flags = 0, goto restart)) */
3403                 else if(!SvOK(sv)) {
3404                     svb = 0;
3405                 }
3406                 else if(SvPOK(sv)) {
3407                     svb = SvPVXtrue(sv);
3408                 }
3409                 else if((SvFLAGS(sv) & (SVf_IOK|SVf_NOK))) {
3410                     svb = (SvIOK(sv) && SvIVX(sv) != 0)
3411                         || (SvNOK(sv) && SvNVX(sv) != 0.0);
3412                 }
3413                 else {
3414                     flags = 0;
3415                     goto restart; /* call sv_2bool_nomg */
3416                 }
3417                 return cBOOL(svb);
3418             }
3419         }
3420         assert(SvRV(sv));
3421         return TRUE;
3422     }
3423     if (isREGEXP(sv))
3424         return
3425           RX_WRAPLEN(sv) > 1 || (RX_WRAPLEN(sv) && *RX_WRAPPED(sv) != '0');
3426
3427     if (SvNOK(sv) && !SvPOK(sv))
3428         return SvNVX(sv) != 0.0;
3429
3430     return SvTRUE_common(sv, isGV_with_GP(sv) ? 1 : 0);
3431 }
3432
3433 /*
3434 =for apidoc sv_utf8_upgrade
3435
3436 Converts the PV of an SV to its UTF-8-encoded form.
3437 Forces the SV to string form if it is not already.
3438 Will C<mg_get> on C<sv> if appropriate.
3439 Always sets the C<SvUTF8> flag to avoid future validity checks even
3440 if the whole string is the same in UTF-8 as not.
3441 Returns the number of bytes in the converted string
3442
3443 This is not a general purpose byte encoding to Unicode interface:
3444 use the Encode extension for that.
3445
3446 =for apidoc sv_utf8_upgrade_nomg
3447
3448 Like C<sv_utf8_upgrade>, but doesn't do magic on C<sv>.
3449
3450 =for apidoc sv_utf8_upgrade_flags
3451
3452 Converts the PV of an SV to its UTF-8-encoded form.
3453 Forces the SV to string form if it is not already.
3454 Always sets the SvUTF8 flag to avoid future validity checks even
3455 if all the bytes are invariant in UTF-8.
3456 If C<flags> has C<SV_GMAGIC> bit set,
3457 will C<mg_get> on C<sv> if appropriate, else not.
3458
3459 The C<SV_FORCE_UTF8_UPGRADE> flag is now ignored.
3460
3461 Returns the number of bytes in the converted string.
3462
3463 This is not a general purpose byte encoding to Unicode interface:
3464 use the Encode extension for that.
3465
3466 =for apidoc sv_utf8_upgrade_flags_grow
3467
3468 Like C<sv_utf8_upgrade_flags>, but has an additional parameter C<extra>, which is
3469 the number of unused bytes the string of C<sv> is guaranteed to have free after
3470 it upon return.  This allows the caller to reserve extra space that it intends
3471 to fill, to avoid extra grows.
3472
3473 C<sv_utf8_upgrade>, C<sv_utf8_upgrade_nomg>, and C<sv_utf8_upgrade_flags>
3474 are implemented in terms of this function.
3475
3476 Returns the number of bytes in the converted string (not including the spares).
3477
3478 =cut
3479
3480 If the routine itself changes the string, it adds a trailing C<NUL>.  Such a
3481 C<NUL> isn't guaranteed due to having other routines do the work in some input
3482 cases, or if the input is already flagged as being in utf8.
3483
3484 */
3485
3486 STRLEN
3487 Perl_sv_utf8_upgrade_flags_grow(pTHX_ SV *const sv, const I32 flags, STRLEN extra)
3488 {
3489     PERL_ARGS_ASSERT_SV_UTF8_UPGRADE_FLAGS_GROW;
3490
3491     if (sv == &PL_sv_undef)
3492         return 0;
3493     if (!SvPOK_nog(sv)) {
3494         STRLEN len = 0;
3495         if (SvREADONLY(sv) && (SvPOKp(sv) || SvIOKp(sv) || SvNOKp(sv))) {
3496             (void) sv_2pv_flags(sv,&len, flags);
3497             if (SvUTF8(sv)) {
3498                 if (extra) SvGROW(sv, SvCUR(sv) + extra);
3499                 return len;
3500             }
3501         } else {
3502             (void) SvPV_force_flags(sv,len,flags & SV_GMAGIC);
3503         }
3504     }
3505
3506     /* SVt_REGEXP's shouldn't be upgraded to UTF8 - they're already
3507      * compiled and individual nodes will remain non-utf8 even if the
3508      * stringified version of the pattern gets upgraded. Whether the
3509      * PVX of a REGEXP should be grown or we should just croak, I don't
3510      * know - DAPM */
3511     if (SvUTF8(sv) || isREGEXP(sv)) {
3512         if (extra) SvGROW(sv, SvCUR(sv) + extra);
3513         return SvCUR(sv);
3514     }
3515
3516     if (SvIsCOW(sv)) {
3517         S_sv_uncow(aTHX_ sv, 0);
3518     }
3519
3520     if (SvCUR(sv) == 0) {
3521         if (extra) SvGROW(sv, extra + 1); /* Make sure is room for a trailing
3522                                              byte */
3523     } else { /* Assume Latin-1/EBCDIC */
3524         /* This function could be much more efficient if we
3525          * had a FLAG in SVs to signal if there are any variant
3526          * chars in the PV.  Given that there isn't such a flag
3527          * make the loop as fast as possible. */
3528         U8 * s = (U8 *) SvPVX_const(sv);
3529         U8 *t = s;
3530         
3531         if (is_utf8_invariant_string_loc(s, SvCUR(sv), (const U8 **) &t)) {
3532
3533             /* utf8 conversion not needed because all are invariants.  Mark
3534              * as UTF-8 even if no variant - saves scanning loop */
3535             SvUTF8_on(sv);
3536             if (extra) SvGROW(sv, SvCUR(sv) + extra);
3537             return SvCUR(sv);
3538         }
3539
3540         /* Here, there is at least one variant (t points to the first one), so
3541          * the string should be converted to utf8.  Everything from 's' to
3542          * 't - 1' will occupy only 1 byte each on output.
3543          *
3544          * Note that the incoming SV may not have a trailing '\0', as certain
3545          * code in pp_formline can send us partially built SVs.
3546          *
3547          * There are two main ways to convert.  One is to create a new string
3548          * and go through the input starting from the beginning, appending each
3549          * converted value onto the new string as we go along.  Going this
3550          * route, it's probably best to initially allocate enough space in the
3551          * string rather than possibly running out of space and having to
3552          * reallocate and then copy what we've done so far.  Since everything
3553          * from 's' to 't - 1' is invariant, the destination can be initialized
3554          * with these using a fast memory copy.  To be sure to allocate enough
3555          * space, one could use the worst case scenario, where every remaining
3556          * byte expands to two under UTF-8, or one could parse it and count
3557          * exactly how many do expand.
3558          *
3559          * The other way is to unconditionally parse the remainder of the
3560          * string to figure out exactly how big the expanded string will be,
3561          * growing if needed.  Then start at the end of the string and place
3562          * the character there at the end of the unfilled space in the expanded
3563          * one, working backwards until reaching 't'.
3564          *
3565          * The problem with assuming the worst case scenario is that for very
3566          * long strings, we could allocate much more memory than actually
3567          * needed, which can create performance problems.  If we have to parse
3568          * anyway, the second method is the winner as it may avoid an extra
3569          * copy.  The code used to use the first method under some
3570          * circumstances, but now that there is faster variant counting on
3571          * ASCII platforms, the second method is used exclusively, eliminating
3572          * some code that no longer has to be maintained. */
3573
3574         {
3575             /* Count the total number of variants there are.  We can start
3576              * just beyond the first one, which is known to be at 't' */
3577             const Size_t invariant_length = t - s;
3578             U8 * e = (U8 *) SvEND(sv);
3579
3580             /* The length of the left overs, plus 1. */
3581             const Size_t remaining_length_p1 = e - t;
3582
3583             /* We expand by 1 for the variant at 't' and one for each remaining
3584              * variant (we start looking at 't+1') */
3585             Size_t expansion = 1 + variant_under_utf8_count(t + 1, e);
3586
3587             /* +1 = trailing NUL */
3588             Size_t need = SvCUR(sv) + expansion + extra + 1;
3589             U8 * d;
3590
3591             /* Grow if needed */
3592             if (SvLEN(sv) < need) {
3593                 t = invariant_length + (U8*) SvGROW(sv, need);
3594                 e = t + remaining_length_p1;
3595             }
3596             SvCUR_set(sv, invariant_length + remaining_length_p1 + expansion);
3597
3598             /* Set the NUL at the end */
3599             d = (U8 *) SvEND(sv);
3600             *d-- = '\0';
3601
3602             /* Having decremented d, it points to the position to put the
3603              * very last byte of the expanded string.  Go backwards through
3604              * the string, copying and expanding as we go, stopping when we
3605              * get to the part that is invariant the rest of the way down */
3606
3607             e--;
3608             while (e >= t) {
3609                 if (NATIVE_BYTE_IS_INVARIANT(*e)) {
3610                     *d-- = *e;
3611                 } else {
3612                     *d-- = UTF8_EIGHT_BIT_LO(*e);
3613                     *d-- = UTF8_EIGHT_BIT_HI(*e);
3614                 }
3615                 e--;
3616             }
3617
3618             if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
3619                 /* Update pos. We do it at the end rather than during
3620                  * the upgrade, to avoid slowing down the common case
3621                  * (upgrade without pos).
3622                  * pos can be stored as either bytes or characters.  Since
3623                  * this was previously a byte string we can just turn off
3624                  * the bytes flag. */
3625                 MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
3626                 if (mg) {
3627                     mg->mg_flags &= ~MGf_BYTES;
3628                 }
3629                 if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
3630                     magic_setutf8(sv,mg); /* clear UTF8 cache */
3631             }
3632         }
3633     }
3634
3635     SvUTF8_on(sv);
3636     return SvCUR(sv);
3637 }
3638
3639 /*
3640 =for apidoc sv_utf8_downgrade
3641
3642 Attempts to convert the PV of an SV from characters to bytes.
3643 If the PV contains a character that cannot fit
3644 in a byte, this conversion will fail;
3645 in this case, either returns false or, if C<fail_ok> is not
3646 true, croaks.
3647
3648 This is not a general purpose Unicode to byte encoding interface:
3649 use the C<Encode> extension for that.
3650
3651 This function process get magic on C<sv>.
3652
3653 =for apidoc sv_utf8_downgrade_nomg
3654
3655 Like C<sv_utf8_downgrade>, but does not process get magic on C<sv>.
3656
3657 =for apidoc sv_utf8_downgrade_flags
3658
3659 Like C<sv_utf8_downgrade>, but with additional C<flags>.
3660 If C<flags> has C<SV_GMAGIC> bit set, processes get magic on C<sv>.
3661
3662 =cut
3663 */
3664
3665 bool
3666 Perl_sv_utf8_downgrade_flags(pTHX_ SV *const sv, const bool fail_ok, const U32 flags)
3667 {
3668     PERL_ARGS_ASSERT_SV_UTF8_DOWNGRADE_FLAGS;
3669
3670     if (SvPOKp(sv) && SvUTF8(sv)) {
3671         if (SvCUR(sv)) {
3672             U8 *s;
3673             STRLEN len;
3674             U32 mg_flags = flags & SV_GMAGIC;
3675
3676             if (SvIsCOW(sv)) {
3677                 S_sv_uncow(aTHX_ sv, 0);
3678             }
3679             if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
3680                 /* update pos */
3681                 MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
3682                 if (mg && mg->mg_len > 0 && mg->mg_flags & MGf_BYTES) {
3683                         mg->mg_len = sv_pos_b2u_flags(sv, mg->mg_len,
3684                                                 mg_flags|SV_CONST_RETURN);
3685                         mg_flags = 0; /* sv_pos_b2u does get magic */
3686                 }
3687                 if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
3688                     magic_setutf8(sv,mg); /* clear UTF8 cache */
3689
3690             }
3691             s = (U8 *) SvPV_flags(sv, len, mg_flags);
3692
3693             if (!utf8_to_bytes(s, &len)) {
3694                 if (fail_ok)
3695                     return FALSE;
3696                 else {
3697                     if (PL_op)
3698                         Perl_croak(aTHX_ "Wide character in %s",
3699                                    OP_DESC(PL_op));
3700                     else
3701                         Perl_croak(aTHX_ "Wide character");
3702                 }
3703             }
3704             SvCUR_set(sv, len);
3705         }
3706     }
3707     SvUTF8_off(sv);
3708     return TRUE;
3709 }
3710
3711 /*
3712 =for apidoc sv_utf8_encode
3713
3714 Converts the PV of an SV to UTF-8, but then turns the C<SvUTF8>
3715 flag off so that it looks like octets again.
3716
3717 =cut
3718 */
3719
3720 void
3721 Perl_sv_utf8_encode(pTHX_ SV *const sv)
3722 {
3723     PERL_ARGS_ASSERT_SV_UTF8_ENCODE;
3724
3725     if (SvREADONLY(sv)) {
3726         sv_force_normal_flags(sv, 0);
3727     }
3728     (void) sv_utf8_upgrade(sv);
3729     SvUTF8_off(sv);
3730 }
3731
3732 /*
3733 =for apidoc sv_utf8_decode
3734
3735 If the PV of the SV is an octet sequence in Perl's extended UTF-8
3736 and contains a multiple-byte character, the C<SvUTF8> flag is turned on
3737 so that it looks like a character.  If the PV contains only single-byte
3738 characters, the C<SvUTF8> flag stays off.
3739 Scans PV for validity and returns FALSE if the PV is invalid UTF-8.
3740
3741 =cut
3742 */
3743
3744 bool
3745 Perl_sv_utf8_decode(pTHX_ SV *const sv)
3746 {
3747     PERL_ARGS_ASSERT_SV_UTF8_DECODE;
3748
3749     if (SvPOKp(sv)) {
3750         const U8 *start, *c, *first_variant;
3751
3752         /* The octets may have got themselves encoded - get them back as
3753          * bytes
3754          */
3755         if (!sv_utf8_downgrade(sv, TRUE))
3756             return FALSE;
3757
3758         /* it is actually just a matter of turning the utf8 flag on, but
3759          * we want to make sure everything inside is valid utf8 first.
3760          */
3761         c = start = (const U8 *) SvPVX_const(sv);
3762         if (! is_utf8_invariant_string_loc(c, SvCUR(sv), &first_variant)) {
3763             if (!is_utf8_string(first_variant, SvCUR(sv) - (first_variant -c)))
3764                 return FALSE;
3765             SvUTF8_on(sv);
3766         }
3767         if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
3768             /* XXX Is this dead code?  XS_utf8_decode calls SvSETMAGIC
3769                    after this, clearing pos.  Does anything on CPAN
3770                    need this? */
3771             /* adjust pos to the start of a UTF8 char sequence */
3772             MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
3773             if (mg) {
3774                 I32 pos = mg->mg_len;
3775                 if (pos > 0) {
3776                     for (c = start + pos; c > start; c--) {
3777                         if (UTF8_IS_START(*c))
3778                             break;
3779                     }
3780                     mg->mg_len  = c - start;
3781                 }
3782             }
3783             if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
3784                 magic_setutf8(sv,mg); /* clear UTF8 cache */
3785         }
3786     }
3787     return TRUE;
3788 }
3789
3790 /*
3791 =for apidoc sv_setsv
3792
3793 Copies the contents of the source SV C<ssv> into the destination SV
3794 C<dsv>.  The source SV may be destroyed if it is mortal, so don't use this
3795 function if the source SV needs to be reused.  Does not handle 'set' magic on
3796 destination SV.  Calls 'get' magic on source SV.  Loosely speaking, it
3797 performs a copy-by-value, obliterating any previous content of the
3798 destination.
3799
3800 You probably want to use one of the assortment of wrappers, such as
3801 C<SvSetSV>, C<SvSetSV_nosteal>, C<SvSetMagicSV> and
3802 C<SvSetMagicSV_nosteal>.
3803
3804 =for apidoc sv_setsv_flags
3805
3806 Copies the contents of the source SV C<ssv> into the destination SV
3807 C<dsv>.  The source SV may be destroyed if it is mortal, so don't use this
3808 function if the source SV needs to be reused.  Does not handle 'set' magic.
3809 Loosely speaking, it performs a copy-by-value, obliterating any previous
3810 content of the destination.
3811 If the C<flags> parameter has the C<SV_GMAGIC> bit set, will C<mg_get> on
3812 C<ssv> if appropriate, else not.  If the C<flags>
3813 parameter has the C<SV_NOSTEAL> bit set then the
3814 buffers of temps will not be stolen.  C<sv_setsv>
3815 and C<sv_setsv_nomg> are implemented in terms of this function.
3816
3817 You probably want to use one of the assortment of wrappers, such as
3818 C<SvSetSV>, C<SvSetSV_nosteal>, C<SvSetMagicSV> and
3819 C<SvSetMagicSV_nosteal>.
3820
3821 This is the primary function for copying scalars, and most other
3822 copy-ish functions and macros use this underneath.
3823
3824 =for apidoc Amnh||SV_NOSTEAL
3825
3826 =cut
3827 */
3828
3829 static void
3830 S_glob_assign_glob(pTHX_ SV *const dstr, SV *const sstr, const int dtype)
3831 {
3832     I32 mro_changes = 0; /* 1 = method, 2 = isa, 3 = recursive isa */
3833     HV *old_stash = NULL;
3834
3835     PERL_ARGS_ASSERT_GLOB_ASSIGN_GLOB;
3836
3837     if (dtype != SVt_PVGV && !isGV_with_GP(dstr)) {
3838         const char * const name = GvNAME(sstr);
3839         const STRLEN len = GvNAMELEN(sstr);
3840         {
3841             if (dtype >= SVt_PV) {
3842                 SvPV_free(dstr);
3843                 SvPV_set(dstr, 0);
3844                 SvLEN_set(dstr, 0);
3845                 SvCUR_set(dstr, 0);
3846             }
3847             SvUPGRADE(dstr, SVt_PVGV);
3848             (void)SvOK_off(dstr);
3849             isGV_with_GP_on(dstr);
3850         }
3851         GvSTASH(dstr) = GvSTASH(sstr);
3852         if (GvSTASH(dstr))
3853             Perl_sv_add_backref(aTHX_ MUTABLE_SV(GvSTASH(dstr)), dstr);
3854         gv_name_set(MUTABLE_GV(dstr), name, len,
3855                         GV_ADD | (GvNAMEUTF8(sstr) ? SVf_UTF8 : 0 ));
3856         SvFAKE_on(dstr);        /* can coerce to non-glob */
3857     }
3858
3859     if(GvGP(MUTABLE_GV(sstr))) {
3860         /* If source has method cache entry, clear it */
3861         if(GvCVGEN(sstr)) {
3862             SvREFCNT_dec(GvCV(sstr));
3863             GvCV_set(sstr, NULL);
3864             GvCVGEN(sstr) = 0;
3865         }
3866         /* If source has a real method, then a method is
3867            going to change */
3868         else if(
3869          GvCV((const GV *)sstr) && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
3870         ) {
3871             mro_changes = 1;
3872         }
3873     }
3874
3875     /* If dest already had a real method, that's a change as well */
3876     if(
3877         !mro_changes && GvGP(MUTABLE_GV(dstr)) && GvCVu((const GV *)dstr)
3878      && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
3879     ) {
3880         mro_changes = 1;
3881     }
3882
3883     /* We don't need to check the name of the destination if it was not a
3884        glob to begin with. */
3885     if(dtype == SVt_PVGV) {
3886         const char * const name = GvNAME((const GV *)dstr);
3887         const STRLEN len = GvNAMELEN(dstr);
3888         if(memEQs(name, len, "ISA")
3889          /* The stash may have been detached from the symbol table, so
3890             check its name. */
3891          && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
3892         )
3893             mro_changes = 2;
3894         else {
3895             if ((len > 1 && name[len-2] == ':' && name[len-1] == ':')
3896              || (len == 1 && name[0] == ':')) {
3897                 mro_changes = 3;
3898
3899                 /* Set aside the old stash, so we can reset isa caches on
3900                    its subclasses. */
3901                 if((old_stash = GvHV(dstr)))
3902                     /* Make sure we do not lose it early. */
3903                     SvREFCNT_inc_simple_void_NN(
3904                      sv_2mortal((SV *)old_stash)
3905                     );
3906             }
3907         }
3908
3909         SvREFCNT_inc_simple_void_NN(sv_2mortal(dstr));
3910     }
3911
3912     /* freeing dstr's GP might free sstr (e.g. *x = $x),
3913      * so temporarily protect it */
3914     ENTER;
3915     SAVEFREESV(SvREFCNT_inc_simple_NN(sstr));
3916     gp_free(MUTABLE_GV(dstr));
3917     GvINTRO_off(dstr);          /* one-shot flag */
3918     GvGP_set(dstr, gp_ref(GvGP(sstr)));
3919     LEAVE;
3920
3921     if (SvTAINTED(sstr))
3922         SvTAINT(dstr);
3923     if (GvIMPORTED(dstr) != GVf_IMPORTED
3924         && CopSTASH_ne(PL_curcop, GvSTASH(dstr)))
3925         {
3926             GvIMPORTED_on(dstr);
3927         }
3928     GvMULTI_on(dstr);
3929     if(mro_changes == 2) {
3930       if (GvAV((const GV *)sstr)) {
3931         MAGIC *mg;
3932         SV * const sref = (SV *)GvAV((const GV *)dstr);
3933         if (SvSMAGICAL(sref) && (mg = mg_find(sref, PERL_MAGIC_isa))) {
3934             if (SvTYPE(mg->mg_obj) != SVt_PVAV) {
3935                 AV * const ary = newAV();
3936                 av_push(ary, mg->mg_obj); /* takes the refcount */
3937                 mg->mg_obj = (SV *)ary;
3938             }
3939             av_push((AV *)mg->mg_obj, SvREFCNT_inc_simple_NN(dstr));
3940         }
3941         else sv_magic(sref, dstr, PERL_MAGIC_isa, NULL, 0);
3942       }
3943       mro_isa_changed_in(GvSTASH(dstr));
3944     }
3945     else if(mro_changes == 3) {
3946         HV * const stash = GvHV(dstr);
3947         if(old_stash ? (HV *)HvENAME_get(old_stash) : stash)
3948             mro_package_moved(
3949                 stash, old_stash,
3950                 (GV *)dstr, 0
3951             );
3952     }
3953     else if(mro_changes) mro_method_changed_in(GvSTASH(dstr));
3954     if (GvIO(dstr) && dtype == SVt_PVGV) {
3955         DEBUG_o(Perl_deb(aTHX_
3956                         "glob_assign_glob clearing PL_stashcache\n"));
3957         /* It's a cache. It will rebuild itself quite happily.
3958            It's a lot of effort to work out exactly which key (or keys)
3959            might be invalidated by the creation of the this file handle.
3960          */
3961         hv_clear(PL_stashcache);
3962     }
3963     return;
3964 }
3965
3966 void
3967 Perl_gv_setref(pTHX_ SV *const dstr, SV *const sstr)
3968 {
3969     SV * const sref = SvRV(sstr);
3970     SV *dref;
3971     const int intro = GvINTRO(dstr);
3972     SV **location;
3973     U8 import_flag = 0;
3974     const U32 stype = SvTYPE(sref);
3975
3976     PERL_ARGS_ASSERT_GV_SETREF;
3977
3978     if (intro) {
3979         GvINTRO_off(dstr);      /* one-shot flag */
3980         GvLINE(dstr) = CopLINE(PL_curcop);
3981         GvEGV(dstr) = MUTABLE_GV(dstr);
3982     }
3983     GvMULTI_on(dstr);
3984     switch (stype) {
3985     case SVt_PVCV:
3986         location = (SV **) &(GvGP(dstr)->gp_cv); /* XXX bypassing GvCV_set */
3987         import_flag = GVf_IMPORTED_CV;
3988         goto common;
3989     case SVt_PVHV:
3990         location = (SV **) &GvHV(dstr);
3991         import_flag = GVf_IMPORTED_HV;
3992         goto common;
3993     case SVt_PVAV:
3994         location = (SV **) &GvAV(dstr);
3995         import_flag = GVf_IMPORTED_AV;
3996         goto common;
3997     case SVt_PVIO:
3998         location = (SV **) &GvIOp(dstr);
3999         goto common;
4000     case SVt_PVFM:
4001         location = (SV **) &GvFORM(dstr);
4002         goto common;
4003     default:
4004         location = &GvSV(dstr);
4005         import_flag = GVf_IMPORTED_SV;
4006     common:
4007         if (intro) {
4008             if (stype == SVt_PVCV) {
4009                 /*if (GvCVGEN(dstr) && (GvCV(dstr) != (const CV *)sref || GvCVGEN(dstr))) {*/
4010                 if (GvCVGEN(dstr)) {
4011                     SvREFCNT_dec(GvCV(dstr));
4012                     GvCV_set(dstr, NULL);
4013                     GvCVGEN(dstr) = 0; /* Switch off cacheness. */
4014                 }
4015             }
4016             /* SAVEt_GVSLOT takes more room on the savestack and has more
4017                overhead in leave_scope than SAVEt_GENERIC_SV.  But for CVs
4018                leave_scope needs access to the GV so it can reset method
4019                caches.  We must use SAVEt_GVSLOT whenever the type is
4020                SVt_PVCV, even if the stash is anonymous, as the stash may
4021                gain a name somehow before leave_scope. */
4022             if (stype == SVt_PVCV) {
4023                 /* There is no save_pushptrptrptr.  Creating it for this
4024                    one call site would be overkill.  So inline the ss add
4025                    routines here. */
4026                 dSS_ADD;
4027                 SS_ADD_PTR(dstr);
4028                 SS_ADD_PTR(location);
4029                 SS_ADD_PTR(SvREFCNT_inc(*location));
4030                 SS_ADD_UV(SAVEt_GVSLOT);
4031                 SS_ADD_END(4);
4032             }
4033             else SAVEGENERICSV(*location);
4034         }
4035         dref = *location;
4036         if (stype == SVt_PVCV && (*location != sref || GvCVGEN(dstr))) {
4037             CV* const cv = MUTABLE_CV(*location);
4038             if (cv) {
4039                 if (!GvCVGEN((const GV *)dstr) &&
4040                     (CvROOT(cv) || CvXSUB(cv)) &&
4041                     /* redundant check that avoids creating the extra SV
4042                        most of the time: */
4043                     (CvCONST(cv) || ckWARN(WARN_REDEFINE)))
4044                     {
4045                         SV * const new_const_sv =
4046                             CvCONST((const CV *)sref)
4047                                  ? cv_const_sv((const CV *)sref)
4048                                  : NULL;
4049                         HV * const stash = GvSTASH((const GV *)dstr);
4050                         report_redefined_cv(
4051                            sv_2mortal(
4052                              stash
4053                                ? Perl_newSVpvf(aTHX_
4054                                     "%" HEKf "::%" HEKf,
4055                                     HEKfARG(HvNAME_HEK(stash)),
4056                                     HEKfARG(GvENAME_HEK(MUTABLE_GV(dstr))))
4057                                : Perl_newSVpvf(aTHX_
4058                                     "%" HEKf,
4059                                     HEKfARG(GvENAME_HEK(MUTABLE_GV(dstr))))
4060                            ),
4061                            cv,
4062                            CvCONST((const CV *)sref) ? &new_const_sv : NULL
4063                         );
4064                     }
4065                 if (!intro)
4066                     cv_ckproto_len_flags(cv, (const GV *)dstr,
4067                                    SvPOK(sref) ? CvPROTO(sref) : NULL,
4068                                    SvPOK(sref) ? CvPROTOLEN(sref) : 0,
4069                                    SvPOK(sref) ? SvUTF8(sref) : 0);
4070             }
4071             GvCVGEN(dstr) = 0; /* Switch off cacheness. */
4072             GvASSUMECV_on(dstr);
4073             if(GvSTASH(dstr)) { /* sub foo { 1 } sub bar { 2 } *bar = \&foo */
4074                 if (intro && GvREFCNT(dstr) > 1) {
4075                     /* temporary remove extra savestack's ref */
4076                     --GvREFCNT(dstr);
4077                     gv_method_changed(dstr);
4078                     ++GvREFCNT(dstr);
4079                 }
4080                 else gv_method_changed(dstr);
4081             }
4082         }
4083         *location = SvREFCNT_inc_simple_NN(sref);
4084         if (import_flag && !(GvFLAGS(dstr) & import_flag)
4085             && CopSTASH_ne(PL_curcop, GvSTASH(dstr))) {
4086             GvFLAGS(dstr) |= import_flag;
4087         }
4088
4089         if (stype == SVt_PVHV) {
4090             const char * const name = GvNAME((GV*)dstr);
4091             const STRLEN len = GvNAMELEN(dstr);
4092             if (
4093                 (
4094                    (len > 1 && name[len-2] == ':' && name[len-1] == ':')
4095                 || (len == 1 && name[0] == ':')
4096                 )
4097              && (!dref || HvENAME_get(dref))
4098             ) {
4099                 mro_package_moved(
4100                     (HV *)sref, (HV *)dref,
4101                     (GV *)dstr, 0
4102                 );
4103             }
4104         }
4105         else if (
4106             stype == SVt_PVAV && sref != dref
4107          && memEQs(GvNAME((GV*)dstr), GvNAMELEN((GV*)dstr), "ISA")
4108          /* The stash may have been detached from the symbol table, so
4109             check its name before doing anything. */
4110          && GvSTASH(dstr) && HvENAME(GvSTASH(dstr))
4111         ) {
4112             MAGIC *mg;
4113             MAGIC * const omg = dref && SvSMAGICAL(dref)
4114                                  ? mg_find(dref, PERL_MAGIC_isa)
4115                                  : NULL;
4116             if (SvSMAGICAL(sref) && (mg = mg_find(sref, PERL_MAGIC_isa))) {
4117                 if (SvTYPE(mg->mg_obj) != SVt_PVAV) {
4118                     AV * const ary = newAV();
4119                     av_push(ary, mg->mg_obj); /* takes the refcount */
4120                     mg->mg_obj = (SV *)ary;
4121                 }
4122                 if (omg) {
4123                     if (SvTYPE(omg->mg_obj) == SVt_PVAV) {
4124                         SV **svp = AvARRAY((AV *)omg->mg_obj);
4125                         I32 items = AvFILLp((AV *)omg->mg_obj) + 1;
4126                         while (items--)
4127                             av_push(
4128                              (AV *)mg->mg_obj,
4129                              SvREFCNT_inc_simple_NN(*svp++)
4130                             );
4131                     }
4132                     else
4133                         av_push(
4134                          (AV *)mg->mg_obj,
4135                          SvREFCNT_inc_simple_NN(omg->mg_obj)
4136                         );
4137                 }
4138                 else
4139                     av_push((AV *)mg->mg_obj,SvREFCNT_inc_simple_NN(dstr));
4140             }
4141             else
4142             {
4143                 SSize_t i;
4144                 sv_magic(
4145                  sref, omg ? omg->mg_obj : dstr, PERL_MAGIC_isa, NULL, 0
4146                 );
4147                 for (i = 0; i <= AvFILL(sref); ++i) {
4148                     SV **elem = av_fetch ((AV*)sref, i, 0);
4149                     if (elem) {
4150                         sv_magic(
4151                           *elem, sref, PERL_MAGIC_isaelem, NULL, i
4152                         );
4153                     }
4154                 }
4155                 mg = mg_find(sref, PERL_MAGIC_isa);
4156             }
4157             /* Since the *ISA assignment could have affected more than
4158                one stash, don't call mro_isa_changed_in directly, but let
4159                magic_clearisa do it for us, as it already has the logic for
4160                dealing with globs vs arrays of globs. */
4161             assert(mg);
4162             Perl_magic_clearisa(aTHX_ NULL, mg);
4163         }
4164         else if (stype == SVt_PVIO) {
4165             DEBUG_o(Perl_deb(aTHX_ "gv_setref clearing PL_stashcache\n"));
4166             /* It's a cache. It will rebuild itself quite happily.
4167                It's a lot of effort to work out exactly which key (or keys)
4168                might be invalidated by the creation of the this file handle.
4169             */
4170             hv_clear(PL_stashcache);
4171         }
4172         break;
4173     }
4174     if (!intro) SvREFCNT_dec(dref);
4175     if (SvTAINTED(sstr))
4176         SvTAINT(dstr);
4177     return;
4178 }
4179
4180
4181
4182
4183 #ifdef PERL_DEBUG_READONLY_COW
4184 # include <sys/mman.h>
4185
4186 # ifndef PERL_MEMORY_DEBUG_HEADER_SIZE
4187 #  define PERL_MEMORY_DEBUG_HEADER_SIZE 0
4188 # endif
4189
4190 void
4191 Perl_sv_buf_to_ro(pTHX_ SV *sv)
4192 {
4193     struct perl_memory_debug_header * const header =
4194         (struct perl_memory_debug_header *)(SvPVX(sv)-PERL_MEMORY_DEBUG_HEADER_SIZE);
4195     const MEM_SIZE len = header->size;
4196     PERL_ARGS_ASSERT_SV_BUF_TO_RO;
4197 # ifdef PERL_TRACK_MEMPOOL
4198     if (!header->readonly) header->readonly = 1;
4199 # endif
4200     if (mprotect(header, len, PROT_READ))
4201         Perl_warn(aTHX_ "mprotect RW for COW string %p %lu failed with %d",
4202                          header, len, errno);
4203 }
4204
4205 static void
4206 S_sv_buf_to_rw(pTHX_ SV *sv)
4207 {
4208     struct perl_memory_debug_header * const header =
4209         (struct perl_memory_debug_header *)(SvPVX(sv)-PERL_MEMORY_DEBUG_HEADER_SIZE);
4210     const MEM_SIZE len = header->size;
4211     PERL_ARGS_ASSERT_SV_BUF_TO_RW;
4212     if (mprotect(header, len, PROT_READ|PROT_WRITE))
4213         Perl_warn(aTHX_ "mprotect for COW string %p %lu failed with %d",
4214                          header, len, errno);
4215 # ifdef PERL_TRACK_MEMPOOL
4216     header->readonly = 0;
4217 # endif
4218 }
4219
4220 #else
4221 # define sv_buf_to_ro(sv)       NOOP
4222 # define sv_buf_to_rw(sv)       NOOP
4223 #endif
4224
4225 void
4226 Perl_sv_setsv_flags(pTHX_ SV *dstr, SV* sstr, const I32 flags)
4227 {
4228     U32 sflags;
4229     int dtype;
4230     svtype stype;
4231     unsigned int both_type;
4232
4233     PERL_ARGS_ASSERT_SV_SETSV_FLAGS;
4234
4235     if (UNLIKELY( sstr == dstr ))
4236         return;
4237
4238     if (UNLIKELY( !sstr ))
4239         sstr = &PL_sv_undef;
4240
4241     stype = SvTYPE(sstr);
4242     dtype = SvTYPE(dstr);
4243     both_type = (stype | dtype);
4244
4245     /* with these values, we can check that both SVs are NULL/IV (and not
4246      * freed) just by testing the or'ed types */
4247     STATIC_ASSERT_STMT(SVt_NULL == 0);
4248     STATIC_ASSERT_STMT(SVt_IV   == 1);
4249     if (both_type <= 1) {
4250         /* both src and dst are UNDEF/IV/RV, so we can do a lot of
4251          * special-casing */
4252         U32 sflags;
4253         U32 new_dflags;
4254         SV *old_rv = NULL;
4255
4256         /* minimal subset of SV_CHECK_THINKFIRST_COW_DROP(dstr) */
4257         if (SvREADONLY(dstr))
4258             Perl_croak_no_modify();
4259         if (SvROK(dstr)) {
4260             if (SvWEAKREF(dstr))
4261                 sv_unref_flags(dstr, 0);
4262             else
4263                 old_rv = SvRV(dstr);
4264         }
4265
4266         assert(!SvGMAGICAL(sstr));
4267         assert(!SvGMAGICAL(dstr));
4268
4269         sflags = SvFLAGS(sstr);
4270         if (sflags & (SVf_IOK|SVf_ROK)) {
4271             SET_SVANY_FOR_BODYLESS_IV(dstr);
4272             new_dflags = SVt_IV;
4273
4274             if (sflags & SVf_ROK) {
4275                 dstr->sv_u.svu_rv = SvREFCNT_inc(SvRV(sstr));
4276                 new_dflags |= SVf_ROK;
4277             }
4278             else {
4279                 /* both src and dst are <= SVt_IV, so sv_any points to the
4280                  * head; so access the head directly
4281                  */
4282                 assert(    &(sstr->sv_u.svu_iv)
4283                         == &(((XPVIV*) SvANY(sstr))->xiv_iv));
4284                 assert(    &(dstr->sv_u.svu_iv)
4285                         == &(((XPVIV*) SvANY(dstr))->xiv_iv));
4286                 dstr->sv_u.svu_iv = sstr->sv_u.svu_iv;
4287                 new_dflags |= (SVf_IOK|SVp_IOK|(sflags & SVf_IVisUV));
4288             }
4289         }
4290         else {
4291             new_dflags = dtype; /* turn off everything except the type */
4292         }
4293         SvFLAGS(dstr) = new_dflags;
4294         SvREFCNT_dec(old_rv);
4295
4296         return;
4297     }
4298
4299     if (UNLIKELY(both_type == SVTYPEMASK)) {
4300         if (SvIS_FREED(dstr)) {
4301             Perl_croak(aTHX_ "panic: attempt to copy value %" SVf
4302                        " to a freed scalar %p", SVfARG(sstr), (void *)dstr);
4303         }
4304         if (SvIS_FREED(sstr)) {
4305             Perl_croak(aTHX_ "panic: attempt to copy freed scalar %p to %p",
4306                        (void*)sstr, (void*)dstr);
4307         }
4308     }
4309
4310
4311
4312     SV_CHECK_THINKFIRST_COW_DROP(dstr);
4313     dtype = SvTYPE(dstr); /* THINKFIRST may have changed type */
4314
4315     /* There's a lot of redundancy below but we're going for speed here */
4316
4317     switch (stype) {
4318     case SVt_NULL:
4319       undef_sstr:
4320         if (LIKELY( dtype != SVt_PVGV && dtype != SVt_PVLV )) {
4321             (void)SvOK_off(dstr);
4322             return;
4323         }
4324         break;
4325     case SVt_IV:
4326         if (SvIOK(sstr)) {
4327             switch (dtype) {
4328             case SVt_NULL:
4329                 /* For performance, we inline promoting to type SVt_IV. */
4330                 /* We're starting from SVt_NULL, so provided that define is
4331                  * actual 0, we don't have to unset any SV type flags
4332                  * to promote to SVt_IV. */
4333                 STATIC_ASSERT_STMT(SVt_NULL == 0);
4334                 SET_SVANY_FOR_BODYLESS_IV(dstr);
4335                 SvFLAGS(dstr) |= SVt_IV;
4336                 break;
4337             case SVt_NV:
4338             case SVt_PV:
4339                 sv_upgrade(dstr, SVt_PVIV);
4340                 break;
4341             case SVt_PVGV:
4342             case SVt_PVLV:
4343                 goto end_of_first_switch;
4344             }
4345             (void)SvIOK_only(dstr);
4346             SvIV_set(dstr,  SvIVX(sstr));
4347             if (SvIsUV(sstr))
4348                 SvIsUV_on(dstr);
4349             /* SvTAINTED can only be true if the SV has taint magic, which in
4350                turn means that the SV type is PVMG (or greater). This is the
4351                case statement for SVt_IV, so this cannot be true (whatever gcov
4352                may say).  */
4353             assert(!SvTAINTED(sstr));
4354             return;
4355         }
4356         if (!SvROK(sstr))
4357             goto undef_sstr;
4358         if (dtype < SVt_PV && dtype != SVt_IV)
4359             sv_upgrade(dstr, SVt_IV);
4360         break;
4361
4362     case SVt_NV:
4363         if (LIKELY( SvNOK(sstr) )) {
4364             switch (dtype) {
4365             case SVt_NULL:
4366             case SVt_IV:
4367                 sv_upgrade(dstr, SVt_NV);
4368                 break;
4369             case SVt_PV:
4370             case SVt_PVIV:
4371                 sv_upgrade(dstr, SVt_PVNV);
4372                 break;
4373             case SVt_PVGV:
4374             case SVt_PVLV:
4375                 goto end_of_first_switch;
4376             }
4377             SvNV_set(dstr, SvNVX(sstr));
4378             (void)SvNOK_only(dstr);
4379             /* SvTAINTED can only be true if the SV has taint magic, which in
4380                turn means that the SV type is PVMG (or greater). This is the
4381                case statement for SVt_NV, so this cannot be true (whatever gcov
4382                may say).  */
4383             assert(!SvTAINTED(sstr));
4384             return;
4385         }
4386         goto undef_sstr;
4387
4388     case SVt_PV:
4389         if (dtype < SVt_PV)
4390             sv_upgrade(dstr, SVt_PV);
4391         break;
4392     case SVt_PVIV:
4393         if (dtype < SVt_PVIV)
4394             sv_upgrade(dstr, SVt_PVIV);
4395         break;
4396     case SVt_PVNV:
4397         if (dtype < SVt_PVNV)
4398             sv_upgrade(dstr, SVt_PVNV);
4399         break;
4400
4401     case SVt_INVLIST:
4402         invlist_clone(sstr, dstr);
4403         break;
4404     default:
4405         {
4406         const char * const type = sv_reftype(sstr,0);
4407         if (PL_op)
4408             /* diag_listed_as: Bizarre copy of %s */
4409             Perl_croak(aTHX_ "Bizarre copy of %s in %s", type, OP_DESC(PL_op));
4410         else
4411             Perl_croak(aTHX_ "Bizarre copy of %s", type);
4412         }
4413         NOT_REACHED; /* NOTREACHED */
4414
4415     case SVt_REGEXP:
4416       upgregexp:
4417         if (dtype < SVt_REGEXP)
4418             sv_upgrade(dstr, SVt_REGEXP);
4419         break;
4420
4421     case SVt_PVLV:
4422     case SVt_PVGV:
4423     case SVt_PVMG:
4424         if (SvGMAGICAL(sstr) && (flags & SV_GMAGIC)) {
4425             mg_get(sstr);
4426             if (SvTYPE(sstr) != stype)
4427                 stype = SvTYPE(sstr);
4428         }
4429         if (isGV_with_GP(sstr) && dtype <= SVt_PVLV) {
4430                     glob_assign_glob(dstr, sstr, dtype);
4431                     return;
4432         }
4433         if (stype == SVt_PVLV)
4434         {
4435             if (isREGEXP(sstr)) goto upgregexp;
4436             SvUPGRADE(dstr, SVt_PVNV);
4437         }
4438         else
4439             SvUPGRADE(dstr, (svtype)stype);
4440     }
4441  end_of_first_switch:
4442
4443     /* dstr may have been upgraded.  */
4444     dtype = SvTYPE(dstr);
4445     sflags = SvFLAGS(sstr);
4446
4447     if (UNLIKELY( dtype == SVt_PVCV )) {
4448         /* Assigning to a subroutine sets the prototype.  */
4449         if (SvOK(sstr)) {
4450             STRLEN len;
4451             const char *const ptr = SvPV_const(sstr, len);
4452
4453             SvGROW(dstr, len + 1);
4454             Copy(ptr, SvPVX(dstr), len + 1, char);
4455             SvCUR_set(dstr, len);
4456             SvPOK_only(dstr);
4457             SvFLAGS(dstr) |= sflags & SVf_UTF8;
4458             CvAUTOLOAD_off(dstr);
4459         } else {
4460             SvOK_off(dstr);
4461         }
4462     }
4463     else if (UNLIKELY(dtype == SVt_PVAV || dtype == SVt_PVHV
4464              || dtype == SVt_PVFM))
4465     {
4466         const char * const type = sv_reftype(dstr,0);
4467         if (PL_op)
4468             /* diag_listed_as: Cannot copy to %s */
4469             Perl_croak(aTHX_ "Cannot copy to %s in %s", type, OP_DESC(PL_op));
4470         else
4471             Perl_croak(aTHX_ "Cannot copy to %s", type);
4472     } else if (sflags & SVf_ROK) {
4473         if (isGV_with_GP(dstr)
4474             && SvTYPE(SvRV(sstr)) == SVt_PVGV && isGV_with_GP(SvRV(sstr))) {
4475             sstr = SvRV(sstr);
4476             if (sstr == dstr) {
4477                 if (GvIMPORTED(dstr) != GVf_IMPORTED
4478                     && CopSTASH_ne(PL_curcop, GvSTASH(dstr)))
4479                 {
4480                     GvIMPORTED_on(dstr);
4481                 }
4482                 GvMULTI_on(dstr);
4483                 return;
4484             }
4485             glob_assign_glob(dstr, sstr, dtype);
4486             return;
4487         }
4488
4489         if (dtype >= SVt_PV) {
4490             if (isGV_with_GP(dstr)) {
4491                 gv_setref(dstr, sstr);
4492                 return;
4493             }
4494             if (SvPVX_const(dstr)) {
4495                 SvPV_free(dstr);
4496                 SvLEN_set(dstr, 0);
4497                 SvCUR_set(dstr, 0);
4498             }
4499         }
4500         (void)SvOK_off(dstr);
4501         SvRV_set(dstr, SvREFCNT_inc(SvRV(sstr)));
4502         SvFLAGS(dstr) |= sflags & SVf_ROK;
4503         assert(!(sflags & SVp_NOK));
4504         assert(!(sflags & SVp_IOK));
4505         assert(!(sflags & SVf_NOK));
4506         assert(!(sflags & SVf_IOK));
4507     }
4508     else if (isGV_with_GP(dstr)) {
4509         if (!(sflags & SVf_OK)) {
4510             Perl_ck_warner(aTHX_ packWARN(WARN_MISC),
4511                            "Undefined value assigned to typeglob");
4512         }
4513         else {
4514             GV *gv = gv_fetchsv_nomg(sstr, GV_ADD, SVt_PVGV);
4515             if (dstr != (const SV *)gv) {
4516                 const char * const name = GvNAME((const GV *)dstr);
4517                 const STRLEN len = GvNAMELEN(dstr);
4518                 HV *old_stash = NULL;
4519                 bool reset_isa = FALSE;
4520                 if ((len > 1 && name[len-2] == ':' && name[len-1] == ':')
4521                  || (len == 1 && name[0] == ':')) {
4522                     /* Set aside the old stash, so we can reset isa caches
4523                        on its subclasses. */
4524                     if((old_stash = GvHV(dstr))) {
4525                         /* Make sure we do not lose it early. */
4526                         SvREFCNT_inc_simple_void_NN(
4527                          sv_2mortal((SV *)old_stash)
4528                         );
4529                     }
4530                     reset_isa = TRUE;
4531                 }
4532
4533                 if (GvGP(dstr)) {
4534                     SvREFCNT_inc_simple_void_NN(sv_2mortal(dstr));
4535                     gp_free(MUTABLE_GV(dstr));
4536                 }
4537                 GvGP_set(dstr, gp_ref(GvGP(gv)));
4538
4539                 if (reset_isa) {
4540                     HV * const stash = GvHV(dstr);
4541                     if(
4542                         old_stash ? (HV *)HvENAME_get(old_stash) : stash
4543                     )
4544                         mro_package_moved(
4545                          stash, old_stash,
4546                          (GV *)dstr, 0
4547                         );
4548                 }
4549             }
4550         }
4551     }
4552     else if ((dtype == SVt_REGEXP || dtype == SVt_PVLV)
4553           && (stype == SVt_REGEXP || isREGEXP(sstr))) {
4554         reg_temp_copy((REGEXP*)dstr, (REGEXP*)sstr);
4555     }
4556     else if (sflags & SVp_POK) {
4557         const STRLEN cur = SvCUR(sstr);
4558         const STRLEN len = SvLEN(sstr);
4559
4560         /*
4561          * We have three basic ways to copy the string:
4562          *
4563          *  1. Swipe
4564          *  2. Copy-on-write
4565          *  3. Actual copy
4566          * 
4567          * Which we choose is based on various factors.  The following
4568          * things are listed in order of speed, fastest to slowest:
4569          *  - Swipe
4570          *  - Copying a short string
4571          *  - Copy-on-write bookkeeping
4572          *  - malloc
4573          *  - Copying a long string
4574          * 
4575          * We swipe the string (steal the string buffer) if the SV on the
4576          * rhs is about to be freed anyway (TEMP and refcnt==1).  This is a
4577          * big win on long strings.  It should be a win on short strings if
4578          * SvPVX_const(dstr) has to be allocated.  If not, it should not 
4579          * slow things down, as SvPVX_const(sstr) would have been freed
4580          * soon anyway.
4581          * 
4582          * We also steal the buffer from a PADTMP (operator target) if it
4583          * is â€˜long enough’.  For short strings, a swipe does not help
4584          * here, as it causes more malloc calls the next time the target
4585          * is used.  Benchmarks show that even if SvPVX_const(dstr) has to
4586          * be allocated it is still not worth swiping PADTMPs for short
4587          * strings, as the savings here are small.
4588          * 
4589          * If swiping is not an option, then we see whether it is
4590          * worth using copy-on-write.  If the lhs already has a buf-
4591          * fer big enough and the string is short, we skip it and fall back
4592          * to method 3, since memcpy is faster for short strings than the
4593          * later bookkeeping overhead that copy-on-write entails.
4594
4595          * If the rhs is not a copy-on-write string yet, then we also
4596          * consider whether the buffer is too large relative to the string
4597          * it holds.  Some operations such as readline allocate a large
4598          * buffer in the expectation of reusing it.  But turning such into
4599          * a COW buffer is counter-productive because it increases memory
4600          * usage by making readline allocate a new large buffer the sec-
4601          * ond time round.  So, if the buffer is too large, again, we use
4602          * method 3 (copy).
4603          * 
4604          * Finally, if there is no buffer on the left, or the buffer is too 
4605          * small, then we use copy-on-write and make both SVs share the
4606          * string buffer.
4607          *
4608          */
4609
4610         /* Whichever path we take through the next code, we want this true,
4611            and doing it now facilitates the COW check.  */
4612         (void)SvPOK_only(dstr);
4613
4614         if (
4615                  (              /* Either ... */
4616                                 /* slated for free anyway (and not COW)? */
4617                     (sflags & (SVs_TEMP|SVf_IsCOW)) == SVs_TEMP
4618                                 /* or a swipable TARG */
4619                  || ((sflags &
4620                            (SVs_PADTMP|SVf_READONLY|SVf_PROTECT|SVf_IsCOW))
4621                        == SVs_PADTMP
4622                                 /* whose buffer is worth stealing */
4623                      && CHECK_COWBUF_THRESHOLD(cur,len)
4624                     )
4625                  ) &&
4626                  !(sflags & SVf_OOK) &&   /* and not involved in OOK hack? */
4627                  (!(flags & SV_NOSTEAL)) &&
4628                                         /* and we're allowed to steal temps */
4629                  SvREFCNT(sstr) == 1 &&   /* and no other references to it? */
4630                  len)             /* and really is a string */
4631         {       /* Passes the swipe test.  */
4632             if (SvPVX_const(dstr))      /* we know that dtype >= SVt_PV */
4633                 SvPV_free(dstr);
4634             SvPV_set(dstr, SvPVX_mutable(sstr));
4635             SvLEN_set(dstr, SvLEN(sstr));
4636             SvCUR_set(dstr, SvCUR(sstr));
4637
4638             SvTEMP_off(dstr);
4639             (void)SvOK_off(sstr);       /* NOTE: nukes most SvFLAGS on sstr */
4640             SvPV_set(sstr, NULL);
4641             SvLEN_set(sstr, 0);
4642             SvCUR_set(sstr, 0);
4643             SvTEMP_off(sstr);
4644         }
4645         else if (flags & SV_COW_SHARED_HASH_KEYS
4646               &&
4647 #ifdef PERL_COPY_ON_WRITE
4648                  (sflags & SVf_IsCOW
4649                    ? (!len ||
4650                        (  (CHECK_COWBUF_THRESHOLD(cur,len) || SvLEN(dstr) < cur+1)
4651                           /* If this is a regular (non-hek) COW, only so
4652                              many COW "copies" are possible. */
4653                        && CowREFCNT(sstr) != SV_COW_REFCNT_MAX  ))
4654                    : (  (sflags & CAN_COW_MASK) == CAN_COW_FLAGS
4655                      && !(SvFLAGS(dstr) & SVf_BREAK)
4656                      && CHECK_COW_THRESHOLD(cur,len) && cur+1 < len
4657                      && (CHECK_COWBUF_THRESHOLD(cur,len) || SvLEN(dstr) < cur+1)
4658                     ))
4659 #else
4660                  sflags & SVf_IsCOW
4661               && !(SvFLAGS(dstr) & SVf_BREAK)
4662 #endif
4663             ) {
4664             /* Either it's a shared hash key, or it's suitable for
4665                copy-on-write.  */
4666 #ifdef DEBUGGING
4667             if (DEBUG_C_TEST) {
4668                 PerlIO_printf(Perl_debug_log, "Copy on write: sstr --> dstr\n");
4669                 sv_dump(sstr);
4670                 sv_dump(dstr);
4671             }
4672 #endif
4673 #ifdef PERL_ANY_COW
4674             if (!(sflags & SVf_IsCOW)) {
4675                     SvIsCOW_on(sstr);
4676                     CowREFCNT(sstr) = 0;
4677             }
4678 #endif
4679             if (SvPVX_const(dstr)) {    /* we know that dtype >= SVt_PV */
4680                 SvPV_free(dstr);
4681             }
4682
4683 #ifdef PERL_ANY_COW
4684             if (len) {
4685                     if (sflags & SVf_IsCOW) {
4686                         sv_buf_to_rw(sstr);
4687                     }
4688                     CowREFCNT(sstr)++;
4689                     SvPV_set(dstr, SvPVX_mutable(sstr));
4690                     sv_buf_to_ro(sstr);
4691             } else
4692 #endif
4693             {
4694                     /* SvIsCOW_shared_hash */
4695                     DEBUG_C(PerlIO_printf(Perl_debug_log,
4696                                           "Copy on write: Sharing hash\n"));
4697
4698                     assert (SvTYPE(dstr) >= SVt_PV);
4699                     SvPV_set(dstr,
4700                              HEK_KEY(share_hek_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr)))));
4701             }
4702             SvLEN_set(dstr, len);
4703             SvCUR_set(dstr, cur);
4704             SvIsCOW_on(dstr);
4705         } else {
4706             /* Failed the swipe test, and we cannot do copy-on-write either.
4707                Have to copy the string.  */
4708             SvGROW(dstr, cur + 1);      /* inlined from sv_setpvn */
4709             Move(SvPVX_const(sstr),SvPVX(dstr),cur,char);
4710             SvCUR_set(dstr, cur);
4711             *SvEND(dstr) = '\0';
4712         }
4713         if (sflags & SVp_NOK) {
4714             SvNV_set(dstr, SvNVX(sstr));
4715         }
4716         if (sflags & SVp_IOK) {
4717             SvIV_set(dstr, SvIVX(sstr));
4718             if (sflags & SVf_IVisUV)
4719                 SvIsUV_on(dstr);
4720         }
4721         SvFLAGS(dstr) |= sflags & (SVf_IOK|SVp_IOK|SVf_NOK|SVp_NOK|SVf_UTF8);
4722         {
4723             const MAGIC * const smg = SvVSTRING_mg(sstr);
4724             if (smg) {
4725                 sv_magic(dstr, NULL, PERL_MAGIC_vstring,
4726                          smg->mg_ptr, smg->mg_len);
4727                 SvRMAGICAL_on(dstr);
4728             }
4729         }
4730     }
4731     else if (sflags & (SVp_IOK|SVp_NOK)) {
4732         (void)SvOK_off(dstr);
4733         SvFLAGS(dstr) |= sflags & (SVf_IOK|SVp_IOK|SVf_IVisUV|SVf_NOK|SVp_NOK);
4734         if (sflags & SVp_IOK) {
4735             /* XXXX Do we want to set IsUV for IV(ROK)?  Be extra safe... */
4736             SvIV_set(dstr, SvIVX(sstr));
4737         }
4738         if (sflags & SVp_NOK) {
4739             SvNV_set(dstr, SvNVX(sstr));
4740         }
4741     }
4742     else {
4743         if (isGV_with_GP(sstr)) {
4744             gv_efullname3(dstr, MUTABLE_GV(sstr), "*");
4745         }
4746         else
4747             (void)SvOK_off(dstr);
4748     }
4749     if (SvTAINTED(sstr))
4750         SvTAINT(dstr);
4751 }
4752
4753
4754 /*
4755 =for apidoc sv_set_undef
4756
4757 Equivalent to C<sv_setsv(sv, &PL_sv_undef)>, but more efficient.
4758 Doesn't handle set magic.
4759
4760 The perl equivalent is C<$sv = undef;>. Note that it doesn't free any string
4761 buffer, unlike C<undef $sv>.
4762
4763 Introduced in perl 5.25.12.
4764
4765 =cut
4766 */
4767
4768 void
4769 Perl_sv_set_undef(pTHX_ SV *sv)
4770 {
4771     U32 type = SvTYPE(sv);
4772
4773     PERL_ARGS_ASSERT_SV_SET_UNDEF;
4774
4775     /* shortcut, NULL, IV, RV */
4776
4777     if (type <= SVt_IV) {
4778         assert(!SvGMAGICAL(sv));
4779         if (SvREADONLY(sv)) {
4780             /* does undeffing PL_sv_undef count as modifying a read-only
4781              * variable? Some XS code does this */
4782             if (sv == &PL_sv_undef)
4783                 return;
4784             Perl_croak_no_modify();
4785         }
4786
4787         if (SvROK(sv)) {
4788             if (SvWEAKREF(sv))
4789                 sv_unref_flags(sv, 0);
4790             else {
4791                 SV *rv = SvRV(sv);
4792                 SvFLAGS(sv) = type; /* quickly turn off all flags */
4793                 SvREFCNT_dec_NN(rv);
4794                 return;
4795             }
4796         }
4797         SvFLAGS(sv) = type; /* quickly turn off all flags */
4798         return;
4799     }
4800
4801     if (SvIS_FREED(sv))
4802         Perl_croak(aTHX_ "panic: attempt to undefine a freed scalar %p",
4803             (void *)sv);
4804
4805     SV_CHECK_THINKFIRST_COW_DROP(sv);
4806
4807     if (isGV_with_GP(sv))
4808         Perl_ck_warner(aTHX_ packWARN(WARN_MISC),
4809                        "Undefined value assigned to typeglob");
4810     else
4811         SvOK_off(sv);
4812 }
4813
4814
4815
4816 /*
4817 =for apidoc sv_setsv_mg
4818
4819 Like C<sv_setsv>, but also handles 'set' magic.
4820
4821 =cut
4822 */
4823
4824 void
4825 Perl_sv_setsv_mg(pTHX_ SV *const dstr, SV *const sstr)
4826 {
4827     PERL_ARGS_ASSERT_SV_SETSV_MG;
4828
4829     sv_setsv(dstr,sstr);
4830     SvSETMAGIC(dstr);
4831 }
4832
4833 #ifdef PERL_ANY_COW
4834 #  define SVt_COW SVt_PV
4835 SV *
4836 Perl_sv_setsv_cow(pTHX_ SV *dstr, SV *sstr)
4837 {
4838     STRLEN cur = SvCUR(sstr);
4839     STRLEN len = SvLEN(sstr);
4840     char *new_pv;
4841 #if defined(PERL_DEBUG_READONLY_COW) && defined(PERL_COPY_ON_WRITE)
4842     const bool already = cBOOL(SvIsCOW(sstr));
4843 #endif
4844
4845     PERL_ARGS_ASSERT_SV_SETSV_COW;
4846 #ifdef DEBUGGING
4847     if (DEBUG_C_TEST) {
4848         PerlIO_printf(Perl_debug_log, "Fast copy on write: %p -> %p\n",
4849                       (void*)sstr, (void*)dstr);
4850         sv_dump(sstr);
4851         if (dstr)
4852                     sv_dump(dstr);
4853     }
4854 #endif
4855     if (dstr) {
4856         if (SvTHINKFIRST(dstr))
4857             sv_force_normal_flags(dstr, SV_COW_DROP_PV);
4858         else if (SvPVX_const(dstr))
4859             Safefree(SvPVX_mutable(dstr));
4860     }
4861     else
4862         new_SV(dstr);
4863     SvUPGRADE(dstr, SVt_COW);
4864
4865     assert (SvPOK(sstr));
4866     assert (SvPOKp(sstr));
4867
4868     if (SvIsCOW(sstr)) {
4869
4870         if (SvLEN(sstr) == 0) {
4871             /* source is a COW shared hash key.  */
4872             DEBUG_C(PerlIO_printf(Perl_debug_log,
4873                                   "Fast copy on write: Sharing hash\n"));
4874             new_pv = HEK_KEY(share_hek_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr))));
4875             goto common_exit;
4876         }
4877         assert(SvCUR(sstr)+1 < SvLEN(sstr));
4878         assert(CowREFCNT(sstr) < SV_COW_REFCNT_MAX);
4879     } else {
4880         assert ((SvFLAGS(sstr) & CAN_COW_MASK) == CAN_COW_FLAGS);
4881         SvUPGRADE(sstr, SVt_COW);
4882         SvIsCOW_on(sstr);
4883         DEBUG_C(PerlIO_printf(Perl_debug_log,
4884                               "Fast copy on write: Converting sstr to COW\n"));
4885         CowREFCNT(sstr) = 0;    
4886     }
4887 #  ifdef PERL_DEBUG_READONLY_COW
4888     if (already) sv_buf_to_rw(sstr);
4889 #  endif
4890     CowREFCNT(sstr)++;  
4891     new_pv = SvPVX_mutable(sstr);
4892     sv_buf_to_ro(sstr);
4893
4894   common_exit:
4895     SvPV_set(dstr, new_pv);
4896     SvFLAGS(dstr) = (SVt_COW|SVf_POK|SVp_POK|SVf_IsCOW);
4897     if (SvUTF8(sstr))
4898         SvUTF8_on(dstr);
4899     SvLEN_set(dstr, len);
4900     SvCUR_set(dstr, cur);
4901 #ifdef DEBUGGING
4902     if (DEBUG_C_TEST)
4903                 sv_dump(dstr);
4904 #endif
4905     return dstr;
4906 }
4907 #endif
4908
4909 /*
4910 =for apidoc sv_setpv_bufsize
4911
4912 Sets the SV to be a string of cur bytes length, with at least
4913 len bytes available. Ensures that there is a null byte at SvEND.
4914 Returns a char * pointer to the SvPV buffer.
4915
4916 =cut
4917 */
4918
4919 char *
4920 Perl_sv_setpv_bufsize(pTHX_ SV *const sv, const STRLEN cur, const STRLEN len)
4921 {
4922     char *pv;
4923
4924     PERL_ARGS_ASSERT_SV_SETPV_BUFSIZE;
4925
4926     SV_CHECK_THINKFIRST_COW_DROP(sv);
4927     SvUPGRADE(sv, SVt_PV);
4928     pv = SvGROW(sv, len + 1);
4929     SvCUR_set(sv, cur);
4930     *(SvEND(sv))= '\0';
4931     (void)SvPOK_only_UTF8(sv);                /* validate pointer */
4932
4933     SvTAINT(sv);
4934     if (SvTYPE(sv) == SVt_PVCV) CvAUTOLOAD_off(sv);
4935     return pv;
4936 }
4937
4938 /*
4939 =for apidoc sv_setpvn
4940
4941 Copies a string (possibly containing embedded C<NUL> characters) into an SV.
4942 The C<len> parameter indicates the number of
4943 bytes to be copied.  If the C<ptr> argument is NULL the SV will become
4944 undefined.  Does not handle 'set' magic.  See C<L</sv_setpvn_mg>>.
4945
4946 =cut
4947 */
4948
4949 void
4950 Perl_sv_setpvn(pTHX_ SV *const sv, const char *const ptr, const STRLEN len)
4951 {
4952     char *dptr;
4953
4954     PERL_ARGS_ASSERT_SV_SETPVN;
4955
4956     SV_CHECK_THINKFIRST_COW_DROP(sv);
4957     if (isGV_with_GP(sv))
4958         Perl_croak_no_modify();
4959     if (!ptr) {
4960         (void)SvOK_off(sv);
4961         return;
4962     }
4963     else {
4964         /* len is STRLEN which is unsigned, need to copy to signed */
4965         const IV iv = len;
4966         if (iv < 0)
4967             Perl_croak(aTHX_ "panic: sv_setpvn called with negative strlen %"
4968                        IVdf, iv);
4969     }
4970     SvUPGRADE(sv, SVt_PV);
4971
4972     dptr = SvGROW(sv, len + 1);
4973     Move(ptr,dptr,len,char);
4974     dptr[len] = '\0';
4975     SvCUR_set(sv, len);
4976     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
4977     SvTAINT(sv);
4978     if (SvTYPE(sv) == SVt_PVCV) CvAUTOLOAD_off(sv);
4979 }
4980
4981 /*
4982 =for apidoc sv_setpvn_mg
4983
4984 Like C<sv_setpvn>, but also handles 'set' magic.
4985
4986 =cut
4987 */
4988
4989 void
4990 Perl_sv_setpvn_mg(pTHX_ SV *const sv, const char *const ptr, const STRLEN len)
4991 {
4992     PERL_ARGS_ASSERT_SV_SETPVN_MG;
4993
4994     sv_setpvn(sv,ptr,len);
4995     SvSETMAGIC(sv);
4996 }
4997
4998 /*
4999 =for apidoc sv_setpv
5000
5001 Copies a string into an SV.  The string must be terminated with a C<NUL>
5002 character, and not contain embeded C<NUL>'s.
5003 Does not handle 'set' magic.  See C<L</sv_setpv_mg>>.
5004
5005 =cut
5006 */
5007
5008 void
5009 Perl_sv_setpv(pTHX_ SV *const sv, const char *const ptr)
5010 {
5011     STRLEN len;
5012
5013     PERL_ARGS_ASSERT_SV_SETPV;
5014
5015     SV_CHECK_THINKFIRST_COW_DROP(sv);
5016     if (!ptr) {
5017         (void)SvOK_off(sv);
5018         return;
5019     }
5020     len = strlen(ptr);
5021     SvUPGRADE(sv, SVt_PV);
5022
5023     SvGROW(sv, len + 1);
5024     Move(ptr,SvPVX(sv),len+1,char);
5025     SvCUR_set(sv, len);
5026     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
5027     SvTAINT(sv);
5028     if (SvTYPE(sv) == SVt_PVCV) CvAUTOLOAD_off(sv);
5029 }
5030
5031 /*
5032 =for apidoc sv_setpv_mg
5033
5034 Like C<sv_setpv>, but also handles 'set' magic.
5035
5036 =cut
5037 */
5038
5039 void
5040 Perl_sv_setpv_mg(pTHX_ SV *const sv, const char *const ptr)
5041 {
5042     PERL_ARGS_ASSERT_SV_SETPV_MG;
5043
5044     sv_setpv(sv,ptr);
5045     SvSETMAGIC(sv);
5046 }
5047
5048 void
5049 Perl_sv_sethek(pTHX_ SV *const sv, const HEK *const hek)
5050 {
5051     PERL_ARGS_ASSERT_SV_SETHEK;
5052
5053     if (!hek) {
5054         return;
5055     }
5056
5057     if (HEK_LEN(hek) == HEf_SVKEY) {
5058         sv_setsv(sv, *(SV**)HEK_KEY(hek));
5059         return;
5060     } else {
5061         const int flags = HEK_FLAGS(hek);
5062         if (flags & HVhek_WASUTF8) {
5063             STRLEN utf8_len = HEK_LEN(hek);
5064             char *as_utf8 = (char *)bytes_to_utf8((U8*)HEK_KEY(hek), &utf8_len);
5065             sv_usepvn_flags(sv, as_utf8, utf8_len, SV_HAS_TRAILING_NUL);
5066             SvUTF8_on(sv);
5067             return;
5068         } else if (flags & HVhek_UNSHARED) {
5069             sv_setpvn(sv, HEK_KEY(hek), HEK_LEN(hek));
5070             if (HEK_UTF8(hek))
5071                 SvUTF8_on(sv);
5072             else SvUTF8_off(sv);
5073             return;
5074         }
5075         {
5076             SV_CHECK_THINKFIRST_COW_DROP(sv);
5077             SvUPGRADE(sv, SVt_PV);
5078             SvPV_free(sv);
5079             SvPV_set(sv,(char *)HEK_KEY(share_hek_hek(hek)));
5080             SvCUR_set(sv, HEK_LEN(hek));
5081             SvLEN_set(sv, 0);
5082             SvIsCOW_on(sv);
5083             SvPOK_on(sv);
5084             if (HEK_UTF8(hek))
5085                 SvUTF8_on(sv);
5086             else SvUTF8_off(sv);
5087             return;
5088         }
5089     }
5090 }
5091
5092
5093 /*
5094 =for apidoc sv_usepvn_flags
5095
5096 Tells an SV to use C<ptr> to find its string value.  Normally the
5097 string is stored inside the SV, but sv_usepvn allows the SV to use an
5098 outside string.  C<ptr> should point to memory that was allocated
5099 by L<C<Newx>|perlclib/Memory Management and String Handling>.  It must be
5100 the start of a C<Newx>-ed block of memory, and not a pointer to the
5101 middle of it (beware of L<C<OOK>|perlguts/Offsets> and copy-on-write),
5102 and not be from a non-C<Newx> memory allocator like C<malloc>.  The
5103 string length, C<len>, must be supplied.  By default this function
5104 will C<Renew> (i.e. realloc, move) the memory pointed to by C<ptr>,
5105 so that pointer should not be freed or used by the programmer after
5106 giving it to C<sv_usepvn>, and neither should any pointers from "behind"
5107 that pointer (e.g. ptr + 1) be used.
5108
5109 If S<C<flags & SV_SMAGIC>> is true, will call C<SvSETMAGIC>.  If
5110 S<C<flags & SV_HAS_TRAILING_NUL>> is true, then C<ptr[len]> must be C<NUL>,
5111 and the realloc
5112 will be skipped (i.e. the buffer is actually at least 1 byte longer than
5113 C<len>, and already meets the requirements for storing in C<SvPVX>).
5114
5115 =for apidoc Amnh||SV_SMAGIC
5116 =for apidoc Amnh||SV_HAS_TRAILING_NUL
5117
5118 =cut
5119 */
5120
5121 void
5122 Perl_sv_usepvn_flags(pTHX_ SV *const sv, char *ptr, const STRLEN len, const U32 flags)
5123 {
5124     STRLEN allocate;
5125
5126     PERL_ARGS_ASSERT_SV_USEPVN_FLAGS;
5127
5128     SV_CHECK_THINKFIRST_COW_DROP(sv);
5129     SvUPGRADE(sv, SVt_PV);
5130     if (!ptr) {
5131         (void)SvOK_off(sv);
5132         if (flags & SV_SMAGIC)
5133             SvSETMAGIC(sv);
5134         return;
5135     }
5136     if (SvPVX_const(sv))
5137         SvPV_free(sv);
5138
5139 #ifdef DEBUGGING
5140     if (flags & SV_HAS_TRAILING_NUL)
5141         assert(ptr[len] == '\0');
5142 #endif
5143
5144     allocate = (flags & SV_HAS_TRAILING_NUL)
5145         ? len + 1 :
5146 #ifdef Perl_safesysmalloc_size
5147         len + 1;
5148 #else 
5149         PERL_STRLEN_ROUNDUP(len + 1);
5150 #endif
5151     if (flags & SV_HAS_TRAILING_NUL) {
5152         /* It's long enough - do nothing.
5153            Specifically Perl_newCONSTSUB is relying on this.  */
5154     } else {
5155 #ifdef DEBUGGING
5156         /* Force a move to shake out bugs in callers.  */
5157         char *new_ptr = (char*)safemalloc(allocate);
5158         Copy(ptr, new_ptr, len, char);
5159         PoisonFree(ptr,len,char);
5160         Safefree(ptr);
5161         ptr = new_ptr;
5162 #else
5163         ptr = (char*) saferealloc (ptr, allocate);
5164 #endif
5165     }
5166 #ifdef Perl_safesysmalloc_size
5167     SvLEN_set(sv, Perl_safesysmalloc_size(ptr));
5168 #else
5169     SvLEN_set(sv, allocate);
5170 #endif
5171     SvCUR_set(sv, len);
5172     SvPV_set(sv, ptr);
5173     if (!(flags & SV_HAS_TRAILING_NUL)) {
5174         ptr[len] = '\0';
5175     }
5176     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
5177     SvTAINT(sv);
5178     if (flags & SV_SMAGIC)
5179         SvSETMAGIC(sv);
5180 }
5181
5182
5183 static void
5184 S_sv_uncow(pTHX_ SV * const sv, const U32 flags)
5185 {
5186     assert(SvIsCOW(sv));
5187     {
5188 #ifdef PERL_ANY_COW
5189         const char * const pvx = SvPVX_const(sv);
5190         const STRLEN len = SvLEN(sv);
5191         const STRLEN cur = SvCUR(sv);
5192
5193 #ifdef DEBUGGING
5194         if (DEBUG_C_TEST) {
5195                 PerlIO_printf(Perl_debug_log,
5196                               "Copy on write: Force normal %ld\n",
5197                               (long) flags);
5198                 sv_dump(sv);
5199         }
5200 #endif
5201         SvIsCOW_off(sv);
5202 # ifdef PERL_COPY_ON_WRITE
5203         if (len) {
5204             /* Must do this first, since the CowREFCNT uses SvPVX and
5205             we need to write to CowREFCNT, or de-RO the whole buffer if we are
5206             the only owner left of the buffer. */
5207             sv_buf_to_rw(sv); /* NOOP if RO-ing not supported */
5208             {
5209                 U8 cowrefcnt = CowREFCNT(sv);
5210                 if(cowrefcnt != 0) {
5211                     cowrefcnt--;
5212                     CowREFCNT(sv) = cowrefcnt;
5213                     sv_buf_to_ro(sv);
5214                     goto copy_over;
5215                 }
5216             }
5217             /* Else we are the only owner of the buffer. */
5218         }
5219         else
5220 # endif
5221         {
5222             /* This SV doesn't own the buffer, so need to Newx() a new one:  */
5223             copy_over:
5224             SvPV_set(sv, NULL);
5225             SvCUR_set(sv, 0);
5226             SvLEN_set(sv, 0);
5227             if (flags & SV_COW_DROP_PV) {
5228                 /* OK, so we don't need to copy our buffer.  */
5229                 SvPOK_off(sv);
5230             } else {
5231                 SvGROW(sv, cur + 1);
5232                 Move(pvx,SvPVX(sv),cur,char);
5233                 SvCUR_set(sv, cur);
5234                 *SvEND(sv) = '\0';
5235             }
5236             if (! len) {
5237                         unshare_hek(SvSHARED_HEK_FROM_PV(pvx));
5238             }
5239 #ifdef DEBUGGING
5240             if (DEBUG_C_TEST)
5241                 sv_dump(sv);
5242 #endif
5243         }
5244 #else
5245             const char * const pvx = SvPVX_const(sv);
5246             const STRLEN len = SvCUR(sv);
5247             SvIsCOW_off(sv);
5248             SvPV_set(sv, NULL);
5249             SvLEN_set(sv, 0);
5250             if (flags & SV_COW_DROP_PV) {
5251                 /* OK, so we don't need to copy our buffer.  */
5252                 SvPOK_off(sv);
5253             } else {
5254                 SvGROW(sv, len + 1);
5255                 Move(pvx,SvPVX(sv),len,char);
5256                 *SvEND(sv) = '\0';
5257             }
5258             unshare_hek(SvSHARED_HEK_FROM_PV(pvx));
5259 #endif
5260     }
5261 }
5262
5263
5264 /*
5265 =for apidoc sv_force_normal_flags
5266
5267 Undo various types of fakery on an SV, where fakery means
5268 "more than" a string: if the PV is a shared string, make
5269 a private copy; if we're a ref, stop refing; if we're a glob, downgrade to
5270 an C<xpvmg>; if we're a copy-on-write scalar, this is the on-write time when
5271 we do the copy, and is also used locally; if this is a
5272 vstring, drop the vstring magic.  If C<SV_COW_DROP_PV> is set
5273 then a copy-on-write scalar drops its PV buffer (if any) and becomes
5274 C<SvPOK_off> rather than making a copy.  (Used where this
5275 scalar is about to be set to some other value.)  In addition,
5276 the C<flags> parameter gets passed to C<sv_unref_flags()>
5277 when unreffing.  C<sv_force_normal> calls this function
5278 with flags set to 0.
5279
5280 This function is expected to be used to signal to perl that this SV is
5281 about to be written to, and any extra book-keeping needs to be taken care
5282 of.  Hence, it croaks on read-only values.
5283
5284 =for apidoc Amnh||SV_COW_DROP_PV
5285
5286 =cut
5287 */
5288
5289 void
5290 Perl_sv_force_normal_flags(pTHX_ SV *const sv, const U32 flags)
5291 {
5292     PERL_ARGS_ASSERT_SV_FORCE_NORMAL_FLAGS;
5293
5294     if (SvREADONLY(sv))
5295         Perl_croak_no_modify();
5296     else if (SvIsCOW(sv) && LIKELY(SvTYPE(sv) != SVt_PVHV))
5297         S_sv_uncow(aTHX_ sv, flags);
5298     if (SvROK(sv))
5299         sv_unref_flags(sv, flags);
5300     else if (SvFAKE(sv) && isGV_with_GP(sv))
5301         sv_unglob(sv, flags);
5302     else if (SvFAKE(sv) && isREGEXP(sv)) {
5303         /* Need to downgrade the REGEXP to a simple(r) scalar. This is analogous
5304            to sv_unglob. We only need it here, so inline it.  */
5305         const bool islv = SvTYPE(sv) == SVt_PVLV;
5306         const svtype new_type =
5307           islv ? SVt_NULL : SvMAGIC(sv) || SvSTASH(sv) ? SVt_PVMG : SVt_PV;
5308         SV *const temp = newSV_type(new_type);
5309         regexp *old_rx_body;
5310
5311         if (new_type == SVt_PVMG) {
5312             SvMAGIC_set(temp, SvMAGIC(sv));
5313             SvMAGIC_set(sv, NULL);
5314             SvSTASH_set(temp, SvSTASH(sv));
5315             SvSTASH_set(sv, NULL);
5316         }
5317         if (!islv)
5318             SvCUR_set(temp, SvCUR(sv));
5319         /* Remember that SvPVX is in the head, not the body. */
5320         assert(ReANY((REGEXP *)sv)->mother_re);
5321
5322         if (islv) {
5323             /* LV-as-regex has sv->sv_any pointing to an XPVLV body,
5324              * whose xpvlenu_rx field points to the regex body */
5325             XPV *xpv = (XPV*)(SvANY(sv));
5326             old_rx_body = xpv->xpv_len_u.xpvlenu_rx;
5327             xpv->xpv_len_u.xpvlenu_rx = NULL;
5328         }
5329         else
5330             old_rx_body = ReANY((REGEXP *)sv);
5331
5332         /* Their buffer is already owned by someone else. */
5333         if (flags & SV_COW_DROP_PV) {
5334             /* SvLEN is already 0.  For SVt_REGEXP, we have a brand new
5335                zeroed body.  For SVt_PVLV, we zeroed it above (len field
5336                a union with xpvlenu_rx) */
5337             assert(!SvLEN(islv ? sv : temp));
5338             sv->sv_u.svu_pv = 0;
5339         }
5340         else {
5341             sv->sv_u.svu_pv = savepvn(RX_WRAPPED((REGEXP *)sv), SvCUR(sv));
5342             SvLEN_set(islv ? sv : temp, SvCUR(sv)+1);
5343             SvPOK_on(sv);
5344         }
5345
5346         /* Now swap the rest of the bodies. */
5347
5348         SvFAKE_off(sv);
5349         if (!islv) {
5350             SvFLAGS(sv) &= ~SVTYPEMASK;
5351             SvFLAGS(sv) |= new_type;
5352             SvANY(sv) = SvANY(temp);
5353         }
5354
5355         SvFLAGS(temp) &= ~(SVTYPEMASK);
5356         SvFLAGS(temp) |= SVt_REGEXP|SVf_FAKE;
5357         SvANY(temp) = old_rx_body;
5358
5359         SvREFCNT_dec_NN(temp);
5360     }
5361     else if (SvVOK(sv)) sv_unmagic(sv, PERL_MAGIC_vstring);
5362 }
5363
5364 /*
5365 =for apidoc sv_chop
5366
5367 Efficient removal of characters from the beginning of the string buffer.
5368 C<SvPOK(sv)>, or at least C<SvPOKp(sv)>, must be true and C<ptr> must be a
5369 pointer to somewhere inside the string buffer.  C<ptr> becomes the first
5370 character of the adjusted string.  Uses the C<OOK> hack.  On return, only
5371 C<SvPOK(sv)> and C<SvPOKp(sv)> among the C<OK> flags will be true.
5372
5373 Beware: after this function returns, C<ptr> and SvPVX_const(sv) may no longer
5374 refer to the same chunk of data.
5375
5376 The unfortunate similarity of this function's name to that of Perl's C<chop>
5377 operator is strictly coincidental.  This function works from the left;
5378 C<chop> works from the right.
5379
5380 =cut
5381 */
5382
5383 void
5384 Perl_sv_chop(pTHX_ SV *const sv, const char *const ptr)
5385 {
5386     STRLEN delta;
5387     STRLEN old_delta;
5388     U8 *p;
5389 #ifdef DEBUGGING
5390     const U8 *evacp;
5391     STRLEN evacn;
5392 #endif
5393     STRLEN max_delta;
5394
5395     PERL_ARGS_ASSERT_SV_CHOP;
5396
5397     if (!ptr || !SvPOKp(sv))
5398         return;
5399     delta = ptr - SvPVX_const(sv);
5400     if (!delta) {
5401         /* Nothing to do.  */
5402         return;
5403     }
5404     max_delta = SvLEN(sv) ? SvLEN(sv) : SvCUR(sv);
5405     if (delta > max_delta)
5406         Perl_croak(aTHX_ "panic: sv_chop ptr=%p, start=%p, end=%p",
5407                    ptr, SvPVX_const(sv), SvPVX_const(sv) + max_delta);
5408     /* SvPVX(sv) may move in SV_CHECK_THINKFIRST(sv), so don't use ptr any more */
5409     SV_CHECK_THINKFIRST(sv);
5410     SvPOK_only_UTF8(sv);
5411
5412     if (!SvOOK(sv)) {
5413         if (!SvLEN(sv)) { /* make copy of shared string */
5414             const char *pvx = SvPVX_const(sv);
5415             const STRLEN len = SvCUR(sv);
5416             SvGROW(sv, len + 1);
5417             Move(pvx,SvPVX(sv),len,char);
5418             *SvEND(sv) = '\0';
5419         }
5420         SvOOK_on(sv);
5421         old_delta = 0;
5422     } else {
5423         SvOOK_offset(sv, old_delta);
5424     }
5425     SvLEN_set(sv, SvLEN(sv) - delta);
5426     SvCUR_set(sv, SvCUR(sv) - delta);
5427     SvPV_set(sv, SvPVX(sv) + delta);
5428
5429     p = (U8 *)SvPVX_const(sv);
5430
5431 #ifdef DEBUGGING
5432     /* how many bytes were evacuated?  we will fill them with sentinel
5433        bytes, except for the part holding the new offset of course. */
5434     evacn = delta;
5435     if (old_delta)
5436         evacn += (old_delta < 0x100 ? 1 : 1 + sizeof(STRLEN));
5437     assert(evacn);
5438     assert(evacn <= delta + old_delta);
5439     evacp = p - evacn;
5440 #endif
5441
5442     /* This sets 'delta' to the accumulated value of all deltas so far */
5443     delta += old_delta;
5444     assert(delta);
5445
5446     /* If 'delta' fits in a byte, store it just prior to the new beginning of
5447      * the string; otherwise store a 0 byte there and store 'delta' just prior
5448      * to that, using as many bytes as a STRLEN occupies.  Thus it overwrites a
5449      * portion of the chopped part of the string */
5450     if (delta < 0x100) {
5451         *--p = (U8) delta;
5452     } else {
5453         *--p = 0;
5454         p -= sizeof(STRLEN);
5455         Copy((U8*)&delta, p, sizeof(STRLEN), U8);
5456     }
5457
5458 #ifdef DEBUGGING
5459     /* Fill the preceding buffer with sentinals to verify that no-one is
5460        using it.  */
5461     while (p > evacp) {
5462         --p;
5463         *p = (U8)PTR2UV(p);
5464     }
5465 #endif
5466 }
5467
5468 /*
5469 =for apidoc sv_catpvn
5470
5471 Concatenates the string onto the end of the string which is in the SV.
5472 C<len> indicates number of bytes to copy.  If the SV has the UTF-8
5473 status set, then the bytes appended should be valid UTF-8.
5474 Handles 'get' magic, but not 'set' magic.  See C<L</sv_catpvn_mg>>.
5475
5476 =for apidoc sv_catpvn_flags
5477
5478 Concatenates the string onto the end of the string which is in the SV.  The
5479 C<len> indicates number of bytes to copy.
5480
5481 By default, the string appended is assumed to be valid UTF-8 if the SV has
5482 the UTF-8 status set, and a string of bytes otherwise.  One can force the
5483 appended string to be interpreted as UTF-8 by supplying the C<SV_CATUTF8>
5484 flag, and as bytes by supplying the C<SV_CATBYTES> flag; the SV or the
5485 string appended will be upgraded to UTF-8 if necessary.
5486
5487 If C<flags> has the C<SV_SMAGIC> bit set, will
5488 C<mg_set> on C<dsv> afterwards if appropriate.
5489 C<sv_catpvn> and C<sv_catpvn_nomg> are implemented
5490 in terms of this function.
5491
5492 =cut
5493 */
5494
5495 void
5496 Perl_sv_catpvn_flags(pTHX_ SV *const dsv, const char *sstr, const STRLEN slen, const I32 flags)
5497 {
5498     STRLEN dlen;
5499     const char * const dstr = SvPV_force_flags(dsv, dlen, flags);
5500
5501     PERL_ARGS_ASSERT_SV_CATPVN_FLAGS;
5502     assert((flags & (SV_CATBYTES|SV_CATUTF8)) != (SV_CATBYTES|SV_CATUTF8));
5503
5504     if (!(flags & SV_CATBYTES) || !SvUTF8(dsv)) {
5505       if (flags & SV_CATUTF8 && !SvUTF8(dsv)) {
5506          sv_utf8_upgrade_flags_grow(dsv, 0, slen + 1);
5507          dlen = SvCUR(dsv);
5508       }
5509       else SvGROW(dsv, dlen + slen + 3);
5510       if (sstr == dstr)
5511         sstr = SvPVX_const(dsv);
5512       Move(sstr, SvPVX(dsv) + dlen, slen, char);
5513       SvCUR_set(dsv, SvCUR(dsv) + slen);
5514     }
5515     else {
5516         /* We inline bytes_to_utf8, to avoid an extra malloc. */
5517         const char * const send = sstr + slen;
5518         U8 *d;
5519
5520         /* Something this code does not account for, which I think is
5521            impossible; it would require the same pv to be treated as
5522            bytes *and* utf8, which would indicate a bug elsewhere. */
5523         assert(sstr != dstr);
5524
5525         SvGROW(dsv, dlen + slen * 2 + 3);
5526         d = (U8 *)SvPVX(dsv) + dlen;
5527
5528         while (sstr < send) {
5529             append_utf8_from_native_byte(*sstr, &d);
5530             sstr++;
5531         }
5532         SvCUR_set(dsv, d-(const U8 *)SvPVX(dsv));
5533     }
5534     *SvEND(dsv) = '\0';
5535     (void)SvPOK_only_UTF8(dsv);         /* validate pointer */
5536     SvTAINT(dsv);
5537     if (flags & SV_SMAGIC)
5538         SvSETMAGIC(dsv);
5539 }
5540
5541 /*
5542 =for apidoc sv_catsv
5543
5544 Concatenates the string from SV C<ssv> onto the end of the string in SV
5545 C<dsv>.  If C<ssv> is null, does nothing; otherwise modifies only C<dsv>.
5546 Handles 'get' magic on both SVs, but no 'set' magic.  See C<L</sv_catsv_mg>>
5547 and C<L</sv_catsv_nomg>>.
5548
5549 =for apidoc sv_catsv_flags
5550
5551 Concatenates the string from SV C<ssv> onto the end of the string in SV
5552 C<dsv>.  If C<ssv> is null, does nothing; otherwise modifies only C<dsv>.
5553 If C<flags> has the C<SV_GMAGIC> bit set, will call C<mg_get> on both SVs if
5554 appropriate.  If C<flags> has the C<SV_SMAGIC> bit set, C<mg_set> will be called on
5555 the modified SV afterward, if appropriate.  C<sv_catsv>, C<sv_catsv_nomg>,
5556 and C<sv_catsv_mg> are implemented in terms of this function.
5557
5558 =cut */
5559
5560 void
5561 Perl_sv_catsv_flags(pTHX_ SV *const dsv, SV *const ssv, const I32 flags)
5562 {
5563     PERL_ARGS_ASSERT_SV_CATSV_FLAGS;
5564
5565     if (ssv) {
5566         STRLEN slen;
5567         const char *spv = SvPV_flags_const(ssv, slen, flags);
5568         if (flags & SV_GMAGIC)
5569                 SvGETMAGIC(dsv);
5570         sv_catpvn_flags(dsv, spv, slen,
5571                             DO_UTF8(ssv) ? SV_CATUTF8 : SV_CATBYTES);
5572         if (flags & SV_SMAGIC)
5573                 SvSETMAGIC(dsv);
5574     }
5575 }
5576
5577 /*
5578 =for apidoc sv_catpv
5579
5580 Concatenates the C<NUL>-terminated string onto the end of the string which is
5581 in the SV.
5582 If the SV has the UTF-8 status set, then the bytes appended should be
5583 valid UTF-8.  Handles 'get' magic, but not 'set' magic.  See
5584 C<L</sv_catpv_mg>>.
5585
5586 =cut */
5587
5588 void
5589 Perl_sv_catpv(pTHX_ SV *const sv, const char *ptr)
5590 {
5591     STRLEN len;
5592     STRLEN tlen;
5593     char *junk;
5594
5595     PERL_ARGS_ASSERT_SV_CATPV;
5596
5597     if (!ptr)
5598         return;
5599     junk = SvPV_force(sv, tlen);
5600     len = strlen(ptr);
5601     SvGROW(sv, tlen + len + 1);
5602     if (ptr == junk)
5603         ptr = SvPVX_const(sv);
5604     Move(ptr,SvPVX(sv)+tlen,len+1,char);
5605     SvCUR_set(sv, SvCUR(sv) + len);
5606     (void)SvPOK_only_UTF8(sv);          /* validate pointer */
5607     SvTAINT(sv);
5608 }
5609
5610 /*
5611 =for apidoc sv_catpv_flags
5612
5613 Concatenates the C<NUL>-terminated string onto the end of the string which is
5614 in the SV.
5615 If the SV has the UTF-8 status set, then the bytes appended should
5616 be valid UTF-8.  If C<flags> has the C<SV_SMAGIC> bit set, will C<mg_set>
5617 on the modified SV if appropriate.
5618
5619 =cut
5620 */
5621
5622 void
5623 Perl_sv_catpv_flags(pTHX_ SV *dstr, const char *sstr, const I32 flags)
5624 {
5625     PERL_ARGS_ASSERT_SV_CATPV_FLAGS;
5626     sv_catpvn_flags(dstr, sstr, strlen(sstr), flags);
5627 }
5628
5629 /*
5630 =for apidoc sv_catpv_mg
5631
5632 Like C<sv_catpv>, but also handles 'set' magic.
5633
5634 =cut
5635 */
5636
5637 void
5638 Perl_sv_catpv_mg(pTHX_ SV *const sv, const char *const ptr)
5639 {
5640     PERL_ARGS_ASSERT_SV_CATPV_MG;
5641
5642     sv_catpv(sv,ptr);
5643     SvSETMAGIC(sv);
5644 }
5645
5646 /*
5647 =for apidoc newSV
5648
5649 Creates a new SV.  A non-zero C<len> parameter indicates the number of
5650 bytes of preallocated string space the SV should have.  An extra byte for a
5651 trailing C<NUL> is also reserved.  (C<SvPOK> is not set for the SV even if string
5652 space is allocated.)  The reference count for the new SV is set to 1.
5653
5654 In 5.9.3, C<newSV()> replaces the older C<NEWSV()> API, and drops the first
5655 parameter, I<x>, a debug aid which allowed callers to identify themselves.
5656 This aid has been superseded by a new build option, C<PERL_MEM_LOG> (see
5657 L<perlhacktips/PERL_MEM_LOG>).  The older API is still there for use in XS
5658 modules supporting older perls.
5659
5660 =cut
5661 */
5662
5663 SV *
5664 Perl_newSV(pTHX_ const STRLEN len)
5665 {
5666     SV *sv;
5667
5668     new_SV(sv);
5669     if (len) {
5670         sv_grow(sv, len + 1);
5671     }
5672     return sv;
5673 }
5674 /*
5675 =for apidoc sv_magicext
5676
5677 Adds magic to an SV, upgrading it if necessary.  Applies the
5678 supplied C<vtable> and returns a pointer to the magic added.
5679
5680 Note that C<sv_magicext> will allow things that C<sv_magic> will not.
5681 In particular, you can add magic to C<SvREADONLY> SVs, and add more than
5682 one instance of the same C<how>.
5683
5684 If C<namlen> is greater than zero then a C<savepvn> I<copy> of C<name> is
5685 stored, if C<namlen> is zero then C<name> is stored as-is and - as another
5686 special case - if C<(name && namlen == HEf_SVKEY)> then C<name> is assumed
5687 to contain an SV* and is stored as-is with its C<REFCNT> incremented.
5688
5689 (This is now used as a subroutine by C<sv_magic>.)
5690
5691 =cut
5692 */
5693 MAGIC * 
5694 Perl_sv_magicext(pTHX_ SV *const sv, SV *const obj, const int how, 
5695                 const MGVTBL *const vtable, const char *const name, const I32 namlen)
5696 {
5697     MAGIC* mg;
5698
5699     PERL_ARGS_ASSERT_SV_MAGICEXT;
5700
5701     SvUPGRADE(sv, SVt_PVMG);
5702     Newxz(mg, 1, MAGIC);
5703     mg->mg_moremagic = SvMAGIC(sv);
5704     SvMAGIC_set(sv, mg);
5705
5706     /* Sometimes a magic contains a reference loop, where the sv and
5707        object refer to each other.  To prevent a reference loop that
5708        would prevent such objects being freed, we look for such loops
5709        and if we find one we avoid incrementing the object refcount.
5710
5711        Note we cannot do this to avoid self-tie loops as intervening RV must
5712        have its REFCNT incremented to keep it in existence.
5713
5714     */
5715     if (!obj || obj == sv ||
5716         how == PERL_MAGIC_arylen ||
5717         how == PERL_MAGIC_regdata ||
5718         how == PERL_MAGIC_regdatum ||
5719         how == PERL_MAGIC_symtab ||
5720         (SvTYPE(obj) == SVt_PVGV &&
5721             (GvSV(obj) == sv || GvHV(obj) == (const HV *)sv
5722              || GvAV(obj) == (const AV *)sv || GvCV(obj) == (const CV *)sv
5723              || GvIOp(obj) == (const IO *)sv || GvFORM(obj) == (const CV *)sv)))
5724     {
5725         mg->mg_obj = obj;
5726     }
5727     else {
5728         mg->mg_obj = SvREFCNT_inc_simple(obj);
5729         mg->mg_flags |= MGf_REFCOUNTED;
5730     }
5731
5732     /* Normal self-ties simply pass a null object, and instead of
5733        using mg_obj directly, use the SvTIED_obj macro to produce a
5734        new RV as needed.  For glob "self-ties", we are tieing the PVIO
5735        with an RV obj pointing to the glob containing the PVIO.  In
5736        this case, to avoid a reference loop, we need to weaken the
5737        reference.
5738     */
5739
5740     if (how == PERL_MAGIC_tiedscalar && SvTYPE(sv) == SVt_PVIO &&
5741         obj && SvROK(obj) && GvIO(SvRV(obj)) == (const IO *)sv)
5742     {
5743       sv_rvweaken(obj);
5744     }
5745
5746     mg->mg_type = how;
5747     mg->mg_len = namlen;
5748     if (name) {
5749         if (namlen > 0)
5750             mg->mg_ptr = savepvn(name, namlen);
5751         else if (namlen == HEf_SVKEY) {
5752             /* Yes, this is casting away const. This is only for the case of
5753                HEf_SVKEY. I think we need to document this aberation of the
5754                constness of the API, rather than making name non-const, as
5755                that change propagating outwards a long way.  */
5756             mg->mg_ptr = (char*)SvREFCNT_inc_simple_NN((SV *)name);
5757         } else
5758             mg->mg_ptr = (char *) name;
5759     }
5760     mg->mg_virtual = (MGVTBL *) vtable;
5761
5762     mg_magical(sv);
5763     return mg;
5764 }
5765
5766 MAGIC *
5767 Perl_sv_magicext_mglob(pTHX_ SV *sv)
5768 {
5769     PERL_ARGS_ASSERT_SV_MAGICEXT_MGLOB;
5770     if (SvTYPE(sv) == SVt_PVLV && LvTYPE(sv) == 'y') {
5771         /* This sv is only a delegate.  //g magic must be attached to
5772            its target. */
5773         vivify_defelem(sv);
5774         sv = LvTARG(sv);
5775     }
5776     return sv_magicext(sv, NULL, PERL_MAGIC_regex_global,
5777                        &PL_vtbl_mglob, 0, 0);
5778 }
5779
5780 /*
5781 =for apidoc sv_magic
5782
5783 Adds magic to an SV.  First upgrades C<sv> to type C<SVt_PVMG> if
5784 necessary, then adds a new magic item of type C<how> to the head of the
5785 magic list.
5786
5787 See C<L</sv_magicext>> (which C<sv_magic> now calls) for a description of the
5788 handling of the C<name> and C<namlen> arguments.
5789
5790 You need to use C<sv_magicext> to add magic to C<SvREADONLY> SVs and also
5791 to add more than one instance of the same C<how>.
5792
5793 =cut
5794 */
5795
5796 void
5797 Perl_sv_magic(pTHX_ SV *const sv, SV *const obj, const int how,
5798              const char *const name, const I32 namlen)
5799 {
5800     const MGVTBL *vtable;
5801     MAGIC* mg;
5802     unsigned int flags;
5803     unsigned int vtable_index;
5804
5805     PERL_ARGS_ASSERT_SV_MAGIC;
5806
5807     if (how < 0 || (unsigned)how >= C_ARRAY_LENGTH(PL_magic_data)
5808         || ((flags = PL_magic_data[how]),
5809             (vtable_index = flags & PERL_MAGIC_VTABLE_MASK)
5810             > magic_vtable_max))
5811         Perl_croak(aTHX_ "Don't know how to handle magic of type \\%o", how);
5812
5813     /* PERL_MAGIC_ext is reserved for use by extensions not perl internals.
5814        Useful for attaching extension internal data to perl vars.
5815        Note that multiple extensions may clash if magical scalars
5816        etc holding private data from one are passed to another. */
5817
5818     vtable = (vtable_index == magic_vtable_max)
5819         ? NULL : PL_magic_vtables + vtable_index;
5820
5821     if (SvREADONLY(sv)) {
5822         if (
5823             !PERL_MAGIC_TYPE_READONLY_ACCEPTABLE(how)
5824            )
5825         {
5826             Perl_croak_no_modify();
5827         }
5828     }
5829     if (SvMAGICAL(sv) || (how == PERL_MAGIC_taint && SvTYPE(sv) >= SVt_PVMG)) {
5830         if (SvMAGIC(sv) && (mg = mg_find(sv, how))) {
5831             /* sv_magic() refuses to add a magic of the same 'how' as an
5832                existing one
5833              */
5834             if (how == PERL_MAGIC_taint)
5835                 mg->mg_len |= 1;
5836             return;
5837         }
5838     }
5839
5840     /* Force pos to be stored as characters, not bytes. */
5841     if (SvMAGICAL(sv) && DO_UTF8(sv)
5842       && (mg = mg_find(sv, PERL_MAGIC_regex_global))
5843       && mg->mg_len != -1
5844       && mg->mg_flags & MGf_BYTES) {
5845         mg->mg_len = (SSize_t)sv_pos_b2u_flags(sv, (STRLEN)mg->mg_len,
5846                                                SV_CONST_RETURN);
5847         mg->mg_flags &= ~MGf_BYTES;
5848     }
5849
5850     /* Rest of work is done else where */
5851     mg = sv_magicext(sv,obj,how,vtable,name,namlen);
5852
5853     switch (how) {
5854     case PERL_MAGIC_taint:
5855         mg->mg_len = 1;
5856         break;
5857     case PERL_MAGIC_ext:
5858     case PERL_MAGIC_dbfile:
5859         SvRMAGICAL_on(sv);
5860         break;
5861     }
5862 }
5863
5864 static int
5865 S_sv_unmagicext_flags(pTHX_ SV *const sv, const int type, MGVTBL *vtbl, const U32 flags)
5866 {
5867     MAGIC* mg;
5868     MAGIC** mgp;
5869
5870     assert(flags <= 1);
5871
5872     if (SvTYPE(sv) < SVt_PVMG || !SvMAGIC(sv))
5873         return 0;
5874     mgp = &(((XPVMG*) SvANY(sv))->xmg_u.xmg_magic);
5875     for (mg = *mgp; mg; mg = *mgp) {
5876         const MGVTBL* const virt = mg->mg_virtual;
5877         if (mg->mg_type == type && (!flags || virt == vtbl)) {
5878             *mgp = mg->mg_moremagic;
5879             if (virt && virt->svt_free)
5880                 virt->svt_free(aTHX_ sv, mg);
5881             if (mg->mg_ptr && mg->mg_type != PERL_MAGIC_regex_global) {
5882                 if (mg->mg_len > 0)
5883                     Safefree(mg->mg_ptr);
5884                 else if (mg->mg_len == HEf_SVKEY)
5885                     SvREFCNT_dec(MUTABLE_SV(mg->mg_ptr));
5886                 else if (mg->mg_type == PERL_MAGIC_utf8)
5887                     Safefree(mg->mg_ptr);
5888             }
5889             if (mg->mg_flags & MGf_REFCOUNTED)
5890                 SvREFCNT_dec(mg->mg_obj);
5891             Safefree(mg);
5892         }
5893         else
5894             mgp = &mg->mg_moremagic;
5895     }
5896     if (SvMAGIC(sv)) {
5897         if (SvMAGICAL(sv))      /* if we're under save_magic, wait for restore_magic; */
5898             mg_magical(sv);     /*    else fix the flags now */
5899     }
5900     else
5901         SvMAGICAL_off(sv);
5902
5903     return 0;
5904 }
5905
5906 /*
5907 =for apidoc sv_unmagic
5908
5909 Removes all magic of type C<type> from an SV.
5910
5911 =cut
5912 */
5913
5914 int
5915 Perl_sv_unmagic(pTHX_ SV *const sv, const int type)
5916 {
5917     PERL_ARGS_ASSERT_SV_UNMAGIC;
5918     return S_sv_unmagicext_flags(aTHX_ sv, type, NULL, 0);
5919 }
5920
5921 /*
5922 =for apidoc sv_unmagicext
5923
5924 Removes all magic of type C<type> with the specified C<vtbl> from an SV.
5925
5926 =cut
5927 */
5928
5929 int
5930 Perl_sv_unmagicext(pTHX_ SV *const sv, const int type, MGVTBL *vtbl)
5931 {
5932     PERL_ARGS_ASSERT_SV_UNMAGICEXT;
5933     return S_sv_unmagicext_flags(aTHX_ sv, type, vtbl, 1);
5934 }
5935
5936 /*
5937 =for apidoc sv_rvweaken
5938
5939 Weaken a reference: set the C<SvWEAKREF> flag on this RV; give the
5940 referred-to SV C<PERL_MAGIC_backref> magic if it hasn't already; and
5941 push a back-reference to this RV onto the array of backreferences
5942 associated with that magic.  If the RV is magical, set magic will be
5943 called after the RV is cleared.  Silently ignores C<undef> and warns
5944 on already-weak references.
5945
5946 =cut
5947 */
5948
5949 SV *
5950 Perl_sv_rvweaken(pTHX_ SV *const sv)
5951 {
5952     SV *tsv;
5953
5954     PERL_ARGS_ASSERT_SV_RVWEAKEN;
5955
5956     if (!SvOK(sv))  /* let undefs pass */
5957         return sv;
5958     if (!SvROK(sv))
5959         Perl_croak(aTHX_ "Can't weaken a nonreference");
5960     else if (SvWEAKREF(sv)) {
5961         Perl_ck_warner(aTHX_ packWARN(WARN_MISC), "Reference is already weak");
5962         return sv;
5963     }
5964     else if (SvREADONLY(sv)) croak_no_modify();
5965     tsv = SvRV(sv);
5966     Perl_sv_add_backref(aTHX_ tsv, sv);
5967     SvWEAKREF_on(sv);
5968     SvREFCNT_dec_NN(tsv);
5969     return sv;
5970 }
5971
5972 /*
5973 =for apidoc sv_rvunweaken
5974
5975 Unweaken a reference: Clear the C<SvWEAKREF> flag on this RV; remove
5976 the backreference to this RV from the array of backreferences
5977 associated with the target SV, increment the refcount of the target.
5978 Silently ignores C<undef> and warns on non-weak references.
5979
5980 =cut
5981 */
5982
5983 SV *
5984 Perl_sv_rvunweaken(pTHX_ SV *const sv)
5985 {
5986     SV *tsv;
5987
5988     PERL_ARGS_ASSERT_SV_RVUNWEAKEN;
5989
5990     if (!SvOK(sv)) /* let undefs pass */
5991         return sv;
5992     if (!SvROK(sv))
5993         Perl_croak(aTHX_ "Can't unweaken a nonreference");
5994     else if (!SvWEAKREF(sv)) {
5995         Perl_ck_warner(aTHX_ packWARN(WARN_MISC), "Reference is not weak");
5996         return sv;
5997     }
5998     else if (SvREADONLY(sv)) croak_no_modify();
5999
6000     tsv = SvRV(sv);
6001     SvWEAKREF_off(sv);
6002     SvROK_on(sv);
6003     SvREFCNT_inc_NN(tsv);
6004     Perl_sv_del_backref(aTHX_ tsv, sv);
6005     return sv;
6006 }
6007
6008 /*
6009 =for apidoc sv_get_backrefs
6010
6011 If C<sv> is the target of a weak reference then it returns the back
6012 references structure associated with the sv; otherwise return C<NULL>.
6013
6014 When returning a non-null result the type of the return is relevant. If it
6015 is an AV then the elements of the AV are the weak reference RVs which
6016 point at this item. If it is any other type then the item itself is the
6017 weak reference.
6018
6019 See also C<Perl_sv_add_backref()>, C<Perl_sv_del_backref()>,
6020 C<Perl_sv_kill_backrefs()>
6021
6022 =cut
6023 */
6024
6025 SV *
6026 Perl_sv_get_backrefs(SV *const sv)
6027 {
6028     SV *backrefs= NULL;
6029
6030     PERL_ARGS_ASSERT_SV_GET_BACKREFS;
6031
6032     /* find slot to store array or singleton backref */
6033
6034     if (SvTYPE(sv) == SVt_PVHV) {
6035         if (SvOOK(sv)) {
6036             struct xpvhv_aux * const iter = HvAUX((HV *)sv);
6037             backrefs = (SV *)iter->xhv_backreferences;
6038         }
6039     } else if (SvMAGICAL(sv)) {
6040         MAGIC *mg = mg_find(sv, PERL_MAGIC_backref);
6041         if (mg)
6042             backrefs = mg->mg_obj;
6043     }
6044     return backrefs;
6045 }
6046
6047 /* Give tsv backref magic if it hasn't already got it, then push a
6048  * back-reference to sv onto the array associated with the backref magic.
6049  *
6050  * As an optimisation, if there's only one backref and it's not an AV,
6051  * store it directly in the HvAUX or mg_obj slot, avoiding the need to
6052  * allocate an AV. (Whether the slot holds an AV tells us whether this is
6053  * active.)
6054  */
6055
6056 /* A discussion about the backreferences array and its refcount:
6057  *
6058  * The AV holding the backreferences is pointed to either as the mg_obj of
6059  * PERL_MAGIC_backref, or in the specific case of a HV, from the
6060  * xhv_backreferences field. The array is created with a refcount
6061  * of 2. This means that if during global destruction the array gets
6062  * picked on before its parent to have its refcount decremented by the
6063  * random zapper, it won't actually be freed, meaning it's still there for
6064  * when its parent gets freed.
6065  *
6066  * When the parent SV is freed, the extra ref is killed by
6067  * Perl_sv_kill_backrefs.  The other ref is killed, in the case of magic,
6068  * by mg_free() / MGf_REFCOUNTED, or for a hash, by Perl_hv_kill_backrefs.
6069  *
6070  * When a single backref SV is stored directly, it is not reference
6071  * counted.
6072  */
6073
6074 void
6075 Perl_sv_add_backref(pTHX_ SV *const tsv, SV *const sv)
6076 {
6077     SV **svp;
6078     AV *av = NULL;
6079     MAGIC *mg = NULL;
6080
6081     PERL_ARGS_ASSERT_SV_ADD_BACKREF;
6082
6083     /* find slot to store array or singleton backref */
6084
6085     if (SvTYPE(tsv) == SVt_PVHV) {
6086         svp = (SV**)Perl_hv_backreferences_p(aTHX_ MUTABLE_HV(tsv));
6087     } else {
6088         if (SvMAGICAL(tsv))
6089             mg = mg_find(tsv, PERL_MAGIC_backref);
6090         if (!mg)
6091             mg = sv_magicext(tsv, NULL, PERL_MAGIC_backref, &PL_vtbl_backref, NULL, 0);
6092         svp = &(mg->mg_obj);
6093     }
6094
6095     /* create or retrieve the array */
6096
6097     if (   (!*svp && SvTYPE(sv) == SVt_PVAV)
6098         || (*svp && SvTYPE(*svp) != SVt_PVAV)
6099     ) {
6100         /* create array */
6101         if (mg)
6102             mg->mg_flags |= MGf_REFCOUNTED;
6103         av = newAV();
6104         AvREAL_off(av);
6105         SvREFCNT_inc_simple_void_NN(av);
6106         /* av now has a refcnt of 2; see discussion above */
6107         av_extend(av, *svp ? 2 : 1);
6108         if (*svp) {
6109             /* move single existing backref to the array */
6110             AvARRAY(av)[++AvFILLp(av)] = *svp; /* av_push() */
6111         }
6112         *svp = (SV*)av;
6113     }
6114     else {
6115         av = MUTABLE_AV(*svp);
6116         if (!av) {
6117             /* optimisation: store single backref directly in HvAUX or mg_obj */
6118             *svp = sv;
6119             return;
6120         }
6121         assert(SvTYPE(av) == SVt_PVAV);
6122         if (AvFILLp(av) >= AvMAX(av)) {
6123             av_extend(av, AvFILLp(av)+1);
6124         }
6125     }
6126     /* push new backref */
6127     AvARRAY(av)[++AvFILLp(av)] = sv; /* av_push() */
6128 }
6129
6130 /* delete a back-reference to ourselves from the backref magic associated
6131  * with the SV we point to.
6132  */
6133
6134 void
6135 Perl_sv_del_backref(pTHX_ SV *const tsv, SV *const sv)
6136 {
6137     SV **svp = NULL;
6138
6139     PERL_ARGS_ASSERT_SV_DEL_BACKREF;
6140
6141     if (SvTYPE(tsv) == SVt_PVHV) {
6142         if (SvOOK(tsv))
6143             svp = (SV**)Perl_hv_backreferences_p(aTHX_ MUTABLE_HV(tsv));
6144     }
6145     else if (SvIS_FREED(tsv) && PL_phase == PERL_PHASE_DESTRUCT) {
6146         /* It's possible for the the last (strong) reference to tsv to have
6147            become freed *before* the last thing holding a weak reference.
6148            If both survive longer than the backreferences array, then when
6149            the referent's reference count drops to 0 and it is freed, it's
6150            not able to chase the backreferences, so they aren't NULLed.
6151
6152            For example, a CV holds a weak reference to its stash. If both the
6153            CV and the stash survive longer than the backreferences array,
6154            and the CV gets picked for the SvBREAK() treatment first,
6155            *and* it turns out that the stash is only being kept alive because
6156            of an our variable in the pad of the CV, then midway during CV
6157            destruction the stash gets freed, but CvSTASH() isn't set to NULL.
6158            It ends up pointing to the freed HV. Hence it's chased in here, and
6159            if this block wasn't here, it would hit the !svp panic just below.
6160
6161            I don't believe that "better" destruction ordering is going to help
6162            here - during global destruction there's always going to be the
6163            chance that something goes out of order. We've tried to make it
6164            foolproof before, and it only resulted in evolutionary pressure on
6165            fools. Which made us look foolish for our hubris. :-(
6166         */
6167         return;
6168     }
6169     else {
6170         MAGIC *const mg
6171             = SvMAGICAL(tsv) ? mg_find(tsv, PERL_MAGIC_backref) : NULL;
6172         svp =  mg ? &(mg->mg_obj) : NULL;
6173     }
6174
6175     if (!svp)
6176         Perl_croak(aTHX_ "panic: del_backref, svp=0");
6177     if (!*svp) {
6178         /* It's possible that sv is being freed recursively part way through the
6179            freeing of tsv. If this happens, the backreferences array of tsv has
6180            already been freed, and so svp will be NULL. If this is the case,
6181            we should not panic. Instead, nothing needs doing, so return.  */
6182         if (PL_phase == PERL_PHASE_DESTRUCT && SvREFCNT(tsv) == 0)
6183             return;
6184         Perl_croak(aTHX_ "panic: del_backref, *svp=%p phase=%s refcnt=%" UVuf,
6185                    (void*)*svp, PL_phase_names[PL_phase], (UV)SvREFCNT(tsv));
6186     }
6187
6188     if (SvTYPE(*svp) == SVt_PVAV) {
6189 #ifdef DEBUGGING
6190         int count = 1;
6191 #endif
6192         AV * const av = (AV*)*svp;
6193         SSize_t fill;
6194         assert(!SvIS_FREED(av));
6195         fill = AvFILLp(av);
6196         assert(fill > -1);
6197         svp = AvARRAY(av);
6198         /* for an SV with N weak references to it, if all those
6199          * weak refs are deleted, then sv_del_backref will be called
6200          * N times and O(N^2) compares will be done within the backref
6201          * array. To ameliorate this potential slowness, we:
6202          * 1) make sure this code is as tight as possible;
6203          * 2) when looking for SV, look for it at both the head and tail of the
6204          *    array first before searching the rest, since some create/destroy
6205          *    patterns will cause the backrefs to be freed in order.
6206          */
6207         if (*svp == sv) {
6208             AvARRAY(av)++;
6209             AvMAX(av)--;
6210         }
6211         else {
6212             SV **p = &svp[fill];
6213             SV *const topsv = *p;
6214             if (topsv != sv) {
6215 #ifdef DEBUGGING
6216                 count = 0;
6217 #endif
6218                 while (--p > svp) {
6219                     if (*p == sv) {
6220                         /* We weren't the last entry.
6221                            An unordered list has this property that you
6222                            can take the last element off the end to fill
6223                            the hole, and it's still an unordered list :-)
6224                         */
6225                         *p = topsv;
6226 #ifdef DEBUGGING
6227                         count++;
6228 #else
6229                         break; /* should only be one */
6230 #endif
6231                     }
6232                 }
6233             }
6234         }
6235         assert(count ==1);
6236         AvFILLp(av) = fill-1;
6237     }
6238     else if (SvIS_FREED(*svp) && PL_phase == PERL_PHASE_DESTRUCT) {
6239         /* freed AV; skip */
6240     }
6241     else {
6242         /* optimisation: only a single backref, stored directly */
6243         if (*svp != sv)
6244             Perl_croak(aTHX_ "panic: del_backref, *svp=%p, sv=%p",
6245                        (void*)*svp, (void*)sv);
6246         *svp = NULL;
6247     }
6248
6249 }
6250
6251 void
6252 Perl_sv_kill_backrefs(pTHX_ SV *const sv, AV *const av)
6253 {
6254     SV **svp;
6255     SV **last;
6256     bool is_array;
6257
6258     PERL_ARGS_ASSERT_SV_KILL_BACKREFS;
6259
6260     if (!av)
6261         return;
6262
6263     /* after multiple passes through Perl_sv_clean_all() for a thingy
6264      * that has badly leaked, the backref array may have gotten freed,
6265      * since we only protect it against 1 round of cleanup */
6266     if (SvIS_FREED(av)) {
6267         if (PL_in_clean_all) /* All is fair */
6268             return;
6269         Perl_croak(aTHX_
6270                    "panic: magic_killbackrefs (freed backref AV/SV)");
6271     }
6272
6273
6274     is_array = (SvTYPE(av) == SVt_PVAV);
6275     if (is_array) {
6276         assert(!SvIS_FREED(av));
6277         svp = AvARRAY(av);
6278         if (svp)
6279             last = svp + AvFILLp(av);
6280     }
6281     else {
6282         /* optimisation: only a single backref, stored directly */
6283         svp = (SV**)&av;
6284         last = svp;
6285     }
6286
6287     if (svp) {
6288         while (svp <= last) {
6289             if (*svp) {
6290                 SV *const referrer = *svp;
6291                 if (SvWEAKREF(referrer)) {
6292                     /* XXX Should we check that it hasn't changed? */
6293                     assert(SvROK(referrer));
6294                     SvRV_set(referrer, 0);
6295                     SvOK_off(referrer);
6296                     SvWEAKREF_off(referrer);
6297                     SvSETMAGIC(referrer);
6298                 } else if (SvTYPE(referrer) == SVt_PVGV ||
6299                            SvTYPE(referrer) == SVt_PVLV) {
6300                     assert(SvTYPE(sv) == SVt_PVHV); /* stash backref */
6301                     /* You lookin' at me?  */
6302                     assert(GvSTASH(referrer));
6303                     assert(GvSTASH(referrer) == (const HV *)sv);
6304                     GvSTASH(referrer) = 0;
6305                 } else if (SvTYPE(referrer) == SVt_PVCV ||
6306                            SvTYPE(referrer) == SVt_PVFM) {
6307                     if (SvTYPE(sv) == SVt_PVHV) { /* stash backref */
6308                         /* You lookin' at me?  */
6309                         assert(CvSTASH(referrer));
6310                         assert(CvSTASH(referrer) == (const HV *)sv);
6311                         SvANY(MUTABLE_CV(referrer))->xcv_stash = 0;
6312                     }
6313                     else {
6314                         assert(SvTYPE(sv) == SVt_PVGV);
6315                         /* You lookin' at me?  */
6316                         assert(CvGV(referrer));
6317                         assert(CvGV(referrer) == (const GV *)sv);
6318                         anonymise_cv_maybe(MUTABLE_GV(sv),
6319                                                 MUTABLE_CV(referrer));
6320                     }
6321
6322                 } else {
6323                     Perl_croak(aTHX_
6324                                "panic: magic_killbackrefs (flags=%" UVxf ")",
6325                                (UV)SvFLAGS(referrer));
6326                 }
6327
6328                 if (is_array)
6329                     *svp = NULL;
6330             }
6331             svp++;
6332         }
6333     }
6334     if (is_array) {
6335         AvFILLp(av) = -1;
6336         SvREFCNT_dec_NN(av); /* remove extra count added by sv_add_backref() */
6337     }
6338     return;
6339 }
6340
6341 /*
6342 =for apidoc sv_insert
6343
6344 Inserts and/or replaces a string at the specified offset/length within the SV.
6345 Similar to the Perl C<substr()> function, with C<littlelen> bytes starting at
6346 C<little> replacing C<len> bytes of the string in C<bigstr> starting at
6347 C<offset>.  Handles get magic.
6348
6349 =for apidoc sv_insert_flags
6350
6351 Same as C<sv_insert>, but the extra C<flags> are passed to the
6352 C<SvPV_force_flags> that applies to C<bigstr>.
6353
6354 =cut
6355 */
6356
6357 void
6358 Perl_sv_insert_flags(pTHX_ SV *const bigstr, const STRLEN offset, const STRLEN len, const char *little, const STRLEN littlelen, const U32 flags)
6359 {
6360     char *big;
6361     char *mid;
6362     char *midend;
6363     char *bigend;
6364     SSize_t i;          /* better be sizeof(STRLEN) or bad things happen */
6365     STRLEN curlen;
6366
6367     PERL_ARGS_ASSERT_SV_INSERT_FLAGS;
6368
6369     SvPV_force_flags(bigstr, curlen, flags);
6370     (void)SvPOK_only_UTF8(bigstr);
6371
6372     if (little >= SvPVX(bigstr) &&
6373         little < SvPVX(bigstr) + (SvLEN(bigstr) ? SvLEN(bigstr) : SvCUR(bigstr))) {
6374         /* little is a pointer to within bigstr, since we can reallocate bigstr,
6375            or little...little+littlelen might overlap offset...offset+len we make a copy
6376         */
6377         little = savepvn(little, littlelen);
6378         SAVEFREEPV(little);
6379     }
6380
6381     if (offset + len > curlen) {
6382         SvGROW(bigstr, offset+len+1);
6383         Zero(SvPVX(bigstr)+curlen, offset+len-curlen, char);
6384         SvCUR_set(bigstr, offset+len);
6385     }
6386
6387     SvTAINT(bigstr);
6388     i = littlelen - len;
6389     if (i > 0) {                        /* string might grow */
6390         big = SvGROW(bigstr, SvCUR(bigstr) + i + 1);
6391         mid = big + offset + len;
6392         midend = bigend = big + SvCUR(bigstr);
6393         bigend += i;
6394         *bigend = '\0';
6395         while (midend > mid)            /* shove everything down */
6396             *--bigend = *--midend;
6397         Move(little,big+offset,littlelen,char);
6398         SvCUR_set(bigstr, SvCUR(bigstr) + i);
6399         SvSETMAGIC(bigstr);
6400         return;
6401     }
6402     else if (i == 0) {
6403         Move(little,SvPVX(bigstr)+offset,len,char);
6404         SvSETMAGIC(bigstr);
6405         return;
6406     }
6407
6408     big = SvPVX(bigstr);
6409     mid = big + offset;
6410     midend = mid + len;
6411     bigend = big + SvCUR(bigstr);
6412
6413     if (midend > bigend)
6414         Perl_croak(aTHX_ "panic: sv_insert, midend=%p, bigend=%p",
6415                    midend, bigend);
6416
6417     if (mid - big > bigend - midend) {  /* faster to shorten from end */
6418         if (littlelen) {
6419             Move(little, mid, littlelen,char);
6420             mid += littlelen;
6421         }
6422         i = bigend - midend;
6423         if (i > 0) {
6424             Move(midend, mid, i,char);
6425             mid += i;
6426         }
6427         *mid = '\0';
6428         SvCUR_set(bigstr, mid - big);
6429     }
6430     else if ((i = mid - big)) { /* faster from front */
6431         midend -= littlelen;
6432         mid = midend;
6433         Move(big, midend - i, i, char);
6434         sv_chop(bigstr,midend-i);
6435         if (littlelen)
6436             Move(little, mid, littlelen,char);
6437     }
6438     else if (littlelen) {
6439         midend -= littlelen;
6440         sv_chop(bigstr,midend);
6441         Move(little,midend,littlelen,char);
6442     }
6443     else {
6444         sv_chop(bigstr,midend);
6445     }
6446     SvSETMAGIC(bigstr);
6447 }
6448
6449 /*
6450 =for apidoc sv_replace
6451
6452 Make the first argument a copy of the second, then delete the original.
6453 The target SV physically takes over ownership of the body of the source SV
6454 and inherits its flags; however, the target keeps any magic it owns,
6455 and any magic in the source is discarded.
6456 Note that this is a rather specialist SV copying operation; most of the
6457 time you'll want to use C<sv_setsv> or one of its many macro front-ends.
6458
6459 =cut
6460 */
6461
6462 void
6463 Perl_sv_replace(pTHX_ SV *const sv, SV *const nsv)
6464 {
6465     const U32 refcnt = SvREFCNT(sv);
6466
6467     PERL_ARGS_ASSERT_SV_REPLACE;
6468
6469     SV_CHECK_THINKFIRST_COW_DROP(sv);
6470     if (SvREFCNT(nsv) != 1) {
6471         Perl_croak(aTHX_ "panic: reference miscount on nsv in sv_replace()"
6472                    " (%" UVuf " != 1)", (UV) SvREFCNT(nsv));
6473     }
6474     if (SvMAGICAL(sv)) {
6475         if (SvMAGICAL(nsv))
6476             mg_free(nsv);
6477         else
6478             sv_upgrade(nsv, SVt_PVMG);
6479         SvMAGIC_set(nsv, SvMAGIC(sv));
6480         SvFLAGS(nsv) |= SvMAGICAL(sv);
6481         SvMAGICAL_off(sv);
6482         SvMAGIC_set(sv, NULL);
6483     }
6484     SvREFCNT(sv) = 0;
6485     sv_clear(sv);
6486     assert(!SvREFCNT(sv));
6487 #ifdef DEBUG_LEAKING_SCALARS
6488     sv->sv_flags  = nsv->sv_flags;
6489     sv->sv_any    = nsv->sv_any;
6490     sv->sv_refcnt = nsv->sv_refcnt;
6491     sv->sv_u      = nsv->sv_u;
6492 #else
6493     StructCopy(nsv,sv,SV);
6494 #endif
6495     if(SvTYPE(sv) == SVt_IV) {
6496         SET_SVANY_FOR_BODYLESS_IV(sv);
6497     }
6498         
6499
6500     SvREFCNT(sv) = refcnt;
6501     SvFLAGS(nsv) |= SVTYPEMASK;         /* Mark as freed */
6502     SvREFCNT(nsv) = 0;
6503     del_SV(nsv);
6504 }
6505
6506 /* We're about to free a GV which has a CV that refers back to us.
6507  * If that CV will outlive us, make it anonymous (i.e. fix up its CvGV
6508  * field) */
6509
6510 STATIC void
6511 S_anonymise_cv_maybe(pTHX_ GV *gv, CV* cv)
6512 {
6513     SV *gvname;
6514     GV *anongv;
6515
6516     PERL_ARGS_ASSERT_ANONYMISE_CV_MAYBE;
6517
6518     /* be assertive! */
6519     assert(SvREFCNT(gv) == 0);
6520     assert(isGV(gv) && isGV_with_GP(gv));
6521     assert(GvGP(gv));
6522     assert(!CvANON(cv));
6523     assert(CvGV(cv) == gv);
6524     assert(!CvNAMED(cv));
6525
6526     /* will the CV shortly be freed by gp_free() ? */
6527     if (GvCV(gv) == cv && GvGP(gv)->gp_refcnt < 2 && SvREFCNT(cv) < 2) {
6528         SvANY(cv)->xcv_gv_u.xcv_gv = NULL;
6529         return;
6530     }
6531
6532     /* if not, anonymise: */
6533     gvname = (GvSTASH(gv) && HvNAME(GvSTASH(gv)) && HvENAME(GvSTASH(gv)))
6534                     ? newSVhek(HvENAME_HEK(GvSTASH(gv)))
6535                     : newSVpvn_flags( "__ANON__", 8, 0 );
6536     sv_catpvs(gvname, "::__ANON__");
6537     anongv = gv_fetchsv(gvname, GV_ADDMULTI, SVt_PVCV);
6538     SvREFCNT_dec_NN(gvname);
6539
6540     CvANON_on(cv);
6541     CvCVGV_RC_on(cv);
6542     SvANY(cv)->xcv_gv_u.xcv_gv = MUTABLE_GV(SvREFCNT_inc(anongv));
6543 }
6544
6545
6546 /*
6547 =for apidoc sv_clear
6548
6549 Clear an SV: call any destructors, free up any memory used by the body,
6550 and free the body itself.  The SV's head is I<not> freed, although
6551 its type is set to all 1's so that it won't inadvertently be assumed
6552 to be live during global destruction etc.
6553 This function should only be called when C<REFCNT> is zero.  Most of the time
6554 you'll want to call C<sv_free()> (or its macro wrapper C<SvREFCNT_dec>)
6555 instead.
6556
6557 =cut
6558 */
6559
6560 void
6561 Perl_sv_clear(pTHX_ SV *const orig_sv)
6562 {
6563     dVAR;
6564     HV *stash;
6565     U32 type;
6566     const struct body_details *sv_type_details;
6567     SV* iter_sv = NULL;
6568     SV* next_sv = NULL;
6569     SV *sv = orig_sv;
6570     STRLEN hash_index = 0; /* initialise to make Coverity et al happy.
6571                               Not strictly necessary */
6572
6573     PERL_ARGS_ASSERT_SV_CLEAR;
6574
6575     /* within this loop, sv is the SV currently being freed, and
6576      * iter_sv is the most recent AV or whatever that's being iterated
6577      * over to provide more SVs */
6578
6579     while (sv) {
6580
6581         type = SvTYPE(sv);
6582
6583         assert(SvREFCNT(sv) == 0);
6584         assert(SvTYPE(sv) != (svtype)SVTYPEMASK);
6585
6586         if (type <= SVt_IV) {
6587             /* See the comment in sv.h about the collusion between this
6588              * early return and the overloading of the NULL slots in the
6589              * size table.  */
6590             if (SvROK(sv))
6591                 goto free_rv;
6592             SvFLAGS(sv) &= SVf_BREAK;
6593             SvFLAGS(sv) |= SVTYPEMASK;
6594             goto free_head;
6595         }
6596
6597         /* objs are always >= MG, but pad names use the SVs_OBJECT flag
6598            for another purpose  */
6599         assert(!SvOBJECT(sv) || type >= SVt_PVMG);
6600
6601         if (type >= SVt_PVMG) {
6602             if (SvOBJECT(sv)) {
6603                 if (!curse(sv, 1)) goto get_next_sv;
6604                 type = SvTYPE(sv); /* destructor may have changed it */
6605             }
6606             /* Free back-references before magic, in case the magic calls
6607              * Perl code that has weak references to sv. */
6608             if (type == SVt_PVHV) {
6609                 Perl_hv_kill_backrefs(aTHX_ MUTABLE_HV(sv));
6610                 if (SvMAGIC(sv))
6611                     mg_free(sv);
6612             }
6613             else if (SvMAGIC(sv)) {
6614                 /* Free back-references before other types of magic. */
6615                 sv_unmagic(sv, PERL_MAGIC_backref);
6616                 mg_free(sv);
6617             }
6618             SvMAGICAL_off(sv);
6619         }
6620         switch (type) {
6621             /* case SVt_INVLIST: */
6622         case SVt_PVIO:
6623             if (IoIFP(sv) &&
6624                 IoIFP(sv) != PerlIO_stdin() &&
6625                 IoIFP(sv) != PerlIO_stdout() &&
6626                 IoIFP(sv) != PerlIO_stderr() &&
6627                 !(IoFLAGS(sv) & IOf_FAKE_DIRP))
6628             {
6629                 io_close(MUTABLE_IO(sv), NULL, FALSE,
6630                          (IoTYPE(sv) == IoTYPE_WRONLY ||
6631                           IoTYPE(sv) == IoTYPE_RDWR   ||
6632                           IoTYPE(sv) == IoTYPE_APPEND));
6633             }
6634             if (IoDIRP(sv) && !(IoFLAGS(sv) & IOf_FAKE_DIRP))
6635                 PerlDir_close(IoDIRP(sv));
6636             IoDIRP(sv) = (DIR*)NULL;
6637             Safefree(IoTOP_NAME(sv));
6638             Safefree(IoFMT_NAME(sv));
6639             Safefree(IoBOTTOM_NAME(sv));
6640             if ((const GV *)sv == PL_statgv)
6641                 PL_statgv = NULL;
6642             goto freescalar;
6643         case SVt_REGEXP:
6644             /* FIXME for plugins */
6645             pregfree2((REGEXP*) sv);
6646             goto freescalar;
6647         case SVt_PVCV:
6648         case SVt_PVFM:
6649             cv_undef(MUTABLE_CV(sv));
6650             /* If we're in a stash, we don't own a reference to it.
6651              * However it does have a back reference to us, which needs to
6652              * be cleared.  */
6653             if ((stash = CvSTASH(sv)))
6654                 sv_del_backref(MUTABLE_SV(stash), sv);
6655             goto freescalar;
6656         case SVt_PVHV:
6657             if (HvTOTALKEYS((HV*)sv) > 0) {
6658                 const HEK *hek;
6659                 /* this statement should match the one at the beginning of
6660                  * hv_undef_flags() */
6661                 if (   PL_phase != PERL_PHASE_DESTRUCT
6662                     && (hek = HvNAME_HEK((HV*)sv)))
6663                 {
6664                     if (PL_stashcache) {
6665                         DEBUG_o(Perl_deb(aTHX_
6666                             "sv_clear clearing PL_stashcache for '%" HEKf
6667                             "'\n",
6668                              HEKfARG(hek)));
6669                         (void)hv_deletehek(PL_stashcache,
6670                                            hek, G_DISCARD);
6671                     }
6672                     hv_name_set((HV*)sv, NULL, 0, 0);
6673                 }
6674
6675                 /* save old iter_sv in unused SvSTASH field */
6676                 assert(!SvOBJECT(sv));
6677                 SvSTASH(sv) = (HV*)iter_sv;
6678                 iter_sv = sv;
6679
6680                 /* save old hash_index in unused SvMAGIC field */
6681                 assert(!SvMAGICAL(sv));
6682                 assert(!SvMAGIC(sv));
6683                 ((XPVMG*) SvANY(sv))->xmg_u.xmg_hash_index = hash_index;
6684                 hash_index = 0;
6685
6686                 next_sv = Perl_hfree_next_entry(aTHX_ (HV*)sv, &hash_index);
6687                 goto get_next_sv; /* process this new sv */
6688             }
6689             /* free empty hash */
6690             Perl_hv_undef_flags(aTHX_ MUTABLE_HV(sv), HV_NAME_SETALL);
6691             assert(!HvARRAY((HV*)sv));
6692             break;
6693         case SVt_PVAV:
6694             {
6695                 AV* av = MUTABLE_AV(sv);
6696                 if (PL_comppad == av) {
6697                     PL_comppad = NULL;
6698                     PL_curpad = NULL;
6699                 }
6700                 if (AvREAL(av) && AvFILLp(av) > -1) {
6701                     next_sv = AvARRAY(av)[AvFILLp(av)--];
6702                     /* save old iter_sv in top-most slot of AV,
6703                      * and pray that it doesn't get wiped in the meantime */
6704                     AvARRAY(av)[AvMAX(av)] = iter_sv;
6705                     iter_sv = sv;
6706                     goto get_next_sv; /* process this new sv */
6707                 }
6708                 Safefree(AvALLOC(av));
6709             }
6710
6711             break;
6712         case SVt_PVLV:
6713             if (LvTYPE(sv) == 'T') { /* for tie: return HE to pool */
6714                 SvREFCNT_dec(HeKEY_sv((HE*)LvTARG(sv)));
6715                 HeNEXT((HE*)LvTARG(sv)) = PL_hv_fetch_ent_mh;
6716                 PL_hv_fetch_ent_mh = (HE*)LvTARG(sv);
6717             }
6718             else if (LvTYPE(sv) != 't') /* unless tie: unrefcnted fake SV**  */
6719                 SvREFCNT_dec(LvTARG(sv));
6720             if (isREGEXP(sv)) {
6721                 /* SvLEN points to a regex body. Free the body, then
6722                  * set SvLEN to whatever value was in the now-freed
6723                  * regex body. The PVX buffer is shared by multiple re's
6724                  * and only freed once, by the re whose len in non-null */
6725                 STRLEN len = ReANY(sv)->xpv_len;
6726                 pregfree2((REGEXP*) sv);
6727                 SvLEN_set((sv), len);
6728                 goto freescalar;
6729             }
6730             /* FALLTHROUGH */
6731         case SVt_PVGV:
6732             if (isGV_with_GP(sv)) {
6733                 if(GvCVu((const GV *)sv) && (stash = GvSTASH(MUTABLE_GV(sv)))
6734                    && HvENAME_get(stash))
6735                     mro_method_changed_in(stash);
6736                 gp_free(MUTABLE_GV(sv));
6737                 if (GvNAME_HEK(sv))
6738                     unshare_hek(GvNAME_HEK(sv));
6739                 /* If we're in a stash, we don't own a reference to it.
6740                  * However it does have a back reference to us, which
6741                  * needs to be cleared.  */
6742                 if ((stash = GvSTASH(sv)))
6743                         sv_del_backref(MUTABLE_SV(stash), sv);
6744             }
6745             /* FIXME. There are probably more unreferenced pointers to SVs
6746              * in the interpreter struct that we should check and tidy in
6747              * a similar fashion to this:  */
6748             /* See also S_sv_unglob, which does the same thing. */
6749             if ((const GV *)sv == PL_last_in_gv)
6750                 PL_last_in_gv = NULL;
6751             else if ((const GV *)sv == PL_statgv)
6752                 PL_statgv = NULL;
6753             else if ((const GV *)sv == PL_stderrgv)
6754                 PL_stderrgv = NULL;
6755             /* FALLTHROUGH */
6756         case SVt_PVMG:
6757         case SVt_PVNV:
6758         case SVt_PVIV:
6759         case SVt_INVLIST:
6760         case SVt_PV:
6761           freescalar:
6762             /* Don't bother with SvOOK_off(sv); as we're only going to
6763              * free it.  */
6764             if (SvOOK(sv)) {
6765                 STRLEN offset;
6766                 SvOOK_offset(sv, offset);
6767                 SvPV_set(sv, SvPVX_mutable(sv) - offset);
6768                 /* Don't even bother with turning off the OOK flag.  */
6769             }
6770             if (SvROK(sv)) {
6771             free_rv:
6772                 {
6773                     SV * const target = SvRV(sv);
6774                     if (SvWEAKREF(sv))
6775                         sv_del_backref(target, sv);
6776                     else
6777                         next_sv = target;
6778                 }
6779             }
6780 #ifdef PERL_ANY_COW
6781             else if (SvPVX_const(sv)
6782                      && !(SvTYPE(sv) == SVt_PVIO
6783                      && !(IoFLAGS(sv) & IOf_FAKE_DIRP)))
6784             {
6785                 if (SvIsCOW(sv)) {
6786 #ifdef DEBUGGING
6787                     if (DEBUG_C_TEST) {
6788                         PerlIO_printf(Perl_debug_log, "Copy on write: clear\n");
6789                         sv_dump(sv);
6790                     }
6791 #endif
6792                     if (SvLEN(sv)) {
6793                         if (CowREFCNT(sv)) {
6794                             sv_buf_to_rw(sv);
6795                             CowREFCNT(sv)--;
6796                             sv_buf_to_ro(sv);
6797                             SvLEN_set(sv, 0);
6798                         }
6799                     } else {
6800                         unshare_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sv)));
6801                     }
6802
6803                 }
6804                 if (SvLEN(sv)) {
6805                     Safefree(SvPVX_mutable(sv));
6806                 }
6807             }
6808 #else
6809             else if (SvPVX_const(sv) && SvLEN(sv)
6810                      && !(SvTYPE(sv) == SVt_PVIO
6811                      && !(IoFLAGS(sv) & IOf_FAKE_DIRP)))
6812                 Safefree(SvPVX_mutable(sv));
6813             else if (SvPVX_const(sv) && SvIsCOW(sv)) {
6814                 unshare_hek(SvSHARED_HEK_FROM_PV(SvPVX_const(sv)));
6815             }
6816 #endif
6817             break;
6818         case SVt_NV:
6819             break;
6820         }
6821
6822       free_body:
6823
6824         SvFLAGS(sv) &= SVf_BREAK;
6825         SvFLAGS(sv) |= SVTYPEMASK;
6826
6827         sv_type_details = bodies_by_type + type;
6828         if (sv_type_details->arena) {
6829             del_body(((char *)SvANY(sv) + sv_type_details->offset),
6830                      &PL_body_roots[type]);
6831         }
6832         else if (sv_type_details->body_size) {
6833             safefree(SvANY(sv));
6834         }
6835
6836       free_head:
6837         /* caller is responsible for freeing the head of the original sv */
6838         if (sv != orig_sv && !SvREFCNT(sv))
6839             del_SV(sv);
6840
6841         /* grab and free next sv, if any */
6842       get_next_sv:
6843         while (1) {
6844             sv = NULL;
6845             if (next_sv) {
6846                 sv = next_sv;
6847                 next_sv = NULL;
6848             }
6849             else if (!iter_sv) {
6850                 break;
6851             } else if (SvTYPE(iter_sv) == SVt_PVAV) {
6852                 AV *const av = (AV*)iter_sv;
6853                 if (AvFILLp(av) > -1) {
6854                     sv = AvARRAY(av)[AvFILLp(av)--];
6855                 }
6856                 else { /* no more elements of current AV to free */
6857                     sv = iter_sv;
6858                     type = SvTYPE(sv);
6859                     /* restore previous value, squirrelled away */
6860                     iter_sv = AvARRAY(av)[AvMAX(av)];
6861                     Safefree(AvALLOC(av));
6862                     goto free_body;
6863                 }
6864             } else if (SvTYPE(iter_sv) == SVt_PVHV) {
6865                 sv = Perl_hfree_next_entry(aTHX_ (HV*)iter_sv, &hash_index);
6866                 if (!sv && !HvTOTALKEYS((HV *)iter_sv)) {
6867                     /* no more elements of current HV to free */
6868                     sv = iter_sv;
6869                     type = SvTYPE(sv);
6870                     /* Restore previous values of iter_sv and hash_index,
6871                      * squirrelled away */
6872                     assert(!SvOBJECT(sv));
6873                     iter_sv = (SV*)SvSTASH(sv);
6874                     assert(!SvMAGICAL(sv));
6875                     hash_index = ((XPVMG*) SvANY(sv))->xmg_u.xmg_hash_index;
6876 #ifdef DEBUGGING
6877                     /* perl -DA does not like rubbish in SvMAGIC. */
6878                     SvMAGIC_set(sv, 0);
6879 #endif
6880
6881                     /* free any remaining detritus from the hash struct */
6882                     Perl_hv_undef_flags(aTHX_ MUTABLE_HV(sv), HV_NAME_SETALL);
6883                     assert(!HvARRAY((HV*)sv));
6884                     goto free_body;
6885                 }
6886             }
6887
6888             /* unrolled SvREFCNT_dec and sv_free2 follows: */
6889
6890             if (!sv)
6891                 continue;
6892             if (!SvREFCNT(sv)) {
6893                 sv_free(sv);
6894                 continue;
6895             }
6896             if (--(SvREFCNT(sv)))
6897                 continue;
6898 #ifdef DEBUGGING
6899             if (SvTEMP(sv)) {
6900                 Perl_ck_warner_d(aTHX_ packWARN(WARN_DEBUGGING),
6901                          "Attempt to free temp prematurely: SV 0x%" UVxf
6902                          pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
6903                 continue;
6904             }
6905 #endif
6906             if (SvIMMORTAL(sv)) {
6907                 /* make sure SvREFCNT(sv)==0 happens very seldom */
6908                 SvREFCNT(sv) = SvREFCNT_IMMORTAL;
6909                 continue;
6910             }
6911             break;
6912         } /* while 1 */
6913
6914     } /* while sv */
6915 }
6916
6917 /* This routine curses the sv itself, not the object referenced by sv. So
6918    sv does not have to be ROK. */
6919
6920 static bool
6921 S_curse(pTHX_ SV * const sv, const bool check_refcnt) {
6922     PERL_ARGS_ASSERT_CURSE;
6923     assert(SvOBJECT(sv));
6924
6925     if (PL_defstash &&  /* Still have a symbol table? */
6926         SvDESTROYABLE(sv))
6927     {
6928         dSP;
6929         HV* stash;
6930         do {
6931           stash = SvSTASH(sv);
6932           assert(SvTYPE(stash) == SVt_PVHV);
6933           if (HvNAME(stash)) {
6934             CV* destructor = NULL;
6935             struct mro_meta *meta;
6936
6937             assert (SvOOK(stash));
6938
6939             DEBUG_o( Perl_deb(aTHX_ "Looking for DESTROY method for %s\n",
6940                          HvNAME(stash)) );
6941
6942             /* don't make this an initialization above the assert, since it needs
6943                an AUX structure */
6944             meta = HvMROMETA(stash);
6945             if (meta->destroy_gen && meta->destroy_gen == PL_sub_generation) {
6946                 destructor = meta->destroy;
6947                 DEBUG_o( Perl_deb(aTHX_ "Using cached DESTROY method %p for %s\n",
6948                              (void *)destructor, HvNAME(stash)) );
6949             }
6950             else {
6951                 bool autoload = FALSE;
6952                 GV *gv =
6953                     gv_fetchmeth_pvn(stash, S_destroy, S_destroy_len, -1, 0);
6954                 if (gv)
6955                     destructor = GvCV(gv);
6956                 if (!destructor) {
6957                     gv = gv_autoload_pvn(stash, S_destroy, S_destroy_len,
6958                                          GV_AUTOLOAD_ISMETHOD);
6959                     if (gv)
6960                         destructor = GvCV(gv);
6961                     if (destructor)
6962                         autoload = TRUE;
6963                 }
6964                 /* we don't cache AUTOLOAD for DESTROY, since this code
6965                    would then need to set $__PACKAGE__::AUTOLOAD, or the
6966                    equivalent for XS AUTOLOADs */
6967                 if (!autoload) {
6968                     meta->destroy_gen = PL_sub_generation;
6969                     meta->destroy = destructor;
6970
6971                     DEBUG_o( Perl_deb(aTHX_ "Set cached DESTROY method %p for %s\n",
6972                                       (void *)destructor, HvNAME(stash)) );
6973                 }
6974                 else {
6975                     DEBUG_o( Perl_deb(aTHX_ "Not caching AUTOLOAD for DESTROY method for %s\n",
6976                                       HvNAME(stash)) );
6977                 }
6978             }
6979             assert(!destructor || SvTYPE(destructor) == SVt_PVCV);
6980             if (destructor
6981                 /* A constant subroutine can have no side effects, so
6982                    don't bother calling it.  */
6983                 && !CvCONST(destructor)
6984                 /* Don't bother calling an empty destructor or one that
6985                    returns immediately. */
6986                 && (CvISXSUB(destructor)
6987                 || (CvSTART(destructor)
6988                     && (CvSTART(destructor)->op_next->op_type
6989                                         != OP_LEAVESUB)
6990                     && (CvSTART(destructor)->op_next->op_type
6991                                         != OP_PUSHMARK
6992                         || CvSTART(destructor)->op_next->op_next->op_type
6993                                         != OP_RETURN
6994                        )
6995                    ))
6996                )
6997             {
6998                 SV* const tmpref = newRV(sv);
6999                 SvREADONLY_on(tmpref); /* DESTROY() could be naughty */
7000                 ENTER;
7001                 PUSHSTACKi(PERLSI_DESTROY);
7002                 EXTEND(SP, 2);
7003                 PUSHMARK(SP);
7004                 PUSHs(tmpref);
7005                 PUTBACK;
7006                 call_sv(MUTABLE_SV(destructor),
7007                             G_DISCARD|G_EVAL|G_KEEPERR|G_VOID);
7008                 POPSTACK;
7009                 SPAGAIN;
7010                 LEAVE;
7011                 if(SvREFCNT(tmpref) < 2) {
7012                     /* tmpref is not kept alive! */
7013                     SvREFCNT(sv)--;
7014                     SvRV_set(tmpref, NULL);
7015                     SvROK_off(tmpref);
7016                 }
7017                 SvREFCNT_dec_NN(tmpref);
7018             }
7019           }
7020         } while (SvOBJECT(sv) && SvSTASH(sv) != stash);
7021
7022
7023         if (check_refcnt && SvREFCNT(sv)) {
7024             if (PL_in_clean_objs)
7025                 Perl_croak(aTHX_
7026                   "DESTROY created new reference to dead object '%" HEKf "'",
7027                    HEKfARG(HvNAME_HEK(stash)));
7028             /* DESTROY gave object new lease on life */
7029             return FALSE;
7030         }
7031     }
7032
7033     if (SvOBJECT(sv)) {
7034         HV * const stash = SvSTASH(sv);
7035         /* Curse before freeing the stash, as freeing the stash could cause
7036            a recursive call into S_curse. */
7037         SvOBJECT_off(sv);       /* Curse the object. */
7038         SvSTASH_set(sv,0);      /* SvREFCNT_dec may try to read this */
7039         SvREFCNT_dec(stash); /* possibly of changed persuasion */
7040     }
7041     return TRUE;
7042 }
7043
7044 /*
7045 =for apidoc sv_newref
7046
7047 Increment an SV's reference count.  Use the C<SvREFCNT_inc()> wrapper
7048 instead.
7049
7050 =cut
7051 */
7052
7053 SV *
7054 Perl_sv_newref(pTHX_ SV *const sv)
7055 {
7056     PERL_UNUSED_CONTEXT;
7057     if (sv)
7058         (SvREFCNT(sv))++;
7059     return sv;
7060 }
7061
7062 /*
7063 =for apidoc sv_free
7064
7065 Decrement an SV's reference count, and if it drops to zero, call
7066 C<sv_clear> to invoke destructors and free up any memory used by
7067 the body; finally, deallocating the SV's head itself.
7068 Normally called via a wrapper macro C<SvREFCNT_dec>.
7069
7070 =cut
7071 */
7072
7073 void
7074 Perl_sv_free(pTHX_ SV *const sv)
7075 {
7076     SvREFCNT_dec(sv);
7077 }
7078
7079
7080 /* Private helper function for SvREFCNT_dec().
7081  * Called with rc set to original SvREFCNT(sv), where rc == 0 or 1 */
7082
7083 void
7084 Perl_sv_free2(pTHX_ SV *const sv, const U32 rc)
7085 {
7086     dVAR;
7087
7088     PERL_ARGS_ASSERT_SV_FREE2;
7089
7090     if (LIKELY( rc == 1 )) {
7091         /* normal case */
7092         SvREFCNT(sv) = 0;
7093
7094 #ifdef DEBUGGING
7095         if (SvTEMP(sv)) {
7096             Perl_ck_warner_d(aTHX_ packWARN(WARN_DEBUGGING),
7097                              "Attempt to free temp prematurely: SV 0x%" UVxf
7098                              pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
7099             return;
7100         }
7101 #endif
7102         if (SvIMMORTAL(sv)) {
7103             /* make sure SvREFCNT(sv)==0 happens very seldom */
7104             SvREFCNT(sv) = SvREFCNT_IMMORTAL;
7105             return;
7106         }
7107         sv_clear(sv);
7108         if (! SvREFCNT(sv)) /* may have have been resurrected */
7109             del_SV(sv);
7110         return;
7111     }
7112
7113     /* handle exceptional cases */
7114
7115     assert(rc == 0);
7116
7117     if (SvFLAGS(sv) & SVf_BREAK)
7118         /* this SV's refcnt has been artificially decremented to
7119          * trigger cleanup */
7120         return;
7121     if (PL_in_clean_all) /* All is fair */
7122         return;
7123     if (SvIMMORTAL(sv)) {
7124         /* make sure SvREFCNT(sv)==0 happens very seldom */
7125         SvREFCNT(sv) = SvREFCNT_IMMORTAL;
7126         return;
7127     }
7128     if (ckWARN_d(WARN_INTERNAL)) {
7129 #ifdef DEBUG_LEAKING_SCALARS_FORK_DUMP
7130         Perl_dump_sv_child(aTHX_ sv);
7131 #else
7132     #ifdef DEBUG_LEAKING_SCALARS
7133         sv_dump(sv);
7134     #endif
7135 #ifdef DEBUG_LEAKING_SCALARS_ABORT
7136         if (PL_warnhook == PERL_WARNHOOK_FATAL
7137             || ckDEAD(packWARN(WARN_INTERNAL))) {
7138             /* Don't let Perl_warner cause us to escape our fate:  */
7139             abort();
7140         }
7141 #endif
7142         /* This may not return:  */
7143         Perl_warner(aTHX_ packWARN(WARN_INTERNAL),
7144                     "Attempt to free unreferenced scalar: SV 0x%" UVxf
7145                     pTHX__FORMAT, PTR2UV(sv) pTHX__VALUE);
7146 #endif
7147     }
7148 #ifdef DEBUG_LEAKING_SCALARS_ABORT
7149     abort();
7150 #endif
7151
7152 }
7153
7154
7155 /*
7156 =for apidoc sv_len
7157
7158 Returns the length of the string in the SV.  Handles magic and type
7159 coercion and sets the UTF8 flag appropriately.  See also C<L</SvCUR>>, which
7160 gives raw access to the C<xpv_cur> slot.
7161
7162 =cut
7163 */
7164
7165 STRLEN
7166 Perl_sv_len(pTHX_ SV *const sv)
7167 {
7168     STRLEN len;
7169
7170     if (!sv)
7171         return 0;
7172
7173     (void)SvPV_const(sv, len);
7174     return len;
7175 }
7176
7177 /*
7178 =for apidoc sv_len_utf8
7179
7180 Returns the number of characters in the string in an SV, counting wide
7181 UTF-8 bytes as a single character.  Handles magic and type coercion.
7182
7183 =cut
7184 */
7185
7186 /*
7187  * The length is cached in PERL_MAGIC_utf8, in the mg_len field.  Also the
7188  * mg_ptr is used, by sv_pos_u2b() and sv_pos_b2u() - see the comments below.
7189  * (Note that the mg_len is not the length of the mg_ptr field.
7190  * This allows the cache to store the character length of the string without
7191  * needing to malloc() extra storage to attach to the mg_ptr.)
7192  *
7193  */
7194
7195 STRLEN
7196 Perl_sv_len_utf8(pTHX_ SV *const sv)
7197 {
7198     if (!sv)
7199         return 0;
7200
7201     SvGETMAGIC(sv);
7202     return sv_len_utf8_nomg(sv);
7203 }
7204
7205 STRLEN
7206 Perl_sv_len_utf8_nomg(pTHX_ SV * const sv)
7207 {
7208     STRLEN len;
7209     const U8 *s = (U8*)SvPV_nomg_const(sv, len);
7210
7211     PERL_ARGS_ASSERT_SV_LEN_UTF8_NOMG;
7212
7213     if (PL_utf8cache && SvUTF8(sv)) {
7214             STRLEN ulen;
7215             MAGIC *mg = SvMAGICAL(sv) ? mg_find(sv, PERL_MAGIC_utf8) : NULL;
7216
7217             if (mg && (mg->mg_len != -1 || mg->mg_ptr)) {
7218                 if (mg->mg_len != -1)
7219                     ulen = mg->mg_len;
7220                 else {
7221                     /* We can use the offset cache for a headstart.
7222                        The longer value is stored in the first pair.  */
7223                     STRLEN *cache = (STRLEN *) mg->mg_ptr;
7224
7225                     ulen = cache[0] + Perl_utf8_length(aTHX_ s + cache[1],
7226                                                        s + len);
7227                 }
7228                 
7229                 if (PL_utf8cache < 0) {
7230                     const STRLEN real = Perl_utf8_length(aTHX_ s, s + len);
7231                     assert_uft8_cache_coherent("sv_len_utf8", ulen, real, sv);
7232                 }
7233             }
7234             else {
7235                 ulen = Perl_utf8_length(aTHX_ s, s + len);
7236                 utf8_mg_len_cache_update(sv, &mg, ulen);
7237             }
7238             return ulen;
7239     }
7240     return SvUTF8(sv) ? Perl_utf8_length(aTHX_ s, s + len) : len;
7241 }
7242
7243 /* Walk forwards to find the byte corresponding to the passed in UTF-8
7244    offset.  */
7245 static STRLEN
7246 S_sv_pos_u2b_forwards(const U8 *const start, const U8 *const send,
7247                       STRLEN *const uoffset_p, bool *const at_end)
7248 {
7249     const U8 *s = start;
7250     STRLEN uoffset = *uoffset_p;
7251
7252     PERL_ARGS_ASSERT_SV_POS_U2B_FORWARDS;
7253
7254     while (s < send && uoffset) {
7255         --uoffset;
7256         s += UTF8SKIP(s);
7257     }
7258     if (s == send) {
7259         *at_end = TRUE;
7260     }
7261     else if (s > send) {
7262         *at_end = TRUE;
7263         /* This is the existing behaviour. Possibly it should be a croak, as
7264            it's actually a bounds error  */
7265         s = send;
7266     }
7267     *uoffset_p -= uoffset;
7268     return s - start;
7269 }
7270
7271 /* Given the length of the string in both bytes and UTF-8 characters, decide
7272    whether to walk forwards or backwards to find the byte corresponding to
7273    the passed in UTF-8 offset.  */
7274 static STRLEN
7275 S_sv_pos_u2b_midway(const U8 *const start, const U8 *send,
7276                     STRLEN uoffset, const STRLEN uend)
7277 {
7278     STRLEN backw = uend - uoffset;
7279
7280     PERL_ARGS_ASSERT_SV_POS_U2B_MIDWAY;
7281
7282     if (uoffset < 2 * backw) {
7283         /* The assumption is that going forwards is twice the speed of going
7284            forward (that's where the 2 * backw comes from).
7285            (The real figure of course depends on the UTF-8 data.)  */
7286         const U8 *s = start;
7287
7288         while (s < send && uoffset--)
7289             s += UTF8SKIP(s);
7290         assert (s <= send);
7291         if (s > send)
7292             s = send;
7293         return s - start;
7294     }
7295
7296     while (backw--) {
7297         send--;
7298         while (UTF8_IS_CONTINUATION(*send))
7299             send--;
7300     }
7301     return send - start;
7302 }
7303
7304 /* For the string representation of the given scalar, find the byte
7305    corresponding to the passed in UTF-8 offset.  uoffset0 and boffset0
7306    give another position in the string, *before* the sought offset, which
7307    (which is always true, as 0, 0 is a valid pair of positions), which should
7308    help reduce the amount of linear searching.
7309    If *mgp is non-NULL, it should point to the UTF-8 cache magic, which
7310    will be used to reduce the amount of linear searching. The cache will be
7311    created if necessary, and the found value offered to it for update.  */
7312 static STRLEN
7313 S_sv_pos_u2b_cached(pTHX_ SV *const sv, MAGIC **const mgp, const U8 *const start,
7314                     const U8 *const send, STRLEN uoffset,
7315                     STRLEN uoffset0, STRLEN boffset0)
7316 {
7317     STRLEN boffset = 0; /* Actually always set, but let's keep gcc happy.  */
7318     bool found = FALSE;
7319     bool at_end = FALSE;
7320
7321     PERL_ARGS_ASSERT_SV_POS_U2B_CACHED;
7322
7323     assert (uoffset >= uoffset0);
7324
7325     if (!uoffset)
7326         return 0;
7327
7328     if (!SvREADONLY(sv) && !SvGMAGICAL(sv) && SvPOK(sv)
7329         && PL_utf8cache
7330         && (*mgp || (SvTYPE(sv) >= SVt_PVMG &&
7331                      (*mgp = mg_find(sv, PERL_MAGIC_utf8))))) {
7332         if ((*mgp)->mg_ptr) {
7333             STRLEN *cache = (STRLEN *) (*mgp)->mg_ptr;
7334             if (cache[0] == uoffset) {
7335                 /* An exact match. */
7336                 return cache[1];
7337             }
7338             if (cache[2] == uoffset) {
7339                 /* An exact match. */
7340                 return cache[3];
7341             }
7342
7343             if (cache[0] < uoffset) {
7344                 /* The cache already knows part of the way.   */
7345                 if (cache[0] > uoffset0) {
7346                     /* The cache knows more than the passed in pair  */
7347                     uoffset0 = cache[0];
7348                     boffset0 = cache[1];
7349                 }
7350                 if ((*mgp)->mg_len != -1) {
7351                     /* And we know the end too.  */
7352                     boffset = boffset0
7353                         + sv_pos_u2b_midway(start + boffset0, send,
7354                                               uoffset - uoffset0,
7355                                               (*mgp)->mg_len - uoffset0);
7356                 } else {
7357                     uoffset -= uoffset0;
7358                     boffset = boffset0
7359                         + sv_pos_u2b_forwards(start + boffset0,
7360                                               send, &uoffset, &at_end);
7361                     uoffset += uoffset0;
7362                 }
7363             }
7364             else if (cache[2] < uoffset) {
7365                 /* We're between the two cache entries.  */
7366                 if (cache[2] > uoffset0) {
7367                     /* and the cache knows more than the passed in pair  */
7368                     uoffset0 = cache[2];
7369                     boffset0 = cache[3];
7370                 }
7371
7372                 boffset = boffset0
7373                     + sv_pos_u2b_midway(start + boffset0,
7374                                           start + cache[1],
7375                                           uoffset - uoffset0,
7376                                           cache[0] - uoffset0);
7377             } else {
7378                 boffset = boffset0
7379                     + sv_pos_u2b_midway(start + boffset0,
7380                                           start + cache[3],
7381                                           uoffset - uoffset0,
7382                                           cache[2] - uoffset0);
7383             }
7384             found = TRUE;
7385         }
7386         else if ((*mgp)->mg_len != -1) {
7387             /* If we can take advantage of a passed in offset, do so.  */
7388             /* In fact, offset0 is either 0, or less than offset, so don't
7389                need to worry about the other possibility.  */
7390             boffset = boffset0
7391                 + sv_pos_u2b_midway(start + boffset0, send,
7392                                       uoffset - uoffset0,
7393                                       (*mgp)->mg_len - uoffset0);
7394             found = TRUE;
7395         }
7396     }
7397
7398     if (!found || PL_utf8cache < 0) {
7399         STRLEN real_boffset;
7400         uoffset -= uoffset0;
7401         real_boffset = boffset0 + sv_pos_u2b_forwards(start + boffset0,
7402                                                       send, &uoffset, &at_end);
7403         uoffset += uoffset0;
7404
7405         if (found && PL_utf8cache < 0)
7406             assert_uft8_cache_coherent("sv_pos_u2b_cache", boffset,
7407                                        real_boffset, sv);
7408         boffset = real_boffset;
7409     }
7410
7411     if (PL_utf8cache && !SvGMAGICAL(sv) && SvPOK(sv)) {
7412         if (at_end)
7413             utf8_mg_len_cache_update(sv, mgp, uoffset);
7414         else
7415             utf8_mg_pos_cache_update(sv, mgp, boffset, uoffset, send - start);
7416     }
7417     return boffset;
7418 }
7419
7420
7421 /*
7422 =for apidoc sv_pos_u2b_flags
7423
7424 Converts the offset from a count of UTF-8 chars from
7425 the start of the string, to a count of the equivalent number of bytes; if
7426 C<lenp> is non-zero, it does the same to C<lenp>, but this time starting from
7427 C<offset>, rather than from the start
7428 of the string.  Handles type coercion.
7429 C<flags> is passed to C<SvPV_flags>, and usually should be
7430 C<SV_GMAGIC|SV_CONST_RETURN> to handle magic.
7431
7432 =cut
7433 */
7434
7435 /*
7436  * sv_pos_u2b_flags() uses, like sv_pos_b2u(), the mg_ptr of the potential
7437  * PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8 and
7438  * byte offsets.  See also the comments of S_utf8_mg_pos_cache_update().
7439  *
7440  */
7441
7442 STRLEN
7443 Perl_sv_pos_u2b_flags(pTHX_ SV *const sv, STRLEN uoffset, STRLEN *const lenp,
7444                       U32 flags)
7445 {
7446     const U8 *start;
7447     STRLEN len;
7448     STRLEN boffset;
7449
7450     PERL_ARGS_ASSERT_SV_POS_U2B_FLAGS;
7451
7452     start = (U8*)SvPV_flags(sv, len, flags);
7453     if (len) {
7454         const U8 * const send = start + len;
7455         MAGIC *mg = NULL;
7456         boffset = sv_pos_u2b_cached(sv, &mg, start, send, uoffset, 0, 0);
7457
7458         if (lenp
7459             && *lenp /* don't bother doing work for 0, as its bytes equivalent
7460                         is 0, and *lenp is already set to that.  */) {
7461             /* Convert the relative offset to absolute.  */
7462             const STRLEN uoffset2 = uoffset + *lenp;
7463             const STRLEN boffset2
7464                 = sv_pos_u2b_cached(sv, &mg, start, send, uoffset2,
7465                                       uoffset, boffset) - boffset;
7466
7467             *lenp = boffset2;
7468         }
7469     } else {
7470         if (lenp)
7471             *lenp = 0;
7472         boffset = 0;
7473     }
7474
7475     return boffset;
7476 }
7477
7478 /*
7479 =for apidoc sv_pos_u2b
7480
7481 Converts the value pointed to by C<offsetp> from a count of UTF-8 chars from
7482 the start of the string, to a count of the equivalent number of bytes; if
7483 C<lenp> is non-zero, it does the same to C<lenp>, but this time starting from
7484 the offset, rather than from the start of the string.  Handles magic and
7485 type coercion.
7486
7487 Use C<sv_pos_u2b_flags> in preference, which correctly handles strings longer
7488 than 2Gb.
7489
7490 =cut
7491 */
7492
7493 /*
7494  * sv_pos_u2b() uses, like sv_pos_b2u(), the mg_ptr of the potential
7495  * PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8 and
7496  * byte offsets.  See also the comments of S_utf8_mg_pos_cache_update().
7497  *
7498  */
7499
7500 /* This function is subject to size and sign problems */
7501
7502 void
7503 Perl_sv_pos_u2b(pTHX_ SV *const sv, I32 *const offsetp, I32 *const lenp)
7504 {
7505     PERL_ARGS_ASSERT_SV_POS_U2B;
7506
7507     if (lenp) {
7508         STRLEN ulen = (STRLEN)*lenp;
7509         *offsetp = (I32)sv_pos_u2b_flags(sv, (STRLEN)*offsetp, &ulen,
7510                                          SV_GMAGIC|SV_CONST_RETURN);
7511         *lenp = (I32)ulen;
7512     } else {
7513         *offsetp = (I32)sv_pos_u2b_flags(sv, (STRLEN)*offsetp, NULL,
7514                                          SV_GMAGIC|SV_CONST_RETURN);
7515     }
7516 }
7517
7518 static void
7519 S_utf8_mg_len_cache_update(pTHX_ SV *const sv, MAGIC **const mgp,
7520                            const STRLEN ulen)
7521 {
7522     PERL_ARGS_ASSERT_UTF8_MG_LEN_CACHE_UPDATE;
7523     if (SvREADONLY(sv) || SvGMAGICAL(sv) || !SvPOK(sv))
7524         return;
7525
7526     if (!*mgp && (SvTYPE(sv) < SVt_PVMG ||
7527                   !(*mgp = mg_find(sv, PERL_MAGIC_utf8)))) {
7528         *mgp = sv_magicext(sv, 0, PERL_MAGIC_utf8, &PL_vtbl_utf8, 0, 0);
7529     }
7530     assert(*mgp);
7531
7532     (*mgp)->mg_len = ulen;
7533 }
7534
7535 /* Create and update the UTF8 magic offset cache, with the proffered utf8/
7536    byte length pairing. The (byte) length of the total SV is passed in too,
7537    as blen, because for some (more esoteric) SVs, the call to SvPV_const()
7538    may not have updated SvCUR, so we can't rely on reading it directly.
7539
7540    The proffered utf8/byte length pairing isn't used if the cache already has
7541    two pairs, and swapping either for the proffered pair would increase the
7542    RMS of the intervals between known byte offsets.
7543
7544    The cache itself consists of 4 STRLEN values
7545    0: larger UTF-8 offset
7546    1: corresponding byte offset
7547    2: smaller UTF-8 offset
7548    3: corresponding byte offset
7549
7550    Unused cache pairs have the value 0, 0.
7551    Keeping the cache "backwards" means that the invariant of
7552    cache[0] >= cache[2] is maintained even with empty slots, which means that
7553    the code that uses it doesn't need to worry if only 1 entry has actually
7554    been set to non-zero.  It also makes the "position beyond the end of the
7555    cache" logic much simpler, as the first slot is always the one to start
7556    from.   
7557 */
7558 static void
7559 S_utf8_mg_pos_cache_update(pTHX_ SV *const sv, MAGIC **const mgp, const STRLEN byte,
7560                            const STRLEN utf8, const STRLEN blen)
7561 {
7562     STRLEN *cache;
7563
7564     PERL_ARGS_ASSERT_UTF8_MG_POS_CACHE_UPDATE;
7565
7566     if (SvREADONLY(sv))
7567         return;
7568
7569     if (!*mgp && (SvTYPE(sv) < SVt_PVMG ||
7570                   !(*mgp = mg_find(sv, PERL_MAGIC_utf8)))) {
7571         *mgp = sv_magicext(sv, 0, PERL_MAGIC_utf8, (MGVTBL*)&PL_vtbl_utf8, 0,
7572                            0);
7573         (*mgp)->mg_len = -1;
7574     }
7575     assert(*mgp);
7576
7577     if (!(cache = (STRLEN *)(*mgp)->mg_ptr)) {
7578         Newxz(cache, PERL_MAGIC_UTF8_CACHESIZE * 2, STRLEN);
7579         (*mgp)->mg_ptr = (char *) cache;
7580     }
7581     assert(cache);
7582
7583     if (PL_utf8cache < 0 && SvPOKp(sv)) {
7584         /* SvPOKp() because, if sv is a reference, then SvPVX() is actually
7585            a pointer.  Note that we no longer cache utf8 offsets on refer-
7586            ences, but this check is still a good idea, for robustness.  */
7587         const U8 *start = (const U8 *) SvPVX_const(sv);
7588         const STRLEN realutf8 = utf8_length(start, start + byte);
7589
7590         assert_uft8_cache_coherent("utf8_mg_pos_cache_update", utf8, realutf8,
7591                                    sv);
7592     }
7593
7594     /* Cache is held with the later position first, to simplify the code
7595        that deals with unbounded ends.  */
7596        
7597     ASSERT_UTF8_CACHE(cache);
7598     if (cache[1] == 0) {
7599         /* Cache is totally empty  */
7600         cache[0] = utf8;
7601         cache[1] = byte;
7602     } else if (cache[3] == 0) {
7603         if (byte > cache[1]) {
7604             /* New one is larger, so goes first.  */
7605             cache[2] = cache[0];
7606             cache[3] = cache[1];
7607             cache[0] = utf8;
7608             cache[1] = byte;
7609         } else {
7610             cache[2] = utf8;
7611             cache[3] = byte;
7612         }
7613     } else {
7614 /* float casts necessary? XXX */
7615 #define THREEWAY_SQUARE(a,b,c,d) \
7616             ((float)((d) - (c))) * ((float)((d) - (c))) \
7617             + ((float)((c) - (b))) * ((float)((c) - (b))) \
7618                + ((float)((b) - (a))) * ((float)((b) - (a)))
7619
7620         /* Cache has 2 slots in use, and we know three potential pairs.
7621            Keep the two that give the lowest RMS distance. Do the
7622            calculation in bytes simply because we always know the byte
7623            length.  squareroot has the same ordering as the positive value,
7624            so don't bother with the actual square root.  */
7625         if (byte > cache[1]) {
7626             /* New position is after the existing pair of pairs.  */
7627             const float keep_earlier
7628                 = THREEWAY_SQUARE(0, cache[3], byte, blen);
7629             const float keep_later
7630                 = THREEWAY_SQUARE(0, cache[1], byte, blen);
7631
7632             if (keep_later < keep_earlier) {
7633                 cache[2] = cache[0];
7634                 cache[3] = cache[1];
7635             }
7636             cache[0] = utf8;
7637             cache[1] = byte;
7638         }
7639         else {
7640             const float keep_later = THREEWAY_SQUARE(0, byte, cache[1], blen);
7641             float b, c, keep_earlier;
7642             if (byte > cache[3]) {
7643                 /* New position is between the existing pair of pairs.  */
7644                 b = (float)cache[3];
7645                 c = (float)byte;
7646             } else {
7647                 /* New position is before the existing pair of pairs.  */
7648                 b = (float)byte;
7649                 c = (float)cache[3];
7650             }
7651             keep_earlier = THREEWAY_SQUARE(0, b, c, blen);
7652             if (byte > cache[3]) {
7653                 if (keep_later < keep_earlier) {
7654                     cache[2] = utf8;
7655                     cache[3] = byte;
7656                 }
7657                 else {
7658                     cache[0] = utf8;
7659                     cache[1] = byte;
7660                 }
7661             }
7662             else {
7663                 if (! (keep_later < keep_earlier)) {
7664                     cache[0] = cache[2];
7665                     cache[1] = cache[3];
7666                 }
7667                 cache[2] = utf8;
7668                 cache[3] = byte;
7669             }
7670         }
7671     }
7672     ASSERT_UTF8_CACHE(cache);
7673 }
7674
7675 /* We already know all of the way, now we may be able to walk back.  The same
7676    assumption is made as in S_sv_pos_u2b_midway(), namely that walking
7677    backward is half the speed of walking forward. */
7678 static STRLEN
7679 S_sv_pos_b2u_midway(pTHX_ const U8 *const s, const U8 *const target,
7680                     const U8 *end, STRLEN endu)
7681 {
7682     const STRLEN forw = target - s;
7683     STRLEN backw = end - target;
7684
7685     PERL_ARGS_ASSERT_SV_POS_B2U_MIDWAY;
7686
7687     if (forw < 2 * backw) {
7688         return utf8_length(s, target);
7689     }
7690
7691     while (end > target) {
7692         end--;
7693         while (UTF8_IS_CONTINUATION(*end)) {
7694             end--;
7695         }
7696         endu--;
7697     }
7698     return endu;
7699 }
7700
7701 /*
7702 =for apidoc sv_pos_b2u_flags
7703
7704 Converts C<offset> from a count of bytes from the start of the string, to
7705 a count of the equivalent number of UTF-8 chars.  Handles type coercion.
7706 C<flags> is passed to C<SvPV_flags>, and usually should be
7707 C<SV_GMAGIC|SV_CONST_RETURN> to handle magic.
7708
7709 =cut
7710 */
7711
7712 /*
7713  * sv_pos_b2u_flags() uses, like sv_pos_u2b_flags(), the mg_ptr of the
7714  * potential PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8
7715  * and byte offsets.
7716  *
7717  */
7718 STRLEN
7719 Perl_sv_pos_b2u_flags(pTHX_ SV *const sv, STRLEN const offset, U32 flags)
7720 {
7721     const U8* s;
7722     STRLEN len = 0; /* Actually always set, but let's keep gcc happy.  */
7723     STRLEN blen;
7724     MAGIC* mg = NULL;
7725     const U8* send;
7726     bool found = FALSE;
7727
7728     PERL_ARGS_ASSERT_SV_POS_B2U_FLAGS;
7729
7730     s = (const U8*)SvPV_flags(sv, blen, flags);
7731
7732     if (blen < offset)
7733         Perl_croak(aTHX_ "panic: sv_pos_b2u: bad byte offset, blen=%" UVuf
7734                    ", byte=%" UVuf, (UV)blen, (UV)offset);
7735
7736     send = s + offset;
7737
7738     if (!SvREADONLY(sv)
7739         && PL_utf8cache
7740         && SvTYPE(sv) >= SVt_PVMG
7741         && (mg = mg_find(sv, PERL_MAGIC_utf8)))
7742     {
7743         if (mg->mg_ptr) {
7744             STRLEN * const cache = (STRLEN *) mg->mg_ptr;
7745             if (cache[1] == offset) {
7746                 /* An exact match. */
7747                 return cache[0];
7748             }
7749             if (cache[3] == offset) {
7750                 /* An exact match. */
7751                 return cache[2];
7752             }
7753
7754             if (cache[1] < offset) {
7755                 /* We already know part of the way. */
7756                 if (mg->mg_len != -1) {
7757                     /* Actually, we know the end too.  */
7758                     len = cache[0]
7759                         + S_sv_pos_b2u_midway(aTHX_ s + cache[1], send,
7760                                               s + blen, mg->mg_len - cache[0]);
7761                 } else {
7762                     len = cache[0] + utf8_length(s + cache[1], send);
7763                 }
7764             }
7765             else if (cache[3] < offset) {
7766                 /* We're between the two cached pairs, so we do the calculation
7767                    offset by the byte/utf-8 positions for the earlier pair,
7768                    then add the utf-8 characters from the string start to
7769                    there.  */
7770                 len = S_sv_pos_b2u_midway(aTHX_ s + cache[3], send,
7771                                           s + cache[1], cache[0] - cache[2])
7772                     + cache[2];
7773
7774             }
7775             else { /* cache[3] > offset */
7776                 len = S_sv_pos_b2u_midway(aTHX_ s, send, s + cache[3],
7777                                           cache[2]);
7778
7779             }
7780             ASSERT_UTF8_CACHE(cache);
7781             found = TRUE;
7782         } else if (mg->mg_len != -1) {
7783             len = S_sv_pos_b2u_midway(aTHX_ s, send, s + blen, mg->mg_len);
7784             found = TRUE;
7785         }
7786     }
7787     if (!found || PL_utf8cache < 0) {
7788         const STRLEN real_len = utf8_length(s, send);
7789
7790         if (found && PL_utf8cache < 0)
7791             assert_uft8_cache_coherent("sv_pos_b2u", len, real_len, sv);
7792         len = real_len;
7793     }
7794
7795     if (PL_utf8cache) {
7796         if (blen == offset)
7797             utf8_mg_len_cache_update(sv, &mg, len);
7798         else
7799             utf8_mg_pos_cache_update(sv, &mg, offset, len, blen);
7800     }
7801
7802     return len;
7803 }
7804
7805 /*
7806 =for apidoc sv_pos_b2u
7807
7808 Converts the value pointed to by C<offsetp> from a count of bytes from the
7809 start of the string, to a count of the equivalent number of UTF-8 chars.
7810 Handles magic and type coercion.
7811
7812 Use C<sv_pos_b2u_flags> in preference, which correctly handles strings
7813 longer than 2Gb.
7814
7815 =cut
7816 */
7817
7818 /*
7819  * sv_pos_b2u() uses, like sv_pos_u2b(), the mg_ptr of the potential
7820  * PERL_MAGIC_utf8 of the sv to store the mapping between UTF-8 and
7821  * byte offsets.
7822  *
7823  */
7824 void
7825 Perl_sv_pos_b2u(pTHX_ SV *const sv, I32 *const offsetp)
7826 {
7827     PERL_ARGS_ASSERT_SV_POS_B2U;
7828
7829     if (!sv)
7830         return;
7831
7832     *offsetp = (I32)sv_pos_b2u_flags(sv, (STRLEN)*offsetp,
7833                                      SV_GMAGIC|SV_CONST_RETURN);
7834 }
7835
7836 static void
7837 S_assert_uft8_cache_coherent(pTHX_ const char *const func, STRLEN from_cache,
7838                              STRLEN real, SV *const sv)
7839 {
7840     PERL_ARGS_ASSERT_ASSERT_UFT8_CACHE_COHERENT;
7841
7842     /* As this is debugging only code, save space by keeping this test here,
7843        rather than inlining it in all the callers.  */
7844     if (from_cache == real)
7845         return;
7846
7847     /* Need to turn the assertions off otherwise we may recurse infinitely
7848        while printing error messages.  */
7849     SAVEI8(PL_utf8cache);
7850     PL_utf8cache = 0;
7851     Perl_croak(aTHX_ "panic: %s cache %" UVuf " real %" UVuf " for %" SVf,
7852                func, (UV) from_cache, (UV) real, SVfARG(sv));
7853 }
7854
7855 /*
7856 =for apidoc sv_eq
7857
7858 Returns a boolean indicating whether the strings in the two SVs are
7859 identical.  Is UTF-8 and S<C<'use bytes'>> aware, handles get magic, and will
7860 coerce its args to strings if necessary.
7861
7862 =for apidoc sv_eq_flags
7863
7864 Returns a boolean indicating whether the strings in the two SVs are
7865 identical.  Is UTF-8 and S<C<'use bytes'>> aware and coerces its args to strings
7866 if necessary.  If the flags has the C<SV_GMAGIC> bit set, it handles get-magic, too.
7867
7868 =cut
7869 */
7870
7871 I32
7872 Perl_sv_eq_flags(pTHX_ SV *sv1, SV *sv2, const U32 flags)
7873 {
7874     const char *pv1;
7875     STRLEN cur1;
7876     const char *pv2;
7877     STRLEN cur2;
7878
7879     if (!sv1) {
7880         pv1 = "";
7881         cur1 = 0;
7882     }
7883     else {
7884         /* if pv1 and pv2 are the same, second SvPV_const call may
7885          * invalidate pv1 (if we are handling magic), so we may need to
7886          * make a copy */
7887         if (sv1 == sv2 && flags & SV_GMAGIC
7888          && (SvTHINKFIRST(sv1) || SvGMAGICAL(sv1))) {
7889             pv1 = SvPV_const(sv1, cur1);
7890             sv1 = newSVpvn_flags(pv1, cur1, SVs_TEMP | SvUTF8(sv2));
7891         }
7892         pv1 = SvPV_flags_const(sv1, cur1, flags);
7893     }
7894
7895     if (!sv2){
7896         pv2 = "";
7897         cur2 = 0;
7898     }
7899     else
7900         pv2 = SvPV_flags_const(sv2, cur2, flags);
7901
7902     if (cur1 && cur2 && SvUTF8(sv1) != SvUTF8(sv2) && !IN_BYTES) {
7903         /* Differing utf8ness.  */
7904         if (SvUTF8(sv1)) {
7905                   /* sv1 is the UTF-8 one  */
7906                   return bytes_cmp_utf8((const U8*)pv2, cur2,
7907                                         (const U8*)pv1, cur1) == 0;
7908         }
7909         else {
7910                   /* sv2 is the UTF-8 one  */
7911                   return bytes_cmp_utf8((const U8*)pv1, cur1,
7912                                         (const U8*)pv2, cur2) == 0;
7913         }
7914     }
7915
7916     if (cur1 == cur2)
7917         return (pv1 == pv2) || memEQ(pv1, pv2, cur1);
7918     else
7919         return 0;
7920 }
7921
7922 /*
7923 =for apidoc sv_cmp
7924
7925 Compares the strings in two SVs.  Returns -1, 0, or 1 indicating whether the
7926 string in C<sv1> is less than, equal to, or greater than the string in
7927 C<sv2>.  Is UTF-8 and S<C<'use bytes'>> aware, handles get magic, and will
7928 coerce its args to strings if necessary.  See also C<L</sv_cmp_locale>>.
7929
7930 =for apidoc sv_cmp_flags
7931
7932 Compares the strings in two SVs.  Returns -1, 0, or 1 indicating whether the
7933 string in C<sv1> is less than, equal to, or greater than the string in
7934 C<sv2>.  Is UTF-8 and S<C<'use bytes'>> aware and will coerce its args to strings
7935 if necessary.  If the flags has the C<SV_GMAGIC> bit set, it handles get magic.  See
7936 also C<L</sv_cmp_locale_flags>>.
7937
7938 =cut
7939 */
7940
7941 I32
7942 Perl_sv_cmp(pTHX_ SV *const sv1, SV *const sv2)
7943 {
7944     return sv_cmp_flags(sv1, sv2, SV_GMAGIC);
7945 }
7946
7947 I32
7948 Perl_sv_cmp_flags(pTHX_ SV *const sv1, SV *const sv2,
7949                   const U32 flags)
7950 {
7951     STRLEN cur1, cur2;
7952     const char *pv1, *pv2;
7953     I32  cmp;
7954     SV *svrecode = NULL;
7955
7956     if (!sv1) {
7957         pv1 = "";
7958         cur1 = 0;
7959     }
7960     else
7961         pv1 = SvPV_flags_const(sv1, cur1, flags);
7962
7963     if (!sv2) {
7964         pv2 = "";
7965         cur2 = 0;
7966     }
7967     else
7968         pv2 = SvPV_flags_const(sv2, cur2, flags);
7969
7970     if (cur1 && cur2 && SvUTF8(sv1) != SvUTF8(sv2) && !IN_BYTES) {
7971         /* Differing utf8ness.  */
7972         if (SvUTF8(sv1)) {
7973                 const int retval = -bytes_cmp_utf8((const U8*)pv2, cur2,
7974                                                    (const U8*)pv1, cur1);
7975                 return retval ? retval < 0 ? -1 : +1 : 0;
7976         }
7977         else {
7978                 const int retval = bytes_cmp_utf8((const U8*)pv1, cur1,
7979                                                   (const U8*)pv2, cur2);
7980                 return retval ? retval < 0 ? -1 : +1 : 0;
7981         }
7982     }
7983
7984     /* Here, if both are non-NULL, then they have the same UTF8ness. */
7985
7986     if (!cur1) {
7987         cmp = cur2 ? -1 : 0;
7988     } else if (!cur2) {
7989         cmp = 1;
7990     } else {
7991         STRLEN shortest_len = cur1 < cur2 ? cur1 : cur2;
7992
7993 #ifdef EBCDIC
7994         if (! DO_UTF8(sv1)) {
7995 #endif
7996             const I32 retval = memcmp((const void*)pv1,
7997                                       (const void*)pv2,
7998                                       shortest_len);
7999             if (retval) {
8000                 cmp = retval < 0 ? -1 : 1;
8001             } else if (cur1 == cur2) {
8002                 cmp = 0;
8003             } else {
8004                 cmp = cur1 < cur2 ? -1 : 1;
8005             }
8006 #ifdef EBCDIC
8007         }
8008         else {  /* Both are to be treated as UTF-EBCDIC */
8009
8010             /* EBCDIC UTF-8 is complicated by the fact that it is based on I8
8011              * which remaps code points 0-255.  We therefore generally have to
8012              * unmap back to the original values to get an accurate comparison.
8013              * But we don't have to do that for UTF-8 invariants, as by
8014              * definition, they aren't remapped, nor do we have to do it for
8015              * above-latin1 code points, as they also aren't remapped.  (This
8016              * code also works on ASCII platforms, but the memcmp() above is
8017              * much faster). */
8018
8019             const char *e = pv1 + shortest_len;
8020
8021             /* Find the first bytes that differ between the two strings */
8022             while (pv1 < e && *pv1 == *pv2) {
8023                 pv1++;
8024                 pv2++;
8025             }
8026
8027
8028             if (pv1 == e) { /* Are the same all the way to the end */
8029                 if (cur1 == cur2) {
8030                     cmp = 0;
8031                 } else {
8032                     cmp = cur1 < cur2 ? -1 : 1;
8033                 }
8034             }
8035             else   /* Here *pv1 and *pv2 are not equal, but all bytes earlier
8036                     * in the strings were.  The current bytes may or may not be
8037                     * at the beginning of a character.  But neither or both are
8038                     * (or else earlier bytes would have been different).  And
8039                     * if we are in the middle of a character, the two
8040                     * characters are comprised of the same number of bytes
8041                     * (because in this case the start bytes are the same, and
8042                     * the start bytes encode the character's length). */
8043                  if (UTF8_IS_INVARIANT(*pv1))
8044             {
8045                 /* If both are invariants; can just compare directly */
8046                 if (UTF8_IS_INVARIANT(*pv2)) {
8047                     cmp = ((U8) *pv1 < (U8) *pv2) ? -1 : 1;
8048                 }
8049                 else   /* Since *pv1 is invariant, it is the whole character,
8050                           which means it is at the beginning of a character.
8051                           That means pv2 is also at the beginning of a
8052                           character (see earlier comment).  Since it isn't
8053                           invariant, it must be a start byte.  If it starts a
8054                           character whose code point is above 255, that
8055                           character is greater than any single-byte char, which
8056                           *pv1 is */
8057                       if (UTF8_IS_ABOVE_LATIN1_START(*pv2))
8058                 {
8059                     cmp = -1;
8060                 }
8061                 else {
8062                     /* Here, pv2 points to a character composed of 2 bytes
8063                      * whose code point is < 256.  Get its code point and
8064                      * compare with *pv1 */
8065                     cmp = ((U8) *pv1 < EIGHT_BIT_UTF8_TO_NATIVE(*pv2, *(pv2 + 1)))
8066                            ?  -1
8067                            : 1;
8068                 }
8069             }
8070             else   /* The code point starting at pv1 isn't a single byte */
8071                  if (UTF8_IS_INVARIANT(*pv2))
8072             {
8073                 /* But here, the code point starting at *pv2 is a single byte,
8074                  * and so *pv1 must begin a character, hence is a start byte.
8075                  * If that character is above 255, it is larger than any
8076                  * single-byte char, which *pv2 is */
8077                 if (UTF8_IS_ABOVE_LATIN1_START(*pv1)) {
8078                     cmp = 1;
8079                 }
8080                 else {
8081                     /* Here, pv1 points to a character composed of 2 bytes
8082                      * whose code point is < 256.  Get its code point and
8083                      * compare with the single byte character *pv2 */
8084                     cmp = (EIGHT_BIT_UTF8_TO_NATIVE(*pv1, *(pv1 + 1)) < (U8) *pv2)
8085                           ?  -1
8086                           : 1;
8087                 }
8088             }
8089             else   /* Here, we've ruled out either *pv1 and *pv2 being
8090                       invariant.  That means both are part of variants, but not
8091                       necessarily at the start of a character */
8092                  if (   UTF8_IS_ABOVE_LATIN1_START(*pv1)
8093                      || UTF8_IS_ABOVE_LATIN1_START(*pv2))
8094             {
8095                 /* Here, at least one is the start of a character, which means
8096                  * the other is also a start byte.  And the code point of at
8097                  * least one of the characters is above 255.  It is a
8098                  * characteristic of UTF-EBCDIC that all start bytes for
8099                  * above-latin1 code points are well behaved as far as code
8100                  * point comparisons go, and all are larger than all other
8101                  * start bytes, so the comparison with those is also well
8102                  * behaved */
8103                 cmp = ((U8) *pv1 < (U8) *pv2) ? -1 : 1;
8104             }
8105             else {
8106                 /* Here both *pv1 and *pv2 are part of variant characters.
8107                  * They could be both continuations, or both start characters.
8108                  * (One or both could even be an illegal start character (for
8109                  * an overlong) which for the purposes of sorting we treat as
8110                  * legal. */
8111                 if (UTF8_IS_CONTINUATION(*pv1)) {
8112
8113                     /* If they are continuations for code points above 255,
8114                      * then comparing the current byte is sufficient, as there
8115                      * is no remapping of these and so the comparison is
8116                      * well-behaved.   We determine if they are such
8117                      * continuations by looking at the preceding byte.  It
8118                      * could be a start byte, from which we can tell if it is
8119                      * for an above 255 code point.  Or it could be a
8120                      * continuation, which means the character occupies at
8121                      * least 3 bytes, so must be above 255.  */
8122                     if (   UTF8_IS_CONTINUATION(*(pv2 - 1))
8123                         || UTF8_IS_ABOVE_LATIN1_START(*(pv2 -1)))
8124                     {
8125                         cmp = ((U8) *pv1 < (U8) *pv2) ? -1 : 1;
8126                         goto cmp_done;
8127                     }
8128
8129                     /* Here, the continuations are for code points below 256;
8130                      * back up one to get to the start byte */
8131                     pv1--;
8132                     pv2--;
8133                 }
8134
8135                 /* We need to get the actual native code point of each of these
8136                  * variants in order to compare them */
8137                 cmp =  (  EIGHT_BIT_UTF8_TO_NATIVE(*pv1, *(pv1 + 1))
8138                         < EIGHT_BIT_UTF8_TO_NATIVE(*pv2, *(pv2 + 1)))
8139                         ? -1
8140                         : 1;
8141             }
8142         }
8143       cmp_done: ;
8144 #endif
8145     }
8146
8147     SvREFCNT_dec(svrecode);
8148
8149     return cmp;
8150 }
8151
8152 /*
8153 =for apidoc sv_cmp_locale
8154
8155 Compares the strings in two SVs in a locale-aware manner.  Is UTF-8 and
8156 S<C<'use bytes'>> aware, handles get magic, and will coerce its args to strings
8157 if necessary.  See also C<L</sv_cmp>>.
8158
8159 =for apidoc sv_cmp_locale_flags
8160
8161 Compares the strings in two SVs in a locale-aware manner.  Is UTF-8 and
8162 S<C<'use bytes'>> aware and will coerce its args to strings if necessary.  If
8163 the flags contain C<SV_GMAGIC>, it handles get magic.  See also
8164 C<L</sv_cmp_flags>>.
8165
8166 =cut
8167 */
8168
8169 I32
8170 Perl_sv_cmp_locale(pTHX_ SV *const sv1, SV *const sv2)
8171 {
8172     return sv_cmp_locale_flags(sv1, sv2, SV_GMAGIC);
8173 }
8174
8175 I32
8176 Perl_sv_cmp_locale_flags(pTHX_ SV *const sv1, SV *const sv2,
8177                          const U32 flags)
8178 {
8179 #ifdef USE_LOCALE_COLLATE
8180
8181     char *pv1, *pv2;
8182     STRLEN len1, len2;
8183     I32 retval;
8184
8185     if (PL_collation_standard)
8186         goto raw_compare;
8187
8188     len1 = len2 = 0;
8189
8190     /* Revert to using raw compare if both operands exist, but either one
8191      * doesn't transform properly for collation */
8192     if (sv1 && sv2) {
8193         pv1 = sv_collxfrm_flags(sv1, &len1, flags);
8194         if (! pv1) {
8195             goto raw_compare;
8196         }
8197         pv2 = sv_collxfrm_flags(sv2, &len2, flags);
8198         if (! pv2) {
8199             goto raw_compare;
8200         }
8201     }
8202     else {
8203         pv1 = sv1 ? sv_collxfrm_flags(sv1, &len1, flags) : (char *) NULL;
8204         pv2 = sv2 ? sv_collxfrm_flags(sv2, &len2, flags) : (char *) NULL;
8205     }
8206
8207     if (!pv1 || !len1) {
8208         if (pv2 && len2)
8209             return -1;
8210         else
8211             goto raw_compare;
8212     }
8213     else {
8214         if (!pv2 || !len2)
8215             return 1;
8216     }
8217
8218     retval = memcmp((void*)pv1, (void*)pv2, len1 < len2 ? len1 : len2);
8219
8220     if (retval)
8221         return retval < 0 ? -1 : 1;
8222
8223     /*
8224      * When the result of collation is equality, that doesn't mean
8225      * that there are no differences -- some locales exclude some
8226      * characters from consideration.  So to avoid false equalities,
8227      * we use the raw string as a tiebreaker.
8228      */
8229
8230   raw_compare:
8231     /* FALLTHROUGH */
8232
8233 #else
8234     PERL_UNUSED_ARG(flags);
8235 #endif /* USE_LOCALE_COLLATE */
8236
8237     return sv_cmp(sv1, sv2);
8238 }
8239
8240
8241 #ifdef USE_LOCALE_COLLATE
8242
8243 /*
8244 =for apidoc sv_collxfrm
8245
8246 This calls C<sv_collxfrm_flags> with the SV_GMAGIC flag.  See
8247 C<L</sv_collxfrm_flags>>.
8248
8249 =for apidoc sv_collxfrm_flags
8250
8251 Add Collate Transform magic to an SV if it doesn't already have it.  If the
8252 flags contain C<SV_GMAGIC>, it handles get-magic.
8253
8254 Any scalar variable may carry C<PERL_MAGIC_collxfrm> magic that contains the
8255 scalar data of the variable, but transformed to such a format that a normal
8256 memory comparison can be used to compare the data according to the locale
8257 settings.
8258
8259 =cut
8260 */
8261
8262 char *
8263 Perl_sv_collxfrm_flags(pTHX_ SV *const sv, STRLEN *const nxp, const I32 flags)
8264 {
8265     MAGIC *mg;
8266
8267     PERL_ARGS_ASSERT_SV_COLLXFRM_FLAGS;
8268
8269     mg = SvMAGICAL(sv) ? mg_find(sv, PERL_MAGIC_collxfrm) : (MAGIC *) NULL;
8270
8271     /* If we don't have collation magic on 'sv', or the locale has changed
8272      * since the last time we calculated it, get it and save it now */
8273     if (!mg || !mg->mg_ptr || *(U32*)mg->mg_ptr != PL_collation_ix) {
8274         const char *s;
8275         char *xf;
8276         STRLEN len, xlen;
8277
8278         /* Free the old space */
8279         if (mg)
8280             Safefree(mg->mg_ptr);
8281
8282         s = SvPV_flags_const(sv, len, flags);
8283         if ((xf = _mem_collxfrm(s, len, &xlen, cBOOL(SvUTF8(sv))))) {
8284             if (! mg) {
8285                 mg = sv_magicext(sv, 0, PERL_MAGIC_collxfrm, &PL_vtbl_collxfrm,
8286                                  0, 0);
8287                 assert(mg);
8288             }
8289             mg->mg_ptr = xf;
8290             mg->mg_len = xlen;
8291         }
8292         else {
8293             if (mg) {
8294                 mg->mg_ptr = NULL;
8295                 mg->mg_len = -1;
8296             }
8297         }
8298     }
8299
8300     if (mg && mg->mg_ptr) {
8301         *nxp = mg->mg_len;
8302         return mg->mg_ptr + sizeof(PL_collation_ix);
8303     }
8304     else {
8305         *nxp = 0;
8306         return NULL;
8307     }
8308 }
8309
8310 #endif /* USE_LOCALE_COLLATE */
8311
8312 static char *
8313 S_sv_gets_append_to_utf8(pTHX_ SV *const sv, PerlIO *const fp, I32 append)
8314 {
8315     SV * const tsv = newSV(0);
8316     ENTER;
8317     SAVEFREESV(tsv);
8318     sv_gets(tsv, fp, 0);
8319     sv_utf8_upgrade_nomg(tsv);
8320     SvCUR_set(sv,append);
8321     sv_catsv(sv,tsv);
8322     LEAVE;
8323     return (SvCUR(sv) - append) ? SvPVX(sv) : NULL;
8324 }
8325
8326 static char *
8327 S_sv_gets_read_record(pTHX_ SV *const sv, PerlIO *const fp, I32 append)
8328 {
8329     SSize_t bytesread;
8330     const STRLEN recsize = SvUV(SvRV(PL_rs)); /* RsRECORD() guarantees > 0. */
8331       /* Grab the size of the record we're getting */
8332     char *buffer = SvGROW(sv, (STRLEN)(recsize + append + 1)) + append;
8333     
8334     /* Go yank in */
8335 #ifdef __VMS
8336     int fd;
8337     Stat_t st;
8338
8339     /* With a true, record-oriented file on VMS, we need to use read directly
8340      * to ensure that we respect RMS record boundaries.  The user is responsible
8341      * for providing a PL_rs value that corresponds to the FAB$W_MRS (maximum
8342      * record size) field.  N.B. This is likely to produce invalid results on
8343      * varying-width character data when a record ends mid-character.
8344      */
8345     fd = PerlIO_fileno(fp);
8346     if (fd != -1
8347         && PerlLIO_fstat(fd, &st) == 0
8348         && (st.st_fab_rfm == FAB$C_VAR
8349             || st.st_fab_rfm == FAB$C_VFC
8350             || st.st_fab_rfm == FAB$C_FIX)) {
8351
8352         bytesread = PerlLIO_read(fd, buffer, recsize);
8353     }
8354     else /* in-memory file from PerlIO::Scalar
8355           * or not a record-oriented file
8356           */
8357 #endif
8358     {
8359         bytesread = PerlIO_read(fp, buffer, recsize);
8360
8361         /* At this point, the logic in sv_get() means that sv will
8362            be treated as utf-8 if the handle is utf8.
8363         */
8364         if (PerlIO_isutf8(fp) && bytesread > 0) {
8365             char *bend = buffer + bytesread;
8366             char *bufp = buffer;
8367             size_t charcount = 0;
8368             bool charstart = TRUE;
8369             STRLEN skip = 0;
8370
8371             while (charcount < recsize) {
8372                 /* count accumulated characters */
8373                 while (bufp < bend) {
8374                     if (charstart) {
8375                         skip = UTF8SKIP(bufp);
8376                     }
8377                     if (bufp + skip > bend) {
8378                         /* partial at the end */
8379                         charstart = FALSE;
8380                         break;
8381                     }
8382                     else {
8383                         ++charcount;
8384                         bufp += skip;
8385                         charstart = TRUE;
8386                     }
8387                 }
8388
8389                 if (charcount < recsize) {
8390                     STRLEN readsize;
8391                     STRLEN bufp_offset = bufp - buffer;
8392                     SSize_t morebytesread;
8393
8394                     /* originally I read enough to fill any incomplete
8395                        character and the first byte of the next
8396                        character if needed, but if there's many
8397                        multi-byte encoded characters we're going to be
8398                        making a read call for every character beyond
8399                        the original read size.
8400
8401                        So instead, read the rest of the character if
8402                        any, and enough bytes to match at least the
8403                        start bytes for each character we're going to
8404                        read.
8405                     */
8406                     if (charstart)
8407                         readsize = recsize - charcount;
8408                     else 
8409                         readsize = skip - (bend - bufp) + recsize - charcount - 1;
8410                     buffer = SvGROW(sv, append + bytesread + readsize + 1) + append;
8411                     bend = buffer + bytesread;
8412                     morebytesread = PerlIO_read(fp, bend, readsize);
8413                     if (morebytesread <= 0) {
8414                         /* we're done, if we still have incomplete
8415                            characters the check code in sv_gets() will
8416                            warn about them.
8417
8418                            I'd originally considered doing
8419                            PerlIO_ungetc() on all but the lead
8420                            character of the incomplete character, but
8421                            read() doesn't do that, so I don't.
8422                         */
8423                         break;
8424                     }
8425
8426                     /* prepare to scan some more */
8427                     bytesread += morebytesread;
8428                     bend = buffer + bytesread;
8429                     bufp = buffer + bufp_offset;
8430                 }
8431             }
8432         }
8433     }
8434
8435     if (bytesread < 0)
8436         bytesread = 0;
8437     SvCUR_set(sv, bytesread + append);
8438     buffer[bytesread] = '\0';
8439     return (SvCUR(sv) - append) ? SvPVX(sv) : NULL;
8440 }
8441
8442 /*
8443 =for apidoc sv_gets
8444
8445 Get a line from the filehandle and store it into the SV, optionally
8446 appending to the currently-stored string.  If C<append> is not 0, the
8447 line is appended to the SV instead of overwriting it.  C<append> should
8448 be set to the byte offset that the appended string should start at
8449 in the SV (typically, C<SvCUR(sv)> is a suitable choice).
8450
8451 =cut
8452 */
8453
8454 char *
8455 Perl_sv_gets(pTHX_ SV *const sv, PerlIO *const fp, I32 append)
8456 {
8457     const char *rsptr;
8458     STRLEN rslen;
8459     STDCHAR rslast;
8460     STDCHAR *bp;
8461     SSize_t cnt;
8462     int i = 0;
8463     int rspara = 0;
8464
8465     PERL_ARGS_ASSERT_SV_GETS;
8466
8467     if (SvTHINKFIRST(sv))
8468         sv_force_normal_flags(sv, append ? 0 : SV_COW_DROP_PV);
8469     /* XXX. If you make this PVIV, then copy on write can copy scalars read
8470        from <>.
8471        However, perlbench says it's slower, because the existing swipe code
8472        is faster than copy on write.
8473        Swings and roundabouts.  */
8474     SvUPGRADE(sv, SVt_PV);
8475
8476     if (append) {
8477         /* line is going to be appended to the existing buffer in the sv */
8478         if (PerlIO_isutf8(fp)) {
8479             if (!SvUTF8(sv)) {
8480                 sv_utf8_upgrade_nomg(sv);
8481                 sv_pos_u2b(sv,&append,0);
8482             }
8483         } else if (SvUTF8(sv)) {
8484             return S_sv_gets_append_to_utf8(aTHX_ sv, fp, append);
8485         }
8486     }
8487
8488     SvPOK_only(sv);
8489     if (!append) {
8490         /* not appending - "clear" the string by setting SvCUR to 0,
8491          * the pv is still avaiable. */
8492         SvCUR_set(sv,0);
8493     }
8494     if (PerlIO_isutf8(fp))
8495         SvUTF8_on(sv);
8496
8497     if (IN_PERL_COMPILETIME) {
8498         /* we always read code in line mode */
8499         rsptr = "\n";
8500         rslen = 1;
8501     }
8502     else if (RsSNARF(PL_rs)) {
8503         /* If it is a regular disk file use size from stat() as estimate
8504            of amount we are going to read -- may result in mallocing
8505            more memory than we really need if the layers below reduce
8506            the size we read (e.g. CRLF or a gzip layer).
8507          */
8508         Stat_t st;
8509         int fd = PerlIO_fileno(fp);
8510         if (fd >= 0 && (PerlLIO_fstat(fd, &st) == 0) && S_ISREG(st.st_mode))  {
8511             const Off_t offset = PerlIO_tell(fp);
8512             if (offset != (Off_t) -1 && st.st_size + append > offset) {
8513 #ifdef PERL_COPY_ON_WRITE
8514                 /* Add an extra byte for the sake of copy-on-write's
8515                  * buffer reference count. */
8516                 (void) SvGROW(sv, (STRLEN)((st.st_size - offset) + append + 2));
8517 #else
8518                 (void) SvGROW(sv, (STRLEN)((st.st_size - offset) + append + 1));
8519 #endif
8520             }
8521         }
8522         rsptr = NULL;
8523         rslen = 0;
8524     }
8525     else if (RsRECORD(PL_rs)) {
8526         return S_sv_gets_read_record(aTHX_ sv, fp, append);
8527     }
8528     else if (RsPARA(PL_rs)) {
8529         rsptr = "\n\n";
8530         rslen = 2;
8531         rspara = 1;
8532     }
8533     else {
8534         /* Get $/ i.e. PL_rs into same encoding as stream wants */
8535         if (PerlIO_isutf8(fp)) {
8536             rsptr = SvPVutf8(PL_rs, rslen);
8537         }
8538         else {
8539             if (SvUTF8(PL_rs)) {
8540                 if (!sv_utf8_downgrade(PL_rs, TRUE)) {
8541                     Perl_croak(aTHX_ "Wide character in $/");
8542                 }
8543             }
8544             /* extract the raw pointer to the record separator */
8545             rsptr = SvPV_const(PL_rs, rslen);
8546         }
8547     }
8548
8549     /* rslast is the last character in the record separator
8550      * note we don't use rslast except when rslen is true, so the
8551      * null assign is a placeholder. */
8552     rslast = rslen ? rsptr[rslen - 1] : '\0';
8553
8554     if (rspara) {        /* have to do this both before and after */
8555                          /* to make sure file boundaries work right */
8556         while (1) {
8557             if (PerlIO_eof(fp))
8558                 return 0;
8559             i = PerlIO_getc(fp);
8560             if (i != '\n') {
8561                 if (i == -1)
8562                     return 0;
8563                 PerlIO_ungetc(fp,i);
8564                 break;
8565             }
8566         }
8567     }
8568
8569     /* See if we know enough about I/O mechanism to cheat it ! */
8570
8571     /* This used to be #ifdef test - it is made run-time test for ease
8572        of abstracting out stdio interface. One call should be cheap
8573        enough here - and may even be a macro allowing compile
8574        time optimization.
8575      */
8576
8577     if (PerlIO_fast_gets(fp)) {
8578     /*
8579      * We can do buffer based IO operations on this filehandle.
8580      *
8581      * This means we can bypass a lot of subcalls and process
8582      * the buffer directly, it also means we know the upper bound
8583      * on the amount of data we might read of the current buffer
8584      * into our sv. Knowing this allows us to preallocate the pv
8585      * to be able to hold that maximum, which allows us to simplify
8586      * a lot of logic. */
8587
8588     /*
8589      * We're going to steal some values from the stdio struct
8590      * and put EVERYTHING in the innermost loop into registers.
8591      */
8592     STDCHAR *ptr;       /* pointer into fp's read-ahead buffer */
8593     STRLEN bpx;         /* length of the data in the target sv
8594                            used to fix pointers after a SvGROW */
8595     I32 shortbuffered;  /* If the pv buffer is shorter than the amount
8596                            of data left in the read-ahead buffer.
8597                            If 0 then the pv buffer can hold the full
8598                            amount left, otherwise this is the amount it
8599                            can hold. */
8600
8601     /* Here is some breathtakingly efficient cheating */
8602
8603     /* When you read the following logic resist the urge to think
8604      * of record separators that are 1 byte long. They are an
8605      * uninteresting special (simple) case.
8606      *
8607      * Instead think of record separators which are at least 2 bytes
8608      * long, and keep in mind that we need to deal with such
8609      * separators when they cross a read-ahead buffer boundary.
8610      *
8611      * Also consider that we need to gracefully deal with separators
8612      * that may be longer than a single read ahead buffer.
8613      *
8614      * Lastly do not forget we want to copy the delimiter as well. We
8615      * are copying all data in the file _up_to_and_including_ the separator
8616      * itself.
8617      *
8618      * Now that you have all that in mind here is what is happening below:
8619      *
8620      * 1. When we first enter the loop we do some memory book keeping to see
8621      * how much free space there is in the target SV. (This sub assumes that
8622      * it is operating on the same SV most of the time via $_ and that it is
8623      * going to be able to reuse the same pv buffer each call.) If there is
8624      * "enough" room then we set "shortbuffered" to how much space there is
8625      * and start reading forward.
8626      *
8627      * 2. When we scan forward we copy from the read-ahead buffer to the target
8628      * SV's pv buffer. While we go we watch for the end of the read-ahead buffer,
8629      * and the end of the of pv, as well as for the "rslast", which is the last
8630      * char of the separator.
8631      *
8632      * 3. When scanning forward if we see rslast then we jump backwards in *pv*
8633      * (which has a "complete" record up to the point we saw rslast) and check
8634      * it to see if it matches the separator. If it does we are done. If it doesn't
8635      * we continue on with the scan/copy.
8636      *
8637      * 4. If we run out of read-ahead buffer (cnt goes to 0) then we have to get
8638      * the IO system to read the next buffer. We do this by doing a getc(), which
8639      * returns a single char read (or EOF), and prefills the buffer, and also
8640      * allows us to find out how full the buffer is.  We use this information to
8641      * SvGROW() the sv to the size remaining in the buffer, after which we copy
8642      * the returned single char into the target sv, and then go back into scan
8643      * forward mode.
8644      *
8645      * 5. If we run out of write-buffer then we SvGROW() it by the size of the
8646      * remaining space in the read-buffer.
8647      *
8648      * Note that this code despite its twisty-turny nature is pretty darn slick.
8649      * It manages single byte separators, multi-byte cross boundary separators,
8650      * and cross-read-buffer separators cleanly and efficiently at the cost
8651      * of potentially greatly overallocating the target SV.
8652      *
8653      * Yves
8654      */
8655
8656
8657     /* get the number of bytes remaining in the read-ahead buffer
8658      * on first call on a given fp this will return 0.*/
8659     cnt = PerlIO_get_cnt(fp);
8660
8661     /* make sure we have the room */
8662     if ((I32)(SvLEN(sv) - append) <= cnt + 1) {
8663         /* Not room for all of it
8664            if we are looking for a separator and room for some
8665          */
8666         if (rslen && cnt > 80 && (I32)SvLEN(sv) > append) {
8667             /* just process what we have room for */
8668             shortbuffered = cnt - SvLEN(sv) + append + 1;
8669             cnt -= shortbuffered;
8670         }
8671         else {
8672             /* ensure that the target sv has enough room to hold
8673              * the rest of the read-ahead buffer */
8674             shortbuffered = 0;
8675             /* remember that cnt can be negative */
8676             SvGROW(sv, (STRLEN)(append + (cnt <= 0 ? 2 : (cnt + 1))));
8677         }
8678     }
8679     else {
8680         /* we have enough room to hold the full buffer, lets scream */
8681         shortbuffered = 0;
8682     }
8683
8684     /* extract the pointer to sv's string buffer, offset by append as necessary */
8685     bp = (STDCHAR*)SvPVX_const(sv) + append;  /* move these two too to registers */
8686     /* extract the point to the read-ahead buffer */
8687     ptr = (STDCHAR*)PerlIO_get_ptr(fp);
8688
8689     /* some trace debug output */
8690     DEBUG_P(PerlIO_printf(Perl_debug_log,
8691         "Screamer: entering, ptr=%" UVuf ", cnt=%ld\n",PTR2UV(ptr),(long)cnt));
8692     DEBUG_P(PerlIO_printf(Perl_debug_log,
8693         "Screamer: entering: PerlIO * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%"
8694          UVuf "\n",
8695                PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8696                PTR2UV(PerlIO_has_base(fp) ? PerlIO_get_base(fp) : 0)));
8697
8698     for (;;) {
8699       screamer:
8700         /* if there is stuff left in the read-ahead buffer */
8701         if (cnt > 0) {
8702             /* if there is a separator */
8703             if (rslen) {
8704                 /* find next rslast */
8705                 STDCHAR *p;
8706
8707                 /* shortcut common case of blank line */
8708                 cnt--;
8709                 if ((*bp++ = *ptr++) == rslast)
8710                     goto thats_all_folks;
8711
8712                 p = (STDCHAR *)memchr(ptr, rslast, cnt);
8713                 if (p) {
8714                     SSize_t got = p - ptr + 1;
8715                     Copy(ptr, bp, got, STDCHAR);
8716                     ptr += got;
8717                     bp  += got;
8718                     cnt -= got;
8719                     goto thats_all_folks;
8720                 }
8721                 Copy(ptr, bp, cnt, STDCHAR);
8722                 ptr += cnt;
8723                 bp  += cnt;
8724                 cnt = 0;
8725             }
8726             else {
8727                 /* no separator, slurp the full buffer */
8728                 Copy(ptr, bp, cnt, char);            /* this     |  eat */
8729                 bp += cnt;                           /* screams  |  dust */
8730                 ptr += cnt;                          /* louder   |  sed :-) */
8731                 cnt = 0;
8732                 assert (!shortbuffered);
8733                 goto cannot_be_shortbuffered;
8734             }
8735         }
8736         
8737         if (shortbuffered) {            /* oh well, must extend */
8738             /* we didnt have enough room to fit the line into the target buffer
8739              * so we must extend the target buffer and keep going */
8740             cnt = shortbuffered;
8741             shortbuffered = 0;
8742             bpx = bp - (STDCHAR*)SvPVX_const(sv); /* box up before relocation */
8743             SvCUR_set(sv, bpx);
8744             /* extned the target sv's buffer so it can hold the full read-ahead buffer */
8745             SvGROW(sv, SvLEN(sv) + append + cnt + 2);
8746             bp = (STDCHAR*)SvPVX_const(sv) + bpx; /* unbox after relocation */
8747             continue;
8748         }
8749
8750     cannot_be_shortbuffered:
8751         /* we need to refill the read-ahead buffer if possible */
8752
8753         DEBUG_P(PerlIO_printf(Perl_debug_log,
8754                              "Screamer: going to getc, ptr=%" UVuf ", cnt=%" IVdf "\n",
8755                               PTR2UV(ptr),(IV)cnt));
8756         PerlIO_set_ptrcnt(fp, (STDCHAR*)ptr, cnt); /* deregisterize cnt and ptr */
8757
8758         DEBUG_Pv(PerlIO_printf(Perl_debug_log,
8759            "Screamer: pre: FILE * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%" UVuf "\n",
8760             PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8761             PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
8762
8763         /*
8764             call PerlIO_getc() to let it prefill the lookahead buffer
8765
8766             This used to call 'filbuf' in stdio form, but as that behaves like
8767             getc when cnt <= 0 we use PerlIO_getc here to avoid introducing
8768             another abstraction.
8769
8770             Note we have to deal with the char in 'i' if we are not at EOF
8771         */
8772         bpx = bp - (STDCHAR*)SvPVX_const(sv);
8773         /* signals might be called here, possibly modifying sv */
8774         i   = PerlIO_getc(fp);          /* get more characters */
8775         bp = (STDCHAR*)SvPVX_const(sv) + bpx;
8776
8777         DEBUG_Pv(PerlIO_printf(Perl_debug_log,
8778            "Screamer: post: FILE * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%" UVuf "\n",
8779             PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8780             PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
8781
8782         /* find out how much is left in the read-ahead buffer, and rextract its pointer */
8783         cnt = PerlIO_get_cnt(fp);
8784         ptr = (STDCHAR*)PerlIO_get_ptr(fp);     /* reregisterize cnt and ptr */
8785         DEBUG_P(PerlIO_printf(Perl_debug_log,
8786             "Screamer: after getc, ptr=%" UVuf ", cnt=%" IVdf "\n",
8787             PTR2UV(ptr),(IV)cnt));
8788
8789         if (i == EOF)                   /* all done for ever? */
8790             goto thats_really_all_folks;
8791
8792         /* make sure we have enough space in the target sv */
8793         bpx = bp - (STDCHAR*)SvPVX_const(sv);   /* box up before relocation */
8794         SvCUR_set(sv, bpx);
8795         SvGROW(sv, bpx + cnt + 2);
8796         bp = (STDCHAR*)SvPVX_const(sv) + bpx;   /* unbox after relocation */
8797
8798         /* copy of the char we got from getc() */
8799         *bp++ = (STDCHAR)i;             /* store character from PerlIO_getc */
8800
8801         /* make sure we deal with the i being the last character of a separator */
8802         if (rslen && (STDCHAR)i == rslast)  /* all done for now? */
8803             goto thats_all_folks;
8804     }
8805
8806   thats_all_folks:
8807     /* check if we have actually found the separator - only really applies
8808      * when rslen > 1 */
8809     if ((rslen > 1 && (STRLEN)(bp - (STDCHAR*)SvPVX_const(sv)) < rslen) ||
8810           memNE((char*)bp - rslen, rsptr, rslen))
8811         goto screamer;                          /* go back to the fray */
8812   thats_really_all_folks:
8813     if (shortbuffered)
8814         cnt += shortbuffered;
8815         DEBUG_P(PerlIO_printf(Perl_debug_log,
8816              "Screamer: quitting, ptr=%" UVuf ", cnt=%" IVdf "\n",PTR2UV(ptr),(IV)cnt));
8817     PerlIO_set_ptrcnt(fp, (STDCHAR*)ptr, cnt);  /* put these back or we're in trouble */
8818     DEBUG_P(PerlIO_printf(Perl_debug_log,
8819         "Screamer: end: FILE * thinks ptr=%" UVuf ", cnt=%" IVdf ", base=%" UVuf
8820         "\n",
8821         PTR2UV(PerlIO_get_ptr(fp)), (IV)PerlIO_get_cnt(fp),
8822         PTR2UV(PerlIO_has_base (fp) ? PerlIO_get_base(fp) : 0)));
8823     *bp = '\0';
8824     SvCUR_set(sv, bp - (STDCHAR*)SvPVX_const(sv));      /* set length */
8825     DEBUG_P(PerlIO_printf(Perl_debug_log,
8826         "Screamer: done, len=%ld, string=|%.*s|\n",
8827         (long)SvCUR(sv),(int)SvCUR(sv),SvPVX_const(sv)));
8828     }
8829    else
8830     {
8831        /*The big, slow, and stupid way. */
8832 #ifdef USE_HEAP_INSTEAD_OF_STACK        /* Even slower way. */
8833         STDCHAR *buf = NULL;
8834         Newx(buf, 8192, STDCHAR);
8835         assert(buf);
8836 #else
8837         STDCHAR buf[8192];
8838 #endif
8839
8840       screamer2:
8841         if (rslen) {
8842             const STDCHAR * const bpe = buf + sizeof(buf);
8843             bp = buf;
8844             while ((i = PerlIO_getc(fp)) != EOF && (*bp++ = (STDCHAR)i) != rslast && bp < bpe)
8845                 ; /* keep reading */
8846             cnt = bp - buf;
8847         }
8848         else {
8849             cnt = PerlIO_read(fp,(char*)buf, sizeof(buf));
8850             /* Accommodate broken VAXC compiler, which applies U8 cast to
8851              * both args of ?: operator, causing EOF to change into 255
8852              */
8853             if (cnt > 0)
8854                  i = (U8)buf[cnt - 1];
8855             else
8856                  i = EOF;
8857         }
8858
8859         if (cnt < 0)
8860             cnt = 0;  /* we do need to re-set the sv even when cnt <= 0 */
8861         if (append)
8862             sv_catpvn_nomg(sv, (char *) buf, cnt);
8863         else
8864             sv_setpvn(sv, (char *) buf, cnt);   /* "nomg" is implied */
8865
8866         if (i != EOF &&                 /* joy */
8867             (!rslen ||
8868              SvCUR(sv) < rslen ||
8869              memNE(SvPVX_const(sv) + SvCUR(sv) - rslen, rsptr, rslen)))
8870         {
8871             append = -1;
8872             /*
8873              * If we're reading from a TTY and we get a short read,
8874              * indicating that the user hit his EOF character, we need
8875              * to notice it now, because if we try to read from the TTY
8876              * again, the EOF condition will disappear.
8877              *
8878              * The comparison of cnt to sizeof(buf) is an optimization
8879              * that prevents unnecessary calls to feof().
8880              *
8881              * - jik 9/25/96
8882              */
8883             if (!(cnt < (I32)sizeof(buf) && PerlIO_eof(fp)))
8884                 goto screamer2;
8885         }
8886
8887 #ifdef USE_HEAP_INSTEAD_OF_STACK
8888         Safefree(buf);
8889 #endif
8890     }
8891
8892     if (rspara) {               /* have to do this both before and after */
8893         while (i != EOF) {      /* to make sure file boundaries work right */
8894             i = PerlIO_getc(fp);
8895             if (i != '\n') {
8896                 PerlIO_ungetc(fp,i);
8897                 break;
8898             }
8899         }
8900     }
8901
8902     return (SvCUR(sv) - append) ? SvPVX(sv) : NULL;
8903 }
8904
8905 /*
8906 =for apidoc sv_inc
8907
8908 Auto-increment of the value in the SV, doing string to numeric conversion
8909 if necessary.  Handles 'get' magic and operator overloading.
8910
8911 =cut
8912 */
8913
8914 void
8915 Perl_sv_inc(pTHX_ SV *const sv)
8916 {
8917     if (!sv)
8918         return;
8919     SvGETMAGIC(sv);
8920     sv_inc_nomg(sv);
8921 }
8922
8923 /*
8924 =for apidoc sv_inc_nomg
8925
8926 Auto-increment of the value in the SV, doing string to numeric conversion
8927 if necessary.  Handles operator overloading.  Skips handling 'get' magic.
8928
8929 =cut
8930 */
8931
8932 void
8933 Perl_sv_inc_nomg(pTHX_ SV *const sv)
8934 {
8935     char *d;
8936     int flags;
8937
8938     if (!sv)
8939         return;
8940     if (SvTHINKFIRST(sv)) {
8941         if (SvREADONLY(sv)) {
8942                 Perl_croak_no_modify();
8943         }
8944         if (SvROK(sv)) {
8945             IV i;
8946             if (SvAMAGIC(sv) && AMG_CALLunary(sv, inc_amg))
8947                 return;
8948             i = PTR2IV(SvRV(sv));
8949             sv_unref(sv);
8950             sv_setiv(sv, i);
8951         }
8952         else sv_force_normal_flags(sv, 0);
8953     }
8954     flags = SvFLAGS(sv);
8955     if ((flags & (SVp_NOK|SVp_IOK)) == SVp_NOK) {
8956         /* It's (privately or publicly) a float, but not tested as an
8957            integer, so test it to see. */
8958         (void) SvIV(sv);
8959         flags = SvFLAGS(sv);
8960     }
8961     if ((flags & SVf_IOK) || ((flags & (SVp_IOK | SVp_NOK)) == SVp_IOK)) {
8962         /* It's publicly an integer, or privately an integer-not-float */
8963 #ifdef PERL_PRESERVE_IVUV
8964       oops_its_int:
8965 #endif
8966         if (SvIsUV(sv)) {
8967             if (SvUVX(sv) == UV_MAX)
8968                 sv_setnv(sv, UV_MAX_P1);
8969             else
8970                 (void)SvIOK_only_UV(sv);
8971                 SvUV_set(sv, SvUVX(sv) + 1);
8972         } else {
8973             if (SvIVX(sv) == IV_MAX)
8974                 sv_setuv(sv, (UV)IV_MAX + 1);
8975             else {
8976                 (void)SvIOK_only(sv);
8977                 SvIV_set(sv, SvIVX(sv) + 1);
8978             }   
8979         }
8980         return;
8981     }
8982     if (flags & SVp_NOK) {
8983         const NV was = SvNVX(sv);
8984         if (LIKELY(!Perl_isinfnan(was)) &&
8985             NV_OVERFLOWS_INTEGERS_AT != 0.0 &&
8986             was >= NV_OVERFLOWS_INTEGERS_AT) {
8987             /* diag_listed_as: Lost precision when %s %f by 1 */
8988             Perl_ck_warner(aTHX_ packWARN(WARN_IMPRECISION),
8989                            "Lost precision when incrementing %" NVff " by 1",
8990                            was);
8991         }
8992         (void)SvNOK_only(sv);
8993         SvNV_set(sv, was + 1.0);
8994         return;
8995     }
8996
8997     /* treat AV/HV/CV/FM/IO and non-fake GVs as immutable */
8998     if (SvTYPE(sv) >= SVt_PVAV || (isGV_with_GP(sv) && !SvFAKE(sv)))
8999         Perl_croak_no_modify();
9000
9001     if (!(flags & SVp_POK) || !*SvPVX_const(sv)) {
9002         if ((flags & SVTYPEMASK) < SVt_PVIV)
9003             sv_upgrade(sv, ((flags & SVTYPEMASK) > SVt_IV ? SVt_PVIV : SVt_IV));
9004         (void)SvIOK_only(sv);
9005         SvIV_set(sv, 1);
9006         return;
9007     }
9008     d = SvPVX(sv);
9009     while (isALPHA(*d)) d++;
9010     while (isDIGIT(*d)) d++;
9011     if (d < SvEND(sv)) {
9012         const int numtype = grok_number_flags(SvPVX_const(sv), SvCUR(sv), NULL, PERL_SCAN_TRAILING);
9013 #ifdef PERL_PRESERVE_IVUV
9014         /* Got to punt this as an integer if needs be, but we don't issue
9015            warnings. Probably ought to make the sv_iv_please() that does
9016            the conversion if possible, and silently.  */
9017         if (numtype && !(numtype & IS_NUMBER_INFINITY)) {
9018             /* Need to try really hard to see if it's an integer.
9019                9.22337203685478e+18 is an integer.
9020                but "9.22337203685478e+18" + 0 is UV=9223372036854779904
9021                so $a="9.22337203685478e+18"; $a+0; $a++
9022                needs to be the same as $a="9.22337203685478e+18"; $a++
9023                or we go insane. */
9024         
9025             (void) sv_2iv(sv);
9026             if (SvIOK(sv))
9027                 goto oops_its_int;
9028
9029             /* sv_2iv *should* have made this an NV */
9030             if (flags & SVp_NOK) {
9031                 (void)SvNOK_only(sv);
9032                 SvNV_set(sv, SvNVX(sv) + 1.0);
9033                 return;
9034             }
9035             /* I don't think we can get here. Maybe I should assert this
9036                And if we do get here I suspect that sv_setnv will croak. NWC
9037                Fall through. */
9038             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_inc punt failed to convert '%s' to IOK or NOKp, UV=0x%" UVxf " NV=%" NVgf "\n",
9039                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
9040         }
9041 #endif /* PERL_PRESERVE_IVUV */
9042         if (!numtype && ckWARN(WARN_NUMERIC))
9043             not_incrementable(sv);
9044         sv_setnv(sv,Atof(SvPVX_const(sv)) + 1.0);
9045         return;
9046     }
9047     d--;
9048     while (d >= SvPVX_const(sv)) {
9049         if (isDIGIT(*d)) {
9050             if (++*d <= '9')
9051                 return;
9052             *(d--) = '0';
9053         }
9054         else {
9055 #ifdef EBCDIC
9056             /* MKS: The original code here died if letters weren't consecutive.
9057              * at least it didn't have to worry about non-C locales.  The
9058              * new code assumes that ('z'-'a')==('Z'-'A'), letters are
9059              * arranged in order (although not consecutively) and that only
9060              * [A-Za-z] are accepted by isALPHA in the C locale.
9061              */
9062             if (isALPHA_FOLD_NE(*d, 'z')) {
9063                 do { ++*d; } while (!isALPHA(*d));
9064                 return;
9065             }
9066             *(d--) -= 'z' - 'a';
9067 #else
9068             ++*d;
9069             if (isALPHA(*d))
9070                 return;
9071             *(d--) -= 'z' - 'a' + 1;
9072 #endif
9073         }
9074     }
9075     /* oh,oh, the number grew */
9076     SvGROW(sv, SvCUR(sv) + 2);
9077     SvCUR_set(sv, SvCUR(sv) + 1);
9078     for (d = SvPVX(sv) + SvCUR(sv); d > SvPVX_const(sv); d--)
9079         *d = d[-1];
9080     if (isDIGIT(d[1]))
9081         *d = '1';
9082     else
9083         *d = d[1];
9084 }
9085
9086 /*
9087 =for apidoc sv_dec
9088
9089 Auto-decrement of the value in the SV, doing string to numeric conversion
9090 if necessary.  Handles 'get' magic and operator overloading.
9091
9092 =cut
9093 */
9094
9095 void
9096 Perl_sv_dec(pTHX_ SV *const sv)
9097 {
9098     if (!sv)
9099         return;
9100     SvGETMAGIC(sv);
9101     sv_dec_nomg(sv);
9102 }
9103
9104 /*
9105 =for apidoc sv_dec_nomg
9106
9107 Auto-decrement of the value in the SV, doing string to numeric conversion
9108 if necessary.  Handles operator overloading.  Skips handling 'get' magic.
9109
9110 =cut
9111 */
9112
9113 void
9114 Perl_sv_dec_nomg(pTHX_ SV *const sv)
9115 {
9116     int flags;
9117
9118     if (!sv)
9119         return;
9120     if (SvTHINKFIRST(sv)) {
9121         if (SvREADONLY(sv)) {
9122                 Perl_croak_no_modify();
9123         }
9124         if (SvROK(sv)) {
9125             IV i;
9126             if (SvAMAGIC(sv) && AMG_CALLunary(sv, dec_amg))
9127                 return;
9128             i = PTR2IV(SvRV(sv));
9129             sv_unref(sv);
9130             sv_setiv(sv, i);
9131         }
9132         else sv_force_normal_flags(sv, 0);
9133     }
9134     /* Unlike sv_inc we don't have to worry about string-never-numbers
9135        and keeping them magic. But we mustn't warn on punting */
9136     flags = SvFLAGS(sv);
9137     if ((flags & SVf_IOK) || ((flags & (SVp_IOK | SVp_NOK)) == SVp_IOK)) {
9138         /* It's publicly an integer, or privately an integer-not-float */
9139 #ifdef PERL_PRESERVE_IVUV
9140       oops_its_int:
9141 #endif
9142         if (SvIsUV(sv)) {
9143             if (SvUVX(sv) == 0) {
9144                 (void)SvIOK_only(sv);
9145                 SvIV_set(sv, -1);
9146             }
9147             else {
9148                 (void)SvIOK_only_UV(sv);
9149                 SvUV_set(sv, SvUVX(sv) - 1);
9150             }   
9151         } else {
9152             if (SvIVX(sv) == IV_MIN) {
9153                 sv_setnv(sv, (NV)IV_MIN);
9154                 goto oops_its_num;
9155             }
9156             else {
9157                 (void)SvIOK_only(sv);
9158                 SvIV_set(sv, SvIVX(sv) - 1);
9159             }   
9160         }
9161         return;
9162     }
9163     if (flags & SVp_NOK) {
9164     oops_its_num:
9165         {
9166             const NV was = SvNVX(sv);
9167             if (LIKELY(!Perl_isinfnan(was)) &&
9168                 NV_OVERFLOWS_INTEGERS_AT != 0.0 &&
9169                 was <= -NV_OVERFLOWS_INTEGERS_AT) {
9170                 /* diag_listed_as: Lost precision when %s %f by 1 */
9171                 Perl_ck_warner(aTHX_ packWARN(WARN_IMPRECISION),
9172                                "Lost precision when decrementing %" NVff " by 1",
9173                                was);
9174             }
9175             (void)SvNOK_only(sv);
9176             SvNV_set(sv, was - 1.0);
9177             return;
9178         }
9179     }
9180
9181     /* treat AV/HV/CV/FM/IO and non-fake GVs as immutable */
9182     if (SvTYPE(sv) >= SVt_PVAV || (isGV_with_GP(sv) && !SvFAKE(sv)))
9183         Perl_croak_no_modify();
9184
9185     if (!(flags & SVp_POK)) {
9186         if ((flags & SVTYPEMASK) < SVt_PVIV)
9187             sv_upgrade(sv, ((flags & SVTYPEMASK) > SVt_IV) ? SVt_PVIV : SVt_IV);
9188         SvIV_set(sv, -1);
9189         (void)SvIOK_only(sv);
9190         return;
9191     }
9192 #ifdef PERL_PRESERVE_IVUV
9193     {
9194         const int numtype = grok_number(SvPVX_const(sv), SvCUR(sv), NULL);
9195         if (numtype && !(numtype & IS_NUMBER_INFINITY)) {
9196             /* Need to try really hard to see if it's an integer.
9197                9.22337203685478e+18 is an integer.
9198                but "9.22337203685478e+18" + 0 is UV=9223372036854779904
9199                so $a="9.22337203685478e+18"; $a+0; $a--
9200                needs to be the same as $a="9.22337203685478e+18"; $a--
9201                or we go insane. */
9202         
9203             (void) sv_2iv(sv);
9204             if (SvIOK(sv))
9205                 goto oops_its_int;
9206
9207             /* sv_2iv *should* have made this an NV */
9208             if (flags & SVp_NOK) {
9209                 (void)SvNOK_only(sv);
9210                 SvNV_set(sv, SvNVX(sv) - 1.0);
9211                 return;
9212             }
9213             /* I don't think we can get here. Maybe I should assert this
9214                And if we do get here I suspect that sv_setnv will croak. NWC
9215                Fall through. */
9216             DEBUG_c(PerlIO_printf(Perl_debug_log,"sv_dec punt failed to convert '%s' to IOK or NOKp, UV=0x%" UVxf " NV=%" NVgf "\n",
9217                                   SvPVX_const(sv), SvIVX(sv), SvNVX(sv)));
9218         }
9219     }
9220 #endif /* PERL_PRESERVE_IVUV */
9221     sv_setnv(sv,Atof(SvPVX_const(sv)) - 1.0);   /* punt */
9222 }
9223
9224 /* this define is used to eliminate a chunk of duplicated but shared logic
9225  * it has the suffix __SV_C to signal that it isnt API, and isnt meant to be
9226  * used anywhere but here - yves
9227  */
9228 #define PUSH_EXTEND_MORTAL__SV_C(AnSv) \
9229     STMT_START {      \
9230         SSize_t ix = ++PL_tmps_ix;              \
9231         if (UNLIKELY(ix >= PL_tmps_max))        \
9232             ix = tmps_grow_p(ix);                       \
9233         PL_tmps_stack[ix] = (AnSv); \
9234     } STMT_END
9235
9236 /*
9237 =for apidoc sv_mortalcopy
9238
9239 Creates a new SV which is a copy of the original SV (using C<sv_setsv>).
9240 The new SV is marked as mortal.  It will be destroyed "soon", either by an
9241 explicit call to C<FREETMPS>, or by an implicit call at places such as
9242 statement boundaries.  See also C<L</sv_newmortal>> and C<L</sv_2mortal>>.
9243
9244 =for apidoc sv_mortalcopy_flags
9245
9246 Like C<sv_mortalcopy>, but the extra C<flags> are passed to the
9247 C<sv_setsv_flags>.
9248
9249 =cut
9250 */
9251
9252 /* Make a string that will exist for the duration of the expression
9253  * evaluation.  Actually, it may have to last longer than that, but
9254  * hopefully we won't free it until it has been assigned to a
9255  * permanent location. */
9256
9257 SV *
9258 Perl_sv_mortalcopy_flags(pTHX_ SV *const oldstr, U32 flags)
9259 {
9260     SV *sv;
9261
9262     if (flags & SV_GMAGIC)
9263         SvGETMAGIC(oldstr); /* before new_SV, in case it dies */
9264     new_SV(sv);
9265     sv_setsv_flags(sv,oldstr,flags & ~SV_GMAGIC);
9266     PUSH_EXTEND_MORTAL__SV_C(sv);
9267     SvTEMP_on(sv);
9268     return sv;
9269 }
9270
9271 /*
9272 =for apidoc sv_newmortal
9273
9274 Creates a new null SV which is mortal.  The reference count of the SV is
9275 set to 1.  It will be destroyed "soon", either by an explicit call to
9276 C<FREETMPS>, or by an implicit call at places such as statement boundaries.
9277 See also C<L</sv_mortalcopy>> and C<L</sv_2mortal>>.
9278
9279 =cut
9280 */
9281
9282 SV *
9283 Perl_sv_newmortal(pTHX)
9284 {
9285     SV *sv;
9286
9287     new_SV(sv);
9288     SvFLAGS(sv) = SVs_TEMP;
9289     PUSH_EXTEND_MORTAL__SV_C(sv);
9290     return sv;
9291 }
9292
9293
9294 /*
9295 =for apidoc newSVpvn_flags
9296
9297 Creates a new SV and copies a string (which may contain C<NUL> (C<\0>)
9298 characters) into it.  The reference count for the
9299 SV is set to 1.  Note that if C<len> is zero, Perl will create a zero length
9300 string.  You are responsible for ensuring that the source string is at least
9301 C<len> bytes long.  If the C<s> argument is NULL the new SV will be undefined.
9302 Currently the only flag bits accepted are C<SVf_UTF8> and C<SVs_TEMP>.
9303 If C<SVs_TEMP> is set, then C<sv_2mortal()> is called on the result before
9304 returning.  If C<SVf_UTF8> is set, C<s>
9305 is considered to be in UTF-8 and the
9306 C<SVf_UTF8> flag will be set on the new SV.
9307 C<newSVpvn_utf8()> is a convenience wrapper for this function, defined as
9308
9309     #define newSVpvn_utf8(s, len, u)                    \
9310         newSVpvn_flags((s), (len), (u) ? SVf_UTF8 : 0)
9311
9312 =for apidoc Amnh||SVf_UTF8
9313 =for apidoc Amnh||SVs_TEMP
9314
9315 =cut
9316 */
9317
9318 SV *
9319 Perl_newSVpvn_flags(pTHX_ const char *const s, const STRLEN len, const U32 flags)
9320 {
9321     SV *sv;
9322
9323     /* All the flags we don't support must be zero.
9324        And we're new code so I'm going to assert this from the start.  */
9325     assert(!(flags & ~(SVf_UTF8|SVs_TEMP)));
9326     new_SV(sv);
9327     sv_setpvn(sv,s,len);
9328
9329     /* This code used to do a sv_2mortal(), however we now unroll the call to
9330      * sv_2mortal() and do what it does ourselves here.  Since we have asserted
9331      * that flags can only have the SVf_UTF8 and/or SVs_TEMP flags set above we
9332      * can use it to enable the sv flags directly (bypassing SvTEMP_on), which
9333      * in turn means we dont need to mask out the SVf_UTF8 flag below, which
9334      * means that we eliminate quite a few steps than it looks - Yves
9335      * (explaining patch by gfx) */
9336
9337     SvFLAGS(sv) |= flags;
9338
9339     if(flags & SVs_TEMP){
9340         PUSH_EXTEND_MORTAL__SV_C(sv);
9341     }
9342
9343     return sv;
9344 }
9345
9346 /*
9347 =for apidoc sv_2mortal
9348
9349 Marks an existing SV as mortal.  The SV will be destroyed "soon", either
9350 by an explicit call to C<FREETMPS>, or by an implicit call at places such as
9351 statement boundaries.  C<SvTEMP()> is turned on which means that the SV's
9352 string buffer can be "stolen" if this SV is copied.  See also
9353 C<L</sv_newmortal>> and C<L</sv_mortalcopy>>.
9354
9355 =cut
9356 */
9357
9358 SV *
9359 Perl_sv_2mortal(pTHX_ SV *const sv)
9360 {
9361     dVAR;
9362     if (!sv)
9363         return sv;
9364     if (SvIMMORTAL(sv))
9365         return sv;
9366     PUSH_EXTEND_MORTAL__SV_C(sv);
9367     SvTEMP_on(sv);
9368     return sv;
9369 }
9370
9371 /*
9372 =for apidoc newSVpv
9373
9374 Creates a new SV and copies a string (which may contain C<NUL> (C<\0>)
9375 characters) into it.  The reference count for the
9376 SV is set to 1.  If C<len> is zero, Perl will compute the length using
9377 C<strlen()>, (which means if you use this option, that C<s> can't have embedded
9378 C<NUL> characters and has to have a terminating C<NUL> byte).
9379
9380 This function can cause reliability issues if you are likely to pass in
9381 empty strings that are not null terminated, because it will run
9382 strlen on the string and potentially run past valid memory.
9383
9384 Using L</newSVpvn> is a safer alternative for non C<NUL> terminated strings.
9385 For string literals use L</newSVpvs> instead.  This function will work fine for
9386 C<NUL> terminated strings, but if you want to avoid the if statement on whether
9387 to call C<strlen> use C<newSVpvn> instead (calling C<strlen> yourself).
9388
9389 =cut
9390 */
9391
9392 SV *
9393 Perl_newSVpv(pTHX_ const char *const s, const STRLEN len)
9394 {
9395     SV *sv;
9396
9397     new_SV(sv);
9398     sv_setpvn(sv, s, len || s == NULL ? len : strlen(s));
9399     return sv;
9400 }
9401
9402 /*
9403 =for apidoc newSVpvn
9404
9405 Creates a new SV and copies a string into it, which may contain C<NUL> characters
9406 (C<\0>) and other binary data.  The reference count for the SV is set to 1.
9407 Note that if C<len> is zero, Perl will create a zero length (Perl) string.  You
9408 are responsible for ensuring that the source buffer is at least
9409 C<len> bytes long.  If the C<buffer> argument is NULL the new SV will be
9410 undefined.
9411
9412 =cut
9413 */
9414
9415 SV *
9416 Perl_newSVpvn(pTHX_ const char *const buffer, const STRLEN len)
9417 {
9418     SV *sv;
9419     new_SV(sv);
9420     sv_setpvn(sv,buffer,len);
9421     return sv;
9422 }
9423
9424 /*
9425 =for apidoc newSVhek
9426
9427 Creates a new SV from the hash key structure.  It will generate scalars that
9428 point to the shared string table where possible.  Returns a new (undefined)
9429 SV if C<hek> is NULL.
9430
9431 =cut
9432 */
9433
9434 SV *
9435 Perl_newSVhek(pTHX_ const HEK *const hek)
9436 {
9437     if (!hek) {
9438         SV *sv;
9439
9440         new_SV(sv);
9441         return sv;
9442     }
9443
9444     if (HEK_LEN(hek) == HEf_SVKEY) {
9445         return newSVsv(*(SV**)HEK_KEY(hek));
9446     } else {
9447         const int flags = HEK_FLAGS(hek);
9448         if (flags & HVhek_WASUTF8) {
9449             /* Trouble :-)
9450                Andreas would like keys he put in as utf8 to come back as utf8
9451             */
9452             STRLEN utf8_len = HEK_LEN(hek);
9453             SV * const sv = newSV_type(SVt_PV);
9454             char *as_utf8 = (char *)bytes_to_utf8 ((U8*)HEK_KEY(hek), &utf8_len);
9455             /* bytes_to_utf8() allocates a new string, which we can repurpose: */
9456             sv_usepvn_flags(sv, as_utf8, utf8_len, SV_HAS_TRAILING_NUL);
9457             SvUTF8_on (sv);
9458             return sv;
9459         } else if (flags & HVhek_UNSHARED) {
9460             /* A hash that isn't using shared hash keys has to have
9461                the flag in every key so that we know not to try to call
9462                share_hek_hek on it.  */
9463
9464             SV * const sv = newSVpvn (HEK_KEY(hek), HEK_LEN(hek));
9465             if (HEK_UTF8(hek))
9466                 SvUTF8_on (sv);
9467             return sv;
9468         }
9469         /* This will be overwhelminly the most common case.  */
9470         {
9471             /* Inline most of newSVpvn_share(), because share_hek_hek() is far
9472                more efficient than sharepvn().  */
9473             SV *sv;
9474
9475             new_SV(sv);
9476             sv_upgrade(sv, SVt_PV);
9477             SvPV_set(sv, (char *)HEK_KEY(share_hek_hek(hek)));
9478             SvCUR_set(sv, HEK_LEN(hek));
9479             SvLEN_set(sv, 0);
9480             SvIsCOW_on(sv);
9481             SvPOK_on(sv);
9482             if (HEK_UTF8(hek))
9483                 SvUTF8_on(sv);
9484             return sv;
9485         }
9486     }
9487 }
9488
9489 /*
9490 =for apidoc newSVpvn_share
9491
9492 Creates a new SV with its C<SvPVX_const> pointing to a shared string in the string
9493 table.  If the string does not already exist in the table, it is
9494 created first.  Turns on the C<SvIsCOW> flag (or C<READONLY>
9495 and C<FAKE> in 5.16 and earlier).  If the C<hash> parameter
9496 is non-zero, that value is used; otherwise the hash is computed.
9497 The string's hash can later be retrieved from the SV
9498 with the C<SvSHARED_HASH()> macro.  The idea here is
9499 that as the string table is used for shared hash keys these strings will have
9500 C<SvPVX_const == HeKEY> and hash lookup will avoid string compare.
9501
9502 =cut
9503 */
9504
9505 SV *
9506 Perl_newSVpvn_share(pTHX_ const char *src, I32 len, U32 hash)
9507 {
9508     dVAR;
9509     SV *sv;
9510     bool is_utf8 = FALSE;
9511     const char *const orig_src = src;
9512
9513     if (len < 0) {
9514         STRLEN tmplen = -len;
9515         is_utf8 = TRUE;
9516         /* See the note in hv.c:hv_fetch() --jhi */
9517         src = (char*)bytes_from_utf8((const U8*)src, &tmplen, &is_utf8);
9518         len = tmplen;
9519     }
9520     if (!hash)
9521         PERL_HASH(hash, src, len);
9522     new_SV(sv);
9523     /* The logic for this is inlined in S_mro_get_linear_isa_dfs(), so if it
9524        changes here, update it there too.  */
9525     sv_upgrade(sv, SVt_PV);
9526     SvPV_set(sv, sharepvn(src, is_utf8?-len:len, hash));
9527     SvCUR_set(sv, len);
9528     SvLEN_set(sv, 0);
9529     SvIsCOW_on(sv);
9530     SvPOK_on(sv);
9531     if (is_utf8)
9532         SvUTF8_on(sv);
9533     if (src != orig_src)
9534         Safefree(src);
9535     return sv;
9536 }
9537
9538 /*
9539 =for apidoc newSVpv_share
9540
9541 Like C<newSVpvn_share>, but takes a C<NUL>-terminated string instead of a
9542 string/length pair.
9543
9544 =cut
9545 */
9546
9547 SV *
9548 Perl_newSVpv_share(pTHX_ const char *src, U32 hash)
9549 {
9550     return newSVpvn_share(src, strlen(src), hash);
9551 }
9552
9553 #if defined(PERL_IMPLICIT_CONTEXT)
9554
9555 /* pTHX_ magic can't cope with varargs, so this is a no-context
9556  * version of the main function, (which may itself be aliased to us).
9557  * Don't access this version directly.
9558  */
9559
9560 SV *
9561 Perl_newSVpvf_nocontext(const char *const pat, ...)
9562 {
9563     dTHX;
9564     SV *sv;
9565     va_list args;
9566
9567     PERL_ARGS_ASSERT_NEWSVPVF_NOCONTEXT;
9568
9569     va_start(args, pat);
9570     sv = vnewSVpvf(pat, &args);
9571     va_end(args);
9572     return sv;
9573 }
9574 #endif
9575
9576 /*
9577 =for apidoc newSVpvf
9578
9579 Creates a new SV and initializes it with the string formatted like
9580 C<sv_catpvf>.
9581
9582 =cut
9583 */
9584
9585 SV *
9586 Perl_newSVpvf(pTHX_ const char *const pat, ...)
9587 {
9588     SV *sv;
9589     va_list args;
9590
9591     PERL_ARGS_ASSERT_NEWSVPVF;
9592
9593     va_start(args, pat);
9594     sv = vnewSVpvf(pat, &args);
9595     va_end(args);
9596     return sv;
9597 }
9598
9599 /* backend for newSVpvf() and newSVpvf_nocontext() */
9600
9601 SV *
9602 Perl_vnewSVpvf(pTHX_ const char *const pat, va_list *const args)
9603 {
9604     SV *sv;
9605
9606     PERL_ARGS_ASSERT_VNEWSVPVF;
9607
9608     new_SV(sv);
9609     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
9610     return sv;
9611 }
9612
9613 /*
9614 =for apidoc newSVnv
9615
9616 Creates a new SV and copies a floating point value into it.
9617 The reference count for the SV is set to 1.
9618
9619 =cut
9620 */
9621
9622 SV *
9623 Perl_newSVnv(pTHX_ const NV n)
9624 {
9625     SV *sv;
9626
9627     new_SV(sv);
9628     sv_setnv(sv,n);
9629     return sv;
9630 }
9631
9632 /*
9633 =for apidoc newSViv
9634
9635 Creates a new SV and copies an integer into it.  The reference count for the
9636 SV is set to 1.
9637
9638 =cut
9639 */
9640
9641 SV *
9642 Perl_newSViv(pTHX_ const IV i)
9643 {
9644     SV *sv;
9645
9646     new_SV(sv);
9647
9648     /* Inlining ONLY the small relevant subset of sv_setiv here
9649      * for performance. Makes a significant difference. */
9650
9651     /* We're starting from SVt_FIRST, so provided that's
9652      * actual 0, we don't have to unset any SV type flags
9653      * to promote to SVt_IV. */
9654     STATIC_ASSERT_STMT(SVt_FIRST == 0);
9655
9656     SET_SVANY_FOR_BODYLESS_IV(sv);
9657     SvFLAGS(sv) |= SVt_IV;
9658     (void)SvIOK_on(sv);
9659
9660     SvIV_set(sv, i);
9661     SvTAINT(sv);
9662
9663     return sv;
9664 }
9665
9666 /*
9667 =for apidoc newSVuv
9668
9669 Creates a new SV and copies an unsigned integer into it.
9670 The reference count for the SV is set to 1.
9671
9672 =cut
9673 */
9674
9675 SV *
9676 Perl_newSVuv(pTHX_ const UV u)
9677 {
9678     SV *sv;
9679
9680     /* Inlining ONLY the small relevant subset of sv_setuv here
9681      * for performance. Makes a significant difference. */
9682
9683     /* Using ivs is more efficient than using uvs - see sv_setuv */
9684     if (u <= (UV)IV_MAX) {
9685         return newSViv((IV)u);
9686     }
9687
9688     new_SV(sv);
9689
9690     /* We're starting from SVt_FIRST, so provided that's
9691      * actual 0, we don't have to unset any SV type flags
9692      * to promote to SVt_IV. */
9693     STATIC_ASSERT_STMT(SVt_FIRST == 0);
9694
9695     SET_SVANY_FOR_BODYLESS_IV(sv);
9696     SvFLAGS(sv) |= SVt_IV;
9697     (void)SvIOK_on(sv);
9698     (void)SvIsUV_on(sv);
9699
9700     SvUV_set(sv, u);
9701     SvTAINT(sv);
9702
9703     return sv;
9704 }
9705
9706 /*
9707 =for apidoc newSV_type
9708
9709 Creates a new SV, of the type specified.  The reference count for the new SV
9710 is set to 1.
9711
9712 =cut
9713 */
9714
9715 SV *
9716 Perl_newSV_type(pTHX_ const svtype type)
9717 {
9718     SV *sv;
9719
9720     new_SV(sv);
9721     ASSUME(SvTYPE(sv) == SVt_FIRST);
9722     if(type != SVt_FIRST)
9723         sv_upgrade(sv, type);
9724     return sv;
9725 }
9726
9727 /*
9728 =for apidoc newRV_noinc
9729
9730 Creates an RV wrapper for an SV.  The reference count for the original
9731 SV is B<not> incremented.
9732
9733 =cut
9734 */
9735
9736 SV *
9737 Perl_newRV_noinc(pTHX_ SV *const tmpRef)
9738 {
9739     SV *sv;
9740
9741     PERL_ARGS_ASSERT_NEWRV_NOINC;
9742
9743     new_SV(sv);
9744
9745     /* We're starting from SVt_FIRST, so provided that's
9746      * actual 0, we don't have to unset any SV type flags
9747      * to promote to SVt_IV. */
9748     STATIC_ASSERT_STMT(SVt_FIRST == 0);
9749
9750     SET_SVANY_FOR_BODYLESS_IV(sv);
9751     SvFLAGS(sv) |= SVt_IV;
9752     SvROK_on(sv);
9753     SvIV_set(sv, 0);
9754
9755     SvTEMP_off(tmpRef);
9756     SvRV_set(sv, tmpRef);
9757
9758     return sv;
9759 }
9760
9761 /* newRV_inc is the official function name to use now.
9762  * newRV_inc is in fact #defined to newRV in sv.h
9763  */
9764
9765 SV *
9766 Perl_newRV(pTHX_ SV *const sv)
9767 {
9768     PERL_ARGS_ASSERT_NEWRV;
9769
9770     return newRV_noinc(SvREFCNT_inc_simple_NN(sv));
9771 }
9772
9773 /*
9774 =for apidoc newSVsv
9775
9776 Creates a new SV which is an exact duplicate of the original SV.
9777 (Uses C<sv_setsv>.)
9778
9779 =for apidoc newSVsv_nomg
9780
9781 Like C<newSVsv> but does not process get magic.
9782
9783 =cut
9784 */
9785
9786 SV *
9787 Perl_newSVsv_flags(pTHX_ SV *const old, I32 flags)
9788 {
9789     SV *sv;
9790
9791     if (!old)
9792         return NULL;
9793     if (SvTYPE(old) == (svtype)SVTYPEMASK) {
9794         Perl_ck_warner_d(aTHX_ packWARN(WARN_INTERNAL), "semi-panic: attempt to dup freed string");
9795         return NULL;
9796     }
9797     /* Do this here, otherwise we leak the new SV if this croaks. */
9798     if (flags & SV_GMAGIC)
9799         SvGETMAGIC(old);
9800     new_SV(sv);
9801     sv_setsv_flags(sv, old, flags & ~SV_GMAGIC);
9802     return sv;
9803 }
9804
9805 /*
9806 =for apidoc sv_reset
9807
9808 Underlying implementation for the C<reset> Perl function.
9809 Note that the perl-level function is vaguely deprecated.
9810
9811 =cut
9812 */
9813
9814 void
9815 Perl_sv_reset(pTHX_ const char *s, HV *const stash)
9816 {
9817     PERL_ARGS_ASSERT_SV_RESET;
9818
9819     sv_resetpvn(*s ? s : NULL, strlen(s), stash);
9820 }
9821
9822 void
9823 Perl_sv_resetpvn(pTHX_ const char *s, STRLEN len, HV * const stash)
9824 {
9825     char todo[PERL_UCHAR_MAX+1];
9826     const char *send;
9827
9828     if (!stash || SvTYPE(stash) != SVt_PVHV)
9829         return;
9830
9831     if (!s) {           /* reset ?? searches */
9832         MAGIC * const mg = mg_find((const SV *)stash, PERL_MAGIC_symtab);
9833         if (mg) {
9834             const U32 count = mg->mg_len / sizeof(PMOP**);
9835             PMOP **pmp = (PMOP**) mg->mg_ptr;
9836             PMOP *const *const end = pmp + count;
9837
9838             while (pmp < end) {
9839 #ifdef USE_ITHREADS
9840                 SvREADONLY_off(PL_regex_pad[(*pmp)->op_pmoffset]);
9841 #else
9842                 (*pmp)->op_pmflags &= ~PMf_USED;
9843 #endif
9844                 ++pmp;
9845             }
9846         }
9847         return;
9848     }
9849
9850     /* reset variables */
9851
9852     if (!HvARRAY(stash))
9853         return;
9854
9855     Zero(todo, 256, char);
9856     send = s + len;
9857     while (s < send) {
9858         I32 max;
9859         I32 i = (unsigned char)*s;
9860         if (s[1] == '-') {
9861             s += 2;
9862         }
9863         max = (unsigned char)*s++;
9864         for ( ; i <= max; i++) {
9865             todo[i] = 1;
9866         }
9867         for (i = 0; i <= (I32) HvMAX(stash); i++) {
9868             HE *entry;
9869             for (entry = HvARRAY(stash)[i];
9870                  entry;
9871                  entry = HeNEXT(entry))
9872             {
9873                 GV *gv;
9874                 SV *sv;
9875
9876                 if (!todo[(U8)*HeKEY(entry)])
9877                     continue;
9878                 gv = MUTABLE_GV(HeVAL(entry));
9879                 if (!isGV(gv))
9880                     continue;
9881                 sv = GvSV(gv);
9882                 if (sv && !SvREADONLY(sv)) {
9883                     SV_CHECK_THINKFIRST_COW_DROP(sv);
9884                     if (!isGV(sv)) SvOK_off(sv);
9885                 }
9886                 if (GvAV(gv)) {
9887                     av_clear(GvAV(gv));
9888                 }
9889                 if (GvHV(gv) && !HvNAME_get(GvHV(gv))) {
9890                     hv_clear(GvHV(gv));
9891                 }
9892             }
9893         }
9894     }
9895 }
9896
9897 /*
9898 =for apidoc sv_2io
9899
9900 Using various gambits, try to get an IO from an SV: the IO slot if its a
9901 GV; or the recursive result if we're an RV; or the IO slot of the symbol
9902 named after the PV if we're a string.
9903
9904 'Get' magic is ignored on the C<sv> passed in, but will be called on
9905 C<SvRV(sv)> if C<sv> is an RV.
9906
9907 =cut
9908 */
9909
9910 IO*
9911 Perl_sv_2io(pTHX_ SV *const sv)
9912 {
9913     IO* io;
9914     GV* gv;
9915
9916     PERL_ARGS_ASSERT_SV_2IO;
9917
9918     switch (SvTYPE(sv)) {
9919     case SVt_PVIO:
9920         io = MUTABLE_IO(sv);
9921         break;
9922     case SVt_PVGV:
9923     case SVt_PVLV:
9924         if (isGV_with_GP(sv)) {
9925             gv = MUTABLE_GV(sv);
9926             io = GvIO(gv);
9927             if (!io)
9928                 Perl_croak(aTHX_ "Bad filehandle: %" HEKf,
9929                                     HEKfARG(GvNAME_HEK(gv)));
9930             break;
9931         }
9932         /* FALLTHROUGH */
9933     default:
9934         if (!SvOK(sv))
9935             Perl_croak(aTHX_ PL_no_usym, "filehandle");
9936         if (SvROK(sv)) {
9937             SvGETMAGIC(SvRV(sv));
9938             return sv_2io(SvRV(sv));
9939         }
9940         gv = gv_fetchsv_nomg(sv, 0, SVt_PVIO);
9941         if (gv)
9942             io = GvIO(gv);
9943         else
9944             io = 0;
9945         if (!io) {
9946             SV *newsv = sv;
9947             if (SvGMAGICAL(sv)) {
9948                 newsv = sv_newmortal();
9949                 sv_setsv_nomg(newsv, sv);
9950             }
9951             Perl_croak(aTHX_ "Bad filehandle: %" SVf, SVfARG(newsv));
9952         }
9953         break;
9954     }
9955     return io;
9956 }
9957
9958 /*
9959 =for apidoc sv_2cv
9960
9961 Using various gambits, try to get a CV from an SV; in addition, try if
9962 possible to set C<*st> and C<*gvp> to the stash and GV associated with it.
9963 The flags in C<lref> are passed to C<gv_fetchsv>.
9964
9965 =cut
9966 */
9967
9968 CV *
9969 Perl_sv_2cv(pTHX_ SV *sv, HV **const st, GV **const gvp, const I32 lref)
9970 {
9971     GV *gv = NULL;
9972     CV *cv = NULL;
9973
9974     PERL_ARGS_ASSERT_SV_2CV;
9975
9976     if (!sv) {
9977         *st = NULL;
9978         *gvp = NULL;
9979         return NULL;
9980     }
9981     switch (SvTYPE(sv)) {
9982     case SVt_PVCV:
9983         *st = CvSTASH(sv);
9984         *gvp = NULL;
9985         return MUTABLE_CV(sv);
9986     case SVt_PVHV:
9987     case SVt_PVAV:
9988         *st = NULL;
9989         *gvp = NULL;
9990         return NULL;
9991     default:
9992         SvGETMAGIC(sv);
9993         if (SvROK(sv)) {
9994             if (SvAMAGIC(sv))
9995                 sv = amagic_deref_call(sv, to_cv_amg);
9996
9997             sv = SvRV(sv);
9998             if (SvTYPE(sv) == SVt_PVCV) {
9999                 cv = MUTABLE_CV(sv);
10000                 *gvp = NULL;
10001                 *st = CvSTASH(cv);
10002                 return cv;
10003             }
10004             else if(SvGETMAGIC(sv), isGV_with_GP(sv))
10005                 gv = MUTABLE_GV(sv);
10006             else
10007                 Perl_croak(aTHX_ "Not a subroutine reference");
10008         }
10009         else if (isGV_with_GP(sv)) {
10010             gv = MUTABLE_GV(sv);
10011         }
10012         else {
10013             gv = gv_fetchsv_nomg(sv, lref, SVt_PVCV);
10014         }
10015         *gvp = gv;
10016         if (!gv) {
10017             *st = NULL;
10018             return NULL;
10019         }
10020         /* Some flags to gv_fetchsv mean don't really create the GV  */
10021         if (!isGV_with_GP(gv)) {
10022             *st = NULL;
10023             return NULL;
10024         }
10025         *st = GvESTASH(gv);
10026         if (lref & ~GV_ADDMG && !GvCVu(gv)) {
10027             /* XXX this is probably not what they think they're getting.
10028              * It has the same effect as "sub name;", i.e. just a forward
10029              * declaration! */
10030             newSTUB(gv,0);
10031         }
10032         return GvCVu(gv);
10033     }
10034 }
10035
10036 /*
10037 =for apidoc sv_true
10038
10039 Returns true if the SV has a true value by Perl's rules.
10040 Use the C<SvTRUE> macro instead, which may call C<sv_true()> or may
10041 instead use an in-line version.
10042
10043 =cut
10044 */
10045
10046 I32
10047 Perl_sv_true(pTHX_ SV *const sv)
10048 {
10049     if (!sv)
10050         return 0;
10051     if (SvPOK(sv)) {
10052         const XPV* const tXpv = (XPV*)SvANY(sv);
10053         if (tXpv &&
10054                 (tXpv->xpv_cur > 1 ||
10055                 (tXpv->xpv_cur && *sv->sv_u.svu_pv != '0')))
10056             return 1;
10057         else
10058             return 0;
10059     }
10060     else {
10061         if (SvIOK(sv))
10062             return SvIVX(sv) != 0;
10063         else {
10064             if (SvNOK(sv))
10065                 return SvNVX(sv) != 0.0;
10066             else
10067                 return sv_2bool(sv);
10068         }
10069     }
10070 }
10071
10072 /*
10073 =for apidoc sv_pvn_force
10074
10075 Get a sensible string out of the SV somehow.
10076 A private implementation of the C<SvPV_force> macro for compilers which
10077 can't cope with complex macro expressions.  Always use the macro instead.
10078
10079 =for apidoc sv_pvn_force_flags
10080
10081 Get a sensible string out of the SV somehow.
10082 If C<flags> has the C<SV_GMAGIC> bit set, will C<mg_get> on C<sv> if
10083 appropriate, else not.  C<sv_pvn_force> and C<sv_pvn_force_nomg> are
10084 implemented in terms of this function.
10085 You normally want to use the various wrapper macros instead: see
10086 C<L</SvPV_force>> and C<L</SvPV_force_nomg>>.
10087
10088 =cut
10089 */
10090
10091 char *
10092 Perl_sv_pvn_force_flags(pTHX_ SV *const sv, STRLEN *const lp, const I32 flags)
10093 {
10094     PERL_ARGS_ASSERT_SV_PVN_FORCE_FLAGS;
10095
10096     if (flags & SV_GMAGIC) SvGETMAGIC(sv);
10097     if (SvTHINKFIRST(sv) && (!SvROK(sv) || SvREADONLY(sv)))
10098         sv_force_normal_flags(sv, 0);
10099
10100     if (SvPOK(sv)) {
10101         if (lp)
10102             *lp = SvCUR(sv);
10103     }
10104     else {
10105         char *s;
10106         STRLEN len;
10107  
10108         if (SvTYPE(sv) > SVt_PVLV
10109             || isGV_with_GP(sv))
10110             /* diag_listed_as: Can't coerce %s to %s in %s */
10111             Perl_croak(aTHX_ "Can't coerce %s to string in %s", sv_reftype(sv,0),
10112                 OP_DESC(PL_op));
10113         s = sv_2pv_flags(sv, &len, flags &~ SV_GMAGIC);
10114         if (!s) {
10115           s = (char *)"";
10116         }
10117         if (lp)
10118             *lp = len;
10119
10120         if (SvTYPE(sv) < SVt_PV ||
10121             s != SvPVX_const(sv)) {     /* Almost, but not quite, sv_setpvn() */
10122             if (SvROK(sv))
10123                 sv_unref(sv);
10124             SvUPGRADE(sv, SVt_PV);              /* Never FALSE */
10125             SvGROW(sv, len + 1);
10126             Move(s,SvPVX(sv),len,char);
10127             SvCUR_set(sv, len);
10128             SvPVX(sv)[len] = '\0';
10129         }
10130         if (!SvPOK(sv)) {
10131             SvPOK_on(sv);               /* validate pointer */
10132             SvTAINT(sv);
10133             DEBUG_c(PerlIO_printf(Perl_debug_log, "0x%" UVxf " 2pv(%s)\n",
10134                                   PTR2UV(sv),SvPVX_const(sv)));
10135         }
10136     }
10137     (void)SvPOK_only_UTF8(sv);
10138     return SvPVX_mutable(sv);
10139 }
10140
10141 /*
10142 =for apidoc sv_pvbyten_force
10143
10144 The backend for the C<SvPVbytex_force> macro.  Always use the macro
10145 instead.
10146
10147 =cut
10148 */
10149
10150 char *
10151 Perl_sv_pvbyten_force(pTHX_ SV *const sv, STRLEN *const lp)
10152 {
10153     PERL_ARGS_ASSERT_SV_PVBYTEN_FORCE;
10154
10155     sv_pvn_force(sv,lp);
10156     sv_utf8_downgrade(sv,0);
10157     *lp = SvCUR(sv);
10158     return SvPVX(sv);
10159 }
10160
10161 /*
10162 =for apidoc sv_pvutf8n_force
10163
10164 The backend for the C<SvPVutf8x_force> macro.  Always use the macro
10165 instead.
10166
10167 =cut
10168 */
10169
10170 char *
10171 Perl_sv_pvutf8n_force(pTHX_ SV *const sv, STRLEN *const lp)
10172 {
10173     PERL_ARGS_ASSERT_SV_PVUTF8N_FORCE;
10174
10175     sv_pvn_force(sv,0);
10176     sv_utf8_upgrade_nomg(sv);
10177     *lp = SvCUR(sv);
10178     return SvPVX(sv);
10179 }
10180
10181 /*
10182 =for apidoc sv_reftype
10183
10184 Returns a string describing what the SV is a reference to.
10185
10186 If ob is true and the SV is blessed, the string is the class name,
10187 otherwise it is the type of the SV, "SCALAR", "ARRAY" etc.
10188
10189 =cut
10190 */
10191
10192 const char *
10193 Perl_sv_reftype(pTHX_ const SV *const sv, const int ob)
10194 {
10195     PERL_ARGS_ASSERT_SV_REFTYPE;
10196     if (ob && SvOBJECT(sv)) {
10197         return SvPV_nolen_const(sv_ref(NULL, sv, ob));
10198     }
10199     else {
10200         /* WARNING - There is code, for instance in mg.c, that assumes that
10201          * the only reason that sv_reftype(sv,0) would return a string starting
10202          * with 'L' or 'S' is that it is a LVALUE or a SCALAR.
10203          * Yes this a dodgy way to do type checking, but it saves practically reimplementing
10204          * this routine inside other subs, and it saves time.
10205          * Do not change this assumption without searching for "dodgy type check" in
10206          * the code.
10207          * - Yves */
10208         switch (SvTYPE(sv)) {
10209         case SVt_NULL:
10210         case SVt_IV:
10211         case SVt_NV:
10212         case SVt_PV:
10213         case SVt_PVIV:
10214         case SVt_PVNV:
10215         case SVt_PVMG:
10216                                 if (SvVOK(sv))
10217                                     return "VSTRING";
10218                                 if (SvROK(sv))
10219                                     return "REF";
10220                                 else
10221                                     return "SCALAR";
10222
10223         case SVt_PVLV:          return (char *)  (SvROK(sv) ? "REF"
10224                                 /* tied lvalues should appear to be
10225                                  * scalars for backwards compatibility */
10226                                 : (isALPHA_FOLD_EQ(LvTYPE(sv), 't'))
10227                                     ? "SCALAR" : "LVALUE");
10228         case SVt_PVAV:          return "ARRAY";
10229         case SVt_PVHV:          return "HASH";
10230         case SVt_PVCV:          return "CODE";
10231         case SVt_PVGV:          return (char *) (isGV_with_GP(sv)
10232                                     ? "GLOB" : "SCALAR");
10233         case SVt_PVFM:          return "FORMAT";
10234         case SVt_PVIO:          return "IO";
10235         case SVt_INVLIST:       return "INVLIST";
10236         case SVt_REGEXP:        return "REGEXP";
10237         default:                return "UNKNOWN";
10238         }
10239     }
10240 }
10241
10242 /*
10243 =for apidoc sv_ref
10244
10245 Returns a SV describing what the SV passed in is a reference to.
10246
10247 dst can be a SV to be set to the description or NULL, in which case a
10248 mortal SV is returned.
10249
10250 If ob is true and the SV is blessed, the description is the class
10251 name, otherwise it is the type of the SV, "SCALAR", "ARRAY" etc.
10252
10253 =cut
10254 */
10255
10256 SV *
10257 Perl_sv_ref(pTHX_ SV *dst, const SV *const sv, const int ob)
10258 {
10259     PERL_ARGS_ASSERT_SV_REF;
10260
10261     if (!dst)
10262         dst = sv_newmortal();
10263
10264     if (ob && SvOBJECT(sv)) {
10265         HvNAME_get(SvSTASH(sv))
10266                     ? sv_sethek(dst, HvNAME_HEK(SvSTASH(sv)))
10267                     : sv_setpvs(dst, "__ANON__");
10268     }
10269     else {
10270         const char * reftype = sv_reftype(sv, 0);
10271         sv_setpv(dst, reftype);
10272     }
10273     return dst;
10274 }
10275
10276 /*
10277 =for apidoc sv_isobject
10278
10279 Returns a boolean indicating whether the SV is an RV pointing to a blessed
10280 object.  If the SV is not an RV, or if the object is not blessed, then this
10281 will return false.
10282
10283 =cut
10284 */
10285
10286 int
10287 Perl_sv_isobject(pTHX_ SV *sv)
10288 {
10289     if (!sv)
10290         return 0;
10291     SvGETMAGIC(sv);
10292     if (!SvROK(sv))
10293         return 0;
10294     sv = SvRV(sv);
10295     if (!SvOBJECT(sv))
10296         return 0;
10297     return 1;
10298 }
10299
10300 /*
10301 =for apidoc sv_isa
10302
10303 Returns a boolean indicating whether the SV is blessed into the specified
10304 class.  This does not check for subtypes; use C<sv_derived_from> to verify
10305 an inheritance relationship.
10306
10307 =cut
10308 */
10309
10310 int
10311 Perl_sv_isa(pTHX_ SV *sv, const char *const name)
10312 {
10313     const char *hvname;
10314
10315     PERL_ARGS_ASSERT_SV_ISA;
10316
10317     if (!sv)
10318         return 0;
10319     SvGETMAGIC(sv);
10320     if (!SvROK(sv))
10321         return 0;
10322     sv = SvRV(sv);
10323     if (!SvOBJECT(sv))
10324         return 0;
10325     hvname = HvNAME_get(SvSTASH(sv));
10326     if (!hvname)
10327         return 0;
10328
10329     return strEQ(hvname, name);
10330 }
10331
10332 /*
10333 =for apidoc newSVrv
10334
10335 Creates a new SV for the existing RV, C<rv>, to point to.  If C<rv> is not an
10336 RV then it will be upgraded to one.  If C<classname> is non-null then the new
10337 SV will be blessed in the specified package.  The new SV is returned and its
10338 reference count is 1.  The reference count 1 is owned by C<rv>. See also
10339 newRV_inc() and newRV_noinc() for creating a new RV properly.
10340
10341 =cut
10342 */
10343
10344 SV*
10345 Perl_newSVrv(pTHX_ SV *const rv, const char *const classname)
10346 {
10347     SV *sv;
10348
10349     PERL_ARGS_ASSERT_NEWSVRV;
10350
10351     new_SV(sv);
10352
10353     SV_CHECK_THINKFIRST_COW_DROP(rv);
10354
10355     if (UNLIKELY( SvTYPE(rv) >= SVt_PVMG )) {
10356         const U32 refcnt = SvREFCNT(rv);
10357         SvREFCNT(rv) = 0;
10358         sv_clear(rv);
10359         SvFLAGS(rv) = 0;
10360         SvREFCNT(rv) = refcnt;
10361
10362         sv_upgrade(rv, SVt_IV);
10363     } else if (SvROK(rv)) {
10364         SvREFCNT_dec(SvRV(rv));
10365     } else {
10366         prepare_SV_for_RV(rv);
10367     }
10368
10369     SvOK_off(rv);
10370     SvRV_set(rv, sv);
10371     SvROK_on(rv);
10372
10373     if (classname) {
10374         HV* const stash = gv_stashpv(classname, GV_ADD);
10375         (void)sv_bless(rv, stash);
10376     }
10377     return sv;
10378 }
10379
10380 SV *
10381 Perl_newSVavdefelem(pTHX_ AV *av, SSize_t ix, bool extendible)
10382 {
10383     SV * const lv = newSV_type(SVt_PVLV);
10384     PERL_ARGS_ASSERT_NEWSVAVDEFELEM;
10385     LvTYPE(lv) = 'y';
10386     sv_magic(lv, NULL, PERL_MAGIC_defelem, NULL, 0);
10387     LvTARG(lv) = SvREFCNT_inc_simple_NN(av);
10388     LvSTARGOFF(lv) = ix;
10389     LvTARGLEN(lv) = extendible ? 1 : (STRLEN)UV_MAX;
10390     return lv;
10391 }
10392
10393 /*
10394 =for apidoc sv_setref_pv
10395
10396 Copies a pointer into a new SV, optionally blessing the SV.  The C<rv>
10397 argument will be upgraded to an RV.  That RV will be modified to point to
10398 the new SV.  If the C<pv> argument is C<NULL>, then C<PL_sv_undef> will be placed
10399 into the SV.  The C<classname> argument indicates the package for the
10400 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10401 will have a reference count of 1, and the RV will be returned.
10402
10403 Do not use with other Perl types such as HV, AV, SV, CV, because those
10404 objects will become corrupted by the pointer copy process.
10405
10406 Note that C<sv_setref_pvn> copies the string while this copies the pointer.
10407
10408 =cut
10409 */
10410
10411 SV*
10412 Perl_sv_setref_pv(pTHX_ SV *const rv, const char *const classname, void *const pv)
10413 {
10414     PERL_ARGS_ASSERT_SV_SETREF_PV;
10415
10416     if (!pv) {
10417         sv_set_undef(rv);
10418         SvSETMAGIC(rv);
10419     }
10420     else
10421         sv_setiv(newSVrv(rv,classname), PTR2IV(pv));
10422     return rv;
10423 }
10424
10425 /*
10426 =for apidoc sv_setref_iv
10427
10428 Copies an integer into a new SV, optionally blessing the SV.  The C<rv>
10429 argument will be upgraded to an RV.  That RV will be modified to point to
10430 the new SV.  The C<classname> argument indicates the package for the
10431 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10432 will have a reference count of 1, and the RV will be returned.
10433
10434 =cut
10435 */
10436
10437 SV*
10438 Perl_sv_setref_iv(pTHX_ SV *const rv, const char *const classname, const IV iv)
10439 {
10440     PERL_ARGS_ASSERT_SV_SETREF_IV;
10441
10442     sv_setiv(newSVrv(rv,classname), iv);
10443     return rv;
10444 }
10445
10446 /*
10447 =for apidoc sv_setref_uv
10448
10449 Copies an unsigned integer into a new SV, optionally blessing the SV.  The C<rv>
10450 argument will be upgraded to an RV.  That RV will be modified to point to
10451 the new SV.  The C<classname> argument indicates the package for the
10452 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10453 will have a reference count of 1, and the RV will be returned.
10454
10455 =cut
10456 */
10457
10458 SV*
10459 Perl_sv_setref_uv(pTHX_ SV *const rv, const char *const classname, const UV uv)
10460 {
10461     PERL_ARGS_ASSERT_SV_SETREF_UV;
10462
10463     sv_setuv(newSVrv(rv,classname), uv);
10464     return rv;
10465 }
10466
10467 /*
10468 =for apidoc sv_setref_nv
10469
10470 Copies a double into a new SV, optionally blessing the SV.  The C<rv>
10471 argument will be upgraded to an RV.  That RV will be modified to point to
10472 the new SV.  The C<classname> argument indicates the package for the
10473 blessing.  Set C<classname> to C<NULL> to avoid the blessing.  The new SV
10474 will have a reference count of 1, and the RV will be returned.
10475
10476 =cut
10477 */
10478
10479 SV*
10480 Perl_sv_setref_nv(pTHX_ SV *const rv, const char *const classname, const NV nv)
10481 {
10482     PERL_ARGS_ASSERT_SV_SETREF_NV;
10483
10484     sv_setnv(newSVrv(rv,classname), nv);
10485     return rv;
10486 }
10487
10488 /*
10489 =for apidoc sv_setref_pvn
10490
10491 Copies a string into a new SV, optionally blessing the SV.  The length of the
10492 string must be specified with C<n>.  The C<rv> argument will be upgraded to
10493 an RV.  That RV will be modified to point to the new SV.  The C<classname>
10494 argument indicates the package for the blessing.  Set C<classname> to
10495 C<NULL> to avoid the blessing.  The new SV will have a reference count
10496 of 1, and the RV will be returned.
10497
10498 Note that C<sv_setref_pv> copies the pointer while this copies the string.
10499
10500 =cut
10501 */
10502
10503 SV*
10504 Perl_sv_setref_pvn(pTHX_ SV *const rv, const char *const classname,
10505                    const char *const pv, const STRLEN n)
10506 {
10507     PERL_ARGS_ASSERT_SV_SETREF_PVN;
10508
10509     sv_setpvn(newSVrv(rv,classname), pv, n);
10510     return rv;
10511 }
10512
10513 /*
10514 =for apidoc sv_bless
10515
10516 Blesses an SV into a specified package.  The SV must be an RV.  The package
10517 must be designated by its stash (see C<L</gv_stashpv>>).  The reference count
10518 of the SV is unaffected.
10519
10520 =cut
10521 */
10522
10523 SV*
10524 Perl_sv_bless(pTHX_ SV *const sv, HV *const stash)
10525 {
10526     SV *tmpRef;
10527     HV *oldstash = NULL;
10528
10529     PERL_ARGS_ASSERT_SV_BLESS;
10530
10531     SvGETMAGIC(sv);
10532     if (!SvROK(sv))
10533         Perl_croak(aTHX_ "Can't bless non-reference value");
10534     tmpRef = SvRV(sv);
10535     if (SvFLAGS(tmpRef) & (SVs_OBJECT|SVf_READONLY|SVf_PROTECT)) {
10536         if (SvREADONLY(tmpRef))
10537             Perl_croak_no_modify();
10538         if (SvOBJECT(tmpRef)) {
10539             oldstash = SvSTASH(tmpRef);
10540         }
10541     }
10542     SvOBJECT_on(tmpRef);
10543     SvUPGRADE(tmpRef, SVt_PVMG);
10544     SvSTASH_set(tmpRef, MUTABLE_HV(SvREFCNT_inc_simple(stash)));
10545     SvREFCNT_dec(oldstash);
10546
10547     if(SvSMAGICAL(tmpRef))
10548         if(mg_find(tmpRef, PERL_MAGIC_ext) || mg_find(tmpRef, PERL_MAGIC_uvar))
10549             mg_set(tmpRef);
10550
10551
10552
10553     return sv;
10554 }
10555
10556 /* Downgrades a PVGV to a PVMG. If it's actually a PVLV, we leave the type
10557  * as it is after unglobbing it.
10558  */
10559
10560 PERL_STATIC_INLINE void
10561 S_sv_unglob(pTHX_ SV *const sv, U32 flags)
10562 {
10563     void *xpvmg;
10564     HV *stash;
10565     SV * const temp = flags & SV_COW_DROP_PV ? NULL : sv_newmortal();
10566
10567     PERL_ARGS_ASSERT_SV_UNGLOB;
10568
10569     assert(SvTYPE(sv) == SVt_PVGV || SvTYPE(sv) == SVt_PVLV);
10570     SvFAKE_off(sv);
10571     if (!(flags & SV_COW_DROP_PV))
10572         gv_efullname3(temp, MUTABLE_GV(sv), "*");
10573
10574     SvREFCNT_inc_simple_void_NN(sv_2mortal(sv));
10575     if (GvGP(sv)) {
10576         if(GvCVu((const GV *)sv) && (stash = GvSTASH(MUTABLE_GV(sv)))
10577            && HvNAME_get(stash))
10578             mro_method_changed_in(stash);
10579         gp_free(MUTABLE_GV(sv));
10580     }
10581     if (GvSTASH(sv)) {
10582         sv_del_backref(MUTABLE_SV(GvSTASH(sv)), sv);
10583         GvSTASH(sv) = NULL;
10584     }
10585     GvMULTI_off(sv);
10586     if (GvNAME_HEK(sv)) {
10587         unshare_hek(GvNAME_HEK(sv));
10588     }
10589     isGV_with_GP_off(sv);
10590
10591     if(SvTYPE(sv) == SVt_PVGV) {
10592         /* need to keep SvANY(sv) in the right arena */
10593         xpvmg = new_XPVMG();
10594         StructCopy(SvANY(sv), xpvmg, XPVMG);
10595         del_XPVGV(SvANY(sv));
10596         SvANY(sv) = xpvmg;
10597
10598         SvFLAGS(sv) &= ~SVTYPEMASK;
10599         SvFLAGS(sv) |= SVt_PVMG;
10600     }
10601
10602     /* Intentionally not calling any local SET magic, as this isn't so much a
10603        set operation as merely an internal storage change.  */
10604     if (flags & SV_COW_DROP_PV) SvOK_off(sv);
10605     else sv_setsv_flags(sv, temp, 0);
10606
10607     if ((const GV *)sv == PL_last_in_gv)
10608         PL_last_in_gv = NULL;
10609     else if ((const GV *)sv == PL_statgv)
10610         PL_statgv = NULL;
10611 }
10612
10613 /*
10614 =for apidoc sv_unref_flags
10615
10616 Unsets the RV status of the SV, and decrements the reference count of
10617 whatever was being referenced by the RV.  This can almost be thought of
10618 as a reversal of C<newSVrv>.  The C<cflags> argument can contain
10619 C<SV_IMMEDIATE_UNREF> to force the reference count to be decremented
10620 (otherwise the decrementing is conditional on the reference count being
10621 different from one or the reference being a readonly SV).
10622 See C<L</SvROK_off>>.
10623
10624 =for apidoc Amnh||SV_IMMEDIATE_UNREF
10625
10626 =cut
10627 */
10628
10629 void
10630 Perl_sv_unref_flags(pTHX_ SV *const ref, const U32 flags)
10631 {
10632     SV* const target = SvRV(ref);
10633
10634     PERL_ARGS_ASSERT_SV_UNREF_FLAGS;
10635
10636     if (SvWEAKREF(ref)) {
10637         sv_del_backref(target, ref);
10638         SvWEAKREF_off(ref);
10639         SvRV_set(ref, NULL);
10640         return;
10641     }
10642     SvRV_set(ref, NULL);
10643     SvROK_off(ref);
10644     /* You can't have a || SvREADONLY(target) here, as $a = $$a, where $a was
10645        assigned to as BEGIN {$a = \"Foo"} will fail.  */
10646     if (SvREFCNT(target) != 1 || (flags & SV_IMMEDIATE_UNREF))
10647         SvREFCNT_dec_NN(target);
10648     else /* XXX Hack, but hard to make $a=$a->[1] work otherwise */
10649         sv_2mortal(target);     /* Schedule for freeing later */
10650 }
10651
10652 /*
10653 =for apidoc sv_untaint
10654
10655 Untaint an SV.  Use C<SvTAINTED_off> instead.
10656
10657 =cut
10658 */
10659
10660 void
10661 Perl_sv_untaint(pTHX_ SV *const sv)
10662 {
10663     PERL_ARGS_ASSERT_SV_UNTAINT;
10664     PERL_UNUSED_CONTEXT;
10665
10666     if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
10667         MAGIC * const mg = mg_find(sv, PERL_MAGIC_taint);
10668         if (mg)
10669             mg->mg_len &= ~1;
10670     }
10671 }
10672
10673 /*
10674 =for apidoc sv_tainted
10675
10676 Test an SV for taintedness.  Use C<SvTAINTED> instead.
10677
10678 =cut
10679 */
10680
10681 bool
10682 Perl_sv_tainted(pTHX_ SV *const sv)
10683 {
10684     PERL_ARGS_ASSERT_SV_TAINTED;
10685     PERL_UNUSED_CONTEXT;
10686
10687     if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
10688         const MAGIC * const mg = mg_find(sv, PERL_MAGIC_taint);
10689         if (mg && (mg->mg_len & 1) )
10690             return TRUE;
10691     }
10692     return FALSE;
10693 }
10694
10695 #ifndef NO_MATHOMS  /* Can't move these to mathoms.c because call uiv_2buf(),
10696                        private to this file */
10697
10698 /*
10699 =for apidoc sv_setpviv
10700
10701 Copies an integer into the given SV, also updating its string value.
10702 Does not handle 'set' magic.  See C<L</sv_setpviv_mg>>.
10703
10704 =cut
10705 */
10706
10707 void
10708 Perl_sv_setpviv(pTHX_ SV *const sv, const IV iv)
10709 {
10710     /* The purpose of this union is to ensure that arr is aligned on
10711        a 2 byte boundary, because that is what uiv_2buf() requires */
10712     union {
10713         char arr[TYPE_CHARS(UV)];
10714         U16 dummy;
10715     } buf;
10716     char *ebuf;
10717     char * const ptr = uiv_2buf(buf.arr, iv, 0, 0, &ebuf);
10718
10719     PERL_ARGS_ASSERT_SV_SETPVIV;
10720
10721     sv_setpvn(sv, ptr, ebuf - ptr);
10722 }
10723
10724 /*
10725 =for apidoc sv_setpviv_mg
10726
10727 Like C<sv_setpviv>, but also handles 'set' magic.
10728
10729 =cut
10730 */
10731
10732 void
10733 Perl_sv_setpviv_mg(pTHX_ SV *const sv, const IV iv)
10734 {
10735     PERL_ARGS_ASSERT_SV_SETPVIV_MG;
10736
10737     GCC_DIAG_IGNORE_STMT(-Wdeprecated-declarations);
10738
10739     sv_setpviv(sv, iv);
10740
10741     GCC_DIAG_RESTORE_STMT;
10742
10743     SvSETMAGIC(sv);
10744 }
10745
10746 #endif  /* NO_MATHOMS */
10747
10748 #if defined(PERL_IMPLICIT_CONTEXT)
10749
10750 /* pTHX_ magic can't cope with varargs, so this is a no-context
10751  * version of the main function, (which may itself be aliased to us).
10752  * Don't access this version directly.
10753  */
10754
10755 void
10756 Perl_sv_setpvf_nocontext(SV *const sv, const char *const pat, ...)
10757 {
10758     dTHX;
10759     va_list args;
10760
10761     PERL_ARGS_ASSERT_SV_SETPVF_NOCONTEXT;
10762
10763     va_start(args, pat);
10764     sv_vsetpvf(sv, pat, &args);
10765     va_end(args);
10766 }
10767
10768 /* pTHX_ magic can't cope with varargs, so this is a no-context
10769  * version of the main function, (which may itself be aliased to us).
10770  * Don't access this version directly.
10771  */
10772
10773 void
10774 Perl_sv_setpvf_mg_nocontext(SV *const sv, const char *const pat, ...)
10775 {
10776     dTHX;
10777     va_list args;
10778
10779     PERL_ARGS_ASSERT_SV_SETPVF_MG_NOCONTEXT;
10780
10781     va_start(args, pat);
10782     sv_vsetpvf_mg(sv, pat, &args);
10783     va_end(args);
10784 }
10785 #endif
10786
10787 /*
10788 =for apidoc sv_setpvf
10789
10790 Works like C<sv_catpvf> but copies the text into the SV instead of
10791 appending it.  Does not handle 'set' magic.  See C<L</sv_setpvf_mg>>.
10792
10793 =cut
10794 */
10795
10796 void
10797 Perl_sv_setpvf(pTHX_ SV *const sv, const char *const pat, ...)
10798 {
10799     va_list args;
10800
10801     PERL_ARGS_ASSERT_SV_SETPVF;
10802
10803     va_start(args, pat);
10804     sv_vsetpvf(sv, pat, &args);
10805     va_end(args);
10806 }
10807
10808 /*
10809 =for apidoc sv_vsetpvf
10810
10811 Works like C<sv_vcatpvf> but copies the text into the SV instead of
10812 appending it.  Does not handle 'set' magic.  See C<L</sv_vsetpvf_mg>>.
10813
10814 Usually used via its frontend C<sv_setpvf>.
10815
10816 =cut
10817 */
10818
10819 void
10820 Perl_sv_vsetpvf(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10821 {
10822     PERL_ARGS_ASSERT_SV_VSETPVF;
10823
10824     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
10825 }
10826
10827 /*
10828 =for apidoc sv_setpvf_mg
10829
10830 Like C<sv_setpvf>, but also handles 'set' magic.
10831
10832 =cut
10833 */
10834
10835 void
10836 Perl_sv_setpvf_mg(pTHX_ SV *const sv, const char *const pat, ...)
10837 {
10838     va_list args;
10839
10840     PERL_ARGS_ASSERT_SV_SETPVF_MG;
10841
10842     va_start(args, pat);
10843     sv_vsetpvf_mg(sv, pat, &args);
10844     va_end(args);
10845 }
10846
10847 /*
10848 =for apidoc sv_vsetpvf_mg
10849
10850 Like C<sv_vsetpvf>, but also handles 'set' magic.
10851
10852 Usually used via its frontend C<sv_setpvf_mg>.
10853
10854 =cut
10855 */
10856
10857 void
10858 Perl_sv_vsetpvf_mg(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10859 {
10860     PERL_ARGS_ASSERT_SV_VSETPVF_MG;
10861
10862     sv_vsetpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
10863     SvSETMAGIC(sv);
10864 }
10865
10866 #if defined(PERL_IMPLICIT_CONTEXT)
10867
10868 /* pTHX_ magic can't cope with varargs, so this is a no-context
10869  * version of the main function, (which may itself be aliased to us).
10870  * Don't access this version directly.
10871  */
10872
10873 void
10874 Perl_sv_catpvf_nocontext(SV *const sv, const char *const pat, ...)
10875 {
10876     dTHX;
10877     va_list args;
10878
10879     PERL_ARGS_ASSERT_SV_CATPVF_NOCONTEXT;
10880
10881     va_start(args, pat);
10882     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10883     va_end(args);
10884 }
10885
10886 /* pTHX_ magic can't cope with varargs, so this is a no-context
10887  * version of the main function, (which may itself be aliased to us).
10888  * Don't access this version directly.
10889  */
10890
10891 void
10892 Perl_sv_catpvf_mg_nocontext(SV *const sv, const char *const pat, ...)
10893 {
10894     dTHX;
10895     va_list args;
10896
10897     PERL_ARGS_ASSERT_SV_CATPVF_MG_NOCONTEXT;
10898
10899     va_start(args, pat);
10900     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10901     SvSETMAGIC(sv);
10902     va_end(args);
10903 }
10904 #endif
10905
10906 /*
10907 =for apidoc sv_catpvf
10908
10909 Processes its arguments like C<sprintf>, and appends the formatted
10910 output to an SV.  As with C<sv_vcatpvfn> called with a non-null C-style
10911 variable argument list, argument reordering is not supported.
10912 If the appended data contains "wide" characters
10913 (including, but not limited to, SVs with a UTF-8 PV formatted with C<%s>,
10914 and characters >255 formatted with C<%c>), the original SV might get
10915 upgraded to UTF-8.  Handles 'get' magic, but not 'set' magic.  See
10916 C<L</sv_catpvf_mg>>.  If the original SV was UTF-8, the pattern should be
10917 valid UTF-8; if the original SV was bytes, the pattern should be too.
10918
10919 =cut */
10920
10921 void
10922 Perl_sv_catpvf(pTHX_ SV *const sv, const char *const pat, ...)
10923 {
10924     va_list args;
10925
10926     PERL_ARGS_ASSERT_SV_CATPVF;
10927
10928     va_start(args, pat);
10929     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10930     va_end(args);
10931 }
10932
10933 /*
10934 =for apidoc sv_vcatpvf
10935
10936 Processes its arguments like C<sv_vcatpvfn> called with a non-null C-style
10937 variable argument list, and appends the formatted output
10938 to an SV.  Does not handle 'set' magic.  See C<L</sv_vcatpvf_mg>>.
10939
10940 Usually used via its frontend C<sv_catpvf>.
10941
10942 =cut
10943 */
10944
10945 void
10946 Perl_sv_vcatpvf(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10947 {
10948     PERL_ARGS_ASSERT_SV_VCATPVF;
10949
10950     sv_vcatpvfn_flags(sv, pat, strlen(pat), args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10951 }
10952
10953 /*
10954 =for apidoc sv_catpvf_mg
10955
10956 Like C<sv_catpvf>, but also handles 'set' magic.
10957
10958 =cut
10959 */
10960
10961 void
10962 Perl_sv_catpvf_mg(pTHX_ SV *const sv, const char *const pat, ...)
10963 {
10964     va_list args;
10965
10966     PERL_ARGS_ASSERT_SV_CATPVF_MG;
10967
10968     va_start(args, pat);
10969     sv_vcatpvfn_flags(sv, pat, strlen(pat), &args, NULL, 0, NULL, SV_GMAGIC|SV_SMAGIC);
10970     SvSETMAGIC(sv);
10971     va_end(args);
10972 }
10973
10974 /*
10975 =for apidoc sv_vcatpvf_mg
10976
10977 Like C<sv_vcatpvf>, but also handles 'set' magic.
10978
10979 Usually used via its frontend C<sv_catpvf_mg>.
10980
10981 =cut
10982 */
10983
10984 void
10985 Perl_sv_vcatpvf_mg(pTHX_ SV *const sv, const char *const pat, va_list *const args)
10986 {
10987     PERL_ARGS_ASSERT_SV_VCATPVF_MG;
10988
10989     sv_vcatpvfn(sv, pat, strlen(pat), args, NULL, 0, NULL);
10990     SvSETMAGIC(sv);
10991 }
10992
10993 /*
10994 =for apidoc sv_vsetpvfn
10995
10996 Works like C<sv_vcatpvfn> but copies the text into the SV instead of
10997 appending it.
10998
10999 Usually used via one of its frontends C<sv_vsetpvf> and C<sv_vsetpvf_mg>.
11000
11001 =cut
11002 */
11003
11004 void
11005 Perl_sv_vsetpvfn(pTHX_ SV *const sv, const char *const pat, const STRLEN patlen,
11006                  va_list *const args, SV **const svargs, const Size_t sv_count, bool *const maybe_tainted)
11007 {
11008     PERL_ARGS_ASSERT_SV_VSETPVFN;
11009
11010     SvPVCLEAR(sv);
11011     sv_vcatpvfn_flags(sv, pat, patlen, args, svargs, sv_count, maybe_tainted, 0);
11012 }
11013
11014
11015 /* simplified inline Perl_sv_catpvn_nomg() when you know the SV's SvPOK */
11016
11017 PERL_STATIC_INLINE void
11018 S_sv_catpvn_simple(pTHX_ SV *const sv, const char* const buf, const STRLEN len)
11019 {
11020     STRLEN const need = len + SvCUR(sv) + 1;
11021     char *end;
11022
11023     /* can't wrap as both len and SvCUR() are allocated in
11024      * memory and together can't consume all the address space
11025      */
11026     assert(need > len);
11027
11028     assert(SvPOK(sv));
11029     SvGROW(sv, need);
11030     end = SvEND(sv);
11031     Copy(buf, end, len, char);
11032     end += len;
11033     *end = '\0';
11034     SvCUR_set(sv, need - 1);
11035 }
11036
11037
11038 /*
11039  * Warn of missing argument to sprintf. The value used in place of such
11040  * arguments should be &PL_sv_no; an undefined value would yield
11041  * inappropriate "use of uninit" warnings [perl #71000].
11042  */
11043 STATIC void
11044 S_warn_vcatpvfn_missing_argument(pTHX) {
11045     if (ckWARN(WARN_MISSING)) {
11046         Perl_warner(aTHX_ packWARN(WARN_MISSING), "Missing argument in %s",
11047                 PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
11048     }
11049 }
11050
11051
11052 static void
11053 S_croak_overflow()
11054 {
11055     dTHX;
11056     Perl_croak(aTHX_ "Integer overflow in format string for %s",
11057                     (PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn"));
11058 }
11059
11060
11061 /* Given an int i from the next arg (if args is true) or an sv from an arg
11062  * (if args is false), try to extract a STRLEN-ranged value from the arg,
11063  * with overflow checking.
11064  * Sets *neg to true if the value was negative (untouched otherwise.
11065  * Returns the absolute value.
11066  * As an extra margin of safety, it croaks if the returned value would
11067  * exceed the maximum value of a STRLEN / 4.
11068  */
11069
11070 static STRLEN
11071 S_sprintf_arg_num_val(pTHX_ va_list *const args, int i, SV *sv, bool *neg)
11072 {
11073     IV iv;
11074
11075     if (args) {
11076         iv = i;
11077         goto do_iv;
11078     }
11079
11080     if (!sv)
11081         return 0;
11082
11083     SvGETMAGIC(sv);
11084
11085     if (UNLIKELY(SvIsUV(sv))) {
11086         UV uv = SvUV_nomg(sv);
11087         if (uv > IV_MAX)
11088             S_croak_overflow();
11089         iv = uv;
11090     }
11091     else {
11092         iv = SvIV_nomg(sv);
11093       do_iv:
11094         if (iv < 0) {
11095             if (iv < -IV_MAX)
11096                 S_croak_overflow();
11097             iv = -iv;
11098             *neg = TRUE;
11099         }
11100     }
11101
11102     if (iv > (IV)(((STRLEN)~0) / 4))
11103         S_croak_overflow();
11104
11105     return (STRLEN)iv;
11106 }
11107
11108 /* Read in and return a number. Updates *pattern to point to the char
11109  * following the number. Expects the first char to 1..9.
11110  * Croaks if the number exceeds 1/4 of the maximum value of STRLEN.
11111  * This is a belt-and-braces safety measure to complement any
11112  * overflow/wrap checks done in the main body of sv_vcatpvfn_flags.
11113  * It means that e.g. on a 32-bit system the width/precision can't be more
11114  * than 1G, which seems reasonable.
11115  */
11116
11117 STATIC STRLEN
11118 S_expect_number(pTHX_ const char **const pattern)
11119 {
11120     STRLEN var;
11121
11122     PERL_ARGS_ASSERT_EXPECT_NUMBER;
11123
11124     assert(inRANGE(**pattern, '1', '9'));
11125
11126     var = *(*pattern)++ - '0';
11127     while (isDIGIT(**pattern)) {
11128         /* if var * 10 + 9 would exceed 1/4 max strlen, croak */
11129         if (var > ((((STRLEN)~0) / 4 - 9) / 10))
11130             S_croak_overflow();
11131         var = var * 10 + (*(*pattern)++ - '0');
11132     }
11133     return var;
11134 }
11135
11136 /* Implement a fast "%.0f": given a pointer to the end of a buffer (caller
11137  * ensures it's big enough), back fill it with the rounded integer part of
11138  * nv. Returns ptr to start of string, and sets *len to its length.
11139  * Returns NULL if not convertible.
11140  */
11141
11142 STATIC char *
11143 S_F0convert(NV nv, char *const endbuf, STRLEN *const len)
11144 {
11145     const int neg = nv < 0;
11146     UV uv;
11147
11148     PERL_ARGS_ASSERT_F0CONVERT;
11149
11150     assert(!Perl_isinfnan(nv));
11151     if (neg)
11152         nv = -nv;
11153     if (nv != 0.0 && nv < UV_MAX) {
11154         char *p = endbuf;
11155         uv = (UV)nv;
11156         if (uv != nv) {
11157             nv += 0.5;
11158             uv = (UV)nv;
11159             if (uv & 1 && uv == nv)
11160                 uv--;                   /* Round to even */
11161         }
11162         do {
11163             const unsigned dig = uv % 10;
11164             *--p = '0' + dig;
11165         } while (uv /= 10);
11166         if (neg)
11167             *--p = '-';
11168         *len = endbuf - p;
11169         return p;
11170     }
11171     return NULL;
11172 }
11173
11174
11175 /* XXX maybe_tainted is never assigned to, so the doc above is lying. */
11176
11177 void
11178 Perl_sv_vcatpvfn(pTHX_ SV *const sv, const char *const pat, const STRLEN patlen,
11179                  va_list *const args, SV **const svargs, const Size_t sv_count, bool *const maybe_tainted)
11180 {
11181     PERL_ARGS_ASSERT_SV_VCATPVFN;
11182
11183     sv_vcatpvfn_flags(sv, pat, patlen, args, svargs, sv_count, maybe_tainted, SV_GMAGIC|SV_SMAGIC);
11184 }
11185
11186
11187 /* For the vcatpvfn code, we need a long double target in case
11188  * HAS_LONG_DOUBLE, even without USE_LONG_DOUBLE, so that we can printf
11189  * with long double formats, even without NV being long double.  But we
11190  * call the target 'fv' instead of 'nv', since most of the time it is not
11191  * (most compilers these days recognize "long double", even if only as a
11192  * synonym for "double").
11193 */
11194 #if defined(HAS_LONG_DOUBLE) && LONG_DOUBLESIZE > DOUBLESIZE && \
11195         defined(PERL_PRIgldbl) && !defined(USE_QUADMATH)
11196 #  define VCATPVFN_FV_GF PERL_PRIgldbl
11197 #  if defined(__VMS) && defined(__ia64) && defined(__IEEE_FLOAT)
11198        /* Work around breakage in OTS$CVT_FLOAT_T_X */
11199 #    define VCATPVFN_NV_TO_FV(nv,fv)                    \
11200             STMT_START {                                \
11201                 double _dv = nv;                        \
11202                 fv = Perl_isnan(_dv) ? LDBL_QNAN : _dv; \
11203             } STMT_END
11204 #  else
11205 #    define VCATPVFN_NV_TO_FV(nv,fv) (fv)=(nv)
11206 #  endif
11207    typedef long double vcatpvfn_long_double_t;
11208 #else
11209 #  define VCATPVFN_FV_GF NVgf
11210 #  define VCATPVFN_NV_TO_FV(nv,fv) (fv)=(nv)
11211    typedef NV vcatpvfn_long_double_t;
11212 #endif
11213
11214 #ifdef LONGDOUBLE_DOUBLEDOUBLE
11215 /* The first double can be as large as 2**1023, or '1' x '0' x 1023.
11216  * The second double can be as small as 2**-1074, or '0' x 1073 . '1'.
11217  * The sum of them can be '1' . '0' x 2096 . '1', with implied radix point
11218  * after the first 1023 zero bits.
11219  *
11220  * XXX The 2098 is quite large (262.25 bytes) and therefore some sort
11221  * of dynamically growing buffer might be better, start at just 16 bytes
11222  * (for example) and grow only when necessary.  Or maybe just by looking
11223  * at the exponents of the two doubles? */
11224 #  define DOUBLEDOUBLE_MAXBITS 2098
11225 #endif
11226
11227 /* vhex will contain the values (0..15) of the hex digits ("nybbles"
11228  * of 4 bits); 1 for the implicit 1, and the mantissa bits, four bits
11229  * per xdigit.  For the double-double case, this can be rather many.
11230  * The non-double-double-long-double overshoots since all bits of NV
11231  * are not mantissa bits, there are also exponent bits. */
11232 #ifdef LONGDOUBLE_DOUBLEDOUBLE
11233 #  define VHEX_SIZE (3+DOUBLEDOUBLE_MAXBITS/4)
11234 #else
11235 #  define VHEX_SIZE (1+(NVSIZE * 8)/4)
11236 #endif
11237
11238 /* If we do not have a known long double format, (including not using
11239  * long doubles, or long doubles being equal to doubles) then we will
11240  * fall back to the ldexp/frexp route, with which we can retrieve at
11241  * most as many bits as our widest unsigned integer type is.  We try
11242  * to get a 64-bit unsigned integer even if we are not using a 64-bit UV.
11243  *
11244  * (If you want to test the case of UVSIZE == 4, NVSIZE == 8,
11245  *  set the MANTISSATYPE to int and the MANTISSASIZE to 4.)
11246  */
11247 #if defined(HAS_QUAD) && defined(Uquad_t)
11248 #  define MANTISSATYPE Uquad_t
11249 #  define MANTISSASIZE 8
11250 #else
11251 #  define MANTISSATYPE UV
11252 #  define MANTISSASIZE UVSIZE
11253 #endif
11254
11255 #if defined(DOUBLE_LITTLE_ENDIAN) || defined(LONGDOUBLE_LITTLE_ENDIAN)
11256 #  define HEXTRACT_LITTLE_ENDIAN
11257 #elif defined(DOUBLE_BIG_ENDIAN) || defined(LONGDOUBLE_BIG_ENDIAN)
11258 #  define HEXTRACT_BIG_ENDIAN
11259 #else
11260 #  define HEXTRACT_MIX_ENDIAN
11261 #endif
11262
11263 /* S_hextract() is a helper for S_format_hexfp, for extracting
11264  * the hexadecimal values (for %a/%A).  The nv is the NV where the value
11265  * are being extracted from (either directly from the long double in-memory
11266  * presentation, or from the uquad computed via frexp+ldexp).  frexp also
11267  * is used to update the exponent.  The subnormal is set to true
11268  * for IEEE 754 subnormals/denormals (including the x86 80-bit format).
11269  * The vhex is the pointer to the beginning of the output buffer of VHEX_SIZE.
11270  *
11271  * The tricky part is that S_hextract() needs to be called twice:
11272  * the first time with vend as NULL, and the second time with vend as
11273  * the pointer returned by the first call.  What happens is that on
11274  * the first round the output size is computed, and the intended
11275  * extraction sanity checked.  On the second round the actual output
11276  * (the extraction of the hexadecimal values) takes place.
11277  * Sanity failures cause fatal failures during both rounds. */
11278 STATIC U8*
11279 S_hextract(pTHX_ const NV nv, int* exponent, bool *subnormal,
11280            U8* vhex, U8* vend)
11281 {
11282     U8* v = vhex;
11283     int ix;
11284     int ixmin = 0, ixmax = 0;
11285
11286     /* XXX Inf/NaN are not handled here, since it is
11287      * assumed they are to be output as "Inf" and "NaN". */
11288
11289     /* These macros are just to reduce typos, they have multiple
11290      * repetitions below, but usually only one (or sometimes two)
11291      * of them is really being used. */
11292     /* HEXTRACT_OUTPUT() extracts the high nybble first. */
11293 #define HEXTRACT_OUTPUT_HI(ix) (*v++ = nvp[ix] >> 4)
11294 #define HEXTRACT_OUTPUT_LO(ix) (*v++ = nvp[ix] & 0xF)
11295 #define HEXTRACT_OUTPUT(ix) \
11296     STMT_START { \
11297       HEXTRACT_OUTPUT_HI(ix); HEXTRACT_OUTPUT_LO(ix); \
11298    } STMT_END
11299 #define HEXTRACT_COUNT(ix, c) \
11300     STMT_START { \
11301       v += c; if (ix < ixmin) ixmin = ix; else if (ix > ixmax) ixmax = ix; \
11302    } STMT_END
11303 #define HEXTRACT_BYTE(ix) \
11304     STMT_START { \
11305       if (vend) HEXTRACT_OUTPUT(ix); else HEXTRACT_COUNT(ix, 2); \
11306    } STMT_END
11307 #define HEXTRACT_LO_NYBBLE(ix) \
11308     STMT_START { \
11309       if (vend) HEXTRACT_OUTPUT_LO(ix); else HEXTRACT_COUNT(ix, 1); \
11310    } STMT_END
11311     /* HEXTRACT_TOP_NYBBLE is just convenience disguise,
11312      * to make it look less odd when the top bits of a NV
11313      * are extracted using HEXTRACT_LO_NYBBLE: the highest
11314      * order bits can be in the "low nybble" of a byte. */
11315 #define HEXTRACT_TOP_NYBBLE(ix) HEXTRACT_LO_NYBBLE(ix)
11316 #define HEXTRACT_BYTES_LE(a, b) \
11317     for (ix = a; ix >= b; ix--) { HEXTRACT_BYTE(ix); }
11318 #define HEXTRACT_BYTES_BE(a, b) \
11319     for (ix = a; ix <= b; ix++) { HEXTRACT_BYTE(ix); }
11320 #define HEXTRACT_GET_SUBNORMAL(nv) *subnormal = Perl_fp_class_denorm(nv)
11321 #define HEXTRACT_IMPLICIT_BIT(nv) \
11322     STMT_START { \
11323         if (!*subnormal) { \
11324             if (vend) *v++ = ((nv) == 0.0) ? 0 : 1; else v++; \
11325         } \
11326    } STMT_END
11327
11328 /* Most formats do.  Those which don't should undef this.
11329  *
11330  * But also note that IEEE 754 subnormals do not have it, or,
11331  * expressed alternatively, their implicit bit is zero. */
11332 #define HEXTRACT_HAS_IMPLICIT_BIT
11333
11334 /* Many formats do.  Those which don't should undef this. */
11335 #define HEXTRACT_HAS_TOP_NYBBLE
11336
11337     /* HEXTRACTSIZE is the maximum number of xdigits. */
11338 #if defined(USE_LONG_DOUBLE) && defined(LONGDOUBLE_DOUBLEDOUBLE)
11339 #  define HEXTRACTSIZE (2+DOUBLEDOUBLE_MAXBITS/4)
11340 #else
11341 #  define HEXTRACTSIZE 2 * NVSIZE
11342 #endif
11343
11344     const U8* vmaxend = vhex + HEXTRACTSIZE;
11345
11346     assert(HEXTRACTSIZE <= VHEX_SIZE);
11347
11348     PERL_UNUSED_VAR(ix); /* might happen */
11349     (void)Perl_frexp(PERL_ABS(nv), exponent);
11350     *subnormal = FALSE;
11351     if (vend && (vend <= vhex || vend > vmaxend)) {
11352         /* diag_listed_as: Hexadecimal float: internal error (%s) */
11353         Perl_croak(aTHX_ "Hexadecimal float: internal error (entry)");
11354     }
11355     {
11356         /* First check if using long doubles. */
11357 #if defined(USE_LONG_DOUBLE) && (NVSIZE > DOUBLESIZE)
11358 #  if LONG_DOUBLEKIND == LONG_DOUBLE_IS_IEEE_754_128_BIT_LITTLE_ENDIAN
11359         /* Used in e.g. VMS and HP-UX IA-64, e.g. -0.1L:
11360          * 9a 99 99 99 99 99 99 99 99 99 99 99 99 99 fb bf */
11361         /* The bytes 13..0 are the mantissa/fraction,
11362          * the 15,14 are the sign+exponent. */
11363         const U8* nvp = (const U8*)(&nv);
11364         HEXTRACT_GET_SUBNORMAL(nv);
11365         HEXTRACT_IMPLICIT_BIT(nv);
11366 #    undef HEXTRACT_HAS_TOP_NYBBLE
11367         HEXTRACT_BYTES_LE(13, 0);
11368 #  elif LONG_DOUBLEKIND == LONG_DOUBLE_IS_IEEE_754_128_BIT_BIG_ENDIAN
11369         /* Used in e.g. Solaris Sparc and HP-UX PA-RISC, e.g. -0.1L:
11370          * bf fb 99 99 99 99 99 99 99 99 99 99 99 99 99 9a */
11371         /* The bytes 2..15 are the mantissa/fraction,
11372          * the 0,1 are the sign+exponent. */
11373         const U8* nvp = (const U8*)(&nv);
11374         HEXTRACT_GET_SUBNORMAL(nv);
11375         HEXTRACT_IMPLICIT_BIT(nv);
11376 #    undef HEXTRACT_HAS_TOP_NYBBLE
11377         HEXTRACT_BYTES_BE(2, 15);
11378 #  elif LONG_DOUBLEKIND == LONG_DOUBLE_IS_X86_80_BIT_LITTLE_ENDIAN
11379         /* x86 80-bit "extended precision", 64 bits of mantissa / fraction /
11380          * significand, 15 bits of exponent, 1 bit of sign.  No implicit bit.
11381          * NVSIZE can be either 12 (ILP32, Solaris x86) or 16 (LP64, Linux
11382          * and OS X), meaning that 2 or 6 bytes are empty padding. */
11383         /* The bytes 0..1 are the sign+exponent,
11384          * the bytes 2..9 are the mantissa/fraction. */
11385         const U8* nvp = (const U8*)(&nv);
11386 #    undef HEXTRACT_HAS_IMPLICIT_BIT
11387 #    undef HEXTRACT_HAS_TOP_NYBBLE
11388         HEXTRACT_GET_SUBNORMAL(nv);
11389         HEXTRACT_BYTES_LE(7, 0);
11390 #  elif LONG_DOUBLEKIND == LONG_DOUBLE_IS_X86_80_BIT_BIG_ENDIAN
11391         /* Does this format ever happen? (Wikipedia says the Motorola
11392          * 6888x math coprocessors used format _like_ this but padded
11393          * to 96 bits with 16 unused bits between the exponent and the
11394          * mantissa.) */
11395         const U8* nvp = (const U8*)(&nv);
11396 #    undef HEXTRACT_HAS_IMPLICIT_BIT
11397 #    undef HEXTRACT_HAS_TOP_NYBBLE
11398         HEXTRACT_GET_SUBNORMAL(nv);
11399         HEXTRACT_BYTES_BE(0, 7);
11400 #  else
11401 #    define HEXTRACT_FALLBACK
11402         /* Double-double format: two doubles next to each other.
11403          * The first double is the high-order one, exactly like
11404          * it would be for a "lone" double.  The second double
11405          * is shifted down using the exponent so that that there
11406          * are no common bits.  The tricky part is that the value
11407          * of the double-double is the SUM of the two doubles and
11408          * the second one can be also NEGATIVE.
11409          *
11410          * Because of this tricky construction the bytewise extraction we
11411          * use for the other long double formats doesn't work, we must
11412          * extract the values bit by bit.
11413          *
11414          * The little-endian double-double is used .. somewhere?
11415          *
11416          * The big endian double-double is used in e.g. PPC/Power (AIX)
11417          * and MIPS (SGI).
11418          *
11419          * The mantissa bits are in two separate stretches, e.g. for -0.1L:
11420          * 9a 99 99 99 99 99 59 bc 9a 99 99 99 99 99 b9 3f (LE)
11421          * 3f b9 99 99 99 99 99 9a bc 59 99 99 99 99 99 9a (BE)
11422          */
11423 #  endif
11424 #else /* #if defined(USE_LONG_DOUBLE) && (NVSIZE > DOUBLESIZE) */
11425         /* Using normal doubles, not long doubles.
11426          *
11427          * We generate 4-bit xdigits (nybble/nibble) instead of 8-bit
11428          * bytes, since we might need to handle printf precision, and
11429          * also need to insert the radix. */
11430 #  if NVSIZE == 8
11431 #    ifdef HEXTRACT_LITTLE_ENDIAN
11432         /* 0 1 2 3 4 5 6 7 (MSB = 7, LSB = 0, 6+7 = exponent+sign) */
11433         const U8* nvp = (const U8*)(&nv);
11434         HEXTRACT_GET_SUBNORMAL(nv);
11435         HEXTRACT_IMPLICIT_BIT(nv);
11436         HEXTRACT_TOP_NYBBLE(6);
11437         HEXTRACT_BYTES_LE(5, 0);
11438 #    elif defined(HEXTRACT_BIG_ENDIAN)
11439         /* 7 6 5 4 3 2 1 0 (MSB = 7, LSB = 0, 6+7 = exponent+sign) */
11440         const U8* nvp = (const U8*)(&nv);
11441         HEXTRACT_GET_SUBNORMAL(nv);
11442         HEXTRACT_IMPLICIT_BIT(nv);
11443         HEXTRACT_TOP_NYBBLE(1);
11444         HEXTRACT_BYTES_BE(2, 7);
11445 #    elif DOUBLEKIND == DOUBLE_IS_IEEE_754_64_BIT_MIXED_ENDIAN_LE_BE
11446         /* 4 5 6 7 0 1 2 3 (MSB = 7, LSB = 0, 6:7 = nybble:exponent:sign) */
11447         const U8* nvp = (const U8*)(&nv);
11448         HEXTRACT_GET_SUBNORMAL(nv);
11449         HEXTRACT_IMPLICIT_BIT(nv);
11450         HEXTRACT_TOP_NYBBLE(2); /* 6 */
11451         HEXTRACT_BYTE(1); /* 5 */
11452         HEXTRACT_BYTE(0); /* 4 */
11453         HEXTRACT_BYTE(7); /* 3 */
11454         HEXTRACT_BYTE(6); /* 2 */
11455         HEXTRACT_BYTE(5); /* 1 */
11456         HEXTRACT_BYTE(4); /* 0 */
11457 #    elif DOUBLEKIND == DOUBLE_IS_IEEE_754_64_BIT_MIXED_ENDIAN_BE_LE
11458         /* 3 2 1 0 7 6 5 4 (MSB = 7, LSB = 0, 7:6 = sign:exponent:nybble) */
11459         const U8* nvp = (const U8*)(&nv);
11460         HEXTRACT_GET_SUBNORMAL(nv);
11461         HEXTRACT_IMPLICIT_BIT(nv);
11462         HEXTRACT_TOP_NYBBLE(5); /* 6 */
11463         HEXTRACT_BYTE(6); /* 5 */
11464         HEXTRACT_BYTE(7); /* 4 */
11465         HEXTRACT_BYTE(0); /* 3 */
11466         HEXTRACT_BYTE(1); /* 2 */
11467         HEXTRACT_BYTE(2); /* 1 */
11468         HEXTRACT_BYTE(3); /* 0 */
11469 #    else
11470 #      define HEXTRACT_FALLBACK
11471 #    endif
11472 #  else
11473 #    define HEXTRACT_FALLBACK
11474 #  endif
11475 #endif /* #if defined(USE_LONG_DOUBLE) && (NVSIZE > DOUBLESIZE) #else */
11476
11477 #ifdef HEXTRACT_FALLBACK
11478         HEXTRACT_GET_SUBNORMAL(nv);
11479 #  undef HEXTRACT_HAS_TOP_NYBBLE /* Meaningless, but consistent. */
11480         /* The fallback is used for the double-double format, and
11481          * for unknown long double formats, and for unknown double
11482          * formats, or in general unknown NV formats. */
11483         if (nv == (NV)0.0) {
11484             if (vend)
11485                 *v++ = 0;
11486             else
11487                 v++;
11488             *exponent = 0;
11489         }
11490         else {
11491             NV d = nv < 0 ? -nv : nv;
11492             NV e = (NV)1.0;
11493             U8 ha = 0x0; /* hexvalue accumulator */
11494             U8 hd = 0x8; /* hexvalue digit */
11495
11496             /* Shift d and e (and update exponent) so that e <= d < 2*e,
11497              * this is essentially manual frexp(). Multiplying by 0.5 and
11498              * doubling should be lossless in binary floating point. */
11499
11500             *exponent = 1;
11501
11502             while (e > d) {
11503                 e *= (NV)0.5;
11504                 (*exponent)--;
11505             }
11506             /* Now d >= e */
11507
11508             while (d >= e + e) {
11509                 e += e;
11510                 (*exponent)++;
11511             }
11512             /* Now e <= d < 2*e */
11513
11514             /* First extract the leading hexdigit (the implicit bit). */
11515             if (d >= e) {
11516                 d -= e;
11517                 if (vend)
11518                     *v++ = 1;
11519                 else
11520                     v++;
11521             }
11522             else {
11523                 if (vend)
11524                     *v++ = 0;
11525                 else
11526                     v++;
11527             }
11528             e *= (NV)0.5;
11529
11530             /* Then extract the remaining hexdigits. */
11531             while (d > (NV)0.0) {
11532                 if (d >= e) {
11533                     ha |= hd;
11534                     d -= e;
11535                 }
11536                 if (hd == 1) {
11537                     /* Output or count in groups of four bits,
11538                      * that is, when the hexdigit is down to one. */
11539                     if (vend)
11540                         *v++ = ha;
11541                     else
11542                         v++;
11543                     /* Reset the hexvalue. */
11544                     ha = 0x0;
11545                     hd = 0x8;
11546                 }
11547                 else
11548                     hd >>= 1;
11549                 e *= (NV)0.5;
11550             }
11551
11552             /* Flush possible pending hexvalue. */
11553             if (ha) {
11554                 if (vend)
11555                     *v++ = ha;
11556                 else
11557                     v++;
11558             }
11559         }
11560 #endif
11561     }
11562     /* Croak for various reasons: if the output pointer escaped the
11563      * output buffer, if the extraction index escaped the extraction
11564      * buffer, or if the ending output pointer didn't match the
11565      * previously computed value. */
11566     if (v <= vhex || v - vhex >= VHEX_SIZE ||
11567         /* For double-double the ixmin and ixmax stay at zero,
11568          * which is convenient since the HEXTRACTSIZE is tricky
11569          * for double-double. */
11570         ixmin < 0 || ixmax >= NVSIZE ||
11571         (vend && v != vend)) {
11572         /* diag_listed_as: Hexadecimal float: internal error (%s) */
11573         Perl_croak(aTHX_ "Hexadecimal float: internal error (overflow)");
11574     }
11575     return v;
11576 }
11577
11578
11579 /* S_format_hexfp(): helper function for Perl_sv_vcatpvfn_flags().
11580  *
11581  * Processes the %a/%A hexadecimal floating-point format, since the
11582  * built-in snprintf()s which are used for most of the f/p formats, don't
11583  * universally handle %a/%A.
11584  * Populates buf of length bufsize, and returns the length of the created
11585  * string.
11586  * The rest of the args have the same meaning as the local vars of the
11587  * same name within Perl_sv_vcatpvfn_flags().
11588  *
11589  * The caller's determination of IN_LC(LC_NUMERIC), passed as in_lc_numeric,
11590  * is used to ensure we do the right thing when we need to access the locale's
11591  * numeric radix.
11592  *
11593  * It requires the caller to make buf large enough.
11594  */
11595
11596 static STRLEN
11597 S_format_hexfp(pTHX_ char * const buf, const STRLEN bufsize, const char c,
11598                     const NV nv, const vcatpvfn_long_double_t fv,
11599                     bool has_precis, STRLEN precis, STRLEN width,
11600                     bool alt, char plus, bool left, bool fill, bool in_lc_numeric)
11601 {
11602     /* Hexadecimal floating point. */
11603     char* p = buf;
11604     U8 vhex[VHEX_SIZE];
11605     U8* v = vhex; /* working pointer to vhex */
11606     U8* vend; /* pointer to one beyond last digit of vhex */
11607     U8* vfnz = NULL; /* first non-zero */
11608     U8* vlnz = NULL; /* last non-zero */
11609     U8* v0 = NULL; /* first output */
11610     const bool lower = (c == 'a');
11611     /* At output the values of vhex (up to vend) will
11612      * be mapped through the xdig to get the actual
11613      * human-readable xdigits. */
11614     const char* xdig = PL_hexdigit;
11615     STRLEN zerotail = 0; /* how many extra zeros to append */
11616     int exponent = 0; /* exponent of the floating point input */
11617     bool hexradix = FALSE; /* should we output the radix */
11618     bool subnormal = FALSE; /* IEEE 754 subnormal/denormal */
11619     bool negative = FALSE;
11620     STRLEN elen;
11621
11622     /* XXX: NaN, Inf -- though they are printed as "NaN" and "Inf".
11623      *
11624      * For example with denormals, (assuming the vanilla
11625      * 64-bit double): the exponent is zero. 1xp-1074 is
11626      * the smallest denormal and the smallest double, it
11627      * could be output also as 0x0.0000000000001p-1022 to
11628      * match its internal structure. */
11629
11630     vend = S_hextract(aTHX_ nv, &exponent, &subnormal, vhex, NULL);
11631     S_hextract(aTHX_ nv, &exponent, &subnormal, vhex, vend);
11632
11633 #if NVSIZE > DOUBLESIZE
11634 #  ifdef HEXTRACT_HAS_IMPLICIT_BIT
11635     /* In this case there is an implicit bit,
11636      * and therefore the exponent is shifted by one. */
11637     exponent--;
11638 #  elif defined(NV_X86_80_BIT)
11639     if (subnormal) {
11640         /* The subnormals of the x86-80 have a base exponent of -16382,
11641          * (while the physical exponent bits are zero) but the frexp()
11642          * returned the scientific-style floating exponent.  We want
11643          * to map the last one as:
11644          * -16831..-16384 -> -16382 (the last normal is 0x1p-16382)
11645          * -16835..-16388 -> -16384
11646          * since we want to keep the first hexdigit
11647          * as one of the [8421]. */
11648         exponent = -4 * ( (exponent + 1) / -4) - 2;
11649     } else {
11650         exponent -= 4;
11651     }
11652     /* TBD: other non-implicit-bit platforms than the x86-80. */
11653 #  endif
11654 #endif
11655
11656     negative = fv < 0 || Perl_signbit(nv);
11657     if (negative)
11658         *p++ = '-';
11659     else if (plus)
11660         *p++ = plus;
11661     *p++ = '0';
11662     if (lower) {
11663         *p++ = 'x';
11664     }
11665     else {
11666         *p++ = 'X';
11667         xdig += 16; /* Use uppercase hex. */
11668     }
11669
11670     /* Find the first non-zero xdigit. */
11671     for (v = vhex; v < vend; v++) {
11672         if (*v) {
11673             vfnz = v;
11674             break;
11675         }
11676     }
11677
11678     if (vfnz) {
11679         /* Find the last non-zero xdigit. */
11680         for (v = vend - 1; v >= vhex; v--) {
11681             if (*v) {
11682                 vlnz = v;
11683                 break;
11684             }
11685         }
11686
11687 #if NVSIZE == DOUBLESIZE
11688         if (fv != 0.0)
11689             exponent--;
11690 #endif
11691
11692         if (subnormal) {
11693 #ifndef NV_X86_80_BIT
11694           if (vfnz[0] > 1) {
11695             /* IEEE 754 subnormals (but not the x86 80-bit):
11696              * we want "normalize" the subnormal,
11697              * so we need to right shift the hex nybbles
11698              * so that the output of the subnormal starts
11699              * from the first true bit.  (Another, equally
11700              * valid, policy would be to dump the subnormal
11701              * nybbles as-is, to display the "physical" layout.) */
11702             int i, n;
11703             U8 *vshr;
11704             /* Find the ceil(log2(v[0])) of
11705              * the top non-zero nybble. */
11706             for (i = vfnz[0], n = 0; i > 1; i >>= 1, n++) { }
11707             assert(n < 4);
11708             assert(vlnz);
11709             vlnz[1] = 0;
11710             for (vshr = vlnz; vshr >= vfnz; vshr--) {
11711               vshr[1] |= (vshr[0] & (0xF >> (4 - n))) << (4 - n);
11712               vshr[0] >>= n;
11713             }
11714             if (vlnz[1]) {
11715               vlnz++;
11716             }
11717           }
11718 #endif
11719           v0 = vfnz;
11720         } else {
11721           v0 = vhex;
11722         }
11723
11724         if (has_precis) {
11725             U8* ve = (subnormal ? vlnz + 1 : vend);
11726             SSize_t vn = ve - v0;
11727             assert(vn >= 1);
11728             if (precis < (Size_t)(vn - 1)) {
11729                 bool overflow = FALSE;
11730                 if (v0[precis + 1] < 0x8) {
11731                     /* Round down, nothing to do. */
11732                 } else if (v0[precis + 1] > 0x8) {
11733                     /* Round up. */
11734                     v0[precis]++;
11735                     overflow = v0[precis] > 0xF;
11736                     v0[precis] &= 0xF;
11737                 } else { /* v0[precis] == 0x8 */
11738                     /* Half-point: round towards the one
11739                      * with the even least-significant digit:
11740                      * 08 -> 0  88 -> 8
11741                      * 18 -> 2  98 -> a
11742                      * 28 -> 2  a8 -> a
11743                      * 38 -> 4  b8 -> c
11744                      * 48 -> 4  c8 -> c
11745                      * 58 -> 6  d8 -> e
11746                      * 68 -> 6  e8 -> e
11747                      * 78 -> 8  f8 -> 10 */
11748                     if ((v0[precis] & 0x1)) {
11749                         v0[precis]++;
11750                     }
11751                     overflow = v0[precis] > 0xF;
11752                     v0[precis] &= 0xF;
11753                 }
11754
11755                 if (overflow) {
11756                     for (v = v0 + precis - 1; v >= v0; v--) {
11757                         (*v)++;
11758                         overflow = *v > 0xF;
11759                         (*v) &= 0xF;
11760                         if (!overflow) {
11761                             break;
11762                         }
11763                     }
11764                     if (v == v0 - 1 && overflow) {
11765                         /* If the overflow goes all the
11766                          * way to the front, we need to
11767                          * insert 0x1 in front, and adjust
11768                          * the exponent. */
11769                         Move(v0, v0 + 1, vn - 1, char);
11770                         *v0 = 0x1;
11771                         exponent += 4;
11772                     }
11773                 }
11774
11775                 /* The new effective "last non zero". */
11776                 vlnz = v0 + precis;
11777             }
11778             else {
11779                 zerotail =
11780                   subnormal ? precis - vn + 1 :
11781                   precis - (vlnz - vhex);
11782             }
11783         }
11784
11785         v = v0;
11786         *p++ = xdig[*v++];
11787
11788         /* If there are non-zero xdigits, the radix
11789          * is output after the first one. */
11790         if (vfnz < vlnz) {
11791           hexradix = TRUE;
11792         }
11793     }
11794     else {
11795         *p++ = '0';
11796         exponent = 0;
11797         zerotail = has_precis ? precis : 0;
11798     }
11799
11800     /* The radix is always output if precis, or if alt. */
11801     if ((has_precis && precis > 0) || alt) {
11802       hexradix = TRUE;
11803     }
11804
11805     if (hexradix) {
11806 #ifndef USE_LOCALE_NUMERIC
11807         *p++ = '.';
11808 #else
11809         if (in_lc_numeric) {
11810             STRLEN n;
11811             WITH_LC_NUMERIC_SET_TO_NEEDED_IN(TRUE, {
11812                 const char* r = SvPV(PL_numeric_radix_sv, n);
11813                 Copy(r, p, n, char);
11814             });
11815             p += n;
11816         }
11817         else {
11818             *p++ = '.';
11819         }
11820 #endif
11821     }
11822
11823     if (vlnz) {
11824         while (v <= vlnz)
11825             *p++ = xdig[*v++];
11826     }
11827
11828     if (zerotail > 0) {
11829       while (zerotail--) {
11830         *p++ = '0';
11831       }
11832     }
11833
11834     elen = p - buf;
11835
11836     /* sanity checks */
11837     if (elen >= bufsize || width >= bufsize)
11838         /* diag_listed_as: Hexadecimal float: internal error (%s) */
11839         Perl_croak(aTHX_ "Hexadecimal float: internal error (overflow)");
11840
11841     elen += my_snprintf(p, bufsize - elen,
11842                         "%c%+d", lower ? 'p' : 'P',
11843                         exponent);
11844
11845     if (elen < width) {
11846         STRLEN gap = (STRLEN)(width - elen);
11847         if (left) {
11848             /* Pad the back with spaces. */
11849             memset(buf + elen, ' ', gap);
11850         }
11851         else if (fill) {
11852             /* Insert the zeros after the "0x" and the
11853              * the potential sign, but before the digits,
11854              * otherwise we end up with "0000xH.HHH...",
11855              * when we want "0x000H.HHH..."  */
11856             STRLEN nzero = gap;
11857             char* zerox = buf + 2;
11858             STRLEN nmove = elen - 2;
11859             if (negative || plus) {
11860                 zerox++;
11861                 nmove--;
11862             }
11863             Move(zerox, zerox + nzero, nmove, char);
11864             memset(zerox, fill ? '0' : ' ', nzero);
11865         }
11866         else {
11867             /* Move it to the right. */
11868             Move(buf, buf + gap,
11869                  elen, char);
11870             /* Pad the front with spaces. */
11871             memset(buf, ' ', gap);
11872         }
11873         elen = width;
11874     }
11875     return elen;
11876 }
11877
11878
11879 /*
11880 =for apidoc sv_vcatpvfn
11881
11882 =for apidoc sv_vcatpvfn_flags
11883
11884 Processes its arguments like C<vsprintf> and appends the formatted output
11885 to an SV.  Uses an array of SVs if the C-style variable argument list is
11886 missing (C<NULL>). Argument reordering (using format specifiers like C<%2$d>
11887 or C<%*2$d>) is supported only when using an array of SVs; using a C-style
11888 C<va_list> argument list with a format string that uses argument reordering
11889 will yield an exception.
11890
11891 When running with taint checks enabled, indicates via
11892 C<maybe_tainted> if results are untrustworthy (often due to the use of
11893 locales).
11894
11895 If called as C<sv_vcatpvfn> or flags has the C<SV_GMAGIC> bit set, calls get magic.
11896
11897 It assumes that pat has the same utf8-ness as sv.  It's the caller's
11898 responsibility to ensure that this is so.
11899
11900 Usually used via one of its frontends C<sv_vcatpvf> and C<sv_vcatpvf_mg>.
11901
11902 =cut
11903 */
11904
11905
11906 void
11907 Perl_sv_vcatpvfn_flags(pTHX_ SV *const sv, const char *const pat, const STRLEN patlen,
11908                        va_list *const args, SV **const svargs, const Size_t sv_count, bool *const maybe_tainted,
11909                        const U32 flags)
11910 {
11911     const char *fmtstart; /* character following the current '%' */
11912     const char *q;        /* current position within format */
11913     const char *patend;
11914     STRLEN origlen;
11915     Size_t svix = 0;
11916     static const char nullstr[] = "(null)";
11917     bool has_utf8 = DO_UTF8(sv);    /* has the result utf8? */
11918     const bool pat_utf8 = has_utf8; /* the pattern is in utf8? */
11919     /* Times 4: a decimal digit takes more than 3 binary digits.
11920      * NV_DIG: mantissa takes that many decimal digits.
11921      * Plus 32: Playing safe. */
11922     char ebuf[IV_DIG * 4 + NV_DIG + 32];
11923     bool no_redundant_warning = FALSE; /* did we use any explicit format parameter index? */
11924 #ifdef USE_LOCALE_NUMERIC
11925     bool have_in_lc_numeric = FALSE;
11926 #endif
11927     /* we never change this unless USE_LOCALE_NUMERIC */
11928     bool in_lc_numeric = FALSE;
11929
11930     PERL_ARGS_ASSERT_SV_VCATPVFN_FLAGS;
11931     PERL_UNUSED_ARG(maybe_tainted);
11932
11933     if (flags & SV_GMAGIC)
11934         SvGETMAGIC(sv);
11935
11936     /* no matter what, this is a string now */
11937     (void)SvPV_force_nomg(sv, origlen);
11938
11939     /* the code that scans for flags etc following a % relies on
11940      * a '\0' being present to avoid falling off the end. Ideally that
11941      * should be fixed */
11942     assert(pat[patlen] == '\0');
11943
11944
11945     /* Special-case "", "%s", "%-p" (SVf - see below) and "%.0f".
11946      * In each case, if there isn't the correct number of args, instead
11947      * fall through to the main code to handle the issuing of any
11948      * warnings etc.
11949      */
11950
11951     if (patlen == 0 && (args || sv_count == 0))
11952         return;
11953
11954     if (patlen <= 4 && pat[0] == '%' && (args || sv_count == 1)) {
11955
11956         /* "%s" */
11957         if (patlen == 2 && pat[1] == 's') {
11958             if (args) {
11959                 const char * const s = va_arg(*args, char*);
11960                 sv_catpv_nomg(sv, s ? s : nullstr);
11961             }
11962             else {
11963                 /* we want get magic on the source but not the target.
11964                  * sv_catsv can't do that, though */
11965                 SvGETMAGIC(*svargs);
11966                 sv_catsv_nomg(sv, *svargs);
11967             }
11968             return;
11969         }
11970
11971         /* "%-p" */
11972         if (args) {
11973             if (patlen == 3  && pat[1] == '-' && pat[2] == 'p') {
11974                 SV *asv = MUTABLE_SV(va_arg(*args, void*));
11975                 sv_catsv_nomg(sv, asv);
11976                 return;
11977             }
11978         }
11979 #if !defined(USE_LONG_DOUBLE) && !defined(USE_QUADMATH)
11980         /* special-case "%.0f" */
11981         else if (   patlen == 4
11982                  && pat[1] == '.' && pat[2] == '0' && pat[3] == 'f')
11983         {
11984             const NV nv = SvNV(*svargs);
11985             if (LIKELY(!Perl_isinfnan(nv))) {
11986                 STRLEN l;
11987                 char *p;
11988
11989                 if ((p = F0convert(nv, ebuf + sizeof ebuf, &l))) {
11990                     sv_catpvn_nomg(sv, p, l);
11991                     return;
11992                 }
11993             }
11994         }
11995 #endif /* !USE_LONG_DOUBLE */
11996     }
11997
11998
11999     patend = (char*)pat + patlen;
12000     for (fmtstart = pat; fmtstart < patend; fmtstart = q) {
12001         char intsize     = 0;         /* size qualifier in "%hi..." etc */
12002         bool alt         = FALSE;     /* has      "%#..."    */
12003         bool left        = FALSE;     /* has      "%-..."    */
12004         bool fill        = FALSE;     /* has      "%0..."    */
12005         char plus        = 0;         /* has      "%+..."    */
12006         STRLEN width     = 0;         /* value of "%NNN..."  */
12007         bool has_precis  = FALSE;     /* has      "%.NNN..." */
12008         STRLEN precis    = 0;         /* value of "%.NNN..." */
12009         int base         = 0;         /* base to print in, e.g. 8 for %o */
12010         UV uv            = 0;         /* the value to print of int-ish args */
12011
12012         bool vectorize   = FALSE;     /* has      "%v..."    */
12013         bool vec_utf8    = FALSE;     /* SvUTF8(vec arg)     */
12014         const U8 *vecstr = NULL;      /* SvPVX(vec arg)      */
12015         STRLEN veclen    = 0;         /* SvCUR(vec arg)      */
12016         const char *dotstr = NULL;    /* separator string for %v */
12017         STRLEN dotstrlen;             /* length of separator string for %v */
12018
12019         Size_t efix      = 0;         /* explicit format parameter index */
12020         const Size_t osvix  = svix;   /* original index in case of bad fmt */
12021
12022         SV *argsv        = NULL;
12023         bool is_utf8     = FALSE;     /* is this item utf8?   */
12024         bool arg_missing = FALSE;     /* give "Missing argument" warning */
12025         char esignbuf[4];             /* holds sign prefix, e.g. "-0x" */
12026         STRLEN esignlen  = 0;         /* length of e.g. "-0x" */
12027         STRLEN zeros     = 0;         /* how many '0' to prepend */
12028
12029         const char *eptr = NULL;      /* the address of the element string */
12030         STRLEN elen      = 0;         /* the length  of the element string */
12031
12032         char c;                       /* the actual format ('d', s' etc) */
12033
12034
12035         /* echo everything up to the next format specification */
12036         for (q = fmtstart; q < patend && *q != '%'; ++q)
12037             {};
12038
12039         if (q > fmtstart) {
12040             if (has_utf8 && !pat_utf8) {
12041                 /* upgrade and copy the bytes of fmtstart..q-1 to utf8 on
12042                  * the fly */
12043                 const char *p;
12044                 char *dst;
12045                 STRLEN need = SvCUR(sv) + (q - fmtstart) + 1;
12046
12047                 for (p = fmtstart; p < q; p++)
12048                     if (!NATIVE_BYTE_IS_INVARIANT(*p))
12049                         need++;
12050                 SvGROW(sv, need);
12051
12052                 dst = SvEND(sv);
12053                 for (p = fmtstart; p < q; p++)
12054                     append_utf8_from_native_byte((U8)*p, (U8**)&dst);
12055                 *dst = '\0';
12056                 SvCUR_set(sv, need - 1);
12057             }
12058             else
12059                 S_sv_catpvn_simple(aTHX_ sv, fmtstart, q - fmtstart);
12060         }
12061         if (q++ >= patend)
12062             break;
12063
12064         fmtstart = q; /* fmtstart is char following the '%' */
12065
12066 /*
12067     We allow format specification elements in this order:
12068         \d+\$              explicit format parameter index
12069         [-+ 0#]+           flags
12070         v|\*(\d+\$)?v      vector with optional (optionally specified) arg
12071         0                  flag (as above): repeated to allow "v02"     
12072         \d+|\*(\d+\$)?     width using optional (optionally specified) arg
12073         \.(\d*|\*(\d+\$)?) precision using optional (optionally specified) arg
12074         [hlqLV]            size
12075     [%bcdefginopsuxDFOUX] format (mandatory)
12076 */
12077
12078         if (inRANGE(*q, '1', '9')) {
12079             width = expect_number(&q);
12080             if (*q == '$') {
12081                 if (args)
12082                     Perl_croak_nocontext(
12083                         "Cannot yet reorder sv_vcatpvfn() arguments from va_list");
12084                 ++q;
12085                 efix = (Size_t)width;
12086                 width = 0;
12087                 no_redundant_warning = TRUE;
12088             } else {
12089                 goto gotwidth;
12090             }
12091         }
12092
12093         /* FLAGS */
12094
12095         while (*q) {
12096             switch (*q) {
12097             case ' ':
12098             case '+':
12099                 if (plus == '+' && *q == ' ') /* '+' over ' ' */
12100                     q++;
12101                 else
12102                     plus = *q++;
12103                 continue;
12104
12105             case '-':
12106                 left = TRUE;
12107                 q++;
12108                 continue;
12109
12110             case '0':
12111                 fill = TRUE;
12112                 q++;
12113                 continue;
12114
12115             case '#':
12116                 alt = TRUE;
12117                 q++;
12118                 continue;
12119
12120             default:
12121                 break;
12122             }
12123             break;
12124         }
12125
12126       /* at this point we can expect one of:
12127        *
12128        *  123  an explicit width
12129        *  *    width taken from next arg
12130        *  *12$ width taken from 12th arg
12131        *       or no width
12132        *
12133        * But any width specification may be preceded by a v, in one of its
12134        * forms:
12135        *        v
12136        *        *v
12137        *        *12$v
12138        * So an asterisk may be either a width specifier or a vector
12139        * separator arg specifier, and we don't know which initially
12140        */
12141
12142       tryasterisk:
12143         if (*q == '*') {
12144             STRLEN ix; /* explicit width/vector separator index */
12145             q++;
12146             if (inRANGE(*q, '1', '9')) {
12147                 ix = expect_number(&q);
12148                 if (*q++ == '$') {
12149                     if (args)
12150                         Perl_croak_nocontext(
12151                             "Cannot yet reorder sv_vcatpvfn() arguments from va_list");
12152                     no_redundant_warning = TRUE;
12153                 } else
12154                     goto unknown;
12155             }
12156             else
12157                 ix = 0;
12158
12159             if (*q == 'v') {
12160                 SV *vecsv;
12161                 /* The asterisk was for  *v, *NNN$v: vectorizing, but not
12162                  * with the default "." */
12163                 q++;
12164                 if (vectorize)
12165                     goto unknown;
12166                 if (args)
12167                     vecsv = va_arg(*args, SV*);
12168                 else {
12169                     ix = ix ? ix - 1 : svix++;
12170                     vecsv = ix < sv_count ? svargs[ix]
12171                                        : (arg_missing = TRUE, &PL_sv_no);
12172                 }
12173                 dotstr = SvPV_const(vecsv, dotstrlen);
12174                 /* Keep the DO_UTF8 test *after* the SvPV call, else things go
12175                    bad with tied or overloaded values that return UTF8.  */
12176                 if (DO_UTF8(vecsv))
12177                     is_utf8 = TRUE;
12178                 else if (has_utf8) {
12179                     vecsv = sv_mortalcopy(vecsv);
12180                     sv_utf8_upgrade(vecsv);
12181                     dotstr = SvPV_const(vecsv, dotstrlen);
12182                     is_utf8 = TRUE;
12183                 }
12184                 vectorize = TRUE;
12185                 goto tryasterisk;
12186             }
12187
12188             /* the asterisk specified a width */
12189             {
12190                 int i = 0;
12191                 SV *sv = NULL;
12192                 if (args)
12193                     i = va_arg(*args, int);
12194                 else {
12195                     ix = ix ? ix - 1 : svix++;
12196                     sv = (ix < sv_count) ? svargs[ix]
12197                                       : (arg_missing = TRUE, (SV*)NULL);
12198                 }
12199                 width = S_sprintf_arg_num_val(aTHX_ args, i, sv, &left);
12200             }
12201         }
12202         else if (*q == 'v') {
12203             q++;
12204             if (vectorize)
12205                 goto unknown;
12206             vectorize = TRUE;
12207             dotstr = ".";
12208             dotstrlen = 1;
12209             goto tryasterisk;
12210
12211         }
12212         else {
12213         /* explicit width? */
12214             if(*q == '0') {
12215                 fill = TRUE;
12216                 q++;
12217             }
12218             if (inRANGE(*q, '1', '9'))
12219                 width = expect_number(&q);
12220         }
12221
12222       gotwidth:
12223
12224         /* PRECISION */
12225
12226         if (*q == '.') {
12227             q++;
12228             if (*q == '*') {
12229                 STRLEN ix; /* explicit precision index */
12230                 q++;
12231                 if (inRANGE(*q, '1', '9')) {
12232                     ix = expect_number(&q);
12233                     if (*q++ == '$') {
12234                         if (args)
12235                             Perl_croak_nocontext(
12236                                 "Cannot yet reorder sv_vcatpvfn() arguments from va_list");
12237                         no_redundant_warning = TRUE;
12238                     } else
12239                         goto unknown;
12240                 }
12241                 else
12242                     ix = 0;
12243
12244                 {
12245                     int i = 0;
12246                     SV *sv = NULL;
12247                     bool neg = FALSE;
12248
12249                     if (args)
12250                         i = va_arg(*args, int);
12251                     else {
12252                         ix = ix ? ix - 1 : svix++;
12253                         sv = (ix < sv_count) ? svargs[ix]
12254                                           : (arg_missing = TRUE, (SV*)NULL);
12255                     }
12256                     precis = S_sprintf_arg_num_val(aTHX_ args, i, sv, &neg);
12257                     has_precis = !neg;
12258                     /* ignore negative precision */
12259                     if (!has_precis)
12260                         precis = 0;
12261                 }
12262             }
12263             else {
12264                 /* although it doesn't seem documented, this code has long
12265                  * behaved so that:
12266                  *   no digits following the '.' is treated like '.0'
12267                  *   the number may be preceded by any number of zeroes,
12268                  *      e.g. "%.0001f", which is the same as "%.1f"
12269                  * so I've kept that behaviour. DAPM May 2017
12270                  */
12271                 while (*q == '0')
12272                     q++;
12273                 precis = inRANGE(*q, '1', '9') ? expect_number(&q) : 0;
12274                 has_precis = TRUE;
12275             }
12276         }
12277
12278         /* SIZE */
12279
12280         switch (*q) {
12281 #ifdef WIN32
12282         case 'I':                       /* Ix, I32x, and I64x */
12283 #  ifdef USE_64_BIT_INT
12284             if (q[1] == '6' && q[2] == '4') {
12285                 q += 3;
12286                 intsize = 'q';
12287                 break;
12288             }
12289 #  endif
12290             if (q[1] == '3' && q[2] == '2') {
12291                 q += 3;
12292                 break;
12293             }
12294 #  ifdef USE_64_BIT_INT
12295             intsize = 'q';
12296 #  endif
12297             q++;
12298             break;
12299 #endif
12300 #if (IVSIZE >= 8 || defined(HAS_LONG_DOUBLE)) || \
12301     (IVSIZE == 4 && !defined(HAS_LONG_DOUBLE))
12302         case 'L':                       /* Ld */
12303             /* FALLTHROUGH */
12304 #  ifdef USE_QUADMATH
12305         case 'Q':
12306             /* FALLTHROUGH */
12307 #  endif
12308 #  if IVSIZE >= 8
12309         case 'q':                       /* qd */
12310 #  endif
12311             intsize = 'q';
12312             q++;
12313             break;
12314 #endif
12315         case 'l':
12316             ++q;
12317 #if (IVSIZE >= 8 || defined(HAS_LONG_DOUBLE)) || \
12318     (IVSIZE == 4 && !defined(HAS_LONG_DOUBLE))
12319             if (*q == 'l') {    /* lld, llf */
12320                 intsize = 'q';
12321                 ++q;
12322             }
12323             else
12324 #endif
12325                 intsize = 'l';
12326             break;
12327         case 'h':
12328             if (*++q == 'h') {  /* hhd, hhu */
12329                 intsize = 'c';
12330                 ++q;
12331             }
12332             else
12333                 intsize = 'h';
12334             break;
12335         case 'V':
12336         case 'z':
12337         case 't':
12338         case 'j':
12339             intsize = *q++;
12340             break;
12341         }
12342
12343         /* CONVERSION */
12344
12345         c = *q++; /* c now holds the conversion type */
12346
12347         /* '%' doesn't have an arg, so skip arg processing */
12348         if (c == '%') {
12349             eptr = q - 1;
12350             elen = 1;
12351             if (vectorize)
12352                 goto unknown;
12353             goto string;
12354         }
12355
12356         if (vectorize && !strchr("BbDdiOouUXx", c))
12357             goto unknown;
12358
12359         /* get next arg (individual branches do their own va_arg()
12360          * handling for the args case) */
12361
12362         if (!args) {
12363             efix = efix ? efix - 1 : svix++;
12364             argsv = efix < sv_count ? svargs[efix]
12365                                  : (arg_missing = TRUE, &PL_sv_no);
12366         }
12367
12368
12369         switch (c) {
12370
12371             /* STRINGS */
12372
12373         case 's':
12374             if (args) {
12375                 eptr = va_arg(*args, char*);
12376                 if (eptr)
12377                     if (has_precis)
12378                         elen = my_strnlen(eptr, precis);
12379                     else
12380                         elen = strlen(eptr);
12381                 else {
12382                     eptr = (char *)nullstr;
12383                     elen = sizeof nullstr - 1;
12384                 }
12385             }
12386             else {
12387                 eptr = SvPV_const(argsv, elen);
12388                 if (DO_UTF8(argsv)) {
12389                     STRLEN old_precis = precis;
12390                     if (has_precis && precis < elen) {
12391                         STRLEN ulen = sv_or_pv_len_utf8(argsv, eptr, elen);
12392                         STRLEN p = precis > ulen ? ulen : precis;
12393                         precis = sv_or_pv_pos_u2b(argsv, eptr, p, 0);
12394                                                         /* sticks at end */
12395                     }
12396                     if (width) { /* fudge width (can't fudge elen) */
12397                         if (has_precis && precis < elen)
12398                             width += precis - old_precis;
12399                         else
12400                             width +=
12401                                 elen - sv_or_pv_len_utf8(argsv,eptr,elen);
12402                     }
12403                     is_utf8 = TRUE;
12404                 }
12405             }
12406
12407         string:
12408             if (has_precis && precis < elen)
12409                 elen = precis;
12410             break;
12411
12412             /* INTEGERS */
12413
12414         case 'p':
12415             if (alt)
12416                 goto unknown;
12417
12418             /* %p extensions:
12419              *
12420              * "%...p" is normally treated like "%...x", except that the
12421              * number to print is the SV's address (or a pointer address
12422              * for C-ish sprintf).
12423              *
12424              * However, the C-ish sprintf variant allows a few special
12425              * extensions. These are currently:
12426              *
12427              * %-p       (SVf)  Like %s, but gets the string from an SV*
12428              *                  arg rather than a char* arg.
12429              *                  (This was previously %_).
12430              *
12431              * %-<num>p         Ditto but like %.<num>s (i.e. num is max width)
12432              *
12433              * %2p       (HEKf) Like %s, but using the key string in a HEK
12434              *
12435              * %3p       (HEKf256) Ditto but like %.256s
12436              *
12437              * %d%lu%4p  (UTF8f) A utf8 string. Consumes 3 args:
12438              *                       (cBOOL(utf8), len, string_buf).
12439              *                   It's handled by the "case 'd'" branch
12440              *                   rather than here.
12441              *
12442              * %<num>p   where num is 1 or > 4: reserved for future
12443              *           extensions. Warns, but then is treated as a
12444              *           general %p (print hex address) format.
12445              */
12446
12447             if (   args
12448                 && !intsize
12449                 && !fill
12450                 && !plus
12451                 && !has_precis
12452                     /* not %*p or %*1$p - any width was explicit */
12453                 && q[-2] != '*'
12454                 && q[-2] != '$'
12455             ) {
12456                 if (left) {                     /* %-p (SVf), %-NNNp */
12457                     if (width) {
12458                         precis = width;
12459                         has_precis = TRUE;
12460                     }
12461                     argsv = MUTABLE_SV(va_arg(*args, void*));
12462                     eptr = SvPV_const(argsv, elen);
12463                     if (DO_UTF8(argsv))
12464                         is_utf8 = TRUE;
12465                     width = 0;
12466                     goto string;
12467                 }
12468                 else if (width == 2 || width == 3) {    /* HEKf, HEKf256 */
12469                     HEK * const hek = va_arg(*args, HEK *);
12470                     eptr = HEK_KEY(hek);
12471                     elen = HEK_LEN(hek);
12472                     if (HEK_UTF8(hek))
12473                         is_utf8 = TRUE;
12474                     if (width == 3) {
12475                         precis = 256;
12476                         has_precis = TRUE;
12477                     }
12478                     width = 0;
12479                     goto string;
12480                 }
12481                 else if (width) {
12482                     Perl_ck_warner_d(aTHX_ packWARN(WARN_INTERNAL),
12483                          "internal %%<num>p might conflict with future printf extensions");
12484                 }
12485             }
12486
12487             /* treat as normal %...p */
12488
12489             uv = PTR2UV(args ? va_arg(*args, void*) : argsv);
12490             base = 16;
12491             goto do_integer;
12492
12493         case 'c':
12494             /* Ignore any size specifiers, since they're not documented as
12495              * being allowed for %c (ideally we should warn on e.g. '%hc').
12496              * Setting a default intsize, along with a positive
12497              * (which signals unsigned) base, causes, for C-ish use, the
12498              * va_arg to be interpreted as as unsigned int, when it's
12499              * actually signed, which will convert -ve values to high +ve
12500              * values. Note that unlike the libc %c, values > 255 will
12501              * convert to high unicode points rather than being truncated
12502              * to 8 bits. For perlish use, it will do SvUV(argsv), which
12503              * will again convert -ve args to high -ve values.
12504              */
12505             intsize = 0;
12506             base = 1; /* special value that indicates we're doing a 'c' */
12507             goto get_int_arg_val;
12508
12509         case 'D':
12510 #ifdef IV_IS_QUAD
12511             intsize = 'q';
12512 #else
12513             intsize = 'l';
12514 #endif
12515             base = -10;
12516             goto get_int_arg_val;
12517
12518         case 'd':
12519             /* probably just a plain %d, but it might be the start of the
12520              * special UTF8f format, which usually looks something like
12521              * "%d%lu%4p" (the lu may vary by platform)
12522              */
12523             assert((UTF8f)[0] == 'd');
12524             assert((UTF8f)[1] == '%');
12525
12526              if (   args              /* UTF8f only valid for C-ish sprintf */
12527                  && q == fmtstart + 1 /* plain %d, not %....d */
12528                  && patend >= fmtstart + sizeof(UTF8f) - 1 /* long enough */
12529                  && *q == '%'
12530                  && strnEQ(q + 1, UTF8f + 2, sizeof(UTF8f) - 3))
12531             {
12532                 /* The argument has already gone through cBOOL, so the cast
12533                    is safe. */
12534                 is_utf8 = (bool)va_arg(*args, int);
12535                 elen = va_arg(*args, UV);
12536                 /* if utf8 length is larger than 0x7ffff..., then it might
12537                  * have been a signed value that wrapped */
12538                 if (elen  > ((~(STRLEN)0) >> 1)) {
12539                     assert(0); /* in DEBUGGING build we want to crash */
12540                     elen = 0; /* otherwise we want to treat this as an empty string */
12541                 }
12542                 eptr = va_arg(*args, char *);
12543                 q += sizeof(UTF8f) - 2;
12544                 goto string;
12545             }
12546
12547             /* FALLTHROUGH */
12548         case 'i':
12549             base = -10;
12550             goto get_int_arg_val;
12551
12552         case 'U':
12553 #ifdef IV_IS_QUAD
12554             intsize = 'q';
12555 #else
12556             intsize = 'l';
12557 #endif
12558             /* FALLTHROUGH */
12559         case 'u':
12560             base = 10;
12561             goto get_int_arg_val;
12562
12563         case 'B':
12564         case 'b':
12565             base = 2;
12566             goto get_int_arg_val;
12567
12568         case 'O':
12569 #ifdef IV_IS_QUAD
12570             intsize = 'q';
12571 #else
12572             intsize = 'l';
12573 #endif
12574             /* FALLTHROUGH */
12575         case 'o':
12576             base = 8;
12577             goto get_int_arg_val;
12578
12579         case 'X':
12580         case 'x':
12581             base = 16;
12582
12583           get_int_arg_val:
12584
12585             if (vectorize) {
12586                 STRLEN ulen;
12587                 SV *vecsv;
12588
12589                 if (base < 0) {
12590                     base = -base;
12591                     if (plus)
12592                          esignbuf[esignlen++] = plus;
12593                 }
12594
12595                 /* initialise the vector string to iterate over */
12596
12597                 vecsv = args ? va_arg(*args, SV*) : argsv;
12598
12599                 /* if this is a version object, we need to convert
12600                  * back into v-string notation and then let the
12601                  * vectorize happen normally
12602                  */
12603                 if (sv_isobject(vecsv) && sv_derived_from(vecsv, "version")) {
12604                     if ( hv_existss(MUTABLE_HV(SvRV(vecsv)), "alpha") ) {
12605                         Perl_ck_warner_d(aTHX_ packWARN(WARN_PRINTF),
12606                         "vector argument not supported with alpha versions");
12607                         vecsv = &PL_sv_no;
12608                     }
12609                     else {
12610                         vecstr = (U8*)SvPV_const(vecsv,veclen);
12611                         vecsv = sv_newmortal();
12612                         scan_vstring((char *)vecstr, (char *)vecstr + veclen,
12613                                      vecsv);
12614                     }
12615                 }
12616                 vecstr = (U8*)SvPV_const(vecsv, veclen);
12617                 vec_utf8 = DO_UTF8(vecsv);
12618
12619               /* This is the re-entry point for when we're iterating
12620                * over the individual characters of a vector arg */
12621               vector:
12622                 if (!veclen)
12623                     goto done_valid_conversion;
12624                 if (vec_utf8)
12625                     uv = utf8n_to_uvchr(vecstr, veclen, &ulen,
12626                                         UTF8_ALLOW_ANYUV);
12627                 else {
12628                     uv = *vecstr;
12629                     ulen = 1;
12630                 }
12631                 vecstr += ulen;
12632                 veclen -= ulen;
12633             }
12634             else {
12635                 /* test arg for inf/nan. This can trigger an unwanted
12636                  * 'str' overload, so manually force 'num' overload first
12637                  * if necessary */
12638                 if (argsv) {
12639                     SvGETMAGIC(argsv);
12640                     if (UNLIKELY(SvAMAGIC(argsv)))
12641                         argsv = sv_2num(argsv);
12642                     if (UNLIKELY(isinfnansv(argsv)))
12643                         goto handle_infnan_argsv;
12644                 }
12645
12646                 if (base < 0) {
12647                     /* signed int type */
12648                     IV iv;
12649                     base = -base;
12650                     if (args) {
12651                         switch (intsize) {
12652                         case 'c':  iv = (char)va_arg(*args, int);  break;
12653                         case 'h':  iv = (short)va_arg(*args, int); break;
12654                         case 'l':  iv = va_arg(*args, long);       break;
12655                         case 'V':  iv = va_arg(*args, IV);         break;
12656                         case 'z':  iv = va_arg(*args, SSize_t);    break;
12657 #ifdef HAS_PTRDIFF_T
12658                         case 't':  iv = va_arg(*args, ptrdiff_t);  break;
12659 #endif
12660                         default:   iv = va_arg(*args, int);        break;
12661                         case 'j':  iv = (IV) va_arg(*args, PERL_INTMAX_T); break;
12662                         case 'q':
12663 #if IVSIZE >= 8
12664                                    iv = va_arg(*args, Quad_t);     break;
12665 #else
12666                                    goto unknown;
12667 #endif
12668                         }
12669                     }
12670                     else {
12671                         /* assign to tiv then cast to iv to work around
12672                          * 2003 GCC cast bug (gnu.org bugzilla #13488) */
12673                         IV tiv = SvIV_nomg(argsv);
12674                         switch (intsize) {
12675                         case 'c':  iv = (char)tiv;   break;
12676                         case 'h':  iv = (short)tiv;  break;
12677                         case 'l':  iv = (long)tiv;   break;
12678                         case 'V':
12679                         default:   iv = tiv;         break;
12680                         case 'q':
12681 #if IVSIZE >= 8
12682                                    iv = (Quad_t)tiv; break;
12683 #else
12684                                    goto unknown;
12685 #endif
12686                         }
12687                     }
12688
12689                     /* now convert iv to uv */
12690                     if (iv >= 0) {
12691                         uv = iv;
12692                         if (plus)
12693                             esignbuf[esignlen++] = plus;
12694                     }
12695                     else {
12696                         /* Using 0- here to silence bogus warning from MS VC */
12697                         uv = (UV) (0 - (UV) iv);
12698                         esignbuf[esignlen++] = '-';
12699                     }
12700                 }
12701                 else {
12702                     /* unsigned int type */
12703                     if (args) {
12704                         switch (intsize) {
12705                         case 'c': uv = (unsigned char)va_arg(*args, unsigned);
12706                                   break;
12707                         case 'h': uv = (unsigned short)va_arg(*args, unsigned);
12708                                   break;
12709                         case 'l': uv = va_arg(*args, unsigned long); break;
12710                         case 'V': uv = va_arg(*args, UV);            break;
12711                         case 'z': uv = va_arg(*args, Size_t);        break;
12712 #ifdef HAS_PTRDIFF_T
12713                                   /* will sign extend, but there is no
12714                                    * uptrdiff_t, so oh well */
12715                         case 't': uv = va_arg(*args, ptrdiff_t);     break;
12716 #endif
12717                         case 'j': uv = (UV) va_arg(*args, PERL_UINTMAX_T); break;
12718                         default:  uv = va_arg(*args, unsigned);      break;
12719                         case 'q':
12720 #if IVSIZE >= 8
12721                                   uv = va_arg(*args, Uquad_t);       break;
12722 #else
12723                                   goto unknown;
12724 #endif
12725                         }
12726                     }
12727                     else {
12728                         /* assign to tiv then cast to iv to work around
12729                          * 2003 GCC cast bug (gnu.org bugzilla #13488) */
12730                         UV tuv = SvUV_nomg(argsv);
12731                         switch (intsize) {
12732                         case 'c': uv = (unsigned char)tuv;  break;
12733                         case 'h': uv = (unsigned short)tuv; break;
12734                         case 'l': uv = (unsigned long)tuv;  break;
12735                         case 'V':
12736                         default:  uv = tuv;                 break;
12737                         case 'q':
12738 #if IVSIZE >= 8
12739                                   uv = (Uquad_t)tuv;        break;
12740 #else
12741                                   goto unknown;
12742 #endif
12743                         }
12744                     }
12745                 }
12746             }
12747
12748         do_integer:
12749             {
12750                 char *ptr = ebuf + sizeof ebuf;
12751                 unsigned dig;
12752                 zeros = 0;
12753
12754                 switch (base) {
12755                 case 16:
12756                     {
12757                     const char * const p =
12758                             (c == 'X') ? PL_hexdigit + 16 : PL_hexdigit;
12759
12760                         do {
12761                             dig = uv & 15;
12762                             *--ptr = p[dig];
12763                         } while (uv >>= 4);
12764                         if (alt && *ptr != '0') {
12765                             esignbuf[esignlen++] = '0';
12766                             esignbuf[esignlen++] = c;  /* 'x' or 'X' */
12767                         }
12768                         break;
12769                     }
12770                 case 8:
12771                     do {
12772                         dig = uv & 7;
12773                         *--ptr = '0' + dig;
12774                     } while (uv >>= 3);
12775                     if (alt && *ptr != '0')
12776                         *--ptr = '0';
12777                     break;
12778                 case 2:
12779                     do {
12780                         dig = uv & 1;
12781                         *--ptr = '0' + dig;
12782                     } while (uv >>= 1);
12783                     if (alt && *ptr != '0') {
12784                         esignbuf[esignlen++] = '0';
12785                         esignbuf[esignlen++] = c; /* 'b' or 'B' */
12786                     }
12787                     break;
12788
12789                 case 1:
12790                     /* special-case: base 1 indicates a 'c' format:
12791                      * we use the common code for extracting a uv,
12792                      * but handle that value differently here than
12793                      * all the other int types */
12794                     if ((uv > 255 ||
12795                          (!UVCHR_IS_INVARIANT(uv) && SvUTF8(sv)))
12796                         && !IN_BYTES)
12797                     {
12798                         assert(sizeof(ebuf) >= UTF8_MAXBYTES + 1);
12799                         eptr = ebuf;
12800                         elen = uvchr_to_utf8((U8*)eptr, uv) - (U8*)ebuf;
12801                         is_utf8 = TRUE;
12802                     }
12803                     else {
12804                         eptr = ebuf;
12805                         ebuf[0] = (char)uv;
12806                         elen = 1;
12807                     }
12808                     goto string;
12809
12810                 default:                /* it had better be ten or less */
12811                     do {
12812                         dig = uv % base;
12813                         *--ptr = '0' + dig;
12814                     } while (uv /= base);
12815                     break;
12816                 }
12817                 elen = (ebuf + sizeof ebuf) - ptr;
12818                 eptr = ptr;
12819                 if (has_precis) {
12820                     if (precis > elen)
12821                         zeros = precis - elen;
12822                     else if (precis == 0 && elen == 1 && *eptr == '0'
12823                              && !(base == 8 && alt)) /* "%#.0o" prints "0" */
12824                         elen = 0;
12825
12826                     /* a precision nullifies the 0 flag. */
12827                     fill = FALSE;
12828                 }
12829             }
12830             break;
12831
12832             /* FLOATING POINT */
12833
12834         case 'F':
12835             c = 'f';            /* maybe %F isn't supported here */
12836             /* FALLTHROUGH */
12837         case 'e': case 'E':
12838         case 'f':
12839         case 'g': case 'G':
12840         case 'a': case 'A':
12841
12842         {
12843             STRLEN float_need; /* what PL_efloatsize needs to become */
12844             bool hexfp;        /* hexadecimal floating point? */
12845
12846             vcatpvfn_long_double_t fv;
12847             NV                     nv;
12848
12849             /* This is evil, but floating point is even more evil */
12850
12851             /* for SV-style calling, we can only get NV
12852                for C-style calling, we assume %f is double;
12853                for simplicity we allow any of %Lf, %llf, %qf for long double
12854             */
12855             switch (intsize) {
12856             case 'V':
12857 #if defined(USE_LONG_DOUBLE) || defined(USE_QUADMATH)
12858                 intsize = 'q';
12859 #endif
12860                 break;
12861 /* [perl #20339] - we should accept and ignore %lf rather than die */
12862             case 'l':
12863                 /* FALLTHROUGH */
12864             default:
12865 #if defined(USE_LONG_DOUBLE) || defined(USE_QUADMATH)
12866                 intsize = args ? 0 : 'q';
12867 #endif
12868                 break;
12869             case 'q':
12870 #if defined(HAS_LONG_DOUBLE)
12871                 break;
12872 #else
12873                 /* FALLTHROUGH */
12874 #endif
12875             case 'c':
12876             case 'h':
12877             case 'z':
12878             case 't':
12879             case 'j':
12880                 goto unknown;
12881             }
12882
12883             /* Now we need (long double) if intsize == 'q', else (double). */
12884             if (args) {
12885                 /* Note: do not pull NVs off the va_list with va_arg()
12886                  * (pull doubles instead) because if you have a build
12887                  * with long doubles, you would always be pulling long
12888                  * doubles, which would badly break anyone using only
12889                  * doubles (i.e. the majority of builds). In other
12890                  * words, you cannot mix doubles and long doubles.
12891                  * The only case where you can pull off long doubles
12892                  * is when the format specifier explicitly asks so with
12893                  * e.g. "%Lg". */
12894 #ifdef USE_QUADMATH
12895                 fv = intsize == 'q' ?
12896                     va_arg(*args, NV) : va_arg(*args, double);
12897                 nv = fv;
12898 #elif LONG_DOUBLESIZE > DOUBLESIZE
12899                 if (intsize == 'q') {
12900                     fv = va_arg(*args, long double);
12901                     nv = fv;
12902                 } else {
12903                     nv = va_arg(*args, double);
12904                     VCATPVFN_NV_TO_FV(nv, fv);
12905                 }
12906 #else
12907                 nv = va_arg(*args, double);
12908                 fv = nv;
12909 #endif
12910             }
12911             else
12912             {
12913                 SvGETMAGIC(argsv);
12914                 /* we jump here if an int-ish format encountered an
12915                  * infinite/Nan argsv. After setting nv/fv, it falls
12916                  * into the isinfnan block which follows */
12917               handle_infnan_argsv:
12918                 nv = SvNV_nomg(argsv);
12919                 VCATPVFN_NV_TO_FV(nv, fv);
12920             }
12921
12922             if (Perl_isinfnan(nv)) {
12923                 if (c == 'c')
12924                     Perl_croak(aTHX_ "Cannot printf %" NVgf " with '%c'",
12925                            SvNV_nomg(argsv), (int)c);
12926
12927                 elen = S_infnan_2pv(nv, ebuf, sizeof(ebuf), plus);
12928                 assert(elen);
12929                 eptr = ebuf;
12930                 zeros     = 0;
12931                 esignlen  = 0;
12932                 dotstrlen = 0;
12933                 break;
12934             }
12935
12936             /* special-case "%.0f" */
12937             if (   c == 'f'
12938                 && !precis
12939                 && has_precis
12940                 && !(width || left || plus || alt)
12941                 && !fill
12942                 && intsize != 'q'
12943                 && ((eptr = F0convert(nv, ebuf + sizeof ebuf, &elen)))
12944             )
12945                 goto float_concat;
12946
12947             /* Determine the buffer size needed for the various
12948              * floating-point formats.
12949              *
12950              * The basic possibilities are:
12951              *
12952              *               <---P--->
12953              *    %f 1111111.123456789
12954              *    %e       1.111111123e+06
12955              *    %a     0x1.0f4471f9bp+20
12956              *    %g        1111111.12
12957              *    %g        1.11111112e+15
12958              *
12959              * where P is the value of the precision in the format, or 6
12960              * if not specified. Note the two possible output formats of
12961              * %g; in both cases the number of significant digits is <=
12962              * precision.
12963              *
12964              * For most of the format types the maximum buffer size needed
12965              * is precision, plus: any leading 1 or 0x1, the radix
12966              * point, and an exponent.  The difficult one is %f: for a
12967              * large positive exponent it can have many leading digits,
12968              * which needs to be calculated specially. Also %a is slightly
12969              * different in that in the absence of a specified precision,
12970              * it uses as many digits as necessary to distinguish
12971              * different values.
12972              *
12973              * First, here are the constant bits. For ease of calculation
12974              * we over-estimate the needed buffer size, for example by
12975              * assuming all formats have an exponent and a leading 0x1.
12976              *
12977              * Also for production use, add a little extra overhead for
12978              * safety's sake. Under debugging don't, as it means we're
12979              * more likely to quickly spot issues during development.
12980              */
12981
12982             float_need =     1  /* possible unary minus */
12983                           +  4  /* "0x1" plus very unlikely carry */
12984                           +  1  /* default radix point '.' */
12985                           +  2  /* "e-", "p+" etc */
12986                           +  6  /* exponent: up to 16383 (quad fp) */
12987 #ifndef DEBUGGING
12988                           + 20  /* safety net */
12989 #endif
12990                           +  1; /* \0 */
12991
12992
12993             /* determine the radix point len, e.g. length(".") in "1.2" */
12994 #ifdef USE_LOCALE_NUMERIC
12995             /* note that we may either explicitly use PL_numeric_radix_sv
12996              * below, or implicitly, via an snprintf() variant.
12997              * Note also things like ps_AF.utf8 which has
12998              * "\N{ARABIC DECIMAL SEPARATOR} as a radix point */
12999             if (! have_in_lc_numeric) {
13000                 in_lc_numeric = IN_LC(LC_NUMERIC);
13001                 have_in_lc_numeric = TRUE;
13002             }
13003
13004             if (in_lc_numeric) {
13005                 WITH_LC_NUMERIC_SET_TO_NEEDED_IN(TRUE, {
13006                     /* this can't wrap unless PL_numeric_radix_sv is a string
13007                      * consuming virtually all the 32-bit or 64-bit address
13008                      * space
13009                      */
13010                     float_need += (SvCUR(PL_numeric_radix_sv) - 1);
13011
13012                     /* floating-point formats only get utf8 if the radix point
13013                      * is utf8. All other characters in the string are < 128
13014                      * and so can be safely appended to both a non-utf8 and utf8
13015                      * string as-is.
13016                      * Note that this will convert the output to utf8 even if
13017                      * the radix point didn't get output.
13018                      */
13019                     if (SvUTF8(PL_numeric_radix_sv) && !has_utf8) {
13020                         sv_utf8_upgrade(sv);
13021                         has_utf8 = TRUE;
13022                     }
13023                 });
13024             }
13025 #endif
13026
13027             hexfp = FALSE;
13028
13029             if (isALPHA_FOLD_EQ(c, 'f')) {
13030                 /* Determine how many digits before the radix point
13031                  * might be emitted.  frexp() (or frexpl) has some
13032                  * unspecified behaviour for nan/inf/-inf, so lucky we've
13033                  * already handled them above */
13034                 STRLEN digits;
13035                 int i = PERL_INT_MIN;
13036                 (void)Perl_frexp((NV)fv, &i);
13037                 if (i == PERL_INT_MIN)
13038                     Perl_die(aTHX_ "panic: frexp: %" VCATPVFN_FV_GF, fv);
13039
13040                 if (i > 0) {
13041                     digits = BIT_DIGITS(i);
13042                     /* this can't overflow. 'digits' will only be a few
13043                      * thousand even for the largest floating-point types.
13044                      * And up until now float_need is just some small
13045                      * constants plus radix len, which can't be in
13046                      * overflow territory unless the radix SV is consuming
13047                      * over 1/2 the address space */
13048                     assert(float_need < ((STRLEN)~0) - digits);
13049                     float_need += digits;
13050                 }
13051             }
13052             else if (UNLIKELY(isALPHA_FOLD_EQ(c, 'a'))) {
13053                 hexfp = TRUE;
13054                 if (!has_precis) {
13055                     /* %a in the absence of precision may print as many
13056                      * digits as needed to represent the entire mantissa
13057                      * bit pattern.
13058                      * This estimate seriously overshoots in most cases,
13059                      * but better the undershooting.  Firstly, all bytes
13060                      * of the NV are not mantissa, some of them are
13061                      * exponent.  Secondly, for the reasonably common
13062                      * long doubles case, the "80-bit extended", two
13063                      * or six bytes of the NV are unused. Also, we'll
13064                      * still pick up an extra +6 from the default
13065                      * precision calculation below. */
13066                     STRLEN digits =
13067 #ifdef LONGDOUBLE_DOUBLEDOUBLE
13068                         /* For the "double double", we need more.
13069                          * Since each double has their own exponent, the
13070                          * doubles may float (haha) rather far from each
13071                          * other, and the number of required bits is much
13072                          * larger, up to total of DOUBLEDOUBLE_MAXBITS bits.
13073                          * See the definition of DOUBLEDOUBLE_MAXBITS.
13074                          *
13075                          * Need 2 hexdigits for each byte. */
13076                         (DOUBLEDOUBLE_MAXBITS/8 + 1) * 2;
13077 #else
13078                         NVSIZE * 2; /* 2 hexdigits for each byte */
13079 #endif
13080                     /* see "this can't overflow" comment above */
13081                     assert(float_need < ((STRLEN)~0) - digits);
13082                     float_need += digits;
13083                 }
13084             }
13085             /* special-case "%.<number>g" if it will fit in ebuf */
13086             else if (c == 'g'
13087                 && precis   /* See earlier comment about buggy Gconvert
13088                                when digits, aka precis, is 0  */
13089                 && has_precis
13090                 /* check, in manner not involving wrapping, that it will
13091                  * fit in ebuf  */
13092                 && float_need < sizeof(ebuf)
13093                 && sizeof(ebuf) - float_need > precis
13094                 && !(width || left || plus || alt)
13095                 && !fill
13096                 && intsize != 'q'
13097             ) {
13098                 WITH_LC_NUMERIC_SET_TO_NEEDED_IN(in_lc_numeric,
13099                     SNPRINTF_G(fv, ebuf, sizeof(ebuf), precis)
13100                 );
13101                 elen = strlen(ebuf);
13102                 eptr = ebuf;
13103                 goto float_concat;
13104             }
13105
13106
13107             {
13108                 STRLEN pr = has_precis ? precis : 6; /* known default */
13109                 /* this probably can't wrap, since precis is limited
13110                  * to 1/4 address space size, but better safe than sorry
13111                  */
13112                 if (float_need >= ((STRLEN)~0) - pr)
13113                     croak_memory_wrap();
13114                 float_need += pr;
13115             }
13116
13117             if (float_need < width)
13118                 float_need = width;
13119
13120             if (float_need > INT_MAX) {
13121                 /* snprintf() returns an int, and we use that return value,
13122                    so die horribly if the expected size is too large for int
13123                 */
13124                 Perl_croak(aTHX_ "Numeric format result too large");
13125             }
13126
13127             if (PL_efloatsize <= float_need) {
13128                 /* PL_efloatbuf should be at least 1 greater than
13129                  * float_need to allow a trailing \0 to be returned by
13130                  * snprintf().  If we need to grow, overgrow for the
13131                  * benefit of future generations */
13132                 const STRLEN extra = 0x20;
13133                 if (float_need >= ((STRLEN)~0) - extra)
13134                     croak_memory_wrap();
13135                 float_need += extra;
13136                 Safefree(PL_efloatbuf);
13137                 PL_efloatsize = float_need;
13138                 Newx(PL_efloatbuf, PL_efloatsize, char);
13139                 PL_efloatbuf[0] = '\0';
13140             }
13141
13142             if (UNLIKELY(hexfp)) {
13143                 elen = S_format_hexfp(aTHX_ PL_efloatbuf, PL_efloatsize, c,
13144                                 nv, fv, has_precis, precis, width,
13145                                 alt, plus, left, fill, in_lc_numeric);
13146             }
13147             else {
13148                 char *ptr = ebuf + sizeof ebuf;
13149                 *--ptr = '\0';
13150                 *--ptr = c;
13151 #if defined(USE_QUADMATH)
13152                 if (intsize == 'q') {
13153                     /* "g" -> "Qg" */
13154                     *--ptr = 'Q';
13155                 }
13156                 /* FIXME: what to do if HAS_LONG_DOUBLE but not PERL_PRIfldbl? */
13157 #elif defined(HAS_LONG_DOUBLE) && defined(PERL_PRIfldbl)
13158                 /* Note that this is HAS_LONG_DOUBLE and PERL_PRIfldbl,
13159                  * not USE_LONG_DOUBLE and NVff.  In other words,
13160                  * this needs to work without USE_LONG_DOUBLE. */
13161                 if (intsize == 'q') {
13162                     /* Copy the one or more characters in a long double
13163                      * format before the 'base' ([efgEFG]) character to
13164                      * the format string. */
13165                     static char const ldblf[] = PERL_PRIfldbl;
13166                     char const *p = ldblf + sizeof(ldblf) - 3;
13167                     while (p >= ldblf) { *--ptr = *p--; }
13168                 }
13169 #endif
13170                 if (has_precis) {
13171                     base = precis;
13172                     do { *--ptr = '0' + (base % 10); } while (base /= 10);
13173                     *--ptr = '.';
13174                 }
13175                 if (width) {
13176                     base = width;
13177                     do { *--ptr = '0' + (base % 10); } while (base /= 10);
13178                 }
13179                 if (fill)
13180                     *--ptr = '0';
13181                 if (left)
13182                     *--ptr = '-';
13183                 if (plus)
13184                     *--ptr = plus;
13185                 if (alt)
13186                     *--ptr = '#';
13187                 *--ptr = '%';
13188
13189                 /* No taint.  Otherwise we are in the strange situation
13190                  * where printf() taints but print($float) doesn't.
13191                  * --jhi */
13192
13193                 /* hopefully the above makes ptr a very constrained format
13194                  * that is safe to use, even though it's not literal */
13195                 GCC_DIAG_IGNORE_STMT(-Wformat-nonliteral);
13196 #ifdef USE_QUADMATH
13197                 {
13198                     const char* qfmt = quadmath_format_single(ptr);
13199                     if (!qfmt)
13200                         Perl_croak_nocontext("panic: quadmath invalid format \"%s\"", ptr);
13201                     WITH_LC_NUMERIC_SET_TO_NEEDED_IN(in_lc_numeric,
13202                         elen = quadmath_snprintf(PL_efloatbuf, PL_efloatsize,
13203                                                  qfmt, nv);
13204                     );
13205                     if ((IV)elen == -1) {
13206                         if (qfmt != ptr)
13207                             SAVEFREEPV(qfmt);
13208                         Perl_croak_nocontext("panic: quadmath_snprintf failed, format \"%s\"", qfmt);
13209                     }
13210                     if (qfmt != ptr)
13211                         Safefree(qfmt);
13212                 }
13213 #elif defined(HAS_LONG_DOUBLE)
13214                 WITH_LC_NUMERIC_SET_TO_NEEDED_IN(in_lc_numeric,
13215                     elen = ((intsize == 'q')
13216                             ? my_snprintf(PL_efloatbuf, PL_efloatsize, ptr, fv)
13217                             : my_snprintf(PL_efloatbuf, PL_efloatsize, ptr, (double)fv))
13218                 );
13219 #else
13220                 WITH_LC_NUMERIC_SET_TO_NEEDED_IN(in_lc_numeric,
13221                     elen = my_snprintf(PL_efloatbuf, PL_efloatsize, ptr, fv)
13222                 );
13223 #endif
13224                 GCC_DIAG_RESTORE_STMT;
13225             }
13226
13227             eptr = PL_efloatbuf;
13228
13229           float_concat:
13230
13231             /* Since floating-point formats do their own formatting and
13232              * padding, we skip the main block of code at the end of this
13233              * loop which handles appending eptr to sv, and do our own
13234              * stripped-down version */
13235
13236             assert(!zeros);
13237             assert(!esignlen);
13238             assert(elen);
13239             assert(elen >= width);
13240
13241             S_sv_catpvn_simple(aTHX_ sv, eptr, elen);
13242
13243             goto done_valid_conversion;
13244         }
13245
13246             /* SPECIAL */
13247
13248         case 'n':
13249             {
13250                 STRLEN len;
13251                 /* XXX ideally we should warn if any flags etc have been
13252                  * set, e.g. "%-4.5n" */
13253                 /* XXX if sv was originally non-utf8 with a char in the
13254                  * range 0x80-0xff, then if it got upgraded, we should
13255                  * calculate char len rather than byte len here */
13256                 len = SvCUR(sv) - origlen;
13257                 if (args) {
13258                     int i = (len > PERL_INT_MAX) ? PERL_INT_MAX : (int)len;
13259
13260                     switch (intsize) {
13261                     case 'c':  *(va_arg(*args, char*))      = i; break;
13262                     case 'h':  *(va_arg(*args, short*))     = i; break;
13263                     default:   *(va_arg(*args, int*))       = i; break;
13264                     case 'l':  *(va_arg(*args, long*))      = i; break;
13265                     case 'V':  *(va_arg(*args, IV*))        = i; break;
13266                     case 'z':  *(va_arg(*args, SSize_t*))   = i; break;
13267 #ifdef HAS_PTRDIFF_T
13268                     case 't':  *(va_arg(*args, ptrdiff_t*)) = i; break;
13269 #endif
13270                     case 'j':  *(va_arg(*args, PERL_INTMAX_T*)) = i; break;
13271                     case 'q':
13272 #if IVSIZE >= 8
13273                                *(va_arg(*args, Quad_t*))    = i; break;
13274 #else
13275                                goto unknown;
13276 #endif
13277                     }
13278                 }
13279                 else {
13280                     if (arg_missing)
13281                         Perl_croak_nocontext(
13282                             "Missing argument for %%n in %s",
13283                                 PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
13284                     sv_setuv_mg(argsv, has_utf8
13285                         ? (UV)utf8_length((U8*)SvPVX(sv), (U8*)SvEND(sv))
13286                         : (UV)len);
13287                 }
13288                 goto done_valid_conversion;
13289             }
13290
13291             /* UNKNOWN */
13292
13293         default:
13294       unknown:
13295             if (!args
13296                 && (PL_op->op_type == OP_PRTF || PL_op->op_type == OP_SPRINTF)
13297                 && ckWARN(WARN_PRINTF))
13298             {
13299                 SV * const msg = sv_newmortal();
13300                 Perl_sv_setpvf(aTHX_ msg, "Invalid conversion in %sprintf: ",
13301                           (PL_op->op_type == OP_PRTF) ? "" : "s");
13302                 if (fmtstart < patend) {
13303                     const char * const fmtend = q < patend ? q : patend;
13304                     const char * f;
13305                     sv_catpvs(msg, "\"%");
13306                     for (f = fmtstart; f < fmtend; f++) {
13307                         if (isPRINT(*f)) {
13308                             sv_catpvn_nomg(msg, f, 1);
13309                         } else {
13310                             Perl_sv_catpvf(aTHX_ msg,
13311                                            "\\%03" UVof, (UV)*f & 0xFF);
13312                         }
13313                     }
13314                     sv_catpvs(msg, "\"");
13315                 } else {
13316                     sv_catpvs(msg, "end of string");
13317                 }
13318                 Perl_warner(aTHX_ packWARN(WARN_PRINTF), "%" SVf, SVfARG(msg)); /* yes, this is reentrant */
13319             }
13320
13321             /* mangled format: output the '%', then continue from the
13322              * character following that */
13323             sv_catpvn_nomg(sv, fmtstart-1, 1);
13324             q = fmtstart;
13325             svix = osvix;
13326             /* Any "redundant arg" warning from now onwards will probably
13327              * just be misleading, so don't bother. */
13328             no_redundant_warning = TRUE;
13329             continue;   /* not "break" */
13330         }
13331
13332         if (is_utf8 != has_utf8) {
13333             if (is_utf8) {
13334                 if (SvCUR(sv))
13335                     sv_utf8_upgrade(sv);
13336             }
13337             else {
13338                 const STRLEN old_elen = elen;
13339                 SV * const nsv = newSVpvn_flags(eptr, elen, SVs_TEMP);
13340                 sv_utf8_upgrade(nsv);
13341                 eptr = SvPVX_const(nsv);
13342                 elen = SvCUR(nsv);
13343
13344                 if (width) { /* fudge width (can't fudge elen) */
13345                     width += elen - old_elen;
13346                 }
13347                 is_utf8 = TRUE;
13348             }
13349         }
13350
13351
13352         /* append esignbuf, filler, zeros, eptr and dotstr to sv */
13353
13354         {
13355             STRLEN need, have, gap;
13356             STRLEN i;
13357             char *s;
13358
13359             /* signed value that's wrapped? */
13360             assert(elen  <= ((~(STRLEN)0) >> 1));
13361
13362             /* if zeros is non-zero, then it represents filler between
13363              * elen and precis. So adding elen and zeros together will
13364              * always be <= precis, and the addition can never wrap */
13365             assert(!zeros || (precis > elen && precis - elen == zeros));
13366             have = elen + zeros;
13367
13368             if (have >= (((STRLEN)~0) - esignlen))
13369                 croak_memory_wrap();
13370             have += esignlen;
13371
13372             need = (have > width ? have : width);
13373             gap = need - have;
13374
13375             if (need >= (((STRLEN)~0) - (SvCUR(sv) + 1)))
13376                 croak_memory_wrap();
13377             need += (SvCUR(sv) + 1);
13378
13379             SvGROW(sv, need);
13380
13381             s = SvEND(sv);
13382
13383             if (left) {
13384                 for (i = 0; i < esignlen; i++)
13385                     *s++ = esignbuf[i];
13386                 for (i = zeros; i; i--)
13387                     *s++ = '0';
13388                 Copy(eptr, s, elen, char);
13389                 s += elen;
13390                 for (i = gap; i; i--)
13391                     *s++ = ' ';
13392             }
13393             else {
13394                 if (fill) {
13395                     for (i = 0; i < esignlen; i++)
13396                         *s++ = esignbuf[i];
13397                     assert(!zeros);
13398                     zeros = gap;
13399                 }
13400                 else {
13401                     for (i = gap; i; i--)
13402                         *s++ = ' ';
13403                     for (i = 0; i < esignlen; i++)
13404                         *s++ = esignbuf[i];
13405                 }
13406
13407                 for (i = zeros; i; i--)
13408                     *s++ = '0';
13409                 Copy(eptr, s, elen, char);
13410                 s += elen;
13411             }
13412
13413             *s = '\0';
13414             SvCUR_set(sv, s - SvPVX_const(sv));
13415
13416             if (is_utf8)
13417                 has_utf8 = TRUE;
13418             if (has_utf8)
13419                 SvUTF8_on(sv);
13420         }
13421
13422         if (vectorize && veclen) {
13423             /* we append the vector separator separately since %v isn't
13424              * very common: don't slow down the general case by adding
13425              * dotstrlen to need etc */
13426             sv_catpvn_nomg(sv, dotstr, dotstrlen);
13427             esignlen = 0;
13428             goto vector; /* do next iteration */
13429         }
13430
13431       done_valid_conversion:
13432
13433         if (arg_missing)
13434             S_warn_vcatpvfn_missing_argument(aTHX);
13435     }
13436
13437     /* Now that we've consumed all our printf format arguments (svix)
13438      * do we have things left on the stack that we didn't use?
13439      */
13440     if (!no_redundant_warning && sv_count >= svix + 1 && ckWARN(WARN_REDUNDANT)) {
13441         Perl_warner(aTHX_ packWARN(WARN_REDUNDANT), "Redundant argument in %s",
13442                 PL_op ? OP_DESC(PL_op) : "sv_vcatpvfn()");
13443     }
13444
13445     if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
13446         /* while we shouldn't set the cache, it may have been previously
13447            set in the caller, so clear it */
13448         MAGIC *mg = mg_find(sv, PERL_MAGIC_utf8);
13449         if (mg)
13450             magic_setutf8(sv,mg); /* clear UTF8 cache */
13451     }
13452     SvTAINT(sv);
13453 }
13454
13455 /* =========================================================================
13456
13457 =head1 Cloning an interpreter
13458
13459 =cut
13460
13461 All the macros and functions in this section are for the private use of
13462 the main function, perl_clone().
13463
13464 The foo_dup() functions make an exact copy of an existing foo thingy.
13465 During the course of a cloning, a hash table is used to map old addresses
13466 to new addresses.  The table is created and manipulated with the
13467 ptr_table_* functions.
13468
13469  * =========================================================================*/
13470
13471
13472 #if defined(USE_ITHREADS)
13473
13474 /* XXX Remove this so it doesn't have to go thru the macro and return for nothing */
13475 #ifndef GpREFCNT_inc
13476 #  define GpREFCNT_inc(gp)      ((gp) ? (++(gp)->gp_refcnt, (gp)) : (GP*)NULL)
13477 #endif
13478
13479
13480 /* Certain cases in Perl_ss_dup have been merged, by relying on the fact
13481    that currently av_dup, gv_dup and hv_dup are the same as sv_dup.
13482    If this changes, please unmerge ss_dup.
13483    Likewise, sv_dup_inc_multiple() relies on this fact.  */
13484 #define sv_dup_inc_NN(s,t)      SvREFCNT_inc_NN(sv_dup_inc(s,t))
13485 #define av_dup(s,t)     MUTABLE_AV(sv_dup((const SV *)s,t))
13486 #define av_dup_inc(s,t) MUTABLE_AV(sv_dup_inc((const SV *)s,t))
13487 #define hv_dup(s,t)     MUTABLE_HV(sv_dup((const SV *)s,t))
13488 #define hv_dup_inc(s,t) MUTABLE_HV(sv_dup_inc((const SV *)s,t))
13489 #define cv_dup(s,t)     MUTABLE_CV(sv_dup((const SV *)s,t))
13490 #define cv_dup_inc(s,t) MUTABLE_CV(sv_dup_inc((const SV *)s,t))
13491 #define io_dup(s,t)     MUTABLE_IO(sv_dup((const SV *)s,t))
13492 #define io_dup_inc(s,t) MUTABLE_IO(sv_dup_inc((const SV *)s,t))
13493 #define gv_dup(s,t)     MUTABLE_GV(sv_dup((const SV *)s,t))
13494 #define gv_dup_inc(s,t) MUTABLE_GV(sv_dup_inc((const SV *)s,t))
13495 #define SAVEPV(p)       ((p) ? savepv(p) : NULL)
13496 #define SAVEPVN(p,n)    ((p) ? savepvn(p,n) : NULL)
13497
13498 /* clone a parser */
13499
13500 yy_parser *
13501 Perl_parser_dup(pTHX_ const yy_parser *const proto, CLONE_PARAMS *const param)
13502 {
13503     yy_parser *parser;
13504
13505     PERL_ARGS_ASSERT_PARSER_DUP;
13506
13507     if (!proto)
13508         return NULL;
13509
13510     /* look for it in the table first */
13511     parser = (yy_parser *)ptr_table_fetch(PL_ptr_table, proto);
13512     if (parser)
13513         return parser;
13514
13515     /* create anew and remember what it is */
13516     Newxz(parser, 1, yy_parser);
13517     ptr_table_store(PL_ptr_table, proto, parser);
13518
13519     /* XXX eventually, just Copy() most of the parser struct ? */
13520
13521     parser->lex_brackets = proto->lex_brackets;
13522     parser->lex_casemods = proto->lex_casemods;
13523     parser->lex_brackstack = savepvn(proto->lex_brackstack,
13524                     (proto->lex_brackets < 120 ? 120 : proto->lex_brackets));
13525     parser->lex_casestack = savepvn(proto->lex_casestack,
13526                     (proto->lex_casemods < 12 ? 12 : proto->lex_casemods));
13527     parser->lex_defer   = proto->lex_defer;
13528     parser->lex_dojoin  = proto->lex_dojoin;
13529     parser->lex_formbrack = proto->lex_formbrack;
13530     parser->lex_inpat   = proto->lex_inpat;
13531     parser->lex_inwhat  = proto->lex_inwhat;
13532     parser->lex_op      = proto->lex_op;
13533     parser->lex_repl    = sv_dup_inc(proto->lex_repl, param);
13534     parser->lex_starts  = proto->lex_starts;
13535     parser->lex_stuff   = sv_dup_inc(proto->lex_stuff, param);
13536     parser->multi_close = proto->multi_close;
13537     parser->multi_open  = proto->multi_open;
13538     parser->multi_start = proto->multi_start;
13539     parser->multi_end   = proto->multi_end;
13540     parser->preambled   = proto->preambled;
13541     parser->lex_super_state = proto->lex_super_state;
13542     parser->lex_sub_inwhat  = proto->lex_sub_inwhat;
13543     parser->lex_sub_op  = proto->lex_sub_op;
13544     parser->lex_sub_repl= sv_dup_inc(proto->lex_sub_repl, param);
13545     parser->linestr     = sv_dup_inc(proto->linestr, param);
13546     parser->expect      = proto->expect;
13547     parser->copline     = proto->copline;
13548     parser->last_lop_op = proto->last_lop_op;
13549     parser->lex_state   = proto->lex_state;
13550     parser->rsfp        = fp_dup(proto->rsfp, '<', param);
13551     /* rsfp_filters entries have fake IoDIRP() */
13552     parser->rsfp_filters= av_dup_inc(proto->rsfp_filters, param);
13553     parser->in_my       = proto->in_my;
13554     parser->in_my_stash = hv_dup(proto->in_my_stash, param);
13555     parser->error_count = proto->error_count;
13556     parser->sig_elems   = proto->sig_elems;
13557     parser->sig_optelems= proto->sig_optelems;
13558     parser->sig_slurpy  = proto->sig_slurpy;
13559     parser->recheck_utf8_validity = proto->recheck_utf8_validity;
13560
13561     {
13562         char * const ols = SvPVX(proto->linestr);
13563         char * const ls  = SvPVX(parser->linestr);
13564
13565         parser->bufptr      = ls + (proto->bufptr >= ols ?
13566                                     proto->bufptr -  ols : 0);
13567         parser->oldbufptr   = ls + (proto->oldbufptr >= ols ?
13568                                     proto->oldbufptr -  ols : 0);
13569         parser->oldoldbufptr= ls + (proto->oldoldbufptr >= ols ?
13570                                     proto->oldoldbufptr -  ols : 0);
13571         parser->linestart   = ls + (proto->linestart >= ols ?
13572                                     proto->linestart -  ols : 0);
13573         parser->last_uni    = ls + (proto->last_uni >= ols ?
13574                                     proto->last_uni -  ols : 0);
13575         parser->last_lop    = ls + (proto->last_lop >= ols ?
13576                                     proto->last_lop -  ols : 0);
13577
13578         parser->bufend      = ls + SvCUR(parser->linestr);
13579     }
13580
13581     Copy(proto->tokenbuf, parser->tokenbuf, 256, char);
13582
13583
13584     Copy(proto->nextval, parser->nextval, 5, YYSTYPE);
13585     Copy(proto->nexttype, parser->nexttype, 5,  I32);
13586     parser->nexttoke    = proto->nexttoke;
13587
13588     /* XXX should clone saved_curcop here, but we aren't passed
13589      * proto_perl; so do it in perl_clone_using instead */
13590
13591     return parser;
13592 }
13593
13594
13595 /* duplicate a file handle */
13596
13597 PerlIO *
13598 Perl_fp_dup(pTHX_ PerlIO *const fp, const char type, CLONE_PARAMS *const param)
13599 {
13600     PerlIO *ret;
13601
13602     PERL_ARGS_ASSERT_FP_DUP;
13603     PERL_UNUSED_ARG(type);
13604
13605     if (!fp)
13606         return (PerlIO*)NULL;
13607
13608     /* look for it in the table first */
13609     ret = (PerlIO*)ptr_table_fetch(PL_ptr_table, fp);
13610     if (ret)
13611         return ret;
13612
13613     /* create anew and remember what it is */
13614 #ifdef __amigaos4__
13615     ret = PerlIO_fdupopen(aTHX_ fp, param, PERLIO_DUP_CLONE|PERLIO_DUP_FD);
13616 #else
13617     ret = PerlIO_fdupopen(aTHX_ fp, param, PERLIO_DUP_CLONE);
13618 #endif
13619     ptr_table_store(PL_ptr_table, fp, ret);
13620     return ret;
13621 }
13622
13623 /* duplicate a directory handle */
13624
13625 DIR *
13626 Perl_dirp_dup(pTHX_ DIR *const dp, CLONE_PARAMS *const param)
13627 {
13628     DIR *ret;
13629
13630 #if defined(HAS_FCHDIR) && defined(HAS_TELLDIR) && defined(HAS_SEEKDIR)
13631     DIR *pwd;
13632     const Direntry_t *dirent;
13633     char smallbuf[256]; /* XXX MAXPATHLEN, surely? */
13634     char *name = NULL;
13635     STRLEN len = 0;
13636     long pos;
13637 #endif
13638
13639     PERL_UNUSED_CONTEXT;
13640     PERL_ARGS_ASSERT_DIRP_DUP;
13641
13642     if (!dp)
13643         return (DIR*)NULL;
13644
13645     /* look for it in the table first */
13646     ret = (DIR*)ptr_table_fetch(PL_ptr_table, dp);
13647     if (ret)
13648         return ret;
13649
13650 #if defined(HAS_FCHDIR) && defined(HAS_TELLDIR) && defined(HAS_SEEKDIR)
13651
13652     PERL_UNUSED_ARG(param);
13653
13654     /* create anew */
13655
13656     /* open the current directory (so we can switch back) */
13657     if (!(pwd = PerlDir_open("."))) return (DIR *)NULL;
13658
13659     /* chdir to our dir handle and open the present working directory */
13660     if (fchdir(my_dirfd(dp)) < 0 || !(ret = PerlDir_open("."))) {
13661         PerlDir_close(pwd);
13662         return (DIR *)NULL;
13663     }
13664     /* Now we should have two dir handles pointing to the same dir. */
13665
13666     /* Be nice to the calling code and chdir back to where we were. */
13667     /* XXX If this fails, then what? */
13668     PERL_UNUSED_RESULT(fchdir(my_dirfd(pwd)));
13669
13670     /* We have no need of the pwd handle any more. */
13671     PerlDir_close(pwd);
13672
13673 #ifdef DIRNAMLEN
13674 # define d_namlen(d) (d)->d_namlen
13675 #else
13676 # define d_namlen(d) strlen((d)->d_name)
13677 #endif
13678     /* Iterate once through dp, to get the file name at the current posi-
13679        tion. Then step back. */
13680     pos = PerlDir_tell(dp);
13681     if ((dirent = PerlDir_read(dp))) {
13682         len = d_namlen(dirent);
13683         if (len > sizeof(dirent->d_name) && sizeof(dirent->d_name) > PTRSIZE) {
13684             /* If the len is somehow magically longer than the
13685              * maximum length of the directory entry, even though
13686              * we could fit it in a buffer, we could not copy it
13687              * from the dirent.  Bail out. */
13688             PerlDir_close(ret);
13689             return (DIR*)NULL;
13690         }
13691         if (len <= sizeof smallbuf) name = smallbuf;
13692         else Newx(name, len, char);
13693         Move(dirent->d_name, name, len, char);
13694     }
13695     PerlDir_seek(dp, pos);
13696
13697     /* Iterate through the new dir handle, till we find a file with the
13698        right name. */
13699     if (!dirent) /* just before the end */
13700         for(;;) {
13701             pos = PerlDir_tell(ret);
13702             if (PerlDir_read(ret)) continue; /* not there yet */
13703             PerlDir_seek(ret, pos); /* step back */
13704             break;
13705         }
13706     else {
13707         const long pos0 = PerlDir_tell(ret);
13708         for(;;) {
13709             pos = PerlDir_tell(ret);
13710             if ((dirent = PerlDir_read(ret))) {
13711                 if (len == (STRLEN)d_namlen(dirent)
13712                     && memEQ(name, dirent->d_name, len)) {
13713                     /* found it */
13714                     PerlDir_seek(ret, pos); /* step back */
13715                     break;
13716                 }
13717                 /* else we are not there yet; keep iterating */
13718             }
13719             else { /* This is not meant to happen. The best we can do is
13720                       reset the iterator to the beginning. */
13721                 PerlDir_seek(ret, pos0);
13722                 break;
13723             }
13724         }
13725     }
13726 #undef d_namlen
13727
13728     if (name && name != smallbuf)
13729         Safefree(name);
13730 #endif
13731
13732 #ifdef WIN32
13733     ret = win32_dirp_dup(dp, param);
13734 #endif
13735
13736     /* pop it in the pointer table */
13737     if (ret)
13738         ptr_table_store(PL_ptr_table, dp, ret);
13739
13740     return ret;
13741 }
13742
13743 /* duplicate a typeglob */
13744
13745 GP *
13746 Perl_gp_dup(pTHX_ GP *const gp, CLONE_PARAMS *const param)
13747 {
13748     GP *ret;
13749
13750     PERL_ARGS_ASSERT_GP_DUP;
13751
13752     if (!gp)
13753         return (GP*)NULL;
13754     /* look for it in the table first */
13755     ret = (GP*)ptr_table_fetch(PL_ptr_table, gp);
13756     if (ret)
13757         return ret;
13758
13759     /* create anew and remember what it is */
13760     Newxz(ret, 1, GP);
13761     ptr_table_store(PL_ptr_table, gp, ret);
13762
13763     /* clone */
13764     /* ret->gp_refcnt must be 0 before any other dups are called. We're relying
13765        on Newxz() to do this for us.  */
13766     ret->gp_sv          = sv_dup_inc(gp->gp_sv, param);
13767     ret->gp_io          = io_dup_inc(gp->gp_io, param);
13768     ret->gp_form        = cv_dup_inc(gp->gp_form, param);
13769     ret->gp_av          = av_dup_inc(gp->gp_av, param);
13770     ret->gp_hv          = hv_dup_inc(gp->gp_hv, param);
13771     ret->gp_egv = gv_dup(gp->gp_egv, param);/* GvEGV is not refcounted */
13772     ret->gp_cv          = cv_dup_inc(gp->gp_cv, param);
13773     ret->gp_cvgen       = gp->gp_cvgen;
13774     ret->gp_line        = gp->gp_line;
13775     ret->gp_file_hek    = hek_dup(gp->gp_file_hek, param);
13776     return ret;
13777 }
13778
13779 /* duplicate a chain of magic */
13780
13781 MAGIC *
13782 Perl_mg_dup(pTHX_ MAGIC *mg, CLONE_PARAMS *const param)
13783 {
13784     MAGIC *mgret = NULL;
13785     MAGIC **mgprev_p = &mgret;
13786
13787     PERL_ARGS_ASSERT_MG_DUP;
13788
13789     for (; mg; mg = mg->mg_moremagic) {
13790         MAGIC *nmg;
13791
13792         if ((param->flags & CLONEf_JOIN_IN)
13793                 && mg->mg_type == PERL_MAGIC_backref)
13794             /* when joining, we let the individual SVs add themselves to
13795              * backref as needed. */
13796             continue;
13797
13798         Newx(nmg, 1, MAGIC);
13799         *mgprev_p = nmg;
13800         mgprev_p = &(nmg->mg_moremagic);
13801
13802         /* There was a comment "XXX copy dynamic vtable?" but as we don't have
13803            dynamic vtables, I'm not sure why Sarathy wrote it. The comment dates
13804            from the original commit adding Perl_mg_dup() - revision 4538.
13805            Similarly there is the annotation "XXX random ptr?" next to the
13806            assignment to nmg->mg_ptr.  */
13807         *nmg = *mg;
13808
13809         /* FIXME for plugins
13810         if (nmg->mg_type == PERL_MAGIC_qr) {
13811             nmg->mg_obj = MUTABLE_SV(CALLREGDUPE((REGEXP*)nmg->mg_obj, param));
13812         }
13813         else
13814         */
13815         nmg->mg_obj = (nmg->mg_flags & MGf_REFCOUNTED)
13816                           ? nmg->mg_type == PERL_MAGIC_backref
13817                                 /* The backref AV has its reference
13818                                  * count deliberately bumped by 1 */
13819                                 ? SvREFCNT_inc(av_dup_inc((const AV *)
13820                                                     nmg->mg_obj, param))
13821                                 : sv_dup_inc(nmg->mg_obj, param)
13822                           : (nmg->mg_type == PERL_MAGIC_regdatum ||
13823                              nmg->mg_type == PERL_MAGIC_regdata)
13824                                   ? nmg->mg_obj
13825                                   : sv_dup(nmg->mg_obj, param);
13826
13827         if (nmg->mg_ptr && nmg->mg_type != PERL_MAGIC_regex_global) {
13828             if (nmg->mg_len > 0) {
13829                 nmg->mg_ptr     = SAVEPVN(nmg->mg_ptr, nmg->mg_len);
13830                 if (nmg->mg_type == PERL_MAGIC_overload_table &&
13831                         AMT_AMAGIC((AMT*)nmg->mg_ptr))
13832                 {
13833                     AMT * const namtp = (AMT*)nmg->mg_ptr;
13834                     sv_dup_inc_multiple((SV**)(namtp->table),
13835                                         (SV**)(namtp->table), NofAMmeth, param);
13836                 }
13837             }
13838             else if (nmg->mg_len == HEf_SVKEY)
13839                 nmg->mg_ptr = (char*)sv_dup_inc((const SV *)nmg->mg_ptr, param);
13840         }
13841         if ((nmg->mg_flags & MGf_DUP) && nmg->mg_virtual && nmg->mg_virtual->svt_dup) {
13842             nmg->mg_virtual->svt_dup(aTHX_ nmg, param);
13843         }
13844     }
13845     return mgret;
13846 }
13847
13848 #endif /* USE_ITHREADS */
13849
13850 struct ptr_tbl_arena {
13851     struct ptr_tbl_arena *next;
13852     struct ptr_tbl_ent array[1023/3]; /* as ptr_tbl_ent has 3 pointers.  */
13853 };
13854
13855 /* create a new pointer-mapping table */
13856
13857 PTR_TBL_t *
13858 Perl_ptr_table_new(pTHX)
13859 {
13860     PTR_TBL_t *tbl;
13861     PERL_UNUSED_CONTEXT;
13862
13863     Newx(tbl, 1, PTR_TBL_t);
13864     tbl->tbl_max        = 511;
13865     tbl->tbl_items      = 0;
13866     tbl->tbl_arena      = NULL;
13867     tbl->tbl_arena_next = NULL;
13868     tbl->tbl_arena_end  = NULL;
13869     Newxz(tbl->tbl_ary, tbl->tbl_max + 1, PTR_TBL_ENT_t*);
13870     return tbl;
13871 }
13872
13873 #define PTR_TABLE_HASH(ptr) \
13874   ((PTR2UV(ptr) >> 3) ^ (PTR2UV(ptr) >> (3 + 7)) ^ (PTR2UV(ptr) >> (3 + 17)))
13875
13876 /* map an existing pointer using a table */
13877
13878 STATIC PTR_TBL_ENT_t *
13879 S_ptr_table_find(PTR_TBL_t *const tbl, const void *const sv)
13880 {
13881     PTR_TBL_ENT_t *tblent;
13882     const UV hash = PTR_TABLE_HASH(sv);
13883
13884     PERL_ARGS_ASSERT_PTR_TABLE_FIND;
13885
13886     tblent = tbl->tbl_ary[hash & tbl->tbl_max];
13887     for (; tblent; tblent = tblent->next) {
13888         if (tblent->oldval == sv)
13889             return tblent;
13890     }
13891     return NULL;
13892 }
13893
13894 void *
13895 Perl_ptr_table_fetch(pTHX_ PTR_TBL_t *const tbl, const void *const sv)
13896 {
13897     PTR_TBL_ENT_t const *const tblent = ptr_table_find(tbl, sv);
13898
13899     PERL_ARGS_ASSERT_PTR_TABLE_FETCH;
13900     PERL_UNUSED_CONTEXT;
13901
13902     return tblent ? tblent->newval : NULL;
13903 }
13904
13905 /* add a new entry to a pointer-mapping table 'tbl'.  In hash terms, 'oldsv' is
13906  * the key; 'newsv' is the value.  The names "old" and "new" are specific to
13907  * the core's typical use of ptr_tables in thread cloning. */
13908
13909 void
13910 Perl_ptr_table_store(pTHX_ PTR_TBL_t *const tbl, const void *const oldsv, void *const newsv)
13911 {
13912     PTR_TBL_ENT_t *tblent = ptr_table_find(tbl, oldsv);
13913
13914     PERL_ARGS_ASSERT_PTR_TABLE_STORE;
13915     PERL_UNUSED_CONTEXT;
13916
13917     if (tblent) {
13918         tblent->newval = newsv;
13919     } else {
13920         const UV entry = PTR_TABLE_HASH(oldsv) & tbl->tbl_max;
13921
13922         if (tbl->tbl_arena_next == tbl->tbl_arena_end) {
13923             struct ptr_tbl_arena *new_arena;
13924
13925             Newx(new_arena, 1, struct ptr_tbl_arena);
13926             new_arena->next = tbl->tbl_arena;
13927             tbl->tbl_arena = new_arena;
13928             tbl->tbl_arena_next = new_arena->array;
13929             tbl->tbl_arena_end = C_ARRAY_END(new_arena->array);
13930         }
13931
13932         tblent = tbl->tbl_arena_next++;
13933
13934         tblent->oldval = oldsv;
13935         tblent->newval = newsv;
13936         tblent->next = tbl->tbl_ary[entry];
13937         tbl->tbl_ary[entry] = tblent;
13938         tbl->tbl_items++;
13939         if (tblent->next && tbl->tbl_items > tbl->tbl_max)
13940             ptr_table_split(tbl);
13941     }
13942 }
13943
13944 /* double the hash bucket size of an existing ptr table */
13945
13946 void
13947 Perl_ptr_table_split(pTHX_ PTR_TBL_t *const tbl)
13948 {
13949     PTR_TBL_ENT_t **ary = tbl->tbl_ary;
13950     const UV oldsize = tbl->tbl_max + 1;
13951     UV newsize = oldsize * 2;
13952     UV i;
13953
13954     PERL_ARGS_ASSERT_PTR_TABLE_SPLIT;
13955     PERL_UNUSED_CONTEXT;
13956
13957     Renew(ary, newsize, PTR_TBL_ENT_t*);
13958     Zero(&ary[oldsize], newsize-oldsize, PTR_TBL_ENT_t*);
13959     tbl->tbl_max = --newsize;
13960     tbl->tbl_ary = ary;
13961     for (i=0; i < oldsize; i++, ary++) {
13962         PTR_TBL_ENT_t **entp = ary;
13963         PTR_TBL_ENT_t *ent = *ary;
13964         PTR_TBL_ENT_t **curentp;
13965         if (!ent)
13966             continue;
13967         curentp = ary + oldsize;
13968         do {
13969             if ((newsize & PTR_TABLE_HASH(ent->oldval)) != i) {
13970                 *entp = ent->next;
13971                 ent->next = *curentp;
13972                 *curentp = ent;
13973             }
13974             else
13975                 entp = &ent->next;
13976             ent = *entp;
13977         } while (ent);
13978     }
13979 }
13980
13981 /* remove all the entries from a ptr table */
13982 /* Deprecated - will be removed post 5.14 */
13983
13984 void
13985 Perl_ptr_table_clear(pTHX_ PTR_TBL_t *const tbl)
13986 {
13987     PERL_UNUSED_CONTEXT;
13988     if (tbl && tbl->tbl_items) {
13989         struct ptr_tbl_arena *arena = tbl->tbl_arena;
13990
13991         Zero(tbl->tbl_ary, tbl->tbl_max + 1, struct ptr_tbl_ent *);
13992
13993         while (arena) {
13994             struct ptr_tbl_arena *next = arena->next;
13995
13996             Safefree(arena);
13997             arena = next;
13998         };
13999
14000         tbl->tbl_items = 0;
14001         tbl->tbl_arena = NULL;
14002         tbl->tbl_arena_next = NULL;
14003         tbl->tbl_arena_end = NULL;
14004     }
14005 }
14006
14007 /* clear and free a ptr table */
14008
14009 void
14010 Perl_ptr_table_free(pTHX_ PTR_TBL_t *const tbl)
14011 {
14012     struct ptr_tbl_arena *arena;
14013
14014     PERL_UNUSED_CONTEXT;
14015
14016     if (!tbl) {
14017         return;
14018     }
14019
14020     arena = tbl->tbl_arena;
14021
14022     while (arena) {
14023         struct ptr_tbl_arena *next = arena->next;
14024
14025         Safefree(arena);
14026         arena = next;
14027     }
14028
14029     Safefree(tbl->tbl_ary);
14030     Safefree(tbl);
14031 }
14032
14033 #if defined(USE_ITHREADS)
14034
14035 void
14036 Perl_rvpv_dup(pTHX_ SV *const dstr, const SV *const sstr, CLONE_PARAMS *const param)
14037 {
14038     PERL_ARGS_ASSERT_RVPV_DUP;
14039
14040     assert(!isREGEXP(sstr));
14041     if (SvROK(sstr)) {
14042         if (SvWEAKREF(sstr)) {
14043             SvRV_set(dstr, sv_dup(SvRV_const(sstr), param));
14044             if (param->flags & CLONEf_JOIN_IN) {
14045                 /* if joining, we add any back references individually rather
14046                  * than copying the whole backref array */
14047                 Perl_sv_add_backref(aTHX_ SvRV(dstr), dstr);
14048             }
14049         }
14050         else
14051             SvRV_set(dstr, sv_dup_inc(SvRV_const(sstr), param));
14052     }
14053     else if (SvPVX_const(sstr)) {
14054         /* Has something there */
14055         if (SvLEN(sstr)) {
14056             /* Normal PV - clone whole allocated space */
14057             SvPV_set(dstr, SAVEPVN(SvPVX_const(sstr), SvLEN(sstr)-1));
14058             /* sstr may not be that normal, but actually copy on write.
14059                But we are a true, independent SV, so:  */
14060             SvIsCOW_off(dstr);
14061         }
14062         else {
14063             /* Special case - not normally malloced for some reason */
14064             if (isGV_with_GP(sstr)) {
14065                 /* Don't need to do anything here.  */
14066             }
14067             else if ((SvIsCOW(sstr))) {
14068                 /* A "shared" PV - clone it as "shared" PV */
14069                 SvPV_set(dstr,
14070                          HEK_KEY(hek_dup(SvSHARED_HEK_FROM_PV(SvPVX_const(sstr)),
14071                                          param)));
14072             }
14073             else {
14074                 /* Some other special case - random pointer */
14075                 SvPV_set(dstr, (char *) SvPVX_const(sstr));             
14076             }
14077         }
14078     }
14079     else {
14080         /* Copy the NULL */
14081         SvPV_set(dstr, NULL);
14082     }
14083 }
14084
14085 /* duplicate a list of SVs. source and dest may point to the same memory.  */
14086 static SV **
14087 S_sv_dup_inc_multiple(pTHX_ SV *const *source, SV **dest,
14088                       SSize_t items, CLONE_PARAMS *const param)
14089 {
14090     PERL_ARGS_ASSERT_SV_DUP_INC_MULTIPLE;
14091
14092     while (items-- > 0) {
14093         *dest++ = sv_dup_inc(*source++, param);
14094     }
14095
14096     return dest;
14097 }
14098
14099 /* duplicate an SV of any type (including AV, HV etc) */
14100
14101 static SV *
14102 S_sv_dup_common(pTHX_ const SV *const sstr, CLONE_PARAMS *const param)
14103 {
14104     dVAR;
14105     SV *dstr;
14106
14107     PERL_ARGS_ASSERT_SV_DUP_COMMON;
14108
14109     if (SvTYPE(sstr) == (svtype)SVTYPEMASK) {
14110 #ifdef DEBUG_LEAKING_SCALARS_ABORT
14111         abort();
14112 #endif
14113         return NULL;
14114     }
14115     /* look for it in the table first */
14116     dstr = MUTABLE_SV(ptr_table_fetch(PL_ptr_table, sstr));
14117     if (dstr)
14118         return dstr;
14119
14120     if(param->flags & CLONEf_JOIN_IN) {
14121         /** We are joining here so we don't want do clone
14122             something that is bad **/
14123         if (SvTYPE(sstr) == SVt_PVHV) {
14124             const HEK * const hvname = HvNAME_HEK(sstr);
14125             if (hvname) {
14126                 /** don't clone stashes if they already exist **/
14127                 dstr = MUTABLE_SV(gv_stashpvn(HEK_KEY(hvname), HEK_LEN(hvname),
14128                                                 HEK_UTF8(hvname) ? SVf_UTF8 : 0));
14129                 ptr_table_store(PL_ptr_table, sstr, dstr);
14130                 return dstr;
14131             }
14132         }
14133         else if (SvTYPE(sstr) == SVt_PVGV && !SvFAKE(sstr)) {
14134             HV *stash = GvSTASH(sstr);
14135             const HEK * hvname;
14136             if (stash && (hvname = HvNAME_HEK(stash))) {
14137                 /** don't clone GVs if they already exist **/
14138                 SV **svp;
14139                 stash = gv_stashpvn(HEK_KEY(hvname), HEK_LEN(hvname),
14140                                     HEK_UTF8(hvname) ? SVf_UTF8 : 0);
14141                 svp = hv_fetch(
14142                         stash, GvNAME(sstr),
14143                         GvNAMEUTF8(sstr)
14144                             ? -GvNAMELEN(sstr)
14145                             :  GvNAMELEN(sstr),
14146                         0
14147                       );
14148                 if (svp && *svp && SvTYPE(*svp) == SVt_PVGV) {
14149                     ptr_table_store(PL_ptr_table, sstr, *svp);
14150                     return *svp;
14151                 }
14152             }
14153         }
14154     }
14155
14156     /* create anew and remember what it is */
14157     new_SV(dstr);
14158
14159 #ifdef DEBUG_LEAKING_SCALARS
14160     dstr->sv_debug_optype = sstr->sv_debug_optype;
14161     dstr->sv_debug_line = sstr->sv_debug_line;
14162     dstr->sv_debug_inpad = sstr->sv_debug_inpad;
14163     dstr->sv_debug_parent = (SV*)sstr;
14164     FREE_SV_DEBUG_FILE(dstr);
14165     dstr->sv_debug_file = savesharedpv(sstr->sv_debug_file);
14166 #endif
14167
14168     ptr_table_store(PL_ptr_table, sstr, dstr);
14169
14170     /* clone */
14171     SvFLAGS(dstr)       = SvFLAGS(sstr);
14172     SvFLAGS(dstr)       &= ~SVf_OOK;            /* don't propagate OOK hack */
14173     SvREFCNT(dstr)      = 0;                    /* must be before any other dups! */
14174
14175 #ifdef DEBUGGING
14176     if (SvANY(sstr) && PL_watch_pvx && SvPVX_const(sstr) == PL_watch_pvx)
14177         PerlIO_printf(Perl_debug_log, "watch at %p hit, found string \"%s\"\n",
14178                       (void*)PL_watch_pvx, SvPVX_const(sstr));
14179 #endif
14180
14181     /* don't clone objects whose class has asked us not to */
14182     if (SvOBJECT(sstr)
14183      && ! (SvFLAGS(SvSTASH(sstr)) & SVphv_CLONEABLE))
14184     {
14185         SvFLAGS(dstr) = 0;
14186         return dstr;
14187     }
14188
14189     switch (SvTYPE(sstr)) {
14190     case SVt_NULL:
14191         SvANY(dstr)     = NULL;
14192         break;
14193     case SVt_IV:
14194         SET_SVANY_FOR_BODYLESS_IV(dstr);
14195         if(SvROK(sstr)) {
14196             Perl_rvpv_dup(aTHX_ dstr, sstr, param);
14197         } else {
14198             SvIV_set(dstr, SvIVX(sstr));
14199         }
14200         break;
14201     case SVt_NV:
14202 #if NVSIZE <= IVSIZE
14203         SET_SVANY_FOR_BODYLESS_NV(dstr);
14204 #else
14205         SvANY(dstr)     = new_XNV();
14206 #endif
14207         SvNV_set(dstr, SvNVX(sstr));
14208         break;
14209     default:
14210         {
14211             /* These are all the types that need complex bodies allocating.  */
14212             void *new_body;
14213             const svtype sv_type = SvTYPE(sstr);
14214             const struct body_details *const sv_type_details
14215                 = bodies_by_type + sv_type;
14216
14217             switch (sv_type) {
14218             default:
14219                 Perl_croak(aTHX_ "Bizarre SvTYPE [%" IVdf "]", (IV)SvTYPE(sstr));
14220                 NOT_REACHED; /* NOTREACHED */
14221                 break;
14222
14223             case SVt_PVGV:
14224             case SVt_PVIO:
14225             case SVt_PVFM:
14226             case SVt_PVHV:
14227             case SVt_PVAV:
14228             case SVt_PVCV:
14229             case SVt_PVLV:
14230             case SVt_REGEXP:
14231             case SVt_PVMG:
14232             case SVt_PVNV:
14233             case SVt_PVIV:
14234             case SVt_INVLIST:
14235             case SVt_PV:
14236                 assert(sv_type_details->body_size);
14237                 if (sv_type_details->arena) {
14238                     new_body_inline(new_body, sv_type);
14239                     new_body
14240                         = (void*)((char*)new_body - sv_type_details->offset);
14241                 } else {
14242                     new_body = new_NOARENA(sv_type_details);
14243                 }
14244             }
14245             assert(new_body);
14246             SvANY(dstr) = new_body;
14247
14248 #ifndef PURIFY
14249             Copy(((char*)SvANY(sstr)) + sv_type_details->offset,
14250                  ((char*)SvANY(dstr)) + sv_type_details->offset,
14251                  sv_type_details->copy, char);
14252 #else
14253             Copy(((char*)SvANY(sstr)),
14254                  ((char*)SvANY(dstr)),
14255                  sv_type_details->body_size + sv_type_details->offset, char);
14256 #endif
14257
14258             if (sv_type != SVt_PVAV && sv_type != SVt_PVHV
14259                 && !isGV_with_GP(dstr)
14260                 && !isREGEXP(dstr)
14261                 && !(sv_type == SVt_PVIO && !(IoFLAGS(dstr) & IOf_FAKE_DIRP)))
14262                 Perl_rvpv_dup(aTHX_ dstr, sstr, param);
14263
14264             /* The Copy above means that all the source (unduplicated) pointers
14265                are now in the destination.  We can check the flags and the
14266                pointers in either, but it's possible that there's less cache
14267                missing by always going for the destination.
14268                FIXME - instrument and check that assumption  */
14269             if (sv_type >= SVt_PVMG) {
14270                 if (SvMAGIC(dstr))
14271                     SvMAGIC_set(dstr, mg_dup(SvMAGIC(dstr), param));
14272                 if (SvOBJECT(dstr) && SvSTASH(dstr))
14273                     SvSTASH_set(dstr, hv_dup_inc(SvSTASH(dstr), param));
14274                 else SvSTASH_set(dstr, 0); /* don't copy DESTROY cache */
14275             }
14276
14277             /* The cast silences a GCC warning about unhandled types.  */
14278             switch ((int)sv_type) {
14279             case SVt_PV:
14280                 break;
14281             case SVt_PVIV:
14282                 break;
14283             case SVt_PVNV:
14284                 break;
14285             case SVt_PVMG:
14286                 break;
14287             case SVt_REGEXP:
14288               duprex:
14289                 /* FIXME for plugins */
14290                 re_dup_guts((REGEXP*) sstr, (REGEXP*) dstr, param);
14291                 break;
14292             case SVt_PVLV:
14293                 /* XXX LvTARGOFF sometimes holds PMOP* when DEBUGGING */
14294                 if (LvTYPE(dstr) == 't') /* for tie: unrefcnted fake (SV**) */
14295                     LvTARG(dstr) = dstr;
14296                 else if (LvTYPE(dstr) == 'T') /* for tie: fake HE */
14297                     LvTARG(dstr) = MUTABLE_SV(he_dup((HE*)LvTARG(dstr), 0, param));
14298                 else
14299                     LvTARG(dstr) = sv_dup_inc(LvTARG(dstr), param);
14300                 if (isREGEXP(sstr)) goto duprex;
14301                 /* FALLTHROUGH */
14302             case SVt_PVGV:
14303                 /* non-GP case already handled above */
14304                 if(isGV_with_GP(sstr)) {
14305                     GvNAME_HEK(dstr) = hek_dup(GvNAME_HEK(dstr), param);
14306                     /* Don't call sv_add_backref here as it's going to be
14307                        created as part of the magic cloning of the symbol
14308                        table--unless this is during a join and the stash
14309                        is not actually being cloned.  */
14310                     /* Danger Will Robinson - GvGP(dstr) isn't initialised
14311                        at the point of this comment.  */
14312                     GvSTASH(dstr) = hv_dup(GvSTASH(dstr), param);
14313                     if (param->flags & CLONEf_JOIN_IN)
14314                         Perl_sv_add_backref(aTHX_ MUTABLE_SV(GvSTASH(dstr)), dstr);
14315                     GvGP_set(dstr, gp_dup(GvGP(sstr), param));
14316                     (void)GpREFCNT_inc(GvGP(dstr));
14317                 }
14318                 break;
14319             case SVt_PVIO:
14320                 /* PL_parser->rsfp_filters entries have fake IoDIRP() */
14321                 if(IoFLAGS(dstr) & IOf_FAKE_DIRP) {
14322                     /* I have no idea why fake dirp (rsfps)
14323                        should be treated differently but otherwise
14324                        we end up with leaks -- sky*/
14325                     IoTOP_GV(dstr)      = gv_dup_inc(IoTOP_GV(dstr), param);
14326                     IoFMT_GV(dstr)      = gv_dup_inc(IoFMT_GV(dstr), param);
14327                     IoBOTTOM_GV(dstr)   = gv_dup_inc(IoBOTTOM_GV(dstr), param);
14328                 } else {
14329                     IoTOP_GV(dstr)      = gv_dup(IoTOP_GV(dstr), param);
14330                     IoFMT_GV(dstr)      = gv_dup(IoFMT_GV(dstr), param);
14331                     IoBOTTOM_GV(dstr)   = gv_dup(IoBOTTOM_GV(dstr), param);
14332                     if (IoDIRP(dstr)) {
14333                         IoDIRP(dstr)    = dirp_dup(IoDIRP(dstr), param);
14334                     } else {
14335                         NOOP;
14336                         /* IoDIRP(dstr) is already a copy of IoDIRP(sstr)  */
14337                     }
14338                     IoIFP(dstr) = fp_dup(IoIFP(sstr), IoTYPE(dstr), param);
14339                 }
14340                 if (IoOFP(dstr) == IoIFP(sstr))
14341                     IoOFP(dstr) = IoIFP(dstr);
14342                 else
14343                     IoOFP(dstr) = fp_dup(IoOFP(dstr), IoTYPE(dstr), param);
14344                 IoTOP_NAME(dstr)        = SAVEPV(IoTOP_NAME(dstr));
14345                 IoFMT_NAME(dstr)        = SAVEPV(IoFMT_NAME(dstr));
14346                 IoBOTTOM_NAME(dstr)     = SAVEPV(IoBOTTOM_NAME(dstr));
14347                 break;
14348             case SVt_PVAV:
14349                 /* avoid cloning an empty array */
14350                 if (AvARRAY((const AV *)sstr) && AvFILLp((const AV *)sstr) >= 0) {
14351                     SV **dst_ary, **src_ary;
14352                     SSize_t items = AvFILLp((const AV *)sstr) + 1;
14353
14354                     src_ary = AvARRAY((const AV *)sstr);
14355                     Newx(dst_ary, AvMAX((const AV *)sstr)+1, SV*);
14356                     ptr_table_store(PL_ptr_table, src_ary, dst_ary);
14357                     AvARRAY(MUTABLE_AV(dstr)) = dst_ary;
14358                     AvALLOC((const AV *)dstr) = dst_ary;
14359                     if (AvREAL((const AV *)sstr)) {
14360                         dst_ary = sv_dup_inc_multiple(src_ary, dst_ary, items,
14361                                                       param);
14362                     }
14363                     else {
14364                         while (items-- > 0)
14365                             *dst_ary++ = sv_dup(*src_ary++, param);
14366                     }
14367                     items = AvMAX((const AV *)sstr) - AvFILLp((const AV *)sstr);
14368                     while (items-- > 0) {
14369                         *dst_ary++ = NULL;
14370                     }
14371                 }
14372                 else {
14373                     AvARRAY(MUTABLE_AV(dstr))   = NULL;
14374                     AvALLOC((const AV *)dstr)   = (SV**)NULL;
14375                     AvMAX(  (const AV *)dstr)   = -1;
14376                     AvFILLp((const AV *)dstr)   = -1;
14377                 }
14378                 break;
14379             case SVt_PVHV:
14380                 if (HvARRAY((const HV *)sstr)) {
14381                     STRLEN i = 0;
14382                     const bool sharekeys = !!HvSHAREKEYS(sstr);
14383                     XPVHV * const dxhv = (XPVHV*)SvANY(dstr);
14384                     XPVHV * const sxhv = (XPVHV*)SvANY(sstr);
14385                     char *darray;
14386                     Newx(darray, PERL_HV_ARRAY_ALLOC_BYTES(dxhv->xhv_max+1)
14387                         + (SvOOK(sstr) ? sizeof(struct xpvhv_aux) : 0),
14388                         char);
14389                     HvARRAY(dstr) = (HE**)darray;
14390                     while (i <= sxhv->xhv_max) {
14391                         const HE * const source = HvARRAY(sstr)[i];
14392                         HvARRAY(dstr)[i] = source
14393                             ? he_dup(source, sharekeys, param) : 0;
14394                         ++i;
14395                     }
14396                     if (SvOOK(sstr)) {
14397                         const struct xpvhv_aux * const saux = HvAUX(sstr);
14398                         struct xpvhv_aux * const daux = HvAUX(dstr);
14399                         /* This flag isn't copied.  */
14400                         SvOOK_on(dstr);
14401
14402                         if (saux->xhv_name_count) {
14403                             HEK ** const sname = saux->xhv_name_u.xhvnameu_names;
14404                             const I32 count
14405                              = saux->xhv_name_count < 0
14406                                 ? -saux->xhv_name_count
14407                                 :  saux->xhv_name_count;
14408                             HEK **shekp = sname + count;
14409                             HEK **dhekp;
14410                             Newx(daux->xhv_name_u.xhvnameu_names, count, HEK *);
14411                             dhekp = daux->xhv_name_u.xhvnameu_names + count;
14412                             while (shekp-- > sname) {
14413                                 dhekp--;
14414                                 *dhekp = hek_dup(*shekp, param);
14415                             }
14416                         }
14417                         else {
14418                             daux->xhv_name_u.xhvnameu_name
14419                                 = hek_dup(saux->xhv_name_u.xhvnameu_name,
14420                                           param);
14421                         }
14422                         daux->xhv_name_count = saux->xhv_name_count;
14423
14424                         daux->xhv_aux_flags = saux->xhv_aux_flags;
14425 #ifdef PERL_HASH_RANDOMIZE_KEYS
14426                         daux->xhv_rand = saux->xhv_rand;
14427                         daux->xhv_last_rand = saux->xhv_last_rand;
14428 #endif
14429                         daux->xhv_riter = saux->xhv_riter;
14430                         daux->xhv_eiter = saux->xhv_eiter
14431                             ? he_dup(saux->xhv_eiter,
14432                                         cBOOL(HvSHAREKEYS(sstr)), param) : 0;
14433                         /* backref array needs refcnt=2; see sv_add_backref */
14434                         daux->xhv_backreferences =
14435                             (param->flags & CLONEf_JOIN_IN)
14436                                 /* when joining, we let the individual GVs and
14437                                  * CVs add themselves to backref as
14438                                  * needed. This avoids pulling in stuff
14439                                  * that isn't required, and simplifies the
14440                                  * case where stashes aren't cloned back
14441                                  * if they already exist in the parent
14442                                  * thread */
14443                             ? NULL
14444                             : saux->xhv_backreferences
14445                                 ? (SvTYPE(saux->xhv_backreferences) == SVt_PVAV)
14446                                     ? MUTABLE_AV(SvREFCNT_inc(
14447                                           sv_dup_inc((const SV *)
14448                                             saux->xhv_backreferences, param)))
14449                                     : MUTABLE_AV(sv_dup((const SV *)
14450                                             saux->xhv_backreferences, param))
14451                                 : 0;
14452
14453                         daux->xhv_mro_meta = saux->xhv_mro_meta
14454                             ? mro_meta_dup(saux->xhv_mro_meta, param)
14455                             : 0;
14456
14457                         /* Record stashes for possible cloning in Perl_clone(). */
14458                         if (HvNAME(sstr))
14459                             av_push(param->stashes, dstr);
14460                     }
14461                 }
14462                 else
14463                     HvARRAY(MUTABLE_HV(dstr)) = NULL;
14464                 break;
14465             case SVt_PVCV:
14466                 if (!(param->flags & CLONEf_COPY_STACKS)) {
14467                     CvDEPTH(dstr) = 0;
14468                 }
14469                 /* FALLTHROUGH */
14470             case SVt_PVFM:
14471                 /* NOTE: not refcounted */
14472                 SvANY(MUTABLE_CV(dstr))->xcv_stash =
14473                     hv_dup(CvSTASH(dstr), param);
14474                 if ((param->flags & CLONEf_JOIN_IN) && CvSTASH(dstr))
14475                     Perl_sv_add_backref(aTHX_ MUTABLE_SV(CvSTASH(dstr)), dstr);
14476                 if (!CvISXSUB(dstr)) {
14477                     OP_REFCNT_LOCK;
14478                     CvROOT(dstr) = OpREFCNT_inc(CvROOT(dstr));
14479                     OP_REFCNT_UNLOCK;
14480                     CvSLABBED_off(dstr);
14481                 } else if (CvCONST(dstr)) {
14482                     CvXSUBANY(dstr).any_ptr =
14483                         sv_dup_inc((const SV *)CvXSUBANY(dstr).any_ptr, param);
14484                 }
14485                 assert(!CvSLABBED(dstr));
14486                 if (CvDYNFILE(dstr)) CvFILE(dstr) = SAVEPV(CvFILE(dstr));
14487                 if (CvNAMED(dstr))
14488                     SvANY((CV *)dstr)->xcv_gv_u.xcv_hek =
14489                         hek_dup(CvNAME_HEK((CV *)sstr), param);
14490                 /* don't dup if copying back - CvGV isn't refcounted, so the
14491                  * duped GV may never be freed. A bit of a hack! DAPM */
14492                 else
14493                   SvANY(MUTABLE_CV(dstr))->xcv_gv_u.xcv_gv =
14494                     CvCVGV_RC(dstr)
14495                     ? gv_dup_inc(CvGV(sstr), param)
14496                     : (param->flags & CLONEf_JOIN_IN)
14497                         ? NULL
14498                         : gv_dup(CvGV(sstr), param);
14499
14500                 if (!CvISXSUB(sstr)) {
14501                     PADLIST * padlist = CvPADLIST(sstr);
14502                     if(padlist)
14503                         padlist = padlist_dup(padlist, param);
14504                     CvPADLIST_set(dstr, padlist);
14505                 } else
14506 /* unthreaded perl can't sv_dup so we dont support unthreaded's CvHSCXT */
14507                     PoisonPADLIST(dstr);
14508
14509                 CvOUTSIDE(dstr) =
14510                     CvWEAKOUTSIDE(sstr)
14511                     ? cv_dup(    CvOUTSIDE(dstr), param)
14512                     : cv_dup_inc(CvOUTSIDE(dstr), param);
14513                 break;
14514             }
14515         }
14516     }
14517
14518     return dstr;
14519  }
14520
14521 SV *
14522 Perl_sv_dup_inc(pTHX_ const SV *const sstr, CLONE_PARAMS *const param)
14523 {
14524     PERL_ARGS_ASSERT_SV_DUP_INC;
14525     return sstr ? SvREFCNT_inc(sv_dup_common(sstr, param)) : NULL;
14526 }
14527
14528 SV *
14529 Perl_sv_dup(pTHX_ const SV *const sstr, CLONE_PARAMS *const param)
14530 {
14531     SV *dstr = sstr ? sv_dup_common(sstr, param) : NULL;
14532     PERL_ARGS_ASSERT_SV_DUP;
14533
14534     /* Track every SV that (at least initially) had a reference count of 0.
14535        We need to do this by holding an actual reference to it in this array.
14536        If we attempt to cheat, turn AvREAL_off(), and store only pointers
14537        (akin to the stashes hash, and the perl stack), we come unstuck if
14538        a weak reference (or other SV legitimately SvREFCNT() == 0 for this
14539        thread) is manipulated in a CLONE method, because CLONE runs before the
14540        unreferenced array is walked to find SVs still with SvREFCNT() == 0
14541        (and fix things up by giving each a reference via the temps stack).
14542        Instead, during CLONE, if the 0-referenced SV has SvREFCNT_inc() and
14543        then SvREFCNT_dec(), it will be cleaned up (and added to the free list)
14544        before the walk of unreferenced happens and a reference to that is SV
14545        added to the temps stack. At which point we have the same SV considered
14546        to be in use, and free to be re-used. Not good.
14547     */
14548     if (dstr && !(param->flags & CLONEf_COPY_STACKS) && !SvREFCNT(dstr)) {
14549         assert(param->unreferenced);
14550         av_push(param->unreferenced, SvREFCNT_inc(dstr));
14551     }
14552
14553     return dstr;
14554 }
14555
14556 /* duplicate a context */
14557
14558 PERL_CONTEXT *
14559 Perl_cx_dup(pTHX_ PERL_CONTEXT *cxs, I32 ix, I32 max, CLONE_PARAMS* param)
14560 {
14561     PERL_CONTEXT *ncxs;
14562
14563     PERL_ARGS_ASSERT_CX_DUP;
14564
14565     if (!cxs)
14566         return (PERL_CONTEXT*)NULL;
14567
14568     /* look for it in the table first */
14569     ncxs = (PERL_CONTEXT*)ptr_table_fetch(PL_ptr_table, cxs);
14570     if (ncxs)
14571         return ncxs;
14572
14573     /* create anew and remember what it is */
14574     Newx(ncxs, max + 1, PERL_CONTEXT);
14575     ptr_table_store(PL_ptr_table, cxs, ncxs);
14576     Copy(cxs, ncxs, max + 1, PERL_CONTEXT);
14577
14578     while (ix >= 0) {
14579         PERL_CONTEXT * const ncx = &ncxs[ix];
14580         if (CxTYPE(ncx) == CXt_SUBST) {
14581             Perl_croak(aTHX_ "Cloning substitution context is unimplemented");
14582         }
14583         else {
14584             ncx->blk_oldcop = (COP*)any_dup(ncx->blk_oldcop, param->proto_perl);
14585             switch (CxTYPE(ncx)) {
14586             case CXt_SUB:
14587                 ncx->blk_sub.cv         = cv_dup_inc(ncx->blk_sub.cv, param);
14588                 if(CxHASARGS(ncx)){
14589                     ncx->blk_sub.savearray = av_dup_inc(ncx->blk_sub.savearray,param);
14590                 } else {
14591                     ncx->blk_sub.savearray = NULL;
14592                 }
14593                 ncx->blk_sub.prevcomppad = (PAD*)ptr_table_fetch(PL_ptr_table,
14594                                            ncx->blk_sub.prevcomppad);
14595                 break;
14596             case CXt_EVAL:
14597                 ncx->blk_eval.old_namesv = sv_dup_inc(ncx->blk_eval.old_namesv,
14598                                                       param);
14599                 /* XXX should this sv_dup_inc? Or only if CxEVAL_TXT_REFCNTED ???? */
14600                 ncx->blk_eval.cur_text  = sv_dup(ncx->blk_eval.cur_text, param);
14601                 ncx->blk_eval.cv = cv_dup(ncx->blk_eval.cv, param);
14602                 /* XXX what do do with cur_top_env ???? */
14603                 break;
14604             case CXt_LOOP_LAZYSV:
14605                 ncx->blk_loop.state_u.lazysv.end
14606                     = sv_dup_inc(ncx->blk_loop.state_u.lazysv.end, param);
14607                 /* Fallthrough: duplicate lazysv.cur by using the ary.ary
14608                    duplication code instead.
14609                    We are taking advantage of (1) av_dup_inc and sv_dup_inc
14610                    actually being the same function, and (2) order
14611                    equivalence of the two unions.
14612                    We can assert the later [but only at run time :-(]  */
14613                 assert ((void *) &ncx->blk_loop.state_u.ary.ary ==
14614                         (void *) &ncx->blk_loop.state_u.lazysv.cur);
14615                 /* FALLTHROUGH */
14616             case CXt_LOOP_ARY:
14617                 ncx->blk_loop.state_u.ary.ary
14618                     = av_dup_inc(ncx->blk_loop.state_u.ary.ary, param);
14619                 /* FALLTHROUGH */
14620             case CXt_LOOP_LIST:
14621             case CXt_LOOP_LAZYIV:
14622                 /* code common to all 'for' CXt_LOOP_* types */
14623                 ncx->blk_loop.itersave =
14624                                     sv_dup_inc(ncx->blk_loop.itersave, param);
14625                 if (CxPADLOOP(ncx)) {
14626                     PADOFFSET off = ncx->blk_loop.itervar_u.svp
14627                                     - &CX_CURPAD_SV(ncx->blk_loop, 0);
14628                     ncx->blk_loop.oldcomppad =
14629                                     (PAD*)ptr_table_fetch(PL_ptr_table,
14630                                                 ncx->blk_loop.oldcomppad);
14631                     ncx->blk_loop.itervar_u.svp =
14632                                     &CX_CURPAD_SV(ncx->blk_loop, off);
14633                 }
14634                 else {
14635                     /* this copies the GV if CXp_FOR_GV, or the SV for an
14636                      * alias (for \$x (...)) - relies on gv_dup being the
14637                      * same as sv_dup */
14638                     ncx->blk_loop.itervar_u.gv
14639                         = gv_dup((const GV *)ncx->blk_loop.itervar_u.gv,
14640                                     param);
14641                 }
14642                 break;
14643             case CXt_LOOP_PLAIN:
14644                 break;
14645             case CXt_FORMAT:
14646                 ncx->blk_format.prevcomppad =
14647                         (PAD*)ptr_table_fetch(PL_ptr_table,
14648                                            ncx->blk_format.prevcomppad);
14649                 ncx->blk_format.cv      = cv_dup_inc(ncx->blk_format.cv, param);
14650                 ncx->blk_format.gv      = gv_dup(ncx->blk_format.gv, param);
14651                 ncx->blk_format.dfoutgv = gv_dup_inc(ncx->blk_format.dfoutgv,
14652                                                      param);
14653                 break;
14654             case CXt_GIVEN:
14655                 ncx->blk_givwhen.defsv_save =
14656                                 sv_dup_inc(ncx->blk_givwhen.defsv_save, param);
14657                 break;
14658             case CXt_BLOCK:
14659             case CXt_NULL:
14660             case CXt_WHEN:
14661                 break;
14662             }
14663         }
14664         --ix;
14665     }
14666     return ncxs;
14667 }
14668
14669 /* duplicate a stack info structure */
14670
14671 PERL_SI *
14672 Perl_si_dup(pTHX_ PERL_SI *si, CLONE_PARAMS* param)
14673 {
14674     PERL_SI *nsi;
14675
14676     PERL_ARGS_ASSERT_SI_DUP;
14677
14678     if (!si)
14679         return (PERL_SI*)NULL;
14680
14681     /* look for it in the table first */
14682     nsi = (PERL_SI*)ptr_table_fetch(PL_ptr_table, si);
14683     if (nsi)
14684         return nsi;
14685
14686     /* create anew and remember what it is */
14687     Newx(nsi, 1, PERL_SI);
14688     ptr_table_store(PL_ptr_table, si, nsi);
14689
14690     nsi->si_stack       = av_dup_inc(si->si_stack, param);
14691     nsi->si_cxix        = si->si_cxix;
14692     nsi->si_cxsubix     = si->si_cxsubix;
14693     nsi->si_cxmax       = si->si_cxmax;
14694     nsi->si_cxstack     = cx_dup(si->si_cxstack, si->si_cxix, si->si_cxmax, param);
14695     nsi->si_type        = si->si_type;
14696     nsi->si_prev        = si_dup(si->si_prev, param);
14697     nsi->si_next        = si_dup(si->si_next, param);
14698     nsi->si_markoff     = si->si_markoff;
14699 #if defined DEBUGGING && !defined DEBUGGING_RE_ONLY
14700     nsi->si_stack_hwm   = 0;
14701 #endif
14702
14703     return nsi;
14704 }
14705
14706 #define POPINT(ss,ix)   ((ss)[--(ix)].any_i32)
14707 #define TOPINT(ss,ix)   ((ss)[ix].any_i32)
14708 #define POPLONG(ss,ix)  ((ss)[--(ix)].any_long)
14709 #define TOPLONG(ss,ix)  ((ss)[ix].any_long)
14710 #define POPIV(ss,ix)    ((ss)[--(ix)].any_iv)
14711 #define TOPIV(ss,ix)    ((ss)[ix].any_iv)
14712 #define POPUV(ss,ix)    ((ss)[--(ix)].any_uv)
14713 #define TOPUV(ss,ix)    ((ss)[ix].any_uv)
14714 #define POPBOOL(ss,ix)  ((ss)[--(ix)].any_bool)
14715 #define TOPBOOL(ss,ix)  ((ss)[ix].any_bool)
14716 #define POPPTR(ss,ix)   ((ss)[--(ix)].any_ptr)
14717 #define TOPPTR(ss,ix)   ((ss)[ix].any_ptr)
14718 #define POPDPTR(ss,ix)  ((ss)[--(ix)].any_dptr)
14719 #define TOPDPTR(ss,ix)  ((ss)[ix].any_dptr)
14720 #define POPDXPTR(ss,ix) ((ss)[--(ix)].any_dxptr)
14721 #define TOPDXPTR(ss,ix) ((ss)[ix].any_dxptr)
14722
14723 /* XXXXX todo */
14724 #define pv_dup_inc(p)   SAVEPV(p)
14725 #define pv_dup(p)       SAVEPV(p)
14726 #define svp_dup_inc(p,pp)       any_dup(p,pp)
14727
14728 /* map any object to the new equivent - either something in the
14729  * ptr table, or something in the interpreter structure
14730  */
14731
14732 void *
14733 Perl_any_dup(pTHX_ void *v, const PerlInterpreter *proto_perl)
14734 {
14735     void *ret;
14736
14737     PERL_ARGS_ASSERT_ANY_DUP;
14738
14739     if (!v)
14740         return (void*)NULL;
14741
14742     /* look for it in the table first */
14743     ret = ptr_table_fetch(PL_ptr_table, v);
14744     if (ret)
14745         return ret;
14746
14747     /* see if it is part of the interpreter structure */
14748     if (v >= (void*)proto_perl && v < (void*)(proto_perl+1))
14749         ret = (void*)(((char*)aTHX) + (((char*)v) - (char*)proto_perl));
14750     else {
14751         ret = v;
14752     }
14753
14754     return ret;
14755 }
14756
14757 /* duplicate the save stack */
14758
14759 ANY *
14760 Perl_ss_dup(pTHX_ PerlInterpreter *proto_perl, CLONE_PARAMS* param)
14761 {
14762     dVAR;
14763     ANY * const ss      = proto_perl->Isavestack;
14764     const I32 max       = proto_perl->Isavestack_max + SS_MAXPUSH;
14765     I32 ix              = proto_perl->Isavestack_ix;
14766     ANY *nss;
14767     const SV *sv;
14768     const GV *gv;
14769     const AV *av;
14770     const HV *hv;
14771     void* ptr;
14772     int intval;
14773     long longval;
14774     GP *gp;
14775     IV iv;
14776     I32 i;
14777     char *c = NULL;
14778     void (*dptr) (void*);
14779     void (*dxptr) (pTHX_ void*);
14780
14781     PERL_ARGS_ASSERT_SS_DUP;
14782
14783     Newx(nss, max, ANY);
14784
14785     while (ix > 0) {
14786         const UV uv = POPUV(ss,ix);
14787         const U8 type = (U8)uv & SAVE_MASK;
14788
14789         TOPUV(nss,ix) = uv;
14790         switch (type) {
14791         case SAVEt_CLEARSV:
14792         case SAVEt_CLEARPADRANGE:
14793             break;
14794         case SAVEt_HELEM:               /* hash element */
14795         case SAVEt_SV:                  /* scalar reference */
14796             sv = (const SV *)POPPTR(ss,ix);
14797             TOPPTR(nss,ix) = SvREFCNT_inc(sv_dup_inc(sv, param));
14798             /* FALLTHROUGH */
14799         case SAVEt_ITEM:                        /* normal string */
14800         case SAVEt_GVSV:                        /* scalar slot in GV */
14801             sv = (const SV *)POPPTR(ss,ix);
14802             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14803             if (type == SAVEt_SV)
14804                 break;
14805             /* FALLTHROUGH */
14806         case SAVEt_FREESV:
14807         case SAVEt_MORTALIZESV:
14808         case SAVEt_READONLY_OFF:
14809             sv = (const SV *)POPPTR(ss,ix);
14810             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14811             break;
14812         case SAVEt_FREEPADNAME:
14813             ptr = POPPTR(ss,ix);
14814             TOPPTR(nss,ix) = padname_dup((PADNAME *)ptr, param);
14815             PadnameREFCNT((PADNAME *)TOPPTR(nss,ix))++;
14816             break;
14817         case SAVEt_SHARED_PVREF:                /* char* in shared space */
14818             c = (char*)POPPTR(ss,ix);
14819             TOPPTR(nss,ix) = savesharedpv(c);
14820             ptr = POPPTR(ss,ix);
14821             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14822             break;
14823         case SAVEt_GENERIC_SVREF:               /* generic sv */
14824         case SAVEt_SVREF:                       /* scalar reference */
14825             sv = (const SV *)POPPTR(ss,ix);
14826             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14827             if (type == SAVEt_SVREF)
14828                 SvREFCNT_inc_simple_void((SV *)TOPPTR(nss,ix));
14829             ptr = POPPTR(ss,ix);
14830             TOPPTR(nss,ix) = svp_dup_inc((SV**)ptr, proto_perl);/* XXXXX */
14831             break;
14832         case SAVEt_GVSLOT:              /* any slot in GV */
14833             sv = (const SV *)POPPTR(ss,ix);
14834             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14835             ptr = POPPTR(ss,ix);
14836             TOPPTR(nss,ix) = svp_dup_inc((SV**)ptr, proto_perl);/* XXXXX */
14837             sv = (const SV *)POPPTR(ss,ix);
14838             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14839             break;
14840         case SAVEt_HV:                          /* hash reference */
14841         case SAVEt_AV:                          /* array reference */
14842             sv = (const SV *) POPPTR(ss,ix);
14843             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
14844             /* FALLTHROUGH */
14845         case SAVEt_COMPPAD:
14846         case SAVEt_NSTAB:
14847             sv = (const SV *) POPPTR(ss,ix);
14848             TOPPTR(nss,ix) = sv_dup(sv, param);
14849             break;
14850         case SAVEt_INT:                         /* int reference */
14851             ptr = POPPTR(ss,ix);
14852             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14853             intval = (int)POPINT(ss,ix);
14854             TOPINT(nss,ix) = intval;
14855             break;
14856         case SAVEt_LONG:                        /* long reference */
14857             ptr = POPPTR(ss,ix);
14858             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14859             longval = (long)POPLONG(ss,ix);
14860             TOPLONG(nss,ix) = longval;
14861             break;
14862         case SAVEt_I32:                         /* I32 reference */
14863             ptr = POPPTR(ss,ix);
14864             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14865             i = POPINT(ss,ix);
14866             TOPINT(nss,ix) = i;
14867             break;
14868         case SAVEt_IV:                          /* IV reference */
14869         case SAVEt_STRLEN:                      /* STRLEN/size_t ref */
14870             ptr = POPPTR(ss,ix);
14871             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14872             iv = POPIV(ss,ix);
14873             TOPIV(nss,ix) = iv;
14874             break;
14875         case SAVEt_TMPSFLOOR:
14876             iv = POPIV(ss,ix);
14877             TOPIV(nss,ix) = iv;
14878             break;
14879         case SAVEt_HPTR:                        /* HV* reference */
14880         case SAVEt_APTR:                        /* AV* reference */
14881         case SAVEt_SPTR:                        /* SV* reference */
14882             ptr = POPPTR(ss,ix);
14883             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14884             sv = (const SV *)POPPTR(ss,ix);
14885             TOPPTR(nss,ix) = sv_dup(sv, param);
14886             break;
14887         case SAVEt_VPTR:                        /* random* reference */
14888             ptr = POPPTR(ss,ix);
14889             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14890             /* FALLTHROUGH */
14891         case SAVEt_INT_SMALL:
14892         case SAVEt_I32_SMALL:
14893         case SAVEt_I16:                         /* I16 reference */
14894         case SAVEt_I8:                          /* I8 reference */
14895         case SAVEt_BOOL:
14896             ptr = POPPTR(ss,ix);
14897             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14898             break;
14899         case SAVEt_GENERIC_PVREF:               /* generic char* */
14900         case SAVEt_PPTR:                        /* char* reference */
14901             ptr = POPPTR(ss,ix);
14902             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
14903             c = (char*)POPPTR(ss,ix);
14904             TOPPTR(nss,ix) = pv_dup(c);
14905             break;
14906         case SAVEt_GP:                          /* scalar reference */
14907             gp = (GP*)POPPTR(ss,ix);
14908             TOPPTR(nss,ix) = gp = gp_dup(gp, param);
14909             (void)GpREFCNT_inc(gp);
14910             gv = (const GV *)POPPTR(ss,ix);
14911             TOPPTR(nss,ix) = gv_dup_inc(gv, param);
14912             break;
14913         case SAVEt_FREEOP:
14914             ptr = POPPTR(ss,ix);
14915             if (ptr && (((OP*)ptr)->op_private & OPpREFCOUNTED)) {
14916                 /* these are assumed to be refcounted properly */
14917                 OP *o;
14918                 switch (((OP*)ptr)->op_type) {
14919                 case OP_LEAVESUB:
14920                 case OP_LEAVESUBLV:
14921                 case OP_LEAVEEVAL:
14922                 case OP_LEAVE:
14923                 case OP_SCOPE:
14924                 case OP_LEAVEWRITE:
14925                     TOPPTR(nss,ix) = ptr;
14926                     o = (OP*)ptr;
14927                     OP_REFCNT_LOCK;
14928                     (void) OpREFCNT_inc(o);
14929                     OP_REFCNT_UNLOCK;
14930                     break;
14931                 default:
14932                     TOPPTR(nss,ix) = NULL;
14933                     break;
14934                 }
14935             }
14936             else
14937                 TOPPTR(nss,ix) = NULL;
14938             break;
14939         case SAVEt_FREECOPHH:
14940             ptr = POPPTR(ss,ix);
14941             TOPPTR(nss,ix) = cophh_copy((COPHH *)ptr);
14942             break;
14943         case SAVEt_ADELETE:
14944             av = (const AV *)POPPTR(ss,ix);
14945             TOPPTR(nss,ix) = av_dup_inc(av, param);
14946             i = POPINT(ss,ix);
14947             TOPINT(nss,ix) = i;
14948             break;
14949         case SAVEt_DELETE:
14950             hv = (const HV *)POPPTR(ss,ix);
14951             TOPPTR(nss,ix) = hv_dup_inc(hv, param);
14952             i = POPINT(ss,ix);
14953             TOPINT(nss,ix) = i;
14954             /* FALLTHROUGH */
14955         case SAVEt_FREEPV:
14956             c = (char*)POPPTR(ss,ix);
14957             TOPPTR(nss,ix) = pv_dup_inc(c);
14958             break;
14959         case SAVEt_STACK_POS:           /* Position on Perl stack */
14960             i = POPINT(ss,ix);
14961             TOPINT(nss,ix) = i;
14962             break;
14963         case SAVEt_DESTRUCTOR:
14964             ptr = POPPTR(ss,ix);
14965             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);  /* XXX quite arbitrary */
14966             dptr = POPDPTR(ss,ix);
14967             TOPDPTR(nss,ix) = DPTR2FPTR(void (*)(void*),
14968                                         any_dup(FPTR2DPTR(void *, dptr),
14969                                                 proto_perl));
14970             break;
14971         case SAVEt_DESTRUCTOR_X:
14972             ptr = POPPTR(ss,ix);
14973             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);  /* XXX quite arbitrary */
14974             dxptr = POPDXPTR(ss,ix);
14975             TOPDXPTR(nss,ix) = DPTR2FPTR(void (*)(pTHX_ void*),
14976                                          any_dup(FPTR2DPTR(void *, dxptr),
14977                                                  proto_perl));
14978             break;
14979         case SAVEt_REGCONTEXT:
14980         case SAVEt_ALLOC:
14981             ix -= uv >> SAVE_TIGHT_SHIFT;
14982             break;
14983         case SAVEt_AELEM:               /* array element */
14984             sv = (const SV *)POPPTR(ss,ix);
14985             TOPPTR(nss,ix) = SvREFCNT_inc(sv_dup_inc(sv, param));
14986             iv = POPIV(ss,ix);
14987             TOPIV(nss,ix) = iv;
14988             av = (const AV *)POPPTR(ss,ix);
14989             TOPPTR(nss,ix) = av_dup_inc(av, param);
14990             break;
14991         case SAVEt_OP:
14992             ptr = POPPTR(ss,ix);
14993             TOPPTR(nss,ix) = ptr;
14994             break;
14995         case SAVEt_HINTS:
14996             ptr = POPPTR(ss,ix);
14997             ptr = cophh_copy((COPHH*)ptr);
14998             TOPPTR(nss,ix) = ptr;
14999             i = POPINT(ss,ix);
15000             TOPINT(nss,ix) = i;
15001             if (i & HINT_LOCALIZE_HH) {
15002                 hv = (const HV *)POPPTR(ss,ix);
15003                 TOPPTR(nss,ix) = hv_dup_inc(hv, param);
15004             }
15005             break;
15006         case SAVEt_PADSV_AND_MORTALIZE:
15007             longval = (long)POPLONG(ss,ix);
15008             TOPLONG(nss,ix) = longval;
15009             ptr = POPPTR(ss,ix);
15010             TOPPTR(nss,ix) = any_dup(ptr, proto_perl);
15011             sv = (const SV *)POPPTR(ss,ix);
15012             TOPPTR(nss,ix) = sv_dup_inc(sv, param);
15013             break;
15014         case SAVEt_SET_SVFLAGS:
15015             i = POPINT(ss,ix);
15016             TOPINT(nss,ix) = i;
15017             i = POPINT(ss,ix);
15018             TOPINT(nss,ix) = i;
15019             sv = (const SV *)POPPTR(ss,ix);
15020             TOPPTR(nss,ix) = sv_dup(sv, param);
15021             break;
15022         case SAVEt_COMPILE_WARNINGS:
15023             ptr = POPPTR(ss,ix);
15024             TOPPTR(nss,ix) = DUP_WARNINGS((STRLEN*)ptr);
15025             break;
15026         case SAVEt_PARSER:
15027             ptr = POPPTR(ss,ix);
15028             TOPPTR(nss,ix) = parser_dup((const yy_parser*)ptr, param);
15029             break;
15030         default:
15031             Perl_croak(aTHX_
15032                        "panic: ss_dup inconsistency (%" IVdf ")", (IV) type);
15033         }
15034     }
15035
15036     return nss;
15037 }
15038
15039
15040 /* if sv is a stash, call $class->CLONE_SKIP(), and set the SVphv_CLONEABLE
15041  * flag to the result. This is done for each stash before cloning starts,
15042  * so we know which stashes want their objects cloned */
15043
15044 static void
15045 do_mark_cloneable_stash(pTHX_ SV *const sv)
15046 {
15047     const HEK * const hvname = HvNAME_HEK((const HV *)sv);
15048     if (hvname) {
15049         GV* const cloner = gv_fetchmethod_autoload(MUTABLE_HV(sv), "CLONE_SKIP", 0);
15050         SvFLAGS(sv) |= SVphv_CLONEABLE; /* clone objects by default */
15051         if (cloner && GvCV(cloner)) {
15052             dSP;
15053             UV status;
15054
15055             ENTER;
15056             SAVETMPS;
15057             PUSHMARK(SP);
15058             mXPUSHs(newSVhek(hvname));
15059             PUTBACK;
15060             call_sv(MUTABLE_SV(GvCV(cloner)), G_SCALAR);
15061             SPAGAIN;
15062             status = POPu;
15063             PUTBACK;
15064             FREETMPS;
15065             LEAVE;
15066             if (status)
15067                 SvFLAGS(sv) &= ~SVphv_CLONEABLE;
15068         }
15069     }
15070 }
15071
15072
15073
15074 /*
15075 =for apidoc perl_clone
15076
15077 Create and return a new interpreter by cloning the current one.
15078
15079 C<perl_clone> takes these flags as parameters:
15080
15081 C<CLONEf_COPY_STACKS> - is used to, well, copy the stacks also,
15082 without it we only clone the data and zero the stacks,
15083 with it we copy the stacks and the new perl interpreter is
15084 ready to run at the exact same point as the previous one.
15085 The pseudo-fork code uses C<COPY_STACKS> while the
15086 threads->create doesn't.
15087
15088 C<CLONEf_KEEP_PTR_TABLE> -
15089 C<perl_clone> keeps a ptr_table with the pointer of the old
15090 variable as a key and the new variable as a value,
15091 this allows it to check if something has been cloned and not
15092 clone it again, but rather just use the value and increase the
15093 refcount.
15094 If C<KEEP_PTR_TABLE> is not set then C<perl_clone> will kill the ptr_table
15095 using the function S<C<ptr_table_free(PL_ptr_table); PL_ptr_table = NULL;>>.
15096 A reason to keep it around is if you want to dup some of your own
15097 variables which are outside the graph that perl scans.
15098
15099 C<CLONEf_CLONE_HOST> -
15100 This is a win32 thing, it is ignored on unix, it tells perl's
15101 win32host code (which is c++) to clone itself, this is needed on
15102 win32 if you want to run two threads at the same time,
15103 if you just want to do some stuff in a separate perl interpreter
15104 and then throw it away and return to the original one,
15105 you don't need to do anything.
15106
15107 =cut
15108 */
15109
15110 /* XXX the above needs expanding by someone who actually understands it ! */
15111 EXTERN_C PerlInterpreter *
15112 perl_clone_host(PerlInterpreter* proto_perl, UV flags);
15113
15114 PerlInterpreter *
15115 perl_clone(PerlInterpreter *proto_perl, UV flags)
15116 {
15117    dVAR;
15118 #ifdef PERL_IMPLICIT_SYS
15119
15120     PERL_ARGS_ASSERT_PERL_CLONE;
15121
15122    /* perlhost.h so we need to call into it
15123    to clone the host, CPerlHost should have a c interface, sky */
15124
15125 #ifndef __amigaos4__
15126    if (flags & CLONEf_CLONE_HOST) {
15127        return perl_clone_host(proto_perl,flags);
15128    }
15129 #endif
15130    return perl_clone_using(proto_perl, flags,
15131                             proto_perl->IMem,
15132                             proto_perl->IMemShared,
15133                             proto_perl->IMemParse,
15134                             proto_perl->IEnv,
15135                             proto_perl->IStdIO,
15136                             proto_perl->ILIO,
15137                             proto_perl->IDir,
15138                             proto_perl->ISock,
15139                             proto_perl->IProc);
15140 }
15141
15142 PerlInterpreter *
15143 perl_clone_using(PerlInterpreter *proto_perl, UV flags,
15144                  struct IPerlMem* ipM, struct IPerlMem* ipMS,
15145                  struct IPerlMem* ipMP, struct IPerlEnv* ipE,
15146                  struct IPerlStdIO* ipStd, struct IPerlLIO* ipLIO,
15147                  struct IPerlDir* ipD, struct IPerlSock* ipS,
15148                  struct IPerlProc* ipP)
15149 {
15150     /* XXX many of the string copies here can be optimized if they're
15151      * constants; they need to be allocated as common memory and just
15152      * their pointers copied. */
15153
15154     IV i;
15155     CLONE_PARAMS clone_params;
15156     CLONE_PARAMS* const param = &clone_params;
15157
15158     PerlInterpreter * const my_perl = (PerlInterpreter*)(*ipM->pMalloc)(ipM, sizeof(PerlInterpreter));
15159
15160     PERL_ARGS_ASSERT_PERL_CLONE_USING;
15161 #else           /* !PERL_IMPLICIT_SYS */
15162     IV i;
15163     CLONE_PARAMS clone_params;
15164     CLONE_PARAMS* param = &clone_params;
15165     PerlInterpreter * const my_perl = (PerlInterpreter*)PerlMem_malloc(sizeof(PerlInterpreter));
15166
15167     PERL_ARGS_ASSERT_PERL_CLONE;
15168 #endif          /* PERL_IMPLICIT_SYS */
15169
15170     /* for each stash, determine whether its objects should be cloned */
15171     S_visit(proto_perl, do_mark_cloneable_stash, SVt_PVHV, SVTYPEMASK);
15172     PERL_SET_THX(my_perl);
15173
15174 #ifdef DEBUGGING
15175     PoisonNew(my_perl, 1, PerlInterpreter);
15176     PL_op = NULL;
15177     PL_curcop = NULL;
15178     PL_defstash = NULL; /* may be used by perl malloc() */
15179     PL_markstack = 0;
15180     PL_scopestack = 0;
15181     PL_scopestack_name = 0;
15182     PL_savestack = 0;
15183     PL_savestack_ix = 0;
15184     PL_savestack_max = -1;
15185     PL_sig_pending = 0;
15186     PL_parser = NULL;
15187     Zero(&PL_debug_pad, 1, struct perl_debug_pad);
15188     Zero(&PL_padname_undef, 1, PADNAME);
15189     Zero(&PL_padname_const, 1, PADNAME);
15190 #  ifdef DEBUG_LEAKING_SCALARS
15191     PL_sv_serial = (((UV)my_perl >> 2) & 0xfff) * 1000000;
15192 #  endif
15193 #  ifdef PERL_TRACE_OPS
15194     Zero(PL_op_exec_cnt, OP_max+2, UV);
15195 #  endif
15196 #else   /* !DEBUGGING */
15197     Zero(my_perl, 1, PerlInterpreter);
15198 #endif  /* DEBUGGING */
15199
15200 #ifdef PERL_IMPLICIT_SYS
15201     /* host pointers */
15202     PL_Mem              = ipM;
15203     PL_MemShared        = ipMS;
15204     PL_MemParse         = ipMP;
15205     PL_Env              = ipE;
15206     PL_StdIO            = ipStd;
15207     PL_LIO              = ipLIO;
15208     PL_Dir              = ipD;
15209     PL_Sock             = ipS;
15210     PL_Proc             = ipP;
15211 #endif          /* PERL_IMPLICIT_SYS */
15212
15213
15214     param->flags = flags;
15215     /* Nothing in the core code uses this, but we make it available to
15216        extensions (using mg_dup).  */
15217     param->proto_perl = proto_perl;
15218     /* Likely nothing will use this, but it is initialised to be consistent
15219        with Perl_clone_params_new().  */
15220     param->new_perl = my_perl;
15221     param->unreferenced = NULL;
15222
15223
15224     INIT_TRACK_MEMPOOL(my_perl->Imemory_debug_header, my_perl);
15225
15226     PL_body_arenas = NULL;
15227     Zero(&PL_body_roots, 1, PL_body_roots);
15228     
15229     PL_sv_count         = 0;
15230     PL_sv_root          = NULL;
15231     PL_sv_arenaroot     = NULL;
15232
15233     PL_debug            = proto_perl->Idebug;
15234
15235     /* dbargs array probably holds garbage */
15236     PL_dbargs           = NULL;
15237
15238     PL_compiling = proto_perl->Icompiling;
15239
15240     /* pseudo environmental stuff */
15241     PL_origargc         = proto_perl->Iorigargc;
15242     PL_origargv         = proto_perl->Iorigargv;
15243
15244 #ifndef NO_TAINT_SUPPORT
15245     /* Set tainting stuff before PerlIO_debug can possibly get called */
15246     PL_tainting         = proto_perl->Itainting;
15247     PL_taint_warn       = proto_perl->Itaint_warn;
15248 #else
15249     PL_tainting         = FALSE;
15250     PL_taint_warn       = FALSE;
15251 #endif
15252
15253     PL_minus_c          = proto_perl->Iminus_c;
15254
15255     PL_localpatches     = proto_perl->Ilocalpatches;
15256     PL_splitstr         = proto_perl->Isplitstr;
15257     PL_minus_n          = proto_perl->Iminus_n;
15258     PL_minus_p          = proto_perl->Iminus_p;
15259     PL_minus_l          = proto_perl->Iminus_l;
15260     PL_minus_a          = proto_perl->Iminus_a;
15261     PL_minus_E          = proto_perl->Iminus_E;
15262     PL_minus_F          = proto_perl->Iminus_F;
15263     PL_doswitches       = proto_perl->Idoswitches;
15264     PL_dowarn           = proto_perl->Idowarn;
15265 #ifdef PERL_SAWAMPERSAND
15266     PL_sawampersand     = proto_perl->Isawampersand;
15267 #endif
15268     PL_unsafe           = proto_perl->Iunsafe;
15269     PL_perldb           = proto_perl->Iperldb;
15270     PL_perl_destruct_level = proto_perl->Iperl_destruct_level;
15271     PL_exit_flags       = proto_perl->Iexit_flags;
15272
15273     /* XXX time(&PL_basetime) when asked for? */
15274     PL_basetime         = proto_perl->Ibasetime;
15275
15276     PL_maxsysfd         = proto_perl->Imaxsysfd;
15277     PL_statusvalue      = proto_perl->Istatusvalue;
15278 #ifdef __VMS
15279     PL_statusvalue_vms  = proto_perl->Istatusvalue_vms;
15280 #else
15281     PL_statusvalue_posix = proto_perl->Istatusvalue_posix;
15282 #endif
15283
15284     /* RE engine related */
15285     PL_regmatch_slab    = NULL;
15286     PL_reg_curpm        = NULL;
15287
15288     PL_sub_generation   = proto_perl->Isub_generation;
15289
15290     /* funky return mechanisms */
15291     PL_forkprocess      = proto_perl->Iforkprocess;
15292
15293     /* internal state */
15294     PL_main_start       = proto_perl->Imain_start;
15295     PL_eval_root        = proto_perl->Ieval_root;
15296     PL_eval_start       = proto_perl->Ieval_start;
15297
15298     PL_filemode         = proto_perl->Ifilemode;
15299     PL_lastfd           = proto_perl->Ilastfd;
15300     PL_oldname          = proto_perl->Ioldname;         /* XXX not quite right */
15301     PL_gensym           = proto_perl->Igensym;
15302
15303     PL_laststatval      = proto_perl->Ilaststatval;
15304     PL_laststype        = proto_perl->Ilaststype;
15305     PL_mess_sv          = NULL;
15306
15307     PL_profiledata      = NULL;
15308
15309     PL_generation       = proto_perl->Igeneration;
15310
15311     PL_in_clean_objs    = proto_perl->Iin_clean_objs;
15312     PL_in_clean_all     = proto_perl->Iin_clean_all;
15313
15314     PL_delaymagic_uid   = proto_perl->Idelaymagic_uid;
15315     PL_delaymagic_euid  = proto_perl->Idelaymagic_euid;
15316     PL_delaymagic_gid   = proto_perl->Idelaymagic_gid;
15317     PL_delaymagic_egid  = proto_perl->Idelaymagic_egid;
15318     PL_nomemok          = proto_perl->Inomemok;
15319     PL_an               = proto_perl->Ian;
15320     PL_evalseq          = proto_perl->Ievalseq;
15321     PL_origenviron      = proto_perl->Iorigenviron;     /* XXX not quite right */
15322     PL_origalen         = proto_perl->Iorigalen;
15323
15324     PL_sighandlerp      = proto_perl->Isighandlerp;
15325
15326     PL_runops           = proto_perl->Irunops;
15327
15328     PL_subline          = proto_perl->Isubline;
15329
15330     PL_cv_has_eval      = proto_perl->Icv_has_eval;
15331
15332 #ifdef FCRYPT
15333     PL_cryptseen        = proto_perl->Icryptseen;
15334 #endif
15335
15336 #ifdef USE_LOCALE_COLLATE
15337     PL_collation_ix     = proto_perl->Icollation_ix;
15338     PL_collation_standard       = proto_perl->Icollation_standard;
15339     PL_collxfrm_base    = proto_perl->Icollxfrm_base;
15340     PL_collxfrm_mult    = proto_perl->Icollxfrm_mult;
15341     PL_strxfrm_max_cp   = proto_perl->Istrxfrm_max_cp;
15342 #endif /* USE_LOCALE_COLLATE */
15343
15344 #ifdef USE_LOCALE_NUMERIC
15345     PL_numeric_standard = proto_perl->Inumeric_standard;
15346     PL_numeric_underlying       = proto_perl->Inumeric_underlying;
15347     PL_numeric_underlying_is_standard   = proto_perl->Inumeric_underlying_is_standard;
15348 #endif /* !USE_LOCALE_NUMERIC */
15349
15350     /* Did the locale setup indicate UTF-8? */
15351     PL_utf8locale       = proto_perl->Iutf8locale;
15352     PL_in_utf8_CTYPE_locale = proto_perl->Iin_utf8_CTYPE_locale;
15353     PL_in_utf8_COLLATE_locale = proto_perl->Iin_utf8_COLLATE_locale;
15354     my_strlcpy(PL_locale_utf8ness, proto_perl->Ilocale_utf8ness, sizeof(PL_locale_utf8ness));
15355 #if defined(USE_ITHREADS) && ! defined(USE_THREAD_SAFE_LOCALE)
15356     PL_lc_numeric_mutex_depth = 0;
15357 #endif
15358     /* Unicode features (see perlrun/-C) */
15359     PL_unicode          = proto_perl->Iunicode;
15360
15361     /* Pre-5.8 signals control */
15362     PL_signals          = proto_perl->Isignals;
15363
15364     /* times() ticks per second */
15365     PL_clocktick        = proto_perl->Iclocktick;
15366
15367     /* Recursion stopper for PerlIO_find_layer */
15368     PL_in_load_module   = proto_perl->Iin_load_module;
15369
15370     /* sort() routine */
15371     PL_sort_RealCmp     = proto_perl->Isort_RealCmp;
15372
15373     /* Not really needed/useful since the reenrant_retint is "volatile",
15374      * but do it for consistency's sake. */
15375     PL_reentrant_retint = proto_perl->Ireentrant_retint;
15376
15377     /* Hooks to shared SVs and locks. */
15378     PL_sharehook        = proto_perl->Isharehook;
15379     PL_lockhook         = proto_perl->Ilockhook;
15380     PL_unlockhook       = proto_perl->Iunlockhook;
15381     PL_threadhook       = proto_perl->Ithreadhook;
15382     PL_destroyhook      = proto_perl->Idestroyhook;
15383     PL_signalhook       = proto_perl->Isignalhook;
15384
15385     PL_globhook         = proto_perl->Iglobhook;
15386
15387     PL_srand_called     = proto_perl->Isrand_called;
15388     Copy(&(proto_perl->Irandom_state), &PL_random_state, 1, PL_RANDOM_STATE_TYPE);
15389
15390     if (flags & CLONEf_COPY_STACKS) {
15391         /* next allocation will be PL_tmps_stack[PL_tmps_ix+1] */
15392         PL_tmps_ix              = proto_perl->Itmps_ix;
15393         PL_tmps_max             = proto_perl->Itmps_max;
15394         PL_tmps_floor           = proto_perl->Itmps_floor;
15395
15396         /* next push_scope()/ENTER sets PL_scopestack[PL_scopestack_ix]
15397          * NOTE: unlike the others! */
15398         PL_scopestack_ix        = proto_perl->Iscopestack_ix;
15399         PL_scopestack_max       = proto_perl->Iscopestack_max;
15400
15401         /* next SSPUSHFOO() sets PL_savestack[PL_savestack_ix]
15402          * NOTE: unlike the others! */
15403         PL_savestack_ix         = proto_perl->Isavestack_ix;
15404         PL_savestack_max        = proto_perl->Isavestack_max;
15405     }
15406
15407     PL_start_env        = proto_perl->Istart_env;       /* XXXXXX */
15408     PL_top_env          = &PL_start_env;
15409
15410     PL_op               = proto_perl->Iop;
15411
15412     PL_Sv               = NULL;
15413     PL_Xpv              = (XPV*)NULL;
15414     my_perl->Ina        = proto_perl->Ina;
15415
15416     PL_statcache        = proto_perl->Istatcache;
15417
15418 #ifndef NO_TAINT_SUPPORT
15419     PL_tainted          = proto_perl->Itainted;
15420 #else
15421     PL_tainted          = FALSE;
15422 #endif
15423     PL_curpm            = proto_perl->Icurpm;   /* XXX No PMOP ref count */
15424
15425     PL_chopset          = proto_perl->Ichopset; /* XXX never deallocated */
15426
15427     PL_restartjmpenv    = proto_perl->Irestartjmpenv;
15428     PL_restartop        = proto_perl->Irestartop;
15429     PL_in_eval          = proto_perl->Iin_eval;
15430     PL_delaymagic       = proto_perl->Idelaymagic;
15431     PL_phase            = proto_perl->Iphase;
15432     PL_localizing       = proto_perl->Ilocalizing;
15433
15434     PL_hv_fetch_ent_mh  = NULL;
15435     PL_modcount         = proto_perl->Imodcount;
15436     PL_lastgotoprobe    = NULL;
15437     PL_dumpindent       = proto_perl->Idumpindent;
15438
15439     PL_efloatbuf        = NULL;         /* reinits on demand */
15440     PL_efloatsize       = 0;                    /* reinits on demand */
15441
15442     /* regex stuff */
15443
15444     PL_colorset         = 0;            /* reinits PL_colors[] */
15445     /*PL_colors[6]      = {0,0,0,0,0,0};*/
15446
15447     /* Pluggable optimizer */
15448     PL_peepp            = proto_perl->Ipeepp;
15449     PL_rpeepp           = proto_perl->Irpeepp;
15450     /* op_free() hook */
15451     PL_opfreehook       = proto_perl->Iopfreehook;
15452
15453 #ifdef USE_REENTRANT_API
15454     /* XXX: things like -Dm will segfault here in perlio, but doing
15455      *  PERL_SET_CONTEXT(proto_perl);
15456      * breaks too many other things
15457      */
15458     Perl_reentrant_init(aTHX);
15459 #endif
15460
15461     /* create SV map for pointer relocation */
15462     PL_ptr_table = ptr_table_new();
15463
15464     /* initialize these special pointers as early as possible */
15465     init_constants();
15466     ptr_table_store(PL_ptr_table, &proto_perl->Isv_undef, &PL_sv_undef);
15467     ptr_table_store(PL_ptr_table, &proto_perl->Isv_no, &PL_sv_no);
15468     ptr_table_store(PL_ptr_table, &proto_perl->Isv_zero, &PL_sv_zero);
15469     ptr_table_store(PL_ptr_table, &proto_perl->Isv_yes, &PL_sv_yes);
15470     ptr_table_store(PL_ptr_table, &proto_perl->Ipadname_const,
15471                     &PL_padname_const);
15472
15473     /* create (a non-shared!) shared string table */
15474     PL_strtab           = newHV();
15475     HvSHAREKEYS_off(PL_strtab);
15476     hv_ksplit(PL_strtab, HvTOTALKEYS(proto_perl->Istrtab));
15477     ptr_table_store(PL_ptr_table, proto_perl->Istrtab, PL_strtab);
15478
15479     Zero(PL_sv_consts, SV_CONSTS_COUNT, SV*);
15480
15481     /* This PV will be free'd special way so must set it same way op.c does */
15482     PL_compiling.cop_file    = savesharedpv(PL_compiling.cop_file);
15483     ptr_table_store(PL_ptr_table, proto_perl->Icompiling.cop_file, PL_compiling.cop_file);
15484
15485     ptr_table_store(PL_ptr_table, &proto_perl->Icompiling, &PL_compiling);
15486     PL_compiling.cop_warnings = DUP_WARNINGS(PL_compiling.cop_warnings);
15487     CopHINTHASH_set(&PL_compiling, cophh_copy(CopHINTHASH_get(&PL_compiling)));
15488     PL_curcop           = (COP*)any_dup(proto_perl->Icurcop, proto_perl);
15489
15490     param->stashes      = newAV();  /* Setup array of objects to call clone on */
15491     /* This makes no difference to the implementation, as it always pushes
15492        and shifts pointers to other SVs without changing their reference
15493        count, with the array becoming empty before it is freed. However, it
15494        makes it conceptually clear what is going on, and will avoid some
15495        work inside av.c, filling slots between AvFILL() and AvMAX() with
15496        &PL_sv_undef, and SvREFCNT_dec()ing those.  */
15497     AvREAL_off(param->stashes);
15498
15499     if (!(flags & CLONEf_COPY_STACKS)) {
15500         param->unreferenced = newAV();
15501     }
15502
15503 #ifdef PERLIO_LAYERS
15504     /* Clone PerlIO tables as soon as we can handle general xx_dup() */
15505     PerlIO_clone(aTHX_ proto_perl, param);
15506 #endif
15507
15508     PL_envgv            = gv_dup_inc(proto_perl->Ienvgv, param);
15509     PL_incgv            = gv_dup_inc(proto_perl->Iincgv, param);
15510     PL_hintgv           = gv_dup_inc(proto_perl->Ihintgv, param);
15511     PL_origfilename     = SAVEPV(proto_perl->Iorigfilename);
15512     PL_xsubfilename     = proto_perl->Ixsubfilename;
15513     PL_diehook          = sv_dup_inc(proto_perl->Idiehook, param);
15514     PL_warnhook         = sv_dup_inc(proto_perl->Iwarnhook, param);
15515
15516     /* switches */
15517     PL_patchlevel       = sv_dup_inc(proto_perl->Ipatchlevel, param);
15518     PL_inplace          = SAVEPV(proto_perl->Iinplace);
15519     PL_e_script         = sv_dup_inc(proto_perl->Ie_script, param);
15520
15521     /* magical thingies */
15522
15523     SvPVCLEAR(PERL_DEBUG_PAD(0));        /* For regex debugging. */
15524     SvPVCLEAR(PERL_DEBUG_PAD(1));        /* ext/re needs these */
15525     SvPVCLEAR(PERL_DEBUG_PAD(2));        /* even without DEBUGGING. */
15526
15527    
15528     /* Clone the regex array */
15529     /* ORANGE FIXME for plugins, probably in the SV dup code.
15530        newSViv(PTR2IV(CALLREGDUPE(
15531        INT2PTR(REGEXP *, SvIVX(regex)), param))))
15532     */
15533     PL_regex_padav = av_dup_inc(proto_perl->Iregex_padav, param);
15534     PL_regex_pad = AvARRAY(PL_regex_padav);
15535
15536     PL_stashpadmax      = proto_perl->Istashpadmax;
15537     PL_stashpadix       = proto_perl->Istashpadix ;
15538     Newx(PL_stashpad, PL_stashpadmax, HV *);
15539     {
15540         PADOFFSET o = 0;
15541         for (; o < PL_stashpadmax; ++o)
15542             PL_stashpad[o] = hv_dup(proto_perl->Istashpad[o], param);
15543     }
15544
15545     /* shortcuts to various I/O objects */
15546     PL_ofsgv            = gv_dup_inc(proto_perl->Iofsgv, param);
15547     PL_stdingv          = gv_dup(proto_perl->Istdingv, param);
15548     PL_stderrgv         = gv_dup(proto_perl->Istderrgv, param);
15549     PL_defgv            = gv_dup(proto_perl->Idefgv, param);
15550     PL_argvgv           = gv_dup_inc(proto_perl->Iargvgv, param);
15551     PL_argvoutgv        = gv_dup(proto_perl->Iargvoutgv, param);
15552     PL_argvout_stack    = av_dup_inc(proto_perl->Iargvout_stack, param);
15553
15554     /* shortcuts to regexp stuff */
15555     PL_replgv           = gv_dup_inc(proto_perl->Ireplgv, param);
15556
15557     /* shortcuts to misc objects */
15558     PL_errgv            = gv_dup(proto_perl->Ierrgv, param);
15559
15560     /* shortcuts to debugging objects */
15561     PL_DBgv             = gv_dup_inc(proto_perl->IDBgv, param);
15562     PL_DBline           = gv_dup_inc(proto_perl->IDBline, param);
15563     PL_DBsub            = gv_dup_inc(proto_perl->IDBsub, param);
15564     PL_DBsingle         = sv_dup(proto_perl->IDBsingle, param);
15565     PL_DBtrace          = sv_dup(proto_perl->IDBtrace, param);
15566     PL_DBsignal         = sv_dup(proto_perl->IDBsignal, param);
15567     Copy(proto_perl->IDBcontrol, PL_DBcontrol, DBVARMG_COUNT, IV);
15568
15569     /* symbol tables */
15570     PL_defstash         = hv_dup_inc(proto_perl->Idefstash, param);
15571     PL_curstash         = hv_dup_inc(proto_perl->Icurstash, param);
15572     PL_debstash         = hv_dup(proto_perl->Idebstash, param);
15573     PL_globalstash      = hv_dup(proto_perl->Iglobalstash, param);
15574     PL_curstname        = sv_dup_inc(proto_perl->Icurstname, param);
15575
15576     PL_beginav          = av_dup_inc(proto_perl->Ibeginav, param);
15577     PL_beginav_save     = av_dup_inc(proto_perl->Ibeginav_save, param);
15578     PL_checkav_save     = av_dup_inc(proto_perl->Icheckav_save, param);
15579     PL_unitcheckav      = av_dup_inc(proto_perl->Iunitcheckav, param);
15580     PL_unitcheckav_save = av_dup_inc(proto_perl->Iunitcheckav_save, param);
15581     PL_endav            = av_dup_inc(proto_perl->Iendav, param);
15582     PL_checkav          = av_dup_inc(proto_perl->Icheckav, param);
15583     PL_initav           = av_dup_inc(proto_perl->Iinitav, param);
15584     PL_savebegin        = proto_perl->Isavebegin;
15585
15586     PL_isarev           = hv_dup_inc(proto_perl->Iisarev, param);
15587
15588     /* subprocess state */
15589     PL_fdpid            = av_dup_inc(proto_perl->Ifdpid, param);
15590
15591     if (proto_perl->Iop_mask)
15592         PL_op_mask      = SAVEPVN(proto_perl->Iop_mask, PL_maxo);
15593     else
15594         PL_op_mask      = NULL;
15595     /* PL_asserting        = proto_perl->Iasserting; */
15596
15597     /* current interpreter roots */
15598     PL_main_cv          = cv_dup_inc(proto_perl->Imain_cv, param);
15599     OP_REFCNT_LOCK;
15600     PL_main_root        = OpREFCNT_inc(proto_perl->Imain_root);
15601     OP_REFCNT_UNLOCK;
15602
15603     /* runtime control stuff */
15604     PL_curcopdb         = (COP*)any_dup(proto_perl->Icurcopdb, proto_perl);
15605
15606     PL_preambleav       = av_dup_inc(proto_perl->Ipreambleav, param);
15607
15608     PL_ors_sv           = sv_dup_inc(proto_perl->Iors_sv, param);
15609
15610     /* interpreter atexit processing */
15611     PL_exitlistlen      = proto_perl->Iexitlistlen;
15612     if (PL_exitlistlen) {
15613         Newx(PL_exitlist, PL_exitlistlen, PerlExitListEntry);
15614         Copy(proto_perl->Iexitlist, PL_exitlist, PL_exitlistlen, PerlExitListEntry);
15615     }
15616     else
15617         PL_exitlist     = (PerlExitListEntry*)NULL;
15618
15619     PL_my_cxt_size = proto_perl->Imy_cxt_size;
15620     if (PL_my_cxt_size) {
15621         Newx(PL_my_cxt_list, PL_my_cxt_size, void *);
15622         Copy(proto_perl->Imy_cxt_list, PL_my_cxt_list, PL_my_cxt_size, void *);
15623     }
15624     else {
15625         PL_my_cxt_list  = (void**)NULL;
15626     }
15627     PL_modglobal        = hv_dup_inc(proto_perl->Imodglobal, param);
15628     PL_custom_op_names  = hv_dup_inc(proto_perl->Icustom_op_names,param);
15629     PL_custom_op_descs  = hv_dup_inc(proto_perl->Icustom_op_descs,param);
15630     PL_custom_ops       = hv_dup_inc(proto_perl->Icustom_ops, param);
15631
15632     PL_compcv                   = cv_dup(proto_perl->Icompcv, param);
15633
15634     PAD_CLONE_VARS(proto_perl, param);
15635
15636 #ifdef HAVE_INTERP_INTERN
15637     sys_intern_dup(&proto_perl->Isys_intern, &PL_sys_intern);
15638 #endif
15639
15640     PL_DBcv             = cv_dup(proto_perl->IDBcv, param);
15641
15642 #ifdef PERL_USES_PL_PIDSTATUS
15643     PL_pidstatus        = newHV();                      /* XXX flag for cloning? */
15644 #endif
15645     PL_osname           = SAVEPV(proto_perl->Iosname);
15646     PL_parser           = parser_dup(proto_perl->Iparser, param);
15647
15648     /* XXX this only works if the saved cop has already been cloned */
15649     if (proto_perl->Iparser) {
15650         PL_parser->saved_curcop = (COP*)any_dup(
15651                                     proto_perl->Iparser->saved_curcop,
15652                                     proto_perl);
15653     }
15654
15655     PL_subname          = sv_dup_inc(proto_perl->Isubname, param);
15656
15657 #if   defined(USE_POSIX_2008_LOCALE)      \
15658  &&   defined(USE_THREAD_SAFE_LOCALE)     \
15659  && ! defined(HAS_QUERYLOCALE)
15660     for (i = 0; i < (int) C_ARRAY_LENGTH(PL_curlocales); i++) {
15661         PL_curlocales[i] = savepv("."); /* An illegal value */
15662     }
15663 #endif
15664 #ifdef USE_LOCALE_CTYPE
15665     /* Should we warn if uses locale? */
15666     PL_warn_locale      = sv_dup_inc(proto_perl->Iwarn_locale, param);
15667 #endif
15668
15669 #ifdef USE_LOCALE_COLLATE
15670     PL_collation_name   = SAVEPV(proto_perl->Icollation_name);
15671 #endif /* USE_LOCALE_COLLATE */
15672
15673 #ifdef USE_LOCALE_NUMERIC
15674     PL_numeric_name     = SAVEPV(proto_perl->Inumeric_name);
15675     PL_numeric_radix_sv = sv_dup_inc(proto_perl->Inumeric_radix_sv, param);
15676
15677 #  if defined(HAS_POSIX_2008_LOCALE)
15678     PL_underlying_numeric_obj = NULL;
15679 #  endif
15680 #endif /* !USE_LOCALE_NUMERIC */
15681
15682     PL_langinfo_buf = NULL;
15683     PL_langinfo_bufsize = 0;
15684
15685     PL_setlocale_buf = NULL;
15686     PL_setlocale_bufsize = 0;
15687
15688 #if 0
15689     PL_seen_deprecated_macro = hv_dup_inc(proto_perl->Iseen_deprecated_macro, param);
15690 #endif
15691
15692     if (proto_perl->Ipsig_pend) {
15693         Newxz(PL_psig_pend, SIG_SIZE, int);
15694     }
15695     else {
15696         PL_psig_pend    = (int*)NULL;
15697     }
15698
15699     if (proto_perl->Ipsig_name) {
15700         Newx(PL_psig_name, 2 * SIG_SIZE, SV*);
15701         sv_dup_inc_multiple(proto_perl->Ipsig_name, PL_psig_name, 2 * SIG_SIZE,
15702                             param);
15703         PL_psig_ptr = PL_psig_name + SIG_SIZE;
15704     }
15705     else {
15706         PL_psig_ptr     = (SV**)NULL;
15707         PL_psig_name    = (SV**)NULL;
15708     }
15709
15710     if (flags & CLONEf_COPY_STACKS) {
15711         Newx(PL_tmps_stack, PL_tmps_max, SV*);
15712         sv_dup_inc_multiple(proto_perl->Itmps_stack, PL_tmps_stack,
15713                             PL_tmps_ix+1, param);
15714
15715         /* next PUSHMARK() sets *(PL_markstack_ptr+1) */
15716         i = proto_perl->Imarkstack_max - proto_perl->Imarkstack;
15717         Newx(PL_markstack, i, I32);
15718         PL_markstack_max        = PL_markstack + (proto_perl->Imarkstack_max
15719                                                   - proto_perl->Imarkstack);
15720         PL_markstack_ptr        = PL_markstack + (proto_perl->Imarkstack_ptr
15721                                                   - proto_perl->Imarkstack);
15722         Copy(proto_perl->Imarkstack, PL_markstack,
15723              PL_markstack_ptr - PL_markstack + 1, I32);
15724
15725         /* next push_scope()/ENTER sets PL_scopestack[PL_scopestack_ix]
15726          * NOTE: unlike the others! */
15727         Newx(PL_scopestack, PL_scopestack_max, I32);
15728         Copy(proto_perl->Iscopestack, PL_scopestack, PL_scopestack_ix, I32);
15729
15730 #ifdef DEBUGGING
15731         Newx(PL_scopestack_name, PL_scopestack_max, const char *);
15732         Copy(proto_perl->Iscopestack_name, PL_scopestack_name, PL_scopestack_ix, const char *);
15733 #endif
15734         /* reset stack AV to correct length before its duped via
15735          * PL_curstackinfo */
15736         AvFILLp(proto_perl->Icurstack) =
15737                             proto_perl->Istack_sp - proto_perl->Istack_base;
15738
15739         /* NOTE: si_dup() looks at PL_markstack */
15740         PL_curstackinfo         = si_dup(proto_perl->Icurstackinfo, param);
15741
15742         /* PL_curstack          = PL_curstackinfo->si_stack; */
15743         PL_curstack             = av_dup(proto_perl->Icurstack, param);
15744         PL_mainstack            = av_dup(proto_perl->Imainstack, param);
15745
15746         /* next PUSHs() etc. set *(PL_stack_sp+1) */
15747         PL_stack_base           = AvARRAY(PL_curstack);
15748         PL_stack_sp             = PL_stack_base + (proto_perl->Istack_sp
15749                                                    - proto_perl->Istack_base);
15750         PL_stack_max            = PL_stack_base + AvMAX(PL_curstack);
15751
15752         /*Newxz(PL_savestack, PL_savestack_max, ANY);*/
15753         PL_savestack            = ss_dup(proto_perl, param);
15754     }
15755     else {
15756         init_stacks();
15757         ENTER;                  /* perl_destruct() wants to LEAVE; */
15758     }
15759
15760     PL_statgv           = gv_dup(proto_perl->Istatgv, param);
15761     PL_statname         = sv_dup_inc(proto_perl->Istatname, param);
15762
15763     PL_rs               = sv_dup_inc(proto_perl->Irs, param);
15764     PL_last_in_gv       = gv_dup(proto_perl->Ilast_in_gv, param);
15765     PL_defoutgv         = gv_dup_inc(proto_perl->Idefoutgv, param);
15766     PL_toptarget        = sv_dup_inc(proto_perl->Itoptarget, param);
15767     PL_bodytarget       = sv_dup_inc(proto_perl->Ibodytarget, param);
15768     PL_formtarget       = sv_dup(proto_perl->Iformtarget, param);
15769
15770     PL_errors           = sv_dup_inc(proto_perl->Ierrors, param);
15771
15772     PL_sortcop          = (OP*)any_dup(proto_perl->Isortcop, proto_perl);
15773     PL_firstgv          = gv_dup_inc(proto_perl->Ifirstgv, param);
15774     PL_secondgv         = gv_dup_inc(proto_perl->Isecondgv, param);
15775
15776     PL_stashcache       = newHV();
15777
15778     PL_watchaddr        = (char **) ptr_table_fetch(PL_ptr_table,
15779                                             proto_perl->Iwatchaddr);
15780     PL_watchok          = PL_watchaddr ? * PL_watchaddr : NULL;
15781     if (PL_debug && PL_watchaddr) {
15782         PerlIO_printf(Perl_debug_log,
15783           "WATCHING: %" UVxf " cloned as %" UVxf " with value %" UVxf "\n",
15784           PTR2UV(proto_perl->Iwatchaddr), PTR2UV(PL_watchaddr),
15785           PTR2UV(PL_watchok));
15786     }
15787
15788     PL_registered_mros  = hv_dup_inc(proto_perl->Iregistered_mros, param);
15789     PL_blockhooks       = av_dup_inc(proto_perl->Iblockhooks, param);
15790
15791     /* Call the ->CLONE method, if it exists, for each of the stashes
15792        identified by sv_dup() above.
15793     */
15794     while(av_tindex(param->stashes) != -1) {
15795         HV* const stash = MUTABLE_HV(av_shift(param->stashes));
15796         GV* const cloner = gv_fetchmethod_autoload(stash, "CLONE", 0);
15797         if (cloner && GvCV(cloner)) {
15798             dSP;
15799             ENTER;
15800             SAVETMPS;
15801             PUSHMARK(SP);
15802             mXPUSHs(newSVhek(HvNAME_HEK(stash)));
15803             PUTBACK;
15804             call_sv(MUTABLE_SV(GvCV(cloner)), G_DISCARD);
15805             FREETMPS;
15806             LEAVE;
15807         }
15808     }
15809
15810     if (!(flags & CLONEf_KEEP_PTR_TABLE)) {
15811         ptr_table_free(PL_ptr_table);
15812         PL_ptr_table = NULL;
15813     }
15814
15815     if (!(flags & CLONEf_COPY_STACKS)) {
15816         unreferenced_to_tmp_stack(param->unreferenced);
15817     }
15818
15819     SvREFCNT_dec(param->stashes);
15820
15821     /* orphaned? eg threads->new inside BEGIN or use */
15822     if (PL_compcv && ! SvREFCNT(PL_compcv)) {
15823         SvREFCNT_inc_simple_void(PL_compcv);
15824         SAVEFREESV(PL_compcv);
15825     }
15826
15827     return my_perl;
15828 }
15829
15830 static void
15831 S_unreferenced_to_tmp_stack(pTHX_ AV *const unreferenced)
15832 {
15833     PERL_ARGS_ASSERT_UNREFERENCED_TO_TMP_STACK;
15834     
15835     if (AvFILLp(unreferenced) > -1) {
15836         SV **svp = AvARRAY(unreferenced);
15837         SV **const last = svp + AvFILLp(unreferenced);
15838         SSize_t count = 0;
15839
15840         do {
15841             if (SvREFCNT(*svp) == 1)
15842                 ++count;
15843         } while (++svp <= last);
15844
15845         EXTEND_MORTAL(count);
15846         svp = AvARRAY(unreferenced);
15847
15848         do {
15849             if (SvREFCNT(*svp) == 1) {
15850                 /* Our reference is the only one to this SV. This means that
15851                    in this thread, the scalar effectively has a 0 reference.
15852                    That doesn't work (cleanup never happens), so donate our
15853                    reference to it onto the save stack. */
15854                 PL_tmps_stack[++PL_tmps_ix] = *svp;
15855             } else {
15856                 /* As an optimisation, because we are already walking the
15857                    entire array, instead of above doing either
15858                    SvREFCNT_inc(*svp) or *svp = &PL_sv_undef, we can instead
15859                    release our reference to the scalar, so that at the end of
15860                    the array owns zero references to the scalars it happens to
15861                    point to. We are effectively converting the array from
15862                    AvREAL() on to AvREAL() off. This saves the av_clear()
15863                    (triggered by the SvREFCNT_dec(unreferenced) below) from
15864                    walking the array a second time.  */
15865                 SvREFCNT_dec(*svp);
15866             }
15867
15868         } while (++svp <= last);
15869         AvREAL_off(unreferenced);
15870     }
15871     SvREFCNT_dec_NN(unreferenced);
15872 }
15873
15874 void
15875 Perl_clone_params_del(CLONE_PARAMS *param)
15876 {
15877     /* This seemingly funky ordering keeps the build with PERL_GLOBAL_STRUCT
15878        happy: */
15879     PerlInterpreter *const to = param->new_perl;
15880     dTHXa(to);
15881     PerlInterpreter *const was = PERL_GET_THX;
15882
15883     PERL_ARGS_ASSERT_CLONE_PARAMS_DEL;
15884
15885     if (was != to) {
15886         PERL_SET_THX(to);
15887     }
15888
15889     SvREFCNT_dec(param->stashes);
15890     if (param->unreferenced)
15891         unreferenced_to_tmp_stack(param->unreferenced);
15892
15893     Safefree(param);
15894
15895     if (was != to) {
15896         PERL_SET_THX(was);
15897     }
15898 }
15899
15900 CLONE_PARAMS *
15901 Perl_clone_params_new(PerlInterpreter *const from, PerlInterpreter *const to)
15902 {
15903     dVAR;
15904     /* Need to play this game, as newAV() can call safesysmalloc(), and that
15905        does a dTHX; to get the context from thread local storage.
15906        FIXME - under PERL_CORE Newx(), Safefree() and friends should expand to
15907        a version that passes in my_perl.  */
15908     PerlInterpreter *const was = PERL_GET_THX;
15909     CLONE_PARAMS *param;
15910
15911     PERL_ARGS_ASSERT_CLONE_PARAMS_NEW;
15912
15913     if (was != to) {
15914         PERL_SET_THX(to);
15915     }
15916
15917     /* Given that we've set the context, we can do this unshared.  */
15918     Newx(param, 1, CLONE_PARAMS);
15919
15920     param->flags = 0;
15921     param->proto_perl = from;
15922     param->new_perl = to;
15923     param->stashes = (AV *)Perl_newSV_type(to, SVt_PVAV);
15924     AvREAL_off(param->stashes);
15925     param->unreferenced = (AV *)Perl_newSV_type(to, SVt_PVAV);
15926
15927     if (was != to) {
15928         PERL_SET_THX(was);
15929     }
15930     return param;
15931 }
15932
15933 #endif /* USE_ITHREADS */
15934
15935 void
15936 Perl_init_constants(pTHX)
15937 {
15938     dVAR;
15939
15940     SvREFCNT(&PL_sv_undef)      = SvREFCNT_IMMORTAL;
15941     SvFLAGS(&PL_sv_undef)       = SVf_READONLY|SVf_PROTECT|SVt_NULL;
15942     SvANY(&PL_sv_undef)         = NULL;
15943
15944     SvANY(&PL_sv_no)            = new_XPVNV();
15945     SvREFCNT(&PL_sv_no)         = SvREFCNT_IMMORTAL;
15946     SvFLAGS(&PL_sv_no)          = SVt_PVNV|SVf_READONLY|SVf_PROTECT
15947                                   |SVp_IOK|SVf_IOK|SVp_NOK|SVf_NOK
15948                                   |SVp_POK|SVf_POK;
15949
15950     SvANY(&PL_sv_yes)           = new_XPVNV();
15951     SvREFCNT(&PL_sv_yes)        = SvREFCNT_IMMORTAL;
15952     SvFLAGS(&PL_sv_yes)         = SVt_PVNV|SVf_READONLY|SVf_PROTECT
15953                                   |SVp_IOK|SVf_IOK|SVp_NOK|SVf_NOK
15954                                   |SVp_POK|SVf_POK;
15955
15956     SvANY(&PL_sv_zero)          = new_XPVNV();
15957     SvREFCNT(&PL_sv_zero)       = SvREFCNT_IMMORTAL;
15958     SvFLAGS(&PL_sv_zero)        = SVt_PVNV|SVf_READONLY|SVf_PROTECT
15959                                   |SVp_IOK|SVf_IOK|SVp_NOK|SVf_NOK
15960                                   |SVp_POK|SVf_POK
15961                                   |SVs_PADTMP;
15962
15963     SvPV_set(&PL_sv_no, (char*)PL_No);
15964     SvCUR_set(&PL_sv_no, 0);
15965     SvLEN_set(&PL_sv_no, 0);
15966     SvIV_set(&PL_sv_no, 0);
15967     SvNV_set(&PL_sv_no, 0);
15968
15969     SvPV_set(&PL_sv_yes, (char*)PL_Yes);
15970     SvCUR_set(&PL_sv_yes, 1);
15971     SvLEN_set(&PL_sv_yes, 0);
15972     SvIV_set(&PL_sv_yes, 1);
15973     SvNV_set(&PL_sv_yes, 1);
15974
15975     SvPV_set(&PL_sv_zero, (char*)PL_Zero);
15976     SvCUR_set(&PL_sv_zero, 1);
15977     SvLEN_set(&PL_sv_zero, 0);
15978     SvIV_set(&PL_sv_zero, 0);
15979     SvNV_set(&PL_sv_zero, 0);
15980
15981     PadnamePV(&PL_padname_const) = (char *)PL_No;
15982
15983     assert(SvIMMORTAL_INTERP(&PL_sv_yes));
15984     assert(SvIMMORTAL_INTERP(&PL_sv_undef));
15985     assert(SvIMMORTAL_INTERP(&PL_sv_no));
15986     assert(SvIMMORTAL_INTERP(&PL_sv_zero));
15987
15988     assert(SvIMMORTAL(&PL_sv_yes));
15989     assert(SvIMMORTAL(&PL_sv_undef));
15990     assert(SvIMMORTAL(&PL_sv_no));
15991     assert(SvIMMORTAL(&PL_sv_zero));
15992
15993     assert( SvIMMORTAL_TRUE(&PL_sv_yes));
15994     assert(!SvIMMORTAL_TRUE(&PL_sv_undef));
15995     assert(!SvIMMORTAL_TRUE(&PL_sv_no));
15996     assert(!SvIMMORTAL_TRUE(&PL_sv_zero));
15997
15998     assert( SvTRUE_nomg_NN(&PL_sv_yes));
15999     assert(!SvTRUE_nomg_NN(&PL_sv_undef));
16000     assert(!SvTRUE_nomg_NN(&PL_sv_no));
16001     assert(!SvTRUE_nomg_NN(&PL_sv_zero));
16002 }
16003
16004 /*
16005 =head1 Unicode Support
16006
16007 =for apidoc sv_recode_to_utf8
16008
16009 C<encoding> is assumed to be an C<Encode> object, on entry the PV
16010 of C<sv> is assumed to be octets in that encoding, and C<sv>
16011 will be converted into Unicode (and UTF-8).
16012
16013 If C<sv> already is UTF-8 (or if it is not C<POK>), or if C<encoding>
16014 is not a reference, nothing is done to C<sv>.  If C<encoding> is not
16015 an C<Encode::XS> Encoding object, bad things will happen.
16016 (See F<cpan/Encode/encoding.pm> and L<Encode>.)
16017
16018 The PV of C<sv> is returned.
16019
16020 =cut */
16021
16022 char *
16023 Perl_sv_recode_to_utf8(pTHX_ SV *sv, SV *encoding)
16024 {
16025     PERL_ARGS_ASSERT_SV_RECODE_TO_UTF8;
16026
16027     if (SvPOK(sv) && !SvUTF8(sv) && !IN_BYTES && SvROK(encoding)) {
16028         SV *uni;
16029         STRLEN len;
16030         const char *s;
16031         dSP;
16032         SV *nsv = sv;
16033         ENTER;
16034         PUSHSTACK;
16035         SAVETMPS;
16036         if (SvPADTMP(nsv)) {
16037             nsv = sv_newmortal();
16038             SvSetSV_nosteal(nsv, sv);
16039         }
16040         save_re_context();
16041         PUSHMARK(sp);
16042         EXTEND(SP, 3);
16043         PUSHs(encoding);
16044         PUSHs(nsv);
16045 /*
16046   NI-S 2002/07/09
16047   Passing sv_yes is wrong - it needs to be or'ed set of constants
16048   for Encode::XS, while UTf-8 decode (currently) assumes a true value means
16049   remove converted chars from source.
16050
16051   Both will default the value - let them.
16052
16053         XPUSHs(&PL_sv_yes);
16054 */
16055         PUTBACK;
16056         call_method("decode", G_SCALAR);
16057         SPAGAIN;
16058         uni = POPs;
16059         PUTBACK;
16060         s = SvPV_const(uni, len);
16061         if (s != SvPVX_const(sv)) {
16062             SvGROW(sv, len + 1);
16063             Move(s, SvPVX(sv), len + 1, char);
16064             SvCUR_set(sv, len);
16065         }
16066         FREETMPS;
16067         POPSTACK;
16068         LEAVE;
16069         if (SvTYPE(sv) >= SVt_PVMG && SvMAGIC(sv)) {
16070             /* clear pos and any utf8 cache */
16071             MAGIC * mg = mg_find(sv, PERL_MAGIC_regex_global);
16072             if (mg)
16073                 mg->mg_len = -1;
16074             if ((mg = mg_find(sv, PERL_MAGIC_utf8)))
16075                 magic_setutf8(sv,mg); /* clear UTF8 cache */
16076         }
16077         SvUTF8_on(sv);
16078         return SvPVX(sv);
16079     }
16080     return SvPOKp(sv) ? SvPVX(sv) : NULL;
16081 }
16082
16083 /*
16084 =for apidoc sv_cat_decode
16085
16086 C<encoding> is assumed to be an C<Encode> object, the PV of C<ssv> is
16087 assumed to be octets in that encoding and decoding the input starts
16088 from the position which S<C<(PV + *offset)>> pointed to.  C<dsv> will be
16089 concatenated with the decoded UTF-8 string from C<ssv>.  Decoding will terminate
16090 when the string C<tstr> appears in decoding output or the input ends on
16091 the PV of C<ssv>.  The value which C<offset> points will be modified
16092 to the last input position on C<ssv>.
16093
16094 Returns TRUE if the terminator was found, else returns FALSE.
16095
16096 =cut */
16097
16098 bool
16099 Perl_sv_cat_decode(pTHX_ SV *dsv, SV *encoding,
16100                    SV *ssv, int *offset, char *tstr, int tlen)
16101 {
16102     bool ret = FALSE;
16103
16104     PERL_ARGS_ASSERT_SV_CAT_DECODE;
16105
16106     if (SvPOK(ssv) && SvPOK(dsv) && SvROK(encoding)) {
16107         SV *offsv;
16108         dSP;
16109         ENTER;
16110         SAVETMPS;
16111         save_re_context();
16112         PUSHMARK(sp);
16113         EXTEND(SP, 6);
16114         PUSHs(encoding);
16115         PUSHs(dsv);
16116         PUSHs(ssv);
16117         offsv = newSViv(*offset);
16118         mPUSHs(offsv);
16119         mPUSHp(tstr, tlen);
16120         PUTBACK;
16121         call_method("cat_decode", G_SCALAR);
16122         SPAGAIN;
16123         ret = SvTRUE(TOPs);
16124         *offset = SvIV(offsv);
16125         PUTBACK;
16126         FREETMPS;
16127         LEAVE;
16128     }
16129     else
16130         Perl_croak(aTHX_ "Invalid argument to sv_cat_decode");
16131     return ret;
16132
16133 }
16134
16135 /* ---------------------------------------------------------------------
16136  *
16137  * support functions for report_uninit()
16138  */
16139
16140 /* the maxiumum size of array or hash where we will scan looking
16141  * for the undefined element that triggered the warning */
16142
16143 #define FUV_MAX_SEARCH_SIZE 1000
16144
16145 /* Look for an entry in the hash whose value has the same SV as val;
16146  * If so, return a mortal copy of the key. */
16147
16148 STATIC SV*
16149 S_find_hash_subscript(pTHX_ const HV *const hv, const SV *const val)
16150 {
16151     dVAR;
16152     HE **array;
16153     I32 i;
16154
16155     PERL_ARGS_ASSERT_FIND_HASH_SUBSCRIPT;
16156
16157     if (!hv || SvMAGICAL(hv) || !HvARRAY(hv) ||
16158                         (HvTOTALKEYS(hv) > FUV_MAX_SEARCH_SIZE))
16159         return NULL;
16160
16161     array = HvARRAY(hv);
16162
16163     for (i=HvMAX(hv); i>=0; i--) {
16164         HE *entry;
16165         for (entry = array[i]; entry; entry = HeNEXT(entry)) {
16166             if (HeVAL(entry) != val)
16167                 continue;
16168             if (    HeVAL(entry) == &PL_sv_undef ||
16169                     HeVAL(entry) == &PL_sv_placeholder)
16170                 continue;
16171             if (!HeKEY(entry))
16172                 return NULL;
16173             if (HeKLEN(entry) == HEf_SVKEY)
16174                 return sv_mortalcopy(HeKEY_sv(entry));
16175             return sv_2mortal(newSVhek(HeKEY_hek(entry)));
16176         }
16177     }
16178     return NULL;
16179 }
16180
16181 /* Look for an entry in the array whose value has the same SV as val;
16182  * If so, return the index, otherwise return -1. */
16183
16184 STATIC SSize_t
16185 S_find_array_subscript(pTHX_ const AV *const av, const SV *const val)
16186 {
16187     PERL_ARGS_ASSERT_FIND_ARRAY_SUBSCRIPT;
16188
16189     if (!av || SvMAGICAL(av) || !AvARRAY(av) ||
16190                         (AvFILLp(av) > FUV_MAX_SEARCH_SIZE))
16191         return -1;
16192
16193     if (val != &PL_sv_undef) {
16194         SV ** const svp = AvARRAY(av);
16195         SSize_t i;
16196
16197         for (i=AvFILLp(av); i>=0; i--)
16198             if (svp[i] == val)
16199                 return i;
16200     }
16201     return -1;
16202 }
16203
16204 /* varname(): return the name of a variable, optionally with a subscript.
16205  * If gv is non-zero, use the name of that global, along with gvtype (one
16206  * of "$", "@", "%"); otherwise use the name of the lexical at pad offset
16207  * targ.  Depending on the value of the subscript_type flag, return:
16208  */
16209
16210 #define FUV_SUBSCRIPT_NONE      1       /* "@foo"          */
16211 #define FUV_SUBSCRIPT_ARRAY     2       /* "$foo[aindex]"  */
16212 #define FUV_SUBSCRIPT_HASH      3       /* "$foo{keyname}" */
16213 #define FUV_SUBSCRIPT_WITHIN    4       /* "within @foo"   */
16214
16215 SV*
16216 Perl_varname(pTHX_ const GV *const gv, const char gvtype, PADOFFSET targ,
16217         const SV *const keyname, SSize_t aindex, int subscript_type)
16218 {
16219
16220     SV * const name = sv_newmortal();
16221     if (gv && isGV(gv)) {
16222         char buffer[2];
16223         buffer[0] = gvtype;
16224         buffer[1] = 0;
16225
16226         /* as gv_fullname4(), but add literal '^' for $^FOO names  */
16227
16228         gv_fullname4(name, gv, buffer, 0);
16229
16230         if ((unsigned int)SvPVX(name)[1] <= 26) {
16231             buffer[0] = '^';
16232             buffer[1] = SvPVX(name)[1] + 'A' - 1;
16233
16234             /* Swap the 1 unprintable control character for the 2 byte pretty
16235                version - ie substr($name, 1, 1) = $buffer; */
16236             sv_insert(name, 1, 1, buffer, 2);
16237         }
16238     }
16239     else {
16240         CV * const cv = gv ? ((CV *)gv) : find_runcv(NULL);
16241         PADNAME *sv;
16242
16243         assert(!cv || SvTYPE(cv) == SVt_PVCV || SvTYPE(cv) == SVt_PVFM);
16244
16245         if (!cv || !CvPADLIST(cv))
16246             return NULL;
16247         sv = padnamelist_fetch(PadlistNAMES(CvPADLIST(cv)), targ);
16248         sv_setpvn(name, PadnamePV(sv), PadnameLEN(sv));
16249         SvUTF8_on(name);
16250     }
16251
16252     if (subscript_type == FUV_SUBSCRIPT_HASH) {
16253         SV * const sv = newSV(0);
16254         STRLEN len;
16255         const char * const pv = SvPV_nomg_const((SV*)keyname, len);
16256
16257         *SvPVX(name) = '$';
16258         Perl_sv_catpvf(aTHX_ name, "{%s}",
16259             pv_pretty(sv, pv, len, 32, NULL, NULL,
16260                     PERL_PV_PRETTY_DUMP | PERL_PV_ESCAPE_UNI_DETECT ));
16261         SvREFCNT_dec_NN(sv);
16262     }
16263     else if (subscript_type == FUV_SUBSCRIPT_ARRAY) {
16264         *SvPVX(name) = '$';
16265         Perl_sv_catpvf(aTHX_ name, "[%" IVdf "]", (IV)aindex);
16266     }
16267     else if (subscript_type == FUV_SUBSCRIPT_WITHIN) {
16268         /* We know that name has no magic, so can use 0 instead of SV_GMAGIC */
16269         Perl_sv_insert_flags(aTHX_ name, 0, 0,  STR_WITH_LEN("within "), 0);
16270     }
16271
16272     return name;
16273 }
16274
16275
16276 /*
16277 =for apidoc find_uninit_var
16278
16279 Find the name of the undefined variable (if any) that caused the operator
16280 to issue a "Use of uninitialized value" warning.
16281 If match is true, only return a name if its value matches C<uninit_sv>.
16282 So roughly speaking, if a unary operator (such as C<OP_COS>) generates a
16283 warning, then following the direct child of the op may yield an
16284 C<OP_PADSV> or C<OP_GV> that gives the name of the undefined variable.  On the
16285 other hand, with C<OP_ADD> there are two branches to follow, so we only print
16286 the variable name if we get an exact match.
16287 C<desc_p> points to a string pointer holding the description of the op.
16288 This may be updated if needed.
16289
16290 The name is returned as a mortal SV.
16291
16292 Assumes that C<PL_op> is the OP that originally triggered the error, and that
16293 C<PL_comppad>/C<PL_curpad> points to the currently executing pad.
16294
16295 =cut
16296 */
16297
16298 STATIC SV *
16299 S_find_uninit_var(pTHX_ const OP *const obase, const SV *const uninit_sv,
16300                   bool match, const char **desc_p)
16301 {
16302     dVAR;
16303     SV *sv;
16304     const GV *gv;
16305     const OP *o, *o2, *kid;
16306
16307     PERL_ARGS_ASSERT_FIND_UNINIT_VAR;
16308
16309     if (!obase || (match && (!uninit_sv || uninit_sv == &PL_sv_undef ||
16310                             uninit_sv == &PL_sv_placeholder)))
16311         return NULL;
16312
16313     switch (obase->op_type) {
16314
16315     case OP_UNDEF:
16316         /* undef should care if its args are undef - any warnings
16317          * will be from tied/magic vars */
16318         break;
16319
16320     case OP_RV2AV:
16321     case OP_RV2HV:
16322     case OP_PADAV:
16323     case OP_PADHV:
16324       {
16325         const bool pad  = (    obase->op_type == OP_PADAV
16326                             || obase->op_type == OP_PADHV
16327                             || obase->op_type == OP_PADRANGE
16328                           );
16329
16330         const bool hash = (    obase->op_type == OP_PADHV
16331                             || obase->op_type == OP_RV2HV
16332                             || (obase->op_type == OP_PADRANGE
16333                                 && SvTYPE(PAD_SVl(obase->op_targ)) == SVt_PVHV)
16334                           );
16335         SSize_t index = 0;
16336         SV *keysv = NULL;
16337         int subscript_type = FUV_SUBSCRIPT_WITHIN;
16338
16339         if (pad) { /* @lex, %lex */
16340             sv = PAD_SVl(obase->op_targ);
16341             gv = NULL;
16342         }
16343         else {
16344             if (cUNOPx(obase)->op_first->op_type == OP_GV) {
16345             /* @global, %global */
16346                 gv = cGVOPx_gv(cUNOPx(obase)->op_first);
16347                 if (!gv)
16348                     break;
16349                 sv = hash ? MUTABLE_SV(GvHV(gv)): MUTABLE_SV(GvAV(gv));
16350             }
16351             else if (obase == PL_op) /* @{expr}, %{expr} */
16352                 return find_uninit_var(cUNOPx(obase)->op_first,
16353                                                 uninit_sv, match, desc_p);
16354             else /* @{expr}, %{expr} as a sub-expression */
16355                 return NULL;
16356         }
16357
16358         /* attempt to find a match within the aggregate */
16359         if (hash) {
16360             keysv = find_hash_subscript((const HV*)sv, uninit_sv);
16361             if (keysv)
16362                 subscript_type = FUV_SUBSCRIPT_HASH;
16363         }
16364         else {
16365             index = find_array_subscript((const AV *)sv, uninit_sv);
16366             if (index >= 0)
16367                 subscript_type = FUV_SUBSCRIPT_ARRAY;
16368         }
16369
16370         if (match && subscript_type == FUV_SUBSCRIPT_WITHIN)
16371             break;
16372
16373         return varname(gv, (char)(hash ? '%' : '@'), obase->op_targ,
16374                                     keysv, index, subscript_type);
16375       }
16376
16377     case OP_RV2SV:
16378         if (cUNOPx(obase)->op_first->op_type == OP_GV) {
16379             /* $global */
16380             gv = cGVOPx_gv(cUNOPx(obase)->op_first);
16381             if (!gv || !GvSTASH(gv))
16382                 break;
16383             if (match && (GvSV(gv) != uninit_sv))
16384                 break;
16385             return varname(gv, '$', 0, NULL, 0, FUV_SUBSCRIPT_NONE);
16386         }
16387         /* ${expr} */
16388         return find_uninit_var(cUNOPx(obase)->op_first, uninit_sv, 1, desc_p);
16389
16390     case OP_PADSV:
16391         if (match && PAD_SVl(obase->op_targ) != uninit_sv)
16392             break;
16393         return varname(NULL, '$', obase->op_targ,
16394                                     NULL, 0, FUV_SUBSCRIPT_NONE);
16395
16396     case OP_GVSV:
16397         gv = cGVOPx_gv(obase);
16398         if (!gv || (match && GvSV(gv) != uninit_sv) || !GvSTASH(gv))
16399             break;
16400         return varname(gv, '$', 0, NULL, 0, FUV_SUBSCRIPT_NONE);
16401
16402     case OP_AELEMFAST_LEX:
16403         if (match) {
16404             SV **svp;
16405             AV *av = MUTABLE_AV(PAD_SV(obase->op_targ));
16406             if (!av || SvRMAGICAL(av))
16407                 break;
16408             svp = av_fetch(av, (I8)obase->op_private, FALSE);
16409             if (!svp || *svp != uninit_sv)
16410                 break;
16411         }
16412         return varname(NULL, '$', obase->op_targ,
16413                        NULL, (I8)obase->op_private, FUV_SUBSCRIPT_ARRAY);
16414     case OP_AELEMFAST:
16415         {
16416             gv = cGVOPx_gv(obase);
16417             if (!gv)
16418                 break;
16419             if (match) {
16420                 SV **svp;
16421                 AV *const av = GvAV(gv);
16422                 if (!av || SvRMAGICAL(av))
16423                     break;
16424                 svp = av_fetch(av, (I8)obase->op_private, FALSE);
16425                 if (!svp || *svp != uninit_sv)
16426                     break;
16427             }
16428             return varname(gv, '$', 0,
16429                     NULL, (I8)obase->op_private, FUV_SUBSCRIPT_ARRAY);
16430         }
16431         NOT_REACHED; /* NOTREACHED */
16432
16433     case OP_EXISTS:
16434         o = cUNOPx(obase)->op_first;
16435         if (!o || o->op_type != OP_NULL ||
16436                 ! (o->op_targ == OP_AELEM || o->op_targ == OP_HELEM))
16437             break;
16438         return find_uninit_var(cBINOPo->op_last, uninit_sv, match, desc_p);
16439
16440     case OP_AELEM:
16441     case OP_HELEM:
16442     {
16443         bool negate = FALSE;
16444
16445         if (PL_op == obase)
16446             /* $a[uninit_expr] or $h{uninit_expr} */
16447             return find_uninit_var(cBINOPx(obase)->op_last,
16448                                                 uninit_sv, match, desc_p);
16449
16450         gv = NULL;
16451         o = cBINOPx(obase)->op_first;
16452         kid = cBINOPx(obase)->op_last;
16453
16454         /* get the av or hv, and optionally the gv */
16455         sv = NULL;
16456         if  (o->op_type == OP_PADAV || o->op_type == OP_PADHV) {
16457             sv = PAD_SV(o->op_targ);
16458         }
16459         else if ((o->op_type == OP_RV2AV || o->op_type == OP_RV2HV)
16460                 && cUNOPo->op_first->op_type == OP_GV)
16461         {
16462             gv = cGVOPx_gv(cUNOPo->op_first);
16463             if (!gv)
16464                 break;
16465             sv = o->op_type
16466                 == OP_RV2HV ? MUTABLE_SV(GvHV(gv)) : MUTABLE_SV(GvAV(gv));
16467         }
16468         if (!sv)
16469             break;
16470
16471         if (kid && kid->op_type == OP_NEGATE) {
16472             negate = TRUE;
16473             kid = cUNOPx(kid)->op_first;
16474         }
16475
16476         if (kid && kid->op_type == OP_CONST && SvOK(cSVOPx_sv(kid))) {
16477             /* index is constant */
16478             SV* kidsv;
16479             if (negate) {
16480                 kidsv = newSVpvs_flags("-", SVs_TEMP);
16481                 sv_catsv(kidsv, cSVOPx_sv(kid));
16482             }
16483             else
16484                 kidsv = cSVOPx_sv(kid);
16485             if (match) {
16486                 if (SvMAGICAL(sv))
16487                     break;
16488                 if (obase->op_type == OP_HELEM) {
16489                     HE* he = hv_fetch_ent(MUTABLE_HV(sv), kidsv, 0, 0);
16490                     if (!he || HeVAL(he) != uninit_sv)
16491                         break;
16492                 }
16493                 else {
16494                     SV * const  opsv = cSVOPx_sv(kid);
16495                     const IV  opsviv = SvIV(opsv);
16496                     SV * const * const svp = av_fetch(MUTABLE_AV(sv),
16497                         negate ? - opsviv : opsviv,
16498                         FALSE);
16499                     if (!svp || *svp != uninit_sv)
16500                         break;
16501                 }
16502             }
16503             if (obase->op_type == OP_HELEM)
16504                 return varname(gv, '%', o->op_targ,
16505                             kidsv, 0, FUV_SUBSCRIPT_HASH);
16506             else
16507                 return varname(gv, '@', o->op_targ, NULL,
16508                     negate ? - SvIV(cSVOPx_sv(kid)) : SvIV(cSVOPx_sv(kid)),
16509                     FUV_SUBSCRIPT_ARRAY);
16510         }
16511         else  {
16512             /* index is an expression;
16513              * attempt to find a match within the aggregate */
16514             if (obase->op_type == OP_HELEM) {
16515                 SV * const keysv = find_hash_subscript((const HV*)sv, uninit_sv);
16516                 if (keysv)
16517                     return varname(gv, '%', o->op_targ,
16518                                                 keysv, 0, FUV_SUBSCRIPT_HASH);
16519             }
16520             else {
16521                 const SSize_t index
16522                     = find_array_subscript((const AV *)sv, uninit_sv);
16523                 if (index >= 0)
16524                     return varname(gv, '@', o->op_targ,
16525                                         NULL, index, FUV_SUBSCRIPT_ARRAY);
16526             }
16527             if (match)
16528                 break;
16529             return varname(gv,
16530                 (char)((o->op_type == OP_PADAV || o->op_type == OP_RV2AV)
16531                 ? '@' : '%'),
16532                 o->op_targ, NULL, 0, FUV_SUBSCRIPT_WITHIN);
16533         }
16534         NOT_REACHED; /* NOTREACHED */
16535     }
16536
16537     case OP_MULTIDEREF: {
16538         /* If we were executing OP_MULTIDEREF when the undef warning
16539          * triggered, then it must be one of the index values within
16540          * that triggered it. If not, then the only possibility is that
16541          * the value retrieved by the last aggregate index might be the
16542          * culprit. For the former, we set PL_multideref_pc each time before
16543          * using an index, so work though the item list until we reach
16544          * that point. For the latter, just work through the entire item
16545          * list; the last aggregate retrieved will be the candidate.
16546          * There is a third rare possibility: something triggered
16547          * magic while fetching an array/hash element. Just display
16548          * nothing in this case.
16549          */
16550
16551         /* the named aggregate, if any */
16552         PADOFFSET agg_targ = 0;
16553         GV       *agg_gv   = NULL;
16554         /* the last-seen index */
16555         UV        index_type;
16556         PADOFFSET index_targ;
16557         GV       *index_gv;
16558         IV        index_const_iv = 0; /* init for spurious compiler warn */
16559         SV       *index_const_sv;
16560         int       depth = 0;  /* how many array/hash lookups we've done */
16561
16562         UNOP_AUX_item *items = cUNOP_AUXx(obase)->op_aux;
16563         UNOP_AUX_item *last = NULL;
16564         UV actions = items->uv;
16565         bool is_hv;
16566
16567         if (PL_op == obase) {
16568             last = PL_multideref_pc;
16569             assert(last >= items && last <= items + items[-1].uv);
16570         }
16571
16572         assert(actions);
16573
16574         while (1) {
16575             is_hv = FALSE;
16576             switch (actions & MDEREF_ACTION_MASK) {
16577
16578             case MDEREF_reload:
16579                 actions = (++items)->uv;
16580                 continue;
16581
16582             case MDEREF_HV_padhv_helem:               /* $lex{...} */
16583                 is_hv = TRUE;
16584                 /* FALLTHROUGH */
16585             case MDEREF_AV_padav_aelem:               /* $lex[...] */
16586                 agg_targ = (++items)->pad_offset;
16587                 agg_gv = NULL;
16588                 break;
16589
16590             case MDEREF_HV_gvhv_helem:                /* $pkg{...} */
16591                 is_hv = TRUE;
16592                 /* FALLTHROUGH */
16593             case MDEREF_AV_gvav_aelem:                /* $pkg[...] */
16594                 agg_targ = 0;
16595                 agg_gv = (GV*)UNOP_AUX_item_sv(++items);
16596                 assert(isGV_with_GP(agg_gv));
16597                 break;
16598
16599             case MDEREF_HV_gvsv_vivify_rv2hv_helem:   /* $pkg->{...} */
16600             case MDEREF_HV_padsv_vivify_rv2hv_helem:  /* $lex->{...} */
16601                 ++items;
16602                 /* FALLTHROUGH */
16603             case MDEREF_HV_pop_rv2hv_helem:           /* expr->{...} */
16604             case MDEREF_HV_vivify_rv2hv_helem:        /* vivify, ->{...} */
16605                 agg_targ = 0;
16606                 agg_gv   = NULL;
16607                 is_hv    = TRUE;
16608                 break;
16609
16610             case MDEREF_AV_gvsv_vivify_rv2av_aelem:   /* $pkg->[...] */
16611             case MDEREF_AV_padsv_vivify_rv2av_aelem:  /* $lex->[...] */
16612                 ++items;
16613                 /* FALLTHROUGH */
16614             case MDEREF_AV_pop_rv2av_aelem:           /* expr->[...] */
16615             case MDEREF_AV_vivify_rv2av_aelem:        /* vivify, ->[...] */
16616                 agg_targ = 0;
16617                 agg_gv   = NULL;
16618             } /* switch */
16619
16620             index_targ     = 0;
16621             index_gv       = NULL;
16622             index_const_sv = NULL;
16623
16624             index_type = (actions & MDEREF_INDEX_MASK);
16625             switch (index_type) {
16626             case MDEREF_INDEX_none:
16627                 break;
16628             case MDEREF_INDEX_const:
16629                 if (is_hv)
16630                     index_const_sv = UNOP_AUX_item_sv(++items)
16631                 else
16632                     index_const_iv = (++items)->iv;
16633                 break;
16634             case MDEREF_INDEX_padsv:
16635                 index_targ = (++items)->pad_offset;
16636                 break;
16637             case MDEREF_INDEX_gvsv:
16638                 index_gv = (GV*)UNOP_AUX_item_sv(++items);
16639                 assert(isGV_with_GP(index_gv));
16640                 break;
16641             }
16642
16643             if (index_type != MDEREF_INDEX_none)
16644                 depth++;
16645
16646             if (   index_type == MDEREF_INDEX_none
16647                 || (actions & MDEREF_FLAG_last)
16648                 || (last && items >= last)
16649             )
16650                 break;
16651
16652             actions >>= MDEREF_SHIFT;
16653         } /* while */
16654
16655         if (PL_op == obase) {
16656             /* most likely index was undef */
16657
16658             *desc_p = (    (actions & MDEREF_FLAG_last)
16659                         && (obase->op_private
16660                                 & (OPpMULTIDEREF_EXISTS|OPpMULTIDEREF_DELETE)))
16661                         ?
16662                             (obase->op_private & OPpMULTIDEREF_EXISTS)
16663                                 ? "exists"
16664                                 : "delete"
16665                         : is_hv ? "hash element" : "array element";
16666             assert(index_type != MDEREF_INDEX_none);
16667             if (index_gv) {
16668                 if (GvSV(index_gv) == uninit_sv)
16669                     return varname(index_gv, '$', 0, NULL, 0,
16670                                                     FUV_SUBSCRIPT_NONE);
16671                 else
16672                     return NULL;
16673             }
16674             if (index_targ) {
16675                 if (PL_curpad[index_targ] == uninit_sv)
16676                     return varname(NULL, '$', index_targ,
16677                                     NULL, 0, FUV_SUBSCRIPT_NONE);
16678                 else
16679                     return NULL;
16680             }
16681             /* If we got to this point it was undef on a const subscript,
16682              * so magic probably involved, e.g. $ISA[0]. Give up. */
16683             return NULL;
16684         }
16685
16686         /* the SV returned by pp_multideref() was undef, if anything was */
16687
16688         if (depth != 1)
16689             break;
16690
16691         if (agg_targ)
16692             sv = PAD_SV(agg_targ);
16693         else if (agg_gv) {
16694             sv = is_hv ? MUTABLE_SV(GvHV(agg_gv)) : MUTABLE_SV(GvAV(agg_gv));
16695             if (!sv)
16696                 break;
16697             }
16698         else
16699             break;
16700
16701         if (index_type == MDEREF_INDEX_const) {
16702             if (match) {
16703                 if (SvMAGICAL(sv))
16704                     break;
16705                 if (is_hv) {
16706                     HE* he = hv_fetch_ent(MUTABLE_HV(sv), index_const_sv, 0, 0);
16707                     if (!he || HeVAL(he) != uninit_sv)
16708                         break;
16709                 }
16710                 else {
16711                     SV * const * const svp =
16712                             av_fetch(MUTABLE_AV(sv), index_const_iv, FALSE);
16713                     if (!svp || *svp != uninit_sv)
16714                         break;
16715                 }
16716             }
16717             return is_hv
16718                 ? varname(agg_gv, '%', agg_targ,
16719                                 index_const_sv, 0,    FUV_SUBSCRIPT_HASH)
16720                 : varname(agg_gv, '@', agg_targ,
16721                                 NULL, index_const_iv, FUV_SUBSCRIPT_ARRAY);
16722         }
16723         else  {
16724             /* index is an var */
16725             if (is_hv) {
16726                 SV * const keysv = find_hash_subscript((const HV*)sv, uninit_sv);
16727                 if (keysv)
16728                     return varname(agg_gv, '%', agg_targ,
16729                                                 keysv, 0, FUV_SUBSCRIPT_HASH);
16730             }
16731             else {
16732                 const SSize_t index
16733                     = find_array_subscript((const AV *)sv, uninit_sv);
16734                 if (index >= 0)
16735                     return varname(agg_gv, '@', agg_targ,
16736                                         NULL, index, FUV_SUBSCRIPT_ARRAY);
16737             }
16738             if (match)
16739                 break;
16740             return varname(agg_gv,
16741                 is_hv ? '%' : '@',
16742                 agg_targ, NULL, 0, FUV_SUBSCRIPT_WITHIN);
16743         }
16744         NOT_REACHED; /* NOTREACHED */
16745     }
16746
16747     case OP_AASSIGN:
16748         /* only examine RHS */
16749         return find_uninit_var(cBINOPx(obase)->op_first, uninit_sv,
16750                                                                 match, desc_p);
16751
16752     case OP_OPEN:
16753         o = cUNOPx(obase)->op_first;
16754         if (   o->op_type == OP_PUSHMARK
16755            || (o->op_type == OP_NULL && o->op_targ == OP_PUSHMARK)
16756         )
16757             o = OpSIBLING(o);
16758
16759         if (!OpHAS_SIBLING(o)) {
16760             /* one-arg version of open is highly magical */
16761
16762             if (o->op_type == OP_GV) { /* open FOO; */
16763                 gv = cGVOPx_gv(o);
16764                 if (match && GvSV(gv) != uninit_sv)
16765                     break;
16766                 return varname(gv, '$', 0,
16767                             NULL, 0, FUV_SUBSCRIPT_NONE);
16768             }
16769             /* other possibilities not handled are:
16770              * open $x; or open my $x;  should return '${*$x}'
16771              * open expr;               should return '$'.expr ideally
16772              */
16773              break;
16774         }
16775         match = 1;
16776         goto do_op;
16777
16778     /* ops where $_ may be an implicit arg */
16779     case OP_TRANS:
16780     case OP_TRANSR:
16781     case OP_SUBST:
16782     case OP_MATCH:
16783         if ( !(obase->op_flags & OPf_STACKED)) {
16784             if (uninit_sv == DEFSV)
16785                 return newSVpvs_flags("$_", SVs_TEMP);
16786             else if (obase->op_targ
16787                   && uninit_sv == PAD_SVl(obase->op_targ))
16788                 return varname(NULL, '$', obase->op_targ, NULL, 0,
16789                                FUV_SUBSCRIPT_NONE);
16790         }
16791         goto do_op;
16792
16793     case OP_PRTF:
16794     case OP_PRINT:
16795     case OP_SAY:
16796         match = 1; /* print etc can return undef on defined args */
16797         /* skip filehandle as it can't produce 'undef' warning  */
16798         o = cUNOPx(obase)->op_first;
16799         if ((obase->op_flags & OPf_STACKED)
16800             &&
16801                (   o->op_type == OP_PUSHMARK
16802                || (o->op_type == OP_NULL && o->op_targ == OP_PUSHMARK)))
16803             o = OpSIBLING(OpSIBLING(o));
16804         goto do_op2;
16805
16806
16807     case OP_ENTEREVAL: /* could be eval $undef or $x='$undef'; eval $x */
16808     case OP_CUSTOM: /* XS or custom code could trigger random warnings */
16809
16810         /* the following ops are capable of returning PL_sv_undef even for
16811          * defined arg(s) */
16812
16813     case OP_BACKTICK:
16814     case OP_PIPE_OP:
16815     case OP_FILENO:
16816     case OP_BINMODE:
16817     case OP_TIED:
16818     case OP_GETC:
16819     case OP_SYSREAD:
16820     case OP_SEND:
16821     case OP_IOCTL:
16822     case OP_SOCKET:
16823     case OP_SOCKPAIR:
16824     case OP_BIND:
16825     case OP_CONNECT:
16826     case OP_LISTEN:
16827     case OP_ACCEPT:
16828     case OP_SHUTDOWN:
16829     case OP_SSOCKOPT:
16830     case OP_GETPEERNAME:
16831     case OP_FTRREAD:
16832     case OP_FTRWRITE:
16833     case OP_FTREXEC:
16834     case OP_FTROWNED:
16835     case OP_FTEREAD:
16836     case OP_FTEWRITE:
16837     case OP_FTEEXEC:
16838     case OP_FTEOWNED:
16839     case OP_FTIS:
16840     case OP_FTZERO:
16841     case OP_FTSIZE:
16842     case OP_FTFILE:
16843     case OP_FTDIR:
16844     case OP_FTLINK:
16845     case OP_FTPIPE:
16846     case OP_FTSOCK:
16847     case OP_FTBLK:
16848     case OP_FTCHR:
16849     case OP_FTTTY:
16850     case OP_FTSUID:
16851     case OP_FTSGID:
16852     case OP_FTSVTX:
16853     case OP_FTTEXT:
16854     case OP_FTBINARY:
16855     case OP_FTMTIME:
16856     case OP_FTATIME:
16857     case OP_FTCTIME:
16858     case OP_READLINK:
16859     case OP_OPEN_DIR:
16860     case OP_READDIR:
16861     case OP_TELLDIR:
16862     case OP_SEEKDIR:
16863     case OP_REWINDDIR:
16864     case OP_CLOSEDIR:
16865     case OP_GMTIME:
16866     case OP_ALARM:
16867     case OP_SEMGET:
16868     case OP_GETLOGIN:
16869     case OP_SUBSTR:
16870     case OP_AEACH:
16871     case OP_EACH:
16872     case OP_SORT:
16873     case OP_CALLER:
16874     case OP_DOFILE:
16875     case OP_PROTOTYPE:
16876     case OP_NCMP:
16877     case OP_SMARTMATCH:
16878     case OP_UNPACK:
16879     case OP_SYSOPEN:
16880     case OP_SYSSEEK:
16881         match = 1;
16882         goto do_op;
16883
16884     case OP_ENTERSUB:
16885     case OP_GOTO:
16886         /* XXX tmp hack: these two may call an XS sub, and currently
16887           XS subs don't have a SUB entry on the context stack, so CV and
16888           pad determination goes wrong, and BAD things happen. So, just
16889           don't try to determine the value under those circumstances.
16890           Need a better fix at dome point. DAPM 11/2007 */
16891         break;
16892
16893     case OP_FLIP:
16894     case OP_FLOP:
16895     {
16896         GV * const gv = gv_fetchpvs(".", GV_NOTQUAL, SVt_PV);
16897         if (gv && GvSV(gv) == uninit_sv)
16898             return newSVpvs_flags("$.", SVs_TEMP);
16899         goto do_op;
16900     }
16901
16902     case OP_POS:
16903         /* def-ness of rval pos() is independent of the def-ness of its arg */
16904         if ( !(obase->op_flags & OPf_MOD))
16905             break;
16906         /* FALLTHROUGH */
16907
16908     case OP_SCHOMP:
16909     case OP_CHOMP:
16910         if (SvROK(PL_rs) && uninit_sv == SvRV(PL_rs))
16911             return newSVpvs_flags("${$/}", SVs_TEMP);
16912         /* FALLTHROUGH */
16913
16914     default:
16915     do_op:
16916         if (!(obase->op_flags & OPf_KIDS))
16917             break;
16918         o = cUNOPx(obase)->op_first;
16919         
16920     do_op2:
16921         if (!o)
16922             break;
16923
16924         /* This loop checks all the kid ops, skipping any that cannot pos-
16925          * sibly be responsible for the uninitialized value; i.e., defined
16926          * constants and ops that return nothing.  If there is only one op
16927          * left that is not skipped, then we *know* it is responsible for
16928          * the uninitialized value.  If there is more than one op left, we
16929          * have to look for an exact match in the while() loop below.
16930          * Note that we skip padrange, because the individual pad ops that
16931          * it replaced are still in the tree, so we work on them instead.
16932          */
16933         o2 = NULL;
16934         for (kid=o; kid; kid = OpSIBLING(kid)) {
16935             const OPCODE type = kid->op_type;
16936             if ( (type == OP_CONST && SvOK(cSVOPx_sv(kid)))
16937               || (type == OP_NULL  && ! (kid->op_flags & OPf_KIDS))
16938               || (type == OP_PUSHMARK)
16939               || (type == OP_PADRANGE)
16940             )
16941             continue;
16942
16943             if (o2) { /* more than one found */
16944                 o2 = NULL;
16945                 break;
16946             }
16947             o2 = kid;
16948         }
16949         if (o2)
16950             return find_uninit_var(o2, uninit_sv, match, desc_p);
16951
16952         /* scan all args */
16953         while (o) {
16954             sv = find_uninit_var(o, uninit_sv, 1, desc_p);
16955             if (sv)
16956                 return sv;
16957             o = OpSIBLING(o);
16958         }
16959         break;
16960     }
16961     return NULL;
16962 }
16963
16964
16965 /*
16966 =for apidoc report_uninit
16967
16968 Print appropriate "Use of uninitialized variable" warning.
16969
16970 =cut
16971 */
16972
16973 void
16974 Perl_report_uninit(pTHX_ const SV *uninit_sv)
16975 {
16976     const char *desc = NULL;
16977     SV* varname = NULL;
16978
16979     if (PL_op) {
16980         desc = PL_op->op_type == OP_STRINGIFY && PL_op->op_folded
16981                 ? "join or string"
16982                 : PL_op->op_type == OP_MULTICONCAT
16983                     && (PL_op->op_private & OPpMULTICONCAT_FAKE)
16984                 ? "sprintf"
16985                 : OP_DESC(PL_op);
16986         if (uninit_sv && PL_curpad) {
16987             varname = find_uninit_var(PL_op, uninit_sv, 0, &desc);
16988             if (varname)
16989                 sv_insert(varname, 0, 0, " ", 1);
16990         }
16991     }
16992     else if (PL_curstackinfo->si_type == PERLSI_SORT && cxstack_ix == 0)
16993         /* we've reached the end of a sort block or sub,
16994          * and the uninit value is probably what that code returned */
16995         desc = "sort";
16996
16997     /* PL_warn_uninit_sv is constant */
16998     GCC_DIAG_IGNORE_STMT(-Wformat-nonliteral);
16999     if (desc)
17000         /* diag_listed_as: Use of uninitialized value%s */
17001         Perl_warner(aTHX_ packWARN(WARN_UNINITIALIZED), PL_warn_uninit_sv,
17002                 SVfARG(varname ? varname : &PL_sv_no),
17003                 " in ", desc);
17004     else
17005         Perl_warner(aTHX_ packWARN(WARN_UNINITIALIZED), PL_warn_uninit,
17006                 "", "", "");
17007     GCC_DIAG_RESTORE_STMT;
17008 }
17009
17010 /*
17011  * ex: set ts=8 sts=4 sw=4 et:
17012  */