This is a live mirror of the Perl 5 development currently hosted at
10 years agoutil.c:report_evil_fh: Rmv redundant SvPOK
Father Chrysostomos [Fri, 25 May 2012 05:46:16 +0000 (22:46 -0700)]
util.c:report_evil_fh: Rmv redundant SvPOK

newSVhek (used to create this SV) always returns an SvPOK scalar.

10 years agoutil.c:report_wrongway_fh: Report name w/initial null
Father Chrysostomos [Fri, 25 May 2012 05:41:53 +0000 (22:41 -0700)]
util.c:report_wrongway_fh: Report name w/initial null

In the error message, we shouldn’t omit a handle whose name begins
with "\0", but, rather, a handle whose name has no length to it.

10 years agoutil.c:report_evil_fh: Rmv redundant isGV check
Father Chrysostomos [Fri, 25 May 2012 05:19:29 +0000 (22:19 -0700)]
util.c:report_evil_fh: Rmv redundant isGV check

Checking isGV_with_GP makes the isGV check redundant.  The only case
in which isGV could be true when isGV_with_GP is false could be a GV
playing PVBM, but those don’t exist any more.  When they did exist,
this check was probably wrong (and crashable).

10 years agoutil.c:report_wrongway_fh: Don’t create an SV
Father Chrysostomos [Fri, 25 May 2012 05:16:52 +0000 (22:16 -0700)]
util.c:report_wrongway_fh: Don’t create an SV

Now that sv_vcatpvfn supports HEKs directly, we don’t need to create a
temporary SV out of one.

10 years agoutil.c:report_wrongway_fh: Rmv redundant isGV check
Father Chrysostomos [Fri, 25 May 2012 05:10:32 +0000 (22:10 -0700)]
util.c:report_wrongway_fh: Rmv redundant isGV check

Checking isGV_with_GP makes the isGV check redundant.  The only case
in which isGV could be true when isGV_with_GP is false could be a GV
playing PVBM, but those don’t exist any more.  When they did exist,
this check was probably wrong (and crashable).

10 years agoMake UNIVERSAL::can treats str and num the same way
Father Chrysostomos [Fri, 25 May 2012 03:37:01 +0000 (20:37 -0700)]
Make UNIVERSAL::can treats str and num the same way

10 years agoUse the same top format error for ""
Father Chrysostomos [Thu, 24 May 2012 19:45:58 +0000 (12:45 -0700)]
Use the same top format error for ""

See also the previous commit.

2dd78f96 added the ‘Undefined top format called’ message for those
cases where a GV doesn’t have a name.  That was a bug that used to
happen with *{$io}, which can’t happen any more.

The code that 2dd78f96 added ended up changing a zero-length name to
be treated the same way as no name.  It also checked the length by
cheating and checking the first character instead.

Now that we have support for embedded nulls, that logic ends up wrong
for names like "\0foo".  And there is no need to treat "" differently
from "foo" anyway.

So this patch restores things the way they were before 2dd78f96.

It also improves the tests for ‘Undefined format’.

Writing tests for ‘Undefined top format’ was quite painful, as that
error seems to leave the internal state out of synch.  I suspect
PL_formtarget needs to be localised, or the error just needs to come
earlier in pp_leavewrite.  But I’ll save that for later, or for Dave
Mitchell. :-)

10 years agoGet rid of ‘Not a format reference’
Father Chrysostomos [Thu, 24 May 2012 19:17:02 +0000 (12:17 -0700)]
Get rid of ‘Not a format reference’

This commit:

commit 2dd78f96d61cc6382dc72214930c993567209597
Author: Jarkko Hietaniemi <>
Date:   Sun Aug 6 01:33:55 2000 +0000

    Continue fixing the io warnings.  This also
    sort of fixes bug ID 20000802.003: the core dump
    is no more.  Whether the current behaviour is correct
    (giving a warning: "Not a format reference"), is another matter.

    p4raw-id: //depot/perl@6531

added a check to see whether the format GV’s name is null, and, if
so, it dies with ‘Not a format reference’.  Before that, that message
occurred only for lack of a GV.

The bug mentioned is now #3617, involving write(*STDOUT{IO}).  write
puts an implicit *{} around its argument.

*{$io} has historically been very buggy in its stringification, so
this patch seems to have been working around that bugginess, by fall-
ing back to the ‘Not a format reference’ error if the name couldn’t be
determined for ‘Undefined format "foo" called’.

*{$io} was fixed once and for all in 5.16.  It now stringifies as

I don’t think producing a completetly different error based on the
name of the GV (whether it’s "foo" or "") is correct at all.  And the
patch that made it happen was just a fix for a crash that can’t hap-
pen any more.

So the only case that should produce ‘Not a format reference’ is that
in which there is no format GV (fgv).

I can prove that fgv is always set (see below), and has been at least
since 5.000, so that ‘Not a format reference’ actually could never
occur before 2dd78f96d61c.  (Actually, XS code could set PL_defoutgv
to null until the previous commit, but everything would start crashing
as a result, so it has never been done in practice.)

gv_efullname4 always returns a name, so checking SvPOK(tmpsv) is
redundant; checking whether the string buffer begins with a non-null
char is not even correct, as "\0foo" fails that test.

Proof that fgv is always set:

The current (prior to this commit) code in pp_enterwrite is like this:

    if (MAXARG == 0) {
gv = PL_defoutgv;
    else {
if (!gv)
    gv = PL_defoutgv;

If the stack value is null (which actually can’t happen), PL_defoutgv
is used.  PL_defoutgv can’t be null.

At this point, gv is set to something non-null.

    io = GvIO(gv);
    if (!io) {

Here we only set fgv to IoFMT_GV(io) if it is non-null.  Otherwise we
use gv, which we know is non-null.

    if (IoFMT_GV(io))
fgv = IoFMT_GV(io);
fgv = gv;

10 years agoMake setdefout accept only NN
Father Chrysostomos [Thu, 24 May 2012 19:07:37 +0000 (12:07 -0700)]
Make setdefout accept only NN

Just search through the source for GvIOp(PL_defoutgv) and you will see
that perl assumes that PL_defoutgv is never null.

I tried setting it to null from XS and got crashes, unsurprisingly.

The only CPAN user of PL_defoutgv sets it to STDOUT.

10 years agoAssertion failure with $/=*foo; warn;
Father Chrysostomos [Thu, 24 May 2012 06:24:35 +0000 (23:24 -0700)]
Assertion failure with $/=*foo; warn;

$ ./perl -Ilib -e '$/=*foo; <>; warn' <./perl
Assertion failed: (!isGV_with_GP(_svcur)), function Perl_mess_sv, file util.c, line 1467.
Abort trap

The assertion happens when ‘<...> line 42’ is being appended to
the message.

The line of code in question is this:

    const bool line_mode = (RsSIMPLE(PL_rs) &&
      SvCUR(PL_rs) == 1 && *SvPVX_const(PL_rs) == '\n');

It uses this macro in perl.h:

#define RsSIMPLE(sv)  (SvOK(sv) && (! SvPOK(sv) || SvCUR(sv)))

which was last modified by commit af7d13df559:

-#define RsSIMPLE(sv)  (SvOK(sv) && SvCUR(sv))
-#define RsPARA(sv)    (SvOK(sv) && ! SvCUR(sv))
+#define RsSIMPLE(sv)  (SvOK(sv) && (! SvPOK(sv) || SvCUR(sv)))
+#define RsPARA(sv)    (SvPOK(sv) && ! SvCUR(sv))

So it looks as though it has always called SvCUR on something that is
not necessarily a PV.  As of commit af7d13df559, it has also called
SvPVX on a potential non-PV.

Fixing this simply involves using SvPV instead of SvPVX.

I don’t know that t/io/open.t is the best place for the test, but all
the other ‘<...> line 42’ tests are there.

10 years agoRemove some commented-out lines from win32/config_h.PL
Steve Hay [Thu, 7 Jun 2012 13:24:42 +0000 (14:24 +0100)]
Remove some commented-out lines from win32/config_h.PL

10 years agoRemove some unnecessary apostrophes from win32/config_sh.PL
Steve Hay [Thu, 7 Jun 2012 12:39:01 +0000 (13:39 +0100)]
Remove some unnecessary apostrophes from win32/config_sh.PL

10 years agoUse strict and warnings in win32/config_(s)h.PL
Steve Hay [Thu, 7 Jun 2012 12:36:37 +0000 (13:36 +0100)]
Use strict and warnings in win32/config_(s)h.PL

10 years agoRemove $patchlevel from win32/config_h.PL since it is never used
Steve Hay [Thu, 7 Jun 2012 07:58:13 +0000 (08:58 +0100)]
Remove $patchlevel from win32/config_h.PL since it is never used

10 years agoSet version directly in Windows files
Steve Hay [Thu, 7 Jun 2012 07:48:09 +0000 (08:48 +0100)]
Set version directly in Windows files

There is no need for doing it via a ~VERSION~ substitution string since
that is not used anywhere else.

10 years agoUpdate how subversion is set in win32 files
Steve Hay [Thu, 7 Jun 2012 07:35:23 +0000 (08:35 +0100)]
Update how subversion is set in win32 files

SUBVERSION was the old name from patchlevel.h but we should prefer to use
PERL_SUBVERSION now, just like patchlevel is already set from PERL_VERSION
rather than the old PATCHLEVEL.

10 years agoRemove INST_DRV from Windows makefiles' CFG_VARS
Steve Hay [Thu, 7 Jun 2012 07:20:09 +0000 (08:20 +0100)]
Remove INST_DRV from Windows makefiles' CFG_VARS

It isn't directly used by config_sh.PL, and the only appearance of it
in a file was config.ce, where it was surely wrong: prefixexp
should be a ~name expanded version of prefix, so just set it to ~INST_TOP~
like the other files all do.

10 years agoSync for recent Storable CPAN release
Chris 'BinGOs' Williams [Thu, 7 Jun 2012 07:03:31 +0000 (08:03 +0100)]
Sync for recent Storable CPAN release

10 years agooptimise (?:|) and related NOTHING like constructs out of the compiled optree
Yves Orton [Wed, 6 Jun 2012 06:53:05 +0000 (08:53 +0200)]
optimise (?:|) and related NOTHING like constructs out of the compiled optree

A pattern like (?:|) causes the regex engine to do extra work even though
it is equivelent to matching nothing. This optimises such sequences into
more efficient opcodes that do less work, and in some cases optimises
them away entirely.

10 years agoCorrect the dlsrc entry in
Craig A. Berry [Thu, 7 Jun 2012 02:53:48 +0000 (21:53 -0500)]
Correct the dlsrc entry in

It's not the .c, it's the .xs from which we generate the .c.

Spotted by Nicholas.

10 years agoRemove Win9x hangover from win32/config_sh.PL
Steve Hay [Wed, 6 Jun 2012 18:17:16 +0000 (19:17 +0100)]
Remove Win9x hangover from win32/config_sh.PL

We no longer support Win9x so there is no need to undef d_flock and d_link
in that case.

10 years agoRemove redundant substitution from win32/config_sh.PL
Steve Hay [Wed, 6 Jun 2012 18:15:25 +0000 (19:15 +0100)]
Remove redundant substitution from win32/config_sh.PL

INST_VER doesn't contain a ~VERSION~ placeholder.

10 years agoperldelta for c2f56b9483 and a970290aa9.
Steve Hay [Wed, 6 Jun 2012 18:13:28 +0000 (19:13 +0100)]
perldelta for c2f56b9483 and a970290aa9.

10 years agoConfigure: Avoid Cppsym warnings for extra tokens [perl #113024]
Andy Dougherty [Wed, 6 Jun 2012 15:12:58 +0000 (11:12 -0400)]
Configure: Avoid Cppsym warnings for extra tokens [perl #113024]

The cppsymbols can include macros such as __INT16_C(c), which can't
be tested with a simple #ifdef.  This patch strips off the opening
parenthesis and everything following it.  These macros were generated
by cpp -dM.

Also ensure Cppsym.true list is sorted for later input to comm.
(I noticed this while testing this change on Solaris.)

10 years agoReplace $compile_ok by $compile for two probes that can fail.
Andy Dougherty [Wed, 6 Jun 2012 13:07:11 +0000 (09:07 -0400)]
Replace $compile_ok by $compile for two probes that can fail.

The probes for _NSGetExecutablePath and KERN_PROC_PATHNAME
will fail on systems where they are not available.  This is
normal, so use $compile to throw away the error messages.

10 years agopending-author.t: Skip for lack of config
Father Chrysostomos [Wed, 6 Jun 2012 03:13:21 +0000 (20:13 -0700)]
pending-author.t: Skip for lack of config

That ‘git config --get’ will output something is a big

10 years agoMake B::COP::stashpv respect utf8 and embedded nulls
Father Chrysostomos [Tue, 5 Jun 2012 23:31:31 +0000 (16:31 -0700)]
Make B::COP::stashpv respect utf8 and embedded nulls

This was mentioned in ticket #113060.

This commit also adds another stashoff test.

The diff looks a bit complicated, because it stops ->file and
->stashpv from being XS aliases.

10 years agostash.t: 2 TODO tests I missed
Father Chrysostomos [Tue, 5 Jun 2012 23:06:34 +0000 (16:06 -0700)]
stash.t: 2 TODO tests I missed

10 years agoFix version logic in B.xs
Father Chrysostomos [Tue, 5 Jun 2012 23:03:47 +0000 (16:03 -0700)]
Fix version logic in B.xs

10 years agoChange B::COP::stashlen to stashoff
Father Chrysostomos [Tue, 5 Jun 2012 21:41:25 +0000 (14:41 -0700)]
Change B::COP::stashlen to stashoff

This was brought up in ticket #78742.

The stashlen method has never been in a stable release, and no longer
exists, as of d4d03940c, since it is dependent on a define that
d4d03940c removed.

So this commit removes stashlen from B.xs and adds stashoff in its
place, since this is what B::C needs.

It also adds a few basic tests for the stash and stashpv methods.

10 years agoMerge improvements to
Nicholas Clark [Tue, 5 Jun 2012 18:59:50 +0000 (20:59 +0200)]
Merge improvements to

10 years agoIn, inline _macroify_passthrough() into its only caller.
Nicholas Clark [Sun, 3 Jun 2012 20:05:58 +0000 (22:05 +0200)]
In, inline _macroify_passthrough() into its only caller.

10 years agoIn, only fudge the Makefile.PL timestamp when generating it.
Nicholas Clark [Sat, 2 Jun 2012 10:17:29 +0000 (12:17 +0200)]
In, only fudge the Makefile.PL timestamp when generating it.

The expedient fudge added by commit 23525070d6c0e51f was actually after the
closing } for the if block that auto-generated a Makefile.PL. Hence it was
*always* changing the timestamp on every Makefile.PL just before running it,
even the ones checked out from the repository. That seems a bit wrong.

10 years need not manipulate @INC, as already does it.
Nicholas Clark [Fri, 27 Apr 2012 10:05:38 +0000 (12:05 +0200)] need not manipulate @INC, as already does it.

Remove from code that predates the introduction of, as that now sets up @INC correctly before even
runs. During the build process is only run by miniperl.

10 years agoIn, move loading FindExt and Cwd into the Win32-only code.
Nicholas Clark [Fri, 27 Apr 2012 11:05:26 +0000 (13:05 +0200)]
In, move loading FindExt and Cwd into the Win32-only code.

As Cwd is now required instead of used and hence doesn't export, qualify
the calls to getcwd() with the package name.

10 years agoCheck for linuxthreads with POSIX semantics
Dominic Hargreaves [Mon, 4 Jun 2012 14:09:00 +0000 (15:09 +0100)]
Check for linuxthreads with POSIX semantics

In newer versions of GNU/kFreeBSD, linuxthreads supports POSIX semantics;
include a version check in t/op/getpid.t accordingly.

10 years agomake TRIE nodes "absorb" NOTHING->EXACT sequences
Yves Orton [Tue, 20 Mar 2012 01:01:16 +0000 (02:01 +0100)]
make TRIE nodes "absorb" NOTHING->EXACT sequences

Patterns like /(?:)foo|(?:)bar/ are not optimised into TRIE nodes
as the "NOTHING" gets in the way. This patch handles this properly.

10 years agofix [perl #76546] regex engine slowdown bug
Yves Orton [Sun, 22 Apr 2012 13:58:32 +0000 (15:58 +0200)]
fix [perl #76546] regex engine slowdown bug

An earlier version of this patch was reverted. This should resolve
that problem.

10 years ago[perl #113486] pp_ctl.c: Don’t assume CopSTASH is a hash
Father Chrysostomos [Tue, 5 Jun 2012 05:06:04 +0000 (22:06 -0700)]
[perl #113486] pp_ctl.c: Don’t assume CopSTASH is a hash

Calling HvNAME_HEK on something that is not a hash will result in a
crash if it happens to have the SvOOK flag on, because then it tries
to read to the end of HvARRAY, which may not even be a valid pointer.

This can happen with this convoluted test case:

{ package foo; sub bar { main::bar() } }
sub bar {
    delete $::{"foo::"};
    my $x = \($1+2);
    my $y = \($1+2); # this is the one that reuses the mem addr, but
    my $z = \($1+2);  # try the others just in case
    s/2// for $$x, $$y, $$z; # now SvOOK
    warn scalar caller

This commit only partially fixes ticket #113486, by eliminating
the crash.  We still have the problem of an unrelated stash reus-
ing the SV.

10 years agoFix bad assertions in pp_ctl.c:pp_caller
Father Chrysostomos [Tue, 5 Jun 2012 03:36:39 +0000 (20:36 -0700)]
Fix bad assertions in pp_ctl.c:pp_caller

If a stash is freed or undefined by code that it calls, then pp_caller
can encounter a freed stash or nameless stash.  HvNAME_HEK returns
null for a freed scalar and for a hash without a name.  So CopSTASHPV
will also be null in that case, which is expected.  If the hash is
undefined, it may not be SvOOK any more, and if it is freed it defi-
nitely won’t be.

The following code *does* assume, however that CopSTASH is non-null,
so assert that.

10 years agoDo away with stashpv_hvname_match
Father Chrysostomos [Tue, 5 Jun 2012 00:06:03 +0000 (17:06 -0700)]
Do away with stashpv_hvname_match

For some reason this is listed in the API, even though it is not docu-
mented and is only available under ithreads.

It was added by commit ed221c5717, which doesn’t explain why it needed
to be part of the API.  (Presumably because a public macro used it,
even though there are better ways to solve that.)

It is unused on CPAN and (now) in core, so there is no reason
to keep it.

10 years agoSay goodbye to SAVECOPSTASH
Father Chrysostomos [Mon, 4 Jun 2012 23:57:23 +0000 (16:57 -0700)]
Say goodbye to SAVECOPSTASH

This is undocumented and unused.

10 years agoObliterate CopSTASH_free
Father Chrysostomos [Mon, 4 Jun 2012 23:44:54 +0000 (16:44 -0700)]
Obliterate CopSTASH_free

It is unused outside the core, defined as a no-op, and undocumented.

10 years agostash.t: Un-TODO passing tests
Father Chrysostomos [Mon, 4 Jun 2012 23:41:23 +0000 (16:41 -0700)]
stash.t: Un-TODO passing tests

10 years ago[perl #78742] Store CopSTASH in a pad under threads
Father Chrysostomos [Mon, 4 Jun 2012 21:04:03 +0000 (14:04 -0700)]
[perl #78742] Store CopSTASH in a pad under threads

Before this commit, a pointer to the cop’s stash was stored in
cop->cop_stash under non-threaded perls, and the name and name length
were stored in cop->cop_stashpv and cop->cop_stashlen under ithreads.

Consequently, eval "__PACKAGE__" would end up returning the
wrong package name under threads if the current package had been
assigned over.

This commit changes the way cops store their stash under threads.  Now
it is an offset (cop->cop_stashoff) into the new PL_stashpad array
(just a mallocked block), which holds pointers to all stashes that
have code compiled in them.

I didn’t use the lexical pads, because CopSTASH(cop) won’t work unless
PL_curpad is holding the right pad.  And things start to get very
hairy in pp_caller, since the correct pad isn’t anywhere easily
accessible on the context stack (oldcomppad actually referring to the
current comppad).  The approach I’ve followed uses far less code, too.

In addition to fixing the bug, this also saves memory.  Instead of
allocating a separate PV for every single statement (to hold the stash
name), now all lines of code in a package can share the same stashpad
slot.  So, on a 32-bit OS X, that’s 16 bytes less memory per COP for
short package names.  Since stashoff is the same size as stashpv,
there is no difference there.  Each package now needs just 4 bytes in
the stashpad for storing a pointer.

For speed’s sake PL_stashpadix stores the index of the last-used
stashpad offset.  So only when switching packages is there a linear
search through the stashpad.

10 years agoIncrease $B::VERSION to 1.36
Father Chrysostomos [Mon, 4 Jun 2012 20:10:28 +0000 (13:10 -0700)]
Increase $B::VERSION to 1.36

10 years agopad.c: Remove obsolete comment
Father Chrysostomos [Sun, 3 Jun 2012 02:03:52 +0000 (19:03 -0700)]
pad.c: Remove obsolete comment

We now store the UTF8-ness in the pad, as of 5.15.4 or so.

10 years agoDon’t localise CopSTASH(&PL_compiling) in newCONSTSUB
Father Chrysostomos [Fri, 1 Jun 2012 06:02:31 +0000 (23:02 -0700)]
Don’t localise CopSTASH(&PL_compiling) in newCONSTSUB

When newCONSTSUB was added in commit 5476c433, it did not set
curcop temporarily to &compiling, and so gv_fetchpv would look at
curcop->cop_stash.  So cop_stash needed to be localised.

(Time passes.... curcop is now PL_curcop.  &compiling is
now &PL_compiling.  gv_fetchpv is now gv_fetchpvn_flags.
curcop->cop_stash is now CopSTASH(PL_curcop).)

Since commit 401667e9, newCONSTSUB has set PL_curcop to &PL_compiling
temporarily.  When that is the case, gv_fetchpvn_flags uses
PL_curstash and ignores CopSTASH(PL_curcop).

So this localisation is no longer necessary, as newCONSTSUB has always
set (PL_)curstash.

10 years agoadd details for doy and TonyC for July 20
Ricardo Signes [Tue, 5 Jun 2012 00:29:01 +0000 (20:29 -0400)]
add details for doy and TonyC for July 20

10 years agoBump $Pod::Html::VERSION to reflect the changes of commit 978af2c644ee9abf.
Nicholas Clark [Mon, 4 Jun 2012 19:27:58 +0000 (21:27 +0200)]
Bump $Pod::Html::VERSION to reflect the changes of commit 978af2c644ee9abf.

10 years agoMerge branch 'post-5.16' into blead
Steve Peters [Mon, 4 Jun 2012 14:52:17 +0000 (09:52 -0500)]
Merge branch 'post-5.16' into blead

10 years agoVersion bump for
Craig A. Berry [Mon, 4 Jun 2012 01:31:31 +0000 (20:31 -0500)]
Version bump for

10 years agoextern "C" for POSIX.xs.
Craig A. Berry [Sun, 3 Jun 2012 23:38:30 +0000 (18:38 -0500)]
extern "C" for POSIX.xs.

We are repeating standard prototypes but we haven't been making
them compatible with the standard versions when compiling under
C++.  Now we do.

10 years agoextern "C" for sdbm.c.
Craig A. Berry [Sun, 3 Jun 2012 23:17:28 +0000 (18:17 -0500)]
extern "C" for sdbm.c.

Whether we really need to be rolling our own prototypes for malloc
and free in this day and age is unclear, but since we do, we need
to keep them in the unmangled C namespace rather than in C++'s
std:: namespace.

10 years agoRemove commented-out debugging print statements from File:DosGlob
Nicholas Clark [Sun, 3 Jun 2012 20:50:57 +0000 (22:50 +0200)]
Remove commented-out debugging print statements from File:DosGlob

None of these have been changed in over a decade, aside from re-indentation.
Leave in 3 commented-out print statements which are necessary to understand
a FIXME comment.

10 years agoRefactor File::DosGlob to avoid an unescaped { in a regex.
Nicholas Clark [Sun, 3 Jun 2012 20:39:50 +0000 (22:39 +0200)]
Refactor File::DosGlob to avoid an unescaped { in a regex.

This avoids generating deprecation warnings.

10 years agomktables: Convert to BELL meaning U+1F514
Karl Williamson [Sat, 2 Jun 2012 18:05:34 +0000 (12:05 -0600)]
mktables: Convert to BELL meaning U+1F514

As a result of the Unicode 6.0 mistake of using "BELL" to refer to
a different code point, Perl has deprecated use of this name for 2 major
release cycles, while not fully implementing Unicode in the interim, to
allow any affected code to migrate to the new name

This commit now switches to the new meaning of BELL.

10 years agomktables memory reduction
Nicholas Clark [Sat, 2 Jun 2012 15:32:44 +0000 (16:32 +0100)]
mktables memory reduction

Does the attached patch make sense? It lowers RAM and CPU usage by about 10%
on Linux, and 6% on FreeBSD.

Nicholas Clark

>From fe46bd796c282f6a6e4793afaf847e04d3be3524 Mon Sep 17 00:00:00 2001
From: Nicholas Clark <>
Date: Mon, 7 May 2012 09:58:13 +0200
Subject: [PATCH] In mktables, lazily compute the 'standard_form' for Ranges.

Instead of calculating the standard form up front, calculate it only when
needed and cache the result. There are 368676 non-special objects, but
the standard form is only requested for 22047 of them. For the systems I
tested on, this reduces RAM and CPU usage by about 10% on Linux, and 6% on

This is more significant than it may first seem, because mktables is the
largest RAM user of anything run during the build process, so this reduces
the build process peak RAM requirement.

10 years agopodcheck.t: white-space only: indent properly
Karl Williamson [Fri, 1 Jun 2012 19:31:31 +0000 (13:31 -0600)]
podcheck.t: white-space only: indent properly

10 years agoperldelta entry for Perl working on all Unicode releases
Karl Williamson [Sat, 2 Jun 2012 15:54:14 +0000 (09:54 -0600)]
perldelta entry for Perl working on all Unicode releases

10 years agoVMS --> __VMS in a2p.h.
Craig A. Berry [Sat, 2 Jun 2012 15:15:57 +0000 (10:15 -0500)]
VMS --> __VMS in a2p.h.

C++ does not define VMS, only __VMS.  We define VMS in config.h
for C++, but here we're trying to figure out how to include config.h,
so we don't have it yet.

The only compiler that defined only VMS and not __VMS was VAX C,
which isn't C89-compliant and can't build Perls from the current

10 years agoAllow Perl to use older Unicode releases
Karl Williamson [Sat, 2 Jun 2012 14:37:18 +0000 (08:37 -0600)]
Allow Perl to use older Unicode releases

We have claimed for several releases now that Perl can handle any
release of Unicode so far.  It turns out that this was never entirely
true, and became less true in 5.16 due to the changes necessitated by
Unicode's publishing names for the control characters.  Enough work was
done in 5.16 so that Perl could continue to handle Unicode 6.0, which
meant that someone using Perl 5.14 and Unicode 6.0, and who didn't like
6.1 could still upgrade to Perl 5.16 while retaining 6.0.  By having
mktables able to compile old releases of Unicode, we can continue to
evolve Perl without having to write special code in the core for
backwards Unicode compatibility.

This series of commits is mostly about allowing Perl to work on any
Unicode release.  And, I have done a make test using these patches on
recent bleads for every Unicode release.  Tests fail which use code
points that have yet to be assigned in those earlier releases, as well
as tests that expect certain values that Unicode has since changed, but
Perl works as well as can be expected on all releases.  I changed a few
.t's so that they adapt more to the Unicode release they are run with.

The biggest outage is Unicode::Normalize.  Prior to Unicode 3.0, there
could be decompositions containing more than 2 code points.
Unicode::Normalize will not compile with those early versions.  However,
a trivial change to it (documented now in mktables) to use carp instead
of croak will cause it to compile and run, though all 3-or-more
character decompositions will be unknown to it.  I think that the
earliest release of Unicode that it makes sense to do serious work on is

There is the issue as to how to prevent future changes to mktables from
breaking backwards compatibility.  I don't know how to fix that, except
that as long as I'm involved, I will test it on old releases some time
before code freeze.

10 years agomktables: Use for loop instead of each
Karl Williamson [Fri, 1 Jun 2012 02:22:26 +0000 (20:22 -0600)]
mktables: Use for loop instead of each

I think the 'for' is easier to understand

10 years agomktables: Allow easy generation of Unicode-deprecated files
Karl Williamson [Fri, 1 Jun 2012 02:21:13 +0000 (20:21 -0600)]
mktables: Allow easy generation of Unicode-deprecated files

Sometimes in debugging, etc, it is useful to have these files; this adds
a single scalar to control if they get generated.

10 years agomktables, README.perl: Add, fix comments
Karl Williamson [Fri, 1 Jun 2012 02:20:20 +0000 (20:20 -0600)]
mktables, README.perl: Add, fix comments

10 years agoperl.pod: Remove reference to specific Unicode version
Karl Williamson [Fri, 1 Jun 2012 01:06:31 +0000 (19:06 -0600)]
perl.pod: Remove reference to specific Unicode version

I forgot to update this from 6.1, and it really isn't necessary.  Also
update the instructions for new releases to omit reference to this.

10 years agoutf8.c: Use new internal properties for \X
Karl Williamson [Wed, 16 May 2012 17:31:50 +0000 (11:31 -0600)]
utf8.c: Use new internal properties for \X

These new properties are generated for all Unicode releases, and so \X
can now work on all Unicodes, not just the ones where Unicode has
defined them.

10 years agomktables: White-space only
Karl Williamson [Wed, 16 May 2012 17:30:53 +0000 (11:30 -0600)]
mktables: White-space only

This outdents code since the surrounding blocks have been removed

10 years agomktables: Use modern \X definition for early Unicodes
Karl Williamson [Wed, 16 May 2012 16:38:49 +0000 (10:38 -0600)]
mktables: Use modern \X definition for early Unicodes

\X matches an extended grapheme cluster, and requires the Grapheme
Cluster Break Property, and the Hangul Syllable Type property for
complete proper functioning.  This concept was not introduced until
Unicode 5.1.  Prior to that was the basic "grapheme cluster", which was
introduced in Unicode series 3.  The extended version is only a slight
modification of the basic one, and so the basic one can be used for
adequate processing of most scripts.  That is, if we use the basic
definition in Unicode version that lack the extra information for the
extended version, things are degraded cleanly.  It would be possible to
add intelligence to mktables to generate the extended version for all
releases, but since the difference between the two isn't great, the
payoff isn't worth it.

Until commit 5edb45fb0350d27b109ca489724513b86f9cb7bc for Perl v5.12,
Perl used a simpler definition for \X: a non-mark character followed by
any number of marks.  Until the current commit, that definition was
clung to when run on early Unicodes that didn't furnish the definitions
of the properties needed to generate the grapheme cluster definition.

However, it turns out that it is fairly easy to generate those property
definitions, and this commit does that.  And, once those are done, the
special cases for early versions can be removed (except for the
distinction between extended and non- grapheme clusters).

This commit generates the needed tables into Perl internal properties.
A future commit will change the code that processes \X to use these; in
the meantime it uses the existing properties that are generated anyway
for Unicodes where they don't have to be calculated, and which are
identical to the new internal ones.  (Code elsewhere in mktables assures
that identical properties share the same file.)  By using internal
properties, application code only gains access to the official
properties in the releases they are officially defined.  For example, it
won't work for an application to use the Hangul Syllable Type property
unless it is in a release where Unicode has defined it.  To allow access
in earlier releases would be misrepresenting what the Standard says.

10 years agoperluniprops: Work correctly with PLACEHOLDER entries
Karl Williamson [Wed, 16 May 2012 16:27:36 +0000 (10:27 -0600)]
perluniprops: Work correctly with PLACEHOLDER entries

mktables generates perluniprops.pod, but until this commit, PLACEHOLDER
entries could confuse it.

10 years agomktables: Create get accessor for object
Karl Williamson [Wed, 16 May 2012 16:22:18 +0000 (10:22 -0600)]
mktables: Create get accessor for object

A future commit will want to get at the value of this object.

10 years agomktables: Make sure a \p{ID_Continue} is also \p{Word}
Karl Williamson [Wed, 16 May 2012 04:19:51 +0000 (22:19 -0600)]
mktables: Make sure a \p{ID_Continue} is also \p{Word}

This is for consistency with ID_Start.  This property has yet to be used
in the Perl core.

10 years agomktables: Improve defn of xidc for early Unicodes
Karl Williamson [Wed, 16 May 2012 04:16:47 +0000 (22:16 -0600)]
mktables: Improve defn of xidc for early Unicodes

10 years agomktables: Improve \p{xids} defn for early Unicodes
Karl Williamson [Wed, 16 May 2012 04:11:16 +0000 (22:11 -0600)]
mktables: Improve \p{xids} defn for early Unicodes

10 years agomktables: Defined \p{AHex} and \p{ASCII_Hex_Digit} for early Unicodes
Karl Williamson [Wed, 16 May 2012 04:07:48 +0000 (22:07 -0600)]
mktables: Defined \p{AHex} and \p{ASCII_Hex_Digit} for early Unicodes

A number of tests presume these are always defined; and probably a bunch
of real code as well.

10 years agomktables: Improve Lower, Upper defns in early Unicodes
Karl Williamson [Wed, 16 May 2012 03:59:55 +0000 (21:59 -0600)]
mktables: Improve Lower, Upper defns in early Unicodes

This adds the missing code points to the existing definitions to make
them better for early Unicode releases

10 years agomktables: Remove early Unicode defective \p{Alpha=Y}
Karl Williamson [Wed, 16 May 2012 03:45:56 +0000 (21:45 -0600)]
mktables: Remove early Unicode defective \p{Alpha=Y}

The \p{Alphabetic=y} property was not defined in all Unicode releases;
however in some of those early ones, there was a data file that
contained a definition for it, and prior to this patch, mktables used
that definition to construct a \p{Alphabetic=y} table.  However, it
turns out that the definition is quite defective in many of the releases
it occurred in.  So rather than mislead code into thinking there is a
good definition of that property for the early releases, this just
doesn't generate a table for it.

But, prior commits have created a good definition for the Perl
single-form extensions \p{Alpha} and \p{Alphabetic}, and most code uses
those anyway.

10 years agomktables: Improve \p{Alphabetic} definition for early Unicodes
Karl Williamson [Wed, 16 May 2012 03:39:54 +0000 (21:39 -0600)]
mktables: Improve \p{Alphabetic} definition for early Unicodes

Prior to this patch, the definition of this property was admittedly
approximate.  This cleans that up.

10 years agoperluniprops: Omit mention of zero-length special tables
Karl Williamson [Wed, 16 May 2012 03:26:23 +0000 (21:26 -0600)]
perluniprops: Omit mention of zero-length special tables

Some tables generated by mktables are special, not for external
consumption.  These should not be called out when they turn out to be
zero length, as they are in some Unicode versions

10 years agomktables: Reorder enum
Karl Williamson [Wed, 16 May 2012 02:49:33 +0000 (20:49 -0600)]
mktables: Reorder enum

This will enable future commits to use '<' and '>' for some tests

10 years agomktables: White-space only change
Karl Williamson [Wed, 16 May 2012 02:01:31 +0000 (20:01 -0600)]
mktables: White-space only change

10 years agoShorten a $variable name
Karl Williamson [Wed, 16 May 2012 01:18:30 +0000 (19:18 -0600)]
Shorten a $variable name

10 years agoadd period to end of sentence in comment
Karl Williamson [Wed, 16 May 2012 01:11:32 +0000 (19:11 -0600)]
add period to end of sentence in comment

10 years agofold_grind.t: DEBUG mode should automatically give full output results
Karl Williamson [Sun, 29 Apr 2012 16:01:02 +0000 (10:01 -0600)]
fold_grind.t: DEBUG mode should automatically give full output results

We're debugging, so don't want abbreviated results

10 years agomktables: slight efficiency improvement
Karl Williamson [Thu, 19 Apr 2012 18:27:32 +0000 (12:27 -0600)]
mktables: slight efficiency improvement

Instead of generating all 128 code points individually in this range, we
can just add a single range that includes all of them.

10 years agomktables: Improve warning messages and handling for overloads
Karl Williamson [Mon, 16 Apr 2012 17:25:45 +0000 (11:25 -0600)]
mktables: Improve warning messages and handling for overloads

This commit gives clearer messages when an overloaded op has swapped
arguments and we can't handle them.  undef should be returned in this
case, as otherwise we are returning the swapped argument.

10 years agomktables: '.=' should be just '.'
Karl Williamson [Mon, 16 Apr 2012 16:32:28 +0000 (10:32 -0600)]
mktables: '.=' should be just '.'

This fixes an unnecessary .=

10 years agomktables: Don't use turkic casefold rules for early Unicodes
Karl Williamson [Sat, 7 Apr 2012 16:13:46 +0000 (10:13 -0600)]
mktables: Don't use turkic casefold rules for early Unicodes

This isn't done for later Unicodes version; shouldn't be done for early
ones either, as leads to wrong results.  The early ones used a different
marker than the later ones; this now recognizes both.

10 years agomktables: correct, clarify comments
Karl Williamson [Sat, 7 Apr 2012 15:45:21 +0000 (09:45 -0600)]
mktables: correct, clarify comments

10 years agomktables: fix warning message
Karl Williamson [Sat, 7 Apr 2012 15:30:24 +0000 (09:30 -0600)]
mktables: fix warning message

The dot operators show up as periods because this message is now a HERE

10 years agomktables: improve a tracing msg
Karl Williamson [Fri, 6 Apr 2012 15:32:48 +0000 (09:32 -0600)]
mktables: improve a tracing msg

10 years agoUnicode::UCD: Cope with early Unicodes for casespec()
Karl Williamson [Thu, 5 Apr 2012 16:42:44 +0000 (10:42 -0600)]
Unicode::UCD: Cope with early Unicodes for casespec()

10 years agouni/fold.t: Improve some handling of older Unicodes
Karl Williamson [Thu, 5 Apr 2012 16:19:11 +0000 (10:19 -0600)]
uni/fold.t: Improve some handling of older Unicodes

In this loop, if a code point is unassigned, it means that the test is
being run on an early Unicode version which doesn't have this character
yet, or something is very wrong.  Instead of persisting with the tests
that aren't going to succeed, fail with an appropriate message.

This means that the .t will not pass, but it gives fewer and better
messages.  We want to mark the failure for the case where the problem
isn't an early Unicode version.

10 years agouni/fold.t: Add details to some test names
Karl Williamson [Thu, 5 Apr 2012 16:18:15 +0000 (10:18 -0600)]
uni/fold.t: Add details to some test names

10 years agofold_grind.t: white-space, comments only
Karl Williamson [Thu, 5 Apr 2012 16:07:08 +0000 (10:07 -0600)]
fold_grind.t: white-space, comments only

This adds and revises some commented out debugging code

10 years agomktables: white-space only
Karl Williamson [Wed, 4 Apr 2012 19:51:02 +0000 (13:51 -0600)]
mktables: white-space only

This indents a newly-formed block, and reflows to fit into 80 columns

10 years agomktables: Enable -annotate arg on early Unicodes
Karl Williamson [Wed, 4 Apr 2012 18:35:54 +0000 (12:35 -0600)]
mktables: Enable -annotate arg on early Unicodes

On early Unicode releases, there is no NChar property, and on V1.1.5, no
surrogates.  The code for -annotate previously assumed these existed,
so failed.  This moves the surrogates testing later, after new code that
specially handles the situation in 1.1.5, and has special handling for
the non-character code points, in that they may not exist in the current

10 years agomktables: Move some code around for proximity
Karl Williamson [Sat, 31 Mar 2012 18:55:29 +0000 (12:55 -0600)]
mktables: Move some code around for proximity

These variable definitions are moved closer to where they are used.

10 years agomktables: Rmv unnecessary $temporary
Karl Williamson [Sat, 31 Mar 2012 18:51:52 +0000 (12:51 -0600)]
mktables: Rmv unnecessary $temporary

10 years agomktables: Give correct \X defn for earlier Unicode
Karl Williamson [Fri, 30 Mar 2012 03:59:15 +0000 (21:59 -0600)]
mktables: Give correct \X defn for earlier Unicode

The comment removed in this commit was wrong.  It is possible to get
grapheme cluster boundaries without the extended ones.  And that is what
this commit does, for Unicode releases that have the GCB property, but
not the extended version, back to Unicode 4.0.