21 months agoAdd 5.17.5 to perlhist v5.17.5
Florian Ragwitz [Fri, 19 Oct 2012 15:50:32 +0000]
Add 5.17.5 to perlhist

21 months agoUpdate Module::CoreList for 5.17.5
Florian Ragwitz [Fri, 19 Oct 2012 15:24:54 +0000]
Update Module::CoreList for 5.17.5

21 months agoFinalise perldelta
Florian Ragwitz [Fri, 19 Oct 2012 15:04:29 +0000]
Finalise perldelta

21 months agoCorrect a version number in perl5180delta
Florian Ragwitz [Fri, 19 Oct 2012 14:16:19 +0000]
Correct a version number in perl5180delta

21 months agoPerldelta up to 1443c94
Florian Ragwitz [Fri, 19 Oct 2012 14:16:07 +0000]
Perldelta up to 1443c94

21 months ago5.14.3 has been released
Florian Ragwitz [Tue, 16 Oct 2012 20:16:04 +0000]
5.14.3 has been released

21 months agoregmatch(): fix out bounds array access
David Mitchell [Fri, 19 Oct 2012 09:14:56 +0000]
regmatch(): fix out bounds array access

The code for EXACTF and similar tests that

    UCHARAT(s) != fold_array[nextchr]

but doesn't check first that nextchr != NEXTCHR_EOS (-10), so it can
access the byte 10 bytes before the start of one of the PL_fold_latin1 or
similar arrays. Although undesirable, it's harmless, as the worst it can
achieve is a false positive match of the first char of the EXACTF string,
which will then still fail on a full compare of the string.

21 months agoregmatch(): add asserts for legal values of nextchr
David Mitchell [Thu, 18 Oct 2012 18:54:20 +0000]
regmatch(): add asserts for legal values of nextchr

nextchr should always hold the next *byte* of the string, or the
special value NEXTCHR_EOS, so assert this. And when we're moving to the
next char, nextchr shouldn't already be NEXTCHR_EOS.

21 months agoregcomp.c: Use unlikely initialization value; not 0
Karl Williamson [Thu, 18 Oct 2012 16:27:38 +0000]
regcomp.c: Use unlikely initialization value; not 0

Commit b4295830fe1ff58bc83d963006afeb9a2e4fb2d0 added initialization to
an uninitialized variable.  I meant to change it to a less likely value,
but didn't manage to get the change in, contrary to what its commit
message says.

21 months agoPATCH: [perl #115342] Properly initialize S_regclass value (again)
rurban@cpanel.net [Thu, 18 Oct 2012 14:18:52 +0000]
PATCH: [perl #115342] Properly initialize S_regclass value (again)

Prevent save_value to carry along uninitialized garbage.
Regression introduced with 9d53c457 Thu Oct 11 21:49:31 2012

Committer changed 0's to OOB_UNICODE.

21 months agoutfebcdic.h: white space only
Karl Williamson [Thu, 18 Oct 2012 03:24:54 +0000]
utfebcdic.h: white space only

21 months agoadd PERL_CALLCONV_NO_RET to perlhost.h's PerlProcExit and PerlProc_Exit
Daniel Dragan [Wed, 10 Oct 2012 03:17:47 +0000]
add PERL_CALLCONV_NO_RET to perlhost.h's PerlProcExit and PerlProc_Exit

This gives noreturn to the 2 functions on Visual C Perl.

21 months agoRemove unnecessary overrides in gnukfreebsd and gnuknetbsd hints.
Niko Tyni [Wed, 17 Oct 2012 16:56:43 +0000]
Remove unnecessary overrides in gnukfreebsd and gnuknetbsd hints.

hints/gnukfreebsd.sh and hints/gnuknetbsd.sh unconditionally
override Configure's values for ccdlflags and lddlflags, even though
the default Configure guesses should be correct for those systems.
Configure was altered in commit fb2e1bc0638d5a5d7ac552a79a71a996a5d604cc
(Perforce change 23909) to get the correct values, but later commit
46c947e8b9def6de34ac831834a3c290ab266515 (Perforce change 24017) included
these now-outdated hints file changes as part of importing a larger set
of patches from Debian.

This patch removes the unnecessary overrides.  Thanks to Niko Tyni for
digging up the history and supplying the hints/gnukfreebsd.sh patch.

21 months agoavoid calling memset with a negative count
Andy Dougherty [Thu, 27 Sep 2012 13:52:18 +0000]
avoid calling memset with a negative count

Poorly written perl code that allows an attacker to specify the count to
perl's 'x' string repeat operator can already cause a memory exhaustion
denial-of-service attack. A flaw in versions of perl before 5.15.5 can
escalate that into a heap buffer overrun; coupled with versions of glibc
before 2.16, it possibly allows the execution of arbitrary code.

The flaw addressed to this commit has been assigned identifier
CVE-2012-5195.

21 months agowin32_freeenvironmentstrings: convert nonpublic exported function to macro
Daniel Dragan [Sun, 14 Oct 2012 19:30:01 +0000]
win32_freeenvironmentstrings: convert nonpublic exported function to macro

win32_freeenvironmentstrings was added in commit 4f46e52b008. It is not
documented as public api but is exported. Since it is nothing more than a
renaming of win32_free, replace it with a macro to win32_free. This saves
an entry in the export table, and the string name of the export from
perl517.dll. Also see
http://www.nntp.perl.org/group/perl.perl5.porters/2012/09/msg192954.html

21 months agoperldelta for #115260
Father Chrysostomos [Wed, 17 Oct 2012 03:22:26 +0000]
perldelta for #115260

21 months agoUsed pad name lists for pad ids
Father Chrysostomos [Wed, 17 Oct 2012 01:04:28 +0000]
Used pad name lists for pad ids

I added pad IDs so that a pad could record which pad it closes over,
to avoid problems with closures closing over the wrong pad, resulting
in crashes or bizarre copies.  These pad IDs were shared between
clones of the same pad.

In commit 9ef8d56, for efficiency I made clones of the same closure
share the same pad name list.

It has just occurred to be that each padlist containing the same pad
name list also has the same pad ID, so we can just use the pad name
list itself as the ID.

This makes padlists 32 bits smaller and eliminates PL_pad_generation
from the interpreter struct.

21 months agoregcomp.c: Silence compiler warning
Karl Williamson [Wed, 17 Oct 2012 03:20:47 +0000]
regcomp.c: Silence compiler warning

I didn't notice that I had introduced this warning until now.

21 months agoregex: \R can match either 1 or 2 chars
Karl Williamson [Tue, 16 Oct 2012 18:09:04 +0000]
regex: \R can match either 1 or 2 chars

Therefore it is not "simple", and should not be compiled as such,
causing things like the test added herein to fail.

21 months agoregcomp.c: Pass NULL instead of &dummy to function
Karl Williamson [Tue, 16 Oct 2012 17:12:22 +0000]
regcomp.c: Pass NULL instead of &dummy to function

This saves the function from setting a throw-away value

21 months agoregcomp.c, regexec.c: Comments only; no code changes
Karl Williamson [Tue, 16 Oct 2012 17:11:11 +0000]
regcomp.c, regexec.c: Comments only; no code changes

21 months agoregexec.c: White-space only; no code changes
Karl Williamson [Tue, 16 Oct 2012 17:09:52 +0000]
regexec.c: White-space only; no code changes

This indents a newly-formed block correctly

21 months agoregexec.c: Tighten loops in regrepeat()
Karl Williamson [Tue, 16 Oct 2012 16:56:28 +0000]
regexec.c: Tighten loops in regrepeat()

regrepeat() is used to match some simple thing repeatedly in a row.  In
the case of EXACTFish nodes, it will repeat a single character (and its
fold).  Prior to this commit, it was using the full generality of
foldEQ_utf8() whenever the target was encoded in UTF-8.  This full
generality requires quite a bit of processing.  However, most
Unicode folds are of the simple variety containing just a character and
its upper- or lower-cased equivalent, and so the full generality of
foldEQ_utf8() is needed only comparatively infrequently.

This commit takes advantage of the newly added and enhanced
S_setup_EXACTISH_ST_c1_c2() to look at the character being repeated and
decide what level of generality is needed.  regrepeat() then uses a loop
that is only as complicated as needed.

This also adds some asserts that the nodes contain exactly 1 character

21 months agoregexec: Do less work on quantified UTF-8
Karl Williamson [Tue, 16 Oct 2012 16:17:01 +0000]
regexec: Do less work on quantified UTF-8

Consider the regexes /A*B/ and /A*?B/ where A and B are arbitrary,
except that B begins with an EXACTish node.  Prior to this patch, as a
shortcut, the loop for accumulating A* would look for the first character
of B to help it decide if B is a possiblity for the next thing.  It did
not test for all of B unless testing showed that the next thing could be
the beginning of B.  If the target string was UTF-8, it converted each
new sequence of bytes to the code point they represented, and then did
the comparision.  This is a relative expensive process.

This commit avoids that conversion by just doing a memEQ at the current
input position.  To do this, it revamps S_setup_EXACTISH_ST_c1_c2() to
output the UTF-8 sequences to compare against.  The function also has
been tightened up so that there are fewer false positives.

21 months agoutf8.h: Add guard against recursive #include
Karl Williamson [Tue, 16 Oct 2012 15:58:24 +0000]
utf8.h: Add guard against recursive #include

A future commit will #include this from another header

21 months agoregen/regcharclass.pl: Change name of generated macro
Karl Williamson [Tue, 16 Oct 2012 16:45:44 +0000]
regen/regcharclass.pl: Change name of generated macro

This changes the macro isMULTI_CHAR_FOLD() (non-utf8 version) from just
generating ascii-range code points to generating the full Latin1 range.
However there are no such non-ASCII values, so the macro expansion is
unchanged.  By changing the name, it becomes clearer in future commits
that we aren't excluding things that we should be considering.

21 months agoregexec.c: Change variable name
Karl Williamson [Tue, 9 Oct 2012 19:34:08 +0000]
regexec.c: Change variable name

This actually is a pointer to the pattern string, not to a byte.

21 months agoregexp.h: Update comments
Karl Williamson [Tue, 9 Oct 2012 19:32:12 +0000]
regexp.h: Update comments

These comments should have been changed in commit
c74f6de970ef0f0eb8ba43b1840fde0cf5a45497, but were mistakenly omitted.

21 months ago[perl #115260] Stop length($obj) from returning undef
Father Chrysostomos [Tue, 16 Oct 2012 23:07:19 +0000]
[perl #115260] Stop length($obj) from returning undef

When commit 9f621bb00 made length(undef) return undef, it also made it
return undef for objects with string overloading that returns undef.

But stringifying as undef is a contradiction in terms, and this makes
length inconsistent with defined, which returns true for such objects.

Changing this allows is to simplify pp_length, as we can now call
sv_len_utf8 on the argument unconditionally (except under the bytes
pragma).  sv_len_utf8 is now careful not to record caches on magical
or overloaded scalars (any non-PV, in fact).

Note that sv_len is now just a wrapper around SvPV_const, so we use
SvPV_const_nomg, as there is no equivalent sv_len_nomg.

21 months ago[perl #96230] Stop s/$qr// from reusing last pattern
Father Chrysostomos [Tue, 16 Oct 2012 21:36:43 +0000]
[perl #96230] Stop s/$qr// from reusing last pattern

qr// should not be using the last-successful pattern, because it is
"(?^:)", not the empty pattern.  A stringified qr// does not use the
last-successful pattern.

This was fixed for m/$qr/ (and =~ qr//) in commit 7e31363783, but
s/$qr// was left out.

21 months agoperlδ up to the present
Father Chrysostomos [Tue, 16 Oct 2012 21:09:14 +0000]
perlδ up to the present

21 months agocpan: Upgrade AutoLoader to 5.73
Steffen Mueller [Tue, 16 Oct 2012 15:27:47 +0000]
cpan: Upgrade AutoLoader to 5.73

Just syncing to CPAN release.

21 months agoUpdate HTTP-Tiny to CPAN version 0.024
Chris 'BinGOs' Williams [Tue, 16 Oct 2012 11:55:44 +0000]
Update HTTP-Tiny to CPAN version 0.024

  [DELTA]

  0.024     2012-10-09 20:44:53 America/New_York

    [ADDED]

    - SSL connections now auto-retry I/O after SSL renegotiation [Alan
      Gardner]

    [FIXED]

    - User-specified CA bundles take precedence over Mozilla::CA [Alan
      Gardner]

    [PREREQS]

    - SSL support now requires Net::SSLeay 1.49 or greater to support
      auto-retry [Mike Doherty]

    - Downgraded IO::Socket::SSL and related prereqs to 'suggests' again

  0.023     2012-09-19 09:55:46 America/New_York

    [PREREQS]

    - IO::Socket::SSL and related prereqs changed to 'required' for dev
      release to get better failure diagnostics from CPAN Testers

    [TESTING]

    - Skip live SSL testing unless IO::Socket::SSL 1.56+ installed

21 months agoSync Module-CoreList in Porting/Maintainers.pl with CPAN
Chris 'BinGOs' Williams [Tue, 16 Oct 2012 11:50:46 +0000]
Sync Module-CoreList in Porting/Maintainers.pl with CPAN

21 months agoperlδ up to 40f316a72b
Father Chrysostomos [Tue, 16 Oct 2012 06:56:33 +0000]
perlδ up to 40f316a72b

21 months agoMake PerlIO::encoding handle cows
Father Chrysostomos [Tue, 16 Oct 2012 06:06:31 +0000]
Make PerlIO::encoding handle cows

Commits 667763bdbf and e9a8753af fixed bugs involving buffer realloca-
tions during encode and decode.  But what was not taken into account
was that the COW flags could still be left on even when buffer real-
ocations were accounted for.  This could result in SvPV_set and
SvLEN_set(sv,0) being called on an SV with the COW flags still on,
so SvPVX would be treated as a key inside a shared_he, resulting in
assertion failures.

21 months agoPrune some dead code in pp.c:pp_undef
Father Chrysostomos [Tue, 16 Oct 2012 05:53:30 +0000]
Prune some dead code in pp.c:pp_undef

Since commit 6fc9266916, the if (SvFAKE) check under the SVt_PVGV case
in pp_undef has been redundant.  And PVBMs are no longer GVs.

21 months agoMake PerlIO::encoding even more resilient to moving buffers
Father Chrysostomos [Mon, 15 Oct 2012 06:09:56 +0000]
Make PerlIO::encoding even more resilient to moving buffers

Commit 667763bdbf was not good enough.

If the buffer passed to an encode method is reallocated, it may be
smaller than the size (bufsiz) stored inside the encoding layer.  So
we need to extend the buffer in that case and make sure the buffer
pointer is not pointing to freed memory.

The test as modified by this commit causes malloc errors on stderr
when I try it without the encoding.xs changes.

21 months agoBump $Win32CORE::VERSION following commit 35f601d964
Steve Hay [Mon, 15 Oct 2012 07:35:59 +0000]
Bump $Win32CORE::VERSION following commit 35f601d964

21 months agohave Win32CORE use ALIAS/XSANY
Daniel Dragan [Tue, 9 Oct 2012 01:00:06 +0000]
have Win32CORE use ALIAS/XSANY

Using XSANY in addition to a struct of strings, saved 650 bytes (.rdata
and .text combined, 32bit/MS VC2K3/O1) from the previous implementation of
Win32CORE. Instead of encoding pointers or relative pointer sized offsets
to string literals, use unsigned chars. Instead of creating new XSUB C
function stubs, one per forwarded sub, use the ALIAS/XSANY feature and
have only 1 XSUB which has many names. If a length aware version of newXS
is ever added to perl, the sub names's lengths already are available. See
also commit eff5b9d539e for something similar to this commit.

21 months agoregcomp.c: Don't set /i in start class unless /l
Karl Williamson [Sun, 14 Oct 2012 00:17:11 +0000]
regcomp.c: Don't set /i in start class unless /l

There is a deficiency in the optimizer in which it doesn't get rid of
flags that it should.  One of these is if it should match /i or not.
Currently it always (perhaps not quite, I don't know) assumes that it
should match under /i, yielding false positives and slowing things down.
But a recent commit changed the flag that tells it to do this, so that it
only gets set if /l is also specified.  There is already existing code to
work around the optimizer deficiency for /l.  This commit just moves the
/i flag handling to that existing code, so it won't get invoked unless
/l is specified.

21 months agoregexp.t: Add 'no warnings "utf8";
Karl Williamson [Sat, 13 Oct 2012 16:00:18 +0000]
regexp.t: Add 'no warnings "utf8";

This .t works fine unless there are failures that it tries to output,
and the handle hasn't been opened using utf8.  Because we aren't sure if
that operation works, just turn off warnings.

21 months agoutf8.h: Correct some values for EBCDIC
Karl Williamson [Sat, 13 Oct 2012 15:52:42 +0000]
utf8.h: Correct some values for EBCDIC

It occurred to me that EBCDIC has different maximums for the number of
bytes a character can occupy.  This moves the definition in utf8.h to
within an #ifndef EBCDIC, and adds the correct values to utfebcdic.h

21 months agoregex: White-space, comment only; no code changes
Karl Williamson [Sat, 13 Oct 2012 15:20:11 +0000]
regex: White-space, comment only; no code changes

This outdents code that just had its containing block removed, and
reflows its comments to fill 79 columns; and does some other white space
adjustments, plus a typo in a comment.

21 months agoregex: Rename macro to reflect its narrowed use
Karl Williamson [Sat, 13 Oct 2012 15:15:37 +0000]
regex: Rename macro to reflect its narrowed use

This macro is now only used under locale; its other use has now been
removed.  Change the name to reflect its only use.

21 months agoregex: Splice out no longer used array element
Karl Williamson [Sat, 13 Oct 2012 15:07:05 +0000]
regex: Splice out no longer used array element

A recent commit removed all uses of an array element in the middle of an
array.  This moves up the elements that followed it.

21 months agoregex: Remove old code that tried to handle multi-char folds
Karl Williamson [Sat, 13 Oct 2012 14:49:26 +0000]
regex: Remove old code that tried to handle multi-char folds

A recent commit has changed the algorithm used to handle multi-character
folding in bracketed character classes.  The old code is no longer
needed.

21 months agoregcomp.c: Fix-up indentaion; no code changes
Karl Williamson [Fri, 12 Oct 2012 17:42:38 +0000]
regcomp.c: Fix-up indentaion; no code changes

Indent a newly-formed block

21 months agoPATCH: [perl #89774] multi-char fold + its fold in char class
Karl Williamson [Fri, 12 Oct 2012 03:49:31 +0000]
PATCH: [perl #89774] multi-char fold + its fold in char class

The design for handling characters that fold to multiple characters when
the former are encountered in a bracketed character class is defective.
The ticket reads, "If a bracketed character class includes a character
that has a multi-char fold, and it also includes the first character of
that fold, the multi-char fold will never be matched; just the first
character of the fold.".   Thus, in the class /[\0-\xff]/i, \xDF will
never be matched, because its fold is 'ss', the first character of
which, 's', is also in the class.

The reason the design is defective is that it doesn't allow for
backtracking and trying the other options.

This commit solves this by effectively rewriting the above to be
/ (?: \xdf | [\0-\xde\xe0-\xff] ) /xi.  And so the backtracking gets
handled automatcially by the regex engine.

21 months agoregen/mk_invlists.pl: Make list for multi-fold chars
Karl Williamson [Fri, 12 Oct 2012 17:24:34 +0000]
regen/mk_invlists.pl: Make list for multi-fold chars

This causes charclass_invlists.h to have a new list of all the
characters whose fold is a sequence of more than one character.

21 months agomktables: Add table for chars with multi-char fold
Karl Williamson [Fri, 12 Oct 2012 15:10:10 +0000]
mktables: Add table for chars with multi-char fold

This will be used in a later commit

21 months agoregcomp.c: Rename a macro, fix-up comments
Karl Williamson [Sat, 13 Oct 2012 14:31:29 +0000]
regcomp.c: Rename a macro, fix-up comments

This very recently introduced macro's name could be clearer, and it can
be used in another place, and the comment concerning that is slightly
inaccurate.

21 months agoLink to 5.14.3 announcement
Dominic Hargreaves [Sat, 13 Oct 2012 10:06:48 +0000]
Link to 5.14.3 announcement

21 months agoHandle cow $_ in @INC filter
Father Chrysostomos [Sat, 13 Oct 2012 05:29:04 +0000]
Handle cow $_ in @INC filter

Setting $_ to a copy-on-write scalar in an @INC filter causes the
parser to modify every other scalar sharing the same string buffer.
It needs to be forced to a regular scalar before the parser sees it.

21 months agoAllow COW copies in aassign
Father Chrysostomos [Sat, 13 Oct 2012 04:59:47 +0000]
Allow COW copies in aassign

When the ‘no common vars’ optimisation is not active, list assignment
does not allow COW copies (unless assigning to an empty hash or
array).  It has been this way since 61e5f455dc.  The recent addition
of sv_mortalcopy_flags gives us an easy way to fix this.

A certain test in tr.t was marked TODO if not given a COW.  This test
used to pass before 61e5f455dc, but after than becaming a failing TODO
test.  It makes sense to test that we do have a COW instead of having
a conditional TODO.

21 months agoAdd references to perl5143delta
Dominic Hargreaves [Fri, 12 Oct 2012 22:42:07 +0000]
Add references to perl5143delta

21 months agoAdd the 5.14.3 perldelta
Dominic Hargreaves [Fri, 12 Oct 2012 22:39:22 +0000]
Add the 5.14.3 perldelta

21 months agoAdd 5.14.3 to perlhist
Dominic Hargreaves [Thu, 11 Oct 2012 18:56:22 +0000]
Add 5.14.3 to perlhist

21 months agoadd 5.14.3 epigraph
Dominic Hargreaves [Fri, 12 Oct 2012 21:57:16 +0000]
add 5.14.3 epigraph

21 months agoUpdate Module-CoreList Changes file
Chris 'BinGOs' Williams [Fri, 12 Oct 2012 21:24:16 +0000]
Update Module-CoreList Changes file

21 months agoAdd v5.14.3 data to Module::CoreList and bump to 2.74
Chris 'BinGOs' Williams [Fri, 12 Oct 2012 09:26:38 +0000]
Add v5.14.3 data to Module::CoreList and bump to 2.74

21 months agotoke.c: Rewrite bogus yylex comment
Father Chrysostomos [Fri, 12 Oct 2012 07:08:14 +0000]
toke.c: Rewrite bogus yylex comment

This comment has been wrong since it was first added.  What it des-
cribed was then the code at the beginning of yylex, before the main
tokenizing switch.

Since then, two parts of what it described have moved elsewhere; the
pending identifier code to S_pending_ident, and the sort $a<=>$b check
to op.c:S_simplify_sort.

21 months agoperlreapi.pod: Consistent spaces after dots
Father Chrysostomos [Fri, 12 Oct 2012 06:40:09 +0000]
perlreapi.pod: Consistent spaces after dots

21 months agoperlreapi.pod: Document RXf_MODIFIES_VARS
Father Chrysostomos [Fri, 12 Oct 2012 06:31:00 +0000]
perlreapi.pod: Document RXf_MODIFIES_VARS

21 months agoperlreapi.pod: Update RXf_SKIPWHITE section
Father Chrysostomos [Fri, 12 Oct 2012 06:27:37 +0000]
perlreapi.pod: Update RXf_SKIPWHITE section

21 months agoperlreapi.pod: Update RXf_SPLIT section
Father Chrysostomos [Fri, 12 Oct 2012 06:26:21 +0000]
perlreapi.pod: Update RXf_SPLIT section

21 months agoDisable const repl optimisation for empty pattern
Father Chrysostomos [Fri, 12 Oct 2012 05:51:44 +0000]
Disable const repl optimisation for empty pattern

s//$a/ cannot assume that the $a expression is going to return the
same value at each iteration, because the last-used pattern may con-
tain code blocks that clobber *a.

21 months agodefins.t: Suppress uninit warning
Father Chrysostomos [Fri, 12 Oct 2012 03:26:23 +0000]
defins.t: Suppress uninit warning

and make the no-warnings test pass.

21 months agoMove tests from t/op/while_readdir.t to t/op/defins.t
Brad Gilbert [Tue, 9 Oct 2012 19:24:38 +0000]
Move tests from t/op/while_readdir.t to t/op/defins.t

It turns out that some of what t/op/while_readdir.t was testing
was also tested by t/op/defins.t

21 months agoUse const repl optimisation with s///e where possible
Father Chrysostomos [Fri, 12 Oct 2012 03:22:08 +0000]
Use const repl optimisation with s///e where possible

In those cases where s///e contains a single variable or a sequence
that is folded to a const op, we can do away with substcont.

PMf_EVAL means that there was an /e.  But we don’t actually need to
check that; instead we can just examine the op tree, which we have to
do anyway.

The op tree that s//$x/e and s//"constant"/e compile down to have a
null (a do-block) containing a scope op (block with a single state-
ment, as opposed to op_leave which represents multiple statements)
containing a null followed by the constant or variable.

21 months agoperl5180delta: B::Generate is fixed
Father Chrysostomos [Fri, 12 Oct 2012 02:55:20 +0000]
perl5180delta: B::Generate is fixed

21 months ago[perl #49190] Don’t prematurely optimise s/foo/bar$baz/
Father Chrysostomos [Thu, 11 Oct 2012 21:38:31 +0000]
[perl #49190] Don’t prematurely optimise s/foo/bar$baz/

$baz could be aliased to a package variable, so we do need to recon-
catenate for every iteration of s///g.  For s/// without /g, only one
more op will be executed, so the speed difference is negligible.

The only cases we can optimise in terms of skipping the evaluation of
the ops on the rhs (by eliminating the substconst op) are s//constant/
and s//$single_variable/.  Anything more complicated causes bugs.

A recent commit made s/foo/$bar/g re-stringify $bar for each iteration
(though without having to reevaluate the ops that return $bar).  So we
no longer have to special-case match vars at compile time.

This means that s/foo/bar$baz/g will be slower (and less buggy), but
s/foo/$1/g will be faster.

This also caused an existing taint but in pp_subst to surface.  If
get-magic turns off taint on a replacement string, it should not be
considered tainted.  So the taint check on the replacement should come
*after* the stringification.  This applies to the constant replacement
optimisation.  pp_substcont was already doing this correctly.

21 months agoDon’t taint return value of s///e based on replacement
Father Chrysostomos [Fri, 12 Oct 2012 01:01:40 +0000]
Don’t taint return value of s///e based on replacement

According to the comments about how taint works above pp_subst in
pp_hot.c, the return value of s/// should not be tainted based on
the taintedness of the replacement.  That makes sense, because the
replacement does not affect how many iterations there were.  (The
return value is the number of iterations).

It only applies, however, to the cases where the ‘constant replace-
ment’ optimisation applies.

That means /e taints its return value:

$ perl5.16.0 -MDevel::Peek -Te '$_ = "abcd"; $x = s//$^X/; Dump $x'
SV = PVMG(0x822ff4) at 0x824dc0
  REFCNT = 1
  FLAGS = (pIOK)
  IV = 1
  NV = 0
  PV = 0
$ perl5.16.0 -MDevel::Peek -Te '$_ = "abcd"; $x = s//$^X/e; Dump $x'
SV = PVMG(0x823010) at 0x824dc0
  REFCNT = 1
  FLAGS = (GMG,SMG,pIOK)
  IV = 1
  NV = 0
  PV = 0
  MAGIC = 0x201940
    MG_VIRTUAL = &PL_vtbl_taint
    MG_TYPE = PERL_MAGIC_taint(t)
    MG_LEN = 1

The number pushed on to the stack was becoming tainted due to the set-
ting of PL_tainted.  PL_tainted is assigned to and the return value
explicitly tainted if appropriate shortly after the mPUSHi (which
implies sv_setiv, which taints when PL_tainted is true), so setting
PL_tainted to 0 just before the mPUSHi is safe.

21 months agoRemove PMf_MAYBE_CONST
Father Chrysostomos [Thu, 11 Oct 2012 21:05:29 +0000]
Remove PMf_MAYBE_CONST

It was added in ce862d02d but has never been used.

21 months ago[perl #49190] Stringify repl repeatedly in s///g
Father Chrysostomos [Thu, 11 Oct 2012 09:03:35 +0000]
[perl #49190] Stringify repl repeatedly in s///g

pm_runtime in op.c examines the rhs of s/// to see whether it is safe
to execute that set of ops just once.  If it sees a match var or an
expression with side effects, it creates a pp_substcont op, which
results in the rhs being executed multiple times.

If the rhs seems constant enough, pp_subst does the substitution in a
tight loop.

This unfortunately causes s/a/$a/ to fail if *a has been aliased to
*1.  Furthermore, $REGMARK and $REGERROR did not count as match vars.

pp_subst actually has two separate loops.  One of them modifies the
target in place.  The other appends to a new scalar and then copies it
back to the target.  The first loop is used if it seems safe.

This commit makes $REGMARK, $REGERROR and aliases to match vars work=
when the replacement consists solely of the variable.

It does this by setting PL_curpm before stringifying the replacement,
so that $1 et al. see the right pattern.  It also stringifies the
variable for each iteration of the second loop, so that $1 and
$REGMARK update.

The first loop, which requires the rhs to be constant, is skipped if
the regexp contains the special backtracking control verbs that mod-
ify $REGMARK and $REGERROR.

21 months agoRXf_MODIFIES_VARS
Father Chrysostomos [Thu, 11 Oct 2012 15:37:44 +0000]
RXf_MODIFIES_VARS

regcomp.c sets this new flag whenever regops that could modify
$REGMARK or $REGERROR have been seen.  pp_subst will use this
to tell whether it should repeatedly stringify the replacement.

21 months agoDefine RXf_SPLIT and RXf_SKIPWHITE as 0
Father Chrysostomos [Thu, 11 Oct 2012 16:27:18 +0000]
Define RXf_SPLIT and RXf_SKIPWHITE as 0

They are on longer used in core, and we need room for more flags.

The only CPAN modules that use them check whether RXf_SPLIT is set
(which no longer happens) before setting RXf_SKIPWHITE (which is
ignored).

21 months agopp_hot.c:pp_subst: add comment
Father Chrysostomos [Thu, 11 Oct 2012 07:54:56 +0000]
pp_hot.c:pp_subst: add comment

21 months agoSimplify the fix for bug #41530
Father Chrysostomos [Thu, 11 Oct 2012 07:24:18 +0000]
Simplify the fix for bug #41530

We don’t need to upgrade the target string and redo the pattern match
if the replacement is in utf8.  We can simply convert during concate-
nation, using the more recently added SV_CATUTF8 and SV_CATBYTES flags
to sv_catpvn_flags.

This should make things faster, too, as sv_catpvn_flags does not need
to allocate extra SVs or string buffers.

This happened to trigger an existing COW bug, causing test failures.
SvIsCOW and sv_force_normal_flags were being called on TARG before
get-magic.  So a magical scalar returning a COW could have that COW
modified in place.

I added a test for something I nearly broke.

21 months agoperldelta for [perl #114982]
Karl Williamson [Fri, 12 Oct 2012 04:04:12 +0000]
perldelta for [perl #114982]

21 months agoregcomp.c: Use more precise definition of folding chars
Karl Williamson [Fri, 12 Oct 2012 02:43:47 +0000]
regcomp.c: Use more precise definition of folding chars

Previously, in the Latin1 range, whether a character is alphabetic or
not has served as a surrogate for if the character participates in
folds, as it is a superset of the folding class, with two characters
which are alpha but not folding: the masculine and feminine ordinal
indicators.  But we have plenty of bits available in the bit array for
Latin1 character classifications, so this commit makes the definition
precise.

21 months agohandy.h: Add macro which returns if a char is folding
Karl Williamson [Fri, 12 Oct 2012 02:40:09 +0000]
handy.h: Add macro which returns if a char is folding

This adds a macro for regcomp.c to use to determine if a Latin1 range
character participates in any folds

21 months agoregen/mk_PL_charclass.pl: Add bit for if character folds
Karl Williamson [Fri, 12 Oct 2012 02:25:04 +0000]
regen/mk_PL_charclass.pl: Add bit for if character folds

This takes the existing mktables-generated table that lists all
characters that participate in any way in a fold, and creates a bit for
it in l1_char_class_tab.h

21 months agoregcomp.c: Optimize EXACTFish nodes without folds to EXACT
Karl Williamson [Thu, 11 Oct 2012 18:15:53 +0000]
regcomp.c: Optimize EXACTFish nodes without folds to EXACT

Often, case folding will be applied to the entire regular expression
(such as by using "/i"), but there will be components in it that are the
same, folded or not.  These components could be represented as EXACT
nodes with no loss of information.  The regex optimizer is then able to
apply more optimizations to them than it could otherwise, and pattern
matching will execute faster.

This commit turns any EXACTFish node (except those under locale rules,
whose folding rules are not known until runtime)) that contains entirely
unfoldable characters into the equivalent EXACT node.

This optimization brings up the idea of possibly splitting an EXACTFish
node that contains a sufficiently long contiguous string of non-folding
characters into the portions that have folding and the portions that
don't.  That might or might not be beneficial; I'm not undertaking the
experiments to check that out.

21 months agoregexec.c: Fix EXACT node handling in regrepeat()
Karl Williamson [Thu, 11 Oct 2012 20:56:27 +0000]
regexec.c: Fix EXACT node handling in regrepeat()

Commit b40a2c17551b484a78122be98db5dc06bb4614d5 introduced a bug in
handling EXACT nodes when the pattern is in UTF-8.  This cleans that up.

21 months agoFix indentation after a19baa613c
Steve Hay [Thu, 11 Oct 2012 12:08:45 +0000]
Fix indentation after a19baa613c

21 months agostop Win32 VC miniperl from exporting functions
Daniel Dragan [Thu, 11 Oct 2012 05:47:19 +0000]
stop Win32 VC miniperl from exporting functions

miniperl.exe does not load XS modules. It has no reason to export anything.
About 130 things are exported by VC Win32 miniperl. 90% of them are
the win32_* functions. All but a couple Perl_* exports are gone in the
exporting miniperl. See perl #115216 for the full list of accidentally
exported items. Also stop trying to find Win32CORE's boot function in
Perl_init_os_extras through the export table. It is not exported and not
in the miniperl image and GetProcAddress will never return not NULL. By
removing this GetProcAddress call, miniperl stops importing GetProcAddress
from kernel32 and a tiny bit startup time by miniperl during the full
perl build process. By removing the exports the compiler is free to use
more random (not cdecl) calling conventions and/or optimizing away code
than before. Also by removing the export entries, and the GetProcAddress
import, RO strings are removed from the miniperl image. This commit only
affects the VC miniperl. The Mingw miniperl remains unmodified except
for not trying to load Win32CORE through the export table and some of the
.c files being compiled with PERL_IS_MINIPERL when previously they were
not.

21 months agofix C++ builds broken by cdc4a174060
Daniel Dragan [Wed, 10 Oct 2012 21:23:27 +0000]
fix C++ builds broken by cdc4a174060

In commit cdc4a174060 static noreturn function, on a C++ build, (specific
example, GCC ) got a post preprocessor prototype of
"extern "C" static void S_fn_doesnt_return(". GCC generates a compile error
if "extern "C"" and static used together. Plain C build were not affected.

This commit fixed the problem by creating 2 new static exclusive macros, so
extern "C" does not wind up on statics in a C++ build. The macros allow
enough flexibility so any compiler/platform that needs a noreturn
declaration specifier instead of a noreturn function attribute can have
one.

21 months ago[perl #114658] Fix line numbers at the end of string eval
Father Chrysostomos [Wed, 10 Oct 2012 20:14:31 +0000]
[perl #114658] Fix line numbers at the end of string eval

$ perl -e 'eval "{;"; print $@'
Missing right curly or square bracket at (eval 1) line 1, at end of line
syntax error at (eval 1) line 1, at EOF
$ perl -e 'eval "{"; print $@'
Missing right curly or square bracket at (eval 1) line 2, at end of line
syntax error at (eval 1) line 2, at EOF

Notice how the line number goes up when there is no semicolon.

What happens is that eval tacks "\n;" on to the end of the string if
it does not already end with a semicolon.

I actually changed this in blead in commit 11076590 to tack "\n;"
on to the end all the time, to make eval "q;;" and
eval "return #comment;" work.

This caused the line number to increase for eval "{;".

This commit fixes both examples above by modifying S_incline to
account for the "\n;" at the end of a string eval.

Existing tests had to be modified, as they were testing for the wrong
line number.

21 months agoAdd extern "C" to definitions of four win32_ functions
Steve Hay [Wed, 10 Oct 2012 17:27:07 +0000]
Add extern "C" to definitions of four win32_ functions

This makes them match their declarations in perlhost.h, which fixes linker
errors when linking perl5XX.dll in a C++ build with VC.

21 months ago[MERGE] revamp dist/B-Deparse/t/core.t
David Mitchell [Wed, 10 Oct 2012 15:39:43 +0000]
[MERGE] revamp dist/B-Deparse/t/core.t

rewrite core.t to be a comprehensive test of most keywords
along with various lengths of args of the form foo($a, $b, $c),
where $a etc may or may not be lexical.

(Previously this test file only checked that CORE::foo deparsed as
CORE::foo when sub foo was defined: it generated args, but didn't check
how they were deparsed).

This branch also includes a number of fixups to Deparse.pm that were found
while working on core.t. Note there are a few places in core.t marked
with 'XXX' where there is some dodgy stuff going on that core.t just
ignores for now.

21 months agoDeparse/t/core.t: add support for lex vars
David Mitchell [Wed, 10 Oct 2012 15:32:52 +0000]
Deparse/t/core.t: add support for lex vars

Enlarge the testing regime: before, for each op it tested
   foo($a,$b,$c,...)
now it also does
   foo(my $a,$b,$c,...)
   my ($a,$b,$c,...); foo($a,$b,$c,...)

21 months agooverhaul dist/B-Deparse/t/core.t
David Mitchell [Wed, 10 Oct 2012 11:28:38 +0000]
overhaul dist/B-Deparse/t/core.t

Originally, this test file just checked that CORE::foo got correctly
deparsed as CORE::foo, hence the name. This commit expands it
to fully test both CORE:: verses none, plus that any arguments
are correctly deparsed. It tests many more keywords, and it also
cross-checks against regen/keywords.pl to make sure we've tested all
keywords, and with the correct strength.

(There is very little of the original file left.)

21 months agofix deparsing of select(F)
David Mitchell [Wed, 10 Oct 2012 10:32:57 +0000]
fix deparsing of select(F)

Because select doesn't have a prototype (it's really two different functions
with the same name), the code that handles "first arg as filename" was
skipping select(F). This meant that 'select $fh' was being deparsed as
'select *$fh'.
Make select behave the same as open etc.

(There's still an issue that 'select/open *$fh' is deparsed as
'select/open $fh')

21 months agoDeparse: handle system/exec prog arg,arg,,..
David Mitchell [Tue, 9 Oct 2012 16:12:09 +0000]
Deparse: handle system/exec prog arg,arg,,..

Deparse wasn't handling the form of system and exec where
the extra first arg (without comma) gave the program name.

These now deparse ok, without an additional comma:

    system $prog $arg1,$arg2;
    exec   $prog $arg1,$arg2;

21 months agoDeparse: grep($a) became grep($a,); ditto map
David Mitchell [Tue, 9 Oct 2012 15:49:26 +0000]
Deparse: grep($a) became grep($a,); ditto map

Not fatal, but ugly,and messed up the test format I'm currently
working on in core.t

21 months agoDeparse: handle some strong keywords better
David Mitchell [Tue, 9 Oct 2012 14:50:12 +0000]
Deparse: handle some strong keywords better

In general, a strong keyword 'foo' will get deparsed as plain 'foo'
rather than 'CORE::foo', even in the presence of a sub foo{}.
However, these weren't:
    glob
    pos
    prototype
    scalar
    study
    undef

This was due to them having prototypes.

21 months agoDeparse crashed on argless sort()
David Mitchell [Tue, 9 Oct 2012 10:59:37 +0000]
Deparse crashed on argless sort()

This would crash
    @a = sort;

(Test will come in a separate commit)

21 months ago[perl #115206] Don’t crash when vivifying $|
Father Chrysostomos [Wed, 10 Oct 2012 03:47:18 +0000]
[perl #115206] Don’t crash when vivifying $|

It was trying to read the currently-selected handle without checking
whether it was selected.  It is actually not necessary to initialise
the variable this way, as the next use of get-magic on it will clobber
the cached value.

This initialisation was originally added in commit d8ce0c9a45.  The
bug it was fixing was probably caused by missing FETCH calls that are
no longer missing.

21 months agoTest perl #4760
Father Chrysostomos [Wed, 10 Oct 2012 03:43:00 +0000]
Test perl #4760