fix tainting of s/// with overloaded replacement

The substitution code was trying to track the taintedness of the
replacement string itself, but it didn't account for the replacement
being an untainted object with overloading that returns a tainted
stringification.  It looked at the taintedness of the object value, not
realising that taint could arise during the string concatenation per se.
Change the taint checks to look at the actual TAINT_get flag after string
concatenation.  This may falsely ascribe to the replacement taint that
actually came from somewhere else, but the end result is the same anyway:
there's no visible behaviour that distinguishes taint specifically from
the replacement.  Also remove a related taint check that seems to be
not needed at all.  Fixes [perl #115266].

fix other pod versions that had become out of date, and add reminder comments

fix Attribute::Handlers pod to match new $VERSION

..as the comment next to the $VERSION declaration reminds us to do

perldelta for perluniprops change

For commit 9b79e9e3431d11e79a4f85268f70130b7b4369f6

locale.c: Use computed length for U+10FFFF

The previous commit calculates this and placed the result in a header
file.  This now uses the calculated value instead of a hard-coded "4",
which is incorrect on EBCDIC platforms.

regen/unicode_constants.pl: Add U+10FFFF entry

We need the length of the UTF-8 for this code point elsewhere, and it
is different between ASCII and EBCDIC.

Sync cpan/Test-Simple with CPAN version 1.302111.

Upstream has released Test-Simple with new t/Legacy/Tester/tbt_09do.t.

Since that now matches what we have in blead, we no longer need to have a
CUSTOMIZED entry in Porting/Maintainers.pl.

Restore ability to build on platforms without snprintf()

C89 does not in fact define snprintf() or vsnprintf(), and we must therefore
probe for the existence of those functions before trying to use them.

khw++ for pointing out my earlier error.

This reverts part or all of each of the following commits:

13d66b05c6163c3514774d3d11da5f3950e97e98 Rely on C89 vsnprintf()
e791399041815a1a45cea3c7f277c7045b96e51b Rely on C89 snprintf()
adf7d503e55721c500f0bf66560b8f5df7966fe7 pod/perlhacktips.pod: remove some outdated portability notes

Porting/checkcfgvar.pl: add missing config-symbol file

Cross/config.sh-arm-linux-n770 should probably have been added to the list
of config-symbol files when it was first added, and the fact that it wasn't
means that there are many symbols it doesn't list. In the absence of any
better information, I've defaulted them to the Cross/config.sh-arm-linux
values.

Regenerate Porting/Glossary

Regenerate sample config files

Rebuild Configure from current metaconfig

Commit 46857622bdd8fff9558b66485f86ae4eb019ec55 of the metaconfig repo
reverts to the upstream version of i_sysmman.U, which has a slightly
different comment.

PATCH: [perl #132463] perluniprops for \p{Word}

perluniprops was not updated to reflect the changes made to what
\p{Word} contains as of 5.18.  What was added was the code points that
have the Join_Control property, which, so far, only contain U+200C and
U+200D.  This commit uses Join Control instead of the hard-coded code
point numbers, so that when Unicode changes it, it automatically will
still be valid.

Thanks for spotting this.

fix perldelta formatting

Documentation changes get =items, not =head3s.

clarify perlop description of binary "x"

[perl #132460]

restore deparsing style for \&foo

When deparsing a reference to a sub in the current package, other than in
a call expression, with "use strict 'vars'" in effect and no lexical sub
of the same name in scope, commit dd6661605fe0a54c602f2e55f875acfdcd330b79
accidentally changed the deparsing from "&main::foo" to "&foo".
Both deparsings are correct, and the short one arguably preferable.
In fact, the deparsing was originally of the short form, but changed to
the long form (probably accidentally) in Perl 5.21.7, when the deparser
started adding the package to distinguish package subs from lexical subs
of the same name.  Nevertheless, it was not the intention to change this
output in that edit, and it broke a CPAN module's tests.  Consequently,
this commit restores the long-form deparsing in this case.

rip out quicksort and sort algorithm control

[perl #119635]

embed.fnc: Add X flag to newly private UTF16 fcns

The E flag added in cfd95a374972942cba5e8afc019dc6019815b45c needs
either the X flag or be private to its containing file.

Spotted by Craig Berry.

Suppress warning in XS-APItest’s sniscow.t

correctly error on -k "nonexistent" on Windows

The file test operators for Unix permission bits were returning a blanket
false result on systems where the bit being tested for doesn't exist.
That's a sensible way to treat a nonexistent bit when statting a file,
but the false result was being returned without checking that the argument
actually refers to a file.  Remove the pre-stat checks for nonexistent
bits, so that we get the correct errors for non-files.  We still get a
blanket false result for nonexistent bits on files.

Portability fix for Test::Simple 'do' test.

Prepending './' to what might not be a Unix filespec can't be
relied on to work (and it definitely doesn't on VMS). So use the
functions File::Spec provides to do this portably.

N.B.  File::Spec->catfile() is smart enough not to prepend the
value of curdir() if it's already there.

Remove UTF16 functions from public access

See thread starting at
http://nntp.perl.org/group/perl.perl5.porters/247120

I don't believe this needs a perldelta, as the functions weren't
documented, hence are not supposed to be used, and in fact are not used
in cpan.

precise control over order tests are run in TEST

handy.h: add a comment about perl_assert_ptr()

Use strict and warnings in stat.t

Either one would have caught the error fixed by the previous commit.

Fix $$ variable usage in stat.t

"$$_TEST" gets parsed as "${$_TEST}", which evaluates to the empty
string, because this test uses neither strict nor warnings.

Use safer symlink name in stat.t.

The file pattern TEST.symlink.$$ is an ambiguous filename on VMS
because the digits of the $$ could be construed as a version
number or as part of the filename proper, depending on various
environmental settings.  This would not cause stat.t to fail but
could prevent removal of the symlink.  Which would then cause
ext/File-Glob/t/basic.t to fail because it scans the t/ directory
for files match TES* and falls down when it finds files it does
not expect.

In principle this could cause trouble for parallel tests on any
platform if stat.t's detritus happens to be present while the
File::Glob tests are running.

Short of a major rethink of the test suite to stop tests from using
t/ as their personal playground, the safest bet seems to be to use
a filename that is unambiguous on VMS and will not collide with
tests expecting t/TEST to be the only file in that directory that
begins with 'TES'.

fix lvalue context for 4-arg substr

4-arg substr uses its first arg as an lvalue, but wasn't lvaluifying
it properly.  [perl #115258]

I18N::Langinfo: Add note to pod

For the last several releases of Perl, the items listed in the note were
always those from the C locale, regardless of the real one.  Before
that, it was even more buggy, whether you got the C locale or the real
one was complicated.

deparse trailing-colon barewords carefully

A bareword ending in "::" has one "::" suffix stripped upon parsing,
so when deparsing a glob name ending in "::" as a bareword it needs
another "::" added.  But this only applies to barewords, not to glob
names that follow sigils, so the deparser needs to distinguish between
contexts for glob names in some places where it previously did not.
Fixes [perl #113716].

This change supersedes the recent change about deparsing glob names in
the CORE stash.  Those glob names are now handled by suffixing "::",
and this suffix is only added in bareword contexts, making the handling
of the two unusual cases identical.

clarify the pod for Perl_utf8_length()

It seemed to imply that the bytes making up the char were s..e; they're
actually s..(e-1).

NPD

expand code comment in perly.y

ASSIGNOP includes mutators like += as well as basic assignment

NPD

deparse ::CORE::foo barewords carefully

A bareword such as "::CORE::foo", where it refers to a GV, is liable to be
confused with the "CORE::foo" syntax, which can't refer to a GV but is a
way of supplying a keyword, and is illegal if the keyword doesn't exist.
Make sure to deparse it with the "::" prefix.  Fixes [perl #113714].

rip out CPAN-release cruft from B::Deparse

B::Deparse is distributed only with the core.  It has no need to be
portable between Perl versions or to have its own change log.

additional tests for registered warning categories

IO::Handle - fix precedence issue

This commits fixes remarks raised
during the 2017 p5h in Amsterdam.

- fix precedence issue with '=~'
- stop using indirect new calls for SelectSaver.

spelling

tabs to spaces in RMG

fix handling of registered warning categories

There were some problems arising from some warning bitsets being shorter
than others, which happens when registration of a new warning category
makes new bitsets longer.  Most obviously, if a scope used "use warnings
'all'" to turn on all warnings and then turned off some specific warnings,
then that scope wouldn't get warnings for subsequently-registered warning
categories, because its bitset doesn't extend to the bit controlling
the new category.  (If just "use warnings 'all'" was used, without any
customisation, then a special hack made that work for new categories.)
It was also possible for a longer bitset to get truncated by a warnings
pragma, because the bitset editing code assumed that all bitsets are
the same length.

To fix this, first the warning bits for the "all" category have to change
meaning.  Unlike all other warning categories, the bits for "all" used to
be set only when there were no warning categories disabled; disabling any
would also clear the "all" bits.  That was supporting the special hack
mentioned above that the all-warnings bitset work for new categories.
This exception is now removed, so the meaning of the "all" bits is now the
more obvious meaning, of indicating the default treatment that the scope
wants for warnings not falling into any category known to the bitset.
In warnings::warnif() et al, if the caller's bitset is found to be too
short to have a bit for the relevant category, then the setting for the
"all" category is used instead.

Because the length of a bitset is an integral number of bytes, but
only two bits are used per category, the length of a bitset doesn't
precisely indicate which categories had been registered by the time it
was constructed.  So the standard bitsets for the "all" category are
now always filled to their byte length, with bits set preemptively for
categories not yet registered that fall within the current bitset length.

When a warnings pragma operates on a bitset, it first expands it to the
preferred length, by duplicating the "all" bits for the categories covered
by the new length.  It is careful to maintain the length when combining
the bitset with the standard bitsets for categories.  When a bitset is
read from ${^WARNING_BITS} or from caller(), the standard pWARN_ALL
setting is no longer expanded by the core to $warnings::Bits{all},
because the core's short WARN_ALLstring will now be expanded correctly
just like any other bitset.

Fixes [perl #108778].

Provide option to build with -D__USE_MINGW_ANSI_STDIO

This commit adapts and extends a patch from sisyphus1@optusnet.com.au on
perl #130447.

Note for the future: One of the MinGW/gcc developers has said that
explicitly defining __USE_MINGW_ANSI_STDIO in this way is not guaranteed
to work in the future, so we may have to pursue other options instead one
day: https://rt.perl.org/Ticket/Display.html?id=130447#txn-1461711

However, we already do this for "nvtype=long double" builds and it's
working fine so far, so it seems acceptable to allow the same thing for
"nvtype=double" builds for now.

DynaLoader simplify parsing option rule

After review, comments & dumb benchmark.
Simply using a substitute for these two
'-L' and '-l' options parsing makes the code
easier to maintain.

The benchmark difference is pretty close, for
matching, non matching (short or long) strings.

Remove use vars from B::Deparse

RT 132429: This causes a slight change to the output value of ${^WARNING_BITS} due to
warnings::register not polluting introspection for B::Deparse.

perldelta for commit 43b354f1e1

lib/perl5db.pl: don't dump argless args

dump_trace() prints a stack backtrace - including caller args - by using
caller() and @DB::args.

However, if a sub is called using the '&foo;' argless mechanism, caller()
doesn't populate @DB::args, so it continues to hold whatever it was set
to previously. This might include SVs which have since been freed or
re-allocated.

So only display args for a particular caller depth if that sub was called
with args.

This was causing smoke failures in lib/perl5db.t when TERM was unset.
It only started failing recently, due I guess to subtle changes in what
SVs were left hanging about in @DB::args from a previous use of caller().

See http://nntp.perl.org/group/perl.perl5.porters/247032
    Subject: Smoke FAIL's for lib/perl5db.t

lib/perl5db.t: remove debugging code

A spurious printf was inadvertently added by me with e05a85b2.

Improve cl version detection

Drop the use of the word "Version" so it works on non-English systems.
Instead, simply look for a number of the form X.Y (or X.Y.Z etc) with word
boundaries around it. Thus, we can find numbers like 12.00.8804 or
19.00.24213.1, but not accidentally pick up things like x86 or 1984-1998.

Also, drop the "--version" argument since it doesn't really exist and
causes warnings/errors to be output. A bare "cl" command suffices to get a
usage message including the version number to be output.

Finally, the Windows version detection can be similarly improved.

This fixes perl #132421.

perldelta for stat(CLOSED) fix

set $! when statting a closed filehandle

When a stat fails because it's on a closed or otherwise invalid
filehandle, $! was often not being set, depending on the operation
and the nature of the invalidity.  Consistently set it to EBADF.
Fixes [perl #108288].

POSIX.pod: Add cautions about locale use

locale.c: Use mnemonic

Replace this number by an already existing mnemonic

perldelta for the prev. commit

[perl #132442] Fix stack with do {my sub l; 1}

A block in perl usually compiles to a leave op with an enter inside
it, followed by the statements:

   leave
     enter
     nextstate
     ... expr ...
     nextstate
     ... expr ...

If a block contains only one statement, and that statement is suffic-
iently innocuous, then the enter/leave pair to create the scope at run
time get skipped, and instead we have a simple scope op which is not
even executed:

   scope
     ex-nextstate
     ... expr ...

The nextstate in this case also gets nulled.

In the case of do { my sub l; 1 } we were getting a variation of the
latter, that looked like this:

   scope
     introcv
     clonecv
     nextstate
     ... expr ...

The problem here is that nextstate resets the stack, even though a new
scope has not been pushed, so we end up with all existing stack items
from the *outer* scope getting clobbered.

One can have fun with this and erase everything pushed on to the stack
so far in a given statement:

$ ./perl -le 'print join "-", 1..10, do {my sub l; ","}, 11..20'
11,12,13,14,15,16,17,18,19,20

Here I replaced the first argument to join() from within the do{}
block, after having cleared the stack.

Why was the op tree was getting muddled up like this?  The ‘my sub’
declaration does not immediately add any ops to the op tree; those ops
get added when the current scope finishing compiling, since those ops
must be inserted at the beginning of the block.

I have not fully looked into the order that things happen, and why the
nextstate op does not get nulled; but it did not matter, because of
the simple fix: Treat lexical sub declarations as ‘not innocuous’ by
setting the HINT_BLOCK_SCOPE flag when a lexical sub is declared.
Thus, we end up with an enter/leave pair, which creates a
proper scope.

Update experimental.pm from 0.016 to 0.017

perldelta for 6b93e4bc22a7c06508c3d2ed4590fe8bc2cb4989

Compress-Raw-Zlib: sync with CPAN version 2.075

https://rt.cpan.org/Ticket/Display.html?id=123245 reports a security
vulnerability in versions zlib 1.2.8 thru 1.2.10 of the zlib library.  Zlib is
bundled with Compress-Raw-Zlib, so any vulnerability reappears once
Compress-Raw-Zlib is shipped with Perl 5.  The vulnerability is present in
production releases up to and including perl-5.26.1.

To address this vulnerability, this commit upgrades us to the latest CPAN version.

OP_MULTICONCAT: fix AIX

The OP_MULTICONCAT work broke AIX builds because it turns out that
PerlMemShared_malloc() isn't safe (in the sense of safemalloc());
i.e. on AIX, PerlMemShared_malloc(0) returns NULL.

Upgrade libnet from version 3.10 to 3.11

This includes https://github.com/steve-m-hay/perl-libnet/pull/32

Fix Windows build failure introduced by 7d00a3405c

Handle empty list in Perl_vms_do_aexec.

Since 2fcab33080e this is now expected and tested for, so do
what other platforms do.

mv "Truth and Falsehood" from perlsyn to perldata

This one-paragraph section didn't belong in perlsyn.  perldata already
had a paragraph on the topic; merge them.  [perl #115650]

fix newPVOP() doc re freeing of pv

[perl #127697]

perldelta: typo

Ilmari++

perldelta: C89 requirement

fix naming of some test temp files

The files should be named t/tmp*, to fall under .gitignore and be ignored
by podcheck.

fix ext/B/t/optree_specials.t

recent changes to expected output didn't account for the way nextstate ops
change their hints display when run under

    LC_ALL=en_US.UTF-8 PERL_UNICODE=""

One day we'll make this automatic.

stop unused-var warnings in ExtUtils-ParseXS tests

These are warnings resulting from unusual features of the specific XS
code in the test suite, not from XS compilation in general.

avoid unused-var warnings in compiled XS

Code generated by ExtUtils-ParseXS for certain kinds of XS sub
was creating an "items" variable and never using it, resulting in
distracting warnings from the C compiler.  Add "PERL_UNUSED_VAR(items)"
where appropriate.

rip out Perl version portability from B

B is distributed only with the core, not dual-life, so has no need to
be portable between Perl versions.

in B::Concise, show RV target better

Especially show the identity of CVs where possible.  This is important
now that gv ops often point at a coderef rather than a glob.  Fixes [perl

Introduce macros to simplify @INC setting

Distro trends to customize @INC, and to maintain
patches to change the order of @INC or add custom entries.

The goal of this patch is to abstract calls to 'S_incpush_use_sep'
and simplify reordering @INC.

This commit makes the code from perl.c more comfortable to read
by introducing several 'INCPUSH_*' macros for every
'S_incpush_use_sep' call so we can easily reorder them.

Storable: remove Config dependency

RT #132406

Avoid loading Config/Config_heavy from Storable.

Make Storable.pm a template file and check
if the system can use flock at compile time.

__Storable__.pm is the template file to edit,
whereas Storable.pm.PL is the script generating
Storable.pm from __Storable__.pm.

Using a separate file for the template make it
easier to edit.

Also note that Storable.pm is now ignored by git.

Time::HiRes disable a flapping test for CI

When running this test under heavy load
we cannot assume the delta between two system calls...
even when using a (nano)sleep

Most Continuous Integration system will fail on this
test at one point or the other.

Make perlbug.t forgiving about newlines.

On VMS, pipes often introduce extra newlines, so the test
infrastructure deduplicates them, which then makes it impossible
to check for more than one.  So just check for one or more.

travis.yaml: fixes for osx

run brew update before installing ccache
use TRAVIS_OS_NAME macro to check os

Adjust porting/authors.t for travisci

Add plan to porting/authors.t
skip_plan was used but no plan or tap output was defined.

When the test is run by TravisCI, use a shorten
revision range. We do not want to have a pull request impacted
by the previous state of blead, and we do not want to check
the merge commit from travis which is using the github author
primary email address.

Remove win32 logic from t/porting/authors.t

Remove special logic for windows by using 'qx'.
Allow test to be run from main root directory.

Switch some core modules to XSLoader

RT 132080: Remove perl 5.006 compatibilities with DynaLoader and use
XSLoader directly.

The traditional boiler plate to use XSLoader for Perl > 5.006 or
DynaLoader, does not make sense for core modules in perl 5.28+.

Track Unicode-Normalize Changes file so it can be updated as it is changed in Perl

Tweak travis.yml: ccache & notifications

- builds are now using ccache
- use multiline syntax for main script
- irc notifications are now enabled and sent to #p5p-qa channel

Makefile.SH: factorize install.html target

Avoid duplicate definition of install.man and install.html
targets. We could then use in a later commit a Configure option
to disable doc installation on demand.

Update Unicode-Collate to CPAN version 1.23

  [DELTA]

1.23  Mon Nov 13 19:10:28 2017
    - Now UCA_Version 36 (for Unicode 10.0.0) is supported.
      * But the default UCA_Version is still 34.
    - added nushu.t in t.

1.22  Sat Nov 11 10:53:35 2017
    - internal: someone suggests using 'exists' for checking the truth of
      $collator->{mapping}{$variable} and $collator->{maxlength}{$variable},
      where $variable may stand for codepoints whose mapping is not defined;
      though such a problem was not reproduced on my environment.

Fix sentence in perlobj.pod (missing a word)

Reported by geospeck

localise $@ around source filters

$@ could be clobbered by source filters, screwing up the reporting of
errors in the filtered source.  Prevent this by localising $@ around
each call to a source filter.  Fixes [perl #38920].

change OP_MULTICONCAT nargs from UV to SSize_t

Change it from unsigned to unsigned since it makes the SP-adjusting code
in pp_multiconcat easier without hitting undefined behaviour (RT #132390);
and change its size from UV to SSize_t since it represents the number
of args  on the stack.

rename op_aux field from 'size' to 'ssize'

This part of the op_aux union was added for OP_MULTICONCAT; its actually
of type SSize_t, so rename it to ssize to better reflect that it's signed.

This should make no functional difference.

configpm: fix duplicate 'our' declaration

This file of old incorrectly had both

    use vars '$Config_SH_expanded';

and

    our $Config_SH_expanded;

lines. After a recent commit which did s/use vars/our/g, the duplicate
'our' declaration started warning.

Do not (attempt to) install man pages when explicitly disabled

Configure … -Dman1dir=none -Dman3dir=none …

→

installman1dir=''
installman3dir=''

avoid redundant initialisation around Newxz()

Reduce Newxz() to Newx() where all relevant parts of the memory are
being explicitly initialised, and don't explicitly zero memory that was
already zeroed.  [perl #36078]

remove unused struct member "is_top_frame"

duplicate full index for SAVEt_AELEM

The index in a SAVEt_AELEM save entry is now IV-sized, but only an I32
portion of it was being duplicated.  This would lead to restoring the
wrong element if a pseudfork were done with a localised array element
on the stack, if the array index were above the 32-bit range or on a
big-endian architecture.

fix sysconf panic

If sysconf() failed to provide the page size, there was an attempt to
panic with an error message.  But rather than generate an error message
from errno, the code would attempt to read it from ERRSV.  Not only had
nothing put the error message into ERRSV, but the glob behind ERRSV
didn't even exist yet, so attempting to evaluate ERRSV would segv.
Change this to use Strerror() and never touch ERRSV.  [perl #115880]

Merge branch 'smoke-me/jkeenan/afresh/132401-file-copy' into blead

Fix sprintf multiconcat on 32bit big-endian systems with use64bitint

The sprintf offset calculation was assigning to the 'uv' field of the
aux union, while the code was reading from the 'size' field, which leads
to all zeroes when sizeof(uv) > sizeof(size_t) on a big-endian system.

better document macros taking literal strings

When giving a function-style prototype for a macro taking a literal string
parameter, put a string literal in place of a type for that parameter.
This goofy appearance makes it obvious that this isn't really a function,
and clues the reader in that the parameter can't actually be an arbitrary
expression of the right type.  Also change the nonsensical "NUL-terminated
literal string" to "literal string" to describe these parameters.
Fixes [perl #116286].

document IO::Select error detection

prevent invalid memory access in S_check_uni (RT #132433)

fix do dir returning no $!

do()ing a directory was returning false/empty string in $!, which isn't
an error, yet documentation says $! should have the error code in it.
Fix this by returning EISDIR for dirs, and EINVAL for block devices.
[perl #125774]

Remove "errno = 0" and comment added in b2da7ead68, since now there is no
scenario where errno is uninitialized, since the dir and block device
failure branches now set errno, where previously they didn't.

avoid reading errno twice in a row

Reading errno can involve calling a function and indirecting through
its result, so cache the value of errno where possible.  [perl #122096]

suppress clang warning in inode number handling

The gcc warning was already suppressed, but clang needs a different
formulation.