toke.c: Recognize "0odddd" octal literals.

t/base/num.t: Add some test for "0odddd" octals.

Use GNU Bison's named references

Usage of Bison's named references makes actions little bit easier
to read and maintain.

Raise minimal supported GNU Bison version to 2.5

which added support for named references

Add start-up/tear-down for many-reader mutexes

These were missed in 5640a370e8b19af74b8ca0b4694464c21a87916b.

Change many-reader mutex API for consistency

The API for other mutexes passes the address of the lock, instead of the
lock itself.  It is less confusing to have the APIs be the same.

HiRes.xs: Remove unused macro defns

perllocale: Remove stray markup

Not all Win32 compilers have a small macro buffer

Commit e7ae132ec78 consolidated PERL_SMALL_MACRO_BUFFER usages, but it
omitted the _MSC_VER number at which the buffer became large enough.
Apparently it did this because Windows compilations were failing with
the error "string too long", which doesn't happen if __ASSERT_ expands
to nothing, which it does under PERL_SMALL_MACRO_BUFFER.

However,  commits 92a0bb2 and 88086fd shortened the offending strings
so later Windows compilers don't have to be considered as having small
macro buffers.

Revert "Don't test for 16-bit inputs in inRANGE()"

This effectively reverts commit
4c2aa7c802893d0276551ade1b9d5dcd1226afc4.

That commit removed checking for 16 bit inputs because an assert in a
macro was making compilations fail in some compilers that couldn't
handle the complexity.  This inadvertently broke systems which use C
language shorts in certain places, such Mingw and Win32 with their use
of UTF16, not typically found on other platforms.  At the time, we
weren't smoking Mingw so we didn't know about it there, but the Win32
failures on Win32 were "fixed" by another commit which disabled
assertions of this type completely.  It turns out the issue was passing
too long a string to assert().   Commits 92a0bb2 and 88086fd removed a
bunch of unnecessary and/or duplicate asserts, bringing the size down,
so that the 16 bit checks can be added back in without breaking these
compilers.

The reverted commit mentioned HP compilers as having problems.  The only
such box we currently have available for testing is HP-31, and the
reversion works fine on it, even before 92a0bb2 and 88086fd.

This fixes GH #18364

perl.h: Move some code around

This is in preparation for future commits where things will be needed
earlier/later than currently.

regen/regcharclass.pl: Use smaller inRANGE version

The previous commit split inRANGE up so that code that was known to have
valid inputs to it could use a component that didn't have all the
compile-time checks (often duplicates) that otherwise are made.

This commit changes to use that component.  The reason the compile-time
checks are unnecessary here, is this is machine-generated code known to
meet the inRANGE input requirements.

All those compile-time checks added up to being too large for some
compilers to handle.

inRANGE, withinCOUNT: Split so can avoid asserts

This commit splits these macros up into components that are separately
callable.  The components are considered internal core only, and the
purpose is to avoid duplicate assert() calls that were causing some
compilers to crash from not being able to handle the size.

In particular, this commit refactors inRANGE so that the asserts are
done only once, shortening what it expands to.

handy.h: Fix typo in comment

Remove my_l?stat from public API

They are not documented, and if you try to use them, you get a compile
error.

perlapi: Consolidate SvSET-ish entries

These should also be in the SV section instead of Magic

Evaluate arg once in all forms of SvTRUE

5.32 did this for one form; now all do.

Always define dMY_CXT_SV, and to dNOOP

Use a more suitable test method

like() provides better errors on failure thank ok().  This reduces the
usefulness of the removed printf() diagnostic.

Avoid unnecessarily skipping a test to set $0

The absence of /proc/$$/cmdline doesn't mean running ps(1) won't work.

Test setting $0 on Dragonfly BSD

Support for this began in Perl 5.26.0 with commit 38626956885060503.

utf8.h: Fix syntax error only found on EBCDIC builds

perl.h: Remove ';' from 'NOOP;'

These are useless here

time64_config.h: #include reentr.h

This is so it will get any reentrant versions automatically

perlvars.h: Fix comment

POSIX.xs: White-space only

Indent to standards

POSIX.xs: Use alternative functions if avail

These preprocessor directives failed to account for the existence of
common alternative functions (which the implementation knows about) if
the plain function is not available on the platform.

I doubt that this makes any difference, but it makes these conditionals
consistent with the others nearby.

locale.c: Fix typo in #ifdef

This misspelling led to the code assuming that the platform didn't have
a feature that, if used, would result in faster execution.

Fix and update documentation of memEQ, memNE, ...

This fixes GH #18379

time64.c: avoid 'uninit' compiler warning

clang isn't smart enough to recognise the pattern:

    if (foo) { ...} { else orig_year = ... }
    ...
    if (!foo) { ... use orig_year .. }

So just unconditionally initialise orig_year.

perldelta for the Win32 symlink()/readlink()/stat() changes

Document PERL_TEST_HARNESS_ASAP

which can increase the CPU occupancy when running the test suite in
parallel on a many-core system, resulting in earlier completion.

add note on how to write NEXTKEY when you can't just wrap around each()

Revert "op.h: Restrict to core certain internal symbols"

This reverts commit 1d6cadf136bf2c85058a5359fb48b09b3ea9fe6f.

Due to cpan breakage: GH #18374 #18375 #18376

add more win32 stat tests

These tickets were suggested as fixed by the stat updates, some
were fixed, but some weren't.

Add tests (TODO for the unfixed) to help track them

cpan/Encode: sync with CPAN version 3.08

t/harness: Add option for faster test suite execution

This commit adds an environment variable, PERL_TEST_HARNESS_ASAP, which
if set to non-zero increases the parallelism in the execution of the
test suite, speeding it up on systems with multiple cores.

Normally, there are two main test sections, one for core and the second
for non-core tests, and the testing of the non-core one doesn't begin
until the core tests are complete.  Within each section, there are a
number of test categories, like 're' for regular expressions, and
'JSON::PP' for the pure perl implementation of JSON.

Within each category, there are various single .t test files.  Some
categories can have those be tested in parallel; some require them to be
done in a particular order, say because an earlier .t does setup for
subsequent ones.  We already have this capability.

Completion of all the tests in a category is not needed before those of
another category can be started.  This is how it already works.

However, the core section categories are ordered so that they begin in a
logical order for someone trying to get perl to work.  First to start
are the basic sanity tests, then by roughly decreasing order of
widespread use in perl programs in the wild, with the final two
categories, porting and perf, being mainly of use to perl5 porters.
These two categories aren't started until all the tests in the earlier
categories are started.  We have some long running tests in those two
categories, and generally they delay the start of the entire second
section.

If those long running tests could be started sooner, shorter tests in
the first section could be run in parallel with them, increasing the
average CPU utilization, and the second section could begin (and hence
end) earlier, shortening the total elapsed execution time of the entire
suite.

The second section has some very long running tests.  JSON-PP is one of
them.  If it could run in parallel with tests from the first section,
that would also speed up the completion of the suite.

The environment variable added by this commit does both things.  The
basic sanity test categories in the first section continue to be started
before anything else.  But then all other tests are run in decreasing
order of elapsed time they take to run, removing the boundaries between
some categories, and between the two sections.

The gain from this increases as the number of jobs run in parallel does;
slower high core platforms have the highest increase.  On the old
dromedary with 24 cores, the gain is 20%, almost 2 minutes.  On my more
modern box with 12 cores, it is 8%.

TAP::Harness: Move timer initialization

This commit adds to blead the accepted PR
https://github.com/Perl-Toolchain-Gang/Test-Harness/pull/98
but the updated module has not been released.

This commit allows a many-core processor to run the Perl test suite more
efficiently.

Prior to this commit, the timers for counting elapsed time and CPU usage
were begun when a job's first output appears.  This yields inaccurate
results.  These results are saved in t/test_state for future runs so
that they can start the longest-running tests first, which leads to
using the available cores more efficiently.  (If you start a long running
test after everything else is nearly done, you have to wait for it to
finish before the suite as a whole is; if you start the long ones first,
and the shortest last, you don't have to wait very long for any
stragglers to complete.)  Inaccurate results here lead to this
situation, which we were often seeing in the podcheck.t test.

The worst case is if there is heavy computation at the beginning of the
test being run.  podcheck, for example, examines all the pods in the
directory structure to find which links to other pods do or do not have
corresponding anchors.  Output doesn't happen until the analysis is
complete.  On my system, this takes over 30 seconds, but prior to this
commit, what was noted was just the time required to do the output,
about 200 milliseconds.  The result was that podcheck was viewed as
being one of the shortest tests run, so was started late in the process,
and generally held up the completion of it.

This commit by itself doesn't improve the test completion very much,
because, test tests are run a whole directory at a time, and the
directory podcheck is in, for example, is run last.  The next commit
addresses that.

fixup! Add Sevan Janiyan as author

Add Sevan Janiyan as author

Detect GCC as compiler to use

On Illumos based distributions GCC is likely the compiler available on the system.
Change tested on SmartOS

perlxs: Note that rpc.h is can be in different places

This replaces PR #18247

fix the results of my stupidity

I added these definitions late in the process, thinking I hadn't
already added them, but I had.

Storable: t/canonical.t: avoid stderr noise

informational text should to stdout, not stderr

POSIX: t/posix.t: avoid warning

Since warnings were enabled in this test file, skip one spurious warning
being generated. S_ISBLK() is being called purely to test run-time
loading; so it's being called without an arg, which now triggers an
'uninitialized value' warning.

Unicode-Normalize/Makefile.PL: avoid stderr

During build, output general progress information to stdout, not stderr.

append colon to USE_STRICT_BY_DEFAULT description

This stops autodoc.pl complaining that:

    USE_STRICT_BY_DEFAULT has no documentation

ODBM_File.xs: silence -Wc++-compat warning

Under gcc -Wc++-compat, it warns that 'delete' is a keyword. Since this
is the name of the actual function in odbm, just temporarily disable
the warning.

Opcode.xs: fix compiler warning

In some debugging code it was doing a SAVEDESTRUCTOR()
to do a warn() on scope exit, but it should have used the nocontext
version of warn().

Implement symlink(), lstat() and readlink() on Win32

win32 symlink: reindent

win32 symlink: treats paths that look like directories as directories

Test-Harness: don't assume symlink succeeds

https://github.com/Perl-Toolchain-Gang/Test-Harness/pull/103
upstream which has been applied but not released.

t/op/taint.t: handle symlink requiring anything unavailable

like privileges, or a filesystem without symlink support

Win32: try to make the new stat pre-Vista compatible

Skips the win32\stat.t execute flag test for handles pre-Vista

This is intended mostly for allowing the Win2000 smoker to build and
test.  If we end up dropping pre-Vista support this commit can be
removed (or reverted if it ends up in blead)

pre-vista support for win32_symlink

Win32: don't include version specific config for prebuilt config_h.*

This fixes the problem where doing a regen_config_h with a compiler
that supports stdbool.h would generate a config_h.* that would
result in a build failure on older compilers that didn't support
stdbool.h.

lstat(), readlink() and unlink() treat directory junctions as symlinks

remove ${^WIN32_SLOPPY_STAT}

The new implementation, like the UCRT implementation, always
opens the specified file.

win32 symlink: only use the unprivileged flag if windows is new enough

Win32: re-work FILETIME <=> time_t conversions

Current versions of Windows claim to support leap seconds, but the
time conversion I was using ignores that possibility.

Switch to using APIs (FileTimeToSystemTime() and SystemTimeToFileTime())
that are documented to support leap seconds that might be included
in a FILETIME.

File::Copy: support symlinks on Win32

File::Find: support Win32 symlinks

find.t, taint.t: check that symlink() works under the current
permissions/filesystem rather than assuming it will work

find.t: since symlinks are now available, an earlier test block
set $FileFileTests_OK, and the tests in this Win32 block don't use
either of the follow options, which is required for fast file tests.

taint.t: ensure we get "/" separated names to match File::Find's output

File::Find find.t: switch to done_testing()

PathTools: use PerlLIO_*() functions and chdir() on a symlink differences

Use PerlLIO_lstat() and PerlLIO_readlink() instead of directly calling
the POSIX names, so our Win32 overrides work.

For the test, unlike POSIX, changing directory via a symlink on Win32
appears to store the symlink as part of the current directory rather
so GetCurrentDirectory() fetches that rather than the hardlinked path.

Win32: implement our own stat(), and hence our own utime

This fixes at least two problems:

- unlike UCRT, the MSVCRT used for gcc builds has a bug converting
  a FILETIME in an unlike current DST state, returning a time
  offset by an hour.  Fixes GH #6080

- the MSVCRT apparently uses FindFirstFile() to fetch file
  information, but this doesn't follow symlinks(), so stat()
  ends up returning information about the symlink(), not the
  underlying file.  This isn't an issue with the UCRT which
  opens the file as this implementation does.

Currently this code calculates the time_t for st_*time, and the
other way for utime() using a simple multiplication and offset
between time_t and FILETIME values, but this may be incorrect
if leap seconds are enabled.

This code also requires Vista or later.

Some of this is based on code by Tomasz Konojacki (xenu).

Win32: implement symlink() and readlink()

The API used requires Windows Vista or later.

The API itself requires either elevated privileges or a sufficiently
recent version of Windows 10 running in "Developer Mode", so some
tests require updates.

Win32: add lstat(), fetch st_dev and st_ino and fetch st_nlink for fstat

We need lstat() for various modules to work well with symlinks,
and the same modules often want to check for matches on the device
and inode number.

The values we're using for st_ino match those that the Python and Rust
libraries use, and Go uses the same volume and file index values for
testing if two stat objects refer to the same file.

They aren't entirely unique, given ReFS uses 128-bit file ids, but
the API used to check for this (GetFileInformationByHandleEx() for
FileIdInfo) is only available on server operating systems, so I can't
directly test it anyway.

Account for 'less' reserving an extra column

After decades of stability, the 'less' pager project decided to claim an
extra column for its own use when called with certain common options.

This commit changes some of the auto-generating tools to wrap one column
earlier to compensate, and changes podcheck to also whine on wide
verbatim text one column less.  But it changes the podcheck data base
to grandfather-in all the many existing places that exceed that amount.
That means only changes made to pods after this commit will be held to
the stricter value.

Of course, what this means is those pods will wrap or truncate in these
places on an 80 column window, making them harder to read, when used
with 'less' and when it is called with the options that reserve those
two columns.  Patches welcome.

I haven't seen the wrapping problem with perldoc, and haven't
investigated much.

Document various CopFILEfoo functions

opcode.h: Restrict scope of internal variables to core

Document SvSHARED_HASH

bump version of ExtUtils::ParseXS

restore compatibility with old versions of ExtUtils::ParseXS

ExtUtils::ParseXS used to include a function called "errors", which was
documented. In was renamed to report_error_count in version 3.01 (perl
5.15.1) although the documentation wasn't fixed until 3.21 (perl 5.19.2).
As a documented function, this is a backwards compatibility issue.

It is possible for this to lead to errors when installing modules from
CPAN. If you are using the version of ExtUtils::ParseXS that comes with
core, between running the Makefile.PL and make, fulfilling prereqs can
result in upgrading ExtUtils::ParseXS. When Makefile.PL is run, the
generated Makefile gets the full path to xsubpp saved in it. Then when
upgraded from CPAN, ExtUtils::ParseXS and xsubpp will be in a new
location (site_perl or a local::lib). Running make will run the old
xsubpp, but it will then try to use the new ExtUtils::ParseXS which has
broken compatibility.

Restore the errors function as a compatibility shim to fix this.

cop.h: Extend core-only portion

This encloses some #defines in a PERL_CORE section, as their only use is
in the macro immediately following, already confined to core.

INSTALL: Fix grammar/typos

perlapi: Consolidate svREFCNT_dec-ish entries

DynaLoader: use PerlEnv_getenv()

Doing so invokes thread-safe guards

op.h: Restrict to core certain internal symbols

so that they aren't accessible to XS code and won't be picked up by
autodoc

perlapi: Consolidate SvPVX-ish entries

Add -negative import args for 'use warnings'

perlapi: Consolidate SvREFCNT_INC-ish entries

add extra language in the quotemeta() docs for embedded \ and $

One paragraph was lifted from perlop.pod, and the other from perlre.pod.

perlvar - clarify that paragraph mode also discards a single leading newline

Avoid deadlock with PERL_MEM_LOG

This fixes GH #18341

The Perl wrapper for getenv() was changed in 5.32 to allocate memory to
squirrel safely away the result of the wrapped getenv() call.  It does
this while in a critical section so as to make sure another thread can't
interrupt it and destroy it.

Unfortunately, when Perl is compiled for debugging memory problems and
has PERL_MEM_LOG enabled, that allocation causes a recursive call to
getenv() for the purpose of checking an environment variable to see how
to log that allocation.  And hence it deadlocks trying to enter the
critical section.

There are various solutions.  One is to use or emulate a general semaphore
instead of a binary one.  This is effectively what
PL_lc_numeric_mutex_depth does for another mutex, and the code for that
could be used as a template.

But given that this is an extreme edge case which requires Perl to be
specially compiled to enable this feature which is used only for
debugging, a much simpler, if less safe if it were to ever be used in
production, solution should suffice.  Tony Cook suggested just avoiding
the wrapper for this particular purpose.

Add mutex locking for many-reader/1-writer

The mutex macros already in perl are sufficient to allow us to emulate
this type of locking, which may also be available natively, but I don't
think it is worth the effort to use the native calls.

locale.c: Move comment to better place

perlsub - indicate version requirement for "delete local"

perlapi: PL_sv_yes and kin are read-only

perlapi: Remove per-thread section; move to real scns

Instead of having a grab bag section of all interpreter variables, move
their documentation to the section that they actually fit under.

perlapi: Move PL_dowarn to Warnings section

perldelta updates for the SysV IPC changes

Various updates and fixes to some of the SysV IPC ops and their tests

io/shm.t: make runnable as ./perl io/shm.t

and give editors a hint

shmwrite: treat the string as bytes

msgrcv: properly downgrade the receive buffer

If the receive buffer started with SVf_UTF8 on, the received message
SV would stay flagged, corrupting the result.

msgsnd: handle an upgraded MSG parameter correctly

perlfunc/msgsnd: the supplied MSG doesn't have a length field

The length of the message is derived from the length of the MSG
less the size of the type field.

fix UTF-8 handling for semop()

As with semctl(), the UTF-8 flag on the passed in opstring was ignored,
which meant that the upgraded version of the same string would
cause an error.

Just use SvPVbyte().

io/sem.t: eliminate warnings

This eliminates some warnings that semctl() (or other *ctl()) calls
might generate, and some warnings specific to io/sem.t:

- for IPC_STAT and GETALL, the current value of ARG is overwritten
  so making an undefined value warning for it nonsensical, so don't
  use SvPV_force().

- for other calls, ARG is either ignored, or in a behaviour
  introduced in perl 3 (along with the ops), treats the supplied
  value as an integer which is then converted to a pointer.  Rather
  than warning on an undef value which is most likely to be ignored
  we treat the undef as zero without the usual warning.

- always pass a number for SEMNUM in the test code

I didn't try to eliminate warning for non-numeric/undefined SEMNUM,
since while we know it isn't used by SETALL, GETALL, IPC_STAT and
IPC_SET, it may or may not be used by system defined *ctl() operators
such as SEM_INFO and SHM_LOCK on Linux.

fixes #17926

*ctl: test that we throw on a code point above 0xff

These functions expect a packed structure of some point
representing bytes from the structure in memory.