This is a live mirror of the Perl 5 development currently hosted at https://github.com/perl/perl5
amigaos4: implement flock() emulation
[perl5.git] / t / TEST
diff --git a/t/TEST b/t/TEST
index f29d9e9..b27ab02 100755 (executable)
--- a/t/TEST
+++ b/t/TEST
@@ -1,4 +1,4 @@
-#!./perl -w
+#!./perl
 
 # This is written in a peculiar style, since we're trying to avoid
 # most of the constructs we'll be testing for.  (This comment is
@@ -14,6 +14,9 @@
 # In which case, we need to stop t/TEST actually running tests, as all
 # t/harness needs are its subroutines.
 
+# Measure the elapsed wallclock time.
+my $t0 = time();
+
 # If we're doing deparse tests, ignore failures for these
 my $deparse_failures;
 
@@ -38,7 +41,6 @@ my %abs = (
           '../cpan/CPAN' => 1,
           '../cpan/Devel-PPPort' => 1,
           '../cpan/Encode' => 1,
-          '../cpan/ExtUtils-Command' => 1,
           '../cpan/ExtUtils-Constant' => 1,
           '../cpan/ExtUtils-Install' => 1,
           '../cpan/ExtUtils-MakeMaker' => 1,
@@ -107,41 +109,32 @@ my %skip = (
            '.svn' => 1,
           );
 
+
+if ($::do_nothing) {
+    return 1;
+}
+
 $| = 1;
 
 # for testing TEST only
 #BEGIN { require '../lib/strict.pm'; "strict"->import() };
 #BEGIN { require '../lib/warnings.pm'; "warnings"->import() };
 
-# allow setting -options from env
-unshift @ARGV, split /;/, $ENV{TEST_OPTS} if $ENV{TEST_OPTS};
-
 # remove empty elements due to insertion of empty symbols via "''p1'" syntax
 @ARGV = grep($_,@ARGV) if $^O eq 'VMS';
-our $show_elapsed_time = $ENV{HARNESS_TIMER} || 0;
 
-{   # create timestamp for any reports written, so theyre corelatable
-    my @dt = localtime;
-    $dt[5] += 1900; $dt[4] += 1; # fix year, month
-    $::tstamp = sprintf("%d-%.2d%.2d-%.2d%.2d-%.2d-$$", @dt[5,4,3,2,1,0]);
-}
+# String eval to avoid loading File::Glob on non-miniperl.
+# (Windows only uses this script for miniperl.)
+@ARGV = eval 'map glob, @ARGV' if $^O eq 'MSWin32';
 
-# wrapper template for linux perf
-our %cmdwrap = (
-    tool       => "perf",      # path
-    cmd                => "stat",      # others possible, none tried
-    rptdir     => $ENV{PWD},   # typically ./t, better if absolute
-    name       => "",          # $::tstamp prefixed implicitly
-    # reps     => 1            # 
-    opts       => "",          # pass-thru to perf stat: 'opts=-x,' gives CSV
-    );
+our $show_elapsed_time = $ENV{HARNESS_TIMER} || 0;
 
 # Cheesy version of Getopt::Std.  We can't replace it with that, because we
 # can't rely on require working.
 {
     my @argv = ();
     foreach my $idx (0..$#ARGV) {
-       push( @argv, $ARGV[$idx] ), next unless $ARGV[$idx] =~ /^-(\S+?)(?:=(.+))?$/;
+       push( @argv, $ARGV[$idx] ), next unless $ARGV[$idx] =~ /^-(\S+)$/;
        $::benchmark = 1 if $1 eq 'benchmark';
        $::core    = 1 if $1 eq 'core';
        $::verbose = 1 if $1 eq 'v';
@@ -154,24 +147,10 @@ our %cmdwrap = (
            $::deparse_opts = $1;
             _process_deparse_config();
        }
-       if ($1 eq 'lxperf') {
-           die "perf only available on linux" unless $^O eq 'linux';
-           $::perf = 1;
-           next unless $2;
-           # $2 is either Reps or : delimited $k=$v pairs
-           my (@v) = split /:/, $2;
-           $cmdwrap{reps} = $v[0] if @v == 1 and $v[0] =~ /^\d+$/;
-           # parse as $k=$v to override %cmdwrap defaults
-           m/(.+?)=(.+)/ and $cmdwrap{$1} = $2 for @v;
-       }
     }
     @ARGV = @argv;
 }
 
-if ($::do_nothing || $::do_nothing) { # set by harness b4 requiring us
-    return 1;
-}
-
 chdir 't' if -f 't/TEST';
 if (-f 'TEST' && -f 'harness' && -d '../lib') {
     @INC = '../lib';
@@ -191,8 +170,7 @@ if ($show_elapsed_time) { require Time::HiRes }
 my %timings = (); # testname => [@et] pairs if $show_elapsed_time.
 
 # Roll your own File::Find!
-our @found;
-sub _find_tests { @found = (); push @ARGV, _find_files('\.t$', $_[0]) }
+sub _find_tests { our @found=(); push @ARGV, _find_files('\.t$', $_[0]) }
 sub _find_files {
     my($patt, @dirs) = @_;
     for my $dir (@dirs) {
@@ -246,7 +224,7 @@ sub _scan_test {
 
     close $script;
 
-    my $perl = './perl';
+    my $perl = $^O eq 'MSWin32' ? '.\perl' : './perl';
     my $lib  = '../lib';
     my $run_dir;
     my $return_dir;
@@ -331,14 +309,6 @@ sub _cmd {
            }
             $perl = "$valgrind_exe $vg_opts $perl";
         }
-       if ($::perf) {
-           my $ofile = "$cmdwrap{rptdir}/$::tstamp$cmdwrap{name}.perf";
-           my $wrapper = "$cmdwrap{tool} $cmdwrap{cmd} "
-               . ( defined $cmdwrap{reps} && $cmdwrap{reps} > 0
-                   ? "--repeat $cmdwrap{reps}" : "" )
-               . " --append -o $ofile $cmdwrap{opts} -- ";
-           $perl = "$wrapper $perl";
-       }
 
         my $args = "$options->{testswitch} $options->{switch} $options->{utf8}";
         $cmd = $perl . _quote_args($args) . " $test $redir";
@@ -438,6 +408,11 @@ sub _tests_from_manifest {
            if (m!^((?:cpan|dist|ext)/(\S+)/+(?:[^/\s]+\.t|test\.pl)|lib/\S+?(?:\.t|test\.pl))\s!) {
                my $t = $1;
                my $extension = $2;
+
+               # XXX Generates way too many error lines currently.  Skip for
+               # v5.22
+               next if $t =~ /^cpan/ && ord("A") != 65;
+
                if (!$::core || $t =~ m!^lib/[a-z]!) {
                    if (defined $extension) {
                        $extension =~ s!/t(:?/\S+)*$!!;
@@ -567,8 +542,8 @@ EOT
     my $grind_ct = 0;          # count of non-empty valgrind reports
     my $total_files = @tests;
     my $good_files = 0;
-    my $tested_files = 0;
-    my $totmax = 0;            # += $plan after <$results> consumed. includes --repeats
+    my $tested_files  = 0;
+    my $totmax = 0;
     my %failed_tests;
     my $toolnm;                # valgrind, cachegrind, perf
 
@@ -603,11 +578,12 @@ EOT
 
        my $results = _run_test($test, $type);
 
-       my $failure = "";
-       my $plan = undef;       # the N in "1..N"
-       my $next = 0;           # ++ after each "ok M", reset on "1..N"
-       my $nextreps = 0;       # ++ after each "ok M"
-       my $Reps = 0;           # ++ when "1..N" seen
+       my $failure;
+       my $next = 0;
+       my $seen_leader = 0;
+       my $seen_ok = 0;
+       my $trailing_leader = 0;
+       my $max;
        my %todo;
        while (<$results>) {
            next if /^\s*$/; # skip blank lines
@@ -623,45 +599,47 @@ EOT
                print $_;
            }
            unless (/^\#/) {
+               if ($trailing_leader) {
+                   # shouldn't be anything following a postfix 1..n
+                   $failure = 'FAILED--extra output after trailing 1..n';
+                   last;
+               }
                if (/^1\.\.([0-9]+)( todo ([\d ]+))?/) {
-
-                   # a "1..N" plan, maybe todos also
-                   if (!$plan) {
-                       $plan = $1;
-                   } else {
-                       # allow another plan agreeing on N
-                       if ($1 != $plan) {
-                           $failure = "latest plan disagrees: $1 != $plan\n";
+                   if ($seen_leader) {
+                       $failure = 'FAILED--seen duplicate leader';
+                       last;
+                   }
+                   $max = $1;
+                   %todo = map { $_ => 1 } split / /, $3 if $3;
+                   $totmax = $totmax + $max;
+                   $tested_files = $tested_files + 1;
+                   if ($seen_ok) {
+                       # 1..n appears at end of file
+                       $trailing_leader = 1;
+                       if ($next != $max) {
+                           $failure = "FAILED--expected $max tests, saw $next";
                            last;
                        }
                    }
-                   unless ($next == 0 or $next == $plan) {
-                       $failure = "plan seen in middle of tests: $next\n";
-                       last;
+                   else {
+                       $next = 0;
                    }
-                   $Reps = $Reps + 1;
-                   $next = 0;          # reset for next "1..N" plan check
-
-                   $totmax = $totmax + $plan;
-                   $tested_files = $tested_files + 1;
-
-                   # if $Reps>1, this work is redone $Reps-1 times, trivial extra.
-                   # assume todos match, since plans do.
-                   %todo = map { $_ => 1 } split / /, $3 if $3;
-                   next;
+                   $seen_leader = 1;
                }
                else {
-                   if (/^(not )?ok(?:\s+(\d+))?[^\#]*(\s*\#.*)?/) {
+                   if (/^(not )?ok(?: (\d+))?[^\#]*(\s*\#.*)?/) {
+                       unless ($seen_leader) {
+                           unless ($seen_ok) {
+                               $next = 0;
+                           }
+                       }
+                       $seen_ok = 1;
                        $next = $next + 1;
-                       $nextreps = $nextreps + 1;
-                       my ($not, $num, $extra, $istodo) = ($1, $2, $3, 0);
+                       my($not, $num, $extra, $istodo) = ($1, $2, $3, 0);
+                       $num = $next unless $num;
+
+                       if ($num == $next) {
 
-                       $num = $next unless $num;       # tolerate un-numbered
-                       if ($num != $next) {
-                           $failure ="FAILED--expected test $next, saw test $num";
-                           last;
-                       }
-                       else {
                            # SKIP is essentially the same as TODO for t/TEST
                            # this still conforms to TAP:
                            # http://testanything.org/wiki/index.php/TAP_specification
@@ -673,6 +651,10 @@ EOT
                                last;
                            }
                        }
+                       else {
+                           $failure ="FAILED--expected test $next, saw test $num";
+                           last;
+                       }
                    }
                    elsif (/^Bail out!\s*(.*)/i) { # magic words
                        die "FAILED--Further testing stopped" . ($1 ? ": $1\n" : ".\n");
@@ -687,10 +669,13 @@ EOT
                }
            }
        }
+       my  @junk = <$results>;  # dump remaining output to prevent SIGPIPE
+                                # (so far happens only on os390)
        close $results;
+       undef @junk;
 
-       if (not $failure) {
-           $failure = "FAILED--no plan found next:$next" unless defined $plan;
+       if (not defined $failure) {
+           $failure = 'FAILED--no leader found' unless $seen_leader;
        }
 
        _check_valgrind(\$toolnm, \$grind_ct, \$test);
@@ -698,11 +683,13 @@ EOT
        if ($type eq 'deparse' && !$ENV{KEEP_DEPARSE_FILES}) {
            unlink "./$test.dp";
        }
-       if (not $failure and $nextreps != $Reps * $plan) {
-           $failure="FAILED--expected $Reps * $plan tests, saw $nextreps";
+       if (not defined $failure and $next != $max) {
+           $failure="FAILED--expected $max tests, saw $next";
        }
 
-       if (not $failure and $? ) {     # don't mask a test failure
+       if( !defined $failure  # don't mask a test failure
+           and $? )
+       {
            $failure = "FAILED--non-zero wait status: $?";
        }
 
@@ -719,7 +706,7 @@ EOT
            }
        }
 
-       if ($failure) {
+       if (defined $failure) {
            print "${te}$failure\n";
            $::bad_files = $::bad_files + 1;
            if ($test =~ /^base/ && ! defined &DynaLoader::boot_DynaLoader) {
@@ -731,7 +718,7 @@ EOT
            $failed_tests{$test} = 1;
        }
        else {
-           if ($plan) {
+           if ($max) {
                my ($elapsed, $etms) = ("", 0);
                if ( $show_elapsed_time ) {
                    $etms = (Time::HiRes::time() - $test_start_time) * 1000;
@@ -761,8 +748,6 @@ EOT
        }
        else {
            die "FAILED--no tests were run for some reason.\n";
-           # forex: ./perl TEST run/dtrace.t
-           # 1..0 # Skip no dtrace
        }
     }
     else {
@@ -808,19 +793,22 @@ SHRDLU_5
            }
        }
     }
+    printf "Elapsed: %d sec\n", time() - $t0;
     my ($user,$sys,$cuser,$csys) = times;
     my $tot = sprintf("u=%.2f  s=%.2f  cu=%.2f  cs=%.2f  scripts=%d  tests=%d",
                      $user,$sys,$cuser,$csys,$tested_files,$totmax);
     print "$tot\n";
     if ($good_files) {
        if (-d $show_elapsed_time) {
-           # HARNESS_TIMER = <a-directory>.  Save a storable file of
-           # timings data into the dir.  NB: the test cds to ./t/, so
-           # relative path must account for that, or better, just
-           # give an abs-path.
+           # HARNESS_TIMER = <a-directory>.  Save timings etc to
+           # storable file there.  NB: the test cds to ./t/, so
+           # relative path must account for that, ie ../../perf
+           # points to dir next to source tree.
            require Storable;
-           my $fn = "$show_elapsed_time/$::tstamp.ttimes";
-           Storable::store({ times => \%timings,
+           my @dt = localtime;
+           $dt[5] += 1900; $dt[4] += 1; # fix year, month
+           my $fn = "$show_elapsed_time/".join('-', @dt[5,4,3,2,1]).".ttimes";
+           Storable::store({ perf => \%timings,
                              gather_conf_platform_info(),
                              total => $tot,
                            }, $fn);
@@ -859,7 +847,7 @@ sub gather_conf_platform_info {
                     load => [ grep chomp, `uptime` ],
        },
        host => (grep chomp, `hostname -f`),
-       version => '0.031', # bump for conf, platform, or data collection changes
+       version => '0.03', # bump for conf, platform, or data collection changes
        );
 }