Switch ordering of two matches
[buildd-scripts.git] / bin / analyze_results
index e2db20e..60aba86 100755 (executable)
@@ -21,22 +21,25 @@ my $time_start = time();
 my $time_end;
 my $time_taken;
 my $num_fail = 0;
+my $awaiting_analysis = 0;
 my $lines_read = 0;
 my $existing_bugs = 0;
 
 use constant {
     ERR_ARCH_MISMATCH      => 1,
-    ERR_INFRA              => 2,
-    ERR_BD_PROBLEM         => 3,
-    ERR_DETECT_WRONG_ARCH  => 4,
-    ERR_CRASH              => 5,
-    ERR_BUILD_PROBLEM      => 6,
-    ERR_TEST_PROBLEM       => 7,
-    ERR_BUILD_TIMEOUT      => 8,
+    ERR_NO_SOURCE          => 2,
+    ERR_INFRA              => 3,
+    ERR_BD_PROBLEM         => 4,
+    ERR_DETECT_WRONG_ARCH  => 5,
+    ERR_CRASH              => 6,
+    ERR_BUILD_PROBLEM      => 7,
+    ERR_TEST_PROBLEM       => 8,
+    ERR_BUILD_TIMEOUT      => 9,
 };
 
 my @err_descriptions;
 $err_descriptions [ERR_ARCH_MISMATCH]     = "Architecture mismatches";
+$err_descriptions [ERR_NO_SOURCE]         = "No source found";
 $err_descriptions [ERR_INFRA]             = "Infrastructure errors";
 $err_descriptions [ERR_BD_PROBLEM]        = "Problems with build-deps";
 $err_descriptions [ERR_DETECT_WRONG_ARCH] = "Builds detected wrong architecture";
@@ -54,6 +57,7 @@ my @logcheck = (
        message  => 'Architecture mismatch',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_ARCH_MISMATCH,
     },
     {
@@ -61,6 +65,7 @@ my @logcheck = (
        message  => 'Architecture mismatch',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_ARCH_MISMATCH,
     },
     {
@@ -71,13 +76,23 @@ my @logcheck = (
        message  => 'No binaries built',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_ARCH_MISMATCH,
     },
     {
+       string   => 'E: Can not find version \S+ of package',
+       message  => 'Could not find specified source package',
+       check    => 1,
+       stop     => 1,
+       analyze  => 0,
+       type     => ERR_NO_SOURCE,
+    },
+    {
        string   => 'schroot.*File is not owned by user root',
        message  => 'Schroot setup failure',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_INFRA,
     },
     {
@@ -85,6 +100,7 @@ my @logcheck = (
        message  => 'Build ran out of disk space',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_INFRA,
     },
     {
@@ -92,6 +108,7 @@ my @logcheck = (
        message  => 'Build ran out of ptys',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_INFRA,
     },
     {
@@ -99,6 +116,7 @@ my @logcheck = (
        message  => 'Wrong arch detected',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_DETECT_WRONG_ARCH,
     },
     {
@@ -106,6 +124,7 @@ my @logcheck = (
        message  => 'Wrong arch detected',
        check    => 0,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_DETECT_WRONG_ARCH,
     },
     {
@@ -113,6 +132,7 @@ my @logcheck = (
        message  => 'Wrong arch detected',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_DETECT_WRONG_ARCH,
     },
     {
@@ -121,6 +141,7 @@ my @logcheck = (
        message  => 'Alignment problem',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_CRASH,
     },
     {
@@ -130,6 +151,7 @@ my @logcheck = (
        message  => 'Segmentation fault when installing RESULT',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_CRASH,
     },
     {
@@ -138,6 +160,7 @@ my @logcheck = (
        message  => 'Segmentation fault',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_CRASH,
     },
     {
@@ -147,6 +170,7 @@ my @logcheck = (
        message  => 'Illegal instruction when installing RESULT',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_CRASH,
     },
     {
@@ -155,6 +179,7 @@ my @logcheck = (
        message  => 'Illegal instruction',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_CRASH,
     },
     {
@@ -163,6 +188,7 @@ my @logcheck = (
        message  => 'Build-dep failed to install (RESULT)',
        check    => 1,
        stop     => 0,
+       analyze  => 0,
        type     => ERR_BD_PROBLEM,
     },
     {
@@ -171,6 +197,7 @@ my @logcheck = (
        message  => 'Pbuilder build-deps failed',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_BD_PROBLEM,
     },
     {
@@ -179,6 +206,7 @@ my @logcheck = (
        message  => 'Build-deps failed',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_BD_PROBLEM,
     },
     {
@@ -187,6 +215,16 @@ my @logcheck = (
        message  => 'Missing build-dep (RESULT)',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
+       type     => ERR_BD_PROBLEM,
+    },
+    {
+       # Installing build-deps failed
+       string   => 'unsat-conflict: (\S+)',
+       message  => 'Unsatisfiable build-dep conflict (RESULT)',
+       check    => 1,
+       stop     => 1,
+       analyze  => 0,
        type     => ERR_BD_PROBLEM,
     },
     {
@@ -195,6 +233,7 @@ my @logcheck = (
        message  => 'Build-deps not satisfiable',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_BD_PROBLEM,
     },
     {
@@ -203,6 +242,7 @@ my @logcheck = (
        message  => 'dpkg-source failure',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -211,6 +251,7 @@ my @logcheck = (
        message  => 'Build failure: missing library - missing build-dep?',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -219,6 +260,7 @@ my @logcheck = (
        message  => 'Build failure: missing header - missing build-dep?',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -227,6 +269,7 @@ my @logcheck = (
        message  => 'Build failure - missing build-dep?',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -235,6 +278,7 @@ my @logcheck = (
        message  => 'Build failure (missing binary)',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -243,22 +287,25 @@ my @logcheck = (
        message  => 'Build failure (java/javadoc)',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_BUILD_PROBLEM,
     },
     {
        # Build failed
-       string   => 'make.*returned exit code',
+       string   => '^make.*\*\*\*.* \[debian/rules.*Error \d+$',
        message  => 'Build failure (other)',
        check    => 1,
-       stop     => 0,
+       stop     => 1,
+       analyze  => 1,
        type     => ERR_BUILD_PROBLEM,
     },
     {
        # Build failed
-       string   => '^make.*\*\*\*.* \[debian/rules.*Error \d+$',
+       string   => 'make.*returned exit code',
        message  => 'Build failure (other)',
        check    => 1,
-       stop     => 1,
+       stop     => 0,
+       analyze  => 1,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -267,6 +314,7 @@ my @logcheck = (
        message  => 'Build failure (other)',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -275,6 +323,7 @@ my @logcheck = (
        message  => 'Build failure (clean failed)',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -283,6 +332,7 @@ my @logcheck = (
        message  => 'Build failure (install failed)',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -291,6 +341,7 @@ my @logcheck = (
        message  => 'Build failure (configure failed)',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -299,6 +350,25 @@ my @logcheck = (
        message  => 'Build failure (RESULT)',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
+       type     => ERR_BUILD_PROBLEM,
+    },
+    {
+       # Build failed
+       string   => '^debian/.*\*\*\* (.*).  Stop.',
+       message  => 'Build error (RESULT)',
+       check    => 1,
+       stop     => 1,
+       analyze  => 1,
+       type     => ERR_BUILD_PROBLEM,
+    },
+    {
+       # Build failed
+       string   => 'dpkg-buildpackage: error:.*(debian/rules \S+) subprocess returned exit status 2',
+       message  => 'Build error (RESULT)',
+       check    => 1,
+       stop     => 1,
+       analyze  => 1,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -307,6 +377,7 @@ my @logcheck = (
        message  => 'Build failure (other)',
        check    => 0,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_BUILD_PROBLEM,
     },
     {
@@ -315,6 +386,7 @@ my @logcheck = (
        message  => 'Python EPERM test failure',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_TEST_PROBLEM,
     },
     {
@@ -323,6 +395,7 @@ my @logcheck = (
        message  => 'Test failure',
        check    => 1,
        stop     => 1,
+       analyze  => 1,
        type     => ERR_TEST_PROBLEM,
     },
     {
@@ -331,6 +404,7 @@ my @logcheck = (
        message  => 'Pbuilder build timeout',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_BUILD_TIMEOUT,
     },
     {
@@ -339,6 +413,7 @@ my @logcheck = (
        message  => 'Sbuild build timeout',
        check    => 1,
        stop     => 1,
+       analyze  => 0,
        type     => ERR_BUILD_TIMEOUT,
     },
 );
@@ -369,6 +444,7 @@ foreach my $input (@ARGV) {
     my $stop = 0;
     my $lineno = 0;
     my $errors = 0;
+    my $errors_need_analysis = 0;
     my $oldline = "";
     my %file_results;
     print "<li>Looking at <a href=\"$input\">$input</a>:\n";
@@ -394,6 +470,9 @@ foreach my $input (@ARGV) {
                        print "  <li>Line $lineno: $message\n";
                        $errors++;
                    }
+                   if ($check{analyze}) {
+                       $errors_need_analysis++;
+                   }
                    if ($check{stop}) {
 #                      print "  stopping processing\n";
                        $stop = 1;
@@ -425,6 +504,10 @@ foreach my $input (@ARGV) {
            print "  <li>$line\n";
        }
        close IN;
+    } else {
+       if ($errors_need_analysis) {
+           print "  <li><strong>Needs analysis</strong>\n";
+       }
     }
 
     print "</ul>\n";
@@ -432,13 +515,17 @@ foreach my $input (@ARGV) {
        $log_results{$file_results{$key}}{$key} += 1;
 #      print "now have $log_results{$key} for \"$key\"\n";
     }
+    if ($errors_need_analysis) {
+       $awaiting_analysis++;
+    }
 }
 print "</ol>\n";
 
 print "<a name=\"summary\"</a>\n";
 print "<h2>Summary of results from $num_fail failed builds:</h2>\n";
+print "<p>$awaiting_analysis logs still need analysis</p>\n";
 print "<ul>\n";
-print "<li>  Found $existing_bugs existing bugs in the Debian BTS</li>\n";
+print "  <li>Found $existing_bugs existing bugs in the Debian BTS</li>\n";
 foreach my $type (sort keys %log_results) {
     print "  <h3>$err_descriptions[$type]</h3>\n";
     my $tmp = $log_results{$type};
@@ -453,6 +540,7 @@ $time_end = time();
 $time_taken = $time_end - $time_start;
 $date = strftime "%a %b %e %H:%M:%S %Z %Y", localtime;
 $hostname = `hostname`;
+chomp $hostname;
 
 print "<hr>\n";
 print "<p>Log analysis generated on $hostname, $date.\n";