Match java errors reported by gradle
[buildd-scripts.git] / bin / analyze_results
1 #! /usr/bin/perl
2
3 # Script to analyze failed build logs. Look for specific regexps to
4 # classify things
5
6 use strict;
7 use warnings;
8
9 my $logs = "/home/build/logs";
10 my $logs_fail = "$logs/FAIL";
11 my $num_fail = 0;
12 my $existing_bugs = 0;
13
14 # Known failure modes to look for
15 my @logcheck = (
16     {
17         # Couldn't install build-deps
18         string   => '^Unable to resolve dependencies',
19         pstring  => '.*',
20         message  => 'build-deps failed',
21         check    => 1,
22         stop     => 1,
23         timeout  => 0, # This is a real error, not a build timeout
24     },
25     {
26         # "rchitecture mismatch" -> should never build on this arch
27         # Stop working on this log at this point
28         string   => 'rchitecture mismatch',
29         pstring  => '.*',
30         message  => 'architecture mismatch',
31         check    => 1,
32         stop     => 1,
33         timeout  => 0, # This is a real error, not a build timeout
34     },
35     {
36         string   => 'not in arch list or does not match any',
37         pstring  => '.*',
38         message  => 'architecture mismatch',
39         check    => 1,
40         stop     => 1,
41         timeout  => 0, # This is a real error, not a build timeout
42     },
43     {
44         string   => 'No space left on device',
45         pstring  => '.*',
46         message  => 'ran out of disk space',
47         check    => 1,
48         stop     => 1,
49         timeout  => 0, # This is a real error, not a build timeout
50     },
51     {
52         # "binary build with no binary artifacts found" -> no packages
53         # built. Why not picked up already above?.
54         # Stop working on this log at this point
55         string   => 'binary build with no binary artifacts found',
56         pstring  => '.*',
57         message  => 'no binaries built',
58         check    => 1,
59         stop     => 1,
60         timeout  => 0, # This is a real error, not a build timeout
61     },
62     {
63         # "Bus error" -> alignment bug
64         string   => 'Bus error',
65         pstring  => '.*',
66         message  => 'alignment problem',
67         check    => 1,
68         stop     => 1,
69         timeout  => 0, # This is a real error, not a build timeout
70     },
71     {
72         # "Segmentation fault" -> code problem
73         string   => 'Segmentation fault',
74         pstring  => 'Setting up libglib2.0-cil',
75         message  => 'Segmentation fault (mono)',
76         check    => 1,
77         stop     => 1,
78         timeout  => 0, # This is a real error, not a build timeout
79     },
80     {
81         # "Segmentation fault" -> code problem
82         string   => 'Segmentation fault',
83         pstring  => '.*',
84         message  => 'Segmentation fault',
85         check    => 1,
86         stop     => 1,
87         timeout  => 0, # This is a real error, not a build timeout
88     },
89     {
90         # "Illegal instruction" -> bad build target?
91         string   => 'Illegal instruction',
92         pstring  => 'Setting up ghc',
93         message  => 'Illegal instruction (ghc)',
94         check    => 1,
95         stop     => 1,
96         timeout  => 0, # This is a real error, not a build timeout
97     },
98     {
99         # "Illegal instruction" -> bad build target?
100         string   => 'Illegal instruction',
101         pstring  => '.*',
102         message  => 'Illegal instruction',
103         check    => 1,
104         stop     => 1,
105         timeout  => 0, # This is a real error, not a build timeout
106     },
107     {
108         # Installing build-deps failed
109         string   => 'dpkg: error processing package',
110         pstring  => '.*',
111         message  => 'build-deps failed',
112         check    => 1,
113         stop     => 1,
114         timeout  => 0, # This is a real error, not a build timeout
115     },
116     {
117         # Installing build-deps failed
118         string   => 'E: Unmet dependencies',
119         pstring  => '.*',
120         message  => 'build-deps failed',
121         check    => 1,
122         stop     => 1,
123         timeout  => 0, # This is a real error, not a build timeout
124     },
125     {
126         # Installing build-deps failed
127         string   => 'unsat-dependency:',
128         pstring  => '.*',
129         message  => 'build-deps failed',
130         check    => 1,
131         stop     => 1,
132         timeout  => 0, # This is a real error, not a build timeout
133     },
134     {
135         # Build failed - missing build-dep?
136         string   => 'build dependencies/conflicts unsatisfied',
137         pstring  => '.*',
138         message  => 'build-deps not satisfiable',
139         check    => 1,
140         stop     => 1,
141         timeout  => 0, # This is a real error, not a build timeout
142     },
143     {
144         # Build failed - missing build-dep?
145         string   => 'ld: cannot find',
146         pstring  => '.*',
147         message  => 'build failure: missing library - missing build-dep?',
148         check    => 1,
149         stop     => 1,
150         timeout  => 0, # This is a real error, not a build timeout
151     },
152     {
153         # Build failed - missing build-dep?
154         string   => 'fatal error:.*No such file or directory',
155         pstring  => '.*',
156         message  => 'build failure: missing header - missing build-dep?',
157         check    => 1,
158         stop     => 1,
159         timeout  => 0, # This is a real error, not a build timeout
160     },
161     {
162         # Build failed - missing build-dep?
163         string   => 'SEVERE: Cannot resolve dependencies',
164         pstring  => '.*',
165         message  => 'build failure - missing build-dep?',
166         check    => 1,
167         stop     => 1,
168         timeout  => 0, # This is a real error, not a build timeout
169     },
170     {
171         # Build failed - can't exec something...
172         string   => 'error trying to exec.*execvp: No',
173         pstring  => '.*',
174         message  => 'build failure (missing binary)',
175         check    => 1,
176         stop     => 1,
177         timeout  => 0, # This is a real error, not a build timeout
178     },
179     {
180         # Build failed
181         string   => 'BUILD FAILED',
182         pstring  => '.*',
183         message  => 'build failure (java/javadoc))',
184         check    => 1,
185         stop     => 1,
186         timeout  => 0, # This is a real error, not a build timeout
187     },
188     {
189         # Build failed
190         string   => 'make.*returned exit code',
191         pstring  => '.*',
192         message  => 'build failure (other)',
193         check    => 1,
194         stop     => 0,
195         timeout  => 0, # This is a real error, not a build timeout
196     },
197     {
198         # Build failed
199         string   => '^make.*\*\*\*.* \[debian/rules.*Error \d+$',
200         pstring  => '.*',
201         message  => 'build failure (other)',
202         check    => 1,
203         stop     => 0,
204         timeout  => 0, # This is a real error, not a build timeout
205     },
206     {
207         # Build failed
208         string   => 'dpkg-source: error: unrepresentable changes to source',
209         pstring  => '.*',
210         message  => 'dpkg-source failure',
211         check    => 1,
212         stop     => 1,
213         timeout  => 0, # This is a real error, not a build timeout
214     },
215     {
216         # Build failed
217         string   => 'fakeroot debian/rules binary',
218         pstring  => '.*',
219         message  => 'build failure (other)',
220         check    => 0,
221         stop     => 1,
222     },
223     {
224         # Test failure
225         string   => 'dh_auto_test:.*returned exit code \d+
226 ',
227         pstring  => '.*',
228         message  => 'test failure',
229         check    => 1,
230         stop     => 1,
231     },
232     {
233         # Timeout. pbuilder is too dumb to do this properly :-(
234         string   => 'I: Terminating build process due to timeout',
235         pstring  => '.*',
236         message  => 'build timeout',
237         check    => 1,
238         stop     => 1,
239         timeout  => 1, # This is a build timeout. If this happened
240                        # before other errors, then we should retry
241     },
242     {
243         # Timeout from sbuild
244         string   => 'Build killed with signal TERM after \d+ minutes of inactivity',
245         pstring  => '.*',
246         message  => 'build timeout',
247         check    => 1,
248         stop     => 1,
249         timeout  => 1, # This is a build timeout. If this happened
250                        # before other errors, then we should retry
251     },
252 );
253
254 my %log_results;
255
256 #foreach my $checktmp (@logcheck) {
257 #    my %check = %$checktmp;
258 #    print "looking for \"$check{string}\"\n";
259 #    print "  with log message \"$check{message}\"\n";
260 #    print "  check this regexp: $check{check}\n";
261 #    print "  stop if found: $check{stop}\n";
262 #}
263
264 print "<html>\n";
265 print "<head>\n";
266 print "<title>Build log analysis</title>\n";
267 print "</head>\n";
268 print "<body>\n";
269 print "<h1>Build log analysis</h1>\n";
270 print "<h2>Packages</h2>\n";
271 print "<ol>\n";
272
273 foreach my $input (@ARGV) {
274     open (IN, "< $input") or die "Can't read $input: $!\n";
275     $num_fail++;
276     my $stop = 0;
277     my $lineno = 0;
278     my $errors = 0;
279     my $oldline = "";
280     my %file_results;
281     print "<li>Looking at <a href=\"$input\">$input</a>:\n";
282     print "<ul>\n";
283     while (defined (my $line = <IN>) and !$stop) {
284         $lineno++;
285         foreach my $checktmp (@logcheck) {
286             my %check = %$checktmp;
287             if ($check{check}) {
288                 if (!$stop
289                     and $line =~ m/$check{string}/
290                     and $oldline =~ m/$check{pstring}/) {
291 #                   print "  Line $lineno: found \"$check{string}\"\n";
292                     $file_results{$check{message}} = 1;
293                     if ($check{timeout} and $errors == 0) {
294                         print "  <li>Build killed by timeout before any errors at line $lineno\n";
295                     } else {
296                         print "  <li>Line $lineno: $check{message}\n";
297                         $errors++;
298                     }
299                     if ($check{stop}) {
300 #                       print "  stopping processing\n";
301                         $stop = 1;
302                     }
303                 }
304             }
305         }
306         $oldline = $line;
307     }
308     close IN;
309     # End of checking this package
310     print "  <li><strong>found errors: $errors</strong>\n";
311     if (!$errors) {
312         print " (maybe just timed out during build?)\n";
313     }
314
315     # Look for a note for manually-added logfile analysis
316     my $note = $input;
317     $note =~ s,\.log$,.note,;
318     if (-f $note) {
319         open (IN, "< $note") or die "Can't open $note for reading: $!\n";
320         while (defined (my $line = <IN>)) {
321             chomp $line;
322             if ($line =~ m,#(\d+),) {
323                 my $bugno = $1;
324                 $existing_bugs++;
325                 $line =~ s,#(\d+),<a href="https://bugs.debian.org/$1">#$1</\a>,g;
326             }
327             print "  <li>$line\n";
328         }
329         close IN;
330     }
331
332     print "</ul>\n";
333     foreach my $key (keys %file_results) {
334         $log_results{$key} += 1;
335 #       print "now have $log_results{$key} for \"$key\"\n";
336     }
337 }
338 print "</ol>\n";
339
340 print "<h2>Summary of results from $num_fail failed builds:</h2>\n";
341 print "<ol>\n";
342 print "<li>Found $existing_bugs existing bugs</li>\n";
343 foreach my $key (keys %log_results) {
344     print "  <li>Found $log_results{$key} logs showing $key\n";
345 }
346 print "</ol>\n";
347 print "</body>\n";
348 print "</html>\n";