Add support for notes from manual analysis
[buildd-scripts.git] / bin / analyze_results
1 #! /usr/bin/perl
2
3 # Script to analyze failed build logs. Look for specific regexps to
4 # classify things
5
6 use strict;
7 use warnings;
8
9 my $logs = "/home/build/logs";
10 my $logs_fail = "$logs/FAIL";
11 my $num_fail = 0;
12 my $existing_bugs = 0;
13
14 # Known failure modes to look for
15 my @logcheck = (
16     {
17         # Couldn't install build-deps
18         string   => '^Unable to resolve dependencies',
19         pstring  => '.*',
20         message  => 'build-deps failed',
21         check    => 1,
22         stop     => 1,
23         timeout  => 0, # This is a real error, not a build timeout
24     },
25     {
26         # "rchitecture mismatch" -> should never build on this arch
27         # Stop working on this log at this point
28         string   => 'rchitecture mismatch',
29         pstring  => '.*',
30         message  => 'architecture mismatch',
31         check    => 1,
32         stop     => 1,
33         timeout  => 0, # This is a real error, not a build timeout
34     },
35     {
36         string   => 'not in arch list or does not match any',
37         pstring  => '.*',
38         message  => 'architecture mismatch',
39         check    => 1,
40         stop     => 1,
41         timeout  => 0, # This is a real error, not a build timeout
42     },
43     {
44         string   => 'No space left on device',
45         pstring  => '.*',
46         message  => 'ran out of disk space',
47         check    => 1,
48         stop     => 1,
49         timeout  => 0, # This is a real error, not a build timeout
50     },
51     {
52         # "binary build with no binary artifacts found" -> no packages
53         # built. Why not picked up already above?.
54         # Stop working on this log at this point
55         string   => 'binary build with no binary artifacts found',
56         pstring  => '.*',
57         message  => 'no binaries built',
58         check    => 1,
59         stop     => 1,
60         timeout  => 0, # This is a real error, not a build timeout
61     },
62     {
63         # "Bus error" -> alignment bug
64         string   => 'Bus error',
65         pstring  => '.*',
66         message  => 'alignment problem',
67         check    => 1,
68         stop     => 1,
69         timeout  => 0, # This is a real error, not a build timeout
70     },
71     {
72         # "Segmentation fault" -> code problem
73         string   => 'Segmentation fault',
74         pstring  => 'Setting up libglib2.0-cil',
75         message  => 'Segmentation fault (mono)',
76         check    => 1,
77         stop     => 1,
78         timeout  => 0, # This is a real error, not a build timeout
79     },
80     {
81         # "Segmentation fault" -> code problem
82         string   => 'Segmentation fault',
83         pstring  => '.*',
84         message  => 'Segmentation fault',
85         check    => 1,
86         stop     => 1,
87         timeout  => 0, # This is a real error, not a build timeout
88     },
89     {
90         # "Illegal instruction" -> bad build target?
91         string   => 'Illegal instruction',
92         pstring  => 'Setting up ghc',
93         message  => 'Illegal instruction (ghc)',
94         check    => 1,
95         stop     => 1,
96         timeout  => 0, # This is a real error, not a build timeout
97     },
98     {
99         # "Illegal instruction" -> bad build target?
100         string   => 'Illegal instruction',
101         pstring  => '.*',
102         message  => 'Illegal instruction',
103         check    => 1,
104         stop     => 1,
105         timeout  => 0, # This is a real error, not a build timeout
106     },
107     {
108         # Installing build-deps failed
109         string   => 'dpkg: error processing package',
110         pstring  => '.*',
111         message  => 'build-deps failed',
112         check    => 1,
113         stop     => 1,
114         timeout  => 0, # This is a real error, not a build timeout
115     },
116     {
117         # Installing build-deps failed
118         string   => 'E: Unmet dependencies',
119         pstring  => '.*',
120         message  => 'build-deps failed',
121         check    => 1,
122         stop     => 1,
123         timeout  => 0, # This is a real error, not a build timeout
124     },
125     {
126         # Installing build-deps failed
127         string   => 'unsat-dependency:',
128         pstring  => '.*',
129         message  => 'build-deps failed',
130         check    => 1,
131         stop     => 1,
132         timeout  => 0, # This is a real error, not a build timeout
133     },
134     {
135         # Build failed - missing build-dep?
136         string   => 'build dependencies/conflicts unsatisfied',
137         pstring  => '.*',
138         message  => 'build-deps not satisfiable',
139         check    => 1,
140         stop     => 1,
141         timeout  => 0, # This is a real error, not a build timeout
142     },
143     {
144         # Build failed - missing build-dep?
145         string   => 'ld: cannot find',
146         pstring  => '.*',
147         message  => 'build failure: missing library - missing build-dep?',
148         check    => 1,
149         stop     => 1,
150         timeout  => 0, # This is a real error, not a build timeout
151     },
152     {
153         # Build failed - missing build-dep?
154         string   => 'fatal error:.*No such file or directory',
155         pstring  => '.*',
156         message  => 'build failure: missing header - missing build-dep?',
157         check    => 1,
158         stop     => 1,
159         timeout  => 0, # This is a real error, not a build timeout
160     },
161     {
162         # Build failed - missing build-dep?
163         string   => 'SEVERE: Cannot resolve dependencies',
164         pstring  => '.*',
165         message  => 'build failure - missing build-dep?',
166         check    => 1,
167         stop     => 1,
168         timeout  => 0, # This is a real error, not a build timeout
169     },
170     {
171         # Build failed - can't exec something...
172         string   => 'error trying to exec.*execvp: No',
173         pstring  => '.*',
174         message  => 'build failure (missing binary)',
175         check    => 1,
176         stop     => 1,
177         timeout  => 0, # This is a real error, not a build timeout
178     },
179     {
180         # Build failed
181         string   => 'make.*returned exit code',
182         pstring  => '.*',
183         message  => 'build failure (other)',
184         check    => 1,
185         stop     => 0,
186         timeout  => 0, # This is a real error, not a build timeout
187     },
188     {
189         # Build failed
190         string   => '^make.*\*\*\*.* \[debian/rules.*Error \d+$',
191         pstring  => '.*',
192         message  => 'build failure (other)',
193         check    => 1,
194         stop     => 0,
195         timeout  => 0, # This is a real error, not a build timeout
196     },
197     {
198         # Build failed
199         string   => 'dpkg-source: error: unrepresentable changes to source',
200         pstring  => '.*',
201         message  => 'dpkg-source failure',
202         check    => 1,
203         stop     => 1,
204         timeout  => 0, # This is a real error, not a build timeout
205     },
206     {
207         # Build failed
208         string   => 'fakeroot debian/rules binary',
209         pstring  => '.*',
210         message  => 'build failure (other)',
211         check    => 0,
212         stop     => 1,
213     },
214     {
215         # Timeout. pbuilder is too dumb to do this properly :-(
216         string   => 'I: Terminating build process due to timeout',
217         pstring  => '.*',
218         message  => 'build timeout',
219         check    => 1,
220         stop     => 1,
221         timeout  => 1, # This is a build timeout. If this happened
222                        # before other errors, then we should retry
223     },
224 );
225
226 my %log_results;
227
228 #foreach my $checktmp (@logcheck) {
229 #    my %check = %$checktmp;
230 #    print "looking for \"$check{string}\"\n";
231 #    print "  with log message \"$check{message}\"\n";
232 #    print "  check this regexp: $check{check}\n";
233 #    print "  stop if found: $check{stop}\n";
234 #}
235
236 print "<html>\n";
237 print "<head>\n";
238 print "<title>Build log analysis</title>\n";
239 print "</head>\n";
240 print "<body>\n";
241 print "<h1>Build log analysis</h1>\n";
242 print "<h2>Packages</h2>\n";
243 print "<ol>\n";
244
245 foreach my $input (@ARGV) {
246     open (IN, "< $input") or die "Can't read $input: $!\n";
247     $num_fail++;
248     my $stop = 0;
249     my $lineno = 0;
250     my $errors = 0;
251     my $oldline = "";
252     my %file_results;
253     print "<li>Looking at <a href=\"$input\">$input</a>:\n";
254     print "<ul>\n";
255     while (defined (my $line = <IN>) and !$stop) {
256         $lineno++;
257         foreach my $checktmp (@logcheck) {
258             my %check = %$checktmp;
259             if ($check{check}) {
260                 if (!$stop
261                     and $line =~ m/$check{string}/
262                     and $oldline =~ m/$check{pstring}/) {
263 #                   print "  Line $lineno: found \"$check{string}\"\n";
264                     $file_results{$check{message}} = 1;
265                     if ($check{timeout} and $errors == 0) {
266                         print "  <li>Build killed by timeout before any errors at line $lineno\n";
267                     } else {
268                         print "  <li>Line $lineno: $check{message}\n";
269                         $errors++;
270                     }
271                     if ($check{stop}) {
272 #                       print "  stopping processing\n";
273                         $stop = 1;
274                     }
275                 }
276             }
277         }
278         $oldline = $line;
279     }
280     close IN;
281     # End of checking this package
282     print "  <li><strong>found errors: $errors</strong>\n";
283     if (!$errors) {
284         print " (maybe just timed out during build?)\n";
285     }
286
287     # Look for a note for manually-added logfile analysis
288     my $note = $input;
289     $note =~ s,\.log$,.note,;
290     if (-f $note) {
291         open (IN, "< $note") or die "Can't open $note for reading: $!\n";
292         while (defined (my $line = <IN>)) {
293             chomp $line;
294             if ($line =~ m,#(\d+),) {
295                 my $bugno = $1;
296                 $existing_bugs++;
297                 $line =~ s,#(\d+),<a href="https://bugs.debian.org/$1">#$1</\a>,g;
298             }
299             print "  <li>$line\n";
300         }
301         close IN;
302     }
303
304     print "</ul>\n";
305     foreach my $key (keys %file_results) {
306         $log_results{$key} += 1;
307 #       print "now have $log_results{$key} for \"$key\"\n";
308     }
309 }
310 print "</ol>\n";
311
312 print "<h2>Summary of results from $num_fail failed builds:</h2>\n";
313 print "<ol>\n";
314 print "<li>Found $existing_bugs existing bugs</li>\n";
315 foreach my $key (keys %log_results) {
316     print "  <li>Found $log_results{$key} logs showing $key\n";
317 }
318 print "</ol>\n";
319 print "</body>\n";
320 print "</html>\n";