Code cleanups after running with "sparse"
[jigit.git] / md5.c
1 /*
2  * This code implements the MD5 message-digest algorithm.
3  * The algorithm is due to Ron Rivest.  This code was
4  * written by Colin Plumb in 1993, no copyright is claimed.
5  * This code is in the public domain; do with it what you wish.
6  *
7  * Equivalent code is available from RSA Data Security, Inc.
8  * This code has been tested against that, and is equivalent,
9  * except that you don't need to include two pages of legalese
10  * with every copy.
11  *
12  * To compute the message digest of a chunk of bytes, declare an
13  * MD5Context structure, pass it to MD5Init, call MD5Update as
14  * needed on buffers full of bytes, and then call MD5Final, which
15  * will fill a supplied 16-byte array with the digest.
16  */
17
18 /* This code was modified in 1997 by Jim Kingdon of Cyclic Software to
19    not require an integer type which is exactly 32 bits.  This work
20    draws on the changes for the same purpose by Tatu Ylonen
21    <ylo@cs.hut.fi> as part of SSH, but since I didn't actually use
22    that code, there is no copyright issue.  I hereby disclaim
23    copyright in any changes I have made; this code remains in the
24    public domain.  */
25
26 /* Note regarding cvs_* namespace: this avoids potential conflicts
27    with libraries such as some versions of Kerberos.  No particular
28    need to worry about whether the system supplies an MD5 library, as
29    this file is only about 3k of object code.  */
30
31 /* Steve McIntyre, 2004/05/31: borrowed this code from the CVS
32    library. s/cvs_/mk_/ across the source */
33
34 #ifdef HAVE_CONFIG_H
35 #include "config.h"
36 #endif
37
38 #include <string.h>     /* for memcpy() and memset() */
39 #include <stdlib.h> /* for calloc() */
40
41 #include "md5.h"
42
43 /* Little-endian byte-swapping routines.  Note that these do not
44    depend on the size of datatypes such as mk_uint32, nor do they require
45    us to detect the endianness of the machine we are running on.  It
46    is possible they should be macros for speed, but I would be
47    surprised if they were a performance bottleneck for MD5.  */
48
49 static mk_uint32
50 getu32 (const unsigned char *addr)
51 {
52         return (((((unsigned long)addr[3] << 8) | addr[2]) << 8)
53                 | addr[1]) << 8 | addr[0];
54 }
55
56 static void
57 putu32 (mk_uint32 data, unsigned char *addr)
58 {
59         addr[0] = (unsigned char)data;
60         addr[1] = (unsigned char)(data >> 8);
61         addr[2] = (unsigned char)(data >> 16);
62         addr[3] = (unsigned char)(data >> 24);
63 }
64
65 /*
66  * Start MD5 accumulation.  Set bit count to 0 and buffer to mysterious
67  * initialization constants.
68  */
69 void
70 mk_MD5Init (struct mk_MD5Context *ctx)
71 {
72         ctx->buf[0] = 0x67452301;
73         ctx->buf[1] = 0xefcdab89;
74         ctx->buf[2] = 0x98badcfe;
75         ctx->buf[3] = 0x10325476;
76
77         ctx->bits[0] = 0;
78         ctx->bits[1] = 0;
79 }
80
81 /*
82  * Update context to reflect the concatenation of another buffer full
83  * of bytes.
84  */
85 void
86 mk_MD5Update(struct mk_MD5Context *ctx, unsigned char const *buf, unsigned len)
87 {
88         mk_uint32 t;
89
90         /* Update bitcount */
91
92         t = ctx->bits[0];
93         if ((ctx->bits[0] = (t + ((mk_uint32)len << 3)) & 0xffffffff) < t)
94                 ctx->bits[1]++; /* Carry from low to high */
95         ctx->bits[1] += len >> 29;
96
97         t = (t >> 3) & 0x3f;    /* Bytes already in shsInfo->data */
98
99         /* Handle any leading odd-sized chunks */
100
101         if ( t ) {
102                 unsigned char *p = ctx->in + t;
103
104                 t = 64-t;
105                 if (len < t) {
106                         memcpy(p, buf, len);
107                         return;
108                 }
109                 memcpy(p, buf, t);
110                 mk_MD5Transform (ctx->buf, ctx->in);
111                 buf += t;
112                 len -= t;
113         }
114
115         /* Process data in 64-byte chunks */
116
117         while (len >= 64) {
118                 memcpy(ctx->in, buf, 64);
119                 mk_MD5Transform (ctx->buf, ctx->in);
120                 buf += 64;
121                 len -= 64;
122         }
123
124         /* Handle any remaining bytes of data. */
125
126         memcpy(ctx->in, buf, len);
127 }
128
129 /*
130  * Final wrapup - pad to 64-byte boundary with the bit pattern 
131  * 1 0* (64-bit count of bits processed, MSB-first)
132  */
133 void
134 mk_MD5Final (unsigned char digest[16], struct mk_MD5Context *ctx)
135 {
136         unsigned count;
137         unsigned char *p;
138
139         /* Compute number of bytes mod 64 */
140         count = (ctx->bits[0] >> 3) & 0x3F;
141
142         /* Set the first char of padding to 0x80.  This is safe since there is
143            always at least one byte free */
144         p = ctx->in + count;
145         *p++ = 0x80;
146
147         /* Bytes of padding needed to make 64 bytes */
148         count = 64 - 1 - count;
149
150         /* Pad out to 56 mod 64 */
151         if (count < 8) {
152                 /* Two lots of padding:  Pad the first block to 64 bytes */
153                 memset(p, 0, count);
154                 mk_MD5Transform (ctx->buf, ctx->in);
155
156                 /* Now fill the next block with 56 bytes */
157                 memset(ctx->in, 0, 56);
158         } else {
159                 /* Pad block to 56 bytes */
160                 memset(p, 0, count-8);
161         }
162
163         /* Append length in bits and transform */
164         putu32(ctx->bits[0], ctx->in + 56);
165         putu32(ctx->bits[1], ctx->in + 60);
166
167         mk_MD5Transform (ctx->buf, ctx->in);
168         putu32(ctx->buf[0], digest);
169         putu32(ctx->buf[1], digest + 4);
170         putu32(ctx->buf[2], digest + 8);
171         putu32(ctx->buf[3], digest + 12);
172         memset(ctx, 0, sizeof(ctx));    /* In case it's sensitive */
173 }
174
175 #ifndef ASM_MD5
176
177 /* The four core functions - F1 is optimized somewhat */
178
179 /* #define F1(x, y, z) (x & y | ~x & z) */
180 #define F1(x, y, z) (z ^ (x & (y ^ z)))
181 #define F2(x, y, z) F1(z, x, y)
182 #define F3(x, y, z) (x ^ y ^ z)
183 #define F4(x, y, z) (y ^ (x | ~z))
184
185 /* This is the central step in the MD5 algorithm. */
186 #define MD5STEP(f, w, x, y, z, data, s) \
187         ( w += f(x, y, z) + data, w &= 0xffffffff, w = w<<s | w>>(32-s), w += x )
188
189 /*
190  * The core of the MD5 algorithm, this alters an existing MD5 hash to
191  * reflect the addition of 16 longwords of new data.  MD5Update blocks
192  * the data and converts bytes into longwords for this routine.
193  */
194 void
195 mk_MD5Transform (mk_uint32 buf[4], const unsigned char inraw[64])
196 {
197         register mk_uint32 a, b, c, d;
198         mk_uint32 in[16];
199         int i;
200
201         for (i = 0; i < 16; ++i)
202                 in[i] = getu32 (inraw + 4 * i);
203
204         a = buf[0];
205         b = buf[1];
206         c = buf[2];
207         d = buf[3];
208
209         MD5STEP(F1, a, b, c, d, in[ 0]+0xd76aa478,  7);
210         MD5STEP(F1, d, a, b, c, in[ 1]+0xe8c7b756, 12);
211         MD5STEP(F1, c, d, a, b, in[ 2]+0x242070db, 17);
212         MD5STEP(F1, b, c, d, a, in[ 3]+0xc1bdceee, 22);
213         MD5STEP(F1, a, b, c, d, in[ 4]+0xf57c0faf,  7);
214         MD5STEP(F1, d, a, b, c, in[ 5]+0x4787c62a, 12);
215         MD5STEP(F1, c, d, a, b, in[ 6]+0xa8304613, 17);
216         MD5STEP(F1, b, c, d, a, in[ 7]+0xfd469501, 22);
217         MD5STEP(F1, a, b, c, d, in[ 8]+0x698098d8,  7);
218         MD5STEP(F1, d, a, b, c, in[ 9]+0x8b44f7af, 12);
219         MD5STEP(F1, c, d, a, b, in[10]+0xffff5bb1, 17);
220         MD5STEP(F1, b, c, d, a, in[11]+0x895cd7be, 22);
221         MD5STEP(F1, a, b, c, d, in[12]+0x6b901122,  7);
222         MD5STEP(F1, d, a, b, c, in[13]+0xfd987193, 12);
223         MD5STEP(F1, c, d, a, b, in[14]+0xa679438e, 17);
224         MD5STEP(F1, b, c, d, a, in[15]+0x49b40821, 22);
225
226         MD5STEP(F2, a, b, c, d, in[ 1]+0xf61e2562,  5);
227         MD5STEP(F2, d, a, b, c, in[ 6]+0xc040b340,  9);
228         MD5STEP(F2, c, d, a, b, in[11]+0x265e5a51, 14);
229         MD5STEP(F2, b, c, d, a, in[ 0]+0xe9b6c7aa, 20);
230         MD5STEP(F2, a, b, c, d, in[ 5]+0xd62f105d,  5);
231         MD5STEP(F2, d, a, b, c, in[10]+0x02441453,  9);
232         MD5STEP(F2, c, d, a, b, in[15]+0xd8a1e681, 14);
233         MD5STEP(F2, b, c, d, a, in[ 4]+0xe7d3fbc8, 20);
234         MD5STEP(F2, a, b, c, d, in[ 9]+0x21e1cde6,  5);
235         MD5STEP(F2, d, a, b, c, in[14]+0xc33707d6,  9);
236         MD5STEP(F2, c, d, a, b, in[ 3]+0xf4d50d87, 14);
237         MD5STEP(F2, b, c, d, a, in[ 8]+0x455a14ed, 20);
238         MD5STEP(F2, a, b, c, d, in[13]+0xa9e3e905,  5);
239         MD5STEP(F2, d, a, b, c, in[ 2]+0xfcefa3f8,  9);
240         MD5STEP(F2, c, d, a, b, in[ 7]+0x676f02d9, 14);
241         MD5STEP(F2, b, c, d, a, in[12]+0x8d2a4c8a, 20);
242
243         MD5STEP(F3, a, b, c, d, in[ 5]+0xfffa3942,  4);
244         MD5STEP(F3, d, a, b, c, in[ 8]+0x8771f681, 11);
245         MD5STEP(F3, c, d, a, b, in[11]+0x6d9d6122, 16);
246         MD5STEP(F3, b, c, d, a, in[14]+0xfde5380c, 23);
247         MD5STEP(F3, a, b, c, d, in[ 1]+0xa4beea44,  4);
248         MD5STEP(F3, d, a, b, c, in[ 4]+0x4bdecfa9, 11);
249         MD5STEP(F3, c, d, a, b, in[ 7]+0xf6bb4b60, 16);
250         MD5STEP(F3, b, c, d, a, in[10]+0xbebfbc70, 23);
251         MD5STEP(F3, a, b, c, d, in[13]+0x289b7ec6,  4);
252         MD5STEP(F3, d, a, b, c, in[ 0]+0xeaa127fa, 11);
253         MD5STEP(F3, c, d, a, b, in[ 3]+0xd4ef3085, 16);
254         MD5STEP(F3, b, c, d, a, in[ 6]+0x04881d05, 23);
255         MD5STEP(F3, a, b, c, d, in[ 9]+0xd9d4d039,  4);
256         MD5STEP(F3, d, a, b, c, in[12]+0xe6db99e5, 11);
257         MD5STEP(F3, c, d, a, b, in[15]+0x1fa27cf8, 16);
258         MD5STEP(F3, b, c, d, a, in[ 2]+0xc4ac5665, 23);
259
260         MD5STEP(F4, a, b, c, d, in[ 0]+0xf4292244,  6);
261         MD5STEP(F4, d, a, b, c, in[ 7]+0x432aff97, 10);
262         MD5STEP(F4, c, d, a, b, in[14]+0xab9423a7, 15);
263         MD5STEP(F4, b, c, d, a, in[ 5]+0xfc93a039, 21);
264         MD5STEP(F4, a, b, c, d, in[12]+0x655b59c3,  6);
265         MD5STEP(F4, d, a, b, c, in[ 3]+0x8f0ccc92, 10);
266         MD5STEP(F4, c, d, a, b, in[10]+0xffeff47d, 15);
267         MD5STEP(F4, b, c, d, a, in[ 1]+0x85845dd1, 21);
268         MD5STEP(F4, a, b, c, d, in[ 8]+0x6fa87e4f,  6);
269         MD5STEP(F4, d, a, b, c, in[15]+0xfe2ce6e0, 10);
270         MD5STEP(F4, c, d, a, b, in[ 6]+0xa3014314, 15);
271         MD5STEP(F4, b, c, d, a, in[13]+0x4e0811a1, 21);
272         MD5STEP(F4, a, b, c, d, in[ 4]+0xf7537e82,  6);
273         MD5STEP(F4, d, a, b, c, in[11]+0xbd3af235, 10);
274         MD5STEP(F4, c, d, a, b, in[ 2]+0x2ad7d2bb, 15);
275         MD5STEP(F4, b, c, d, a, in[ 9]+0xeb86d391, 21);
276
277         buf[0] += a;
278         buf[1] += b;
279         buf[2] += c;
280         buf[3] += d;
281 }
282 #endif
283
284 char *base64_dump(unsigned char *buf, size_t buf_size)
285 {
286     const char *b64_enc = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789-_";
287     int value = 0;
288     unsigned int i;
289     int bits = 0;
290     char *out = calloc(1, 30);
291     unsigned int out_pos = 0;
292
293     if (!out)
294         return NULL;
295
296     for (i = 0; i < buf_size ; i++)
297     {
298         value = (value << 8) | buf[i];
299         bits += 2;
300         out[out_pos++] = b64_enc[(value >> bits) & 63U];
301         if (bits >= 6) {
302             bits -= 6;
303             out[out_pos++] = b64_enc[(value >> bits) & 63U];
304         }
305     }
306     if (bits > 0)
307     {
308         value <<= 6 - bits;
309         out[out_pos++] = b64_enc[value & 63U];
310     }
311     return out;
312 }
313
314 #ifdef TEST
315 /* Simple test program.  Can use it to manually run the tests from
316    RFC1321 for example.  */
317 #include <stdio.h>
318
319 int
320 main (int argc, char **argv)
321 {
322         struct mk_MD5Context context;
323         unsigned char checksum[16];
324         int i;
325         int j;
326
327         if (argc < 2)
328         {
329                 fprintf (stderr, "usage: %s string-to-hash\n", argv[0]);
330                 exit (1);
331         }
332         for (j = 1; j < argc; ++j)
333         {
334                 printf ("MD5 (\"%s\") = ", argv[j]);
335                 mk_MD5Init (&context);
336                 mk_MD5Update (&context, argv[j], strlen (argv[j]));
337                 mk_MD5Final (checksum, &context);
338                 for (i = 0; i < 16; i++)
339                 {
340                         printf ("%02x", (unsigned int) checksum[i]);
341                 }
342                 printf ("\n");
343         }
344         return 0;
345 }
346 #endif /* TEST */