]> git.tuebingen.mpg.de Git - paraslash.git/blob - gcrypt.c
paraslash 0.7.3
[paraslash.git] / gcrypt.c
1 /* Copyright (C) 2011 Andre Noll <maan@tuebingen.mpg.de>, see file COPYING. */
2
3 /** \file gcrypt.c Libgrcypt-based encryption/decryption routines. */
4
5 #include <regex.h>
6 #include <gcrypt.h>
7
8 #include "para.h"
9 #include "error.h"
10 #include "string.h"
11 #include "crypt.h"
12 #include "crypt_backend.h"
13 #include "fd.h"
14 #include "base64.h"
15
16 //#define GCRYPT_DEBUG 1
17
18 #ifdef GCRYPT_DEBUG
19 static void dump_buffer(const char *msg, unsigned char *buf, int len)
20 {
21         int i;
22
23         fprintf(stderr, "%s (%d bytes): ", msg, len);
24         for (i = 0; i < len; i++)
25                 fprintf(stderr, "%02x ", buf[i]);
26         fprintf(stderr, "\n");
27 }
28 #else
29 /** Empty. Define GCRYPT_DEBUG to dump buffers. */
30 #define dump_buffer(a, b, c)
31 #endif
32
33 void hash_function(const char *data, unsigned long len, unsigned char *hash)
34 {
35         gcry_error_t gret;
36         gcry_md_hd_t handle;
37         unsigned char *md;
38
39         gret = gcry_md_open(&handle, GCRY_MD_SHA1, 0);
40         assert(gret == 0);
41         gcry_md_write(handle, data, (size_t)len);
42         gcry_md_final(handle);
43         md = gcry_md_read(handle, GCRY_MD_SHA1);
44         assert(md);
45         memcpy(hash, md, HASH_SIZE);
46         gcry_md_close(handle);
47 }
48
49 void hash2_function(const char *data, unsigned long len, unsigned char *hash)
50 {
51         gcry_error_t gret;
52         gcry_md_hd_t handle;
53         unsigned char *md;
54
55         gret = gcry_md_open(&handle, GCRY_MD_SHA256, 0);
56         assert(gret == 0);
57         gcry_md_write(handle, data, (size_t)len);
58         gcry_md_final(handle);
59         md = gcry_md_read(handle, GCRY_MD_SHA256);
60         assert(md);
61         memcpy(hash, md, HASH2_SIZE);
62         gcry_md_close(handle);
63 }
64
65 void get_random_bytes_or_die(unsigned char *buf, int num)
66 {
67         gcry_randomize(buf, (size_t)num, GCRY_STRONG_RANDOM);
68 }
69
70 /*
71  * This is called at the beginning of every program that uses libgcrypt. The
72  * call to gcry_check_version() initializes the gcrypt library and checks that
73  * we have at least the minimal required version.
74  */
75 void crypt_init(void)
76 {
77         const char *req_ver = "1.5.0";
78         int seed;
79
80         if (!gcry_check_version(req_ver)) {
81                 PARA_EMERG_LOG("fatal: need at least libgcrypt-%s, have: %s\n",
82                         req_ver, gcry_check_version(NULL));
83                 exit(EXIT_FAILURE);
84         }
85
86         /*
87          * Allocate a pool of secure memory. This also drops privileges where
88          * needed.
89          */
90         gcry_control(GCRYCTL_INIT_SECMEM, 65536, 0);
91
92         /* Tell Libgcrypt that initialization has completed. */
93         gcry_control(GCRYCTL_INITIALIZATION_FINISHED, 0);
94
95         get_random_bytes_or_die((unsigned char *)&seed, sizeof(seed));
96         srandom(seed);
97 }
98
99 void crypt_shutdown(void)
100 {
101         /*
102          * WK does not see a way to apply a patch for the sake of Valgrind, so
103          * as of 2018 libgrypt has no deinitialization routine to free the
104          * resources on exit.
105          */
106 }
107
108 /** S-expression for the public part of an RSA key. */
109 #define RSA_PUBKEY_SEXP "(public-key (rsa (n %m) (e %m)))"
110 /** S-expression for a private RSA key. */
111 #define RSA_PRIVKEY_SEXP "(private-key (rsa (n %m) (e %m) (d %m) (p %m) (q %m) (u %m)))"
112 /** S-expression for decryption. */
113 #define RSA_DECRYPT_SEXP "(enc-val(flags oaep)(rsa(a %m)))"
114
115 struct asymmetric_key {
116         gcry_sexp_t sexp;
117 };
118
119 static const char *gcrypt_strerror(gcry_error_t gret)
120 {
121         return gcry_strerror(gcry_err_code(gret));
122 }
123
124 /** ASN Types and their code. */
125 enum asn1_types {
126         /** The next object is an integer. */
127         ASN1_TYPE_INTEGER = 0x2,
128         /** Bit string object. */
129         ASN1_TYPE_BIT_STRING = 0x03,
130         /** Keys start with one big type sequence. */
131         ASN1_TYPE_SEQUENCE = 0x30,
132 };
133
134 /* bit 6 has value 0 */
135 static inline bool is_primitive(unsigned char c)
136 {
137         return (c & (1<<6)) == 0;
138 }
139
140 static inline bool is_primitive_integer(unsigned char c)
141 {
142         if (!is_primitive(c))
143                 return false;
144         return (c & 0x1f) == ASN1_TYPE_INTEGER;
145 }
146
147 /* Bit 8 is zero (and bits 7-1 give the length) */
148 static inline bool is_short_form(unsigned char c)
149 {
150         return (c & 0x80) == 0;
151 }
152
153 static inline int get_short_form_length(unsigned char c)
154 {
155         return c & 0x7f;
156 }
157
158 static inline int get_long_form_num_length_bytes(unsigned char c)
159 {
160         return c & 0x7f;
161 }
162
163 /*
164  * Returns: Number of bytes scanned. This may differ from the value returned via
165  * bitsp because the latter does not include the ASN.1 prefix and a leading
166  * zero is not considered as an additional byte for the number of bits.
167  */
168 static int read_pem_bignum(unsigned char *start, unsigned char *end, gcry_mpi_t *bn,
169                 unsigned *bitsp)
170 {
171         int i, bn_size;
172         gcry_error_t gret;
173         unsigned char *cp = start;
174
175         if (!is_primitive_integer(*cp))
176                 return -E_BAD_PRIVATE_KEY;
177         cp++;
178         if (is_short_form(*cp)) {
179                 bn_size = get_short_form_length(*cp);
180                 cp++;
181         } else {
182                 int num_bytes = get_long_form_num_length_bytes(*cp);
183                 if (cp + num_bytes > end)
184                         return -E_BAD_PRIVATE_KEY;
185                 if (num_bytes > 4) /* nobody has such a large modulus */
186                         return -E_BAD_PRIVATE_KEY;
187                 cp++;
188                 bn_size = 0;
189                 for (i = 0; i < num_bytes; i++, cp++)
190                         bn_size = (bn_size << 8) + *cp;
191         }
192         PARA_DEBUG_LOG("bn_size %d (0x%x)\n", bn_size, (unsigned)bn_size);
193         gret = gcry_mpi_scan(bn, GCRYMPI_FMT_STD, cp, bn_size, NULL);
194         if (gret) {
195                 PARA_ERROR_LOG("gcry_mpi_scan: %s\n",
196                         gcry_strerror(gcry_err_code(gret)));
197                 return-E_MPI_SCAN;
198         }
199         /*
200          * Don't take the first leading zero into account for the size of the
201          * bignum.
202          */
203         if (*cp == '\0') {
204                 cp++;
205                 bn_size--;
206         }
207         if (bitsp)
208                 *bitsp = bn_size * 8;
209         cp += bn_size;
210 //      unsigned char *buf;
211 //      gcry_mpi_aprint(GCRYMPI_FMT_HEX, &buf, NULL, *bn);
212 //      PARA_CRIT_LOG("bn: %s\n", buf);
213         return cp - start;
214 }
215
216 struct rsa_params {
217         gcry_mpi_t n, e, d, p, q, u;
218 };
219
220 static int read_pem_rsa_params(unsigned char *start, unsigned char *end,
221                 struct rsa_params *p)
222 {
223         unsigned char *cp = start;
224         unsigned bits;
225         int ret;
226
227         ret = read_pem_bignum(cp, end, &p->n, &bits);
228         if (ret < 0)
229                 return ret;
230         cp += ret;
231         ret = read_pem_bignum(cp, end, &p->e, NULL);
232         if (ret < 0)
233                 goto release_n;
234         cp += ret;
235         ret = read_pem_bignum(cp, end, &p->d, NULL);
236         if (ret < 0)
237                 goto release_e;
238         cp += ret;
239         ret = read_pem_bignum(cp, end, &p->p, NULL);
240         if (ret < 0)
241                 goto release_d;
242         cp += ret;
243         ret = read_pem_bignum(cp, end, &p->q, NULL);
244         if (ret < 0)
245                 goto release_p;
246         cp += ret;
247         ret = read_pem_bignum(cp, end, &p->u, NULL);
248         if (ret < 0)
249                 goto release_q;
250         return bits;
251 release_q:
252         gcry_mpi_release(p->q);
253 release_p:
254         gcry_mpi_release(p->p);
255 release_d:
256         gcry_mpi_release(p->d);
257 release_e:
258         gcry_mpi_release(p->e);
259 release_n:
260         gcry_mpi_release(p->n);
261         return ret;
262 }
263
264 static int find_pem_bignum_offset(const unsigned char *data, int len)
265 {
266         const unsigned char *p = data, *end = data + len;
267
268         /* like the public key, the whole thing is contained in a sequence */
269         if (*p != ASN1_TYPE_SEQUENCE)
270                 return -E_ASN1_PARSE;
271         p++;
272         if (p >= end)
273                 return -E_ASN1_PARSE;
274         if (is_short_form(*p))
275                 p++;
276         else
277                 p += 1 + get_long_form_num_length_bytes(*p);
278         if (p >= end)
279                 return -E_ASN1_PARSE;
280
281         /* skip next integer */
282         if (*p != ASN1_TYPE_INTEGER)
283                 return -E_ASN1_PARSE;
284         p++;
285         if (p >= end)
286                 return -E_ASN1_PARSE;
287         if (is_short_form(*p))
288                 p += 1 + get_short_form_length(*p);
289         else
290                 p += 1 + get_long_form_num_length_bytes(*p);
291         if (p >= end)
292                 return -E_ASN1_PARSE;
293         return p - data;
294 }
295
296 static int read_openssh_bignum(unsigned char *start, unsigned char *end,
297                 gcry_mpi_t *bn, unsigned *bitsp)
298 {
299         gcry_error_t gret;
300         size_t nscanned;
301         unsigned bits;
302
303         gret = gcry_mpi_scan(bn, GCRYMPI_FMT_SSH, start, end - start, &nscanned);
304         if (gret) {
305                 PARA_ERROR_LOG("gcry_mpi_scan: %s\n",
306                         gcry_strerror(gcry_err_code(gret)));
307                 return -E_MPI_SCAN;
308         }
309         bits = (nscanned - 4 - (start[4] == '\0')) * 8;
310         if (bitsp)
311                 *bitsp = bits;
312         PARA_DEBUG_LOG("scanned %u-bit bignum\n", bits);
313         return nscanned;
314 }
315
316 static int read_openssh_rsa_params(unsigned char *start, unsigned char *end,
317                 struct rsa_params *p)
318 {
319         unsigned char *cp = start;
320         unsigned bits;
321         int ret;
322
323         ret = read_openssh_bignum(cp, end, &p->n, &bits);
324         if (ret < 0)
325                 return ret;
326         cp += ret;
327         ret = read_openssh_bignum(cp, end, &p->e, NULL);
328         if (ret < 0)
329                 goto release_n;
330         cp += ret;
331         ret = read_openssh_bignum(cp, end, &p->d, NULL);
332         if (ret < 0)
333                 goto release_e;
334         cp += ret;
335         ret = read_openssh_bignum(cp, end, &p->u, NULL);
336         if (ret < 0)
337                 goto release_d;
338         cp += ret;
339         ret = read_openssh_bignum(cp, end, &p->p, NULL);
340         if (ret < 0)
341                 goto release_u;
342         cp += ret;
343         ret = read_openssh_bignum(cp, end, &p->q, NULL);
344         if (ret < 0)
345                 goto release_p;
346         return bits;
347 release_p:
348         gcry_mpi_release(p->p);
349 release_u:
350         gcry_mpi_release(p->u);
351 release_d:
352         gcry_mpi_release(p->d);
353 release_e:
354         gcry_mpi_release(p->e);
355 release_n:
356         gcry_mpi_release(p->n);
357         return ret;
358 }
359
360 static int get_private_key(const char *key_file, struct asymmetric_key **result)
361 {
362         struct rsa_params params;
363         unsigned char *blob, *end;
364         unsigned bits;
365         int ret, key_type;
366         gcry_error_t gret;
367         size_t erroff, blob_size;
368         gcry_sexp_t sexp;
369         struct asymmetric_key *key;
370
371         *result = NULL;
372         ret = decode_private_key(key_file, &blob, &blob_size);
373         if (ret < 0)
374                 return ret;
375         key_type = ret;
376         end = blob + blob_size;
377         if (key_type == PKT_PEM)
378                 ret = find_pem_bignum_offset(blob, blob_size);
379         else
380                 ret = find_openssh_bignum_offset(blob, blob_size);
381         if (ret < 0)
382                 goto free_blob;
383         PARA_INFO_LOG("reading RSA params at offset %d\n", ret);
384         if (key_type == PKT_PEM)
385                 ret = read_pem_rsa_params(blob + ret, end, &params);
386         else
387                 ret = read_openssh_rsa_params(blob + ret, end, &params);
388         if (ret < 0)
389                 goto free_blob;
390         bits = ret;
391         /*
392          * OpenSSL uses slightly different parameters than gcrypt. To use these
393          * parameters we need to swap the values of p and q and recompute u.
394          */
395         if (gcry_mpi_cmp(params.p, params.q) > 0) {
396                 gcry_mpi_swap(params.p, params.q);
397                 gcry_mpi_invm(params.u, params.p, params.q);
398         }
399         gret = gcry_sexp_build(&sexp, &erroff, RSA_PRIVKEY_SEXP, params.n,
400                 params.e, params.d, params.p, params.q, params.u);
401
402         if (gret) {
403                 PARA_ERROR_LOG("offset %zu: %s\n", erroff,
404                         gcry_strerror(gcry_err_code(gret)));
405                 ret = -E_SEXP_BUILD;
406                 goto free_params;
407         }
408         key = alloc(sizeof(*key));
409         key->sexp = sexp;
410         *result = key;
411         ret = bits;
412         PARA_INFO_LOG("succesfully read %d bit private key\n", ret);
413 free_params:
414         gcry_mpi_release(params.n);
415         gcry_mpi_release(params.e);
416         gcry_mpi_release(params.d);
417         gcry_mpi_release(params.u);
418         gcry_mpi_release(params.p);
419         gcry_mpi_release(params.q);
420
421 free_blob:
422         free(blob);
423         return ret;
424 }
425
426 int apc_get_pubkey(const char *key_file, struct asymmetric_key **result)
427 {
428         unsigned char *blob, *p, *end;
429         int ret;
430         gcry_error_t gret;
431         size_t erroff, decoded_size;
432         gcry_mpi_t e, n;
433         gcry_sexp_t sexp;
434         struct asymmetric_key *key;
435         unsigned bits;
436
437         ret = decode_public_key(key_file, &blob, &decoded_size);
438         if (ret < 0)
439                 return ret;
440         p = blob + ret;
441         end = blob + decoded_size;
442         PARA_DEBUG_LOG("scanning modulus and public exponent\n");
443         ret = read_openssh_bignum(p, end, &e, NULL);
444         if (ret < 0)
445                 goto free_blob;
446         p += ret;
447         ret = read_openssh_bignum(p, end, &n, &bits);
448         if (ret < 0)
449                 goto release_e;
450         gret = gcry_sexp_build(&sexp, &erroff, RSA_PUBKEY_SEXP, n, e);
451         if (gret) {
452                 PARA_ERROR_LOG("offset %zu: %s\n", erroff,
453                         gcry_strerror(gcry_err_code(gret)));
454                 ret = -E_SEXP_BUILD;
455                 goto release_n;
456         }
457         PARA_INFO_LOG("successfully read %u bit ssh public key\n", bits);
458         key = alloc(sizeof(*key));
459         key->sexp = sexp;
460         *result = key;
461         ret = bits / 8;
462 release_n:
463         gcry_mpi_release(n);
464 release_e:
465         gcry_mpi_release(e);
466 free_blob:
467         free(blob);
468         return ret;
469 }
470
471 void apc_free_pubkey(struct asymmetric_key *key)
472 {
473         if (!key)
474                 return;
475         gcry_sexp_release(key->sexp);
476         free(key);
477 }
478
479 static int decode_rsa(gcry_sexp_t sexp, unsigned char *outbuf, size_t *nbytes)
480 {
481         const char *p = gcry_sexp_nth_data(sexp, 1, nbytes);
482
483         if (!p)
484                 return -E_RSA_DECODE;
485         memcpy(outbuf, p, *nbytes);
486         return 1;
487 }
488
489 int apc_priv_decrypt(const char *key_file, unsigned char *outbuf,
490                 unsigned char *inbuf, int inlen)
491 {
492         gcry_error_t gret;
493         int ret;
494         struct asymmetric_key *priv;
495         gcry_mpi_t in_mpi = NULL;
496         gcry_sexp_t in, out, priv_key;
497         size_t nbytes;
498
499         ret = check_private_key_file(key_file);
500         if (ret < 0)
501                 return ret;
502         PARA_INFO_LOG("decrypting %d byte input\n", inlen);
503         /* key_file -> asymmetric key priv */
504         ret = get_private_key(key_file, &priv);
505         if (ret < 0)
506                 return ret;
507
508         /* asymmetric key priv -> sexp priv_key */
509         ret = -E_SEXP_FIND;
510         priv_key = gcry_sexp_find_token(priv->sexp, "private-key", 0);
511         if (!priv_key)
512                 goto free_key;
513
514         /* inbuf -> in_mpi */
515         gret = gcry_mpi_scan(&in_mpi, GCRYMPI_FMT_USG, inbuf,
516                 inlen, NULL);
517         if (gret) {
518                 PARA_ERROR_LOG("%s\n", gcrypt_strerror(gret));
519                 ret = -E_MPI_SCAN;
520                 goto key_release;
521         }
522         /* in_mpi -> in sexp */
523         gret = gcry_sexp_build(&in, NULL, RSA_DECRYPT_SEXP, in_mpi);
524         if (gret) {
525                 PARA_ERROR_LOG("%s\n", gcrypt_strerror(gret));
526                 ret = -E_SEXP_BUILD;
527                 goto in_mpi_release;
528         }
529
530         /* rsa decryption: in sexp -> out sexp */
531         gret = gcry_pk_decrypt(&out, in, priv_key);
532         if (gret) {
533                 PARA_ERROR_LOG("decrypt: %s\n", gcrypt_strerror(gret));
534                 ret = -E_SEXP_DECRYPT;
535                 goto in_release;
536         }
537         ret = decode_rsa(out, outbuf, &nbytes);
538         if (ret < 0)
539                 goto out_release;
540         PARA_INFO_LOG("successfully decrypted %zu byte message\n", nbytes);
541         ret = nbytes;
542 out_release:
543         gcry_sexp_release(out);
544 in_release:
545         gcry_sexp_release(in);
546 in_mpi_release:
547         gcry_mpi_release(in_mpi);
548 key_release:
549         gcry_sexp_release(priv_key);
550 free_key:
551         gcry_sexp_release(priv->sexp);
552         free(priv);
553         return ret;
554 }
555
556 int apc_pub_encrypt(struct asymmetric_key *pub, unsigned char *inbuf,
557                 unsigned len, unsigned char *outbuf)
558 {
559         gcry_error_t gret;
560         gcry_sexp_t pub_key, in, out, out_a;
561         gcry_mpi_t out_mpi = NULL;
562         size_t nbytes;
563         int ret;
564
565         /* get pub key */
566         pub_key = gcry_sexp_find_token(pub->sexp, "public-key", 0);
567         if (!pub_key)
568                 return -E_SEXP_FIND;
569         gret = gcry_sexp_build(&in, NULL, "(data(flags oaep)(value %b))", len, inbuf);
570         if (gret) {
571                 PARA_ERROR_LOG("%s\n", gcrypt_strerror(gret));
572                 ret = -E_SEXP_BUILD;
573                 goto key_release;
574         }
575         /* rsa sexp encryption: in -> out */
576         gret = gcry_pk_encrypt(&out, in, pub_key);
577         if (gret) {
578                 PARA_ERROR_LOG("%s\n", gcrypt_strerror(gret));
579                 ret = -E_SEXP_ENCRYPT;
580                 goto in_release;
581         }
582         /* extract a, an MPI with the result of the RSA operation */
583         ret = -E_SEXP_FIND;
584         out_a = gcry_sexp_find_token(out, "a", 0);
585         if (!out_a)
586                 goto out_release;
587         /* convert sexp out_a -> out_mpi */
588         out_mpi = gcry_sexp_nth_mpi(out_a, 1, GCRYMPI_FMT_USG);
589         if (!out_mpi) {
590                 ret = -E_SEXP_FIND;
591                 goto out_a_release;
592         }
593         gret = gcry_mpi_print(GCRYMPI_FMT_USG, outbuf, 512 /* FIXME */, &nbytes, out_mpi);
594         if (gret) {
595                 PARA_ERROR_LOG("%s\n", gcrypt_strerror(gret));
596                 ret = -E_SEXP_ENCRYPT;
597                 goto out_mpi_release;
598         }
599         PARA_INFO_LOG("encrypted buffer is %zu bytes\n", nbytes);
600         dump_buffer("enc buf", outbuf, nbytes);
601         ret = nbytes;
602
603 out_mpi_release:
604         gcry_mpi_release(out_mpi);
605 out_a_release:
606         gcry_sexp_release(out_a);
607 out_release:
608         gcry_sexp_release(out);
609 in_release:
610         gcry_sexp_release(in);
611 key_release:
612         gcry_sexp_release(pub_key);
613         return ret;
614 }
615
616 struct stream_cipher {
617         gcry_cipher_hd_t handle;
618 };
619
620 struct stream_cipher *sc_new(const unsigned char *data, int len)
621 {
622         gcry_error_t gret;
623         struct stream_cipher *sc = alloc(sizeof(*sc));
624
625         assert(len >= 2 * AES_CRT128_BLOCK_SIZE);
626         gret = gcry_cipher_open(&sc->handle, GCRY_CIPHER_AES128,
627                 GCRY_CIPHER_MODE_CTR, 0);
628         assert(gret == 0);
629         gret = gcry_cipher_setkey(sc->handle, data,
630                 AES_CRT128_BLOCK_SIZE);
631         assert(gret == 0);
632         gret = gcry_cipher_setctr(sc->handle,
633                 data + AES_CRT128_BLOCK_SIZE, AES_CRT128_BLOCK_SIZE);
634         assert(gret == 0);
635         return sc;
636 }
637
638 void sc_free(struct stream_cipher *sc)
639 {
640         if (!sc)
641                 return;
642         gcry_cipher_close(sc->handle);
643         free(sc);
644 }
645
646 void sc_crypt(struct stream_cipher *sc, struct iovec *src, struct iovec *dst)
647 {
648         gcry_cipher_hd_t handle = sc->handle;
649         gcry_error_t gret;
650
651         /* perform in-place encryption */
652         *dst = *src;
653         gret = gcry_cipher_encrypt(handle, src->iov_base, src->iov_len,
654                 NULL, 0);
655         assert(gret == 0);
656 }