Merge commit 'fml/master'
[adu.git] / adu.c
diff --git a/adu.c b/adu.c
index 9a0e513d941338195ddab459fc854a3792c05391..02bfa302779ccdf5bc299e8a6a81f5b3c2fb8f60 100644 (file)
--- a/adu.c
+++ b/adu.c
@@ -8,6 +8,7 @@
 #include "string.h"
 #include "error.h"
 #include "portable_io.h"
+#include "select.cmdline.h"
 
 DEFINE_ERRLIST;
 int osl_errno;
@@ -18,16 +19,15 @@ static int signum;
 /** Command line and config file options. */
 struct gengetopt_args_info conf;
 
-/** Global dir count. */
-uint64_t num_dirs = 0;
-/** Global files count. */
-uint64_t num_files = 0;
-/** Global bytes count. */
-uint64_t num_bytes = 0;
+/** Options passed to --select-options. */
+struct select_args_info select_conf;
 
 /** The number of different uids found so far. */
 uint32_t num_uids = 0;
 
+/** This is always a power of two. It is set in create_hash_table(). */
+static uint32_t uid_hash_table_size;
+
 /**
  * Contains info for each user that owns at least one regular file.
  *
@@ -35,21 +35,23 @@ uint32_t num_uids = 0;
  * option occupy a slot in this hash table. This allows to find out
  * quicky whether a uid is admissible. And yes, this has to be fast.
  */
-struct user_info *uid_hash_table = NULL;
+static struct user_info *uid_hash_table;
+
+static inline int ui_used(struct user_info *ui)
+{
+       return ui->flags & UI_FL_SLOT_USED;
+}
+
+static inline int ui_admissible(struct user_info *ui)
+{
+       return ui->flags & UI_FL_ADMISSIBLE;
+}
 
 /**
  * The table containing the directory names and statistics.
  */
 struct osl_table *dir_table = NULL;
 
-/**
- * The array of all uid ranges that were given at the command line.
- */
-struct uid_range *admissible_uids;
-
-/** Evaluates to 1 if x < y, to -1 if x > y and to 0 if x == y. */
-#define NUM_COMPARE(x, y) ((int)((x) < (y)) - (int)((x) > (y)))
-
 /**
  * Compare the size of two directories
  *
@@ -162,61 +164,6 @@ static struct osl_column_description user_table_cols[] = {
        },
 };
 
-static int check_uid_arg(const char *arg, uint32_t *uid)
-{
-       const uint32_t max = ~0U;
-       /*
-        * we need an 64-bit int for string -> uid conversion because strtoll()
-        * returns a signed value.
-        */
-       int64_t val;
-       int ret = atoi64(arg, &val);
-
-       if (ret < 0)
-               return ret;
-       if (val < 0 || val > max)
-               return -ERRNO_TO_ERROR(EINVAL);
-       *uid = val;
-       return 1;
-}
-
-static int parse_uid_range(const char *orig_arg, struct uid_range *ur)
-{
-       int ret;
-       char *arg = adu_strdup(orig_arg), *p = strchr(arg, '-');
-
-       if (!p || p == arg) { /* -42 or 42 */
-               ret = check_uid_arg(p? p + 1 : arg, &ur->high);
-               if (ret < 0)
-                       goto out;
-               ur->low = p? 0 : ur->high;
-               ret = 1;
-               goto out;
-       }
-       /* 42- or 42-4711 */
-       *p = '\0';
-       p++;
-       ret = check_uid_arg(arg, &ur->low);
-       if (ret < 0)
-               goto out;
-       ur->high = ~0U;
-       if (*p) { /* 42-4711 */
-               ret = check_uid_arg(p, &ur->high);
-               if (ret < 0)
-                       goto out;
-       }
-       if (ur->low > ur->high)
-               ret = -ERRNO_TO_ERROR(EINVAL);
-out:
-       if (ret < 0)
-               ERROR_LOG("bad uid option: %s\n", orig_arg);
-       else
-               INFO_LOG("admissible uid range: %u - %u\n", ur->low,
-                       ur->high);
-       free(arg);
-       return ret;
-}
-
 /**
  * The log function.
  *
@@ -245,25 +192,6 @@ __printf_2_3 void __log(int ll, const char* fmt,...)
        va_end(argp);
 }
 
-static int add_directory(char *dirname, uint64_t *dir_num, uint64_t *parent_dir_num,
-               uint64_t *dir_size, uint64_t *dir_files)
-{
-       struct osl_object dir_objects[NUM_DT_COLUMNS];
-
-       INFO_LOG("adding #%llu: %s\n", (long long unsigned)*dir_num, dirname);
-       dir_objects[DT_NAME].data = dirname;
-       dir_objects[DT_NAME].size = strlen(dirname) + 1;
-       dir_objects[DT_NUM].data = dir_num;
-       dir_objects[DT_NUM].size = sizeof(*dir_num);
-       dir_objects[DT_PARENT_NUM].data = parent_dir_num;
-       dir_objects[DT_PARENT_NUM].size = sizeof(*parent_dir_num);
-       dir_objects[DT_BYTES].data = dir_size;
-       dir_objects[DT_BYTES].size = sizeof(*dir_size);
-       dir_objects[DT_FILES].data = dir_files;
-       dir_objects[DT_FILES].size = sizeof(*dir_files);
-       return osl(osl_add_row(dir_table, dir_objects));
-}
-
 static int open_user_table(struct user_info *ui, int create)
 {
        int ret;
@@ -304,15 +232,34 @@ err:
        return ret;
 }
 
-#define uid_hash_bits 8
-uint32_t uid_hash_table_size = 1 << uid_hash_bits;
-#define PRIME1 0x811c9dc5
+int for_each_admissible_user(int (*func)(struct user_info *, void *),
+               void *data)
+{
+       struct user_info *ui = uid_hash_table;
+
+       if (!ui)
+               return -ERRNO_TO_ERROR(EFAULT);
+
+       for (; ui < uid_hash_table + uid_hash_table_size; ui++) {
+               int ret;
+
+               if (!ui_used(ui) || !ui_admissible(ui))
+                       continue;
+               ret = func(ui, data);
+               if (ret < 0)
+                       return ret;
+       }
+       return 1;
+}
+
+#define PRIME1 0xb11924e1
 #define PRIME2 0x01000193
 
-void create_hash_table(void)
+void create_hash_table(unsigned bits)
 {
-       uid_hash_table = adu_calloc(uid_hash_table_size
-               * sizeof(struct user_info));
+       uid_hash_table_size = 1 << bits;
+       uid_hash_table = adu_calloc(uid_hash_table_size *
+               sizeof(struct user_info));
 }
 
 static void free_hash_table(void)
@@ -321,18 +268,6 @@ static void free_hash_table(void)
        uid_hash_table = NULL;
 }
 
-static int create_tables(void)
-{
-       int ret;
-
-       dir_table_desc.dir = adu_strdup(conf.database_dir_arg);
-       ret = osl(osl_create_table(&dir_table_desc));
-       if (ret < 0)
-               return ret;
-       create_hash_table();
-       return 1;
-}
-
 static void close_dir_table(void)
 {
        int ret;
@@ -346,12 +281,10 @@ static void close_dir_table(void)
        dir_table = NULL;
 }
 
-static void close_user_table(struct user_info *ui)
+static int close_user_table(struct user_info *ui, __a_unused void *data)
 {
        int ret;
 
-       if (!ui || !ui_used(ui) || !ui_admissible(ui))
-               return;
        ret = osl(osl_close_table(ui->table, OSL_MARK_CLEAN));
        if (ret < 0)
                ERROR_LOG("failed to close user table %u: %s\n",
@@ -366,14 +299,12 @@ static void close_user_table(struct user_info *ui)
        ui->desc = NULL;
        ui->table = NULL;
        ui->flags = 0;
+       return 1;
 }
 
 static void close_user_tables(void)
 {
-       struct user_info *ui;
-
-       FOR_EACH_USER(ui)
-               close_user_table(ui);
+       for_each_admissible_user(close_user_table, NULL);
 }
 
 void close_all_tables(void)
@@ -403,6 +334,8 @@ static int init_signals(void)
                return -E_SIGNAL_SIG_ERR;
        if (signal(SIGTERM, &signal_handler) == SIG_ERR)
                return -E_SIGNAL_SIG_ERR;
+       if (signal(SIGPIPE, &signal_handler) == SIG_ERR)
+               return -E_SIGNAL_SIG_ERR;
        return 1;
 }
 
@@ -428,24 +361,25 @@ static uint32_t double_hash(uint32_t uid, uint32_t probe_num)
                % uid_hash_table_size;
 }
 
-static int uid_is_admissible(uint32_t uid)
+static int uid_is_admissible(uint32_t uid, struct uid_range *urs)
 {
-       int i;
-
-       for (i = 0; i < conf.uid_given; i++) {
-               struct uid_range *ur = admissible_uids + i;
+       struct uid_range *ur;
+       int ret = 1;
 
+       if (!urs) /* empty array means all uids are allowed */
+               return 1;
+       FOR_EACH_UID_RANGE(ur, urs)
                if (ur->low <= uid && ur->high >= uid)
-                       break;
-       }
-       i = !conf.uid_given || i < conf.uid_given;
+                       goto out;
+       ret = 0;
+out:
        DEBUG_LOG("uid %u is %sadmissible\n", (unsigned)uid,
-               i? "" : "not ");
-       return i;
+               ret? "" : "not ");
+       return ret;
 }
 
-int search_uid(uint32_t uid, enum search_uid_flags flags,
-               struct user_info **ui_ptr)
+int search_uid(uint32_t uid, struct uid_range *urs,
+               enum search_uid_flags flags, struct user_info **ui_ptr)
 {
        uint32_t p;
 
@@ -458,7 +392,7 @@ int search_uid(uint32_t uid, enum search_uid_flags flags,
                                return -E_BAD_UID;
                        ui->uid = uid;
                        ui->flags |= UI_FL_SLOT_USED;
-                       if (!uid_is_admissible(uid))
+                       if (!uid_is_admissible(uid, urs))
                                return 0;
                        ui->flags |= UI_FL_ADMISSIBLE;
                        ret = open_user_table(ui, flags & CREATE_USER_TABLE);
@@ -478,189 +412,35 @@ int search_uid(uint32_t uid, enum search_uid_flags flags,
        return flags? -E_HASH_TABLE_OVERFLOW : -E_BAD_UID;
 }
 
-static int update_user_row(struct osl_table *t, uint64_t dir_num,
-               uint64_t *add)
-{
-       struct osl_row *row;
-       struct osl_object obj = {.data = &dir_num, .size = sizeof(dir_num)};
-
-       int ret = osl(osl_get_row(t, UT_DIR_NUM, &obj, &row));
-
-       if (ret == -E_OSL && osl_errno != E_OSL_RB_KEY_NOT_FOUND)
-               return ret;
-       if (ret < 0) { /* this is the first file we add */
-               struct osl_object objects[NUM_UT_COLUMNS];
-               uint64_t num_files = 1;
-
-               objects[UT_DIR_NUM].data = &dir_num;
-               objects[UT_DIR_NUM].size = sizeof(dir_num);
-               objects[UT_BYTES].data = add;
-               objects[UT_BYTES].size = sizeof(*add);
-               objects[UT_FILES].data = &num_files;
-               objects[UT_FILES].size = sizeof(num_files);
-               INFO_LOG("######################### ret: %d\n", ret);
-               ret = osl(osl_add_row(t, objects));
-               INFO_LOG("######################### ret: %d\n", ret);
-               return ret;
-       } else { /* add size and increment file count */
-               uint64_t num;
-               struct osl_object obj1, obj2 = {.data = &num, .size = sizeof(num)};
-
-               ret = osl(osl_get_object(t, row, UT_BYTES, &obj1));
-               if (ret < 0)
-                       return ret;
-               num = *(uint64_t *)obj1.data + *add;
-               ret = osl(osl_update_object(t, row, UT_BYTES, &obj2));
-               if (ret < 0)
-                       return ret;
-               ret = osl(osl_get_object(t, row, UT_FILES, &obj1));
-               if (ret < 0)
-                       return ret;
-               num = *(uint64_t *)obj1.data + 1;
-               return osl(osl_update_object(t, row, UT_FILES, &obj2));
-       }
-}
-
-/* id of the device containing the base dir. */
-static dev_t device_id;
-
-static int scan_dir(char *dirname, uint64_t *parent_dir_num)
-{
-       DIR *dir;
-       struct dirent *entry;
-       int ret, cwd_fd, ret2;
-       uint64_t dir_size = 0, dir_files = 0;
-       uint64_t this_dir_num = ++num_dirs;
-
-       check_signals();
-       DEBUG_LOG("----------------- %llu: %s\n", (long long unsigned)num_dirs, dirname);
-       ret = adu_opendir(dirname, &dir, &cwd_fd);
-       if (ret < 0) {
-               if (ret != -ERRNO_TO_ERROR(EACCES))
-                       return ret;
-               WARNING_LOG("permission denied for %s\n", dirname);
-               return 1;
-       }
-       while ((entry = readdir(dir))) {
-               mode_t m;
-               struct stat s;
-               uint32_t uid;
-               uint64_t size;
-               struct user_info *ui;
-
-               if (!strcmp(entry->d_name, "."))
-                       continue;
-               if (!strcmp(entry->d_name, ".."))
-                       continue;
-               if (lstat(entry->d_name, &s) == -1) {
-                       WARNING_LOG("lstat error for %s/%s\n", dirname,
-                               entry->d_name);
-                       continue;
-               }
-               m = s.st_mode;
-               if (!S_ISREG(m) && !S_ISDIR(m))
-                       continue;
-               if (S_ISDIR(m)) {
-                       if (conf.one_file_system_given && s.st_dev != device_id)
-                               continue;
-                       ret = scan_dir(entry->d_name, &this_dir_num);
-                       if (ret < 0)
-                               goto out;
-                       continue;
-               }
-               /* regular file */
-               size = s.st_size;
-               dir_size += size;
-               num_bytes += size;
-               dir_files++;
-               num_files++;
-               uid = s.st_uid;
-               ret = search_uid(uid, CREATE_USER_TABLE | OPEN_USER_TABLE, &ui);
-               if (ret < 0)
-                       goto out;
-               ui->bytes += size;
-               ui->files++;
-               ret = update_user_row(ui->table, this_dir_num, &size);
-               if (ret < 0)
-                       goto out;
-       }
-       ret = add_directory(dirname, &this_dir_num, parent_dir_num,
-                       &dir_size, &dir_files);
-out:
-       closedir(dir);
-       ret2 = adu_fchdir(cwd_fd);
-       if (ret2 < 0 && ret >= 0)
-               ret = ret2;
-       close(cwd_fd);
-       return ret;
-}
-
 char *get_uid_list_name(void)
 {
        return make_message("%s/uid_list", conf.database_dir_arg);
 }
 
-static int write_uid_list(void)
+void sort_hash_table(int (*comp)(const void *, const void *))
 {
-       char *buf, *filename;
-       uint32_t count = 0;
-       struct user_info *ui;
-       size_t size = num_uids * sizeof(uint32_t);
-       int ret;
-
-       if (!num_uids)
-               return 0;
-       buf = adu_malloc(size);
-       FOR_EACH_USER(ui) {
-               if (!ui_used(ui) || !ui_admissible(ui))
-                       continue;
-               DEBUG_LOG("saving uid %u\n", (unsigned) ui->uid);
-               write_u32(buf + count++ * sizeof(uint32_t), ui->uid);
-       }
-       filename = get_uid_list_name();
-       ret = adu_write_file(filename, buf, size);
-       free(filename);
-       free(buf);
-       return ret;
+       qsort(uid_hash_table, uid_hash_table_size, sizeof(struct user_info),
+               comp);
 }
 
-int open_dir_table(void)
+int open_dir_table(int create)
 {
-       if (!dir_table_desc.dir) /* we did not create the table */
-               dir_table_desc.dir = adu_strdup(conf.database_dir_arg);
+       dir_table_desc.dir = adu_strdup(conf.database_dir_arg);
+
+       if (create) {
+               int ret = osl(osl_create_table(&dir_table_desc));
+               if (ret < 0) {
+                       free((char *)dir_table_desc.dir);
+                       return ret;
+               }
+       }
        return osl(osl_open_table(&dir_table_desc, &dir_table));
 }
-static int com_create()
-{
-       uint64_t zero = 0ULL;
-       int ret;
-       struct stat statbuf;
-
-       if (lstat(conf.base_dir_arg, &statbuf) == -1)
-               return -ERRNO_TO_ERROR(errno);
-       if (!S_ISDIR(statbuf.st_mode))
-               return -ERRNO_TO_ERROR(ENOTDIR);
-       device_id = statbuf.st_dev;
-       ret = create_tables();
-       if (ret < 0)
-               return ret;
-       check_signals();
-       ret = open_dir_table();
-       if (ret < 0)
-               return ret;
-       check_signals();
-       ret = scan_dir(conf.base_dir_arg, &zero);
-       if (ret < 0)
-               goto out;
-       ret = write_uid_list();
-out:
-       close_all_tables();
-       return ret;
-}
 
 static int check_args(void)
 {
-       int i, ret;
+       if (conf.create_given && !conf.base_dir_given)
+               return -E_SYNTAX;
 
        /* remove trailing slashes from base-dir arg */
        if (conf.base_dir_given) {
@@ -675,19 +455,7 @@ static int check_args(void)
                        conf.base_dir_arg[len] = '\0';
                }
        }
-       if (!conf.uid_given)
-               return 0;
-       admissible_uids = adu_malloc(conf.uid_given * sizeof(*admissible_uids));
-       for (i = 0; i < conf.uid_given; i++) {
-               ret = parse_uid_range(conf.uid_arg[i], admissible_uids + i);
-               if (ret < 0)
-                       goto err;
-       }
        return 1;
-err:
-       free(admissible_uids);
-       admissible_uids = NULL;
-       return ret;
 }
 
 int main(int argc, char **argv)
@@ -696,27 +464,28 @@ int main(int argc, char **argv)
        struct cmdline_parser_params params = {
                .override = 0,
                .initialize = 1,
-               .check_required = 0,
-               .check_ambiguity = 0,
+               .check_required = 1,
+               .check_ambiguity = 1,
                .print_errors = 1
        };
 
        cmdline_parser_ext(argc, argv, &conf, &params); /* aborts on errors */
-       ret = init_signals();
+       ret = check_args();
        if (ret < 0)
                goto out;
-       ret = check_args();
+       ret = init_signals();
        if (ret < 0)
                goto out;
        ret = -E_SYNTAX;
        if (conf.select_given)
                ret = com_select();
-       else
+       else if (conf.create_given)
                ret = com_create();
+       else
+               ret = com_interactive();
        if (ret < 0)
                goto out;
 out:
-       free(admissible_uids);
        if (ret < 0) {
                ERROR_LOG("%s\n", adu_strerror(-ret));
                return -EXIT_FAILURE;