lib/PublicInbox/LeiQuery.pm

   1 # Copyright (C) 2021 all contributors <meta@public-inbox.org>
   2 # License: AGPL-3.0+ <https://www.gnu.org/licenses/agpl-3.0.txt>
   3
   4 # handles lei <q|ls-query|rm-query|mv-query> commands
   5 package PublicInbox::LeiQuery;
   6 use strict;
   7 use v5.10.1;
   8 use PublicInbox::DS qw(dwaitpid);
   9
  10 sub _vivify_external { # _externals_each callback
  11         my ($src, $dir) = @_;
  12         if (-f "$dir/ei.lock") {
  13                 require PublicInbox::ExtSearch;
  14                 push @$src, PublicInbox::ExtSearch->new($dir);
  15         } elsif (-f "$dir/inbox.lock" || -d "$dir/public-inbox") { # v2, v1
  16                 require PublicInbox::Inbox;
  17                 push @$src, bless { inboxdir => $dir }, 'PublicInbox::Inbox';
  18         } else {
  19                 warn "W: ignoring $dir, unable to determine type\n";
  20         }
  21 }
  22
  23 # the main "lei q SEARCH_TERMS" method
  24 sub lei_q {
  25         my ($self, @argv) = @_;
  26         require PublicInbox::LeiXSearch;
  27         require PublicInbox::LeiOverview;
  28         PublicInbox::Config->json; # preload before forking
  29         my $opt = $self->{opt};
  30         my @srcs; # any number of LeiXSearch || LeiSearch || Inbox
  31         if ($opt->{'local'} //= 1) { # --local is enabled by default
  32                 my $sto = $self->_lei_store(1);
  33                 push @srcs, $sto->search;
  34         }
  35         my $lxs = PublicInbox::LeiXSearch->new;
  36
  37         # --external is enabled by default, but allow --no-external
  38         if ($opt->{external} // 1) {
  39                 $self->_externals_each(\&_vivify_external, \@srcs);
  40         }
  41         my $j = $opt->{jobs} // (scalar(@srcs) > 3 ? 3 : scalar(@srcs));
  42         $j = 1 if !$opt->{thread};
  43         $self->atfork_prepare_wq($lxs);
  44         $lxs->wq_workers_start('lei_xsearch', $j, $self->oldset);
  45         $self->{lxs} = $lxs;
  46
  47         my $ovv = PublicInbox::LeiOverview->new($self) or return;
  48         if (my $l2m = $self->{l2m}) {
  49                 $j = 4 if $j <= 4; # TODO configurable
  50                 $self->atfork_prepare_wq($l2m);
  51                 $l2m->wq_workers_start('lei2mail', $j, $self->oldset);
  52         }
  53         # no forking workers after this
  54
  55         my %mset_opt = map { $_ => $opt->{$_} } qw(thread limit offset);
  56         $mset_opt{asc} = $opt->{'reverse'} ? 1 : 0;
  57         $mset_opt{qstr} = join(' ', map {;
  58                 # Consider spaces in argv to be for phrase search in Xapian.
  59                 # In other words, the users should need only care about
  60                 # normal shell quotes and not have to learn Xapian quoting.
  61                 /\s/ ? (s/\A(\w+:)// ? qq{$1"$_"} : qq{"$_"}) : $_
  62         } @argv);
  63         if (defined(my $sort = $opt->{'sort'})) {
  64                 if ($sort eq 'relevance') {
  65                         $mset_opt{relevance} = 1;
  66                 } elsif ($sort eq 'docid') {
  67                         $mset_opt{relevance} = $mset_opt{asc} ? -1 : -2;
  68                 } elsif ($sort =~ /\Areceived(?:-?[aA]t)?\z/) {
  69                         # the default
  70                 } else {
  71                         die "unrecognized --sort=$sort\n";
  72                 }
  73         }
  74         # descending docid order
  75         $mset_opt{relevance} //= -2 if $opt->{thread};
  76         $self->{mset_opt} = \%mset_opt;
  77         $ovv->ovv_begin($self);
  78         $lxs->do_query($self, \@srcs);
  79 }
  80
  81 1;