t/indexlevels-mirror.t

   1 # Copyright (C) 2019 all contributors <meta@public-inbox.org>
   2 # License: AGPL-3.0+ <https://www.gnu.org/licenses/agpl-3.0.txt>
   3 use strict;
   4 use warnings;
   5 use Test::More;
   6 use PublicInbox::MIME;
   7 use PublicInbox::Inbox;
   8 use PublicInbox::InboxWritable;
   9 use File::Temp qw/tempdir/;
  10 require './t/common.perl';
  11 require_git(2.6);
  12 my $this = (split('/', __FILE__))[-1];
  13
  14 foreach my $mod (qw(DBD::SQLite)) {
  15         eval "require $mod";
  16         plan skip_all => "$mod missing for $this" if $@;
  17 }
  18
  19 my $path = 'blib/script';
  20 my $index = "$path/public-inbox-index";
  21 my @xcpdb = ("$path/public-inbox-xcpdb", '-q');
  22
  23 my $mime = PublicInbox::MIME->create(
  24         header => [
  25                 From => 'a@example.com',
  26                 To => 'test@example.com',
  27                 Subject => 'this is a subject',
  28                 Date => 'Fri, 02 Oct 1993 00:00:00 +0000',
  29         ],
  30         body => "hello world\n",
  31 );
  32
  33 sub import_index_incremental {
  34         my ($v, $level) = @_;
  35         my $tmpdir = tempdir("pi-$this-tmp-XXXXXX", TMPDIR => 1, CLEANUP => 1);
  36         my $ibx = PublicInbox::Inbox->new({
  37                 mainrepo => "$tmpdir/testbox",
  38                 name => "$this-$v",
  39                 version => $v,
  40                 -primary_address => 'test@example.com',
  41                 indexlevel => $level,
  42         });
  43         my $im = PublicInbox::InboxWritable->new($ibx, {nproc=>1})->importer;
  44         $mime->header_set('Message-ID', '<m@1>');
  45         ok($im->add($mime), 'first message added');
  46         $im->done;
  47
  48         # index master (required for v1)
  49         is(system($index, $ibx->{mainrepo}, "-L$level"), 0, 'index master OK');
  50         my $ro_master = PublicInbox::Inbox->new({
  51                 mainrepo => $ibx->{mainrepo},
  52                 indexlevel => $level
  53         });
  54         my ($nr, $msgs) = $ro_master->recent;
  55         is($nr, 1, 'only one message in master, so far');
  56         is($msgs->[0]->{mid}, 'm@1', 'first message in master indexed');
  57
  58         # clone
  59         my @cmd = (qw(git clone --mirror -q));
  60         my $mirror = "$tmpdir/mirror-$v";
  61         if ($v == 1) {
  62                 push @cmd, $ibx->{mainrepo}, $mirror;
  63         } else {
  64                 push @cmd, "$ibx->{mainrepo}/git/0.git", "$mirror/git/0.git";
  65         }
  66         my $fetch_dir = $cmd[-1];
  67         is(system(@cmd), 0, "v$v clone OK");
  68
  69         # inbox init
  70         local $ENV{PI_CONFIG} = "$tmpdir/.picfg";
  71         @cmd = ("$path/public-inbox-init", '-L', $level,
  72                 'mirror', $mirror, '//example.com/test', 'test@example.com');
  73         push @cmd, '-V2' if $v == 2;
  74         is(system(@cmd), 0, "v$v init OK");
  75
  76         # index mirror
  77         is(system($index, $mirror), 0, "v$v index mirror OK");
  78
  79         # read-only access
  80         my $ro_mirror = PublicInbox::Inbox->new({
  81                 mainrepo => $mirror,
  82                 indexlevel => 'basic'
  83         });
  84         ($nr, $msgs) = $ro_mirror->recent;
  85         is($nr, 1, 'only one message, so far');
  86         is($msgs->[0]->{mid}, 'm@1', 'read first message');
  87
  88         # update master
  89         $mime->header_set('Message-ID', '<m@2>');
  90         ok($im->add($mime), '2nd message added');
  91         $im->done;
  92
  93         # mirror updates
  94         is(system('git', "--git-dir=$fetch_dir", qw(fetch -q)), 0, 'fetch OK');
  95         is(system($index, $mirror), 0, "v$v index mirror again OK");
  96         ($nr, $msgs) = $ro_mirror->recent;
  97         is($nr, 2, '2nd message seen in mirror');
  98         is_deeply([sort { $a cmp $b } map { $_->{mid} } @$msgs],
  99                 ['m@1','m@2'], 'got both messages in mirror');
 100
 101         # incremental index master (required for v1)
 102         is(system($index, $ibx->{mainrepo}, "-L$level"), 0, 'index master OK');
 103         ($nr, $msgs) = $ro_master->recent;
 104         is($nr, 2, '2nd message seen in master');
 105         is_deeply([sort { $a cmp $b } map { $_->{mid} } @$msgs],
 106                 ['m@1','m@2'], 'got both messages in master');
 107
 108         # remove message from master
 109         ok($im->remove($mime), '2nd message removed');
 110         $im->done;
 111
 112         if ($level ne 'basic') {
 113                 is(system(@xcpdb, $mirror), 0, "v$v xcpdb OK");
 114                 delete $ro_mirror->{$_} for (qw(over search));
 115                 ($nr, $msgs) = $ro_mirror->search->query('m:m@2');
 116                 is($nr, 1, "v$v found m\@2 via Xapian on $level");
 117         }
 118
 119         # sync the mirror
 120         is(system('git', "--git-dir=$fetch_dir", qw(fetch -q)), 0, 'fetch OK');
 121         is(system($index, $mirror), 0, "v$v index mirror again OK");
 122         ($nr, $msgs) = $ro_mirror->recent;
 123         is($nr, 1, '2nd message gone from mirror');
 124         is_deeply([map { $_->{mid} } @$msgs], ['m@1'],
 125                 'message unavailable in mirror');
 126
 127         if ($v == 2 && $level eq 'basic') {
 128                 is_deeply([glob("$ibx->{mainrepo}/xap*/?/")], [],
 129                          'no Xapian partition directories for v2 basic');
 130         }
 131         if ($level ne 'basic') {
 132                 ($nr, $msgs) = $ro_mirror->search->reopen->query('m:m@2');
 133                 is($nr, 0, "v$v m\@2 gone from Xapian in mirror on $level");
 134         }
 135 }
 136
 137 # we can probably cull some other tests and put full/medium tests, here
 138 for my $level (qw(basic)) {
 139         for my $v (1..2) {
 140                 subtest("v$v indexlevel=$level" => sub {
 141                         import_index_incremental($v, $level);
 142                 })
 143         }
 144 }
 145
 146 SKIP: {
 147         require PublicInbox::Search;
 148         PublicInbox::Search::load_xapian() or skip 'Search::Xapian missing', 2;
 149         for my $v (1..2) {
 150                 subtest("v$v indexlevel=medium" => sub {
 151                         import_index_incremental($v, 'medium');
 152                 })
 153         }
 154 }
 155
 156 done_testing();