]> Sergey Matveev's repositories - public-inbox.git/blob - t/indexlevels-mirror.t
27533546e4c4a320bb9cf3bad3deeb79e3b7228d
[public-inbox.git] / t / indexlevels-mirror.t
1 # Copyright (C) 2019-2020 all contributors <meta@public-inbox.org>
2 # License: AGPL-3.0+ <https://www.gnu.org/licenses/agpl-3.0.txt>
3 use strict;
4 use warnings;
5 use Test::More;
6 use PublicInbox::Eml;
7 use PublicInbox::Inbox;
8 use PublicInbox::InboxWritable;
9 use PublicInbox::Spawn qw(which);
10 require PublicInbox::Admin;
11 use PublicInbox::TestCommon;
12 my $PI_TEST_VERSION = $ENV{PI_TEST_VERSION} || 2;
13 require_git('2.6') if $PI_TEST_VERSION == 2;
14 require_mods(qw(DBD::SQLite));
15 my $have_xapian_compact = which($ENV{XAPIAN_COMPACT} || 'xapian-compact');
16
17 my $mime = PublicInbox::Eml->new(<<'EOF');
18 From: a@example.com
19 To: test@example.com
20 Subject: this is a subject
21 Date: Fri, 02 Oct 1993 00:00:00 +0000
22
23 hello world
24 EOF
25
26 my $import_index_incremental = sub {
27         my ($v, $level, $mime) = @_;
28         my $err = '';
29         my $this = "pi-$v-$level-indexlevels";
30         my ($tmpdir, $for_destroy) = tmpdir();
31         local $ENV{PI_CONFIG} = "$tmpdir/config";
32         my $ibx = PublicInbox::Inbox->new({
33                 inboxdir => "$tmpdir/testbox",
34                 name => $this,
35                 version => $v,
36                 -primary_address => 'test@example.com',
37                 indexlevel => $level,
38         });
39         my $im = PublicInbox::InboxWritable->new($ibx, {nproc=>1})->importer(0);
40         $mime->header_set('Message-ID', '<m@1>');
41         ok($im->add($mime), 'first message added');
42         $im->done;
43
44         # index master (required for v1)
45         my @cmd = (qw(-index -j0), $ibx->{inboxdir}, "-L$level");
46         push @cmd, '-c' if $have_xapian_compact;
47         ok(run_script(\@cmd, undef, { 2 => \$err }), 'index master');
48         my $ro_master = PublicInbox::Inbox->new({
49                 inboxdir => $ibx->{inboxdir},
50                 indexlevel => $level
51         });
52         my $msgs = $ro_master->recent;
53         is(scalar(@$msgs), 1, 'only one message in master, so far');
54         is($msgs->[0]->{mid}, 'm@1', 'first message in master indexed');
55
56         # clone
57         @cmd = (qw(git clone --mirror -q));
58         my $mirror = "$tmpdir/mirror-$v";
59         if ($v == 1) {
60                 push @cmd, $ibx->{inboxdir}, $mirror;
61         } else {
62                 push @cmd, "$ibx->{inboxdir}/git/0.git", "$mirror/git/0.git";
63         }
64         my $fetch_dir = $cmd[-1];
65         is(xsys(@cmd), 0, "v$v clone OK");
66
67         # inbox init
68         local $ENV{PI_CONFIG} = "$tmpdir/.picfg";
69         @cmd = ('-init', '-L', $level,
70                 'mirror', $mirror, '//example.com/test', 'test@example.com');
71         push @cmd, '-V2' if $v == 2;
72         ok(run_script(\@cmd), "v$v init OK");
73
74         # index mirror
75         ok(run_script([qw(-index -j0), $mirror]), "v$v index mirror OK");
76
77         # read-only access
78         my $ro_mirror = PublicInbox::Inbox->new({
79                 inboxdir => $mirror,
80                 indexlevel => $level,
81         });
82         $msgs = $ro_mirror->recent;
83         is(scalar(@$msgs), 1, 'only one message, so far');
84         is($msgs->[0]->{mid}, 'm@1', 'read first message');
85
86         # update master
87         $mime->header_set('Message-ID', '<m@2>');
88         ok($im->add($mime), '2nd message added');
89         $im->done;
90
91         # mirror updates
92         is(xsys('git', "--git-dir=$fetch_dir", qw(fetch -q)), 0, 'fetch OK');
93         ok(run_script([qw(-index -j0), $mirror]), "v$v index mirror again OK");
94         $msgs = $ro_mirror->recent;
95         is(scalar(@$msgs), 2, '2nd message seen in mirror');
96         is_deeply([sort { $a cmp $b } map { $_->{mid} } @$msgs],
97                 ['m@1','m@2'], 'got both messages in mirror');
98
99         # incremental index master (required for v1)
100         ok(run_script([qw(-index -j0), $ibx->{inboxdir}, "-L$level"]),
101                 'index master OK');
102         $msgs = $ro_master->recent;
103         is(scalar(@$msgs), 2, '2nd message seen in master');
104         is_deeply([sort { $a cmp $b } map { $_->{mid} } @$msgs],
105                 ['m@1','m@2'], 'got both messages in master');
106
107         my @rw_nums = map { $_->{num} } @{$ibx->over->query_ts(0, 0)};
108         is_deeply(\@rw_nums, [1, 2], 'master has expected NNTP articles');
109
110         my @ro_nums = map { $_->{num} } @{$ro_mirror->over->query_ts(0, 0)};
111         is_deeply(\@ro_nums, [1, 2], 'mirror has expected NNTP articles');
112
113         # remove message from master
114         ok($im->remove($mime), '2nd message removed');
115         $im->done;
116         @rw_nums = map { $_->{num} } @{$ibx->over->query_ts(0, 0)};
117         is_deeply(\@rw_nums, [1], 'unindex NNTP article'.$v.$level);
118
119         if ($level ne 'basic') {
120                 ok(run_script(['-xcpdb', '-q', $mirror]), "v$v xcpdb OK");
121                 is(PublicInbox::Admin::detect_indexlevel($ro_mirror), $level,
122                    'indexlevel detectable by Admin after xcpdb v' .$v.$level);
123                 delete $ro_mirror->{$_} for (qw(over search));
124                 $msgs = $ro_mirror->search->query('m:m@2');
125                 is(scalar(@$msgs), 1, "v$v found m\@2 via Xapian on $level");
126         }
127
128         # sync the mirror
129         is(xsys('git', "--git-dir=$fetch_dir", qw(fetch -q)), 0, 'fetch OK');
130         ok(run_script([qw(-index -j0), $mirror]), "v$v index mirror again OK");
131         $msgs = $ro_mirror->recent;
132         is(scalar(@$msgs), 1, '2nd message gone from mirror');
133         is_deeply([map { $_->{mid} } @$msgs], ['m@1'],
134                 'message unavailable in mirror');
135
136         if ($v == 2 && $level eq 'basic') {
137                 is_deeply([glob("$ibx->{inboxdir}/xap*/?/")], [],
138                          'no Xapian shard directories for v2 basic');
139         }
140         if ($level ne 'basic') {
141                 $msgs = $ro_mirror->search->reopen->query('m:m@2');
142                 is(scalar(@$msgs), 0,
143                         "v$v m\@2 gone from Xapian in mirror on $level");
144         }
145
146         # add another message to master and have the mirror
147         # sync and reindex it
148         my @expect = map { $_->{num} } @{$ibx->over->query_ts(0, 0)};
149         foreach my $i (3..5) {
150                 $mime->header_set('Message-ID', "<m\@$i>");
151                 ok($im->add($mime), "#$i message added");
152                 push @expect, $i;
153         }
154         $im->done;
155         is(xsys('git', "--git-dir=$fetch_dir", qw(fetch -q)), 0, 'fetch OK');
156         ok(run_script([qw(-index -j0 --reindex), $mirror]),
157                 "v$v index --reindex mirror OK");
158         @ro_nums = map { $_->{num} } @{$ro_mirror->over->query_ts(0, 0)};
159         @rw_nums = map { $_->{num} } @{$ibx->over->query_ts(0, 0)};
160         is_deeply(\@rw_nums, \@expect, "v$v master has expected NNTP articles");
161         is_deeply(\@ro_nums, \@expect, "v$v mirror matches master articles");
162
163         is(PublicInbox::Admin::detect_indexlevel($ro_mirror), $level,
164            'indexlevel detectable by Admin '.$v.$level);
165
166         SKIP: {
167                 skip 'xapian-compact missing', 1 if !$have_xapian_compact;
168                 my $cmd = [ qw(-compact), $mirror ];
169                 ok(run_script($cmd, undef, { 2 => \$err}), "compact $level");
170         }
171 };
172
173 # we can probably cull some other tests
174 $import_index_incremental->($PI_TEST_VERSION, 'basic', $mime);
175
176 SKIP: {
177         require PublicInbox::Search;
178         PublicInbox::Search::load_xapian() or
179                 skip('Xapian perl binding missing', 2);
180         foreach my $l (qw(medium full)) {
181                 $import_index_incremental->($PI_TEST_VERSION, $l, $mime);
182         }
183 }
184
185 done_testing();