]> Sergey Matveev's repositories - public-inbox.git/blobdiff - t/indexlevels-mirror.t
config: support "inboxdir" in addition to "mainrepo"
[public-inbox.git] / t / indexlevels-mirror.t
index 57a776f7c84f2c467c340b6456581907d805eb9f..40afe4e9e7f9234111f1d34247f5fc349c0d6215 100644 (file)
@@ -7,13 +7,14 @@ use PublicInbox::MIME;
 use PublicInbox::Inbox;
 use PublicInbox::InboxWritable;
 use File::Temp qw/tempdir/;
+require PublicInbox::Admin;
 require './t/common.perl';
-require_git(2.6);
-my $this = (split('/', __FILE__))[-1];
+my $PI_TEST_VERSION = $ENV{PI_TEST_VERSION} || 2;
+require_git('2.6') if $PI_TEST_VERSION == 2;
 
 foreach my $mod (qw(DBD::SQLite)) {
        eval "require $mod";
-       plan skip_all => "$mod missing for $this" if $@;
+       plan skip_all => "$mod missing for $0" if $@;
 }
 
 my $path = 'blib/script';
@@ -32,10 +33,11 @@ my $mime = PublicInbox::MIME->create(
 
 sub import_index_incremental {
        my ($v, $level) = @_;
-       my $tmpdir = tempdir("pi-$this-tmp-XXXXXX", TMPDIR => 1, CLEANUP => 1);
+       my $this = "pi-$v-$level-indexlevels";
+       my $tmpdir = tempdir("$this-tmp-XXXXXX", TMPDIR => 1, CLEANUP => 1);
        my $ibx = PublicInbox::Inbox->new({
-               mainrepo => "$tmpdir/testbox",
-               name => "$this-$v",
+               inboxdir => "$tmpdir/testbox",
+               name => $this,
                version => $v,
                -primary_address => 'test@example.com',
                indexlevel => $level,
@@ -46,9 +48,9 @@ sub import_index_incremental {
        $im->done;
 
        # index master (required for v1)
-       is(system($index, $ibx->{mainrepo}, "-L$level"), 0, 'index master OK');
+       is(system($index, $ibx->{inboxdir}, "-L$level"), 0, 'index master OK');
        my $ro_master = PublicInbox::Inbox->new({
-               mainrepo => $ibx->{mainrepo},
+               inboxdir => $ibx->{inboxdir},
                indexlevel => $level
        });
        my ($nr, $msgs) = $ro_master->recent;
@@ -59,9 +61,9 @@ sub import_index_incremental {
        my @cmd = (qw(git clone --mirror -q));
        my $mirror = "$tmpdir/mirror-$v";
        if ($v == 1) {
-               push @cmd, $ibx->{mainrepo}, $mirror;
+               push @cmd, $ibx->{inboxdir}, $mirror;
        } else {
-               push @cmd, "$ibx->{mainrepo}/git/0.git", "$mirror/git/0.git";
+               push @cmd, "$ibx->{inboxdir}/git/0.git", "$mirror/git/0.git";
        }
        my $fetch_dir = $cmd[-1];
        is(system(@cmd), 0, "v$v clone OK");
@@ -78,8 +80,8 @@ sub import_index_incremental {
 
        # read-only access
        my $ro_mirror = PublicInbox::Inbox->new({
-               mainrepo => $mirror,
-               indexlevel => 'basic'
+               inboxdir => $mirror,
+               indexlevel => $level,
        });
        ($nr, $msgs) = $ro_mirror->recent;
        is($nr, 1, 'only one message, so far');
@@ -99,18 +101,28 @@ sub import_index_incremental {
                ['m@1','m@2'], 'got both messages in mirror');
 
        # incremental index master (required for v1)
-       is(system($index, $ibx->{mainrepo}, "-L$level"), 0, 'index master OK');
+       is(system($index, $ibx->{inboxdir}, "-L$level"), 0, 'index master OK');
        ($nr, $msgs) = $ro_master->recent;
        is($nr, 2, '2nd message seen in master');
        is_deeply([sort { $a cmp $b } map { $_->{mid} } @$msgs],
                ['m@1','m@2'], 'got both messages in master');
 
+       my @rw_nums = map { $_->{num} } @{$ibx->over->query_ts(0, 0)};
+       is_deeply(\@rw_nums, [1, 2], 'master has expected NNTP articles');
+
+       my @ro_nums = map { $_->{num} } @{$ro_mirror->over->query_ts(0, 0)};
+       is_deeply(\@ro_nums, [1, 2], 'mirror has expected NNTP articles');
+
        # remove message from master
        ok($im->remove($mime), '2nd message removed');
        $im->done;
+       @rw_nums = map { $_->{num} } @{$ibx->over->query_ts(0, 0)};
+       is_deeply(\@rw_nums, [1], 'unindex NNTP article'.$v.$level);
 
        if ($level ne 'basic') {
                is(system(@xcpdb, $mirror), 0, "v$v xcpdb OK");
+               is(PublicInbox::Admin::detect_indexlevel($ro_mirror), $level,
+                  'indexlevel detectable by Admin after xcpdb v' .$v.$level);
                delete $ro_mirror->{$_} for (qw(over search));
                ($nr, $msgs) = $ro_mirror->search->query('m:m@2');
                is($nr, 1, "v$v found m\@2 via Xapian on $level");
@@ -125,31 +137,43 @@ sub import_index_incremental {
                'message unavailable in mirror');
 
        if ($v == 2 && $level eq 'basic') {
-               is_deeply([glob("$ibx->{mainrepo}/xap*/?/")], [],
-                        'no Xapian partition directories for v2 basic');
+               is_deeply([glob("$ibx->{inboxdir}/xap*/?/")], [],
+                        'no Xapian shard directories for v2 basic');
        }
        if ($level ne 'basic') {
                ($nr, $msgs) = $ro_mirror->search->reopen->query('m:m@2');
                is($nr, 0, "v$v m\@2 gone from Xapian in mirror on $level");
        }
-}
 
-# we can probably cull some other tests and put full/medium tests, here
-for my $level (qw(basic)) {
-       for my $v (1..2) {
-               subtest("v$v indexlevel=$level" => sub {
-                       import_index_incremental($v, $level);
-               })
+       # add another message to master and have the mirror
+       # sync and reindex it
+       my @expect = map { $_->{num} } @{$ibx->over->query_ts(0, 0)};
+       foreach my $i (3..5) {
+               $mime->header_set('Message-ID', "<m\@$i>");
+               ok($im->add($mime), "#$i message added");
+               push @expect, $i;
        }
+       $im->done;
+       is(system('git', "--git-dir=$fetch_dir", qw(fetch -q)), 0, 'fetch OK');
+       is(system($index, '--reindex', $mirror), 0,
+               "v$v index --reindex mirror OK");
+       @ro_nums = map { $_->{num} } @{$ro_mirror->over->query_ts(0, 0)};
+       @rw_nums = map { $_->{num} } @{$ibx->over->query_ts(0, 0)};
+       is_deeply(\@rw_nums, \@expect, "v$v master has expected NNTP articles");
+       is_deeply(\@ro_nums, \@expect, "v$v mirror matches master articles");
+
+       is(PublicInbox::Admin::detect_indexlevel($ro_mirror), $level,
+          'indexlevel detectable by Admin '.$v.$level);
 }
 
+# we can probably cull some other tests
+import_index_incremental($PI_TEST_VERSION, 'basic');
+
 SKIP: {
        require PublicInbox::Search;
        PublicInbox::Search::load_xapian() or skip 'Search::Xapian missing', 2;
-       for my $v (1..2) {
-               subtest("v$v indexlevel=medium" => sub {
-                       import_index_incremental($v, 'medium');
-               })
+       foreach my $l (qw(medium full)) {
+               import_index_incremental($PI_TEST_VERSION, $l);
        }
 }