]> Sergey Matveev's repositories - public-inbox.git/commitdiff
lei_store: fix locking w.r.t epoch creation
authorEric Wong <e@80x24.org>
Thu, 29 Apr 2021 19:49:57 +0000 (19:49 +0000)
committerEric Wong <e@80x24.org>
Fri, 30 Apr 2021 06:41:37 +0000 (06:41 +0000)
Prior to this change, it was possible for oneshot lei processes
to race on epoch creation/rollover.  lei-daemon normally
prevents the problem by funnelling all writes to a single
socket, but oneshot lei has no such protection.

lib/PublicInbox/ExtSearchIdx.pm
lib/PublicInbox/LeiStore.pm

index 9d6b3b9dc99bee09a318fc609373c7dd90f49137..08f2295aa7316fdddf949071ddeb57a18c53cd47 100644 (file)
@@ -926,7 +926,7 @@ sub update_last_commit { # overrides V2Writable
 
 sub _idx_init { # with_umask callback
        my ($self, $opt) = @_;
-       PublicInbox::V2Writable::_idx_init($self, $opt);
+       PublicInbox::V2Writable::_idx_init($self, $opt); # acquires ei.lock
        $self->{midx} = PublicInbox::MiscIdx->new($self);
 }
 
index fcc9224d4644d7c2c6d97a96a99128155539c329..8af740fdf6e9b3e30ef251764c941354ef5a3785 100644 (file)
@@ -88,6 +88,7 @@ sub importer {
                $self->checkpoint;
                $max = $self->git_epoch_max + 1;
        }
+       my (undef, $tl) = eidx_init($self); # acquire lock
        my $pfx = $self->git_pfx;
        $max //= $self->git_epoch_max;
        while (1) {
@@ -97,7 +98,9 @@ sub importer {
                my $git = PublicInbox::Git->new($latest);
                if (!$old) {
                        $git->qx(qw(config core.sharedRepository 0600));
-                       $self->done; # force eidx_init on next round
+                       $self->done; # unlock
+                       # re-acquire lock, update alternates for new epoch
+                       (undef, $tl) = eidx_init($self);
                }
                my $packed_bytes = $git->packed_bytes;
                my $unpacked_bytes = $packed_bytes / $self->packing_factor;
@@ -130,7 +133,7 @@ sub eidx_init {
        my $tl = wantarray && $self->{-err_wr} ?
                        PublicInbox::OnDestroy->new($$, \&_tail_err, $self) :
                        undef;
-       $eidx->idx_init({-private => 1});
+       $eidx->idx_init({-private => 1}); # acquires lock
        wantarray ? ($eidx, $tl) : $eidx;
 }
 
@@ -204,7 +207,7 @@ sub set_sync_info ($$$) {
 sub add_eml {
        my ($self, $eml, $vmd, $xoids) = @_;
        my $im = $self->importer; # may create new epoch
-       my ($eidx, $tl) = eidx_init($self); # updates/writes alternates file
+       my ($eidx, $tl) = eidx_init($self);
        my $oidx = $eidx->{oidx}; # PublicInbox::Import::add checks this
        my $smsg = bless { -oidx => $oidx }, 'PublicInbox::Smsg';
        my $im_mark = $im->add($eml, undef, $smsg);