]> Sergey Matveev's repositories - public-inbox.git/blobdiff - lib/PublicInbox/LeiInput.pm
imap+nntp: share COMPRESS implementation
[public-inbox.git] / lib / PublicInbox / LeiInput.pm
index 88889f45cbd1ca964c0a1bc6da45db1125530617..a1dcc907252f47d7716a83e799e2912a34be2416 100644 (file)
@@ -8,6 +8,7 @@ use v5.10.1;
 use PublicInbox::DS;
 use PublicInbox::Spawn qw(which popen_rd);
 use PublicInbox::InboxWritable qw(eml_from_path);
+use PublicInbox::AutoReap;
 
 # JMAP RFC 8621 4.1.1
 # https://www.iana.org/assignments/imap-jmap-keywords/imap-jmap-keywords.xhtml
@@ -29,7 +30,7 @@ my %ERR = (
                my ($label) = @_;
                length($label) >= $L_MAX and
                        return "`$label' too long (must be <= $L_MAX)";
-               $label =~ m{\A[a-z0-9_](?:[a-z0-9_\-\./\@,]*[a-z0-9])?\z}i ?
+               $label =~ m{\A[a-z0-9_](?:[a-z0-9_\-\./\@,]*[a-z0-9])?\z} ?
                        undef : "`$label' is invalid";
        },
        kw => sub {
@@ -57,13 +58,29 @@ sub check_input_format ($;$) {
        1;
 }
 
+sub input_mbox_cb { # base MboxReader callback
+       my ($eml, $self) = @_;
+       $eml->header_set($_) for (qw(Status X-Status));
+       $self->input_eml_cb($eml);
+}
+
+sub input_maildir_cb {
+       my ($fn, $kw, $eml, $self) = @_;
+       $self->input_eml_cb($eml);
+}
+
+sub input_net_cb { # imap_each, nntp_each cb
+       my ($url, $uid, $kw, $eml, $self) = @_;
+       $self->input_eml_cb($eml);
+}
+
 # import a single file handle of $name
 # Subclass must define ->input_eml_cb and ->input_mbox_cb
 sub input_fh {
        my ($self, $ifmt, $fh, $name, @args) = @_;
        if ($ifmt eq 'eml') {
                my $buf = do { local $/; <$fh> } //
-                       return $self->{lei}->child_error(1 << 8, <<"");
+                       return $self->{lei}->child_error(0, <<"");
 error reading $name: $!
 
                # mutt pipes single RFC822 messages with a "From " line,
@@ -96,15 +113,15 @@ sub handle_http_input ($$@) {
        push @$curl, '-s', @$curl_opt;
        my $cmd = $curl->for_uri($lei, $uri);
        $lei->qerr("# $cmd");
-       my $rdr = { 2 => $lei->{2}, pgid => 0 };
-       my ($fh, $pid) = popen_rd($cmd, undef, $rdr);
+       my ($fh, $pid) = popen_rd($cmd, undef, { 2 => $lei->{2} });
+       my $ar = PublicInbox::AutoReap->new($pid);
        grep(/\A--compressed\z/, @$curl) or
                $fh = IO::Uncompress::Gunzip->new($fh, MultiStream => 1);
        eval { $self->input_fh('mboxrd', $fh, $url, @args) };
-       my $err = $@;
-       waitpid($pid, 0);
-       $? || $err and
-               $lei->child_error($? || 1, "@$cmd failed".$err ? " $err" : '');
+       my @err = ($@ ? $@ : ());
+       $ar->join;
+       push(@err, "\$?=$?") if $?;
+       $lei->child_error($?, "@$cmd failed: @err") if @err;
 }
 
 sub input_path_url {
@@ -124,7 +141,11 @@ sub input_path_url {
                handle_http_input($self, $input, @args);
                return;
        }
+
+       # local-only below
+       my $ifmt_pfx = '';
        if ($input =~ s!\A([a-z0-9]+):!!i) {
+               $ifmt_pfx = "$1:";
                $ifmt = lc($1);
        } elsif ($input =~ /\.(?:patch|eml)\z/i) {
                $ifmt = 'eml';
@@ -172,11 +193,26 @@ EOM
                                                $self->can('input_maildir_cb'),
                                                $self, @args);
                }
+       } elsif ($self->{missing_ok} && !-e $input) { # don't ->fail
+               if ($lei->{cmd} eq 'p2q') {
+                       my $fp = [ qw(git format-patch --stdout -1), $input ];
+                       my $rdr = { 2 => $lei->{2} };
+                       my $fh = popen_rd($fp, undef, $rdr);
+                       eval { $self->input_fh('eml', $fh, $input, @args) };
+                       my @err = ($@ ? $@ : ());
+                       close($fh) or push @err, "\$?=$?";
+                       $lei->child_error($?, "@$fp failed: @err") if @err;
+               } else {
+                       $self->folder_missing("$ifmt:$input");
+               }
        } else {
-               $lei->fail("$input unsupported (TODO)");
+               $lei->fail("$ifmt_pfx$input unsupported (TODO)");
        }
 }
 
+# subclasses should overrride this (see LeiRefreshMailSync)
+sub folder_missing { die "BUG: ->folder_missing undefined for $_[0]" }
+
 sub bad_http ($$;$) {
        my ($lei, $url, $alt) = @_;
        my $x = $alt ? "did you mean <$alt>?" : 'download and import manually';
@@ -225,6 +261,7 @@ sub prepare_inputs { # returns undef on error
        my ($self, $lei, $inputs) = @_;
        my $in_fmt = $lei->{opt}->{'in-format'};
        my $sync = $lei->{opt}->{'mail-sync'} ? {} : undef; # using LeiMailSync
+       my $may_sync = $sync || $self->{-mail_sync};
        if ($lei->{opt}->{stdin}) {
                @$inputs and return
                        $lei->fail("--stdin and @$inputs do not mix");
@@ -267,15 +304,18 @@ sub prepare_inputs { # returns undef on error
                        } elsif (-d $input_path) {
                                $ifmt eq 'maildir' or return
                                        $lei->fail("$ifmt not supported");
-                               $sync and $input = 'maildir:'.
+                               $may_sync and $input = 'maildir:'.
                                                $lei->abs_path($input_path);
                                push @md, $input;
                        } elsif ($self->{missing_ok} && !-e _) {
                                # for "lei rm-watch" on missing Maildir
-                               $sync and $input = 'maildir:'.
+                               $may_sync and $input = 'maildir:'.
                                                $lei->abs_path($input_path);
                        } else {
-                               return $lei->fail("Unable to handle $input");
+                               my $m = "Unable to handle $input";
+                               $input =~ /\A(?:L|kw):/ and
+                                       $m .= ", did you mean +$input?";
+                               return $lei->fail($m);
                        }
                } elsif ($input =~ /\.(?:eml|patch)\z/i && -f $input) {
                        lc($in_fmt//'eml') eq 'eml' or return $lei->fail(<<"");
@@ -294,7 +334,7 @@ $input is `eml', not --in-format=$in_fmt
 
                        if ($sync) {
                                $input = $lei->abs_path($mdir) . "/$nc/$bn";
-                               push @{$sync->{ok}}, $input;
+                               push @{$sync->{ok}}, $input if $sync;
                        }
                        require PublicInbox::MdirReader;
                } else {
@@ -303,16 +343,19 @@ $input is `eml', not --in-format=$in_fmt
                                push @{$sync->{no}}, $input if $sync;
                                push @f, $input;
                        } elsif (-d "$input/new" && -d "$input/cur") {
-                               if ($sync) {
+                               if ($may_sync) {
                                        $input = 'maildir:'.
                                                $lei->abs_path($input);
-                                       push @{$sync->{ok}}, $input;
+                                       push @{$sync->{ok}}, $input if $sync;
                                }
                                push @md, $input;
                        } elsif ($self->{missing_ok} && !-e $input) {
-                               # for lei rm-watch
-                               $sync and $input = 'maildir:'.
+                               if ($lei->{cmd} eq 'p2q') {
+                                       # will run "git format-patch"
+                               } elsif ($may_sync) { # for lei rm-watch
+                                       $input = 'maildir:'.
                                                $lei->abs_path($input);
+                               }
                        } else {
                                return $lei->fail("Unable to handle $input")
                        }
@@ -324,8 +367,8 @@ $input is `eml', not --in-format=$in_fmt
 --mail-sync specified but no inputs support it
 
                # non-fatal if some inputs support support sync
-               $lei->err("# --mail-sync will only be used for @{$sync->{ok}}");
-               $lei->err("# --mail-sync is not supported for: @{$sync->{no}}");
+               warn("# --mail-sync will only be used for @{$sync->{ok}}\n");
+               warn("# --mail-sync is not supported for: @{$sync->{no}}\n");
        }
        if ($net) {
                $net->{-can_die} = 1;
@@ -343,6 +386,13 @@ $input is `eml', not --in-format=$in_fmt
                        require PublicInbox::LeiPmdir;
                        $self->{pmd} = PublicInbox::LeiPmdir->new($lei, $self);
                }
+
+               # start watching Maildirs ASAP
+               if ($may_sync && $lei->{sto}) {
+                       grep(!m!\Amaildir:/!i, @md) and die "BUG: @md (no pfx)";
+                       $lei->lms(1)->lms_write_prepare->add_folders(@md);
+                       $lei->refresh_watches;
+               }
        }
        $self->{inputs} = $inputs;
 }
@@ -358,7 +408,7 @@ sub process_inputs {
        }
        # always commit first, even on error partial work is acceptable for
        # lei <import|tag|convert>
-       my $wait = $self->{lei}->{sto}->ipc_do('done') if $self->{lei}->{sto};
+       my $wait = $self->{lei}->{sto}->wq_do('done') if $self->{lei}->{sto};
        $self->{lei}->fail($err) if $err;
 }
 
@@ -375,7 +425,7 @@ sub input_only_atfork_child {
 sub input_only_net_merge_all_done {
        my ($self) = @_;
        $self->wq_io_do('process_inputs');
-       $self->wq_close(1);
+       $self->wq_close;
 }
 
 # like Getopt::Long, but for +kw:FOO and -kw:FOO to prepare