]> Sergey Matveev's repositories - public-inbox.git/blobdiff - lib/PublicInbox/LeiExternal.pm
lei ls-search: command to list saved searches
[public-inbox.git] / lib / PublicInbox / LeiExternal.pm
index bac15226c32b2bc6ab848485f05f40c412838268..b0ebe9479b6254294fada399d746933484a7d6e2 100644 (file)
@@ -5,13 +5,11 @@
 package PublicInbox::LeiExternal;
 use strict;
 use v5.10.1;
-use parent qw(Exporter);
-our @EXPORT = qw(lei_ls_external lei_add_external lei_forget_external);
 use PublicInbox::Config;
 
 sub externals_each {
        my ($self, $cb, @arg) = @_;
-       my $cfg = $self->_lei_cfg(0);
+       my $cfg = $self->_lei_cfg;
        my %boost;
        for my $sec (grep(/\Aexternal\./, @{$cfg->{-section_order}})) {
                my $loc = substr($sec, length('external.'));
@@ -46,6 +44,8 @@ sub ext_canonicalize {
        }
 }
 
+# TODO: we will probably extract glob2re into a separate module for
+# PublicInbox::Filter::Base and maybe other places
 my %re_map = ( '*' => '[^/]*?', '?' => '[^/]',
                '[' => '[', ']' => ']', ',' => ',' );
 
@@ -54,21 +54,28 @@ sub glob2re {
        my $p = '';
        my $in_bracket = 0;
        my $qm = 0;
+       my $schema_host_port = '';
+
+       # don't glob URL-looking things that look like IPv6
+       if ($re =~ s!\A([a-z0-9\+]+://\[[a-f0-9\:]+\](?::[0-9]+)?/)!!i) {
+               $schema_host_port = quotemeta $1; # "http://[::1]:1234"
+       }
        my $changes = ($re =~ s!(.)!
                $re_map{$p eq '\\' ? '' : do {
                        if ($1 eq '[') { ++$in_bracket }
                        elsif ($1 eq ']') { --$in_bracket }
+                       elsif ($1 eq ',') { ++$qm } # no change
                        $p = $1;
                }} // do {
                        $p = $1;
                        ($p eq '-' && $in_bracket) ? $p : (++$qm, "\Q$p")
                }!sge);
        # bashism (also supported by curl): {a,b,c} => (a|b|c)
-       $re =~ s/([^\\]*)\\\{([^,]*?,[^\\]*?)\\\}/
-               (my $in_braces = $2) =~ tr!,!|!;
-               $1."($in_braces)";
-               /sge;
-       ($changes - $qm) ? $re : undef;
+       $changes += ($re =~ s/([^\\]*)\\\{([^,]*,[^\\]*)\\\}/
+                       (my $in_braces = $2) =~ tr!,!|!;
+                       $1."($in_braces)";
+                       /sge);
+       ($changes - $qm) ? $schema_host_port.$re : undef;
 }
 
 # get canonicalized externals list matching $loc
@@ -101,18 +108,25 @@ sub get_externals {
        ();
 }
 
+# TODO: does this need JSON output?
 sub lei_ls_external {
        my ($self, $filter) = @_;
-       my $do_glob = !$self->{opt}->{globoff}; # glob by default
-       my ($OFS, $ORS) = $self->{opt}->{z} ? ("\0", "\0\0") : (" ", "\n");
+       my $opt = $self->{opt};
+       my $do_glob = !$opt->{globoff}; # glob by default
+       my ($OFS, $ORS) = $opt->{z} ? ("\0", "\0\0") : (" ", "\n");
        $filter //= '*';
        my $re = $do_glob ? glob2re($filter) : undef;
        $re //= index($filter, '/') < 0 ?
                        qr!/\Q$filter\E/?\z! : # exact basename match
                        qr/\Q$filter\E/; # grep -F semantics
        my @ext = externals_each($self, my $boost = {});
-       @ext = $self->{opt}->{'invert-match'} ? grep(!/$re/, @ext)
+       @ext = $opt->{'invert-match'} ? grep(!/$re/, @ext)
                                        : grep(/$re/, @ext);
+       if ($opt->{'local'} && !$opt->{remote}) {
+               @ext = grep(!m!\A[a-z\+]+://!, @ext);
+       } elsif ($opt->{remote} && !$opt->{'local'}) {
+               @ext = grep(m!\A[a-z\+]+://!, @ext);
+       }
        for my $loc (@ext) {
                $self->out($loc, $OFS, 'boost=', $boost->{$loc}, $ORS);
        }
@@ -130,12 +144,11 @@ sub add_external_finish {
 
 sub lei_add_external {
        my ($self, $location) = @_;
-       $self->_lei_store(1)->write_prepare($self);
        my $opt = $self->{opt};
        my $mirror = $opt->{mirror} // do {
                my @fail;
                for my $sw ($self->index_opt, $self->curl_opt,
-                               qw(no-torsocks torsocks inbox-version)) {
+                               qw(no-torsocks torsocks inbox-version)) {
                        my ($f) = (split(/|/, $sw, 2))[0];
                        next unless defined $opt->{$f};
                        $f = length($f) == 1 ? "-$f" : "--$f";
@@ -156,9 +169,14 @@ sub lei_add_external {
                $self->fail(<<""); # TODO: did you mean "update-external?"
 --mirror destination `$location' already exists
 
+       } elsif (-d $location) {
+               index($location, "\n") >= 0 and
+                       return $self->fail("`\\n' not allowed in `$location'");
        }
        if ($location !~ m!\Ahttps?://! && !-d $location) {
                $mirror // return $self->fail("$location not a directory");
+               index($location, "\n") >= 0 and
+                       return $self->fail("`\\n' not allowed in `$location'");
                $mirror = ext_canonicalize($mirror);
                require PublicInbox::LeiMirror;
                PublicInbox::LeiMirror->start($self, $mirror => $location);
@@ -197,20 +215,21 @@ sub lei_forget_external {
        }
 }
 
-sub _complete_url_common ($) {
-       my ($argv) = @_;
+sub complete_url_common {
+       my $argv = $_[-1];
        # Workaround bash word-splitting URLs to ['https', ':', '//' ...]
        # Maybe there's a better way to go about this in
        # contrib/completion/lei-completion.bash
        my $re = '';
-       my $cur = pop @$argv;
+       my $cur = pop(@$argv) // '';
        if (@$argv) {
                my @x = @$argv;
                if ($cur eq ':' && @x) {
                        push @x, $cur;
                        $cur = '';
                }
-               while (@x > 2 && $x[0] !~ /\Ahttps?\z/ && $x[1] ne ':') {
+               while (@x > 2 && $x[0] !~ /\A(?:http|nntp|imap)s?\z/i &&
+                               $x[1] ne ':') {
                        shift @x;
                }
                if (@x >= 2) { # qw(https : hostname : 443) or qw(http :)
@@ -226,8 +245,8 @@ sub _complete_url_common ($) {
 # shell completion helper called by lei__complete
 sub _complete_forget_external {
        my ($self, @argv) = @_;
-       my $cfg = $self->_lei_cfg(0);
-       my ($cur, $re) = _complete_url_common(\@argv);
+       my $cfg = $self->_lei_cfg;
+       my ($cur, $re) = complete_url_common(\@argv);
        # FIXME: bash completion off "http:" or "https:" when the last
        # character is a colon doesn't work properly even if we're
        # returning "//$HTTP_HOST/$PATH_INFO/", not sure why, could
@@ -242,8 +261,8 @@ sub _complete_forget_external {
 
 sub _complete_add_external { # for bash, this relies on "compopt -o nospace"
        my ($self, @argv) = @_;
-       my $cfg = $self->_lei_cfg(0);
-       my ($cur, $re) = _complete_url_common(\@argv);
+       my $cfg = $self->_lei_cfg;
+       my ($cur, $re) = complete_url_common(\@argv);
        require URI;
        map {
                my $u = URI->new(substr($_, length('external.')));