script/public-inbox-clone

   1 #!perl -w
   2 # Copyright (C) all contributors <meta@public-inbox.org>
   3 # License: AGPL-3.0+ <https://www.gnu.org/licenses/agpl-3.0.txt>
   4 # Wrapper to git clone remote public-inboxes
   5 use strict;
   6 use v5.10.1;
   7 use Getopt::Long qw(:config gnu_getopt no_ignore_case auto_abbrev);
   8 my $opt = {};
   9 my $help = <<EOF; # the following should fit w/o scrolling in 80x24 term:
  10 usage: public-inbox-clone INBOX_URL [DESTINATION]
  11
  12   clone remote public-inboxes
  13
  14 options:
  15
  16   --epoch=RANGE       range of v2 epochs to clone (e.g `2..5', `~0', `~1..')
  17   --torsocks VAL      whether or not to wrap git and curl commands with
  18                       torsocks (default: `auto')
  19                       Must be one of: `auto', `no' or `yes'
  20   --verbose | -v      increase verbosity (may be repeated)
  21     --quiet | -q      increase verbosity (may be repeated)
  22     -C DIR            chdir to specified directory
  23 EOF
  24 GetOptions($opt, qw(help|h quiet|q verbose|v+ C=s@ c=s@ include|I=s@ exclude=s@
  25                 jobs|j=i no-torsocks torsocks=s epoch=s)) or die $help;
  26 if ($opt->{help}) { print $help; exit };
  27 require PublicInbox::Admin; # loads Config
  28 PublicInbox::Admin::do_chdir(delete $opt->{C});
  29 PublicInbox::Admin::setup_signals();
  30 $SIG{PIPE} = 'IGNORE';
  31
  32 my ($url, $dst, $extra) = @ARGV;
  33 die $help if !defined($url) || defined($extra);
  34 defined($dst) or ($dst) = ($url =~ m!/([^/]+)/?\z!);
  35 index($dst, "\n") >= 0 and die "`\\n' not allowed in `$dst'";
  36
  37 # n.b. this is still a truckload of code...
  38 require URI;
  39 require PublicInbox::LEI;
  40 require PublicInbox::LeiExternal;
  41 require PublicInbox::LeiMirror;
  42 require PublicInbox::LeiCurl;
  43 require PublicInbox::Lock;
  44
  45 $url = PublicInbox::LeiExternal::ext_canonicalize($url);
  46 my $lei = bless {
  47         env => \%ENV, opt => $opt, cmd => 'public-inbox-clone',
  48         0 => *STDIN{GLOB}, 2 => *STDERR{GLOB},
  49 }, 'PublicInbox::LEI';
  50 open $lei->{1}, '+<&=', 1 or die "dup: $!";
  51 open $lei->{3}, '.' or die "open . $!";
  52 my $mrr = bless {
  53         lei => $lei,
  54         src => $url,
  55         dst => $dst,
  56 }, 'PublicInbox::LeiMirror';
  57 $mrr->do_mirror;
  58 $mrr->can('_wq_done_wait')->([$mrr, $lei], $$);
  59 exit(($lei->{child_error} // 0) >> 8);