]> Sergey Matveev's repositories - public-inbox.git/blobdiff - t/nntpd.t
treewide: run update-copyrights from gnulib for 2019
[public-inbox.git] / t / nntpd.t
index 6b13f81e7679f77a893442de74fadb4a48f0308e..890850491fac47cf637ea49ee49a61a8b02b9287 100644 (file)
--- a/t/nntpd.t
+++ b/t/nntpd.t
@@ -1,82 +1,60 @@
-# Copyright (C) 2015-2018 all contributors <meta@public-inbox.org>
+# Copyright (C) 2015-2020 all contributors <meta@public-inbox.org>
 # License: AGPL-3.0+ <https://www.gnu.org/licenses/agpl-3.0.txt>
 use strict;
 use warnings;
 use Test::More;
-foreach my $mod (qw(DBD::SQLite Search::Xapian Danga::Socket)) {
-       eval "require $mod";
-       plan skip_all => "$mod missing for nntpd.t" if $@;
-}
+use PublicInbox::TestCommon;
+require_mods(qw(DBD::SQLite));
 require PublicInbox::SearchIdx;
 require PublicInbox::Msgmap;
-use Cwd;
+require PublicInbox::InboxWritable;
 use Email::Simple;
 use IO::Socket;
-use Socket qw(SO_KEEPALIVE IPPROTO_TCP TCP_NODELAY);
-use File::Temp qw/tempdir/;
+use Socket qw(IPPROTO_TCP TCP_NODELAY);
 use Net::NNTP;
 use Sys::Hostname;
-require './t/common.perl';
 
 # FIXME: make easier to test both versions
-my $version = $ENV{PI_VERSION} || 2;
+my $version = $ENV{PI_TEST_VERSION} || 2;
 require_git('2.6') if $version == 2;
 
-my $tmpdir = tempdir('pi-nntpd-XXXXXX', TMPDIR => 1, CLEANUP => 1);
+my ($tmpdir, $for_destroy) = tmpdir();
 my $home = "$tmpdir/pi-home";
 my $err = "$tmpdir/stderr.log";
 my $out = "$tmpdir/stdout.log";
-my $mainrepo = "$tmpdir/main.git";
+my $inboxdir = "$tmpdir/main.git";
 my $group = 'test-nntpd';
 my $addr = $group . '@example.com';
-my $nntpd = 'blib/script/public-inbox-nntpd';
-my $init = 'blib/script/public-inbox-init';
-use_ok 'PublicInbox::Import';
-use_ok 'PublicInbox::Inbox';
-use_ok 'PublicInbox::Git';
 SKIP: {
        skip "git 2.6+ required for V2Writable", 1 if $version == 1;
        use_ok 'PublicInbox::V2Writable';
 }
 
-my %opts = (
-       LocalAddr => '127.0.0.1',
-       ReuseAddr => 1,
-       Proto => 'tcp',
-       Type => SOCK_STREAM,
-       Listen => 1024,
-);
-my $sock = IO::Socket::INET->new(%opts);
-my $pid;
+my %opts;
+my $sock = tcp_server();
+my $td;
 my $len;
-END { kill 'TERM', $pid if defined $pid };
 
 my $ibx = {
-       mainrepo => $mainrepo,
+       inboxdir => $inboxdir,
        name => $group,
        version => $version,
        -primary_address => $addr,
+       indexlevel => 'basic',
 };
 $ibx = PublicInbox::Inbox->new($ibx);
 {
        local $ENV{HOME} = $home;
-       my @cmd = ($init, $group, $mainrepo, 'http://example.com/', $addr);
-       push @cmd, "-V$version";
-       is(system(@cmd), 0, 'init OK');
+       my @cmd = ('-init', $group, $inboxdir, 'http://example.com/', $addr);
+       push @cmd, "-V$version", '-Lbasic';
+       ok(run_script(\@cmd), 'init OK');
        is(system(qw(git config), "--file=$home/.public-inbox/config",
                        "publicinbox.$group.newsgroup", $group),
                0, 'enabled newsgroup');
        my $len;
 
-       my $im;
-       if ($version == 2) {
-               $im = PublicInbox::V2Writable->new($ibx);
-       } elsif ($version == 1) {
-               my $git = PublicInbox::Git->new($mainrepo);
-               $im = PublicInbox::Import->new($git, 'test', $addr);
-       } else {
-               die "unsupported version: $version";
-       }
+       $ibx = PublicInbox::InboxWritable->new($ibx);
+       my $im = $ibx->importer;
 
        # ensure successful message delivery
        {
@@ -100,28 +78,41 @@ EOF
                $im->add($mime);
                $im->done;
                if ($version == 1) {
-                       my $s = PublicInbox::SearchIdx->new($mainrepo, 1);
+                       my $s = PublicInbox::SearchIdx->new($ibx, 1);
                        $s->index_sync;
                }
        }
 
        ok($sock, 'sock created');
-       my $cmd = [ $nntpd, "--stdout=$out", "--stderr=$err" ];
-       $pid = spawn_listener(undef, $cmd, [ $sock ]);
-       ok(defined $pid, 'forked nntpd process successfully');
+       my $cmd = [ '-nntpd', '-W0', "--stdout=$out", "--stderr=$err" ];
+       $td = start_script($cmd, undef, { 3 => $sock });
        my $host_port = $sock->sockhost . ':' . $sock->sockport;
        my $n = Net::NNTP->new($host_port);
        my $list = $n->list;
        is_deeply($list, { $group => [ qw(1 1 n) ] }, 'LIST works');
        is_deeply([$n->group($group)], [ qw(0 1 1), $group ], 'GROUP works');
        is_deeply($n->listgroup($group), [1], 'listgroup OK');
+       # TODO: Net::NNTP::listgroup does not support range at the moment
+
+       {
+               my $expect = [ qw(Subject: From: Date: Message-ID:
+                               References: Bytes: Lines: Xref:full) ];
+               is_deeply($n->overview_fmt, $expect,
+                       'RFC3977 8.4.2 compliant LIST OVERVIEW.FMT');
+       }
+       SKIP: {
+               $n->can('starttls') or
+                       skip('Net::NNTP too old to support STARTTLS', 2);
+               require_mods('IO::Socket::SSL', 2);
+               eval {
+                       IO::Socket::SSL->VERSION(2.007);
+               } or skip(<<EOF, 2);
+IO::Socket::SSL <2.007 not supported by Net::NNTP
+EOF
+               ok(!$n->starttls, 'STARTTLS fails when unconfigured');
+               is($n->code, 580, 'got 580 code on server w/o TLS');
+       };
 
-       %opts = (
-               PeerAddr => $host_port,
-               Proto => 'tcp',
-               Type => SOCK_STREAM,
-               Timeout => 1,
-       );
        my $mid = '<nntp@example.com>';
        my %xhdr = (
                'message-id' => $mid,
@@ -134,22 +125,32 @@ EOF
                'references' => '<reftabsqueezed>',
        );
 
-       my $s = IO::Socket::INET->new(%opts);
+       my $s = tcp_connect($sock);
        sysread($s, my $buf, 4096);
        is($buf, "201 " . hostname . " ready - post via email\r\n",
                'got greeting');
-       $s->autoflush(1);
 
        ok(syswrite($s, "   \r\n"), 'wrote spaces');
        ok(syswrite($s, "\r\n"), 'wrote nothing');
        syswrite($s, "NEWGROUPS\t19990424 000000 \033GMT\007\r\n");
        is(0, sysread($s, $buf, 4096), 'GOT EOF on cntrl');
 
-       $s = IO::Socket::INET->new(%opts);
+       $s = tcp_connect($sock);
        sysread($s, $buf, 4096);
        is($buf, "201 " . hostname . " ready - post via email\r\n",
                'got greeting');
-       $s->autoflush(1);
+
+       syswrite($s, "CAPABILITIES\r\n");
+       $buf = read_til_dot($s);
+       like($buf, qr/\r\nVERSION 2\r\n/s, 'CAPABILITIES works');
+       unlike($buf, qr/STARTTLS/s, 'STARTTLS not advertised');
+       my $deflate_capa = qr/\r\nCOMPRESS DEFLATE\r\n/;
+       if (eval { require Compress::Raw::Zlib }) {
+               like($buf, $deflate_capa, 'DEFLATE advertised');
+       } else {
+               unlike($buf, $deflate_capa,
+                       'DEFLATE not advertised (Compress::Raw::Zlib missing)');
+       }
 
        syswrite($s, "NEWGROUPS 19990424 000000 GMT\r\n");
        $buf = read_til_dot($s);
@@ -240,6 +241,43 @@ EOF
                ok($date >= $t0, 'valid date after start');
                ok($date <= $t1, 'valid date before stop');
        }
+       if ('leafnode interop') {
+               my $for_leafnode = PublicInbox::MIME->new(<<"");
+From: longheader\@example.com
+To: $addr
+Subject: none
+Date: Fri, 02 Oct 1993 00:00:00 +0000
+
+               my $long_hdr = 'for-leafnode-'.('y'x200).'@example.com';
+               $for_leafnode->header_set('Message-ID', "<$long_hdr>");
+               $im->add($for_leafnode);
+               $im->done;
+               if ($version == 1) {
+                       my $s = PublicInbox::SearchIdx->new($ibx, 1);
+                       $s->index_sync;
+               }
+               my $hdr = $n->head("<$long_hdr>");
+               my $expect = qr/\AMessage-ID: /i . qr/\Q<$long_hdr>\E/;
+               ok(scalar(grep(/$expect/, @$hdr)), 'Message-ID not folded');
+               ok(scalar(grep(/^Path:/, @$hdr)), 'Path: header found');
+
+               # it's possible for v2 messages to have 2+ Message-IDs,
+               # but leafnode can't handle it
+               if ($version != 1) {
+                       my @mids = ("<$long_hdr>", '<2mid@wtf>');
+                       $for_leafnode->header_set('Message-ID', @mids);
+                       $for_leafnode->body_set('not-a-dupe');
+                       my $warn = '';
+                       $SIG{__WARN__} = sub { $warn .= join('', @_) };
+                       $im->add($for_leafnode);
+                       $im->done;
+                       like($warn, qr/reused/, 'warned for reused MID');
+                       $hdr = $n->head('<2mid@wtf>');
+                       my @hmids = grep(/\AMessage-ID: /i, @$hdr);
+                       is(scalar(@hmids), 1, 'Single Message-ID in header');
+                       like($hmids[0], qr/: <2mid\@wtf>/, 'got expected mid');
+               }
+       }
 
        # pipelined requests:
        {
@@ -262,11 +300,20 @@ EOF
                is($rdr, waitpid($rdr, 0), 'reader done');
                is($? >> 8, 0, 'no errors');
        }
+       SKIP: {
+               if ($INC{'Search/Xapian.pm'} && ($ENV{TEST_RUN_MODE}//1)) {
+                       skip 'Search/Xapian.pm pre-loaded (by t/run.perl?)', 1;
+               }
+               my @of = `lsof -p $td->{pid} 2>/dev/null`;
+               skip('lsof broken', 1) if (!scalar(@of) || $?);
+               my @xap = grep m!Search/Xapian!, @of;
+               is_deeply(\@xap, [], 'Xapian not loaded in nntpd');
+       }
        {
                setsockopt($s, IPPROTO_TCP, TCP_NODELAY, 1);
                syswrite($s, 'HDR List-id 1-');
                select(undef, undef, undef, 0.15);
-               ok(kill('TERM', $pid), 'killed nntpd');
+               ok($td->kill, 'killed nntpd');
                select(undef, undef, undef, 0.15);
                syswrite($s, "\r\n");
                $buf = '';
@@ -280,7 +327,7 @@ EOF
        }
 
        $n = $s = undef;
-       is($pid, waitpid($pid, 0), 'nntpd exited successfully');
+       $td->join;
        my $eout = eval {
                local $/;
                open my $fh, '<', $err or die "open $err failed: $!";
@@ -290,6 +337,7 @@ EOF
        unlike($eout, qr/wide/i, 'no Wide character warnings');
 }
 
+$td = undef;
 done_testing();
 
 sub read_til_dot {