]> Sergey Matveev's repositories - public-inbox.git/blobdiff - lib/PublicInbox/NNTP.pm
nntp: ensure body lines end with CRLF
[public-inbox.git] / lib / PublicInbox / NNTP.pm
index d513953abf060a7abfa9a2ffebb3ab37eaef57bb..71b774d224bc03396e2ec582448fb6cddac36e76 100644 (file)
@@ -4,11 +4,11 @@ package PublicInbox::NNTP;
 use strict;
 use warnings;
 use base qw(Danga::Socket);
-use fields qw(nntpd article ng long_res);
+use fields qw(nntpd article rbuf ng long_res);
 use PublicInbox::Msgmap;
 use PublicInbox::GitCatFile;
 use PublicInbox::MID qw(mid2path);
-use Email::Simple;
+use Email::MIME;
 use Data::Dumper qw(Dumper);
 use POSIX qw(strftime);
 use Time::HiRes qw(clock_gettime ualarm CLOCK_MONOTONIC);
@@ -29,9 +29,11 @@ my %DISABLED; # = map { $_ => 1 } qw(xover list_overview_fmt newnews xhdr);
 sub new ($$$) {
        my ($class, $sock, $nntpd) = @_;
        my $self = fields::new($class);
+       binmode $sock, ':utf8'; # RFC 3977
        $self->SUPER::new($sock);
        $self->{nntpd} = $nntpd;
        res($self, '201 server ready - post via email');
+       $self->{rbuf} = '';
        $self->watch_read(1);
        $self;
 }
@@ -92,7 +94,7 @@ sub list_overview_fmt ($$) {
 sub list_active ($;$) {
        my ($self, $wildmat) = @_;
        wildmat2re($wildmat);
-       foreach my $ng (values %{$self->{nntpd}->{groups}}) {
+       foreach my $ng (@{$self->{nntpd}->{grouplist}}) {
                $ng->{name} =~ $wildmat or next;
                group_line($self, $ng);
        }
@@ -101,7 +103,7 @@ sub list_active ($;$) {
 sub list_active_times ($;$) {
        my ($self, $wildmat) = @_;
        wildmat2re($wildmat);
-       foreach my $ng (values %{$self->{nntpd}->{groups}}) {
+       foreach my $ng (@{$self->{nntpd}->{grouplist}}) {
                $ng->{name} =~ $wildmat or next;
                my $c = eval { $ng->mm->created_at } || time;
                more($self, "$ng->{name} $c $ng->{address}");
@@ -111,7 +113,7 @@ sub list_active_times ($;$) {
 sub list_newsgroups ($;$) {
        my ($self, $wildmat) = @_;
        wildmat2re($wildmat);
-       foreach my $ng (values %{$self->{nntpd}->{groups}}) {
+       foreach my $ng (@{$self->{nntpd}->{grouplist}}) {
                $ng->{name} =~ $wildmat or next;
                my $d = $ng->description;
                more($self, "$ng->{name} $d");
@@ -136,7 +138,7 @@ sub cmd_list ($;$$) {
                $arg->($self, @args);
        } else {
                more($self, '215 list of newsgroups follows');
-               foreach my $ng (values %{$self->{nntpd}->{groups}}) {
+               foreach my $ng (@{$self->{nntpd}->{grouplist}}) {
                        group_line($self, $ng);
                }
        }
@@ -167,22 +169,26 @@ sub cmd_listgroup ($;$) {
 sub parse_time ($$;$) {
        my ($date, $time, $gmt) = @_;
        use Time::Local qw();
-       my ($YY, $MM, $DD) = unpack('A2A2A2', $date);
        my ($hh, $mm, $ss) = unpack('A2A2A2', $time);
        if (defined $gmt) {
                $gmt =~ /\A(?:UTC|GMT)\z/i or die "GM invalid: $gmt\n";
                $gmt = 1;
        }
        my @now = $gmt ? gmtime : localtime;
-       if ($YY > strftime('%y', @now)) {
-               my $cur_year = $now[5] + 1900;
-               $YY += int($cur_year / 1000) * 1000 - 100;
+       my ($YYYY, $MM, $DD);
+       if (length($date) == 8) { # RFC 3977 allows YYYYMMDD
+               ($YYYY, $MM, $DD) = unpack('A4A2A2', $date);
+       } else { # legacy clients send YYMMDD
+               ($YYYY, $MM, $DD) = unpack('A2A2A2', $date);
+               if ($YYYY > strftime('%y', @now)) {
+                       my $cur_year = $now[5] + 1900;
+                       $YYYY += int($cur_year / 1000) * 1000 - 100;
+               }
        }
-
        if ($gmt) {
-               Time::Local::timegm($ss, $mm, $hh, $DD, $MM - 1, $YY);
+               Time::Local::timegm($ss, $mm, $hh, $DD, $MM - 1, $YYYY);
        } else {
-               Time::Local::timelocal($ss, $mm, $hh, $DD, $MM - 1, $YY);
+               Time::Local::timelocal($ss, $mm, $hh, $DD, $MM - 1, $YYYY);
        }
 }
 
@@ -199,7 +205,7 @@ sub cmd_newgroups ($$$;$$) {
 
        # TODO dists
        more($self, '231 list of new newsgroups follows');
-       foreach my $ng (values %{$self->{nntpd}->{groups}}) {
+       foreach my $ng (@{$self->{nntpd}->{grouplist}}) {
                my $c = eval { $ng->mm->created_at } || 0;
                next unless $c > $ts;
                group_line($self, $ng);
@@ -248,7 +254,7 @@ sub cmd_newnews ($$$$;$$) {
        ngpat2re($keep);
        ngpat2re($skip);
        my @srch;
-       foreach my $ng (values %{$self->{nntpd}->{groups}}) {
+       foreach my $ng (@{$self->{nntpd}->{grouplist}}) {
                $ng->{name} =~ $keep or next;
                $ng->{name} =~ $skip and next;
                my $srch = $ng->search or next;
@@ -365,16 +371,17 @@ find_mid:
        }
 found:
        my $o = 'HEAD:' . mid2path($mid);
-       my $s = eval { Email::Simple->new($ng->gcf->cat_file($o)) };
+       my $bytes;
+       my $s = eval { Email::MIME->new($ng->gcf->cat_file($o, \$bytes)) };
        return $err unless $s;
        if ($set_headers) {
                $s->header_set('Newsgroups', $ng->{name});
                $s->header_set('Lines', $s->body =~ tr!\n!\n!);
-               $s->header_set('Xref', "$ng->{domain} $ng->{name}:$n");
+               $s->header_set('Xref', xref($ng, $n));
 
                # must be last
                if ($set_headers == 2) {
-                       $s->header_set('Bytes', bytes::length($s->as_string));
+                       $s->header_set('Bytes', $bytes);
                        $s->body_set('');
                }
        }
@@ -386,7 +393,9 @@ sub simple_body_write ($$) {
        my $body = $s->body;
        $s->body_set('');
        $body =~ s/^\./../smg;
+       $body =~ s/(?<!\r)\n/\r\n/sg;
        do_more($self, $body);
+       do_more($self, "\r\n") unless $body =~ /\r\n\z/s;
        '.'
 }
 
@@ -561,6 +570,35 @@ sub xhdr_message_id ($$) { # optimize XHDR Message-ID [range] for slrnpull.
        }
 }
 
+sub xref ($$) {
+       my ($ng, $n) = @_;
+       "$ng->{domain} $ng->{name}:$n"
+}
+
+sub xhdr_xref ($$) { # optimize XHDR Xref [range] for rtin
+       my ($self, $range) = @_;
+
+       my $ng = $self->{ng};
+       my $mm = $ng->mm;
+       if (defined $range && $range =~ /\A<(.+)>\z/) { # Message-ID
+               my $n = $mm->num_for($range);
+               more($self, '221 Header follows');
+               more($self, "<$range> ".xref($ng, $n)) if defined $n;
+               '.';
+       } else { # numeric range
+               $range = $self->{article} unless defined $range;
+               my $r = get_range($self, $range);
+               return $r unless ref $r;
+               my ($beg, $end) = @$r;
+               more($self, '221 Header follows');
+               $self->long_response($beg, $end, sub {
+                       my ($i) = @_;
+                       my $mid = $mm->mid_for($$i);
+                       more($self, "$$i ".xref($ng, $$i)) if defined $mid;
+               });
+       }
+}
+
 sub header_obj_for {
        my ($srch, $mid) = @_;
        eval {
@@ -611,6 +649,8 @@ sub cmd_xhdr ($$;$) {
        my $sub = lc $header;
        if ($sub eq 'message-id') {
                xhdr_message_id($self, $range);
+       } elsif ($sub eq 'xref') {
+               xhdr_xref($self, $range);
        } elsif ($sub =~ /\A(subject|references|date)\z/ && $ng->search) {
                xhdr_searchmsg($self, $sub, $range);
        } else {
@@ -738,9 +778,9 @@ sub do_more ($$) {
        if (MSG_MORE && !$self->{write_buf_size}) {
                my $n = send($self->{sock}, $data, MSG_MORE);
                if (defined $n) {
-                       my $dlen = bytes::length($data);
+                       my $dlen = length($data);
                        return 1 if $n == $dlen; # all done!
-                       $data = bytes::substr($data, $n, $dlen - $n);
+                       $data = substr($data, $n, $dlen - $n);
                }
        }
        $self->do_write($data);
@@ -754,26 +794,52 @@ sub event_err { $_[0]->close }
 sub event_write {
        my ($self) = @_;
        # only continue watching for readability when we are done writing:
-       $self->write(undef) == 1 and $self->watch_read(1);
+       if ($self->write(undef) == 1 && !$self->{long_res}) {
+               $self->watch_read(1);
+       }
 }
 
 sub event_read {
        my ($self) = @_;
        use constant LINE_MAX => 512; # RFC 977 section 2.3
+       my $line;
        my $r = 1;
-       my $buf = $self->read(LINE_MAX) or return $self->close;
-       while ($r > 0 && $$buf =~ s/\A\s*([^\r\n]+)\r?\n//) {
-               my $line = $1;
+again:
+       while ($r > 0 && $self->{rbuf} =~ s/\A\s*([^\r\n]+)\r?\n//) {
+               $line = $1;
                my $t0 = now();
                $r = eval { $self->process_line($line) };
                my $d = $self->{long_res} ?
                        ' deferred['.fileno($self->{sock}).']' : '';
                out($self, "$line - %0.6f$d", now() - $t0);
        }
+       unless (defined $line) {
+               my $buf = $self->read(LINE_MAX) or return $self->close;
+               $self->{rbuf} .= $$buf;
+               goto again;
+       }
+
        return $self->close if $r < 0;
-       my $len = bytes::length($$buf);
+       my $len = length($self->{rbuf});
        return $self->close if ($len >= LINE_MAX);
-       $self->push_back_read($buf) if ($len);
+}
+
+sub watch_read {
+       my ($self, $bool) = @_;
+       my $rv = $self->SUPER::watch_read($bool);
+       if ($bool && $self->{rbuf} ne '') {
+               # Force another read if there is a pipelined request.
+               # We don't know if the socket has anything for us to read,
+               # and we must double-check again by the time the timer fires
+               # in case we really did dispatch a read event and started
+               # another long response.
+               Danga::Socket->AddTimer(0, sub {
+                       if (&Danga::Socket::POLLIN & $self->{event_watch}) {
+                               $self->event_read;
+                       }
+               });
+       }
+       $rv;
 }
 
 1;