]> Sergey Matveev's repositories - public-inbox.git/blobdiff - lib/PublicInbox/Mbox.pm
www: rework query responses to avoid COUNT in SQLite
[public-inbox.git] / lib / PublicInbox / Mbox.pm
index 2ea326a5a87fbf8788064e0be61819c8fe79b8da..05de6be1a678f75ac258b24233c9f52d8c7a585f 100644 (file)
@@ -1,5 +1,5 @@
-# Copyright (C) 2015 all contributors <meta@public-inbox.org>
-# License: AGPLv3 or later (https://www.gnu.org/licenses/agpl-3.0.txt)
+# Copyright (C) 2015-2018 all contributors <meta@public-inbox.org>
+# License: AGPL-3.0+ <https://www.gnu.org/licenses/agpl-3.0.txt>
 
 # Streaming interface for formatting messages as an mboxrd.
 # Used by the web interface
@@ -26,12 +26,60 @@ sub subject_fn ($) {
        $fn eq '' ? 'no-subject' : $fn;
 }
 
-sub emit1 {
-       my ($ctx, $msg) = @_;
-       $msg = Email::Simple->new($msg);
-       my $fn = subject_fn($msg);
+sub mb_stream {
+       my ($more) = @_;
+       bless $more, 'PublicInbox::Mbox';
+}
+
+# called by PSGI server as body response
+sub getline {
+       my ($more) = @_; # self
+       my ($ctx, $head, $tail, $db, $cur) = @$more;
+       if ($cur) {
+               pop @$more;
+               return msg_str($ctx, $cur);
+       }
+       for (; !defined($cur) && $head != $tail; $head++) {
+               my $smsg = PublicInbox::SearchMsg->get($head, $db, $ctx->{mid});
+               my $mref = $ctx->{-inbox}->msg_by_smsg($smsg) or next;
+               $cur = Email::Simple->new($mref);
+               $cur = msg_str($ctx, $cur);
+       }
+       $more->[1] = $head;
+       $cur;
+}
+
+sub close {} # noop
+
+sub emit_raw {
+       my ($ctx) = @_;
+       my $mid = $ctx->{mid};
+       my $ibx = $ctx->{-inbox};
+       my $first;
+       my $more;
+       my ($head, $tail, $db);
+       my %seen;
+       if (my $srch = $ibx->search) {
+               $srch->retry_reopen(sub {
+                       ($head, $tail, $db) = $srch->each_smsg_by_mid($mid);
+                       for (; !defined($first) && $head != $tail; $head++) {
+                               my @args = ($head, $db, $mid);
+                               my $smsg = PublicInbox::SearchMsg->get(@args);
+                               my $mref = $ibx->msg_by_smsg($smsg) or next;
+                               $first = Email::Simple->new($mref);
+                       }
+                       if ($head != $tail) {
+                               $more = [ $ctx, $head, $tail, $db, $first ];
+                       }
+               });
+       } else {
+               my $mref = $ibx->msg_by_mid($mid) or return;
+               $first = Email::Simple->new($mref);
+       }
+       return unless defined $first;
+       my $fn = subject_fn($first);
        my @hdr = ('Content-Type');
-       if ($ctx->{-inbox}->{obfuscate}) {
+       if ($ibx->{obfuscate}) {
                # obfuscation is stupid, but maybe scrapers are, too...
                push @hdr, 'application/mbox';
                $fn .= '.mbox';
@@ -40,14 +88,11 @@ sub emit1 {
                $fn .= '.txt';
        }
        push @hdr, 'Content-Disposition', "inline; filename=$fn";
-
-       # single message should be easily renderable in browsers,
-       # unless obfuscation is enabled :<
-       [ 200, \@hdr, [ msg_str($ctx, $msg) ] ]
+       [ 200, \@hdr, $more ? mb_stream($more) : [ msg_str($ctx, $first) ] ];
 }
 
 sub msg_str {
-       my ($ctx, $simple) = @_; # Email::Simple object
+       my ($ctx, $simple, $mid) = @_; # Email::Simple object
        my $header_obj = $simple->header_obj;
 
        # drop potentially confusing headers, ssoma already should've dropped
@@ -57,7 +102,7 @@ sub msg_str {
        }
        my $ibx = $ctx->{-inbox};
        my $base = $ibx->base_url($ctx->{env});
-       my $mid = mid_clean($header_obj->header('Message-ID'));
+       $mid = $ctx->{mid} unless defined $mid;
        $mid = mid_escape($mid);
        my @append = (
                'Archived-At', "<$base$mid/>",
@@ -101,17 +146,22 @@ sub thread_mbox {
 sub emit_range {
        my ($ctx, $range) = @_;
 
-       eval { require IO::Compress::Gzip };
-       return sub { need_gzip(@_) } if $@;
        my $query;
        if ($range eq 'all') { # TODO: YYYY[-MM]
                $query = '';
        } else {
                return [404, [qw(Content-Type text/plain)], []];
        }
+       mbox_all($ctx, $query);
+}
 
+sub mbox_all {
+       my ($ctx, $query) = @_;
+
+       eval { require IO::Compress::Gzip };
+       return sub { need_gzip(@_) } if $@;
        my $cb = sub { $ctx->{srch}->query($query, @_) };
-       PublicInbox::MboxGz->response($ctx, $cb);
+       PublicInbox::MboxGz->response($ctx, $cb, 'results-'.$query);
 }
 
 sub need_gzip {
@@ -131,6 +181,7 @@ EOF
 package PublicInbox::MboxGz;
 use strict;
 use warnings;
+use PublicInbox::Hval qw/to_filename/;
 
 sub new {
        my ($class, $ctx, $cb) = @_;
@@ -146,31 +197,40 @@ sub new {
 }
 
 sub response {
-       my ($class, $ctx, $cb) = @_;
+       my ($class, $ctx, $cb, $fn) = @_;
        my $body = $class->new($ctx, $cb);
        # http://www.iana.org/assignments/media-types/application/gzip
        $body->{hdr} = [ 'Content-Type', 'application/gzip' ];
+       $body->{fn} = $fn;
        my $hdr = $body->getline; # fill in Content-Disposition filename
        [ 200, $hdr, $body ];
 }
 
+sub set_filename ($$) {
+       my ($fn, $msg) = @_;
+       return to_filename($fn) if defined($fn);
+
+       PublicInbox::Mbox::subject_fn($msg);
+}
+
 # called by Plack::Util::foreach or similar
 sub getline {
        my ($self) = @_;
        my $ctx = $self->{ctx} or return;
-       my $res;
        my $ibx = $ctx->{-inbox};
        my $gz = $self->{gz};
+       my $msgs = $self->{msgs};
        do {
                # work on existing result set
-               while (defined(my $smsg = shift @{$self->{msgs}})) {
+               while (defined(my $smsg = shift @$msgs)) {
                        my $msg = eval { $ibx->msg_by_smsg($smsg) } or next;
                        $msg = Email::Simple->new($msg);
-                       $gz->write(PublicInbox::Mbox::msg_str($ctx, $msg));
+                       $gz->write(PublicInbox::Mbox::msg_str($ctx, $msg,
+                                                               $smsg->mid));
 
                        # use subject of first message as subject
                        if (my $hdr = delete $self->{hdr}) {
-                               my $fn = PublicInbox::Mbox::subject_fn($msg);
+                               my $fn = set_filename($self->{fn}, $msg);
                                push @$hdr, 'Content-Disposition',
                                                "inline; filename=$fn.mbox.gz";
                                return $hdr;
@@ -187,11 +247,9 @@ sub getline {
                }
 
                # refill result set
-               $res = $self->{cb}->($self->{opts});
-               $self->{msgs} = $res->{msgs};
-               $res = scalar @{$self->{msgs}};
-               $self->{opts}->{offset} += $res;
-       } while ($res);
+               $msgs = $self->{msgs} = $self->{cb}->($self->{opts});
+               $self->{opts}->{offset} += scalar @$msgs;
+       } while (@$msgs);
        $gz->close;
        delete $self->{ctx};
        ${delete $self->{buf}};