Open-ILS/src/perlmods/OpenILS/Application/Storage/Publisher/metabib.pm

   1 package OpenILS::Application::Storage::Publisher::metabib;
   2 use base qw/OpenILS::Application::Storage::Publisher/;
   3 use vars qw/$VERSION/;
   4 use OpenSRF::EX qw/:try/;
   5 use OpenILS::Application::Storage::FTS;
   6 use OpenILS::Utils::Fieldmapper;
   7 use OpenSRF::Utils::Logger qw/:level/;
   8 use OpenSRF::Utils::Cache;
   9 use Data::Dumper;
  10 use Digest::MD5 qw/md5_hex/;
  11
  12
  13 my $log = 'OpenSRF::Utils::Logger';
  14
  15 $VERSION = 1;
  16
  17 # need to order record IDs by:
  18 #  1) format - text, movie, sound, software, images, maps, mixed, music, 3d
  19 #  2) proximity --- XXX Can't do it cheap...
  20 #  3) count
  21 sub ordered_records_from_metarecord {
  22         my $self = shift;
  23         my $client = shift;
  24         my $mr = shift;
  25         my $formats = shift;
  26
  27         my (@types,@forms);
  28
  29         if ($formats) {
  30                 my ($t, $f) = split '-', $formats;
  31                 @types = split '', $t;
  32                 @forms = split '', $f;
  33         }
  34
  35         my $copies_visible = 'AND cp.opac_visible IS TRUE AND cs.holdable IS TRUE AND cl.opac_visible IS TRUE';
  36         $copies_visible = '' if ($self->api_name =~ /staff/o);
  37
  38         my $sm_table = metabib::metarecord_source_map->table;
  39         my $rd_table = metabib::record_descriptor->table;
  40         my $cn_table = asset::call_number->table;
  41         my $cl_table = asset::copy_location->table;
  42         my $cp_table = asset::copy->table;
  43         my $cs_table = config::copy_status->table;
  44         my $out_table = actor::org_unit_type->table;
  45
  46         my $sql = <<"   SQL";
  47          SELECT *
  48            FROM (
  49                 SELECT  rd.record,
  50                         rd.item_type,
  51                         rd.item_form,
  52         SQL
  53
  54         if ($copies_visible) {
  55                 $sql .= <<"             SQL";
  56                         sum((SELECT     count(cp.id)
  57                                FROM     $cp_table cp
  58                                         JOIN $cs_table cs ON (cp.status = cs.id)
  59                                         JOIN $cl_table cl ON (cp.location = cl.id)
  60                                WHERE    cn.id = cp.call_number
  61                                         $copies_visible
  62                           )) AS count
  63                 SQL
  64         } else {
  65                 $sql .= '0 AS count';
  66         }
  67
  68         if ($copies_visible) {
  69                 $sql .= <<"             SQL";
  70                   FROM  $cn_table cn,
  71                         $sm_table sm,
  72                         $rd_table rd
  73                   WHERE rd.record = sm.source
  74                         AND cn.record = rd.record
  75                         AND sm.metarecord = ?
  76                 SQL
  77         } else {
  78                 $sql .= <<"             SQL";
  79                   FROM  $sm_table sm,
  80                         $rd_table rd
  81                   WHERE rd.record = sm.source
  82                         AND sm.metarecord = ?
  83                 SQL
  84         }
  85
  86         $sql .= <<"     SQL";
  87                   GROUP BY rd.record, rd.item_type, rd.item_form
  88                   ORDER BY
  89                         CASE
  90                                 WHEN rd.item_type IS NULL -- default
  91                                         THEN 0
  92                                 WHEN rd.item_type = '' -- default
  93                                         THEN 0
  94                                 WHEN rd.item_type IN ('a','t') -- books
  95                                         THEN 1
  96                                 WHEN rd.item_type = 'g' -- movies
  97                                         THEN 2
  98                                 WHEN rd.item_type IN ('i','j') -- sound recordings
  99                                         THEN 3
 100                                 WHEN rd.item_type = 'm' -- software
 101                                         THEN 4
 102                                 WHEN rd.item_type = 'k' -- images
 103                                         THEN 5
 104                                 WHEN rd.item_type IN ('e','f') -- maps
 105                                         THEN 6
 106                                 WHEN rd.item_type IN ('o','p') -- mixed
 107                                         THEN 7
 108                                 WHEN rd.item_type IN ('c','d') -- music
 109                                         THEN 8
 110                                 WHEN rd.item_type = 'r' -- 3d
 111                                         THEN 9
 112                         END,
 113                         count DESC
 114                 ) x
 115         SQL
 116
 117         if ($copies_visible) {
 118                 $sql .= ' WHERE x.count > 0'
 119         }
 120
 121         if (@types) {
 122                 $sql .= ' AND x.item_type IN ('.join(',',map{'?'}@types).')';
 123         }
 124
 125         if (@forms) {
 126                 $sql .= ' AND x.item_form IN ('.join(',',map{'?'}@forms).')';
 127         }
 128
 129         my $sth = metabib::metarecord_source_map->db_Main->prepare_cached($sql);
 130         $sth->execute("$mr", @types, @forms);
 131         while ( my $row = $sth->fetchrow_arrayref ) {
 132                 $client->respond( $$row[0] );
 133         }
 134         return undef;
 135
 136 }
 137 __PACKAGE__->register_method(
 138         api_name        => 'open-ils.storage.ordered.metabib.metarecord.records',
 139         method          => 'ordered_records_from_metarecord',
 140         api_level       => 1,
 141         stream          => 1,
 142         cachable        => 1,
 143 );
 144 __PACKAGE__->register_method(
 145         api_name        => 'open-ils.storage.ordered.metabib.metarecord.records.staff',
 146         method          => 'ordered_records_from_metarecord',
 147         api_level       => 1,
 148         stream          => 1,
 149         cachable        => 1,
 150 );
 151
 152
 153 sub metarecord_copy_count {
 154         my $self = shift;
 155         my $client = shift;
 156
 157         my %args = @_;
 158
 159         my $sm_table = metabib::metarecord_source_map->table;
 160         my $rd_table = metabib::record_descriptor->table;
 161         my $cn_table = asset::call_number->table;
 162         my $cp_table = asset::copy->table;
 163         my $cl_table = asset::copy_location->table;
 164         my $cs_table = config::copy_status->table;
 165         my $out_table = actor::org_unit_type->table;
 166         my $descendants = "actor.org_unit_descendants(u.id)";
 167         my $ancestors = "actor.org_unit_ancestors(?)";
 168
 169         my $copies_visible = 'AND cp.opac_visible IS TRUE AND cs.holdable IS TRUE AND cl.opac_visible IS TRUE';
 170         $copies_visible = '' if ($self->api_name =~ /staff/o);
 171
 172         my (@types,@forms);
 173         my ($t_filter, $f_filter) = ('','');
 174
 175         if ($args{format}) {
 176                 my ($t, $f) = split '-', $args{format};
 177                 @types = split '', $t;
 178                 @forms = split '', $f;
 179                 if (@types) {
 180                         $t_filter = ' AND rd.item_type IN ('.join(',',map{'?'}@types).')';
 181                 }
 182
 183                 if (@forms) {
 184                         $f_filter .= ' AND rd.item_form IN ('.join(',',map{'?'}@forms).')';
 185                 }
 186         }
 187
 188         my $sql = <<"   SQL";
 189                 SELECT  t.depth,
 190                         u.id AS org_unit,
 191                         sum(
 192                                 (SELECT count(cp.id)
 193                                   FROM  $sm_table r
 194                                         JOIN $cn_table cn ON (cn.record = r.source)
 195                                         JOIN $rd_table rd ON (cn.record = rd.record)
 196                                         JOIN $cp_table cp ON (cn.id = cp.call_number)
 197                                         JOIN $cs_table cs ON (cp.status = cs.id)
 198                                         JOIN $cl_table cl ON (cp.location = cl.id)
 199                                         JOIN $descendants a ON (cp.circ_lib = a.id)
 200                                   WHERE r.metarecord = ?
 201                                         $copies_visible
 202                                         $t_filter
 203                                         $f_filter
 204                                 )
 205                         ) AS count,
 206                         sum(
 207                                 (SELECT count(cp.id)
 208                                   FROM  $sm_table r
 209                                         JOIN $cn_table cn ON (cn.record = r.source)
 210                                         JOIN $rd_table rd ON (cn.record = rd.record)
 211                                         JOIN $cp_table cp ON (cn.id = cp.call_number)
 212                                         JOIN $cs_table cs ON (cp.status = cs.id)
 213                                         JOIN $cl_table cl ON (cp.location = cl.id)
 214                                         JOIN $descendants a ON (cp.circ_lib = a.id)
 215                                   WHERE r.metarecord = ?
 216                                         AND cp.status = 0
 217                                         $copies_visible
 218                                         $t_filter
 219                                         $f_filter
 220                                 )
 221                         ) AS available
 222
 223                   FROM  $ancestors u
 224                         JOIN $out_table t ON (u.ou_type = t.id)
 225                   GROUP BY 1,2
 226         SQL
 227
 228         my $sth = metabib::metarecord_source_map->db_Main->prepare_cached($sql);
 229         $sth->execute(  ''.$args{metarecord},
 230                         @types,
 231                         @forms,
 232                         ''.$args{metarecord},
 233                         @types,
 234                         @forms,
 235                         ''.$args{org_unit},
 236         );
 237
 238         while ( my $row = $sth->fetchrow_hashref ) {
 239                 $client->respond( $row );
 240         }
 241         return undef;
 242 }
 243 __PACKAGE__->register_method(
 244         api_name        => 'open-ils.storage.metabib.metarecord.copy_count',
 245         method          => 'metarecord_copy_count',
 246         api_level       => 1,
 247         stream          => 1,
 248         cachable        => 1,
 249 );
 250 __PACKAGE__->register_method(
 251         api_name        => 'open-ils.storage.metabib.metarecord.copy_count.staff',
 252         method          => 'metarecord_copy_count',
 253         api_level       => 1,
 254         stream          => 1,
 255         cachable        => 1,
 256 );
 257
 258 sub multi_search_full_rec {
 259         my $self = shift;
 260         my $client = shift;
 261
 262         my %args = @_;
 263         my $class_join = $args{class_join} || 'AND';
 264         my $limit = $args{limit} || 100;
 265         my $offset = $args{offset} || 0;
 266         my @binds;
 267         my @selects;
 268
 269         for my $arg (@{ $args{searches} }) {
 270                 my $term = $$arg{term};
 271                 my $limiters = $$arg{restrict};
 272
 273                 my ($index_col) = metabib::full_rec->columns('FTS');
 274                 $index_col ||= 'value';
 275                 my $search_table = metabib::full_rec->table;
 276
 277                 my $fts = OpenILS::Application::Storage::FTS->compile($term, 'value',"$index_col");
 278
 279                 my $fts_where = $fts->sql_where_clause();
 280                 my @fts_ranks = $fts->fts_rank;
 281
 282                 my $rank = join(' + ', @fts_ranks);
 283
 284                 my @wheres;
 285                 for my $limit (@$limiters) {
 286                         push @wheres, "( tag = ? AND subfield LIKE ? AND $fts_where )";
 287                         push @binds, $$limit{tag}, $$limit{subfield};
 288                         $log->debug("Limiting query using { tag => $$limit{tag}, subfield => $$limit{subfield} }", DEBUG);
 289                 }
 290                 my $where = join(' OR ', @wheres);
 291
 292                 push @selects, "SELECT id, record, $rank as sum FROM $search_table WHERE $where";
 293
 294         }
 295
 296         my $descendants = defined($args{depth}) ?
 297                                 "actor.org_unit_descendants($args{org_unit}, $args{depth})" :
 298                                 "actor.org_unit_descendants($args{org_unit})" ;
 299
 300
 301         my $metabib_record_descriptor = metabib::record_descriptor->table;
 302         my $metabib_metarecord = metabib::metarecord->table;
 303         my $metabib_metarecord_source_map_table = metabib::metarecord_source_map->table;
 304         my $asset_call_number_table = asset::call_number->table;
 305         my $asset_copy_table = asset::copy->table;
 306         my $cs_table = config::copy_status->table;
 307         my $cl_table = asset::copy_location->table;
 308
 309         my $cj = 'HAVING COUNT(x.id) = ' . scalar(@selects) if ($class_join eq 'AND');
 310         my $search_table =
 311                 '(SELECT x.record, sum(x.sum) FROM (('.
 312                         join(') UNION ALL (', @selects).
 313                         ")) x GROUP BY 1 $cj ORDER BY 2 DESC )";
 314
 315         my $has_vols = 'AND cn.owning_lib = d.id';
 316         my $has_copies = 'AND cp.call_number = cn.id';
 317         my $copies_visible = 'AND cp.opac_visible IS TRUE AND cs.holdable IS TRUE AND cl.opac_visible IS TRUE';
 318
 319         if ($self->api_name =~ /staff/o) {
 320                 $copies_visible = '';
 321                 $has_copies = '' if ($ou_type == 0);
 322                 $has_vols = '' if ($ou_type == 0);
 323         }
 324
 325         my ($t_filter, $f_filter) = ('','');
 326
 327         if ($args{format}) {
 328                 my ($t, $f) = split '-', $args{format};
 329                 my @types = split '', $t;
 330                 my @forms = split '', $f;
 331                 if (@types) {
 332                         $t_filter = ' AND rd.item_type IN ('.join(',',map{'?'}@types).')';
 333                 }
 334
 335                 if (@forms) {
 336                         $f_filter .= ' AND rd.item_form IN ('.join(',',map{'?'}@forms).')';
 337                 }
 338                 push @binds, @types, @forms;
 339         }
 340
 341
 342         if ($copies_visible) {
 343                 $select = <<"           SQL";
 344                         SELECT  m.metarecord, sum(f.sum), count(DISTINCT cp.id), CASE WHEN COUNT(DISTINCT m.source) = 1 THEN MAX(m.source) ELSE MAX(0) END
 345                         FROM    $search_table f,
 346                                 $metabib_metarecord_source_map_table m,
 347                                 $asset_call_number_table cn,
 348                                 $asset_copy_table cp,
 349                                 $cs_table cs,
 350                                 $cl_table cl,
 351                                 $metabib_record_descriptor rd,
 352                                 $descendants d
 353                         WHERE   m.source = f.record
 354                                 AND cn.record = m.source
 355                                 AND rd.record = m.source
 356                                 AND cp.status = cs.id
 357                                 AND cp.location = cl.id
 358                                 $has_vols
 359                                 $has_copies
 360                                 $copies_visible
 361                                 $t_filter
 362                                 $f_filter
 363                         GROUP BY m.metarecord HAVING count(DISTINCT cp.id) > 0
 364                         ORDER BY 2 DESC,3 DESC
 365                 SQL
 366         } else {
 367                 $select = <<"           SQL";
 368                         SELECT  m.metarecord, 1, 0, CASE WHEN COUNT(DISTINCT m.source) = 1 THEN MAX(m.source) ELSE MAX(0) END
 369                         FROM    $search_table f,
 370                                 $metabib_metarecord_source_map_table m,
 371                                 $metabib_record_descriptor rd
 372                         WHERE   m.source = f.record
 373                                 AND rd.record = m.source
 374                                 $t_filter
 375                                 $f_filter
 376                         GROUP BY 1,2,3
 377                 SQL
 378         }
 379
 380
 381         $log->debug("Search SQL :: [$select]",DEBUG);
 382
 383         my $recs = metabib::full_rec->db_Main->selectall_arrayref("$select;", {}, @binds);
 384         $log->debug("Search yielded ".scalar(@$recs)." results.",DEBUG);
 385
 386         my $count = @$recs;
 387         for my $rec (@$recs[$offset .. $offset + $limit - 1]) {
 388                 next unless ($$rec[0]);
 389                 my ($mrid,$rank,$junk,$skip) = @$rec;
 390                 $client->respond( [$mrid, sprintf('%0.3f',$rank), $skip, $count] );
 391         }
 392         return undef;
 393 }
 394 __PACKAGE__->register_method(
 395         api_name        => 'open-ils.storage.metabib.full_rec.multi_search',
 396         method          => 'multi_search_full_rec',
 397         api_level       => 1,
 398         stream          => 1,
 399         cachable        => 1,
 400 );
 401 __PACKAGE__->register_method(
 402         api_name        => 'open-ils.storage.metabib.full_rec.multi_search.staff',
 403         method          => 'multi_search_full_rec',
 404         api_level       => 1,
 405         stream          => 1,
 406         cachable        => 1,
 407 );
 408
 409 sub search_full_rec {
 410         my $self = shift;
 411         my $client = shift;
 412
 413         my %args = @_;
 414
 415         my $term = $args{term};
 416         my $limiters = $args{restrict};
 417
 418         my ($index_col) = metabib::full_rec->columns('FTS');
 419         $index_col ||= 'value';
 420         my $search_table = metabib::full_rec->table;
 421
 422         my $fts = OpenILS::Application::Storage::FTS->compile($term, 'value',"$index_col");
 423
 424         my $fts_where = $fts->sql_where_clause();
 425         my @fts_ranks = $fts->fts_rank;
 426
 427         my $rank = join(' + ', @fts_ranks);
 428
 429         my @binds;
 430         my @wheres;
 431         for my $limit (@$limiters) {
 432                 push @wheres, "( tag = ? AND subfield LIKE ? AND $fts_where )";
 433                 push @binds, $$limit{tag}, $$limit{subfield};
 434                 $log->debug("Limiting query using { tag => $$limit{tag}, subfield => $$limit{subfield} }", DEBUG);
 435         }
 436         my $where = join(' OR ', @wheres);
 437
 438         my $select = "SELECT record, sum($rank) FROM $search_table WHERE $where GROUP BY 1 ORDER BY 2 DESC;";
 439
 440         $log->debug("Search SQL :: [$select]",DEBUG);
 441
 442         my $recs = metabib::full_rec->db_Main->selectall_arrayref($select, {}, @binds);
 443         $log->debug("Search yielded ".scalar(@$recs)." results.",DEBUG);
 444
 445         $client->respond($_) for (@$recs);
 446         return undef;
 447 }
 448 __PACKAGE__->register_method(
 449         api_name        => 'open-ils.storage.direct.metabib.full_rec.search_fts.value',
 450         method          => 'search_full_rec',
 451         api_level       => 1,
 452         stream          => 1,
 453         cachable        => 1,
 454 );
 455 __PACKAGE__->register_method(
 456         api_name        => 'open-ils.storage.direct.metabib.full_rec.search_fts.index_vector',
 457         method          => 'search_full_rec',
 458         api_level       => 1,
 459         stream          => 1,
 460         cachable        => 1,
 461 );
 462
 463
 464 # XXX factored most of the PG dependant stuff out of here... need to find a way to do "dependants".
 465 sub search_class_fts {
 466         my $self = shift;
 467         my $client = shift;
 468         my %args = @_;
 469
 470         my $term = $args{term};
 471         my $ou = $args{org_unit};
 472         my $ou_type = $args{depth};
 473         my $limit = $args{limit};
 474         my $offset = $args{offset};
 475
 476         my $limit_clause = '';
 477         my $offset_clause = '';
 478
 479         $limit_clause = "LIMIT $limit" if (defined $limit and int($limit) > 0);
 480         $offset_clause = "OFFSET $offset" if (defined $offset and int($offset) > 0);
 481
 482         my (@types,@forms);
 483         my ($t_filter, $f_filter) = ('','');
 484
 485         if ($args{format}) {
 486                 my ($t, $f) = split '-', $args{format};
 487                 @types = split '', $t;
 488                 @forms = split '', $f;
 489                 if (@types) {
 490                         $t_filter = ' AND rd.item_type IN ('.join(',',map{'?'}@types).')';
 491                 }
 492
 493                 if (@forms) {
 494                         $f_filter .= ' AND rd.item_form IN ('.join(',',map{'?'}@forms).')';
 495                 }
 496         }
 497
 498
 499
 500         my $descendants = defined($ou_type) ?
 501                                 "actor.org_unit_descendants($ou, $ou_type)" :
 502                                 "actor.org_unit_descendants($ou)";
 503
 504         my $class = $self->{cdbi};
 505         my $search_table = $class->table;
 506
 507         my $metabib_record_descriptor = metabib::record_descriptor->table;
 508         my $metabib_metarecord = metabib::metarecord->table;
 509         my $metabib_metarecord_source_map_table = metabib::metarecord_source_map->table;
 510         my $asset_call_number_table = asset::call_number->table;
 511         my $asset_copy_table = asset::copy->table;
 512         my $cs_table = config::copy_status->table;
 513         my $cl_table = asset::copy_location->table;
 514
 515         my ($index_col) = $class->columns('FTS');
 516         $index_col ||= 'value';
 517
 518         my $fts = OpenILS::Application::Storage::FTS->compile($term, 'f.value', "f.$index_col");
 519
 520         my $fts_where = $fts->sql_where_clause;
 521         my @fts_ranks = $fts->fts_rank;
 522
 523         my $rank = join(' + ', @fts_ranks);
 524
 525         my $has_vols = 'AND cn.owning_lib = d.id';
 526         my $has_copies = 'AND cp.call_number = cn.id';
 527         my $copies_visible = 'AND cp.opac_visible IS TRUE AND cs.holdable IS TRUE AND cl.opac_visible IS TRUE';
 528
 529         my $visible_count = ', count(DISTINCT cp.id)';
 530         my $visible_count_test = 'HAVING count(DISTINCT cp.id) > 0';
 531
 532         if ($self->api_name =~ /staff/o) {
 533                 $copies_visible = '';
 534                 $visible_count_test = '';
 535                 $has_copies = '' if ($ou_type == 0);
 536                 $has_vols = '' if ($ou_type == 0);
 537         }
 538
 539         my $rank_calc = <<"     RANK";
 540                 , (SUM( $rank
 541                         * CASE WHEN f.value ILIKE ? THEN 1.2 ELSE 1 END -- phrase order
 542                         * CASE WHEN f.value ILIKE ? THEN 1.5 ELSE 1 END -- first word match
 543                         * CASE WHEN f.value ~* ? THEN 2 ELSE 1 END -- only word match
 544                 )/COUNT(m.source)), MIN(COALESCE(CHAR_LENGTH(f.value),1))
 545         RANK
 546
 547         $rank_calc = ',1 , 1' if ($self->api_name =~ /unordered/o);
 548
 549         if ($copies_visible) {
 550                 $select = <<"           SQL";
 551                         SELECT  m.metarecord $rank_calc $visible_count, CASE WHEN COUNT(DISTINCT m.source) = 1 THEN MAX(m.source) ELSE MAX(0) END
 552                         FROM    $search_table f,
 553                                 $metabib_metarecord_source_map_table m,
 554                                 $asset_call_number_table cn,
 555                                 $asset_copy_table cp,
 556                                 $cs_table cs,
 557                                 $cl_table cl,
 558                                 $metabib_record_descriptor rd,
 559                                 $descendants d
 560                         WHERE   $fts_where
 561                                 AND m.source = f.source
 562                                 AND cn.record = m.source
 563                                 AND rd.record = m.source
 564                                 AND cp.status = cs.id
 565                                 AND cp.location = cl.id
 566                                 $has_vols
 567                                 $has_copies
 568                                 $copies_visible
 569                                 $t_filter
 570                                 $f_filter
 571                         GROUP BY 1 $visible_count_test
 572                         ORDER BY 2 DESC,3
 573                         $limit_clause $offset_clause
 574                 SQL
 575         } else {
 576                 $select = <<"           SQL";
 577                         SELECT  m.metarecord $rank_calc, 0, CASE WHEN COUNT(DISTINCT m.source) = 1 THEN MAX(m.source) ELSE MAX(0) END
 578                         FROM    $search_table f,
 579                                 $metabib_metarecord_source_map_table m,
 580                                 $metabib_record_descriptor rd
 581                         WHERE   $fts_where
 582                                 AND m.source = f.source
 583                                 AND rd.record = m.source
 584                                 $t_filter
 585                                 $f_filter
 586                         GROUP BY 1, 4
 587                         ORDER BY 2 DESC,3
 588                         $limit_clause $offset_clause
 589                 SQL
 590         }
 591
 592         $log->debug("Field Search SQL :: [$select]",DEBUG);
 593
 594         my $SQLstring = join('%',$fts->words);
 595         my $REstring = join('\\s+',$fts->words);
 596         my $first_word = ($fts->words)[0].'%';
 597         my $recs = ($self->api_name =~ /unordered/o) ?
 598                         $class->db_Main->selectall_arrayref($select, {}, @types, @forms) :
 599                         $class->db_Main->selectall_arrayref($select, {},
 600                                 '%'.lc($SQLstring).'%',                 # phrase order match
 601                                 lc($first_word),                        # first word match
 602                                 '^\\s*'.lc($REstring).'\\s*/?\s*$',     # full exact match
 603                                 @types, @forms
 604                         );
 605
 606         $log->debug("Search yielded ".scalar(@$recs)." results.",DEBUG);
 607
 608         $client->respond($_) for (map { [@$_[0,1,3,4]] } @$recs);
 609         return undef;
 610 }
 611
 612 for my $class ( qw/title author subject keyword series/ ) {
 613         __PACKAGE__->register_method(
 614                 api_name        => "open-ils.storage.metabib.$class.search_fts.metarecord",
 615                 method          => 'search_class_fts',
 616                 api_level       => 1,
 617                 stream          => 1,
 618                 cdbi            => "metabib::${class}_field_entry",
 619                 cachable        => 1,
 620         );
 621         __PACKAGE__->register_method(
 622                 api_name        => "open-ils.storage.metabib.$class.search_fts.metarecord.unordered",
 623                 method          => 'search_class_fts',
 624                 api_level       => 1,
 625                 stream          => 1,
 626                 cdbi            => "metabib::${class}_field_entry",
 627                 cachable        => 1,
 628         );
 629         __PACKAGE__->register_method(
 630                 api_name        => "open-ils.storage.metabib.$class.search_fts.metarecord.staff",
 631                 method          => 'search_class_fts',
 632                 api_level       => 1,
 633                 stream          => 1,
 634                 cdbi            => "metabib::${class}_field_entry",
 635                 cachable        => 1,
 636         );
 637         __PACKAGE__->register_method(
 638                 api_name        => "open-ils.storage.metabib.$class.search_fts.metarecord.staff.unordered",
 639                 method          => 'search_class_fts',
 640                 api_level       => 1,
 641                 stream          => 1,
 642                 cdbi            => "metabib::${class}_field_entry",
 643                 cachable        => 1,
 644         );
 645 }
 646
 647 # XXX factored most of the PG dependant stuff out of here... need to find a way to do "dependants".
 648 sub search_class_fts_count {
 649         my $self = shift;
 650         my $client = shift;
 651         my %args = @_;
 652
 653         my $term = $args{term};
 654         my $ou = $args{org_unit};
 655         my $ou_type = $args{depth};
 656         my $limit = $args{limit} || 100;
 657         my $offset = $args{offset} || 0;
 658
 659         my $descendants = defined($ou_type) ?
 660                                 "actor.org_unit_descendants($ou, $ou_type)" :
 661                                 "actor.org_unit_descendants($ou)";
 662
 663         my (@types,@forms);
 664         my ($t_filter, $f_filter) = ('','');
 665
 666         if ($args{format}) {
 667                 my ($t, $f) = split '-', $args{format};
 668                 @types = split '', $t;
 669                 @forms = split '', $f;
 670                 if (@types) {
 671                         $t_filter = ' AND rd.item_type IN ('.join(',',map{'?'}@types).')';
 672                 }
 673
 674                 if (@forms) {
 675                         $f_filter .= ' AND rd.item_form IN ('.join(',',map{'?'}@forms).')';
 676                 }
 677         }
 678
 679
 680         (my $search_class = $self->api_name) =~ s/.*metabib.(\w+).search_fts.*/$1/o;
 681
 682         my $class = $self->{cdbi};
 683         my $search_table = $class->table;
 684
 685         my $metabib_record_descriptor = metabib::record_descriptor->table;
 686         my $metabib_metarecord_source_map_table = metabib::metarecord_source_map->table;
 687         my $asset_call_number_table = asset::call_number->table;
 688         my $asset_copy_table = asset::copy->table;
 689         my $cs_table = config::copy_status->table;
 690         my $cl_table = asset::copy_location->table;
 691
 692         my ($index_col) = $class->columns('FTS');
 693         $index_col ||= 'value';
 694
 695         my $fts = OpenILS::Application::Storage::FTS->compile($term, 'value',"$index_col");
 696
 697         my $fts_where = $fts->sql_where_clause;
 698
 699         my $has_vols = 'AND cn.owning_lib = d.id';
 700         my $has_copies = 'AND cp.call_number = cn.id';
 701         my $copies_visible = 'AND cp.opac_visible IS TRUE AND cs.holdable IS TRUE AND cl.opac_visible IS TRUE';
 702         if ($self->api_name =~ /staff/o) {
 703                 $copies_visible = '';
 704                 $has_vols = '' if ($ou_type == 0);
 705                 $has_copies = '' if ($ou_type == 0);
 706         }
 707
 708         # XXX test an "EXISTS version of descendant checking...
 709         my $select;
 710         if ($copies_visible) {
 711                 $select = <<"           SQL";
 712                 SELECT  count(distinct  m.metarecord)
 713                   FROM  $search_table f,
 714                         $metabib_metarecord_source_map_table m,
 715                         $metabib_metarecord_source_map_table mr,
 716                         $asset_call_number_table cn,
 717                         $asset_copy_table cp,
 718                         $cs_table cs,
 719                         $cl_table cl,
 720                         $metabib_record_descriptor rd,
 721                         $descendants d
 722                   WHERE $fts_where
 723                         AND mr.source = f.source
 724                         AND mr.metarecord = m.metarecord
 725                         AND cn.record = m.source
 726                         AND rd.record = m.source
 727                         AND cp.status = cs.id
 728                         AND cp.location = cl.id
 729                         $has_vols
 730                         $has_copies
 731                         $copies_visible
 732                         $t_filter
 733                         $f_filter
 734                 SQL
 735         } else {
 736                 $select = <<"           SQL";
 737                 SELECT  count(distinct  m.metarecord)
 738                   FROM  $search_table f,
 739                         $metabib_metarecord_source_map_table m,
 740                         $metabib_metarecord_source_map_table mr,
 741                         $metabib_record_descriptor rd
 742                   WHERE $fts_where
 743                         AND mr.source = f.source
 744                         AND mr.metarecord = m.metarecord
 745                         AND rd.record = m.source
 746                         $t_filter
 747                         $f_filter
 748                 SQL
 749         }
 750
 751         $log->debug("Field Search Count SQL :: [$select]",DEBUG);
 752
 753         my $recs = $class->db_Main->selectrow_arrayref($select, {}, @types, @forms)->[0];
 754
 755         $log->debug("Count Search yielded $recs results.",DEBUG);
 756
 757         return $recs;
 758
 759 }
 760 for my $class ( qw/title author subject keyword series/ ) {
 761         __PACKAGE__->register_method(
 762                 api_name        => "open-ils.storage.metabib.$class.search_fts.metarecord_count",
 763                 method          => 'search_class_fts_count',
 764                 api_level       => 1,
 765                 stream          => 1,
 766                 cdbi            => "metabib::${class}_field_entry",
 767                 cachable        => 1,
 768         );
 769         __PACKAGE__->register_method(
 770                 api_name        => "open-ils.storage.metabib.$class.search_fts.metarecord_count.staff",
 771                 method          => 'search_class_fts_count',
 772                 api_level       => 1,
 773                 stream          => 1,
 774                 cdbi            => "metabib::${class}_field_entry",
 775                 cachable        => 1,
 776         );
 777 }
 778
 779
 780 # XXX factored most of the PG dependant stuff out of here... need to find a way to do "dependants".
 781 sub new_search_class_fts {
 782         my $self = shift;
 783         my $client = shift;
 784         my %args = @_;
 785
 786         my $term = $args{term};
 787         my $ou = $args{org_unit};
 788         my $ou_type = $args{depth};
 789         my $limit = $args{limit};
 790         my $offset = $args{offset} || 0;
 791
 792         my $limit_clause = '';
 793         my $offset_clause = '';
 794
 795         $limit_clause = "LIMIT $limit" if (defined $limit and int($limit) > 0);
 796         $offset_clause = "OFFSET $offset" if (defined $offset and int($offset) > 0);
 797
 798         my (@types,@forms);
 799         my ($t_filter, $f_filter) = ('','');
 800
 801         if ($args{format}) {
 802                 my ($t, $f) = split '-', $args{format};
 803                 @types = split '', $t;
 804                 @forms = split '', $f;
 805                 if (@types) {
 806                         $t_filter = ' AND rd.item_type IN ('.join(',',map{'?'}@types).')';
 807                 }
 808
 809                 if (@forms) {
 810                         $f_filter .= ' AND rd.item_form IN ('.join(',',map{'?'}@forms).')';
 811                 }
 812         }
 813
 814
 815
 816         my $descendants = defined($ou_type) ?
 817                                 "actor.org_unit_descendants($ou, $ou_type)" :
 818                                 "actor.org_unit_descendants($ou)";
 819
 820         my $class = $self->{cdbi};
 821         my $search_table = $class->table;
 822
 823         my $metabib_record_descriptor = metabib::record_descriptor->table;
 824         my $metabib_metarecord = metabib::metarecord->table;
 825         my $metabib_metarecord_source_map_table = metabib::metarecord_source_map->table;
 826         my $asset_call_number_table = asset::call_number->table;
 827         my $asset_copy_table = asset::copy->table;
 828         my $cs_table = config::copy_status->table;
 829         my $cl_table = asset::copy_location->table;
 830
 831         my ($index_col) = $class->columns('FTS');
 832         $index_col ||= 'value';
 833
 834         my $fts = OpenILS::Application::Storage::FTS->compile($term, 'f.value', "f.$index_col");
 835
 836         my $fts_where = $fts->sql_where_clause;
 837         my @fts_ranks = $fts->fts_rank;
 838
 839         my $rank = join(' + ', @fts_ranks);
 840
 841         if ($self->api_name !~ /staff/o) {
 842                 $select = <<"           SQL";
 843                         SELECT  m.metarecord,
 844                                 (SUM(   $rank
 845                                         * CASE WHEN f.value ILIKE ? THEN 1.2 ELSE 1 END -- phrase order
 846                                         * CASE WHEN f.value ILIKE ? THEN 1.5 ELSE 1 END -- first word match
 847                                         * CASE WHEN f.value ~* ? THEN 2 ELSE 1 END -- only word match
 848                                 )/COUNT(m.source)),
 849                                 CASE WHEN COUNT(DISTINCT rd.record) = 1 THEN MIN(m.source) ELSE 0 END
 850                         FROM    $search_table f,
 851                                 $metabib_metarecord_source_map_table m,
 852                                 $metabib_metarecord_source_map_table mr,
 853                                 $metabib_record_descriptor rd
 854                         WHERE   $fts_where
 855                                 AND mr.source = f.source
 856                                 AND mr.metarecord = m.metarecord
 857                                 AND rd.record = m.source
 858                                 $t_filter
 859                                 $f_filter
 860                                 AND EXISTS (
 861                                         SELECT  TRUE
 862                                           FROM  $asset_call_number_table cn,
 863                                                 $asset_copy_table cp,
 864                                                 $cs_table cs,
 865                                                 $cl_table cl,
 866                                                 $descendants d
 867                                           WHERE cn.record = mr.source
 868                                                 AND cp.status = cs.id
 869                                                 AND cp.location = cl.id
 870                                                 AND cn.owning_lib = d.id
 871                                                 AND cp.call_number = cn.id
 872                                                 AND cp.opac_visible IS TRUE
 873                                                 AND cs.holdable IS TRUE
 874                                                 AND cl.opac_visible IS TRUE )
 875                         GROUP BY m.metarecord
 876                         ORDER BY 2 DESC, MIN(COALESCE(CHAR_LENGTH(f.value),1))
 877                 SQL
 878         } else {
 879                 $select = <<"           SQL";
 880                         SELECT  m.metarecord,
 881                                 (SUM(   $rank
 882                                         * CASE WHEN f.value ILIKE ? THEN 1.2 ELSE 1 END -- phrase order
 883                                         * CASE WHEN f.value ILIKE ? THEN 1.5 ELSE 1 END -- first word match
 884                                         * CASE WHEN f.value ~* ? THEN 2 ELSE 1 END -- only word match
 885                                 )/COUNT(m.source)),
 886                                 CASE WHEN COUNT(DISTINCT rd.record) = 1 THEN MIN(m.source) ELSE 0 END
 887                         FROM    $search_table f,
 888                                 $metabib_metarecord_source_map_table m,
 889                                 $metabib_metarecord_source_map_table mr,
 890                                 $metabib_record_descriptor rd
 891                         WHERE   $fts_where
 892                                 AND m.source = f.source
 893                                 AND m.metarecord = mr.metarecord
 894                                 AND rd.record = m.source
 895                                 $t_filter
 896                                 $f_filter
 897                         GROUP BY m.metarecord
 898                         ORDER BY 2 DESC, MIN(COALESCE(CHAR_LENGTH(f.value),1))
 899                 SQL
 900         }
 901
 902         $log->debug("Field Search SQL :: [$select]",DEBUG);
 903
 904         my $SQLstring = join('%',$fts->words);
 905         my $REstring = join('\\s+',$fts->words);
 906         my $first_word = ($fts->words)[0].'%';
 907         my $recs = ($self->api_name =~ /unordered/o) ?
 908                         $class->db_Main->selectall_arrayref($select, {}, @types, @forms) :
 909                         $class->db_Main->selectall_arrayref($select, {},
 910                                 '%'.lc($SQLstring).'%',                 # phrase order match
 911                                 lc($first_word),                        # first word match
 912                                 '^\\s*'.lc($REstring).'\\s*/?\s*$',     # full exact match
 913                                 @types, @forms
 914                         );
 915
 916         $log->debug("Search yielded ".scalar(@$recs)." results.",DEBUG);
 917
 918         my $count = scalar(@$recs);
 919         for my $rec (@$recs[$offset .. $offset + $limit - 1]) {
 920                 my ($mrid,$rank,$skip) = @$rec;
 921                 $client->respond( [$mrid, sprintf('%0.3f',$rank), $skip, $count] );
 922         }
 923         return undef;
 924 }
 925
 926 for my $class ( qw/title author subject keyword series/ ) {
 927         __PACKAGE__->register_method(
 928                 api_name        => "open-ils.storage.metabib.$class.new_search_fts.metarecord",
 929                 method          => 'new_search_class_fts',
 930                 api_level       => 1,
 931                 stream          => 1,
 932                 cdbi            => "metabib::${class}_field_entry",
 933                 cachable        => 1,
 934         );
 935         __PACKAGE__->register_method(
 936                 api_name        => "open-ils.storage.metabib.$class.new_search_fts.metarecord.staff",
 937                 method          => 'new_search_class_fts',
 938                 api_level       => 1,
 939                 stream          => 1,
 940                 cdbi            => "metabib::${class}_field_entry",
 941                 cachable        => 1,
 942         );
 943 }
 944
 945
 946
 947
 948 # XXX factored most of the PG dependant stuff out of here... need to find a way to do "dependants".
 949 sub postfilter_search_class_fts {
 950         my $self = shift;
 951         my $client = shift;
 952         my %args = @_;
 953
 954         my $term = $args{term};
 955         my $sort = $args{'sort'};
 956         my $sort_dir = $args{sort_dir} || 'DESC';
 957         my $ou = $args{org_unit};
 958         my $ou_type = $args{depth};
 959         my $limit = $args{limit};
 960         my $offset = $args{offset} || 0;
 961
 962         my $outer_limit = 1000;
 963
 964         my $limit_clause = '';
 965         my $offset_clause = '';
 966
 967         $limit_clause = "LIMIT $outer_limit";
 968         $offset_clause = "OFFSET $offset" if (defined $offset and int($offset) > 0);
 969
 970         my (@types,@forms);
 971         my ($t_filter, $f_filter) = ('','');
 972         my ($ot_filter, $of_filter) = ('','');
 973
 974         if ($args{format}) {
 975                 my ($t, $f) = split '-', $args{format};
 976                 @types = split '', $t;
 977                 @forms = split '', $f;
 978                 if (@types) {
 979                         $t_filter = ' AND rd.item_type IN ('.join(',',map{'?'}@types).')';
 980                         $ot_filter = ' AND ord.item_type IN ('.join(',',map{'?'}@types).')';
 981                 }
 982
 983                 if (@forms) {
 984                         $f_filter .= ' AND rd.item_form IN ('.join(',',map{'?'}@forms).')';
 985                         $of_filter .= ' AND ord.item_form IN ('.join(',',map{'?'}@forms).')';
 986                 }
 987         }
 988
 989
 990
 991         my $descendants = defined($ou_type) ?
 992                                 "actor.org_unit_descendants($ou, $ou_type)" :
 993                                 "actor.org_unit_descendants($ou)";
 994
 995         my $class = $self->{cdbi};
 996         my $search_table = $class->table;
 997
 998         my $metabib_full_rec = metabib::full_rec->table;
 999         my $metabib_record_descriptor = metabib::record_descriptor->table;
1000         my $metabib_metarecord = metabib::metarecord->table;
1001         my $metabib_metarecord_source_map_table = metabib::metarecord_source_map->table;
1002         my $asset_call_number_table = asset::call_number->table;
1003         my $asset_copy_table = asset::copy->table;
1004         my $cs_table = config::copy_status->table;
1005         my $cl_table = asset::copy_location->table;
1006         my $br_table = biblio::record_entry->table;
1007
1008         my ($index_col) = $class->columns('FTS');
1009         $index_col ||= 'value';
1010
1011         my $fts = OpenILS::Application::Storage::FTS->compile($term, 'f.value', "f.$index_col");
1012
1013         my $SQLstring = join('%',$fts->words);
1014         my $REstring = '^' . join('\s+',$fts->words) . '\W*$';
1015         my $first_word = ($fts->words)[0].'%';
1016
1017         my $fts_where = $fts->sql_where_clause;
1018         my @fts_ranks = $fts->fts_rank;
1019
1020         my %bonus = ();
1021         $bonus{'metabib::keyword_field_entry'} = [ { 'CASE WHEN f.value ILIKE ? THEN 1.2 ELSE 1 END' => $SQLstring } ];
1022         $bonus{'metabib::title_field_entry'} =
1023                 $bonus{'metabib::series_field_entry'} = [
1024                         { 'CASE WHEN f.value ILIKE ? THEN 1.5 ELSE 1 END' => $first_word },
1025                         { 'CASE WHEN f.value ~* ? THEN 2 ELSE 1 END' => $REstring },
1026                         @{ $bonus{'metabib::keyword_field_entry'} }
1027                 ];
1028
1029         my $bonus_list = join ' * ', map { keys %$_ } @{ $bonus{$class} };
1030         $bonus_list ||= '1';
1031
1032         my @bonus_values = map { values %$_ } @{ $bonus{$class} };
1033
1034         my $relevance = join(' + ', @fts_ranks);
1035         $relevance = <<"        RANK";
1036                         (SUM( ( $relevance )  * ( $bonus_list ) )/COUNT(m.source))
1037         RANK
1038
1039         my $rank = $relevance;
1040         if (lc($sort) eq 'pubdate') {
1041                 $rank = <<"             RANK";
1042                         ( FIRST ((
1043                                 SELECT  COALESCE(SUBSTRING(frp.value FROM '\\\\d+'),'9999')::INT
1044                                   FROM  $metabib_full_rec frp
1045                                   WHERE frp.record = mr.master_record
1046                                         AND frp.tag = '260'
1047                                         AND frp.subfield = 'c'
1048                                   LIMIT 1
1049                         )) )
1050                 RANK
1051         } elsif (lc($sort) eq 'title') {
1052                 $rank = <<"             RANK";
1053                         ( FIRST ((
1054                                 SELECT  COALESCE(LTRIM(SUBSTR( frt.value, frt.ind2::text::int )),'zzzzzzzz')
1055                                   FROM  $metabib_full_rec frt
1056                                   WHERE frt.record = mr.master_record
1057                                         AND frt.tag = '245'
1058                                         AND frt.subfield = 'a'
1059                                   LIMIT 1
1060                         )) )
1061                 RANK
1062         } elsif (lc($sort) eq 'author') {
1063                 $rank = <<"             RANK";
1064                         ( FIRST((
1065                                 SELECT  COALESCE(LTRIM(fra.value),'zzzzzzzz')
1066                                   FROM  $metabib_full_rec fra
1067                                   WHERE fra.record = mr.master_record
1068                                         AND fra.tag LIKE '1%'
1069                                         AND fra.subfield = 'a'
1070                                   ORDER BY fra.tag::text::int
1071                                   LIMIT 1
1072                         )) )
1073                 RANK
1074         } else {
1075                 $sort = undef;
1076         }
1077
1078         my $select = <<"        SQL";
1079                 SELECT  m.metarecord,
1080                         $relevance,
1081                         CASE WHEN COUNT(DISTINCT smrs.source) = 1 THEN MIN(m.source) ELSE 0 END,
1082                         $rank
1083                 FROM    $search_table f,
1084                         $metabib_metarecord_source_map_table m,
1085                         $metabib_metarecord_source_map_table smrs,
1086                         $metabib_metarecord mr,
1087                         $metabib_record_descriptor rd
1088                 WHERE   $fts_where
1089                         AND smrs.metarecord = mr.id
1090                         AND m.source = f.source
1091                         AND m.metarecord = mr.id
1092                         AND rd.record = smrs.source
1093                         $t_filter
1094                         $f_filter
1095                 GROUP BY m.metarecord
1096                 ORDER BY 4 $sort_dir, MIN(COALESCE(CHAR_LENGTH(f.value),1))
1097                 LIMIT 10000
1098         SQL
1099
1100         if (0) {
1101                 $select = <<"           SQL";
1102
1103                         SELECT  DISTINCT s.*
1104                           FROM  $asset_call_number_table cn,
1105                                 $metabib_metarecord_source_map_table mrs,
1106                                 $asset_copy_table cp,
1107                                 $cs_table cs,
1108                                 $cl_table cl,
1109                                 $br_table br,
1110                                 $descendants d,
1111                                 $metabib_record_descriptor ord,
1112                                 ($select) s
1113                           WHERE mrs.metarecord = s.metarecord
1114                                 AND br.id = mrs.source
1115                                 AND cn.record = mrs.source
1116                                 AND cp.status = cs.id
1117                                 AND cp.location = cl.id
1118                                 AND cn.owning_lib = d.id
1119                                 AND cp.call_number = cn.id
1120                                 AND cp.opac_visible IS TRUE
1121                                 AND cs.holdable IS TRUE
1122                                 AND cl.opac_visible IS TRUE
1123                                 AND br.active IS TRUE
1124                                 AND br.deleted IS FALSE
1125                                 AND ord.record = mrs.source
1126                                 $ot_filter
1127                                 $of_filter
1128                           ORDER BY 4 $sort_dir
1129                 SQL
1130         } elsif ($self->api_name !~ /staff/o) {
1131                 $select = <<"           SQL";
1132
1133                         SELECT  DISTINCT s.*
1134                           FROM  ($select) s
1135                           WHERE EXISTS (
1136                                 SELECT  1
1137                                   FROM  $asset_call_number_table cn,
1138                                         $metabib_metarecord_source_map_table mrs,
1139                                         $asset_copy_table cp,
1140                                         $cs_table cs,
1141                                         $cl_table cl,
1142                                         $br_table br,
1143                                         $descendants d,
1144                                         $metabib_record_descriptor ord
1145
1146                                   WHERE mrs.metarecord = s.metarecord
1147                                         AND br.id = mrs.source
1148                                         AND cn.record = mrs.source
1149                                         AND cp.status = cs.id
1150                                         AND cp.location = cl.id
1151                                         AND cn.owning_lib = d.id
1152                                         AND cp.call_number = cn.id
1153                                         AND cp.opac_visible IS TRUE
1154                                         AND cs.holdable IS TRUE
1155                                         AND cl.opac_visible IS TRUE
1156                                         AND br.active IS TRUE
1157                                         AND br.deleted IS FALSE
1158                                         AND ord.record = mrs.source
1159                                         $ot_filter
1160                                         $of_filter
1161                                   LIMIT 1
1162                                 )
1163                           ORDER BY 4 $sort_dir
1164                 SQL
1165         } else {
1166                 $select = <<"           SQL";
1167
1168                         SELECT  DISTINCT s.*
1169                           FROM  ($select) s
1170                           WHERE EXISTS (
1171                                 SELECT  1
1172                                   FROM  $asset_call_number_table cn,
1173                                         $metabib_metarecord_source_map_table mrs,
1174                                         $br_table br,
1175                                         $descendants d,
1176                                         $metabib_record_descriptor ord
1177
1178                                   WHERE mrs.metarecord = s.metarecord
1179                                         AND br.id = mrs.source
1180                                         AND cn.record = mrs.source
1181                                         AND cn.owning_lib = d.id
1182                                         AND br.deleted IS FALSE
1183                                         AND ord.record = mrs.source
1184                                         $ot_filter
1185                                         $of_filter
1186                                   LIMIT 1
1187                                 )
1188                                 OR NOT EXISTS (
1189                                 SELECT  1
1190                                   FROM  $asset_call_number_table cn,
1191                                         $metabib_metarecord_source_map_table mrs,
1192                                         $metabib_record_descriptor ord
1193                                   WHERE mrs.metarecord = s.metarecord
1194                                         AND cn.record = mrs.source
1195                                         AND ord.record = mrs.source
1196                                         $ot_filter
1197                                         $of_filter
1198                                   LIMIT 1
1199                                 )
1200                           ORDER BY 4 $sort_dir
1201                 SQL
1202         }
1203
1204
1205         $log->debug("Field Search SQL :: [$select]",DEBUG);
1206
1207         my $recs = $class->db_Main->selectall_arrayref(
1208                         $select, {},
1209                         (@bonus_values > 0 ? @bonus_values : () ),
1210                         ( (!$sort && @bonus_values > 0) ? @bonus_values : () ),
1211                         @types, @forms, @types, @forms,  ($self->api_name =~ /staff/o ? (@types, @forms) : () ) );
1212
1213         $log->debug("Search yielded ".scalar(@$recs)." results.",DEBUG);
1214
1215         my $max = 0;
1216         $max = 1 if (!@$recs);
1217         for (@$recs) {
1218                 $max = $$_[1] if ($$_[1] > $max);
1219         }
1220
1221         my $count = scalar(@$recs);
1222         for my $rec (@$recs[$offset .. $offset + $limit - 1]) {
1223                 my ($mrid,$rank,$skip) = @$rec;
1224                 $client->respond( [$mrid, sprintf('%0.3f',$rank/$max), $skip, $count] );
1225         }
1226         return undef;
1227 }
1228
1229 for my $class ( qw/title author subject keyword series/ ) {
1230         __PACKAGE__->register_method(
1231                 api_name        => "open-ils.storage.metabib.$class.post_filter.search_fts.metarecord",
1232                 method          => 'postfilter_search_class_fts',
1233                 api_level       => 1,
1234                 stream          => 1,
1235                 cdbi            => "metabib::${class}_field_entry",
1236                 cachable        => 1,
1237         );
1238         __PACKAGE__->register_method(
1239                 api_name        => "open-ils.storage.metabib.$class.post_filter.search_fts.metarecord.staff",
1240                 method          => 'postfilter_search_class_fts',
1241                 api_level       => 1,
1242                 stream          => 1,
1243                 cdbi            => "metabib::${class}_field_entry",
1244                 cachable        => 1,
1245         );
1246 }
1247
1248
1249
1250 my $_cdbi = {   title   => "metabib::title_field_entry",
1251                 author  => "metabib::author_field_entry",
1252                 subject => "metabib::subject_field_entry",
1253                 keyword => "metabib::keyword_field_entry",
1254                 series  => "metabib::series_field_entry",
1255 };
1256
1257 # XXX factored most of the PG dependant stuff out of here... need to find a way to do "dependants".
1258 sub postfilter_search_multi_class_fts {
1259         my $self = shift;
1260         my $client = shift;
1261         my %args = @_;
1262
1263         my $sort = $args{'sort'};
1264         my $sort_dir = $args{sort_dir} || 'DESC';
1265         my $ou = $args{org_unit};
1266         my $ou_type = $args{depth};
1267         my $limit = $args{limit};
1268         my $offset = $args{offset} || 0;
1269
1270         if (! scalar( keys %{$args{searches}} )) {
1271                 die "No target organizational unit passed to ".$self->api_name;
1272         }
1273
1274         if (! scalar( keys %{$args{searches}} )) {
1275                 die "No search arguments were passed to ".$self->api_name;
1276         }
1277
1278         my $outer_limit = 1000;
1279
1280         my $limit_clause = '';
1281         my $offset_clause = '';
1282
1283         $limit_clause = "LIMIT $outer_limit";
1284         $offset_clause = "OFFSET $offset" if (defined $offset and int($offset) > 0);
1285
1286         my (@types,@forms);
1287         my ($t_filter, $f_filter) = ('','');
1288         my ($ot_filter, $of_filter) = ('','');
1289
1290         if ($args{format}) {
1291                 my ($t, $f) = split '-', $args{format};
1292                 @types = split '', $t;
1293                 @forms = split '', $f;
1294                 if (@types) {
1295                         $t_filter = ' AND rd.item_type IN ('.join(',',map{'?'}@types).')';
1296                         $ot_filter = ' AND ord.item_type IN ('.join(',',map{'?'}@types).')';
1297                 }
1298
1299                 if (@forms) {
1300                         $f_filter .= ' AND rd.item_form IN ('.join(',',map{'?'}@forms).')';
1301                         $of_filter .= ' AND ord.item_form IN ('.join(',',map{'?'}@forms).')';
1302                 }
1303         }
1304
1305
1306
1307         my $descendants = defined($ou_type) ?
1308                                 "actor.org_unit_descendants($ou, $ou_type)" :
1309                                 "actor.org_unit_descendants($ou)";
1310
1311         my $search_table_list = '';
1312         my $fts_list = '';
1313         my $join_table_list = '';
1314         my @rank_list;
1315
1316         my @bonus_lists;
1317         my @bonus_values;
1318         my $prev_search_class;
1319         my $curr_search_class;
1320         for my $search_class (sort keys %{$args{searches}}) {
1321                 $prev_search_class = $curr_search_class if ($curr_search_class);
1322
1323                 $curr_search_class = $search_class;
1324
1325                 my $class = $_cdbi->{$search_class};
1326                 my $search_table = $class->table;
1327
1328                 my ($index_col) = $class->columns('FTS');
1329                 $index_col ||= 'value';
1330
1331
1332                 my $fts = OpenILS::Application::Storage::FTS->compile($args{searches}{$search_class}{term}, $search_class.'.value', "$search_class.$index_col");
1333
1334                 my $fts_where = $fts->sql_where_clause;
1335                 my @fts_ranks = $fts->fts_rank;
1336
1337                 my $rank = join(' + ', @fts_ranks);
1338
1339                 my %bonus = ();
1340                 $bonus{'keyword'} = [ { "CASE WHEN $search_class.value ILIKE ? THEN 1.2 ELSE 1 END" => $SQLstring } ];
1341                 $bonus{'title'} =
1342                         $bonus{'metabib::series_field_entry'} = [
1343                                 { "CASE WHEN $search_class.value ILIKE ? THEN 1.5 ELSE 1 END" => $first_word },
1344                                 { "CASE WHEN $search_class.value ~* ? THEN 2 ELSE 1 END" => $REstring },
1345                                 @{ $bonus{'keyword'} }
1346                         ];
1347
1348                 my $bonus_list = join ' * ', map { keys %$_ } @{ $bonus{$search_class} };
1349                 $bonus_list ||= '1';
1350
1351                 push @bonus_lists, $bonus_list;
1352                 push @bonus_values, map { values %$_ } @{ $bonus{$search_class} };
1353
1354
1355                 #---------------------
1356
1357                 $search_table_list .= "$search_table $search_class, ";
1358                 push @rank_list,$rank;
1359                 $fts_list .= " AND $fts_where AND m.source = $search_class.source";
1360
1361                 if ($prev_search_class) {
1362                         $join_table_list .= " AND $prev_search_class.source = $curr_search_class.source";
1363                 }
1364         }
1365
1366         my $metabib_record_descriptor = metabib::record_descriptor->table;
1367         my $metabib_full_rec = metabib::full_rec->table;
1368         my $metabib_metarecord = metabib::metarecord->table;
1369         my $metabib_metarecord_source_map_table = metabib::metarecord_source_map->table;
1370         my $asset_call_number_table = asset::call_number->table;
1371         my $asset_copy_table = asset::copy->table;
1372         my $cs_table = config::copy_status->table;
1373         my $cl_table = asset::copy_location->table;
1374         my $br_table = biblio::record_entry->table;
1375
1376         if (lc($sort) ne 'pubdate' and lc($sort) ne 'title' and lc($sort) ne 'author') {
1377                 push @bonus_values, @bonus_values;
1378         }
1379
1380         my $bonuses = join (' * ', @bonus_lists);
1381         my $relevance = join (' + ', @rank_list);
1382         $relevance = "SUM( ($relevance) * ($bonuses) )";
1383
1384
1385         my $rank = $relevance;
1386         if (lc($sort) eq 'pubdate') {
1387                 $rank = <<"             RANK";
1388                         ( FIRST ((
1389                                 SELECT  COALESCE(SUBSTRING(frp.value FROM '\\\\d+'),'9999')::INT
1390                                   FROM  $metabib_full_rec frp
1391                                   WHERE frp.record = mr.master_record
1392                                         AND frp.tag = '260'
1393                                         AND frp.subfield = 'c'
1394                                   LIMIT 1
1395                         )) )
1396                 RANK
1397         } elsif (lc($sort) eq 'title') {
1398                 $rank = <<"             RANK";
1399                         ( FIRST ((
1400                                 SELECT  COALESCE(LTRIM(SUBSTR( frt.value, frt.ind2::text::int )),'zzzzzzzz')
1401                                   FROM  $metabib_full_rec frt
1402                                   WHERE frt.record = mr.master_record
1403                                         AND frt.tag = '245'
1404                                         AND frt.subfield = 'a'
1405                                   LIMIT 1
1406                         )) )
1407                 RANK
1408         } elsif (lc($sort) eq 'author') {
1409                 $rank = <<"             RANK";
1410                         ( FIRST((
1411                                 SELECT  COALESCE(LTRIM(fra.value),'zzzzzzzz')
1412                                   FROM  $metabib_full_rec fra
1413                                   WHERE fra.record = mr.master_record
1414                                         AND fra.tag LIKE '1%'
1415                                         AND fra.subfield = 'a'
1416                                   ORDER BY fra.tag::text::int
1417                                   LIMIT 1
1418                         )) )
1419                 RANK
1420         }
1421
1422
1423         my $select = <<"        SQL";
1424                 SELECT  m.metarecord,
1425                         $relevance,
1426                         CASE WHEN COUNT(DISTINCT smrs.source) = 1 THEN MIN(m.source) ELSE 0 END,
1427                         $rank
1428                 FROM    $search_table_list
1429                         $metabib_metarecord_source_map_table m,
1430                         $metabib_metarecord_source_map_table smrs,
1431                         $metabib_metarecord mr,
1432                         $metabib_record_descriptor rd
1433                 WHERE   m.metarecord = mr.id
1434                         AND smrs.metarecord = mr.id
1435                         $fts_list
1436                         $join_table_list
1437                         AND rd.record = smrs.source
1438                         $t_filter
1439                         $f_filter
1440                 GROUP BY m.metarecord
1441                 ORDER BY 4 $sort_dir
1442                 LIMIT 10000
1443         SQL
1444
1445         if ($self->api_name !~ /staff/o) {
1446                 $select = <<"           SQL";
1447
1448                         SELECT  DISTINCT s.*
1449                           FROM  ($select) s
1450                           WHERE EXISTS (
1451                                 SELECT  1
1452                                   FROM  $asset_call_number_table cn,
1453                                         $metabib_metarecord_source_map_table mrs,
1454                                         $asset_copy_table cp,
1455                                         $cs_table cs,
1456                                         $cl_table cl,
1457                                         $br_table br,
1458                                         $descendants d,
1459                                         $metabib_record_descriptor ord
1460                                   WHERE mrs.metarecord = s.metarecord
1461                                         AND br.id = mrs.source
1462                                         AND cn.record = mrs.source
1463                                         AND cp.status = cs.id
1464                                         AND cp.location = cl.id
1465                                         AND cn.owning_lib = d.id
1466                                         AND cp.call_number = cn.id
1467                                         AND cp.opac_visible IS TRUE
1468                                         AND cs.holdable IS TRUE
1469                                         AND cl.opac_visible IS TRUE
1470                                         AND br.active IS TRUE
1471                                         AND br.deleted IS FALSE
1472                                         AND ord.record = mrs.source
1473                                         $ot_filter
1474                                         $of_filter
1475                                   LIMIT 1
1476                                 )
1477                           ORDER BY 4 $sort_dir
1478                 SQL
1479         } else {
1480                 $select = <<"           SQL";
1481
1482                         SELECT  DISTINCT s.*
1483                           FROM  ($select) s
1484                           WHERE EXISTS (
1485                                 SELECT  1
1486                                   FROM  $asset_call_number_table cn,
1487                                         $metabib_metarecord_source_map_table mrs,
1488                                         $descendants d,
1489                                         $br_table br,
1490                                         $metabib_record_descriptor ord
1491                                   WHERE mrs.metarecord = s.metarecord
1492                                         AND br.id = mrs.source
1493                                         AND cn.record = mrs.source
1494                                         AND cn.owning_lib = d.id
1495                                         AND ord.record = mrs.source
1496                                         AND br.deleted IS FALSE
1497                                         $ot_filter
1498                                         $of_filter
1499                                   LIMIT 1
1500                                 )
1501                                 OR NOT EXISTS (
1502                                 SELECT  1
1503                                   FROM  $asset_call_number_table cn,
1504                                         $metabib_metarecord_source_map_table mrs,
1505                                         $metabib_record_descriptor ord
1506                                   WHERE mrs.metarecord = s.metarecord
1507                                         AND cn.record = mrs.source
1508                                         AND ord.record = mrs.source
1509                                         $ot_filter
1510                                         $of_filter
1511                                   LIMIT 1
1512                                 )
1513                           ORDER BY 4 $sort_dir
1514                 SQL
1515         }
1516
1517
1518         $log->debug("Field Search SQL :: [$select]",DEBUG);
1519
1520         my $recs = $_cdbi->{title}->db_Main->selectall_arrayref(
1521                         $select, {},
1522                         @bonus_values, @types, @forms, @types, @forms,  ($self->api_name =~ /staff/o ? (@types, @forms) : () ) );
1523
1524         $log->debug("Search yielded ".scalar(@$recs)." results.",DEBUG);
1525
1526         my $max = 0;
1527         $max = 1 if (!@$recs);
1528         for (@$recs) {
1529                 $max = $$_[1] if ($$_[1] > $max);
1530         }
1531
1532         my $count = scalar(@$recs);
1533         for my $rec (@$recs[$offset .. $offset + $limit - 1]) {
1534                 next unless ($$rec[0]);
1535                 my ($mrid,$rank,$skip) = @$rec;
1536                 $client->respond( [$mrid, sprintf('%0.3f',$rank/$max), $skip, $count] );
1537         }
1538         return undef;
1539 }
1540
1541 __PACKAGE__->register_method(
1542         api_name        => "open-ils.storage.metabib.post_filter.multiclass.search_fts.metarecord",
1543         method          => 'postfilter_search_multi_class_fts',
1544         api_level       => 1,
1545         stream          => 1,
1546         cachable        => 1,
1547 );
1548 __PACKAGE__->register_method(
1549         api_name        => "open-ils.storage.metabib.post_filter.multiclass.search_fts.metarecord.staff",
1550         method          => 'postfilter_search_multi_class_fts',
1551         api_level       => 1,
1552         stream          => 1,
1553         cachable        => 1,
1554 );
1555
1556 __PACKAGE__->register_method(
1557         api_name        => "open-ils.storage.metabib.multiclass.search_fts",
1558         method          => 'postfilter_search_multi_class_fts',
1559         api_level       => 1,
1560         stream          => 1,
1561         cachable        => 1,
1562 );
1563 __PACKAGE__->register_method(
1564         api_name        => "open-ils.storage.metabib.multiclass.search_fts.staff",
1565         method          => 'postfilter_search_multi_class_fts',
1566         api_level       => 1,
1567         stream          => 1,
1568         cachable        => 1,
1569 );
1570
1571
1572
1573 # XXX factored most of the PG dependant stuff out of here... need to find a way to do "dependants".
1574 sub postfilter_Z_search_class_fts {
1575         my $self = shift;
1576         my $client = shift;
1577         my %args = @_;
1578
1579         my $term = $args{term};
1580         my $sort = $args{'sort'};
1581         my $sort_dir = $args{sort_dir} || 'DESC';
1582         my $ou = $args{org_unit};
1583         my $ou_type = $args{depth};
1584         my $limit = $args{limit} || 10;
1585         my $offset = $args{offset} || 0;
1586
1587         my (@types,@forms);
1588         my ($t_filter, $f_filter) = ('','');
1589         my ($ot_filter, $of_filter) = ('','');
1590
1591         if ($args{format}) {
1592                 my ($t, $f) = split '-', $args{format};
1593                 @types = split '', $t;
1594                 @forms = split '', $f;
1595                 if (@types) {
1596                         $t_filter = ' AND rd.item_type IN ('.join(',',map{'?'}@types).')';
1597                         $ot_filter = ' AND ord.item_type IN ('.join(',',map{'?'}@types).')';
1598                 }
1599
1600                 if (@forms) {
1601                         $f_filter .= ' AND rd.item_form IN ('.join(',',map{'?'}@forms).')';
1602                         $of_filter .= ' AND ord.item_form IN ('.join(',',map{'?'}@forms).')';
1603                 }
1604         }
1605
1606
1607
1608         my $class = $self->{cdbi};
1609         my $search_table = $class->table;
1610         my $metabib_record_descriptor = metabib::record_descriptor->table;
1611         my $metabib_full_rec = metabib::full_rec->table;
1612         my $asset_call_number_table = asset::call_number->table;
1613         my $asset_copy_table = asset::copy->table;
1614         my $cs_table = config::copy_status->table;
1615         my $cl_table = asset::copy_location->table;
1616         my $br_table = biblio::record_entry->table;
1617
1618         my ($index_col) = $class->columns('FTS');
1619         $index_col ||= 'value';
1620
1621         my $fts = OpenILS::Application::Storage::FTS->compile($term, 'f.value', "f.$index_col");
1622
1623         my $fts_where = $fts->sql_where_clause;
1624         my @fts_ranks = $fts->fts_rank;
1625
1626         my $relevance = join(' + ', @fts_ranks);
1627
1628         $relevance = <<"        RANK";
1629                         (SUM(   ($relevance)
1630                                 * CASE WHEN f.value ILIKE ? THEN 1.2 ELSE 1 END -- phrase order
1631                                 * CASE WHEN f.value ILIKE ? THEN 1.5 ELSE 1 END -- first word match
1632                                 * CASE WHEN f.value ~* ? THEN 2 ELSE 1 END -- only word match
1633                         )/COUNT(f.id))
1634         RANK
1635
1636         my $rank = $relevance;
1637         if (lc($sort) eq 'pubdate') {
1638                 $rank = <<"             RANK";
1639                         (
1640                                 SELECT  FIRST(COALESCE(SUBSTRING(frp.value FROM '\\\\d+'),'9999')::INT)
1641                                   FROM  $metabib_full_rec frp
1642                                   WHERE frp.record = f.source
1643                                         AND frp.tag = '260'
1644                                         AND frp.subfield = 'c'
1645                         )
1646                 RANK
1647         } elsif (lc($sort) eq 'title') {
1648                 $rank = <<"             RANK";
1649                         (
1650                                 SELECT  FIRST(COALESCE(LTRIM(SUBSTR( frt.value, frt.ind2::text::int )),'zzzzzzzz'))
1651                                   FROM  $metabib_full_rec frt
1652                                   WHERE frt.record = f.source
1653                                         AND frt.tag = '245'
1654                                         AND frt.subfield = 'a'
1655                         )
1656                 RANK
1657         } elsif (lc($sort) eq 'author') {
1658                 $rank = <<"             RANK";
1659                         ( FIRST ((
1660                                 SELECT  COALESCE(LTRIM(fra.value),'zzzzzzzz')
1661                                   FROM  $metabib_full_rec fra
1662                                   WHERE fra.record = f.source
1663                                         AND fra.tag LIKE '1%'
1664                                         AND fra.subfield = 'a'
1665                                   ORDER BY fra.tag::text::int
1666                                   LIMIT 1
1667                         )) )
1668                 RANK
1669         } else {
1670                 $sort = undef;
1671         }
1672
1673
1674
1675         my $select = <<"        SQL";
1676                 SELECT  f.source,
1677                         $rank,
1678                         $relevance
1679                 FROM    $search_table f,
1680                         $br_table br,
1681                         $descendants
1682                         $metabib_record_descriptor rd
1683                 WHERE   $fts_where
1684                         AND rd.record = f.source
1685                         AND br.id = f.source
1686                         AND br.deleted IS FALSE
1687                         $t_filter
1688                         $f_filter
1689                 GROUP BY 1
1690                 ORDER BY 2 $sort_dir, 3, MIN(COALESCE(CHAR_LENGTH(f.value),1))
1691         SQL
1692
1693
1694         if ($self->api_name !~ /Zsearch/o) {
1695
1696                 my $descendants = defined($ou_type) ?
1697                                 "actor.org_unit_descendants($ou, $ou_type)" :
1698                                 "actor.org_unit_descendants($ou)";
1699
1700                 if ($self->api_name !~ /staff/o) {
1701                         $select = <<"                   SQL";
1702
1703                         SELECT  DISTINCT s.*
1704                           FROM  ($select) s
1705                           WHERE EXISTS (
1706                                 SELECT  1
1707                                   FROM  $asset_call_number_table cn,
1708                                         $asset_copy_table cp,
1709                                         $cs_table cs,
1710                                         $cl_table cl,
1711                                         $br_table br,
1712                                         $descendants d
1713                                   WHERE br.id = s.source
1714                                         AND cn.record = s.source
1715                                         AND cp.status = cs.id
1716                                         AND cp.location = cl.id
1717                                         AND cn.owning_lib = d.id
1718                                         AND cp.call_number = cn.id
1719                                         AND cp.opac_visible IS TRUE
1720                                         AND cs.holdable IS TRUE
1721                                         AND cl.opac_visible IS TRUE
1722                                         AND br.active IS TRUE
1723                                         AND br.deleted IS FALSE
1724                                   LIMIT 1
1725                                 )
1726                           ORDER BY 2 $sort_dir, 3
1727
1728                         SQL
1729                 } else {
1730                         $select = <<"                   SQL";
1731
1732                         SELECT  DISTINCT s.*
1733                           FROM  ($select) s
1734                           WHERE EXISTS (
1735                                 SELECT  1
1736                                   FROM  $asset_call_number_table cn,
1737                                         $descendants d,
1738                                         $br_table br
1739                                   WHERE br.id = s.source
1740                                         AND cn.record = s.source
1741                                         AND cn.owning_lib = d.id
1742                                         AND br.deleted IS FALSE
1743                                   LIMIT 1
1744                                 )
1745                                 OR NOT EXISTS (
1746                                 SELECT  1
1747                                   FROM  $asset_call_number_table cn
1748                                   WHERE cn.record = s.source
1749                                   LIMIT 1
1750                                 )
1751                           ORDER BY 2 $sort_dir, 3
1752
1753                         SQL
1754                 }
1755         }
1756
1757
1758         $log->debug("Z39.50 (Record) Search SQL :: [$select]",DEBUG);
1759
1760         my $SQLstring = join('%',$fts->words);
1761         my $REstring = join('\\s+',$fts->words);
1762         my $first_word = ($fts->words)[0].'%';
1763         my $recs =
1764                 $class->db_Main->selectall_arrayref(
1765                         $select, {},
1766                         '%'.lc($SQLstring).'%',                 # phrase order match
1767                         lc($first_word),                        # first word match
1768                         '^\\s*'.lc($REstring).'\\s*/?\s*$',     # full exact match
1769                         ( !$sort ?
1770                                 ( '%'.lc($SQLstring).'%',                       # phrase order match
1771                                   lc($first_word),                              # first word match
1772                                   '^\\s*'.lc($REstring).'\\s*/?\s*$' ) :        # full exact match
1773                                 ()
1774                         ),
1775                         @types, @forms
1776                 );
1777
1778         $log->debug("Search yielded ".scalar(@$recs)." results.",DEBUG);
1779
1780         my $max = 0;
1781         $max = 1 if (!@$recs);
1782         for (@$recs) {
1783                 $max = $$_[2] if ($$_[2] > $max);
1784         }
1785
1786         my $count = scalar(@$recs);
1787         for my $rec (@$recs[$offset .. $offset + $limit - 1]) {
1788                 next unless ($rec);
1789                 my ($mrid,$junk,$rank) = @$rec;
1790                 $client->respond( [$mrid, sprintf('%0.3f',$rank/$max), $count] );
1791         }
1792         return undef;
1793 }
1794
1795 for my $class ( qw/title author subject keyword series/ ) {
1796         __PACKAGE__->register_method(
1797                 api_name        => "open-ils.storage.metabib.$class.Zsearch",
1798                 method          => 'postfilter_Z_search_class_fts',
1799                 api_level       => 1,
1800                 stream          => 1,
1801                 cdbi            => "metabib::${class}_field_entry",
1802                 cachable        => 1,
1803         );
1804         __PACKAGE__->register_method(
1805                 api_name        => "open-ils.storage.biblio.$class.search_fts.record",
1806                 method          => 'postfilter_Z_search_class_fts',
1807                 api_level       => 1,
1808                 stream          => 1,
1809                 cdbi            => "metabib::${class}_field_entry",
1810                 cachable        => 1,
1811         );
1812         __PACKAGE__->register_method(
1813                 api_name        => "open-ils.storage.biblio.$class.search_fts.record.staff",
1814                 method          => 'postfilter_Z_search_class_fts',
1815                 api_level       => 1,
1816                 stream          => 1,
1817                 cdbi            => "metabib::${class}_field_entry",
1818                 cachable        => 1,
1819         );
1820 }
1821
1822
1823 sub multi_Z_search_full_rec {
1824         my $self = shift;
1825         my $client = shift;
1826
1827         my %args = @_;
1828         my $class_join = $args{class_join} || 'AND';
1829         my $limit = $args{limit} || 10;
1830         my $offset = $args{offset} || 0;
1831         my @binds;
1832         my @selects;
1833
1834         my $limiter_count = 0;
1835
1836         for my $arg (@{ $args{searches} }) {
1837                 my $term = $$arg{term};
1838                 my $limiters = $$arg{restrict};
1839
1840                 my ($index_col) = metabib::full_rec->columns('FTS');
1841                 $index_col ||= 'value';
1842                 my $search_table = metabib::full_rec->table;
1843
1844                 my $fts = OpenILS::Application::Storage::FTS->compile($term, 'value',"$index_col");
1845
1846                 my $fts_where = $fts->sql_where_clause();
1847                 my @fts_ranks = $fts->fts_rank;
1848
1849                 my $rank = join(' + ', @fts_ranks);
1850
1851                 my @wheres;
1852                 for my $limit (@$limiters) {
1853                         push @wheres, "( tag = ? AND subfield LIKE ? AND $fts_where )";
1854                         push @binds, $$limit{tag}, ($$limit{subfield} ? $$limit{subfield} : '_');
1855                         $log->debug("Limiting query using { tag => $$limit{tag}, subfield => $$limit{subfield} }", DEBUG);
1856                 }
1857                 $limiter_count++;
1858                 my $where = join(' OR ', @wheres);
1859
1860                 push @selects, "SELECT FIRST(id), record, SUM($rank) as sum FROM $search_table WHERE $where GROUP BY 2";
1861
1862         }
1863
1864         my $metabib_record_descriptor = metabib::record_descriptor->table;
1865
1866         my $cj = 'HAVING COUNT(DISTINCT x.id) = ' . $limiter_count if ($class_join eq 'AND');
1867         my $search_table =
1868                 '(SELECT x.record, sum(x.sum) FROM (('.
1869                         join(') UNION ALL (', @selects).
1870                         ")) x GROUP BY 1 $cj ORDER BY 2 DESC )";
1871
1872         my ($t_filter, $f_filter) = ('','');
1873
1874         if ($args{format}) {
1875                 my ($t, $f) = split '-', $args{format};
1876                 my @types = split '', $t;
1877                 my @forms = split '', $f;
1878                 if (@types) {
1879                         $t_filter = ' AND rd.item_type IN ('.join(',',map{'?'}@types).')';
1880                 }
1881
1882                 if (@forms) {
1883                         $f_filter .= ' AND rd.item_form IN ('.join(',',map{'?'}@forms).')';
1884                 }
1885                 push @binds, @types, @forms;
1886         }
1887
1888
1889         my $select = <<"        SQL";
1890                 SELECT  f.record, f.sum
1891                 FROM    $search_table f,
1892                         $metabib_record_descriptor rd
1893                 WHERE   rd.record = f.record
1894                         $t_filter
1895                         $f_filter
1896                 ORDER BY 2
1897         SQL
1898
1899
1900         $log->debug("Search SQL :: [$select]",DEBUG);
1901
1902         my $recs = metabib::full_rec->db_Main->selectall_arrayref("$select;", {}, @binds);
1903         $log->debug("Search yielded ".scalar(@$recs)." results.",DEBUG);
1904
1905         my $count = @$recs;
1906         for my $rec (@$recs[$offset .. $offset + $limit - 1]) {
1907                 next unless ($$rec[0]);
1908                 my ($rid,$rank) = @$rec;
1909                 $client->respond( [$rid, sprintf('%0.3f',$rank), $count] );
1910         }
1911         return undef;
1912 }
1913 __PACKAGE__->register_method(
1914         api_name        => 'open-ils.storage.metabib.full_rec.Zmulti_search',
1915         method          => 'multi_Z_search_full_rec',
1916         api_level       => 1,
1917         stream          => 1,
1918         cachable        => 1,
1919 );
1920
1921 __PACKAGE__->register_method(
1922         api_name        => 'open-ils.storage.biblio.multiclass.search_fts.record',
1923         method          => 'multi_Z_search_full_rec',
1924         api_level       => 0,
1925         stream          => 1,
1926         cachable        => 1,
1927 );
1928
1929 # XXX factored most of the PG dependant stuff out of here... need to find a way to do "dependants".
1930 sub biblio_search_multi_class_fts {
1931         my $self = shift;
1932         my $client = shift;
1933         my %args = @_;
1934
1935         my $sort = $args{'sort'};
1936         my $sort_dir = $args{sort_dir} || 'DESC';
1937         my $ou = $args{org_unit};
1938         my $ou_type = $args{depth};
1939         my $limit = $args{limit};
1940         my $offset = $args{offset} || 0;
1941
1942         if (! scalar( keys %{$args{searches}} )) {
1943                 die "No target organizational unit passed to ".$self->api_name;
1944         }
1945
1946         if (! scalar( keys %{$args{searches}} )) {
1947                 die "No search arguments were passed to ".$self->api_name;
1948         }
1949
1950         my $outer_limit = 1000;
1951
1952         my $limit_clause = '';
1953         my $offset_clause = '';
1954
1955         $limit_clause = "LIMIT $outer_limit";
1956         $offset_clause = "OFFSET $offset" if (defined $offset and int($offset) > 0);
1957
1958         my (@types,@forms);
1959         my ($t_filter, $f_filter) = ('','');
1960         my ($ot_filter, $of_filter) = ('','');
1961
1962         if ($args{format}) {
1963                 my ($t, $f) = split '-', $args{format};
1964                 @types = split '', $t;
1965                 @forms = split '', $f;
1966                 if (@types) {
1967                         $t_filter = ' AND rd.item_type IN ('.join(',',map{'?'}@types).')';
1968                         $ot_filter = ' AND ord.item_type IN ('.join(',',map{'?'}@types).')';
1969                 }
1970
1971                 if (@forms) {
1972                         $f_filter .= ' AND rd.item_form IN ('.join(',',map{'?'}@forms).')';
1973                         $of_filter .= ' AND ord.item_form IN ('.join(',',map{'?'}@forms).')';
1974                 }
1975         }
1976
1977
1978
1979         my $descendants = defined($ou_type) ?
1980                                 "actor.org_unit_descendants($ou, $ou_type)" :
1981                                 "actor.org_unit_descendants($ou)";
1982
1983         my $search_table_list = '';
1984         my $fts_list = '';
1985         my $join_table_list = '';
1986         my @rank_list;
1987
1988
1989         my @bonus_lists;
1990         my @bonus_values;
1991         my $prev_search_class;
1992         my $curr_search_class;
1993         for my $search_class (sort keys %{$args{searches}}) {
1994                 $prev_search_class = $curr_search_class if ($curr_search_class);
1995
1996                 $curr_search_class = $search_class;
1997
1998                 my $class = $_cdbi->{$search_class};
1999                 my $search_table = $class->table;
2000
2001                 my ($index_col) = $class->columns('FTS');
2002                 $index_col ||= 'value';
2003
2004
2005                 my $fts = OpenILS::Application::Storage::FTS->compile($args{searches}{$search_class}{term}, $search_class.'.value', "$search_class.$index_col");
2006
2007                 my $fts_where = $fts->sql_where_clause;
2008                 my @fts_ranks = $fts->fts_rank;
2009
2010                 my $SQLstring = join('%',$fts->words);
2011                 my $REstring = '^' . join('\s+',$fts->words) . '\W*$';
2012                 my $first_word = ($fts->words)[0].'%';
2013
2014                 my $rank = join(' + ', @fts_ranks);
2015
2016                 my %bonus = ();
2017                 $bonus{'keyword'} = [ { "CASE WHEN $search_class.value ILIKE ? THEN 1.2 ELSE 1 END" => $SQLstring } ];
2018                 $bonus{'title'} =
2019                         $bonus{'metabib::series_field_entry'} = [
2020                                 { "CASE WHEN $search_class.value ILIKE ? THEN 1.5 ELSE 1 END" => $first_word },
2021                                 { "CASE WHEN $search_class.value ~* ? THEN 2 ELSE 1 END" => $REstring },
2022                                 @{ $bonus{'keyword'} }
2023                         ];
2024
2025                 my $bonus_list = join ' * ', map { keys %$_ } @{ $bonus{$search_class} };
2026                 $bonus_list ||= '1';
2027
2028                 push @bonus_lists, $bonus_list;
2029                 push @bonus_values, map { values %$_ } @{ $bonus{$search_class} };
2030
2031                 #---------------------
2032
2033                 $search_table_list .= "$search_table $search_class, ";
2034                 push @rank_list,$rank;
2035                 $fts_list .= " AND $fts_where AND b.id = $search_class.source";
2036
2037                 if ($prev_search_class) {
2038                         $join_table_list .= " AND $prev_search_class.source = $curr_search_class.source";
2039                 }
2040         }
2041
2042         my $metabib_record_descriptor = metabib::record_descriptor->table;
2043         my $metabib_full_rec = metabib::full_rec->table;
2044         my $metabib_metarecord = metabib::metarecord->table;
2045         my $metabib_metarecord_source_map_table = metabib::metarecord_source_map->table;
2046         my $asset_call_number_table = asset::call_number->table;
2047         my $asset_copy_table = asset::copy->table;
2048         my $cs_table = config::copy_status->table;
2049         my $cl_table = asset::copy_location->table;
2050         my $br_table = biblio::record_entry->table;
2051
2052         if (lc($sort) ne 'pubdate' and lc($sort) ne 'title' and lc($sort) ne 'author') {
2053                 push @bonus_values, @bonus_values;
2054         }
2055
2056         my $bonuses = join (' * ', @bonus_lists);
2057         my $relevance = join (' + ', @rank_list);
2058         $relevance = "SUM( ($relevance) * ($bonuses) )";
2059
2060
2061         my $rank = $relevance;
2062         if (lc($sort) eq 'pubdate') {
2063                 $rank = <<"             RANK";
2064                         ( FIRST ((
2065                                 SELECT  COALESCE(SUBSTRING(frp.value FROM '\\\\d{4}'),'9999')::INT
2066                                   FROM  $metabib_full_rec frp
2067                                   WHERE frp.record = b.id
2068                                         AND frp.tag = '260'
2069                                         AND frp.subfield = 'c'
2070                                   LIMIT 1
2071                         )) )
2072                 RANK
2073         } elsif (lc($sort) eq 'title') {
2074                 $rank = <<"             RANK";
2075                         ( FIRST ((
2076                                 SELECT  COALESCE(LTRIM(SUBSTR( frt.value, frt.ind2::text::int )),'zzzzzzzz')
2077                                   FROM  $metabib_full_rec frt
2078                                   WHERE frt.record = b.id
2079                                         AND frt.tag = '245'
2080                                         AND frt.subfield = 'a'
2081                                   LIMIT 1
2082                         )) )
2083                 RANK
2084         } elsif (lc($sort) eq 'author') {
2085                 $rank = <<"             RANK";
2086                         ( FIRST((
2087                                 SELECT  COALESCE(LTRIM(fra.value),'zzzzzzzz')
2088                                   FROM  $metabib_full_rec fra
2089                                   WHERE fra.record = b.id
2090                                         AND fra.tag LIKE '1%'
2091                                         AND fra.subfield = 'a'
2092                                   ORDER BY fra.tag::text::int
2093                                   LIMIT 1
2094                         )) )
2095                 RANK
2096         }
2097
2098
2099         my $select = <<"        SQL";
2100                 SELECT  b.id,
2101                         $relevance AS rel,
2102                         $rank AS rank
2103                 FROM    $search_table_list
2104                         $metabib_record_descriptor rd,
2105                         $br_table b
2106                 WHERE   rd.record = b.id
2107                         AND b.active IS TRUE
2108                         AND b.deleted IS FALSE
2109                         $fts_list
2110                         $join_table_list
2111                         $t_filter
2112                         $f_filter
2113                 GROUP BY b.id
2114                 ORDER BY 3 $sort_dir
2115                 LIMIT 10000
2116         SQL
2117
2118         if ($self->api_name !~ /staff/o) {
2119                 $select = <<"           SQL";
2120
2121                         SELECT  DISTINCT s.*
2122                           FROM  ($select) s
2123                           WHERE EXISTS (
2124                                 SELECT  1
2125                                   FROM  $asset_call_number_table cn,
2126                                         $asset_copy_table cp,
2127                                         $cs_table cs,
2128                                         $cl_table cl,
2129                                         $descendants d
2130                                   WHERE cn.record = s.id
2131                                         AND cp.status = cs.id
2132                                         AND cp.location = cl.id
2133                                         AND cn.owning_lib = d.id
2134                                         AND cp.call_number = cn.id
2135                                         AND cp.opac_visible IS TRUE
2136                                         AND cs.holdable IS TRUE
2137                                         AND cl.opac_visible IS TRUE
2138                                         AND cp.deleted IS FALSE
2139                                   LIMIT 1
2140                                 )
2141                           ORDER BY 3 $sort_dir
2142                 SQL
2143         } else {
2144                 $select = <<"           SQL";
2145
2146                         SELECT  DISTINCT s.*
2147                           FROM  ($select) s
2148                           WHERE EXISTS (
2149                                 SELECT  1
2150                                   FROM  $asset_call_number_table cn,
2151                                         $descendants d
2152                                   WHERE cn.record = s.id
2153                                         AND cn.owning_lib = d.id
2154                                   LIMIT 1
2155                                 )
2156                                 OR NOT EXISTS (
2157                                 SELECT  1
2158                                   FROM  $asset_call_number_table cn
2159                                   WHERE cn.record = s.id
2160                                   LIMIT 1
2161                                 )
2162                           ORDER BY 3 $sort_dir
2163                 SQL
2164         }
2165
2166
2167         $log->debug("Field Search SQL :: [$select]",DEBUG);
2168
2169         my $recs = $_cdbi->{title}->db_Main->selectall_arrayref(
2170                         $select, {},
2171                         @bonus_values, @types, @forms
2172         );
2173
2174         $log->debug("Search yielded ".scalar(@$recs)." results.",DEBUG);
2175
2176         my $max = 0;
2177         $max = 1 if (!@$recs);
2178         for (@$recs) {
2179                 $max = $$_[1] if ($$_[1] > $max);
2180         }
2181
2182         my $count = scalar(@$recs);
2183         for my $rec (@$recs[$offset .. $offset + $limit - 1]) {
2184                 next unless ($$rec[0]);
2185                 my ($mrid,$rank) = @$rec;
2186                 $client->respond( [$mrid, sprintf('%0.3f',$rank/$max), $count] );
2187         }
2188         return undef;
2189 }
2190
2191 __PACKAGE__->register_method(
2192         api_name        => "open-ils.storage.biblio.multiclass.search_fts.record",
2193         method          => 'biblio_search_multi_class_fts',
2194         api_level       => 1,
2195         stream          => 1,
2196         cachable        => 1,
2197 );
2198 __PACKAGE__->register_method(
2199         api_name        => "open-ils.storage.biblio.multiclass.search_fts.record.staff",
2200         method          => 'biblio_search_multi_class_fts',
2201         api_level       => 1,
2202         stream          => 1,
2203         cachable        => 1,
2204 );
2205
2206
2207
2208 __PACKAGE__->register_method(
2209         api_name        => "open-ils.storage.biblio.multiclass.search_fts",
2210         method          => 'biblio_search_multi_class_fts',
2211         api_level       => 1,
2212         stream          => 1,
2213         cachable        => 1,
2214 );
2215 __PACKAGE__->register_method(
2216         api_name        => "open-ils.storage.biblio.multiclass.search_fts.staff",
2217         method          => 'biblio_search_multi_class_fts',
2218         api_level       => 1,
2219         stream          => 1,
2220         cachable        => 1,
2221 );
2222
2223
2224 1;