]> git.evergreen-ils.org Git - Evergreen.git/blob - Open-ILS/src/sql/Pg/1.2.1-1.2.2-upgrade-db.sql
00d9f49701923cd2f628bb26ae1a7db8f269ac62
[Evergreen.git] / Open-ILS / src / sql / Pg / 1.2.1-1.2.2-upgrade-db.sql
1 /*
2  * Copyright (C) 2008  Equinox Software, Inc.
3  * Mike Rylander <miker@esilibrary.com.com>
4  *
5  * This program is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU General Public License
7  * as published by the Free Software Foundation; either version 2
8  * of the License, or (at your option) any later version.
9  *
10  * This program is distributed in the hope that it will be useful,
11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13  * GNU General Public License for more details.
14  *
15  */
16
17 BEGIN;
18
19 -------------------------------------------------------------------
20 /* new materialized view for reporting schema -- ok if it fails  */
21 -------------------------------------------------------------------
22
23 CREATE TABLE reporter.materialized_simple_record AS SELECT * FROM reporter.super_simple_record WHERE 1=0;
24
25 INSERT INTO reporter.materialized_simple_record
26     (id,fingerprint,quality,tcn_source,tcn_value,title,author,publisher,pubdate,isbn,issn)
27     SELECT DISTINCT ON (id) * FROM reporter.super_simple_record;
28
29 ALTER TABLE reporter.materialized_simple_record ADD PRIMARY KEY (id);
30
31 CREATE OR REPLACE VIEW reporter.super_simple_record AS SELECT * FROM reporter.materialized_simple_record;
32
33 CREATE OR REPLACE VIEW reporter.old_super_simple_record AS
34 SELECT  r.id,
35     r.fingerprint,
36     r.quality,
37     r.tcn_source,
38     r.tcn_value,
39     title.value AS title,
40     FIRST(author.value) AS author,
41     publisher.value AS publisher,
42     SUBSTRING(pubdate.value FROM $$\d+$$) AS pubdate,
43     ARRAY_ACCUM( SUBSTRING(isbn.value FROM $$^\S+$$) ) AS isbn,
44     ARRAY_ACCUM( SUBSTRING(issn.value FROM $$^\S+$$) ) AS issn
45   FROM  biblio.record_entry r
46     LEFT JOIN metabib.full_rec title ON (r.id = title.record AND title.tag = '245' AND title.subfield = 'a')
47     LEFT JOIN metabib.full_rec author ON (r.id = author.record AND author.tag IN ('100','110','111') AND author.subfield = 'a')
48     LEFT JOIN metabib.full_rec publisher ON (r.id = publisher.record AND publisher.tag = '260' AND publisher.subfield = 'b')
49     LEFT JOIN metabib.full_rec pubdate ON (r.id = pubdate.record AND pubdate.tag = '260' AND pubdate.subfield = 'c')
50     LEFT JOIN metabib.full_rec isbn ON (r.id = isbn.record AND isbn.tag IN ('024', '020') AND isbn.subfield IN ('a','z'))
51     LEFT JOIN metabib.full_rec issn ON (r.id = issn.record AND issn.tag = '022' AND issn.subfield = 'a')
52   GROUP BY 1,2,3,4,5,6,8,9;
53
54 CREATE OR REPLACE FUNCTION reporter.simple_rec_sync () RETURNS TRIGGER AS $$
55 DECLARE
56     r_id        BIGINT;
57     new_data    RECORD;
58 BEGIN
59     IF TG_OP IN ('DELETE') THEN
60         r_id := OLD.record;
61     ELSE
62         r_id := NEW.record;
63     END IF;
64
65     SELECT * INTO new_data FROM reporter.materialized_simple_record WHERE id = r_id FOR UPDATE;
66     DELETE FROM reporter.materialized_simple_record WHERE id = r_id;
67
68     IF TG_OP IN ('DELETE') THEN
69         RETURN OLD;
70     ELSE
71         INSERT INTO reporter.materialized_simple_record SELECT DISTINCT ON (id) * FROM reporter.old_super_simple_record WHERE id = NEW.record;
72         RETURN NEW;
73     END IF;
74
75 END;
76 $$ LANGUAGE PLPGSQL;
77
78 CREATE TRIGGER zzz_update_materialized_simple_record_tgr
79     AFTER INSERT OR UPDATE OR DELETE ON metabib.full_rec
80     FOR EACH ROW EXECUTE PROCEDURE reporter.simple_rec_sync();
81
82 COMMIT;
83
84
85 DROP SCHEMA search CASCADE;
86
87 BEGIN;
88
89 -------------------------------------------------------------------
90 /* convenience views for report management                       */
91 -------------------------------------------------------------------
92
93 DROP VIEW reporter.overdue_reports;
94 CREATE OR REPLACE VIEW reporter.overdue_reports AS
95  SELECT s.id, c.barcode AS runner_barcode, r.name, s.run_time, s.run_time - now() AS scheduled_wait_time
96    FROM reporter.schedule s
97    JOIN reporter.report r ON r.id = s.report
98    JOIN actor.usr u ON s.runner = u.id
99    JOIN actor.card c ON c.id = u.card
100   WHERE s.start_time IS NULL AND s.run_time < now();
101
102 DROP VIEW reporter.pending_reports;
103 CREATE OR REPLACE VIEW reporter.pending_reports AS
104  SELECT s.id, c.barcode AS runner_barcode, r.name, s.run_time, s.run_time - now() AS scheduled_wait_time
105    FROM reporter.schedule s
106    JOIN reporter.report r ON r.id = s.report
107    JOIN actor.usr u ON s.runner = u.id
108    JOIN actor.card c ON c.id = u.card
109   WHERE s.start_time IS NULL;
110
111 DROP VIEW reporter.currently_running;
112 CREATE OR REPLACE VIEW reporter.currently_running AS
113  SELECT s.id, c.barcode AS runner_barcode, r.name, s.run_time, s.run_time - now() AS scheduled_wait_time
114    FROM reporter.schedule s
115    JOIN reporter.report r ON r.id = s.report
116    JOIN actor.usr u ON s.runner = u.id
117    JOIN actor.card c ON c.id = u.card
118   WHERE s.start_time IS NOT NULL AND s.complete_time IS NULL;
119
120
121 -------------------------------------------------------------------
122 /* view for restricting circ counts by circ_mod                  */
123 -------------------------------------------------------------------
124
125 CREATE OR REPLACE VIEW action.open_circ_count_by_circ_mod AS
126     SELECT  circ.usr,
127             cp.circ_modifier,
128             count(circ.id)
129       FROM  action.circulation circ
130             JOIN asset.copy cp ON (circ.target_copy = cp.id)
131       WHERE circ.checkin_time IS NULL
132             AND ( circ.stop_fines IN ('LOST','LONGOVERDUE','CLAIMSRETURNED') OR circ.stop_fines IS NULL )
133       GROUP BY 1,2;
134
135
136 -------------------------------------------------------------------
137 /* reporting functions for new (and fixed) transforms            */
138 -------------------------------------------------------------------
139
140 CREATE OR REPLACE FUNCTION public.first_word ( TEXT ) RETURNS TEXT AS $$
141         SELECT SUBSTRING( $1 FROM $_$^\S+$_$);
142 $$ LANGUAGE SQL;
143
144 CREATE OR REPLACE FUNCTION public.first5 ( TEXT ) RETURNS TEXT AS $$
145        SELECT SUBSTRING( $1, 1, 5);
146 $$ LANGUAGE SQL;
147
148 CREATE OR REPLACE FUNCTION public.call_number_dewey( TEXT ) RETURNS TEXT AS $$
149         my $txt = shift;
150         $txt =~ s/^\s+//o;
151         $txt =~ s/[\[\]\{\}\(\)`'"#<>\*\?\-\+\$\\]+//o;
152         $txt =~ s/\s+$//o;
153         if ($txt =~ /(\d{3}(?:\.\d+)?)/o) {
154                 return $1;
155         } else {
156                 return (split /\s+/, $txt)[0];
157         }
158 $$ LANGUAGE 'plperlu' STRICT IMMUTABLE;
159
160
161 -------------------------------------------------------------------
162 /* staged search -- also applied by 300.schema.staged_search.sql */
163 -------------------------------------------------------------------
164
165 CREATE SCHEMA search;
166
167 CREATE TABLE search.relevance_adjustment (
168     id          SERIAL  PRIMARY KEY,
169     active      BOOL    NOT NULL DEFAULT TRUE,
170     field       INT     NOT NULL REFERENCES config.metabib_field (id),
171     bump_type   TEXT    NOT NULL CHECK (bump_type IN ('word_order','first_word','full_match')),
172     multiplier  NUMERIC NOT NULL DEFAULT 1.0
173 );
174 CREATE UNIQUE INDEX bump_once_per_field_idx ON search.relevance_adjustment ( field, bump_type );
175
176 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(1, 'first_word', 1.5);
177 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(1, 'full_match', 20);
178 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(2, 'first_word', 1.5);
179 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(2, 'word_order', 10);
180 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(2, 'full_match', 20);
181 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(3, 'first_word', 1.5);
182 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(3, 'word_order', 10);
183 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(3, 'full_match', 20);
184 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(4, 'first_word', 1.5);
185 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(4, 'word_order', 10);
186 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(4, 'full_match', 20);
187 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(5, 'first_word', 1.5);
188 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(5, 'word_order', 10);
189 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(5, 'full_match', 20);
190 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(6, 'first_word', 1.5);
191 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(7, 'first_word', 1.5);
192 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(8, 'first_word', 1.5);
193 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(9, 'first_word', 1.5);
194 INSERT INTO search.relevance_adjustment (field, bump_type, multiplier) VALUES(14, 'word_order', 10);
195
196 CREATE OR REPLACE FUNCTION search.pick_table (TEXT) RETURNS TEXT AS $$
197     SELECT  CASE
198                 WHEN $1 = 'author'  THEN 'metabib.author_field_entry'
199                 WHEN $1 = 'title'   THEN 'metabib.title_field_entry'
200                 WHEN $1 = 'subject' THEN 'metabib.subject_field_entry'
201                 WHEN $1 = 'keyword' THEN 'metabib.keyword_field_entry'
202                 WHEN $1 = 'series'  THEN 'metabib.series_field_entry'
203             END;
204 $$ LANGUAGE SQL;
205
206 CREATE TYPE search.search_result AS ( id BIGINT, rel NUMERIC, record INT, total INT, checked INT, visible INT, deleted INT, excluded INT );
207 CREATE TYPE search.search_args AS ( id INT, field_class TEXT, field_name TEXT, table_alias TEXT, term TEXT, term_type TEXT );
208
209 CREATE OR REPLACE FUNCTION search.staged_fts (
210
211     param_search_ou INT,
212     param_depth     INT,
213     param_searches  TEXT, -- JSON hash, to be turned into a resultset via search.parse_search_args
214     param_statuses  INT[],
215     param_audience  TEXT[],
216     param_language  TEXT[],
217     param_lit_form  TEXT[],
218     param_types     TEXT[],
219     param_forms     TEXT[],
220     param_vformats  TEXT[],
221     param_pref_lang TEXT,
222     param_pref_lang_multiplier REAL,
223     param_sort      TEXT,
224     param_sort_desc BOOL,
225     metarecord      BOOL,
226     staff           BOOL,
227     param_rel_limit INT,
228     param_chk_limit INT,
229     param_skip_chk  INT
230
231 ) RETURNS SETOF search.search_result AS $func$
232 DECLARE
233
234     current_res         search.search_result%ROWTYPE;
235     query_part          search.search_args%ROWTYPE;
236     phrase_query_part   search.search_args%ROWTYPE;
237     rank_adjust_id      INT;
238     core_rel_limit      INT;
239     core_chk_limit      INT;
240     core_skip_chk       INT;
241     rank_adjust         search.relevance_adjustment%ROWTYPE;
242     query_table         TEXT;
243     tmp_text            TEXT;
244     tmp_int             INT;
245     current_rank        TEXT;
246     ranks               TEXT[] := '{}';
247     query_table_alias   TEXT;
248     from_alias_array    TEXT[] := '{}';
249     used_ranks          TEXT[] := '{}';
250     mb_field            INT;
251     mb_field_list       INT[];
252     search_org_list     INT[];
253     select_clause       TEXT := 'SELECT';
254     from_clause         TEXT := ' FROM  metabib.metarecord_source_map m JOIN metabib.rec_descriptor mrd ON (m.source = mrd.record) ';
255     where_clause        TEXT := ' WHERE 1=1 ';
256     mrd_used            BOOL := FALSE;
257     sort_desc           BOOL := FALSE;
258
259     core_result         RECORD;
260     core_cursor         REFCURSOR;
261     core_rel_query      TEXT;
262     vis_limit_query     TEXT;
263     inner_where_clause  TEXT;
264
265     total_count         INT := 0;
266     check_count         INT := 0;
267     deleted_count       INT := 0;
268     visible_count       INT := 0;
269     excluded_count      INT := 0;
270
271 BEGIN
272
273     core_rel_limit := COALESCE( param_rel_limit, 25000 );
274     core_chk_limit := COALESCE( param_chk_limit, 1000 );
275     core_skip_chk := COALESCE( param_skip_chk, 1 );
276
277     IF metarecord THEN
278         select_clause := select_clause || ' m.metarecord as id, array_accum(distinct m.source) as records,';
279     ELSE
280         select_clause := select_clause || ' m.source as id, array_accum(distinct m.source) as records,';
281     END IF;
282
283     -- first we need to construct the base query
284     FOR query_part IN SELECT * FROM search.parse_search_args(param_searches) WHERE term_type = 'fts_query' LOOP
285
286         inner_where_clause := 'index_vector @@ ' || query_part.term;
287
288         IF query_part.field_name IS NOT NULL THEN
289
290            SELECT  id INTO mb_field
291              FROM  config.metabib_field
292              WHERE field_class = query_part.field_class
293                    AND name = query_part.field_name;
294
295             IF FOUND THEN
296                 inner_where_clause := inner_where_clause ||
297                     ' AND ' || 'field = ' || mb_field;
298             END IF;
299
300         END IF;
301
302         -- moving on to the rank ...
303         SELECT  * INTO query_part
304           FROM  search.parse_search_args(param_searches)
305           WHERE term_type = 'fts_rank'
306                 AND table_alias = query_part.table_alias;
307
308         current_rank := query_part.term || ' * ' || query_part.table_alias || '_weight.weight';
309
310         IF query_part.field_name IS NOT NULL THEN
311
312            SELECT  array_accum(distinct id) INTO mb_field_list
313              FROM  config.metabib_field
314              WHERE field_class = query_part.field_class
315                    AND name = query_part.field_name;
316
317         ELSE
318
319            SELECT  array_accum(distinct id) INTO mb_field_list
320              FROM  config.metabib_field
321              WHERE field_class = query_part.field_class;
322
323         END IF;
324
325         FOR rank_adjust IN SELECT * FROM search.relevance_adjustment WHERE active AND field IN ( SELECT * FROM search.explode_array( mb_field_list ) ) LOOP
326
327             IF NOT rank_adjust.bump_type = ANY (used_ranks) THEN
328
329                 IF rank_adjust.bump_type = 'first_word' THEN
330                     SELECT  term INTO tmp_text
331                       FROM  search.parse_search_args(param_searches)
332                       WHERE table_alias = query_part.table_alias AND term_type = 'word'
333                       ORDER BY id
334                       LIMIT 1;
335
336                     tmp_text := query_part.table_alias || '.value ILIKE ' || quote_literal( tmp_text || '%' );
337
338                 ELSIF rank_adjust.bump_type = 'word_order' THEN
339                     SELECT  array_to_string( array_accum( term ), '%' ) INTO tmp_text
340                       FROM  search.parse_search_args(param_searches)
341                       WHERE table_alias = query_part.table_alias AND term_type = 'word';
342
343                     tmp_text := query_part.table_alias || '.value ILIKE ' || quote_literal( '%' || tmp_text || '%' );
344
345                 ELSIF rank_adjust.bump_type = 'full_match' THEN
346                     SELECT  array_to_string( array_accum( term ), E'\\s+' ) INTO tmp_text
347                       FROM  search.parse_search_args(param_searches)
348                       WHERE table_alias = query_part.table_alias AND term_type = 'word';
349
350                     tmp_text := query_part.table_alias || '.value  ~ ' || quote_literal( '^' || tmp_text || E'\\W*$' );
351
352                 END IF;
353
354                 current_rank := current_rank || ' * ( CASE WHEN ' || tmp_text ||
355                     ' THEN ' || rank_adjust.multiplier || '::REAL ELSE 1.0 END )';
356
357                 used_ranks := array_append( used_ranks, rank_adjust.bump_type );
358
359             END IF;
360
361         END LOOP;
362
363         ranks := array_append( ranks, current_rank );
364         used_ranks := '{}';
365
366         FOR phrase_query_part IN
367             SELECT  *
368               FROM  search.parse_search_args(param_searches)
369               WHERE term_type = 'phrase'
370                     AND table_alias = query_part.table_alias LOOP
371
372             tmp_text := replace( phrase_query_part.term, '*', E'\\*' );
373             tmp_text := replace( tmp_text, '?', E'\\?' );
374             tmp_text := replace( tmp_text, '+', E'\\+' );
375             tmp_text := replace( tmp_text, '|', E'\\|' );
376             tmp_text := replace( tmp_text, '(', E'\\(' );
377             tmp_text := replace( tmp_text, ')', E'\\)' );
378             tmp_text := replace( tmp_text, '[', E'\\[' );
379             tmp_text := replace( tmp_text, ']', E'\\]' );
380
381             inner_where_clause := inner_where_clause || ' AND ' || 'value  ~* ' || quote_literal( E'(^|\\W+)' || regexp_replace(tmp_text, E'\\s+',E'\\\\s+','g') || E'(\\W+|\$)' );
382
383         END LOOP;
384
385         query_table := search.pick_table(query_part.field_class);
386
387         from_clause := from_clause ||
388             ' JOIN ( SELECT * FROM ' || query_table || ' WHERE ' || inner_where_clause ||
389                     CASE WHEN core_rel_limit > 0 THEN ' LIMIT ' || core_rel_limit::TEXT ELSE '' END || ' ) AS ' || query_part.table_alias ||
390                 ' ON ( m.source = ' || query_part.table_alias || '.source )' ||
391             ' JOIN config.metabib_field AS ' || query_part.table_alias || '_weight' ||
392                 ' ON ( ' || query_part.table_alias || '.field = ' || query_part.table_alias || '_weight.id  AND  ' || query_part.table_alias || '_weight.search_field)';
393
394         from_alias_array := array_append(from_alias_array, query_part.table_alias);
395
396     END LOOP;
397
398     IF param_pref_lang IS NOT NULL AND param_pref_lang_multiplier IS NOT NULL THEN
399         current_rank := ' CASE WHEN mrd.item_lang = ' || quote_literal( param_pref_lang ) ||
400             ' THEN ' || param_pref_lang_multiplier || '::REAL ELSE 1.0 END ';
401
402         --ranks := array_append( ranks, current_rank );
403     END IF;
404
405     current_rank := ' AVG( ( (' || array_to_string( ranks, ') + (' ) || ') ) * ' || current_rank || ' ) ';
406     select_clause := select_clause || current_rank || ' AS rel,';
407
408     sort_desc = param_sort_desc;
409
410     IF param_sort = 'pubdate' THEN
411
412         tmp_text := '999999';
413         IF param_sort_desc THEN tmp_text := '0'; END IF;
414
415         current_rank := $$
416             ( COALESCE( FIRST ((
417                 SELECT  SUBSTRING(frp.value FROM E'\\d{4}')
418                   FROM  metabib.full_rec frp
419                   WHERE frp.record = m.source
420                     AND frp.tag = '260'
421                     AND frp.subfield = 'c'
422                   LIMIT 1
423             )), $$ || quote_literal(tmp_text) || $$ )::INT )
424         $$;
425
426     ELSIF param_sort = 'title' THEN
427
428         tmp_text := 'zzzzzz';
429         IF param_sort_desc THEN tmp_text := '    '; END IF;
430
431         current_rank := $$
432             ( COALESCE( FIRST ((
433                 SELECT  LTRIM(SUBSTR( frt.value, COALESCE(SUBSTRING(frt.ind2 FROM E'\\d+'),'0')::INT + 1 ))
434                   FROM  metabib.full_rec frt
435                   WHERE frt.record = m.source
436                     AND frt.tag = '245'
437                     AND frt.subfield = 'a'
438                   LIMIT 1
439             )),$$ || quote_literal(tmp_text) || $$))
440         $$;
441
442     ELSIF param_sort = 'author' THEN
443
444         tmp_text := 'zzzzzz';
445         IF param_sort_desc THEN tmp_text := '    '; END IF;
446
447         current_rank := $$
448             ( COALESCE( FIRST ((
449                 SELECT  LTRIM(fra.value)
450                   FROM  metabib.full_rec fra
451                   WHERE fra.record = m.source
452                     AND fra.tag LIKE '1%'
453                     AND fra.subfield = 'a'
454                   ORDER BY fra.tag::text::int
455                   LIMIT 1
456             )),$$ || quote_literal(tmp_text) || $$))
457         $$;
458
459     ELSIF param_sort = 'create_date' THEN
460             current_rank := $$( FIRST (( SELECT create_date FROM biblio.record_entry rbr WHERE rbr.id = m.source)) )$$;
461     ELSIF param_sort = 'edit_date' THEN
462             current_rank := $$( FIRST (( SELECT edit_date FROM biblio.record_entry rbr WHERE rbr.id = m.source)) )$$;
463     ELSE
464         sort_desc := NOT COALESCE(param_sort_desc, FALSE);
465     END IF;
466
467     select_clause := select_clause || current_rank || ' AS rank';
468
469     -- now add the other qualifiers
470     IF param_audience IS NOT NULL AND array_upper(param_audience, 1) > 0 THEN
471         where_clause = where_clause || $$ AND mrd.audience IN ('$$ || array_to_string(param_audience, $$','$$) || $$') $$;
472     END IF;
473
474     IF param_language IS NOT NULL AND array_upper(param_language, 1) > 0 THEN
475         where_clause = where_clause || $$ AND mrd.item_lang IN ('$$ || array_to_string(param_language, $$','$$) || $$') $$;
476     END IF;
477
478     IF param_lit_form IS NOT NULL AND array_upper(param_lit_form, 1) > 0 THEN
479         where_clause = where_clause || $$ AND mrd.lit_form IN ('$$ || array_to_string(param_lit_form, $$','$$) || $$') $$;
480     END IF;
481
482     IF param_types IS NOT NULL AND array_upper(param_types, 1) > 0 THEN
483         where_clause = where_clause || $$ AND mrd.item_type IN ('$$ || array_to_string(param_types, $$','$$) || $$') $$;
484     END IF;
485
486     IF param_forms IS NOT NULL AND array_upper(param_forms, 1) > 0 THEN
487         where_clause = where_clause || $$ AND mrd.item_form IN ('$$ || array_to_string(param_forms, $$','$$) || $$') $$;
488     END IF;
489
490     IF param_vformats IS NOT NULL AND array_upper(param_vformats, 1) > 0 THEN
491         where_clause = where_clause || $$ AND mrd.vr_format IN ('$$ || array_to_string(param_vformats, $$','$$) || $$') $$;
492     END IF;
493
494     core_rel_query := select_clause || from_clause || where_clause ||
495                         ' GROUP BY 1 ORDER BY 4' || CASE WHEN sort_desc THEN ' DESC' ELSE ' ASC' END || ';';
496     --RAISE NOTICE 'Base Query:  %', core_rel_query;
497
498     IF param_depth IS NOT NULL THEN
499         SELECT array_accum(distinct id) INTO search_org_list FROM actor.org_unit_descendants( param_search_ou, param_depth );
500     ELSE
501         SELECT array_accum(distinct id) INTO search_org_list FROM actor.org_unit_descendants( param_search_ou );
502     END IF;
503
504     OPEN core_cursor FOR EXECUTE core_rel_query;
505
506     LOOP
507
508         FETCH core_cursor INTO core_result;
509         EXIT WHEN NOT FOUND;
510
511         IF total_count % 1000 = 0 THEN
512             -- RAISE NOTICE ' % total, % checked so far ... ', total_count, check_count;
513         END IF;
514
515         IF core_chk_limit > 0 AND total_count - core_skip_chk + 1 >= core_chk_limit THEN
516             total_count := total_count + 1;
517             CONTINUE;
518         END IF;
519
520         total_count := total_count + 1;
521
522         CONTINUE WHEN param_skip_chk IS NOT NULL and total_count < param_skip_chk;
523
524         check_count := check_count + 1;
525
526         PERFORM 1 FROM biblio.record_entry b WHERE NOT b.deleted AND b.id IN ( SELECT * FROM search.explode_array( core_result.records ) );
527         IF NOT FOUND THEN
528             -- RAISE NOTICE ' % were all deleted ... ', core_result.records;
529             deleted_count := deleted_count + 1;
530             CONTINUE;
531         END IF;
532
533         PERFORM 1
534           FROM  biblio.record_entry b
535                 JOIN config.bib_source s ON (b.source = s.id)
536           WHERE s.transcendant
537                 AND b.id IN ( SELECT * FROM search.explode_array( core_result.records ) );
538
539         IF FOUND THEN
540             -- RAISE NOTICE ' % were all transcendant ... ', core_result.records;
541             visible_count := visible_count + 1;
542
543             current_res.id = core_result.id;
544             current_res.rel = core_result.rel;
545
546             tmp_int := 1;
547             IF metarecord THEN
548                 SELECT COUNT(DISTINCT s.source) INTO tmp_int FROM metabib.metarecord_source_map s WHERE s.metarecord = core_result.id;
549             END IF;
550
551             IF tmp_int = 1 THEN
552                 current_res.record = core_result.records[1];
553             ELSE
554                 current_res.record = NULL;
555             END IF;
556
557             RETURN NEXT current_res;
558
559             CONTINUE;
560         END IF;
561
562         IF param_statuses IS NOT NULL AND array_upper(param_statuses, 1) > 0 THEN
563
564             PERFORM 1
565               FROM  asset.call_number cn
566                     JOIN asset.copy cp ON (cp.call_number = cn.id)
567               WHERE NOT cn.deleted
568                     AND NOT cp.deleted
569                     AND cp.status IN ( SELECT * FROM search.explode_array( param_statuses ) )
570                     AND cn.record IN ( SELECT * FROM search.explode_array( core_result.records ) )
571                     AND cp.circ_lib IN ( SELECT * FROM search.explode_array( search_org_list ) )
572               LIMIT 1;
573
574             IF NOT FOUND THEN
575                 -- RAISE NOTICE ' % were all status-excluded ... ', core_result.records;
576                 excluded_count := excluded_count + 1;
577                 CONTINUE;
578             END IF;
579
580         END IF;
581
582         IF staff IS NULL OR NOT staff THEN
583
584             PERFORM 1
585               FROM  asset.call_number cn
586                     JOIN asset.copy cp ON (cp.call_number = cn.id)
587                     JOIN actor.org_unit a ON (cp.circ_lib = a.id)
588                     JOIN asset.copy_location cl ON (cp.location = cl.id)
589                     JOIN config.copy_status cs ON (cp.status = cs.id)
590               WHERE NOT cn.deleted
591                     AND NOT cp.deleted
592                     AND cs.holdable
593                     AND cl.opac_visible
594                     AND cp.opac_visible
595                     AND a.opac_visible
596                     AND cp.circ_lib IN ( SELECT * FROM search.explode_array( search_org_list ) )
597                     AND cn.record IN ( SELECT * FROM search.explode_array( core_result.records ) )
598               LIMIT 1;
599
600             IF NOT FOUND THEN
601                 -- RAISE NOTICE ' % were all visibility-excluded ... ', core_result.records;
602                 excluded_count := excluded_count + 1;
603                 CONTINUE;
604             END IF;
605
606         ELSE
607
608             PERFORM 1
609               FROM  asset.call_number cn
610                     JOIN asset.copy cp ON (cp.call_number = cn.id)
611                     JOIN actor.org_unit a ON (cp.circ_lib = a.id)
612                     JOIN asset.copy_location cl ON (cp.location = cl.id)
613                     JOIN config.copy_status cs ON (cp.status = cs.id)
614               WHERE NOT cn.deleted
615                     AND NOT cp.deleted
616                     AND cp.circ_lib IN ( SELECT * FROM search.explode_array( search_org_list ) )
617                     AND cn.record IN ( SELECT * FROM search.explode_array( core_result.records ) )
618               LIMIT 1;
619
620             IF NOT FOUND THEN
621
622                 PERFORM 1
623                   FROM  asset.call_number cn
624                   WHERE cn.record IN ( SELECT * FROM search.explode_array( core_result.records ) )
625                   LIMIT 1;
626
627                 IF FOUND THEN
628                     -- RAISE NOTICE ' % were all visibility-excluded ... ', core_result.records;
629                     excluded_count := excluded_count + 1;
630                     CONTINUE;
631                 END IF;
632
633             END IF;
634
635         END IF;
636
637         visible_count := visible_count + 1;
638
639         current_res.id = core_result.id;
640         current_res.rel = core_result.rel;
641
642         tmp_int := 1;
643         IF metarecord THEN
644             SELECT COUNT(DISTINCT s.source) INTO tmp_int FROM metabib.metarecord_source_map s WHERE s.metarecord = core_result.id;
645         END IF;
646
647         IF tmp_int = 1 THEN
648             current_res.record = core_result.records[1];
649         ELSE
650             current_res.record = NULL;
651         END IF;
652
653         RETURN NEXT current_res;
654
655         IF visible_count % 1000 = 0 THEN
656             -- RAISE NOTICE ' % visible so far ... ', visible_count;
657         END IF;
658
659     END LOOP;
660
661     current_res.id = NULL;
662     current_res.rel = NULL;
663     current_res.record = NULL;
664     current_res.total = total_count;
665     current_res.checked = check_count;
666     current_res.deleted = deleted_count;
667     current_res.visible = visible_count;
668     current_res.excluded = excluded_count;
669
670     CLOSE core_cursor;
671
672     RETURN NEXT current_res;
673
674 END;
675 $func$ LANGUAGE PLPGSQL;
676
677 CREATE OR REPLACE FUNCTION search.explode_array(anyarray) RETURNS SETOF anyelement AS $BODY$
678     SELECT ($1)[s] FROM generate_series(1, array_upper($1, 1)) AS s;
679 $BODY$
680 LANGUAGE 'sql' IMMUTABLE;
681
682 CREATE OR REPLACE FUNCTION search.parse_search_args (TEXT) RETURNS SETOF search.search_args AS $perlcode$
683     use JSON::XS;
684     my $json = shift;
685
686     my $args = decode_json( $json );
687
688     my $id = 1;
689
690     for my $k ( keys %$args ) {
691         (my $alias = $k) =~ s/\|/_/gso;
692         my ($class, $field) = split /\|/, $k;
693         my $part = $args->{$k};
694         for my $p ( keys %$part ) {
695             my $data = $part->{$p};
696             $data = [$data] if (!ref($data));
697             for my $datum ( @$data ) {
698                 return_next(
699                     {   field_class => $class,
700                         field_name  => $field,
701                         term        => $datum,
702                         table_alias => $alias,
703                         term_type   => $p,
704                         id          => $id,
705                     }
706                 );
707                 $id++;
708             }
709         }
710     }
711
712     return undef;
713
714 $perlcode$ LANGUAGE PLPERLU;
715
716 COMMIT;