Open-ILS/src/sql/Pg/002.functions.config.sql

   1 /*
   2  * Copyright (C) 2004-2008  Georgia Public Library Service
   3  * Copyright (C) 2008  Equinox Software, Inc.
   4  * Mike Rylander <miker@esilibrary.com>
   5  *
   6  * This program is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU General Public License
   8  * as published by the Free Software Foundation; either version 2
   9  * of the License, or (at your option) any later version.
  10  *
  11  * This program is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14  * GNU General Public License for more details.
  15  *
  16  */
  17
  18
  19 BEGIN;
  20
  21 /*
  22 CREATE OR REPLACE FUNCTION oils_xml_transform ( TEXT, TEXT ) RETURNS TEXT AS $_$
  23         SELECT  CASE    WHEN (SELECT COUNT(*) FROM config.xml_transform WHERE name = $2 AND xslt = '---') > 0 THEN $1
  24                         ELSE xslt_process($1, (SELECT xslt FROM config.xml_transform WHERE name = $2))
  25                 END;
  26 $_$ LANGUAGE SQL STRICT IMMUTABLE;
  27
  28 CREATE OR REPLACE FUNCTION public.extract_marc_field ( TEXT, BIGINT, TEXT, TEXT ) RETURNS TEXT AS $$
  29     SELECT regexp_replace(array_to_string( array_accum( output ),' ' ),$4,'','g') FROM oils_xpath_table('id', 'marc', $1, $3, 'id='||$2)x(id INT, output TEXT);
  30 $$ LANGUAGE SQL;
  31
  32 CREATE OR REPLACE FUNCTION oils_xml_uncache (xml TEXT) RETURNS BOOL AS $func$
  33   delete $_SHARED{'_xslt_process'}{docs}{shift()};
  34   return 1;
  35 $func$ LANGUAGE PLPERLU;
  36
  37 CREATE OR REPLACE FUNCTION oils_xml_cache (xml TEXT) RETURNS BOOL AS $func$
  38   use strict;
  39   use XML::LibXML;
  40
  41   my $doc = shift;
  42
  43   # The following approach uses the older XML::LibXML 1.69 / XML::LibXSLT 1.68
  44   # methods of parsing XML documents and stylesheets, in the hopes of broader
  45   # compatibility with distributions
  46   my $parser = $_SHARED{'_xslt_process'}{parsers}{xml} || XML::LibXML->new();
  47
  48   # Cache the XML parser, if we do not already have one
  49   $_SHARED{'_xslt_process'}{parsers}{xml} = $parser
  50     unless ($_SHARED{'_xslt_process'}{parsers}{xml});
  51
  52   # Parse and cache the doc
  53   eval { $_SHARED{'_xslt_process'}{docs}{$doc} = $parser->parse_string($doc) };
  54
  55   return 0 if ($@);
  56   return 1;
  57 $func$ LANGUAGE PLPERLU;
  58
  59 -- if we use these, we need to ...
  60 drop function oils_xpath(text, text, anyarray);
  61
  62 CREATE OR REPLACE FUNCTION oils_xpath (xpath TEXT, xml TEXT, ns TEXT[][]) RETURNS TEXT[] AS $func$
  63   use strict;
  64   use XML::LibXML;
  65
  66   my $xpath = shift;
  67   my $doc = shift;
  68   my $ns_string = shift || '';
  69   #elog(NOTICE,"ns_string: $ns_string");
  70
  71   my %ns_list = $ns_string =~ m/\{([^{,]+),([^}]+)\}/g;
  72   #elog(NOTICE,"NS Prefix $_: $ns_list{$_}") for (keys %ns_list);
  73
  74   # The following approach uses the older XML::LibXML 1.69 / XML::LibXSLT 1.68
  75   # methods of parsing XML documents and stylesheets, in the hopes of broader
  76   # compatibility with distributions
  77   my $parser = eval { $_SHARED{'_xslt_process'}{parsers}{xml} || XML::LibXML->new() };
  78
  79   return undef if ($@);
  80
  81   # Cache the XML parser, if we do not already have one
  82   $_SHARED{'_xslt_process'}{parsers}{xml} = $parser
  83     unless ($_SHARED{'_xslt_process'}{parsers}{xml});
  84
  85   # Look for a cached version of the doc, or parse it if none
  86   my $dom = eval { $_SHARED{'_xslt_process'}{docs}{$doc} || $parser->parse_string($doc) };
  87
  88   return undef if ($@);
  89
  90   # Cache the parsed XML doc, if already there
  91   $_SHARED{'_xslt_process'}{docs}{$doc} = $dom
  92     unless ($_SHARED{'_xslt_process'}{docs}{$doc});
  93
  94   # Register the requested namespaces
  95   $dom->documentElement->setNamespace( $ns_list{$_} => $_ ) for ( keys %ns_list );
  96
  97   # Gather and return nodes
  98   my @nodes = $dom->findnodes($xpath);
  99   #elog(NOTICE,"nodes found by $xpath: ". scalar(@nodes));
 100
 101   return [ map { $_->toString } @nodes ];
 102 $func$ LANGUAGE PLPERLU;
 103
 104 CREATE OR REPLACE FUNCTION oils_xpath ( TEXT, TEXT ) RETURNS TEXT[] AS $$SELECT oils_xpath( $1, $2, '{}'::TEXT[] );$$ LANGUAGE SQL IMMUTABLE;
 105
 106 */
 107
 108 CREATE FUNCTION version_specific_xpath () RETURNS TEXT AS $wrapper_function$
 109 DECLARE
 110     out_text TEXT;
 111 BEGIN
 112
 113     IF REGEXP_REPLACE(VERSION(),E'^.+?(\\d+\\.\\d+).*?$',E'\\1')::FLOAT < 8.3 THEN
 114         out_text := 'Creating XPath functions that work like the native XPATH function in 8.3+';
 115
 116         EXECUTE $create_82_funcs$
 117
 118 CREATE OR REPLACE FUNCTION oils_xpath ( xpath TEXT, xml TEXT, ns ANYARRAY ) RETURNS TEXT[] AS $func$
 119 DECLARE
 120     node_text   TEXT;
 121     ns_regexp   TEXT;
 122     munged_xpath    TEXT;
 123 BEGIN
 124
 125     munged_xpath := xpath;
 126
 127     IF ns IS NOT NULL AND array_upper(ns, 1) IS NOT NULL THEN
 128         FOR namespace IN 1 .. array_upper(ns, 1) LOOP
 129             munged_xpath := REGEXP_REPLACE(
 130                 munged_xpath,
 131                 E'(' || ns[namespace][1] || E'):(\\w+)',
 132                 E'*[local-name() = "\\2" and namespace-uri() = "' || ns[namespace][2] || E'"]',
 133                 'g'
 134             );
 135         END LOOP;
 136
 137         munged_xpath := REGEXP_REPLACE( munged_xpath, E'\\]\\[(\\D)',E' and \\1', 'g');
 138     END IF;
 139
 140     -- RAISE NOTICE 'munged xpath: %', munged_xpath;
 141
 142     node_text := xpath_nodeset(xml, munged_xpath, 'XXX_OILS_NODESET');
 143     -- RAISE NOTICE 'node_text: %', node_text;
 144
 145     IF munged_xpath ~ $re$/[^/[]*@[^/]+$$re$ THEN
 146         node_text := REGEXP_REPLACE(node_text,'<XXX_OILS_NODESET>[^"]+"', '<XXX_OILS_NODESET>', 'g');
 147         node_text := REGEXP_REPLACE(node_text,'"</XXX_OILS_NODESET>', '</XXX_OILS_NODESET>', 'g');
 148     END IF;
 149
 150     node_text := REGEXP_REPLACE(node_text,'^<XXX_OILS_NODESET>', '');
 151     node_text := REGEXP_REPLACE(node_text,'</XXX_OILS_NODESET>$', '');
 152
 153     RETURN  STRING_TO_ARRAY(node_text, '</XXX_OILS_NODESET><XXX_OILS_NODESET>');
 154 END;
 155 $func$ LANGUAGE PLPGSQL IMMUTABLE;
 156
 157 CREATE OR REPLACE FUNCTION oils_xpath ( TEXT, TEXT ) RETURNS TEXT[] AS $$SELECT oils_xpath( $1, $2, '{}'::TEXT[] );$$ LANGUAGE SQL IMMUTABLE;
 158
 159 CREATE OR REPLACE FUNCTION oils_xslt_process(TEXT, TEXT) RETURNS TEXT AS $$
 160     SELECT xslt_process( $1, $2 );
 161 $$ LANGUAGE SQL IMMUTABLE;
 162
 163         $create_82_funcs$;
 164     ELSIF REGEXP_REPLACE(VERSION(),E'^.+?(\\d+\\.\\d+).*?$',E'\\1')::FLOAT = 8.3 THEN
 165         out_text := 'Creating XPath wrapper functions around the native XPATH function in 8.3.  contrib/xml2 still required!';
 166
 167         EXECUTE $create_83_funcs$
 168 -- 8.3 or after
 169 CREATE OR REPLACE FUNCTION oils_xpath ( TEXT, TEXT, ANYARRAY ) RETURNS TEXT[] AS 'SELECT XPATH( $1, $2::XML, $3 )::TEXT[];' LANGUAGE SQL IMMUTABLE;
 170 CREATE OR REPLACE FUNCTION oils_xpath ( TEXT, TEXT ) RETURNS TEXT[] AS 'SELECT XPATH( $1, $2::XML )::TEXT[];' LANGUAGE SQL IMMUTABLE;
 171
 172 CREATE OR REPLACE FUNCTION oils_xslt_process(TEXT, TEXT) RETURNS TEXT AS $$
 173     SELECT xslt_process( $1, $2 );
 174 $$ LANGUAGE SQL IMMUTABLE;
 175
 176         $create_83_funcs$;
 177
 178     ELSE
 179         out_text := 'Creating XPath wrapper functions around the native XPATH function in 8.4+, and plperlu-based xslt processor.  No contrib/xml2 needed!';
 180
 181         EXECUTE $create_84_funcs$
 182 -- 8.4 or after
 183 CREATE OR REPLACE FUNCTION oils_xpath ( TEXT, TEXT, ANYARRAY ) RETURNS TEXT[] AS 'SELECT XPATH( $1, $2::XML, $3 )::TEXT[];' LANGUAGE SQL IMMUTABLE;
 184 CREATE OR REPLACE FUNCTION oils_xpath ( TEXT, TEXT ) RETURNS TEXT[] AS 'SELECT XPATH( $1, $2::XML )::TEXT[];' LANGUAGE SQL IMMUTABLE;
 185
 186 CREATE OR REPLACE FUNCTION oils_xslt_process(TEXT, TEXT) RETURNS TEXT AS $func$
 187   use strict;
 188
 189   use XML::LibXSLT;
 190   use XML::LibXML;
 191
 192   my $doc = shift;
 193   my $xslt = shift;
 194
 195   # The following approach uses the older XML::LibXML 1.69 / XML::LibXSLT 1.68
 196   # methods of parsing XML documents and stylesheets, in the hopes of broader
 197   # compatibility with distributions
 198   my $parser = $_SHARED{'_xslt_process'}{parsers}{xml} || XML::LibXML->new();
 199
 200   # Cache the XML parser, if we do not already have one
 201   $_SHARED{'_xslt_process'}{parsers}{xml} = $parser
 202     unless ($_SHARED{'_xslt_process'}{parsers}{xml});
 203
 204   my $xslt_parser = $_SHARED{'_xslt_process'}{parsers}{xslt} || XML::LibXSLT->new();
 205
 206   # Cache the XSLT processor, if we do not already have one
 207   $_SHARED{'_xslt_process'}{parsers}{xslt} = $xslt_parser
 208     unless ($_SHARED{'_xslt_process'}{parsers}{xslt});
 209
 210   my $stylesheet = $_SHARED{'_xslt_process'}{stylesheets}{$xslt} ||
 211     $xslt_parser->parse_stylesheet( $parser->parse_string($xslt) );
 212
 213   $_SHARED{'_xslt_process'}{stylesheets}{$xslt} = $stylesheet
 214     unless ($_SHARED{'_xslt_process'}{stylesheets}{$xslt});
 215
 216   return $stylesheet->output_string(
 217     $stylesheet->transform(
 218       $parser->parse_string($doc)
 219     )
 220   );
 221
 222 $func$ LANGUAGE 'plperlu' STRICT IMMUTABLE;
 223
 224         $create_84_funcs$;
 225
 226     END IF;
 227
 228     RETURN out_text;
 229 END;
 230 $wrapper_function$ LANGUAGE PLPGSQL;
 231
 232 SELECT version_specific_xpath();
 233 DROP FUNCTION version_specific_xpath();
 234
 235
 236 CREATE OR REPLACE FUNCTION oils_xpath_string ( TEXT, TEXT, TEXT, ANYARRAY ) RETURNS TEXT AS $func$
 237     SELECT  ARRAY_TO_STRING(
 238                 oils_xpath(
 239                     $1 ||
 240                         CASE WHEN $1 ~ $re$/[^/[]*@[^]]+$$re$ OR $1 ~ $re$text\(\)$$re$ THEN '' ELSE '//text()' END,
 241                     $2,
 242                     $4
 243                 ),
 244                 $3
 245             );
 246 $func$ LANGUAGE SQL IMMUTABLE;
 247
 248 CREATE OR REPLACE FUNCTION oils_xpath_string ( TEXT, TEXT, TEXT ) RETURNS TEXT AS $func$
 249     SELECT oils_xpath_string( $1, $2, $3, '{}'::TEXT[] );
 250 $func$ LANGUAGE SQL IMMUTABLE;
 251
 252 CREATE OR REPLACE FUNCTION oils_xpath_string ( TEXT, TEXT, ANYARRAY ) RETURNS TEXT AS $func$
 253     SELECT oils_xpath_string( $1, $2, '', $3 );
 254 $func$ LANGUAGE SQL IMMUTABLE;
 255
 256 CREATE OR REPLACE FUNCTION oils_xpath_string ( TEXT, TEXT ) RETURNS TEXT AS $func$
 257     SELECT oils_xpath_string( $1, $2, '{}'::TEXT[] );
 258 $func$ LANGUAGE SQL IMMUTABLE;
 259
 260
 261 CREATE OR REPLACE FUNCTION oils_xpath_table ( key TEXT, document_field TEXT, relation_name TEXT, xpaths TEXT, criteria TEXT ) RETURNS SETOF RECORD AS $func$
 262 DECLARE
 263     xpath_list  TEXT[];
 264     select_list TEXT[];
 265     where_list  TEXT[];
 266     q           TEXT;
 267     out_record  RECORD;
 268     empty_test  RECORD;
 269 BEGIN
 270     xpath_list := STRING_TO_ARRAY( xpaths, '|' );
 271
 272     select_list := ARRAY_APPEND( select_list, key || '::INT AS key' );
 273
 274     FOR i IN 1 .. ARRAY_UPPER(xpath_list,1) LOOP
 275         IF xpath_list[i] = 'null()' THEN
 276             select_list := ARRAY_APPEND( select_list, 'NULL::TEXT AS c_' || i );
 277         ELSE
 278             select_list := ARRAY_APPEND(
 279                 select_list,
 280                 $sel$
 281                 unnest(
 282                     COALESCE(
 283                         NULLIF(
 284                             oils_xpath(
 285                                 $sel$ ||
 286                                     quote_literal(
 287                                         CASE
 288                                             WHEN xpath_list[i] ~ $re$/[^/[]*@[^/]+$$re$ OR xpath_list[i] ~ $re$text\(\)$$re$ THEN xpath_list[i]
 289                                             ELSE xpath_list[i] || '//text()'
 290                                         END
 291                                     ) ||
 292                                 $sel$,
 293                                 $sel$ || document_field || $sel$
 294                             ),
 295                            '{}'::TEXT[]
 296                         ),
 297                         '{NULL}'::TEXT[]
 298                     )
 299                 ) AS c_$sel$ || i
 300             );
 301             where_list := ARRAY_APPEND(
 302                 where_list,
 303                 'c_' || i || ' IS NOT NULL'
 304             );
 305         END IF;
 306     END LOOP;
 307
 308     q := $q$
 309 SELECT * FROM (
 310     SELECT $q$ || ARRAY_TO_STRING( select_list, ', ' ) || $q$ FROM $q$ || relation_name || $q$ WHERE ($q$ || criteria || $q$)
 311 )x WHERE $q$ || ARRAY_TO_STRING( where_list, ' OR ' );
 312     -- RAISE NOTICE 'query: %', q;
 313
 314     FOR out_record IN EXECUTE q LOOP
 315         RETURN NEXT out_record;
 316     END LOOP;
 317
 318     RETURN;
 319 END;
 320 $func$ LANGUAGE PLPGSQL IMMUTABLE;
 321
 322
 323 CREATE OR REPLACE FUNCTION extract_marc_field ( TEXT, BIGINT, TEXT, TEXT ) RETURNS TEXT AS $$
 324 DECLARE
 325     query TEXT;
 326     output TEXT;
 327 BEGIN
 328     query := $q$
 329         SELECT  regexp_replace(
 330                     oils_xpath_string(
 331                         $q$ || quote_literal($3) || $q$,
 332                         marc,
 333                         ' '
 334                     ),
 335                     $q$ || quote_literal($4) || $q$,
 336                     '',
 337                     'g')
 338           FROM  $q$ || $1 || $q$
 339           WHERE id = $q$ || $2;
 340
 341     EXECUTE query INTO output;
 342
 343     -- RAISE NOTICE 'query: %, output; %', query, output;
 344
 345     RETURN output;
 346 END;
 347 $$ LANGUAGE PLPGSQL IMMUTABLE;
 348
 349 CREATE OR REPLACE FUNCTION extract_marc_field ( TEXT, BIGINT, TEXT ) RETURNS TEXT AS $$
 350     SELECT extract_marc_field($1,$2,$3,'');
 351 $$ LANGUAGE SQL IMMUTABLE;
 352
 353
 354
 355 CREATE OR REPLACE FUNCTION oils_i18n_xlate ( keytable TEXT, keyclass TEXT, keycol TEXT, identcol TEXT, keyvalue TEXT, raw_locale TEXT ) RETURNS TEXT AS $func$
 356 DECLARE
 357     locale      TEXT := REGEXP_REPLACE( REGEXP_REPLACE( raw_locale, E'[;, ].+$', '' ), E'_', '-', 'g' );
 358     language    TEXT := REGEXP_REPLACE( locale, E'-.+$', '' );
 359     result      config.i18n_core%ROWTYPE;
 360     fallback    TEXT;
 361     keyfield    TEXT := keyclass || '.' || keycol;
 362 BEGIN
 363
 364     -- Try the full locale
 365     SELECT  * INTO result
 366       FROM  config.i18n_core
 367       WHERE fq_field = keyfield
 368             AND identity_value = keyvalue
 369             AND translation = locale;
 370
 371     -- Try just the language
 372     IF NOT FOUND THEN
 373         SELECT  * INTO result
 374           FROM  config.i18n_core
 375           WHERE fq_field = keyfield
 376                 AND identity_value = keyvalue
 377                 AND translation = language;
 378     END IF;
 379
 380     -- Fall back to the string we passed in in the first place
 381     IF NOT FOUND THEN
 382         EXECUTE
 383             'SELECT ' ||
 384                 keycol ||
 385             ' FROM ' || keytable ||
 386             ' WHERE ' || identcol || ' = ' || quote_literal(keyvalue)
 387                 INTO fallback;
 388         RETURN fallback;
 389     END IF;
 390
 391     RETURN result.string;
 392 END;
 393 $func$ LANGUAGE PLPGSQL STABLE;
 394
 395 -- Functions for marking translatable strings in SQL statements
 396 -- Parameters are: primary key, string, class hint, property
 397 CREATE OR REPLACE FUNCTION oils_i18n_gettext( INT, TEXT, TEXT, TEXT ) RETURNS TEXT AS $$
 398     SELECT $2;
 399 $$ LANGUAGE SQL;
 400
 401 CREATE OR REPLACE FUNCTION oils_i18n_gettext( TEXT, TEXT, TEXT, TEXT ) RETURNS TEXT AS $$
 402     SELECT $2;
 403 $$ LANGUAGE SQL;
 404
 405 CREATE OR REPLACE FUNCTION is_json( TEXT ) RETURNS BOOL AS $f$
 406     use JSON::XS;
 407     my $json = shift();
 408     eval { JSON::XS->new->allow_nonref->decode( $json ) };
 409     return $@ ? 0 : 1;
 410 $f$ LANGUAGE PLPERLU;
 411
 412 -- turn a JSON scalar into an SQL TEXT value
 413 CREATE OR REPLACE FUNCTION oils_json_to_text( TEXT ) RETURNS TEXT AS $f$
 414     use JSON::XS;
 415     my $json = shift();
 416     my $txt;
 417     eval { $txt = JSON::XS->new->allow_nonref->decode( $json ) };
 418     return undef if ($@);
 419     return $txt
 420 $f$ LANGUAGE PLPERLU;
 421
 422 CREATE OR REPLACE FUNCTION evergreen.maintain_901 () RETURNS TRIGGER AS $func$
 423 use strict;
 424 use MARC::Record;
 425 use MARC::File::XML (BinaryEncoding => 'UTF-8');
 426 use MARC::Charset;
 427 use Encode;
 428 use Unicode::Normalize;
 429
 430 MARC::Charset->assume_unicode(1);
 431
 432 my $schema = $_TD->{table_schema};
 433 my $marc = MARC::Record->new_from_xml($_TD->{new}{marc});
 434
 435 my @old901s = $marc->field('901');
 436 $marc->delete_fields(@old901s);
 437
 438 if ($schema eq 'biblio') {
 439     my $tcn_value = $_TD->{new}{tcn_value};
 440
 441     # Set TCN value to record ID?
 442     my $id_as_tcn = spi_exec_query("
 443         SELECT enabled
 444         FROM config.global_flag
 445         WHERE name = 'cat.bib.use_id_for_tcn'
 446     ");
 447     if (($id_as_tcn->{processed}) && $id_as_tcn->{rows}[0]->{enabled} eq 't') {
 448         $tcn_value = $_TD->{new}{id};
 449     }
 450
 451     my $new_901 = MARC::Field->new("901", " ", " ",
 452         "a" => $tcn_value,
 453         "b" => $_TD->{new}{tcn_source},
 454         "c" => $_TD->{new}{id},
 455         "t" => $schema
 456     );
 457
 458     if ($_TD->{new}{owner}) {
 459         $new_901->add_subfields("o" => $_TD->{new}{owner});
 460     }
 461
 462     if ($_TD->{new}{share_depth}) {
 463         $new_901->add_subfields("d" => $_TD->{new}{share_depth});
 464     }
 465
 466     $marc->append_fields($new_901);
 467 } elsif ($schema eq 'authority') {
 468     my $new_901 = MARC::Field->new("901", " ", " ",
 469         "c" => $_TD->{new}{id},
 470         "t" => $schema,
 471     );
 472     $marc->append_fields($new_901);
 473 } elsif ($schema eq 'serial') {
 474     my $new_901 = MARC::Field->new("901", " ", " ",
 475         "c" => $_TD->{new}{id},
 476         "t" => $schema,
 477         "o" => $_TD->{new}{owning_lib},
 478     );
 479
 480     if ($_TD->{new}{record}) {
 481         $new_901->add_subfields("r" => $_TD->{new}{record});
 482     }
 483
 484     $marc->append_fields($new_901);
 485 } else {
 486     my $new_901 = MARC::Field->new("901", " ", " ",
 487         "c" => $_TD->{new}{id},
 488         "t" => $schema,
 489     );
 490     $marc->append_fields($new_901);
 491 }
 492
 493 my $xml = $marc->as_xml_record();
 494 $xml =~ s/\n//sgo;
 495 $xml =~ s/^<\?xml.+\?\s*>//go;
 496 $xml =~ s/>\s+</></go;
 497 $xml =~ s/\p{Cc}//go;
 498
 499 # Embed a version of OpenILS::Application::AppUtils->entityize()
 500 # to avoid having to set PERL5LIB for PostgreSQL as well
 501
 502 # If we are going to convert non-ASCII characters to XML entities,
 503 # we had better be dealing with a UTF8 string to begin with
 504 $xml = decode_utf8($xml);
 505
 506 $xml = NFC($xml);
 507
 508 # Convert raw ampersands to entities
 509 $xml =~ s/&(?!\S+;)/&amp;/gso;
 510
 511 # Convert Unicode characters to entities
 512 $xml =~ s/([\x{0080}-\x{fffd}])/sprintf('&#x%X;',ord($1))/sgoe;
 513
 514 $xml =~ s/[\x00-\x1f]//go;
 515 $_TD->{new}{marc} = $xml;
 516
 517 return "MODIFY";
 518 $func$ LANGUAGE PLPERLU;
 519
 520 CREATE OR REPLACE FUNCTION evergreen.force_unicode_normal_form(string TEXT, form TEXT) RETURNS TEXT AS $func$
 521 use Unicode::Normalize 'normalize';
 522 return normalize($_[1],$_[0]); # reverse the params
 523 $func$ LANGUAGE PLPERLU;
 524
 525 CREATE OR REPLACE FUNCTION maintain_control_numbers() RETURNS TRIGGER AS $func$
 526 use strict;
 527 use MARC::Record;
 528 use MARC::File::XML (BinaryEncoding => 'UTF-8');
 529 use MARC::Charset;
 530 use Encode;
 531 use Unicode::Normalize;
 532
 533 MARC::Charset->assume_unicode(1);
 534
 535 my $record = MARC::Record->new_from_xml($_TD->{new}{marc});
 536 my $schema = $_TD->{table_schema};
 537 my $rec_id = $_TD->{new}{id};
 538
 539 # Short-circuit if maintaining control numbers per MARC21 spec is not enabled
 540 my $enable = spi_exec_query("SELECT enabled FROM config.global_flag WHERE name = 'cat.maintain_control_numbers'");
 541 if (!($enable->{processed}) or $enable->{rows}[0]->{enabled} eq 'f') {
 542     return;
 543 }
 544
 545 # Get the control number identifier from an OU setting based on $_TD->{new}{owner}
 546 my $ou_cni = 'EVRGRN';
 547
 548 my $owner;
 549 if ($schema eq 'serial') {
 550     $owner = $_TD->{new}{owning_lib};
 551 } else {
 552     # are.owner and bre.owner can be null, so fall back to the consortial setting
 553     $owner = $_TD->{new}{owner} || 1;
 554 }
 555
 556 my $ous_rv = spi_exec_query("SELECT value FROM actor.org_unit_ancestor_setting('cat.marc_control_number_identifier', $owner)");
 557 if ($ous_rv->{processed}) {
 558     $ou_cni = $ous_rv->{rows}[0]->{value};
 559     $ou_cni =~ s/"//g; # Stupid VIM syntax highlighting"
 560 } else {
 561     # Fall back to the shortname of the OU if there was no OU setting
 562     $ous_rv = spi_exec_query("SELECT shortname FROM actor.org_unit WHERE id = $owner");
 563     if ($ous_rv->{processed}) {
 564         $ou_cni = $ous_rv->{rows}[0]->{shortname};
 565     }
 566 }
 567
 568 my ($create, $munge) = (0, 0);
 569
 570 my @scns = $record->field('035');
 571
 572 foreach my $id_field ('001', '003') {
 573     my $spec_value;
 574     my @controls = $record->field($id_field);
 575
 576     if ($id_field eq '001') {
 577         $spec_value = $rec_id;
 578     } else {
 579         $spec_value = $ou_cni;
 580     }
 581
 582     # Create the 001/003 if none exist
 583     if (scalar(@controls) == 1) {
 584         # Only one field; check to see if we need to munge it
 585         unless (grep $_->data() eq $spec_value, @controls) {
 586             $munge = 1;
 587         }
 588     } else {
 589         # Delete the other fields, as with more than 1 001/003 we do not know which 003/001 to match
 590         foreach my $control (@controls) {
 591             $record->delete_field($control);
 592         }
 593         $record->insert_fields_ordered(MARC::Field->new($id_field, $spec_value));
 594         $create = 1;
 595     }
 596 }
 597
 598 my $cn = $record->field('001')->data();
 599 # Special handling of OCLC numbers, often found in records that lack 003
 600 if ($cn =~ /^o(c[nm]|n)\d/) {
 601     $cn =~ s/^o(c[nm]|n)0*(\d+)/$2/;
 602     $record->field('003')->data('OCoLC');
 603     $create = 0;
 604 }
 605
 606 # Now, if we need to munge the 001, we will first push the existing 001/003
 607 # into the 035; but if the record did not have one (and one only) 001 and 003
 608 # to begin with, skip this process
 609 if ($munge and not $create) {
 610
 611     my $scn = "(" . $record->field('003')->data() . ")" . $cn;
 612
 613     # Do not create duplicate 035 fields
 614     unless (grep $_->subfield('a') eq $scn, @scns) {
 615         $record->insert_fields_ordered(MARC::Field->new('035', '', '', 'a' => $scn));
 616     }
 617 }
 618
 619 # Set the 001/003 and update the MARC
 620 if ($create or $munge) {
 621     $record->field('001')->data($rec_id);
 622     $record->field('003')->data($ou_cni);
 623
 624     my $xml = $record->as_xml_record();
 625     $xml =~ s/\n//sgo;
 626     $xml =~ s/^<\?xml.+\?\s*>//go;
 627     $xml =~ s/>\s+</></go;
 628     $xml =~ s/\p{Cc}//go;
 629
 630     # Embed a version of OpenILS::Application::AppUtils->entityize()
 631     # to avoid having to set PERL5LIB for PostgreSQL as well
 632
 633     # If we are going to convert non-ASCII characters to XML entities,
 634     # we had better be dealing with a UTF8 string to begin with
 635     $xml = decode_utf8($xml);
 636
 637     $xml = NFC($xml);
 638
 639     # Convert raw ampersands to entities
 640     $xml =~ s/&(?!\S+;)/&amp;/gso;
 641
 642     # Convert Unicode characters to entities
 643     $xml =~ s/([\x{0080}-\x{fffd}])/sprintf('&#x%X;',ord($1))/sgoe;
 644
 645     $xml =~ s/[\x00-\x1f]//go;
 646     $_TD->{new}{marc} = $xml;
 647
 648     return "MODIFY";
 649 }
 650
 651 return;
 652 $func$ LANGUAGE PLPERLU;
 653
 654 CREATE OR REPLACE FUNCTION oils_text_as_bytea (TEXT) RETURNS BYTEA AS $_$
 655     SELECT CAST(REGEXP_REPLACE(UPPER($1), $$\\$$, $$\\\\$$, 'g') AS BYTEA);
 656 $_$ LANGUAGE SQL IMMUTABLE;
 657
 658 CREATE OR REPLACE FUNCTION evergreen.lpad_number_substrings( TEXT, TEXT, INT ) RETURNS TEXT AS $$
 659     my $string = shift;
 660     my $pad = shift;
 661     my $len = shift;
 662     my $find = $len - 1;
 663
 664     while ($string =~ /(?:^|\D)(\d{1,$find})(?:$|\D)/) {
 665         my $padded = $1;
 666         $padded = $pad x ($len - length($padded)) . $padded;
 667         $string =~ s/$1/$padded/sg;
 668     }
 669
 670     return $string;
 671 $$ LANGUAGE PLPERLU;
 672
 673 CREATE OR REPLACE FUNCTION public.naco_normalize( TEXT, TEXT ) RETURNS TEXT AS $func$
 674
 675     use strict;
 676     use Unicode::Normalize;
 677     use Encode;
 678
 679     my $str = decode_utf8(shift);
 680     my $sf = shift;
 681
 682     # Apply NACO normalization to input string; based on
 683     # http://www.loc.gov/catdir/pcc/naco/SCA_PccNormalization_Final_revised.pdf
 684     #
 685     # Note that unlike a strict reading of the NACO normalization rules,
 686     # output is returned as lowercase instead of uppercase for compatibility
 687     # with previous versions of the Evergreen naco_normalize routine.
 688
 689     # Convert to upper-case first; even though final output will be lowercase, doing this will
 690     # ensure that the German eszett (ß) and certain ligatures (ﬀ, ﬁ, ﬄ, etc.) will be handled correctly.
 691     # If there are any bugs in Perl's implementation of upcasing, they will be passed through here.
 692     $str = uc $str;
 693
 694     # remove non-filing strings
 695     $str =~ s/\x{0098}.*?\x{009C}//g;
 696
 697     $str = NFKD($str);
 698
 699     # additional substitutions - 3.6.
 700     $str =~ s/\x{00C6}/AE/g;
 701     $str =~ s/\x{00DE}/TH/g;
 702     $str =~ s/\x{0152}/OE/g;
 703     $str =~ tr/\x{0110}\x{00D0}\x{00D8}\x{0141}\x{2113}\x{02BB}\x{02BC}]['/DDOLl/d;
 704
 705     # transformations based on Unicode category codes
 706     $str =~ s/[\p{Cc}\p{Cf}\p{Co}\p{Cs}\p{Lm}\p{Mc}\p{Me}\p{Mn}]//g;
 707
 708         if ($sf && $sf =~ /^a/o) {
 709                 my $commapos = index($str, ',');
 710                 if ($commapos > -1) {
 711                         if ($commapos != length($str) - 1) {
 712                 $str =~ s/,/\x07/; # preserve first comma
 713                         }
 714                 }
 715         }
 716
 717     # since we've stripped out the control characters, we can now
 718     # use a few as placeholders temporarily
 719     $str =~ tr/+&@\x{266D}\x{266F}#/\x01\x02\x03\x04\x05\x06/;
 720     $str =~ s/[\p{Pc}\p{Pd}\p{Pe}\p{Pf}\p{Pi}\p{Po}\p{Ps}\p{Sk}\p{Sm}\p{So}\p{Zl}\p{Zp}\p{Zs}]/ /g;
 721     $str =~ tr/\x01\x02\x03\x04\x05\x06\x07/+&@\x{266D}\x{266F}#,/;
 722
 723     # decimal digits
 724     $str =~ tr/\x{0660}-\x{0669}\x{06F0}-\x{06F9}\x{07C0}-\x{07C9}\x{0966}-\x{096F}\x{09E6}-\x{09EF}\x{0A66}-\x{0A6F}\x{0AE6}-\x{0AEF}\x{0B66}-\x{0B6F}\x{0BE6}-\x{0BEF}\x{0C66}-\x{0C6F}\x{0CE6}-\x{0CEF}\x{0D66}-\x{0D6F}\x{0E50}-\x{0E59}\x{0ED0}-\x{0ED9}\x{0F20}-\x{0F29}\x{1040}-\x{1049}\x{1090}-\x{1099}\x{17E0}-\x{17E9}\x{1810}-\x{1819}\x{1946}-\x{194F}\x{19D0}-\x{19D9}\x{1A80}-\x{1A89}\x{1A90}-\x{1A99}\x{1B50}-\x{1B59}\x{1BB0}-\x{1BB9}\x{1C40}-\x{1C49}\x{1C50}-\x{1C59}\x{A620}-\x{A629}\x{A8D0}-\x{A8D9}\x{A900}-\x{A909}\x{A9D0}-\x{A9D9}\x{AA50}-\x{AA59}\x{ABF0}-\x{ABF9}\x{FF10}-\x{FF19}/0-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-9/;
 725
 726     # intentionally skipping step 8 of the NACO algorithm; if the string
 727     # gets normalized away, that's fine.
 728
 729     # leading and trailing spaces
 730     $str =~ s/\s+/ /g;
 731     $str =~ s/^\s+//;
 732     $str =~ s/\s+$//g;
 733
 734     return lc $str;
 735 $func$ LANGUAGE 'plperlu' STRICT IMMUTABLE;
 736
 737 -- Currently, the only difference from naco_normalize is that search_normalize
 738 -- turns apostrophes into spaces, while naco_normalize collapses them.
 739 CREATE OR REPLACE FUNCTION public.search_normalize( TEXT, TEXT ) RETURNS TEXT AS $func$
 740
 741     use strict;
 742     use Unicode::Normalize;
 743     use Encode;
 744
 745     my $str = decode_utf8(shift);
 746     my $sf = shift;
 747
 748     # Apply NACO normalization to input string; based on
 749     # http://www.loc.gov/catdir/pcc/naco/SCA_PccNormalization_Final_revised.pdf
 750     #
 751     # Note that unlike a strict reading of the NACO normalization rules,
 752     # output is returned as lowercase instead of uppercase for compatibility
 753     # with previous versions of the Evergreen naco_normalize routine.
 754
 755     # Convert to upper-case first; even though final output will be lowercase, doing this will
 756     # ensure that the German eszett (ß) and certain ligatures (ﬀ, ﬁ, ﬄ, etc.) will be handled correctly.
 757     # If there are any bugs in Perl's implementation of upcasing, they will be passed through here.
 758     $str = uc $str;
 759
 760     # remove non-filing strings
 761     $str =~ s/\x{0098}.*?\x{009C}//g;
 762
 763     $str = NFKD($str);
 764
 765     # additional substitutions - 3.6.
 766     $str =~ s/\x{00C6}/AE/g;
 767     $str =~ s/\x{00DE}/TH/g;
 768     $str =~ s/\x{0152}/OE/g;
 769     $str =~ tr/\x{0110}\x{00D0}\x{00D8}\x{0141}\x{2113}\x{02BB}\x{02BC}][/DDOLl/d;
 770
 771     # transformations based on Unicode category codes
 772     $str =~ s/[\p{Cc}\p{Cf}\p{Co}\p{Cs}\p{Lm}\p{Mc}\p{Me}\p{Mn}]//g;
 773
 774         if ($sf && $sf =~ /^a/o) {
 775                 my $commapos = index($str, ',');
 776                 if ($commapos > -1) {
 777                         if ($commapos != length($str) - 1) {
 778                 $str =~ s/,/\x07/; # preserve first comma
 779                         }
 780                 }
 781         }
 782
 783     # since we've stripped out the control characters, we can now
 784     # use a few as placeholders temporarily
 785     $str =~ tr/+&@\x{266D}\x{266F}#/\x01\x02\x03\x04\x05\x06/;
 786     $str =~ s/[\p{Pc}\p{Pd}\p{Pe}\p{Pf}\p{Pi}\p{Po}\p{Ps}\p{Sk}\p{Sm}\p{So}\p{Zl}\p{Zp}\p{Zs}]/ /g;
 787     $str =~ tr/\x01\x02\x03\x04\x05\x06\x07/+&@\x{266D}\x{266F}#,/;
 788
 789     # decimal digits
 790     $str =~ tr/\x{0660}-\x{0669}\x{06F0}-\x{06F9}\x{07C0}-\x{07C9}\x{0966}-\x{096F}\x{09E6}-\x{09EF}\x{0A66}-\x{0A6F}\x{0AE6}-\x{0AEF}\x{0B66}-\x{0B6F}\x{0BE6}-\x{0BEF}\x{0C66}-\x{0C6F}\x{0CE6}-\x{0CEF}\x{0D66}-\x{0D6F}\x{0E50}-\x{0E59}\x{0ED0}-\x{0ED9}\x{0F20}-\x{0F29}\x{1040}-\x{1049}\x{1090}-\x{1099}\x{17E0}-\x{17E9}\x{1810}-\x{1819}\x{1946}-\x{194F}\x{19D0}-\x{19D9}\x{1A80}-\x{1A89}\x{1A90}-\x{1A99}\x{1B50}-\x{1B59}\x{1BB0}-\x{1BB9}\x{1C40}-\x{1C49}\x{1C50}-\x{1C59}\x{A620}-\x{A629}\x{A8D0}-\x{A8D9}\x{A900}-\x{A909}\x{A9D0}-\x{A9D9}\x{AA50}-\x{AA59}\x{ABF0}-\x{ABF9}\x{FF10}-\x{FF19}/0-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-90-9/;
 791
 792     # intentionally skipping step 8 of the NACO algorithm; if the string
 793     # gets normalized away, that's fine.
 794
 795     # leading and trailing spaces
 796     $str =~ s/\s+/ /g;
 797     $str =~ s/^\s+//;
 798     $str =~ s/\s+$//g;
 799
 800     return lc $str;
 801 $func$ LANGUAGE 'plperlu' STRICT IMMUTABLE;
 802
 803 CREATE OR REPLACE FUNCTION public.naco_normalize_keep_comma( TEXT ) RETURNS TEXT AS $func$
 804         SELECT public.naco_normalize($1,'a');
 805 $func$ LANGUAGE SQL STRICT IMMUTABLE;
 806
 807 CREATE OR REPLACE FUNCTION public.naco_normalize( TEXT ) RETURNS TEXT AS $func$
 808         SELECT public.naco_normalize($1,'');
 809 $func$ LANGUAGE 'sql' STRICT IMMUTABLE;
 810
 811 CREATE OR REPLACE FUNCTION public.search_normalize_keep_comma( TEXT ) RETURNS TEXT AS $func$
 812         SELECT public.search_normalize($1,'a');
 813 $func$ LANGUAGE SQL STRICT IMMUTABLE;
 814
 815 CREATE OR REPLACE FUNCTION public.search_normalize( TEXT ) RETURNS TEXT AS $func$
 816         SELECT public.search_normalize($1,'');
 817 $func$ LANGUAGE 'sql' STRICT IMMUTABLE;
 818
 819
 820 COMMIT;
 821