adding flags for some advanced search features
[koha_fer] / C4 / Search.pm
old mode 100755 (executable)
new mode 100644 (file)
index 1bfa3c9..b3ec46e
@@ -1,6 +1,5 @@
 package C4::Search;
 
-# Copyright 2000-2002 Katipo Communications
 # This file is part of Koha.
 #
 # Koha is free software; you can redistribute it and/or modify it under the
@@ -19,844 +18,1638 @@ package C4::Search;
 use strict;
 require Exporter;
 use C4::Context;
-use C4::Reserves2;
-use C4::Biblio;
-use Date::Calc;
-use Encode;
-       # FIXME - C4::Search uses C4::Reserves2, which uses C4::Search.
-       # So Perl complains that all of the functions here get redefined.
+use C4::Biblio;    # GetMarcFromKohaField
+use C4::Koha;      # getFacets
+use Lingua::Stem;
 use C4::Date;
 
 use vars qw($VERSION @ISA @EXPORT @EXPORT_OK %EXPORT_TAGS);
 
 # set the version for version checking
-$VERSION = do { my @v = '$Revision$' =~ /\d+/g;
-          shift(@v) . "." . join("_", map {sprintf "%03d", $_ } @v); };
+$VERSION = 3.00;
+$DEBUG=1;
 
 =head1 NAME
 
-C4::Search - Functions for searching the Koha catalog and other databases
+C4::Search - Functions for searching the Koha catalog.
 
 =head1 SYNOPSIS
 
-  use C4::Search;
-
-  my ($count, @results) = catalogsearch4($env, $type, $search, $num, $offset);
+see opac/opac-search.pl or catalogue/search.pl for example of usage
 
 =head1 DESCRIPTION
 
-This module provides the searching facilities for the Koha catalog and
-ZEBRA databases.
-
-
+This module provides the searching facilities for the Koha into a zebra catalog.
 
 =head1 FUNCTIONS
 
-=over 2
-
 =cut
 
-@ISA = qw(Exporter);
+@ISA    = qw(Exporter);
 @EXPORT = qw(
- &barcodes   &ItemInfo &itemcount
- &getcoverPhoto &add_query_line
- &FindDuplicate   &ZEBRAsearch_kohafields &sqlsearch &cataloguing_search
-&getMARCnotes &getMARCsubjects &getMARCurls &parsefields);
-# make all your functions, whether exported or not;
+  &SimpleSearch
+  &findseealso
+  &FindDuplicate
+  &searchResults
+  &getRecords
+  &buildQuery
+  &NZgetRecords
+  &ModBiblios
+);
 
-=item
-ZEBRAsearchkohafields is the underlying API for searching zebra for KOHA internal use
-its kept similar to earlier version Koha Marc searches. instead of passing marc tags to the routine
-you pass named kohafields
-So you give an array of @kohafieldnames,@values, what relation they have @relations (equal, truncation etc) @and_or and
-you receive an array of XML records.
-The routine also has a flag $fordisplay and if it is set to 1 it will return the @results as an array of Perl hashes so that your previous
-search results templates do actually work.
-However more advanced search frontends will be available and this routine can serve as the connecting API for circulation and serials management
-See sub FindDuplicates for an example;
-=cut
-
-
-
-
-sub ZEBRAsearch_kohafields{
-my ($kohafield,$value, $relation,$sort, $and_or, $fordisplay,$reorder,$startfrom,$number_of_results,$searchfrom)=@_;
-return (0,undef) unless (@$value[0]);
-my $server="biblioserver";
-my @results;
-my $attr;
-my $query;
-
-
-my $i;
-       for ( $i=0; $i<=$#{$value}; $i++){
-       last if (@$value[$i] eq "");
+# make all your functions, whether exported or not;
 
-       my $keyattr=MARCfind_attr_from_kohafield(@$kohafield[$i]) if (@$kohafield[$i]);
-       if (!$keyattr){$keyattr=" \@attr 1=any";}
-       @$value[$i]=~ s/(\.|\?|\;|\=|\/|\\|\||\:|\*|\!|\,|\(|\)|\[|\]|\{|\}|\/)/ /g;
-       $query.=@$relation[$i]." ".$keyattr." \"".@$value[$i]."\" " if @$value[$i];
-       }
-       for (my $z= 0;$z<=$#{$and_or};$z++){
-       $query=@$and_or[$z]." ".$query if (@$value[$z+1] ne "");
-       }
+=head2 findseealso($dbh,$fields);
 
+C<$dbh> is a link to the DB handler.
 
-#warn $query;
-my @oConnection;
-($oConnection[0])=C4::Context->Zconn($server);
+use C4::Context;
+my $dbh =C4::Context->dbh;
 
+C<$fields> is a reference to the fields array
 
+This function modify the @$fields array and add related fields to search on.
 
-if ($reorder){
-my (@sortpart)=split /,/,$reorder;
-       if (@sortpart<2){
-       push @sortpart,1; ##
-       }
-my ($sortattr)=MARCfind_attr_from_kohafield($sortpart[0]);
-my @sortfield=split /@/,$sortattr; ## incase our $sortattr contains type modifiers
-       $query.=" \@attr 7=".$sortpart[1]." \@".$sortfield[1]." 0";## 
-       $query= "\@or ".$query;
-}elsif ($sort){
-my (@sortpart)=split /,/,$sort;
-       if (@sortpart<2){
-       push @sortpart,1; ## Ascending by default
-       }
-my ($sortattr)=MARCfind_attr_from_kohafield($sortpart[0]);
- my @sortfield=split /@/,$sortattr; ## incase our $sortattr contains type modifiers
-       $query.=" \@attr 7=".$sortpart[1]." \@".$sortfield[1]." 0";## fix to accept secondary sort as well
-       $query= "\@or ".$query;
-}else{
- unless($query=~/4=109/){ ###ranked sort not valid for numeric fields
-##Use Ranked sort
-$query="\@attr 2=102 ".$query;
-}
-}
-#warn $query;
-my $oResult;
-
-my $tried=0;
-
-my $numresults;
-
-retry:
-$oResult= $oConnection[0]->search_pqf($query);
-my $i;
-my $event;
-   while (($i = ZOOM::event(\@oConnection)) != 0) {
-       $event = $oConnection[$i-1]->last_event();
-       last if $event == ZOOM::Event::ZEND;
-   }# while
-       
-        my($error, $errmsg, $addinfo, $diagset) = $oConnection[0]->error_x();
-       if ($error==10007 && $tried<3) {## timeout --another 30 looonng seconds for this update
-               $tried=$tried+1;
-               goto "retry";
-       }elsif ($error==2 && $tried<2) {## timeout --temporary zebra error !whatever that means
-               $tried=$tried+1;
-               goto "retry";
-       }elsif ($error){
-               warn "Error-$server    /errcode:, $error, /MSG:,$errmsg,$addinfo \n";   
-               $oResult->destroy();
-               $oConnection[0]->destroy();
-               return (undef,undef);
-       }
-my $dbh=C4::Context->dbh;
- $numresults=$oResult->size() ;
-
-   if ($numresults>0){
-       my $ri=0;
-       my $z=0;
-
-       $ri=$startfrom if $startfrom;
-               for ( $ri; $ri<$numresults ; $ri++){
-               my $xmlrecord=$oResult->record($ri)->raw();
-               $xmlrecord=Encode::decode("utf8",$xmlrecord);
-                        $xmlrecord=XML_xml2hash($xmlrecord);
-                       $z++;
-                       push @results,$xmlrecord;
-                       last if ($number_of_results &&  $z>=$number_of_results);
-                       
-       
-               }## for #numresults     
-                       if ($fordisplay){
-                       my (@parsed)=parsefields($dbh,$searchfrom,@results);
-                       return ($numresults,@parsed)  ;
-                       }
-    }# if numresults
-
-$oResult->destroy();
-$oConnection[0]->destroy();
-return ($numresults,@results)  ;
-#return (0,undef);
-}
-
-=item add_bold_fields
-After a search the searched keyword is <b>boldened</b> in the displayed search results if it exists in the title or author
-It is now depreceated 
 =cut
-sub add_html_bold_fields {
-       my ($type, $data, $search) = @_;
-       foreach my $key ('title', 'author') {
-               my $new_key; 
-               
-                       $new_key = 'bold_' . $key;
-                       $data->{$new_key} = $data->{$key};
-               
-       
-               my $key1;
-               
-                       $key1 = $key;
-               
-
-               my @keys;
-               my $i = 1;
-               if ($type eq 'keyword') {
-               my $newkey=$search->{'keyword'};
-               $newkey=~s /\++//g;
-               @keys = split " ", $newkey;
-               } 
-               my $count = @keys;
-               for ($i = 0; $i < $count ; $i++) {
-                       
-                               if (($data->{$new_key} =~ /($keys[$i])/i) && (lc($keys[$i]) ne 'b') ) {
-                                       my $word = $1;
-                                       $data->{$new_key} =~ s/$word/<b>$word<\/b>/;
-                               }
-                       
-               }
-       }
-
-
-}
- sub sqlsearch{
-## This searches the SQL database only for biblionumber,itemnumber,barcode
-### Not very useful on production but as a debug tool useful during system maturing for ZEBRA operations
-
-my ($dbh,$search)=@_;
-my $sth;
-if ($search->{'barcode'} ne '') {
-       $sth=$dbh->prepare("SELECT biblionumber from items  where  barcode=?");
-       $sth->execute($search->{'barcode'});
-}elsif ($search->{'itemnumber'} ne '') {
-       $sth=$dbh->prepare("SELECT biblionumber from items  where itemnumber=?");
-       $sth->execute($search->{'itemnumber'});
-}elsif ($search->{'biblionumber'} ne '') {
-       $sth=$dbh->prepare("SELECT biblionumber from biblio where biblionumber=?");
-       $sth->execute($search->{'biblionumber'});
-}else{
-return (undef,undef);
-}
 
- my $result=$sth->fetchrow_hashref;
-return (1,$result) if $result;
+sub findseealso {
+    my ( $dbh, $fields ) = @_;
+    my $tagslib = GetMarcStructure( 1 );
+    for ( my $i = 0 ; $i <= $#{$fields} ; $i++ ) {
+        my ($tag)      = substr( @$fields[$i], 1, 3 );
+        my ($subfield) = substr( @$fields[$i], 4, 1 );
+        @$fields[$i] .= ',' . $tagslib->{$tag}->{$subfield}->{seealso}
+          if ( $tagslib->{$tag}->{$subfield}->{seealso} );
+    }
 }
 
-sub cataloguing_search{
-## This is an SQL based search designed to be used when adding a new biblio incase library sets
-## preference zebraorsql to sql when adding a new biblio
-my ($search,$num,$offset) = @_;
-       my ($count,@results);
-my $dbh=C4::Context->dbh;
-#Prepare search
-my $query;
-my $condition="select SQL_CALC_FOUND_ROWS marcxml from biblio where ";
-if ($search->{'isbn'} ne''){
-$search->{'isbn'}=$search->{'isbn'}."%";
-$query=$search->{'isbn'};
-$condition.= "  isbn like ?  ";
-}else{
-return (0,undef) unless $search->{title};
-$query=$search->{'title'};
-$condition.= "  MATCH (title) AGAINST(? in BOOLEAN MODE )  ";
-}
-my $sth=$dbh->prepare($condition);
-$sth->execute($query);
- my $nbresult=$dbh->prepare("SELECT FOUND_ROWS()");
- $nbresult->execute;
- my $count=$nbresult->fetchrow;
-my $limit = $num + $offset;
-my $startfrom = $offset;
-my $i=0;
-my @results;
-while (my $marc=$sth->fetchrow){
-       if (($i >= $startfrom) && ($i < $limit)) {
-       my $record=XML_xml2hash_onerecord($marc);
-       my $data=XMLmarc2koha_onerecord($dbh,$record,"biblios");
-       push @results,$data;
-       }
-$i++;
-last if $i==$limit;
-}
-return ($count,@results);
-}
+=head2 FindDuplicate
 
+($biblionumber,$biblionumber,$title) = FindDuplicate($record);
 
+=cut
 
 sub FindDuplicate {
-       my ($xml)=@_;
-my $dbh=C4::Context->dbh;
-       my ($result) = XMLmarc2koha_onerecord($dbh,$xml,"biblios");
-       my @kohafield;
-       my @value;
-       my @relation;
-       my  @and_or;
-       
-       # search duplicate on ISBN, easy and fast..
-
-       if ($result->{isbn}) {
-       push @kohafield,"isbn";
-###Temporary fix for ISBN
-my $isbn=$result->{isbn};
-$isbn=~ s/(\.|\?|\;|\=|\/|\\|\||\:|\!|\'|,|\-|\"|\*|\(|\)|\[|\]|\{|\}|\/)//g;
-               push @value,$isbn;
-                       }else{
-$result->{title}=~s /\\//g;
-$result->{title}=~s /\"//g;
-$result->{title}=~ s/(\.|\?|\;|\=|\/|\\|\||\:|\*|\!|\,|\-|\(|\)|\[|\]|\{|\}|\/)/ /g;
-       
-       push @kohafield,"title";
-       push @value,$result->{title};
-       push @relation,"\@attr 6=3 \@attr 4=1 \@attr 5=1"; ## right truncated,phrase,whole field
-
-       }
-       my ($total,@result)=ZEBRAsearch_kohafields(\@kohafield,\@value,\@relation,"",\@and_or,0,"",0,1);
-if ($total){
-my $title=XML_readline($result[0],"title","biblios") ;
-my $biblionumber=XML_readline($result[0],"biblionumber","biblios") ;
-               return $biblionumber,$title ;
-}
-
-}
-
-
-sub add_query_line {
-
-       my ($type,$search,$results)=@_;
-       my $dbh = C4::Context->dbh;
-       my $searchdesc = '';
-       my $from;
-       my $borrowernumber = $search->{'borrowernumber'};
-       my $remote_IP = $search->{'remote_IP'};
-       my $remote_URL= $search->{'remote_URL'};
-       my $searchdesc = $search->{'searchdesc'};
-       
-my $sth = $dbh->prepare("INSERT INTO phrase_log(phr_phrase,phr_resultcount,phr_ip,user,actual) VALUES(?,?,?,?,?)");
-       
-
-$sth->execute($searchdesc,$results,$remote_IP,$borrowernumber,$remote_URL);
-$sth->finish;
-
+    my ($record) = @_;
+    my $dbh = C4::Context->dbh;
+    my $result = TransformMarcToKoha( $dbh, $record, '' );
+    my $sth;
+    my $query;
+    my $search;
+    my $type;
+    my ( $biblionumber, $title );
+
+    # search duplicate on ISBN, easy and fast..
+    # ... normalize first
+    if ( $result->{isbn} ) {
+        $result->{isbn} =~ s/\(.*$//;
+        $result->{isbn} =~ s/\s+$//; 
+    }
+    #$search->{'avoidquerylog'}=1;
+    if ( $result->{isbn} ) {
+        $query = "isbn=$result->{isbn}";
+    }
+    else {
+        $result->{title} =~ s /\\//g;
+        $result->{title} =~ s /\"//g;
+        $result->{title} =~ s /\(//g;
+        $result->{title} =~ s /\)//g;
+        # remove valid operators
+        $result->{title} =~ s/(and|or|not)//g;
+        $query = "ti,ext=$result->{title}";
+        $query .= " and mt=$result->{itemtype}" if ($result->{itemtype});    
+        if ($result->{author}){
+          $result->{author} =~ s /\\//g;
+          $result->{author} =~ s /\"//g;
+          $result->{author} =~ s /\(//g;
+          $result->{author} =~ s /\)//g;
+          # remove valid operators
+          $result->{author} =~ s/(and|or|not)//g;
+          $query .= " and au,ext=$result->{author}";
+        }     
+    }
+    my ($error,$searchresults) =
+      SimpleSearch($query); # FIXME :: hardcoded !
+    my @results;
+    foreach my $possible_duplicate_record (@$searchresults) {
+        my $marcrecord =
+          MARC::Record->new_from_usmarc($possible_duplicate_record);
+        my $result = TransformMarcToKoha( $dbh, $marcrecord, '' );
+        
+        # FIXME :: why 2 $biblionumber ?
+        if ($result){
+          push @results, $result->{'biblionumber'};
+          push @results, $result->{'title'};
+        }
+    }
+    return @results;  
 }
 
+=head2 SimpleSearch
 
-=item ItemInfo
-
-  @results = &ItemInfo($env, $biblionumber, $type);
+($error,$results) = SimpleSearch($query,@servers);
 
-Returns information about books with the given biblionumber.
+this function performs a simple search on the catalog using zoom.
 
-C<$type> may be either C<intra> or anything else. If it is not set to
-C<intra>, then the search will exclude lost, very overdue, and
-withdrawn items.
-
-C<$env> is ignored.
-
-C<&ItemInfo> returns a list of references-to-hash. Each element
-contains a number of keys. Most of them are table items from the
-C<biblio>, C<biblioitems>, C<items>, and C<itemtypes> tables in the
-Koha database. Other keys include:
-
-=over 4
+=over 2
 
-=item C<$data-E<gt>{branchname}>
+=item C<input arg:>
 
-The name (not the code) of the branch to which the book belongs.
+    * $query could be a simple keyword or a complete CCL query wich is depending on your ccl file.
+    * @servers is optionnal. default one is read on koha.xml
 
-=item C<$data-E<gt>{datelastseen}>
+=item C<Output arg:>
+    * $error is a string which containt the description error if there is one. Else it's empty.
+    * \@results is an array of marc record.
 
-This is simply C<items.datelastseen>, except that while the date is
-stored in YYYY-MM-DD format in the database, here it is converted to
-DD/MM/YYYY format. A NULL date is returned as C<//>.
+=item C<usage in the script:>
 
-=item C<$data-E<gt>{datedue}>
+=back
 
-=item C<$data-E<gt>{class}>
+my ($error, $marcresults) = SimpleSearch($query);
 
-This is the concatenation of C<biblioitems.classification>, the book's
-Dewey code, and C<biblioitems.subclass>.
+if (defined $error) {
+    $template->param(query_error => $error);
+    warn "error: ".$error;
+    output_html_with_http_headers $input, $cookie, $template->output;
+    exit;
+}
 
-=item C<$data-E<gt>{ocount}>
+my $hits = scalar @$marcresults;
+my @results;
 
-I think this is the number of copies of the book available.
+for(my $i=0;$i<$hits;$i++) {
+    my %resultsloop;
+    my $marcrecord = MARC::File::USMARC::decode($marcresults->[$i]);
+    my $biblio = TransformMarcToKoha(C4::Context->dbh,$marcrecord,'');
+
+    #build the hash for the template.
+    $resultsloop{highlight}       = ($i % 2)?(1):(0);
+    $resultsloop{title}           = $biblio->{'title'};
+    $resultsloop{subtitle}        = $biblio->{'subtitle'};
+    $resultsloop{biblionumber}    = $biblio->{'biblionumber'};
+    $resultsloop{author}          = $biblio->{'author'};
+    $resultsloop{publishercode}   = $biblio->{'publishercode'};
+    $resultsloop{publicationyear} = $biblio->{'publicationyear'};
+
+    push @results, \%resultsloop;
+}
+$template->param(result=>\@results);
 
-=item C<$data-E<gt>{order}>
+=cut
 
-If this is set, it is set to C<One Order>.
+sub SimpleSearch {
+    my $query   = shift;
+    if (C4::Context->preference('NoZebra')) {
+        my $result = NZorder(NZanalyse($query))->{'biblioserver'}->{'RECORDS'};
+        return (undef,$result);
+    } else {
+        my @servers = @_;
+        my @results;
+        my @tmpresults;
+        my @zconns;
+        return ( "No query entered", undef ) unless $query;
+    
+        #@servers = (C4::Context->config("biblioserver")) unless @servers;
+        @servers =
+        ("biblioserver") unless @servers
+        ;    # FIXME hardcoded value. See catalog/search.pl & opac-search.pl too.
+    
+        # Connect & Search
+        for ( my $i = 0 ; $i < @servers ; $i++ ) {
+            $zconns[$i] = C4::Context->Zconn( $servers[$i], 1 );
+            $tmpresults[$i] =
+            $zconns[$i]
+            ->search( new ZOOM::Query::CCL2RPN( $query, $zconns[$i] ) );
+    
+            # getting error message if one occured.
+            my $error =
+                $zconns[$i]->errmsg() . " ("
+            . $zconns[$i]->errcode() . ") "
+            . $zconns[$i]->addinfo() . " "
+            . $zconns[$i]->diagset();
+    
+            return ( $error, undef ) if $zconns[$i]->errcode();
+        }
+        my $hits;
+        my $ev;
+        while ( ( my $i = ZOOM::event( \@zconns ) ) != 0 ) {
+            $ev = $zconns[ $i - 1 ]->last_event();
+            if ( $ev == ZOOM::Event::ZEND ) {
+                $hits = $tmpresults[ $i - 1 ]->size();
+            }
+            if ( $hits > 0 ) {
+                for ( my $j = 0 ; $j < $hits ; $j++ ) {
+                    my $record = $tmpresults[ $i - 1 ]->record($j)->raw();
+                    push @results, $record;
+                }
+            }
+        }
+        return ( undef, \@results );
+    }
+}
 
-=back
+# performs the search
+sub getRecords {
+    my (
+        $koha_query,     $simple_query,  $sort_by_ref,
+        $servers_ref,    $results_per_page, $offset,
+        $expanded_facet, $branches,         $query_type,
+        $scan
+    ) = @_;
+#     warn "Query : $koha_query";
+    my @servers = @$servers_ref;
+    my @sort_by = @$sort_by_ref;
+
+    # create the zoom connection and query object
+    my $zconn;
+    my @zconns;
+    my @results;
+    my $results_hashref = ();
+
+    ### FACETED RESULTS
+    my $facets_counter = ();
+    my $facets_info    = ();
+    my $facets         = getFacets();
+
+    #### INITIALIZE SOME VARS USED CREATE THE FACETED RESULTS
+    my @facets_loop;    # stores the ref to array of hashes for template
+    for ( my $i = 0 ; $i < @servers ; $i++ ) {
+        $zconns[$i] = C4::Context->Zconn( $servers[$i], 1 );
+
+# perform the search, create the results objects
+# if this is a local search, use the $koha-query, if it's a federated one, use the federated-query
+        my $query_to_use;
+        if ( $servers[$i] =~ /biblioserver/ ) {
+            $query_to_use = $koha_query;
+        }
+        else {
+            $query_to_use = $simple_query;
+        }
+
+               $query_to_use = $simple_query if $scan;
+
+        # check if we've got a query_type defined
+        eval {
+            if ($query_type)
+            {
+                if ( $query_type =~ /^ccl/ ) {
+                    $query_to_use =~
+                      s/\:/\=/g;    # change : to = last minute (FIXME)
+
+                    #                 warn "CCL : $query_to_use";
+                    $results[$i] =
+                      $zconns[$i]->search(
+                        new ZOOM::Query::CCL2RPN( $query_to_use, $zconns[$i] )
+                      );
+                }
+                elsif ( $query_type =~ /^cql/ ) {
+
+                    #                 warn "CQL : $query_to_use";
+                    $results[$i] =
+                      $zconns[$i]->search(
+                        new ZOOM::Query::CQL( $query_to_use, $zconns[$i] ) );
+                }
+                elsif ( $query_type =~ /^pqf/ ) {
+
+                    #                 warn "PQF : $query_to_use";
+                    $results[$i] =
+                      $zconns[$i]->search(
+                        new ZOOM::Query::PQF( $query_to_use, $zconns[$i] ) );
+                }
+            }
+            else {
+                if ($scan) {
+                     #               warn "preparing to scan:$query_to_use";
+                    $results[$i] =
+                      $zconns[$i]->scan(
+                        new ZOOM::Query::CCL2RPN( $query_to_use, $zconns[$i] )
+                      );
+                }
+                else {
+                    #             warn "LAST : $query_to_use";
+                    $results[$i] =
+                      $zconns[$i]->search(
+                        new ZOOM::Query::CCL2RPN( $query_to_use, $zconns[$i] )
+                      );
+                }
+            }
+        };
+        if ($@) {
+            warn "WARNING: query problem with $query_to_use " . $@;
+        }
+
+        # concatenate the sort_by limits and pass them to the results object
+        my $sort_by;
+        foreach my $sort (@sort_by) {
+            if ($sort eq "author_az") {
+                $sort_by.="1=1003 <i ";
+            }
+            elsif ($sort eq "author_za") {
+                $sort_by.="1=1003 >i ";
+            }
+            elsif ($sort eq "popularity_asc") {
+                $sort_by.="1=9003 <i ";
+            }
+            elsif ($sort eq "popularity_dsc") {
+                $sort_by.="1=9003 >i ";
+            }
+            elsif ($sort eq "call_number_asc") {
+                $sort_by.="1=20  <i ";
+            }
+            elsif ($sort eq "call_number_dsc") {
+                $sort_by.="1=20 >i ";
+            }
+            elsif ($sort eq "pubdate_asc") {
+                $sort_by.="1=31 <i ";
+            }
+            elsif ($sort eq "pubdate_dsc") {
+                $sort_by.="1=31 >i ";
+            }
+            elsif ($sort eq "acqdate_asc") {
+                $sort_by.="1=32 <i ";
+            }
+            elsif ($sort eq "acqdate_dsc") {
+                $sort_by.="1=32 >i ";
+            }
+            elsif ($sort eq "title_az") {
+                $sort_by.="1=4 <i ";
+            }
+            elsif ($sort eq "title_za") {
+                $sort_by.="1=4 >i ";
+            }
+        }
+        if ($sort_by) {
+            if ( $results[$i]->sort( "yaz", $sort_by ) < 0) {
+                warn "WARNING sort $sort_by failed";
+            }
+        }
+    }
+    while ( ( my $i = ZOOM::event( \@zconns ) ) != 0 ) {
+        my $ev = $zconns[ $i - 1 ]->last_event();
+        if ( $ev == ZOOM::Event::ZEND ) {
+            my $size = $results[ $i - 1 ]->size();
+            if ( $size > 0 ) {
+                my $results_hash;
+                #$results_hash->{'server'} = $servers[$i-1];
+                # loop through the results
+                $results_hash->{'hits'} = $size;
+                my $times;
+                if ( $offset + $results_per_page <= $size ) {
+                    $times = $offset + $results_per_page;
+                }
+                else {
+                    $times = $size;
+                }
+                for ( my $j = $offset ; $j < $times ; $j++ )
+                {   #(($offset+$count<=$size) ? ($offset+$count):$size) ; $j++){
+                    my $records_hash;
+                    my $record;
+                    my $facet_record;
+                    ## This is just an index scan
+                    if ($scan) {
+                        my ( $term, $occ ) = $results[ $i - 1 ]->term($j);
+                 # here we create a minimal MARC record and hand it off to the
+                 # template just like a normal result ... perhaps not ideal, but
+                 # it works for now
+                        my $tmprecord = MARC::Record->new();
+                        $tmprecord->encoding('UTF-8');
+                        my $tmptitle;
+
+                       # srote the minimal record in author/title (depending on MARC flavour)
+                        if ( C4::Context->preference("marcflavour") eq
+                            "UNIMARC" )
+                        {
+                            $tmptitle = MARC::Field->new(
+                                '200', ' ', ' ',
+                                a => $term,
+                                f => $occ
+                            );
+                        }
+                        else {
+                            $tmptitle = MARC::Field->new(
+                                '245', ' ', ' ',
+                                a => $term,
+                                b => $occ
+                            );
+                        }
+                        $tmprecord->append_fields($tmptitle);
+                        $results_hash->{'RECORDS'}[$j] =
+                          $tmprecord->as_usmarc();
+                    }
+                    else {
+                        $record = $results[ $i - 1 ]->record($j)->raw();
+
+                        #warn "RECORD $j:".$record;
+                        $results_hash->{'RECORDS'}[$j] =
+                          $record;    # making a reference to a hash
+                                      # Fill the facets while we're looping
+                        $facet_record = MARC::Record->new_from_usmarc($record);
+
+                        #warn $servers[$i-1].$facet_record->title();
+                        for ( my $k = 0 ; $k <= @$facets ; $k++ ) {
+                            if ( $facets->[$k] ) {
+                                my @fields;
+                                for my $tag ( @{ $facets->[$k]->{'tags'} } ) {
+                                    push @fields, $facet_record->field($tag);
+                                }
+                                for my $field (@fields) {
+                                    my @subfields = $field->subfields();
+                                    for my $subfield (@subfields) {
+                                        my ( $code, $data ) = @$subfield;
+                                        if ( $code eq
+                                            $facets->[$k]->{'subfield'} )
+                                        {
+                                            $facets_counter->{ $facets->[$k]
+                                                  ->{'link_value'} }->{$data}++;
+                                        }
+                                    }
+                                }
+                                $facets_info->{ $facets->[$k]->{'link_value'} }
+                                  ->{'label_value'} =
+                                  $facets->[$k]->{'label_value'};
+                                $facets_info->{ $facets->[$k]->{'link_value'} }
+                                  ->{'expanded'} = $facets->[$k]->{'expanded'};
+                            }
+                        }
+                    }
+                }
+                $results_hashref->{ $servers[ $i - 1 ] } = $results_hash;
+            }
+
+            #print "connection ", $i-1, ": $size hits";
+            #print $results[$i-1]->record(0)->render() if $size > 0;
+            # BUILD FACETS
+            for my $link_value (
+                sort { $facets_counter->{$b} <=> $facets_counter->{$a} }
+                keys %$facets_counter
+              )
+            {
+                my $expandable;
+                my $number_of_facets;
+                my @this_facets_array;
+                for my $one_facet (
+                    sort {
+                        $facets_counter->{$link_value}
+                          ->{$b} <=> $facets_counter->{$link_value}->{$a}
+                    } keys %{ $facets_counter->{$link_value} }
+                  )
+                {
+                    $number_of_facets++;
+                    if (   ( $number_of_facets < 6 )
+                        || ( $expanded_facet eq $link_value )
+                        || ( $facets_info->{$link_value}->{'expanded'} ) )
+                    {
+
+                       # sanitize the link value ), ( will cause errors with CCL
+                        my $facet_link_value = $one_facet;
+                        $facet_link_value =~ s/(\(|\))/ /g;
+
+                        # fix the length that will display in the label
+                        my $facet_label_value = $one_facet;
+                        $facet_label_value = substr( $one_facet, 0, 20 ) . "..."
+                          unless length($facet_label_value) <= 20;
+
+                       # well, if it's a branch, label by the name, not the code
+                        if ( $link_value =~ /branch/ ) {
+                            $facet_label_value =
+                              $branches->{$one_facet}->{'branchname'};
+                        }
+
+                 # but we're down with the whole label being in the link's title
+                        my $facet_title_value = $one_facet;
+
+                        push @this_facets_array,
+                          (
+                            {
+                                facet_count =>
+                                  $facets_counter->{$link_value}->{$one_facet},
+                                facet_label_value => $facet_label_value,
+                                facet_title_value => $facet_title_value,
+                                facet_link_value  => $facet_link_value,
+                                type_link_value   => $link_value,
+                            },
+                          );
+                    }
+                }
+                unless ( $facets_info->{$link_value}->{'expanded'} ) {
+                    $expandable = 1
+                      if ( ( $number_of_facets > 6 )
+                        && ( $expanded_facet ne $link_value ) );
+                }
+                push @facets_loop,
+                  (
+                    {
+                        type_link_value => $link_value,
+                        type_id         => $link_value . "_id",
+                        type_label      =>
+                          $facets_info->{$link_value}->{'label_value'},
+                        facets     => \@this_facets_array,
+                        expandable => $expandable,
+                        expand     => $link_value,
+                    }
+                  );
+            }
+        }
+    }
+    return ( undef, $results_hashref, \@facets_loop );
+}
 
-=cut
-#'
-sub ItemInfo {
-       my ($dbh,$data) = @_;
-       my $i=0;
-       my @results;
-my ($date_due, $count_reserves);
-               my $datedue = '';
-               my $isth=$dbh->prepare("Select issues.*,borrowers.cardnumber from issues,borrowers where itemnumber = ? and returndate is null and issues.borrowernumber=borrowers.borrowernumber");
-               $isth->execute($data->{'itemnumber'});
-               if (my $idata=$isth->fetchrow_hashref){
-               $data->{borrowernumber} = $idata->{borrowernumber};
-               $data->{cardnumber} = $idata->{cardnumber};
-               $datedue = format_date($idata->{'date_due'});
-               }
-               if ($datedue eq '' || $datedue eq "0000-00-00"){
-               $datedue="";
-                       my ($restype,$reserves)=C4::Reserves2::CheckReserves($data->{'itemnumber'});
-                       if ($restype) {
-                               $count_reserves = $restype;
+# STOPWORDS
+sub _remove_stopwords {
+    my ($operand,$index) = @_;
+       my @stopwords_removed;
+    # phrase and exact-qualified indexes shouldn't have stopwords removed
+    if ($index!~m/phr|ext/){
+    # remove stopwords from operand : parse all stopwords & remove them (case insensitive)
+    #       we use IsAlpha unicode definition, to deal correctly with diacritics.
+    #       otherwise, a French word like "leçon" woudl be split into "le" "çon", le 
+    #       is an empty word, we'd get "çon" and wouldn't find anything...
+        foreach (keys %{C4::Context->stopwords}) {
+            next if ($_ =~/(and|or|not)/); # don't remove operators
+                       if ($operand =~ /(\P{IsAlpha}$_\P{IsAlpha}|^$_\P{IsAlpha}|\P{IsAlpha}$_$)/) {
+               $operand=~ s/\P{IsAlpha}$_\P{IsAlpha}/ /gi;
+               $operand=~ s/^$_\P{IsAlpha}/ /gi;
+               $operand=~ s/\P{IsAlpha}$_$/ /gi;
+                               push @stopwords_removed, $_;
                        }
-               }
-               $isth->finish;
-       #get branch information.....
-               my $bsth=$dbh->prepare("SELECT * FROM branches WHERE branchcode = ?");
-               $bsth->execute($data->{'holdingbranch'});
-               if (my $bdata=$bsth->fetchrow_hashref){
-                       $data->{'branchname'} = $bdata->{'branchname'};
-               }
-               my $date=substr($data->{'datelastseen'},0,8);
-               $data->{'datelastseen'}=format_date($date);
-               $data->{'datedue'}=$datedue;
-               $data->{'count_reserves'} = $count_reserves;
-       # get notforloan complete status if applicable
-               my ($tagfield,$tagsub)=MARCfind_marc_from_kohafield("notforloan","holdings");
-               my $sthnflstatus = $dbh->prepare("select authorised_value from holdings_subfield_structure where tagfield='$tagfield' and tagsubfield='$tagsub'");
-               $sthnflstatus->execute;
-               my ($authorised_valuecode) = $sthnflstatus->fetchrow;
-               if ($authorised_valuecode) {
-                       $sthnflstatus = $dbh->prepare("select lib from authorised_values where category=? and authorised_value=?");
-                       $sthnflstatus->execute($authorised_valuecode,$data->{itemnotforloan});
-                       my ($lib) = $sthnflstatus->fetchrow;
-                       $data->{notforloan} = $lib;
-               }
-
-# my shelf procedures
-               my ($tagfield,$tagsubfield)=MARCfind_marc_from_kohafield("shelf","holdings");
-               
-               my $shelfstatus = $dbh->prepare("select authorised_value from holdings_subfield_structure where tagfield='$tagfield' and tagsubfield='$tagsubfield'");
-$shelfstatus->execute;
-               $authorised_valuecode = $shelfstatus->fetchrow;
-               if ($authorised_valuecode) {
-                       $shelfstatus = $dbh->prepare("select lib from authorised_values where category=? and authorised_value=?");
-                       $shelfstatus->execute($authorised_valuecode,$data->{shelf});
-                       
-                       my ($lib) = $shelfstatus->fetchrow;
-                       $data->{shelf} = $lib;
-               }
-               
-       
+        }
+    }
+    return ($operand, \@stopwords_removed);
+}
 
-       return($data);
+# TRUNCATION
+sub _detect_truncation {
+    my ($operand,$index) = @_;
+    my (@nontruncated,@righttruncated,@lefttruncated,@rightlefttruncated,@regexpr);
+    $operand =~s/^ //g;
+    my @wordlist= split (/\s/,$operand);
+    foreach my $word (@wordlist){
+        if ($word=~s/^\*([^\*]+)\*$/$1/){
+            push @rightlefttruncated,$word;
+        } 
+        elsif($word=~s/^\*([^\*]+)$/$1/){
+            push @lefttruncated,$word;
+        } 
+        elsif ($word=~s/^([^\*]+)\*$/$1/){
+            push @righttruncated,$word;
+        } 
+        elsif (index($word,"*")<0){
+            push @nontruncated,$word;
+        }
+        else {
+            push @regexpr,$word;
+        }
+    }
+    return (\@nontruncated,\@righttruncated,\@lefttruncated,\@rightlefttruncated,\@regexpr);
 }
 
+sub _build_stemmed_operand {
+    my ($operand) = @_;
+    my $stemmed_operand;
+    # FIXME: the locale should be set based on the user's language and/or search choice
+    my $stemmer = Lingua::Stem->new( -locale => 'EN-US' );
+    # FIXME: these should be stored in the db so the librarian can modify the behavior
+    $stemmer->add_exceptions(
+            {
+                'and' => 'and',
+                'or'  => 'or',
+                'not' => 'not',
+            }
+                    
+        );
+    my @words = split( / /, $operand );
+    my $stems = $stemmer->stem(@words);
+    for my $stem (@$stems) {
+            $stemmed_operand .= "$stem";
+            $stemmed_operand .= "?" unless ( $stem =~ /(and$|or$|not$)/ ) || ( length($stem) < 3 );
+            $stemmed_operand .= " ";
+    }
+    #warn "STEMMED OPERAND: $stemmed_operand";
+    return $stemmed_operand;
+}
 
+sub _build_weighted_query {
+    # FIELD WEIGHTING - This is largely experimental stuff. What I'm committing works
+    # pretty well but will work much better when we have an actual query parser
+    my ($operand,$stemmed_operand,$index) = @_;
+    my $stemming      = C4::Context->preference("QueryStemming")     || 0;
+    my $weight_fields = C4::Context->preference("QueryWeightFields") || 0;
+    my $fuzzy_enabled = C4::Context->preference("QueryFuzzy") || 0;
+
+    my $weighted_query .= "(rk=(";     # Specifies that we're applying rank
+
+    # Keyword, or, no index specified
+    if ( ( $index eq 'kw' ) || ( !$index ) ) {
+        $weighted_query .= "Title-cover,ext,r1=\"$operand\"";       # exact title-cover
+        $weighted_query .= " or ti,ext,r2=\"$operand\"";            # exact title
+        $weighted_query .= " or ti,phr,r3=\"$operand\"";            # phrase title
+       #$weighted_query .= " or any,ext,r4=$operand";               # exact any
+       #$weighted_query .=" or kw,wrdl,r5=\"$operand\"";            # word list any
+        $weighted_query .= " or wrd,fuzzy,r8=\"$operand\"" if $fuzzy_enabled; # add fuzzy, word list
+        $weighted_query .= " or wrd,right-Truncation,r9=\"$stemmed_operand\"" if ($stemming and $stemmed_operand); # add stemming, right truncation
+       # embedded sorting: 0 a-z; 1 z-a
+       # $weighted_query .= ") or (sort1,aut=1";
+    }
+    # if the index already has more than one qualifier, just wrap the operand 
+    # in quotes and pass it back
+    elsif ($index =~ ',') {
+        $weighted_query .=" $index=\"$operand\"";
+    }
+    #TODO: build better cases based on specific search indexes
+    else {
+       $weighted_query .= " $index,ext,r1=\"$operand\"";            # exact index
+       #$weighted_query .= " or (title-sort-az=0 or $index,startswithnt,st-word,r3=$operand #)";
+       $weighted_query .= " or $index,phr,r3=\"$operand\"";         # phrase index
+       $weighted_query .= " or $index,rt,wrd,r3=\"$operand\"";      # word list index
+    }
+    $weighted_query .= "))";    # close rank specification
+    return $weighted_query;
+}
 
+# build the query itself
+sub buildQuery {
+    my ( $operators, $operands, $indexes, $limits, $sort_by ) = @_;
+
+    my @operators = @$operators if $operators;
+    my @indexes   = @$indexes   if $indexes;
+    my @operands  = @$operands  if $operands;
+    my @limits    = @$limits    if $limits;
+    my @sort_by   = @$sort_by   if $sort_by;
+
+    my $stemming      = C4::Context->preference("QueryStemming")               || 0;
+       my $auto_truncation = C4::Context->preference("QueryAutoTruncate")              || 0;
+    my $weight_fields = C4::Context->preference("QueryWeightFields")           || 0;
+    my $fuzzy_enabled = C4::Context->preference("QueryFuzzy")                          || 0;
+       my $remove_stopwords = C4::Context->preference("QueryRemoveStopwords")  || 0;
+
+    my $query = $operands[0];
+       my $simple_query = $operands[0];
+       my $query_cgi;
+       my $query_desc;
+       my $query_type;
+
+       my $limit;
+       my $limit_cgi;
+       my $limit_desc;
+
+       my $stopwords_removed;
+
+       # for handling ccl, cql, pqf queries in diagnostic mode, skip the rest of the steps
+       # DIAGNOSTIC ONLY!!
+    if ( $query =~ /^ccl=/ ) {
+        return ( undef, $', $', $', $', '', '', '', '', 'ccl' );
+    }
+    if ( $query =~ /^cql=/ ) {
+        return ( undef, $', $', $', $', '', '', '', '', 'cql' );
+    }
+    if ( $query =~ /^pqf=/ ) {
+        return ( undef, $', $', $', $', '', '', '', '', 'pqf' );
+    }
 
+       # pass nested queries directly
+    if ( $query =~ /(\(|\))/ ) {
+        return ( undef, $query, $simple_query, $query_cgi, $query, $limit, $limit_cgi, $limit_desc, $stopwords_removed, 'ccl' );
+    }
 
-=item barcodes
+# form-based queries are limited to non-nested at a specific depth, so we can easily
+# modify the incoming query operands and indexes to do stemming and field weighting
+# Once we do so, we'll end up with a value in $query, just like if we had an
+# incoming $query from the user
+    else {
+        $query = ""; # clear it out so we can populate properly with field-weighted stemmed query
+        my $previous_operand;    # a flag used to keep track if there was a previous query
+                                # if there was, we can apply the current operator
+        # for every operand
+        for ( my $i = 0 ; $i <= @operands ; $i++ ) {
+
+            # COMBINE OPERANDS, INDEXES AND OPERATORS
+            if ( $operands[$i] ) {
+
+                               # a flag to determine whether or not to add the index to the query
+                               my $indexes_set;
+                               # if the user is sophisticated enough to specify an index, turn off some defaults
+                               if ($operands[$i] =~ /(:|=)/) {
+                                       $weight_fields = 0;
+                                       $stemming = 0;
+                                       $remove_stopwords = 0;
+                               }
+                my $operand = $operands[$i];
+                my $index   = $indexes[$i];
+
+                               # some helpful index modifs
+                my $index_plus = "$index:" if $index;
+                my $index_plus_comma="$index," if $index;
+
+                # Remove Stopwords
+                               if ($remove_stopwords) {
+                ($operand, $stopwords_removed) = _remove_stopwords($operand,$index);
+                       warn "OPERAND w/out STOPWORDS: >$operand<" if $DEBUG;
+                                       warn "REMOVED STOPWORDS: @$stopwords_removed" if ($stopwords_removed && $DEBUG);
+                               }
 
-  @barcodes = &barcodes($biblioitemnumber);
+                # Detect Truncation
+                my ($nontruncated,$righttruncated,$lefttruncated,$rightlefttruncated,$regexpr);
+                my $truncated_operand;
+                ($nontruncated,$righttruncated,$lefttruncated,$rightlefttruncated,$regexpr) = _detect_truncation($operand,$index);
+                warn "TRUNCATION: NON:>@$nontruncated< RIGHT:>@$righttruncated< LEFT:>@$lefttruncated< RIGHTLEFT:>@$rightlefttruncated< REGEX:>@$regexpr<" if $DEBUG;
+
+                # Apply Truncation
+                if (scalar(@$righttruncated)+scalar(@$lefttruncated)+scalar(@$rightlefttruncated)>0){
+                                       # don't field weight or add the index to the query, we do it here
+                    $indexes_set = 1;
+                    undef $weight_fields;
+                    my $previous_truncation_operand;
+                    if (scalar(@$nontruncated)>0) {
+                        $truncated_operand.= "$index_plus @$nontruncated ";
+                        $previous_truncation_operand = 1;
+                    }
+                    if (scalar(@$righttruncated)>0){
+                        $truncated_operand .= "and " if $previous_truncation_operand;
+                        $truncated_operand .= "$index_plus_comma"."rtrn:@$righttruncated ";
+                        $previous_truncation_operand = 1;
+                    }
+                    if (scalar(@$lefttruncated)>0){
+                        $truncated_operand .= "and " if $previous_truncation_operand;
+                        $truncated_operand .= "$index_plus_comma"."ltrn:@$lefttruncated ";
+                        $previous_truncation_operand = 1;
+                    }
+                    if (scalar(@$rightlefttruncated)>0){
+                        $truncated_operand .= "and " if $previous_truncation_operand;
+                        $truncated_operand .= "$index_plus_comma"."rltrn:@$rightlefttruncated ";
+                        $previous_truncation_operand = 1;
+                    }
+                }
+                $operand = $truncated_operand if $truncated_operand;
+                warn "TRUNCATED OPERAND: >$truncated_operand<" if $DEBUG;
+
+                # Handle Stemming
+                my $stemmed_operand;
+                $stemmed_operand = _build_stemmed_operand($operand) if $stemming;
+                warn "STEMMED OPERAND: >$stemmed_operand<" if $DEBUG;
+
+                # Handle Field Weighting
+                my $weighted_operand;
+                $weighted_operand = _build_weighted_query($operand,$stemmed_operand,$index) if $weight_fields;
+                warn "FIELD WEIGHTED OPERAND: >$weighted_operand<" if $DEBUG;
+                $operand = $weighted_operand if $weight_fields;
+                $indexes_set = 1 if $weight_fields;
+
+                # If there's a previous operand, we need to add an operator
+                if ($previous_operand) {
+
+                    # user-specified operator
+                    if ( $operators[$i-1] ) {
+                        $query .= " $operators[$i-1] ";
+                        $query .= " $index_plus " unless $indexes_set;
+                        $query .= " $operand";
+                                               $query_cgi .="&op=$operators[$i-1]";
+                                               $query_cgi .="&idx=$index" if $index;
+                                               $query_cgi .="&q=$operands[$i]" if $operands[$i];
+                                               $query_desc .=" $operators[$i-1] $index_plus $operands[$i]";
+                    }
+
+                    # the default operator is and
+                    else {
+                        $query .= " and ";
+                        $query .= "$index_plus " unless $indexes_set;
+                        $query .= "$operand";
+                                               $query_cgi .="&op=and&idx=$index" if $index;
+                                               $query_cgi .="&q=$operands[$i]" if $operands[$i];
+                        $query_desc .= " and $index_plus $operands[$i]";
+                    }
+                }
+
+                               # there isn't a pervious operand, don't need an operator
+                else { 
+                                       # field-weighted queries already have indexes set
+                                       $query .=" $index_plus " unless $indexes_set;
+                                       $query .= $operand;
+                                       $query_desc .= " $index_plus $operands[$i]";
+                                       $query_cgi.="&idx=$index" if $index;
+                                       $query_cgi.="&q=$operands[$i]" if $operands[$i];
+
+                    $previous_operand = 1;
+                }
+            }    #/if $operands
+        }    # /for
+    }
+    warn "QUERY BEFORE LIMITS: >$query<" if $DEBUG;
+
+    # add limits
+       my $group_OR_limits;
+    foreach my $this_limit (@limits) {
+        if ( $this_limit =~ /available/ ) {
+                       # FIXME: switch to zebra search for null values
+            $limit .= " (($query and datedue=0000-00-00) or ($query and datedue=0000-00-00 not lost=1) or ($query and datedue=0000-00-00 not lost=2))";
+                       $limit_cgi .= "&limit=available";
+                       $limit_desc .="";
+        }
+
+               # these are treated as OR
+        elsif ( $this_limit =~ /mc/ ) {
+            $group_OR_limits .= " or " if $group_OR_limits;
+                       $limit_desc .=" or " if $group_OR_limits;
+                       $group_OR_limits .= "$this_limit";
+                       $limit_cgi .="&limit=$this_limit";
+                       $limit_desc .= "$this_limit";
+        }
+
+               # regular old limits
+               else {
+                       $limit .= " and " if $limit || $query;
+                       $limit .= "$this_limit";
+                       $limit_cgi .="&limit=$this_limit";
+                       $limit_desc .=" and $this_limit";
+               }
+    }
+       if ($group_OR_limits) {
+               $limit.=" and " if ($query || $limit );
+               $limit.="($group_OR_limits)";
+       }
+       # normalize the strings
+       for ($query, $query_desc, $limit, $limit_desc) {
+               $_ =~ s/  / /g;    # remove extra spaces
+       $_ =~ s/^ //g;     # remove any beginning spaces
+               $_ =~ s/ $//g;     # remove any ending spaces
+       $_ =~ s/:/=/g;     # causes probs for server
+       $_ =~ s/==/=/g;    # remove double == from query
 
-Given a biblioitemnumber, looks up the corresponding items.
+       }
+               
+       $query_cgi =~ s/^&//;
 
-Returns an array of references-to-hash; the keys are C<barcode> and
-C<itemlost>.
+       # append the limit to the query
+       $query .= $limit;
 
-The returned items include very overdue items, but not lost ones.
+    warn "QUERY:".$query if $DEBUG;
+       warn "QUERY CGI:".$query_cgi if $DEBUG;
+    warn "QUERY DESC:".$query_desc if $DEBUG;
+    warn "LIMIT:".$limit if $DEBUG;
+    warn "LIMIT CGI:".$limit_cgi if $DEBUG;
+    warn "LIMIT DESC:".$limit_desc if $DEBUG;
 
-=cut
-#'
-sub barcodes{
-    #called from request.pl 
-    my ($biblionumber)=@_;
-#warn $biblionumber;
-    my $dbh = C4::Context->dbh;
-       my @kohafields;
-       my @values;
-       my @relations;
-       my $sort;
-       my @and_or;
-       my @fields;
-       push @kohafields, "biblionumber";
-       push @values,$biblionumber;
-       push @relations, " "," \@attr 2=1"; ## selecting wthdrawn less then 1
-       push @and_or, "\@and";
-               $sort="";
-       my ($count,@results)=ZEBRAsearch_kohafields(\@kohafields,\@values,\@relations,$sort,\@and_or,"","");
-push  @fields,"barcode","itemlost","itemnumber","date_due","wthdrawn","notforloan";
-       my ($biblio,@items)=XMLmarc2koha($dbh,$results[0],"holdings", @fields); 
-return(@items);
+       return ( undef, $query,$simple_query,$query_cgi,$query_desc,$limit,$limit_cgi,$limit_desc,$stopwords_removed,$query_type );
 }
 
+# IMO this subroutine is pretty messy still -- it's responsible for
+# building the HTML output for the template
+sub searchResults {
+    my ( $searchdesc, $hits, $results_per_page, $offset, @marcresults ) = @_;
 
+    my $dbh = C4::Context->dbh;
+    my $toggle;
+    my $even = 1;
+    my @newresults;
+    my $span_terms_hashref;
+    for my $span_term ( split( / /, $searchdesc ) ) {
+        $span_term =~ s/(.*=|\)|\(|\+|\.)//g;
+        $span_terms_hashref->{$span_term}++;
+    }
 
+    #Build brancnames hash
+    #find branchname
+    #get branch information.....
+    my %branches;
+    my $bsth =
+      $dbh->prepare("SELECT branchcode,branchname FROM branches")
+      ;    # FIXME : use C4::Koha::GetBranches
+    $bsth->execute();
+    while ( my $bdata = $bsth->fetchrow_hashref ) {
+        $branches{ $bdata->{'branchcode'} } = $bdata->{'branchname'};
+    }
 
+    #Build itemtype hash
+    #find itemtype & itemtype image
+    my %itemtypes;
+    $bsth =
+      $dbh->prepare("SELECT itemtype,description,imageurl,summary,notforloan FROM itemtypes");
+    $bsth->execute();
+    while ( my $bdata = $bsth->fetchrow_hashref ) {
+        $itemtypes{ $bdata->{'itemtype'} }->{description} =
+          $bdata->{'description'};
+        $itemtypes{ $bdata->{'itemtype'} }->{imageurl} = $bdata->{'imageurl'};
+        $itemtypes{ $bdata->{'itemtype'} }->{summary} = $bdata->{'summary'};
+        $itemtypes{ $bdata->{'itemtype'} }->{notforloan} = $bdata->{'notforloan'};
+    }
 
-sub getMARCnotes {
-##Requires a MARCXML as $record
-        my ($dbh, $record, $marcflavour) = @_;
-
-       my ($mintag, $maxtag);
-       if ($marcflavour eq "MARC21") {
-               $mintag = "500";
-               $maxtag = "599";
-       } else {           # assume unimarc if not marc21
-               $mintag = "300";
-               $maxtag = "399";
-       }
-       my @marcnotes;
-       foreach my $field ($mintag..$maxtag) {
-       my @value=XML_readline_asarray($record,"","",$field,"");
-       push @marcnotes, \@value;       
-       }
-
-
-
-       my $marcnotesarray=\@marcnotes;
-       return $marcnotesarray;
-}  # end getMARCnotes
-
-
-sub getMARCsubjects {
+    #search item field code
+    my $sth =
+      $dbh->prepare(
+"select tagfield from marc_subfield_structure where kohafield like 'items.itemnumber'"
+      );
+    $sth->execute;
+    my ($itemtag) = $sth->fetchrow;
+
+    ## find column names of items related to MARC
+    my $sth2 = $dbh->prepare("SHOW COLUMNS from items");
+    $sth2->execute;
+    my %subfieldstosearch;
+    while ( ( my $column ) = $sth2->fetchrow ) {
+        my ( $tagfield, $tagsubfield ) =
+          &GetMarcFromKohaField( "items." . $column, "" );
+        $subfieldstosearch{$column} = $tagsubfield;
+    }
+    my $times;
 
-    my ($dbh, $record, $marcflavour) = @_;
-       my ($mintag, $maxtag);
-       if ($marcflavour eq "MARC21") {
-               $mintag = "600";
-               $maxtag = "699";
-       } else {           # assume unimarc if not marc21
-               $mintag = "600";
-               $maxtag = "619";
-       }
-       my @marcsubjcts;
-       my $subjct = "";
-       my $subfield = "";
-       my $marcsubjct;
-
-       foreach my $field ($mintag..$maxtag) {
-               my @value =XML_readline_asarray($record,"","",$field,"a");
-                       foreach my $subject (@value){
-                       $marcsubjct = {MARCSUBJCT => $subject,};
-                       push @marcsubjcts, $marcsubjct;
-                       }
-               
-       }
-       my $marcsubjctsarray=\@marcsubjcts;
-        return $marcsubjctsarray;
-}  #end getMARCsubjects
-
-
-sub getMARCurls {
-### This code is wrong only works with MARC21
-    my ($dbh, $record, $marcflavour) = @_;
-       my ($mintag, $maxtag);
-       if ($marcflavour eq "MARC21") {
-               $mintag = "856";
-               $maxtag = "856";
-       } else {           # assume unimarc if not marc21
-               $mintag = "600";
-               $maxtag = "619";
-       }
+    if ( $hits && $offset + $results_per_page <= $hits ) {
+        $times = $offset + $results_per_page;
+    }
+    else {
+        $times = $hits;
+    }
 
-       my @marcurls;
-       my $url = "";
-       my $subfil = "";
-       my $marcurl;
-       my $value;
-       foreach my $field ($mintag..$maxtag) {
-               my @value =XML_readline_asarray($record,"","",$field,"a");
-                       foreach my $url (@value){
-                               if ( $value ne $url) {
-                                $marcurl = {MARCURL => $url,};
-                               push @marcurls, $marcurl;
-                                $value=$url;
-                               }
-                       }
-       }
+    for ( my $i = $offset ; $i <= $times - 1 ; $i++ ) {
+        my $marcrecord;
+        $marcrecord = MARC::File::USMARC::decode( $marcresults[$i] );
+        my $oldbiblio = TransformMarcToKoha( $dbh, $marcrecord, '' );
+        # add image url if there is one
+        if ( $itemtypes{ $oldbiblio->{itemtype} }->{imageurl} =~ /^http:/ ) {
+            $oldbiblio->{imageurl} =
+              $itemtypes{ $oldbiblio->{itemtype} }->{imageurl};
+            $oldbiblio->{description} =
+              $itemtypes{ $oldbiblio->{itemtype} }->{description};
+        }
+        else {
+            $oldbiblio->{imageurl} =
+              getitemtypeimagesrc() . "/"
+              . $itemtypes{ $oldbiblio->{itemtype} }->{imageurl}
+              if ( $itemtypes{ $oldbiblio->{itemtype} }->{imageurl} );
+            $oldbiblio->{description} =
+              $itemtypes{ $oldbiblio->{itemtype} }->{description};
+        }
+        #
+        # build summary if there is one (the summary is defined in itemtypes table
+        #
+        if ($itemtypes{ $oldbiblio->{itemtype} }->{summary}) {
+            my $summary = $itemtypes{ $oldbiblio->{itemtype} }->{summary};
+            my @fields = $marcrecord->fields();
+            foreach my $field (@fields) {
+                my $tag = $field->tag();
+                my $tagvalue = $field->as_string();
+                $summary =~ s/\[(.?.?.?.?)$tag\*(.*?)]/$1$tagvalue$2\[$1$tag$2]/g;
+                unless ($tag<10) {
+                    my @subf = $field->subfields;
+                    for my $i (0..$#subf) {
+                        my $subfieldcode = $subf[$i][0];
+                        my $subfieldvalue = $subf[$i][1];
+                        my $tagsubf = $tag.$subfieldcode;
+                        $summary =~ s/\[(.?.?.?.?)$tagsubf(.*?)]/$1$subfieldvalue$2\[$1$tagsubf$2]/g;
+                    }
+                }
+            }
+            $summary =~ s/\[(.*?)]//g;
+            $summary =~ s/\n/<br>/g;
+            $oldbiblio->{summary} = $summary;
+        }
+        # add spans to search term in results for search term highlighting
+        foreach my $term ( keys %$span_terms_hashref ) {
+            my $old_term = $term;
+            if ( length($term) > 3 ) {
+                $term =~ s/(.*=|\)|\(|\+|\.|\?|\[|\])//g;
+                $term =~ s/\\//g;
+                $term =~ s/\*//g;
+
+                #FIXME: is there a better way to do this?
+                $oldbiblio->{'title'} =~ s/$term/<span class=\"term\">$&<\/span>/gi;
+                $oldbiblio->{'subtitle'} =~
+                  s/$term/<span class=\"term\">$&<\/span>/gi;
+
+                $oldbiblio->{'author'} =~ s/$term/<span class=\"term\">$&<\/span>/gi;
+                $oldbiblio->{'publishercode'} =~ s/$term/<span class=\"term\">$&<\/span>/gi;
+                $oldbiblio->{'place'} =~ s/$term/<span class=\"term\">$&<\/span>/gi;
+                $oldbiblio->{'pages'} =~ s/$term/<span class=\"term\">$&<\/span>/gi;
+                $oldbiblio->{'notes'} =~ s/$term/<span class=\"term\">$&<\/span>/gi;
+                $oldbiblio->{'size'}  =~ s/$term/<span class=\"term\">$&<\/span>/gi;
+            }
+        }
+
+        if ( $i % 2 ) {
+            $toggle = "#ffffcc";
+        }
+        else {
+            $toggle = "white";
+        }
+        $oldbiblio->{'toggle'} = $toggle;
+        my @fields = $marcrecord->field($itemtag);
+        my @items_loop;
+        my $items;
+        my $ordered_count     = 0;
+        my $onloan_count      = 0;
+        my $wthdrawn_count    = 0;
+        my $itemlost_count    = 0;
+        my $norequests        = 1;
+
+        #
+        # check the loan status of the item : 
+        # it is not stored in the MARC record, for pref (zebra reindexing)
+        # reason. Thus, we have to get the status from a specific SQL query
+        #
+        my $sth_issue = $dbh->prepare("
+            SELECT date_due,returndate 
+            FROM issues 
+            WHERE itemnumber=? AND returndate IS NULL");
+        my $items_count=scalar(@fields);
+        foreach my $field (@fields) {
+            my $item;
+            foreach my $code ( keys %subfieldstosearch ) {
+                $item->{$code} = $field->subfield( $subfieldstosearch{$code} );
+            }
+            $sth_issue->execute($item->{itemnumber});
+            $item->{due_date} = format_date($sth_issue->fetchrow);
+            $item->{onloan} = 1 if $item->{due_date};
+            # at least one item can be reserved : suppose no
+            $norequests = 1;
+            if ( $item->{wthdrawn} ) {
+                $wthdrawn_count++;
+                $items->{ $item->{'homebranch'}.'--'.$item->{'itemcallnumber'} }->{unavailable}=1;
+                $items->{ $item->{'homebranch'}.'--'.$item->{'itemcallnumber'} }->{wthdrawn}=1;
+            }
+            elsif ( $item->{itemlost} ) {
+                $itemlost_count++;
+                $items->{ $item->{'homebranch'}.'--'.$item->{'itemcallnumber'} }->{unavailable}=1;
+                $items->{ $item->{'homebranch'}.'--'.$item->{'itemcallnumber'} }->{itemlost}=1;
+            }
+            unless ( $item->{notforloan}) {
+                # OK, this one can be issued, so at least one can be reserved
+                $norequests = 0;
+            }
+            if ( ( $item->{onloan} ) && ( $item->{onloan} != '0000-00-00' ) )
+            {
+                $items->{ $item->{'homebranch'}.'--'.$item->{'itemcallnumber'} }->{unavailable}=1;
+                $items->{ $item->{'homebranch'}.'--'.$item->{'itemcallnumber'} }->{onloancount} = 1;
+                $items->{ $item->{'homebranch'}.'--'.$item->{'itemcallnumber'} }->{due_date} = $item->{due_date};
+                $onloan_count++;
+            }
+            if ( $item->{'homebranch'} ) {
+                $items->{ $item->{'homebranch'}.'--'.$item->{'itemcallnumber'} }->{count}++;
+            }
+
+            # Last resort
+            elsif ( $item->{'holdingbranch'} ) {
+                $items->{ $item->{'holdingbranch'} }->{count}++;
+            }
+            $items->{ $item->{'homebranch'}.'--'.$item->{'itemcallnumber'} }->{itemcallnumber} =                $item->{itemcallnumber};
+            $items->{ $item->{'homebranch'}.'--'.$item->{'itemcallnumber'} }->{location} =                $item->{location};
+            $items->{ $item->{'homebranch'}.'--'.$item->{'itemcallnumber'} }->{branchcode} =               $item->{homebranch};
+        }    # notforloan, item level and biblioitem level
+
+        # last check for norequest : if itemtype is notforloan, it can't be reserved either, whatever the items
+        $norequests = 1 if $itemtypes{$oldbiblio->{itemtype}}->{notforloan};
+
+        for my $key ( sort keys %$items ) {
+            my $this_item = {
+                branchname     => $branches{$items->{$key}->{branchcode}},
+                branchcode     => $items->{$key}->{branchcode},
+                count          => $items->{$key}->{count},
+                itemcallnumber => $items->{$key}->{itemcallnumber},
+                location => $items->{$key}->{location},
+                onloancount      => $items->{$key}->{onloancount},
+                due_date         => $items->{$key}->{due_date},
+                wthdrawn      => $items->{$key}->{wthdrawn},
+                lost         => $items->{$key}->{itemlost},
+            };
+            push @items_loop, $this_item;
+        }
+        $oldbiblio->{norequests}    = $norequests;
+        $oldbiblio->{items_count}    = $items_count;
+        $oldbiblio->{items_loop}    = \@items_loop;
+        $oldbiblio->{onloancount}   = $onloan_count;
+        $oldbiblio->{wthdrawncount} = $wthdrawn_count;
+        $oldbiblio->{itemlostcount} = $itemlost_count;
+        $oldbiblio->{orderedcount}  = $ordered_count;
+        $oldbiblio->{isbn}          =~ s/-//g; # deleting - in isbn to enable amazon content 
+        push( @newresults, $oldbiblio );
+    }
+    return @newresults;
+}
 
 
-       my $marcurlsarray=\@marcurls;
-        return $marcurlsarray;
-}  #end getMARCurls
 
+#----------------------------------------------------------------------
+#
+# Non-Zebra GetRecords#
+#----------------------------------------------------------------------
 
+=head2 NZgetRecords
 
-sub parsefields{
-#pass this a  MARC record and it will parse it for display purposes
-my ($dbh,$intranet,@marcrecords)=@_;
-my @results;
-my @items;
-my $retrieve_from=C4::Context->preference('retrieve_from');
-#Build brancnames hash  for displaying in OPAC - more user friendly
-#find branchname
-#get branch information.....
-my %branches;
-               my $bsth=$dbh->prepare("SELECT branchcode,branchname FROM branches");
-               $bsth->execute();
-               while (my $bdata=$bsth->fetchrow_hashref){
-                       $branches{$bdata->{'branchcode'}}= $bdata->{'branchname'};
-               }
+  NZgetRecords has the same API as zera getRecords, even if some parameters are not managed
 
-#Building shelving hash if library has shelves defined like junior section, non-fiction, audio-visual room etc
-my %shelves;
-#find shelvingname
-my ($tagfield,$tagsubfield)=MARCfind_marc_from_kohafield("shelf","holdings");
-my $shelfstatus = $dbh->prepare("select authorised_value from holdings_subfield_structure where tagfield='$tagfield' and tagsubfield='$tagsubfield'");
-               $shelfstatus->execute;          
-               my ($authorised_valuecode) = $shelfstatus->fetchrow;
-               if ($authorised_valuecode) {
-                       $shelfstatus = $dbh->prepare("select lib,authorised_value from authorised_values where category=? ");
-                       $shelfstatus->execute($authorised_valuecode);                   
-                       while (my $lib = $shelfstatus->fetchrow_hashref){
-                       $shelves{$lib->{'authorised_value'}} = $lib->{'lib'};
-                       }
-               }
-my $even=1;
-foreach my $xml(@marcrecords){
-#my $xml=XML_xml2hash($xmlrecord);
-my @kohafields; ## just name those necessary for the result page
-push @kohafields, "biblionumber","title","author","publishercode","classification","itemtype","copyrightdate", "holdingbranch","date_due","location","shelf","itemcallnumber","notforloan","itemlost","wthdrawn";
-my ($oldbiblio,@itemrecords) = XMLmarc2koha($dbh,$xml,"",@kohafields);
-my $bibliorecord;
-
-my %counts;
-
-$counts{'total'}=0;
-my $noitems    = 1;
-my $norequests = 1;
-               ##Loop for each item field
-                               
-                       foreach my $item (@itemrecords) {
-                               $norequests = 0 unless $item->{'itemnotforloan'};
-                               $noitems = 0;
-                               my $status;
-                               #renaming some fields according to templates
-                               $item->{'branchname'}=$branches{$item->{'holdingbranch'}};
-                               $item->{'shelves'}=$shelves{$item->{'shelf'}};
-                               $status="Lost" if ($item->{'itemlost'}>0);
-                               $status="Withdrawn" if ($item->{'wthdrawn'}>0);
-                               if ($intranet eq "intranet"){ ## we give full itemcallnumber detail in intranet
-                               $status="Due:".format_date($item->{'date_due'}) if ($item->{'date_due'} gt "0000-00-00");
-                               $status = $item->{'holdingbranch'}."-".$item->{'shelf'}."[".$item->{'itemcallnumber'}."]" unless defined $status;
-                               }else{
-                               $status="On Loan" if ($item->{'date_due'} gt "0000-00-00");
-                                 $status = $item->{'branchname'}."[".$item->{'shelves'}."]" unless defined $status;
-                               }
-                               
-                               $counts{$status}++;
-                               $counts{'total'}++;
-                       }       
-               $oldbiblio->{'noitems'} = $noitems;
-               $oldbiblio->{'norequests'} = $norequests;
-               $oldbiblio->{'even'} = $even;
-               $even= not $even;
-                       if ($even){
-                       $oldbiblio->{'toggle'}="#ffffcc";
-                       } else {
-                       $oldbiblio->{'toggle'}="white";
-                       } ; ## some forms seems to use toggle
-                       
-               $oldbiblio->{'itemcount'} = $counts{'total'};
-               my $totalitemcounts = 0;
-               foreach my $key (keys %counts){
-                       if ($key ne 'total'){   
-                               $totalitemcounts+= $counts{$key};
-                               $oldbiblio->{'locationhash'}->{$key}=$counts{$key};
-                               
-                       }
-               }
-               my ($locationtext, $locationtextonly, $notavailabletext) = ('','','');
-               foreach (sort keys %{$oldbiblio->{'locationhash'}}) {
-
-                       if ($_ eq 'notavailable') {
-                               $notavailabletext="Not available";
-                               my $c=$oldbiblio->{'locationhash'}->{$_};
-                               $oldbiblio->{'not-available-p'}=$c;
-                       } else {
-                               $locationtext.="$_";
-                               my $c=$oldbiblio->{'locationhash'}->{$_};
-                               if ($_ eq 'Lost') {
-                                       $oldbiblio->{'lost-p'} = $c;
-                               } elsif ($_ eq 'Withdrawn') {
-                                       $oldbiblio->{'withdrawn-p'} = $c;
-                               } elsif ($_  =~/\^Due:/) {
-
-                                       $oldbiblio->{'on-loan-p'} = $c;
-                               } else {
-                                       $locationtextonly.= $_;
-                                       $locationtextonly.= " ($c)<br> " if $totalitemcounts > 1;
-                               }
-                               if ($totalitemcounts>1) {
-                                       $locationtext.=" ($c)<br> ";
-                               }
-                       }
-               }
-               if ($notavailabletext) {
-                       $locationtext.= $notavailabletext;
-               } else {
-                       $locationtext=~s/, $//;
-               }
-               $oldbiblio->{'location'} = $locationtext;
-               $oldbiblio->{'location-only'} = $locationtextonly;
-               $oldbiblio->{'use-location-flags-p'} = 1;
-       push @results,$oldbiblio;
-   
-}## For each record received
-       return(@results);
+=cut
+sub NZgetRecords {
+    my ($query,$simple_query,$sort_by_ref,$servers_ref,$results_per_page,$offset,$expanded_facet,$branches,$query_type,$scan) = @_;
+    my $result = NZanalyse($query);
+    return (undef,NZorder($result,@$sort_by_ref[0],$results_per_page,$offset),undef);
 }
 
-sub getcoverPhoto {
-## return the address of a cover image if defined otherwise the amazon cover images
-       my $record =shift  ;
+=head2 NZanalyse
 
-       my $image=XML_readline_onerecord($record,"coverphoto","biblios");
-       if ($image){
-       return $image;
-       }
-# if there is no image put the amazon cover image adress
+  NZanalyse : get a CQL string as parameter, and returns a list of biblionumber;title,biblionumber;title,...
+  the list is built from an inverted index in the nozebra SQL table
+  note that title is here only for convenience : the sorting will be very fast when requested on title
+  if the sorting is requested on something else, we will have to reread all results, and that may be longer.
 
-my $isbn=XML_readline_onerecord($record,"isbn","biblios");
-return "http://images.amazon.com/images/P/".$isbn.".01.MZZZZZZZ.jpg";  
-}
+=cut
 
-=item itemcount
+sub NZanalyse {
+    my ($string,$server) = @_;
+    # $server contains biblioserver or authorities, depending on what we search on.
+    #warn "querying : $string on $server";
+    $server='biblioserver' unless $server;
+
+    # if we have a ", replace the content to discard temporarily any and/or/not inside
+    my $commacontent;
+    if ($string =~/"/) {
+        $string =~ s/"(.*?)"/__X__/;
+        $commacontent = $1;
+               warn "commacontent : $commacontent" if $DEBUG;
+    }
+    # split the query string in 3 parts : X AND Y means : $left="X", $operand="AND" and $right="Y"
+    # then, call again NZanalyse with $left and $right
+    # (recursive until we find a leaf (=> something without and/or/not)
+    $string =~ /(.*)( and | or | not | AND | OR | NOT )(.*)/;
+    my $left = $1;
+    my $right = $3;
+    my $operand = lc($2); # FIXME: and/or/not are operators, not operands
+    # it's not a leaf, we have a and/or/not
+    if ($operand) {
+        # reintroduce comma content if needed
+        $right =~ s/__X__/"$commacontent"/ if $commacontent;
+        $left =~ s/__X__/"$commacontent"/ if $commacontent;
+        warn "node : $left / $operand / $right\n" if $DEBUG;
+        my $leftresult = NZanalyse($left,$server);
+        my $rightresult = NZanalyse($right,$server);
+        # OK, we have the results for right and left part of the query
+        # depending of operand, intersect, union or exclude both lists
+        # to get a result list
+        if ($operand eq ' and ') {
+            my @leftresult = split /;/, $leftresult;
+#             my @rightresult = split /;/,$leftresult;
+            my $finalresult;
+            # parse the left results, and if the biblionumber exist in the right result, save it in finalresult
+            # the result is stored twice, to have the same weight for AND than OR.
+            # example : TWO : 61,61,64,121 (two is twice in the biblio #61) / TOWER : 61,64,130
+            # result : 61,61,61,61,64,64 for two AND tower : 61 has more weight than 64
+            foreach (@leftresult) {
+                if ($rightresult =~ "$_;") {
+                    $finalresult .= "$_;$_;";
+                }
+            }
+            return $finalresult;
+        } elsif ($operand eq ' or ') {
+            # just merge the 2 strings
+            return $leftresult.$rightresult;
+        } elsif ($operand eq ' not ') {
+            my @leftresult = split /;/, $leftresult;
+#             my @rightresult = split /;/,$leftresult;
+            my $finalresult;
+            foreach (@leftresult) {
+                unless ($rightresult =~ "$_;") {
+                    $finalresult .= "$_;";
+                }
+            }
+            return $finalresult;
+        } else {
+            # this error is impossible, because of the regexp that isolate the operand, but just in case...
+            die "error : operand unknown : $operand for $string";
+        }
+    # it's a leaf, do the real SQL query and return the result
+    } else {
+        $string =~  s/__X__/"$commacontent"/ if $commacontent;
+        $string =~ s/-|\.|\?|,|;|!|'|\(|\)|\[|\]|{|}|"|&|\+|\*|\// /g;
+         warn "leaf : $string\n" if $DEBUG;
+        # parse the string in in operator/operand/value again
+        $string =~ /(.*)(>=|<=)(.*)/;
+        my $left = $1;
+        my $operator = $2;
+        my $right = $3;
+        unless ($operator) {
+            $string =~ /(.*)(>|<|=)(.*)/;
+            $left = $1;
+            $operator = $2;
+            $right = $3;
+        }
+        my $results;
+        # automatic replace for short operators
+        $left='title' if $left =~ '^ti';
+        $left='author' if $left =~ '^au';
+        $left='publisher' if $left =~ '^pb';
+        $left='subject' if $left =~ '^su';
+        $left='koha-Auth-Number' if $left =~ '^an';
+        $left='keyword' if $left =~ '^kw';
+        if ($operator) {
+            #do a specific search
+            my $dbh = C4::Context->dbh;
+            $operator='LIKE' if $operator eq '=' and $right=~ /%/;
+            my $sth = $dbh->prepare("SELECT biblionumbers,value FROM nozebra WHERE server=? AND indexname=? AND value $operator ?");
+            warn "$left / $operator / $right\n";
+            # split each word, query the DB and build the biblionumbers result
+            foreach (split / /,$right) {
+                my ($biblionumbers,$value);
+                next unless $_;
+                warn "EXECUTE : $server, $left, $_";
+                $sth->execute($server, $left, $_) or warn "execute failed: $!";
+                while (my ($line,$value) = $sth->fetchrow) {
+                    # if we are dealing with a numeric value, use only numeric results (in case of >=, <=, > or <)
+                    # otherwise, fill the result
+                    $biblionumbers .= $line unless ($right =~ /\d/ && $value =~ /\D/);
+                    warn "result : $value ". ($right =~ /\d/) . "==".(!$value =~ /\d/) ;#= $line";
+                }
+                # do a AND with existing list if there is one, otherwise, use the biblionumbers list as 1st result list
+                if ($results) {
+                    my @leftresult = split /;/, $biblionumbers;
+                    my $temp;
+                    foreach my $entry (@leftresult) { # $_ contains biblionumber,title-weight
+                        # remove weight at the end
+                        my $cleaned = $entry;
+                        $cleaned =~ s/-\d*$//;
+                        # if the entry already in the hash, take it & increase weight
+                         warn "===== $cleaned =====" if $DEBUG;
+                        if ($results =~ "$cleaned") {
+                            $temp .= "$entry;$entry;";
+                             warn "INCLUDING $entry" if $DEBUG;
+                        }
+                    }
+                    $results = $temp;
+                } else {
+                    $results = $biblionumbers;
+                }
+            }
+        } else {
+            #do a complete search (all indexes)
+            my $dbh = C4::Context->dbh;
+            my $sth = $dbh->prepare("SELECT biblionumbers FROM nozebra WHERE server=? AND value LIKE ?");
+            # split each word, query the DB and build the biblionumbers result
+            foreach (split / /,$string) {
+                next if C4::Context->stopwords->{uc($_)}; # skip if stopword
+                warn "search on all indexes on $_" if $DEBUG;
+                my $biblionumbers;
+                next unless $_;
+                $sth->execute($server, $_);
+                while (my $line = $sth->fetchrow) {
+                    $biblionumbers .= $line;
+                }
+                # do a AND with existing list if there is one, otherwise, use the biblionumbers list as 1st result list
+                if ($results) {
+                 warn "RES for $_ = $biblionumbers" if $DEBUG;
+                    my @leftresult = split /;/, $biblionumbers;
+                    my $temp;
+                    foreach my $entry (@leftresult) { # $_ contains biblionumber,title-weight
+                        # remove weight at the end
+                        my $cleaned = $entry;
+                        $cleaned =~ s/-\d*$//;
+                        # if the entry already in the hash, take it & increase weight
+                         warn "===== $cleaned =====" if $DEBUG;
+                        if ($results =~ "$cleaned") {
+                            $temp .= "$entry;$entry;";
+                             warn "INCLUDING $entry" if $DEBUG;
+                        }
+                    }
+                    $results = $temp;
+                } else {
+                 warn "NEW RES for $_ = $biblionumbers" if $DEBUG;
+                    $results = $biblionumbers;
+                }
+            }
+        }
+         warn "return : $results for LEAF : $string" if $DEBUG;
+        return $results;
+    }
+}
 
-  ($count, $lcount, $nacount, $fcount, $scount, $lostcount,
-  $mending, $transit,$ocount) =
-    &itemcount($env, $biblionumber, $type);
+=head2 NZorder
 
-Counts the number of items with the given biblionumber, broken down by
-category.
+  $finalresult = NZorder($biblionumbers, $ordering,$results_per_page,$offset);
+  
+  TODO :: Description
 
-C<$env> is ignored.
+=cut
 
-If C<$type> is not set to C<intra>, lost, very overdue, and withdrawn
-items will not be counted.
 
-C<&itemcount> returns a nine-element list:
+sub NZorder {
+    my ($biblionumbers, $ordering,$results_per_page,$offset) = @_;
+    # order title asc by default
+#     $ordering = '1=36 <i' unless $ordering;
+    $results_per_page=20 unless $results_per_page;
+    $offset = 0 unless $offset;
+    my $dbh = C4::Context->dbh;
+    #
+    # order by POPULARITY
+    #
+    if ($ordering =~ /popularity/) {
+        my %result;
+        my %popularity;
+        # popularity is not in MARC record, it's builded from a specific query
+        my $sth = $dbh->prepare("select sum(issues) from items where biblionumber=?");
+        foreach (split /;/,$biblionumbers) {
+            my ($biblionumber,$title) = split /,/,$_;
+            $result{$biblionumber}=GetMarcBiblio($biblionumber);
+            $sth->execute($biblionumber);
+            my $popularity= $sth->fetchrow ||0;
+            # hint : the key is popularity.title because we can have
+            # many results with the same popularity. In this cas, sub-ordering is done by title
+            # we also have biblionumber to avoid bug for 2 biblios with the same title & popularity
+            # (un-frequent, I agree, but we won't forget anything that way ;-)
+            $popularity{sprintf("%10d",$popularity).$title.$biblionumber} = $biblionumber;
+        }
+        # sort the hash and return the same structure as GetRecords (Zebra querying)
+        my $result_hash;
+        my $numbers=0;
+        if ($ordering eq 'popularity_dsc') { # sort popularity DESC
+            foreach my $key (sort {$b cmp $a} (keys %popularity)) {
+                $result_hash->{'RECORDS'}[$numbers++] = $result{$popularity{$key}}->as_usmarc();
+            }
+        } else { # sort popularity ASC
+            foreach my $key (sort (keys %popularity)) {
+                $result_hash->{'RECORDS'}[$numbers++] = $result{$popularity{$key}}->as_usmarc();
+            }
+        }
+        my $finalresult=();
+        $result_hash->{'hits'} = $numbers;
+        $finalresult->{'biblioserver'} = $result_hash;
+        return $finalresult;
+    #
+    # ORDER BY author
+    #
+    } elsif ($ordering =~/author/){
+        my %result;
+        foreach (split /;/,$biblionumbers) {
+            my ($biblionumber,$title) = split /,/,$_;
+            my $record=GetMarcBiblio($biblionumber);
+            my $author;
+            if (C4::Context->preference('marcflavour') eq 'UNIMARC') {
+                $author=$record->subfield('200','f');
+                $author=$record->subfield('700','a') unless $author;
+            } else {
+                $author=$record->subfield('100','a');
+            }
+            # hint : the result is sorted by title.biblionumber because we can have X biblios with the same title
+            # and we don't want to get only 1 result for each of them !!!
+            $result{$author.$biblionumber}=$record;
+        }
+        # sort the hash and return the same structure as GetRecords (Zebra querying)
+        my $result_hash;
+        my $numbers=0;
+        if ($ordering eq 'author_za') { # sort by author desc
+            foreach my $key (sort { $b cmp $a } (keys %result)) {
+                $result_hash->{'RECORDS'}[$numbers++] = $result{$key}->as_usmarc();
+            }
+        } else { # sort by author ASC
+            foreach my $key (sort (keys %result)) {
+                $result_hash->{'RECORDS'}[$numbers++] = $result{$key}->as_usmarc();
+            }
+        }
+        my $finalresult=();
+        $result_hash->{'hits'} = $numbers;
+        $finalresult->{'biblioserver'} = $result_hash;
+        return $finalresult;
+    #
+    # ORDER BY callnumber
+    #
+    } elsif ($ordering =~/callnumber/){
+        my %result;
+        foreach (split /;/,$biblionumbers) {
+            my ($biblionumber,$title) = split /,/,$_;
+            my $record=GetMarcBiblio($biblionumber);
+            my $callnumber;
+            my ($callnumber_tag,$callnumber_subfield)=GetMarcFromKohaField($dbh,'items.itemcallnumber');
+            ($callnumber_tag,$callnumber_subfield)= GetMarcFromKohaField('biblioitems.callnumber') unless $callnumber_tag;
+            if (C4::Context->preference('marcflavour') eq 'UNIMARC') {
+                $callnumber=$record->subfield('200','f');
+            } else {
+                $callnumber=$record->subfield('100','a');
+            }
+            # hint : the result is sorted by title.biblionumber because we can have X biblios with the same title
+            # and we don't want to get only 1 result for each of them !!!
+            $result{$callnumber.$biblionumber}=$record;
+        }
+        # sort the hash and return the same structure as GetRecords (Zebra querying)
+        my $result_hash;
+        my $numbers=0;
+        if ($ordering eq 'call_number_dsc') { # sort by title desc
+            foreach my $key (sort { $b cmp $a } (keys %result)) {
+                $result_hash->{'RECORDS'}[$numbers++] = $result{$key}->as_usmarc();
+            }
+        } else { # sort by title ASC
+            foreach my $key (sort { $a cmp $b } (keys %result)) {
+                $result_hash->{'RECORDS'}[$numbers++] = $result{$key}->as_usmarc();
+            }
+        }
+        my $finalresult=();
+        $result_hash->{'hits'} = $numbers;
+        $finalresult->{'biblioserver'} = $result_hash;
+        return $finalresult;
+    } elsif ($ordering =~ /pubdate/){ #pub year
+        my %result;
+        foreach (split /;/,$biblionumbers) {
+            my ($biblionumber,$title) = split /,/,$_;
+            my $record=GetMarcBiblio($biblionumber);
+            my ($publicationyear_tag,$publicationyear_subfield)=GetMarcFromKohaField('biblioitems.publicationyear','');
+            my $publicationyear=$record->subfield($publicationyear_tag,$publicationyear_subfield);
+            # hint : the result is sorted by title.biblionumber because we can have X biblios with the same title
+            # and we don't want to get only 1 result for each of them !!!
+            $result{$publicationyear.$biblionumber}=$record;
+        }
+        # sort the hash and return the same structure as GetRecords (Zebra querying)
+        my $result_hash;
+        my $numbers=0;
+        if ($ordering eq 'pubdate_dsc') { # sort by pubyear desc
+            foreach my $key (sort { $b cmp $a } (keys %result)) {
+                $result_hash->{'RECORDS'}[$numbers++] = $result{$key}->as_usmarc();
+            }
+        } else { # sort by pub year ASC
+            foreach my $key (sort (keys %result)) {
+                $result_hash->{'RECORDS'}[$numbers++] = $result{$key}->as_usmarc();
+            }
+        }
+        my $finalresult=();
+        $result_hash->{'hits'} = $numbers;
+        $finalresult->{'biblioserver'} = $result_hash;
+        return $finalresult;
+    #
+    # ORDER BY title
+    #
+    } elsif ($ordering =~ /title/) { 
+        # the title is in the biblionumbers string, so we just need to build a hash, sort it and return
+        my %result;
+        foreach (split /;/,$biblionumbers) {
+            my ($biblionumber,$title) = split /,/,$_;
+            # hint : the result is sorted by title.biblionumber because we can have X biblios with the same title
+            # and we don't want to get only 1 result for each of them !!!
+            # hint & speed improvement : we can order without reading the record
+            # so order, and read records only for the requested page !
+            $result{$title.$biblionumber}=$biblionumber;
+        }
+        # sort the hash and return the same structure as GetRecords (Zebra querying)
+        my $result_hash;
+        my $numbers=0;
+        if ($ordering eq 'title_az') { # sort by title desc
+            foreach my $key (sort (keys %result)) {
+                $result_hash->{'RECORDS'}[$numbers++] = $result{$key};
+            }
+        } else { # sort by title ASC
+            foreach my $key (sort { $b cmp $a } (keys %result)) {
+                $result_hash->{'RECORDS'}[$numbers++] = $result{$key};
+            }
+        }
+        # limit the $results_per_page to result size if it's more
+        $results_per_page = $numbers-1 if $numbers < $results_per_page;
+        # for the requested page, replace biblionumber by the complete record
+        # speed improvement : avoid reading too much things
+        for (my $counter=$offset;$counter<=$offset+$results_per_page;$counter++) {
+            $result_hash->{'RECORDS'}[$counter] = GetMarcBiblio($result_hash->{'RECORDS'}[$counter])->as_usmarc;
+        }
+        my $finalresult=();
+        $result_hash->{'hits'} = $numbers;
+        $finalresult->{'biblioserver'} = $result_hash;
+        return $finalresult;
+    } else {
+    #
+    # order by ranking
+    #
+        # we need 2 hashes to order by ranking : the 1st one to count the ranking, the 2nd to order by ranking
+        my %result;
+        my %count_ranking;
+        foreach (split /;/,$biblionumbers) {
+            my ($biblionumber,$title) = split /,/,$_;
+            $title =~ /(.*)-(\d)/;
+            # get weight 
+            my $ranking =$2;
+            # note that we + the ranking because ranking is calculated on weight of EACH term requested.
+            # if we ask for "two towers", and "two" has weight 2 in biblio N, and "towers" has weight 4 in biblio N
+            # biblio N has ranking = 6
+            $count_ranking{$biblionumber} += $ranking;
+        }
+        # build the result by "inverting" the count_ranking hash
+        # hing : as usual, we don't order by ranking only, to avoid having only 1 result for each rank. We build an hash on concat(ranking,biblionumber) instead
+#         warn "counting";
+        foreach (keys %count_ranking) {
+            $result{sprintf("%10d",$count_ranking{$_}).'-'.$_} = $_;
+        }
+        # sort the hash and return the same structure as GetRecords (Zebra querying)
+        my $result_hash;
+        my $numbers=0;
+            foreach my $key (sort {$b cmp $a} (keys %result)) {
+                $result_hash->{'RECORDS'}[$numbers++] = $result{$key};
+            }
+        # limit the $results_per_page to result size if it's more
+        $results_per_page = $numbers-1 if $numbers < $results_per_page;
+        # for the requested page, replace biblionumber by the complete record
+        # speed improvement : avoid reading too much things
+        for (my $counter=$offset;$counter<=$offset+$results_per_page;$counter++) {
+            $result_hash->{'RECORDS'}[$counter] = GetMarcBiblio($result_hash->{'RECORDS'}[$counter])->as_usmarc if $result_hash->{'RECORDS'}[$counter];
+        }
+        my $finalresult=();
+        $result_hash->{'hits'} = $numbers;
+        $finalresult->{'biblioserver'} = $result_hash;
+        return $finalresult;
+    }
+}
+=head2 ModBiblios
 
-C<$count> is the total number of items with the given biblionumber.
+($countchanged,$listunchanged) = ModBiblios($listbiblios, $tagsubfield,$initvalue,$targetvalue,$test);
 
-C<$lcount> is the number of items at the Levin branch.
+this function changes all the values $initvalue in subfield $tag$subfield in any record in $listbiblios
+test parameter if set donot perform change to records in database.
 
-C<$nacount> is the number of items that are neither borrowed, lost,
-nor withdrawn (and are therefore presumably on a shelf somewhere).
+=over 2
 
-C<$fcount> is the number of items at the Foxton branch.
+=item C<input arg:>
 
-C<$scount> is the number of items at the Shannon branch.
+    * $listbiblios is an array ref to marcrecords to be changed
+    * $tagsubfield is the reference of the subfield to change.
+    * $initvalue is the value to search the record for
+    * $targetvalue is the value to set the subfield to
+    * $test is to be set only not to perform changes in database.
 
-C<$lostcount> is the number of lost and very overdue items.
+=item C<Output arg:>
+    * $countchanged counts all the changes performed.
+    * $listunchanged contains the list of all the biblionumbers of records unchanged.
 
-C<$mending> is the number of items at the Mending branch (being
-mended?).
+=item C<usage in the script:>
 
-C<$transit> is the number of items at the Transit branch (in transit
-between branches?).
+=back
 
-C<$ocount> is the number of items that haven't arrived yet
-(aqorders.quantity - aqorders.quantityreceived).
+my ($countchanged, $listunchanged) = EditBiblios($results->{RECORD}, $tagsubfield,$initvalue,$targetvalue);;
+#If one wants to display unchanged records, you should get biblios foreach @$listunchanged 
+$template->param(countchanged => $countchanged, loopunchanged=>$listunchanged);
 
 =cut
-#'
-
-
-
-sub itemcount {
-  my ($env,$bibnum,$type)=@_;
-  my $dbh = C4::Context->dbh;
-my @kohafield;
-my @value;
-my @relation;
-my @and_or;
-my $sort;
-  my $query="Select * from items where
-  biblionumber=? ";
-push @kohafield,"biblionumber";
-push @value,$bibnum;
-my ($total,@result)=ZEBRAsearch_kohafields(\@kohafield,\@value, \@relation,"", \@and_or, 0);## there is only one record no need for $num or $offset
-my @fields;## extract only the fields required
-push @fields,"itemnumber","itemlost","wthdrawn","holdingbranch","date_due";
-my ($biblio,@items)=XMLmarc2koha ($dbh,$result[0],"holdings",\@fields);
-  my $count=0;
-  my $lcount=0;
-  my $nacount=0;
-  my $fcount=0;
-  my $scount=0;
-  my $lostcount=0;
-  my $mending=0;
-  my $transit=0;
-  my $ocount=0;
- foreach my $data(@items){
-    if ($type ne "intra"){
-  next if ($data->{itemlost} || $data->{wthdrawn});
-    }  ## Probably trying to hide lost item from opac ?
-    $count++;
-   
-## Now it seems we want to find those which are onloan 
-    
 
-    if ( $data->{date_due} gt "0000-00-00"){
-       $nacount++;
-       next;
-    } 
-### The rest of this code is hardcoded for Foxtrot Shanon etc. We urgently need a global understanding of these terms--TG
-      if ($data->{'holdingbranch'} eq 'C' || $data->{'holdingbranch'} eq 'LT'){
-        $lcount++;
+sub ModBiblios{
+  my ($listbiblios,$tagsubfield,$initvalue,$targetvalue,$test)=@_;
+  my $countmatched;
+  my @unmatched;
+  my ($tag,$subfield)=($1,$2) if ($tagsubfield=~/^(\d{1,3})([a-z0-9A-Z@])?$/); 
+  if ((length($tag)<3)&& $subfield=~/0-9/){
+    $tag=$tag.$subfield;
+    undef $subfield;
+  } 
+  my ($bntag,$bnsubf) = GetMarcFromKohaField('biblio.biblionumber');
+  my ($itemtag,$itemsubf) = GetMarcFromKohaField('items.itemnumber');
+  foreach my $usmarc (@$listbiblios){
+    my $record; 
+    $record=eval{MARC::Record->new_from_usmarc($usmarc)};
+    my $biblionumber;
+    if ($@){
+      # usmarc is not a valid usmarc May be a biblionumber
+      if ($tag eq $itemtag){
+        my $bib=GetBiblioFromItemNumber($usmarc);   
+        $record=GetMarcItem($bib->{'biblionumber'},$usmarc) ;   
+        $biblionumber=$bib->{'biblionumber'};
+      } else {   
+        $record=GetMarcBiblio($usmarc);   
+        $biblionumber=$usmarc;
+      }   
+    }  else {
+      if ($bntag >= 010){
+        $biblionumber = $record->subfield($bntag,$bnsubf);
+      }else {
+        $biblionumber=$record->field($bntag)->data;
       }
-      if ($data->{'holdingbranch'} eq 'F' || $data->{'holdingbranch'} eq 'FP'){
-        $fcount++;
+    }  
+    #GetBiblionumber is to be written.
+    #Could be replaced by TransformMarcToKoha (But Would be longer)
+    if ($record->field($tag)){
+      my $modify=0;  
+      foreach my $field ($record->field($tag)){
+        if ($subfield){
+          if ($field->delete_subfield('code' =>$subfield,'match'=>qr($initvalue))){
+            $countmatched++;
+            $modify=1;      
+            $field->update($subfield,$targetvalue) if ($targetvalue);
+          }
+        } else {
+          if ($tag >= 010){
+            if ($field->delete_field($field)){
+              $countmatched++;
+              $modify=1;      
+            }
+          } else {
+            $field->data=$targetvalue if ($field->data=~qr($initvalue));
+          }     
+        }    
       }
-      if ($data->{'holdingbranch'} eq 'S' || $data->{'holdingbranch'} eq 'SP'){
-        $scount++;
-      }
-      if ($data->{'itemlost'} eq '1'){
-        $lostcount++;
-      }
-      if ($data->{'itemlost'} eq '2'){
-        $lostcount++;
-      }
-      if ($data->{'holdingbranch'} eq 'FM'){
-        $mending++;
-      }
-      if ($data->{'holdingbranch'} eq 'TR'){
-        $transit++;
-      }
-  
-  }
-#  if ($count == 0){
-    my $sth2=$dbh->prepare("Select * from aqorders where biblionumber=?");
-    $sth2->execute($bibnum);
-    if (my $data=$sth2->fetchrow_hashref){
-      $ocount=$data->{'quantity'} - $data->{'quantityreceived'};
+#       warn $record->as_formatted;
+      if ($modify){
+        ModBiblio($record,$biblionumber,GetFrameworkCode($biblionumber)) unless ($test);
+      } else {
+        push @unmatched, $biblionumber;   
+      }      
+    } else {
+      push @unmatched, $biblionumber;
     }
-#    $count+=$ocount;
-
-  return ($count,$lcount,$nacount,$fcount,$scount,$lostcount,$mending,$transit,$ocount);
+  }
+  return ($countmatched,\@unmatched);
 }
 
-END { }       # module clean-up code here (global destructor)
+END { }    # module clean-up code here (global destructor)
 
 1;
 __END__
 
-=back
-
 =head1 AUTHOR
 
 Koha Developement team <info@koha.org>
-# New functions to comply with ZEBRA search and new KOHA 3 API added 2006 Tumer Garip tgarip@neu.edu.tr
 
 =cut