dfb4509d63f903f26360e9b367010196155a8a09
[pazpar2-moved-to-github.git] / src / pazpar2_config.c
1 /* This file is part of Pazpar2.
2    Copyright (C) 2006-2009 Index Data
3
4 Pazpar2 is free software; you can redistribute it and/or modify it under
5 the terms of the GNU General Public License as published by the Free
6 Software Foundation; either version 2, or (at your option) any later
7 version.
8
9 Pazpar2 is distributed in the hope that it will be useful, but WITHOUT ANY
10 WARRANTY; without even the implied warranty of MERCHANTABILITY or
11 FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
12 for more details.
13
14 You should have received a copy of the GNU General Public License
15 along with this program; if not, write to the Free Software
16 Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA  02110-1301  USA
17
18 */
19
20 #if HAVE_CONFIG_H
21 #include <config.h>
22 #endif
23
24 #include <string.h>
25 #include <assert.h>
26
27 #include <libxml/parser.h>
28 #include <libxml/tree.h>
29 #include <libxslt/xslt.h>
30 #include <libxslt/transform.h>
31 #include <libxslt/xsltutils.h>
32
33 #include <yaz/yaz-util.h>
34 #include <yaz/nmem.h>
35 #include <yaz/snprintf.h>
36 #include <yaz/tpath.h>
37
38 #if HAVE_GLOB_H
39 #define USE_POSIX_GLOB 1
40 #else
41 #define USE_POSIX_GLOB 0
42 #endif
43
44
45 #if USE_POSIX_GLOB
46 #include <glob.h>
47 #endif
48 #include <sys/types.h>
49 #include <sys/stat.h>
50 #if HAVE_UNISTD_H
51 #include <unistd.h>
52 #endif
53 #include "pazpar2_config.h"
54 #include "settings.h"
55 #include "eventl.h"
56 #include "http.h"
57
58 struct conf_config
59 {
60     NMEM nmem; /* for conf_config and servers memory */
61     struct conf_server *servers;
62     WRBUF confdir;
63 };
64
65
66 static char *parse_settings(struct conf_config *config,
67                             NMEM nmem, xmlNode *node);
68
69 static struct conf_targetprofiles *parse_targetprofiles(NMEM nmem,
70                                                         xmlNode *node);
71
72 static void conf_metadata_assign(NMEM nmem, 
73                                  struct conf_metadata * metadata,
74                                  const char *name,
75                                  enum conf_metadata_type type,
76                                  enum conf_metadata_merge merge,
77                                  enum conf_setting_type setting,
78                                  int brief,
79                                  int termlist,
80                                  int rank,
81                                  int sortkey_offset,
82                                  enum conf_metadata_mergekey mt)
83 {
84     assert(nmem && metadata && name);
85     
86     metadata->name = nmem_strdup(nmem, name);
87
88     metadata->type = type;
89
90     // enforcing that type_year is always range_merge
91     if (metadata->type == Metadata_type_year)
92         metadata->merge = Metadata_merge_range;
93     else
94         metadata->merge = merge;    
95
96     metadata->setting = setting;
97     metadata->brief = brief;   
98     metadata->termlist = termlist;
99     metadata->rank = rank;    
100     metadata->sortkey_offset = sortkey_offset;
101     metadata->mergekey = mt;
102 }
103
104
105 static void conf_sortkey_assign(NMEM nmem, 
106                                 struct conf_sortkey * sortkey,
107                                 const char *name,
108                                 enum conf_sortkey_type type)
109 {
110     assert(nmem && sortkey && name);
111     
112     sortkey->name = nmem_strdup(nmem, name);
113     sortkey->type = type;
114 }
115
116
117 static struct conf_service *service_init(struct conf_config *config,
118                                          int num_metadata, int num_sortkeys,
119                                          const char *service_id)
120 {
121     struct conf_service * service = 0;
122     NMEM nmem = nmem_create();
123
124     service = nmem_malloc(nmem, sizeof(struct conf_service));
125     service->nmem = nmem;
126     service->next = 0;
127     service->settings = 0;
128     service->databases = 0;
129     service->targetprofiles = 0;
130     service->config = config;
131     service->session_timeout = 60; /* default session timeout */
132     service->z3950_session_timeout = 180;
133     service->z3950_connect_timeout = 15;
134
135     service->relevance_pct = 0;
136     service->sort_pct = 0;
137     service->mergekey_pct = 0;
138
139     service->id = service_id ? nmem_strdup(nmem, service_id) : 0;
140     service->num_metadata = num_metadata;
141     service->metadata = 0;
142     if (service->num_metadata)
143       service->metadata 
144           = nmem_malloc(nmem, 
145                         sizeof(struct conf_metadata) * service->num_metadata);
146     service->num_sortkeys = num_sortkeys;
147     service->sortkeys = 0;
148     if (service->num_sortkeys)
149         service->sortkeys 
150             = nmem_malloc(nmem, 
151                           sizeof(struct conf_sortkey) * service->num_sortkeys);
152     service->dictionary = 0;
153     return service; 
154 }
155
156 static struct conf_metadata* conf_service_add_metadata(
157     struct conf_service *service,
158     int field_id,
159     const char *name,
160     enum conf_metadata_type type,
161     enum conf_metadata_merge merge,
162     enum conf_setting_type setting,
163     int brief,
164     int termlist,
165     int rank,
166     int sortkey_offset,
167     enum conf_metadata_mergekey mt)
168 {
169     struct conf_metadata * md = 0;
170
171     if (!service || !service->metadata || !service->num_metadata
172         || field_id < 0  || !(field_id < service->num_metadata))
173         return 0;
174
175     md = service->metadata + field_id;
176     conf_metadata_assign(service->nmem, md, name, type, merge, setting,
177                          brief, termlist, rank, sortkey_offset,
178                          mt);
179     return md;
180 }
181
182
183 static struct conf_sortkey * conf_service_add_sortkey(
184     struct conf_service *service,
185     int field_id,
186     const char *name,
187     enum conf_sortkey_type type)
188 {
189     struct conf_sortkey * sk = 0;
190
191     if (!service || !service->sortkeys || !service->num_sortkeys
192         || field_id < 0  || !(field_id < service->num_sortkeys))
193         return 0;
194
195     //sk = &((service->sortkeys)[field_id]);
196     sk = service->sortkeys + field_id;
197     conf_sortkey_assign(service->nmem, sk, name, type);
198
199     return sk;
200 }
201
202
203 int conf_service_metadata_field_id(struct conf_service *service,
204                                    const char * name)
205 {
206     int i = 0;
207
208     if (!service || !service->metadata || !service->num_metadata)
209         return -1;
210
211     for(i = 0; i < service->num_metadata; i++) {
212         if (!strcmp(name, (service->metadata[i]).name))
213             return i;
214     }
215    
216     return -1;
217 }
218
219
220 int conf_service_sortkey_field_id(struct conf_service *service,
221                                   const char * name)
222 {
223     int i = 0;
224
225     if (!service || !service->sortkeys || !service->num_sortkeys)
226         return -1;
227
228     for(i = 0; i < service->num_sortkeys; i++) {
229         if (!strcmp(name, (service->sortkeys[i]).name))
230             return i;
231     }
232    
233     return -1;
234 }
235
236 static void conf_dir_path(struct conf_config *config, WRBUF w, const char *src)
237 {
238     if (config->confdir && wrbuf_len(config->confdir) > 0 &&
239         !yaz_is_abspath(src))
240     {
241         wrbuf_printf(w, "%s/%s", wrbuf_cstr(config->confdir), src);
242     }
243     else
244         wrbuf_puts(w, src);
245 }
246
247 static void service_destroy(struct conf_service *service)
248 {
249     if (service)
250     {
251         pp2_charset_destroy(service->relevance_pct);
252         pp2_charset_destroy(service->sort_pct);
253         pp2_charset_destroy(service->mergekey_pct);
254         nmem_destroy(service->nmem);
255     }
256 }
257
258 static int parse_metadata(struct conf_service *service, xmlNode *n,
259                           int *md_node, int *sk_node)
260 {
261     xmlChar *xml_name = xmlGetProp(n, (xmlChar *) "name");
262     xmlChar *xml_brief = xmlGetProp(n, (xmlChar *) "brief");
263     xmlChar *xml_sortkey = xmlGetProp(n, (xmlChar *) "sortkey");
264     xmlChar *xml_merge = xmlGetProp(n, (xmlChar *) "merge");
265     xmlChar *xml_type = xmlGetProp(n, (xmlChar *) "type");
266     xmlChar *xml_termlist = xmlGetProp(n, (xmlChar *) "termlist");
267     xmlChar *xml_rank = xmlGetProp(n, (xmlChar *) "rank");
268     xmlChar *xml_setting = xmlGetProp(n, (xmlChar *) "setting");
269     xmlChar *xml_mergekey = xmlGetProp(n, (xmlChar *) "mergekey");
270     
271     enum conf_metadata_type type = Metadata_type_generic;
272     enum conf_metadata_merge merge = Metadata_merge_no;
273     enum conf_setting_type setting = Metadata_setting_no;
274     enum conf_sortkey_type sk_type = Metadata_sortkey_relevance;
275     enum conf_metadata_mergekey mergekey_type = Metadata_mergekey_no;
276     int brief = 0;
277     int termlist = 0;
278     int rank = 0;
279     int sortkey_offset = 0;
280     
281     // now do the parsing logic
282     if (!xml_name)
283     {
284         yaz_log(YLOG_FATAL, "Must specify name in metadata element");
285         return -1;
286     }
287     if (xml_brief)
288     {
289         if (!strcmp((const char *) xml_brief, "yes"))
290             brief = 1;
291         else if (strcmp((const char *) xml_brief, "no"))
292         {
293             yaz_log(YLOG_FATAL, "metadata/brief must be yes or no");
294             return -1;
295         }
296     }
297     else
298         brief = 0;
299     
300     if (xml_termlist)
301     {
302         if (!strcmp((const char *) xml_termlist, "yes"))
303             termlist = 1;
304         else if (strcmp((const char *) xml_termlist, "no"))
305         {
306             yaz_log(YLOG_FATAL, "metadata/termlist must be yes or no");
307             return -1;
308         }
309     }
310     else
311         termlist = 0;
312     
313     if (xml_rank)
314         rank = atoi((const char *) xml_rank);
315     else
316         rank = 0;
317     
318     if (xml_type)
319     {
320         if (!strcmp((const char *) xml_type, "generic"))
321             type = Metadata_type_generic;
322         else if (!strcmp((const char *) xml_type, "year"))
323             type = Metadata_type_year;
324         else if (!strcmp((const char *) xml_type, "date"))
325             type = Metadata_type_date;
326         else
327         {
328             yaz_log(YLOG_FATAL, 
329                     "Unknown value for metadata/type: %s", xml_type);
330             return -1;
331         }
332     }
333     else
334         type = Metadata_type_generic;
335     
336     if (xml_merge)
337     {
338         if (!strcmp((const char *) xml_merge, "no"))
339             merge = Metadata_merge_no;
340         else if (!strcmp((const char *) xml_merge, "unique"))
341             merge = Metadata_merge_unique;
342         else if (!strcmp((const char *) xml_merge, "longest"))
343             merge = Metadata_merge_longest;
344         else if (!strcmp((const char *) xml_merge, "range"))
345             merge = Metadata_merge_range;
346         else if (!strcmp((const char *) xml_merge, "all"))
347             merge = Metadata_merge_all;
348         else
349         {
350             yaz_log(YLOG_FATAL, 
351                     "Unknown value for metadata/merge: %s", xml_merge);
352             return -1;
353         }
354     }
355     else
356         merge = Metadata_merge_no;
357     
358     if (xml_setting)
359     {
360         if (!strcmp((const char *) xml_setting, "no"))
361             setting = Metadata_setting_no;
362         else if (!strcmp((const char *) xml_setting, "postproc"))
363             setting = Metadata_setting_postproc;
364         else if (!strcmp((const char *) xml_setting, "parameter"))
365             setting = Metadata_setting_parameter;
366         else
367         {
368             yaz_log(YLOG_FATAL,
369                     "Unknown value for medadata/setting: %s", xml_setting);
370             return -1;
371         }
372     }
373     
374     // add a sortkey if so specified
375     if (xml_sortkey && strcmp((const char *) xml_sortkey, "no"))
376     {
377         if (merge == Metadata_merge_no)
378         {
379             yaz_log(YLOG_FATAL, 
380                     "Can't specify sortkey on a non-merged field");
381             return -1;
382         }
383         if (!strcmp((const char *) xml_sortkey, "numeric"))
384             sk_type = Metadata_sortkey_numeric;
385         else if (!strcmp((const char *) xml_sortkey, "skiparticle"))
386             sk_type = Metadata_sortkey_skiparticle;
387         else
388         {
389             yaz_log(YLOG_FATAL,
390                     "Unknown sortkey in metadata element: %s", 
391                     xml_sortkey);
392             return -1;
393         }
394         sortkey_offset = *sk_node;
395         
396         conf_service_add_sortkey(service, *sk_node,
397                                  (const char *) xml_name, sk_type);
398         
399         (*sk_node)++;
400     }
401     else
402         sortkey_offset = -1;
403     
404     if (xml_mergekey && strcmp((const char *) xml_mergekey, "no"))
405     {
406         mergekey_type = Metadata_mergekey_yes;
407     }
408     
409     
410     // metadata known, assign values
411     conf_service_add_metadata(service, *md_node,
412                               (const char *) xml_name,
413                               type, merge, setting,
414                               brief, termlist, rank, sortkey_offset,
415                               mergekey_type);
416     
417     xmlFree(xml_name);
418     xmlFree(xml_brief);
419     xmlFree(xml_sortkey);
420     xmlFree(xml_merge);
421     xmlFree(xml_type);
422     xmlFree(xml_termlist);
423     xmlFree(xml_rank);
424     xmlFree(xml_setting);
425     (*md_node)++;
426     return 0;
427 }
428
429 static struct conf_service *service_create(struct conf_config *config,
430                                            xmlNode *node,
431                                            const char *service_id)
432 {
433     xmlNode *n;
434     int md_node = 0;
435     int sk_node = 0;
436
437     struct conf_service *service = 0;
438     int num_metadata = 0;
439     int num_sortkeys = 0;
440     int got_settings = 0;
441     
442     // count num_metadata and num_sortkeys
443     for (n = node->children; n; n = n->next)
444         if (n->type == XML_ELEMENT_NODE && !strcmp((const char *)
445                                                    n->name, "metadata"))
446         {
447             xmlChar *sortkey = xmlGetProp(n, (xmlChar *) "sortkey");
448             num_metadata++;
449             if (sortkey && strcmp((const char *) sortkey, "no"))
450                 num_sortkeys++;
451             xmlFree(sortkey);
452         }
453
454     service = service_init(config, num_metadata, num_sortkeys, service_id);
455
456     for (n = node->children; n; n = n->next)
457     {
458         if (n->type != XML_ELEMENT_NODE)
459             continue;
460         if (!strcmp((const char *) n->name, "timeout"))
461         {
462             xmlChar *src = xmlGetProp(n, (xmlChar *) "session");
463             if (src)
464             {
465                 service->session_timeout = atoi((const char *) src);
466                 xmlFree(src);
467                 if (service->session_timeout < 9)
468                 {
469                     yaz_log(YLOG_FATAL, "session timeout out of range");
470                     return 0;
471                 }
472             }
473             src = xmlGetProp(n, (xmlChar *) "z3950_connect");
474             if (src)
475             {
476                 service->z3950_connect_timeout = atoi((const char *) src);
477                 xmlFree(src);
478                 if (service->z3950_session_timeout < 9)
479                 {
480                     yaz_log(YLOG_FATAL, "Z39.50 connect timeout out of range");
481                     return 0;
482                 }
483             }
484             src = xmlGetProp(n, (xmlChar *) "z3950_session");
485             if (src)
486             {
487                 service->z3950_session_timeout = atoi((const char *) src);
488                 xmlFree(src);
489                 if (service->z3950_session_timeout < 9)
490                 {
491                     yaz_log(YLOG_FATAL, "Z39.50 session timeout out of range");
492                     return 0;
493                 }
494             }
495         }
496         else if (!strcmp((const char *) n->name, "settings"))
497             got_settings++;
498         else if (!strcmp((const char *) n->name, (const char *) "targetprofiles"))
499         {
500             if (service->targetprofiles)
501             {
502                 yaz_log(YLOG_FATAL, "Can't repeat targetprofiles");
503                 return 0;
504             }
505             if (!(service->targetprofiles = 
506                   parse_targetprofiles(service->nmem, n)))
507                 return 0;
508         }
509         else if (!strcmp((const char *) n->name, "relevance"))
510         {
511             if (service->relevance_pct)
512             {
513                 yaz_log(YLOG_LOG, "relevance may not repeat in service");
514                 return 0;
515             }
516             else
517             {
518                 service->relevance_pct = pp2_charset_create_xml(n);
519                 if (!service->relevance_pct)
520                     return 0;
521             }
522         }
523         else if (!strcmp((const char *) n->name, "sort"))
524         {
525             if (service->sort_pct)
526             {
527                 yaz_log(YLOG_LOG, "sort may not repeat in service");
528                 return 0;
529             }
530             else
531             {
532                 service->sort_pct = pp2_charset_create_xml(n);
533                 if (!service->sort_pct)
534                     return 0;
535             }
536         }
537         else if (!strcmp((const char *) n->name, "mergekey"))
538         {
539             if (service->mergekey_pct)
540             {
541                 yaz_log(YLOG_LOG, "mergekey may not repeat in service");
542                 return 0;
543             }
544             else
545             {
546                 service->mergekey_pct = pp2_charset_create_xml(n);
547                 if (!service->mergekey_pct)
548                     return 0;
549             }
550         }
551         else if (!strcmp((const char *) n->name, (const char *) "metadata"))
552         {
553             if (parse_metadata(service, n, &md_node, &sk_node))
554                 return 0;
555         }
556         else
557         {
558             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
559             return 0;
560         }
561     }
562     if (got_settings)
563     {
564         int pass;
565         /* metadata has been read.. Consider now settings */
566         init_settings(service);
567         for (pass = 1; pass <= 2; pass++)
568         {
569             for (n = node->children; n; n = n->next)
570             {
571                 if (n->type != XML_ELEMENT_NODE)
572                     continue;
573                 if (!strcmp((const char *) n->name, "settings"))
574                 {
575                     xmlChar *src = xmlGetProp(n, (xmlChar *) "src");
576                     if (src)
577                     {
578                         WRBUF w = wrbuf_alloc();
579                         conf_dir_path(config, w, (const char *) src);
580                         settings_read_file(service, wrbuf_cstr(w), pass);
581                         wrbuf_destroy(w);
582                         xmlFree(src);
583                     }
584                     else
585                     {
586                         settings_read_node(service, n, pass);
587                     }
588                 }
589             }
590         }
591     }
592     return service;
593 }
594
595 static char *parse_settings(struct conf_config *config,
596                             NMEM nmem, xmlNode *node)
597 {
598     xmlChar *src = xmlGetProp(node, (xmlChar *) "src");
599     char *r;
600
601     if (src)
602     {
603         WRBUF w = wrbuf_alloc();
604         conf_dir_path(config, w, (const char *) src);
605         r = nmem_strdup(nmem, wrbuf_cstr(w));
606         wrbuf_destroy(w);
607     }
608     else
609     {
610         yaz_log(YLOG_FATAL, "Must specify src in targetprofile");
611         return 0;
612     }
613     xmlFree(src);
614     return r;
615 }
616
617 static void inherit_server_settings(struct conf_server *server)
618 {
619     struct conf_service *s;
620     for (s = server->service; s; s = s->next)
621     {
622         if (!s->dictionary) /* service has no config settings ? */
623         {
624             if (server->server_settings)
625             {
626                 /* inherit settings from server */
627                 init_settings(s);
628                 settings_read_file(s, server->server_settings, 1);
629                 settings_read_file(s, server->server_settings, 2);
630             }
631             else
632             {
633                 yaz_log(YLOG_WARN, "service '%s' has no settings",
634                         s->id ? s->id : "unnamed");
635                 init_settings(s);
636             }
637         }
638
639         /* use relevance/sort/mergekey from server if not defined
640            for this service.. */
641         if (!s->relevance_pct)
642         {
643             if (server->relevance_pct)
644             {
645                 s->relevance_pct = server->relevance_pct;
646                 pp2_charset_incref(s->relevance_pct);
647             }
648             else
649                 s->relevance_pct = pp2_charset_create(0);
650         }
651         
652         if (!s->sort_pct)
653         {
654             if (server->sort_pct)
655             {
656                 s->sort_pct = server->sort_pct;
657                 pp2_charset_incref(s->sort_pct);
658             }
659             else
660                 s->sort_pct = pp2_charset_create(0);
661         }
662         
663         if (!s->mergekey_pct)
664         {
665             if (server->mergekey_pct)
666             {
667                 s->mergekey_pct = server->mergekey_pct;
668                 pp2_charset_incref(s->mergekey_pct);
669             }
670             else
671                 s->mergekey_pct = pp2_charset_create(0);
672         }
673     }
674 }
675
676 static struct conf_server *server_create(struct conf_config *config,
677                                          NMEM nmem, xmlNode *node)
678 {
679     xmlNode *n;
680     struct conf_server *server = nmem_malloc(nmem, sizeof(struct conf_server));
681
682     server->host = 0;
683     server->port = 0;
684     server->proxy_host = 0;
685     server->proxy_port = 0;
686     server->myurl = 0;
687     server->proxy_addr = 0;
688     server->service = 0;
689     server->next = 0;
690     server->relevance_pct = 0;
691     server->sort_pct = 0;
692     server->mergekey_pct = 0;
693     server->server_settings = 0;
694
695     for (n = node->children; n; n = n->next)
696     {
697         if (n->type != XML_ELEMENT_NODE)
698             continue;
699         if (!strcmp((const char *) n->name, "listen"))
700         {
701             xmlChar *port = xmlGetProp(n, (xmlChar *) "port");
702             xmlChar *host = xmlGetProp(n, (xmlChar *) "host");
703             if (port)
704                 server->port = atoi((const char *) port);
705             if (host)
706                 server->host = nmem_strdup(nmem, (const char *) host);
707             xmlFree(port);
708             xmlFree(host);
709         }
710         else if (!strcmp((const char *) n->name, "proxy"))
711         {
712             xmlChar *port = xmlGetProp(n, (xmlChar *) "port");
713             xmlChar *host = xmlGetProp(n, (xmlChar *) "host");
714             xmlChar *myurl = xmlGetProp(n, (xmlChar *) "myurl");
715             if (port)
716                 server->proxy_port = atoi((const char *) port);
717             if (host)
718                 server->proxy_host = nmem_strdup(nmem, (const char *) host);
719             if (myurl)
720                 server->myurl = nmem_strdup(nmem, (const char *) myurl);
721             xmlFree(port);
722             xmlFree(host);
723             xmlFree(myurl);
724         }
725         else if (!strcmp((const char *) n->name, "settings"))
726         {
727             if (server->server_settings)
728             {
729                 yaz_log(YLOG_FATAL, "Can't repeat 'settings'");
730                 return 0;
731             }
732             if (!(server->server_settings = parse_settings(config, nmem, n)))
733                 return 0;
734         }
735         else if (!strcmp((const char *) n->name, "relevance"))
736         {
737             server->relevance_pct = pp2_charset_create_xml(n);
738             if (!server->relevance_pct)
739                 return 0;
740         }
741         else if (!strcmp((const char *) n->name, "sort"))
742         {
743             server->sort_pct = pp2_charset_create_xml(n);
744             if (!server->sort_pct)
745                 return 0;
746         }
747         else if (!strcmp((const char *) n->name, "mergekey"))
748         {
749             server->mergekey_pct = pp2_charset_create_xml(n);
750             if (!server->mergekey_pct)
751                 return 0;
752         }
753         else if (!strcmp((const char *) n->name, "service"))
754         {
755             char *service_id = (char *)
756                 xmlGetProp(n, (xmlChar *) "id");
757
758             struct conf_service **sp = &server->service;
759             for (; *sp; sp = &(*sp)->next)
760                 if ((*sp)->id && service_id &&
761                     0 == strcmp((*sp)->id, service_id))
762                 {
763                     yaz_log(YLOG_FATAL, "Duplicate service: %s", service_id);
764                     break;
765                 }
766                 else if (!(*sp)->id && !service_id)
767                 {
768                     yaz_log(YLOG_FATAL, "Duplicate unnamed service '%s'",
769                         service_id);
770                     break;
771                 }
772
773             if (*sp)  /* service already exist */
774             {
775                 xmlFree(service_id);
776                 return 0;
777             }
778             else
779             {
780                 struct conf_service *s = service_create(config, n,
781                                                         service_id);
782                 xmlFree(service_id);
783                 if (!s)
784                     return 0;
785                 *sp = s;
786             }
787         }
788         else
789         {
790             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
791             return 0;
792         }
793     }
794     inherit_server_settings(server);
795     return server;
796 }
797
798 xsltStylesheet *conf_load_stylesheet(struct conf_config *config,
799                                      const char *fname)
800 {
801     WRBUF w = wrbuf_alloc();
802     xsltStylesheet *s;
803
804     conf_dir_path(config, w, fname);
805     s = xsltParseStylesheetFile((xmlChar *) wrbuf_cstr(w));
806     wrbuf_destroy(w);
807     return s;
808 }
809
810 static struct conf_targetprofiles *parse_targetprofiles(NMEM nmem,
811                                                         xmlNode *node)
812 {
813     struct conf_targetprofiles *r = nmem_malloc(nmem, sizeof(*r));
814     xmlChar *type = xmlGetProp(node, (xmlChar *) "type");
815     xmlChar *src = xmlGetProp(node, (xmlChar *) "src");
816
817     memset(r, 0, sizeof(*r));
818
819     if (type)
820     {
821         if (!strcmp((const char *) type, "local"))
822             r->type = Targetprofiles_local;
823         else
824         {
825             yaz_log(YLOG_FATAL, "Unknown targetprofile type");
826             return 0;
827         }
828     }
829     else
830     {
831         yaz_log(YLOG_FATAL, "Must specify type for targetprofile");
832         return 0;
833     }
834
835     if (src)
836         r->src = nmem_strdup(nmem, (const char *) src);
837     else
838     {
839         yaz_log(YLOG_FATAL, "Must specify src in targetprofile");
840         return 0;
841     }
842     xmlFree(type);
843     xmlFree(src);
844     return r;
845 }
846
847 struct conf_service *locate_service(struct conf_server *server,
848                                     const char *service_id)
849 {
850     struct conf_service *s = server->service;
851     for (; s; s = s->next)
852         if (s->id && service_id && 0 == strcmp(s->id, service_id))
853             return s;
854         else if (!s->id && !service_id)
855             return s;
856     return 0;
857 }
858
859
860 static int parse_config(struct conf_config *config, xmlNode *root)
861 {
862     xmlNode *n;
863
864     for (n = root->children; n; n = n->next)
865     {
866         if (n->type != XML_ELEMENT_NODE)
867             continue;
868         if (!strcmp((const char *) n->name, "server"))
869         {
870             struct conf_server *tmp = server_create(config, config->nmem, n);
871             if (!tmp)
872                 return -1;
873             tmp->next = config->servers;
874             config->servers = tmp;
875         }
876         else if (!strcmp((const char *) n->name, "targetprofiles"))
877         {
878             yaz_log(YLOG_FATAL, "targetprofiles unsupported here. Must be part of service");
879             return -1;
880
881         }
882         else
883         {
884             yaz_log(YLOG_FATAL, "Bad element: %s", n->name);
885             return -1;
886         }
887     }
888     return 0;
889 }
890
891 static int process_config_includes(struct conf_config *config, xmlNode *n);
892
893 static int config_include_one(struct conf_config *config, xmlNode **sib,
894     const char *path)
895 {
896     struct stat st;
897     if (stat(path, &st) < 0)
898     {
899         yaz_log(YLOG_FATAL|YLOG_ERRNO, "stat %s", path);
900         return -1;
901     }
902     else
903     {
904         if ((st.st_mode & S_IFMT) == S_IFREG)
905         {
906             xmlDoc *doc = xmlParseFile(path);
907             if (doc)
908             {
909                 xmlNodePtr t = xmlDocGetRootElement(doc);
910                 int ret = process_config_includes(config, t);
911                 *sib = xmlAddNextSibling(*sib, xmlCopyNode(t, 1));
912                 xmlFreeDoc(doc);
913                 if (ret)
914                     return -1;
915             }
916             else
917             {
918                 yaz_log(YLOG_FATAL, "Could not parse %s", path);
919                 return -1;
920             }
921         }
922     }
923     return 0;
924 }
925
926 static int config_include_src(struct conf_config *config, xmlNode **np,
927                               const char *src)
928 {
929     int ret = 0; /* return code. OK so far */
930     WRBUF w = wrbuf_alloc();
931     xmlNodePtr sib; /* our sibling that we append */
932     xmlNodePtr c; /* tmp node */
933
934     wrbuf_printf(w, " begin include src=\"%s\" ", src);
935
936     /* replace include element with a 'begin' comment */
937     sib = xmlNewComment((const xmlChar *) wrbuf_cstr(w));
938     xmlReplaceNode(*np, sib);
939
940     xmlFreeNode(*np);
941
942     wrbuf_rewind(w);
943     conf_dir_path(config, w, src);
944 #if USE_POSIX_GLOB
945     {
946         size_t i;
947         glob_t glob_res;
948         glob(wrbuf_cstr(w), 0 /* flags */, 0 /* errfunc */, &glob_res);
949         
950         for (i = 0; ret == 0 && i < glob_res.gl_pathc; i++)
951         {
952             const char *path = glob_res.gl_pathv[i];
953             ret = config_include_one(config, &sib, path);
954         }
955         globfree(&glob_res);
956     }
957 #else
958     ret = config_include_one(config, &sib, wrbuf_cstr(w));
959 #endif
960     wrbuf_rewind(w);
961     wrbuf_printf(w, " end include src=\"%s\" ", src);
962     c = xmlNewComment((const xmlChar *) wrbuf_cstr(w));
963     sib = xmlAddNextSibling(sib, c);
964     
965     *np = sib;
966     wrbuf_destroy(w);
967     return ret;
968 }
969
970 static int process_config_includes(struct conf_config *config, xmlNode *n)
971 {
972     for (; n; n = n->next)
973     {
974         if (n->type == XML_ELEMENT_NODE)
975         {
976             if (!strcmp((const char *) n->name, "include"))
977             {
978                 xmlChar *src = xmlGetProp(n, (xmlChar *) "src");
979                 if (src)
980                 {
981                     int ret = config_include_src(config, &n,
982                                                  (const char *) src);
983                     xmlFree(src);
984                     if (ret)
985                         return ret;
986                         
987                 }
988             }
989             else
990             {
991                 if (process_config_includes(config, n->children))
992                     return -1;
993             }
994         }
995     }
996     return 0;
997 }
998
999 struct conf_config *config_create(const char *fname, int verbose)
1000 {
1001     xmlDoc *doc = xmlParseFile(fname);
1002     xmlNode *n;
1003     const char *p;
1004     int r;
1005     NMEM nmem = nmem_create();
1006     struct conf_config *config = nmem_malloc(nmem, sizeof(struct conf_config));
1007
1008     xmlSubstituteEntitiesDefault(1);
1009     xmlLoadExtDtdDefaultValue = 1;
1010     if (!doc)
1011     {
1012         yaz_log(YLOG_FATAL, "Failed to read %s", fname);
1013         nmem_destroy(nmem);
1014         return 0;
1015     }
1016
1017     config->nmem = nmem;
1018     config->servers = 0;
1019
1020     config->confdir = wrbuf_alloc();
1021     if ((p = strrchr(fname, 
1022 #ifdef WIN32
1023                      '\\'
1024 #else
1025                      '/'
1026 #endif
1027              )))
1028     {
1029         int len = p - fname;
1030         wrbuf_write(config->confdir, fname, len);
1031     }
1032     wrbuf_puts(config->confdir, "");
1033     
1034     n = xmlDocGetRootElement(doc);
1035     r = process_config_includes(config, n);
1036     if (r == 0) /* OK */
1037     {
1038         if (verbose)
1039         {
1040             yaz_log(YLOG_LOG, "Configuration %s after include processing",
1041                     fname);
1042             xmlDocFormatDump(yaz_log_file(), doc, 0);
1043         }
1044         r = parse_config(config, n);
1045     }
1046     xmlFreeDoc(doc);
1047
1048     if (r)
1049     {
1050         config_destroy(config);
1051         return 0;
1052     }
1053     return config;
1054 }
1055
1056 void server_destroy(struct conf_server *server)
1057 {
1058     struct conf_service *s = server->service;
1059     while (s)
1060     {
1061         struct conf_service *s_next = s->next;
1062         service_destroy(s);
1063         s = s_next;
1064     }
1065     pp2_charset_destroy(server->relevance_pct);
1066     pp2_charset_destroy(server->sort_pct);
1067     pp2_charset_destroy(server->mergekey_pct);
1068 }
1069
1070 void config_destroy(struct conf_config *config)
1071 {
1072     if (config)
1073     {
1074         struct conf_server *server = config->servers;
1075         while (server)
1076         {
1077             struct conf_server *s_next = server->next;
1078             server_destroy(server);
1079             server = s_next;
1080         }
1081         wrbuf_destroy(config->confdir);
1082         nmem_destroy(config->nmem);
1083     }
1084 }
1085
1086 void config_stop_listeners(struct conf_config *conf)
1087 {
1088     struct conf_server *ser;
1089     for (ser = conf->servers; ser; ser = ser->next)
1090         http_close_server(ser);
1091 }
1092
1093 void config_start_databases(struct conf_config *conf)
1094 {
1095     struct conf_server *ser;
1096     for (ser = conf->servers; ser; ser = ser->next)
1097     {
1098         struct conf_service *s = ser->service;
1099         for (;s ; s = s->next)
1100             resolve_databases(s);
1101     }
1102 }
1103
1104 int config_start_listeners(struct conf_config *conf,
1105                            const char *listener_override)
1106 {
1107     struct conf_server *ser;
1108     for (ser = conf->servers; ser; ser = ser->next)
1109     {
1110         WRBUF w = wrbuf_alloc();
1111         int r;
1112         if (listener_override)
1113         {
1114             wrbuf_puts(w, listener_override);
1115             listener_override = 0; /* only first server is overriden */
1116         }
1117         else
1118         {
1119             if (ser->host)
1120                 wrbuf_puts(w, ser->host);
1121             if (ser->port)
1122             {
1123                 if (wrbuf_len(w))
1124                     wrbuf_puts(w, ":");
1125                 wrbuf_printf(w, "%d", ser->port);
1126             }
1127         }
1128         r = http_init(wrbuf_cstr(w), ser);
1129         wrbuf_destroy(w);
1130         if (r)
1131             return -1;
1132
1133         w = wrbuf_alloc();
1134         if (ser->proxy_host || ser->proxy_port)
1135         {
1136             if (ser->proxy_host)
1137                 wrbuf_puts(w, ser->proxy_host);
1138             if (ser->proxy_port)
1139             {
1140                 if (wrbuf_len(w))
1141                     wrbuf_puts(w, ":");
1142                 wrbuf_printf(w, "%d", ser->proxy_port);
1143             }
1144         }
1145         if (wrbuf_len(w))
1146             http_set_proxyaddr(wrbuf_cstr(w), ser);
1147         wrbuf_destroy(w);
1148     }
1149     return 0;
1150 }
1151
1152 /*
1153  * Local variables:
1154  * c-basic-offset: 4
1155  * c-file-style: "Stroustrup"
1156  * indent-tabs-mode: nil
1157  * End:
1158  * vim: shiftwidth=4 tabstop=8 expandtab
1159  */
1160