Subversion Repositories eFlore/Projets.eflore-projets

Rev

Go to most recent revision | Show changed files | Details | Compare with Previous | Blame | RSS feed

Filtering Options

Rev Age Author Path Log message Diff
733 4155 d 7 h raphael /trunk/services/modules/0.1/commun/ ontologies: support de requêtes multi-critères pour les ontologies (partie 2/2).
Lorsque des ontologies sont demandées, celles-ci peuvent désormais être regroupées
au sein d'une même requête.
La modification, portée à Commun/Ontologie.php affecte donc les web-services n'ayant *pas*
redéfini leur classe d'accès aux ontologies, c'est à dire (au 28/06/2013):
* nvjfl
* bdnt

Exemple:
Avant, 3 requêtes:
/service:eflore:0.1/nvjfl/ontologies/numStatut:1
/service:eflore:0.1/nvjfl/ontologies/numStatut:2
/service:eflore:0.1/nvjfl/ontologies/genreNombre:10

Après, 1 requête:
/service:eflore:0.1/nvjfl/ontologies/numStatus:1,numStatus:2,genreNombre:10

Dans le seul cas d'une requête multi-critères le format de retour du web-service
a été modifié: Un ensemble de clef-valeurs est retourné dans lequel chaque clef
représente le nom d'un des critères demandés.
Si un critère ne correspond à rien dans la BDD, celui-ci est absent de l'ensemble retourné.


$ ddiff \
<(GET "http://eflore/$i"|json_pp) \
<(GET "http://www.tela-botanica.org/$i"|json_pp)

# service:eflore:0.1/nvjfl/noms-vernaculaires/attributions?masque.nt=1382&masque.lg=fra&retour.champs=conseil_emploi
# 2 appels d'ontologies nvjfl, résultat identique

# service:eflore:0.1/bdtxa/taxons/13517/relations/inferieurs
# 1 appel d'ontologie bdnt/nom, résultat identique

$ diff \
<(GET http://eflore/service:eflore:0.1/bdnt/ontologies/rangTaxo:70|json_pp) \
<(GET http://eflore/service:eflore:0.1/bdnt/ontologies/rangTaxo:70,rangTaxo:-1|json_pp) \
|grep -v rangTaxo:70
# même résultat (-1 n'existe pas)

Le comparatif suivant provient de l'étude de la requête suivante,
représentative d'une recherche de nom commun (cf: Cel/export XLS):
"/service:eflore:0.1/nvjfl/noms-vernaculaires/attributions?masque.nt=1382&masque.lg=fra&retour.champs=conseil_emploi"

Avant Après
Requêtes HTTP 3 2
Connexions SQL 4 3
SELECT 15 10
Temps sur 300 (*) 1m36 1m30

(*) $ time \
mysql -N tb_eflore<<<"SELECT num_taxonomique FROM bdtfx_v1_01 WHERE num_nom = num_nom_retenu ORDER BY ORD(SUBSTRING(nom_sci, 4, 1)) LIMIT 300;" | \
xargs -i -t -n 1 curl -so /dev/null "http://eflore/service:eflore:0.1/nvjfl/noms-vernaculaires/attributions?masque.nt={}&masque.lg=fra&retour.champs=conseil_emploi";

Le faible différentiel de temps observable s'explique partiellement par le fait que toutes les recherches de nom vernaculaire
n'aboutissent pas systématiquement à l'émission de plusieurs requêtes d'ontologie.
Le différentiel n'en reste pas moins décevant.
 
732 4155 d 7 h raphael /trunk/services/modules/0.1/commun/ ontologies communes: fix cosmétiques.
1° usage du paramètre retour.champs qui n'était pas utilisé jusqu'ici et n'aurait
pas pu être utilisé dans le cas d'un retour.format différent de "max".

2° ajout d'un commentaire relatif aux SELECT imbriqués actuellement utilisés et
auxquel une série de JOIN serait à préférer.

3° clarification de formaterOntologiesId()

4° réécriture et renommage afficherDonnees() en calculerClassID().
Une variable est passée par référence en paramètre de la fonction et
les conditions imbriquées sont remplacées par des return rapides.
La gestion des champs demandés est améliorée.
 
731 4156 d 3 h raphael /trunk/services/modules/0.1/nvjfl/ nom-vernaculaires: support de requêtes multi-critères pour NVJFL, côté client (partie 1).
Lorsque des données ontologiques propres à la base NVJFL sont nécessaires, celles-ci sont
chargée en une seule fois en tirant parti des requête ontologiques multi-critères.

ATTENTION: le code effectif est encore désactivé (par un if(FALSE...))
car le commit correspondant dans la classe d'ontologie NVJFL n'est pas encore présent.
(partie 2, cf: services/modules/0.1/commun/Ontologies.php)

Le fonctionnement est le suivant:
1) NvjflOntologieIndex()
Concaténer tous les critères nécessaires, exemple: numStatut:1,numStatut:2,...
et faire un lien entre d'une part
* un tableau temporaire associant requête et résultat
et d'autre part:
* le tableau général associant résultat existant [ champs standards ] et requête

2) NvjflOntologieExpand()
Obtenir une URL vers le web-service multi-critère, l'appeler et
enregistrer les résultats à la place qui leur est destinée dans le
tableau temporaire "requête -> résultat"
L'index spécial créé en 1), du tableau des résultats généraux est mis
à jour automatiquement puisqu'il s'agit d'une référence.

3) NvjflOntologieCombine()
Nettoyer les éléments de résultats pour et copier les valeurs demandée dans
un index correctement nommé (dépendant du web-service, et plus directement de
la variable $champ_infos).

Un modèle similaire pourrait être reproduit pour d'autre partie de code effectuant
des requêtes sans que des modification majeures du concept soient nécessaire.

Cependant une manière plus générale d'aborder la résolution consisterait à effectuer
l'indexation à partir des URL déjà générées plutôt que sur les éléments de tableau de
résultats, cependant le faible nombre de web-service supportant le multi-critère et la
diversité des schémas d'URL ne plaident pas en faveur d'une généralisation trop précoce.
 
730 4156 d 4 h raphael /trunk/services/modules/0.1/nvjfl/ nom-vernaculaires: fix cosmétiques.
Clarification du code (index de tableau) et modification des boucles.
Le cas du traitement des ontologies est découplé de la boucle d'initialisation des
valeurs standard.

Par conséquent, ajouterChampsOntologieLigneResultat() n'est plus utilisée, mais
une fonction faisant le traitement de l'ensemble des résultats la remplace ce qui
pourra permettre, à terme, une vision intelligente du contexte dans le cadre duquel un
ensemble de valeurs ontologiques sont nécessaires à la complétion des résultats.

Un stub à été inséré à l'endroit où un traitement spécifique par ontologie pourra apparaître
permettant ainsi d'utiliser des requêtes multi-critères pour les seuls web-services le supportant
effectivement.
 
729 4156 d 5 h raphael /trunk/services/modules/0.1/nvjfl/ nom-vernaculaires: fix cosmétiques.
Suppression d'affectations inutiles (sur-affectations), de tests inutiles
et généralisation de ajouterChampsOntologieLigneResultat().


Considérant que les sous-appels multiples aux web-services sont nichés dans:
chercherSignificationCode()
Appellée, en boucle, par ajouterChampsOntologieLigneResultat()
Appellée, en boucle, par formaterNomsVernaculairesAttributions(),

Considérant que le cache de réponse par url ($this->signification_code),
ne peut offrir à lui-seul une amélioration sensible des performances,

L'objectif de faire usage d'un webservice supportant de multiples
critères d'ontologies par requête nécessite comme préalable de faire
remonter ces appels en amont du cycle afin de se donner
l'opportunité des les factoriser.

Ce commit représente un premier pas dans ce sens.
 
728 4159 d 5 h alex /trunk/services/configurations/  
727 4159 d 6 h alex /trunk/services/ Nouveau module : moissonnage.
Ce module sert à générer des cartes de répartition de taxons de plantes à partir d'un fond de base SVG et de différentes sources de données
Methodes développées : génération de cartes, légende, ontologies
 
726 4162 d 11 h raphael /trunk/services/modules/0.1/cel/ cel/images: bugfix, dans certains cas une jointure retournait plusieurs
enregistrement de méta-données pour une image, dont le premier entièrement
NULL.
L'ajout d'une condition au WHERE permets désormais d'éviter ce problème.

URL d'exemple:
http://www.tela-botanica.org/eflore/consultation/popup.php?module=popup-illustrations&action=fiche&referentiel=bdtfx&id=41825
avant: Date d'observation : 1 janvier 1970
après: Date d'observation : 30 novembre 1890

Requête d'exemple:
SELECT SQL_CALC_FOUND_ROWS ci.id_image AS id_img, co.date_observation AS date, co.id_observation AS id_obs, \
ci.courriel_utilisateur AS utilisateur_courriel, nom_sel, nom_sel_nn, zone_geo, ce_zone_geo, lieudit, station, milieu \
FROM cel_images AS ci LEFT JOIN cel_obs_images AS coi ON (coi.id_image = ci.id_image) \
LEFT JOIN cel_obs AS co ON (coi.id_observation = co.id_observation) \
WHERE ci.id_image = 41825; # ajout: AND co.id_observation IS NOT NULL;
 
725 4164 d 11 h raphael /trunk/services/modules/0.1/baseflor/ svg: synchro trunk/eflore-test qui pose la question des valeurs à 0
pour ce qui concerne les données d'optimum écologique.
 
724 4165 d 6 h raphael /trunk/services/configurations/ config/baseflor: erreur de préfixe de chemin dans le fichier de configuration
par défaut.
 
723 4165 d 8 h aurelien /trunk/services/configurations/ Ajout de noms de projets manquants  
721 4166 d 7 h aurelien /trunk/services/ Ajout du web service noms vernaculaires des antilles  
720 4166 d 11 h aurelien /trunk/services/modules/0.1/bdtxa/ Ajout d'un try catch sur la récupération des ontologies pour qu'un terme manquant ne fasse pas planter tout le web service  
719 4170 d 11 h aurelien /trunk/services/modules/0.1/chorodep/cartes/ Correction du fonc blanc pour la carte  
718 4170 d 11 h aurelien /trunk/services/modules/0.1/bdtfx/ Ajout d'une vérification permettant d'ignorer les erreurs dans le cas d'une ontologie manquante  
717 4170 d 11 h aurelien /trunk/services/presentations/images/cartes/ Décalage du titre de la carte dans le svg antilles  
714 4171 d 8 h raphael /trunk/services/ fix du commentaire indiquant le fichier du Framework à inclure  
713 4171 d 11 h aurelien /trunk/services/modules/0.1/bdtxa/ Ajout des champs de présence dans bdtxa  
712 4171 d 11 h aurelien /trunk/services/modules/0.1/baseflor/ Ajout de try catch sur la récupération d'ontologie  
709 4173 d 5 h aurelien /trunk/services/modules/0.1/isfan/ Suppression des fonctions liées à la flore qui n'existe pas dans isfan  

Show All