Line 3... |
Line 3... |
3 |
// +-------------------------------------------------------------------------------------------------------------------+
|
3 |
// +-------------------------------------------------------------------------------------------------------------------+
|
4 |
/**
|
4 |
/**
|
5 |
* Traitement des observations sauvages pour les migrer vers des champs étendus
|
5 |
* Traitement des observations sauvages pour les migrer vers des champs étendus
|
6 |
*
|
6 |
*
|
7 |
* Description : classe permettant d'affecter des champs étendus aux observations sauvages
|
7 |
* Description : classe permettant d'affecter des champs étendus aux observations sauvages
|
8 |
* Utilisation : php script.php migrationsauvages -a migrerObservationsSauvages
|
8 |
* Utilisation : php script.php migration_sauvages -a migrerObservationsSauvages -v 3
|
9 |
*
|
9 |
*
|
10 |
* @category PHP 5.3
|
10 |
* @category PHP 5.3
|
11 |
* @package scripts
|
11 |
* @package scripts
|
12 |
//Auteur original :
|
12 |
//Auteur original :
|
13 |
* @author Aurélien PERONNET <aurelien@tela-botanica.org>
|
13 |
* @author Aurélien PERONNET <aurelien@tela-botanica.org>
|
14 |
* @copyright Copyright (c) 2009, Tela Botanica (accueil@tela-botanica.org)
|
14 |
* @copyright Copyright (c) 2009, Tela Botanica (accueil@tela-botanica.org)
|
15 |
* @license http://www.gnu.org/licenses/gpl.html Licence GNU-GPL-v3
|
15 |
* @license http://www.gnu.org/licenses/gpl.html Licence GNU-GPL-v3
|
16 |
* @license http://www.cecill.info/licences/Licence_CeCILL_V2-fr.txt Licence CECILL-v2
|
16 |
* @license http://www.cecill.info/licences/Licence_CeCILL_V2-fr.txt Licence CECILL-v2
|
17 |
* @version $Id$
|
17 |
* @version $Id$
|
18 |
*/
|
18 |
*/
|
19 |
// +-------------------------------------------------------------------------------------------------------------------+
|
19 |
// +-------------------------------------------------------------------------------------------------------------------+
|
20 |
class Migrationsauvages extends Script {
|
20 |
class MigrationSauvages extends Script {
|
21 |
|
21 |
|
22 |
// +-------------------------------------------------------------------------------------------------------------------+
|
22 |
// +-------------------------------------------------------------------------------------------------------------------+
|
23 |
public function executer() {
|
23 |
public function executer() {
|
24 |
include_once dirname(__FILE__).'/bibliotheque/Dao.php';
|
24 |
include_once dirname(__FILE__).'/bibliotheque/Dao.php';
|
25 |
$this->dao = new Dao();
|
25 |
$this->dao = new Dao();
|
26 |
// Récupération de paramétres
|
26 |
// Récupération de paramétres
|
27 |
// Lancement de l'action demandée
|
27 |
// Lancement de l'action demandée
|
28 |
$cmd = $this->getParametre('a');
|
- |
|
29 |
$this->mode_verbeux = $this->getParametre('v');
|
28 |
$this->mode_verbeux = $this->getParametre('v');
|
- |
|
29 |
$cmd = $this->getParametre('a');
|
30 |
|
30 |
try {
|
- |
|
31 |
switch ($cmd) {
|
- |
|
32 |
case 'migrerObservationsSauvages' :
|
31 |
$this->migrerObservationsSauvages();
|
33 |
$this->migrerObservationsSauvages();
|
- |
|
34 |
break;
|
- |
|
35 |
case 'exporterObservationsSauvagesAMigrer' :
|
- |
|
36 |
$this->exporterObservationsSauvagesAMigrer();
|
- |
|
37 |
break;
|
- |
|
38 |
default :
|
- |
|
39 |
$msg = "Erreur : la commande '$cmd' n'existe pas!\n".
|
- |
|
40 |
"Commandes existantes : migrerObservationsSauvages";
|
- |
|
41 |
throw new Exception($msg);
|
- |
|
42 |
}
|
- |
|
43 |
} catch (Exception $e) {
|
- |
|
44 |
$this->traiterErreur($e->getMessage());
|
32 |
|
45 |
}
|
33 |
}
|
46 |
}
|
34 |
|
47 |
|
35 |
private function migrerObservationsSauvages() {
|
48 |
private function exporterObservationsSauvagesAMigrer() {
|
36 |
$nb_obs = $this->dao->obtenirNbObservationsSauvages();
|
49 |
$total = $this->dao->obtenirNbObservationsSauvages();
|
- |
|
50 |
$pas_liste_obs = 5000;
|
- |
|
51 |
echo " Traitement des $total observations par paquet de $pas_liste_obs \n";
|
- |
|
52 |
$fp = fopen('/home/jpm/obs.csv', 'w');
|
- |
|
53 |
$ecrireEntete = true;
|
- |
|
54 |
for ($i = 0; $i <= $total; $i += $pas_liste_obs) {
|
- |
|
55 |
$liste_observations = $this->dao->obtenirObservationsSauvages($i, $pas_liste_obs);
|
- |
|
56 |
foreach ($liste_observations as $observation) {
|
37 |
$this->traiterObservationsSauvages($nb_obs);
|
57 |
if ($this->doitMigrerObservation($observation)) {
|
- |
|
58 |
$champs_etendus = $this->convertirChampsObsSauvagesEnChampsEtendus($observation);
|
- |
|
59 |
$champs_etendus_fixes = array(
|
- |
|
60 |
'latitudeDebutRue', 'longitudeDebutRue', 'latitudeFinRue', 'longitudeFinRue',
|
- |
|
61 |
'adresse', 'coteRue');
|
- |
|
62 |
foreach ($champs_etendus_fixes as $cle) {
|
- |
|
63 |
$observation[$cle] = '';
|
- |
|
64 |
foreach ($champs_etendus as $champs) {
|
- |
|
65 |
if ($champs['cle'] == $cle) {
|
- |
|
66 |
$observation[$cle] = $champs['valeur'];
|
- |
|
67 |
}
|
- |
|
68 |
}
|
- |
|
69 |
}
|
- |
|
70 |
}
|
- |
|
71 |
if ($ecrireEntete) {
|
- |
|
72 |
fputcsv($fp, array_keys($observation));
|
- |
|
73 |
$ecrireEntete = false;
|
- |
|
74 |
}
|
- |
|
75 |
fputcsv($fp, array_values($observation));
|
- |
|
76 |
$this->afficherAvancement("\tObs traitées : ", 1);
|
- |
|
77 |
}
|
- |
|
78 |
}
|
- |
|
79 |
fclose($fp);
|
- |
|
80 |
echo "\nFin de l'export\n";
|
38 |
}
|
81 |
}
|
39 |
|
82 |
|
40 |
private function traiterObservationsSauvages($nb_obs) {
|
83 |
private function migrerObservationsSauvages() {
|
41 |
$debut = microtime(true);
|
84 |
if ($this->mode_verbeux) $debut = microtime(true);
|
42 |
$nb_obs_modifiees = 0;
|
85 |
$nb_obs_modifiees = 0;
|
43 |
$nb_obs_ignorees = 0;
|
86 |
$nb_obs_ignorees = 0;
|
44 |
$total = $nb_obs;
|
87 |
$total = $this->dao->obtenirNbObservationsSauvages();
|
45 |
|
88 |
|
46 |
if($this->mode_verbeux) {
|
89 |
if ($this->mode_verbeux) {
|
47 |
echo "-------------------------------------------------------------------\n";
|
90 |
echo "-------------------------------------------------------------------\n".
|
48 |
echo " Début de la migration des observations sauvages vers les champs étendus \n";
|
91 |
" Début de la migration des observations sauvages vers les champs étendus \n".
|
49 |
echo " ".$total." observations concernées \n";
|
92 |
" $total observations concernées\n".
|
50 |
echo "-------------------------------------------------------------------\n";
|
93 |
"-------------------------------------------------------------------\n";
|
51 |
}
|
94 |
}
|
52 |
|
95 |
|
53 |
$champs_etendus_a_inserer = array();
|
96 |
$champs_etendus_a_inserer = array();
|
54 |
$nb_champs_total = 0;
|
97 |
$nb_champs_total = 0;
|
55 |
$nb_champs_etendus_a_inserer = 0;
|
98 |
$nb_champs_etendus_a_inserer = 0;
|
56 |
|
99 |
|
57 |
$pas_liste_obs = 5000;
|
100 |
$pas_liste_obs = 5000;
|
58 |
echo " Traitement des observations par paquet de ".$pas_liste_obs." (5 champs étendus ajoutés par observation traitée) \n";
|
101 |
echo " Traitement des observations par paquet de ".$pas_liste_obs." (5 champs étendus ajoutés par observation traitée) \n";
|
59 |
|
102 |
|
60 |
for($i = 0; $i <= $total; $i += $pas_liste_obs) {
|
103 |
for ($i = 0; $i <= $total; $i += $pas_liste_obs) {
|
61 |
$liste_observations = $this->dao->obtenirObservationsSauvages($i, $pas_liste_obs);
|
104 |
$liste_observations = $this->dao->obtenirObservationsSauvages($i, $pas_liste_obs);
|
62 |
$champs_etendus_a_inserer = array();
|
105 |
$champs_etendus_a_inserer = array();
|
63 |
$nb_champs_etendus_a_inserer = 0;
|
106 |
$nb_champs_etendus_a_inserer = 0;
|
64 |
foreach($liste_observations as $observation) {
|
107 |
foreach ($liste_observations as $observation) {
|
65 |
|
108 |
|
66 |
// test si obs candidate est ok, i.e. si elle contient bien un champ station formate comme ceci
|
109 |
// test si obs candidate est ok, i.e. si elle contient bien un champ station formate comme ceci
|
67 |
// coordonnees_debut_de_rue;coordonnees_fin_de_rue;cote_de_la_rue
|
110 |
// coordonnees_debut_de_rue;coordonnees_fin_de_rue;cote_de_la_rue
|
68 |
if ($this->doitMigrerObservation($observation)) {
|
111 |
if ($this->doitMigrerObservation($observation)) {
|
69 |
$champs_etendus_a_inserer[] = $this->convertirChampsObsSauvagesEnChampsEtendus($observation);
|
112 |
$champs_etendus = $this->convertirChampsObsSauvagesEnChampsEtendus($observation);
|
- |
|
113 |
$champs_etendus_a_inserer[] = $champs_etendus;
|
- |
|
114 |
$nb_champs = count($champs_etendus);
|
70 |
$nb_obs_modifiees++;
|
115 |
$nb_obs_modifiees++;
|
71 |
$nb_champs_etendus_a_inserer += 5;
|
116 |
$nb_champs_etendus_a_inserer += $nb_champs;
|
72 |
$nb_champs_total += 5;
|
117 |
$nb_champs_total += $nb_champs;
|
73 |
} else {
|
118 |
} else {
|
74 |
$nb_obs_ignorees++;
|
119 |
$nb_obs_ignorees++;
|
75 |
}
|
120 |
}
|
76 |
|
121 |
|
77 |
// insertion par paquets de 100 champs ou bien à la fin du parcours de la liste s'il y a moins de
|
122 |
// insertion par paquets de 100 champs ou bien à la fin du parcours de la liste s'il y a moins de
|
78 |
// 20 observations à traiter (20 obs * 5 champs = 100 champs)
|
123 |
// 20 observations à traiter (20 obs * 5 champs = 100 champs)
|
79 |
if($nb_champs_etendus_a_inserer >= 100) {
|
124 |
if ($nb_champs_etendus_a_inserer >= 100) {
|
80 |
$this->dao->ajouterChampsEtendusParLots($champs_etendus_a_inserer);
|
125 |
$this->dao->ajouterChampsEtendusParLots($champs_etendus_a_inserer);
|
81 |
$champs_etendus_a_inserer = array();
|
126 |
$champs_etendus_a_inserer = array();
|
82 |
$nb_champs_etendus_a_inserer = 0;
|
127 |
$nb_champs_etendus_a_inserer = 0;
|
83 |
}
|
128 |
}
|
84 |
}
|
129 |
}
|
85 |
echo " ".$nb_champs_total." champs étendus insérés \n";
|
130 |
echo " $nb_champs_total champs étendus insérés \n";
|
86 |
}
|
131 |
}
|
87 |
|
132 |
|
88 |
// insertion des champs restants s'il en reste moins de 100 à la fin
|
133 |
// insertion des champs restants s'il en reste moins de 100 à la fin
|
89 |
if($nb_champs_etendus_a_inserer > 0) {
|
134 |
if ($nb_champs_etendus_a_inserer > 0) {
|
90 |
$this->dao->ajouterChampsEtendusParLots($champs_etendus_a_inserer);
|
135 |
$this->dao->ajouterChampsEtendusParLots($champs_etendus_a_inserer);
|
91 |
$nb_champs_total += $nb_champs_etendus_a_inserer;
|
136 |
$nb_champs_total += $nb_champs_etendus_a_inserer;
|
92 |
echo " ".$nb_champs_total." champs étendus insérés \n";
|
137 |
echo " $nb_champs_total champs étendus insérés \n";
|
93 |
}
|
138 |
}
|
94 |
|
139 |
|
- |
|
140 |
if ($this->mode_verbeux) {
|
95 |
$fin = microtime(true);
|
141 |
$fin = microtime(true);
|
96 |
if($this->mode_verbeux) {
|
142 |
$tps_ecoule = $fin - $debut;
|
97 |
echo "\n";
|
143 |
echo "\n".
|
98 |
echo "-------------------------------------------------------------------\n";
|
144 |
"-------------------------------------------------------------------\n".
|
99 |
echo " Fin de la migration des observations sauvages, \n";
|
145 |
" Fin de la migration des observations sauvages, \n".
|
100 |
echo " ".($fin - $debut)." secondes écoulées \n";
|
146 |
" $tps_ecoule secondes écoulées \n".
|
101 |
echo " ".$nb_champs_total." champs étendus créées \n";
|
147 |
" $nb_champs_total champs étendus créées \n".
|
102 |
echo " ".$nb_obs_modifiees." observations modifiées \n";
|
148 |
" $nb_obs_modifiees observations modifiées \n".
|
103 |
echo " ".$nb_obs_ignorees." observations ignorées \n";
|
149 |
" $nb_obs_ignorees observations ignorées \n".
|
104 |
echo "-------------------------------------------------------------------\n";
|
150 |
"-------------------------------------------------------------------\n\n";
|
105 |
echo "\n";
|
- |
|
106 |
}
|
151 |
}
|
107 |
}
|
152 |
}
|
108 |
|
153 |
|
109 |
private function doitMigrerObservation($observation) {
|
154 |
private function doitMigrerObservation($observation) {
|
110 |
return (!empty($observation['station']) && substr_count($observation['station'],";") == 2);
|
155 |
return (!empty($observation['station']) && substr_count($observation['station'], ';') == 2);
|
111 |
}
|
156 |
}
|
112 |
|
157 |
|
113 |
private function convertirChampsObsSauvagesEnChampsEtendus($observation) {
|
158 |
private function convertirChampsObsSauvagesEnChampsEtendus($observation) {
|
114 |
list($coords_debut_rue,$coords_fin_rue,$cote_rue) = explode(';', $observation['station']);
|
159 |
list($coords_debut_rue, $coords_fin_rue, $cote_rue) = explode(';', $observation['station']);
|
115 |
$coords_debut_rue = explode(',', $coords_debut_rue);
|
160 |
$coords_debut_rue = explode(',', $coords_debut_rue);
|
116 |
$coords_fin_rue = explode(',', $coords_fin_rue);
|
161 |
$coords_fin_rue = explode(',', $coords_fin_rue);
|
117 |
|
- |
|
118 |
$lieu_dit = (trim($observation['lieudit']) == 'non renseigné(e)') ? '' : $observation['lieudit'];
|
162 |
$lieu_dit = (trim($observation['lieudit']) == 'non renseigné(e)') ? '' : $observation['lieudit'];
|
119 |
|
- |
|
120 |
$id = $observation['id_observation'];
|
163 |
$id = $observation['id_observation'];
|
- |
|
164 |
|
- |
|
165 |
if (!preg_match('/^(?:2cotes|pair|impair|)$/', $cote_rue)) {
|
- |
|
166 |
$msg = "Obs #$id: erreur champ cote_rue contient : $cote_rue";
|
- |
|
167 |
$this->traiterErreur($msg);
|
- |
|
168 |
}
|
- |
|
169 |
$testCoords = array(
|
- |
|
170 |
'latitudeDebutRue' => $coords_debut_rue[0],
|
- |
|
171 |
'longitudeDebutRue' => $coords_debut_rue[1],
|
- |
|
172 |
'latitudeDebutRue' => $coords_fin_rue[0],
|
- |
|
173 |
'longitudeDebutRue' => $coords_fin_rue[1]
|
- |
|
174 |
);
|
- |
|
175 |
foreach ($testCoords as $champ => $coord) {
|
- |
|
176 |
if (!preg_match('/^(?:-|)[0-9]{1,2}[.][0-9]{5}$/', $coord)) {
|
- |
|
177 |
$msg = "Obs #$id: erreur champ $champ contient : $coord";
|
- |
|
178 |
$this->traiterErreur($msg);
|
- |
|
179 |
}
|
- |
|
180 |
}
|
- |
|
181 |
|
121 |
$champs_etendus = array(
|
182 |
$champs_etendus = array();
|
- |
|
183 |
if (count($coords_debut_rue) == 2) {
|
122 |
array('id_observation' => $id,
|
184 |
$champs_etendus[] = array('id_observation' => $id,
|
123 |
'cle' => 'latitudeDebutRue',
|
185 |
'cle' => 'latitudeDebutRue',
|
124 |
'label' => 'Latitude du début de la rue',
|
186 |
'label' => 'Latitude du début de la rue',
|
125 |
'valeur' => $coords_debut_rue[0]),
|
187 |
'valeur' => $coords_debut_rue[0]);
|
126 |
array('id_observation' => $id,
|
188 |
$champs_etendus[] = array('id_observation' => $id,
|
127 |
'cle' => 'longitudeDebutRue',
|
189 |
'cle' => 'longitudeDebutRue',
|
128 |
'label' => 'Longitude du début de la rue',
|
190 |
'label' => 'Longitude du début de la rue',
|
129 |
'valeur' => $coords_debut_rue[1]),
|
191 |
'valeur' => $coords_debut_rue[1]);
|
- |
|
192 |
}
|
- |
|
193 |
if (count($coords_fin_rue) == 2) {
|
130 |
array('id_observation' => $id,
|
194 |
$champs_etendus[] = array('id_observation' => $id,
|
131 |
'cle' => 'latitudeFinRue',
|
195 |
'cle' => 'latitudeFinRue',
|
132 |
'label' => 'Latitude de fin de la rue',
|
196 |
'label' => 'Latitude de fin de la rue',
|
133 |
'valeur' => $coords_debut_rue[0]),
|
197 |
'valeur' => $coords_fin_rue[0]);
|
134 |
array('id_observation' => $id,
|
198 |
$champs_etendus[] = array('id_observation' => $id,
|
135 |
'cle' => 'longitudeFinRue',
|
199 |
'cle' => 'longitudeFinRue',
|
136 |
'label' => 'Longitude de fin de la rue',
|
200 |
'label' => 'Longitude de fin de la rue',
|
137 |
'valeur' => $coords_debut_rue[1]),
|
201 |
'valeur' => $coords_fin_rue[1]);
|
- |
|
202 |
}
|
- |
|
203 |
if ($lieu_dit != '') {
|
138 |
array('id_observation' => $id,
|
204 |
$champs_etendus[] = array('id_observation' => $id,
|
139 |
'cle' => 'adresse',
|
205 |
'cle' => 'adresse',
|
140 |
'label' => 'Adresse',
|
206 |
'label' => 'Adresse',
|
141 |
'valeur' => $lieu_dit)
|
207 |
'valeur' => $lieu_dit);
|
- |
|
208 |
}
|
- |
|
209 |
if ($cote_rue != '') {
|
- |
|
210 |
$champs_etendus[] = array('id_observation' => $id,
|
- |
|
211 |
'cle' => 'coteRue',
|
- |
|
212 |
'label' => 'Côté rue',
|
- |
|
213 |
'valeur' => $cote_rue);
|
142 |
);
|
214 |
}
|
- |
|
215 |
|
143 |
return $champs_etendus;
|
216 |
return $champs_etendus;
|
144 |
}
|
217 |
}
|
145 |
}
|
218 |
}
|
146 |
?>
|
219 |
?>
|
147 |
|
220 |
|