Subversion Repositories eFlore/Applications.coel

<?php

/**

 * Exemple lancement:

 * /opt/lampp/bin/php -d memory_limit=3500M cli.php import -n

 */

class Import extends Script {

	private $bdd = null;

	private $auteurs = array();

	protected $parametres_autorises = array(

			'-n' => array(true, false, 'Nom du fichier à importer.'));

	protected $table_publication = null;

	protected $table_auteur = null;

	protected $table_publication_a_auteur = null;

	protected $id_role_auteur = null;

	protected $colonnes_obligatoires = array();

	protected $colonnes_acceptees = array();

	protected $cache_auteur = array();

	protected $auteurs_a_publis = array();

	protected $publis_a_auteurs = array();

	public function __construct($script_nom, $parametres) {

		parent::__construct($script_nom, $parametres);

		$this->bdd = new Bdd();

	}

	public function executer() {

		try {

			$this->initialiserScript();

			$cmd = $this->getParametre('a');

			$fichier = $this->getParametre('n');

			switch ($cmd) {

				case "import" :

					$resultat = $this->charger($fichier); break;

				default :

					$this->traiterErreur('Erreur : la commande "%s" n\'existe pas!', array($cmd));

			}

		} catch (Exception $erreur) {

			$this->traiterErreur($erreur->getMessage());

		}

		// renvoi du résultat vers la sortie php

		// car le script est surtout destiné à être appelé par un web service

		echo $resultat;

		exit;

	}

	private function initialiserScript() {

		$fichierIni = $this->getScriptChemin().'import.ini';

		if (file_exists($fichierIni)) {

			Config::charger($fichierIni);

		} else {

			$erreur = "Veuillez configurer le projet en créant le fichier 'import.ini' ".

					"dans le dossier du module de script du projet à partir du fichier 'import.defaut.ini'.";

			throw new Exception($erreur);

		}

		$this->colonnes_obligatoires= Config::get('champs_obligatoires');

		$this->colonnes_acceptees = Config::get('champs');

		$tables = Config::get('tables');

		$this->table_publication = $tables['publication'];

		$this->table_auteur = $tables['auteur'];

		$this->table_publication_a_auteur = $tables['publication_a_auteur'];

		$this->id_role_auteur = $tables['id_role_auteur'];

	}

	private function charger($fichier) {

		// vérification existence fichier

		if(!file_exists(Config::get('dossiertmp').$fichier)) {

			$erreur = "Le fichier ".Config::get('dossiertmp').$fichier." n'existe pas.";

			throw new Exception($erreur);

		}

		$pointeur = fopen(Config::get('dossiertmp').$fichier, "r");

		// Chargement de la première colonne (qui contient les noms de colonnes à importer

		$colonnes = fgetcsv($pointeur, 0, ";");

		// Vérification des colonnes obligatoires et en même temps du séparateur

		if(count($colonnes) < 2 || !array_intersect(array_keys($this->colonnes_obligatoires), $colonnes)) {

			$erreur = "Le fichier ne contient pas les colonnes obligatoires : ".implode(',', array_keys($this->colonnes_obligatoires))."\n";

			$erreur .= "ou bien n'est pas séparé par le caractère ';' ";

			throw new Exception($erreur);

		}

		//TODO: vérifier si les deux index ci dessous ne font pas double emploi

		// Création d'un index des colonnes qui seront importées dans la fiche en les associant

		// au numéro de colonne dans la feuille csv

		$index_colonnes_importees = array_intersect(array_keys($this->colonnes_acceptees), $colonnes);

		$colonnes_importees = array();

		foreach($index_colonnes_importees as $index_colonne_importee) {

			$colonnes_importees[] = $this->colonnes_acceptees[$index_colonne_importee];

		}

		$index_colonnes_refusees = array_keys(array_diff($colonnes, array_keys($this->colonnes_acceptees)));

		// Création d'un index associant chaque numéro de colonne importée à son rôle

		// pour y apporter des traitement spécifiques

		$index_colonnes_importees = $colonnes;

		foreach($index_colonnes_refusees as $colonne_refusee) {

			unset($index_colonnes_importees[$colonne_refusee]);

		}

		$roles_a_num_colonnes = array_flip($index_colonnes_importees);

		$lignes = array();

		while($ligne = fgetcsv($pointeur, 0, ";")) {

			$ligne_inseree = array();

			foreach($ligne as $index => &$valeur) {

				if(!in_array($index, $index_colonnes_refusees)) {

					$ligne_inseree[] = $this->traiterChamp($valeur, $index_colonnes_importees[$index]);

				}

			}

			// Ajout du nom complet formaté de la publication

			$nom_complet = $this->bdd->proteger($this->formaterNomComplet($ligne, $index_colonnes_importees));

			$ligne_inseree[] = $nom_complet;

			$lignes[] = "(".implode(",", $ligne_inseree).")";

			$this->stockerAuteursPourLiaisons($ligne[$roles_a_num_colonnes['auteur']], $nom_complet);

		}

		// Ajout de la colonne nom complet aux champs de la requête

		$colonnes_importees[] = 'cpu_fmt_nom_complet';

		// le script renvoie le nombre de publications importées

		$nb_publis_inserees = $this->insererPublications($colonnes_importees, $lignes);

		$nb_auteurs_lies = $this->insererLiensPublicationsAuteurs();

		return $nb_publis_inserees;

	}

	private function stockerAuteursPourLiaisons($infos_auteurs, $nom_complet_publication) {

		// Découpage des différents auteurs

		$auteurs_tab = explode(',', $infos_auteurs);

		$auteurs_tab = array_filter($auteurs_tab);

		foreach($auteurs_tab as $auteur) {

			// si les infos auteurs sont un tableau dans le cache alors son id existe bien en base de données

			if(is_array($this->cache_auteur[$auteur])) {

				// ajout d'une correspondance entre le nom complet de la publi et l'auteur (pour liaison ultérieure)

				// et vice versa, ce qui permet facilement de retrouver à quel auteur est lié quelle publi dans les deux sens

				$this->auteurs_a_publi[$auteur][] = $nom_complet_publication;

				$this->publis_a_auteurs[$nom_complet_publication][] = $auteur;

			}

		}

	}

	protected function insererLiensPublicationsAuteurs() {

		$champs = array('cpuap_id_publication', 'cpuap_id_personne', 'cpuap_id_role', 'cpuap_ce_truk_type', 'cpuap_ordre', 'cpuap_ce_meta');

		$requete = "INSERT IGNORE INTO ".$this->table_publication_a_auteur." ".

					"(".implode(",", $champs).") VALUES ";

		foreach($this->auteurs_a_publi as $auteur => $publis) {

			$id_auteur = $this->cache_auteur[$auteur]['cp_id_personne'];

			// Pour chaque publication importée à laquelle est liée l'auteur

			// il peut avoir un ordre différent

			foreach($publis as $publi) {

				// l'ordre des auteurs commence à 1, les auteurs sont stockés dans l'ordre dans publis_a_auteurs

				$ordre_auteur = array_search($auteur, $this->publis_a_auteurs[$publi]) + 1;

				// Le nom complet de la publication est normalement unique et donc peut servir à retrouver

				// les publications qui ont été insérées par lot (sans en récupérer l'id)

				$sous_requete_id_publi = "SELECT cpu_id_publication FROM coel_publication ".

							"WHERE cpu_fmt_nom_complet IN (".$publi.") ";

				$requete_insertion = $requete." (".

										" (".$sous_requete_id_publi."), ".

										$this->bdd->proteger($id_auteur).", ".

										$this->id_role_auteur.", ".

										"NULL ,".

										$ordre_auteur.", ".

										"NULL".

									") ";

				$insertion = $this->bdd->executer($requete_insertion);

			}

		}

		// TODO: quoi faire en ce qui concerne l'insertion des auteurs ?

		// et le nombre inséré, les éventuels échecs de la requête ?

	}

	protected function formaterNomComplet($ligne, $roles) {

		$roles = array_flip($roles);

		// Intitulé de la publication complet : fmt_auteur, date_parution(année). titre. Editeur (nom), collection, fascicule, indication_nvt. pages.

		// indication_nvt = serie_tome

		$champs_nom_complet = array('auteur', 'annee', 'titre', 'editeur', 'intitule_revue', 'fascicule', 'serie_tome', 'pages');

		$champs_fmt = array();

		$fmt_nom_complet = "";

		foreach($champs_nom_complet as $champ) {

			$index = $roles[$champ];

			if(!isset($ligne[$index])) {

				$champs_fmt[$champ] = "";

			} else {

				$champs_fmt[$champ] = $ligne[$index];

			}

		}

		$indication_nvt_pages = array($champs_fmt['serie_tome'], $champs_fmt['pages']);

		$indication_nvt_pages = array_filter($indication_nvt_pages, 'strlen');

		$indication_nvt_pages = trim(implode(". ", $indication_nvt_pages));

		$indication_nvt_pages .= !empty($indication_nvt_pages) ? "." : "";

		$annee_titre_editeur = array($champs_fmt['annee'], $champs_fmt['titre'], $champs_fmt['editeur']);

		$annee_titre_editeur = array_filter($annee_titre_editeur, 'strlen');

		$annee_titre_editeur = trim(implode(". ", $annee_titre_editeur));

		$fmt_nom_complet =  array($champs_fmt['auteur'],

							$annee_titre_editeur,

							$champs_fmt['intitule_revue'],

							$champs_fmt['fascicule'],

							$indication_nvt_pages);

		$fmt_nom_complet = array_filter($fmt_nom_complet, 'strlen');

		$fmt_nom_complet = implode(", ", $fmt_nom_complet);

		return $fmt_nom_complet;

	}

	private function insererPublications(&$colonnes, &$publications) {

		// Une insertion par tranche de 1000 permet d'insérer sans avoir de mysql

		// timeout qui nécessite de réveiller la connexion de temps en temps.

		// TODO: transactions ?

		$tranches_publis = array_chunk($publications, 1000);

		$nb_publis_inserees = 0;

		foreach($tranches_publis as $tranche) {

			$requete = "INSERT INTO ".$this->table_publication." ".

					   	"(".implode(',', $colonnes).") ".

					   "VALUES ".implode(","."\n", $tranche)."\n";

			$nb_publis_inserees += $this->bdd->executer($requete);

		}

		return $nb_publis_inserees;

	}

	private function traiterChamp($valeur, $role) {

		switch($role) {

			case 'auteur':

				$valeur = $this->traiterChampAuteur($valeur);

			break;

			case 'editeur':

				$valeur = 'AUTRE##'.$valeur;

			break;

		}

		return $this->bdd->proteger($valeur);

	}

	private function traiterChampAuteur($auteur_intitule) {

		$auteurs_fmt = array();

		$auteurs_tab = explode(',', $auteur_intitule);

		foreach($auteurs_tab as $auteur) {

			if(!empty(trim($auteur))) {

				$auteurs_fmt[] = $this->obtenirInfosAuteur($auteur);

			}

		}

		return implode(', ', $auteurs_fmt);

	}

	private function obtenirInfosAuteur($auteur_intitule) {

		$retour = $auteur_intitule;

		// Si on déjà recherché et trouvé (ou non l'auteur)

		if(isset($this->cache_auteur[$auteur_intitule])) {

			// On renvoie son nom complet formaté s'il existe en bdd ou sinon

			// le nom qui a été donné dans la feuille csv

			$retour = !empty($this->cache_auteur[$auteur_intitule]['cp_fmt_nom_complet']) ?

				$this->cache_auteur[$auteur_intitule]['cp_fmt_nom_complet'] :

				$auteur_intitule;

		} else {

			// Recherche de l'auteur sur un maximum du combinaisons possible des variations

			// de son nom et prénom

			$auteur = $this->fabriquerCombinaisonsAuteur($auteur_intitule);

			$auteur_req = "(".implode(', ', $auteur).")";

			$requete = "SELECT cp_id_personne, cp_fmt_nom_complet FROM ".$this->table_auteur." WHERE cp_fmt_nom_complet IN ".$auteur_req;

			$infos_auteur = $this->bdd->recupererTous($requete);

			// Stockage en cache de la ligne de bdd si trouvé,

			// de la valeur brute sinon

			if(!empty($infos_auteur)) {

				$retour = $infos_auteur[0]['cp_fmt_nom_complet'];

				$this->cache_auteur[$auteur_intitule] = $infos_auteur[0];

			} else {

				$retour = $auteur_intitule;

				$this->cache_auteur[$auteur_intitule] = $auteur_intitule;

			}

		}

		return $retour;

	}

	private function fabriquerCombinaisonsAuteur($auteur) {

		$auteur = trim($auteur);

		$auteurs_formates = array($this->bdd->proteger($auteur));

		// Séparation des élements de l'auteur des espaces pour obtenir

		// les noms et prénoms (Ex. "Carl Von Linné" => "Carl", "Von", "Linné")

		$auteur_tab = explode(' ', $auteur);

		$auteur_tab = array_filter($auteur_tab);

		$combinaisons = array();

		foreach($auteur_tab as &$element_auteur) {

			$combinaisons[] = array(

								// élement tel quel (Ex: "Linné")

								$element_auteur,

								// possibilité de l'initiale seule (Ex: "L")

								substr($element_auteur, 0, 1),

								// possibilité de l'initiale avec un point du genre (Ex: "L.")

								substr($element_auteur, 0, 1)."."

							);

		}

		// Fabrication de toutes les combinaisons possibles des parties de noms ci-dessus

		// pour deux et trois élements en faisant plusieurs produits cartésiens

		// car le nom peut être combiné différement de celui en base de données

		// (Ex. : "Carl Von Linné" VS "C. Von Linné" ou "C. V. Linné" ou encore "Von Linné C." etc...)

		// C'est moche et pas très élégant mais bon ça marche dans 90% des cas

		// On ne teste pas plus que 3 combinaisons, car ça serait très très couteux

		// TODO: faire mieux et factoriser les appels ci dessous

		if(count($auteur_tab) > 2) {

			// Cas du nom à trois parties (genre "Carl Von Linné")

			$possibilites_auteurs = $this->cartesian(array($combinaisons[0], $combinaisons[1], $combinaisons[2]));

			$possibilites_auteurs = array_merge($possibilites_auteurs, $this->cartesian(array($combinaisons[0], $combinaisons[2], $combinaisons[1])));

			$possibilites_auteurs = array_merge($possibilites_auteurs, $this->cartesian(array($combinaisons[1], $combinaisons[2], $combinaisons[0])));

			$possibilites_auteurs = array_merge($possibilites_auteurs, $this->cartesian(array($combinaisons[1], $combinaisons[0], $combinaisons[2])));

			$possibilites_auteurs = array_merge($possibilites_auteurs, $this->cartesian(array($combinaisons[2], $combinaisons[1], $combinaisons[0])));

			$possibilites_auteurs = array_merge($possibilites_auteurs, $this->cartesian(array($combinaisons[2], $combinaisons[0], $combinaisons[1])));

		} else {

			// Cas du nom à trois parties (genre "Carl Linné")

			$possibilites_auteurs = $this->cartesian(array($combinaisons[0], $combinaisons[1]));

			$possibilites_auteurs = array_merge($possibilites_auteurs, $this->cartesian(array($combinaisons[1], $combinaisons[0])));

		}

		$auteurs_formates = array();

		foreach($possibilites_auteurs as &$possibilite) {

			$initiales = true;

			// Suppression des possibilités ne contenant que des initiales avec ou sans point

			foreach($possibilite as &$chars) {

				$initiales = $initiales && mb_strlen($chars) <= 2;

			}

			if(!$initiales) {

				$auteurs_formates[] = $this->bdd->proteger(implode(" ", $possibilite));

			}

		}

		return $auteurs_formates;

	}

	// http://stackoverflow.com/questions/6311779/finding-cartesian-product-with-php-associative-arrays

	function cartesian($input) {

		// filter out empty values

		$input = array_filter($input);

		$result = array(array());

		foreach ($input as $key => $values) {

			$append = array();

			foreach($result as $product) {

				foreach($values as $item) {

					$product[$key] = $item;

					$append[] = $product;

				}

			}

			$result = $append;

		}

		return $result;

	}

}

?>