Clermont Auvergne INP

Soutenance de thèse sur le Big Data

Thuong-Cang PHAN, du LIMOS, soutient sa thèse la lundi 7 Juillet 2014 à 14h dans la salle du conseil de l’ISIMA sur le sujet suivant

Optimization for Big Joins and Recursive Query Evaluation using Intersection and Difference Filters in MapReduce.

Résumé
La communauté informatique a créé une quantité de données sans précédent grâce aux applications à grande échelle. Ces données massives sont considérées comme une mine d’or, ces informations n’attendant que la puissance de traitement sûre et appropriée à l’évaluation d’algorithmes d’analyse complexe. MapReduce est un des modèles de programmation les plus réputés, connu pour la gestion de ce type de traitement. Il est devenu un standard pour le traitement, l’analyse et la génération de grandes quantités de données en parallèle. Cependant, le modèle de programmation MapReduce souffre d’importantes limites pour des opérations non simples (scans ou regroupements simples), en particulier les traitements avec entrées multiples. Dans ce mémoire, nous étudions et optimisons l’évaluation, dans un environnement MapReduce, d’une des opérations les plus importantes et représentatives : la jointure. Notre travail aborde, en plus de la jointure binaire, des jointures complexes comme la jointure multidimensionnelle et la jointure récursive.
Pour atteindre ces objectifs, nous proposons d’abord un nouveau type de filtre appelé filter d’intersection qui utilise un modèle probabiliste pour représenter une approximation de l’intersection des ensembles. Le filtre d’intersection est ensuite appliqué à l’opération de jointure bidirectionnelle pour éliminer la majorité des éléments non-joints dans des ensembles de données d’entrée, avant d’envoyer les données pour le processus de jointure. De plus, nous proposons une extension du filtre d’intersection pour améliorer l’efficacité de la jointure ternaire et de la jointure en cascade correspondant à un cycle de jointure avec plusieurs clés partagées lors de la jointure. Nous utilisons la méthode des multiplicateurs de Lagrange afin de réaliser un choix pertinent entre les différentes solutions proposées pour les jointures multidimensionnelles.

Une autre proposition est le filtre de différence, une structure de données probabiliste formée pour représenter un ensemble et examiner des éléments disjoints. Ce filtre peut être appliqué à un grand nombre de problèmes, tels que la réconciliation, la déduplication, la correction d’erreur et en ce qui nous concerne la jointure récursive. Une jointure récursive utilisant un filtre de différence est effectuée comme une répétition de jointures en lieu et place d’une jointure et d’un processus de différenciation. Cette amélioration réduit de moitié le nombre de tâches effectués et les associés tels que la lecture des données, la génération des données intermédiaire et les communications. Ceci permet notamment une amélioration de l’évaluation de l’algorithme semi-naïf et par conséquent l’évaluation des requêtes récursives en MapReduce.
 Ensuite, nous fournissons des modèles de coût généraux pour les jointures binaire, à n-aire et récursive. Grâce à ces modèles, nous pouvons comparer les algorithmes de jointure les plus représentatifs. Ainsi, nous pouvons montrer l’intérêt des filtres proposés, grâce notamment à la réduction des coûts E/S (entrée/ sortie) sur disque et sur réseau. De plus, des expérimentations ont été menées, montrant l’efficacité du filtre d’intersection par rapport aux solutions, en comparant en particulier des critères tels que la quantité de données intermédiaires, la quantité de données produites en sortie, le temps
d’exécution et la répartition des tâches. Nos propositions pour les opérations de jointure contribuent à l’optimisation en général de la gestion de données à l’aide du paradigme MapReduce sur des infrastructures distribuées à grande échelle.

Le jury est composé de 
* Dominique LAURENT – Professeur, Université de Cergy-Pontoise – Rapporteur
* Genoveva Vargas Solar – HDR, LIG-LAFMIA, CNRS – Rapporteur
* Farouk TOUMANI – Professeur, Université Blaise Pascal – Examinateur
* Mohand-Said HACID – Professeur, Université Claude-Bernard Lyon 1 – Examinateur
* Laurent d’Orazio – MCF, Université Blaise Pascal – Codirecteur
* Philippe RIGAUX – Professeur, CNAM Paris – Codirecteur

Contact
Campus universitaire des Cézeaux
1 Rue de la Chebarde
TSA 60026
63178 Aubière CEDEX

© 2023 – Copyright – Site réalisé par Ziben

Abonnez-vous à notre lettre d’information pour suivre toute l'actualité de l'ISIMA.
BV_Certification_ISO 9001-2008
CyberEdu