La Variabilité dans le Big Data se réfère aux données dont la signification change de manière
continue. Par exemple, les données des plateformes sociales et les données des applications
de surveillance, présentent une grande variabilité. Cette variabilité est dûe aux différences
dans la distribution de données sous-jacente comme l’opinion de populations d’utilisateurs
ou les mesures des réseaux d’ordinateurs, etc. L’Analyse de Différences a comme objectif
l’étude de la variabilité des Données Massives. Afin de réaliser cet objectif, les data scientists
ont besoin (a) de mesures de comparaison de données pour différentes dimensions telles
que l’âge pour les utilisateurs et le sujet pour le traffic réseau, et (b) d’algorithmes efficaces
pour la détection de différences à grande échelle. Dans cette thèse, nous identifions et
étudions trois nouvelles tâches analytiques :
L’Exploration des Différences, l’Explication des Différences et l’Evolution des Différences.
L’Exploration des Différences s’attaque à l’extraction de l’opinion de différents segments
d’utilisateurs (ex., sur un site de films). Nous proposons des mesures adaptées à la comparaison de distributions de notes attribuées par les utilisateurs, et des algorithmes efficaces
qui permettent, à partir d’une opinion donnée, de trouver les segments qui sont d’accord ou
pas avec cette opinion. L’Explication des Différences s’intéresse à fournir une explication
succinte de la différence entre deux ensembles de données (ex., les habitudes d’achat de
deux ensembles de clients). Nous proposons des fonctions de scoring permettant d’ordonner
les explications, et des algorithmes qui guarantissent de fournir des explications à la fois
concises et informatives. Enfin, l’Evolution des Différences suit l’évolution d’un ensemble
de données dans le temps et résume cette évolution à différentes granularités de temps. Nous
proposons une approche basée sur le requêtage qui utilise des mesures de similarité pour
comparer des clusters consécutifs dans le temps. Nos index et algorithmes pour l’Evolution
des Différences sont capables de traiter des données qui arrivent à différentes vitesses et
des types de changements différents (ex., soudains, incrémentaux). L’utilité et le passage à
l’échelle de tous nos algorithmes reposent sur l’exploitation de la hiérarchie dans les données
(ex., temporelle, démographique).
Afin de valider l’utilité de nos tâches analytiques et le passage à l’échelle de nos algo-
rithmes, nous réalisons un grand nombre d’expériences aussi bien sur des données synthé-
tiques que réelles.
Nous montrons que l’Exploration des Différences guide les data scientists ainsi que
les novices à découvrir l’opinion de plusieurs segments d’internautes à grande échelle.
L’Explication des Différences révèle la nécessité de résumer les différences entre deux
ensembles de donnes, de manière parcimonieuse et montre que la parcimonie peut être
atteinte en exploitant les relations hiérarchiques dans les données. Enfin, notre étude sur
l’Evolution des Différences fournit des preuves solides qu’une approche basée sur les requêtes
est très adaptée à capturer des taux d’arrivée des données variés à plusieurs granularités de
temps. De même, nous montrons que les approches de clustering sont adaptées à différents
types de changement.
(EL)
Variability in Big Data refers to data whose meaning changes continuously. For instance, data
derived from social platforms and from monitoring applications, exhibits great variability.
This variability is essentially the result of changes in the underlying data distributions of
attributes of interest, such as user opinions/ratings, computer network measurements, etc.
Difference Analysis
aims to study variability in Big Data. To achieve that goal, data scientists
need: (a) measures to compare data in various dimensions such as age for users or topic for
network traffic, and (b) efficient algorithms to detect changes in massive data. In this thesis,
we identify and study three novel analytical tasks to capture data variability:
Difference Exploration, Difference Explanation and Difference Evolution.
Difference Exploration is concerned with extracting the opinion of different user segments
(e.g., on a movie rating website). We propose appropriate measures for comparing user
opinions in the form of rating distributions, and efficient algorithms that, given an opinion
of interest in the form of a rating histogram, discover agreeing and disagreeing populations.
Difference Explanation tackles the question of providing a succinct explanation of differences
between two datasets of interest (e.g., buying habits of two sets of customers). We propose
scoring functions designed to rank explanations, and algorithms that guarantee explanation
conciseness and informativeness. Finally, Difference Evolution tracks change in an input
dataset over time and summarizes change at multiple time granularities. We propose a
query-based approach that uses similarity measures to compare consecutive clusters over
time. Our indexes and algorithms for Difference Evolution are designed to capture different
data arrival rates (e.g., low, high) and different types of change (e.g., sudden, incremental).
The utility and scalability of all our algorithms relies on hierarchies inherent in data (e.g.,
time, demographic).
We run extensive experiments on real and synthetic datasets to validate the usefulness
of the three analytical tasks and the scalability of our algorithms. We show that Difference
Exploration guides end-users and data scientists in uncovering the opinion of different user
segments in a scalable way. Difference Explanation reveals the need to parsimoniously
summarize differences between two datasets and shows that parsimony can be achieved by
exploiting hierarchy in data. Finally, our study on Difference Evolution provides strong
evidence that a query-based approach is well-suited to tracking change in datasets with
varying arrival rates and at multiple time granularities. Similarly, we show that different
clustering approaches can be used to capture different types of change.
(EN)