Faculté des sciences économiques et sociales

Ontology engineering using formal concept analysis from unstructured textual data

Jabbari, Simin ; Stoffel, Kilian (Dir.)

Thèse de doctorat : Université de Neuchâtel, 2019 ; 2806.

Knowledge extraction especially from unstructured data such as texts has been always considered as one of the highly demanded requests with lots of applications in almost all industries. Design and building of solutions that are capable of extracting knowledge, in an almost automated way, is not an easy task at all. Many researchers have proposed variety of methodologies and algorithms to... More

Add to personal list
    Résumé
    L’extraction de connaissances, en particulier à partir de données non structurées tels que les textes, a longtemps était considérée comme une des demandes les plus souhaitées, avec un grand nombre d’applications dans presque toutes les industries. La conception, ainsi que la mise en place de solutions capables d’extraire des connaissances, de façon presque automatique, est loin d’être une tâche facile. Depuis déjà plusieurs décennies, différents chercheurs ont proposé une variété de méthodologies et d’algorithmes afin de décrire comment donner une certaine structure à des données textuelles, avec pour but ultime l’extraction de connaissances. Un des éléments clés de ces solutions est d’utiliser une ontologie reposant sur une structure de graphe, et rendant possible une représentation de connaissances. Cependant, la construction d’ontologies, en particulier à partir de textes, n’est pas aisée. A notre connaissance, il n’y a pas encore de méthodologie complète décrivant la construction d’une ontologie à partir du traitement de données textuelles, dans un domaine d’intérêt donné, pour être par la suite utilisée pour l’extraction de connaissances explicites ainsi que implicites (sémantiques). L’objectif de cette thèse est de proposer un pipeline décrivant comment partir de l’analyse de textes pour finalement arriver à une ontologie comprenant les propositions les plus informatives de ce corpus de textes sur un contexte donné, et dans le but d’être utilisé pour l’extraction de connaissances. Ce pipeline repose sur l’utilisation de trois méthodes d’analyse de données, tout aussi différentes que complémentaires, incluant (i) le traitement du langage naturel, (ii) l’analyse formelle de concepts, et (iii) l’apprentissage d’ontologies. En résumé, le pipeline débutera par une exploration du corpus de textes en entrée (pour un domaine d’intérêt bien défini), faisant usage des techniques de traitement du langage naturel les plus avancées. L’analyse formelle de concepts sera par la suite utilisée pour former les concepts et construire leurs hiérarchies (i.e., un treillis de concepts), constituant le fondement de l’ontologie désirée. Enfin, les propositions les plus informatives du corpus de textes seront intégrées au sein de l’ontologie, dérivée au préalable d’un ensemble d’algorithmes proposés dans cette thèse et appliqués au treillis de concepts susmentionné. Afin de valider la précision de notre pipeline, nous l’avons testé avec quelques exemples synthétiques ainsi qu’avec de vrais cas d’utilisation dans le contexte de l’industrie pharmaceutique. Nous avons pu démontrer qu’une telle ontologie obtenue peut être utilisée pour interroger d’importantes connaissances ainsi que des informations extraites de données textuelles non structurées, et peut être employée comme élément central au sein d’un moteur de recherche intelligent, avec des applications en analyse sémantique. Un des avantages de notre solution est de minimiser l’intervention humaine, contrairement à beaucoup d’autres solutions déjà existantes et aux performances fortement dépendantes de la présence ou non d’un expert en la matière tout au long du processus de construction de l’ontologie. Lors du processus de validation, nous impliquons toutefois toujours l’expertise humaine, afin de garantir la constante amélioration de notre ontologie.
    Summary
    Knowledge extraction especially from unstructured data such as texts has been always considered as one of the highly demanded requests with lots of applications in almost all industries. Design and building of solutions that are capable of extracting knowledge, in an almost automated way, is not an easy task at all. Many researchers have proposed variety of methodologies and algorithms to describe how one can give some structure to textual data with the ultimate goal of knowledge extraction since decades ago. One of the key elements of those solutions is to utilize ontology as a graph-like structure for representing knowledge. Building ontologies especially from textual data, however, is not quite straightforward. To the best of our knowledge, there is no yet a comprehensive methodology to describe how one can form an ontology from processing textual data in a given domain of interest to be later used for explicit as well as implicit (or semantic) knowledge extraction. In this thesis, we propose a pipeline to describe how we can start from analyzing texts to end up with an ontology, which is equipped with the most informative statements of that text corpus about a given context, in order to be used for knowledge extraction. The proposed pipeline is based on utilization of three different yet complementary data analysis methods including (i) natural language processing, (ii) formal concept analysis, and (iii) ontology learning. In a nutshell, the pipeline will start by mining the input text corpus (in a given domain of interest) using state-of-the-art natural language processing techniques. The formal concept analysis will then be used to form the concepts and build the hierarchies among them (i.e., a concept lattice) as the cornerstone of the desired ontology. Finally, the most informative statements extracted from text corpus will be embedded into the ontology, that has been derived from a set of proposed algorithms applied on the aforementioned concept lattice. To validate the accuracy of the proposed pipeline we tested it on a few toy examples as well as a real use case in the context of pharmaceuticals. We could demonstrate that such an engineered ontology can be used for querying valuable knowledge and insights from unstructured textual data, and to be employed as the core component of smart search engines with applications in semantic analysis. One of the advantages of our proposed solution is that it does not require so much of human intervention, as opposed to many existing solutions whose performance highly depends on the presence of a subject matter expert along the ontology engineering process. It does not, however, mean that our proposed pipeline cannot benefit from existence of such additional information resources to be further empowered by human expertise in shaping ontologies.