Faculté informatique et communications IC, Section d'informatique, Institut des systèmes informatiques et multimédias ISIM (Laboratoire de systèmes logiques LSL)

Coevolutionary fuzzy modeling

Peña Reyes, Carlos Andrés ; Sipper, Moshe (Dir.)

Thèse sciences Ecole polytechnique fédérale de Lausanne EPFL : 2002 ; no 2634.

Ajouter à la liste personnelle
    Summary
    This thesis presents Fuzzy CoCo, a novel approach for system design, conducive to explaining human decisions. Based on fuzzy logic and coevolutionary computation, Fuzzy CoCo is a methodology for constructing systems able to accurately predict the outcome of a human decision-making process, while providing an understandable explanation of the underlying reasoning. Fuzzy logic provides a formal framework for constructing systems exhibiting both good numeric performance (precision) and linguistic representation (interpretability). From a numeric point of view, fuzzy systems exhibit nonlinear behavior and can handle imprecise and incomplete information. Linguistically, they represent knowledge in the form of rules, a natural way for explaining decision processes. Fuzzy modeling —meaning the construction of fuzzy systems— is an arduous task, demanding the identification of many parameters. This thesis analyses the fuzzy-modeling problem and different approaches to coping with it, focusing on evolutionary fuzzy modeling —the design of fuzzy inference systems using evolutionary algorithms— which constitutes the methodological base of my approach. In order to promote this analysis the parameters of a fuzzy system are classified into four categories: logic, structural, connective, and operational. The central contribution of this work is the use of an advanced evolutionary technique —cooperative coevolution— for dealing with the simultaneous design of connective and operational parameters. Cooperative coevolutionary fuzzy modeling succeeds in overcoming several limitations exhibited by other standard evolutionary approaches: stagnation, convergence to local optima, and computational costliness. Designing interpretable systems is a prime goal of my approach, which I study thoroughly herein. Based on a set of semantic and syntactic criteria, regarding the definition of linguistic concepts and their causal connections, I propose a number of strategies for producing more interpretable fuzzy systems. These strategies are implemented in Fuzzy CoCo, resulting in a modeling methodology providing high numeric precision, while incurring as little a loss of interpretability as possible. After testing Fuzzy CoCo on a benchmark problem —Fisher's Iris data— I successfully apply the algorithm to model the decision processes involved in two breast-cancer diagnostic problems: the WBCD problem and the Catalonia mammography interpretation problem. For the WBCD problem, Fuzzy CoCo produces systems both of high performance and high interpretability, comparable (if not better) than the best systems demonstrated to date. For the Catalonia problem, an evolved high-performance system was embedded within a web-based tool —called COBRA— for aiding radiologists in mammography interpretation. Several aspects of Fuzzy CoCo are thoroughly analyzed to provide a deeper understanding of the method. These analyses show the consistency of the results. They also help derive a stepwise guide to applying Fuzzy CoCo, and a set of qualitative relationships between some of its parameters that facilitate setting up the algorithm. Finally, this work proposes and explores preliminarily two extensions to the method: Island Fuzzy CoCo and Incremental Fuzzy CoCo, which together with the original CoCo constitute a family of coevolutionary fuzzy modeling techniques. The aim of these extensions is to guide the choice of an adequate number of rules for a given problem. While Island Fuzzy CoCo performs an extended search over different problem sizes, Incremental Fuzzy CoCo bases its search power on a mechanism of incremental evolution.
    Résumé
    Cette thèse présente Fuzzy CoCo, une nouvelle approche pour la conception de systèmes favorisant l'explication des décisions humaines. Basée sur la logique floue et sur le calcul coévolutionniste, Fuzzy CoCo est une méthodologie visant à construire des systèmes capables de prédire le résultat d'un processus décisionnel humain et de fournir une explication compréhensible du raisonnement sous-jacent. La logique floue fournit un cadre formel pour construire des systèmes qui offrent à la fois une bonne performance numérique (précision), et une représentation linguistique (interprétabilité). D'un point de vue numérique, les systèmes flous sont des systèmes non linéaires capables de traiter une information imprécise et incomplète. Linguistiquement, ils représentent les connaissances sous forme de règles, ce qui est une façon naturelle d'expliquer des processus décisionnels. La modélisation floue —c'est à dire, la conception de systèmes flous— est une tâche difficile, exigeant l'identification de nombreux paramètres. Cette thèse analyse le problème de modélisation floue ainsi que des différentes approches existant pour le résoudre, se focalisant sur la modélisation floue évolutionniste —la conception de systèmes flous en utilisant des algorithmes évolutionnistes— qui constitue la base méthodologique de mon approche. Afin de favoriser cette analyse, les paramètres d'un système flou sont classifiés en quatre catégories: logiques, structuraux, connectifs, et opérationnels. La contribution centrale de ce travail est l'utilisation d'une technique évolutionniste avancée —la coévolution coopérative— pour faire face à la conception simultanée des paramètres connectifs et opérationnels. La modélisation floue par coévolution coopérative réussit à surmonter plusieurs limitations montrées par d'autres approches évolutionnistes: stagnation, convergence aux optimums locaux, et temps élevé de calcul. Concevoir des systèmes interprétables est un des buts principaux de mon approche, que j'étudie complètement. Basé sur un ensemble de critères sémantiques et syntaxiques concernant la définition des concepts linguistiques et leurs liens causals, je propose un certain nombre de stratégies pour produire des systèmes flous plus facilement interprétables. Ces stratégies sont implantées dans Fuzzy CoCo, ayant pour résultat une méthodologie de modélisation fournissant une précision numérique élevée, tout en gardant une interprétabilité aussi élevée que possible. Après avoir essayé Fuzzy CoCo sur un problème benchmark —le problème des iris de Fisher— j'ai appliqué avec succès l'algorithme pour modéliser les processus de décision impliqués dans deux problèmes de diagnostique de cancer du sein: le problème connu comme WBCD et le problème d'interprétation de mammographies de Catalogne. Pour le problème WBCD, Fuzzy CoCo produit des systèmes très performants et hautement interprétables, comparables (sinon superieures) aux meilleurs systèmes rapportés jusqu'à présent. Pour le problème de Catalogne, un très bon système évolué a été inclus dans un outil en ligne —appelé COBRA— aidant des radiologistes à l'interprétation de mammographies. Plusieurs aspects de Fuzzy CoCo sont minutieusement analysés afin de fournir une compréhension aprofondie de la méthode. Ces analyses montrent l'uniformité des résultats obtenus. Sur la base de ces analyses, je propose un guide pour appliquer Fuzzy CoCo, ainsi qu'un ensemble de rapports qualitatifs entre certains de ses paramètres pour faciliter leur choix lors de l'utilisation de l'algorithme. Finalement, ce travail propose et explore, de façon préliminaire, deux extensions à la méthode: Island Fuzzy CoCo et Incremental Fuzzy CoCo. Combinées avec le CoCo original, elles constituent une famille des techniques de modélisation floue coévolutionniste. Le but de ces extensions est de guider le choix du nombre de règles pour un problème donné; tandis que Island Fuzzy CoCo exécute une recherche étendue sur différentes tailles du problème, Incremental Fuzzy CoCo base sa puissance de recherche sur un mécanisme d'évolution incrémentielle.