Approche supervisée à base de cellules LSTM bidirectionnelles pour la désambiguïsation lexicale [Supervised Approach Based on Bidirectional LSTM Cells for Word Sense Disambiguation]

Approche supervisée à base de cellules LSTM bidirectionnelles pour la désambiguïsation lexicale Loïc Vial — Benjamin Lecouteux — Didier Schwab Univ. Grenoble Alpes, CNRS, Grenoble INP, LIG, 38000 Grenoble, France {loic.vial,benjamin.lecouteux,didier.schwab}@univ-grenoble-alpes.fr RÉSUMÉ. En désambiguïsation lexicale, l’utilisation des réseaux de neurones est encore peu présente et très récente. Cette direction est pourtant très prometteuse, tant les résultats obtenus par ces premiers systèmes arrivent systématiquement en tête des campagnes d’évaluation, mal- gré une marge d’amélioration qui semble encore importante. Nous présentons dans cet article une nouvelle architecture à base de réseaux de neurones pour la désambiguïsation lexicale. Notre système est à la fois moins complexe à entraîner que les systèmes neuronaux existants et il obtient des résultats état de l’art sur la plupart des tâches d’évaluation de la désambi- guïsation lexicale en anglais. L’accent est porté sur la reproductibilité de notre système et de nos résultats, par l’utilisation d’un modèle de vecteurs de mots, de corpus d’apprentissage et d’évaluation librement accessibles. ABSTRACT. In Word Sense Disambiguation, there are still few usages of neural networks. This direction is very promising however, the results obtained by these first systems being systemat- ically in the top of the evaluation campaigns, with a scope for improvement which seems still large. We present in this paper a new architecture based on neural networks for Word Sense Disambiguation. Our system is at the same time less difficult to train than existing neural net- works, and it obtains state of the art results on most evaluation tasks in English. The focus is on the reproducibility of our system and our results, through the use of a word embeddings model, training corpora and evaluation corpora freely accessible. MOTS-CLÉS : désambiguïsation lexicale, approche supervisée, LSTM, réseau neuronal. KEYWORDS: Word Sense Disambiguation, Supervised Approach, LSTM, Neural Network. TAL. Volume 59 - n◦1/2018, pages 65 à 89 66 TAL. Volume 59 - n◦1/2018 1. Introduction La désambiguïsation lexicale (DL) est une tâche centrale en traitement automa- tique des langues (TAL) qui vise à attribuer le sens le plus probable à un mot donné dans un document, à partir d’un inventaire prédéfini de sens. Il existe une multitude d’approches pour la DL, dont les approches supervisées, qui utilisent des méthodes d’apprentissage automatique couplées à de grandes quan- tités de données manuellement annotées, les approches à base de connaissances, qui s’appuient sur des ressources lexicales telles que des dictionnaires, des thésaurus ou des réseaux lexicaux par exemple, les approches semi-supervisées, non supervisées, ou encore les approches à base de graphes ou de similarités. Pour un état de l’art plus complet, le lecteur est invité à lire par exemple Navigli (2009). Depuis la création des campagnes d’évaluation pour les systèmes de DL telles que SensEval-SemEval, les approches supervisées se retrouvent systématiquement dans les premières places en termes de scores obtenus (Iacobacci et al., 2016). Alors que les utilisations de techniques d’apprentissage à base de réseaux de neurones se multiplient dans la plupart des champs de recherche du TAL, par exemple pour la représentation vectorielle des mots …

Content truncated to 500 words