A fully discriminative training framework for Statistical Machine Translation (Un cadre d’apprentissage intégralement discriminant pour la traduction statistique) [in French]

Un cadre d’apprentissage intégralement discriminant pour la traduction statistique Thomas Lavergne1, 2 Alexandre Allauzen1, 2 François Yvon1, 2 (1) Université Paris Sud 91 405 Orsay (2) LIMSI/CNRS rue John von Neuman 91 405 Orsay {lavergne,allauzen,yvon}@limsi.fr RÉSUMÉ Une faiblesse des systèmes de traduction statistiques est le caractère ad hoc du processus d’ap- prentissage, qui repose sur un empilement d’heuristiques et conduit à apprendre des paramètres dont la valeur est sous-optimale. Dans ce travail, nous reformulons la traduction automatique sous la forme familière de l’apprentissage d’un modèle probabiliste structuré utilisant une pa- ramétrisation log-linéaire. Cette entreprise est rendue possible par le développement d’une implantation efficace qui permet en particulier de prendre en compte la présence de variables latentes dans le modèle. Notre approche est comparée, avec succès, avec une approche de l’état de l’art sur la tâche de traduction de données du BTEC pour le couple Français-Anglais. ABSTRACT A fully discriminative training framework for Statistical Machine Translation A major pitfall of existing statistical machine translation systems is their lack of a proper training procedure. In fact, the phrase extraction and scoring processes that underlie the construction of the translation model typically rely on a chain of crude heuristics, a situation deemed problematic by many. In this paper, we recast machine translation in the familiar terms of a probabilistic structure learning problem, using a standard log-linear parameterization. The tractability of this enterprise is achieved through an efficient implementation that can take into account all the aspects of the underlying translation process through latent variables. We also address the reference reachability issue by using oracle decoding techniques. This approach is experimentally contrasted with a state-of-the-art system on the French-English BTEC translation task. MOTS-CLÉS : Traduction Automatique, Apprentissage Discriminant. KEYWORDS: Machine Translation, Discriminative Learning. 1 Introduction L’objectif d’un système de traduction statistique (STS) consiste à calculer, pour toute phrase en langue source s, la traduction t∗ qui lui est la plus probablement associée. Ce résultat est typiquement obtenu en maximisant une fonction de score Φθ (s,t), paramétrisée par le vecteur θ, sur l’ensemble de toutes les traductions possibles de s. Un choix raisonnable pour Φ est la probabilité conditionnelle de t sachant s pθ (t | s). Étant donnée la taille des espaces d’entrée et de sortie sur lesquels de tels modèles probabilistes TALN-RÉCITAL 2013, 17-21 Juin, Les Sables d’Olonne 450 c￿ ATALA doivent être définis, un modèle pour t sachant s doit être décomposé en modélisant la traduction par une séquence d’étapes de dérivation. Dans les systèmes à base de segments (phrase-based systems) (Zens et al., 2002; Koehn et al., 2003), qui seront considérés dans cette étude, ces étapes de dérivation correspondent à des décisions qui portent (a) sur la délimitation des unités de traduction en langue source, (b) sur le choix d’un équivalent de traduction pour chaque unité définie en (a) ; enfin sur l’ordre relatif dans lequel sont réarrangées (on dira réordonnées) les unités cibles sélectionnées en (b). Dans la mesure où l’apprentissage se fonde uniquement sur l’observation des paires (s,t), ces …

Content truncated to 500 words