Aprendizaje de gramáticas propabilísticas a partir de árboles sintácticos

Abstract

En este artículo se analizan varios tipos de gramáticas independientes del contexto probabilísticas obtenidas a partir de corpus etiquetados sintácticamente (treebanks). Estas gramáticas se utilizan para la desambiguación léxica y sintáctica de frases procedentes del lenguaje natural. Los modelos que aquí se estudian son los siguientes: (1) uno que simplemente extrae las reglas contenidas en el corpus y cuenta el número de ocurrencias de cada una; (2) un modelo que además almacena información acerca de la categoría sintáctica del nodo padre, y (3) un modelo que extrae y estima las probabilidades de las reglas almacenando información acerca de la categoría sintáctica de los hijos. Este último permite análisis sintácticos más eficientes, disminuye considerablemente la perplejidad de los conjuntos de tests y supone formalmente una generalización del concepto de n-gramas al caso de árboles.

In this paper, we compare three different approaches to build a probabilistic context-free grammar for natural language parsing from a tree bank corpus: (1) a model that simply extracts the rules contained in the corpus and counts the number of occurrences of each rule; (2) a model that also stores information about the parent node's category, and (3) a model that estimates the probabilities according to a generalized k-gram scheme for trees with k = 3. The last model allows for faster parsing, decreases considerably the perplexity of test samples and may be seen as a generalization of the classic n-gram models to the case of trees.