Los espacios semánticos [ nota 1 ] [ 1 ] en el dominio del lenguaje natural buscan crear representaciones del lenguaje natural que sean capaces de capturar significado. La motivación original para los espacios semánticos proviene de dos desafíos centrales del lenguaje natural: la falta de coincidencia de vocabulario (el hecho de que el mismo significado se puede expresar de muchas maneras) y la ambigüedad del lenguaje natural (el hecho de que el mismo término puede tener varios significados).
La aplicación de espacios semánticos en el procesamiento del lenguaje natural (PLN) busca superar las limitaciones de los enfoques basados en reglas o modelos que operan a nivel de palabra clave . El principal inconveniente de estos enfoques es su fragilidad y el gran esfuerzo manual requerido para crear sistemas de PLN basados en reglas o corpus de entrenamiento para el aprendizaje de modelos. [ 2 ] [ 3 ] Los modelos basados en reglas y en aprendizaje automático están fijos a nivel de palabra clave y fallan si el vocabulario difiere del definido en las reglas o del material de entrenamiento utilizado para los modelos estadísticos.
La investigación en espacios semánticos se remonta a más de 20 años. En 1996, se publicaron dos artículos que generaron gran interés en torno a la idea general de crear espacios semánticos: el análisis semántico latente [ 4 ] y el Hiperespacio Análogo al Lenguaje [ 5 ] . Sin embargo, su adopción se vio limitada por el gran esfuerzo computacional requerido para construir y utilizar dichos espacios semánticos. Un avance significativo en cuanto a la precisión del modelado de relaciones asociativas entre palabras (por ejemplo, "telaraña", "encendedor-cigarrillo", en contraposición a relaciones sinónimas como "ballena-delfín", "astronauta-conductor") se logró mediante el análisis semántico explícito (ESA) [ 6 ] en 2007. El ESA fue un enfoque novedoso (no basado en aprendizaje automático) que representaba las palabras en forma de vectores con 100 000 dimensiones (donde cada dimensión representa un artículo de Wikipedia ). Sin embargo, las aplicaciones prácticas de este enfoque son limitadas debido a la gran cantidad de dimensiones requeridas en los vectores.
Más recientemente, los avances en las técnicas de redes neuronales en combinación con otros enfoques nuevos ( tensores ) llevaron a una serie de nuevos desarrollos recientes: Word2vec [ 7 ] de Google , GloVe [ 8 ] de la Universidad de Stanford y fastText [ 9 ] de los laboratorios de Facebook AI Research (FAIR).
Véase también
Referencias
- ↑ También conocido como espacios semánticos distribuidos o memoria semántica distribuida
- ↑ Baroni, Marco; Lenci, Alessandro (2010). "Memoria distributiva: un marco general para la semántica basada en corpus". Lingüística computacional . 36 (4): 673– 721. CiteSeerX 10.1.1.331.3769 . doi : 10.1162/coli_a_00016 . S2CID 5584134 .
- ↑ Scott C. Deerwester; Susan T. Dumais; Thomas K. Landauer; George W. Furnas; Richard A. Harshen (1990). "Indexación mediante análisis semántico latente" (PDF) . Revista de la Sociedad Americana de Ciencias de la Información .
- ↑ Xing Wei; W. Bruce Croft (2007). "Investigación del rendimiento de la recuperación con modelos de temas construidos manualmente" . Actas de RIAO '07 Acceso semántico a gran escala al contenido (texto, imagen, vídeo y sonido) . Riao '07: 333–349 .
- ↑ "LSA: Una solución al problema de Platón" . lsa.colorado.edu . Consultado el 19 de abril de 2016 .
- ↑ Lund, Kevin; Burgess, Curt (1996-06-01). "Producción de espacios semánticos de alta dimensión a partir de la coocurrencia léxica" . Behavior Research Methods, Instruments, & Computers . 28 (2): 203– 208. doi : 10.3758/BF03204766 . ISSN 0743-3808 .
- ↑ Evgeniy Gabrilovich y Shaul Markovitch (2007). "Cálculo de la relación semántica mediante análisis semántico explícito basado en Wikipedia" (PDF) . Actas de la 20.ª Conferencia Internacional Conjunta sobre Inteligencia Artificial (IJCAI). Págs. 1606–1611 . Archivado del original (PDF) el 29 de octubre de 2019. Consultado el 15 de septiembre de 2019 .
- ↑ Tomas Mikolov; Ilya Sutskever; Kai Chen; Greg Corrado; Jeffrey Dean (2013). "Representaciones distribuidas de palabras y frases y su composicionalidad". arXiv : 1310.4546 [ cs.CL ].
- ↑ Jeffrey Pennington; Richard Socher; Christopher D. Manning (2014). "GloVe: Vectores globales para la representación de palabras" (PDF) .
- ↑ Mannes, John (2 de mayo de 2017). "La biblioteca fastText de Facebook ahora está optimizada para dispositivos móviles" . TechCrunch . Consultado el 12 de enero de 2018 .
- Semántica
- Relaciones semánticas
- Procesamiento del lenguaje natural