La discrepancia de vocabulario es un fenómeno común en el uso de las lenguas naturales, que ocurre cuando diferentes personas nombran la misma cosa o concepto de manera diferente. También se conoce como problema de vocabulario, brecha de vocabulario, discrepancia de términos o brecha semántica. [ 1 ]
Furnas et al. (1987) fueron quizás los primeros en estudiar cuantitativamente el problema de la discrepancia de vocabulario. [ 2 ] Sus resultados muestran que, en promedio, el 80% de las personas diferentes (expertos en el mismo campo) nombrarán la misma cosa de manera diferente. Por lo general, hay decenas de nombres posibles que se pueden atribuir a la misma cosa. Esta investigación motivó el trabajo sobre la indexación semántica latente .
Causas
Una fuente de incongruencia léxica son las diferencias en la forma flexiva , como usar una palabra femenina en lugar de una masculina, o una forma plural en lugar de una singular. [ 3 ] La derivación y la lematización son dos métodos diferentes para abordar esta causa, convirtiendo todas las variaciones de una palabra a una sola forma. [ 3 ]
La discrepancia de vocabulario también se produce cuando el lenguaje cambia con el tiempo. Por ejemplo, un médico puede buscar artículos sobre " diabetes mellitus tipo 1 " y no encontrar artículos sobre "diabetes juvenil" debido a un cambio en la terminología. [ 1 ]
En la recuperación de información
La discrepancia de vocabulario entre las consultas creadas por el usuario y los documentos relevantes en un corpus causa el problema de la discrepancia de términos en la recuperación de información . Zhao y Callan (2010) [ 4 ] fueron quizás los primeros en estudiar cuantitativamente el problema de la discrepancia de vocabulario en un contexto de recuperación. Sus resultados muestran que un término de consulta promedio no aparece en el 30-40% de los documentos relevantes para la consulta del usuario. También demostraron que esta probabilidad de discrepancia es una probabilidad central en uno de los modelos probabilísticos fundamentales de recuperación, el Modelo de Independencia Binaria . Desarrollaron nuevos métodos de predicción de peso de términos que pueden conducir a ganancias de precisión de recuperación de entre el 50% y el 80% en comparación con modelos de recuperación de palabras clave robustos. Investigaciones posteriores en esta línea muestran que los usuarios expertos pueden usar la expansión de la Forma Normal Conjuntiva Booleana para mejorar el rendimiento de la recuperación entre un 50% y un 300% en comparación con las consultas de palabras clave sin expandir. [ 5 ]
Técnicas de mitigación
- Indexación de texto completo en lugar de indexar solo palabras clave o resúmenes.
- Uso de vocabularios controlados tanto en la indexación como en la recuperación, como taxonomías u ontologías [ 6 ].
- Indexación de texto en enlaces entrantes desde otros documentos (u otro etiquetado social )
- Expansión de consultas . La expansión de consultas puede ser interactiva, lo que significa que el usuario puede elegir palabras relacionadas, o automática, lo que significa que el sistema de recuperación agrega palabras adicionales a la consulta sin la entrada del usuario. [ 3 ] Un estudio de 2012 realizado por Zhao y Callan [ 5 ] utilizando consultas de forma normal conjuntiva manual creadas por expertos ha demostrado que la expansión de búsqueda de sinónimos en la forma normal conjuntiva booleana es mucho más efectiva que la expansión tradicional de bolsa de palabras, por ejemplo, la expansión de Rocchio .
- Modelos basados en la traducción
Otros contextos
En ingeniería de software , la discrepancia de vocabulario se ha descrito como una barrera para la detección de problemas duplicados. [ 7 ]
Referencias
- 1 2 Fitzgerald, Kyle Andrew; de la Harpe, Andre Charles; Uys, Corrie Susanna; Bytheway, Andrew John (9 de diciembre de 2021). "Recuperación de información: Solución de vocabulario no coincidente en colecciones de documentos cerradas" (PDF) . Revista Sudafricana de Bibliotecas y Ciencias de la Información . 87 (2).
- ↑ Furnas, G., et al, El problema del vocabulario en la comunicación entre humanos y sistemas, Communications of the ACM, 1987, 30(11), pp. 964-971.
- 1 2 3 Shekarpour, Saeedeh; Marx, Edgard; Auer, Sören; Sheth, Amit (2017). RQUERY: Reescritura de consultas en lenguaje natural en grafos de conocimiento para aliviar el problema de la discrepancia de vocabulario (PDF) . Trigésimo primera Conferencia AAAI sobre Inteligencia Artificial (AAAI-17). pág. 1.
- ↑ Zhao, L. y Callan, J., Predicción de la necesidad de términos, Actas de la 19.ª Conferencia ACM sobre Gestión de la Información y el Conocimiento (CIKM 2010). Toronto, Canadá, 2010.
- 1 2 Zhao, L. y Callan, J., Diagnóstico automático de discrepancias de términos para la expansión selectiva de consultas, SIGIR 2012.
- ↑ MN Asim, M. Wasim, MU Ghani Khan, N. Mahmood y W. Mahmood, El uso de la ontología en la recuperación: un estudio sobre la recuperación textual, multilingüe y multimedia, IEEE Access, vol. 7, pp. 21662-21686, 2019, doi: 10.1109/ACCESS.2019.2897849.
- ↑ Chaparro, Oscar; Florez, Juan Manuel; Marcus, Andrian (2016). Sobre la concordancia de vocabulario en las descripciones de problemas de software (PDF) . Conferencia Internacional IEEE de 2016 sobre Mantenimiento y Evolución de Software (ICSME). IEEE.
- Investigación lingüística
- Técnicas de recuperación de información
- Procesamiento del lenguaje natural