Okapi BM25

En la recuperación de información , Okapi BM25 ( BM es la abreviatura de "best matching ", coincidencia óptima ) es una función de clasificación que utilizan los motores de búsqueda para estimar la relevancia de los documentos para una consulta de búsqueda determinada. Se basa en el marco de recuperación probabilística desarrollado en las décadas de 1970 y 1980 por Stephen E. Robertson , Karen Spärck Jones y otros.

El nombre de la función de clasificación propiamente dicha es BM25 . El nombre completo, Okapi BM25 , incluye el nombre del primer sistema que la utilizó, que fue el sistema de recuperación de información Okapi, implementado en la City University de Londres ^{[ 1 ]} en las décadas de 1980 y 1990. BM25 y sus variantes más recientes, por ejemplo, BM25F (una versión de BM25 que puede tener en cuenta la estructura del documento y el texto de anclaje ), representan funciones de recuperación similares a TF-IDF utilizadas en la recuperación de documentos . ^{[ 2 ]}

BM25 es una función de recuperación de bolsa de palabras que clasifica un conjunto de documentos según los términos de consulta que aparecen en cada documento, independientemente de su proximidad dentro del mismo. Es una familia de funciones de puntuación con componentes y parámetros ligeramente diferentes. Una de las implementaciones más destacadas de la función es la siguiente.

Dada una consulta Q que contiene palabras clave${\displaystyle q_{1},...,q_{n}}$, la puntuación BM25 de un documento D es:

${\displaystyle {\text{puntuación}}(D,Q)=\sum _{i=1}^{n}{\text{IDF}}(q_{i})\cdot {\frac {f(q_{i},D)\cdot (k_{1}+1)}{f(q_{i},D)+k_{1}\cdot \left(1-b+b\cdot {\frac {|D|}{\text{promedio}}}\right)}}}$

dónde${\displaystyle f(q_{i},D)}$es el número de veces que la palabra clave${\displaystyle q_{i}}$aparece en el documento D ,${\displaystyle |D|}$es la longitud del documento D en palabras, y avgdl es la longitud promedio de los documentos en la colección de texto de la que se extraen los documentos.${\displaystyle k_{1}}$y b son parámetros libres, generalmente elegidos, en ausencia de una optimización avanzada, como${\displaystyle k_{1}\in [1.2,2.0]}$y${\displaystyle b=0.75}$. ^{[ 3 ]}${\displaystyle {\text{IDF}}(q_{i})}$es el peso IDF ( frecuencia inversa de documento ) del término de consulta${\displaystyle q_{i}}$Generalmente se calcula de la siguiente manera:

${\displaystyle {\text{IDF}}(q_{i})=\ln \left({\frac {N-n(q_{i})+0.5}{n(q_{i})+0.5}}+1\right)}$

donde N es el número total de documentos en la colección, y${\displaystyle n(q_{i})}$es el número de documentos que contienen${\displaystyle q_{i}}$.

Existen varias interpretaciones para IDF y ligeras variaciones en su fórmula. En la derivación original de BM25, el componente IDF se deriva del Modelo de Independencia Binaria .

Aquí hay una interpretación desde la teoría de la información . Supongamos un término de consulta.${\displaystyle q}$aparece en${\displaystyle n(q)}$documentos. Luego, un documento elegido al azar.${\displaystyle D}$contendrá el término con probabilidad${\displaystyle {\frac {n(q)}{N}}}$(dónde${\displaystyle N}$es nuevamente la cardinalidad del conjunto de documentos en la colección). Por lo tanto, el contenido informativo del mensaje "${\displaystyle D}$contiene${\displaystyle q}$" es:

${\displaystyle -\log {\frac {n(q)}{N}}=\log {\frac {N}{n(q)}}.}$

Ahora supongamos que tenemos dos términos de consulta.${\displaystyle q_{1}}$y${\displaystyle q_{2}}$. Si los dos términos aparecen en documentos de forma totalmente independiente entre sí, entonces la probabilidad de ver ambos${\displaystyle q_{1}}$y${\displaystyle q_{2}}$en un documento elegido al azar${\displaystyle D}$es:

${\displaystyle {\frac {n(q_{1})}{N}}\cdot {\frac {n(q_{2})}{N}},}$

y el contenido informativo de dicho evento es:

${\displaystyle \sum _{i=1}^{2}\log {\frac {N}{n(q_{i})}}.}$

Con una pequeña variación, esto es exactamente lo que expresa el componente IDF de BM25.

• En los valores extremos del coeficiente b, BM25 se convierte en funciones de clasificación conocidas como BM11 (para${\displaystyle b=1}$) y BM15 (para${\displaystyle b=0}$). ^{[ 4 ]}
• BM25F ^{[ 5 ] [ 2 ]} (o el modelo BM25 con extensión a múltiples campos ponderados ^{[ 6 ]} ) es una modificación de BM25 en la que el documento se considera compuesto por varios campos (como titulares, texto principal, texto de anclaje) con posibles diferentes grados de importancia, saturación de relevancia de términos y normalización de longitud. BM25F define cada tipo de campo como un flujo , aplicando una ponderación por flujo para escalar cada flujo con respecto a la puntuación calculada.

• BM25+ ^{[ 7 ]} es una extensión de BM25. BM25+ se desarrolló para abordar una deficiencia del BM25 estándar, en la que el componente de normalización de la frecuencia de términos por longitud del documento no está correctamente limitado inferiormente; como resultado de esta deficiencia, los documentos largos que sí coinciden con el término de consulta a menudo pueden ser puntuados injustamente por BM25 como si tuvieran una relevancia similar a la de documentos más cortos que no contienen el término de consulta en absoluto. La fórmula de puntuación de BM25+ solo tiene un parámetro libre adicional.${\displaystyle \delta }$(el valor predeterminado es 1,0 en ausencia de datos de entrenamiento) en comparación con BM25:

${\displaystyle {\text{score}}(D,Q)=\sum _{i=1}^{n}{\text{IDF}}(q_{i})\cdot \left[{\frac {f(q_{i},D)\cdot (k_{1}+1)}{f(q_{i},D)+k_{1}\cdot \left(1-b+b\cdot {\frac {|D|}{\text{avgdl}}}\right)}}+\delta \right]}$

• Stephen E. Robertson; Steve Walker; Susan Jones; Micheline Hancock-Beaulieu y Mike Gatford (noviembre de 1994). Okapi en TREC-3 . Actas de la Tercera Conferencia de Recuperación de Texto (TREC 1994) . Gaithersburg, EE. UU.
• Stephen E. Robertson; Steve Walker y Micheline Hancock-Beaulieu (noviembre de 1998). Okapi en TREC-7 . Actas de la Séptima Conferencia de Recuperación de Texto . Gaithersburg, EE. UU.
• Spärck Jones, K. ; Walker, S.; Robertson, SE (2000). "Un modelo probabilístico de recuperación de información: Desarrollo y experimentos comparativos: Parte 1". Information Processing & Management . 36 (6): 779– 808. CiteSeerX 10.1.1.134.6108 . doi : 10.1016/S0306-4573(00)00015-7 . 
• Spärck Jones, K. ; Walker, S.; Robertson, SE (2000). "Un modelo probabilístico de recuperación de información: Desarrollo y experimentos comparativos: Parte 2". Information Processing & Management . 36 (6): 809– 840. doi : 10.1016/S0306-4573(00)00016-9 .
• Stephen Robertson y Hugo Zaragoza (2009). "El marco de relevancia probabilística: BM25 y más allá" . Fundamentos y tendencias en la recuperación de información . 3 (4): 333– 389. CiteSeerX 10.1.1.156.5282 . doi : 10.1561/1500000019 . S2CID 207178704 .  

• Robertson, Stephen ; Zaragoza, Hugo (2009). El marco de relevancia probabilística: BM25 y más allá (PDF) . NOW Publishers, Inc. ISBN 978-1-60198-308-4.