Recuperación dispersa aprendida

La recuperación dispersa aprendida (LSR) o búsqueda neuronal dispersa es un enfoque para la recuperación de información que utiliza una representación vectorial dispersa de consultas y documentos. ^{[ 1 ]} Toma prestadas técnicas tanto de la bolsa de palabras léxica como de los algoritmos de incrustación vectorial , y se afirma que funciona mejor que cualquiera de ellos por separado. Los sistemas de búsqueda neuronal dispersa más conocidos son SPLADE ^{[ 2 ]} y su sucesor SPLADE v2. ^{[ 3 ]} Otros incluyen DeepCT, ^{[ 4 ]} uniCOIL, ^{[ 5 ]} EPIC, ^{[ 6 ]} DeepImpact, ^{[ 7 ]} TILDE y TILDEv2, ^{[ 8 ]} Sparta, ^{[ 9 ]} SPLADE-max y DistilSPLADE-max. ^{[ 3 ]}

Recuperación dispersa multimodal aprendida . Los enfoques LSR también se han extendido al dominio de la visión y el lenguaje, donde se aplican a datos multimodales, como la combinación de texto e imágenes. ^{[ 10 ]} Esta expansión permite la recuperación de contenido relevante en diferentes modalidades, como encontrar imágenes a partir de consultas de texto o viceversa.

Algunas implementaciones de SPLADE tienen una latencia similar a la búsqueda léxica de Okapi BM25, al tiempo que ofrecen resultados tan buenos como los clasificadores neuronales de última generación en datos del dominio. ^{[ 11 ]}

Los pesos del modelo oficial SPLADE y el código de entrenamiento se publican bajo una licencia Creative Commons No Comercial . ^{[ 12 ]} Pero hay otras implementaciones independientes de SPLADE++ (una variante de los modelos SPLADE) que se publican bajo licencias permisivas.

SPRINT es un conjunto de herramientas para evaluar sistemas neuronales de recuperación dispersa. ^{[ 13 ]}

SPLADE (Sparse Lexical and Expansion Model) es un modelo de recuperación neuronal que aprende representaciones vectoriales dispersas para consultas y documentos, combinando elementos de la coincidencia léxica tradicional con representaciones semánticas derivadas de arquitecturas basadas en transformadores. ^{[ 14 ]} A diferencia de los modelos de recuperación densos que se basan en espacios vectoriales continuos, SPLADE produce salidas dispersas que son compatibles con las estructuras de índice invertidas comúnmente utilizadas en los sistemas de recuperación de información. ^{[ 14 ]}

El modelo SPLADE original se presentó en la 44.ª Conferencia Internacional ACM SIGIR en 2021. ^{[ 14 ]} Una versión actualizada, SPLADE v2, incorporó modificaciones a sus mecanismos de agrupación, estrategias de expansión de documentos y objetivos de entrenamiento mediante destilación de conocimiento . Las evaluaciones empíricas han mostrado mejoras en conjuntos de datos de referencia como el conjunto de datos TREC Deep Learning 2019 y el conjunto de datos de referencia BEIR. ^{[ 15 ]}

Estos modelos pretenden mantener una eficiencia de recuperación comparable a la de los métodos dispersos tradicionales, al tiempo que mejoran las capacidades de coincidencia semántica , ofreciendo un equilibrio entre efectividad y coste computacional. ^{[ 16 ]}

• Código fuente de SPLADE en GitHub