La barrera de precisión es un concepto en los sistemas de recomendación que se refiere a los límites en la utilidad práctica de las métricas de evaluación basadas en la precisión. Describe la observación de que las mejoras en las medidas de precisión offline , como el error de predicción o la precisión de la clasificación , no necesariamente conducen a una mejor experiencia de usuario o rendimiento del sistema en el mundo real. El concepto está estrechamente relacionado con discusiones anteriores sobre una barrera mágica , que atribuyen tales límites a la variabilidad natural en el comportamiento y la retroalimentación del usuario. [ 1 ]
Fondo
El término barrera mágica fue acuñado por Herlocker et al. para describir un límite hipotético en la precisión de las recomendaciones causado por la variabilidad natural en las calificaciones de los usuarios, basándose en observaciones de que diferentes algoritmos a menudo convergen a niveles de precisión similares cuando se evalúan sin conexión. [ 2 ] En la literatura posterior, este límite se ha discutido en términos de sus implicaciones para la evaluación basada en la precisión, a menudo denominada barrera de precisión. Said et al. proporcionaron una caracterización matemática de este límite en términos de ruido de calificación y minimización del riesgo empírico , enmarcándolo como un límite inferior en la precisión de predicción alcanzable para los sistemas de recomendación. [ 3 ]
Los estudios de usuarios han demostrado que las personas suelen proporcionar calificaciones inconsistentes cuando se les pide que evalúen los mismos elementos en diferentes momentos. Esta variabilidad introduce ruido en los conjuntos de datos de los sistemas de recomendación e impone un límite inferior a la precisión de predicción alcanzable. Como resultado, las métricas de evaluación offline pueden converger incluso cuando los algoritmos de recomendación difieren en diseño o complejidad. [ 4 ] [ 5 ]
Trascendencia
La barrera de la precisión ha influido en las prácticas de evaluación de los sistemas de recomendación, impulsando la investigación más allá de la optimización centrada en la precisión. Ha contribuido a una mayor atención a los criterios de evaluación conductuales y centrados en el usuario, así como a la cautela ante la sobreinterpretación de pequeñas mejoras en los puntos de referencia de precisión offline. [ 6 ]
Véase también
Referencias
- ↑ Jurdi, Wissam Al; Abdo, Jacques Bou; Demerjian, Jacques; Makhoul, Abdallah (31 de octubre de 2021). "Crítica sobre el ruido natural en los sistemas de recomendación" . ACM Transactions on Knowledge Discovery from Data . 15 (5): 1– 30. doi : 10.1145/3447780 . ISSN 1556-4681 .
- ↑ Herlocker, Jonathan L.; Konstan, Joseph A.; Terveen, Loren G.; Riedl, John T. (2004). "Evaluación de sistemas de recomendación de filtrado colaborativo". ACM Transactions on Information Systems . 22 (1): 5– 53. doi : 10.1145/963770.963772 . ISSN 1046-8188 .
- ↑ Said, Alan; Jain, Brijnesh J.; Narr, Sascha; Plumbaum, Till (2012). Masthoff, Judith; Mobasher, Bamshad; Desmarais, Michel C.; Nkambou, Roger (eds.). Usuarios y ruido: la barrera mágica de los sistemas de recomendación . Modelado, adaptación y personalización del usuario (UMAP 2012). Notas de clase en ciencias de la computación. Vol. 7379. Berlín, Heidelberg: Springer. págs. 237–248 . doi : 10.1007/978-3-642-31454-4_20 .
- ↑ Amatriain, Xavier; Pujol, Josep M.; Oliver, Nuria (2009). "Me gusta... No me gusta: Evaluación del ruido en las valoraciones de los usuarios en los sistemas de recomendación". Modelado, adaptación y personalización del usuario . Vol. 5535. Berlín, Heidelberg: Springer Berlin Heidelberg. doi : 10.1007/978-3-642-02247-0_24 . ISBN 978-3-642-02246-3.
- ↑ Jasberg, Kevin; Sizov, Sergej (27 de agosto de 2017). La barrera mágica revisitada: Acceso a las limitaciones naturales de la evaluación de sistemas de recomendación . ACM. doi : 10.1145/3109859.3109898 . ISBN 978-1-4503-4652-8.
- ↑ Said, Alan; Bellogín, Alejandro (2018). "Coherencia e inconsistencias en el comportamiento de calificación: estimando la barrera mágica de los sistemas de recomendación" . User Modeling and User-Adapted Interaction . 28 (2): 97– 125. doi : 10.1007/s11257-018-9202-0 . ISSN 0924-1868 .
- Sistemas de recomendación
- Conceptos