
El slopsquatting es un tipo de ciberocupación . Consiste en registrar el nombre de un paquete de software inexistente que un modelo de lenguaje grande (LLM) puede generar en su salida, de modo que alguien, sin saberlo, puede copiar, pegar e instalar el paquete de software sin darse cuenta de que es falso. [ 1 ] Intentar instalar un paquete inexistente debería generar un error, pero algunos han explotado esto para su propio beneficio mediante el typosquatting . [ 2 ]
El nombre es una combinación de " AI slop " y "typosquatting". [ 3 ]
Historia
En 2023, el investigador de seguridad Bar Lanyado observó que LLM había creado un paquete llamado "huggingface-cli". [ 4 ] [ 5 ] [ 6 ] Si bien este nombre es idéntico al comando utilizado para la versión de línea de comandos de HuggingFace Hub, no es el nombre del paquete. El software se instala correctamente con el código pip install -U "huggingface_hub[cli]". Lanyado probó el potencial de slopsquatting subiendo un paquete vacío con este nombre inventado. En tres meses, había recibido más de 30 000 descargas. [ 6 ] El nombre del paquete inventado también se utilizó en el archivo README de un repositorio para una investigación realizada por Alibaba . [ 7 ]
En abril de 2025, el término fue acuñado por Seth Larson, desarrollador residente de la Python Software Foundation e investigador de seguridad, y popularizado por Andrew Nesbitt en Mastodon . [ 1 ] [ 8 ]
En mayo de 2025, el potencial y la prevalencia del slopsquatting se detallaron en el artículo académico "¡Tenemos un paquete para ti! Un análisis exhaustivo de las alucinaciones de paquetes por parte de los LLM generadores de código". [ 1 ] [ 9 ] Algunos de los principales hallazgos del artículo son que el 19,7% de los paquetes recomendados por los LLM no existían, los modelos de código abierto alucinaban con mucha más frecuencia (21,7% en promedio, en comparación con los modelos propietarios /de caja negra al 5,2%), CodeLlama 7B y CodeLlama 34B alucinaban en más de un tercio de las salidas, y en todos los modelos, los investigadores observaron más de 205.000 nombres de paquetes alucinados únicos.
Prevención
Para evitar ser explotado mediante slopsquatting, los nombres de los paquetes deben verificarse manualmente y nunca se debe asumir que el código generado por IA es seguro antes de implementarlo en entornos de producción. [ 8 ] [ 10 ] Además, se pueden utilizar escáneres de dependencias, archivos de bloqueo y verificaciones de ID de hash para versiones de paquetes conocidas y confiables.
Impacto
Feross Aboukhadijeh, director ejecutivo de la empresa de seguridad Socket , advierte que los ingenieros de software que practican la codificación de vibe pueden ser susceptibles al slopsquatting y, o bien utilizan el código sin revisarlo, o bien la herramienta de asistente de IA instala un paquete inexistente. [ 2 ] Hasta julio de 2026, no se ha reportado ningún caso en el que el slopsquatting se haya utilizado como ciberataque.
Véase también
Referencias
- 1 2 3 "El auge de la ocupación ilegal de terrenos: cómo las alucinaciones de la IA están alimentando..." Socket . Recuperado el 14 de abril de 2025 .
- 1 2 Claburn, Thomas (12 de abril de 2025). "Los LLM no pueden dejar de inventar dependencias de software y sabotear todo" . The Register . Recuperado el 14 de abril de 2025 .
- ↑ Cimpanu, Catalin. "Boletín de Risky: ¡La IA se apropia de terrenos baldíos... ya viene! - Risky Business Media" . www.risky.biz . Consultado el 9 de junio de 2025 .
- ↑ Lanyado, Bar (2023-06-06). "¿Se puede confiar en las recomendaciones de paquetes de ChatGPT?" . Vulcan . Consultado el 2025-06-10 .
{{cite web}}: CS1 maint: servicio de archivado obsoleto ( enlace ) - ↑ Claburn, Thomas (28 de marzo de 2024). "La IA crea alucinaciones con paquetes de software y los desarrolladores los descargan, incluso si están potencialmente infectados con malware" . The Register . Consultado el 14 de abril de 2025 .
- 1 2 "Lasso Research: AI Package Hallucinations" . Lasso Security . Recuperado el 6 de mayo de 2025 .
- ↑ "Proyecto Init · alibaba/GraphTranslator@4394d72" . GitHub . Consultado el 06-05-2025 .
- 1 2 "Las dependencias de código generadas por IA se convierten en un nuevo riesgo para la cadena de suministro" . BleepingComputer . Consultado el 10 de junio de 2025 .
- ↑ Spracklen, Joseph; Wijewickrama, Raveen; Sakib, AHM Nazmus; Maiti, Anindya; Viswanath, Bimal; Jadliwala, Murtuza (2025-03-02), ¡ Tenemos un paquete para ti! Un análisis exhaustivo de las alucinaciones de paquetes mediante LLM de generación de código , arXiv : 2406.10279
- ↑ Zorz, Zeljka (14 de abril de 2025). "Alucinación por paquetes: los LLM pueden entregar código malicioso a desarrolladores descuidados" . Help Net Security . Consultado el 10 de junio de 2025 .
- Delitos cibernéticos
- Neologismos de 2025