Slaughterbots es un vídeo de 2017 que promueve el control de armas y presenta un escenario dramatizado de un futuro cercano donde enjambres de microdrones de bajo coste utilizan inteligencia artificial y software de reconocimiento facial para asesinar a opositores políticos según criterios preprogramados. Fue publicado por el Future of Life Institute y Stuart Russell , profesor de informática en Berkeley . [ 1 ] En YouTube , el vídeo se viralizó rápidamente, alcanzando más de dos millones de visualizaciones [ 2 ] [ 3 ] y se proyectó en la reunión de la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales en Ginebra ese mismo mes. [ 4 ]
La implicación de la película de que enjambres de tales "robots asesinos" —armas autónomas letales voladoras en miniatura— podrían convertirse en armas de destrucción masiva reales en un futuro cercano resultó controvertida. [ 2 ] [ 5 ] [ 6 ]
Una secuela, Slaughterbots – if human: kill() (2021), presentó escenarios hipotéticos adicionales de ataques contra civiles y volvió a pedir a la ONU que prohibiera las armas autónomas que atacan a personas. [ 7 ]
Sinopsis

La dramatización, de siete minutos de duración, se desarrolla en un futuro cercano al estilo de Black Mirror . [ 8 ] [ 9 ] Drones autónomos del tamaño de la palma de la mano que utilizan reconocimiento facial y explosivos con forma pueden programarse para buscar y eliminar individuos conocidos o grupos de individuos (como individuos que visten un uniforme militar enemigo). Un ejecutivo tecnológico afirma que las armas nucleares ahora son "obsoletas": un pedido de 25 millones de dólares de drones "imparables" puede matar a media ciudad. A medida que se desarrolla el video, la tecnología es reutilizada por personas desconocidas para asesinar a opositores políticos, desde congresistas en ejercicio hasta activistas estudiantiles identificados a través de sus perfiles de Facebook . En una escena, los drones en enjambre se coordinan entre sí para entrar en un edificio: un dron más grande abre un agujero en una pared para dar acceso a los más pequeños. [ 1 ] [ 10 ] [ 11 ]
La dramatización va seguida de una súplica de cuarenta segundos de Russell: «Este cortometraje es más que una simple especulación; muestra los resultados de la integración y miniaturización de tecnologías que ya poseemos ... El potencial de la IA para beneficiar a la humanidad es enorme, incluso en defensa, pero permitir que las máquinas elijan matar humanos será devastador para nuestra seguridad y libertad». [ 10 ] [ 12 ]
Producción
Según Russell, «Lo que intentábamos mostrar era la propiedad de las armas autónomas de convertirse automáticamente en armas de destrucción masiva porque se pueden lanzar tantas como se quiera... y por eso pensamos que un vídeo lo dejaría muy claro». Russell también expresó su deseo de reemplazar la concepción poco realista e inútil de las armas autónomas de Hollywood, al estilo Terminator , con algo más realista. [ 13 ] El vídeo fue producido por Space Digital en MediaCityUK y dirigido por Stewart Sugg con tomas en exteriores en la Universidad de Hertfordshire [ 14 ] y en Edimburgo . Edimburgo fue elegida porque los cineastas «necesitaban calles vacías un domingo por la mañana» para las tomas de policías armados patrullando calles desiertas, y porque la ubicación es reconocible para el público internacional. [ 15 ] Todos los drones se añadieron en la postproducción. [ 13 ] [ 16 ]
Recepción
Viabilidad técnica
En diciembre de 2017, The Economist evaluó la viabilidad de los Slaughterbots en relación con los programas de microdrones MAST y DCIST de EE. UU. MAST cuenta actualmente con un ciclocóptero que pesa menos de 30 gramos (1,1 oz) , pero tiene la desventaja de verse fácilmente afectado por su propia turbulencia reflejada cuando está demasiado cerca de una pared. Otro candidato es algo como Salto, un robot saltarín de 98 gramos (3,5 oz) , que funciona mejor que los ciclocópteros en espacios confinados. El nivel de coordinación autónoma entre drones que muestran los Slaughterbots no estaba disponible en 2017, pero la tecnología de enjambres de drones está avanzando y ahora se utiliza para exhibiciones aéreas , desminado y logística . [ 17 ] En general, The Economist coincidió en que los "robots asesinos" podrían volverse factibles en un futuro próximo: "En 2008, un dron espía que se pudiera sostener en la palma de la mano era una idea de ciencia ficción. Estos drones son ahora algo común ... Cuando DCIST concluya en 2022, la idea de los robots asesinos podría parecer mucho menos ficticia que ahora". The Economist se muestra escéptico de que el control de armas pueda impedir tal militarización de los enjambres de drones: "Como alguien dijo sobre las armas nucleares después de que se detonara la primera, el único secreto que valía la pena guardar ya se ha revelado: ¡funcionan!". [ 1 ]
En abril de 2018, el Centro Suizo de Drones y Robótica , organismo gubernamental , haciendo referencia a Slaughterbots , probó una carga explosiva de 3 gramos (0,11 oz) en un modelo de cabeza y concluyó que "las lesiones son tan graves que las posibilidades de supervivencia son muy pequeñas". [ 18 ] [ 19 ]
A partir de 2020DARPA estaba trabajando activamente en prototipos preoperacionales que pondrían a disposición del ejército estadounidense enjambres de drones letales autónomos . [ 20 ]
Plausibilidad de la amenaza
En diciembre de 2017, Paul Scharre, del Centro para una Nueva Seguridad Estadounidense, cuestionó la viabilidad del escenario del video, afirmando que «Toda tecnología militar tiene una contramedida, y las contramedidas contra drones pequeños ni siquiera son hipotéticas. El gobierno estadounidense está trabajando activamente en formas de derribar, interferir, inutilizar, hackear, atrapar o neutralizar de cualquier otra manera los drones pequeños. Los microdrones del video podrían ser neutralizados con algo tan simple como una malla metálica. El video muestra drones con mayor capacidad de carga abriendo agujeros en las paredes para que otros drones puedan entrar, pero la solución es simplemente la implementación de defensas por capas». Scharre también afirmó que la propuesta implícita de Russell, un tratado jurídicamente vinculante que prohíba las armas autónomas, «no resolverá los problemas reales que enfrenta la humanidad a medida que avanza la autonomía en las armas. Una prohibición no impedirá que los terroristas fabriquen armas robóticas caseras rudimentarias ... De hecho, ni siquiera está claro si una prohibición prohibiría las armas que se muestran en el video, que en realidad son bastante discriminatorias». [ 2 ]
En enero de 2018, Stuart Russell y otros tres autores respondieron a Scharre en detalle. Su desacuerdo se centró principalmente en la cuestión de si los "robots asesinos", tal como se presentaban en el vídeo, eran "armas de destrucción masiva (ADM) potencialmente escalables". Concluyeron que "Nosotros, y muchos otros expertos, seguimos considerando plausible la idea de que las armas autónomas pueden convertirse en armas de destrucción masiva escalables. La afirmación de Scharre de que una prohibición será ineficaz o contraproducente es inconsistente con los registros históricos. Finalmente, la idea de que la seguridad humana se verá reforzada por una carrera armamentística no regulada en armas autónomas es, en el mejor de los casos, una ilusión". [ 5 ]
Recepción cultural
Matt McFarland de CNN opinó que "quizás la película más terrorífica y distópica de 2017 no provino de Hollywood". McFarland también afirmó que el debate sobre la prohibición de los robots asesinos había tomado un giro "sensacionalista": en 2015, "se basaban en cartas abiertas y peticiones con lenguaje académico" y utilizaban un lenguaje árido como "cuadricópteros armados". Ahora, en 2017, "advierten sobre 'robots asesinos ' " . [ 21 ]
Andrew Yang vinculó a Slaughterbots desde un tuit durante su candidatura a las primarias presidenciales de EE. UU. de 2020. [ 22 ]
El vídeo secuela, publicado el 30 de noviembre de 2021, tenía más de dos millones de visualizaciones en YouTube para el 8 de diciembre. [ 23 ]
Véase también
- Ataques con dispositivos electrónicos en Líbano en 2024 : Ataques con artefactos explosivos en Líbano y Siria.
- " Odiado en la nación "
- Arma autónoma letal – Sistema de tecnología militar autónoma
Referencias
- 1 2 3 "Los robots militares son cada vez más pequeños y capaces" , The Economist , 14 de diciembre de 2017 , consultado el 21 de enero de 2018.
- 1 2 3 Scharre, Paul (22 de diciembre de 2017). "Por qué no deberías temer a los 'robots asesinos'"" . IEEE Spectrum: Noticias sobre tecnología, ingeniería y ciencia . Consultado el 21 de enero de 2018 .
- ↑ "Slaughterbots" . YouTube . 12 de noviembre de 2017. Consultado el 21 de enero de 2018 .
- ↑ Ting, Eric (18 de noviembre de 2017). "El inquietante y letal video de un dron de un profesor de UC Berkeley se vuelve viral" . SFGate . Consultado el 21 de enero de 2018 .
- 1 2 Russell, Stuart; Aguirre, Anthony ; Conn, Ariel; y Tegmark, Max (23 de enero de 2018). Por qué deberías temer a los 'robots asesinos': una respuesta IEEE Spectrum: Noticias de tecnología, ingeniería y ciencia . Recuperado el 8 de abril de 2023.
- ↑ Scharre, Paul (1 de febrero de 2018). Debatiendo sobre robots asesinos y el futuro de las armas autónomas. IEEE Spectrum: Noticias sobre tecnología, ingeniería y ciencia . Recuperado el 8 de abril de 2023.
- ↑ Knight, Will (2021). "Las armas autónomas están aquí, pero el mundo no está preparado para ellas" . Wired . Consultado el 31 de diciembre de 2021 .
- ↑ Oberhaus, Daniel (13 de noviembre de 2017). "Vean 'Slaughterbots', una advertencia sobre el futuro de los robots asesinos" . Motherboard ( Vice Media ) . Recuperado el 21 de enero de 2018 .
- ↑ Dvorsky, George. "Drones con inteligencia artificial se convierten en aterradoras máquinas de matar en un cortometraje distópico" . Gizmodo . Consultado el 21 de enero de 2018 .
- 1 2 Ian Sample (13 de noviembre de 2017), "Se necesita urgentemente prohibir los robots asesinos, dicen los científicos" , The Guardian , consultado el 21 de enero de 2018.
- ↑ Mikelionis, Lukas (21 de noviembre de 2017). "El vídeo de un profesor de la UC Berkeley sobre 'robots asesinos' se vuelve viral" . Fox News . Consultado el 21 de enero de 2018 .
- ↑ May, Patrick (20 de noviembre de 2017). "Cuidado con los 'robots asesinos', advierte un profesor de la UC Berkeley en un vídeo" . The Mercury News . Consultado el 21 de enero de 2018 .
- 1 2 ""Tanta muerte como quieras": Stuart Russell, de la UC Berkeley, habla sobre "Slaughterbots"." . Boletín de los Científicos Atómicos . 5 de diciembre de 2017 . Consultado el 21 de enero de 2018 .
- ↑ "Película producida por personal y estudiantes de la Universidad de Hertfordshire se vuelve viral" . Universidad de Hertfordshire . 28 de noviembre de 2017. Consultado el 21 de enero de 2018 .
- ↑ "Edimburgo se utilizó para una película sobre 'drones asesinos'" . BBC News . 21 de noviembre de 2017. Consultado el 21 de enero de 2018 .
- ↑ "Ataques con drones asesinos filmados en Edimburgo para resaltar los temores sobre la inteligencia artificial" . The Scotsman . 21 de noviembre de 2017. Consultado el 21 de enero de 2018 .
- ↑ Redacción, The Robot Report (3 de agosto de 2025). "Enjambres de drones: cómo funcionan realmente y qué industrias deberían tener en cuenta" . The Robot Report . Consultado el 12 de marzo de 2026 .
- ↑ "¿Noticias falsas? Efecto letal de los microdrones" . www.ar.admin.ch . Consultado el 31 de mayo de 2018 .
- ↑ ""Einstein" bei den Robotern - TV - Play SRF" . Play SRF (en alemán) . Consultado el 31 de mayo de 2018 .
- ↑ McMillan, Tim (1 de diciembre de 2020). "El sueño de DARPA de un pequeño ejército de robots está cerca de convertirse en realidad" . thedebrief.org .
- ↑ McFarland, Matt (14 de noviembre de 2017) .La película "Slaughterbots" muestra los horrores potenciales de los drones asesinos . CNNMoney . Archivado del original el 14 de noviembre de 2017. Consultado el 21 de enero de 2018 .
- ↑ "Andrew Yang pide una prohibición mundial de los robots asesinos" . New York Post . 1 de febrero de 2020. Consultado el 31 de diciembre de 2021 .
- ↑ Mizokami, Kyle (8 de diciembre de 2021). "Un nuevo vídeo explica, en términos gráficos, por qué las Naciones Unidas deben prohibir los 'robots asesinos'"." . Popular Mechanics . Consultado el 31 de diciembre de 2021 .
Enlaces externos
- Slaughterbots (2017) en YouTube
- Por qué no deberías temer a los 'robots asesinos' (Scharre, 2017)
- Por qué deberías temer a los "robots asesinos": una respuesta (Russell, et al, 2018)
- Debatiendo sobre robots asesinos y el futuro de las armas autónomas (Scharre, 2018)
- Slaughterbots – if human: kill() (2021) en YouTube
- Películas de 2017
- Películas sobre drones
- películas distópicas estadounidenses
- videos virales
- Películas en inglés de 2017
- 2017 en inteligencia artificial