Articulo de referencia

Amazon Mechanical Turk

Amazon Mechanical Turk ( MTurk ) is a crowdsourcing website with which businesses can hire remotely located "crowdworkers" to perform discrete on-demand tasks that computers are...

Amazon Mechanical Turk (MTurk) is a crowdsourcing website with which businesses can hire remotely located "crowdworkers" to perform discrete on-demand tasks that computers are currently unable to do as economically. It is operated under Amazon Web Services, and is owned by Amazon.[1] Employers, known as requesters, post jobs known as Human Intelligence Tasks (HITs), such as identifying specific content in an image or video, writing product descriptions, or answering survey questions. Workers, colloquially known as Turkers or crowdworkers, browse among existing jobs and complete them in exchange for a fee set by the requester. To place jobs, requesters use an open application programming interface (API), or the more limited MTurk Requester site.[2]As of April 2019, requesters could register from 49 approved countries.[3] It is named after the Mechanical Turk, a chess machine.[4]

History

The service was conceived by Venky Harinarayan in a U.S. patent disclosure in 2001.[5][6][7] Amazon coined the term artificial artificial intelligence for processes that outsource some parts of a computer program to humans, for those tasks carried out much faster by humans than computers. MTurk product director Peter Cohen identified Jeff Bezos as the person who first proposed the concept.[8]

The name Mechanical Turk was inspired by an 18th-century chess-playing automaton of the same name, often simply nicknamed as "The Turk". Made by Hungarian author and engineer Wolfgang von Kempelen, the machine became an international spectacle, touring Europe, and beating both Napoleon Bonaparte and Benjamin Franklin. It was later revealed that this "machine" was not an automaton, but rather controlled by a human chess master hidden in the cabinet beneath the board, puppeting the movements of a humanoid dummy. Analogously, the Mechanical Turk online service uses remote human labor hidden behind a computer interface to help employers perform tasks that are not currently possible using a true machine.

MTurk se lanzó en 2005. [ 9 ] En marzo de 2007, se informó que había más de 100 000 trabajadores en más de 100 países. [ 10 ] Esta cifra aumentó a más de 500 000 trabajadores registrados de más de 190 países en enero de 2011. [ 11 ] Ese año, Techlist publicó un mapa interactivo que señalaba las ubicaciones de 50 000 de sus trabajadores de MTurk en todo el mundo. [ 12 ] Para 2018, una investigación demostró que, si bien había más de 100 000 trabajadores disponibles en la plataforma en cualquier momento, solo alrededor de 2000 estaban trabajando activamente. [ 13 ]

Descripción general

Un usuario de Mechanical Turk puede ser un "Trabajador" (contratista) o un "Solicitante" (empleador). Los trabajadores tienen acceso a un panel que muestra tres secciones: ganancias totales, estado de la tarea y totales de tareas. Los trabajadores establecen sus propios horarios y no tienen la obligación de aceptar ninguna tarea en particular.

Amazon clasifica a los trabajadores como contratistas en lugar de empleados y no les paga impuestos sobre la nómina. Esta clasificación les permite evitar aspectos como el salario mínimo , las horas extras y la compensación laboral , una práctica común entre las plataformas de la economía colaborativa. En Estados Unidos, donde se concentra la gran mayoría de los trabajadores de MTurk, estos están obligados legalmente a declarar sus ingresos como autónomos . La diferente legalidad de esta práctica en países con leyes laborales más estrictas genera incertidumbre sobre la accesibilidad internacional del programa.

En 2013, el salario promedio por las múltiples microtareas asignadas, si se realizaban rápidamente, era de aproximadamente un dólar por hora, con cada tarea promediando unos pocos centavos. [ 14 ] Sin embargo, calcular las ganancias promedio por hora de las personas en un sitio de microtareas es extremadamente difícil y varias fuentes de datos muestran ganancias promedio por hora en el rango de $5 a $9 por hora [ 15 ] [ 16 ] [ 17 ] [ 18 ] entre un número sustancial de trabajadores, mientras que los trabajadores más experimentados, activos y competentes pueden ganar más de $20 por hora. [ 19 ]

Los trabajadores pueden tener una dirección postal en cualquier parte del mundo. El pago por completar las tareas se puede canjear en Amazon.com mediante un certificado de regalo (los certificados de regalo son la única opción de pago disponible para los trabajadores internacionales, excepto en India) o se puede transferir a una cuenta bancaria estadounidense del trabajador.

Los solicitantes pueden pedir a los trabajadores que cumplan con ciertos requisitos antes de realizar una tarea, y pueden establecer una prueba para verificar dicha cualificación. También pueden aceptar o rechazar el resultado enviado por el trabajador, lo cual afecta a su reputación. ( A partir de abril de 2019)Los solicitantes pagaban a Amazon una comisión mínima del 20% sobre el precio de los trabajos completados con éxito, con importes mayores para servicios adicionales . [ 10 ] Los solicitantes pueden usar la API de Amazon Mechanical Turk para integrar programáticamente los resultados del trabajo directamente en sus procesos y sistemas comerciales. Cuando los empleadores configuran un trabajo, deben especificar

  • ¿Cuánto pagan por cada HIT completado?
  • cuántos trabajadores quieren que trabajen en cada HIT,
  • el tiempo máximo que un trabajador tiene para trabajar en una sola tarea,
  • cuánto tiempo tienen los trabajadores para completar el trabajo,

así como los detalles específicos sobre el trabajo que desean que se realice.

Ubicación de los trabajadores de Turk

Los trabajadores se han ubicado principalmente en los Estados Unidos desde el inicio de la plataforma [ 20 ] con características demográficas generalmente similares a la población general de Internet en los EE. UU. [ 21 ] Dentro de los EE. UU., los trabajadores están distribuidos de manera bastante uniforme entre los estados, proporcional a la proporción de la población de cada estado en los EE. UU. [ 22 ] A partir de 2019Entre 15 y 30 mil personas en los EE. UU. completan al menos un HIT cada mes y alrededor de 4500 personas nuevas se unen a MTurk cada mes. [ 23 ]

Los pagos en efectivo para los trabajadores indios se introdujeron en 2010, lo que actualizó la demografía de los trabajadores, quienes, sin embargo, permanecieron principalmente dentro de los Estados Unidos. [ 24 ] Un sitio web que mostraba la demografía de los trabajadores en mayo de 2015 mostró que el 80% de los trabajadores se encontraban en los Estados Unidos, y el 20% restante en otros lugares del mundo, la mayoría de ellos en la India. [ 25 ] En mayo de 2019, aproximadamente el 60% estaba en los EE. UU., el 40% en otros lugares (aproximadamente el 30% en la India). [ 26 ] A principios de 2023, alrededor del 90% de los trabajadores eran de los EE. UU. y aproximadamente la mitad del resto de la India. [ 27 ]

Usos

Investigación con sujetos humanos

Desde 2010Numerosos investigadores han explorado la viabilidad de Mechanical Turk para reclutar participantes para experimentos en ciencias sociales. En general, los investigadores han constatado que, si bien las muestras de encuestados obtenidas a través de Mechanical Turk no se ajustan perfectamente a todas las características relevantes de la población estadounidense, tampoco son excesivamente representativas. [ 28 ] [ 29 ] Como resultado, miles de artículos que se basan en datos recopilados de trabajadores de Mechanical Turk se publican cada año, incluyendo cientos en revistas académicas de alto nivel.

Un desafío al usar MTurk para la investigación con sujetos humanos ha sido mantener la calidad de los datos. Un estudio publicado en 2021 encontró que los tipos de enfoques de control de calidad utilizados por los investigadores (como verificar bots, usuarios de VPN o trabajadores dispuestos a enviar respuestas deshonestas) pueden influir significativamente en los resultados de las encuestas. Demostraron esto a través del impacto en tres herramientas comunes de detección de salud conductual/mental. [ 30 ] Aunque gestionar la calidad de los datos requiere trabajo por parte de los investigadores, existe un amplio cuerpo de investigación que muestra cómo recopilar datos de alta calidad de MTurk. [ 31 ] [ 32 ] [ 33 ] El costo de usar MTurk es considerablemente menor que muchos otros medios para realizar encuestas, por lo que muchos investigadores continúan usándolo.

El consenso general entre los investigadores es que el servicio funciona mejor para reclutar una muestra diversa; tiene menos éxito con estudios que requieren poblaciones definidas con mayor precisión o que requieren una muestra representativa de la población en su conjunto. [ 34 ] Se han publicado muchos artículos sobre la demografía de la población de MTurk. [ 22 ] [ 35 ] [ 36 ] Los trabajadores de MTurk tienden a ser más jóvenes, más educados, más liberales y ligeramente menos ricos que la población estadounidense en general. [ 37 ]

Aprendizaje automático

Los algoritmos de aprendizaje automático supervisado requieren grandes cantidades de datos anotados por humanos para entrenarse con éxito. Los investigadores de aprendizaje automático han contratado trabajadores a través de Mechanical Turk para producir conjuntos de datos como SQuAD, un conjunto de datos de respuesta a preguntas . [ 38 ]

Búsqueda de personas desaparecidas

Desde 2007El servicio se ha utilizado para buscar a personas desaparecidas de alto perfil. Este uso se sugirió por primera vez durante la búsqueda de James Kim , pero su cuerpo fue encontrado antes de que se lograra algún avance técnico. Ese verano, el científico informático Jim Gray desapareció en su yate y Werner Vogels , de Amazon , amigo personal, hizo arreglos para que DigitalGlobe , que proporciona datos satelitales para Google Maps y Google Earth , publicara fotografías recientes de las Islas Farallón en Mechanical Turk. Una noticia en la portada de Digg atrajo a 12.000 personas que participaron en la búsqueda y trabajaron con profesionales de la imagen con los mismos datos. La búsqueda no tuvo éxito. [ 39 ]

En septiembre de 2007, se repitió un procedimiento similar en la búsqueda del aviador Steve Fossett . Los datos satelitales se dividieron en secciones de 85 metros cuadrados (910 pies² ) , y se pidió a los usuarios de Mechanical Turk que señalaran las imágenes con "objetos extraños" que pudieran ser el lugar del accidente u otras pruebas que debieran examinarse con mayor detenimiento. [ 40 ] Esta búsqueda tampoco tuvo éxito. Las imágenes satelitales se encontraban principalmente dentro de un radio de 80 kilómetros (50 millas), [ 41 ] pero el lugar del accidente fue finalmente encontrado por excursionistas aproximadamente un año después, a 105 kilómetros (65 millas) de distancia. [ 42 ] 

Obras artísticas

MTurk también se ha utilizado como herramienta para la creación artística. Una de las primeras artistas en trabajar con Mechanical Turk fue xtine burrough , con The Mechanical Olympics (2008), [ 43 ] [ 44 ] Endless Om (2015) y Mediations on Digital Labor (2015). [ 45 ] [ 46 ] Otra obra fue Ten Thousand Cents (2008) del artista Aaron Koblin .

Programación de terceros

Los programadores han desarrollado extensiones de navegador y scripts diseñados para simplificar el proceso de completar tareas. Amazon ha declarado que desaprueba los scripts que automatizan completamente el proceso y excluyen el elemento humano. Esto se debe a la preocupación de que el proceso de completar tareas —por ejemplo, responder una encuesta— pueda ser manipulado con respuestas aleatorias, y que los datos recopilados resultantes sean inútiles. [ 47 ] Se han bloqueado las cuentas que utilizan los llamados bots automatizados. Existen servicios que extienden las capacidades a MTurk.

API

Amazon ofrece una interfaz de programación de aplicaciones (API) para el sistema MTurk. La API de MTurk permite a los programadores enviar trabajos, recuperar el trabajo completado y aprobarlo o rechazarlo. [ 48 ] En 2017, Amazon lanzó la compatibilidad con los kits de desarrollo de software (SDK) de AWS, lo que permitió que nueve nuevos SDK estuvieran disponibles para los usuarios de MTurk. MTurk es accesible a través de la API desde los siguientes lenguajes: Python, JavaScript, Java, .NET, Go, Ruby, PHP o C++. [ 49 ] Los sitios web y los servicios web pueden usar la API para integrar el trabajo de MTurk en otras aplicaciones web, proporcionando a los usuarios alternativas a la interfaz que Amazon ha creado para estas funciones.

Ejemplos de casos de uso

Procesamiento de fotos/vídeos

Amazon Mechanical Turk proporciona una plataforma para el procesamiento de imágenes, una tarea muy adecuada para la inteligencia humana. Los solicitantes han creado tareas que piden a los trabajadores que etiqueten objetos encontrados en una imagen, seleccionen la imagen más relevante en un grupo de imágenes, filtren contenido inapropiado, clasifiquen objetos en imágenes satelitales o digitalicen texto de imágenes, como formularios escaneados rellenados a mano. [ 50 ]

Limpieza/verificación de datos

Las empresas con grandes catálogos en línea utilizan Mechanical Turk para identificar duplicados y verificar los detalles de las entradas de los artículos. Por ejemplo: eliminar duplicados en los listados de las páginas amarillas, comprobar los detalles de los restaurantes (por ejemplo, número de teléfono y horario) y encontrar información de contacto en las páginas web (por ejemplo, nombre del autor y correo electrónico). [ 14 ] [ 50 ]

Recopilación de información

La diversificación y la magnitud del personal de Mechanical Turk permiten recopilar información a gran escala, lo cual sería difícil fuera de una plataforma colaborativa. Mechanical Turk permite a los solicitantes acumular un gran número de respuestas a diversos tipos de encuestas, desde datos demográficos básicos hasta investigaciones académicas. Otros usos incluyen la redacción de comentarios, descripciones y entradas de blog para sitios web, así como la búsqueda de elementos de datos o campos específicos en grandes documentos gubernamentales y legales. [ 50 ]

Proceso de datos

Las empresas utilizan la plataforma Mechanical Turk para comprender y responder a diferentes tipos de datos. Entre los usos comunes se incluyen la edición y transcripción de podcasts, la traducción y la comparación de resultados de motores de búsqueda. [ 14 ] [ 50 ]

Validez de la investigación

The validity of research conducted with the Mechanical Turk worker pool has long been debated among experts.[51] This is largely because questions of validity[52][53] are complex: they involve not only questions of whether the research methods were appropriate and whether the study was well-executed, but also questions about the goal of the project, how the researchers used MTurk, who was sampled, and what conclusions were drawn.

Most experts agree that MTurk is better suited for some types of research than others. MTurk appears well-suited for questions that seek to understand whether two or more things are related to each other (called correlational research; e.g., are happy people more healthy?) and questions that attempt to show one thing causes another thing (experimental research; e.g., being happy makes people more healthy). Fortunately, these categories capture most of the research conducted by behavioral scientists, and most correlational and experimental findings found in nationally representative samples replicate on MTurk.[54]

The type of research that is not well-suited for MTurk is often called "descriptive research." Descriptive research seeks to describe how or what people think, feel, or do; one example is public opinion polling. MTurk is not well-suited to such research because it does not select a representative sample of the general population. Instead, MTurk is a nonprobability, convenience sample. Descriptive research is best conducted with a probability-based, representative sample of the population researchers want to understand. When compared to the general population, people on MTurk are younger, more highly educated, more liberal, and less religious.[55][22][36]

Labor issues

Mechanical Turk has been criticized by journalists and activists for its interactions with and use of labor. Computer scientist Jaron Lanier noted how the design of Mechanical Turk "allows you to think of the people as software components" in a way that conjures "a sense of magic, as if you can just pluck results out of the cloud at an incredibly low cost".[56] A similar point is made in the book Ghostwork by Mary L. Gray and Siddharth Suri.[57]

Critics of MTurk argue that workers are forced onto the site by precarious economic conditions and then exploited by requesters with low wages and a lack of power when disputes occur. Journalist Alana Semuels's article "The Internet Is Enabling a New Kind of Poorly Paid Hell" in The Atlantic is typical of such criticisms of MTurk.[58]

Some academic papers have obtained findings that support or serve as the basis for such common criticisms,[59][60] but others contradict them.[61][62] A recent academic commentary argued that study participants on sites like MTurk should be clearly warned about the circumstances in which they might later be denied payment as a matter of ethics,[63] even though such statements may not reduce the rate of careless responding.[64]

A paper published by a team at CloudResearch[18] shows that only about 7% of people on MTurk view completing HITs as something akin to a full-time job. Most people report that MTurk is a way to earn money during their leisure time or as a side gig. In 2019, the typical worker spent five to eight hours per week and earned around $7 per hour. The sampled workers did not report rampant mistreatment at the hands of requesters; they reported trusting requesters more than employers outside of MTurk. Similar findings were presented in a review of MTurk by the Fair Crowd Work organization, a collective of crowd workers and unions.[65]

Monetary compensation

The minimum payment that Amazon allows for a task is one cent. Because tasks are typically simple and repetitive the majority of tasks pay only a few cents,[66][67] but there are also well-paying tasks on the site.

Many criticisms of MTurk stem from the fact that a majority of tasks offer low wages. In addition, workers are considered independent contractors rather than employees. Independent contractors are not protected by the Fair Labor Standards Act or other legislation that protects workers' rights. Workers on MTurk must compete with others for good HIT opportunities as well as spend time searching for tasks and other actions that they are not compensated for.

La baja remuneración ofrecida por muchas tareas ha alimentado las críticas a Mechanical Turk por explotar y no compensar a los trabajadores por el verdadero valor de la tarea que realizan. [ 68 ] Un estudio de 3,8 millones de tareas completadas por 2767 trabajadores mostró que "los trabajadores ganaron un salario medio por hora de aproximadamente 2 dólares por hora", y el 4 % de los trabajadores ganaron más de 7,25 dólares por hora. [ 69 ]

El Pew Research Center y la Organización Internacional del Trabajo publicaron datos que indicaban que las personas ganaban alrededor de $5.00 por hora en 2015. [ 16 ] [ 70 ] Un estudio centrado en los trabajadores en los EE. UU. indicó salarios promedio de al menos $5.70 por hora, [ 71 ] y datos del estudio de CloudResearch encontraron salarios promedio de alrededor de $6.61 por hora. [ 18 ] Algunas evidencias sugieren que las personas muy activas y con experiencia pueden ganar $20 por hora o más. [ 72 ]

Fraude

La revista The Nation informó en 2014 que algunos solicitantes se habían aprovechado de los trabajadores haciéndoles realizar las tareas y luego rechazando sus entregas para evitar pagarles. [ 73 ] Los datos disponibles indican que los rechazos son bastante raros. Los trabajadores informan que una pequeña minoría de sus HITs ha sido rechazada, tal vez tan solo un 1 %. [ 18 ]

En el escándalo de datos de Facebook y Cambridge Analytica , Mechanical Turk fue uno de los medios para recopilar información privada de forma encubierta para una base de datos masiva. [ 74 ] El sistema pagaba a las personas uno o dos dólares por instalar una aplicación conectada a Facebook y responder preguntas personales. La tarea de la encuesta, como trabajo por encargo, no se utilizó para un proyecto de investigación demográfica o psicológica, como podría haber parecido. El propósito era, en cambio, incitar al trabajador a revelar información personal sobre su identidad que no hubiera sido recopilada previamente por Facebook o Mechanical Turk.

Relaciones laborales

Otros han criticado que el mercado no permite a los trabajadores negociar con los empleadores. En respuesta a las críticas por evasión de pagos y falta de representación, un grupo desarrolló una plataforma de terceros llamada Turkopticon que permite a los trabajadores dar retroalimentación sobre sus empleadores. Esto permite a los trabajadores evitar trabajos potencialmente inescrupulosos y recomendar empleadores superiores. [ 75 ] [ 76 ] Otra plataforma llamada Dynamo permite a los trabajadores recolectar de forma anónima y organizar campañas para mejorar su entorno laboral, como las Directrices para solicitantes académicos y la campaña Dear Jeff Bezos. [ 77 ] [ 78 ] [ 79 ] [ 80 ] Amazon dificultó la inscripción de los trabajadores en Dynamo al cerrar la cuenta de solicitud que proporcionaba a los trabajadores un código necesario para la membresía de Dynamo. Los trabajadores crearon complementos de terceros para identificar tareas mejor pagadas, pero Amazon actualizó su sitio web para impedir que estos complementos funcionaran. [ 81 ] Los trabajadores se han quejado de que el sistema de pago de Amazon deja de funcionar ocasionalmente. [ 81 ]

Mechanical Turk es comparable en algunos aspectos al servicio Google Answers, ahora descontinuado . Sin embargo, Mechanical Turk es una plataforma más general que puede ayudar a distribuir cualquier tipo de tarea laboral en todo el mundo. El Intérprete Humano Colaborativo (CHI, por sus siglas en inglés), de Philipp Lenssen, también propuso utilizar inteligencia humana distribuida para ayudar a los programas informáticos a realizar tareas que las computadoras no pueden hacer bien. MTurk podría utilizarse como motor de ejecución para el CHI.

En 2014, el gigante ruso de búsquedas Yandex lanzó un sistema similar llamado Toloka , similar al Turco Mecánico. [ 82 ]

Véase también

Referencias

  1. "Amazon Mechanical Turk, página de preguntas frecuentes" . Consultado el 14 de abril de 2017 .
  2. "Descripción general | Solicitante | Amazon Mechanical Turk" . Requester.mturk.com . Consultado el 28 de noviembre de 2011 .
  3. " Amazon Mechanical Turk" . www.mturk.com
  4. Feurer, Rosemary (18 de septiembre de 2024). "Amazon's Mechanical Turk: Perspectiva histórica" . LAWCHA . Consultado el 30 de noviembre de 2025 .
  5. "Arreglo híbrido de computación máquina/humano" . 2001. Archivado del original el 12 de junio de 2018. Recuperado el 28 de julio de 2016 .
  6. "Arreglo híbrido de computación máquina/humano" . 2001. Archivado del original el 12 de junio de 2018. Recuperado el 28 de julio de 2016 .
  7. Patente estadounidense 7,197,459
  8. "Inteligencia artificial" . The Economist . 10 de junio de 2006.
  9. "Investigación en la era del crowdsourcing: un estudio de caso" . Pew Research Center . Consultado el 18 de febrero de 2025 .
  10. 1 2 "Precios de Mturk" . AWS . Amazon. 2019. Consultado el 16 de abril de 2019 .
  11. "Foros de desarrolladores de AWS" . Consultado el 14 de noviembre de 2012 .
  12. Tamir, Dahn. "50000 trabajadores de Mechanical Turk en todo el mundo" . techlist . Consultado el 17 de septiembre de 2014 .
  13. Djellel, Difallah; Filatova, Elena; Ipeirotis, Panos (2018). «Demografía y dinámica de los trabajadores de Mechanical Turk». Actas de la undécima Conferencia Internacional ACM sobre Búsqueda Web y Minería de Datos (PDF) . págs. 135–143 . doi : 10.1145/3159652.3159661 . ISBN  978-1-4503-5581-0. S2CID 22339115 . 
  14. 1 2 3 "Amazon Mechanical Turk: La fábrica de explotación digital" Ellen Cushing Utne Reader enero-febrero de 2013
  15. Berg, Janine (2015–2016). "Seguridad de ingresos en la economía bajo demanda: hallazgos y lecciones políticas de una encuesta a trabajadores de plataformas de trabajo colaborativo" . Comparative Labor Law & Policy Journal . 37 : 543.
  16. 1 2 Geiger, Abigail (11 de julio de 2016). "Investigación en la era del crowdsourcing: un estudio de caso" . Pew Research Center: Internet, Ciencia y Tecnología . Recuperado el 9 de enero de 2023 .
  17. "Amazon Mechanical Turk - Trabajo justo colaborativo" . Consultado el 9 de enero de 2023 .
  18. 1 2 3 4 Moss, Aaron J; Rosenzweig, Cheskie; Robinson, Jonathan; Jaffe, Shalom Noach; Litman, Leib (2020-04-28), ¿Es ético usar Mechanical Turk para la investigación del comportamiento? Datos relevantes de una encuesta representativa de participantes y salarios de MTurk , doi : 10.31234/osf.io/jbc9d , S2CID 236840556 , consultado el 28 de marzo de 2025 
  19. "MTurk es la forma más ética de reclutar trabajadores colectivos" . Blog | TurkerView . 18 de noviembre de 2019. Consultado el 9 de enero de 2023 .
  20. Panos Ipeirotis (19 de marzo de 2008). "Mechanical Turk: La demografía" . Universidad de Nueva York . Recuperado el 30 de julio de 2009 .
  21. Panos Ipeirotis (16 de marzo de 2009). "Demografía de los usuarios de Turk frente a la demografía de los usuarios de Internet" . Universidad de Nueva York . Consultado el 30 de julio de 2009 .
  22. 1 2 3 Litman, Leib (2020). Realización de investigaciones en línea en Amazon Mechanical Turk y más allá . Jonathan Robinson (1.ª ed.). Los Ángeles. ISBN  978-1-5063-9111-3OCLC 1180179545 {{cite book}}: CS1 mantenimiento: falta el editor de ubicación ( enlace )
  23. Robinson, Jonathan; Rosenzweig, Cheskie; Moss, Aaron J.; Litman, Leib (2019-12-16). Sudzina, Frantisek (ed.). "¿Agotado o apenas explotado? Recomendaciones sobre cómo aprovechar el vasto y en gran medida inutilizado potencial del grupo de participantes de Mechanical Turk" . PLOS ONE . 14 (12) e0226394. Bibcode : 2019PLoSO..1426394R . doi : 10.1371/journal.pone.0226394 . ISSN 1932-6203 . PMC 6913990. PMID 31841534 .   
  24. Panos Ipeirotis (9 de marzo de 2010). "La nueva demografía de Mechanical Turk" . Universidad de Nueva York . Consultado el 24 de marzo de 2014 .
  25. "MTurk Tracker" . demographics.mturk-tracker.com . Consultado el 1 de octubre de 2015 .
  26. "MTurk Tracker" . demographics.mturk-tracker.com . Consultado el 2 de mayo de 2019 .
  27. "MTurk Tracker" . demographics.mturk-tracker.com . Consultado el 17 de abril de 2023 .
  28. Casey, Logan; Chandler, Jesse; Levine, Adam; Proctor, Andrew; Sytolovich, Dara (2017). "Diferencias intertemporales entre trabajadores de MTurk: variaciones de muestras basadas en el tiempo e implicaciones para la recopilación de datos en línea" . SAGE Open . 7 (2): 215824401771277. doi : 10.1177/2158244017712774 .
  29. Levay, Kevin; Freese, Jeremy; Druckman, James (2016). "La composición demográfica y política de las muestras de Mechanical Turk" . SAGE Open . 6 2158244016636433: 215824401663643. doi : 10.1177/2158244016636433 .
  30. Agley, Jon; Xiao, Yunyu; Nolan, Rachael; Golzarri-Arroyo, Lilian (2021). "Preguntas de control de calidad en Amazon's Mechanical Turk (MTurk): Un ensayo aleatorio de impacto en USAUDIT, PHQ-9 y GAD-7" . Behavior Research Methods . 54 (2): 885–897 . doi : 10.3758/s13428-021-01665-8 . ISSN 1554-3528 . PMC 8344397. PMID 34357539 .   
  31. Hauser, David; Paolacci, Gabriele; Chandler, Jesse J. (2018-09-01), Preocupaciones comunes con MTurk como grupo de participantes: evidencia y soluciones , doi : 10.31234/osf.io/uq45c , S2CID 240258666 
  32. Clifford, Scott; Jerit, Jennifer (2016). "Trampas en preguntas sobre conocimientos políticos en encuestas en línea: una evaluación del problema y soluciones" . Public Opinion Quarterly . 80 (4): 858– 887. doi : 10.1093/poq/nfw030 . ISSN 0033-362X . 
  33. Hauser, David J.; Moss, Aaron J.; Rosenzweig, Cheskie; Jaffe, Shalom N.; Robinson, Jonathan; Litman, Leib (2022-11-03). " Evaluación del Grupo Aprobado de CloudResearch como solución para la problemática calidad de los datos en MTurk" . Behavior Research Methods . 55 (8): 3953– 3964. doi : 10.3758/s13428-022-01999-x . ISSN 1554-3528 . PMC 10700412. PMID 36326997 .   
  34. Chandler, Jesse.; Shapiro, Danielle (2016). "Realización de investigación clínica mediante muestras de conveniencia obtenidas por crowdsourcing" . Annual Review of Clinical Psychology . 12 : 53–81 . doi : 10.1146/annurev-clinpsy-021815-093623 . PMID 26772208 . 
  35. Huff, Connor; Tingley, Dustin (01/07/2015) ."Who are these people?" Evaluating the demographic characteristics and political preferences of MTurk survey respondents". Research & Politics. 2 (3): 205316801560464. doi:10.1177/2053168015604648. ISSN 2053-1680. S2CID 7749084.
  36. 12Clifford, Scott; Jewell, Ryan M; Waggoner, Philip D (2015-10-01). "Are samples drawn from Mechanical Turk valid for research on political ideology?". Research & Politics. 2 (4): 205316801562207. doi:10.1177/2053168015622072. ISSN 2053-1680. S2CID 146591698.
  37. Chandler, Jesse; Rosenzweig, Cheskie; Moss, Aaron J.; Robinson, Jonathan; Litman, Leib (October 2019). "Online panels in social science research: Expanding sampling methods beyond Mechanical Turk". Behavior Research Methods. 51 (5): 2022–2038. doi:10.3758/s13428-019-01273-7. ISSN 1554-3528. PMC 6797699. PMID 31512174.
  38. Rajpurkar, Pranav; Zhang, Jian; Lopyrev, Konstantin; Liang, Percy (2016). "SQuAD: 100,000+ Questions for Machine Comprehension of Text". arXiv:1606.05250 [cs.CL].
  39. Steve Silberman (July 24, 2007). "Inside the High-Tech Search for a Silicon Valley Legend". Wired magazine. Retrieved 2007-09-16.
  40. "AVweb Invites You to Join the Search for Steve Fossett". Avweb.com. 8 September 2007. Archived from the original on 2012-08-26. Retrieved 2011-11-28.
  41. "Official Mechanical Turk Steve Fossett Results". 2007-09-24. Retrieved 2012-08-14.
  42. Jim Christie (October 1, 2008). "Hikers find Steve Fossett's ID, belongings". Reuters. Archived from the original on 20 December 2008. Retrieved 2008-11-27.
  43. "Let's Get Physical". 5 August 2008.
  44. "Mechanical Games, online sports video for turkers | Neural". 29 October 2010.
  45. "Bancos de cárcel y Amazon.com en el Grand Central Art Center de Santa Ana | OC Weekly" . Archivado del original el 6 de septiembre de 2015. Consultado el 16 de abril de 2019 .
  46. Proyecto: http://www.missconceptions.net/mediations/
  47. "Blog de Amazon Web Services: Actualización del estado de Amazon Mechanical Turk" . Aws.typepad.com. 6 de diciembre de 2005. Consultado el 28 de noviembre de 2011 .
  48. "Archivo de documentación: Amazon Web Services" . Developer.amazonwebservices.com. Archivado del original el 10 de abril de 2009. Consultado el 28 de noviembre de 2011 .
  49. "Referencia de la API de Amazon Mechanical Turk" . Developer.amazonwebservices.com.
  50. 1 2 3 4 "Dentro de la plataforma Clickworker de Amazon: Cómo se paga a medio millón de personas unos centavos por entrenar IA" . TechRepublic . 16 de diciembre de 2016.
  51. Landers, RN; Behrend, TS (2015). "¿Puedo usar Mechanical Turk (MTurk) para un estudio de investigación?" . Psicología Industrial y Organizacional . 8 (2).
  52. "Validez externa: generalización de resultados en la investigación" . explorable.com .
  53. " Métodos de investigación social - Base de conocimientos - Validez externa" . www.socialresearchmethods.net
  54. Coppock, Alexander; Leeper, Thomas J.; Mullinix, Kevin J. (2018-12-04). "Generalizabilidad de las estimaciones de efectos de tratamiento heterogéneos entre muestras" . Actas de la Academia Nacional de Ciencias . 115 (49): 12441– 12446. Bibcode : 2018PNAS..11512441C . doi : 10.1073/pnas.1808083115 . ISSN 0027-8424 . PMC 6298071. PMID 30446611 .   
  55. Chandler, Jesse; Rosenzweig, Cheskie; Moss, Aaron J.; Robinson, Jonathan; Litman, Leib (2019-10-01). "Paneles en línea en la investigación en ciencias sociales: Ampliando los métodos de muestreo más allá de Mechanical Turk" . Behavior Research Methods . 51 (5): 2022– 2038. doi : 10.3758/s13428-019-01273-7 . ISSN 1554-3528 . PMC 6797699. PMID 31512174 .   
  56. Jaron Lanier (2013). ¿Quién es dueño del futuro? Simon and Schuster. ISBN 978-1-4516-5497-4.
  57. "Trabajo fantasma" . Trabajo fantasma . Consultado el 24 de enero de 2023 .
  58. Semuels, Alana (23 de enero de 2018). "Internet está creando un nuevo tipo de infierno mal pagado" . The Atlantic . Consultado el 24 de enero de 2023 .
  59. Fort, K.; Adda, G.; Cohen, KB (2011). "Amazon Mechanical Turk: ¿mina de oro o mina de carbón?" . Lingüística Computacional . 37 (2): 413– 420. doi : 10.1162/COLI_a_00057 . S2CID 1051130 . 
  60. Williamson, Vanessa (enero de 2016). "Sobre la ética de la investigación colaborativa" . PS: Political Science & Politics . 49 (1): 77–81 . doi : 10.1017/S104909651500116X . ISSN 1049-0965 . S2CID 155196102 .  
  61. Horton, John J. (1 de abril de 2011). "La condición de la clase de trabajadores turcos: ¿Son justos y honestos los empleadores en línea?" . Economics Letters . 111 (1): 10– 12. arXiv : 1001.1172 . doi : 10.1016/j.econlet.2010.12.007 . ISSN 0165-1765 . S2CID 37577313 .  
  62. Moss, AJ; Rosenzweig, C.; Robinson, J.; Jaffe, S.; Litman, L. (2020). "¿Es ético usar Mechanical Turk para la investigación del comportamiento? Datos relevantes de una encuesta representativa de participantes y salarios de MTurk" . Métodos de investigación del comportamiento .
  63. Agley, Jon; Mumaw, Casey (2024-05-29). "Advertir a los participantes de estudios colaborativos sobre las posibles consecuencias de una participación desatenta se relaciona con el consentimiento informado, independientemente de los efectos en la calidad de los datos" . Health Behavior Research . 7 (2). doi : 10.4148/2572-1836.1236 . ISSN 2572-1836 . 
  64. Brühlmann, Florian; Memeti, Zgjim; Aeschbach, Lena F.; Perrig, Sebastian AC; Opwis, Klaus (2024-01-18). "La efectividad de las declaraciones de advertencia para reducir las respuestas descuidadas en encuestas en línea colaborativas" . Behavior Research Methods . 56 (6): 5862– 5875. doi : 10.3758/s13428-023-02321-z . ISSN 1554-3528 . PMC 11335820. PMID 38238528 .   
  65. "Amazon Mechanical Turk - Trabajo justo colaborativo" . Consultado el 24 de enero de 2023 .
  66. Ipeirotis, PG (2010). Análisis del mercado Amazon Mechanical Turk. XRDS: Crossroads, The ACM magazine for students , 17 (2), 16-21.
  67. Geiger, Abigail (11 de julio de 2016). "Investigación en la era del crowdsourcing: un estudio de caso" . Pew Research Center: Internet, Ciencia y Tecnología . Recuperado el 24 de enero de 2023 .
  68. Schmidt, Florian Alexander (2013). «Lo bueno, lo malo y lo feo: por qué el crowdsourcing necesita ética». Conferencia Internacional de 2013 sobre Computación en la Nube y Ecológica . págs. 531–535 . doi : 10.1109/CGC.2013.89 . ISBN  978-0-7695-5114-2. S2CID 18798641 . 
  69. Hara, Kotaro; Adams, Abigail; Milland, Kristy; Savage, Saiph; Callison-Burch, Chris; Bigham, Jeffrey P. (21 de abril de 2018). "Análisis basado en datos de las ganancias de los trabajadores en Amazon Mechanical Turk" . Actas de la Conferencia CHI 2018 sobre Factores Humanos en Sistemas Informáticos . CHI '18. Nueva York, NY, EE. UU.: Association for Computing Machinery. págs. 1–14 . doi : 10.1145/3173574.3174023 . ISBN  978-1-4503-5620-6. S2CID 5040507 . 
  70. Berg, J. (2015). Seguridad de ingresos en la economía bajo demanda: Hallazgos y lecciones políticas de una encuesta a trabajadores de plataformas digitales. Comparative Labor Law and Policy Journal, 37, 543.
  71. Litman, Leib; Robinson, Jonathan; Rosen, Zohn; Rosenzweig, Cheskie; Waxman, Joshua; Bates, Lisa M. (2020-02-21). "La persistencia de la desigualdad salarial: la brecha salarial de género en un mercado laboral anónimo en línea" . PLOS ONE . 15 (2) e0229383. Bibcode : 2020PLoSO..1529383L . doi : 10.1371/ journal.pone.0229383 . ISSN 1932-6203 . PMC 7034870. PMID 32084233 .   
  72. "MTurk es la forma más ética de reclutar trabajadores colectivos" . Blog | TurkerView . 18 de noviembre de 2019. Consultado el 24 de enero de 2023 .
  73. Marvit, Moshe Z. (5 de febrero de 2014). "Cómo los trabajadores de crowdsourcing se convirtieron en los fantasmas de la máquina digital" . www.thenation.com . Archivado del original el 3 de junio de 2019. Recuperado el 3 de junio de 2019 .
  74. New York Times (10 de abril de 2018). "Cambridge Analytica y el inminente colapso de datos" . The New York Times . Consultado el 13 de abril de 2018 .
  75. Hal Hodson (7 de febrero de 2013). "El crowdsourcing crece a medida que los trabajadores en línea se unen" . New Scientist . Consultado el 21 de mayo de 2015 .
  76. "turkopticon" . turkopticon.ucsd.edu .
  77. Mark Harris (3 de diciembre de 2014) .Los trabajadores de Amazon Mechanical Turk protestan: «Soy un ser humano, no un algoritmo » . The Guardian . Consultado el 6 de octubre de 2015 .
  78. ^ Fingas, Jon (3 de diciembre de 2014). ""Los trabajadores de Amazon Mechanical Turk quieren ser tratados como seres humanos"." . Engadget . Consultado el 6 de octubre de 2015 .
  79. James Vincent (4 de diciembre de 2014). "Los trabajadores de Amazon Mechanical Turk quieren ser reconocidos como 'seres humanos reales'"." . The Verge . Consultado el 6 de octubre de 2015 .
  80. Sarah Kessler (19 de febrero de 2015). "¿CÓMO ES UN SINDICATO EN LA ECONOMÍA COLABORATIVA?" . Fast Company . Consultado el 6 de octubre de 2015 .
  81. 12Semuels, Alana (23 January 2018). "The Internet Is Enabling a New Kind of Poorly Paid Hell". The Atlantic. Retrieved 25 April 2019.
  82. "Yandex.Toloka".

Further reading

  • Business Week article on Mechanical Turk by Rob Hof, November 4, 2005.
  • Wired Magazine story about "Crowdsourcing," June 2006.
  • Salon.com article on Mechanical Turk by Katharine Mieszkowski, July 24, 2006.
  • New York Times article on Mechanical Turk by Jason Pontin, March 25, 2007.
  • Technology Review article on Mechanical Turk, "How Mechanical Turk is Broken," by Christopher Mims, January 3, 2010.
  • J. Nathan Matias (June 8, 2015), "Tragedy of the Digital Commons", The Atlantic (discusses labor relations)