"La inteligencia artificial funciona gracias al trabajo mal pagado de millones de personas



Los gigantes de Internet recurren a un ejército de trabajadores fantasma que corrigen los fallos de sus algoritmos en tiempo real. Su trabajo es esencial, pero nadie sabe quiénes son, dónde están, ni en qué condiciones trabajan. Y son millones. Mary L. Gray ha analizado el fenómeno, y su diagnóstico es una advertencia: la inteligencia artificial crea mucho empleo…, pero extienden la precariedad. Texto y fotografías: Daniel Méndez

Mary L. Gray investiga el impacto de la tecnología en nuestras vidas. Esta antropóloga del Centro Berkman Klein para Internet y la Sociedad de la Universidad de Harvard es también investigadora de Microsoft Research. Al ingresar en la empresa de Bill Gates, observó que sus ingenieros solían recurrir a plataformas on-line que les proporcionaban trabajadores para realizar tareas muy específicas sin saber quiénes eran ni dónde estaban ni, sobre todo, bajo qué condiciones trabajaban. Consiguió averiguarlo y publicó Trabajo fantasma. Cómo evitar que Silicon Valley constituya una nueva subclase global, un libro escrito junto con Siddharth Suri, investigador de inteligencia artificial en Microsoft. En él describen las precarias condiciones laborales de todo un ejército de personas que corrigen, en tiempo real, las pequeñas y constantes grietas que surgen en la interacción del usuario con el mundo digital. ¿Que Siri o Alexa no nos entienden? Salta una luz roja y una persona entra en escena. ¿Que los algoritmos de Facebook o Instagram no logran discernir si en una foto se ve un pulgar o un pene? Alguien los ayuda desde su casa. Los ejemplos son múltiples: casi cualquier app o búsqueda depende de estos «héroes anónimos de la inteligencia artificial», Gray dixit. Se reclutan en plataformas tecnológicas como MTurk [Amazon Mechanical Turk], donde se distribuyen millones de microtareas. De un lado, un ingeniero, o el propio software, requiere transcribir un audio, clasificar el contenido de una imagen… Del otro, una persona acepta el encargo. Es decir, gracias a las herramientas que todos usamos se explota a miles de personas. La cuestión, plantea Gray, es: «¿Intervenimos ante esta precarización laboral o nos cruzamos de brazos?».

XLSemanal. Definamos, para empezar, el trabajo fantasma.

Mary L. Gray. Son trabajos invisibles o que se encuentran escondidos a ojos de las personas que se benefician de su labor. Todas las grandes compañías contratan a miles de personas para evaluar datos o para que los introduzcan. No es difícil encontrar quien lo haga. Basta un anuncio: «Se busca gente para trabajo on-line desde casa».

XL. Y lo hacen sin beneficios sanitarios, con largas jornadas laborales y cobrando poco…

M.L.G. Es lo característico del trabajo fantasma. En Estados Unidos y la India, países en los que hemos centrado nuestro estudio, no tienen acceso a ningún sistema de salud ni representación sindical ni están organizados. No cuentan con los beneficios asociados a un puesto de trabajo: seguro, cotización…

XL. Quienes sí obtenemos beneficios somos todos los que usamos un smartphone o un ordenador, ¿no?

M.L.G. Exacto. Todo aquel que usa la tecnología que hace que pidas un taxi y aparezca, estés donde estés. O el que busca algo por Internet o usa una red social y solo se le muestra lo que quiere ver. El mismo mecanismo técnico que permite la existencia de estos servicios permite la aparición del trabajo fantasma.

XL. ¿Qué tipo de tareas son las más habituales?

M.L.G. Por ejemplo, cuando pides una pizza desde el móvil, si pides pepperoni, la app te entiende sin problemas; pero si es de un jamón ibérico específico, quizá no existan datos suficientes para que la inteligencia artificial funcione bien. Así que colocas a una persona para que estudie en ese momento tu pedido y diga: «Ah, probablemente quiera este tipo de jamón».


La antropóloga Mary L. Gray -investigadora y jefa del comité de ética de Microsoft- habló con ‘XLSemanal’ durante su reciente participación en Digital Future Society (DFS), un ‘think tan’ iniciativa de Mobile World Capital Barcelona para analizar el impacto socioeconómico de la revolución digital

XL. Así que eso no lo hace la inteligencia artificial…

M.L.G. A veces, sí. Pero para que llegue a hacer automáticamente lo que le pidas se requiere mucha gente detrás enseñando a la máquina. La mayor parte de la inteligencia artificial es el producto de gente que toma decisiones on-line para generar una serie de datos. Cada vez que abrimos un navegador en el móvil, facilitamos esos datos que los ingenieros de software pueden mirar y decirte: «Ok. Esta es la ruta más rápida entre este sitio y este otro».

XL. ¿No está automatizado?

M.L.G. No todo. Puede haber varias opciones. ¿Cuál es la mejor ruta si hay tráfico denso? Esas decisiones no son fáciles y el software no puede hacerlo solo. Contratan a gente para estudiar ejemplos de las decisiones de los usuarios y elegir la mejor. Pero tiene que haber personas estudiando esos datos. Se llama ‘entrenar a los datos’.

XL. ¿Cómo se hace?

M.L.G. Estudiando los datos contenidos en esos bits de información. Te aseguras de que esta es precisa antes de que el software la utilice para automatizar la decisión. Este es uno de los flujos de trabajo.

XL. ¿Hay otros?

M.L.G. Puede ocurrir que los ingenieros vean que no pueden entrenar a la máquina a identificar la mejor decisión. En ese caso ponen a una persona para que decida al instante cómo responder.

XL. En resumen: a veces hay personas detrás de las búsquedas en Amazon, Google, Facebook…

M.L.G. Y no siempre es evidente que están ahí. Un ejemplo: el debate presidencial de 2012 en Estados Unidos. Un candidato dijo: «El archivador está lleno de mujeres». Esta frase no significa nada, es imposible que sepas de qué habla si la ves aislada. Pero Twitter tiene que descifrar si se trata de contenido violento, por ejemplo. Todas las redes sociales tienen equipos que revisan el contenido que recibe mucha atención o que los usuarios están etiquetando como discurso de odio.

“No todo en la inteligencia artificial está automatizado. Hay mucha gente detrás enseñando a la máquina, trabajadores cualificados sin seguro médico, sin representación sindical… Son fantasmas”

XL. Moderadores de contenido…

M.L.G. Son una multitud de personas que lo analizan y contextualizan. «Ah, esta es una frase que dijo un político». «Esto es discurso político, no de odio». No hay manera de automatizar eso en tiempo real. Un software no puede descifrar la frase porque nunca se ha dicho antes, no tiene datos para decidir si debe quedarse on-line o eliminarla. Esto pasa con todo el contenido que generamos.

XL. Estos moderadores están sometidos a imágenes violentas, contenido sexual…

M.L.G. Pero mucha de la gente a la que entrevistamos se sentía muy satisfecha por su trabajo. Toman decisiones importantes. Una de las primeras mujeres que conocí en la India al estudiar el trabajo fantasma se dedicaba a esto. Desde su punto de vista, limpiaba Internet para sus hijos. Y para todos nosotros.

XL. Detectó el problema en Microsoft. Los ingenieros recurrían a una gran cantidad de trabajadores sin saber quiénes eran o cómo trabajaban.

M.L.G. Muchos negocios que usan este modelo tienen poca idea de las condiciones de trabajo que ofrecen los contratistas con quienes trabajan. Y más si contratan a distancia. Los ingenieros de Microsoft nunca habían pensado en ello. Y eso pasa cada vez que contratas un servicio de entrega.

XL. ¿Cuántos son exactamente?

M.L.G. No lo sabemos. No tenemos cómo contarlos. La única manera de hacer un recuento de trabajadores hasta ahora ha sido ir a una fábrica o una oficina y contarlos. Esto hay que replanteárselo: cómo saber quién hace el trabajo es uno de los mayores retos.

XL. ¿Una cifra aproximada?

M.L.G. Cualquiera que te dé una cifra exacta miente, pero un estudio de 2016 estimaba que, en Estados Unidos y Europa, en torno a 25 millones de personas habían realizado algún trabajo on-line, aceptando tareas ligadas a proyectos asignadas a través de plataformas. Según nuestra información, es habitual que las compañías cuenten con un núcleo duro de diez mil personas que hacen este trabajo para ellas con regularidad.

XL. Entiendo que esta cifra será mucho mayor en grandes tecnológicas como Microsoft, Apple, Facebook…

M.L.G. ¡En ese caso hablamos de millones! Y son las responsables de explicarnos por qué contratan a gente para ayudar a la inteligencia artificial y bajo qué condiciones. Nos encontramos en el comienzo de este debate. Nos estamos habituando a pedir que nos expliquen a quién le han vendido nuestros datos, pero tendríamos que saber también quién trabaja con ellos y bajo qué condiciones.

“Ninguna de estas plataformas puede operar si no tiene esas miles de personas fantasma disponibles en todo momento del día y de la noche”

XL. Siendo un trabajo on-line que deja huella, ¿no debería ser más fácil establecer una cifra precisa?

M.L.G. Resulta irónico, ¿verdad? Pero es difícil evaluarlo, porque rompe los esquemas habituales. El trabajador puede estar unas horas al mes, unas horas a la semana o a jornada completa. Todos ellos son igualmente importantes porque forman parte de la abundancia de mano de obra necesaria. Ninguna de las plataformas que requiere este tipo de trabajo puede operar si no tiene miles de personas disponibles en todo momento.

XL. ¿Hay un perfil específico?

M.L.G. Podrías pensar en mujeres que cuidan a niños, pero hay muchos más. Es difícil estudiar un trabajo que está completamente distribuido desde su mismo diseño. El objetivo es poder recurrir a la gente en cualquier momento del día o de la noche; reunir a un grupo de personas que, al menos en teoría, no tienen contacto entre sí. Pero están en todos los países, en todas partes: piensa en alguien con acceso a Internet y ciertas facultades lingüísticas e informáticas para inscribirse en una cuenta y realizar una tarea que se le pida.

XL. Dice que la mayoría tiene estudios universitarios.

M.L.G. Y tiene sentido si piensas en los requisitos para desempeñar este tipo de trabajo: debes tener una cierta alfabetización mediática, saber usar Internet, móviles, ordenadores. Y necesitas acceso a la Red. Esto deja fuera, sobre todo en países como la India, a una serie de personas menos educadas, con menos capacidad económica. Al mismo tiempo, hay cada día más gente con educación universitaria.

“La cuestión es: ¿vamos a intervenir? ¿Vamos a plantearnos si esta revolución laboral es conveniente o no? ¿O vamos a cruzarnos de brazos?”

XL. Eso es algo positivo, ¿no?

M.L.G. Por supuesto. Pero lo que está en cuestión es nuestro sueño de hacer de la educación la puerta de acceso a un trabajo estable a tiempo completo. El trabajo por proyectos está desplazando al contrato indefinido y la cuestión es: ¿vamos a intervenir? ¿Vamos a plantearnos si esta revolución laboral es conveniente? ¿Vamos a cruzarnos de brazos y esperar que lo que no funcionó el siglo pasado funcione ahora? Este es el gran reto de la inteligencia artificial.

XL. ¿A qué se refiere?

M.L.G. A que el ser humano no puede hacer otra cosa que ser humano: creativo, decisivo, con capacidad de juicio. ¡Dejemos de decir ‘inteligencia artificial’! Es software y punto. Y, hoy por hoy, depende de un trabajo infravalorado de millones de personas.

XL. La buena noticia es que la llamada ‘inteligencia artificial’ no nos va a robar el trabajo.

M.L.G. En realidad, la noticia es que ese no es el debate. Somos nosotros los que definimos la calidad de nuestras condiciones de trabajo. ¡No puede hacerlo la tecnología! Clasificar si una frase en Twitter es un chiste o un discurso de odio no es inherentemente un buen o un mal trabajo. Depende de las condiciones.

“El trabajo por proyectos está desplazando al contrato indefinido. El sueño de que la educación sea la puerta de acceso a un trabajo estable a tiempo completo está en cuestión”

XL. ¿Y cómo asegurarnos de que estas sean dignas?

M.L.G. Piense en la industria textil. Hoy día, si quiero saber de dónde viene mi chaqueta, puedo mirar la cadena de suministros y ver quién ha participado, quién se ha beneficiado del proceso de elaboración, transporte y venta de mi chaqueta. Necesitamos hacer lo mismo para los servicios de información. Se trata de una barrera legal, política. Exigir unas condiciones dignas es responsabilidad de gobiernos, compañías y consumidores. Está en nuestras manos.

XL. Microsoft, por cierto, se beneficia de la situación que denuncia. ¿Cómo ha reaccionado a sus investigaciones?

M.L.G. Soy investigadora en Microsoft Research, pero el centro funciona de modo independiente. Mi trabajo allí consiste en la investigación científica básica y la compañía no interviene en mis preguntas ni mis respuestas.

XL. Pero ¿ha cambiado algo en su modo de funcionar?

M.L.G. Hemos compartido nuestras conclusiones con distintos equipos de la compañía y hablamos en público y con otros miembros de la industria. Es difícil saber si ha tenido impacto, dentro o fuera de Microsoft, pero hacemos lo posible para que así sea.
EL EJÉRCITO DE TRABAJADORES FANTASMA



Mary L. Gray explica las tres categorías en que se dividen estos trabajadores fantasma.
Experimentalistas: son aquellas personas que acceden a este tipo de tareas para ver cómo es el trabajo, realizar uno o dos proyectos y dejarlo. Son la mayoría.
Regulares: los que participan de vez en cuando para ganarse un dinero extra.
Siempre conectados: trabajan a tiempo completo. «Las compañías que recurren a estos servicios necesitan los tres tipos de trabajadores. Son decenas de miles por cada compañía», añade Gray.

Comentarios

Entradas populares