por NICK SEAVER – Universidad Tufts
Uno de los hallazgos más interesantes de mi investigación etnográfica (en mi opinión, al menos) fue que muchas de las personas que construyen sistemas de recomendación de música han llegado a entender a sus productos como muy «humanos» (es decir, no como humanos, sino como informados por humanos o evidenciando un toque humano). En contraste con las descripciones comunes de los algoritmos como no humanos, provenientes tanto de críticos como de impulsores de sistemas algorítmicos, encontré una teoría local bastante viva de la sociotecnia y una insistencia en la idea de que los humanos son esenciales para el funcionamiento algorítmico. Tiene sentido, si se tiene en cuenta el hecho de que mis interlocutores generalmente eran personas que trabajan dentro de sistemas algorítmicos. No necesitan que un antropólogo les diga que su tecnología es sociocultural, eso es bastante obvio. Una persona incluso describió un sistema de recomendación que habían construido como «humano hasta el final» debido a su dependencia de los datos generados por los usuarios.
Un límite de mi investigación es que me concentré principalmente en ingenieros y científicos de investigación y, por supuesto, hay muchas otras personas involucradas en la creación de sistemas de recomendación comerciales de música y las plataformas en las que suelen estar integrados. Entonces, algunas de las personas con las que hablé estaban nominalmente aisladas del producto; pero, con el tiempo, a menudo terminan en posiciones que los ponen más en contacto con esa dinámica. En teoría, imaginaban que las tecnologías de recomendación de música podrían apaciguar a muchos grupos a la vez: ayudar a los oyentes a encontrar nueva música, ayudar a los artistas a encontrar nuevos oyentes y ayudar a sus jefes a adquirir nuevos usuarios. Entonces, en cierto sentido, la recomendación en sí misma es una especie de tecnología decorrelativa que promete mediar entre las tensiones de atención y escala. Pero no todos en estas empresas piensan de esa manera.
Muchos de mis interlocutores estaban bastante en conflicto, especialmente aquellos que habían terminado trabajando para grandes servicios de transmisión de música. En general, la forma en que intentaron resolver estos problemas fue dedicarse nuevamente a ayudar a los artistas a encontrar público, diseñando productos de recomendación que se centraran en artistas menos populares. Si alguna vez utilizaste la función «Fresh Finds» de Spotify, ese es el tipo de cosas de las que estoy hablando. Pero cuando estaba haciendo el trabajo de campo, la idea de que la transmisión de música bajo demanda de un gran catálogo era el telos de la distribución de música se había convertido en una cuestión de sentido común. Muchos de los problemas económicos y políticos en torno a ese tipo de infraestructura eran impensables porque, ¿cómo podría ser de otra manera?
En mi artículo “Care and Scale: Decorrelative Ethics in Algorithmic Recommendation”, esto surge de manera más central en la figura de Ellie, quien encabezó un equipo de control de calidad y se describió a sí misma como una «jardinera de datos», realizando un trabajo de mantenimiento que hizo que los productos de sus colegas, en su mayoría hombres, continuaran funcionando. Estereotípicamente, por supuesto, la escala se masculiniza y el cuidado se feminiza; las narrativas dominantes del heroísmo y la expansión de las startups son solo las iteraciones más recientes de algunas historias muy antiguas, al igual que la idea de que el trabajo de mantenimiento es insignificante y dominio propio de las mujeres. Los estudios de organizaciones feministas nos ayudaron a desmitificar esta historia en contextos empresariales: el trabajo de mantenimiento es extremadamente importante para el funcionamiento de las organizaciones, por muy invisibles que intenten hacerlo. Y el trabajo feminista sobre el cuidado que cito en el artículo presenta un caso similar de manera más amplia: sin trabajo del cuidado, no hay mundo compartido.
Entonces, reinventar la relación entre cuidado y escala tendrá algunas ramificaciones para la política de género del trabajo dentro de las corporaciones. Cuando vemos que una empresa adopta un concepto como «cuidado», debemos mirar de inmediato para ver quién lo está haciendo. Lo vemos en dos lugares. Primero, en el trabajo de personas como Ellie, liderando equipos de mantenimiento feminizados y racializados que, incluso si no están subcontratados, permanecen bajos en la jerarquía corporativa. En segundo lugar, podemos verlo adoptado por los fundadores de la empresa; pero cuando lo hacen, el trabajo se replantea no como mantenimiento sino como heroísmo, una especie de arduo trabajo para poner en marcha una empresa. A medida que esta dinámica continúe desarrollándose, será importante ver qué sucede con los roles de género en estas empresas, y me alegro de que haya más etnógrafos que se ocupan de este tema.
Tiendo a pensar en la escalabilidad como un tipo de orientación hacia el futuro a largo plazo, más que como algo a corto plazo. Pero la escala realmente existente no ocurre en el futuro (que, después de todo, nunca está aquí todavía), sino en el presente. Y una cosa que se ve en los esfuerzos a corto plazo por ser «escalables» son prácticas comerciales que parecen bastante irracionales, y que solo tienen sentido cuando se invoca el tipo de futuro adecuado: así, por ejemplo, empresas como Uber son famosas por perder dinero mientras crecen a valoraciones astronómicas. Para muchos críticos, esto parece una prueba de una perversa mala valoración; para la gente que gasta el dinero, parece una inversión en una empresa que dará sus frutos mucho más tarde. Por supuesto, esa recompensa no siempre ocurre (de ahí el carácter emprendedor del capital de riesgo), y cuando lo hace, comúnmente ocurre de una manera menos «tecnológica» de la que cabría esperar (por ejemplo, un final en torno a las leyes laborales, en lugar de alguna plataforma de software novedosa).
Creo que los argumentos de Anna Tsing sobre las externalidades de la escalabilidad son correctos: las empresas logran la apariencia de escalabilidad, en gran medida, trazan sus límites corporativos de manera estratégica. Desafortunadamente, esto significa que cuando les preguntamos si consideran los impactos a largo plazo de la ampliación, la respuesta es «sí», pero no en términos que satisfagan las preocupaciones de la mayoría de los críticos externos. Uno de mis intereses de investigación en curso es qué hacen los actores técnicos cuando intentan hacer lo correcto; entonces, para mí, la pregunta es menos «¿Consideran los impactos?» que «¿Cómo consideran los impactos?». Y, como se sugiere, no deberíamos esperar la misma respuesta a esta pregunta de todas las personas involucradas.
Una de las razones por las que encuentro el concepto de «meseta ética» tan convincente es porque captura la simultaneidad de la libertad y la restricción: nuestro sentido de lo que es posible, deseable y obligatorio está necesariamente moldeado por estas condiciones, incluso cuando tratamos de ser abiertos a lo que María Puig de la Bellacasa denomina una “ética especulativa”. Para las personas que trabajan en empresas de software, el capitalismo es, por supuesto, parte de ese terreno, y puede ser difícil (quizás imposible) volver a imaginarlo desde el contexto empresarial. Ciertamente, puede argumentarse que una empresa como Google solo comenzó a invertir en «ética» una vez que quedó claro que los problemas éticos representaban una amenaza para su imagen pública (y, en consecuencia, sus resultados finales). Como antropólogo, estoy realmente interesado en las personas dentro de estas organizaciones que no experimentan sus vidas como avatares de corporaciones, sino que intentan reconciliar lo que están haciendo con algún tipo de sistema de valores personales. A menudo encuentran límites y, a menudo, esos límites se enmarcan en términos de ganancias: ¿Por qué Spotify no solo contrata personas para crear listas de reproducción personalizadas para todos sus usuarios? ¡Porque sería increíblemente caro! Las personas en diferentes posiciones jugarán con este límite de manera diferente: una empresa como The Yams rechazó el escalado y abrazó la idea de hacer las cosas a mano; mis interlocutores que hacen recomendaciones algorítmicas vieron su trabajo como una forma de beneficiarse más fácil (y barato) de las opiniones de otras personas; otros críticos pueden sugerir que simplemente no deberíamos tener listas de reproducción personalizadas en su forma actual.
Entonces, aunque la teoría de la ética decorrelativa es principalmente descriptiva, un esfuerzo por ayudar a otros etnógrafos que pueden encontrar dinámicas similares en sus propios sitios de campo, creo que al examinar cómo las personas intentan trabajar en sus valores, no solo dentro de ellos, puede ayudarnos a desarrollar nuestras propias posturas éticas como críticos y académicos.
Materiales: SCA/ Edición y traducción: Maggie Tarlo