por NIR EISIKOVITS – Umass Boston
Si eres como yo, has pasado mucho tiempo en los últimos meses tratando de descubrir de qué se trata todo esto de la IA. Modelos de lenguaje grande, IA generativa, sesgo algorítmico: es mucho para que los menos expertos en tecnología entre nosotros lo resuelvan, tratando de dar sentido a la miríada de titulares sobre la inteligencia artificial que se arremolinan.
Pero comprender cómo funciona la IA es solo una parte del dilema. Como sociedad, también nos enfrentamos a preocupaciones sobre sus efectos sociales, psicológicos y éticos. Aquí destacamos artículos sobre las preguntas más profundas que plantea la revolución de la IA acerca del sesgo y la desigualdad, el proceso de aprendizaje, su impacto en los trabajos e incluso el proceso artístico.
1. Deuda ética
Cuando una empresa lanza software al mercado, a menudo acumula una «deuda técnica»: el costo de tener que corregir errores después de que se lanza un programa, en lugar de corregirlos de antemano.
Hay ejemplos de esto en la IA, ya que las empresas compiten entre sí. Sin embargo, más alarmante es la «deuda ética», cuando los equipos de desarrollo no han considerado los posibles daños sociales o éticos: cómo la IA podría reemplazar los trabajos humanos, por ejemplo, o cuando los algoritmos terminan reforzando los sesgos.
Casey Fiesler, experta en ética tecnológica de la Universidad de Colorado en Boulder, escribió que es “una optimista tecnológica que piensa y se prepara como una pesimista”: alguien que dedica tiempo a especular sobre lo que podría salir mal.
Ese tipo de especulación es una habilidad especialmente útil para los tecnólogos que intentan imaginar consecuencias que podrían no afectarlos, explicó Fiesler, pero que podrían perjudicar a los «grupos marginados que están subrepresentados» en los campos tecnológicos. Cuando se trata de deuda ética, señaló, «las personas que incurren en ella rara vez son las personas que pagan por ella al final».
2. ¿Hay alguien ahí?
Las habilidades de los programas de IA pueden dar la impresión de que son conscientes, pero no lo son, explicó Nir Eisikovits, director del Centro de Ética Aplicada de la Universidad de Massachusetts Boston. “ChatGPT y tecnologías similares son aplicaciones sofisticadas para completar oraciones, nada más y nada menos”, escribió.
Pero decir que la IA no es consciente no significa que sea inofensiva.
«Para mí», explicó Eisikovits, «la pregunta apremiante no es si las máquinas son sensibles, sino por qué es tan fácil para nosotros imaginar que lo son». Los humanos proyectan fácilmente características humanas en casi cualquier cosa, incluida la tecnología. Esa tendencia a antropomorfizar “apunta a riesgos reales de enredos psicológicos con la tecnología”, según Eisikovits, quien estudia el impacto de la IA en cómo las personas se entienden a sí mismas.
Teniendo en cuenta cuántas personas hablan con sus mascotas y automóviles, no debería sorprender que los chatbots puedan llegar a significar tanto para las personas que interactúan con ellos. Los próximos pasos, sin embargo, son «fuertes barandillas» para evitar que los programas se aprovechen de esa conexión emocional.
3. Poner la pluma en el papel
Desde el principio, ChatGPT alimentó los temores de padres y maestros sobre hacer trampa. ¿Cómo podrían los educadores, o los funcionarios de admisiones de la universidad, para el caso, averiguar si un ensayo fue escrito por un ser humano o un chatbot?
Pero la IA genera preguntas más fundamentales sobre la escritura, según Naomi Baron, lingüista de la Universidad Americana que estudia los efectos de la tecnología en el lenguaje. La amenaza potencial de la IA para la escritura no se trata solo de la honestidad, sino de la capacidad de pensar por sí misma.
Baron señaló el comentario de la novelista Flannery O’Connor de que «escribo porque no sé lo que pienso hasta que leo lo que digo». En otras palabras, escribir no es solo una forma de poner tus pensamientos en papel; es un proceso para ayudar a ordenar tus pensamientos en primer lugar.
La generación de texto con IA puede ser una herramienta útil, escribió Baron, pero «hay una pendiente resbaladiza entre la colaboración y la invasión». A medida que nos adentramos en un mundo con más y más IA, es clave recordar que “elaborar un trabajo escrito debe ser un viaje, no solo un destino”.
4. El valor del arte
Los programas de IA generativa no solo producen texto, sino también imágenes complejas, que incluso han ganado uno o dos premios. En teoría, permitir que la IA realice una ejecución detallada podría liberar la creatividad general de los artistas humanos.
No tan rápido, dijeron Eisikovits y Alec Stubbs, quien también es filósofo en la Universidad de Massachusetts Boston. El objeto terminado que aprecian los espectadores es solo parte del proceso que llamamos «arte». Tanto para el creador como para el apreciador, lo que hace que el arte sea valioso es “el trabajo de hacer algo real y trabajar a través de sus detalles”: la lucha por convertir las ideas en algo que podamos ver.
Fuente: The Conversation/ traducción: Alina Klingsmen