por ROBERT J. MORAIS – Universidad de Columbia
Soy antropólogo cultural y he estado reflexionando sobre el impacto cultural de la inteligencia artificial. Reconozco el potencial de la IA para aumentar el conocimiento, la productividad y generar avances médicos. No tengo ninguna duda de que la IA será un socio colaborativo e infatigable para la humanidad. Estoy tan entusiasmado con esto que este otoño incorporaré la IA en el plan de estudios de mi curso de la Escuela de Negocios de Columbia, Inteligencia de mercado: el arte y la ciencia. Al mismo tiempo, soy muy consciente de las amenazas de la IA, entre ellas el desplazamiento de empleos, las filtraciones de datos y la aniquilación de la humanidad (una probabilidad de 50-50, según BCA Research).
No estoy escribiendo aquí sobre la lista que proporcionó Google Bard cuando le pedí que describiera el impacto de la IA en la cultura: democratizar los medios, mejorar nuestra calidad de vida, cambiar la forma en que trabajamos y desafiar nuestro concepto de identidad. Vale la pena considerarlos todos. Sin embargo, mi atención se centra en un tema que ha fascinado a los antropólogos durante mucho tiempo: la narración y el papel de las historias como modelos de comportamiento y creadores de significado. Allí el impacto de la IA podría ser más insidioso que los temas que proporcionó Google Bard. El racismo bien documentado de IA es una preocupación, pero mi ámbito es más amplio.
Durante eones, sólo los seres humanos crearon historias. Los antropólogos observaron que las historias expresan el espíritu de una cultura, personifican ideas y valores compartidos, codifican reglas sociales y abarcan una visión del mundo. Este ensayo es una reflexión –y una provocación– basada en la noción de que el conocimiento producido por la IA conversacional a la que muchos de nosotros ahora accedemos es, a menudo, una forma de contar historias. Si miramos con suficiente atención, podemos discernir una especie de espíritu artificial subyacente en algunas de las historias de la IA.
En su forma más básica, una historia imparte información. A veces es difícil saber cuándo una historia es real o imaginaria y la IA no es consciente de la diferencia. La ficción histórica combina realidad y ficción por diseño. Si te suscribes a la teoría del multiverso, todas las historias pueden ser ciertas en todas partes y al mismo tiempo. La confiabilidad de las historias como información ha sido objeto de debate durante años. Just So Stories de Rudyard Kipling contenía cuentos sobre los orígenes de las características físicas de los animales que tenían como objetivo divertir a los niños. Décadas más tarde, el genetista Lewis I. Held Jr. se vio impulsado a publicar un relato científico de la evolución animal. En la película Rashomon, diferentes personas presencian un evento horrible y brindan relatos contradictorios de lo ocurrido. Una interpretación de Rashomon es que los hechos son subjetivos y dependen de la perspectiva de cada uno. El autor de ciencia ficción Ted Chiang escribe sobre la verdad en contraste con el sentimiento de una historia, contemplando los méritos de lo que es correcto históricamente frente a lo que es valioso para una comunidad en el presente. Hace varios años, el comediante Stephen Colbert acuñó el término “veracidad” para denotar la sensación de que algo se siente verdadero incluso si es falso. Las “noticias falsas” ganaron popularidad como garrote político en la última década, pero se remontan a finales del siglo XIX. La variabilidad de decir la verdad fue demostrada vergonzosamente por la consultora política Kellyanne Conway cuando hizo referencia a “hechos alternativos” sobre el tamaño de la multitud en la toma de posesión presidencial de Donald Trump. ¿Es necesario decir más sobre las mentiras de George Santos sobre su familia, herencia étnica, educación, empleo, finanzas, residencias, salud y obras de caridad?
¿Qué vamos a hacer con las historias elaboradas por un no humano? ¿Cómo podemos separar los hechos de la ficción si, cuando le pedimos precisión a la IA, se nos proporciona fantasía y el juicio del autor está ausente? Eso es lo que ocurre cuando la IA «alucina». Le pregunté a ChatGPT: ¿Cómo puedo estar seguro de que la información que proporcionas es verdadera? Aquí está parte de su respuesta: “Es importante tener en cuenta que ChatGPT no es infalible y puede cometer errores o proporcionar información incompleta o inexacta. Si bien ChatGPT puede proporcionar conocimientos e información útiles, siempre es una buena idea ejercitar el pensamiento crítico y verificar la información a través de múltiples fuentes”.
Buen consejo. El problema es que muchos de nosotros no le prestamos atención. Estamos demasiado ocupados, somos demasiado vagos o demasiado confiados. Si bien la IA promete eficiencia para la generación de conocimiento, sus errores e interpretación pueden ser problemáticos. Mi aprensión aumenta cuando pienso en el impacto sutil e ilimitado de la IA en nuestras ideas, sentimientos y comportamientos basados en la cultura. La IA aún no está impartiendo un ethos de manera consciente, pero se pueden discernir significados y sesgos latentes en gran parte de su contenido. Si la IA se vuelve sensible, ¿se desarrollará un espíritu determinado? ¿Podremos muchos de nosotros decodificar el espíritu implícito en sus historias? ¿Qué impacto podría tener el espíritu de la IA en sus usuarios humanos? ¿Cómo podría alterar el carácter de nuestras culturas? ¿Estamos preparados para la posibilidad de que las historias que inventa la IA y el espíritu artificial que transmiten implícitamente puedan tener efectos profundos y generalizados en quiénes somos como seres humanos? Estas preguntas, que van más allá de las falsedades per se, no son sólo para que las hagan los antropólogos; son preguntas para cada uno de nosotros.
Nuestra dependencia de las historias de la IA proliferará cuanto más aprovechemos su amplitud y profundidad de conocimiento y disfrutemos de su velocidad para proporcionarlo. Incluso si los proveedores de IA pausaran sus avances tecnológicos para mitigar sus riesgos, no hay duda de que la IA impregnará nuestras vidas. Gran parte de eso permitirá a la humanidad vivir de manera más inteligente y mejor. Este es un momento en el que deberíamos reflexionar sobre la capacidad narrativa de la IA, ser conscientes del espíritu artificial transmitido en algunas de sus historias y tomar en serio sus implicaciones culturales. Antes de aceptar las historias de la IA, debemos recordar al antiguo romano que, después de que un vendedor del mercado le contara una historia convincente pero falsa, probablemente pensó: caveat emptor.
Fuente: Public Anthropologist/ Traducción: Alina Klingsmen