Paranoia y vigilancia educativa en tiempos de IA

-

por SANDER HÖLSGENS y JOHN BOY – Universidad de Leiden

El 4 de abril, Turnitin, una empresa que ofrece un sistema de detección de plagio ampliamente utilizado, lanzó una versión preliminar de su kit de herramientas «Detección de escritura con IA». El sistema calcula qué proporción de la tarea de un estudiante se supone que está escrita por modelos de lenguaje generativo como el exitoso ChatGPT de OpenAI. Convenientemente para los instructores, esta puntuación se integra con otras funciones de Turnitin; simplemente agrega una columna a un informe resumido que sirve para señalar las posibles instancias y fuentes de plagio. El objetivo final es «ayudar a los educadores a mantener la integridad académica y garantizar que los estudiantes reciban un trato justo». La introducción de este sistema y su adopción por parte de los educadores de nuestra institución sirve como punto de entrada a esta coyuntura crítica en la educación superior. Como dijo Susan Blum, “la antropología necesita más atención al aprendizaje, y la sociedad, tan consumida por la escolarización y el aprendizaje, necesita escuchar a los antropólogos”.

Amplificando la desconfianza

Tal como están las cosas, los informes del sistema de detección solo son visibles para los instructores y administradores. Los estudiantes no pueden acceder al informe; más fuerte aún, esto se presenta como una característica clave. Por lo tanto, los estudiantes se quedan sin recursos ni oportunidades para la recursividad, es decir, poder ver qué estándares espera el sistema de ellos al interactuar con el mismo. Tal capacidad de retroalimentación sería importante, sobre todo porque instituciones como el Centro de Aprendizaje e Innovación de Leiden y la Unesco proponen experimentar con chat bots (Turnitin incluso publicó un blog para ayudar a «desarrollar la alfabetización en IA entre educadores y estudiantes», «mejorar los flujos de trabajo de enseñanza» y «potenciar el pensamiento de alto nivel» entre los estudiantes). Hay muchas maneras en que las técnicas generativas pueden usarse en una tarea antropológica, incluida la exploración de características técnicas y sesgos codificados. El sistema de Turnitin traduce todos esos usos en un porcentaje del «texto de calificación» que «se ha determinado que fue generado por IA».

En la Universidad de Leiden no se consultó a los instructores antes de la introducción de esta función. A pesar de ser un lanzamiento de vista previa, «no hay capacidad para desactivar la detección de IA». Sin la posibilidad de optar por no participar, los instructores de repente encontraron un número adicional junto a las tareas de sus alumnos sin ninguna orientación sobre lo que significa este número o qué consecuencias se deben derivar del mismo. Rápidamente, este número se unió a otras métricas de evaluación con las que los académicos se encuentran regularmente, como el índice h y los factores de impacto de las revistas, que presentan dudosas afirmaciones para medir los resultados. Al igual que con la herradura de Niels Bohr, los instructores no tienen que creer en estas métricas para que funcionen. Y el trabajo lo hicieron: en solo dos semanas, los instructores y los estudiantes se encontraron enfrentados entre sí como acusador y acusado, con todo el estrés y la tensión que eso implica en ambos lados. Al enmarcar el sistema como algo “creado para educadores con educadores”, notamos que servicios como estos amplifican aún más la desconfianza entre educadores y estudiantes.

Más en AntropoUrbana:  Adiós a las estructuras

Ajuste ideológico

Si bien los productos de fácil acceso que aprovechan los modelos de idiomas grandes son nuevos participantes en 2023, la introducción de la herramienta de detección de escritura IA por parte de la Universidad de Leiden y otras instituciones se ajusta a los repertorios ahora establecidos en la educación en los Países Bajos. A mediados de la década de 1970, el antropólogo Theo Jansen publicó una etnografía sobre las prácticas de control y autoridad en el aula. Al realizar una investigación en cuatro escuelas primarias ideológicamente distintas en los Países Bajos, notó una tendencia entre muchos maestros a alentar o imponer un comportamiento dócil y obediente. Desde los modos capitalistas de competencia en el aula hasta las relaciones de dependencia entre maestros y estudiantes, Jansen develó cómo la educación se vio influida por las tendencias culturales dominantes: individualismo, productividad, jerarquía, orden.

Desde entonces, este modo de escolarización se afianzó y también hizo avances significativos en la educación superior. El ideal humboldtiano de una educación basada en los principios imperantes de “soledad y libertad” tiene sus propios problemas, pero recordarlo de vez en cuando puede ayudarnos a ver hasta dónde se desvió la misión educativa de nuestras instituciones. El desarrollo personal fue ampliamente suplantado por una serie interminable de evaluaciones y otras ocasiones para complacer a los instructores y recibir calificaciones.

Para que estas evaluaciones sean significativas, no en el sentido de que supongan un uso valioso del tiempo de los estudiantes, sino en el sentido de medir el logro individual, las instituciones deben dedicar mucho tiempo a preocuparse por los estándares. ¿El trabajo que evalúa a los estudiantes refleja verdaderamente su esfuerzo individual? ¿Equivale este esfuerzo a los puntos ECTS asignados? O, en resumen, ¿cómo podemos continuar brindando el tipo de educación que apreciamos (y creemos que los estudiantes necesitan para tener éxito en sus vidas profesionales)?

Más en AntropoUrbana:  El surgimiento de la positividad tóxica

Ansiedad generativa de plagio

Bajo el paraguas de la integridad académica, las inquietudes sobre el plagio y otras formas de comportamiento fraudulento, que a menudo se supone que es rampante, llega a dictar políticas y mediar en las relaciones entre educadores y estudiantes. En lugar de trabajar juntos para crear conocimiento, la creciente desconfianza enfrenta a profesores y estudiantes como antagonistas en una elaborada trama académica. En 2005, el Secretario de Estado holandés para la Educación Superior y la Ciencia, en una misión para hacer que la educación superior holandesa sea más competitiva a nivel internacional, exigió castigos estrictos para los estudiantes que presentaban trabajos plagiados (ese Secretario de Estado, Mark Rutte, se convirtió en el primer ministro con más años en el cargo del país, en el cargo hasta el día de hoy). En 2007, la Universidad de Leiden proporcionó por primera vez un detector de plagio automatizado llamado Ephorus, que luego fue adquirido por Iparadigms, los fabricantes de Turnitin. Desde entonces, el uso de Turnitin se ha convertido en una práctica estándar entre docentes, no solo en nuestra propia universidad, sino en miles de instituciones en todo el mundo.

Integrado con sistemas de gestión del aprendizaje como Blackboard, Canvas y Brightspace, habilitar Turnitin suele estar a solo un clic de distancia cuando los instructores crean un formulario de envío de tareas. Todos los trabajos enviados a través de una asignación de Turnitin se convierten en parte del corpus de referencia de la empresa, que se utiliza para resaltar el material problemático con la ayuda de técnicas patentadas de análisis de texto. Esto significa que los estudiantes deben aceptar un acuerdo de usuario que otorga a Turnitin una «licencia no exclusiva, libre de regalías, perpetua, mundial e irrevocable» para su trabajo. Al hacerlo, su trabajo se convierte en parte de la acumulación cada vez mayor de material de estudiantes que se utiliza para inspeccionar los envíos entrantes: al cargar un texto, estás ayudando a entrenar un modelo monetizado que se utiliza para inspeccionar el trabajo de tus compañeros en todo el mundo.

Aunque el uso de la detección de plagio ahora está ampliamente normalizado, vale la pena recordar que en los primeros días a menudo estaba sujeto a un animado debate. Recientemente, en 2018, la Universidad de Ámsterdam fue testigo de un debate sobre el uso de Turnitin después de que Hans de Zwart, un estudiante de posgrado en filosofía que en ese entonces también era director de la organización de defensa Bits of Freedom, se opusiera a cargar su trabajo en el sistema debido a la términos «absurdos» que tendría que aceptar. Se le unieron instructores que consideraron que Turnitin no era ético.

Detección de IA como artefacto político

La introducción de la herramienta de detección de escritura AI se anunció como un hecho consumado, una mera característica técnica que se agrega a un producto, y además conveniente. Sin embargo, como hemos visto en las semanas desde su presentación, no es una herramienta neutra; en cambio, como dijo Langdon Winner, su introducción puede compararse con un acto legislativo que crea y transforma instituciones. Este acto legislativo está envuelto en el lenguaje insulso de las características del producto y las especificaciones técnicas, por lo que sus principales destinatarios, los educadores, se critican a sí mismos por ser ineptos en lugar de criticar una nueva política desacertada.

Más en AntropoUrbana:  Diez consejos para dedicarte a la antropología forense

Solo podemos especular cuántas dudas, cuántos momentos desgarradores, cuántos correos electrónicos innecesarios y confrontaciones sin sentido ya ha causado esta política fallida. Hasta ahora, parece poco probable que alguien rinda cuentas por esto, ya que carecemos de un foro y un lenguaje en el que abordar de manera crítica los servicios de detección de escritura de IA. En los últimos años, la Universidad de Leiden ha visto exitosas protestas ocasionadas por CameraGate, es decir, el despliegue clandestino de cámaras eufemísticamente denominadas «contadores de personas» en todas las aulas, pero otros sistemas de vigilancia a menudo escaparon al escrutinio. Las herramientas para garantizar la integridad académica simplemente están por encima de la crítica, porque los críticos corren el riesgo de ser vistos como defensores del fraude y las trampas. Es, como escribe bell hooks, “muy difícil cambiar las estructuras existentes [en la educación] porque el hábito de la represión es la norma”.

Una educación más allá del credencialismo

A pesar de las dificultades inherentes a hacerlo, creemos que este momento demuestra el valor de preguntar qué (o más) podría ser una pedagogía en la era de la IA generativa. Las perspectivas antropológicas y sociológicas son particularmente aptas para formular tal pedagogía: podemos preguntarnos si las herramientas que hemos llegado a apreciar o despreciar realmente sirven al trabajo de la educación en lugar de las funciones disciplinarias y estratificadoras de la universidad. O, retomando la sugerencia del colectivo Varia con sede en Rotterdam: ¿qué podemos hacer los antropólogos para romper con el maximalismo tecnológico y avanzar hacia el “aprendizaje mínimo viable”?

Fuente: Leiden Anthropo/ Traducción: Alina Klingsmen

Comparte este texto

Textos recientes

Categorías