El Grupo de Trabajo de BU recomienda el uso cauteloso de aplicaciones detectoras de IA y un enfoque crítico hacia la IA

Hay mucho revuelo alrededor de la infiltración de la IA (inteligencia artificial) en la educación superior y las instituciones de educación superior, impactando muchos aspectos. Incluyendo, pero no limitado a, los procesos de admisión, enseñanza y calificación, todos ampliamente discutidos en diferentes plataformas. El papel de los chatbots también es un punto clave de discusión cuando se trata de opciones de enseñanza personalizada, pero aún no se ha evolucionado para la educación superior. Con el uso generalizado de la tecnología de la IA, también ha aparecido en el mercado una nueva generación de aplicaciones detectoras de IA.

En el otoño del año pasado, se formó el Grupo de Trabajo de IA de la Universidad de Boston para evaluar el impacto de la IA generativa en la educación superior y la investigación, así como para revisar las políticas que se están adoptando en los institutos académicos, escuelas y facultades de BU. 

Recomendaciones del grupo de trabajo de BU para un enfoque crítico de la IA

Estas prácticas no son exclusivas de BU, ya que colegios y universidades de todo el país han estado evaluando la tecnología de la IA y su impacto, y formando políticas y marcos éticos alrededor de su uso. El aspecto desafiante es que la inteligencia artificial aún no ha madurado y sigue evolucionando, y los nuevos avances brillan con extrema intensidad, deslumbrándonos por el momento. Todo esto comenzó con el lanzamiento de ChatGPT, que nuevamente está causando una disrupción con su aplicación de generación de video por IA, Sora. 

Al observar los avances realizados en solo un año, es realmente difícil predecir qué habrá sobre la mesa, digamos dentro de cinco años. Volviendo a las perspectivas educativas y los esfuerzos de BU, el grupo de trabajo publicó su informe sobre el asunto después de consultar con profesores y expertos de la industria. El informe titulado “Informe sobre la IA Generativa en la Educación y la Investigación” destaca varios puntos, pero el enfoque principal está en abordar la IA generativa con un enfoque crítico. Esto se aconseja dirigiéndose a la facultad, ¿qué pensaban sobre los estudiantes? Bueno, tal vez sea para todos los involucrados.

También se recomienda que los estudiantes deben ser informados sobre la IA en su plan de estudios y educados sobre sus capacidades y enfoque de uso. BU también publicó las opiniones de algunos de los mejores profesores respecto a la integración de la IA. El profesor Yannis Paschalidis de Ingeniería, al ser preguntado sobre el “abrazo crítico” de la IA hablando de manera práctica, dijo:

“Reconocer que la IA está aquí para quedarse y puede ser una herramienta efectiva que se pueda utilizar para acelerar la investigación y mejorar la enseñanza.”

Fuente: Universidad de Boston

También añadió:

“En la práctica, esto implica usarla con precaución. Con la universidad adoptando una política de ‘abrazo crítico’ de la IA, las escuelas y facultaciones serían guiadas para adoptar sus propias políticas locales adaptadas a las necesidades de las disciplinas que sirven.”

Fuente: Universidad de Boston

El profesor Paschalidis dice que las políticas deben ser consistentes con las políticas más amplias de toda la universidad. Pero enfatiza que debe haber cierto margen para que la facultad tome sus propias decisiones sobre el tema, que se adopten según los requisitos de sus clases.

Aplicaciones detectoras de IA y su falta de fiabilidad

El informe de BU también destaca la importancia del uso de programas de monitoreo de IA, ya que los estudiantes ya lo utilizarán debido a la disponibilidad de varias aplicaciones y programas. Pero quiere mantener y promover la integridad académica y proceder con cautela respecto a la IA. El profesor Pasachalidis considera que las aplicaciones detectoras de IA que detectan el uso de IA no son a prueba de balas. Dicho esto, afirma que estos programas solo proporcionan una estimación de si se utilizó IA para generar cierto texto, audio o video, pero no son correctos al 100 por ciento. Por lo tanto, al evaluar la mala conducta desde un punto de vista académico, la facultad debe estar vigilante y no depender completamente de las herramientas.

Otro profesor, Wesley J. Wildman de Filosofía, dice que los instructores y los estudiantes podrían estar utilizando el mismo software de detección de IA y obteniendo la misma calificación que hacen para verificar el plagio. Dice que los detectores de IA no son consistentes en este momento, y tampoco son tan confiables todavía. Esto es una incógnita para su precisión y confiabilidad, ya que pueden ser manipulados con errores de ortografía y gramática en cierta medida. Por esta misma razón, se aconseja a los instructores que ejerzan cautela al utilizar estas herramientas.

El esfuerzo de BU y la realización de esta tarea para producir un informe exhaustivo sobre el uso de la IA, el profesor Pasachalidis dijo que la formación del grupo de trabajo se realizó en los últimos meses de 2023 y en el semestre de primavera de 2024. La junta contactó a muchos expertos, personas de la industria, consultores y expertos en su propia BU. Incorporaron personas de todas las disciplinas ya que trajeron perspectivas originales de su propio campo respecto a la IA. Todos estos esfuerzos se llevaron a cabo para que la universidad pudiera tener un marco unificado respecto a la tecnología, asignar recursos para la capacitación y adoptar nuevas formas de enseñanza con la tecnología emergente.

Sobre el mismo tema, el profesor Wildman dijo:

“Escuchamos a expertos que representan disciplinas que aún no estaban nombradas en el grupo de trabajo.” 

Fuente: Universidad de Boston

Esperaba que las recomendaciones importantes del informe se implementaran de inmediato, y que algunas cosas pudieran tomar más tiempo en implementarse debido a su naturaleza y los recursos requeridos. Pero la narrativa de manejar la inteligencia artificial con un enfoque crítico se está poniendo en práctica sin demora.

Encuentre el informe de BU aquí.