Las universidades evitan la herramienta de detección de texto con IA de Turnitin por preocupaciones de precisión y privacidad
foto 5798749159124221960 y
- Las universidades estadounidenses evitan la herramienta de IA de Turnitin debido a las preocupaciones sobre acusaciones erróneas de plagio.
- Los críticos plantean preocupaciones sobre la precisión de la detección de IA y los problemas de privacidad.
- Equilibrar el papel de la IA en la academia y la equidad para los estudiantes sigue siendo un desafío complejo.
Varias universidades estadounidenses prominentes aún necesitan adoptar el software de IA de Turnitin diseñado para identificar textos generados por IA dentro de los ensayos y tareas de los estudiantes. Estas instituciones expresan reservas sobre la precisión de la herramienta y sus implicaciones de privacidad, lo que lleva a su decisión de abstenerse de implementarla.
Una preocupación principal articulada por estas universidades se centra en la fiabilidad de la herramienta de análisis de texto con IA de Turnitin. Aunque Turnitin afirma una tasa de falsos positivos inferior al uno por ciento, la Universidad de Vanderbilt considera este porcentaje problemático. Dado el volumen sustancial de documentos procesados anualmente —75.000 en 2022—, se anticipa que una tasa de falsos positivos del uno por ciento marcaría incorrectamente 750 documentos al año.
Otro problema planteado se relaciona con la transparencia. Los críticos sostienen que Turnitin no ha proporcionado información adecuada sobre los mecanismos de su detección de texto impulsada por IA. Aunque Turnitin menciona la identificación de patrones comúnmente encontrados en textos generados por IA, se abstiene de elucidar o delinear estos patrones, lo que genera interrogantes sobre la metodología de la herramienta.
Además, la privacidad constituye una preocupación primordial para las instituciones académicas. Confiar los datos de los estudiantes a una entidad externa carente de protocolos explícitos de privacidad y uso de datos sigue siendo un tema de preocupación.
La perspectiva de Turnitin
Por el contrario, Turnitin defiende su herramienta de análisis de texto con IA. Annie Chechitelli, directora de producto de Turnitin, sostiene que la herramienta no debe utilizarse para acciones punitivas automáticas contra los estudiantes. En cambio, su objetivo es ofrecer puntos de datos y recursos para facilitar diálogos con los estudiantes sobre su trabajo académico. Según Chechitelli, el juicio profesional de los educadores sigue siendo irremplazable.
Complejidades en la detección de texto generado por IA
Los desafíos asociados con la detección precisa de texto generado por IA no son exclusivos de Turnitin. Incluso OpenAI, un actor prominente en el desarrollo de IA, luchó por alcanzar una alta precisión en la detección de texto de IA. OpenAI finalmente retiró su clasificador de contenido generado por IA seis meses después de su lanzamiento debido a su precisión subóptima, subrayando la naturaleza intrincada de distinguir entre contenido creado por humanos y por máquinas.
El papel de la detección de IA en la academia
Aunque la herramienta de análisis de texto con IA de Turnitin recibe reseñas mixtas, subraya la relevancia creciente de la IA en la academia. A medida que las herramientas de IA ganan prominencia y sofisticación, la demanda de mecanismos efectivos de detección de IA se vuelve cada vez más imperativa. Las universidades deben navegar cuidadosamente este terreno para equilibrar la preservación de la integridad académica y garantizar un trato equitativo a los estudiantes.
Desafíos planteados por la edición con IA y humana
Un aspecto pivotal de este discurso implica la intrincación del análisis de texto. El software de detección de IA encuentra desafíos al examinar texto sometido a edición humana y de IA. Un estudio previo realizado por científicos informáticos de la Universidad de Maryland determinó que la capacidad de los clasificadores líderes para identificar texto generado por IA no supera significativamente el azar. Esto subraya aún más las intrincaciones inherentes a este esfuerzo.
Las preocupaciones de precisión, las brechas de transparencia y las consideraciones de privacidad han llevado a estas instituciones a ejercer prudencia. Si bien el papel de la IA en la academia está indudablemente en expansión, establecer métodos confiables para reconocer el contenido generado por IA sigue siendo una empresa compleja. En el paisaje tecnológico en evolución, las universidades y los proveedores de tecnología como Turnitin deben colaborar para garantizar evaluaciones justas y precisas mientras protegen la privacidad de los estudiantes. La armonización de estos elementos es fundamental para navegar eficazmente la intersección de la IA y la academia.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
