Investigadores sugieren pautas de IA para reducir errores en la investigación científica

La evidencia ha demostrado que existen importantes deficiencias en la aplicación del aprendizaje automático en la investigación científica. Este problema se hadenten numerosos artículos de investigación que abarcan diferentes campos, pero un equipo de 19 investigadores de diferentes disciplinas ha publicado directrices de IA sobre el uso responsable del aprendizaje automático en la ciencia, bajo la supervisión de Arvind Narayanan y Sayash Kapoor, ambos informáticos de la Universidad de Princeton.

Directrices de IA para la investigación científica

Los autores afirman en el informe que su trabajo es un esfuerzo por señalar este problema de credibilidad que puede prevalecer en todo el ecosistema de investigación. Narayanan argumenta que no existen estándares universales para proteger la integridad de los métodos de investigación, y que el aprendizaje automático se aplica ahora en todos los campos científicos, por lo que esto puede convertirse en un problema más grave que la crisis de replicación observada en la psicología social hace una década. Llama a la crisis actual una crisis de reproducibilidad. Como dijo Narayanan:

“Cuando pasamos de los métodos estadísticos tradicionales a los de aprendizaje automático, hay muchísimas más formas de dispararse en el pie”

Fuente: AzoAI.

Pero los autores de investigaciones en salud, informática, ciencias sociales y matemáticasmatictienen buenas noticias. Afirman que un conjunto de buenas prácticas puede ayudar a resolver el problema actual. Kapoor, estudiante de posgrado en informáticadent quien organizó la investigación para elaborar la lista de verificación para el trabajo científico y colabora con Narayanan, afirmó que el problema es sistemáticomatic que la solución también deberíamatic.

La publicación puede ralentizarse, pero la precisión aumentará

El objetivo de la nueva lista de verificación basada en el consenso es garantizar la autenticidad de la investigación que utiliza el aprendizaje automático. La evolución de la ciencia se basa en la reproducibilidad de los resultados y en la necesidad de validar las afirmaciones de formadent. Sin esto, no es posible realizar nuevas investigaciones científicas de forma fiable basándose en trabajos previos, y todo el sistema pierde credibilidad.

La nueva lista de verificación requiere que los investigadores proporcionen información detallada sobre el uso de modelos de aprendizaje automático, ya que deben proporcionar los conjuntos de datos utilizados para entrenar el modelo, su código, capacidades de hardware, diseño piloto y objetivos de investigación, junto con cualquier restricción en los hallazgos del estudio, ya que el enfoque está en la transparencia.

Si bien también existe la posibilidad de que los mayores requisitos de estas nuevas normas puedan ralentizar la publicación de nuevos estudios de investigación, los investigadores de la iniciativa aún creen que la adopción de estas reglas será útil para aumentar la tasa de descubrimiento e innovación en general. 

Una de las autoras del estudio, Emily Cantrell, estudiante de doctoradodent la Universidad de Princeton, afirmó que les preocupa el ritmo de la investigación científica, pero al garantizar que la calidad de los artículos publicados sea la adecuada, los artículos futuros pueden basarse en ellos para futuras investigaciones. Kapoor también afirma que los errores son perjudiciales considerando su impacto general y una pérdida de tiempo, lo que a su vez cuesta dinero, ya que obstaculizan la investigación científica que obtiene financiación e inversión.