El desprendimiento de aprendizaje de máquinas allana el camino para el despliegue responsable y ético de la IA

En un momento crucial para el campo de la inteligencia artificial (IA), los investigadores están abordando un problema urgente asociado con la tecnología: enseñar a los sistemas de IA cómo olvidar. La Cumbre de IA ha llevado este tema a primer plano, destacando la importancia del "desaprendizaje de máquina" como una herramienta crítica para mitigar los riesgos que plantea la IA. 

A medida que la IA continúa integrándose en diversos aspectos de la sociedad, sus beneficios son innegables, pero también lo son los peligros potenciales. Este campo emergente de investigación busca abordar estas preocupaciones eliminando de manera eficiente y rentable los datos problemáticos de los modelos de IA, particularmente las redes neuronales profundas (RNN), que desempeñan un papel central en las aplicaciones modernas de IA.

El entrenamiento de RNN modernas, incluidos modelos bien conocidos como ChatGPT y Bard, es un proceso intensivo que requiere recursos computacionales y tiempo significativos. Estos modelos, conocidos como Modelos de Lenguaje Grande, requieren cantidades masivas de datos y energía para su entrenamiento, lo que equivale a decenas de gigavatios-hora, un nivel de consumo de energía que podría alimentar a miles de hogares durante un año. La esencia del problema radica en el hecho de que volver a entrenar sistemas de IA para olvidar datos específicos es una tarea laboriosa e intensiva en recursos.

Para abordar este desafío, ha emergido un nuevo campo de investigación conocido como "desaprendizaje de máquina". Los investigadores están trabajando en el desarrollo de técnicas que permitan a los modelos de IA olvidar eficientemente los datos que representan riesgos para la sociedad, manteniendo al mismo tiempo una alta precisión. Liderando esta investigación está la colaboración entre expertos en ciencias de la computación de la Universidad de Warwick y Google DeepMind.

El profesor Peter Triantafillou, del Departamento de Ciencias de la Computación en la Universidad de Warwick, coautorizó recientemente una publicación titulada "Hacia el Desaprendizaje de Máquina Sin Límites", disponible en el servidor de preimpresión arXiv. Él enfatiza la complejidad de las RNN (redes neuronales profundas), que pueden contener billones de parámetros, lo que dificulta comprender cómo y por qué estos modelos alcanzan sus objetivos. Esta complejidad, combinada con los vastos conjuntos de datos en los que se entrenan, genera preocupaciones sobre el daño potencial que las RNN pueden causar a la sociedad.

Abordar la sesgo y las preocupaciones de privacidad

Uno de los riesgos más significativos asociados con las RNN es la presencia de datos sesgados. Estos modelos pueden perpetuar estereotipos negativos al aprender de conjuntos de datos plagados de sesgos. Por ejemplo, los sistemas de IA pueden asociar incorrectamente a los médicos con hombres y a las enfermeras con mujeres, o incluso reforzar prejuicios raciales. Además, las RNN pueden incorporar datos con "anotaciones erróneas", como la etiquetación incorrecta de elementos, lo que puede tener graves implicaciones, especialmente en aplicaciones como el reconocimiento de imágenes.

Además, la violación de la privacidad de los individuos es una gran preocupación. El derecho al olvido, consagrado en regulaciones como el RGPD, otorga a los individuos el derecho a solicitar la eliminación de sus datos de cualquier conjunto de datos y programa de IA. Esto plantea un desafío significativo para los gigantes tecnológicos y subraya la necesidad de técnicas efectivas de desaprendizaje de máquina.

La promesa del desaprendizaje de máquina

La investigación reciente realizada por el profesor Triantafillou y su equipo ha producido un algoritmo revolucionario de "desaprendizaje de máquina". Este algoritmo permite a las RNN olvidar selectivamente los datos problemáticos sin necesidad de un reentrenamiento completo del modelo desde cero. Lo importante es que distingue entre tres tipos diferentes de datos que deben olvidarse: sesgos, anotaciones erróneas y problemas relacionados con la privacidad. Esta innovación ofrece una solución práctica y eficiente para mitigar los riesgos asociados con la IA.

El desaprendizaje de máquina se posiciona ahora como una herramienta vital para salvaguardar el despliegue responsable de la tecnología de IA. Al permitir que los sistemas de IA olviden datos que perpetúan sesgos, contienen errores o violan la privacidad, la sociedad puede aprovechar los beneficios de la IA sin comprometer los valores éticos y sociales.