Investigadores del MIT anuncian un repositorio de riesgos de la IA

Investigadores del MIT y otras organizaciones han creado el Repositorio de Riesgos de IA, una amplia base de datos de riesgos documentados que agravan los sistemas de IA. Esto se produce en un contexto de rápida evolución de la tecnología, lo que también se asocia con el riesgo del uso de sistemas de IA.

El repositorio busca ayudar a los tomadores de decisiones en diversas instituciones, como el gobierno, la investigación, las empresas y la industria, a evaluar los riesgos emergentes asociados con la IA, aunque tiene capacidades transformadoras.

El repositorio aporta documentación ordenada de los riesgos de la IA

Si bien varias organizaciones e investigadores han reconocido la importancia de resolver los riesgos de la IA, los esfuerzos por documentar y categorizar estos riesgos han sido, en mayor medida, torpes, lo que ha resultado en un panorama fragmentado de sistemas de clasificación conflictivos.

“Queríamos una visión general completa de los riesgos de la IA para usarla como lista de verificación”, dijo Peter Slattery, futuro investigador postdoctoral de MIT FutureTech y líder del proyecto, a VentureBeat.

“Pero cuando analizamos la literatura, descubrimos que las clasificaciones de riesgo existentes eran como piezas de un rompecabezas: individualmente interesantes y útiles, pero incompletas”

Desparramado.

El Repositorio de Riesgos de IA aborda el desafío mencionado fusionando información de 43 taxonomías existentes, incluidos artículos revisados ​​por pares, preimpresiones, artículos de conferencias e informes.

Este minucioso proceso de selección ha dado lugar a la creación de una base de datos con más de 700 riesgos exclusivos. El repositorio utiliza un sistema de clasificación bidimensional.

En primer lugar, los riesgos se clasifican en función de sus causas, teniendo en cuenta la entidad responsable (humana o IA), la intención (no intencional o internacional) y el momento de la implementación (posterior al desarrollo o anterior al despliegue).

Según el MIT, esta categorización subyacente ayuda a comprender las situaciones y los mecanismos a través de los cuales pueden surgir riesgos de IA.

Los investigadores del MIT clasificaron los riesgos de la IA en siete

Por otro lado, los riesgos se clasifican en siete dominios diferentes, que incluyen desinformación y actores maliciosos, mal uso, discriminación y toxicidad, privacidad y seguridad.

El Repositorio de Riesgos de IA está diseñado para ser una base de datos viva y está disponible públicamente, y las instituciones pueden descargarlo para su consumo.

Los equipos de investigación pueden planificar actualizar frecuentemente la base de datos con nuevos riesgos, últimos hallazgos y tendencias en evolución.

El Repositorio de Riesgos de IA también pretende ser un recurso práctico para empresas de diversos sectores. Para las instituciones que desarrollan sistemas de IA, el repositorio actúa como una valiosa lista de verificación para evaluar los riesgos y mitigarlos.

“Las organizaciones que utilizan IA pueden beneficiarse del empleo de la base de datos de riesgos de IA y las taxonomías como una base útil para evaluar de forma integral su exposición y gestión de riesgos”

Investigadores del MIT.

“Las taxonomías también pueden resultar útiles paradentcomportamientos específicos que deben realizarse para mitigar riesgos específicos”, agregaron los investigadores.

Una organización que esté estableciendo un sistema de contratación impulsado por IA, por ejemplo, puede utilizar el repositorio para señalar los posibles riesgos asociados con la discriminación y el sesgo.

De esta forma, una empresa que utiliza IA para moderar contenidos puede aprovechar el ámbito de la “desinformación” para comprender los riesgos potenciales relacionados con el contenido generado por IA y establecer las redes de seguridad necesarias.

Investigadores del MIT colaboraron con colegas de la Universidad de Queensland, el Future of Life Institute, KU Leuven y la empresa emergente de inteligencia artificial Harmony Intelligence para examinar bases de datos académicas y recuperar documentos relacionados con los riesgos de la IA.

Los investigadores también revelaron que el Repositorio de Riesgos de IA servirá de base para otras investigaciones a medida quedentmás brechas que necesitan atención.

“Utilizaremos este repositorio paradentposibles brechas o desequilibrios en la forma en que las organizaciones abordan los riesgos”, afirmó Neil Thompson, director del MIT FutureTech Lab.