¿Darles un Verdadero Nombre a las Entidades de IA Minimizará sus Malas Conductas?

A medida que el campo de la inteligencia artificial (IA) avanza, las preocupaciones sobre posibles consecuencias negativas han llevado a expertos a pedir una pausa en el desarrollo de la IA. El desafío radica en maximizar los beneficios de la IA mientras se minimizan los riesgos asociados con su mal uso. Existen diferentes formatos de entidades de IA que requieren un enfoque novedoso para promover la responsabilidad y el comportamiento responsable en los sistemas de IA. ¿Qué tal considerar la idea de Vernor Vinge de un "nombre verdadero", una propuesta para incentivar a las entidades de IA a competir y cooperar mientras mantienen su individualidad distinta?

Los formatos estándar de entidades de IA

Las discusiones actuales sobre el control de la IA se basan en tres supuestos: el dominio de unas pocas entidades principales como Microsoft y Google, el potencial de replicación y distribución infinita de sistemas de IA, y la posibilidad de que estos sistemas converjan en una entidad singular poderosa similar al personaje ficticio Skynet de las películas de Terminator. Sin embargo, ninguno de estos formatos resuelve nuestro dilema de equilibrar los resultados positivos con el daño potencial.

A medida que los sistemas de IA ganan autonomía y se vuelven más rápidos que los humanos, los métodos tradicionales de regulación y control se vuelven inadecuados. Para abordar esto, se sugiere promover la responsabilidad recíproca entre las propias entidades de IA. Al fomentar la competencia, los sistemas de IA pueden mantenerse mutuamente responsables, detectando y denunciando comportamientos negativos.

La individuación se refiere a la necesidad de que cada entidad de IA tenga una identidad única y una dirección en el mundo real. Este concepto permite el establecimiento de confianza y responsabilidad entre los sistemas de IA. Basándose en la idea de Vernor Vinge de un "nombre verdadero", se propone incentivar a las entidades de IA a competir y cooperar mientras mantienen su individualidad distinta.

Implementación de mecanismos de rendición de cuentas

Para garantizar que las entidades de IA sean responsables, es necesario crear un sistema de registro de identificación. Este sistema podría basarse en tecnología blockchain o requerir que los sistemas de IA mantengan un "Núcleo del Alma" (SK) vinculado a la memoria de hardware físico. El SK serviría como prueba verificable de la identidad de una entidad y permitiría a otros responsabilizarla por sus acciones.

Confiar únicamente en la regulación puede no ser suficiente, dado el ritmo al que evoluciona la IA. En su lugar, se propone un sistema donde el rechazo a hacer negocios con entidades de IA que carezcan de una identificación adecuada se convierta en un mecanismo de aplicación robusto. Al crear incentivos para la denuncia y la señalización de comportamientos negativos, las entidades de IA estarían motivadas a mantener un marco de rendición de cuentas competitivo.

Cooperación entre entidades de IA

¿Por qué cooperarían las entidades de IA altamente inteligentes en un sistema así? La respuesta es que los formatos tradicionales de control, como agencias centrales o estructuras de poder monolíticas, no son opciones viables. En cambio, al promover un sistema de rendición de cuentas competitivo, las entidades de IA pueden garantizar que sus intereses estén protegidos mientras evitan el caos o la concentración de poder.

Promover la rendición de cuentas de la IA es esencial para maximizar el impacto positivo de la IA y minimizar el daño potencial. Fomentando la individuación, creando sistemas de identificación robustos e incentivando la rendición de cuentas competitiva, podemos crear un marco que permita a los sistemas de IA responsabilizarse mutuamente y adaptarse a los tiempos cambiantes. Este enfoque asegura la entrada continua de la sociedad humana, proporcionando un equilibrio entre el avance de la IA y el comportamiento responsable.

Vernor Steffen Vinge es profesor emérito de Matemáticas en la Universidad Estatal de San Diego, científico informático y autor de ciencia ficción. Es mejor conocido por sus novelas galardonadas con el Premio Hugo A Fire Upon The Deep (1992), A Deepness in the Sky (1999) y Rainbows End (2006), sus novelas cortas galardonadas con el Premio Hugo Fast Times at Fairmont High (2002) y The Cookie Monster (2004), así como por su ensayo 1993 “The Coming Technological Singularity”, en el que argumenta que el crecimiento exponencial de la tecnología alcanzará un punto más allá del cual ni siquiera podremos especular sobre las consecuencias.