La amenaza de la IA es una cuestión de intención humana, no de tecnología, Prof. Virginia Dignum

Resumen TL;DR

• La principal amenaza que plantea la IA radica en cómo los humanos malutilizan la tecnología en lugar de la tecnología en sí misma.
• Debe prestarse atención inmediata a abordar los problemas causados por los sistemas de IA, como la desigualdad, el sesgo, la discriminación y las preocupaciones sobre la privacidad.
• La regulación y la responsabilidad de la IA deben involucrar un esfuerzo colaborativo entre desarrolladores, gobiernos y organismos reguladores para garantizar estándares éticos y salvaguardar a la sociedad.

El desarrollo de la inteligencia artificial (IA) ha generado preocupaciones sobre su potencial para representar amenazas existenciales para la humanidad. Sin embargo, según la profesora Virginia Dignum, miembro del Grupo de Expertos de Alto Nivel de la UE sobre IA, la principal preocupación no radica en la tecnología en sí, sino en la forma en que los humanos la utilizan. En una entrevista reciente, la profesora Dignum enfatizó que la IA no es inherentemente peligrosa, pero puede convertirse en un riesgo cuando es utilizada por individuos para acumular poder, riqueza o con fines maliciosos. Esta perspectiva desafía la noción de que la IA se impulsa autónomamente hacia escenarios catastróficos. En cambio, destaca la necesidad de abordar el mal uso actual de la IA y su impacto negativo en la sociedad.

En lugar de centrarse únicamente en escenarios hipotéticos futuros, la profesora Dignum nos urge a enfrentar los problemas apremiantes causados por los sistemas de IA hoy en día. La desigualdad, el sesgo, la discriminación y las preocupaciones sobre la privacidad son solo algunos de los problemas inmediatos. A medida que la IA continúa permeando varios aspectos de nuestras vidas, su influencia en la sociedad se intensifica. Por lo tanto, los esfuerzos deben concentrarse en rectificar estos desafíos presentes en lugar de fijarse únicamente en escenarios apocalípticos poco probables.

La responsabilidad de los desarrolladores y los gobiernos

Reconociendo la necesidad de responsabilidad, la profesora Dignum enfatiza el papel de las corporaciones y los gobiernos en la regulación de la IA. Los desarrolladores deben asumir la responsabilidad de los sistemas que crean y garantizar su seguridad y estándares éticos. Mientras tanto, los gobiernos son responsables de proteger a sus ciudadanos mediante la promulgación de regulaciones apropiadas. Los desarrollos recientes, como la Ley de IA de la UE, demuestran un paso en la dirección correcta. Esta legislación histórica categoriza las aplicaciones de IA según sus niveles de riesgo y prohíbe por defecto las aplicaciones de riesgo inaceptable. Sin embargo, la responsabilidad de la regulación no puede recaer únicamente en las instituciones; requiere un esfuerzo colaborativo que involucre a formuladores de políticas, reguladores, gobiernos y el sector corporativo.

Códigos de conducta voluntarios y la necesidad de legislación

Aunque los códigos de conducta voluntarios, como los desarrollados por la UE y EE. UU., representan una iniciativa positiva, los críticos argumentan que se quedan cortos al mantenerse al día con los avances tecnológicos. Existe un creciente sentido de urgencia para abordar de manera integral y efectiva los riesgos de la IA. La profesora Dignum destaca la importancia de ir más allá de las regulaciones centradas únicamente en la tecnología. En cambio, la legislación debería centrarse en los efectos y las aplicaciones de los sistemas de IA. Ya sea que una decisión sea tomada por una IA avanzada, una hoja de cálculo simple o un humano, su impacto en la vida de las personas debería ser el determinante clave para la rendición de cuentas y la regulación.

La necesidad de una "licencia de conducir" para los sistemas de IA

La profesora Dignum compara acertadamente la introducción de regulaciones para los sistemas de IA con la obtención de una licencia de conducir antes de operar un automóvil. Al igual que conducir sin licencia plantea riesgos para uno mismo y para los demás, implementar sistemas de IA sin responsabilidad y regulación puede tener consecuencias desastrosas. El desarrollo y la implementación de la IA deben abordarse con un nivel similar de responsabilidad, asegurando que existan salvaguardas para proteger a los individuos y a la sociedad. Esta analogía subraya la urgencia de establecer estándares, directrices y mecanismos de monitoreo para gobernar eficazmente las aplicaciones de IA.

Aunque las preocupaciones sobre los posibles riesgos de la IA han recibido una atención significativa, la profesora Virginia Dignum desafía la noción de que la IA en sí misma representa una amenaza para la humanidad. En cambio, enfatiza que los verdaderos riesgos provienen del uso indebido de la tecnología por parte de los seres humanos para obtener beneficios personales o con intenciones maliciosas. Se requiere una acción urgente para abordar los problemas existentes causados por los sistemas de IA, incluida la desigualdad, el sesgo, la discriminación y las preocupaciones sobre la privacidad. Esto requiere un esfuerzo colectivo que involucre a desarrolladores, corporaciones, gobiernos y organismos reguladores para garantizar la responsabilidad, la seguridad y los estándares éticos. Al centrarse en el uso responsable y la regulación de los sistemas de IA, podemos aprovechar su potencial para generar un impacto positivo mientras minimizamos los riesgos que plantean a la sociedad.