La IA no regulada plantea preocupaciones sobre la ética y la sostenibilidad

El rápido crecimiento de la tecnología está generando preocupación por sus implicaciones sociales, éticas y de sostenibilidad. Acontecimientos recientes, como la destitución temporal del CEO de OpenAI, Sam Altman, han intensificado estas preocupaciones. Un informe titulado «Desenmascarando la sostenibilidad en la IA», publicado por la agencia de calificación Standard Ethics, con sede en Londres, pone de manifiesto la falta de gobernanza y directrices éticas en torno a la IA en muchas grandes empresas.

Las empresas se quedan atrás a la hora de abordar el impacto ético y de sostenibilidad de la IA

El informe de Standard Ethics evaluó a 240 de las mayores empresas que cotizan en bolsa, tanto dentro como fuera de la UE, en función de cuatro criterios clave relacionados con la gobernanza de la IA:

Reconocimiento del impacto ético y ESG (ambiental, social y de gobernanza) de la IA en sus códigos de ética.

Publicación de políticas de IA para rendir cuentas a las partes interesadas.

Divulgación de documentos secundarios sobre IA.

Alineación de las políticas de IA con las directrices internacionales.

Sorprendentemente, ninguna de las empresas encuestadas, tanto de la UE como de fuera de ella, hizo referencia a la IA en sus códigos éticos o de conducta. Solo el 9 % de las empresas con sede en la UE había publicado políticas sobre IA, principalmente en el sector bancario. Las empresas de fuera de la UE carecían de políticas sobre IA. Sin embargo, el 64 % de las empresas de la UE contaba con documentos genéricos sobre IA, en comparación con el 55 % de las empresas de fuera de la UE. El sector financiero lideró la lista, con el 89 % de las empresas financieras de la UE contando con dichos documentos.

Instituciones financieras pioneras en el uso sostenible de la IA

A pesar de estos preocupantes hallazgos, las empresas están avanzando en la dirección correcta, especialmente en el sector financiero. Según Beatrice Gornati,dent de la oficina de investigación de Standard Ethics, el sector financiero está más atento a las implicaciones sostenibles de la IA. Reconocen que la IA puede generar riesgos y afectar las relaciones con los clientes, lo que enfatiza la importancia del control humano en los procesos de IA.

La falta de transparencia en las decisiones de inversión y el aumento de la volatilidad del mercado son algunos de los posibles problemas si la IA no se gestiona con cuidado en el sector bancario. El enfoque proactivo de este sector en la adopción de la IA con una visión de sostenibilidad pone de manifiesto su compromiso con el uso responsable de la IA.

Alineación de las políticas de IA con los estándares internacionales

Para garantizar que las políticas de IA se alineen con los objetivos estratégicos internacionales, Standard Ethics recomienda que las empresas sigan las directrices emitidas por fuentes fiables como las Naciones Unidas y la Organización para la Cooperación y el Desarrollo Económicos (OCDE). Al adherirse a estas directrices establecidas, las empresas pueden comprender mejor las complejidades y los posibles riesgos asociados con la IA.

Una guía publicada por el Instituto de Gobierno Corporativo ofrece pasos prácticos para que las empresas mejoren sus políticas de IA, incluyendo la formación de grupos de trabajo para supervisar la creación de políticas y la formación de los miembros del consejo sobre los conceptos de IA. Sin embargo, es fundamental destacar que algunas empresas aún subestiman la magnitud del impacto de la IA, lo que enfatiza la necesidad de adherirse a los estándares internacionales para mejorar su comprensión de esta tecnología transformadora.

A medida que la tecnología de IA continúa su crecimiento sindent, la preocupación por sus implicaciones éticas y de sostenibilidad se vuelve cada vez más urgente. El informe «Descubriendo la sostenibilidad en la IA», de Standard Ethics, destaca la falta de gobernanza y directrices éticas en muchas grandes empresas, tanto dentro como fuera de la UE. Estos hallazgos subrayan la necesidad de que las empresas reconozcan el impacto ético y ESG de la IA, publiquen políticas de IA y las alineen con los estándares internacionales.

Si bien el financiero lidera la adopción de prácticas de IA sostenibles, es fundamental que todas las industrias reconozcan las implicaciones más amplias de la IA y tomen medidas proactivas para garantizar un uso responsable y ético de la misma. Siguiendo las directrices internacionales establecidas y profundizando su comprensión de las complejidades de la IA, las empresas pueden desenvolverse con mayor eficacia en este ámbito, mitigando al mismo tiempo los riesgos potenciales y los impactos negativos en la sociedad.