La regulación de IA en Canadá enfrenta llamados para un Comisionado de IA Independiente

Canadá está a la vanguardia para abordar la proliferación y el ritmo del desarrollo de la inteligencia artificial (IA), pero a medida que el gobierno busca regular esta tecnología en rápido avance, crecen las preocupaciones sobre la necesidad de un Comisionado de IA independiente. Las organizaciones de la sociedad civil y los investigadores han expresado la importancia de establecer un funcionario independiente para supervisar el uso de la tecnología de IA en el sector privado, separado del departamento de Innovación, Ciencia y Desarrollo Económico de Canadá (ISED). Este movimiento se produce en respuesta al Proyecto de Ley C-27, también conocido como la Ley de Implementación de la Carta Digital, que incluye nuevas regulaciones para el uso de la IA por parte de las empresas.

Desafíos con el Proyecto de Ley C-27

En una carta abierta dirigida a François-Philippe Champagne, el Ministro responsable de ISED, una coalición de organizaciones de la sociedad civil, incluida la Asociación Canadiense de Libertades Civiles (CCLA) y el Centro de Defensa del Interés Público, expresaron sus preocupaciones sobre el Proyecto de Ley C-27. Destacaron las lagunas definitorias del proyecto de ley y la falta de consulta antes de su presentación.

Regulaciones de privacidad e IA

Uno de los problemas clave planteados en la carta abierta fue la amalgamación de las regulaciones de privacidad e IA dentro del mismo proyecto de ley. Los firmantes argumentaron que estas dos áreas cruciales deberían considerarse por separado, enfatizando la necesidad de un proceso distinto para la regulación de la IA. También recomendaron reconocer la privacidad como un derecho humano fundamental y ampliar la regulación de la IA para incluir el sector público, incluidas las agencias gubernamentales.

Código de conducta para la IA en Canadá

El Ministro François-Philippe Champagne presentó un código de conducta voluntario para el uso de sistemas avanzados de IA generativa en Canadá para abordar las crecientes preocupaciones sobre el desarrollo y el uso de la IA. Este código complementa el Proyecto de Ley C-27 y tiene como objetivo construir seguridad y confianza a medida que la tecnología de IA avanza. Las empresas tecnológicas en Canadá, incluidas OpenText y Cohere, se comprometieron a adoptar estas salvaguardas autoimpuestas.

Legislación gubernamental vs. sector privado

Benoit Deshaies, Director de Datos e Inteligencia Artificial para la Oficina del Oficial Principal de Datos de Canadá, señaló que el Proyecto de Ley C-27 no se aplica a las operaciones del gobierno federal, distinguiendo cómo se regula la IA en el gobierno versus el sector privado. Christelle Tessono, investigadora de políticas tecnológicas, argumentó que esta discrepancia debería abordarse para garantizar la rendición de cuentas en todos los sectores.

Abordando la independencia del comisionado de IA

Una de las preocupaciones centrales respecto a la regulación de la IA en Canadá es la independencia del Comisionado de IA propuesto. El nivel de independencia otorgado a este funcionario impactará significativamente su capacidad para realizar auditorías y hacer cumplir las regulaciones de IA de manera efectiva. Actualmente, el proyecto de ley no detalla los poderes del comisionado, lo que lleva a la opacidad en el sistema de rendición de cuentas.

Enfoques comparativos

Tessono destacó que tanto Estados Unidos como Europa están desarrollando enfoques independientes para la regulación de la IA. Estados Unidos está empoderando al Comisionado Federal de Comercio existente para supervisar la política con personal adicional, mientras que Europa está estableciendo la Junta Europea de Inteligencia Artificial, compuesta por representantes de cada estado miembro de la Unión Europea. En Canadá, Tessono sugirió que sería más beneficioso que el Comisionado de Privacidad asumiera partes del papel del Comisionado de IA, con una oficina dedicada responsable de comprender los impactos en la privacidad y los derechos humanos relacionados con el uso de la IA.

Soluciones para la independencia

Se han propuesto varias soluciones para garantizar la independencia del papel del Comisionado de IA. Una opción es crear un nuevo tribunal que haga cumplir la Ley de Inteligencia Artificial y Datos. Alternativamente, el Comisionado de Privacidad de Canadá podría asumir el papel de regulador, siempre que tenga los poderes apropiados para investigar, realizar auditorías e imponer multas.

A medida que Canadá lidia con la regulación de la inteligencia artificial y su impacto en la privacidad y los derechos humanos, establecer un Comisionado de IA independiente se ha convertido en un problema urgente. Las organizaciones de la sociedad civil, los investigadores y los expertos legales abogan por la separación de la supervisión de la IA de los departamentos gubernamentales como ISED para garantizar que la regulación de la IA priorice los derechos humanos y la transparencia sobre los intereses privados. A medida que el Comité de Industria y Tecnología de la Cámara de los Comienza su estudio del Proyecto de Ley C-27, el llamado por un Comisionado de IA independiente sigue siendo un punto central de discusión en la configuración del panorama regulatorio de la IA en Canadá.