El gobierno australiano ha iniciado un período de consulta inesperado de ocho semanas destinado a determinar si ciertas herramientas de inteligencia artificial (IA) de "alto riesgo" deben prohibirse. Este movimiento sigue a medidas similares tomadas por otras regiones, incluidos los Estados Unidos, la Unión Europea y China, para abordar los riesgos asociados con el rápido desarrollo de la IA.
El 1 de junio, el ministro de Industria y Ciencia, Ed Husic, presentó dos documentos para revisión pública: uno sobre " IA en Australia" y otro sobre IA generativa del Consejo Nacional de Ciencia y Tecnología. Estos documentos se dieron a conocer junto con un período de consulta que permanecerá abierto hasta el 26 de julio.
El gobierno australiano busca comentarios sobre estrategias para promover el "uso seguro y responsable de la IA", explorando opciones como marcos éticos voluntarios, regulaciones específicas o una combinación de ambos enfoques. En particular, la consulta pregunta directamente si ciertas aplicaciones o tecnologías de IA de alto riesgo deben prohibirse por completo y busca información sobre los criterios para dent dichas herramientas.
El documento de debate integral incluye un borrador de matriz de riesgo para los modelos de IA, que clasifica los vehículos autónomos como de "alto riesgo" y las herramientas generativas de IA para crear registros médicos de pacientes como de "riesgo medio". El documento enfatiza tanto las aplicaciones positivas de la IA en sectores como la medicina, la ingeniería y el derecho, como los daños potenciales asociados con las herramientas de falsificación profunda, la generación de noticias falsas y los casos en los que los bots de IA han fomentado la autolesión.
Gobierno australiano vs IA
Las preocupaciones sobre el sesgo en los modelos de IA, así como la generación de información falsa o sin sentido conocida como "alucinaciones" por parte de los sistemas de IA, también se abordan en el documento de debate. Reconoce que la adopción de IA en Australia actualmente es limitada debido a los bajos niveles de confianza pública. El documento hace referencia a las regulaciones de IA implementadas en otras jurisdicciones y la prohibición temporal de ChatGPT como ejemplos.
Además, el informe del Consejo Nacional de Ciencia y Tecnología destaca las capacidades ventajosas de Australia en robótica y visión por computadora, pero señala debilidades relativas en áreas centrales como los modelos de lenguaje grande. Plantea preocupaciones sobre la concentración de recursos de IA generativa en un pequeño número de empresas tecnológicas predominantemente con sede en EE. UU., lo que plantea riesgos potenciales para Australia.
El informe explora aún más la regulación global de IA, proporciona ejemplos de modelos de IA generativos y sugiere que dichos modelos probablemente tendrán impactos de gran alcance en sectores que van desde la banca y las finanzas hasta los servicios públicos, la educación y las industrias creativas.
