O governo australiano iniciou um inesperado período de consulta de oito semanas com o objetivo de determinar se certas ferramentas de inteligência artificial (IA) de “alto risco” deveriam ser proibidas. Esta medida segue medidas semelhantes tomadas por outras regiões, incluindo os Estados Unidos, a União Europeia e a China, na abordagem aos riscos associados ao rápido desenvolvimento da IA.
Em 1º de junho, o Ministro da Indústria e Ciência, Ed Husic, revelou dois artigos para revisão pública: um sobre “ IA na Austrália” e outro sobre IA generativa do Conselho Nacional de Ciência e Tecnologia. Esses documentos foram divulgados juntamente com um período de consulta que permanecerá aberto até 26 de julho.
O governo australiano procura feedback sobre estratégias para promover a “utilização segura e responsável da IA”, explorando opções como quadros éticos voluntários, regulamentações específicas ou uma combinação de ambas as abordagens. Nomeadamente, a consulta pergunta diretamente se determinadas aplicações ou tecnologias de IA de alto risco devem ser completamente banidas e procura contributos sobre os critérios para dent tais ferramentas.
O documento de discussão abrangente inclui um projeto de matriz de risco para modelos de IA, categorizando carros autônomos como “alto risco” e ferramentas generativas de IA para a criação de registros médicos de pacientes como “risco médio”. O documento enfatiza tanto as aplicações positivas da IA em sectores como a medicina, a engenharia e o direito, bem como os potenciais danos associados às ferramentas deepfake, à geração de notícias falsas e aos casos em que os bots de IA encorajaram a automutilação.
Governo australiano vs IA
As preocupações relativas ao preconceito nos modelos de IA, bem como à geração de informações absurdas ou falsas conhecidas como “alucinações” pelos sistemas de IA, também são abordadas no documento de discussão. Reconhece que a adoção da IA na Austrália é atualmente limitada devido aos baixos níveis de confiança pública. ChatGPT na Itália como exemplos.
Além disso, o relatório do Conselho Nacional de Ciência e Tecnologia destaca as capacidades vantajosas da Austrália em robótica e visão computacional, mas observa fraquezas relativas em áreas centrais, como grandes modelos de linguagem. Levanta preocupações sobre a concentração de recursos generativos de IA num pequeno número de empresas tecnológicas predominantemente sediadas nos EUA, o que representa riscos potenciais para a Austrália.
O relatório explora ainda mais a regulamentação global da IA, fornece exemplos de modelos generativos de IA e sugere que tais modelos provavelmente terão impactos de longo alcance em sectores que vão desde a banca e finanças até aos serviços públicos, educação e indústrias criativas.
