Den australiensiska regeringen har inlett en oväntad åtta veckors konsultationsperiod som syftar till att avgöra om vissa "högrisk"-verktyg för artificiell intelligens (AI) ska förbjudas. Detta steg följer liknande åtgärder som vidtagits av andra regioner, inklusive USA, EU och Kina, för att hantera riskerna förknippade med snabb AI-utveckling.
Den 1 juni presenterade industri- och vetenskapsminister Ed Husic två artiklar för offentlig granskning: en om "Säker och ansvarsfull AI i Australien" och en annan om generativ AI från National Science and Technology Council. Dessa papper släpptes tillsammans med en samrådsperiod som kommer att vara öppen till den 26 juli.
Den australiensiska regeringen söker feedback om strategier för att främja "säker och ansvarsfull användning av AI", och utforskar alternativ som frivilliga etiska ramar, specifika regleringar eller en kombination av båda metoderna. Konsultationen frågar särskilt om vissa högrisk-AI-applikationer eller -tekniker helt bör förbjudas och efterlyser input om kriterierna för dent sådana verktyg.
Det omfattande diskussionsunderlaget innehåller ett utkast till riskmatris för AI-modeller, som kategoriserar självkörande bilar som "hög risk" och generativa AI-verktyg för att skapa medicinska patientjournaler som "medium risk." Dokumentet betonar både de positiva tillämpningarna av AI inom sektorer som medicin, ingenjörsvetenskap och juridik, såväl som de potentiella skadorna som är förknippade med deepfake-verktyg, generering av falska nyheter och fall där AI-bots har uppmuntrat självskada.
Australiens regering vs AI
Oro angående partiskhet i AI-modeller, såväl som genereringen av meningslös eller falsk information som kallas "hallucinationer" av AI-system, tas också upp i diskussionsunderlaget. Den erkänner att AI-adoption i Australien för närvarande är begränsad på grund av låga nivåer av allmänhetens förtroende. Tidningen hänvisar till AI-regler som implementerats i andra jurisdiktioner och Italiens tillfälliga förbud mot ChatGPT som exempel.
Dessutom belyser National Science and Technology Council-rapporten Australiens fördelaktiga kapacitet inom robotik och datorseende men noterar relativa svagheter inom kärnområden som stora språkmodeller. Det väcker oro över koncentrationen av generativa AI-resurser i ett litet antal främst USA-baserade teknikföretag, vilket utgör potentiella risker för Australien.
Rapporten utforskar ytterligare global AI-reglering, ger exempel på generativa AI-modeller och föreslår att sådana modeller sannolikt kommer att ha långtgående effekter på sektorer som sträcker sig från bank och finans till offentliga tjänster, utbildning och kreativa industrier .
