Hillary Clinton levererade en sträng varning under ett avgörande föredrag vid Columbia University: 2024 kommer att vara "ground zero" för AI-valmanipulation på grund av kombinationen av historiskt höga nivåer av världsomspännande valaktivitet med spridningen av banbrytande generativ AI-teknik som underlättar AI felaktig information.
Clintons vision belyser nödvändigheten av att konfrontera det överhängande hotet från AI-drivet bedrägeri mot bakgrund av växande oro för spridningen av falsk information och minskande allmänhetens förtroende för demokratiska institutioner.
Mer än fyra miljarder människor på jorden är berättigade att rösta i någon egenskap detta valår, vilket gör det till ett historiskt sådant. År 2024 kommer generativ AI sannolikt att ha en permanent inverkan på politiken åtminstone. Hon sa,
"Detta är året för de största valen runt om i världen sedan uppkomsten av AI-tekniker som ChatGPT,"
Djupt falska foton, manipulerat ljud och annat mjukvarugenererat innehåll kommer troligen att användas i ett försök att påverka eller alienera väljarna, urholka allmänhetens förtroende för valsystem och skapa oenighet. Det är inte att argumentera för att val kommer att vara riggade, eller att allt ska lita på. Snarare måste alla vara medvetna om den potentiella användningen och missbruket av artificiell intelligens.
AI desinformations uppgång och dess hot mot demokratin
Desinformation med artificiell intelligens (AI) är ett stort hot mot valpolitiken och ett moln över globala demokratiska processer. En ny era av bedrägeri har inletts av utvecklingen av generativ AI-teknik, som möjliggör sömlös produktion av audiovisuellt innehåll som är nästan exakta kopior av verkliga saker.
Den politiska manipulationens område har expanderat avsevärt sedan Clintons valnederlag 2016, som hon helt riktigt påpekar, och spridningen av djupfalska bilder och ljud har förvärrat kraften i vilseledande berättelser. När hon tänker tillbaka på sina egna erfarenheter som mål för samordnade desinformationsoperationer, betonar Clinton hur viktigt det är att ta sig an de enorma svårigheter som AI-driven tillverkning innebär.
Michael Chertoff, en före detta hemlandssäkerhetssekreterare, betonar de lömska sätten som AI-aktiverad desinformation kan påverka den allmänna opinionen och undergräva förtroendet för demokratiska institutioner, vilket återspeglar Clintons oro. Chertoff uppmärksammar oss på den farliga möjligheten att fokuserade desinformationsoperationer kan dra fördel av hål i informationsekosystemet och undergräva grunderna för demokratisk regering i en tid av hyperpersonifierat innehållsdistribution. Med detta i åtanke blir valet 2024 ett test som körs av AI för att ta itu med den existentiella frågan om valmanipulering.
Att värna om demokratin i den digitala tidsåldern
Att skydda demokratiska processer från manipulation och snedvridning är avgörande, eftersom både akademiker och beslutsfattare brottas med hotet om AI-felinformation som hänger över valscenen. Spridningen av artificiell intelligens (AI)-genererat innehåll väcker allvarliga farhågor om giltigheten av politisk diskurs och ifrågasätter effektiviteten av konventionella motåtgärder mot desinformation.
tron skydd och motståndskraftiga demokratiska institutioner är viktigare än någonsin i en tid då information är beväpnad. Dessutom är valhot i år "ännu farligare", enligt Chertoff. Tidigare demokratiska val runt om i världen har inneburit ansträngningar att så oenighet eller svänga röster till förmån för eller emot en specifik kandidat, såsom Rysslands valinblandning 2016 och dess Macron-hack efter ett år i Frankrike.
Antar de som har lärt sig om deepfakes att allt i världen är en deepfake? Som ett resultat måste även solida bevis på olämpligt beteende bortses från. Och det ger i huvudsak korrupta regeringstjänstemän och autokrater friheten att göra vad de vill. Mot en bakgrund av desinformation och skepsis beror demokratins överlevnad på vår förmåga som folk att skilja fakta från fiktion och skydda röstintegritetens helighet.
