Att förutsäga hur artificiell intelligens, AI, kommer att påverka demokratin är en överväldigande utmaning, inte minst för att AI:s möjliga tillämpningar fortfarande är i stort sett okända – och verkar vara näst intill gränslöst många.

Vanliga AI-verktyg, utformade för specifika uppgifter som att samordna vallängder, används redan i en del länder. Effekterna av generativ AI är svårare att förutspå. Generativ AI är inte det samma som ännu en app, utan snarare en grundläggande teknologi som mer liknar framväxten av internet.

Generativ AI kan revolutionera politikens innehåll genom att exaktare och mer nyanserat förutse hur ett politiskt utspel kommer att tas emot.

Organisationer som Climate Change AI använder tekniken för att ta reda på hur vägar, elnät och vattenförsörjning måste utformas för att klara det ökande antalet och de allt allvarligare följderna av extrema väderhändelser.

Polisen använder AI för övervakning och för att identifiera eventuell kriminell aktivitet. Ganska nyligen har advokater och domare börjat ta hjälp av generativ AI som ChatGPT i arbetet med stämningar och delgivning av domstolsbeslut.

Oron växer för hur generativ AI kommer att påverka val. Åtminstone 45 länder håller val under nästa år. Hur det går i några av dem, som presidentvalet i USA och valet till EU-parlamentet i Europa, har betydelse för hela världen.

Det som på svenska kallas snäv AI, narrow AI på engelska, används redan för att samordna administration av val.

USA:s starkt decentraliserade valsystem innehåller 10 000 olika bestämmelser och varje stat har sina egna vallängder som ständigt måste uppdateras eftersom människor flyttar, dör eller av andra skäl inte ska finnas i dem. Snäv AI används i stor utsträckning i uppdateringen av vallängder. Det kan öka effektiviteten, men utvärderingar har visat att algoritmerna har svårt att matcha asiatiska namn och kan negativt särbehandla även andra minoriteter. Liknande särbehandling har kommit fram när man använt AI för att verifiera namnunderskrifter, ett vanligt krav vid poströstning.

AI kan lätt spridas långt utöver hur val administreras. Den kan skapa regler och strukturer för val, påverka tävlingsmomentet, graden av politisk polarisering, valdeltagandet och de krafter som får människor att kandidera i val.

I USA anses 90 procent av kongressens valdistrikt vara ”säkrade” mot snedvridning, vilket betyder att valutgången vanligen låter sig förutsägas som seger antingen för Republikanerna eller för Demokraterna.

Sofistikerad generativ AI kan öka rättvisan och representationen i USA:s politiska system. Men den kan precis lika gärna användas för att skapa ännu fler och större snedvridande förändringar i valkretsindelningen, avsedda att skydda ett parti eller en kandidat från att behöva konkurrera på lika villkor i valet.

Kanske är de indirekta följderna av AI-användning ännu mer oroande än de direkta. Generativ AI kan till exempel vara en värdefull tillgång för journalister, eftersom den kan redigera och sammanfatta politiska debatter och utfrågningar, sortera uppgifter från olika källor, skriva utkast till artiklar och redigera dem. Men den lär samtidigt leda till att fler journalister mister sina arbeten och ersätts av AI.

AI kan moderera innehåll på sociala medieplattformar. Den kan avslöja desinformation under val och valkampanjer och befria mänskliga moderatorer från den traumatiska uppgiften att övervaka internets värsta dynghögar.

Men generativ AI kommer med all sannolikhet att fördjupa dagens informationskris, eftersom den gör det lätt att producera extremt anpassat och övertygande innehåll som kan provocera, förvridas, skräddarsys och målriktas vart som helst på internet.

I april i år publicerade det republikanska partiet i USA för första gången någonsin en AI-genererad attack på landets president Joe Biden. Det gör det lätt att föreställa sig ett politiskt landskap, översköljt av simpla reklambudskap och poddar som använder sig av bilder och röster som tillhör respekterade personer i samhället. De skapas för att manipulera och använder personligt utformade budskap för att identifiera och utnyttja vissa samhällsgruppers psykologiska sårbarhet.

Generativ AI:s förmåga att skapa övertygande desinformation på många olika språk kan bli en välsignelse för utländska fiender som hittills lidit brist på språkliga och kulturella kunskaper. Men demokratins förespråkare kan använda precis samma verktyg för att utforma övertygande antiauktoritära budskap.

Även om AI kan generera innehåll så måste den ha stora distributionskanaler, som Facebook, för att nå en publik.

Det är viktigt att förstå att AI:s grundläggande språkbaserade modeller är lika partiska som den samlade mänskliga historien som generativ AI tränas med. Därför har kulturer med stora mängder skrivet och digitaliserat material (engelska och kantonesiska är favoritspråken) en fördel.

Det snedvridningar som finns i grundmaterialet kan bli extremt farliga, särskilt i en tid när den politiska polariseringen ökar i världens demokratier och 40 procent av amerikanerna förnekar att Republikanerna förlorade presidentvalet 2020.

AI kan ha stora fördelar på områden som medicin, tillverkning och utbildning, men dess effekter på demokratin måste noggrant analyseras. Annars kommer AI inte att stärka, utan undergräva, demokratin.

Översättning Karen Söderberg

Project Syndicate

SKRIBENTEN

Kelly Born har varit chef för Stanforduniversitetets Cyber Policy Center. Hon leder nu The Democracy, Rights and Governance initiative vid David and Lucile Packard Foundation, en stiftelse för demokrati, rättigheter och övergripande system för styrning och ansvarsutkrävande.

Vill du också skriva på Aktuella frågor? Så här gör du.