Hur blir framtiden med artificiell intelligens – ekonomiskt effektiva samhällen utan brott och hat, eller superintelligenta mördarrobotar, massiv arbetslöshet eller dygnet-runt-övervakning? Går det att stoppa utvecklingen? Och är det något som bör ske?

Det är i år 50 år sedan biopremiären för Stanley Kubricks År 2001 – ett rymdäventyr. Filmen var på många punkter profetisk, den förutsåg hur människor idag kommunicerar med datorn med hjälp av mänskligt tal istället för med hålkort, hur datorn använder kamera och ansiktsigenkänning och styr allt mer infrastruktur, så som kommunikationsnätet, betalningsmedel, mat- och vattenförsörjning, energi och transport. På andra punkter tog filmen fel. Den missade såväl internet som att datorer har blivit mindre och mindre.

Men hur ska man förhålla sig till filmens förutsägelse om utvecklingen av en övermänsklig artificiell intelligens (AI) – det som ibland kallas superintelligens? Vi två som skriver denna text är djupt oeniga. Det är också många andra dataloger, framtidsforskare och filosofer.

Vad vi däremot är eniga om och känner oss ganska säkra på är att det slags AI-teknik som kallas maskininlärning och som till stor del finns redan idag är på god väg att medföra enorma sociala förändringar, på gott eller ont.

Till exempel är ekonomisk ojämlikhet en riskfaktor. En stor del av AI-utvecklingen handlar om att skapa maskiner som kan ta över arbetsuppgifter från människor och utföra dem snabbare, bättre och billigare.

Frågan är om nya jobb hinner skapas i samma takt som de gamla rationaliseras bort. Kanske blir det svårt att hitta meningsfulla arbeten där det lönar sig att anställa människor. I så fall är en alltmer omfattande massarbetslöshet att vänta.

Det handlar inte bara om taxiförare och lastbilschaufförer – yrken som till följd av framgångarna med självkörande fordon kan väntas vara så gott som utraderade inom 20 år. AI-tekniken tar alltmer plats på intellektuella områden. Till exempel handläggare, läkare och jurister är på väg att få hård konkurrens av maskiner. Det är svårt att se någon yrkesgrupp som inte i längden är hotad av AI.

Man kan naturligtvis fråga sig om lönearbete verkligen är livets mening, eller om det inte i själva verket är bra att människor befrias från att behöva arbeta. Ernst Wigforss, socialdemokratisk finansminister i Sverige under 1920-, 30- och 40-talet, uttryckte det vackert: ”Om målet med samhällsutvecklingen skulle vara att vi alla skulle arbeta maximalt voro vi sinnessjuka. Målet är att frigöra människan till att skapa maximalt. Dansa. Måla. Sjunga. Ja, vad ni vill. Frihet.”

Men om frihet är målet behövs en plan för hur ett samhälle utan arbete ska organiseras, och hur vägen dit ska klaras utan att resultatet blir enorma ekonomiska och sociala klyftor. Någon sådan plan finns inte idag.

En annan AI-risk handlar om hur en militär AI-kapprustning riskerar att leda till att kraftfulla drönarvapen hamnar i händerna på terrorister. Går det att undvika annat än med massövervakning, möjliggjord av annan AI-teknik?

En välvillig och förmyndarmässig AI i kombination med massövervakning kan skapa en trygg och problemfri värld, styrd av ogenomskådliga maskininlärningsalgoritmer som fattar bästa möjliga beslut och, med det slags sociala kreditsystem som redan börjat användas i Kina, bestraffar eller belönar medborgare för deras uppförande. Men det ger obehagliga associationer till Aldous Huxleys Du sköna nya värld – en framtidsvision om en visserligen nöjd men samtidigt infantiliserad och förslavad mänsklighet. Kan demokratin överleva en sådan utveckling? Eller blir det som i George Orwells deprimerande framtidsvision 1984.

Hur ska teknikutvecklingen kunna befria människor istället för att förslava dem?

Frågorna hopar sig. Vi har inga färdiga svar, men AI och dess följder behöver diskuteras betydligt mer än vad som sker idag när det finns ett utbrett kapplöpningstänkande som riskerar att bli katastrofalt.

Birgitte Hass, ordförande för den danska IT-branschorganisationen säger: ”Vi kan inte stoppa framtiden, men vi kan bara bromsa den – och bli förlorare.” Liknande tongångar hörs hos diverse digitaliseringspredikanter även i Sverige, men det handlar inte om att stoppa framtiden, utan om att påverka den i rätt riktning, så att människor kan skörda de enorma frukter som AI-utvecklingen utlovar, utan att hamna i Huxleys och Orwells skräckvisioner.

Thore Husfeldt är professor i datavetenskap och algoritmforskare vid Lunds universitet, och IT-universitetet i Köpenhamn.

Olle Häggström är professor matematisk statistik vid Chalmers och författare till Here be dragons om bland annat katastrofala AI-risker.