Långt kvar till artificiell superintelligens

Vad menas med intelligens? Och varför har frågan om vad artificiell intelligens kan göra fått sådan skjuts efter lanseringen av chattroboten ChatGPT? Under ett föredrag för Statistikfrämjandet förklarar filosofen Karim Jebari vilka olika typer av AI det talas om och varför han inte tror att vi behöver vara rädda för en superintelligens.

Vi börjar med intelligensen. Frågan om vad intelligens är för något ligger till grund för varje diskussion om AI och har länge varit av intresse för forskare på området. Karim Jebari menar att vi, när vi pratar om intelligens, tänker på en uppsättning färdigheter och förmågor som ofta är starkt korrelerade med varandra.

– Perception, minne, planering, språk... Ofta är det så att de som är bra på språk också är bra på minne, och så vidare. Det är det som menas med intelligens, säger Jebari.

När vi pratar om artificiell intelligens menar vi "en maskin eller en icke-organisk artefakt som har den funktionella ekvivalensen till någon eller några av dessa färdigheter." Karim tar upp ChatGPT som exempel.

– ChatGPT har den funktionella ekvivalenten att utföra vissa typer av uppgifter med språket, till exempel beskrivning av händelser och resonemang.

Således är ChatGPT en typ av AI som fokuserar på att replikera vissa av de förmågor som människor traditionellt associerar med intelligens. Därför uppfattar vi detta verktyg som just intelligent trots att det är väldigt begränsat vad den kan göra.

Olika slags AI

Annorlunda är det med AGI, det vill säga artificiell generell intelligens. Karim definierar AGI som "en maskin som har den funktionella ekvivalensen till de flesta av de intelligensrelaterade färdigheterna hos en genomsnittlig människa". Det betyder att en AGI kan se och ta in omgivningen, knyta skorna, lära sig språk, planera och har förmåga till perception och sensoriska intryck. Den nivå av teknologisk utveckling har vi ännu inte nått.

Den tredje typen av artificiell intelligens som ofta diskuteras är ASI, det vill säga artificiell superintelligens. Denna typ av AI är, precis som AGI, ännu inte verklighet; Karim beskriver den som en hypotetisk agent som “har den funktionella ekvivalensen till de flesta intelligensrelaterade färdigheterna på en nivå som vida överstiger den hos varje individ och mänsklig organisation”. Det skulle i praktiken innebära att ASI vore kapabel att överträffa organisationer som FN och CIA.

Det här är en nivå vi absolut inte har nått och frågan är om vi kommer att göra det. Enligt Jebari finns det skäl att tro att vi inte kommer hamna där.

Varför skulle AI utgöra ett hot mot mänskligheten?

De senaste månaderna har rösterna om AI:s potentiellt farliga konsekvenser hörts från flera håll. Några har till och med pratat om ett hot mot mänskligheten. Fysikern Max Tegmark har i både bokform och sommarprat vädrat en oro för vartåt utvecklingen kan gå. 

– I grundscenariot som beskrivs av till exempel Tegmark antas det att det finns ett företag eller en grupp människor som utvecklar en AI. Under denna period blir denna AI bättre och bättre i takt med att både utvecklarna och AI:n förbättrar produkten. Denna utveckling, antar man, kommer att ske tills AI:n blir superintelligent, det vill säga mer intelligent än forskarna själva. Så AI:n fortsätter att uppdatera sig själv, säger Jebari.

Det vi enligt det här scenariot bör vara rädda för är att produkten skulle börja skapa egna lösningar som gynnar dess egna syfte, men inte nödvändigtvis mänsklighetens intressen. Till exempel skulle en produkt som har i uppdrag att bryta malm kunna få för sig att människor som bor ovanpå malmen behöver flyttas eller till och med utrotas, eftersom de utgör ett hinder för maskinens ändamål.

Det här scenariot kritiserar Jebari i sitt föredrag.

Artificiell intelligens är fortfarande en maskin

Så är vi tillbaka där vi började. Vad är intelligens och är det verkligen något som kan byggas?

– De flesta som försvarar singularitetsprincipen fokuserar på antagandet att det borde vara möjligt att återskapa intelligens eftersom det är ett naturligt fenomen. Ett annat argument är att AGI kan uppstå spontant från specialiserad AI. Och sist men inte minst har vi antagandet att en AGI kan förbättra sig själv genom att skriva om sin kod eller genom att skapa mer avancerade kopior av sig själv.

De här antagandena är enligt Jebari vare sig ordentligt underbyggda eller tillräckligt med stöd. Exempelvis pekar han på problemet som många ingenjörer känner till:

– Att uppdatera ett system är enkelt om systemet från början är dåligt. Men ju bättre systemet är, desto svårare är det att förbättra det. Att AI skulle kunna förbättra sig själv i en sådan utsträckning att den skulle bli superintelligent innebär att AI är en maskin som avviker från alla andra maskiner och all annan teknologi som vi känner till, och har den unika egenskapen att ju bättre den blir, desto enklare har den att förbättra sig själv ännu mer. Det är ett intressant antagande, men jag skulle behöva höra fler argument, säger Jebari.

Se hela föredragningen nedan: