"Cogito machina" – latin för "Jag, en maskin, tänker" – föreslogs av ChatGPT som en titel för detta projekt. Det fick mig att stanna upp och reflektera. Även om tänkande maskiner tidigare verkade ligga långt i framtiden, har de senaste teknologiska framstegen inom utvecklingen av stora språkmodeller (LLMs), såsom ChatGPT, inneburit en genomgripande förändring av deras förmågor. Detta har fått vissa att föreslå att de visar tecken på artificiell generell intelligens (AGI) och en genuin förståelse av språk. Andra hävdar dock att dessa system enbart imiterar intelligenta varelser utan att visa verklig förståelse eller intelligens.
Att kunna besvara frågan om huruvida AGI verkligen håller på att framträda i nuvarande eller framtida AI-system är av största vikt. Om AI-system närmar sig människoliknande intelligens, kan de snart få förmågan att sätta egna mål och söka makt över människor. Givet den snabba teknologiska utvecklingen oroar sig vissa för att artificiella superintelligenta varelser snart kan uppstå och göra utrota oss. Är dessa farhågor alarmistiska? Eller skulle det vara naivt att avfärda dem? Å andra sidan, om AGI kommer att framträda i AI-system inom en snar framtid, kan vi snart ställas inför AI-system med övertygelser, önskningar, hopp och rädslor – som alltså på många sätt liknar människor ur ett moraliskt perspektiv, med välbefinnande, rättigheter och ansvar.
Problemet är att det i dagsläget inte finns någon konsensus kring vad AGI är, vad som krävs för att ett system ska ha det, eller hur vi kan veta om AGI framträder i ett system. Många befintliga mätverktyg är ytliga och misslyckas med att skilja imitation från sann AGI. Detta projekt ämnar att fylla denna kunskapslucka och öka vår förståelse av AGI genom att ta tag i följande forskningsfrågor:
- Vad är AGI?
- Vad krävs för att ett system ska inneha AGI?
- Vad innebär det att AGI framträder i ett system?
- Hur kan vi veta om AGI håller på att framträda i ett AI-system?
- Är AGI framträdande i nuvarande generation eller framtida AI-system?
- Vilka lärdomar kan vi dra om riskerna som är förknippade med framväxande AGI?
