AI för människor – eller människor för AI?
Det har talats mycket om ChatGPT under våren och det har spekulerats i hur denna typ av AI kommer att påverka arbetsmarknaden. Men andra typer av AI har redan stor påverkan i vissa typer av arbeten, och inte nödvändigtvis till det bättre. Emma Engström och Karim Jebari reflekterar här över hur användningen av AI på Amazons lager har lett till allt annat än mindre arbetsbelastning och mänsklig blomstring. Exemplet gör det istället tydligt att maktrelationen mellan dem som äger AI och dem som utför arbetet behöver regleras för att vi ska få ett samhälle där AI gör gott.
Det här är en av texterna som finns publicerade i IFFS verksamhetsrapport 2022.
This is a translation from English - find the original text here.
Det finns en påfallande diskrepans mellan de ramverk om AI-etik som lyfter fram teknologins möjligheter att främja en positiv social utveckling, och hur verkligheten ser ut på en av de platser där AI-implementeringen har gått som längst – på Amazons plocklager, så kallade ”fulfillment centers”.
Att AI ska främja mänsklig välmåga är den första av fem principer i det etiska ramverket för ett ”Good AI Society” (Floridi et al. 2018). Detta ramverk anger att AI har möjligheten att främja mänskligt blomstrande på fyra grundläggande sätt:
- genom att öka möjligheten för autonomt självförverkligande (vilka vi kan bli);
- genom att främja mänsklig agens (vad vi kan göra);
- genom att utöka individers och samhällens kapacitet (vad vi kan åstadkomma); samt
- genom att bidra till samhällelig sammanhållning (hur vi interagerar med varandra och med världen).
Varuhusrobotar av olika slag har beskrivits i ungefär lika entusiastiska ordalag. Förre vd:n för Amazons avdelning Worldwide Consumer, Jeff Wilke, hävdar att robotar av detta slag gör lagerjobb ”bättre och säkrare” samt att de möjliggör ”att människor kan använda sin inneboende kreativitet istället för att ägna sig åt repetitiva uppgifter” (Evans 2020). När Amazons varuhus i Kalifornien utrustades med nya robotar år 2014 menade Dave Clark, som då var Amazons operativa chef, att ”det skulle bli bättre för alla” (Evans 2020). I verkligheten har det visat sig vara mer komplicerat än så.
Teknologier som är utrustade med AI har två egenskaper som är särskilt viktiga i den här kontexten. Å ena sidan har de betydande begränsningar när det kommer till motorik och fingerfärdighet. Å andra sidan har de betydande kapacitet att analysera data om mänskligt beteende. Amazons chef för ”robotics fulfillment”, Scott Andersson, har sagt att helt robotiserade varuhus fortfarande är ett årtionde bort (Statt 2019). Mänskligt arbete med att ställa varor på hyllor och packa lådor kommer troligen att vara särskilt svårt för robotar att ersätta. Robotar kan inte matcha människors snabba händer och ögon i hanteringen av så skilda objekt som bollar, pennor och tröjor, men kameror och algoritmer kan, till en låg kostnad, utvärdera och kontrollera mänskligt beteende genom övervakning och kontinuerlig feedback. Det här återspeglas i arbetsförhållandena på Amazons plocklager.
Efter att robotar introducerades 2014 behöver de anställda inte längre gå för att hantera kundordrar. I stället stannar de vid sina arbetsstationer där de plockar och packar ordrar för att sedan ställa dem på hyllmoduler som robotarna transporterar vidare. Detta har inneburit fler repetitiva uppgifter än förut och isoleringen vid en arbetsstation har haft konsekvensen att de anställda interagerar mindre med varandra. Mjukvara övervakar hur många varor de anställda skannar varje timme och uppmuntrar dem att arbeta snabbare. ”Gamification” – spelifiering – används som metod för att få dem att hålla sina kvoter. Snabbare och mer precist plockande belönas, och om takten bedöms som låg kan det innebära påföljder för de anställda.
Bild från ett av Amazons Fulfillment centers i Maryland, USA.
Efter introduktionen av robotar har arbetstakten ökat. En före detta anställd rapporterade att takten gick från 120 varor till 280 tre år senare. Det godkända antalet felplock minskade under samma period från 1 på 1 000 till 1 på 2 200 varor. Allt det här verkar ha åtföljts av ett skarpt stigande antal arbetsplatsolyckor. Veckovisa data från fler än 150 Amazonvaruhus har visat att antalet allvarliga skador, definierat som en skada som kräver sjukskrivningsdagar eller ändrade arbetsuppgifter, har ökat med 33 procent mellan 2016 och 2019 till 7,7 per 100 anställda (Evans 2020). För varje undersökt år har antalet arbetsskador varit högre i robotiserade varuhus än i icke-robotiserade varuhus. Skador har toppat runt ”Prime Day”, en årlig readag.
Enligt en rapport från 2021 av Strategic Organizing Center, en organisation bestående av fyra fackföreningar i USA, var andelen allvarliga skador under 2020 nästan 80 procent högre i Amazons varuhus jämfört med andra plocklager. En majoritet av alla skadeståndskrav gällande arbetsskador i södra Kalifornien är relaterade till ergonomiska riskfaktorer såsom lyft och repetitiva rörelser (Delp et al. 2021). Den underliggande orsaken är främst produktionskvoterna och det oförlåtliga arbetstempot, enligt de anställda. Tidningen New York Times har rapporterat att omsättningen bland Amazons timanställda var 150 procent per år, även före pandemin, vilket är dubbelt så högt jämfört med snittet för lager och handelssektorn som helhet. De höga siffrorna ger vid handen att arbetstakten hos Amazon inte är hållbar.
AI-robotar har givit företag som lever på snabba leveranser enorma fördelar. Amazon kan nu ha större lager, packa snabbare och reducera sina kostnader. Ökad automation är grundläggande för denna utveckling. År 2012 köpte Amazon Kiva System (numera Amazon Robotics), ett företag som tillverkar varuhusrobotar. Nyligen köptes också Canvas Technologies av Amazon, ett företag vars specialitet är autonoma kundvagnar i varuhus. Företaget har fler än 200 000 robotar (Tech Vision 2020). Med det etiska ramverket för AI och visionen om mänskligt blomstrande i åtanke, är kontrasten slående. Erfarenheterna från en av platserna där AI-tillämpningen gått som längst antyder att konsekvenserna för människor är ökad övervakning, fler skador, fler repetitiva uppgifter, mer utmattning och färre möjligheter att interagera med andra människor. Samspelet mellan motoriskt begåvade människor och rigida robotar verkar här ha resulterat i att mänskliga egenskaper och kapaciteter har vissnat, snarare än blomstrat.
Maskiner kan mycket väl en dag ersätta mänsklig arbetskraft i arbeten som är farliga, smutsiga och förnedrande. Men avgörande för detta är styrkeförhållandet mellan olika aktörer på arbetsmarknaden. Att införa AI i industrier som karaktäriseras av ”just-in-time”-modeller och flexibelt arbete är möjligen inte i linje med de förutsättningar som ett så kallat ”good AI society” kräver. Så kommer AI att leda till en positiv samhällsutveckling för människor? En insikt som följer av erfarenheterna från Amazon är att detta främst är en politisk, snarare än en teknologisk fråga. Nyligen medgav Amazons vd Jeff Bezos i ett brev till aktieägarna att företaget måste förbättra arbetsförhållandena för sina anställda. Detta är lovande och en påminnelse om att mänsklig blomstring i AI-åldern inte kommer att ske automatiskt. Det kräver aktivt arbete från de som har kontrollen över teknologin. I vår tid gäller detta inte främst en konflikt mellan människor och maskiner, utan mellan de människor som fattar beslut över teknologin och de som är tvingade att anpassa sig till den för att hålla näsan över vattnet.
Den här texten är en översättning av artikeln: Engström, E., Jebari, K. AI4People or People4AI? On human adaptation to AI at work. AI & Society, 2022.
Emma Engström och Karim Jebari arbetar båda i forskningsprojektet Ramverk för att förutsäga hur AI sprids.
Referenser
Evans (2020) How Amazon hid its safety crisis. Reveal.
Floridi et al (2018) AI4People— an ethical framework for a good AI society: opportunities, risks, principles, and recommendations. Minds & Machines Statt (2019)
Amazon says fully automated shipping warehouses are at least a decade away. The Verge. Delp et al (2021)
