Emily M. Bender & Alex Hanna, omslag formgett av Bonni Leon-Berman
274 s. The Bodley Head 2025 (2025)
Sedan en tid tillbaka tycks alla prata om stokastiska papegojor, rasistiska högar med algebra och matematikmatte med en sådan vördnad att det är svårt att avgöra om det är början eller slutet på mänskligheten som vi känner den. Nå, de flesta, i synnerhet de som vill sälja produkterna, kallar dem för artificiell intelligens (trots att det inte alls har något med intelligens att göra) och i boken The AI Con beskriver lingvisten Emily M. Bender och sociologen Alex Hanna delvis problemet med tekniken i sig men framför allt varför tekniken hajpas och säljs in som något som den inte är.
Redan 2018, i efterordet till min ai-diktsamling Juice (“Skrattspegeln”, 2023-04-22), beskrev jag ytligt tekniken bakom. Det är i grunden en fråga om sannolikhet och sekvens där tekniken, i all enkelhet, försöker ta reda på den mest troliga följden ord utifrån vad som efterfrågas och vad den är tränad på. Exakt hur det görs har förändrats massvis inte bara på de åtta åren som gått sedan jag skrev min essä, utan lavinartat bara på de tre-fyra senaste åren. Den kanske största skillnaden är storleken på materialet ai-modellerna tränats på, oräkneliga mängder stulna texter och bilder har matats in för att dess svar ska bli så rimliga som möjligt. Rimligt för vem? Ja, det är väl knäckfrågan.
För att lära maskinerna hur de ska tolka datan anställs människor i fattigare delar av världen för att i någon mån kurera sexuellt, rasistiskt, hatiskt och våldsamt innehåll, något som, helt förutsägbart, leder till svår psykisk ohälsa hos de anställda, något som företagen inte tar något som helst ansvar för. När maskinerna ska ta jobb är det inte kanske rimligt att också fråga sig vilka jobb de skapar och vilka konsekvenser de har. Det görs inte i särskilt stor utsträckning.
För alla de företag som investerar massor i tekniken är kanske inte det viktigaste att leverera till 100 % utan att vi användare ska vänja oss vid tekniken, kanske långsamt se den bli bättre (men inte mindre problematiskt) och att de när den upplevs oumbärlig för användaren (oavsett om det är privatpersoner, företag eller myndigheter) kan höja priserna och låsa in oss i system som nog egentligen inte är så himla användbara.
Bender & Hanna är inledningsvis ganska raljanta på ett sätt som får mig lite bekymrad, men varken de eller jag är emot teknikutveckling per se, men när det görs på grumliga grunder, helt oreglerat och långt ifrån allmänhetens bästa är det dags att säga ifrån. Att våra liv ska styras av stokastiska papegojor är långt ifrån oundvikligt, och förutom rådet att håna alla försök till användning, så ställer de upp en rad frågor som du och jag och alla kan ställa varje gång ai presenteras som lösningen på ett problem:
- Vad automatiseras? Vad stoppas in och vad kommer ut?
- Går det att koppla samman det som stoppas in och det som kommer ut?
- Beskrivs systemen som mänskliga? (Det är de inte på långa vägar.)
- Hur utvärderas systemet?
- Vem tjänar på tekniken, vem skadas av den och vad kan de som skadas göra för att inte ta skada?
- Hur utvecklades systemet? Hur hanterades datan? Och de anställda?
Om frågorna ställs och någon svävar på målet eller svarar något som inte är glasklart och möjligt att verifiera är det förmodligen inte allmänheten som tjänar på tekniken. Alls.
Tekniken kan – inom avgränsade områden, med tydliga syften och rimliga sätt att följa upp – vara till stor nytta. Det finns bara väldigt få tecken på att det är det som håller på att ske just nu och där måste vi alla vara vaksamma. Som tidig entusiast var det lätt att dras med, men efter hand det blev tydligare att de bestulna inte fick ersättning (och inte kommer få, eftersom tekniken skulle bli ännu dyrare), miljön tar stor skada av alla enorma datacenter (som inte alls är flyktiga “moln” som de lömskt döptes till) och de techbros som styr och ställer inte skyr några medel för att med list och luftslott lägga världen under sig blev det enkelt att välja bort. Det är ännu enkelt att välja bort.