Artificiell intelligens, organisk oro

Om det är något generativ AI har genererat inom mig så är det nya spännande typer av ångest. Kanske (troligtvis) för att jag är en ängslig person som ibland har svårt för förändring, men jag tror också av mer fundamentala anledningar. AI är ett sånt där ämne där desto mer man gräver, desto mer tankeväckande hittar man. Och jag vill verkligen prata om vilka hål jag grävt upp.

När jag var yngre så var AI ett teoretiskt koncept som hörde hemma i en vag "framtid", samma framtid där flygande bilar satt i en ful bilkö över stan, datorskärmarna var genomskinliga av outgrundliga anledningar och bin ersatts med små robotar (?). Visst fanns det massor med intressanta tankar inom science fiction om hur AI skulle kunna påverka ett samhälle och mänskligheten, från utopier till absoluta existentiella avgrunder. Hett tips: läs inte Det tysta ropet (originaltitel: I Have No Mouth, and I Must Scream) om du inte är beredd att stirra ner i ett sådant hål.

Det finns en lång historia av verkliga uppfinningar och innovation som grundar sig i koncept från science fiction, särskilt inom datavetenskap och IT, och AI är kanske det tydligaste exemplet på det fenomenet vi har sett på länge. Men litteratur och filmer om AI har inte bara influerat teknologin, utan också hur vi som samhälle pratar och tänker kring AI. Många är oroliga, andra är nästan dogmatiskt optimistiska. Det mest intressanta gänget är de som verkar vara lika oroliga som optimistiska. Finns det någon teknologi i mannaminne som har skapat samma typ av reaktion?

AI-etik är ett ämne som fått mycket uppmärksamhet på sistone. Om man läst en massa science fiction så är det lätt att tro att det stora hotet med AI är det som ibland kallas "rogue AI", AI som blir självmedveten och/eller bestämmer sig för att utplåna mänskligheten. Och, ja, jag har också sett The Matrix och Her. Men med all hype och löften så är det lätt att glömma bort att AI är en produkt, utvecklad av företag och organisationer med både vinst- och egenintressen. AI kräver etiska resonemang som är mer vardagliga än risken för bokstavlig armageddon.

De miljömässiga konsekvenserna av AI väger tungt hos mig. Vi lever just nu genom en klimatkris som redan nu har förödande konsekvenser. Världshälsoorganisationen uppskattar att mellan 250 000 och 300 000 människor kommer avlida varje år 2030–2050 på grund av klimatförändringarna. Den största källan till växthusgaser är vår energikonsumtion, som energihungriga AI-system väntas drastiskt öka i framtiden. 3 biljoner amerikanska dollar (över 28 biljoner kronor) väntas läggas på datacenters för AI fram till 2029; det är nästan 20 gånger Sveriges årliga statsbudget.

Självklart måste energikonsumtion och all annan miljöpåverkan alltid sättas i förhållande till hur den används för att skapa välstånd. Jag skulle inte vilja leva utan elektricitet i hemmet, industriell produktion eller fjärrvärme. Frågan är om AI:s miljöpåverkan går att försvara baserat på dess nytta.

På så sätt är AI ganska typisk bland industriella innovationer. När DuPont utvecklade teflonbeläggningar och började förgifta planeten med PFAS, som väntas finnas kvar i miljön permanent, så var det ingen som frågade sig om ämnena var säkra på lång sikt. Motsvarande hände när vi började använda bly i bensin eller asbest i bostadsbyggnader. Kapitalism har ett "fuck around and find out"-problem. Förödande konsekvenser upptäcks först i efterhand, ofta långt efter det finns möjlighet att hålla någon ansvarig.

Ett annat område där AI har mött kritik är hur modellerna tränats. För att bygga en modell (oavsett om det är en text-, bild- eller videomodell) krävs enorma mängder data. För storspråkmodeller (LLM) så har denna data kommit från webben, litterära verk, uppladdade Youtube-klipp och andra källor. Om du någonsin skrivit något på en webbplats så är det nästan garanterat att dina ord är en del av den data som byggt AI-verktyg. Vissa AI-företag (exempelvis MetaAI och xAI) har till och med tillgång till privata konversationer mellan individer, vad är det som stoppar dem från att träna på personliga samtal och annan känslig information?

De mest avancerade AI-modellerna styrs av ett litet antal vinstdrivande företag. OpenAI är ett undantag och styrs av en ideell organisation, men även de tar in massiva investeringar och försöker som organisation att övergå till en vinstdrivande modell. Att en teknologi som anses ha potentialen att fundamentalt förändra hur hela vårt samhälle fungerar ska ägas av ett fåtal individer och investeringsbanker känns för min del inte bara orättvist utan rent ut sagt farligt.

Något som förtjänar en längre genomgång är hur AI-system kan användas på oetiska sätt. Det uppenbara exemplet är AI i vapenindustrin, något som blivit mer och mer aktuellt den senaste tiden. Till och med företag och organisationer som har tidigare sagt att de inte skulle utveckla vapensystem har i tystnad tagit tillbaka de löftena. OpenAI, skaparna av ChatGPT, tog bort sitt interna förbud förra året och har slutit avtal med både vapentillverkare och amerikanska militären.

Är jag en AI-pessimist? Texten så här långt ger nog det intrycket, och ärligt talat är jag kanske det. Jag använder ju själv AI, till en massa saker till och med. När jag skriver själv så använder jag AI som en redaktör för att öka kvaliteten på mina texter. På Osqledaren har vi däremot skickliga mänskliga redaktörer (shoutout till Molly som hade den rollen för den här artikeln). AI är omatchad när det gäller översättning av text. Ibland hjälper det att ha någon att prata med för att organisera ens egna tankar, och då kan AI vara mycket användbar.

Jag vill särskilt nämna AI:s potential för att öka tillgängligheten för personer med funktionsnedsättningar. Redan idag finns det gott om AI-verktyg som kan hjälpa blinda med att se sin omgivning eller få text uppläst med en mer naturlig och lättförstådd röst. AI kan hjälpa personer med kognitiva funktionsnedsättningar att kunna ta åt sig information och leva mer självständiga liv. Även om AI kan användas till mycket så är det nog just inom det här området där AI kommer göra störst positiv skillnad.

Den senaste tiden har jag ofta ställt följande fråga till mig själv: Vad är människans plats i en värld dominerad av AI? Kommer människan att få tid att spendera på att skapa konst och litteratur? AI kan generera bilder och skriva texter snabbare än vad människor kan. Kommer människan att få obegränsad fritid? Eller kommer vi spendera den fritiden med att kolla på ändlösa flöden av AI-genererad video (en produkt som OpenAI redan släppt i början av oktober)? Kommer AI skapa en värld som är mer jämlik och rättvis, eller en värld där de med makt och resurser har ännu större inflytande än idag?

Jag har inga svar på de här frågorna, och jag tror det är den faktiska källan till min ångest. Inte för att AI:s miljöpåverkan, oetisk användning av data, vinstmotiv eller militär användning är oviktigt, utan för att de alla är delar i en struktur som verkar designad för att väcka så många frågor som möjligt. Och inte bara många frågor, stora frågor. Frågor med få svar. AI må stå för artificiell intelligens, men just nu känner jag organisk oro.

Vi på Osqledaren planerar att utforska AI ur flera olika perspektiv under året. Vad är dina tankar kring AI? Hör av dig till Osqledaren på osqledaren@ths.kth.se.