Sea Eagle catches a hare in the archipelago (AI generated art)
MAX TEGMARK, fysiker och AI-kritiker, ägnar hela sitt sommarpratarprogram den 1 augusti 2023 åt vad han anser vara mänsklighetens pågående apokalyps. Den superintelligens som människan har skapat genom AI, artificiell intelligens, kommer ofelbart att leda till mänsklighetens undergång, menar Tegmark.
Orsakerna till att denna superintelligens redan nu är mänsklighetens största hot någonsin enligt Tegmark, är att den är mycket överlägsen människans egen kunskap och intelligens, samt att det är lätt att sprida och utnyttja den när nu verktyg finns att tillgå för nästan vem som helst. Denna superintelligens kan dessutom utveckla sig själv utom kontroll för människan.
Tegmark berättar att det i mars 2023 undertecknades ett traktat av 1000-tals forskare och företagare om att ta en 6 månaders paus i utvecklingen av AI för att inte tappa kontrollen över denna skenande kapplöpning. Elon Musk är en av de som signerat, men som redan i början av juli 2023 startar ett nytt AI-företag.
Tegmark nämner också att en grupp ledande forskare och företagare inom AI i maj 2023 gick ut med en varning om AI-hotet och där man ansåg att AI måste klassas som ett lika stort existenshot som kärnvapen eller pandemier. Denna artikel presenterades i New York Times och fick stor uppmärsksamhet.
Det här är väldigt intressanta frågor som täcks under paraplyet “hållbar utveckling”.
Dels känner vi igen fenomenet “hejdlös produktion” där regeln är att ingenting får stoppa en “utveckling”. Nya produkter eller tjänster ska villkorslöst produceras om det är möjligt att göra det och om det kan innebära en vinst för någon. Man tar inte hänsyn till konsekvenserna av en sådan produktion och gör inte heller några förhandsanalyser om de effekter som den eventuellt kan ha på människor, miljö och natur… Vi har sett det här som en röd tråd i industrialiseringen. På 1960-talet kom en forskare fram till DDT och PCB och utan att långtidstesta de här preparaten så spreds de i jordbruket. Det var först senare som man erfor att det här var dödliga gifter som spreds i ekosystemen och som inte heller var nedbrytbara och därför bara fortsatte att ansamlas med ökad spridning av människan.
Vi har till idag inte sett en utveckling av produktionen som endast tillåter vad som är väl genomtänkt och som inte stör ekosystem och människors hälsa etc.
Likadant är det med AI och där måste man ge forskare som Tegmark rätt. Tegmark menar att AI måste begränsas och kontrolleras. Om vem som helst kan och får sprida superintelligent AI så kommer den att kunna producera biologiska terrorvapen, starta världskrig, stänga ner länders elproduktion och när den finner människan underlägsen och som ett hot mot världens ekosystem, så kan den mycket väl verka för att utrota människan. Det med samma logik som människan utrotar andra organismer som den uppfattar som skadliga. Det här hotet är förstås verkligt. Den som ser sig omkring kan redan nu se hur människor har blivit slavar under en datorteknisk utveckling och där den skapar stora sopberg av datorskrot som en konsekvens av ett teknikslaveri. Denna underkastelse är dock ingenting mot vad en underkastelse av en superintelligens skulle innebära...
Det är målsättningen för superintelligensen som är avgörande, säger Tegmark. Det är just vad som saknats i industrialiseringens produktionsutveckling. Först producerar man, sen vidtar men eventuellt åtgärder mot miljökonsekvenser, ohälsa etc. I dokumentären “planeten” som visades på SVT för något tiotal år sen så intervjuas en nyrik kines. Han är stolt och glad över att vara förmögen och beskriver fördelarna med att kunna köpa nästan vad som helst, kunna resa, och nyttja personliga fördelar. Han tillägger att det visst finns miljöproblem, “- men dom tar vi hand om sen”, säger han.
Även om Elon Musk skrev under petitionen om att göra en paus för AI, så startar han själv i juli 2023 ett nytt AI företag. De som liksom Musk motsätter sig en teknisk utveckling är alla drivna av sin strävan att vara först och störst på marknaden. De vill hindra andra, men inte sig själva.
Men är då AI verkligen ett hot? Kommer det inte bli som med kärnvapen, att världens ledare kommer till en konsensus om att hindra kärnvapenkrig? Tegmark har inget bra svar på den här frågan. Men lika lätt som det är att se ett potentiellt hot, så är det svårt att se varför människan inte skulle kunna hantera problemen med AI och dess konsekvenser? Ja, i teorin är det lätt. Det borde inte finnas krig i världen heller, men ändå gör det så. Det borde inte finnas fattigdom och svält och vi borde för länge sen ha begränsat populationen av Homo Sapiens och individers lyxkonsumtion, varför har vi inte lyckats med det?
Tegmark talar som en sektpräst om “Molok” som är ett systemvidunder som försöker att splittra mänskligheten. Med det menar Tegmark att vi har fastnat i destruktiva spiraler som alla förlorar på. Det är precis det som åskådliggörs i hållbarhetsforskningen. Istället för att slå ängen med lien, göra sin egen kompost och få både motion och en levande äng med blommande gräs och örter som fjärilar och humlor lever i så kör vi omkring med bullrande motorgräsklippare och mejar ner gräset så att det ska se ut som en golfgreen. Där finns inga örter och inga fjärilar. Den som kör gräsklipparen får ingen motion och ökar bara distansen till naturen och verkligheten bakom sina hörselskydd. Människan förorenar jorden och alla blir förlorare…
Det är vad jag kallar för MADMAX och det fenomenet bara fortsätter att öka. Regeringar och kommuner verkar för att öka exploateringen av jordens resurser, trots att man vet att det är motsatsen man borde göra. Tillväxten fortsätter att öka och skapa allt fler negativa konsekvenser. I västvärlden jobbar en mycket stor procent av befolkningen inom vården därför att människor blir allt sjukare som en konsekvens av vården och läkemedelsindustrin… Polisen i världens länder är ett hot mot medborgaren och skapar fler brott än den löser. Rättssystemet är bara till för dom som arbetar inom det. Rådmän, notarier, poliser, åklagare. De vinner alla mål, men medborgaren förlorar och får betala dyrt för långa och besvärande rättsprocesser…
Tänk då om vi skulle kunna använda AI för att vända några av dessa system så att de skapar positiva spin-off effekter i stället! AI skulle lätt kunna läsa in hela lagboken och alla miljontals rättsfall. Med ett tydligt lagsystem, så skulle domar kunna utfärdas med större precision och utan handläggares egna subjektiva värderingar som idag är det enarådande sättet att fatta domar i domstolar och på myndigheter. Med ett välutvecklat AI så skulle domar kunna fattas på några sekunder och medborgare kunde även själva prova sin egen rätt, så vi skulle knappast behöva dessa advokater och åklagare som skor sig på att rättsystemet blivit så svårtolkat att det måste till specialister för att förstå sig på det! Medborgaren kunde lättare informera sig om vad som lagen anser är rätt eller fel, rättsprocesserna skulle förkortas och det skulle inte behöva uppstå väntetider…
I princip gäller detsamma inom vården där t.ex. långa vårdköer har varit en konsekvens som tas upp i alla val sedan urminnes tider utan att någon politiker lyckats att lösa problemen med vården…
Även produktionen skulle kunna regleras med AI och som bestämmer om en produkt eller tjänst får säljas eller inte efter en seriös produktkontroll och kontroll av dess biverkningar, konsekvenser, miljöeffekter och påverkan på naturens resuresurser redan INNAN produkten ställer till problem när den släpps fri på marknaden…
Men för att det här ska fungera måste det finnas människor som styr och bestämmer målen med tekniken. Dessa målsättningar måste styras av vad som gynnar ekosystem, människors hälsa och vad vi vill med livet. Idag är det kortsiktiga vinstintressen och efterfrågan som är målsättningarna som driver på de negativa systemen. Hur ska vi skapa dessa nya människor och hur ska de få makt att bestämma vad vi alla egentligen vill med livet så att vi kan leva i fred med oss själva och med den planet som vi lever på, istället för att fortsatt driva på ett MADMAX och slukas av MOLOK?
LÄNKAR:
Max Tegmark - sommarpratare 1 augusti 2023 (Sveriges Radio)
Molok är monstret som slukar oss alla
AI is an existential threat
12 risks with AI
