Varning för framtiden

Jag läste nyligen en artikel i DN om hur robotarna tar över journalistiken. De börjar med vädret, sedan tar datorerna över sporten och ekonomin. Snart gör de analysen också, och inte långt efter det får datorerna oss att gråta och skratta. När vi skapat en superintelligens kommer alla nya patent tas av datorer. I somras klarade en dator turingtestet, som tidigare ansågs som en barriär som skiljer datorer från människa. Utvecklingen är exponentiell och därför kan vi inte begripa hur fort det går. För de som dessutom inte förstår språket, är det ännu mer obegripligt. I skolan lär sig barnen svenska och engelska, men när de går ut skolan är många ändå analfabeter i en värld styrd av programspråk.

I en färsk föreläsning på Ted (video i slutet på inlägget) påstår Nick Boström att det inte är frågan om, utan när, datorerna överträffar människan. Vi måste redan nu rikta in tekniken så att människans och den artificiella intelligensens mål sammanfaller, menar han. Utvecklingen går mot en singularitet som den kusligt träffsäkra framtidsforskaren Ray Kurzweil förutsåg för över 20 år sedan.

Kurzweils förutsägelse från 1998 som fortfarande stämmer. En dator för 1000 dollar når snart mänskliga nivåer.

Det viktigaste språket
När du läser orden i denna mening behöver du inte tänka på grammatik eller innebörd. All tolkning sker automatiskt. Men tänk om du en gång vaknade och alla texter var på kinesiska. Du skulle inte klara dig särskilt bra. Faktum är att vi redan idag lever i en värld där majoriteten inte förstår det dominerande språket. Det handlar inte om kinesiska, utan om det digitala språket som i grund och botten består av ettor och nollor.

Ett av de vanligast språken är java. Ett program i java kan t ex se ut så här:

class HejApp
{
    public static void main(String[] args) 
   {
       System.out.println(”Hej!”);
   }
}

Dessa textrader kan verka lika otillgängliga som kinesiska, men det enda som händer när man kör detta program är att datorn säger: ”Hej!”. Människorna skriver ett programspråk med korrekt uppbyggda texter. Datorn gör om detta språk till ettor och nollor och gör det vi vill. Programmering är oerhört strikt, och därför också väldigt enkelt när man väl förstår alla regler. Med ord som ”class” och ”println”, förklarar man för datorn vad som ska göras och i vilken ordning saker ska göras. Bara genom att få datorn att skriva ”Hej”, får man en känsla av kontroll över datorn.

Det är fortfarande vi människor som har makten, men den håller på att glida ifrån oss. Vad händer om och när datorerna börjar programmera och reproducera sig själva? Ledande hjärnor som Stephen Hawking, Elon Musk, Steve Wozniak och Bill Gates, har alla på senare tid varnat för en utveckling där datorerna tar över sin egen utveckling och gör människan överflödig. Stephen Hawking anser att det är det största hotet för mänskligheten. Han var tidigt ute och varnade och några ansåg kanske att han blivit senil, men han är i själva verket långt före alla andra. Redan med iPhone 12 kommer mobilen ha mer beräkningskraft än en mänsklig hjärna. Några versioner senare - eftersom utvecklingen är exponentiell - kommer en mobil ha en beräkningskraft som motsvarar summan av alla mänskliga hjärnor. Vi lever i ett ganska bekymmersfritt mellanrum mellan en tid då kampen för att överleva styrde tillvaron och en framtid som den näst intelligentaste "livsformen". Vi har sociala hjärnor som vill tro att det som är nu är det normala och det som alltid gäller.

Det hänger på skolan
För 5000 år sedan fanns inga analfabeter, för det fanns inga texter att läsa. Sedan uppfanns kilskrift, hieroglyfer och alfabet, och i och med uppfinningen av boktryckarkonsten för 500 år sedan hamnade analfabeterna på efterkälken, eftersom de inte kunde förstå och ta del av ett samhälle styrt av texter. Genom att sätta barnen i skolor, fick människorna möjlighet att ta del av makten.

Precis som läs- och skrivkunnighet hjälpte människan överleva i en värld av texter, så kan programmering hjälpa människan överleva i en värld full av kod. Inte bara som krav för att få ett jobb, utan främst för att förstå och orientera sig i en värld styrd av programkod. Vi ägnar dagarna åt Facebook, Twitter, Spotify och Minecraft. Allt styrt av kod. Vi läser om hackers och om myndigheter och företag som spionerar på oss. Bakom allt detta ligger kod. Vi betalar lunchen med kod. Bilen styrs av kod. Kylskåp och tvättmaskin och filmen på TV - också kod. Redan efter att vi matat in några bokstäver vet Google vad vi letar efter, det är som om internet förutser vad vi gör och snart är det verkligen så.

Just nu är det en begränsad (mest en typ av män) del av befolkningen som använder och förstår kodspråket och de kanske har en annan syn på den superintelligens som utvecklas, jämfört med den okunniga majoriteten. Alla måste inte bli programmerare, men alla bör förstå att samhället bygger på kod precis som vi under de senaste århundradena behövde förstå ord och vad man kan göra med ord. Det kanske är större brist på folk som förstår kod, än på folk som kan programmera. Just nu råder brist på båda sorterna. Vi surfar på mobiler och internet, men bara en bråkdel förstår vad som händer under skalet.

Fem bilder på en robot. Vi ser också ganska osmakliga ut under skinnet.

Skolan släpar efter, och det råder brist på lärare som förstår kodspråken. Precis som man lär sig mänskliga språk i lärarutbildningen, borde därför alla blivande lärare lära sig ett kodspråk inte minst för att förstå det som händer med lärandet inom kort. Annars är risken stor att våra barn undervisas av analfabeter och att vi missar chansen att ta kontroll över den utveckling som Nick Boström varnar för i sin föreläsning på Ted. Det är svårt - och kanske omöjligt - att kontrollera och tämja något som är intelligentare än en själv. Jag tror som Boström att det krävs någon typ av gemensamma värderingar och integration mellan dator och människa. Jag tror Kurzweils version är den mest troliga, alltså en gradvis sammansmältning mellan människa och maskin och de som bäst förstår det som händer, kommer också klara sig bäst i denna symbios. Det sker redan idag. Alternativen är inte lika lockande. Någon kanske invänder att det bara är att dra ur sladden. Men vi är redan fast i ett känslomässigt och ekonomiskt beroendeförhållande och är det någon som på allvar tror att vi t ex kan stänga av internet?

Video: Vad händer när datorerna är smartare än oss.

Källor: DN, Språktidningen, kurzweilai.net/, SVD