Kultursidan Västerbottens-Kuriren 160405
Många farhågor väcks i dag kring artificiell intelligens, automatiska system, lärande maskiner och sociala robotar. I en understreckare i SvD (160308) skriver Helena Granström om faran med maskiner som ges en intelligens som övertrumfar människan, om självreplikerande nanorobotar, om den ohyggliga tanken att vi riskerar förlora kontrollen över maskinerna – en föraning om en katastrof.
Det är den dystopiske teknikfilosofen Paul Virilios gamla käpphäst i ny tappning: Varje ny teknik bär på sin egen olycka: Tåg spårar ur, fartyg kapsejsar, flygplan störtar, bilar kolliderar. Vilken är de intelligenta maskinernas olycka? Enligt Virilio utgör dessa det han kallar "never-seen-before-accidents". Vi känner inte till, och kan inte ens föreställa oss de olyckor som vi programmerar in i intelligenta, självlärande maskiner.
Kan nyckelordet vara "självlärande"? Vore det möjligt att konstruera maskiner som självständigt och systematiskt lär sig mänskliga, moraliska värderingar och låter sina handlingar styras och motiveras av dessa?
I en krönika refererar Håkan Lindgren i SvD (160309) till historikern Linn Hunt som hävdar att det ivriga läsandet av skönlitteratur på 1700-talet bidrog i allra högsta grad till idén om universella mänskliga rättigheter. Läsningen bidrog i högre grad till att se främlingar som medmänniskor, till inlevelse i andra människors livssituationer och till ett ökat ömsesidigt förtroende människor emellan.
Är det giltigt även i dag? Kan läsning av skönlitteratur leda till högre moral och goda värderingar? Det hävdas i en avhandling i pedagogisk filosofi med titeln Strävan mot Unselfing (Örebro universitet, 2015) av Anna-Lova Olsson. Men inte utan förbehåll för litteraturens kvalitet.
Avhandlingen är en djupdykning i Iris Murdochs idé om bildning som moralisk transformering, med ett särskilt fokus på skönlitteraturens betydelse i denna process. Den grundläggande moraliska transformeringen är att människan ska bli allt mer osjälvisk. För att skönlitteraturen ska kunna bidra till denna transformation, menar Olsson att den måste uppfylla vissa kriterier.
Litterära verk måste stödja och utveckla människans föreställningsförmåga; förmågan att utforska olika delar av en fiktiv verklighet och föreställa sig andra människors situation. På så sätt kan flera livsmöjligheter övervägas genom litteraturens olika narrativ. Olsson drar dock en extremt tydlig gräns mot fantasygenren; den skönlitterära fiktionen bör främja en realistisk förståelse av världen. Fantasylitteratur motverkar moralisk transformering.
Litterära verk måste dessutom stödja människans uppmärksamhet från sig själv, mot omvärlden. Det är inte genom de egna fördomarna och de förhandsbestämda kategorierna som andra människor ska förstås, utan med uppmärksamhet avses att lyssna av och läsa in andra människor och deras verklighet.
Som ett tredje kriterium måste litteraturen stödja läsarens strävan mot osjälviskhet; en strävan mot en frigörelse från hybris, från att vara den självklara medelpunkten i världen. En sorts omlokalisering av självet.
"Bildning gör människan till en kulturvarelse, medan utbildning gör henne till en vetande varelse", skriver filosofen Peter Kemp i boken Världsmedborgaren (Daidalos, 2005). Vore det möjligt att bilda självlärande maskiner? Datorer är utmärkta som vetande maskiner, med avseende på att samla in, lagra och analysera information. Kan vi göra dem till kulturvarelser?
Forskare försöker. Mark Riedl och Brent Harrison vid Georgia Institute of Technology har nyligen publicerat en forskarrapport där de introducerar idén om att artificiellt intelligenta maskiner bör kunna lära sig mänskliga värderingar genom att läsa berättelser som människor har skapat.
Forskarna söker därför begreppsmässigt flytta fokus från artificiell intelligens till narrativ intelligens: förmågan att lära från berättelser. Än så länge handlar det om ytterst småskaliga försök, där maskiner får ta del av korta berättelser för att skapa ett slags moralisk värdekedja som kan guida maskinens agerande.
Hur ska maskinerna läsa och tolka berättelserna, så att det sker en moralisk transformering i positiv mening? Mediefilosofen Vilém Flusser menade att vi i huvudsak tillämpar någon av tre lässtrategier: Den första är att läsa igenkännande och följsamt, med författaren. Den andra är att läsa så att man omfamnar textens normativa dimension, så att författaren därmed ges en total auktoritet. Den tredje är att läsa kritiskt: att läsa i diametral motsats mot författaren, att misstänkliggöra och tillskriva författaren allsköns negativa utgångspunkter.
Vi kan läsa Orwells 1984 som en gestaltning av ett välordnat och tryggt samhälle, och betrakta Winston Smith som en irrationell dissident. Vi kan läsa Dostojevskijs Brott och straff med Raskolnikov, ge denne moralisk rätt att mörda pantlånerskan och betrakta den senare Raskolnikov som en irrationell kruka.
Vi läser dock inte dessa två berättelser på dessa sätt. Hur ska vi kunna tillse att maskiner med narrativ intelligens inte läser berättelser så att de genererar kontraproduktivt agerande? Forskarna vid Georgia Institute of Technology försöker lära datorerna detta genom klassisk betingning.
De har konstruerat ett belönings- och bestraffningssystem. Om maskinen uppvisar ett korrekt beteende med stöd i de berättelser maskinen läst, får maskinen en belöning i form av en signal som tolkas som positiv. I den motsatta situationen får maskinen en signal som tolkas som negativ.
Det grundläggande problemet kvarstår. Vilken litteratur som är grundad i mänskliga erfarenheter är särskilt lämpad att skapa ett moraliskt beteende hos maskiner?
Anna-Lova Olsson lägger å ena sidan fram generella kriterier som litteratur bör uppfylla, men går inte in på enskilda verk i sin avhandling.
Forskarna vid Georgia Institute of Technology å sin sida undandrar sig att ange kriterier och menar att lösningen måste vara att använda all litteratur som är associerad med den kultur maskinen befinner sig i.
För att åstadkomma en syntes krävs ett närmande mellan litteraturvetenskapen och IT-forskningen.
Inga kommentarer:
Skicka en kommentar