tisdag, januari 23, 2018

Flytande intelligens och intelligenta maskiner

Kultursidan Västerbottens-Kuriren 180123

Nyligen publicerades en studie av James Flynn och Michael Shayer i tidskriften Intelligence, där de visar att intelligenskvoten (IQ) sjunker i de nordiska länderna. Det är ett trendbrott. Några orsaker till denna nedgång formuleras inte, även om debattörer gärna pekar på problem i skolans undervisning och på ökad migration som tänkbara förklaringar till nedgången.

         Samtidigt har idén om IQ som det allenarådande måttet på intelligens ifrågasatts från många håll. Daniel Goleman skrev redan 1995 boken Känslans intelligens, och banade med den vägen mot en diskussion om begreppet EQ: emotionell intelligens. I dess kölvatten har andra intelligensbegrepp formulerats: Holistisk intelligens (HQ), social intelligens (SQ).
         Psykologen Howard Gardner blev känd för att formulera nio olika intelligenstyper: Logisk-matematisk, lingvistisk, spatial/visuell, musikalisk, kroppslig, social, självkännedom, existensiell samt naturintelligens.
         Kvaliteten med det traditionella IQ-begreppet är att det under lång tid har utvecklats mätmetoder. Och omvänt, kritiken mot de andra intelligenstyperna är att de är svårare att mäta. Och i en kultur där mätning och jämförelse är det högsta, befäster naturligtvis det som lättast låter sig mätas sin ställning.
         Trots detta vill jag försöka diskutera ytterligare former av intelligens. Tesen för denna essä är att vi behöver inleda en diskussion kring vilken slags intelligens, vilka kunskaper och förmågor, vi behöver för att kunna skapa ett kvalificerat samarbete mellan människor och intelligenta maskiner i framtiden.

I deras nya bok Machine, Platform, Cr0wd (2017) argumenterar Andrew McAfee och Erik Brynjolfsson för att människor och maskiner måste bli bättre på att arbeta tillsammans.

         I takt med att datorer kan hantera allt större datamängder, att datorers artificiella intelligens ökar med allt mer kvalificerade algoritmer och att datorer i allt högre grad blir självlärande, måste människors kapaciteter anpassas till denna tekniska förändring.
         Det optimala är inte intelligenta maskiner som gör vårt jobb, eller att vi fortsätter utföra uppgifter som maskiner kan utföra bättre – det optimala är att skapa det goda samarbetet mellan människa och maskin.
         Brynjolfsson och McAfee menar att människans främsta förmågor fortfarande överträffar datorers: intuition, kreativitet, omdömesförmåga och, vill jag tillägga, förmågan att formulera värdebaserade mål för olika verksamheter.

I boken Liv 3.0 närmast postulerar den svenske fysikern Max Tegmark att maskiner inte kan ha några mål med vad helst de gör. Vi kan däremot alltid implementera mål i maskiner som de ska uppnå, men maskiner kan inte själva avgöra vilka mål som är goda eller lämpliga.

         I sin framtidsdiskussion skiljer emellertid Tegmark mellan ”vänlig AI” och ”superintelligent AI”. Med ”vänlig AI” menar han att vi konstruerar maskiner vars målinriktade handlande är helt anpassat till människors mål. Med ”superintelligent AI” avses maskiner med potentiell kapacitet att formulera egna mål och därmed kontrollera människan.
         Från att under lång tid uppfattat vår relation till datorer som fast, där datorer är kontrollerbara verktyg, är det inte otänkbart att vår relation till datorer blir allt mer flytande.

Begreppet flytande är helt i sociologen Zygmunt Baumans anda. Bauman var en synnerligen produktiv sociolog som gick bort 2017. Under slutet av 1900-talet utforskade han samhället genom postmodernismens glasögon. Under 2000-talet kastade han ut det postmoderna och ersatte det med begreppet flytande, för att förstå det nya milleniets samhällsutveckling.

         Han inledde med boken Liquid Modernity, där han menar att ett flytande samhälle karakteriseras av avregleringar och privatiseringar, av att allt som tidigare föreföll fast i givna strukturer nu flyter i en värld av kommersiella aktörer på en konkurrensutsatt marknad.
         Därmed, menade han i boken Liquid Life, blir ett flytande liv i ett flytande samhälle allt mer osäkert och oförutsägbart. Förmågor i dag kan vara oförmågor i morgon. Erfarenheter har ett bäst-före-datum, även om det inte går att förutsäga detta datum.
         Privatlivet smittas, skriver han i Liquid Love, av den ständiga rörelsen, genom att kärleksförhållanden får allt svagare band; svagare förpliktelser, svagare löften. Kärleken flyter så lätt i väg, när dess båtshakar inte har något fast att kroka i.
         Med ett sista exempel har Bauman även tagit den flytande metaforen till människans inre psykologi. I boken Liquid Fear pekar han på de rädslor som människor upplever i ett flytande samhälle, där trygghetsskapande element försvinner eller luckras upp. Organisering, rutinmässighet och förutsägbarhet är sådana element. Flytande rädsla är rädslan för de faror som inte kan förutses eller kalkyleras eller ens uppfattas.

För att bli skicklig på att utföra uppgifter i samarbete med intelligenta maskiner föreslår jag att vi tar upp tråden kring flytande intelligens. Redan på 1960-talet formulerade Raymond Cattell två intelligenstyper: kristalliserad och flytande intelligens.

         Med kristalliserad intelligens avsågs förmågan att använda tidigare förvärvad kunskap och erfarenhet för att lösa problem. Med flytande intelligens avsåg Cattell förmågan att förstå uppkomna situationer oberoende av tidigare kunskap och erfarenhet samt att kunna lösa problem i sådana situationer.
         I ett samhälle där allt mer flyter, och där maskiners intelligens utvecklas i högt tempo, skulle en flytande intelligens kunna bli mer önskvärd. I en tillvaro där vi allt mer kan lämna informationslagring och -bearbetning samt logisk slutledning till maskiner, bör vårt bidrag vara något annat.
         Kan vårt bidrag vara förmågan att skapa nya former av samarbeten med intelligenta maskiner, med samarbetsformer som vi inte tidigare har känt till?
         Bör vi i så fall försöka utveckla människors flytande intelligens?

fredag, januari 05, 2018

Vilka är människorna bakom vidrigheterna på nätet?

Kultursidan Västerbottens-Kuriren 180105

Så här i nyårstider publiceras årskrönikor och listor över bästa och sämsta händelser från året som gått. Det brukar vara traditionella teman som politiska händelser, film, musik, litteratur och sporthändelser. I år har vi emellertid fått se en något annorlunda årslista.
        Utöver att vara handbollsproffs och juriststudent, står Linnéa Claeson bakom instagramkontot Assholesonline, där hon visar exempel på det näthat, sexuella trakasserier och kränkningar hon ständigt utsätts för. Och hon gör det med humor.
        På nyårsaftonen postade Linnéa Claeson en lista över de förolämpningar, trakasserande uttryck och grova sexuella hot som hon har fått via mejl, sociala medier eller annan elektronisk kommunikation.
        Det går naturligtvis inte att räkna upp alla dessa här, av två skäl. Dels är de för många för att få plats, dels är de för grova för att tryckas. Några exempel är de vanliga misogyna uttrycken: hora, slampa, spermaluder, liksom de vanliga attributen för feministiska kvinnor: feminazi, manshatare, batikhäxa.
        Till dessa kommer alla de sexuella hot som hon får ta emot; vad män tycker att de själva, eller andra män, bör göra med hennes kropp. Det är så vidrigt att det inte går att skriva.

Vad är detta för slags människor som skriver detta till Linnéa Claeson och andra kvinnor på nätet? En färsk vetenskaplig studie av Natalie Sest och Evita March i tidskriften Personality and Individual Differenses försöker ge svar på den komplexa frågan.

        Med olika psykologiska metoder har de studerat vilka psykologiska egenskaper så kallade cybertroll har. Underlaget är 415 personer som har besvarat ett antal frågor som med olika metoder mäter former av psykopati, sadism och empati.
        Studiens resultat är i korthet att det typiska cybertrollet karakteriseras av att vara man, att ha en läggning för psykopati och sadism samt ha en svagt utvecklad affektiv empati, vilket innebär att man har svårt att erfara, internalisera och respondera på andra människors känslor.
        Däremot uppvisar cybertrollet en hög grad av kognitiv empati, vilket innebär att man har god förmåga att uppfatta och förstå andra människors känslor. Det gör cybertrollet till en skicklig manipulatör som förstår vilka negativa emotionella effekter cybertrollets handlingar får.

Vad kan kunskap från denna och andra studier av kränkande människors beteende på nätet leda till? Sest och March menar att desto bättre vi kan profilera dessa förövare, ju bättre bör vi kunna skapa både utbildningsinsatser och särskilda åtgärdsprogram för människor som begår denna typ av brott.

        Då måste vi först identifiera dem. I Sverige har vi den nystartade organisationen Näthatsgranskaren, som anmäler hat och hot i sociala medier. Enbart under 2017 gjordes cirka 600 polisanmälningar, där förövarna är möjliga att identifiera och lagföra. På lång sikt bör organisationer som denna få effekt.
        På kort sikt bör vi på bästa möjliga sätt solidarisera oss med Linnéa Claeson och andra som utsätts för cybertroll.

tisdag, december 12, 2017

Apropå #metoo – överlever demokratin utan internet?

Kultursidan Västerbottens-Kuriren 171212

Miriam Kirollos är den egyptiska aktivisten som under den arabiska våren uppmärksammade omvärlden på vad som skedde i Nordafrika och särskilt i Egypten under den arabiska våren 2011. Eftersom hon och andra aktivister gjorde det via Twitter kom den arabiska våren att kallas ”Twitterrevolutionen”.
       I efterhand har Kirollos i olika sammanhang kraftfullt vänt sig mot denna benämning, särskilt i essän Revolutionen bortom 140 tecken (Volante, 2012). Hon menade att sociala medier endast i begränsad omfattning bidrog till att organisera och mobilisera människor till motstånd.
        I ett land där tillgången till internet var begränsad och analfabetismen inte var utrotad, var det endast en priviligierad, flerspråkig och högutbildad minoritet som hade tillgång till sociala medier och blev twitterkändisar under denna revolution.
        Kirollos underskattar emellertid inte dessas betydelse för att göra revolutionen känd över världen, men de stora hjältarna var enligt henne vanliga, orädda, frihetstörstande människor som var beredda att riskera sina liv.
        De senaste månaderna har vi emellertid sett en revolution där sociala medier har spelat en synnerligen central roll. Frågan för denna essä är om #metoo-kampanjen hade kunnat bli så effektiv utan sociala medier.

#metoo är som bekant den enorma tryckvåg av kvinnors berättelser om våldtäkter, sexuella övergrepp och fysiska och psykiska kränkningar. Det började med skådespelerskan Alyssa Milano vittnade om Hollywoodproducenten Harvey Weinsteins sexuella övergrepp, och skapade hashtaggen #metoo. 
        I Sverige startade denna rörelse med att några kvinnor anklagade enskilda, välkända medieprofiler för sexuella övergrepp och kränkningar. Därefter, under oktober och november 2017, formligen exploderar sociala medier av nya hashtaggar under #metoo, där kvinnor organiserar sig branschvis och där dags- och kvällstidningar publicerar uppropen och exempel på kvinnors vittnesmål.
        Först ut som bransch var skådespelare med #tystnadtagning. Därefter #visjungerut (sångare), #medvilkenrätt (jurister), #närmusikentystnar (musiker), #imaktenskorridorer (politiker), #teknisktfel (teknikbranschen), #deadline (journalister), #tystiklassen (skolelever). Kyrkan, högskolor och universitet, läkarkåren, försvaret – ingen bransch tycks gå fri.

Vilken betydelse har sociala medier i denna rörelse? Förhoppningsvis kommer forskare att studera detta närmare, men något övergripande kan redan sägas. En sak är själva spridningen av budskapet; själva idén med sociala mediers är att möjliggöra spridning av text och bild.
        Mig veterligt har inte sociala medier använts på ett så effektivt sätt för att organisera människor. Kvinnor har branschvis skapat slutna Facebookgrupper, där enbart personligt inbjudna har kunnat delta för att dels lämna vittnesmål, dels skriva under uppropen.
        Utan att ha haft egen insyn någon Facebookgrupp, har jag förstått att allt har gått oerhört snabbt och effektivt. Flera grupper skapades, kvinnor bjöds in, diskussioner fördes, upprop formulerades, tidplaner bestämdes, grupper stängdes.
        Att uppropen och vittnesmålen sker branschvis är värt att notera. En tolkning är att majoriteten av övergrepp mot kvinnor skulle ske på arbetsplatser. En kontrasterande tolkning är att det är lättare att tala om övergrepp som sker på arbetsplatser än i kvinnors privata sfärer, utan att majoriteten av övergrepp sker på arbetsplatser.
        Det är också intressant att, trots de branschvisa upproren, notera att kvinnor väljer att organisera sig utanför formella kanaler, som exempelvis fackföreningar. En hypotes är att organisering i sociala medier är så oerhört mycket mer tidseffektiv än i de traditionella organisationsstrukturerna.

Vad är #metoo? Hur ska vi förstå det? Vilka termer ska vi använda? Är det en manifestation? Nja, i vissa delar, naturligtvis, men det är så oändligt mycket större än så.
        Är det en revolution? Ja, många skribenter har använt detta begrepp, medan andra vill hävda att revolutionsbegreppet bör reserveras för stora, institutionella omvälvningar i ett samhälle. Kanske leder #metoo även till sådana.
        Är det en frigörelse? Ja, flera drar rimliga paralleller med kvinnorörelsen och den feministiska kampen på 60- och 70-talen.
        För egen del frammanas Berlinmurens fall som metafor. Mellan 1961 och 1989 utgjorde denna mur en gräns mellan Väst- och Östberlin, mitt i gamla Östtyskland. Muren uppfördes av en extremt auktoritär regim, med det främsta syftet att förhindra människors rörelsefrihet. Under dessa decennier tittade övriga världen på, vi accepterade och normaliserade muren och de ständiga kränkningar av människors friheter som den manifesterade.
       #metoo är tusen och åter tusen kvinnor som med sina vittnesmål hackar sönder den patriarkala muren i småsmulor. Känslan liknar den som uppstod i november 1989.
        I en nyligen genomförd undersökning av Novus, svarade 45 procent av männen att #metoo-rörelsen är överdriven. Vänta bara. Muren har bara börjat rivas; än är den inte jämnad med marken.

Överlever demokratin internet? Den frågan ställde jag i en tidigare essä denna höst. På det sätt sociala medier har använts av olika aktörer under det senaste amerikanska presidentvalet, var frågan rimlig att ställa.
        Sociala botar som sprider falska nyheter, riktade politiska budskap med hjälp av psykografisk profilering och olika trollfabriker som sprider osanna rykten på sociala medier – allt med avsikt att sabotera demokratiska processer.
        Med denna essä vill jag även ställa den motsatta frågan: Överlever demokratin utan internet? Alldeles oavsett vilka metaforer vi vill använda – manifestation, revolution, frigörelse, berlinmurens fall – är det i sitt fundament en demokratirörelse.
        Och precis som tankeexperimentet Schrödingers katt – där fysikern Erwin Schrödinger formulerade paradoxen att i en given experimentsituation kan en katt vara både död och levande samtidigt – måste vi kunna uppfatta internet och sociala medier både som hot mot demokratin och som nödvändig för demokratin.

fredag, november 24, 2017

Heder och ära i Akademien

Kultursidan Västerbottens-Kuriren 171124

Efter DN:s avslöjande av vittnesmål om den så kallade kulturprofilens, med nära anknytning till Svenska Akademien, flerfaldiga sexuella övergrepp under flera decennier, har den ständige sekreteraren Sara Danius meddelat att Akademien anlitar en advokatfirma för att utreda vad akademiledamöterna har känt till.
         Kulturprofilen har av akademiledamöter hyllats, han har tilldelats en kunglig medalj (som nu kulturministern vill dra tillbaka), han har haft tillgång till lägenheter i Stockholm och i Paris, betalda av Akademien – är det ens möjligt att inte någon av Akademiens ledamöter känt till hans förehavanden?
         Vilka konsekvenser kan den tillsatta utredningen få? Är inte Akademiens 18 ledamöter tillsatta på livstid och omöjliga att avsätta?
         Nej, det är en myt. I Svenska Akademiens stadgar från 1786, paragraf XIX, står: ”Beträdes Ledamot med något som emot heder och ära går, varde han för altid utesluten.”
         Det går alltså alldeles utmärkt att utesluta ledamöter om man finner att de i relation till denne kulturprofil har agerat på ett sätt som går emot heder och ära.
         Och omvänt: Ledamöter som inte utesluts, trots kännedom om kulturprofilens omvittnade trakasserier och övergrepp, har därmed agerat hederligt och ärofyllt.

tisdag, november 21, 2017

Hatet är en man

Kultursidan Västerbottens-Kuriren 171121

Totalförsvarets forskningsinstitut (FOI) har av regeringen uppdraget att kartlägga och genomföra olika analyser av våldsbejakande extremistisk propaganda. Den tredje delrapporten av detta uppdrag publicerades nyligen, med titeln Det vita hatet: radikal nationalism i digitala miljöer. Sex forskare med olika kompetenser har bidragit till rapporten.
         Flera svenska nationalistiska, främlingsfientliga och nationalsocialistiska webbsajter har analyserats, med ett särskilt fokus på de största: Avpixlat (som nu heter Samhällsnytt) och Nordfront.
         De har analyserat både redaktionella artiklar och kommentarer till artiklarna i några olika avseenden. Genom att använda ny teknik inom området artificiell intelligens och maskininlärning, har forskarna låtit självlärande datorprogram analysera tusentals artiklar och kommentarer på dessa sajter.

En analys utgörs av så kallade dispytmarkörer. Det är markörer främst i form av citattecken runt sådana ord som avsändaren vill skapa dispyt kring, eller visa att man ifrågasätter riktigheten av.
         På sajten Avpixlat används citattecken runt ord som exempelvis ensamkommande, barn och flyktingar, för att på så sätt visa att man inte alls tror att personer som traditionell media rapporterar om är ensamkommande, barn eller ens flyktingar.
         På sajten Nordfront används dispytmarkörer på samma sätt, men oftare runt ord som exempelvis förintelsen (för att förneka dess historiska existens), nazist (eftersom Nordfront kallar sig nationalsocialister) och demokrati (eftersom dagens samhälle inte uppfattas som demokratiskt).
         I rapporten analyseras även hatintensitet. Med det avses hur ofta namnet på exempelvis en viss politiker, ledarskribent, journalist, minister eller riksdagsledamot nämns i samband med olika ord som förknippas med hat (exempelvis svordomar, ilska, död, oro och nedsättande benämningar). Ju fler gånger en person förknippas med hatord, desto högre hatintensitet.

En tredje analys är könsmönster. Den absoluta majoriteten av såväl redaktionella skribenter som kommentatorer på Avpixlat är anonyma. Därför har forskarna tränat upp en självlärande dator i att känna igen texter som är författade av män respektive kvinnor. Vid tester har det visat sig att datorn känner igen författarens kön med 84 procents träffsäkerhet.
         Av de 13 655 redaktionella artiklar från Avpixlat som ingick i studien, var 99,4 procent skrivna av män. Av de 18 470 registrerade kommentatorerna var 94 procent män.
         Det finns all anledning att ta till sig kunskap om hur hat kommer till uttryck i digitala miljöer: Vika ord som används, vilka ord som omges av dispytmarkörer, vad olika symboler uttrycker.
         Den viktigaste kunskapen är emellertid ändå att det är en så enorm övervikt av män som förekommer i dessa digitala miljöer; mansdominansen är så stor att man närmast måste tala om homogenitet.
         Ideologier, propaganda, gruppsykologiska processer och individuella fördomar i all ära: En väsentlig orsak till den rådande hatproblematiken i digitala miljöer stavas manlighet.

onsdag, november 08, 2017

#Vadfanfårjag? Ett produktivt risktagande

Kultursidan Västerbottens-Kuriren 171108

Efter Svenskt Näringslivs ordförande, Leif Östlings, skabrösa uttalande i Uppdrag granskning kring dennes skattehantering, skapades snabbt hashtaggen #Vadfanfårjag i sociala medier för att besvara Östlings fråga i intervjun: Vad fan får jag för skatten jag betalar?
        De vanligaste svaren berör så klart sjukvård, barn- och äldreomsorg, gratis skolgång ända upp till Östlings två egna universitetsexamina. Andra svar pekar på förutsättningar för Östling att verka som industriledare: infrastruktur i form av vägar, järnvägar, flyg. 
        Ett mindre vanligt svar på frågan ger den italienska ekonomen Mariana Mazzucato i boken Entreprenörsstaten (2016). Här avlivar hon myten om att staten måste krympa, för att ge marknadens entreprenörer och innovatörer fritt utrymme. 
        
Myten går tillbaka till Adam Smiths idé om den osynliga handen; det optimala är att marknader lämnas i fred och staten enbart sysslar med grundläggande infrastruktur.
        Det förhåller sig enligt Mazzucato tvärtom. Utan statliga investeringar i flygteknik, internet, datorer, bioteknik skulle många av våra viktigaste landvinningar inte existera.
        Staten är nämligen betydligt mer benägen än marknaden att investera i områden där risken är hög och förväntningar på avkastning är låg. Att krympa staten vore därför förödande.
        I ett kapitel plockar Mazzucato isär Apples produkter och visar hur olika komponenter tillkommit genom statligt stöd i olika former. Inte enbart Apple, så klart. Utvecklingen av den grundläggande algoritmen bakom Googles sökmotor finansierades av staten. Eller att flera grundläggande landvinningar inom bioteknik finansierades med statliga medel. För att inte tala om internet; utan statliga satsningar skulle det inte existera.
        
Så var kommer statens investeringsmedel från? Dum fråga. Skatter. Ändå menar de stora företagen och deras ledare att skatt är ett problem som borde planeras bort. Google och Apple är kända för kraftfull skatteplanering. Liksom, visar det sig från Paradisläckan, Leif Östling med flera som avslöjas.
        Vilket är en rent irrationell, för att inte säga kontraproduktiv uppfattning. Utan staten skulle inte de mest riskfyllda investeringarna göras, eftersom privata riskkapitalister inte tar sådana risker. 
        Problemet med Östlings fråga #Vadfanfårjag är pedagogiskt. Staten måste bli bättre på att tala om vilken betydelse den har i ekonomin, för innovationers utveckling och för industriers förutsättningar. Att läsa Massucatos bok är en bra början.

fredag, november 03, 2017

Martin Luther kan tacka Gutenberg för spridningen

Kultursidan Västerbottens-Kuriren 171103

I staden Wittenberg i östra Tyskland håller man som bäst på att fira 500-årsdagen av Martin Luther och den reformation av kyrkan som han inledde genom att spika upp sina 95 teser på porten till Schlosskirche, slottskyrkan i Wittenberg.
       Så hävdas det i alla fall. Om och i så fall exakt var teserna spikades upp är man oense kring. Att den 31 oktober är tidpunkten för de 95 tesernas publicering är man dock mer enig om.
       Mycket har skrivits om Luther och hans teser från teologiska och kulturella perspektiv – men hur fick de sådan spridning, i början av 1500-talet, när alla texter skrevs för hand? Luther hade turen att leva precis i inledningen av den tredje mediatekniska revolutionen: uppfinnandet av tryckpressen.
       Således hade Luther Johannes Gutenberg att tacka för spridningen av inte enbart de 95 teserna, utan för en mängd andra skrifter som Luther var upphovsman till.

I John Mans biografi Gutenberg (2004) framgår tydligt att vad Gutenberg uppfann under andra halvan av 1400-talet egentligen inte var själva tryckpressen, utan de lösa typerna med vilka man sätta textsidor och mångfaldiga dem på ett effektivt, närmast industriellt sätt.

       När Gutenbergs initiala tekniska problem med att konstruera typer och sättramar, med att utveckla bläckkvalitet och pappersdito var relativt lösta kunde böcker skulle tryckas i stora upplagor.
       Men vilka böcker skulle tryckas? Gutenberg var ingen författare, utan en teknikutvecklande entreprenör. Vilka texter fanns att tillgå?
       Inte helt oförutsebart blev Bibeln den första skrift som Gutenberg tryckte. Den katolska kyrkan välkomnade denna tryckteknik med öppna armar och såg framför sig hur alla kyrkor och kloster ägde samma version av bibeln att läsa och predika ur.
       Kyrkan såg framför sig möjligheten att eliminera såväl lokala variationer av Bibeln, som mänskliga fel hos handskrivarna. Inte enbart bibeln trycktes, utan även mässböcker och körböcker.

Däremot räknade inte den katolska kyrkan med att tryckpressen skulle användas mot den. Ett väsentligt skäl till att Luther lyckades reformera kristendomen var att han var synnerligen publiceringsivrig och att han snabbt kunde trycka stora upplagor av sina teser och sina predikningar.

       Ett annat skäl var att Luther skrev på tyska för tysktalande och inte på latin. Det gjorde hans verk än mer spridbara. Man räknar med att så många som en tredjedel av alla böcker som trycktes i Tyskland 1520 var författade av Luther.
       Med hjälp av Gutenbergs tryckteknik bidrog Luther inte enbart till att reformera kristendomen, utan även till att den tysktalande befolkningen blev mer medveten om sig själv och gränserna mot andra.
       Och med hjälp av Luther befästes den papperstryckta bokens särställning, en särställning som innehas fortfarande, i internetåldern.

onsdag, oktober 25, 2017

Formbar framtid

Jag har samlat ett antal tidigare texter och publicerat dem en ny bok; en essäsamling kring samhälleliga framtidsfrågor, främst om digitalisering och robotisering. Titeln är Formbar framtid: Essäer i skärningspunkten mellan nutid och framtidBoken finns att köpa på AdlibrisBokus, CDON och Amazon. Precis som mina tidigare böcker finns denna att ladda ned fritt, i meningen gratis, som Open Access i pdf-format.



I denna essäsamling söker Per-Olof Ågren syntesen mellan ett empiriskt nu och framtidsscenarier. Vad kan nutidens analytiska och experimentella forskning om och utveckling av informationsteknik säga om en framtida samhällsutveckling?

Det är i skärningspunkten mellan nutid och framtid som de viktigaste övervägandena om samhällsutvecklingen måste göras. 

Bokens bidrag är synliggöra sådan forskning och utveckling av informationsteknik och undersöka hur den i olika avseenden har möjlighet att forma framtidens samhälle.

Om boken även inspirerar till ytterligare analyser och diskussioner kring informationsteknikens inflytande över samhällsutvecklingen vore det synnerligen värdefullt. 

tisdag, september 26, 2017

Överlever demokratin internet?

Kultursidan Västerbottens-Kuriren 170926

Många talar om de där botarna som sprider propaganda, rasism och allehanda lögnaktiga påståenden, men hur ser de ut? Går det att särskilja en automatiskt genererad användare som sprider politiska lögner på Twitter från en människa som gör samma sak?
        Det är inte nödvändigtvis enkelt. Nyligen fick jag emellertid syn på ett antal twittrare som spred exakt samma budskap och stavfel: ”Rasism utgår från maktövertag, det är vara [sic!] vita som kan vara rasister. Samma med våldtäkt, en svart kan aldrig våldta.” Alla dessa twittrare uppvisade olika profilbild med en gemensam nämnare: Alla var unga kvinnor och hade svenska, kvinnliga namn.
        I ett blogginlägg undersökte journalisten Jack Werner lite noggrannare dessa 22 twittrare och fann även att profilbilderna utgjordes av flera delar från andra bilder som sammanfogats till enskilda bilder. Han fann även att alla dessa twitterkonton hade registrerats inom ett par dagar och den tweet jag citerade ovan publicerades av dessa 22 konton närmast samtidigt.
        Tidigare myntades begreppet trollfabrik och avsåg avlönade människor som spred propaganda i sociala medier för en regims räkning. I dag talar vi om automatiska botar som sprider propaganda.
        Frågan är vilken effekt automatiska botar får i politiska processer. Hur påverkas människor av botarnas twittrande? Vad betyder denna utveckling för demokratin? 
        Nu publiceras studier av hur användning av sociala medier – av såväl människor som botar – påverkar politik, politiska val och ytterst demokratin.

En kvartett forskare vid Indiana University i USA har analyserat vilken spridning falska nyheter får, när spridningen sker från sociala botar på Twitter. En social bot är en programvara som kan formulera och skicka meddelanden på Twitter och även kommunicera med andra twittrare, både botar och människor. 

        Med falska nyheter avser de osanna inlägg, konspirationsteorier, fabricerade rapporter och liknande. De har analyserat 14 miljoner meddelanden under 2016 års presidentvalskampanj i USA med hjälp av egentillverkade datorprogram för att detektera meddelande från sociala botar. 
        Ett av de mest intressanta resultaten av denna studie är att falska nyheter som sprids av sociala botar blir virala främst därför att dessa nyheter sprids vidare av människor. Med andra ord, vanliga användare har svårt att uppfatta om en twittrare är en bot eller en människa – om ett meddelande sammanfaller med eller förstärker människors åsikter, sprider de gladeligen meddelandet vidare.
        De sociala botarna förstärker dessutom trovärdigheten i sina meddelanden genom att på olika sätt referera till eller tagga faktiska, inflytelserika människor, så att det än mer döljer att boten är en bot. Och därmed ökar chansen – eller snarare risken – att människor sprider botarnas falska nyheter i större utsträckning.
        Det, menar denna kvartett forskare, tyder på att sociala botar rätt enkelt kan påverka och manipulera ett stort antal människor.

Det är inte nödvändigtvis sociala botar som avgör om sociala medier som exempelvis Twitter kan användas för att uppnå politiskt strategiska mål. Gunn Enli är norsk professor i medievetenskap och forskar om politisk kommunikation och sociala medier. 

        I en vetenskaplig artikel visar Enli den skarpa skiljelinjen mellan Hillary Clinton och Donald Trump med avseende på hur deras respektive valkampanjer använde Twitter för politisk kommunikation.
        Clinton och hennes stab använde Twitter på ett professionellt sätt, menar Enli, vilket innebär att strategin utgick från kända teorier om hur politisk kommunikation bör bedrivas i valkampanjer i liberala demokratier. 
        Trump och hans stab arbetade för en avprofessionalisering av den politiska kommunikationen. Enli menar att Trumps strategi bäst betecknas som amatörism, men inte en amatörism som härrör från okunskap eller inkompetens, utan en strategisk amatörism.
        Clinton var den kontrollerade politikern, Trump den autentiske outsidern. Med avseende på agendasättning, tweetspridning och citeringseffektivitet vann Trump kampen om de sociala medierna i valrörelsen. 
        Clinton gjorde allt rätt. Trump gjorde allt fel. Därför vann Trump.

I internets barndom tänkte sig många optimister och utopister att internet skulle bli den perfekta arenan, det perfekta verktyget för att utveckla demokratin. Särskilt den deliberativa demokratin, även benämnt deltagardemokrati, ansågs ha störst potential att utvecklas. Med ökad horisontell och vertikal kommunikation skulle medborgarnas deltagande stärkas och politikers relationer till medborgarna förbättras.

        I dag frågar vi oss snarare om demokratin kan överleva internet. Det frågar sig Nathaniel Persily, juridikprofessor vid Stanford i en artikel i tidskriften Journal of Democracy. Är frågan överdriven? Har inte demokratin tillräcklig motståndskraft att inte påverkas av sociala medier?
        Persily oroas också av hur sociala botar sprider falska nyheter så att de får stor spridning, men minst lika mycket av hur psykografisk profilering medger riktad propaganda till en omsorgsfullt utvald målgrupp.
        Det är dock inte propaganda med politiska budskap vi främst ska vara vaksamma på för demokratins överlevnad, utan sådana budskap som medvetet avser att motverka medborgarnas vilja att överhuvudtaget rösta i demokratiska val.
        
Nyhetssajten Bloomberg beskriver hur Brad Parscale, Trumps främste strateg för sociala medier, samt övriga kampanjmedarbetare manipulerade valrörelsen. Särskilt bestickande är det när Trumps kampanjarbetare plötsligt väljer en ny strategi under valrörelsen: I stället för att påverka fler människor att rösta på Trump, inleder de en motsatt strategi.
        Strategin är att med offensiv användning av sociala medier påverka människor att inte alls rösta – särskilt människor som de anar sympatiserar med motståndarkandidaten: vita liberaler, unga kvinnor och afro-amerikaner.
        Frågan är därmed berättigad: Överlever demokratin den användning av internet och sociala medier som initierades i den amerikanska valrörelsen 2016?

måndag, augusti 21, 2017

Demokratins motståndskraft

Kultursidan Västerbottens-Kuriren 170821

Vi kör längs Blutstrasse. Blodvägen. Vägen som tar oss de sista kilometrarna till koncentrationslägret Buchenwald, ett par mil norr om Weimar i östra Tyskland. Vägen som byggdes av koncentrationslägerfångar under brutalt överinseende från SS-personal. Därav namnet.
      Lägrets lokalisering är i sig ett symboliskt hån. Det var i Weimar den tyska republiken, tillika den tyska demokratin inrättades 1919, för att upplösas av nazistpartiet när det kom till makten 1933.
       Ovanför ingången till Buchenwald står det ”Jedem das seine”, vilket betyder ungefär ”Åt var och en det han förtjänar”. Lägerfångarna skulle förstå att de genom sin etniska tillhörighet, politiska åsikter, sexualitet och andra egenskaper förtjänade de att drivas i döden genom arbete, undernäring, sjukdomar, medicinska experiment och avrättningar.
       Det är varken första eller sista gången jag besöker ett koncentrationsläger. Besöken etsar sig fast på ett nödvändigt sätt. Jag tänker att vi måste ständigt hålla dessa mänsklighetens allra mest fruktansvärda handlingar i medvetande, för att inte riskera att upprepa dem.

Så hur gör vi för att inte dylika händelser ska upprepas? Tre danska statsvetare publicerade nyligen en rapport i tidskriften Journal of Democracy (nr 3, 2017), där de har studerat vilken betydelse demokratisk stabilitet hade i 44 olika länder under mellankrigstiden för att bibehålla ett demokratiskt statsskick.
       Länder som Sverige, Norge, Danmark, Nederländerna, Belgien, Storbritannien med flera klarade av att bibehålla demokratiska statsskick. Länder som Tyskland, Italien, Österrike, Grekland, Polen med flera klarade inte av det.
       Den främsta förklaringen enligt dessa forskare är att de länder som hade hunnit bygga upp en fungerande institutionell demokrati under flera decennier klarade av att stå emot totalitära rörelser såväl från vänster som från höger.
       Dessa länder lyckades även kanalisera den frustration bland medborgarna som uppstod på grund av ekonomisk kris och arbetslöshet inom ramen för det demokratiska systemet. De länder som gav upp demokratin för antidemokratiska statsskick var alla synnerligen unga demokratier, utan inarbetade institutionella processer, utan förmåga att hantera medborgarnas frustration.
 

Studien levererar en positiv slutsats: länder som konstitueras av långvariga och stabila demokratiska system, bör vara mindre oroliga för att antidemokratiska strömningar ska få fäste
       Å ena sidan måste vi hålla mellankrigstidens fruktansvärda handlingar i ständigt minne för att inte riskera upprepa dem.
       Å andra sidan bör lärdomen från mellankrigstiden vara att demokratin ändå har goda förutsättningar att stå emot totalitära rörelser.
       Vi bör emellertid vara extremt vaksamma mot nya, kanske ännu oupptäckta hot mot demokratin, hot som vi inte vet om våra demokratiska institutioner kan stå emot.

fredag, augusti 18, 2017

Nazister jagas bort från nätet

Kultursidan Västerbottens-Kuriren 170818

Efter nazisternas terrorhandlingar i Charlottesville, där en kvinna dödats och flera skadats, har de stora internetaktörerna börjat agera.
        Stora sociala mediejättar som Reddit och Facebook har börjat förbjuda så kallade hatgrupper, vilket är ett samlingsbegrepp för nazistiska, högerextrema, vit maktrörelser och liknande. Musiktjänsten Spotify meddelar att man plockar bort allt som kategoriseras som vit maktmusik.
        Det är synnerligen viktiga handlingar. Än viktigare är att alla de stora aktörerna också jagar bort den amerikanska nazismens flaggskepp, webbsajten The Daily Stormer, från den öppna webben, från YouTube, från Instagram med flera. Sajten försöker etablera sig på ryska och kinesiska domäner, dock utan framgång.
        Webbsajter som The Daily Stormer får söka sig till den mörka webben, bland drogförsäljning, barnpornografi, vapenförsäljning, bland annat hot och hat, där det till och med är möjligt att satsa pengar på framtida mord. Endast detta svarta hål kvarstår för sajten.
        Terrorn i Charlottesville kan mycket väl bli brytpunkten för nätaktörernas tolerans för hatgrupper, hatpropaganda och hets mot folkgrupper.
        En brytpunkt för demokratin.

tisdag, juni 13, 2017

I algoritmernas tid blir matematiken politisk

Kultursidan Västerbottens-Kuriren 170613

För många skolelever har matematikämnet upplevts som hin håles gåva till dem. Abstrakt, logik, formler med siffror och bokstäver. Och vad skulle man med matematiken till? Vore det inte viktigare att läsa samhällskunskap, historia och språk för att både förstå samhällets komplexitet och kunna bli en aktiv medborgare?

       Ja och nej, skulle matematikern Cathy O'Neil svara, när jag läser en intervju med henne i Harvard Business Review (161006). Hon har alltid uppfattat matematiken som en fristad från verklighetens komplexitet.
        Med matematik som verktyg kan olika delar av verkligheten uppfattas tydligare, komplexiteten kan reduceras och världen kan beskrivas ärligare, utan några agendor som färgar tolkningar.
        Tesen för denna essä är att i dag och i framtiden gäller det omvända. Med matematikens hjälp, i form av algoritmer som bearbetar stora datamängder, verkar vi skapa en grumligare, mer ogenomskinlig värld som tycks få stora konsekvenser.
        Tesen framläggs med stöd av Cathy O'Neils senaste bok Weapons of Math Destruction (Allen Lane, 2016). Om titeln kräver sin förklaring, ger undertiteln en tydlig fingervisning om innehållet: How Big Data Increases Inequality and Threatens Democracy (Hur big data ökar ojämlikhet och hotar demokratin).

Bokens studieobjekt, Weapens of Math Destruction, har konnotationer till massförstörelsevapen (weapons of mass destruction) som är särskilt ägnade att sprida död och förödelse i stor skala, som exempelvis kärnvapen, kemiska eller biologiska vapen.

        Weapons of Math Destruction, däremot, är algoritmer som för olika syften analyserar stora datamängder och levererar antingen självständiga beslut eller beslutsunderlag. Alla algoritmer är inte destruktiva, utan O'Neil fokuserar sådana som genom sin utformning genererar skadliga konsekvenser för många människor.
        De skadliga algoritmerna har tre egenskaper: De är ogenomskinliga, vilket innebär att vi inte vet hur de fungerar eller vilka premisser de utgår från. De är storskaliga, vilket innebär att det inte finns några begränsningar för hur många människor som kan drabbas av dem. Den tredje egenskapen är den självklara: de är skadliga för människor.
        Dock inte alla människor, vilket är en av bokens poänger. Vissa gynnas av dessa algoritmiska vapen. Precis som andra massförstörelsevapen.

Cathy O'Neil ger ett flertal intressanta exempel i boken. Automatiska personlighetstester av människor som söker arbete är ett. Syftet med dessa osynliga algoritmer är inte att finna den bäst lämpade för ett jobb, utan att exkludera så många som möjligt.

        Konsekvensen, menar O'Neil, blir ofta att de parametrar i algoritmerna som exkluderar sökanden också fungerar diskriminerande. Människor med sjukdomar, funktionsvariationer och kanske lite udda beteenden sorteras med lätthet bort per automatik.
        Ett annat exempel visar hur algoritmer kan samarbeta för att förstärka negativa strukturer. O'Neil menar att de matematiska modeller som klassar människor som kriminellt benägna, leder till att dessa oftare får strängare straff om de begår brott. Efter avtjänat straff sorterar de algoritmer som hanterar arbetssökande snabbt bort dessa från arbeten som söks. Och då blir dessa människor än mer benägna att begå brott.
        Den i algoritmerna inbyggda profetian uppfylls; således är det inte rättvisa som byggts in. Dessutom visar det sig att det oftare är människor med viss etnisk bakgrund som fastnar i dessa strukturer; således är det inte jämlikhet som byggts in.
        Ett ytterligare exempel handlar om matematiska modeller för att bestämma människors kreditvärdighet, vilket alltmer framstår som ett kvalitetsmått på en människa. Allt från bedömning av partners på dejtingsajter till bedömning av arbetssökande använder kreditvärdighet som en betydelsefull parameter.
        I algoritmåldern blir det än svårare för redan ekonomiskt utsatta människor att arbeta sig ur ekonomiska problem, eftersom betalningsanmärkningar och andra kreditparametrar utgör ett hinder för att få arbete. En veritabel fattigdomsfälla, förklädd till neutrala matematiska modeller.

Utöver fria val finns det ett antal hörnstenar i en demokrati: tryckfrihet, åsiktsfrihet, föreningsfrihet och liknande friheter. Men även jämlikhet i form av att medborgare ges lika förutsättningar och inte diskrimineras på grund av kön, etnicitet, sexuell läggning och övriga diskrimineringsgrunder. Samt rättvisa: att juridiska bedömningar är neutrala i förhållande till etnisk härkomst och socio-ekonomisk bakgrund.

        De framväxande problem Cathy O'Neil ger exempel på är inte rimliga i en demokrati. Vad kan vi göra? O'Neil har ett förslag: Att avkräva att varje person som arbetar med algoritmkonstruktion svär en sorts hippokratisk ed, likt den Hippokrates formulerade för läkarskrået för ca 2 500 år sedan.
        I allt väsentligt: Skapa aldrig Weapons of Math Destruction, utan gör algoritmer som uppfyller grundläggande värden i en demokrati, och låt demokratiska värden vara överordnade ekonomiska i de fall konflikter uppstår.
        Cathy O'Neil sätter fingret på något ytterst centralt. På senare tid vi sett ett stort fokus på problem med faktaresistens, på krav på evidensbaserad politik, på behovet av faktabaserade beslut. Detta fokus är så starkt att vi riskerar förstå beslutsfattande som enbart beroende av de korrekta fakta som datorer kan leverera.

Vi bör påminna oss om att förmågan att fatta rättvisa beslut har två ben. I dag ser vi en övervikt åt episteme; den formella kunskapen, vetandet, våra obestridliga fakta.

        Det andra benet är emellertid minst lika viktigt för att kunna fatta rättvisa beslut: fronesis; omdömesförmågan. Det är den förmåga som innefattar att kunna göra kritiska bedömningar och att förstå konsekvenserna av olika beslut.
        Kan vi bygga in fronesis i algoritmerna? Kan algoritmer vara omdömesgilla? Kan algoritmer kritiskt bedöma konsekvenser av handlingar och beslut? Eller är det förmågor som är enbart människor förunnade?

fredag, juni 09, 2017

Facebookgruppen som raserade drömutbildningen

Kultursidan Västerbottens-Kuriren 170609

Att våra aktiviteter i sociala medier kan få konsekvenser för andra delar av våra liv borde i dag vara en självklarhet. Ändå är det lätt att ryckas med i ett flöde, i en diskussion, på ett sätt som missgynnar både en själv och andra.
         Washington Post (170605) uppmärksammar ett extremfall som kan fungera som "sig själv till skräck och androm till varnagel", som den gamla rättsprincipen säger. Det amerikanska, prestigefyllda universitetet Harvard återkallade nyligen tio antagna studenters studieplatser, när universitetet upptäckte dessa tio personers aktiviteter på Facebook.
         Studenter som antagits vid Harvard går med i någon officiell Facebookgrupp för att lära känna andra studenter och få information om studierna innan de påbörjar dem. I en sådan grupp skapades en mindre, privat subgrupp – en så kallad gruppchat – för att skapa och dela memer kring populärkultur. (Att skapa och dela memer tycks vara en het trend vid elituniversiteten i USA.)

Det spårade snart ur. Memerna blev allt mer obehagliga. De blivande studenterna förlöjligade sexuella övergrepp, hånade Förintelsen och hetsade kring övergrepp på barn, bland annat. Ofta riktades memerna mot specifika etniska grupper. Moraliska övergrepp, men sannolikt inte juridiska.

         Harvard är ett privat lärosäte och har därmed stor frihet att formulera lokala regler och riktlinjer. En regel säger att Harvard förbehåller sig rätten att dra tillbaka ett antagningsbeslut av flera skäl, exempelvis om den blivande studentens beteende föranleder Harvard att ifrågasätta studentens ärlighet, mognad och moraliska karaktär.
         Vilket skedde i fallet med de tio studenterna som dök ned till memeskapandets mörkaste vrå, vars konsekvens blev att dessa inte ges tillgång till sin drömutbildning.

Åtminstone tre lärdomar bör dras av detta fall: Den första och enklaste är att aldrig inbilla sig att sociala forum på internet kan vara privata och fria från insyn, vilket innebär att man alltid bör agera såsom i en offentlighet.
Den andra lärdomen är mer komplicerad. Detta måste nog ses som ett extremfall med extrema konsekvenser. Vem trodde att människors beteende i sociala medier kan få så ödesdigra konsekvenser? Nu vet vi.
         Men vi vet inte var gränserna går för vad som är ett acceptabelt beteende i sociala medier givet olika situationer och givet olika tidpunkter. Kan ett beteende vara acceptabelt när man söker anställning hos en arbetsgivare, men oacceptabelt hos en annan?
         Juridiska gränser för yttranden i sociala medier kan förvisso vara svåra att dra ibland, men de finns åtminstone nedtecknade och kan ges generella tolkningar. Lämplighetsgränser är betydligt svårare att uppfatta, eftersom dessa kan tolkas så väldigt olika.
         Den tredje lärdomen är att det är från extremfallen vi bör lära oss något, eftersom dessa många gånger normaliseras.

tisdag, april 18, 2017

Framtidens datorer skapar egna språk

Kultursidan Västerbottens-Kuriren 170418

Språk och datorer har genom historien alltid hört samman. För att en dator ska kunna utföra operationer och aktiviteter måste den instrueras, vilket görs med olika programspråk, beroende på typ av applikation och aktivitet.

        En annan form av språkutveckling handlar om taligenkänning och talsyntes. Datorprogram tränas att uppfatta och tolka mänskligt tal, från enskilda 0rd till sammansatta meningar. Talsyntes handlar om att datorn tränas i att sätta samman ord till meningar så att vi såväl hör som förstår vad datorn säger.
        Den engelska termen för datorprogram som klarar av både taligenkänning och talsyntes är chatbots. Oxford Dictionary presenterade detta ord som ett av de ord som främst kännetecknar språkåret 2016 (årets ord 2016 blev post-truth). Det dröjer sannolikt inte länge förrän chatbot blir upptaget på den årliga nyordslistan i Sverige.
        På svenska brukar vi även tala om virtuella assistenter eller virtuella agenter som vi kan prata med. Den som använder en iPhonen har kanske talat med den virtuella assistenten Siri. SJ arbetar med en chatbot som ska assistera tågresenärer.
        Med hjälp av avancerade algoritmer och självlärande teknik går IT-jättar som Google, Apple, Microsoft, Amazon och Facebook i bräschen för denna utveckling. Ett väsentligt användningsområde för dessa talande applikationer är kunddialoger och kundstöd i olika företag, för att effektivisera dessa processer.
        Den gemensamma nämnaren för den utbredda forskning och teknikutveckling som pågår inom språk och IT är att det mänskliga språket är den överordnade normen som datorprogram ska dels kunna förstå, dels kunna tala.
        Med denna essä vill jag rikta blicken mot en liten forskningsnisch som avviker från denna gemensamma nämnare. Den övergripande frågan som ställs här är vad som skulle hända om vi låter datorprogram själva uppfinna sina egna språk i kommunikationen med varandra. Är det möjligt? Vilka syften skulle sådan forskning i så fall uppnå?

Vid det amerikanska forskningsinstitutet OpenAI bedrivs forskning med fokus på artificiell intelligens och robotik. I mitten av mars förhandspublicerade Igor Mordatch och Pieter Abbeel en artikel där de redovisar hur de arbetar med att låta virtuella agenter utveckla egna språk, utan att det mänskliga språket står som modell.

        Att träna datorer att efterhärma mänskligt språk ger förvisso ökade möjligheter att kommunicera med datorer, men det ger ingen kunskap om varför ett språk existerar. Ett syfte med denna forskning är att utöka den kunskapen. Inte kunskapen om strukturer inom eller relationer mellan språk, utan språkets funktion. Ett grundläggande antagande är att all kommunikation uppstår av nödvändighet; nöden är kommunikationens moder.
        Forskarna har skapat en enkel virtuell miljö med två virtuella agenter, två chatbots som kan agera självständigt i förhållande till varandra. Dessa agenter är också utrustade med självlärande algoritmer, så att de utan mänsklig inblandning, utan instruktioner självständigt utveckla språkliga färdigheter.
        Dessa virtuella agenter förses med olika enkla uppgifter som de ska utföra tillsammans. Det handlar exempelvis om att de ska förflytta sig från en plats i den virtuella miljön till en annan. Genom att utveckla ett språk ska dessa sedan koordinera sina rörelser så att de kan genomföra uppgiften.
        De virtuella agenterna får en uppsättning symboler till sitt förfogande, men utan förbestämda betydelser, så att agenterna måste skapa sina egna betydelser för symbolerna.
        Den forskning som presenteras i artikeln av Mordatch och Abbeel är i ett väldigt tidigt stadium. Än så länge prövar de möjligheter, snarare än fastställer signifikanta resultat. Ett resultat från denna studie är dock att de virtuella agenterna lyckas kommunicera med varandra med ett eget språk på ett funktionellt sätt, utan instruktioner från någon människa.
        De avslutar artikeln med ledtrådar till framtida studier: Att expandera komplexiteten i de virtuella agenternas språkbyggen och att utöka deras handlingsförmågor. De är även intresserade av att undersöka huruvida dessa agenters kommunikativa strategier kan tillämpas av människor.

Forskarnas syfte är som sagt att förstå hur språk utvecklas utifrån nödvändighet, men utan mänskligt språk som förlaga. Frågan är vilka ytterligare syften som kan uppfyllas med forskning som denna.

        Allt sedan människan började forska om artificiell intelligens har den mänskliga intelligensen fungerat som modell för datorers intelligens. Det klassiska turingtestet, uppkallat efter Alan Turing, den förste AI-forskaren, testade maskiners förmåga att efterhärma människors intelligens. 
        Om en människa kommunicerar med en maskin och inte kan avgöra om det är en maskin eller en människa man kommunicerar med, måste maskinen anses inneha mänsklig, men artificiell intelligens.
        På senare tid syns emellertid en diskussion där en motsatt uppfattning om intelligens förs fram. Med dagens exponentiella utveckling av datorteknik bör vi inte låsa oss vid den mänskliga intelligensen, utan låta datorer utveckla datorintelligens, det vill säga intelligens som utgår från datorernas förutsättningar – inte människans förutsättningar. Därtill är människans förutsättningar alltför begränsade.

Om vi vidgar sammanhanget ytterligare kan vi placera in denna forskning tillsammans med forskning om automatiska system i allmänhet; sociala robotar och självlärande maskiner.

        En farhåga som brukar framhållas kring konsekvenserna av sådan forskning är att människan placerar sig utanför robotarnas beslutsloopar, det vill säga att människan ges allt mindre inflytande över robotars och andra självlärande, automatiska systems beteenden. Robotarna fattar sina beslut oberoende av människan.
        Huruvida detta är en farlig utveckling eller inte är svårt att hysa en bestämd uppfattning om. Om vi går tillbaka till studien av Mordatch och Abbeel och deras språkutvecklande agenter, vet vi i alla fall en sak: Människan har visat att utveckling av språk är en mäktig idé.