Framtidsvisioner i den grå svanens tid

Kultursidan Västerbottens-Kuriren 200616

Den ofta kontroversielle franske författaren Michel Houellebecq kommenterade i fransk radio hur världen skulle te sig efter pandemin: ”Jag tror inte ett dugg på påståendena att ’ingenting kommer att vara sig likt’. Vi kommer inte att vakna upp i en ny värld. Det kommer att vara samma visa, bara lite sämre” (DN 200505). 
        Det är dock inte ett kontroversiellt uttalande, snarare pessimistiskt och konservativt. Pessimistiskt, därför att han saknar tron på människans förmåga att göra sin värld bättre. Konservativt, därför att han uttrycker ett bevarande av sakernas tillstånd före pandemin.
        Tesen för denna essä är den diametralt motsatta. Den kritiske teoretikern Herbert Marcuse formulerar i boken Den endimensionella människan (1968) ett värdefullt analysverktyg: det endimensionella tänkandet. 
        Ett sådant tänkande innebär väsentligen en oförmåga att tänka sig en situation bortom den existerande; att kunna föreställa sig en annan värld, en annan tillvaro, en annan social ordning, en annan ekonomisk struktur. Den endimensionella människan omfattas av detta tänkande. Michel Houellebecq framstår som en endimensionell människa i Marcuses avseende.
        I statsvetaren Benedict Andersons bok Den föreställda gemenskapen (1992) skriver han att det är föreställningen om samhället som kommer att konstituera samhället. Ett exempel från boken är övergången från att samhällen organiserades som religiösa gemenskaper eller dynastier till nationer. Det som möjliggjorde den övergången, menar Anderson, var människors förmåga att föreställa sig, att tänka nationen.
        Av de böcker jag hunnit läsa som har författats under pandemin, det vill säga under de senaste månaderna, är boken Är morgondagen redan här? Hur pandemin förändrar Europa (2020) av den bulgariske statsvetaren Ivan Krastev den mest framåtblickande.

Coronapandemin visar sig vara en ”grå svan-händelse”, inleder Krastev. Trots att vi vet vad en pandemi är och att vi inte kan vara förskonade från sådana, är pandemier exempel på sådant som vi har kunskap om och som i någon mening går att förutsäga, men som ändå förefaller helt otänkbart. Majoriteten av världens svanar är vita, några är svarta, men vi kan inte föreställa oss grå svanar. 
        Dessutom är pandemier så otänkbara att vi har svårt att tänka på dem i efterhand. På frågan vilken 1900-talets största katastrof var, skulle nog de allra flesta svara det andra världskriget. Ändå orsakade spanska sjukan mellan 1918 och 1920 sannolikt fler döda än bägge världskrigen tillsammans.
        Ändå är Krastevs ärende att rådande pandemi kommer att generera genomgripande förändringar i vår värld. Möjligen inte på grund av att det finns någon samsyn i världen kring förändring, utan på grund av att, i kontrast till Houellebecq, det inte finns något sätt att vända tillbaka.
        Antagandet är att när vi nu har utsatts för en grå svan, det mest otänkbara, så är vi kapabla att föreställa oss vad som helst. Så här skriver Krastev (s 24-25): 
        ”Plötsligt kan vi tänka tanken att USA skulle kunna införa ett offentligt sjukförsäkringssystem, Kina passera USA och bli världens mäktigaste land, Rysslands president Vladimir Putin förlora makten, och EU antingen bryta samman eller blir ett ’Europas Förenta Stater’. När flygplanen står kvar på marken och de nedsmutsande storföretagen har stängt sina produktionslinjer börjar klimataktivisterna tro att deras dröm om en värld med låga utsläpp av koldioxid skulle kunna gå i uppfyllelse. Och när gränserna mellan EU:s medlemsstater är stängda funderar högerpopulister på om de någonsin behöver öppnas igen.”
         Det som förut uppfattades som orimligt visar sig, när vi trycker på pausknappen i tillvaron, att det är möjligt. Eller åtminstone kan föreställas som möjligt.

Det är i Europa de främsta förändringarna kommer att ske, hävdar Krastev. När pandemin bröt ut och alla skulle hålla sig hemma, blev det inte enbart en individuell företeelse, utan också nationell. Nationer slöt gränser, de nationella regeringarna blev mycket starkare visavi EU, den fria handeln inom EU visade sig inte så fri (exempelvis inskränkningar av handel med skyddsutrustning mellan EU-länder i pandemins inledning). 
        Utgör åtgärder i form av undantagstillstånd, social isolering och ekonomisk recession ett hot mot den liberala demokratin i Europa, frågar sig Krastev. Det är svårt att svara på. Människor som äger en äkta rädsla för coronaviruset blir mer mottagna för populistiska budskap som försöker inympa att vårt handlingsutrymme är inskränkt och att förutsebarhet och sammanhang måste vara vårt främsta mål. 
        Med andra ord; befästa endimensionalitet hos människor. 
        Det främsta hotet mot demokratin, menar Krastev, är begränsningen av antalet människor som får samlas. En demokrati utan massornas möjligheter att protestera, demonstrera; i ett samhälle där den maximala tillåtna samlingen är 50 personer kan inte demokratin överleva på lång sikt.
        Den liberala demokratin kommer att stå mellan libertarianer som vägrar varje inskränkning i medborgares friheter och suveränitetsförespråkarna som önskar att statens makt stärks. 

Ivan Krastev avslutar boken med ett antal framåtsyftande paradoxer. En paradox är att coronaviruset visar på globaliseringens baksida samtidigt som viruset utgör ett bidrag till globalisering. Baksida, därför att virusets spridning möjliggjordes genom människor storskaliga globala resande. Bidrag, därför att världen har synkroniserats och fört människor samman på ett sätt vi inte sett förut. 
        Framtidens globalisering kommer att vara idealistisk snarare än materiell. Vi kommer att vara mindre globalt rörliga, men mer universalistiska i vårt tänkande. Det är förhoppningen. Och Krastev avslutar boken med hänvisningen till historiens störste kosmopolit, filosofen Immanuel Kant.
        Kant lämnade aldrig sin hemstad Königsberg, men ägde det mest universella tänkandet.

Slumpen övertrumfar AI-tekniken

Kultursidan Västerbottens-Kuriren 200505

Det florerar mycket förhoppningar kring AI-teknikens kapacitet. Realistiska bedömningar blandas med utopiska önskningar och visionära scenarier. I en presentation framställde AI-forskaren Arvind Narayanan vid Princeton University en lägesbeskrivning av vad dagens AI-teknik kan och inte kan i tre områden. Och därmed vilka förhoppningar som är realistiska i dag.
       Det första området utgörs av AI-teknik fungerar bra och utvecklas relativt snabbt och handlar om teknikens perceptionsförmåga. Med AI-teknik utvecklas allt bättre tjänster för musik- och bildigenkänning. I dag kan jag skriva sökordet ”mat” i mitt digitala bildbibliotek och datorn hittar alla bilder på mat som jag lagrat där.
       Flera studier visar att AI-teknik är bra och blir allt bättre på att tolka medicinska bilder, exempelvis röntgenbilder, för att bidra till säkrare diagnoser. Ett annat exempel är ansiktsigenkänning, som är ett hett och eftertraktat användningsområde för AI-teknik. Liksom deep fake, djupa förfalskningar, där människor kan förfalskas i videoklipp. Även konvertering av tal till text och omvänt är AI-baserad teknik som blir allt bättre.

Det andra området utgörs av AI-teknik som inte fungerar perfekt, men som utvecklas hela tiden och handlar om teknikens automatiska bedömningsförmåga. På bara några år har förmågan att bedöma vad som är spam i mejl eller annan textkommunikation förbättrats mycket, utan att för den skull kunna identifiera allt. Med liknande teknik försöker man bli allt bättre på att upptäcka hate speech, hatpropaganda, i till exempel sociala medier.
       Även när det gäller att upptäcka upphovsrättsintrång försöker man utveckla bättre AI-teknik, liksom AI-teknik för att bedöma uppsatser som skrivs av elever och studenter. Ett sista exempel inom detta område är olika former av AI-baserade rekommendationssystem för digitalt innehåll, som exempelvis film och musik.
       Det tredje området utgörs av AI-teknik som fungerar ytterst tveksamt, men som många har stora förhoppningar kring. Det handlar om teknikens förmåga att förutse sociala resultat eller social utveckling. Ett exempel: Kan AI-teknik, givet en stor mängd historiska data om en person, förutse risken att denne person ska bli kriminell? Eller lyckas i arbetslivet? Eller hamna i drogproblem?
       Nej, svarar Arvind Narayanan. Att förutse återfall i kriminalitet, succé i arbetslivet, människors framtida brottsbenägenhet eller risk för terroristhandlingar är inte något vi ska lita till beträffande dagens AI-teknik. Så deterministiska och förutsägbara är inte människor. Inte heller kan AI-teknik förutse om barn kan komma att vara i riskzonen för sociala svårigheter i framtiden.

Det sistnämnda området har studerats i ett stort forskningsprojekt nyligen, som publicerats i tidskriften PNAS (200330). Frågan som man sökte svar på är ”Hur förutsägbara är sociala livsbanor?”. Om AI-teknik kan generera säkra prediktioner så vore det värdefullt för exempelvis att tidigt kunna identifiera och stödja barn och familjer som riskerar hamna i sociala svårigheter i framtiden.
       Syftet med studien är att undersöka hur väl AI-teknik med maskininlärningsmetoder kan skapa säkra prediktioner för människors framtida liv i vissa avseenden. Projektet genomförde en utvärdering av hur väl AI-baserad prediktionsteknik fungerar, helt enkelt.
       Metoden i projektet kallas ”mass collaboration”, massamarbete. Den innebär att man formulerar i detta fallet en prediktionsuppgift, tillhandahåller en specifik datamängd och bjuder in många forskare och forskargrupper att utföra samma uppgift med samma datamängd, men med valfria metoder. Därefter återrapporterar alla sina resultat för sammanställning och analys.
       160 forskare eller grupper av forskare antogs till projektet. I USA finns en databas med data om ett stort antal familjer som har följts under ett antal år, med början år 2000. För denna studie användes data från 4 242 familjer med närmare 13 000 variabler för varje familj.
       Med data om de barn som fötts och växt upp i dessa familjer skulle de 160 forskarna med de bästa prediktionsmodeller de har, generera förutsägelser om dessa barns livsbana i sex olika avseenden.

Forskarna fick data om barnen i åldrarna ett till nio år för att göra förutsägelser om barnens livssituation i femtonårsåldern. I databasen finns också denna data om barnens tonårsliv, så att det är möjligt att kontrollera hur väl forskarnas förutsägelser stämmer med faktiska förhållanden.
       När resultaten från de 160 forskarna hade samlats in, mättes förutsägelsernas precision mot faktiska data. Det visar sig att inte ens de bästa förutsägelserna var särskilt exakta. Trots att forskarna hade använt en stor datamängd om barnen och olika men avancerade maskininlärningsmetoder, var många resultat inte bättre än prognostiseringar med enklare statistiska metoder.
       Det är också noterbart att oberoende av vilka olika maskininlärningsmetoder som forskarna tillämpade, var de förutsägelser som genererades relativt lika varandra. Skillnaden mellan den sämsta och den bästa förutsägelsen var inte särskilt stor och dessutom mindre än skillnaden mellan det faktiska utfallet och den bästa förutsägelsen.

På en generell nivå visar detta stora forskningsprojekt att AI-teknik inte har förmåga att förutsäga människors livsbana.
       Det behöver emellertid inte bero på kvaliteten hos vare sig datamängder, tekniker eller modeller, utan helt enkelt på att slumpen har en stor betydelse för vad som händer i människors liv. Rent anekdotiskt kan vi också reflektera över de större livsförändringar som vi har upplevt. Hur väl skulle dessa ha kunnat förutses?
       Resultatet från detta forskningsprojekt borde intressera varje politiker och annan beslutsfattare som använder eller överväger att använda AI-teknik för prediktion inom exempelvis kriminalvård och skyddsvård för barn och utsatta familjer eller andra sociala verksamheter. 

Florence Nightingale banade väg för AI i vården

Kultursidan Västerbottens-Kuriren 200211

Inom den offentliga sektorn har de senaste decennierna höjts synnerligen kritiska röster kring införandet av New Public Management. Det är, något förenklat, en form av resultatorienterad organisationsstyrning som utgår från att verksamheter kan och bör effektiviseras med hjälp av mätbara prestationer och utvärderingar.
        En effekt av denna styrform är att kraven på dokumentation av olika aktiviteter ökar för att kunna mäta och öka effektiviteten. Kritiken mot ökad administration och dokumentation  hörs från många håll, exempelvis lärare som måste använda tid till dokumentation i stället för undervisning.
        Kritiken hörs även från vårdsektorn. I Läkartidningen (190703) presenteras en konsultrapport där man har mätt läkares användning av sin arbetstid för olika arbetsuppgifter. 1 228 läkare har besvarat en enkät, där läkarna fick själv skatta hur deras arbetstid fördelades.
        Rapporten visar att läkare lägger i genomsnitt 19 procent av sin arbetstid på administration och dokumentation. Det kan uppfattas som tid som stjäls från patienterna. Med mindre dokumentationsbörda skulle läkare kunna träffa, diagnostisera och behandla fler patienter.
         Tesen för denna essä är emellertid att vad vården och framtidens patienter behöver är mer och tillgängligare dokumentation av patientdata.
         Vilken yrkeskategori som ska utföra dokumentationsarbetet är en annan, organisatorisk, fråga. Det är sannolikt inte alltid läkare som behöver dokumentera patientdata. Vårdadministratörer, sjuksköterskor och läkarassistenter som bistår läkare med olika uppgifter kan utföra dokumentationsarbete. 

Varför pläderar jag för mer och tillgängligare patientdata? Ju mer teknik i form av artificiell intelligens hittar tillämpningsområden i vården, desto mer behöver denna teknik stora mängder data med hög kvalitet för att kunna utföra sina uppgifter. I dag är användning av AI i den svenska vården relativt begränsad, enligt en rapport från Socialstyrelsen som presenteras i Läkartidningen (191031).
         Däremot bedrivs mycket positiv forskning om AI i vårdsammanhang, vilket antyder att det bara är en tidsfråga innan AI-teknik blir allt vanligare inslag i läkares och annan vårdpersonals verktygslåda.
        Den vårdrelaterade AI-forskning som syns mycket är AI-maskiner som lär sig att granska olika typer av röntgenbilder. Det är inte så konstigt; bild- och mönsterigenkänning är ett stort forskningsfält inom AI även utanför vårdsektorn. Ansiktsigenkänning och självkörande bilars objektdetektionsteknik är bara två exempel.
         I tidskriften Nature (200101) presenterar ett forskarlag en studie, där de har tränat ett AI-system att upptäcka bröstcancer utifrån mammografibilder. Att tolka dessa bilder är inte trivialt, även för tränade läkare och radiologer.
         AI-systemet matades med närmare 30 000 mammografibilder, där bedömningar redan gjorts av läkare. Det visar sig att AI-systemet kunde upptäcka fler fall av cancer än läkarna kunde. Exempelvis kunde AI-systemet minska andelen falska negativa resultat med 9,4 procent, det vill säga resultat som inte upptäckt cancer där det förekommer cancer.
         AI-systemet kunde alltså upptäcka fler cancerfall än läkarna. Men det förekom även cancerupptäckter från läkare som AI-systemet inte upptäckte. Det leder till en av mina ständiga käpphästar: det är samarbetet mellan en yrkesprofessionell och AI-teknik som är det väsentliga, inte någon form av strikt arbetsdelning.  AI skulle emellertid kunna användas till så mycket mer än att tolka röntgenbilder. 

Den förträffliga boken AIQ. Hur artificiell intelligens fungerar av Nick Polson och James Scott (Daidalos, 2019) besvarar ett flertal frågor som ger grundläggande kunskaper om AI.         Hur fungerar algoritmerna hos medieplattformar som exempelvis Netflix och hur används de? Hur fungerar algoritmer för mönster- och bildigenkänning? Hur fungerar självkörande bilars algoritmer för att styra och positionsbestämma rörliga fordon? Hur lär sig datorer naturligt, mänskligt språk? Hur används AI för att spåra bedrägligt beteende i digitala miljöer?
        Dessutom, med avseende på denna essä: Hur kan AI användas inom sjukvården för att effektivisera behandling och förutse sjukdomsutveckling? Polson och Scott börjar med Florence Nightingale på 1800-talet. Hennes förtjänster för sjuksköterskeyrket kan knappast överskattas. Men ännu viktigare är hennes pionjärinsatser för vårdstatistik och patientdata. 
        I sitt arbete inledde hon vad som i dag är medicinsk dataforskning och de sjukdomsklassificeringssystem som är oundgängliga inom exempelvis epidemiologin.        Polson och Scott exemplifierar med ett patientfall. En frekvent vårdsökande patient med flertalet symptom (diabetes, hjärtsvikt, njurproblem med mera) skulle kunnat räddats, om tillräcklig patientdata fanns dokumenterad och tillgänglig för ett AI-system, dels från patienten själv, dels från tusentals andra patienter.
        Med sådan teknik kan man skapa patientvård utanför vården, så att säga. Generellt är vårdpersonal fokuserad på nuet, patientens tillstånd vid själva vårdbesöket (visst, man tar ofta också anamnes). Men med stora mängder patientdata skulle även patienters sjukdomsutveckling och framtida sjukdomstillstånd förutsägas med hjälp av maskininlärningsteknik.  

Det låter enkelt. Ett väsentligt problem är enkel tillgång till patientdata. Ju mer vården privatiseras, desto större svårighet att få tillgång till patientdata. I USA tenderar privata vårdgivare att betrakta patientdata närmast som affärshemligheter.
         Ett annat problem är bristande standarder. Olika journalsystem och andra patientdatasystem är inte nödvändigtvis kompatibla så att data kan överföras mellan olika system. Ett tredje problem berör naturligtigvis integritetsfrågor. Patientdata är något av det integritetskänsligaste som finns.
        Men icke desto mindre håller jag för sannolikt att inom en snar framtid kommer vi att vilja rädda liv med hjälp av AI-teknik i vården. Frågan är bara om vi är organisatoriskt beredda. 

Den tredje AI-vågen. Essäer om AI, samhället och individen.

Jag har publicerat mina texter kring artificiell intelligens från de senaste åren i  boken "Den tredje AI-vågen". Boken finns självfallet för fri nedladdning. Boken finns även att köpa på Adlibris, Bokus, CDON och Amazon.

Den tredje AI-vågen är en samling essäer där Per-Olof Ågren gör ett antal nedslag i AI-landskapet från dels ett samhällsperspektiv, dels ett individperspektiv. 

AI-teknikens effekter och påverkan på demokratiska processer, medial utveckling och behov av förändrad utbildning är exempel på samhällsperspektiv på AI. 

Människans relation till AI-teknik i form av en utveckling av förmågan att uppfatta varandra och varandras intelligens samt samarbetsförmåga är exempel på individperspektiv på AI.

Konsten att styra din chef – även när hen är en algoritm

Kultursidan Västerbottens-Kuriren 191112

När jag erhöll min tjänst som universitetslärare för snart tre decennier sedan, fick jag av min dåvarande chef en artikel att läsa som en form av introduktion. Artikeln har rubriken Managing Your Boss, skriven av John Gabarro och John Kotter, publicerad i Harvard Business Review 1980. Den ansågs så betydelsefull att samma tidskrift beslöt att återpublicera artikeln 2005.
       Till en chefs generella uppgifter hör att ha ett övergripande ansvar för en verksamhet, att leda och fördela arbetet, att ge de underordnade rimliga förutsättningar för arbetets utförande samt att utöva kontroll över arbetets resultat.
        En sådan beskrivning av chefers uppgifter uppfattas lätt som en envägsprocess uppifrån och ner; från chef till underordnad. Gabarro och Kotter vände på denna process för att betona betydelsen av att underordnade också leder sina chefer. Den vändningen bröt med den rådande uppfattningen.
        Med olika fallstudier visade Gabaro och Kotter hur misstag i organisationer inte enbart beror på dåligt chefs- och ledarskap, utan på frånvaro av anställdas ledning av sin chef. Precis som en anställd behöver en chef i olika situationer, är varje chef beroende av sina underordnades ärlighet, tillit och samarbete.
        Som anställd vinner man på att försöka förstå sin chef och den kontext hen är chef inom, både chefens relation uppåt och nedåt i organisationen. Inte enbart den formella sidan av chefskapet, utan även chefen som människa; dennes styrkor och svagheter, inre drivkrafter och yttre press samt chefens blinda fläckar.
        I dag är diskursen som betonar chefens och ledarskapets betydelse för anställdas arbetstillfredsställelse och arbetsplatsens välmående stark. Särskilt när vi talar om stress och annan arbetsrelaterad ohälsa. Den starka betoningen på chefens roll riskerar emellertid dölja den arbetstagarroll som Gabarro och Kotter ville stärka. Men för att leda och styra sin chef, måste chefen ge utrymmet och uppmuntran att leda denne.

Ärendet för denna essä handlar om det som på engelska benämns algorithmic management. På svenska: algoritmisk ledning och styrning. Tesen är att allt fler arbetstagare kommer att ledas och styras i sitt arbete av AI-teknik i form av algoritmer som leder och fördelar arbetet samt kontrollerar resultatet av arbetets utförande.
        Vi ser redan i dag tydliga exempel på algoritmiskt chefskap. Forskarna Mareike Möhlmann och Ola Henfridsson skriver en artikel, också i Harvard Business Review (190830), om en stor studie av Uberförare och hur dessas arbete leds och styrs av algoritmer.
        Uber är en reseförmedlingstjänst som finns i de flesta större städer i hela världen, vars affärsidé är att inte äga några bilar eller ha några anställda chaufförer, utan leverera köruppdrag till frilansande förare. Dessa köruppdrag bestäms av olika algoritmer i Ubers plattform; vem som får en viss körning, priset för resan samt vilken reserutt föraren måste köra.
        I samarbete med två andra forskare, studerade Möhlmann och Henfridsson Uberchaufförer i London och New York genom att intervjua förare, observera dem under köruppdragen, analysera olika nätforum för Uberförare samt analysera mediebevakningen av Uber.

Uberförare avskyr i tre väsentliga avseenden att ledas och styras av algoritmer. Den första avskyn gäller den konstanta övervakningen. Så fort en Uberförare loggar in på Uberappen för att kunna få uppdrag, övervakas och granskas förarna in i minsta detalj. Via gps-teknik vet algoritmerna var förarna befinner sig, algoritmerna avgör vilken Uberförare som ska få ett visst köruppdrag samt vilken rutt som föraren måste ta.
        Om föraren exempelvis väljer en annan rutt än algoritmerna bestämt, kan föraren bli bestraffad och i värsta fall bannlyst som förare vid Uber. Särskilt frustrerande upplever förarna att ständigt bli utvärderade av kunderna, då utvärderingarna ligger till grund för algoritmernas val av förare till uppdragen.
        Den andra avskyn handlar om bristen på transparens. Uberappens algoritmer lär sig hela tiden allt mer om varje förare, medan förarna vet inget om algoritmerna, hur de är uppbyggda, vilka beslutskriterier som används, vilken betydelse utvärderingarna har och logiken bakom algoritmernas beslut – det vill säga rationaliteten bakom algoritmernas ledning och styrning av arbetet.
        Den tredje avskyn benämner Möhlmann och Henfridsson som dehumanisering. Förarna upplever isolering; de har inga kollegor att vara sociala med, inga sociala grupperingar att tillhöra. Förarna saknar även möjligheten att bygga upp någon form av en relation med en chef.
        Förarna kanaliserar sin frustration av att styras av algoritmer genom att bli politiska; genom att gå samman i olika forum för att diskutera sina problem och olika sätt att påverka sin situation: En form av fackförening för denna form av uppdragstagare.

Oavsett om företaget heter Uber eller något annat, formulerar Möhlmann och Henfridsson fyra förslag till företag som använder sig av algoritmiskt chefskap. Det första förslaget är att dela information om hur algoritmerna är uppbyggda, så att arbetstagarna förstår rationaliteten bakom algoritmernas beslut.
        Det andra förslaget är att välkomna återkoppling från förarna till algoritmernas utformning. Det tredje förslaget är att bygga in mänskliga kontakter i förarnas arbetssituation, så att algoritmen inte är den enda kontaktytan.
        Det fjärde förslaget är att skapa tillit till företaget i form av förmåner som normalt tillkommer anställda; exempelvis sjuk- och föräldraförsäkring.

Det finns god anledning att applicera Gabarro och Kotters studier från 80-talet på arbetsplatser med algoritmiskt chefskap. Vad Uberförarna saknar är möjligheten att leda och styra sin chef, eftersom algoritmerna inte är kommunikativa eller påverkbara.
        Vad algoritmerna i sin chefsroll går miste om är viktig information från förarna som kan förbättra algoritmernas olika beslut och hur förarnas kommunikation och relation till sina chefer ska kunna utvecklas.

Karaktären gör AI-tekniken genomskinlig

Kultursidan Västerbottens-Kuriren 180410

Det har skrivits spaltmil om vad som hände i relationen mellan Facebook och Cambridge Analytica. Denna essä ska inte öka dessa textmassor, utan lyfta en generell fråga ur dessa spaltmil och försöka förstå hur vi bör hantera den i en nära framtid.
         Redan på 1990-talet började vi ställa frågan hur vi bör utvidga vår förståelse för datorn som teknisk artefakt. Det räckte inte att inte enbart förstå datorns generella tekniska funktionalitet, det vill säga hur datorn löser sina problem. Inte heller att enbart förstå hur olika programvaror fungerar, det vill säga hur datorn kan lösa mina problem.
         Man frågade sig bland annat hur olika datorsimuleringar fungerade; hur olika manipulerbara modeller byggdes för att simulera olika planeringsprocesser, designprocesser, ekonomiska processer och liknande.
         Det talades om en simuleringskultur, där det var av största vikt att kunna ”läsa” simuleringar. Med det avsågs att förstå vilka antaganden och värderingar som fanns inbyggda i olika manipulerbara modeller, som användes som beslutsunderlag i olika verksamheter.

                     

På en generell nivå lyfts samma fråga i affären Facebook vs Cambridge Analytica. Inte enbart Facebook, utan alla sociala och andra medieaktörer som agerar på internet måste öka sin transparens; visa med större genomskinlighet vilka personuppgifter som samlas in, lagras och används av dem själva eller av någon annan aktör.
         Det är lätt att skapa transparens för ett statiskt innehåll eller för statiska processer. Inom en snar framtid kommer emellertid allt fler tekniska system att vara självlärande och adaptiva. Vi har sett dessa tendenser en tid; Google, Facebook, Netflix med flera går i bräschen för att deras algoritmer hela tiden ska anpassa sig efter den enskilde användarens beteende.
         Googles sökresultat anpassas efter användarens sökbeteende, Facebooks annonser utformas utifrån användarens intressen, Netflix filmtips utgår från tittarens tidigare konsumtion. Allt fler tekniska system bygger in adaptiva förmågor.
         Om det vi vill kunna se i transparenta tekniska system är statt i ständig förändring, i det att systemens omgivning förändrar systemens beteende, måste vi skapa en ny föreställning om hur vi uppnår transparens.
         Frågan för denna essä är hur vi ska designa transparens i AI-baserad, självlärande teknik när tekniken hela tiden anpassar sina algoritmer och därmed sitt beteende utifrån den omgivning tekniken verkar inom.

Varför är transparens viktig? Det främsta syftet med transparens är att skapa förutsebarhet; att uppfatta både hur teknik kommer att agera i olika situationer och vilka konsekvenser våra interaktioner med teknik får.
         Jag föreslår att använda begreppen roll och karaktär för att förstå transparens. Tidigare har vi uppnått transparens genom att ge tydliga roller till olika programvaror. Vi vet vad vi kan förvänta oss av ordbehandlingsprogram, kalkylprogram, mejlprogram, webbläsare och liknande. Om vi vill uppnå transparens till adaptiva, självlärande tekniska system, kan vi överväga att utveckla dessa systems karaktär, eftersom rollerna är stadda i förändring.
         Socialpsykologen Johan Asplund har rett ut begreppen roll och karaktär för oss människor i boken Det sociala livets elementära former (Korpen). Med begreppet roll avses att krav, riktlinjer och förutsättningarna för en människas agerande är givna; skrivna av någon annan med syftet att vara stabila över tid. Den som agerar i en viss roll är därmed förutsebar.
         Med karaktär avses att människan själv utformar och bestämmer restriktionerna för sitt handlande utifrån såväl sitt omdöme, som de situationer människan kastas ut i.

                     

Vad vi ser med framtidens självlärande AI-system är att de ges utrymme att inte enbart agera utifrån det manus som någon har skrivit (läs: programkod), utan att dessa AI-system också i högre grad får bestämma sina egna restriktioner för sitt handlande (läs: skapa ny programkod).
         Det innebär, med Johan Asplunds begrepp, att AI-system successivt går från att vara en abstrakt teknik som agerar helt instrumentellt, till att bli en konkret aktör som själv ges utrymme att forma sitt agerande.
         Vi kan reflektera över hur vi förutser en människas handlingar. Ta läraryrket som exempel. Alla lärare har självfallet en roll som de måste agera inom; de regler och restriktioner som är föreskrivna av skollagar, läroplaner och lokala föreskrifter.

         Om alla lärare enbart skulle agera som rollinnehavare, skulle alla lärare vara lika varandra. Så är inte fallet. Lärare vi haft och lärare vi känner, är alla olika, trots att de agerar inom likartade roller. Olikheter består i att de har utvecklat sina karaktärer på olika sätt.

         Studenter som läser en kurs med en viss lärare kan med största sannolikhet förutse olika handlingar som inte beror på de regelverk läraren är skyldig att efterleva, utan som beror på de karaktärsdrag läraren har utvecklat. Det är i högre grad lärarens karaktär som gör denne transparent än den rollbeskrivning läraren har att följa.
         Vill vi ha förutsebara AI-system i framtiden, kan karaktärsutveckling vara en fruktbar designinriktning. Det är i karaktärsdragen adaptiva AI-system blir förutsebara.

Alan Turing framlade de idémässiga grunderna för artificiell intelligens. Med det så kallade Turingtestet skulle man kunna avgöra om man lyckats skapa artificiell intelligens.
         Om man interagerar med en maskin och inte kan uppfatta om det är en maskin eller en människa har maskinen mänsklig, artificiell intelligens. Artificiell intelligens har alltid uppfattats som mänskligt efterliknad intelligens.
         Ett helt annat tankespår skulle vara att skapa maskinintelligens som inte har mänsklig intelligens eller mänskligt beteende som förebild. Men då måste vi skapa ett helt annat sätt att se igenom maskinerna.
         En fördel med att efterlikna mänsklig intelligens och beteende är igenkänning; vi vet mycket om människans intelligens och beteende. Om maskinintelligens utan mänsklig förlaga vet vi inte mycket. 

Djupa förfalskningar större hot än falska nyheter

Kultursidan Västerbottens-Kuriren 180227

Valåret 2018 har inletts. Det märks inte främst på en ökad mängd politiska utspel än så länge, utan på att samhället försöker förbereda sig på olika hotbilder mot valet. På SVT:s nyhetssajt listas de fyra främsta hoten mot valet 2018. 
       Ett hot är påverkan från främmande makt. Med erfarenheter från val i andra länder kan det inte uteslutas att någon främmande makt försöker påverka valet i något avseende.
        Ett annat är hot mot politiker. Ju mer polariserad den politiska debatten blir, desto mer ökar risken för hot och våld mot politiker.
        Ett tredje är extrema politiska rörelser, såväl till höger som till vänster, som i sina extremaste uttryck kan utgöra brottslighet.
        Det fjärde är falska nyheter i sociala medier, där en väsentlig anledning till att skapa och sprida falska nyheter är att förstärka politiska motsättningar som i sin tur försvagar demokratin.
        För att motverka det fjärde hotet – spridning av falska nyheter – har fyra stora medieaktörer gått samman för ett samarbete mot spridning av falska nyheter. Det är initialt Dagens Nyheter Svenska Dagbladet, Sveriges Radio och Sveriges Television som kommer att arbeta enligt gemensamma principer för att faktagranska påståenden i sociala medier och presentera materialet på en gemensam webbplats.
        Fler medieaktörer är välkomna under förutsättning att de arbetar efter samma riktlinjer. Projektet understöds ekonomiskt till viss del av Vinnova, Sveriges innovationsmyndighet, som ger ekonomiska bidrag till innovations- och forskningsprojekt.

Denna essä berör detta fjärde hot. I vilken utsträckning förekommer falska nyheter? Vilken spridning får de? Vilken påverkan har falska nyheter på människor? Alldeles nyligen har studier publicerats kring förekomsten av falska nyheter dels i anslutning till presidentvalet i USA 2016, dels i några europeiska länder.
        Tre amerikanska statsvetare publicerade i januari 2018 en studie som ger en första bild av konsumtionen av falska nyheter i samband med presidentvalet i USA 2016. De analyserade ett representativt urval om 2 525 anonyma amerikaners trafikdata på webben.
        Forskarna uppskattar att ungefär 25 procent av amerikanerna besökte någon gång en webbplats som publicerar falska nyheter. Dock var en majoritet av dessa webbplatser förespråkare för Donald Trump och följaktligen var webbplatsernas besökare främst Trumpanhängare. 60 procent av alla besök på webbplatser med falska nyheter gjordes av de 10 procent amerikaner med den ”mest konservativa informationsdieten”, som forskarna uttrycker det. Räckvidden är således inte särskilt stor för falska nyheter.
        Studien visar också att äldre amerikaner, över 60 år, var betydligt mer benägna att besöka webbplatser med falska nyheter, än yngre amerikaner. I rapporten slås också fast den stora betydelse Facebook har för att rikta amerikaners uppmärksamhet till falska nyheter.
        Forskarna har enbart studerat falska nyheter som publiceras på webbplatser. Ytterligare studier kommer med största sannolikhet även att göras på andra sociala medier. Där tänker jag främst på Twitter, där möjligheten att skapa så kallade botar som automatiskt kan sprida desinformation är stor.

En liknande studie som den ovanstående har gjorts i Europa, av fyra medieforskare vid Oxford universitet. I denna studie mäts vilken räckvidd falska nyheter har i Frankrike och Italien. 300 webbplatser som publicerar falska nyheter har jämförts med stora nyhetswebbar såsom Le Figaro i Frankrike och La Repubblica i Italien.
        Under 2017 besöktes ingen av webbplatserna med falska nyheter i genomsnitt av mer än en procent per månad av den uppkopplade befolkningen i såväl Frankrike som Italien. Det ska jämföras med Le Figaro, som i genomsnitt per månad når 22,3 procent, respektive La Repubblica, som når 50,9 procent av den uppkopplade befolkningen.
        Forskarna mätte även hur lång tid besökare uppehöll sig på de olika webbplatserna. De mest populära webbplatserna för falska nyheter i Italien besöktes i genomsnitt under 7,5 miljoner minuter per månad och i Frankrike var motsvarande siffra 10 miljoner minuter.
        Även här jämför forskarna dessa mått med den tid besökare uppehåller sig vid etablerade nyhetswebbar. På Le Mondes webbplats spenderade användare i genomsnitt 178 miljoner minuter per månad och motsvarande siffra för La Repubblica var 443 miljoner minuter.

Vad dessa två studier sammantaget visar är att det finns många webbplatser som sprider falska nyheter i USA och i Europa, men att falska nyheter har låg spridning och dessutom till en liten del av befolkningen.
        Det är naturligtvis intressanta resultat. Vad studierna inte säger något om, däremot, är utvecklingen över tid. Minskar eller ökar falska nyheter i omfattning? Minskar eller ökar andelen människor som tar del av falska nyheter? Och framför allt: Övertygas de människor som tar del av falska nyheter om att de är korrekta?
        Vi bör inte låta dessa studier invagga oss falsk säkerhet. De som formulerar och sprider falska nyheter utvecklar med största sannolikhet sin kompetens att göra detta.

Ett hot mot demokratin som hittills inte talats så mycket om, förrän Computer Sweden nyligen skrev om det, är deep fake. Det kan översättas med djupa förfalskningar. Någon har lyckats skapa ett självlärande AI-program som kan byta ut en person mot en annan i ett filmklipp med bra resultat.
        Programmet behöver 500-1 000 olika bilder på en person i olika vinklar för att programmet ska kunna byta ut denne person mot en annan person i ett filmklipp, så att det ser ut som den falske personen uttrycker det den utbytte personen säger.
        Snart kan vi alltså se en politiker göra falska påståenden utan att vi enkelt kan se att politikern ersatt en annan person och dennes uttalanden.
        Kombinationen av deep fake och falska nyheter ter sig mer skrämmande än enbart falska nyheter, eftersom här läggs till en retorisk styrka i form av en till synes autentisk person som hävdar osanningar.
        Deep fake utmanar de medieaktörer som arbetar för att motverka falska nyheter ytterligare.

Flytande intelligens och intelligenta maskiner

Kultursidan Västerbottens-Kuriren 180123

Nyligen publicerades en studie av James Flynn och Michael Shayer i tidskriften Intelligence, där de visar att intelligenskvoten (IQ) sjunker i de nordiska länderna. Det är ett trendbrott. Några orsaker till denna nedgång formuleras inte, även om debattörer gärna pekar på problem i skolans undervisning och på ökad migration som tänkbara förklaringar till nedgången.
         Samtidigt har idén om IQ som det allenarådande måttet på intelligens ifrågasatts från många håll. Daniel Goleman skrev redan 1995 boken Känslans intelligens, och banade med den vägen mot en diskussion om begreppet EQ: emotionell intelligens. I dess kölvatten har andra intelligensbegrepp formulerats: Holistisk intelligens (HQ), social intelligens (SQ).
         Psykologen Howard Gardner blev känd för att formulera nio olika intelligenstyper: Logisk-matematisk, lingvistisk, spatial/visuell, musikalisk, kroppslig, social, självkännedom, existensiell samt naturintelligens.
         Kvaliteten med det traditionella IQ-begreppet är att det under lång tid har utvecklats mätmetoder. Och omvänt, kritiken mot de andra intelligenstyperna är att de är svårare att mäta. Och i en kultur där mätning och jämförelse är det högsta, befäster naturligtvis det som lättast låter sig mätas sin ställning.
         Trots detta vill jag försöka diskutera ytterligare former av intelligens. Tesen för denna essä är att vi behöver inleda en diskussion kring vilken slags intelligens, vilka kunskaper och förmågor, vi behöver för att kunna skapa ett kvalificerat samarbete mellan människor och intelligenta maskiner i framtiden.

I deras nya bok Machine, Platform, Cr0wd (2017) argumenterar Andrew McAfee och Erik Brynjolfsson för att människor och maskiner måste bli bättre på att arbeta tillsammans.
         I takt med att datorer kan hantera allt större datamängder, att datorers artificiella intelligens ökar med allt mer kvalificerade algoritmer och att datorer i allt högre grad blir självlärande, måste människors kapaciteter anpassas till denna tekniska förändring.
         Det optimala är inte intelligenta maskiner som gör vårt jobb, eller att vi fortsätter utföra uppgifter som maskiner kan utföra bättre – det optimala är att skapa det goda samarbetet mellan människa och maskin.
         Brynjolfsson och McAfee menar att människans främsta förmågor fortfarande överträffar datorers: intuition, kreativitet, omdömesförmåga och, vill jag tillägga, förmågan att formulera värdebaserade mål för olika verksamheter.

I boken Liv 3.0 närmast postulerar den svenske fysikern Max Tegmark att maskiner inte kan ha några mål med vad helst de gör. Vi kan däremot alltid implementera mål i maskiner som de ska uppnå, men maskiner kan inte själva avgöra vilka mål som är goda eller lämpliga.
         I sin framtidsdiskussion skiljer emellertid Tegmark mellan ”vänlig AI” och ”superintelligent AI”. Med ”vänlig AI” menar han att vi konstruerar maskiner vars målinriktade handlande är helt anpassat till människors mål. Med ”superintelligent AI” avses maskiner med potentiell kapacitet att formulera egna mål och därmed kontrollera människan.
         Från att under lång tid uppfattat vår relation till datorer som fast, där datorer är kontrollerbara verktyg, är det inte otänkbart att vår relation till datorer blir allt mer flytande.

Begreppet flytande är helt i sociologen Zygmunt Baumans anda. Bauman var en synnerligen produktiv sociolog som gick bort 2017. Under slutet av 1900-talet utforskade han samhället genom postmodernismens glasögon. Under 2000-talet kastade han ut det postmoderna och ersatte det med begreppet flytande, för att förstå det nya milleniets samhällsutveckling.
         Han inledde med boken Liquid Modernity, där han menar att ett flytande samhälle karakteriseras av avregleringar och privatiseringar, av att allt som tidigare föreföll fast i givna strukturer nu flyter i en värld av kommersiella aktörer på en konkurrensutsatt marknad.
         Därmed, menade han i boken Liquid Life, blir ett flytande liv i ett flytande samhälle allt mer osäkert och oförutsägbart. Förmågor i dag kan vara oförmågor i morgon. Erfarenheter har ett bäst-före-datum, även om det inte går att förutsäga detta datum.
         Privatlivet smittas, skriver han i Liquid Love, av den ständiga rörelsen, genom att kärleksförhållanden får allt svagare band; svagare förpliktelser, svagare löften. Kärleken flyter så lätt i väg, när dess båtshakar inte har något fast att kroka i.
         Med ett sista exempel har Bauman även tagit den flytande metaforen till människans inre psykologi. I boken Liquid Fear pekar han på de rädslor som människor upplever i ett flytande samhälle, där trygghetsskapande element försvinner eller luckras upp. Organisering, rutinmässighet och förutsägbarhet är sådana element. Flytande rädsla är rädslan för de faror som inte kan förutses eller kalkyleras eller ens uppfattas.

För att bli skicklig på att utföra uppgifter i samarbete med intelligenta maskiner föreslår jag att vi tar upp tråden kring flytande intelligens. Redan på 1960-talet formulerade Raymond Cattell två intelligenstyper: kristalliserad och flytande intelligens.
         Med kristalliserad intelligens avsågs förmågan att använda tidigare förvärvad kunskap och erfarenhet för att lösa problem. Med flytande intelligens avsåg Cattell förmågan att förstå uppkomna situationer oberoende av tidigare kunskap och erfarenhet samt att kunna lösa problem i sådana situationer.
         I ett samhälle där allt mer flyter, och där maskiners intelligens utvecklas i högt tempo, skulle en flytande intelligens kunna bli mer önskvärd. I en tillvaro där vi allt mer kan lämna informationslagring och -bearbetning samt logisk slutledning till maskiner, bör vårt bidrag vara något annat.
         Kan vårt bidrag vara förmågan att skapa nya former av samarbeten med intelligenta maskiner, med samarbetsformer som vi inte tidigare har känt till?
         Bör vi i så fall försöka utveckla människors flytande intelligens?

Apropå #metoo – överlever demokratin utan internet?

Kultursidan Västerbottens-Kuriren 171212

Miriam Kirollos är den egyptiska aktivisten som under den arabiska våren uppmärksammade omvärlden på vad som skedde i Nordafrika och särskilt i Egypten under den arabiska våren 2011. Eftersom hon och andra aktivister gjorde det via Twitter kom den arabiska våren att kallas ”Twitterrevolutionen”.
       I efterhand har Kirollos i olika sammanhang kraftfullt vänt sig mot denna benämning, särskilt i essän Revolutionen bortom 140 tecken (Volante, 2012). Hon menade att sociala medier endast i begränsad omfattning bidrog till att organisera och mobilisera människor till motstånd.
        I ett land där tillgången till internet var begränsad och analfabetismen inte var utrotad, var det endast en priviligierad, flerspråkig och högutbildad minoritet som hade tillgång till sociala medier och blev twitterkändisar under denna revolution.
        Kirollos underskattar emellertid inte dessas betydelse för att göra revolutionen känd över världen, men de stora hjältarna var enligt henne vanliga, orädda, frihetstörstande människor som var beredda att riskera sina liv.
        De senaste månaderna har vi emellertid sett en revolution där sociala medier har spelat en synnerligen central roll. Frågan för denna essä är om #metoo-kampanjen hade kunnat bli så effektiv utan sociala medier.

#metoo är som bekant den enorma tryckvåg av kvinnors berättelser om våldtäkter, sexuella övergrepp och fysiska och psykiska kränkningar. Det började med skådespelerskan Alyssa Milano vittnade om Hollywoodproducenten Harvey Weinsteins sexuella övergrepp, och skapade hashtaggen #metoo. 
        I Sverige startade denna rörelse med att några kvinnor anklagade enskilda, välkända medieprofiler för sexuella övergrepp och kränkningar. Därefter, under oktober och november 2017, formligen exploderar sociala medier av nya hashtaggar under #metoo, där kvinnor organiserar sig branschvis och där dags- och kvällstidningar publicerar uppropen och exempel på kvinnors vittnesmål.
        Först ut som bransch var skådespelare med #tystnadtagning. Därefter #visjungerut (sångare), #medvilkenrätt (jurister), #närmusikentystnar (musiker), #imaktenskorridorer (politiker), #teknisktfel (teknikbranschen), #deadline (journalister), #tystiklassen (skolelever). Kyrkan, högskolor och universitet, läkarkåren, försvaret – ingen bransch tycks gå fri.

Vilken betydelse har sociala medier i denna rörelse? Förhoppningsvis kommer forskare att studera detta närmare, men något övergripande kan redan sägas. En sak är själva spridningen av budskapet; själva idén med sociala mediers är att möjliggöra spridning av text och bild.
        Mig veterligt har inte sociala medier använts på ett så effektivt sätt för att organisera människor. Kvinnor har branschvis skapat slutna Facebookgrupper, där enbart personligt inbjudna har kunnat delta för att dels lämna vittnesmål, dels skriva under uppropen.
        Utan att ha haft egen insyn någon Facebookgrupp, har jag förstått att allt har gått oerhört snabbt och effektivt. Flera grupper skapades, kvinnor bjöds in, diskussioner fördes, upprop formulerades, tidplaner bestämdes, grupper stängdes.
        Att uppropen och vittnesmålen sker branschvis är värt att notera. En tolkning är att majoriteten av övergrepp mot kvinnor skulle ske på arbetsplatser. En kontrasterande tolkning är att det är lättare att tala om övergrepp som sker på arbetsplatser än i kvinnors privata sfärer, utan att majoriteten av övergrepp sker på arbetsplatser.
        Det är också intressant att, trots de branschvisa upproren, notera att kvinnor väljer att organisera sig utanför formella kanaler, som exempelvis fackföreningar. En hypotes är att organisering i sociala medier är så oerhört mycket mer tidseffektiv än i de traditionella organisationsstrukturerna.

Vad är #metoo? Hur ska vi förstå det? Vilka termer ska vi använda? Är det en manifestation? Nja, i vissa delar, naturligtvis, men det är så oändligt mycket större än så.
        Är det en revolution? Ja, många skribenter har använt detta begrepp, medan andra vill hävda att revolutionsbegreppet bör reserveras för stora, institutionella omvälvningar i ett samhälle. Kanske leder #metoo även till sådana.
        Är det en frigörelse? Ja, flera drar rimliga paralleller med kvinnorörelsen och den feministiska kampen på 60- och 70-talen.
        För egen del frammanas Berlinmurens fall som metafor. Mellan 1961 och 1989 utgjorde denna mur en gräns mellan Väst- och Östberlin, mitt i gamla Östtyskland. Muren uppfördes av en extremt auktoritär regim, med det främsta syftet att förhindra människors rörelsefrihet. Under dessa decennier tittade övriga världen på, vi accepterade och normaliserade muren och de ständiga kränkningar av människors friheter som den manifesterade.
       #metoo är tusen och åter tusen kvinnor som med sina vittnesmål hackar sönder den patriarkala muren i småsmulor. Känslan liknar den som uppstod i november 1989.
        I en nyligen genomförd undersökning av Novus, svarade 45 procent av männen att #metoo-rörelsen är överdriven. Vänta bara. Muren har bara börjat rivas; än är den inte jämnad med marken.

Överlever demokratin internet? Den frågan ställde jag i en tidigare essä denna höst. På det sätt sociala medier har använts av olika aktörer under det senaste amerikanska presidentvalet, var frågan rimlig att ställa.
        Sociala botar som sprider falska nyheter, riktade politiska budskap med hjälp av psykografisk profilering och olika trollfabriker som sprider osanna rykten på sociala medier – allt med avsikt att sabotera demokratiska processer.
        Med denna essä vill jag även ställa den motsatta frågan: Överlever demokratin utan internet? Alldeles oavsett vilka metaforer vi vill använda – manifestation, revolution, frigörelse, berlinmurens fall – är det i sitt fundament en demokratirörelse.
        Och precis som tankeexperimentet Schrödingers katt – där fysikern Erwin Schrödinger formulerade paradoxen att i en given experimentsituation kan en katt vara både död och levande samtidigt – måste vi kunna uppfatta internet och sociala medier både som hot mot demokratin och som nödvändig för demokratin.