Basinkomst som fuck off-kapital

Kultursidan Västerbottens-Kuriren 201112

Jag får en inbjudan till ett webinarium från Institutet för framtidsstudier kring basinkomst. Med basinkomst, eller medborgarlön som det också kallas, avses att alla medborgare i ett samhälle erhåller en låg, men villkorslös inkomst. Detta webinarium handlar om lärdomar av experiment med basinkomst i Finland och Nederländerna.
     Samtidigt läser jag två skrämmande reportage i Dagens ETC om arbetsförhållandena på Apoteas centrallager, där ett stort antal människor har intervjuats.
      De beskriver arbetsledare som inte släpper ut personalen efter arbetsdagen utan tvingar dem till övertid utan framförhållning, chefer som övervakar anställda minutiöst, som kontrollerar tid för toalettbesök och låser toaletterna som straff om besöken blir för långa, utdelar kollektiv bestraffning med mera.
      Tragiskt är också att anställda upplever facket tandlöst. Dock har Unionen aviserat att man avser att granska arbetsförhållandena.
      Visst finns det många obesvarade frågor kring basinkomst – samhällseffektivitet, kostnader, människors beteendeförändringar, förändringar av arbetsmarknader och så vidare.
      Men, tänker jag, den allra största vinsten med basinkomst är att anställda får det jag brukar kalla fuck off-kapital; att snabbt kunna lämna arbetsplatser med urusel arbetsmiljö därför att basinkomsten ger resurser att överleva ekonomiskt en tid.
      Den arbetsmiljö reportagen i Dagens ETC beskriver skulle inte kunna vidmakthållas om basinkomst existerade.

Slumpen övertrumfar AI-tekniken

Kultursidan Västerbottens-Kuriren 200505

Det florerar mycket förhoppningar kring AI-teknikens kapacitet. Realistiska bedömningar blandas med utopiska önskningar och visionära scenarier. I en presentation framställde AI-forskaren Arvind Narayanan vid Princeton University en lägesbeskrivning av vad dagens AI-teknik kan och inte kan i tre områden. Och därmed vilka förhoppningar som är realistiska i dag.
       Det första området utgörs av AI-teknik fungerar bra och utvecklas relativt snabbt och handlar om teknikens perceptionsförmåga. Med AI-teknik utvecklas allt bättre tjänster för musik- och bildigenkänning. I dag kan jag skriva sökordet ”mat” i mitt digitala bildbibliotek och datorn hittar alla bilder på mat som jag lagrat där.
       Flera studier visar att AI-teknik är bra och blir allt bättre på att tolka medicinska bilder, exempelvis röntgenbilder, för att bidra till säkrare diagnoser. Ett annat exempel är ansiktsigenkänning, som är ett hett och eftertraktat användningsområde för AI-teknik. Liksom deep fake, djupa förfalskningar, där människor kan förfalskas i videoklipp. Även konvertering av tal till text och omvänt är AI-baserad teknik som blir allt bättre.

Det andra området utgörs av AI-teknik som inte fungerar perfekt, men som utvecklas hela tiden och handlar om teknikens automatiska bedömningsförmåga. På bara några år har förmågan att bedöma vad som är spam i mejl eller annan textkommunikation förbättrats mycket, utan att för den skull kunna identifiera allt. Med liknande teknik försöker man bli allt bättre på att upptäcka hate speech, hatpropaganda, i till exempel sociala medier.
       Även när det gäller att upptäcka upphovsrättsintrång försöker man utveckla bättre AI-teknik, liksom AI-teknik för att bedöma uppsatser som skrivs av elever och studenter. Ett sista exempel inom detta område är olika former av AI-baserade rekommendationssystem för digitalt innehåll, som exempelvis film och musik.
       Det tredje området utgörs av AI-teknik som fungerar ytterst tveksamt, men som många har stora förhoppningar kring. Det handlar om teknikens förmåga att förutse sociala resultat eller social utveckling. Ett exempel: Kan AI-teknik, givet en stor mängd historiska data om en person, förutse risken att denne person ska bli kriminell? Eller lyckas i arbetslivet? Eller hamna i drogproblem?
       Nej, svarar Arvind Narayanan. Att förutse återfall i kriminalitet, succé i arbetslivet, människors framtida brottsbenägenhet eller risk för terroristhandlingar är inte något vi ska lita till beträffande dagens AI-teknik. Så deterministiska och förutsägbara är inte människor. Inte heller kan AI-teknik förutse om barn kan komma att vara i riskzonen för sociala svårigheter i framtiden.

Det sistnämnda området har studerats i ett stort forskningsprojekt nyligen, som publicerats i tidskriften PNAS (200330). Frågan som man sökte svar på är ”Hur förutsägbara är sociala livsbanor?”. Om AI-teknik kan generera säkra prediktioner så vore det värdefullt för exempelvis att tidigt kunna identifiera och stödja barn och familjer som riskerar hamna i sociala svårigheter i framtiden.
       Syftet med studien är att undersöka hur väl AI-teknik med maskininlärningsmetoder kan skapa säkra prediktioner för människors framtida liv i vissa avseenden. Projektet genomförde en utvärdering av hur väl AI-baserad prediktionsteknik fungerar, helt enkelt.
       Metoden i projektet kallas ”mass collaboration”, massamarbete. Den innebär att man formulerar i detta fallet en prediktionsuppgift, tillhandahåller en specifik datamängd och bjuder in många forskare och forskargrupper att utföra samma uppgift med samma datamängd, men med valfria metoder. Därefter återrapporterar alla sina resultat för sammanställning och analys.
       160 forskare eller grupper av forskare antogs till projektet. I USA finns en databas med data om ett stort antal familjer som har följts under ett antal år, med början år 2000. För denna studie användes data från 4 242 familjer med närmare 13 000 variabler för varje familj.
       Med data om de barn som fötts och växt upp i dessa familjer skulle de 160 forskarna med de bästa prediktionsmodeller de har, generera förutsägelser om dessa barns livsbana i sex olika avseenden.

Forskarna fick data om barnen i åldrarna ett till nio år för att göra förutsägelser om barnens livssituation i femtonårsåldern. I databasen finns också denna data om barnens tonårsliv, så att det är möjligt att kontrollera hur väl forskarnas förutsägelser stämmer med faktiska förhållanden.
       När resultaten från de 160 forskarna hade samlats in, mättes förutsägelsernas precision mot faktiska data. Det visar sig att inte ens de bästa förutsägelserna var särskilt exakta. Trots att forskarna hade använt en stor datamängd om barnen och olika men avancerade maskininlärningsmetoder, var många resultat inte bättre än prognostiseringar med enklare statistiska metoder.
       Det är också noterbart att oberoende av vilka olika maskininlärningsmetoder som forskarna tillämpade, var de förutsägelser som genererades relativt lika varandra. Skillnaden mellan den sämsta och den bästa förutsägelsen var inte särskilt stor och dessutom mindre än skillnaden mellan det faktiska utfallet och den bästa förutsägelsen.

På en generell nivå visar detta stora forskningsprojekt att AI-teknik inte har förmåga att förutsäga människors livsbana.
       Det behöver emellertid inte bero på kvaliteten hos vare sig datamängder, tekniker eller modeller, utan helt enkelt på att slumpen har en stor betydelse för vad som händer i människors liv. Rent anekdotiskt kan vi också reflektera över de större livsförändringar som vi har upplevt. Hur väl skulle dessa ha kunnat förutses?
       Resultatet från detta forskningsprojekt borde intressera varje politiker och annan beslutsfattare som använder eller överväger att använda AI-teknik för prediktion inom exempelvis kriminalvård och skyddsvård för barn och utsatta familjer eller andra sociala verksamheter. 

Arkivister frigör forskning om coronaviruset

Kultursidan Västerbottens-Kuriren 200205

En användare på nätforumet Reddit under namnet Shrine klickade för några veckor sedan på en länk till en vetenskaplig artikel om coronaviruset. Det enda han fick upp på skärmen var en betalvägg som sa att artikeln skulle kosta 39,95 dollar, skriver nättidskriften Vice (200203).
        Det fick Shrine tillsammans med några andra att skapa en databas med mer än 5 000 vetenskapliga artiklar om coronaviruset som normalt finns bakom tidskriftsförlagens betalväggar. Artiklarna är hämtade från databasen Sci-Hub, som tillgängliggör mer än 78 miljoner vetenskapliga artiklar. 
       ”Detta är olagligt”, säger Shrine, ”men det är också ett moraliskt imperativ”. Nu när Världshälsoorganisationen (WHO) har deklarerat att det råder ett globalt nödläge på grund av coronaviruset, har aldrig inlåsningen av redan skattefinansierad forskning varit mer oetisk. 
        Aldrig har nödvändigheten av att forskare publicerar sina resultat under Open Access-licens accentuerats tydligare än i dag. Och aldrig har behovet av så kallade arkivister varit större. (En arkivist är en aktivist som arkiverar inlåsta vetenskapliga artiklar i öppna databaser.)
        Detta tilltag har fått några av de större vetenskapliga publicisterna att i dagarna öppna deras betalväggar för studier som relaterar till Coronaviruset. Frågan är om de hade öppnat betalväggarna utan arkivisternas förarbete.

Den tredje AI-vågen. Essäer om AI, samhället och individen.

Jag har publicerat mina texter kring artificiell intelligens från de senaste åren i  boken "Den tredje AI-vågen". Boken finns självfallet för fri nedladdning. Boken finns även att köpa på Adlibris, Bokus, CDON och Amazon.

Den tredje AI-vågen är en samling essäer där Per-Olof Ågren gör ett antal nedslag i AI-landskapet från dels ett samhällsperspektiv, dels ett individperspektiv. 

AI-teknikens effekter och påverkan på demokratiska processer, medial utveckling och behov av förändrad utbildning är exempel på samhällsperspektiv på AI. 

Människans relation till AI-teknik i form av en utveckling av förmågan att uppfatta varandra och varandras intelligens samt samarbetsförmåga är exempel på individperspektiv på AI.

Konsten att styra din chef – även när hen är en algoritm

Kultursidan Västerbottens-Kuriren 191112

När jag erhöll min tjänst som universitetslärare för snart tre decennier sedan, fick jag av min dåvarande chef en artikel att läsa som en form av introduktion. Artikeln har rubriken Managing Your Boss, skriven av John Gabarro och John Kotter, publicerad i Harvard Business Review 1980. Den ansågs så betydelsefull att samma tidskrift beslöt att återpublicera artikeln 2005.
       Till en chefs generella uppgifter hör att ha ett övergripande ansvar för en verksamhet, att leda och fördela arbetet, att ge de underordnade rimliga förutsättningar för arbetets utförande samt att utöva kontroll över arbetets resultat.
        En sådan beskrivning av chefers uppgifter uppfattas lätt som en envägsprocess uppifrån och ner; från chef till underordnad. Gabarro och Kotter vände på denna process för att betona betydelsen av att underordnade också leder sina chefer. Den vändningen bröt med den rådande uppfattningen.
        Med olika fallstudier visade Gabaro och Kotter hur misstag i organisationer inte enbart beror på dåligt chefs- och ledarskap, utan på frånvaro av anställdas ledning av sin chef. Precis som en anställd behöver en chef i olika situationer, är varje chef beroende av sina underordnades ärlighet, tillit och samarbete.
        Som anställd vinner man på att försöka förstå sin chef och den kontext hen är chef inom, både chefens relation uppåt och nedåt i organisationen. Inte enbart den formella sidan av chefskapet, utan även chefen som människa; dennes styrkor och svagheter, inre drivkrafter och yttre press samt chefens blinda fläckar.
        I dag är diskursen som betonar chefens och ledarskapets betydelse för anställdas arbetstillfredsställelse och arbetsplatsens välmående stark. Särskilt när vi talar om stress och annan arbetsrelaterad ohälsa. Den starka betoningen på chefens roll riskerar emellertid dölja den arbetstagarroll som Gabarro och Kotter ville stärka. Men för att leda och styra sin chef, måste chefen ge utrymmet och uppmuntran att leda denne.

Ärendet för denna essä handlar om det som på engelska benämns algorithmic management. På svenska: algoritmisk ledning och styrning. Tesen är att allt fler arbetstagare kommer att ledas och styras i sitt arbete av AI-teknik i form av algoritmer som leder och fördelar arbetet samt kontrollerar resultatet av arbetets utförande.
        Vi ser redan i dag tydliga exempel på algoritmiskt chefskap. Forskarna Mareike Möhlmann och Ola Henfridsson skriver en artikel, också i Harvard Business Review (190830), om en stor studie av Uberförare och hur dessas arbete leds och styrs av algoritmer.
        Uber är en reseförmedlingstjänst som finns i de flesta större städer i hela världen, vars affärsidé är att inte äga några bilar eller ha några anställda chaufförer, utan leverera köruppdrag till frilansande förare. Dessa köruppdrag bestäms av olika algoritmer i Ubers plattform; vem som får en viss körning, priset för resan samt vilken reserutt föraren måste köra.
        I samarbete med två andra forskare, studerade Möhlmann och Henfridsson Uberchaufförer i London och New York genom att intervjua förare, observera dem under köruppdragen, analysera olika nätforum för Uberförare samt analysera mediebevakningen av Uber.

Uberförare avskyr i tre väsentliga avseenden att ledas och styras av algoritmer. Den första avskyn gäller den konstanta övervakningen. Så fort en Uberförare loggar in på Uberappen för att kunna få uppdrag, övervakas och granskas förarna in i minsta detalj. Via gps-teknik vet algoritmerna var förarna befinner sig, algoritmerna avgör vilken Uberförare som ska få ett visst köruppdrag samt vilken rutt som föraren måste ta.
        Om föraren exempelvis väljer en annan rutt än algoritmerna bestämt, kan föraren bli bestraffad och i värsta fall bannlyst som förare vid Uber. Särskilt frustrerande upplever förarna att ständigt bli utvärderade av kunderna, då utvärderingarna ligger till grund för algoritmernas val av förare till uppdragen.
        Den andra avskyn handlar om bristen på transparens. Uberappens algoritmer lär sig hela tiden allt mer om varje förare, medan förarna vet inget om algoritmerna, hur de är uppbyggda, vilka beslutskriterier som används, vilken betydelse utvärderingarna har och logiken bakom algoritmernas beslut – det vill säga rationaliteten bakom algoritmernas ledning och styrning av arbetet.
        Den tredje avskyn benämner Möhlmann och Henfridsson som dehumanisering. Förarna upplever isolering; de har inga kollegor att vara sociala med, inga sociala grupperingar att tillhöra. Förarna saknar även möjligheten att bygga upp någon form av en relation med en chef.
        Förarna kanaliserar sin frustration av att styras av algoritmer genom att bli politiska; genom att gå samman i olika forum för att diskutera sina problem och olika sätt att påverka sin situation: En form av fackförening för denna form av uppdragstagare.

Oavsett om företaget heter Uber eller något annat, formulerar Möhlmann och Henfridsson fyra förslag till företag som använder sig av algoritmiskt chefskap. Det första förslaget är att dela information om hur algoritmerna är uppbyggda, så att arbetstagarna förstår rationaliteten bakom algoritmernas beslut.
        Det andra förslaget är att välkomna återkoppling från förarna till algoritmernas utformning. Det tredje förslaget är att bygga in mänskliga kontakter i förarnas arbetssituation, så att algoritmen inte är den enda kontaktytan.
        Det fjärde förslaget är att skapa tillit till företaget i form av förmåner som normalt tillkommer anställda; exempelvis sjuk- och föräldraförsäkring.

Det finns god anledning att applicera Gabarro och Kotters studier från 80-talet på arbetsplatser med algoritmiskt chefskap. Vad Uberförarna saknar är möjligheten att leda och styra sin chef, eftersom algoritmerna inte är kommunikativa eller påverkbara.
        Vad algoritmerna i sin chefsroll går miste om är viktig information från förarna som kan förbättra algoritmernas olika beslut och hur förarnas kommunikation och relation till sina chefer ska kunna utvecklas.

Vill vi verkligen chatta med de döda?

Kultursidan Västerbottens-Kuriren 191101

”Death is not the end”, sjöng Bob Dylan i låten med samma namn från 1988. Vi blir särskilt påminda om detta denna tiden på året, när allhelgonahelgen inträffar. Traditionen bjuder att särskilt minnas våra döda släktingar och vänner under denna helg. På så sätt lever de döda kvar i våra minnen.
        I framtiden kommer vi sannolikt att ges möjlighet att besluta om vi inte enbart vill minnas våra döda, utan även träffa och samtala med deras virtuella jag efter döden. Med AI-teknik och självlärande algoritmer skulle en död människa kunna uppstå i form av en chattbot.
         Jag läser en artikel i nättidskriften Quartz om Hossein Rahnama, knuten till MIT Media Lab, som forskar om företeelsen augmented eternity. Augmented reality är ett etablerat begrepp och betyder ungefär förstärkt verklighet, som skapas genom att mixa virtuella och fysiska miljöer. Augmented eternity är inte etablerat, mig veterligt, men skulle kunna översättas till förstärkt evighet.
         Rahnama menar att när människor har genererat biljoners miljarders gigabytes av personlig interaktion på nätet genom mejl, texter och bilder i sociala medier, bloggar, kommentarsfält, Snapchat, Twitter, Facebook till enorma digitala arkiv, bör vi kunna använda dessa data i neurala nätverk.
         Sådana neurala nätverk förstår språk liksom språkliga mönster och kan generera ny information baserat på sina digitala arkiv. Enklare uttryckt: Denna AI-teknik skulle med hjälp av en död persons digitala arkiv över personens nätinteraktioner med stor likhet kunna samtala som den döda personen.
         En chattbot vars sätt att prata, uttryck, åsikter, temperament etc skulle vara oskiljaktigt från den döda personens kommunikation. Frågan är om vi vill samtala med människor efter deras död?

Eugenia Kuyda är en AI-entreprenör i Silicon Valley som vill det. Hennes bästa vän, Roman Mazurenko, avled 2015 i en bilolycka. I sorgen och saknaden efter honom skapade hon en chatbot i hans namn, som också finns som app att ladda ned. 
         Eugenia Kuyda gjorde inte detta utan vånda. Det underlättade att Roman Mazurenko var själv tekniskt fascinerad av digitalt liv och död. Men ändå, skulle hon lyckas skapa en chattbot som återspeglade hans osäkra framtoning, hans poetiska perspektiv, hans särpräglade form av humor? 
         Jag laddade själv ned Roman Mazurenko och chattade med honom, men om man inte kände honom i livet är det naturligtvis omöjligt att bedöma likheten mellan hans digitala efterjag och hans förutvarande, levande jag.

Betyder denna utveckling att vi måste börja diskutera döda människors rättigheter i större utsträckning? Sedan tidigare finns skydd för döda människor exempelvis inom ramen för förtalslagstiftning. Att peka ut en avliden person som klandervärd eller brottslig kan utgöra grund för förtal.
         Om en avliden persons chattbot kan underlätta för efterlevandes sorgbearbetning kanske vi i framtiden blir tvungna att ta ställning till hur det egna dataarkivet får användas av efterlevande för att skapa chattbotar, precis som vi i dag beslutar om organdonation när vi fortfarande lever.
         Borde även döda människor skyddas av integritetslagar? En GDPR för döda? Vill vi donera vårt personliga dataarkiv till efterlevande, så att de kan prata med oss efter döden?

Ansiktet som GDPR:s moraliska grund

Kultursidan Västerbottens-Kuriren 190831

I början av året kunde vi läsa om Skellefteå kommuns pilotförsök med ansiktsigenkänning på en gymnasieskola. Med syftet att öka effektiviteten i den närvaronotering som lärare är skyldiga att göra, infördes kameror som automatiskt identifierade elever när de gick in i ett klassrum.
         Det var frivilligt för eleverna att delta i pilotförsöket och man inhämtade samtycke från både elever och deras föräldrar. Därmed ansåg kommunen ha uppfyllt kraven som den integritetslag som populärt benämns GDPR kräver.
         Efter det mediala genomslaget, inledde Datainspektionen ett tillsynsärende för att undersöka om ansiktsigenkänning för närvaroregistrering är förenligt med GDPR. Resultatet av tillsynen publicerades nyligen (190820): Detta pilotförsök bryter mot GDPR i tre avseenden och kommunen tilldöms en sanktionsavgift om 200 000 kr.
         För det första menar Datainspektionen att ansiktsigenkänning är en personuppgiftsbehandling som är integritetskränkande och innehåller fler personuppgifter än vad som är nödvändigt för närvarokontroll.
         För det andra är biometriska personuppgifter (såsom ansiktsbilder, fingeravtryck etc) känsliga personuppgifter, som kräver ett giltigt undantag för att behandla sådana. Något sådant undantag har inte kommunen.
         För det tredje har kommunen inte gjort en tillräcklig konsekvensbedömning av denna form av teknikstödd närvarokontroll.
         Att kommunen har inhämtat samtycke från elever och målsmän räcker inte för att ha en laglig grund för denna form av närvaroregistrering, eftersom eleverna står i beroendeställning till skolan med avseende på betygsättning, studiemedel, utbildning med mera.

Detta är ett utmärkt exempel på att GDPR inte enbart handlar om lagrum och paragrafer som måste efterlevas, utan om att integritetslagstiftning i väsentlig utsträckning bygger på moralfilosofisk grund.
         Med stöd i Emmanuel Levinas moralfilosofi har Zygmunt Bauman undersökt ansiktets betydelse för moralen, särskilt i boken Postmodern etik. Grunden för människans moral, menar Bauman, är Den Andre, medmänniskan.
         Att vara moralisk är att ta ansvar för den Andre, redan innan den Andre har uttalat något behov. Men den Andre avgör inte vilket ansvar jag bör ta. Jag avgör ensam ansvaret. Den Andre är dock inte personen – utan ansiktet. Ansiktet är en auktoritet, menar Bauman.

Med ansiktsigenkänning som tekniskt medel för närvaroregistrering som exempel, framstår det som extra tydligt att GDPR bygger på moralfilosofisk grund. Med eleven som Den Andre, är det elevens ansikte som kommunen ska känna ansvar inför.
         Inte, som kommunen har argumenterat, inför skolans effektivitetsvinst när det gäller att notera närvaro, med hänvisning till förvaltningslagens krav på effektivitet i offentlig verksamhet.
         Integritetslagar som GDPR existerar därför att moralfilosofiska avgöranden är svåra. Och de är svåra därför att vi tränar alldeles för lite på sådana.

Minskad rättslig transparens i Frankrike

Kultursidan Västerbottens-Kuriren 190614

Artificial Lawyer är benämningen på en plattform för jurister med syftet att bidra till bättre och effektivare rättsprocesser med hjälp av digital teknik. Den 4/6 publiceras där en intressant artikel om en ny lag som beslutats gälla i Frankrike. Där står (i min översättning från den engelska artikeln):
       ”Identitetsuppgifter för domare och medlemmar av domstolen får inte återanvändas med syftet eller effekten att utvärdera, analysera, jämföra eller förutsäga deras faktiska eller påstådda professionella praxis.”
        Straffet för ett brott mot denna lag är fastställt till fem års fängelse.
        Med andra ord, den franska lagstiftaren vill inte att dataanalytiker ska kunna samla in data från olika domstolar och rättsfall för att undersöka om det finns mönster eller korrelationer mellan olika faktorer.
        Detta tolkar jag som en reaktion mot den big data-trend som innebär att analysera stora datamängder för att finna just korrelationer och mönster som är svåra att upptäcka i enskilda fall. 
       Visst, avidentifierade domar och protokoll från rättsprocesser kan i sig ge intressanta analysresultat, men frågan är varför det är så viktigt att dessa analyser inte får innefatta de människor som fattat så viktiga beslut som kan frihetsberöva människor i flera år.        Varför är det viktigt att kriminalisera den som analyserar hur olika domare tänker kring olika delar av rättssystemet, såsom det kommer till uttryck i rättsliga beslut? Varför är inte transparens viktigt i detta avseende?
        När vi i AI- och big data-sammanhang snarare bör arbeta för en ökad transparens, går Frankrike i detta fallet i motsatt riktning. Det är märkligt.
        Förhoppningsvis utgör offentlighetsprincipen ett hinder för att stifta dylika lagar i Sverige.

Farliga förfalskningar

Kultursidan Västerbottens-Kuriren 181130

Att digitala bilder med olika datorprogram kan manipuleras är sedan gammalt. Allt från retuschering av människor och objekt till att byta ut människor och objekt mellan olika miljöer. Men att retuschera en fotomodells ansikte eller att placera en bil i en viss miljö i marknadsföringssyfte får inte nödvändigtvis så stora konsekvenser.
        Andra typer av ytliga förfalskningar kan emellertid få långtgående konsekvenser. I dag meddelar sig politiker sig allt mer via egna digitala kanaler, i stället för traditionella mediekanaler. Tänk bara på Donald Trump och hans envetna twittrande.
        Men inte enbart Trump. Allt fler svenska politiker meddelar sig via sociala medier, inte enbart i form av allmänna inlägg i debatten, utan även betydelsefulla beslut. Detta utgör en måltavla för de som vill skapa och sprida falska nyheter om politiker.
        När Göran Hägglund 2015 skulle avisera att han lämnade posten som partiledare för kristdemokraterna, meddelade han det på Twitter innan han meddelade det på en presskonferens.
        När riksdagen hade röstat om Ulf Kristersson som ny statsminister den 13 november, skrev han ett inlägg på Facebook och beklagade att två allianspartier hade röstat emot. Nästan samtidigt skrev Annie Lööf ett inlägg på Facebook där hon förklarade varför centern röstade emot den regeringskonstellation som Kristersson föreslagit riksdagen.
        Att skapa falska Twitter- och Facebookinlägg är dock busenkelt. Det tar några minuter. Titta på nedanstående autentiska respektive falska inlägg och se den likheten på ytan. Smärre olikheter kan alltid förklaras med att olika appar och programvaror för att läsa Twitter- och Facebookinlägg genererar olika utseenden i viss utsträckning.






Övre bilden: en skärmdump av ett autentiskt Facebookinlägg. Nedre bilden: ett av artikelförfattaren förfalskat Facebookinlägg.

Hur avslöjar vi ytliga förfalskningar? Den källkritiska metoden är naturligtvis att undersöka varje inläg som sprids i form av skärmdumpar, för att se om inlägget går att finna hos upphovspersonen. Å andra sidan; om ett falskt inlägg ser autentiskt ut och samtidigt bekräftar någons förutfattade mening, minskar benägenheten att kolla källan.
        När det gäller djupa förfalskningar blir det ännu svårare. Det finns självlärande AI-teknik som i ett filmklipp kan visa en person som säger det en annan person säger med mimik och kroppsspråk som skapar en hög grad av autenticitet. Det ser helt enkelt trovärdigt ut att den person som syns i videon också uttrycker vad en annan personen säger. 
        AI-programmet behöver i storleksordningen 1 000 bilder av den person vars uttalande ska förfalskas. Tillsammans med det inspelade uttalandet formar AI-programmet ett nytt videoklipp med en autentisk person som uttrycker ett falskt innehåll.
        Det bästa exemplet jag hittills sett är när Jordan Peele låter Barack Obama hålla ett anförande under någon minut, där det är Peeles ord som Obama uttalar. Ju bättre dessa AI-program kommer att bli, desto svårare blir det att ens misstänka att ett videoklipp är en djup förfalskning.



Bild från en video där Barack Obama säger vad Jordan Peele har instruerat ett AI-program att Obama ska säga så autentiskt som möjligt.

Hur avslöjar vi djupa förfalskningar? Frågan är om en människa ens är kapabel till det i framtiden. I USA har man myntat begreppet och forskningsområdet Media Forensics (ungefär medial kriminalteknik). 
        Det innebär att försöka skapa AI-program som undersöker videoklipp med avseende på digitala fingeravtryck (digitala spår hos videoklippet), fysisk överensstämmelse i videon (om personer och objekt och miljöer stämmer överens) och semantisk rimlighet (är det rimligt att personen på videon säger det den säger).
        Ett exempel är en forskargrupp som har noterat att djupa förfalskningar ofta saknar ögonrörelser och blinkningar, eftersom vi sällan publicerar bilder av människor med slutna ögon. Att identifiera frånvaro av blinkningar kan vara ett sätt att avslöja falska videoklipp. Å andra sidan kommer sannolikt motdraget blixtsnabbt: man låter AI-tekniken forma rimliga ögonrörelser och blinkningar.
        Om vi inte lyckas avslöja djupa förfalskningar kan det få stora konsekvenser i framtiden. Ett exempel: Säg att du vill ha en falsk video som visar att P O Ågren rånar en bensinmack. Då instruerar du en AI-maskin genom att mata den med bilder på P O Ågren och en bensinmack i olika vinklar så att en till synes övervakningsvideo framträder. Därefter ser du till att rättsväsendet nås av videon.
        I dag kan en åklagare visa en övervakningsvideo som bevis för ett rån. I morgon kommer den tilltalade att hävda att övervakningsvideon är en djup förfalskning. Kommer övervakningsvideos att ha något bevisvärde i framtiden?
        Kommer vi överhuvudtaget att kunna ha tillit till bilder, stilla eller rörliga, i framtiden? Om inte, vad betyder den förlusten?

69 teknikfilosofiska fragment

Jag har likt många andra universitetslärare publicerat monografier, antologikapitel, tidskriftsartiklar, konferensbidrag, essäer, essäsamlingar, kulturkritik – men inte aforismer eller fragment. Akademiska aforismer? Boken "69 teknikfilosfiska fragment" är ett försök att närma mig denna genre från akademiskt håll. Boken finns självfallet för fri nedladdning. Boken finns även att köpa på Adlibris, Bokus, CDON och Amazon.

69 teknikfilosofiska fragment är en samling kortfattade, rent av fragmentariska utsagor som alla uttrycker något teknikfilosofiskt som Per-Olof Ågren finner väsentligt att reflektera över.

I denna samling av teknikfilosofiska fragment söker Per-Olof Ågren ett format där aforismer formas dels med utgångspunkt i klassiska teknikfilosofer som exempelvis Martin Heidegger och Paul Virilio, mediefilosofer som exempelvis Jean Baudrillard och Vilém Flusser liksom andra tänkare som på olika sätt har berört teknikfilosofi, dels med utgångspunkt i Per-Olof Ågrens egna teknikfilosofiska tänkande.

När AI-tekniken knackar på demokratins dörr

Kultursidan Västerbottens-Kuriren 180529

Demokrati är ett tillstånd vi aldrig når, utan något vi ständigt strävar mot. Det är därför så många uttrycker att demokratin ständigt måste erövras. ”Det har sagts att demokrati är den sämsta styrelseformen som har prövats, bortsett från alla de övriga formerna som prövats genom tiderna”, är ett klassiskt citat från Winston Churchill i ett tal i underhuset 1947.
       Vad citatet säger är att i takt med samhällets ständiga förändring och människans kunskapsutveckling, måste också våra demokratiska former ständigt diskuteras och utvecklas.
        I internets barndom ställde sig många libertanianer på barrikaderna och ropade på direktdemokrati. Om varje medborgare har tillgång till internet, kan alla politiska spörsmål bli föremål för medborgares omröstningar. Politiker skulle blir förvaltare av medborgares beslut.
        I ett något mognare stadium i internets utveckling började man diskutera deliberativ demokrati; en uppfattning om demokrati som utgår från att medborgare deltar i diskussioner kring politiska frågor. Här betonades samtalets och argumentens betydelse för demokratiska beslut, där internets mångfald av platser för samtal skulle kunna realisera denna demokratimodell.
        Bägge demokratimodellerna söker förbättringar till den rådande representativa demokratin, som ofta beskylls för att bli allt mer expertstyrd och för att ge medborgarna alltför litet inflytande: endast en röst var fjärde år.
        Problemen med direktdemokrati är emellertid att många frågor som medborgarna ska rösta om är alltför komplexa för att en genomsnittlig medborgare ska hinna sätta sig in i vid sidan av heltidsarbete och familjeliv. Dessutom försvåras ansvarstagandet; medborgarna kan inte ställas till ansvar för sina beslut, vilket politiker i en representativ demokrati kan.
        Problemen med den deliberativa demokratimodellen är att samtalen i de sociala medier som har växt fram inte har de kvaliteter som denna demokratimodell förutsätter. Det är ständigt medvetna missförstånd och yrkestroll på Twitter. Det är homogena intressegrupper på Facebook som inte tillåter meningsutbyten. Och på de mer anonyma forumen som Flashback och Reddit frodas rasism och konspirationsteorier.
        Det är lätt att landa i slutsatsen att informationsteknik inte kan bidra till demokratisk utveckling. Men samtidigt som tekniken förnyas, förnyas även idéer om hur tekniken kan bidra till demokrati.

Cesar Hidalgo leder en forskargrupp som arbetar med kollektivt lärande och komplexitet vid MIT Media Lab. Han vill finna former för att använda IT för att utveckla demokratin bortom den representativa demokratin. I tidskriften Fast Company sammanfattas hans idé. ”Demokrati har ett uselt användargränssnitt”, hävdar Hidalgo. Hans utgångspunkt är de demokratiska församlingarnas låga valdeltagande.
        För presidentval i USA brukar valdeltagande vara runt 60 procent. Valdeltagandet i det senaste EU-valet var drygt 42 procent. Vid det senaste presidentvalet i Frankrike var valdeltagandet 48 procent. Sverige sticker ut, där närmare 86 procent av de röstberättigade röstade i senaste riksdagsvalet.
        Ett lågt valdeltagande är ett problem för den representativa demokratin i det att politiker representerar allt färre människor. I förlängningen riskerar vi att förtroendet för demokratin eroderar.
        Den erosionen har redan börjat. En undersökning som svenska studieförbunds branschorganisation gjorde 2017 visar att nästan varannan person i Sverige mellan 18 och 29 år förederar att landet styrs av experter än av folkvalda politiker. 

Liksom många andra IT-forskare fokuserar Hidalgo på AI-teknikens snabba utveckling. Självlärande, adaptiva algoritmer har under de senaste åren blivit allt mer kapabla att känna igen människors beteenden och identifiera våra preferenser. Tekniken blir dessutom allt bättre på prediktion, det vill säga att förutse händelser och handlingar.
        Därför, menar Hidalgo, borde varje medborgare ha en egen digital agent som samlar all data om medborgaren utifrån dennes förehavandet på sociala medier, sökmotorer, webben, eposten, ja, all internetanvändning.
        Denna digitala agent skulle med tiden bli utomordentligt skicklig på att förutse vad den enskilde medborgaren har för åsikt eller preferens när det gäller ett visst politiskt förslag, utan att medborgaren själv tvingas komma underfund om sin uppfattning. Medborgaren behöver enbart förmedla agentens uppfattning dit den efterfrågas.
        Sådana digitala agenter kan användas dels för direktdemokratiska syften, i form av röster i beslut, dels för politiska representanter för att förstå folkviljan i olika frågor.
        Kvaliteten hos dylika digitala agenter som känner medborgaren bättre än medborgaren själv, är att dessa agenter inte reagerar känslomässigt, lynnigt eller impulsivt, såsom människor ofta kan göra.

Hidalgos idé om digitala agenter skulle även motverka några av dagens demokratiska problem. Det skulle inte vara meningsfullt för trollbotar att invadera Twitter med falska nyheter i syfte att påverka ett lands medborgare inför ett val. De digitala agenterna skulle inte på kort sikt påverkas av dylika aktiviteter.
        Inte heller skulle företag som Cambridge Analytica finna det rimligt att samla in en mängd persondata från Facebook och andra sociala medier för att rikta politisk information eller desinformation till medborgarna. De digitala agenterna motstår sådant.
        Problem finns förstås. Det största stavas säkerhet. Kan sådana virtuella agenter hackas och planteras med falsk persondata som förändrar medborgarens politiska preferenser?
        Ett annat problem handlar om ansvar. Även om agenterna inte levererar direktdemokratiska beslutsröster, kommer det att upplevas lätt för medborgare att inte känna sig ansvariga eller delaktiga i samhällsutvecklingen. Det var ju den virtuella agenten som röstade eller uttryckte en politisk uppfattning, inte medborgaren, även om det var medborgarens egen agent.
        Dessa och andra fördelar och nackdelar torde vi behöva överväga när AI-tekniken på allvar knackar på den demokratiska dörren.

Karaktären gör AI-tekniken genomskinlig

Kultursidan Västerbottens-Kuriren 180410

Det har skrivits spaltmil om vad som hände i relationen mellan Facebook och Cambridge Analytica. Denna essä ska inte öka dessa textmassor, utan lyfta en generell fråga ur dessa spaltmil och försöka förstå hur vi bör hantera den i en nära framtid.
         Redan på 1990-talet började vi ställa frågan hur vi bör utvidga vår förståelse för datorn som teknisk artefakt. Det räckte inte att inte enbart förstå datorns generella tekniska funktionalitet, det vill säga hur datorn löser sina problem. Inte heller att enbart förstå hur olika programvaror fungerar, det vill säga hur datorn kan lösa mina problem.
         Man frågade sig bland annat hur olika datorsimuleringar fungerade; hur olika manipulerbara modeller byggdes för att simulera olika planeringsprocesser, designprocesser, ekonomiska processer och liknande.
         Det talades om en simuleringskultur, där det var av största vikt att kunna ”läsa” simuleringar. Med det avsågs att förstå vilka antaganden och värderingar som fanns inbyggda i olika manipulerbara modeller, som användes som beslutsunderlag i olika verksamheter.

                     

På en generell nivå lyfts samma fråga i affären Facebook vs Cambridge Analytica. Inte enbart Facebook, utan alla sociala och andra medieaktörer som agerar på internet måste öka sin transparens; visa med större genomskinlighet vilka personuppgifter som samlas in, lagras och används av dem själva eller av någon annan aktör.
         Det är lätt att skapa transparens för ett statiskt innehåll eller för statiska processer. Inom en snar framtid kommer emellertid allt fler tekniska system att vara självlärande och adaptiva. Vi har sett dessa tendenser en tid; Google, Facebook, Netflix med flera går i bräschen för att deras algoritmer hela tiden ska anpassa sig efter den enskilde användarens beteende.
         Googles sökresultat anpassas efter användarens sökbeteende, Facebooks annonser utformas utifrån användarens intressen, Netflix filmtips utgår från tittarens tidigare konsumtion. Allt fler tekniska system bygger in adaptiva förmågor.
         Om det vi vill kunna se i transparenta tekniska system är statt i ständig förändring, i det att systemens omgivning förändrar systemens beteende, måste vi skapa en ny föreställning om hur vi uppnår transparens.
         Frågan för denna essä är hur vi ska designa transparens i AI-baserad, självlärande teknik när tekniken hela tiden anpassar sina algoritmer och därmed sitt beteende utifrån den omgivning tekniken verkar inom.

Varför är transparens viktig? Det främsta syftet med transparens är att skapa förutsebarhet; att uppfatta både hur teknik kommer att agera i olika situationer och vilka konsekvenser våra interaktioner med teknik får.
         Jag föreslår att använda begreppen roll och karaktär för att förstå transparens. Tidigare har vi uppnått transparens genom att ge tydliga roller till olika programvaror. Vi vet vad vi kan förvänta oss av ordbehandlingsprogram, kalkylprogram, mejlprogram, webbläsare och liknande. Om vi vill uppnå transparens till adaptiva, självlärande tekniska system, kan vi överväga att utveckla dessa systems karaktär, eftersom rollerna är stadda i förändring.
         Socialpsykologen Johan Asplund har rett ut begreppen roll och karaktär för oss människor i boken Det sociala livets elementära former (Korpen). Med begreppet roll avses att krav, riktlinjer och förutsättningarna för en människas agerande är givna; skrivna av någon annan med syftet att vara stabila över tid. Den som agerar i en viss roll är därmed förutsebar.
         Med karaktär avses att människan själv utformar och bestämmer restriktionerna för sitt handlande utifrån såväl sitt omdöme, som de situationer människan kastas ut i.

                     

Vad vi ser med framtidens självlärande AI-system är att de ges utrymme att inte enbart agera utifrån det manus som någon har skrivit (läs: programkod), utan att dessa AI-system också i högre grad får bestämma sina egna restriktioner för sitt handlande (läs: skapa ny programkod).
         Det innebär, med Johan Asplunds begrepp, att AI-system successivt går från att vara en abstrakt teknik som agerar helt instrumentellt, till att bli en konkret aktör som själv ges utrymme att forma sitt agerande.
         Vi kan reflektera över hur vi förutser en människas handlingar. Ta läraryrket som exempel. Alla lärare har självfallet en roll som de måste agera inom; de regler och restriktioner som är föreskrivna av skollagar, läroplaner och lokala föreskrifter.

         Om alla lärare enbart skulle agera som rollinnehavare, skulle alla lärare vara lika varandra. Så är inte fallet. Lärare vi haft och lärare vi känner, är alla olika, trots att de agerar inom likartade roller. Olikheter består i att de har utvecklat sina karaktärer på olika sätt.

         Studenter som läser en kurs med en viss lärare kan med största sannolikhet förutse olika handlingar som inte beror på de regelverk läraren är skyldig att efterleva, utan som beror på de karaktärsdrag läraren har utvecklat. Det är i högre grad lärarens karaktär som gör denne transparent än den rollbeskrivning läraren har att följa.
         Vill vi ha förutsebara AI-system i framtiden, kan karaktärsutveckling vara en fruktbar designinriktning. Det är i karaktärsdragen adaptiva AI-system blir förutsebara.

Alan Turing framlade de idémässiga grunderna för artificiell intelligens. Med det så kallade Turingtestet skulle man kunna avgöra om man lyckats skapa artificiell intelligens.
         Om man interagerar med en maskin och inte kan uppfatta om det är en maskin eller en människa har maskinen mänsklig, artificiell intelligens. Artificiell intelligens har alltid uppfattats som mänskligt efterliknad intelligens.
         Ett helt annat tankespår skulle vara att skapa maskinintelligens som inte har mänsklig intelligens eller mänskligt beteende som förebild. Men då måste vi skapa ett helt annat sätt att se igenom maskinerna.
         En fördel med att efterlikna mänsklig intelligens och beteende är igenkänning; vi vet mycket om människans intelligens och beteende. Om maskinintelligens utan mänsklig förlaga vet vi inte mycket. 

Djupa förfalskningar större hot än falska nyheter

Kultursidan Västerbottens-Kuriren 180227

Valåret 2018 har inletts. Det märks inte främst på en ökad mängd politiska utspel än så länge, utan på att samhället försöker förbereda sig på olika hotbilder mot valet. På SVT:s nyhetssajt listas de fyra främsta hoten mot valet 2018. 
       Ett hot är påverkan från främmande makt. Med erfarenheter från val i andra länder kan det inte uteslutas att någon främmande makt försöker påverka valet i något avseende.
        Ett annat är hot mot politiker. Ju mer polariserad den politiska debatten blir, desto mer ökar risken för hot och våld mot politiker.
        Ett tredje är extrema politiska rörelser, såväl till höger som till vänster, som i sina extremaste uttryck kan utgöra brottslighet.
        Det fjärde är falska nyheter i sociala medier, där en väsentlig anledning till att skapa och sprida falska nyheter är att förstärka politiska motsättningar som i sin tur försvagar demokratin.
        För att motverka det fjärde hotet – spridning av falska nyheter – har fyra stora medieaktörer gått samman för ett samarbete mot spridning av falska nyheter. Det är initialt Dagens Nyheter Svenska Dagbladet, Sveriges Radio och Sveriges Television som kommer att arbeta enligt gemensamma principer för att faktagranska påståenden i sociala medier och presentera materialet på en gemensam webbplats.
        Fler medieaktörer är välkomna under förutsättning att de arbetar efter samma riktlinjer. Projektet understöds ekonomiskt till viss del av Vinnova, Sveriges innovationsmyndighet, som ger ekonomiska bidrag till innovations- och forskningsprojekt.

Denna essä berör detta fjärde hot. I vilken utsträckning förekommer falska nyheter? Vilken spridning får de? Vilken påverkan har falska nyheter på människor? Alldeles nyligen har studier publicerats kring förekomsten av falska nyheter dels i anslutning till presidentvalet i USA 2016, dels i några europeiska länder.
        Tre amerikanska statsvetare publicerade i januari 2018 en studie som ger en första bild av konsumtionen av falska nyheter i samband med presidentvalet i USA 2016. De analyserade ett representativt urval om 2 525 anonyma amerikaners trafikdata på webben.
        Forskarna uppskattar att ungefär 25 procent av amerikanerna besökte någon gång en webbplats som publicerar falska nyheter. Dock var en majoritet av dessa webbplatser förespråkare för Donald Trump och följaktligen var webbplatsernas besökare främst Trumpanhängare. 60 procent av alla besök på webbplatser med falska nyheter gjordes av de 10 procent amerikaner med den ”mest konservativa informationsdieten”, som forskarna uttrycker det. Räckvidden är således inte särskilt stor för falska nyheter.
        Studien visar också att äldre amerikaner, över 60 år, var betydligt mer benägna att besöka webbplatser med falska nyheter, än yngre amerikaner. I rapporten slås också fast den stora betydelse Facebook har för att rikta amerikaners uppmärksamhet till falska nyheter.
        Forskarna har enbart studerat falska nyheter som publiceras på webbplatser. Ytterligare studier kommer med största sannolikhet även att göras på andra sociala medier. Där tänker jag främst på Twitter, där möjligheten att skapa så kallade botar som automatiskt kan sprida desinformation är stor.

En liknande studie som den ovanstående har gjorts i Europa, av fyra medieforskare vid Oxford universitet. I denna studie mäts vilken räckvidd falska nyheter har i Frankrike och Italien. 300 webbplatser som publicerar falska nyheter har jämförts med stora nyhetswebbar såsom Le Figaro i Frankrike och La Repubblica i Italien.
        Under 2017 besöktes ingen av webbplatserna med falska nyheter i genomsnitt av mer än en procent per månad av den uppkopplade befolkningen i såväl Frankrike som Italien. Det ska jämföras med Le Figaro, som i genomsnitt per månad når 22,3 procent, respektive La Repubblica, som når 50,9 procent av den uppkopplade befolkningen.
        Forskarna mätte även hur lång tid besökare uppehöll sig på de olika webbplatserna. De mest populära webbplatserna för falska nyheter i Italien besöktes i genomsnitt under 7,5 miljoner minuter per månad och i Frankrike var motsvarande siffra 10 miljoner minuter.
        Även här jämför forskarna dessa mått med den tid besökare uppehåller sig vid etablerade nyhetswebbar. På Le Mondes webbplats spenderade användare i genomsnitt 178 miljoner minuter per månad och motsvarande siffra för La Repubblica var 443 miljoner minuter.

Vad dessa två studier sammantaget visar är att det finns många webbplatser som sprider falska nyheter i USA och i Europa, men att falska nyheter har låg spridning och dessutom till en liten del av befolkningen.
        Det är naturligtvis intressanta resultat. Vad studierna inte säger något om, däremot, är utvecklingen över tid. Minskar eller ökar falska nyheter i omfattning? Minskar eller ökar andelen människor som tar del av falska nyheter? Och framför allt: Övertygas de människor som tar del av falska nyheter om att de är korrekta?
        Vi bör inte låta dessa studier invagga oss falsk säkerhet. De som formulerar och sprider falska nyheter utvecklar med största sannolikhet sin kompetens att göra detta.

Ett hot mot demokratin som hittills inte talats så mycket om, förrän Computer Sweden nyligen skrev om det, är deep fake. Det kan översättas med djupa förfalskningar. Någon har lyckats skapa ett självlärande AI-program som kan byta ut en person mot en annan i ett filmklipp med bra resultat.
        Programmet behöver 500-1 000 olika bilder på en person i olika vinklar för att programmet ska kunna byta ut denne person mot en annan person i ett filmklipp, så att det ser ut som den falske personen uttrycker det den utbytte personen säger.
        Snart kan vi alltså se en politiker göra falska påståenden utan att vi enkelt kan se att politikern ersatt en annan person och dennes uttalanden.
        Kombinationen av deep fake och falska nyheter ter sig mer skrämmande än enbart falska nyheter, eftersom här läggs till en retorisk styrka i form av en till synes autentisk person som hävdar osanningar.
        Deep fake utmanar de medieaktörer som arbetar för att motverka falska nyheter ytterligare.