Visar inlägg med etikett etik. Visa alla inlägg
Visar inlägg med etikett etik. Visa alla inlägg

torsdag, juni 25, 2020

Det magiska handslaget, den heliga munnen

Kultursidan Västerbottens-Kuriren 200625

Nu när vi ska träffas på armlängds avstånd skapas nya hälsningsritualer. Kindkramen upplever jag har ersatts av att man kramar sin egen bröstkorg och föreställer sig att den andre hålls om med armarna.
       Socialpsykologen Johan Asplund är den som allra mest har studerat hälsningsceremonier i Sverige. Ett lästips är Om hälsningsceremonier, mikromakt och asocial pratsamhet (1987). I coronapandemitider läser jag emellertid boken Munnens socialitet och andra essäer (Korpen, 2006), där han skriver om handslagets och munnens betydelse. 
        Ett handslag kan vara ett privilegium, menar han, och tar ett handslag med kungen som exempel. Att få trycka kungens hand liknar Asplund vid en ”magisk kraft”. Men det gäller även handslag mellan mindre rojala människor.
        Handslag har många betydelser. Vi tackar, vi lovar, gratulerar, visar uppskattning, försonas, förlåter. Handslag kan utgöra att vi ingår ett vad. Många av oss har tränat på handslag, exempelvis inför en viktig anställningsintervju, för att inte handen ska upplevas som en död fisk, eller så att inte man knäcker den andres hand. 
        Men handskakning som ritual är ändå begränsad. Jag har aldrig skakat hand med en kassörska eller en brevbärare eller en taxichaufför. Däremot med kollegor på arbetet. Men inte alla kollegor.
        Ett handslag blir alltid tolkat. Hur tätt möter tumvecken varandra? Betyder tumveckens närhet också social närhet? Vad betyder ett kraftigt handslag jämfört med ett vekt? Vad vill den som inte släpper min hand inom ett par sekunder?
        Hur nära står den andre när denne sträcker fram handen? Sträckt arm eller med handen nära sin egen kropp? Vad betyder den skillnaden?
        Till sist: Handsvetten. Vem har inte snabbt torkat handflatan mot byxorna eller kjolen sekunden innan handhälsningen? Vad betyder det att den andre är fuktig? Finns det någon betydelseskillnad mellan en kallfuktig hand och en varmfuktig?
        Alla dessa tolkningar och betydelser av handhälsning går helt bort i våra sociala möten under coronans tid, när händer inte möts.

Från ett socialpsykologiskt perspektiv blir det ännu knepigare om alla börjar bära munskydd i offentliga miljöer, vilket Sverige ännu inte har rekommenderat, till skillnad från de allra flesta länder. Men munskyddet döljs munnen. Och även här gör Johan Asplund iakttagelser och tolkningar.
        I vilken utsträckning sitter vårt utseende i munnen, frågar han sig. Ett sätt att pröva detta är att täcka för ögonen på fotografier av människor man känner väl, för att sedan täcka munnen på samma fotografi. Känns ansiktet mer eller mindre igen när vi täcker ögonen respektive munnen?
        Johan Asplund menar att munnen är vårt allra viktigaste sociala gränssnitt, för att låna en metafor från IT-området. Störningen av munnens normala uppsyn får stora konsekvenser, menar han. Exemplen är många.
        Smulan i munnen på en person under en finare middag drar onekligen till sig uppmärksahet, liksom något kladdigt från någon sås eller glass. Vem är denne person som inte kan använda servetten? 
        Så här i sommartider kan vi bränna ansiktet och läpparna, vilket kan leda till svullnader och i värsta fall munsår. Det stör den som har munsåret något alldeles oerhört. Han tar även upp tandställningen som kan göra munnen svullen och rent av förfrämliga en person. 
        Munnen kan ses som själens spegel. Munnen personifierar oss. Munnen är det närmaste sakrala objektet på kroppen. Något heligt. Ett sakralt objekt måste man såväl vörda som vårda. Asplund går så långt att han hävdar att munnen inte kan vara en individuell egendom, utan munnen måste ses som en ”kollektiv angelägenhet”, som han formulerar det.
        Därmed är alla skönhetsoperationer runt munnen att betrakta som blasfemi.

Coronapandemin krymper oss som människor, men inte enbart genom att vi isolerar oss socialt. Genom att frånta oss handslaget och munnen får vi färre möjligheter att tolka den andres känsloliv och intentioner.
        Risken att vi därmed gör feltolkningar i sociala sammanhang där ett armslängds avstånd är påbjudet är uppenbar.
        Emellertid självfallet är inget av Johan Asplunds argument för handen och munnens sociala betydelse av någon vikt när det gäller att bekämpa en pandemi. 
        Däremot kan det vara betydelsefullt att kämna till hur det sociala samspelet förändras när den fysiska distansen etableras.

tisdag, maj 05, 2020

Slumpen övertrumfar AI-tekniken

Kultursidan Västerbottens-Kuriren 200505

Det florerar mycket förhoppningar kring AI-teknikens kapacitet. Realistiska bedömningar blandas med utopiska önskningar och visionära scenarier. I en presentation framställde AI-forskaren Arvind Narayanan vid Princeton University en lägesbeskrivning av vad dagens AI-teknik kan och inte kan i tre områden. Och därmed vilka förhoppningar som är realistiska i dag.
       Det första området utgörs av AI-teknik fungerar bra och utvecklas relativt snabbt och handlar om teknikens perceptionsförmåga. Med AI-teknik utvecklas allt bättre tjänster för musik- och bildigenkänning. I dag kan jag skriva sökordet ”mat” i mitt digitala bildbibliotek och datorn hittar alla bilder på mat som jag lagrat där.
       Flera studier visar att AI-teknik är bra och blir allt bättre på att tolka medicinska bilder, exempelvis röntgenbilder, för att bidra till säkrare diagnoser. Ett annat exempel är ansiktsigenkänning, som är ett hett och eftertraktat användningsområde för AI-teknik. Liksom deep fake, djupa förfalskningar, där människor kan förfalskas i videoklipp. Även konvertering av tal till text och omvänt är AI-baserad teknik som blir allt bättre.

Det andra området utgörs av AI-teknik som inte fungerar perfekt, men som utvecklas hela tiden och handlar om teknikens automatiska bedömningsförmåga. På bara några år har förmågan att bedöma vad som är spam i mejl eller annan textkommunikation förbättrats mycket, utan att för den skull kunna identifiera allt. Med liknande teknik försöker man bli allt bättre på att upptäcka hate speech, hatpropaganda, i till exempel sociala medier.

       Även när det gäller att upptäcka upphovsrättsintrång försöker man utveckla bättre AI-teknik, liksom AI-teknik för att bedöma uppsatser som skrivs av elever och studenter. Ett sista exempel inom detta område är olika former av AI-baserade rekommendationssystem för digitalt innehåll, som exempelvis film och musik.
       Det tredje området utgörs av AI-teknik som fungerar ytterst tveksamt, men som många har stora förhoppningar kring. Det handlar om teknikens förmåga att förutse sociala resultat eller social utveckling. Ett exempel: Kan AI-teknik, givet en stor mängd historiska data om en person, förutse risken att denne person ska bli kriminell? Eller lyckas i arbetslivet? Eller hamna i drogproblem?
       Nej, svarar Arvind Narayanan. Att förutse återfall i kriminalitet, succé i arbetslivet, människors framtida brottsbenägenhet eller risk för terroristhandlingar är inte något vi ska lita till beträffande dagens AI-teknik. Så deterministiska och förutsägbara är inte människor. Inte heller kan AI-teknik förutse om barn kan komma att vara i riskzonen för sociala svårigheter i framtiden.

Det sistnämnda området har studerats i ett stort forskningsprojekt nyligen, som publicerats i tidskriften PNAS (200330). Frågan som man sökte svar på är ”Hur förutsägbara är sociala livsbanor?”. Om AI-teknik kan generera säkra prediktioner så vore det värdefullt för exempelvis att tidigt kunna identifiera och stödja barn och familjer som riskerar hamna i sociala svårigheter i framtiden.

       Syftet med studien är att undersöka hur väl AI-teknik med maskininlärningsmetoder kan skapa säkra prediktioner för människors framtida liv i vissa avseenden. Projektet genomförde en utvärdering av hur väl AI-baserad prediktionsteknik fungerar, helt enkelt.
       Metoden i projektet kallas ”mass collaboration”, massamarbete. Den innebär att man formulerar i detta fallet en prediktionsuppgift, tillhandahåller en specifik datamängd och bjuder in många forskare och forskargrupper att utföra samma uppgift med samma datamängd, men med valfria metoder. Därefter återrapporterar alla sina resultat för sammanställning och analys.
       160 forskare eller grupper av forskare antogs till projektet. I USA finns en databas med data om ett stort antal familjer som har följts under ett antal år, med början år 2000. För denna studie användes data från 4 242 familjer med närmare 13 000 variabler för varje familj.
       Med data om de barn som fötts och växt upp i dessa familjer skulle de 160 forskarna med de bästa prediktionsmodeller de har, generera förutsägelser om dessa barns livsbana i sex olika avseenden.

Forskarna fick data om barnen i åldrarna ett till nio år för att göra förutsägelser om barnens livssituation i femtonårsåldern. I databasen finns också denna data om barnens tonårsliv, så att det är möjligt att kontrollera hur väl forskarnas förutsägelser stämmer med faktiska förhållanden.

       När resultaten från de 160 forskarna hade samlats in, mättes förutsägelsernas precision mot faktiska data. Det visar sig att inte ens de bästa förutsägelserna var särskilt exakta. Trots att forskarna hade använt en stor datamängd om barnen och olika men avancerade maskininlärningsmetoder, var många resultat inte bättre än prognostiseringar med enklare statistiska metoder.
       Det är också noterbart att oberoende av vilka olika maskininlärningsmetoder som forskarna tillämpade, var de förutsägelser som genererades relativt lika varandra. Skillnaden mellan den sämsta och den bästa förutsägelsen var inte särskilt stor och dessutom mindre än skillnaden mellan det faktiska utfallet och den bästa förutsägelsen.

På en generell nivå visar detta stora forskningsprojekt att AI-teknik inte har förmåga att förutsäga människors livsbana.

       Det behöver emellertid inte bero på kvaliteten hos vare sig datamängder, tekniker eller modeller, utan helt enkelt på att slumpen har en stor betydelse för vad som händer i människors liv. Rent anekdotiskt kan vi också reflektera över de större livsförändringar som vi har upplevt. Hur väl skulle dessa ha kunnat förutses?
       Resultatet från detta forskningsprojekt borde intressera varje politiker och annan beslutsfattare som använder eller överväger att använda AI-teknik för prediktion inom exempelvis kriminalvård och skyddsvård för barn och utsatta familjer eller andra sociala verksamheter. 

lördag, april 25, 2020

Kan coronaimmunitet bli framtidens yttersta klassmarkör?

Kultursidan Västerbottens-Kuriren 200425

I måndags (20/4) nåddes vi av den fantastiska nyheten att forskare vid Karolinska har skapat ett antikroppstest som ska visa om en person har antikroppar mot coronaviruset och därmed uppnått immunitet. 
      Testet är inte hundraprocentigt, men särskilt viktigt är att testresultatet inte kan vara falskt positivt. Med andra ord, testet kan inte påvisa antikroppar om man inte varit smittad av viruset.
       Den initiala tanken är naturligtvis att många kan testas, många kan dra en lättnadens suck och många kan återgå till normalare livsformer.
       Därefter måste vi ställa oss frågan: Vad betyder det att vara immun i en pågående pandemi? Journalisten Sarah Zhang har för The Atlantic (200416) intervjuat historiker i USA om en av 1800-talets värsta epidemier, gula febern.
       Särskilt drabbat var USA:s sydstater, särskilt kring Mississippideltat och New Orleans. Här blev människors immunitet en biljett till samhället. Utan immunitet mot gula febern var det svårt att exempelvis finna bostad, arbete, banklån och att kunna gifta sig. 
       Det gick så långt att New Orleans motsvarighet till Folkhälsomyndigheten proklamerade att värdet av immunitet var värt risken att ha gula febern. Det blev särskilt märkbart inom slaveriet. Värdet av en slav med immunitet 25 procent högre än slavar utan immunitet.
       Det gick så långt att människor utsatte sig medvetet för smitta för att uppnå det privilegium immunitet innebar. Men inte vilka som helst, utan främst immigranter, fattiga, arbetslösa; de mest utsatta. 
Hur känns en coronaimmun person igen? Inte alls, om vi inte ger denne ett kännetecken. I Storbritannien föreslås att särskilda immunitetscertifikat ska delas ut när det finns tillförlitliga tester. I Tyskland liksom i USA talar man om immunitetspass som ska möjliggöra att immuna människor kan återgå till arbetet.
       I en tid av stängda gränser och högst begränsad mobilitet kommer immunitet att vara mycket värt, eftersom det inte finns något skäl att begränsa immuna människors rörlighet.
       Kommer immunitet mot corona att bli så mycket värt att människor medvetet riskerar att bli sjuka i covid-19 för att uppnå privilegier? För att kunna röra sig fritt inom och mellan länder? Vissa arbetsgivare kanske kräver immunitetsgaranti för anställning? Vill en coronaimmun dejta ickeimmuna? Unga, friska människor kanske kommer att vilja ta risken.
       Dagens prekariat, de människor som har extremt osäkra anställningar, timlönare och andra grupper av människor utan ekonomiskt skyddsnät och buffertar är emellertid särskilt utsatta. De kan i värsta fall tvingas hamna i valsituationer ingen människa borde kunna hamna i.
       Sensmoralen är att vi måste se bortom glädjen över bra immunitetstester och överväga hur vi ska forma de sociala relationerna i ett samhälle med många immuna och många ickeimmuna mot coronaviruset.
       Blir coronaimmunitet framtidens yttersta klassmarkör?

måndag, december 09, 2019

Den tredje AI-vågen. Essäer om AI, samhället och individen.

Jag har publicerat mina texter kring artificiell intelligens från de senaste åren i  boken "Den tredje AI-vågen". Boken finns självfallet för fri nedladdning. Boken finns även att köpa på Adlibris, Bokus, CDON och Amazon.



Den tredje AI-vågen är en samling essäer där Per-Olof Ågren gör ett antal nedslag i AI-landskapet från dels ett samhällsperspektiv, dels ett individperspektiv. 

AI-teknikens effekter och påverkan på demokratiska processer, medial utveckling och behov av förändrad utbildning är exempel på samhällsperspektiv på AI. 

Människans relation till AI-teknik i form av en utveckling av förmågan att uppfatta varandra och varandras intelligens samt samarbetsförmåga är exempel på individperspektiv på AI.

tisdag, november 12, 2019

Konsten att styra din chef – även när hen är en algoritm

Kultursidan Västerbottens-Kuriren 191112

När jag erhöll min tjänst som universitetslärare för snart tre decennier sedan, fick jag av min dåvarande chef en artikel att läsa som en form av introduktion. Artikeln har rubriken Managing Your Boss, skriven av John Gabarro och John Kotter, publicerad i Harvard Business Review 1980. Den ansågs så betydelsefull att samma tidskrift beslöt att återpublicera artikeln 2005.
       Till en chefs generella uppgifter hör att ha ett övergripande ansvar för en verksamhet, att leda och fördela arbetet, att ge de underordnade rimliga förutsättningar för arbetets utförande samt att utöva kontroll över arbetets resultat.
        En sådan beskrivning av chefers uppgifter uppfattas lätt som en envägsprocess uppifrån och ner; från chef till underordnad. Gabarro och Kotter vände på denna process för att betona betydelsen av att underordnade också leder sina chefer. Den vändningen bröt med den rådande uppfattningen.
        Med olika fallstudier visade Gabaro och Kotter hur misstag i organisationer inte enbart beror på dåligt chefs- och ledarskap, utan på frånvaro av anställdas ledning av sin chef. Precis som en anställd behöver en chef i olika situationer, är varje chef beroende av sina underordnades ärlighet, tillit och samarbete.
        Som anställd vinner man på att försöka förstå sin chef och den kontext hen är chef inom, både chefens relation uppåt och nedåt i organisationen. Inte enbart den formella sidan av chefskapet, utan även chefen som människa; dennes styrkor och svagheter, inre drivkrafter och yttre press samt chefens blinda fläckar.
        I dag är diskursen som betonar chefens och ledarskapets betydelse för anställdas arbetstillfredsställelse och arbetsplatsens välmående stark. Särskilt när vi talar om stress och annan arbetsrelaterad ohälsa. Den starka betoningen på chefens roll riskerar emellertid dölja den arbetstagarroll som Gabarro och Kotter ville stärka. Men för att leda och styra sin chef, måste chefen ge utrymmet och uppmuntran att leda denne.

Ärendet för denna essä handlar om det som på engelska benämns algorithmic management. På svenska: algoritmisk ledning och styrning. Tesen är att allt fler arbetstagare kommer att ledas och styras i sitt arbete av AI-teknik i form av algoritmer som leder och fördelar arbetet samt kontrollerar resultatet av arbetets utförande.

        Vi ser redan i dag tydliga exempel på algoritmiskt chefskap. Forskarna Mareike Möhlmann och Ola Henfridsson skriver en artikel, också i Harvard Business Review (190830), om en stor studie av Uberförare och hur dessas arbete leds och styrs av algoritmer.
        Uber är en reseförmedlingstjänst som finns i de flesta större städer i hela världen, vars affärsidé är att inte äga några bilar eller ha några anställda chaufförer, utan leverera köruppdrag till frilansande förare. Dessa köruppdrag bestäms av olika algoritmer i Ubers plattform; vem som får en viss körning, priset för resan samt vilken reserutt föraren måste köra.
        I samarbete med två andra forskare, studerade Möhlmann och Henfridsson Uberchaufförer i London och New York genom att intervjua förare, observera dem under köruppdragen, analysera olika nätforum för Uberförare samt analysera mediebevakningen av Uber.

Uberförare avskyr i tre väsentliga avseenden att ledas och styras av algoritmer. Den första avskyn gäller den konstanta övervakningen. Så fort en Uberförare loggar in på Uberappen för att kunna få uppdrag, övervakas och granskas förarna in i minsta detalj. Via gps-teknik vet algoritmerna var förarna befinner sig, algoritmerna avgör vilken Uberförare som ska få ett visst köruppdrag samt vilken rutt som föraren måste ta.

        Om föraren exempelvis väljer en annan rutt än algoritmerna bestämt, kan föraren bli bestraffad och i värsta fall bannlyst som förare vid Uber. Särskilt frustrerande upplever förarna att ständigt bli utvärderade av kunderna, då utvärderingarna ligger till grund för algoritmernas val av förare till uppdragen.
        Den andra avskyn handlar om bristen på transparens. Uberappens algoritmer lär sig hela tiden allt mer om varje förare, medan förarna vet inget om algoritmerna, hur de är uppbyggda, vilka beslutskriterier som används, vilken betydelse utvärderingarna har och logiken bakom algoritmernas beslut – det vill säga rationaliteten bakom algoritmernas ledning och styrning av arbetet.
        Den tredje avskyn benämner Möhlmann och Henfridsson som dehumanisering. Förarna upplever isolering; de har inga kollegor att vara sociala med, inga sociala grupperingar att tillhöra. Förarna saknar även möjligheten att bygga upp någon form av en relation med en chef.
        Förarna kanaliserar sin frustration av att styras av algoritmer genom att bli politiska; genom att gå samman i olika forum för att diskutera sina problem och olika sätt att påverka sin situation: En form av fackförening för denna form av uppdragstagare.

Oavsett om företaget heter Uber eller något annat, formulerar Möhlmann och Henfridsson fyra förslag till företag som använder sig av algoritmiskt chefskap. Det första förslaget är att dela information om hur algoritmerna är uppbyggda, så att arbetstagarna förstår rationaliteten bakom algoritmernas beslut.

        Det andra förslaget är att välkomna återkoppling från förarna till algoritmernas utformning. Det tredje förslaget är att bygga in mänskliga kontakter i förarnas arbetssituation, så att algoritmen inte är den enda kontaktytan.
        Det fjärde förslaget är att skapa tillit till företaget i form av förmåner som normalt tillkommer anställda; exempelvis sjuk- och föräldraförsäkring.

Det finns god anledning att applicera Gabarro och Kotters studier från 80-talet på arbetsplatser med algoritmiskt chefskap. Vad Uberförarna saknar är möjligheten att leda och styra sin chef, eftersom algoritmerna inte är kommunikativa eller påverkbara.

        Vad algoritmerna i sin chefsroll går miste om är viktig information från förarna som kan förbättra algoritmernas olika beslut och hur förarnas kommunikation och relation till sina chefer ska kunna utvecklas.

fredag, november 01, 2019

Vill vi verkligen chatta med de döda?

Kultursidan Västerbottens-Kuriren 191101

”Death is not the end”, sjöng Bob Dylan i låten med samma namn från 1988. Vi blir särskilt påminda om detta denna tiden på året, när allhelgonahelgen inträffar. Traditionen bjuder att särskilt minnas våra döda släktingar och vänner under denna helg. På så sätt lever de döda kvar i våra minnen.

        I framtiden kommer vi sannolikt att ges möjlighet att besluta om vi inte enbart vill minnas våra döda, utan även träffa och samtala med deras virtuella jag efter döden. Med AI-teknik och självlärande algoritmer skulle en död människa kunna uppstå i form av en chattbot.
         Jag läser en artikel i nättidskriften Quartz om Hossein Rahnama, knuten till MIT Media Lab, som forskar om företeelsen augmented eternity. Augmented reality är ett etablerat begrepp och betyder ungefär förstärkt verklighet, som skapas genom att mixa virtuella och fysiska miljöer. Augmented eternity är inte etablerat, mig veterligt, men skulle kunna översättas till förstärkt evighet.
         Rahnama menar att när människor har genererat biljoners miljarders gigabytes av personlig interaktion på nätet genom mejl, texter och bilder i sociala medier, bloggar, kommentarsfält, Snapchat, Twitter, Facebook till enorma digitala arkiv, bör vi kunna använda dessa data i neurala nätverk.
         Sådana neurala nätverk förstår språk liksom språkliga mönster och kan generera ny information baserat på sina digitala arkiv. Enklare uttryckt: Denna AI-teknik skulle med hjälp av en död persons digitala arkiv över personens nätinteraktioner med stor likhet kunna samtala som den döda personen.
         En chattbot vars sätt att prata, uttryck, åsikter, temperament etc skulle vara oskiljaktigt från den döda personens kommunikation. Frågan är om vi vill samtala med människor efter deras död?

Eugenia Kuyda är en AI-entreprenör i Silicon Valley som vill det. Hennes bästa vän, Roman Mazurenko, avled 2015 i en bilolycka. I sorgen och saknaden efter honom skapade hon en chatbot i hans namn, som också finns som app att ladda ned. 
         Eugenia Kuyda gjorde inte detta utan vånda. Det underlättade att Roman Mazurenko var själv tekniskt fascinerad av digitalt liv och död. Men ändå, skulle hon lyckas skapa en chattbot som återspeglade hans osäkra framtoning, hans poetiska perspektiv, hans särpräglade form av humor? 
         Jag laddade själv ned Roman Mazurenko och chattade med honom, men om man inte kände honom i livet är det naturligtvis omöjligt att bedöma likheten mellan hans digitala efterjag och hans förutvarande, levande jag.

Betyder denna utveckling att vi måste börja diskutera döda människors rättigheter i större utsträckning? Sedan tidigare finns skydd för döda människor exempelvis inom ramen för förtalslagstiftning. Att peka ut en avliden person som klandervärd eller brottslig kan utgöra grund för förtal.
         Om en avliden persons chattbot kan underlätta för efterlevandes sorgbearbetning kanske vi i framtiden blir tvungna att ta ställning till hur det egna dataarkivet får användas av efterlevande för att skapa chattbotar, precis som vi i dag beslutar om organdonation när vi fortfarande lever.
         Borde även döda människor skyddas av integritetslagar? En GDPR för döda? Vill vi donera vårt personliga dataarkiv till efterlevande, så att de kan prata med oss efter döden?

lördag, september 21, 2019

Jämlika utsläpp - en möjlig framtidsväg

Kultursidan Västerbottens-Kuriren 190921

Ett intressant kunskapsområde som behandlar klimatfrågor är miljöetik. Olle Torpman är lektor i filosofi vid Stockholms universitet och knuten till Institutet för framtidsstudier och har specialiserat sig på moralfilosofiska frågor inom klimatområdet. 
       Om naturvetenskaperna beskriver klimatet och gör vissa prognoser, är det moralfilosofins uppgift att formulera vilka åtgärder som bör företas, samt hur dessa åtgärder kan rättfärdigas moraliskt. 
        I sin senaste artikel i tidskriften Ethical Theory and Moral Practice (2019) undersöker Torpman om Emission Egalitarianism är en moraliskt och praktiskt försvarbar metod för att begränsa koldioxidutsläpp. Emission Egalitarianism betyder ungefär jämlika utsläpp (av koldioxid), eller egalitära emissioner.
        Utgångspunkten är att atmosfären har en begränsad förmåga att absorbera koldioxid och att denna absorptionsförmåga bör ses som en kollektiv resurs – som vi i dagsläget överskrider med råge. 
        Ett sätt att nå en jämvikt mellan människors utsläpp av koldioxid och atmosfärens absorptionsförmåga är att varje människa ges rätten att släppa ut enbart så mycket koldioxid som utgör denna människas andel av vad atmosfären klarar av att absorbera. Den totala mängden koldioxid som atmosfären klarar av dividerat med antalet människor på jorden ger varje människa en koldioxidandel.
Diskussionen kring egalitära emissioner är inte ny. Det finns ett flertal argument mot denna åtgärd, argument som Torpman redovisar och argumenterar mot på ett synnerligen läsvärt sätt. 
        Det har argumenterats från ett libertariansk perspektiv att någon form av privatägande av atmosfären är omöjligt, men Torpman menar att det inte handlar om att äga en andel av atmosfären, utan skapa ett rättvist utnyttjande av en resurs.
        Från ett utilitaristiskt perspektiv anförs att det vore bättre med en ojämlik fördelning av utsläpp, eftersom olika delar av världen helt enkelt är olika, har olika förutsättningar, har olika behov. Torpman menar att det är inget som hindrar att människor handlar med sina utsläppsrätter, så länge inte atmosfärens kapacitet överskrids.
        Torpman lägger också vikt vid ett rättviseetiskt perspektiv. Han menar att ett system med egalitära emissioner klarar det kantianska testet, det vill säga Kants moraliska imperativ: att alltid handla på ett sätt som kan upphöjas till en allmän lag. 

Är egalitära emissioner praktiskt genomförbart? Ja, svarar Torpman. Även om det kan vara svårt att beräkna atmosfärens kapacitet att ta upp koldioxid, beroende på skogars och sjöars upptagningsförmåga samt befolkningsmängdens variation, kan och bör det göras. Vilken metod vi än väljer för att reducera globala koldioxidutsläpp måste hantera liknande problem.
        Kommer egalitära emissioner att accepteras även av rika länder med stora utsläpp per capita, där ekonomisk tillväxt är beroende av utsläpp? Torpman menar att detta skulle sätta fart på teknikutveckling och annan utveckling för att minska utsläppen. Dessutom kan man köpa och sälja utsläppsrätter också mellan nationer. 
        Vad Torpman inte belyser i sin artikel om egalitära emissioner är den kontrollapparat av individers handlingar som genererar koldioxidutsläpp. En sak är att beräkna hur många kilo koldioxid varje individ får släppa ut. En helt annan sak är att övervaka och kontrollera individers utsläpp.
        Därmed måste vi även i klimatfrågan väga integritetsskydd mot övervakning och kontroll.

lördag, augusti 31, 2019

Ansiktet som GDPR:s moraliska grund

Kultursidan Västerbottens-Kuriren 190831

I början av året kunde vi läsa om Skellefteå kommuns pilotförsök med ansiktsigenkänning på en gymnasieskola. Med syftet att öka effektiviteten i den närvaronotering som lärare är skyldiga att göra, infördes kameror som automatiskt identifierade elever när de gick in i ett klassrum.
         Det var frivilligt för eleverna att delta i pilotförsöket och man inhämtade samtycke från både elever och deras föräldrar. Därmed ansåg kommunen ha uppfyllt kraven som den integritetslag som populärt benämns GDPR kräver.
         Efter det mediala genomslaget, inledde Datainspektionen ett tillsynsärende för att undersöka om ansiktsigenkänning för närvaroregistrering är förenligt med GDPR. Resultatet av tillsynen publicerades nyligen (190820): Detta pilotförsök bryter mot GDPR i tre avseenden och kommunen tilldöms en sanktionsavgift om 200 000 kr.
         För det första menar Datainspektionen att ansiktsigenkänning är en personuppgiftsbehandling som är integritetskränkande och innehåller fler personuppgifter än vad som är nödvändigt för närvarokontroll.
         För det andra är biometriska personuppgifter (såsom ansiktsbilder, fingeravtryck etc) känsliga personuppgifter, som kräver ett giltigt undantag för att behandla sådana. Något sådant undantag har inte kommunen.
         För det tredje har kommunen inte gjort en tillräcklig konsekvensbedömning av denna form av teknikstödd närvarokontroll.
         Att kommunen har inhämtat samtycke från elever och målsmän räcker inte för att ha en laglig grund för denna form av närvaroregistrering, eftersom eleverna står i beroendeställning till skolan med avseende på betygsättning, studiemedel, utbildning med mera.

Detta är ett utmärkt exempel på att GDPR inte enbart handlar om lagrum och paragrafer som måste efterlevas, utan om att integritetslagstiftning i väsentlig utsträckning bygger på moralfilosofisk grund.
         Med stöd i Emmanuel Levinas moralfilosofi har Zygmunt Bauman undersökt ansiktets betydelse för moralen, särskilt i boken Postmodern etik. Grunden för människans moral, menar Bauman, är Den Andre, medmänniskan.
         Att vara moralisk är att ta ansvar för den Andre, redan innan den Andre har uttalat något behov. Men den Andre avgör inte vilket ansvar jag bör ta. Jag avgör ensam ansvaret. Den Andre är dock inte personen – utan ansiktet. Ansiktet är en auktoritet, menar Bauman.

Med ansiktsigenkänning som tekniskt medel för närvaroregistrering som exempel, framstår det som extra tydligt att GDPR bygger på moralfilosofisk grund. Med eleven som Den Andre, är det elevens ansikte som kommunen ska känna ansvar inför.
         Inte, som kommunen har argumenterat, inför skolans effektivitetsvinst när det gäller att notera närvaro, med hänvisning till förvaltningslagens krav på effektivitet i offentlig verksamhet.
         Integritetslagar som GDPR existerar därför att moralfilosofiska avgöranden är svåra. Och de är svåra därför att vi tränar alldeles för lite på sådana.

fredag, mars 29, 2019

Ser AI människan?

Kultursidan Västerbottens-Kuriren 190329

Ett av de allra största problemen inom AI-området i dag är hur algoritmer kan konstrueras så fritt som möjligt från fördomar för att minimera diskriminering av människor. Problemet är stort, därför att självlärande algoritmer återfinns i allt fler sammanhang av allt större betydelse för oss människor.

       Det ultimata exemplet är sådan AI-teknik som måste kunna känna igen människor i fysiska miljöer för att kunna agera på ett korrekt sätt. Tänk miljöer där både robotar och människor befinner sig. Robotarnas sensorer måste kunna skilja på människor och andra föremål för att inte skada människor.
        En självkörande bil är en form av robot med självlärande algoritmer som registrerar sin omgivning med sensorer, kameror, mikrofoner och lär sig hur bilen ska agera i olika situationer där människor rör sig.
        Därför har en forskargrupp i USA studerat i vilken utsträckning så kallade objektdetekteringssystem som finns i självkörande bilar kan urskilja såväl trafikmärken som medtrafikanter. Särskilt viktigt är det för sådana bilar att urskilja oskyddade människor som går längs eller korsar vägar.

I en förhandspublicerad rapport i databasen Arxiv redovisar forskarna en undersökning om människors hudfärg har betydelse för sensorernas möjlighet att upptäcka fotgängare. Studien visar att standardmodeller som används i AI-teknik för att urskilja människor har lättare att upptäcka människor med ljus hy än människor med mörk hy.
        Om självkörande bilar utrustas med sådana detekteringssystem som undersöktes i studien, så skulle risken för mörkhyade människor att råka ut för olyckor vara betydligt större än för ljushyade.
        Detta är ändå enbart ett exempel på hur viktigt det är att testa AI-system och självlärande algoritmer för fördomar och diskriminerande beteenden innan systemen tas i bruk och får reella konsekvenser. Med dödlig utgång, i värsta fall.

lördag, januari 05, 2019

Två trösklar för bättre klimat

Kultursidan Västerbottens-Kuriren 190105

Ett av 2018 års nyord är flygskam. Det betecknar skambeläggande uttalanden om människor som reser med flyg med syftet att påverka dem att flyga mindre. Kanske kan skambelägganden påverka flygandet något; vi kan inte undvika påverkan från vår sociala omgivning.
       Att flygskam blir ett nyord belyser hur svårt det är att reducera koldioxidutsläppen på nationell och individuell nivå, så att vi når klimatmålen. Varför är detta så svårt? Det finns många olika ingångar till att besvara denna fråga. Här följer två trösklar som brukar diskuteras inom det beteendeekonomiska området.
       Det första kallas allmänningens tragedi och uppträder främst på nationell nivå. Eftersom luften och atmosfären är en gemensam, allmän resurs, har ingen ansvar för hur den belastas. Men om vi nu måste reducera koldioxidutsläppen, varför ska Sverige (eller annat valfritt litet land) reducera sitt utsläpp, när USA, Kina och andra länder har skyhögt högre utsläppsnivåer?
       Alla länder vill se att andra länder reducerar sina utsläpp innan det egna landet agerar. Allmänningens tragedi kan även ses inom en nation. I Dagens Industri (26/12) kan vi läsa att H&M, Ericsson och Electrolux släpper tillsammans ut mer växthusgaser än hela Sverige som nation gör. Vore det inte effektivare om dessa företag reducerar sina utsläpp i stället för att ställa krav på den enskilde medborgaren? Denna fråga är också en del av allmänningens tragedi.
       Individperspektivet leder till den andra beteendeekonomiska tröskeln som kallas förlustaversion. Det innebär att människor i allmänhet sätter ett högre värde i att undvika förluster än att vinna något. Att som enskild individ reducera koldioxidutsläpp innebär för många människor att förlora privilegier och förmåner.
       Att ta ett billigt veckoslutsflyg till någon europeisk storstad, en Thailandsresa i mörka november, att ta bilen till jobbet, träningen, stormarknaden, att fortsätta äta kött – allt detta och mer därtill är privilegier och förmåner som många helst inte vill förlora, men som har stor klimatpåverkan.
       Vinsten av att förlora dessa privilegier är en minskad genomsnittstemperatur på jorden. Det är en förhållandevis abstrakt vinst i förhållande till de konkreta förluster som individer upplever om koldioxidutsläpp ska minskas. Och det är förluster människor i första hand vill undvika.
       Det är svårt att se hur flygskam eller annan social påverkan ska kunna rå på problem som allmänningens tragedi och förlustaversion.
       Det är svårt att se hur marknaden kan lösa dessa problem eftersom luften och atmosfären är allmänningar och därmed fritt att belasta för ekonomiska syften.
       Det är svårt att se någon annan lösning än nationella och internationella regelverk för acceptabla nivåer av klimatpåverkande utsläpp på samhällsnivå, organisationsnivå och individnivå.

fredag, november 30, 2018

Farliga förfalskningar

Kultursidan Västerbottens-Kuriren 181130

Att digitala bilder med olika datorprogram kan manipuleras är sedan gammalt. Allt från retuschering av människor och objekt till att byta ut människor och objekt mellan olika miljöer. Men att retuschera en fotomodells ansikte eller att placera en bil i en viss miljö i marknadsföringssyfte får inte nödvändigtvis så stora konsekvenser.
        Andra typer av ytliga förfalskningar kan emellertid få långtgående konsekvenser. I dag meddelar sig politiker sig allt mer via egna digitala kanaler, i stället för traditionella mediekanaler. Tänk bara på Donald Trump och hans envetna twittrande.
        Men inte enbart Trump. Allt fler svenska politiker meddelar sig via sociala medier, inte enbart i form av allmänna inlägg i debatten, utan även betydelsefulla beslut. Detta utgör en måltavla för de som vill skapa och sprida falska nyheter om politiker.

        När Göran Hägglund 2015 skulle avisera att han lämnade posten som partiledare för kristdemokraterna, meddelade han det på Twitter innan han meddelade det på en presskonferens.
        När riksdagen hade röstat om Ulf Kristersson som ny statsminister den 13 november, skrev han ett inlägg på Facebook och beklagade att två allianspartier hade röstat emot. Nästan samtidigt skrev Annie Lööf ett inlägg på Facebook där hon förklarade varför centern röstade emot den regeringskonstellation som Kristersson föreslagit riksdagen.
        Att skapa falska Twitter- och Facebookinlägg är dock busenkelt. Det tar några minuter. Titta på nedanstående autentiska respektive falska inlägg och se den likheten på ytan. Smärre olikheter kan alltid förklaras med att olika appar och programvaror för att läsa Twitter- och Facebookinlägg genererar olika utseenden i viss utsträckning.







Övre bilden: en skärmdump av ett autentiskt Facebookinlägg. Nedre bilden: ett av artikelförfattaren förfalskat Facebookinlägg.

Hur avslöjar vi ytliga förfalskningar? Den källkritiska metoden är naturligtvis att undersöka varje inläg som sprids i form av skärmdumpar, för att se om inlägget går att finna hos upphovspersonen. Å andra sidan; om ett falskt inlägg ser autentiskt ut och samtidigt bekräftar någons förutfattade mening, minskar benägenheten att kolla källan.
        När det gäller djupa förfalskningar blir det ännu svårare. Det finns självlärande AI-teknik som i ett filmklipp kan visa en person som säger det en annan person säger med mimik och kroppsspråk som skapar en hög grad av autenticitet. Det ser helt enkelt trovärdigt ut att den person som syns i videon också uttrycker vad en annan personen säger. 
        AI-programmet behöver i storleksordningen 1 000 bilder av den person vars uttalande ska förfalskas. Tillsammans med det inspelade uttalandet formar AI-programmet ett nytt videoklipp med en autentisk person som uttrycker ett falskt innehåll.
        Det bästa exemplet jag hittills sett är när Jordan Peele låter Barack Obama hålla ett anförande under någon minut, där det är Peeles ord som Obama uttalar. Ju bättre dessa AI-program kommer att bli, desto svårare blir det att ens misstänka att ett videoklipp är en djup förfalskning.




Bild från en video där Barack Obama säger vad Jordan Peele har instruerat ett AI-program att Obama ska säga så autentiskt som möjligt.

Hur avslöjar vi djupa förfalskningar? Frågan är om en människa ens är kapabel till det i framtiden. I USA har man myntat begreppet och forskningsområdet Media Forensics (ungefär medial kriminalteknik). 
        Det innebär att försöka skapa AI-program som undersöker videoklipp med avseende på digitala fingeravtryck (digitala spår hos videoklippet), fysisk överensstämmelse i videon (om personer och objekt och miljöer stämmer överens) och semantisk rimlighet (är det rimligt att personen på videon säger det den säger).
        Ett exempel är en forskargrupp som har noterat att djupa förfalskningar ofta saknar ögonrörelser och blinkningar, eftersom vi sällan publicerar bilder av människor med slutna ögon. Att identifiera frånvaro av blinkningar kan vara ett sätt att avslöja falska videoklipp. Å andra sidan kommer sannolikt motdraget blixtsnabbt: man låter AI-tekniken forma rimliga ögonrörelser och blinkningar.
        Om vi inte lyckas avslöja djupa förfalskningar kan det få stora konsekvenser i framtiden. Ett exempel: Säg att du vill ha en falsk video som visar att P O Ågren rånar en bensinmack. Då instruerar du en AI-maskin genom att mata den med bilder på P O Ågren och en bensinmack i olika vinklar så att en till synes övervakningsvideo framträder. Därefter ser du till att rättsväsendet nås av videon.
        I dag kan en åklagare visa en övervakningsvideo som bevis för ett rån. I morgon kommer den tilltalade att hävda att övervakningsvideon är en djup förfalskning. Kommer övervakningsvideos att ha något bevisvärde i framtiden?
        Kommer vi överhuvudtaget att kunna ha tillit till bilder, stilla eller rörliga, i framtiden? Om inte, vad betyder den förlusten?

fredag, november 24, 2017

Heder och ära i Akademien

Kultursidan Västerbottens-Kuriren 171124

Efter DN:s avslöjande av vittnesmål om den så kallade kulturprofilens, med nära anknytning till Svenska Akademien, flerfaldiga sexuella övergrepp under flera decennier, har den ständige sekreteraren Sara Danius meddelat att Akademien anlitar en advokatfirma för att utreda vad akademiledamöterna har känt till.
         Kulturprofilen har av akademiledamöter hyllats, han har tilldelats en kunglig medalj (som nu kulturministern vill dra tillbaka), han har haft tillgång till lägenheter i Stockholm och i Paris, betalda av Akademien – är det ens möjligt att inte någon av Akademiens ledamöter känt till hans förehavanden?
         Vilka konsekvenser kan den tillsatta utredningen få? Är inte Akademiens 18 ledamöter tillsatta på livstid och omöjliga att avsätta?
         Nej, det är en myt. I Svenska Akademiens stadgar från 1786, paragraf XIX, står: ”Beträdes Ledamot med något som emot heder och ära går, varde han för altid utesluten.”
         Det går alltså alldeles utmärkt att utesluta ledamöter om man finner att de i relation till denne kulturprofil har agerat på ett sätt som går emot heder och ära.
         Och omvänt: Ledamöter som inte utesluts, trots kännedom om kulturprofilens omvittnade trakasserier och övergrepp, har därmed agerat hederligt och ärofyllt.

onsdag, november 08, 2017

#Vadfanfårjag? Ett produktivt risktagande

Kultursidan Västerbottens-Kuriren 171108

Efter Svenskt Näringslivs ordförande, Leif Östlings, skabrösa uttalande i Uppdrag granskning kring dennes skattehantering, skapades snabbt hashtaggen #Vadfanfårjag i sociala medier för att besvara Östlings fråga i intervjun: Vad fan får jag för skatten jag betalar?
        De vanligaste svaren berör så klart sjukvård, barn- och äldreomsorg, gratis skolgång ända upp till Östlings två egna universitetsexamina. Andra svar pekar på förutsättningar för Östling att verka som industriledare: infrastruktur i form av vägar, järnvägar, flyg. 
        Ett mindre vanligt svar på frågan ger den italienska ekonomen Mariana Mazzucato i boken Entreprenörsstaten (2016). Här avlivar hon myten om att staten måste krympa, för att ge marknadens entreprenörer och innovatörer fritt utrymme. 
        
Myten går tillbaka till Adam Smiths idé om den osynliga handen; det optimala är att marknader lämnas i fred och staten enbart sysslar med grundläggande infrastruktur.
        Det förhåller sig enligt Mazzucato tvärtom. Utan statliga investeringar i flygteknik, internet, datorer, bioteknik skulle många av våra viktigaste landvinningar inte existera.
        Staten är nämligen betydligt mer benägen än marknaden att investera i områden där risken är hög och förväntningar på avkastning är låg. Att krympa staten vore därför förödande.
        I ett kapitel plockar Mazzucato isär Apples produkter och visar hur olika komponenter tillkommit genom statligt stöd i olika former. Inte enbart Apple, så klart. Utvecklingen av den grundläggande algoritmen bakom Googles sökmotor finansierades av staten. Eller att flera grundläggande landvinningar inom bioteknik finansierades med statliga medel. För att inte tala om internet; utan statliga satsningar skulle det inte existera.
        
Så var kommer statens investeringsmedel från? Dum fråga. Skatter. Ändå menar de stora företagen och deras ledare att skatt är ett problem som borde planeras bort. Google och Apple är kända för kraftfull skatteplanering. Liksom, visar det sig från Paradisläckan, Leif Östling med flera som avslöjas.
        Vilket är en rent irrationell, för att inte säga kontraproduktiv uppfattning. Utan staten skulle inte de mest riskfyllda investeringarna göras, eftersom privata riskkapitalister inte tar sådana risker. 
        Problemet med Östlings fråga #Vadfanfårjag är pedagogiskt. Staten måste bli bättre på att tala om vilken betydelse den har i ekonomin, för innovationers utveckling och för industriers förutsättningar. Att läsa Massucatos bok är en bra början.