Basinkomst som fuck off-kapital

Kultursidan Västerbottens-Kuriren 201112

Jag får en inbjudan till ett webinarium från Institutet för framtidsstudier kring basinkomst. Med basinkomst, eller medborgarlön som det också kallas, avses att alla medborgare i ett samhälle erhåller en låg, men villkorslös inkomst. Detta webinarium handlar om lärdomar av experiment med basinkomst i Finland och Nederländerna.
     Samtidigt läser jag två skrämmande reportage i Dagens ETC om arbetsförhållandena på Apoteas centrallager, där ett stort antal människor har intervjuats.
      De beskriver arbetsledare som inte släpper ut personalen efter arbetsdagen utan tvingar dem till övertid utan framförhållning, chefer som övervakar anställda minutiöst, som kontrollerar tid för toalettbesök och låser toaletterna som straff om besöken blir för långa, utdelar kollektiv bestraffning med mera.
      Tragiskt är också att anställda upplever facket tandlöst. Dock har Unionen aviserat att man avser att granska arbetsförhållandena.
      Visst finns det många obesvarade frågor kring basinkomst – samhällseffektivitet, kostnader, människors beteendeförändringar, förändringar av arbetsmarknader och så vidare.
      Men, tänker jag, den allra största vinsten med basinkomst är att anställda får det jag brukar kalla fuck off-kapital; att snabbt kunna lämna arbetsplatser med urusel arbetsmiljö därför att basinkomsten ger resurser att överleva ekonomiskt en tid.
      Den arbetsmiljö reportagen i Dagens ETC beskriver skulle inte kunna vidmakthållas om basinkomst existerade.

Slumpen övertrumfar AI-tekniken

Kultursidan Västerbottens-Kuriren 200505

Det florerar mycket förhoppningar kring AI-teknikens kapacitet. Realistiska bedömningar blandas med utopiska önskningar och visionära scenarier. I en presentation framställde AI-forskaren Arvind Narayanan vid Princeton University en lägesbeskrivning av vad dagens AI-teknik kan och inte kan i tre områden. Och därmed vilka förhoppningar som är realistiska i dag.
       Det första området utgörs av AI-teknik fungerar bra och utvecklas relativt snabbt och handlar om teknikens perceptionsförmåga. Med AI-teknik utvecklas allt bättre tjänster för musik- och bildigenkänning. I dag kan jag skriva sökordet ”mat” i mitt digitala bildbibliotek och datorn hittar alla bilder på mat som jag lagrat där.
       Flera studier visar att AI-teknik är bra och blir allt bättre på att tolka medicinska bilder, exempelvis röntgenbilder, för att bidra till säkrare diagnoser. Ett annat exempel är ansiktsigenkänning, som är ett hett och eftertraktat användningsområde för AI-teknik. Liksom deep fake, djupa förfalskningar, där människor kan förfalskas i videoklipp. Även konvertering av tal till text och omvänt är AI-baserad teknik som blir allt bättre.

Det andra området utgörs av AI-teknik som inte fungerar perfekt, men som utvecklas hela tiden och handlar om teknikens automatiska bedömningsförmåga. På bara några år har förmågan att bedöma vad som är spam i mejl eller annan textkommunikation förbättrats mycket, utan att för den skull kunna identifiera allt. Med liknande teknik försöker man bli allt bättre på att upptäcka hate speech, hatpropaganda, i till exempel sociala medier.
       Även när det gäller att upptäcka upphovsrättsintrång försöker man utveckla bättre AI-teknik, liksom AI-teknik för att bedöma uppsatser som skrivs av elever och studenter. Ett sista exempel inom detta område är olika former av AI-baserade rekommendationssystem för digitalt innehåll, som exempelvis film och musik.
       Det tredje området utgörs av AI-teknik som fungerar ytterst tveksamt, men som många har stora förhoppningar kring. Det handlar om teknikens förmåga att förutse sociala resultat eller social utveckling. Ett exempel: Kan AI-teknik, givet en stor mängd historiska data om en person, förutse risken att denne person ska bli kriminell? Eller lyckas i arbetslivet? Eller hamna i drogproblem?
       Nej, svarar Arvind Narayanan. Att förutse återfall i kriminalitet, succé i arbetslivet, människors framtida brottsbenägenhet eller risk för terroristhandlingar är inte något vi ska lita till beträffande dagens AI-teknik. Så deterministiska och förutsägbara är inte människor. Inte heller kan AI-teknik förutse om barn kan komma att vara i riskzonen för sociala svårigheter i framtiden.

Det sistnämnda området har studerats i ett stort forskningsprojekt nyligen, som publicerats i tidskriften PNAS (200330). Frågan som man sökte svar på är ”Hur förutsägbara är sociala livsbanor?”. Om AI-teknik kan generera säkra prediktioner så vore det värdefullt för exempelvis att tidigt kunna identifiera och stödja barn och familjer som riskerar hamna i sociala svårigheter i framtiden.
       Syftet med studien är att undersöka hur väl AI-teknik med maskininlärningsmetoder kan skapa säkra prediktioner för människors framtida liv i vissa avseenden. Projektet genomförde en utvärdering av hur väl AI-baserad prediktionsteknik fungerar, helt enkelt.
       Metoden i projektet kallas ”mass collaboration”, massamarbete. Den innebär att man formulerar i detta fallet en prediktionsuppgift, tillhandahåller en specifik datamängd och bjuder in många forskare och forskargrupper att utföra samma uppgift med samma datamängd, men med valfria metoder. Därefter återrapporterar alla sina resultat för sammanställning och analys.
       160 forskare eller grupper av forskare antogs till projektet. I USA finns en databas med data om ett stort antal familjer som har följts under ett antal år, med början år 2000. För denna studie användes data från 4 242 familjer med närmare 13 000 variabler för varje familj.
       Med data om de barn som fötts och växt upp i dessa familjer skulle de 160 forskarna med de bästa prediktionsmodeller de har, generera förutsägelser om dessa barns livsbana i sex olika avseenden.

Forskarna fick data om barnen i åldrarna ett till nio år för att göra förutsägelser om barnens livssituation i femtonårsåldern. I databasen finns också denna data om barnens tonårsliv, så att det är möjligt att kontrollera hur väl forskarnas förutsägelser stämmer med faktiska förhållanden.
       När resultaten från de 160 forskarna hade samlats in, mättes förutsägelsernas precision mot faktiska data. Det visar sig att inte ens de bästa förutsägelserna var särskilt exakta. Trots att forskarna hade använt en stor datamängd om barnen och olika men avancerade maskininlärningsmetoder, var många resultat inte bättre än prognostiseringar med enklare statistiska metoder.
       Det är också noterbart att oberoende av vilka olika maskininlärningsmetoder som forskarna tillämpade, var de förutsägelser som genererades relativt lika varandra. Skillnaden mellan den sämsta och den bästa förutsägelsen var inte särskilt stor och dessutom mindre än skillnaden mellan det faktiska utfallet och den bästa förutsägelsen.

På en generell nivå visar detta stora forskningsprojekt att AI-teknik inte har förmåga att förutsäga människors livsbana.
       Det behöver emellertid inte bero på kvaliteten hos vare sig datamängder, tekniker eller modeller, utan helt enkelt på att slumpen har en stor betydelse för vad som händer i människors liv. Rent anekdotiskt kan vi också reflektera över de större livsförändringar som vi har upplevt. Hur väl skulle dessa ha kunnat förutses?
       Resultatet från detta forskningsprojekt borde intressera varje politiker och annan beslutsfattare som använder eller överväger att använda AI-teknik för prediktion inom exempelvis kriminalvård och skyddsvård för barn och utsatta familjer eller andra sociala verksamheter. 

Kan coronaimmunitet bli framtidens yttersta klassmarkör?

Kultursidan Västerbottens-Kuriren 200425

I måndags (20/4) nåddes vi av den fantastiska nyheten att forskare vid Karolinska har skapat ett antikroppstest som ska visa om en person har antikroppar mot coronaviruset och därmed uppnått immunitet. 
      Testet är inte hundraprocentigt, men särskilt viktigt är att testresultatet inte kan vara falskt positivt. Med andra ord, testet kan inte påvisa antikroppar om man inte varit smittad av viruset.
       Den initiala tanken är naturligtvis att många kan testas, många kan dra en lättnadens suck och många kan återgå till normalare livsformer.
       Därefter måste vi ställa oss frågan: Vad betyder det att vara immun i en pågående pandemi? Journalisten Sarah Zhang har för The Atlantic (200416) intervjuat historiker i USA om en av 1800-talets värsta epidemier, gula febern.
       Särskilt drabbat var USA:s sydstater, särskilt kring Mississippideltat och New Orleans. Här blev människors immunitet en biljett till samhället. Utan immunitet mot gula febern var det svårt att exempelvis finna bostad, arbete, banklån och att kunna gifta sig. 
       Det gick så långt att New Orleans motsvarighet till Folkhälsomyndigheten proklamerade att värdet av immunitet var värt risken att ha gula febern. Det blev särskilt märkbart inom slaveriet. Värdet av en slav med immunitet 25 procent högre än slavar utan immunitet.
       Det gick så långt att människor utsatte sig medvetet för smitta för att uppnå det privilegium immunitet innebar. Men inte vilka som helst, utan främst immigranter, fattiga, arbetslösa; de mest utsatta. 

Hur känns en coronaimmun person igen? Inte alls, om vi inte ger denne ett kännetecken. I Storbritannien föreslås att särskilda immunitetscertifikat ska delas ut när det finns tillförlitliga tester. I Tyskland liksom i USA talar man om immunitetspass som ska möjliggöra att immuna människor kan återgå till arbetet.
       I en tid av stängda gränser och högst begränsad mobilitet kommer immunitet att vara mycket värt, eftersom det inte finns något skäl att begränsa immuna människors rörlighet.
       Kommer immunitet mot corona att bli så mycket värt att människor medvetet riskerar att bli sjuka i covid-19 för att uppnå privilegier? För att kunna röra sig fritt inom och mellan länder? Vissa arbetsgivare kanske kräver immunitetsgaranti för anställning? Vill en coronaimmun dejta ickeimmuna? Unga, friska människor kanske kommer att vilja ta risken.
       Dagens prekariat, de människor som har extremt osäkra anställningar, timlönare och andra grupper av människor utan ekonomiskt skyddsnät och buffertar är emellertid särskilt utsatta. De kan i värsta fall tvingas hamna i valsituationer ingen människa borde kunna hamna i.
       Sensmoralen är att vi måste se bortom glädjen över bra immunitetstester och överväga hur vi ska forma de sociala relationerna i ett samhälle med många immuna och många ickeimmuna mot coronaviruset.
       Blir coronaimmunitet framtidens yttersta klassmarkör?

Florence Nightingale banade väg för AI i vården

Kultursidan Västerbottens-Kuriren 200211

Inom den offentliga sektorn har de senaste decennierna höjts synnerligen kritiska röster kring införandet av New Public Management. Det är, något förenklat, en form av resultatorienterad organisationsstyrning som utgår från att verksamheter kan och bör effektiviseras med hjälp av mätbara prestationer och utvärderingar.
        En effekt av denna styrform är att kraven på dokumentation av olika aktiviteter ökar för att kunna mäta och öka effektiviteten. Kritiken mot ökad administration och dokumentation  hörs från många håll, exempelvis lärare som måste använda tid till dokumentation i stället för undervisning.
        Kritiken hörs även från vårdsektorn. I Läkartidningen (190703) presenteras en konsultrapport där man har mätt läkares användning av sin arbetstid för olika arbetsuppgifter. 1 228 läkare har besvarat en enkät, där läkarna fick själv skatta hur deras arbetstid fördelades.
        Rapporten visar att läkare lägger i genomsnitt 19 procent av sin arbetstid på administration och dokumentation. Det kan uppfattas som tid som stjäls från patienterna. Med mindre dokumentationsbörda skulle läkare kunna träffa, diagnostisera och behandla fler patienter.
         Tesen för denna essä är emellertid att vad vården och framtidens patienter behöver är mer och tillgängligare dokumentation av patientdata.
         Vilken yrkeskategori som ska utföra dokumentationsarbetet är en annan, organisatorisk, fråga. Det är sannolikt inte alltid läkare som behöver dokumentera patientdata. Vårdadministratörer, sjuksköterskor och läkarassistenter som bistår läkare med olika uppgifter kan utföra dokumentationsarbete. 

Varför pläderar jag för mer och tillgängligare patientdata? Ju mer teknik i form av artificiell intelligens hittar tillämpningsområden i vården, desto mer behöver denna teknik stora mängder data med hög kvalitet för att kunna utföra sina uppgifter. I dag är användning av AI i den svenska vården relativt begränsad, enligt en rapport från Socialstyrelsen som presenteras i Läkartidningen (191031).
         Däremot bedrivs mycket positiv forskning om AI i vårdsammanhang, vilket antyder att det bara är en tidsfråga innan AI-teknik blir allt vanligare inslag i läkares och annan vårdpersonals verktygslåda.
        Den vårdrelaterade AI-forskning som syns mycket är AI-maskiner som lär sig att granska olika typer av röntgenbilder. Det är inte så konstigt; bild- och mönsterigenkänning är ett stort forskningsfält inom AI även utanför vårdsektorn. Ansiktsigenkänning och självkörande bilars objektdetektionsteknik är bara två exempel.
         I tidskriften Nature (200101) presenterar ett forskarlag en studie, där de har tränat ett AI-system att upptäcka bröstcancer utifrån mammografibilder. Att tolka dessa bilder är inte trivialt, även för tränade läkare och radiologer.
         AI-systemet matades med närmare 30 000 mammografibilder, där bedömningar redan gjorts av läkare. Det visar sig att AI-systemet kunde upptäcka fler fall av cancer än läkarna kunde. Exempelvis kunde AI-systemet minska andelen falska negativa resultat med 9,4 procent, det vill säga resultat som inte upptäckt cancer där det förekommer cancer.
         AI-systemet kunde alltså upptäcka fler cancerfall än läkarna. Men det förekom även cancerupptäckter från läkare som AI-systemet inte upptäckte. Det leder till en av mina ständiga käpphästar: det är samarbetet mellan en yrkesprofessionell och AI-teknik som är det väsentliga, inte någon form av strikt arbetsdelning.  AI skulle emellertid kunna användas till så mycket mer än att tolka röntgenbilder. 

Den förträffliga boken AIQ. Hur artificiell intelligens fungerar av Nick Polson och James Scott (Daidalos, 2019) besvarar ett flertal frågor som ger grundläggande kunskaper om AI.         Hur fungerar algoritmerna hos medieplattformar som exempelvis Netflix och hur används de? Hur fungerar algoritmer för mönster- och bildigenkänning? Hur fungerar självkörande bilars algoritmer för att styra och positionsbestämma rörliga fordon? Hur lär sig datorer naturligt, mänskligt språk? Hur används AI för att spåra bedrägligt beteende i digitala miljöer?
        Dessutom, med avseende på denna essä: Hur kan AI användas inom sjukvården för att effektivisera behandling och förutse sjukdomsutveckling? Polson och Scott börjar med Florence Nightingale på 1800-talet. Hennes förtjänster för sjuksköterskeyrket kan knappast överskattas. Men ännu viktigare är hennes pionjärinsatser för vårdstatistik och patientdata. 
        I sitt arbete inledde hon vad som i dag är medicinsk dataforskning och de sjukdomsklassificeringssystem som är oundgängliga inom exempelvis epidemiologin.        Polson och Scott exemplifierar med ett patientfall. En frekvent vårdsökande patient med flertalet symptom (diabetes, hjärtsvikt, njurproblem med mera) skulle kunnat räddats, om tillräcklig patientdata fanns dokumenterad och tillgänglig för ett AI-system, dels från patienten själv, dels från tusentals andra patienter.
        Med sådan teknik kan man skapa patientvård utanför vården, så att säga. Generellt är vårdpersonal fokuserad på nuet, patientens tillstånd vid själva vårdbesöket (visst, man tar ofta också anamnes). Men med stora mängder patientdata skulle även patienters sjukdomsutveckling och framtida sjukdomstillstånd förutsägas med hjälp av maskininlärningsteknik.  

Det låter enkelt. Ett väsentligt problem är enkel tillgång till patientdata. Ju mer vården privatiseras, desto större svårighet att få tillgång till patientdata. I USA tenderar privata vårdgivare att betrakta patientdata närmast som affärshemligheter.
         Ett annat problem är bristande standarder. Olika journalsystem och andra patientdatasystem är inte nödvändigtvis kompatibla så att data kan överföras mellan olika system. Ett tredje problem berör naturligtigvis integritetsfrågor. Patientdata är något av det integritetskänsligaste som finns.
        Men icke desto mindre håller jag för sannolikt att inom en snar framtid kommer vi att vilja rädda liv med hjälp av AI-teknik i vården. Frågan är bara om vi är organisatoriskt beredda. 

Konsten att styra din chef – även när hen är en algoritm

Kultursidan Västerbottens-Kuriren 191112

När jag erhöll min tjänst som universitetslärare för snart tre decennier sedan, fick jag av min dåvarande chef en artikel att läsa som en form av introduktion. Artikeln har rubriken Managing Your Boss, skriven av John Gabarro och John Kotter, publicerad i Harvard Business Review 1980. Den ansågs så betydelsefull att samma tidskrift beslöt att återpublicera artikeln 2005.
       Till en chefs generella uppgifter hör att ha ett övergripande ansvar för en verksamhet, att leda och fördela arbetet, att ge de underordnade rimliga förutsättningar för arbetets utförande samt att utöva kontroll över arbetets resultat.
        En sådan beskrivning av chefers uppgifter uppfattas lätt som en envägsprocess uppifrån och ner; från chef till underordnad. Gabarro och Kotter vände på denna process för att betona betydelsen av att underordnade också leder sina chefer. Den vändningen bröt med den rådande uppfattningen.
        Med olika fallstudier visade Gabaro och Kotter hur misstag i organisationer inte enbart beror på dåligt chefs- och ledarskap, utan på frånvaro av anställdas ledning av sin chef. Precis som en anställd behöver en chef i olika situationer, är varje chef beroende av sina underordnades ärlighet, tillit och samarbete.
        Som anställd vinner man på att försöka förstå sin chef och den kontext hen är chef inom, både chefens relation uppåt och nedåt i organisationen. Inte enbart den formella sidan av chefskapet, utan även chefen som människa; dennes styrkor och svagheter, inre drivkrafter och yttre press samt chefens blinda fläckar.
        I dag är diskursen som betonar chefens och ledarskapets betydelse för anställdas arbetstillfredsställelse och arbetsplatsens välmående stark. Särskilt när vi talar om stress och annan arbetsrelaterad ohälsa. Den starka betoningen på chefens roll riskerar emellertid dölja den arbetstagarroll som Gabarro och Kotter ville stärka. Men för att leda och styra sin chef, måste chefen ge utrymmet och uppmuntran att leda denne.

Ärendet för denna essä handlar om det som på engelska benämns algorithmic management. På svenska: algoritmisk ledning och styrning. Tesen är att allt fler arbetstagare kommer att ledas och styras i sitt arbete av AI-teknik i form av algoritmer som leder och fördelar arbetet samt kontrollerar resultatet av arbetets utförande.
        Vi ser redan i dag tydliga exempel på algoritmiskt chefskap. Forskarna Mareike Möhlmann och Ola Henfridsson skriver en artikel, också i Harvard Business Review (190830), om en stor studie av Uberförare och hur dessas arbete leds och styrs av algoritmer.
        Uber är en reseförmedlingstjänst som finns i de flesta större städer i hela världen, vars affärsidé är att inte äga några bilar eller ha några anställda chaufförer, utan leverera köruppdrag till frilansande förare. Dessa köruppdrag bestäms av olika algoritmer i Ubers plattform; vem som får en viss körning, priset för resan samt vilken reserutt föraren måste köra.
        I samarbete med två andra forskare, studerade Möhlmann och Henfridsson Uberchaufförer i London och New York genom att intervjua förare, observera dem under köruppdragen, analysera olika nätforum för Uberförare samt analysera mediebevakningen av Uber.

Uberförare avskyr i tre väsentliga avseenden att ledas och styras av algoritmer. Den första avskyn gäller den konstanta övervakningen. Så fort en Uberförare loggar in på Uberappen för att kunna få uppdrag, övervakas och granskas förarna in i minsta detalj. Via gps-teknik vet algoritmerna var förarna befinner sig, algoritmerna avgör vilken Uberförare som ska få ett visst köruppdrag samt vilken rutt som föraren måste ta.
        Om föraren exempelvis väljer en annan rutt än algoritmerna bestämt, kan föraren bli bestraffad och i värsta fall bannlyst som förare vid Uber. Särskilt frustrerande upplever förarna att ständigt bli utvärderade av kunderna, då utvärderingarna ligger till grund för algoritmernas val av förare till uppdragen.
        Den andra avskyn handlar om bristen på transparens. Uberappens algoritmer lär sig hela tiden allt mer om varje förare, medan förarna vet inget om algoritmerna, hur de är uppbyggda, vilka beslutskriterier som används, vilken betydelse utvärderingarna har och logiken bakom algoritmernas beslut – det vill säga rationaliteten bakom algoritmernas ledning och styrning av arbetet.
        Den tredje avskyn benämner Möhlmann och Henfridsson som dehumanisering. Förarna upplever isolering; de har inga kollegor att vara sociala med, inga sociala grupperingar att tillhöra. Förarna saknar även möjligheten att bygga upp någon form av en relation med en chef.
        Förarna kanaliserar sin frustration av att styras av algoritmer genom att bli politiska; genom att gå samman i olika forum för att diskutera sina problem och olika sätt att påverka sin situation: En form av fackförening för denna form av uppdragstagare.

Oavsett om företaget heter Uber eller något annat, formulerar Möhlmann och Henfridsson fyra förslag till företag som använder sig av algoritmiskt chefskap. Det första förslaget är att dela information om hur algoritmerna är uppbyggda, så att arbetstagarna förstår rationaliteten bakom algoritmernas beslut.
        Det andra förslaget är att välkomna återkoppling från förarna till algoritmernas utformning. Det tredje förslaget är att bygga in mänskliga kontakter i förarnas arbetssituation, så att algoritmen inte är den enda kontaktytan.
        Det fjärde förslaget är att skapa tillit till företaget i form av förmåner som normalt tillkommer anställda; exempelvis sjuk- och föräldraförsäkring.

Det finns god anledning att applicera Gabarro och Kotters studier från 80-talet på arbetsplatser med algoritmiskt chefskap. Vad Uberförarna saknar är möjligheten att leda och styra sin chef, eftersom algoritmerna inte är kommunikativa eller påverkbara.
        Vad algoritmerna i sin chefsroll går miste om är viktig information från förarna som kan förbättra algoritmernas olika beslut och hur förarnas kommunikation och relation till sina chefer ska kunna utvecklas.

Vill vi verkligen chatta med de döda?

Kultursidan Västerbottens-Kuriren 191101

”Death is not the end”, sjöng Bob Dylan i låten med samma namn från 1988. Vi blir särskilt påminda om detta denna tiden på året, när allhelgonahelgen inträffar. Traditionen bjuder att särskilt minnas våra döda släktingar och vänner under denna helg. På så sätt lever de döda kvar i våra minnen.
        I framtiden kommer vi sannolikt att ges möjlighet att besluta om vi inte enbart vill minnas våra döda, utan även träffa och samtala med deras virtuella jag efter döden. Med AI-teknik och självlärande algoritmer skulle en död människa kunna uppstå i form av en chattbot.
         Jag läser en artikel i nättidskriften Quartz om Hossein Rahnama, knuten till MIT Media Lab, som forskar om företeelsen augmented eternity. Augmented reality är ett etablerat begrepp och betyder ungefär förstärkt verklighet, som skapas genom att mixa virtuella och fysiska miljöer. Augmented eternity är inte etablerat, mig veterligt, men skulle kunna översättas till förstärkt evighet.
         Rahnama menar att när människor har genererat biljoners miljarders gigabytes av personlig interaktion på nätet genom mejl, texter och bilder i sociala medier, bloggar, kommentarsfält, Snapchat, Twitter, Facebook till enorma digitala arkiv, bör vi kunna använda dessa data i neurala nätverk.
         Sådana neurala nätverk förstår språk liksom språkliga mönster och kan generera ny information baserat på sina digitala arkiv. Enklare uttryckt: Denna AI-teknik skulle med hjälp av en död persons digitala arkiv över personens nätinteraktioner med stor likhet kunna samtala som den döda personen.
         En chattbot vars sätt att prata, uttryck, åsikter, temperament etc skulle vara oskiljaktigt från den döda personens kommunikation. Frågan är om vi vill samtala med människor efter deras död?

Eugenia Kuyda är en AI-entreprenör i Silicon Valley som vill det. Hennes bästa vän, Roman Mazurenko, avled 2015 i en bilolycka. I sorgen och saknaden efter honom skapade hon en chatbot i hans namn, som också finns som app att ladda ned. 
         Eugenia Kuyda gjorde inte detta utan vånda. Det underlättade att Roman Mazurenko var själv tekniskt fascinerad av digitalt liv och död. Men ändå, skulle hon lyckas skapa en chattbot som återspeglade hans osäkra framtoning, hans poetiska perspektiv, hans särpräglade form av humor? 
         Jag laddade själv ned Roman Mazurenko och chattade med honom, men om man inte kände honom i livet är det naturligtvis omöjligt att bedöma likheten mellan hans digitala efterjag och hans förutvarande, levande jag.

Betyder denna utveckling att vi måste börja diskutera döda människors rättigheter i större utsträckning? Sedan tidigare finns skydd för döda människor exempelvis inom ramen för förtalslagstiftning. Att peka ut en avliden person som klandervärd eller brottslig kan utgöra grund för förtal.
         Om en avliden persons chattbot kan underlätta för efterlevandes sorgbearbetning kanske vi i framtiden blir tvungna att ta ställning till hur det egna dataarkivet får användas av efterlevande för att skapa chattbotar, precis som vi i dag beslutar om organdonation när vi fortfarande lever.
         Borde även döda människor skyddas av integritetslagar? En GDPR för döda? Vill vi donera vårt personliga dataarkiv till efterlevande, så att de kan prata med oss efter döden?

Jämlika utsläpp - en möjlig framtidsväg

Kultursidan Västerbottens-Kuriren 190921

Ett intressant kunskapsområde som behandlar klimatfrågor är miljöetik. Olle Torpman är lektor i filosofi vid Stockholms universitet och knuten till Institutet för framtidsstudier och har specialiserat sig på moralfilosofiska frågor inom klimatområdet. 
       Om naturvetenskaperna beskriver klimatet och gör vissa prognoser, är det moralfilosofins uppgift att formulera vilka åtgärder som bör företas, samt hur dessa åtgärder kan rättfärdigas moraliskt. 
        I sin senaste artikel i tidskriften Ethical Theory and Moral Practice (2019) undersöker Torpman om Emission Egalitarianism är en moraliskt och praktiskt försvarbar metod för att begränsa koldioxidutsläpp. Emission Egalitarianism betyder ungefär jämlika utsläpp (av koldioxid), eller egalitära emissioner.
        Utgångspunkten är att atmosfären har en begränsad förmåga att absorbera koldioxid och att denna absorptionsförmåga bör ses som en kollektiv resurs – som vi i dagsläget överskrider med råge. 
        Ett sätt att nå en jämvikt mellan människors utsläpp av koldioxid och atmosfärens absorptionsförmåga är att varje människa ges rätten att släppa ut enbart så mycket koldioxid som utgör denna människas andel av vad atmosfären klarar av att absorbera. Den totala mängden koldioxid som atmosfären klarar av dividerat med antalet människor på jorden ger varje människa en koldioxidandel.

Diskussionen kring egalitära emissioner är inte ny. Det finns ett flertal argument mot denna åtgärd, argument som Torpman redovisar och argumenterar mot på ett synnerligen läsvärt sätt. 
        Det har argumenterats från ett libertariansk perspektiv att någon form av privatägande av atmosfären är omöjligt, men Torpman menar att det inte handlar om att äga en andel av atmosfären, utan skapa ett rättvist utnyttjande av en resurs.
        Från ett utilitaristiskt perspektiv anförs att det vore bättre med en ojämlik fördelning av utsläpp, eftersom olika delar av världen helt enkelt är olika, har olika förutsättningar, har olika behov. Torpman menar att det är inget som hindrar att människor handlar med sina utsläppsrätter, så länge inte atmosfärens kapacitet överskrids.
        Torpman lägger också vikt vid ett rättviseetiskt perspektiv. Han menar att ett system med egalitära emissioner klarar det kantianska testet, det vill säga Kants moraliska imperativ: att alltid handla på ett sätt som kan upphöjas till en allmän lag. 

Är egalitära emissioner praktiskt genomförbart? Ja, svarar Torpman. Även om det kan vara svårt att beräkna atmosfärens kapacitet att ta upp koldioxid, beroende på skogars och sjöars upptagningsförmåga samt befolkningsmängdens variation, kan och bör det göras. Vilken metod vi än väljer för att reducera globala koldioxidutsläpp måste hantera liknande problem.
        Kommer egalitära emissioner att accepteras även av rika länder med stora utsläpp per capita, där ekonomisk tillväxt är beroende av utsläpp? Torpman menar att detta skulle sätta fart på teknikutveckling och annan utveckling för att minska utsläppen. Dessutom kan man köpa och sälja utsläppsrätter också mellan nationer. 
        Vad Torpman inte belyser i sin artikel om egalitära emissioner är den kontrollapparat av individers handlingar som genererar koldioxidutsläpp. En sak är att beräkna hur många kilo koldioxid varje individ får släppa ut. En helt annan sak är att övervaka och kontrollera individers utsläpp.
        Därmed måste vi även i klimatfrågan väga integritetsskydd mot övervakning och kontroll.

Ansiktet som GDPR:s moraliska grund

Kultursidan Västerbottens-Kuriren 190831

I början av året kunde vi läsa om Skellefteå kommuns pilotförsök med ansiktsigenkänning på en gymnasieskola. Med syftet att öka effektiviteten i den närvaronotering som lärare är skyldiga att göra, infördes kameror som automatiskt identifierade elever när de gick in i ett klassrum.
         Det var frivilligt för eleverna att delta i pilotförsöket och man inhämtade samtycke från både elever och deras föräldrar. Därmed ansåg kommunen ha uppfyllt kraven som den integritetslag som populärt benämns GDPR kräver.
         Efter det mediala genomslaget, inledde Datainspektionen ett tillsynsärende för att undersöka om ansiktsigenkänning för närvaroregistrering är förenligt med GDPR. Resultatet av tillsynen publicerades nyligen (190820): Detta pilotförsök bryter mot GDPR i tre avseenden och kommunen tilldöms en sanktionsavgift om 200 000 kr.
         För det första menar Datainspektionen att ansiktsigenkänning är en personuppgiftsbehandling som är integritetskränkande och innehåller fler personuppgifter än vad som är nödvändigt för närvarokontroll.
         För det andra är biometriska personuppgifter (såsom ansiktsbilder, fingeravtryck etc) känsliga personuppgifter, som kräver ett giltigt undantag för att behandla sådana. Något sådant undantag har inte kommunen.
         För det tredje har kommunen inte gjort en tillräcklig konsekvensbedömning av denna form av teknikstödd närvarokontroll.
         Att kommunen har inhämtat samtycke från elever och målsmän räcker inte för att ha en laglig grund för denna form av närvaroregistrering, eftersom eleverna står i beroendeställning till skolan med avseende på betygsättning, studiemedel, utbildning med mera.

Detta är ett utmärkt exempel på att GDPR inte enbart handlar om lagrum och paragrafer som måste efterlevas, utan om att integritetslagstiftning i väsentlig utsträckning bygger på moralfilosofisk grund.
         Med stöd i Emmanuel Levinas moralfilosofi har Zygmunt Bauman undersökt ansiktets betydelse för moralen, särskilt i boken Postmodern etik. Grunden för människans moral, menar Bauman, är Den Andre, medmänniskan.
         Att vara moralisk är att ta ansvar för den Andre, redan innan den Andre har uttalat något behov. Men den Andre avgör inte vilket ansvar jag bör ta. Jag avgör ensam ansvaret. Den Andre är dock inte personen – utan ansiktet. Ansiktet är en auktoritet, menar Bauman.

Med ansiktsigenkänning som tekniskt medel för närvaroregistrering som exempel, framstår det som extra tydligt att GDPR bygger på moralfilosofisk grund. Med eleven som Den Andre, är det elevens ansikte som kommunen ska känna ansvar inför.
         Inte, som kommunen har argumenterat, inför skolans effektivitetsvinst när det gäller att notera närvaro, med hänvisning till förvaltningslagens krav på effektivitet i offentlig verksamhet.
         Integritetslagar som GDPR existerar därför att moralfilosofiska avgöranden är svåra. Och de är svåra därför att vi tränar alldeles för lite på sådana.

Minskad rättslig transparens i Frankrike

Kultursidan Västerbottens-Kuriren 190614

Artificial Lawyer är benämningen på en plattform för jurister med syftet att bidra till bättre och effektivare rättsprocesser med hjälp av digital teknik. Den 4/6 publiceras där en intressant artikel om en ny lag som beslutats gälla i Frankrike. Där står (i min översättning från den engelska artikeln):
       ”Identitetsuppgifter för domare och medlemmar av domstolen får inte återanvändas med syftet eller effekten att utvärdera, analysera, jämföra eller förutsäga deras faktiska eller påstådda professionella praxis.”
        Straffet för ett brott mot denna lag är fastställt till fem års fängelse.
        Med andra ord, den franska lagstiftaren vill inte att dataanalytiker ska kunna samla in data från olika domstolar och rättsfall för att undersöka om det finns mönster eller korrelationer mellan olika faktorer.
        Detta tolkar jag som en reaktion mot den big data-trend som innebär att analysera stora datamängder för att finna just korrelationer och mönster som är svåra att upptäcka i enskilda fall. 
       Visst, avidentifierade domar och protokoll från rättsprocesser kan i sig ge intressanta analysresultat, men frågan är varför det är så viktigt att dessa analyser inte får innefatta de människor som fattat så viktiga beslut som kan frihetsberöva människor i flera år.        Varför är det viktigt att kriminalisera den som analyserar hur olika domare tänker kring olika delar av rättssystemet, såsom det kommer till uttryck i rättsliga beslut? Varför är inte transparens viktigt i detta avseende?
        När vi i AI- och big data-sammanhang snarare bör arbeta för en ökad transparens, går Frankrike i detta fallet i motsatt riktning. Det är märkligt.
        Förhoppningsvis utgör offentlighetsprincipen ett hinder för att stifta dylika lagar i Sverige.

Hälsodystopin blir verklighet

Kultursidan Västerbottens-Kuriren 181207

I sin framtidsdystopi från 2010, Corpus Delicti, gestaltar den tyska författaren Juli Zeh ett framtida samhälle som bäst beskrivs som en hälsodiktatur. Eller en utopi i form av ett samhällsparadis. Allt beror på hur personlig integritet värderas och vägs mot övervakning och statsreglerad paternalism.
      Staten ålägger medborgarna att motionera, rapportera sin sömn och sitt hälsointag medelst i kroppen inopererade chip som kontinuerligt skickar data om hälsotillstånd och hälsoaktiviteter.
       Corpus Delicti är nutida arvtagare till Aldous Huxleys Du sköna nya värld och självfallet George Orwells 1984. Liksom tidigare klassiska dystopier eller utopier har Corpus Delicti bäring på samtiden. Samtidigt som detaljer kan kännas igen, är dess centrala tes otänkbar. Men är den det?
       Läs nedanstående citat från statsvetarprofessorn Göran Sundströms granskning av Arbetsförmedlingens tidrapporteringsystem på DN Debatt (26/11). Utöver att de anställda ska redovisa hur de fördelar arbetstiden på olika arbetsuppgifter (som inte är helt ovanligt), ska de även registrera andra uppgifter.
      ”De uppmanas också fylla i ’Medarbetarpulsen’, där man redan vid registreringen av sitt konto ska ange hur många koppar kaffe man dricker om dagen och om man är gift, sambo, särbo eller har ett registrerat partnerskap. Varje vecka ska man sedan ange bland annat hur man sov den senaste natten, hur stressad man är, hur stor kontroll man har över sitt liv, hur nöjd man är med sitt sociala liv, hur stämningen är på arbetet och hur stor kontroll man har över sin arbetssituation.”
       Detta sker alltså inte med en anonym medarbetarenkät, utan med autentiska personuppgifter.
       Denna registrering av anställdas privata förhållanden ska alltså följas upp av arbetsgivaren. Hur är oklart, men syftet torde vara korrigeringar där så behövs för att uppnå högre arbetseffektivitet.
       Detta är Corpus Delicti. Men året är inte 2058, som i romanen, utan 2018 i Sverige. Vare sig arbetsgivaren är stat eller privat bör vi som samhälle snarast skapa skydd mot denna form av integritetsintrång.

Farliga förfalskningar

Kultursidan Västerbottens-Kuriren 181130

Att digitala bilder med olika datorprogram kan manipuleras är sedan gammalt. Allt från retuschering av människor och objekt till att byta ut människor och objekt mellan olika miljöer. Men att retuschera en fotomodells ansikte eller att placera en bil i en viss miljö i marknadsföringssyfte får inte nödvändigtvis så stora konsekvenser.
        Andra typer av ytliga förfalskningar kan emellertid få långtgående konsekvenser. I dag meddelar sig politiker sig allt mer via egna digitala kanaler, i stället för traditionella mediekanaler. Tänk bara på Donald Trump och hans envetna twittrande.
        Men inte enbart Trump. Allt fler svenska politiker meddelar sig via sociala medier, inte enbart i form av allmänna inlägg i debatten, utan även betydelsefulla beslut. Detta utgör en måltavla för de som vill skapa och sprida falska nyheter om politiker.
        När Göran Hägglund 2015 skulle avisera att han lämnade posten som partiledare för kristdemokraterna, meddelade han det på Twitter innan han meddelade det på en presskonferens.
        När riksdagen hade röstat om Ulf Kristersson som ny statsminister den 13 november, skrev han ett inlägg på Facebook och beklagade att två allianspartier hade röstat emot. Nästan samtidigt skrev Annie Lööf ett inlägg på Facebook där hon förklarade varför centern röstade emot den regeringskonstellation som Kristersson föreslagit riksdagen.
        Att skapa falska Twitter- och Facebookinlägg är dock busenkelt. Det tar några minuter. Titta på nedanstående autentiska respektive falska inlägg och se den likheten på ytan. Smärre olikheter kan alltid förklaras med att olika appar och programvaror för att läsa Twitter- och Facebookinlägg genererar olika utseenden i viss utsträckning.






Övre bilden: en skärmdump av ett autentiskt Facebookinlägg. Nedre bilden: ett av artikelförfattaren förfalskat Facebookinlägg.

Hur avslöjar vi ytliga förfalskningar? Den källkritiska metoden är naturligtvis att undersöka varje inläg som sprids i form av skärmdumpar, för att se om inlägget går att finna hos upphovspersonen. Å andra sidan; om ett falskt inlägg ser autentiskt ut och samtidigt bekräftar någons förutfattade mening, minskar benägenheten att kolla källan.
        När det gäller djupa förfalskningar blir det ännu svårare. Det finns självlärande AI-teknik som i ett filmklipp kan visa en person som säger det en annan person säger med mimik och kroppsspråk som skapar en hög grad av autenticitet. Det ser helt enkelt trovärdigt ut att den person som syns i videon också uttrycker vad en annan personen säger. 
        AI-programmet behöver i storleksordningen 1 000 bilder av den person vars uttalande ska förfalskas. Tillsammans med det inspelade uttalandet formar AI-programmet ett nytt videoklipp med en autentisk person som uttrycker ett falskt innehåll.
        Det bästa exemplet jag hittills sett är när Jordan Peele låter Barack Obama hålla ett anförande under någon minut, där det är Peeles ord som Obama uttalar. Ju bättre dessa AI-program kommer att bli, desto svårare blir det att ens misstänka att ett videoklipp är en djup förfalskning.



Bild från en video där Barack Obama säger vad Jordan Peele har instruerat ett AI-program att Obama ska säga så autentiskt som möjligt.

Hur avslöjar vi djupa förfalskningar? Frågan är om en människa ens är kapabel till det i framtiden. I USA har man myntat begreppet och forskningsområdet Media Forensics (ungefär medial kriminalteknik). 
        Det innebär att försöka skapa AI-program som undersöker videoklipp med avseende på digitala fingeravtryck (digitala spår hos videoklippet), fysisk överensstämmelse i videon (om personer och objekt och miljöer stämmer överens) och semantisk rimlighet (är det rimligt att personen på videon säger det den säger).
        Ett exempel är en forskargrupp som har noterat att djupa förfalskningar ofta saknar ögonrörelser och blinkningar, eftersom vi sällan publicerar bilder av människor med slutna ögon. Att identifiera frånvaro av blinkningar kan vara ett sätt att avslöja falska videoklipp. Å andra sidan kommer sannolikt motdraget blixtsnabbt: man låter AI-tekniken forma rimliga ögonrörelser och blinkningar.
        Om vi inte lyckas avslöja djupa förfalskningar kan det få stora konsekvenser i framtiden. Ett exempel: Säg att du vill ha en falsk video som visar att P O Ågren rånar en bensinmack. Då instruerar du en AI-maskin genom att mata den med bilder på P O Ågren och en bensinmack i olika vinklar så att en till synes övervakningsvideo framträder. Därefter ser du till att rättsväsendet nås av videon.
        I dag kan en åklagare visa en övervakningsvideo som bevis för ett rån. I morgon kommer den tilltalade att hävda att övervakningsvideon är en djup förfalskning. Kommer övervakningsvideos att ha något bevisvärde i framtiden?
        Kommer vi överhuvudtaget att kunna ha tillit till bilder, stilla eller rörliga, i framtiden? Om inte, vad betyder den förlusten?

Vad kontrolleras i smarta hem?

Kultursidan Västerbottens-Kuriren 180811

Allt fler tekniska apparater i hemmen blir allt smartare, i betydelsen att de förses med datorkraft och uppkoppling till internet. Smarta termostater som kan regleras med en app i mobiltelefonen, kameror såväl inne som ute, sensorer som mäter olika saker, kylskåp, kaffemaskiner, belysning, eluttag, musikspelare, tvättmaskiner, torktumlare – allt kan övervakas, regleras och kontrolleras på distans via mobiltelefon och dator.
        Frågan är om det enbart är dessa smarta apparater som kontrolleras. 
        New York Times publicerade i sommar ett reportage där 30 personer intervjuades. Dessa har antingen själva utsatts för våld i hemmet eller i olika sammanhang mött utsatta människor i sin profession. 
        Under senare år finns allt fler vittnesmål om att de män som utövar våld i hemmen har fått nya och effektiva verktyg för att kunna utöva kontroll, skrämma och demonstrera sin makt – även när våldsutövaren inte är hemma. Och ja, i detta reportage är de utsatta kvinnor och utövarna män.
        
Vittnesmålen handlar om högtalare som plötsligt spelar hög musik, dörrklockor som ringer utan att någon står utanför dörren, termostater som ändrar temperatur, ljus som tänds, släcks och varieras – och med kameror kan våldsverkaren på distans övervaka sitt offer i hemmet. 
        Även om inte fysiskt våld utövas, blir detta en form av obehaglig maktassymmetri. Det är rimligt att föreställa sig att en majoritet av de som installerar denna form av teknik i hemmen är män och således behåller män kontroll över apparaterna. Och med kontroll över tekniken kan mycket mer kontrolleras – partnern. 
        Men är det inte bara för den utsatta att avinstallera eller koppla från dessa apparater? Nej, det finns åtminstone två problem. Det ena är att den utsatta partnern kan ofta inte hantera tekniken. Det andra problemet är att om partnern kan och faktiskt stänger av apparaterna, märker den kontrollerande partnern det och därmed kan konflikten och eventuellt våld eskalera.
        Tanken med all denna smarta teknik är ju att underlätta och effektivisera vardagssysslorna. Med detta reportage får i varje fall jag en ny insikt i hur Internet of Things kan användas för övervakning och kontroll i hemmen.
        Betydelsen av en jämlik tillgång till hemmets tekniska funktioner kan inte nog understrykas.

I algoritmernas tid blir matematiken politisk

Kultursidan Västerbottens-Kuriren 170613

För många skolelever har matematikämnet upplevts som hin håles gåva till dem. Abstrakt, logik, formler med siffror och bokstäver. Och vad skulle man med matematiken till? Vore det inte viktigare att läsa samhällskunskap, historia och språk för att både förstå samhällets komplexitet och kunna bli en aktiv medborgare?
       Ja och nej, skulle matematikern Cathy O'Neil svara, när jag läser en intervju med henne i Harvard Business Review (161006). Hon har alltid uppfattat matematiken som en fristad från verklighetens komplexitet.
        Med matematik som verktyg kan olika delar av verkligheten uppfattas tydligare, komplexiteten kan reduceras och världen kan beskrivas ärligare, utan några agendor som färgar tolkningar.
        Tesen för denna essä är att i dag och i framtiden gäller det omvända. Med matematikens hjälp, i form av algoritmer som bearbetar stora datamängder, verkar vi skapa en grumligare, mer ogenomskinlig värld som tycks få stora konsekvenser.
        Tesen framläggs med stöd av Cathy O'Neils senaste bok Weapons of Math Destruction (Allen Lane, 2016). Om titeln kräver sin förklaring, ger undertiteln en tydlig fingervisning om innehållet: How Big Data Increases Inequality and Threatens Democracy (Hur big data ökar ojämlikhet och hotar demokratin).

Bokens studieobjekt, Weapens of Math Destruction, har konnotationer till massförstörelsevapen (weapons of mass destruction) som är särskilt ägnade att sprida död och förödelse i stor skala, som exempelvis kärnvapen, kemiska eller biologiska vapen.
        Weapons of Math Destruction, däremot, är algoritmer som för olika syften analyserar stora datamängder och levererar antingen självständiga beslut eller beslutsunderlag. Alla algoritmer är inte destruktiva, utan O'Neil fokuserar sådana som genom sin utformning genererar skadliga konsekvenser för många människor.
        De skadliga algoritmerna har tre egenskaper: De är ogenomskinliga, vilket innebär att vi inte vet hur de fungerar eller vilka premisser de utgår från. De är storskaliga, vilket innebär att det inte finns några begränsningar för hur många människor som kan drabbas av dem. Den tredje egenskapen är den självklara: de är skadliga för människor.
        Dock inte alla människor, vilket är en av bokens poänger. Vissa gynnas av dessa algoritmiska vapen. Precis som andra massförstörelsevapen.

Cathy O'Neil ger ett flertal intressanta exempel i boken. Automatiska personlighetstester av människor som söker arbete är ett. Syftet med dessa osynliga algoritmer är inte att finna den bäst lämpade för ett jobb, utan att exkludera så många som möjligt.
        Konsekvensen, menar O'Neil, blir ofta att de parametrar i algoritmerna som exkluderar sökanden också fungerar diskriminerande. Människor med sjukdomar, funktionsvariationer och kanske lite udda beteenden sorteras med lätthet bort per automatik.
        Ett annat exempel visar hur algoritmer kan samarbeta för att förstärka negativa strukturer. O'Neil menar att de matematiska modeller som klassar människor som kriminellt benägna, leder till att dessa oftare får strängare straff om de begår brott. Efter avtjänat straff sorterar de algoritmer som hanterar arbetssökande snabbt bort dessa från arbeten som söks. Och då blir dessa människor än mer benägna att begå brott.
        Den i algoritmerna inbyggda profetian uppfylls; således är det inte rättvisa som byggts in. Dessutom visar det sig att det oftare är människor med viss etnisk bakgrund som fastnar i dessa strukturer; således är det inte jämlikhet som byggts in.
        Ett ytterligare exempel handlar om matematiska modeller för att bestämma människors kreditvärdighet, vilket alltmer framstår som ett kvalitetsmått på en människa. Allt från bedömning av partners på dejtingsajter till bedömning av arbetssökande använder kreditvärdighet som en betydelsefull parameter.
        I algoritmåldern blir det än svårare för redan ekonomiskt utsatta människor att arbeta sig ur ekonomiska problem, eftersom betalningsanmärkningar och andra kreditparametrar utgör ett hinder för att få arbete. En veritabel fattigdomsfälla, förklädd till neutrala matematiska modeller.

Utöver fria val finns det ett antal hörnstenar i en demokrati: tryckfrihet, åsiktsfrihet, föreningsfrihet och liknande friheter. Men även jämlikhet i form av att medborgare ges lika förutsättningar och inte diskrimineras på grund av kön, etnicitet, sexuell läggning och övriga diskrimineringsgrunder. Samt rättvisa: att juridiska bedömningar är neutrala i förhållande till etnisk härkomst och socio-ekonomisk bakgrund.
        De framväxande problem Cathy O'Neil ger exempel på är inte rimliga i en demokrati. Vad kan vi göra? O'Neil har ett förslag: Att avkräva att varje person som arbetar med algoritmkonstruktion svär en sorts hippokratisk ed, likt den Hippokrates formulerade för läkarskrået för ca 2 500 år sedan.
        I allt väsentligt: Skapa aldrig Weapons of Math Destruction, utan gör algoritmer som uppfyller grundläggande värden i en demokrati, och låt demokratiska värden vara överordnade ekonomiska i de fall konflikter uppstår.
        Cathy O'Neil sätter fingret på något ytterst centralt. På senare tid vi sett ett stort fokus på problem med faktaresistens, på krav på evidensbaserad politik, på behovet av faktabaserade beslut. Detta fokus är så starkt att vi riskerar förstå beslutsfattande som enbart beroende av de korrekta fakta som datorer kan leverera.

Vi bör påminna oss om att förmågan att fatta rättvisa beslut har två ben. I dag ser vi en övervikt åt episteme; den formella kunskapen, vetandet, våra obestridliga fakta.
        Det andra benet är emellertid minst lika viktigt för att kunna fatta rättvisa beslut: fronesis; omdömesförmågan. Det är den förmåga som innefattar att kunna göra kritiska bedömningar och att förstå konsekvenserna av olika beslut.
        Kan vi bygga in fronesis i algoritmerna? Kan algoritmer vara omdömesgilla? Kan algoritmer kritiskt bedöma konsekvenser av handlingar och beslut? Eller är det förmågor som är enbart människor förunnade?