tisdag, maj 24, 2016

En nyckel till minskad massövervakning

Kultursidan Västerbottens-Kuriren 160524

Den kinesiska regimen lanserade 2015 en plan för ett socialt kreditsystem, som redan har börjat testas i några regioner och som kommer att vara helt utbyggt år 2020. Det är alltså inte ett renodlat ekonomiskt kreditsystem liknande sådana som finns i de flesta länder, utan snarare ett förtroendesystem. 
      Kinesiska företag och myndigheter samlar enorma mängder övervakningsdata om landets medborgare; människors förehavanden på internet i allmänhet, på sociala medier, vad människor köper, vad de säger, vad de läser, vilka relationer de har med andra.
       Algoritmer beräknar och värderar medborgarnas karaktärsdrag; en form av karaktärsregistrering som poängberäknas. Att få höga poäng betyder väsentliga fördelar i det kinesiska samhället, som exempelvis möjligheten att resa utanför landets gränser. 
       Att ha låga poäng innebär svårigheter att skaffa bostad, lån, och arbetsmarknaden begränsas. Därför är det av största vikt att kapa sociala band till människor som är svartlistade av regimen, eftersom relationen till dem kan reducera den egna kreditpoängen. Man bör vistas i internetmiljöer som ger höga poäng och aldrig uttrycka sig kritiskt om regimen eller nationen. 
       Vi som lever i västerländska demokratier drar en suck av lättnad över att något liknande aldrig kan inrättas här. Men kan vi vara säkra på det? Försiggår inte övervakning av människors förehavanden på nätet i synnerligen stor skala även i västliga demokratier? Edward Snowden visade hur NSA övervakar såväl amerikaner som andra medborgare i stor skala. 

Den amerikanske säkerhetsexperten med anknytning till Harvard Law School, Bruce Schneier, vill med sin nya bok Data och Goliat (Daidalos, 2016) såväl visa hur utbredd övervakningen är, som argumentera för en framtida förändring av övervakning så att människors integritet inte kränks. 
       Boken har ett tydligt fokus på amerikanska förhållanden, vilka i vissa avseenden skiljer sig från europeiska. Ett exempel är att EU:s dataskyddslagstiftning är betydligt starkare än USA:s. Men det gör inte så mycket för läsningen, eftersom problemet med övervakning och integritet är generellt. 
       Schneier inleder med en pedagogisk genomgång av skillnaden mellan avlyssning och övervakning på internet. Med avlyssning ser eller hör den som avlyssnar innehållet i kommunikationen mellan människor, medan övervakning innebär att övervakaren enbart ser så kallad metadata, det vill säga uppgifter om kommunikationen (när den sker, var, med vem, med vilken teknik etc). 
       I väst är möjligheten för myndigheter och företag att avlyssna människors kommunikation högst begränsad. Däremot samlas mycket metadata. På så vis har vi invaggats, menar Schneier, i en falsk säkerhet om att vår kommunikation är privat. Schneier visar att med relativt lite metadata om våra förehavanden kan datorers algoritmer snabbt avslöja dels vår identitet, dels en mängd egenskaper om oss. 
       Genom det som förr kallades samkörning och i dag korrelering av data mellan många olika databaser kan vi identifieras. Tro aldrig att du kan vara anonym på nätet eller med mobiltelefonen, är hans budskap. Ett annat budskap är att övervakningen av våra förehavanden på nätet har eskalerat kraftigt det senaste decenniet. 

Vad är problemet? Är det inte bra att myndigheter övervakar vår kommunikation så att terroristattacker och andra brott kan upptäckas och förhindras? Är det inte bra att marknadsföringen på nätet utformas utifrån mina preferenser? Är det inte bra att Google samlar all data om våra googlingar och vår användning av Googles olika tjänster så att dessa kan förfinas? 
       Bruce Schneiers egentliga ärende är inte massövervakningen per se, utan dess effekt på människors frihet. Han skiljer mellan riktad övervakning och massövervakning. Med massövervakning finns en ständig risk för maktmissbruk. Även om vi beter oss korrekt i dag, vet vi inte vad är korrekt beteende om tio år. Vad räknas som terrorism eller omstörtande verksamhet i framtiden? 
       Ju mer vi blir medvetna om att vi övervakas, desto mer självcensur idkar vi. Schneier ser tydliga tecken på övervakningens dämpande effekter. 
       Ett av de stora hoten mot vår frihet och integritet menar han är "mission creep", eller vad vi kallar ändamålsglidning. Att en myndighet har fått tillstånd att bygga upp övervakning inom ett område kan lätt leda till att denna övervakning expanderar till andra områden. 

I debatten kring övervakning kontra integritet anförs ofta säkerhetsfrågan som ett argument för att öka övervakningen. Vad är integriteten värd i förhållande till människoliv som kan sparas genom massövervakning (som antas leda till att terroristattacker och andra brott förhindras)? Inte mycket. 
       En av Schneiers huvudteser är att vi måste sluta upp med att kontrastera integritet med säkerhet. De är inte varandras motsatser. Vi kan öka både integriteten och säkerheten samtidigt. 
       Ett skäl till detta är att integritet är en moralisk idé som inte bör graderas eller värderas mot något annat. Det finns emellertid ingen objektiv moral. Schneiers moral utgår från rättighetsetiken; att vi äger data om oss själva. Den moralen är dock inte överordnad annan moral. Den utilitaristiska moralfilosofin skulle snarare förespråka att mer övervakning är till större nytta för medborgarna. 
       Schneiers lösningar handlar bland annat om att öka transparensen och tillsynen av myndigheter och företag som övervakar våra förehavanden – och att aldrig tillåta massövervakning, utan enbart riktad övervakning. Ska människor övervakas, ska det ske mot bakgrund av en rimlig misstanke om brott. 

En annan typ av lösning är att göra företag ekonomiskt ansvariga för integritetskränkningar. Schneier menar att vi bör betrakta själva integritetsintrånget som en skada, och inte försöka värdera skadan av integritetsintrånget. Den är ofta svår att värdera. 
       Han framlägger en avslutande tes: Den allt mer tillåtna massövervakningen är inte en effekt av rädsla för terrorism, utan av politikers rädsla för att de ska få skulden om de inte lyckas förhindra terrorism. 
       Att reducera den rädslan kan vara nyckeln till en minskad massövervakning.

måndag, maj 16, 2016

Robotar som känner dig bättre än du

Kultursidan Västerbottens-Kuriren 160516 

Tinder är den i dag mest använda och kända dejtingappen. Genom att registrera sig får man tillgång till en mängd andra människor som söker kontakter med andra. 
      När man möter en persons profilbild och presentation som man tilltalas av, kan man svajpa höger för att markera sitt intresse. Svajpar man vänster, markerar man sitt ointresse.
       Hur vet man vilka profiler på Tinder som tilltalar en? Tja, det känner man väl? Synintrycket möter dock en grumlig mix av (simpla?) kategoriseringar och preferenser. Skulle en dator sköta svajpandet bättre? 
       Det menar doktoranden Nicole He vid New York University, som har konstruerat The True Love Tinder Robot i ett projektarbete. Den består i all enkelhet av en konstgjord hand som placeras framför en smartphone med Tinderappen öppen, och som är kopplad till en platta där man placerar sina händer. Plattan mäter ”galvanic skin response”; i detta fall helt enkelt handens transpiration. 
       När användaren tittar på olika Tinderprofiler, känner roboten din kroppsliga reaktion via dina händers transpiration och svajpar antingen höger (om Tinderprofilen får användaren att transpirera) eller vänster (om användaren inte reagerar alls med kroppen). 

När en journalist vid New York Magazine testade roboten och jämförde dennes svajpande med sina egna preferenser, fann hon att roboten svajpade vänster när hon skulle ha svajpat höger och omvänt. 
       Efter tjugo test på Tinder fann journalisten att hon inte var på samma våglängd som roboten, och påpekade för Nicole He att roboten inte stämmer, att roboten har fel. Nej, svarade Nicole He, denna robot vet något om dig som inte du vet. 
       Den grundläggande frågan denna robot ställer är om datorer – robotar – känner oss bättre än vi känner oss själva. Går det att validera att roboten ovan gör bättre partnerval än en människa? Nej, upplupen handsvett är en tveksam mätmetod för en specifik känsla. 

Det finns dock vetenskapligt stöd för att ställa den grundläggande frågan. En amerikansk forskargrupp publicerade nyligen en studie där de jämförde människors förmåga att bedöma personligheter med datorers. 
       Studien visar att datorer är bättre än människor på att bedöma personligheter enbart genom att samla in en människas beteende på Facebook: vilka sidor, grupper och människors inlägg som aktivt gillas. 
       Forskarna menar att om en vanlig Facebookanvändare har gillat olika saker mer än 227 gånger, är datorn alltid bättre än till och med den närmaste vännen eller anhörige på att bedöma denne användares personlighet. 
       Användningsområden för algoritmer som dessa torde vara oändliga i de sammanhang där personlighetsbedömningar är centrala. 

Där Nicole He använder kroppsliga reaktioner som grund för personlighetsbedömning, använder forskarna ovan människors beteende på Facebook som underlag. 
       Bägge studierna pekar dock på att det med största sannolikhet kommer att utvecklas allt fler automatiska system som är normativa; som allt bättre vet vad som är bäst för mig i olika situationer än vad jag kan veta; som gör allt bättre bedömningar än jag.