tisdag, april 18, 2017

Framtidens datorer skapar egna språk

Kultursidan Västerbottens-Kuriren 170418

Språk och datorer har genom historien alltid hört samman. För att en dator ska kunna utföra operationer och aktiviteter måste den instrueras, vilket görs med olika programspråk, beroende på typ av applikation och aktivitet.

        En annan form av språkutveckling handlar om taligenkänning och talsyntes. Datorprogram tränas att uppfatta och tolka mänskligt tal, från enskilda 0rd till sammansatta meningar. Talsyntes handlar om att datorn tränas i att sätta samman ord till meningar så att vi såväl hör som förstår vad datorn säger.
        Den engelska termen för datorprogram som klarar av både taligenkänning och talsyntes är chatbots. Oxford Dictionary presenterade detta ord som ett av de ord som främst kännetecknar språkåret 2016 (årets ord 2016 blev post-truth). Det dröjer sannolikt inte länge förrän chatbot blir upptaget på den årliga nyordslistan i Sverige.
        På svenska brukar vi även tala om virtuella assistenter eller virtuella agenter som vi kan prata med. Den som använder en iPhonen har kanske talat med den virtuella assistenten Siri. SJ arbetar med en chatbot som ska assistera tågresenärer.
        Med hjälp av avancerade algoritmer och självlärande teknik går IT-jättar som Google, Apple, Microsoft, Amazon och Facebook i bräschen för denna utveckling. Ett väsentligt användningsområde för dessa talande applikationer är kunddialoger och kundstöd i olika företag, för att effektivisera dessa processer.
        Den gemensamma nämnaren för den utbredda forskning och teknikutveckling som pågår inom språk och IT är att det mänskliga språket är den överordnade normen som datorprogram ska dels kunna förstå, dels kunna tala.
        Med denna essä vill jag rikta blicken mot en liten forskningsnisch som avviker från denna gemensamma nämnare. Den övergripande frågan som ställs här är vad som skulle hända om vi låter datorprogram själva uppfinna sina egna språk i kommunikationen med varandra. Är det möjligt? Vilka syften skulle sådan forskning i så fall uppnå?

Vid det amerikanska forskningsinstitutet OpenAI bedrivs forskning med fokus på artificiell intelligens och robotik. I mitten av mars förhandspublicerade Igor Mordatch och Pieter Abbeel en artikel där de redovisar hur de arbetar med att låta virtuella agenter utveckla egna språk, utan att det mänskliga språket står som modell.

        Att träna datorer att efterhärma mänskligt språk ger förvisso ökade möjligheter att kommunicera med datorer, men det ger ingen kunskap om varför ett språk existerar. Ett syfte med denna forskning är att utöka den kunskapen. Inte kunskapen om strukturer inom eller relationer mellan språk, utan språkets funktion. Ett grundläggande antagande är att all kommunikation uppstår av nödvändighet; nöden är kommunikationens moder.
        Forskarna har skapat en enkel virtuell miljö med två virtuella agenter, två chatbots som kan agera självständigt i förhållande till varandra. Dessa agenter är också utrustade med självlärande algoritmer, så att de utan mänsklig inblandning, utan instruktioner självständigt utveckla språkliga färdigheter.
        Dessa virtuella agenter förses med olika enkla uppgifter som de ska utföra tillsammans. Det handlar exempelvis om att de ska förflytta sig från en plats i den virtuella miljön till en annan. Genom att utveckla ett språk ska dessa sedan koordinera sina rörelser så att de kan genomföra uppgiften.
        De virtuella agenterna får en uppsättning symboler till sitt förfogande, men utan förbestämda betydelser, så att agenterna måste skapa sina egna betydelser för symbolerna.
        Den forskning som presenteras i artikeln av Mordatch och Abbeel är i ett väldigt tidigt stadium. Än så länge prövar de möjligheter, snarare än fastställer signifikanta resultat. Ett resultat från denna studie är dock att de virtuella agenterna lyckas kommunicera med varandra med ett eget språk på ett funktionellt sätt, utan instruktioner från någon människa.
        De avslutar artikeln med ledtrådar till framtida studier: Att expandera komplexiteten i de virtuella agenternas språkbyggen och att utöka deras handlingsförmågor. De är även intresserade av att undersöka huruvida dessa agenters kommunikativa strategier kan tillämpas av människor.

Forskarnas syfte är som sagt att förstå hur språk utvecklas utifrån nödvändighet, men utan mänskligt språk som förlaga. Frågan är vilka ytterligare syften som kan uppfyllas med forskning som denna.

        Allt sedan människan började forska om artificiell intelligens har den mänskliga intelligensen fungerat som modell för datorers intelligens. Det klassiska turingtestet, uppkallat efter Alan Turing, den förste AI-forskaren, testade maskiners förmåga att efterhärma människors intelligens. 
        Om en människa kommunicerar med en maskin och inte kan avgöra om det är en maskin eller en människa man kommunicerar med, måste maskinen anses inneha mänsklig, men artificiell intelligens.
        På senare tid syns emellertid en diskussion där en motsatt uppfattning om intelligens förs fram. Med dagens exponentiella utveckling av datorteknik bör vi inte låsa oss vid den mänskliga intelligensen, utan låta datorer utveckla datorintelligens, det vill säga intelligens som utgår från datorernas förutsättningar – inte människans förutsättningar. Därtill är människans förutsättningar alltför begränsade.

Om vi vidgar sammanhanget ytterligare kan vi placera in denna forskning tillsammans med forskning om automatiska system i allmänhet; sociala robotar och självlärande maskiner.

        En farhåga som brukar framhållas kring konsekvenserna av sådan forskning är att människan placerar sig utanför robotarnas beslutsloopar, det vill säga att människan ges allt mindre inflytande över robotars och andra självlärande, automatiska systems beteenden. Robotarna fattar sina beslut oberoende av människan.
        Huruvida detta är en farlig utveckling eller inte är svårt att hysa en bestämd uppfattning om. Om vi går tillbaka till studien av Mordatch och Abbeel och deras språkutvecklande agenter, vet vi i alla fall en sak: Människan har visat att utveckling av språk är en mäktig idé.

torsdag, april 13, 2017

Var försiktig med vad du gillar och delar

Kultursidan Västerbottens-Kuriren 170413

Förtal är enligt brottsbalkens femte kapitel att utpeka ”… någon såsom brottslig eller klandervärd i sitt levnadssätt eller eljest lämnar uppgift som är ägnad att utsätta denne för andras missaktning”. Det gäller självfallet även om utpekandet sker i sociala medier.
       Hösten 2016 dömde en svensk tingsrätt en person för förtal efter att ha pekat ut en annan person som pedofil på Facebook. Inlägget gillades av många och fick därmed stor spridning.
        Den nyligen för populärvetenskapligt arbete prisade professorn i juridik, Mårten Schultz, kommenterade denna dom i SvD och avslutade med en brasklapp: Förtalsansvaret för spridning av klandrande uppgifter är ”… inte begränsat till den som först sätter uppgiften i omlopp”.
        Det innebär att även den som sprider uppgifterna vidare också skulle kunna åtalas för förtal. Att dela ett inlägg på Facebook eller att retweeta en tweet på Twitter skulle alltså kunna innebära ansvar för förtal.

Kan man även ställas till ansvar för att enbart ha gillat ett inlägg på Facebook, utan att ha delat det vidare? Ja. Enligt den schweiziska upplagan av The Local har en person i Schweiz stämts för förtal genom att personen har gillat ett inlägg på Facebook.

        Det ursprungliga inlägget beskrev en till viss del offentlig person som rasist och antisemit. Den person som har stämts delade inte inlägget vidare, men klickade på gillaknappen.
        Är ett gillaklick en form av spridning av information? Ja. Utan att vi exakt vet hur Facebooks algoritmer arbetar, styrs informationsflödet bland annat av hur många gillningar ett inlägg får.
        Ju fler som gillar ett inlägg, desto större är sannolikheten att inlägget synliggörs för fler. Facebookanvändare känner igen detta genom att obekanta personers inlägg kan synas i det egna flödet, därför att någon av ens vänner har gillat det.
        Domstolen i Schweiz har inte fastställt någon dom i det aktuella målet ännu, men följande kan fastställas: Var försiktig inte enbart med vad du skriver, utan även med vad du gillar, delar och retweetar i sociala medier. 

tisdag, april 11, 2017

Ny form av McCarthyism mot akademin

Kultursidan Västerbottens-Kuriren 170411

Det är självklart ett stort mediafokus på vad Donald Trump gör och inte gör när han tillträtt som president. Vi borde emellertid även rikta ljuset mot det som följer i Trumps kölvatten.

         Några veckor efter presidentvalet skapades en ny webbplats med namnet Professor Watchlist. Det är den konservativa organisationen Turning Point som står bakom webbplatsen, med syftet att registrera universitetslärare som yttrar uppfattningar som kan uppfattas som ”diskriminerande mot konservativa studenter, stödjer antiamerikanska värden och för fram vänsterpropaganda i lärosalen”.
         Grundaren av Turning Point, Charlie Kirk, citeras i en artikel i tidskriften Inside Higher Ed (22/11 2016): ”Det är ingen hemlighet att somliga bland Amerikas universitetslärare är helt olämpliga”. Han hävdar att han ofta får höra att universitetslärare attackerar konservativa och förmedlar liberal propaganda genom sina positioner på universiteten.
         Det Professor Watchlist gör är att registrera och synliggöra universitetslärare som antingen anmäls av studenter eller som har uttryckt sig i sociala medier på ett sätt som retar den konservativa organisationen.
         Ett syfte som inte uttrycks explicit, men kan tolkas mellan raderna, är att man önskar dels att universitetslärare ska anlägga självcensur i undervisningen, dels att skapa motstånd och protester mot vissa enskilda lärare hos såväl studenter som deras föräldrar.

Vi ser nu en liknande företeelse i Sverige, om än i mindre skala. Den liberale debattören Fredrik Segerfeldt söker i en reportageserie i Timbros regi nagla fast människor med vänstersympatier. I seriens fjärde del tittar han närmare på svenska universitetslärare och forskare (3/4 2017).
         Här namnger han några exempel på akademiska lärare och forskare som på olika sätt har positionerat sig till vänster i politiken och vill därmed påvisa att toleransen för vänsterns våldsideologier är stor.
         Syftet är att misskreditera den högre utbildningen i stort. Artikeln inleds med följande utsaga: "I den akademiska världen är toleransen för vänsterns våldsideologier stor." Men även om de enskilda exemplen stämmer, utgör de naturligtvis inget mönster. Att lyfta fram ett tiotal människor med vissa åsikter ur en population av cirka 16 000 personer visar inget mönster.
         Det är en modern form av McCarthyism vi ser framträda; en sorts häxjakt på universitetslärare som misstänks hysa vissa politiska uppfattningar.
         Det finns naturligtvis inget kausalt samband mellan Trumps presidentskap och denna McCarthyism. Att företeelserna sammanfaller i tiden är dock ett uttryck för den tidsanda vi lever i.

onsdag, april 05, 2017

Brusrobotar som motkrafter på nätet

Kultursidan Västerbottens-Kuriren 170405

Den 28 mars röstade USA:s kongress för en ny lag som ger internetleverantörer rätt att sälja sina kunders aktiviteter på internet till hågade köpare. Vilka webbsidor kunderna har surfat på, vilka länkar de klickat på har blivit en handelsvara. Och den är lukrativ. För företag som vill skapa riktad reklam på individnivå är dessa persondata guld värda.
       För medborgaren i ett samhälle där internet inte med enkelhet kan väljas bort, och där vi är helt beroende av någon internetleverantör för att nå nätverket, innebär detta en högre grad av övervakning och en större risk för integritetsintrång.
        Redan dagen efter kongressens omröstning dök emellertid en motkraft upp på internet. I nätupplagan av Wired (30/3) presenteras programmeraren Dan Schultz skapelse Internet Noise.
        Det är ett så kallat insticksprogram till webbläsaren som i all enkelhet utför automatiska sökningar på Google med slumpmässiga sökord i stor skala. På så sätt skapas en komplex och slumpmässig bild av internetaktiviteter som förvisso skett på den egna datorn, men som inte har något med individen bakom skärmen att göra.
        Programmet skapar helt enkelt en massa brus. Visst går det att hålla sig dold på internet genom att inte alls finnas där, men det är för de allra flesta ett ickealternativ. Ett annat sätt är att skapa sådant databrus att individen döljs.
        Dan Schultz syfte med Internet Noise är främst att skapa medvetenhet kring integritetsfrågor. Jag håller dock för sannolikt att vi kommer att få se flera och ännu mer utvecklade motkrafter på nätet.
        Det blir även intressant att se om internetleverantörerna kan skapa sina motkrafter i form av programvaror som lär sig skilja på brusrobotar och på människors aktiva nätanvändning.