Ser AI människan?

Kultursidan Västerbottens-Kuriren 190329

Ett av de allra största problemen inom AI-området i dag är hur algoritmer kan konstrueras så fritt som möjligt från fördomar för att minimera diskriminering av människor. Problemet är stort, därför att självlärande algoritmer återfinns i allt fler sammanhang av allt större betydelse för oss människor.
       Det ultimata exemplet är sådan AI-teknik som måste kunna känna igen människor i fysiska miljöer för att kunna agera på ett korrekt sätt. Tänk miljöer där både robotar och människor befinner sig. Robotarnas sensorer måste kunna skilja på människor och andra föremål för att inte skada människor.
        En självkörande bil är en form av robot med självlärande algoritmer som registrerar sin omgivning med sensorer, kameror, mikrofoner och lär sig hur bilen ska agera i olika situationer där människor rör sig.
        Därför har en forskargrupp i USA studerat i vilken utsträckning så kallade objektdetekteringssystem som finns i självkörande bilar kan urskilja såväl trafikmärken som medtrafikanter. Särskilt viktigt är det för sådana bilar att urskilja oskyddade människor som går längs eller korsar vägar.

I en förhandspublicerad rapport i databasen Arxiv redovisar forskarna en undersökning om människors hudfärg har betydelse för sensorernas möjlighet att upptäcka fotgängare. Studien visar att standardmodeller som används i AI-teknik för att urskilja människor har lättare att upptäcka människor med ljus hy än människor med mörk hy.
        Om självkörande bilar utrustas med sådana detekteringssystem som undersöktes i studien, så skulle risken för mörkhyade människor att råka ut för olyckor vara betydligt större än för ljushyade.
        Detta är ändå enbart ett exempel på hur viktigt det är att testa AI-system och självlärande algoritmer för fördomar och diskriminerande beteenden innan systemen tas i bruk och får reella konsekvenser. Med dödlig utgång, i värsta fall.

Med mobilen blir vi läsare

Kultursidan Västerbottens-Kuriren 190315

En av Paul Austers allra bästa noveller heter Why Write från 1996. Paul Auster är åtta år och baseball är livets högsta. Toppspelarna dyrkas. En kväll går han med sina föräldrar på en baseballmatch och efter matchen lyckas han träffa sitt lags största spelare.
        På den tiden ägde en autograf av en idrottshjälte det högsta av värden, och Paul lyckades be spelaren om en. Visst, svarade spelaren, om du har en penna att låna mig. Det hade inte Paul. Inte heller hans föräldrar. Inte heller någon av de vuxna i närheten.
       ”Ledsen grabben. Utan någon penna kan jag inte ge dig en autograf”, sade spelaren. Pauls förtvivlan kände inga gränser. Tårarna rann. Sedan dess har Paul Auster alltid burit en penna på sig. Inte enbart för eventuella autografers skull.
       ”Har man en penna i fickan finns det en rimlig chans att en dag bli frestad att använda den. Det var, som jag brukar berätta för mina barn, så jag blev författare”, avslutar Paul Auster novellen.

Jag tänker ofta på denna novell och på vad den kan betyda i dag. I helgen är det Littfest. Littfest är en läsningens fest; en fest för oss som har läsarambitioner snarare än författarambitioner. Läsaren behöver ingen penna; läsaren behöver en bok. 
        Såväl jag som dagens mobilgeneration bär alltid sin mobiltelefon med sig. Vad är en mobiltelefon? En bok, flera böcker, ett bibliotek. Genom att alltid bära mobiltelefonen på sig läser jag i varje situation; när någon är sen till ett möte, i väntrum, på caféet. (Just nu: Överstinnan av Rosa Liksom.)
       ”Har man en mobil i fickan finns det en rimlig chans att man blir frestad att läsa böcker. Det var så jag blev en läsare”, skulle de som växer upp med mobiler i dag kunna berätta för sina barn om några år.