{"id":1926,"date":"2018-11-19T13:24:41","date_gmt":"2018-11-19T13:24:41","guid":{"rendered":"http:\/\/arkiv.mediekom.se\/?p=1926"},"modified":"2019-05-13T13:08:48","modified_gmt":"2019-05-13T13:08:48","slug":"ar-ai-en-oxymoron-om-data-algoritmer-och-artificiell-intelligens","status":"publish","type":"post","link":"https:\/\/arkiv.mediekom.se\/?p=1926","title":{"rendered":"\u00c4r AI en oxymoron? Om data, algoritmer och artificiell intelligens"},"content":{"rendered":"\n

av Jakob Svensson, K3, Malm\u00f6 universitet <\/em><\/p>\n\n\n\n

Datafl\u00f6den som processas av algoritmer utg\u00f6r snart grunden f\u00f6r allt; fr\u00e5n medicinska h\u00e4lsoprofiler till politiska beslut, journalistik och akademiska teorier. Data har kommit att bli den grundl\u00e4ggande byggstenen i v\u00e5r v\u00e4rld, men ocks\u00e5 i oss sj\u00e4lva. Vi definieras utifr\u00e5n v\u00e5ra datautsl\u00e4pp, en osynlig antropocentrisk \u00e5nga best\u00e5ende av ettor och nollor utan vilken vi, och v\u00e5r v\u00e4rld, slutar att fungera. Hur data produceras, vem som \u00e4ger och har tillg\u00e5ng till den, har blivit en viktig politisk fr\u00e5ga, vilket inte minst Cambridge Analytica-skandalen pekade p\u00e5. Sk\u00f6rdandet av enorma m\u00e4ngder anv\u00e4ndardata f\u00f6reb\u00e5dar en dystopisk tid d\u00e4r \u00f6vervakning och kontroll av en digital “big brother” blir auktorit\u00e4ra regimers yttersta verktyg f\u00f6r f\u00f6rtryck av olikt\u00e4nkare (som till exempel i Kina med deras system med social kredit. (Se https:\/\/www.wired.co.uk\/article\/china-social-credit).<\/a>

Samtidigt f\u00f6r denna utveckling ocks\u00e5 med sig ett l\u00f6fte om en mer bekv\u00e4m och effektiv v\u00e4rld d\u00e4r algoritmer som processar v\u00e5ra datautsl\u00e4pp k\u00e4nner oss b\u00e4ttre \u00e4n sj\u00e4lva och s\u00e5ledes kan tillgodose v\u00e5ra behov med imponerande noggrannhet och individanpassning. Som G\u00f6ran Lindsj\u00f6 skriver p\u00e5 SvD debatt den 3e november i \u00e5r, AI kan g\u00f6ra flera yrken rimligare. S\u00e5ledes kritiseras Sverige f\u00f6r att halka efter n\u00e4r det g\u00e4ller just den nya data-baserade tekniken som AI utg\u00f6r.<\/p>\n\n\n\n

Dock finns det fr\u00e5gor att fundera \u00f6ver nu n\u00e4r allt fler propagerar f\u00f6r att vi ska hoppa p\u00e5 AI-t\u00e5get. Kan till exempel allting reduceras till data? Historikern och succ\u00e9-f\u00f6rfattaren Yuval Noah Harari (Homo Deus) skriver att alla organismer, inklusive m\u00e4nniskor, best\u00e5r av algoritmiskt processade datafl\u00f6den. Att den m\u00e4nskliga hj\u00e4rnan kan \u00e5terskapas i en dator \u00e4r n\u00e5got av en grundtes inom AI (se till exempel det EU-finansierade Human Brain Projektet, https:\/\/www.humanbrainproject.eu<\/a>). Och om b\u00e5de m\u00e4nniskor och datorer best\u00e5r av samma byggstenar v\u00e4cks fr\u00e5gan om det \u00e4r m\u00f6jligt att sl\u00e5s samman till n\u00e5gon form av dator-m\u00e4nniska hybrid. 
<\/p>\n\n\n\n

Men bakom s\u00e5dan AI finns en del ideologiska undertoner. Det talas nu om Dataism, eller datafiering (av engelskans Dataims och datafication), det vill s\u00e4ga en tro p\u00e5 objektiv kvantifiering och sp\u00e5rning av all typ av m\u00e4nskligt beteende och social samvaro genom digitala teknologi. Allt kan transformeras till av algoritmer l\u00e4s- och process-bar data. Skillnaden mellan m\u00e4nniska och maskiner kollapsar och vissa f\u00f6rv\u00e4ntar sig s\u00e5ledes \u00e4r att elektroniska algoritmer kommer att dechiffrera och s\u00e5 sm\u00e5ningom \u00f6vertr\u00e4ffa v\u00e5ra biokemiska algoritmer. Yuval Noah Harari menar att vi har tillg\u00e5ng till tillr\u00e4ckligt mycket data och tillr\u00e4ckligt med datakraft idag f\u00f6r att uppgradera v\u00e5r gamla algoritmiska processor (dvs. kroppen). Homo Sapiens \u00f6verg\u00e5r till Homo Deus, eller ska vi hellre s\u00e4ga Homo Datus?<\/p>\n\n\n\n

Ocks\u00e5 jag som jobbar p\u00e5 ett universitet med vetenskapliga teorier kommer att bli helt \u00f6verfl\u00f6dig. I framtiden tros vi ha tillg\u00e5ng till tillr\u00e4ckligt med data och tillr\u00e4ckligt kraftfulla datorer som kan hitta m\u00f6nster och hypoteser p\u00e5 egen hand (som Chris Anderson argumenterade f\u00f6r redan \u00e5r 2008 https:\/\/www.wired.com\/2008\/06\/pb-theory\/).<\/a>

Algoritmer som genoms\u00f6ker stora data-set (s\u00e5 kallad big data) tros kunna exponera m\u00f6nster och relationer vi inte ens visste existerade. S\u00e5ledes f\u00f6rses vi med en full\u00e4ndad f\u00f6rst\u00e5else som ocks\u00e5 \u00e4r befriad fr\u00e5n m\u00e4nsklig f\u00f6rvanskning och som inte \u00e4r befl\u00e4ckad av kontextuella omst\u00e4ndigheter. Dataism \u00e4r s\u00e5ledes tron p\u00e5 att det \u00e4r m\u00f6jligt att sp\u00e5ra och processa den data som m\u00e4nniskan sl\u00e4pper ut, datafl\u00f6den som d\u00e5 ger en fullst\u00e4ndig och objektiv bild av m\u00e4nskligt beteende och social samvaro. Dataism \u00e4r tron att algoritmer faktiskt kan skapa insikter ur all den data som sl\u00e4pps ut och samlas in, tron p\u00e5 att algoritmer kan skapa en bild av v\u00e4rlden med perfekt uppl\u00f6sning in i minsta detalj.<\/p>\n\n\n\n

S\u00e5ledes blir det ocks\u00e5 m\u00f6jligt att g\u00f6ra exakta f\u00f6ruts\u00e4gelser om m\u00e4nniskors beteende. Algoritmer kommer att f\u00f6rst\u00e5 oss m\u00e4nniskor b\u00e4ttre \u00e4n vi m\u00e4nniskorna sj\u00e4lva och d\u00e4rmed blir det logiskt att algoritmer kommer fatta de flesta besluten \u00e5t oss (vilket i viss m\u00e5n redan g\u00f6rs d\u00e5 vi delegerar beslut om vilken v\u00e4g vi ska ta och vilka b\u00f6cker vi ska k\u00f6pa till Google Maps och Amazon). F\u00f6ruts\u00e4gelser blir inte l\u00e4ngre en fr\u00e5ga om sannolikheter utan snarare felfria prognoser. Vissa individer kan komma att arresteras i f\u00f6rebyggande syfte eftersom deras datafl\u00f6den visar bortom allt tvivel att de kommer att beg\u00e5 brott framtiden. N\u00e4r m\u00e5let \u00e4r att f\u00f6rutse v\u00e4rlden ist\u00e4llet f\u00f6r att f\u00f6rst\u00e5 den, beh\u00f6ver vi inte l\u00e4ngre bry oss om orsakssamband. <\/p>\n\n\n\n

Allt detta g\u00e5r naturligtvis att ifr\u00e5gas\u00e4tta F\u00f6r det f\u00f6rsta, algoritmer f\u00f6ruts\u00e4tts sammanst\u00e4lla data p\u00e5 ett objektivt vis. Detta leder tankarna tillbaka till positivismen, en tro p\u00e5 att den st\u00f6kiga sociala v\u00e4rlden kan studeras naturvetenskapligt och att empiriska observationer och regelbundenheter kan leda till f\u00f6ruts\u00e4gelser. F\u00f6r positivistiskt lagda forskare erbjuder onekligen v\u00e5r tids \u00f6kande m\u00e4ngd data, tillsammans med dess processande i algoritmer, en m\u00f6jlighet att ber\u00e4kna samh\u00e4llet och kulturen. <\/p>\n\n\n\n

Ett annat problem \u00e4r att begreppet data s\u00e4llan definieras. Detta leder till okritisk tro p\u00e5 vad algoritmiskt processad data kan \u00e5stadkomma. Etymologiskt betyder data det som \u00e4r givet (fr\u00e5n det latinska verbet att ge, dare). H\u00e4rifr\u00e5n kan vi sk\u00f6nja id\u00e9n om data som en objektiv och neutral reflektion av verkligheten. Men v\u00e5r data \u00e4r inte given, den \u00e4r snarare tagen, utvunnen ur observationer och ber\u00e4kningar (vilket har lett vissa att ist\u00e4llet f\u00f6resl\u00e5 termen capta, fr\u00e5n det latinska verbet att ta, capere). Vidare skulle det etymologiskt vara mer korrekt att tala om information, allts\u00e5 som n\u00e5got tagits st\u00f6ps in i en form av ettor och nollor, formats till ber\u00e4kningsbar data, f\u00f6r att kunna processas av algoritmer. <\/p>\n\n\n\n

Data och algoritmers koppling till siffror och matematiska ber\u00e4kningar ger dem en aura av neutralitet och objektivitet. Detta till skillnad fr\u00e5n m\u00e4nniskor som ses som subjektiva och partiska. Det \u00e4r dokumenterat att vi lockas, ja till och med \u00e5tr\u00e5r, siffror. Och om vi m\u00e4nniskor kan reduceras till algoritmiskt bearbetade datafl\u00f6den betyder det ocks\u00e5 att vi kan representeras i matematiska formler? Hela v\u00e5r vardag och vi sj\u00e4lva blir f\u00f6rem\u00e5l f\u00f6r st\u00e4ndiga ber\u00e4kningar. Men \u00e4r det verkligen m\u00f6jligt att reducera subjektiva erfarenheter till matematiska ber\u00e4kningar? \u00c4r vi m\u00e4nniskor matematiska problem, n\u00e5got som kan representeras i algoritm? Det finns de som menar att m\u00e4nniskan \u00e4r mer komplex och of\u00f6ruts\u00e4gbar \u00e4n vad som kan delas upp i n\u00e5gra stegvisa ber\u00e4kningar i en datoralgoritm (se till exempel filosofen Jonna Bornemarks senaste bok Det Om\u00e4tbaras Ren\u00e4ssans<\/em> som nu \u00e4r nominerad till Stora fackbokspriset).<\/p>\n\n\n\n

Data ocks\u00e5 djupt kulturellt och f\u00e4rgas av samh\u00e4llets v\u00e4rderingar och normer. Det uppst\u00e5r inte naturligt eftersom det samlas in, manipuleras och masseras av m\u00e4nniskor. S\u00e5ledes formas data av m\u00e4nskliga beslut, tolkningar och filter. Bakom dataproduktion finns komplexa sammanst\u00e4llningar av m\u00e4nniskor, platser, dokument, praktiker och teknik. AI \u00e4r inte neutralt, data och programmerare \u00e4r fulla av f\u00f6rdomar.<\/p>\n\n\n\n

Ett tredje problem \u00e4r att algoritm-processad data anv\u00e4nds ofta f\u00f6r att f\u00f6rutse framtiden.  Men om vi vet fr\u00e5n b\u00f6rjan att data inte \u00e4r neutralt och har f\u00f6rdomar inbyggt i sig, hur kan algoritmers f\u00f6ruts\u00e4gelser bli korrekta och till\u00e4mpliga? Och d\u00e5 algoritmer har tr\u00e4nats f\u00f6r att se samband\/ korrelationer i stora data-set, men inte f\u00f6r att f\u00f6rst\u00e5 orsakssamband, blir de blinda f\u00f6r etiska sp\u00f6rsm\u00e5l. Algoritmer st\u00e4ller sig inte fr\u00e5gan varf\u00f6r de f\u00e5r de resultat de f\u00e5r och vad konsekvenserna kan bli. Det finns en uppsj\u00f6 av fall som till exempel Amazon som anklagades f\u00f6r att vara homofobiska d\u00e5 deras algoritm filtrerade ut HBTQ-titlar i sina s\u00f6kresultat. Vi har Microsofts chatt-bot Tay som snabbt b\u00f6rjade anv\u00e4nda sig av obscent och hatfullt spr\u00e5k efter att ha interagerat med Twitter-anv\u00e4ndare. Studier har ocks\u00e5 funnit att kvinnor underrepresenteras av bilds\u00f6kningsalgoritmer och att svarta m\u00e4nniskor inte ens k\u00e4nns igen som m\u00e4nniskor av ansiktsigenk\u00e4nningsalgoritmer (utan f\u00f6resl\u00e5s vara gorillor). Med tanke p\u00e5 att programmerare i fr\u00e4msta hand \u00e4r unga vita m\u00e4n, \u00e4r kanske inte dessa resultat inte s\u00e5 anm\u00e4rkningsv\u00e4rda.<\/p>\n\n\n\n

Vidare kan de m\u00f6nster som algoritmer letar fram i stora data-set ifr\u00e5gas\u00e4ttas. M\u00f6nster, baserat p\u00e5 g\u00e5rdagens data-sp\u00e5r, \u00e4r d\u00e5liga p\u00e5 att f\u00f6rutse framtiden. I en episod av NPRs pod Invisibilia fr\u00e5n tidigare i \u00e5r g\u00f6rs de lyssnare medvetna om att m\u00f6nster kan ha l\u00e5ngtg\u00e5ende konsekvenser om de ligger till grund f\u00f6r bed\u00f6mning av m\u00e4nniskor. (Se https:\/\/www.npr.org\/programs\/invisibilia\/597779069\/the-pattern-problem?t=1541865027064). <\/a>Ens f\u00f6rflutna \u00e4r inte n\u00f6dv\u00e4ndigtvis avg\u00f6rande f\u00f6r ens framtid. Detta avsl\u00f6jas ocks\u00e5 i en utmaning f\u00f6r forskare att skriva algoritmer f\u00f6r att hitta dolda m\u00f6nster i en stor databas baserat p\u00e5 5000 amerikanska barn f\u00f6ljda och intervjuade under 15 \u00e5r. Utmaningen gick ut p\u00e5 att m\u00f6nster som kunde f\u00f6ruts\u00e4ga vad som faktiskt h\u00e4nde med dessa barn. Den f\u00f6ruts\u00e4gbara potentialen i forskarnas f\u00f6reslagna m\u00f6nster var n\u00e4rmare noll \u00e4n 100 procent. Eftersom data inte \u00e4r neutralt \u00e4r m\u00f6nster som algoritmer hittar i stora data-set varken n\u00f6dv\u00e4ndigtvis sanningsenliga eller meningsfulla. \u00c4r det d\u00e5 rimligt att f\u00f6ruts\u00e4ga framtiden baserat p\u00e5 s\u00e5dana m\u00f6nster? \u00c4r framtiden alltid baserad p\u00e5 det f\u00f6rflutna?<\/p>\n\n\n\n

Slutsatsen i Invisibilia podden \u00e4r att vi m\u00e5ste acceptera den roll som slumpm\u00e4ssighet spelar i v\u00e5ra liv. Att vara m\u00e4nsklig \u00e4r att vara oavslutad, ofullst\u00e4ndig och oordnad. Att vara m\u00e4nniska \u00e4r att vara en konstant betaversion. Fr\u00e5gan blir d\u00e5 huruvida m\u00e4nsklig ofullst\u00e4ndighet och slumpm\u00e4ssighet kan f\u00e5ngas genom att bearbeta datafl\u00f6den i algoritmer. Kanske \u00e4r vissa saker om\u00f6jliga att representeras av algoritmer l\u00e4sbar data i form av ettor och nollor. Kanske \u00e4r det d\u00e4rf\u00f6r vi k\u00e4nner oss skr\u00e4mda av v\u00e5ra datafierade alter-egon d\u00e5 de dyker upp i v\u00e5ra s\u00f6kresultat och riktad reklam. Vi k\u00e4nner igen oss men inte riktigt. Det blir kusligt p\u00e5 samma s\u00e4tt som robotar kan vara mycket lika oss (den s\u00e5 kallade kusliga dalen), men inte riktigt. De \u00e4r lite f\u00f6r perfekta. Vi blir som en arm\u00e9 Saga Nor\u00e9ns fr\u00e5n den popul\u00e4ra TV-serien Bron. Direkta, tydliga och f\u00f6ljandes allsk\u00f6ns regler och lagar till punkt och pricka, men s\u00e5ledes ocks\u00e5 n\u00e5got om\u00e4nskliga. <\/p>\n\n\n\n

Det r\u00e5der ingen tvekan om att vi idag tror och litar p\u00e5 data. Vi fr\u00e5gar Google och Facebook om r\u00e5d om alla m\u00f6jliga olika saker. Teknikj\u00e4ttar och datavetare blir alltmer kraftfulla centra kring vilka stora delar av v\u00e5r existens cirkulerar. Men steget fr\u00e5n att erk\u00e4nna vikten av algoritmer l\u00e4sbar data, till att reduceras till s\u00e5dan data, \u00e4r ganska stor. Den m\u00e4nskliga hj\u00e4rnan har alltid beskrivits i termer av den mest dagsaktuella tekniken, fr\u00e5n \u00e5ngmaskiner p\u00e5 1700- talet till datorer och algoritmer idag. Yuval Noah Harari betonar fiktionens roll f\u00f6r samh\u00e4llen att fungera. Dataism och AI ocks\u00e5 baseras p\u00e5 en ber\u00e4ttelse om m\u00e4nniskor som rationella, f\u00f6ruts\u00e4gbara och d\u00e4rf\u00f6r ocks\u00e5 kontrollerbara. Och denna ber\u00e4ttelse \u00e4r inte ny, den har sina r\u00f6tter i modernitetens tro p\u00e5 framsteg och ber\u00e4kningar. <\/p>\n\n\n\n

Algoritmer m\u00e5 ha tillg\u00e5ng till data, men allt i v\u00e4rlden \u00e4r inte givet. Data \u00e4r partiella \u00f6vers\u00e4ttningar av uppfattad verklighet som satts in i en matematisk form av ettor och nollor. S\u00e5ledes f\u00f6refaller det att Dataism lider av en d\u00e5lig f\u00f6rst\u00e5else f\u00f6r semiotik eftersom de blandar ihop tecknet med det som tecknet ska representera. I detta avseende \u00e4r Dataism hoppl\u00f6st socialkonstruktivistiskt, inst\u00e4ngd i en bur av matematiskt spr\u00e5k, som, p\u00e5 grund av att vara mer abstrakt \u00e4n vanligt m\u00e4nskligt spr\u00e5k, anses vara renare och till och med gudomligt. Dessutom \u00e4r data alltid resultatet av ett urval, \u00e4ven stora data-set \u00e4r bara en representation, inte en helhet. Att basera hela v\u00e5r existens p\u00e5 partiella datasp\u00e5r vi l\u00e4mnar bakom i form av ett matematiskt spr\u00e5k, att basera v\u00e5r framtid p\u00e5 resterna av m\u00e4nsklig existens i en digital v\u00e4rld, skulle vara synekdoke, att ta en liten bit och g\u00f6ra den till en helhet. <\/p>\n\n\n\n

S\u00e5som AI utvecklas nu finns det ingen anledning att tro att den helt och fullt kan replikera m\u00e4nniskor i n\u00e4ra f\u00f6rest\u00e5ende tid. Idag \u00e4r AI bara vertikalt (verkst\u00e4llande) medan m\u00e4nniskor ocks\u00e5 t\u00e4nker horisontellt (kreativt). Algoritmer kan visa k\u00e4nslor men inte k\u00e4nna k\u00e4nslor och det \u00e4r faktiskt en skillnad. Bara f\u00f6r att algoritmer kan l\u00e4ra sig saker och ting kommer de inte att magiskt skapa en egen vilja. Vidare visar t\u00e4vlingar mellan lag best\u00e5ende av m\u00e4nniskor och datorer att lag som best\u00e5r av b\u00e5de m\u00e4nniskor och datorer \u00e4r b\u00e4st p\u00e5 att l\u00f6sa uppgifter, b\u00e4ttre \u00e4n lag som bara best\u00e5r av datorer. (Se https:\/\/jods.mitpress.mit.edu\/pub\/issue3-case). <\/a>
<\/p>\n\n\n\n

Det verkar s\u00e5ledes som att intelligens inte enbart best\u00e5r av en vertikal dimension, utan att intelligens \u00e4ven inkluderar slumpm\u00e4ssiga, kreativa och b\u00e5ngstyriga element, n\u00e5got som data-processande algoritmer verkar ha mycket sv\u00e5rt f\u00f6r. Det \u00e4r allts\u00e5 tveksamt om algoritmer kommer att kunna f\u00f6rv\u00e4rva de horisontella kvaliteter som vi beh\u00f6ver f\u00f6r att l\u00f6sa de olika problem m\u00e4nskligheten st\u00e5r inf\u00f6r. S\u00e5ledes b\u00f6r vi st\u00e4lla oss fr\u00e5gan om artificiell intelligens \u00e4r en oxymoron?<\/p>\n\n\n\n

Jakob Svensson \u00e4r docent i Medie- och kommunikationsvetenskap vid Malm\u00f6 Universitet. Han \u00e4r kopplad till forskningsmilj\u00f6erna Medea och Data Society Research Programme och leder projektet Bakom Algoritmen som finansieras av Vetenskapsr\u00e5det.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

av Jakob Svensson, K3, Malm\u00f6 universitet  Datafl\u00f6den som processas av algoritmer utg\u00f6r snart grunden f\u00f6r allt; fr\u00e5n medicinska h\u00e4lsoprofiler till politiska beslut, journalistik och akademiska teorier. Data har kommit att bli den grundl\u00e4ggande byggstenen i v\u00e5r v\u00e4rld, men ocks\u00e5 i … Continue reading →<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_mi_skip_tracking":false},"categories":[19,1],"tags":[],"_links":{"self":[{"href":"https:\/\/arkiv.mediekom.se\/index.php?rest_route=\/wp\/v2\/posts\/1926"}],"collection":[{"href":"https:\/\/arkiv.mediekom.se\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/arkiv.mediekom.se\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/arkiv.mediekom.se\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/arkiv.mediekom.se\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1926"}],"version-history":[{"count":8,"href":"https:\/\/arkiv.mediekom.se\/index.php?rest_route=\/wp\/v2\/posts\/1926\/revisions"}],"predecessor-version":[{"id":2044,"href":"https:\/\/arkiv.mediekom.se\/index.php?rest_route=\/wp\/v2\/posts\/1926\/revisions\/2044"}],"wp:attachment":[{"href":"https:\/\/arkiv.mediekom.se\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1926"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/arkiv.mediekom.se\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1926"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/arkiv.mediekom.se\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1926"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}