Tænk mennesker ind i din løsning – de går aldrig af mode

23. maj, 2022

Agnethe Kirstine Grøn

Senior Design Anthropologist

Der er potentiale i at bruge AI og automatisering – ingen tvivl om det. Men midt i hypen og al begejstringen er der risiko for, at man glemmer de mennesker, som skal bruge teknologien. Den bør være til for at skabe værdi for mennesker og samfund, og når man glemmer det, så har det konsekvenser.

Manglende etik gør teknolgier biased

Du har helt sikkert hørt om det før: En virksomhed spytter en AI-dreven løsning ud, og efter lidt tid dukker utilsigtede konsekvenser og etiske problemer op – ofte til stor overraskelse for virksomheden. De har simpelthen glemt at tænke hele vejen rundt om de menneskelige konsekvenser.

Vi snakker Google Translate, der giver sexistiske resultater i forhold til pronominer på en række sprog, Amazons ansigtsgenkendelse, som gav mangelfulde resultater, hvis ikke brugeren havde lys hud, og en jobansøgnings-algoritme hos selvsamme, som frasorterede alle kvinder som første skridt i udvælgelsesprocessen. I alle eksempler som disse skal vi huske, at det ikke er AI’en i sig selv, der er racistisk, sexistisk og diskriminerende osv. Den manglende etik er resultat af dens træning og den data, som den er fodret med. Det er data, som afslører skjult bias og historiske tendenser – som ikke altid er lige heldige.

Tænk etik som I tænker bæredygtighed

Mange af disse ting kommer først frem i lyset, når tilpas mange (forskellige) mennesker får løsningen i hånden. Derfor bliver man nødt til at tænke mennesker med ind i sin løsning, hvis man vil sikre sig, at ens arbejde er inden for etikkens grænser. Ja, det bliver hurtigt abstrakt, når man begynder at snakke etik – og det bliver hurtigt en uoverskuelig størrelse for mange.

Her ser jeg en klar parallel mellem etik i AI og den udvikling, der er sket med begrebet bæredygtighed. I starten var det meget abstrakt, og det var først en bonus, hvis virksomheder italesatte det. Men i dag ser vi flere og flere handlingsorienterede CSR-politikker, som har konkret og håndgribeligt indhold, og virksomheder, som faktisk bidrager til grøn forandring. Plus at det er gået fra at være en bonus til at være et reelt forbrugerkrav. Det er hér, vi er på vej hen med etik og AI. Så det er nu, man skal i gang, hvis ikke man vil komme bagud.

Husk, at din løsning er designet af og til mennesker. Derfor er mit råd, at man ikke skal være bange for at arbejde med AI, men man skal gøre sig selv den tjeneste at gennemtænke de etiske aspekter. Man skal tænke stort i forhold til ambitionen, men man kan sagtens starte småt med konkrete handlinger.

Sæt fokus på brugerrejsen

Det første skridt kunne være at klarlægge brugerrejsen og alle interessenter: Hvem har kontakt med løsningen hvornår, hvad er deres behov, og hvilken rolle spiller data i de forskellige sammenhænge? Herfra kan man arbejde med kommunikationen – og det oversættelsesarbejde, de forskellige situationer og brugere har behov for – så der hele tiden er forståelse for, hvad der sker, og hvordan data påvirker flowet. Mennesker går aldrig af mode, og hvis man tænker dem med hele vejen rundt, så kan man arbejde sig hen mod en etisk løsning – og derved en mere fremtidssikret løsning.

Jeg har også skrevet et debatindlæg om, hvordan man kan arbejde med at sikre sig, at ens data er woke – du kan læse indlægget på TechManagement.

Kontakt

Med en faglig baggrund i antropologi er Agnethe stærkt forankret i et målgruppeorienteret perspektiv og fokuserer på brugerinddragelse og brugerdrevet innovation. Hun interesserer sig for at inddrage det menneskelige aspekt i et design, hvor elementer som adfærd og brugervenlighed er en vigtig del af et givent projekt. Samtidig har hun stor erfaring med at inddrage forskellige interessenter i forhold til bæredygtig udvikling og kunstig intelligens.

Har du spørgsmål eller kommentarer, er du velkommen til at skrive til Agnethe på agnethe.gron@alexandra.dk

Vores mest læste indlæg

Er vi klar til konsekvenserne, hvis det danske sprog lider en ’digital død’?

Relateret viden

AR-teknologi træner mejerister fra hele Norden i digital beslutningsstøtte

Alexandra Instituttet har i samarbejde med FORCE Technology og Kold College i Odense bygget en digital tvilling af et pasteuriseringsanlæg, som står for varmebehandling i et mejeri. Det gør op med den traditionelle måde at interagere med produktionen. I stedet for at du styrer maskinen via en skærm med knapper, så kan du gå rundt i produktionen i augmented reality og tage status på maskinernes tilstand.

Forklaringer som vejen til bedre modeller

Når vi taler om forklarlig kunstig intelligens, så er omdrejningspunktet tit, hvordan vi får forklaret computerens beslutningsproces, så alle kan forstå det. Det er dog ikke kun i teknologiens møde med slutbrugeren, at forklaringer har værdi. Når vi udvikler ny teknologi, kan forklaringer illustrere, hvordan en model vægter data i sin beslutning, og herunder hvad der måske vægtes uhensigtsmæssigt. Den information kan så bruges til at justere sammensætningen af den data, vi træner på og selve træningsprocessen, så vi kan forbedre vores model.

Digitalisering og VR skal gøre Vestas grønnere og hurtigere

Digitaliseringen skal være med til at bane vejen for Vestas’ værdikæde, så der opnås mere miljørigtig transport og hurtigere time to market.

Udnyt realtidsdata til at forudsige og forbedre driften i kommunen

For kommuner, byplanlæggere og arkitektvirksomheder kan det være særligt interessant at måle på grønne kørselsmønstre, eller på hvordan byrum bliver brugt ved at forholde sig til data om bevægelsesstrømme. Og der bliver hele tiden bedre mulighed for at indsamle data om vores virkelighed fra de ting, der bevæger sig rundt om os, og som vi bevæger os rundt imellem. Det betyder, at vores ageren i den fysiske virkelighed hurtigt bliver omsat til data, der giver os et realtidsoverblik.