Etik i teknologiudvikling
Tænk mennesker ind i din løsning – de går aldrig af mode
- 23. maj, 2022
Agnethe Kirstine Grøn
Senior Design Anthropologist
Der er potentiale i at bruge AI og automatisering – ingen tvivl om det. Men midt i hypen og al begejstringen er der risiko for, at man glemmer de mennesker, som skal bruge teknologien. Den bør være til for at skabe værdi for mennesker og samfund, og når man glemmer det, så har det konsekvenser.
Manglende etik gør teknolgier biased
Du har helt sikkert hørt om det før: En virksomhed spytter en AI-dreven løsning ud, og efter lidt tid dukker utilsigtede konsekvenser og etiske problemer op – ofte til stor overraskelse for virksomheden. De har simpelthen glemt at tænke hele vejen rundt om de menneskelige konsekvenser.
Vi snakker Google Translate, der giver sexistiske resultater i forhold til pronominer på en række sprog, Amazons ansigtsgenkendelse, som gav mangelfulde resultater, hvis ikke brugeren havde lys hud, og en jobansøgnings-algoritme hos selvsamme, som frasorterede alle kvinder som første skridt i udvælgelsesprocessen. I alle eksempler som disse skal vi huske, at det ikke er AI’en i sig selv, der er racistisk, sexistisk og diskriminerende osv. Den manglende etik er resultat af dens træning og den data, som den er fodret med. Det er data, som afslører skjult bias og historiske tendenser – som ikke altid er lige heldige.
Tænk etik som I tænker bæredygtighed
Mange af disse ting kommer først frem i lyset, når tilpas mange (forskellige) mennesker får løsningen i hånden. Derfor bliver man nødt til at tænke mennesker med ind i sin løsning, hvis man vil sikre sig, at ens arbejde er inden for etikkens grænser. Ja, det bliver hurtigt abstrakt, når man begynder at snakke etik – og det bliver hurtigt en uoverskuelig størrelse for mange.
Her ser jeg en klar parallel mellem etik i AI og den udvikling, der er sket med begrebet bæredygtighed. I starten var det meget abstrakt, og det var først en bonus, hvis virksomheder italesatte det. Men i dag ser vi flere og flere handlingsorienterede CSR-politikker, som har konkret og håndgribeligt indhold, og virksomheder, som faktisk bidrager til grøn forandring. Plus at det er gået fra at være en bonus til at være et reelt forbrugerkrav. Det er hér, vi er på vej hen med etik og AI. Så det er nu, man skal i gang, hvis ikke man vil komme bagud.
Husk, at din løsning er designet af og til mennesker. Derfor er mit råd, at man ikke skal være bange for at arbejde med AI, men man skal gøre sig selv den tjeneste at gennemtænke de etiske aspekter. Man skal tænke stort i forhold til ambitionen, men man kan sagtens starte småt med konkrete handlinger.
Sæt fokus på brugerrejsen
Det første skridt kunne være at klarlægge brugerrejsen og alle interessenter: Hvem har kontakt med løsningen hvornår, hvad er deres behov, og hvilken rolle spiller data i de forskellige sammenhænge? Herfra kan man arbejde med kommunikationen – og det oversættelsesarbejde, de forskellige situationer og brugere har behov for – så der hele tiden er forståelse for, hvad der sker, og hvordan data påvirker flowet. Mennesker går aldrig af mode, og hvis man tænker dem med hele vejen rundt, så kan man arbejde sig hen mod en etisk løsning – og derved en mere fremtidssikret løsning.
Jeg har også skrevet et debatindlæg om, hvordan man kan arbejde med at sikre sig, at ens data er woke – du kan læse indlægget på TechManagement.
Kontakt
Med en faglig baggrund i antropologi er Agnethe stærkt forankret i et målgruppeorienteret perspektiv og fokuserer på brugerinddragelse og brugerdrevet innovation. Hun interesserer sig for at inddrage det menneskelige aspekt i et design, hvor elementer som adfærd og brugervenlighed er en vigtig del af et givent projekt. Samtidig har hun stor erfaring med at inddrage forskellige interessenter i forhold til bæredygtig udvikling og kunstig intelligens.
Har du spørgsmål eller kommentarer, er du velkommen til at skrive til Agnethe på agnethe.gron@alexandra.dk
hot topic
Vores mest læste indlæg
bliv klogere på tech
Relateret viden
Blockchain er ikke altid det rigtige værktøj til digitalisering
Fem ting, du skal vide, inden du forelsker dig i blockchain. Det er vigtigt, for blockchain er desværre ikke uden fejl og mangler.
Tænk mennesker ind i din løsning – de går aldrig af mode
Der er potentiale i at bruge AI og automatisering – ingen tvivl om det. Men midt i hypen og al begejstringen er der risiko for, at man glemmer de mennesker, som skal bruge teknologien. Den bør være til for at skabe værdi for mennesker og samfund, og når man glemmer det, så har det konsekvenser.
Overlad regnestykket til AI – ikke beslutningen
Mængden af information, som en kunstig intelligens kan rumme og regne på, er uden sammenligning med den beskedne mængde, vi mennesker kan overskue. Det ved de fleste, og især dem der har taget AI i brug.
Forklaringer som vejen til bedre modeller
Når vi taler om forklarlig kunstig intelligens, så er omdrejningspunktet tit, hvordan vi får forklaret computerens beslutningsproces, så alle kan forstå det. Det er dog ikke kun i teknologiens møde med slutbrugeren, at forklaringer har værdi. Når vi udvikler ny teknologi, kan forklaringer illustrere, hvordan en model vægter data i sin beslutning, og herunder hvad der måske vægtes uhensigtsmæssigt. Den information kan så bruges til at justere sammensætningen af den data, vi træner på og selve træningsprocessen, så vi kan forbedre vores model.
