Etik i teknologiudvikling

Tænk mennesker ind i din løsning – de går aldrig af mode

Agnethe Kirstine Grøn

Agnethe Kirstine Grøn

Senior Design Anthropologist

Der er potentiale i at bruge AI og automatisering – ingen tvivl om det. Men midt i hypen og al begejstringen er der risiko for, at man glemmer de mennesker, som skal bruge teknologien. Den bør være til for at skabe værdi for mennesker og samfund, og når man glemmer det, så har det konsekvenser.

Manglende etik gør teknolgier biased

Du har helt sikkert hørt om det før: En virksomhed spytter en AI-dreven løsning ud, og efter lidt tid dukker utilsigtede konsekvenser og etiske problemer op – ofte til stor overraskelse for virksomheden. De har simpelthen glemt at tænke hele vejen rundt om de menneskelige konsekvenser.

Vi snakker Google Translate, der giver sexistiske resultater i forhold til pronominer på en række sprog, Amazons ansigtsgenkendelse, som gav mangelfulde resultater, hvis ikke brugeren havde lys hud, og en jobansøgnings-algoritme hos selvsamme, som frasorterede alle kvinder som første skridt i udvælgelsesprocessen. I alle eksempler som disse skal vi huske, at det ikke er AI’en i sig selv, der er racistisk, sexistisk og diskriminerende osv. Den manglende etik er resultat af dens træning og den data, som den er fodret med. Det er data, som afslører skjult bias og historiske tendenser – som ikke altid er lige heldige.

Tænk etik som I tænker bæredygtighed

Mange af disse ting kommer først frem i lyset, når tilpas mange (forskellige) mennesker får løsningen i hånden. Derfor bliver man nødt til at tænke mennesker med ind i sin løsning, hvis man vil sikre sig, at ens arbejde er inden for etikkens grænser. Ja, det bliver hurtigt abstrakt, når man begynder at snakke etik – og det bliver hurtigt en uoverskuelig størrelse for mange. 

Her ser jeg en klar parallel mellem etik i AI og den udvikling, der er sket med begrebet bæredygtighed. I starten var det meget abstrakt, og det var først en bonus, hvis virksomheder italesatte det. Men i dag ser vi flere og flere handlingsorienterede CSR-politikker, som har konkret og håndgribeligt indhold, og virksomheder, som faktisk bidrager til grøn forandring. Plus at det er gået fra at være en bonus til at være et reelt forbrugerkrav. Det er hér, vi er på vej hen med etik og AI. Så det er nu, man skal i gang, hvis ikke man vil komme bagud.  

Husk, at din løsning er designet af og til mennesker. Derfor er mit råd, at man ikke skal være bange for at arbejde med AI, men man skal gøre sig selv den tjeneste at gennemtænke de etiske aspekter. Man skal tænke stort i forhold til ambitionen, men man kan sagtens starte småt med konkrete handlinger.

Sæt fokus på brugerrejsen

Det første skridt kunne være at klarlægge brugerrejsen og alle interessenter: Hvem har kontakt med løsningen hvornår, hvad er deres behov, og hvilken rolle spiller data i de forskellige sammenhænge? Herfra kan man arbejde med kommunikationen – og det oversættelsesarbejde, de forskellige situationer og brugere har behov for – så der hele tiden er forståelse for, hvad der sker, og hvordan data påvirker flowet. Mennesker går aldrig af mode, og hvis man tænker dem med hele vejen rundt, så kan man arbejde sig hen mod en etisk løsning – og derved en mere fremtidssikret løsning.

Jeg har også skrevet et debatindlæg om, hvordan man kan arbejde med at sikre sig, at ens data er woke – du kan læse indlægget på TechManagement.

bliv klogere på tech

Relateret viden

Udnyt erfaringerne fra de store, mens I er små

For mange SMV’er kan det opleves, som om at muligheden for at udnytte de nyeste teknologiske fremskridt er forbeholdt de store virksomheder. De store virksomheder har råd til at prøve teknologierne af, til at ansætte eksperter i teknologierne og sætte fokus på en innovativ udvikling. Ofte resulterer det i fremskridt – men de har haft råd til at fejle, hvis det skulle komme dertil.

Formular indsendt!