Etik i teknologiudvikling
Tænk mennesker ind i din løsning – de går aldrig af mode
- 23. maj, 2022
Agnethe Kirstine Grøn
Senior Design Anthropologist
Der er potentiale i at bruge AI og automatisering – ingen tvivl om det. Men midt i hypen og al begejstringen er der risiko for, at man glemmer de mennesker, som skal bruge teknologien. Den bør være til for at skabe værdi for mennesker og samfund, og når man glemmer det, så har det konsekvenser.
Manglende etik gør teknolgier biased
Du har helt sikkert hørt om det før: En virksomhed spytter en AI-dreven løsning ud, og efter lidt tid dukker utilsigtede konsekvenser og etiske problemer op – ofte til stor overraskelse for virksomheden. De har simpelthen glemt at tænke hele vejen rundt om de menneskelige konsekvenser.
Vi snakker Google Translate, der giver sexistiske resultater i forhold til pronominer på en række sprog, Amazons ansigtsgenkendelse, som gav mangelfulde resultater, hvis ikke brugeren havde lys hud, og en jobansøgnings-algoritme hos selvsamme, som frasorterede alle kvinder som første skridt i udvælgelsesprocessen. I alle eksempler som disse skal vi huske, at det ikke er AI’en i sig selv, der er racistisk, sexistisk og diskriminerende osv. Den manglende etik er resultat af dens træning og den data, som den er fodret med. Det er data, som afslører skjult bias og historiske tendenser – som ikke altid er lige heldige.
Tænk etik som I tænker bæredygtighed
Mange af disse ting kommer først frem i lyset, når tilpas mange (forskellige) mennesker får løsningen i hånden. Derfor bliver man nødt til at tænke mennesker med ind i sin løsning, hvis man vil sikre sig, at ens arbejde er inden for etikkens grænser. Ja, det bliver hurtigt abstrakt, når man begynder at snakke etik – og det bliver hurtigt en uoverskuelig størrelse for mange.
Her ser jeg en klar parallel mellem etik i AI og den udvikling, der er sket med begrebet bæredygtighed. I starten var det meget abstrakt, og det var først en bonus, hvis virksomheder italesatte det. Men i dag ser vi flere og flere handlingsorienterede CSR-politikker, som har konkret og håndgribeligt indhold, og virksomheder, som faktisk bidrager til grøn forandring. Plus at det er gået fra at være en bonus til at være et reelt forbrugerkrav. Det er hér, vi er på vej hen med etik og AI. Så det er nu, man skal i gang, hvis ikke man vil komme bagud.
Husk, at din løsning er designet af og til mennesker. Derfor er mit råd, at man ikke skal være bange for at arbejde med AI, men man skal gøre sig selv den tjeneste at gennemtænke de etiske aspekter. Man skal tænke stort i forhold til ambitionen, men man kan sagtens starte småt med konkrete handlinger.
Sæt fokus på brugerrejsen
Det første skridt kunne være at klarlægge brugerrejsen og alle interessenter: Hvem har kontakt med løsningen hvornår, hvad er deres behov, og hvilken rolle spiller data i de forskellige sammenhænge? Herfra kan man arbejde med kommunikationen – og det oversættelsesarbejde, de forskellige situationer og brugere har behov for – så der hele tiden er forståelse for, hvad der sker, og hvordan data påvirker flowet. Mennesker går aldrig af mode, og hvis man tænker dem med hele vejen rundt, så kan man arbejde sig hen mod en etisk løsning – og derved en mere fremtidssikret løsning.
Jeg har også skrevet et debatindlæg om, hvordan man kan arbejde med at sikre sig, at ens data er woke – du kan læse indlægget på TechManagement.
hot topic
Vores mest læste indlæg
bliv klogere på tech
Relateret viden
Er vi klar til konsekvenserne, hvis det danske sprog lider en ’digital død’?
Forleden formåede min fætters børn – som endnu ikke kan stave – at downloade Minecraft til deres fars telefon, udelukkende gennem behagelig samtale med Siri. For dem er den stemmestyrede digitale assistent lige så naturlig at bruge, som en google-søgning er blevet for os andre.
Få brugerne til at melde fejl til jer – og ikke til medierne
Hvad gør I, hvis nogen finder en fejl i jeres digitale produkt? Med et Vulnerability Disclosure Program kan I etablere en proces for indrapportering af fejl.
Er talegenkendelse kun noget for unge, hvide mænd? Det synes vi ikke.
De store techselskaber koncentrerer sig om deres kernemålgrupper, når de skal udvikle sprogmodeller, der fungerer fra tekst til tale. Derfor fungerer talegenkendelsen bedre, hvis du er en ung, hvid mand fra København, men ikke hvis du er kvinde, sort, oppe i årene eller taler dialekt.
Udnyt erfaringerne fra de store, mens I er små
For mange SMV’er kan det opleves, som om at muligheden for at udnytte de nyeste teknologiske fremskridt er forbeholdt de store virksomheder. De store virksomheder har råd til at prøve teknologierne af, til at ansætte eksperter i teknologierne og sætte fokus på en innovativ udvikling. Ofte resulterer det i fremskridt – men de har haft råd til at fejle, hvis det skulle komme dertil.
