Etik i teknologiudvikling
Tænk mennesker ind i din løsning – de går aldrig af mode
- 23. maj, 2022
Agnethe Kirstine Grøn
Senior Design Anthropologist
Der er potentiale i at bruge AI og automatisering – ingen tvivl om det. Men midt i hypen og al begejstringen er der risiko for, at man glemmer de mennesker, som skal bruge teknologien. Den bør være til for at skabe værdi for mennesker og samfund, og når man glemmer det, så har det konsekvenser.
Manglende etik gør teknolgier biased
Du har helt sikkert hørt om det før: En virksomhed spytter en AI-dreven løsning ud, og efter lidt tid dukker utilsigtede konsekvenser og etiske problemer op – ofte til stor overraskelse for virksomheden. De har simpelthen glemt at tænke hele vejen rundt om de menneskelige konsekvenser.
Vi snakker Google Translate, der giver sexistiske resultater i forhold til pronominer på en række sprog, Amazons ansigtsgenkendelse, som gav mangelfulde resultater, hvis ikke brugeren havde lys hud, og en jobansøgnings-algoritme hos selvsamme, som frasorterede alle kvinder som første skridt i udvælgelsesprocessen. I alle eksempler som disse skal vi huske, at det ikke er AI’en i sig selv, der er racistisk, sexistisk og diskriminerende osv. Den manglende etik er resultat af dens træning og den data, som den er fodret med. Det er data, som afslører skjult bias og historiske tendenser – som ikke altid er lige heldige.
Tænk etik som I tænker bæredygtighed
Mange af disse ting kommer først frem i lyset, når tilpas mange (forskellige) mennesker får løsningen i hånden. Derfor bliver man nødt til at tænke mennesker med ind i sin løsning, hvis man vil sikre sig, at ens arbejde er inden for etikkens grænser. Ja, det bliver hurtigt abstrakt, når man begynder at snakke etik – og det bliver hurtigt en uoverskuelig størrelse for mange.
Her ser jeg en klar parallel mellem etik i AI og den udvikling, der er sket med begrebet bæredygtighed. I starten var det meget abstrakt, og det var først en bonus, hvis virksomheder italesatte det. Men i dag ser vi flere og flere handlingsorienterede CSR-politikker, som har konkret og håndgribeligt indhold, og virksomheder, som faktisk bidrager til grøn forandring. Plus at det er gået fra at være en bonus til at være et reelt forbrugerkrav. Det er hér, vi er på vej hen med etik og AI. Så det er nu, man skal i gang, hvis ikke man vil komme bagud.
Husk, at din løsning er designet af og til mennesker. Derfor er mit råd, at man ikke skal være bange for at arbejde med AI, men man skal gøre sig selv den tjeneste at gennemtænke de etiske aspekter. Man skal tænke stort i forhold til ambitionen, men man kan sagtens starte småt med konkrete handlinger.
Sæt fokus på brugerrejsen
Det første skridt kunne være at klarlægge brugerrejsen og alle interessenter: Hvem har kontakt med løsningen hvornår, hvad er deres behov, og hvilken rolle spiller data i de forskellige sammenhænge? Herfra kan man arbejde med kommunikationen – og det oversættelsesarbejde, de forskellige situationer og brugere har behov for – så der hele tiden er forståelse for, hvad der sker, og hvordan data påvirker flowet. Mennesker går aldrig af mode, og hvis man tænker dem med hele vejen rundt, så kan man arbejde sig hen mod en etisk løsning – og derved en mere fremtidssikret løsning.
Jeg har også skrevet et debatindlæg om, hvordan man kan arbejde med at sikre sig, at ens data er woke – du kan læse indlægget på TechManagement.
Kontakt
Med en faglig baggrund i antropologi er Agnethe stærkt forankret i et målgruppeorienteret perspektiv og fokuserer på brugerinddragelse og brugerdrevet innovation. Hun interesserer sig for at inddrage det menneskelige aspekt i et design, hvor elementer som adfærd og brugervenlighed er en vigtig del af et givent projekt. Samtidig har hun stor erfaring med at inddrage forskellige interessenter i forhold til bæredygtig udvikling og kunstig intelligens.
Har du spørgsmål eller kommentarer, er du velkommen til at skrive til Agnethe på agnethe.gron@alexandra.dk
hot topic
Vores mest læste indlæg
bliv klogere på tech
Relateret viden
Tænk stort men start småt – Kom godt i gang med AR/VR med en billig prototype!
Nye teknologier som virtual reality og augmented reality bliver tit forbundet med de store it-giganters vilde visioner. Men når en af Apples største afdelinger beskæftiger sig med AR, er det i virkeligheden, fordi det bliver allemandseje inden for en nær fremtid. Når nye teknologier rykker, sker det i en vekselvirkning mellem, at virksomheder bliver mere digitale og teknologierne klar til at blive anvendt.
Dumt at ignorere internationale standarder
Da briterne ville erstatte det internationale metriske system med det britiske ’Imperial System’, grinede vi af dem. Men inden for telemonitorering følger danske kommuner og regioner ikke internationale standarder. Det kan få store konsekvenser, fortæller vores Senior Software/ICT Engineer, PhD Jacob Andersen.
App skal hjælpe patienter efter knæoperation
Mange tusind patienter om året får knæoperationer, benforlængelser og kunstigt knæ pga. slidgigt, og bagefter går de til kontrol. Det er tidskrævende for både patienter og sundhedspersonale og kan være overflødigt for patienter med et normalt forløb.
AI fanger aggressivt sprog for DR
På DR Nyheders Facebook-kanal kan politiske emner få folk helt op i det røde felt. Moderatorerne prøver at køre tonen lidt ned igen og sletter kommentarer, der er uacceptable.
