Disse fem råd bør du huske, når du arbejder med AI

Generativ AI giver mange virksomheder enorme muligheder for at spare tid. De kan bruges til at generere nyt indhold og til at opsummere og forkorte tekster. Men det skaber også udfordringer, som man er nødt til at forholde sig kritisk til.

Michael Rømer Bennike, der er Senior Security Architect i vores Security Lab, kommer her med en række råd og udfordringer, som er vigtige at have med, når man arbejder med generativ AI.

1. Den største udfordring er, at vi glemmer at forholde os kritisk til det, som chatbotten svarer. Hvor vi på traditionelle søgemaskiner selv kan vurdere troværdigheden af sider og se, hvis vi kommer ind på en russisk side fra 1990’erne, så kan vi med en chatbot ikke se, hvor svaret kommer fra. Svaret kan være sammenstykket af mange hundrede forskellige kilder.
2. En anden udfordring er, at det svar, som AI’en kommer med, er en slags sammenkogning af de data, som den er trænet på, og derfor svarer den ud fra det bedste ‘gæt’. Den giver altså et meget ‘gennemsnitligt’ svar, som betyder, at en gennemsnitlig medarbejder vil få gennemsnitlige svar og måske spare tid. Omvendt vil en dygtig medarbejder, der normalt programmerer kode af høj kvalitet, nu levere kode, som er gennemsnitlig og ikke i samme kvalitet, som vedkommende plejer.
3. En tredje udfordring er, at AI’en ikke kan fortælle dig, hvor sikker den er på det svar, den giver dig. Den vil altid give dig det bedste svar ud fra den data, der er til rådighed. Det betyder, at hvis du stiller et specifikt spørgsmål, hvor AI’en ikke har meget data til rådighed, så fortæller den dig ikke, at den f.eks. kun er 20 procent sikker.
4. Det er samtidig vigtigt at forholde sig til den information, som man afgiver, når man stiller spørgsmål til AI-værktøjerne. Overvej derfor grundigt, om du afgiver følsom information så som kildekode eller personhenførbar data, når du stiller et spørgsmål. Det er derfor afgørende, at I som virksomhed giver jeres medarbejdere en vejledning i, hvordan værktøjerne bruges hensigtsmæssigt. 
5. Det leder til det næste, som er vigtigt at have med, nemlig vores naturlige dovenskab som menneske. Fordi selv om en virksomhed bandlyser brugen af AI, så vil medarbejderne finde smutveje. Vi ser det hele tiden i it-sikkerhed. Sætter vi f.eks. krav om, at passwords skal være minimum 30 tegn, så skriver brugerne dem bare ned på et papir. Det samme gælder, hvis vi strammer grebet om brugen af AI, så vil medarbejderne bare gøre det uden om de rammer, som virksomheden har sat. Samtidig risikerer man, at medarbejderne udtrækker data fra virksomhedens systemer for at løse opgaver på deres private pc. 

Oplys i stedet medarbejderne om, hvordan de bruger værktøjerne hensigtsmæssigt. Få identificeret, hvad der er følsom data. Det kan være alt fra kildekode og personhenførbare data og til kundekartoteker eller kommende produkter.

Sat lidt på spidsen vil fremtiden være delt mellem de virksomheder, der har forstået at implementere produktiv brug af AI, og dem som er gået fallit. Det nytter derfor ikke at bandlyse brugen af AI-værktøjerne. De virksomheder, der er dygtige til at identificere use cases, hvor man kan automatisere med AI, kommer til at spare enorme summer. Omvendt så vil de virksomheder, som ikke kommer med på vognen, med al sandsynlighed bukke under ved at blive udkonkurreret af de virksomheder, som har fordoblet deres produktivitet ved hjælp af AI.

Indlægget er oprindeligt bragt i Børsen.