Boblberg

Dansk socialt medie bruger AI til at spore mistrivsel

Det sociale netværk Boblberg, der siden 1. juli har været en del af Røde Kors, udvikler sammen med Alexandra Instituttet en AI-moderator, der skal fange skadeligt indhold i opslag og beskeder. Modellen kører på Alexandra Instituttets danske AI-platform, så løsningen er i tråd med GDPR.

Udfordringen

Boblberg forbinder i dag over 690.000 brugere på tværs af landet. Her mødes mennesker i alle aldre om fælles interesser, aktiviteter og oplevelser. Et trygt og uformelt sted, hvor det handler om at finde gode fællesskaber.

Men fællesskaber kan også have en bagside, der kan indebære mistrivsel og ensomhed. En nylig undersøgelse fra Analyse og Tal viser, at 38% af de brugere, der i 2025 skrev på Boblberg, gav udtryk for mental mistrivsel i deres indhold blandt de over 1,4 millioner bobler og beskeder, der blev skrevet i løbet af året.

For at komme mistrivslen i møde er der behov for moderation. Indtil videre er arbejdet blevet udført manuelt af Boblberg-teamet, men i fremtiden skal det være AI-understøttet.

I dag bruger vi en del ressourcer på manuelt at gennemgå indholdet på platformen. Når AI assisterer en stor del af det arbejde, kan vi bruge tiden på opgaver, der skaber endnu mere værdi,” siger Stephan Djurhuus, Senior Software Engineer i Innovation & Development hos Boblberg

Sådan fungerer det

I bestræbelserne på at finde den rette AI-løsning har Alexandra Instituttets specialister rådgivet Boblberg om valg af AI-modeller og retningslinjer for beskyttelse af brugernes privatliv.

Pilotmodellen foregår således, at når en bruger opretter et en bobl eller sender en besked, vurderer AI-modellen indholdet. Hvis indholdet tyder på mistrivsel og overskrider en forudbestemt sandsynlighedstærskel, bliver det holdt tilbage og sendt til manuel gennemgang hos Boblberg. Her vurderer en medarbejder, om der er behov for at vejlede brugeren om andre relevante tilbud eller hjælpe på anden vis.

“Når AI-modellen kan klare flere af sagerne, kan vi bruge vores tid på de sager, hvor der virkelig skal et menneske til,” siger Stephan Djurhuus.

Grundelementerne er på plads, og løsningen er nu i test. Målet er, at modellens afgørelser skal flugte med vurderingerne fra Boblbergs egne moderatorer, før den tages i brug.

Boblberg_case
Foto: Boblberg

Data bliver i Danmark

Pilot-løsningen kører på Alexandra Instituttets AI-platform, som er hostet i Danmark og overholder GDPR-reglerne. Det er afgørende, når emnerne ofte kredser om ensomhed og mistrivsel.

“Boblberg er et godt eksempel på en social platform, hvor man skal kunne garantere et lukket rum. Man kan ikke bare sende brugernes samtaler gennem en udenlandsk AI-tjeneste uden at vide, hvad der sker med dem,” siger Alexandre Alapetite, Principal AI Specialist hos Alexandra Instituttet.

“På en AI platform som vores er der ingen risiko for, at modellen trænes på de analyserede data. Mange sociale medier, som gerne vil være digitalt suveræne, vil kunne drage nytte af sådan en løsning, afslutter han.

Boblberg blev grundlagt i 2011. Platformen begyndte med fokus på sport, men udviklede sig til et bredere netværk, hvor mennesker kan finde nye venner, fælles interesser og sociale aktiviteter.

Boblbergs grundidé er, at teknologien skal hjælpe mennesker med at mødes i den virkelige verden. Succes handler derfor ikke kun om aktivitet på platformen, men også om de relationer, der opstår uden for skærmen.

Bliv inspireret af vores andre kunder

Sådan har andre brugt ny teknologi til at styrke deres forretning

GomSpace fik afklaret, hvor AI skaber værdi i produktionen

Hvordan kan AI lette de omfattende dokumentations- og kvalitetsprocesser i produktionen af satellitter? Det spørgsmål ville rumfartsvirksomheden GomSpace undersøge med hjælp fra Alexandra Instituttet. Projektet førte ikke til en færdig AI-løsning, men gav virksomheden værdifuld viden om teknologiens begrænsninger og et stærkere grundlag for at prioritere sine fremtidige AI-investeringer.

Colourbox fik AI sparring

Colourbox ville undersøge om kunstig intelligens kan bruges til bedre billedforståelse. Målet var ikke at bygge en færdig løsning, men at teste mulighederne: Kan AI bruges til at gruppere billeder, identificere indhold og håndtere ansigtsdata – uden at være låst af eksisterende platforme?​

Dansk AI-platform skal give sagsbehandlere tiden tilbage

Genair8 har udviklet en AI-løsning, der frigør socialrådgiveres tid fra administrativt arbejde. Chatbotten kan blandt andet skabe overblik i omfattende sagsmateriale, finde relevante lovhenvisninger og udarbejde præcise resuméer. Med hjælp fra Alexandra Instituttet er løsningen designet til at håndtere følsomme data ansvarligt og i overensstemmelse med gældende lovgivning.

Formular indsendt!