astrid mathilde

Hvordan kan kunstig intelligens være en støtte under vanskelige samtaler med barn og unge? Og hvordan kan vi bruke kunstig intelligens i digitale løsninger, og samtidig ivareta personvern og vår egen klode?

Gjennom grundig innsiktsarbeid og en iterativ designprosess, har vi i samarbeid med Norges Røde Kors utviklet et internt verktøy for de frivillige i Kors på halsen, basert på det nye Designsystemet fra Digitaliseringsdirektoratet (Digdir).

Kors på halsen er en tjeneste der barn og unge kan snakke anonymt med en voksen, om alt fra kropp til psykisk helse. De voksne som svarer, er frivillige som har fått opplæring i å snakke med barn.

I dag venter barna i snitt 7 minutter på å få chatte med en frivillig. Et av de viktigste funnene våre er at de frivillige bruker tid på å svare i chatten, fordi de tenker nøye gjennom hva de skal skrive og slår opp i ressursbanken.

Med det nye verktøyet, får de frivillige råd og veiledning underveis i samtalen, enklere tilgang på relevante ressurser, og forslag til hva de kan svare. Dette tror vi vil øke kvaliteten på samtalen, redusere svartiden og dermed også ventetiden for barna som står i kø for å chatte med en frivillig.

Om dette verktøyet skulle blitt implementert, ser vi for oss at Røde Kors bruker en språkmodell bygd på interne ressurser og retningslinjer i Kors på halsen, og at denne språkmodellen kjøres lokalt på deres egne maskiner. Dette vil sikre god personvern og begrenset klimagassutslipp – og barna vil få svar raskere.

Brief

Vår oppgave var å utforske fremtidens kors på halsen, i forbindelse med at Norges Røde Kors skulle utvikle ny strategi for 2027–2029. Etter innledende innsiktsarbeid, valgte vi å utforske hvordan kunstig intelligens kan være en støtte under vanskelige samtaler med barn og unge – samtidig som personvernet blir ivaretatt.

Prosess

Planen var å sette i gang med prototyping og lavterskel brukertesting så tidlig som mulig, og kontinuerlig videreutvikle prototypen gjennom hele prosjektet.

Vi fikk ikke brukertestet så mye som vi hadde planlagt, og vi kom litt sent i gang med prototyping. Til gjengjeld fikk vi gjort mye innsiktsarbeid og idéutvikling.

1) Innsikt

For å samle innsikt, gjorde vi skrivebordsundersøkelser, feltarbeid, intervjuer og gjennomførte workshops. Helt i starten undersøkte vi også nettsiden til Kors på halsen, og fant noen problemer med enkle intervensjoner (“low hanging fruits”). Dette fokuserte vi ikke på å løse direkte, men vi tok med også denne innsikten da vi senere skulle utvikle idéer.

I tillegg utviklet vi en “rich design space” der vi hengte opp innsikten, materiellet og idéene vi fikk underveis i prosjektet. Dette var viktig for å skape felles eierskap til prosjektet og gjøre innsikten vår mer tilgjengelig.

2) Analyse

For å analysere innsikten, har vi brukt mapping og tematisk analyse. Vi satte opp en tidslinje basert på observasjoner fra feltarbeid, flytdiagrammer basert på det som skjedde i “front-stage” og “back-stage” av tjenesten. Tematisk analyse ble brukt til å se etter temaer på tvers av all innsikten.

3) Hovedfunn

Den tematiske analysen resulterte i fire hovedfunn, der det viktigste funnet var at det tar tid før barna får svar – både i chatten og mens de venter på å få snakke med noen.

4) Utforskning

Basert på funnene våre, definerte vi tre nye problemstillinger og vinklinger for prosjektet. Etter å ha utforsket mulighetsrommet for hver av dem, konkluderte vi med at det var problemstilling #3 som hadde flest muligheter og som ville skape mest verdi for sluttbrukerne.

For å utforske mulighetsrommet, startet vi med å lage ulike "mulighetstre" hvor vi definerte mål basert på problemstillingene og funnene våre, utforsket muligheter og løsninger for hvert av målene, og til slutt hvilke antagelser eller hypoteser løsningene var basert på.

Deretter skisserte vi ut idéer for hver løsning på papir, før vi kombinerte alle idéene til digitale wireframes.

5) Valg av konsept

Basert på innsikten vår, landet vi på å utvikle videre idéen som handlet om bruk av kunstig intelligens for å hjelpe de frivillige med å gi gode svar. Vår hypotese var at om de frivillige får hjelp til å gi gode svar raskere, vil det også redusere ventetiden for barna.

Under en workshop med ungdommer fra ekspertpanelet til Norges Røde Kors, stilte vi dem åpne spørsmål knyttet til kunstig intelligens. Dette var viktig for å undersøke hva barn tenker om å snakke med noen som får hjelp av KI til å svare, men hadde ikke vært tilstrekkelig dersom prosjektet skulle blitt realisert.

6) Konseptutvikling

Vi startet med å kartlegge funksjonaliteten løsningen burde ha. Det gjorde vi ved å generere alle funksjonene vi kunne se for oss, og plassere de i en matrise basert på brukerverdi og kompleksitet. Vi tenkte både brukerverdi for de frivillige som skulle bruke løsningen og verdien for sluttbrukerne – altså barna. Det gjorde at vi enkelt fikk en oversikt over de viktigste funksjonene.

For å raskt komme i gang med prototyping, har vi brukt wireframes på papir kombinert med det nye designsystemet fra Digdir. Designsystemet er en ny, felles verktøykasse med grunnleggende UI-komponenter, retningslinjer og mønstre, utviklet i samarbeid mellom flere offentlige etater i Norge. Med hjelp fra designkonsulenter fra Manyone, fikk vi startet prototyping umiddelbart, siden de allerede hadde startet tilpasningen av designsystemet til Norges Røde Kors sin visuelle profil.

Vi bestemte at interne verktøy fra Norges Røde Kors bør bruke den mørkeblå profilfargen som primærfarge, mens verktøyene som presenterer Norges Røde Kors for allmennheten, skal beholde den kjente, røde fargen. Det er fordi mørkeblått skaper et roligere arbeidsmiljø, i tillegg til at fargen ikke kommer i konflikt med den røde fargen som brukes i feilmeldinger.

7) Prototyping og testing

For å få tilbakemelding på prototypen, har vi designet flere ulike løsningsforslag og testet disse på frivillige og vaktansvarlige i Kors på halsen. Vi har også fått tilbakemelding på løsningen vår fra en forsker i SINTEF.

For funksjonen “forslag til svar” testet vi to alternativer. I det ene alternativet får du forslag til svar direkte i meldingsfeltet, mens i det andre kan du spørre en assistent om å gi et forslag.

Vi fikk best tilbakemeldinger på det første alternativet, fordi bruk av knapper gjør funksjonen mer tilgjengelig. Samtidig ​tenker vi det er lurt å skille meldingene de frivillige skriver selv, fra svarene som blir generert av KI.
Vi testet også en sentral funksjon i løsninga vår – det å få råd og veiledning i sanntid. I dette eksempelet blir samtalen analysert underveis, og den frivillige får automatisk tilgang på relevante ressurser fra det som kalles “temabanken”.

Men under brukertesting var det noe som gikk galt. Det var flere som ikke skjønte oppsettet, og trodde de emneknaggene var knapper du skulle trykke på, i stedet for at du her kunne fjerne de temaene som ikke er aktuelle.

Andre funksjoner fikk vi gode tilbakemeldinger på, som det å analysere meldinger barnet skrivet for å få hjelp til å forstå, eller det å automatisk tilpasse språket på meldingene dine.

Etter brukertestingen måtte vi gjøre noen justeringer. Vi designet en ny løsning for visning av ressurser, og bestemte oss for å vise forslag til svar adskilt fra chatten. Som en av de vaktansvarlige sa, er det “viktig at funksjonene ikke står i veien for gi svar, eller ta en rask avgjørelse.”

Vi forstod også at vi måtte utforske videre det å få råd og veiledning i sanntid, mens samtalen pågår. For vaktansvarlig fortalte også at de frivillige kunne glemme litt metodikk, det å følge en samtalestruktur og avslutte til riktig tid. Dette syntes vi var interessant å se nærmere på.

Resultat

I den ferdige løsningen har den frivillige full kontroll på assistenten sin. Den frivillige kan velge å skjule alle verktøyene for å fokusere på samtalen, og det er opp til hver enkelt om de ønsker å bruke kunstig intelligens, og hva de ønsker å bruke det til. Dette gjør verktøyet til noe alle frivillige kan trives med, både de som har vært frivillig i 10 år og føler seg trygge, og de helt nye som trenger litt ekstra støtte i starten.

Refleksjoner

I dette prosjektet har jeg hatt en analytisk og teknisk rolle som designer, og jeg har bidratt til at vi har holdt tempoet oppe og fått brukt tiden godt. Jeg har medvirket til mengder i skisser og løsningsforslag. Under prototyping har jeg fokusert på språk, detaljer og visuelt hierarki. Jeg har også vært den som har vært mest realistisk av oss i teamet, ved at jeg har fokusert på hvordan løsninga kunne blitt implementert i virkeligheten. Her har Peter vært en god motvekt, fordi han oppfordret oss til å tenke utenfor dagens rammer – noe jeg selv kunne ha gjort i mye større grad.

Når jeg ser tilbake, kunne vi ha utforsket funksjonene på nettsiden til Kors på halsen i større grad. Dette vil ha gått på bekostning av detaljnivået for samtaleverktøyet, men er noe som ville hatt større verdi for Norges Røde Kors og som kanskje svarer bedre på briefen som handler om “fremtidens Kors på halsen”.

Takk til Peter for et godt og lærerikt prosjekt.