Hvad er din professionelle baggrund, og hvad er dit primære forskningsområde?
”Jeg er oprindeligt uddannet antropolog med en overbygning inden for organisation og ledelse (cand.soc. i Politisk Kommunikation og Ledelse fra CBS). I dag er jeg lektor på DPU og forsker i, hvordan kunstig intelligens og andre datadrevne teknologier forandrer relationen mellem stat og borger.

For eksempel har jeg i forskningsprojektet Data Visions: Teaching in the age of digital data visualizations (DFF) forsket i implikationerne af, at datavisualiseringer i digitale læremidler automatiserer noget af lærerens arbejde med at vurdere elever. I Algoritmer, Data og Demokrati-projektet (Velux og Villumfondene) har jeg undersøgt den offentlige sektors eksperimenter med kunstig intelligens på området for udsatte børn og unge og i de fællesoffentlige AI Signaturprojekter.

Min forskning viser, at kunstig intelligens ikke er en neutral teknologi. Det er vigtigt at undersøge AI kritisk, fordi teknologien altid afspejler bestemte værdier, prioriteringer og forestillinger om verden – både i design, anvendelse og de data, den bygger på. Når AI indføres i velfærdsstaten, påvirker det ikke blot arbejdsgange og beslutningsprocesser, men også hvad vi opfatter som legitim viden, og den forandrer betingelserne for at arbejde med retfærdighed og ansvarlighed.

For eksempel kan algoritmiske systemer forstærke eksisterende uligheder eller flytte magt væk fra fagprofessionelle og borgere. Derfor kræver brugen af AI ikke blot teknisk ekspertise, men også forskningsbaseret viden om, hvordan vi anvender teknologien, så den understøtter faglighed og retfærdighed.”

Hvad arbejder du med i CAISA?
”CAISA er et nationalt center for kunstig intelligens i samfundet, der skal forske i og rådgive om, hvordan vi i et demokrati som Danmark bedst udvikler og håndterer kunstig intelligens på en ansvarlig og demokratisk facon.

I CAISA er jeg optaget af et borger- og medarbejderperspektiv på kunstig intelligens. Det betyder, at jeg arbejder med, hvordan AI påvirker hverdagen for dem, der skal leve med teknologien – særligt i velfærdsstaten, hvor frontlinjearbejderes praksis i stigende grad understøttes af algoritmiske systemer.

Jeg vil gerne bidrage til, at både borgere og medarbejdere får en mere aktiv stemme i beslutninger om, hvordan og hvorvidt vi skal anvende AI – herunder i teknologiernes udvikling, design og implementering. Det handler om at udvide det demokratiske handlerum i en tid, hvor mange beslutninger overlades til tekniske eksperter.

Jeg vil også gerne arbejde for, at de organisationer, der anvender AI, bliver mere responsive over for de ofte uintenderede konsekvenser, teknologien kan have i praksis. Det kræver, at vi udvikler en mere lærende og refleksiv feedbackkultur, hvor erfaringer fra hverdagsbrug – både de positive og de problematiske – aktivt inddrages i videreudviklingen af systemerne.”

Hvilken indvirkning forventer du, at centeret vil have på samfundet eller dit forskningsfelt?
”På samfundsniveau ser jeg CAISA som en rådgivende platform, hvor vi kan bringe forskningsbaseret viden i spil og gøre en reel forskel for beslutningstagere. Vi har brug for et sted, hvor kompleks viden om AI og dens konsekvenser – teknologiske, etiske og sociale – kan formidles på en måde, der understøtter mere oplyste og ansvarlige beslutninger.

Forskningsmæssigt ser jeg CAISA som en samlende aktør, der kan styrke både dansk og international forskning på området. Jeg glæder mig til samarbejdet med dygtige kolleger i ind- og udland og til at undersøge, hvordan vi kan samle og formidle den store mængde viden, der allerede eksisterer om AI i samfundet – og ikke mindst bidrage med ny viden.

Mit eget fokus vil være på, hvordan vi kan understøtte en demokratisk og menneskecentreret udvikling og brug af AI i den offentlige sektor – en brug, der bygger på inddragelse og en responsiv, organisatorisk læring.”

Læs om Helene Ratners projekt i SHAPE ”Algoritmer, Data og Demokrati” her.