AI: Dilemma-kortlægning skal finde ”skjulte” etiske overvejelser

Når vi bruger AI til at systematisere processer, systematiserer vi også en række beslutninger, som ikke har et entydigt svar. Nyt værktøj fra forsikrings- og pensionsbranchen og ADD-projektet afdækker de skjulte etiske dilemmaer i AI og hjælper med at balancere hensynet til kunderne med valg om dataindsamling og modellering.

Flere sten balancerer på strand
Publiceret 15.11.2024
Dokument ikon
Værktøj

Ethical AI in life and non-life insurance: A Framework for Mapping Ethical Trade-offs in AI use

Vi ser ofte datavidenskab, som en objektiv og teknisk disciplin, hvor alle spørgsmål har et korrekt matematisk svar. Men bag data og algoritmerne ligger en række skjulte etiske overvejelser, som kan være definerende for, hvordan AI opleves og opfører sig.

Så hvordan sikrer vi fokus på de ”skjulte” etiske overvejelser? Forskere fra Algoritmer, Data og Demokrati (ADD)-projektet har sammen med F&P udgivet et værktøj målrettet forsikring og pensionsbranchen, som skal hjælpe med netop det.

”Ord som dataindsamling, dataprocessering og modellering leder umiddelbart ikke tankerne hen på menneskelige konsekvenser. Men de beslutninger, som tages, når man udvikler AI, kan få indflydelse på folks liv, fordi modeller i stigende grad bidrager til beslutninger, som vedrører mennesker – også på følsomme områder. Derfor er det afgørende, at AI-udviklere er bevidste om de ”skjulte” etiske aspekter af deres arbejde,” siger Alexander Gamerdinger, ph.d.-studerende fra CBS og forsker i ADD-projektet.

quote

”I essensen handler det om, at vi får de ”skjulte” etiske overvejelser frem, så vi kan afveje hensynet til dem, som modeller påvirker"

- Jakob Holm, chefkonsulent

Etisk trade-off mapping

F&P har sammen med ADD samlet eksperter fra forsikrings- og pensionsbranchen for at drøfte etiske spørgsmål i forbindelse med en række konkrete AI-usecases i branchen.

Det kom ikke bag på nogen, at der var åbenlyse dataetiske dilemmaer i alle cases. Det interessante var, at dilemmaerne i stort omfang tog afsæt i modstridende overvejelser; trade-offs, som i hovedtræk kan fordeles på tre områder: Data og dataindsamling, kundens oplevelse og modellering. 

”Når man implementerer AI, kan en mere systematisk gennemgang af disse elementer bidrage til at opdage etiske afvejelser, man måske ellers havde overset – med andre ord finde skjulte etiske dilemmaer,” siger Jakob Holm, chefkonsulent i F&P og uddyber:

”I samme case kan der både være gode argumenter for at minimere dataindsamlingen for at øge hensynet til kundernes privacy. Omvendt kunne man samtidig argumentere for at bruge flere data, fordi det giver en mere ”fair” model, som er mere præcis på tværs af alle kunder og reducerer risikoen for uønskelig bias. Afvejningen af de to elementer giver et dilemma, hvor der ikke findes et svar med 2 streger under.” 

Få afdækket de etiske spørgsmål

I manuelle processer træffer mennesker masser af beslutninger, der reelt set er afvejninger uden et decideret klart svar. Vi kan som mennesker sagtens vurdere to næsten ens sager forskelligt. Når vi implementerer en AI, så vil den systematisk kører videre ud fra de afvejelser, vi har defineret for den.

”Derfor giver det ekstra god mening, at man ved implementeringen af AI bruger ekstra tid på at identificere elementer, hvor der sker et trade-off mellem forskellige hensyn, fordi outputtet bliver systematiseret efterfølgende. I dag hviler ansvaret for modeller ofte på data scientists. Det er ikke en dårlig ting, da de er domæneeksperter på AI og data,” siger Alexander Gamerdinger og uddyber:

”Vores arbejde viser dog også, at svaret på et spørgsmål blev mere nuanceret, når man også inddrog fx compliance-eksperter i afklaringen. Med andre ord kan en systematisk afvejning af etiske dilemmaer hjælpe til at tydeliggøre centrale overvejelser og sikre, at ikke-tekniske eksperter fx compliance eller kunderådgivere inddrages, når vi træffer beslutninger om balancen i centrale elementer.” 

Det er derfor håbet, at F&P og ADD-arbejdet kan hjælpe virksomhederne i branche med at mere systematisk identificere områder i AI-implementeringen, hvor der kan ske markante trade-offs, og dermed sikre, at man inddrager de relevante interessenter og tager de relevante etiske drøftelser, inden man sætter to streger under sin AI.

”I essensen handler det om, at vi får de ”skjulte” etiske overvejelser frem, så vi kan afveje hensynet til dem, som modeller påvirker – i vores tilfælde forsikrings- og pensionskunderne - med beslutninger om data, dataindsamling og modellering. Og det er håbet, at vi kan bidrage til det med det ny værktøj,” siger Jakob Holm.

Dokument ikon
Værktøj

Ethical AI in life and non-life insurance: A Framework for Mapping Ethical Trade-offs in AI use

Arbejdet bag

For at forstå de etiske overvejelser i arbejdet med AI har Forsikring & Pension i samarbejde med forskere fra forskningsprojektet Algoritmer, Data og Demokrati, afholdt en workshop med 36 data scientists, aktuarer, jurister og compliance-specialister fra 16 danske forsikrings- og pensionsselskaber.

Her undersøgte de, hvordan aktører træffer valg baseret på fire AI-anvendelsescases: 
- Anvendelse af granulære data og AI i livsforsikringsprissætning
- Brug af telematik og AI i bilforsikring
- Brug af AI til proaktiv forebyggelse af stress-relaterede sygdomme
- Brug af AI til at opdage forsikringssvindel.

For at adressere de etiske dilemmaer, som på workshoppen blev identificeret som en integreret del af AI-arbejdet har F&P og Alexander Gamerdinger, ph.d.-studerende hos ADD, udviklet en AI Etik Trade-off Mapping, der kan bruges til at identificere de skjulte etiske overvejelser i AI løsninger og tilpasse systemerne efter behov.

Seneste nyt

Nyhed {{article.tag}} {{article.publishedDate}}
{{article.header}} chevron
Se alle nyheder arrow-right
Jakob Holm

Vil du vide mere?

Jakob Holm

Chefkonsulent