AI: Dilemma-kortlægning skal finde ”skjulte” etiske overvejelser

Vi ser ofte datavidenskab, som en objektiv og teknisk disciplin, hvor alle spørgsmål har et korrekt matematisk svar. Men bag data og algoritmerne ligger en række skjulte etiske overvejelser, som kan være definerende for, hvordan AI opleves og opfører sig.

Så hvordan sikrer vi fokus på de ”skjulte” etiske overvejelser? Forskere fra Algoritmer, Data og Demokrati (ADD)-projektet har sammen med F&P udgivet et værktøj målrettet forsikring og pensionsbranchen, som skal hjælpe med netop det.

”Ord som dataindsamling, dataprocessering og modellering leder umiddelbart ikke tankerne hen på menneskelige konsekvenser. Men de beslutninger, som tages, når man udvikler AI, kan få indflydelse på folks liv, fordi modeller i stigende grad bidrager til beslutninger, som vedrører mennesker – også på følsomme områder. Derfor er det afgørende, at AI-udviklere er bevidste om de ”skjulte” etiske aspekter af deres arbejde,” siger Alexander Gamerdinger, ph.d.-studerende fra CBS og forsker i ADD-projektet.

Etisk trade-off mapping

F&P har sammen med ADD samlet eksperter fra forsikrings- og pensionsbranchen for at drøfte etiske spørgsmål i forbindelse med en række konkrete AI-usecases i branchen.

Det kom ikke bag på nogen, at der var åbenlyse dataetiske dilemmaer i alle cases. Det interessante var, at dilemmaerne i stort omfang tog afsæt i modstridende overvejelser; trade-offs, som i hovedtræk kan fordeles på tre områder: Data og dataindsamling, kundens oplevelse og modellering. 

”Når man implementerer AI, kan en mere systematisk gennemgang af disse elementer bidrage til at opdage etiske afvejelser, man måske ellers havde overset – med andre ord finde skjulte etiske dilemmaer,” siger Jakob Holm, chefkonsulent i F&P og uddyber:

”I samme case kan der både være gode argumenter for at minimere dataindsamlingen for at øge hensynet til kundernes privacy. Omvendt kunne man samtidig argumentere for at bruge flere data, fordi det giver en mere ”fair” model, som er mere præcis på tværs af alle kunder og reducerer risikoen for uønskelig bias. Afvejningen af de to elementer giver et dilemma, hvor der ikke findes et svar med 2 streger under.” 

Få afdækket de etiske spørgsmål

I manuelle processer træffer mennesker masser af beslutninger, der reelt set er afvejninger uden et decideret klart svar. Vi kan som mennesker sagtens vurdere to næsten ens sager forskelligt. Når vi implementerer en AI, så vil den systematisk kører videre ud fra de afvejelser, vi har defineret for den.

”Derfor giver det ekstra god mening, at man ved implementeringen af AI bruger ekstra tid på at identificere elementer, hvor der sker et trade-off mellem forskellige hensyn, fordi outputtet bliver systematiseret efterfølgende. I dag hviler ansvaret for modeller ofte på data scientists. Det er ikke en dårlig ting, da de er domæneeksperter på AI og data,” siger Alexander Gamerdinger og uddyber:

”Vores arbejde viser dog også, at svaret på et spørgsmål blev mere nuanceret, når man også inddrog fx compliance-eksperter i afklaringen. Med andre ord kan en systematisk afvejning af etiske dilemmaer hjælpe til at tydeliggøre centrale overvejelser og sikre, at ikke-tekniske eksperter fx compliance eller kunderådgivere inddrages, når vi træffer beslutninger om balancen i centrale elementer.” 

Det er derfor håbet, at F&P og ADD-arbejdet kan hjælpe virksomhederne i branche med at mere systematisk identificere områder i AI-implementeringen, hvor der kan ske markante trade-offs, og dermed sikre, at man inddrager de relevante interessenter og tager de relevante etiske drøftelser, inden man sætter to streger under sin AI.

”I essensen handler det om, at vi får de ”skjulte” etiske overvejelser frem, så vi kan afveje hensynet til dem, som modeller påvirker – i vores tilfælde forsikrings- og pensionskunderne - med beslutninger om data, dataindsamling og modellering. Og det er håbet, at vi kan bidrage til det med det ny værktøj,” siger Jakob Holm.