Ta som exempel ett uppmärksammat fall i Finland där en 30-årig man fick avslag på en låneansökan hos en långivare och överklagade. Det visade sig att företagets AI i brist på tidigare betalningshistorik behandlat ansökan genom att ta hänsyn till faktorer som mannens bostadsort (landsbygd), kön (man), ålder (30-årsåldern) och modersmål (finska). I Finland är det, precis som i Sverige, olagligt att diskriminera någon på sådana grunder.
Mannen fick rätt. Långivaren förbjöds att fortsätta sin diskriminerande praxis (det vill säga att använda AI på det sätt den dittills gjort) och fick dessutom betala böter på 100 000 euro.
Vikten av transparens
För att själva undvika liknande scenarion behöver industriföretag dels säkerställa att de har medarbetare på plats som förstår hur deras AI fungerar. Men dessutom behöver de inse vikten av transparens, både sett till själva AI-lösningen, men även i kommunikationen gentemot kunder. Här är tre viktiga åtgärder:
1) Investera i AI som går att förklara
Det finns olika typer av AI. En lösning kan vara transparent (beslut kan härledas och förklaras) eller ”opak” (besluten kan inte härledas eller förklaras). Varför skulle någon vilja använda en opak AI-lösning? Faktum är att AI-lösningar vars beslut inte kan förklaras tenderar att vara mer kraftfulla. Här bör företagen inte låta sig förföras, utan välja transparens för att undvika att deras AI råkar ta olämpliga beslut.
2) Berätta alltid för dina kunder när du använder AI
Transparens och öppenhet bör även appliceras på kommunikationen gentemot kunder. Berätta alltid för dina kunder när du använder AI. Som exempel visar en Sifo-undersökning att tre av fyra svenskar vill veta om ett företags chattfunktion sköts av en människa eller en robot. När vi interagerar med företag eller när vi påverkas av deras beslut vill vi helt enkelt veta om vi har att göra med en människa eller en maskin.
3) Var så transparent som möjligt kring varför du använder AI och vilken data som används
För att förtjäna dina kunders förtroende behöver du förklara varfördu använder AI och vilken kunddata den har tillgång till. Är ditt mål att spara tid och pengar samtidigt som du ger kunderna snabbare service? Säg det i så fall!
För att AI ska vara till hjälp – och inte sätta käppar i hjulet – behövs en strategi för att hantera den. Mänsklig kompetens och transparens måste stå högst upp på agendan.
Jani Turunen, AI-expert på Solita
