Annons

GÄSTKRÖNIKA: Bristande transparens kring AI kan stå industriföretagen dyrt

Den snabba tekniska utvecklingen sätter press på industriföretag att förnya sig. Många har insett behovet av att ”hoppa på AI-tåget”, men vissa har underskattat vad som krävs för att faktiskt köra det.
Precis som med nästan all ny teknik kräver AI att företagen har rätt kompetens på plats för att verktyget ska kunna användas effektivt. Utan sådan expertis riskerar resultaten att utebli. I värsta fall kan det uppstå en rad problem som kan skada företagets varumärke och till och med leda till böter. Det skriver dagens gästkrönikör på PLM&ERPO News, Jani Turunen, AI-expert på Solita.

Ta som exempel ett uppmärksammat fall i Finland där en 30-årig man fick avslag på en låneansökan hos en långivare och överklagade. Det visade sig att företagets AI i brist på tidigare betalningshistorik behandlat ansökan genom att ta hänsyn till faktorer som mannens bostadsort (landsbygd), kön (man), ålder (30-årsåldern) och modersmål (finska). I Finland är det, precis som i Sverige, olagligt att diskriminera någon på sådana grunder.
Mannen fick rätt. Långivaren förbjöds att fortsätta sin diskriminerande praxis (det vill säga att använda AI på det sätt den dittills gjort) och fick dessutom betala böter på 100 000 euro.

Vikten av transparens
För att själva undvika liknande scenarion behöver industriföretag dels säkerställa att de har medarbetare på plats som förstår hur deras AI fungerar. Men dessutom behöver de inse vikten av transparens, både sett till själva AI-lösningen, men även i kommunikationen gentemot kunder. Här är tre viktiga åtgärder:

1) Investera i AI som går att förklara
Det finns olika typer av AI. En lösning kan vara transparent (beslut kan härledas och förklaras) eller ”opak” (besluten kan inte härledas eller förklaras). Varför skulle någon vilja använda en opak AI-lösning? Faktum är att AI-lösningar vars beslut inte kan förklaras tenderar att vara mer kraftfulla. Här bör företagen inte låta sig förföras, utan välja transparens för att undvika att deras AI råkar ta olämpliga beslut.

2) Berätta alltid för dina kunder när du använder AI
Transparens och öppenhet bör även appliceras på kommunikationen gentemot kunder. Berätta alltid för dina kunder när du använder AI. Som exempel visar en Sifo-undersökning att tre av fyra svenskar vill veta om ett företags chattfunktion sköts av en människa eller en robot. När vi interagerar med företag eller när vi påverkas av deras beslut vill vi helt enkelt veta om vi har att göra med en människa eller en maskin.

3) Var så transparent som möjligt kring varför du använder AI och vilken data som används
För att förtjäna dina kunders förtroende behöver du förklara varfördu använder AI och vilken kunddata den har tillgång till. Är ditt mål att spara tid och pengar samtidigt som du ger kunderna snabbare service? Säg det i så fall!

För att AI ska vara till hjälp – och inte sätta käppar i hjulet – behövs en strategi för att hantera den. Mänsklig kompetens och transparens måste stå högst upp på agendan.

Jani Turunen, AI-expert på Solita

Print Friendly, PDF & Email

Success Stories

Industriellt

Success Stories

Intressant på PLM TV News

PLM TV News

PLM TV News

PLM TV News

PLM TV News

PLM TV News

Aktuell ANALYS

Aktuell Analys

Aktuell Analys

3D-printing

Block title