AI i ledningsgruppen: 10 frågor som tar er från idé till affärsvärde

Ledningens viktigaste uppgift är inte att välja språkmodell. Den är att avgöra vilka problem som är värda att lösa, vilken risk verksamheten kan acceptera och vem som ansvarar för resultatet.

Generativ teknik kan ge snabbare tillgång till kunskap, stödja dokumentintensiva processer och automatisera delar av återkommande arbete. Maskininlärning kan förbättra exempelvis prognoser, klassificering och matchning. Men en investering är bara motiverad när den passar ett verkligt behov och går att styra över tid.

Följande tio frågor kan användas som agenda i ett ledningsmöte. De tar diskussionen från allmän inspiration till ett konkret beslutsunderlag.

Ledningens uppgift är att välja problem – inte modell

Modeller och leverantörsvillkor förändras snabbt. Verksamhetens mål, riskaptit och ansvar kan inte förändras lika lätt. Därför bör ledningen börja i processerna: Var uppstår väntetid, kvalitetsbrister, manuellt dubbelarbete eller beslut med svagt underlag? Vilka förbättringar skulle vara värdefulla nog att mäta?

NIST beskriver styrning, kartläggning, mätning och hantering som sammanhängande delar av riskarbetet.[1] EU:s AI-förordning ställer dessutom krav som varierar med systemets roll och risknivå. Ledningen behöver alltså skapa både riktning och kontroll, även när den tekniska utvecklingen sker i andra delar av organisationen.[2]

Ett lyckat initiativ börjar inte med frågan ”vilken modell ska vi köpa?” utan med ”vilket resultat behöver verksamheten uppnå – och under vilka villkor?”

1. Vilket verksamhetsproblem ska lösas?

Beskriv problemet utan att använda tekniken som utgångspunkt. ”Vi behöver en chatbot” är en lösning. ”Medarbetare lägger i genomsnitt lång tid på att hitta rätt version av en rutin” är ett problem som går att undersöka.

Fråga också vad som händer om ni inte gör något. Ett tydligt nuläge gör det lättare att jämföra alternativa åtgärder. Ibland är en förbättrad sökfunktion, en integration eller en förändrad process enklare och bättre än en generativ lösning.

2. Vem äger nyttan?

Varje initiativ behöver en verksamhetsägare som ansvarar för utfallet, inte bara en projektledare som ansvarar för leveransen. Ägaren behöver kunna prioritera användare, godkänna mätetal och fatta beslut när nytta och risk står mot varandra.

IT kan äga plattformen och säkerhet kan sätta kontrollkrav, men den berörda verksamheten måste äga arbetsprocessen. Om nyttan saknar ägare kommer piloten ofta att stanna när projektbudgeten tar slut.

3. Vilka data behöver användas?

Kartlägg vilka datakällor som behövs, vem som äger dem och om de är tillräckligt aktuella och konsekventa. Gör skillnad mellan data som används som indata, data som skapas i användningen, loggar och eventuell träningsdata.

Ledningen behöver också veta vilka informationsklasser som berörs. Personuppgifter, affärshemligheter, säkerhetsskyddad information och reglerade dokument kan kräva olika modell- och driftval. ”Våra egna data” är inte en enda homogen kategori.

4. Vilka risker och regelkrav finns?

Riskbedömningen ska vara kopplad till användningen. En assistent som hjälper en medarbetare att hitta en intern rutin har en annan konsekvensbild än ett system som påverkar rekrytering, kredit eller tillgång till en offentlig tjänst.

Bedöm bland annat felaktiga resultat, diskriminering, obehörig åtkomst, personuppgiftsbehandling, informationsläckage, upphovsrätt, beroende av leverantör och påverkan på verksamhetskontinuitet. Fastställ när juridik, dataskydd och informationssäkerhet behöver delta.

5. Behöver vi en assistent, agent eller vanlig automation?

En assistent ger stöd eller förslag. En agent kan planera och utföra flera steg med verktyg och systemåtkomst. Traditionell automation följer förutbestämda regler. Mer självständighet är inte automatiskt mer värdefull.

Utgå från fyra nivåer: svara, föreslå, förbereda eller utföra. För varje nivå ska ni veta vilken åtkomst som krävs, vad som kan gå fel och var en människa behöver godkänna.

6. Hur behåller vi mänsklig kontroll?

Mänsklig kontroll betyder mer än att en person finns någonstans i processen. Personen måste förstå vad som ska granskas, ha tid och kompetens att göra det och kunna stoppa eller korrigera resultatet.

Definiera vilka beslut som aldrig får fattas automatiskt, hur osäkerhet ska visas och vad lösningen ska göra när underlaget saknas. För kritiska uppgifter bör det finnas tydliga stoppunkter och en väg tillbaka till manuell hantering.

7. Hur mäter vi värdet?

Välj ett fåtal mätetal som knyter lösningen till verksamhetens resultat. Exempel är tid per ärende, andel korrekta klassificeringar, prognosfel, svar med verifierbar källa, minskat dubbelarbete eller förbättrad ledtid.

Mät mot en baslinje och räkna in kontrollarbete, drift, integrationer, utbildning och förvaltning. En snabbare process är inte bättre om felkostnaden eller behovet av eftergranskning ökar mer än tidsvinsten.

8. Vilken kompetens krävs?

Ett tvärfunktionellt team behöver vanligtvis verksamhetskunskap, produktägarskap, data- och systemkompetens samt stöd från säkerhet och juridik. Förändringsledning och utbildning är ofta avgörande för faktisk användning.

EU:s krav på AI-kunnighet innebär att organisationer behöver anpassa kompetensinsatser efter hur personalen använder och påverkas av systemen.[2] En generell inspirationsföreläsning räcker sällan för roller som ska godkänna resultat, hantera incidenter eller förvalta lösningen.

9. Vad krävs för produktion?

En fungerande demo är inte en produktionslösning. Inför drift behöver ni stabila integrationer, identitet och behörighet, loggning, testmiljö, övervakning, kostnadskontroll, incidenthantering och en plan för modell- och dataförändringar.

Be om en tydlig bild av vad piloten inte omfattar. Annars riskerar ledningen att jämföra kostnaden för en demo med kostnaden för en förvaltad tjänst.

10. Vem ansvarar efter lansering?

Förvaltningen behöver namngivna ägare för produkt, datakällor, säkerhet och verksamhetsresultat. Bestäm vem som godkänner nya funktioner, följer upp kvalitet, hanterar incidenter och beslutar om modellbyte.

Sätt också en granskningscykel. Modeller, leverantörsvillkor, lagstiftning och verksamhetens data förändras. Ett beslut som var rimligt vid lanseringen kan behöva omprövas.

Gör frågorna till ett beslutsunderlag

Efter mötet bör ledningsgruppen ha mer än en lista med idéer. Sammanfatta varje prioriterat användningsfall på en sida med problem, målgrupp, data, risk, mätetal, ägare och föreslagen testfas. Poängsätt sedan idéerna utifrån nytta, genomförbarhet och risk.

Ett första initiativ bör vara tillräckligt viktigt för att skapa värde men tillräckligt avgränsat för att utvärdera. Det ska gå att avsluta utan stor inlåsning om antagandena inte håller.

Checklista för nästa ledningsmöte

• Ett problem formulerat i verksamhetstermer.

• En namngiven ägare av nyttan.

• Kända datakällor och informationsklasser.

• En första bedömning av risk och regelverk.

• Vald nivå: svara, föreslå, förbereda eller utföra.

• Tydliga punkter för mänsklig kontroll.

• Baslinje och mätetal för piloten.

• Rätt kompetenser och beslutsmandat.

• Krav för produktion och förvaltning.

• Ett datum för uppföljning och nästa beslut.

Källor

1. NIST, AI Risk Management Framework:
   https://www.nist.gov/itl/ai-risk-management-framework

2. Europeiska kommissionen, AI Act:
   https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

3. Digg, Inför en AI-policy:
   https://www.digg.se/kunskap-och-stod/regler-och-rekommendationer/regler-och-rekommendationer/infor-en-ai-policy