Sju frågor att ställa innan ni köper AI till kundmötet

Under det senaste året har nästan varje kommun och kundtjänstorganisation vi mött fått erbjudanden om AI-assistenter. Presentationerna liknar varandra: en chatt i hörnet, ”tränad på er data”, svarar dygnet runt. Skillnaderna ligger i det som inte visas på demon. Här är sju frågor vi rekommenderar att ni ställer — och vilka svar som bör göra er misstänksamma.

1. Vad svarar den när den inte vet?

Be leverantören ställa en fråga som inte har något svar på er webbplats. En bra tjänst säger ”det framgår inte av kommunens information — här är kontaktvägen”. En dålig hittar på ett rimligt svar. Det senare är inte en bugg som går att fixa senare; det är en designfilosofi.

2. Var kommer varje påstående ifrån?

Varje svar bör kunna spåras till en sida ni själva publicerat och ansvarar för. Om leverantören talar om ”generell kunskap” eller ”modellen vet” är det ett varningstecken. Ni ska kunna klicka på ett svar och se källan.

3. Vad händer med det invånaren skriver?

En person som beskriver sin situation lämnar ofta personuppgifter, ibland känsliga. Fråga var texten behandlas, hur länge den lagras, om den används för träning och i vilket land servrarna står. ”Inom EU” är minimum. ”Lagras inte alls” är bättre för de flesta kommunala tillämpningar.

4. Kan den skilja på information och beslut?

Tjänsten ska kunna förklara vad ett beslut betyder. Den ska inte kunna ge intryck av att fatta ett — ”du har rätt till bistånd” är ett beslut; ”det här beslutet säger att du beviljats bistånd” är en förklaring. Testa med gränsfall.

5. Hur fungerar den för den som inte kan läsa svaret?

Tangentbordsnavigering, skärmläsarstöd, uppläsning, lätt svenska, andra språk. DOS-lagen gäller även för det ni köper in. Be om en demonstration med skärmläsare — inte ett intyg.

6. Vad ser ni själva?

Frågorna som ställs är den bästa kartan ni någonsin får över vad invånarna inte förstår. Får ni ut den — anonymiserad, sorterad, användbar för webbredaktionen? Eller stannar den hos leverantören?

7. Hur avslutar ni?

Vad krävs för att stänga av? Vad händer med data? Vad kostar det att byta? En leverantör som är trygg i sin produkt har inget emot en kort pilot med tydlig exit. En som kräver treårsavtal för att ”komma igång” är det inte.

Ingen av frågorna handlar om hur smart modellen är. Det är avsiktligt. I kundmötet är det inte intelligensen som avgör om ett verktyg går att stå för — det är begränsningarna.