Chattbot som inte gissar: grundad AI i kundservice

Posted on Oct 22 • Originally published at supportifier.se

En grundad chattbot svarar bara utifrån företagets publicerade och granskade artiklar, visar vilken artikel svaret bygger på och säger ifrån när underlag saknas. En allmän språkmodell utan den begränsningen fyller i luckor med formuleringar som låter rimliga, vilket i kundservice blir fel villkor, påhittade rabatter och löften ingen har gett. Skillnaden avgörs av vad boten får svara på, inte av hur säker den låter.

En grundad chattbot får bara svara med innehåll som finns i en bestämd källa, oftast företagets kunskapsbas, och ska kunna visa var svaret kommer ifrån.

Boten svarar bara utifrån publicerade artiklar. När kunden frågar om returfristen hämtar boten er returartikel och formulerar svaret utifrån den. Står det inget om returer i kunskapsbasen ska boten inte hitta på en frist.

Boten anger källa. Kunden ser vilken artikel svaret bygger på och kan läsa hela texten.

Boten säger ifrån när underlaget saknas. Ett "det har jag inget svar på, jag kopplar dig vidare" är ett korrekt svar. Ett gissat svar är det inte.

Tekniken bakom kallas ofta retrieval-augmented generation, RAG: systemet söker först fram relevanta textstycken och låter sedan modellen skriva ett svar utifrån just dem. En allmän språkmodell saknar den kopplingen. Den har tränats på stora mängder text och svarar på allt, oavsett om den har ert företags villkor framför sig eller inte. Det är därför en kunskapsbas med granskade artiklar är förutsättningen för en chattbot i kundservice, inte ett tillval. Kunskapsbasen behöver också ange undantag: skiljer sig leveransvillkoren mellan länder ska boten fråga vilket land som gäller, inte välja ett.

En artikel räcker för allmänna frågor, men ett personligt ärende kräver uppgifter om just den kunden. En artikel som förklarar returprocessen kan inte ge status på en viss återbetalning.

Går en nödvändig uppgift inte att hämta ska svaret säga det och visa nästa steg. Håll också isär tre nivåer: ett AI-utkast som en medarbetare granskar, ett automatiskt svar som går direkt till kunden och en utförd åtgärd, som en återbetalning eller en ändrad order. Varje steg kräver mer underlag och tydligare behörigheter; bestäm per flöde vilken nivå som gäller.

En hallucination är ett svar som låter trovärdigt men saknar täckning i något underlag. Modellen producerar den fortsättning på texten som är statistiskt mest sannolik, och när fakta saknas blir det en rimlig gissning.

Forskare på OpenAI beskrev 2025 varför det blir så: sättet modeller tränas och utvärderas på belönar gissningar framför att erkänna osäkerhet, ungefär som en flervalstenta där ett tomt svar aldrig ger poäng men en chansning ibland gör det. Modellen lär sig att alltid svara något.

Att koppla boten till en källa minskar problemet men tar inte bort det av sig självt. När Stanford RegLab 2024 testade kommersiella juridiska AI-verktyg, som är byggda med just källsökning, hallucinerade de i 17 till 33 procent av 202 testfrågor. Slutsatsen för kundservice är enkel: källsökning är nödvändig, men boten måste dessutom vara tvingad att hålla sig till det som hittats och tillåten att säga att svaret saknas.

Företaget ansvarar för vad chattboten säger, precis som för en vanlig sida på webbplatsen. Det slog en kanadensisk tvistenämnd fast i Moffatt v. Air Canada 2024.

En resenär frågade flygbolagets chattbot om rabatterade biljetter vid dödsfall i familjen. Boten svarade att rabatten kunde sökas i efterhand. En annan sida på samma webbplats sa motsatsen, och när kunden begärde återbetalning fick han nej. Flygbolaget hävdade att chattboten var en separat enhet som bolaget inte ansvarade för. Nämnden avfärdade det: chattboten är en del av webbplatsen, och det spelar ingen roll om informationen kommer från en statisk sida eller från en bot. Kunden fick 650,88 kanadensiska dollar i ersättning.

Beloppet är litet. Principen är det inte. Översatt till svensk e-handel kan samma mekanism ge:

En påhittad rabattkod eller ett löfte om fri frakt som kunden sedan kräver att få.

Fel returfrist, fel garantitid eller fel villkor för ångerrätt.

Ett besked om att en vara finns i lager eller levereras ett visst datum, utan att boten har tittat i något system.

Till det kommer ett transparenskrav. Enligt EU-kommissionens vägledning om artikel 50 i AI-förordningen ska den som pratar med ett AI-system informeras om det senast vid första kontakten, och skyldigheten gäller från den 2 augusti 2026.

Fråga inte om boten "använder AI", fråga vad den får svara på och vad som händer när svaret inte finns:

Varifrån hämtar boten sina svar? Ni vill höra "bara från er kunskapsbas", inte "från er kunskapsbas och modellens allmänna kunskap". Be dem visa källorna för ett konkret svar, och vad som händer när två källor säger olika.

Vad händer när svaret inte finns? Be om en demonstration och ställ en fråga ni vet att ni saknar artikel för. En grundad bot säger att den inte vet eller lämnar över. En gissande bot svarar ändå.

Visar boten källa för varje svar? Kunden ska kunna klicka sig till artikeln.

Kan vi se listan över frågor boten inte kunde svara på? Den listan är ert viktigaste underlag för att hitta kunskapsluckor.

Vem kan publicera innehåll som boten använder, och finns det granskning? Hur hålls interna anteckningar borta från den publika chatten?

Hur identifieras kunden innan personlig information visas?

Kan vi spärra ämnen? Prisändringar, juridiska bedömningar och löften om kompensation ska boten aldrig hantera själv.

Hur testas boten före lansering och hur mäts fel löpande? Ni vill höra om testfrågor med facit, stickprov efter lansering och hur en rättad artikel testas på nytt.

Vad står i avtalet om ansvar för felaktiga svar? Ansvaret mot kunden landar hos er oavsett.

Ett enkelt eget test räcker långt: ställ tio frågor, varav fem ni har tydliga artiklar för, tre ni saknar svar på och två där era egna källor säger olika. En grundad bot klarar de fem, lämnar över de tre och avslöjar motsägelsen i de två. Kör testet med ert eget material; en förberedd demonstration med bara enkla frågor är inget underlag för beslut.

Överlämningen ska ske automatiskt när boten saknar underlag, alltid när kunden ber om det, och som regel när ärendet rör pengar, avtal eller klagomål.

Kunderna är tydliga på den punkten. I en Gartner-undersökning med 3 566 kunder våren 2026 sa 87 procent att det är nödvändigt att kunna nå en människa när företaget använder generativ AI i kundservice. En annan Gartner-undersökning från 2026 visar vad som annars händer: kunder är ungefär tre gånger så benägna att ta hjälp av en extern AI-tjänst som av företagets egen chattbot.

Ett föreslaget arbetsflöde. Omfattning och ansvar anpassas vid införandet.

Kunden behöver inte börja om. Enligt Zendesks CX Trends 2026 vill 81 procent av konsumenterna att medarbetaren fortsätter där de slutade, och 74 procent blir frustrerade av att upprepa sig. Hela chattens historik ska följa med i ärendet.

Medarbetaren ser vad boten sa och vilken artikel den använde. Då kan felet rättas i artikeln, inte bara i det enskilda ärendet.

Kontaktvägen är synlig. Konsumentverkets regler för företag om kundtjänst säger att kontaktuppgifter och hur man reklamerar ska framgå tydligt. Visa om en person är tillgänglig just nu, och testa flödet även när teamet är obemannat.

Enklast blir överlämningen när bot och människa arbetar ur samma underlag. I Supportifier används samma granskade artiklar i hjälpcenter, chatt och teamets inkorg, så när ärendet byter kanal byter det inte kunskap. Vad som följer med vid överlämningen beror på upplägget, så granska hela flödet; chatten beskrivs på sidan om AI- och livechatt. Samma princip gäller när AI föreslår svar som en medarbetare granskar innan de skickas, vilket vi går igenom i artikeln om AI-utkast med granskning.

Det här kan ni göra den här veckan, med eller utan chattbot:

Lista era tjugo vanligaste frågor och kontrollera att var och en har en publicerad artikel med en namngiven ägare.

Kör tiofrågetestet ovan på er nuvarande bot eller på leverantörens demo. Skriv ner varje svar och vad det borde ha varit.

Bestäm en spärrlista: ämnen boten aldrig får hantera själv. Kompensation, prisavvikelser, juridik och personuppgifter är en vanlig start.

Skriv ner överlämningsregeln på en sida: när, till vem, med vilken information.

Boka en återkommande timme i veckan för att läsa botens obesvarade frågor och skriva de artiklar som saknas.

Mät tre saker: andel svar med källa, andel överlämningar och andel kunder som återkommer med samma fråga inom en vecka. Antal samtal visar användning, inte hur många problem som löstes. Definitionerna finns i artikeln om nyckeltal i kundservice, och samma mått ingår i kalkylen för AI i kundservice.

Välj ett avgränsat första flöde innan ni utökar automatiken; guiden om AI i kundtjänst visar hur ni väljer. Vill ni ha hjälp att välja, boka en genomgång.

Ja. Grundning minskar felen kraftigt men tar inte bort dem. Boten kan hämta fel artikel, tolka en otydlig artikel fel eller svara rätt utifrån en artikel som i sig är inaktuell. Därför behövs källhänvisning, så att felet kan spåras, och en rutin för att rätta artikeln när ett fel upptäcks. Kvaliteten på kunskapsbasen sätter taket för botens kvalitet.

Inte för allmänna frågor. Returregler och leveranstider kan besvaras ur granskade artiklar. Frågor om en viss order, betalning eller ett konto kräver aktuella uppgifter ur ert system och att kunden identifieras först. Saknas kopplingen ska boten säga att den inte ser ärendet och visa vägen till en medarbetare, inte gissa en status.

Ja. Artikel 50 i EU:s AI-förordning kräver att den som interagerar med ett AI-system informeras om det senast vid första kontakten, om det inte redan är uppenbart, och kravet gäller från den 2 augusti 2026. En tydlig text i chattens början räcker i de flesta fall.

Utgå från att ni får stå för det. I Air Canada-fallet 2024 avfärdade nämnden argumentet att boten var en separat enhet och dömde bolaget att ersätta kunden för skillnaden mellan det utlovade och det verkliga priset. Svensk konsumenträtt prövas förstås i svenska instanser, men principen att företaget ansvarar för informationen på sin webbplats är densamma. En spärrlista för känsliga ämnen är billigare än att reda ut löften i efterhand.

Nej. Air Canada hade information på sin webbplats som motsade botens svar, och nämnden ansåg inte att kunden var skyldig att dubbelkolla en sida mot en annan. En friskrivning i finstilt text väger lätt mot ett konkret besked som kunden fått i chatten. Det som faktiskt skyddar er är att boten inte kan säga något som inte står i en granskad artikel.

Moffatt v. Air Canada, 2024 BCCRT 149 — Civil Resolution Tribunal of British Columbia via CanLII, 2024

Why language models hallucinate — OpenAI, 2025

Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools — Stanford RegLab, 2024

Transparency obligations under Article 50 of the AI Act — EU-kommissionen, 2026

Gartner Survey Finds 87% of Customers Say Companies Using GenAI for Customer Service Must Provide Access to a Human Agent — Gartner, 2026

Gartner Survey Finds Customers Are 3x More Likely to Use Third-Party GenAI Than Company-Provided Chatbots for Customer Service — Gartner, 2026

AI Ushers In Era of Contextual Intelligence, Redefining Customer Experience in 2026 — Zendesk, CX Trends 2026

Konsumentproblem i kundtjänst: regler för företag — Konsumentverket, läst 2026

Ursprungligen publicerad på Supportifier.