En språkmodell räknar fram det mest sannolika nästa ordet. Den vet inte när den inte vet, så den svarar lika säkert när den gissar. Det är kundernas vanligaste oro och den är befogad.
Det finns tre sätt att minska risken. Låt modellen svara ur dina egna källor med RAG och visa källan i varje svar. Testa med frågor där rätt svar är känt. Be modellen säga att den inte vet hellre än att gissa.
Helt bort går risken inte. Därför bör en människa granska svar som leder till beslut om kunder, pengar eller personer.