Del avAI i produkt och sajt
RAG-assistenter
RAG står för retrieval augmented generation och betyder att modellen hämtar relevanta stycken ur era egna dokument innan den formulerar ett svar, i stället för att svara ur minnet. Det är den enskilt viktigaste tekniken för att en assistent ska kunna användas i skarpt läge, eftersom varje påstående då går att spåra till ett dokument som faktiskt finns.
Hämtningen avgör kvaliteten
Nästan alla dåliga RAG-svar beror på att fel stycken hämtades, inte på att modellen är svag. Arbetet ligger därför i hämtningssteget: hur innehållet delas upp, hur träffarna rangordnas och hur många stycken som skickas med. Byte av modell är den sista justeringen, inte den första.
Att svara "jag vet inte"
En assistent måste kunna avstå. Finns inget tillräckligt relevant i hämtningen ska svaret bli att informationen saknas, med en väg vidare till en människa. Utan den regeln fyller modellen igen luckan med något rimligt klingande, och det är där förtroendet går förlorat.
Behörighet följer med
I ett internt verktyg får assistenten inte visa ett dokument användaren inte får läsa. Behörighetskontrollen sker därför i hämtningen, så att stycken filtreras bort innan modellen ser dem. Att filtrera i svaret i efterhand är inte en kontroll, det är en förhoppning.
Vanliga frågor om den här tjänsten
Kan assistenten fortfarande hitta på saker?
Risken går ner kraftigt men försvinner inte helt. Med hämtning från era dokument, källhänvisning i svaret och en regel om att avstå när underlaget saknas hamnar de kvarvarande felen oftast i formuleringen snarare än i sakuppgiften. Därför loggas fråga, hämtade stycken och svar, så att avvikelser hittas i granskning i stället för av en kund.
Måste vi skicka våra dokument till OpenAI eller Anthropic?
De stycken som hämtas skickas med i anropet, ja. Är det inte acceptabelt finns två vägar: leverantörsavtal där data inte används för träning och hanteras inom EU, eller en modell som körs i er egen miljö. Det andra kostar mer i drift och ger svagare svar, och avvägningen bör göras medvetet snarare än antas.
Mer inom samma område
AI-sök och vektorsökning
Sökning som förstår vad besökaren menar, inte bara vilka ord som skrevs.
RAG-assistenter
Assistenter som bara svarar utifrån era dokument, med källa angiven.
Produktinnehåll i skala
Produkttexter och metadata genererade från er strukturerade data, inte från ingenting.
