Dokument-omrangering

Dokument-omrangering omorganiserer hentede dokumenter basert på søkerelevans, og forbedrer søkeresultater. Spørsmålsutvidelse forbedrer søk ved å legge til relaterte termer, øker tilbakekalling og reduserer tvetydighet. Kombinasjon av disse teknikkene i RAG-systemer øker nøyaktigheten på henting og svar.

Dokument-omrangering er prosessen med å omorganisere hentede dokumenter basert på hvor relevante de er for brukerens søk. Etter en første henting forbedrer omrangering resultatene ved å vurdere hvert dokuments relevans mer presist, og sørger for at de mest relevante dokumentene prioriteres.

Hva er Retrieval-Augmented Generation (RAG)?

Retrieval-Augmented Generation (RAG) er et avansert rammeverk som kombinerer evnene til store språkmodeller (LLMs) med informasjonsgjenfinningssystemer. I RAG, når en bruker sender inn et søk, henter systemet relevante dokumenter fra en stor kunnskapsbase og gir denne informasjonen til LLM-en for å generere informerte og kontekstuelt nøyaktige svar. Denne tilnærmingen øker nøyaktigheten og relevansen til AI-generert innhold ved å forankre det i faktabasert data.

Forstå spørsmålsutvidelse

Hva er spørsmålsutvidelse?

Definisjon

Spørsmålsutvidelse er en teknikk brukt i informasjonsgjenfinning for å forbedre effektiviteten til søk. Det innebærer å utvide det opprinnelige søket med ekstra ord eller fraser som er semantisk relaterte. Hovedmålet er å bygge bro mellom brukerens hensikt og språket brukt i relevante dokumenter, og dermed forbedre henting av relevant informasjon.

Hvordan det fungerer

I praksis kan spørsmålsutvidelse oppnås gjennom ulike metoder:

• Synonymutvidelse: Inkludere synonymer for søkeordene for å dekke ulike uttrykk for samme konsept.
• Relaterte termer: Legge til termer som er kontekstuelt beslektet, men ikke direkte synonymer.
• LLM-basert utvidelse: Bruke store språkmodeller til å generere utvidede søk ved å forutsi ord eller fraser som er relevante for det opprinnelige søket.

Ved å utvide søket kan hentesystemet kaste et bredere nett og fange opp dokumenter som ellers ville blitt oversett på grunn av variasjoner i terminologi eller formulering.

Hvorfor er spørsmålsutvidelse viktig i RAG-systemer?

Forbedring av tilbakekalling

Tilbakekalling refererer til systemets evne til å finne alle relevante dokumenter. Spørsmålsutvidelse forbedrer tilbakekalling ved å:

• Hente dokumenter som bruker ulike termer for å beskrive samme konsept.
• Fange opp dokumenter som dekker relaterte undertemaer eller bredere aspekter av søket.

Håndtering av tvetydighet

Brukere sender ofte inn korte eller tvetydige søk. Spørsmålsutvidelse hjelper med å:

• Avklare brukerens hensikt ved å vurdere flere tolkninger.
• Gi et mer helhetlig søk ved å inkludere ulike aspekter av emnet.

Forbedret dokumentmatching

Ved å inkludere flere relevante termer øker systemet sannsynligheten for å matche søket med dokumenter som bruker ulike ord, og forbedrer dermed den totale effektiviteten til henting.

Metoder for spørsmålsutvidelse

1. Pseudo-Relevance Feedback (PRF)

Hva er PRF?

Pseudo-relevance feedback er en automatisk metode for spørsmålsutvidelse der systemet antar at de høyest rangerte dokumentene fra et første søk er relevante. Det trekker ut viktige termer fra disse dokumentene for å forbedre det opprinnelige søket.

Hvordan PRF fungerer

• Første søk: Brukerens opprinnelige søk kjøres, og de beste dokumentene hentes.
• Termuttrekk: Nøkkelord fra disse dokumentene identifiseres basert på frekvens eller betydning.
• Forbedring av søk: Det opprinnelige søket utvides med disse nøkkelordene.
• Nytt søk: Det utvidede søket brukes for å utføre et nytt søk, med mål om å hente flere relevante dokumenter.

Fordeler og ulemper

• Fordeler: Forbedrer tilbakekalling uten brukerinnblanding.
• Ulemper: Hvis de første resultatene inneholder irrelevante dokumenter, kan utvidelsen inkludere villedende termer og redusere presisjon.

2. LLM-basert spørsmålsutvidelse

Utnyttelse av store språkmodeller

Med fremskritt innen AI kan LLM-er som GPT-3 og GPT-4 generere avanserte spørsmålsutvidelser ved å forstå kontekst og semantikk.

Hvordan LLM-basert utvidelse fungerer

• Generering av hypotetisk svar: LLM-en genererer et hypotetisk svar på det opprinnelige søket.
• Kontekstuell utvidelse: Svaret gir ekstra kontekst og relaterte termer.
• Kombinert søk: Det opprinnelige søket og LLM-ens output kombineres til et utvidet søk.

Eksempel

Opprinnelig søk:
“Hva var de viktigste faktorene som bidro til økt omsetning?”

LLM-generert svar:
“I regnskapsåret bidro flere nøkkelfaktorer til en betydelig økning i selskapets omsetning, inkludert vellykkede markedsføringskampanjer, produktdiversifisering, tiltak for kundetilfredshet, strategisk prising og investeringer i teknologi.”

Utvidet søk:
“Opprinnelig søk: Hva var de viktigste faktorene som bidro til økt omsetning?
Hypotetisk svar: [LLM-generert svar]”

Fordeler

• Dyp forståelse: Fanger opp nyanserte relasjoner og konsepter.
• Tilpasning: Skreddersyr utvidelsen til spesifikt domene eller kontekst.

Utfordringer

• Datakraft: Kan kreve betydelig prosesseringskapasitet.
• Over-utvidelse: Risiko for å legge til irrelevante eller for mange termer.

Implementering av spørsmålsutvidelse i RAG-systemer

Steg-for-steg prosess

1. Brukersøk mottas: Systemet mottar brukerens opprinnelige søk.
2. LLM-basert utvidelse:
   • Systemet ber LLM-en generere et hypotetisk svar eller relaterte søk.
   • Eksempel på prompt:
     “Gi et detaljert svar eller relaterte søk for: [Brukersøk]”
3. Kombiner søk:
   • Det opprinnelige søket og den utvidede teksten kombineres.
   • Dette sikrer at det utvidede søket forblir relevant for brukerens hensikt.
4. Bruk i henting:
   • Det utvidede søket brukes til å hente dokumenter fra kunnskapsbasen.
   • Dette kan gjøres med nøkkelordssøk, semantisk søk eller en kombinasjon.

Fordeler i RAG-systemer

• Bedre henting: Flere relevante dokumenter hentes, og gir bedre kontekst for LLM.
• Bedre brukeropplevelse: Brukere får mer nøyaktige og informative svar.

Forstå dokument-omrangering

Hvorfor omrangering er nødvendig

• Begrensninger ved første henting: Første henting kan være basert på brede likhetsmål, som ikke alltid fanger opp nyanser i relevans.
• Reduserer støy: Spørsmålsutvidelse kan introdusere mindre relevante dokumenter; omrangering filtrerer disse ut.
• Optimalisering for LLM: Å gi de mest relevante dokumentene forbedrer kvaliteten på LLM-genererte svar.

Metoder for dokument-omrangering

1. Cross-Encoder-modeller

Oversikt

Cross-encoders er nevrale nettverksmodeller som tar et par av inputs (søket og et dokument) og gir en relevansscore. I motsetning til bi-encoders, som koder søk og dokument separat, prosesserer cross-encoders dem sammen, som gir rikere interaksjon.

Hvordan cross-encoders fungerer

• Input-paring: Hvert dokument kombineres med søket.
• Felles koding: Modellen koder paret sammen og fanger opp interaksjoner.
• Scoring: Gir en relevansscore for hvert dokument.
• Rangering: Dokumenter sorteres basert på disse scorene.

Fordeler

• Høy presisjon: Gir mer nøyaktige relevansvurderinger.
• Kontekstuell forståelse: Fanger opp komplekse relasjoner mellom søk og dokument.

Utfordringer

• Datakrevende: Krever mye prosessering, særlig for store dokumentmengder.

2. ColBERT (Late Interaction-modeller)

Hva er ColBERT?

ColBERT (Contextualized Late Interaction over BERT) er en hentemodell designet for å balansere effektivitet og kvalitet. Den bruker en mekanisme for sen interaksjon som gir detaljert sammenligning mellom søke- og dokumenttokens uten tunge regnekostnader.

Hvordan ColBERT fungerer

• Token-nivå koding: Søke- og dokumenttokens kodes separat med BERT.
• Sen interaksjon: Under scoring sammenlignes søke- og dokumenttokens med likhetsmål.
• Effektivitet: Gjør det mulig å forhåndsgenerere dokumentembeddinger.

Fordeler

• Effektiv scoring: Raskere enn full cross-encoder.
• Effektiv henting: Opprettholder høy kvalitet på henting.

Bruksområder

• Egnet for storskala henting der regneressurser er begrenset.

3. FlashRank

Oversikt

FlashRank er et lettvekts og raskt omrangeringsbibliotek som bruker toppmoderne cross-encoders. Det er laget for enkel integrasjon i eksisterende arbeidsflyter og forbedrer omrangeringsytelse med minimalt tillegg.

Egenskaper

• Enkelt å bruke: Enkel API for rask integrasjon.
• Hastighet: Optimalisert for raske omrangeringer.
• Nøyaktighet: Bruker effektive modeller for høy omrangeringskvalitet.

Eksempel på bruk

from flashrank import Ranker, RerankRequest

query = 'What were the most important factors that contributed to increases in revenue?'

ranker = Ranker(model_name="ms-marco-MiniLM-L-12-v2")
rerank_request = RerankRequest(query=query, passages=documents)
results = ranker.rerank(rerank_request)

Fordeler

• Forenkler omrangering: Skjuler kompleksiteten i modellhåndtering.
• Optimaliserer ytelse: Balanserer hastighet og nøyaktighet effektivt.

Implementering av dokument-omrangering i RAG-systemer

Prosess

1. Første henting: Bruk det utvidede søket for å hente et sett med kandidater.
2. Omrangering: Bruk en omrangeringsmodell (f.eks. Cross-Encoder, ColBERT) for å vurdere hvor relevante hvert dokument er.
3. Utvalg: Velg de best rangerte dokumentene som kontekst for LLM.

Vurderinger

• Datakrav: Omrangering kan være ressurskrevende; balanser ytelse og kostnad.
• Modellvalg: Velg modeller som passer kravene til nøyaktighet og effektivitet.
• Integrasjon: Sørg for at omrangering passer sømløst inn i eksisterende arbeidsflyt.

Klar til å vokse bedriften din?

Start din gratis prøveperiode i dag og se resultater i løpet av få dager.

Be om demo Logg inn

Kombinere spørsmålsutvidelse og dokument-omrangering i RAG

Synergi mellom spørsmålsutvidelse og omrangering

Utfyllende teknikker

• Spørsmålsutvidelse utvider søkeomfanget og henter flere dokumenter.
• Dokument-omrangering forbedrer resultatene og fokuserer på de mest relevante.

Fordeler med å kombinere

• Forbedret tilbakekalling og presisjon: Sammen gir de flere og mer relevante dokumenter.
• Robust henting: Kompenserer for svakhetene til hver metode brukt alene.
• Bedre LLM-resultater: Gir bedre kontekst, som gir mer nøyaktige og informative svar.

Hvordan de fungerer sammen

1. Brukersøk mottas: Det opprinnelige søket mottas.
2. Spørsmålsutvidelse: Søket utvides med metoder som LLM-basert utvidelse, og gir et mer omfattende søk.
3. Første henting: Det utvidede søket brukes til å hente mange dokumenter.
4. Dokument-omrangering: Omrangeringsmodeller vurderer og sorterer dokumentene basert på relevans for det opprinnelige søket.
5. Kontekstlevering: De best rangerte dokumentene gis til LLM-en som kontekst.
6. Svargenerering: LLM-en genererer et svar basert på de mest relevante dokumentene.

Praktiske implementeringstrinn

Eksempel arbeidsflyt

• Spørsmålsutvidelse med LLM:

  def expand_query(query):
      prompt = f"Provide additional related queries for: '{query}'"
      expanded_queries = llm.generate(prompt)
      expanded_query = ' '.join([query] + expanded_queries)
      return expanded_query
  

• Første henting:

  documents = vector_db.retrieve_documents(expanded_query)
  

• Dokument-omrangering:

  from sentence_transformers import CrossEncoder
  cross_encoder = CrossEncoder('cross-encoder/ms-marco-MiniLM-L-6-v2')
  pairs = [[query, doc.text] for doc in documents]
  scores = cross_encoder.predict(pairs)
  ranked_docs = [doc for _, doc in sorted(zip(scores, documents), reverse=True)]
  

• Velge toppdokumenter:

  top_documents = ranked_docs[:top_k]
  

• Generere svar med LLM:

  context = '\n'.join([doc.text for doc in top_documents])
  prompt = f"Answer the following question using the context provided:\n\nQuestion: {query}\n\nContext:\n{context}"
  response = llm.generate(prompt)
  

Overvåking og optimalisering

• Ytelsesmålinger: Mål jevnlig effektiviteten til henting med metrikker som presisjon, tilbakekalling og relevansscore.
• Feedbacksløyfer: Bruk tilbakemeldinger fra brukere for å forbedre spørsmålsutvidelse og omrangeringsstrategier.
• Ressursstyring: Optimaliser bruk av datakraft, for eksempel ved caching eller å begrense antall dokumenter som omrangeres.

Bruksområder og eksempler

Eksempel 1: Forbedre AI-chatboter for kundestøtte

Scenario

Et selskap bruker en AI-chatbot for å håndtere kundehenvendelser om sine produkter og tjenester. Kunder stiller ofte spørsmål på ulike måter, med forskjellige uttrykk og formuleringer.

Utfordringer

• Varierende kundespråk og terminologi.
• Behov for nøyaktige og raske svar for å opprettholde kundetilfredshet.

Implementering

• Spørsmålsutvidelse: Chatboten utvider kundens søk med synonymer og relaterte termer.
  For eksempel, hvis en kunde spør: “Hvordan kan jeg fikse dingsen min?”, utvides søket til å inkludere termer som “reparere enhet”, “feilsøke apparat” osv.
• Dokument-omrangering: Hentede hjelpeartikler og FAQ-er omrangeres for å prioritere de mest relevante løsningene. Cross-encoders vurderer hvor relevante hvert dokument er for kundens spesifikke problem.

Fordeler

• Bedre nøyaktighet og relevans på svar.
• Økt kundetilfredshet og raskere løsningstid.

Eksempel 2: Optimalisere AI-drevne forskningstjenester

Scenario

Forskere bruker en AI-assistent for å finne relevante akademiske artikler, data og innsikt til sitt arbeid.

Utfordringer

• Komplekse søk med spesialisert terminologi.
• Store mengder akademisk litteratur å filtrere gjennom.

Implementering

• Spørsmålsutvidelse: Assistenten bruker LLM-er til å utvide søk med relaterte konsepter og synonymer.
  Et søk som “kvante-entanglement applikasjoner” utvides til å inkludere “bruk av kvante-entanglement”, “kvantedatabehandling entanglement” osv.
• Dokument-omrangering: Akademiske artikler omrangeres basert på relevans til det forbedrede