Sådan stopper du ChatGPT i at hallucinere i reguleret compliance-arbejde

Et britisk Responsible Gambling-team (RG) kom til os med et problem, som alle der automatiserer reguleret arbejde vil genkende. De bruger ChatGPT til at omdanne automatiske compliance-triggere til formelle analytikernotater. Når en kunde overskrider en tærskel — omsætning op mere end 100% på 30 dage, en session der kører forbi sin grænse — kopierer en analytiker de relevante data ind i ChatGPT, og modellen udarbejder, ud fra en forhåndsuploadet prompt, et notat til kundens compliance-sag.

Det notat er ikke et udkast til en e-mail. Det er et juridisk dokument, som UK Gambling Commission kan gennemgå. Og efter et stykke tid begyndte ChatGPT at hallucinere tal, udelade vigtig information, indsætte tankestreger der brød husstilen, og stille og roligt drifte væk fra reglerne hen på eftermiddagen. På en reguleret sag er hver af disse ting et compliance-problem.

Spørgsmålet, de stillede, var enkelt: kan vi overhovedet få den konsistens, som reguleret arbejde kræver, fra en sprogmodel? Svaret er ja — men ikke ved at pille ved formuleringen af en prompt inde i et chatvindue. Det kræver en ændring i arkitektur plus en disciplineret omskrivning. Denne artikel gennemgår den præcise metode med RG-workflowet som det gennemarbejdede eksempel, så du kan anvende den på enhver reguleret proces, hvor det samme input skal producere det samme troværdige output hver eneste gang.

Hvorfor ChatGPT drifter i reguleret arbejde

Før man retter noget, hjælper det at navngive fejltilstandene præcist. På RG-workflowet reproducerede vi fem forskellige måder, outputtet gik i stykker på, lige fra kritisk til blot irriterende.

De to kritiske er det farlige par. Hallucinerede tal sætter et forkert indskuds- eller resultattal på en reguleret sag — modellen udfylder et hul fra træningshukommelsen i stedet for at indrømme, at dataene mangler. Omvendt konvention er mere subtil: denne operatør bruger en omvendt profit-og-tab-konvention, hvor et positivt tal betyder, at kunden taber. Det er kontraintuitivt, så modellen falder tilbage til den standardkonvention, den lærte under træning, og skriver, at en kunde taber, når vedkommende faktisk vinder.

De højtsevere problemer — tankestreger der bryder husstilen, og session drift hvor regler ignoreres senere på dagen — sætter ikke et forkert tal på sagen, men de underminerer tilliden til outputtet og skaber ekstra arbejde. Det middelsvære problem, uformelle interventionsnavne i stedet for de præcise lovmæssige termer, korrumperer stille og roligt compliance-registreringen.

Grundårsagen er statelessness — eller manglen på samme

Fire af de fem fejl har én fælles grundårsag. I en enkelt ChatGPT-session bliver hver sag, du gennemgår, føjet til context window. Gennemgår du sag ét, ser modellen prompten og én sag. Ved sag femten ser den prompten plus det statistiske restindhold fra fjorten tidligere udvekslinger. Promptens regler er der stadig, men de konkurrerer med en voksende bunke kontekst, og opmærksomheden på dem forringes.

Det er derfor, den samme prompt producerer et perfekt notat kl. 9 og et mangelfuldt et kl. 16. Den arkitektoniske løsning er statelessness: hver sag skal være et helt nyt, isoleret kald, der kun ser den låste prompt og den aktuelle sag. Intet bæres videre. En AI-agent konfigureret på denne måde giver prompten den samme opmærksomhed ved sag halvtreds, som den fik ved sag ét.

Statelessness er nødvendigt, men ikke tilstrækkeligt. Det stopper driftet, men vil trofast reproducere en dårlig prompt ved hvert kald. Så selve prompten skal hærdes.

Klar til at vokse din virksomhed?

Start din gratis prøveperiode i dag og se resultater inden for få dage.

Anmod om demo Log ind

Trin 1: Hærd prompten for primacy og recency

Sprogmodeller vægter ikke hver linje i en prompt lige. Opmærksomheden er groft set U-formet — stærkest i begyndelsen og slutningen, svagest i midten. Den oprindelige RG-prompt kæmpede imod dette. Dens vigtigste regel, den omvendte profit-og-tab-konvention, lå midt i prompten, nævnt én gang. Forbuddet mod tankestreger var den allersidste linje, også nævnt én gang.

Omskrivningen flyttede de kritiske regler hen, hvor modellen rent faktisk kigger, og genarbejdede de svage dele af system-prompten . Her er, hvad der blev ændret, og hvorfor.

Den enkelt vigtigste lærdom her: vage adjektiver er ikke instruktioner. At bede en model om at være “naturlig” opmuntrede aktivt til de tankestreger og retoriske krusseduller, der brød husstilen. At erstatte det med konkrete, testbare regler var det, der gjorde stilen konsistent.

Trin 2: Håndter manglende data i stedet for at opdigte dem

Hallucination bliver ofte fremstillet som en modelfejl. I struktureret arbejde er det som regel en prompt-fejl: prompten fortalte aldrig modellen, hvad den skulle gøre, når et felt manglede, så den gjorde det statistisk sandsynlige og producerede en plausibel værdi.

Løsningen er en protokol for manglende data. Del dine felter op i påkrævede og valgfrie. Valgfrie felter udelades tavst, når de mangler. Påkrævede felter gør det modsatte — hvis ét mangler, skal modellen stoppe og bede om det i et præcist format i stedet for at generere et notat. Denne ene regel omdanner en tavs hallucination til en synlig, reviderbar anmodning om flere data. Det er forskellen mellem et forkert tal på en reguleret sag og et notat, der aldrig blev produceret, fordi inputtet var ufuldstændigt.

Tilmeld dig vores nyhedsbrev

Få de seneste tips, trends og tilbud gratis.

E-mailadresse

Tilmeld

Trin 3: Lås agentkonfigurationen

Med en hærdet prompt skal selve agenten låses ned, så intet genindfører variabilitet. Hele flowet er bevidst minimalt — tre noder og ikke andet.

De konfigurationsvalg, der gjorde en forskel:

• System-prompten i System Message-feltet, aldrig i Input-feltet, så den læses som instruktioner snarere end data.
• Temperatur 0,2. Lav nok til maksimal konsistens, høj nok til at undgå robotagtig prosa. Nul var for rigidt; én var for kreativt.
• Ingen tilknyttede værktøjer. Fil- og URL-hentere introducerer uforudsigelighed og kan omgå agentens ræsonnering. Til denne opgave har modellen ikke brug for andet end prompten og den indsatte sag.
• Max tokens efterladt på standard. At begrænse tokens fik notater til at blive afkortet midt i en sætning, og et afkortet notat på en kundesag er i sig selv en reguleringsrisiko.
• En instruktion om stille start øverst i prompten, så agenten ikke bekræfter reglerne tilbage til analytikeren, når flowet indlæses første gang.

Den ene operationelle regel, der betyder mest

Alle ovenstående fikser bliver ophævet af én dårlig vane: at genbruge den samme chat. Den vigtigste operationelle regel for analytikerteamet er at starte en ny samtale for hver eneste sag. Fortsæt aldrig med at gennemgå sager i det samme vindue. Det er den regel, der eliminerer session drift — grundårsagen til de fleste af de oprindelige fejl — og det koster intet at følge den.

Virker det rent faktisk? 9 modeller, 27 kørsler

En metode er kun så god som dens beviser. Vi testede ni modeller mod den hærdede prompt ved brug af en identisk, reel sag (en Gambling Intensity-trigger med tidligere session-varighedshistorik) på tværs af tre kørsler hver — 27 kørsler i alt — og scorede hver kørsel mod 16 compliance-kriterier.

På tværs af alle 27 kørsler hallucinerede ingen produktionsklar model et tal, vendte P/L-konventionen om, brugte en tankestreg eller afkortede output. Den hærdede prompt eliminerede hver eneste af de oprindelige fejltilstande hos de modeller, der kvalificerede sig. De forskelle, der stod tilbage, handlede om analytisk dybde og konsistens, ikke korrekthed.

Diskvalifikationerne er lærerige. Claude Sonnet 4.6 producerede smuk prosa, men forvekslede trigger-tærsklen med indskudsgrænsen — et faktuelt forkert tal på en reguleret sag, hvilket er diskvalificerende, uanset hvor godt det læser. DeepSeeks udsving fra kørsel til kørsel (6, 8,5, 9) er det reelle problem: i reguleret arbejde er kvalitet, der afhænger af held, ikke kvalitet overhovedet.

Omkostning er ikke begrænsningen

Det er fristende at optimere efter pris, men tallene taler imod det. Selv den dyreste produktionsklare model, Claude Opus 4.8, koster omkring seks cent pr. notat. For et team, der gennemgår 50 sager om dagen, er det under $90 om måneden. Omkostningen ved et enkelt reguleringsfund fra et forkert notat ville overgå den årlige omkostning ved enhver model på listen langt. For reguleret compliance, vælg den mest pålidelige model, du kan, ikke den billigste.

Sådan ser et hærdet notat ud

Det bedste enkeltnotat på tværs af alle 27 kørsler kom fra Claude Fable 5. Læg mærke til, hvad det gør: det angiver positionen i den korrekte konvention, citerer tal ordret, bruger det præcise interventionsnavn og — afgørende — forklarer hvorfor en eskalering ville være uforholdsmæssig i stedet for blot at fastslå et resultat.

The customer is currently in a winning position of £1,612.50 with an account balance of £8,962.50, which represents an improvement on the winning position of £1,275.00 recorded at the previous review… Session duration was reviewed under Session Duration Level 1 on 19/07 and again on 20/07… Given that those decisions were made within the last few days, insufficient time has elapsed to assess their effectiveness, and repeating or escalating on the same behaviour at this stage would be disproportionate… In this context, No Further Action Required is the proportionate outcome.

Det er den standard, reguleret arbejde kræver: evidensbaseret, proportional og af identisk kvalitet ved dagens første sag og den halvtredsindstyvende.

Sådan anvender du dette på dit eget regulerede workflow

RG-notatgeneratoren er et specifikt tilfælde, men metoden generaliserer til enhver proces, hvor en sprogmodel skal producere troværdigt, gentageligt output på reguleret eller kritisk data:

1. Flyt væk fra chatvinduet. Kør hver sag som et stateless kald, så konteksten ikke kan akkumuleres og drifte.
2. Hærd prompten for primacy og recency. Sæt kritiske regler først, og gentag dem sidst. Tilføj selvtjek.
3. Giv modellen en protokol for manglende data. Påkrævede felter blokerer generering, når de mangler; valgfrie felter udelades tavst. Lad den aldrig gætte.
4. Lås konfigurationen. Lav, ikke-nul temperatur, ingen unødvendige værktøjer, ubegrænset output, prompt i system-beskeden.
5. Test, før du stoler på. Kør den samme sag flere gange på tværs af kandidatmodeller, og scor mod eksplicitte kriterier. Konsistens på tværs af kørsler er den metrik, der betyder noget.

Gør de fem ting, og du omdanner en model, der hallucinerer hen på eftermiddagen, til én, der producerer revisionsklart output hver gang. Den konsistens, reguleret arbejde kræver, er opnåelig — det er et arkitektur- og prompt-engineering-problem, og begge dele kan løses.