規制対象のコンプライアンス業務でChatGPTの幻覚(ハルシネーション)を止める方法

英国のResponsible Gambling(RG、責任あるギャンブル)チームが、自動化された規制対象業務に携わる誰もが心当たりのある問題を持ち込んできた。彼らは自動化されたコンプライアンストリガーを正式なアナリストノートに変換するためにChatGPTを使用している。顧客が閾値を超えたとき——30日間で入金額が100%以上増加した、あるいはセッションが制限時間を超えて続いているなど——アナリストは関連データをChatGPTにコピーし、モデルは事前にアップロードされたプロンプトに従って、その顧客のコンプライアンスファイル用のノートを起草する。

そのノートは単なる下書きメールではない。英国のUK Gambling Commission(英国ギャンブル委員会)が確認しうる法的文書である。そしてしばらくすると、ChatGPTは数値を幻覚し、重要な情報を見落とし、文体規則に反するエムダッシュを挿入し、午後になると静かにルールから逸脱し始めた。規制対象ファイルにおいて、これらのいずれもがコンプライアンス上の問題となる。

彼らが投げかけた問いはシンプルだった。そもそも言語モデルから規制対象業務が求める一貫性を得ることはできるのか? 答えはイエスだ——ただし、チャットウィンドウ内でプロンプトの文言を微調整するだけでは実現しない。アーキテクチャの変更と、規律あるプロンプトの書き直しが必要になる。本記事ではRGワークフローを実例として、同じ入力が毎回同じ信頼できる出力を生むべきあらゆる規制対象プロセスに応用できる、その具体的な手法を解説する。

なぜChatGPTは規制対象業務でドリフトするのか

何かを修正する前に、失敗モードを正確に名付けておくことが役立つ。RGワークフローでは、重大なものからささいなものまで、出力が破綻する5つの明確な形態を再現した。

2つの重大な問題が危険な組み合わせだ。数値の幻覚は、誤った入金額や損益の数値を規制対象ファイルに記載してしまう——モデルはデータが存在しないと認める代わりに、学習時の記憶から空白を埋めてしまう。慣例の逆転はより微妙だ。このオペレーターは正の数値が顧客の負けを意味する反転した損益慣例を用いている。これは直感に反するため、モデルは学習時に習得した標準的な慣例に戻ってしまい、実際には勝っている顧客について負けていると記述してしまう。

高リスクの問題——文体規則に反するエムダッシュと、一日の後半でルールが無視されるセッションドリフト——は誤った数値をファイルに記載するわけではないが、出力への信頼を損ない、手戻りを生む。中リスクの問題、すなわち正式な規制用語ではなく略式の介入名を使ってしまう点は、コンプライアンス記録を静かに損なう。

根本原因はステートフル性——あるいはその欠如

これら5つの失敗のうち4つは1つの根本原因を共有している。単一のChatGPTセッションでは、確認するすべてのケースがコンテキストウィンドウに追加されていく。1件目のケースを確認する際、モデルが目にするのはプロンプトと1件のケースだけだ。15件目に達する頃には、プロンプトに加えて過去14回のやり取りの統計的な残滓を目にすることになる。プロンプトのルールはまだそこにあるが、増え続けるコンテキストの山と競合しており、それらへの注意は減衰していく。

これが、同じプロンプトが午前9時には完璧なノートを生成し、午後4時には不完全なノートを生成する理由だ。アーキテクチャ上の解決策はステートレス性である。すべてのケースは、固定されたプロンプトと現在のケースのみを参照する、完全に新しく独立した呼び出しでなければならない。何も持ち越されない。このように設定されたAIエージェント は、50件目のケースでも1件目と同じ注意をプロンプトに与える。

ステートレス性は必要条件ではあるが十分条件ではない。ドリフトは止まるが、悪いプロンプトであれば毎回忠実にそれを再現してしまう。だからこそプロンプト自体を強化する必要がある。

ビジネスを成長させる準備はできましたか？

今日から無料トライアルを開始し、数日で結果を確認しましょう。

デモをリクエスト ログイン

ステップ1:初頭効果と新近効果のためにプロンプトを強化する

言語モデルはプロンプトのすべての行を等しく重み付けするわけではない。注意はおおむねU字型を描き、冒頭と末尾で最も強く、中間で最も弱くなる。元のRGプロンプトはこれに逆らっていた。最も重要なルールである損益慣例の反転は、プロンプトの中間に1回だけ記載されていた。エムダッシュの禁止事項は最後の1行に、これも1回だけ記載されていた。

書き直しにあたっては、重要なルールをモデルが実際に目を向ける場所に移動し、システムプロンプト の弱い部分を作り直した。変更内容とその理由は以下の通りだ。

ここで得られる最大の教訓はこうだ。曖昧な形容詞は指示にならない。 モデルに「自然に」書くよう伝えることは、文体規則を破るエムダッシュや修辞的な誇張表現を実際には助長していた。それを具体的でテスト可能なルールに置き換えたことこそが、文体の一貫性を実現した。

ステップ2:欠落データを作り出すのではなく、適切に処理する

幻覚はしばしばモデルの欠陥として語られる。しかし構造化された業務においては、それは通常プロンプトの欠陥である。プロンプトが項目欠落時にモデルが何をすべきかを一度も指示していないため、モデルは統計的にありそうなことを行い、もっともらしい値を生成してしまう。

解決策は欠落データプロトコルだ。項目を必須と任意に分ける。任意項目は欠落時に静かに省略される。必須項目はその逆で、欠落している場合はノートを生成する代わりに、モデルは停止し、正確なフォーマットでその項目を要求しなければならない。この一つのルールが、見えない幻覚を、目に見える監査可能な追加データの要求へと変える。それは、規制対象ファイルに誤った数値が記載されることと、入力が不完全であったために一度もノートが生成されなかったこととの違いである。

ニュースレターに登録

最新のヒント、トレンド、お得な情報を無料で入手。

メールアドレス

登録する

ステップ3:エージェント設定を固定する

強化されたプロンプトができたら、何もばらつきを再導入しないよう、エージェント自体もロックダウンする必要がある。フロー全体は意図的に最小限に抑えられており、3つのノード以外は何もない。

重要だった設定上の選択は以下の通りだ。

• システムプロンプトはSystem Messageフィールドに置く、Inputフィールドには置かない。これによりデータとしてではなく指示として読み込まれる。
• temperature 0.2。 最大限の一貫性を得るのに十分低く、機械的な文章を避けるのに十分高い。0は硬直しすぎ、1は創造的すぎた。
• ツールを一切接続しない。 ファイルやURLのリトリーバーは予測不能性を持ち込み、エージェントの推論を迂回させかねない。このタスクにおいてモデルが必要とするのはプロンプトと貼り付けられたケースだけである。
• 最大トークン数はデフォルトのまま。 トークン数に上限を設けると、ノートが文の途中で打ち切られてしまい、途中で切れたノートが顧客ファイルに存在すること自体が規制上のリスクとなる。
• サイレントスタートの指示をプロンプトの冒頭に置き、フローが最初に読み込まれた際にエージェントがアナリストにルールを確認し返さないようにする。

最も重要な運用ルール

上記のすべての修正は、たった一つの悪習によって台無しになりうる。同じチャットを使い回すことだ。アナリストチームにとって最も重要な運用ルールは、すべてのケースごとに新しい会話を開始することである。同じウィンドウで複数のケースを続けて確認しないこと。これがセッションドリフト——元の失敗のほとんどの根本原因——を排除するルールであり、実行するのに何のコストもかからない。

実際に機能するのか? 9モデル、27回の実行

手法はその裏付けとなる証拠があってこそ良いものになる。私たちは9つのモデルを強化済みプロンプトに対してテストした。同一の実際のケース(過去のセッション時間履歴を伴うGambling Intensityトリガー)を各モデルにつき3回ずつ実行——合計27回の実行——し、16のコンプライアンス基準に照らして各実行を採点した。

27回の実行すべてにおいて、実運用可能なモデルは数値を幻覚したり、P/L慣例を逆転させたり、エムダッシュを使用したり、出力を打ち切ったりすることはなかった。強化されたプロンプトは、条件を満たしたモデルにおいて元の失敗モードのすべてを排除した。残った違いは正確性ではなく、分析の深さと一貫性に関するものだった。

失格となったモデルは示唆に富む。Claude Sonnet 4.6は美しい文章を生成したが、トリガー閾値と入金限度額を混同した——規制対象ファイルにおける事実として誤った数値であり、どれほど読みやすい文章であっても失格となる。DeepSeekの実行ごとのばらつき(6、8.5、9)こそが本当の問題だ。規制対象業務において、運次第で決まる品質はそもそも品質とは言えない。

コストは制約にならない

価格を最適化したくなるのは分かるが、数字を見ればその考えに反する結論が出る。最も高価な実運用可能モデルであるClaude Opus 4.8でさえ、1件のノートあたりのコストはおよそ6セントだ。1日に50件のケースを確認するチームにとって、これは月あたり90ドル未満に収まる。誤ったノート1件による規制上の指摘のコストは、リスト上のどのモデルの年間コストをもはるかに上回るだろう。規制対象コンプライアンスにおいては、最も安いモデルではなく、最も信頼できるモデルを選ぶべきだ。

強化されたノートはどのようなものか

27回の実行の中で最良の単一ノートは、Claude Fable 5によるものだった。その内容に注目してほしい。正しい慣例でポジションを記述し、数値を一字一句正確に引用し、正確な介入名を使用し——そして決定的に——なぜエスカレーションが不相応であるのかを単に結果を述べるだけでなく説明している。

The customer is currently in a winning position of £1,612.50 with an account balance of £8,962.50, which represents an improvement on the winning position of £1,275.00 recorded at the previous review… Session duration was reviewed under Session Duration Level 1 on 19/07 and again on 20/07… Given that those decisions were made within the last few days, insufficient time has elapsed to assess their effectiveness, and repeating or escalating on the same behaviour at this stage would be disproportionate… In this context, No Further Action Required is the proportionate outcome.

これこそが規制対象業務が求める水準である。エビデンスに基づき、均衡が取れており、一日の最初のケースでも50件目のケースでも品質が同一であること。

この手法を自社の規制対象ワークフローに応用する

このRGノート生成の事例は特定のケースだが、その手法は、言語モデルが規制対象またはハイステークスなデータについて信頼でき再現可能な出力を生成しなければならないあらゆるプロセスに一般化できる。

1. チャットウィンドウから脱却する。 コンテキストが蓄積してドリフトすることのないよう、各ケースをステートレスな呼び出しとして実行する。
2. 初頭効果と新近効果のためにプロンプトを強化する。 重要なルールを最初に置き、最後にも繰り返す。自己チェックを追加する。
3. モデルに欠落データプロトコルを与える。 必須項目は欠落時に生成をブロックし、任意項目は静かに省略する。決して推測させない。
4. 設定を固定する。 ゼロでない低いtemperature、不要なツールなし、出力に上限を設けない、プロンプトはシステムメッセージに置く。
5. 信頼する前にテストする。 同じケースを候補モデルにわたって複数回実行し、明示的な基準に照らして採点する。実行間の一貫性こそが重要な指標である。

この5つを実行すれば、午後になると幻覚を起こすモデルを、毎回監査対応可能な出力を生成するモデルへと変えることができる。規制対象業務が求める一貫性は達成可能だ——それはアーキテクチャとプロンプトエンジニアリングの問題であり、そのどちらも解決可能である。