AI ガバナンス・LLM 業務適用時の監査チェックリスト 8 項目

1. 外部 API への送信境界

OpenAI / Anthropic / Google 等の外部 LLM API に何のデータを送信するかは、業務システムの設計の中核です。

個人情報・社外秘・顧客情報・契約情報を、明示的な承認なしに外部 API へ送信していないことを、業務システム側で技術的に担保する必要があります。送信前のフィルタ・マスキング・送信ログを業務システム内に残し、監査時に開示できる形にします。

2. プロンプトのバージョン管理

本番運用に入ると、プロンプトは継続的に改善されます。改善前後で出力が変わるため、業務システム上でプロンプトをコードと同じ扱いでバージョン管理します。

各バージョンの導入日・撤回日・運用結果を業務システムで記録し、 「過去のある時点で、どのプロンプトが使われていたか」 を後から再現できる状態にしておきます。

3. モデルバージョンの記録

LLM はモデル提供側の都合で挙動が変わるため、業務システム上でどのモデル ID・バージョンを使ったかを利用ログに記録します。

同じプロンプトでも GPT-4 と GPT-4-turbo で出力が異なるため、過去の出力が再現できなくなる事態を避けます。重要業務では、モデルバージョンを固定し、変更時にレビューを通すフローを業務システムに組み込みます。

4. 入出力の保管期間と参照範囲

LLM の入力・出力を業務システム上で保管する場合、保管期間とアクセス権限を明確にします。

個人情報を含む入出力の場合、保管期間を法定要件と業務要件のうち長い方に合わせ、アクセスできる役職を最小限に絞ります。検索・分析用途で全社員にアクセスを許可するような設計は、内部統制で必ず指摘されます。

5. 人の確認 (Human-in-the-Loop)

顧客対応・法務判断・財務判断などの重要業務では、LLM の出力を人が確認してから外部に出す Human-in-the-Loop の設計を業務システム上で実装します。

確認画面・承認画面・差し戻し画面・記録画面を持ち、 「LLM が出した・人が承認した・確認した」 の状態を業務システム上で明確に追跡します。

6. ハルシネーション対応

LLM の出力には事実誤認 (ハルシネーション) が混入します。業務システム側で、出力の確からしさを検証する仕組みを組み込みます。

引用元の URL・社内ドキュメントの参照位置・スコア・反証検索などを業務システム上で記録し、ユーザーに 「この出力はどこから来たか」 を表示します。RAG であれば、参照ドキュメントの ID と該当箇所を業務システムに保存します。

7. 責任分界の明示

LLM を使った業務の出力に対して、誰が責任を持つかを業務システム上で明示します。

業務システムの UI に 「AI が生成した結果です・最終確認は担当者が実施します」 等の明示を入れ、利用ログに承認者を残します。これは内部統制テストでも、顧客への説明でも重要です。

8. 異常検知と運用監視

LLM の出力品質は、モデル変更・プロンプト変更・データ変更で劣化することがあります。業務システム上で、出力の品質指標 (承認率・差し戻し率・カスタマーの満足度等) を継続記録し、閾値を超えたらアラートを出す仕組みを入れます。

これがないと、品質劣化に気付くのが顧客クレーム経由になり、信頼を大きく損ねます。