責任あるAI：原則と実装

JinJin48

SAP Consultant | BTP · S/4HANA · US Global Rollout

May 9, 2026 · 20 min read

本記事の位置づけ#

参考資料#

1) 責任あるAIの展望#

BTPにおける「責任あるAI」は単一の製品ではありません。組織的なガバナンス、ランタイムのガードレール、プラットフォーム監査の階層的な組み合わせです。最も一般的なスコーピングの誤りは、SAPの認定を顧客側のコントロールとして扱うことです。

これらは代替品ではありません。

2) S/4HANA への接続方法#

責任あるAIは、S/4HANAに組み込まれる機能ではありません。それは、Joule、GenAI Hub、Document AIといったあらゆるAI機能がS/4HANAのビジネスプロセスに影響を与える前後において、それらを包み込む一連の制御策です。

   ┌──────────────────────────────────────────────────────────────┐
   │ Organizational governance                                    │
   │  SAP Global AI Ethics Policy + customer AI use-case register │
   └──────────────────────────┬───────────────────────────────────┘
                              ▼
   ┌──────────────────────────────────────────────────────────────┐
   │ User request (Joule chat / app embed / agent)                │
   │  Identity propagated from BTP IAS / IdP                      │
   └──────────────────────────┬───────────────────────────────────┘
                              ▼
   ┌──────────────────────────────────────────────────────────────┐
   │ Generative AI Hub — Orchestration                            │
   │  ① Data masking   → ② Input filter (Azure CS / Llama Guard)  │
   │  ③ Prompt Shield  → ④ Grounding (RAGe, customer docs)        │
   │  ⑤ LLM call       → ⑥ Output filter / re-mask                │
   └──────────────────────────┬───────────────────────────────────┘
                              ▼
   ┌──────────────────────────────────────────────────────────────┐
   │ S/4HANA action                                               │
   │  Permission-checked at backend (Joule = user authz only)     │
   │  Human-in-the-loop on transactional posting                  │
   └──────────────────────────┬───────────────────────────────────┘
                              ▼
   ┌──────────────────────────────────────────────────────────────┐
   │ BTP Audit Log Service                                        │
   │  Identity, prompt id, action, approver, override (premium)   │
   └──────────────────────────────────────────────────────────────┘

Joule は、S/4HANA においてユーザーが許可された操作のみを実行します。RBAC は LLM 層ではなく、バックエンドで適用されます。GenAI Hub のオーケストレーションでは、顧客が設定可能なガードレールが実行されます。オーケストレーションをスキップすると、ガードレールもスキップされます。監査ログは BTP イベントを記録します。S/4HANA アプリケーションイベントは顧客が構築するものです。

重要ポイント: 責任あるAIとは、お客様がSAPコンポーネントから組み立てるチェーンです。ISO/IEC 42001認証をお客様側のコントロールとして扱うことは、最も一般的なスコーピングエラーです。

3) 成熟度マップ#

成熟度は一様ではありません。ポリシーフレームワークは成熟しており、ランタイムガードレールは本番環境で使用可能ですが、顧客が設定可能です。AI固有の監査カバレッジはまだ部分的です。

4) 要件チェックリスト#

§3 「レイヤーは準備できているか？」という問いへの回答
このセクションでは「私たちは準備できているか？」に答えます。各レイヤーごとにチェックリストを1つ作成し、すべてのBusiness AIスコーピング文書に組み込んでください。これらは実装タスクではなく、要件段階の項目です。

組織ガバナンスの前提条件#

ランタイムガードレール — Generative AI Hub オーケストレーション#

BTP 監査と可観測性#

データレジデンシーとデータ主権#

変更管理とライフサイクル#

5) 意思決定基準#

最初に問うべき3つの質問#

Q1. このAIユースケースは、どのような測定可能な害を防止または引き起こすのか、またその害に対して誰が責任を負うのか？

もし顧客が具体的な被害を説明できない場合 — 誤った請求書の転記、偏った候補者フィルタリング、規制当局に届く誤ったルーティングのチケット — 責任あるAIの取り組みは拠り所を失います。「AIを責任を持って活用したい」という曖昧な目標は、監査を通過するもののシステムを変革しないチェックリストに成り下がります。

Q2. データはどこに保存され、モデルはどこで実行され、どの管轄区域のルールが適用されるのか？

プロンプトについて話す前に、これに答えてください。EUデータを非EUのモデルエンドポイント経由で送信すること、規制対象の金融データをマスキングなしのLLM呼び出しで処理すること、PIIがスコープ設定なしでグラウンディングに到達すること——これらはすべて、データの保存場所またはプライバシーに関する判断です。EU AI Cloudとデータマスキングモジュールは、最初に活用すべき2つの手段です。

Q3. ポストAIプロセス（承認者、オーバーライドレビュー、監査証跡、開示コピー）の所有者は誰か、そしてその予算はあるのか？

責任あるAIは一度導入すれば終わりではありません。オーバーライド率は毎月のレビューが必要であり、開示文書は法務の承認が必要です。また、オーケストレーションは徐々にずれていきます。2年目の予算を持つ指名された責任者がいなければ、コントロールは静かに劣化していきます。

プロジェクトコンテキストによるドメイン選択#

ライセンスとコスト#

6) よくある障害#

これらは実装のバグではありません。これらは要件段階の失敗であり、本番稼働後に責任あるAIの効果を低下させる原因となります。そして、これらのすべてはスコーピングの段階で防止可能です。

障害 1: SAPのISO/IEC 42001認証を顧客側のコントロールとして扱うこと

このユースケースは、唯一のガバナンス証拠として「SAP認定済み」で承認されています。最初の監査では、顧客側のリスク分類、監督モデル、ユースケース登録簿が存在しないことが判明しました。SAPの認定はSAPを対象としています。顧客のユースケースには、顧客側のコントロールが必要です。

障害 2: Generative AI Hub オーケストレーションをバイパスする直接モデル呼び出し

開発者が「オーケストレーションはレイテンシを増加させる」という理由でモデルエンドポイントを直接呼び出しています。これにより、コンテンツフィルタリング、Prompt Shield、データマスキング、プロンプトレジストリのトレイルがすべて失われます。本番環境では、オーケストレーションのみを許可されたアクセスパスとして必須にしてください。

障害 3: エージェンティックフローやツール呼び出しフローにおけるプロンプトシールドの欠落

エージェントが顧客メールやチケットを読み取り、応答を振り分けます。悪意のある入力にプロンプトインジェクションのペイロードが埋め込まれており、エージェントがそれに基づいて動作します。このパターンに対応するためにPrompt Shieldが存在しますが、デフォルトでは有効になっていません。

障害 4: 開発者が独自に作成した開示文言が法務部門によるレビューを受けていない

「AIバナー」には定型文が同梱されています。本番稼働時の法務レビューで、EU AI Actの限定リスクに対して不十分であることが判明し、展開が遅延しました。AI開示情報はUXコピーではなく、法的コピーとして扱ってください。

障害 5: 監査ログのデフォルト保持期間が十分であると想定

90日間のデフォルトは本番環境グレードとして扱われます。4か月目にインシデントが発生した後、関連するイベントは消失します。拡張保持期間とSIEMへの取得パイプラインを備えたプレミアムエディションは、1週目に設計する必要があります。

障害 6: グラウンディング範囲がデフォルトで「すべての顧客文書」に設定されている

グラウンディングは「より多くのコンテキストが良い」という理由で広範なストアを対象としています。別の部門のユーザーが、自身のRBACでは非表示となるコンテンツを目にする可能性があります。特定のユーザー集団に対しては、最小限のコーパスを使用してください。

障害 7: オーバーライドレビューとプロンプト変更管理の責任者が明確でない

このユースケースは、上書きレートの月次レビューやプロンプトの変更記録がない状態で開始されます。12か月後、モデルの動作が変わりますが、誰もその理由を説明できません。事前に責任者を指名してください。

FAQ#

Q: Responsible AI は、SAP S/4HANA オンプレミスと S/4HANA Cloud で同じように機能しますか？

組織ガバナンスとEU AI Actの義務は同一です。これらはデプロイメントではなく、ユースケースに関するものです。ランタイムガードレールは形態が異なります。オーケストレーションは同じですが、オンプレミスからのネットワーク経路はカスタマー側の構築（Cloud Connectorまたは承認済みエグレス）となり、Jouleのオンプレミスでの利用可能性はより限定的です。

Q: Generative AI Hub オーケストレーションのライセンスはどのように取得され、予想外のコストはどこにありますか？

オーケストレーションは、AI Core上のGenAI Hubの一部であり、SAP AI Unitsを介して利用されます。2つの驚きがあります。(a) サードパーティのコンテンツフィルター呼び出しは別途従量課金される可能性があること。(b) AI Unitの超過料金は、契約単価の2倍から4倍になること。パイロット段階ではなく、2年目の規模でのフルオーケストレーションコストを予算化してください。

Q: 責任あるAIの観点から、AIユースケースをいつスコープから外すべきですか？

以下のいずれかに該当する場合：ユースケースがEU AI Actの高リスク区分に該当し、レビュー委員会が存在しない場合、必要なデータレジデンシーを満たすモデルと地域の組み合わせが存在しない場合、月次監視の責任者が指名されていない場合、プロジェクト期間内に法的部門が開示文書を承認できない場合、顧客が防止または引き起こされる害を明確に説明できない場合。「撤退」は現実的なコンサルタントの成果物です。

Q: 責任あるAI要件を、デリバリーへの引き継ぎ後も有効な形で文書化するにはどうすればよいですか？

五重奏として記述せよ：(1) EU AI法および顧客分類に基づくユースケース＋リスク分類、(2) 構成されたランタイムガードレール（フィルターチェーン、Prompt Shield、マスキング、グラウンディングスコープ）、(3) 監査保持期間と保存先、(4) 人間による監視モデルおよび指名された承認者、(5) オーバーライドと変更管理のための指名された責任者（2年目の予算を含む）。これら5つすべてが揃わなければ、要件は不完全である。

Q: JouleはSAPが運用しているから「デフォルトで責任がある」のか？

いいえ。JouleはEU AI Actの下で限定リスクに分類されるため、顧客はAIとの対話を開示し、ユースケースを文書化し、監査記録を保持する必要があります。「Joule単独ではEU AI Actに基づくガバナンス上の課題を解決しない」というのがSAP自身の見解です。

概要#

BTP上の責任あるAIは、単一の機能ではなく連鎖です。SAPは上位層（グローバルAI倫理ポリシー、ISO/IEC 42001、EU AI Actへの準拠）と、GenAI Hubオーケストレーションによるランタイム層（フィルタリング、Prompt Shield、マスキング、グラウンディング、バージョン管理されたプロンプトレジストリ）を提供します。お客様は、このプラットフォームを準拠したデプロイメントに変えるための制御機能（ユースケース登録、人間による監視モデル、AI開示文、プレミアム監査保存、オーバーライドレビュー、および2年目の予算を持つ指名された責任者）を提供します。コンサルタントの価値は、各リンクが属する場所を読み解き、すべてのリンクが整うまで出荷を拒否することにあります。

次に読むべきもの#