JinJin48
JinJin48
SAP Consultant | BTP · S/4HANA · US Global Rollout
· 18 min read

カバー: SAP AI Core & Generative AI Hub — LLMの選択とデプロイ

TL;DR
  • AI Coreはランタイム、Generative AI Hubはモデルアクセス層、Orchestrationはテンプレート化、グラウンディング、マスキング、コンテンツフィルタリングを追加するリクエストパイプラインです。生のモデルを直接デプロイすることはほとんどなく、モデルを使用するオーケストレーション設定をデプロイします。
  • 基盤モデルパス(Claude、GPT、Gemini、Llama、Granite、Mistral、さらにSAP RPT-1およびABAP-1)の成熟度は高いです。BYOMとグラウンディングは本番環境対応ですが、運用負荷が高くなります。基盤モデルで制約を満たせない場合にのみ、これらに予算を割り当ててください。
  • 考え方の転換:モデルの選択は簡単な部分です。難しいのは、Extended-planエンタイトルメント、AI Core APIのみで実行可能なリソースグループのプロビジョニング、そして誰も管理したがらないトークンバジェットです。モデルを比較する前に、これらを正しく設定してください。

本記事の位置づけ

IDタイトル
BTP-D01Business AI:概要と機能マップ
BTP-D02Joule:アーキテクチャと活用方法
BTP-D03AI CoreとGenAI Hub:アーキテクチャと活用方法(本記事)
BTP-D04Document AI:アーキテクチャと活用方法
BTP-D05Responsible AI:原則と実装
BTP-D06Business AI:ユースケースと意思決定パターン

参考資料

リソースURL
SAP AI Core サービスガイド (PDF)help.sap.com →
SAP AI Core の GenAI Hubhelp.sap.com →
Generative AI Hub のモデルhelp.sap.com →
SAP AI Launchpad ガイド (PDF)help.sap.com →

1) AI Core と GenAI Hub:アーキテクチャとユースケース

4つのAI Core機能を示すハブ&スポーク図

これらの名前を分離することは、あらゆるAI Coreプロジェクトにおける最初の作業です。

機能説明主な利用者
SAP AI CoreBTP上でモデルのデプロイやパイプラインをホストするKubernetesランタイムプラットフォームエンジニア
Generative AI HubサードパーティLLM(Claude、GPT、Gemini、Llama、Granite、Mistral)およびSAP基盤モデル(RPT-1、ABAP-1)のカタログとアクセスレイヤーAI開発者
Orchestration Serviceリクエストパイプライン:テンプレート化 → グラウンディング → マスキング → LLM呼び出し → コンテンツフィルタリングアプリケーション開発者
SAP AI Launchpadモデルカタログ、プロンプト実験、モデル比較実行のためのWeb UI機能コンサルタント

これらは代替品ではありません。

2) S/4HANA への接続方法

AI Core が BTP および Cloud SDK を介して S/4HANA に接続する方法を示すスタック

+------------------------------------------------------------+
|     Application code (CAP, ABAP Cloud, custom Cloud Foundry)|
+----------------------+-------------------------------------+
                       |  SAP Cloud SDK for AI (Java / JS / Py)
+----------------------v-------------------------------------+
|                  SAP BTP (Cloud Foundry / Kyma)            |
|                                                            |
|   +-------------------------+    +----------------------+  |
|   |  SAP AI Core (Extended) |<-->|  Generative AI Hub   |  |
|   |  - Orchestration depl.  |    |  Model catalog       |  |
|   |  - Custom (BYOM) depl.  |    |  Routes via SAP-     |  |
|   |  - Resource groups      |    |  controlled contracts|  |
|   +-----------+-------------+    +----------+-----------+  |
|               |                              |             |
|               v                              v             |
|   +-------------------------+    +----------------------+  |
|   |  Object Store (S3)      |    | Anthropic / OpenAI / |  |
|   |  for grounding RAG      |    | Google / Meta / IBM /|  |
|   +-------------------------+    | Mistral endpoints    |  |
|                                  +----------------------+  |
+------------------------------------------------------------+
                       ^
                       |  Destinations (with IAS principal propagation)
+----------------------+-------------------------------------+
| S/4HANA Cloud / Public Edition / on-prem (read-only OData) |
+------------------------------------------------------------+

重要ポイント: AI Core は BTP 上の汎用 AI ランタイムであり、S/4HANA 内の機能ではありません。アプリケーションがオーケストレーションデプロイメント URL を呼び出し、S/4HANA のデータは、コード(または S3 ドキュメントストア上のグラウンディング RAG)によってプロンプトに挿入された場合にのみ含まれます。 認証、宛先設定、PII マスキングはコンサルタントの問題であり、プラットフォームチームの問題ではありません。

3) 成熟度マップ

成熟度スペクトラム:本番対応から前提条件付き対応まで

機能成熟度備考
オーケストレーションによる基盤モデル✅ 本番利用可能Claude Sonnet 4 / Opus 4.6、GPT-5 / 5 Nano、Gemini 2.5 Pro、Llama、Granite、MistralはすべてGA。リージョンごとの提供状況は統一されていないため、顧客のリージョンで確認が必要。
ドキュメントグラウンディング(S3上のRAG)✅ 本番利用可能オーケストレーションリクエスト内でのベクトル検索。非構造化コーパスに適しているが、スキーマを認識するS/4HANAクエリには、依然として個別の検索ロジックが必要。
データマスキング(DPI)✅ 本番利用可能呼び出しごとにオプトイン。サードパーティプロバイダーにPIIを含むプロンプトを送信する場合は必須。
コンテンツフィルタリング(Llama Guard)⚠️ 前提条件ありで利用可能英語向けにチューニング済み。非英語環境でのデプロイメントでは、誤検知/未検知の動作について追加のレビューが必要。
BYOM(Ollama / vLLM / カスタムDocker)⚠️ 前提条件ありで利用可能コストモデルはトークン単位ではなく、コンピュート時間単位。データの保存場所や動作制御が要求される場合にのみ使用すること。
AI Launchpad モデル比較✅ 本番利用可能調達プロセスにおいて防御可能な成果物:同一プロンプト、複数モデル、レイテンシ/トークン/品質の横並び比較が可能。

4) 要件チェックリスト

AI Core要件チェックリストの6つの意思決定領域

6つのサブテーブル(意思決定領域ごとに1つ)。調達の話に入る前の要件段階で、これらをお客様と一緒に確認してください。

ファウンデーションモデルの選択

ベンダー間のファウンデーションモデル選択比較

項目重要性の理由
顧客のBTPリージョンが、候補モデルの「モデルとシナリオ」可用性マトリックスに含まれていることを確認するGPT-5、Claude 4.6、Gemini 2.5 Proは全リージョンで均一に利用可能ではなく、EU在住の顧客は米国在住の顧客と同じカタログを参照できない可能性がある
Anthropic、OpenAI、Google、Meta、IBM、Mistralから選択し、コスト以外の理由を文書化する「Claudeを選んだ」というだけでは説明責任を果たせない。「AI Launchpadのサイドバイサイド実行において、Claudeが法的テキストの要約でGPT-5を上回った」という説明が必要
ユースケースに汎用LLMではなくSAP基盤モデル(SAP-ABAP-1、SAP-RPT-1)が必要かどうかを特定するSAP-ABAP-1は、ABAP Cloudのリファクタリングにおいて汎用LLMを凌駕し、かつコストも大幅に低い
選択したモデルについて、Help Portalで非推奨の発表が保留されていないことを確認するモデルはローテーションされる。非推奨までの期間が6ヶ月のモデルを基盤に構築すると、本番稼働前に再検証を余儀なくされる
オーケストレーション設定でマルチモデルフォールバックを計画するモデルはダウンする。オーケストレーションはフォールバックチェーンをサポートしているため、本番環境では少なくとも1つのセカンダリモデルを追加する

エンタイトルメントとプロビジョニング

AI Core Extendedプランのエンタイトルメントとプロビジョニングのチェックリスト

項目重要性の理由
ターゲットサブアカウントに割り当てられた Cloud Foundry Runtime のエンタイトルメントAI Core サービスインスタンスの実行に必要
AI Core エンタイトルメントを Extended プランに設定し、クォータを 1 ユニット以上に設定デフォルトのクォータはゼロ。Standard プランには Generative AI Hub が含まれない。「Hub が表示されない」というチケットの原因第 1 位
BTP ブースター実行後、サービスインスタンスを Standard から Extended に更新ブースターは Standard のみをプロビジョニングするため、手動でのアップグレードが必要
AI Core API 経由でプロビジョニングされたリソースグループ(BTP カクピット経由ではない)リソースグループは分離境界。BTP カクピットでは作成不可。Runbook に記録すること
AI Launchpad サブスクリプション + OAuth2 クライアント認証情報用のサービスキーLaunchpad は Hub の GUI であり、サービスキーはすべてのオーケストレーション呼び出しを認証する

オーケストレーション設定

項目重要性
ユースケースごとに使用するモジュール(テンプレート化/グラウンディング/マスキング/フィルタリング)を決定する各モジュールはレイテンシ(グラウンディングの場合はトークン)のコストが発生する。不要なものはオフにする
プロンプトテンプレートを名前付き・バージョン管理されたアーティファクトとして定義するアプリコード内のインラインプロンプトではA/Bテストや監査が不可能になる
グラウンディングについては、検索ソース、ベクターストア設定、チャンキング戦略、鮮度SLAを文書化するこれらの詳細なしに「グラウンディングを使用している」と述べるだけでは、プロジェクトは本番稼働前に3回再構築することになる
ユースケースごとに入力・出力のコンテンツフィルターしきい値を設定するデフォルトのしきい値は控えめに設定されている。カスタマーサービスボットは、社内HRツールよりも寛容な出力フィルタリングが必要
プロンプト+コンプリーションペアのログ記録と監査保存期間を定義するEU AI Actの高リスクシナリオで必須。スキーマ変更なしに後から追加することはできない

データレジデンシー、プライバシー、およびコンプライアンス

項目重要性
SAP管理のプロバイダー契約により、プロンプトが第三者によるトレーニングに使用されないことを確認するすべてのプロジェクトで顧客から繰り返し質問される事項。Trust Centerの参照を一度文書化して再利用する
プロンプトに含まれる可能性のあるすべてのPIIフィールドを特定するサンプルプロンプトではなくデータモデルからマスキングリストを構築すること。見落としがあれば情報漏洩につながる
マスキングモジュール向けにSAP Data Privacy Integration(DPI)を設定するマスキングは呼び出しごとにオプトイン方式。1つのエンドポイントで有効化を忘れると、警告ではなく重大な指摘事項となる
ユースケースにおけるISO/IEC 42001およびEU AI Actへの準拠を検証するSAPはAI Core / Launchpad / Jouleで42001を取得済み。顧客アプリケーションはプラットフォームの準拠を継承するが、アプリケーションの準拠は継承しない
プロンプトログのデータ削除パスを定義する消去権(Right-to-erasure)リクエストに対応可能である必要がある。生のPIIを含むログは問題となる

原価見積もりとメータリング

コストの仕組み:トークンからキャパシティユニット、CPEAへ

項目重要性
月間の入出力トークン量を見積もるコストを左右するのはリクエスト数ではなくトークン数です。300入力 / 1500出力 × 10万リクエスト = 1億8000万トークンとなり、ほとんどの調達資料が想定する値を大幅に上回ります
SAP AI Core コスト計算ツールを実際的なプロンプトサイズで使用するデフォルトの見積もりは過小評価されがちです。予算承認前に3つの実プロンプトで調整してください
現在の容量単位換算レートについては SAP Note 3437766 を参照するレートは変動します。アーキテクチャ文書に当該Noteを引用することで、数値の監査可能性を確保します
ワークロードが基盤モデル(トークン課金)かBYOM(時間単位のコンピュート課金)かを判断する基盤モデルではコンピュートとベースラインが免除されますが、BYOMでは免除されません。両者を同一の予算項目に混在させると想定外の事態を招きます
既存のCPEA / クラウドクレジットに対してCU予算を割り当てる生成AIは他のBTPサービスと同じCPEAプールで計上されます。生成AI専用のサブスクリプションはありません

BYOM(ファウンデーションモデルが適さない場合のみ)

項目重要性の理由
基盤モデルが不十分である具体的な理由を文書化する理由が「自社で制御したいから」だけなら、答えは「ノー」です。コスト差が大きすぎます
推論サーバー(Ollama、vLLM、llama.cpp、LocalAI、HuggingFace)を選択するそれぞれ運用特性が異なります。vLLMはスループット重視の本番環境でのデフォルトです
AI Coreがプル可能なレジストリにDockerイメージを用意し、/v1/... プレフィックス付きのエンドポイントを提供するKServe InferenceService 統合の必須要件です
GPUコンピューティングとベースラインコストを計画する(ワークロードあたり月730時間上限)BYOMはトークンモデルではなく、予測AIの時間単位モデルに従います。A100上の7Bモデルでも、Claude Haikuよりも100万トークンあたりのコストが高くなります
モデルカードと評価用ランブックを定義する「Llama-3-70Bを一度デプロイした」というだけでは、再評価のサイクルがないため、時間とともに陳腐化します

5) 意思決定基準

最初に問うべき3つの質問

LLMプロジェクトを始める前に問うべき3つの質問

Q1. このLLMは、具体的にどのような測定可能で反復可能なタスクを実行し、成功はどのように測定するのでしょうか?

「プロジェクトでAIを使いたい」というのは答えになりません。請求書明細の分類、契約条項の抽出、ABAPリファクタリング、チケットトリアージのうち1つのワークフローを選び、モデル選択の前に精度または人間への引き継ぎ指標を定義してください。

Q2. プロンプト境界を越えるデータは何か、また法的にどこへ送信できるのか?

公開製品情報は、従業員の報酬や顧客契約とは非常に異なる制約があります。データクラスを特定し、データレジデンシーとマスキングの影響を適用してください。この質問は、多くの場合、初日からマスキングとグラウンディングとのオーケストレーションを強制することになります。

Q3. AI Core CUの予算は誰が所有しており、その予測に署名済みですか?

CPEAダッシュボードでは、生成AIの消費量は見えなくなるまで見えないものです。予測は「GPTは安い」といった逸話ではなく、実際のプロンプトサイズに基づく必要があります。予測に誰も署名しなければ、そのプロジェクトはまだプロジェクトではありません。

プロジェクトコンテキストによるドメイン選択

プロジェクトコンテキストから推奨される開始機能マトリクスへ

プロジェクトコンテキスト推奨される開始機能
ABAP Cloud リファクタリングまたはコードレビューアシスタントSAP-ABAP-1(直接デプロイ経由)
S/4HANA 財務データの表形式予測SAP-RPT-1(直接デプロイ経由)
PDFや契約書の文書要約・抽出Claude Sonnet 4 または GPT-5(S3グラウンディングを用いたオーケストレーション経由)
厳格なレイテンシー制約のあるカスタマーサービスチャットGPT-5 Nano または Claude Haiku(オーケストレーション経由)
ポリシードキュメントに基づく社内HR/財務Q&AGranite 13b.chat または Mistral(グラウンディングを用いたオーケストレーション経由。低コストで品質は十分)
データレジデンシー要件によりオンプレミス推論が必要なユースケースBYOM with vLLM — Q2が文書化された後にのみ実施
明確な課題がまだ特定されていない停止。Q1に戻ってください。

ライセンスとコスト

パスライセンスモデル確認すべき重要質問
Orchestration経由の基盤モデルトークンベース、CPEA/クラウドクレジットに対するキャパシティユニットで課金「3つの実際のプロンプトに対してトークンを調整しましたか?」
SAP基盤モデル(RPT-1、ABAP-1)同じトークンベースのメータリング「このユースケースはSAP固有モデルに適していますか?」
BYOM(カスタムコンテナ)時間単位のコンピュート+ストレージ+ベースライン(月730時間上限)「基盤モデルパスが不十分な理由は文書化されていますか?」
AI Launchpad / 比較Extendedプランに含まれ、消費されたトークンは通常通り課金「モデル選択前にサイドバイサイド比較を実施しましたか?」

6) よくある障害

AI Coreプロジェクトにおける6つの一般的な障害パターン

障害 1: 標準プランを購入したが、Generative AI Hub が含まれていないことに気づく。

最初のプロジェクトウィークの挫折。Standardは予測AI向け。Generative AI HubはExtendedのみで、BTPブースターはExtendedを自動選択しない。開始前に、エンタイトルメント画面で"extended"と表示され、ゼロでない割り当て量があることを確認すること。

障害 2: AI Core API を介したリソースグループのプロビジョニングをスキップする。

リソースグループはAI Coreインスタンス内の分離境界であり、BTPコックピットでは作成できません。AI Core APIが唯一の作成手段です。プロビジョニングをクリック操作で進めようとしたチームは、デフォルトグループ内でデプロイメントがスタックしてしまいます。

障害 3: ドキュメントコーパスのライフサイクルを管理せずにグラウンディングを構築する。

RAGはデモでは魔法のように見えます。しかし本番環境では、コーパスの劣化という障害モードが発生します。ドキュメントが変更され、所有者が去り、ベクターが古くなります。リフレッシュSLAとコーパスごとのコンテンツ所有者がなければ、グラウンディングの精度は静かに低下していきます。

障害 4: リクエスト数に基づくトークン予測であり、トークン量に基づいていない。

「月間10万コール」という表現だけではコストは不明です。300入力/1500出力 = 1,000コールあたり180万トークン。トークン単位で予測する際は、入力と出力の合計で見てください。出力は単位あたり2~5倍のコストがかかるためです。

失敗 5: モデル選択をアーキテクチャ上の決定として扱うこと。

モデルは最も議論されながら、最も影響の少ない判断です。オーケストレーション設計(テンプレート化、グラウンディング、マスキング、フィルタリング、フォールバック)がシステムの運用可能性を決定します。モデルはその設計内の調整可能なパラメータに過ぎません。モデルを最初に選んだチームは、後で再構築することになります。

障害 6: 1つのエンドポイントでデータマスキングを忘れる。

マスキングはオーケストレーション呼び出しごとにオプトイン方式です。開発者が動作中の設定をコピーし、新しいエンドポイントでマスキングを有効にするのを忘れた場合、生のPIIがサードパーティのLLMに送信されます。これは警告ではなく、コンプライアンス上の指摘事項です。「データクラスが必要とする箇所でマスキングを有効化すること」を、明示的なコードレビューのゲートとして追加してください。

FAQ

Q: オンプレミスのS/4HANAからGenerative AI Hubを使用できますか?

はい、しかしAIロジックはオンプレミスシステムではなくBTP上に存在します。パターン:オンプレミスのS/4HANAがODataを公開し、BTPアプリケーションがそれを読み取り(プリンシパル伝播)、オーケストレーションデプロイメントを呼び出し、結果を返します。2026年時点で「オンプレミス向けAI Core」は計画されていません。

Q: Generative AI Hub のライセンスはどのようになっていますか?

AI Core Extendedプランでは、トークン使用量がCapacity Unitsに計上され、既存のCPEA/クラウドクレジットに対して課金されます。AI Launchpadが含まれています。別途Gen AIサブスクリプションは不要です。BYOMワークロードでは、トークンではなくpredictive-AIコンピュート価格が使用されます。

Q: LLM選定の判断を監査に耐えうる形で文書化するにはどうすればよいですか?

AI Launchpadの比較ワークフローを使用して、3~5件の候補モデルに対して、それぞれ最低3つの代表的なプロンプトで評価を実施します。レイテンシ、トークン使用量、および定性的な所見を記録します。選定結果はADRに記録し、比較実行、地域別モデル可用性スナップショット、および決定時点のCUレートに関するSAP Note 3437766を参照します。

Q: プロンプトと補完はサードパーティモデルのトレーニングに使用されますか?

いいえ。SAPは、顧客データを学習に使用することを禁止するエンタープライズ契約のもと、Anthropic、OpenAI、Googleなどと連携しています。SAPは、AI Core、Launchpad、Jouleを対象とするISO/IEC 42001を取得しており、顧客から必ず聞かれる質問に対しては、Trust Centerのリファレンスを引用してください。

Q: AI Core と Joule の関係は?

Jouleはエンドユーザー向けアシスタントであり、AI Coreはその基盤となる開発者プラットフォームです。Joule Studioは、Hubを呼び出すスキルでJouleを拡張します。「エンドユーザー向けチャットボット」→まずJoule。「アプリケーション内のカスタムAI」→AI Core。代替手段ではなく、補完関係にあります。

概要

AI Coreプロジェクトのコンサルタント向け要点まとめ

AI Core と Generative AI Hub は2026年には本番環境に十分成熟しますが、プロジェクトの失敗はモデルの品質ではなく、セットアップ、ガバナンス、予算に集中しています。Extended プランとリソースグループを適切に設定し、オーケストレーションを先に設計してからモデルを選択し、調達前にトークンベースの予算に関する議論を強制してください。カタログは充実しており、SDK は堅牢で、監査の実績は確かです。コンサルタントに求められるのは、API に手を伸ばす前に3つの質問をする規律です。

次に読むべきもの

L1. 全体像L2. 機能領域
BTP-001: BTPとはL2-A. 統合
BTP-002: BTPアーキテクチャL2-B. アプリケーション開発
BTP-003: BTP機能マップL2-C. データ&アナリティクス
BTP-004: デプロイメントモデルL2-D. AI — BTP-D03 AI Core & GenAI Hub(本記事)
BTP-005: ライセンスモデルL2-E. 基盤サービス
BTP-006: クリーンコア戦略L2-F. アーキテクチャ&運用