--- title: Portkey 調査レポート tool_name: Portkey tool_reading: ポートキー category: AIゲートウェイ developer: Portkey, Inc / Palo Alto Networks official_site: https://portkey.ai/ date: '2026-06-22' last_updated: '2026-06-22' tags: - 大規模言語モデル - AIエージェント基盤 - AI - API - オープンソース - SaaS - 開発者ツール description: AIアプリケーションの構築、監視、スケーリングを支援する、プロンプト管理やガードレール機能を備えたオープンソースベースのエンタープライズAIゲートウェイ。 quick_summary: has_free_plan: true is_oss: true starting_price: 無料 target_users: - 開発者 - AIエンジニア - スタートアップから大企業 latest_highlight: Palo Alto Networksによる買収完了を発表、エンタープライズ向けのMCP Gateway機能を強化 update_frequency: 高 evaluation: score: 85 base_score: 70 plus_points: - point: 5 reason: 250以上のLLMに対応し、ルーティングやフォールバック、キャッシュ機能が充実 - point: 5 reason: プロンプト管理、ガードレール、可観測性などプロダクション運用に必要な機能が単一プラットフォームで完結 - point: 4 reason: OSSベースでありながら、SOC2やHIPAAなどエンタープライズ向けのコンプライアンス要件に適合 - point: 4 reason: 最近注目されるMCP(Model Context Protocol)サーバーの統合管理とガバナンス機能(MCP Gateway)を提供 minus_points: - point: -3 reason: 日本語UIやドキュメントが完全にローカライズされているわけではない summary: AIアプリやエージェントのプロダクション運用に向けた機能が網羅された強力なゲートウェイであり、特にエンタープライズでのLLMOps基盤として非常に優れている。 links: github: https://github.com/Portkey-AI/gateway deepwiki: https://deepwiki.com/Portkey-AI/gateway documentation: https://portkey.ai/docs relationships: related_tools: - LiteLLM - Cloudflare --- # **Portkey 調査レポート** ## **1. 基本情報** * **ツール名**: Portkey * **ツールの読み方**: ポートキー * **開発元**: Portkey, Inc (Palo Alto Networksが買収) * **公式サイト**: [https://portkey.ai/](https://portkey.ai/) * **関連リンク**: * GitHub: [https://github.com/Portkey-AI/gateway](https://github.com/Portkey-AI/gateway) * ドキュメント: [https://portkey.ai/docs](https://portkey.ai/docs) * **カテゴリ**: LLMプラットフォーム * **概要**: Portkeyは、250以上のAIモデルへの統合アクセス(AI Gateway)、ログ・トレース(可観測性)、プロンプト管理、ガードレール機能などを提供する、エンタープライズ向けのAIアプリケーション構築・運用(LLMOps)プラットフォームである。 ## **2. 目的と主な利用シーン** * **解決する課題**: * 複数のLLMプロバイダー(OpenAI, Anthropic, Geminiなど)のAPI仕様の差異による統合の手間。 * プロダクション環境におけるLLMのレイテンシ、コスト、エラーの可視化と制御の不足。 * AIの出力におけるハルシネーションや機密情報(PII)漏洩のリスク。 * チーム内でのプロンプトのバージョン管理やテストプロセスの属人化。 * MCPサーバーの社内展開時における認証やアクセス制御のガバナンス欠如。 * **想定利用者**: AIアプリケーション開発者、MLエンジニア、プロダクトマネージャー、FinOpsチーム * **利用シーン**: * 複数のLLMを切り替えたりフォールバックさせながら、安定したAIアプリケーションを運用する。 * 本番環境で実行されているLLMのリクエスト、レスポンス、コスト、レイテンシをリアルタイムで監視・分析する。 * AIエージェントのツール呼び出しや推論プロセスをトレースし、デバッグを行う。 * 機密データのマスキングや、不適切な出力のブロックをリアルタイムに実行する(ガードレール)。 * チームでプロンプトのテンプレートを管理し、複数のモデルで並行してABテストを行う。 ## **3. 主要機能** * **AI Gateway**: 250以上のLLMに対する単一のAPIインターフェース。スマートルーティング、フォールバック、自動リトライ、ロードバランシング機能を提供。 * **Observability (可観測性)**: リクエストとレスポンスの完全なロギング、OpenTelemetry互換のトレース、40以上のメトリクス分析機能。 * **Guardrails (ガードレール)**: PIIの秘匿化、JSONバリデーション、プロンプトインジェクションのブロックなど、60以上の事前定義ルールやパートナーによるカスタムルールを適用可能。 * **Prompt Management**: 1,600以上のモデルでプロンプトを横断テストできるプレイグラウンド、バージョン管理、A/Bテスト機能。 * **MCP Gateway**: Model Context Protocol (MCP) サーバーの統合管理。認証の一元化、RBAC(ロールベースアクセス制御)、ツール呼び出しの可観測性を提供。 * **Semantic Caching**: 類似のクエリに対してキャッシュから応答を返すことで、レイテンシとAPIコストを削減。 * **Model Catalog**: 組織全体で利用可能なLLMを管理・プロビジョニングし、チームごとの予算やアクセス権を設定可能。 ## **4. 開始手順・セットアップ** * **前提条件**: * Node.js と npm (ローカル環境でGatewayを動かす場合) * Python または JavaScript / TypeScript 環境(SDKを使用する場合) * 各種LLMプロバイダーのAPIキー * **インストール/導入**: ```bash # Python SDKのインストール pip install -qU portkey-ai # または、ローカルでゲートウェイを起動する場合 npx @portkey-ai/gateway ``` * **初期設定**: * PortkeyダッシュボードでAPIキー(Portkey API Key)を生成する。 * **クイックスタート** (Pythonの場合): ```python from portkey_ai import Portkey client = Portkey( api_key="YOUR_PORTKEY_API_KEY", provider="openai", Authorization="sk-***" # プロバイダーのAPIキー ) response = client.chat.completions.create( messages=[{"role": "user", "content": "What's the weather like?"}], model="gpt-4o-mini" ) print(response.choices[0].message.content) ``` ## **5. 特徴・強み (Pros)** * **OSSベースの透過性とスケーラビリティ**: コア機能であるAI Gatewayはオープンソースで公開されており、1日100億トークン以上を処理する実績があり高速(レイテンシ増分は20〜40ms程度)。 * **フルスタックなLLMOps機能**: 単なるリクエストのルーティングだけでなく、プロンプト管理、ガードレール、コスト管理まで、プロダクション移行に必要な機能が全て揃っている。 * **エージェントフレームワークとの強力な統合**: LangChain, LlamaIndex, CrewAI, AutoGenなど主要なフレームワークとネイティブに連携し、エージェントの推論過程を可視化できる。 * **MCP対応の先駆性**: いち早くMCP Gatewayを提供し、エンタープライズがMCPサーバーを安全に社内展開するためのガバナンスと可観測性の課題を解決している。 * **豊富なセキュリティ認証**: SOC2 Type 2、ISO27001、GDPR、HIPAAに準拠し、機密データをPortkey側に保存しないPrivacy Modeも利用可能。 ## **6. 弱み・注意点 (Cons)** * **多機能ゆえの学習コスト**: ゲートウェイの設定(ルーティングルールやガードレール)が豊富である反面、適切に構成するにはプラットフォーム全体の概念を理解する必要がある。 * **日本語対応の不完全さ**: 公式サイトやドキュメントは主に英語であり、日本語でのローカルサポートに関する明確な記載は少ない。 * **フル機能の利用にはクラウド版・エンタープライズ版が必要**: AI Gateway機能はオープンソースでセルフホスト可能だが、プロンプト管理や高度なガバナンス機能(SSO、RBACなど)を利用するにはSaaS版またはエンタープライズプランの導入が必要。 ## **7. 料金プラン** | プラン名 | 料金 | 主な特徴 | |---------|------|---------| | **Developer (Free Forever)** | 無料 | 月間1万ログ記録、3日間のログ保持、基本的なAI Gateway、可観測性、プロンプト管理(3テンプレート)、コミュニティサポート。POCや個人開発向け。 | | **Production** | $49/月 | 月間10万ログ記録(超過時は10万件ごとに$9)、30日間のログ保持、高度なGateway(ロードバランシング等)、アラート、ガードレール、無制限のプロンプトテンプレート、基本的なRBAC。 | | **Enterprise** | カスタム価格 | 月間1000万ログ以上、カスタム保持期間、カスタムガードレールフック、高度なガバナンス(SSO、詳細な予算管理)、プライベートクラウドデプロイ・VPCホスティング対応、専用サポート。 | | **Open Source** | 無料 | AI Gateway機能(ルーティング、リトライ、フォールバック、キャッシュ等)のローカルホスト・セルフホストが可能。 | * **課金体系**: 主に記録されるログの件数に基づく(Gatewayの通過リクエスト自体は無制限で、記録されるログにのみ制限がかかる)。 * **無料トライアル**: Developerプランとして永続無料で利用可能。 ## **8. 導入実績・事例** * **導入企業**: QA.tech, Qoala, Ario, Haptik, Figg などのスタートアップからFortune 500企業まで。 * **導入事例**: * **Qoala**: 25以上のGenAIユースケースで月間3000万ポリシーを管理。プロンプト管理、ユースケース別のコスト追跡、可視性の確保に活用。 * **Ario**: GitHubワークフローでのAI利用において、テスト結果のキャッシュ機能を活用することで、変更のないテストの再実行を防ぎ、数千ドルのコスト削減を実現。 * **対象業界**: テクノロジー企業、金融、製薬(Fortune 500 Pharmaの事例あり)など、セキュリティ要件の厳しい業界でも導入されている。 ## **9. サポート体制** * **ドキュメント**: [公式ドキュメント](https://portkey.ai/docs)、チュートリアル、クックブック(具体的なユースケース実装例)が充実。 * **コミュニティ**: Discordコミュニティ(2,000人以上)や、GitHub Discussionsを通じたサポート。 * **公式サポート**: メールサポート(`support@portkey.ai`)。Enterpriseプランでは専用のオンボーディングと優先サポート、Slackチャンネルなどを提供。 ## **10. エコシステムと連携** ### **10.1 API・外部サービス連携** * **API**: 統合API(OpenAI互換)および管理用REST API(Admin API)を提供。 * **外部サービス連携**: Datadog, Splunk, New Relic(メトリクス・ログのエクスポート)、Okta/Entra(SSO)、AWS/Azure/GCP(プライベートデプロイやモデルホスティング)。Patronus, Pillar, Pangeaなどのガードレールパートナーとの連携。 ### **10.2 技術スタックとの相性** | 技術スタック | 相性 | メリット・推奨理由 | 懸念点・注意点 | |:---|:---:|:---|:---| | **Python (AI SDK)** | ◎ | 公式SDK(`portkey-ai`)が提供されており、OpenAI SDKのドロップインリプレイスとして機能。 | 特になし | | **Node.js / JS** | ◎ | 公式SDKが提供されている。Vercel AI SDKとの統合方法もドキュメント化されている。 | 特になし | | **LangChain / LlamaIndex** | ◎ | 各フレームワーク用の公式インテグレーションやコールバックハンドラが存在し、トレースが容易。 | フレームワーク側のアップデートへの追従が必要 | | **CrewAI / AutoGen / Phidata** | ◎ | エージェントフレームワークと統合され、エージェントの内部ステップの可視化に対応。 | 特になし | ## **11. セキュリティとコンプライアンス** * **認証**: OAuth 2.1、APIトークン。EnterpriseプランではSAML/OIDCプロバイダー(Okta等)を通じたSSOに対応。ロールベースアクセス制御(RBAC)をサポート。 * **データ管理**: データはAES-256で暗号化(転送中・保存時)。ユーザーのプロンプト/レスポンス内容をPortkey側に一切保存しない「Privacy Mode」を利用可能。PII(個人特定情報)の自動秘匿化(Redaction)機能を提供。 * **準拠規格**: SOC2 Type 2、ISO27001、GDPR、HIPAA、CCPA。 ## **12. 操作性 (UI/UX) と学習コスト** * **UI/UX**: ダッシュボードはモダンでクリーンな設計。ログの絞り込み(フィルター)、トレースの可視化(ウォーターフォール表示)、プロンプトのプレイグラウンドなど、開発者が直感的に操作しやすいUI。 * **学習コスト**: AI Gateway単体の利用であれば、既存のOpenAI SDKのベースURLやヘッダーを変更するだけで済むため非常に容易(3行のコード変更)。一方、高度なルーティングルール(JSONによる設定)や独自のガードレール構築を行うには、ドキュメントの熟読が必要。 ## **13. ベストプラクティス** * **効果的な活用法 (Modern Practices)**: * 単一のプロバイダーへの依存を防ぐため、常にフォールバック先(例: OpenAI -> Anthropic)を設定し、可用性を高める。 * 開発、ステージング、本番環境ごとにVirtual Keyを発行し、それぞれの予算制限(Budgeting)とレートリミットを設定してコストを制御する(FinOps)。 * キャッシュ機能を有効にして、頻繁に実行されるCI/CD環境でのテストコード評価や定型的な処理のレイテンシとコストを下げる。 * **陥りやすい罠 (Antipatterns)**: * 厳格すぎるガードレールを本番環境にいきなり適用し、正当なリクエストまでブロックしてしまうこと。まずは「モニタリングのみ(ブロックしない)」モードでテストすることが推奨される。 ## **14. ユーザーの声(レビュー分析)** * **調査対象**: Product Hunt, 導入事例記事, G2 * **総合評価**: 概ね好評(Product Hunt等でTop-rated)。AIエンジニアやアーキテクトからの支持が厚い。 * **ポジティブな評価**: * 「サインアップ後すぐに価値を実感できた。全てのLLMを1箇所にまとめ、詳細なログが得られることで、レイテンシや出力異常のトラブルシューティングが飛躍的に早くなった。」 * 「LLMの価格やバージョン変更が激しい中、モデル管理を抽象化してGatewayに任せられるのが良い。」 * 「キャッシュ機能のROIが明確。テスト時の不要な再実行を防ぎ、大幅なコストダウンにつながった。」 * **ネガティブな評価 / 改善要望**: * ガードレールやルーティングなどの高度な設定をGUIだけでなく、より簡単にコード管理(IaC)したいという要望(現在はTerraform Providerが提供され始めている)。 * **特徴的なユースケース**: * エージェント型のワークフローにおいて、複数ステップにわたるLLM呼び出し(Tool Use含む)のボトルネック特定や、プロンプトの微調整にTrace機能が活用されている。 ## **15. 直近半年のアップデート情報** * **2026-xx-xx**: Palo Alto Networksによる買収が完了し、セキュリティ機能(PANW AIRSプラグインとの統合など)やエンタープライズ展開の強化が発表された。 * **2025-xx-xx**: MCP Gatewayを発表。エンタープライズ環境でのModel Context Protocolサーバーの認証・アクセス制御・可観測性を一元化。 * **2025-xx-xx**: 「LLMs in Prod 2025」レポートを公開。Portkeyプラットフォームで処理された2兆トークン以上のデータに基づくインサイトを提供。 * **2024-10-xx**: DeepSeek AIやInference.netなどの新しいモデルプロバイダーをGatewayに追加サポート。 * **2024-09-xx**: OpenAI o1-preview および o1-mini モデルへの対応を完了。 (出典: [Portkey 公式ブログ・Changelog](https://portkey.ai/blog)) ## **16. 類似ツールとの比較** ### **16.1 機能比較表 (星取表)** | 機能カテゴリ | 機能項目 | Portkey | LiteLLM | Cloudflare AI Gateway | |:---:|:---|:---:|:---:|:---:| | **基本機能** | マルチモデルルーティング | ◎
250+モデル、詳細な条件設定 | ◎
100+モデル、シンプルなPython設計 | ◯
主要プロバイダーに対応 | | **運用管理** | ログ・可観測性 | ◎
リッチなUI、詳細なトレース表示 | ◯
ダッシュボードあり | ◯
CFダッシュボード統合 | | **セキュリティ** | ガードレール機能 | ◎
PII削除、外部パートナー連携豊富 | △
基本的なフィルタリング | ×
非対応 | | **開発支援** | プロンプト管理・A/Bテスト | ◎
プレイグラウンド、バージョン管理完備 | △
主眼ではない | ×
非対応 | | **新技術** | MCPサーバー管理 | ◎
MCP Gatewayによる高度な統合管理 | ×
非対応 | ×
非対応 | ### **16.2 詳細比較** | ツール名 | 特徴 | 強み | 弱み | 選択肢となるケース | |---------|------|------|------|------------------| | **Portkey** | フルスタックLLMOpsプラットフォーム。Gateway機能に加えて、セキュリティやプロンプト管理に強い。 | 豊富な機能(ガードレール、プロンプト管理、MCP管理)と美しいUI、エンタープライズ向けの堅牢なコンプライアンス対応。 | フル機能を活用するにはSaaSやエンタープライズプランの導入が必要。 | 本格的なAIエージェントの運用や、組織横断でLLMガバナンスを効かせたい企業。 | | **LiteLLM** | シンプルさを追求したプロキシサーバーおよびPython SDK。 | 軽量でOSSとしてのコミュニティの勢いがあり、簡単にプロキシ環境を構築できる。 | GUIの機能や、ガードレール・プロンプト管理などの周辺機能ではPortkeyに劣る。 | シンプルにAPIの互換性を吸収し、コストやルーティングの基本機能だけを迅速に導入したい場合。 | | **Cloudflare** | Cloudflare Workersのネットワーク上に展開されるエッジAIゲートウェイ。 | 既存のCloudflareエコシステム(Workersなど)との親和性が極めて高く、エッジでの低遅延処理が可能。 | 単機能(ルーティング、ログ、キャッシュ)に留まっており、プロンプト管理やガードレール機能がない。 | 既にCloudflareをインフラとして利用しており、追加コストなしで基本的なGateway機能を導入したい場合。 | ## **17. 総評** * **総合的な評価**: Portkeyは単なるAIプロキシの枠を超え、LLMアプリケーションや自律型AIエージェントをプロダクション環境で安定運用するための包括的なプラットフォームへと進化している。可観測性からプロンプト管理、ガードレールまでを一元管理できるUXの高さに加え、昨今急拡大するMCPサーバーへのガバナンス機能(MCP Gateway)をいち早く提供している点は非常に高く評価できる。Palo Alto Networksの買収により、今後エンタープライズセキュリティ分野での信頼性がさらに高まると予想される。 * **推奨されるチームやプロジェクト**: * 複数のLLMを使い分けながら、AIエージェントなどの複雑な推論パイプラインを構築している開発チーム。 * コスト最適化(FinOps)やコンプライアンス(機密情報保護など)の厳格な要件が求められるエンタープライズ環境。 * **選択時のポイント**: * 導入の手軽さだけを求めるならLiteLLM等の選択肢もあるが、「運用フェーズでのトラブルシューティングの容易さ」「チームでのプロンプト開発効率」「本番環境での安全な出力制御(ガードレール)」に課題を感じているのであれば、Portkeyは最も有力な選択肢となる。