OpenAI、Anthropic、Googleなど複数のプロバイダーをフォールバック付きでルーティング。透明な課金とプラットフォームレベルの可観測性を提供。
過去15分の実際のトラフィックに基づく
ワークフロー
4ステップでゼロから本番環境へ。インフラ管理不要、ベンダーロックインなし。
Model catalog
同じOpenAI互換APIから必要なモデルを呼び出し。ルーティング、フォールバック、課金を一元管理。
モデルを選び、最初のリクエストを送信。ルーティング、フォールバック、課金はゲートウェイにお任せ。
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: 'dt-key-live-xxxx', // DeepToken API Key
baseURL: 'https://api.deeptoken.app/v1',
});
const completion = await openai.chat.completions.create({
model: 'auto-reasoning', // Health-aware route
messages: [{ role: 'user', content: 'Optimize my routing...' }],
fallback: ['claude-3-5-sonnet', 'gpt-4o'], // Error resilience
});DeepToken マルチプロバイダ AI 推論ゲートウェイについて知っておくべきこと。