LLM Gatewayとは？
LiteScribeのLLM Gatewayは、文字起こしの分析のために、主要な大規模言語モデルへの統一されたアクセスを提供します。複数のAIプロバイダーのアカウントやAPIを管理する代わりに、1つの画面からスムーズにアクセスできます。AssemblyAIの実績ある技術を基盤とし、ゲートウェイがリクエストを適切なモデルに振り分け、技術的な複雑さをすべて裏側で処理します。
- OpenAI、Anthropic、Googleのモデルに1つの画面からアクセス
- 通常の利用ではAPIキーの管理は不要
- わかりやすいモデルの振り分けと選択
- トークン使用量の追跡と最適化
- 自動フォールバックなどの信頼性機能
仕組み
AIチャットを使ったり、文字起こしについてAIのインサイトを求めたりすると、LLM Gatewayがリクエストを適切なモデルに振り分けます。ニーズに合わせてモデルプロファイルを選べ、認証、レート制限、応答の整形はゲートウェイが自動で処理します。
- モデルプロファイル（高速、入念、高度）を選択
- 文字起こしの内容を安全にAIモデルへ送信
- 応答を整形してチャットに返信
- 透明性のためにトークン使用量を記録
- いつでもモデルを切り替え可能
利用できるモデル
LLM Gatewayは、さまざまな分析ニーズに合わせて多様なモデルに対応しています。
- 幅広い分析に使えるGPT-4oとGPT-4o-mini
- 微妙なニュアンスを理解するClaude 3.5 Sonnet
- 高速で効率的な応答のGemini Pro
- 用途に応じた専用モデル
メリット
LLM Gatewayは、エンタープライズ水準の信頼性を備えながら、AIへのアクセスをシンプルにします。
- 複数のAPIキーを管理する必要なし
- すべてのモデルで一貫した操作画面
- レート制限とエラー処理を内蔵
- 高性能なモデルをコストを抑えて利用
- 最新モデルのリリースに合わせて定期的に更新
FAQ
よくある質問
いいえ。LLM Gatewayは、ご自身のAPIキーやAIプロバイダーのアカウントがなくても動作します。APIへのアクセスと費用はすべてLiteScribeが負担し、すべてのプランに無料で含まれています。
LLM Gatewayでは、GPT-4o、GPT-4o-mini、Claude 3.5 Sonnet、Gemini Proなどの主要なモデルを利用できます。利用できる具体的なモデルは、プランや現在の提供状況によって異なる場合があります。AIチャットでプロファイルを選ぶ際に、利用可能なすべてのモデルを確認できます。
文字起こしのデータは、処理のために安全にAIモデルへ送信されます。業界標準の暗号化を使用し、データプライバシーのベストプラクティスに従っています。文字起こしの内容は応答の生成にのみ使われ、処理に必要な範囲を超えてAIプロバイダーに保存されることはありません。
モデルプロファイルは、用途に合わせてAIの使い心地を最適化します。「高速」は簡単な質問にすばやく答え、「入念」はほとんどの用途に適したバランスの良い分析を行い、「高度」は複雑な質問や複数の文字起こしにまたがるインサイトのための深い分析を提供します。各プロファイルは、ニーズに合わせて異なるモデルや設定を使う場合があります。
関連機能
関連する連携
OpenAI
Use GPT-4o to summarize and analyze transcripts, included free on every plan.
Anthropic
Use Claude for detailed transcript analysis, included free on every plan.
Google Gemini
Use Google's Gemini models for transcript analysis, included free on every plan.
LiteScribe Gateway
Built-in LLM Gateway with no API key required.