什麼是 LLM Gateway?
LiteScribe LLM Gateway 為轉錄文字分析提供對領先大語言模型的統一訪問。你無需管理多個 AI 提供商的帳戶和 API,而是通過一個介面無縫使用。它基於 AssemblyAI 成熟的技術,把你的請求路由到合適的模型,並在後台透明地處理所有技術細節。
- 通過一個介面使用 OpenAI、Anthropic 和 Google 的模型
- 無需管理任何 API 金鑰
- 透明的模型路由和選擇
- Token 用量追蹤和最佳化
- 自動故障切換和可靠性保障
工作原理
當你使用 AI 聊天或請求對轉錄文字進行 AI 分析時,LLM Gateway 會把請求路由到合適的模型。你可以根據需要選擇模型配置,閘道器會自動處理身份驗證、速率限制和響應格式。
- 選擇模型配置(快速、深入或高階)
- 你的轉錄內容會被安全地傳送給 AI 模型
- 響應經過格式化後返回到你的聊天中
- 追蹤 Token 用量,保持透明
- 隨時切換模型
可用模型
LLM Gateway 支援多種模型,滿足不同的分析需求。
- GPT-4o 和 GPT-4o-mini,適合多用途分析
- Claude 3.5 Sonnet,理解細膩入微
- Gemini Pro,響應快速高效
- 針對不同場景的專用模型
優勢
LLM Gateway 簡化了 AI 的使用,同時提供企業級的可靠性。
- 無需管理多個 API 金鑰
- 所有模型使用一致的介面
- 內建速率限制和錯誤處理
- 以高性價比使用高階模型
- 定期更新,接入最新發布的模型
FAQ
常見問題
不需要!使用 LLM Gateway 無需 API 金鑰,也無需在 AI 提供商處開設帳戶。LiteScribe 負責所有 API 訪問和費用,所有方案均免費包含。
LLM Gateway 提供 GPT-4o、GPT-4o-mini、Claude 3.5 Sonnet 和 Gemini Pro 等領先模型。具體可用的模型可能因你的方案和當前可用情況而有所不同。在 AI 聊天中選擇配置時,可以看到所有可用模型。
你的轉錄資料會被安全地傳送給 AI 模型處理。我們使用行業標準的加密方式,並遵循資料隱私最佳實踐。轉錄內容僅用於生成回答,AI 提供商除處理所必需外不會儲存這些內容。
模型配置針對不同用途最佳化 AI 體驗。「快速」為簡單問題提供迅速的回答,「深入」為大多數場景提供均衡的分析,「高階」為複雜查詢和多份轉錄文字洞察提供深度分析。每種配置可能使用不同的模型或設定,以滿足你的需求。
相關功能
相關整合
OpenAI
Use GPT-4o to summarize and analyze transcripts, included free on every plan.
Anthropic
Use Claude for detailed transcript analysis, included free on every plan.
Google Gemini
Use Google's Gemini models for transcript analysis, included free on every plan.
LiteScribe Gateway
Built-in LLM Gateway with no API key required.