源生云
  • 简体中文
    • English
LiteLLM

LLM Gateway 可在 100 多个 LLM 中提供模型访问、回退和支出跟踪。全部采用 OpenAI 格式。

| AI 智能体/聊天/知识检索

Slider
Slider
Slider
概述

LLM Gateway 可在 100 多个 LLM 中提供模型访问、回退和支出跟踪。全部采用 OpenAI 格式。

    详情

    LiteLLM 是一种轻量级的语言模型,专为高效处理自然语言任务而设计。它结合了先进的深度学习技术,能够在资源有限的环境中运行,适用于移动设备和边缘计算。LiteLLM 通过优化模型架构和参数量,确保在保持良好性能的同时,显著降低计算和内存需求。该模型支持多种自然语言处理任务,如文本生成、情感分析和问答系统,适合开发者和研究人员在各种应用场景中使用。LiteLLM 的目标是提供快速、灵活且易于集成的解决方案。

    系统
    Linux
    开源许可
    MIT
    支持语言
    英文
    简体中文
    编程语言
    Python
    相关组件
    场景方案
    适用人员