推理(inference)

通过更改单个代码行,用应用程序中的另一个LLM替换OpenAI GPT。 Xinference使您可以自由使用所需的LLM。借助Xinference,您有权使用任何开源语言模型,语音识别模型和多模式模型(无论是在云,本地人还是笔记本电脑上)进行推理。

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注

滚动至顶部