重要提示:Xinference的rerank响应结构将被格式化为Jina的rerank响应结构,使用方式和Jina的rerank相同。对于Dify等客户端用户:在配置时请选择 Jina AI 作为供应商类型,而不是Xinference,并使用Xinference支持的模型名称。简介:Xinference的重排序API与Jina AI的重排序API完全兼容。请参考Jina AI 重排序格式(Rerank)文档了解详细的使用方法、请求参数和响应格式。使用方法:使用Xinference重排序API时,只需将model参数设置为Xinference支持的重排序模型即可,其余参数和使用方式与Jina AI重排序API相同。
{"id":"chatcmpl-123","object":"chat.completion","created":1677652288,"choices":[{"index":0,"message":{"role":"assistant","content":"\n\nHello there, how may I assist you today?"},"finish_reason":"stop"}],"usage":{"prompt_tokens":9,"completion_tokens":12,"total_tokens":21}}