Xinference Rerank

Xinference Rerank xếp hạng tài liệu ứng viên theo mức độ liên quan bằng định dạng tương thích Jina AI. Khi gọi, chọn mô hình Xinference Rerank hiện khả dụng; các trường yêu cầu và cấu trúc phản hồi còn lại giống Jina Rerank. AGTCloud thống nhất chuyển phản hồi sang định dạng Jina AI.

Cấu hình nhà cung cấp trong máy khách như Dify

Trong máy khách như Dify yêu cầu chọn loại nhà cung cấp Rerank, hãy chọn Jina AI và điền ID mô hình Xinference Rerank hiện khả dụng.

POST/v1/rerank

Gọi mô hình xếp hạng lại Xinference bằng định dạng tương thích Jina AI. AGTCloud thống nhất chuyển phản hồi sang định dạng Jina AI; cách gọi, trường yêu cầu và cấu trúc phản hồi giống Jina Rerank.

Chọn mô hình Xinference Rerank khả dụng với API Key hiện tại. Truy vấn nên rõ ràng, cụ thể; tài liệu ứng viên nên đầy đủ ý nghĩa và không vượt quá giới hạn Token của mô hình được chọn. Nên xử lý nhiều tài liệu theo từng lô và dùng top_n để kiểm soát số lượng kết quả.

Xác thực

bearerAuth

Xác thựcBearer <token>

Sử dụng Bearer your-api-key trong Header Authorization.

Vị trí truyền: header

Nội dung yêu cầu

application/json

Tham số yêu cầu xếp hạng lại tài liệu Xinference.

Định nghĩa kiểu TypeScript

Sử dụng kiểu request body trong TypeScript.

model*string

ID mô hình Xinference Rerank khả dụng với API Key hiện tại.

Độ dài1 <= length

query*string

Văn bản truy vấn dùng để xếp hạng tài liệu ứng viên theo mức độ liên quan. Nên dùng cách diễn đạt rõ ràng, cụ thể và tránh truy vấn quá rộng hoặc mơ hồ.

Độ dài1 <= length

documents*array<string>

Danh sách tài liệu cần xếp hạng lại. Mỗi tài liệu nên đầy đủ, có ý nghĩa rõ ràng và không vượt quá giới hạn Token của mô hình được chọn. Nên xử lý nhiều tài liệu theo từng lô.

Số phần tử1 <= items

top_n?integer

Trả về N tài liệu liên quan nhất. Nếu không cung cấp, số lượng kết quả không bị giới hạn; đặt giá trị phù hợp giúp giảm truyền tải và xử lý kết quả không cần thiết.

Nội dung phản hồi

`application/json`

curl -X POST "https://example.com/v1/rerank" \  -H "Content-Type: application/json" \  -d '{    "model": "MODEL_ID",    "query": "Thủ đô của Hoa Kỳ là gì?",    "documents": [      "Thủ phủ của bang Nevada là Carson City.",      "Quần đảo Bắc Mariana là một nhóm đảo ở Thái Bình Dương, có thủ phủ là Saipan.",      "Washington, D.C. (còn được gọi là Washington hoặc D.C., tên chính thức là Đặc khu Columbia) là thủ đô của Hoa Kỳ.",      "Viết hoa trong ngữ pháp tiếng Anh là dùng chữ cái in hoa ở đầu từ. Cách viết hoa trong tiếng Anh khác với các ngôn ngữ khác.",      "Án tử hình đã tồn tại tại Hoa Kỳ từ trước khi nước này được thành lập. Tính đến năm 2017, án tử hình hợp pháp tại 30 trong số 50 bang."    ],    "top_n": 3  }'

{
  "results": [
    {
      "document": {
        "text": "Washington, D.C. (còn được gọi là Washington hoặc D.C., tên chính thức là Đặc khu Columbia) là thủ đô của Hoa Kỳ."
      },
      "index": 2,
      "relevance_score": 0.999071
    },
    {
      "document": {
        "text": "Thủ phủ của bang Nevada là Carson City."
      },
      "index": 0,
      "relevance_score": 0.32713068
    },
    {
      "document": {
        "text": "Quần đảo Bắc Mariana là một nhóm đảo ở Thái Bình Dương, có thủ phủ là Saipan."
      },
      "index": 1,
      "relevance_score": 0.1867867
    }
  ],
  "usage": {
    "prompt_tokens": 815,
    "completion_tokens": 0,
    "total_tokens": 815
  }
}

Xác thực

Nội dung yêu cầu

Nội dung phản hồi

200application/json

400

401

429

500

`application/json`